Приветствую. Сегодняшний день в мире искусственного интеллекта отмечен переходом от гонки вычислительных мощностей к глубокому осмыслению того, как человечество будет сосуществовать с новыми технологиями.
Компания OpenAI официально объявила о переходе к третьей фазе своего развития. Ключевая идея этого этапа состоит в том, чтобы сделать сильный искусственный интеллект (AGI) доступным каждому человеку, избежав монополизации власти корпорациями. В их амбициозном плане до 2028 года предполагается, что значительную долю научных изысканий будут вести сами автоматизированные ИИ-исследователи. Это важно, поскольку технология перестает быть просто инструментом и становится полноправным участником научного прогресса. Стоит отметить контекст: публикация этого манифеста происходит на фоне подготовки компании к выходу на биржу, что делает призыв к созданию международного контролирующего органа сильным сигналом для регуляторов.
В то время как OpenAI проектирует будущее с персональными ИИ для каждого, их коллеги задумываются о том, как эти сущности будут взаимодействовать. Google DeepMind выделяет 10 миллионов долларов на изучение безопасности многоагентных систем. До сих пор индустрия фокусировалась на тестировании одиночных моделей. Однако главная уязвимость завтрашнего дня кроется в эмерджентном поведении — непредсказуемых системных реакциях, возникающих при массовом общении автономных программ между собой. Фонд направит средства на создание безопасных песочниц и инфраструктуры надзора до августа 2026 года.
Мы наблюдаем этап концептуального взросления отрасли. Фокус внимания закономерно смещается с создания изолированного интеллекта на архитектуру безопасного мира, в котором миллиарды алгоритмов будут непрерывно координировать свои действия.