Компания объединяет свои исследовательские команды в единый институт, чтобы прогнозировать экономические, правовые и социальные последствия внедрения мощного искусственного интеллекта.
3 мин
Компания Anthropic объявила о создании Института Anthropic (The Anthropic Institute). Это новая масштабная инициатива, направленная на изучение и решение наиболее серьезных вызовов, которые мощный искусственный интеллект поставит перед человечеством. Главная задача структуры — использовать внутренние данные и экспертизу разработчиков для информирования общества, исследователей и правительств в период перехода к миру с высокоразвитыми ИИ-системами.
За пять лет существования Anthropic прогресс в индустрии двигался экспоненциально. На выпуск первой коммерческой модели у компании ушло два года. Еще через три года появились системы, способные находить критические уязвимости в кибербезопасности, выполнять сложную интеллектуальную работу и даже ускорять саму разработку ИИ.
Руководство компании убеждено, что развитие технологий ускоряется благодаря накапливающимся улучшениям. Генеральный директор Дарио Амодеи ранее отмечал, что появление чрезвычайно мощного ИИ может произойти гораздо раньше, чем ожидает большинство экспертов. Если этот прогноз верен, обществу в кратчайшие сроки предстоит ответить на сложные вопросы: как изменятся экономики, какие угрозы многократно возрастут и как определить ценности, которыми должны руководствоваться автономные системы.
Новый институт возглавит сооснователь компании Джек Кларк, который перейдет на должность руководителя по общественному благу (Head of Public Benefit). В состав института войдут междисциплинарные специалисты: инженеры машинного обучения, экономисты и социологи.
Структура объединит и расширит три существующие исследовательские команды Anthropic:
К институту уже присоединились ведущие эксперты индустрии. Мэтт Ботвиник (ранее старший директор по исследованиям в Google DeepMind) возглавит направление ИИ и верховенства права. Антон Коринек (профессор экономики Университета Вирджинии) займется изучением трансформации экономической активности. Зои Хитциг, ранее работавшая в OpenAI, свяжет экономические исследования с процессами обучения моделей.
Параллельно Anthropic расширяет подразделение государственной политики под руководством Сары Хек, планируя открыть офис в Вашингтоне.
Создание подобного института подчеркивает уникальное положение разработчиков передовых моделей (frontier AI). Они обладают эксклюзивным доступом к данным о том, как формируются технологии завтрашнего дня, задолго до их публичного релиза.
Институционализация исследований показывает, что Anthropic стремится занять позицию главного интеллектуального лидера в вопросах регулирования ИИ. Компания рассматривает безопасность и социальные последствия не как побочный продукт разработки, а как самостоятельное и критически важное направление. Обещание сделать институт «улицей с двусторонним движением» — то есть прислушиваться к работникам и отраслям, которым грозит автоматизация, — говорит о попытке выстроить доверительный диалог с обществом.
В ближайшие годы грань между технологическими лабораториями и аналитическими центрами (think tanks) будет стираться. Разработчики ИИ вынуждены брать на себя функции прогнозирования социальных кризисов, так как классические государственные институты не успевают за темпами развития технологий. Успех инициативы Anthropic во многом определит, сможет ли индустрия подготовить правовую и экономическую базу для внедрения сильного ИИ, или же технологический скачок приведет к неконтролируемым социальным потрясениям.
Anthropic переходит от точечных исследований безопасности к системному изучению влияния ИИ на экономику, право и общество через создание полноценного научно-исследовательского института.
Разработчики передовых ИИ-моделей осознают неизбежность скорого появления сильного ИИ и начинают трансформироваться из чисто технологических компаний в гибридные аналитические центры, чтобы самостоятельно формировать повестку будущего регулирования.
