Новая модель Anthropic объемом 10 триллионов параметров продемонстрировала эмерджентные способности к поиску уязвимостей. Это меняет подход к безопасности и создает структурное преимущество на рынке.
3 мин
Компания Anthropic представила свою новую разработку — систему Claude Mythos. Это событие примечательно не только масштабом самой модели, но и тем, как именно она проявила свои возможности в области кибербезопасности.
Во время тестирования модель смогла обнаружить уязвимость 27-летней давности в одной из самых защищенных операционных систем, а также 16-летний дефект в программном обеспечении для работы с видео. Традиционные инструменты анализа проверяли этот код миллионы раз, но не находили скрытых ошибок.
Самое важное в этой новости кроется в отчете команды безопасности (red team) Anthropic. Разработчики не обучали Mythos целенаправленно искать уязвимости нулевого дня (zero-day). Эти выдающиеся навыки проявились совершенно самостоятельно.
В индустрии искусственного интеллекта это называется эмерджентными свойствами — когда при достижении определенного масштаба система начинает демонстрировать способности, которые в нее изначально не закладывали. В случае с Mythos глубокий анализ безопасности стал побочным продуктом (collateral output) общего улучшения логики, понимания архитектуры кода и автономности. Те же алгоритмы, которые делают большие языковые модели (LLM) эффективными при написании и исправлении программ, делают их невероятно результативными при поиске брешей.
Масштаб новой разработки впечатляет: около 10 триллионов параметров, что примерно в шесть раз превышает размер любой предыдущей передовой системы. Именно этот беспрецедентный скачок в объеме вычислений привел к качественному изменению способностей.
Это возвращает нас к главному вопросу о масштабировании искусственного интеллекта. Мы до сих пор не знаем, какие еще скрытые возможности дремлют в архитектурах подобного размера. Однако мы уже можем прогнозировать, как это отразится на технологическом бизнесе.
Доступ к передовым моделям становится определяющим фактором успеха. Anthropic развернула Mythos в соответствии со строгими стандартами безопасности ASL-3. Этот протокол применяется к системам, которые существенно повышают риск катастрофического неправомерного использования. Доступ в рамках закрытой программы Project Glasswing получили лишь немногим более сорока организаций. Остальному рынку придется ждать.
Сейчас эта программа ориентирована преимущественно на защиту и укрепление инфраструктуры, а не на агрессивное получение коммерческой выгоды. Но это разделение не будет вечным. В какой-то момент те же вычислительные мощности, которые сейчас защищают программное обеспечение, начнут его проектировать с нуля.
Представьте ситуацию: крупная корпорация сканирует свои внутренние сети на наличие неизвестных уязвимостей, которые конкуренты физически не могут найти своими силами. Разрыв между теми, у кого есть доступ к подобным инструментам, и теми, у кого его нет, перестает быть просто разницей в наборе функций продукта. Это превращается в структурное преимущество, которое накапливается с каждым днем.
Происходит фундаментальная инверсия в подходе к безопасности. Любая система, которая не защищена инструментами такого уровня анализа, теперь по умолчанию считается уязвимой. Ошибки, скрывавшиеся десятилетиями, теперь обнаруживаются за часы, но только теми, у кого есть соответствующие технологии.
Изменится ценообразование и распределение инженерных бюджетов. Вопрос больше не в маржинальности перепродажи вычислительных мощностей видеокарт (GPU). Вопрос в том, сколько стоит защита вашего продукта от угроз, которые не видит ни один традиционный сканер кода.
Значительная часть ресурсов, выделяемых на разработку программного обеспечения, будет перенаправлена на его укрепление. Каждая компания, выпускающая цифровые продукты, столкнется с необходимостью проверять их на этом новом уровне сложности, потому что заказчики начнут требовать стандартов корпоративного уровня, заданных системами вроде Mythos.
Искусственный интеллект трансформирует каждую сферу, к которой прикасается: центры обработки данных, финансовые рынки, а теперь и базовые принципы защиты информации. Время покажет, какие еще индустрии претерпят подобные структурные изменения.
Новая модель Anthropic обрела навыки поиска сложнейших уязвимостей самостоятельно, как побочный эффект масштабирования, что фундаментально меняет расстановку сил на рынке кибербезопасности.
Навыки глубокого анализа безопасности не программировались целенаправленно — они стали эмерджентным свойством общего улучшения логики и автономности нейросети при увеличении ее масштаба.
