Anthropic представляет автоматический режим для Claude Code: баланс между безопасностью и автономностью

Суть

Компания Anthropic представила автоматический режим (auto mode) для своего инструмента разработки Claude Code. Это решение призвано избавить программистов от необходимости вручную одобрять каждое действие искусственного интеллекта, сохраняя при этом высокий уровень безопасности. Вместо человека решения о допустимости команд теперь принимает отдельная нейросетевая модель.

Контекст

При работе с ИИ-агентами, которые могут выполнять код и изменять файлы, возникает серьезная дилемма. По умолчанию системы запрашивают разрешение на каждый шаг. Это безопасно, но быстро приводит к «усталости от подтверждений» (approval fatigue) — разработчики начинают нажимать кнопку согласия не глядя.

Ранее существовало два крайних подхода к решению этой проблемы. Первый — использование изолированной среды (sandbox), что безопасно, но требует сложной настройки и ломается при необходимости доступа к сети. Второй — полное отключение проверок, что крайне опасно. Автоматический режим от Anthropic предлагает золотую середину, где рутинные проверки делегируются ИИ.

Детали

Новая архитектура безопасности состоит из двух уровней защиты:

На уровне ввода работает серверный зонд. Он сканирует результаты работы инструментов (чтение файлов, ответы веб-запросов) на предмет внедрения вредоносных инструкций (prompt injection) до того, как они попадут в контекст агента. Если обнаружена подозрительная активность, система предупреждает агента, заставляя его игнорировать манипуляции и фокусироваться на изначальной задаче пользователя.