Платформа LangSmith запустила изолированные среды для ИИ-агентов. Это решает проблему безопасного запуска сгенерированного нейросетями кода без риска для инфраструктуры разработчика.
2 мин
Платформа LangSmith объявила о запуске изолированных сред, или песочниц (sandboxes), для безопасного выполнения кода. Функция пока доступна в режиме закрытого тестирования (private preview). Это решение позволяет разработчикам создавать защищенные виртуальные пространства для ИИ-агентов с помощью вызова всего одной строки кода.
Автономные агенты становятся по-настоящему полезными, когда получают возможность писать и запускать программный код. Это позволяет им анализировать данные, обращаться к внешним сервисам (API) и создавать приложения с нуля. Однако позволять большой языковой модели (LLM) выполнять произвольные команды в вашей основной инфраструктуре — это серьезный риск в области безопасности.
Исторически традиционные контейнеры создавались для работы с заранее известным и проверенным кодом. Код, сгенерированный агентом, принципиально иной: он непредсказуем и изначально не вызывает доверия. Если обычный веб-сервер выполняет понятный набор операций, то ИИ-агент может попытаться сделать что угодно, включая запуск вредоносных команд или случайное удаление системных файлов.
Самостоятельное создание безопасной среды для выполнения кода требует от команд значительных инженерных усилий. Разработчикам приходится разворачивать контейнеры, жестко ограничивать сетевой доступ, настраивать передачу данных обратно агенту и уничтожать среду после завершения работы. Кроме того, необходимо контролировать потребление ресурсов, иначе агент может уйти в бесконечный цикл и быстро исчерпать мощности процессора и памяти сервера.
LangSmith решает эту проблему, предлагая готовые песочницы на базе виртуальных микромашин (microVM). Это обеспечивает надежную изоляцию на уровне ядра операционной системы, а не просто на уровне пространств имен Linux. Доступ к внешним сервисам осуществляется через специальный прокси-сервер аутентификации, поэтому секретные ключи и пароли вообще не попадают внутрь виртуальной среды выполнения.
С технической точки зрения новый инструмент предлагает гибкие настройки. Разработчики могут использовать собственные образы Docker, создавать шаблоны конфигураций и объединять песочницы в пулы для мгновенного запуска без задержек (cold starts). Система поддерживает длительные сессии, что позволяет агентам выполнять задачи, требующие часов вычислительного времени, сохраняя при этом контекст, установленные пакеты и файлы между отдельными запросами.
Для индустрии это означает существенное снижение порога входа в разработку сложных агентных систем. Командам больше не нужно тратить месяцы на создание собственной инфраструктуры безопасности и оркестрации. Инструмент легко интегрируется как с экосистемой LangChain, так и с любыми другими фреймворками через официальные клиенты для языков Python и JavaScript.
В ближайшем будущем разработчики планируют добавить общие тома данных (shared volumes) для обмена информацией между несколькими агентами и авторизацию бинарных файлов. Последняя функция позволит жестко ограничивать, какие именно программы могут быть запущены внутри песочницы, подобно корпоративным политикам безопасности на рабочих компьютерах. Также ожидается появление полного трассирования выполнения, что превратит песочницу в надежный инструмент для детального аудита всех действий искусственного интеллекта.
LangSmith выпустил инструмент для создания изолированных виртуальных сред, позволяющий ИИ-агентам безопасно выполнять написанный ими код без угрозы для основной инфраструктуры.
Главная сложность автономных ИИ-агентов сегодня заключается не в генерации правильного кода, а в создании безопасной и масштабируемой инфраструктуры для его непредсказуемого выполнения.
