NVIDIA и LangChain продемонстрировали, что оптимизация среды выполнения вокруг открытой модели Nemotron 3 Ultra позволяет достичь производительности закрытых систем при десятикратно меньших затратах.
3 мин
Компании NVIDIA и LangChain представили результаты совместной работы, которые ставят под сомнение необходимость использования исключительно закрытых коммерческих моделей для решения сложных бизнес-задач. Открытая модель NVIDIA Nemotron 3 Ultra, работающая в связке с оптимизированной средой LangChain Deep Agents, достигла паритета с ведущими закрытыми системами в бенчмарках автономных агентов. При этом стоимость логического вывода (inference) оказалась в десять раз ниже. Самое важное в этой новости — метод достижения результата: разработчики не дообучали саму модель, а сфокусировались исключительно на инженерии окружающей ее среды.
Долгое время индустрия искусственного интеллекта развивалась по пути наращивания параметров моделей и их бесконечного дообучения (fine-tuning) под конкретные задачи. Однако с переходом от простых чат-ботов к автономным ИИ-агентам, способным выполнять действия в корпоративных системах, фокус начал смещаться.
Агент — это не просто большая языковая модель (LLM). Это комплексная система, включающая саму модель, инструменты, к которым она имеет доступ, механизмы памяти и среду выполнения, которая координирует эти элементы. Платформа LangChain, имеющая более 200 миллионов загрузок в месяц, является стандартом де-факто для оркестрации таких систем. Их сотрудничество с NVIDIA показывает, как можно выжать максимум из открытых технологий.
Into the Omniverse: Three Workflows for Improving Vision AI Agent Accuracy With Synthetic Data and Fine-Tuning
Команда LangChain проанализировала результаты тестирования Nemotron 3 Ultra в публичном бенчмарке Deep Agents. Изучив логи выполнения задач (execution traces), инженеры выявили узкие места, где система теряла баллы.
Вместо того чтобы отправлять модель на переобучение, они оптимизировали так называемую «обвязку» (harness) — программную среду вокруг модели. Были скорректированы системные подсказки (system prompts), описания доступных инструментов и промежуточное программное обеспечение (middleware).
Результатом этой работы стал открытый эталонный проект NVIDIA NemoClaw. Он включает в себя оптимизированный код LangChain Deep Agents для Nemotron 3 Ultra и безопасную среду выполнения OpenShell, которая гарантирует, что действия агента не нанесут вреда корпоративным системам. Доступ к настроенной среде уже открыт через платформы Baseten, Crusoe Cloud, DeepInfra и другие.
Изображение из источника
Этот прецедент знаменует важный сдвиг в парадигме разработки корпоративного ИИ. Он доказывает, что оптимизация системы вокруг модели — интеграция инструментов, управление памятью и поведение при оценке результатов — дает кумулятивный эффект, сопоставимый с созданием новой, более мощной нейросети.
Для бизнеса это означает обретение полного контроля. Использование открытого стека (открытая модель, открытая среда выполнения и безопасный рантайм) позволяет компаниям развертывать агентов на собственной инфраструктуре или в частном облаке. Это критически важно для банков, медицинских учреждений и крупных корпораций, где требования к безопасности данных и управлению рисками (governance) не позволяют передавать информацию во внешние закрытые API.
Снижение стоимости логического вывода в десять раз открывает возможности для непрерывного тестирования и масштабного развертывания специализированных агентов. Компании вроде Abridge, Amdocs и Box уже внедряют такие решения в свои платформы.
В ближайшем будущем мы, вероятно, увидим снижение ажиотажа вокруг «гонки параметров» базовых моделей. Внимание разработчиков и инвесторов переключится на агентные фреймворки и инструменты для инженерии среды.
По мере того как ИИ будет переходить от ответов на вопросы к выполнению реальных действий внутри ключевых бизнес-систем, спрос на проверяемые, контролируемые и настраиваемые открытые стеки будет только расти. Подход, продемонстрированный NVIDIA и LangChain, может стать новым стандартом для корпоративного внедрения искусственного интеллекта, где владение технологией от начала и до конца является главным конкурентным преимуществом.
How Open Models Are Driving AI Research
NVIDIA and Partners Build in America, for America
NVIDIA BioNeMo Agent Toolkit Brings Accelerated AI to Life Sciences Researchers in Claude Science
Оптимизация программной среды вокруг открытой ИИ-модели позволяет достичь эффективности лучших закрытых систем без необходимости переобучения нейросети.
Главный потенциал развития ИИ сейчас кроется не в создании более крупных языковых моделей, а в грамотной инженерии систем, инструментов и памяти, которые эти модели используют.
