Создание единых стандартов для ИИ: зачем OpenAI и Linux Foundation запускают Appia

Развитие передовых систем искусственного интеллекта (ИИ) требует не только наращивания вычислительных мощностей, но и создания надежной системы контроля. OpenAI объявила об участии в создании фонда Appia Foundation, который будет работать на базе Linux Foundation. Главная цель инициативы — разработка открытых и модульных спецификаций для оценки безопасности ИИ на всех этапах его создания и использования.

Сегодня индустрия сталкивается с системной проблемой. Мощные языковые модели (LLM) предлагают огромные возможности для науки, медицины и кибербезопасности, но одновременно несут существенные риски. При этом у государств, бизнеса и независимых аудиторов до сих пор нет единого технического языка для оценки этих рисков. Каждая компания тестирует свои продукты по собственным внутренним метрикам, что затрудняет объективное сравнение и подрывает доверие общества к технологиям.

Фонд Appia призван решить эту задачу, создав недостающий уровень доверия (trust layer). Организация займется переводом абстрактных международных стандартов и общих нормативных требований в практические, измеримые критерии оценки. Это означает, что индустрия получит конкретные инструменты и метрики, с помощью которых третьи стороны смогут проверять соответствие моделей, инфраструктуры и приложений единым требованиям безопасности.

Такой подход особенно важен для производственной цепочки ИИ. Когда разработчик создает приложение на базе стороннего программного интерфейса (API), он должен быть уверен в безопасности базовой модели. Единые стандарты обеспечат появление четких и проверяемых доказательств безопасности, которые можно будет передавать между разными организациями.

Этот шаг является частью более широкой стратегии OpenAI по демократическому управлению передовым ИИ (frontier AI). Ранее компания опубликовала план, призывающий к созданию устойчивой нормативной базы и усилению Центра стандартов и инноваций в сфере ИИ (CAISI). Однако риски передовых моделей не ограничиваются границами одного государства. Национальные институты должны работать в связке, обмениваясь данными об уязвимостях и координируя реакцию на инциденты.