AI Governance
Определение
Система управления AI: политики, процессы и контроли для ответственного использования искусственного интеллекта.
Простое объяснение
Это правила и контроль за тем, чтобы AI использовался правильно и безопасно.
Подробнее
AI Governance включает: оценку рисков, мониторинг моделей, соответствие регуляциям (EU AI Act), этические принципы.
Критически важно для enterprise-компаний для избежания репутационных и юридических рисков.
Связанные термины
Jailbreak
Jailbreak — техники обхода встроенных ограничений AI-модели для получения запрещённых ответов или нежелательного поведения.
Model Card
Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.
Grounding
Grounding — привязка генерации AI к фактическим данным, документам или внешним источникам для повышения точности и уменьшения галлюцинаций.
Сверхразум
Сверхразум (ASI) — гипотетический искусственный интеллект, превосходящий человеческий во всех областях: науке, творчестве, социальных навыках.