Сверхразум
Определение
Сверхразум (ASI) — гипотетический искусственный интеллект, превосходящий человеческий во всех областях: науке, творчестве, социальных навыках.
Простое объяснение
Это AI будущего, который будет умнее любого человека во всём — пока такого не существует, но учёные думают, как сделать его безопасным.
Подробнее
Концепции сверхразума:
- Narrow AI — текущий уровень (специализированный)
- AGI — AI уровня человека
- ASI — превосходящий человека
Вопросы безопасности ASI — центральная тема AI alignment.
Связанные термины
AI Governance
Система управления AI: политики, процессы и контроли для ответственного использования искусственного интеллекта.
Watermarking
Watermarking — технология встраивания скрытых меток в AI-генерированный контент для последующей идентификации его происхождения.
Model Collapse
Model Collapse — деградация качества AI-модели при обучении на данных, сгенерированных другими AI-моделями.
Jailbreak
Jailbreak — техники обхода встроенных ограничений AI-модели для получения запрещённых ответов или нежелательного поведения.