Hallucination
Определение
Галлюцинация AI — генерация языковой моделью информации, которая выглядит правдоподобно, но является фактически неверной или выдуманной.
Простое объяснение
Это когда AI уверенно рассказывает что-то, что на самом деле выдумал. Как друг, который «точно помнит» то, чего не было.
Подробнее
Причины галлюцинаций:
- Модель оптимизирована на правдоподобность, а не истинность
- Отсутствие информации в обучающих данных
- Смешение похожих фактов
Методы борьбы: RAG (поиск по базе знаний), fact-checking, цепочки рассуждений.
Связанные термины
Mistral
Mistral AI — французская компания, создающая высокоэффективные open-source языковые модели, конкурирующие с закрытыми решениями.
Text-to-Speech
Text-to-Speech (TTS) — технология преобразования текста в естественно звучащую речь с помощью нейронных сетей.
Языковая модель
Языковая модель — AI-система, обученная понимать и генерировать текст на естественном языке, предсказывая вероятность следующего слова или токена.
Speech-to-Text
Speech-to-Text (STT) — технология автоматического распознавания речи и преобразования её в текст.