Языковая модель
Определение
Языковая модель — AI-система, обученная понимать и генерировать текст на естественном языке, предсказывая вероятность следующего слова или токена.
Простое объяснение
Это AI, который научился работать с текстом: понимать вопросы, писать ответы, переводить и общаться как человек.
Подробнее
Эволюция языковых моделей:
- N-gram — статистические модели
- Word2Vec — эмбеддинги слов
- BERT — понимание контекста
- GPT — генеративные модели
- LLM — большие языковые модели
Современные LLM: GPT-4, Claude, Gemini, LLaMA.
Связанные термины
Generative AI
Генеративный AI — системы искусственного интеллекта, способные создавать новый контент: тексты, изображения, музыку, видео, код.
Diffusion Models
Диффузионные модели — класс генеративных моделей, которые учатся создавать данные путём постепенного удаления шума из случайного входа.
Multimodal
Multimodal — способность AI-системы обрабатывать и генерировать данные разных типов: текст, изображения, аудио, видео.
RAG
RAG (Retrieval-Augmented Generation) — архитектура, дополняющая LLM актуальной информацией из внешних источников через поиск перед генерацией ответа.