NLP
Определение
Обработка естественного языка (NLP) — область AI, занимающаяся взаимодействием компьютеров с человеческим языком: понимание, генерация, перевод.
Простое объяснение
Это наука о том, как научить компьютер понимать человеческий язык — читать, писать и переводить тексты.
Подробнее
Задачи NLP:
- Классификация текста — определение тональности, темы
- NER — выделение именованных сущностей
- Машинный перевод — перевод между языками
- Генерация текста — LLM
- Question Answering — ответы на вопросы
Связанные термины
Transformer
Трансформер — архитектура нейронной сети с механизмом внимания (attention), ставшая основой современных языковых моделей и генеративного AI.
Self-Attention
Самовнимание — разновидность attention, где каждый элемент последовательности сравнивается со всеми остальными элементами той же последовательности.
KV Cache
KV Cache — механизм кэширования ключей (Keys) и значений (Values) в трансформерах для ускорения авторегрессивной генерации.
Adapter
Адаптер — небольшой обучаемый модуль, встраиваемый между слоями предобученной модели для её адаптации под новые задачи без изменения основных весов.
