NLP
Определение
Обработка естественного языка (NLP) — область AI, занимающаяся взаимодействием компьютеров с человеческим языком: понимание, генерация, перевод.
Простое объяснение
Это наука о том, как научить компьютер понимать человеческий язык — читать, писать и переводить тексты.
Подробнее
Задачи NLP:
- Классификация текста — определение тональности, темы
- NER — выделение именованных сущностей
- Машинный перевод — перевод между языками
- Генерация текста — LLM
- Question Answering — ответы на вопросы
Связанные термины
Pre-training
Предобучение — начальный этап обучения AI-модели на огромных объёмах неразмеченных данных для формирования базовых знаний и способностей.
RLHF
Reinforcement Learning from Human Feedback — метод обучения AI-моделей на основе человеческих предпочтений, используемый для выравнивания поведения модели с человеческими ценностями.
Self-Attention
Самовнимание — разновидность attention, где каждый элемент последовательности сравнивается со всеми остальными элементами той же последовательности.
PEFT
Parameter-Efficient Fine-Tuning — семейство методов дообучения моделей, которые обновляют лишь малую часть параметров, сохраняя качество полного fine-tuning.