Чат-бот
Определение
Чат-бот — программа для автоматизации общения с пользователями через текстовые сообщения, часто с использованием NLP и LLM.
Простое объяснение
Это программа, которая отвечает на вопросы в чате. Может быть простой (с готовыми ответами) или умной (как ChatGPT).
Подробнее
Типы чат-ботов:
- Rule-based — на основе правил и сценариев
- ML-based — обученные на диалогах
- LLM-based — на базе GPT/Claude
- Hybrid — комбинация подходов
Применение: поддержка клиентов, продажи, HR.
Связанные термины
vLLM
vLLM — высокопроизводительная библиотека для inference больших языковых моделей, использующая PagedAttention для эффективного управления памятью GPU.
Jupyter Notebook
Jupyter Notebook — интерактивная среда разработки для анализа данных и машинного обучения, позволяющая комбинировать код, визуализации и текст.
ChatGPT
ChatGPT — разговорный AI-ассистент от OpenAI на базе моделей GPT, способный вести диалог, отвечать на вопросы, писать тексты и код.
Edge AI
Edge AI — выполнение AI-алгоритмов непосредственно на конечных устройствах (смартфонах, камерах, датчиках) без отправки данных в облако.