MLOps
Определение
MLOps — практики и инструменты для управления жизненным циклом ML-моделей: от разработки до deployment и мониторинга в production.
Простое объяснение
Это правила и инструменты для того, чтобы умные программы работали стабильно и их было легко обновлять.
Подробнее
Этапы MLOps:
- Подготовка данных — пайплайны, версионирование
- Обучение — эксперименты, tracking
- Deployment — контейнеризация, API
- Мониторинг — drift detection, метрики
Инструменты: MLflow, Kubeflow, Weights & Biases, DVC.
Связанные термины
GPU
Graphics Processing Unit — специализированный процессор, изначально созданный для графики, но оказавшийся идеальным для обучения нейросетей благодаря способности выполнять тысячи параллельных вычислений.
Edge AI
Edge AI — выполнение AI-алгоритмов непосредственно на конечных устройствах (смартфонах, камерах, датчиках) без отправки данных в облако.
vLLM
vLLM — высокопроизводительная библиотека для inference больших языковых моделей, использующая PagedAttention для эффективного управления памятью GPU.
GGUF
GGUF (GPT-Generated Unified Format) — формат файлов для хранения квантизированных языковых моделей, оптимизированный для локального запуска через llama.cpp.