M
Multimodal
Также известен как: Мультимодальный, Мультимодальность
Генеративный AIОпределение
Multimodal — способность AI-системы обрабатывать и генерировать данные разных типов: текст, изображения, аудио, видео.
Простое объяснение
Multimodal — как AI с несколькими органами чувств. Может видеть, слышать, читать — и понимать связи между всем этим.
Подробнее
Мультимодальные модели объединяют разные "модальности" в единое пространство представлений. GPT-4V, Claude 3, Gemini понимают изображения и текст. Sora генерирует видео. CLIP связывает изображения и текст. Мультимодальность приближает AI к человеческому восприятию: мы тоже обрабатываем мир через разные органы чувств одновременно. Challenges: alignment между модальностями, efficient training, grounding (связь текста с конкретными объектами на изображении).
Связанные термины
Prompt Engineering
Промпт-инжиниринг — искусство и наука составления эффективных запросов (промптов) к AI-моделям для получения качественных результатов.
Foundation Model
Фундаментальная модель — большая AI-модель, предобученная на огромных объёмах данных, которая может быть адаптирована для множества различных задач.
Запрос
Запрос (промпт) — текстовая инструкция или вопрос, отправляемый пользователем языковой модели для получения ответа.
DALL-E
DALL-E — модель генерации изображений от OpenAI, названная в честь художника Дали и робота WALL-E.