Context Window
Определение
Контекстное окно — максимальный объём текста (в токенах), который языковая модель может обработать за один раз, включая входной запрос и генерируемый ответ.
Простое объяснение
Это как память у человека во время разговора. Чем больше окно, тем больше модель помнит из того, что вы обсуждали.
Подробнее
Размер контекстного окна определяет, сколько информации модель может «помнить»:
- GPT-3.5: 16K токенов
- GPT-4 Turbo: 128K токенов
- Claude 3: 200K токенов
- Gemini 1.5: 1M+ токенов
Большое окно позволяет анализировать длинные документы и вести продолжительные диалоги.
Связанные термины
Vision-Language Model
Vision-Language Model — мультимодальная модель, способная обрабатывать и понимать как изображения, так и текст, отвечая на вопросы о визуальном контенте.
ControlNet
ControlNet — метод точного управления генерацией изображений через дополнительные условия: позы, края, глубину, скетчи.
Token
Токен — минимальная единица текста, обрабатываемая языковой моделью; обычно это слово, часть слова или символ.
Sora
Sora — модель генерации видео от OpenAI, способная создавать реалистичные видеоролики до минуты по текстовому описанию.