T
Temperature
Также известен как: Температура, Sampling Temperature
Основы AIОпределение
Temperature — параметр, контролирующий случайность в генерации текста: низкая температура даёт предсказуемые ответы, высокая — креативные.
Простое объяснение
Temperature — как регулятор креативности AI. На нуле — строгий учёный, на единице — свободный художник.
Подробнее
Temperature применяется к logits перед softmax: logits/T. При T=0 модель детерминистично выбирает наиболее вероятный токен (greedy decoding). При T=1 — стандартное распределение вероятностей. T>1 сглаживает распределение, увеличивая шанс редких токенов. Для фактических ответов рекомендуется T=0-0.3, для креативного письма T=0.7-1.0. Связанные параметры: top_p (nucleus sampling), top_k (ограничение выбора k токенами).
Связанные термины
Искусственный интеллект
Область информатики, занимающаяся созданием систем, способных выполнять задачи, требующие человеческого интеллекта.
Юзабилити AI
Юзабилити AI — удобство использования AI-продуктов, включающее простоту взаимодействия, понятность результатов и эффективность решения задач.
Оптимизация
Оптимизация — процесс улучшения системы, модели или процесса для достижения лучших результатов при заданных ограничениях.
Top-p / Top-k
Top-p и Top-k — методы семплирования, ограничивающие выбор следующего токена наиболее вероятными вариантами.