T
Top-p / Top-k
Также известен как: Nucleus Sampling, Топ-п, Топ-к
Основы AIОпределение
Top-p и Top-k — методы семплирования, ограничивающие выбор следующего токена наиболее вероятными вариантами.
Простое объяснение
Top-p/Top-k — как фильтр идей: отсекает совсем маловероятные варианты, оставляя только разумные опции для выбора.
Подробнее
Top-k отбирает k самых вероятных токенов и нормализует их вероятности. Top-p (nucleus sampling) отбирает минимальный набор токенов, суммарная вероятность которых >= p. Top-p адаптивен: для уверенных предсказаний выбор узкий, для неоднозначных — широкий. Типичные значения: top_p=0.9-0.95, top_k=40-100. Комбинация temperature + top_p даёт тонкий контроль над генерацией. Top-p часто предпочтительнее top-k благодаря адаптивности.
Связанные термины
AGI
Artificial General Intelligence — гипотетический AI, способный выполнять любые интеллектуальные задачи человека.
Алгоритм
Алгоритм — чёткая последовательность шагов для решения задачи, основа любой компьютерной программы и AI-системы.
Оптимизация
Оптимизация — процесс улучшения системы, модели или процесса для достижения лучших результатов при заданных ограничениях.
Паттерн
Повторяющийся шаблон или закономерность в данных, которую AI-модели учатся распознавать и использовать для предсказаний.