Model Collapse

Определение

Model Collapse — деградация качества AI-модели при обучении на данных, сгенерированных другими AI-моделями.

Простое объяснение

Model Collapse — как испорченный телефон. Каждое поколение AI учится у предыдущего, теряя нюансы. После многих итераций остаётся искажённая версия изначального знания.

Подробнее

Исследования показали, что итеративное обучение на synthetic data приводит к потере разнообразия и накоплению ошибок. Каждое поколение моделей теряет "хвосты" распределения — редкие, но важные паттерны. При достаточном количестве итераций модель может выродиться в генератор однотипного контента. Это критическая проблема, учитывая рост AI-контента в интернете. Решения: сохранение и приоритизация human-generated данных, фильтрация synthetic data, diversity-preserving training techniques.

Определение

Простое объяснение

Подробнее

Связанные термины

Сверхразум

Watermarking

Guardrails

AI Alignment

Grounding

XAI