M
Model Card
Также известен как: Карточка модели, Model Documentation
Этика и безопасностьОпределение
Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.
Простое объяснение
Model Card — как паспорт для AI-модели. Описывает, кто она, что умеет, где обучалась и какие у неё слабости.
Подробнее
Model Cards предложены Google в 2019 как аналог "этикетки" для моделей. Включают: intended use (для чего модель), training data (на чём обучена), evaluation results (метрики по группам), limitations (где не работает), ethical considerations (bias, risks). HuggingFace требует model cards для моделей на Hub. EU AI Act требует документацию, похожую на model cards. Помогают пользователям понять, подходит ли модель для их задачи. Dataset cards документируют данные аналогичным образом.
Связанные термины
XAI
XAI (Explainable AI) — подход к созданию AI-систем, чьи решения и процесс рассуждений можно объяснить и понять человеку.
Model Collapse
Model Collapse — деградация качества AI-модели при обучении на данных, сгенерированных другими AI-моделями.
Guardrails
Guardrails — защитные механизмы, ограничивающие поведение AI-модели и предотвращающие генерацию вредного или нежелательного контента.
Red Teaming
Red Teaming — практика систематического тестирования AI-систем на уязвимости путём симуляции атак злоумышленников.