M
Model Card
Также известен как: Карточка модели, Model Documentation
Этика и безопасностьОпределение
Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.
Простое объяснение
Model Card — как паспорт для AI-модели. Описывает, кто она, что умеет, где обучалась и какие у неё слабости.
Подробнее
Model Cards предложены Google в 2019 как аналог "этикетки" для моделей. Включают: intended use (для чего модель), training data (на чём обучена), evaluation results (метрики по группам), limitations (где не работает), ethical considerations (bias, risks). HuggingFace требует model cards для моделей на Hub. EU AI Act требует документацию, похожую на model cards. Помогают пользователям понять, подходит ли модель для их задачи. Dataset cards документируют данные аналогичным образом.
Связанные термины
Grounding
Grounding — привязка генерации AI к фактическим данным, документам или внешним источникам для повышения точности и уменьшения галлюцинаций.
EU AI Act
EU AI Act — первое в мире комплексное регулирование AI, устанавливающее требования к системам искусственного интеллекта в Европейском Союзе.
Explainable AI
Объяснимый AI (XAI) — подход к разработке AI-систем, решения которых можно понять и объяснить человеку.
Галлюцинации AI
Генерация AI-моделью правдоподобной, но фактически неверной информации.