W
Watermarking
Также известен как: AI Watermark, Водяной знак AI, Content Marking
Этика и безопасностьОпределение
Watermarking — технология встраивания скрытых меток в AI-генерированный контент для последующей идентификации его происхождения.
Простое объяснение
Watermarking — как невидимая подпись художника на картине. Глазом не видно, но специальный детектор покажет, что это создал AI.
Подробнее
Text watermarking модифицирует распределение выбора токенов статистически детектируемым образом, не влияя на читаемость. Image watermarking (C2PA, SynthID) встраивает метаданные, устойчивые к редактированию. Challenges: robustness (устойчивость к перефразированию, обрезке), detectability (надёжность детекции), transparency (влияние на качество). Регуляторы (EU AI Act) могут требовать маркировку AI-контента. Google, OpenAI работают над стандартами watermarking. Детекторы AI-контента (GPTZero) — альтернативный подход, но менее надёжный.
Связанные термины
EU AI Act
EU AI Act — первое в мире комплексное регулирование AI, устанавливающее требования к системам искусственного интеллекта в Европейском Союзе.
XAI
XAI (Explainable AI) — подход к созданию AI-систем, чьи решения и процесс рассуждений можно объяснить и понять человеку.
Галлюцинации AI
Генерация AI-моделью правдоподобной, но фактически неверной информации.
Model Card
Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.