W
Watermarking
Также известен как: AI Watermark, Водяной знак AI, Content Marking
Этика и безопасностьОпределение
Watermarking — технология встраивания скрытых меток в AI-генерированный контент для последующей идентификации его происхождения.
Простое объяснение
Watermarking — как невидимая подпись художника на картине. Глазом не видно, но специальный детектор покажет, что это создал AI.
Подробнее
Text watermarking модифицирует распределение выбора токенов статистически детектируемым образом, не влияя на читаемость. Image watermarking (C2PA, SynthID) встраивает метаданные, устойчивые к редактированию. Challenges: robustness (устойчивость к перефразированию, обрезке), detectability (надёжность детекции), transparency (влияние на качество). Регуляторы (EU AI Act) могут требовать маркировку AI-контента. Google, OpenAI работают над стандартами watermarking. Детекторы AI-контента (GPTZero) — альтернативный подход, но менее надёжный.
Связанные термины
XAI
XAI (Explainable AI) — подход к созданию AI-систем, чьи решения и процесс рассуждений можно объяснить и понять человеку.
Grounding
Grounding — привязка генерации AI к фактическим данным, документам или внешним источникам для повышения точности и уменьшения галлюцинаций.
Галлюцинации AI
Генерация AI-моделью правдоподобной, но фактически неверной информации.
Guardrails
Guardrails — защитные механизмы, ограничивающие поведение AI-модели и предотвращающие генерацию вредного или нежелательного контента.