Технология маркировки контента в Евросоюзе
Компания OpenAI собирается использовать невидимые водяные знаки для обозначения текстов и программного кода, созданных в странах Европейского Союза, чтобы соответствовать новым европейским требованиям по прозрачности генеративного искусственного интеллекта. Для этого будет применяться система textGrain, которая, согласно тестам, показывает эффективность не ниже, а в некоторых случаях и выше, чем конкурирующий метод SynthID при работе с текстом. Уровень точного распознавания водяного знака в коротких текстах достигает примерно 80%, однако эффективность снижается при обработке математических формул и после внесения правок.
Особенности маркировки и ее значение
Данное обозначение будет применяться к текстам, сгенерированным через платформы ChatGPT и Codex в рамках Евросоюза. Однако водяной знак не будет автоматически вставляться во все результаты — пользователи отдельных моделей смогут самостоятельно решать, включать ли такую маркировку. Программы для обнаружения водяных знаков будут доступны исключительно одобренным исследователям и специализированным организациям. При этом система не будет раскрывать личность пользователя, его запросы или историю общения.
Эти нововведения связаны с положениями статьи 50 Регламента ЕС по искусственному интеллекту, обязывающей разработчиков генеративных систем делать контент, созданный ИИ, распознаваемым с помощью машинных алгоритмов. Новые компании, выходящие на рынок, должны сразу соблюдать эти правила, а уже существующие игроки, такие как OpenAI, Anthropic, Microsoft, Google и Meta, обязаны внедрить их до 2 декабря.
Введение невидимого водяного знака в ИИ-контент — важная мера для повышения прозрачности использования генеративных технологий.
Это позволит пользователям легче определить, когда они имеют дело с материалами, созданными искусственным интеллектом, и снизит риск дезинформации. В целом, новые европейские стандарты могут значительно повлиять на развитие рынка ИИ, стимулируя компании следовать этическим нормам.
С введением новых правил для генеративного ИИ, таких как невидимые водяные знаки, возникает ряд вопросов о надежности существующих методов распознавания контента. Сложности в идентификации текстов, созданных ИИ, становятся все более актуальными, особенно на фоне стремительного роста возможностей языковых моделей, что подчеркивает важность разработки эффективных инструментов для обеспечения прозрачности.