OpenAI маркуватиме текст і код у ЄС невидимим водяним знаком для нових вимог ЄС щодо ШІ

Впровадження водяного знака в ЄС

Як повідомляє НВ — Техно: OpenAI планує впровадити маркування тексту та коду, створених в Європейському Союзі, за допомогою невидимого водяного знака для відповідності новим вимогам ЄС щодо прозорості генеративного штучного інтелекту. Ця технологія використовуватиме систему textGrain, яка, за результатами випробувань, демонструє ефективність, не поступаючись або навіть перевершуючи альтернативу SynthID у випадку текстового контенту. Рівень успішного виявлення водяного знака в коротких текстах становить приблизно 80%, хоча ефективність системи може знижуватися при роботі з математичними текстами та після редагування.

Маркування та його вплив

Маркування стосуватиметься текстового контенту, створеного платформами ChatGPT і Codex у межах ЄС. Важливо зазначити, що водяний знак не буде увімкнений за замовчуванням для всіх результатів. Користувачі окремих моделей матимуть можливість погоджуватися на використання маркування. Доступ до програмного забезпечення для виявлення водяних знаків отримають лише схвалені дослідники та спеціалізовані організації. При цьому детектор не визначатиме особу користувача та не розкриватиме його запити чи історію розмов.

Ці зміни пов'язані зі статтею 50 Закону ЄС про штучний інтелект, яка вимагає, щоб постачальники генеративних ШІ-систем робили створений текст придатним для машинного розпізнавання як контент, створений штучним інтелектом. Нові компанії, що виходять на ринок, вже повинні дотримуватися цієї вимоги. Існуючі компанії, такі як OpenAI, Anthropic, Microsoft, Google і Meta, мають виконати ці вимоги до 2 грудня.

Впровадження водяного знака в контент, створений штучним інтелектом, є важливим кроком для забезпечення прозорості у використанні генеративних технологій.

Це може допомогти користувачам краще розуміти, коли вони взаємодіють з матеріалами, створеними ШІ, і запобігти можливим маніпуляціям інформацією. В цілому, нові вимоги ЄС можуть суттєво вплинути на ринок ШІ, стимулюючи компанії до розробки етичних стандартів у цій сфері.

Оскільки впровадження водяного знака стає важливим кроком для забезпечення прозорості в галузі штучного інтелекту, варто звернути увагу на проблеми виявлення контенту, створеного ШІ. Як показує практика, розвиток мовних моделей ускладнює завдання для детекторів, що може вплинути на ефективність нових технологій маркування.