Впровадження невидимих водяних знаків компанією Anthropic
13 серпня 2023 року стало відомо, що компанія Anthropic впроваджує невидимі водяні знаки для текстів, створених її чат-ботом Claude. Ці водяні знаки, які є спеціальним машинозчитуваним сигналом, вбудовуються безпосередньо в слова, що дозволяє визначати використання штучного інтелекту при створенні контенту. Нові моделі Claude, які були запущені в ЄС із 2 серпня, вже підтримують цю систему водяних знаків.
Водяний знак є невидимим для користувача і не впливає на зміст, якість або читабельність тексту. Сигнал зберігається навіть під час копіювання та вставлення тексту, а в деяких випадках може залишатися після редагування. Наявність водяного знака свідчить лише про те, що текст міг бути оброблений Claude, тоді як відсутність знака не є доказом того, що текст не створювався за допомогою штучного інтелекту.
Прозорість у використанні штучного інтелекту
Причина впровадження цієї технології полягає у вимогах Європейського Союзу щодо прозорості використання штучного інтелекту. Anthropic також працює над інструментами для перевірки текстів на наявність маркування, які можуть використовуватися як користувачами, так і сторонніми розробниками. Серед інших компаній, що впроваджують подібні рішення, варто відзначити Google, яка використовує технологію SynthID для невидимого маркування тексту, створеного штучним інтелектом.
Крім того, Anthropic планує додати цифрові підписи C2PA до метаданих файлів у форматах SVG, PNG і JPG. Цей крок є частиною ширшої ініціативи з маркування ШІ-контенту, до якої також належать інші технології визначення походження контенту, які застосовуються в компаніях, таких як OpenAI, хоча наразі остання не оголосила про окрему систему маркування тексту.
Впровадження невидимих водяних знаків в контент, створений штучним інтелектом, має важливе значення для забезпечення прозорості у використанні нових технологій.
Це може допомогти в боротьбі з дезінформацією та підвищити довіру користувачів до контенту, що генерується AI. Наявність таких маркерів може стати стандартом у галузі, що дозволить користувачам і розробникам легше визначати походження та авторство контенту, зокрема у випадках, коли важливо підтвердити джерело інформації.
У зв'язку з новими вимогами Європейського Союзу, які передбачають штрафи за використання немаркованого штучного інтелекту, важливо розібратися в усіх аспектах цієї теми. Додатково до впровадження водяних знаків, ЄС планує запровадити суворі санкції для компаній, що не виконують ці вимоги. Це підкреслює важливість прозорості в сфері штучного інтелекту.