Незаметные сигналы в текстах Claude: новая система маркировки от Anthropic

Невидимая маркировка ответов чат-бота

Как сообщает НВ — Техно: О внедрении новой системы стало известно 13 августа 2023 года. Компания Anthropic начала встраивать в ответы чат-бота Claude особые машинночитаемые сигналы, которые остаются незаметными для человека, но позволяют распознать участие ИИ в создании материала. Такая метка закладывается непосредственно в лексику текста. Новые модели Claude, появившиеся в странах Евросоюза со 2 августа, уже работают с этой технологией.

Для русскоязычных читателей эта новость важна: с ростом объёмов ИИ-контента в открытом доступе подобные механизмы помогают ориентироваться в том, кто и как создал текст. Пользователь не видит маркер, и он никак не сказывается на качестве или читабельности. Сигнал сохраняется даже после копирования и вставки текста, а иногда переживает и правки. При этом наличие метки лишь говорит о возможной обработке текста Claude; её отсутствие не доказывает, что текст написан человеком.

Прозрачность ИИ-контента

Толчком к такому шагу стали требования Евросоюза, касающиеся прозрачности работы искусственного интеллекта. В Anthropic также разрабатывают инструменты проверки, которые позволят обнаруживать эти метки, - ими смогут пользоваться и обычные люди, и сторонние разработчики. Аналогичные решения уже применяет Google: её технология SynthID незаметно маркирует сгенерированный ИИ текст.

В планах Anthropic - добавление цифровых подписей C2PA в метаданные файлов SVG, PNG и JPG. Это часть более крупной инициативы по отслеживанию происхождения контента. Подобные механизмы развиваются и в других компаниях, в том числе OpenAI, хотя последняя пока не заявляла о собственной системе маркировки текстов.

Скрытая маркировка текстов, созданных нейросетями, важна для обеспечения прозрачности при использовании новых технологий.

Подобные маркеры способны помочь в борьбе с дезинформацией и укрепить доверие аудитории к материалам, созданным с участием ИИ. Не исключено, что со временем такая практика станет отраслевым стандартом и упростит задачу определения источника и авторства для пользователей и разработчиков, особенно когда важно подтвердить, откуда взялась информация.

С введением новой маркировки от Anthropic, вопросы прозрачности использования ИИ становятся особенно актуальными. Важно отметить, что в Евросоюзе уже стартуют новые требования к обозначению ИИ-контента, и несоблюдение этих норм может обернуться серьезными штрафами для нарушителей. Эти изменения подчеркивают необходимость осознания роли ИИ в создании текстов и важность их правильной маркировки.