Рост возможностей языковых моделей усложняет надежное распознавание текстов, созданных ИИ

Трудности в идентификации текстов, сгенерированных искусственным интеллектом

Как сообщает НВ — Техно: Распознавание материалов, написанных при помощи искусственного интеллекта, становится все более проблематичным из-за постоянного совершенствования крупных языковых моделей и ограничений современных детекторов. Хотя инструменты для выявления таких текстов демонстрируют высокую точность, стопроцентной гарантии они не дают. Эффективность детекторов напрямую связана с тем, насколько быстро эволюционируют языковые алгоритмы, которые постоянно меняются и усложняются. По словам генерального директора компании Pangram Макса Сперо,

«мы стремимся повысить уверенность в результатах за счёт большего объёма данных, однако абсолютной точности достичь невозможно»

.

Технологический подход к выявлению ИИ-контента

Детекторы, включая Pangram и Originality.ai, анализируют множество мелких закономерностей, таких как расположение слов и фраз, чтобы определить вероятность машинного происхождения текста. Глава Originality.ai Джон Гиллгам сравнил этот процесс с прогнозом погоды, отметив, что

«алгоритмы выдают лишь вероятностные оценки, а не точные диагнозы. Даже высокий процент не гарантирует правильность результата»

.

Новые языковые модели, такие как ChatGPT, Claude и Gemini, развиваются очень быстро, что усложняет идентификацию сгенерированного ИИ контента. Некоторые сервисы дополнительно перерабатывают тексты, чтобы они выглядели более естественно и имитировали стиль живого человека. При этом детекторы работают по принципу «чёрного ящика», и даже их создатели не всегда могут объяснить, почему выдан именно такой результат. В Европейском союзе уже действует законодательство, требующее маркировать материалы, созданные или отредактированные ИИ, а также использовать машинно-читаемые водяные знаки.

Водяные знаки, внедряемые, например, компанией Anthropic для текстов, созданных Claude, можно попытаться удалить или обойти, что уже доказали исследователи. В Google используют невидимый SynthID и метаданные C2PA для маркировки изображений, видео и музыки, созданных ИИ. Водяные знаки и системы детекции - это лишь часть комплексной защиты, которая требует постоянного совершенствования.

Определить, насколько сильно текст был сгенерирован или изменён ИИ, крайне сложно. Водяной знак может указывать на вмешательство искусственного интеллекта, но не раскрывает его масштаб. Хани Фарид подчеркнул, что

«несовершенство подобных технологий не является поводом для отказа от них. Водяные знаки и детекторы должны стать элементами многоуровневой системы защиты, которую необходимо постоянно улучшать»

.

Помимо использования нескольких детекторов, важно проверять источники информации, соблюдать редакционные стандарты и развивать критическое мышление.

Технологии, предназначенные для выявления ИИ-текстов, продолжают совершенствоваться, но их надёжность всё ещё вызывает вопросы. Учитывая стремительный прогресс языковых моделей, разработчики детекторов должны оперативно адаптировать свои алгоритмы под новые вызовы. В то же время законодательство, особенно в Европе, требует прозрачности и маркировки контента, что повышает требования к качеству и достоверности информации. Для достижения максимальной точности важно сочетать технические методы с критическим анализом и высоким уровнем редакционного контроля.

С учетом того, что новые языковые модели становятся все более сложными, возникает необходимость в более тщательном анализе последствий их использования. В связи с этим, в недавнем интервью гендиректор Pangram указал на потенциальные угрозы, связанные с увеличением объема ИИ-контента в интернете. Узнайте больше о рисках, которые могут привести к так называемому «мёртвому интернету», и о том, как это может повлиять на информационное пространство.