Виявлення текстів ШІ ускладнюється через розвиток мовних моделей і обмеження детекторів

Складнощі виявлення текстів, створених штучним інтелектом

Як повідомляє НВ — Техно: Складнощі виявлення текстів, створених штучним інтелектом, стають дедалі більш актуальними через постійний розвиток великих мовних моделей та обмеження детекторів ШІ. Інструменти для виявлення таких текстів можуть бути точними, але не дають абсолютної гарантії. Результати роботи детекторів залежать від еволюції мовних моделей, і алгоритми постійно змінюються. Як зазначив генеральний директор Pangram Макс Сперо,

“компанія прагне підвищувати рівень упевненості за допомогою більшої кількості даних, але 100-відсоткової точності досягти не вдасться”

.

Аналіз та технології детекції

Детектори, такі як Pangram та Originality.ai, аналізують сотні невеликих закономірностей у тексті, оцінюючи розташування слів. Керівник Originality.ai Джон Гіллгам порівняв визначення тексту, створеного ШІ, з прогнозом погоди, підкресливши, що

“алгоритм працює з імовірностями, а не абсолютною впевненістю. Тому навіть дуже високий показник не означає, що результат гарантовано правильний”

.

Швидкий розвиток таких моделей, як ChatGPT, Claude та Gemini, ускладнює виявлення текстів, створених ШІ. Існують сервіси, котрі переробляють ШІ-тексти, щоб вони більше нагадували людський контент. Детектори працюють за принципом чорної скриньки, і навіть їхні розробники не завжди можуть пояснити результати алгоритму. Водночас, закон ЄС про штучний інтелект передбачає маркування контенту, створеного або зміненого ШІ, а також використання машинозчитуваних водяних знаків.

Водяні знаки, які впроваджує, зокрема, компанія Anthropic для текстів, створених Claude, можуть бути обійдені або видалені. Дослідники вже знайшли способи обходу таких водяних знаків. Google в свою чергу використовує невидимий SynthID і метадані C2PA для позначення походження створених ШІ зображень, відео й музики. Водяні знаки і детектори є частиною системи захисту, яка потребує постійного вдосконалення.

Визначити контент, у якому ШІ використовували частково, є складним завданням. Водяний знак може свідчити про втручання ШІ, проте не може вказати на масштаб цього втручання. Хані Фарід зазначив, що

“недосконалість таких технологій не означає, що від них треба відмовлятися. Водяні знаки й детектори можуть бути лише частиною системи захисту, яку доводиться постійно вдосконалювати”

.

Рекомендується також не покладатися лише на один ШІ-детектор, важливими є перевірка джерела інформації, редакційні стандарти та критичне мислення.

Технології виявлення текстів, створених штучним інтелектом, продовжують розвиватися, проте їхня ефективність залишається під питанням. Зважаючи на швидкий розвиток мовних моделей, важливо, щоб розробники детекторів адаптували свої алгоритми до нових викликів. Водночас законодавство, зокрема в ЄС, ставить завдання щодо маркування контенту, що створює додаткові вимоги до якості та прозорості інформації, що споживається. Щоб забезпечити точність та надійність, важливо поєднувати технологічні рішення з критичним мисленням та високими редакційними стандартами.

Оскільки технології штучного інтелекту продовжують стрімко розвиватися, це може призвести до створення контенту, який важко відрізнити від людського. Це, в свою чергу, наближає інтернет до сценарію «мертвого інтернету», де автентичність інформації стає під питанням. Більше деталей про ці тенденції можна знайти у нашій статті про вплив ШІ на інтернет.