Судове рішення щодо Google та AI Overview
11 червня о 11:30 стало відомо, що німецький суд визнав компанію Google відповідальною за поширення неправдивих тверджень, згенерованих сервісом AI Overview. Підставою для цього рішення стали помилкові звинувачення двох видавців із Мюнхена у шахрайстві. Судом була видана тимчасова заборона на поширення неправдивої інформації.
В ході розгляду справи стало відомо, що AI Overview пов'язав видавців з шахрайством, пастками із підписками та сумнівними бізнес-практиками. Суд встановив, що система змішала дані про різні компанії та створила неіснуючі зв'язки. В одному випадку система стверджувала, що видавець відомий сумнівними бізнес-практиками, та створила перелік тривожних ознак, хоча інформація стосувалася іншої організації.
Видавці направили Google вимогу припинити поширення цієї інформації, однак компанія не відреагувала. Земельний суд Мюнхена розмежував відповідальність між пошуковою системою та AI Overview, оскільки останній створює нові змістовні твердження шляхом аналізу та об'єднання інформації з різних сайтів. Відповідальність за фактичні помилки покладається на Google, оскільки AI Overview переказує інформацію власними словами.
Вплив на технологічну індустрію
Система AI Overview помиляється приблизно у 9% випадків, що призводить до понад 2 мільярдів неправильних відповідей на рік. Щомісяця з функцією AI Overview взаємодіють близько 2 мільярдів людей, але після перегляду оглядів на посилання переходить лише близько 1% користувачів. Більше того, 56% правильних відповідей неможливо підтвердити за допомогою посилань, які наводить система.
Згідно з інформацією від Google, "користувачі можуть перевіряти правильність зведень за допомогою посилань на джерела" та "люди розуміють, що інформації, створеній штучним інтелектом, не слід довіряти без перевірки".
Це підкреслює важливість ретельної перевірки інформації, отриманої через автоматизовані системи. Судове рішення має стати важливим кроком у напрямку покращення відповідальності технологічних компаній за контент, який генерують їх сервіси.
Ця справа може мати далекосяжні наслідки для технологічної індустрії, зокрема для компаній, які використовують штучний інтелект для генерації контенту. Важливість перевірки інформації та відповідальності за її поширення підкреслює необхідність впровадження більш суворих стандартів для AI-систем. Судове рішення також може спонукати інші країни переглянути свої законодавчі підходи до регулювання контенту, згенерованого штучним інтелектом, що сприятиме підвищенню довіри користувачів до таких технологій.
Цей випадок не є поодиноким, оскільки проблеми з відповідальністю технологічних компаній за дії їхніх AI-систем стають все більш актуальними. Наприклад, нещодавня справа британської депутатки проти xAI демонструє, як використання штучного інтелекту може призводити до правових наслідків. Це підкреслює необхідність чіткішого регулювання в цій сфері, адже наслідки можуть бути значними для всіх учасників процесу.