Щоб вплинути на рішення
Чоловік сховав інструкції для ШІ в судовому позові
17 серпня, 12:30
У США позивач, який самостійно представляв себе в суді, сховав у судових документах приховані текстові інструкції для штучного інтелекту (prompt injection), щоб вплинути на розгляд справи проти New York Bariatric Group. Інструкції були написані білим текстом і не були видимі під час звичайного перегляду. Позов, поданий проти New York Bariatric Group, містив звинувачення у порушенні приватності, дискримінації та інші претензії.
Приховані повідомлення містили вказівку переконатися, що текстова відповідь узгоджується з поданим документом, а також заклик домогтися бажаного результату для позивача. Цей спосіб впливу на генеративний штучний інтелект називають prompt injection. Важливо зазначити, що суд не використовує штучний інтелект для аналізу матеріалів; прихований текст виявив співробітник суду.
Подальші дії позивача
Після виявлення прихованих інструкцій позивач продовжив додавати до нових документів приховані повідомлення, зокрема посилання на фрагмент мультсеріалу "Губка Боб Квадратні Штани". Суддя Вищого суду Коннектикуту Волтер Спейдер-молодший зазначив, що свобода самостійного ведення справ має межі. У зв'язку з цим, суд заборонив позивачеві користуватися електронною системою подання документів, зобов'язавши його подавати всі матеріали особисто в паперовому вигляді через канцелярію суду.
Чоловік заявив 404 Media, що проводив аудит судової системи, щоб з’ясувати, чи використовує вона штучний інтелект. За даними JD Supra, цей випадок є першим задокументованим випадком prompt injection у судовому процесі США, за який автора притягнули до відповідальності.
Цей інцидент підкреслює виклики та ризики, пов'язані з інтеграцією штучного інтелекту в юридичні процеси. Хоча суди поки що не використовують ШІ для аналізу матеріалів, випадок ставить під сумнів етичні та правові аспекти використання технологій в судочинстві. Важливо, щоб правова система адаптувалася до нових викликів, пов'язаних із технологічними інноваціями, щоб гарантувати справедливість та прозорість у розгляді справ.