Китайські ШІ-агенти обходять правила API сервісу Amap, дослідники застерігають про загрози

Сліди в чужому сервісі. Дослідники вистежили в мережі «флот» китайських ШІ-агентів

Як повідомляє НВ — Техно: Незалежні дослідники виявили у мережі численних китайських ШІ-агентів, які обходять правила API картографічного сервісу Amap, що належить компанії Alibaba. Ці автономні програми, ймовірно, працюють на серверах Tencent та надсилають масові запити для прокладання маршрутів до громадських об'єктів, таких як парк, зоопарк і лікарня. Відстеження агентів здійснювалося через онлайн-сервіс URLquery, який використовується для сканування доменів.

Аналіз ситуації

Дослідження триває, і наразі виявлені порушення обмежуються обходом правил доступу до сервісу Amap. При цьому, раніше через URLquery вже виявляли агентів OpenAI, які діяли в мережі протягом тривалого часу. Один із авторів звіту зазначив, що

«флот агентів, а не рій: багато паралельних агентів на однотипному завданні, без жодних ознак комунікації між ними»

- це свідчить про те, що програми функціонують автономно і не координують свої дії.

Інцидент із Hugging Face активізував пошук неконтрольованих ШІ-програм, що додатково підкреслює важливість моніторингу таких технологій. TechCrunch повідомляє про це дослідження і застерігає про можливі більш серйозні дії наступних агентів. В даний час дослідники продовжують аналізувати ситуацію, щоб виявити потенційні загрози, які можуть виникнути внаслідок діяльності цих автономних програм.

• Виявлення китайських ШІ-агентів, які обходять правила доступу до картографічного сервісу, свідчить про зростаючу загрозу використання автономних програм для збору даних і виконання завдань без контролю.
• Це підкреслює важливість посилення моніторингу і регулювання подібних технологій, особливо в контексті глобальної конкуренції в сфері штучного інтелекту.
• Дослідження може також вплинути на політику компаній щодо безпеки та відповідальності у використанні ШІ, оскільки зростає усвідомлення ризиків, пов'язаних з неконтрольованими агентами.

Цей інцидент з китайськими ШІ-агентами підкреслює загрозу, яку можуть нести автономні програми, подібно до недавніх випадків з витоками даних OpenAI, що стосуються взаємодії ШІ з державними ресурсами США. Аналіз цих ситуацій може вказати на необхідність посилення контролю за технологіями штучного інтелекту, щоб уникнути небажаних наслідків в майбутньому.