Пентагон визнав надмірну залежність від ШІ Palantir у військових операціях що призвело до удару по школі в Ірані

Розслідування Пентагону

Як повідомляє НВ — Техно: Розслідування Пентагону вказує на надмірну залежність від штучного інтелекту Palantir у військових операціях, що призвело до трагедії в Ірані, де внаслідок удару США загинули 123 дитини. Інцидент стався 21 вересня, і в ньому Пентагон визнав, що помилки у розвідданих та застарілі супутникові знімки також сприяли цьому випадку. Palantir Technologies Inc. розробила інструмент Maven, який об'єднує понад 150 різних вхідних даних для прийняття рішень командирів. Проте, Пентагон вказав на надмірну залежність від Maven як одну з трьох основних помилок у ланцюжку знищення цілі.

Проблеми з розвідкою

Військова розвідка південного Ірану була обмеженою, а школа, що стала об'єктом удару, мала власний веб-сайт і була відображена на Картах Google. Об'єкт залишався позначеним як об'єкт КВІР через попередні вимоги адміністрації Трампа про нищівний початковий наступ. Протягом перших 24 годин було уражено понад 1000 іранських цілей. Після удару по Мінабу Palantir оновив Maven, додавши можливості для виявлення невідповідностей у розвідувальних даних.

Окрім цього, 18 вересня телеканал CNN повідомив про помилковий звіт штучного інтелекту, який ледь не спровокував військовий конфлікт між США і Китаєм. Згідно з інформацією, звіт помилково оцінив вантаж на борту китайського судна як компоненти для ядерної зброї на Близькому Сході. Після отримання цього повідомлення американські військові розробили плани для його перехоплення та абордажу, а літаки ВПС США були підняті в повітря за тривогою.

Речник Palantir зазначив, що "компанія не несе відповідальності за базові дані та виявлення недоліків у розвідувальній інформації".

Водночас, людина, знайома з цим питанням, зазначила, що "переглядають базові розвідувальні дані, щоб виявити фактори, які можуть позначити ціль як невідповідну, та позначити ті невідповідності та неточності, які могли бути пропущені під час перевірки людиною". Ці інциденти ставлять під питання ефективність та надійність використання штучного інтелекту у військових операціях.

Ці події підкреслюють важливість ретельного аналізу та перевірки розвідувальних даних, особливо в контексті військових операцій, де помилки можуть призводити до серйозних гуманітарних наслідків. Залежність від технологій, таких як штучний інтелект, може підвищити швидкість прийняття рішень, але також створює ризики, якщо дані не є точними або актуальними. Пентагон і Palantir стикаються з необхідністю перегляду своїх процесів, щоб уникнути подібних трагедій у майбутньому.

У контексті останніх подій, пов'язаних із використанням штучного інтелекту, Пентагон також зробив важливий крок, відкривши доступ до новітніх технологій ChatGPT та Grok для трьох мільйонів військовослужбовців. Це рішення може суттєво вплинути на ефективність військових операцій та управлінських процесів, враховуючи недавні проблеми з розвідкою та прийняттям рішень.