Шість банків попереджають про ризики покупок через ШІ-агентів, закликають до стандартів безпеки

Занепокоєння банків щодо штучного інтелекту

Як повідомляє НВ — Техно: Шість міжнародних банків, серед яких Bank of America та Capital One, висловили занепокоєння щодо ризиків, пов'язаних із покупками через штучних інтелектуальних агентів. Зокрема, вони попереджають про потенційні загрози шахрайства, витоку даних та помилкових транзакцій, які можуть виникнути внаслідок використання таких технологій.

Штучні інтелектуальні агенти здатні самостійно шукати товари, обирати їх і здійснювати покупки замість користувачів. Однак їх використання несе в собі ризики, пов'язані з:

• непрозорістю;
• небезпекою;
• порушенням приватності;
• обмеженим вибором товарів;
• несумісністю платформ.

Також існує ймовірність, що ШІ-агенти можуть віддавати перевагу певним товарам або платіжним сервісам через комісії або нижчу вартість обробки запитів.

Крім того, ШІ-агенти мають доступ до платіжної інформації, облікових записів та конфіденційних даних як покупців, так і продавців. Нещодавно компанія Meta виявила та виправила вразливість у своєму ШІ-асистенті Meta Muse, що дозволяла зловмиснику перехопити контроль над асистентом, що ще раз підтверджує наявність ризиків у цій сфері.

Принципи розвитку агентної торгівлі

Банки не відкидають використання штучного інтелекту для покупок, проте наголошують на необхідності чітких стандартів і захисту споживачів. У зв'язку з цим, банківська група визначила п'ять ключових принципів розвитку агентної торгівлі:

• прозорість;
• безпека;
• захист приватності та даних;
• можливість вибору;
• сумісність різних систем.

Учасники консорціуму вже готують новий документ, в якому будуть викладені практичні аспекти застосування цих принципів.

Занепокоєння банків щодо технологій штучного інтелекту в контексті покупок підкреслює важливість регулювання нових технологій у фінансовому секторі. Розробка чітких стандартів та принципів може допомогти зменшити ризики та підвищити довіру споживачів до використання ШІ в торгівлі. Враховуючи швидкий розвиток технологій, важливо, щоб фінансові установи та технологічні компанії працювали спільно для забезпечення безпечного та прозорого середовища для покупок. Успішна реалізація цих принципів може стати ключовою умовою для подальшого впровадження ШІ в повсякденні фінансові операції.

У світлі нещодавніх інцидентів, пов'язаних із технологіями штучного інтелекту, такі компанії, як OpenAI, активно працюють над створенням систем контролю для автономних агентів. Це підкреслює зростаючу потребу в безпечних механізмах та регуляціях у сфері використання ШІ. Дізнайтесь більше про те, як розробники реагують на виклики та забезпечують надійність своїх технологій, в нашій статті про системи контролю автономних агентів.