Meta припинила співпрацю з оператором через расистське зауваження під час тесту дзвінків у Muse

Тестування нової функції телефонних дзвінків

Як повідомляє НВ — Техно: Meta тестує нову функцію телефонних дзвінків у своїй ШІ-платформі Muse, залучаючи людей-операторів для підвищення успішності дзвінків. Під час одного з тестів один із операторів зробив расистське зауваження, після чого компанія припинила з ним співпрацю. Участь людей під час тестування допомогла підвищити успішність дзвінків до понад 90%. Meta продовжує вдосконалювати цю функцію і планує її запуск після проведення відповідних перевірок.

Особливості платформи Muse

Платформа Muse була запущена 8 вересня. Функція телефонних дзвінків отримала назву «людський консьєрж», яка дозволяла оператору перехоплювати розмову, якщо ШІ не справлявся із завданням. Деякі компанії відмовлялися спілкуватися з ботом, що стало причиною залучення операторів до процесу. Проте, через інцидент з расистським зауваженням, Meta вирішила відмовитися від тестування функції в такому форматі.

Віцепрезидент Meta Superintelligence Labs вибачився перед працівником компанії після отримання скарги на поведінку оператора. Meta не уточнила, чи припинила повністю телефонні дзвінки через Muse, чи лише виключила операторів з тестування. Дейв Арнольд, представник Meta, зазначив, що:

«внутрішнє тестування потрібне для виявлення проблем із безпекою і конфіденційністю» - Дейв Арнольд

Компанія продовжує працювати з бізнесами над удосконаленням функції та планує її запуск для широкого використання після проведення перевірок і з необхідними повідомленнями для користувачів.

Інцидент з расистським зауваженням підкреслює важливість контролю за якістю обслуговування та етики в роботі з штучним інтелектом. Meta, як одна з провідних технологічних компаній, має відповідальність не лише за технологічні інновації, але й за забезпечення належних стандартів поведінки у своїх продуктах. Подальші кроки компанії та її рішення щодо формату тестування можуть вплинути на довіру користувачів і партнерів до платформи Muse.

Водночас, компанія не зупиняється на досягнутому і продовжує розвивати свої технології. Нещодавно Meta анонсувала новий продукт - Muse Charm, який стане компактним брелоком з цифровим аватаром, що підкреслює інноваційний підхід компанії до штучного інтелекту. Це свідчить про прагнення Meta забезпечити не лише функціональність, але й етику у своїх розробках.