Испытания новой функции звонков в Muse
Компания Meta проводила тесты функции телефонных звонков в своей искусственно-интеллектуальной платформе Muse, привлекая операторов для улучшения качества взаимодействия. Во время одного из таких тестов сотрудник допустил расистское высказывание, из-за чего сотрудничество с ним было моментально прекращено. Участие живых операторов повысило успешность звонков до уровня выше 90%. Meta продолжает работать над совершенствованием данной функции и планирует запустить её после завершения всех необходимых проверок.
Что представляет собой платформа Muse
Muse была представлена 8 сентября. Особенностью функции телефонных звонков является «человеческий консьерж»: оператор может вмешиваться в разговор, если искусственный интеллект сталкивается с трудностями. Отказ некоторых компаний общаться с ботом стал поводом для интеграции операторов в процесс. Однако после инцидента с расистским комментарием Meta решила отказаться от текущего формата тестирования с участием людей.
Вице-президент Meta Superintelligence Labs принес извинения сотруднику компании после жалобы на поведение оператора. В компании не уточнили, полностью ли приостановлены звонки через Muse или лишь исключены операторы из тестов. Представитель Meta Дейв Арнольд подчеркнул:
«Внутренние испытания необходимы для выявления проблем, связанных с безопасностью и конфиденциальностью» - Дейв Арнольд
Meta продолжает сотрудничать с бизнесами, совершенствуя функцию, и планирует масштабный запуск после проведения дополнительных проверок и информирования пользователей о нововведениях.
Случай с расистским комментарием акцентировал внимание на важности этических норм и качества обслуживания в сфере искусственного интеллекта. Как один из лидеров IT-отрасли, Meta несёт ответственность не только за технологические инновации, но и за поддержание стандартов поведения в своих продуктах. Решения компании по формату дальнейших тестирований могут существенно повлиять на доверие пользователей и партнёров к платформе Muse.
Для русскоязычных пользователей важно понимать, что развитие ИИ-технологий требует не только технических, но и этических стандартов, что становится всё более актуальным в современном цифровом мире.
Ситуация с расистским комментарием подчеркивает важность этических стандартов в сфере технологий. В этом контексте стоит обратить внимание на недавнее анонс Meta о новом устройстве Muse Charm, которое обещает улучшить взаимодействие с пользователями и расширить функционал платформы. Это подчеркивает стремление компании к инновациям и качественному обслуживанию.