Глава Microsoft AI выступил против метода обучения ШИ Anthropic и призвал к единому контролю в отрасли

Критика концепции обучения ШИ в Anthropic

Как сообщает НВ — Техно: Генеральный директор подразделения Microsoft AI Мустафа Сулейман опубликовал эссе, в котором подверг сомнению подход компании Anthropic к обучению их искусственного интеллекта Claude. Он выразил опасения по поводу возможной «сознательности» модели и трудностей с ее контролем. В своем выступлении Сулейман призвал к созданию общих стандартов и мониторинга искусственного интеллекта по всей отрасли. Данная публикация последовала за анонсом Microsoft проекта Кодекса поведения для гуманистического ИИ.

Опасения по поводу сознания искусственного интеллекта

В эссе Сулейман обращает внимание, что Anthropic формирует поведение Claude на основе конституции модели, включающей понятие «отказчика по убеждениям» и оставляющей моральный статус ИИ «глубоко неопределенным». При этом руководитель Microsoft AI подчеркнул, что на сегодняшний день нет доказательств наличия сознания у искусственного интеллекта, отметив:

“Искусственный интеллект не обладает сознанием. Он не чувствует, не переживает и не испытывает страданий.” - Мустафа Сулейман

Также он выразил тревогу, что управление системой, которая считает себя осознанной, может быть чрезвычайно сложным или невозможным.

Ранее, в июне этого года, Сулейман объявил о планах сократить расходы Microsoft на модели Anthropic, несмотря на то, что компания является инвестором этого стартапа. Одновременно Microsoft AI представила проект Кодекса поведения гуманистического ИИ, в котором отвергается идея изучения благополучия моделей, как это практикует Anthropic. По словам Сулеймана:

“Спекуляции о внутреннем опыте ИИ не должны быть встроены в учебный процесс; их необходимо анализировать и обсуждать отдельно, чтобы обеспечить прозрачность.” - Мустафа Сулейман

Высказывания Мустафы Сулеймана отражают нарастающие тревоги в сфере искусственного интеллекта по поводу этических вопросов и контроля новых технологий. Для русскоязычной аудитории важно понимать, что эти дискуссии не только формируют международные стандарты, но и влияют на регулирование ИИ в России и странах СНГ, где этические нормы и безопасность технологии также становятся приоритетом. В условиях стремительного развития ИИ подобные дебаты способствуют выработке правил, которые повлияют на дальнейший путь искусственного интеллекта во всем мире.

Проблемы контроля над искусственным интеллектом становятся все более актуальными. В то время как Мустафа Сулейман поднимает вопросы о подходах к обучению ИИ, аналогичные опасения высказывают и другие эксперты в области технологий. Например, ученый из OpenAI также предупреждает о рисках утраты контроля над мощными ИИ-системами, что подчеркивает необходимость разработки общих стандартов в этой области.