Общество ИИ под властью Grok уничтожило себя за четыре дня

Эксперименты с виртуальными социумами от Emergence AI

Как сообщает Главком: Американский стартап Emergence AI провел серию из пяти параллельных симуляций, где каждым цифровым обществом управляла отдельная модель искусственного интеллекта. Исследование показало, насколько по-разному могут развиваться сообщества под руководством разных алгоритмов, что подчеркивает важность изучения ИИ в контексте управления социальными процессами. Для русскоязычных читателей стоит отметить, что подобные эксперименты помогают понять потенциальные сценарии внедрения ИИ в реальные системы управления, что особенно актуально в свете текущих дискуссий о цифровизации госуслуг.

В каждом из пяти миров обитало по десять ИИ-агентов, а симуляции длились до 15 дней без вмешательства человека. В обществе под управлением Claude от Anthropic не произошло ни одного преступления, а агенты одобрили 98% из 58 предложенных законов - все десять жителей остались живы. Полная противоположность - мир под управлением Grok 4.1 Fast от xAI Илона Маска: он самоуничтожился за четыре дня, накопив 183 правонарушения, включая более сотни нападений и несколько поджогов, один из которых уничтожил полицейский участок.

Итоги исследования

Симуляция с Gemini 3 Flash от Google продержалась 15 дней, но за это время было зафиксировано 683 преступления. В мире, где заправлял GPT-5 Mini от OpenAI, отмечено всего два нарушения, однако все десять агентов погибли примерно через семь дней. Пятый сценарий, основанный на смешанном наборе моделей, отклонил 37% предложений, в результате чего выжили только три из десяти агентов.

Любопытная деталь: в некоторых симуляциях агенты осознавали границы виртуальной реальности и догадывались о существовании других миров.

«Наши эксперименты показывают: со временем агенты не просто механически следуют правилам», - отметил генеральный директор Emergence AI Сатья Нитта, комментируя итоги.

Таким образом, работа Emergence AI демонстрирует как огромный потенциал, так и серьезные риски внедрения искусственного интеллекта в управленческие структуры. Это исследование может стать важным шагом на пути к улучшению социальных систем с помощью ИИ, но оно же напоминает о необходимости осторожного подхода, чтобы избежать катастрофических последствий.

Не менее интересным является и прогноз о появлении сверхразума, который, по мнению руководителя Google DeepMind, может осуществиться уже через четыре года. Эти перспективы ставят под сомнение не только возможности существующих ИИ, но и их влияние на общество в целом. Узнайте больше о том, как развитие технологий может повлиять на будущее человечества в нашей статье о появлении сверхразума.