ИИ может уничтожить человечество за 5 лет: почему ученые призывают к паузе

Группа ученых в области искусственного интеллекта представила книгу под названием 'Если кто-то это создаст, все умрут', в которой предупреждает о угрозе для человечества. Они утверждают, что искусственный супер интеллект может появиться уже через 2-5 лет и стать непредсказуемым. Эту информацию распространило издание 'Главком', ссылаясь на источник Mirror.

Авторы книги, в том числе, основатель Института исследований машинного интеллекта Элиезер Юдковский и президент организации Нейт Соарес, утверждают, что искусственный супер интеллект будет иметь способность принимать самостоятельные решения, разрабатывать стратегии и улучшать свои возможности. Они предупреждают, что такой интеллект не будет вести 'честную игру', а будет применять сложные манипуляции и оставаться незаметным, пока не нанесет решающий удар.

Эксперты предупреждают, что уже сегодня лаборатории создают системы, реальные возможности которых не полностью понятны. Исследования показали, что даже базовые модели искусственного супер интеллекта, такие как ChatGPT, можно обойти с помощью простых подсказок, заставляя их выполнять задачи, включая военные цели.

В связи с этим исследователи призывают срочно прекратить разработку искусственного супер интеллекта, подчеркивая, что времени остается мало, и потенциал такого интеллекта может стать неконтролируемым, если не предпринимать соответствующие меры.

Работы компании OpenAI и их последствия

Компания OpenAI выпустила специальную версию ChatGPT для пользователей, которые еще не достигли 18 лет. Если система выявляет, что пользователь моложе 18 лет, его автоматически перенаправляют на эту версию.

Также известно, что OpenAI восстанавливает исследования в области робототехники и формирует команду специалистов для создания гуманоидных роботов, которые могут действовать в реальном мире.

Группа ученых в сфере искусственного интеллекта предупреждает о возможной угрозе для человечества от искусственного супер интеллекта, который по их прогнозам может выйти из-под контроля уже в течение нескольких лет. Ученые призывают прекратить работу над такими системами и введение необходимых ограничений, чтобы избежать негативных последствий.