Исследователь OpenAI уходит из-за опасений по безопасности ИИ и предлагает остановить его развитие

Отказ Джейкоба Коксона от работы из-за угроз, связанных с искусственным интеллектом

Как сообщает НВ — Техно: Джейкоб Коксон, 27-летний специалист, ранее трудившийся в OpenAI и Anthropic, объявил о своем уходе, мотивируя это серьезными опасениями по поводу безопасности искусственного интеллекта. По его мнению, неконтролируемое развитие технологий ИИ может представлять риск для человечества, превышающий угрозы ядерного конфликта или климатических изменений. В связи с этим он призвал к введению временного моратория на дальнейшее усовершенствование ИИ-моделей с целью установления международного надзора за их развитием.

В течение трех лет Коксон занимался предварительным обучением ИИ-моделей в обеих компаниях. Он утверждает, что руководители OpenAI и Anthropic нацелены на создание сверхинтеллекта, способного к саморазвитию, однако при этом игнорируют ключевые меры безопасности. Коксон предупреждает, что текущие темпы прогресса в ИИ способны привести к катастрофическим последствиям.

“Искусственный интеллект может уничтожить человечество уже в этом десятилетии.” - Джейкоб Коксон

Обеспокоенность в научных кругах

Подобные опасения разделяют и другие ведущие эксперты, а также руководители в области искусственного интеллекта. Генеральный директор Anthropic Дарьо Амодей не раз выражал свое беспокойство относительно развития ИИ, а его публикации получили репутацию довольно пессимистичных, что свидетельствует о серьезности вызовов. Важно отметить, что в контексте стремительного прогресса в сфере ИИ вопросы этики и безопасности приобретают особое значение и вызывают все более активные обсуждения по всему миру.

Заявление Коксона отражает растущую тревогу профессионального сообщества по поводу отсутствия адекватного регулирования в области искусственного интеллекта. Без жесткого контроля дальнейшее развитие ИИ может обернуться серьезными угрозами для общества. Для русскоязычных специалистов и пользователей важно учитывать эти вызовы, так как внедрение и использование ИИ-технологий становятся все более масштабными и влиятельными в разных сферах жизни.

В условиях растущей обеспокоенности по поводу безопасности искусственного интеллекта, ведущий эксперт OpenAI также призывает к созданию международных стандартов для регулирования этой технологии. Его мнение подчеркивает важность глобального диалога о безопасном развитии ИИ, что становится актуальной темой среди ученых и разработчиков.