В Кремниевой долине обсуждают угрозы и перспективы сверхинтеллекта, который может заменить человека

Искусственный интеллект, способный превзойти человека

Как сообщает НВ — Техно: В Кремниевой долине активно ведутся дебаты о том, что сверхинтеллектуальные системы могут превзойти человеческий разум и поставить под вопрос само существование человечества. Темы трансгуманизма, рисков, связанных с развитием ИИ, а также международное соперничество в этой области вызывают живой интерес у технологов и инвесторов. Эксперты высказывают разные взгляды на то, каким образом такие технологии могут изменить наше будущее.

Идея о том, что со временем искусственный интеллект превзойдет человеческий мозг, формировалась в Кремниевой долине на протяжении многих десятилетий. В 1987 году американский ученый в области ИИ и робототехники Ганс Моравек предполагал, что машины могут стать гораздо сложнее людей, а сознание человека потенциально перенесут в цифровой формат. Это гипотетическое появление постбиологических существ, способных заменить человечество, является одним из центральных постулатов трансгуманизма.

Руководители ведущих технологических компаний предупреждают о возможных опасностях, которые несет сверхинтеллект, но при этом продолжают поддерживать его развитие. Генеральный директор компании Anthropic Дарио Амодей призывает замедлить создание новых продвинутых моделей ИИ, отмечая:

“Необходимо приостановить развитие передовых ИИ-систем, однако лидерство Китая в этой сфере может стать серьезной угрозой для США и всего мира.” - Дарио Амодей

Инвестор Питер Тиль выражает мнение, что технологии позволят людям преобразовывать собственное тело и сознание. В свою очередь, Марк Андриссен в своем «Манифесте технооптимиста» критикует страхи, связанные с экзистенциальными рисками, и отвергает принцип излишней осторожности при внедрении инноваций.

Технологии и будущее человечества

Известный предприниматель Илон Маск поддерживает развитие технологий, способных обеспечить долгосрочное выживание человека, а компания SpaceX ставит цель сделать человечество межпланетным видом. Ганс Моравек также отмечал, что будущие машины могут стать своего рода «наследниками» человечества, и люди должны передать им управление, когда сами перестанут вносить значимый вклад в развитие.

Философ Дерек Шиллер в 2017 году рассматривал идею создания искусственных форм жизни вместо людей, что подчеркивает сложность и неоднозначность вопроса о роли человека в грядущей эпохе. В 2023 году глава OpenAI Сем Альтман заявил, что человечество может остаться биологическим этапом на пути к цифровому разуму или же объединить биологические и искусственные формы существования.

Обсуждения в Кремниевой долине отражают растущие опасения научного сообщества по поводу развития ИИ и его влияния на будущее общества.

Эти разговоры затрагивают не только технические, но и этические, а также социальные аспекты, которые возникают перед человечеством на фоне стремительного прогресса в области искусственного интеллекта. Ученые и предприниматели пытаются найти баланс между инновациями и безопасностью, что подчеркивает необходимость междисциплинарного подхода в решении проблем, связанных с новыми технологиями. Для русскоязычной аудитории важно понимать, что эти вызовы актуальны и глобальны, а их решение будет влиять на фундаментальные ценности и будущее всего человечества.

Вопросы, связанные с контролем над мощными искусственными интеллектами, становятся все более актуальными. Недавние предупреждения ученого из OpenAI подчеркивают важность осознания рисков, связанных с развитием ИИ, и необходимости принятия мер для предотвращения потенциальных угроз. Более подробно о том, как потеря контроля над такими системами может повлиять на наше будущее, можно узнать в другом исследовании.