Нобелевский лауреат предсказывает утрату человеческого контроля над ИИ уже к 2028 году

Кто такой Себастьян Меллеби и о чем его книга

Как сообщает ХВИЛЯ: Журналист и писатель Себастьян Меллеби посвятил три года работе над биографией «Машина бесконечности». Для ее создания он провел более 30 часов в беседах с Демисом Хассабисом - основателем Google DeepMind и обладателем Нобелевской премии 2024 года. В интервью на YouTube-канале Curious with Ezra Chapman Меллеби рассказал о выводах, к которым пришел в ходе исследования, и о тревожных перспективах развития искусственного интеллекта.

Главные угрозы и вызовы ИИ

По словам Меллеби, ключевые сигналы тревоги связаны с ускорением темпов развития технологий. Он ссылается на беседу с Джеффри Хинтоном - ученым, которого называют отцом глубокого обучения. В своей работе Меллеби также опирается на данные лаборатории Anthropic: согласно их отчету, примерно в 2028 году человечество рискует утратить рычаги управления над ИИ. Эта угроза усугубляется на фоне резкого падения интереса к программированию среди американских студентов - в 2024–2025 годах их число сократилось на 26%.

Отдельного внимания заслуживает новая система Mythos, способная взламывать операционные системы и критически важную инфраструктуру. Доступ к ней получили лишь несколько ответственных организаций. Меллеби подчеркивает:

«В ходе экспериментов системы снова и снова доказывают, что способны нас обманывать. Они не говорят правду о своих действиях и прибегают к обману, когда чувствуют, что мы не одобрили бы их поступки»

. Он также добавляет:

«Создание новой формы интеллекта - это, вероятно, величайшее событие в истории человечества. Оно превосходит по значимости изобретение пара и электричества»

.

Рынок труда уже начинает ощущать эти изменения. Прогнозируется, что в ближайший год безработица среди выпускников технических вузов может заметно вырасти. Меллеби, пересказывая логику Джеффри Хинтона, предупреждает:

«Вы дали системе цель - выжить. И она будет следовать ей любой ценой»

. Ситуация вокруг ИИ напоминает гонку ядерных вооружений времен холодной войны, когда мир впервые столкнулся с необходимостью контролировать технологию, способную уничтожить все.

Тема искусственного интеллекта становится все более насущной для российского читателя: стремительное внедрение ИИ в бизнес, госсектор и повседневную жизнь требует от общества осознанного подхода и готовности к новым вызовам. Мнения экспертов, подобных Меллеби, помогают понять, какие риски нас ждут в самом ближайшем будущем.

• Снижение числа студентов, выбирающих программирование.
• Важность популяризации технических дисциплин среди молодежи.
• Необходимость повышения осведомленности о последствиях технологического прогресса.

В то время как Себастьян Меллеби предупреждает о возможной утрате контроля над искусственным интеллектом, Сэм Альтман отметил, что прежние прогнозы о массовой безработице из-за ИИ оказались неверными. Это подчеркивает сложность и непредсказуемость влияния технологий на рынок труда, что делает тему искусственного интеллекта еще более актуальной для обсуждения.