Самое популярное сейчас
Реклама

Юваль Ной Харари и глава Microsoft AI Мустафа Сулейман: перспективы и угрозы искусственного интеллекта

Юваль Ной Харари и глава Microsoft AI Мустафа Сулейман: перспективы и угрозы искусственного интеллекта
Юваль Ной Харари и глава Microsoft AI Мустафа Сулейман: перспективы и угрозы искусственного интеллекта Фото: ХВИЛЯ

Встреча историка Юваля Ноя Харари с руководителем Microsoft AI Мустафой Сулейманом

Как сообщает ХВИЛЯ: В августе 2026 года в Лондоне состоялась встреча между известным историком Ювалем Ной Харари и главой подразделения искусственного интеллекта Microsoft Мустафой Сулейманом. В ходе беседы они обсудили динамичное развитие ИИ, его влияние на общество, а также связанные с ним возможности и риски. Особое внимание уделялось вопросам контроля над сверхразумом и поиску истины. Запись разговора была опубликована в издании The Humanist Review of AI.

Эксперты отметили, что за последние 5-10 лет технологии ИИ достигли стремительного прогресса. К началу 2026 года около пяти крупных американских компаний и несколько китайских корпораций контролировали ключевые ИИ-системы. Харари подчеркнул, что уже через 10-15 лет одна мощная ИИ-система, располагающаяся в одном дата-центре, способна существенно повлиять на мировую ситуацию. Также поднимался вопрос о социальных сетях, появившихся примерно 15 лет назад, которые из-за коммерческого интереса к удержанию внимания пользователей породили проблемы дезинформации и кликбейта.

Опасности и вызовы управления ИИ

В обсуждении рисков Харари обратил внимание на возможность создания таких управляющих систем ИИ, которые не смогут понять ни отдельные люди, ни человечество в целом. Он выразил опасение, что человечество может утратить способность осмыслять происходящее, отметив:

«Ядерное оружие дало нам возможность физически уничтожить себя. Теперь впервые мы рискуем разрушить собственное психическое восприятие.»

Мустафа Сулейман добавил:

«Если мы хотим успешно существовать в XXI веке, нам необходимо четко определить, какие действия с технологиями мы не допустим.»

Важным аспектом обсуждения стала тема доверия к ИИ-системам. Харари отметил, что вопрос истины становится критичным, когда возникает необходимость понять, насколько можно полагаться на эти технологии. Также была затронута проблема рекурсивного самоусовершенствования ИИ, которое, несмотря на контроль разработчиков, при расширении ресурсов способно выйти из-под контроля.

Кроме того, собеседники говорили о необходимости создания гуманистического ИИ, который ставит целью сокращение страданий и повышение качества жизни людей. Харари подчеркнул, что ответственность за цели и поведение сверхразума должна оставаться за человеком. Он задал вопрос: «Если мы создадим сверхразумное существо для уменьшения человеческих страданий, как гарантировать, что оно будет придерживаться этой миссии в будущем?»

В разговоре также проводились параллели между ИИ и ядерным или биологическим оружием, где последние контролируются благодаря своей разрушительной природе. Участники признали, что скорость развития ИИ значительно превосходит темпы адаптации общества, что порождает новые вызовы. Сулейман подчеркнул важность осознания долгосрочных последствий технологических изменений, отметив: «Мы часто выбираем то, что легко измерить, например, детскую смертность от болезней.»

Дискуссия Харари и Сулеймана выделила ключевые вопросы, связанные с развитием ИИ: доверие между разработчиками и обществом, быстроту изменений, а также сложность понимания сознания и самоосознания. Они призвали к большей открытости, прозрачности в создании ИИ и законодательному регулированию, чтобы обеспечить безопасность общества в эпоху стремительного технологического прогресса.

Данная встреча отражает растущую обеспокоенность по поводу этических и социальных последствий внедрения ИИ в различные сферы жизни. Участники подчеркнули необходимость общественного контроля и ответственности, чтобы минимизировать потенциальные угрозы. Их идеи могут стать фундаментом для дальнейших глобальных дискуссий по вопросам управления новыми технологиями.

Для русскоязычной аудитории важно понимать, что обсуждаемые темы актуальны и для России, где развитие ИИ также идет быстрыми темпами и требует ответственного подхода к регулированию и этике.

В рамках обсуждения Харари также затронул важные аспекты, связанные с вызовами, которые искусственный интеллект ставит перед человечеством. Он акцентировал внимание на том, как язык и коммуникация становятся потенциальными угрозами для сотрудничества и контроля, что подчеркивает необходимость более глубокого анализа рисков, связанных с развитием технологий.

Реклама

Читайте также

Реклама

Реклама

Реклама