Зустріч історика Ювала Ноя Харарі та Мустафи Сулеймана
У серпні 2026 року в Лондоні відбулася зустріч історика Ювала Ноя Харарі та керівника Microsoft AI Мустафи Сулеймана. Під час обговорення вони розглянули розвиток штучного інтелекту (ШІ), його вплив на суспільство, можливості та ризики, а також питання контролю над надінтелектом і пошуку істини. Відеозапис цієї розмови було опубліковано в журналі The Humanist Review of AI.
Учасники зустрічі акцентували увагу на стрімкому розвитку ШІ протягом останніх 5-10 років. Зокрема, було зазначено, що на початок 2026 року близько п'яти корпорацій у США і кілька в Китаї контролюють основні технології ШІ. Харарі зазначив, що за 10-15 років ШІ, що працюватиме в одному дата-центрі, зможе істотно вплинути на ситуацію в світі. Відзначалося, що соціальні мережі, які з'явилися приблизно 15 років тому, мають комерційний стимул утримувати увагу користувачів і стали причиною нових проблем, таких як клікбейт і неправдива інформація.
Ризики та проблеми контролю
Обговорюючи ризики, Харарі підкреслив, що розвиток ШІ може призвести до створення систем управління, які не зможе зрозуміти ні одна людина, ні все людство разом. Він висловив занепокоєння, що люди можуть втратити здатність осмислювати світ, зазначивши, що
“ядерна зброя дала нам змогу знищити себе фізично. Тепер ми вперше ризикуємо зруйнувати власну психіку.”— Юваль Ной Харарі. Сулейман також додав, що
“якщо людство хоче дати собі раду у 21-му столітті, ми маємо визначити, чого не робитимемо з технологіями.”
Крім того, учасники обговорили питання довіри до систем ШІ. Харарі зазначив, що “Це питання істини повертається, коли ми запитуємо, звідки знатимемо, чи можемо довіряти цим системам.” Вони також торкнулися теми рекурсивного самовдосконалення ШІ, яке піддається контролю розробників, але може вийти з-під контролю при збільшенні ресурсів.
Зустріч також стосувалася потреби в гуманістичному ШІ, метою якого є зменшення страждань і поліпшення добробуту людей. Харарі підкреслив, що відповідальність за цілі й поведінку надінтелекту має залишатися в руках людей. “Якщо створимо сутність із надінтелектом, щоб зменшувати людські страждання, як подбаємо про те, щоб вона й надалі дотримувалася цієї мети?” — запитав він.
Обговорення також включало порівняння ШІ з ядерною та біологічною зброєю, де останні можна контролювати через їхню руйнівну природу. Учасники визнали, що темп розвитку ШІ перевищує темпи адаптації людства, що створює нові виклики. Сулейман зазначив, що “ми зазвичай обираємо те, що легко оцінити, наприклад, смертність дітей від хвороб”, акцентуючи на важливості усвідомлення довгострокових наслідків технологічних змін.
Зустріч Харарі та Сулеймана підкреслила критичні питання, пов'язані з розвитком ШІ, такими як довіра між розробниками і суспільством, темп змін, виклики самоусвідомлення і розуміння свідомості. Вони закликали до відкритості і прозорості в розробках, а також до законодавчого регулювання, щоб забезпечити безпеку суспільства в умовах швидкого технологічного прогресу.
Зустріч, що відбулася, відображає зростаючу стурбованість щодо етичних і соціальних наслідків впровадження ШІ в різні сфери життя. Учасники обговорення підкреслили, що стрімке зростання технологій потребує уваги з боку суспільства, щоб уникнути потенційних загроз. Висловлені ідеї про необхідність контролю і відповідальності за технології можуть стати основою для подальших дискусій на глобальному рівні.
Обговорення Ювала Ноя Харарі та Мустафи Сулеймана також підкреслило важливість мови в контексті розвитку штучного інтелекту. Як зазначає Харарі, мова може стати не лише інструментом комунікації, але й агентом загрози для співпраці та контролю людства. Більш детально про цю тему можна дізнатися у нашій статті про роль мови у революції ШІ.