Аналіз цивілізаційних ризиків, пов'язаних із штучним інтелектом
26 січня 2026 року CEO компанії Anthropic Даріо Амодей опублікував есе, яке аналізує цивілізаційні ризики, пов'язані з появою потужного штучного інтелекту (ШІ). Він описує такий ШІ як "країну геніїв у дата-центрі", що має потенціал змінити світ, але й несе серйозні загрози.
Категорії ризиків
В есе Амодей виділяє п'ять категорій ризиків:
- автономність ШІ,
- зловживання для руйнування,
- зловживання для захоплення влади,
- економічні потрясіння,
- непрямі ефекти.
Він прогнозує, що потужний ШІ може з'явитися протягом 1-2 років і мати можливості, що перевищують здібності нобелівського лауреата, працюючи в 10-100 разів швидше за людину.
Anthropic, компанія, що використовує технологію Constitutional AI для навчання своїх моделей, вже з середини 2025 року впровадила класифікатори для блокування видач, пов'язаних із біозброєю. Ці класифікатори збільшують вартість інференсу для деяких моделей приблизно на 5%. Компанія також підтримала каліфорнійський закон SB 53 та нью-йоркський RAISE Act, які стосуються прозорості в сфері ШІ. Амодей підкреслює, що зростання потужностей ШІ може призвести до витіснення половини всіх початкових позицій білих комірців у найближчі 1-5 років.
У своєму есе Амодей висловлює побоювання щодо того, що потужний ШІ може посилити здатність окремих осіб або малих груп завдавати руйнувань на небаченому раніше рівні. Він зазначає, що геній у кишені кожного може знизити бар'єри для доступу до знань, перетворюючи будь-кого на кандидата наук-вірусолога. Це може створити ризик виникнення глобальної тоталітарної диктатури, особливо в авторитарних державах, які отримують технології стеження.
"Демократія може зникнути, якщо економічні важелі, що підтримують її, будуть знищені." - Даріо Амодей
Амодей також підкреслює, що закликає до розробки захисних заходів проти ризиків автономії, зловживань та економічних потрясінь, сподіваючись, що ШІ може бути використаним для передбачення та запобігання цим проблемам.
Цей есе має важливе значення в контексті сучасних дискусій про етику і безпеку штучного інтелекту, оскільки воно підкреслює необхідність розробки регуляцій і механізмів контролю за технологіями, що швидко розвиваються. З огляду на швидкий прогрес у сфері ШІ, заклики до дій, висловлені Амодеєм, можуть стати основою для формування політики, що забезпечить безпечне і відповідальне впровадження нових технологій у суспільство.