ШІ може витіснити людей
У Кремнієвій долині активно обговорюють можливість перевершення людей надрозумним штучним інтелектом (ШІ), що може загрожувати існуванню людства. Ці дискусії охоплюють трансгуманізм, ризики розвитку ШІ та конкуренцію між державами у цій сфері. Відомі інвестори та науковці висловлюють різні погляди на те, як технології можуть змінити наше майбутнє.
Протягом десятиліть у Кремнієвій долині розвивається ідея про те, що надрозумний ШІ зрештою перевершить людський інтелект. Американський дослідник штучного інтелекту та робототехніки Ганс Моравек у 1987 році зазначав, що машини з часом можуть стати складнішими за людей, а людський розум може бути перенесений у програмний код. Це припущення підкреслює можливість появи постбіологічних істот, які можуть замінити людей, що є однією з ключових ідей трансгуманізму.
При цьому керівники технологічних компаній застерігають про потенційну загрозу, яку становить надрозумний ШІ для людства, але водночас підтримують його подальший розвиток. Генеральний директор Anthropic Даріо Амодей закликав сповільнити розвиток передових моделей ШІ, зазначивши:
“Сповільнити розвиток передових моделей ШІ, але лідерство Китаю у цій сфері може створити серйозну небезпеку для США та світу.” - Даріо Амодей
Інвестор Пітер Тіль також висловлює свої погляди на це питання, стверджуючи, що “люди зможуть змінювати власне тіло та свідомість за допомогою технологій”. У свою чергу, Марк Андріссен у своєму "Маніфесті технооптиміста" критикує ідеї екзистенційного ризику та принцип обережності в розробці нових технологій.
Майбутнє людства та технології
Ілон Маск, відомий підприємець, підтримує розвиток технологій, які можуть забезпечити довгострокове виживання людства, в той час як SpaceX ставить за мету зробити людство міжпланетним видом. Ганс Моравек також вказував на те, що майбутні машини можуть стати "нащадками" людства, і що люди мають передати їм контроль, коли перестануть бути здатними робити внесок у розвиток.
Філософ Дерек Шиллер у 2017 році розглядав можливість створення штучних істот замість людей, що підкреслює складність і неоднозначність питання про роль людства у світі майбутнього. У 2023 році керівник OpenAI Сем Альтман зазначив, що людство може стати біологічним етапом на шляху до цифрового інтелекту або об'єднати біологічні та цифрові форми життя.
Ці дискусії в Кремнієвій долині свідчать про зростаючу стурбованість у науковій спільноті щодо розвитку ШІ та його потенційного впливу на майбутнє людства.
Обговорення в Кремнієвій долині відображає не лише технічні, але й етичні та соціальні виклики, які постають перед людством у зв'язку з розвитком ШІ. Вчені та підприємці намагаються знайти баланс між інноваціями та безпекою, що підкреслює важливість міждисциплінарного підходу до вирішення проблем, пов'язаних із технологічним прогресом. У майбутньому ці дискусії можуть визначити не лише розвиток технологій, але й сутність людських цінностей у новій епосі інтелектуальних машин.
У контексті цих дискусій варто також звернути увагу на недавні попередження експертів про можливі ризики втрати контролю над надпотужними системами штучного інтелекту. Дослідник OpenAI наголошує на важливості обережного підходу до розробки нових технологій, адже їхня неконтрольована еволюція може мати небезпечні наслідки для суспільства. Детальніше про це читайте у нашій статті про ризики втрати контролю над ШІ.