Розробники ChatGPT зробили відкриття, яке може загрожувати людству

На початку були співробітники OpenAI, які звернулися до ради директорів компанії з листом. Вони попереджали про небезпеку, яку може створити нове відкриття в області штучного інтелекту. Ця інформація вийшла у ЗМІ і стала однією з причин звільнення генерального директора OpenAI Сема Альтмана.

В компанії не погодилися коментувати цю ситуацію, але в кадровій розсилці для співробітників визнали, що є проєкт з назвою Q*, який може стати великим проривом у розробці всезагального штучного інтелекту (AGI). Нова модель вже з успіхом вирішує математичні проблеми завдяки величезним обчислювальним ресурсам.

Дослідники обговорюють можливості розвитку генеративного штучного інтелекту, зокрема, його здатність до математики. Якщо алгоритм буде вміти вирішувати задачі з математики, то він зможе мислити подібно людині. Це може бути корисно для наукових досліджень. AGI вміє узагальнювати, вивчати й розуміти, що його відрізняє від звичайних калькуляторів.

Дослідники висловили свої обурення і переймання щодо потрапляння штучного інтелекту в небезпечні руки, хоча не уточнили конкретні ризики. Вчені звернули увагу на роботу групи штучного інтелекту, яка досліджує можливості оптимізації моделей ШІ та проведення наукових досліджень. 

Сем Альтман очолював команду, що працювала над програмою ChatGPT, яка стала одним з найпередовіших у своєму роді.

Проект Q* зазнав сумнівів у Reuters, оскільки вони не змогли самостійно перевірити заявлені можливості.

У світі все більше особистостей та організацій зацікавлені в розвитку штучного інтелекту. Багато країн уже використовують ШІ у дипломатичній та пошуковій діяльності. Також штучний інтелект допомагає уряду в пошуку зниклих людей під час воєнних конфліктів.