Google та DeepMind створили центр вивчення AGI для контролю розвитку штучного інтелекту

Створення нового центру вивчення штучного загального інтелекту

Як повідомляє НВ — Техно: 20 вересня 2023 року стало відомо про створення нового центру вивчення штучного загального інтелекту (AGI), ініційованого компаніями Google та DeepMind. Основною метою цього інституту є розвиток дискусії і контролю за штучним інтелектом, а його керівниками стали Шейн Легг, Джеймс Маніка та Деміс Гассабіс. У рамках роботи центру планується розробка організації в США, яка оцінюватиме найпередовіші моделі штучного інтелекту.

Плани та ініціативи центру

Запропоновано, щоб компанії добровільно подавали свої моделі на перевірку за 30 днів до їх релізу. У подальшому передбачається, що тестування може стати обов'язковою умовою для запуску моделей у США. Методики оцінювання будуть спочатку розроблені у співпраці з компаніями, після чого орган перейде до власних закритих тестів. Правила можуть бути посилені залежно від серйозності ситуації, аж до скоординованого сповільнення розробки, як зазначив Деміс Гассабіс.

Крім того, дослідники безпеки DeepMind Рогін Шах і Анка Драган написали есе про можливість покрокової перевірки міркувань моделей. Інші два есе зосереджені на економічній політиці та принципах людського процвітання в контексті AGI. Відзначено, що генеральний директор компанії Anthropic Даріо Амодей закликав до регулювання темпу розробки передового штучного інтелекту. Ці ініціативи мають на меті забезпечити безпечний розвиток технологій, пов'язаних із AGI.

«Створення центру вивчення штучного загального інтелекту відображає зростаючу стурбованість щодо безпеки і етики у сфері розвитку AI.» - джерело невідоме

Заходи, які плануються для оцінки нових моделей, можуть стати важливим кроком до формування регуляторних рамок для технологій, що мають великий потенціал впливу на суспільство. Залучення компаній до процесу тестування може допомогти виявити ризики на ранніх стадіях і забезпечити відповідність нових розробок етичним стандартам.

В умовах зростаючої уваги до безпеки штучного інтелекту, важливо враховувати й попередження експертів щодо можливих ризиків, пов'язаних із надпотужними AI-системами. Наприклад, дослідник OpenAI наголосив на загрозі втрати контролю над такими технологіями, що підкреслює необхідність обережного підходу до їх розвитку та впровадження.