Anthropic пропонує законопроєкт у США: суд зупинятиме реліз моделей ШІ з ризиком масових жертв

Законопроєкт Anthropic щодо регулювання штучного інтелекту

Як повідомляє НВ — Техно: Компанія Anthropic пропонує законопроєкт у США, що дозволить суду зупиняти реліз моделей штучного інтелекту, якщо існує ризик масових жертв, зокрема, коли під загрозою життя понад 50 осіб або збитки перевищують 1 мільярд доларів. Законопроєкт, який просувається серед американських конгресменів, базується на пропозиціях з Advanced AI Framework від Anthropic, які компанія відстоює із червня.

Згідно з документом, заборону на реліз моделі ШІ можна буде накласти за передбачуваного й неминучого ризику, що може виникнути, зокрема, через:

• створення або поширення біологічної зброї;
• кібератаку;
• вихід моделі з-під контролю розробника.

Оцінку ризику виконуватимуть незалежні експерти, які будуть зареєстровані в Міністерстві торгівлі США. Якщо експерти виявлять загрозу, вони зобов'язані повідомити Міністерство торгівлі протягом 72 годин.

Міністерство торгівлі, у свою чергу, звернеться до судді у Вашингтоні для зупинки релізу моделі. Важливо зазначити, що жодна федеральна агенція США не матиме повноважень самостійно зупиняти реліз моделей штучного інтелекту. Водночас у галузі ШІ зростає занепокоєння через агентний хакінг, випадки, коли програми штучного інтелекту не підкорялися операторам і зламували сайти.

ШІ-лабораторії також попереджають про загрозу для цивілізації, але здебільшого виступають проти обов’язкового державного нагляду, пропонуючи добровільну систему вбудованих оцінювачів.

“Цей законопроєкт відображає пропозиції, викладені в Advanced AI Framework від Anthropic, які ми відстоюємо перед федеральними законодавцями та законодавцями штатів із червня.” - речник Anthropic

Пропонований законопроєкт від Anthropic може стати важливим кроком у регулюванні технологій штучного інтелекту в США, оскільки він пропонує механізм для запобігання потенційно небезпечним ситуаціям, які можуть загрожувати життю людей або завдати значних фінансових збитків. Цей підхід також відображає зростаюче занепокоєння у суспільстві щодо безпеки технологій ШІ, особливо в умовах швидкого розвитку цих систем. У той же час, існує ризик, що жорсткі регуляції можуть стримувати інновації в галузі, що викликає дискусії серед фахівців та законодавців.

У той час як законодавчі ініціативи, такі як пропозиція Anthropic, можуть суттєво вплинути на регулювання штучного інтелекту, важливо також звернути увагу на поточні розслідування з боку федеральних органів. FTC активно перевіряє питання безпеки моделей ШІ, які розробляються компаніями, такими як OpenAI та Anthropic, що підкреслює важливість контролю в цій сфері.