Запуск моделі Sol від OpenAI
10 липня, 12:00
OpenAI розпочала широке розгортання моделі штучного інтелекту Sol, яку вважають щонайменше такою ж потужною, як модель Fable від Anthropic. Однак процедура оцінки безпеки моделей штучного інтелекту в США залишається непрозорою. Конкретні правила та відповідальне відомство для оцінки безпеки не визначені, а остаточний механізм має бути погоджений до початку серпня.
Проблеми з моделлю Fable
Модель Fable від Anthropic раніше тимчасово обмежили через побоювання американської влади, що вона може бути використана для виконання небезпечних хакерських завдань. Уряд США заборонив іноземним громадянам користуватися цією моделлю. Anthropic повідомляла про співпрацю з урядом у створенні системи для виявлення спроб обходу обмежень і використання кількох рівнів захисту.
Минулого місяця адміністрація США опублікувала указ, який окреслює загальний план оцінки передових моделей штучного інтелекту. Однак, як зазначають експерти, існує значна невизначеність у процесі. Міна Нараянан зазначила, що
“не має достатньо інформації, аби оцінити, чи є чинна процедура достатньо надійною”та Дін Болл також висловив занепокоєння, вказавши, що
“ніхто не знає, які саме вимоги потрібно виконати, щоб отримати дозвіл на випуск таких моделей”. Енді Конвінскі додав, що “навіть працівники провідних лабораторій не розуміють, як ухвалюються ці рішення”.
Генеральний директор OpenAI Сем Альтман обговорював запуск Sol із міністром торгівлі Говардом Латніком, міністром фінансів Скоттом Бессентом та директором із кібербезпеки Шоном Кернкроссом. OpenAI також посилається на незалежні перевірки, проведені британським Інститутом безпеки ШІ (AISI), SecureBio та Irregular. Перед офіційним запуском модель Sol була продемонстрована представникам уряду та обмеженому колу користувачів, але їхній склад не розкривається.
За повідомленнями ЗМІ, Альтман пропонував передати адміністрації до 5% акцій OpenAI в межах проєкту Trump Accounts. Варто зазначити, що президент OpenAI Грег Брокман є найбільшим відомим донором політичної кампанії Трампа. Ці обставини підкреслюють складну взаємодію між технологічними компаніями та державними органами у сфері безпеки штучного інтелекту.
Запуск моделі Sol від OpenAI в умовах недостатньої прозорості в оцінці безпеки штучного інтелекту в США підкреслює важливість чітких правил та стандартів у цій галузі. Урядові обмеження на використання моделей, таких як Fable, свідчать про зростаючу стурбованість щодо потенційних ризиків. Взаємодія між технологічними компаніями і державними структурами в контексті безпеки штучного інтелекту, зокрема, може суттєво вплинути на подальший розвиток технологій та їх регулювання.
На фоні запуску моделі Sol, яка викликає численні дебати щодо безпеки, варто згадати, що адміністрація Трампа також висловлювала занепокоєння щодо нових технологій штучного інтелекту. Зокрема, уряд закликав OpenAI призупинити вихід нової моделі через потенційні ризики. Ці події підкреслюють, наскільки важливими залишаються питання безпеки в епоху стрімкого розвитку ІТ-технологій.