Anthropic розробляє FlashProve, систему для підтвердження походження результатів ШІ за допомогою криптографії

Експериментальна система FlashProve від Anthropic

Як повідомляє НВ — Техно: Компанія Anthropic розробляє експериментальну систему FlashProve, яка має на меті визначати, яка модель штучного інтелекту (ШІ) видала користувачеві конкретний результат, використовуючи криптографічну верифікацію. Ця технологія допомагає виявляти підміни моделей та підтверджувати походження відповідей, що може бути особливо корисним для урядів та фінансових установ, які потребують перевірки моделей у контрактах.

FlashProve працює, пов'язуючи кожну модель ШІ з математичним відбитком, при цьому ваги моделі залишаються прихованими під час перевірки. Це дозволяє виявляти випадки, коли дорожча модель може бути замінена на дешевшу, з метою скорочення витрат на обслуговування потужніших ШІ-моделей. Хоча підтвердження походження результатів важливо, Anthropic зазначає, що це не гарантує точності чи безпеки відповідей.

Технічні характеристики та відкритість

Компанія вже оприлюднила технічні характеристики та частину коду FlashProve, однак наразі не оголошувала про впровадження цієї технології у модель Claude. Anthropic зазначає:

"Мета цієї публікації - поділитися проміжними результатами, а не представити завершену дослідницьку програму."

Вони також підкреслили, що:

"Ми оприлюднюємо цей матеріал із чіткою метою: щоб інші ознайомилися з нашою роботою, взяли її за основу та вдосконалили."

Крім того, варто відзначити, що раніше компанія Mistral представила відкриту ШІ-модель Large 4 як альтернативу закритим нейромережам, що свідчить про зростаючий інтерес до відкритих технологій у сфері штучного інтелекту.

Розробка FlashProve від Anthropic підкреслює важливість верифікації та прозорості в використанні штучного інтелекту, особливо в критичних сферах, таких як фінанси та державне управління. Це може стати важливим кроком у боротьбі з шахрайством та забезпеченні довіри до технологій ШІ, адже зростаюча популярність відкритих моделей підкреслює потребу у надійних механізмах перевірки їхньої роботи. Подальші дослідження та впровадження подібних технологій можуть суттєво змінити підходи до використання штучного інтелекту в різних галузях.

Розробка FlashProve від Anthropic стає частиною ширшої тенденції у сфері штучного інтелекту, де важливість прозорості та верифікації стає дедалі актуальнішою. У цьому контексті, можливість самовдосконалення ШІ, про яку нещодавно повідомила компанія, може значно вплинути на подальший розвиток технологій та їх застосування в різних сферах.