Anthropic запускает FlashProve — криптографическое решение для проверки источника ответов ИИ

FlashProve - новая экспериментальная разработка Anthropic

Как сообщает НВ — Техно: Компания Anthropic создала инновационную систему под названием FlashProve, предназначенную для криптографической проверки того, какая именно модель искусственного интеллекта сгенерировала конкретный ответ. Такая технология особенно востребована в сферах, где критически важна подлинность данных - например, в государственных структурах и финансовых организациях, где требуется точное подтверждение используемой модели в контрактных обязательствах.

FlashProve связывает ИИ-модель с уникальным математическим отпечатком, сохраняя при этом в тайне внутренние параметры модели. Это позволяет обнаруживать случаи подмены более дорогих моделей на менее затратные, что важно для контроля расходов на обслуживание мощных ИИ-систем. Однако Anthropic подчёркивает, что подтверждение происхождения ответа не означает гарантированную точность или безопасность результата.

Технические детали и открытость проекта

Компания уже опубликовала техническую документацию и часть исходного кода FlashProve, хотя пока не интегрировала эту технологию в свою модель Claude. В Anthropic отмечают:

«Мы делимся промежуточными результатами, а не завершаем исследовательский цикл.»

При этом они добавляют:

«Цель публикации - дать возможность другим изучить и развить нашу работу.»

Стоит также упомянуть, что недавно компания Mistral представила открытую модель Large 4, которая выступает альтернативой закрытым нейросетям. Это отражает растущий тренд на развитие открытых и прозрачных технологий в области искусственного интеллекта.

Разработка FlashProve подчёркивает важность прозрачности и контроля в применении ИИ, особенно в критически важных сферах, таких как финансы и государственное управление. Надёжные методы верификации становятся ключевыми для предотвращения мошенничества и укрепления доверия к ИИ-технологиям. Для русскоязычных пользователей и компаний это может означать появление новых инструментов контроля и безопасности при использовании искусственного интеллекта, что крайне важно на фоне активного внедрения ИИ в бизнес и госуправление. В дальнейшем развитие подобных систем способно изменить подходы к проверке и применению ИИ в самых разных областях.

Разработка FlashProve от Anthropic подчеркивает важность прозрачности в сфере искусственного интеллекта. В то время как компания активно работает над улучшением технологий, недавние предупреждения о резком развитии ИИ благодаря самообучению также вызывают интерес, открывая новые горизонты для применения ИИ в различных отраслях.