OpenAI представила модель Sol: эксперты считают её ещё более рискованной, чем Fable

Старт новой ИИ-модели Sol от OpenAI

Как сообщает НВ — Техно: 10 июля, 12:00

Компания OpenAI начала массовое внедрение своей новейшей разработки - модели искусственного интеллекта под названием Sol. По оценкам специалистов, она как минимум не уступает по мощности модели Fable, созданной Anthropic. При этом в США до сих пор отсутствует чёткая и прозрачная система оценки безопасности подобных ИИ-систем. До сих пор не определено ни конкретное ведомство, которое будет отвечать за проверки, ни сами правила проведения таких экспертиз. Ожидается, что финальный регламент должен быть утверждён до начала августа.

Сложности вокруг модели Fable

Ранее американские власти временно ограничили использование модели Fable от Anthropic из-за опасений, что она может применяться для выполнения опасных хакерских атак. Иностранным гражданам было запрещено пользоваться этой моделью. В Anthropic заявили, что сотрудничают с правительством над созданием системы для выявления попыток обхода ограничений и внедрения многоуровневой защиты.

В прошлом месяце администрация США опубликовала указ, в котором обозначены общие контуры плана по оценке передовых ИИ-моделей. Однако, как отмечают эксперты, процесс остаётся крайне неопределённым. Мина Нараянан подчеркнула, что

“у неё недостаточно данных, чтобы судить, насколько надёжна текущая процедура”

. Дин Болл также выразил обеспокоенность, отметив:

“никто не знает, какие именно требования нужно выполнить, чтобы получить разрешение на выпуск таких моделей”

. Энди Конвински добавил, что “даже сотрудники ведущих лабораторий не понимают логику принятия этих решений”.

Генеральный директор OpenAI Сэм Альтман обсуждал запуск Sol с министром торговли Говардом Латником, министром финансов Скоттом Бессентом и директором по кибербезопасности Шоном Кернкроссом. OpenAI также ссылается на независимые проверки, проведённые британским Институтом безопасности ИИ (AISI), SecureBio и Irregular. Перед официальным выходом модель Sol демонстрировалась представителям правительства и узкому кругу пользователей, однако их имена не разглашаются.

По данным СМИ, Альтман предлагал передать администрации до 5% акций OpenAI в рамках проекта Trump Accounts. Примечательно, что президент OpenAI Грег Брокман является крупнейшим известным донором предвыборной кампании Трампа. Эти факты подчёркивают сложные взаимоотношения между технологическими компаниями и государственными органами в вопросах безопасности искусственного интеллекта.

Запуск модели Sol от OpenAI на фоне недостаточной прозрачности в оценке безопасности ИИ в США подчёркивает необходимость чётких правил и стандартов в этой сфере. Ограничения, введённые правительством на использование таких моделей, как Fable, указывают на растущее беспокойство по поводу потенциальных угроз. Взаимодействие между технологическими гигантами и государственными структурами в контексте безопасности ИИ может существенно повлиять на дальнейшее развитие технологий и их регулирование.

В то время как OpenAI продолжает развивать свою новую модель Sol, Белый дом призывает компанию не торопиться с её запуском, чтобы избежать потенциальных рисков. Это подчеркивает важность проведения тщательной оценки безопасности перед внедрением таких мощных ИИ-систем.