Глава Palantir предупредил о судебных рисках и ответственности разработчиков ИИ

Мнение Алекса Карпа о правовых угрозах в сфере искусственного интеллекта

Как сообщает НВ — Техно: 18 сентября глава Palantir Алекс Карп публично высказался о возможных судебных исках против создателей продвинутых моделей искусственного интеллекта. По его словам, опасения связаны с применением технологий и обработкой пользовательских данных. В числе потенциальных ответчиков - компании Anthropic и OpenAI, которые, по мнению Карпа, могут рассчитывать на государственную поддержку, включая вариант частичной национализации.

Карп выделил, что основным источником рисков являются большие объемы данных, часто содержащие конфиденциальную информацию. Он также привёл в пример спор вокруг OpenAI и модели Codex, где математики выразили сомнения в использовании их исследований. OpenAI отрицала прямое копирование, однако не исключала косвенного влияния этих материалов на обучение модели.

Ответственность разработчиков ИИ и возможные последствия

Алекс Карп: «Вопрос регулирования компаний, создающих сложные ИИ-системы, по сути, сводится к определению ответственности за возможный ущерб».

По мнению Карпа, одним из возможных решений является участие государства в капитале таких компаний примерно на 50%, что обеспечит защиту от бесконечной юридической ответственности. Наличие представителей государства в совете директоров или среди акционеров может значительно повлиять на стоимость бизнеса.

Глава Palantir также подчеркнул, что технологические фирмы должны самостоятельно нести ответственность за риски, связанные с их разработками. Он отметил, что инвесторы зачастую недооценивают опасности, сопряжённые с ИИ, и предупредил о серьёзных последствиях для компаний, перекладывающих ответственность на государство.

Согласно последним данным, OpenAI отложила своё первичное публичное размещение акций и не планирует выходить на биржу до 2026 года. Ранее и OpenAI, и Anthropic заявляли о намерениях стать публичными, но текущая ситуация может кардинально изменить эти планы.

Высказывания Алекса Карпа отражают растущую обеспокоенность в индустрии по поводу регулирования ИИ и связанных с ним рисков. Прецеденты с OpenAI и возможные судебные процессы могут подтолкнуть другие компании к пересмотру стратегий управления рисками. Это, в свою очередь, способно повлиять на инвестиционный климат и долгосрочные планы по выходу на фондовый рынок.

Для российской аудитории важно понимать, что развитие технологий ИИ и вопросы их регулирования становятся глобальной темой, влияющей на формирование законодательства и инвестиционные решения в разных странах, включая Россию.

В свете предупреждений Алекса Карпа о юридических рисках для разработчиков ИИ, стоит обратить внимание на недавние события в компании Anthropic. Ученый, покинувший фирму, выразил опасения по поводу контроля над самосовершенствующимися системами. Это подчеркивает растущие проблемы в сфере искусственного интеллекта и необходимость осознания ответственности разработчиков. Более подробно об этом можно узнать в нашей статье по поводу ухода ученого из Anthropic.