Глава Nvidia Хуанг: безопасность ИИ — задача инженеров, а не законодателей

Основные тезисы выступления Дженсена Хуанга на Salesforce Dreamforce

Как сообщает НВ — Техно: 15 сентября на конференции Salesforce Dreamforce генеральный директор Nvidia Дженсен Хуанг заявил, что для обеспечения безопасности искусственного интеллекта не требуется введение новых законодательных норм. По его мнению, ответственность за управление рисками, связанными с ИИ, должна лежать на самих разработчиках технологий. Хуанг подчеркнул, что безопасность - это прежде всего инженерная задача, а не юридическая, и выступил за развитие отраслевого саморегулирования без активного вмешательства государства.

Текущие вызовы в сфере безопасности искусственного интеллекта

Искусственный интеллект представляет собой сложные компьютерные системы, созданные людьми, и, как отметил Хуанг, обеспечение их безопасности возможно через инженерные решения. Он подчеркнул, что стремительное развитие технологий не должно идти вразрез с вопросами безопасности. В ходе конференции обсуждались конкретные случаи, иллюстрирующие необходимость контроля. Например, в 2024 году сбой в программном обеспечении CrowdStrike привел к серьезным сбоям в работе компаний и авиаперевозчиков.

Помимо технических аспектов, в индустрии ИИ возникают и юридические сложности: разработчики сталкиваются с судебными исками, связанными с последствиями взаимодействия пользователей с чат-ботами. В этой связи рассматривается идея о создании международного саморегулируемого сообщества разработчиков ИИ, которое могло бы способствовать повышению безопасности технологий.

"Безопасность - это инженерная задача, а не вопрос правового регулирования." Дженсен Хуанг

Заявления Хуанга акцентируют внимание на важности принятия ответственности самими компаниями за минимизацию рисков, связанных с ИИ, что может повлиять на формирование будущих политик в этой области. В то же время, несмотря на потенциал саморегулирования, вопросы правового обеспечения и защиты интересов пользователей остаются актуальными и требуют совместных усилий общества и государства.

Для русскоязычных специалистов и пользователей важно понимать, что развитие ИИ в России также нуждается в балансе между инновациями и безопасностью, где инженерный подход может стать ключевым элементом в решении возникающих проблем.

В то время как Дженсен Хуанг подчеркивает важность инженерного подхода к безопасности ИИ, ученые из OpenAI также предостерегают о возможных угрозах, связанных с потерей контроля над мощными системами. Такие риски требуют тщательного анализа и обсуждения, что делает актуальным изучение мнений экспертов в данной области. Узнайте больше о потенциальных опасностях, связанных с ИИ, в нашем материале о рисках контроля над сверхмощным ИИ.