Глава Microsoft призывает к ужесточению международных норм по контролю за ИИ: аварийное отключение и обязательные отчёты о сбоях

Важные заявления руководства Microsoft по вопросам регулирования искусственного интеллекта

Как сообщает НВ — Техно: Президент Microsoft Бред Смит выступил за введение более строгих международных правил для искусственного интеллекта. Он подчеркнул необходимость обязательного уведомления о любых инцидентах, связанных с безопасностью ИИ, а также создания механизмов для экстренного отключения потенциально опасных систем. В интервью BBC, опубликованном 12 октября, Смит отметил, что текущие стандарты безопасности, применяемые к бытовым устройствам, таким как стиральные машины или молочные продукты, гораздо строже, чем те, что существуют для ИИ.

“Опыт регулирования других технологий у нас есть. Важно применить эти знания и к искусственному интеллекту.” - Бред Смит

Генеральный директор Microsoft Сатья Наделла также высказал поддержку идее создания аварийных кнопок для остановки работы ИИ в экстренных ситуациях, об этом он сообщил в сообщении в социальной сети X в субботу. По информации Axios, ряд экспертов отрасли предупреждают о риске масштабной катастрофы, связанной с ИИ, в ближайшие полгода - год, что дополнительно подчеркивает важность скорейшего внедрения новых мер безопасности.

Различия в подходах к регулированию искусственного интеллекта

Позиция Бреда Смита заметно отличается от взглядов бывшего президента США Дональда Трампа, который выступает за саморегулирование индустрии и опасается, что чрезмерное регулирование ослабит позиции США в конкуренции с Китаем в области ИИ.

• 29 сентября ведущие технологические компании - Google, Meta, Anthropic, OpenAI, xAI и Nvidia - подписали в Белом доме добровольное соглашение о соблюдении стандартов безопасности ИИ.
• Однако данный документ не предусматривает юридической ответственности за нарушение этих стандартов.

Трамп охарактеризовал эти нормы как морально обязательные, а не юридические.

По мнению Смита, Великобритания может сыграть ключевую роль в формировании международных правил для ИИ. В этом контексте британский Институт безопасности ИИ служит примером для сотрудничества между США и Великобританией.

“Мы уже достигли того момента, когда неконтролируемые ИИ-системы и мощные модели создают угрозу для глобальной кибербезопасности.” - Бред Смит

Призыв Бреда Смита ужесточить регулирование искусственного интеллекта отражает нарастающую обеспокоенность мирового сообщества из-за потенциальных рисков, связанных с неконтролируемым развитием технологий. В то время как одни лидеры считают, что саморегулирование - оптимальный путь, другие, включая Смита, настаивают на формализации требований безопасности, чтобы предотвратить возможные кризисы. Для России и других стран с быстро развивающимися цифровыми технологиями понимание и внедрение подобных международных стандартов становится все более актуальным, поскольку ИИ уже существенно влияет на экономику и общество.

В контексте растущих угроз, связанных с искусственным интеллектом, стоит обратить внимание на недавние призывы Сатьи Наделлы к усилению мер безопасности. Его взгляды перекликаются с мнением Бреда Смита, подчеркивающим необходимость строгого контроля и ответственности в этой сфере. Понимание различных подходов к регулированию ИИ становится особенно актуальным в свете недавних событий и предупреждений экспертов о возможных рисках.