Microsoft представила этические нормы для ИИ с запретом на кибератаки, дипфейки и ядерное оружие

Этические стандарты для искусственного интеллекта от Microsoft

Как сообщает НВ — Техно: Компания Microsoft опубликовала свод правил, который задает ключевые ценности, ограничения и недопустимые практики при разработке и применении искусственного интеллекта. Среди запрещенных действий в документе названы:

• проведение кибератак
• создание дипфейков
• применение ядерного оружия

Важным пунктом кодекса является недопущение утраты контроля человеком над системами ИИ. В частности, запрещается использование адаптивных и самоусиливающихся алгоритмов, а также любые методы обхода надзора и манипуляции.

Текст кодекса был опубликован 15 сентября в 07:34 и стал ответом на усиливающиеся опасения по поводу безопасности ИИ, вызванные недавними случаями неконтролируемого поведения интеллектуальных агентов и уходом сотрудника из компании Anthropic. Microsoft вместе с Anthropic, OpenAI и xAI поддержала идею замедления темпов развития ИИ. Генеральный директор Microsoft Сатья Наделла отметил важность разумного подхода, подчеркнув:

'Поддерживаю взвешенный темп ради достижения согласия в целях проектов'. Сатья Наделла

Основные принципы и их значение

В документе содержится прогноз, что в ближайшие десять лет интеллектуальные системы могут превзойти людей в большинстве сфер деятельности. Среди ключевых принципов кодекса - поддержка человека, а не его замена, а также ускорение развития человеческого потенциала. Microsoft подчеркнула, что контроль и регулирование такой мощной технологии - один из важнейших вызовов для человечества.

Новое руководство Microsoft направлено на то, чтобы обеспечить надежное и безопасное внедрение технологий искусственного интеллекта.

Для русскоязычной аудитории важно понимать, что такие инициативы крупных международных компаний влияют на формирование глобальных норм и стандартов в сфере ИИ, которые в конечном итоге определяют и национальные подходы к регулированию данных технологий.

Кодекс поведения Microsoft может стать значимым ориентиром для дальнейшей разработки и внедрения этичных и ответственных решений в области искусственного интеллекта.

В условиях растущих опасений по поводу безопасности искусственного интеллекта, важно также учитывать глобальные тенденции в этой области. Например, недавно в США возникли обвинения против китайских компаний в краже данных из американских моделей, что подчеркивает необходимость строгих этических норм в разработке ИИ. Такие события могут оказать значительное влияние на формирование международных стандартов и подходов к регулированию новых технологий.