Дональд Трамп ввел обязательную проверку ИИ-моделей перед их запуском
5 июня в 16:10 Дональд Трамп утвердил документ, который вводит государственный контроль за наиболее продвинутыми системами искусственного интеллекта. Суть нововведения — проверять такие модели на безопасность еще до того, как они появятся на рынке. Однако процесс принятия затянулся, а итоговые требования оказались мягче изначальных из-за давления со стороны IT-гигантов.
Что изменилось в финальной версии указа
Изначально планировалось, что компании смогут добровольно тестировать свои модели за 90 дней до релиза. В итоге срок сократили до 30 дней, а участие в проверке стало не обязательным, а лишь рекомендуемым. В ходе оценки будут выяснять, насколько развиты кибервозможности модели и можно ли отнести ее к категории «передовых» — такой статус может ограничить ее распространение и продажу.
Представители технологической отрасли, включая Дэвида Сакса и Илона Маска, опасались, что жесткие нормы затормозят прогресс в сфере ИИ. В то же время Джордж Осборн, глава отдела OpenAI по взаимодействию с государствами, высказался иначе:
«Демократические правительства обязаны играть ключевую роль в том, как такие технологии применяются и внедряются». — Джордж Осборн
Он также добавил, что «властям следует создавать мощные регулирующие органы, но при этом оставлять им пространство для маневра в будущем».
Критики называют новый указ слабым и сомневаются, что он обеспечит должный контроль за развитием ИИ. Споры вокруг этой темы не утихают: найти баланс между строгим регулированием и свободой инноваций — одна из главных задач современного общества.
Этот указ подчеркивает, насколько важно регулировать технологии ИИ, ведь их развитие способно серьезно повлиять на безопасность и этику. Смягчение требований, в свою очередь, показывает, как сильно индустрия может лоббировать свои интересы, опасаясь замедления прогресса. Важно, чтобы дальнейшие дискуссии касались не только ограничений, но и того, как использовать ИИ во благо, не подвергая риску общество.
Контекст для российского читателя: подобные меры регулирования ИИ активно обсуждаются и в других странах — например, в Евросоюзе недавно приняли свой AI Act. Россия также разрабатывает подходы к контролю за нейросетями, но пока без жестких обязательных проверок перед запуском.
В условиях растущей обеспокоенности по поводу контроля над ИИ, лауреат Нобелевской премии подчеркивает, что человечество может столкнуться с серьёзными рисками в случае утраты контроля над искусственным интеллектом. Это поднимает важные вопросы о том, как правильно регулировать новые технологии, чтобы обеспечить безопасность и этические нормы в их использовании.