Ситуация вокруг новейшей разработки OpenAI накаляется: администрация Дональда Трампа настаивает на введении строгих ограничений доступа к ней, ссылаясь на риски для безопасности. Глава компании Сэм Альтман уже уведомил сотрудников, что запуск будет поэтапным, и каждый клиент должен будет получить индивидуальное одобрение от правительства США. Таким образом, федеральные власти усилили контроль над передовыми ИИ-системами, реагируя на потенциальные угрозы их применения.
По имеющимся данным, OpenAI планирует в течение нескольких недель расширить круг пользователей новой модели. Однако подготовка к релизу велась в тесном взаимодействии с госорганами, а сама идея ограниченного запуска исходила от Управления национального директора по кибербезопасности и Управления науки и технологической политики. Ещё в начале июня Трамп подписал указ, который предусматривает добровольную передачу новых моделей властям для предварительного тестирования.
Чего добивается администрация Трампа
Власти требуют от OpenAI следовать примеру компании Anthropic, которая не стала открывать массовый доступ к своей наиболее мощной разработке. Anthropic представила модель Claude Mythos в рамках программы Project Glasswing, но она остаётся закрытой для широкой публики и доступна лишь ограниченному числу партнёров. Такие меры вызваны опасениями, что большие языковые модели могут использоваться для создания вредоносного ПО, а некоторые из них способны самостоятельно организовывать атаки с применением программ-вымогателей.
Эта история подчёркивает растущую обеспокоенность по поводу безопасности и этики применения ИИ. Усиление государственного контроля отражает стремление предотвратить возможные угрозы, связанные с недобросовестным использованием технологий. Данный подход способен повлиять на дальнейшее развитие индустрии: теперь компаниям придётся учитывать требования безопасности ещё на этапе разработки продуктов.
В условиях усиливающегося контроля со стороны властей, компании, разрабатывающие ИИ, вынуждены принимать меры для обеспечения безопасности своих технологий. Например, Anthropic внедрила систему верификации пользователей для своей модели Claude, что подчеркивает общую тенденцию к более строгим требованиям в сфере искусственного интеллекта. Это может стать важным шагом к повышению доверия к новым технологиям и предотвращению их потенциального злоупотребления.