В OpenAI и Google DeepMind предупредили о риске "вымирания человечества": причина

Сотрудники OpenAI и Google DeepMind предупредили о риске "вымирания человечества" из-за искусственного интеллекта (ИИ).

Как передаёт "Хвиля", об этом сообщает агентство Reuters.

Обеспокоенность по поводу рисков, связанных с этой технологией, выразила группа бывших и нынешних сотрудников компаний, занимающихся искусственным интеллектом (ИИ), включая OpenAI и Google DeepMind.

Так, в открытом письме 11 бывших и нынешних сотрудников OpenAI, а также одного бывшего и одного нынешнего сотрудника Google DeepMind говорится, что финансовые мотивы компаний, занимающихся ИИ, препятствуют эффективному контролю.

"Мы не верим, что специальные структуры корпоративного управления достаточны для изменения этой ситуации", - пишут они.

Кроме того, авторы письма предупреждают о рисках нерегулируемого ИИ, начиная от распространения дезинформации до потери контроля над независимыми системами ИИ и углубления существующего неравенства, что может привести к "вымиранию человечества".

При этом исследователи выявили примеры генераторов изображений от компаний, включая OpenAI и Microsoft, которые создают фотографии с дезинформацией, связанной с выборами, несмотря на политику против такого контента.

Более того, в письме говорится, что компании, занимающиеся ИИ, имеют "слабые обязательства" по обмену информацией с правительствами о возможностях и ограничениях своих систем. Авторы также добавили, что на эти фирмы нельзя полагаться, чтобы они добровольно делились этой информацией.

Как отмечается, это открытое письмо является очередным, которое вызывает обеспокоенность по поводу безопасности технологии генеративного ИИ, которая может быстро и дешево создавать текст, изображения и аудио, похожие на человеческие.

Таким образом, группа призвала компании, занимающиеся ИИ, способствовать процессу, при котором нынешние и бывшие сотрудники могут выражать обеспокоенность по поводу рисков, и не применять соглашения о конфиденциальности, которые запрещают критику.

Напомним, Apple представила новые iPad Pro на M4, iPad Air и Apple Pencil Pro.

Смотрите также: