Проблема дипфейков в Meta: решение Oversight Board
Oversight Board Meta рассмотрела два случая видеороликов, созданных с помощью искусственного интеллекта, и пришла к выводу, что действующие правила компании недостаточно защищают пользователей от дипфейков. После детального анализа инцидентов совет рекомендовал Meta усилить меры модерации и ввести более чёткое маркирование материалов, сгенерированных ИИ. В ответ Meta согласилась удалить спорные видео и обязалась в течение 60 дней предоставить отчёт о выполнении рекомендаций.
Два инцидента с дипфейками
В первом случае речь шла о видео с шотландским политиком, в котором его голос и образ были использованы для создания оскорбительного ролика, направленного против беженцев и представителей белой расы. Meta изначально отказалась удалять это видео, объясняя, что оно не было помечено организациями из списка доверенных партнёров и не влияло на выборы или голосование. Кроме того, автор не указал, что ролик создан с помощью ИИ, поэтому соответствующей отметки не было. Однако Oversight Board признала, что видео нарушает внутренние правила Meta, касающиеся языка вражды, и рекомендовала его удаление. После этого Meta убрала ролик из платформы.
Второй пример касался видео с женщиной, которая рассказывала о просветительской деятельности в области менструального здоровья. Отдельные фрагменты этого видео были цифровым способом искажены с целью высмеять героиню. Meta автоматически отклонила жалобы на этот контент и последующую апелляцию. Также в этом ролике отсутствовала маркировка о применении ИИ. После вмешательства Oversight Board оскорбительные комментарии были удалены, а Meta пообещала убрать сам видео-пост. Совет обратил внимание на проблему использования дипфейков для травли и недостаточную маркировку таких материалов.
Соавтор Oversight Board Памела Сан Мартин подчеркнула, что «дипфейки всё чаще применяются для преследования и запугивания женщин, участвующих в общественных дискуссиях».
Ранее Oversight Board критиковала текущий подход Meta к регулированию ИИ-контента и рекомендовала изменить систему маркировки, которая сейчас представлена небольшим баннером с надписью «AI Info». Совет также настаивал на приоритетной проверке контента, подозреваемого в создании искусственным интеллектом, при поступлении жалоб.
Meta предоставлено 60 дней для ответа на последние предложения Oversight Board. Новость была опубликована 18 сентября в 12:09.
Эти события подчёркивают серьёзность вызова, который представляют дипфейки для общества, особенно в контексте угрозы для женщин, подвергающихся онлайн-агрессии из-за неправомерного использования их образа. Усиление контроля над ИИ-контентом — важный шаг в борьбе с дезинформацией и злоупотреблениями в цифровом пространстве. Учитывая растущую роль искусственного интеллекта в создании медиа, рекомендации Oversight Board могут стать основой для новых стандартов безопасности в социальных сетях, актуальных и для русскоязычных пользователей.
Проблема использования дипфейков в интернете становится все более актуальной, что подчеркивает недавнее заявление гендиректора Pangram о рисках, связанных с переполнением сети контентом, созданным искусственным интеллектом. Более того, вопросы этики и доверия к цифровым материалам требуют не только внимания, но и четких мер со стороны платформ, таких как Meta.