Что предлагает Наблюдательный совет Meta для борьбы с сексуализированными дипфейками
Компании Meta поступили рекомендации от её Наблюдательного совета — усилить защиту обычных людей от дипфейков сексуального содержания. Такие материалы предлагается включить в политику, касающуюся сексуальной эксплуатации взрослых. Поводом послужил инцидент, когда Meta не удалила сгенерированное нейросетью видео в Instagram, проигнорировав несколько жалоб. Рекомендации были обнародованы 24 июня в 16:30, и в них подчёркивается, что подобный контент по умолчанию следует считать созданным без согласия человека.
Ключевые инициативы наблюдательного органа
Вот что именно предлагает совет:
- включить сфабрикованные изображения и ролики, созданные искусственным интеллектом, в политику по борьбе с сексуальной эксплуатацией взрослых;
- выделить сексуализированные дипфейки в отдельную категорию в формах для жалоб и апелляций;
- разрешить указывать связанные аккаунты — например, друзей или родственников, которые смогут сообщать о нарушениях от имени пострадавшего;
- внедрить специальную форму для обращения по поводу интимных дипфейков, но пока только для жителей Техаса и Флориды.
Эти меры стали результатом разбирательства, в ходе которого выяснилось, что Meta бездействовала, получая сигналы о дипфейк-видео. На том ролике, сгенерированном ИИ, была запечатлена женщина, поправляющая платье — в нескольких кадрах мелькало её нижнее бельё. Обращение подал друг этой женщины. К тому моменту, когда поступила жалоба, сама девушка уже удалила свой аккаунт. Двое пользователей сообщили о видео, однако Meta никак не отреагировала и не удалила его.
После того как дело дошло до Наблюдательного совета, Meta ограничила показ этого видео несовершеннолетним, но решила, что публикация не настолько нарушает её правила, чтобы её удалять. В компании пояснили: когда поступили первые жалобы, у неё не было доказательств, что человек на видео реален. Если бы сама женщина заявила о ролике, это расценили бы как подтверждение отсутствия согласия — и тогда контент бы удалили.
Совет обязал Meta дать ответ на свои рекомендации, хотя компания не обязана их внедрять. В том самом деле, которое послужило поводом для расследования, Совет отменил решение компании и потребовал удалить видео. В середине 2025 года Совет отметил, что Meta применяет свои правила непоследовательно. А в марте 2025 года он призвал разработать отдельные нормы для контента, созданного ИИ, а не использовать для этого политику по дезинформации. Это произошло после публикации сгенерированного нейросетью видео, якобы показывающего повреждённые здания в израильской Хайфе — его выложил аккаунт, маскирующийся под новостное медиа.
Данный случай отражает растущую обеспокоенность тем, как искусственный интеллект используется для создания материалов, способных навредить репутации и безопасности людей. Рекомендации Наблюдательного совета Meta могут стать сигналом о наступлении новой эры в регулировании ИИ-технологий и их влияния на общество. Кроме того, они подчёркивают, насколько важны механизмы защиты для жертв сексуализированных дипфейков — ведь такие видео нередко применяют для шантажа или травли.
В то время как Meta усиливает меры по защите пользователей от интимных дипфейков, стоит обратить внимание на другие новшества компании. Например, в приложении Meta был обнаружен механизм идентификации лиц, который может изменить подход к безопасности данных пользователей. Узнайте больше о том, как эти технологии могут повлиять на использование смарт-очков, в нашей статье о функции распознавания лиц.