Випадки діпфейків у Meta
Наглядова рада Meta розглянула два випадки відео, створених із використанням штучного інтелекту, та визнала, що правила компанії щодо ШІ-контенту не захищають користувачів від діпфейків. Після аналізу цих випадків рада закликала Meta посилити модерацію та маркування матеріалів, створених ШІ. Компанія погодилася видалити проблемні ролики та має 60 днів на відповідь на рекомендації ради.
Перший та другий випадки
Перший випадок стосувався відео зі шотландським політиком, в якому його голос і зовнішність були використані для створення образливого ролика про біженців та білих людей. Meta спочатку не видалила це відео після отримання скарги, пояснивши, що ролик не був позначений організаціями з переліку довірених партнерів і не впливав на голосування або виборчі процеси. Автор відео не вказав, що ролик створений штучним інтелектом, тому позначки про використання ШІ не було. Однак Oversight Board дійшла висновку, що відео порушує правила Meta щодо мови ненависті і має бути видалене. Після рішення ради Meta погодилася видалити ролик.
Другий випадок стосувався відео з жінкою, яка розповідала про просвітницьку роботу у сфері менструального здоров’я. Фрагменти цього відео були цифровим способом змінені, щоб висміяти жінку. Meta автоматично закрила скаргу на цей допис та подальшу апеляцію. Цей матеріал також не мав позначки про використання ШІ. Після втручання Oversight Board коментарі з образами були видалені, і Meta заявила, що також видалить цей допис. Oversight Board зазначила проблему використання діпфейків для переслідування людей та відсутність послідовного маркування матеріалів, створених ШІ.
Співголова Oversight Board Памела Сан Мартін зауважила, що "діпфейки дедалі частіше використовують для переслідування та замовчування жінок, які беруть участь у публічних дискусіях".
Рада раніше критикувала підхід Meta до ШІ-контенту та пропонувала змінити правила маркування, які зазвичай мають вигляд невеликого банера "AI Info". Рада також рекомендувала Meta пріоритетно перевіряти матеріали, які можуть бути створені ШІ, під час надходження скарг.
Meta має 60 днів, щоб відповісти на останні рекомендації Oversight Board. Дата публікації новини - 18 вересня, 12:09.
Ці рішення підкреслюють серйозність проблеми діпфейків та їх вплив на суспільство, зокрема на жінок, які можуть стати жертвами цькування через неправомірне використання їхнього зображення. Заклик до Meta посилити контроль за ШІ-контентом є важливим кроком у боротьбі з дезінформацією та зловживаннями в онлайн-просторі. З огляду на зростаючу роль штучного інтелекту в створенні контенту, ці рекомендації можуть стати основою для формування нових стандартів безпеки в соціальних мережах.
Використання штучного інтелекту в створенні контенту викликає серйозні занепокоєння, оскільки діпфейки стають інструментом для маніпуляцій. Проблеми, пов’язані з етикою та безпекою в інтернеті, зокрема, можуть призвести до ситуацій, коли онлайн-простір стає небезпечним для користувачів. Дізнайтеся більше про те, як технології формують ризики в інтернеті та які наслідки це може мати для суспільства.