Штучний інтелект у Китаї може посилити соціальний контроль, прогнозуючи й караючи за майбутню поведінку

Ризики впровадження штучного інтелекту в китайську систему соціального рейтингу

Як повідомляє НВ — Техно: Дослідження, опубліковане в Journal of Sichuan Normal University, попереджає про можливі ризики впровадження штучного інтелекту (ШІ) в китайську систему соціального рейтингу. Автор дослідження, Лінь Цзяньсін, вказує на те, що ШІ може перетворити цю систему на механізм, який не лише оцінює, а й прогнозує поведінку громадян, застосовуючи покарання за дії, які ще не відбулися. Це може призвести до масштабного стеження за громадянами.

Структура китайської системи соціального рейтингу

Китайська система соціального рейтингу складається з кількох окремих механізмів, включаючи:

• фінансові кредитні рейтинги;
• чорні списки людей і компаній;
• місцеві програми винагород і покарань.

Дослідження Стенфордського університету, проведене у 2025 році, показало, що соціальний рейтинг в одному з китайських міст починався з 1000 балів. Оцінка змінювалася залежно від дотримання 389 правил, які передбачали винагороди та покарання, включаючи політичну поведінку, зокрема звернення до державних органів.

Люди з найнижчою категорією рейтингу могли потрапити під поліцейський нагляд, що викликає занепокоєння щодо прав людини і приватності. Сільські жителі мали менше можливостей отримувати винагороди, ніж мешканці міст, що підкреслює соціальну нерівність у системі. Наразі немає доказів створення єдиної загальнонаціональної системи соціального оцінювання на основі ШІ у Китаї, хоча країна активно вивчає можливості використання ШІ в державному управлінні.

Варто зазначити, що технології можуть мати і позитивне застосування, зокрема, ШІ може допомагати виявляти людей, яким загрожує серйозна небезпека або які потребують підтримки.

Проте, використання ШІ для оцінювання громадян може призвести до надмірного втручання у їхнє життя, що підкреслює важливість обережності в його впровадженні. Впровадження штучного інтелекту в систему соціального рейтингу в Китаї викликає серйозні побоювання щодо прав людини та приватності громадян. Це дослідження підкреслює необхідність обережного підходу до використання новітніх технологій у державному управлінні, оскільки вони можуть стати інструментом контролю, а не лише оцінки. У світлі цих ризиків важливо продовжувати дискусії про етичні аспекти використання ШІ, щоб забезпечити баланс між технологічними досягненнями та правами людини.

У контексті зростання технологій штучного інтелекту, важливо також враховувати, як такі інновації можуть впливати на пам'ять та свідомість людей. Дослідження виявляють, що вплив діпфейків може призводити до формування хибних спогадів, що, в свою чергу, може мати серйозні наслідки для політичних рішень та громадської свідомості. Розуміння цих аспектів стане важливим кроком у аналізі ризиків, пов'язаних із впровадженням штучного інтелекту в різних сферах життя.