ШІ почав сам створювати упередження при наймі

Дослідження мовних моделей штучного інтелекту

Як повідомляє НВ — Техно: Дослідження Принстонського університету та Університету Чикаго виявило, що мовні моделі штучного інтелекту можуть самостійно формувати нові соціальні упередження під час відбору кандидатів на роботу, навіть у випадках, коли між вигаданими групами не існує реальних відмінностей. Це явище виникає через прагнення моделей максимізувати успішний результат, що призводить до швидшого пов'язування успіху чи невдачі з певною групою.

У ході експерименту дослідники використали чотири вигадані етнічні групи: Tufa, Aima, Reku та Weki. Тестування проводилося на 15 моделях штучного інтелекту, розроблених компаніями OpenAI, Anthropic, DeepSeek, Meta, Google та Alibaba. Найбільше упереджень виявила модель OpenAI o3, яка найсильніше розділяла кандидатів за вигаданими групами.

Актуальність дослідження

Згідно з даними опитування ManPower Group, понад 90% компаній використовують штучний інтелект на етапах пошуку працівників, що підкреслює актуальність дослідження. Однак нещодавно компанія Workday в США стала відповідачем у колективному позові через дискримінацію кандидатів, що виникла внаслідок використання інструментів на основі штучного інтелекту. Це свідчить про серйозні наслідки, які можуть мати такі системи.

Крім того, колишні працівники компанії Meta заявили, що система штучного інтелекту могла впливати на рішення про скорочення персоналу, що ще раз підтверджує, що упередження можуть мати значний вплив на прийняття рішень у бізнесі. В цілому, результати цього дослідження підкреслюють важливість уважного підходу до використання технологій штучного інтелекту в процесах найму та управління персоналом.

Отримані результати ілюструють потенційні ризики, пов'язані з інтеграцією штучного інтелекту у бізнес-процеси, зокрема в контексті підбору кадрів. В умовах, коли більшість компаній покладаються на AI для оптимізації процесів, важливо усвідомлювати, що автоматизація не завжди є безпечною і може призводити до непередбачуваних наслідків, таких як нові форми дискримінації.

Цікавим є те, що за прогнозами, до 2030 року понад 60% завдань у сфері управління персоналом будуть виконуватися штучним інтелектом. Це підкреслює важливість розуміння потенційних ризиків, пов'язаних із застосуванням ШІ в процесах найму. Детальніше про вплив технологій на HR-практики читайте в нашій статті про майбутнє HR у епоху штучного інтелекту.