ШІ почав сам формувати упередження при наймі працівників

Вплив штучного інтелекту на формування упереджень при наймі

Як повідомляє НВ — Техно: На основі власного досвіду, ШІ може самостійно формувати нові упередження під час найму. Дослідження, проведене науковцями з Принстонського університету та Університету Чикаго, виявило, що мовні моделі штучного інтелекту можуть самостійно створювати нові соціальні упередження під час відбору кандидатів на роботу. Це відбувається навіть у випадках, коли реальні відмінності між вигаданими групами не існують. Упередження виникають внаслідок прагнення моделей максимізувати успішний результат.

Експеримент, який провели дослідники, базувався на завданні, де кандидатів призначали на різні посади з подальшим зворотним зв'язком про успішність. Усі кандидати мали однакові шанси виконувати будь-яку роботу, однак їх результати почали асоціюватися з певними вигаданими етнічними групами: Tufa, Aima, Reku та Weki. Важливо зазначити, що рівень упереджень у мовних моделей виявився значно вищим, ніж у людей.

Результати дослідження та їх наслідки

Моделі штучного інтелекту продемонстрували здатність самостійно формувати нові соціальні стереотипи щодо вигаданих груп, рідше експериментуючи і більше прагнучи максимізувати успішний результат. В рамках дослідження протестували 15 моделей, серед яких були системи від OpenAI, Anthropic, DeepSeek, Meta, Google та Alibaba. Найсильніше упередження показала модель OpenAI o3, яка найбільш яскраво розділяла кандидатів за вигаданими групами. Новіші та потужніші моделі з розвиненими можливостями міркування частіше демонстрували упередження.

Слід зазначити, що за даними опитування ManPower Group, понад 90% компаній вже використовують штучний інтелект на різних етапах пошуку працівників. Це створює ризики дискримінації, що підтверджується випадком з компанією Workday у США, яка стала відповідачем у колективному позові через дискримінацію кандидатів інструментами ШІ. Колишні працівники Meta також висловили занепокоєння, що система ШІ могла впливати на рішення про скорочення персоналу.

Крім того, алгоритми штучного інтелекту вже неодноразово піддавалися критиці за упереджені рішення у різних сферах, зокрема в охороні здоров'я та під час оцінки кандидатів на оренду житла. Це дослідження ще раз підкреслює необхідність ретельного моніторингу та обережного використання технологій штучного інтелекту в контексті найму та інших важливих рішень.

Ця ситуація вказує на важливість розуміння потенційних ризиків, пов'язаних із використанням штучного інтелекту в процесах найму. Враховуючи, що технології ШІ стають дедалі популярнішими у бізнесі, необхідно розробити етичні стандарти та регуляції, які б запобігали дискримінації та забезпечували справедливий підхід до кандидатів.

Дослідження підкреслює, що, незважаючи на технологічний прогрес, людський контроль і етичний аналіз залишаються критично важливими для підтримки справедливості в процесах прийняття рішень.

У зв'язку з впровадженням штучного інтелекту в процеси підбору кадрів, компанії стикаються з новими викликами. Як свідчить статистика, понад 90% підприємств активно використовують ШІ на різних етапах найму, що може призводити до ризиків дискримінації. Цікаво, що, незважаючи на скорочення робочих місць, компанії продовжують розширювати свої штати. Додаткову інформацію про цю тенденцію можна знайти у нашій статті щодо витіснення працівників штучним інтелектом.