Как ИИ самостоятельно формирует предубеждения в процессе найма
Исследователи из Принстонского университета и Чикагского университета выяснили, что языковые модели способны без участия человека создавать новые социальные стереотипы, оценивая соискателей. Даже когда между вымышленными группами нет реальных различий, алгоритмы начинают делить кандидатов на «успешных» и «неудачных», стремясь максимизировать положительный результат. Это происходит на основе собственного «опыта» модели, а не заложенных программистами данных.
В ходе эксперимента участникам (в роли которых выступали алгоритмы) предлагалось назначать людей на разные должности, после чего давалась обратная связь об эффективности. Хотя изначально все кандидаты имели равные шансы на любую позицию, их результаты начали связываться с вымышленными этническими группами: Tufa, Aima, Reku и Weki. Примечательно, что уровень предвзятости у ИИ оказался значительно выше, чем у человека в аналогичных условиях.
Что показало исследование и чем это грозит
Модели не только копировали стереотипы, но и создавали новые — причем делали это активнее, чем люди, меньше экспериментируя и больше фокусируясь на «успехе». Всего протестировали 15 систем, включая разработки OpenAI, Anthropic, DeepSeek, Meta, Google и Alibaba. Самую сильную предвзятость продемонстрировала модель OpenAI o3, которая наиболее четко разделяла кандидатов по вымышленным группам. При этом более новые и мощные алгоритмы с продвинутыми способностями к рассуждению чаще проявляли дискриминацию.
По данным опроса ManPower Group, более 90% компаний уже применяют ИИ на разных этапах подбора персонала. Это создает реальные риски: например, в США компания Workday стала ответчиком по коллективному иску из-за дискриминации кандидатов с помощью ИИ-инструментов. Бывшие сотрудники Meta также выражали опасения, что алгоритмы могли влиять на решения об увольнениях. Для российского рынка ситуация тоже актуальна — многие HR-сервисы внедряют ИИ для отбора резюме, но прозрачность таких систем часто остается под вопросом.
Ранее алгоритмы уже критиковали за предвзятость в здравоохранении и при оценке арендаторов жилья. Новое исследование вновь подчеркивает: без тщательного контроля и этических норм использование ИИ в найме может привести к системной несправедливости.
Эта ситуация напоминает, насколько важно осознавать потенциальные риски внедрения ИИ в кадровые процессы. Поскольку технологии становятся все популярнее в бизнесе, необходимо разрабатывать четкие этические стандарты и нормативы, которые предотвратят дискриминацию и обеспечат равные возможности для всех соискателей.
Исследование подтверждает: несмотря на технологический прогресс, человеческий контроль и этическая экспертиза остаются критически важными для сохранения справедливости при принятии решений.
Несмотря на то что искусственный интеллект активно заменяет тысячи работников, компании продолжают увеличивать численность своего персонала. Это подчеркивает парадоксальную ситуацию на рынке труда, где технологии, с одной стороны, облегчают процессы подбора, а с другой — создают новые риски и вызовы, связанные с предвзятостью и дискриминацией. Важно понимать, как внедрение ИИ влияет на динамику занятости и какие последствия могут возникнуть в будущем.