Как языковые модели ИИ создают новые стереотипы
Специалисты Принстонского университета и Университета Чикаго установили, что языковые модели способны вырабатывать свежие социальные предубеждения в ходе найма, даже если между вымышленными категориями соискателей нет объективных различий. Этот эффект проявляется из-за стремления алгоритмов повышать вероятность успешного исхода, что заставляет их быстрее связывать достижения или провалы с конкретной группой.
В рамках эксперимента учёные задействовали четыре условные этнические общности: Tufa, Aima, Reku и Weki. Тестирование прошли 15 моделей ИИ от OpenAI, Anthropic, DeepSeek, Meta, Google и Alibaba. Наибольший уровень предвзятости продемонстрировала система OpenAI o3 — она сильнее других разделяла претендентов по вымышленным признакам.
Почему это важно прямо сейчас
Согласно опросу ManPower Group, свыше 90% организаций задействуют искусственный интеллект на этапах подбора персонала, что подчёркивает злободневность проблемы. При этом компания Workday в США недавно столкнулась с коллективным иском из-за дискриминации соискателей, вызванной работой AI-инструментов. Подобные инциденты наглядно демонстрируют реальные риски использования таких технологий.
Бывшие сотрудники Meta также утверждали, что алгоритмы могли влиять на решения о сокращении штата, что лишь подтверждает: предвзятость способна серьёзно сказываться на бизнес-решениях. В целом итоги этого исследования напоминают о необходимости осторожно внедрять ИИ в HR-процессы и управление кадрами.
Полученные данные раскрывают потенциальные угрозы, сопряжённые с интеграцией ИИ в деловую практику, особенно в сфере рекрутинга. Когда большинство компаний полагается на автоматизацию для ускорения процедур, важно понимать: такие системы не всегда безопасны и могут провоцировать неожиданные последствия, включая новые виды дискриминации.
С учетом того, что к 2030 году искусственный интеллект будет выполнять до 60% задач в HR, важно понимать, как автоматизация влияет на процесс найма и может приводить к возникновению предвзятости. Это подчеркивает необходимость внимательного подхода к внедрению ИИ в кадровую политику, чтобы избежать потенциальных рисков и негативных последствий.