ИИ в HR и C&B: риски, которые важно учитывать при автоматизации решений
Еще несколько лет назад основной вопрос, который обсуждали при внедрении искусственного интеллекта в HR и C&B, звучал достаточно просто: «Где и как его можно применить?».
Сегодня вопрос становится шире: какие решения можно передавать алгоритмам, а какие требуют обязательного контроля со стороны человека?
Для C&B это особенно важно. Искусственный интеллект все активнее используется для анализа рынка труда, оценки компенсаций, прогнозирования текучести, поддержки решений по найму, развитию и вознаграждению сотрудников. При этом вместе с возможностями появляются новые риски: качество исходных данных, непрозрачность рекомендаций, ошибки моделей и вопрос ответственности за итоговое решение.
Для бизнеса проблема заключается не в самом факте использования ИИ. Она возникает тогда, когда результат работы алгоритма начинает напрямую влиять на деньги, карьеру или трудовые отношения с конкретным человеком, а механизм получения этого результата остается недостаточно понятным и контролируемым.
Разберем три ключевых аспекта, которые стоит учитывать C&B-функции.
1. Смещения: ИИ может закрепить проблемы, уже содержащиеся в данных
Один из основных рисков применения ИИ связан с качеством исторических данных.
Модель обучается на существующих данных и выявляет в них закономерности. Если эти данные отражают накопившиеся перекосы или особенности прошлых управленческих решений, алгоритм может воспроизвести их в новых рекомендациях.
Это хорошо иллюстрирует известный кейс Amazon.
Для C&B аналогичный риск возникает уже в других процессах.
Бенчмаркинг и анализ рыночных зарплат
Если алгоритм использует исторические данные о выплатах как один из источников для формирования ориентиров по уровню оплаты, он может принять существующую структуру вознаграждения за «рыночную норму».
Поэтому при автоматизации анализа компенсаций важно разделять:
что исторически платилось сотрудникам и каким должен быть целевой уровень оплаты с учетом рынка, должности, грейда, квалификации и внутренней системы вознаграждения.
Прогнозирование текучести
Модели прогнозирования увольнений могут использовать большое количество параметров. Некоторые из них могут напрямую или косвенно коррелировать с характеристиками, которые не должны определять кадровое решение.
В результате формально нейтральный алгоритм может учитывать признаки, которые выступают косвенными заменителями пола, возраста или других характеристик человека.
Рекомендации по вознаграждению
Наиболее чувствительный сценарий для C&B — использование алгоритмов при принятии решений о зарплате, премии или повышении.
Здесь ошибка модели перестает быть исключительно аналитической. Она превращается в конкретное финансовое последствие для конкретного сотрудника.
Поэтому при использовании ИИ в C&B необходимо контролировать не только точность модели, но и качество данных, на которых она работает, а также логику формирования итоговой рекомендации.
2. Прозрачность: бизнесу недостаточно знать результат, необходимо понимать его основания
Вторая проблема связана с объяснимостью решений.
Современные модели ИИ способны выявлять сложные зависимости в больших массивах данных. Но для пользователя результат может выглядеть предельно просто:
«Рекомендованный диапазон оплаты — X».
Для C&B этого недостаточно.
Руководителю необходимо понимать, какие факторы привели к такому результату и насколько рекомендация соответствует действующей системе оплаты труда, рыночным данным и внутренней политике компании.
Особенно это важно для решений, которые непосредственно влияют на сотрудника.
Если система рекомендует изменить уровень оплаты, возникает вполне естественный вопрос: почему именно такое изменение?
Ответ «так рассчитала модель» с точки зрения управленческого процесса недостаточен.
Международная практика уже движется в сторону большей прозрачности
В Европейском союзе регулирование ИИ строится по риск-ориентированному принципу. Системы ИИ, используемые в сфере занятости и управления работниками, относятся к категории high-risk и подпадают под специальные требования, включая управление рисками, качество данных, документирование, ведение записей, прозрачность и человеческий контроль. При этом сроки применения отдельных требований зависят от конкретных положений AI Act. 2
В Нью-Йорке действует отдельное регулирование автоматизированных инструментов принятия решений в сфере занятости. Local Law 144 требует, в частности, проведения независимого аудита на предмет смещений перед использованием такого инструмента, а также выполнения требований по информированию кандидатов и сотрудников. 3
Это показывает важный для бизнеса тренд: по мере того как алгоритмы начинают влиять на кадровые решения, требования к контролируемости и прозрачности становятся частью самого бизнес-процесса.
3. Ответственность: решение принимает компания, а не алгоритм
Третий вопрос — кто отвечает за результат.
Внедрение ИИ не переносит управленческую ответственность с компании на технологию.
Если система предоставила ошибочную рекомендацию, а на ее основании было принято решение о найме, повышении, вознаграждении или другом кадровом вопросе, само по себе объяснение «так рекомендовала нейросеть» не решает вопрос ответственности.
В России специальное регулирование ИИ продолжает формироваться. В июне 2026 года в Государственную Думу был внесен проект федерального закона № 1271570-8 «О поддержке развития технологий искусственного интеллекта в Российской Федерации». При этом действующее регулирование уже устанавливает требования к обработке персональных данных, которые необходимо учитывать при использовании ИИ в HR и C&B. 4
Например, Федеральный закон № 152-ФЗ предусматривает различные правовые основания для обработки персональных данных, одним из которых является согласие субъекта персональных данных. При этом обработка по поручению оператора не означает автоматического переноса ответственности: в предусмотренных законом случаях ответственность перед субъектом персональных данных за действия привлеченного обработчика несет оператор. 5
Поэтому утверждение «для использования ИИ всегда необходимо отдельное согласие сотрудника» было бы слишком широким. Правовое основание необходимо определять в зависимости от конкретной цели, состава данных, способа обработки и используемой модели.
Для бизнеса это означает необходимость заранее определить:
Отдельное внимание необходимо уделять договорным отношениям с поставщиком технологии: ограничения ответственности в стандартных условиях использования сервиса не должны оставаться без юридической оценки.
Что делать C&B-функции уже сейчас
Не обязательно ждать появления отдельного регулирования каждого сценария применения ИИ.
Для компании гораздо полезнее заранее установить правила использования алгоритмических рекомендаций в процессах, связанных с людьми и деньгами.
1. Разделить рекомендацию и решение
ИИ может анализировать данные, выявлять закономерности и формировать рекомендации.
Но для решений, которые напрямую влияют на оплату труда, карьеру или трудовые отношения, целесообразно определить обязательную роль ответственного сотрудника.
Принцип можно сформулировать следующим образом:
ИИ формирует рекомендацию → специалист анализирует основания → уполномоченное лицо принимает решение.
Это особенно важно для решений с высокой стоимостью ошибки.
2. Контролировать качество исходных данных
Перед внедрением алгоритма необходимо ответить на несколько вопросов:
-
откуда получены данные;
-
насколько они актуальны;
-
как формировалась историческая выборка;
-
какие изменения произошли в системе оплаты труда;
-
не изменились ли должности, грейды и организационная структура;
-
нет ли в данных исторических перекосов;
-
какие показатели непосредственно используются моделью.
Для C&B это означает, что качество данных становится частью методологии управления вознаграждением, а не только задачей ИТ.
3. Проверять рекомендации на систематические отклонения
Контроль должен проводиться не только на уровне общей точности модели.
Необходимо анализировать, не формируются ли устойчивые различия в рекомендациях для сопоставимых групп сотрудников.
Особенно это актуально для систем, влияющих на:
-
уровень оплаты;
-
размер премии;
-
пересмотр заработной платы;
-
продвижение;
-
найм;
-
удержание сотрудников.
4. Требовать объяснимости там, где решение связано с деньгами
Для C&B важна не максимальная сложность модели, а возможность ответить на бизнес-вопрос:
«Почему система предложила именно такой результат?»
Если рекомендация по зарплате сформирована на основе рыночных данных, грейда, должности, опыта, результатов оценки и других факторов, эти факторы должны быть понятны пользователю.
5. Проверять договоры с поставщиками
До внедрения необходимо определить:
-
кто отвечает за качество данных;
-
кто отвечает за результат работы модели;
-
где хранятся данные;
-
используются ли данные клиента для обучения модели;
-
какие меры защиты применяются;
-
как происходит удаление данных;
-
как уведомляется заказчик об изменении модели;
-
какие ограничения ответственности предусмотрены договором.
6. Зафиксировать правила использования ИИ
Компании стоит определить внутренний регламент, который отвечает как минимум на четыре вопроса:
Где ИИ можно использовать как помощника?
Например, для анализа больших массивов данных, подготовки вариантов или поиска закономерностей.
Где обязательно участие человека?
Например, при принятии решений, влияющих на размер вознаграждения или карьеру сотрудника.
Какие решения нельзя полностью делегировать алгоритму?
Это должно определяться с учетом характера процесса, правовых требований и уровня риска.
Как сотрудник или руководитель может оспорить результат?
Если алгоритмическая рекомендация влияет на человека, должен существовать понятный процесс ее проверки и пересмотра.
ИИ в C&B: не отказ от технологии, а новый уровень управления
ИИ может существенно изменить работу C&B-функции.
Он способен ускорить анализ рынка, обработку больших массивов данных, подготовку рекомендаций по вознаграждению, выявление отклонений и моделирование различных сценариев.
Но ценность технологии определяется не количеством решений, которые удалось передать алгоритму.
Она определяется тем, насколько лучше компания начинает управлять затратами на персонал и насколько контролируемыми становятся решения, принимаемые на основе данных.
Поэтому при внедрении ИИ в C&B важно выстроить четкое разделение:
данные → анализ → рекомендация ИИ → экспертная проверка → управленческое решение → контроль результата.
В такой модели искусственный интеллект становится инструментом повышения качества управленческих решений, а не заменой ответственности C&B и бизнеса.
И именно этот подход позволяет использовать преимущества ИИ, не превращая автоматизацию в дополнительный источник финансовых, операционных и репутационных рисков.
Первоисточники и материалы для ссылок в статье
[1] Кейс Amazon — Reuters, 2018. Reuters: Amazon scraps secret AI recruiting tool that showed bias against women
[2] Европейский AI Act — официальный ресурс Европейской комиссии. В частности, требования к high-risk AI, применяемому в сфере занятости, и человеческому контролю. European Commission — AI Act
[3] New York City Local Law 144 — официальный ресурс NYC Department of Consumer and Worker Protection. Automated Employment Decision Tools — NYC DCWP
[4] Российский законопроект об ИИ. В июне 2026 года в Госдуму был внесен законопроект № 1271570-8 «О поддержке развития технологий искусственного интеллекта в Российской Федерации». КонсультантПлюс — законопроект № 1271570-8
[5] Федеральный закон № 152-ФЗ «О персональных данных», статьи 6 и 9. Статья 6 — условия обработки персональных данных · Статья 9 — согласие субъекта персональных данных
Как разделить автоматизацию и экспертную оценку на практике — в статье «Грейды, компенсации, сценарии».