Модель двойника дает прогноз, а не готовое решение. Для решений, которые могут существенно повлиять на трудовые права и карьеру человека, необходимо предусматривать соответствующий уровень человеческого контроля и возможность пересмотра автоматизированной рекомендации.
- Любые решения об увольнении или дисциплинарных мерах.
- Оценка эффективности, которая влияет на зарплату или премию.
- Отказ кандидату на основе автоматического скоринга без проверки специалистом.
- Ситуации с нестандартными обстоятельствами, которые модель не училась распознавать.
Человеческий контроль позволяет учитывать контекст, которого может не быть в данных модели, и пересматривать автоматизированные рекомендации до принятия значимых решений. Это особенно важно в ситуациях, связанных с увольнением, дисциплинарными мерами, вознаграждением и отказом в найме.