Оценка смещений ИИ (AI Bias Evaluation) — проверка того, не ухудшается ли качество решений или ответов системы для отдельных групп, сегментов или контекстов.
Что проверяют
Различия error rate.
Различия approval/rejection rate.
Качество language variants.
Сегментные performance gaps.
Стереотипные или систематически искажённые ответы.
Bias зависит от задачи
Нельзя оценить смещение одной универсальной метрикой. Нужны конкретные groups, outcomes и допустимые thresholds для данного use case.