Человек в контуре принятия решений (Human-in-the-loop, HITL)
Коротко
Человек в контуре принятия решений (Human-in-the-loop, HITL) — схема, в которой критические действия ИИ требуют человеческой проверки, подтверждения или вмешательства.
Где нужен HITL
Публикация чувствительного контента.
Изменение больших бюджетов.
Коммуникация с клиентом в спорной ситуации.
Юридически значимые действия.
Удаление или изменение важных данных.
Уровни контроля
Модель
Пример
Human Review
Человек проверяет output
Human Approval
Действие невозможно без подтверждения
Human Override
Можно остановить или отменить действие
Escalation
Агент передаёт сложный случай человеку
HITL должен быть операционным
Нужно определить не только «человек проверяет», но и кто именно, при каком risk threshold, в какой срок и что происходит при отсутствии ответа.