Словарь маркетинга

Классификация рисков ИИ (AI Risk Classification)

Коротко
Классификация рисков ИИ (AI Risk Classification) — разделение AI use cases по уровню потенциального вреда, необратимости и требуемого контроля.

Что повышает риск

  • Работа с чувствительными данными.
  • Финансовые действия.
  • Внешняя коммуникация.
  • Высокая автономность.
  • Необратимые изменения.
  • Масштаб воздействия.

Пример уровней

УровеньПример контроля
LowОбычная review
MediumТестирование + logging
HighHITL + ограниченные permissions
CriticalОтдельное approval / запрет automation

Классифицируйте use case, а не только модель

Одна и та же модель может использоваться для безобидного summarization и для высокорискового action.

Связанные понятия

Итог
Risk Classification определяет насколько строгими должны быть approval, permissions, evaluation и monitoring конкретного use case.
2026-09-21 10:15 AI, MarTech и автоматизация