Словарь маркетинга

Реагирование на инциденты ИИ (AI Incident Response)

Коротко
Реагирование на инциденты ИИ (AI Incident Response) — процесс обнаружения, ограничения, расследования и предотвращения повторения проблем в AI-системах.

Что считается инцидентом

  • Опасное или неверное действие.
  • Массовые hallucinations.
  • Утечка или неправильное использование данных.
  • Unexpected tool execution.
  • Security abuse.
  • Сильная деградация качества.

Этапы response

  1. Detect.
  2. Contain.
  3. Disable or limit risky capability.
  4. Investigate logs.
  5. Correct data/prompt/model/tooling.
  6. Validate fix.
  7. Document lessons.

Что должно быть заранее

ЭлементПример
OwnerКто принимает решение об отключении
SeverityУровни инцидентов
Kill SwitchКак остановить action
LogsЧто нужно для расследования
CommunicationКого уведомить

Связанные понятия

Итог
AI Incident Response обеспечивает быстрое ограничение ущерба и превращает сбой в улучшение системы контроля.
2026-09-21 10:15 AI, MarTech и автоматизация