Что считается инцидентом
- Опасное или неверное действие.
- Массовые hallucinations.
- Утечка или неправильное использование данных.
- Unexpected tool execution.
- Security abuse.
- Сильная деградация качества.
Этапы response
- Detect.
- Contain.
- Disable or limit risky capability.
- Investigate logs.
- Correct data/prompt/model/tooling.
- Validate fix.
- Document lessons.