Почему риск выше обычного chatbot
Примеры
- Отправить неверное письмо клиенту.
- Изменить budget/bid.
- Удалить record.
- Опубликовать материал.
- Обновить CRM неверными данными.
- Создать массовые actions из-за prompt injection.
Основные controls
- Least privilege.
- Action allowlist.
- Spend/action limits.
- Human approval checkpoints.
- Observability.
- Rate limits.
- Kill switch.
- Incident response.