Ограничивающие правила диалогового ИИ (Conversational AI Guardrails)
Коротко
Ограничивающие правила диалогового ИИ (Conversational AI Guardrails) — правила и технические механизмы, которые ограничивают допустимые ответы, данные и действия чат- и voice-систем.
Что ограничивать
Темы и claims.
Доступ к sensitive data.
Разрешённые tools.
Financial / contractual actions.
Tone and brand requirements.
Escalation conditions.
Guardrails бывают разными
Уровень
Пример
Input
Проверка запроса
Retrieval
Разрешённые источники
Generation
Policy / brand constraints
Tool Use
Permission checks
Output
Validation перед отправкой
Нельзя полагаться только на prompt
Критические ограничения лучше дублировать на уровне permissions, validation и execution layer.