Отравление данных ИИ (AI Data Poisoning)

Коротко

Отравление данных ИИ (AI Data Poisoning) — намеренное или случайное загрязнение данных, knowledge sources или feedback signals, из-за которого AI-система начинает давать систематически искажённые результаты.

Где может появиться

Training/fine-tuning datasets.
RAG knowledge base.
User feedback loops.
External web sources.
CRM records used by agent.

Почему это опасно для marketing AI

Если agent или assistant опирается на corrupted product, pricing или policy data, он может массово распространять неверную информацию.

Controls

Контроль	Зачем
Source Trust	Ограничить недоверенные источники
Versioning	Понимать, что изменилось
Data Validation	Ловить аномалии
Eval Set	Замечать degradation
Rollback	Быстро вернуть рабочую версию

Связанные понятия

Итог

Data Poisoning показывает, что качество AI зависит не только от модели, но и от доверия к данным и источникам, которыми она питается.