Перед запуском
Опишите decision, которое measurement должен поддерживать. Если metric не влияет ни на одно решение, дополнительная точность может не иметь экономической ценности. Отдельно фиксируйте privacy/consent ограничения.
Эксперимент 1. Persistent holdout
Гипотеза: часть attributed revenue программы неинкрементальна
Как проверить: Оставьте стабильную control group без конкретной marketing treatment.
Основная метрика: incremental revenue/contribution. Guardrail: customer fairness.
Эксперимент 2. Geo holdout
Гипотеза: канал создаёт incremental lift выше baseline
Как проверить: Выберите matched geographies, vary spend/exposure and compare pre/post difference.
Основная метрика: incremental sales. Guardrail: spillover.
Эксперимент 3. PSA/control ads
Гипотеза: часть conversion произошла бы без performance ad
Как проверить: Используйте control creative/PSA where platform/design permits.
Основная метрика: incremental conversions. Guardrail: auction differences.
Эксперимент 4. Branded search holdout
Гипотеза: часть branded paid clicks cannibalize organic/direct
Как проверить: Снизьте/остановите branded bidding в matched geo/time window.
Основная метрика: incremental revenue. Guardrail: competitor capture.
Эксперимент 5. Retargeting holdout
Гипотеза: ретаргетинг переоценивает влияние на already-intent users
Как проверить: Оставьте eligible control без retargeting.
Основная метрика: incremental orders/leads. Guardrail: customer reach.
Эксперимент 6. CRM holdout
Гипотеза: часть CRM revenue baseline, а не lift
Как проверить: Persistent control for one lifecycle program.
Основная метрика: incremental contribution. Guardrail: contact fairness.
Эксперимент 7. Incremental conversion value
Гипотеза: margin-weighted conversion улучшит budget decisions
Как проверить: Замените raw revenue value на contribution value in reporting/optimization test.
Основная метрика: contribution per spend. Guardrail: volume.
Эксперимент 8. Attribution model comparison
Гипотеза: last-click materially shifts budget vs data-driven/multi-touch without true evidence
Как проверить: Run parallel reporting, not automatic budget changes; compare decisions to incrementality tests.
Основная метрика: decision accuracy. Guardrail: model complexity.
Эксперимент 9. Offline conversion import
Гипотеза: downstream sales feedback улучшит channel evaluation
Как проверить: Import qualified opportunity/won revenue and compare optimizations/reporting.
Основная метрика: qualified CAC / pipeline. Guardrail: data delay.
Эксперимент 10. Conversion-window sensitivity
Гипотеза: выбранное окно меняет apparent performance
Как проверить: Recalculate same cohorts at 7/30/90-day windows.
Основная метрика: stability of channel ranking. Guardrail: late conversions.
Эксперимент 11. Identity match audit
Гипотеза: низкий match rate искажает attribution
Как проверить: Measure known exposure/customer matching by channel/device.
Основная метрика: match coverage. Guardrail: privacy.
Эксперимент 12. UTM governance
Гипотеза: единая taxonomy уменьшит unattributed traffic
Как проверить: Introduce automated validation for test campaigns.
Основная метрика: classified traffic share. Guardrail: setup friction.
Эксперимент 13. Server-side tracking pilot
Гипотеза: server-side collection восстановит reliable first-party events within consent
Как проверить: Pilot one event flow and compare completeness/duplicates.
Основная метрика: event completeness. Guardrail: privacy/compliance.
Эксперимент 14. Event deduplication
Гипотеза: duplicate events inflate conversion counts
Как проверить: Implement event IDs/dedupe in one flow and reconcile.
Основная метрика: conversion accuracy. Guardrail: missed legitimate events.
Эксперимент 15. Metric dictionary adoption
Гипотеза: единые definitions сократят спорные decisions
Как проверить: Use canonical definitions in one business review team.
Основная метрика: reconciliation issues / decision time. Guardrail: adoption burden.
Эксперимент 16. Dashboard reduction
Гипотеза: меньше metrics повысит decision rate
Как проверить: Replace large dashboard with 5–8 driver metrics + variance.
Основная метрика: actions per review / time. Guardrail: loss of diagnostic detail.
Эксперимент 17. Alert threshold calibration
Гипотеза: better thresholds reduce noise without missing incidents
Как проверить: Compare current alerts and statistically/operationally tuned thresholds.
Основная метрика: useful alert precision. Guardrail: missed incidents.
Эксперимент 18. Weekly reforecast
Гипотеза: частое обновление assumptions повысит budget agility
Как проверить: One team uses monthly/weekly rolling reforecast vs static annual pacing.
Основная метрика: forecast error / reallocation speed. Guardrail: planning overhead.
Эксперимент 19. Zero-based budget review
Гипотеза: channels не должны получать spend по инерции
Как проверить: Rebuild 10–20% discretionary budget from zero using evidence.
Основная метрика: incremental contribution. Guardrail: disruption.
Эксперимент 20. Marginal budget reallocation
Гипотеза: следующий рубль эффективнее average historical ROI
Как проверить: Move limited spend from saturated to higher marginal-return lever.
Основная метрика: incremental contribution. Guardrail: volume.
Эксперимент 21. Learning budget
Гипотеза: выделенный test budget увеличит число качественных learnings
Как проверить: Reserve fixed % for designed experiments vs ad-hoc tests.
Основная метрика: validated learnings / future lift. Guardrail: short-term efficiency.
Эксперимент 22. Finance reconciliation
Гипотеза: monthly Marketing↔Finance reconciliation повысит trust in reporting
Как проверить: Pilot automated reconciliation of spend/revenue for core channels.
Основная метрика: variance / close time. Guardrail: analyst workload.
Эксперимент 23. Marketing mix model validation
Гипотеза: MMM recommendations должны подтверждаться experiments where possible
Как проверить: Compare predicted response with geo/lift tests on selected channels.
Основная метрика: prediction error. Guardrail: sample/seasonality.
Эксперимент 24. Forecast scenario ranges
Гипотеза: range better communicates uncertainty than single point
Как проверить: Use base/upside/downside with driver assumptions.
Основная метрика: forecast calibration. Guardrail: decision complexity.
Эксперимент 25. Decision log
Гипотеза: recording evidence→decision improves learning and accountability
Как проверить: Use structured decision log in one budget review cycle.
Основная метрика: reversed/repeated decisions / clarity. Guardrail: admin overhead.
Attribution не равна incrementality
Attribution распределяет credit среди наблюдаемых touchpoints; incrementality оценивает, что произошло благодаря воздействию. Используйте attribution для operational diagnostics, а causal experiments/MMM — для крупных budget decisions, где feasible.
Как оценивать новое измерение
Сравните до/после: reconciliation errors, time-to-answer, forecast error, decision speed и financial outcome. Data project, который улучшил dashboard и не изменил ни одного решения, требует пересмотра scope.
Как строить budget experimentation
Перемещайте ограниченную долю spend и задавайте stop/scale rules. Не делайте резкий full reallocation по одному noisy week. Для long-term channels используйте horizon, соответствующий механизму эффекта.
Как хранить evidence
Experiment design, exposure, data extraction, code/query, assumptions и decision должны быть воспроизводимы. Это особенно важно для geo tests, MMM validation и cross-channel budget reviews.
Как выбирать causal design
Если user-level randomization возможна — используйте её. Если канал действует на geography или broad media, geo design может быть практичнее. Если intervention нельзя рандомизировать, используйте matched control, time series или MMM и честно фиксируйте более слабую causal confidence.
Как учитывать contamination
Control может увидеть рекламу через соседний geo, другой device, shared account или organic spillover. До запуска перечислите pathways contamination и оцените, могут ли они materially уменьшить measured lift.
Как проверять statistical и business power
Тест должен иметь шанс обнаружить effect, который важен бизнесу. Слишком маленький geo test или редкий B2B outcome может быть статистически бесполезен. В таком случае увеличьте horizon/units или выберите более ранний validated proxy.
Как оценивать стоимость измерения
Holdout теряет часть потенциального revenue, MMM требует data/аналитики, server-side tracking — engineering. Measurement investment рационален, если он влияет на значимый recurring decision. Не стройте дорогую систему ради единичного отчёта.
Как управлять revision history
Metric definitions, attribution rules, model versions и budget assumptions меняются. Версионируйте их и сохраняйте effective dates. Иначе исторические сравнения будут смешивать разные логики расчёта.
Как проводить executive review
На review отделяйте observed fact, model estimate и decision. Например: spend факт, attributed revenue estimate, incremental lift experiment. Это снижает ложную точность и делает uncertainty частью управления.