赶快学一下如何评估「营销活动效率」

花花 / 一个数据人的自留地

作者介绍

@花花

曾任职于美团、腾讯、今日头条担任数据分析师。

*** 盘过上百亿的资源评估，与大家一起成长学习。

01    前言

在实际的评估工作中，不是所有的营销活动都做了AB实验，也不是所有进行了AB实验的营销活动都能准确评估出活动效果，比较典型的情况如下：

场景一： banner位要进行大促活动，但距离活动上线时间较短，如果要做AB实验需要产研定制化开发，拿不到产研排期资源的情况下，运营往往会对全量用户进行活动运营。事后要评估该大促活动的投入产出时，就没有严格的实验组和对照组进行对比，如果直接参加活动用户作为实验组、用大盘未参加大促活动用户作为对照组，那么实验组和对照组本身就是存在很大差异的（参与大促活动的一般更加活跃且对补贴敏感），在这种情况下该怎么进行评估才能得到更加合理的结论呢？

场景二： 某直播平台上线了一个直播间的新功能，并进行了AB实验，其中实验组能看到新功能，对照组看不到新功能。但是事后评估时发现，实验组中虽然都能看到新功能且点击使用该功能的用户数据表现都很好，但是点击使用该新功能的用户渗透率很低，如果直接用AB实验的实验组和对照组相比较，那么不能得到显著性的结论。那么直播间的这个新功能真的就没有效果的吗？

02    PSM方法简介

为了解决如上两个场景的营销活动效率评估，常常会根据实际情况matching一个对照组，倾向评分匹配（Propensity Score Matching，简称PSM）是matching的方法之一，使得实验组和对照组进行更合理的比较。

PSM这种方法一般用于医学、公共卫生、经济学等领域。比如研究问题是吸烟对于大众健康的影响，如果要进行随机对照实验，招收大量实验用户，然后随机分配到吸烟组和不吸烟组，这种实验设计不太容易实现，也并不符合科研伦理。

这种情况下观察研究是最合适的研究方法，但是面对最容易获得的观察研究数据，如果不加调整，很容易获得错误的结论， 比如拿吸烟组健康状况最好的一些人和不吸烟组健康状况最不好的一些人作对比，得出吸烟对于健康并无负面影响的结论。

从统计学角度分析原因，这是因为观察研究并未采用随机分组的方法，无法基于大数定理的作用，在实验组和对照组之间削弱混杂变量的影响，很容易产生系统性的偏差。 PSM就是用来解决这个问题，消除组别之间的干扰因素。

PSM的定义很直观，是一个用户属于实验组的 “倾向性”。具有不同特征的用户被干预的概率应该相等。理论上，如果我们对每一个实验组用户都在对照组里匹配一个得分相等的用户，我们就能得到同质的实验组和对照组，就可以假装做了一个 A/B 实验了，接着就可以随意地进行组间比较。

在实际工作中，通过多期的观测验证PSM方法较为适用于某些营销场景，那么可以将PSM模型产品化。运营同学无须每次提需求到算法侧，只需要通过简单的输入就能获得最终结果。

1）输入

确定样本集是PSM中最为重要的一个环节，包含确定实验组用户和对照组用户。实验组用户一般选取策略触达的用户或者是真实体验到核心策略的用户，具体根据营销活动特点来定义，而对照组则是给到一个范围，通过建模从给到的对照组范围中筛选用户特征和实验组相似的用户作为真实的对照组。

一般对照组的圈选范围最好是有活动参与的倾向性但是并没有参与的用户，比如说是同样有某个活动页的曝光，体验活动的用户为实验组，有曝光但是未体验该活动的用户则为圈选的对照组范围。

2）PSM建模

首先要进行倾向性得分估算：这一步直接就是建模问题，自变量为用户特征变量，按需做一下特征预处理，套用LR或者其他更复杂的模型，如LR + LightGBM等模型估算倾向性得分。

其次进行倾向性得分匹配：在有了每个用户的倾向性得分的基础上，针对目前的实验组用户，匹配得到一个近乎于同质的对照组。当用户量足够时候，一个简单做法是进行一对一无放回匹配：对于每一个实验组用户，我们去对照组里找一个倾向性得分最近的用户，把他们配成一对。匹配过程中，可以限制一下配对用户的得分差异不能超过某一个阈值，配不上就放弃，以防把 “太不相似” 的用户匹配在一起。

模型输出及评价：模型的输出包含了实验用户、构建的与之匹配的对照组用户、倾向性得分，评价指标包含模型在训练集上的AUC（越高说明倾向性建模越准确，一般AUC≥0.85则认为效果较好）、各个特征维度的匹配关系值（值越高说明这个特征维度的匹配关系越好）。

3）效果计算

通过PSM构建出与实验组用户特征类似的对照组，那么效果计算的逻辑就和AB实验的计算逻辑类似了。

03

PSM方法实 ***

以上面提到的场景一作为案例，对没有进行AB实验的营销活动进行效果分析。

确定样本集范围

实验组：点击进入大促活动页面并领取到红包的用户A1，导出uesr_id明细作为PSM实验组输入，假设用户数为10,000

对照组范围：有大促页面曝光但是未领取红包用户B1，导出uesr_id明细作为PSM对照组圈选范围输入，假设用户数为50,000

PSM建模

从对照组范围B1中通过PSM建模构建出用户特征和A1相似的用户B2，一个实验组用户找到一个特征相似的对照组用户，所以B2的用户数也为10,000。模型的AUC=0.89，且其他特征匹配值较好。

结果计算

可靠性：AUC>0.85，模型效果较好，匹配结果可以参考。

活动补贴效率计算：实验组A1样本量10,000，贡献的总的GMV为500,000元，总投入成本是50,000元；PSM构建的对照组B2样本量10,000，贡献的总的GMV为300,000元，总投入成本是25,000元。最终计算该大促活动的投入产出比为ΔGMV/Δ成本=（500,000-300,000）/（50,000-25,000）=8，那么我们就可以得出该大促活动的投入产出比是8，即1元投入带来8元的GMV。

04    后记

PSM不是适用于所有的营销场景，一般来说适用于样本量足够、实验效果较为显著且倾向性建模较为可靠的场景，有些场景下难以定义对照组的范围，这个时候如果用全量用户（排除实验组用户）作为对照组的圈选范围，那么最终的误差可能较大。

因此建议在能做AB实验的情况最好还是进行AB实验，在真的无法做AB的情况下再考虑PSM，同时PSM可以结合DID+用户分群提高准确性。

带你探索数据的神奇奥秘

广告效果是广告活动或广告作品对消费者所产生的影响。狭义的广告效果指的是广告取得的经济效果，即广告达到既定目标的程度，就是通常所包括的传播效果和销售效果。从广义上说，广告效果还包含了心理效果和社会效果。心理效果是广告对受众心理认知、情感和意志的影响程度，是广告的传播功能、经济功能、教育功能、社会功能等的集中体现。广告的社会效果是广告对社会道德、文化教育、伦理、环境的影响。良好的社会效果也能给企业带来良好的经济效益。广告效果的测定一般是指广告经济效果的测定。一个有效的广告作品是能够产生心理效果的作品，即能够影响消费者心理变化，引导消费者态度朝着既定的广告目标转变。广告媒体效果的测定，就是调查消费者对于各种媒体，如报纸、杂志、电台、电视、户外广告等的接触情形。广告媒体的调查通常根据三个测定标准进行：一是媒体分布。例如报纸、杂志的发行量电视广播的到达范围，户外广告的装置情况。二是媒体的受众群。系读者群和收视群。三是广告的受众群。系对各媒体刊播的广告的接触群体。后两者的测量主要是考察媒体受众群与广告受众群之间的关系，以便于做出更精确的媒体计划。然而，这也面临着一个问题。对于各大媒体投放广告的话，动辄数千万、数亿元的费用，在投放广告之初能够合理的预测广告效果也是非常关键的。如何选择最佳的媒体进行广告投放，将关系到广告回报率的大小。根据国内的实际情况，各大企业在媒体投放广告之前，需要参考各大媒体的市场及受众情况来制定合理的广告投放策略，在广告效果之后。要评估和监测广告效果的好坏，对广告投放效果进行评估，以便调整广告投放策略和商业策略。客观、科学、真实的广告投放效果评估一般企业是做不来的，都需要专业的第三方的权威市场研究机构给予评估。所以，国内各大企业都会在媒体上投放广告，然后，参考使用，或是委托专业的市场研究公司来评估他们的广告效果。国内最专业的广告效果评估机构并不多，其中做的最专业的一家就是开元研究了。建议你了解一下。开元研究，成立于2002年，是中国本土一家专业性的市场研究机构，其是国内最早对杂志/报刊零售进行定期监测的机构之一，建立了一套完整的杂志/报刊零售市场监测体系(RM)和读者研究体系(RR)。开元研究的优势研究领域在于平面媒体研究。开元研究在平面媒体监测于研究、广告效果评估、品牌研究、网络研究等领域具备雄厚的实力和知名度。

开展市场营销活动效益评估时，应把以下五个指标作为标准。

1．营销状况的指标

营销状况主要指产品的营销数量、销售额、开支等情况，包括年度销售额计划、年度销售额完成比率、市场份额、营销开支比率等。

2．营销赢利情况的指标

营销是否赢利、赢利的比率等都属赢利情况范畴，反映营销赢利情况的指标有三个，即净赢利率、营销成本费用利润率、营销资产报酬率。

3．营销效率的指标

营销效率主要通过广告效率、促销效率、渠道效率、营销队伍效率四个方面进行评估。

4．营销的社会效益的指标

对产品营销的社会效益评估，可以通过消费者满意度、社会公益获得支出费、所缴的收入税收费三个方面进行评估。

5．营销竞争力的指标

评估营销竞争力可以通过分析竞争持续时间长短、竞争地位维持时间、竞争优势拥有率三个方面来分析。

---