360SDN.COM

8000字精华笔记丨“用户画像”从生产到应用,背后的标签逻辑是什么?

来源:网络  2018-08-10 05:51:16    评论:0点击:

9 月 16 日【友盟+】首席数据架构师&数据委员会会长张金做客「极客公开课·Live 」第十四期。每天与数据对话的数据专家,对用户画像有着深刻见解,喝下午茶的同时还与现场的极客大牛们进行了深度地交流。

长按二维码还可回看语音+PPT的“知乎Live”

....

友萌君精心整理了文字+PPT版本,请用15分钟来耐心阅读哦!

1

什么是用户画像?


用户画像也叫用户标签, 是基于用户行为分析获得的对用户的一种认知表达,也是后续数据分析加工的起点。从认知心理学的角度,用户标签其实与人认知世界方式相一致,人为了简化思考,通常也会通过概念化的方式简化事物认知,这种概念认知就是标签。因此,用户画像的内容可以很宽泛,只要是对人的认知,都可以叫做用户画像。例如:今天路过这个门口三次的人,也可以是一个标签,只要他有合适的应用场景。

另外,我们需要从概念上加以区分,用户标签和用户透视,一个是个体的认知,一个是整体的标签分布,二者都经常被人统称为用户画像。今天我们在这里说的用户画像主要指标签。

2

用户画像的4个核心价值


一、市场细分和用户分群:市场营销领域的重要环节。比如在新品发布时,定位目标用户,切分市场。这是营销研究公司会经常用的方式。

二、数据化运营和用户分析。后台PV\UV\留存等数据,如果能够结合用户画像一起分析就会清晰很多,揭示数据趋势背后的秘密。

三、精准营销和定向投放。比如某产品新款上市,目标受众是白领女性,在广告投放前,就需要找到符合这一条件的用户,进行定向广告投放。

四、各种数据应用:例如推荐系统、预测系统。我们认为:未来所有应用一定是个性化的,所有服务都是千人千面的。而个性化的服务,都需要基于对用户的理解,前提就需要获得用户画像。

3

用户画像的基础:数据

做好用户画像需要一定的门槛,一方面是数据的体量和丰富程度,另一方面是技术和算法能力。今天介绍的是基于【友盟+】数据基础,首先简单介绍一下。【友盟+】有覆盖线上线下的实时更新的全域数据资源,每天可触达独立活跃设备14亿,覆盖数百万级的网站和APP行为,这个庞大的数据量使得我们有丰富的数据资源来生产用户画像,同时又要求我们具有相应的技术能力来进行处理。


4

数据是如何生产,变成画像的?


结合上图,用户画像生产流程概览,我们将用户画像的生产比喻成一个流水线,就如同将矿石加工成成品的过程。用户浏览网页、使用APP、线下行为,这些数据都是矿石,需要提炼、加工成为产品,最后还要通过质检。

 

这个过程通常有几个步骤。首先获得原始行为数据,基于这些数据做特征抽取,相当于清洗、加工的工作;在机器学习环节,会与外部知识库有一些交互。实际上机器算法对人的理解,一定要基于知识体系,就好像我们说的概念。比如,机器给用户打汽车相关的标签,一定要首先知道汽车体系有什么样的分类,有什么车型,有这样的知识系统我们才能把人做很好的标识归类。

最后,质量检测。这一步也很重要,一个标签的质量决定了后期的应用效果,如果前期对人的分析偏了,后期结果就很难做对。

5

用户画像生产流程框架

上面讲的是概念图,如果具象到实际操作中,是这样一个框架流程:

这里先留三个悬念:

悬念一:从用户行为日志开始到标签产出,为什么有两条线?

悬念二:标签体系为什么只作用在内容标注上?

悬念三:为什么下面的“评估”过程要特别标注出来?

 

1、从用户行为日志开始到标签产出,为什么有两条线?我们把画像分为两大类:第一类:统计型画像;第二类:预测性画像。

第一类,统计型画像。是客观存在的,多为兴趣偏好。比如,用户每天都在看汽车新闻、搜索汽车相关的内容,基于这种行为,我们判断这个用户对汽车感兴趣。这些行为是客观发生的,因此无所谓正确率,也不需要训练样本集。

 

第二类,预测性画像。需要通过用户行为做预测,像用户的性别预测,尤其是挖掘人的内心态度。比如,用户在消费时,是激进的,还是保守的?有预测就有准确率。所以这里面有很重要的评估指标,就是正确率,也需要取样本集。这就是二者的不同,也会有不同的加工流程。

6

常用的一些标签体系

再继续介绍标签体系,因为很多同学会问到,“我应该建一个什么样的标签体系?什么样的标签体系是比较好的?”通常我们会把它分为四大类:

第一类:人口属性。比如说性别、年龄、常驻地、籍贯,甚至是身高、血型,这些东西叫做人口属性。

第二类:社会属性。因为我们每个人在社会里都不是一个单独的个体,一定有关联关系的,如婚恋状态、受教育程度、资产情况、收入情况、职业,我们把这些叫做社会属性。

第三类,兴趣偏好。摄影、运动、吃货、爱美、服饰、旅游、教育等,这部分是最常见的,也是最庞大的,难以一一列举完。

第四类,意识认知。消费心理、消费动机、价值观、生活态度、个性等,是内在的和最难获取的。举个例子,消费心理/动机。用户购物是为了炫耀,还是追求品质,还是为了安全感,这些都是不一样的。

7

如何判断标签体系的好坏?


在实际构建标签体系时,大家经常会遇到很多困惑,我列举5个常见问题。

第一、怎样的标签体系才是正确的?其实每种体系各有千秋,要结合实际应用去评估。

第二、标签体系需要很丰富么?标签是枚举不完的,可以横线延展、向下细分。也可以交叉分析,多维分析。如果没有自动化的方式去挖掘,是很难做分析的,太多的标签反而会带来使用上的障碍。

 

第三、标签体系需要保持稳定么?不是完全必要,标签体系就是产品/应用的一部分,要适应产品的发展,与时俱进。比如,以前没有共享经济这个词,今天却很热。我们是不是要增加一个标签,分析哪些人对共享经济的参与度高?喜欢共享单车、共享汽车。

但是,有一种情况下,标签要保持稳定。如果你生产的标签有下游模型训练的依赖,即我们模型建完后,它的输入是要保持稳定的,不能今天是ABC,明天是BCD。在这种情况下,是不能轻易对标签体系做更改的。

 

第四个,树状结构or网状结构?树状结构和网状结构从名字上就可以看出其分别。网状结构,更符合现实,但是层次关系很复杂,对数据的管理和存储都有更高要求。知乎,如果仔细去看它的话题设置,其实是网状的。

网状的特点就是一个子话题,父级可以不止一个,可能有两个。比如儿童玩具,既可以是母婴下分分类,也可以是玩具下的分类,它就会存在两个父节点之下。树状结构相对简单,也是我们最常用的。网状结构在一些特定场景下,我们也会去用。但是实现和维护的成本都比较高。比如,有一个节点是第四级的,但它的两个父节点一个是二级,一个是三级,结构异化带来处理上的麻烦。

 

第五个,何为一个好的标签体系?应用为王,不忘初心。标签是为了用的,并不是为了好玩,最好保证标签体系的灵活和细致性。

在【友盟+】已经很少强调标签有多少种,或者有多么大的一个体系,我们更强调两点:第一,快速建模的能力。有新需求来时,能够快速把这个标签制作出来,把相关的用户找出来;第二,我们可以做得很细。不能只说这个用户对汽车感兴趣,而是需要细分到车型、价位,甚至他去买车时,会关注驾驶乘坐的舒适性、操控的灵活性,还是内饰的细节。

8

统计型标签的生产流程


再回到刚生产流程上,我结合下图介绍一下统计型的标签是怎么去加工的?

首先我们要有行为数据,例如用户每天看100篇文章,有40篇是体育的,有30篇是汽车的,有20篇是旅游的,还有10篇其他的。我推测,这个用户比较喜欢体育、汽车、旅游。

对于这样的标签,大概需要什么流程去做呢?环节一很重要,内容标注。只有知道用户看的内容是什么,才能统计偏好。环节二,如何基于用户行为做聚合统计和归一化。

9

一个经典的标注例子:网页标注

在做内容标注时,一般会有两种情况:第一种:有些公司在建自有用户画像时会很幸运,例如电商、视频类、音乐类的媒体,它给用户服务的这些内容是已经分类好的。可以直接用内容的标注来做用户行为标注。


但是,对于一些通用型的内容,比如【友盟+】的数据,会有PC浏览数据、APP的使用数据,一定要先了解用户喜欢看什么,才能去做下一步的工作。在这里面,最复杂,也最典型的就是网页的内容标注。

第一步需要将URL做清洗和过滤。

接来下有两种不同的做法。一种是PATH标注。这个会比较简单一些。

举个例子, sports.163.com/nba 这个域名下网页都是关于NBA的。这些URL的结构非常规整,只需要对URL的分级做标注都可以标识很大一批网页。

通过具体内容做分析,也有两条路。一条路是通过Title,标题是内容最精炼的概括。第二条路是通过DOM解析,正文抽取。这两步又汇总到对内容分词。

我们不需要对网页里所有的单词做处理,一定是关键词搜寻,就是哪些词更能表达网页的内容。再之后,是对内容的分类,我们会训练一个分类器,把所有的网页内容进行分类。这其实是机器学习的过程。

还有一个小细节,在PATH标注和网页标注之间是双箭头。当我们对网页有了大量标注后,可以反推URL是不是都相同的主题,而对于PATH的标注有助于提高召回率。


10

标签的最终生成:行为统计

根据用户的行为,统计标签数值,归一化。这里有个计算公式:

比如,我们判断用户是喜欢运动、还是服饰,会将他浏览了多少相关网页、使用了多少APP进行累加,在除以一个总累积,得到一个标签得分。

这里面有几个点需要关注:

第一、统计量的选取。可能是浏览数量、浏览时长、浏览频度、复合关系等。举个复合关系的例子,对于某个商品类目的偏好,你可以将浏览、搜索、收藏,购买等行为统计量加权在一起考虑。

第二、个体内的可比性。个体用户的不同标签间具有可比性。举个例子,我有两个标签:阅读、旅游。我的阅读标签是0.8分,旅游是0.6分,代表我更倾向于去阅读,而不是去旅游?如何保证这一点呢?在上面公式里将个体的行为总和作为分母就可以了。

 

第三、垂类内的可比性。一个垂类内不同用户的相同标签具有可比性。

例如,我的动漫得分是0.8,你的是0.6,表示我比你要更喜欢动漫。那么分母就是选取整个动漫类行为的总和。比如说,今天全国用户在B站上一共100万小时,你有1个小时,你是百万分之一,他花了2个小时,大约是百万分之二最后再做一个归一化,就会产生一个类内可比的得分。

 

我们刚刚说的是绝对化的值,还有一个简单的做法就是做排序,基于用户的使用时间做排序,这样也可以。


但是排序和归一化到底有什么不同?排序只代表相对性,而刚才说归一化代表了强弱 我的得分是0.8和你是0.6,就表示偏好强度上我比你高了30%,而排序则不能反映这样的比例。

 

留一个小问题,能否在两层面上同时可比?建议大家首先要考虑这样做是否有必要。

 

举个例子,我今天搜索了一个化妆品对比之前搜化妆品的时候,更能体现想要购买。近期的行为比远期的行为更能反映用户的兴趣偏好,尤其消费需求偏好这种类型。我们可以在得分计算中体现这种结果,就是做衰减因子。

一个简单的做法,是利用衰减因子:

这个公式的含义是,今天的得分可以由昨天的得分乘以衰减系数,同时加上今天的增量。衰减不只这一个模型,还有其他方法,但是思路是一样的。

11

统计型标签生产要点回顾

1、行为数据。浏览、使用、点击、购买、LBS等,通过行为数据反映人的偏好倾向;

2、标签体系。根据实际需要进行设定。可以参考《消费者行为学》、电商类目体系、应用市场体系、媒体资讯体系等;

3、内容标注。把行为相关的内容抽出来做分析,把标签体系先打到它们身上,再累积到“人”身上;

 

4、得分归一化。明确归一化的目标,选择所需的归一化方法。举个例子,推荐适合用个体内可比较的得分,不管A看某个内容用了多少时间,A所看到最多的内容就优先推荐给A,不用和其他人比较;

但在投放广告上,就要考虑用户在这个商品上的倾向度有多高,需要用户间可比较的得分。

12

预测型标签的生产流程


预测性标签的生产流程:特征抽取→监督学习、样本数据→评估→标签产出,这也是经典的机器学习流程。

13

特征工程

特征工程,是机器学习的关键过程之一。最重要的是提取不同侧面的特征。我们以移动端使用行为可抽取的部分特征为例:

1、APP使用事实特征:用户30天内开启APP的天数、用户180天内开启APP的天数。这两个数据都会作为特征,考虑用户短期和长期的情况。

用户30天内使用APP时长占比、用户180天内使用APP时长占比。刚才说的是次数,这块是时长,用户可能反复打开,但是总时长很短。

2、兴趣特征:虽然信息有损失,但是泛化效果更好。举个例子,你是A站用户,他是B站用户,理论上讲,如果我们用最底层的数据,你们两个人是不太一样的,但某种程度上,他们都是对二次元感兴趣的人;

近期用户兴趣标签归一化值、长期用户兴趣标签归一化值。用户长短期基于兴趣标签下使用不同APP的熵值、历史某类APP时间消耗占比变动比例。其实反映了我们要看这个分布,以及分布的趋势性,你过去关注度高,现在关注度减弱,和你过去关注度不高,现在关注度高,其实这两个是完全对应不同的人,这也是我们参考的特征。

3、设备与环境特征:近期使用的设备品牌、近期使用的设备型号;工作日时间段内Wi-Fi使用时间分布、休息日时间段内Wi-Fi使用时间分布(工作日与假日的区分)。

14

模型训练与结果评估

1、模型选择。有监督的分类算法:逻辑回归、SVM、决策树、Bagging、深度学习;

2、二分类or多分类。二分类比较简单,多分类则有不同的拆分策略。举个例子,把人分为男女,是二分类的问题;分为年龄段,就是多分类的问题,我们在机器学习当中也有不同的做法,OvO(一对一)、OvR(一对其他)、MvM(多对多)。

3、结果评估。评估指标包括:正确率、召回率、应用效果。但是对于统计型标签来说无正确率,召回率看阈值,今天你只看一个汽车的型号,理论上我也可以给你打一个标签,但是分值非常低,这个分值到底要不要算做这个标签的人,要看中选什么样强度的人。预测型标签,一般看Precision,Recall,F-Score,ROC。

4、Ranking任务。一类特殊的定制化标签。针对特定场景,如对电话营销需要按照可能性排序打电话。套用上述模型,可以用最终得分来做Ranking。

15

关于标签评估的延展

标签的生产不是目的,使用才是。正确率≠效果,举个例子:喜欢看车不代表是试驾购车的目前人群。

第一,用户分层的评估。针对于重点人群进行评估,不同人群分层进行评估;第二,从全局进行评估。不要只局限于样本集合的评估,参看一些全局统计数据。例如,人口属性的分布和统计局的结果是否相符?第三,有效果反馈的应用。将标签直接应用于使用场景中检验效果。例如,进行营销的定向投放,测试点击率;第四,利用其它数据佐证。使用其他行为数据来验证标签的有效性。例如,在电商环境中后续的行为差异来评估显著性。

16

一个快速建模框架

我们今天不再强调标签丰富度,而是快速建模的能力。快速建模怎么做到?这套系统在【友盟+】比较完备,使得我们收到一个样本就可以很快训练模型,这个流程最快3个小时就能够把标签算出来。

17

用户画像的应用

Data -> Insight -> Action->Data->…

第一步,先有数据,就像标签生产出来,要有数据的过程;第二步,分析,洞察。洞察并不是最终目的,因为洞察只是得到一个结论或者方向;第三步,开始应用;应用后又带来新的数据,从而形成数据的闭环。举个例子,广告怎样的群体点击了,数据被反馈回来,下一个循环可以进行调整,不断地迭代,优化整个效果。

18

DIP营销服务流程

关于上述流程的实际使用,结合【友盟+】DIP数据智能平台讲一下营销服务流程是如何做的。

左上面是我们一些数据,例如:客户上传数据后,我们会有一个匹配的过程,把所有数据打通连接。上传、匹配之后,会对这些数据做人群分析。比如说宝马X1今年刚上市,他们把去年购买X1的用户都上传上来,我们会分析这样的用户在哪些方面是有特性的,比如年龄段、地域分布、收入、偏好。有了这样的分析后,我们可以选择相应的人群,基于历史的偏好、特征,然后再去投放;如果中间我们会发现人群量不够,最初选择10万人可以放大到100万人。最后输出到媒体、RTB等渠道商。做预算,看效果,将效果数据回流,再去迭代,以进一步提高投放的精准率。这是我们常用的一个流程。

 

在举个实际的例子,如果要做一个新产品的传播推广,这时需要做定向投放。我们先要对潜在用户要进行分析,例如对于科技产品非常感兴趣的人,我们发现他每天8、9点特别活跃,通过进一步分析,他会和哪些媒体做触达,或者他看不看电视会不会留意到地铁里面的广告,这也是一个触达渠道,以及看什么样类型的,看资讯、社交、八卦,这个不太一样。要找到受众,应该到哪找?比如说去这种有态度的网易新闻,还是个性化的今日头条,或者说腾讯新闻,这都需要进行分析。

基于上面的分析之后,再做结合分析。举个例子,你对科技感兴趣,那你的手机是不是到了更新期,你手机大概用了三年,应该到了更新期,就可以对这样的特定人进行投放。把人圈出来,投放、曝光,曝光之后我们去看营销的结果,然后返回来继续分析,会不会对其他内容感兴趣,再去做下一轮分析。这就是我们之前做的一系列方法的一个应用。

 

最后关于数据应用我再给出一些通用型的建议:

第一、分析。

1、结合业务场景去选择分析维度:如果你是给中年妇女推荐保健品,你去分析她们喜欢不喜欢二次元,这就非常说不通了。

2、不要只是简单的看画像分布,一定要做对比。

3、例如,与大盘对比情况:TGI。上图是我们分析一个APP内的购买人群。紫色的线是人群的分布,年龄段的分布。我们看到18-30岁之间的人很多,感觉还不错。但是,如果你做一下大盘情况,APP的用户大多是年轻人,因为本身这个产品有一个年龄偏小的分布特征。通过分析对比之后发现,TGI比较高是30-39岁的人,这个范围的人才是在购买人群里面是显著的,这群人才是你去做运营活动、投放的人群。

分析,一定要去做对比,单纯看分布是并没有太多信息含量。不对比看不出来差异。

4、环节的对比。哪些人我触达了,哪些人到这里落地了,哪些人注册了、哪些人真正浏览、哪些是留存、哪些是付费,每一个环节你都可以做这样的分析。

第二、精准投放(Action)。这是我们今天做标签非常大的一类应用。这时候大家可能会发现,我们做品牌广告、效果广告是不同的,举个例子,品牌广告我们就会关心TA浓度,关注我投放广告的人性别怎么样、年龄分布怎么样。效果广告是不一样的,效果广告通常很直接,你这个人是不是点了,最终CTR高不高,最终购买ROI高不高,这种一定是你最直接的兴趣是什么,你什么性别不重要,我就想知道你要不要。

另外一点,直觉未必靠谱,一定要通过反馈来检测,就是刚才说我们为什么要数据闭环,比如说,有一个商品设计者说,我这个产品目标是吸引白领女性,实际上他上市场去卖的时候发现,买他的男性大学生最多,跟他想的根本不一样。

如果你一直持续的给白领女性做广告投放,实际上效果可能不是最优的,反而你做校园活动会达到更好的效果。

甚至说,你可以基于你的用户场景做专属标签,以及你可以通过人群放大来做处理。举个例子说,我今天有新的车型上市,一个方法是,先选取对汽车感兴趣的人,或者SUV感兴趣的人,就可以去做投放,这个效果就可能不是最优的,更优的情况是针对你这个case,去针对性的做训练,针对性的选取跟你相关的人,通常效果上比通用的标签选取更好,这时候我建议如果你特别强调你的效果,就去试试训练专属的标签。

最后,来总结一下

第一点,要有目标。以应用来驱动需求,单纯上千维的标签并不是一个好目标。


第二点,要有数据。数据是一切的核心,没有数据说要建很多标签是没有用的,如果你手里没有数据,或者数据不多,你第一个工作不是建后面的标签体系,你要赶紧找数据。数据决定了你的天花板,我的这个东西建到什么程度由数据决定,你的算法、技术方案只是让你无限的接近天花板而已,超越不了的。

第三点,不要拘泥于技术细节。用简单的方法快速走通整个流程,然后再去看哪些环节需要优化去深入,举个例子像刚才那个标签,你的分词和网页分类可以做得很细,每个关键环节都可以做得很细。实际上一开始你关注细节是没有必要的,因为它是一个链路,你在这个环节上,比如说从6分变成9分,最终结果可能只提升1%,这里时间有一个很大的浪费,所以快速的走完整个环节,不要纠结细节,这样会比较好。

【友盟+】在日常的数据挖掘中积累了很多的实战经验,如果你自认为你是一名数据大牛,希望和【友盟+】搞点数据创新的大事情,【友盟+】有着丰富的数据资源等待你来挖掘!

读到这里,说明你已经对数据有着强烈的热爱了,快把简历发到:yaou.syo@alibaba-inc.com 吧!

算法专家

职位描述:

1. 基于【友盟+】的全域大数据资源,充分挖掘数据价值,并将成果应用在各个垂直领域,例如数字营销,金融风控,智能推荐等;

2. 能够持续学习,保持跟进机器学习领域最新研究方向和成果,以及对数据应用新领域的探索;

3. 支持各业务部门和客户对于算法建模的要求。

职位要求:

1. 熟悉常用数据挖掘技术和机器学习算法,熟悉其原理和适用范围;

2. 熟练掌握的数据挖掘挖掘和机器学习的脚本和常用工具;

3. 在以下领域有深入研究经验者优先:

(1) 用户行为数据的分析挖掘和用户画像的预测;

(2) 垂直行业的数据挖掘经验(金融征信、游戏、旅游、新闻等);

(3)广告和推荐算法的研发与优化;

(4)反作弊算法;

5)Deep Learning在NLP和图像领域的应用。

阅读原文

为您推荐

友情链接 |九搜汽车网 |手机ok生活信息网|ok生活信息网|ok微生活
 Powered by www.360SDN.COM   京ICP备11022651号-4 © 2012-2016 版权