- 大数据分析,到底分析了什么?[2022-07-04]
- 数字化浪潮,将怎样颠覆未来?[2022-07-01]
- 实际工作中的数仓分层是怎[2022-06-30]
- 数据安全防控:数据脱敏[2022-06-29]
- 数据治理的制度、机制、流[2022-06-28]
- 数据仓库体系之贴源层、历[2022-06-27]
- 数据域和主题域是什么关系?[2022-06-24]
- 数据资产管理:关于数据发现[2022-06-23]
- 央企国企数字化转型,必须先[2022-06-22]
- 数字化转型是建个系统那么[2022-06-20]
大数据分析,到底分析了什么?
“大数据”三个字已经被喊烂了,“大数据分析”也经常被人提起。可到底什么是“大数据分析”?为什么大家喊得很多,平时工作中很少感受得到?本文将为大家进行系统讲解。
一、普通人理解的“大数据”
普通人理解的大数据可谓千奇百怪,比如:
1、一个excel文件 200M,多大的数据呀!2、我国人口14亿,这个数据好大呀!3、我刚看了车,就有4S店推广电话,肯定收集了我的大数据……
这些千奇百怪的理解,都是来自对“数据”本身不够了解导致的。想弄明白“大数据”真正的含义,得从数据是从哪里来的讲起。
二、先理解“小数据”,再谈“大数据”
最原始的数据采集方式就是:问卷。由专门的调查人员,借助一张张调查问卷,通过现场询问、测量等方式获得数据。这种方法已经沿用了400多年,经典的统计学、管理学理论都是建立在此之上的(如下图)。
小数据有没用?有用!非常有用!
能采集到某个地区的数据,代表着政府对这个地区有统治力。能采集到越多的数据,中央就能掌握地方情况,从而加强管理。
数据是如此重要,以至于历史上很长一段时间,统计任务归属于政府、军队、情报机关。我国的第一家调查公司还是在90年代初,在宝洁强烈要求下成立的。
但是,调研做法有三个明显的问题:
1、耗费人力:访问员、督导、审核、录入、数据处理······都要求人力
2、耗费时间:设计问卷、填写、回收······各环节都消耗大量时间
3、准确度低:现场测量的数据会相对准,但口头询问调查准确度很低
这些问题,导致了问卷时代的数据采集,只能有抽样式的,不能是全量采集。也因此衍生出了专门的抽样理论和方法。但无论数据方法怎么改进,在业务上,抽样,始终是一个难以逾越的梗阻。决策者总会觉得:
1、是不是样本量太少
2、是不是代表性不够
3、没有覆盖的样本是不是真的一致
只要是抽样数据,就一定会被质疑,就总是充满怀疑。这也是最初“小数据”的说法来源,后续所有“大数据”其实都是围绕“小数据”问题而来。
(一)数据变大第一步:系统采集
数据从小变大的第一步,从系统采集开始。比如企业扩大规模,要在各地建连锁店,第一步做得就是装POS机,把交易数据采集进来,替代纸质订货单/出货单。此时想了解销售数据,是可以基于POS机收集的数据全量查看的(如下图)。
从抽样数据到全量数据,是一个质的变化。基于全量数据,可以直接管理到各个终端门店,直接基于数据作出经营决策。因此大部分企业的销售分析、经营分析、业务分析体系,都是在此基础之上建立起来的(如下图)。
但是这个阶段的局限也是很明显的:POS机只能记录交易结果,对过程一概不知。谁在买,买了多少,为什么买,通通不清楚。
这个阶段的分析,是典型的知其然,不知其所以然的分析,大部分分析只能通过成交结果去猜。如果只有这个阶段的数据,想做深入分析,还是得依靠调研。比如传统企业想了解门店成交流程,会做门店调查,研究消费者在门店的动线,询问消费者体验。
(二)数据变大第二步:主动采集
有了系统采集以后,大家自然地会想:除了交易数据,其他数据也能通过系统化采集。比如最简单的形式:让用户自己交身份证,通过图像识别录入。这样既能采集到用户数据,又能避免手动填写的错误。
但是问题来了:凭啥要交身份证给你呀!于是传统采集,只有银行、航空、通讯等有国家背景+法律规范要求的地方,才能相对准确的采集这些真实数据。
不过这些困难并没有阻挡住企业采集信息的热情。常见的手段,比如:勾引用户办会员卡,给生日礼遇让用户填写生日。用户完成信息给积分奖励之类。更激进的,甚至有常识在门店装人脸识别、装眼动仪跟踪设备来采集数据(当然,成本很高)。
为什么企业会孜孜不倦追求这些数据,因为这些数据真的有用。至少能把数据具体到一个人的身上,能识别出谁是高端用户,谁是沉睡用户,从而精细化运作(如下图)
真正低成本的、解决采集消费者行为数据的问题,还得靠互联网产品。
(三)数据变大第三步:行为加入
互联网产品的最大优势,在于App/小程序/H5本身就是数字化产品。此时不但有条件记录到用户的点击、登录等行为数据,而且能将用户ID、手机号等信息整合成统一ID,效率比依赖线下纸质单张申请的流程强无数倍。
还能将视频、图片、文章等内容打标签,通过用户点击、转发次数,浏览时长,反推用户需求。对于经历过传统企业数据的人来说,互联网产品的数据简直就是鸟枪换炮。
相较之传统的会员基础信息、消费流水数据,用户行为数据量特别、特别的大,大家想想自己在淘宝逛多久才买一件东西就知道了。可能之前几百次点击浏览,最后才有一单交易。
因此,需要专门的大数据架构来支持这些数据的存储和计算。狭义上的大数据技术,特指对大量的用户行为数据、非结构化数据的存储和计算。
有了这些数据,才有现在我们流行的互联网分析方法,比如漏斗分析法(如下图)。
基于这些基础数据采集,还能延伸出更多数据应用,比如:
1、模型类:行为预测、推荐算法
2、测试类:产品ABtest
3、画像类:用户画像
虽然这些方法,基于交易数据也能做,但是数据量多寡,直接决定了结果准确度。从而影响到业务端使用。在传统时代,只有银行、运营商、航空公司独享的分析方法,成为现在互联网公司的标配。
然而即使这样,既然有一些问题不能解决
●用户数据分散在若干平台,导致单一平台数据不足
●用户心理无法直接反应为数据,冲动型行为会干扰正常数据判断
●信息安全法规要求越发严格,对数据采集/使用限制在增多
因此,如何合法合规、持续利用大数据资源,依然是今天一个重要议题。
三、上不了台面的“变大”方法
当然,还有一些灰色/黑色的方法,让数据变大
1、直接从“有数据”的人手上,买数据!
2、爬虫、撞库,硬捞用户数据
3、通过设备,默默收集用户数据
这就是各种骚扰电话、垃圾短信的源头。当然,随着国家对信息安全保护要求越来越严格,这些玩意生存空间也是逐步被压缩,所以不谈也罢。
四、“大数据有啥用”的终极答案
纵观数据从小到大的整个过程可以看出:数据从来都有用。即使最简单、最不准的数据,也能反应管理上的问题。因此决策者们对于数据的追求,永远是孜孜不倦的,永远是不满足的。(如下图)
那么,为什么还有这么多人在问“大数据有什么用”呢?
因为并非所有人都理解“数据”的用途,别说大数据了,小数据也照样不会用。
截止到2021年,依然有人是拍脑袋决策,拍胸脯保证;依然有人沉迷于“老夫从业十年,我说的就是对的”;依然有人觉得大数据包治百病,代码一敲,钞票从电脑屏幕里喷薄而出;依然有人迷信“底层逻辑”“核心思维”,苦练内功心法。
总之,想用好数据,就得深入业务流程,具体了解数据采集方式,这样才能读懂数据背后的业务含义,才能把自己面临的具体问题转化为数据问题,才能解出正确答案。
采集和计算数据,是一门科学
应用数据产生价值,是一种艺术
差别大致如此。
中翰软件:专注数据治理17年(http://www.jobhand.cn)
免责声明:本网站所发布的文章为本网站原创,或者是在网络搜索到的优秀文章进行的编辑整理,文章版权归原作者所有,仅供读者朋友们学习、参考。对于分享的非原创文章,有些因为无法找到真正来源,如果标错来源或者对于文章中所使用的图片、连接等所包含但不限于软件、资料等,如有侵权,请直接致电联系,说明具体的文章,后台会尽快删除。给您带来的不便,深表歉意。