你好,游客 登录 注册 搜索
背景:
阅读新闻

对大数据的八大观点分析

[日期:2016-06-13] 来源:极客头条   作者: [字体: ]

  越来越多程序员也涌入大数据行业,但是仔细问一些从业人员什么是大数据?鲜有人知道?就算知道的,最常引用Victor的4V理论,大量(Volume),快速(Velocity),种类多(Variety),价值(Value),但究竟多大是大?多快是快?几种算种类多?每个人都有自己的观点。最核心的问题还不在数量和种类,而是价值(Value)。什么是大数据的价值?如何体现它的价值?如何衡量它的价格 ?它能够变现么?如何来变现却是大数据的核心问题。

大数据

  做大数据的同学,外面看起来像是红楼梦的大观园一样,外表光鲜亮丽,身在其中的人,才知道各有各的无奈。大数据的处理通常分为,数据收集,数据清洗,数据加工。数据应用,数据可视化。数据收集同学总是抱怨数据源Garbage in, Garbage out的感觉,数据清洗的同学总有沙里淘金的感觉,数据加工的同学也经常受两头气,相比来说,做数据可视化的同学比较幸运,可以找到很多炫酷的感觉,但有不是大数据的主流技术。最难受的是做大数据应用/变现的同学,不得不靠着忽悠行走江湖。

  观点如下:

  大数据的信息熵值低

  大数据不是银弹是蚂蚁效应

  大数据不解释因果,更关心相关性

  数据资源公司最佳是被收购,最好应用是广告和泛征信

  大数据是对用户隐私的汲取

  用户数据无法用过定价来进行数据交易

  搞清楚业务,再谈大数据也不晚

  大数据的价值是真水无香

  观点一 :大数据的信息熵值低

  1948年,香农提出信息熵的概念,可以用于表述信息的价值,信息熵高的言简意赅,信息熵低的冗余拖沓。目前,很多大数据的来源都是一些系统的Log,图片,视频等。特别是日志系统数据,数据越来越多,越来越大,其中大部分是固定模板的数据,区分度差,信息量并没有随着数据的增加而线性增加。另外举个例子,之前我们使用胶卷照片的,我们会选择重要的场景,珍惜每一个照片,设计好角度和光圈,现在有数据相机了,内存近乎无限大了,大家肆无忌惮的自拍,哪怕都是同一个角度,大家照的废片也是一把一把的。同一类型的数据多了,信息熵也就降低了。

  观点二:大数据不是银弹,而是蚂蚁效应

  大数据应用常见,多见于推荐系统,业务流程优化,医疗,性能优化,预测,金融交易等,这些业务在传统的做法上,已经十分依赖于数据了,虽然以前不叫大数据,但是也都是数据驱动的业务。数据的规模和种类增多,处理方法的增多,会渐渐提高这些应用的精准性,这种提高一定是渐渐的,一点一滴的。也许一天两天感觉不错来的,但是经过多年的持续改进,这种效果是显而易见的。

  举个例来说,语音识别起始于60年代,基于小型词汇库,在90年代,IBM推出的ViaVoice是语音识别的一个里程碑,基于复杂隐式马尔科夫模型(HMM)或者神经网络算法更加成熟,数据也是基于大量的词汇库,语料库。新闻联播曾经就是ViaVoice中文版本的重要训练语库。虽然用了更大的语料库,效果有改进,但是还无法达到实用的程度。2009年以后,借助于互联网语料库的进一步丰富,数据料的增长,远远超过算法的改进程度。语音识别在准确性和实用性得到很大的提升,用户也不断使用语音识别反馈更多的数据。以至于,谷歌公司人工智能方面的专家彼得·诺维格(Peter Norvig) ,和他的同事在一篇题为《数据的非理性效果》(The Unreasonable Effectiveness of Data)的文章中写道,“大数据基础上的简单算法比小数据基础上的复杂算法更加有效。”。大数据正在一步一步的解决一些科技应用难题,例如自动驾驶,人工智能等。

  观点三:大数据不解释因果关系,只关心相关性

  《大数据时代》中定义了大数据的第三个特征,“不是因果关系,而是相关关系”。沃尔玛通过数据挖掘,发现蛋挞和飓风产品有很多关联性,并且放在一起销售提高销售量。没有人清楚其中的因果关系,当然,也可能有人牵强的解释,美国人喜欢飓风时期躲在家里吃蛋挞,通过数据我们获得了相关性,但是却不理解其中因果关系。我突然想起来自于《三体》的降维攻击:很多时候我们在二维世界的相关性,是无法在二维世界进行解释因果的,也许只有在三维或者多维世界才能够解释因果关系,而这种因果关系无法直接理解,只能进行归纳成相关关系。

  观点四: 大数据资源公司最佳变现是被收购,最直接变现渠道是广告和泛征信

  很多专业大数据服务公司的发展都不走上市之路(注意不包括大数据技术公司),因为他们对于变现的能力和可持续性都有很多顾虑,他们也面临高风险的用户隐私挑战,因此很多大数据资源公司的PR工作,远远多于具体落地的数据服务工作。因此,各个专业大数据公司都忙于各种行业洞察报告和排行榜,数据可视化的工作一个比一个炫丽,一个比一个追热点。谈到大数据公司的变现,很多公司会提到“数据服务”,实际上数据服务的市场相对稳定,并没有因为大数据公司的发展而市场膨胀,因此“数据服务”实际上是一个明显的“僧多粥少”的状态,另外老牌的数据公司,例如Nielson等在客户方便还是有一定的优势。

  收购成为大数据公司变现最佳方式,2014年Oracle收购BlueKai获得很多众互联网用户数据,BlueKai的数据来源于和很多小网站进行数据交换和购买,尼尔森公司收购了DMP公司eXelate,eXelate的数据来源各个合作伙伴的数据,它提供了数据共享和交换的平台,创建DMP支持广告优化投放。

  既然数据服务不容易攒钱,那么有没有靠谱的变现途径呢?从目前来说,广告和泛征信是两个最有效的变现渠道,效果广告的精确投放,品牌广告主需要强烈的数据背书,这些都需要数据服务,因此在广告行业专业的DMP公司,对于程序化交易是必不可少的。另外,就是征信系统,金融的本质是一个套信用系统,这就是为什么各大互联网公司都早早进入金融业务。目前很多P2P公司是否能够生存,主要依据就是风险控制,大数据是重要技术支持,因此很多P2P会采购大量数据资源,加强自己的征信系统。

  观点五:大数据是对用户隐私的汲取

  大数据正在结合智能设备的普及而大力推进,例如摄像头,手机,智能穿戴设别等。 其中,大量用户隐私数据被收集,例如用户地址,交易数据,搜索数据,用户的地理位置信息,用户的脉搏,联系人列表等等。这些都是用户的个人数据,各大数据公司都通过改善服务为借口,获得用户的授权,而进行隐私的汲取和偷窥。

  也有一种声音,这些数据是为了让你享受更好的服务。这里面也是很多逻辑问题。首先,服务商提供更好的服务,并不代表可以收集用户的隐私数据;其次,很多公司不提供不收集用户隐私数据的服务的选项,这让很多用户无法选择禁止用户隐私数据收集,这是一种利用市场地位的垄断和霸王条款;而后,所有数据公司没有提供数据清理功能,删除用户所有的历史数据。这意味着,你的隐私数据一旦被收集,可以被无限次的无范围的滥用。

  观点六: 用户数据是无法通过定价而进行交换的

  大数据采集公司,都有数据变现需求。对于数据采集公司来说,虽然能做一些数据分析和预测,但这些分析服务的费用较少(在成为顶级咨询公司之前),很难持续公司的正常运作,只能继续烧钱或者被收购。对于数据采集公司来说,很多人认为数据可以在公开公正公平的数据市场中变现,不少市面上的DMP都提供了一些数据交易平台,希望数据项商品一些安全,公平的交易.

  原因有以下几个:

  1. 大数据的价值无法用价格来衡量:

  a)同一份数据对于不同客户价值不同,不同拷贝后价值也不同。

  b)数据定价太低,卖方有注水动机;如果定价太高,买家也难以接受,而且数据报价都是暗拍的。

  用户数据交易是玩火自焚

  在各种大数据的应用中,用户的个人数据在很多场景中是最有价值的,这些数据一旦流入到市场或者黑市,社会后果将不堪设想,而且数据泄露者还面临法律风险,因此数据交易无法在公开的数据交易市场进行。一些脱敏技术可以让数据难以反追查,但是脱敏技术的尺度把握却是在人的手上,它很容易引入各种法律风险。

  观点七:大数据的价值是真水无香

  满大街唾沫横飞的大数据,让人觉得不懂大数据是一种羞耻。最近面试过好些候选人,做没做过数据都说想做大数据,而且是非大数据/机器学习不做,问他为什么要做大数据,所有回答都是这是趋势,不转型,宁等死,大数据可以挖掘出很多价值,帮助业务增长,这种感觉很好。

  反过头来,看看工作中搞大数据技术的同学,每天通过脚本处理成千上万的数据,每天苦逼的处理各个数据格式,数据清洗,数据加工,数据分类/聚类,好不容易生成一些数据洞察结果,也需要用一大堆脚本和数据进行二次验证,包括精准率/召回率。这是一种苦逼,而且需要自己挖掘乐趣的工作。

  确实,在一种新的数据洞察或大数据应用出来的时候,确实对于产品的提升很有帮助,为了保持保护这种提升,需要不断的对于数据进行清理,提高及时性,这种数据的维护工作慢慢会变成大数据工作者的很大一部分工作。这个过程有点像,一个系统的完善性维护工作,占了软件开发的很大一部分工作。 这部分数据价值对于产品竞争力的提升也会渐渐平淡,投入产出比越来越低。但是这些完善性维护工作,却不能停。一旦停止,对于业务会带来负增长,因此这种维护性的工作会变的越来辛苦。这个时候业务对于数据的以来就像人们对白开水的需求一样,平时觉得没有味道,但是缺少的马上就感到口渴,甚至渴死。

  观点八:搞清楚业务之后,再谈大数据也不晚

  目前很多行业峰会都沾上“大数据”的光环了,以前的站长大会也变成”自媒体大数据峰会”了,以前的互联网运营大会也变成”大数据运营峰会”了,以前的软件研发大会也加入了一个“大数据”分会场了。这是一个大数据唾沫横飞的世界,一不小心你就参与其中了。

  我参加过几个大数据会议,有很多人是慕名而来(我自己也是其中之一),努力将自己的工作和大数据挂上钩,搞数据分析的说自己分析的是大数据,搞技术的说自己运用了大数据技术,搞应用的说自己的大数据驱动的业务。最后,谁也不知道大数据是什么,好像和数据之间没有太多本质的区别,只是多了一个“大”字而已。

 

  我认为,这不是什么坏事,无论是使用“信息化”,“大数据”,“数据时代”,“数据挖掘”,“认知计算”,“深度学习”等词语,只要能够解决业务的问题,推进社会更加美好,就是一份有意义的工作。无论大数据还是小数据,解决业务问题就是好数据。





收藏 推荐 打印 | 录入:elainebo | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款