你好,游客 登录 注册 搜索
背景:
阅读新闻

《大数据时代》重新认真思考了大数据

[日期:2014-05-09] 来源:www.ublnwf.com  作者: [字体: ]

  通过读Viktor Mayer-Schonberger的《大数据时代》重新认真思考了大数据,全书以数据为核心,引导人们用数据的思维去理解世界,用数据的思维去解决问题,是推荐读物。但个人认为本书叫《数据时代》更为合适,因其讲了不少统计学、数据收集的故事,“大数据”的故事只占一小部分。

大数据时代

  维基百科说大数据由巨型数据集组成,这些数据集大小常超出常用软件在可接受时间下的收集、庋用、管理和处理能力,或称巨量数据、海量数据、大资料,大数据的常见特点是3V:Volume、Velocity、Variety。

  规模巨大的数据未必是大数据,需满足她的三个特点。以研究掷硬币概率的实验为例,当传统实验次数达到一定规模后就能帮助实验者分析正反面出现的概率,随着实验次数的增加,数据大量积累可能越来越支持这一结论,数据达到一定量,它的边际效应就出现了,数据继续增加对分析概率还有多少意义呢?按照现代概率学伯努利试验去带入函数计算就好了,这仅算是概率学或者是统计学吧。故大数据不是因为单纯体积大而大,是因为杂而大,研究硬币正反面的概率如引入天文学、心理学、材料学、物理学等领域的数据而使之变大,进而研究关联关系(或因果关系,注:本书不认同因果关系的重要性),从而得出概率的分布,然而大量相关数据的引入,按照传统分析过程的时间是不可接受的,需利用高效计算资源,迅速把杂而大的处理结果呈现出来,并且实验者对结果的预期不能要求100%的精确。大数据并不是数据本身,而是一种思维方式。

  大数据令人着迷的地方在于用“科学”的办法挑战了“预测学”,帮助人们发现未知,帮忙人们进行决策。然而本书作者Viktor Mayer-Schonberger强调“大数据不是因果关系,而是相关关系,相关关系比因果关系更重要”,此观点不能认同,因果关系是宇宙的基本定律,且不说种瓜得瓜、善有善报之类哲学命题,若商家在发现电容器、钉子、高压锅有关联购买关系而去做大量营销的话岂不是有可能发生更多的波士顿爆炸案①。关联关系在大数据中被提取出来使用,而不去关心因果关系是一种粗暴的、倒退的处理方式,是作者理解的现代社会浮躁的心里体现。我认为的大数据应该是把看起来不相干的数据放到一起分析,找到某些跨领域的关联关系,进而推论因果关系,发现其中价值。作者引用了安德森的观点“现在已经是一个有海量数据的时代,应用数学已经取代了其他的所有学科工具,而且只要数据足够,就能说明问题”,数据和所有科学的关系,我觉得有点像现在互联网和其他所有行业的关系一样,互联网终究还是一个工具。作者举了沃尔玛“尿布与啤酒”③的故事,这也是大家熟知的一个数据分析的故事,但是沃尔玛真的是这么做的吗?大家可以去沃尔玛的时候留意一下。一家大型的超市,如果为了这种所谓相关关系,所有商品用这种关联关系去摆放,天哪,这将是一家多么混乱的超市,顾客进去将难以区分食品在哪、生活用品在哪!有人可能说这种关联关系更适合电子商务,是的,但是我还是比较看好已知原因的关联关系,比如婴幼儿智力玩具和孕妇减肥放到一起,比如在线播放器旁边放卫生纸的广告(哈哈哈,你懂的)。本书用美国折扣零售店塔吉特与怀孕预测②来佐证他的观点,但恰恰是知道因果关系后商业价值才能更多的体现出来,未知因果关系前顾客的父亲生气并要求赔偿,知道因果关系后才使得这种广告理所应当并让客户接受。

  互联网信息时代数据的积累以及BI、数据仓库、人工智能、HADOOP、NOSQL等技术的流行,使得人们考虑问题的方式已经发生变化,接下来我们要做的只有接受拥抱数据时代、大数据时代。软件行业程序上线的变更差错率是一个考核IT水平的指标,为此很多公司引进了CMMI体系,以求他保障软件的质量,为此也收集了大量的过程数据。若用数据的思维,是否可能根据之前的各种相关数据预测下次投产变更的成功率?若用大数据的思维,是否可以根据CMMI数据以及程序员开发期间上下班考勤数据、工资发放时间、上线当天天气情况来综合预测投产变更的成功率?用大数据的思维,订餐网站不仅根据之前你定的是咸的还是辣的来给你推荐菜单,可能因为你微博上发了一句“每个月总有那么几天”修改了订餐的推荐菜单(哈哈)!故在数据时代,提议童鞋们检查公司的信息系统,是否有定期删除“垃圾”日志、数据的机制(Viktor说,即使最平凡的信息业可以具有特殊的价值),为了日益廉价的存储而删除日益昂贵的数据,请三思后行吧。

  文章来自: http://www.ublnwf.com





收藏 推荐 打印 | 录入:Cstor | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款