你好,游客 登录 注册 搜索
背景:
阅读新闻

大数据概念并非无解

[日期:2014-09-02] 来源:中国信息报  作者: [字体: ]

大数据概念

  去年10月,我们召开以大数据为主题的科学讨论会时,有一位代表说,那么多专家讲了一天,连什么是大数据的概念都还没搞清。我说不对。大家是从不同的角度对这个概念进行诠释。如同说到“文化”这个概念,马上问100个人,难道能够得出一个统一的答案吗?也许100个人就有100个答案。但这并不意味着大家对这个概念没有一种相差无几的共识。同样,讲到精神这个概念,虽然大家都能理解得八九不离十,但100个人却很难给出一个相同的标准答案。如果没有一个绝对权威,像确定“北京精神”那样,给大数据明确一个独一无二的概念,大家就会在八九不离十的基础上依然各自表述、各说各话。

  我们的研究成果显示,对大数据现象和概念追根溯源,大致可以分为三个阶段。一是20世纪80年代至90年代中期,是大数据认知的萌芽阶段。1980年,美国著名未来学家阿尔文·托夫勒在《第三次浪潮》一书中将大数据盛赞为“第三次浪潮的华彩乐章”。二是20世纪90年代中期到21世纪前10年,是大数据广受各界关注的阶段。美国高德纳(Gartner Group)公司的分析师道格拉斯·兰尼(Douglas Laney)2001年首次从大数据的特征的角度对大数据进行了相对明确的定义,强调大数据必须具备3V特征,即容量大、多样化和速度快。三是2010年至今,是大数据战略应用被提上日程并迅速发展的阶段。美国总统科学技术顾问委员会于2010年给奥巴马总统和国会呈报了题为《规划数字化的未来》的报告。麦肯锡公司于2011年发布了《大数据:创新、竞争和生产力的下一个前沿》的报告。2012年更是一个重要年份。1月,瑞士达沃斯世界经济论坛发布报告《大数据 大影响》;3月,美国奥巴马政府颁布了《大数据的研究和发展计划》;5 月,联合国秘书长执行办公室发布了《大数据促发展:挑战与机遇》的报告;6月,经合组织OECD统计委员会第9届会议发布《使用大数据作决策》研究报告。 2013年则可以称为中国统计的大数据元年。7月,“大数据时代统计学:机遇与挑战——中国统计学高端论坛”在上海财经大学举办;10月,主题为“大数据背景下的统计”的第十七次全国统计科学讨论会在杭州举行;11月,国家统计局与阿里、百度等11家企业签署了大数据战略合作框架协议。

  什么是大数据?麦肯锡报告的定义是,“大数据是指大小超出了传统数据库软件工具的抓取、存储、管理和分析能力的数据群”。维基百科(Wikipedia)的表述是,“大数据是难以用现有的数据库管理工具处理的兼具海量特征和复杂性特征的数据集成。”涂子沛将大数据定义为那些大小已经超出了传统意义上的尺度,一般的软件工具难以捕捉、存储、管理和分析的数据,认为一般应该是“太字节”的数量级。阿里创始人马云则说,大数据就是一种服务。而我们的同仁在研究中提出:大数据是指采用多种数据收集方式,汇集不同数据源,通过采用现代信息技术和架构能够高速分析处理的、具有高度应用价值和决策支持功能的多种类型数据及其技术集成。

  从存在形态看:大数据分为可以用二维表反映的结构化数据和不能以二维表反映的非结构化数据,如音频、视频、图片等。从数据来源看:大数据可分为行政记录数据、商业记录数据、互联网及搜索引擎数据三大类。行政记录数据包括个人信息记录数据,单位信息记录数据和自然和资源记录数据等;商业记录数据包括电子商务交易数据,企业生产经营数据和信息咨询报告数据等;互联网数据则包括搜索引擎数据,新闻媒体数据和社交平台数据等。而大数据的特征,从最初的3V已经被归纳为6V加1C。即数据体量大(Volume),类型多样化(Variety),处理速度快(Velocity),应用价值大(Value),数据获取与发送的方式自由灵活(Vender),准确性(veracity)和处理和分析难度非常大(Complexity)。

  相对于传统数据,大数据多是自动化或半自动化生成;数据的搜集、处理、存储和分析能力都已极大提高;数据主体和来源日趋多元化;非结构化数据占绝大多数;需要大量过滤才能提取有用价值;隐私与安全也存在着巨大隐患。





收藏 推荐 打印 | 录入:Cstor | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款