你好,游客 登录
背景:
阅读新闻

动不起来的大数据都是发酵中的垃圾

[日期:2017-10-20] 来源:中关村在线  作者: [字体: ]

  第1页:动态数据采集以求真

  大数据的概念炒作一向厉害,很多公司有着海量的数据流,有着大把的客户和资金,技术也足以进行处理大数据,但是大数据之所以能够成功炒作上位,是因为其能动性,一切动不起来的大数据都是发酵中的垃圾。

大数据

  动态数据采集以求真

  大数据在数据采集的环节常常忽略实际的数据采集环境问题。尽管在互联网环境中,采集环境很少受到大幅的波动影响,但是一旦涉及行业特征则很难保障。

  大数据在行业中应用时会受到协同性、跨尺度、多因素、因果性和机理性等影响,这就使得数据采集时必须入乡随俗,贴切真实的应用场景。而不是简单的从接触到数据采集点时的单一数据,这种数据对于全面分析事件形成原因存在着一定的误差导向因素。

  解决这一问题的办法在于行业应用中,针对某一业务目标可以动用整个企业甚至行业链中的相关资源协同助阵,将不同时间尺度的信息集成采集,参考多种可能造成数据改变的因素和产生原因,进行多层次的数据采集并且实现数据来源的真实性和丰富性。

图片.png

  数据采集需要全面

  同时,数据的采集不应当是阶段性的,而应该让采集的数据保持动态。一直以来大数据的分析过程都是一个冗长的过程,数据采集、管理、处理、存储、分析到应用的整个流程不仅漫长,而且很难做到实时处理,这样的一个结果就是数据库中的数据很容易被迫过气,导致分析偏差。

  第2页:动态数据管理以求新

  动态数据管理以新

  数据的动态管理是很多企业为难的地方,因为采集到的数据集量非常大,而且其中绝大多数都是无意义数据,可是数据的拆分和筛选却需要消耗大量资源才能完成。

图片.png

  数据管理不容易

  数据的管理涵盖了数据存储和数据提取等多个步骤,而如何能够高效的管理数据成为影响大数据处理进度的重要一环。数据采集过后,利用关系、键值、文档、图片、多媒体等属性不同进行打标签和归类,预处理后形成数据集在数据库中进行分类存储。

  大数据采集之后的存储也不尽相同,有的数据只需要进行短存储就需要提取并进行处理,而多数数据则需要长期存储,因此分类还需要根据用途进行不同方式的区分。暂时性存储的数据需要快速整理,而长久存储的数据需要降低成本和保证调用时的快捷性。

  不过,一部分数据库会囿于过去的数据影响,采集到的数据分析结果始终存在过去的数据在过去环境下的加持,从而会使得数据分析的最终结果出现偏差等问题。因此,在数据存储时应当提供区域性和完整性多层数据。

图片.png

  动态的数据管理不仅仅是在数据库层面之中形成动态趋势,而是在整体的数据管理中,利用自动化和区块化的技术将必要数据进行细分和筛选,让数据保持新鲜度,去除旧数据的影响。

  第3页:动态数据分析以求稳

  动态数据分析以求稳

  在采集和分析部分实现动态后,数据分析才是真正的核心存在。毫无疑问,数据分析的核心是算法和数据,而在数据发分析时普遍可以先分为数据处理和分析两个环节。

图片.png

  数据分析的算法是十分挑剔的,其对于不同的数据要求不同,一般来讲,结构化数据和非结构化数据就是典型的不同种类的数据,其处理方式相差甚远,因此需要先进行数据处理,将不同种类的数据根据分析目的进行异构解析或者压缩,然后进行分析得出指导性理论。

  在分析方面,算法对分析结果的影响是十分明显的。从数据中根据分析目的选取不同算法,获得分析结果。但是问题在于,这种以目的驱动的数据分析筛选过程所去除的数据难以确定是否真正的无关,这就导致最终分析出的结果很可能是出现偏差的。

  此类问题的解决普遍采用的是利用算法进行分析和精简的,单一算法的偏差难以避免,片面数据的解析同理。而如果全面分析时,静态数据难以保持新鲜度,全面分析计算量过大而且缺乏针对性。

图片.png

  数据分析面临挑战

  如果采用动态的实时处理手段则可以避免这些问题,数据及时的处理后得到结果作为一种“数据”进行处理,在需要时进行二次消化,比传统方式要容易一些。而这种方式的问题在于目前的技术限制可能会让实时处理结果依然面临算法单一的挑战。

  第4页:动态数据应用以求实

  动态数据应用以求实

  分析结果的产出还需要最终用于解决企业决策才能够形成价值。只不过数据分析结果的应用也会面临的静态的问题。

  一般来讲,数据分析结果是支持企业经营和运行发展方向解决方案的,可是这就意味着前期的巨大投入能够获取的成果应用范畴却十分的狭窄,投入产出比过低导致大多数企业对大数据的应用很难产生兴趣。

图片.png

  数据可视化仅仅只是一部分

  而想要让大数据发挥更大的价值,数据可视化仅仅是其中的一部分。企业中应当把数据分析结果实现流动,将适合的数据在不同部门不同岗位中进行传递,最大化发挥数据价值,提升企业业务效率。

  再者,动态数据应用应该降低数据分析门槛,借助相关大数据分析工具,让每个员工有数据可用,能数据分析,以数据指导员工发展,帮助员工接近真实数据,运用数据指导,实现自身价值。

  大数据自从提出以来一直在不断的发展之中,而静态的数据只能如一潭死水,价值极低,唯有让各个环节动起来,才能让数据成为金子。





收藏 推荐 打印 | 录入:Cstor | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款