你好,游客 登录 注册 搜索
背景:
阅读新闻

面向服务的大数据分析平台解决方案

[日期:2014-08-29] 来源:科技促进发展杂志  作者: [字体: ]

  本文针对日益增长的大数据分析与信息服务的应用需求,提出基于数据中心和互联网、面向服务的大数据分析平台解决方案,为开展大数据分析相关的研究和实践提供借鉴和参考。首先对国内外大数据技术的产业现状进行回顾,然后给出基于数据中心和互联网的大数据分析平台拓扑架构,讨论大数据分析平台的系统功能和关键技术,最后阐述该平台系统的应用和产业化前景。

  近年来,大数据处理与分析已经成为全球性问题,引起欧美各国政府和产业界高度重视,美国政府于2012年3月率先发布了《大数据研究与发展计划》,Google, Amazon、Facebook、IBM、EMC、SAP等国际领先互联网和仃公司都在相关技术领域和应用进行布局,力图在大数据产业浪潮中抢得先机。

  随着我国经济社会信息化和自动化水平不断提高,在政府管理、公共服务、科学研究、商业应用等许多领域也而临大数据问题,亚需各种有针对性和经济有效的解决方案,快速提升我国在大数据领域的整体实力和国际竞争力。

  木文结合中国科学院战略性技术先导专项“而向感知中国的新一代信息技术”中“海云数据系统”的研制实践,提出基于互联网和数据中心、而向服务的大数据分析平台解决方案,以满足日益增长的用户需求,为我国开展大数据分析技术的研究和实践提供借鉴和参考。

  一、大数据技术发展现状

  大数据时代来临,工业界是技术争霸的主战场。全球大数据产业界针对大数据特有的海量、非结构化、关系复杂、动态时变等特性以及不断涌现的各种新型应用需求,围绕海量复杂数据的存储、管理、整合、处理、分析、展现、应用等主要环节,已经形成了新的大数据产业体系。

  从发展路线角度看,业界将大数据产业划分为三大阵营:一类是以IB M、微软、惠普、ORACLE,EM C等为代表的传统仃领导厂商,通过“硬件十软件十数据”整体解决方案向用户提供以平台为核心的完备的基础架构与服务,并通过密集地并购大数据分析企业,以迅速增强和扩展在大数据分析领域的实力和市场份额;一类是以SA S, SPSS等为代表的专业商务智能公司,专注于智能数据分析;还有一类是以G oogle,Am azon, Facebook等互联网公司为代表,基于自身的应用平台、庞大用户群和海量用户信息,提供精准营销和个性化推荐等商业活动。以上三大阵营各有特点和优势,形成了大数据时代三足鼎立的格局。

  1.招体平台解决方案厂向

  以IB M、微软、惠普、ORACLE, EMC等为代表的传统IT巨头,通过“硬件+软件+数据”的整体平台向用户提供大数据一站式解决方案。IBM在过去几年连续投入160亿美元,收购了30 多家与大数据相关的企业,初步实现了大数据行业应用的布局。目前IBM在软件架构层而,收购了商务智能软件供应商Cognos、统计分析软件SPSS、数据库分析供应商Netezza。结合IBM的DB2数据库,推出了支持Apache Hadoop的Info Sphere BigIn sights软件,支持大数据的应用。在硬件架构层而,IBM发布了集成了刀片服务器、存储、网络设备及相应软件系统的大数据一体机Pure Data,提供数据仓库、和数据分析等功能。

  为了应对行业竞争,数据库龙头企业ORACLE推出了0racle大数据一体机。该一体机集成了0racle Exalogic中间件云服务器, 0racle Exadata数据库云服务器和0racle Exalytics商务智能云服务器形成了ORACLE企业级端到端大数据的产品线。

  通过收购 Vertica 公司,惠普推出针对大数据的Vertica 6.1 数据分析平台,突破了传统数据仓库和数据库无法实现纵向扩展的瓶颈。在大数据管理方面,Vertica 信息优化平台实现高速度、高性能、高可扩展,通过内嵌 R 语言包实现了分析功能。Vertica 数据分析平台以软件的形式存在,可以加载在不同的计算资源上运行,包括一体机,同构或异构的硬件集群,甚至是公有云环境。

  存储服务器厂商 EMC 依托其 Greenplum 数据库推出了第一款 Greenplum 一体机产品(Appliance),对原有的EMC硬件和Greenplum 软件进行了整合。Greenplum 采用不同于Oracle,DB2等数据库产品的shared-nothing 大规模并行处理(Massive Parallel Process,MPP) 架构,特别适用于大数据分析场景,可以通过增加节点方式进行横向扩展,从而有效控制成本和性能。Greenplum 包含支持结构化数据处理的 Greenplum Database 和非结构化数据处理的Greenplum HD (Hadoop)。

  整体平台解决方案厂商依靠自身原有的软件、硬件或技术优势,通过收购及整合不同公司的产品线,实现对大数据各个领域的覆盖。但是这种堆砌式的系统整合,并不能彻底的突破大数据分析的瓶颈。只有通过对自身产品和技术的原始创新,才能实现对大数据处理问题的彻底解决。

  2. 商务智能专业厂商

  以 SAS、Teradata、Hyperion、Business Objects、Cognos、SPSS 等为代表的商务智能专业厂商长期专注于智能数据分析领域,具有技术实力强、产品线丰富、深刻理解传统行业(如银行、电信、零售)应用需求等优势。近年来,随着大数据分析竞争日趋激烈,该类厂商成为传统 IT 巨头的争夺焦点,早在 2007年至 2009 年,Oracle、SAP、IBM 等 IT 巨头就已完成对商务智能前四大厂商 Hyperion、Business Objects、Cognos、SPSS 的并购。

  商务智能专业厂商在大数据时代的发力点在结构化数据处理。在大数据时代,这些厂商开始加大在高可扩展计算、非结构化数据处理、以及与业务运营集成的实时处理(即操作型商务智能)等方面的投入和创新。例如,SAS 在 2012 年推出了基于内存计算的高性能数据分析方案,核心部件包括:SAS 高性能分析服务器、SAS 可视化分析和 SAS DataFlux 数据流处

  理引擎。SAS 高性能分析服务器采用库内分析和内存计算两种解决方案。库内分析技术在数据库内实现分析的过程,用户过去开发的 SAS 程序可以直接移植使用,而且这样的分析过程无需提取数据,避免了数据传输的额外开销,分析能力极大地提高。内存计算技术则利用大内存服务器的优势,减少数据从硬盘加载到内存的机会,把数据和分析程序直接放置在内存中执行,特别适合具有迭代和嵌套模式的分析算法,极大地提高了建模处理的速度。除此之外,SAS 公司最新推出的高性能分析解决方案还采用了“SAS Visual Analytics”技术,即可视化分析,让用户及时地查看分析结果。

  Teradata 公司针对大数据处理提出了统一数据架构 (Teradata Unified Data Architecture,UDA)下的 Aster 大数据分析平台该平台继承了Teradata公司统一数据架构在数据管理方面的优势,它与大数据的收集、处理等工作紧密相连,为企业提供一个完善的数据源。UDA 通过 Hadoop 实现数据存储管理,通过 Aster 实现数据探索和分析,通过 Teradata实现统

  一的数据架构,将存储、分析与整合相互结合,实现大数据价值的一个完整的闭环。

  商务智能专业厂商(如 SAS、Teradata)凭借在数据分析领域的长期积累,在大数据的分析建模方面仍然处于行业领导地位。但是,这些产品的大数据处理能力往往依赖于高性能服务器的处理能力,虽然他们也在向 Hadoop 等分布式平台迁移,但是实际的效果还有待观察。

  3. 互联网公司

  大型的互联网巨头,如国外的 Google、Facebook、Amazon,国内的阿里巴巴、百度、腾讯等,基于自身海量的用户信息和互联网处理平台,依托大数据提供精准营销和个性化广告推介等商业活动。十年前,Google发表的 GFS(Google File System)、MapReduce、和 BigTable论文催生了大数据处理的事实标准Hadoop。目前,Google 通过自身开发的 Caffeine平台,直接将索引放置在分布式数据库 BigTable 上。Google 还向用户提供了大数据的虚拟服务器业务,用户可以把数据上传到 Google,采用 Google 提供的BigQuery和 Google Compute Engine等服务和基础设施完成数据查询和分析。

  Facebook 目前运行着世界上最大的 Hadoop 服务器集群,存储的数据超过了 100PB,每30 分钟可以处理的数据超过了 105TB。然而,爆炸式增长的数据使Facebook 的 Hadoop 服务器集群难以承受,出现数据雪崩问题 (avalanche of data)。为此,Facebook 开发出两种全新软件平台处理大数据的挑战,第一种叫做“Corona ( 日冕 )”,它可以实现在数目庞大的

  Hadoop 服务器之间运行大量的任务,并且不用担心软件错误会导致整个服务器集群出现崩溃。第二种叫做“Prism ( 棱镜 )”,它实现了不同地域服务器的数据自动复制和传输,使 Facebook 遍布全球数据中心的Hadoop 服务器集群的数据得到同步,形成更加庞大的Hadoop 数据集群。

  云计算服务提供商 Amazon 推出了 Amazon 弹性MapReduce(Amazon Elastic MapReduce)。弹性MapReduce 是一项能够迅速扩展的 Web 服务,运行在亚马逊弹性计算云(Amazon EC2)和亚马逊简单存储服务平台上(Amazon S3)上。作为业界领先的云计算服务提供商,Amazon 提供网页检索、日志分析、数据挖掘、金融建模等数据密集型的任务需要的弹性云服务,动态地满足用户对于计算资源的需求。

  相对于国外互联网企业在大数据技术上的不断创新,国内互联网企业主要在大数据应用模式上创新。阿里巴巴利用旗下淘宝网的历史交易数据,推出了“淘宝指数”,相对于国外互联网企业在大数据技术上的不断创新,国内互联网企业主要在大数据应用模式上创新。阿里巴巴利用旗下淘宝网的历史交易数据,推出了“淘宝指数”,商家可以参考该指数指导生产、制定价格和控制库存。百度面对大数据时代企业需求,从数据、工具及应用三个层面规划大数据时代的企业战略。腾讯利用自身强大的社会网络通讯平台资源,通过大数据技术挖掘社会网络中的商业价值,实现了不同产品营销平台,为用户推荐感兴趣的产品和内容。

  综上所述,当前的大数据技术领域以产业引领为主,在大数据集中的领域推出相应的产品和服务。学术界主要围绕其中的难点问题展开基础性研究。目前,围绕大数据的科学研究、技术创新、系统开发和实际应用刚刚起步,无论产业界还是学术界,正处在群雄并起的“大数据春秋时期”。可以预计,在未来五至十年,大数据领域将会发展成若干核心团队、公司、典型应用的“大数据战国时代”。

  二、大数据分析平台体系架构

  大数据没有一个明确的定义,是一个相对的概念,取决于当前所具有的数据处理能力。如果一个用户所面对的数据超出该用户所拥有的数据存储、处理和分析的能力,致使该用户不能有效地利用数据,该用户就面对大数据问题。在大数据时代,个人、企业和机构都会面临大数据的问题。建设面向服务的大数据平台,为众多的中小企业和个人用户提供大数据处理和分析的能力,将成为大数据产业发展的重要方向。

  面向服务的大数据分析平台以区域性智能数据中心及高速互联网为基础设施,以互联网服务体系为架构,以大数据存储、处理、挖掘和交互式可视化分析等关键技术为支撑,通过多样化移动智能终端及移动互联网为用户提供数据存储、管理及分析服务。

  大数据分析平台的拓扑架构如图 1 所示。其中部署在多个地方的智能数据中心提供大数据存储及计算平台,通过平台服务器提供系统调用功能。门户服务中心将整合所有的智能数据中心存储和计算资源,并通过 web 应用服务器和 Open API 服务器以 web 调用和Open API 调用的方式提供大数据存储、管理及挖掘服务。终端用户利用移动智能终端通过互联网访问门户服务中心,使用其提供的大数据存储、管理及挖掘服务。

130534240913963013_new.jpg (474×417)

  图1.大数据分析平台拓扑示意图

  大数据分析平台的系统架构如图 2 所示。系统包含 3 个层次:平台层为整个大数据分析平台提供基础平台支持;功能层提供基本的大数据存储和挖掘功能;服务层为用户提供基于互联网的大数据服务。具体包括:

130534241958212741_new.jpg (555×292)

  图2.大数据分析平台系统架构

  (1)平台层:为大数据存储和挖掘提供大数据存储和计算平台,为多区域智能中心的分析架构提供多数据中心调度引擎;

  (2)功能层:为大数据存储和挖掘提供大数据集成、存储、管理和挖掘功能;

  (3)服务层:基于 Web 和 Open API 技术提供大数据服务。

  三、大数据分析平台关键技术

  建设面向服务的大数据分析平台,需要研究和开发一系列关键技术(如图 3 所示),主要包括:

  

130534242475282315_new.jpg (539×288)

  图3.大数据分析平台关键技术

  1. 平台层

  (1)大数据分布式存储系统:针对数据不断增长的挑战,需要研究大规模、非结构化数据的存储问题,突破大数据的存储、管理和高效访问关键技术,当前需要构建至少 PB 级存储能力的大数据平台才能满足一般的科研和应用需求。

  (2)分布式数据挖掘运行时系统:针对大数据挖掘算法运行的挑战,突破 MapReduce 技术的局限,研究有效支持迭代、递归、层次及集成机制的海量数据挖掘编程模型和运行时系统,构建大数据运行时系统。

  (3)智能数据中心联合调度技术:针对大数据存储和挖掘的挑战,研究多数据中心的智能联合调度、负载均衡技术,整合多个数据中心的存储和计算资源,构建基于多智能中心的大数据服务平台。

  2. 功能层

  (1)高可扩展性大数据挖掘算法:针对大数据挖掘的挑战,研究基于云计算的分布式大数据处理与挖掘算法,构建高可扩展的大数据处理与挖掘算法库,实现 TB 级数据的建模能力。

  (2)大数据安全与隐私保护技术:针对数据挖掘“软件即服务”(SaaS)模式的需求,研究开发数据挖掘在云环境下的隐私保护、数据审计和节点数据挖掘技术,确保大数据挖掘过程中的数据安全,保证用户的隐私不被泄露。

  (3)分布式工作流引擎:针对大数据挖掘分布式调度的挑战,研究基于云计算的分布式工作流调度、负载均衡技术,构建高效分布式工作流执行引擎。

  (4)交互式可视化分析技术:针对传统分析方法交互性和可理解性不足的问题,研究启发式、人机交互、可视化数据挖掘新技术,实现大数据挖掘的高度人机交互功能。

  3. 服务层

  (1)基于 Web 的大数据挖掘技术:突破传统的基于单机软件的数据挖掘技术,创新基于 Web 的大数据挖掘方法和流程,实现易于使用的基于 Web 的大数据挖掘技术,构建基于 Web 的大数据分析环境。

  (2)基于 Open API 的大数据挖掘技术:突破传统的基于软件的数据挖掘技术,创新基于 Open API 的大数据挖掘方法,研究大数据挖掘开放接口、开放流程,构建基于 Open API 的大数据分析模式。

  为广大用户提供大数据处理和分析的服务功能,大数据分析平台要突破传统的基于软件和高端服务器的数据挖掘传统技术体系,采用基于云计算的大数据存储和处理架构、分布式数据挖掘算法和基于互联网的大数据存储、处理和挖掘服务模式。实现这一目标需要做如下创新:

  (1)系统架构创新:突破传统的基于软件和高端服务器的数据挖掘技术体系,研发基于互联网和云计算的大数据存储、处理和挖掘的数据中心系统架构,支持多用户、多任务的大数据分析环境;

  (2)服务模式创新:突破传统的一次性软件销售或软件租赁的高价格解决方案,创新基于互联网的大数据存储、处理和分析服务模式,为用户提供按需、廉价的大数据存储、处理和分析服务;

  (3)使用模式创新:突破传统的使用单机软件的方式,创新基于互联网的大数据存储、管理和分析服务,提供多终端(台式机、笔记本、平板电脑、手机等)、多途径(浏览器访问,Open API 调用等)的用户使用模式。

  四、大数据分析平台应用与产业化

  商业应用是大数据分析平台的发展目标。随着我国企业信息化程度和水平不断提高,越来越多的企业需要大数据分析的能力以提高竞争力。在互联网、电子商务、金融、电信、零售、物流等数据驱动型行业,客户分群、客户行为分析、客户关系管理、市场营销、广告投放、业务优化、风险管理等企业核心业务越来越依赖于对数据的有效分析与挖掘。正如在《大数据:国家选择与产业方向》一书中所说,“大数据时代公司的价值,与其拥有的数字资产的规模、活性成正比,与其解释、运用数据的能力成正比”。因此,如何从海量业务数据中挖掘有价值的信息和知识,从而指导商业运营与决策、提高企业运营效率和盈利能力,成为每个企业都将面临的重要挑战。

  大数据分析平台基于分布式海量数据存储与计算环境,提供图形化交互式数据处理和分析工具,丰富的数据分析与挖掘算法,以及交互式可视化分析工具,通过互联网服务方式向用户提供服务。这种系统实现策略不仅符合大数据应用的发展趋势,同时也满足中小企业和个人用户对于数据分析系统的可用性、时效性和低成本等方面的要求。

  目前,在大数据处理与分析领域,国际上三支主要力量在不断地竞争与融合,即大型互联网公司(如Google、Amazon)、 传 统 商 务 智 能 公 司( 如 SAS、SPSS)和传统 IT 公司(如 IBM、ORACLE、SAP)。三方从各自优势出发,不断增强针对大数据的分析智能性、计算扩展性和非结构化数据处理能力。尽管一些公司在上述领域取得突破并抢得市场先机,但国际大数据产业整体上仍然处于起步阶段,据 IDC 公司预测未来 5 年大数据分析产业年增长率高达 9.8%,到 2016年全球产业规模将超过 500 亿美元。同时,越来越多的大数据创新公司不断涌现并发展迅速,也证明了该领域蕴含着巨大的发展潜力和广阔的市场前景。

  大数据分析平台所采用的技术路线和应用模式融合了智能分析技术、高可扩展计算技术、非结构化数据处理技术和软件即服务(SaaS)应用模式,符合当前国际大数据产业的发展趋势和产业化应用要求。一方面,系统通过互联网服务方式向用户提供高可用、高易用和一站式的海量数据分析服务,可有效降低企业应用门槛和成本,通过专业化服务外包满足企业个性化需求。另一方面,由于是开放架构的系统平台,商业用户和其他软件提供商可通过系统提供的互联网服务开发接口(Open API)开发面向行业商务智能应用的解决方案,孵化新型咨询公司、软件公司和信息服务公司,有助于形成以平台为核心的大数据分析产业生态环境。





收藏 推荐 打印 | 录入:Cstor | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款