你好,游客 登录 注册 搜索
背景:
阅读新闻

改善数据访问:HBase、Sqoop以及Flume - 产品和技术

[日期:2013-03-20] 来源:和讯  作者:和讯 [字体: ]

改善数据访问:HBase、Sqoop以及Flume

发布时间:2012.04.16 14:38      来源:和讯     作者:和讯

Hadoop核心还是一套批处理系统,数据加载进HDFS、处理然后检索。对于计算这或多或少有些倒退,但通常互动和随机存取数据是有必要的。HBase作为面向列的数据库运行在HDFS之上。HBase以Google BigTable为蓝本。项目的目标就是快速在主机内数十亿行数据中定位所需的数据并访问它。HBase利用MapReduce来处理内部的海量数据。同时Hive和Pig都可以与HBase组合使用,Hive和Pig还为HBase提供了高层语言支持,使得在HBase上进行数据统计处理变的非常简单。

但为了授权随机存储数据,HBase也做出了一些限制:例如Hive与HBase的性能比原生在HDFS之上的Hive要慢4-5倍。同时HBase大约可存储PB级的数据,与之相比HDFS的容量限制达到30PB。HBase不适合用于ad-hoc分析,HBase更适合整合大数据作为大型应用的一部分,包括日志、计算以及时间序列数据。





收藏 推荐 打印 | 录入:admin | 阅读:
相关新闻