技术开发 频道

HBase在淘宝平台上的应用和改进经验

        【IT168 现场报道】2011年12月2日消息,Hadoop中国2011云计算大会(Hadoop in China 2011,HiC2011)今天在北京会议中心举行。Apache软件基金会主席兼Apache Hadoop项目负责人Doug Cutting先生,Condor创始人University of Wisconsin–Madison的Miron Livny教授, Ohio State University计算机系主任,Robert M. Chritchfield讲席教授张晓东出席了本次会议。

  在今天下午进行的NoSQL系统及应用分论坛中,来自淘宝的软件工程师张毅发表主题演讲“淘宝HBase应用和改善”,介绍了HBase在淘宝平台上使用,以及对HBase的调试和改进的经验分享。

HBase在淘宝平台上的应用和改进经验
▲淘宝软件工程师张毅

  随着淘宝的数据的快速增长,数据量每年都会翻一翻,这样的增长速度是淘宝选择HBase的重要原因。据张毅介绍,淘宝自今年年初开始对HBase进行预演,包括线上应用和调优,以及bug的修改。这一过程包括三个阶段,第一阶段是对HBase的属性和配置等性能方面的熟悉过程;第二阶段将HBase应用到线上;第三阶段是修改其内部代码,并投入到HBase的社区中,使其得到进一步的发展。

HBase在淘宝平台上的应用和改进经验
▲淘宝选择HBase的原因

  HBase是分布式NoSQL存储系统,其底层数据存储基于HDFS,具有高可用和高性能的特点,可以处理百亿行*百万列*上万个版本的列式存储。谈到淘宝为什么会选择HBase,张毅表示,淘宝选择HBase就像当年选择Hadoop一样,因其具有海量数据处理的能力。淘宝每天的数据量都能达到PB级,需要HBase应对海量数据带来的挑战。另外,HBase还具有易于横向扩展、随机读写的高性能、高可靠性和稳定性、单行写入的强一致性的特点。

HBase在淘宝平台上的应用和改进经验
▲HBase在淘宝的规模

  张毅认为数据瞬间写入量很大,数据库不好支撑或者需要很高成本支撑的场景可以考虑使用HBase,或者数据需要长久保存,且量会持续增长到比较大的场景可以选择HBase。但是HBase毕竟不是关系型数据库,因此不适用于有Join、多级索引、表关系复杂的数据模型。

HBase在淘宝平台上的应用和改进经验
▲NoSQL专场爆满 向坐在地上的同学们致敬

  欲了解Hadoop中国2011云计算大会(Hadoop in China 2011,HiC2011)的更多内容,请点击IT168报道专题:

HBase在淘宝平台上的应用和改进经验
Hadoop中国2011云计算大会报道专题

0
相关文章