HBase应用场景、原理与基本架构

1、HBase概述

HBase是一个构建在HDFS上的分布式列存储系统;
HBase是Apache Hadoop生态系统中的重要一员，主要用于海量结构化数据存储;
从逻辑上讲，HBase将数据按照表、行和列进行存储。

HBase表的特点:

大:一个表可以有数十亿行，上百万列
无模式:每行都有一个可排序的主键和任意多的列，列可以根据需要动态的增加，同一张表中不同的行可以有截然不同的列;
面向列:面向列(族)的存储和权限控制，列(族)独立检索;
稀疏:对于空(null)的列，并不占用存储空间，表可以设计的非常稀疏;
数据多版本:每个单元中的数据可以有多个版本，默认情况下版本号自动分配，是单元格插入时的时间戳;
数据类型单一:Hbase中的数据都是字符串，没有类型。

行存储与列存储对比：

传统行式数据库:

数据是按行存储的
没有索引的查询使用大量I/O
建立索引和物化视图需要花费大量时间和资源
面向查询的需求，数据库必须被大量膨胀才能满足性能要求

列式数据库:

数据是按列存储-每一列单独存放
数据即是索引
只访问查询涉及的列-大量降低系统I/O
每一列由一个线索来处理-查询的并发处理
数据类型一致，数据特征相似-高效压缩

2、HBase数据模型

HBase是基于Google BigTable模型开发的，典型的key/value系统.

HBase schema可以有多个 Table，每个表可由多个Column Family组成
HBase可以有 Dynamic Column：列名称是编码在cell中的；不同的cell可以拥有不同的列。

Row Key：表中每条记录的“主键”,方便快速查找,每一行的rowkey必须是唯一的,无需以递增的顺序插入.
Column Family: 拥有一个名称,包含一个或者多个相关列.
Column: 属于某一个column family,包含在某一列中 familyName:columnName
Version Number: 每个rowkey唯一,默认值 -> 系统时间戳,类型为Long
Value (Cell): Byte array

Hbase支持的操作

所有操作均是基于rowkey的；
支持CRUD（Create、Read、Update和Delete）和 Scan；
单行操作：Put、Get、Scan
多行操作：Scan、MultiPut
没有内置join操作，可使用MapReduce解决。

3、HBase物理模型

每个column family存储在HDFS上的一个单独文件中；
Key 和 Version number在每个 column family中均由一份；
空值不会被保存。
HBase 为每个值维护了多级索引，即：<key, column family, column name, timestamp>

1、Table中的所有行都按照row key的字典序排列；

2、Table 在行的方向上分割为多个Region；
3、Region按大小分割的，每个表开始只有一个region，随着数据增多，region不断增大，当增大到一个阀值的时候，region就会等分会两个新的region，之后会有越来越多的egion；

4 、Region是HBase中分布式存储和负载均衡的最小单元。不同Region分布到不同RegionServer上；

5 、Region虽然是分布式存储的最小单元，但并不是存储的最小单元（数据存储的最小单元是cell）。
Region由一个或者多个Store组成，每个store保存一个columns family；
每个Strore又由一个memStore和0至多个StoreFile组成；
memStore存储在内存中，StoreFile存储在HDFS上。

4、HBase基本架构

HBase基本组件

Client:

包含访问HBase的接口，并维护cache来加快对HBase的访问

Zookeeper:

保证任何时候，集群中只有一个master
存贮所有Region的寻址入口
实时监控Region server的上线和下线信息。并实时通知给Master
存储HBase的schema和table元数据

Master:

为Region server分配region
负责Region server的负载均衡
发现失效的Region server并重新分配其上的region
管理用户对table的增删改查操作

Region Server:

Region server维护region，处理对这些region的IO请求
Region server负责切分在运行过程中变得过大的region

Zookeeper作用

HBase 依赖ZooKeeper
默认情况下，HBase 管理ZooKeeper 实例。比如，启动或者停止 ZooKeeper
Master与RegionServers 启动时会向ZooKeeper注册
Zookeeper的引入使得Master不再是单点故障

Write-Ahead-Log（WAL）

HBase容错性

Master容错：Zookeeper重新选择一个新的Master

无Master过程中，数据读取仍照常进行；
无master过程中，region切分、负载均衡等无法进行；

RegionServer容错：定时向Zookeeper汇报心跳，如果一旦时间内未出现心跳

Master将该RegionServer上的Region重新分配到其他RegionServer上；
失效服务器上“预写”日志由主服务器进行分割并派送给新的RegionServer

Zookeeper容错：Zookeeper是一个可靠地服务

一般配置3或5个Zookeeper实例。

Region定位：寻找RegionServer -> (ZooKeeper、-ROOT-(单Region)、.META.、用户表)