phoenix hbase二级索引原理-hbase创建二级索引(9-10-94)

HBase本文目录一览：

• 1、Hbase读写原理
• 2、hbase实验环境有哪些
• 3、如何将hbase中的数据导出到hdfs
• 4、为什么hbase当中不要索引?
• 5、hbase是怎么进行读写的

Hbase读写原理

所以hbase大多数读要走磁盘，所以读很慢。 每次刷写会生成新的Hfile，Hfile很小并且数量多的时候会影响查询的速度。所以要进行合并。

HDFS不太适合做大量的随机读应用，但HBASE却特别适合随机的读写 个人理解：数据库一般都会有一层缓存，任何对数据的更改实际上是先更改内存中的数据。然后有异步的守护进程负责将脏页按照一定策略刷新到磁盘空间中去。

Hbase数据是按列存储-每一列单独存放。列存储的优点是数据即是索引。访问查询涉及的列-大量降低系统I/O 。并且每一列由一个线索来处理，可以实现查询的并发处理。基于Hbase数据类型一致性，可以实现数据库的高效压缩。

hbase为了保证随机读取的性能，所以hfile里面的rowkey是有序的。当客户端的请求在到达regionserver之后，为了保证写入rowkey的有序性，所以不能将数据立刻写入到hfile中，而是将每个变更操作保存在内存中，也就是metastore中。

和读相比，HBase写数据流程倒是显得很简单：数据先顺序写入HLog，再写入对应的缓存Memstore，当Memstore中数据大小达到一定阈值（128M）之后，系统会异步将Memstore中数据flush到HDFS形成小文件。

hbase实验环境有哪些

1、连接到hbase。建表。这个示例代码是建立三个column family分别为columncolunm2和column3 入数据。在上面建好的表实现将文件以byte[]形式存储到hdfs中。

2、HBase在Hadoop之上提供了类似于Bigtable的能力。HBase是Apache的Hadoop项目的子项目。HBase不同于一般的关系数据库，它是一个适合于非结构化数据存储的数据库。另一个不同的是HBase基于列的而不是基于行的模式。

3、原始采集数据采用HBase进行存储。 实时采集数据流量很大，在入库的时候，有时候会发生阻塞。测试环境正常，生产环境下，时不时出现HRegionServer挂掉的情况， 而HMaster正常。

4、步骤1：下载和解压 首先，从HBase官方网站下载最新的稳定版本，然后解压到指定的目录。步骤2：配置环境变量 将HBase的bin目录添加到系统的PATH环境变量中，以便可以在任意位置执行HBase的命令。

5、在生产环境搭建了Hadoop HA集群（Hadoop7+HBase10）。根据官方文档，Snappy 压缩算法在Hadoop 0.2中即可使用。首先通过命令查看Hadoop是否支持Snappy。

如何将hbase中的数据导出到hdfs

hadoop jar /../hbase/hbase-.jar import mytest /export/mybakup 导出：hadoop jar /../hbase/hbase-.jar import mytest /import/mybackup 直接将数据导出到hdfs目录中，当不指定file前缀时。

Put API Put API可能是将数据快速导入HBase表的最直接的方法。但是在导入【大量数据】时不建议使用！但是可以作为简单数据迁移的选择，直接写个代码批量处理，开发简单、方便、可控强。

将数据导入HBase中有如下几种方式：使用HBase的API中的Put方法 使用HBase 的bulk load 工具 使用定制的MapReduce Job方式 使用HBase的API中的Put是最直接的方法，用法也很容易学习。

但是如果需要的HDFS上的文件或者HBASE的表进行查询，需要自定义MapReduce方法。那么Hive其实就是在HDFS上面的一个中间层，它可以让业务人员直接使用SQL进行查询。

为什么hbase当中不要索引?

1、原生HBase不支持索引，而NoSql数据库都把索引的支持作为基础功能来处理。

2、要在HBase表中实现索引，可以使用Regions建立列族和表，并通过对该列采用IndexTable设置索引参数来获得。原因是HBase是一个分布式数据库，其中的数据都是有序的，可以利用这一有序性来获得更快的查询效果。

3、Hbase是列存储的非关系数据库。传统数据库MySQL等，数据是按行存储的。其没有索引的查询将消耗大量I/O 并且建立索引和物化视图需要花费大量时间和资源。因此，为了满足面向查询的需求，数据库必须被大量膨胀才能满 足性能要求。

hbase是怎么进行读写的

所以hbase大多数读要走磁盘，所以读很慢。 每次刷写会生成新的Hfile，Hfile很小并且数量多的时候会影响查询的速度。所以要进行合并。

HBase应用举例 Hbase适合需对数据进行随机读操作或者随机写操作、大数据上高并发操作，比如每秒对PB级数据进行上千次操作以及读写访问均是非常简单的操作。淘宝指数是Hbase在淘宝的一个典型应用。

hbase客户端通过rpc调用将put、delete数据请求提交到对应的regionserver，regionserver对请求进行处理，并将数据最终写入hfile中，进行持久化保存。hbase为了保证随机读取的性能，所以hfile里面的rowkey是有序的。