hive與hbase數據交互的詳解指南 | ApacheCN(apache中文網)

HBase和Hive的集成原理

ApacheCN | apache中文網

Hive和Hbase有各自不一樣的特徵：hive是高延遲、結構化和麪向分析的，hbase是低延遲、非結構化和麪向編程的。Hive數據倉庫在hadoop上是高延遲的。Hive集成Hbase就是爲了使用hbase的一些特性。以下是hive和hbase的集成架構：

圖1 hive和hbase架構圖

        Hive集成HBase能夠有效利用HBase數據庫的存儲特性，如行更新和列索引等。在集成的過程當中注意維持HBase jar包的一致性。Hive集成HBase須要在Hive表和HBase表之間創建映射關係，也就是Hive表的列(columns)和列類型(column types)與HBase表的列族(column families)及列限定詞(column qualifiers)創建關聯。每個在Hive表中的域都存在於HBase中，而在Hive表中不須要包含全部HBase中的列。HBase中的RowKey對應到Hive中爲選擇一個域使用:key來對應，列族(cf:)映射到Hive中的其它全部域，列爲(cf:cq)。例以下圖2爲Hive表映射到HBase表：

圖2 Hive表映射HBase表

 

1.文章來源：

http://blog.csdn.net/jiedushi/article/details/7325292

http://www.cr173.com/html/24339_1.html

2.基本介紹

Hive是基於Hadoop的一個數據倉庫工具，能夠將結構化的數據文件映射爲一張數據庫表，並提供完整的sql查詢功能，能夠將sql語句轉換爲MapReduce任務進行運行。 其優勢是學習成本低，能夠經過類SQL語句快速實現簡單的MapReduce統計，沒必要開發專門的MapReduce應用，十分適合數據倉庫的統計分析。
Hive與HBase的整合功能的實現是利用二者自己對外的API接口互相進行通訊，相互通訊主要是依靠hive_hbase-handler.jar工具類， 大體意思如圖所示：

3.軟件版本

使用的軟件版本：（沒有下載地址的百度中找就行）

jdk-6u24-linux-i586.bin    

hive-0.9.0.tar.gz           http://yun.baidu.com/share/link?shareid=2138315647&uk=1614030671

hbase-0.94.14.tar.gz    http://mirror.bit.edu.cn/apache/hbase/hbase-0.94.14/

hadoop-1.1.2.tar.gz      http://pan.baidu.com/s/1mgmKfsG

4.安裝位置

安裝目錄：/usr/local/     （記得解壓後重命名一下哦）
Hbase的安裝路徑爲：/usr/local/hbase

 Hive的安裝路徑爲：/usr/local/hive

5.整合步驟

整合hive與hbase的過程以下：

1.在 /usr/local/hbase-0.90.4下：

hbase-0.94.14.jar，hbase-0.94.14-tests.jar 與lib/zookeeper-3.4.5.jar拷貝到/usr/local /hive/lib文件夾下面
注意：

若是hive/lib下已經存在這兩個文件的其餘版本（例如zookeeper-3.3.1.jar）

建議刪除後使用hbase下的相關版本

還須要

protobuf-java-2.4.0a.jar拷貝到/usr/local/hive/lib和/usr/local/hadoop/lib下

2.修改hive-site.xml文件

在/usr/local/hive/conf下目錄下，在hive-site.xml最底部添加以下內容：

(跳轉到最下面的linux命令：按住Esc鍵 + 冒號 + $  而後回車) <property> <name>hive.querylog.location</name> <value>/usr/local/hive/logs</value> </property> <property> <name>hive.aux.jars.path</name>

注意：若是不存在則自行建立，或者把文件更名後使用。拷貝到全部節點包括的下。拷貝下的文件到全部節點包括的下。

注意，若是3,4兩步跳過的話，運行hive時極可能出現以下錯誤：
org.apache.hadoop.hbase.ZooKeeperConnectionException: HBase is able to connect to ZooKeeper but the connection closes immediately.
This could be a sign that the server has too many connections (30 is the default). Consider inspecting your ZK server logs for that error and
then make sure you are reusing HBaseConfiguration as often as you can. See HTable's javadoc for more information. at org.apache.hadoop.
hbase.zookeeper.ZooKeeperWatcher.

5 啓動hive （測試成功）
單節點啓動
bin/hive -hiveconf hbase.master=master:60000
集羣啓動   (這個我沒測試)
bin/hive -hiveconf hbase.zookeeper.quorum=node1,node2,node3   (全部的zookeeper節點)
若是hive-site.xml文件中沒有配置hive.aux.jars.path，則能夠按照以下方式啓動。
hive --auxpath /opt/mapr/hive/hive-0.7.1/lib/hive-hbase-handler-0.7.1.jar,/opt/mapr/hive/hive-0.7.1/lib/hbase-0.90.4.jar,/opt/mapr/hive/hive-0.7.1/lib/zookeeper-3.3.2.jar -hiveconf hbase.master=localhost:60000

經測試修改hive的配置文件hive-site.xml

<property>
  <name>hive.zookeeper.quorum</name>
  <value>node1,node2,node3</value>
  <description>The list of zookeeper servers to talk to. This is only needed for read/write locks.</description>
</property>

不用增長參數啓動hive就能夠聯合hbase

 

6.測試hive到hbase中

啓動後進行測試（重啓一下集羣）

1.  用hive建立hbase能識別的表

語句以下：

create table hbase_table_1(key int, value string)

stored by 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

with serdeproperties ("hbase.columns.mapping" = ":key,cf1:val")

tblproperties ("hbase.table.name" = "xyz");

此刻你進入hbase shell中發現多了一張表 ‘xyz’
（能夠先跳過這句話：hbase.table.name 定義在hbase的table名稱，

多列時：data:1，data:2；多列族時：data1:1,data2:1；）
hbase.columns.mapping 定義在hbase的列族，裏面的:key 是固定值並且要保證在表pokes中的foo字段是惟一值

建立有分區的表

create table hbase_table_1(key int, value string) 

partitioned by (day string)

stored by 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

with serdeproperties ("hbase.columns.mapping" = ":key,cf1:val")

tblproperties ("hbase.table.name" = "xyz");

不支持表的修改
會提示不能修改非本地表。
hive> ALTER TABLE hbase_table_1 ADD PARTITION (day = '2012-09-22');
FAILED: Error in metadata: Cannot use ALTER TABLE on a non-native table FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask 

 

2.  導入數據到關聯hbase的表中去

1.在hive中新建一張中間表

create table pokes(foo int,bar string)

row format delimited fields terminated by ',';
批量導入數據
load data local inpath '/home/1.txt' overwrite into table pokes;

1.txt文件的內容爲 
1,hello 
2,pear 
3,world

使用sql導入hbase_table_1

set hive.hbase.bulk=true;

2.插入數據到hbase表中去

insert overwrite table hbase_table_1

select * from pokes;

導入有分區的表

insert overwrite table hbase_table_1  partition (day='2012-01-01') 

select * from pokes;

3.查看關聯hbase的那張表

hive> select * from hbase_table_1;
OK
1 hello
2 pear
3 world

(注：與hbase整合的有分區的表存在個問題  select * from table查詢不到數據，select key,value from table能夠查到數據)

4.登陸hbase查看那張表的數據

hbase shell

hbase(main):002:0> describe 'xyz' 
DESCRIPTION ENABLED {NAME => 'xyz', FAMILIES => [{NAME => 'cf1', BLOOMFILTER => 'NONE', REPLICATION_S true 
COPE => '0', COMPRESSION => 'NONE', VERSIONS => '3', TTL => '2147483647', BLOCKSI 
ZE => '65536', IN_MEMORY => 'false', BLOCKCACHE => 'true'}]} 
1 row(s) in 0.0830 seconds
hbase(main):003:0> scan 'xyz'
ROW COLUMN+CELL 
1 column=cf1:val, timestamp=1331002501432, value=hello 
2 column=cf1:val, timestamp=1331002501432, value=pear 
3 column=cf1:val, timestamp=1331002501432, value=world

這時在Hbase中能夠看到剛纔在hive中插入的數據了。

7.測試hbase到hive中

1.在hbase中建立表

create 'test1','a','b','c'

put 'test1','1','a','qqq'

put 'test1','1','b','aaa'

put 'test1','1','c','bbb'

put 'test1','2','a','qqq'

put 'test1','2','c','bbb'

2.把hbase中的表關聯到hive中

對於在hbase已經存在的表，在hive中使用CREATE EXTERNAL TABLE來創建
例如hbase中的表名稱爲test1,字段爲 a: , b: ,c: 在hive中建表語句爲

create external table hive_test

(key int,gid map<string,string>,sid map<string,string>,uid map<string,string>)

stored by 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

with serdeproperties ("hbase.columns.mapping" ="a:,b:,c:") 

tblproperties  ("hbase.table.name" = "test1");

2.檢查test1中的數據

在hive中創建好表後，查詢hbase中test1表內容
select * from hive_test;

OK
1 {"":"qqq"} {"":"aaa"} {"":"bbb"}
2 {"":"qqq"} {} {"":"bbb"}

查詢gid字段中value值的方法爲
select gid[''] from hive_test;
獲得查詢結果
Total MapReduce jobs = 1
Launching Job 1 out of 1
Number of reduce tasks is set to 0 since there's no reduce operator
Starting Job = job_201203052222_0017, Tracking URL = http://localhost:50030/jobdetails.jsp?jobid=job_201203052222_0017
Kill Command = /opt/mapr/hadoop/hadoop-0.20.2/bin/../bin/hadoop job -Dmapred.job.tracker=maprfs:/// -kill job_201203052222_0017
2012-03-06 14:38:29,141 Stage-1 map = 0%, reduce = 0%
2012-03-06 14:38:33,171 Stage-1 map = 100%, reduce = 100%
Ended Job = job_201203052222_0017
OK
qqq
qqq

若是hbase表test1中的字段爲user:gid,user:sid,info:uid,info:level，在hive中建表語句爲
create external table hive_test

(key int,user map<string,string>,info map<string,string>)

stored by 'org.apache.hadoop.hive.hbase.hbasestoragehandler'

with serdeproperties ("hbase.columns.mapping" ="user:,info:") 

tblproperties  ("hbase.table.name" = "test1");

查詢hbase表的方法爲
select user['gid'] from hive_test;

 注：hive鏈接hbase優化，將HADOOP_HOME/conf中的hbase-site.xml文件中增長配置

 <property>
   <name>hbase.client.scanner.caching</name>
   <value>10000</value>
 </property>

或者在執行hive語句以前執行hive>set hbase.client.scanner.caching=10000;

報錯：

Hive報錯

1.NoClassDefFoundError
Could not initialize class java.lang.NoClassDefFoundError: Could not initialize class org.apache.hadoop.hbase.io.HbaseObjectWritable
將protobuf-***.jar添加到jars路徑
 

//$HIVE_HOME/conf/hive-site.xml

<property>

   <name>hive.aux.jars.path</name>

   <value>file:///data/hadoop/hive-0.10.0/lib/hive-hbase-handler-0.10.0.jar,file:///data/hadoop/hive-0.10.0/lib/hbase-0.94.8.jar,file:///data/hadoop/hive-0.10.0/lib/zookeeper-3.4.5.jar,file:///data/hadoop/hive-0.10.0/lib/guava-r09.jar,file:///data/hadoop/hive-0.10.0/lib/hive-contrib-0.10.0.jar,file:///data/hadoop/hive-0.10.0/lib/protobuf-java-2.4.0a.jar</value>

</property>

 

 

Hbase 報錯

:java.lang.NoClassDefFoundError: com/google/protobuf/Message  

編個Hbase程序，系統提示錯誤，java.lang.NoClassDefFoundError: com/google/protobuf/Message

找了半天，從這個地方發現了些東西：http://abloz.com/2012/06/15/hive-execution-hbase-create-the-table-can-not-find-protobuf.html

 

內容以下：

hadoop:1.0.3

hive:0.9.0

hbase:0.94.0

protobuf:$HBASE_HOME/lib/protobuf-java-2.4.0a.jar

能夠看到，0.9.0的hive裏面自帶的hbase的jar是0.92版本的。

[zhouhh@Hadoop48 ~]$ hive –auxpath $HIVE_HOME/lib/hive-hbase-handler-0.9.0.jar,$HIVE_HOME/lib/hbase-0.92.0.jar,$HIVE_HOME/lib/zookeeper-3.3.4.jar,$HIVE_HOME/lib/guava-r09.jar,$HBASE_HOME/lib/protobuf-java-2.4.0a.jar

hive> CREATE TABLE hbase_table_1(key int, value string)

> STORED BY ‘org.apache.hadoop.hive.hbase.HBaseStorageHandler’

> WITH SERDEPROPERTIES (「hbase.columns.mapping」 = 「:key,cf1:val」)

> TBLPROPERTIES (「hbase.table.name」 = 「xyz」);

java.lang.NoClassDefFoundError: com/google/protobuf/Message

at org.apache.hadoop.hbase.io.HbaseObjectWritable.(HbaseObjectWritable.java

…

Caused by: java.lang.ClassNotFoundException: com.google.protobuf.Message

解決辦法：

將$HBASE_HOME/lib/protobuf-java-2.4.0a.jar 拷貝到 $HIVE_HOME/lib/.

[zhouhh@Hadoop48 ~]$ cp /home/zhouhh/hbase-0.94.0/lib/protobuf-java-2.4.0a.jar $HIVE_HOME/lib/.

hive> CREATE TABLE hbase_table_1(key int, value string)

> STORED BY ‘org.apache.hadoop.hive.hbase.HBaseStorageHandler’

> WITH SERDEPROPERTIES (「hbase.columns.mapping」 = 「:key,cf1:val」)

> TBLPROPERTIES (「hbase.table.name」 = 「xyz」);

OK

Time taken: 10.492 seconds

hbase(main):002:0> list ‘xyz’

TABLE

xyz

1 row(s) in 0.0640 seconds

 

在引用 的jar包中包含protobuf-java-2.4.0a.jar便可。

 

 

測試腳本

bin/hive -hiveconf hbase.master=master:60000

 

hive --auxpath /usr/local/hive/lib/hive-hbase-handler-0.9.0.jar,/usr/local/hive/lib/hbase-0.94.7-security.jar,/usr/local/hive/lib/zookeeper-3.4.5.jar -hiveconf hbase.master=localhost:60000

 

<property>

 <name>hive.aux.jars.path</name>

<value>file:///usr/local/hive/lib/hive-hbase-handler-0.9.0.jar,file:///usr/local/hive/lib/hbase-0.94.7-security.jar,file:///usr/local/hive/lib/zookeeper-3.4.5.jar</value>

</property>

 

1 nana

2 hehe

3 xixi

hadoop dfsadmin -safemode leave

 

/home/hadoop

 

create table hbase_table_1(key int, value string) 

stored by 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' 

with serdeproperties ("hbase.columns.mapping" = ":key,cf1:val") 

tblproperties ("hbase.table.name" = "xyz");

 

 

drop table pokes;

create table pokes

(id int,name string)

row format delimited fields terminated by ' '

stored as textfile;

load data local inpath '/home/hadoop/kv1.txt' overwrite into table pokes;

 

insert into table hbase_table_1

select * from pokes; 

 

 

 

create external table hive_test

(key int,gid map<string,string>,sid map<string,string>,uid map<string,string>)

stored by 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

with serdeproperties ("hbase.columns.mapping" ="a:,b:,c:") 

tblproperties  ("hbase.table.name" = "test1");