Hive實現WordCount

1. 建立一個存放源數據的表(外部表)t_words_src, 表中字段line爲string類型, 存放一行單詞

源數據示列: 

hello,tom
hello,jerry
hello,kitty
hello,world
hello,tom

hive> create external table t_words_src (line string)
row format delimited
fields terminated by '\n'    # 按\n來切分字段, 一行就是一個字段
location '/wc/input';    # 源數據路徑爲 'hdfs://node1:9000/wc/input' 

hive> select * from t_words;
OK
hello,tom
hello,jerry
hello,kitty
hello,world
hello,tom

2. 建立一個存放全部單詞的表t_words, 表中字段word爲string類型, 存放單詞

hive> create table t_words (word string);
hive> insert into table t_words select explode(split(line,',')) as word from t_words_src;

hive> select * from t_words;
OK
hello
tom
hello
jerry
hello
kitty
hello
world
hello
tom

3. 建立一個存放WordCount結果的表t_wc_result, 表中字段word爲string類型, 存放單詞, counts爲int類型, 存放單詞出現次數

hive> create table t_wc_result (word string, counts int);
hive> insert into table t_wc_result select word as word, count(word) as counts from t_words;

hive> select * from t_wc_result;
OK
hello	5
jerry	1
kitty	1
tom	2
world	1

相對MapReduce來講, Hive的HQL版WordCount寫起來代碼量少不少, 但他們的思想都是同樣的