hive 經常使用UDF

Hive UDF整理
(能夠直接在mysql上測試，hive中沒有僞表，須要手動建立，反應慢)字符串函數
字符串長度函數：length

語法: length(string A) 返回值: int 說明：返回字符串A的長度 舉例： hive> select length(‘abcedfg’) from dual; 7

字符串反轉函數：reverse

語法: reverse(string A) 返回值: string 說明：返回字符串A的反轉結果 舉例： hive> select reverse(‘abcedfg’) from dual; gfdecba

字符串鏈接函數：concat

語法: concat(string A, string B…) 返回值: string 說明：返回輸入字符串鏈接後的結果，支持任意個輸入字符串 舉例： hive> select concat(‘abc’,'def’,'gh’) from dual; abcdefgh

帶分隔符字符串鏈接函數：concat_ws

語法: concat_ws(string SEP, string A, string B…) 返回值: string 說明：返回輸入字符串鏈接後的結果，SEP表示各個字符串間的分隔符 舉例： hive> select concat_ws(‘,’,'abc’,'def’,'gh’) from dual; abc,def,gh

字符串截取函數：substr,substring

語法: substr(string A, int start),substring(string A, int start) 返回值: string 說明：返回字符串A從start位置到結尾的字符串 舉例： hive> select substr(‘abcde’,3) from dual; cde hive> select substring(‘abcde’,3) from dual; cde hive>  select substr(‘abcde’,-1) from dual;  （和ORACLE相同） e

字符串截取函數：substr,substring

語法: substr(string A, int start, int len),substring(string A, int start, int len) 返回值: string 說明：返回字符串A從start位置開始，長度爲len的字符串 舉例： hive> select substr(‘abcde’,3,2) from dual; cd hive> select substring(‘abcde’,3,2) from dual; cd hive>select substring(‘abcde’,-2,2) from dual; de

字符串轉大寫函數：upper,ucase

語法: upper(string A) ucase(string A) 返回值: string 說明：返回字符串A的大寫格式 舉例： hive> select upper(‘abSEd’) from dual; ABSED hive> select ucase(‘abSEd’) from dual; ABSED

字符串轉小寫函數：lower,lcase

語法: lower(string A) lcase(string A) 返回值: string 說明：返回字符串A的小寫格式 舉例： hive> select lower(‘abSEd’) from dual; absed hive> select lcase(‘abSEd’) from dual; absed

去空格函數：trim

語法: trim(string A) 返回值: string 說明：去除字符串兩邊的空格 舉例： hive> select trim(‘ abc ‘) from dual; abc

左邊去空格函數：ltrim

語法: ltrim(string A) 返回值: string 說明：去除字符串左邊的空格 舉例： hive> select ltrim(‘ abc ‘) from dual; abc

右邊去空格函數：rtrim

語法: rtrim(string A) 返回值: string 說明：去除字符串右邊的空格 舉例： hive> select rtrim(‘ abc ‘) from dual; abc

正則表達式替換函數：regexp_replace

語法: regexp_replace(string A, string B, string C) 返回值: string 說明：將字符串A中的符合java正則表達式B的部分替換爲C。注意，在有些狀況下要使用轉義字符 舉例： hive> select regexp_replace(‘foobar’, ‘oo|ar’, 」) from dual; fb

(mysql不支持，請用hive測試，請先建一個僞表dual)
正則表達式解析函數：regexp_extract

語法: regexp_extract(string subject, string pattern, int index) 返回值: string 說明：將字符串subject按照pattern正則表達式的規則拆分，返回index指定的字符。注意，在有些狀況下要使用轉義字符 X?   X，一次或一次也沒有 X*    X，零次或屢次 X+    X，一次或屢次 X{n}    X，剛好 n 次 X{n,}    X，至少 n 次 X{n,m}    X，至少 n 次，可是不超過 m 次 舉例： hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 1) from dual; the hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 2) from dual; bar hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 0) from dual; foothebar hive>select regexp_extract('userid=13333333', '.*=(.*)', 1) from dual; (說明=不是特殊字符) 13333333 hive>select regexp_extract('userid.13333333', '.*\\.(.*)', 1) from dual; (\\若是是特殊字符請用，例如：. * (  )  ) 13333333

URL解析函數：parse_url

語法: parse_url(string urlString, string partToExtract [, string keyToExtract]) 返回值: string 說明：返回URL中指定的部分。partToExtract的有效值爲：HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, and USERINFO. 舉例： hive> select parse_url(‘ http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1′, ‘HOST’) from dual; facebook.com hive> select parse_url(‘ http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1′, ‘QUERY’, ‘k1′) from dual; v1

json解析函數：get_json_object

語法: get_json_object(string json_string, string path) 返回值: string 說明：解析json的字符串json_string,返回path指定的內容。若是輸入的json字符串無效，那麼返回NULL。 舉例： hive> select  get_json_object(‘{「store」: >   {「fruit」:\[{"weight":8,"type":"apple"},{"weight":9,"type":"pear"}], >    「bicycle」:{「price」:19.95,」color」:」red」} >   }, >  「email」:」 amy@only_for_json_udf_test.net」, >  「owner」:」amy」 > } > ‘,’$.owner’) from dual; amy

空格字符串函數：space

語法: space(int n) 返回值: string 說明：返回長度爲n的字符串 舉例： hive> select space(10) from dual; hive> select length(space(10)) from dual; 10

重複字符串函數：repeat

語法: repeat(string str, int n) 返回值: string 說明：返回重複n次後的str字符串 舉例： hive> select repeat(‘abc’,5) from dual; abcabcabcabcabc

首字符ascii函數：ascii

語法: ascii(string str) 返回值: int 說明：返回字符串str第一個字符的ascii碼 舉例： hive> select ascii(‘abcde’) from dual; 97

左補足函數：lpad

語法: lpad(string str, int len, string pad) 返回值: string 說明：將str進行用pad進行左補足到len位 舉例： hive> select lpad(‘abc’,10,’td’) from dual; tdtdtdtabc 與GP，ORACLE不一樣，pad 不能默認

右補足函數：rpad

語法: rpad(string str, int len, string pad) 返回值: string 說明：將str進行用pad進行右補足到len位 舉例： hive> select rpad(‘abc’,10,’td’) from dual; abctdtdtdt

分割字符串函數: split

語法:  split(string str, string pat) 返回值:  array 說明: 按照pat字符串分割str，會返回分割後的字符串數組 舉例： hive> select split(‘abtcdtef’,'t’) from dual; ["ab","cd","ef"]

集合查找函數: find_in_set

語法: find_in_set(string str, string strList)

返回值: int

說明: 返回str在strlist第一次出現的位置，strlist是用逗號分割的字符串。若是沒有找該str字符，則返回0（只能是逗號分隔，否則返回0）

舉例：

hive> select find_in_set(‘ab’,'ef,ab,de’) from dual;

2

hive> select find_in_set(‘at’,'ef,ab,de’) from dual;

0

 

轉自：http://bbs.superwu.cn/forum.php?mod=viewthread&tid=38&extra=