UTF8是以8bits即1Bytes爲編碼的最基本單位,固然也能夠有基於16bits和32bits的形式,分別稱爲UTF16和UTF32,但目前用得很少,而UTF8則被普遍應用在文件儲存和網絡傳輸中。
編碼原理
先看這個模板:
UCS-4 range (hex.) UTF-8 octet sequence (binary)
0000 0000-0000 007F 0xxxxxxx
0000 0080-0000 07FF 110xxxxx 10xxxxxx
0000 0800-0000 FFFF 1110xxxx 10xxxxxx 10xxxxxx
0001 0000-001F FFFF 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
0020 0000-03FF FFFF 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
0400 0000-7FFF FFFF 1111110x 10xxxxxx ... 10xxxxxx
編碼步驟:
1) 首先肯定須要多少個8bits(octets)
2) 按照上述模板填充每一個octets的高位bits
3) 把字符的bits填充至x中,字符順序:低位→高位,UTF8順序:最後一個octet的最末位x→第一個octet最高位x
網絡
根據UTF8編碼,最多可由6個字節組成,因此UTF8是1-6字節編碼組成編碼
1 BOOL IsTextUTF8(char* str,ULONGLONG length) 2 { 3 DWORD nBytes=0;//UFT8可用1-6個字節編碼,ASCII用一個字節 4 UCHAR chr; 5 BOOL bAllAscii=TRUE; //若是所有都是ASCII, 說明不是UTF-8 6 for(int i=0; i<length; ++i) 7 { 8 chr= *(str+i); 9 if( (chr&0x80) != 0 ) // 判斷是否ASCII編碼,若是不是,說明有多是UTF-8,ASCII用7位編碼,但用一個字節存,最高位標記爲0,o0xxxxxxx 10 bAllAscii= FALSE; 11 if(nBytes==0) //若是不是ASCII碼,應該是多字節符,計算字節數 12 { 13 if(chr>=0x80) 14 { 15 if(chr>=0xFC&&chr<=0xFD) 16 nBytes=6; 17 else if(chr>=0xF8) 18 nBytes=5; 19 else if(chr>=0xF0) 20 nBytes=4; 21 else if(chr>=0xE0) 22 nBytes=3; 23 else if(chr>=0xC0) 24 nBytes=2; 25 else 26 return FALSE; 27 28 nBytes--; 29 } 30 } 31 else //多字節符的非首字節,應爲 10xxxxxx 32 { 33 if( (chr&0xC0) != 0x80 ) 34 return FALSE; 35 36 nBytes--; 37 } 38 } 39 if( nBytes > 0 ) //違返規則 40 return FALSE; 41 if( bAllAscii ) //若是所有都是ASCII, 說明不是UTF-8 42 return FALSE; 43 44 return TRUE; 45 }
注:這裏的bAllAscii,要看不一樣場景是否須要。我項目代碼裏,是不須要這傢伙的。spa