Unicode、UTF－8 和 ISO8859-1到底有什麼區別

原文轉自：http://blog.sina.com.cn/s/blog_673c81990100t1lc.html

 

本文主要包括如下幾個方面：編碼基本知識，java，系統軟件，url，工具軟件等。

    在下面的描述中，將以"中文"兩個字爲例，經查表能夠知道其GB2312編碼是"d6d0 cec4"，Unicode編碼爲"4e2d 6587"，UTF編碼就是"e4b8ad e69687"。注意，這兩個字沒有iso8859-1編碼，但能夠用iso8859-1編碼來"表示"。

2. 編碼基本知識

    最先的編碼是iso8859-1，和ascii編碼類似。但爲了方便表示各類各樣的語言，逐漸出現了不少標準編碼，重要的有以下幾個。

2.1. iso8859-1

    屬於單字節編碼，最多能表示的字符範圍是0-255，應用於英文系列。好比，字母a的編碼爲0x61=97。

很明顯，iso8859-1編碼表示的字符範圍很窄，沒法表示中文字符。可是，因爲是單字節編碼，和計算機最基礎的表示單位一致，因此不少時候，仍舊使用iso8859-1編碼來表示。並且在不少協議上，默認使用該編碼。好比，雖然"中文"兩個字不存在iso8859-1編碼，以gb2312編碼爲例，應該是"d6d0 cec4"兩個字符，使用iso8859-1編碼的時候則將它拆開爲4個字節來表示："d6 d0 ce c4"（事實上，在進行存儲的時候，也是以字節爲單位處理的）。而若是是UTF編碼，則是6個字節"e4 b8 ad e6 96 87"。很明顯，這種表示方法還須要以另外一種編碼爲基礎。

2.2. GB2312/GBK

    這就是漢子的國標碼，專門用來表示漢字，是雙字節編碼，而英文字母和iso8859-1一致（兼容iso8859-1編碼）。其中gbk編碼可以用來同時表示繁體字和簡體字，而gb2312只能表示簡體字，gbk是兼容gb2312編碼的。

2.3. unicode

    這是最統一的編碼，能夠用來表示全部語言的字符，並且是定長雙字節（也有四字節的）編碼，包括英文字母在內。因此能夠說它是不兼容iso8859-1編碼的，也不兼容任何編碼。不過，相對於iso8859-1編碼來講，uniocode編碼只是在前面增長了一個0字節，好比字母a爲"00 61"。

須要說明的是，定長編碼便於計算機處理（注意GB2312/GBK不是定長編碼），而unicode又能夠用來表示全部字符，因此在不少軟件內部是使用unicode編碼來處理的，好比java。

2.4. UTF

    考慮到unicode編碼不兼容iso8859-1編碼，並且容易佔用更多的空間：由於對於英文字母，unicode也須要兩個字節來表示。因此unicode不便於傳輸和存儲。所以而產生了utf編碼，utf編碼兼容iso8859-1編碼，同時也能夠用來表示全部語言的字符，不過，utf編碼是不定長編碼，每個字符的長度從1-6個字節不等。另外，utf編碼自帶簡單的校驗功能。通常來說，英文字母都是用一個字節表示，而漢字使用三個字節。

注意，雖說utf是爲了使用更少的空間而使用的，但那只是相對於unicode編碼來講，若是已經知道是漢字，則使用GB2312/GBK無疑是最節省的。不過另外一方面，值得說明的是，雖然utf編碼對漢字使用3個字節，但即便對於漢字網頁，utf編碼也會比unicode編碼節省，由於網頁中包含了不少的英文字符。

3. java對字符的處理

    在java應用軟件中，會有多處涉及到字符集編碼，有些地方須要進行正確的設置，有些地方須要進行必定程度的處理。

3.1. getBytes(charset)

    這是java字符串處理的一個標準函數，其做用是將字符串所表示的字符按照charset編碼，並以字節方式表示。注意字符串在java內存中老是按unicode編碼存儲的。好比"中文"，正常狀況下（即沒有錯誤的時候）存儲爲"4e2d 6587"，若是charset爲"gbk"，則被編碼爲"d6d0 cec4"，而後返回字節"d6 d0 ce c4"。若是charset爲"utf8"則最後是"e4 b8 ad e6 96 87"。若是是"iso8859-1"，則因爲沒法編碼，最後返回 "3f 3f"（兩個問號）。

3.2. new String(charset)

    這是java字符串處理的另外一個標準函數，和上一個函數的做用相反，將字節數組按照charset編碼進行組合識別，最後轉換爲unicode存儲。參考上述getBytes的例子，"gbk" 和"utf8"均可以得出正確的結果"4e2d 6587"，但iso8859-1最後變成了"003f 003f"（兩個問號）。

由於utf8能夠用來表示/編碼全部字符，因此new String( str.getBytes( "utf8" ), "utf8" ) === str，即徹底可逆。

3.3. setCharacterEncoding()

    該函數用來設置http請求或者相應的編碼。

對於request，是指提交內容的編碼，指定後能夠經過getParameter()則直接得到正確的字符串，若是不指定，則默認使用iso8859-1編碼，須要進一步處理。參見下述"表單輸入"。值得注意的是在執行setCharacterEncoding()以前，不能執行任何getParameter()。java doc上說明：This method must be called prior to reading request parameters or reading input using getReader()。並且，該指定只對POST方法有效，對GET方法無效。分析緣由，應該是在執行第一個getParameter()的時候，java將會按照編碼分析全部的提交內容，然後續的getParameter()再也不進行分析，因此setCharacterEncoding()無效。而對於GET方法提交表單是，提交的內容在URL中，一開始就已經按照編碼分析全部的提交內容，setCharacterEncoding()天然就無效。

    對於response，則是指定輸出內容的編碼，同時，該設置會傳遞給瀏覽器，告訴瀏覽器輸出內容所採用的編碼。