PHP實現Unicode和Utf-8互相轉換

  一. 編碼原理及實現

  unicode編碼是實現utf-8與gb系列編碼(gb23十二、gbk、gb18030)轉換的基礎，雖然咱們也能夠直接作一個utf-8到這些編碼 的對照表，但不多有人會這麼作，由於utf-8的可變編碼具備不肯定性，所以通常狀況使用都是unicode與gb編碼的對照 表，unicode(UCS-2)其實是utf-8的基礎編碼，utf-8只是它的一種實現而已，二者存在下面的對應關係：

Unicode符號範圍           | UTF-8編碼方式

u0000 0000 - u0000 007F   | 0xxxxxxx

u0000 0080 - u0000 07FF   | 110xxxxx 10xxxxxx

u0000 0800 - u0000 FFFF   | 1110xxxx 10xxxxxx 10xxxxxx

  因爲目前utf-8使用的字符都是居於UCS-2的，所以對於4-6字節編碼的狀況是沒必要考慮的，一樣地，在反向轉換的時候，若是出現四字節以上的 utf-8字符，能夠直接視爲亂碼忽略掉或轉爲unicode實體形式("&#long int;"形式)，而後交給瀏覽器或相關解析程序去處理，用php把unicode轉爲utf-8編碼的算法以下：

/*   * 參數 $c 是unicode字符編碼的int類型數值，若是是用二進制讀取的數據，在php中一般要用 hexdec(bin2hex( $bin_unichar )) 這樣轉換   */ function uni2utf8( $c ) {    if ( $c < 0x80)    {          $utf8char = chr ( $c );    }    else if ( $c < 0x800)    {          $utf8char = chr (0xC0 | $c >> 0x06). chr (0x80 | $c & 0x3F);    }    else if ( $c < 0x10000)    {          $utf8char = chr (0xE0 | $c >> 0x0C). chr (0x80 | $c >> 0x06 & 0x3F). chr (0x80 | $c & 0x3F);    }    //由於UCS-2只有兩字節，因此後面的狀況是不可能出現的，這裏只是說明unicode HTML實體編碼的用法。    else    {          $utf8char = "&#{$c};" ;    }    return $utf8char ; }

在目前的環境範圍內，能夠認爲 utf-8字符集==unicode(UCS-2)，但從理論上，主要字符集之關的包含關係以下：

utf-8 > unicode(UCS-2) > gb18030 > gbk > gb2312

所以，若是編碼都正確的狀況下：

gb2312 => gbk => gb18030 => unicode(UCS-2) => utf-8

這樣的一個轉變過程，基本上是無損的，但反而言之，由

utf-8 => unicode(UCS-2) => gb18030=> gbk => gb2312

這樣的轉變過程，是極可能存在不能識別的字符的，所以，若是對於使用utf-8編碼的系統，儘可能不要輕易的去作反向轉換編碼的操做。

二. 用PHP將Unicode 轉化爲UTF-8另一種方法:

function unescape( $str ) {      $str = rawurldecode( $str );      preg_match_all( "/(?:%u.{4})|&#x.{4};|&#\d+;|.+/U" , $str , $r );      $ar = $r [0];      //print_r($ar);      foreach ( $ar as $k => $v ) {          if ( substr ( $v ,0,2) == "%u" ){              $ar [ $k ] = iconv( "UCS-2BE" , "UTF-8" ,pack( "H4" , substr ( $v ,-4)));    }          elseif ( substr ( $v ,0,3) == "&#x" ){              $ar [ $k ] = iconv( "UCS-2BE" , "UTF-8" ,pack( "H4" , substr ( $v ,3,-1)));    }          elseif ( substr ( $v ,0,2) == "&#" ) {              $ar [ $k ] = iconv( "UCS-2BE" , "UTF-8" ,pack( "n" , substr ( $v ,2,-1)));          }      }      return join( "" , $ar ); }

Linux 服務器上 UCS-2 編碼方式與 Winodws 不一致,如下是有關兩個平臺 UCS-2 編碼的潛規則：

1. UCS-2 不等於 UTF-16。 UTF-16 每一個字節使用 ASCII 字符範圍編碼，而 UCS-2 對每一個字節的編碼能夠超出 ASCII 字符範圍。UCS-2 和 UTF-16 對每一個字符至多佔兩個字節，可是他們的編碼是不同的。

2. 對於 UCS-2, windows 下默認是 UCS-2LE。用 MultibyteToWidechar（或者A2W）生成的是 UCS-2LE 的 unicode。windows記事本能夠將文本保存爲 UCS-2BE，至關於多了層轉換。

3. 對於 UCS-2, linux 下默認是 UCS-2BE。用iconv(指定UCS-2)來轉換生成的是 UCS-2BE 的 unicode。若是轉換windows平臺過來的 UCS-2, 須要指定 UCS-2LE。

4. 鑑於windows和linux等多個平臺對 UCS-2 的理解不一樣（UCS-2LE,UCS-2BE）。MS 主張 unicode 有個引導標誌(UCS-2LE FFFE, UCS-2BE FEFF)，以代表下面的字符是 unicode 而且判別 big-endian 或 little-endian。 因此從 windows 平臺過來的數據發現有這個前綴，不用慌張。

5. linux 的編碼輸出，好比從文件輸出，從 printf 輸出，須要控制檯作適當的編碼匹配（若是編碼不匹配，通常和該程序編譯時的編碼有若干關係），而控制檯的轉換輸入須要查看當前的系統編碼。好比控制檯當前 的編碼是 UTF-8, 那麼 UTF-8 編碼的東西能正確顯示，GBK 就不能；一樣，當前編碼是 GBK, 就能顯示 GBK 編碼，後來的系統應該更智能的處理好更多的轉換了。不過經過 putty 等終端仍是須要設置好終端的編碼轉換以解除亂碼的煩惱。

三.再提供一對PHP中對漢字進行UNICODE完整的編碼和解碼的實現供參考:

//將內容進行UNICODE編碼

function unicode_encode( $name )

{

     $name = iconv( 'UTF-8' , 'UCS-2' , $name );

     $len = strlen ( $name );

     $str = '' ;

     for ( $i = 0; $i < $len - 1; $i = $i + 2)

     {

         $c = $name [ $i ];

         $c2 = $name [ $i + 1];

         if (ord( $c ) > 0)

         {  

             // 兩個字節的文字

             $str .= '\u' . base_convert (ord( $c ), 10, 16). base_convert (ord( $c2 ), 10, 16);

         }

         else

         {

             $str .= $c2 ;

         }

     }

     return $str ;

}

// 將UNICODE編碼後的內容進行解碼

function unicode_decode( $name )

{

     // 轉換編碼，將Unicode編碼轉換成能夠瀏覽的utf-8編碼

     $pattern = '/([\w]+)|(\\\u([\w]{4}))/i' ;

     preg_match_all( $pattern , $name , $matches );

     if (! empty ( $matches ))

     {

         $name = '' ;

         for ( $j = 0; $j < count ( $matches [0]); $j ++)

         {

             $str = $matches [0][ $j ];

             if ( strpos ( $str , '\\u' ) === 0)

             {

                 $code = base_convert ( substr ( $str , 2, 2), 16, 10);

                 $code2 = base_convert ( substr ( $str , 4), 16, 10);

                 $c = chr ( $code ). chr ( $code2 );

                 $c = iconv( 'UCS-2' , 'UTF-8' , $c );

                 $name .= $c ;

             }

             else

             {

                 $name .= $str ;

             }

         }

     }

     return $name ;

}