H264 幀判斷

------------------------------
H.264的NAL層處理

------------------------------


H264以NALU（NAL unit）爲單位來支持編碼數據在基於分組交換技術網絡中傳輸。

NALU定義了可用於基於分組和基於比特流系統的基本格式，同時給出頭信息，從而提供了視頻編碼和外部世界的接口。



H264編碼過程當中的三種不一樣的數據形式：

SODB　數據比特串－－＞最原始的編碼數據，即VCL數據；

RBSP　原始字節序列載荷－－＞在SODB的後面填加告終尾比特（RBSP trailing bits　一個bit「1」）若干比特「0」,以便字節對齊；

EBSP　擴展字節序列載荷-->在RBSP基礎上填加了仿校驗字節（0X03）它的緣由是：　在NALU加到Annexb上時，須要添加每組NALU以前的開始碼StartCodePrefix,若是該NALU對應的slice爲一幀的開始則用4位字節表示，ox00000001,不然用3位字節表示ox000001（是一幀的一部分）。另外，爲了使NALU主體中不包括與開始碼相沖突的，在編碼時，每遇到兩個字節連續爲0，就插入一個字節的0x03。解碼時將0x03去掉。也稱爲脫殼操做。

編碼處理過程：

1．  將VCL層輸出的SODB封裝成nal_unit， NALU是一個通用封裝格式，能夠適用於有序字節流方式和IP包交換方式。

2．  針對不一樣的傳送網絡（電路交換|包交換），將nal_unit封裝成針對不一樣網絡的封裝格式（好比把nalu封裝成rtp包）。



---------------------------------------------------

處理過程一，VCL數據封裝成NALU

---------------------------------------------------

VCL層輸出的比特流SODB（String Of Data Bits），到nal_unit之間，通過了如下三步處理：

1.SODB字節對齊處理後封裝成RBSP（Raw Byte Sequence Payload）。

2.爲防止RBSP的字節流與有序字節流傳送方式下的SCP（start_code_prefix_one_3bytes，0x000001）出現字節競爭情形，循環檢測RBSP前三個字節，在出現字節競爭時在第三字節前加入emulation_prevention_three_byte（0x03），具體方法： 

nal_unit( NumBytesInNALunit ) {

forbidden_zero_bit

nal_ref_idc

nal_unit_type

NumBytesInRBSP = 0

for( i = 1; i < NumBytesInNALunit; i++ ) {

if( i + 2 < NumBytesInNALunit && next_bits( 24 ) = = 0x000003 ) {

rbsp_byte[ NumBytesInRBSP++ ]

rbsp_byte[ NumBytesInRBSP++ ]

i += 2

emulation_prevention_three_byte /* equal to 0x03 */

} else

rbsp_byte[ NumBytesInRBSP++ ]

}

}

3. 防字節競爭處理後的RBSP再加一個字節的header(forbidden_zero_bit+ nal_ref_idc+ nal_unit_type)，封裝成nal_unit. 

------------------------------------------------

處理過程二,NALU的RTP打包

------------------------------------------------

1、NALU打包成RTP的方式有三種：

1. 單一 NAL 單元模式
     即一個 RTP 包僅由一個完整的 NALU 組成. 這種狀況下 RTP NAL 頭類型字段和原始的 H.264的
NALU 頭類型字段是同樣的.

2. 組合封包模式
    便可能是由多個 NAL 單元組成一個 RTP 包. 分別有4種組合方式: STAP-A, STAP-B, MTAP16, MTAP24.
那麼這裏的類型值分別是 24, 25, 26 以及 27.

3. 分片封包模式
    用於把一個 NALU 單元封裝成多個 RTP 包. 存在兩種類型 FU-A 和 FU-B. 類型值分別是 28 和 29.

 

還記得前面nal_unit_type的定義吧，0~23是給H264用的，24~31未使用，在rtp打包時，若是一個NALU放在一個RTP包裏，可使用NALU的nal_unit_type，可是當須要把多個NALU打包成一個RTP包，或者須要把一個NALU打包成多個RTP包時，就定義新的type來標識。

      Type   Packet      Type name                       
      ---------------------------------------------------------
      0      undefined                                    -
      1-23   NAL unit    Single NAL unit packet per H.264  
      24     STAP-A     Single-time aggregation packet    
      25     STAP-B     Single-time aggregation packet    
      26     MTAP16    Multi-time aggregation packet     
      27     MTAP24    Multi-time aggregation packet     
      28     FU-A      Fragmentation unit                
      29     FU-B      Fragmentation unit                 
      30-31  undefined                                   

 

2、三種打包方式的具體格式

1 .單一 NAL 單元模式

對於 NALU 的長度小於 MTU 大小的包, 通常採用單一 NAL 單元模式.
對於一個原始的 H.264 NALU 單元常由 [Start Code] [NALU Header] [NALU Payload] 三部分組成, 其中 Start Code 用於標示這是一個

NALU 單元的開始, 必須是 "00 00 00 01" 或 "00 00 01", NALU 頭僅一個字節, 其後都是 NALU 單元內容.
打包時去除 "00 00 01" 或 "00 00 00 01" 的開始碼, 把其餘數據封包的 RTP 包便可.

       0                   1                   2                   3
       0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |F|NRI| type   |                                               |
      +-+-+-+-+-+-+-+-+                                               |
      |                                                               |
      |               Bytes 2..n of a Single NAL unit                 |
      |                                                               |
      |                               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |                               :...OPTIONAL RTP padding        |
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

若有一個 H.264 的 NALU 是這樣的:

[00 00 00 01 67 42 A0 1E 23 56 0E 2F ... ]

這是一個序列參數集 NAL 單元. [00 00 00 01] 是四個字節的開始碼, 67 是 NALU 頭, 42 開始的數據是 NALU 內容.

封裝成 RTP 包將以下:

[ RTP Header ] [ 67 42 A0 1E 23 56 0E 2F ]

即只要去掉 4 個字節的開始碼就能夠了.

2 組合封包模式

其次, 當 NALU 的長度特別小時, 能夠把幾個 NALU 單元封在一個 RTP 包中.

       0                   1                   2                   3
       0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |                          RTP Header                           |
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |STAP-A NAL HDR |         NALU 1 Size           | NALU 1 HDR    |
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |                         NALU 1 Data                           |
      :                                                               :
      +               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |               | NALU 2 Size                   | NALU 2 HDR    |
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |                         NALU 2 Data                           |
      :                                                               :
      |                               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |                               :...OPTIONAL RTP padding        |
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

3 Fragmentation Units (FUs).

而當 NALU 的長度超過 MTU 時, 就必須對 NALU 單元進行分片封包. 也稱爲 Fragmentation Units (FUs).

       0                   1                   2                   3
       0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      | FU indicator |   FU header   |                               |
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+                               |
      |                                                               |
      |                         FU payload                            |
      |                                                               |
      |                               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
      |                               :...OPTIONAL RTP padding        |
      +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

      Figure 14. RTP payload format for FU-A

   FU indicator有如下格式：
      +---------------+
      |0|1|2|3|4|5|6|7|
      +-+-+-+-+-+-+-+-+
      |F|NRI|  Type   |
      +---------------+
   FU指示字節的類型域 Type=28表示FU-A。。NRI域的值必須根據分片NAL單元的NRI域的值設置。
 
   FU header的格式以下：
      +---------------+
      |0|1|2|3|4|5|6|7|
      +-+-+-+-+-+-+-+-+
      |S|E|R|  Type   |
      +---------------+
   S: 1 bit
   當設置成1,開始位指示分片NAL單元的開始。當跟隨的FU荷載不是分片NAL單元荷載的開始，開始位設爲0。
   E: 1 bit
   當設置成1, 結束位指示分片NAL單元的結束，即, 荷載的最後字節也是分片NAL單元的最後一個字節。當跟隨的FU荷載不是分片NAL單元的最後分片,結束位設置爲0。
   R: 1 bit
   保留位必須設置爲0，接收者必須忽略該位。
   Type: 5 bits

3、拆包和解包

拆包：當編碼器在編碼時須要將原有一個NAL按照FU-A進行分片，原有的NAL的單元頭與分片後的FU-A的單元頭有以下關係：
原始的NAL頭的前三位爲FU indicator的前三位，原始的NAL頭的後五位爲FU header的後五位，FU indicator與FU header的剩餘位數根據實際狀況決定。
 
解包：當接收端收到FU-A的分片數據，須要將全部的分片包組合還原成原始的NAl包時，FU-A的單元頭與還原後的NAL的關係以下：
還原後的NAL頭的八位是由FU indicator的前三位加FU header的後五位組成，即：
nal_unit_type = (fu_indicator & 0xe0) | (fu_header & 0x1f)

4、代碼實現

從RTP包裏面獲得H264視頻數據的方法：

 

 
 // 功能：解碼RTP H.264視頻
 // 參數：1.RTP包緩衝地址 2.RTP包數據大小 3.H264輸出地址 4.輸出數據大小
 // 返回：true:表示一幀結束  false:FU-A分片未結束或幀未結束 
 #define  RTP_HEADLEN 12 
 bool  UnpackRTPH264( void   *  bufIn,  int  len,   void **  pBufOut,   int   *  pOutLen)
  {
     * pOutLen  =   0 ;
     if  (len  <  RTP_HEADLEN)
      {
         return   false ;
    } 
 
    unsigned  char *  src  =  (unsigned  char * )bufIn  +  RTP_HEADLEN;
    unsigned  char  head1  =   * src; // 獲取第一個字節 
     unsigned  char  head2  =   * (src + 1 ); // 獲取第二個字節 
     unsigned  char  nal  =  head1  &   0x1f ; // 獲取FU indicator的類型域， 
     unsigned  char  flag  =  head2  &   0xe0 ; // 獲取FU header的前三位，判斷當前是分包的開始、中間或結束 
     unsigned  char  nal_fua  =  (head1  &   0xe0 )  |  (head2  &   0x1f ); // FU_A nal 
      bool  bFinishFrame  =   false ;
     if  (nal == 0x1c ) // 判斷NAL的類型爲0x1c=28，說明是FU-A分片 
        { // fu-a 
          if  (flag == 0x80 ) // 開始 
            {
             * pBufOut  =  src - 3 ;
             * (( int * )( * pBufOut))  =   0x01000000  ; // zyf:大模式會有問題 
              * (( char * )( * pBufOut) + 4 )  =  nal_fua;
             *  pOutLen  =  len  -  RTP_HEADLEN  +   3 ;
        } 
         else   if (flag == 0x40 ) // 結束 
            {
             * pBufOut  =  src + 2 ;
             *  pOutLen  =  len  -  RTP_HEADLEN  -   2 ;
        } 
         else // 中間 
            {
             * pBufOut  =  src + 2 ;
             *  pOutLen  =  len  -  RTP_HEADLEN  -   2 ;
        } 
    } 
     else // 單包數據 
        {
         * pBufOut  =  src - 4 ;
         * (( int * )( * pBufOut))  =   0x01000000 ; // zyf:大模式會有問題 
          *  pOutLen  =  len  -  RTP_HEADLEN  +   4 ;
    } 
 
    unsigned  char *  bufTmp  =  (unsigned  char * )bufIn;
     if  (bufTmp[ 1 ]  &   0x80 )
      {
        bFinishFrame  =   true ; // rtp mark 
     } 
     else 
       {
        bFinishFrame  =   false ;
    } 
     return  bFinishFrame;
}   

從RTP包裏面獲得AAC音頻數據的方法：

//功能：解RTP AAC音頻包，聲道和採樣頻率必須知道。
//參數：1.RTP包緩衝地址 2.RTP包數據大小 3.H264輸出地址 4.輸出數據大小
//返回：true:表示一幀結束  false:幀未結束 通常AAC音頻包比較小，沒有分片。
bool UnpackRTPAAC(void * bufIn, int recvLen, void** pBufOut,  int* pOutLen)
{
    unsigned char*  bufRecv = (unsigned char*)bufIn;
    //char strFileName[20];
    
    unsigned char ADTS[] = {0xFF, 0xF1, 0x00, 0x00, 0x00, 0x00, 0xFC}; 
    int audioSamprate = 32000;//音頻採樣率
    int audioChannel = 2;//音頻聲道 1或2
    int audioBit = 16;//16位 固定
    switch(audioSamprate)
    {
    case  16000:
        ADTS[2] = 0x60;
        break;
    case  32000:
        ADTS[2] = 0x54;
        break;
    case  44100:
        ADTS[2] = 0x50;
        break;
    case  48000:
        ADTS[2] = 0x4C;
        break;
    case  96000:
        ADTS[2] = 0x40;
        break;
    default:
        break;
    }
    ADTS[3] = (audioChannel==2)?0x80:0x40;

    int len = recvLen - 16 + 7;
    len <<= 5;//8bit * 2 - 11 = 5(headerSize 11bit)
    len |= 0x1F;//5 bit    1            
    ADTS[4] = len>>8;
    ADTS[5] = len & 0xFF;
    *pBufOut = (char*)bufIn+16-7;
    memcpy(*pBufOut, ADTS, sizeof(ADTS));
    *pOutLen = recvLen - 16 + 7;

    unsigned char* bufTmp = (unsigned char*)bufIn;
    bool bFinishFrame = false;
    if (bufTmp[1] & 0x80)
    {
        //DebugTrace::D("Marker");
        bFinishFrame = true;
    }
    else
    {
        bFinishFrame = false;
    }
    return true;
}