算法分析——動態規劃

1、動態規劃定義

經過把原問題分解爲相對簡單的子問題的方式求解複雜問題的方法。

2、動態規劃與貪心算法區別

已知問題規模爲n的前提A，求解一個未知解B。（咱們用An表示「問題規模爲n的已知條件」）

此時，若是把問題規模降到0，即已知A0，能夠獲得A0->B.

• 若是從A0添加一個元素，獲得A1的變化過程。即A0->A1; 進而有A1->A2; A2->A3; …… ; Ai->Ai+1. 這就是嚴格的概括推理，也就是咱們常用的數學概括法；
• 對於Ai+1，只須要它的上一個狀態Ai便可完成整個推理過程（而不須要更前序的狀態）。咱們將這一模型稱爲馬爾科夫模型。對應的推理過程叫作「貪心法」。

然而，Ai與Ai+1每每不是互爲充要條件，隨着i的增長，有價值的前提信息愈來愈少，咱們沒法僅僅經過上一個狀態獲得下一個狀態，所以能夠採用以下方案：

• {A1->A2}; {A1, A2->A3}; {A1,A2,A3->A4};……; {A1,A2,...,Ai}->Ai+1. 這種方式就是第二數學概括法。
• 對於Ai+1須要前面的全部前序狀態才能完成推理過程。咱們將這一模型稱爲高階馬爾科夫模型。對應的推理過程叫作「動態規劃法」。

上述兩種狀態轉移圖以下圖所示：

             

3、動態規劃原理

• 基本思想：問題的最優解若是能夠由子問題的最優解推導獲得，則能夠先求解子問題的最優解，在構造原問題的最優解；若子問題有較多的重複出現，則能夠自底向上從最終子問題向原問題逐步求解。
• 使用條件：可分爲多個相關子問題，子問題的解被重複使用

• Optimal substructure（優化子結構）：

• 一個問題的優化解包含了子問題的優化解
• 縮小子問題集合，只需那些優化問題中包含的子問題，下降實現複雜性
• 咱們能夠自下而上的

• Subteties（重疊子問題）：在問題的求解過程當中，不少子問題的解將被屢次使用。

• 動態規劃算法的設計步驟：

• 分析優化解的結構
• 遞歸地定義最優解的代價
• 自底向上地計算優化解的代價保存之，並獲取構造最優解的信息
• 根據構造最優解的信息構造優化解

• 動態規劃特色：

• 把原始問題劃分紅一系列子問題；
• 求解每一個子問題僅一次，並將其結果保存在一個表中，之後用到時直接存取，不重複計算，節省計算時間
• 自底向上地計算。
• 總體問題最優解取決於子問題的最優解（狀態轉移方程）（將子問題稱爲狀態，最終狀態的求解歸結爲其餘狀態的求解）
• 能採用動態規劃求解的問題的通常要具備3個性質：
      (1) 最優化原理：若是問題的最優解所包含的子問題的解也是最優的，就稱該問題具備最優子結構，即知足最優化原理。
      (2) 無後效性：即某階段狀態一旦肯定，就不受這個狀態之後決策的影響。也就是說，某狀態之後的過程不會影響之前的狀態，只與當前狀態有關。
    （3）有重疊子問題：即子問題之間是不獨立的，一個子問題在下一階段決策中可能被屢次使用到。

4、動態規劃解題的通常思路   

　　　　 動態規劃所處理的問題是一個多階段決策問題，通常由初始狀態開始，經過對中間階段決策的選擇，達到結束狀態。這些決策造成了一個決策序列，同時肯定了完成整個過程的一條活動路線(一般是求最優的活動路線)。如圖所示。動態規劃的設計都有着必定的模式，通常要經歷如下幾個步驟。

•     初始狀態→│決策１│→│決策２│→…→│決策ｎ│→結束狀態
      (1)劃分階段：按照問題的時間或空間特徵，把問題分爲若干個階段。在劃分階段時，注意劃分後的階段必定要是有序的或者是可排序的，不然問題就沒法求解。
      (2)肯定狀態和狀態變量：將問題發展到各個階段時所處於的各類客觀狀況用不一樣的狀態表示出來。固然，狀態的選擇要知足無後效性。
      (3)肯定決策並寫出狀態轉移方程：由於決策和狀態轉移有着自然的聯繫，狀態轉移就是根據上一階段的狀態和決策來導出本階段的狀態。因此若是肯定了決策，狀態轉移方程也就可寫出。但事實上經常是反過來作，根據相鄰兩個階段的狀態之間的關係來肯定決策方法和狀態轉移方程。
      (4)尋找邊界條件：給出的狀態轉移方程是一個遞推式，須要一個遞推的終止條件或邊界條件。
      通常，只要解決問題的階段、狀態和狀態轉移決策肯定了，就能夠寫出狀態轉移方程（包括邊界條件）。
  實際應用中能夠按如下幾個簡化的步驟進行設計：
      （1）分析最優解的性質，並刻畫其結構特徵。
      （2）遞歸的定義最優解。
      （3）以自底向上或自頂向下的記憶化方式（備忘錄法）計算出最優值
      （4）根據計算最優值時獲得的信息，構造問題的最優解

5、算法實現的說明

    動態規劃的主要難點在於理論上的設計，也就是上面4個步驟的肯定，一旦設計完成，實現部分就會很是簡單。

    使用動態規劃求解問題，最重要的就是肯定動態規劃三要素：

    （1）問題的階段 （2）每一個階段的狀態

    （3）從前一個階段轉化到後一個階段之間的遞推關係。

     遞推關係必須是從次小的問題開始到較大的問題之間的轉化，從這個角度來講，動態規劃每每能夠用遞歸程序來實現，不過由於遞推能夠充分利用前面保存的子問題的解來減小重複計算，因此對於大規模問題來講，有遞歸不可比擬的優點，這也是動態規劃算法的核心之處。

    肯定了動態規劃的這三要素，整個求解過程就能夠用一個最優決策表來描述，最優決策表是一個二維表，其中行表示決策的階段，列表示問題狀態，表格須要填寫的數據通常對應此問題的在某個階段某個狀態下的最優值（如最短路徑，最長公共子序列，最大價值等），填表的過程就是根據遞推關係，從1行1列開始，以行或者列優先的順序，依次填寫表格，最後根據整個表格的數據經過簡單的取捨或者運算求得問題的最優解。

          f(n,m)=max{f(n-1,m), f(n-1,m-w[n])+P(n,m)}

　　算法實現的步驟

　　一、建立一個一維數組或者二維數組，保存每個子問題的結果，具體建立一維數組仍是二維數組看題目而定，基本上若是題目中給出的是一個一維數組進行操做，就能夠只建立一個一維數組，若是題目中給出了兩個一維數組進行操做或者兩種不一樣類型的變量值，好比揹包問題中的不一樣物體的體積與整體積，找零錢問題中的不一樣面值零錢與總錢數，這樣就須要建立一個二維數組。

注：須要建立二維數組的解法，均可以建立一個一維數組運用滾動數組的方式來解決，即一位數組中的值不停的變化，後面會詳細徐敘述

　　二、設置數組邊界值，一維數組就是設置第一個數字，二維數組就是設置第一行跟第一列的值，特別的滾動一維數組是要設置整個數組的值，而後根據後面不一樣的數據加進來變幻成不一樣的值。

　　三、找出狀態轉換方程，也就是說找到每一個狀態跟他上一個狀態的關係，根據狀態轉化方程寫出代碼。

　　四、返回須要的值，通常是數組的最後一個或者二維數組的最右下角。

代碼基本框架：

　　

 1 for(j=1; j<=m; j=j+1) // 第一個階段
 2     xn[j] = 初始值;
 3 
 4   for(i=n-1; i>=1; i=i-1)// 其餘n-1個階段
 5     for(j=1; j>=f(i); j=j+1)//f(i)與i有關的表達式
 6       xi[j]=j=max（或min）{g(xi-[j1:j2]), ......, g(xi-1[jk:jk+1])};
 7 
 8 t = g(x1[j1:j2]); // 由子問題的最優解求解整個問題的最優解的方案
 9 
10 print(x1[j1]);
11 
12 for(i=2; i<=n-1; i=i+1）
13 { 
14       t = t-xi-1[ji];
15 
16       for(j=1; j>=f(i); j=j+1)
17          if(t=xi[ji])
18               break;
19 }

View Code

 參考連接：

　[1]http://www.javashuo.com/article/p-kwkslqxt-dt.html

　[2]https://www.cnblogs.com/hithongming/p/9229871.html