算法導論讀書筆記（19）
最優二叉搜索樹
最優二叉搜索樹 （optimal binary search tree）問題的形式化定義以下：給定一個由 n 個互異的關鍵字組成的序列 K = < k1 , k2 , … , kn >，且關鍵字有序（有 k1 < k2 < … < kn ），咱們要從這些關鍵字中構造一棵二叉查找樹。對每一個關鍵字 ki ，一次搜索爲 ki 的機率是 pi 。某些搜索的值可能不在 K 內，所以還有 n + 1 個「虛擬鍵」 d0 , d1 , … , dn 表明不在 K 內的值。其中， d0 表明全部小於 k1 的值， dn 表明全部大於 kn 的值，而對於 i = 1, 2, …, n - 1 ，虛擬鍵 di 表明全部位於 ki 和 ki+1 之間的值。對每一個虛擬鍵 di ，一次搜索對應於 di 的機率是 qi 。下圖是 n = 5個關鍵字的集合上的兩棵二叉查找樹。算法
其中各結點的機率以下表所示：3d
每一個關鍵字 ki 是一個內部結點，每一個虛擬鍵 di 是一個葉子。每次搜索要麼成功（找到某個關鍵字 ki ），要麼失敗（找到某個虛擬鍵 di ），所以有以下公式：code
由於已知了每一個關鍵字和每一個虛擬鍵被搜索的機率，於是能夠肯定在一棵給定的二叉查找樹 T 內一次搜索的指望代價。假設一次搜索的實際代價爲檢查的結點個數，即在 T 內搜索所發現的結點的深度加1.全部在 T 內一次搜索的指望代價爲blog
其中 depthT 表明樹 T 內一個結點的深度。遞歸
對給定的一組機率，咱們的目標是構造一個指望搜索代價最小的二叉查找樹。把這種樹稱爲最優二叉查找樹。下面將使用動態規劃方法來解決這個問題。it
步驟1：一棵最優二叉查找樹的結構
爲描述一棵最優二叉查找樹的最優子結構，首先要看它的子樹。一棵二叉查找樹的任意一棵子樹一定包含在連續範圍內的關鍵字 ki ，…， kj ，有 1 <= i <= j <= n 。另外，一棵含有關鍵字 ki ，…， kj 的子樹一定也含有虛擬鍵 di-1 ，…， dj 做爲葉子。table
如今咱們能夠描述最優子結構：若是一棵最優二叉查找樹 T 有一棵包含關鍵字 ki ，…， kj 的子樹 T’ ，那麼這棵子樹 T‘ 對於關鍵字 ki ，…， kj 和虛擬鍵 di-1 ，…， dj 的子問題也一定是最優的。class
使用最優子結構來講明能夠根據子問題的最優解，來構造原問題的一個最優解。給定關鍵字 ki ，…， kj ，假設 kr （ i <= r <= j ），將是包含這些鍵的一棵最優子樹的根。根 kr 的左子樹包含關鍵字 ki ，…， kr-1 （和虛擬鍵 di-1 ，…， dr-1 ），右子樹包含關鍵字 kr+1 ，…， kj （和虛擬鍵 dr ，…， dj ）。咱們只要檢查全部的候選根 kr ，而且肯定全部包含關鍵字 ki ，…， kr-1 和 kr+1 ，…， kj 的最優二叉查找樹，就能夠保證找到一棵最優的二叉查找樹。讀書筆記
步驟2：一個遞歸解
如今能夠遞歸地定義一個最優解的值了。選取子問題域爲找一個包含關鍵字 ki ，…， kj 的最優二叉查找樹，其中 i >= 1 ， j <= n 且 j >= i - 1。（當 j >= i - 1時沒有真是的關鍵字，只有虛擬鍵 di-1 ）。定義 e [ i , j ]爲搜索一棵包含關鍵字 ki ，…， kj 的最優二叉查找樹的指望代價。最終，咱們要計算的是 e [ 1 , n ]。搜索
當 j = i - 1時出現簡單狀況。此時只有虛擬鍵 di-1 。指望的搜索代價爲 e [ i , i - 1 ] = qi - 1。
當 j >= i 時，須要從 ki ，…， kj 中選擇一個根 kr ，而後用關鍵字 ki ，…， kr-1 來構造一棵最優二叉查找樹做爲其左子樹，並用關鍵字 kr+1 ，…， kj 來構造一棵最優二叉查找樹做爲其右子樹。當一棵樹成爲一個結點的子樹時，子樹中每一個結點的深度增長1。這個子樹的指望搜索代價增長爲子樹中全部機率的總和。對一棵有關鍵字 ki ，…， kj 的子樹，定義機率的總和爲
所以，若是 kr 是一棵包含關鍵字 ki ，…， kj 的最優子樹的根，則有
e [ i , j ] = pr + ( e [ i , r - 1 ] + w ( i , r - 1 )) + ( e [ r + 1 ， j ] + w ( r + 1 , j ))
注意
w ( i , j ) = w ( i , r - 1 ) + pr + w ( r + 1 , j )
能夠將 e [ i , j ]重寫爲
e [ i , j ] = e [ i , r - 1 ] + e [ r + 1 , j ] + w ( i , j )
假設咱們知道該採用哪個結點 kr 做爲根。咱們選擇有最低指望搜索代價的結點做爲根，從而獲得最終的遞歸式：
步驟3：計算一棵最優二叉查找樹的指望搜索代價
下面的僞碼以機率 p1 ，…， pn 和 q1 ，…， qn 以及規模爲 n 爲輸入，返回表 e 和 root 。
OPTIMAL-BST(p, q, n) 1 let e[1 .. n + 1, 0 .. n], w[1 .. n + 1, 0 .. n] and root[1 .. n, 1 .. n] be new tables 2 for i = 1 to n + 1 3 e[i, i - 1] = q_i - 1 4 w[i, i - 1] = q_i - 1 5 for l = 1 to n 6 for i = 1 to n - l + 1 7 j = i + l - 1 8 e[i, j] = ∞ 9 w[i, j] = w[i, j - 1] + p_j + q_j 10 for r = i to j 11 t = e[i, r - 1] + e[r + 1, j] + w[i, j] 12 if t < e[i, j] 13 e[i, j] = t 14 root[i, j] = r 15 return e and root
此過程的操做比較直觀。第1～4行初始化 e [ i , j - 1 ]和 w [ i , j - 1 ]的值。第5～14行的 for 循環利用上面兩個遞歸式來計算 e [ i , j ]和 w [ i , j ]，在第10～14行，嘗試每一個下標 r 以肯定使用哪一個關鍵字 kr 來做爲包含關鍵字 ki ，…， kj 的最優二叉查找樹的根。不管什麼時候發現一個更好的關鍵字來做爲根，這個 for 循環在 root [ i , j ]中保存下標 r 的當前值。
下圖是根據上面二叉查找樹的關鍵字分佈，程序 OPTIMAL-BST 計算出的表 e [ i , j ]和 w [ i , j ]和 root [ i , j ]。
OPTIMAL-BST 過程須要 Θ ( n3 )。