算法導論讀書筆記（1）

算法

所謂算法（algorithm）就是定義良好的計算過程，它取一個或一組值做爲輸入，併產生出一個或一組值做爲輸出。亦即，算法就是一系列的計算步驟，用來將輸入數據轉換成輸出結果。咱們還能夠將算法看做是一種工具，用來解決一個具備良好規範說明的 計算問題 。java

例如，假設要將一列數按非降順序進行排列，下面是有關該排序問題的形式化定義：算法

輸入：由 n 個數構成的一個序列<a_1， a_2， …， a_n>
輸出：對輸入序列的一個排列（重排）<a₁ '， a₂ '， …， a_n '>使得a₁ ' <= a₂ ' <= … <= a_n '
sql

插入排序

插入排序 算法是一個對少許元素進行排序的有效算法。它的僞碼是以一個過程的形式給出的，稱爲 INSERTION-SORT ，它的參數是一個數組 A [ 1 .. n ]，包含了 n 個待排數字。（在僞碼中， A 中元素的個數 n 用 A.length 來表示。）輸入的各個數字是 原地排序 的（sorted in place），就是說這些數字是在數組 A 中進行從新排序的，在任什麼時候刻，至多隻有其中的常數個數字是存儲在數組以外的。當過程 INSERTION-SORT 執行完畢後，輸入數組 A 中就包含了已排好序的輸出序列。數組

INSERTION-SORT(A)
1 for j = 2 to A.length
2     key = A[j]
3     // Insert A[j] into the sorted sequence A[1 .. j - 1]
4     i = j - 1
5     while i > 0 and A[i] > key
6         A[i + 1] = A[i]
7         i = i - 1
8     A[i + 1] = key

插入排序算法的簡單Java實現：bash

/**
 * 插入排序
 *
 * @param array
 */
public static void insertionSort(int[] array) {
    int key, j;
    for (int i = 1; i < array.length; i++) {
        key = array[i];
        j = i - 1;
        while (j >= 0 && array[j] > key) {
            array[j + 1] = array[j];
            j--;
        }
        array[j + 1] = key;
    }
}

循環不變式與插入算法的正確性

下圖給出了這個算法在數組 A = <5， 2， 4， 6， 1， 3>上的工做過程。下標 j 指示了待插入的元素。在外層 for 循環的每一輪迭代開始時，包含元素 A [ 1 .. j - 1 ]的子數組就已是排好序的了。ide

循環不變式 主要用來幫助咱們理解算法的正確性。對於循環不變式，必須證實它的三個性質：函數

初始化（Initialization）：: 它在循環的第一輪迭代開始以前，應該是正確的。
保持（Maintenance）：: 若是在循環的某一次迭代開始以前它是正確的，那麼，在下一次迭代開始以前，它也應該保持正確。
終止（Termination）：: 當循環結束時，不變式給了咱們一個有用的性質，它有助於代表算法是正確的。

算法分析

算法分析 是指對一個算法所須要的資源進行預測。內存，通訊帶寬或計算機硬件等資源偶爾會是咱們主要關心的，但一般，資源是指咱們但願測度的計算時間。工具

插入排序算法的分析

INSERTION-SORT 過程的時間開銷與輸入有關。此外，即便排序兩個相同長度的輸入序列，所需的時間也可能不一樣。這取決於它們已排序的程度。通常來講，算法所需的時間是與輸入規模同步增加的，於是經常將一個程序的運行時間表示爲其輸入的函數。這裏就涉及到兩個名詞「運行時間」和「輸入規模」。post

輸入規模 的概念與具體問題有關，最天然的度量標準是輸入中的元素個數。測試

算法的 運行時間 是指在特定輸入時，所執行的基本操做數（或步數）。這裏咱們假設每次執行第 i 行所花的時間都是常量 c_i 。

首先給出 INSERTION-SORT 過程當中，每一條指令的執行時間及執行次數。對 j = 2， 3， …， n ， n = A.length ，設 t_j 爲第5行 while 循環所作的測試次數。當 for 或 while 循環以一般方式退出時，測試要比循環體多執行1次。另外，假定註釋部分不可執行。

該算法總的運行時間是每一條語句執行時間之和。爲計算總運行時間 T = [ n ]，對每一對 cost 和 times 之積求和。得：

即便是對給定規模的輸入，一個算法的運行時間也可能要依賴於給定的是該規模下的哪一種輸入。例如，在 INSERTION-SORT 中，若是輸入數組已是排好序的，那就會出現最佳狀況。對 j = 2， 3， …， n 中的每個值，都有 t_j = 1，則最佳運行時間爲：

這一運行時間能夠表示成 a n + b ，常量 a 和 b 依賴於語句的代價 c_i ；所以，它是 n 的一個 線性函數 。

若是輸入數組是按照逆序排序的，那麼就會出現最壞狀況。咱們必須將每一個元素 A [ j ]與整個已排序的子數組 A [ 1 .. j - 1 ]中的每個元素進行比較，於是，對 j = 2， 3， …， n ，有 t_j = j 。則最壞運行時間爲：

這一最壞狀況運行時間能夠表示爲 a n² + b n + c ，常量 a ， b 和 c 仍依賴於語句的代價 c_i ；於是，這是一個關於 n 的 二次函數 。

練習

2.1-2

重寫過程 INSERTION-SORT ，使之按非升序排序。

INSERTION-SORT(A)
1 for j = 2 to A.length
2     key = A[j]
3     // Insert A[j] into the sorted sequence A[1 .. j - 1]
4     i = j - 1
5     while i > 0 and A[i] < key
6         A[i + 1] = A[i]
7         i = i - 1
8     A[i + 1] = key

2.1-3

考慮下面的查找問題：

輸入：一列數 A = <a_1， a_2， …， a_n>和一個值/v/ 。
輸出：下標 i ，使得 v = A [ i ]，或當 v 不在 A 中時爲 NIL 。

寫出線性查找的僞碼：

LINEAR-SEARCH(A, v)
1 for j = 1 to A.length
2     if A[j] == v
3         return j
4 return NIL

2.1-4

將兩個各存放在數組 A 和數組 B 中的 n 位二進制整數相加。和以二進制形式存放在具備 n + 1個元素的數組 C 中。

ADD-BINARY-ARRAY(A, B)
1  let C[1 .. A.length + 1] be new arrays
2  flag = 0
3  for i = 1 to A.length 
4      key = A[i] + B[i] + flag
5      C[i] = key mod 2
6      if key > 1
7          flag = 1
8      else
9          flag = 0
10 C[i] = flag

2.2-2

選擇排序 僞碼：

SELECT-SORT(A)
1  for i = 1 to A.length - 1
2      index = i
3      for j = i + 1 to A.length
4          if A[index] > A[j]
5              index = j
6      exchange A[index] with A[i]

算法導論讀書筆記（1）

算法導論讀書筆記（1）

目錄

算法

插入排序

循環不變式與插入算法的正確性

算法分析

插入排序算法的分析

練習

2.1-2

2.1-3

2.1-4

2.2-2