程序猿必知的10大基礎有用性算法

轉載自：http://www.apkbus.com/portal.php?mod=view&aid=9839

算法一：高速排序算法 　　高速排序是由東尼·霍爾所發展的一種排序算法。在平均情況下，排序 n 個項目要Ο(n log n)次比較。在最壞情況下則需要Ο(n2) 次比較。但這樣的情況並不常見。其實，高速排序一般明顯比其它Ο(n log n) 算法更快。因爲它的內部循環（inner loop）可以在大部分的架構上頗有效率地被實現出來。 　　高速排序使用分治法（Divide and conquer）策略來把一個串行（list）分爲兩個子串行（sub-lists）。 　　算法步驟： 　　1 從數列中挑出一個元素，稱爲 「基準」（pivot）， 　　2 又一次排序數列，所有元素比基準值小的擺放在基準前面，所有元素比基準值大的擺在基準的後面（相同的數可以到任一邊）。 在這個分區退出以後。該基準就處於數列的中間位置。 這個稱爲分區（partition）操做。 　　3 遞歸地（recursive）把小於基準值元素的子數列和大於基準值元素的子數列排序。 　　遞歸的最底部情形，是數列的大小是零或一。也就是永遠都已經被排序好了。 雖然一直遞歸下去。但是這個算法總會退出。因爲在每次的迭代（iteration）中。它至少會把一個元素擺到它最後的位置去。 　　算法二：堆排序算法 　　堆排序（Heapsort）是指利用堆這樣的數據結構所設計的一種排序算法。 堆積是一個近似全然二叉樹的結構，並同一時候知足堆積的性質：即子結點的鍵值或索引老是小於（或者大於）它的父節點。 　　堆排序的平均時間複雜度爲Ο(nlogn) 。 　　算法步驟：     1.  建立一個堆H[0..n-1]     2.  把堆首（最大值）和堆尾互換 　　3.  把堆的尺寸縮小1。並調用 shift_down (0)。目的是把新的數組頂端數據調整到相應位置 　　4.  反覆步驟2，直到堆的尺寸爲1 　　算法三：歸併排序 　　歸併排序（Merge sort，臺灣譯做：合併排序）是創建在歸併操做上的一種有效的排序算法。 該算法是採用分治法（Divide and Conquer）的一個很典型的應用。 　　算法步驟： 　　1.  申請空間。使其大小爲兩個已經排序序列之和，該空間用來存放合併後的序列 　　2.  設定兩個指針。最初位置分別爲兩個已經排序序列的起始位置 　　3.  比較兩個指針所指向的元素，選擇相對小的元素放入到合併空間。並移動指針到下一位置 　　4.  反覆步驟 3 直到某一指針達到序列尾 　　5.  將還有一序列剩下的所有元素直接拷貝到合併序列尾 　　算法四：二分查找算法 　　二分查找算法是一種在有序數組中查找某一特定元素的搜索算法。搜素過程從數組的中間元素開始，假設中間元素正好是要查找的元素。則搜素過程結束。假設某一特定元素大於或者小於中間元素，則在數組大於或小於中間元素的那一半中查找，而且跟開始同樣從中間元素開始比較。 假設在某一步驟數組爲空，則表明找不到。 這樣的搜索算法每一次比較都使搜索範圍縮小一半。折半搜索每次把搜索區域下降一半。時間複雜度爲Ο(logn) 。 　　算法五：BFPRT(線性查找算法) 　　BFPRT 算法解決的問題十分經典，即從某n個元素的序列中選出第k大（第k小）的元素。經過巧妙的分析，BFPRT 可以保證在最壞狀況下仍爲線性時間複雜度。 該算法的思想與高速排序思想相似，固然，爲使得算法在最壞狀況下。依舊能達到o(n)的時間複雜度，五位算法做者作了精妙的處理。 　　算法步驟： 　　1.  將n個元素每 5 個一組，分紅n/5(上界)組。 　　2.  取出每一組的中位數。隨意排序方法，比方插入排序。 　　3.  遞歸的調用 selection 算法查找上一步中所有中位數的中位數。設爲x，偶數箇中位數的狀況下設定爲選取中間小的一個。 　　4.  用x來切割數組，設小於等於x的個數爲k。大於x的個數即爲n-k。 　　5.  若i==k，返回x；若i<k，在小於x的元素中遞歸查找第i小的元素；若i>k，在大於x的元素中遞歸查找第i-k 小的元素。 　　終止條件：n=1 時，返回的便是i小元素。 　　算法六：DFS（深度優先搜索） 　　深度優先搜索算法（Depth-First-Search）。是搜索算法的一種。 它沿着樹的深度遍歷樹的節點，儘量深的搜索樹的分支。當節點v的所有邊都己被探尋過。搜索將回溯到發現節點v的那條邊的起始節點。 這一過程一直進行到已發現從源節點可達的所有節點爲止。 假設還存在未被發現的節點，則選擇當中一個做爲源節點並反覆以上過程，整個進程反覆進行直到所有節點都被訪問爲止。DFS 屬於盲目搜索。 　　深度優先搜索是圖論中的經典算法。利用深度優先搜索算法可以產生目標圖的相應拓撲排序表。利用拓撲排序表可以方便的解決不少相關的圖論問題，如最大路徑問題等等。通常用堆數據結構來輔助實現 DFS 算法。 　　深度優先遍歷圖算法步驟： 　　1.  訪問頂點v； 　　2.  依次從v的未被訪問的鄰接點出發。對圖進行深度優先遍歷。直至圖中和v有路徑相通的頂點都被訪問； 　　3.  若此時圖中尚有頂點未被訪問，則從一個未被訪問的頂點出發，又一次進行深度優先遍歷，直到圖中所有頂點均被訪問過爲止。 　　上述描寫敘述可能比較抽象。舉個實例： 　　DFS 在訪問圖中某一塊兒始頂點 v 後。由 v 出發。訪問它的任一鄰接頂點 w1；再從 w1 出發。訪問與 w1 鄰 接但尚未訪問過的頂點 w2；而後再從 w2 出發。進行相似的訪問。… 如此進行下去。直至到達所有的鄰接頂點都被訪問過的頂點 u 爲止。 　　接着，退回一步。退到前一次剛訪問過的頂點，看是否還有其它沒有被訪問的鄰接頂點。 假設有，則訪問此頂點，以後再今後頂點出發，進行與前述相似的訪問。假設沒有，就再退回一步進行搜索。反覆上述過程。直到連通圖中所有頂點都被訪問過爲止。 　　算法七：BFS (廣度優先搜索) 　　廣度優先搜索算法（Breadth-First-Search），是一種圖形搜索算法。 簡單的說。BFS 是從根節點開始，沿着樹(圖)的寬度遍歷樹(圖)的節點。假設所有節點均被訪問。則算法停止。 BFS 相同屬於盲目搜索。通常用隊列數據結構來輔助實現 BFS 算法。 　　算法步驟： 　　1.  首先將根節點放入隊列中。 　　2.  從隊列中取出第一個節點，並檢驗它是否爲目標。 假設找到目標，則結束搜尋並回傳結果。 不然將它所有還沒有檢驗過的直接子節點增長隊列中。 　　3.  若隊列爲空，表示整張圖都檢查過了——亦即圖中沒有欲搜尋的目標。結束搜尋並回傳「找不到目標」。 　　4.  反覆步驟2。 　　算法八：Dijkstra算法 　　戴克斯特拉算法（Dijkstra’s algorithm）是由荷蘭計算機科學家艾茲赫爾·戴克斯特拉提出。迪科斯徹算法使用了廣度優先搜索解決非負權有向圖的單源最短路徑問題，算法終於獲得一個最短路徑樹。該算法常用於路由算法或者做爲其它圖算法的一個子模塊。 　　該算法的輸入包括了一個有權重的有向圖 G，以及G中的一個來源頂點 S。咱們以 V 表示 G 中所有頂點的集合。 每一個圖中的邊，都是兩個頂點所造成的有序元素對。(u, v) 表示從頂點 u 到 v 有路徑相連。咱們以 E 表示G中所有邊的集合，而邊的權重則由權重函數 w: E → [0, ∞] 定義。所以。w(u, v) 就是從頂點 u 到頂點 v 的非負權重（weight）。 邊的權重可以想像成兩個頂點之間的距離。任兩點間路徑的權重，就是該路徑上所有邊的權重總和。已知有 V 中有頂點 s 及 t，Dijkstra 算法可以找到 s 到 t的最低權重路徑(好比，最短路徑)。這個算法也可以在一個圖中，找到從一個頂點 s 到不論什麼其它頂點的最短路徑。對於不含負權的有向圖。Dijkstra 算法是眼下已知的最快的單源最短路徑算法。 　　算法步驟： 　　1.  初始時令 S={V0},T={其他頂點}，T中頂點相應的距離值 　　若存在<V0,Vi>。d(V0,Vi)爲<V0,Vi>弧上的權值 　　若不存在<V0,Vi>，d(V0,Vi)爲∞ 　　2.  從T中選取一個其距離值爲最小的頂點W且不在S中，增長S 　　3.  對其他T中頂點的距離值進行改動：若加進W做中間頂點，從 V0 到 Vi 的距離值縮短。則改動此距離值 　　反覆上述步驟二、3，直到S中包括所有頂點，即W=Vi 爲止     算法九：動態規劃算法 　　動態規劃（Dynamic programming）是一種在數學、計算機科學和經濟學中使用的，經過把原問題分解爲相對簡單的子問題的方式求解複雜問題的方法。 動態規劃常常適用於有重疊子問題和最優子結構性質的問題，動態規劃方法所耗時間每每遠少於樸素解法。 　　動態規劃背後的基本思想很easy。 大體上，若要解一個給定問題，咱們需要解其不一樣部分（即子問題）。再合併子問題的解以得出原問題的解。 一般不少子問題很相似，爲此動態規劃法試圖僅僅解決每一個子問題一次，從而下降計算量： 一旦某個給定子問題的解已經算出，則將其記憶化存儲，以便下次需要同一個子問題解之時直接查表。 這樣的作法在反覆子問題的數目關於輸入的規模呈指數增加時特別實用。 　　關於動態規劃最經典的問題當屬揹包問題。 　　算法步驟： 　　1.  最優子結構性質。假設問題的最優解所包括的子問題的解也是最優的，咱們就稱該問題具備最優子結構性質（即知足最優化原理）。 最優子結構性質爲動態規劃算法解決這個問題提供了重要線索。 　　2.  子問題重疊性質。子問題重疊性質是指在用遞歸算法自頂向下對問題進行求解時。每次產生的子問題並不老是新問題，有些子問題會被反覆計算屢次。動態規劃算法正是利用了這樣的子問題的重疊性質，對每一個子問題僅僅計算一次，而後將其計算結果保存在一個表格中。當再次需要計算已經計算過的子問題時，僅僅是在表格中簡單地查看一下結果。從而得到較高的效率。 　　算法十：樸素貝葉斯分類算法 　　樸素貝葉斯分類算法是一種基於貝葉斯定理的簡單機率分類算法。貝葉斯分類的基礎是機率推理，就是在各類條件的存在不肯定，僅知其出現機率的狀況下，怎樣完畢推理和決策任務。機率推理是與肯定性推理相相應的。 而樸素貝葉斯分類器是基於獨立假設的，即假設樣本每一個特徵與其它特徵都不相關。 　　樸素貝葉斯分類器依靠精確的天然機率模型，在有監督學習的樣本集中能獲取得很好的分類效果。在不少實際應用中，樸素貝葉斯模型參數預計使用最大似然預計方法。換言之樸素貝葉斯模型能工做並沒實用到貝葉斯機率或者不論什麼貝葉斯模型。 　　雖然是帶着這些樸素思想和過於簡單化的假設。但樸素貝葉斯分類器在不少複雜的現實情形中仍可以取得至關好的效果。