各種排序算法的時間復雜度

選擇排序、快速排序、希爾排序、堆排序不是穩定的排序算法，冒泡排序、插入排序、歸并排序和基數排序是穩定的排序算法。

排序算法不穩定的含義是:

在排序之前,有兩個數相等. 
但是在排序結束之后,它們兩個有可能改變順序.
比如說:
 在一個待排序隊列中,A和B相等,且A排在B的前面,而排序之后,A排在了B的后面.這個時候,我們說這種算法是不穩定的.
(只要有這種可能性,我們就說算法是不穩定的.)
注: 算法的不穩定性,與所用的語言沒有關系的.

那么,快速排序為什么不穩定呢?
我們來看看快速排序的過程:(還是借用之前的那個假設,假設A,B相等,并和其它一堆數據一起參加排序.)
假設此時的快排是小于等于關鍵字為排在前面的一組組,大于為另外排在后面的一組.
在選取一個數出來分組的時候,如果選到了A,那么在B<=A的情況下,B將會排在A的前面.
因為有這樣的_可能性_,所以說我們這種算法是不穩定的.

冒泡法：  
這是最原始，也是眾所周知的最慢的算法了。他的名字的由來因為它的工作看來象是冒泡：  復雜度為O(n*n)。當數據為正序，將不會有交換。復雜度為O(0)。

直接插入排序：O(n*n)

選擇排序：O(n*n)

快速排序：平均時間復雜度log2(n)*n，所有內部排序方法中最高好的，大多數情況下總是最好的。

歸并排序：log2(n)*n

堆排序：log2(n)*n

希爾排序：算法的復雜度為n的1.2次冪

這里我沒有給出行為的分析，因為這個很簡單，我們直接來分析算法：

首先我們考慮最理想的情況 
1.數組的大小是2的冪，這樣分下去始終可以被2整除。假設為2的k次方，即k=log2(n)。 
2.每次我們選擇的值剛好是中間值，這樣，數組才可以被等分。 
第一層遞歸，循環n次，第二層循環2*(n/2)...... 
所以共有n+2(n/2)+4(n/4)+...+n*(n/n) = n+n+n+...+n=k*n=log2(n)*n 
所以算法復雜度為O(log2(n)*n) 
其他的情況只會比這種情況差，最差的情況是每次選擇到的middle都是最小值或最大值，那么他將變成交換法（由于使用了遞歸，情況更糟）。但是你認為這種情況發生的幾率有多大？？呵呵，你完全不必擔心這個問題。實踐證明，大多數的情況，快速排序總是最好的。 
如果你擔心這個問題，你可以使用堆排序，這是一種穩定的O(log2(n)*n)算法，但是通常情況下速度要慢 于快速排序（因為要重組堆）。

這幾天筆試了好幾次了，連續碰到一個關于常見排序算法穩定性判別的問題，往往還是多選，對于我以及和我一樣拿不準的同學可不是一個能輕易下結論的題目，當然如果你筆試之前已經記住了數據結構書上哪些是穩定的，哪些不是穩定的，做起來應該可以輕松搞定。

本文是針對老是記不住這個或者想真正明白到底為什么是穩定或者不穩定的人準備的。

首先，排序算法的穩定性大家應該都知道，通俗地講就是能保證排序前2個相等的數其在序列的前后位置順序和排序后它們兩個的前后位置順序相同。在簡單形式化一下，如果Ai = Aj, Ai原來在位置前，排序后Ai還是要在Aj位置前。

其次，說一下穩定性的好處。排序算法如果是穩定的，那么從一個鍵上排序，然后再從另一個鍵上排序，第一個鍵排序的結果可以為第二個鍵排序所用?；鶖蹬判蚓褪沁@樣，先按低位排序，逐次按高位排序，低位相同的元素其順序再高位也相同時是不會改變的。另外，如果排序算法穩定，對基于比較的排序算法而言，元素交換的次數可能會少一些(個人感覺，沒有證實)。

回到主題，現在分析一下常見的排序算法的穩定性，每個都給出簡單的理由。

(1)冒泡排序

冒泡排序就是把小的元素往前調或者把大的元素往后調。比較是相鄰的兩個元素比較，交換也發生在這兩個元素之間。所以，如果兩個元素相等，我想你是不會再無聊地把他們倆交換一下的；如果兩個相等的元素沒有相鄰，那么即使通過前面的兩兩交換把兩個相鄰起來，這時候也不會交換，所以相同元素的前后順序并沒有改變，所以冒泡排序是一種穩定排序算法。

(2)選擇排序

選擇排序是給每個位置選擇當前元素最小的，比如給第一個位置選擇最小的，在剩余元素里面給第二個元素選擇第二小的，依次類推，直到第n-1個元素，第n個元素不用選擇了，因為只剩下它一個最大的元素了。那么，在一趟選擇，如果當前元素比一個元素小，而該小的元素又出現在一個和當前元素相等的元素后面，那么交換后穩定性就被破壞了。比較拗口，舉個例子，序列5 8 5 2 9， 我們知道第一遍選擇第1個元素5會和2交換，那么原序列中2個5的相對前后順序就被破壞了，所以選擇排序不是一個穩定的排序算法。

(3)插入排序
     插入排序是在一個已經有序的小序列的基礎上，一次插入一個元素。當然，剛開始這個有序的小序列只有1個元素，就是第一個元素。比較是從有序序列的末尾開始，也就是想要插入的元素和已經有序的最大者開始比起，如果比它大則直接插入在其后面，否則一直往前找直到找到它該插入的位置。如果碰見一個和插入元素相等的，那么插入元素把想插入的元素放在相等元素的后面。所以，相等元素的前后順序沒有改變，從原無序序列出去的順序就是排好序后的順序，所以插入排序是穩定的。

(4)快速排序
    快速排序有兩個方向，左邊的i下標一直往右走，當a[i] <= a[center_index]，其中center_index是中樞元素的數組下標，一般取為數組第0個元素。而右邊的j下標一直往左走，當a[j] > a[center_index]。如果i和j都走不動了，i <= j, 交換a[i]和a[j],重復上面的過程，直到i>j。 交換a[j]和a[center_index]，完成一趟快速排序。在中樞元素和a[j]交換的時候，很有可能把前面的元素的穩定性打亂，比如序列為 5 3 3 4 3 8 9 10 11， 現在中樞元素5和3(第5個元素，下標從1開始計)交換就會把元素3的穩定性打亂，所以快速排序是一個不穩定的排序算法，不穩定發生在中樞元素和a[j]交換的時刻。

(5)歸并排序
    歸并排序是把序列遞歸地分成短序列，遞歸出口是短序列只有1個元素(認為直接有序)或者2個序列(1次比較和交換),然后把各個有序的段序列合并成一個有序的長序列，不斷合并直到原序列全部排好序?？梢园l現，在1個或2個元素時，1個元素不會交換，2個元素如果大小相等也沒有人故意交換，這不會破壞穩定性。那么，在短的有序序列合并的過程中，穩定是是否受到破壞？沒有，合并過程中我們可以保證如果兩個當前元素相等時，我們把處在前面的序列的元素保存在結果序列的前面，這樣就保證了穩定性。所以，歸并排序也是穩定的排序算法。

(6)基數排序
   基數排序是按照低位先排序，然后收集；再按照高位排序，然后再收集；依次類推，直到最高位。有時候有些屬性是有優先級順序的，先按低優先級排序，再按高優先級排序，最后的次序就是高優先級高的在前，高優先級相同的低優先級高的在前?；鶖蹬判蚧诜謩e排序，分別收集，所以其是穩定的排序算法。

(7)希爾排序(shell)
    希爾排序是按照不同步長對元素進行插入排序，當剛開始元素很無序的時候，步長最大，所以插入排序的元素個數很少，速度很快；當元素基本有序了，步長很小，插入排序對于有序的序列效率很高。所以，希爾排序的時間復雜度會比o(n^2)好一些。由于多次插入排序，我們知道一次插入排序是穩定的，不會改變相同元素的相對順序，但在不同的插入排序過程中，相同的元素可能在各自的插入排序中移動，最后其穩定性就會被打亂，所以shell排序是不穩定的。

(8)堆排序
   我們知道堆的結構是節點i的孩子為2*i和2*i+1節點，大頂堆要求父節點大于等于其2個子節點，小頂堆要求父節點小于等于其2個子節點。在一個長為n的序列，堆排序的過程是從第n/2開始和其子節點共3個值選擇最大(大頂堆)或者最小(小頂堆),這3個元素之間的選擇當然不會破壞穩定性。但當為n/2-1, n/2-2, ...1這些個父節點選擇元素時，就會破壞穩定性。有可能第n/2個父節點交換把后面一個元素交換過去了，而第n/2-1個父節點把后面一個相同的元素沒有交換，那么這2個相同的元素之間的穩定性就被破壞了。所以，堆排序不是穩定的排序算法

1 快速排序（QuickSort）

快速排序是一個就地排序，分而治之，大規模遞歸的算法。從本質上來說，它是歸并排序的就地版本?？焖倥判蚩梢杂上旅嫠牟浇M成。
（1） 如果不多于1個數據，直接返回。
（2） 一般選擇序列最左邊的值作為支點數據。
（3） 將序列分成2部分，一部分都大于支點數據，另外一部分都小于支點數據。
（4） 對兩邊利用遞歸排序數列。

快速排序比大部分排序算法都要快。盡管我們可以在某些特殊的情況下寫出比快速排序快的算法，但是就通常情況而言，沒有比它更快的了?？焖倥判蚴沁f歸的，對于內存非常有限的機器來說，它不是一個好的選擇。 

2 歸并排序（MergeSort）

歸并排序先分解要排序的序列，從1分成2，2分成4，依次分解，當分解到只有1個一組的時候，就可以排序這些分組，然后依次合并回原來的序列中，這樣就可以排序所有數據。合并排序比堆排序稍微快一點，但是需要比堆排序多一倍的內存空間，因為它需要一個額外的數組。

3 堆排序（HeapSort）

堆排序適合于數據量非常大的場合（百萬數據）。

堆排序不需要大量的遞歸或者多維的暫存數組。這對于數據量非常巨大的序列是合適的。比如超過數百萬條記錄，因為快速排序，歸并排序都使用遞歸來設計算法，在數據量非常大的時候，可能會發生堆棧溢出錯誤。

堆排序會將所有的數據建成一個堆，最大的數據在堆頂，然后將堆頂數據和序列的最后一個數據交換。接下來再次重建堆，交換數據，依次下去，就可以排序所有的數據。

4 Shell排序（ShellSort）

Shell排序通過將數據分成不同的組，先對每一組進行排序，然后再對所有的元素進行一次插入排序，以減少數據交換和移動的次數。平均效率是O(nlogn)。其中分組的合理性會對算法產生重要的影響?，F在多用D.E.Knuth的分組方法。

Shell排序比冒泡排序快5倍，比插入排序大致快2倍。Shell排序比起QuickSort，MergeSort，HeapSort慢很多。但是它相對比較簡單，它適合于數據量在5000以下并且速度并不是特別重要的場合。它對于數據量較小的數列重復排序是非常好的。

5 插入排序（InsertSort）

插入排序通過把序列中的值插入一個已經排序好的序列中，直到該序列的結束。插入排序是對冒泡排序的改進。它比冒泡排序快2倍。一般不用在數據大于1000的場合下使用插入排序，或者重復排序超過200數據項的序列。

6 冒泡排序（BubbleSort）

冒泡排序是最慢的排序算法。在實際運用中它是效率最低的算法。它通過一趟又一趟地比較數組中的每一個元素，使較大的數據下沉，較小的數據上升。它是O(n^2)的算法。

7 交換排序（ExchangeSort）和選擇排序（SelectSort）

這兩種排序方法都是交換方法的排序算法，效率都是 O(n2)。在實際應用中處于和冒泡排序基本相同的地位。它們只是排序算法發展的初級階段，在實際中使用較少。

8 基數排序（RadixSort）

基數排序和通常的排序算法并不走同樣的路線。它是一種比較新穎的算法，但是它只能用于整數的排序，如果我們要把同樣的辦法運用到浮點數上，我們必須了解浮點數的存儲格式，并通過特殊的方式將浮點數映射到整數上，然后再映射回去，這是非常麻煩的事情，因此，它的使用同樣也不多。而且，最重要的是，這樣算法也需要較多的存儲空間。

9 總結

下面是一個總的表格，大致總結了我們常見的所有的排序算法的特點。