本帖最后由 Killoser 于 2023-3-28 15:19 编辑

本文分享自华为云社区《深入浅出八种排序算法》,作者:嵌入式视觉 。
归并排序和快速排序是两种稍微复杂的排序算法,它们用的都是分治的思想,代码都通过递归来实现,过程非常相似。理解归并排序的重点是理解递推公式和 merge () 合并函数。

  一,冒泡排序(Bubble Sort)

排序算法是程序员必须了解和熟悉的一类算法,排序算法有很多种,基础的如:冒泡、插入、选择、快速、归并、计数、基数和桶排序等。
冒泡排序只会操作相邻的两个数据。每次冒泡操作都会对相邻的两个元素进行比较,看是否满足大小关系要求,如果不满足就让它俩互换。一次冒泡会让至少一个元素移动到它应该在的位置,重复 n 次,就完成了 n 个数据的排序工作。
总结:如果数组有 n 个元素,最坏情况下,需要进行 n 次冒泡操作。
基础的冒泡排序算法的 C++ 代码如下:
  1. // 将数据从小到大排序
  2. void bubbleSort(int array[], int n){
  3. if (n<=1) return;
  4. for(int i=0; i<n; i++){
  5. for(int j=0; j<n-i; j++){
  6. if (temp > a[j+1]){
  7.                 temp = array[j]
  8.                 a[j] = a[j+1];
  9.                 a[j+1] = temp;
  10. }
  11. }
  12. }
  13. }
实际上,以上的冒泡排序算法还可以优化,当某次冒泡操作已经不再进行数据交换时,说明数组已经达到有序,就不需要再继续执行后续的冒泡操作了。优化后的代码如下:
  1. // 将数据从小到大排序
  2. void bubbleSort(int array[], int n){
  3. if (n<=1) return;
  4. for(int i=0; i<n; i++){
  5. // 提前退出冒泡循环发标志位
  6.         bool flag = False;
  7. for(int j=0; j<n-i; j++){
  8. if (temp > a[j+1]){
  9.                 temp = array[j]
  10.                 a[j] = a[j+1];
  11.                 a[j+1] = temp;
  12.                 flag = True; // 表示本次冒泡操作存在数据交换
  13. }
  14. }
  15. if(!flag) break; // 没有数据交换,提交退出
  16. }
  17. }
冒泡排序的特点

  • 冒泡过程只涉及相邻元素的交换,只需要常量级的临时空间,故空间复杂度为 O (1)O(1),是原地排序算法
  • 当有相邻的两个元素大小相等的时候,我们不做交换,相同大小的数据在排序前后不会改变顺序,所以是稳定排序算法
  • 最坏情况和平均时间复杂度都为 O (n2)O(n2),最好时间复杂度是 O (n)O(n)。
  
二,插入排序(Insertion Sort)

  • 插入排序算法将数组中的数据分为两个区间:已排序区间和未排序区间。最初始的已排序区间只有一个元素,就是数组的第一个元素。
  • 插入排序算法的核心思想就是取未排序区间的一个元素,在已排序区间中找到一个合适的位置插入,并保证已排序区间数据一直有序。
  • 重复这个过程,直到未排序区间元素为空,则算法结束。
插入排序和冒泡排序一样,也包含两种操作,一种是元素的比较,一种是元素的移动
当我们需要将一个数据 a 插入到已排序区间时,需要拿 a 与已排序区间的元素依次比较大小,找到合适的插入位置。找到插入点之后,我们还需要将插入点之后的元素顺序往后移动一位,这样才能腾出位置给元素 a 插入。
插入排序的 C++ 代码实现如下:
  1. void InsertSort(int a[], int n){
  2. if (n <= 1) return;
  3. for (int i = 1; i < n; i++) // 未排序区间范围
  4. {
  5.         key  = a[i]; // 待排序第一个元素
  6.         int j = i - 1; // 已排序区间末尾元素
  7. // 从尾到头查找插入点方法
  8. while(key < a[j] && j >= 0){ // 元素比较
  9.             a[j+1] = a[j]; // 数据向后移动一位
  10.             j--;
  11. }
  12.         a[j+1] = key; // 插入数据
  13. }
  14. }
插入排序的特点:

  • 插入排序并不需要额外存储空间,空间复杂度是 O (1)O(1),所以插入排序也是一个原地排序算法。
  • 在插入排序中,对于值相同的元素,我们可以选择将后面出现的元素,插入到前面出现元素的后面,这样就可以保持原有的前后顺序不变,所以插入排序是稳定的排序算法。
  • 最坏情况和平均时间复杂度都为 O (n2)O(n2),最好时间复杂度是 O (n)O(n)。
  
三,选择排序(Selection Sort)
选择排序算法的实现思路有点类似插入排序,也分已排序区间和未排序区间。但是选择排序每次会从未排序区间中找到最小的元素,将其放到已排序区间的末尾。
选择排序的最好情况时间复杂度、最坏情况和平均情况时间复杂度都为 O (n2)O(n2),是原地排序算法,且是不稳定的排序算法
选择排序的 C++ 代码实现如下:
  1. void SelectSort(int a[], int n){
  2. for(int i=0; i<n; i++){
  3.         int minIndex = i;
  4. for(int j = i;j<n;j++){
  5. if (a[j] < a[minIndex]) minIndex = j;
  6. }
  7. if (minIndex != i){
  8.             temp = a[i];
  9.             a[i] = a[minIndex];
  10.             a[minIndex] = temp;
  11. }
  12. }
  13. }
冒泡插入选择排序总结

   v2-6f233809e19980ac65f05ed29dbbb871_720w.jpg
这三种排序算法,实现代码都非常简单,对于小规模数据的排序,用起来非常高效。但是在大规模数据排序的时候,这个时间复杂度还是稍微有点高,所以更倾向于用时间复杂度为 O (nlogn)O(nlogn) 的排序算法。
特定算法是依赖特定的数据结构的。以上三种排序算法,都是基于数组实现的。

四,归并排序(Merge Sort)
归并排序的核心思想比较简单。如果要排序一个数组,我们先把数组从中间分成前后两部分,然后对前后两部分分别排序,再将排好序的两部分合并在一起,这样整个数组就都有序了。
归并排序使用的是分治思想。分治,顾名思义,就是分而治之,将一个大问题分解成小的子问题来解决。小的子问题解决了,大问题也就解决了。
分治思想和递归思想有些类似,分治算法一般用递归实现。分治是一种解决问题的处理思想,递归是一种编程技巧,这两者并不冲突。
知道了归并排序用的是分治思想,而分治思想一般用递归实现,接下来的重点就是如何用递归实现归并排序。写递归代码的技巧就是,分析问题得出递推公式,然后找到终止条件,最后将递推公式翻译成递归代码。所以,要想写出归并排序的代码,得先写出归并排序的递推公式
  1. 递推公式:
  2. merge_sort(p…r) = merge(merge_sort(p…q), merge_sort(q+1…r))
  3. 终止条件:
  4. p >= r 不用再继续分解,即区间数组元素为 1
  5. 归并排序的伪代码如下:
  6. merge_sort(A, n){
  7. merge_sort_c(A, 0, n-1)
  8. }
  9. merge_sort_c(A, p, r){
  10. // 递归终止条件
  11. if (p>=r) then return
  12. // 取 p、r 中间的位置为 q
  13.     q = (p+r)/2
  14. // 分治递归
  15. merge_sort_c(A[p, q], p, q)
  16. merge_sort_c(A[q+1, r], q+1, r)
  17. // 将A[p...q]和A[q+1...r]合并为A[p...r]  
  18. merge(A[p...r], A[p...q], A[q+1...r])
  19. }
4.1,归并排序性能分析
1,归并排序是一个稳定的排序算法。分析:伪代码中 merge_sort_c () 函数只是分解问题并没有涉及移动元素和比较大小,真正的元素比较和数据移动在 merge () 函数部分。在合并过程中保证值相同的元素合并前后的顺序不变,归并排序排序就是一个稳定的排序算法。
2,归并排序的执行效率与要排序的原始数组的有序程度无关,所以其时间复杂度是非常稳定的,不管是最好情况、最坏情况,还是平均情况,时间复杂度都是 O(nlogn)O(nlogn)。分析:不仅递归求解的问题可以写成递推公式,递归代码的时间复杂度也可以写成递推公式:
    v2-c44c92055ad0c526471f3a98059535f5_720w.jpg
3,空间复杂度是 O (n)。分析:递归代码的空间复杂度并不能像时间复杂度那样累加。尽管算法的每次合并操作都需要申请额外的内存空间,但在合并完成之后,临时开辟的内存空间就被释放掉了。在任意时刻,CPU 只会有一个函数在执行,也就只会有一个临时的内存空间在使用。临时内存空间最大也不会超过 n 个数据的大小,所以空间复杂度是 O (n)O(n)。

  五,快速排序(Quicksort)
快排的思想是这样的:如果要排序数组中下标从 p 到 r 之间的一组数据,我们选择 p 到 r 之间的任意一个数据作为 pivot(分区点)。我们遍历 p 到 r 之间的数据,将小于 pivot 的放到左边,将大于 pivot 的放到右边,将 pivot 放到中间。经过这一步骤之后,数组 p 到 r 之间的数据就被分成了三个部分,前面 p 到 q-1 之间都是小于 pivot 的,中间是 pivot,后面的 q+1 到 r 之间是大于 pivot 的。
根据分治、递归的处理思想,我们可以用递归排序下标从 p 到 q-1 之间的数据和下标从 q+1 到 r 之间的数据,直到区间缩小为 1,就说明所有的数据都有序了。
递推公式如下:
  1. 递推公式:
  2. quick_sort(p,r) = quick_sort(p, q-1) + quick_sort(q, r)
  3. 终止条件:
  4. p >= r
归并排序和快速排序总结
归并排序和快速排序是两种稍微复杂的排序算法,它们用的都是分治的思想,代码都通过递归来实现,过程非常相似。理解归并排序的重点是理解递推公式和 merge () 合并函数。同理,理解快排的重点也是理解递推公式,还有 partition () 分区函数。
除了以上 5 种排序算法,还有 3 种时间复杂度是 O (n)O(n) 的线性排序算法:桶排序、计数排序、基数排序。这八种排序算法性能总结如下图:
    v2-2ffa485730cdb3d3dab1b1a47b3a373c_720w.jpg

  参考资料

  • 排序(上):为什么插入排序比冒泡排序更受欢迎?
  • 排序(下):如何用快排思想在 O (n) 内查找第 K 大元素?