Сортировка вставками

Сортировка вставками (англ. Insertion sort) — алгоритм сортировки, в котором элементы входной последовательности просматриваются по одному, и каждый новый поступивший элемент размещается в подходящее место среди ранее упорядоченных элементов. Вычислительная сложность — $O(n^2)$$O(n^{2})$.

Сортировка вставками
Пример сортировки вставками
Предназначение	Алгоритм сортировки
Структура данных	Массив
Худшее время	О(n2) сравнений, обменов
Лучшее время	O(n) сравнений, 0 обменов
Среднее время	О(n2) сравнений, обменов
Затраты памяти	О(n) всего, O(1) вспомогательный
Медиафайлы на Викискладе

ОписаниеПравить

 

Пример сортировки вставками

На вход алгоритма подаётся последовательность $n$$n$  чисел: $a_1,a_2,...,a_n$$a_{1},a_{2},...,a_{n}$ . Сортируемые числа также называют ключами. Входная последовательность на практике представляется в виде массива с $n$$n$  элементами. На выходе алгоритм должен вернуть перестановку исходной последовательности $a_1^{{}^{\prime }},a_2^{{}^{\prime }},...,a_n^{{}^{\prime }}$$a_{{1}}^{{'}},a_{{2}}^{{'}},...,a_{{n}}^{{'}}$ , чтобы выполнялось следующее соотношение $a_1^{{}^{\prime }}⩽<!--\; ⩽\; -->a_2^{{}^{\prime }}⩽<!--\; ⩽\; -->...⩽<!--\; ⩽\; -->a_n^{{}^{\prime }}$$a_{{1}}^{{'}}\leqslant a_{{2}}^{{'}}\leqslant ...\leqslant a_{{n}}^{{'}}$ .

В начальный момент отсортированная последовательность пуста. На каждом шаге алгоритма выбирается один из элементов входных данных и помещается на нужную позицию в уже отсортированной последовательности до тех пор, пока набор входных данных не будет исчерпан. В любой момент времени в отсортированной последовательности элементы удовлетворяют требованиям к выходным данным алгоритма.

Данный алгоритм можно ускорить при помощи использования бинарного поиска для нахождения места текущему элементу в отсортированной части. Проблема с долгим сдвигом массива вправо решается при помощи смены указателей.

ПсевдокодПравить

На вход процедуре сортировки подаётся массив $A[\mathrm{1..}n]$$A[1..n]$ , состоящий из элементов последовательности $A[1],A[2],...,A[n]$$A[1],A[2],...,A[n]$ , которые требуется отсортировать. $n$$n$  соответствует $A.\mathrm{l}\mathrm{e}\mathrm{n}\mathrm{g}\mathrm{t}\mathrm{h}$$A.\mathrm {length}$  — размеру исходного массива. Для сортировки не требуется привлечения дополнительной памяти, кроме постоянной величины для одного элемента, так как выполняется перестановка в пределах массива. В результате работы процедуры во входном массиве оказывается требуемая выходная последовательность элементов.

Псевдокод алгоритма:

for j = 2 to A.length do key = A[j] i = j-1 while (int i >= 0 and A[i] > key) do A[i + 1] = A[i] i = i - 1 end while A[i+1] = key end

for i = 2 to n do x = A[i] j = i while (int j > 1 and A[j-1] > x) do A[j] = A[j-1] j = j - 1 end while A[j] = x end for

A[0] = -$\mathrm{\infty <!--\; \infty \; -->}$$\infty$  for i = 2 to n do j = i while (j > 0 and A[j] < A[j - 1]) do swap (A[j], A[j - 1]) j = j - 1 end while end for

В последнем варианте обмен x = A[j]; A[j] = A[j-1]; A[j-1] = x представлен операцией swap из-за чего он немного медленнее. Значение введённого А[0] меньше любого значения остальных элементов.

Анализ алгоритмаПравить

Время выполнения алгоритма зависит от входных данных: чем большее множество нужно отсортировать, тем большее время потребуется для выполнения сортировки. Также на время выполнения влияет исходная упорядоченность массива. Время работы алгоритма для различных входных данных одинакового размера зависит от элементарных операций, или шагов, которые потребуется выполнить.

Для каждой инструкции алгоритма введём временную стоимость и количество повторений, где $t_j$$t_{j}$  — количество проверок условия во внутреннем цикле while:

Код	Стоимость	Повторы
for j = 2 to A.length	$c_1$$c_{1}$	$n$$n$
key = A[j]	$c_2$$c_{2}$	$n-<!--\; -\; -->1$$n-1$
i = j — 1	$c_3$$c_{3}$	$n-<!--\; -\; -->1$$n-1$
while i > 0 and A[i] > key	$c_4$$c_{4}$	$\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}{t}_j$$\sum _{{j=2}}^{n}t_{j}$
A[i+1] = A[i]	$c_5$$c_{5}$	$\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}(t_j-<!--\; -\; -->1)$$\sum _{{j=2}}^{n}(t_{j}-1)$
i = i — 1	$c_6$$c_{6}$	$\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}(t_j-<!--\; -\; -->1)$$\sum _{{j=2}}^{n}(t_{j}-1)$
A[i+1] = key	$c_7$$c_{7}$	$n-<!--\; -\; -->1$$n-1$

Время работы алгоритма сортировки вставками — это сумма времён работы каждого шага: $T(n)=c_{1}n+c_2(n-<!--\; -\; -->1)+c_3(n-<!--\; -\; -->1)+c_4\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}{t}_j+c_5\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}(t_j-<!--\; -\; -->1)+c_6\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}(t_j-<!--\; -\; -->1)+c_7(n-<!--\; -\; -->1)$$T(n)=c_{1}n+c_{2}(n-1)+c_{3}(n-1)+c_{4}\sum _{{j=2}}^{n}t_{j}+c_{5}\sum _{{j=2}}^{n}(t_{j}-1)+c_{6}\sum _{{j=2}}^{n}(t_{j}-1)+c_{7}(n-1)$ .

Самым благоприятным случаем является отсортированный массив. При этом все внутренние циклы состоят всего из одной итерации, то есть $t_j=1$$t_{j}=1$  для всех $j$$j$ . Тогда время работы алгоритма составит $T(n)=(c_1+c_2+c_3+c_4+c_7)n-<!--\; -\; -->(c_2+c_3+c_4+c_7)=O(n)$$T(n)=(c_{1}+c_{2}+c_{3}+c_{4}+c_{7})n-(c_{2}+c_{3}+c_{4}+c_{7})=O(n)$ . Время работы линейно зависит от размера входных данных.

Анализ наихудшего случаяПравить

Наихудшим случаем является массив, отсортированный в порядке, обратном нужному. При этом каждый новый элемент сравнивается со всеми в отсортированной последовательности. Это означает, что все внутренние циклы состоят из j итераций, то есть $t_j=j$$t_{j}=j$  для всех $j$$j$ . Тогда время работы алгоритма составит:

$T(n)=c_{1}n+c_2(n-<!--\; -\; -->1)+c_3(n-<!--\; -\; -->1)+c_4\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}j+c_5\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}(j-<!--\; -\; -->1)+c_6\underset{j=2}{\overset{n}{\sum <!--\; \sum \; -->}}(j-<!--\; -\; -->1)+c_7(n-<!--\; -\; -->1)$$T(n)=c_{1}n+c_{2}(n-1)+c_{3}(n-1)+c_{4}\sum _{{j=2}}^{n}j+c_{5}\sum _{{j=2}}^{n}(j-1)+c_{6}\sum _{{j=2}}^{n}(j-1)+c_{7}(n-1)$ 

$T(n)=c_{1}n+c_2(n-<!--\; -\; -->1)+c_3(n-<!--\; -\; -->1)+c_4\left(\frac{n(n+1)}{2}-<!--\; -\; -->1\right)+c_5\frac{n(n-<!--\; -\; -->1)}{2}+c_6\frac{n(n-<!--\; -\; -->1)}{2}+c_7(n-<!--\; -\; -->1)=O(n^2)$$T(n)=c_{1}n+c_{2}(n-1)+c_{3}(n-1)+c_{4}\left({\frac {n(n+1)}{2}}-1\right)+c_{5}{\frac {n(n-1)}{2}}+c_{6}{\frac {n(n-1)}{2}}+c_{7}(n-1)=O(n^{2})$ .

Время работы является квадратичной функцией от размера входных данных.

Анализ среднего случаяПравить

Для анализа среднего случая нужно посчитать среднее число сравнений, необходимых для определения положения очередного элемента. При добавлении нового элемента потребуется, как минимум, одно сравнение, даже если этот элемент оказался в правильной позиции. $i$$i$ -й добавляемый элемент может занимать одно из $i+1$$i+1$  положений. Предполагая случайные входные данные, новый элемент равновероятно может оказаться в любой позиции. Среднее число сравнений для вставки $i$$i$ -го элемента:

$T_i=\frac{1}{i+1}\left(\underset{p=1}{\overset{i}{\sum <!--\; \sum \; -->}}p+i\right)=\frac{1}{i+1}\left(\frac{i(i+1)}{2}+i\right)=\frac{i}{2}+1-<!--\; -\; -->\frac{1}{i+1}$$T_{i}={\frac {1}{i+1}}\left(\sum _{p=1}^{i}p+i\right)={\frac {1}{i+1}}\left({\frac {i(i+1)}{2}}+i\right)={\frac {i}{2}}+1-{\frac {1}{i+1}}$ 

Для оценки среднего времени работы для $n$$n$  элементов нужно просуммировать:

$T(n)=\underset{i=1}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}{T}_i=\underset{i=1}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}\left(\frac{i}{2}+1-<!--\; -\; -->\frac{1}{i+1}\right)=\underset{i=1}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}\frac{i}{2}+\underset{i=1}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}1-<!--\; -\; -->\underset{i=1}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}\left(\frac{1}{i+1}\right)$$T(n)=\sum _{i=1}^{n-1}T_{i}=\sum _{i=1}^{n-1}\left({\frac {i}{2}}+1-{\frac {1}{i+1}}\right)=\sum _{i=1}^{n-1}{\frac {i}{2}}+\sum _{i=1}^{n-1}1-\sum _{i=1}^{n-1}\left({\frac {1}{i+1}}\right)$ 

$T(n)\approx <!--\; \approx \; -->\frac{n^2-<!--\; -\; -->n}{4}+(n-<!--\; -\; -->1)-<!--\; -\; -->(\ln <!--\; \; -->(n)-<!--\; -\; -->1)=O(n^2)$$T(n)\approx {\frac {n^{2}-n}{4}}+(n-1)-(\ln(n)-1)=O(n^{2})$ 

Временная сложность алгоритма — $O(n^2)$$O(n^{2})$ . Однако, из-за константных множителей и членов более низкого порядка алгоритм с более высоким порядком роста может выполняться для небольших входных данных быстрее, чем алгоритм с более низким порядком роста.

См. такжеПравить

• Список алгоритмов сортировки
• Сортировка пузырьком
• Сортировка выбором
• Гномья сортировка

ЛитератураПравить

• Ахо А. В., Хопкрофт Д. Э., Ульман Д. Д. Структуры данных и алгоритмы = Data structures and algorithms / Под ред. А. А. Минько. — М.: Вильямс, 2000. — С. 231. — ISBN 5-8459-0122-7.
• Кнут Д. Э. 5.2.1 Сортировка путём вставок // Искусство программирования. Том 3. Сортировка и поиск = The Art of Computer Programming. Volume 3. Sorting and Searching / под ред. В. Т. Тертышного (гл. 5) и И. В. Красикова (гл. 6). — 2-е изд. — Москва: Вильямс, 2007. — Т. 3. — 832 с. — ISBN 5-8459-0082-1.
• Кормен, Т., Лейзерсон, Ч., Ривест, Р., Штайн, К. 2.1. Сортировка вставкой // Алгоритмы: построение и анализ = Introduction to Algorithms / Под ред. И. В. Красикова. — 3-е изд. — М.: Вильямс, 2013. — С. 38—45. — ISBN 5-8459-1794-8.
• Макконнелл Дж. Основы современных алгоритмов = Analysis of Algorithms: An Active Learning Approach / Под ред. С. К. Ландо. — М.: Техносфера, 2004. — С. 72—76. — ISBN 5-94836-005-9.

СсылкиПравить

• Сортировка вставками
• Реализация сортировки вставками на Pascal и C++
• Анимированное представление алгоритма сортировки вставками