比較の平均によるソート

比較の平均を使用する比較ベースのソートアルゴリズムはありますか？ $\mathrm{lg}(n!)+o(n)$

最悪の場合の比較アルゴリズムの存在は未解決の問題ですが、予想されるすべての入力の比較。有意、それがあることであるのみの平均を浪費、最適の比較要素ごとの比較。 $\mathrm{lg}(n!)+o(n)$ $\mathrm{lg}(n!)+o(n)$ $\mathrm{lg}(n!)+o(n)$ $o(n)$ $o(1)$

私はすでにそのようなアルゴリズムを持っているので、（Q / A形式を使用して）回答としてそれを含めていますが、他のアルゴリズムを含めて、そのようなアルゴリズムがすでに知られているかどうか、改善し、最悪のは追加の回答を歓迎しますケース。 $o(n)$ $\mathrm{lg}(n!)+o(n)$

以前の作業：
マージソートは比較を使用します（最悪の場合でも）。マージ挿入ソート（Ford–Johnsonソートとも呼ばれます）も比較を使用しますが、定数ははるかに小さくなります。比較ベースのソートの平均複雑度の向上（岩間和夫と照山純一による）—（1,2）挿入アルゴリズムは、以下の私の回答の一部に似ています。 $\mathrm{lg}(n!)+ Θ(n)$
$\mathrm{lg}(n!)+ Θ(n)$ $Θ(n)$

cc.complexity-theory ds.algorithms sorting

— ドミトロタラノフスキー
ソース

この質問は最適なランダム比較ソートと重複していますが、異なる強調（ここでは特定の漸近的振る舞い-一般的な知識の状態、すべての入力サイズ、および最悪の場合との違い）を考慮して、新しい質問を使用することにしました。

— Dmytro Taranovsky

更新： この回答を、比較を平均 $\mathrm{lg}(n!)+o(n)$ したペーパーソートに拡張しました。

はい、そのようなアルゴリズムは存在します。私は範囲のみを証明しますが、おそらくランダム化の仮定の下で。および試みについても説明します。 $\mathrm{lg}(n!)+o(n)$ $\mathrm{lg}(n!)+O(n^{1-ε})$ $n^{0.5+o(1)}$ $O(n^{0.5-ε})$

必要に応じて注釈を付けることにより、すべての要素が異なると見なすことができます。平均的なケースでは、ランダムな順序で異なる要素を使用します。公正なコインの使用と比較して、各比較のエントロピー損失を追加することで、比較の平均数を計算できます。

開始点は、次の要素をソートされたサブセットに挿入する場所を決定するためのバイナリ検索を伴う挿入ソートです。場合には、挿入は最大で比較を使用します。これは（エントロピーの観点から）加法因子まで最適です（平均ケースの複雑さの場合、も機能します）。今、は2の累乗に近くありません。要素挿入は最適ではありません（平均の場合でも、各クエリのバランスをとる方法に関係なく）。ただし、比較を無駄にすると、をほぼ均一な分布に誘導できます。の間隔で $S$ $(1-ε)2^m ≤ |S| ≤ 2^m-1$ $m$ $O(ε)$ $2^m ≤ |S| ≤ (1+ε) 2^m$ $|S|$ $A$ $o(1)$ $A$ $S$ 2の累乗に近い長さのにより、望ましい最適性が得られます。

これを達成するには、要素をバッチで追加し、バッチの要素を互いに効率的に比較して、要素対応するの間隔が準ランダムに減少するようにします（間隔内のの確率分布を使用します）。ほぼ均一）、間隔の長さが2の累乗に十分に近い場合、バイナリ検索を実行してを挿入します。 $S$ $A$ $A$ $A$

一般的な構成

ソートされた要素のサブセットを保持し、ソートされていない各要素について、が配置されていることがわかっている最小間隔を追跡します。の長さです。は間隔のIDによるものです。 $S$ $A$ $I_A$ $S$ $A$ $|I_A|$ $I_A$ $I_A=I_B$

ましょうである：比較用いて、次いで（順不同で）比較及び、対応する要素に対してそれらの間隔（または長さ1を有する）ばらばらになるまで。の要素は、が呼び出されたときにが均一に分布すると仮定して、比較の確率を可能な限り1/2に近づけるように（一貫した方法で）選択され。結局はばらばらであるため、は均一性の仮定を維持します。 $\mathrm{Compare}(A,B)$ $A$ $B$ $A$ $B$ $S$ $S$ $\mathrm{Compare}$ $(A,B)$ $I_A⨯I_B$ $\mathrm{Compare}$

以下のセクションは、互いに独立して読むことができます。

アルゴリズム $\mathrm{lg}(n!)+o(n)$

与えられたもの： ソートされたリストとソートされていない要素のバッチ。 ; ソートされていない要素はに対してランダムです。 $S$ $m$ $m∈ω(1)∩o(|S|)$ $S$

可能な限り（1）〜（3）を繰り返し
ます。1.をして、バッチから2つの要素とを選択します（どの選択でも機能します）。 2.ます。 3.場合 2の累乗に十分近い^（注1）をバッチから削除します（を忘れないで）。も同様です。最後に： すべての要素を挿入し、並べ替えを完了します。 $A$ $B$ $I_A=I_B$
$\mathrm{Compare}(A,B)$
$|I_A|$ $A$ $I_A$ $B$
$S$

注1：「十分に近い」、いずれかに対する（の関数として相対誤差限り動作）要素は、ステップ（4）で除去される（注2によって可能）。予想されるランダム化の仮定の下で、相対エラーを使用すると、要素がキャプチャされ、平均比較ソートアルゴリズム。 $o(1)$ $m$ $m-o(m)$ $c \log \log m / \log m$ $m(1-\log^{-Θ(c)}m)$ $\mathrm{lg}(n!)+O(n \log \log n / \log n)$

注2：比較の同じシーケンスは同じ境界間隔をもたらすため、ほとんどすべての要素はステップ（1）回通過し（ステップ4で削除されない限り）。最初にでを選択し場合、を要素と比較し、ステップ（3）を適用するたびにが減少する確率で回。2の有理数ではないすべての比率に対して、なので、を取得します $Ω(\log m)$ $A < B$ $A$ $A$ $S[≈(1-1/\sqrt{2})|S|]$ $A$ $O(1)$ $|I_A|$ $≈1/(1-1/\sqrt{2})$ $a>1$ $∀ε>0 ∀d>0 ∃m,n∈\mathbb{N} \,\, 1-ε < \frac{a^m}{d2^n} < 1+ε$ $o(n)$ バウンド。

ありそうなアルゴリズム $\mathrm{lg}(n!)+O(n^{1-ε})$

ランダム化の仮定を法として、次のように平均比較を実現できます。 $\mathrm{lg}(n!)+O(n^{1-ε})$

アイテムをランダムにシャッフルし、前半をリストにソートし、後半を未ソートのバッチとして保持します。 $S$
バッチが空になるまで繰り返し
ます。ランダムに選択します。LET。が空の場合、バッチからを削除し、挿入します。そうでなければ： $A∈\text{batch}$ $G = \{ B∈\text{batch}: |P(A < B) - 0.5| < n^{-0.51ε} \}$ $G$ $A$ $S$
1. 確率（たとえば≥0.05）を持つがある場合、は内 2のパワーの相対誤差、実行と成功した場合（すなわち、の範囲内である 2のパワーの相対誤差）、バッチからを削除し、挿入します。 $B∈G$ $Θ(1)$ $\mathrm{Compare}(A,B)$ $|I_A|$ $n^{-ε}$ $\mathrm{Compare}(A,B)$ $|I_A|$ $n^{-ε}$ $A$ $S$
2. そのような存在しない場合、ランランダムため。 $B∈G$ $\mathrm{Compare}(A,B)$ $B∈G$

ランダム化の仮定が機能する場合（つまり、間隔の長さと位置の分布が十分にランダムである場合）、プロセス全体を通じて、典型的なは要素の選択（異なる間隔の長さ）。したがって、通常は上記の（1）の比較を選択できます。比較結果に不運な場合でも、可能性が得られるため、（が十分に小さい場合は0.01）を達成でき比較アルゴリズム。いくつかの変更と近似により、全体の計算を準線形にすることができます $A$ $n^{Θ(1)}$ $n^{Θ(1)}$ $Θ(\log n)$ $ε$ $\mathrm{lg}(n!)+O(n^{1-ε})$ $A$ 、有望な区間の長さを計算し、適切な近似中心と区間の長さで sを検索します。 $B$

比較を最適化する方法はいくつかありますが、障害となるのは、各比較が不運になる可能性があり、比較の数が限られていることです。最適化後、が平均4回の比較を行い、1/4の確率で「成功」、。 $\mathrm{Compare}(A,B)$ $ε≈(1-ε)/4/\log_{4/3} 2 ≈ 0.09$

おそらくはるかに優れたアプローチは、間隔が2の累乗に近づくまで待機することです。個々の間隔の長さではなく、長さの分布を制御します。

アルゴリズムの試み $\mathrm{lg}(n!)+n^{0.5+o(1)}$

仮定している、私たちはソートされていないのバッチ与えられたの間隔を持つ要素して、また、与えられたの通常はおよび均一に分布します（ランダムなエラーまでで、条件付けされていても十分な精度で保持され）。次に、比較の平均を無駄にするアイテムを次のように並べ替えることができます：（*）すべての要素を最初のの順序で挿入します。このように、間隔の長さが2の累乗に近いときにすべての要素が挿入されます。 $|S|=n$ $n$ $I_A$ $|I_A|$ $n^{1-o(1)}$ $\frac{|I_A|}{2^{\lfloor \mathrm{lg} |I_A| \rfloor}}$ $A < S[i]$ $n^{0.5+o(1)}$
$\frac{|I_A|}{2^{\lfloor \mathrm{lg} |I_A| \rfloor}}$

並べ替えアルゴリズムは次のようになります。リストをランダムにシャッフルして、前半を並べ替えます。後半を挿入するには、分布を正しくして、上記の（*）を実行します。 $S$

ようにするには分布を正しく、「ランダム」分布を作成し、次に各要素の右端の要素を保留することができます残りをランダム化します（必要に応じて繰り返します）。ただし、これはグローバルに、必要な精度でローカルに制御できるかどうかはわかりません（したがって、上記の「試行」という言葉）。 $\frac{|I_A|}{2^{\lfloor \mathrm{lg} |I_A| \rfloor}}$ $|I_A|/2^{\lfloor \mathrm{lg} |I_A| \rfloor}$ $\frac{|I_A|}{2^{\lfloor \mathrm{lg} |I_A| \rfloor}}$

「ランダムな」分布を作成するには、でをランダムに使用できますが、初期のすべて同一であるため、対数深度でのランダム化は想定していません（つまり、で十分長い）。しかし、要素への一般化（多分妥当な選択がうまくいくでしょう）を使用して、サブ対数深度でランダム化されると思います：要素を絡ませたままにすると（比較結果を使用して接続）、との比較ごとに約非通勤選択肢が必要です。これによりが許可され $\mathrm{Compare}(A,B)$ $P(A < B)≈0.5$ $I_A$ $I_A$ $\mathrm{Compare}$ $k=ω(1)$ $k=ω(1)$ $k$ $S$ $O(\log_k n + \log k)$ 必要に応じて、ランダム化の深さ（要素をばらばらにするために深さが必要なため、が大きすぎないと想定）。十分に小さなを使用すると、計算を準線形にできると思います。 $k$ $Θ(\log k)$ $k$

1/2との比較では、確率はエントロピーを浪費するだけなので、最初のランダム化とその境界区間の要素のわずかな不均一性は、のみを必要とするはずです。エントロピー廃棄物。分布の整形が十分に成功した場合、エントロピーの無駄は主に（*）の間の間隔の長さの不一致から生じます（したがって、）。 $1/2+n^{-0.5}$ $O(1/n)$ $n^{o(1)}$ $n^{0.5+o(1)}$

可能な組み合わせ： $\mathrm{lg}(n!)+O(n^{0.5-ε})$ 分布整形が十分に機能し、バッチサイズを等しくして、（*）（上記）の要素を選択的に拒否します。エントロピーの無駄があるこれらの要素以外すべてを挿入できますのように続きます。をほぼ等しい間隔に分割し、挿入時にが間隔に落ち着くと、間隔が長すぎる場合は拒否（つまり、挿入をキャンセル）し、これらの間隔の長さのばらつきを減らします $|S|+n^{0.5+ε}$ $≈n^{0.5+ε}$ $≈n^{0.5+ε}$ $n^{0.5-ε/2+o(1)}$ $S$ $n^ε$ $I_A$ $Θ(n^{ε/2})$ 回、これにより、必要に応じて、ランダムな長さ間隔の長さのばらつきが回減少します。ここで、上記のアルゴリズムを使用して、が小さい場合、無駄のある残りの要素を挿入できます。足りる。 $n^{1-o(1)}$ $n^{ε/2-o(1)}$ $\mathrm{lg}(n!)+O(n^{1-ε})$ $O(n^{0.5-ε'})$ $ε$

ソートの最悪の場合の複雑さ： おそらく、最悪のケースの比較を使用したソートアルゴリズムがあります。中央値を見つけるために、平均的なケース（比較）と最悪のケース（少なくとも比較）の間には線形のギャップがあります。ただし、並べ替えについては、比較の配置や新しい並べ替えアルゴリズムを見つけるための十分な自由があります。 $\mathrm{lg}(n!)+o(n)$ $1.5n+o(n)$ $(2+ε)n-O(1)$

— ドミトロタラノフスキー
ソース

これは論文として書いておくべきだと思います。

— EmilJeřábek18年

@EmilJeřábek同意する。研究レベルのサイトとして、ここでの質疑応答の多くはミニペーパーですが、ここでは長さと重要性から、正式なペーパーが望ましいです。（dmytro@mit.eduで）論文のどの部分を拡張する必要があるか（この回答は簡潔なバージョンのままにしておいてください）を私に知らせてください。

— Dmytro Taranovsky