理論的な複雑さと実際の効率の違い

この疑似コードがある場合：

for i=0 to n/2 do
   for j=0 to n/2 do 
       ... do anything ....

反復回数は $n^2/4$。

このプログラムの複雑さは何ですか？それは？$O(n^2)$

その複雑さは、どのような直感的な公式/非公式なものですか？

次に、この他の疑似コードがある場合：

for i=0 to n do
   for j=0 to n do 
       ... do anything ....

再び複雑さは -それは正しいですか？$O(n^2)$

この場合、実際の効率と理論上の複雑さの間に違いはありますか？これらの1つは他よりも高速ですか？

ビッグオーフォーマル

$O(f(n)) = \{g(n) | \exists c > 0, \exists n_0 > 0, \forall n > n_0 : 0 \leq g(n) \leq c*f(n)\}$

非公式にビッグオー

$O(f(n))$ は、より遅く（または同等に速く）成長する関数のセットです。 $f(n)$。これは、選択した機能が何であっても、$O(f(n))$、彼女に名前を付けましょう $g(n)$、そしてあなたは十分に大きなものを選ぶ $n$、 $f(n)$ うよりも大きくなります$g(n)$。または、言い換えれば、$f(n)$ 最終的にはすべての機能を上回ります $O(f(n))$ いつ $n$ 大きくなる。 $n$ アルゴリズムの入力サイズです。

例として。選びましょう$f(n) = n^2$。

と言える $f(n) \in O(n^3)$。時間の経過とともに、私たちは表記の乱用を許可したので、ほとんどの人が書いていることに注意してください$f(n) = O(n^3)$ 今。

通常、アルゴリズムを評価するときは、その順序を調べます。このように、我々は予測することができますどのようにアルゴリズムの実行中の時間（とき入力サイズを大きくします$n$）増加します。

あなたの例では、両方のアルゴリズムが正しいです $O(n^2)$。したがって、実行時間は（二次的に）と同じ方法で増加します。$n$増加します。2番目のアルゴリズムは最初のアルゴリズムより4倍遅くなりますが、これは通常、**理論的には*関心がないものです。同じ順序のアルゴリズムは、異なる要素を持つ可能性があります（$c$正式な定義では）、またはステップ数を評価する関数内の異なる下位項。しかし、それは通常、実装の詳細によるものであり、私たちはそれに関心がありません。

実行するアルゴリズムがある場合 $O(log(n))$ 私たちは安全にそれがより速いと言うことができる時間 $O(n)$ [1]なぜなら $log(n) = O(n)$。どんなに悪い$O(log(n))$ アルゴリズムが実装されている場合、アルゴリズムにどの程度のオーバーヘッドを加えても、常に[1]より高速になります。 $O(n)$アルゴリズム。アルゴリズムのステップ数が$9999*log(n) = O(log(n))$ そして $0.0001*n = O(n)$、 $O(log(n))$ アルゴリズムは最終的に高速になります[1]。

しかし、多分、あなたのアプリケーションでは、 $n$ は常に低く、十分な大きさになることはないため、 $O(log(n))$アルゴリズムは実際には高速になります。したがって、$O(n)$ にもかかわらず、アルゴリズムは実行時間を短縮します $n = O(log(n))$

[1]もし $n$ 十分に大きいです。

オーブロンはビッグオーの非常に良い説明を提供しました。それがあなたにとって何を意味するかを説明しようと思います。

あなたの最初は正しいです。最初のコード例は$\frac{n^2}{4}$ 反復ですが、まだ複雑さのクラスにあります O(n^2)ます。

どうして？

複雑性クラスについてのことは、何かを数回実行することは、 でですランタイムにとって悪いです。

複雑なアルゴリズムを想像してください O(2^n)実行をn=31秒で、1秒かかる。

これを10回実行しても、約10秒後に応答が期待できます。

今n、10 ずつ増加することを想像してください。プログラムは2^10=1024数秒かかります。

したがって、コンピュータ科学者は基本的に次のように述べています。「人間、主要な要因は迷惑です。nが無限大に成長し、そこで関数を比較すると仮定しましょう」

ビッグOにつながる。

実際には

実際には、非常に複雑なソリューションが（「小さな」入力の場合）はるかに速く実行される可能性は十分にあります。実行されるO(n)が10^10*n反復が必要なプログラムを想像するのは簡単です。

O（n）ですが、O(2^n)小さい場合は解で高速になる可能性があります。

要約すれば：

ビッグOは便利なツールです。ただし、アルゴリズムが実際にどれほど高速であるかを考える必要があります。これは、入力が大きくなった場合に必要な時間だけを表すためです。

この疑似コードがある場合：

for i=0 to n/2 do
   for j=0 to n/2 do 
       ... do anything ....

反復回数は $n^2/4$。

実際には $(1+n/2)^2 = n^2/4 + n + 1$。

このプログラムの複雑さは何ですか？正しい$O(n^2)$？

それは完全に「何でもする」が何であるかに依存します。たとえば、「何でもする」が次の行に置き換えられた場合

for k=0 to 2^n do {}

その後、実行時間は $\Theta(n^22^n)$。