漸近成長による関数のソート

たとえば、関数のリストがあるとします

$\qquad n^{\log \log(n)}, 2^n, n!, n^3, n \ln n, \dots$

どのようにそれらを漸近的にソートするのですか？

$\qquad f \leq_O g \iff f \in O(g)$、

それらが実際にペアワイズ比較可能であると仮定すると（こちらも参照）？の定義を使用するのは厄介に思えますが、適切な定数および存在を証明するのは難しい場合がよくあり。$O$$c$$n_0$

これは複雑さの尺度に関するものであるため、としての漸近的な挙動に興味があり$n \to +\infty$、すべての関数が非負の値（）のみを取ると仮定します。$\forall n, f(n) \ge 0$

厳密な証明が必要な場合は、次の補題が役立つことがよくあります。定義よりも便利です。

もしが存在する、次いで$c = \lim_{n\to\infty} \frac{f(n)}{g(n)}$

• $c=0 \qquad \ \,\iff f \in o(g)$、
• $c \in (0,\infty) \iff f \in \Theta(g)$および
• $c=\infty \quad \ \ \ \iff f \in \omega(g)$。

これにより、アルゴリズム分析で登場するほとんどの機能を注文できるようになります¹。演習として、それを証明してください！

もちろん、それに応じて制限を計算できる必要があります。複雑な機能を基本的な機能に分解するための便利なトリックは次のとおりです。

• 両方の関数をとして表現し、指数を比較します。それらの比率がまたは傾向がある場合、元の商も同様です。 0 $e^{\dots}$$0$$\infty$

• より一般的には、次のように商を書き直すことができるように、凸で連続的に微分可能で厳密に増加する関数がある場合$h$

  $\qquad \displaystyle \frac{f(n)}{g(n)} = \frac{h(f^*(n))}{h(g^*(n))}$、

  と$g^* \in \Omega(1)$

  $\qquad \displaystyle \lim_{n \to \infty} \frac{f^*(n)}{g^*(n)} = \infty$、

  それから

  $\qquad \displaystyle \lim_{n \to \infty} \frac{f(n)}{g(n)} = \infty$。

  ^{このルールの厳密な証明については、こちらをご覧ください（ドイツ語）。}

• 実数に対する関数の継続を検討してください。L'Hôpitalのルールを使用できるようになりました。その条件²に注意してください！

• 個別の同等物、Stolz–Cesàroをご覧ください。

• 階乗がポップアップしたら、スターリングの式を使用します：

  $\qquad \displaystyle n! \sim \sqrt{2 \pi n} \left(\frac{n}{e}\right)^n$

また、一度証明した基本的な関係のプールを保持し、次のように頻繁に使用すると便利です。

• 対数は多項式よりも遅くなります、すなわち

  α 、β > $\qquad\displaystyle (\log n)^\alpha \in o(n^\beta)$すべてについて。$\alpha, \beta > 0$

• 多項式の次数：

  α<$\qquad\displaystyle n^\alpha \in o(n^\beta)$すべてについて。$\alpha < \beta$

• 多項式は指数関数よりも遅くなります：

  αC>$\qquad\displaystyle n^\alpha \in o(c^n)$すべてについておよび。$\alpha$$c > 1$

---

制限が存在しないため、上記の補題が適用されない場合があります（関数が発振する場合など）。この場合、limes Superior / Inferorを使用して、Landauクラスの次の特性化を検討してください。

我々は$c_s := \limsup_{n \to \infty} \frac{f(n)}{g(n)}$

• $0 \leq c_s < \infty \iff f \in O(g)$および
• $c_s = 0 \iff f \in o(g)$。

我々は$c_i := \liminf_{n \to \infty} \frac{f(n)}{g(n)}$

• $0 < c_i \leq \infty \iff f \in \Omega(g)$および
• $c_i = \infty \iff f \in \omega(g)$。

さらに、

• $0 < c_i,c_s < \infty \iff f \in \Theta(g) \iff g \in \Theta(f)$および
• $c_i = c_s = 1 \iff f \sim g$。

---

あなたが私の表記に混乱している場合は、こことここをチェックしてください。

---

¹Nota bene：私の同僚は、多くの関数に対してこれを成功させるMathematica関数を書いたので、補題は本当にタスクを機械的計算に減らします。

²こちらもご覧ください。

別のヒント：関数に単調関数（logやexpなど）を適用すると、物事がより明確になることがあります。

Skienaは、著書 『アルゴリズム設計マニュアル』で最も一般的な機能間の支配関係のソートされたリストを提供しています。

$$n!\gg c^n \gg n^3 \gg n^2 \gg n^{1+\epsilon} \gg n \lg n \gg n \gg n^{1/2}$$ $$\gg \lg^2n \gg \lg n \gg \frac{\lg n}{\lg\lg n} \gg \lg\lg n \gg \alpha(n) \gg 1$$

ここで、は逆アッカーマン関数を示します。$\alpha(n)$

ヒント：Wolfram Alphaのようなものを使用してこれらの関数のグラフを作成し、それらがどのように成長するかを感じてください。これはあまり正確ではありませんが、十分な数を試してみると、成長の比較パターンが表示されるはずです。もちろんこれは証明に代わるものではありません。

たとえば、1から10000までlog（log（n））をプロットするか、個々のグラフを表示するlog（log（n））をプロットし、1から10000までlog（n）をプロットして比較します。

$n^{\log\log n}$$2^n$

$n = 2^{\log n}$$n^{\log\log n} = (2^{\log n})^{\log\log n} = 2^{\log n\log\log n}$$n^{\log\log n} = 2^{\log n\log\log n} \in o(2^n)$$c > 0$$n_0$$n \geq n_0$$c(n^{\log\log n}) = c(2^{\log n\log\log n}) < 2^n$

$3^n$$2^n$$3^n = (2^{\log 3})^n = 2^{n\log3}$$2^n \in o(3^n) = o(2^{n \log 3})$

等。

$$\begin{array}{|l|l|} \hline Name & \text{Running Time} \\ \hline \text{Constant time} & \mathcal{O}(1) \\ \text{Inverse Ackermann time} & \mathcal{O}(a(n)) \\ \text{Iterated logarithmic time} & \mathcal{O}(\log^*n) \\ \text{Log-logarithmic} & \mathcal{O}(n \log n) \\ \text{Logarithmic time} & \mathcal{O}(\log n) \\ \text{Polylogarithmic time} & poly(\log n) \\ \text{Fractional power} & \mathcal{O}(n^c) ,\text{where } 0<c<1 \\ \text{Linear time} & \mathcal{O}(n) \\ \text{"n log star n" time} & \mathcal{O}(n \log^* n) \\ \text{Quasilinear time} & \mathcal{O}(n \log n) \\ \text{Quadratic time} & \mathcal{O}(n^2) \\ \text{Cubic time} & \mathcal{O}(n^3) \\ \text{Polynomial time} & poly(n) = 2^{\mathcal{O}(\log n)} \\ \text{Quasi-polynomial time} & 2^{\mathcal{O}(poly(\log n))} \\ \text{Sub-exponential time (first definition)} & \mathcal{O}(2^{n^{\epsilon}}), \epsilon >0 \\ \text{Sub-exponential time (second definition)} & 2^{\mathcal{o}(n)}\\ \text{Exponential time(with linear exponent)} & 2^{\mathcal{O}(n)} \\ \text{Exponential time} & 2^{poly(n)} \\ \text{Factorial time} & \mathcal{O}(n!) \\\hline \end{array}$$

$poly(x) = x^{\mathcal{O}(1)}$