関数は常に漸近的に比較可能ですか？

15

2つのアルゴリズムの複雑さを比較するとき、通常はまたは（おそらく両方）の場合です。ここでと 2つのアルゴリズムの（たとえば）実行時間です。 $f(n) = O(g(n))$ $g(n) = O(f(n))$ $f$ $g$

これは常にそうですか？つまりは、関係の少なくともいずれかを行いとの一般的な機能のためには常に保持、、？そうでない場合、どの仮定を行う必要がありますか？（なぜ）アルゴリズムの実行時間について話すときにそれは大丈夫ですか？ $f(n) = O(g(n))$ $g(n) = O(f(n))$ $f$ $g$

asymptotics mathematical-analysis

— ラファエル
ソース

21

関数のすべてのペアが表記と比較できるわけではありません。機能を考慮とさらに、ような関数は、アルゴリズムの実行時間として実際に発生します。明らかなブルートフォースアルゴリズムを検討して、指定された整数が素数かどうかを判断します。 $O(\cdot)$ $f(n) = n$

g (n) = {\begin{cases} 1 & if n is odd, \\ n^{2} & if n is even . \end{cases}

$g(n) = \begin{cases} 1 & \text{if $n$ is odd}, \\\ n^2 & \text{if $n$ is even}. \end{cases}$

g (n)

$g(n)$

n

$n$

IsPrime(n):
  for i ← 2 to (n-1)
     if i·⌊n/i⌋ = n
        return False
  return True

このアルゴリズムは、必要場合演算を偶数であり、 $\Theta(1)$ $n$ が複合の場合の演算。ただし、が素数の場合の演算。したがって、正式には、このアルゴリズムはを使用するアルゴリズムと比較でき $O(\sqrt{n})$ $n$ $\Theta(n)$ $n$ のための演算処理毎に。 $\sqrt{n}$ $n$

ほとんどの場合、アルゴリズムを分析するとき、比較的単純な関数に対して形の漸近的な上限のみが必要です。たとえば、ほとんどの教科書は、算術演算で実行されるレポートを単純に（そして正しく）報告します。典型的な上限関数は、指数、多項式、および対数の積です（ただし、階乗や反復対数などのよりエキゾチックな獣も時々現れます）。このような2つの関数が同等であることを証明するのは難しくありません。 $O(f(n))$ $f$ IsPrime(n) $O(n)$

このMathOverflowの質問も参照してください。

— ジェフ
ソース

7

ウィキペディアから、ビッグO表記の定義：

すべての十分に大きい値について、が最大でMに絶対値で乗算されるような正の定数Mが存在する場合にのみ。すなわち、であれば、正の実数が存在する場合にのみ、および実数となるように $x$ $f(x)$ $g(x)$ $f(x) \in O(g(x))$ $M$ $x_0$

$|f(x)|<= M |g(x)| \quad \text{for all} \; x > x_0$

（定数にも無限にも）収束しない関数ではどうなりますか？

関数見てください、および $f(x) = |xsin(x)|$ $g(x) = 10$

$x_0$ $x > x0$ $x = k\pi$ $f(x) = 0$ $M$ $Mf(x) > g(x)$ $g(x) \; \not\in O(f(x))$

$|xsin(x)|$ $M$ $x_0$ $x > x_0$ $f(x) < Mg(x)$ $f(x) \not\in O(g(x))$

$Mf(x)$ $g(x)$ $g(x) = \log(x)$

— amit
ソース

6

Here's a pair monotonic functions that are not asymptotically comparable. This is relevant because most complexities arising in practice are in fact monotonic.

f (x) = Γ (⌊ x ⌋ + 1) = ⌊ x ⌋!

$f(x) = \Gamma( \lfloor x \rfloor + 1 ) = \lfloor x \rfloor !$

g (x) = Γ (⌊ x - 1 / 2 ⌋ + 3 / 2)

$g(x) = \Gamma( \lfloor x-1/2 \rfloor + 3/2 )$

Here, $\Gamma$ is the gamma function. The second function is specially constructed to be very similar to the factorial, just "sampled" at slightly offset points in the gamma function. The functions cross each other periodically in such a way that neither is asymptotically bound by the other.

— Ambroz Bizjak
ソース

4

Let $\mathcal{L}$ be the class of functions obtained from the identity function and constants using the following operations: addition, subtraction, multiplication, division, logarithm and exponential. For example, $\exp(2\sqrt{\log x + \log\log x})/x^2$ . Hardy proved that for every two functions $f,g \in \mathcal{L}$ which are positive and tend to infinity, one of the following is true: $f = o(g)$ , $f = \omega(g)$ , $f/g$ tends to a constant. See page 18 of his book "Orders of infinity".

The upshot is that any two "simple" functions occurring in the analysis of algorithm are comparable. Here "simple" means that there is no definition by cases (other than finitely many base cases), and no surprising functions appear, such as the inverse Ackermann function which sometimes figures in running times.

— Yuval Filmus
ソース

Nice! It is noteworthy, though, that periodic elements occur frequently in average case analysis (of d&c algorithm). The one I know are bound on both sides by constants, so they don't hurt asymptotic comparability.

— Raphael