コンピューターサイエンスでは、再帰関係を解決する必要があります。これは、再帰的に定義された一連の数値の閉じた形式を見つけることです。ランタイムを検討する際、主にシーケンスの漸近的成長に主に興味があります。

例は

1. 本体が時間f （n ）を要するnから$0$まで下にステップする末尾再帰関数のランタイム：$n$$f(n)$

   $\qquad \begin{align} T(0) &= 0 \\ T(n+1) &= T(n) + f(n) \end{align}$

2. フィボナッチ数列：

   $\qquad \begin{align} F_0 &= 0 \\ F_1 &= 1 \\ F_{n+2} &= F_n + F_{n+1} \end{align}$

3. n個の括弧ペアを持つDyckワードの数：$n$

   $\qquad\begin{align} C_0 &= 1 \\ C_{n+1}&=\sum_{i=0}^{n}C_i\,C_{n-i} \end{align}$

4. 長さリストに対するmergesortランタイムの繰り返し$n$：

   $\qquad \begin{align} T(1) &= T(0) = 0 \\ T(n) &= T(\lfloor n/2\rfloor) + T(\lceil n/2\rceil) + n-1 \end{align}$

再発関係を解決する方法は何ですか？私たちは〜を探しています

• 一般的な方法と
• 重要なサブクラスのメソッド

と同様

• 正確なソリューションを生み出す方法と
• 漸近的成長を提供する（境界を定める）メソッド。

^{これは参考質問になるはずです。メソッドごとに1つの回答を投稿し、一般的な説明と説明的な例を提供してください。}

全履歴を限定履歴に変換する

これは、任意の整数の値がすべての小さい整数の値に依存する再発を解決する最初のステップです。たとえば、繰り返しT （n ）= n + 1を考えます これは、ランダム化クイックソートの分析で発生します。（ここで、kはランダムに選択されたピボットのランクです。）整数nの場合、T（n）の値はすべてのT（k）に依存し、k<nです。この形式の繰り返しは、完全な履歴繰り返しと呼ばれます。

$$T(n) = n + \frac{1}{n}\sum_{k=1}^n \big(T(k-1) + T(n-k)\big)$$ $k$$n$$T(n)$$T(k)$$k<n$

この繰り返しを解決するために、T （n ）が一定の数の以前の値のみに依存する、限られた履歴の繰り返しに変換できます。しかし、最初に、それは再発を少し単純化し、共通の用語を収集し、厄介な部分を排除するのに役立ちます。 n T （n ）$T(n)$ ここで、限られた履歴の繰り返しに変換するために、T（n−1）の繰り返しを書き留め、項を減算し、再収集します： （n − 1 ）T （n − 1

$$\begin{align*} n T(n) &= n^2 + 2\sum_{k=1}^{n-1} T(k) \end{align*}$$ $T(n-1)$ $$\begin{align*} (n-1) T(n-1) &= (n-1)^2 + 2\sum_{k=1}^{n-2} T(k) \\ \implies nT(n) - (n-1)T(n-1) &= (2n-1) + 2T(n-1) \\[1ex] \implies n T(n) &= (2n-1) + (n+1) T(n-1) \\[1ex] \implies \frac{T(n)}{n+1} &= \frac{2n-1}{n(n+1)} + \frac{T(n-1)}{n} \end{align*}$$

ここでを定義し、小数2 n − 1を置き換えると$t(n) = T(n)/(n+1)$でより単純な漸近形式Θ（1/n）を使用すると、より単純な再帰 t（n）=Θ（1/n）+t（n−1）が得られます。 この繰り返しを合計に展開すると、すぐにt（n）=Θ（Hn）=Θ（logn）が得られます。$\frac{2n-1}{n(n+1)}$$\Theta(1/n)$

$$t(n) = \Theta(1/n) + t(n-1).$$ $t(n) = \Theta(H_n) = \Theta(\log n)$は n番目の調和数です。と結論付け。$H_n$$n$$\boldsymbol{T(n) = \Theta(n\log n)}$

関数の生成$\newcommand{\nats}{\mathbb{N}}$

一連の数字はすべて、生成関数に対応しています。多くの場合、回帰から楽に取得でき、その係数（系列の要素）を摘み取ることができます。

この回答には、完全な例、特別な場合のショートカット、およびこの方法を使用して漸近性を取得する場合の注意事項（正確な結果が取得できない場合でも）を含む一般的な仮説が含まれます。

方法

ましょう一連の数字。次に、正式なべき級数$(a_n)_{n\in\nats}$

$\qquad \displaystyle A(z) = \sum_{n=0}^\infty a_nz^n$

は、の通常の生成関数 ¹です 。の級数展開の係数は、シーケンスに等しい、つまりです。たとえば、有名なカタロニア語番号の通常の生成関数は A （Z ）[ Z N ] A （Z ）= N個のC $(a_n)_{n\in\nats}$$A(z)$$[z^n]A(z) = a_n$ $C_n$

$\qquad \displaystyle C(z) = \frac{1 - \sqrt{1 - 4z}}{2z}$。

の定義は、再発を解決するための我々の仮説でもあります。これは線形の繰り返しに最適です。そのため、簡単にするためにフォームの繰り返しを想定してください。$A$

$\qquad \begin{align} a_0 &= c_0 \\ &\vdots \\ a_{k-1} &= c_{k-1} \\ a_n &= f(n) + \sum_{i=1}^k b_i a_{n-i} \qquad , n \geq k \end{align}$

固定およびすべての依存しない関数。ここで、アンカーと再帰部分の両方を仮説に挿入するだけです。 F （N ）：N → N $b_1, \dots, b_k \in \mathbb{R}$$f(n) : \nats \to \nats$$a_i$

$\qquad \begin{align} A(z) &= \sum_{n=0}^\infty a_nz^n \\ &= c_0z^0 + c_1z^1 + \dots + c_{k-1}z^{k-1} + \sum_{n=k}^\infty \left[ f(n) + \left(\sum_{i=1}^k b_i a_{n-i}\right)\right] z^n \end{align}$

和の操作のメカニズム、正式なべき級数のプロパティ、および既知の恒等式 ²を使用して、通常はに関して、最後の右辺を閉じた形式にする必要があります。結果の方程式は、（しばしば）について解くことができます。結果の級数展開（簡単に取得、既知、またはその他の方法で取得可能）は、本質的に解決策です。A （z $A(z)$$A(z)$

良い紹介はWilfの本[3]とGKP [4]にあります。高度な資料は、FlajoletとSedgewickによって収集されました[5]。

例

検討する

$\qquad \begin{align} a_0 &= 1 \\ a_1 &= 2 \\ a_n &= 5n + 3a_{n-1} - 2a_{n_2} \qquad , n > 1 \end{align}$

計算します：

$\qquad \begin{align} A(z) &= \sum_{n=0}^\infty a_n z^n \\ &= 1 + 2z + \sum_{n=2}^\infty \left[ 3a_{n-1} - 2a_{n-2} + 5n\right]z^n \\ &= 1 + 2z + 3\sum_{n=2}^\infty a_{n-1}z^n - 2\sum_{n=2}^\infty a_{n-2}z^n + 5\sum_{n=2}^\infty n z^n \\ &= 1 + 2z + 3z\sum_{n=1}^\infty a_nz^n - 2z^2\sum_{n=0}^\infty a_n z^n + 5\sum_{n=2}^\infty n z^n \\ &= 1 + 2z + 3z(A(z) - a_0) - 2z^2A(z) + 5 \left( \frac{z}{(1-z)^2} - z\right) \\ &= 1 - 6z + (3z - 2z^2)A(z) + \frac{5z}{(1-z)^2} \end{align}$

これは

$\qquad \begin{align} A(z) &= \frac{1 - 3z + 13z^2 - 6z^3}{(1-2z)(1-z)^3} \\ &= \frac{16}{1-2z} - \frac{5}{1-z} - \frac{5}{(1-z)^2} - \frac{5}{(1-z)^3} \\ &= 16\sum_{n=0}^\infty 2^n z^n - 5\sum_{n=0}^\infty z^n - 5 \sum_{n=0}^\infty (n+1) z^n - 5\sum_{n=0}^\infty \frac{(n+1)(n+2)}{2} z^n \end{align}$

これでようやく読み上げることができます

$\qquad \begin{align} a_n &= 16 \cdot 2^n - 5 - 5(n+1) - \frac{5}{2}(n+1)(n+2) \\ &= 2^{n+4} - \frac{5}{2}n^2 - \frac{25}{2}n - 15 \end{align}$

それに慣れると、これはすべて非常にメカニックであることがわかります。実際、コンピューター代数は多くの場合、これらすべてをあなたのために行うことができます。良い点は、繰り返しがより複雑な場合でも、そのメカニズムが（多かれ少なかれ）残ることです。より複雑で、メカニックの少ない例については、こちらをご覧ください。

また、求められているオブジェクトが複素数または多項式であっても、一般的な手法が機能することに注意してください。

ショートカット

線形および同種の繰り返し、すなわち次の形式の場合

$\qquad \begin{align} a_0 &= c_0 \\ &\vdots \\ a_{k-1} &= c_{k-1} \\ a_n &= \sum_{i=1}^k b_i a_{n-i} \qquad , n \geq k \end{align}$

上記は、毎回まったく同じ方法で実行されます。上記の計算を記号的に実行すると、次の補題が見つかります。させて

$\qquad \displaystyle z^k - b_1 z^{k-1} - b_2 z^{k-2} - \dots - b_k$

こと特性polynomal（再発）。さらに、それぞれ、多重度多項式の（ペアワイズ個別）ゼロを設定します。次に、所望の係数はRの$\lambda_1, \dots, \lambda_l$$r_i$

$\qquad \displaystyle a_n = \sum_{i=1}^l \sum_{j=1}^{r_i} b_{i,j} \cdot n^{j-1} \cdot \lambda_i^n$

不明な持ちます。特性多項式の次数はであるため、正確に（複素）個のゼロ、つまりに対する合計があります。したがって、上記の式を任意のの（アンカーなど）と同等にすることで得られた方程式で線形方程式システムを解くことにより、欠損係数を決定できます。 k k r i k k k a $b_{i,j}$$k$$k$$r_i$$k$$k$$k$$a_n$

漸近

通常、閉じたフォームに到達するのは簡単です。ただし、関数の生成でそれを表現すると、（例で行ったように）の係数がすぐに難しくなります。例は、上記のと、質問で言及されたDyck単語の数です。C （z $A(z)$$C(z)$

係数の漸近性を取得するために、複雑な分析機構、特に特異点分析を使用できます。流行語には、ダルブー法とmethod点法が含まれます。これらは、剰余定理とコーシーの積分公式に基づいています。詳細については、[6]を参照してください。

---

1. exponential、Dirichletおよびその他の生成関数を使用して同様のことを行うことができます。どちらが最適に機能するかは、手元のシーケンス、特に必要な閉じたフォームを見つけるかどうかによって異なります。
2. たとえば、TCSチートシートまたは[3]から。
3. H. Wilfによる生成機能（1994年、第2版）-無料でダウンロードできます
4. RL Graham、DE Knuth、O。Patashnikによるコンクリート数学（1994年、第2版）
5. R. SedgewickおよびP. Flajoletによるアルゴリズム分析の概要（2013年第2版）-無料でダウンロードできます
6. P. FlajoletおよびR. SedgewickによるAnalytic Combinatorics（2009）-無料ダウンロード可能

マスター定理

マスター定理は、いわゆるのソリューションのための漸近を与える分割＆征服再発、それは（代わりに定数を切除する）比例チャンクにそれらのパラメータを分割するようなものです。それらは通常、アルゴリズムを分析（再帰的）分割および征服するときに発生するため、そのためです。定理は、非常に簡単に適用できることが多いため人気があります。一方、次の形式の繰り返しにのみ適用できます。

$\qquad \displaystyle T(n) = a \cdot T\left(\frac{n}{b}\right) + f(n)$

。3つのケースがあります$a \geq 1, b > 1$

1. $\quad \displaystyle f \in O\left( n^{\log_b (a) - \varepsilon} \right)$

   一部の ;$\varepsilon > 0$

2. $\quad \displaystyle f \in \Theta\left( n^{\log_b a} \log^{k} n \right)$、

   いくつかの ;$k \geq 0$

3. $\quad \displaystyle f \in \Omega\left( n^{\log_b (a) + \varepsilon} \right)$

   一部のおよび$\varepsilon > 0$

   $\quad \displaystyle a f\left( \frac{n}{b} \right) \le c f(n)$

   一部のおよび。n → $c < 1$$n \to \infty$

漸近性を暗示する

1. $T \in \Theta\left( n^{\log_b a} \right)$、
2. $T \in \Theta\left( n^{\log_b a} \log^{k+1} n \right)$および
3. $T \in \Theta \left(f \right)$、

それぞれ。ここでは、ベースケースが記載または使用されていないことに注意してください。これは、漸近的な挙動のみを調査していることを考えると理にかなっています。私たちは黙って（他に何、彼らがすることができます。彼らはいくつかの定数であると仮定し、それらはすべてに消え、私たちは見ていない定数は無関係です。$\Theta$

例

1. 再発を考慮する

   $\qquad \displaystyle T(n) = 4T\left(\frac{n}{3}\right) + n$。

   および -注意していること我々はそのような場合1を参照してくださいはして適用される。したがって、。、B = 3 ログB ≈ 1.26 ε = 0.25 T ∈ Θ （nはログ3 4）= Θ （nは1.261 ...$f(n) = n, a=4$$b=3$$\log_b a \approx 1.26$$\varepsilon = 0.25$$T \in \Theta(n^{\log_3 4}) = \Theta(n^{1.261\dots})$

2. 再発を考慮する

   $\qquad \displaystyle T(n) = 2T(n/2) + n$。

   及び -そのノート我々が2で適用される場合を参照。したがって、。、B = 2 ログB A = 1 、K = 0 T ∈ Θ （N ログN $f(n) = n, a=2$$b=2$$\log_b a = 1$$k=0$$T \in \Theta(n \log n)$

3. 再発を考慮する

   $\qquad \displaystyle T(n) = 3T\left(\frac{n}{4}\right) + n$。

   及び -注意こと我々はそのケース3を参照にして適用されるおよび。したがって、。、B = 4 ログB ≈ 0.79 ε = 0.2 、C = 1 T ∈ Θ （N $f(n) = n, a=3$$b=4$$\log_b a \approx 0.79$$\varepsilon = 0.2$$c=1$$T \in \Theta(n)$

4. 再発を考慮する

   $\qquad \displaystyle T(n) = 16T\left(\frac{n}{4}\right) + n!$

   ここに、、-多くの標準的な例には多項式がありますが、これはルールではありません。我々は持っている、およびケース3は再び適用されます。ただし、この例では、とをとして選択できますすべての。したがって、。b = 4 f （n ）= n ！F ログbの = 2 、ε C > 0 のn ！∈ Ω （N 、K）、K T ∈ Θ （N ！$a = 16$$b=4$$f(n) = n!$$f$$\log_b a = 2$$\varepsilon$$c > 0$$n! \in \Omega(n^{k})$$k$$T \in \Theta(n!)$

参考文献

• マスター定理のいずれのケースも当てはまらない可能性があります。たとえば、サブ問題のサイズが同じでなかったり、より複雑な形式になったりする場合があります。マスター定理には、Akra - Bazzi [1]やRoura [2]など、いくつかの拡張があります。離散的な繰り返し（つまり、再帰パラメーターで床と天井が使用される）に対応し、よりシャープな結果を提供するバージョンもあります[3]。

• 通常、マスター定理を適用する前に、実際の再帰関係を整形して、形にする必要があります。漸近性を保持する一般的な変換には、床と天井の落下、および仮定が含まれます。ここで物を壊さないように注意してください。[4]セクション4.6と詳細についてはこの質問を参照してください。$n=b^k$

---

1. M. AkraとL. Bazziによる線形回帰方程式の解について（1998）
2. 分割統治再発のための改良されたマスター定理 S. Roura（1997）は、
   ^{他の改善されたマスター定理を参照します。}
3. M. DrmotaおよびW. Szpankowski（2011）による離散的分割と再発の克服のためのマスター定理
4. Cormenらによるアルゴリズムの紹介。（2009年、第3版）

推測して証明

または、「テクニック」と呼んでいます。あらゆる種類のIDに適用できます。アイデアは簡単です。$\dots$

ソリューションを推測し、その正当性を証明します。

これは人気のある方法です。おそらく、通常は創造性や経験を必要とする（誇張するのに適しています）が、メカニズムはほとんどありません（エレガントに見える）。ここでの技術は、教育に基づいた適切な推測を行うことです。証明は（この場合）通常、多かれ少なかれ単純な帰納法です。

再発に適用される場合、「推測」は通常、

• 再発を数回拡大し、
• アンカーを把握し、
• 中間体のパターン（）を推測します。$\dots$

簡単な例

$\qquad \begin{align} s_0 &= s_1 = s_2 = 1 \\ s_n &= 5s_{n-3} + 6 \qquad\qquad n \geq 2 \end{align}$

の定義を数回拡張してみましょう。$s_n$

$\qquad \begin{align} s_n &= 5s_{n-3} + 6 \\ &= 5(5s_{n-6} + 6) + 6 \\ &= 5(5(5s_{n-9} + 6) + 6) + 6 \\ &\ \vdots \\ &= \underbrace{5(5(5( \dots 5\cdot 1}_{n \div 3 \text{ times}} + \underbrace{6 \dots ) + 6) + 6) + 6}_{n \div 3 \text{ times}} \end{align}$

ここでは、パターンを簡単に見つけることができ、それが主張につながります。

$\qquad \begin{align} s_n &= 5^{\left\lfloor\frac{n}{3}\right\rfloor} + 6\cdot \sum_{i=0}^{\left\lfloor\frac{n}{3}\right\rfloor - 1} 5^i \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor} - \frac{6}{4} \end{align}$

今、私たちは帰納法によって身元を証明します。ため、我々は、それぞれの値に差し込むことによって正しさを確立することができます。アイデンティティが全て成立すると仮定すると、任意であるが、固定用、我々は計算します、N ' ≤ N 、N ≥ $n \in \{0,1,2\}$$n' \leq n$$n \geq 3$

$\qquad \displaystyle \begin{align} s_{n+3} &= 5s_n + 6 \\ &= 5\cdot \left( \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor} - \frac{6}{4} \right) + 6 \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor + 1} - \frac{6}{4} \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n+3}{3}\right\rfloor} - \frac{6}{4} \end{align}$

これは、誘導の力によってアイデンティティを証明します。

より複雑な繰り返しでこれを使用しようとすると、この方法の主な欠点にすぐに遭遇します。パターンを見にくくしたり、素敵な閉じた形に凝縮したりすることができます。

漸近

この方法を漸近的に使用することもできます。ただし、すべてのの境界を確立する定数が1つ必要であるため、Landauシンボルの定数を推測する必要があることに注意してください。つまり、定数因子は誘導中に変更できません。 $n$

たとえば、 k¹の場合に簡略化されたMergesortランタイムの繰り返しを考えてみましょう。$n=2^k$

$\qquad \begin{align} T(1) &= T(0) = 0 \\ T(n) &= 2T(n/2) + n-1 \qquad n \geq 1 \end{align}$

定数、つまりと推測し。これを上の帰納法で証明します。誘導ステップは次のようになります。C = 1 T （N ）≤ N ログN $T(n) \in O(n\log n)$$c=1$$T(n) \leq n\log n$$k$

$\qquad \begin{align} T(n) &= 2T(n/2) + n-1 \\ &\leq 2\frac{n}{2}\log \frac{n}{2} + n - 1 \\ &= n\log n - n\log 2 + n - 1 \\ &\lt n \log n \end{align}$

---

1. 自然の非減少シーケンスの場合、すべての無限サブシーケンスは元のシーケンスと同じ漸近成長を持ちます。

アクラ・バッツィ法

Akra-Bazzi方法は、フォームの再発のための漸近を与える： これは、通常の分割統治の繰り返しをカバーしますが、分割が等しくない場合もカバーします。「ファッジ用語」は、たとえば、正確に出てこない部門に対応できます。適用の条件は次のとおりです。時間I（X

$$T(x) = \sum_{1 \le i \le k} a_i T(b_i x + h_i(x)) + g(x) \quad \text{for $x \ge x_0$}$$ $h_i(x)$

• 再発を開始するのに十分な基本ケースがあります
• し、すべて定数でありますb $a_i$$b_i$
• すべてのについて、a i > $i$$a_i > 0$
• すべてのについて、0 < b i < $i$$0 < b_i < 1$
• c x → $\lvert g(x) \rvert = O(x^c)$定数をとして$c$$x \rightarrow \infty$
• すべてのについて、| h i（x ）| = O （x /（log x ）2$i$$\lvert h_i(x) \rvert = O(x / (\log x)^2)$
• $x_0$は定数です

、およびノコギリ関数は常に0と1の間にあることに注意してください（または ）は条件を満たします。{ U } = U - ⌊ U ⌋ ⌊ B iは、 xは⌋ ⌈ B iは、 xは⌉ 時間$\lfloor b_i x \rfloor = b_i x - \{b_i x\}$$\{ u \} = u - \lfloor u \rfloor$$\lfloor b_i x \rfloor$$\lceil b_i x \rceil$$h_i$

検索：その結果 続いの漸近挙動としてで与えられる： と "十分に大きい"、すなわち、ありますように のすべてのため。Σ 1 ≤ iは≤ kは IのBのPをI = 1 T （X ）X → ∞ T （X ）= Θ （XがP （ 1 + ∫ X 、X 1 gで（U $p$

$$\sum_{1 \le i \le k} a_i b_i^p = 1$$ $T(x)$$x \rightarrow \infty$ $$T(x) = \Theta \left( x^p \left( 1 + \int_{x_1}^x \frac{g(u)}{u^{p + 1}} du \right) \right)$$ $x_1$$k_1>0$ $$g(x/2) \geq k_1g(x) \tag{2}$$ $x>x_1$

例A

例として、再帰を考えます。ここで、： 条件が満たされ、が必要です： 運がよければ。したがって、次のようになります $n \ge 5$$T(0) = T(1) = T(2) = T(3) = T(4) = 17$

$$T(n) = 9 T(\lfloor n / 5 \rfloor) + T(\lceil 4 n / 5 \rceil) + 3 n \log n$$ $p$ $$9 \left( \frac{1}{5} \right)^p + \left( \frac{4}{5} \right)^p = 1$$ $p = 2$ $$T(n) = \Theta \left( n^2 \left(1 + \int_3^n \frac{3 u \log u}{u^3} du \right) \right) = \Theta(n^2)$$

有するので我々は満たす全てに対して。下限としてなどの他の定数を使用しても積分は収束するため、これらの定数も使用できることに注意してください。差は消えます。$k_1 \leq \frac{1}{2}\left(1 - \frac{\log 2}{\log 3}\right)$$(2)$$x\geq 3$$1$$\Theta$

例B

別の例は、については、以下で： 我々は、確認してください。単一の、あり、チェックアウトします。が実際におよび/またはであると仮定すると、暗黙のもチェックアウトします。だから我々は、必要があります： したがって、および： $n \ge 2$

$$T(n) = 4 T(n / 2) + n^2 / \lg n$$ $g(n) = n^2 / \ln n = O(n^2)$$a_1 = 4$$b_1 = 1 / 2$$n / 2$$\lfloor n / 2 \rfloor$$\lceil n / 2 \rceil$$h_i(n)$ $$a_1 b_1^p = 4 \cdot (1 / 2)^p = 1$$ $p = 2$ $$T(n) = \Theta\left(n^2 \left( 1 + \int_2^n \frac{u^2 du}{u^3 \ln u} \right) \right) = \Theta\left(n^2 \left( 1 + \int_2^n \frac{du}{u \ln u} \right) \right) = \Theta(n^2 \ln \ln n)$$ 上記と同様のトリックを適用します積分の下限を使用するのは、積分がに対して収束しないためです。$2$$1$

（代数での最大値の助けはありがたいことに認められています）

総計

多くの場合、という形式の再発が発生し ます。 ここで、は単調です。この場合、 を推定するために 開始値与えることができます合計を推定する必要があります。

$$T(n) = T(n-1) + f(n),$$ $f(n)$ $$T(n) = T(c) + \sum_{m=c+1}^n f(m),$$ $T(c)$$T(n)$$f(c+1) + \cdots + f(m)$

減少しない$f(n)$

場合単調非減少、我々は明らか境界有する これらの限界は、それらがいくつかの機能のために締められているという意味で最高可能である：定数関数の上限、およびステップ関数（の下限のための及び以下のための）。ただし、多くの場合、これらの推定値はあまり役に立ちません。たとえば、場合、下限はで、上限はであるため、これらはかなり離れています。$f(n)$

$$f(n) \leq \sum_{m=c+1}^n f(m) \leq (n-c) f(n).$$ $f(m) = 1$$m \geq n$$f(m) = 0$$m < n$$f(m) = m$$n$$(n-c)n$

統合

統合により、より適切な推定値が得られます。 以下のために、これは次項を低下させる和までの正しい値を与える： 場合には私たちは、明示的に合計を計算することができますが、多くの場合、明示的な計算は難しいです。たとえば、の場合、の逆微分係数はであるため、

$$\int_c^n f(x) dx \leq \sum_{m=c+1}^n f(m) \leq \int_{c+1}^{n+1} f(x) dx.$$ $f(m) = m$ $$\frac{1}{2} n^2 - \frac{1}{2} c^2 \leq \sum_{m=c+1}^n m \leq \frac{1}{2} (n+1)^2 - \frac{1}{2} (c+1)^2.$$ $f(m) = m$$f(m) = m\log m$$f$$(1/2) x^2\log x - (1/4) x^2$ $$\sum_{m=c+1}^n m\log m = \frac{1}{2} n^2 \log n \pm \Theta(n^2).$$

オイラーの和公式では、より良い推定値を提供します。この式は、たとえば、合計推定することにより、スターリングの式の強力な形式を証明するために使用できます。$\log n! = \sum_{m=1}^n \log m$

増加しない$f(n)$

場合によっては、は単調な非増加です。自明な推定値は なり、積分推定値は 例として、場合、を使用して、を取得し $f(n)$

$$f(1) \leq \sum_{m=c+1}^n f(m) \leq (n-c) f(1),$$ $$\int_{c+1}^{n+1} f(x) dx \leq \sum_{m=c+1}^n f(m) \leq \int_c^n f(x) dx.$$ $f(m) = 1/m$$\int f(m) = \log m$ $$\sum_{m=c+1}^n \frac{1}{m} = \log n \pm \Theta(1).$$

SedgewickとFlajoletは、解析的組み合わせ論で広範な研究を行っており、生成関数と複雑な分析の組み合わせを使用して漸近的に再帰を解くことができます。彼らの研究により、多くの再発が自動的に解決され、一部のコンピューター代数システムに実装されています。

主題に関するこの教科書は、 FlajoletとSedgewickによって書かれており、優れた参考資料です。SedgewickとFlajoletによるこのテキストは、アルゴリズム分析への応用に向けられたやや単純な説明です。

お役に立てれば！

次のような奇妙な再発に遭遇することがあります： あなたが私のような人なら、マスター定理を使用できないことに気付くでしょう。うーん...多分、再帰ツリー分析が機能するかもしれません。」その後、ツリーが非常に高速になり始めることに気付くでしょう。インターネットで検索すると、Akra-Bazziメソッドが機能することがわかります。それから実際にそれを調べ始め、あなたが本当にすべての計算をしたくないことを悟ります。この時点まであなたが私のようであったなら、もっと簡単な方法があることを知って興奮するでしょう。

$$T(n) = \begin{cases} c & n < 7\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + cn & n\geq 7 \end{cases}$$

---

不均等な分割定理パート1

ましょうと正の定数であること。$c$$k$

次に、をような正の定数とします。$\{a_1, a_2, \ldots, a_k\}$$\sum_1^k a_i < 1$

（上記の例のように）フォームの繰り返しも必要です。

$$\begin{align} T(n) & \leq c & 0 < n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ T(n) & \leq cn + T(a_1 n) + T(a_2 n) + \dots T(a_k n) & n \geq \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \end{align}$$

請求

それから、を要求します。ここで、は定数（たとえば、漸近線形）で、$T(n) \leq bn$$b$

$$b = \frac{c}{1 - \left(\sum_1^k a_i\right)}$$

帰納法による証明

基礎：$n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \implies T(n) \leq c < b < bn$

帰納法： trueと仮定すると、$n' < n$

$$\begin{align} T(n) & \leq cn + T(\lfloor a_1 n \rfloor) + T(\lfloor a_2 n \rfloor) + \dots + T(\lfloor a_k n \rfloor)\\ & \leq cn + b \lfloor a_1 n \rfloor + b \lfloor a_2 n \rfloor + \dots + b \lfloor a_k n \rfloor\\ & \leq cn + b a_1 n + b a_2 n + \dots + b a_k n\\ & = cn + bn \sum_1^k a_i\\[0.5em] & = \frac{cn - cn \sum_1^k a_i }{1 - \left(\sum_1^k a_i\right)} + \frac{cn \sum_1^k a_i}{1 - \left(\sum_1^k a_i\right)}\\[0.5em] & = \frac{cn}{1 - \left(\sum_1^k a_i\right)}\\ & = bn & \square \end{align}$$

その後、我々は持っている。$T(n) \leq bn \implies T(n) = O(n)$

例

$$T(n) = \begin{cases} c & n < 7\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + cn & n\geq 7 \end{cases}$$ 最初に、再帰呼び出し内の係数の合計が1未満になることを検証し。 $$\begin{align} 1 & > \sum_1^k a_i \\ & = \frac{1}{5} + \frac{1}{5} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7}\\[0.5em] & = \frac{2}{5} + \frac{4}{7}\\[0.5em] & = \frac{34}{35} \end{align}$$

次に、ベースケースが係数の逆数の最大値より小さいことを確認し：

$$\begin{align} n & < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ & = \max\{5, 5, 7, 7, 7, 7\}\\ & = 7 \end{align}$$

これらの条件が満たされると、がわかります。ここで、は次の定数です： したがって、 $T(n) \leq bn$$b$

$$\begin{align} b &= \frac{c}{1 - \left(\sum_1^k a_i\right)}\\[0.5em] &= \frac{c}{1 - \frac{34}{35}}\\[0.5em] &= 35c \end{align}$$ $$\begin{align} T(n) & \leq 35cn\\ \land\; T(n) & \geq cn\\ \therefore T(n) & = \Theta(n) \end{align}$$

---

不均等な分割定理パート2

同様に、場合の限界を証明できます。証明はほとんど同じ形式に従います。$\sum_1^k = 1$

ましょうと、その結果、正定数で。$c$$k$$k > 1$

次に、をような正の定数とします。$\{a_1, a_2, \ldots, a_k\}$$\sum_1^k a_i = 1$

（上記の例のように）フォームの繰り返しも必要です。

$$\begin{align} T(n) & \leq c & 0 < n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ T(n) & \leq cn + T(a_1 n) + T(a_2 n) + \dots T(a_k n) & n \geq \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \end{align}$$

請求

私は請求（我々が選択ベースため、再帰ツリーの分岐係数になる）及び定数である（例えば、漸近linearithmic ） そのような：$T(n) \leq \alpha n \log_k n + \beta n$$\log$$k$$k$$\alpha$$\beta$

$$\beta = c$$ および $$\alpha = \frac{c}{\sum_1^k a_i \log_k a_i^{-1}}$$

帰納法による証明

基礎：$n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \implies T(n) \leq c = \beta < \alpha n \log_k n + \beta n$

帰納法： trueと仮定すると、$n' < n$

$$\begin{align} T(n) & \leq cn + T(\lfloor a_1 n \rfloor) + T(\lfloor a_2 n \rfloor) + \dots + T(\lfloor a_k n \rfloor)\\ & \leq cn + \sum_1^k (\alpha a_i n \log_k a_i n + \beta a_i n)\\ & = cn + \alpha n\sum_1^k (a_i \log_k a_i n) + \beta n\sum_1^k a_i\\ & = cn + \alpha n\sum_1^k \left(a_i \log_k \frac{n}{a_i^{-1}}\right) + \beta n\\ & = cn + \alpha n\sum_1^k (a_i (\log_k n - \log_k a_i^{-1})) + \beta n\\ & = cn + \alpha n\sum_1^k a_i \log_k n - \alpha n\sum_1^k a_i \log_k a_i^{-1} + \beta n\\ & = \alpha n\sum_1^k a_i \log_k n + \beta n\\ & = \alpha n \log_k n + \beta n & \square \end{align}$$

その後、我々は。$T(n) \leq \alpha n \log_k n + \beta n \implies T(n) = O(n \log n)$

例

我々はほんの小さなビットを使用したこと、前の例を変更してみましょう：

$$T(n) = \begin{cases} c & n < 35\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + T\left(\frac{n}{35}\right)+ cn & n \geq 35 \end{cases}$$

最初に、再帰呼び出し内の係数の合計を1に検証し。

$$\begin{align} 1 & = \sum_1^k a_i \\ & = \frac{1}{5} + \frac{1}{5} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{35}\\[0.5em] & = \frac{2}{5} + \frac{4}{7} + \frac{1}{35}\\[0.5em] & = \frac{35}{35} \end{align}$$

次に、ベースケースが係数の逆数の最大値よりも小さいことを確認し：

$$\begin{align} n & < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ & = \max\{5, 5, 7, 7, 7, 7, 35\}\\ & = 35 \end{align}$$

これらの条件が満たされていれば、がわかりここで、およびは次の定数です： したがって、次のようになります： $T(n)\leq \alpha n \log n + \beta n$$\beta = c$$\alpha$

$$\begin{align} b &= \frac{c}{\sum_1^k a_i \log_k a_i^{-1}}\\[0.5em] &= \frac{c}{\frac{2 \log_7 5}{5} + \frac{4 \log_7 7}{7} + \frac{\log_7 35}{35}}\\[0.5em] &\approx 1.048c \end{align}$$ $$\begin{align} T(n) & \leq 1.048cn\log_7 n + cn\\ \therefore T(n) & = O(n \log n) \end{align}$$

この投稿をもう一度確認した後、私はこれがまだここにないことに驚いています。

ドメイン変換/変数の変更

再帰を処理する場合、再帰スタックの深さが不明な場合にドメインを変更できると便利な場合があります。

たとえば、次の繰り返しを実行します。

$$T(n) = T(2^{2^{\sqrt{\log \log n}}}) + \log \log \log n$$

どうすればこれを解決できますか？シリーズを拡張することもできますが、これは非常に高速になります。代わりに、各呼び出しで入力がどのように変化するかを考えてみましょう。

最初にあります：

1. $n$、その後
2. $2^{2^{\sqrt{\log \log n}}}$、その後
3. $2^{2^{\sqrt{\log \log (2^{2^{\sqrt{\log \log n}}})}}}$など。

ドメイン変換の目標は、繰り返しを同等のに変更して、上記の遷移の代わりに、単にです。$S(k)$$k, k-1, k-2, \ldots$

たとえば、とした場合、これは上記の繰り返しで得られるものです。 その後、次のように簡単に書き換えることができます その後、をに変換して戻すだけです： $n = 2^{2^{2^{2^k}}}$

$$\begin{align*} T(2^{2^{2^{2^k}}}) & = T(2^{2^{\sqrt{\log \log 2^{2^{2^{2^{k}}}}}}}) + \log \log \log (2^{2^{2^{2^{k}}}})\\ & = T(2^{2^{2^{2^{k-1}}}}) + 2^k \end{align*}$$ $$T(k) = T(k-1) + 2^k = \sum_{i = 1}^{k} 2^k = 2^{k+1} - 1$$ $k$$n$ $$T(n) = 2^{(\log \log \log \log n) + 1} - 1 = O(\log \log \log n)$$

---

この例で、目標を確認できます。

仮定 いくつかの定数についてそして関数と。

$$T(n) = \begin{cases} h(1) & n = 1\\ a\cdot T(f(n)) + h(n) & \mathrm{otherwise} \end{cases}$$ $a$$f(n)$$h(n)$

現在、ような 関数およびを見つけようとしています。$g(k) = n$$f(g(k)) = g(k-1)$

$$\begin{align*} T(g(k)) &= aT(f(g(k))) + h(g(k))\\ & = a\cdot T(g(k-1)) + h(g(k)) \end{align*}$$

より一般的には、我々が望むの繰り返し適用されで、回。（例：）。これにより、が「反復」機能として機能します。ここで、再帰の深さで行われる作業は、単純にです。$f^{(i)}(n) = g(k - i)$$f^{(i)}(n)$$f$$n$$i$$f^{(2)}(n) = f(f(n))$$g(k)$$i$$h(g(k-i))$

次に、これをに簡単に変換して、 とすることができます。与えられたベースケースまでのすべてのについてを合計します。つまり、 $S(k) = T(g(k))$

$$S(k) = a\cdot S(k-1) + h(g(k))$$ $h(g(k))$$k$ $$S(k) = \sum_{i = g^{-1}(1)}^{k} a^{k - i} h(g(i))$$

我々は決定することができる場合に、いくつかの閉じた形のための関数、我々は決定することができるとして $S(k) = \gamma(k)$$\gamma$$T(n)$

$$T(n) = \gamma( g^{-1}(n))$$

次に、これを使用して、上記の他の方法の1つを介して境界を取得します。このメソッドを仕様に合わせて少し変更することもできますが、一般的には、を単純な再帰に変換する反復関数を見つけようとしています。$T(n)$$g(k)$$T(n)$

私はこの時点でを決定する正確な方法を知りませんが、それについて考え続け、それがより明確になったら（またはコメンターがいくつかのヒントを持っているなら！）更新します。私は主に私の発見した、過去の試行錯誤の機能を（参照ここでは、ここでは、ここと、ここでは例のために）。$g(k)$$g(k)$

単純な繰り返し関係に有効なもう1つのアプローチがあります。WolframAlphaに繰り返しを解決してもらいます。

たとえば、f(0)=0, f(1)=1, f(n)=f(n-1)+f(n-2)Wolfram Alphaに入力してみてください。フィボナッチ数へのリンクを含む解決策が得られます。または試すf(1)=1, f(n)=f(n-1)+nか、f(1)=1, f(n)=2*f(n-1)+3*nあるいはf(n)=f(n-1) + 2 f(n-2), f(1)=1, f(2)=3他の例について。ただし、注意してください。WolframAlphaは非常に単純な再発を解決できますが、より複雑な再発ではバラバラになります。

このアプローチは、バグや機能と見なすことができる思考の必要性を避けます。

マスター定理のケース2は、通常述べられるように、の形式の繰り返しのみを処理します。ここで、するために。ジェフリー・レオンの配布資料から取られた次の定理は、負のに対する答えを与えます。$T(n) = aT(n/b) + f(n)$$f(n) = \Theta(n^{\log_ab}\log^k n)$$k \geq 0$$k$

適切なベースケースを使用して、繰り返しを検討します。$T(n) = a T(n/b) + f(n)$

1. もしのために、次いで。$f(n) = O(n^{\log_b a} \log^{c-1} n)$$c < 0$$T(n) = \Theta(n^{\log_b a})$

2. もしするための次いで、。$f(n) = \Theta(n^{\log_b a} \log^{c-1} n)$$c = 0$$T(n) = \Theta(n^{\log_b a} \log\log n)$

3. 場合、場合、）。$f(n) = \Theta(n^{\log_b a} \log^{c-1} n)$$c > 0$$T(n) = \Theta(n^{\log_b a} \log^c n$

証明では、今度はスケッチするように、繰り返し置換の方法を使用します。およびと仮定し。次に、の乗、 次に、ケースを1つずつ考えてみましょう。場合、シリーズ収束し、したがって。場合、和は、高調波の和である、など$f(n) = n^{\log_b a} \log_b^{c-1} n$$T(1) = 0$$n$$b$

$$T(n) = \sum_{i=0}^{\log_b n-1} a^i (nb^{-i})^{\log_b a} \log_b^{c-1} (nb^{-i}) = \\ \sum_{i=0}^{\log_b n-1} n^{\log_b a} (\log_b n - i)^{c-1} = n^{\log_b a} \sum_{j=1}^{\log_b n} j^{c-1}.$$ $c < 0$$\sum_{j=0}^\infty j^{c-1}$$T(n) = \Theta(n^{\log_b a})$$c = 0$$H_{\log_b n} = \log(\log_b n) + O(1)$$T(n) = \Theta(n^{\log_b a} \log \log n)$。場合、積分を使用して合計を近似できます： したがって。$c > 0$ $$\sum_{j=1}^{\log_b n} \approx \int_0^{\log_b n} x^{c-1} \, dx = \left. \frac{x^c}{c} \right|_0^{\log_b n} = \frac{\log_b^c n}{c},$$ $T(n) = \Theta(n^{\log_b a} \log^c n)$