より深い構造を公開する証明

35

（ランダム化アルゴリズムの教科書からの）チェルノフ限界の標準的な証明は、マルコフ不等式とモーメント生成関数を使用し、テイラー展開が少し組み込まれています。それほど難しくはありませんが、多少機械的です。

しかし、結果を駆動するより深い構造を公開する他のチェルノフ限界証明があります。たとえば、この論文で例示種類の方法で、経由する情報理論的なバージョンがありますImpagliazzoとKabanetsだけでなく、サンジョイDasguptaさんによってこの短いポスト。これらの後者の証明は、標準結果の一般化を提供するという点でより「直感的」であり、指数内の面白い用語がどこから来るのかを説明します（KL発散です）。

そのようなことの良い例は何ですか？より具体的にするために、ここにルールがあります：

声明はかなりよく知られている必要があります（ある種の大学院クラスで教えられるようなもの）

「一般に」教えられる教科書または標準参考資料で利用可能な「標準」証明があるはずです

あまり知られておらず、一般に教えられておらず、より一般的なステートメントを証明するか、ステートメントをより深い数学的構造にリンクする代替の証拠があるはずです。

2つの例から始めます。

チェルノフの限界
- 「教科書」証明：マルコフ不等式、モーメント生成関数、テイラー展開（MR）
- 珍しい洞察力のある証明：型の方法、KL発散を伴う尾の指数
シュワルツ・ジッペル補題
- 「教科書」証明：単変量多項式を含むベースケース。変数の数の帰納
- 「珍しい」証明：Dana Moshkovitz（およびPer Vognsen）を介した幾何学的議論

回答ごとに例を示してください。

追伸：私は必ずしも一般的でない証明を教えるべきだと言っているわけではありません。生徒にとっては直接的な証明の方が簡単なことが多いです。しかし、「証明は理解を助ける」という意味で、これらの代替証明は非常に役立ちます。

big-list proofs

— Suresh Venkat
ソース

23

教科書で「珍しい」証拠を見たので、これがあなたが探しているものかどうかはわかりませんが、クイックソートのO（n log n）時間制限。

「教科書」の証明：ランダム化された再帰関係を設定し、望ましい解決策があることを帰納法で証明します。
「一般的ではない」証明：任意の2つの要素が比較される確率の単純な式を見つけ（それはちょうど2 /（d + 1）です。dは並べ替えられた順序でのランクの差です）、期待値と調和級数の線形性を使用します比較される予想されるペアの数を計算します。

教科書の証明は創造的な洞察をあまり必要としませんが、珍しい証明は他のアルゴリズム分析で非常に役立つテクニックを導入します。例えば、計算幾何学のランダム化された増分アルゴリズムです。

— デビッド・エップスタイン
ソース

3

これはうまくいくと思う。それは良い例です。「珍しい」証拠は教科書にもあるが、それでもそれほど一般的でないことは正しい。

— スレシュヴェンカト

1

私は10年以上にわたって「珍しい」証明を学部生に教えてきました。

— ジェフ

私は他の人がそれをどう思うかわかりません。Jon Bentleyは、Beautiful Codeというテキストでのクイックソートの予想されるランタイムに対して、非常にエレガントなランタイム分析を提供しました。同じトピック<a href=" youtube.com/watch?v=aMnn0Jq0J-E">こちら </a>で彼の動画にアクセスすることもできます。私はかなり確信して、これはクイックソートの予想されるランタイムの「ブックの分析」ですよ

— Akashさんクマー

19

複雑さから1つ、BPPがという証拠を捨てます。教科書の証明はLautemannによるもので、式を書き留めて、単純な確率論的引数で機能することを示します。珍しい証拠：ハード関数を推測し（推測ためにし、硬さをチェックために）、それをNisan-Wigdersonジェネレーターに接続します。 $\Sigma_2^p$ $\exists\forall$ $\exists$ $\forall$

— ランス・フォートナウ
ソース

それに加えて、Lautemannの証明はSipserの証明（1983）を大幅に簡素化します。これはSipserがGacsに帰したものです。

— MS Dousti

1

「珍しい」証拠の参照はありますか、それとも民間伝承ですか？

— MS Dousti

2

その証拠は、Nisan-Wigdersonの論文にあります。

— ランスフォートノウ

2

それは「珍しい証拠」ですが、この証拠からの「新しい理解」とは何ですか？ラウトマンの証明はもっと光を当てるものだと思います。ここに何かが足りませんか？

— Vビナイ

13

$\sum_i a_iX_i$ $\pm 1$ $X_i$ $\sigma = \|a\|_2$ $t \ge 2$

\begin{array}{rcl} E [{(\sum_{i} a_{i} X_{i})}^{t}] & = & \sum_{i_{1}, \dots, i_{t}} (\prod_{j = 1}^{t} a_{i_{j}}) E [\prod_{j = 1}^{t} X_{i_{j}}] \\ \leq & \sum_{i_{1}, \dots, i_{t}} (\prod_{j = 1}^{t} | a_{i_{j}} |) E [\prod_{j = 1}^{t} X_{i_{j}}] \\ = & \sum_{\begin{matrix} i_{1} < \dots < i_{m} \\ r_{1}, \dots, r_{m} \\ \sum_{j} r_{j} = t \\ \forall j r_{j} > 0 \end{matrix}} (\binom{t}{r_{1}, \dots, r_{m}}) (\prod_{j = 1}^{m} | a_{i_{j}} |^{r_{j}}) (\prod_{j = 1}^{m} E [X_{i_{j}}^{r_{j}}]) \end{array}

$\begin{eqnarray*} \mathbf{E}\left[\left(\sum_i a_iX_i\right)^t\right] &=& \sum_{i_1,\ldots,i_t} \left(\prod_{j=1}^t a_{i_j}\right) \mathbf{E}\left[\prod_{j=1}^t X_{i_j}\right]\\ &\le& \sum_{i_1,\ldots,i_t} \left(\prod_{j=1}^t |a_{i_j}|\right) \mathbf{E}\left[\prod_{j=1}^t X_{i_j}\right]\\ &=& \sum_{\substack{i_1<\ldots< i_m\\ r_1,\ldots,r_m\\ \sum_j r_j = t\\ \forall j\ r_j > 0}} \binom{t}{r_1,\ldots,r_m}\left(\prod_{j=1}^m |a_{i_j}|^{r_j}\right)\left(\prod_{j=1}^m \mathbf{E}[X_{i_j}^{r_j}]\right) \end{eqnarray*}$

さて、右側の上の合計を見てみましょう。どのような被加数でも、が奇数で期待値がになるか、すべてが偶数でます。すべてのをGaussian置き換えることを想像して。次に、同様のシナリオになります：奇数のはを与え、すべてのは積を少なくともます。そのため、用語ごとのガウスケースの項がベルヌーイのケースを支配します。したがって、 $r_j$ $0$ $1$ $X_i$ $G_i$ $r_j$ $0$ $r_j$ $1$

E [{(\sum_{i} a_{i} X_{i})}^{t}] \leq E [{(\sum_{i} | a_{i} | G_{i})}^{t}]

$\mathbf{E}\left[\left(\sum_i a_iX_i\right)^t\right] \le \mathbf{E}\left[\left(\sum_i |a_i|G_i\right)^t\right]$

しかし、ガウスの安定性により、はそれ自体が標準偏差ガウス分布なので、その瞬間がわかります！したがって、番目の瞬間はによって制限され（大体）; これは、ヒンチンの不等式として知られています。その後、 $2$ $\sum_i |a_i| G_i$ $\|a\|_2$ $t$ $\|a\|_2^t \cdot t! / (2^{t/2} \cdot (t/2)!)$ $\|a\|_2^tt^{t/2}$

P r [| \sum_{i} a_{i} X_{i} | > λ] < 2^{O (t)} \cdot λ^{- t} \cdot ‖ a ‖_{2}^{t} t^{t / 2}

$\mathbf{Pr}\left[\left|\sum_i a_iX_i\right| > \lambda\right] < 2^{O(t)}\cdot \lambda^{-t}\cdot \|a\|_2^t t^{t/2}$ Set十分に大きい定数場合、ガウステールバインドを取得します。私は、ダニエル・ケインとおしゃべりをしたときに最初にこのヒンチンの不平等の証拠を聞いたが、おそらくもっと古い参照があるだろう。また、この証明により、さまざまなテール境界を取得するために必要な間の独立性のレベルが明確になります。

t = λ^{2} / (C \cdot ‖ a ‖_{2}^{2})

$t = \lambda^2 / (C\cdot \|a\|_2^2)$

C

$C$

e x p (- Ω (λ^{2} / ‖ a ‖_{2}^{2}))

$\mathrm{exp}(-\Omega(\lambda^2 / \|a\|_2^2))$

X_{i}

$X_i$

— ジェラニ・ネルソン
ソース

6

ミンクは推測とブレグマンの場合、その証明で0-1行列で行1つの、その後の永久最大である Alon and Spencerの教科書The Probabilistic Methodには短い証明がありますが、おそらく「本」の証明はエントロピーを使用したJaikumar Radhakrishnanの証明です（J. Combin。Theory Ser。A 77（1997）、161-164）。エントロピーの概念がここで表面下にあることは結果の声明からまったく明らかではありません。 $A$ $r_i$ $i$ $A$

\prod_{i} (r_{i}!)^{1 / r_{i}} .

$\prod_i (r_i!)^{1/r_i}.$

— ティモシーチョウ
ソース