洞察につながるリゴール

MathOverflowで、Timothy Gowersは「厳密さが重要であることを示す」という質問をしました。議論の大部分は、証明の重要性を示す事例に関するものであり、CSTheoryの人々はおそらく納得する必要はないでしょう。私の経験では、連続した数学の多くの部分よりも理論的なコンピューターサイエンスの方がより厳密である必要があります。なぜなら、私たちの直感は離散構造に対してしばしば間違っていることが判明するからです。数学者は存在証明に満足するかもしれませんが、理論的なコンピューター科学者は通常建設的な証明を見つけようとします。LovászLocal Lemmaは良い例です[1]。

したがって、私は知りたい

理論的コンピューターサイエンスに、真実と信じられている声明の厳密な証拠が根本的な問題の性質に対する新しい洞察をもたらした特定の例はありますか？

アルゴリズムと複雑性理論から直接ではない最近の例は、証明論的合成、事前条件と事後条件からの正確で効率的なアルゴリズムの自動導出です[2]。

• [1]ロビン・A・モーザーとガボール・タルドス、ロヴァス・ローカル補題の建設的証明、JACM 57、第11条、2010年。http： //doi.acm.org/10.1145/1667053.1667060
• [2] Saurabh Srivastavaさん、スミットGulwani、およびジェフリー・S.フォスターは、プログラム検証からプログラム合成を、ACM SIGPLANは特記事項45、313から326まで、2010 http://doi.acm.org/10.1145/1707801.1706337

編集：私が念頭に置いていた種類の答えは、スコットとマトゥスによるもののようなものです。Kavehが示唆したように、これは人々が証明したかった3つのもの（ただし、「物理」、「手振り」、または「直感的」な議論によって必ずしも予期されていなかった）、証拠、および「根本的な問題」の結果予想されなかった証明に続いた（おそらく、証明を作成するには予期しない新しいアイデアが必要であったか、当然のことながらアルゴリズムにつながるか、領域に関する考え方を変えた）。証明の開発中に開発された技術は、理論的なコンピューターサイエンスの構成要素であるため、このやや主観的な質問の価値を保持するには、スコットや参考文献によって裏付けられた議論などの個人的な経験に焦点を当てる価値があります。マトゥスがしたように。また、私は m何かが適格かどうかについての議論を避けようとする; 残念ながら、質問の性質は本質的に問題がある場合があります。

複雑さの「驚くべき」結果についての質問がすでにあります：複雑さの驚くべき結果（複雑さのブログリストではありません）理想的には、必ずしもブレークスルーのサイズではなく、厳密な証明の値に焦点を当てる答えを探しています。

András、おそらくご存知のように、あなたが話していることには非常に多くの例があるので、どこから始めればよいかを知ることはほとんど不可能です！しかし、サブエリアで広く信じられている推測の証拠が新しい洞察をもたらした自分の経験から例を挙げれば、この質問は実際に良いものになると思います。

私が学部生だったとき、私が取り組んだ最初の本当のTCS問題はこれでした：√nのORと√nのブール変数それぞれのORを評価する最速の量子アルゴリズムは何ですか？私と私が話した他のすべての人にとって、あなたができる最善のことは、グローバーのアルゴリズムをORとANDの両方に再帰的に適用することであることは痛々しいほど明白でした。これにより、O（√nlog（n））の上限が与えられました。（実際には、ログ係数を削ることができますが、今のところは無視しましょう。）

しかし、私の大きな不満に対して、些細なΩ（n ^1/4）よりも良い下限を証明することができませんでした。「行く物理学者」と「答えに手を振る」はこれまで以上に魅力的に見えました！:-D

しかし、その後、数か月後、Andris Ambainisは量子敵対法を発表しました。その主な用途は、最初はOR-and-ANDのΩ（√n）下限でした。この結果を証明するために、アンドリスは量子アルゴリズムに異なる入力の重ね合わせを供給することを想像しました。次に、アルゴリズムとクエリの間のエンタングルメントがアルゴリズムごとにどのように増加するかを研究しました。彼は、量子アルゴリズムが計算しようとした関数fの非常に一般的な組み合わせのプロパティのみを使用することで、この手法により、「乱雑な」非対称問題でも下限量子クエリの複雑さをどのように実現できるかを示しました。

1つの厄介な問題の量子クエリの複雑さが誰もが期待するものであったことを確認するだけでなく、これらの手法は、ShorおよびGroverのアルゴリズム以来の量子コンピューティング理論における最大の進歩の1つであることが判明しました。その後、それらは他の数十の量子下限を証明するために使用され、新しい古典的な下限を得るために再利用されました。

もちろん、これは「数学とTCSの素晴らしい世界のちょうど別の日」です。誰もがXが真である「すでに知っている」場合でも、Xを証明することは非常に頻繁にして右の答えはそれほど明白であったために問題にこれまでXを超え、特に適用されます新しい技術考案必要がアプリオリに。

並列繰り返しは、私の領域からの良い例です。

$L$$x$$q_1$$q_2$$a_1$$a_2$$a_1$$a_2$$q_1,q_2$$x\in L$$x\not\in L$$s$

$s$$1$$s = 10^{-15}$$k$$q_1^{(1)},\ldots,q_1^{(k)}$$q_2^{(1)},\ldots,q_2^{(k)}$$a_1^{(1)},\ldots,a_1^{(k)}$$a_1^{(1)},\ldots,a_1^{(k)}$$k$

$s^{k}$$k$$s^{\Omega(k/\log|\Sigma|)}$$\Sigma$

$\Sigma$$k$

次に、可能になった拡張機能があります。AnupRaoは、元の証明システムが{\ em投影ゲーム}である場合、つまり最初の証明者の答えが、 2番目の証明者は、アルファベットにまったく依存せず、指数の定数を改善できます。近似結果のほとんどの難易度はプロジェクションゲームに基づいており、ユニークなゲームはプロジェクションゲームの特殊なケースであるため、これは重要です。また、エキスパンダー上のゲームの量的な改善（Ricky RosenとRan Razによる）などもあります。

次に、広範囲にわたる結果があります。ほんのいくつかの例：Razの論文の情報理論的補題は、他の多くのコンテキスト（暗号化、サンプリングと検索の同等性など）で使用されました。Holensteinが使用した「相関サンプリング」手法は、他の多くの作品（通信の複雑さ、PCPなど）に適用されました。

真実であると信じられていたステートメントを証明するために必要な厳密性（および新しい手法）のもう1つの良い例：平滑化分析。適切な2つのケース：

• シンプレックスアルゴリズム
• k-meansアルゴリズム

$k$$O(n^{c \cdot kd})$$n$

次の例は、少なくともあなたのLLLの例の精神に従うなら、あなたが探している種類の結果をもたらす多くの研究を生み出したと思います。

ロバートE.シャピレ。弱い学習可能性の強さ。機械学習、5（2）：197-227、1990

$\epsilon>0, \delta>0$$1-\delta$$\epsilon$$\epsilon$$\delta$$\delta$$\delta$$\gamma$

とにかく、物事はシャピエールの論文の後に非常に面白くなった。彼の解決策は、元のクラスの仮説に対して過半数を生み出しました。それから来た：

Yoav Freund。多数派による弱学習アルゴリズムの強化。情報と計算、121（2）：256--285、1995

この論文は、シャピレの結果の「修正」を持っていましたが、現在では、構築された仮説は単一過半数のみを使用しました。これらの線に沿って、2人はAdaBoostと呼ばれる別の予防策を作成しました。

ヨーヴ・フロイントとロバート・E・シャピレ。オンライン学習の決定論的一般化とブースティングへの応用。Journal of Computer and System Sciences、55（1）：119-139、1997

弱い/強い学習の質問は、主に理論的な懸念から始まりましたが、この一連の「修正」は、機械学習で最も影響力のある結果の1つである美しいアルゴリズムをもたらしました。私はここであらゆる種類の接線に出かけることができましたが、自分を抑制します。TCSのコンテキストでは、これらの結果は、（1）乗算ウェイトアルゴリズムと（2）ハードコアセットの結果のコンテキストで多くの命を吹き込みます。（1）について、AdaBoostがWarmuth / Littlestoneの乗法ウェイト/ winnowのインスタンス（フロイントはWarmuthの学生だった）のインスタンスとして見ることができることを明確にしたいと思いますが、ブースティングには多くの新しい洞察があります結果。（2）について、私は

歴史的な正確さのために、引用の日付は一部の人々が期待するものではないかもしれないと言うべきです。これらのいくつかには以前の会議バージョンがあったからです。

質問の性質に戻ります。ここでの「厳密」の重要な値は、学習する仮説クラス（元の仮説クラスに対する重み付き多数派）とそれらを見つけるための効率的なアルゴリズムを提供することでした。

この例は、DanaとScottの回答に沿っています。

$n$$d$$d$$2^{n-1}$$d$$2$$n^{1/(d-1)}$$2^{n^{1/(d-1)}}$$1$$n^{1/(d-1)}$$d-1$$2^{n^{1/(d-1)}}$$2^{n^{1/(d-1)}}$$d$$2^{O(n^{1/(d-1)})}$

$d$$AC^0$

RasborovとRudichの論文「Natural Proofs」は、「P≠NPであることを証明するのは本当に難しい」という痛々しいほど明白な声明の厳密な証明（形式化）を提供します。

一部のアルゴリズムの問​​題には指数関数的なステップ数、またはすべての可能性に対する徹底的な検索が必要であるという考えは、50年代以降、おそらく以前に提起されました。（もちろん、コンピューターがすべてを実行できるという競合する素朴なアイデアも一般的でした。）クックとレビンの大きなブレークスルーは、このアイデアを厳密な根拠に置くことでした。もちろん、これはすべてを変えました。

更新：Turkistanyのいい答えのような私の答えは、「洞察に導く厳格さ」という質問のタイトルを扱っているが、「定理の厳密な証明」に関する具体的な表現ではないことに気付いた。

Alan Turingは、Turingマシンを使用してアルゴリズムの概念（有効な計算可能性）を形式化しました。彼はこの新しい形式を使用して、Halting問題が決定不能であることを証明しました（つまり、Halting問題はどのアルゴリズムでも解決できない）。これは、ヒルベルト第10問題の不可能性を証明する長い研究プログラムにつながりました。1970年にMatiyasevichは、整数Diophantine方程式に整数解があるかどうかを決定できるアルゴリズムがないことを証明しました。