短いプログラムでは解決できない問題は何ですか？

バックグラウンド：

最近、入力として数値の配列を取得するという特定の難しい問題を解決しようとしました。以下のため、私は見つけることができる唯一の解決策は、それぞれに異なる治療持つことだった 3つの数字の順序。つまり、場合には1つのソリューションがあり、の場合には別のソリューションがあります（場合は、これら2つのソリューションのいずれかで解決できます）。$n$$n=3$$n!=6$$A>B>C$$A>C>B$$A>C=B$

ケースについて考えると、唯一の方法は、やはり、すべての異なる順序を考慮して、ケースごとに異なるソリューションを開発することです。それぞれの場合の解決策は高速ですが、プログラム自体は非常に大きくなります。したがって、問題の実行時の複雑さは小さいですが、「開発時間」の複雑さまたは「プログラムサイズ」の複雑さは非常に大きくなります。$n=4$$n!=24$

これは私が私の問題が短いプログラムでは解決できないことを試み、証明するように促しました。そこで、同様の証明の参考文献を探しました。

私が見つけた最初の概念はコルモゴロフの複雑さです。ただし、このトピックについて私が見つけた情報は非常に一般的であり、主に存在の結果が含まれています。

質問：

サイズ入力配列でを解くプログラムは少なくともサイズでなければならないなど、特定の実際の問題について説明できますか。ここで、は増加する関数ですの？$P$$P$$n$$\Omega(f(n))$$f(n)$$n$

答えは明らかにプログラミング言語の選択に依存するので、JavaまたはTuringマシンでプログラミングすると仮定します。

すべての決定不可能な問題は、まったく解決策がないため、この要件を簡単に満たします。だから私は決定的な言語を探しています。

実際に必要なのは、対応するプログラムのサイズが増加するシーケンスを形成するような問題の列挙であると思います。以下はそのような列挙の例です。しかし、私はサイズが限界を超えて増加することを証明しているだけなので、それはにはありません。私はもっ​​と良い方法を試すことができますが、この回答の何があなたの質問の見方では受け入れられないのか疑問に思っています。$O(1)$

私が正しく理解していれば、あなたが列挙したいアルゴリズムを持つすべての決定可能な問題の 1があった場合、それは時にショートプログラムになるので、これらの問題の労働組合のための均一な決定手続き等がないことを大きくなる、つまります。$P_n$$A_n$$n$$O(1(n))$

これは、列挙が計算できないことを意味します。計算可能であれば、の知識からアルゴリズムを計算できるため、列挙型のすべての問題の和集合に対して統一された手順が得られます。$A_n$$A_n$$n$

したがって、が解くようなアルゴリズムの計算可能な列挙がないような例のみを探すことができます。$A_n$$A_n$$P_n$

その前に、サイズを定義する必要があります

してみましょうゲーデル数によって列挙することチューリング機械の。このようなゲーデル列挙は計算可能です。次に、次の問題としますがすべての入力で停止した場合、はによって認識された再帰セットを認識し、そうでない場合はは空のセット認識します。$T_n$$n$$P_n$$T_n$$P_n$$T_n$$P_n$$\emptyset$

を解くアルゴリズムサイズの下限を探しているので 、TMのサイズを定義する必要があります。TMの場合、そのゲーデル数はマシンのサイズ、つまり対応するアルゴリズムと見なすことができます。実際、ピジョンホールの原理のためだけである場合でも、状態と遷移の数はとともに必然的に増加しますが、必ずしも均一ではありません（とにかくサイズの任意の定義に依存します）。$A_n$$P_n$$n$

次に、常に停止するTMについて、TMの最小Gôdel数が であることに注意して、常に停止し、と同じ再帰セットをます。したがって、は、実際にを解くアルゴリズムである最小のTMです。つまり、です。 が停止しない場合、場合、TM対応するアルゴリズムを常に使用するだけで、セット認識し、常に同じものを認識します。$T_n$${\mu(n)}$$T_{\mu(n)}$$T_n$$T_{\mu(n)}$$P_n$$A_n$$T_n$$A_n$$T_\emptyset$$\emptyset$

各問題は決定可能であり、は決定手順です。ただし、列挙は計算できませんが、不可避であることを示しました。$P_n$$A_n$$A_n$

定数与えられた場合、サイズようなが存在することを示すのは簡単ですよりも大きい。その理由は、より小さいマシンの数が有限であるのに対して、TMによって認識される再帰セットの数は無限であるためです。$C$$n$$|A_n|$$A_n$$C$$C$

したがって、これは短いプログラムで解決できない問題（より正確には問題の列挙）の例です。つまり、各の解の長さに一定の制限がないということです。$P_n$

問題の制約を満たすために、最初にサイズ配列を読み取るためのソリューションが必要であることを、各問題いつでも追加できます。しかし、それにはほとんど意味がありません。$P_n$$n$

特定の問題について、その問題の解決策をエンコードするプログラムが単一の文字であるプログラミング言語を作成できます。（HQ9 +を参照）。コルモゴロフの複雑さは言語に依存します。どの問題が爆発を引き起こすかについてのあなたの質問への答えは、あなたが選択する「標準の正式な言語」に大きく依存します。

ただし、興味深い結果がいくつかあります。ランダムに生成された文字列のエンコードには、文字列のサイズに比例したコストが常に必要です。ピジョンホールの原則は、すべてのケースの完全な列挙よりも小さい空間では表現できない関数が、固定言語Lで常に存在することを示しています。また、Blumのサイズ定理は、完全な言語では、チューリング完全言語で同じ関数をエンコードする場合と比較して、任意に選択したブローアップ係数よりも大きくエンコードできる関数が常に存在することを示しています。

関数のシーケンスが存在することがシャノンの状態の結果それほど問題点である計算するためは少なくともブール演算が必要です（つまり、を計算する回路の複雑さは少なくとも）。$f_n\colon\{0,1\}^n\rightarrow \{0,1\}$$P(n)$$f_n(x)$$x\in\{0,1\}^n$$\Theta(\frac{2^n}{n})$$f_n(x)$$\Theta(\frac{2^n}{n})$

この定理は、ブール関数があるため、取得するのはそれほど難しくありませんが、指定されたサイズの回路の数は厳密に少なくなります。$2^{(2^n)}$ $n$