PAC学習モデルの定義

おそらくほぼ正しい（PAC）学習モデルは、次のように定義されます。

概念クラスアルゴリズムが存在する場合PAC-学習可能であると言われていると多項式関数そのような任意のそれ> 0ε及びδ> 0は、すべての分布のために、D上のX及びターゲットコンセプトc∈Cの場合、サンプルサイズm≥poly（1 /ε、1 /δ、n、size（c））について次のことが成り立ちます。$C$$A$$poly(·,·,·,·)$$ε>0$$δ>0$$D$$X$$c∈C$$m≥poly(1/ε,1/δ,n,size(c))$

$Pr[R(hs)≤ε]≥1-δ$

ここで、$R(hs)$は、分布Dに続く変数Xのインスタンスを含むサイズmのサンプルSの一般化誤差であり、size（c）は、c∈Cの計算表現の最大コストです。$S$$m$$X$$D$$size(c)$$c∈C$

$poly(1/ε,1/δ,n,size(c))$が多項式であることを知っています。しかし、poly（1 /ε、1 /δ、n、size（c））の明示的な形式は何$poly(1/ε,1/δ,n,size(c))$ですか？変数は何ですか？その程度は何ですか？

は、多項式、またはより一般的には多項式有界関数（つまり、多項式で有界な関数以外は制約がありません。この場合、違いは問題ではありません。一般性を失うことなく、一部の場合、と想定できます。$poly(\cdot,\cdot,\cdot,\cdot)$$A,B > 0$$poly(x,y,z,w) = A(xyzw)^B$

定義は、概念を学習するために必要なサンプルの数が少ない状況をモデル化しようとしています。「小さい」を定量化するには、最初にそれがどの量になるか（この場合は）について決定する必要があり、、どの程度小さいかを決定する必要があります"小さい"。この場合、「小さい」は、多項式で成長する任意の関数であると定義します。他のケースでは、より厳しい要件があります。たとえば、「小さい」を多項式にしたいとし。$\epsilon,\delta,n,size(c)$$1/\epsilon,1/\delta,n,size(c)$$\log \frac{1}{\epsilon}, \log \frac{1}{\delta}, n, size(c)$

複雑性理論の標準的な定義は、多項式時間の定義です。我々はいくつかの問題を解決するためのアルゴリズムであると言って、効率的であればサイズの入力には、時間多項式で実行、その実行中の時間であり、中にいくつかの多項式によって制限され。あなたの専門用語では、これをある多項式と表現できます。以前と同様に、多項式場合、実際には、いくつかのであり、一般性を失うことなく、と仮定できます$n$$n$$T(n)$$n$$T(n) \leq poly(n)$$n$$T(n) \leq poly(n)$$poly(\cdot)$$T(n) \leq An^B$$A,B>0$$poly(n) = An^B$。ただし、値を事前に決定する必要はありません。いくつかの値が機能限り、私たちは幸せです。$A,B$$A,B$

あなたの場合も同様で、多項式だけが1つの量ではなく、いくつかの量に依存することができます。