パリティ学習問題

ビットのセットに対して関数のクラスを定義してみましょう。修正二つの分布のp 、qは（必要であれば、その変分の距離は、少なくともある互いに「合理的に」異なるε、または類似したもの）。$n$$p, q$$\epsilon$

このクラスの各関数は、k個のインデックスSのコレクションによって定義され、次のように評価されます。選択されたビットのパリティが0の場合、pからランダムサンプルを返し、それ以外の場合はqからランダムサンプルを返します。$f$$k$$S$$p$$q$

問題は：私はいくつかの特定のOracleへのアクセスだと仮定し、このクラスから、私が知っている間、ε（または距離の他のいくつかの尺度が）、私にはわからないのpとqと。$f$$\epsilon$$p$$q$

PAC-learn を実行するために必要なコール数に制限はありますか？おそらく私の答えは、という点になりますN 、Kおよびε。$f$$n, k$$\epsilon$

注：出力ドメインを指定していません。繰り返しますが、私は柔軟ですが、今のところ、とqが有限領域[ 1 .. M ]で定義されているとしましょう。一般的に、それらがRで定義されている場合（たとえば、ガウス分布の場合）にも興味があります。$p$$q$$[1..M]$${\mathbb R}$

以下のコメントでの議論は、私が質問を誤解していることを示しています。私の答えは何の入力を取っていないと返すオラクルを前提としている場所X 〜PまたはX 〜Qに応じて、F ∈ F。これは明らかに求められていることではありません。$(x, f(x))$$x \sim p$$x \sim q$$f \in F$

目標分布はすべてのターゲットに対して固定されているため、上限PAC-サンプルを適用（これは、このための目標分布があっても完全に依存することができる結合するという事実から、次のF *）。したがって、 M ≤ 〜O（$f^* \in F$$f^*$ の実施例は、エラーの仮説を見つけるために十分である≤εWP≥1-δを。注意-これらの例を見た後、Fから一貫した仮説を見つける必要があり、これは扱いにくいかもしれません。

$p=q=U$$m \ge \Omega(\mathrm{VC}(F))$

$p$$q$$k$