パリティ学習問題


10

ビットのセットに対して関数のクラスを定義してみましょう。修正二つの分布のp 、qは(必要であれば、その変分の距離は、少なくともある互いに「合理的に」異なるε、または類似したもの)。np,qϵ

このクラスの各関数は、k個のインデックスSのコレクションによって定義され、次のように評価されます。選択されたビットのパリティが0の場合、pからランダムサンプルを返し、それ以外の場合はqからランダムサンプルを返します。fkSpq

問題は:私はいくつかの特定のOracleへのアクセスだと仮定し、このクラスから、私が知っている間、ε(または距離の他のいくつかの尺度が)、私にはわからないのpとqと。fϵpq

PAC-learn を実行するために必要なコール数に制限はありますか?おそらく私の答えは、という点になりますN 、Kおよびε。fn,kϵ

注:出力ドメインを指定していません。繰り返しますが、私は柔軟ですが、今のところ、とqが有限領域[ 1 .. M ]で定義されているとしましょう。一般的に、それらがRで定義されている場合(たとえば、ガウス分布の場合)にも興味があります。pq[1..M]R


モデルが理解できません。oracle呼び出しで何を指定しますか?例は常にターゲットによって指定された分布から抽出されたものですか?
— Lev Reyzin

1
oracle呼び出しでは、f()を呼び出すと値が返されます。
— Suresh Venkat 2013

ターゲット機能に応じて、いずれかのpまたはqはいつもの例を生成するのに使用されていますか?(私はあなたがいくつかのクラスFをf∈FpqF
— パック

はい、そうです。問題は、1学ぶことです(またはパリティを学ぶ使用されているビット)
— スレシュヴェンカト

2
PACモデルをこのモデルにどのように適応させるかわかりません。しかし、をqから確率1 − 1 /(2 k )で区別するのに十分であるように見え、kの線形独立なxのf (x )値を取得し、ガウス消去法を使用してfを見つけることができます(f以来)は線形です)。たとえば、2つの適切に分離されたガウス分布を区別することは簡単です。pq1−1/(2k)f(x)kxff
— Sasho Nikolov 2013

回答:


6

以下のコメントでの議論は、私が質問を誤解していることを示しています。私の答えは何の入力を取っていないと返すオラクルを前提としている場所X 〜PまたはX 〜Qに応じて、F ∈ F。これは明らかに求められていることではありません。(x,f(x))x∼px∼qf∈F


目標分布はすべてのターゲットに対して固定されているため、上限PAC-サンプルを適用(これは、このための目標分布があっても完全に依存することができる結合するという事実から、次のF *)。したがって、 M ≤ 〜O(1f∗∈Ff∗ の実施例は、エラーの仮説を見つけるために十分である≤εWP≥1-δを。注意-これらの例を見た後、Fから一貫した仮説を見つける必要があり、これは扱いにくいかもしれません。

m≤O~(1ϵ(VC(F)+log⁡(1/δ)))
≤ϵ≥1−δF

p=q=Um≥Ω(VC(F))

pqk


(f,D)xD(x,f(x))fn)。レフ、あなたの答えは最初のタイプ、または2番目のタイプのオラクルを想定していますか?2番目のタイプの場合、PAC学習について話しているのですか?
— Keki Burjorjee 2013

1
(x,f(x))x∼Dfpqp=q

pq

1
fxf(x)pqx

p=N(+0.25,1)q=N(−0.25,1)def fitness() ...random_number_generator.set_seed(x)
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.