PAC学習には、計算的に制限のない学習者による情報理論学習に必要なサンプルの複雑さと、多項式に必要なサンプルの複雑さとの間に多項式のギャップがある自然概念クラス（決定リストのサブセットなど）があることが知られています時間学習者。（例：http : //portal.acm.org/citation.cfm?id=267489&dl=GUIDEまたはhttp://portal.acm.org/citation.cfm?id=301437を参照）
ただし、これらの結果は特定の例では秘密のエンコードに依存しているように見えるため、学習者が分布の統計的特性を照会するだけの学習のSQモデルに自然に変換されません。
O（f（n））クエリを使用してSQモデルの情報理論学習が可能なコンセプトクラスが存在するかどうかが知られていますが、計算効率の高い学習はg（n ）>> f（n）？
回答:
私は少し前にこの質問をしました（自分で）。少なくとも特定の分布に関する学習については、理論的にはSQ学習可能ですが、SQ学習がNP困難な概念クラスの非常に単純な例があります。\ phiをSATインスタンスのバイナリエンコーディングとし、yを辞書順で最初に満たす割り当てとします（または、0 ^ nはインスタンスが満たされない場合）。ここで、f（\ phi）をドメインの半分以上がMAJ（\ phi）であり、ドメインの後半がPAR（y）に等しい関数とします。ここで、MAJは文字列\ phiで1に設定された変数の多数決関数であり、PAR（y）は文字列yで1に設定された変数のパリティ関数です。この方法で取得した関数のクラスをFとします。一様分布UでFをSQで学習するには、\ phiを見つけてyを見つけるために、多数派（これは簡単です）を学ぶだけです。一方、SATからFへのSQ学習を（3/4をはるかに上回る精度まで）均一な分布で減らすことはかなり簡単です。この理由は、当然、パリティは本質的にSQに「見えない」ため、SATを解いてFを学習する必要があるためです。