回答:
基本的なサポートベクターマシンはハードマージンのSVMを意味すると思います。では、復習しましょう。
つまり、トレーニングサンプル空間ですべての観測を正しく分離できる最大のマージンを持つ超平面を見つけたいと考えています。
上記の定義で、解決する必要がある最適化問題は何ですか?
max(margin)
margin
し、制約も満たす必要があります:サンプル内エラーなし質問に戻りますが、トレーニングデータセットは線形分離可能ではないと述べたため、特徴変換なしのハードマージンSVMを使用すると、「サンプル内エラーなし」を満たす超平面を見つけることができません。。
通常、SVM最適化問題は制約付きで最適化タスクを実行できるため、二次計画法で解決します。ハードマージンSVMの制約を満たさない勾配降下法またはその他の最適化アルゴリズムを使用する場合でも、結果は得られますが、それはハードマージンSVMハイパープレーンではありません。
ちなみに、非線形分離可能なデータでは、通常、