SVMアルゴリズムで、ベクトルwが分離超平面に直交するのはなぜですか?


13

私は機械学習の初心者です。SVMでは、分離超平面はとして定義されます。なぜ分離超平面に直交するベクトルwと言うのですか?y=wTx+bw


3
同様の質問(ニューラルネットワーク用)の回答はこちらです。
bogatron

@bogatron-完全に同意します。しかし、私のものはSVM固有の答えです。
無題の

2
そうではありませんが。あなたの答えは正しいですが、SVMに固有のものはありません(あるべきではありません)。は、超平面を定義するベクトル方程式です。wTx=b
bogatron

回答:


10

幾何学的に、ベクトルwは定義される直線に直交するように向けられます。これは次のように理解できます。wTx=b

まず取ります。これで、wとの内積が消失するすべてのベクトルxがこの式を満たしていることがわかります。つまり、wに直交するすべてのベクトルがこの式を満たしています。b=0xw

次に、超平面を原点から離れる方向にベクトルaで平行移動します。平面の方程式は次のようになります。、つまり、オフセットb = a T wの場合、ベクトルaのベクトルwへの射影であることがわかります。(xa)Tw=0b=aTwaw

したがって、一般性を失うことなく、平面に垂直を選択できます。その場合、長さこれは、原点と超平面の間の最短の直交距離を表します。||a||=|b|/||w||

したがって、ベクトルは分離超平面に直交すると言われています。w


4

理由、我々はそれがそのようであることを定義するために超平面に垂直では次のようになります。w

P0P0=x0,y0,z0(0,0,0)<x0,y0,z0>P(x,y,z)PP0

PP0=<xx0,yy0,zz0>

n^

n^(PP0)=0
n^Pn^P0=0
n^P0bn^wPxw

2

wTx+b=0xaxb

wTxa+b=0wTxb+b=0

wT.(xaxb)=0xaxbxbxawT.(xaxb)wTxaxb


0

超平面に直交するベクトルの代数的定義を使用する:

 x1,x2

wT(x1x2)=(wTx1+b)(wTx2+b)=00=0 .
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.