通常の最小二乗法で二重棒と下部にある2の意味は何ですか?


10

ここでは、通常の最小二乗法のこの表記を見まし

minwXwy22

二重バーとその下の2は見たことがありません。これらの記号はどういう意味ですか?彼らには特定の用語がありますか?


5
二重棒の使用は、L2ノルムを使用していることを示しています。
マイケルR.シェニック2017年

@MichaelChernickとその2?それは「L2ノルム」の一部ですか?
Aseem Bansal 2017年

1
はい、L2と同様に、L1もあります。
Jon

私が思うにXwあるべきXwので、wベクトルである
ilanman

@ilanmanはい、編集前の表記でした。元に戻しました
Aseem Bansal 2017年

回答:


29

あなたはベクトル()の -norm(ユークリッドノルム)について話しています。もし、簡単に、この外国人の場合はノルムベクトルの、次のとおりです。2XwypuRn

up=(i=1n|ui|p)1p

したがって、あなたの場合は、線形回帰の残差の2乗の合計と一致します。回帰問題のコンテキストでは、これは平均二乗誤差(MSE)計算やリッジ回帰でもよく見られます。u22=((i=1n|ui|2)12)2=i=1nui2

これは一般的な基準です(他の理由の中でも特に、数学的には便利です)。コンテキストから明らかな場合は、下の省略され、ます。2u2

コメントで述べたように、も表示される場合があります。1

u1=i=1n|ui|

これは絶対値に対応します。繰り返しますが、これは平均絶対誤差(MAE)またはなげわの問題として表示されます。

その他の一般的な基準:

  • 0ハミング距離、またはベクトル内の非ゼロの数、つまり、ベクトルのスパース性の計算。技術的にはこれは標準ではありません(カーディナリティ関数です)。これ は、定義に項が含まれているためですが、これは標準の形をしているので、これを1と呼びます。 10
    • このノルムは、係数をゼロにしたいので、回帰問題のスパース性を誘導するのに使用される理想的なノルムですが、正規化の計算はNP難しいため、代わりに線形プログラミングで解けるで近似します。また、圧縮センシングでも人気があります。01
  • -norm:= formaxi {|xi|}i=1,...,n
  • AF:フロベニウス(ユークリッド)ノルム、行列適用ARn×m=i=1nj=1m|aij|2

2
wolfram alphaへのリンクは本当に役に立ちました。
Aseem Bansal 2017年

あなたは(疑似)ノルムがベクトルのゼロの数を数えると書いています—おそらくゼロでないエントリの数を意味していましたか?(これは私が見たものとより一致するであろう、また、ことを意味するとの間のハミング距離となりおよびあることとは対照的に、そのマイナス距離)0u0u0Rnn
wchargin 2017年

1
スペルエラー:「フロベニウス」。
ホブ、

1
「これは一般的な規範です」の代わりに、「L2が規範である」と言っただろう;)
user541686
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.