平均絶対誤差または二乗平均平方根誤差？

なぜ平均絶対誤差（MAE）ではなく、ルート平均二乗誤差（RMSE）を使用するのですか？

こんにちは

計算で生成されたエラーを調査してきました。最初は、エラーをルート平均正規化二乗誤差として計算しました。

少し詳しく見てみると、誤差を2乗すると、小さい誤差よりも大きい誤差の方が重みが大きくなり、誤差の推定値が奇数の外れ値に向かって歪んでいます。振り返ってみると、これは非常に明白です。

だから私の質問-どのような場合に二乗平均平方根誤差は平均絶対誤差よりも適切な誤差の尺度になるでしょうか？後者は私にとってより適切であると思われますか、何か不足していますか？

これを説明するために、以下の例を添付しました。

• 散布図は、良好な相関関係を持つ2つの変数を示しています。

• 右のグラフの2つのヒストグラムは、正規化されたRMSE（上）とMAE（下）を使用したY（観測値）とY（予測値）の間の誤差です。

このデータには重要な異常値はなく、MAEはRMSEよりも低いエラーを示します。MAE以外が望ましい、一方のエラー測定値をもう一方よりも使用するための合理的なものはありますか？

これは損失関数に依存します。多くの場合、平均値からさらに離れたポイントにより多くの重みを付けることは理にかなっています。つまり、10オフすることは5オフするよりも2倍以上悪いことです。そのような場合、RMSEはエラーのより適切な尺度です。

10だけ離れていることが5だけ離れている場合の2倍だけ悪い場合、MAEがより適切です。

いずれの場合でも、最後から2番目の文で行うようにRMSEとMAEを相互に比較することは意味がありません（「MAEはRMSEより低いエラーを与える」）。MAEは、計算方法によりRMSEより高くなることはありません。同じエラーの測定値と比較して意味があります：方法1のRMSEと方法2のRMSE、または方法1のMAEと方法2のMAEを比較できますが、方法のRMSEよりもMAEが優れているとは言えません1小さいため。

MAEの代わりに（R）MSEを使用する場合の別の状況は次のとおりです。観測の条件付き分布が非対称であり、偏りのないフィットが必要な場合。（R）MSEは条件付き平均によって最小化され、MAEは条件付き中央値によって最小化されます。したがって、MAEを最小化すると、近似は中央値に近くなり、バイアスがかかります。

もちろん、これはすべて損失関数に依存します。

MAEまたは（R）MSEを使用して予測または予測を評価している場合、同じ問題が発生します。たとえば、通常、少量の販売データには非対称の分布があります。MAEを最適化すると、MAEに最適な予測がフラットゼロ予測であることに驚くかもしれません。

これをカバーする少しのプレゼンテーションがあります、そして、これは私がこの効果を説明したM4予測競争の最近の招待されたコメントです。

RMSEは、ユークリッド距離の損失を記述するより自然な方法です。したがって、3Dでグラフ化すると、上記の緑のように損失は円錐形になります。これは高次元にも適用されますが、視覚化するのは困難です。

MAEは都市ブロック距離と考えることができます。青色のグラフでわかるように、損失を測定する方法としてはそれほど自然ではありません。