損失関数とエラー関数の違いは何ですか？

「損失」という用語は「エラー」と同義ですか？定義に違いはありますか？

また、「損失」という用語の起源は何ですか？

注意：ここで言及されているエラー関数は、通常のエラーと混同しないでください。

予測モデルまたは推論モデルのコンテキストでは、「エラー」という用語は一般に、その値の予測または予想からの実際の値からの逸脱を指します。これは、予測メカニズムと観測中の量の実際の動作によって完全に決定されます。「損失」とは、特定のサイズ/方向のエラーを取得することがどれほど悪いかを定量化した尺度であり、不正確な予測によって生じる負の結果の影響を受けます。

エラー関数は、予測からの観測可能な値の偏差を測定しますが、損失関数はエラーに作用してエラーの負の結果を定量化します。たとえば、状況によっては、エラー損失の二乗があると仮定するのが妥当かもしれません。エラーの負の結果は、エラーの二乗に比例するものとして定量化されます。他の状況では、特定の方向のエラー（たとえば、偽陽性対偽陰性）により悪影響を受ける可能性があるため、非対称損失関数を採用する場合があります。

エラー関数は純粋に統計的なオブジェクトですが、損失関数はエラーの負の結果を定量化するために導入する決定理論的なオブジェクトです。後者は、決定理論と経済学で使用されます（通常、その反対-基本効用関数を使用）。

---

例：あなたは、Mobの違法な賭博場を運営している犯罪者です。毎週、利益の50％をMobボスに支払う必要がありますが、その場所を運営しているので、ボスは利益の真の計算をあなたに頼っています。良い週があれば、あなたは自分の利益を過小評価することで彼を生地から固めることができるかもしれませんが、上司に彼が本当の利益であると疑うものに比べて過少支払いをすると、あなたは死んだ男になります。それで、あなたは彼がどれだけ得ることができるかを予測し、それに応じて支払いたいです。理想的には、彼が期待していることを正確に伝え、残りはそのままにしておきますが、予測エラーを起こし、多すぎる、または少なすぎる支払いをする可能性があります。

$\pi = \$40,000$$\tfrac{1}{2} \pi = \$20,000$$\theta = \$15,000$$\hat{\theta}$

$$\text{Error}(\hat{\theta}, \theta) = \hat{\theta} - \theta ,$$

（損失が金銭的に線形であると仮定した場合）損失関数は次のとおりです。

$$\text{Loss}(\hat{\theta}, \theta) = \begin{cases} \infty & & \text{if } \hat{\theta} < \theta \quad \text{(sleep wit' da fishes)} \\[6pt] \hat{\theta} - \pi & & \text{if } \hat{\theta} \geqslant \theta \quad \text{(live to spend another week)} \\ \end{cases}$$

これは、誤差関数とは大幅に異なる非対称損失関数（以下のコメントで説明する解決策）の例です。この場合の損失関数の非対称性は、未知のパラメーターが過小評価されている場合の壊滅的な結果に重点を置いています。