コスト関数はあなたが最小化したいものだと人々が言うとき、それはどういう意味ですか？

私はこれを理解するのに多くの問題を抱えています。コスト関数を頻繁に使用するべきではないという意味ですか？

いいえ、それはあなたがコスト関数の出力を最小にする入力を見つけようとしていることを意味します。使用を「最小化」する必要があるという意味ではありません。

コスト関数は、実際の予測と比較したときに、期待される結果からの大きな偏差にペナルティを課すために使用するものです。

コスト関数は、予測がどれほど悪かったかを示すものと考えることができます。コスト関数値が高いということは、予測が実際にオフになっていることを意味します。したがって、コスト関数を最小化することに焦点を当て、それによって正確な予測モデルを作成します。

機械学習のコンテキストでのコスト関数は、多くの場合、モデルのパフォーマンスを示す何らかの指標を計算します。一般的なものは、たとえば、平均二乗誤差です。ここでは、真の値と予測がわかっているすべてのテスト例を見て、その差を二乗します。このエラー（コスト関数）を最小化することで、予測がより良くなると想定します。

データがあり、そのデータに適合する関数をモデル化するとします。この関数は適切にフィットし、エラーがないことが理想的です。このエラーを定義するにはどうすればよいですか？ここで出来上がりは、コスト関数です。

（コスト）関数を最小化するということは、そのパラメーターに適切な値を見つけたいということです。値が小さいとエラーが少なくなるため、適切なパラメータは、関数が可能な限り最高の結果、つまり最小の結果を生成できることを意味します。これは最適化の問題です。可能なすべてのソリューションから最適なソリューションを見つける問題です。（ソース）