タグ付けされた質問 「gradient-descent」

私が言及した複数のリソースは、MSEは凸型であるため優れていると述べました。しかし、特にニューラルネットワークのコンテキストでは、その方法がわかりません。 次のものがあるとします。 バツXX：トレーニングデータセット YYY：ターゲット ΘΘ\Theta：モデルfΘfΘf_\Thetaパラメータのセット Θ（非線形性を持つニューラルネットワークモデル） 次に： MSE（Θ ）= （fΘ（X）− Y）2MSE⁡(Θ)=(fΘ(X)−Y)2\operatorname{MSE}(\Theta) = (f_\Theta(X) - Y)^2 なぜこの損失関数は常に凸型になるのでしょうか？これはに依存しないfΘ（X）fΘ(X)f_\Theta(X)？

9 neural-networks  math  backpropagation  gradient-descent