タグ付けされた質問 「softmax」

Udacityの深い学習クラス、Y_Iのソフトマックスは、単に全体のYベクトルの指数の合計で割った指数です。 どこS(y_i)のソフトマックス関数であるy_iとe指数関数的であるとjnoです。入力ベクトルYの列の数。 私は以下を試しました： import numpy as np def softmax(x): """Compute softmax values for each sets of scores in x.""" e_x = np.exp(x - np.max(x)) return e_x / e_x.sum() scores = [3.0, 1.0, 0.2] print(softmax(scores)) これは次を返します： [ 0.8360188 0.11314284 0.05083836] しかし、提案された解決策は： def softmax(x): """Compute softmax values for each sets of scores …

245 python  numpy  machine-learning  logistic-regression  softmax 

ニューラルネットワークの出力層では、softmax関数を使用して確率分布を概算するのが一般的です。 これは、指数のために計算にコストがかかります。すべての出力が正になるようにZ変換を実行し、すべての出力をすべての出力の合計で除算するだけで正規化しませんか？

159 math  neural-network  softmax 

私は最近出会ったtf.nn.sparse_softmax_cross_entropy_with_logitsと私は違いが比較されているものを把握することはできませんtf.nn.softmax_cross_entropy_with_logits。 使用時にトレーニングベクトルyをワンホットエンコードする必要がある唯一の違いはありsparse_softmax_cross_entropy_with_logitsますか？ APIを読んでも、と比較して他の違いを見つけることができませんでしたsoftmax_cross_entropy_with_logits。しかし、なぜ追加の機能が必要なのでしょうか。 ワンホットエンコードされたトレーニングデータ/ベクトルが提供されている場合softmax_cross_entropy_with_logits、と同じ結果を生成するべきではありませんsparse_softmax_cross_entropy_with_logitsか？

111 neural-network  tensorflow  softmax  cross-entropy