ディープニューラルネットワークトレーニングの視覚化

トレーニング中に重みをプロットするために、多層ネットワーク用のヒントン図に相当するものを見つけようとしています。

訓練されたネットワークは、Deep SRNに多少似ています。つまり、複数のヒントンダイアグラムの同時プロットを視覚的に混乱させる多数のウェイトマトリックスがあります。

誰もが複数のレイヤーを持つリカレントネットワークの重み更新プロセスを視覚化する良い方法を知っていますか？

このトピックに関する論文はあまり見当たりません。何かが思いつかない場合は、代わりにレイヤーごとの重みに時間関連の情報を表示することを考えていました。たとえば、各レイヤーの経時的な重みの差分（すべての単一接続の使用を省略します）。PCAは別の可能性です。ただし、視覚化はトレーニング中にオンラインで行われるため、あまり多くの計算を行わないようにします。

私が知っているのはConvNetJSです：

ConvNetJSは、ブラウザで完全にディープラーニングモデル（主にニューラルネットワーク）をトレーニングするためのJavascriptライブラリです。タブを開くと、トレーニングが始まります。ソフトウェア要件、コンパイラ、インストール、GPU、汗は一切ありません。

このサイトのプロットのデモでは、重量とそれらが時間とともにどのように変化するかを念頭に置いています（実際のネットワークには多くのニューロンがあるため、多くのパラメーターを念頭に置いてください）。さらに、プロットに満足できない場合は、ネットワークパラメータにアクセスでき、希望どおりにプロットできます（JavaScriptであるため）。

あなたの質問に関連するトピックの大まかな理解に基づいて、Gephi（https://gephi.github.io ;元のgephi.orgリンクはそこにリダイレクトされます）はニューラルネットワークの動的視覚化を処理できるはずだと思います。目標を達成するには、対応する重み（https://forum.gephi.org/viewtopic.php?t=1875）でグラフをストリーミングする必要があるようです。以下のためのストリーミング、あなたが最も可能性が高い。この必要になりますプラグイン：https://marketplace.gephi.org/plugin/graph-streamingを。

UPDATE：あなたはまた、便利なソニアソフトウェアを見つけることがhttp://web.stanford.edu/group/soniaを。