タグ付けされた質問 「network-topology」

完全に接続された（少なくとも2つ以上の隠れ層がある層から層へ）バックプロップネットワークは、普遍的な学習者です。残念ながら、彼らはしばしば学習が遅く、過度に適合したり、扱いにくい一般化を持つ傾向があります。 これらのネットワークにだまされてから、エッジの一部を枝刈りすることで（重みがゼロで変更できないように）、ネットワークの学習が速くなり、一般化が促進される傾向があることを確認しました。これには理由がありますか？それは、ウェイト検索スペースの次元の減少のためだけですか、それとももっと微妙な理由がありますか？ また、より良い一般化は、私が見ている「自然な」問題の成果物ですか？

29 machine-learning  network-topology  neural-networks 

コンピュータネットワーキングおよび高性能クラスタコンピュータの設計では、ネットワークトポロジは、ノードがリンクで接続されて通信ネットワークを形成する方法の設計を指します。一般的なネットワークトポロジには、メッシュ、トーラス、リング、スター、ツリーなどが含まれます。これらのトポロジを分析的に調査して、期待されるパフォーマンスに関連するプロパティを決定できます。このような特性には、直径（ノードが通信する場合に交差する必要のあるリンクの数に関するノードのペア間の最大距離）、ノード間の平均距離（ネットワーク内のノードのすべてのペア全体）、およびバイセクション帯域幅が含まれます。 （ネットワークの2つの半分の間の最悪の場合の帯域幅）。当然、他のトポロジーとメトリックが存在します。 Kochスノーフレークに基づくネットワークトポロジを考えてみましょう。そのようなトポロジの最も単純な具体化は、完全に接続されたセットアップの3つのノードと3つのリンクで構成されます。直径は1、平均距離は1（ノード内に通信を含める場合は2/3）などです。 トポロジの次の具体化は、12個のノードと15個のリンクで構成されています。3つのノードの3つのクラスターが完全にあり、各クラスターは3つのリンクによって完全に接続されています。さらに、3つの元のノードがあり、6つの追加リンクを使用して3つのクラスターを接続しています。 実際、インカネーションノードとリンクの数は、次の反復関係によって記述されます 。N （1 ）= 3 L （1 ）= 3 N （k + 1 ）= N （k ）+ 3 L （k ）L （k + 1 ）= 5 L （k ） うまくいけば、このトポロジーの形状は明確です。化身のkはのように見えるのkkkkN(1)=3N(1)=3N(1) = 3 L(1)=3L(1)=3L(1) = 3 N(k+1)=N(k)+3L(k)N(k+1)=N(k)+3L(k)N(k+1) = N(k) + 3L(k) L(k+1)=5L(k)L(k+1)=5L(k)L(k+1) = 5L(k)kkkコッホ曲線の化身。（重要な違いは、私が念頭に置いていることですが、実際には、連続する反復で1/3ノードと2/3ノード間のリンクを維持しているため、各「三角形」が完全に接続され、上記の反復関係が保持されます）。kthkthk^{th} さて、質問です： このネットワークトポロジは調査されていますか？調査されている場合、それは何と呼ばれますか？広範囲にわたって調査されている場合、参考資料はありますか？そうでない場合、このトポロジの直径、平均距離、および二分帯域幅は何ですか？これらは、コスト（リンク）とメリットの点で、他の種類のトポロジとどのように比較されますか？ 「星の星」トポロジーについて聞いたことがあります。これは、これと似ていますが、同一ではないと思います。どちらかといえば、これは「リングのリング」、またはそれらの線に沿った何かのようです。当然、このトポロジの定義に微調整を加えたり、より高度な質問をしたりすることができます（たとえば、以前の段階で導入されたリンクに異なる帯域幅を割り当てるか、そのようなトポロジのスケジューリングまたはデータ配置について話し合うことができます）。より一般的には、エキゾチックな、またはほとんど研究されていないネットワークトポロジーの実用的な参考資料にも関心があります（実用性に関係なく）。 …

10 computer-networks  network-topology