高速ローカルエリアネットワークを構築する方法


35

私は映画制作に携わっており、非常に大きな生の映像ファイルに非常に高速にアクセスする必要があります。私は現在、内蔵ハードドライブにeSATA 6Gbpsドックを使用しています。これは、ドライブと同じ速度で動作します。

サーバーを使用してネットワーク経由でワークステーションに接続する場合、どのような(比較的手頃な)技術でドライブ速度に近い、またはそれを超えることができますか?


12
10Gbpsイーサネットは、「予算があれば手頃な価格」の範囲に十分収まっています。ただし、8または16Gbps SAN(ストレージエリアネットワーク-別名ファイバーチャネル)が特定の用途により適している可能性はありますか?
エクネヴァル

3
ストレージネットワーク向けに特別に設計/最適化されています。
Ecnerwal

3
確認したいだけです-SSDを使用していますか?そうでない場合、それは重要なアップグレードです。
trpt4him

1
ここでは、よりシンプルで安価なNASと比較して、SANの付加価値はありません。
ジグガンジャー

3
これに適切に答えるには、より多くの情報が必要です。どの量のデータを保存する必要があるか、何人の同時ユーザー、どこからデータにアクセスするか(どのようなマシン)?100Gbsネットワークは、1Gbsネットワークアダプターを搭載した2台または3台のマシンからアクセスすると役に立ちません。
JFL

回答:


31

ここで2017年の初めに、オンラインで容易に入手可能な情報から判断すると、最速のSATA HDDは最大約220メガバイト/秒、つまり1.760ギガビット/秒であるように見えます。

したがって、単一のドライブの速度を超えようとしているだけで、巨大なビデオファイルのテラバイトあたりのコストを考慮してHDDに制限されている場合は、10ギガビットイーサネットで十分です。


余談ですが、Thunderbolt Networkingも10ギガビット/秒であるため、既にThunderboltポートがある場合は試してみてください。6ギガビットeSATA 3ポートを上回る可能性がありますが、eSATAは非常にストレージ固有であるので、イーサネット経由でストレージを行うとオーバーヘッドが増えるため、それについてはわかりません。また、Thunderboltはデスクトップバスです。10ギガビットイーサネットが処理できる100 mではなく、数メートルに達するだけです。そのため、Thunderboltはオプションを検討しながら実験やプロトタイピングを行うのに興味深いかもしれませんが、すべてのワークステーションとディスクを大規模なテーブルの周りにバックツーバックで接続したいのでなければ、おそらく長期的なソリューションとしては適切ではありません。


それは単一のHDDのためのものでした。ただし、これらのドライブを一緒にRAID化して、すべての読み取りまたは書き込みを複数のドライブに分散させると、単一のドライブのパフォーマンスよりもはるかに優れたパフォーマンスを得ることができます。また、予算に応じて、PCIe / M.2 NVME SSDをPCに挿入してサーバー/ NASとして機能させ、非常に高速なストレージパフォーマンス(約3.4ギガバイト/秒== 27ギガビット/秒)を得ることができますドライブ。

その場合、10ギガビットイーサネットよりも高速なものを見たいと思うかもしれませんが、オンラインを見回すと、価格が10ギガビットイーサネットをはるかに超えて劇的に跳ね上がるように見えます。そのため、複数の10ギガビットリンクでリンク集約を行うことを検討してください。eBayで中古のギアを購入する手間を気にしない場合は、使用済みの40Gbps InfiniBandのようなネットワーク機器を使用した事例をオンラインで見て、安い価格でeBayで購入できます。


1
複数の10Gbit NIC +ボンディングはどうですか?
アンドレボリー

2
ボンディングにより、個別のフローで異なる物理リンクを使用できますが、単一のフローでは1つのNICのみを使用します。そのため、これは複数のファイルが同時に異なるユーザーに提供される場合に役立ちますが、単一のファイルアクセスの帯域幅は増加しません。
JFL

4
@JohnUいいえ、イーサネットは標準の1500バイトフレームで94%効率的であり、ジャンボフレームでさらに優れています。試してみることなく、930 Mbps以上のスループットを定期的に確認しています。ギガビットイーサネットでは、ハブのみが許可され、スイッチのみが許可されるため、常に全二重であり、衝突は発生しません。
Spiff

1
@JFLイーサネットボンディング(IEEE 802.3adリンクアグリゲーション)は、フローごとではなくパケットごとに負荷を分散します。ネットワーキングテクノロジーは一般に個別のレイヤーで設計されているため、イーサネット(レイヤー2、データリンクレイヤー)はIPやTCPなどの上位のプロトコルを認識しないため、フローを認識しません。
Spiff

2
@JFL Linuxアグリゲーションは確かにいくつかのlayer3 +情報を使用できます(Linuxは多くの異常なことを行うことができます)。スイッチに接続している場合、スイッチがサポートするものを実際に使用できます。
-Zoredache

5

SATAディスクに固執する場合、10Gbイーサネットを実装し、サーバー上に適度なサイズのRAID10を構築すると、単一のSATAディスクを超える顕著なパフォーマンスの向上が得られます。必要な数のワークステーション間でサーバーを共有し、スイッチを追加して将来追加できるため、これは価値のある投資になります。Cat-5Eはカットしないので、Cat-6イーサネットケーブルを実行する必要があります。この費用を計算に追加することを忘れないでください。システムをさらに高速化するために、キャッシュとしてSSDを追加することもできます。ビデオ映像を使用しているので、SSDだけで構築するには非常に高価なストレージスペースが必要になると思います。

DellまたはHPから既製のラックマウントサーバーを購入してハードウェアRAIDカードを使用するか、ハードウェアの方が多い場合は、Supermicroから安価なシャーシを購入し、ソフトウェアRAIDを使用して自分でストレージマシンを構築できますWindowsまたはLinuxのいずれか。ハードウェアRAIDは、ソフトウェアが各ディスクに順番に書き込み、書き込みが完了するのを待ってから次の操作に進む必要があるため、RAID1が関係している場合はより高速です。RAIDカードは通常、両方のディスクに並行して書き込みを行い、書き込み操作をキャッシュして、すぐにOSに制御を戻します。ただし、RAID0はさらに高速になりますが、冗長性はなく、1つのドライブに障害が発生するとデータが完全に失われることに注意してください。保持するデータがある場合は、RAID0を使用しないでください。

スケールの上限にはストレージエリアネットワーク(SAN)がありますが、これらは膨大な数の個別のクライアントからの多くの操作を並行して行えるように設計されています。これの利点は、少数の接続されたマシンのスループットが非常に高いが、ニーズに対して過剰であり、非常に高価になる可能性があることです。ローエンドでは、他の人が言及したNAS(Network Attached Storage)デバイスがありますが、フルサーバーよりはるかに単純ですが、NASはブラックボックスであることが多いため、お勧めしません。ほとんどのユーザーがプラグアンドプレイできるように設計されているため、OSをほとんど制御できません。クライアントのオフィス用に購入した小さなNASは、1日の使用後に不安定になったため、返送する必要がありました。

サーバーを構築するもう1つの利点は、すべての映像を1か所に集中できることです。これにより、定期的にバックアップするのが実用的で比較的簡単になります。バックアップ戦略を決して無視しないでください。いつかあなたはそれに依存する必要があります!


3
「ソフトウェアは各ディスクに順番に書き込み、書き込みが完了するのを待ってから次の操作に進む必要があります」。それは数十年の間真実ではありませんでした。最近では、非サーバーディスクでもコマンドキューイングをサポートしています。厳密に言えば、DMAソフトウェアを使用する場合も待つ必要はありませんでした。1998年以降、デスクトップでサポートされています。
–MSalters

最初の文はシングルユーザーに当てはまりますが、共有帯域幅である10Gbは、複数のユーザーが同時に共有にアクセスしようとすると、それぞれの帯域幅が最終的にシングルユーザーのSATAレベルを下回ることを意味します。
ダン・ニーリー

2
NASは定義上、特別なデバイスではありません。SambaまたはNFSを備えた通常のLinux PCをNASと呼ぶことができます。主な違いは、ファイルレベルの共有とブロックレベルの共有です。ブロックデバイスは、一度に1つのクライアントのみが使用できます。また、SANはより高価であり、構成に必要な知識が長くなります。
ジグガンジャー

@jiggunjer非常に真実ですが、SambaでPCを構築するほとんどの人は、それをNASではなくファイルサーバーと呼びます。私は、特殊な目的のデバイスを意味するために、技術的に遊んでいます。また、SANについても非常に当てはまります。そのため、私はそれらを過剰に分類しました。
Gargravarr

@DanNeelyはい、同時アクセスでクライアントが追加されると、各ワークステーションの速度は低下しますが、サーバーから送信されるデータの合計レートは非常に高いままであるはずです。SSDキャッシュで拡張すると、このほとんどを補うことができます。
-Gargravarr

3

10gbeの柔軟性と構成の容易さに勝るものはありませんが、SASは驚くほどネットワーク化されています。

ボリュームが複数のコンピューターから一度に書き込み可能である必要のない少数のワークステーション(n <8)の場合、SASは非常に効果的です。タイアンJBOD($ 1,500の)およびLSI HBA($ 400)は、我々は3400メガバイト/秒(Gbpsの27)を取得SSDへの転送を持続。JBODには、HBAへの3つのアップリンクを備えた内部スイッチがありますが、ポート数を増やすにはSASスイッチを使用できます。

ボリュームの1つの速度テストは次のとおりです。

CDM5は、キューに32個のiopsがある2,862MB / sの順次読み取りを示しています。 4kシングルスレッドランダムリード29MB / s

内部的には、10gbe を使用してクライアントに配布される記憶域スペース実行するクラスター化Windowsサーバーでこのソリューションを使用します。

クラスター化されたWindowsサーバー


2

https://www.newegg.com/Product/Product.aspx?Item=N82E16820147593&cm_re=samsung_m.2- -20-147-593- -製品

まず、正しいマザーボードを提供するM.2 SSDは、2gb-4gb / s以上に達する可能性があります。これらのいくつかを一緒にRAIDすると、速度はさらに速くなります。

複数の10gb NICをチーム化すると、ネイティブの速度に近づけることができます。

10gを超えるものは、はるかに多くのお金です。

40ギガビットNIC https://www.serversupply.com/products/part_search/pid_lookup.asp?pid=263133&gclid=Cj0KEQiA9P7FBRCtoO33_LGUtPQBEiQAU_tBgIU2jZrJKf0kXFy96roOllcRkp7j-VoubG_n7xb0_pgaAnaT8P8HAQ


10ギガバイトを超えると、シーンのローカルバス速度が制限要因になる可能性があります:) PCI-express 2.0 x16スロットは理論的には64GBit / sですが、すべての側面のオーバーヘッド(バスからメモリ、ドライバソフトウェアからメモリ、CPU負荷) ...)...かなり近いあなたの10GbEがライン速度で動作している場合、あなたが喜んでいることができる場所へのダウンをかじるます
rackandboneman

2
@rackandboneman:スマートNICがあるのはそのためです。10Gb / sイーサネットは生の速度です。イーサネット、IP、およびTCPヘッダーはNICで処理できるため、CPUは実際のデータのみを処理できます。
–MSalters

これらのオフロードメカニズムがアプリケーションシナリオと組み合わせて機能する場合、CPU使用率は削減されますが、そのトラフィックの多くがそもそもゴミである場合を除き、データ量を大幅に削減することはありません...
rackandboneman

@rackandboneman PCIe 3.0 x16が存在するため、速度はその2倍になります。
サイバーナード

10gbeはそれよりもはるかに安価です。Mellanoxnicは180ドルで、25gbeはMellanox 25gbeが300ドルです。あなたを殺すのはスイッチのポートコストですが、eBayまたはフルメッシュはその問題を解決します。
ミッチ

0

ファイバースイッチ付きのファイバーイーサネットカードを使用します。理想的には、パッド付きのマルチモードまたはシングルモードです。予算があれば、10gbpsの全体を作成できます。デュアルポートファイバーカードでリンクアグリゲーションを使用すると、20gbpsを取得できます。「比較的手頃な」という用語は予算によって異なるため、実際に使用する金額は参考になるでしょう。


0

最も安価な方法は、1つではなくリンクアグリゲーション(IEが実行するN本のケーブル、通常2本)を使用することです。

これにより、汚れのない1Gbリンクが2Gbリンクになります。

明らかに、1つのクライアントサーバーに少なくとも4つのポートが必要であることを意味します。


クライアントには2つのポートが必要です...これで簡単なスイッチは機能しますか?それとも直接リンクする必要がありますか?
ジグガンジャー

@jiggunjerシンプルスイッチを使用できますが、このスキームを使用するすべてのコンピューター/サーバーで特別な構成が必要です
-Antzi

この集計は、@ Spiffによる回答のコメントで言及されている結合と同じですか?この場合、単一ファイルアクセスの帯域幅は増加しません
...-jiggunjer

@jiggunjerこれは本当にあなたがセットアップする方法に帰着するので、私は本当に答えることができません。
Antzi

1
@FlorianCastellaneの最新の安いものは購入しませんでした。仕様に依存
Antzi
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.