データセンター間で/ homeを共有する


15

2つのサーバーがあり、オランダとフランスのデータセンターに配置されています。両方ともDebian Wheezyを実行しています。それらの間で/ homeを共有する必要がありますが、パフォーマンスは良好です。サーバーには300人のユーザーがいて、そのうち約30人が特定のサーバーで特定の時間にアクティブなプロセスを実行できる必要があります。読書。ローカルストレージ上のiotopを使用した測定。合計で約500000の小さなファイルが多数あり、可能な限り低遅延が必要です。サーバー間のpingは17ミリ秒であり、scpとwgetを使用すると、接続は約20〜30 MB / sに達することができます。十分な帯域幅が利用可能であるように思えますが、...

sshfs:nfsよりもパフォーマンスが優れているように見えましたが、ファイルのアクセス権をrootに変更したため、アプリケーションがクラッシュしました。

nfs:遅くする方法、noatimeに他の多くのオプションを試しましたが、アクティブなプロセスが少数の場合でも動作が遅くなります。

drbd:両方のシステムにファイルシステムを実際にマウントできないことに気付いた5時間の行き止まりの作業:-(

glusterfs:すべてのデータのローカルコピーは本当に有望に聞こえますが、ランダムなファイルアクセスは非常に遅く、しばらく実行すると信じられないほど遅くなり、ほとんどハングします。noatimeは役に立ちません。

再びnfs:まだ低迷しています。

キーボードに泣く:まったく改善されません。

次に何を試してみますか?失敗した各試行は、先週中に1晩かそれ以上の時間を費やしました。次の方法がうまくいきたいと思います。はい、両方のサーバー間でファイルシステムを共有することが重要です。

この問題に関する新しいアイデアをありがとう。


6
「キーボードに向かって泣く:まったく改善されません。」OK、それは私から+1を受け取ります。
ceejayoz 14

おそらく、glusterfsまたはcephが必要でしょう。分散ファイルシステム。また、drbdを複数回マウントできますが、読み取りと書き込みは1回だけで、とにかく恐ろしい悪い考えです。
Sirex 14

私はglusterfsを試しましたが、大きなファイルではうまく機能しますが、小さなファイルの読み取りや書き込みを行うと、本当に遅くなります。これはglusterfsの一般的な問題のようであり、それに対する修正を見つけることができませんでした。Cephを調べます。自分で試したことがありますか?
user3850506 14

3
同じブロックデバイスとファイルシステムをマウントし、別のシステムのROでさえも、バッキングブロックデバイスがいつでも任意に変更できることをファイルシステムドライバーが理解しない限り、悪いことです。ブロックデバイスが変更され、inodeキャッシュが完全に無効化される可能性があり、VFSはユーザーが思っていた場所にないデータを喜んで読み取ります。GFS2やveritasなどの共有ディスク対応ファイルシステムは、DRBDまたはSANのようなディスク上でそれを実行できます。ただし、小さなファイルのパフォーマンスが許容範囲であるとは言えません。
アンドリュードマゼク14

回答:


2

これにはいくつかの解決策があります。

  1. DRBD(または上記のMARS)などの複製されたブロックストレージを使用できますが、ブロックストレージの上にクラスターファイルシステムをセットアップする必要があります。このようなファイルシステムはGFS2またはOCFS2であり、どちらもDebianカーネルafaikで利用可能です。DRBDはプライマリ/プライマリを処理でき、両方のサーバーに同時にマウントできます。ただし、これを標準のファイルシステムで実行すると、一方のサーバーが他方のサーバーを認識せず、数秒でファイルシステムが破壊されます。最上位のクラスターファイルシステムは、両方のノードが同じブロックに書き込むことができるように、通信とロックを処理します。

  2. / homeには分散ファイルシステムを使用します。このようなファイルシステムのリストは、http://en.wikipedia.org/wiki/Comparison_of_distributed_file_systemsにあります。しかし、注意して賢明に選択してください。それらはすべて魔法をかけることができず、すべて欠点があります。Glusterはそのようなファイルシステムです。一部のシステムでは、2つ以上のノードが必要になる場合があります。

  3. リアルタイムで複製する必要がなく、ほぼリアルタイムのファイル同期で十分な場合は、BitTorrent Sync(http://www.getsync.com/)、Dropbox、または代替手段をご覧ください。各サーバーには独自の/ homeがありますが、変更はファイルごとに他のサーバーに複製されます。


1
rsync ftw 123456
dmourati 14
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.