大きなファイルサーバー用のLinuxファイルシステム

20TBを超えるハードディスクを備えたファイルサーバーに使用するファイルシステムの最良の選択は、経験豊富な人々から知りたいです。個人的に、私は自分のパソコンと「小さなサーバー」のBOOTとROOTディスクで常にEXT3（昔）とEXT4（利用可能以来）[そしてReiserFS 3で一度は多くのデータ破損を引き起こした]を使用しました。

ただし、EXT4 ツール（EXT4自体ではない）は16TBのパーティションに制限されているため、これは私の最善策ではない可能性があります。ディストリビューションはDebian 6.0（Squeeze）および/またはGentoo（最新バージョン）になるため、カーネルはかなり最近（Debian上では少なくともバックポートあり）、つまりLinuxカーネル> = 2.6.32である必要があります。

ファイルサーバーは、メールの3つの目的に使用されます（また、目的はデータを "安全"に保つことであり、オーバーヘッドをあまり気にしないため、パーティションを分離します）。 ただし、すべてのディスクはLUKSを使用して暗号化されます。

1. メディア、ダウンロード、ローカルのdebianレポジトリ[Debianを実行しているマシンが少なくとも6台あります]> 20TB（多分、メディア、ダウンロード、Debianレポジトリがさらに分離されているかもしれません）
2. データ（ドキュメント、写真など）〜4TB SAFE（raid1またはraid6 +バックアップディスクを意味します）
3. 私のギガビットLAN内の他のコンピューターのバックアップ用に20 TB以上のバックアップ（WindowsであってもOS全体をバックアップするソフトウェアを提案できますか？

高速である必要はありません（同時アクセス：最大2〜3個の大きなファイル（ビデオなど））。たとえ、10 HDDから200MB /秒の読み取りであっても、Raid6で対応できます。

要約すると、20TB /パーティション以上をサポートする、信頼性が高く、スケーラブルな（つまり、簡単に拡張可能な）ファイルシステムを探します。FSの安全性と信頼性が高いほど優れています。使用するハードウェアは、少なくともクアッドコア（amd x4 630またはIntel i5-2500k）と十分なRAM（> 8GB、おそらく> 16GB）であるため、ハードウェア要件を満たす必要があります。

私のPC /サーバーは、停電の場合にUPS（無停電電源装置）に接続され ます。メディアとバックアップを別々のマシン（つまり2台のサーバー）でも実行する場合があります。

多くの人々がZFSを提案しています。しかし、ZFSは、Linuxのもとでは、fuse以外では利用できません。これは、パフォーマンスが重要になる可能性がある状況ではお勧めしません。

残念ながら、ライセンスの問題が何らかの形で解決されない限り、ZFSはネイティブカーネルモジュールとして利用できません。

XFSは良いですが、一部の人々は破損の問題を報告しており、私はそれについて実際にコメントすることはできません。私は小さなXFSパーティションで遊んだことがあり、これらの問題はありませんでしたが、本番環境ではありませんでした。

ZFSには多くの利点と、無視できない便利な機能があります。要約すると、それらは次のとおりです（それらの意味の詳細については、ZFS Wikiを参照してください）。

• データの整合性
• ストレージプール
• L2ARC
• 大容量
• 書き込み時にコピー
• スナップショットとクローン
• 動的ストライプ
• 可変ブロックサイズ
• 軽量なファイルシステムの作成
• キャッシュ管理
• 適応エンディアン
• 重複排除
• 暗号化

それでは、どうすればそれを回避できますか？あなたの状況に合うかもしれない私の提案された代替案は、nexentaを検討することです。これは、GNUユーザーランドツールが実行されているOpen Solarisカーネルです。Open Solarisカーネルがあるということは、ZFSをネイティブで利用できるということです。

あなたはXFSを試してみてください、あなたの要件にうまく適合してください：

XFSは64ビットのファイルシステムです。これは、ホストのオペレーティングシステムによって課されるブロック制限の影響を受けますが、8エクスビバイトから1バイトを引いた最大ファイルシステムサイズをサポートします。32ビットLinuxシステムでは、これによりファイルとファイルシステムのサイズが16テビバイトに制限されます。

最も簡単なオプションは、XFSを使用することです。XFSに関する悪い経験の多くは、古いバージョンとデスクトップハードウェアの問題に基づいています。これらは、標準品質のサーバーハードウェアへの新しい展開にはあまり関係がないと思います。私が書いたブログの記事をあなたは現在の状況を整理助けるかもしれないこのテーマについて。数百人のユーザーと私が管理するのに役立つテラバイトのデータを含む複数のビジーなXFSデータベースインストールがあります。これらはすべてDebian Lennyカーネル（2.6.26）以降を使用しており、何年も前から問題の兆候は聞いていません。それより前のカーネルではXFSを使用しません。システムがメモリまたはディスク領域を使い果たしても奇妙なXFSの動作が見られるという人々の直接の報告を聞いたことがあります。私はまだそれを見ていません。

他の唯一の合理的なオプションは、より大きなファイルシステムをサポートするためにいくつかのハッキングで ext4を使用することです。信頼性レベルが大きく異なるとは思いません。カーネルバグに遭遇した複数の壊れたext4システムからデータを回復する必要がありました。これまでのところ、すべて上流で修正されていましたが、ディストリビューターのカーネルでは修正されていませんでした。ext4には、遅延割り当てデータの損失などの独自のメタデータ問題があり、ext3で発生する可能性が低かった。ext4バグをヒットする確率は、通常のサイズ制限を超えて強制している場合、通常よりもさらに高くなると推定します。 。

別のアイデアは、より安全で退屈なext3を使用し、16TBの制限を受け入れ、より適切にパーティション分割することです。これにより、単一のファイルシステムをそれほど大きくする必要がなくなります。

ジャーナルの問題に関連する一方的な端。これらすべてのドライブがどのように接続されるかについては話しませんでした。ここでストレージチェーンにある書き込みキャッシュの影響を理解してください。それを無効にするか、ファイルシステムがキャッシュをフラッシュしていることを確認してください。まだ確認していない場合は、Reliable Writesにそのリソースの一部を隠しておきました。

ドライブは吸う。RAIDアレイは最低です。ファイルシステムは最低だ。複数の障害が発生します。バックアップについてすでに考えていることを嬉しく思います。ストレージの信頼性を向上させるには、RAIDといくつかのスペアドライブだけでは不十分です。冗長性にはあらゆるレベルでコストがかかり、ハードウェアとソフトウェアの複雑さに対するコストはナビゲートするのが難しいです。そして、パフォーマンスの期待に注意してください。あなたが検討しているようなRAIDアレイは数百MB /秒を簡単に実行しますが、必要なのは2つの同時リーダーが常にディスクを探して数MB /秒に落とすことだけです。24ディスクのRAID10アレイを簡単に粉砕して、ベンチマークのワークロードに対して5MB /秒未満しか提供しないようにすることができます。複数のストリーミングリーダーが可能な場合、先読みを確実に上方向に微調整することは、そのために役立ちます。

FreeBSDを使用してZFSに配備する場合、暗号化にgbdeを使用します。ZFS自体は、RAIDZを介したソフトウェアRAIDプロバイダーになります。zpoolsの構築のストレージ管理の複雑さは、Linuxがmdadmを使用して実行するものとそれほど変わらないし、場合によっては実際には簡単になるでしょう。私の最初のZFSインストール（約3年前のSolaris 10）には、48ドライブ以上の17TBファイルシステムがありました。私は問題なく複数の障害を乗り越え、ZFSの管理について学びました。

主な利点は、ZFSのチェックサムがLinuxよりも優れたエラー検出を提供することです。これは、検討する価値のある不良ハードウェアに対する防御です。主な欠点は、FreeBSDの人気が低下していることです。あなたはまだそれを管理する方法を知りません、ハードウェアのサポートはLinuxより少し弱いです、そしてそれはあまり人気のないプラットフォームであるため、問題が発生した場合に助けを求める人はそれほど多くありません。

数テラバイトのストレージアレイは、ZFSの優れた点を際立たせています。あなたが何か新しいことに思い切って進んで進んで受け入れるかどうか真剣に検討する価値があります。真のバックアップパラノイアを探索したい場合は、LinuxとFreeBSDのバックアップサーバーを構築して、単一障害点の原因としてのOSバグの確率を減らします。

ウィキペディアのファイルシステム比較ページによると、JFS、XFS、UDF、ZFS、GPFS、Btrfsなど、ニーズに合った注目すべきファイルシステムが数多くあります。最大ファイルサイズをクリックしてソートし、最も適切なものを選択するだけです