エンティティコンポーネントシステムのゲームエンジンでCPUキャッシュを活用するにはどうすればよいですか？

CPUキャッシュを賢く使用するための優れたアーキテクチャであるECSゲームエンジンのドキュメントをよく読みます。

しかし、CPUキャッシュの利点を理解することはできません。

コンポーネントが連続したメモリの配列（またはプール）に保存されている場合、コンポーネントを順番に読み取る場合にのみCPUキャッシュを使用するのが良い方法です。

システムを使用する場合、特定のタイプのコンポーネントを持つエンティティのリストであるエンティティリストが必要です。

ただし、これらのリストは、順番ではなくランダムな方法でコンポーネントを提供します。

それでは、キャッシュヒットを最大化するECSを設計する方法は？

編集：

たとえば、物理システムには、RigidBodyおよびTransformコンポーネントを持つエンティティのエンティティリストが必要です（RigidBodyのプールとTransformコンポーネントのプールがあります）。

したがって、エンティティを更新するためのループは次のようになります。

for (Entity eid in entitiesList) {
    // Get rigid body component
    RigidBody *rigidBody = entityManager.getComponentFromEntity<RigidBody>(eid);

    // Get transform component
    Transform *transform = entityManager.getComponentFromEntity<Transform>(eid);

    // Do something with rigid body and transform component
}

問題は、entity1のRigidBodyコンポーネントがそのプールのインデックス2にあり、entity1のTranformコンポーネントがそのプールのインデックス0にあることです（一部のエンティティは他のコンポーネントを持たず、エンティティを追加/削除するため/ランダムにコンポーネント）。

コンポーネントがメモリ内で連続している場合でも、それらはランダムに読み取られるため、キャッシュミスが多くなります。

ループ内の次のコンポーネントをプリフェッチする方法がない限り？

Mick Westの記事では、エンティティコンポーネントデータを完全に線形化するプロセスについて説明しています。何年も前のTony Hawkシリーズでは、現在よりもはるかに印象的なハードウェアでパフォーマンスを大幅に向上させることができました。彼は基本的に、エンティティデータの各タイプ（位置、スコア、その他）に事前に割り当てられたグローバルな配列を使用し、システム全体のupdate()機能の異なるフェーズで各配列を参照しました。各エンティティのデータは、これらの各グローバル配列の同じ配列インデックスにあると想定できます。したがって、たとえば、プレーヤーが最初に作成された場合、[0]各配列にデータがある可能性があります。

キャッシュの最適化にさらに具体的な、CおよびC ++向けのChrister Ericssonのスライド。

もう少し詳しく説明するには、データの各タイプ（位置、xy、zなど）ごとに連続したメモリブロック（配列として最も簡単に割り当てられる）を使用して、参照の良好な局所性を確保し、そのような各データブロックを別個に使用するようにしてくださいupdate()一時的な局所性のためのフェーズ。つまり、特定のupdate()呼び出し内で、再利用するデータを再利用する前に、ハードウェアのLRUアルゴリズムを介してキャッシュがフラッシュされないようにします。あなたが暗示したように、あなたがしたくないことはnew、を介してエンティティとコンポーネントを個別のオブジェクトとして割り当てることです。各エンティティインスタンスの異なるタイプのデータはインターリーブされ、参照の局所性を減らします。

コンポーネント（データ）間に相互依存関係があり、関連データ（例：Transform + Physics、Transform + Renderer）からデータを分離する余裕がない場合、PhysicsおよびRenderer配列の両方でTransformデータを複製することを選択できます。 、すべての関連データがパフォーマンス重視の各操作のキャッシュライン幅に適合することを保証します。

また、L2およびL3キャッシュ（ターゲットプラットフォームでこれらを想定できる場合）は、線幅の制限など、L1キャッシュが被る可能性のある問題を軽減するために多くのことを行うことを忘れないでください。したがって、L1ミスでも、これらはほとんどの場合、メインメモリへのコールアウトを防ぐセーフティネットです。これは、あらゆるレベルのキャッシュへのコールアウトよりも桁違いに遅くなります。

データの書き込みに関する注意事項書き込みでは、メインメモリは呼び出されません。デフォルトでは、今日のシステムではライトバックキャッシュが有効になっています。値を書き込むと、メインメモリではなくキャッシュに（最初に）書き込まれるため、これによってボトルネックになることはありません。メインメモリからデータが要求され（キャッシュにある間は発生しません）、古い場合のみ、メインメモリはキャッシュから更新されます。