グラフィカルリソースを非同期に読み込むにはどうすればよいですか？

プラットフォームにとらわれずに考えてみましょう。ゲームの残りの部分を実行している間に、グラフィックリソースをロードしたいと思います。

原則として、実際のファイルを別のスレッドにロードするか、非同期I / Oを使用できます。しかし、グラフィカルオブジェクトでは、それらをGPUにアップロードする必要があります。これは（通常）メインスレッドでのみ実行できます。

ゲームループを次のように変更できます。

while true do
    update()
    for each pending resource do
        load resource to gpu
    end
    draw()
end

別のスレッドでディスクからRAMにリソースを読み込みます。

ただし、ロードする大きなリソースが多いと、フレームの期限が切れて、最終的にフレームがドロップされる可能性があります。だから私はこれにループを変更することができます：

while true do
    update()
    if there are pending resources then
        load one resource to gpu
        remove that resource from the pending list
    end
    draw()
end

フレームごとに1つのリソースのみを効果的にロードします。ただし、ロードする小さなリソースが多数ある場合、それらすべてのロードには多くのフレームがかかり、多くの無駄な時間がかかります。

最適には、次の方法でロードの時間を計りたいと思います。

while true do
    time_start = get_time()
    update()
    while there are pending resources then
        current_time = get_time()
        if (current_time - time_start) + time_to_load(resource) >= 1/60 then
            break
        load one resource to gpu
        remove that resource from the pending list
    end
    draw()
end

このようにして、そのフレームの時間内にリソースをロードできる場合にのみ、リソースをロードします。残念ながら、これには特定のリソースをロードするのにかかる時間を見積もる方法が必要であり、私の知る限り、これを行う方法は通常ありません。

ここで何が欠けていますか？多くのゲームは、すべてのコンテンツを完全に非同期で、フレームのドロップや非常に長いロード時間なしにロードできますか？

完璧な世界を想定することから始めましょう。リソースをロードするには、2つのステップがあります。1つ目は、ストレージメディアから正しいフォーマットでメモリに取り出し、次に2つ目は、メモリバスを介してビデオメモリに転送します。これら2つのステップのどちらも、メインスレッドで実際に時間を使用する必要はありません。I/ Oコマンドを発行するために関与する必要があるだけです。CPUとGPUはどちらも、リソースがコピーされている間、他の処理を続行できます。消費されている唯一の実際のリソースはメモリ帯域幅です。

あなたとハードウェアの間に抽象化レイヤーがあまりないプラットフォームを使用している場合、APIはおそらくこれらの概念を直接公開します。しかし、PCを使用している場合は、おそらくあなたとGPUの間にドライバーが座っており、それがその方法で実行したいと考えています。APIによっては、所有しているメモリに裏打ちされたテクスチャを作成できる場合がありますが、「テクスチャ作成」APIを呼び出すと、ドライバが所有するメモリにテクスチャがコピーされる可能性が高くなります。その場合、テクスチャを作成すると、オーバーヘッドが固定され、テクスチャのサイズに比例して時間がかかります。その後、ドライバーは何かを行う可能性があります。テクスチャーをプロアクティブにVRAMに転送したり、初めて使用するまでテクスチャーをアップロードしなくてもよい場合があります。

これに関して何かできることもできないこともありますが、「テクスチャの作成」を呼び出すのにかかる時間を推測することができます。もちろん、すべての数値はハードウェアとソフトウェアによって異なりますので、リバースエンジニアリングに多くの時間を費やす価値はないでしょう。ぜひ試してみてください。メトリックを選択します。「フレームごとのテクスチャの数」または「フレームごとのテクスチャの合計サイズ」のいずれかを選択し、割り当て（たとえば、フレームごとに4つのテクスチャ）を選択して、ストレステストを開始します。

病理学的なケースでは、両方の割り当てを同時に追跡する必要がある場合もあります（たとえば、フレームあたり4つのテクスチャまたはフレームあたり2 MBのテクスチャのいずれか低い方に制限）。しかし、ほとんどのテクスチャストリーミングへの本当のトリックを考え出すされますが、それは周りにそれらをコピーするのにかかるませんどのくらいの時間、あなたの限られたメモリに収まるようにしたいテクスチャ。

また、テクスチャを作成するための病理学的なケース（一度にたくさんの小さなテクスチャが必要な場合など）は、他の領域でも病理学的なケースになる傾向があります。テクスチャがコピーするのに正確に何マイクロ秒かかるかを心配する前に、簡単に機能する実装を取得する価値があります。（さらに、実際のパフォーマンスヒットは、「テクスチャの作成」呼び出しのCPU時間としてではなく、テクスチャを使用する最初のフレームのGPU時間として発生する場合があります。