CUDAがメモリを固定するのはなぜそんなに速いのですか？

CUDAデータ転送にピン留めされたメモリを使用すると、データ転送が大幅に高速化されます。Linuxでは、これを実現するための基盤となるシステムコールはmlockです。mlockのmanページから、ページをロックするとスワップアウトされないことが示されています。

mlock（）は、addrから始まり、lenバイトまで続くアドレス範囲のページをロックします。指定されたアドレス範囲の一部を含むすべてのページは、呼び出しが正常に戻ったときにRAMに常駐することが保証されています。

私のテストでは、システムに数ギガの空きメモリがあったため、メモリページがスワップアウトされるリスクはありませんでしたが、それでもスピードアップが見られました。誰かがここで実際に何が起こっているのか説明できますか？、洞察や情報は大歓迎です。

CUDAドライバーチェック、メモリ範囲がロックされているか、別のコードパスを使用します。ロックされたメモリは物理メモリ（RAM）に格納されるため、デバイスはCPU（DMA、別名非同期コピー、デバイスは物理ページのリストのみを必要とします）の助けを借りずにそれをフェッチできます。ロックされていないメモリはアクセス時にページフォールトを生成する可能性があり、メモリだけでなく保存されるため（たとえば、スワップに格納される可能性があります）、ドライバはロックされていないメモリのすべてのページにアクセスし、固定されたバッファにコピーして渡す必要がありますDMAへ（同期、ページごとのコピー）。

ここで説明されているようにhttp://forums.nvidia.com/index.php?showtopic=164661

非同期memcopy呼び出しで使用されるホストメモリは、cudaMallocHostまたはcudaHostAllocを介してページロックする必要があります。

また、developer.download.nvidia.comでcudaMemcpyAsyncとcudaHostAllocのマニュアルを確認することをお勧めします。HostAllocによると、cudaドライバーは固定されたメモリを検出できます。

ドライバーは、this（cudaHostAlloc）関数で割り当てられた仮想メモリ範囲を追跡し、cudaMemcpy（）などの関数の呼び出しを自動的に高速化します。

CUDAはDMAを使用して、固定されたメモリをGPUに転送します。ページング可能なホストメモリは、ディスク上に存在する可能性があるため、DMAでは使用できません。メモリが固定されていない（つまりページロックされている）場合は、最初にページロックされた「ステージング」バッファにコピーされ、次にDMAを介してGPUにコピーされます。したがって、固定されたメモリを使用すると、ページング可能なホストメモリからページロックされたホストメモリにコピーする時間を節約できます。

メモリページがまだアクセスされていない場合は、最初からスワップインされていない可能性があります。特に、新しく割り当てられたページは、ユニバーサル「ゼロページ」の仮想コピーであり、書き込まれるまで物理的にインスタンス化されません。同様に、ディスク上のファイルの新しいマップは、読み取りまたは書き込みが行われるまで、純粋にディスク上に残ります。