以下は、非常に奇妙な動作を示すC ++コードの一部です。奇妙な理由で、データを奇妙にソートすると、コードがほぼ6倍速くなります。
#include <algorithm>
#include <ctime>
#include <iostream>
int main()
{
// Generate data
const unsigned arraySize = 32768;
int data[arraySize];
for (unsigned c = 0; c < arraySize; ++c)
data[c] = std::rand() % 256;
// !!! With this, the next loop runs faster.
std::sort(data, data + arraySize);
// Test
clock_t start = clock();
long long sum = 0;
for (unsigned i = 0; i < 100000; ++i)
{
// Primary loop
for (unsigned c = 0; c < arraySize; ++c)
{
if (data[c] >= 128)
sum += data[c];
}
}
double elapsedTime = static_cast<double>(clock() - start) / CLOCKS_PER_SEC;
std::cout << elapsedTime << std::endl;
std::cout << "sum = " << sum << std::endl;
}- なし
std::sort(data, data + arraySize);では、コードは11.54秒で実行されます。 - ソートされたデータにより、コードは1.93秒で実行されます。
最初は、これは単なる言語またはコンパイラの異常かもしれないと思ったので、Javaを試しました。
import java.util.Arrays;
import java.util.Random;
public class Main
{
public static void main(String[] args)
{
// Generate data
int arraySize = 32768;
int data[] = new int[arraySize];
Random rnd = new Random(0);
for (int c = 0; c < arraySize; ++c)
data[c] = rnd.nextInt() % 256;
// !!! With this, the next loop runs faster
Arrays.sort(data);
// Test
long start = System.nanoTime();
long sum = 0;
for (int i = 0; i < 100000; ++i)
{
// Primary loop
for (int c = 0; c < arraySize; ++c)
{
if (data[c] >= 128)
sum += data[c];
}
}
System.out.println((System.nanoTime() - start) / 1000000000.0);
System.out.println("sum = " + sum);
}
}似たような極端な結果ではありません。
私が最初に思ったのは、並べ替えによってデータがキャッシュに入れられるということでしたが、配列が生成されたばかりなので、それがどれほど愚かであるかを考えました。
- 何が起こっている？
- ソートされた配列を処理する方が、ソートされていない配列を処理するよりも速いのはなぜですか？
コードはいくつかの独立した用語を合計しているので、順序は重要ではありません。
170
Woops ... re：Meltdown and Spectre
—
KyleMit
@SachinVerma私の頭の上の部分：1）条件付きの移動を使用するのに十分なほど、JVMは最終的に十分スマートになる可能性があります。2）コードはメモリに拘束されます。200Mは大きすぎてCPUキャッシュに収まりません。したがって、パフォーマンスは分岐ではなくメモリ帯域幅によってボトルネックになります。
—
Mysticial 2018年
@Mysticial、約2）。予測テーブルはパターンを追跡し（そのパターンについてチェックされた実際の変数に関係なく）、履歴に基づいて予測出力を変更すると考えました。超大規模配列が分岐予測の恩恵を受けない理由を教えてください。
—
Sachin Verma
@SachinVermaありますが、配列がそのように大きい場合は、さらに大きな要因であるメモリ帯域幅が関係してくる可能性があります。メモリが平坦ではありません。メモリへのアクセスは非常に遅く、帯域幅には制限があります。物事を単純化しすぎると、一定の時間内にCPUとメモリの間で転送できるバイト数は非常に多くなります。この質問のような単純なコードは、予測ミスによって速度が低下したとしても、おそらくその限界に達します。これは、CPUのL2キャッシュに収まるため、32768（128KB）の配列では発生しません。
—
Mysticial 2018年
：BranchScopeと呼ばれる新しいセキュリティ上の欠陥があるcs.ucr.edu/~nael/pubs/asplos18.pdf
—
Veve
