次のコードは、デバッグモードとリリースモード(Visual Studio 2008を使用)で異なる結果を生成します。
int _tmain(int argc, _TCHAR* argv[])
{
for( int i = 0; i < 17; i++ )
{
int result = i * 16;
if( result > 255 )
{
result = 255;
}
printf("i:%2d, result = %3d\n", i, result) ;
}
return 0;
}
デバッグモードの出力。これは予想どおりです。
i: 0, result = 0
i: 1, result = 16
(...)
i:14, result = 224
i:15, result = 240
i:16, result = 255
i:15の結果が正しくないリリースモードの出力:
i: 0, result = 0
i: 1, result = 16
(...)
i:14, result = 224
i:15, result = 255
i:16, result = 255
リリースモードのVisual Studioで[最適化->最適化しない]を選択すると、出力結果が正しくなります。ただし、最適化プロセスが誤った出力につながる可能性がある理由を知りたいのですが。
更新:
Mohit JainByによって提案されたように、印刷者:
printf("i:%2d, result = %3d, i*16=%d\n", i, result, i*16) ;
リリースモードの出力は正しいです。
i: 0, result = 0, i*16=0
i: 1, result = 16, i*16=16
(...)
i:14, result = 224, i*16=224
i:15, result = 240, i*16=240
i:16, result = 255, i*16=256
i * 16
投稿の出力を更新するだけで、結果は正しいです。