double
またはを使用する場合はfloat
、丸めを使用するか、丸めエラーが発生することを予期する必要があります。これができない場合は、を使用してくださいBigDecimal
。
あなたが抱えている問題は、0.1が正確な表現ではなく、計算を2回実行することで、そのエラーを悪化させていることです。
ただし、100は正確に表すことができるため、以下を試してください。
double x = 1234;
x /= 100;
System.out.println(x);
印刷する:
12.34
これDouble.toString(d)
は、ユーザーに代わって少量の丸めを実行するため機能しますが、多くはありません。丸めずにどのように見えるか疑問に思っている場合:
System.out.println(new BigDecimal(0.1));
System.out.println(new BigDecimal(x));
プリント:
0.100000000000000005551115123125782702118158340454101562
12.339999999999999857891452847979962825775146484375
つまり、明示的に行うかどうかに関係なく、浮動小数点での賢明な回答の丸めは避けられません。
注意:x / 100
そしてx * 0.01
、それは丸め誤差になるとまったく同じではありません。これは、最初の式の丸め誤差がxの値に依存するのに対し0.01
、2番目の式の丸め誤差は固定の丸め誤差があるためです。
for(int i=0;i<200;i++) {
double d1 = (double) i / 100;
double d2 = i * 0.01;
if (d1 != d2)
System.out.println(d1 + " != "+d2);
}
プリント
0.35 != 0.35000000000000003
0.41 != 0.41000000000000003
0.47 != 0.47000000000000003
0.57 != 0.5700000000000001
0.69 != 0.6900000000000001
0.7 != 0.7000000000000001
0.82 != 0.8200000000000001
0.83 != 0.8300000000000001
0.94 != 0.9400000000000001
0.95 != 0.9500000000000001
1.13 != 1.1300000000000001
1.14 != 1.1400000000000001
1.15 != 1.1500000000000001
1.38 != 1.3800000000000001
1.39 != 1.3900000000000001
1.4 != 1.4000000000000001
1.63 != 1.6300000000000001
1.64 != 1.6400000000000001
1.65 != 1.6500000000000001
1.66 != 1.6600000000000001
1.88 != 1.8800000000000001
1.89 != 1.8900000000000001
1.9 != 1.9000000000000001
1.91 != 1.9100000000000001