私はこの式を使って中間点の計算をしています
A1-MOD(A1+(Constants!$A$1/2),Constants!$A$1)
(列の値A
が小数で、値Constants!$A$1
が正確な整数の場合)
次に、補助ワークシートで、10位まで正確に入力された値と照合します。
VLOOKUP(B1,Data!$A:$B,2,FALSE)
しかしVLOOKUP
、私の価値観に一貫性がない。その結果(この投稿のために、値はtable_array
パラメーターの両方の列で同じです):
Excelの数値精度に関するこの質問によれば、Excelは最大15桁をサポートしているため、計算対象を確認するためだけに小数精度を上げました。
「バンド」列に値をラップすると、ROUND(..., 2)
期待どおりに機能しましたが、なぜですか?
PS注Excel 2013を使用しています。
ROUND
か、考えられるすべての式をラップせずに問題を軽減する方法はありますか?