ArcMapのフィールド計算機を使用して、既存の列を小数点以下2桁に丸めたい。現在、小数点以下6桁の列があり、小数点以下2桁に切り捨てたいと考えています。
私はこれを行うためにフィールド計算機(おそらくPythonを使用)を使用することを計画していましたが、おそらくもっと簡単な方法がありますか?
受け入れられた答えはおそらく単一のフィールドを変更する最も簡単な方法ですが、ここではpythonとVBの両方のフィールド計算機でそれを行う方法を示します。
VB:
round([column], 2)
Python:
round(!column!, 2)
2
適切なフィールド計算式により、0.01の倍数に厳密に近似するようにデータを変更できます。 どれだけ近いかは、フィールドがどのように格納されているかによって異なります。float、double、およびdecimalエンコードの間で異なります。(最初の2つの形式は、0.03 = 1.1000001111010111000010100011110 ... Bなどの特定の値を正確に格納できません。これは、繰り返し無限バイナリ式です)。場所?
—
whuber