出力でz係数1が0.999998に変わるのはなぜですか


9

3D Analyst-Surface Volumeを使用するモデルを作成しました。1の代わりにZ係数0.999998が使用されたことを出力テーブルに表示するたびに、z係数1を使用しようとしています。これは非常に小さな違いであることはわかっていますが、それでも結果が多少歪んでいます。本当に知りたいのですが、なぜそれが0.999998に変更されるのか、それを1のままにする方法はありますか?


入力ありがとうございます。ラスターのタイプを変更しようとすると、ツールはz係数をすべてグレー表示し、0.999998に固定します。だから...整数や浮動小数点データを使用してこれを回避する方法は本当にないと思います。整数に変換し、ラスター計算機を使用してデータに1000を乗算して、小数を整数形式で保持することも試みましたが、それでも0.999998のz係数のままでした。サイコロはありません。


6
浮動小数点なので、浮動小数点数に1のようなものはありません。en.wikipedia.org/ wiki / IEEE_floating_pointを
Michael Stimson

3
はい、ほとんどのDEM / DSMラスタは通常32ビット浮動小数点であるため、Z係数は浮動小数点です。フロートにあなたのint型のラスタを変換してみてください、あまりにも参照resources.arcgis.com/en/help/main/10.1/index.html#//...を
マイケル・スティムソン

3
@Michaelは実際には、任意の(負の力を含む)2の小電力の整数倍でない数は正確に浮動小数点で表現されません。おそらくこれらの中で最も目立つのは0.1でしょう。Zスケール誤差の原因については、推測しかできません。私の推測では、内部では標高の整数表現を使用して計算が実行され、最後に標高が変換されて戻される可能性に焦点が当てられます。多分最良のことはそれらが生成されたに結果を修正することです:すべてのボリュームに1 / 0.999998を乗算するだけです。
whuber

1
@Michaelがこの他のソリューションを使用する前に、ツールの実行中に魔法のように0.999998に戻る1.000002のZ係数を使用してみました。だから、それが自分が間違っていたかどうかはわかりません。言い換えれば、どのZファクターを入力しても、ツールは実行時にそれを0.999998に変更します。
GeoJohn

4
ジョンは、私はそれが常に0.999998スケールファクタに変更し、どのように1のスケールファクタを使用して、なぜそれの接触のEsriサポートまでの時間とは、それらを求めることを感じる
マイケル・スティムソン

回答:


1

私はコメントに同意する必要があります、それはあなたがその数をどのように表現したいかについてです。数値1を浮動小数点として保存する場合、ArcGISはこの数値を0,9999として保存しました...このZファクター引数はそのように保存されているようです。整数として保存する方法はないと思います。実際、0,9999は1と同じです。

数日前に見た写真を追加する必要があります。それはこの質問に当てはまります。 ここに画像の説明を入力してください

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.