緯度と経度で指定された位置でピタゴラス式を使用すると、たとえば、正方形の式を使用して円の面積を計算するのと同じくらい意味がありません。数字を生成しますが、動作するはずの理由はありません。
小さなスケールでは、滑らかな表面は平面のように見えますが、ピタゴラス式の精度は使用する座標に依存します。これらの座標が球体(または楕円体)の緯度と経度の場合、次のことが期待できます。
経度線に沿った距離は、かなり正確です。
赤道に沿った距離はかなり正確です。
他のすべての距離は、緯度と経度の差にほぼ比例して、エラーになります。
エラーは、距離計算の開始点と終了点に依存します。ただし、球体と楕円体の両方が軸の周りに円対称であるため、誤差は経度の差のみに依存するため、この誤差を調べるには、原点を主子午線に置くこともできます。球体と楕円体の両方が南北反射下で対称であるため、南半球の原点のみを研究する必要があります。そのような点については、[ピタゴラス計算] / [真の距離]に等しい相対誤差の等高線図を描くことができます。
地球の平均半径を使用したピタゴラス式は、
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
ここで、dxは経度の差、dyは緯度の差(両方とも度)です。(経度値の差は360を法として減少し、反時計回りを通過するときにdxの正しい値を与えます。そうしないと、ピタゴラスの式自体について何も伝えない人為的に大きなエラーが発生します)
次のプロットは、-70〜0の緯度で10度単位でWGS 84楕円体の正しい距離と比較した相対誤差を示しています。水平座標は経度の差で、垂直座標は目的地の緯度です。明るい領域の誤差は比較的小さく、等高線は1、1.01、1.02、1.05、1.1、1.2、1.5、2などです(角の真っ白な領域は、誤差がこれらの等高線の範囲を超える場所です。)赤い点は、原点を示しています。
垂直の白いバンドは、期待の正確さを証明しています(1):ピタゴラスの距離は、経度にわずかな差がある場合に正確です。低緯度の水平の白い帯は期待を裏付けています(2)。赤道付近では、水平距離はかなり正確です。さもなければ、広範囲のより暗い領域で目撃されるように、他のすべての距離でピタゴラス式は悪いです。
最大値を定量的に見積もることができます近くのポイントのペア(たとえば、互いに数百キロメートル以内)で達成されたエラー。縮尺-半径に適切な値を使用すると-子午線に沿って真ですが、緯度の円に沿ってそれは緯度の割線によってほぼ誤差が生じます。たとえば、緯度が40度の場合、割線は1.31であり、ピタゴラスの式では東西方向の距離が約31%大きくなります。(これは、赤点のすぐ東西の領域が1.2と1.5の輪郭の間にある緯度-40度の原点の右上の等高線プロットで明らかです。)他のすべての方向の短い距離は0%から31%の範囲で大きすぎる。より長い距離はさらに大きくなる可能性があります(等高線図が示すように)。