浮動小数点数の相対比較

f(x, y)いくつかの数式を実装する二重浮動小数点数を返す数値関数があり、パラメーターのすべての組み合わせの分析式に対して正しいことxとy、興味があることを確認したいと思います。計算された値と分析浮動小数点数？

2つの数値がaとであるとしましょうb。これまでのところ、絶対abs(a-b) < eps（abs(a-b)/max(abs(a), abs(b)) < eps）エラーと相対（）エラーの両方がeps未満であることを確認しています。このようにすると、たとえ1e-20程度の数値であったとしても、数値の不正確さをキャッチできます。

しかし、今日、私は問題を発見しました。数値aと分析値bは次のとおりです。

In [47]: a                                                                     
Out[47]: 5.9781943146790832e-322

In [48]: b                                                                     
Out[48]: 6.0276008792632078e-322

In [50]: abs(a-b)                                                              
Out[50]: 4.9406564584124654e-324

In [52]: abs(a-b) / max(a, b)                                                  
Out[52]: 0.0081967213114754103

したがって、絶対誤差[50]は（明らかに）小さいですが、相対誤差[52]は大きいです。そのため、プログラムにバグがあると思いました。デバッグにより、これらの数値は非正規であることがわかりました。そのため、適切な相対比較を行うために次のルーチンを作成しました。

real(dp) elemental function rel_error(a, b) result(r)
real(dp), intent(in) :: a, b
real(dp) :: m, d
d = abs(a-b)
m = max(abs(a), abs(b))
if (d < tiny(1._dp)) then
    r = 0
else
    r = d / m
end if
end function

どこにtiny(1._dp)自分のコンピュータ上の2.22507385850720138E-308を返します。これですべてが機能し、相対エラーとして0が表示され、すべて問題ありません。特に、上記の相対エラー[52]は間違っています。これは、単に非正規数の精度が不十分であるために発生します。rel_error関数の実装は正しいですか？それabs(a-b)がtiny（=非正規）未満であることを確認し、0を返すだけですか？それとも、他の組み合わせを確認する必要があり max(abs(a), abs(b))ますか？

「適切な」方法が何であるかを知りたいだけです。

isnormal()from math.h（C99以降、POSIX.1以降）を使用して、デノーマルを直接チェックできます。Fortranでは、モジュールieee_arithmeticが使用可能な場合は、を使用できますieee_is_normal()。ファジー等式についてより正確に説明するには、デノーマルの浮動小数点表現を検討し、結果が十分に良いとはどういう意味かを決定する必要があります。

さらに言えば、どちらの結果も正しいと信じるためには、中間のステップで桁落ちが多すぎないことを確認する必要があります。デノーマルでの計算は一般に信頼性が低く、アルゴリズムを内部で再スケーリングさせることで回避する必要があります。内部スケーリングを確実に成功させるためにfeenableexcept()、C99またはieee_arithmeticFortran のモジュールを使用して、浮動小数点例外をアクティブにすることをお勧めします。

浮動小数点例外で発生するシグナルをアプリケーションでキャッチすることはできますが、私が試したすべてのカーネルはハードウェアフラグをリセットしたためfetestexcept()、有用な結果が返されません。で実行すると-fp_trap、PETScプログラムは（デフォルトで）浮動小数点エラーが発生したときにスタックトレースを出力しますが、問題の行は識別しません。デバッガーで実行する場合、デバッガーはハードウェアフラグを保持し、問題のある式で中断します。fetestexceptデバッガーから呼び出して、結果が次のフラグのビット単位のORである正確な理由を確認できます（値はマシンによって異なる場合がありますfenv.h。これらの値はglibcを使用するx86-64の場合です）。

• FE_INVALID = 0x1
• FE_DIVBYZERO = 0x4
• FE_OVERFLOW = 0x8
• FE_UNDERFLOW = 0x10
• FE_INEXACT = 0x20

Donald Knuthは、「The Art of Computer Programming」の第2巻「半数的アルゴリズム」に浮動小数点比較アルゴリズムの提案をしています。それはThによってCで実装されました。Belding（fcmpパッケージを参照）およびGSLで利用可能です。

最適に丸められた非正規化数は確かに高い相対誤差を持っている可能性があります。（まだそれを相対エラーと呼んでいる間にゼロにフラッシュすることは誤解を招くものです。）

しかし、ゼロに近いため、相対エラーを計算しても意味がありません。

したがって、非正規化数に達する前であっても、おそらく絶対精度（つまり、この場合は保証したい精度）に切り替える必要があります。

したがって、ような式の有効性をチェックして、計算されたを真のに対してテストすることをお勧めします。relacc = 1e-12およびabsacc = 1e-150と言います。$y$$x$$|y-x|\le absacc+relacc*\max(|x|,|y|)$

次に、コードのユーザーは、実際の精度を正確に把握します。