log1pとexpm1はいつ使用する必要がありますか？

Google にとって非常に難しい簡単な質問があります（すべてのコンピューター科学者が浮動小数点演算ペーパーについて知っておくべき標準的なもの以外に）。

andなどの代わりにlog1por などの関数をexpm1使用する必要があるのはいつですか？いつ使用すべきではありませんか？これらの関数の異なる実装は、使用法の点でどのように異なりますか？logexp

floating-point

— ティム
ソース

Scicomp.SEへようこそ！それは非常に合理的な質問ですが、あなたは少し説明している場合の答えに容易になるだろうあなたは（私たちは推測する必要はありませんので、それは、実装されます特にどのように）を参照しています。 log1p

— クリスチャンクラソン

実数値の引数の場合、

が小さい場合、たとえば浮動小数点精度で

場合、log1p

およびexpm1

を使用する必要があります。たとえば、docs.scipy.org / doc/ numpy / reference/ generated / numpy.expm1.htmlおよびdocs.scipy.org/doc/numpy/reference/generated/numpy.log1p.htmlを参照してください。

(x)

$(x)$

(x)

$(x)$

x

$x$

1 + x = 1

$1 + x = 1$

— GoHokies

@ChristianClasonありがとう、主にC ++ stdまたはRに言及していますが、あなたが尋ねると、実装の違いについて学ぶことも非常に興味深いと思うようになります。

— ティム

次に例を示します。scicomp.stackexchange.com

— フアンM.

@ user2186862「場合

だけでなく、小さい」正しい「場合

の点精度浮動」（のために起こる

通常倍精度演算で）。あなたは彼らがすでに有用であることを示しているリンクドキュメントページ

例えば、。

x

$x$

1 + x = 1

$1+x=1$

x \approx 10^{- 16}

$x\approx 10^{-16}$

x \approx 10^{- 10}

$x\approx 10^{-10}$

— フェデリコポロニ

回答:

私たちは皆知っていること

\exp （ バツ ） = \sum_{n = 0}^{\infty} \frac{{バツ}^{n}}{n ！} = 1 + バツ + \frac{1}{2} {バツ}^{2} + \dots

$\begin{equation} \exp(x) = \sum_{n=0}^\infty \frac{x^n}{n!} = 1 + x + \frac12 x^2 + \dots \end{equation}$ は

| x | ≪ 1

$|x| \ll 1$ 意味し

、我々が持っている

\exp (x) \approx 1 + x

$\exp(x) \approx 1 + x$ 。つまり、浮動小数点

\exp (x) - 1

$\exp(x) -1$ で評価する必要がある場合、

| x | ≪ 1

$|x| \ll 1$ 壊滅的なキャンセルが発生する可能性があります。

これは、Pythonで簡単に実証できます。

>>> from math import (exp, expm1)

>>> x = 1e-8
>>> exp(x) - 1
9.99999993922529e-09
>>> expm1(x)
1.0000000050000001e-08

>>> x = 1e-22
>>> exp(x) - 1
0.0
>>> expm1(x)
1e-22

正確な値は

\begin{aligned} \exp (10^{- 8}) - 1 & = 0.000000010000000050000000166666667083333334166666668 \dots \\ \exp (10^{- 22}) - 1 & = 0.000000000000000000000100000000000000000000005000000 \dots \end{aligned}

$\begin{align} \exp(10^{-8}) -1 &= 0.000000010000000050000000166666667083333334166666668 \dots \\ \exp(10^{-22})-1 &= 0.000000000000000000000100000000000000000000005000000 \dots \end{align}$

一般的には「正確」の実装expとは、expm1これ以上1ULP以上（最後の場所のすなわち1単位）に正しいはずです。ただし、この精度を達成すると「遅い」コードになるため、高速で精度の低い実装が利用できる場合があります。たとえば、CUDAにはexpfand がありexpm1f、ここfでfastを表します。CUDA Cプログラミングガイド、アプリによると。Dにexpfは2ULPのエラーがあります。

数個のULPS程度のエラーを気にしない場合、通常、指数関数の異なる実装は同等ですが、バグはどこかに隠れている可能性があることに注意してください...（Pentium FDIVのバグを覚えていますか？）

したがって、小さなに対してexpm1を計算するために使用する必要があることは明らかです。一般的な使用することは、その全範囲にわたって正確であることが期待されるため、有害ではありません。 $\exp(x)-1$ $x$ $x$ expm1

>>> exp(200)-1 == exp(200) == expm1(200)
True

（上記の例では、 $1$ は $\exp(200)$ 1ULPを大きく下回っているため、3つの式はすべてまったく同じ浮動小数点数を返します。）

同様の議論は、逆の機能のために保持logし、log1p以降の $\log(1+x) \approx x$ 用 $|x| \ll 1$ 。

— ステファノM
ソース

この回答は、OP質問へのコメントに既に含まれていました。ただし、一部の読者に役立つことを期待して、わかりやすくするために、より長い（基本的ではあるが）アカウントを与えると便利だと感じました。

— ステファノM

わかりましたが、「expではなくexpm1をいつでも使用できます」と簡単に結論付けることができます...-

— ティム

@timあなたの結論は間違っています：のexpm1(x)代わりにいつでも使用できますexp(x)-1。もちろんexp(x) == exp(x) - 1一般的には成り立ちません。

— ステファノM

OK、それは明らかです。そして、ため任意の明確な基準がある

？

x ≪ 1

$x \ll 1$

— ティム

@Timには明確なしきい値はなく、答えは浮動小数点実装の精度（および解決される問題）に依存します。ながらexpm1(x)全範囲にわたって1ULPに正確でなければならない

、次第に数ULP者から精度を失うとき

の完全な破壊に

、

マシンイプシロンです。

0 \leq x \leq 1

$0\leq x \leq 1$ exp(x) - 1

x \approx 1

$x\approx 1$

x < ϵ

$x < \epsilon$

ϵ

$\epsilon$

— ステファノM

差に展開するlogとlog1p、それは対数かのグラフを思い出すのに役立つかもしれません。

log $x$ $0$ $\ln(x)$ $- \infty$ $x$ $0$ $\ln(x)$ $\ln(\frac{1}{e}) = -1$ $\ln(\frac{1}{e^{10}}) = -10$

$x$ $0$ $\ln(x+1)$ $0$ $\ln(1+\frac{1}{e}) \sim 0.31$ そして $\ln(1+\frac{1}{e^{10}}) \sim 0.000045$ 。したがってlog1p、正の値のみを生成し、大きな負の数の「危険」を取り除きます。これにより、データセットにゼロに近い数が含まれている場合、一般的により均一な分布が保証されます。

要するに、データセットがすべてより大きい場合 $1$ 、log通常は問題ありません。ただし、データセットに $0$ そして $1$ 、その後log1p、通常は優れています。

— sfmiller940
ソース