傾斜があるが漸近線がないロジスティック関数？

ロジスティック関数の出力範囲は0〜1で、漸近勾配は両側でゼロです。

最後に完全に平坦化しないロジスティック関数の代替は何ですか？漸近勾配がゼロに近づいているがゼロに近づいておらず、範囲が無限であるのは誰ですか？

sigmoid-curve

— アクサカル
ソース

タイトルは私があなたの質問をどのように読むかに同意しないようです-この新しい関数は漸近線を持つ必要があるかどうか？

— jld

基本的に、シグモイドのように見えるが勾配がある関数が必要です

— Aksakal

そうです、シグモイドのような形状では完全に平坦化されません。たとえば、対数関数では完全に平坦化されません

— Aksakal

sign (x) \log (1 + | x |)

$\operatorname{sign}(x)\log(1 + |x|)$ ？

— steveo'america

呼び出された10年の初めに、ニューラルネットワークのアクティブ化機能を元に戻したいと考えています。（申し訳ありませんが、悪い冗談が、人々はReLUsに移動し、なぜ現実的にこれがある）（+1ただし、関連する質問）

— usεr11852

回答:

ロジスティック関数に項を追加するだけです：

f (x; a, b, c, d, e) = \frac{a}{1 + b \exp (- c x)} + d x + e

$f(x; a, b, c, d, e)=\frac{a}{1+b\exp(-cx)} + dx + e$

漸近線には勾配があります。 $d$

これはです。 $a=10, b = 1, c = 2, d = \frac{1}{20}, e = -5$

— クールサーダッシュ
ソース

十分にズームアウトすると、真ん中に少し小刻みに曲がった直線になるので、この答えが最良だと思います。大きなxで最も直感的な動作を提供しますが、S字型の形状を維持します。

— user1717828

これは私のデータセットでは機能しているようで、選択しましたが、漸近勾配が減少しないため、ソリューションは理想的ではありません

— Aksakal

最初は、まだ水平漸近線をしたいと思っていました。元の答えを最後に移動しました。代わりにが必要な場合は、逆双曲線正弦のようなものでしょうか？ $0$ $\lim_{x\to\pm \infty} f(x) = \pm\infty$

asinh (x) = \log (x + \sqrt{1 + x^{2}})

$\text{asinh}(x) = \log\left(x + \sqrt{1 + x^2}\right)$

これは無制限ですが、大きなように大きくなりのように見えます $\log$ $|x|$

この関数は、裾が重いがゼロまたは負の値になる可能性がある場合のデータ変換として非常に気に入っています。

この関数のもう1つの優れた点は、なので、簡単な導関数を持っていることです。 $\text{asinh}'(x) = \frac{1}{\sqrt{1+x^2}}$

元の答え

$\newcommand{\e}{\varepsilon}$ ましょうも、当社の機能は、我々が仮定します $f : \mathbb R\to\mathbb R$

lim_{x \to \pm \infty} f (x) = 0.

$\lim_{x\to\pm \infty} f(x) = 0.$

が連続であると仮定します。修正し。漸近線からそして同様にようながあります。したがって、外側のはます。また、はコンパクトな間隔であるため、連続性によってがそれに制限されます。 $f$ $\e > 0$

\exists x_{1} : x < x_{1} ⟹ | f (x) | < ε

$\exists x_1 : x < x_1 \implies |f(x)| < \e$

x_{2}

$x_2$

x > x_{2} ⟹ | f (x) | < ε

$x > x_2 \implies |f(x)| < \e$

[x_{1}, x_{2}]

$[x_1,x_2]$

f

$f$

(- ε, ε)

$(-\e, \e)$

[x_{1}, x_{2}]

$[x_1,x_2]$

f

$f$

これは、そのような関数は継続できないことを意味します。たい何か仕事？

f (x) = {\begin{cases} x^{- 1} & x \neq 0 \\ 0 & x = 0 \end{cases}

$f(x) = \begin{cases} x^{-1} & x\neq 0 \\ 0 & x = 0\end{cases}$

— jld
ソース

「関連する」スレッドには、この未回答の質問が含まれています。他の誰かが「ニューラルネットワークでasinhを使用するとどうなりますか？」stats.stackexchange.com/questions/359245/...

— Sycoraxは回復モニカ言う

私の耳は確かに刺しました。これまで、正数と負数の両方に「ログを記録」したい場合に、asinh（）が便利であることがわかりました。また、ゼロを使用してデータを対数変換し、の適切な値を判断する必要がある場合に、取得できる問題を回避します

a

$a$

l o g (x + a)

$log(x + a)$

— Ingolifs

この関数をパラメーター化して形状を変更するにはどうすればよいですか？特に、変曲点の傾斜を調整するため

— Aksakal

@Aksakalの場合、その後だけ行う同じ形状と漸近を維持し、誘導体であるだろうそうゼロにおける傾きちょうどである

a > 0

$a > 0$

a \cdot asinh

$a\cdot\text{asinh}$

\frac{a}{\sqrt{1 + x^{2}}}

$\frac{a}{\sqrt{1+x^2}}$

a

$a$

— JLDは

@Aksakalより一般的には、である逆導関数を考慮することができを使用して、形状を変更したり、ようなものを変更したりできます

\frac{a}{\sqrt{c^{2} + (b x)^{2}}}

$\frac{a}{\sqrt{c^2 + (bx)^2}}$

\frac{a}{b} \log (b (b x + \sqrt{c^{2} + (b x)^{2}}))

$\frac ab \log\left(b\left(bx + \sqrt{c^2 + (bx)^2}\right)\right)$

a \cdot asinh (b x)

$a\cdot\text{asinh}(bx)$

— jld

私は先に進み、コメントを回答に変えます。私はをお勧めし。これはゼロに向かう傾向がありますが、無制限です。

f (x) = sign (x) \log (1 + | x |),

$f(x) = \operatorname{sign}(x)\log{\left(1 + |x|\right)},$

一般的な需要、プロットで編集： $|x|\le 30$

— steveo'america
ソース