ニューラルネットワークの計算能力は活性化関数に関連していますか

有理な重みを持つニューラルネットワークは、ニューラルネットによるUniversal Turing Machine チューリング計算能力の計算能力を備えていることが証明されています。私が得た結果から、実際の重みを使用すると、計算能力がさらに向上するようですが、これについてはよくわかりません。

しかし、ニューラルネットの計算能力とその活性化関数の間には何らかの相関関係がありますか？たとえば、アクティベーション関数が入力をSpeckerシーケンスの制限と比較する場合（通常のTuringマシンでは実行できないことです）、これによりニューラルネットが計算上「より強く」なりますか？誰かが私にこの方向の参照を指摘できますか？

ただのメモ：

• $NN$

• $NN$

• $NN$

だが ...

• $NN$

簡単な解決策を取り、「はい」と答えます。任意の入力を受け入れ、単に定数値を返す（つまり、入力を無視する）アクティベーション関数を考えます。このネットワークでは常に一定の出力が得られるため、このネットワークの（定義によると思われる）計算能力はゼロです。何も計算できません。

これは、ネットワークのパワーに関するアクティベーション機能間の相関関係を示すのに十分です。もちろん、ネットワークがユニバーサルチューリングマシンよりも強力である可能性があることは示されず、反証もされません。