ニューラルネットワークは

有名なTensorflow Fizz BuzzジョークとXOr問題の精神に基づいて、$y = x^2$関数を実装するニューラルネットワークを設計することが可能であれば、私は考え始めましたか？

数値の表現（たとえば、バイナリ形式のベクトルとして、その数5はとして表される[1,0,1,0,0,0,0,...]）が与えられると、ニューラルネットワークはその二乗（この場合は25）を返すことを学習する必要があります。

$y=x^2$実装できれば、おそらく$y=x^3$と一般的にxの任意の多項式を実装できます。次に、テイラー級数を使用して、$y=\sin(x)$近似できます。これにより、フィズバズ問題-ニューラルネットワークが解決されます分割の残りを見つけることができます。

明らかに、NNの線形部分だけではこのタスクを実行できないため、乗算を実行できれば、アクティベーション関数のおかげでそれが発生します。

テーマについてアイデアや読書を提案できますか？

ニューラルネットワークは、ユニバーサル関数近似定理に基づくユニバーサル関数近似とも呼ばれます。それはそれを述べています：

人工ニューラルネットワークの数学的理論では、普遍近似定理は、有限数のニューロンを含む単一の隠れ層を持つフィードフォワードネットワークが、活性化関数に関する穏やかな仮定の下で、Rnのコンパクトなサブセット上の連続関数を近似できることを示しています。

$y = x^2$

ノートブックの例を使用して、ここで優れたレッスンを見つけることができます。

また、このような機能により、ANNは、たとえば画像とそのラベルの間の複雑な関係をマッピングすることができます。

$f(x)=x^2$$\mathbb{R}^n$

$\mathbb{R}^n$$\mathbb{R}^n$$x$$f(x)=x^2$$\mathbb{R}$$f(x)=x^2$$x\in \mathbb{R}$

$\sin(x)$$x=0$$x\to 10000$