AWGNチャネルの容量

AWGNチャネルを介した通信の基本的な概念の理解に戸惑っています。離散時間AWGNチャネルの容量は次のとおりです。

$$C=\frac{1}{2}\log_2\left(1+\frac{S}{N}\right)$$ そして、それは入力信号がガウス分布を持っているときに達成されます。しかし、入力信号がガウスであることはどういう意味ですか？それは、コードワードの各シンボルの振幅がガウスアンサンブルから取得されなければならないことを意味しますか？特別なコードブック（この場合はガウス）を使用することとM-aryシグナリングで信号を変調することの違いは何ですか（MPSKなど）。

各時刻の入力が連続確率変数であるチャネルを想定 $X$ そしてその出力は $Y=X+Z$、 どこ $Z\sim\mathcal{N}(0,N)$ そして $Z$ 独立しています $X$、その後

$$C_{\text{CI-AWGN}}=\frac{1}{2}\log_2\left(1+\frac{P}{N}\right)$$ 電力制約下の連続入力チャネル の容量です $$\mathsf{E}X^2\le P$$ 相互情報 $I(X;Y)$ 最大化されている（と等しい $C_{\text{CI-AWGN}}$） いつ $X\sim\mathcal{N}(0,P)$。

これは、 $X$は、与えられた分散をもつ連続ガウス確率変数であり、出力は入力との相互情報が最も高くなります。それでおしまい！

入力変数が $X$が離散化（量子化）されている場合、新しい定式化が必要です。確かに、物事は簡単に困難になる可能性があります。それを少し見るために、非常に大まかな判別の単純なケースを考えることができます$X$2つの値しか持てません。したがって、$X$ バイナリアルファベットから選択します。たとえば、 $X\in\{\pm1\}$（または電力の制約を満たすためにスケーリングされたバージョン）。変調に関しては、BPSKと同じです。

容量には（この単純なケースでも）閉じた形がないことがわかります。RichardsonとUrbankeによる「Modern Coding Theory」からの報告です。

$$\begin{align}C&_{\text{BI-AWGN}}=1+\\&\frac{1}{\ln(2)} \left(\left(\frac{2}{N}-1\right)\mathcal{Q}\left(\frac{1}{\sqrt{N}}\right)-\sqrt{\frac{2}{\pi N}}e^{-\frac{1}{2N}}+\sum_{i=1}^{\infty}\frac{(-1)^i}{i(i+1)}e^{\frac{2i(i+1)}{N}}\mathcal{Q}\left(\frac{1+2i}{\sqrt{N}}\right)\right)\end{align}$$ 2つのケースの比較を下の図に示します。

容量式

$$C = 0.5 \log (1+\frac{S}{N}) \tag{1}$$ 離散時間チャネル用です。

データのシーケンスがあると仮定します $\left\lbrace a_n \right\rbrace$ 送信するには、正規直交波形セットが必要です $\left\lbrace \phi_n(t) \right\rbrace$変調用。M-ary modutionが属する線形変調では、$\phi_n(t) = \phi(t - nT)$ どこ $T$ シンボル期間であり、 $\phi(t)$ ベースバンド連続時間TX信号が

$$x(t) = \sum_n a_n \phi(t-nT) \tag{2}$$

典型的な変調は、以下の特殊なケースを使用します $\left\lbrace \phi_n(t) \right\rbrace$回復するために一致したフィルターでナイキストISI基準を満たします$a_n$。よく知られている$\phi(t)$あるルートがコサインを上げました。

連続AWGNチャネルは、

$$y(t) = x(t) + n(t) \tag{3}$$

どこ $n(t)$ ガウスの白色確率過程です。

（2）から、 $a_n$ の投影です $x(t)$ オン $\left\lbrace \phi_n(t) \right\rbrace$。同じことをする$n(t)$、の予測 $n(t)$ 正規直交集合はiidガウス確率変数のシーケンスです $w_n = \langle n(t),\phi_n(t) \rangle$ （私は本当にそう思います $n(t)$その投影から定義されます）; そして電話する$y_n = \langle y(t),\phi_n(t) \rangle$。Voilà、同等の離散時間モデルがあります。

$$y_n = a_n + w_n \tag{4}$$

式（1）は、 $S$ そして $N$ エネルギー（分散 $a_n$ そして $w_n$ ゼロ平均）の $a_n$ そして $w_n$、それぞれ。もし$a_n$ そして $w_n$ ガウスなので、 $y_n$容量が最大化されます。（必要に応じて、簡単な証明を追加できます）。

入力信号がガウスであることはどういう意味ですか？それは、コードワードの各シンボルの振幅がガウスアンサンブルから取得されなければならないことを意味しますか？

それは確率変数を意味します $a_n$ ガウスです。

特別なコードブック（この場合はガウス）を使用することとM-aryシグナリングで信号を変調することの違いは何ですか（MPSKなど）。

波形 $\phi_n(t)$ セットは正規直交である必要があります。これはM-PSKに当てはまるため、 $w_n$ iid Gaussianです。

ただし、更新$a_n$は量子化されているので、一般的にはガウシアンではありません。ラティスガウスコーディング（リンク）の使用など、このトピックに関するいくつかの調査があります。

入力信号にガウス分布があるとは、ガウス確率変数として分布していることを意味します。実際には、ガウス入力分布に依存するのではなく、チャネルの複数のインスタンス（時間内）でのコーディングに依存します。この答え（情報理論）の範囲を超えている証明に満ちた美しい理論があります。エラー制御コード（またはチャネルコード）は通常、使い慣れたQAM / PSK変調の使用に依存しますが、コードの冗長性と複数のチャネルの使用により、チャネル容量に（完全には到達しませんが）到達できます。推論のスケッチ（完全な詳細なし）が次に提供されます。

チャネル容量の定義は次のとおりです

$$C = \sup_{p_X(x)} I(X; Y)$$ どこ $X$ 大まかに入力確率変数と呼ぶことができ、 $Y$ 大まかに出力確率変数と呼ぶことができ、 $I(\cdot,\cdot)$の相互情報です$X$ そして $Y$。この定義では、入力のすべての可能な分布を検索する必要があります$p_X(x)$相互情報量を最大化する配布用。離散AWGNチャネルには、次のように定義された入力/出力の関係があります。 $$Y = X + Z$$ どこ $Z$ 分散のあるゼロ平均ガウス $\sigma_Z^2$ （そのことに注意してください $\sigma_Z^2=N$ そして $\sigma_X^2=S$あなたの表記で）。現在、すべての詳細を提供する時間はありません。ただし、情報理論に関する本であれば、次のことを示す証明を説明できます。$X$ ガウスとして分布します $I(X;Y)$ （相互の情報 $X$ そして $Y$）は最大化されます。たとえば、Thomas CoverによるElements of Information Theoryを参照してください。まだ読んでいない場合は、シャノンのオリジナルの論文である「コミュニケーションの数学的理論」は、全体を通して明確な理由付けがあり、読む価値があります。