情報理論と凸最適化

私は情報理論の大学院レベルのコースを受講しており、このテーマにはどれほど多くの凸最適化があるかに絶えず悩まされています。しかし、証明は緩和理論、双対性などの完全な機構を使用することから遠ざかるように見えます。これを教えるために凸最適化の完全な学期を必要としないので、これは理解できます。しかし、最適化にかなり精通している誰かとして、私はこれらのリンクがさらに探求されないとき、私は多くの優雅さと直感を逃しているように感じます。凸分析も利用した方がずっと短い証明にしばしば気づきます。

この観点から情報理論をさらにカバーする本はありますか？主に、Stefan Moser、Y。Polyanskiy、Y。Wuの講義ノートと、El Gamalによるネットワーク情報理論を使用しています。

以下の本はあなたの好みに合うかもしれませんが、一般的に、テキスト/講義ノートは工学の（主に）大学院生向けに書かれており、凸分析の深い知識を推測することはできません。

1. Csizsar、I。、およびKorner、J。、情報理論：離散無記憶システムのコーディング定理、第2版、ケンブリッジ。
2. Berger、T.、かなり古い70年代後半から80年代前半のレート歪み理論は、発行元のWileyを思い出せません。
3. ヨン、RW、情報理論の最初のコース、スプリンガー。

たとえば情報理論に関するIEEEトランザクションのシャノン理論と関連分野に関する研究記事は、必ずしもそうとは限りませんが、法案により適しているかもしれません。

興味深いかもしれない古いテキストは

Wolfowitz、J.、コーディング理論の情報理論、Springer、1960年代。