1
エントロピーに関連する問題
私は長い間エントロピーに関して混乱に直面しており、以下のことはあまり専門用語では答えられない場合に義務付けられます。リンクをたどると、さまざまな種類のエントロピーが次の質問を投げかけます エントロピー-システムのエントロピーを最大化することが望まれます。エントロピーを最大化するということは、他のシンボルよりも優れているシンボルがないこと、または次のシンボル/結果がどうなるかわからないことを意味します。ただし、この式では、確率対数の合計の前に負の符号が示されています。したがって、負の値を最大化していることを意味します!! 次に、元の生信号が量子化され、量子化された情報のエントロピーが計算され、元のエントロピーよりも小さいことがわかった場合、情報の損失を意味します。では、次のシンボルの不確実性を最大化することを意味するので、なぜエントロピーを最大化したいのですか？ シャノンのエントロピー、トポロジーエントロピー、ソースエントロピーの違いは何ですか？ 正確には、コルゴモロフの複雑性またはコルゴモロフエントロピーの意味は何ですか。シャノンのエントロピーとどのように関連していますか？ 2つのベクトル間の相互情報はどのような情報を伝えますか？