なぜ適応型AR NLMSフィルターをオーバーモデリングすると鋭いスパイクが修正されるのですか？

ホワイトノイズを燃料とする自動回帰2次モデルをシミュレートし、次数1〜4の正規化された最小平均二乗フィルターを使用してパラメーターを推定しました。

一次フィルターはシステムをモデル化しているため、当然、推定は奇妙です。2次フィルターは、いくつかの鋭いジャンプがありますが、適切な推定値を見つけます。これは、NLMSフィルターの性質から予想されるものです。

私を混乱させるのは、3次と4次のフィルターです。次の図に示すように、急激なジャンプが解消されているようです。システムをモデル化するには2次フィルターで十分なので、何を追加するかわかりません。とにかく、冗長パラメーターはを中心に動きます。 $0$

誰かがこの現象を定性的に説明してくれませんか？何が原因で、それは望ましいことですか？

Iは、ステップサイズ用い、サンプル、およびARモデルここで、であるホワイトノイズを分散1。 $\mu=0.01$ $10^4$ $x(t)=e(t)-0.9x(t-1)-0.2x(t-2)$ $e(t)$

ここに画像の説明を入力してください

参考のために、MATLABコード：

% ar_nlms.m
function th=ar_nlms(y,order,mu)
N=length(y);
th=zeros(order,N); % estimated parameters
for t=na+1:N
    phi = -y( t-1:-1:t-na, : );
    residue = phi*( y(t)-phi'*th(:,t-1) );
    th(:,t) = th(:,t-1) + (mu/(phi'*phi+eps)) * residue;
end

% main.m
y = filter( [1], [1 0.9 0.2], randn(1,10000) )';
plot( ar_nlms( y, 2, 0.01 )' );

adaptive-filters autoregressive-model

— アンドレアス
ソース

何を企んでいるのかよくわかりません。NLMSでシミュレートしているフィルターの種類は何ですか？—明らかに、パラメータが多いほど、任意のフィルタに適合できるようになります。パラメータが「0付近をホバリング」しても、何もしないことを意味しません。

— leftaroundabout

@left：定数パラメーターを使用してAR（2）モデルをシミュレートしています。つまり、NLMS（2）はシステムを完全に記述できるはずです。明らかに、追加のパラメーターはスパイクを減らすためになんとかして機能しますが、システムが過剰にモデル化されているのではないかと思っています。これは通常、推定パラメーターの信頼区間が増加することを意味します。

— Andreas

a_{n}

$a_n$

x (t) = e (t) - a_{1} x (t - 1) - a_{2} x (t - 2) - . . . - a_{n} x (t - n)

$x(t)=e(t)-a_1x(t-1)-a_2x(t-2)-...-a_nx(t-n)$

n \in {1, 2, 3, 4}

$n\in\left\{1,2,3,4\right\}$

ARモデルを近似しようとしている間、NLMSはMAモデルではありませんか？

— 2012年

@メミング：NLMSはARモデルを反転しようとしているため、MAモデルはここで行うのが適切です。

— Peter K.

発生しているように見えるのは、オーバーモデリングを開始すると、エラー信号が次第に白くならないことです。

エラー信号（residue用語の一部）を返すようにコードを変更しました。

このプロットは、xcorr次数= 2（青）、3（赤）、および4（緑）の誤差の非ゼロ遅延係数を示しています。ご覧のとおり、ゼロに近いがゼロではないラグ項の大きさが大きくなっています。

xcorrエラーのFFT（スペクトル）を見ると、低周波数の項（大きなドリフトの原因）が小さくなっていることがわかります（エラーには高周波数が含まれています）。

したがって、この場合のオーバーモデリングの効果は、エラーをハイパスフィルターすることであり、（この例では）有益です。

ここに画像の説明を入力してください

function [th,err]=ar_nlms(y,order,mu)
eps = 0.000000001;
N=length(y);
th=zeros(order,N); // estimated parameters
err = zeros(1,N);
for t=order+1:N
    phi = -y( t-1:-1:t-order, : );
    err(t) = y(t)-phi'*th(:,t-1);
    residue = phi*( err(t) );
    th(:,t) = th(:,t-1) + (mu/(phi'*phi+eps)) * residue;
    size(residue)
end

— ピーターK
ソース