タグ付けされた質問 「least-squares」

ローパスフィルターのFIRフィルター設計にParks-McClellan（ここではPMcCと略します）または最小二乗アルゴリズムよりもウィンドウアプローチを使用する利点はありますか？今日の計算能力では、アルゴリズム自体の複雑さは要因ではないと仮定します。 この質問は、PMcCと最小二乗を比較するものではありませんが、具体的には、これらのアルゴリズムの代わりにウィンドウFIR設計手法を使用する理由がある場合、またはそれらのアルゴリズムによって廃止され、教訓的な目的に追いやられた設計をフィルター処理するウィンドウ手法がありましたか？ 以下は、ハミングウィンドウを、同じ数のタップを使用して、最小二乗法を使用したお気に入りの設計アプローチと比較した比較の1つです。ハミングウィンドウのパスバンドに厳密に一致するように、最小二乗アプローチの通過帯域を拡大しました。この場合、最小二乗のパフォーマンスが大幅に向上することは明らかでした（ストップバンド除去が大幅に向上します）。すべてのウィンドウでこれを行っていないので、PMcCと最小二乗を実行できるかどうか、またはウィンドウイングアプローチが好ましいFIRローパスフィルタの他のアプリケーションがあるかどうかという質問につながりますか？

21 filters  filter-design  fir  least-squares  parks-mclellan 

現在、回帰の最小二乗（および他の）推定について学習しています。また、いくつかの適応アルゴリズムの文献でも読んでいるところから、「... and error surface isconvex ...」というフレーズが表示され、そもそも凸である理由についての深さはどこにも見当たりません。 ...だから、それを正確に凸状にするのは何ですか？ 私は自分のコスト関数で自分の適応アルゴリズムを設計できるようにしたいので、この繰り返しの省略はやや面倒ですが、コスト関数が凸誤差曲面を生成するかどうかわからない場合、私はすることができませんグローバルな最小値はないので、勾配降下のようなものを適用するのは遠すぎます。たぶん私は創造的になりたい-たぶん、私はエラー基準として最小二乗を使いたくないでしょう さらに掘り下げてみると（そして私の質問はここから始まります）、凸状のエラーサーフェスがあるかどうかを判断するには、ヘッセ行列が正の半正定行列であることを確認する必要があります。対称行列の場合、このテストは簡単です-ヘッセ行列のすべての固有値が非負であることを確認してください。（行列が対称でない場合、Gramianにより、行列を独自の転置に追加して同じ固有値検定を実行することで対称にすることができますが、ここでは重要ではありません）。 ヘッセ行列とは何ですか？ヘッセ行列は、コスト関数の部分の可能なすべての組み合わせを成文化します。パーシャルはいくつありますか？フィーチャベクトル内のフィーチャの数。パーシャルの計算方法は？元のコスト関数から「手動」で偏導関数を取得します。 それがまさに私がやったことです：マトリックスXで示されるmmm x nnnデータマトリックスがあると仮定します。ここで、mは例の数を示し、nは例ごとの特徴の数を示します。（これはパーシャルの数にもなります）。私は、我々が持っていると言うことができると仮定メートルの時間サンプルおよびnは、センサからの空間サンプルを、物理的なアプリケーションは、ここではあまり重要ではありません。XXXmmmnnnmmmnnn さらに、サイズm x 1のベクトルもあります。（これは「ラベル」ベクトル、またはXのすべての行に対応する「答え」です）。簡単にするために、この特定の例ではm = n = 2と仮定しました。したがって、2つの「例」と2つの「機能」です。yyymmm111XXXm=n=2m=n=2m=n=2 ここで、ここで最適な「ライン」または多項式を確認したいとします。つまり、コスト関数が次のようになるように、多項式係数ベクトルに対して入力データフィーチャを投影します。θθ\boldsymbol{\theta} J(θ)=12m∑i=1m[θ0x0[i]+θ1x1[i]−y[i]]2J(θ)=12m∑i=1m[θ0x0[i]+θ1x1[i]−y[i]]2 J(\theta) = \frac{1}{2m} \sum_{i=1}^{m} \bigg[\theta_{0}x_{0}[i] + \theta_{1}x_{1}[i] - y[i]\bigg]^{2} 今、私たちが最初の偏微分WRTみましょうしたがって、（機能0）：θ0θ0\theta_{0} δJ(θ)δθ0=1m∑i=1m[θ0x0[i]+θ1x1[i]−y[i]]x0[i]δJ(θ)δθ0=1m∑i=1m[θ0x0[i]+θ1x1[i]−y[i]]x0[i] \frac{\delta J(\theta)}{\delta\theta_0} = \frac{1}{m}\sum_{i=1}^{m} \bigg[\theta_{0}x_{0}[i] + \theta_{1}x_{1}[i] - y[i]\bigg] x_{0}[i] δJ(θ)δθ0=1m∑i=1m[θ0x20[i]+θ1x1[i]x0[i]−y[i]x0[i]]δJ(θ)δθ0=1m∑i=1m[θ0x02[i]+θ1x1[i]x0[i]−y[i]x0[i]] \frac{\delta J(\theta)}{\delta\theta_0} = \frac{1}{m}\sum_{i=1}^{m} \bigg[\theta_{0}x_{0}^{2}[i] + …

17 autocorrelation  covariance  least-squares  optimization 

正規化最小二乗（NLMS）フィルターの計算パフォーマンスを向上させる方法はありますか？マルチディレイブロック周波数領域（MDF）フィルターはこれを行うために提案されていますが、サンプルごとではなくブロックごとに推定インパルス応答を更新するだけなので、収束速度と精度も低下します。他の方法はありますか？

14 adaptive-filters  performance  least-squares 

ガウスマルコフ定理によれば、システムに入るノイズがゼロ平均と無相関であり、等分散性である（一定の有限分散を持つ）場合、通常の最小二乗推定量は青になります。カルマンフィルターが平均と分散が既知であるがガウス以外の分布の加法性ノイズがあるシステムに適用されていることは知っています。これは、ノイズが等分散的でなければならないことを意味しますか？それとも、KFはその裏技を持っていますか？

8 noise  kalman-filters  least-squares 

フォワードバックワードフィルタリングで過渡を最小化するためのGustafsonのアルゴリズムに精通している人はいますか[1]？私はそれを実装しようとしていますが、私の最初の推測は、Matlabのfiltfilt.mをチェックすることでした。Matlab関数では、起動過渡を最小化する初期条件ziを見つけるために線形方程式系も解かれますが、参照とコードの関係は私には明らかではありません。最小化に関するコードの行は次のとおりです（nfiltは係数ベクトルの長さです）： zi = ( eye(nfilt-1) - [-a(2:nfilt), [eye(nfilt-2); zeros(1,nfilt-2)]] ) \... ( b(2:nfilt) - b(1)*a(2:nfilt) ); それらの行がGustafsonの記事で説明されているアルゴリズムとどのように関連しているかについて、誰かが正しい方向に私を指摘できますか？ [1] Gustafsson、F。「フォワードバックワードフィルタリングでの初期状態の決定」信号処理に関するIEEE®トランザクション。巻。44、1996年4月、988〜992ページ。

7 matlab  filters  discrete-signals  infinite-impulse-response  least-squares