ARIMAモデルの正則化


15

LASSO、リッジ、および線形回帰モデルの正則化のElastic-Netタイプを認識しています。

質問:

  1. この(または同様の)罰則付き推定をARIMAモデリングに適用できますか(空でないMAパーツを使用)。

pmaxqmaxppmaxqqmax

私のさらなる質問は次のとおりです。

  1. (、)までのすべての項を含めることができますが、係数のサイズにペナルティを科せますか(潜在的にゼロまで)。それは理にかなっていますか?pmaxqmax
  2. もしそうなら、それはRまたは他のソフトウェアに実装されていますか?そうでない場合、問題は何でしたか?

やや関連する投稿はこちらにあります


1
非常に良い質問のために+1。P、Qは離散値であるため、グリッド検索を実行してP、Qの最適な順序を見つける方が効率的ですか?
予報官

2
気に入ってくれてうれしいです!はい、グリッド検索は、フレームワークのオプションの1つであり、「通常の検索」と呼んでいます。一つの可能な組み合わせのグリッドが上に検索することができるから0 0 P 、M 、A 、XQ 、M 、A 、X。ただし、これは依然として「通常のフレームワーク」の一部です。別の方法として、すべての遅延を保持することをお勧めしますが、係数のサイズにペナルティを科します。(p,q)(0,0)(pmax,qmax)
リチャードハーディ

1
columbia.edu/~sn2294/papers/forecast.pdf 最大値を設定する代わりにいくつかの遅延をスキップできるため、おそらくLASSOの方が適切に動作します。AICでも同じことができますが、計算コストが高くなります。
Cagdas Ozgenc

1
@CagdasOzgenc、私はこの論文をざっと読みましたが、ARIMAモデルに適用される正則化を扱っていないようです(ただし、情報基準の文脈でARMAモデルについて言及しています)。論文のどの部分が私の質問に関連しているのか教えてください。
リチャードハーディ

1
5.3表にはARMAXモデルが含まれています。結果はARMAモデルに適用されます。
カグダスオズゲンク

回答:


9

質問への回答1。

Chen&Chan 「アダプティブラッソによるサブセットARMAの選択」(2011)*は、回避策を使用して、計算の厳しい最尤推定を回避しています。論文を引用して、彼ら

時系列適応型Lasso回帰を、それ自体のラグと、長い自己回帰をy t sに当てはめることから得られる残差の適応ラッソ回帰に当てはめることにより、最適なサブセットARMAモデルを見つけることを提案します。<...>穏やかな規則性条件の下で、提案された方法はオラクルの特性を実現します。つまり、サンプルサイズが無限に増加するにつれて確率が1になる傾向がある正しいサブセットARMAモデルを識別し、<...>非ゼロ係数の推定量は漸近的に正規であり、制限分布はゼロ係数がアプリオリに知られている場合と同じです。ytyt

オプションで、選択したサブセットARMAモデルの最尤推定とモデル診断を提案します。


ウィルムズ他 「高次元ベクトル自己回帰移動平均のスパースな識別と推定」(2017)は、私が求めていた以上のことを行います。単変量ARIMAモデルの代わりに、高次元のベクトルARMA(VARMA)を使用し、推定と遅延次数の選択にペナルティを使用します。彼らは推定アルゴリズムを提示し、いくつかの漸近的な結果を開発します。L1

特に、2段階の手順を採用しています。VARMAモデル検討 に推定する必要があるが、ラグ次数P及びqはにUnknownです。

yt=l=1pΦlytl+m=1qΘmεtm+εt
pq
  • ステージ1では、VARMAモデルを高次VARモデルで近似し、自己回帰パラメーターにラグベースの階層グループラッソペナルティを設定するHierarchical VAR推定器を使用してVARMAモデルを推定します。
    (ラグ順序が設定されている。モデル方程式は一緒に推定され、誤差のフロベニウスノルム| | Y - Y | | F 2は、回帰係数で階層グループ投げ縄ペナルティと最小化される)。 これらは残得る ε=Y - yはステージ2で真エラーのプロキシとして使用します。1.5T||yy^||2F
    ε^:=yy^

  • yt=l=1p^Φlytl+m=1q^Θmε^tm+ut,

    p^q^1.5T

ウィルムス等のアプローチ。されたRパッケージに実装「BIGTIME」


参照資料


*リンクの@hejsebに感謝します。


2
このワーキングペーパーは非常に新しく、昨日arXivに投稿されました。
リチャードハーディ

PythonまたはRに実装はありますか?
デビッドマ

@ DavidMasip、R実装の更新された投稿を参照してください。
リチャードハーディ
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.