タグ付けされた質問 「regression」

一般に、回帰では、線形回帰では、特にパラメータに関する因果解釈が許可される場合があります。少なくとも計量経済学の文献では、因果解釈が許可されている場合だけではなく、それほど明確ではありません。あなたが見ることができる議論のために：回帰と因果関係：6つの計量経済学の教科書の重要な調査 -陳と真珠（2013）。 統計モデルで因果関係を適切に処理するための最良の方法は、たとえば（間もなく）説明するように、構造的因果モデルを使用することです：Trygve Haavelmo and Emergence of Causal Calculus – Pearl 2012 feb。 ただし、現在、これらは基礎計量経済学モデル（クラシック多重線形回帰）の標準的な方法ではありません。実際、「真のモデル」または「データ生成プロセス」の概念が頻繁に使用され、明示的な因果関係の意味を持つ場合があります。とにかく因果関係だけを考えたい。したがって、「真のモデル」の対応するサンプルを推定すると、パラメーターに関する因果解釈を実現できます。 上記の考慮事項を念頭に置いて、私の試みは把握することです （現在の計量経済学の教科書の）「真のモデル」の概念と（パールの）構造因果モデル間のリンク…もしあれば。 以前のポイントと、実験室で使用されているランダム化制御実験の概念との間のリンクは、 計量経済観測研究の参照ポイントになる場合があります（それと同じくらい優れています）。たとえば、ストックとワトソン（2013）はそれについて多くの議論をしています（特にキャップ13）。さらに、Pearl 2012の2月14日には、この点に強く関連する「構造主義者」と「実験主義者」の間の議論のレビューがあります。 この2つのポイントについて、できるだけ簡単なシナリオで説明していただけますか？

8 regression  experiment-design  causality 

応答と予測子Y∈RnY∈RnY \in \Bbb R^nX=(x1,x2,⋯,xm)T∈Rn×mX=(x1,x2,⋯,xm)T∈Rn×mX = (x_1, x_2, \cdots, x_m)^T \in \Bbb R^{n \times m} 私たちが解決したい問題は argmink∈Rm(∥Y−Xk∥22+λ∥k∥0)→k0argmink∈Rm(‖Y−Xk‖22+λ‖k‖0)→k0\text{argmin}_{k \in \Bbb R^{m}} (\Vert Y - Xk \Vert_2^2 + \lambda \Vert k \Vert_0) \rightarrow k_0 ただし、これはNPハードであるため、代わりに\ text {argmin} _ {k \ in \ Bbb R ^ {m}}を解き argmink∈Rm(∥Y−Xk∥22+λ∥k∥1)→k1argmink∈Rm(‖Y−Xk‖22+λ‖k‖1)→k1\text{argmin}_{k \in \Bbb R^{m}} (\Vert Y - …

8 regression  feature-selection  regularization 

結果は、ある地域で機械によって2日間別々に観察された種の割合であるというデータがあります。結果は比率であり、0または1が含まれていないので、モデルを適合させるためにベータ回帰を使用しました。温度は独立変数として使用されます。これがおもちゃのRコードです。 set.seed(1234) library(betareg) d <- data.frame( DAY = c(1,1,1,1,2,2,2,2), Proportion = c(.4,.1,.25, .25, .5,.3,.1,.1), MACHINE = c("A","B","C","D","H","G","K","L"), TEMPERATURE = c(rnorm(8)*100) ) b <- betareg(Proportion ~ TEMPERATURE, data= d, link = "logit", link.phi = NULL, type = "ML") summary(b) ## Call: ## betareg(formula = Proportion ~ TEMPERATURE, data = d, link …

8 regression  logistic  multiple-regression  beta-regression 

次のモデルで作業しているとします yi=α(1−exp(−βti))+γ(1−exp(−δti))+εiyi=α(1−exp⁡(−βti))+γ(1−exp⁡(−δti))+εiy_i = \alpha(1-\exp(-\beta t_i))+\gamma(1-\exp(-\delta t_i)) + \varepsilon_i。 ゼロで平均IIDガウスであり、私はのベストフィット値見つけようとしている。εiεi\varepsilon_iα,β,γ,δα,β,γ,δ\alpha,\beta,\gamma,\delta 具体的には、これはRHSの第1項と第2項に従って時間とともに成長する2つの亜種を含む一部の細菌種の総量のモデルであると言いますが、ここでは総個体数のみを測定します。注：これは実際の設定ではありませんが、質問には十分です。 たとえば、常にとを交換するだけで、正確に同じ密度/尤度を取得できるため、モデルは通常の意味で識別できません。αα\alphaγγ\gamma ご想像のとおり、これでMCMCを実行すると、ひどく広い事後検定が行われ、非線形最小二乗アプローチは初期の推測に非常に敏感です-尤度関数には大きなプラトーがあります。 この段階では、より良い実験計画はオプションではありません。明らかに、亜種を個別に測定することが最良のオプションです。 この問題で私ができることはありますか、それともより良い実験デザインが唯一の選択肢ですか？

8 regression  nonlinear-regression  identifiability 

等分散誤差項に直面したときに、Quantile Regressionと比較したOLSの勾配係数について質問があります。人口モデルは次のようになります。 y私=β0+β1バツ私+あなた私yi=β0+β1xi+uiy_i = \beta_0 + \beta_{1}x_i + u_i と あなた私uiu_iiidエラー条件であること。推定された勾配係数はβ^1β^1\hat{\beta}_{1} 同じ値に収束する β1β1\beta_{1}OLSとQRの異なる分位点？サンプル推定β^1β^1\hat{\beta}_{1} お互いに異なるかもしれません。 QR推定量の収束を考えると、等分散性が存在する場合、異なる分位点回帰のすべての勾配パラメーターが同じ値に収束することがわかります（Koenker 2005：12に示されているように）。しかし、OLS係数の収束がどのようにβ1β1\beta_{1} QR（LAD）係数の中央値と比較します β1（0.5 ）β1(0.5)\beta_{1}(0.5)例えば。両方が同じ値に収束するという証拠はありますか？私の直感は、これが事実であるべきだと私に告げています。 その答えは、おそらくOLSとQRの損失関数にあります。OLSは二乗残差を最小化し、QR（中央値）は絶対偏差を最小化します。したがって、誤差は二乗されるため、OLSはQRではなく外れ値により大きな重みを付けます。しかし、等分散性の場合、正のエラーは負のエラーと同じくらい可能性が高く、OLSと中央値のQRスロープ係数は等価（少なくとも収束に関して）であるため、外れ値は互いに打ち消し合いませんか？ 更新等 分散性の場合、異なる分位点の勾配係数は同等であるという予測をテストするために、スタタでテストを実行しました。これは、前述のKoenker（2005）の結果を確認するためだけに行われます。元の質問は、QRと比較したOLSの収束に関するものです。Stataでn = 2000の観測を作成しました。 set obs 2000 set seed 98034 generate u = rnormal(0,8) generate x = runiform(0,50) generate y = 1 + x + u このサンプルでは、​​分位点（0.10、0.50、0.90）に対してQR回帰を実行し、3つの分位点の勾配係数が同一であるという共同仮説をテストしました。 H0:β1(0.1)=β1(0.5)=β1(0.9)H0:β1(0.1)=β1(0.5)=β1(0.9)H_0: \beta_1(0.1)=\beta_1(0.5)=\beta_1(0.9) これは対応するstataコードです： …

8 regression  least-squares  quantile-regression 

国勢調査データを使用して対数比変換を使用して、構成データの線形回帰を行っています。IVは構成的です（パーセントの合計は100）。DVは非構成的かつ連続的です。 alrとclrの結果は、より簡単に解釈されます。それらはすべて同じ適合度を生成します。私はalr（またはclr）を使用する傾向があります。Aitchisonはilrを「純粋な数学」アプローチとして特徴付けていますが、私の聴衆は統計学者や数学者ではありません。 私の目的が分析からの洞察を伝えることだけである場合、なぜilr（天びんあり）の解釈がはるかに難しいアプローチを採用する必要があるのですか？ 私は、Aitchison、Juan Jose Egozcue、Vera Pawlosky-Glahnによる研究の山を読みましたが、議論するつもりはありません。

8 regression  compositional-data 

James H. StockとMark W. Watsonによる第3版の「計量経済学入門」から計量経済学を研究しています。 166ページでは、株式のベータに脱線しています。それは言う これらのベータは通常、広範な市場指数での実際の超過収益に対する株式の実際の超過収益のOLS回帰によって推定されます。 言語による私の理解は、株式のベータがリグレッサーの係数であり、それが市場指数の超過リターンであるということです。あれは： (R−Rf)=β0+β(Rm−Rf)+u.(R−Rf)=β0+β(Rm−Rf)+u.(R - R_{f}) = \beta_{0} + \beta(R_{m}-R_{f})+u. したがって、株式のリターンを推定するには R^−Rf=β0^+β^(Rm−Rf).R^−Rf=β0^+β^(Rm−Rf).\hat{R}-R_{f}=\hat{\beta_{0}}+\hat{\beta}(R_{m}-R_{f}). ただし、奇妙な理由で宿題を行うと、次の式を使用して収益を見積もります。 R^−Rf=β^(Rm−Rf).R^−Rf=β^(Rm−Rf).\hat{R}-R_{f}=\hat{\beta}(R_{m}-R_{f}). つまり、を課し。β0=0β0=0\beta_{0} = 0 私の理解が間違っていることは間違いありません。どんな援助もいただければ幸いです。

8 regression  finance 

次の質問があります。 と思います （バツ1、y1）、（バツ2、y2）、⋯ 、（バツ10、y10）(x1,y1),(x2,y2),⋯,(x10,y10)(x_1,y_1),(x_2,y_2),\cdots,(x_{10},y_{10}) 上の二変量観測のセットを表します （X、Y）(X,Y)(X,Y) そのような バツ2=バツ３= ⋯ =バツ10≠バツ1。x2=x3=⋯=x10≠x1.x_2=x_3=\cdots =x_{10}\ne x_1. 最小二乗回帰線はどのような条件下で YYY オン バツXX 最小絶対偏差線と同じですか？ 私たちは見つけたいと言うことを知っています α^α^\hat{\alpha} そして β^β^\hat\beta そのような Y=α^+β^バツY=α^+β^XY=\hat\alpha+\hat\beta X; LSQメソッドはβ^=Σi = 110（バツ私−バツ¯）y私Σi = 110（バツ私−バツ¯）バツ私β^=∑i=110(xi−x¯)yi∑i=110(xi−x¯)xi\hat\beta={\sum\limits_{i=1}^{10} (x_i-\bar x)y_i\over \sum\limits_{i=1}^{10}(x_i-\bar x)x_i} それゆえ α^α^\hat\alpha。誰かが私を進めるのを手伝ってくれる？

8 regression  self-study  least-squares  least-absolute-deviations 

のような数式を実行してみましたy ~ 1。これは切片だけを与えますが、表示される値は切片推定（共変量なし）+ 1に等しいか、切片推定（共変量なし）だけですか？ 任意の助けいただければ幸いです。

8 r  regression 

回帰仕様であると仮定 どんなに確率的であるかどうか、私たちは、という仮定が必要になりますすべてのための同じを配布されて。ただし、が固定値ではなく確率確率変数である場合、別の仮定が必要です。つまり、外乱項の条件付き期待値はゼロです。つまり、はとは独立して配布されます。y私=β0+β1バツ私+ε私、y私=β0+β1バツ私+ε私、y_i=\beta_0+\beta_1x_i+\epsilon_i,バツ私バツ私x_iε私ε私\epsilon_i私私iバツ私バツ私x_iε私ε私\epsilon_iバツ私バツ私x_i 私の質問は、この仮定が実際にどのように違いを生むのでしょうか？実際には、各に対して観測値が1つしかないため、が依存せずに依存しているか、または依存して分布しているかを評価する方法はありません。ε私ε私\epsilon_iバツ私バツ私x_i（バツ私、y私）（バツ私、y私）(x_i,y_i)私私i

8 regression  linear-model 

データに次のような異常な方程式が当てはまると仮定する理論的な理由がある場合： Y私= （β0+β1バツ1 i+β2バツ2 i+ε私）β３Yi=(β0+β1x1i+β2x2i+ϵi)β3Y_i = (\beta_0 + \beta_1x_{1i} + \beta_2x_{2i} + \epsilon_i)^{\beta_3} 変換後に通常の最小二乗多重線形回帰を使用してパラメーターを推定できますか β0、1、2、３β0,1,2,3\beta{_0,_1,_2,_3}？はいの場合、どのような変化ですか？ そうでない場合、R（および簡単な説明）には、このモデルの近似と残差をより一般的なMLRモデルと比較するのに役立つ特別なパッケージがありますか？ ありがとう。 コード例： ## while I can run "nls," I cannot get $\epsilon$ inside parentheses nor ## can I have four BETAs var1 <- rnorm(50, 100, 1) var2 <- rnorm(50, 120, 2) var3 <- rnorm(50, …

8 r  regression  nonlinear-regression 

線形回帰を使用して、実際には常に負ではない値を推定しています。予測変数も負ではありません。たとえば、給与を予測するために、教育年数と年齢を後退させます。この場合、すべての変数は常に負ではありません。 負の切片が原因で、私のモデル（OLSで決定された）はいくつかの負の予測になります（すべての値の範囲に対して予測変数の値が低い場合）。 このトピックはすでにここで説明されており、0でインターセプトを強制することは推奨されないことも承知しているため、このモデルを使用する必要があるものとして受け入れる必要があるようです。しかし、ここでの私の質問は、そのようなモデルを評価するときに受け入れられる規範とルールについてです。ここに特別なルールはありますか？具体的には： 負の見積もりが出た場合、0に丸めることはできますか？ 観測値が100であり、予測値が-300であり、可能な最小値が0であることがわかっている場合、エラーは400または100ですか？たとえば、MEとRMSEを計算する場合。 それが議論に関連している場合：私は単純な線形回帰と多重線形回帰の両方を使用しました。どちらもいくつかの負の値になります。 編集： 以下は、適合のあるサンプルの例です。 線形回帰の係数は0.0010（x）および-540（切片）です。 Xにログを使用すると、次のようになります。 ここで線形回帰は適切ですか？

8 regression  multiple-regression  least-squares 

線形回帰と線形モデルの違いに興味があります。私の理解では、線形回帰は線形モデルのより大きなファミリの一部ですが、両方の用語が同義語としてよく使用されます。さて、線形回帰を実行するときに満たす必要がある仮定をバイパスするために、回帰分析を線形モデルに置き換えることができると私は提案しました。トピックに関する読書の提案があれば、それらは大歓迎です。 私が何をしているのかを理解する手助けをしてほしい 線形回帰であり、そのように扱う必要があります 「線形モデル」に置き換えることができます 私の方法は「線形モデル」と同義です だから、ここでは私が略してやったことです。分析の目的は、散布図に線をプロットすることでした。データセットの分析には、x軸とラインの勾配と交点の両方が使用されます。結果変数は化学元素の割合（時間あたりの濃度）であり、予測子は2つの濃度の比率（したがって単位なし）でした。1つのプロットで比較する必要があるさまざまな環境（深度）でレートを測定しました。深さの1つだけが回帰の仮定に適合しません。 Rでlm関数を使用して線形方程式を計算しました。 lmオブジェクトの残差を確認しました。 残差が正規分布でも分散も等しくないことを発見しました。 結果の変量（レート）の対数変換により分散が修正されると考えましたが、残差はまだ正規分布していませんでした。 方程式から外れ値によるバイアスが少なくなるようにロバストな方法を使用することにしました。これは分析から除外できません（関数lmrob、パッケージrobustbase）。 対数変換のため、線をプロットしませんでした。対数変換する必要のない他のデータがプロットにありますが、問題を引き起こしているデータセットに匹敵するはずです。また、元のプロットは複数のプロットデザインの一部であり、すでに広範囲に及ぶため、プロットを対数スケールで拡大することもできません。 多分私の目的のために、回帰の仮定は興味がありませんか？今はどうしようか悩んでいるのでよろしくお願いします！

8 regression  linear-model  lm 

これはMath SEからのクロスポストです。 データ（アルゴリズムの実行時間）があり、べき乗則に従っていると思う yreg=kxayreg=kxay_\mathrm{reg} = k x^a とaを決定したい。これまでに行ったことは、log （x ）、log （y ）を通じて線形回帰（最小二乗）を実行し、その係数からkとaを決定することです。kkkaaalog(x),log(y)log⁡(x),log⁡(y)\log(x), \log(y)kkkaaa 私の問題は、「絶対ログ」エラーが「ログログデータ」で最小化されているため、元のデータを見ると最小化されるのが商であるということです。 yyregyyreg\frac{y}{y_\mathrm{reg}} これにより、yの値が大きい場合、絶対誤差が大きくなります。実際の「絶対」エラーを最小限に抑える「べき乗則回帰」を行う方法はありますか？または、少なくともそれを最小化することでより良い仕事をしますか？yyy 例： 赤い曲線はデータセット全体に適合しています。緑の曲線は、最後の21点のみに適合します。 これがプロットのデータです。左側の列は（x軸）の値、右側の列はt（y軸）の値ですnnnxxxtttyyy 1.000000000000000000e+02,1.944999820000248248e-03 1.120000000000000000e+02,1.278203080000253058e-03 1.250000000000000000e+02,2.479853309999952970e-03 1.410000000000000000e+02,2.767649050000500332e-03 1.580000000000000000e+02,3.161272610000196315e-03 1.770000000000000000e+02,3.536506440000266715e-03 1.990000000000000000e+02,3.165302929999711402e-03 2.230000000000000000e+02,3.115432719999944224e-03 2.510000000000000000e+02,4.102446610000356694e-03 2.810000000000000000e+02,6.248937529999807478e-03 3.160000000000000000e+02,4.109296799998674206e-03 3.540000000000000000e+02,8.410178100001530418e-03 3.980000000000000000e+02,9.524117600000181830e-03 4.460000000000000000e+02,8.694799099998817837e-03 5.010000000000000000e+02,1.267794469999898935e-02 5.620000000000000000e+02,1.376997950000031709e-02 6.300000000000000000e+02,1.553864030000227069e-02 7.070000000000000000e+02,1.608576049999897034e-02 7.940000000000000000e+02,2.055535920000011244e-02 8.910000000000000000e+02,2.381920090000448978e-02 1.000000000000000000e+03,2.922614199999884477e-02 1.122000000000000000e+03,1.785056299999610019e-02 1.258000000000000000e+03,3.823622889999569313e-02 1.412000000000000000e+03,3.297452850000013452e-02 1.584000000000000000e+03,4.841355780000071440e-02 1.778000000000000000e+03,4.927822640000271981e-02 1.995000000000000000e+03,6.248602919999939054e-02 2.238000000000000000e+03,7.927740400003813193e-02 2.511000000000000000e+03,9.425949999996419137e-02 2.818000000000000000e+03,1.212073290000148518e-01 3.162000000000000000e+03,1.363937510000141629e-01 …

7 regression  fitting  logarithm  power-law 

不明/不明な機能変数がある回帰を実行することは可能ですか？ 私が持っていると言います yん=a0+a1バツ1+a2バツ2+a３バツ３yn=a0+a1x1+a2x2+a3x3y_n = a_0 + a_1 x_1 + a_2 x_2 + a_3 x_3 機能変数の値を測定できない/測定できない バツ３x3x_3。係数を確認するために回帰を実行できますかa私aia_i？ どのように統計の知識がある場合はどうですか バツ３x3x_3配布されていますか？私が知っているならバツ３x3x_3 ガウス分布から引き出されます N（0 、σ2）N(0,σ2)\mathcal{N}(0, \sigma^2)、既知の σσ\sigma これにより、回帰を実行して、 a私aia_i？

7 regression  machine-learning  stochastic-processes