タグ付けされた質問 「regression」

人の血液中のブドウ糖のレベルを測定するために使用される機器は、10人のランダムなサンプルで監視されます。レベルはまた、非常に正確な実験室手順を使用して測定されます。計器メジャーはxで示されます。検査手順の測定値はyで示されます。 個人的には、実験室の測定値を予測するために機器の測定値を使用することを目的としているため、y on xの方が正しいと思います。そして、y on xは、そのような予測の誤差を最小限に抑えます。 しかし、提供された答えはx対yでした。

10 regression  self-study  measurement 

簡単な例のために、2つの線形回帰モデルがあると仮定します モデル1は、3つの予測因子を持っているx1a、x2bと、x2c モデル2には、モデル1からの3つの予測子と2つの追加の予測子がx2aあり、x2b 母集団の分散が説明人口回帰式がある モデル1及びρ 2 （2 ）増分分散がある集団におけるモデル2によって説明するモデル2についてΔは、ρ 2 = ρ 2 （2 ） - ρ 2 （1 ）ρ2(1)ρ(1)2\rho^2_{(1)}ρ2(2)ρ(2)2\rho^2_{(2)}Δρ2=ρ2(2)−ρ2(1)Δρ2=ρ(2)2−ρ(1)2\Delta\rho^2 = \rho^2_{(2)} - \rho^2_{(1)} 私は、の推定のための標準誤差と信頼区間を得ることに興味を持ってい。例にはそれぞれ3および2の予測子が含まれていますが、私の研究対象は、さまざまな数の予測子（たとえば、5および30）に関係しています。私が最初に考えたのは使用していた Δ R 2 、A D J = R 2 のD J （2 ） - R 2 次元J （1 ）推定量として、それをブートストラップが、私は確かに、これは適切であるかどうかではなかったです。Δρ2Δρ2\Delta\rho^2Δr2adj=r2adj(2)−r2adj(1)Δradj2=radj(2)2−radj(1)2\Delta r^2_{adj} = r^2_{adj(2)} - r^2_{adj(1)} ご質問 されたの合理的な推定量Δは、ρ …

10 regression  confidence-interval  estimation  r-squared  shrinkage  anova  t-test  references  tukey-hsd  machine-learning  boosting  r  clustering  fishers-exact  generalized-linear-model  model  probit  link-function  r  survival  probability  distributions  dice  logistic  lme4-nlme  glmm  meta-analysis  distributions  distributions  factor-analysis  r  anova  repeated-measures  post-hoc 

次のRコードを考えます。 example <- function(n) { X <- 1:n Y <- rep(1,n) return(lm(Y~X)) } #(2.13.0, i386-pc-mingw32) summary(example(7)) #R^2 = .1963 summary(example(62)) #R^2 = .4529 summary(example(4540)) #R^2 = .7832 summary(example(104))) #R^2 = 0 #I did a search for n 6:10000, the result for R^2 is NaN for #n = 2, 4, 16, …

10 r  regression 

私の状況は： 単純な線形回帰のために残差を正規化するために対数変換した1つの連続従属変数と1つの連続予測子変数があります。 これらの変換された変数を元のコンテキストに関連付ける方法について、何か助けていただければ幸いです。 線形回帰を使用して、生徒が2010年に見逃した日数に基づいて、2011年に生徒が見逃した日数を予測したいと思います。ほとんどの生徒は0日またはほんの数日欠けており、データは積極的に左に歪んでいます。したがって、線形回帰を使用する変換が必要です。 両方の変数にlog10（var + 1）を使用しました（0日間学校を休んだ生徒には+1を使用しました）。性別/民族性などのカテゴリー要素を追加したいので、回帰を使用しています。 私の問題は： 私がフィードバックしたいオーディエンスは、log10（y）= log（constant）+ log（var2）xを理解していません（そして率直に言っても私は理解していません）。 私の質問は： a）回帰で変換された変数を解釈するより良い方法はありますか？つまり、2010年に1日間欠落すると、2011年には2日間欠落します。これに対して、2010年には1単位のログ単位が変更されたのに対し、2011年にはx単位の単位が変更されますか？ b）具体的には、次のようにこの出典から引用された一節を考える： 「これは、他の変数がモデル内で一定に保たれている場合、数学標準化テストスコアが1ユニット増加したときの負の二項回帰推定です。学生が数学テストスコアを1ポイント増加させた場合、期待される数は、モデルの他の変数を一定に保ちながら、0.0016単位で減少すると予想されます。 私が知りたいのですが： この一節は、UNTRANSFORMED変数mathのスコアが1ユニット増えるごとに定数（a）から0.0016減少するため、UNTRANSFORMED数学スコアが2ポイント上がる場合、定数aから0.0016 * 2を引くと言っていますか？ これは、exponential（a））とexponential（a + beta * 2）を使用して幾何平均を取得することを意味しますか？そして、これら2つの間のパーセンテージの差を計算して、予測変数がどのような効果を持つかを示す必要があります/従属変数を持っていますか？ それとも私はそれを完全に間違っていますか？ SPSS v20を使用しています。長い質問でこれをフレーミングして申し訳ありません。

10 regression  data-transformation  regression-coefficients  logarithm 

係数をテストするために、いくつかの問題を調べています。ある場合には、スチューデントの分布を使用している人を見たり、ある場合には正規分布を見たりします。ルールは何ですか？

10 regression  distributions  hypothesis-testing 

私は一般化最小二乗法（GLS）についていくつか読んでいて、それを私の基本的な計量経済学の背景に結び付けようとしています。大学院では、GLSにいくらか似ているように思われる一見無関係な回帰（SUR）を使用して覚えています。SURをGLSの「特別なケース」と呼んでも、私が偶然見つけた1つの論文。しかし、私はまだ類似点と相違点に頭を抱えることはできません。 だから質問： GLSとSURの類似点と相違点は何ですか？ある方法を別の方法で使用する必要がある問題の特徴は何ですか？

10 regression  generalized-least-squares 

OLS多重線形回帰を実行する場合、近似値に対して残差をプロットするのではなく、（内部）スチューデント化残差を近似値に対してプロットします（共変量の場合も同様）。これらの残差は次のように定義されます。 e∗i=eis2(1−hii)−−−−−−−−−√ei∗=eis2(1−hii)\begin{equation} e^*_i = \frac{e_i}{\sqrt{s^2 (1-h_{ii})}} \end{equation} ここで、は残差、h i iはハット行列の対角要素です。Rでこれらのスチューデント化された残差を取得するには、コマンドを使用できます。eieie_ihiihiih_{ii}rstandard この文脈で人々が日常的に使用する残差のタイプは何ですか？たとえば、だけを使用するのか、それともジャックナイフ残差を使用するのか、それとも完全に別のものを使用するのか。eieie_i 注：誰も使用しない新しいタイプの残差を定義する論文にはあまり興味がありません。

10 regression  residuals  diagnostic 

以下のために、私は、線形回帰モデルに興味を持っていたとYi=β0+β1x1+β2x2+β3x1x2Yi=β0+β1x1+β2x2+β3x1x2Y_i = \beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2、私は2つの共変量間の相互作用が効果を持っているかどうかを確認したいと思いますので、 Yに 教授の講義ノート（私は連絡をとっていません）には、次のように記載されています。即ち、Yi=β0+β1x1+β2x2+β3x1x2+β4x21+β5x22Yi=β0+β1x1+β2x2+β3x1x2+β4x12+β5x22Y_i = \beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 +\beta_4x_1^2 + \beta_5x_2^2、回帰に含まれるべきです。 相互作用のみに関心があるのに、なぜ2次用語を含める必要があるのですか？

10 regression  multiple-regression  interaction  linear-model 

我々はモデルがあるとYi=β0+β1Xi1+β2Xi2+⋯+βkXik+ϵiYi=β0+β1Xi1+β2Xi2+⋯+βkXik+ϵiY_i = \beta_0 + \beta_1X_{i1} + \beta_2X_{i2} + \dots + \beta_kX_{ik} + \epsilon_i。 回帰には、誤差ϵiϵi\epsilon_iが平均ゼロと一定の分散で正規分布する必要があるなど、いくつかの仮定があります。私は、残差の正規性テストに通常のQQプロットを使用して、これらの仮定を確認するために教えられてきたei=Yi−Y^iei=Yi−Y^ie_i = Y_i - \hat{Y}_iとフィットプロット対残差は残差が一定の分散をゼロ付近変化することを確認すること。 ただし、これらのテストはすべて誤差ではなく残差に対して行われます。 私が理解していることから、エラーは各観測値の「真の」平均値からの偏差として定義されています。そこで、我々は書くことができϵi=Yi−E[Yi]ϵi=Yi−E[Yi]\epsilon_i = Y_i - \mathbb{E}[Y_i]。これらのエラーは、弊社では確認できません。* 私の質問はこれです：残差はエラーを模倣するのにどれほど良い仕事ですか？ 残差で仮定が満たされているように見える場合、これは誤差でも仮定が満たされていることを意味しますか？モデルをテストデータセットに適合させ、そこから残差を取得するなど、他の（より良い）仮定をテストする方法はありますか？ *さらに、モデルを正しく指定する必要はありませんか？これは、応答が本当に予測因子との関係を持っていること、であるX1,X2,X1,X2,X_1, X_2,モデルによって指定された方法でなど。 我々はいくつかの予測子含まれていない場合（例えば、、次に期待値）E [ Y I ] = β 0 + β 1 X I 1 + β 2 X I 2 + ⋯ …

10 regression  residuals  error 

私はsklearnのドキュメントを調べてきましたが、ロジスティック回帰のコンテキストでこれらの関数の目的を理解できません。decision_functionそれが超平面とテストインスタンス間の距離と述べています。この特定の情報はどのように役立ちますか？そしてこれはどのように関連しpredict、predict-proba方法ですか？

10 regression  logistic  prediction  scikit-learn  decision 

私のデータセット（）従属変数（DV）、5つの独立した"ベースライン"変数（P1、P2、P3、P4、P5）と関心の独立変数（Q）を有します。N≈10,000N≈10,000N \approx 10,000 次の2つのモデルに対してOLS線形回帰を実行しました。 DV ~ 1 + P1 + P2 + P3 + P4 + P5 -> R-squared = 0.125 DV ~ 1 + P1 + P2 + P3 + P4 + P5 + Q -> R-squared = 0.124 つまり、予測子Qを追加すると、線形モデルで説明される分散の量が減少します。私の知る限り、これは起こらないはずです。 明確にするために、これらはR二乗値であり、調整済みR 二乗値ではありません。 JaspとPythonのstatsmodelsを使用して、R二乗値を検証しました。 この現象が発生する理由はありますか？たぶん、OLS法に関連するものはありますか？

10 regression  linear  r-squared 

従属変数を持つ線形回帰モデルがあると想像してください。そのR 2 yを見つけます。ここで、別の回帰を行いますが、今回はlog （y ）で、同様にR 2 log （y ）を見つけます。R 2を比較してどちらのモデルが適しているかを確認することはできないと言われました。何故ですか？私に与えられた理由は、異なる量（異なる従属変数）の変動性を比較するためです。これが十分な理由であるかどうかはわかりません。yyyR2yRy2R^2_yログ（y）log⁡(y)\log(y)R2ログ（y）Rlog⁡(y)2R^2_{\log(y)}R2R2R^2 これを形式化する方法もありますか？ 任意の助けいただければ幸いです。

10 regression  data-transformation  r-squared 

これはおそらくどこかで議論されたと思いますが、明確な答えを見つけることができませんでした。式を使用して線形回帰モデルのサンプル外を計算しようとしていますは残差の2乗の合計で、は2乗の合計です。トレーニングセットについては、R2=1−SSR/SSTR2=1−SSR/SSTR^2 = 1 - SSR/SSTR2R2R^2SSRSSRSSRSSTSSTSST SST=Σ(y−y¯train)2SST=Σ(y−y¯train)2 SST = \Sigma (y - \bar{y}_{train})^2 テストセットはどうですか？サンプル外にを使い続けるべきですか、それともを使うべきですか？y¯trainy¯train\bar{y}_{train}yyyy¯testy¯test\bar{y}_{test} を使用すると、結果のが負になることがあります。これは、使用したsklearnの関数の説明と一致しています（サンプルをテストするためのlinear_modelの関数でも使用されます）。彼らは、「入力フィーチャを無視して、yの期待値を常に予測する定数モデルは、R ^ 2スコアが0.0になる」と述べています。y¯testy¯test\bar{y}_{test}R2R2R^2r2_score()y¯testy¯test\bar{y}_{test}score() ただし、他の場所では、ここやここ（dmi3knoによる2番目の回答）のようにを使用しています。だから私はどちらがもっと理にかなっているのだろうと思っていましたか？コメントは大歓迎です！y¯trainy¯train\bar{y}_{train}

10 regression  machine-learning  r-squared  out-of-sample 

「学習された残差」と「標準化された残差」は回帰モデルで同じですか？Rで線形回帰モデルを構築し、スチューデント化された残差v / s近似値のグラフをプロットしたいのですが、Rでこれを行う自動化された方法が見つかりませんでした。 モデルがあるとしましょう library(MASS) lm.fit <- lm(Boston$medv~(Boston$lstat)) 次に、を使用plot(lm.fit)しても、スチューデント化された残差と近似値のプロットは提供されませんが、標準化された残差と近似値のプロットは提供されます。 私はplot(lm.fit$fitted.values,studres(lm.fit)それを使用して、目的のグラフをプロットします。したがって、正しい方向に進んでいて、スチューデント化された残差と標準化された残差が同じではないことを確認したいだけです。それらが異なる場合は、それらとそれらの定義を計算するためのガイドを提供してください。ネットを検索したところ、少しわかりにくいことがわかりました。

10 r  regression  residuals  terminology 

非負のリッジ回帰を実行するにはどうすればよいですか？非負の投げ縄はで利用できますscikit-learnが、リッジの場合、ベータの非負を強制できません。実際、負の係数を取得しています。これがなぜか誰か知っていますか？ また、通常の最小二乗法でリッジを実装できますか？これを別の質問に移動しました：OLS回帰の観点からリッジ回帰を実装できますか？

10 regression  lasso  regularization  ridge-regression