タグ付けされた質問 「regression」

独立変数（x）に一定の測定誤差があり、従属変数（y）に信号依存誤差があるデータに最適な線形回帰アルゴリズムを探しています。 上の画像は私の質問を示しています。

9 regression  linear-model  measurement-error  measurement 

私は長期含めるとその広場、私は低い値と仮定しているため回帰に（予測変数）を従属変数にプラスの効果を有し、高い値が負の効果を持ちます。高い値の影響を捉える必要があります。したがって、の係数は正になり、係数は負になると思います。ほかに、他の予測変数も含めます。x 2 x x 2 x x 2 xxxxx2x2x^2xxxx2x2x^2xxxx2x2x^2xxx 私はここでいくつかの投稿を読みましたが、多重共線性を回避するために、この場合は変数を中央に配置することをお勧めします。 重回帰を実行するとき、いつ予測変数を中心に置く必要があり、いつ標準化する必要がありますか？ 両方の変数を別々に（平均で）中央揃えする必要がありますか、それとものみを中央から正方形をとるか、またはのみを中央て元のを含める必要がありますか？x 2 xxxxx2x2x^2xxx がカウント変数である場合、それは問題ですか？xxx がカウント変数になるのを避けるために、理論的に定義された面積、たとえば5平方キロメートルで除算することを考えました。これは、点密度の計算に少し似ているはずです。xxx ただし、この状況では、およびx²= 4の場合のように、係数の符号に関する私の最初の仮定はもう成り立たないと思います。x=2x=2x=2x²=4x²=4x²=4 x=2/5 km2x=2/5 km2x= 2 / 5 \text{ km}^2 = 0.4 km20.4 km20.4 \text{ km}^2 ただし、x ^ 2 =（2/5）^ 2 = 0.16であるため、x2x2x^2は小さくなり ます。x2=(2/5)2=0.16x2=(2/5)2=0.16x^2= (2/5)^2= 0.16

9 regression  multiple-regression  polynomial  centering 

とき（すなわち、Yは、線形回帰モデルから来ている）、 ε 〜N（0 、σ 2 I ）Y= A X+ εY=AX+εY = AX + \varepsilonYYY その場合には、残差 eは 1、... 、E N相関と独立していません。我々は回帰診断を行うと仮定テストしたいときには ε 〜N（0 、σ 2 I ）、すべての教科書には、Q-Qプロットと残差の統計的検定を使用することが提案されている電子かどうかをテストするために設計された電子〜N（0 、σ 2 I ）のためのいくつかの σ 2 ∈ R。ε 〜N（0 、σ2私）⇒e^= （私− H）Y〜N（0 、（私− H）σ2）ε∼N(0,σ2I)⇒e^=(I−H)Y∼N(0,(I−H)σ2)\varepsilon \sim \mathcal{N}(0, \sigma^2 I) \hspace{1em} \Rightarrow \hspace{1em} \hat{e} = (I - …

9 regression  residuals  non-independent 

DLMを時変係数で適合させたい、つまり通常の線形回帰への拡張、 。yt= θ1+ θ2バツ2yt=θ1+θ2x2y_t = \theta_1 + \theta_2x_2 私は、予測子（）と応答変数（y t）、海洋および内陸の年間漁獲量をそれぞれ1950〜2011年に取得しています。DLM回帰モデルに従ってください。バツ2x2x_2ytyty_t yt= θt 、1+ θt 、2バツtyt=θt,1+θt,2xty_t = \theta_{t,1} + \theta_{t,2}x_t ここで、システム進化方程式は θt=Gtθt−1θt=Gtθt−1\theta_t = G_t \theta_{t-1} PetrisらによるRを使用した動的線形モデルの43ページから。 ここでいくつかのコーディング、 fishdata <- read.csv("http://dl.dropbox.com/s/4w0utkqdhqribl4/fishdata.csv", header=T) x <- fishdata$marinefao y <- fishdata$inlandfao lmodel <- lm(y ~ x) summary(lmodel) plot(x, y) abline(lmodel) 明らかに、ここでは回帰モデルの時変係数がより適切です。私は121〜125ページの彼の例に従い、これを自分のデータに適用したいと思います。これは例のコーディングです ############ PAGE 123 require(dlm) …

9 r  regression  time-series  dlm  dynamic-regression 

私は、時間の経過とともに次第に詳細な予測子を取得する変数を最もよくモデル化する方法を理解しようとしています。たとえば、デフォルトのローンの回収率をモデル化することを検討してください。20年分のデータを含むデータセットがあり、それらの年の最初の15年にはローンが担保に入れられたかどうかだけがわかっていて、その担保の特性については何もわからないとします。ただし、過去5年間は、担保をさまざまなカテゴリに分類することができます。これらのカテゴリは、回復率の良い予測因子となることが期待されています。 この設定を前提として、モデルをデータに適合させ、予測子の統計的有意性などの測度を決定し、モデルで予測します。 これはどのミッシングデータフレームワークに適合しますか？履歴サンプル全体に散らばっているのではなく、より詳細な説明変数が特定の時点でのみ使用可能になるという事実に関連する特別な考慮事項はありますか？

9 regression  missing-data 

私の同僚が私にこの問題を送って、どうやらインターネット上でラウンドを行っているようです： If $3 = 18, 4 = 32, 5 = 50, 6 = 72, 7 = 98$, Then, $10 =$ ? 答えは200のようです。 3*6 4*8 5*10 6*12 7*14 8*16 9*18 10*20=200 Rで線形回帰を行う場合： data <- data.frame(a=c(3,4,5,6,7), b=c(18,32,50,72,98)) lm1 <- lm(b~a, data=data) new.data <- data.frame(a=c(10,20,30)) predict <- predict(lm1, newdata=new.data, interval='prediction') 私は得ます： fit lwr …

9 r  regression  lm 

場合、球状制限を課す最小二乗問題の値にのように書くことができる for the overdetermined system。\ | \ cdot \ | _2は、ベクトルのユークリッドノルムです。y=Xβ+ey=Xβ+ey = X\beta + eδδ\deltaββ\betamin ∥y−Xβ∥22s.t. ∥β∥22≤δ2min⁡ ‖y−Xβ‖22s.t.⁡ ‖β‖22≤δ2\begin{equation} \begin{array} &\operatorname{min}\ \| y - X\beta \|^2_2 \\ \operatorname{s.t.}\ \ \|\beta\|^2_2 \le \delta^2 \end{array} \end{equation}∥⋅∥2‖⋅‖2\|\cdot\|_2 \ betaの対応する解ββ\betaは、\ begin {equation} \ hat {\ beta} = \ left（X ^ TX + \ lambda …

9 regression  least-squares  regularization  ridge-regression  underdetermined 

を使用した差分回帰モデルの違いに対して正しい設定はどれですか Yist=α+γs∗T+λdt+δ∗(T∗dt)+ϵistYist=α+γs∗T+λdt+δ∗(T∗dt)+ϵistY_{ist} = \alpha +\gamma_s*T + \lambda d_t + \delta*(T*d_t)+ \epsilon_{ist} ここで、Tは、観測が処理グループからのものである場合は1に等しいダミーであり、dは、処理が行われた後の期間で1に等しいダミーです 1）各グループと時間からのランダムサンプル（つまり、4つのランダムサンプル） または 2）両方の期間にわたって同じユニットが追跡されるパネルデータ？ それは重要であり、そうでない場合、OLSはどちらの場合でも使用できますか？

9 regression  econometrics  difference-in-difference 

私は統計に不慣れで、ANOVAと線形回帰の違いを理解しようとしています。私はこれを調査するためにRを使用しています。ANOVAと回帰が異なるのになぜ同じであるか、どのように視覚化できるかなど、さまざまな記事を読みました。 ANOVAがグループ内の分散とグループ間の分散を比較して、テストされたグループ間に差異があるかどうかを判断することを理解しています。（https://controls.engin.umich.edu/wiki/index.php/Factor_analysis_and_ANOVA） 線形回帰の場合、私はこのフォーラムでb（勾配）= 0かどうかをテストすると同じことがテストできるという投稿を見つけました。） 3つ以上のグループについて、次のようなウェブサイトを見つけました。 帰無仮説は次のとおりです：H0:µ1=µ2=µ3H0:µ1=µ2=µ3\text{H}_0: µ_1 = µ_2 = µ_3 線形回帰モデルは次のとおりです：y=b0+b1X1+b2X2+ey=b0+b1X1+b2X2+ey = b_0 + b_1X_1 + b_2X_2 + e ただし、線形回帰の出力は1つのグループの切片であり、他の2つのグループの切片との差です。（http://www.real-statistics.com/multiple-regression/anova-using-regression/） 私にとって、これは実際には傾きではなく切片が比較されているように見えますか？ 勾配ではなく切片を比較する別の例は、ここにあります：（http://www.theanalysisfactor.com/why-anova-and-linear-regression-are-the-same-analysis/） 線形回帰で実際に比較されるものを理解するのに苦労していますか？傾斜、切片、またはその両方？

9 r  regression  anova 

ロジスティック回帰モデル（エラスティックネット正則化を備えたRのglmnetを介してフィット）があり、真陽性と偽陽性の差を最大化したいと思います。これを行うために、次の手順が思い浮かびました： 標準ロジスティック回帰モデルに適合 予測しきい値を0.5として使用して、すべての正の予測を特定する 正に予測された観測値に重み1を割り当て、その他すべてに0を割り当てます 重み付きロジスティック回帰モデルのあてはめ このアプローチの欠点は何でしょうか？この問題を解決する正しい方法は何でしょうか？ 真陽性と偽陰性の数の差を最大化したい理由は、アプリケーションの設計によるものです。クラスプロジェクトの一環として、私はオンラインマーケットプレイスで自律的な参加者を構築しています。私のモデルが何かを購入して後でより高い価格で販売できると予測した場合、入札を行います。ロジスティック回帰に固執し、固定費と単価の増分に基づいてバイナリの結果（勝ち、負け）を出力したいと思います（すべてのトランザクションで同じ金額を増減します）。誤検知は、私が何かを購入し、それをより高い価格で販売することができないことを意味するため、私を傷つけます。しかし、偽陰性は私に害を及ぼすことはありません（機会費用の点でのみ）。それは、私が購入しなかったというだけのことですが、もし持っていたなら、私はお金を稼いだでしょう。同様に、 0.5のカットオフは完全に任意であり、真/偽陽性の差が最も大きくなる予測しきい値でステップ1のモデルを最適化すると、0.4に近づくことがわかります。これは私のデータの歪んだ性質によるものだと思います-ネガティブとポジティブの比率は約1：3です。 現在、私は次の手順に従っています： データをトレーニング/テストに分割 トレーニングにモデルを適合させ、テストセットで予測を行い、真陽性と偽陽性の差を計算します モデルを完全にフィットさせ、テストセットで予測を行い、真陽性と偽陽性の差を計算します トレーニングセットがフルセットのサブセットであるにもかかわらず、ステップ＃3の真/偽陽性の差は、ステップ＃2よりも小さくなります。＃3のモデルの真のネガティブが多く、偽ネガティブが少ないかどうかは気にしないので、尤度関数自体を変更せずにできることはありますか？

9 r  regression  logistic  classification  glmnet 

特定のメディエーションモデルと一致するデータをシミュレートする手順を見つけることに興味があります。Barron and Kenny（1986）によって最初に概説され、Judd、Yzerbyt、＆Muller（2013）などの他の場所で説明されたメディエーションモデルをテストするための一般的な線形構造方程式モデルフレームワークによると、結果メディエーションモデル、メディエーター、および予測子あり、次の3つの回帰方程式によって管理されます： YYYmedmed\newcommand{\med}{\rm med} \medXXXYmedY=b11+b12X+e1=b21+b22X+e2=b31+b32X+b32med+e3(1)(2)(3)(1)Y=b11+b12X+e1(2)med=b21+b22X+e2(3)Y=b31+b32X+b32med+e3\begin{align} Y &= b_{11} + b_{12}X + e_1 \tag{1} \\ \med &= b_{21} + b_{22}X + e_2 \tag{2} \\ Y &= b_{31} + b_{32}X + b_{32} \med + e_3 \tag{3} \end{align}を介した に対するの間接効果または仲介効果は、として、または同等にとして定義できます。メディエーションのテストの古いフレームワークでは、メディエーションは、式1の、式2の、および式3のをテストすることで確立されました。XXXYYYmedmed\medb22b32b22b32b_{22}b_{32}b12−b32b12−b32b_{12}-b_{32}b12b12b_{12}b22b22b_{22}b32b32b_{32} これまで、以下のコードのように、in を使用してさまざまな回帰係数の値と一致するおよび値をシミュレートすることを試みました：medmed\medYYYrnormR x <- rep(c(-.5, .5), 50) med <- 4 + .7 * …

9 r  regression  simulation  random-generation  mediation 

データにRandomForestリグレッサーを使用していますが、oobスコアが0.83であることがわかりました。どうやってこのようになったのかわかりません。私の目標は10 ^ 7の範囲の高い値であることを意味します。したがって、それがMSEの場合は、はるかに高いはずです。ここで0.83の意味がわかりません。 私はsklearnツールキットのPythonのRandomForestRegressorを使用しています。 私がやります model = RandomForestRegressor（max_depth = 7、n_estimators = 100、oob_score = True、n_jobs = -1）model.fit（trainX、trainY） 次に、model.oob_score_を確認し、0.83809026152005295のような値を取得します

9 regression  random-forest 

ここに次のデータがあります。炭化水素のパーセンテージが1.0の場合、平均純度の95％信頼区間を計算しようとしています。Rでは、次のように入力します。 > predict(purity.lm, newdata=list(hydro=1.0), interval="confidence", level=.95) fit lwr upr 1 89.66431 87.51017 91.81845 しかし、どうすればこの結果を自分で導き出すことができますか？次の式を使ってみました。 snew=s2(1+1N+(xnew−x¯)2∑(xi−x¯)2)−−−−−−−−−−−−−−−−−−−−−−√snew=s2(1+1N+(xnew−x¯)2∑(xi−x¯)2)s_{new}=\sqrt{s^2\left(1+\frac{1}{N}+\frac{(x_{new}-\bar x)^2}{\sum(x_i-\bar x)^2}\right)} そして、Rに次のように入力します。 > SSE_line = sum((purity - (77.863 + 11.801*hydro))^2) > MSE = SSE_line/18 > t.quantiles <- qt(c(.025, .975), 18) > prediction = B0 + B1*1 > SE_predict = sqrt(MSE)*sqrt(1+1/20+(mean(hydro)-1)^2/sum((hydro - mean(hydro))^2)) > prediction …

9 r  regression  confidence-interval  prediction-interval 

最近、研究論文の改訂版を入手しました。以下は、私の論文に対する査読者のコメントです。 1つのモデルから得られた結果はあまり説得力がありません。特に、線形回帰は通常、外れ値の処理に欠陥があります。著者はまた、ロジスティック回帰を試み、対応する結果を現在の結果と比較することをお勧めします。同様の観察結果が得られれば、結果はより確実になります。 レビューアのコメントは正しいですか？ロジスティック回帰は、多重線形回帰よりも優れていますか？ 問題は、私の従属変数がカテゴリカルではなく、スケール変数であることです。私は今何ができますか？私のモデルを評価するために、他にどのような回帰方法をお勧めしますか？ スコアは次の表の従属変数です。最新性、頻度、在職期間、最終スコアは独立変数です。 私はサイトからこれらの変数を抽出していると私は、これらのことを仮定した独立変数が持っている重要な影響にスコアを。したがって、私は次のモデルを表します。 ちなみに、この線形モデルのR 2乗の値は0.316です。レビューアもこの値についてコメントしました： 学習された係数の質に関する指標がないため、結果は説得力がありません。小さなR ^ 2は、モデルが過剰適合している可能性があるため、良好なパフォーマンスを示すことはできません。 Rの2乗に対して0.316は非常に低いですか？以前の論文で、私は同様の価値観をたくさん見ました。

9 regression  logistic  multiple-regression 

線形回帰を使用して顧客のログ（支出）を予測する問題について考えています。 入力として使用する機能を検討していて、変数のパーセンタイルを入力として使用してもよいかどうか疑問に思っています。 たとえば、会社の収益を入力として使用できます。私が疑問に思っているのは、代わりに会社の収益パーセンタイルを使用できるかどうかです。 別の例は、カテゴリー産業分類子（NAICS）です。NAICSコードごとの中央値支出を見て、各NAICSコードを「NAICSパーセンタイル」に割り当てるとしたら、それは私が使用できる有効な説明変数ですか？ パーセンタイルを使用するときに注意すべき問題があるかどうか疑問に思っていますか？ある意味で、ある種の特徴スケーリングと同等ですか？

9 regression  linear-model  quantiles  predictor