タグ付けされた質問 「regression」

コックス比例ハザードモデルから生存曲線をどのように解釈しますか？ このおもちゃの例ではage、kidneyデータの変数にcox比例ハザードモデルがあり、生存曲線を生成するとします。 library(survival) fit <- coxph(Surv(time, status)~age, data=kidney) plot(conf.int="none", survfit(fit)) grid() たとえば、時間、どのステートメントが正しいですか？または両方が間違っていますか？200200200 ステートメント1：被験者は20％残ります（たとえば、人がいる場合、200日目までに、およそ200人が残っているはずです）。 100010001000200200200200200200 ステートメント2：特定の人に対して、彼/彼女は200日目に生存する可能性がます。20%20%20\%200200200 βTxβTx\beta^Tx

9 r  survival  cox-model  likelihood  machine-learning  deep-learning  generative-models  machine-learning  reinforcement-learning  q-learning  regression  multicollinearity  convergence  beta-distribution  bernoulli-distribution  machine-learning  self-study  pattern-recognition  neural-networks  stochastic-processes  linear 

統計における私の短い経験に続いて、ANOVA結果を取得するために使用される二乗和のタイプ（タイプI、II、III、IV ...）は、テスト結果（特に、相互作用と欠落のあるモデル）に劇的な違いをもたらす可能性があるデータ）。しかし、それを報告する論文はまだ見ていません。どうしてこんなことに？ （統計自体ではなく）何らかの方法でそれを報告する紙の例、またはそれが一般的ではない理由を提供していただければ幸いです。

9 regression  anova  manova  reporting  sums-of-squares 

この投稿は、2変量線形回帰モデルます。私は常に、総二乗和（SSTO）を誤差の二乗和（SSE）とモデルの二乗和（SSR）に信頼性をもって分割してきましたが、一度考え始めたら、わかりません。なぜ機能するのか ...Yi=β0+β1xiYi=β0+β1xiY_i = \beta_0 + \beta_1x_i 私が理解している部分： yiyiy_i：yの観測値 y¯y¯\bar{y}：観測されたすべての sの平均yiyiy_i y^iy^i\hat{y}_i：特定の観測値のxに対するyの適合/予測値 yi−y^iyi−y^iy_i - \hat{y}_i：残差/エラー（平方され、すべての観測値に対して合計された場合、これはSSEです） y^i−y¯y^i−y¯\hat{y}_i - \bar{y}：モデルフィッティングされた値が平均とどの程度異なるか（平方され、すべての観測値に対して合計された場合、これはSSRです） yi−y¯yi−y¯y_i - \bar{y}：観測された値が平均とどの程度異なるか（すべての観測で保証され、合計された場合、これはSSTOです）。 何も二乗せずに、単一の観測で理由を理解できます。そして、理由を理解できます。すべての観測値を合計したい場合は、それらを2乗する必要があります。そうしないと、合計が0になります。(yi−y¯)=(y^i−y¯)+(yi−y^i)(yi−y¯)=(y^i−y¯)+(yi−y^i)(y_i - \bar{y}) = (\hat{y}_i - \bar{y}) + (y_i - \hat{y}_i) 理由がわかりません（例：SSTO = SSR + SSE）。あなたが、状況があればということであるように思わは、、ない。なぜそうではないのですか？ A = B + C 、A 2 = B 2 + 2 B C …

9 regression  sums-of-squares  orthogonal 

HastieとTibshiraniは、彼らの本のセクション4.3.2 で、線形回帰の設定では、最小二乗アプローチは実際には最大尤度の特別なケースであると述べています。この結果をどのように証明できますか？ PS：数学的な詳細はありません。

9 regression  maximum-likelihood  least-squares 

y=β0+β1x1+ε0y=β0+β1x1+ε0y = \beta_{0} + \beta_{1}x_{1} + \varepsilon_{0} 上記で指定された非常に単純な線形回帰など、回帰モデルを記述するための言語はしばしば変動し、そのような変動はしばしば意味の微妙な変化をもたらします。たとえば、方程式の左辺のモデルの部分は、（特に私が無知である）括弧内の意味と意味で呼ばれることがあります。 従属変数（因果関係のヒント） 予測変数（モデルの予測を意味する/予測を行う） 応答変数（因果関係、または少なくとも時間的順序付けを意味します） 結果変数（因果関係を意味します） 命名法のバリエーションは、方程式の右辺にも当てはまります（私が他の用語について無視しているのと同じ免責事項）。 独立変数（因果関係の優先順位を意味し、実験計画のヒント） 予測変数（予測を意味し、変数にゼロ以外のパラメーター推定値が関連付けられていることを意味します） 調査の提案、または研究の伝達の過程で、私は、ある用語の使用についてだけでなく、その後、私がそれを置き換えることを選択した用語について呼ばれる機会がありました。もちろん、電話をかけている人々は知識を深めていましたが（NB：私はプロの知識を身につけているので、私は共感しています）、もちろん私たち全員が伝えられていることを理解していたので、今でも疑問に思います： （a）モデルの外部使用、（b）変数間の因果関係、および（c）研究の側面に関して不可知である回帰モデルの左側と右側の変数に一般的に使用される用語はありますか変数自体を生成するために使用されるデザイン？ 注意：私は適切なモデリングと適切な解釈の重要な問題については質問していません（つまり、因果関係、研究デザインなどに非常に関心があります）、そのようなモデルについて一般的に話す言語に興味があります。 （「左側の変数」と「右側の変数」は信頼できる答えと解釈されるかもしれませんが、これらの用語は不格好に見えます...多分これは不格好な質問です。:)

9 regression  terminology 

私はこのペーパープレプリントを読んでおり、ガウスプロセス回帰の方程式の導出を理解するのに苦労しています。彼らはラスムッセンとウィリアムズの設定と表記法を使用しています。したがって、添加剤、ゼロ平均、固定及び正常分散とノイズ分散想定されます。σ2noiseσnoise2\sigma^2_{noise} y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) ゼロ平均を有する従来A GPのために想定される、手段∀ D ∈ N、F = { F （X 1）、... 、Fは（X D）}平均0及び共分散行列を有するガウスベクトルでありますf(x)f(x)f(\mathbf{x})∀ d∈N∀ d∈N\forall \ d\in Nf={f(x1),…,f(xd)}f={f(x1),…,f(xd)}\mathbf{f}=\{f(\mathbf{x_1}),\dots,f(\mathbf{x_d})\} Σd=⎛⎝⎜⎜k(x1,x1)k(xd,x1)⋱k(x1,xd)k(xd,xd)⎞⎠⎟⎟Σd=(k(x1,x1)k(x1,xd)⋱k(xd,x1)k(xd,xd))\Sigma_d=\pmatrix{k(\mathbf{x_1},\mathbf{x_1})& & k(\mathbf{x_1},\mathbf{x_d}) \\ & \ddots & \\k(\mathbf{x_d},\mathbf{x_1})& & k(\mathbf{x_d},\mathbf{x_d}) } これからは、ハイパーパラメータが既知であると仮定します。次に、論文の式（4）は明白です。 p(f,f∗)=N(0,(Kf,fKf∗,fKf∗,fKf∗,f∗))p(f,f∗)=N(0,(Kf,fKf∗,fKf∗,fKf∗,f∗))p(\mathbf{f},\mathbf{f^*})=N\left(0,\pmatrix { K_{\mathbf{f},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f}} \\K_{\mathbf{f^*},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f^*}}} \right) ここで疑問が生じます： 式（5）： p(y|f)=N(f,σ2noiseI)p(y|f)=N(f,σnoise2I)p(\mathbf{y}|\mathbf{f})=N\left(\mathbf{f},\sigma^2_{noise}I \right) E[f]=0E[f]=0E[\mathbf{f}]=0E[y|f]=f≠0E[y|f]=f≠0E[\mathbf{y}|\mathbf{f}]=\mathbf{f}\neq0ff\mathbf{f}y=c+ϵy=c+ϵ\mathbf{y}=\mathbf{c}+\boldsymbol{\epsilon}cc\mathbf{c}ϵϵ\boldsymbol{\epsilon} とにかく、それは私にはより不明瞭な式（6）です。 p(f,f∗|y)=p(f,f∗)p(y|f)p(y)p(f,f∗|y)=p(f,f∗)p(y|f)p(y)p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f})}{p(\mathbf{y})} …

9 regression  bayesian  gaussian-process 

線形回帰の仮定の1つは、誤差項に一定の分散があり、モデルに関連付けられている信頼区間と仮説検定がこの仮定に依存していることです。エラー項に一定の分散がない場合、正確にはどうなりますか？

9 regression  heteroscedasticity  assumptions  robust-standard-error 

次の線形関係を仮定： ここで、Y iは従属変数であり、X I単一の独立変数及びU I誤差項。Yi=β0+β1Xi+uiYi=β0+β1Xi+uiY_i = \beta_0 + \beta_1 X_i + u_iYiYiY_iXiXiX_iuiuiu_i Stock＆Watson（計量経済学入門; 第4章）によると、3番目の最小二乗の仮定は、とu iの4次モーメントは非ゼロで有限（0 &lt; E （X 4 i）&lt; ∞ および 0 &lt; E （u 4 i）&lt; ∞ ）。XiXiX_iuiuiu_i(0&lt;E(X4i)&lt;∞ and 0&lt;E(u4i)&lt;∞)(0&lt;E(Xi4)&lt;∞ and 0&lt;E(ui4)&lt;∞)(0<E(X_i^4)<\infty \text{ and } 0<E(u_i^4)<\infty) 3つの質問があります。 私はこの仮定の役割を完全には理解していません。この仮定が成り立たない場合、または推論にこの仮定が必要な場合、OLSは偏っており、矛盾していますか？ ストックとワトソンは、「この仮定は、またはu iの非常に大きな値で観測値を描画する確率を制限します。」と書いています。しかし、私の直感では、この仮定は極端です。外れ値が大きい場合（4次モーメントが大きい場合など）に問題がありますが、これらの値がまだ有限である場合はどうでしょうか。ところで、外れ値の根底にある定義は何ですか？XiXiX_iuiuiu_i これを次のように再定式化できますか：「とu iの尖度は非ゼロで有限ですか？」XiXiX_iuiuiu_i

9 regression  least-squares  assumptions  bias  consistency 

のは、私は、フォームの持つ線形回帰実行しているとしましょう。y=β0+β1A+β2B+β3AB+ϵy=β0+β1A+β2B+β3AB+ϵy = \beta_0 + \beta_1A+\beta_2B+\beta_3AB +\epsilon 場合正である、これは正の相関を意味するものではないA及びBを？（逆に、負の相関β 3は負であります？）β3β3\beta_3AAABBBβ3β3\beta_3

9 regression  interaction 

従属変数と独立変数を持つデータセットがあります。どちらも時系列ではありません。私は120の観察結果を持っています。相関係数は0.43 この計算の後、両方の変数の列を追加し、12観測ごとの平均を示します。その結果、2つの新しい列に108観測（ペア）が追加されます。これらの列の相関係数は0.77です このようにして相関を改善したようです。これは許可されていますか？平均を使用して、独立変数の説明力を増やしましたか？

9 regression  correlation  mean  predictor  cross-section 

ユニットディスク上の複雑な回帰問題を解決する必要があります。元の質問は興味深いコメントを集めましたが、残念ながら回答はありませんでした。それまでの間、この問題についてさらに多くのことを学びました。したがって、元の問題をサブ問題に分割して、今回の運が良かったかどうかを確認します。 ユニットディスク内の狭いリングに規則的に配置された40個の温度センサーがあります。 これらのセンサーは時間内に温度を取得します。ただし、時間の変動は空間の変動よりもはるかに小さいため、時間の変動を無視して問題を単純化し、各センサーが時間平均のみを与えると仮定します。これは、40のサンプル（各センサーに1つ）があり、繰り返しのサンプルがないことを意味します。 センサーデータから回帰曲面を作成したいと思います。回帰には2つの目標があります。T=f(ρ,θ)+ϵT=f(ρ,θ)+ϵT=f(\rho,\theta)+\epsilon 平均半径方向温度プロファイルを推定する必要があります。線形回帰では、平均温度面である面をすでに推定しているので、に関して面を統合するだけでよいのですよね？回帰に多項式を使用する場合、この手順は簡単なはずです。Tmean=g1(ρ)+ϵTmean=g1(ρ)+ϵT_{mean}=g_1(\rho)+\epsilonθθ\theta 放射状の温度プロファイルを推定する必要があります。これにより、各放射状の位置でます。T95=g2(ρ)+ϵT95=g2(ρ)+ϵT_{95}=g_2(\rho)+\epsilonP(T(ρ)&lt;T95(ρ))=.95P(T(ρ)&lt;T95(ρ))=.95P(T(\rho)<T_{95}(\rho))=.95 これら2つの目標を踏まえて、ユニットディスクの回帰にはどの手法を使用すればよいですか？もちろん、ガウスプロセスは一般的に空間回帰に使用されます。ただし、ユニットディスクの適切なカーネルの定義は簡単なものではないため、失う戦略だと思わない限り、物事を単純に保ち、多項式を使用したいと思います。ゼルニケ多項式について読みました。ゼルニケ多項式は周期的であるため、単位ディスクの回帰に適しているようです。θθ\theta モデルを選択したら、推定手順を選択する必要があります。これは空間回帰問題であるため、さまざまな場所でのエラーは相関させる必要があります。通常の最小二乗法は相関のないエラーを想定しているため、一般化された最小二乗法がより適切だと思います。gls標準R分布に関数がある場合、GLSは比較的一般的な統計手法のようです。しかし、私はGLSを使用したことがなく、疑問があります。たとえば、共分散行列をどのように推定しますか？少数のセンサーを使用したとしても、うまくいった例は素晴らしいでしょう。 PS私はゼルニケ多項式とGLSを使用することを選択しました。これは、ここで行うのが論理的であるように思えるためです。ただし、私は専門家ではありません。私が間違った方向に進んでいると感じた場合は、完全に異なるアプローチを自由に使用してください。

9 regression  spatial  circular-statistics 

XGBoostで線形目的関数と線形ブーストを実装する方法を知っています。私の具体的な質問は、アルゴリズムが残差（または負の勾配）に適合する場合、各ステップで1つの特徴（つまり、単変量モデル）またはすべての特徴（多変量モデル）を使用することですか？ XGBoostのリニアブーストに関するドキュメントへの参照はすべて高く評価されます。 編集： 'booster'パラメーターを 'gblinear'に設定することにより、XGBoostで線形ブーストを実装できます。リニアブースティングに関する有用な情報については、http：//www.ncbi.nlm.nih.gov/pmc/articles/PMC3885826/を参照してください。私は目的関数（線形であることもあります）についてではなく、それら自体のブーストについて話していることに注意してください。 ありがとう！

9 regression  machine-learning  boosting  xgboost 

私はさまざまな結果を予測するために重回帰を適用した記事の結果を解釈しようとしています。しかし、「S（標準B係数は以下のように定義β X 1 = B 、X 1 ⋅ S D X 1ββ\betaここで、yは従属変数、x1は予測子です）報告されたものは、報告されたR2と一致しないようです。βx1=Bx1⋅SDx1SDyβx1=Bx1⋅SDx1SDy\beta_{x_1} = B_{x_1} \cdot \frac{\mathrm{SD}_{x_1}}{\mathrm{SD}_y}yyyx1x1x_1R2R2R^2 -0.83、-0.29、-0.16、-0.43、0.25、および-0.29のにもかかわらず、報告されたR 2は0.20のみです。ββ\betaR2R2R^2 また、3つの予測値：体重、BMI、および脂肪％は、マルチコリニアであり、r = 0.8〜0.9の周りで性別内で相互に相関しています。 あるこれらと値の妥当なβさん、または間にはストレートな関係が存在しないβさんとR 2は？R2R2R^2ββ\betaββ\betaR2R2R^2 さらに、マルチコリニア予測子に関する問題は、4番目の予測子（VO2max）のに影響を与える可能性があります。ββ\beta

9 regression  regression-coefficients  multicollinearity  r-squared 

線形回帰の標準誤差は、通常、応答変数に対して与えられるため、他の方向の信頼区間を取得する方法を考えています。たとえば、x切片の場合です。私はそれが何であるかを視覚化することができますが、これを行う簡単な方法があるはずだと確信しています。以下は、これを視覚化する方法のRの例です。 set.seed(1) x &lt;- 1:10 a &lt;- 20 b &lt;- -2 y &lt;- a + b*x + rnorm(length(x), mean=0, sd=1) fit &lt;- lm(y ~ x) XINT &lt;- -coef(fit)[1]/coef(fit)[2] plot(y ~ x, xlim=c(0, XINT*1.1), ylim=c(-2,max(y))) abline(h=0, lty=2, col=8); abline(fit, col=2) points(XINT, 0, col=4, pch=4) newdat &lt;- data.frame(x=seq(-2,12,len=1000)) # CI pred &lt;- …

9 r  regression  confidence-interval  bootstrap 

R重み付けされた最小二乗法とマトリックス演算による手動のソリューションから異なる結果が得られる理由を誰かに教えてもらえますか？ 具体的には、を手動で解決しようとしています。ここで、は重みの対角行列、はデータ行列、は応答ですベクター。 W A bWAx=WbWAx=Wb\mathbf W \mathbf A\mathbf x=\mathbf W \mathbf bWW\mathbf WAA\mathbf Abb\mathbf b 引数R lmを使用して結果を関数と比較しようとしていweightsます。

9 r  regression  least-squares  weighted-regression  weighted-data