タグ付けされた質問 「regression」

質問の動機付けの手段として、観測変数を使用してを推定しようとする登録問題を考えますYYY{a,b}{a,b}\{ a, b \} 多変量多項式回帰を行うとき、関数の最適なパラミタイゼーションを見つけようとします f(y)=c1a+c2b+c3a2+c4ab+c5b2+⋯f(y)=c1a+c2b+c3a2+c4ab+c5b2+⋯f(y)=c_{1}a+c_{2}b+c_{3}a^{2}+c_{4}ab+c_{5}b^{2}+\cdots 最小二乗の意味でデータに最適です。 ただし、これの問題は、パラメーターが独立していないことです。直交する「基底」ベクトルの異なるセットで回帰を行う方法はありますか？これを行うことには多くの明らかな利点がありますcicic_i 1）係数は相関しなくなりました。2）の値自体は、係数の次数に依存しなくなりました。3）これには、より高次の項を削除して、データの粗いまだ正確な近似を計算できるという計算上の利点もあります。cicic_i これは、チェビシェフ多項式などのよく研究されたセットを使用して、直交多項式を使用する単一変数の場合に簡単に実現できます。ただし、これを一般化する方法は（とにかく私には）明らかではありません。ペアで複数のチェビシェフ多項式を組み合わせることができると思いましたが、それが数学的に正しいことかどうかはわかりません。 あなたの助けに感謝します

9 regression 

分割表に0がありglm、尤度比検定用にネストされたポアソン/対数線形モデル（R 関数を使用）を近似している場合、glmモデルを近似する前にデータを調整する必要があります（たとえば、すべてに1/2を追加します）カウント）？明らかに、いくつかのパラメータは調整なしでは推定できませんが、調整/調整の欠如はLRテストにどのように影響しますか？

9 regression  poisson-distribution  generalized-linear-model  likelihood-ratio  log-linear 

2つの変数（と）間の相互作用を調査しています。これらの変数の間には、かなりの線形相関があります。問題の性質から、因果関係については何も言えません（が引き起こすか、またはその逆か）。外れ値を検出するために、回帰直線からの偏差を調べたいと思います。これを行うには、関数として線形回帰を作成するか、またはその逆を行います。可変順序の選択は結果に影響しますか？x 2 r > 0.9 x 1x1x1x_1x2x2x_2r>0.9r>0.9r>0.9x1x1x_1x 1 x 2x2x2x_2x1x1x_1x2x2x_2

9 regression  outliers  linear-model 

ロジスティック回帰のコンテキストでの特徴選択のための順列分析について混乱しています。 ランダム置換テストの明確な説明と、それが特徴選択にどのように適用されるかを教えてください。おそらく正確なアルゴリズムと例で。 最後に、LassoやLARなどの他の収縮方法と比較してどうですか？

9 regression  logistic  feature-selection  permutation-test  shrinkage 

私は行列の表記法を理解しようとしています、そしてベクトルと行列で作業しています。 今、私は、係数のベクトルを推定する方法を理解したいと思いβ重回帰では計算されます。β^β^\hat{\beta} 基本的な方程式は ddβ(y−Xβ)′(y−Xβ)=0.ddβ(y−Xβ)′(y−Xβ)=0. \frac{d}{d\boldsymbol{\beta}} (\boldsymbol{y}-\boldsymbol{X\beta})'(\boldsymbol{y}-\boldsymbol{X\beta}) = 0 \>. ここで、ベクトルここでどのように解決しますか？ββ\beta 編集：待って、行き詰まっています。私は今ここにいて、続行する方法がわかりません： ddβ⎛⎝⎜(y1y2⋮yn)−⎛⎝⎜11⋮1x11x21xn1x12x22xn2………x1px2p⋮xnp⎞⎠⎟⎛⎝⎜β0β1⋮βp⎞⎠⎟⎞⎠⎟′⎛⎝⎜(y1y2⋮yn)−⎛⎝⎜11⋮1x11x21xn1x12x22xn2………x1px2p⋮xnp⎞⎠⎟⎛⎝⎜β0β1⋮βp⎞⎠⎟⎞⎠⎟ddβ((y1y2⋮yn)−(1x11x12…x1p1x21x22…x2p⋮⋮1xn1xn2…xnp)(β0β1⋮βp))′((y1y2⋮yn)−(1x11x12…x1p1x21x22…x2p⋮⋮1xn1xn2…xnp)(β0β1⋮βp)) \frac{d}{d{\beta}} \left( \left(\begin{smallmatrix} y_1 \\ y_2 \\ \vdots \\ y_n \end{smallmatrix}\right) - \left(\begin{smallmatrix} 1 & x_{11} & x_{12} & \dots & x_{1p} \\ 1 & x_{21} & x_{22} & \dots & x_{2p} \\ \vdots & & & & …

9 regression 

誰かが部分決定係数を計算する提案やパッケージを持っていますか？ 部分決定係数は、縮小モデルでは説明できない変動のパーセントとして定義できますが、完全モデルでは指定された予測子で説明できます。この係数は、1つ以上の追加の予測子が、より完全に指定された回帰モデルで役立つかどうかについての洞察を提供するために使用されます。 2つのモデルを推定し、それらのANOVAテーブルを生成すると、部分的なr ^ 2の計算は比較的簡単になります。部分的なr ^ 2の計算は次のとおりです。 （SSEreduced-SSEfull）/ SSEreduced 多重線形回帰モデルに対してこれを計算する、この比較的単純な関数を作成しました。私はこの関数が同様に機能しない可能性があるRの他のモデル構造に不慣れです： partialR2 <- function(model.full, model.reduced){ anova.full <- anova(model.full) anova.reduced <- anova(model.reduced) sse.full <- tail(anova.full$"Sum Sq", 1) sse.reduced <- tail(anova.reduced$"Sum Sq", 1) pR2 <- (sse.reduced - sse.full) / sse.reduced return(pR2) } このタスクを実行するためのより堅牢な機能および/または上記のコードのより効率的な実装に関する提案やヒントをいただければ幸いです。

9 r  regression  anova 

p個のリグレッサ、n個の観測値の設計行列があり、パラメータのサンプル分散共分散行列を計算しようとしています。私はsvdを使用して直接計算しようとしています。 私はデザイン行列のSVDを取る場合、私は三つの成分を得る、Rを使用しています：行列であるN × P、行列Dである1 × 3（おそらく固有値）、及び行列Vである3 × 3。Dを対角化し、非対角に0がある3 × 3行列にしました。UUUn×pn×pn \times pDDD1×31×31\times 3VVV3×33×33\times 3DDD3×33×33\times 3 おそらく、共分散の式は次のとおりです。ただし、ですが、行列は一致せず、Rの組み込み関数にも近づきません。誰かアドバイスや参考資料はありますか？私はこの分野で少し熟練していないことを認めます。VD2V′VD2V′V D^2 V'vcov

9 r  regression 

最小角度回帰（LAR）の問題を解決しようとしています。これが問題である3.23ページ上の97のHastieら、統計的学習、第二の要素。ed。（5回目の印刷）。 すべての変数と応答が平均ゼロと標準偏差1を持つ回帰問題を考えてみましょう。また、各変数が応答と同一の絶対相関を持つと仮定します。 1N|⟨xj,y⟩|=λ,j=1,...,p1N|⟨xj,y⟩|=λ,j=1,...,p \frac{1}{N} | \left \langle \bf{x}_j, \bf{y} \right \rangle | = \lambda, j = 1, ..., p ましょうβはの最小二乗係数であるYにXおよびlet U（α ）= α X βのためのα ∈ [ 0 、1 ]。β^β^\hat{\beta}yy\mathbf{y}XX\mathbf{X}u(α)=αXβ^u(α)=αXβ^\mathbf{u}(\alpha)=\alpha \bf{X} \hat{\beta}α∈[0,1]α∈[0,1]\alpha\in[0,1] 私はそれを示すように求められます と私はそれに問題があります。これは基本的に、各xjと残差との相関がuに向かって進んでも大きさが等しいことを示していることに注意してください。1N|⟨xj,y−u(α)⟩|=(1−α)λ,j=1,...,p1N|⟨xj,y−u(α)⟩|=(1−α)λ,j=1,...,p \frac{1}{N} | \left \langle \bf{x}_j, \bf{y}-u(\alpha) \right \rangle | = (1 - \alpha) \lambda, j = …

9 regression  machine-learning  correlation  self-study 

Tobit回帰モデルに関する私の（非常に基本的な）知識は、私が好むようなクラスからのものではありません。代わりに、私はいくつかのインターネット検索を通じてあちこちの情報を拾い上げました。切り捨てられた回帰の仮定での私の最良の推測は、それらが通常の最小二乗（OLS）の仮定に非常に類似していることです。それが正しいかどうかはわかりませんが。 したがって、私の質問：Tobit回帰を実行するときに確認すべき前提条件は何ですか？ 注： この質問の元の形式は切り捨てられた回帰を指していましたが、これは私が使用したり質問したりするモデルではありませんでした。質問を修正しました。

9 regression  assumptions 

そのため、ハミング距離を使用して生体認証特性から個人を認証しようとしている16のトライアルがあります。しきい値は3.5に設定されています。私のデータは以下であり、トライアル1のみが真陽性です。 Trial Hamming Distance 1 0.34 2 0.37 3 0.34 4 0.29 5 0.55 6 0.47 7 0.47 8 0.32 9 0.39 10 0.45 11 0.42 12 0.37 13 0.66 14 0.39 15 0.44 16 0.39 私の混乱のポイントは、このデータからROC曲線（FPR対TPR OR FAR対FRR）を作成する方法が本当にわからないということです。どちらでもかまいませんが、どうやって計算するのか混乱しています。任意の助けいただければ幸いです。

9 mathematical-statistics  roc  classification  cross-validation  pac-learning  r  anova  survival  hazard  machine-learning  data-mining  hypothesis-testing  regression  random-variable  non-independent  normal-distribution  approximation  central-limit-theorem  interpolation  splines  distributions  kernel-smoothing  r  data-visualization  ggplot2  distributions  binomial  random-variable  poisson-distribution  simulation  kalman-filter  regression  lasso  regularization  lme4-nlme  model-selection  aic  r  mcmc  dlm  particle-filter  r  panel-data  multilevel-analysis  model-selection  entropy  graphical-model  r  distributions  quantiles  qq-plot  svm  matlab  regression  lasso  regularization  entropy  inference  r  distributions  dataset  algorithms  matrix-decomposition  regression  modeling  interaction  regularization  expected-value  exponential  gamma-distribution  mcmc  gibbs  probability  self-study  normality-assumption  naive-bayes  bayes-optimal-classifier  standard-deviation  classification  optimization  control-chart  engineering-statistics  regression  lasso  regularization  regression  references  lasso  regularization  elastic-net  r  distributions  aggregation  clustering  algorithms  regression  correlation  modeling  distributions  time-series  standard-deviation  goodness-of-fit  hypothesis-testing  statistical-significance  sample  binary-data  estimation  random-variable  interpolation  distributions  probability  chi-squared  predictor  outliers  regression  modeling  interaction 

単純な線形回帰モデルあり、帰無仮説を一般的な代替案に対してテストしたいとします。H 0：a = b = 1Z= a X+ b YZ=aX+bYZ = aX + bYH0：a = b = 12H0:a=b=12H_0: a=b=\frac{1}{2} との推定値を使用し、さらに検定を適用しての信頼区間を取得できると思います。これでよろしいですか？SE（）Z1a^a^\hat{a}SE（a^）SE(a^)SE(\hat{a})ZZZ1212\frac{1}{2} 他の質問はこれに強く関連しています。サンプルあり、統計を計算するとしますχ 2{ （x1、Y1、z1）、… 、（xん、Yん、zん）}{(x1,y1,z1),…,(xn,yn,zn)}\{(x_1,y_1,z_1),\ldots ,(x_n,y_n,z_n) \}χ2χ2\chi^2 Σi = 1ん（z私− x私+ y私2）2バツ私+ y私2。∑i=1n(zi−xi+yi2)2xi+yi2.\begin{equation} \sum_{i=1}^n \frac{(z_i-\frac{x_i+y_i}{2})^2}{\frac{x_i+y_i}{2}}. \end{equation} これらの統計を使用して、同じ帰無仮説をテストできますか？

9 hypothesis-testing  regression 

Cox比例ハザード回帰分析のX（ハザード）変数は常に時間でなければなりませんか？そうでない場合、例を挙げていただけますか？ がん患者の年齢は危険変数である可能性がありますか？もしそうなら、それは特定の年齢でがんになるリスクと解釈できますか？コックス回帰は、遺伝子発現と年齢との関連を研究するための正当な分析でしょうか？

9 regression  survival  hazard 

線形回帰を実行する場合、従属変数の対数変換などの変換を行って、より良い正規分布の適合を実現すると便利な場合があります。多くの場合、結果の効果サイズ/実際の関連性をより適切に評価するために、回帰からベータを検査することも役立ちます。 これは、たとえば対数変換を使用する場合、効果サイズが対数スケールになるという問題を引き起こします。使用されたスケールの非線形性のために、これらのベータを逆変換すると、意味のない値が得られると言われています実際の使用法はありません。 ここまでは、通常、変換された変数を使用して線形回帰を実行して有意性を検査し、次に元の非変換変数を使用して線形回帰を実行して効果サイズを決定しました。 これを行うための正しい/より良い方法はありますか？ほとんどの場合、臨床データで作業するので、実際の例は、特定の曝露が身長、体重、またはいくつかの実験室測定などの継続的な変数にどのように影響するかを判断することです。重量が2 kg増える」

9 regression  data-transformation  effect-size 

適切な予測子を使用する多変量線形回帰で予測子を選択するために、サブセットをすべて明示的にテストせずに予測子の「最適な」サブセットを見つける方法はありますか？「Applied Survival Analysis」では、Hosmer＆LemeshowがKukの方法を参照していますが、元の論文が見つかりません。誰もがこの方法、またはもっと良いことに、より現代的な技術を説明できますか？正規分布エラーが想定されます。2 pppp2p2p2^p

9 modeling  regression  multivariable  model-selection  feature-selection 

サンプルと変数の観測を含む線形回帰モデルがあり、知りたいです。 特定の変数がモデルに含まれたままになるのに十分重要であるかどうか。 別の変数（観測値付き）をモデルに含める必要があるかどうか。 どの統計が役立ちますか？どうすれば最も効率的に取得できますか？

9 regression