タグ付けされた質問 「regression」

他の変数を一定に保ちながら、個々の変数の影響をどのように決定するかについて、1）機械的な説明と2）直観的な説明の両方を探しています。 調査データを使用した例で、正確に言うとどういう意味ですか： 「年齢、性別、収入を一定に保ち、教育の効果は___」 私の理解では、回帰を使用して実験的な設定を再現しようとしています。上記の例では、年齢、性別、収入などが同じであるが、教育レベルが異なるサブ集団を比較し、それらの部分母集団の平均。質問： この直感は正しいですか？ これらの部分母集団は必ず存在しますか？調査に、コントロールの値がまったく同じ回答者が含まれていない場合はどうなりますか？ これらの部分母集団の推定値の不確実性はどのように決定されますか？

9 regression  interpretation 

Hastieの「Introduction to Statistical Learning」で提示された式に少し戸惑っています。第6章、212ページ（6番目の印刷、ここで利用可能）では、次のように述べられています。 A IC= R SSnはσ^2+ 2 Dんあ私C=RSSんσ^2+2dんAIC = \frac{RSS}{n\hat\sigma^2} + \frac{2d}{n} ガウスノイズのある線形モデルの場合、は予測子の数、は誤差分散の推定値です。しかしながら、dddσ^σ^\hat\sigma σ^2= R SS（n − 2 ）σ^2=RSS（ん−2）\hat\sigma^2 = \frac{RSS}{(n-2)} これについては、第3章の66ページで説明されています。 それは意味するでしょう： A IC= （n − 2 ）ん+ 2 Dんあ私C=（ん−2）ん+2dんAIC = \frac{(n-2)}{n} + \frac{2d}{n} これは正しくありません。誰かが私が間違っていることを指摘できますか？

9 regression  machine-learning  aic 

バイナリ分類にロジスティック回帰を使用しています。私は大きなデータセットを持っています（非常に不均衡になる傾向があります：19：1）。したがって、scikit-learnを使用してLogisticRegression()、ラベル付けされたデータの80％をトレーニングしてから、残りの20％で検証しました（データが非常にアンバランスだったため、ROCの下の領域と精度の再現率を調べました。また、class_weight='auto'）。 主な質問は次のとおりです：（を使用してpredict_proba()）ラベルのない入力ベクトルの予測を生成し始めたら、どの機能がその特定の入力の予測に最も貢献したかをどのようにして知ることができますか？これは、ラベル付けされたトレーニングデータ（たとえば、係数の大きさ）に基づいてモデルに対して一般的に決定される「最も重要な機能」とは異なる可能性があると思います。 私は非常に基本的な考えを持っていました： 入力フィーチャ値とコンポーネント係数の絶対値のコンポーネントごとの積をとります。最も貢献する機能は、最大値を持つエントリに対応する機能です。 （1）を実行しますが、すべてにZスコアを使用します（トレーニングおよび入力機能）。一部の機能範囲が他の機能範囲と大きく異なる可能性があり、製品を購入しただけではこれをキャプチャできない可能性があることを心配したため、これは重要だと思いました。しかし、係数は範囲を反映するはずなので、おそらくこれは問題ではありません。 私はこれが初めてなので、どんな考えでも大歓迎です。ロジスティック回帰に固有の事柄（つまり、線形関数ではなくシグモイド）と、scikit-learnで特定のアクション（たとえば、変換）を実装する方法への参照は、実際に実際のデータでプロジェクトを行っているので非常にありがたいです。

9 regression  logistic  regression-coefficients 

私は回帰について学んでいます。私は、いくつかの断面回帰を行っています。最近、単純な時系列回帰を行いました。したがって、それぞれ1000個の観測を含むyおよびxベクトルがあります。 私は、Excelで簡単なols回帰を行いましたが、これは問題ないと思いました。しかし、使用しているローリングウィンドウを尋ねる結果を送信した後、私のオンラインチューターからメールが送られてきました。私はついていないようです。メールで返信しましたが、不在通知があり、彼の意味を理解したいと思っています。 最初の50個の観測値（つまり1:49）を回帰に使用し、次にobs（2:50）を使用して別の回帰を実行するのは、1000個すべての観測値を使用するのではなく単にですか？ 私の理解は、私のベクトルのデータが正しく並べられている限り（私の場合は私の日付）、回帰は断面回帰と同じ方法で行われるべきだということでした-私は間違っていますか？

9 regression  time-series  descriptive-statistics 

Rの回帰分析で、列車データセットに3つのレベルの因子型独立変数があるとします。ただし、テストデータセットでは、同じ因子変数に5つのレベルがあります。したがって、テストデータセットの応答値を予測できません。この場合、何をすべきですか？

9 r  regression  categorical-data  cross-validation  rare-events 

0から無限大までの範囲の従属変数があり、0は実際には正しい観測値です。打ち切りとTobitモデルは、の実際の値が部分的に不明または欠落している場合にのみ適用されることを理解しています。この場合、データは切り捨てられると言われます。このスレッドの打ち切りデータに関するいくつかの詳細。YYY しかし、ここで0は母集団に属する真の値です。このデータでOLSを実行すると、負の推定を行うのに特に厄介な問題があります。をモデル化するにはどうすればよいですか？YYY > summary(data$Y) Min. 1st Qu. Median Mean 3rd Qu. Max. 0.00 0.00 0.00 7.66 5.20 193.00 > summary(predict(m)) Min. 1st Qu. Median Mean 3rd Qu. Max. -4.46 2.01 4.10 7.66 7.82 240.00 > sum(predict(m) < 0) / length(data$Y) [1] 0.0972098 開発 回答を読んだ後、少し異なる推定関数を使用して、ガンマハードルモデルの適合を報告します。結果は私にはかなり驚くべきものです。まず、DVを見てみましょう。明らかなのは、非常に太い尾のデータです。これは、以下でコメントする、適合度の評価に興味深い結果をもたらします。 quantile(d$Y, probs=seq(0, 1, 0.1)) 0% 10% …

9 regression  censoring  truncation  tobit-regression 

線形モデルを推定したいとします：（応答の観測値と予測子） P + 1つのE（Y I）= β 0 + P Σ J = 1 β J X I Jnnnp+1p+1p+1E(yi)=β0+∑j=1pβjxijE(yi)=β0+∑j=1pβjxij\mathbb{E}(y_i) = \beta_0 + \sum_{j=1}^p \beta_j x_{ij} これを行う1つの方法は、OLSソリューションを使用することです。つまり、二乗誤差の合計が最小になるように係数を選択します。 (β0,β1,⋯,βp)T=argminβ0,β1,⋯,βp∑i=1n(yi−β0−∑j=1pβjxij)2(β0,β1,⋯,βp)T=arg⁡minβ0,β1,⋯,βp∑i=1n(yi−β0−∑j=1pβjxij)2(\beta_0,\beta_1,\cdots,\beta_p)^T = \underset{\beta_0,\beta_1,\cdots,\beta_p}{\arg \min} \sum_{i=1}^{n} \left( y_i - \beta_0 - \sum_{j=1}^p \beta_j x_{ij} \right)^2 または、絶対偏差の合計など、別の損失関数を使用して、次のようにすることもできます。 （β0、β1、⋯ 、βp）T= arg分β0、β1、⋯ 、βpΣi = 1ん||||y私- β0− ∑j = 1pβjバツ私はj||||(β0,β1,⋯,βp)T=arg⁡minβ0,β1,⋯,βp∑i=1n|yi−β0−∑j=1pβjxij|(\beta_0,\beta_1,\cdots,\beta_p)^T …

9 regression  loss-functions 

私は角度依存変数（上のための予測モデル開発しようとしているに、また、角度変数-いくつかの独立した測定値を使用して予測因子として- 。各予測子は、従属変数と有意に相関しますが、極端に強く相関しているわけではありません。予測変数を組み合わせて、ある意味で最適な従属変数の予測モデルを決定するにはどうすればよいですか？そして、どうすれば最も強い予測因子を厳密に特定できますか？[0,2π])[0,2π])[0,2\pi])[0,2π][0,2π][0,2\pi] ユークリッド空間の変数については、重回帰分析（または類似の分析）と主成分分析を使用します。しかし、すべての変数の周期性は、これらのアプローチ、例えば、0.02のせいで、3.16ではなく6.26と高度に相関しているはずです。「通常の」手順はどのように方向性/循環統計に一般化されますか？有用な参照への洞察または引用は有用です。（N.フィッシャーとマーディア＆ジュップのテキストはすでに知っていますが、これらに簡単にアクセスすることはできません。）

9 regression  multiple-regression  circular-statistics 

分類の問題については、ニューラルネットワークを使用して、このリソース （ミラー）に従って混同行列とその測定値を使用してタイプIおよびIIのエラーを測定してきました。これは非常に簡単です。 推定の問題に直面した場合、モデルのパフォーマンスをどのように評価しますか？クラスがなく、出力が実際の形式で解釈されると仮定します。距離測定基準の平均化を超えて、それは多くの洞察を与えません。

9 regression  machine-learning  estimation  model-evaluation 

十分な統計量の定義は次のとおりを、パラメーターによってインデックスが付けられた分布からのランダムサンプルとする。してみましょう統計こと。すべてのおよびすべての可能な値について、がは依存せず、のみ依存する場合のの条件付き結合分布を仮定します。次に、はパラメーター十分な統計量です。 θ T θ T T XX1,...,XnX1,...,XnX_1,...,X_nθθ\thetaTTTθθ\thetatttTTT T = T T θ T θX1,...,XnX1,...,XnX_1,...,X_nT=tT=tT=ttttθθ\thetaTTTθθ\theta 十分な統計量を理解するためのパズルのいくつかの部分（因数分解の定理など）を知っているように感じますが、全体的な理論を把握していません。 私の主な質問は： 1）がパラメータ十分な統計量であると彼らが言うのはなぜですか？場合は正規分布の母集団の平均だった、と言う、それは私たちが言う、の確率を見つけたいという、いつでも、どういう意味、我々は必要しないこと、特定の方法で発生しました、人口の平均の値？θ θTTTθθ\thetaθθ\thetaX 1、。。。、X nμμ\muバツ1、。。。、XんX1,...,XnX_1,...,X_n 2）実生活では、なぜ十分な統計量を使用したいのですか？統計値を計算するだけではそれほど多くの作業（Xの合計など）ではいけないようですが、なぜそれが必要なのでしょうか。 ありがとう！

9 regression  sufficient-statistics 

R lm関数を使用して線形回帰を行います。 x = log(errors) plot(x,y) lm.result = lm(formula = y ~ x) abline(lm.result, col="blue") # showing the "fit" in blue しかし、それはうまく適合しません。残念ながら、私はマニュアルを理解できません。 誰かが私を正しい方向に向けてこれをよりよく合わせることができますか？ フィッティングとは、二乗平均平方根誤差（RMSE）を最小限に抑えたいという意味です。 編集：関連する質問（同じ問題です）をここに投稿しました： この機能に基づいてRMSEをさらに下げることはできますか？ そしてここに生データ： http://tny.cz/c320180d ただし、このリンクでは、 xは現在のページのエラーと呼ばれ、サンプルが少ない（現在のページのプロットでは1000と3000）。他の質問ではもっと簡単にしたかったのです。

9 r  regression 

Hastie、Tibshirani、Friedman によるThe Elements of Statistical Learningのコピーを入手しました。第2章（教師あり学習の概要）セクション4（統計的意思決定理論）では、回帰関数の導出について説明しています。 ましょ表す実数値ランダム入力ベクトル、および関節分布を有する実数値ランダム出力変数、。入力値を指定してを予測するための関数を探します。この理論では、予測でペナルティを課すために損失関数必要であり、最も一般的で便利なのは二乗誤差損失です：です。これにより、を選択するための基準が導かれます。 Y ∈ R PとR （X 、Y ）F （X ）Y X L （Y 、F （X ））L （Y 、F （X ））= （Y - F （X ））2、FX∈RpX∈RpX \in \mathbb{R}^pY∈RY∈RY\in\mathbb{R}Pr(X,Y)Pr(X,Y)Pr(X,Y)f(X)f(X)f(X)YYYXXXL(Y,f(X))L(Y,f(X))L(Y,f(X))L(Y,f(X))=(Y−f(X))2L(Y,f(X))=(Y−f(X))2L(Y,f(X))=(Y −f(X))^2fff EPE(f)=E(Y−f(X))2=∫[y−f(x)]2Pr(dx,dy)EPE(f)=E(Y−f(X))2=∫[y−f(x)]2Pr(dx,dy)\begin{align*} EPE(f) &= E(Y-f(X))^2 \\ &= \int [y - f(x)]^2Pr(dx, dy)\end{align*}予想される（二乗）予測エラー。 私はセットアップと動機を完全に理解しています。私の最初の混乱は、彼はまたはを意味しますか？次に、という表記を見たことがない。その意味を私に説明してくれた人はいますか？それだけではある？悲しいかな、私の混乱はそこで終わりません、 E [ （Y − …

9 regression  statistical-learning 

私は予測に興味があり、Y異なる2つの測定手法X1とを研究していX2ます。たとえば、テーブルの上に置いた時間を測定するか、バナナの茶色の斑点の数を測定することで、バナナの美味しさを予測したい場合があります。 1つだけを実行することを選択した場合、どちらの測定手法が優れているか知りたい。 Rで線形モデルを作成できます。 m1 = lm(Y ~ X1) m2 = lm(Y ~ X2) ではX1、バナナの美味しさの優れた予測因子であるとしましょうX2。2つのモデルのを計算すると、モデルのR 2はモデルより明らかに高くなります。メソッドがどのように優れているかについての論文を書く前に、違いが偶然ではないこと、おそらくp値の形である種の指標を得たいと思います。R2R2R^2R2R2R^2m1m2X1X2 これについてはどうすればよいでしょうか？異なるブランドのバナナを使用しているときに、バナナブランドをランダムエフェクトとして組み込んだ線形混合効果モデルに移行する方法を教えてください。

9 regression  linear-model  mixed-model 

：我々は、以下の点持っ どのようにして、点を通る最適な直線を見つけることができますか？私の計算機には、これらの点を通る最適な直線を見つけるオプションがあります。Yが= Xを(0,0)(1,51.8)(1.9,101.3)(2.8,148.4)(3.7,201.5)(4.7,251.1)(5.6,302.3)(6.6,350.9)(7.5,397.1)(8.5,452.5)(9.3,496.3)(0,0)(1,51.8)(1.9,101.3)(2.8,148.4)(3.7,201.5)(4.7,251.1)(5.6,302.3)(6.6,350.9)(7.5,397.1)(8.5,452.5)(9.3,496.3) (0,0)(1,51.8)(1.9,101.3)(2.8,148.4)(3.7,201.5)(4.7,251.1) \\ (5.6,302.3)(6.6,350.9)(7.5,397.1)(8.5,452.5)(9.3,496.3) y=axy=axy=axy=ax+by=ax+by=ax+b y= 53.28 x + 0.37y=53.28x+0.37y = 53.28x + 0.37 最適なを見つけるにはどうすればよいですか？私はを補正せずにを削除できないのではないかと思います。0.37 ay= a xy=axy=ax0.370.370.37aaa

9 regression  intercept 

設計と仮説：wellbeing時間1と時間2でA測定しました。因子（時間1で測定し、経時的に安定した因子であると想定）が因子B（時間2で測定）の有意な予測子であるかどうかを確認します。またwellbeing、現在または過去のが貢献することも期待していBます。 質問：wellbeing同時予測子として（同じ機器を使用して）両方の時点で測定されたものを使用して重回帰を行うことは適切ですか？-予測子間に有意な相関関係が存在しますが、多重共線性診断は正常に見えました... 縦断的設計をうまく活用する仮説をテストするためのより良い方法はありますか？ どうもありがとう！

9 regression  repeated-measures  multiple-regression  panel-data