タグ付けされた質問 「regression」

ステップワイズ回帰の多くの問題のいくつかを理解しています。ただし、学術的な取り組みとして、予測モデルに段階的回帰を使用したいと仮定し、それがパフォーマンスに与える影響をよりよく理解したいとします。 たとえば、線形モデルが与えられた場合、モデルで段階的回帰を実行すると、新しいデータが提示されたときにモデルの予測力が増加または減少する傾向がありますか？ ステップワイズ回帰が予測能力に及ぼす理論的な影響はありますか？ 実践的な経験も役立ちます。おそらく、ステップワイズ回帰が予測を向上させる状況とそうでない状況です。

8 regression  predictive-models  stepwise-regression 

交絡因子Zによって調整された結果Yと変数Xの間の効果サイズと有意性にアクセスしたいとします。 私の質問は、以下のシナリオ間でXの効果サイズと有意性を決定するための違いがある場合です。 変数と交絡因子を線形回帰モデルにまとめます。これは、Y〜X + Zの回帰モデルをちょうど当てはめて、係数とXの p値を計算することを意味します。 残留、取得RからY〜Zを、そしてその後の適合回帰モデルR〜Xは、その後、係数のそのp値を算出X（R〜Xからの）。 ここから交絡者を学びます。 編集----- @Gordon Smythの回答に感謝します。ただし、シミュレーション調査（以下のコード）から、メソッド1、メソッド2、およびゴードンスミスの回答のメソッド3の誤検出率を比較したところ、驚くことに、メソッド2の誤検出率がかなり低いことがわかりました。 方法1は「教科書」として正しいことを理解しています。論理的にmethod2の何が問題なのでしょうか？その上、「すべてのモデルが間違っていますが、一部は便利です」。 p1 = p2 = p3 = c() i=0 while(i<10000){ y = rnorm(10) x = rnorm(10) c = rnorm(10) # method 1 p1[i] = summary(lm(y~x + c))$coefficients[2,4] # method 2 p2[i] = summary(lm(lm(y ~ c)$res ~ x))$coefficients[2,4] # method …

8 regression 

この記事は、特定のタイプの避妊方法を使用する100人の女性ごとに、計画外の妊娠の数を時系列でプロットしています。 https://www.nytimes.com/interactive/2014/09/14/sunday-review/unplanned-pregnancies.html?_r=0 特に記事の終わりに彼らは言う： 数値は次のように計算されます。 P（N年後に妊娠していない）= P（1年後に妊娠していない）NP（N年後に妊娠していない）=P（1年目以降妊娠していない）N \mathbb P(\text{Not pregnant after year N}) = \mathbb P(\text{Not pregnant after year 1})^N 実際、避妊の成功率は1年目に妊娠していない確率です。例：https : //www.cdc.gov/reproductivehealth/contraception/unintendedpregnancy/pdf/contraceptive_methods_508.pdf これは、1年間に妊娠する確率が前年とは無関係である場合に当てはまりますが、そうである可能性は非常に低いようです。避妊を間違った方法で使用すると、おそらく最初の1年でうまくいかず、そうでなければ、おそらく1年後にはうまくいかないでしょう。

8 regression  independence  statistics-in-media 

ベータ版を小さくした方がよい理由を直感的に理解できる人はいますか？ LASSOの場合、私はそれを理解できます。ここに機能選択コンポーネントがあります。機能が少ないほどモデルが単純になるため、過剰適合しにくくなります。 ただし、尾根については、すべての機能（要素）が保持されます。値のみが小さくなります（L2ノルムの意味で）。これにより、モデルはどのように単純になりますか？ 誰もがこれについて直感的な見解を提供できますか？

8 regression  lasso  ridge-regression  shrinkage 

統計と機械学習の初心者、およびオンラインコースの受講。 私はロジスティック回帰をより詳細に理解しようとしていますが、Andrew NgコースとStanford統計学習コースの式の違いに気づきました。以下に、両方の数式へのリンク画像を投稿します。したがって、分子は異なります。私はこれが初心者なので、smthgが欠落している必要があります。 Hθ（X）=1p （X）= eβ0+ β1バツ1 + eβ0+ β1バツp(X)=eβ0+β1X1+eβ0+β1Xp(X)=\frac{e^{\beta_0+\beta_1X}}{1+e^{\beta_0+\beta_1X}} およびhttp://prntscr.com/dmyvx7hθ（x ）= 11 + e- θ⊤バツ。hθ(x)=11+e−θ⊤x.h_\theta(x)=\frac{1}{1+e^{-\theta^\top x}}. http://prntscr.com/dmywgy

8 regression  machine-learning  logistic 

Natureは今年、次の論文を発表しました：人間の寿命の制限の証拠1。著者は、彼らの「彼らの結果は人間の最大寿命が固定され、自然の制約を受けていることを強く示唆しています」と主張しています。 この記事の統計分析の1つは、いくつかのサイトで既にパンニングされています。これには、Natureの記事が人間の寿命の約115年の制限と、一部の人気メディアで判明したため、効果的な査読の制限の証拠が間違っていることが含まれています。 この研究は、数ある中で、年間の最大死亡年齢を詳述するデータベースからのデータに基づいています。それらの分析には、次の図が含まれています。 基本的に著者はブレークポイントがあると主張しているので、彼らは1995年頃の前とそれ以降にセグメント化された回帰を実行しました。回帰は、人間の寿命の限界の証拠として使用されます。 それは意味がありますか？そうでない場合、これらのデータを調査するためにどのような方法をより適切に使用できますか？ [1]ドン、シャオ、ブランドンミルホランド、ヤンヴィイグ。「人間の寿命の限界の証拠。」Nature 538.7624（2016）：257-259。

8 regression  segmented-regression 

変数xとyが一緒にまたは個別にQ_7（上記のヒストグラム）に大きく影響するかどうかを確認しようとしています。Shapiro-Wilk正規性テストを実行し、以下を取得しました shapiro.test(Q_7) ## data: Q_7 ## W = 0.68439, p-value < 2.2e-16 このディストリビューションでは、次の回帰は機能しますか？または、私がしなければならない別のテストはありますか？ lm(Q_7 ~ x*y)

8 regression  assumptions 

私はPrinceton.eduでこのページを読んでいました。彼らはロジスティック回帰を実行しています（Rを使用）。ある時点で、モデルの自由度と等しい自由度の分布で得られたものよりも高い残差を得る確率を計算します。ウェブサイトからコピーして貼り付けています...χ2χ2\chi^2 > glm( cbind(using,notUsing) ~ age + hiEduc + noMore, family=binomial) Call: glm(formula = cbind(using, notUsing) ~ age + hiEduc + noMore, family = binomial) Coefficients: (Intercept) age25-29 age30-39 age40-49 hiEduc noMore -1.9662 0.3894 0.9086 1.1892 0.3250 0.8330 Degrees of Freedom: 15 Total (i.e. Null); 10 Residual Null Deviance: 165.8 …

8 regression  hypothesis-testing  logistic  generalized-linear-model  chi-squared 

数式をマトリックス形式に変換するのは初めてです。しかし、これは効率的な機械学習コードに必要です。だから私は「正しい」方法を理解したいのですが、私がするカウボーイのものではありません。 さて、これで、重み付き二乗和を以下の形式から行列形式に変換しようとしています。私はよくマトリックス形式を以下のものと同等であると見なし、それがどのように導出されるかについての説明はありません。 J（w ）= ∑i = 1メートルあなた私（wTバツ私− y私）2J(w)=∑i=1mui(wTxi−yi)2J(w)=\sum_{i=1}^m u_i (w^T x_i - y_i)^2 ここで、は各サンプル誤差重みです。また、、、、、。は、重みベクトルに特徴ベクトルを乗算した結果である予測値です。I X 、I ∈ R N W ∈ R N Y ∈ R U I ∈ R iは= 1 、。。。、m w T x iあなた私uiu_i私i_iバツ私∈ Rんxi∈Rnx_i \in \mathbb{R^n}W ∈ Rんw∈Rnw \in \mathbb{R^n}y∈ Ry∈Ry \in \mathbb{R}あなた私∈ Rui∈Ru_i \in \mathbb{R}私は= …

8 regression  machine-learning  linear-algebra 

ウィキペディアから： 統計モデリングでは、回帰分析は変数間の関係を推定するための統計プロセスです。従属変数と1つ以上の独立変数（または「予測子」）の間の関係に焦点が当てられている場合、いくつかの変数をモデル化および分析するための多くの手法が含まれます。 分類は同じではありませんか？結局、それは機械学習の目的ではないでしょうか？

8 regression  machine-learning  classification  definition 

このグラフを解釈できません。私の従属変数は、ショーで販売される映画チケットの総数です。独立変数は、ショーの前に残った日数、季節性ダミー変数（曜日、年、月、休日）、価格、日付までに販売されたチケット、映画の評価、映画の種類（スリラー、コメディなど）です。 ）。また、映画館の定員は固定ですのでご了承ください。つまり、最大xの人数のみをホストできます。線形回帰ソリューションを作成していますが、テストデータに適合していません。だから私は回帰診断から始めることを考えました。データは、需要を予測したい単一の映画館からのものです。 は多変量データセットです。日付ごとに、ショーの前日を表す90の重複行があります。したがって、2016年1月1日のレコードは90です。ショーの何日前かを示す 'lead_time'変数があります。つまり、2016年1月1日の場合、lead_timeの値が5であれば、ショーの日付の5日前までチケットが販売されます。従属変数、販売されたチケットの合計では、同じ値が90回得られます。 また、余談として、残差プロットを解釈して後でモデルを改善する方法を説明した本はありますか？

8 r  regression  logistic  residuals  diagnostic 

ゲームのプレイヤーによるn回の試行からの観測を含むデータセットを分析しています。各プレーヤーの試行に関して1つ以上の記述子を指定して各試行の結果を予測する回帰モデルを構築している場合、データセットが与えられた特定の記述子が「意味のある」または「重要な」になる前にプレーヤーが何回試行する必要があるかを測定するにはどうすればよいですか？ 良い例はダーツをする人々のグループでしょう。絶対的な初心者は目を閉じ、ダーツを投げ、雄牛の目を打つかもしれません。明らかに、それは純粋なチャンスであり、彼はこれまでにプレーしたことがなく、酔っ払っている可能性さえあることがわかっています。しかし、彼がさらに5本の投げ矢を投げ、その中からさらに3回ブルズアイに当たったとしましょう。彼は6本の投げ矢を投げて、50％の確率でブルズアイに当たりました。今、物事は疑わしくなっています... この真の初心者はどの時点で十分なブルズアイダーツを投げますか、そして彼が他のより経験豊富なプレーヤーよりも真面目な才能を持っていると言えるまでに何回の試行が必要ですか？統計でこの用語は何ですか、それについてどこでもっと知ることができますか？ 免責事項：「有意性」や「観察」などの読み込まれた統計用語をできるだけ使用しないようにしましたが、ここでは特定の場所で適切であると感じました。 誰かが私を正しい方向に向けることができれば、それは素晴らしいことです。ありがとう!!

8 regression  statistical-significance  bayesian  p-value  sequence-analysis 

再帰型ニューラルネットワークのウォームアップとして、別の周波数の別の正弦波から正弦波を予測しようとしています。 私のモデルは単純なRNNであり、そのフォワードパスは次のように表すことができます。 rtzt= σ（WI N⋅バツt+WR E C⋅rt − 1））=WO U T⋅rtrt=σ（W私ん⋅バツt+Wrec⋅rt−1））zt=Woあなたt⋅rt \begin{aligned} r_t &= \sigma(W_{in} \cdot x_t + W_{rec} \cdot r_{t-1}))\\ z_t &= W_{out} \cdot r_t \end{aligned} どこ σσ\sigma sigmoïd関数です。 入力と期待される出力の両方が同じ周波数の2つの正弦波であるが（おそらく）位相シフトがある場合、モデルは適切な近似に適切に収束できます。 ただし、次の場合、モデルは極小値に収束し、常にゼロを予測します。 入力： x = s i n （t ）バツ=s私ん（t）x = sin(t) 予想される出力： y= s i n （t2）y=s私ん（t2）y = sin(\frac{t}{2}) …

8 regression  time-series  neural-networks  deep-learning  rnn 

以下のプロットは、移動時間への影響に対する道路の飽和度を示しています（自由流の移動時間に正規化）。 青い（BPR関数）曲線は、移動時間と飽和度を関連付けるためにフィールドで使用される標準化されたモデルを示しています。 私が収集した経験的データについて、赤で示されている3次多項式近似をプロットしました。この近似を評価するために、この3次近似のを見つけました。これは0.72と指定されました。R2R2R^2 私は同僚にについて話しました、そして彼は私にこの記事を指摘しました。非線形回帰のR-Squaredがないのはなぜですか？R2R2R^2 がより高次の多項式の適合を評価するために使用されているという多くの記事を見つけましたが、今はかなり混乱しています。R2R2R^2 あるこの場合、不適切な？代わりに何を使用すればよいですか？R2R2R^2

8 regression  chi-squared  r-squared 

ロジスティック回帰を実行するときに、確率ではなくオッズを使用するのはなぜですか？

8 regression  logistic  odds