タグ付けされた質問 「regression」

機械学習（回帰問題の場合）では、最小化する誤差関数（および正則化項）として平均二乗誤差（MSE）または平均絶対誤差（MAE）が使用されることがよくあります。相関係数を使用する方が適切な状況があるのでしょうか。そのような状況が存在する場合： MSE / MAEと比較して、どのような状況で相関係数が優れたメトリックになりますか？ これらの状況で、MSE / MAEはまだ使用するのに適したプロキシコスト関数ですか？ 相関係数の最大化は直接可能ですか？これは使用する安定した目的関数ですか？ 相関係数が直接最適化の目的関数として使用されるケースは見つかりませんでした。このエリアの情報を教えていただければ幸いです。

12 regression  machine-learning  svm  optimization  deep-learning 

時系列分析が機械学習アルゴリズムと見なされないのはなぜですか（線形回帰とは異なります）。 回帰分析と時系列分析はどちらも予測方法です。では、なぜそれらの1つが学習アルゴリズムと見なされ、他のアルゴリズムと見なされないのでしょうか。

12 regression  machine-learning  time-series  terminology 

以下は、mtcarsデータセットから作成されたモデルです。 > ols(mpg~wt+am+qsec, mtcars) Linear Regression Model ols(formula = mpg ~ wt + am + qsec, data = mtcars) Model Likelihood Discrimination Ratio Test Indexes Obs 32 LR chi2 60.64 R2 0.850 sigma 2.4588 d.f. 3 R2 adj 0.834 d.f. 28 Pr(> chi2) 0.0000 g 6.456 Residuals Min 1Q Median …

12 regression  multiple-regression  r-squared 

このページの例は、単純な回帰が外れ値の影響を著しく受けていることを示しています 。これは、ロバスト回帰の手法（http://www.alastairsanderson.com/R/tutorials/robust-regression-in-R/）で克服できます。lmrobとltsRegは他の堅牢な回帰手法だと思います。 単純な回帰（lm）を実行するのではなく、なぜ毎回堅牢な回帰（rlmやrqなど）を行わない方がよいでしょうか。これらの堅牢な回帰手法の欠点はありますか？あなたの洞察をありがとう。

12 regression  multiple-regression  robust 

講義シリーズ「データから学ぶ」で、教授は、VCディメンションが、特定のモデルが粉砕できるポイントのモデルの複雑さを測定することについて言及しています。したがって、これは分類モデルで完全にうまく機能します。分類子がkポイントを効果的に粉砕できれば、VCディメンションの測定値はKになります。ただし、回帰モデルのVCディメンションをどのように測定するのかは明確ではありませんでした。 ？

12 regression  machine-learning  vc-dimension 

人々の過剰適合を防ぐために、人々は線形回帰のコスト関数に正則化パラメーターを持つ正則化項（モデルのパラメーターの二乗和に比例）を追加します。このパラメータはラグランジュ乗数と同じですか？正則化はラグランジュ乗数の方法と同じですか？または、これらのメソッドはどのように関連付けられていますか？ λλ\lambdaλλ\lambda

12 regression  optimization  regularization 

誰かが混合モデルと線形回帰分析の違いを説明できますか？（私は統計の知識が非常に限られています。）

12 regression  mixed-model 

多くのレベルを持つ因子をもつモデルに適合させ、そのモデルを適合させるにはRに非常に長い時間がかかります。どうしてこれなの？ たとえば、プレーヤーの給与を予測するために回帰を当てはめ、すべてのプレーヤーのそれぞれの国籍の因子予測子を含めると、プレーヤーの給与のモデルをプレーヤーの給与のような継続的な予測子に当てはめるよりも時間がかかりますハイツ。

12 regression  categorical-data 

同じ冷凍システムで使用された2つの冷媒（ガス）を評価しています。評価用の飽和吸引温度（）、凝縮温度（）、およびアンペア数（）のデータがあります。データには2つのセットがあります。第1冷媒（）および第2冷媒（）。回帰分析には、線形多変量（S＆D）3次多項式モデルを使用しています。2番目の冷媒が消費する電流の平均が、アンペア数（またはパフォーマンスの比較と同様の基準）をパーセンテージでどの程度下回っているのか、またはパーセンテージで示しているのかを確認します。D Y R 1 R 2 S DSSSDDDYYYR1R1R_1R2R2R_2SSSDDD 私の最初の考えは： 使用するモデルを決定：Y= b0+ b1S+ b2D + b３SD + b4S2+ b5D2+ b6S2D + b7D2S+ b8D３+ b9S３Y=b0+b1S+b2D+b3SD+b4S2+b5D2+b6S2D+b7D2S+b8D3+b9S3Y = b_0 + b_1S + b_2D + b_3SD + b_4S^2 + b_5D^2 + b_6S^2D + b_7D^2S + b_8D^3 + b_9S^3 ベースラインデータ（R_1）から係数（b私bib_i）を導き出します。R1R1R_1 これらの係数を使用して、R_2データセット内の各SSS＆DDDについて、予想される各アンプドロー（\ hat {Y}）を計算してから平均します。R2R2R_2Y^Y^\hat{Y} Y^Y^\hat{Y}平均とR_2データの実際の平均電流（Y2Y2Y_2）を比較します。R2R2R_2 パーセント（％）変化= （Y2− …

12 regression  regression-coefficients 

私はフィッシャーの正確なテストをよりよく理解したかったので、次のおもちゃの例を考案しました。ここで、fとmは男性と女性に対応し、nとyは次のように「ソーダ消費」に対応します。 > soda_gender f m n 0 5 y 5 0 明らかに、これは大幅な簡略化ですが、コンテキストが邪魔になりたくありませんでした。ここで私は男性がソーダを飲まず、女性がソーダを飲まないと仮定し、統計手順が同じ結論になるかどうかを確認したかっただけです。 Rでフィッシャーの正確検定を実行すると、次の結果が得られます。 > fisher.test(soda_gender) Fisher's Exact Test for Count Data data: soda_gender p-value = 0.007937 alternative hypothesis: true odds ratio is not equal to 1 95 percent confidence interval: 0.0000000 0.4353226 sample estimates: odds ratio 0 ここでは、p値が0.007937であるため、性別とソーダ消費が関連付けられていると結論付けます。 フィッシャーの正確な検定が超幾何分布に関連していることを知っています。だから私はそれを使って同様の結果を得たいと思った。つまり、この問題は次のように表示できます。10個のボールがあり、5個が「男性」、5個が「女性」とラベル付けされており、交換せずに5つのボールをランダムに描画すると、0個の男性ボールが表示されます。 。この観察の可能性は何ですか？この質問に答えるために、次のコマンドを使用しました。 …

12 fishers-exact  hypergeometric  clustering  supervised-learning  modeling  econometrics  r  regression  residuals  heteroscedasticity  independence  distributions  self-study  matlab  libsvm  self-study  conditional-probability  conditional-expectation  hypothesis-testing  self-study  multiple-comparisons  mode  statistical-significance  chi-squared  multiple-comparisons  maximum-likelihood  poisson-process  optimization  uncertainty  genetic-algorithms  bayesian  model-selection  overfitting  maximum-likelihood  optimization  approximation  r  prediction  model-evaluation  r  machine-learning  survival  neural-networks  cox-model  machine-learning  bayesian  bayesian-network  hierarchical-bayesian  pooling 

バイナリの結果といくつかの共変量のデータがあります。ロジスティック回帰を使用してデータをモデル化しました。単純な分析だけで、異常なことは何もありません。最終出力は、特定の共変量に対して確率がどのように変化するかを示す用量反応曲線であると想定されています。このようなもの： ロジスティック回帰を選択したことについて、（純粋な統計家ではなく）内部のレビューアからいくつかの批判を受けました。ロジスティック回帰は、確率スケールでのS字型曲線の変曲点が確率0.5であると想定（または定義）します。彼は、変曲点が確かに確率0.5であると仮定する理由はないと主張し、実際の位置がデータに基づくように変曲点を変化させることができる別の回帰モデルを選択する必要があります。 私はこの点について考えたことがないので、最初は彼の議論に油断しました。変曲点が0.5であると仮定することが正当化される理由について、私は何の議論もしませんでした。いくつかの調査を行った後、私はまだこの質問に対する答えがありません。 変曲点が追加のパラメーターである5パラメーターロジスティック回帰に出くわしましたが、この回帰モデルは通常、連続的な結果を伴う用量反応曲線を作成するときに使用されているようです。バイナリ応答変数に拡張できるかどうか、またどのように拡張できるかはわかりません。 私の主な質問は、ロジスティック回帰の変曲点が0.5であると仮定してよいのはなぜですか？それも重要ですか？ロジスティック回帰モデルをフィッティングして、変曲点の問題を明確に議論する人を見たことがありません。変曲点が必ずしも0.5とは限らない線量応答曲線を作成するための代替手段はありますか？ 完全を期すために、上の図を生成するためのRコード： dat <- read.csv("http://www.ats.ucla.edu/stat/data/binary.csv") dat$rank <- factor(dat$rank) logit <- glm(admit ~ gre + gpa + rank, family = binomial(link = "logit"), data = dat) newdata <- data.frame(gre = seq(-2000,8000,1), gpa = 2.5, rank = factor(1,c(1,2,3,4))) pp <- predict(logit, newdata, type = "response", se.fit = TRUE) …

12 regression  logistic  generalized-linear-model  binary-data 

データの不確実性に基づいて線形回帰勾配の不確実性を計算する方法（おそらくExcel / Mathematicaで）？ 例： データポイント（0,0）、（1,2）、（2,4）、（3,6）、（4,8）、...（8、16）がありますが、各y値には不確実性は4です。点が関数y = 2xと完全に一致するため、私が見つけたほとんどの関数は不確実性を0として計算します。ただし、図に示すように、y = x / 2は点にも一致します。これは誇張された例ですが、私が必要としているものを示していることを願っています。 編集：もう少し説明しようとすると、例のすべての点に特定の値のyがありますが、それが本当かどうかはわかりません。たとえば、最初のポイント（0,0）は、実際には（0,6）または（0、-6）またはその間の任意の値になります。これを考慮に入れる一般的な問題のいずれかにアルゴリズムがあるかどうかを尋ねています。この例では、点（0,6）、（1,6.5）、（2,7）、（3,7.5）、（4,8）、...（8、10）は依然として不確かさの範囲にあります。したがって、これらは正しい点である可能性があり、それらの点を結ぶ線は方程式y = x / 2 + 6を持ちますが、不確実性を考慮しないことから得られる方程式は方程式y = 2x + 0を持ちます。したがって、kの不確実性は1.5で、nは6です。 TL; DR：図には、最小二乗法を使用して計算されたy = 2xの線があり、データに完全に適合しています。私はy = kx + nのkとnがどれだけ変化するかを見つけようとしていますが、y値の不確実性がわかっている場合でもデータに適合します。私の例では、kの不確実性は1.5で、nは6です。画像には、「最適な」フィット線と、ポイントにほとんどフィットしない線があります。

12 regression  uncertainty 

OLS回帰を実行し、結果の残差をプロットする場合、残差が自己相関しているかどうかをどのように確認できますか？これについてのテストがあることは知っていますが（Durbin、Breusch-Godfrey）、プロットを見て、自己相関が問題になるかどうかを判断できるかどうか疑問に思っていました（異分散性のため、これはかなり簡単です）。

12 regression  autocorrelation  residuals 

ある高校の生徒が獲得した賞の数を含むデータセットが与えられました。獲得した数の予測には、学生が登録されたプログラムのタイプと数学の最終試験のスコアが含まれます。 なぜこの例では線形回帰モデルが適さないのか、そしてなぜポアソン回帰を使用する方が良いのか、誰かが教えてくれるのではないかと思いました。ありがとう。

12 regression  generalized-linear-model  poisson-distribution  count-data 

数千の機能を持つデータがあり、再帰的な機能選択（RFE）を実行して、情報のない機能を削除したいと考えています。これはキャレットとRFEで行います。ただし、最良の回帰適合（たとえば、ランダムフォレスト）を取得する場合、パラメーターの調整（mtryRFの場合）をいつ実行する必要があるかを考え始めました。つまり、私が理解しているように、キャレットは固定mtryを使用してさまざまな機能サブセットでRFを繰り返しトレーニングします。mtry機能の選択が完了した後で最適が見つかると思いmtryますが、キャレットが使用する値は、選択された機能のサブセットに影響しますか？もちろん、低でキャレットを使用するmtry方がはるかに高速です。 誰かがこれを私に説明してくれることを願っています。

12 regression  feature-selection  random-forest  caret