タグ付けされた質問 「regression」

1つ(または複数)の「従属」変数と「独立」変数の間の関係を分析する手法。

1
ポアソン偏差(xgboost vs gbm vs回帰)
xgboostツール(極端なグラディエントブースティング)を使用したポアソン回帰の逸脱度式はどれか知りたいのですが。 ソースコードによると、評価関数は次のとおりです。 struct EvalPoissonNegLogLik : public EvalEWiseBase { const char *Name() const override { return "poisson-nloglik"; } inline bst_float EvalRow(bst_float y, bst_float py) const { const bst_float eps = 1e-16f; if (py < eps) py = eps; return common::LogGamma(y + 1.0f) + py - std::log(py) * y; } } したがって、逸脱度(R)は次のようになります。 …

3
整数データ:カテゴリーまたは連続?
整数予測子データをカテゴリカル(したがってエンコードが必要)または連続として扱う必要があるかどうか疑問に思っています。たとえば、特定の予測子の範囲Xがすべて1〜230の整数である場合、それを連続変数として扱うことができますか、それをエンコードして、230(またはおそらく229)の新しいダミー変数を取得する必要がありますか?分析の最終目標は、回帰または分類を実行することです。

3
ブートストラップを解釈するには?
私は統計に関しては初心者なので、私と私の質問を判断しないでください;) 私はSPSSで線形回帰分析を行っており、私のデータは正規分布されておらず、等分散性も示していないため、ブートストラップを使用することにしました。 今、私はそれが出力の解釈になると本当に混乱しています。SPSSは、「通常の」モデルの要約と係数、およびブートストラップの要約とブートストラップ係数を提供します。私は今、ブートストラップ部分だけを解釈しますか?または、たとえばF値はまだ関連性がありますか?つまり、Fが有意でない場合、有意でもブートストラップ間隔を解釈できませんか?


1
ベイジアンガウス過程回帰からの予測は正規分布ですか?
トピックは同じですが、これは他の質問とは直接関係ありません。それはおそらく非常に些細な質問でもありますが、私と一緒にください:)ガウスプロセス回帰の使用について同僚と話していたところ、彼は2つの主張に同意しませんでした: GPRは、予測子が正規分布している場合の応答のモデル化にのみ使用できます。 GPRモデルの応答は常に正規分布です。 最初のアサーションは偽(実際、GPRは予測子の結合分布についてまったく仮定を立てていません)であると思いますが、2番目のアサーションは、ハイパーパラメーターが固定されている場合にのみ真です。ただし、完全なベイズアプローチに従い、ハイパーパラメーターの事後確率分布を導出した場合、事後予測分布は正規分布ではなくなります。これは、ハイパーパラメーターと観測を条件とする応答の分布のみです。正規分布。数式では: y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) と前にGPを想定 f(x)f(x)f(\mathbf{x})。しましょう{(x1,y1,)…,(xd,yd,)}{(x1,y1,)…,(xd,yd,)}\{(\mathbf{x_1},y_1,)\dots,(\mathbf{x_d},y_d,)\} 観測値のセットである場合、ハイパーパラメーターの事後確率分布は p(θ|y)∝p(y|θ)p(θ)p(θ|y)∝p(y|θ)p(θ)p(\boldsymbol{\theta}|\mathbf{y})\propto p(\mathbf{y}|\boldsymbol{\theta})p(\boldsymbol{\theta}) ここで、ハイパーパラメーターと観測値を条件とする新しい応答ベクトルの分布、つまり、通常は配布されます(そうですか?)ただし、事後予測分布はy∗y∗\mathbf{y^*}p(y∗|θ,y)p(y∗|θ,y)p(\mathbf{y^*}|\boldsymbol{\theta},\mathbf{y}) p(y∗|y)=∫p(y∗,θ|y)p(θ)dθ=∫p(y∗|θ,y)p(θ|y)p(θ)dθp(y∗|y)=∫p(y∗,θ|y)p(θ)dθ=∫p(y∗|θ,y)p(θ|y)p(θ)dθp(\mathbf{y^*}|\mathbf{y})=\int{p(\mathbf{y^*},\boldsymbol{\theta}|\mathbf{y})p(\boldsymbol{\theta})}d\boldsymbol{\theta}=\int{p(\mathbf{y^*}|\boldsymbol{\theta},\mathbf{y})p(\boldsymbol{\theta}|\mathbf{y})p(\boldsymbol{\theta})}d\boldsymbol{\theta} 積分では、項が(多変量)正規確率密度関数です。とは、当面の統計的問題をモデル化するのに適切と考えるあらゆる分布を持っているかもしれません。これら3つの分布の積の積分wboldが正規分布していると考える理由はありません。したがって、ベクトルが正規分布しているとは言えません。これは正しいです?p(y∗|θ,y)p(y∗|θ,y)p(\mathbf{y^*}|\boldsymbol{\theta},\mathbf{y})p(y|θ)p(y|θ)p(\mathbf{y}|\boldsymbol{\theta})p(θ)p(θ)p(\boldsymbol{\theta})θθ\boldsymbol{\theta}y∗|yy∗|y\mathbf{y^*}|\mathbf{y}

4
リッジ回帰:値に向けて正則化
従来のリッジ回帰推定は β^ridge=(XTX+λI)−1XTYβ^ridge=(XTX+λI)−1XTY \hat{\beta}_{ridge} = (X^TX+\lambda I)^{-1} X^T Y これは、ペナルティ項を追加することで得られます。λ||β||22λ||β||22\lambda ||\beta||^2_2 私は特定の価値に向けて正則化することに関する文献を見つけるのに苦労してきました。特に、ペナルティの形式を使用するリッジ回帰モデルを調べました。ここで、は、繰り返し再重み付けされた最小二乗の設定での初期推定です。次に、リッジ回帰推定はλ||β−B||22λ||β−B||22\lambda ||\beta-B||^2_2BBBββ\beta β^ridge=(XTX+λI)−1(XTY+λB).β^ridge=(XTX+λI)−1(XTY+λB). \hat{\beta}_{ridge} = (X^TX+\lambda I)^{-1} (X^T Y + \lambda B). ラムダパラメータも非常に大きく()選択されているため、推定値がに収束しようとしているように見えます。λ=100000λ=100000\lambda=100000BBB なぜ値に向けて正則化するのですか?これはの解釈を変えますか?ββ\beta コメントや引用は大歓迎です。ありがとう!

2
合併症のあるモデル
通常の線形回帰モデルは、。ここで、は未知の係数であり、は平均がゼロで分散が一定のガウスノイズです。エラー項に2つの複雑な問題があるモデルを構築しています。y=c′x+εy=c′x+εy = c'x + \varepsiloncccεε\varepsilonεε\varepsilon その分布は正常ではありません。 エラー分散は一定ではありません。 最初の問題はいくつかの線形回帰モデルで対処できる一方、2番目の問題は線形回帰で対処できることを知っています(たとえば、Tofallis、C(2008)、「最小二乗パーセント回帰」)。しかし、両方の問題に同時に対処するモデルを見たことがありません。

1
ロジスティック回帰仮説が確率関数と見なされるのはなぜですか?
ロジスティック回帰仮説が確率関数と見なされるのはなぜですか? 0または1を予測するためにそれを使用することを理解していますが、それでも、0と1の間の数値を出力する関数(仮説)が確率関数と見なされるのはなぜですか? これはヒューリスティックですか?

1
アルゴリズムをカーネル化するとき、切片項を考慮する必要がありますか?
学習アルゴリズム(分類、回帰、クラスタリング、次元削減など)がデータポイント間のドット積のみを使用する場合カーネルトリックを介して、より高い次元のマッピングを暗黙的に使用できます。ドット積は、カーネルによって生じるすべてのインスタンス交換。xxTxxT\mathbf {x x^T}ϕ(x)ϕ(x)\phi(\mathbf x)K=ϕ(x)ϕ(x)TK=ϕ(x)ϕ(x)T\mathbf K = \phi(\mathbf x) \phi(\mathbf x) ^ \mathbf T SVMなどの線形モデルでは、データポイントに定数列を追加する切片を考慮することができます。線形カーネルを使用する場合、その列を一定に保つことは私にとって非常に理にかなっています。カーネル係数からまでの 列係数取得できます。と解は、カーネルを使用するかどうかにかかわらず、同一でなければなりません。K=xxTK=xxT\mathbf K = \mathbf {x x^T}ww\mathbf wuu\mathbf uw=xTuw=xTu\mathbf{w=x^T u} しかし、カーネルが線形でない場合、列係数がで表すことができないように無限次元でマッピングする場合はどうなりますか?インターセプト用語?w=ϕ(x)Tuw=ϕ(x)Tu\mathbf{w=\phi(\mathbf x)^T u}

2
なぜすべてのパラメータを同じように正則化するのですか?
私の質問は、線形回帰とロジスティック回帰の正則化に関するものです。私は現在、Coursera でAndrew Ngの機械学習コースの第3週を行っています。過剰適合が一般的な問題になる可能性があることを理解しています。また、正規化によって過剰適合を減らす方法について直観があります。私の質問は、さまざまな方法でさまざまなパラメーターを正則化することによってモデルを改善できるかどうかです。 例: フィットしようとしているとしましょう w0+w1x1+w2x2+w3x3+w4x4w0+w1x1+w2x2+w3x3+w4x4w_0 + w_1 x_1 + w_2 x_2 + w_3 x_3 + w_4 x_4。この質問は、なぜ私たちが高w1w1w_1 高いと罰するのと同じ方法で値 w2w2w_2 値。 私たちの機能について何も知らない場合 (x1,x2,x3,x4)(x1,x2,x3,x4)(x_1,x_2,x_3,x_4) 構築された場合、正則化を行うときはすべて同じように扱うことが理にかなっています。 w1w1w_1 価値は、高値と同じくらいの「ペナルティ」 w3w3w_3 値。 しかし、追加情報があるとしましょう。最初は2つの機能しかなかったとします。 x1x1x_1 そして x2x2x_2。ラインがトレーニングセットに適合していなかったため、より波状の決定境界が必要だったため、x3=x21x3=x12x_3 = x_1^2 そして x4=x32x4=x23x_4 = x_2^3。これで、より複雑なモデルを使用できるようになりますが、モデルが複雑になるほど、モデルをトレーニングデータに過剰適合させるリスクが高まります。したがって、コスト関数の最小化とモデルの複雑さの最小化の間でバランスをとる必要があります。さて、より高い指数を表すパラメータ(x3x3x_3、 x4x4x_4)モデルの複雑さが大幅に増大しています。だから私たちは高額に対してもっとペナルティを課すべきではないw3w3w_3、 w4w4w_4 私たちが高いと罰するよりも価値 w1,w2w1,w2w_1,w_2 値?

2
スポーツでの勝ち負けの結果のモデリング
私はさまざまなチーム、プレーヤーなどに関するデータを持っています。ホームチームの勝利、ホームチームの敗北、または引き分けに終わる可能性がある試合の結果をモデル化する最良の方法を見つけようとしています。これをモデリングするのに問題があります。 たとえば、ポアソン回帰を使用して各チームが得点するゴールの数をモデル化し、それらの確率のグリッドを計算できますが、独立性の仮定にはあまり満足していません。また、2変量ポアソンを行うこともできましたが、これにはあまり経験がありません。結果が相互に排他的であるという事実を維持しながら、結果の2つのチームへの依存をモデル化するための適切なアプローチは何なのかと思います(ドローの損失に勝つために割り当てられた確率は合計で1になるはずです)。

1
Rによるロジスティック回帰
次のテストデータを作成したロジスティック回帰を行っています(2つの予測子と基準はバイナリ変数です)。 UV1 UV2 AV 1 1 1 1 2 1 1 1 3 1 1 1 4 1 1 1 5 1 1 1 6 1 1 1 7 1 1 1 8 0 0 1 9 0 0 1 10 0 0 1 11 1 1 0 12 1 …

1
予測不確実性を伴うノンパラメトリック非線形回帰(ガウスプロセス以外)
トレーニングセットのサイズがバニラGPで禁止され始めたが、それでもそれほど大きくない場合、予測の不確実性を伴うノンパラメトリック非線形回帰のためのガウスプロセス(GP)の最新の代替手段は何ですか? 私の問題の詳細は: 入力空間は低次元です(、)X⊆RdX⊆Rd\mathcal{X} \subseteq \mathbb{R}^d2≤d≤202≤d≤202\le d \le 20 出力は実数値です()Y⊆RY⊆R\mathcal{Y} \subseteq \mathbb{R} トレーニングポイントは、標準のGP(近似なし)で処理できるものよりも1桁程度大きい103≲N≲104103≲N≲10410^3 \lesssim N \lesssim 10^4 近似する関数f:X→Yf:X→Yf: \mathcal{X} \rightarrow \mathcal{Y}はブラックボックスです。連続性と滑らかさの相対的な程度を仮定できます(たとえば、GPには\ nu = \ frac {5} {2}の Matérn共分散行列を使用しますν=52ν=52\nu = \frac{5}{2}) クエリされた各ポイントについて、近似は予測の平均と分散(または不確実性の類似の測定)を返す必要があります 1つまたはいくつかの新しいトレーニングポイントがトレーニングセットに追加されたときに、メソッドが比較的高速(数秒程度)で再トレーニング可能である必要があります どんな提案も歓迎します(メソッドへのポインタ/言及と、それがうまくいくと思う理由)。ありがとうございました!

4
なげなわがペナルティパラメータに収束しないのはなぜですか?
LASSO回帰がどのように機能するかを調べるためにLASSO、最適なアルファパラメーターを選択することで回帰を最適化する小さなコードを書きました。 LASSO交差検証後、回帰がアルファパラメーターに対してこのような不安定な結果をもたらす理由を理解できません。 これが私のPythonコードです: from sklearn.linear_model import Lasso from sklearn.cross_validation import KFold from matplotlib import pyplot as plt # generate some sparse data to play with import numpy as np import pandas as pd from scipy.stats import norm from scipy.stats import uniform ### generate your own data here n = 1000 …

3
線形回帰モデルの確率リグレッサと固定リグレッサの違いは何ですか?
確率的リグレッサがある場合、固定されているが未知の確率分布から、いわゆるランダムサンプルである束に対してランダムペアを描画します。理論的には、ランダムサンプルを使用すると、分布いくつかのパラメーターについて学習または推定できます。(y私、バツ⃗ 私)(yi、x→私)(y_i,\vec{x}_i)私私i(y、バツ⃗ )(y、バツ→)(y,\vec{x})(y、バツ⃗ )(y、バツ→)(y,\vec{x}) 理論的に言えば、固定回帰子がある場合、 条件付き分布に関する特定のパラメーター、つまり、各が確率変数ではない、または固定されているのみを推測できます。より具体的には、確率リグレッサでは分布全体の一部のパラメータを推定できますが、固定リグレッサでは条件付き分布特定のパラメータのみを推定できます。kkky|バツ私y|バツ私y\mid x_i私は= 1 、2 、... 、K私=1、2、…、ki=1,2,\dots,kバツ私バツ私x_i(y、バツ⃗ )(y、バツ→)(y,\vec{x})(y、バツ私→)∣バツ私(y、バツ私→)|バツ私(y,\vec{x_i})\mid x_i その結果、固定リグレッサをディストリビューション全体に一般化することはできません。たとえば、サンプルに固定リグレッサとしてしかない場合またはについては推論できませんが、確率リグレッサは推論できます。x=1,2,3,…,99バツ=1、2、3、…、99x=1,2,3,\dots,9910010010099.999.999.9 多くの教科書は数学的導出の違いについてのみ述べているが、理論的に一般化できる程度の違いについては議論しないので、これは実際にはかなりあいまいな質問です。私は統計学の教授に助けを求めましたが、彼は答えを知りません。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.