タグ付けされた質問 「time-complexity」

Hastie et al。で区別されている線形回帰の3つのグループの方法の計算の複雑さ/推定速度を比較しようとしています。「統計学習の要素」（第2版）、第3章： サブセット選択 収縮方法 導出された入力方向を使用する方法（PCR、PLS） 比較は非常に大雑把なものであり、単に考えを与えるだけです。答えは問題の次元とそれがコンピューターアーキテクチャにどのように適合するかに依存する可能性があるため、具体的な例としては、500および50の候補回帰子のサンプルサイズを考慮することができます。私は主に、計算の複雑さ/推定速度の背後にある動機付けに興味がありますが、特定の例で特定のプロセッサにかかる時間には興味がありません。

18 machine-learning  estimation  feature-selection  algorithms  time-complexity 

素朴な検索アプローチを使用したk -NNアルゴリズムの時間の複雑さは何ですか（kdツリーなどはありません）？ ハイパーパラメータkを考慮した時間の複雑さに興味があります。私は矛盾した答えを見つけました： O（nd + kn）、nはトレーニングセットのカーディナリティ、dは各サンプルの次元です。[1] O（ndk）、ここでもnはトレーニングセットのカーディナリティ、dは各サンプルの次元です。[2] [1] http://www.csd.uwo.ca/courses/CS9840a/Lecture2_knn.pdf（ページ18/20） [2] http://www.cs.haifa.ac.il/~rita/ml_course/lectures/KNN.pdf（18/31ページ）

17 k-nearest-neighbour  time-complexity 

新しい分類アルゴリズムのパフォーマンスを評価するために、精度と複雑さを比較しようとしています（トレーニングと分類でのビッグO）。Machine Learningから：レビュー完全な教師付き分類子リスト、アルゴリズム間の精度表、およびUCIデータリポジトリからの44のテスト問題を取得します。ただし、次のような一般的な分類子のレビュー、論文、またはウェブサイトが見つかりません。 C4.5 RIPPER（これは不可能かもしれないと思うが、誰が知っているか） 逆伝播を伴うANN 素朴なベイジアン K-NN SVM 誰かがこれらの分類子の式を持っている場合、それは非常に役立ちます、ありがとう。

14 machine-learning  classification  multiple-comparisons  algorithms  time-complexity 

行または列の数が増えるにつれて、なげなわ回帰の漸近的な時間の複雑さは何ですか？

14 lasso  time-complexity 

私はデザイン行列がある場合、N次元の観測の数であり、Dが、について解くの複雑さは何であるβ = argmin β 1X∈Rn×dX∈Rn×dX\in\mathcal{R}^{n\times d}nnndddLASSO、wrtnおよびd？答えは、特に感じない限り、反復数（収束）のスケーリング方法ではなく、1つのLASSO反復がこれらのパラメーターでスケーリングする方法を参照する必要があると思います。β^=argminβ12n||Xβ−y||2+λ||β||1β^=argminβ12n||Xβ−y||2+λ||β||1\hat{\beta}=\text{argmin}_{\beta}\frac{1}{2n} ||X\beta-y||^{2} + \lambda||\beta||_{1}nnnddd 私は以前のLASSOの複雑さに関する質問を読みましたが、こことここでの glmnetについての議論とは奇妙に思えます。glmnetのGLMアプローチを含む多くのアルゴリズムがあることは承知していますが、LASSOコンポーネントを親アルゴリズムに置き換えることに関する論文を書いており、特におよびnを使用したLASSOの複雑さに関する議論を含めたいと思います。基本的な非スパースの場合のglmnetの複雑さも知りたいのですが、参照されている論文は、アルゴリズム全体の複雑さが明確ではないため、少し混乱しています。dddnnn

10 optimization  lasso  regularization  time-complexity