タグ付けされた質問 「machine-learning」

機械学習、特にアルゴリズム学習理論、PAC学習、ベイズ推論などの計算学習理論に関する理論的な質問

1
コードとコンパイラの最適化のための機械学習?
より効率的なコード(つまり、コンパイル時と実行時のヒューリスティック)を生成するためにMLを調査しています。私はphd(コンパイラ、hpc)を持っていますが、MLの経験はほとんどありません。 既存の作品への参照をいただければ幸いです。 さらに重要なのは、どの機械学習技術を探求するべきか? 各データサンプルは、コード+テスト実行+パフォーマンスデータです 正しいラベル付けされた多数のデータサンプル 変更する多数のパラメーター 任意のサンプルを任意のパラメーターで再実行できます(および正しいラベルを取得します) サンプルを実行および再実行するための大量のCPU そして、私の非常に疑わしい仮定のいくつか... コードの多くはすでにローカルに最適化されています(基本的なコンパイラー最適化) 一部のパラメータは「高レベルの概念」です。たとえば、配列をリンクリストに置き換えます。(したがって、小さなパラメーターの変更はさまざまな効果をもたらします) 望ましい改善には限界がある(xKの改善は「十分に良い」であり、Kはよく知られている) パラメータはまばらで、つまりほとんどゼロです(ほとんどのコードは基本的に良好であり、有益な変更は比較的少ないと思われます)。 私に私の道を設定するための任意のポインタはいただければ幸いです

2
モデルをデータに適合させる複雑さ
仮定いくつかの連続関数であり、いくつかのf:R × R → Rf:R×R→Rf:\mathbf{R}\times \mathbf{R} \to \mathbf{R} バツ1… xんx1…xnx_1 \ldots x_nは実際の値のセットであり、計算したい アーグミンaΣ私f(a 、x私)argmina∑if(a,xi)\text{argmin}_a \sum_i f(a,x_i)を規定の精度に さまざまなfについてこの問題の難しさについていくつかの結果はありますか? たとえば、と仮定します。問題の最小値は、計算が容易なxの平均です。一方、と仮定すると、閉形式の解はないため、argminの計算が難しいように見えますか、それともそうですか? f (m 、x )= log (1 + exp (− m x ))f(m 、x )= (m − x )2f(m,x)=(m−x)2f(m,x)=(m-x)^2f(m 、x )= ログ(1 + exp(− m x ))f(m,x)=log⁡(1+exp⁡(−mx))f(m,x)=\log (1+\exp(-m x)) 動機:この最小化の問題は、モデルをデータに適合させるときに発生します。fの最初の例は最小二乗近似で、2番目の例はロジスティック回帰です。 編集:私は関連する質問を見ただけであり、それは私が求めていたものの精神であり、特定のfを選択するためのものです
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.