Plotkin-Shmoys-TardosおよびArora-Kaleソルバーのおもちゃの例

Arora-Kale SDPソルバーがほぼ線形時間でGoemans-Williamson緩和を近似する方法、Plotkin-Shmoys-Tardosソルバーがほぼ線形時間で分数の「パッキング」および「カバー」問題を近似する方法、およびアルゴリズムがどのように「専門家から学ぶ」抽象的なフレームワークのインスタンス化です。

ケールの論文には優れたプレゼンテーションがありますが、抽象的なフレームワークに直接ジャンプすることは非常に難しいと思います。何をすべきかが絶対に明らかな単純な問題の例から始めて、より一般的な問題に移りたいと思います、アルゴリズムとその分析に「機能」を徐々に追加します。

例えば：

Plotkin-Shmoysは、重みのない頂点カバーの線形計画緩和をどのように解決しますか？重み付き頂点カバー？カバーをセットしますか？二部一致？

Arora-Kaleアルゴリズムが何か面白いことをしている最も単純な例は何ですか？グラフのラプラシアンの最大固有値をどのように計算しますか？

（ラプラシアンの最大固有値を計算することは、Max CutのGoemans-Williamson SDP緩和の弱いバージョンを解く問題に相当します。各ベクトルの長さを1つにする代わりに、平方和を求めます。 | V |となる規範の）

— ルカ・トレビサン
ソース

それはいい質問です。

— スレシュヴェンカト

パッキング問題のPSTスタイルのアルゴリズムを理解するには、PSTの進化元であるマルチコモディティフローの問題を近似的に解決するアルゴリズムを調べるとよいでしょう。Neal Youngの論文では、セットカバーについて詳しく説明しています。Ihttp：//www.cs.ucr.edu/~neal/non_arxiv/SODA_1995_170.pdf。Arora-Kale-Hazanの調査では、エキスパートフレームワークとパッキング/カバーソルバーとの関係が明確になると思いました。

— チャンドラチェクリ

@ChandraChekuri：それはかなり遅れていますが、これを答えにするべきかどうか疑問に思っていますか？

— Suresh Venkat

FWIW、@ ChandraChekuriが言及したSODA論文に関するいくつかのメモについては、greedyalgs.info / blog / aboutを参照してください。

— ニールヤング

更新されたリンク：algnotes.info/on/obliv

— ニールヤング

ルカ、1年が経ちましたので、おそらくあなた自身の答えを研究したでしょう。記録のために、ここでいくつかの質問に答えています。あなたが言及した問題についてラグランジュ緩和アルゴリズムをいくつかレビューし、学習との関係をスケッチします（特に専門家のアドバイスに従って）。SDPアルゴリズムについてはここではコメントしません。

あなたが言及する特定のアルゴリズムは、ほぼ線形の時間で実行されないことに注意してください。（のためのほぼ線形時間アルゴリズムであり 、明示的に与えられたパッキンや問題をカバーするを参照フラクショナルパッキングと被覆リニアプログラムのためのシンプレックスを打つ。）あなたが考えているアルゴリズムは、一般的に持っているのはほぼ線形の数でその実行をバリアント回の反復が、各通常、反復には少なくとも線形時間も必要です。これらのアルゴリズムのいくつかを以下で説明します。

いくつかの便利な機能

$y$ $\mbox{Lmax}(y)$ $\ln \sum_i \exp(y_i)$ $\max_i y_i$

max_{i} y_{i} \leq Lmax (y) \leq max_{i} y_{i} + \ln m .

$\max_i y_i ~\le~ \mbox{Lmax}(y) ~\le~ \max_i y_i + \ln m.$

Lmin (y)

$\mbox{Lmin}(y)$

- Lmax (- y)

$-\mbox{Lmax}(-y)$

min_{i} y_{i}

$\min_i y_i$

以下の便宜上、を使用して、勾配を示します。我々が使用勾配示すため Lmaxとなります。 $g(y)$ $\nabla \mbox{Lmin}(y)$ $G(y)$ $\nabla \mbox{Lmax}(y)$

明示的に、は、は。 $g_i(y)$ $\exp(-y_i)/\sum_{i'} \exp(-y_{i'})$ $G_i(y)$ $\exp(y_i)/\sum_{i'} \exp(y_{i'})$

LminとLmaxは、次の意味で滑らかです。任意のベクトルおよび、および $d\in[0,\varepsilon]^n$ $y\in R^n$

Lmin (y + d) \geq Lmin (y) + (1 - O (ε)) d \cdot g (y)

$\mbox{Lmin}(y+d) ~\ge~ \mbox{Lmin}(y) ~+~ (1-O(\varepsilon))\, d \cdot g(y)$

Lmax (y + d) \leq Lmax (y) + (1 + O (ε)) d \cdot G (y) .

$\mbox{Lmax}(y+d) ~\le~ \mbox{Lmax}(y) ~+~ (1+O(\varepsilon))\, d \cdot G(y).$

両方の勾配の1ノルムが1に等しいことに注意してください|| 。（全体を通して、を使用して1ノルムを示します。） $|G(y)| = |g(y)| = 1$ $|z|$

またなお、行列のための、関数の勾配に対する（連鎖ルールによって）である。より明示的に、に関する関数の偏微分はです。同様に、に関するLmaxの偏微分はです。 $A$ $x\mapsto \mbox{Lmin}(Ax)$ $x$ $(g(Ax))^T A$ $x_j$ $\sum_i A_{ij} \exp(-A_i x) / \sum_i \exp(-A_i x)$ $(Ax)$ $x_j$ $\sum_i A_{ij} \exp(A_i x)/\sum_i \exp(A_i x)$

フラクショナルセットカバー

Set-Coverインスタンスを修正します。レッツ要素/セット入射行列を表します。したがって、場合は、その他の場合は0、は部分カバーが要素カバーする範囲です。 $A$ $A_{es} = 1$ $e\in s$ $A_e x$ $x$ $e$

LPは。与えられると、アルゴリズムは $\min\{ |x| : A x \ge 1; x \ge 0\}$ $\varepsilon\in (0,1)$

すべての初期化します。レッツ。 $x_s = 0$ $N=\log(n)/\varepsilon$
まで繰り返します： $\min_e A_e x \ge N$

2.1。選択してください Lminとの偏微分の最大化 WRTの。（明示的に、最大化するを選択します。） $s$ $(Ax)$ $x_s$
$s$ $\sum_{e\in s} \exp(-\sum_{s'\ni e} x_{s'})$

2.2。を増やします。 $x_s$ $\varepsilon$
リターン。 $x/\min_{e} A_e x$

アルゴリズムは、繰り返しで近似解を返します。ここで、は要素数、は最適です分数集合カバー（通常）。（チャンドラが言及した論文に同様のアルゴリズムが登場します。頂点カバーはもちろん特別な場合です。） $(1+O(\varepsilon))$ $O(|x^*|\log(n)/\varepsilon^2)$ $n$ $x^*$ $|x^*|\le n$

（注：反復境界はセットの数に依存せず、要素の数にのみ依存することに注意してください。したがって、要素に重みが与えられる限り、アルゴリズムは暗黙的に定義されたセットシステムで使用できます。最大（または最大に近い）総重量のセットを見つけます。この種類のオラクルは、楕円体アルゴリズムを双対問題に適用するために必要な分離オラクルと同じです。セットパッキングなどのパッキング問題には、次のオラクルが必要です。要素の重みを指定すると、合計重みを最小化するセットを返します。複数商品フローなどの問題の場合、たとえば、特定のエッジ重みの合計を最小化するパスを見つける必要があります。

ここに、パフォーマンス保証の証明のスケッチがあります。各反復で、選択されたに対する偏微分は、少なくともここで、は最適な分数集合カバーです。 $s$ $1/|x^*|$ $x^*$

（Lminとの勾配ことを、なぜ、リコールを確認するにはに関してある。我々はセットを選択した場合分布からランダムにする、したがってに関する偏微分の期待値はますから、少なくともある。ので、、これは少なくともある。したがって、存在しなければならないいくつか少なくとも部分的な誘導体を与えます。アルゴリズムは選択する $(Ax)$ $x$ $(g(Ax))^T A$ $s'$ $x^*/|x^*|$ $x_{s'}$ $(g(Ax))^T \,A x^*/|x^*|$ $Ax^* \ge 1$ $|g(Ax)|/|x^*|$ $|g(Ax)|=1$ $1/|x^*|$ $s$ $1/|x^*|$ $x_s$ 各反復で偏微分を最大化するために、少なくとも偏微分を達成し） $1/|x^*|$

次に、ステップサイズは、の座標が超えて増加しないように十分に小さく選択されます。したがって、Lminの滑らかさにより、を増やすと、が少なくとも増加し。 $\varepsilon$ $A x$ $\varepsilon$ $x_s$ $x_s+\varepsilon$ $\mbox{Lmin}(Ax)$ $(1-O(\varepsilon))\varepsilon/|x^*|$

このようにして、アルゴリズムは不変式維持し（Lminはと等しいことに注意してください。）

Lmin (A x) \geq (1 - O (ε)) | x | / | x^{*} | - \ln n .

$\mbox{Lmin}(Ax) \ge (1-O(\varepsilon)) |x|/|x^*| - \ln n.$

(\bar{0})

$(\overline 0)$

\ln n

$\ln n$

終了時、不変条件では、項はの左辺です。したがって、計算により。アルゴリズムの最後の行で正規化した後、これは意味します。 $\ln n$ $O(\varepsilon)$ $\min_e A_e x \ge (1-O(\varepsilon)) |x|/|x^*|$ $|x| \le (1+O(\varepsilon))|x^*|$

FWIW、不変量の証明に関係する不等式は、チェルノフ限界の証明に関係するものと本質的に同じです。（実際、このアルゴリズムは、条件付き確率の方法を、分布（置換あり）からセットを繰り返しサンプリングするランダム化された丸めスキームに、各サンプリングセットを増やすことでこの非ランダム化により、アルゴリズムが得られます：基礎となる不変式は、悲観的推定量が1未満であるということです。チャンドラが言及した論文で。） $x^*/|x^*|$ $x_s$ $s$

分数加重セットカバー（および一般的な分数カバー）

Weighted Set Coverなどの問題を効率的に処理するために、アルゴリズムを変更して不均一な増分を使用します（GargとKonemannによるアイデア）。

LPはで、は要素範囲、はセット範囲、すべての変数は非-負。アルゴリズムを提示するには、まず問題を一般的な問題として書き直します。LETためのとそれ以外の場合。（変数を変更し、各をでスケーリングして）LPは、これは一般的なカバーLPとして見ることができます。アルゴリズムは次のとおりです。 $\min\{ c\cdot x : (\forall e) \sum_{s\ni e} x_s \ge 1\}$ $e$ $s$ $A_{es} = 1/c_s$ $e\in s$ $A_{es} = 0$ $x_s$ $c_s$ $\min\{ |x| : A x \ge 1; x \ge 0\}$

すべての初期化します。レッツ。 $x_s = 0$ $N=\log(n)/\varepsilon$
すべてのカバー制約が削除されるまで繰り返します：

2.1。選択してください Lminとの偏微分の最大化 WRTの。（明示的に最大化するを選択します。 $s$ $(Ax)$ $x_s$
$s$ $\sum_{e\in s} \exp({-\sum_{s'\ni e} x_{s'}})/c_s$

2.2。を増加し。ここで、残りのすべてのカバー制約について、増加が最大になるように、が最大限に選択されます。 $x_s$ $\delta$ $\delta$ $e$ $A_e \cdot x$ $\varepsilon$

2.3などのすべてのカバー制約削除します。 $e$ $A_e\cdot x \ge N$
返します。 $x/\min_e A_e\cdot x$

アルゴリズムは、繰り返しで -近似解を返しますはカバーする制約の数です。（各反復は、残りのをだけ増加させます。これは、制約が削除される前に回だけ発生する可能性があります。） $(1+O(\varepsilon))$ $O(n\log(n)/\varepsilon^2)$ $n$ $A_e x$ $\varepsilon$ $N/\varepsilon$

加重頂点カバーは特別な場合です。

最大フラクショナル二部マッチング

グラフ与えられた場合、問題の自然LPは。 $G=(U,W,E)$ $\max\{|x| : \forall v.\, \sum_{e\ni v} x_e \le 1\}$

行列表現では、これはパッキングLP 0-1係数の（場合、）。このような問題は不均一な増分を必要としないため、重み付けされていないSet Coverアルゴリズムに類似した単純なアルゴリズム（ただしパッキング用）で必要になります。 $\max\{|x| : Ax \le 1; x \ge 0\}$ $A_{ve} = 1$ $v\in e$

すべての初期化します。レッツ。 $x_e = 0$ $N=\log(n)/\varepsilon$
一方、： $A x < N$

2.1。選択した値Lmaxの偏導関数最小化 WRTの。（明示的にを選択してを最小化します。） $e$ $(Ax)$ $x_e$
$e$ $\sum_{v\in e} \exp(\sum_{e'\ni v} x_{e'})$

2.2。を増やします。 $x_e$ $\varepsilon$
リターン。 $x/\max_{v} A_v x$

アルゴリズムは、反復で -近似解を返します。（これは、各反復増加からであるにより、そして最後に、正規化の前に、）。 $(1-O(\varepsilon))$ $O(n\log(n)/\varepsilon^2)$ $|x|$ $\varepsilon$ $|x| = O(N n)$

楽しみのために、完全な2者間マッチングの好奇心をそそる代替アルゴリズムを次に示します。思い出してください。ましょう。 $G=(U,W,E)$ $n=|U|=|W|$

すべての初期化します。LET。 $x_e = 0$ $N=4\ln(n)/\varepsilon$
回繰り返す： $n\,N$

2.1。から一様にランダムに選択します。 2.2。最小化するような選択します。 2.3。を増やします。 $u$ $U$
$w$ $(u,w)\in E$ $\sum_{e\ni w} x_e$
$x_{uw}$ $\varepsilon$
返します。 $x/N$

場合完全マッチングを有し、アルゴリズムが返す、このような、かつ、高い確率で、すべての頂点のため、、およびすべての頂点、。証拠の詳細に興味がある場合は、お問い合わせください... $G$ $x$ $|x|=n$ $u\in U$ $1-O(\varepsilon) \le \sum_{e\ni u} x_e \le 1+O(\varepsilon)$ $w\in W$ $\sum_{e\ni w} x_e \le 1+O(\varepsilon)$

混合パッキングおよびカバー

あなたは二部マッチングの例を期待について尋ねたかもしれ混合、フォームの一つで梱包し、問題をカバーし、。このような問題に対する1つのアルゴリズムを次に示します。まず、およびなるように正規化します。

\exists x ? P x \leq p; C x \geq c; x \geq 0.

$\exists x?~ Px \le p; Cx \ge c; x \ge 0.$

p = \bar{1}

$p=\overline 1$

c = \bar{1}

$c=\overline 1$

ましょ制約（の行数であるプラス行）。 $m$ $P$ $C$

すべての初期化します。LET。 $x_j = 0$ $N=2\ln(m)/\varepsilon$
一方、： $P x < N$

2.1。選択 Lmaxとの偏導関数ようにに対する Lminとの最も偏導関数であるに対して。（明示的に、選択しその結果 $j$ $(Px)$ $x_j$ $(Cx)$ $x_j$ $j$
$\frac{\sum_{i} P_{i j} \exp (P_{i} x)}{\sum_{i} \exp (P_{i} x)} \leq \frac{\sum_{i} C_{i j} \exp (- C_{i} x)}{\sum_{i} \exp (- C_{i} x)} .)$ $\frac{\sum_i P_{ij} \exp(P_i x)}{\sum_{i}\exp(P_i x)} \le \frac{\sum_i C_{ij} \exp(-C_i x)}{\sum_{i}\exp(-C_i x)}.)$

2.2。を増やします。ここで、は、制約または残りの制約が超えて増加しないように、最大限に選択されます。 $x_j$ $\delta$ $\delta$ $P_i x$ $C_i x$ $\varepsilon$

2.3。ようなすべてのカバー制約削除します。 $i$ $C_i x \ge N$
返します。 $x/\max_i P_i x$

与えられた問題が実行可能であると仮定すると、アルゴリズムはおよびような返します。反復回数は。これは、各反復が制約を増やすためであり、これは各制約で最大回発生する可能性があります。 $x$ $Px\le 1$ $Cx\ge 1-O(\varepsilon)$ $O(m\ln(m)/\varepsilon^2)$ $\varepsilon$ $N$

正当性の証明は、不変式介して行われ不変式は、意味し終了時、左側はであり、パフォーマンスの保証を証明しています。

Lmax (P x) \leq 2 \ln (m) + (1 + O (ε)) Lmin (C x) .

$\mbox{Lmax}(Px) \le 2\ln(m) + (1+O(\varepsilon)) \mbox{Lmin}(Cx).$

max P x \leq 2 \ln (m) + (1 + O (ε)) min C x .

$\max Px \le 2\ln(m) + (1+O(\varepsilon)) \min Cx.$

Ω (\log (m) / ε)

$\Omega(\log(m)/\varepsilon)$

ステップ2.1では、元の問題が実行可能である限り、目的のが存在する必要があります。（これは、実行可能なおよび任意のについて、分布からランダムを選択する場合、Lmax偏微分の期待値に関しては、最大で（Set Coverの前の証明スケッチを参照）同様に、に関してLmin偏微分の期待値は少なくともます。したがって、 $j$ $x^*$ $x$ $j'$ $x^*/|x^*|$ $(Px)$ $x_{j'}$ $1/|x^*|$ $(Cx)$ $x_{j'}$ $1/|x^*|$ $j$ そのようなLmaxとの偏導関数ことに対する Lminとの偏微分最大である。） $(Px)$ $x_{j'}$ $(Cx)$

と選択、およびLminとLmaxの滑らかさにより、を増やすと、最大で倍だけLmaxが増加するため、不変量は各反復で維持されます。Lmin増加。 $x_j$ $\delta$ $x_j$ $x_j+\delta$ $(Px)$ $1+O(\varepsilon)$ $(Cx)$

学習（専門家のフォロー/後押し）

この関係を理解するための参考文献の1つは、フロイントとシャピレによる乗法の重みを使用した適応ゲームプレイです。技術的なアイデアを示すための簡単な要約を以下に示します。

次の繰り返しのゲームを検討してください。各ラウンド： $t$

確率分布を選択します（人のいわゆるエキスパート）。 $p^t$ $[n]$ $n$
敵は知っているため、ペイオフベクトルます。 $p^t$ $a^t\in [0,1]^{n}$
ラウンドのペイオフを受け取ります。 $p^t\cdot a^t$

ゲームは数ラウンド後に停止します。あなたの目標は、単一の専門家（つまり、純粋な戦略）と比較して後悔を最小限に抑えることです。つまり、目標はを最小化することです。 $i$ $(\max_i \sum_t a^t_i) - \sum_t p^t\cdot a^t$

修正します。ましょうベクトル示す、つまり、最大時間に利得ベクトルの時間ベクトル和。はLmax勾配であることを思い出してください。 $\varepsilon>0$ $y^t$ $\varepsilon \sum_{s \le t} a^s$ $\varepsilon$ $t$ $G(y)$ $(y)$

分析する基本的な戦略は次のとおりです。 ラウンド、を選択してます。 $t$ $p^t$ $G(y^{t-1})$

検査により、これにより、ラウンドペイオフられます。 $a^t \cdot G(y^{t-1})$ $t$

の滑らかさの特性により、つまり、各ラウンドで、は倍のペイオフを超えることはできません。以降、このことは不変に維持あなたの総利得倍以下である、プラス。一方、最高のエキスパートと比較した後悔は、つまり $F$

Lmax (y^{t}) \leq Lmax (y^{t - 1}) + (1 + O (ε)) ε a^{t} \cdot G (y^{t - 1}) .

$\mbox{Lmax}(y^t) \le \mbox{Lmax}(y^{t-1}) + (1+O(\varepsilon)) \varepsilon a^t \cdot G(y^{t-1}).$

Lmax (y^{t})

$\mbox{Lmax}(y^t)$

ε (1 + O (ε))

$\varepsilon(1+O(\varepsilon))$

Lmax (\bar{0}) = \ln n

$\mbox{Lmax}(\overline 0) = \ln n$

Lmax (y^{t})

$\mbox{Lmax}(y^t)$

ε (1 + O (ε)

$\varepsilon(1+O(\varepsilon)$

\ln (n)

$\ln(n)$

i

$i$

max_{i} \sum_{t} a_{i}^{t}

$\max_i \sum_t a^t_i$

ε^{- 1} max_{i} y_{i}^{t}

$\varepsilon^{-1} \max_i y^t_i$

、最大でです。

ε^{- 1} Lmax (y^{t})

$\varepsilon^{-1} \mbox{Lmax}(y^t)$

したがって、後悔はせいぜいに加えて、合計ペイオフを掛けたものです。 $\varepsilon^{-1} \ln(n)$ $O(\varepsilon)$

備考：フロイントとシャピールが指摘するように、この分析には「学習理論における」「ブースト」アルゴリズムも暗黙のうちに含まれると思います。詳細については、彼らの論文を参照してください。

総ペイオフの最小化

目標が総利益を最大化するのではなく最小化することである設定に対して、同様の戦略を導き出すことができます。まだ最小化したい後悔は、です。その場合、対応する戦略はをの勾配に選択することです。この戦略では、後悔はせいぜいに、総ペイオフになります。 $\sum_t p^t\cdot a^t - \min_i a^t_i$ $p^t$ $\mbox{Lmin}(y^t)$ $\varepsilon^{-1} \ln n$ $O(\varepsilon)$

ラグランジアン緩和アルゴリズムへの接続

ラグランジュ緩和アルゴリズムへの接続を確認するには、Set-Coverインスタンスを修正します。エキスパートがセットシステムの要素に対応する後者のタイプのゲーム（ペイオフを最小限に抑えることを目的とする）を検討してください。各ラウンドでは、確率分布の選択 Lminとの勾配であると上記のように、そして敵がペイオフベクトル選択有する関数として：次のように セット選択最大化、次いでせ場合、およびそうでありません。 $e$ $p^t$ $(y^t)$ $a^t$ $p^t$ $s^t$ $\sum_{e\in s} p^t_e$ $a^t_e = 1$ $e\in s^t$ $a^t_e = 0$

正しい停止条件（以下で説明）が与えられた場合、このプロセスにより、最初に説明したSet-Coverアルゴリズムが正確に得られます。

アルゴリズムのパフォーマンス保証は、次のように後悔の限界から続きます。してみましょう敵がセット選んだ回数もプレイ中。ましょ、最適な分数のセットカバーすること。レッツプレイしたラウンドの数です。後悔の限界は、 $X_s$ $s$ $x^*$ $T=|X_s|$

\sum_{t} a^{t} \cdot p^{t} \leq ε^{- 1} \ln (m) + min_{e} \sum_{t} a_{e}^{t} .

$\textstyle \sum_t a^t\cdot p^t \le \varepsilon^{-1}\ln(m) + \min_e \sum_t a_e^t.$

定義を使用すると、番目のペイオフ（左側の合計の番目の項）はます。敵はこの利益を最小限に抑えるためにを選択しました。敵が代わりに分布からランダムに選択した場合、ペイオフの予想は（上記では、すべてのに対してを使用し、ます。） $a^t$ $t$ $t$ $\sum_{e\in s^t} p^t_e$ $s^t$ $s^t$ $x^*/|x^*|$

\sum_{s} \frac{x_{s}^{*}}{| x^{*} |} \sum_{e \in s} p_{e}^{t} = \frac{1}{| x^{*} |} \sum_{e} p_{e}^{t} \sum_{s ∋ e} x_{s}^{*} \geq \frac{1}{| x^{*} |} \sum_{e} p_{e}^{t} = \frac{1}{| x^{*} |} .

$\sum_s \frac{x^*_s}{|x^*|} \sum_{e\in s} p^t_e ~=~ \frac{1}{|x^*|} \sum_e p^t_e \sum_{s\ni e} x^*_s ~\ge~ \frac{1}{|x^*|} \sum_e p^t_e ~=~ \frac{1}{|x^*|}.$

\sum_{s ∋ e} x_{s}^{*} \geq 1

$\sum_{s\ni e} x^*_s \ge 1$

e

$e$

| p^{t} | = 1

$|p^t| = 1$

1 / | x^{*} |

$1/|x^*|$

、後悔の限界は定義では、我々が持っている（各ラウンドは1セットを選択）、および、ときにプロセスを停止するため、（用語の並べ替え）つまり、を正規化すると、サイズが最大分数集合カバーになります。最適な時間。

\frac{T}{| x^{*} |} \leq ε^{- 1} \ln (m) + min_{e} \sum_{t} a_{e}^{t} .

$\frac{T}{|x^*|} \le \varepsilon^{-1}\ln(m) + \min_e \sum_t a_e^t.$

X

$X$

| X | = T

$|X| = T$

\sum_{t} a_{e}^{t} = \sum_{e} [e \in s^{t}] = \sum_{s ∋ e} X_{s}

$\sum_t a_e^t = \sum_e [e\in s^t] = \sum_{s\ni e} X_s$

\frac{| X |}{| x^{*} |} \leq ε^{- 1} \ln (m) + min_{e} \sum_{s ∋ e} X_{s} .

$\frac{|X|}{|x^*|} \le \varepsilon^{-1}\ln(m) +\min_e \sum_{s\ni e} X_s.$

min_{e} \sum_{s ∋ e} X_{s} = Ω (ε^{- 2} \ln m)

$\min_e \sum_{s\ni e} X_s = \Omega(\varepsilon^{-2}\ln m)$

\frac{| X |}{min_{e} \sum_{s ∋ e} X_{s}} \leq (1 + O (ε) | x^{*} | .

$\frac{|X|}{\min_e \sum_{s\ni e} X_s}~ \le~ (1+O(\varepsilon)|x^*|.$

X

$X$

(1 + O (ε))

$(1+O(\varepsilon))$

備考：ある意味では、この学習理論の解釈はアルゴリズムの解釈を一般化したものです。ただし、効率に必要なアルゴリズム手法の一部（不均一な増分や満たされたカバー制約のドロップなど）は、自然に学習理論の設定に引き継がれないようです。同様に、LP（例：これら）の混合パッキングとカバーのためのアルゴリズムは、学習理論の設定では自然な類似物を持たないようです。

— ニール・ヤング
ソース

それが正解です!!

— スレシュヴェンカト

ありがとう。おそらくそれをやり過ぎた。フィードバックに興味があります：他に何含まれるように、アクセス可能にこれらのアイデアを提示する方法を...

— ニール・ヤング