LP双対性の直感的/非公式の証明？

LP双対性について「ポイント・ホームを打つ」ための良い非公式/直観的な証拠は何でしょうか？最小化された目的関数が境界を理解する直感的な方法で実際に最小であることをどのように示すのが最善ですか？

二重性の教え方は、私が知っている多くの人々に共有されていると確信している1つの理解につながっただけです。限目。この二元性の「結論」は固執しているように見えるが、「なぜそうなのか」（つまり、最適解にどのように/なぜ限界があるのか）ではない。

証明の動機となる可能性のある最適な下限/上限を「表示」するために不等式で遊ぶ方法はありますか？

私はChvatalの本や他のいくつかの本を調べましたが、LPの絶対的な初心者が理解できるものは何も見つかりませんでした。私が得た最も近いものはアルゴリズムに関するVaziraniの本で、彼は「不等式と限界を示すいくつかのマジックナンバーとの乗算」について語っています。

linear-programming primal-dual

— 博士号
ソース

では、このmath.SE答え LPで発生する可能性が異なる可能性のほとんどを持っている問題のために-なぜ、 -私はデュアルはどこから来るのステップバイステップの例を経ます。おそらくそれが役立つかもしれませんか？

— マイクスパイビー

バジラニの議論が一般的なLPではうまくいかないと思う理由はわかりません。個人的に、私はその説明が何よりも好きです。

— Suresh Venkat

あなたは弱い双対性か強い双対性について尋ねていますか？

— 伊藤剛

制約の線形結合を取ることの意味を（2次元で）視覚化することにより、幾何学的な直感を得ることができます。たとえば、平面に制約およびを描画します。これらの制約の線形結合により、任意のに対してが得られます。これを描いて見てください。一般に、制約の線形結合は、多面体のサポート半空間を提供します。では、なぜこれらのサポートする半空間の1つだけで、コストの限界を与えるのに十分なのでしょうか？あなたがそれを見るなら、それは強い二重性です。

x \leq 1

$x \le 1$

y \leq 1

$y \le 1$

a x + b y \leq a + b

$ax + by \le a + b$

a, b \geq 0

$a,b \ge 0$

— ニールヤング

@MikeSpivey-あなたのコメントが答えであったことを望みます:)

— PhD

回答:

OPの希望により、上記のコメントでリンクしているmath.SEの回答を以下に示します。

たぶん、問題の例でデュアルがどこから来たのかを話し合う価値があるでしょう。これにはしばらく時間がかかりますが、できればデュアルがそれほど不思議に思われないことを願っています。

次のような根本的な問題があるとします。

P r i m a l = {\begin{matrix} max 5 x_{1} - 6 x_{2} \\ s . t . 2 x_{1} - x_{2} = 1 \\ x_{1} + 3 x_{2} \leq 9 \\ x_{1} \geq 0 \end{matrix}}

$Primal =\begin{Bmatrix} \max \ \ \ \ 5x_1 - 6x_2 \\ \ \ \ s.t. \ \ \ \ 2x_1 -x_2 = 1\\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ x_1 +3x_2 \leq9\\ \ \ \ \ x_1 \geq 0\\ \end{Bmatrix}$

ここで、プライマルの最適値の上限を見つける方法として、プライマルの制約を使用するとします。最初の制約にを乗算し、2番目の制約にを乗算して加算すると、がになり、右側の場合。最初の制約は等式であり、2番目は不等式であるため、これは意味ししかし、、、したがってしたがって、は主問題の最適値の上限です。

9

$9$

1

$1$

9 (2 x_{1} - x_{2}) + 1 (x_{1} + 3 x_{2})

$9(2x_1 - x_2) + 1(x_1 +3 x_2)$

9 (1) + 1 (9)

$9(1) + 1(9)$

19 {バツ}_{1} - 6 {バツ}_{2} \leq 18。

$19x_1 - 6x_2 \leq 18.$

x_{1} \geq 0

$x_1 \geq 0$

5 x_{1} \leq 19 x_{1}

$5x_1 \leq 19x_1$

5 {バツ}_{1} - 6 {バツ}_{2} \leq 19 {バツ}_{1} - 6 {バツ}_{2} \leq 18。

$5x_1 - 6x_2 \leq 19x_1 - 6x_2 \leq 18.$

18

$18$

ただし、それよりも優れていることは確かです。とを乗数として推測する代わりに、それらを変数としてみましょう。したがって、を強制する乗数およびを探しています $9$ $1$ $y_1$ $y_2$

5 {バツ}_{1} - 6 {バツ}_{2} \leq y_{1} （ 2 {バツ}_{1} - {バツ}_{2} ） + y_{2} （ {バツ}_{1} + 3 {バツ}_{2} ） \leq y_{1} （ 1 ） + y_{2} （ 9 ） 。

$5x_1 - 6x_2 \leq y_1(2x_1-x_2) + y_2(x_1 + 3x_2) \leq y_1(1) + y_2(9).$

さて、この不等式の組が成り立つためには、とについて何が真実でなければならないのでしょうか？2つの不等式を一度に1つずつ見てみましょう。 $y_1$ $y_2$

最初の不等式： $5x_1 - 6x_2 \leq y_1(2x_1-x_2) + y_2(x_1 + 3x_2)$

変数と変数の係数を別々に追跡する必要があります。まず、右側の合計係数が少なくともである必要があります。正確にを取得することは素晴らしいことですが、、より大きいものはの不等式も満たします。数学的に言えば、これはが必要であることを意味します。 $x_1$ $x_2$ $x_1$ $5$ $5$ $x_1 \geq 0$ $5$ $x_1$ $2y_1 + y_2 \geq 5$

一方、変数の不等式を保証するには、右側の合計係数が正確にます。が正になる可能性があるため、より低くすることはできず、が負になる可能性があるため、より高くすることはできません（の負の値は不等式の方向を反転させるため）。したがって、最初の不等式が変数に対して機能するためには、です。 $x_2$ $x_2$ $-6$ $x_2$ $-6$ $x_2$ $-6$ $x_2$ $x_2$ $-y_1 + 3y_2 = -6$

2番目の不等式：

y_{1} (2 x_{1} - x_{2}) + y_{2} (x_{1} + 3 x_{2}) \leq y_{1} (1) + y_{2} (9)

$y_1(2x_1-x_2) + y_2(x_1 + 3x_2) \leq y_1(1) + y_2(9)$

ここでは、変数と変数を別々に追跡する必要があります。変数は、等式制約である第1の制約から来ます。が正か負かは関係ありませんが、等式制約は依然として保持されます。したがって、は符号に制限がありません。ただし、変数は2番目の制約に由来します。これは、制約以下です。2番目の制約に負の数を掛けると、方向が反転し、それ以上の制約に変更されます。第一の目標の上限という目標を達成するために、それを実現させることはできません。だから、 $y_1$ $y_2$ $y_1$ $y_1$ $y_1$ $y_2$ $y_2$ 変数は負にできません。したがって、が必要です。 $y_2 \geq 0$

最後に、第2の不等式の右辺を可能な限り小さくしたいのです。これは、主目的で可能な限り厳密な上限を設定するためです。したがって、を最小化します。 $y_1 + 9y_2$

これらの制限をすべてとまとめると、最適な原初目的の最適な上限を見つけるために原初の制約を使用する問題は、次の線形プログラムを解くことを伴うことがわかります。 $y_1$ $y_2$

\begin{aligned} 最小化 y_{1} + 9 y_{2} \\ の対象 2 y_{1} + y_{2} & \geq 5 \\ - y_{1} + 3 y_{2} & = - 6 \\ y_{2} & \geq 0。 \end{aligned}

$\begin{align*} \text{Minimize }\:\:\:\:\: y_1 + 9y_2& \\ \text{subject to }\:\:\:\:\: 2y_1 + y_2& \geq 5 \\ -y_1 + 3y_2& = -6\\ y_2 & \geq 0. \end{align*}$

そして、それがデュアルです。

おそらく、すべての可能な形式の原始および双対に対するこの議論の意味を要約する価値があります。次の表は、pから引用したものです。ヒリアーとリーバーマンによる「オペレーションズリサーチ入門」第8版の214 。彼らはこれをSOBメソッドと呼びます。SOBは、最大化または最小化の問題で特定の制約または変数制限を見つける可能性に応じて、Sensible、Odd、またはBizarreを表します。

             Primal Problem                           Dual Problem
             (or Dual Problem)                        (or Primal Problem)

             Maximization                             Minimization

Sensible     <= constraint            paired with     nonnegative variable
Odd          =  constraint            paired with     unconstrained variable
Bizarre      >= constraint            paired with     nonpositive variable

Sensible     nonnegative variable     paired with     >= constraint
Odd          unconstrained variable   paired with     = constraint
Bizarre      nonpositive variable     paired with     <= constraint

— マイク・スパイビー
ソース

$x$ $x = B$ $x$ $x \leq C$ $C$ $B \leq \min C$ $B$ $B = \min C$ $B$ $B$

$f$ $f$ $S,O$ $f(S) \geq (1-1/e) f(O)$ $f$ $f$ $f(O) = 1$ $f(S)$ $\min f(S) = 1-1/e$ $1-1/e$ $f(S) \geq 1-1/e$

これは、なぜ強い双対性が実際に成り立つのかという疑問を残します。線形計画法には、この事実の2つの証拠があります。1つはシンプレックスアルゴリズムに関連し、もう1つはFarkasの補題です。ファーカスの補題は、おそらく状況を理解するための「正しい」方法であり、すべてを直感的な幾何学的事実に還元します。しかし、私はこの直感が私の頭上にあると告白します。

より一般的な状況（半正定値プログラミングなど）では、より一般的なKarush-Kuhn-Tucker条件（ラグランジュ乗数の形式）を使用して、双対と強い双対の条件を取得する必要があります。これは、非線形または凸最適化のテキストで扱われます。

— ユヴァル・フィルマス
ソース