infoGANペーパーに含まれる補題の統合アイデンティティ

8

infoGANの論文で見出しを見つけました。論文の補遺にある補題5.1の由来がわかりません。次のようになります（pngとして含まれています）。

最後のステップがわかりません。なぜを最も内側の積分にプルして、に変換できるのですか？適切な規則性条件は何ですか？ $f(x,y)$ $f(x',y)$ $f$

— スパーラ
ソース

私はその論文を調べましたが、あなたが上で書いた証拠は論文のそれとまったく同じだとは思いません。f（x、y）はx 'に依存しないため、最も内側の積分から引き出されているように見えました。

— マイケルR.チェニック2016

pngは紙からのスクリーンショットです:)

— spurra

5

差考える移動させることによって得られるに積分、およびとの差分をとるで置き換え。条件付けに、この内部オブジェクトダミー変数と入れ替えると、は反対称になります

D = \int_{x} \int_{y} P (x, y) \int_{x^{'}} P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x d y

$D = \int_x \int_y P(x,y) \int_{x'} P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx dy$

f (x, y)

$f(x,y)$

x^{'}

$x'$

x

$x$

x^{'}

$x'$

x

$x$

y

$y$

D = \int_{y} P (y) \int_{x} \int_{x^{'}} P (x | y) P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x d y .

$D = \int_y P(y) \int_x \int_{x'} P(x|y) P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx dy.$

δ = \int_{x} \int_{x^{'}} P (x | y) P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x

$\delta = \int_x \int_{x'} P(x|y) P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx$

x

$x$

x^{'}

$x'$ 、それ自体がネガティブになるため、ゼロに等しくなります。規則性の条件は、これらの積分が発散するのを妨げる条件にすぎないのではないかと思います。

— jwimberley
ソース

答えを検討する時間はまだありません。賞金は10分で終わりますので、誠意をこめて賞金を差し上げました。明確化のための質問がありましたら、折り返しご連絡いたします。

— spurra 2016

1

これはよく知られたトリックですか？あなたの説明がなければ、私は論文の証明に従うのはかなり難しいと思います。

— Attila Kun

1

@kahoon、以下のウィリアムの答えは私のものとほとんど同じですが、はるかに簡単です。実際、私は規則性の条件について心配していましたが、他の回答はこれらが重要でないことを示していると思います。どちらのトリックもよく知られていると思いますが、ウィリアムのショーにラベルを付け替える単純な交換と通勤は、読者が従うつもりだった方法だと思います。彼らがウィリアムが示す追加の行を追加した場合、それはより明確だったと思います。

— jwimberley 2018

@jwimberleyありがとう！ウィリアムの回答の「xとx 'を入れ替える」の部分はしばらく混乱しましたが、ダミー変数にラベルを付け直しているだけなので、これは合法だと思いますか？

— Attila Kun

@kahoon Exactly

— jwimberley

3

または、3行目以降

\begin{aligned} = \int_{x} \int_{y} p (x | y) p (y) f (x, y) \int_{x^{'}} p (x^{'} | y) d x^{'} d y d x \\ = \int_{x} \int_{y} p (x | y) f (x, y) \int_{x^{'}} p (x^{'}, y) d x^{'} d y d x . \end{aligned}

$\begin{align} &=\int_x\int_yp(x|y)p(y)f(x,y)\int_{x'}p(x'|y)dx'dydx\\ &=\int_x\int_yp(x|y)f(x,y)\int_{x'}p(x',y)dx'dydx. \end{align}$

スワップおよびその後、変数の順序を交換します。できた $x$ $x'$

— ウィリアム
ソース

0

まあ、私は方程式を逆に導出すると、より直感的になると思います

\begin{aligned} E_{x \sim X, y \sim Y | x, x^{'} \sim X | y} [f (x^{'}, y)] & = \int_{x} p (x) \int_{y} p (y | x) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) d x^{'} d y d x \\ = \int_{y} p (y) \int_{x} p (x | y) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) d x^{'} d x d y \\ = \int_{y} p (y) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) \underset{= 1}{\underset{⏟}{\int_{x} p (x | y) d x}} d x^{'} d y \\ = \int_{y} p (y) \int_{x} p (x | y) f (x, y) d x d y \\ = \int_{x} p (x) \int_{y} p (y | x) f (x, y) d y d x \\ = E_{x \sim X, y \sim Y | x} [f (x, y)] \end{aligned}

$\begin{align*} E_{x \sim X, y \sim Y|x, x' \sim X|y} \left[ f(x', y) \right] & = \int_x p(x) \int_y p(y|x) \int_{x'} p(x'|y) f(x', y) dx'dydx \\ & = \int_y p(y) \int_x p(x|y) \int_{x'} p(x'|y) f(x', y) dx'dxdy \\ & = \int_y p(y) \int_{x'} p(x'|y) f(x', y) \underbrace{\int_x p(x|y) dx}_{=1}dx'dy \\ & = \int_y p(y) \int_{x} p(x|y) f(x, y) dxdy \\ & = \int_x p(x) \int_{y} p(y|x) f(x, y) dydx \\ & = E_{x \sim X, y \sim Y|x} \left[ f(x, y) \right] \end{align*}$

— しゅん
ソース

0

アサーションは本当に言っています：

\begin{matrix} (1) & E_{x \sim X, y \sim Y | x} [f (x, y)] = E_{x \sim X, y \sim Y | x, x^{'} \sim X | y} [f (x^{'}, y)] \end{matrix}

$E_{x \sim X, y \sim Y|x} \left[ f(x, y) \right] = E_{x \sim X, y \sim Y|x, x' \sim X|y} \left[ f(x', y) \right]\tag1$

ランダムベクトルに共同分布がある場合 then。 $(X,Y,X')$
$\begin{matrix} (2) & P_{X, Y, X^{'}} (x, y, z) = P_{X} (x) P_{Y | X} (y | x) P_{X | Y} (z | y), \end{matrix}$ $P_{X,Y,X'}(x,y,z)=P_X(x)P_{Y|X}(y|x)P_{X|Y}(z|y),\tag2$ $E[f(X,Y)] = E[f(X',Y)]$

結果は、がと同じ分布を持つという事実から得られます。これは、期待値が存在することを、ここではそれほど規則性は必要ありません。 $(X,Y)$ $(X',Y)$

P_{X^{'} | Y} (z | y) = \int_{x} \frac{P_{X, Y, X^{'}} (x, y, z)}{P_{Y} (y)} d x \overset{(2)}{=} \int_{x} P_{X | Y} (x | y) P_{X | Y} (z | y) d x = P_{X | Y} (z | y) .

$P_{X'|Y}(z|y)=\int_x\frac{ P_{X,Y,X'}(x,y,z)}{P_Y(y)}\,dx\stackrel{(2)}= \int_x P_{X|Y}(x|y)P_{X|Y}(z|y)\,dx=P_{X|Y}(z|y).$

E f (X, Y)

$Ef(X,Y)$

— grand_chat
ソース