核心概念
ベイズ逆問題において、多くの条件付き生成モデルは、共同分布と学習された近似分布の間の距離を最小化することで、事後分布を近似しています。しかし、ワッサーシュタイン距離の場合、一般にこれは成り立ちません。本論文では、Y成分の質量移動を制限した条件付きワッサーシュタイン距離を導入し、事後分布間の期待ワッサーシュタイン距離と等しいことを示します。さらに、この条件付きワッサーシュタイン距離の双対表現を導出し、条件付きワッサーシュタイン GANの損失関数と自然に関連付けられることを示します。
要約
本論文では、ベイズ逆問題における条件付き生成モデルの学習に関する問題意識から出発し、条件付きワッサーシュタイン距離を導入しています。
-
条件付きワッサーシュタイン距離の定義:
- 共同分布PY,Xとの間のワッサーシュタイン距離を、Y成分の質量移動を制限した4-プランに制限して定義する。
- この条件付きワッサーシュタイン距離は、事後分布PX|Y=yとPZ|Y=yの期待ワッサーシュタイン距離と等しくなることを示す。
-
条件付きワッサーシュタイン-1距離の双対表現:
- 条件付きワッサーシュタイン-1距離の双対表現を導出する。
- この双対表現は、条件付きワッサーシュタイン GANの損失関数と自然に関連付けられることを示す。
-
条件付きワッサーシュタイン距離に関する理論的性質:
- 条件付きワッサーシュタイン距離に関する勾配流の性質を明らかにする。
- 速度場が Y 成分で0となることを示す。
- 流れODEの存在を示す。
-
条件付きワッサーシュタイン距離の数値的な緩和:
- Y成分の質量移動を少しだけ許容する緩和版の条件付きワッサーシュタイン距離を提案する。
- この緩和版を用いて、ベイズ最適輸送流マッチングアルゴリズムを設計する。
統計
条件付きワッサーシュタイン距離Wp,Y(PY,X, PY,Z) = Ey∼PY[Wp(PX|Y=y, PZ|Y=y)]
条件付きワッサーシュタイン-1距離の双対表現:
W1,Y(PY,X, PY,Z) = sup{EY,X[h] - EY,Z[h(y, G(y, ·))]}
ここで、hは有界な上半連続関数で、y方向にリプシッツ連続
引用
"ベイズ逆問題において、多くの条件付き生成モデルは、共同分布と学習された近似分布の間の距離を最小化することで、事後分布を近似しています。"
"ワッサーシュタイン距離の場合、一般にこれは成り立ちません。"
"本論文では、Y成分の質量移動を制限した条件付きワッサーシュタイン距離を導入し、事後分布間の期待ワッサーシュタイン距離と等しいことを示します。"