圧縮センシング問題に関する混乱

13

私はこれを含むいくつかの参考文献を読みました。

圧縮センシングがどの最適化問題を構築して解決しようとするのか、ちょっと混乱しています。それは...ですか

\begin{array}{ll} minimize & ‖ x ‖_{1} \\ subject to & A x = b \end{array}

$\begin{array}{ll} \text{minimize} & \|x\|_1\\ \text{subject to} & Ax=b\end{array}$

または

\begin{array}{ll} minimize & ‖ x ‖_{0} \\ subject to & A x = b \end{array}

$\begin{array}{ll} \text{minimize} & \|x\|_0\\ \text{subject to} & Ax=b\end{array}$

または/そして何か他のもの？

optimization

— ティム
ソース

18

ブライアンがスポットです。しかし、圧縮されたセンシングコンテキストを追加すると役立つと思います。

まず、いわゆる0ノルム（カーディナリティー関数、またはの非ゼロ値の数）はノルムではないことに注意してください。最もカジュアルなコンテキスト以外では、ように記述するのがおそらく最善です。誤解しないでください、あなたは速記を使用すると良い会社にいますが、混乱を招く傾向があると思います。 $\|x\|_0$ $x$ $\mathop{\textbf{card}}(x)$ $\|x\|_0$

長い間、ノルムを最小化するとスパースソリューションが生成される傾向があることが知られています。これには、線形相補性に関係する理論的な理由がいくつかあります。しかし、最も興味深いのは、ソリューションがスパースであるということではなく、可能な限りスパースであることが多いことです。つまり、最小化すると、特定の有用なケースで最小カーディナリティーソリューションが得られます。（最小カーディナリティー問題がNP困難であるとき、彼らはどのようにこれを理解しましたか？既知のスパースソリューションで人工問題を構築することにより。）これは線形相補性理論が予測できるものではありませんでした。 $\ell_1$ $\|x\|_1$ $\|x\|_1$

圧縮センシングの分野は、研究者が解があることを事前に保証できる行列条件を特定し始めたときに生まれました。たとえば、Candés、Romberg、およびTaoによる初期の論文、およびRestricted isometryプロパティ（RIP）に関する他の議論を参照してください。何らかの理論に飛び込みたい場合に役立つもう1つのWebサイトは、Terence Taoの圧縮センシングページです。 $A$ $\ell_1$

— マイケル・グラント
ソース

12

解決できるようになりたい

$\min \| x \|_{0}$

st

$Ax=b$

ただし、この問題はNP-Hardコンビナトリアル最適化問題であり、、、およびが圧縮センシングで一般的なサイズである場合、実際に解決するのは非現実的です。効率的に解決することが可能です $A$ $x$ $b$

$\min \| x \|_{1}$

st

$Ax=b$

理論上（多項式時間で行うことができます）、圧縮センシングで発生するかなり大きな問題でも計算の実践の両方で。を使用しますは「サロゲート」として。これは、いくつかの直感的な正当性（1ノルムの最小化が少ない非ゼロ要素のあるソリューションを好む持っている）だけでなく、はるかに洗練された理論的な正当性（フォームの定理「の場合は後、最小限のk-まばらなソリューションを持っているは、その解を高い確率で見つけます。」 $\| x \|_{1}$ $\| x \|_{0}$ $x$ $Ax=b$ $\| x \|_{1}$

実際には、データはノイズが多いことが多いため、正確な制約は、多くの場合、という形式の制約に置き換えられます。 $Ax=b$ $\| Ax - b \|_{2} \leq \delta$

また、制約付き問題の変分形式で作業することも非常に一般的です。たとえば、最小化できます。 $\min \| Ax - b\|_{2}^{2} + \lambda \| x \|_{1}$

— ブライアン・ボーチャーズ
ソース

8

対についての説明をBriansとMichaelsに追加する必要はありません。圧縮センシングは、次のとおりです。しかし、問題以来、私の視点を追加したい圧縮センシングI程度のようですどちらの解決についてもおよそ圧縮センシングはよりパラダイムです。 $\ell^1$ $\ell^0$

min ‖ x ‖_{0} s.t A x = b

$\min\|x\|_0\quad\text{s.t}\quad Ax=b$

min ‖ x ‖_{1} s.t. A x = b .

$\min\|x\|_1\quad\text{s.t.}\quad Ax=b.$

数回の測定からスパース信号を識別することは可能です。

圧縮センシングとは、特定のクラスの信号を特定するために、できるだけ少ない測定値を取得することです。

キャッチーなフレーズは次のとおりです。

5メガピクセルのカメラが実際に1500万の値（各ピクセルに3つ）を測定する必要があるのはなぜですか（圧縮後）約2メガバイトしか保存していないときに15メガバイトのデータがかかりますか？
2メガバイトをすぐに測定することは可能でしょうか？

かなり異なるフレームワークが可能です：

線形測定
非線形のもの（例：「フェーズレス」のもの）
ベクトルデータ、行列/テンソルデータ
非ゼロの数としてのスパース性
「低ランク」または「低複雑度」などのスパース性。

また、マッチング追跡（直交マッチング追跡（OMP）、正規化直交マッチング追跡（ROMP）、CoSaMPなどのバリアント）、またはメッセージパッシングアルゴリズムに基づいた最近の方法など、スパースソリューションを計算する方法もあります。

圧縮センシングを単にまたは最小化で識別すると、実際のデータ取得の問題に対処する際の柔軟性が大幅に失われます。 $\ell^1$ $\ell^0$

ただし、線形システムのスパースソリューションの取得にのみ関心がある場合は、スパース再構成と呼ばれることを行います。

— ダーク
ソース

ありがとう！「数回の測定からスパース信号を特定することは可能です。圧縮センシングとは、特定のクラスの信号を特定するために、できるだけ少ない測定を行うことです。」

— ティム

1

いいえ、できません。圧縮センシングは数学的理論ではなく、エンジニアリングコンセプトだからです。

— ダーク

1

この答えは良い貢献だと思うので、投票しました。しかし、キャッチーなフレーズについては、私はいつもそれについて問題を抱えていました。CSは非常に強力であるため、1300万ピクセルを捨てて、とにかく画像を回復できることが示唆されています。しかしいいえ、あなたがすべき決して良い回復アルゴリズムは、常により多くのデータを利用することができます---でもCSシステムでは、ランダムデータを捨てるん。CSの約束は、センサ開発する可能性である最初の場所でより少ないデータを収集し、いくつかの重要な実用的な貯蓄と引き換えに：省電力を、より速く、コレクションなど

— マイケル・グラント

@MichaelGrant同意します：すでに測定したデータを捨てず、最小限の労力で測定できる日付を使用してください。

— ダーク