壓縮感知理論模型

本文依據壓縮感知羣中Ammy講解整理所得

最初的壓縮感知是由Candès、Donoho他們提出來的問題。最初壓縮感知那幾篇文章裏的模型 :

y=Φ∗x(模型一)

都是從純數學角度來考慮的，問題也是針對稀疏信號x研究的。研究的是：什麼樣的 Φ ，以怎樣的方式，可以從 y 中恢復 x 。
在後續的研究過程當中發現不少信號x壓根不稀疏，天然也就不知足模型一的要求了。通過研究發現，雖然信號x不稀疏可是能夠經過某種正交變換使信號變的稀疏。這也就產生了第二種稀疏模型：

y=Φ∗ΨT∗x(模型二)

θ=ΨT∗x :現將信號 x 進行某種正交變換，獲得稀疏信號 θ 。其中 θ 是稀疏的， ΨT 是 Ψ 的轉置，也就是 Ψ 的逆 Ψ′ 。
y=Φ∗θ ：經過變換後的信號 θ 知足了模型一的條件。
y=Φ∗ΨT∗x ：將 θ 代入到模型一也就獲得了模型二了。
這種稀疏變換的模型，叫作 analysismodel ，將 x 利用 ΨT 分解成 θ 。例如，小波分解；例如，傅里葉分解。
隨着稀疏表示模型的發展，人們發現不單單可以經過變換獲得稀疏的信號還能夠經過一個字典獲得稀疏信號 x=D∗θ （ θ 是稀疏的，而 D 非正交）。Candès在09年的一篇文章中給出了壓縮感知在過完備字典下的表示：

y=Φ∗x=Φ∗D∗θ（模型三）//注意與模型二的區別

這種模型叫作 synthesismodel ， x 是由 D 和 θ 合成出來的。
模型二與模型三的區別：
在模型二中，因爲 ΨT∗x 是稀疏的，因此要求 Φ 要知足 k−RIP 性質便可。只須要考慮 Φ 的 RIP ，人們只須要找到一個知足的矩陣，就能夠處處使用了。
在模型三中，因爲 θ 是稀疏的，因此應該是要求 Φ∗D 要知足 RIP 。而 D 是隨着問題不斷變換的，找個全局的比較困難。爲此提出了另一個條件： Coherence ，說的通俗一點就是：當 Φ 和 D 極度不相干時， Φ∗D 可以知足 RIP ，因此將 Φ∗D 的 RIP 轉換爲，尋找一個 Φ 與 D 不相關。
在實際使用的過程當中人們發現高斯隨機矩陣知足第2個模型，高斯矩陣是由於知足 RIP 。後面又發現高斯矩陣與大部分 D 相關性很小，因此又被拿來當作 Φ 。形式上都是高斯，因此看起來「彷佛同樣」，但實際上仍是有本質區別的，這時給初學者有很大的障礙去理解的。