1、压缩感知技术研究进展分析压缩感知技术研究进展摘 要：信号采样是联系模拟信源和数字信息的桥梁人们对信息的巨量需求造成了信号采样、传输和存储的巨大压力如何缓解这种压力又能有效提取承 载在信号中的有用信息是信号与信息处理中急需解决的问题之一 近年国际上出现的压缩感知理论(Compressed Sensing,CS)为缓解这些压力提供了解决方 法本文综述了 CS理论框架及关键技术问题，并介绍了仿真实例、应用前景， 评述了其中的公开问题，对研究中现存的难点问题进行了探讨，最后对CSJ术做 了一下总结和展望关键词：压缩感知；稀疏表示；观测矩阵；编码；解码Advances in Theory and App
2、lication of CompressedSensingAbstract： Sampling is the bridge between analog source signal and digital signal. With the rapid progress of in formatio n tech no logies, the dema nds for in formatio n are increasing dramatically. So the existing systems are very difficult to meet the challe nges of hi
3、gh speed sampli ng, large volume data tran smissi on and storage. How to acquire in formatio n in sig nal efficie ntly is an urge nt problem in electro nic information fields. In recent year s, an emerging theory of signal acquirement. compressed sensing(CS) provides a golden opportunity for solving
4、 this problem. This paper reviews the theoretical framework and the key technical problems of compressed sensing and introduces the latest developments of signal sparse represe ntati on, desig n of measureme nt matrix and rec on structi on algorithm. Then this paper also reviews several open problem
5、s in CS theory and discusses the existing difficult problems. In the end, the application fields of compressed sensing are in troduced.Key words： compressed sensing;sparse representation; the observation matrix;codi ng;decod ing在过去的半个世纪里，奈奎斯特采样定理几乎支配着所有的信号或图像等的获取、处理、存储以及传输。它要求采样频率必须大于或等于信号带宽的两 倍，才能不
6、失真的重构原始信号。在许多实际应用中，例如高分辨率的数码装 置及超带宽信号处理，高速采样产生了庞大的数据，为了降低存储，处理或传 输成本，只保留其中少量的重要数据。由于采样后得到的大部分数据都被丢弃 了，所以这种方式造成了采样资源的严重浪费。设想如果在采样的同时直接 提取信号的少量重要信息，就可以大大降低采样频率，节约资源，提高效率而 且仍能够精确重构原始信号或图像。这就是Do nohc、Can des以及Tac等人提出压 缩感知（CompressedSensing、Compressive Sampling 或Compressive Sensing， CS理论的主要思想。压缩感知理论指出：如果
7、信号在某个变换域是稀疏的或 可压缩的，就可以利用一个与变换基不相关的观测矩阵将变换所得的高维信号 投影到一个低维空间上，根据这些少量的观测值，通过求解凸优化问题就可以 实现信号的精确重构。在传统理论的指导下，信号X的编解码过程如图1所示：编码端首先获得X 的N点采样值，经变换后只保留其中K个最大的投影系数并对它们的幅度和位 置编码，最后将编得的码值进行存储或传输。解压缩仅是编码过程的逆变换。 实际上，采样得到的大部分数据都是不重要的，即 K值很小，但由于奈奎斯特采样定理的限制，采样点数N可能会非常大，采样后的压缩是造成资源浪费的根 本所在。X 采样NK存轉或传辎接收K N 前 X图1传统散宦們
8、编鋼码过程CS 很好的解决了这一问题，它将信号的采样、压缩及编码合并在了同一步 骤中，不经过N点采样的中间过程而直接得到信号的表示， 其编解码过程如图2 所示。可压缩信号X通过一个线性观测过程获得Mt观测值后直接进行存储或传 输。在满足一定的条件下接收端可以根据这 M个观测值通过一个非线性优化过 程恢复出原信号X。二、压缩感知的基本理论及核心问题假设有一信号f(f Rn)，长度为N，基向量为T i(i =1,2,.,N)，对信号进行变换：Nf - 7 3-： i 或 f -i 4显然f是信号在时域的表示，:是信号在宇域的表示。信号是否具有稀疏 性或者近似稀疏性是运用压缩感知理论的关键问题， 若
9、(1)式中的只有K个是非零值(N . K)者仅经排序后按指数级衰减并趋近于零，可认为信号是稀疏 的。信号的可稀疏表示是压缩感知的先验条件。 在已知信号是可压缩的前提下，压缩感知过程可分为两步：(1)设计一个与变换基不相关的 M N(MN)维测量矩阵对信号进行观 测，得到M维的测量向量。(2)由M维的测量向量重构信号。2.1信号的稀疏表示文献4给出稀疏的数学定义：信号 X在正交基？下的变换系数向量为0 - VTX，假如对于0 ： p ： 2和R 0，这些系数满足：户i|P)1/Ri则说明系数向量。在某种意义下是稀疏的.文献1给出另一种定义：如果 变换系数K =：X,h 的支撑域厂的势小于等于K，
10、则可以说信号X是K项稀疏。 如何找到信号最佳的稀疏域？这是压缩感知理论应用的基础和前提，只有选择合 适的基表示信号才能保证信号的稀疏度，从而保证信号的恢复精度。在研究信 号的稀疏表示时，可以通过变换系数衰减速度来衡量变换基的稀疏表示能力。Can des和Tao研究表明，满足具有幕次(power-law)速度衰减的信号，可利用压 缩感知理论得到恢复。最近几年，对稀疏表示研究的另一个热点是信号在冗余字典下的稀疏分解这是一种全新的信号表示理论：用超完备的冗余函数库取代基函数，称之 为冗余字典，字典中的元素被称为原子字典的选择应尽可能好地符合被逼近 信号的结构，其构成可以没有任何限制从从冗余字典中找到
11、具有最佳线性组合的K项原子来表示一个信号，称作信号的稀疏逼近或高度非线性逼近 12,13。目前信号在冗余字典下的稀疏表示的研究集中在两个方面：(1)如何构造一 个适合某一类信号的冗余字典；(2)如何设计快速有效的稀疏分解算法. 这两个问题也一直是该领域研究的热点，学者们对此已做了一些探索，其中以非相干 字典为基础的一系列理论证明得到了进一步改进西安电子科技大学的石光明 教授也对稀疏表示问题进行了认真研究，并基于多组正交基级联而成的冗余字 典提出一种新的稀疏分解方法17。2.2信号的观测矩阵用一个与变换矩阵不相关的 M N (M： N)测量矩阵 对信号进行线性投 影，得到线性测量值y :y =
12、f测量值y是一个M维向量，这样使测量对象从 N维降为M维。观测过程是非自适应的即测量矩阵少的选择不依赖于信号 f。测量矩阵的设计要求信号从f转换为y的过程中，所测量到的K个测量值不会破坏原始信号的信息，保证信号的精确重构。由于信号f是是可稀疏表示的，上式可以表示为下式：y = f _ ?：. -其中。是一个M N矩阵。上式中，方程的个数远小于未知数的个数，方程无确定解，无法重构信号。但是，由于信号是 K稀疏，若上式中的0满足有限等距性质(Restricted Isometry Property ，简称RIP)，即对于任意K稀疏信号f 和常数(0,1)，矩阵。满足:11硏 II；II f II2
13、则K个系数能够从M个测量值准确重构。RIP性质的等价条件是测量矩阵 和稀疏基7不相关。目前，用于压缩感知的测量矩阵主要有以下几种：高斯随机clc：clear all:寻找更有效的求解途径。文献10表明，h最小范数下在一定条件下和lo最小范数具有等价性，可得到相同的解。那么上式转化为 h最小范数下的最优化问题： min 11 ： |ii & y = oth最小范数下最优化问题又称为基追踪(BP)，其常用实现算法有：内点法 和梯度投影法。内点法速度慢，但得到的结果十分准确：而梯度投影法速度快， 但没有内点法得到的结果准确14。二维图像的重构中，为充分利用图像的梯度 结构。可修正为整体部分(Tota
14、l Variation ，TV)最小化法。由于|1最小范数下的算法速度慢，新的快速贪婪法被逐渐采用，如匹配追踪法 (MP)和正交匹配追踪法(OMP。此外，有效的算法还有迭代阈值法以及各种改进算法。三、压缩感知仿真实例对256x 256大小的8bit灰度lena图像进行仿真计算，由于数据量过大，将图像 分为16X 16大小的分块进行计算，稀疏矩阵采用DC矩阵，观测矩阵采用高斯随 机矩阵，重构算法采用OMP(正交匹配追踪)算法。MATLAB码如下：hat_y (po s_ar ray) =aug-_y:hat_K=hat_y;hat_K2=inv(A) *hat_K：，; 霁氮原信号b 2=re
15、shap e (hat_a 2j bn, bn);%轉计算奸的分块组合inc2(1+ (k-I)*ba): (x*bR)j (1+(y-1)*bn): (y*bn)-b2;endendinc2=uint 8 (imc 2);iji2=imc2 l:n);se= sum.(suit (abs (.in-im2)2)/ ; 常.| 鼻隹圭toe; KitMPtfflfigure(l):麗显示图慷 inagescfimS):title (st rcat釆样率二3 numstrCp) 分块八.num2srtr (bmh 梵nuniSst r (bn)j 计算 BtfB=k j.nuni2 st r (
16、round (t oc/t) / s MSE=7 3, nuni2 st r (round (use f 1U) /10): colorw gray;不同米样率下的计算时间与计算误差如下图所示:能从少量的非相关观测值中高效获取可压缩信号的信息， CS的这一特点决定了其应用的广泛性。CS的应用领域涉及数据压缩、模拟/信息的转换、压缩 成像、信道编码、信道估计、生物传感、语音识别、雷达成像、雷达遥感、学 习理论及模式识别等诸多领域。在压缩成像方面，RICE大学已成功研制了 “单像素”压缩数码照相机，该 相机不像传统相机那样获取原始信号的 N个像素值，而是直接获取尬随机线性 观测值，在实践中为取代传
17、统相机迈出了实质性的一步。在通信领域，压缩感 知也有着强大的生命力，由于无线多径信道一般情况下是稀疏的，即使在时延 扩展很大时，大幅度的径的个数也很少，因此利用少量的导频就能获取未知信 道的频域响应估计。此外压缩感知理论还可用于通信信道的错误检测、传感网 络的分布式信源编码、认知无线电中的频谱感知等。五、研究的公开问题5.1p2范数优化问题压缩感知理论在图像压缩编码等方面也应该有很广泛的前景，但由于信号 的恢复方法是建立在12范数意义下，数据之间还有很大的冗余性没有去除，相 比传统的小波变换编码 , 压缩感知理论应用于图像压缩的效果还不理想 . p2 范 数的优化是提高基于压缩感知理论的压缩算
18、法效果的必经之路 . p2 范数的优化 方法是一个公开问题 ( open problem) , 对它的研究将推动压缩感知理论在压 缩方面的应用 , 具有很深远的意义 . p2 范数意义下的优化问题是一个凸函数优 化问题，目前已有一些成熟的算法，但p2范数的优化是一个非凸函数的优化问 题，其中有很多数学问题有待解决有关p2范数非凸函数优化问题，也有一些 学者开展研究.如RickChartrand用典型的合成数据做了一些实验,表明在一 定的稀疏误差范围内 , 可以得到最小值 . 在文献19 中,他进一步给出了变换 基空间内的系数严格的等距条件 (restricted isometry) , 由于有
19、了严格的约 束, 完全适合于大多数实际的信号 . 笔者期望通过借用自然优化计算以及将 p2 范数非凸函数转换为近似凸函数优化等方法，提出一种新的求解p2范数范数的 优化问题，以实现在p2范数意义下的压缩感知理论的信号恢复，最大可能减少 信号的冗余 . 该思路正在研究之中 .5.2观测矩阵与恢复性能关系前面提到 , 观测矩阵与稀疏变换基的不相干特性是压缩感知理论具有良好 性能的基础 . 由于随机高斯分布的观测矩阵具有与其它固定基都不相关的特性 而被广泛采用 . 但在实际的应用中 , 这种观测矩阵存在存储矩阵元素容量巨 大、计算复杂度高的缺点 . 文献 20 提出一种部分傅立叶变换采样的方法 .它
20、首先对信号进行傅立叶变换再对变换系数进行随机抽取 . 这种随机抽取使得各观测值具有随机不相关的特性 . 由于变换时可以采用快速算法而使得计算量 大大降低 . 但由于傅立叶基仅与在空域稀疏的信号不相干 , 故这种观测矩阵的应用范围受到很大的限制 . 此外, 采用随机滤波器滤波 也是一种有效的观测 方法, 不过目前仍缺乏理论基础 , 也缺少对其性能的详细分析 . 文献 21 将 伪高斯矩阵和部分傅立叶方法巧妙的结合在一起 , 提出了一种结构化的随机观 测矩阵设计方法 , 这种观测矩阵具有与所有基不相干的特性 , 同时也有较快的 计算速度.总结以上的工作可以得出如下结论 : 观测矩阵的随机不相关特性
21、是正确恢 复信号的一个充分条件 , 观测矩阵和信号的高度不相干是有效恢复信号的保证 但是, 现在仍然无法确定随机不相关特性是否是最优恢复信号的必要条件 , 这 仍是一个公开问题 . 另外, 如何衡量观测矩阵的不相干特性 , 以及它们与恢复 性能之间的关系也是一个尚未解决的问题 .另外, 自适应的观测矩阵设计也是观测矩阵设计的一个重要方面 . 在众 多有关压缩感知理论的文献中 ,大部分的观测矩阵都是预先设计好的 , 不需要 根据观测信号而自适应变化 . 实际上 , 如果能够进行自适应的观测 , 压缩感知 的压缩性能可以得到进一步的提高.在文献22中，作者用Bayes估计的观 点对压缩感知做出了一
22、种全新的解释 . 在文献中 , 压缩感知的解的可信度可以 通过微分熵来衡量 , 这样在已有观测的基础上 , 下一次最优的观测向量应该使 问题解的微分熵下降最快 , 它可以由已有的观测向量和观测值唯一确定 . 而 且, 幸运的是这一特性在编码端和解码端是同样的 . 由于对观测矩阵的最优化 设计 ,Bayesian CS 与使用普通的随机观测矩阵相比 , 在同等观测次数的情况 下, 性能得到了很大的提高 . 当然这也付出了一定的代价 , 计算最优观测向量 需要很大的计算量 , 所以能够简捷有效地确定最优观测向量仍是这方面的一个 有待解决的问题 .5.3分布式压缩感知理论 ( Distr ibute
23、d CompressedSensing, DCS)目前 , 针对单个信号的压缩感知的研究和应用已经开展得比较深入 , 但是 对分布式信号的处理仍然研究得不够 . 例如 , 对于一个包含大量传感器节点的 传感器网络 , 每个传感器都会采集大量的数据 , 这些数据将会传输到一个控制 中心, 也会在各个节点之间传输 . 显然 , 在这种分布式传感器网络中 , 数据传 输对功耗和带宽的需求非常大 , 那么 , 如何对分布式信号进行压缩以减少通信 压力成为非常紧迫的需求 .2006年,Haupt和Nowak将压缩感知理论应用到多个信号的环境中 ,然而他们的方法仅研究了多个信号的互相关性 , 却没有考虑单
24、个信号的内相关性 . Baron等人在压缩感知理论的基础上提出了分布式压缩感知 (DCS) 18,进一步扩展了压缩感知理论的应用 , 将单信号的压缩采样扩展到了信号群的压缩采 样 , 它着重研究如何利用信号内相关性和互相关性对多个信号进行联合重构 . 这种联合重构的重要意义在于 , 相对于压缩感知 , 分布式压缩感知可节约相当 可观的观测数目 . 文献 18 中的实验结果表明对于两个相关的信号可节约的 观测数目大约为 30%.DCS 理论建立在一个称之为信号群的 / 联合稀疏 ( JSM) 0 概念上 . 它指出 , 如果多个信号都在某个基下稀疏 , 并且这些信号彼此有关 , 那么每个信号都能
25、 够通过利用另一个不相关基 ( 例如一个随机矩阵 ) 进行观测和编码 , 得到远少 于信号长度的编码 . 将每个编码后的少量数据传输到解码端 , 那么在适当的条 件(如JSM21下,解码端利用接收到的少量数据就能够精确重建每一个信号 .文献18系统地阐述了 DCS理论及其应用,提出了相应的压缩感知方法 及恢复算法 , 并采用稀疏的随机投影矩阵作为观测矩阵 , 详细分析了分布式压 缩感知理论的观测过程 , 而文献 23 则从重构误差估计的角度对分布式压缩 感知理论进行了研究 .DCS 理论为分布式信号的处理提供了新的方法 , 目前的热点和难点主要集 中在如何将其应用到各种复杂的实际传感器网络中
26、. 在某种意义上 , DCS 是一 种分布式信源压缩的框架 , 它在很长时间内都将是一个具有挑战性的公开难 题.六 总结与展望压缩感知理论利用了信号的稀疏特性 , 将原来基于奈奎斯特采样定理的信 号采样过程转化为基于优化计算恢复信号的观测过程 . 也就是利用长时间积分 换取采样频率的降低 , 省去了高速采样过程中获得大批冗余数据然后再舍去大 部分无用数据的中间过程 , 从而有效缓解了高速采样实现的压力 , 减少了处 理、存储和传输的成本 , 使得用低成本的传感器将模拟信息转化为数字信息成 为可能 . 这种新的采样理论将可能成为将采样和压缩过程合二为一的方法的理 论基础 .本文对压缩感知理论框架
27、的全过程进行了描述 , 详细阐述了压缩感知理论 所涉及的关键技术 , 综述了国内外研究成果、存在的公开问题及最新的相关理 论扩展 , 如冗余字典下的压缩感知理论、 模拟2信息理论、分布式压缩感知理论 等. 并对其中的问题进行了概括性讨论 .压缩感知理论的研究已经有了一些成果 , 但是仍然存在大量的问题需要研 究 . 概括为以下几个方面 :(1)对于稳定的重构算法是否存在一个最优的确定性的观测矩阵 ;(2)如何构造稳定的、计算复杂度较低的、对观测次数限制较少的重构算法来精确地恢复可压缩信号 ;(3)如何找到一种有效且快速的稀疏分解算法是冗余字典下的压缩感知理 论的难点所在 ;(4)如何设计有效的
28、软硬件来应用压缩感知理论解决大量的实际问题 , 这 方面的研究还远远不够 ;(5)对于p2范数优化问题的求解研究还远远不够；(6)含噪信号或采样过程中引入噪声时的信号重构问题也是难点所在 , 研 究结果尚不理想 . 此外 , 压缩感知理论与信号处理其它领域的融合也远不够 , 如信号检测、特征提取等 . CS 理论与机器学习等领域的内在联系方面的研究工 作已经开始 .压缩感知理论是新诞生的 , 虽然还有许多问题待研究 , 但它是对传统信号 处理的一个极好的补充和完善 , 是一种具有强大生命力的理论 , 其研究成果可 能对信号处理等领域产生重大影响参考文献1石光明 . 刘丹华 . 高大化 . 刘哲
29、 . 林杰 . 王良君 压缩感知理论及其研究进展 -ACTAElectronica Sinica 2009 ， 37(5)2张 锐 基 于 压 缩 感 知 理 论 的 图 像 压 缩 初 步 研 究 -Computer Knowledge And Technology 2010 ， 6(4)3Candes E, Romberg J, Tao T. Robust uncertainty principles: Exact signalreconstruction from highly incomplete frequency informationJ. IEEE Trans. Informat
30、ion Theory, 2006, 52(4): 489-509 4E Candes and J Romberg, Quantitative robust uncentainty principles andoptimally sparse decompositionsJ. Foundations of Comput Math, 2006, 6(2): 227-218 5E Cand e s.T Tao Near optimal signal recovery from randomprojections:Universal encoding strategies 2006(12)6D L D
31、onoho Compressed sensing 2006(04)7B Kashin.The widths of certain finite dimensional sets and classes of smoothfunctionsJ Izv Akad Nauk SSSR.1977, 41(2):334-351 8E Cand es Compressive sampling 20069喻玲娟 . 谢晓春 压缩感知理论简介 -Video Engineering 2008 ， 32(12)10DONOHO D.TSAIG Y Extensions of compressed sensing 2006(03)11Guangming Shi.Jie Lin.Xuyang Chen.Fei Qi,Danhua Liu Li Zhang UWB echosignal detection with ultra low rate sampling based on compressed sensing 2008(04)12张春梅 . 尹忠科 . 肖明霞 基于冗余字典的信号超完备表示与稀疏分解 - 科学通报 2
