CN109584320A - 一种低相干观测矩阵构造方法 - Google Patents
一种低相干观测矩阵构造方法 Download PDFInfo
- Publication number
- CN109584320A CN109584320A CN201811477109.9A CN201811477109A CN109584320A CN 109584320 A CN109584320 A CN 109584320A CN 201811477109 A CN201811477109 A CN 201811477109A CN 109584320 A CN109584320 A CN 109584320A
- Authority
- CN
- China
- Prior art keywords
- matrix
- sparse
- optimization
- coherence
- error
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 239000011159 matrix material Substances 0.000 title claims abstract description 126
- 238000000034 method Methods 0.000 title claims abstract description 19
- 238000005457 optimization Methods 0.000 claims abstract description 28
- 238000011160 research Methods 0.000 claims abstract description 7
- 230000000694 effects Effects 0.000 claims description 6
- 230000005540 biological transmission Effects 0.000 claims description 3
- 238000013461 design Methods 0.000 abstract description 3
- 238000005259 measurement Methods 0.000 description 19
- 238000005070 sampling Methods 0.000 description 8
- 238000010276 construction Methods 0.000 description 6
- 238000000354 decomposition reaction Methods 0.000 description 4
- 230000008447 perception Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 235000009508 confectionery Nutrition 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/007—Transform coding, e.g. discrete cosine transform
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Discrete Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本发明提出一种投影矩阵优化方法。是在传统投影矩阵优化问题研究基础上，从理论上看，单位矩阵的特殊性很大，且对硬件设备要求极高；在实际应用中，逼近等角紧框架就能达到较好的性能。所以本发明的研究是在逼近理想单位矩阵以及构建的等角紧框架之间寻求一种平衡，以减小Gram矩阵的非对角线元素来降低观测矩阵与稀疏矩阵之间的相干系数。除此之外，考虑到稀疏表示过程中可能存在的误差会影响压缩感知过程的性能，故考虑将稀疏表示误差作为一项正则项加入传统表达式，并对其进行理论推导，求出优化表达式的解，提出一个矩阵优化算法。本发明提出的优化方法，不仅降低观测矩阵和稀疏基之间的相干性，并且设计得到的优化系统在考虑了稀疏表示误差之后，性能更稳定。
Description
技术领域
本发明属于信号处理技术领域，具体为一种低相干观测矩阵构造方法。
背景技术
当今社会是一个多媒体通信和网络视频的迅速发展年代，图像作为表达信息的载体，在各个领域得到了广泛的应用。传统的图像处理方法遵循奈奎斯特(Nyquist)采样定理，该采样定理指的是要想实现无失真的信号重建，信号的采样频率不能少于信号最高频率的两倍。若图像使用Nyquist采样定理采样，会产生大量的采样数据，而并不是所有的采样数据都有用，这使得数据的存储和传输代价大大增加。这就给信号处理的能力提出了更高的要求，也给相应的硬件设备带来了极大的挑战。传统的信号处理是先对数据采样然后再压缩，对大量的数据进行压缩会导致数据精度降低，最终重建的信号效果较差。目前信息需求量在逐渐增大，信号的带宽越来越大。因此，提出一种采集频率低，产生的数据量更小并且提高重构精度的处理方法成为必然。
2006年，Candès与Emmanuel、Terence Tao等人共同提出了一种崭新的理论---压缩感知(compressive sensing，CS)信号采样理论。压缩感知理论突破传统的Nyquist采样定理的限制，基于信号的稀疏性、观测矩阵的随机性和非线性优化算法完成对信号的采样和重构。压缩感知的核心思想是：如果信号是可压缩或者在某个变换域内可稀疏表示，就可以利用一个测量矩阵将信号从高维空间投影到一个低维空间(故而也称投影矩阵)，从而获得远小于信号维度的测量值，然后再通过适当的重构算法求解出原始信号。压缩感知理论使得在信号采集的同时对数据进行压缩，解决了奈奎斯特采样定理在信号采集中的不足，避免了大量无用数据的采集，速率低的问题，并且重构的信号质量好，节省了时间和资源，为信号采样领域带来了革新。
CS理论主要包括三方面的研究内容，即信号的稀疏表示，观测矩阵的构造以及重构算法的设计。本发明主要从观测矩阵入手，观测矩阵的设计和优化是压缩传输关键的两步，好的测量矩阵能够在投影测量时候保持原始信号的重要信息，并且可以结合测量值重构出原始信号。为了保证这个低维信号能够精确的重构出来，测量矩阵需要满足有限紧致特性(Restricted Isometry Property，RIP)，已经证实，高斯随机矩阵可以在统计意义下高概率的满足RIP性质，还有如部分傅里叶矩阵，托普利兹测量矩阵等。当前的测量矩阵主要分为三大类：一是随机测量矩阵，如高斯测量矩阵和伯努利测量矩阵等；第二类是部分傅里叶矩阵，部分哈达玛矩阵和非相关测量矩阵等；第三类是确定性测量矩阵，有托普利兹测量矩阵和循环测量矩阵等。
目前对观测矩阵的研究，主要是根据观测矩阵的约束条件，提出大量的观测矩阵优化和构造方法，通过将稀疏基和观测矩阵相乘得到感知矩阵，然后采用Gram矩阵和阈值收缩函数对感知矩阵的互相关系数进行优化，提升观测矩阵的性能。目前的研究方法有：从理想情况出发逼近单位矩阵，或者构造不同性质的等角紧框架，用Gram矩阵去逼近等角紧框架，但只逼近某一个矩阵考虑的因素不够全面；还有通过最小二乘法直接逼近等角紧框架的方式来降低观测矩阵和稀疏基之间的互相干系数；也有通过对矩阵求逆来优化，但是此方法计算的复杂度过高，且有些矩阵不可逆；也有通过梯度投影法逼近等角紧框架，减少优化观测矩阵的计算复杂度；也有通过最小化奇异值与矩阵列向量独立性的研究，再利用QR分解增大矩阵奇异值的方式来优化观测矩阵。
Gram矩阵的非对角线元素代表的含义就是观测矩阵和稀疏矩阵之间的相干性，数字越小代表两个矩阵之间的相干性越低，所以，最理想的情况就是用Gram矩阵去逼近单位矩阵。考虑到单位矩阵的特殊性很大，且对硬件设备要求极高，而在实际应用中，逼近等角紧框架就能达到较好的性能，本发明提出优化方法就是在理想单位矩阵与等角紧框架之间求平衡；最后在同时逼近单位阵和等角紧框架之间之外，考虑稀疏表示误差，分析其性能，并对比其优化效果。
附图说明
图1为本发明实施例中压缩感知观测过程图
图2为本发明实施例中摘要附图
图3为本发明实施例中测量矩阵优化前后直方对比图
图4为本发明实施例中信号的重构误差随信号稀疏度的变化对比图图
发明内容
本发明目的在于针对现有技术的不足，提出一种同时逼近单位阵，紧框架的投影优化方法，将成对出现的观测矩阵和感知字典分别用于投影矩阵和重构算法，理想情况下可以重构迭代至残差为零，从而精确的恢复出原始信号。本发明提出的同时逼近单位阵和紧框架的投影矩阵优化方法理论，该算法的优点是观测矩阵与感知字典的相干性低，重构精度高算法复杂度低。
定义1：测量矩阵Φ满足参数(K,δK)的有限紧特性，其中0＜δK＜1，则对所有的K稀疏信号都有(1)式成立：
(1-δK)||x||2≤||Φx||≤(1+δK)||x||2 (1)
上式的δK称之为等距常数，它的取值范围在0到1之间，当投影矩阵Φ满足(1)的条件就可以从M个投影值中恢复出K个稀疏表示系数，也就是常说的观测矩阵的有限等距性。但是在实际应用中为了保证算法的稳定性，对于K阶系数信号，要求观测矩阵能够满足2K有限等距性或者更加高阶的有限等距性。
定义2：测量矩阵的的相关性参数定义为：
其中Φi为测量矩阵的第i列，由于Gram矩阵G＝ΨTΦTΦΨ，观察上式，相关性也可以理解为Gram矩阵的非对角线元素的最大值。虽然μ(D)在一定程度上能够反映测量矩阵的性能，但由于得到相干系数分布具有离散性，可以采用平均互相干性稀疏，定义为：
μ(D)的下界为:也就是一般说的Welch界，当矩阵GETF的非对角线元素为μ0(D)时，且其对角元素全部为1，则称矩阵GETF为等角紧框架矩阵。
其中S稀疏信号X能够被精确恢复的条件为：
从上式可以看出相关性参数μ(D)的值越小，不相干性越强，则原始信号的恢复率越高，当减小μ(D)的值，不等式右边的式子增大，则左边式子也可增大上限，即S的值增大，相当于降低了对原始信号的稀疏度的要求。另一方面，假如保持S的值不变，减小μ(D)的值，则原始信号的重构率将会增高。
具体实施方式
以下给出投影矩阵优化算法的具体构造方法，对本发明的实施做进一步的说明。
压缩感知理论中观测机矩阵的选取是决定整个算法最后效果的关键因素，目前主要将随机矩阵作为基础观测矩阵，如高斯矩阵，故对随机矩阵的研究也有必要。大多数的观测矩阵优化都是基于Gram矩阵，这些算法通过不同的途径减少Gram矩阵的非对角线元素，来降低稀疏系数的相干性，以达到优化观测矩阵并且提高重构精度的目的。本研究也是基于Gram矩阵，逼近单位矩阵以及紧框架，来缩小非对角线元素，以达到矩阵具有低相干性特性。
优化投影矩阵需要在迭代中更新，用逼近每次得到的Gram矩阵的方法来计算投影矩阵。传统的投影矩阵的优化形式如下：
式中X是感知矩阵，G是Gram矩阵，F是Frobrnius范数。一种理想情况是当G＝I，可以看做观测矩阵优化问题。则投影矩阵优化问题等效于：
在假设逼近单位矩阵的基础上，再多考虑一种Gram矩阵对角线元素为1的约束情况，即并基于此进行研究讨论，但是此约束仅仅约束了对角线元素，并没有从本质上约束Gram矩阵的非对角元素的大小来减小相干性。所以考虑再结合紧框架技术，故本发明提出的投影矩阵优化问题变为：
G是根据Gram矩阵设计得到的紧框架，理解上式可以认为是使得X逼近紧框架，再使用拉格朗日方法，优化问题则等效于：
步骤1：将Gram矩阵进行奇异值分解即G＝UΣUT，定义D是一个前M项对角元为1，其余元素为零的矩阵，则新的Gram矩阵定义为：
Gnew＝UDUT (8)
考虑命题1，若矩阵A满足Gnew＝ATA，称A是一个紧框架。
步骤2：两种收缩函数；
γ是收缩因子，γ,β是决定Gram矩阵收缩范围的参数，第二种收缩比第一种简单，并且经过作者验证，第二种效果更好，所以本发明使用第二种方法进行非对角元收缩。
所以我们将在理想单位矩阵和构造的紧框架之间寻求一种平衡，来达到优化观测矩阵和稀疏基的目的。基于之前的讨论，优化问题可以等效于：
其中α是一个平衡系数，是逼近单位阵和约束重要性的加权因子，IL是L维的单位矩阵，G是步骤1构造的紧框架再经过步骤2收缩的函数。
其中由于constant项与目标矩阵无关，不影响其优化，可以不作为考虑项，故优化问题变为：
为了避免稀疏表示误差影响测量效果，故将稀疏表示误差考虑到投影矩阵优化过程中，上式变为：
其中E＝X-ΨS,是稀疏表示误差。在上式中令GA＝αIL+(1-α)G，则变为：
对A进行奇异值分解GA＝VΣVT＝VΣ1/2Σ1/2VT＝VΣ1/2(VΣ1/2)T＝DDT,也就是说D＝(VΣ1/2)T，所以(12)式可以简写为：
上式中，若则优化问题再次简写为：
其中，先对M进行奇异值分解有：
定义ΦN＝ΦUN＝[ΦN1ΦN2],BN＝BVN＝[BN1BN2]
其中不包含变量Φ，不影响式子的求解，所以上式可变为：故(13)式的解为：ΦN1＝BN1ΣN -1
下面给出本发明提出的投影矩阵优化算法：
Claims (3)
1.一种低相干投影矩阵优化算法的主要包括以下步骤：
压缩感知的前提是某一个信号能在某一个变换域下可以稀疏表示，则可以应用压缩感知这个工具来进行传输，故先设计一个合适维度的观测矩阵Φ和稀疏基矩阵Ψ，此处的稀疏基矩阵采用DCT，可以验证输入的信号在这个变换域下是可以稀疏表示的，但存在一定的稀疏表示误差；
利用合适维度的观测矩阵和稀疏基矩阵得到Gram矩阵，Gram矩阵的非对角线元素代表的含义就是观测矩阵和稀疏矩阵之间的相干性，数字越小代表两个矩阵之间的相干性越低，所以，最理想的情况就是用Gram矩阵去逼近单位矩阵，但单位矩阵的特殊性很大，且对硬件设备要求极高，所以一般单位阵只作为理论研究，在实际应用中，若逼近等角紧框架就能达到较好的性能，本发明提出优化方法的第二步就是在理想单位矩阵与等角紧框架之间求平衡；
最后在同时逼近单位阵和等角紧框架之间之外，考虑第一步提到的稀疏表示误差，分析其性能，并对比其优化效果。
2.根据权利要求书1所述步骤，同时逼近单位矩阵和等角紧框架的具体表达式为：
第一部分是逼近单位矩阵，第二部分是逼近紧框架，系数α是平衡参数，主要的作用是在两个参数之间去平衡。
3.根据权利要求书1所述的步骤，在考虑稀疏表示误差之后，优化模型则变为：
其中第一部分是同时逼近两个矩阵之后的化简表达式，第二部分是稀疏表示误差，系数λ也是一个平衡调节参数，主要是调节系统的优化性能。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811477109.9A CN109584320A (zh) | 2018-12-05 | 2018-12-05 | 一种低相干观测矩阵构造方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811477109.9A CN109584320A (zh) | 2018-12-05 | 2018-12-05 | 一种低相干观测矩阵构造方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109584320A true CN109584320A (zh) | 2019-04-05 |
Family
ID=65927393
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811477109.9A Pending CN109584320A (zh) | 2018-12-05 | 2018-12-05 | 一种低相干观测矩阵构造方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109584320A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110266318A (zh) * | 2019-06-24 | 2019-09-20 | 中国科学院光电技术研究所 | 一种在压缩感知信号重建中基于梯度投影算法的测量矩阵优化方法 |
| CN111475768A (zh) * | 2020-03-11 | 2020-07-31 | 重庆邮电大学 | 一种基于低相干单位范数紧框架的观测矩阵构造方法 |
| CN115618187A (zh) * | 2022-12-21 | 2023-01-17 | 西南交通大学 | 一种观测矩阵的优化方法、装置、设备及可读存储介质 |
-
2018
- 2018-12-05 CN CN201811477109.9A patent/CN109584320A/zh active Pending
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110266318A (zh) * | 2019-06-24 | 2019-09-20 | 中国科学院光电技术研究所 | 一种在压缩感知信号重建中基于梯度投影算法的测量矩阵优化方法 |
| CN110266318B (zh) * | 2019-06-24 | 2022-06-28 | 中国科学院光电技术研究所 | 一种在压缩感知信号重建中基于梯度投影算法的测量矩阵优化方法 |
| CN111475768A (zh) * | 2020-03-11 | 2020-07-31 | 重庆邮电大学 | 一种基于低相干单位范数紧框架的观测矩阵构造方法 |
| CN115618187A (zh) * | 2022-12-21 | 2023-01-17 | 西南交通大学 | 一种观测矩阵的优化方法、装置、设备及可读存储介质 |
| CN115618187B (zh) * | 2022-12-21 | 2023-03-17 | 西南交通大学 | 一种观测矩阵的优化方法、装置、设备及可读存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Zhang et al. | One condition for solution uniqueness and robustness of both l1-synthesis and l1-analysis minimizations | |
| CN109584320A (zh) | 一种低相干观测矩阵构造方法 | |
| CN106663316A (zh) | 一种基于块稀疏压缩感知的红外图像重构方法及其系统 | |
| CN112884851A (zh) | 一种展开迭代优化算法的深度压缩感知网络 | |
| CN109447921A (zh) | 一种基于重构误差的图像测量矩阵优化方法 | |
| CN110728728B (zh) | 一种基于非局部正则的压缩感知网络图像重建方法 | |
| WO2022110867A1 (zh) | 一种图像压缩采样方法及组件 | |
| CN107527371A (zh) | 一种在压缩感知中逼近光滑l0范数的图像重建算法的设计构建方法 | |
| WO2024164694A9 (zh) | 图像压缩方法、装置、电子设备、计算机程序产品及存储介质 | |
| Zhang et al. | On the theoretical analysis of cross validation in compressive sensing | |
| CN106559670A (zh) | 一种改进的分块视频压缩感知算法 | |
| Li et al. | Tensor completion from one-bit observations | |
| CN102595138B (zh) | 图像压缩的方法及装置、终端 | |
| Brunet et al. | Structural similarity-based approximation of signals and images using orthogonal bases | |
| CN115618187B (zh) | 一种观测矩阵的优化方法、装置、设备及可读存储介质 | |
| Chen et al. | Self-adaptive sampling rate assignment and image reconstruction via combination of structured sparsity and non-local total variation priors | |
| Aghagolzadeh et al. | Compressive dictionary learning for image recovery | |
| Asif et al. | Low-rank tensor ring model for completing missing visual data | |
| Zhao et al. | Learning-based compressed sensing for infrared image super resolution | |
| Sahu et al. | Image compression methods using dimension reduction and classification through PCA and LDA: A review | |
| Shen et al. | Blind one-bit compressive sampling | |
| Fang et al. | Image denoising algorithm of compressed sensing based on alternating direction method of multipliers | |
| Xueyuan | Sparsity Adaptive-based Stagewise Orthogonal Matching Pursuit Algorithm for Image Reconstruction. | |
| Salan et al. | Image reconstruction based on compressive sensing using optimized sensing matrix | |
| Hirose et al. | Research and examination on implementation of super-resolution models using deep learning with INT8 precision |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190405 |
|
| WD01 | Invention patent application deemed withdrawn after publication |