CN115065367B - 一种低复杂度的稀疏信号采样重构系统及方法 - Google Patents

一种低复杂度的稀疏信号采样重构系统及方法 Download PDF

Info

Publication number
CN115065367B
CN115065367B CN202210998816.2A CN202210998816A CN115065367B CN 115065367 B CN115065367 B CN 115065367B CN 202210998816 A CN202210998816 A CN 202210998816A CN 115065367 B CN115065367 B CN 115065367B
Authority
CN
China
Prior art keywords
signal
network
bist
model
sparse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210998816.2A
Other languages
English (en)
Other versions
CN115065367A (zh
Inventor
席峰
詹梦超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Science and Technology
Original Assignee
Nanjing University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Science and Technology filed Critical Nanjing University of Science and Technology
Priority to CN202210998816.2A priority Critical patent/CN115065367B/zh
Publication of CN115065367A publication Critical patent/CN115065367A/zh
Application granted granted Critical
Publication of CN115065367B publication Critical patent/CN115065367B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种低复杂度的稀疏信号采样重构系统及方法，包括信号获取单元、信号稀疏表示单元、压缩感知单元、单比特量化单元、L‑BIST网络单元、信号恢复单元、信号输出单元，将求解非线性重构问题的迭代软阈值方法应用至单比特采样信号的稀疏重构问题，将其迭代更新的过程与深度学习技术有机结合，即将其每一次迭代过程建模为一层DNN，从而构建具有模型结构特征的深度展开网络。本发明在有效降低单比特压缩感知重构系统的成本和功耗的同时提升了系统的运行速度。

Description

一种低复杂度的稀疏信号采样重构系统及方法
技术领域
本发明涉及一种基于深度展开网络的低复杂度的单比特采样稀疏信号重构系统及方法，属于信号处理技术领域。
背景技术
随着科技水平的不断进步，数字化俨然成为了当代社会的一个标签。在如今的日常生活中，信息的传输量和获取需求呈现指数型的爆发式增长。由于数字信号相较于模拟信号拥有更好的操纵性和更低的成本，因此大部分连续的模拟信号要使用模数转换器（Analog to Digital Converter, ADC）转换为离散的数字信号。长久以来，模拟信号与数字信号的变换都是通过经典的奈奎斯特采样定理实现的。依照该定理，只有当ADC采样频率大于原信号最高频率的两倍时，采样后的信号才能完全保留原信号信息，进而无失真地恢复原信号。然而，随着信号带宽的不断增加，模数转换需要越来越高的ADC采样频率。采用高速的ADC实现模数转换，不仅需要很高的系统成本和功耗，还会给数据传输和存储带来巨大的压力。
21世纪初，Donoho、Candès等学者提出了压缩感知（Compressed Sensing，CS）理论，该理论表明只要信号本身或者在某个变换域下是稀疏的，就能在远小于奈奎斯特采样率的情况下对该信号进行采样和重构。这一理论突破了奈奎斯特采样定理的限制，避免了数据冗余的出现，在采样过程中大大缓解了ADC等物理器件的压力。然而，无论是经典奈奎斯特采样定理还是CS理论，都要求ADC在采样过程中对信号进行高精度量化，即采用多个比特数对每个采样点的数据进行量化，然而使用高精度的ADC器件会在模数转换过程中产生较高的成本和功耗。近年来，有研究者将降低采样率的研究转换到降低量化精度的工作上来，对低比特量化开展了研究。单比特压缩感知是低比特量化压缩感知的极限形式，这种方法仅采集观测值的符号，只需要单个比特单元来记录这个值。所以单比特量化只需要一个简单的比较器就可以实现，采用了单比特量化的ADC器件的成本和功耗也将大大降低。因此相比传统压缩感知，单比特压缩感知在硬件实施上具有成本更低、运行速度更快的优点，因而受到了广泛关注。
然而，单比特压缩感知的信号重构是一个NP-hard问题，当前的单比特压缩感知重构算法都是根据问题模型将该问题等效描述为一个凸问题，依靠现有的凸优化算法对信号进行重构，这就是基于数学模型的方法。但是这种方法的计算复杂度较高，需要系统具有较强的信号处理能力，因此往往也需要较高的硬件成本。近年来深度学习技术受到广泛关注，这是一种通过搭建模拟人脑的深度神经网络（Deep Neural Networks, DNN）来模仿人脑的机制从而处理数据的技术。借助于当今计算机的强大算力和众多的数据资源，这一技术已经在很多领域取得了不小的成就。然而，深度学习是一种纯数据驱动的推理方法，其内部类似于一个黑盒，往往对数据有较大的依赖性，并且缺乏对系统模型等先验信息的有效利用。为了综合上述两种方法的优点，有学者提出了基于模型的深度学习（Model based DeepLearning，MoDL）的思想。具体来说，MoDL将依赖于数据驱动的深度学习技术与现有的数学模型结合在一起，实现了在增加网络可解释性的同时还减少了对数据的依赖性。
深度展开网络的提出为解决单比特采样稀疏信号的重构问题提供了一种新的思路。目前已经有研究者围绕着深度展开网络对单比特压缩感知重构问题展开了研究，肖鹏等人在《DeepFPC: A deep unfolded network for sparse signal recovery from 1-Bitmeasurements with application to DOA estimation》一文中提出的DeepFPC网络正是一种基于深度展开网络的方法。作者通过一系列的仿真实验证实了所提出的DeepFPC网络经过适当的训练后，可以提供比基本算法更优的稀疏信号恢复性能，同时由于使用了深度学习技术，DeepFPC网络所需的层数也少于基本算法所需的迭代次数。
用经典的迭代算法来解决参数估计问题无疑是可行的，但在实际问题较为复杂时，这类算法的运算量较大，在计算资源受限的情况下会使重构估计性能变差。另一方面，纯数据驱动的DNN使用的是从数据中学习其内在函数映射关系的通用架构，虽然这种通用架构在处理某些问题时表现出了优异的性能，但在训练阶段通常需要大量的数据样本和巨大的计算资源，因而限制了其在某些信号处理场景（如训练样本和计算资源受限的场景）下的适用性。现有的深度展开网络，如DeepFPC网络，虽然结合了二者的优点，但每一层网络中需要学习的参数较多，仍旧需要较多的训练样本，因此有必要发展一种低复杂度的深度展开网络。
发明内容
发明目的：为了解决单比特压缩感知信号的重构问题，本发明提供一种不仅运行速度快，而且功耗低的低复杂度的稀疏信号采样重构系统及方法。
技术方案：为实现上述目的，本发明采用的技术方案为：
一种低复杂度的稀疏信号采样重构系统，包括信号获取单元、信号稀疏表示单元、压缩感知单元、单比特量化单元、L-BIST网络单元、信号恢复单元、信号输出单元，其中：
所述信号获取单元用于获取待处理信号
Figure DEST_PATH_IMAGE002_59A
。
所述信号稀疏表示单元嵌入有信号稀疏表示模型，所述信号稀疏表示单元通过信号稀疏表示模型对待处理信号
Figure DEST_PATH_IMAGE002_60A
进行稀疏表示，得到稀疏表示后的待处理信号
Figure DEST_PATH_IMAGE002_61A
。
所述压缩感知单元嵌入有采样压缩感知模型，所述压缩感知单元通过采样压缩感知模型对稀疏表示后的待处理信号
Figure DEST_PATH_IMAGE002_62A
进行采样和压缩感知，得到采样压缩感知信号
Figure DEST_PATH_IMAGE004_25A
。
所述单比特量化单元嵌入有单比特量化模型，所述单比特量化单元通过单比特量化模型对采样压缩感知信号进行单比特量化，得到单比特量化信号
Figure DEST_PATH_IMAGE006_49A
。
单比特量化模型为：
Figure DEST_PATH_IMAGE008AAA
其中，
Figure DEST_PATH_IMAGE006_50A
表示单比特量化信号，
Figure DEST_PATH_IMAGE010_7A
表示采样压缩感知信号
Figure DEST_PATH_IMAGE004_26A
的实部，
Figure DEST_PATH_IMAGE012_7A
表示采样压缩感知信号
Figure DEST_PATH_IMAGE004_27A
的虚部，
Figure DEST_PATH_IMAGE014_5A
是虚数单位，
Figure DEST_PATH_IMAGE016_7A
表示实数域的符号函数，
Figure DEST_PATH_IMAGE004_28A
表示采样压缩感知信号，
Figure DEST_PATH_IMAGE018_51A
是待处理信号
Figure DEST_PATH_IMAGE020_15A
的稀疏表示向量，
Figure DEST_PATH_IMAGE022_7A
，
Figure DEST_PATH_IMAGE024_5A
是稀疏表示字典
Figure DEST_PATH_IMAGE026_6A
和压缩感知矩阵
Figure DEST_PATH_IMAGE028_7A
组合而成的矩阵，
Figure DEST_PATH_IMAGE030_5A
表示信号中的噪声。
所述L-BIST网络单元嵌入有L-BIST网络模型，所述L-BIST网络单元通过训练好的L-BIST网络模型对单比特量化信号
Figure DEST_PATH_IMAGE006_51A
进行估计，获得最优的稀疏表示向量估计
Figure DEST_PATH_IMAGE032_7A
。
L-BIST网络模型中采用基于ISTA的迭代方法对正则化松弛后的最小化问题进行求解，正则化松弛后的最小化问题迭代过程如下：
Figure DEST_PATH_IMAGE034_11A
其中，
Figure DEST_PATH_IMAGE036_5A
表示第i次迭代的输出，
Figure DEST_PATH_IMAGE038_7A
是软阈值算子，
Figure DEST_PATH_IMAGE040_12A
表示软阈值函数的输入信号，即
Figure DEST_PATH_IMAGE042_13A
，
Figure DEST_PATH_IMAGE044_7A
表示软阈值函数所使用的阈值，
Figure DEST_PATH_IMAGE046_11A
表示迭代步长。
所述信号恢复单元嵌入有信号恢复模型，所述信号恢复单元通过信号恢复模型根据最优的稀疏表示向量估计
Figure DEST_PATH_IMAGE032_8A
恢复待处理信号
Figure DEST_PATH_IMAGE002_63A
，得到恢复后的信号。
所述信号输出单元用于将恢复后的信号进行输出。
优选的：所述信号稀疏表示模型为：
Figure DEST_PATH_IMAGE048_7A
其中，
Figure DEST_PATH_IMAGE050_7A
是待处理信号
Figure DEST_PATH_IMAGE020_16A
的稀疏表示字典，
Figure DEST_PATH_IMAGE052AAA
，
Figure DEST_PATH_IMAGE054_7A
为稀疏表示字典的维数，
Figure DEST_PATH_IMAGE018_52A
是待处理信号
Figure DEST_PATH_IMAGE020_17A
的稀疏表示向量，
Figure DEST_PATH_IMAGE056_7A
，
Figure DEST_PATH_IMAGE058AAAA
为所有N维复数的集合，
Figure DEST_PATH_IMAGE018_53A
中仅有少量元素为非零值，其余元素皆为零。
Figure DEST_PATH_IMAGE018_54A
中非零元素个数为
Figure DEST_PATH_IMAGE060AA
，
Figure DEST_PATH_IMAGE062AAA
。
所述信号恢复模型为：
Figure DEST_PATH_IMAGE064AAA
其中，
Figure DEST_PATH_IMAGE066AAA
表示恢复后的信号。
优选的：所述采样压缩感知模型为：
Figure DEST_PATH_IMAGE068AAA
其中，
Figure DEST_PATH_IMAGE004_29A
表示采样压缩感知信号，
Figure DEST_PATH_IMAGE070AAA
是
Figure DEST_PATH_IMAGE072AAA
维的压缩感知矩阵，
Figure DEST_PATH_IMAGE074AAAA
为
Figure DEST_PATH_IMAGE072AAAA
维矩阵的集合，
Figure DEST_PATH_IMAGE076AAA
为压缩后的维数，
Figure DEST_PATH_IMAGE078AAA
，
Figure DEST_PATH_IMAGE080AAA
为信号
Figure DEST_PATH_IMAGE020_18A
的采样值，
Figure DEST_PATH_IMAGE082AAA
为采样时刻，
Figure DEST_PATH_IMAGE084AAA
，
Figure DEST_PATH_IMAGE028_8A
是
Figure DEST_PATH_IMAGE086_6A
维的采样后的稀疏表示字典。
优选的：所述单比特量化模型为
Figure DEST_PATH_IMAGE088AAA
分别对采样压缩感知信号
Figure DEST_PATH_IMAGE004_30A
的实部
Figure DEST_PATH_IMAGE010_8A
和虚部
Figure DEST_PATH_IMAGE012_8A
进行单比特量化：
Figure DEST_PATH_IMAGE090AAA
。
Figure DEST_PATH_IMAGE092AAA
。
优选的：L-BIST网络模型中正则化松弛后的最小化问题为：
Figure DEST_PATH_IMAGE094AAA
其中，
Figure DEST_PATH_IMAGE096AAAA
表示
Figure DEST_PATH_IMAGE018_55A
的
Figure DEST_PATH_IMAGE098AAAA
范数，
Figure DEST_PATH_IMAGE100AAAA
是松弛系数，
Figure DEST_PATH_IMAGE102AAAA
表示
Figure DEST_PATH_IMAGE018_56A
的
Figure DEST_PATH_IMAGE104AAAA
范数，
Figure DEST_PATH_IMAGE106AAAA
，
Figure DEST_PATH_IMAGE108AAAA
是以
Figure DEST_PATH_IMAGE006_52A
为对角元素的
Figure DEST_PATH_IMAGE086_7A
维的对角矩阵。
优选的：L-BIST网络模型中利用L-BIST网络进行深度展开网络的情况下忽略正则化松弛后的最小化问题带有约束项
Figure DEST_PATH_IMAGE110AAAA
。
优选的：L-BIST网络模型采用L-BIST网络将正则化松弛后的最小化问题迭代过程展开，第
Figure DEST_PATH_IMAGE112AAAA
层网络具有如下结构：
Figure DEST_PATH_IMAGE114_16A
其中，
Figure DEST_PATH_IMAGE116AAAA
和
Figure DEST_PATH_IMAGE006_53A
作为第
Figure DEST_PATH_IMAGE112_5A
层网络的输入，
Figure DEST_PATH_IMAGE118AAAA
作为第
Figure DEST_PATH_IMAGE112_6A
层网络的输出，
Figure DEST_PATH_IMAGE120_9A
和
Figure DEST_PATH_IMAGE122_9A
是第
Figure DEST_PATH_IMAGE112_7A
层网络的可训练权值矩阵，
Figure DEST_PATH_IMAGE124_11A
是第
Figure DEST_PATH_IMAGE112_8A
层网络的可训练软阈值，
Figure DEST_PATH_IMAGE126_11A
，
Figure DEST_PATH_IMAGE128_9A
表示L-BIST网络的总层数，
Figure 271557DEST_PATH_IMAGE130
和
Figure DEST_PATH_IMAGE132_5A
作为非线性激活函数。
一种低复杂度的稀疏信号采样重构方法，包括以下步骤：
步骤1，信号稀疏表示：
获取待处理信号
Figure DEST_PATH_IMAGE002_64A
，通过信号稀疏表示模型对待处理信号
Figure DEST_PATH_IMAGE002_65A
进行稀疏表示，得到稀疏表示后的待处理信号
Figure DEST_PATH_IMAGE002_66A
。
步骤2，压缩感知：
将步骤1中稀疏表示后的待处理信号
Figure DEST_PATH_IMAGE002_67A
通过采样压缩感知模型进行采样和压缩感知得到采样压缩感知信号
Figure DEST_PATH_IMAGE004_31A
。
步骤3，单比特量化：
通过单比特量化模型对采样压缩感知信号
Figure DEST_PATH_IMAGE004_32A
进行单比特量化，得到单比特量化信号
Figure DEST_PATH_IMAGE006_54A
。
步骤4，L-BIST网络：
通过训练好的L-BIST网络模型对单比特量化信号
Figure DEST_PATH_IMAGE006_55A
进行估计，获得最优的稀疏表示向量估计
Figure DEST_PATH_IMAGE032_9A
。
步骤5，信号恢复：
通过信号恢复模型恢复待处理信号
Figure DEST_PATH_IMAGE002_68A
，得到恢复后的信号
Figure DEST_PATH_IMAGE066AAAA
。
优选的：步骤4中L-BIST网络模型中L-BIST网络的构建方法：
根据单比特量化模型，L-BIST网络需要解决以下非线性重构问题：
Figure DEST_PATH_IMAGE134_7A
其中，
Figure DEST_PATH_IMAGE106_5A
，
Figure DEST_PATH_IMAGE108_5A
是以
Figure DEST_PATH_IMAGE006_56A
为对角元素的
Figure DEST_PATH_IMAGE086_8A
维的对角矩阵。
Figure DEST_PATH_IMAGE136_6A
表示的是单比特量化后信号
Figure DEST_PATH_IMAGE006_57A
的符号限制，
Figure DEST_PATH_IMAGE096_5A
表示
Figure DEST_PATH_IMAGE018_57A
的
Figure DEST_PATH_IMAGE098_5A
范数，
Figure DEST_PATH_IMAGE102_5A
表示
Figure DEST_PATH_IMAGE018_58A
的
Figure DEST_PATH_IMAGE104_5A
范数。
最小化问题进行正则化松弛，得到正则化松弛后的最小化问题：
Figure DEST_PATH_IMAGE094AAAA
其中，
Figure DEST_PATH_IMAGE138AAA
是正则化函数，
Figure DEST_PATH_IMAGE140AAA
表示正则化函数的输入，即
Figure DEST_PATH_IMAGE142AAA
，
Figure DEST_PATH_IMAGE100_5A
是松弛系数。
采用基于ISTA的迭代算法对正则化松弛后的最小化问题进行求解，其在第i步迭代更新的原理如下：
Figure DEST_PATH_IMAGE144AAA
Figure DEST_PATH_IMAGE146AAA
Figure DEST_PATH_IMAGE148AAA
其中，
Figure DEST_PATH_IMAGE150AAA
表示第i+1步迭代的软阈值输入值，
Figure DEST_PATH_IMAGE036_6A
表示第i步迭代的输出值，
Figure DEST_PATH_IMAGE046_12A
表示迭代步长，
Figure DEST_PATH_IMAGE152AAA
，
Figure DEST_PATH_IMAGE154_5A
表示
Figure DEST_PATH_IMAGE156AA
对
Figure DEST_PATH_IMAGE036_7A
的梯度，
Figure DEST_PATH_IMAGE158AAA
表示第i+1步迭代的软阈值输出值，
Figure DEST_PATH_IMAGE038_8A
是软阈值函数，
Figure DEST_PATH_IMAGE040_13A
表示软阈值函数的输入信号，
Figure DEST_PATH_IMAGE044_8A
表示软阈值函数所使用的阈值。
在正则化松弛后的最小化问题下，
Figure DEST_PATH_IMAGE152AAAA
，得出：
Figure DEST_PATH_IMAGE160AAA
。
则使用ISTA来解决单比特量化信号重构正则化松弛后的最小化问题的迭代过程如下：
Figure DEST_PATH_IMAGE034_12A
采用L-BIST网络将正则化松弛后的最小化问题迭代过程展开，第
Figure DEST_PATH_IMAGE112_9A
层网络具有如下结构：
Figure DEST_PATH_IMAGE114_17A
其中，
Figure DEST_PATH_IMAGE116_5A
和
Figure DEST_PATH_IMAGE006_58A
是第
Figure DEST_PATH_IMAGE112_10A
层网络的输入，
Figure DEST_PATH_IMAGE118_5A
是第
Figure DEST_PATH_IMAGE112_11A
层网络的输出，
Figure DEST_PATH_IMAGE120_10A
和
Figure DEST_PATH_IMAGE122_10A
是第
Figure DEST_PATH_IMAGE112_12A
层网络的可训练权值矩阵，
Figure DEST_PATH_IMAGE124_12A
是第
Figure DEST_PATH_IMAGE112_13A
层网络的可训练软阈值，
Figure DEST_PATH_IMAGE126_12A
，
Figure DEST_PATH_IMAGE128_10A
表示L-BIST网络的总层数。
Figure DEST_PATH_IMAGE120_11A
和
Figure DEST_PATH_IMAGE122_11A
用全连接层实现，
Figure 620323DEST_PATH_IMAGE130
和
Figure DEST_PATH_IMAGE132_6A
作为非线性激活函数。
优选的：步骤4中L-BIST网络模型中L-BIST网络的训练方法
L-BIST网络训练的目的是通过训练样本集使每一层网络得到最优的参数集，包括每一层的可训练的权值矩阵
Figure DEST_PATH_IMAGE162AAA
以及可训练的软阈值
Figure DEST_PATH_IMAGE124_13A
，将这些可训练参数构成的集记作
Figure DEST_PATH_IMAGE164AAA
。在L-BIST网络的训练阶段，将
Figure DEST_PATH_IMAGE166AAA
个样本用于训练。在每次训练迭代中，采用的训练样本集记为
Figure DEST_PATH_IMAGE168AAA
，
Figure DEST_PATH_IMAGE170AAAA
表示第n个训练样本的标签，
Figure DEST_PATH_IMAGE172AAA
表示第n个训练样本的输入数据，每批次使用
Figure DEST_PATH_IMAGE174_5A
个样本来分批来训练网络，
Figure DEST_PATH_IMAGE176AA
，
Figure DEST_PATH_IMAGE178AA
，
Figure DEST_PATH_IMAGE180AA
表示整数的集合。对于每个批次，最小化二次损失函数定义为：
Figure DEST_PATH_IMAGE182AA
其中，
Figure DEST_PATH_IMAGE184AAA
表示损失函数值，
Figure DEST_PATH_IMAGE186AA
是由L-BIST网络根据训练数据
Figure DEST_PATH_IMAGE172AAAA
恢复出的稀疏信号。
根据每个批次的损失函数值NMSE优化网络参数集
Figure DEST_PATH_IMAGE188AAA
，采用梯度下降法，逐层优化网络参数，使训练样本集上的损失函数最小化，从而使网络获得最优的参数集
Figure DEST_PATH_IMAGE190AAA
。
本发明相比现有技术，具有以下有益效果：
1.本发明提出的L-BIST网络采取了简洁的网络结构，减少了需要训练的参数，从而减少了需要用到的神经元数量，提高了系统运行速度并降低了硬件成本和功耗，是一种低复杂度的深度展开网络。
2. 本发明将求解非线性重构问题的迭代软阈值算法（Iterative softthreshold algorithm，ISTA）应用至单比特采样信号的稀疏重构问题，将其迭代更新的过程与深度学习技术有机结合，即将其每一次迭代过程建模为一层DNN，从而构建具有模型结构特征的深度展开网络，在有效降低单比特压缩感知重构系统的成本和功耗的同时提升了系统的运行速度。
附图说明
图1为本发明流程图。
图2为L-BIST网络结构图。
图3为应用于复值数据的L-BIST网络的一层框图。
图4为L-BIST网络模型训练流程图。
图5为在信噪比为15dB下ISTA恢复的信号与原信号对比图。
图6为在信噪比为10dB下ISTA恢复的信号与原信号对比图。
图7为在信噪比为5dB下ISTA恢复的信号与原信号对比图。
图8为在信噪比为0dB下ISTA恢复的信号与原信号对比图。
图9为 L-BIST网络在训练过程中的损失曲线。
图10为在信噪比为15dB下L-BIST网络恢复的信号与原信号对比图。
图11为在信噪比为10dB下L-BIST网络恢复的信号与原信号对比图。
图12为依次表示在信噪比为5dB下L-BIST网络恢复的信号与原信号对比图。
图13为在信噪比为0dB下L-BIST网络恢复的信号与原信号对比图。
图14为ISTA、L-BIST网络在不同信噪比下的NMSE曲线。
图15为ISTA、L-BIST网络在不同信噪比下的Hitrate曲线。
具体实施方式
下面结合附图和具体实施例，进一步阐明本发明，应理解这些实例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。
一种低复杂度的采样稀疏信号重构方法，旨在将纯数据驱动的深度学习技术与现有的数学模型有机结合在一起，实现用较少的训练样本来优化现有数学模型的各个参数，在降低深度学习对数据的依赖性的同时提高信号处理的性能，从而节省稀疏信号重构的硬件成本和功耗，首先对待处理信号（模拟信号）
Figure DEST_PATH_IMAGE002_69A
进行模数转换，再利用采样量化后得到数据
Figure DEST_PATH_IMAGE006_59A
重构出原信号。其中量化过程采用单比特量化，重构过程则采用L-BIST网络，如图1所示，分为信号稀疏表示、压缩感知、单比特量化、L-BIST网络以及信号恢复，具体步骤如下：
步骤1，信号稀疏表示
我们假设待处理信号
Figure DEST_PATH_IMAGE002_70A
是一个复信号。首先对待处理信号
Figure DEST_PATH_IMAGE002_71A
进行稀疏表示，将其表示为：
Figure DEST_PATH_IMAGE048_8A
(1)
其中，
Figure DEST_PATH_IMAGE052AAAA
是信号
Figure DEST_PATH_IMAGE020_19A
的稀疏表示字典，
Figure DEST_PATH_IMAGE054_8A
为稀疏表示字典的维数，
Figure DEST_PATH_IMAGE056_8A
则是
Figure DEST_PATH_IMAGE020_20A
的稀疏表示向量，即
Figure DEST_PATH_IMAGE018_59A
中仅有少量元素为非零值，其余元素皆为零，
Figure DEST_PATH_IMAGE058_5A
为所有N维复数的集合。为了不失一般性，我们假设
Figure DEST_PATH_IMAGE018_60A
中非零元素个数为
Figure DEST_PATH_IMAGE060AAA
，
Figure DEST_PATH_IMAGE062AAAA
。
步骤2，压缩感知
本步骤中我们对信号
Figure DEST_PATH_IMAGE002_72A
进行采样和压缩感知，获得
Figure DEST_PATH_IMAGE004_33A
表示采样压缩感知信号，采样压缩感知信号
Figure DEST_PATH_IMAGE004_34A
为M维信号矢量。假设采样时刻为
Figure DEST_PATH_IMAGE082AAAA
, 定义
Figure DEST_PATH_IMAGE078AAAA
,
Figure DEST_PATH_IMAGE080AAAA
为采样信号，我们可将该过程描述为：
Figure DEST_PATH_IMAGE068AAAA
(2)
其中，
Figure DEST_PATH_IMAGE070AAAA
是
Figure DEST_PATH_IMAGE072_5A
维的压缩感知矩阵，
Figure DEST_PATH_IMAGE076AAAA
为压缩后的维数，
Figure DEST_PATH_IMAGE084AAAA
是
Figure DEST_PATH_IMAGE086_9A
维的采样后的稀疏表示字典。若矩阵
Figure DEST_PATH_IMAGE026_7A
是单位矩阵，则该过程可等效为传统的奈奎斯特采样。
步骤3，单比特量化
对于复信号，单比特量化仅保留其实部和虚部的符号，可采用两个比较器实现，结构简单，因此可大大降低硬件成本和功耗。为简化表示，我们定义
Figure DEST_PATH_IMAGE022_8A
。
记实数域的符号函数为：
Figure 425161DEST_PATH_IMAGE192
(3)
其中，
Figure DEST_PATH_IMAGE016_8A
表示实数域的符号函数，
Figure 695736DEST_PATH_IMAGE194
表示稀疏表示向量。
单比特量化后的信号可表示为单比特量化模型：
Figure DEST_PATH_IMAGE008AAAA
(4)
其中：
Figure DEST_PATH_IMAGE090AAAA
；
Figure DEST_PATH_IMAGE196_5A
同理：
Figure DEST_PATH_IMAGE092AAAA
。
Figure DEST_PATH_IMAGE010_9A
和
Figure DEST_PATH_IMAGE012_9A
分别表示采样压缩感知信号
Figure DEST_PATH_IMAGE004_35A
的实部和虚部，
Figure DEST_PATH_IMAGE014_6A
表示虚数单位，
Figure DEST_PATH_IMAGE022_9A
，
Figure DEST_PATH_IMAGE024_6A
是稀疏表示字典
Figure DEST_PATH_IMAGE026_8A
和压缩感知矩阵
Figure DEST_PATH_IMAGE028_9A
组合而成的矩阵，
Figure DEST_PATH_IMAGE030_6A
表示信号中的噪声。
步骤4，L-BIST网络
L-BIST网络的目的是从单比特量化信号
Figure DEST_PATH_IMAGE006_60A
中重构稀疏表示向量
Figure DEST_PATH_IMAGE018_61A
，从而我们可根据信号
Figure DEST_PATH_IMAGE002_73A
的稀疏表示，恢复原信号
Figure DEST_PATH_IMAGE002_74A
。下面我们从L-BIST网络的构建和训练两部分对其进行介绍。
步骤41，L-BIST网络的构建
我们首先介绍单比特量化稀疏信号重构的数学优化模型及基于数学模型的迭代算法，然后根据迭代算法的结构，设计L-BIST网络。本发明所利用的深度展开网络（DeepUnfolding Network, DUN）就是MoDL的一个重要分支，它的本质是将经典迭代算法的一次迭代更新展开为一个DNN，以网络层数来代表算法的迭代次数，网络各层的参数代表算法的迭代参数，利用训练数据对该DNN进行训练，可以获得所对应的迭代算法的最优参数，从而获得最优的信号重构效果。本发明提出了一种基于深度展开网络（Deep UnfoldingNetwork，DUN）的信号重构方法，称之为可学习的二进制迭代软阈值网络（Learned binaryiterative soft threshold，L-BIST）。
根据(4)式的单比特量化模型，L-BIST网络需要解决以下所述的非线性重构问题：
Figure DEST_PATH_IMAGE134_8A
(5)
其中，
Figure DEST_PATH_IMAGE106_6A
，
Figure DEST_PATH_IMAGE108_6A
是以
Figure DEST_PATH_IMAGE006_61A
为对角元素的
Figure DEST_PATH_IMAGE086_10A
维的对角矩阵；
Figure DEST_PATH_IMAGE096_6A
表示
Figure DEST_PATH_IMAGE018_62A
的
Figure DEST_PATH_IMAGE098_6A
范数，
Figure DEST_PATH_IMAGE102_6A
表示
Figure DEST_PATH_IMAGE018_63A
的
Figure DEST_PATH_IMAGE104_6A
范数。
Figure DEST_PATH_IMAGE136_7A
表示的是单比特量化后信号
Figure DEST_PATH_IMAGE006_62A
的符号限制，是重构稀疏表示向量
Figure DEST_PATH_IMAGE018_64A
的关键所在。由于单比特采样舍弃了原信号的幅度信息，因此采用约束条件
Figure DEST_PATH_IMAGE110_5A
来限定重构信号的幅度。式(5)的非线性重构问题是难以直接求解的，我们对此最小化问题进行正则化松弛，得到正则化松弛后的最小化问题：
Figure DEST_PATH_IMAGE094_5A
(6)
其中，
Figure DEST_PATH_IMAGE138AAAA
是正则化函数，
Figure DEST_PATH_IMAGE140AAAA
表示正则化函数的输入，即
Figure DEST_PATH_IMAGE142AAAA
，
Figure DEST_PATH_IMAGE100_6A
是松弛系数。
对上述式(6)的正则化松弛后的最小化问题进行求解，通常可采用基于ISTA的迭代算法进行求解，其在第i步迭代更新的原理如下：
Figure DEST_PATH_IMAGE144AAAA
(7a)
Figure DEST_PATH_IMAGE146AAAA
(7b)
Figure DEST_PATH_IMAGE148AAAA
(7c)
其中，
Figure DEST_PATH_IMAGE150AAAA
表示第i+1步迭代的软阈值输入值，
Figure DEST_PATH_IMAGE036_8A
表示第i步迭代的输出值，
Figure DEST_PATH_IMAGE046_13A
表示迭代步长，
Figure DEST_PATH_IMAGE152_5A
，
Figure DEST_PATH_IMAGE198AAA
表示
Figure DEST_PATH_IMAGE200AAA
对
Figure DEST_PATH_IMAGE018_65A
的梯度，
Figure DEST_PATH_IMAGE154_6A
表示
Figure DEST_PATH_IMAGE156AAA
对
Figure DEST_PATH_IMAGE036_9A
的梯度，
Figure DEST_PATH_IMAGE158AAAA
表示第i+1步迭代的软阈值输出值，
Figure DEST_PATH_IMAGE038_9A
是软阈值函数，
Figure DEST_PATH_IMAGE040_14A
表示软阈值函数的输入信号，
Figure DEST_PATH_IMAGE044_9A
表示软阈值函数所使用的阈值。
上述迭代过程，可以看出ISTA算法的实质是梯度下降法的一种自然扩展，它在梯度下降法的基础上增加了一个软阈值算子。
显然在式(6)的正则化松弛后的最小化问题下，
Figure DEST_PATH_IMAGE152_6A
，我们经过计算，可得出
Figure DEST_PATH_IMAGE160AAAA
。同时，我们注意到式(6)的正则化松弛后的最小化问题带有约束项
Figure DEST_PATH_IMAGE110_6A
，其实这个约束项在本质上是为了限定恢复后的信号的幅度，在ISTA的迭代算中，我们通过式(7c)考虑了这个约束项。
因此，结合ISTA的算法模型，我们可推导出使用ISTA来解决单比特量化信号重构问题式(6)的正则化松弛后的最小化问题的迭代过程如下：
Figure DEST_PATH_IMAGE034_13A
(8)
我们可采用深度展开技术将上述迭代过程用多层的网络结构实现，即采用L-BIST网络将上述迭代过程展开，其第
Figure DEST_PATH_IMAGE112_14A
层网络具有如下结构：
Figure DEST_PATH_IMAGE114_18A
， (9)
其中，
Figure DEST_PATH_IMAGE116_6A
和
Figure DEST_PATH_IMAGE006_63A
作为第
Figure DEST_PATH_IMAGE112_15A
层网络的输入，
Figure DEST_PATH_IMAGE118_6A
作为第
Figure DEST_PATH_IMAGE112_16A
层网络的输出，
Figure DEST_PATH_IMAGE120_12A
和
Figure DEST_PATH_IMAGE122_12A
是第
Figure DEST_PATH_IMAGE112_17A
层网络的可训练权值矩阵，
Figure DEST_PATH_IMAGE124_14A
是第
Figure DEST_PATH_IMAGE112_18A
层网络的可训练软阈值，
Figure DEST_PATH_IMAGE126_13A
，
Figure DEST_PATH_IMAGE128_11A
表示L-BIST网络的总层数。虽然式(6)的正则化松弛后的最小化问题带有约束项
Figure DEST_PATH_IMAGE202AAA
，但如上所述其本质仅是为了限定恢复后的信号的幅度，由于深度学习技术可以在网络的训练过程中学习原信号的幅度信息，因此在利用了深度展开网络的情况下我们可忽略这个约束项的影响。L-BIST网络模型如图2所示，其中
Figure DEST_PATH_IMAGE120_13A
和
Figure DEST_PATH_IMAGE122_13A
用全连接层实现，
Figure 555717DEST_PATH_IMAGE130
和
Figure DEST_PATH_IMAGE132_7A
作为非线性激活函数。经过如图2所示的
Figure DEST_PATH_IMAGE128_12A
层网络，L-BIST网络输出稀疏表示向量
Figure DEST_PATH_IMAGE018_66A
的估计值
Figure DEST_PATH_IMAGE032_10A
。
目前大多数现成的深度学习工具箱，例如PyTorch和TensorFlow，只适用于实数网络，因此不能直接用于处理涉及复数信号的问题。为了使本发明提出的L-BIST网络可以处理涉及复数的信号处理问题，我们将复值线性矩阵乘法和非线性运算转换为它们的实值对应项，并在网络划分两个通道来处理复值数据的实部和虚部，应用于复值数据的L-BIST网络的一层结构的框图如图3所示。
步骤42，L-BIST网络的训练
L-BIST网络训练的目的是通过训练样本集使每一层网络得到最优的参数集，包括每一层的可训练的权值矩阵
Figure DEST_PATH_IMAGE162AAAA
以及可训练的软阈值
Figure DEST_PATH_IMAGE124_15A
，我们将这些可训练参数构成的集记作
Figure DEST_PATH_IMAGE164AAAA
。在L-BIST网络的训练阶段，我们考虑将
Figure DEST_PATH_IMAGE166AAAA
个样本用于训练，另一组
Figure DEST_PATH_IMAGE204AAA
个样本用于测试。在每次训练迭代中，我们将采用的训练样本集记为
Figure DEST_PATH_IMAGE168AAAA
，
Figure DEST_PATH_IMAGE170_5A
表示第n个训练样本的标签，
Figure DEST_PATH_IMAGE172_5A
表示第n个训练样本的输入数据，并采用小批量分批训练的方法训练网络，即每次使用
Figure DEST_PATH_IMAGE206AAAA
个样本来分批来训练网络。对于每个批次，最小化二次损失函数定义为：
Figure DEST_PATH_IMAGE182AAA
(10)
其中，
Figure DEST_PATH_IMAGE186AAA
是由L-BIST网络根据训练数据
Figure DEST_PATH_IMAGE172_6A
恢复出的稀疏信号。我们可根据每个批次的损失函数值NMSE优化网络参数集
Figure DEST_PATH_IMAGE188AAAA
，采用梯度下降法（如Adam算法等）逐层优化网络参数，使训练样本集上的损失函数最小化，从而使网络获得最优的参数集
Figure DEST_PATH_IMAGE190AAAA
。在测试和验证阶段我们可采取的测试样本集
Figure DEST_PATH_IMAGE208AAA
测试训练好的模型。L-BIST网络训练的流程图如图4所示。
步骤43，L-BIST网络的估计
采用训练好的L-BIST网络来恢复稀疏表示向量
Figure DEST_PATH_IMAGE018_67A
。输入式(4)单比特量化模型给出的单比特量化数据
Figure DEST_PATH_IMAGE006_64A
，获得最优的稀疏表示向量估计
Figure DEST_PATH_IMAGE032_11A
。
步骤5，信号恢复
我们可根据信号
Figure DEST_PATH_IMAGE002_75A
的稀疏表示模型式(1)恢复信号
Figure DEST_PATH_IMAGE002_76A
，即：
Figure DEST_PATH_IMAGE064AAAA
(11)
其中
Figure DEST_PATH_IMAGE066_5A
表示信号
Figure DEST_PATH_IMAGE002_77A
的恢复值。
上述步骤1~5的过程完整实现了对待处理信号
Figure DEST_PATH_IMAGE002_78A
进行稀疏表示、单比特采样量化（即采样单比特对信号
Figure DEST_PATH_IMAGE002_79A
进行编码）和重构的过程。由于L-BIST网络的训练可采用训练数据离线进行，与信号
Figure DEST_PATH_IMAGE002_80A
无关，所以不影响上述过程的实时性。因此采用本发明的步骤，能以较低的复杂度实现对信号
Figure DEST_PATH_IMAGE002_81A
的采样量化（或编码）和重构。
一种低复杂度的稀疏信号采样重构系统，包括信号获取单元、信号稀疏表示单元、压缩感知单元、单比特量化单元、L-BIST网络单元、信号恢复单元、信号输出单元，其中：
所述信号获取单元用于获取待处理信号
Figure DEST_PATH_IMAGE002_82A
。
所述信号稀疏表示单元嵌入有信号稀疏表示模型，所述信号稀疏表示单元通过信号稀疏表示模型对待处理信号
Figure DEST_PATH_IMAGE002_83A
进行稀疏表示，得到稀疏表示后的待处理信号
Figure DEST_PATH_IMAGE002_84A
。
所述压缩感知单元嵌入有采样压缩感知模型，所述压缩感知单元通过采样压缩感知模型对稀疏表示后的待处理信号
Figure DEST_PATH_IMAGE002_85A
进行采样和压缩感知，得到采样压缩感知信号
Figure DEST_PATH_IMAGE004_36A
。
所述单比特量化单元嵌入有单比特量化模型，所述单比特量化单元通过单比特量化模型对采样压缩感知信号进行单比特量化，得到单比特量化信号
Figure DEST_PATH_IMAGE006_65A
。
所述L-BIST网络单元嵌入有L-BIST网络模型，所述L-BIST网络单元通过训练好的L-BIST网络模型对单比特量化信号
Figure DEST_PATH_IMAGE006_66A
进行估计，获得最优的稀疏表示向量估计
Figure DEST_PATH_IMAGE032_12A
。
所述信号恢复单元嵌入有信号恢复模型，所述信号恢复单元通过信号恢复模型根据最优的稀疏表示向量估计
Figure DEST_PATH_IMAGE032_13A
恢复待处理信号
Figure DEST_PATH_IMAGE002_86A
，得到恢复后的信号。
所述信号输出单元用于将恢复后的信号进行输出。
本发明能以更低的硬件成本对模拟信号进行采样量化并对其进行恢复。本发明的关键技术主要可以概括为两个方面：第一方面是单比特量化采样，在这阶段，我们对观测信号
Figure DEST_PATH_IMAGE002_87A
进行单比特量化，只保留其符号信息，从而大量减少需要处理的数据量。第二方面是信号
Figure DEST_PATH_IMAGE002_88A
的重构，我们将DNN植入经典的用于解决
Figure DEST_PATH_IMAGE210_6A
范数正则化约束问题的ISTA中，得到了L-BIST深度展开网络，并将其用于恢复单比特采样量化后稀疏信号，使得迭代次数——在深度展开网络中也被称为“层数”大大减少，从而减少信号重构所需的计算复杂度。
我们以一维谐波信号的单比特采样量化与重构为例，通过实验对本发明所提出的L-BIST网络以及经典的ISTA算法进行性能评估。对于一维谐波信号，假设它由K个不同的复值正弦信号组成，其频率分别记为
Figure DEST_PATH_IMAGE212AA
,
Figure DEST_PATH_IMAGE214AAA
，我们可以将其表示为：
Figure DEST_PATH_IMAGE216_5A
(12)
其中
Figure DEST_PATH_IMAGE218AAA
表示频率为
Figure DEST_PATH_IMAGE212AAA
的谐波成分所对应的复幅值。我们将
Figure DEST_PATH_IMAGE212AAAA
可能的频率范围离散表示为
Figure DEST_PATH_IMAGE054_9A
个频率的网格,且假设
Figure DEST_PATH_IMAGE212_5A
属于网格中的频率点之一，即
Figure DEST_PATH_IMAGE220_6A
，其中
Figure DEST_PATH_IMAGE222AAA
是频率网格的分辨率。则我们可将式(12)的
Figure DEST_PATH_IMAGE020_21A
稀疏表示为式(1)的形式，即
Figure DEST_PATH_IMAGE048_9A
，其中
Figure DEST_PATH_IMAGE224AAA
，
Figure DEST_PATH_IMAGE018_68A
为
Figure DEST_PATH_IMAGE054_10A
维稀疏表示向量，其仅有K个元素为非零，等于K个谐波成分的复幅值
Figure DEST_PATH_IMAGE218AAAA
，其余元素皆为零。对信号
Figure DEST_PATH_IMAGE002_89A
按步骤2和步骤3进行压缩感知和单比特量化，可获得如式(4)表示的
Figure DEST_PATH_IMAGE006_67A
。在实验中我们使用的压缩感知矩阵
Figure DEST_PATH_IMAGE026_9A
为高斯随机矩阵，其元素服从正态分布。然后我们使用L-BIST网络从单比特量化数据
Figure DEST_PATH_IMAGE006_68A
中重构稀疏表示向量
Figure DEST_PATH_IMAGE018_69A
，并恢复信号
Figure DEST_PATH_IMAGE002_90A
。
本发明涉及的实验都是在一台配置了2.4GHz处理器、256GB机带RAM和GeForceGTX 3090英伟达显卡的计算机上进行的，网络模型在Python中实现的(使用Pytorch架构)，在网络训练时使用步长指数衰减的Adam优化器进行训练。
实验1：本实验测试了式 (7a) ~ (7c) 所示的ISTA经典算法从单比特量化数据
Figure DEST_PATH_IMAGE006_69A
中重构稀疏表示向量
Figure DEST_PATH_IMAGE018_70A
的性能。本实验求解的是上文所述的一维谐波信号经过单比特压缩感知后的稀疏重构问题，其中稀疏表示向量
Figure DEST_PATH_IMAGE018_71A
维数为
Figure DEST_PATH_IMAGE226AAAA
，稀疏度为
Figure DEST_PATH_IMAGE228AAA
。
Figure DEST_PATH_IMAGE018_72A
中非零元素的位置按均匀分布随机选取，取值从固定方差的零均值高斯分布中提取。随机采样矩阵
Figure DEST_PATH_IMAGE230AAA
，其元素如上文所述符合正态分布。单比特量化信号
Figure DEST_PATH_IMAGE006_70A
的维数为
Figure DEST_PATH_IMAGE232AAA
。本实验将单比特量化前的信号的信噪比设置为15dB、10dB、5dB、0dB， ISTA的迭代次数固定为1000次，图5~8分别表示了在这四种信噪比下的ISTA恢复的信号与真实信号对比图。分析结果图可知，ISTA可以用于解决单比特稀疏重构问题，且恢复效果与信噪比大小呈正相关。
实验2：本实验仿真了L-BIST网络训练的过程。我们首先使用Matlab产生训练样本集
Figure DEST_PATH_IMAGE168_5A
与测试样本集
Figure DEST_PATH_IMAGE208AAAA
，其中
Figure DEST_PATH_IMAGE234AA
，
Figure DEST_PATH_IMAGE236AA
，这些样本同源产生且单比特量化前的信号的信噪比均为15dB。本实验中信号维数和稀疏度等参数均与实验1中的设置一致。L-BIST网络的层数设置为10层，训练的次数为40次，每次训练均使用小批量训练的方法，设置每个批量的样本数
Figure DEST_PATH_IMAGE238A
。图9展示了训练过程中的损失曲线，可以看出在训练次数约为35次时，损失曲线就已经开始收敛，此时训练数据的归一化均方误差约为-19.9dB，测试数据的归一化均方误差约为-16.5dB。
实验3：本实验测试了10层L-BIST网络从单比特量化数据
Figure DEST_PATH_IMAGE006_71A
中重构稀疏表示向量
Figure DEST_PATH_IMAGE018_73A
的性能。本实验采用的是实验2训练好的网络，信号维数和稀疏度等参数均与实验1中设置的一致，将单比特量化前的信号的信噪比设置为15dB、10dB、5dB、0dB，图10~13分别表示了在这四种信噪比下的L-BIST网络恢复的稀疏信号与真实信号对比图。分析结果图可知，与实验1中ISTA恢复的信号相比，由L-BIST网络恢复的稀疏信号已经过滤了大部分毛刺，恢复效果也与信噪比呈正相关，并且恢复效果优于ISTA。
实验 4：本实验对比了ISTA算法和L-BIST网络在不同信噪比情况下对于一维谐波的单比特压缩感知重构性能。本实验中信号维数和稀疏度等参数均与实验1中的设置一致，单比特量化前的信号的信噪比变化范围为-18dB~25dB。对于ISTA，在不同信噪比下，我们每次都采用了1000组一维谐波信号来测试其性能。对于L-BIST网络，我们依旧采用实验2训练好的10层L-BIST网络，在不同信噪比下，每次也采取1000组测试数据来验证其性能。这里我们采用式(10)定义的归一化均方误差（NMSE）和击中率（Hitrate）来作为衡量性能的指标，当重构的稀疏表示向量
Figure DEST_PATH_IMAGE032_14A
其非零元素的位置与
Figure DEST_PATH_IMAGE018_74A
一致时，我们称为一次击中（Hit）。图15展现了两种方法在不同信噪比下谐波估计的归一化均方误差和击中率的变化。分析结果图可知，两种方法的归一化均方误差随信噪比的增加而减小，且L-BIST网络的归一化均方误差始终小于ISTA的归一化均方误差，这表明L-BIST网络拥有更高的恢复精度。当信噪比不小于5dB时，两种方法都能精准发现谐波。当信噪比小于0dB后，L-BIST网络的击中率高于ISTA，这表明了它在发现谐波频率方面的优势。
以上实验通过一维谐波信号的单比特采样量化与重构的场景，证实了L-BIST深度展开网络在处理单比特压缩感知的重构问题上具有优异的性能。由于采用了低复杂度的深度学习网络结构，与传统基于迭代更新的ISTA算法相比，L-BIST网络不但在高信噪比情况下拥有更好的恢复效果，它还以更小的功耗、更快的速度解决了这类稀疏重构问题，从而节省了硬件成本和时间成本。
以上所述仅是本发明的优选实施方式，应当指出：对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (7)

1.一种低复杂度的稀疏信号采样重构系统，其特征在于：包括信号获取单元、信号稀疏表示单元、压缩感知单元、单比特量化单元、L-BIST网络单元、信号恢复单元、信号输出单元，其中：
所述信号获取单元用于获取待处理信号
Figure DEST_PATH_IMAGE001
；
所述信号稀疏表示单元嵌入有信号稀疏表示模型，所述信号稀疏表示单元通过信号稀疏表示模型对待处理信号
Figure 836315DEST_PATH_IMAGE001
进行稀疏表示，得到稀疏表示后的待处理信号
Figure 189674DEST_PATH_IMAGE001
；
所述压缩感知单元嵌入有采样压缩感知模型，所述压缩感知单元通过采样压缩感知模型对稀疏表示后的待处理信号
Figure 172674DEST_PATH_IMAGE001
进行采样和压缩感知，得到采样压缩感知信号
Figure DEST_PATH_IMAGE002
；
所述单比特量化单元嵌入有单比特量化模型，所述单比特量化单元通过单比特量化模型对采样压缩感知信号进行单比特量化，得到单比特量化信号
Figure DEST_PATH_IMAGE003
；
单比特量化模型为：
Figure DEST_PATH_IMAGE004
其中，
Figure 628536DEST_PATH_IMAGE003
表示单比特量化信号，
Figure DEST_PATH_IMAGE005
表示采样压缩感知信号
Figure 583854DEST_PATH_IMAGE002
的实部，
Figure DEST_PATH_IMAGE006
表示采样压缩感知信号
Figure 547262DEST_PATH_IMAGE002
的虚部，
Figure DEST_PATH_IMAGE007
是虚数单位，
Figure DEST_PATH_IMAGE008
表示实数域的符号函数，
Figure 922617DEST_PATH_IMAGE002
表示采样压缩感知信号，
Figure DEST_PATH_IMAGE009
是待处理信号
Figure DEST_PATH_IMAGE010
的稀疏表示向量，
Figure DEST_PATH_IMAGE011
，
Figure DEST_PATH_IMAGE012
是稀疏表示字典
Figure DEST_PATH_IMAGE013
和压缩感知矩阵
Figure DEST_PATH_IMAGE014
组合而成的矩阵，
Figure DEST_PATH_IMAGE015
表示信号中的噪声；
所述L-BIST网络单元嵌入有L-BIST网络模型，所述L-BIST网络单元通过训练好的L-BIST网络模型对单比特量化信号
Figure 216458DEST_PATH_IMAGE003
进行估计，获得最优的稀疏表示向量估计
Figure DEST_PATH_IMAGE016
；
L-BIST网络模型中采用基于ISTA的迭代方法对正则化松弛后的最小化问题进行求解，正则化松弛后的最小化问题迭代过程如下：
Figure DEST_PATH_IMAGE017
其中，
Figure DEST_PATH_IMAGE018
表示第i次迭代的输出，
Figure DEST_PATH_IMAGE019
是软阈值算子，
Figure DEST_PATH_IMAGE020
表示软阈值函数的输入信号，即
Figure DEST_PATH_IMAGE021
，
Figure DEST_PATH_IMAGE022
表示软阈值函数所使用的阈值，
Figure DEST_PATH_IMAGE023
表示迭代步长；
L-BIST网络模型中正则化松弛后的最小化问题为：
Figure DEST_PATH_IMAGE024
其中，
Figure DEST_PATH_IMAGE025
表示
Figure 58905DEST_PATH_IMAGE009
的
Figure DEST_PATH_IMAGE026
范数，
Figure DEST_PATH_IMAGE027
是松弛系数，
Figure DEST_PATH_IMAGE028
表示
Figure 101204DEST_PATH_IMAGE009
的
Figure DEST_PATH_IMAGE029
范数，
Figure DEST_PATH_IMAGE030
，
Figure DEST_PATH_IMAGE031
是以
Figure 901539DEST_PATH_IMAGE003
为对角元素的
Figure DEST_PATH_IMAGE032
维的对角矩阵；
L-BIST网络模型中利用L-BIST网络进行深度展开网络的情况下忽略正则化松弛后的最小化问题带有约束项
Figure DEST_PATH_IMAGE033
；
L-BIST网络模型采用L-BIST网络将正则化松弛后的最小化问题迭代过程展开，第
Figure DEST_PATH_IMAGE034
层网络具有如下结构：
Figure DEST_PATH_IMAGE035
其中，
Figure DEST_PATH_IMAGE036
和
Figure 82291DEST_PATH_IMAGE003
作为第
Figure 808939DEST_PATH_IMAGE034
层网络的输入，
Figure DEST_PATH_IMAGE037
作为第
Figure 645308DEST_PATH_IMAGE034
层网络的输出，
Figure DEST_PATH_IMAGE038
和
Figure DEST_PATH_IMAGE039
是第
Figure 729676DEST_PATH_IMAGE034
层网络的可训练权值矩阵，
Figure DEST_PATH_IMAGE040
是第
Figure 145745DEST_PATH_IMAGE034
层网络的可训练软阈值，
Figure DEST_PATH_IMAGE041
，
Figure DEST_PATH_IMAGE042
表示L-BIST网络的总层数，
Figure DEST_PATH_IMAGE043
和
Figure DEST_PATH_IMAGE044
作为非线性激活函数；
所述信号恢复单元嵌入有信号恢复模型，所述信号恢复单元通过信号恢复模型根据最优的稀疏表示向量估计
Figure 41413DEST_PATH_IMAGE016
恢复待处理信号
Figure 78377DEST_PATH_IMAGE001
，得到恢复后的信号；
所述信号输出单元用于将恢复后的信号进行输出。
2.根据权利要求1所述低复杂度的稀疏信号采样重构系统，其特征在于：所述信号稀疏表示模型为：
Figure DEST_PATH_IMAGE045
其中，
Figure DEST_PATH_IMAGE046
是待处理信号
Figure 885927DEST_PATH_IMAGE010
的稀疏表示字典，
Figure DEST_PATH_IMAGE047
，
Figure DEST_PATH_IMAGE048
为稀疏表示字典的维数，
Figure 75994DEST_PATH_IMAGE009
是待处理信号
Figure 777234DEST_PATH_IMAGE010
的稀疏表示向量，
Figure DEST_PATH_IMAGE049
，
Figure DEST_PATH_IMAGE050
为所有N维复数的集合，
Figure 126044DEST_PATH_IMAGE009
中仅有少量元素为非零值，其余元素皆为零；
Figure 14366DEST_PATH_IMAGE009
中非零元素个数为
Figure DEST_PATH_IMAGE051
，
Figure DEST_PATH_IMAGE052
；
所述信号恢复模型为：
Figure DEST_PATH_IMAGE053
其中，
Figure DEST_PATH_IMAGE054
表示恢复后的信号。
3.根据权利要求2所述低复杂度的稀疏信号采样重构系统，其特征在于：所述采样压缩感知模型为：
Figure DEST_PATH_IMAGE055
其中，
Figure 86751DEST_PATH_IMAGE002
表示采样压缩感知信号，
Figure DEST_PATH_IMAGE056
是
Figure DEST_PATH_IMAGE057
维的压缩感知矩阵，
Figure DEST_PATH_IMAGE058
为
Figure 750820DEST_PATH_IMAGE057
维矩阵的集合，
Figure DEST_PATH_IMAGE059
为压缩后的维数，
Figure DEST_PATH_IMAGE060
，
Figure DEST_PATH_IMAGE061
为信号
Figure 754022DEST_PATH_IMAGE010
的采样值，
Figure DEST_PATH_IMAGE062
为采样时刻，
Figure DEST_PATH_IMAGE063
，
Figure 270585DEST_PATH_IMAGE014
是
Figure 392999DEST_PATH_IMAGE032
维的采样后的稀疏表示字典。
4.根据权利要求3所述低复杂度的稀疏信号采样重构系统，其特征在于：所述单比特量化模型为
Figure DEST_PATH_IMAGE064
分别对采样压缩感知信号
Figure 272094DEST_PATH_IMAGE002
的实部
Figure 588806DEST_PATH_IMAGE005
和虚部
Figure 717299DEST_PATH_IMAGE006
进行单比特量化：
Figure DEST_PATH_IMAGE065
；
Figure DEST_PATH_IMAGE066
。
5.一种基于权利要求1所述低复杂度的稀疏信号采样重构系统的采样重构方法，其特征在于，包括以下步骤：
步骤1，信号稀疏表示：
获取待处理信号
Figure 787279DEST_PATH_IMAGE001
，通过信号稀疏表示模型对待处理信号
Figure 786459DEST_PATH_IMAGE001
进行稀疏表示，得到稀疏表示后的待处理信号
Figure 274072DEST_PATH_IMAGE001
；
步骤2，压缩感知：
将步骤1中稀疏表示后的待处理信号
Figure 388397DEST_PATH_IMAGE001
通过采样压缩感知模型进行采样和压缩感知得到采样压缩感知信号
Figure 619658DEST_PATH_IMAGE002
；
步骤3，单比特量化：
通过单比特量化模型对采样压缩感知信号
Figure 738923DEST_PATH_IMAGE002
进行单比特量化，得到单比特量化信号
Figure 131859DEST_PATH_IMAGE003
；
步骤4，L-BIST网络：
通过训练好的L-BIST网络模型对单比特量化信号
Figure 234944DEST_PATH_IMAGE003
进行估计，获得最优的稀疏表示向量估计
Figure 505782DEST_PATH_IMAGE016
；
步骤5，信号恢复：
通过信号恢复模型恢复待处理信号
Figure 10712DEST_PATH_IMAGE001
，得到恢复后的信号
Figure 308970DEST_PATH_IMAGE054
。
6.根据权利要求5所述采样重构方法，其特征在于：步骤4中L-BIST网络模型中L-BIST网络的构建方法：
根据单比特量化模型，L-BIST网络需要解决以下非线性重构问题：
Figure DEST_PATH_IMAGE067
其中，
Figure 102613DEST_PATH_IMAGE030
，
Figure 174212DEST_PATH_IMAGE031
是以
Figure 2491DEST_PATH_IMAGE003
为对角元素的
Figure 737229DEST_PATH_IMAGE032
维的对角矩阵；
Figure DEST_PATH_IMAGE068
表示的是单比特量化后信号
Figure 988475DEST_PATH_IMAGE003
的符号限制，
Figure 365230DEST_PATH_IMAGE025
表示
Figure 579173DEST_PATH_IMAGE009
的
Figure 750392DEST_PATH_IMAGE026
范数，
Figure 49786DEST_PATH_IMAGE028
表示
Figure 197608DEST_PATH_IMAGE009
的
Figure 266058DEST_PATH_IMAGE029
范数；
最小化问题进行正则化松弛，得到正则化松弛后的最小化问题：
Figure 608178DEST_PATH_IMAGE024
其中，
Figure DEST_PATH_IMAGE069
是正则化函数，
Figure DEST_PATH_IMAGE070
表示正则化函数的输入，即
Figure DEST_PATH_IMAGE071
，
Figure 494402DEST_PATH_IMAGE027
是松弛系数；
采用基于ISTA的迭代算法对正则化松弛后的最小化问题进行求解，其在第i步迭代更新的原理如下：
Figure DEST_PATH_IMAGE072
Figure DEST_PATH_IMAGE073
Figure DEST_PATH_IMAGE074
其中，
Figure DEST_PATH_IMAGE075
表示第i+1步迭代的软阈值输入值，
Figure 993385DEST_PATH_IMAGE018
表示第i步迭代的输出值，
Figure 181921DEST_PATH_IMAGE023
表示迭代步长，
Figure DEST_PATH_IMAGE076
，
Figure DEST_PATH_IMAGE077
表示
Figure DEST_PATH_IMAGE078
对
Figure 540614DEST_PATH_IMAGE018
的梯度，
Figure DEST_PATH_IMAGE079
表示第i+1步迭代的软阈值输出值，
Figure 17863DEST_PATH_IMAGE019
是软阈值函数，
Figure 8953DEST_PATH_IMAGE020
表示软阈值函数的输入信号，
Figure 317574DEST_PATH_IMAGE022
表示软阈值函数所使用的阈值；
在正则化松弛后的最小化问题下，
Figure 234453DEST_PATH_IMAGE076
，得出：
Figure DEST_PATH_IMAGE080
；
则使用ISTA来解决单比特量化信号重构正则化松弛后的最小化问题的迭代过程如下：
Figure 933418DEST_PATH_IMAGE017
采用L-BIST网络将正则化松弛后的最小化问题迭代过程展开，第
Figure 993778DEST_PATH_IMAGE034
层网络具有如下结构：
Figure 891327DEST_PATH_IMAGE035
其中，
Figure 247615DEST_PATH_IMAGE036
和
Figure 230615DEST_PATH_IMAGE003
是第
Figure 94666DEST_PATH_IMAGE034
层网络的输入，
Figure 581142DEST_PATH_IMAGE037
是第
Figure 872446DEST_PATH_IMAGE034
层网络的输出，
Figure 841277DEST_PATH_IMAGE038
和
Figure 977860DEST_PATH_IMAGE039
是第
Figure 584422DEST_PATH_IMAGE034
层网络的可训练权值矩阵，
Figure 46627DEST_PATH_IMAGE040
是第
Figure 4219DEST_PATH_IMAGE034
层网络的可训练软阈值，
Figure 180379DEST_PATH_IMAGE041
，
Figure 907026DEST_PATH_IMAGE042
表示L-BIST网络的总层数；
Figure 274554DEST_PATH_IMAGE038
和
Figure 188283DEST_PATH_IMAGE039
用全连接层实现，
Figure 430783DEST_PATH_IMAGE043
和
Figure 277517DEST_PATH_IMAGE044
作为非线性激活函数。
7.根据权利要求6所述重构方法，其特征在于：步骤4中L-BIST网络模型中L-BIST网络的训练方法
L-BIST网络训练的目的是通过训练样本集使每一层网络得到最优的参数集，包括每一层的可训练的权值矩阵
Figure DEST_PATH_IMAGE081
以及可训练的软阈值
Figure 956891DEST_PATH_IMAGE040
，将这些可训练参数构成的集记作
Figure DEST_PATH_IMAGE082
；在L-BIST网络的训练阶段，将
Figure DEST_PATH_IMAGE083
个样本用于训练；在每次训练迭代中，采用的训练样本集记为
Figure DEST_PATH_IMAGE084
，
Figure DEST_PATH_IMAGE085
表示第n个训练样本的标签，
Figure DEST_PATH_IMAGE086
表示第n个训练样本的输入数据，每批次使用
Figure DEST_PATH_IMAGE087
个样本来分批来训练网络，
Figure DEST_PATH_IMAGE088
，
Figure DEST_PATH_IMAGE089
，
Figure DEST_PATH_IMAGE090
表示整数的集合；对于每个批次，最小化二次损失函数定义为：
Figure DEST_PATH_IMAGE091
其中，
Figure DEST_PATH_IMAGE092
表示损失函数值，
Figure DEST_PATH_IMAGE093
是由L-BIST网络根据训练数据
Figure 44668DEST_PATH_IMAGE086
恢复出的稀疏信号；
根据每个批次的损失函数值NMSE优化网络参数集
Figure DEST_PATH_IMAGE094
，采用梯度下降法，逐层优化网络参数，使训练样本集上的损失函数最小化，从而使网络获得最优的参数集
Figure DEST_PATH_IMAGE095
。
CN202210998816.2A 2022-08-19 2022-08-19 一种低复杂度的稀疏信号采样重构系统及方法 Active CN115065367B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210998816.2A CN115065367B (zh) 2022-08-19 2022-08-19 一种低复杂度的稀疏信号采样重构系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210998816.2A CN115065367B (zh) 2022-08-19 2022-08-19 一种低复杂度的稀疏信号采样重构系统及方法

Publications (2)

Publication Number Publication Date
CN115065367A CN115065367A (zh) 2022-09-16
CN115065367B true CN115065367B (zh) 2022-11-11

Family

ID=83207848

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210998816.2A Active CN115065367B (zh) 2022-08-19 2022-08-19 一种低复杂度的稀疏信号采样重构系统及方法

Country Status (1)

Country Link
CN (1) CN115065367B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118033528B (zh) * 2024-01-15 2024-10-18 南京理工大学 基于深度展开网络的单比特稀疏双极子阵列的波达方向估计方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102984711A (zh) * 2012-11-21 2013-03-20 北京邮电大学 基于单比特压缩感知技术的多用户协作频谱感知方法
CN108614252A (zh) * 2018-07-02 2018-10-02 南京理工大学 基于参数化稀疏表示的单比特压缩感知雷达目标时延估计方法
CN109412602A (zh) * 2018-09-29 2019-03-01 清华大学 基于低比特量化观测值的分布式稀疏信号检测方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102984711A (zh) * 2012-11-21 2013-03-20 北京邮电大学 基于单比特压缩感知技术的多用户协作频谱感知方法
CN108614252A (zh) * 2018-07-02 2018-10-02 南京理工大学 基于参数化稀疏表示的单比特压缩感知雷达目标时延估计方法
CN109412602A (zh) * 2018-09-29 2019-03-01 清华大学 基于低比特量化观测值的分布式稀疏信号检测方法及装置

Also Published As

Publication number Publication date
CN115065367A (zh) 2022-09-16

Similar Documents

Publication Publication Date Title
CN110136731B (zh) 空洞因果卷积生成对抗网络端到端骨导语音盲增强方法
US11403528B2 (en) Self-tuning incremental model compression solution in deep neural network with guaranteed accuracy performance
CN112464837B (zh) 基于小数据样本的浅海水声通信信号调制识别方法及系统
CN111723701B (zh) 一种水中目标识别方法
CN109870729B (zh) 基于离散余弦变换的深度神经网络磁共振信号消噪方法
CN107527371B (zh) 一种在压缩感知中逼近光滑l0范数的图像重建算法的设计构建方法
Bao et al. A compressed sensing approach to blind separation of speech mixture based on a two-layer sparsity model
CN113113030B (zh) 一种基于降噪自编码器的高维受损数据无线传输方法
CN109523486A (zh) 噪声环境下基于鲁棒压缩感知的多通道脑电信号重构方法
CN115065367B (zh) 一种低复杂度的稀疏信号采样重构系统及方法
CN109584330A (zh) 一种基于压缩感知逼近l0范数的梯度投影图像重建方法
BaoShun et al. DualPRNet: Deep shrinkage dual frame network for deep unrolled phase retrieval
CN111798531B (zh) 一种应用于植株监测的图像深度卷积压缩感知重构方法
CN111312270B (zh) 语音增强方法及装置、电子设备和计算机可读存储介质
Rafi et al. Data driven measurement matrix learning for sparse reconstruction
CN113538612B (zh) 一种基于变分低秩分解的ｋ空间加速磁共振图像重建方法
Upadhyaya et al. Basis & sensing matrix as key effecting parameters for compressive sensing
Upadhyaya et al. Quality parameter index estimation for compressive sensing based sparse audio signal reconstruction
CN110266318B (zh) 一种在压缩感知信号重建中基于梯度投影算法的测量矩阵优化方法
Bhadoria et al. Comparative analysis of basis & measurement matrices for non-speech audio signal using compressive sensing
CN108734191B (zh) 深度学习应用于压缩感知重建的数据训练方法
Rao et al. Computed Tomography Medical Image Compression using Conjugate Gradient
Bala et al. Effect of sparsity on speech compressed sensing
Zhang et al. An image compression method based on wavelet transform and neural network
Wu et al. Compressive Sensing Based Convolutional Neural Network for Object Detection

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant