CN109344471A - 稀疏恢复算法的正则化参数选择方法及系统、计算机程序 - Google Patents
稀疏恢复算法的正则化参数选择方法及系统、计算机程序 Download PDFInfo
- Publication number
- CN109344471A CN109344471A CN201811083082.5A CN201811083082A CN109344471A CN 109344471 A CN109344471 A CN 109344471A CN 201811083082 A CN201811083082 A CN 201811083082A CN 109344471 A CN109344471 A CN 109344471A
- Authority
- CN
- China
- Prior art keywords
- sparse
- value
- regularization parameter
- reconstruction
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000011084 recovery Methods 0.000 title claims abstract description 38
- 238000004422 calculation algorithm Methods 0.000 title claims abstract description 36
- 238000010187 selection method Methods 0.000 title claims abstract description 22
- 238000004590 computer program Methods 0.000 title claims abstract description 12
- 238000000034 method Methods 0.000 claims abstract description 24
- 238000011478 gradient descent method Methods 0.000 claims abstract description 6
- 230000008859 change Effects 0.000 claims description 7
- 238000005457 optimization Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 abstract description 5
- 230000000694 effects Effects 0.000 description 4
- 241000208340 Araliaceae Species 0.000 description 3
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 3
- 235000003140 Panax quinquefolius Nutrition 0.000 description 3
- 235000008434 ginseng Nutrition 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000009394 selective breeding Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Evolutionary Computation (AREA)
- Geometry (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明属于信号稀疏重建技术领域,公开了一种稀疏恢复算法的正则化参数选择方法及系统、计算机程序,对于每一个正则化参数值,求出对应的信号的稀疏重建问题的值,并计算J1(τ)的值;求解J1(τ)的二阶导数对应的则化参数后,再结合梯度下降法,求得原稀疏问题的解。本发明可以为基于L1范数的稀疏模型自动寻找到一个合适的正则化参数,减少了人为调试的过程。
Description
技术领域
本发明属于信号稀疏重建技术领域,尤其涉及一种稀疏恢复算法的正则化参数选择方法及系统、计算机程序。
背景技术
目前,业内常用的现有技术是这样的:
信号的稀疏表示就是用尽量少的基本信号来表示原始信号。ψ由过完备函数集{ψk,k=1,…,M}组成,假设待分析信号为x,需要选择的系数为s∈RM,满足x=ψs,直观上的讲,稀疏表示就是使系数向量s含有尽量少的非零向量。因此信号的稀疏重建可以描述为如下的优化问题
s.t.||s||0≤ε
ε为一个很小的正常数。更进一步,根据拉格朗日乘子法,存在一个合适的正常数τ,使得上述问题等价于如下的无约束最小化问题:
但是L0范数不具有稳健性,对带有噪声的信号分析不具有适应性。而且L0范数最小化是一个NP-hard问题,很难得到近似解。但是源于lasso问题的L1范数可以很好的代替L0范数以满足稀疏性,带有L1范数正则项的最小化问题可以在多项式时间内解决,且便于求解。因此上述的两个表达式可以写成如下的形式:
s.t.||s||1≤ε
这里的τ为正则化参数,它用于平衡误差项与稀疏性之间的比例,是一个折衷参数,与正则项的选取、噪声分布及方差均有关。但是在实际运用的时候,除了特定问题,τ可以求出理论值或者近似值,大部分情况下都是根据实际经验去手动调试τ值以得到一个较好的结果。
综上所述,现有技术存在的问题是:
(1)现有技术中,在实际运用的时候,除了特定问题,正则化参数可以求出理论值或者近似值,大部分情况下都是根据实际经验去手动调试正则化参数值以得到一个较好的结果,耗费了调试人员大量的时间和精力。
而人工调参在某些情况下是不能适用的,
(2)在观测信号为非平稳信号的时候,为了获取较好的恢复效果,每观测一次信号,就需要调试一次正则化参数,观测一次调试一次,一旦观测的数据很多,需要的处理时间会大大增加,因而在实际情况中是行不通的。
(3)当环境噪声和观测信号有关或受其影响时,人工预先选择一个较好的正则化参数也是行不通的。比如信号存在漫反射时,漫反射的强度对正则化参数又会产生影响,当观测到不同的信号时,对应的正则化参数是会产生变化的,所以无法人工选择一个较为合适的正则化参数来获得对所有的观测信号一个较好的恢复效果。
解决上述技术问题的难度和意义:
难度在于:稀疏恢复算法中,正则化参数的选择目前主要依赖人工调试,且在非平稳信号等特殊情况人工调试方法是行不通的。
解决现有技术后带来的意义:
本发明提供的自动寻找正则化参数的方法改变了上述的困境,不仅减少了人工参与的过程,节省了调试人员的时间和精力,而且在前面提到的特殊情况下也是行得通的,大大增加了稀疏恢复算法的应用范围。
发明内容
针对现有技术存在的问题,本发明提供了一种稀疏恢复算法的正则化参数选择方法及系统、计算机程序。
本发明是这样实现的,一种稀疏恢复算法的正则化参数选择方法,包括:
首先计算机将待处理的观测信号问题建模成稀疏重建问题,对于每一个正则化参数值,利用各种优化算法求得对应的的稀疏重建问题的解,并计算J1(τ)的值;
接着利用二次差分法求解J1(τ)关于τ的二阶导数,当二阶导数取最小值时对应的τ值即为所要选择的正则化参数,代入原稀疏重建问题,利用优化算法即求得原问题的解。
进一步,所述稀疏恢复算法的正则化参数选择方法,应用于计算机,具体包括:
步骤一:设定一个τ的范围,τ取值范围为(0,50],对于每一个τ值,求出对应的信号的稀疏重建问题的值,代入计算J1(τ)的值;
其中:X为观测信号,ψ为过完备字典,为每一个τ值对应的信号稀疏重建问题的解;
步骤二:采用二次差分法求解J1(τ)的二阶导数;当J1(τ)的二阶导数取最小值时,对应的τ值即为所要取的参数;
步骤三:将步骤二获得的τ值代入J(τ),再结合梯度下降法,求得原稀疏问题的解。
进一步,信号的稀疏重建问题为对于每一个τ值,都有一个最小值,将最小值表示为关于τ的函数:
其中:X为观测信号,ψ为过完备字典,s为过完备字典对应的系数向量,为待求稀疏重建问题的解,τ为正则化参数。
本发明的另一目的在于提供一种计算机程序,所述计算机程序实现所述的稀疏恢复算法的正则化参数选择方法。
本发明的另一目的在于提供一种终端,所述终端至少搭载实现所述稀疏恢复算法的正则化参数选择方法的控制器。
本发明的另一目的在于提供一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行所述的稀疏恢复算法的正则化参数选择方法。
本发明的另一目的在于提供一种实现所述稀疏恢复算法的正则化参数选择方法的稀疏恢复算法的正则化参数选择系统,所述稀疏恢复算法的正则化参数选择系统包括:
信号的稀疏重建问题值求解模块,用于每一个τ值,求出对应的信号的稀疏重建问题的值,并计算J1(τ)的值;
正则化参数值获得模块,采用二次差分法求解J1(τ)的二阶导数;当J1(τ)的二阶导数取最小值时,对应的τ值即为所要取的参数;
原稀疏问题解获得模块,将获得的τ值代入J(τ),再结合梯度下降法,求得原稀疏问题的解。
本发明的另一目的在于提供一种网络信号稀疏重建设备,所述网络信号稀疏重建设备至少搭载稀疏恢复算法的正则化参数选择系统。
综上所述,本发明的优点及积极效果为:本发明提供的自动寻找正则化参数的方法不仅减少了人工参与的过程,节省了调试人员的时间和精力,而且在非平稳环境等特殊情况下,正则化参数是随着每一次的观测而产生变化的,如果每次观测信号都要调试一次显然是行不通的,而本发明提供的自动寻找正则化参数的方法却是解决了这样的困境。这也大大增加了稀疏恢复算法的应用范围。
本发明可以为基于L1范数的稀疏模型自动寻找到一个合适的正则化参数,减少了人为调试的过程。
本发明处理的软件为matlab。输入就是原始的观测信号。
在相同的硬件环境下,本发明提供的稀疏恢复算法的正则化参数选择方法比人工调试耗费的时间更少,适用范围更广。例如非平稳信号条件下,人工调试根据单次观测信号调试得到的正则化参数运用到下一次的调试中,会产生较大的误差,而本发明的方法针对每次观测信号都会自主调整,选择一个合适的正则化参数,得到一个较好的恢复效果。
附图说明
图1是本发明实施例提供的稀疏恢复算法的正则化参数选择方法流程图。
图2是本发明实施例提供的稀疏恢复算法的正则化参数选择系统示意图。
图中:1、信号的稀疏重建问题值求解模块;2、正则化参数值获得模块;3、原稀疏问题解获得模块。
图3是本发明实施例提供的单目标情况下J(τ)、J1(τ)变化曲线图;
图4是本发明实施例提供的单目标情况下J1(τ)的二阶导数变化曲线图;
图5是本发明实施例提供的单目标情况下在估计的τ处的恢复值图;
图6是本发明实施例提供的多目标情况下J(τ)、J1(τ)变化曲线图;
图7是本发明实施例提供的多目标情况下J1(τ)的二阶导数变化曲线图;
图8是多目标情况下在估计的τ处的恢复值图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
现有技术中,在实际运用的时候,除了特定问题,正则化参数可以求出理论值或者近似值,大部分情况下都是根据实际经验去手动调试正则化参数值以得到一个较好的结果。
图1,本发明实施例提供的稀疏恢复算法的正则化参数选择方法,应用于计算机,包括:
对于信号的稀疏重建问题其对于每一个τ值,都有一个最小值,所以可以将其最小值表示为关于τ的函数:
而此等式可以用J1(τ)表示:
S101:设定一个τ的合理范围(由于τ通常情况下是一个较小的正数,建议取值范围为(0,50]),对于每一个τ值,求出其对应的信号的稀疏重建问题的值然后代入计算J1(τ)的最小值。
S102:求解J1(τ)的二阶导数(可采用二次差分法)。当J1(τ)的二阶导数取最小值时,其对应的τ值即为所要取的参数。
S103:将此τ值代入J(τ),再结合相关的优化算法(如梯度下降法等),即可求得原稀疏问题的解。
如图2,本发明实施例提供的稀疏恢复算法的正则化参数选择系统,应用于计算机,包括:
信号的稀疏重建问题值求解模块1,用于每一个τ值,求出对应的信号的稀疏重建问题的值,并计算J1(τ)的值;
正则化参数值获得模块2,采用二次差分法求解J1(τ)的二阶导数;当J1(τ)的二阶导数取最小值时,对应的τ值即为所要取的参数;
原稀疏问题解获得模块3,将获得的τ值代入J(τ),再结合梯度下降法,求得原稀疏问题的解。
下面结合具体实验对本发明作进一步描述。
由于波达角估计问题可以建模成稀疏重建问题,所以本发明以波达角估计为背景问题,验证上述提出的方法。实验条件如下:阵元数为20,仿真信号为线性调频脉冲信号,载波波长为1cm,阵元间隔为载波波长的一半,字典范围是-20°到20°,间隔为0.1°,信噪比为0dB,单目标情况下真实的角度为10°,多目标情况下真实的角度为[5°,15°]。
在单目标的情况下,首先估计τ的取值范围为(0,10],从图4可以找出在τ=6.3处,J1(τ)的二阶导数取得最小值,从图3也可以观察到在τ=6.3出斜率有明显的变化,所以可以选择τ为6.3,图5表明在选择的τ处的恢复值与真实值契合的很好。
在多目标的情况下,从图7可以看出,τ=6.8处,J1(τ)的二阶导数取得最小值,所以可以选择τ为6.8。图8表明看到在选择的τ处的恢复值与真实值契合的很好。
图6是本发明实施例提供的多目标情况下J(τ)、J1(τ)变化曲线图。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用全部或部分地以计算机程序产品的形式实现,所述计算机程序产品包括一个或多个计算机指令。在计算机上加载或执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输)。所述计算机可读取存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘SolidState Disk(SSD))等。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种信号稀疏恢复算法的正则化参数选择方法,其特征在于,所述稀疏恢复算法的正则化参数选择方法包括:
计算机将待处理的观测信号问题建模成稀疏重建问题,对于每一个正则化参数值,利用各种优化算法求得到对应的稀疏重建问题的解,并计算J1(τ)的值;
利用二次差分法求解J1(τ)关于τ的二阶导数,当二阶导数取最小值时对应的τ值即为所要选择的正则化参数,代入原稀疏重建问题,利用优化算法即求得原问题的解。
2.如权利要求1所述的稀疏恢复算法的正则化参数选择方法,其特征在于,所述稀疏恢复算法的正则化参数选择方法,应用于计算机,具体包括:
步骤一:设定一个τ的范围,τ取值范围为(0,50],对于每一个τ值,求出对应的信号的稀疏重建问题的值,代入计算J1(τ)的值;X为观测信号,ψ为过完备字典,为每一个τ值对应的信号稀疏重建问题的解;
步骤二:采用二次差分法求解J1(τ)的二阶导数;当J1(τ)的二阶导数取最小值时,对应的τ值即为所要取的参数;
步骤三:将步骤二获得的τ值代入J(τ),再结合梯度下降法,求得原稀疏问题的解。
3.如权利要求2所述的稀疏恢复算法的正则化参数选择方法,其特征在于,
信号的稀疏重建问题为对于每一个τ值,都有一个最小值,将最小值表示为关于τ的函数:
其中:X为观测信号,ψ为过完备字典,s为过完备字典对应的系数向量,为待求稀疏重建问题的解,τ为正则化参数。
4.一种计算机程序,其特征在于,所述计算机程序实现权利要求1~3任意一项所述的稀疏恢复算法的正则化参数选择方法。
5.一种终端,其特征在于,所述终端至少搭载实现权利要求1~3任意一项所述稀疏恢复算法的正则化参数选择方法的控制器。
6.一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行如权利要求1-3任意一项所述的稀疏恢复算法的正则化参数选择方法。
7.一种实现权利要求1所述稀疏恢复算法的正则化参数选择方法的稀疏恢复算法的正则化参数选择系统,其特征在于,所述稀疏恢复算法的正则化参数选择系统应用于计算机,包括:
信号的稀疏重建问题值求解模块,用于求出对应的信号的稀疏重建问题的值;
正则化参数值获得模块,采用二次差分法求解的二阶导数;得到所要取的参数;
原稀疏问题解获得模块,求得原稀疏问题的解。
8.一种网络信号稀疏重建设备,其特征在于,所述网络信号稀疏重建设备至少搭载权利要求7所述的稀疏恢复算法的正则化参数选择系统。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811083082.5A CN109344471A (zh) | 2018-09-17 | 2018-09-17 | 稀疏恢复算法的正则化参数选择方法及系统、计算机程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811083082.5A CN109344471A (zh) | 2018-09-17 | 2018-09-17 | 稀疏恢复算法的正则化参数选择方法及系统、计算机程序 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109344471A true CN109344471A (zh) | 2019-02-15 |
Family
ID=65305802
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811083082.5A Pending CN109344471A (zh) | 2018-09-17 | 2018-09-17 | 稀疏恢复算法的正则化参数选择方法及系统、计算机程序 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109344471A (zh) |
-
2018
- 2018-09-17 CN CN201811083082.5A patent/CN109344471A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102170105B1 (ko) | 신경 네트워크 구조의 생성 방법 및 장치, 전자 기기, 저장 매체 | |
Ansari-Asl et al. | Quantitative evaluation of linear and nonlinear methods characterizing interdependencies between brain signals | |
Anis et al. | Maximum-likelihood coherent-state quantum process tomography | |
CN113537501B (zh) | 电磁串扰的标定和缓释方法、装置及电子设备 | |
CN112819169B (zh) | 量子控制脉冲生成方法、装置、设备及存储介质 | |
EP2998751A1 (en) | Detecting, localizing and ranking copper connectors | |
US11181552B2 (en) | Categorization of acquired data based on explicit and implicit means | |
Izacard et al. | A learning-based framework for line-spectra super-resolution | |
US20220036231A1 (en) | Method and device for processing quantum data | |
US10611025B2 (en) | Method an device for evaluating performance of industrial control loops based on full loop reconstruction simulations | |
CN109065176B (zh) | 一种血糖预测方法、装置、终端和存储介质 | |
JP2022186677A (ja) | 試験測定システム | |
Cheng et al. | Background error covariance iterative updating with invariant observation measures for data assimilation | |
CN115795282B (zh) | 激波管动态压力重构方法、装置、电子设备及存储介质 | |
US10432325B1 (en) | Testing phase noise in output signal of device under test using transformable frequency signals | |
Liao et al. | Reduced-order variational mode decomposition to reveal transient and non-stationary dynamics in fluid flows | |
Liu et al. | Machine-learning-based prediction of regularization parameters for seismic inverse problems | |
CN108509179B (zh) | 用于检测人脸的方法、用于生成模型的装置 | |
CN118177834A (zh) | 跨设备的脑电数据对齐方法、装置、设备及存储介质 | |
CN113783810A (zh) | 智能反射面辅助室内通信的信道估计方法、装置及介质 | |
CN109344471A (zh) | 稀疏恢复算法的正则化参数选择方法及系统、计算机程序 | |
US11308349B1 (en) | Method to modify adaptive filter weights in a decentralized wireless sensor network | |
CN105572472B (zh) | 分布式电源环境的频率测量方法与系统 | |
Yuan et al. | Determining the core radio luminosity function of radio AGNs via copula | |
CN113033760B (zh) | 用于测试神经网络中算子精度的方法、测试装置及其系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190215 |