CN110470396B - 光谱平滑降噪的处理方法 - Google Patents
光谱平滑降噪的处理方法 Download PDFInfo
- Publication number
- CN110470396B CN110470396B CN201910837428.4A CN201910837428A CN110470396B CN 110470396 B CN110470396 B CN 110470396B CN 201910837428 A CN201910837428 A CN 201910837428A CN 110470396 B CN110470396 B CN 110470396B
- Authority
- CN
- China
- Prior art keywords
- matrix
- spectrum
- array
- noise reduction
- noise
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001228 spectrum Methods 0.000 title claims abstract description 75
- 238000003672 processing method Methods 0.000 title claims abstract description 14
- 238000009499 grossing Methods 0.000 title claims description 26
- 239000011159 matrix material Substances 0.000 claims abstract description 63
- 238000001914 filtration Methods 0.000 claims abstract description 29
- 230000009467 reduction Effects 0.000 claims abstract description 24
- 230000003595 spectral effect Effects 0.000 claims abstract description 20
- 238000005259 measurement Methods 0.000 claims abstract description 19
- 238000000034 method Methods 0.000 claims abstract description 19
- 230000010354 integration Effects 0.000 claims abstract description 8
- 238000003491 array Methods 0.000 abstract 1
- 230000000694 effects Effects 0.000 description 12
- RZVAJINKPMORJF-UHFFFAOYSA-N Acetaminophen Chemical compound CC(=O)NC1=CC=C(O)C=C1 RZVAJINKPMORJF-UHFFFAOYSA-N 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000008707 rearrangement Effects 0.000 description 4
- 238000001069 Raman spectroscopy Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000001237 Raman spectrum Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 229960005489 paracetamol Drugs 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008094 contradictory effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0297—Constructional arrangements for removing other types of optical noise or for performing calibration
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/28—Investigating the spectrum
- G01J3/44—Raman spectrometry; Scattering spectrometry ; Fluorescence spectrometry
Landscapes
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Spectrometry And Color Measurement (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Abstract
一种光谱平滑降噪的处理方法,涉及一种光谱降噪方法,包括以下步骤:S1.连续采集n次光谱;S2.将每次光谱序列值为一列,n次测量的光谱构成矩阵M;S3.将矩阵M重新构成一个一维数组V;S4.对数组V作平滑滤波,输出数组V O ;S5.将数组V O 重排为平滑降噪后的矩阵M O 输出;S6.把矩阵M O 的各列累加或者平均,累加值代表了n次连续采集的累积积分时间对应的光谱;平均值代表了n次连续采集的单位测量时间对应的光谱。本发明解决了降噪和保真的矛盾问题,其方法简便,成本比较低。
Description
技术领域
本发明涉及一种光谱降噪的处理方法,特别是一种光谱平滑降噪的处理方法。
背景技术
检测信号永远受到噪声的干扰,因此降噪也是优化仪器性能的长久选题;尤其是对于拉曼光谱这样的弱响应,噪声直接关系到信号的检出与否。
需要指出的是各种降噪方式,从直观上看都是改善了输出信号的视觉效果,而从严格意义上可分成降低信号中随机干扰和低通平滑滤波等两类。对于降低信号中随机干扰这类方式,主要是通过改善检测器硬件随机干扰幅度、多次均值(或累积)降低随机干扰方差等,这类方法可以实际降低随机干扰的影响,但随着程度提高,会显著提升成本;而低通平滑滤波这类实际是采用不同设计的带通滤波器,如移动平均滤波、高斯滤波等等,在光谱信号处理的应用中,Savitzky和Golay提出的多项式最小二乘平滑滤波颇受关注。
带通滤波实质是滤除光谱中一定频率的信号,达到平滑和提高有效信号占比的目的,但是光谱信号尤其是拉曼、中红外等分辨率高的谱线,不满足理想带限假设,滤波方法伴随平滑效果而来的就是谱线失真,降噪和保真的矛盾也是这类研究的持续话题。低通或者带通平滑滤波,其原理是限制高频信号通过,实现输出信号平滑。输出信号失真的关键在于光谱达到一定分辨率后,反映细节的信号也处于高频率范围,以频率带限作为限制指标,在原理上,必然产生失真。
信号中的高频部分,既是信号的细节,也是噪声在感官上最显著的部分,既要降噪显著又要保证信号真实,这是一个矛盾。各种滤波方法中,Savitzky-Golay从理论上的最小二乘解得到,尽管近年来提出了频率自适应等改进,但是面对分辨率较高的光谱如拉曼光谱中光谱细节与噪声高频存在重合的信号,还是不得不作矛盾取舍。因此更准确、简单、高效的平滑滤波方法一直为人期待。
发明内容
本发明要解决的技术问题是:提供一种光谱平滑降噪的处理方法,以解决现有技术存在的显著提升成本、降噪和保真需作矛盾取舍的不足之处。
本发明的技术方案是:一种光谱平滑降噪的处理方法,该方法包括以下步骤:
S1. 连续采集n次光谱;
S2. 将每次光谱序列值为一列,n次测量的光谱构成矩阵M;
S3. 将矩阵M重新构成一个一维数组V;
S4. 对数组V作平滑滤波,输出数组V O ;
S5. 将数组V O 重排为平滑降噪后的矩阵M O 输出;
S6. 把矩阵M O 的各列累加或者平均,累加值代表了n次连续采集的累积积分时间对应的降噪后光谱;平均值代表了n次连续采集的单位测量时间对应的降噪后光谱。
本发明的进一步技术方案是:所述的步骤S1包括的具体过程为:
按照光谱信噪比和分辨率的实际情况,连续采集n次光谱,n大于10次。
本发明的进一步技术方案是:所述的步骤S2包括的具体过程为:
将每次光谱序列值为一列,n次测量的光谱构成矩阵M={mij},矩阵M的元素mij代表第i个波长下第j次测量的读数。
本发明的进一步技术方案是:所述的步骤S3包括的具体过程为:
将矩阵M重排为序列V={V11,V12,……,V1j,……,Vi1,Vi2,……,Vij,……},即将矩阵M中各行首尾相接,重新构成一个一维数组V。
本发明的进一步技术方案是所述的步骤S4包括的具体过程为:
选用合适的滤波器,设定带限参数,对数组V作平滑滤波,输出数组V O 。
本发明的进一步技术方案是:所述的步骤S5包括的具体过程为:
将数组V O 按照矩阵M的ij排列,重排为平滑降噪后的矩阵M O 并输出,矩阵M O 的每一列也对应了各次测量的光谱。
由于采用上述技术方案,本发明之光谱平滑降噪的处理方法与现有技术相比,具有以下有益效果:
1.可解决降噪和保真的矛盾问题
由于光谱信号和噪声的本质差别在于确定性,真实光谱信号是确定的,而噪声不确定,如果利用确定性来降低光谱信号频率,那么就能将噪声高频与光谱细节频带区别开,降低信号输出失真。图1是叠加了噪声的高斯峰对比示意图,当峰宽接近最小采样间隔时,真值的峰宽与噪声起伏峰宽无法区别,噪声势必会对平滑造成较大影响。如果相同的高斯峰多次重复获取,重排构成新的序列,那么构成的序列是确定,而噪声不确定,重新绘制新的序列于图2,噪声由于随机,其频率不会因为重排而降低,真值是确定的,重排后频率随着重复次数降低,因此,真值信号的频率已经与噪声有了显著差异。通过确定信号重复获取重排后频率降低的性质,可以用来扩大其与噪声的差异,降低滤波失真。本发明正是利用了这一发明原理,通过将n次测量的光谱构成矩阵M,并将矩阵M重新构成一个一维数组V;对数组V作平滑滤波,输出数组V O ;再将数组V O 重排为平滑降噪后的矩阵M O 输出,把矩阵M O 的各列累加或者平均,累加值代表了n次连续采集的累积积分时间对应的降噪后光谱;平均值代表了n次连续采集的单位测量时间对应的降噪后光谱。因此,本发明可解决降噪和保真的矛盾问题。
2.方法简便,成本低
本发明无需增加硬件成本,同时计算量小,可以降低软件运算时间和成本。
下面,结合附图和实施例对本发明之光谱平滑降噪的处理方法的技术特征作进一步的说明。
附图说明
图1:本发明原理中叠加噪声前后的高斯峰对比示意图,
图2:本发明原理中多次相同的高斯峰重排构成新的序列效果图,
图3:实施例一所述模拟叠加强度4%的噪声前后高斯峰效果图,
图4:实施例一所述50组叠加随机噪声信号矩阵重排效果图,
图5:实施例一所述数组V作平滑滤波后得到的数组V O 效果图,
图6:实施例一所述平滑降噪后的信号效果图,
图7:图6中最窄峰的局部放大图,
图8:20次1秒采集光谱的平均值、S-G对单根1秒光谱及本发明方法处理结果比较效果图,
图9:图8 的局部放大图。
在上述附图中,各标号说明如下:
Sg-本发明原理中叠加噪声前后的高斯峰,Sz-本发明原理中叠加的噪声,
Sg1-实施例一中叠加强度4%的噪声前后的高斯峰,Sz1- 4%强度的噪声,
S1-实施例一中本发明最终输出平滑降噪后的信号,
S0-实施例一中实际真值信号,
SS-G1-实施例一中采用最小失真Savitzky-Golay滤波处理后平均的结果,
S2-实施例二中本发明最终输出平滑降噪后的累积值,
SS-G2-实施例二中采用S-G对单根1秒光谱的处理结果,
SJ-实施例二中20次1秒采集光谱的平均值。
具体实施方式
一种光谱平滑降噪的处理方法,该方法包括以下步骤:
S1. 连续采集n次光谱:
按照光谱信噪比和分辨率的实际情况,连续采集n次光谱,一般情况下,n大于10次;
S2. 将每次光谱序列值为一列,n次测量的光谱构成矩阵M:
将每次光谱序列值为一列,n次测量的光谱构成矩阵M={mij},矩阵M的元素mij代表第i个波长下第j次测量的读数;
S3. 将矩阵M重新构成一个一维数组V:
将矩阵M重排为序列V={V11,V12,……,V1j,……,Vi1,Vi2,……,Vij,……},即将矩阵M中各行首尾相接,重新构成一个一维数组V;
S4. 对数组V作平滑滤波,输出数组V O :
选用合适的滤波器,设定带限参数,对数组V作平滑滤波,输出数组V O ;例如选择移动平均平滑,窗口宽度一般可在0.5n~2n范围内选取;
S5. 将数组V O 重排为平滑降噪后的矩阵M O 输出:
将数组V O 按照矩阵M的ij排列,重排为平滑降噪后的矩阵M O 并输出,矩阵M O 的每一列也对应了各次测量的光谱;
S6. 把矩阵M O 的各列累加或者平均,累加值代表了n次连续采集的累积积分时间对应的光谱;平均值代表了n次连续采集的单位测量时间对应的光谱。
以下是本发明的具体实施案例:
实施例一:
本实施例一是选用模拟不同峰宽的高斯峰添加噪声后,展示本发明方法的实施过程,同时比对Savitzky-Golay滤波的效果。
图3是模拟的一组不同峰宽的高斯峰,叠加强度4%的噪声前后的信号。
本发明方法的具体步骤如下:
S1. 连续采集n次光谱:
连续采集n=50次随机噪声的光谱;
S2. 将每次光谱序列值为一列,n次测量的光谱构成矩阵M:
将每次光谱序列值为一列,n=50次测量的光谱构成矩阵M={mij},矩阵M的元素mij代表第i个波长下第j次测量的读数;
S3. 将矩阵M重新构成一个一维数组V:
将矩阵M重排为序列V={V11,V12,……,V1j,……,Vi1,Vi2,……,Vij,……},即将矩阵M中各行首尾相接,重新构成一个一维数组V;图4是数组V的信号情况,可以看出数组V信号中小峰宽真值和噪声高频出现显著差异。
S4. 对数组V作平滑滤波,输出数组V O :
采用移动平均滤波,选择窗口宽度为80,对数组V作平滑滤波,得到数组V O,图5是平滑滤波后得到的数组V O ;
S5. 将数组V O 重排为平滑降噪后的矩阵M O 输出:
将数组V O 按照矩阵M的ij排列,重排为平滑降噪后的矩阵M O 并输出,矩阵M O 的每一列也对应了各次测量的光谱;
S6. 把矩阵M O 的各列平均,平均值代表了n次连续采集的单位测量时间对应的光谱,输出平滑降噪后的信号S1,见图6。
为了清晰表达本发明的效果,图7是最窄峰的局部放大图,该图7中可见本发明输出平滑降噪后的信号S1与实际真值信号S0几乎重合,而每组信号采用最小失真Savitzky-Golay滤波(2阶,窗口尺寸5)处理后平均的结果SS-G1,见图7中虚线,出现了较明显失真,峰宽增加,幅度下降。
实施例二:
选用对乙酰氨基酚的拉曼谱图采用本发明方法进行平滑处理。
本发明方法的具体步骤如下:
S1. 连续采集n次光谱:
将积分时间1秒的测量,分解成20次50ms测量,即在积分时间50ms下,连续采集20次对乙酰氨基酚的拉曼光谱,获取到20组光谱;
S2. 将每次光谱序列值为一列,n次测量的光谱构成矩阵M:
将每次光谱序列值为一列,20次测量的光谱构成矩阵M={mij},矩阵M的元素mij代表第i个波长下第j次测量的读数;
S3. 将矩阵M重新构成一个一维数组V:
将矩阵M重排为序列V={V11,V12,……,V1j,……,Vi1,Vi2,……,Vij,……},即将矩阵M中各行首尾相接,重新构成一个一维数组V;
S4. 对数组V作平滑滤波,输出数组V O :
采用移动平均滤波,选择窗口宽度为50,对数组V作平滑滤波,输出数组V O ;
S5. 将数组V O 重排为平滑降噪后的矩阵M O 输出:
将数组V O 按照矩阵M的ij排列,重排为平滑降噪后的矩阵M O 并输出,同样的,矩阵M O 的每一列也对应了各次测量的光谱;
S6. 把矩阵M O 的各列累加,累加值代表了n次连续采集的累积积分时间对应的光谱,即对20次50ms光谱降噪平滑后的累积值。
采用本发明所述步骤,本发明处理结果与20次原始数据平均和S-G平滑效果进行比对,结果见图8。
图8中3根谱线,分别是20次1秒采集光谱的平均值SJ、S-G对单根1秒光谱的处理结果SS-G2、本发明对20次50ms光谱降噪平滑后的累积值S2。对图8进行局部放大如图9,可以看出本发明对细节的保留效果很好,因为20次1秒平均值没有带宽滤波失真,因此,与之相比本发明得到的谱线失真小于S-G平滑;而从在图8的整体上也能看出,本发明的平滑降噪得到了很好的效果,与20次1秒平均值相比,光谱更为平滑。
Claims (4)
1.一种光谱平滑降噪的处理方法,其特征在于:该方法包括以下步骤:
S1. 连续采集n次光谱;
S2. 将每次光谱序列值为一列,n次测量的光谱构成矩阵M;
S3. 将矩阵M重新构成一个一维数组V:将矩阵M重排为序列V={V11,V12,……,V1j,……,Vi1,Vi2,……,Vij,……},即将矩阵M中各行首尾相接,重新构成一个一维数组V;
S4. 对数组V作平滑滤波,输出数组V O ;
S5. 将数组V O 重排为平滑降噪后的矩阵M O 输出:将数组V O 按照矩阵M的ij排列,重排为平滑降噪后的矩阵M O 并输出,矩阵M O 的每一列也对应了各次测量的光谱;
S6. 把矩阵M O 的各列累加或者平均,累加值代表了n次连续采集的累积积分时间对应的降噪后光谱;平均值代表了n次连续采集的单位测量时间对应的降噪后光谱。
2.根据权利要求1所述的光谱平滑降噪的处理方法,其特征在于:所述的步骤S1包括的具体过程为:
按照光谱信噪比和分辨率的实际情况,连续采集n次光谱,n大于10次。
3.根据权利要求1所述的光谱平滑降噪的处理方法,其特征在于:所述的步骤S2包括的具体过程为:
将每次光谱序列值为一列,n次测量的光谱构成矩阵M={mij},矩阵M的元素mij代表第i个波长下第j次测量的读数。
4.根据权利要求1所述的光谱平滑降噪的处理方法,其特征在于:所述的步骤S4包括的具体过程为:
选用合适的滤波器,设定带限参数,对数组V作平滑滤波,输出数组V O 。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910837428.4A CN110470396B (zh) | 2019-09-05 | 2019-09-05 | 光谱平滑降噪的处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910837428.4A CN110470396B (zh) | 2019-09-05 | 2019-09-05 | 光谱平滑降噪的处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110470396A CN110470396A (zh) | 2019-11-19 |
CN110470396B true CN110470396B (zh) | 2022-02-11 |
Family
ID=68514938
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910837428.4A Active CN110470396B (zh) | 2019-09-05 | 2019-09-05 | 光谱平滑降噪的处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110470396B (zh) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7865322B2 (en) * | 2008-04-14 | 2011-01-04 | Dh Technologies Development Pte. Ltd. | Relative noise |
CN105628649B (zh) * | 2015-12-24 | 2018-03-16 | 山东省科学院激光研究所 | 气体现场监测特征吸收峰提取方法 |
CN106383107A (zh) * | 2016-09-23 | 2017-02-08 | 新疆大学 | 一种基于平滑滤波联合vs‑lms的光谱信号降噪方法 |
CN106680229B (zh) * | 2016-12-13 | 2019-08-09 | 重庆川仪自动化股份有限公司 | 一种基于doas的光谱数据处理方法 |
-
2019
- 2019-09-05 CN CN201910837428.4A patent/CN110470396B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN110470396A (zh) | 2019-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20030123584A1 (en) | Trace video filtering using wavelet de-noising techniques | |
CN109086555B (zh) | 采用蒙特卡罗方法的模拟能谱曲线仿真方法 | |
CN108387887A (zh) | 一种水声信号的混合降噪方法 | |
CN112347992B (zh) | 一种荒漠地区时序agb遥感估算方法 | |
CN115265723B (zh) | 基于数据处理的涡街流量计异常监测方法及系统 | |
CN103778921A (zh) | 消除雷达采集到的语音中的不均匀噪声的方法 | |
CN113066502A (zh) | 基于vmd和多小波的心音分割定位方法 | |
CN109724693B (zh) | 一种基于平稳小波的融合光谱去噪方法 | |
CN116662738A (zh) | 分布式振动传感信号去噪方法、电子装置及存储介质 | |
CN106644075A (zh) | 一种傅立叶光谱仪的高效去噪方法 | |
CN114186596B (zh) | 一种谱图峰的多窗口识别方法、装置以及电子设备 | |
CN114417937A (zh) | 一种基于深度学习的拉曼光谱去噪方法 | |
CN110470396B (zh) | 光谱平滑降噪的处理方法 | |
Li et al. | Signal denoising based on the Schrödinger operator's eigenspectrum and a curvature constraint | |
WO2022233110A1 (zh) | 一种阶梯叠加式傅里叶变换微分方法 | |
CN109059788B (zh) | 厚度测量方法及设备 | |
CN108596879B (zh) | 一种基于希尔伯特黄变换的fMRI时频域动态网络构建方法 | |
CN108168697B (zh) | 一种光谱仪降噪和波长标定方法 | |
CN113837032A (zh) | 一种nv色心光探测磁共振曲线的极度欠采样重构方法 | |
CN110780162B (zh) | 一二次融合配电开关局部放电信号提取方法及检测装置 | |
CN111007369B (zh) | 一种超高频电磁波信号到达时间差计算方法和装置 | |
CN114690003A (zh) | 一种基于eemd的局放信号降噪方法 | |
CN110459197B (zh) | 用于微弱盲信号去噪与提取的信号增强器及方法 | |
CN109116425B (zh) | 利用反射波的频谱设计滤波器去除噪音的方法 | |
CN113726318A (zh) | 基于wm的局部放电白噪声自适应抑制方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |