CN112881308B - 一种基于宽光谱编码和深度学习的光谱相机 - Google Patents
一种基于宽光谱编码和深度学习的光谱相机 Download PDFInfo
- Publication number
- CN112881308B CN112881308B CN202110090003.9A CN202110090003A CN112881308B CN 112881308 B CN112881308 B CN 112881308B CN 202110090003 A CN202110090003 A CN 202110090003A CN 112881308 B CN112881308 B CN 112881308B
- Authority
- CN
- China
- Prior art keywords
- spectral
- spectrum
- imaging
- wide
- coding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Spectrometry And Color Measurement (AREA)
Abstract
本发明公开了一种基于宽光谱编码和深度学习的光谱相机。该相机包括宽光谱编码滤光片、成像镜头、成像探测器和图像处理装置。其原理是在成像探测器前方加入宽光谱编码滤光片,将入射到图像探测器上的光线光谱进行编码,将所得的宽光谱编码图像输入图像处理装置。然后使用深度学习算法,将光谱编码图像重构得出光谱图像。本发明具有以下优点:与窄带编码滤光片相比,使用宽光谱编码滤光片可以提高编码效率、减少所需的滤光片数目,同时可以增加系统的透过率,获得更高的图像信噪比;与迭代算法相比,使用深度学习算法可以显著提高重构计算速度,并且具有更高的抗噪声能力和更高的重构精度。
Description
技术领域
本发明属于光学成像、光电检测、光谱分析以及光电器件领域。本发明可以广泛应用于现在的各种光谱分析与高分辨成像及监控、以及农业农产品检测,卫生医药与健康领域。
背景技术
光谱成像技术主要是以物体对不同波长光线的吸收存在差异为原理,通过测量目标物体在一定波长范围内特定频率的光强度变化来实现检测、辨别。随着高光谱成像技术的不断提高,应用范围也在不断扩大,尤其在医学、农业、矿业、环境、军事以及安检等领域都有着重要的应用。在农业领域,高光谱成像技术可以通过从可见光到热红外不同的狭窄波段区感应能量,分别获得地物在不同谱段上的影像,以此识别地物的具体情况,主要应用于作物病害诊断、农产品品质检测、作物生长状态监测等方面。另外,在重大自然灾害面前,高光谱成像技术还可以在灾害评估方面发挥重要的作用,提供准确的灾情评估报告,为决策部门制定救灾、减灾方案提供了精准的信息资料。
传统的光谱相机由于结构复杂、体积大、笨重、昂贵等缺点难以进入消费者的生活。近年来随着材料科学和光学薄膜技术的发展,诞生了各种新型的光谱调制器件,光谱调制的精细度和可控度也越来越高。典型的光谱调制材料有超表面、量子点、光子晶体等。然而这些材料面临着许多加工与制造方面的难题。首先,这些材料难以产生可控、连续变化的光谱通带,设计难度大。其次,这些材料在某些波段尤其是可见光波段的透过率不高,这限制了它们作为光谱调制器件的应用。
近年来,随着压缩感知等软件算法被引入光谱检测中,大批的计算型光谱探测技术涌现出来,以期改善新材料的这些缺点。传统光谱探测设备分辨率的提高依赖于窄带滤光片的个数或者色散元件的色散能力,而计算型光谱探测设备不对滤光片等光谱调制器的光谱曲线有色散能力的要求,而是通过使用算法重构出光谱。因此可以使用宽光谱滤光片实现光谱探测。然而这些计算型光谱探测设备通常基于压缩感知理论,它们的光谱重构算法往往都是迭代式的优化算法。这种算法有着两个明显的缺点:第一,计算耗时。对于光谱图像中的每个像素,需要分别解出对应的优化问题,而这种优化问题必须使用迭代算法进行求解。目前成像系统的像素数大多都在百万或千万量级,解算这样的一幅光谱图像大概需要几个小时甚至几天的时间。第二,这种算法对噪声的敏感程度高,且难以实时调整优化参数以达到最优的重构精度。基于迭代优化的压缩感知算法往往需要对重构精度与稀疏度进行权衡,但在噪声水平不同时,实现这一权衡所对应的参数均不同。实际应用中图像的噪声水平往往未知,如果使用固定的优化参数,可能造成重构精度的降低,而优化参数的动态变化往往难以实现。
发明内容
本发明提供了一种基于宽光谱编码和深度学习的光谱相机,由宽光谱编码滤光片、成像镜头、成像探测器和图像处理装置四个部分组成。目标物体发出(或反射)的光由光谱曲线不同的宽光谱编码滤光片调制后入射到成像器件上,得到编码图像,再由图像处理装置通过深度学习算法解算出各个谱段的图像,最终获得目标物体的光谱图像。
采用宽光谱编码滤光片,可以显著减少光谱探测所需的滤光片数目,同时增加系统的进光量,提高编码图像的信噪比。与传统的迭代式重构算法相比,采用深度学习算法进行光谱图像重构,可以将迭代优化过程替换为一系列的矩阵乘法运算,同时还可以进一步利用GPU或专用处理器的并行处理能力,大大提高图像重构速度。经实验验证,使用GPU平台的神经网络算法可以比传统的迭代算法速度快近万倍,可以实现光谱图像的实时重建。这有利于实现实时光谱成像,对于监控、医疗等光谱成像场景有着巨大的应用前景。
本发明的具体技术方案如下:
一种基于宽光谱编码和深度学习的光谱相机,包括:宽光谱编码滤光片、成像镜头、成像探测器和图像处理装置四个部分;
所述宽光谱编码滤光片对成像目标发出的到达光谱相机的光线进行光谱调制,可置于成像镜头之前,也可置于成像镜头与成像探测器之间;
所述成像镜头用于实现光学成像;成像目标发出的光线经宽光谱编码滤光片和镜头之后成像;
所述成像探测器用于将所成的像记录并转换为图像处理装置可处理的信号形式;
所述图像处理装置接收成像探测器所记录的编码图像,通过深度学习算法,重构出高光谱图像。
进一步地,所述基于宽光谱编码和深度学习的光谱相机的每个宽光谱编码滤光片的谱宽覆盖率均大于1/3。
进一步地,所述宽光谱编码滤光片的谱宽覆盖率的计算方法如下:设光谱相机的光谱探测范围为λmin至λmax,某个宽光谱编码滤光片的光谱透过率曲线为S(λ),将S(λ)等间距地离散化为S(λ1),S(λ2),…,S(λN),其中N≥100,λ1=λmin,λN=λmax。则该宽光谱编码滤光片的谱宽覆盖率为式中crad{·}的含义为集合中的元素个数。谱宽覆盖率即表示滤光片光谱透过率大于等于平均值的光谱区域占整个光谱探测范围的比值。
进一步地,所述图像处理装置所使用的深度学习算法为深度神经网络。
进一步地,所述深度神经网络的输入数据为一个大小为W×H×M的张量,对应于成像探测器所记录的一组M幅编码图像;输出数据为一个大小为W×H×N的张量,对应于整幅高光谱图像。其中,W、H分别为图像的宽、高方向上的像素数,N为光谱通道数。
进一步地,训练所述深度神经网络的数据集由以下步骤生成:
(1)使用光谱成像设备拍摄多种目标物体的高光谱图像,构成高光谱图像数据集。其中,每个高光谱图像的宽、高方向上的像素数分别为W、H,光谱通道数为N。
(2)使用所述基于宽光谱编码和深度学习的光谱相机拍摄对应多个目标物体的多组编码图像,构成编码图像数据集。其中,每组编码图像的宽、高方向上的像素数分别为W、H,每组编码图像中的图像个数为M。
(3)步骤(2)中的拍摄过程也可以由计算机仿真完成。
进一步地,所述深度神经网络的训练过程为迭代求解如下最小化问题:
式中,Dθ为深度神经网络,θ为深度神经网络中被训练的参数,l为编码图像数据集中一个像素位置处的M个编码值,p为高光谱图像数据集中对应像素位置处的光谱曲线,n为随机噪声,f为损失函数。
进一步地,当使用基于均方误差(MSE)的损失函数训练网络时,损失函数表示为:
式中,K为一次迭代过程中用于训练的样本个数。
进一步地,所述深度神经网络各层的参数经训练得到,训练过程为迭代优化过程。训练过程结束后各层的参数固定,深度神经网络运行时不再需要进行迭代优化。
本发明原理如下:
设物体上某一点的光谱为P(λ),M个宽光谱编码滤光片的光谱透过率为S1(λ),S2(λ),…,SM(λ)。则经第m(m=1,2,…,M)个宽光谱编码滤光后,成像探测器所获得的该点光谱强度信号Lm可表示为
将物体该点光谱P(λ)与宽光谱编码滤光片的光谱Sm(λ)离散化为在λmin至λmax范围内通道数为N的序列,则该成像过程可表示为
即
l=S·p (公式1)
式中,向量l为物体上该点在成像面上探测到的光强组成的光谱编码向量,矩阵S的第m行为离散化后的第m个宽光谱编码滤光片的光谱,向量p为物体上该点的光谱曲线。
当M<N时,由成像得到的光谱编码向量l恢复出原始信号向量p是一个有无穷多解的问题,这表明传统的光谱成像方法不能得到高于滤光片数目的光谱分辨率。但是考虑到被测物体光谱的稀疏性,当使用宽光谱编码滤光片时,如果合理地设计、选择宽光谱编码滤光片的光谱曲线,使其符合压缩感知原理对测量矩阵的要求,则这M个强度信号可以通过深度学习算法解算出N(N>M)个光谱信号值,实现超过滤光片数目的光谱分辨率。将编码图像所有像素点的光谱信息都用这种方式进行解算重构,最终可以得到光谱分辨个数为N的高光谱图像。
符合压缩感知原理的宽光谱编码滤光片可以由多种方式获得,例如采用一组随机膜层厚度的薄膜滤光片,或者使用优化算法仿真得到。为保证每个宽光谱编码滤光片都具有足够的光谱透过率,应确保每个滤光片的谱宽覆盖率大于1/3。所述的谱宽覆盖率,其计算方法如下:设光谱相机的光谱探测范围为λmin至λmax,某个宽光谱编码滤光片的光谱透过率曲线为S(λ),将S(λ)等间距地离散化为S(λ1),S(λ2),…,S(λN),其中N≥100,λ1=λmin,λN=λmax。则该宽光谱编码滤光片的谱宽覆盖率为式中crad{·}的含义为集合中的元素个数。谱宽覆盖率即表示滤光片光谱透过率大于等于平均值的光谱区域占整个光谱探测范围的比值。
基于深度学习的光谱重构算法可以由深度神经网络实现。将构建的深度神经网络的输入设为M个强度信号值,输出设为N个光谱信号值,则训练该神经网络的过程即为求解以下问题的过程:
式中,Dθ为深度神经网络,θ为被训练的参数,l为训练集中的编码图像像素点,p为目标物体上对应位置的光谱曲线,n为随机噪声,f为损失函数。使用迭代算法求解上述问题,即可得到训练后的神经网络参数θ。当训练结束后,深度神经网络Dθ即可被用于光谱图像的重构。
训练该深度神经网络需要首先构建对应的数据集。该数据集须由以下步骤生成:
(1)使用光谱成像设备拍摄多个目标物体的高光谱图像,构成高光谱图像数据集。其中,每个高光谱图像的宽、高方向上的像素数分别为W、H,光谱通道数为N。
(2)使用所述基于宽光谱编码和深度学习的光谱相机拍摄对应多个目标物体的多组编码图像,构成编码图像数据集。其中,每组编码图像的宽、高方向上的像素数分别为W、H,每组编码图像中的图像个数为M。
(3)步骤(2)中的拍摄过程也可以由计算机仿真完成,即根据公式1,向量p为被测物体上一点处的光谱曲线,训练神经网络时即对应于高光谱图像数据集中一个像素位置处的光谱曲线;向量l为物体上该点在成像面上探测到的光强组成的光谱编码向量,即对应于编码图像数据集中一个像素位置处的M个编码值。矩阵S的每行为离散化后的每个宽光谱编码滤光片的光谱,可以通过分光光度计等设备标定获得。通过公式1所示的矩阵乘法运算,即可根据高光谱图像数据集生成编码图像数据集。
由于深度神经网络在训练时可以方便地将随机噪声n加入输入数据进行训练,所以使用深度神经网络的光谱重构算法具有更好的抗噪声能力。同时,在神经网络训练完成后,参数中不含有经验调整项,所以在不同的应用场景及噪声水平下有着稳定的表现。而传统的迭代式重构算法需要引入经验调整项以应对不同的噪声水平,而且噪声抑制能力与重建精度成制衡关系,所以难以实现噪声较高时的高精度重建。
与现有技术相比,本发明具有以下有益的技术效果:
(1)可以提高成像质量和灵敏度。由于宽光谱成像的进光量远大于窄光谱成像,这种方法提高了成像的光能利用率,可以大大提高光谱成像系统的成像质量和灵敏度。
(2)可以显著提高光谱图像的重建速度。经测试,在重建一幅大小为640×480×301的光谱图像时,使用本发明所述的深度学习算法比迭代式的优化重建算法速度提升约7000倍。
(3)可以提高光谱图像重建过程的抗噪声能力。
附图说明
图1为本发明一个实施例提供的一种基于宽光谱编码和深度学习的光谱相机,宽光谱编码滤光片置于成像镜头与成像探测器之间的示意图;
图2为本发明另一个实施例提供的一种基于宽光谱编码和深度学习的光谱相机,宽光谱编码滤光片置于成像镜头之前的示意图。
图3为本发明中的深度学习算法与传统的迭代式算法的抗噪声能力对比图。
具体实施方式
下面结合实施例和附图来详细说明本发明,但本发明并不限于此。
本发明提供的一种基于宽光谱编码和深度学习的光谱相机,包括:宽光谱编码滤光片、成像镜头、成像探测器和图像处理装置四个部分;
所述宽光谱编码滤光片对成像目标发出的到达光谱相机的光线进行光谱调制,可置于成像镜头之前,也可置于成像镜头与成像探测器之间;
所述成像镜头用于实现光学成像;成像目标发出的光线经宽光谱编码滤光片和镜头之后成像;
所述成像探测器用于将所成的像记录并转换为图像处理装置可处理的信号形式;
所述图像处理装置接收成像探测器所记录的编码图像,通过深度学习算法,重构出高光谱图像。
进一步地,所述基于宽光谱编码和深度学习的光谱相机的每个宽光谱编码滤光片的谱宽覆盖率均大于1/3。
进一步地,所述宽光谱编码滤光片的谱宽覆盖率,其计算方法如下:设光谱相机的光谱探测范围为λmin至λmax,某个宽光谱编码滤光片的光谱透过率曲线为S(λ),将S(λ)等间距地离散化为S(λ1),S(λ2),…,S(λN),其中N≥100,λ1=λmin,λN=λmax。则该宽光谱编码滤光片的谱宽覆盖率为式中crad{·}的含义为集合中的元素个数。谱宽覆盖率即表示滤光片光谱透过率大于等于平均值的光谱区域占整个光谱探测范围的比值。
进一步地,所述图像处理装置所使用的深度学习算法为深度神经网络。
进一步地,所述深度神经网络的输入数据为一个大小为W×H×M的张量,对应于成像探测器所记录的一组M幅编码图像;输出数据为一个大小为W×H×N的张量,对应于整幅高光谱图像。其中,W、H分别为图像的宽、高方向上的像素数,N为光谱通道数。
进一步地,训练所述深度神经网络的数据集由以下步骤生成:
(1)使用光谱成像设备拍摄多个目标物体的高光谱图像,构成高光谱图像数据集。其中,每个高光谱图像的宽、高方向上的像素数分别为W、H,光谱通道数为N。
(2)使用所述基于宽光谱编码和深度学习的光谱相机拍摄对应多个目标物体的多组编码图像,构成编码图像数据集。其中,每组编码图像的宽、高方向上的像素数分别为W、H,每组编码图像中的图像个数为M。
(3)步骤(2)中的拍摄过程也可以由计算机仿真完成。
进一步地,所述深度神经网络的训练过程为迭代求解如下最小化问题:
式中,Dθ为深度神经网络,θ为深度神经网络中被训练的参数,l为编码图像数据集中一个像素位置处的M个编码值,p为高光谱图像数据集中对应像素位置处的光谱曲线,n为随机噪声,f为损失函数。
进一步地,当使用基于均方误差(MSE)的损失函数训练网络时,损失函数表示为
式中,K为一次迭代过程中用于训练的样本个数。
进一步地,所述深度神经网络各层的参数经训练得到,训练过程为迭代优化过程。训练过程结束后各层的参数固定,深度神经网络运行时不再需要进行迭代优化。
实施例1
所实现的一种基于宽光谱编码和深度学习的光谱相机,如图1所示,具体方案如下:
包括宽光谱编码滤光片、成像镜头、成像探测器和图像处理装置四个部分;
所述宽光谱编码滤光片对成像目标发出的到达光谱相机的光线进行光谱调制,置于成像镜头与成像探测器之间;
所述成像镜头用于实现光学成像;成像目标发出的光线经宽光谱编码滤光片和镜头之后成像;
所述成像探测器用于将所成的像记录并转换为图像处理装置可处理的信号形式;
所述图像处理装置接收成像探测器所记录的编码图像,通过深度学习算法,重构出高光谱图像。
进一步地,所述基于宽光谱编码和深度学习的光谱相机的每个宽光谱编码滤光片的谱宽覆盖率均大于1/3。
进一步地,所述图像处理装置所使用的深度学习算法为深度神经网络。
进一步地,所述光谱相机的光谱探测范围为λmin=400nm至λmax=700nm,有M=16个宽光谱编码滤光片,光谱相机输出的光谱图像宽640像素、高480像素,共301个光谱通道。
进一步地,所述深度神经网络的输入数据为一个大小为640×480×16的张量,对应于成像探测器所记录的一组9幅编码图像;输出数据为一个大小为640×480×301的张量,对应于整幅高光谱图像。
进一步地,训练所述深度神经网络的数据集由以下步骤生成:
(1)使用光谱成像设备拍摄多个目标物体的高光谱图像,构成高光谱图像数据集。其中,每个高光谱图像的宽、高方向上的像素数分别为640、480,光谱通道数为301。
(2)使用所述基于宽光谱编码和深度学习的光谱相机拍摄对应多个目标物体的多组编码图像,构成编码图像数据集。其中,每组编码图像的宽、高方向上的像素数分别为640、480,每组编码图像中的图像个数为16。
(3)步骤(2)中的拍摄过程也可以由计算机仿真完成。
进一步地,所述深度神经网络的训练过程为迭代求解如下最小化问题:
式中,Dθ为深度神经网络,θ为深度神经网络中被训练的参数,l为编码图像数据集中一个像素位置处的M个编码值,p为高光谱图像数据集中对应像素位置处的光谱曲线,n为随机噪声,f为损失函数。训练时使用基于均方误差(MSE)的损失函数训练网络,一次迭代过程中用于训练的样本个数K=2000。损失函数表示为
进一步地,所述深度神经网络各层的参数经训练得到,训练过程为迭代优化过程。训练过程结束后各层的参数固定,深度神经网络运行时不再需要进行迭代优化。
经实际测试,本发明在重构速度、抗噪声性能方面比传统方法有明显提升。如表1所示,在一台Intel Core i9-10900x CPU、Nvidia GeForce 2080Ti GPU计算机平台上,使用本发明所述的深度学习算法(表中简称DNN)比传统的迭代式重构算法(表中简称CS/BPDN)速度提升约7000-11000倍。
表1两种算法的重建速度对比
高光谱图像大小 | CS/BPDN | DNN |
480×640×301 | 3307.3s | 0.48s |
480×1280×301 | 7219.2s | 0.65s |
如图3所示,在不同的噪声水平下,本发明中的深度学习算法(图中简称DNN)比传统的迭代式重构算法(图中简称CS/BPDN)的重构精度平均高出8.14倍。
实施例2
所实现的一种基于宽光谱编码和深度学习的光谱相机,如图2所示,具体方案如下:
包括宽光谱编码滤光片、成像镜头、成像探测器和图像处理装置四个部分;
所述宽光谱编码滤光片对成像目标发出的到达光谱相机的光线进行光谱调制,置于成像镜头之前;
所述成像镜头用于实现光学成像;成像目标发出的光线经宽光谱编码滤光片和镜头之后成像;
所述成像探测器用于将所成的像记录并转换为图像处理装置可处理的信号形式;
所述图像处理装置接收成像探测器所记录的编码图像,通过深度学习算法,重构出高光谱图像。
进一步地,所述基于宽光谱编码和深度学习的光谱相机的每个宽光谱编码滤光片的谱宽覆盖率均大于1/3。
进一步地,所述图像处理装置所使用的深度学习算法为深度神经网络。
进一步地,所述光谱相机的光谱探测范围为λmin=350nm至λmax=950nm,有M=9个宽光谱编码滤光片,光谱相机输出的光谱图像宽3000像素、高2000像素,共201个光谱通道。
进一步地,所述深度神经网络的输入数据为一个大小为3000×2000×9的张量,对应于成像探测器所记录的一组9幅编码图像;输出数据为一个大小为3000×2000×201的张量,对应于整幅高光谱图像。。
进一步地,训练所述深度神经网络的数据集由以下步骤生成:
(1)使用光谱成像设备拍摄多个目标物体的高光谱图像,构成高光谱图像数据集。其中,每个高光谱图像的宽、高方向上的像素数分别为3000、2000,光谱通道数为201。
(2)使用所述基于宽光谱编码和深度学习的光谱相机拍摄对应多个目标物体的多组编码图像,构成编码图像数据集。其中,每组编码图像的宽、高方向上的像素数分别为3000、2000,每组编码图像中的图像个数为9。
(3)步骤(2)中的拍摄过程也可以由计算机仿真完成。
进一步地,所述深度神经网络的训练过程为迭代求解如下最小化问题:
式中,Dθ为深度神经网络,θ为深度神经网络中被训练的参数,l为编码图像数据集中一个像素位置处的M个编码值,p为高光谱图像数据集中对应像素位置处的光谱曲线,n为随机噪声,f为损失函数。训练时使用基于均方误差(MSE)的损失函数训练网络,一次迭代过程中用于训练的样本个数K=5000。损失函数表示为
进一步地,所述深度神经网络各层的参数经训练得到,训练过程为迭代优化过程。训练过程结束后各层的参数固定,深度神经网络运行时不再需要进行迭代优化。
以上所述仅为本发明的较佳实施举例,并不用于限制本发明,凡在本发明精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (7)
1.一种基于宽光谱编码和深度学习的光谱相机,其特征在于,包括:宽光谱编码滤光片、成像镜头、成像探测器和图像处理装置四个部分;
所述宽光谱编码滤光片共有M个,其作用为对成像目标发出的到达光谱相机的光线进行光谱调制,可置于成像镜头之前,也可置于成像镜头与成像探测器之间;每个宽光谱编码滤光片的谱宽覆盖率均大于1/3;所述宽光谱编码滤光片的谱宽覆盖率计算方法如下:设光谱相机的光谱探测范围为λmin至λmax,某个宽光谱编码滤光片的光谱透过率曲线为S(λ),将S(λ)等间距地离散化为S(λ1),S(λ2),…,S(λn),其中n≥100,λ1=λmin,λn=λmax;则该宽光谱编码滤光片的谱宽覆盖率为式中crad{·}的含义为集合中的元素个数;谱宽覆盖率即表示滤光片光谱透过率大于等于平均值的光谱区域占整个光谱探测范围的比值;
所述成像镜头用于实现光学成像;成像目标发出的光线经宽光谱编码滤光片和镜头之后成像;
所述成像探测器用于将所成的像记录并转换为图像处理装置可处理的信号形式;在一次成像过程中,将这M个宽光谱编码滤光片先后置于成像光路中,成像探测器先后记录M幅编码图像,作为一组编码图像;
所述图像处理装置接收成像探测器所记录的一组编码图像,通过深度学习算法,重构出一幅高光谱图像。
2.根据权利要求1所述的基于宽光谱编码和深度学习的光谱相机,其特征在于,所述图像处理装置所使用的深度学习算法为深度神经网络。
3.根据权利要求2所述的基于宽光谱编码和深度学习的光谱相机,其特征在于,所述深度神经网络的输入数据为一个大小为W×H×M的张量,对应于成像探测器所记录的一组M幅编码图像;输出数据为一个大小为W×H×N的张量,对应于整幅高光谱图像;其中,W、H分别为图像的宽、高方向上的像素数,N为光谱通道数。
4.根据权利要求2所述的基于宽光谱编码和深度学习的光谱相机,其特征在于,训练所述深度神经网络的数据集由以下步骤生成:
(1)使用光谱成像设备拍摄多个目标物体的高光谱图像,构成高光谱图像数据集;其中,每个高光谱图像的宽、高方向上的像素数分别为W、H,光谱通道数为N;
(2)使用所述基于宽光谱编码和深度学习的光谱相机拍摄对应多个目标物体的多组编码图像,构成编码图像数据集;其中,每组编码图像的宽、高方向上的像素数分别为W、H,每组编码图像中的图像个数为M;
(3)步骤(2)中的拍摄过程也可以由计算机仿真完成。
7.根据权利要求2所述的基于宽光谱编码和深度学习的光谱相机,其特征在于,所述深度神经网络各层的参数经训练得到,训练过程为迭代优化过程;训练过程结束后各层的参数固定,深度神经网络运行时不再需要进行迭代优化。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110090003.9A CN112881308B (zh) | 2021-01-22 | 2021-01-22 | 一种基于宽光谱编码和深度学习的光谱相机 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110090003.9A CN112881308B (zh) | 2021-01-22 | 2021-01-22 | 一种基于宽光谱编码和深度学习的光谱相机 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112881308A CN112881308A (zh) | 2021-06-01 |
CN112881308B true CN112881308B (zh) | 2022-04-08 |
Family
ID=76050432
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110090003.9A Active CN112881308B (zh) | 2021-01-22 | 2021-01-22 | 一种基于宽光谱编码和深度学习的光谱相机 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112881308B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113418873B (zh) * | 2021-06-23 | 2022-05-17 | 中国科学院长春光学精密机械与物理研究所 | 一种高光谱成像系统及重构光谱成像方法 |
CN115615544A (zh) * | 2021-07-16 | 2023-01-17 | 华为技术有限公司 | 光谱测量装置及其测量方法 |
CN116164841B (zh) * | 2023-04-26 | 2023-07-07 | 中国科学院长春光学精密机械与物理研究所 | 基于计算增强型像元分光光谱成像芯片的光谱重构方法 |
CN118129907B (zh) * | 2024-05-08 | 2024-09-20 | 中国科学院长春光学精密机械与物理研究所 | 中长波红外光谱调制快照成像光谱仪及图谱重建方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4499197B2 (ja) * | 1997-07-03 | 2010-07-07 | ソニー株式会社 | ディジタル信号符号化装置及び方法、復号化装置及び方法、並びに伝送方法 |
US6819798B2 (en) * | 2000-07-27 | 2004-11-16 | Bae Systems Information Electronic Systems Integration Inc. | Spectral drift and correction technique for hyperspectral imaging systems |
CN102788643B (zh) * | 2012-07-13 | 2014-03-12 | 中国科学院长春光学精密机械与物理研究所 | 一种空间遥感光谱仪器在轨高精度光谱定标的方法 |
CA2995850A1 (en) * | 2015-08-31 | 2017-03-09 | Ryan Kottenstette | Systems and methods for analyzing remote sensing imagery |
CN106997581A (zh) * | 2017-03-01 | 2017-08-01 | 杭州电子科技大学 | 一种利用深度学习重建高光谱图像的方法 |
CN110476118B (zh) * | 2017-04-01 | 2021-10-15 | 深圳市大疆创新科技有限公司 | 用于机器视觉的低轮廓多波段高光谱成像 |
CN110108358A (zh) * | 2019-03-28 | 2019-08-09 | 浙江大学 | 一种高光谱成像方法及装置 |
CN110175971B (zh) * | 2019-05-27 | 2022-09-16 | 大连海事大学 | 一种多光谱单像素成像的深度学习图像重构方法 |
CN111157114B (zh) * | 2019-12-26 | 2022-01-28 | 西安电子科技大学 | 基于波长转换的长波红外多光谱成像方法及装置 |
CN111340698A (zh) * | 2020-02-17 | 2020-06-26 | 北京航空航天大学 | 一种基于神经网络的多光谱图像光谱分辨率增强方法 |
CN112113661B (zh) * | 2020-07-29 | 2021-07-13 | 西安交通大学 | 一种深度学习型快照式光谱成像装置及其探测方法 |
CN111999788B (zh) * | 2020-09-28 | 2021-05-04 | 浙江大学 | 宽光谱编码全彩色滤光片阵列 |
-
2021
- 2021-01-22 CN CN202110090003.9A patent/CN112881308B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN112881308A (zh) | 2021-06-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112881308B (zh) | 一种基于宽光谱编码和深度学习的光谱相机 | |
Song et al. | Hyperspectral anomaly detection via convolutional neural network and low rank with density-based clustering | |
Xu et al. | Deep Learning Application for Predicting Soil Organic Matter Content by VIS‐NIR Spectroscopy | |
CN103743482A (zh) | 一种光谱成像装置及光谱成像反演方法 | |
Kwan et al. | Performance of change detection algorithms using heterogeneous images and extended multi-attribute profiles (EMAPs) | |
Gao et al. | Computational ghost imaging in scattering media using simulation-based deep learning | |
Xu et al. | Single infrared image stripe removal via deep multi-scale dense connection convolutional neural network | |
Xie et al. | Trainable spectral difference learning with spatial starting for hyperspectral image denoising | |
Kareem et al. | Multilabel land cover aerial image classification using convolutional neural networks | |
CN115731191A (zh) | 一种基于神经网络的窄波段光谱成像方法 | |
CN115439431A (zh) | 基于光谱损失函数的栈式降噪自编码器和协同表示的高光谱异常检测方法 | |
Mantripragada et al. | The effects of spectral dimensionality reduction on hyperspectral pixel classification: A case study | |
Xu et al. | Hyperspectral image reconstruction based on the fusion of diffracted rotation blurred and clear images | |
CN107655571A (zh) | 一种基于色散模糊的光谱成像系统及其光谱重建方法 | |
Zhang et al. | Photon-starved snapshot holography | |
CN116879192B (zh) | 基于卫星遥感数据的水华预测方法、装置、设备及介质 | |
Xu et al. | Snapshot hyperspectral imaging based on equalization designed doe | |
CN115221932A (zh) | 基于神经网络的光谱恢复方法、装置和电子设备 | |
CN107560732A (zh) | 基于计算光谱成像技术的光谱分类器及分类方法 | |
CN115855839A (zh) | 一种基于admm框架的改进空谱融合高光谱计算重构方法 | |
CN115931123A (zh) | 基于自适应优化稀疏字典的光谱重建计算方法及光谱系统 | |
CN114690508A (zh) | 一种基于高斯滤波优化的量子成像方法 | |
Zhao et al. | Redundant compressed single-pixel hyperspectral imaging system | |
Balovsyak et al. | Analysis of X-ray moiré images using artificial neural networks. | |
Gupta et al. | Object recognition based on template matching and correlation method in hyperspectral images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |