CN109493284A - 一种使用非精确模糊核的显微图像自适应重建方法 - Google Patents
一种使用非精确模糊核的显微图像自适应重建方法 Download PDFInfo
- Publication number
- CN109493284A CN109493284A CN201811053426.8A CN201811053426A CN109493284A CN 109493284 A CN109493284 A CN 109493284A CN 201811053426 A CN201811053426 A CN 201811053426A CN 109493284 A CN109493284 A CN 109493284A
- Authority
- CN
- China
- Prior art keywords
- image
- fuzzy core
- fuzzy
- original image
- core
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 230000003044 adaptive effect Effects 0.000 title claims abstract description 23
- 238000005286 illumination Methods 0.000 claims abstract description 105
- 239000011159 matrix material Substances 0.000 claims abstract description 34
- 238000011156 evaluation Methods 0.000 claims abstract description 32
- 230000003287 optical effect Effects 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 6
- 230000008569 process Effects 0.000 description 16
- 238000005457 optimization Methods 0.000 description 11
- 238000002474 experimental method Methods 0.000 description 9
- 238000001914 filtration Methods 0.000 description 7
- 238000003384 imaging method Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000009795 derivation Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000002073 fluorescence micrograph Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 229940050561 matrix product Drugs 0.000 description 2
- 238000005191 phase separation Methods 0.000 description 2
- 238000013441 quality evaluation Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 239000011324 bead Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007850 degeneration Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000007850 fluorescent dye Substances 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000001000 micrograph Methods 0.000 description 1
- 238000000386 microscopy Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Microscoopes, Condenser (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种使用非精确模糊核的显微图像自适应重建方法,该方法具体是获取宽场照明显微镜或结构光照明显微镜的原始图像,计算像素值均值,获取初始模糊核k0;根据结构光照明显微镜的原始图像得到各个通带时域结果;计算评估指标MSE;设置高斯模糊核kGauss,并计算阈值η;计算k0的置信度θ以及所采用的双变量能量函数模型中关于模糊核变量k的拟合项权系数γ;根据kGauss以及θ更新k0,并进一步更新加权正则项中的权值矩阵;利用含有图像与模糊核这两个双变量的双正则能量函数采用交替迭代方法来求解得出图像f以及模糊核k。本发明不仅能够重建出较好的图像,而且还能根据输入精确度未知的模糊核还原出相对而言更为精确的模糊核。
Description
技术领域
本发明涉及宽场照明与结构光照明显微镜,数字图像处理等相关技术领域,更具体地,涉及一种使用非精确模糊核的显微图像自适应重建方法,即一种长时程曝光低信噪比的显微图像自适应重建方法,该方法采用未知精度的模糊核自适应重建长时程曝光低信噪比的宽场照明与结构光照明显微镜图像,通过使用结构光照明显微镜图像重构算法,双正则能量泛函,交替迭代及Split-Bregman相结合的对未知模糊核精度的情况下自适应重建长时程曝光低信噪比的宽场照明与结构光照明显微镜图像。
背景技术
在荧光显微镜图像的成像过程中,通常由于衍射极限的存在,使得成像所获得的图片存在一定程度的模糊,而模糊核量化了这种模糊分布情况。但是通常情况下,图像解卷积去模糊采用的模糊核是未知的,因此需要进行一定的实验或者根据模型计算获取。例如比较主流的通过实验测量的方法得到的荧光beads,再经过一些后处理得到模糊核;或者是根据实验条件的一些参数如数值孔径等,经过模糊核的数学模型计算生成模糊核。无论是实验得到还是参数生成,获取初始模糊核的过程中都存在误差,也就是说这些获取的模糊核自身的精度未知。而图像解卷积去模糊对于模糊核的选择而言是十分敏感的,模糊核存在些许误差可能对于解卷积结果的质量来说是影响较大的。另一方面,为了使得观察样本的时间更长通常采用低剂量的荧光染料,这就导致成像过程中图像的噪声也相对而言较大。对于模糊核精度未知以及图像含有相对较大噪声的情况,重建出期望的图像与模糊核也是十分困难的。
基于显微镜图像与模糊核的双变量能量泛函模型旨在提供一种符合图像的退化过程,同时结合各个变量可能的约束分布,最终通过交替迭代来优化求解图像与模糊核的方法。但是由于双变量模型存在较多的参数调节,同时输入荧光显微镜图像之间可能区别较大且不便于归一化,采用固定的参数很大程度上并不具有较好的普适性。因此可采用一种自适应变化参数的方法,适用于不同的输入图像。另一方面由于模糊核的约束选择也是有一定难度的,对于模糊核的约束若只采用简单的约束正则,例如只是基于L1稀疏正则的,当输入图像噪声较大时,则只有当图像的先验约束较准确时才能输出满意的重建图像与模糊核结果;引入未知精度的所获取初始模糊核作为能量泛函模型的约束,能够在一定程度上缩小其模糊核解空间的范围,使得迭代过程更加容易且更有利于收敛到一个较准确解,对于图像的先验约束要求也会更小,如TV正则。但是获取初始模糊核可能存在较大误差,也不能盲目带入作为能量泛函模型的约束。可能初始模糊核对解卷积结果有影响但不至于较大,也有可能是显而易见的不精确的模糊核分布,因此自适应的过滤初始的较差模糊核的机制也是必须的。采用理想低通滤波后再同样滤波操作不会改变之前滤波结果的思想,设计评估初始的模糊核好坏的指标。由于实际情况下显微镜模糊不是理想低通,因此指标只能反映一种趋势,但是采用一定的阈值作为参考后,能体现出较好的鲁棒性。
采用上述具有较强适应性与鲁棒性的双正则模型,重建长时程曝光低信噪比的宽场照明与结构光照明显微镜图像,最终能够取得较好的重建结果。
发明内容
针对现有技术的以上缺陷或改进需求,本发明的目的在于提供一种使用非精确模糊核的显微图像自适应重建方法,其中通过对重建方法整体流程设计进行控制,尤其通过设置用于过滤初步评估出初始模糊核k0表现较差情况的评估指标的阈值η,以及用于评价该初始模糊核k0可信赖程度的置信度θ,得出所采用的双变量能量函数模型中关于模糊核变量的拟合项权系数γ,更新后的初始模糊核k0及关于模糊核变量加权正则项中的权值矩阵W,并进一步基于现有技术中已知的含有图像与模糊核这两个双变量的双正则能量函数,最终实现了图像f以及模糊核k的迭代求解,不仅能够重建出较好的图像,而且还能根据输入精确度未知的模糊核还原出相对而言更为精确的模糊核。本发明尤其适用于低信噪比的宽场照明与结构光照明显微镜图像重建过程中,自适应地消除不精确模糊核对重建结果的误差影响,并恢复出较好的图像及模糊核。
为实现上述目的,按照本发明,提供了一种采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,包括以下步骤:
(1)获取宽场照明显微镜的原始图像或结构光照明显微镜的原始图像,获取初始的用于图像解卷积去模糊的未知精度的模糊核k0,并计算所述原始图像的像素值均值;
(2)若所述步骤(1)中获取的为结构光照明显微镜的原始图像,则需将所述结构光照明显微镜的原始图像,采用傅里叶变换并按照相位进行分离,得到各个通带时域结果;
(3)对于宽场照明显微镜图像,根据所述步骤(1)中获取的所述宽场照明显微镜的原始图像,以及初始模糊核k0,计算用于初步反映初始模糊核k0表现好坏的评估指标MSE;
(4)对于结构光照明显微镜图像,根据所述步骤(2)中得到的各个通带时域结果的模以及所述步骤(1)中的初始模糊核k0,计算用于初步反映初始模糊核k0表现好坏的评估指标MSE;
(5)设置参考的高斯模糊核kGauss,并根据高斯模糊核kGauss计算用于区分评估指标MSE良好与不良好的阈值η,当MSE≤η时,评估指标MSE良好;当MSE>η时,评估指标MSE不良好;
(6)根据所述步骤(1)获取的原始图像类型,选择所述步骤(3)或所述步骤(4)中得到的所述评估指标MSE,并结合所述步骤(5)中设置的阈值η以及所述步骤(1)得到的所述像素值均值,计算初始模糊核k0的置信度θ以及所采用的双变量能量函数模型中关于模糊核变量k的拟合项权系数γ;
置信度θ用于衡量该模型中的初始模糊核k0的可信赖程度;
(7)根据所述步骤(5)得到的高斯模糊核kGauss以及所述步骤(6)得到的置信度θ更新初始模糊核k0,并根据更新后的初始模糊核k0进一步更新关于模糊核k加权正则项中的权值矩阵;
(8)根据所述步骤(7)得到的更新后的初始模糊核k0及加权正则项中的权值矩阵,利用含有图像与模糊核这两个双变量的双正则能量函数采用交替迭代方法来求解两个变量,从而求解得出图像f以及模糊核k。
作为本发明的进一步优选,所述步骤(1)中,所述原始图像的像素值均值满足:
其中,A表示原始图像的像素值均值,N表示获取的显微镜原始图像的总帧数,m与n分别表示每帧图像的总行数与总列数,gk'(i,j)表示第k'帧原始图像中第i行第j列对应像素点位置的像素值。
作为本发明的进一步优选,所述步骤(2)中,所述各个通带时域结果满足:
id,m'=FFT-1(Id,m'(k))
其中,Id,m'(k)表示各个通带的频域分离情况,d∈{1,2,3},m'∈{-1,0,+1},并且Id,m'(k)优选满足:
其中,G1、G2、G3、G4、G5、G6、G7、G8、G9分别为根据所述结构光照明显微镜的原始图像g1~g9经过傅里叶变换得到的矩阵。
作为本发明的进一步优选,所述步骤(3)中,所述用于初步反映初始模糊核k0表现好坏的评估指标MSE满足:
其中,nG表示预先设定的高斯白噪声,表示卷积操作,m与n分别表示所述宽场照明显微镜原始图像的总行数与总列数,g为该宽场照明显微镜原始图像的像素值矩阵。
作为本发明的进一步优选,所述步骤(4)中,所述用于初步反映初始模糊核k0表现好坏的评估指标MSE满足:
其中,nG表示预先设定的高斯白噪声,表示卷积操作,m与n分别表示任意一帧所述结构光照明显微镜原始图像的总行数与总列数。
作为本发明的进一步优选,所述步骤(6)中,所述初始模糊核k0的置信度θ以及所述所采用的双变量能量函数模型中关于模糊核变量的拟合项权系数分别满足:
其中,ΔMSE=MSE-η,γGauss为预先设定的对应k0=kGauss时调参所调节出的参数,σ为预先设定的用于衡量图像噪声的参数;d1,d2为预先设定的为避免不同输入原始图像像素值波动较大的可调节参数,满足正比关系:其中A、N、m与n均与所述步骤(1)相对应,A为所述原始图像的像素值均值,N表示获取的显微镜原始图像的总帧数,m与n分别表示每帧图像的总行数与总列数。
作为本发明的进一步优选,对于预先设定的所述σ,当所述步骤(1)中所述宽场照明显微镜原始图像或所述结构光照明显微镜原始图像的噪声越大时,σ越小;优选的,σ为2~4。
作为本发明的进一步优选,所述步骤(7)中,更新初始模糊核k0及更新关于模糊核变量的加权正则项的权值矩阵是按以下公式进行的:
k0=θ·k0+(1-θ)kGauss,Wi,j=[1/((k0)i,j+ε)]p
其中,ε为防止分母为0的正数,p为预先设定的固定参数,优选为1.5;Wi,j用于构成权值矩阵W,Wi,j对应于矩阵W的第i行第j列像素点位置。
作为本发明的进一步优选,所述步骤(8)中,所述交替迭代方法来求解两个变量优选是对每一个变量采用Split-Bregman迭代求解框架进行迭代和求解;
所述含有图像与模糊核这两个双变量的双正则能量函数针对宽场照明图像满足:
其中,f为图像变量,k为模糊核变量,g为该宽场照明显微镜原始图像的像素值矩阵,λ1、λ2分别表示预先设定的图像和模糊核的正则项权系数,TV(f)表示对于图像的TV正则,W(k)表示模糊核k的加权正则,W(k)满足W(k)=||W*k||1,其中W为权值矩阵;
所述含有图像与模糊核这两个双变量的双正则能量函数针对结构光照明图像满足:
其中,*表示矩阵点乘,f为图像变量,k为模糊核变量,ad,m'为根据结构光原理求解的与调制强度有关的系数,Ed,m'为根据结构光原理求解的照明光向量的时域离散形式,λ1、λ2分别表示预先设定的图像和模糊核的正则项权系数,TV(f)表示对于图像的TV正则,W(k)表示模糊核k的加权正则,W(k)满足W(k)=||W*k||1,其中W为权值矩阵。
通过本发明所构思的以上技术方案,与现有技术相比,针对宽场照明或结构光照明显微镜图像,由于对处理过程进行控制,通过计算初始模糊核k0评估指标MSE,以及进一步求解用于评价该初始模糊核k0可信赖程度的置信度θ,得出所采用的双变量能量函数模型中关于模糊核变量的拟合项权系数γ,更新后的初始模糊核k0及关于模糊核变量的加权正则项中的权值矩阵W,并进一步基于现有技术中已知的含有图像与模糊核这两个双变量的双正则能量函数,最终实现了图像f以及模糊核k的迭代求解,尤其适用于长时程曝光低信噪比显微图像的情况。具体来说,具有以下有益效果:
(1)本发明提供了不同输入图像的自适应参数调节机制,使得整个重建算法的鲁棒性更好。
(2)本发明对于初始输入的模糊核引入了评估机制,同样能够相应的调节模型中的参数,减轻了重建对于输入模糊核精确度的要求。
(3)本发明采用双正则模型,不仅能够重建出较好的图像,而且还能根据输入精确度未知的模糊核还原出相对而言更为精确的模糊核。
附图说明
图1是本发明所述方法整体流程图。
图2是本发明的其中一组原始宽场照明图像和重建结果以及对比方法效果图。
图3是本发明的其中一组原始结构光照明图像和重建结果以及对比方法效果图。
其中,Wiener表示采用现有技术维纳滤波的结果,TV表示采用现有技术TV正则结果,recovered k表示本发明重建出来的模糊核k,Ours为本发明最终图像重建结果。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。此外,下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
本发明中显微图像自适应重建方法,是采用未知精度的模糊核自适应重建长时程曝光低信噪比的宽场照明或结构光照明显微镜图像,如图1所示,包括以下步骤:
1)获取长时程曝光低信噪比的宽场照明显微镜的原始图像与结构光照明显微镜的原始图像,以及初始的用于图像解卷积去模糊的未知精度的模糊核k0,并计算原始图像的均值;
2)将(1)中结构光照明显微镜原始图像,采用傅里叶变换并按照相位进行分离,得到各个通带时域结果;
3)对于宽场照明显微镜图像,则根据(1)中获得的原始图像,以及未知精度模糊核k0,计算初步反映初始模糊核k0表现好坏的评估指标MSE;
4)对于结构光照明显微镜图像,则根据(2)中分离得到的各个通带结果的模以及(1)中未知精度模糊核k0,计算初步反映初始模糊核k0表现好坏的评估指标MSE;
5)设置评估指标的阈值η,用于过滤初步评估出模糊核k0表现较差的情况;具体可以通过先假定初始模糊核k0为易于参考的高斯模糊核kGauss,并计算相应的评估指标MSE,然后令η=MSE即可得到阈值η;
6)针对具体的应用类型,选择(3)或(4)中得到的评估指标MSE,并结合设置的阈值η以及(1)中统计的原始图像均值,计算模糊核k0的置信度θ以及所采用的双变量能量函数模型中关于模糊核变量k的拟合项权系数γ;
7)根据(5)中得到的高斯模糊核kGauss以及(6)中的置信度θ,更新最终所确定的待优化能量函数中关于模糊核的拟合项的内部参数k0以及加权正则项中的权值矩阵;
8)根据最终所确定的含有图像与模糊核的双变量的双正则能量函数,采用交替迭代方法来求解两个变量f、k,并且对于其中每一个变量可优选采用Split-Bregman迭代求解框架进行快速迭代和求解。
上述步骤可根据宽场照明或结构光照明具体类型的不同进行选择(即,有部分步骤是可选的)。
优选的,
步骤(1)在获取原始图像后,额外统计原始图像中所有帧的全部像素点像素值的和并且取平均,并用于后续步骤中的参数调节过程,这样做的原因是:在不同实验条件以及不同采集频率下相机获取的显微图像存在像素值的波动较大情况,且像素值本身较大的点也相对而言数量较少,像素值上限不明显,不适合简单的归一化处理,因此对于不同像素值等级的原始图像,计算所有帧的图像像素值的平均值,能够为衡量像素值等级提供较好的参考,为后续模型自适应调节参数提供了极大的方便,使得本发明具有较好的鲁棒性。其中计算平均的公式为:
其中,A表示原始图像的均值结果,N表示相机获取的显微镜原始图像的帧数,m与n表示每帧图像的行数与列数,gk为对应第k帧的原始图像,(i,j)表示对应像素点的位置。
步骤(2)所述过程即为针对结构光照明显微镜原始图像重建过程中的相位分离过程,例如对于三个方向三个相位按照120度相位差分解为9个组分,得到各个通带时域结果id,m。
步骤(3)对于具体重建宽场照明显微镜图像,计算初步反映初始模糊核k0表现好坏的评估指标:
其中nG表示高斯白噪声,表示卷积操作。
步骤(4)对于具体重建结构光照明显微镜图像,计算初步反映初始模糊核k0表现好坏的评估指标:
步骤(5)设置评估指标的阈值η,用于过滤初步评估出模糊核k0表现较差的情况,并得到MSE=η时对应的高斯模糊核kGauss。为便于设置阈值η且使其更具指导性,根据显微镜的模糊类似于一种高斯模糊,采用生成的一定标准差的高斯模糊核kGauss,根据kGauss的在初始评估中的MSE作参考来设置为阈值η,实验发现其中kGauss的标准差选择具有较强的鲁棒性,在适当范围内选择皆可。
步骤(6)本发明采用的能量泛函对于宽场照明显微镜图像以及结构光照明显微镜图像重建分别如下所示:
宽场照明图像重建:
结构光照明图像重建:
其中γ表示关于模糊核变量的拟合项权系数,λ1、λ2分别表示图像和模糊核的正则项权系数,TV(f)表示对于图像的TV正则,W(k)表示关于模糊核变量k的加权正则表示为:W(k)=||W*k||1,对应权值矩阵每一像素点为Wi,j=[1/((k0)i,j+ε)]p,ε为一个防止分母为0的很小的正数(如10-14),p为一固定参数。特殊的对于结构光照明显微图像中,*表示矩阵点乘,ad,m为与调制强度有关的系数,Ed,m为照明光向量的时域离散形式,它们都可以根据结构光照明显微镜重建原理采用互相关估计出来的作为已知的参数。针对具体的应用类型,选择(3)或(4)中得到的评估指标MSE,并结合设置的阈值η以及(1)中统计的原始图像均值,计算模糊核k0的置信度θ以及所采用的双变量能量函数模型中关于模糊核变量的拟合项权系数:
其中ΔMSE=MSE-η,γGauss为当k0=kGauss时通常情况调参所调节出的参数,γGauss可以预先设定,σ为衡量图像噪声的参数且初始图像噪声越大σ越小(根据实验给出一个可参考的范围为:2~4),d1,d2为避免不同输入原始图像像素值波动较大的可调节参数,满足正比关系:
步骤(7)更新关于模糊核的拟合项的内部参数k0以及加权正则项中的权值矩阵W:
k0=θ·k0+(1-θ)kGauss,Wi,j=[1/((k0)i,j+ε)]p。
置信度θ用于衡量双变量能量函数模型中的初始模糊核k0的可信赖程度;当置信度θ对应的初始模糊核k0的可信赖程度越高时,更新后的初始模糊核k0的良好性质越能被模型保留接受;
步骤(8)可以根据最终所确定的含有图像与模糊核的双变量的双正则能量函数,采用交替迭代方法来求解两个变量,并且对于其中每一个变量则优选采用Split-Bregman迭代求解框架进行快速迭代和求解,(Split-Bregman迭代求解框架可直接参照相关现有技术,如I.R.Bleyer and R.Ramlau,"An alternating iterative minimisation algorithmfor the double-regularised total least square functional,"Inverse Problems,vol.31,p.21,2015;T.Goldstein and S.Osher,"Osher,S.:The split Bregman methodfor L1regularized problems.SIAM J.Imaging Sci.2,323,"Siam Journal on ImagingSciences,vol.2,pp.323-343,2009.等)。例如,对于宽场照明显微镜图像,此时分别写成图像的各向异性TV以及模糊核的单独子问题具体形式:
对于每一个变量采用Split-Bregman迭代求解框架进行快速迭代和求解,求解fl+1将问题变成最终的无约束优化问题:
其中将上式分别对f,d求导并令导数为0,即可求解各自的结果:
其中Max表示每个元素级的比较求取最大值,Sgn表示符号函数返回输入的正负,依次迭代fn+1、及当满足迭代终止条件可得到求解的fl+1=fn+1,而对于结构光照明显微镜图像,采用的模糊核需要化为光学传递函数,即Hl=FFT(kl),同时将原来fn+1求解过程替换为如下公式即可:
对于求解kl+1=kn+1,对于宽场照明显微镜图像将卷积形式化成矩阵乘积的形式,同样给出如下迭代求解过程,迭代直至满足迭代停止条件:
其中Fl+1表示中的fl+1的矩阵形式,表示加号广义逆,diag(W)表示将权值矩阵列向量化后按顺序使其每一个元素作为的对角元素对角矩阵,而对于结构光照明显微镜图像其求解过程相近,只需将原来kn+1求解过程替换为:
其中FEd,m为f*Ed,m中每一个元素取其模,即|f*Ed,m|。最终交替迭代求解fl+1,kl+1的过程,直至其满足迭代停止条件,即可求得重建图像f以及模糊核k。
实施例1
本发明中显微图像自适应重建方法,具体可包括以下步骤:
(1)获取原始图像后,额外统计原始图像中所有帧的全部像素点像素值的和并且取平均,并用于后续步骤中的参数调节过程,这样做的原因是:在不同实验条件以及不同采集频率下相机获取的显微图像存在像素值的波动较大情况,且像素值本身较大的点也相对而言数量较少,像素值上限不明显,不适合简单的归一化处理,因此对于不同像素值等级的原始图像,计算所有帧的图像像素值的平均值,能够为衡量像素值等级提供较好的参考,为后续模型自适应调节参数提供了极大的方便,使得本发明具有较好的鲁棒性。其中计算平均的公式为:
其中,A表示原始图像的均值结果,N表示相机获取的显微镜原始图像的帧数,m与n表示每帧图像的行数与列数,gk为对应第k帧的原始图像,(i,j)表示对应像素点的位置。
(2)所述过程即为针对结构光照明显微镜原始图像重建过程中的相位分离过程,例如对于三个方向三个相位按照120度相位差分解为9个组分,得到各个通带时域结果:
其中Id,m(k)表示各个通带的频域分离情况,d∈{1,2,3},m∈{-1,0,+1},反傅里叶变换即可得到时域结果id,m=FFT-1(Id,m(k)),k表示频域里面的坐标位置索引向量。G1、G2、G3、G4、G5、G6、G7、G8、G9分别为根据所述结构光照明显微镜的原始图像g1~g9经过傅里叶变换得到的矩阵。
(3)对于具体重建宽场照明显微镜图像,计算初步反映初始模糊核k0表现好坏的评估指标:
其中nG表示高斯白噪声,表示卷积操作。
(4)对于具体重建结构光照明显微镜图像,计算初步反映初始模糊核k0表现好坏的评估指标:
(5)设置评估指标的阈值η,用于过滤初步评估出模糊核k0表现较差的情况。为便于设置阈值η且使其更具指导性,根据显微镜的模糊类似于一种高斯模糊,采用生成的一定标准差的高斯模糊核kGauss,根据kGauss的在初始评估中的MSE作参考来设置为阈值η,实验发现其中kGauss的标准差选择具有较强的鲁棒性,在适当范围内选择皆可。
(6)更新能量泛函,本发明采用的能量泛函对于宽场照明显微镜图像以及结构光照明显微镜图像重建分别如下所示:
宽场照明图像重建:
结构光照明图像重建:
针对具体的应用类型选择3)或4)中得到的评估指标MSE,并结合设置的阈值η以及1)中统计的原始图像均值,计算模糊核k0的置信度θ以及所采用的双变量能量函数模型中关于模糊核变量的拟合项权系数:
其中ΔMSE=MSE-η,γGauss可以是预先设定的对应于当k0=kGauss时通常情况调参所调节出的参数,σ为衡量图像噪声的参数且初始图像噪声越大σ越小(根据实验给出一个可参考的范围为:2~4),d1,d2为避免不同输入原始图像像素值波动较大的可调节参数,满足正比关系:
(7)更新关于模糊核的拟合项的内部参数k0以及加权正则项中的权值矩阵W:
k0=θ·k0+(1-θ)kGauss,Wi,j=[1/((k0)i,j+ε)]p
(8)根据最终所确定的含有图像与模糊核的双变量的双正则能量函数,采用交替迭代方法来求解两个变量,并对于其中每一个变量则采用Split-Bregman迭代求解框架进行快速迭代和求解。例如,
对于宽场照明显微镜图像,此时可以写成图像的各向异性TV以及模糊核的单独子问题具体形式:
对于每一个变量采用Split-Bregman迭代求解框架进行快速迭代和求解,求解fl+1将问题变成最终的无约束优化问题,此时的第一次迭代fl+1时另kl=k0:
其中将上式分别对f,d求导并令导数为0,即可求解各自的结果:
其中Max表示每个元素级的比较求取最大值,Sgn表示符号函数返回输入的正负,依次迭代fn+1、及当满足迭代终止条件可得到求解的fl+1=fn+1,而对于结构光照明显微镜图像,采用的模糊核需要化为光学传递函数,即Hl=FFT(kl),同时将原来fn+1求解过程替换为如下公式即可:
对于求解kl+1=kn+1,对于宽场照明显微镜图像将卷积形式化成矩阵乘积的形式,同样给出如下迭代求解过程,迭代直至满足迭代停止条件:
其中Fl+1表示中的fl+1的矩阵形式,表示加号广义逆,diag(W)表示将权值矩阵列向量化后按顺序使其每一个元素作为的对角元素对角矩阵,而对于结构光照明显微镜图像其求解过程相近,只需将原来kn+1求解过程替换为:
其中FEd,m为f*Ed,m中每一个元素取其模,即|f*Ed,m|。最终交替迭代求解fl+1,kl+1的过程,直至其满足迭代停止条件,即达到最大代次数或者是能量泛函变化率小于固定阈值,即可求得重建图像f以及模糊核k。
本发明步骤(1)中获取的初始模糊核k0可以是研究者根据具体的实验实际情况所灵活设置的,本发明中采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法对步骤(1)获取的初始模糊核k0没有特殊要求,具有较强的适用性和任意性。本发明中由于kGauss的标准差选择具有较强的鲁棒性,在适中范围内选择皆可(例如,选取标准差为2的高斯模糊核)。本发明中针对结构光照明图像,在双变量的双正则能量函数中,预先设定的ad,m、Ed,m可参考相关现有技术来预先设定(例如,可参考K.Chu,P.J.Mcmillan,Z.J.Smith,J.Yin,J.Atkins,P.Goodwin,et al.,"Image reconstruction forstructured-illumination microscopy with low signal level,"Optics Express,vol.22,pp.8687-702,2014.等现有技术)。
本发明中所采用的数学符号除特别说明外,均满足这些符号在数学领域的通用含义,如一范数、二范数。
本领域的技术人员容易理解,以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (9)
1.一种采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,包括以下步骤:
(1)获取宽场照明显微镜的原始图像或结构光照明显微镜的原始图像,获取初始的用于图像解卷积去模糊的未知精度的模糊核k0,并计算所述原始图像的像素值均值;
(2)若所述步骤(1)中获取的为结构光照明显微镜的原始图像,则需将所述结构光照明显微镜的原始图像,采用傅里叶变换并按照相位进行分离,得到各个通带时域结果;
(3)对于宽场照明显微镜图像,根据所述步骤(1)中获取的所述宽场照明显微镜的原始图像,以及初始模糊核k0,计算用于初步反映初始模糊核k0表现好坏的评估指标MSE;
(4)对于结构光照明显微镜图像,根据所述步骤(2)中得到的各个通带时域结果的模以及所述步骤(1)中的初始模糊核k0,计算用于初步反映初始模糊核k0表现好坏的评估指标MSE;
(5)设置参考的高斯模糊核kGauss,并根据高斯模糊核kGauss计算用于区分评估指标MSE良好与不良好的阈值η,当MSE≤η时,评估指标MSE良好;当MSE>η时,评估指标MSE不良好;
(6)根据所述步骤(1)获取的原始图像类型,选择所述步骤(3)或所述步骤(4)中得到的所述评估指标MSE,并结合所述步骤(5)中设置的阈值η以及所述步骤(1)得到的所述像素值均值,计算初始模糊核k0的置信度θ以及所采用的双变量能量函数模型中关于模糊核变量k的拟合项权系数γ;
置信度θ用于衡量该模型中的初始模糊核k0的可信赖程度;
(7)根据所述步骤(5)得到的高斯模糊核kGauss以及所述步骤(6)得到的置信度θ更新初始模糊核k0,并根据更新后的初始模糊核k0进一步更新关于模糊核k加权正则项中的权值矩阵;
(8)根据所述步骤(7)得到的更新后的初始模糊核k0及加权正则项中的权值矩阵,利用含有图像与模糊核这两个双变量的双正则能量函数采用交替迭代方法来求解两个变量,从而求解得出图像f以及模糊核k。
2.如权利要求1所述采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,所述步骤(1)中,所述原始图像的像素值均值满足:
其中,A表示原始图像的像素值均值,N表示获取的显微镜原始图像的总帧数,m与n分别表示每帧图像的总行数与总列数,gk'(i,j)表示第k'帧原始图像中第i行第j列对应像素点位置的像素值。
3.如权利要求1所述采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,所述步骤(2)中,所述各个通带时域结果满足:
id,m'=FFT-1(Id,m'(k))
其中,Id,m'(k)表示各个通带的频域分离情况,d∈{1,2,3},m'∈{-1,0,+1},并且Id,m'(k)优选满足:
其中,G1、G2、G3、G4、G5、G6、G7、G8、G9分别为根据所述结构光照明显微镜的原始图像g1~g9经过傅里叶变换得到的矩阵。
4.如权利要求1所述采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,所述步骤(3)中,所述用于初步反映初始模糊核k0表现好坏的评估指标MSE满足:
其中,nG表示预先设定的高斯白噪声,表示卷积操作,m与n分别表示所述宽场照明显微镜原始图像的总行数与总列数,g为该宽场照明显微镜原始图像的像素值矩阵。
5.如权利要求3所述采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,所述步骤(4)中,所述用于初步反映初始模糊核k0表现好坏的评估指标MSE满足:
其中,nG表示预先设定的高斯白噪声,表示卷积操作,m与n分别表示任意一帧所述结构光照明显微镜原始图像的总行数与总列数。
6.如权利要求1所述采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,所述步骤(6)中,所述初始模糊核k0的置信度θ以及所述所采用的双变量能量函数模型中关于模糊核变量的拟合项权系数分别满足:
其中,ΔMSE=MSE-η,γGauss为预先设定的对应k0=kGauss时调参所调节出的参数,σ为预先设定的用于衡量图像噪声的参数;d1,d2为预先设定的为避免不同输入原始图像像素值波动较大的可调节参数,满足正比关系:其中A、N、m与n均与所述步骤(1)相对应,A为所述原始图像的像素值均值,N表示获取的显微镜原始图像的总帧数,m与n分别表示每帧图像的总行数与总列数。
7.如权利要求6所述采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,对于预先设定的所述σ,当所述步骤(1)中所述宽场照明显微镜原始图像或所述结构光照明显微镜原始图像的噪声越大时,σ越小;优选的,σ为2~4。
8.如权利要求1所述采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,所述步骤(7)中,更新初始模糊核k0及更新关于模糊核变量的加权正则项的权值矩阵是按以下公式进行的:
k0=θ·k0+(1-θ)kGauss,Wi,j=[1/((k0)i,j+ε)]p
其中,ε为防止分母为0的正数,p为预先设定的固定参数,优选为1.5;Wi,j用于构成权值矩阵W,Wi,j对应于矩阵W的第i行第j列像素点位置。
9.如权利要求1所述采用未知精度的模糊核自适应重建宽场照明或结构光照明显微镜图像的方法,其特征在于,所述步骤(8)中,所述交替迭代方法来求解两个变量优选是对每一个变量采用Split-Bregman迭代求解框架进行迭代和求解;
所述含有图像与模糊核这两个双变量的双正则能量函数针对宽场照明图像满足:
其中,f为图像变量,k为模糊核变量,g为该宽场照明显微镜原始图像的像素值矩阵,λ1、λ2分别表示预先设定的图像和模糊核的正则项权系数,TV(f)表示对于图像的TV正则,W(k)表示模糊核k的加权正则,W(k)满足W(k)=||W*k||1,其中W为权值矩阵;
所述含有图像与模糊核这两个双变量的双正则能量函数针对结构光照明图像满足:
其中,*表示矩阵点乘,f为图像变量,k为模糊核变量,ad,m'为根据结构光原理求解的与调制强度有关的系数,Ed,m'为根据结构光原理求解的照明光向量的时域离散形式,λ1、λ2分别表示预先设定的图像和模糊核的正则项权系数,TV(f)表示对于图像的TV正则,W(k)表示模糊核k的加权正则,W(k)满足W(k)=||W*k||1,其中W为权值矩阵。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811053426.8A CN109493284B (zh) | 2018-09-11 | 2018-09-11 | 一种使用非精确模糊核的显微图像自适应重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811053426.8A CN109493284B (zh) | 2018-09-11 | 2018-09-11 | 一种使用非精确模糊核的显微图像自适应重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109493284A true CN109493284A (zh) | 2019-03-19 |
CN109493284B CN109493284B (zh) | 2020-06-02 |
Family
ID=65689306
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811053426.8A Active CN109493284B (zh) | 2018-09-11 | 2018-09-11 | 一种使用非精确模糊核的显微图像自适应重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109493284B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110619680A (zh) * | 2019-10-23 | 2019-12-27 | 浙江大学深圳研究院 | 一种基于图变分的三维断层相位显微镜重建方法 |
CN112766190A (zh) * | 2021-01-25 | 2021-05-07 | 北京有竹居网络技术有限公司 | 对抗样本生成方法、装置、存储介质及电子设备 |
CN113034407A (zh) * | 2021-04-27 | 2021-06-25 | 深圳市慧鲤科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7601957B2 (en) * | 2005-02-21 | 2009-10-13 | National University Corporation Kyoto Institute Of Technology | Electron microscope and combined illumination lens |
CN102540446A (zh) * | 2011-12-28 | 2012-07-04 | 中国科学院西安光学精密机械研究所 | 一种基于数字微镜器件的高速结构照明光学显微系统及方法 |
CN103645136A (zh) * | 2013-11-22 | 2014-03-19 | 深圳先进技术研究院 | 一种提高多光子荧光显微镜成像分辨率的方法及装置 |
-
2018
- 2018-09-11 CN CN201811053426.8A patent/CN109493284B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7601957B2 (en) * | 2005-02-21 | 2009-10-13 | National University Corporation Kyoto Institute Of Technology | Electron microscope and combined illumination lens |
CN102540446A (zh) * | 2011-12-28 | 2012-07-04 | 中国科学院西安光学精密机械研究所 | 一种基于数字微镜器件的高速结构照明光学显微系统及方法 |
CN103645136A (zh) * | 2013-11-22 | 2014-03-19 | 深圳先进技术研究院 | 一种提高多光子荧光显微镜成像分辨率的方法及装置 |
Non-Patent Citations (3)
Title |
---|
HUI JI ET.AL: "Robust Image Deblurring With an Inaccurate Blur Kernel", 《IEEE TRANSACTIONS ON IMAGE PROCESSING》 * |
KAIQIN CHU ET.AL: "Image reconstruction for structured-illumination microscopy with low signal level", 《OPTICS EXPRESS》 * |
闫敬文 等: "基于L0正则化模糊核估计的遥感图像复原", 《光学精密工程》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110619680A (zh) * | 2019-10-23 | 2019-12-27 | 浙江大学深圳研究院 | 一种基于图变分的三维断层相位显微镜重建方法 |
CN112766190A (zh) * | 2021-01-25 | 2021-05-07 | 北京有竹居网络技术有限公司 | 对抗样本生成方法、装置、存储介质及电子设备 |
CN113034407A (zh) * | 2021-04-27 | 2021-06-25 | 深圳市慧鲤科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109493284B (zh) | 2020-06-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
He et al. | Beta process joint dictionary learning for coupled feature spaces with application to single image super-resolution | |
Mahapatra et al. | Image super resolution using generative adversarial networks and local saliency maps for retinal image analysis | |
Kee et al. | Modeling and removing spatially-varying optical blur | |
CN109493284A (zh) | 一种使用非精确模糊核的显微图像自适应重建方法 | |
CN110021047A (zh) | 图像处理方法、图像处理装置和存储介质 | |
WO2021135074A1 (zh) | 一种快照型解色散模糊的高光谱成像方法 | |
CN109360147B (zh) | 基于彩色图像融合的多光谱图像超分辨率重建方法 | |
CN108629741A (zh) | 一种基于l0和l1正则项的模糊核估计方法 | |
CN109300092A (zh) | 一种基于暗通道的遥感图像去模糊方法 | |
De los Reyes et al. | Bilevel optimization methods in imaging | |
Singh et al. | Multi-exposure microscopic image fusion-based detail enhancement algorithm | |
CN115018711A (zh) | 一种用于仓库调度的图像超分辨率重建方法 | |
CN112785517B (zh) | 一种基于高分辨率表征的图像去雾方法和装置 | |
Bohra et al. | Dynamic Fourier ptychography with deep spatiotemporal priors | |
Zhang et al. | High-quality panchromatic image acquisition method for snapshot hyperspectral imaging Fourier transform spectrometer | |
CN104794691A (zh) | 利用广义高斯模型进行单张失焦图像清晰重建的方法 | |
Remedios et al. | Joint image and label self-super-resolution | |
Zhang et al. | Deep SVBRDF Estimation from Single Image under Learned Planar Lighting | |
Pramanik et al. | Off-the-grid model based deep learning (O-MODL) | |
CN116188609A (zh) | 一种光场显微成像三维重建图像伪影消除方法及系统 | |
CN111178229A (zh) | 一种基于深度学习的静脉显像方法和装置 | |
Viswanath et al. | Image restoration by combined order regularization with optimal spatial adaptation | |
Jarolim et al. | Instrument-To-Instrument translation: Instrumental advances drive restoration of solar observation series via deep learning | |
Welk | A robust variational model for positive image deconvolution | |
CN101131429B (zh) | 带像差和小孔径衍射像质退化成像系统的图像复原方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |