CN113689344B - 基于特征解耦学习的低曝光图像增强方法 - Google Patents

基于特征解耦学习的低曝光图像增强方法 Download PDF

Info

Publication number
CN113689344B
CN113689344B CN202110745105.XA CN202110745105A CN113689344B CN 113689344 B CN113689344 B CN 113689344B CN 202110745105 A CN202110745105 A CN 202110745105A CN 113689344 B CN113689344 B CN 113689344B
Authority
CN
China
Prior art keywords
image
low
exposure
vein
hand
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110745105.XA
Other languages
English (en)
Other versions
CN113689344A (zh
Inventor
王军
韩淑雨
潘在宇
李玉莲
申政文
陈晓玲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China University of Mining and Technology CUMT
Original Assignee
China University of Mining and Technology CUMT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China University of Mining and Technology CUMT filed Critical China University of Mining and Technology CUMT
Priority to CN202110745105.XA priority Critical patent/CN113689344B/zh
Publication of CN113689344A publication Critical patent/CN113689344A/zh
Application granted granted Critical
Publication of CN113689344B publication Critical patent/CN113689344B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于特征解耦学习的低曝光图像增强方法,使用正常曝光静脉图像和低曝光静脉图像训练特征解耦网络,迫使编码得到低曝光静脉图像的背景特征,再利用训练好的特征解耦网络和低曝光静脉图像训练图像增强网络,提取低曝光静脉图像的纹理特征,实现低曝光静脉图像的纹理特征和背景特征分离,并单独使用低曝光静脉图像的纹理特征重建增强的静脉图像。本发明提出一种基于特征解耦学习的低曝光图像增强方法,从两种图像的特点出发,引入对抗损失,将低曝光静脉图像纹理特征和背景分离,操纵特定的特征重建正常曝光的图像,对低曝光静脉图像实现有效增强。

Description

基于特征解耦学习的低曝光图像增强方法
技术领域
本发明涉及计算机视觉领域,具体涉及一种基于特征解耦学习的低曝光图像增强方法。
背景技术
静脉血管与其他生物识别功能(如指纹,虹膜,手势和脸部)相比,具有防伪,易接受的特点,已成为最受欢迎的个人识别方法之一。但由于静脉采集设备的局限性,采集到的图像往往会出现背景灰暗,图像对比度低,静脉脉络不清晰和静脉信息细节丢失等问题。
静脉识别需要较多静脉细节信息,传统低曝光图像增强算法不能很好解决静脉信息细节丢失的问题。Wang等人提出一种多尺度Top-Hat的方法提高手背静脉图像的质量和对比度,但是其边缘处理效果较差。Wu等人通过考虑静脉图像采集过程中个体近红外吸收的差异,增强静脉和周围组织之间对比度。但是不同个体对红外吸收差异较大,导致模型泛化能力较弱。Ravirathinam等人提出一种可分离卷积层组成的编码器-解码器模型,引入多上下文特征提取模块提取更丰富和与图像增强任务更相关的特征用于低亮度图像增强,但只考虑了噪声对低亮度图像的影响,模型泛化能力不强。
发明内容
本发明的目的在于提供一种基于特征解耦学习的低曝光图像增强方法,能够有效解决静脉图像背景灰暗,图像对比度低,静脉的脉络不清晰和静脉细节信息丢失的问题。
实现本发明目的的技术解决方案为:一种基于特征解耦学习的低曝光图像增强方法,包括以下步骤:
步骤1、采集P幅正常曝光下人体手背静脉图像,100<P<10000,通过低亮度图像合成方法将上述正常曝光人体手背静脉图像逐张转化为低曝光手背静脉图像,再对所有静脉图像分别进行有效区域提取,提取后的图像像素大小为h×w,分别得到正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集。
步骤2、基于编码器Enc_p、Enc_b、解码器Dec_b、Dec_p以及判别器Dis构建一个特征解耦网络,基于一个编码器Enc_v和一个解码器Dec_v构建一个图像增强网络。
步骤3、利用正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集,训练特征解耦网络,得到训练好的特征解耦网络:
步骤3-1、通过正常曝光人体手背静脉提取图像训练集中的图像训练编码器Enc_p,得到其对应的正常曝光人体手背静脉图像的纹理特征fp_v,经解码器Dec_p解码得到正常曝光人体手背静脉图像,训练迭代优化后,固定编码器Enc_p参数。
步骤3-2、将低曝光手背静脉提取图像训练集中的低曝光手背静脉提取图像
Figure BDA0003142466470000021
输入到编码器Enc_b中,编码得到低曝光手背静脉提取图像特征fb
步骤3-3、将正常曝光人体手背静脉图像的纹理特征fp_v和低曝光手背静脉提取图像特征fb进行级联,得到低曝光手背静脉图像重建特征fd,将fd输入到解码器Dec_b中进行解码得到低曝光手背静脉解码图像
Figure BDA0003142466470000022
步骤3-4、将低曝光手背静脉提取图像
Figure BDA0003142466470000023
作为标签信息和低曝光手背静脉解码图像
Figure BDA0003142466470000024
同时输入到判别器Dis,对其真假进行判别,迫使编码器Enc_b编码得到的低曝光手背静脉提取图像特征fb是低曝光静脉图像的背景特征,训练迭代优化后,固定编码器Enc_b参数和解码器Dec_b参数,进而获得训练好的特征解耦网络。
步骤4、利用低曝光手背静脉提取图像训练集和训练好的特征解耦网络,训练图像增强网络,得到训练好的图像增强网络:
步骤4-1、将低曝光手背静脉提取图像训练集中的低曝光手背静脉提取图像
Figure BDA0003142466470000025
输入到编码器Enc_v,得到低曝光手背静脉特征fv
步骤4-2、将低曝光手背静脉特征fv与低曝光手背静脉提取图像特征fb级联,得到低曝光图像重建特征fd′,fd′输入到解码器Dec_b中进行解码得到低曝光手背静脉图像
Figure BDA0003142466470000026
步骤4-3、将低曝光手背静脉提取图像
Figure BDA0003142466470000027
作为标签信息和低曝光手背静脉图像
Figure BDA0003142466470000031
同时输入到判别器Dis,对其真假进行判别,迫使编码器Enc_v得到的低曝光手背静脉特征fv为低曝光手背静脉提取图像的纹理特征。
步骤4-4、将低曝光手背静脉特征fv输入到解码器Dec_v解码输出得到增强后的静脉图像
Figure BDA0003142466470000032
训练迭代优化后,得到训练好的图像增强网络。
步骤5、采集M个人体手背的低曝光静脉图像,100<M<1000,对其进行有效区域提取,得到像素大小为h×w的M幅静脉图像,作为测试集。
步骤6、将测试集中的低曝光静脉图像输入到训练好的图像增强网络,得到增强后的静脉图像。
与现有技术相比,本发明的优点在于:
1)传统的静脉图像增强算法需要大量的手工参数设计,并且针对某个特定的数据库,进而导致算法普适性和鲁棒性差。本发明结合静脉图像分布特性将低曝光静脉图像看作为纹理特征与背景光照信息的线性组合,基于这一分布特性,首次构建了基于特征解耦学习的低曝光静脉图像增强算法框架。该算法框架通过三个编码器和两个解码器将低曝光图像分解为纹理特征和背景光照信息,随后利用分解的纹理信息重建正常曝光的静脉图像。因此,相比现有的静脉图像增强算法,本发明设计的算法泛化能力更强,鲁棒性更强。
2)在使用普通编码器对图像进行编码时,这些构成图像的主要因素是耦合的,使得在改变编码向量时,无法单独改变某一个特征而不影响其他的特征。低曝光静脉图像背景灰暗,静脉纹理信息与背景很难区分,图像对比度低;正常曝光静脉图像背景明亮,静脉纹理信息丰富,图像的对比度较高,使用编解码网络较容易获得其纹理特征,本发明以此为监督信息,引入对抗损失,将低曝光静脉图像纹理特征和背景分离,操纵特定的特征重建正常曝光的图像,从而实现低曝光静脉图像的增强。
附图说明
图1为基于特征解耦学习的低曝光图像增强方法流程图。
图2为基于特征解耦学习的低曝光图像增强方法框架图。
图3为自制手背静脉图像数据集合成图像和原始图像,其中图(a)为合成图像,图(b)为原始图像。
图4为不同算法对比实验结果图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面对本发明实施方式作进一步地详细描述。
结合图1和图2,本发明所述的种基于特征解耦学习的低曝光图像增强方法,包括以下步骤:
步骤1、采集P幅正常曝光下人体手背静脉图像,100<P<10000,通过低亮度图像合成方法将上述正常曝光人体手背静脉图像逐张转化为低曝光手背静脉图像,再对所有静脉图像分别进行有效区域提取,提取后的图像像素大小为h×w,分别得到正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集。
步骤2、基于编码器Enc_p、Enc_b、解码器Dec_b、Dec_p以及判别器Dis构建一个特征解耦网络,基于一个编码器Enc_v和一个解码器Dec_v构建一个图像增强网络。
步骤3、利用正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集,训练特征解耦网络,得到训练好的特征解耦网络:
步骤3-1、通过正常曝光人体手背静脉提取图像训练集中的图像训练编码器Enc_p,得到其对应的正常曝光人体手背静脉图像的纹理特征fp_v,经解码器Dec_p解码得到正常曝光人体手背静脉图像,训练迭代优化后,固定编码器Enc_p参数。
使用正常曝光人体手背静脉提取图像训练编码器Enc_p与解码器Dec_p,由于输入和输出都为正常曝光人体手背静脉图像,使得编码器Enc_p编码出来得到的特征为静脉图像的纹理特征:
Figure BDA0003142466470000041
其中,fp_v为正常曝光人体手背静脉图像的纹理特征;
Figure BDA0003142466470000042
为输入的正常曝光人体手背静脉提取图像。
步骤3-2、将低曝光手背静脉提取图像训练集中的低曝光手背静脉提取图像
Figure BDA0003142466470000043
输入到编码器Enc_b中,编码得到低曝光手背静脉提取图像特征fb
将低曝光手背静脉提取图像输入到编码器Enc_b中,得到特征:
Figure BDA0003142466470000051
其中,fb为Enc_b编码得到的低曝光手背静脉提取图像特征,当后续经过特征解耦后其代表低曝光手背静脉提取图像的背景特征;
Figure BDA0003142466470000052
为输入的低曝光手背静脉提取图像。
步骤3-3、将正常曝光人体手背静脉图像的纹理特征fp_v和低曝光手背静脉提取图像特征fb进行级联,得到低曝光手背静脉图像重建特征fd,将fd输入到解码器Dec_b中进行解码得到低曝光手背静脉解码图像
Figure BDA0003142466470000053
在获取到正常曝光人体手背静脉图像的纹理特征fp_v和低曝光手背静脉提取图像编码输出的低曝光手背静脉提取图像特征fb之后,将两个特征进行级联:
fd=concate(fb,fp_v)
其中,fd为fb和fp_v级联之后的低曝光手背静脉图像重建特征,concate(·)为特征级联操作;再将fd输入到解码器Dec_b中进行解码得到低曝光手背静脉解码图像
Figure BDA0003142466470000054
Figure BDA0003142466470000055
步骤3-4、将低曝光手背静脉提取图像
Figure BDA0003142466470000056
作为标签信息和低曝光手背静脉解码图像
Figure BDA0003142466470000057
同时输入到判别器Dis,对其真假进行判别,迫使编码器Enc_b编码得到的低曝光手背静脉提取图像特征fb是低曝光静脉图像的背景特征,训练迭代优化后,固定编码器Enc_b参数和解码器Dec_b参数,进而获得训练好的特征解耦网络。
通过计算损失函数LDec_b使fd为低曝光手背静脉提取图像的主要特征;
Figure BDA0003142466470000058
为了使低曝光手背静脉提取图像的纹理特征和背景特征的解耦效果更好,使用判别器网络对解码器重建的图像和目标图像进行真假判断。由于fd是由预训练的自编码网络得到的正常曝光人体手背静脉提取图像的纹理特征fp_v和输入为低曝光手背静脉提取图像编码得到的低曝光手背静脉提取图像特征fb级联得到,通过将fd恢复成低曝光手背静脉图像,就可以迫使fb编码得到的是低曝光手背静脉提取图像的背景特征。
步骤4、利用低曝光手背静脉提取图像训练集和训练好的特征解耦网络,训练图像增强网络,得到训练好的图像增强网络:
步骤4-1、将低曝光手背静脉提取图像训练集中的低曝光手背静脉提取图像
Figure BDA0003142466470000061
输入到编码器Enc_v,得到低曝光手背静脉特征fv
Figure BDA0003142466470000062
步骤4-2、将低曝光手背静脉特征fv与低曝光手背静脉提取图像特征fb级联,得到低曝光图像重建特征fd′,fd′输入到解码器Dec_b中进行解码得到低曝光手背静脉图像
Figure BDA0003142466470000063
将低曝光手背静脉特征fv与低曝光手背静脉提取图像特征fb级联,得到低曝光图像重建特征fd′
fd′=concate(fb,fv)
将fd′输入到解码器Dec_b中进行解码得到低曝光手背静脉图像
Figure BDA0003142466470000064
Figure BDA0003142466470000065
步骤4-3、将低曝光手背静脉提取图像
Figure BDA0003142466470000066
作为标签信息和低曝光手背静脉图像
Figure BDA0003142466470000067
同时输入到判别器Dis,对其真假进行判别,迫使编码器Enc_v得到的低曝光手背静脉特征fv为低曝光手背静脉提取图像的纹理特征。
通过计算损失函数LDec_b使fd′为低曝光手背静脉提取图像的主要特征:
Figure BDA0003142466470000068
步骤4-4、将低曝光手背静脉特征fv输入到解码器Dec_v解码输出得到增强后的静脉图像
Figure BDA0003142466470000069
训练迭代优化后,得到训练好的图像增强网络。
由于fd和fd′解码输出都为低曝光的手背静脉图像,并且两部分的解码使用相同的解码器,从而迫使fd与fd′具有相同的特征向量,由于两者都是通过与低曝光手背静脉提取图像特征fb级联得到,这会使fv与fp_v非常接近,因此使用fv也能重建增强后的静脉图像
Figure BDA00031424664700000610
Figure BDA00031424664700000611
其中,
Figure BDA00031424664700000612
为增强后的静脉图像。
步骤5、采集M个人体手背的低曝光静脉图像,100<M<1000,对其进行有效区域提取,得到像素大小为h×w的M幅静脉图像,作为测试集。
步骤6、将测试集中的低曝光静脉图像输入到训练好的图像增强网络,得到增强后的静脉图像。
实施例1
本发明所述的种基于特征解耦学习的低曝光图像增强方法,包括以下步骤:
步骤1、采集2000幅正常曝光下人体手背静脉图像,通过低亮度图像合成方法将上述正常曝光人体手背静脉图像逐张转化为低曝光手背静脉图像,再对所有静脉图像分别进行有效区域提取,提取后的图像像素大小为256×256,分别得到正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集,如图3所示。
步骤2、基于编码器Enc_p、Enc_b、解码器Dec_b、Dec_p以及判别器Dis构建一个特征解耦网络,基于一个编码器Enc_v和一个解码器Enc_v构建一个图像增强网络。
步骤3、利用正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集,训练特征解耦网络,得到训练好的特征解耦网络:
步骤3-1、通过正常曝光人体手背静脉提取图像训练集中的图像训练编码器Enc_p,得到其对应的正常曝光人体手背静脉图像的纹理特征fp_v,经解码器Dec_p解码得到正常曝光人体手背静脉图像,训练迭代优化后,固定编码器Enc_p参数。
使用正常曝光人体手背静脉提取图像训练编码器Enc_p与解码器Dec_p,由于输入和输出都为正常曝光人体手背静脉图像,使得编码器Enc_p编码出来得到的特征为静脉图像的纹理特征:
Figure BDA0003142466470000071
其中,fp_v为正常曝光人体手背静脉图像的纹理特征;
Figure BDA0003142466470000072
为输入的正常曝光人体手背静脉提取图像。
步骤3-2、将低曝光手背静脉提取图像训练集中的低曝光手背静脉提取图像
Figure BDA0003142466470000073
输入到编码器Enc_b中,编码得到低曝光手背静脉提取图像特征fb
将低曝光手背静脉提取图像输入到编码器Enc_b中,得到特征:
Figure BDA0003142466470000081
其中,fb为Enc_b编码得到的低曝光手背静脉提取图像特征,当后续经过特征解耦后其代表低曝光手背静脉提取图像的背景特征;
Figure BDA0003142466470000082
为输入的低曝光手背静脉提取图像。
步骤3-3、将正常曝光人体手背静脉图像的纹理特征fp_v和低曝光手背静脉提取图像特征fb进行级联,得到低曝光手背静脉图像重建特征fd,将fd输入到解码器Dec_b中进行解码得到低曝光手背静脉解码图像
Figure BDA0003142466470000083
在获取到正常曝光人体手背静脉图像的纹理特征fp_v和低曝光手背静脉提取图像编码输出的低曝光手背静脉提取图像特征fb之后,将两个特征进行级联:
fd=concate(fb,fp_v)
其中,fd为fb和fp_v级联之后的低曝光手背静脉图像重建特征,concate(·)为特征级联操作;再将fd输入到解码器Dec_b中进行解码得到低曝光手背静脉解码图像
Figure BDA0003142466470000084
Figure BDA0003142466470000085
步骤3-4、将低曝光手背静脉提取图像
Figure BDA0003142466470000086
作为标签信息和低曝光手背静脉解码图像
Figure BDA0003142466470000087
同时输入到判别器Dis,对其真假进行判别,迫使编码器Enc_b编码得到的低曝光手背静脉提取图像特征fb是低曝光静脉图像的背景特征,训练迭代优化后,固定编码器Enc_b参数和解码器Dec_b参数,进而获得训练好的特征解耦网络。
通过计算损失函数LDec_b使fd为低曝光手背静脉提取图像的主要特征:
Figure BDA0003142466470000088
为了使低曝光手背静脉提取图像的纹理特征和背景特征的解耦效果更好,使用判别器网络对解码器重建的图像和目标图像进行真假判断。由于fd是由预训练的自编码网络得到的正常曝光人体手背静脉提取图像的纹理特征fp_v和输入为低曝光手背静脉提取图像编码得到的低曝光手背静脉提取图像特征fb级联得到,通过将fd恢复成低曝光手背静脉图像,就可以迫使fb编码得到的是低曝光手背静脉提取图像的背景特征。
步骤4、利用低曝光手背静脉提取图像训练集和训练好的特征解耦网络,训练图像增强网络,得到训练好的图像增强网络:
步骤4-1、将低曝光手背静脉提取图像训练集中的低曝光手背静脉提取图像
Figure BDA0003142466470000091
输入到编码器Enc_v,得到低曝光手背静脉特征fv
Figure BDA0003142466470000092
步骤4-2、将低曝光手背静脉特征fv与低曝光手背静脉提取图像特征fb级联,得到低曝光图像重建特征fd′,fd′输入到解码器Dec_b中进行解码得到低曝光手背静脉图像
Figure BDA0003142466470000093
将低曝光手背静脉特征fv与低曝光手背静脉提取图像特征fb级联,得到低曝光图像重建特征fd′
fd′=concate(fb,fv)
将fd′输入到解码器Dec_b中进行解码得到低曝光手背静脉图像
Figure BDA0003142466470000094
Figure BDA0003142466470000095
步骤4-3、将低曝光手背静脉提取图像
Figure BDA0003142466470000096
作为标签信息和低曝光手背静脉图像
Figure BDA0003142466470000097
同时输入到判别器Dis,对其真假进行判别,迫使编码器Enc_v得到的低曝光手背静脉特征fv为低曝光手背静脉提取图像的纹理特征。
通过计算损失函数LDec_b使fd′为低曝光手背静脉提取图像的主要特征:
Figure BDA0003142466470000098
步骤4-4、将低曝光手背静脉特征fv输入到解码器Dec_v解码输出得到增强后的静脉图像
Figure BDA0003142466470000099
训练迭代优化后,得到训练好的图像增强网络。
由于fd和fd′解码输出都为低曝光的手背静脉图像,并且两部分的解码使用相同的解码器,从而迫使fd与fd′具有相同的特征向量,由于两者都是通过与低曝光手背静脉提取图像特征fb级联得到,这会使fv与fp_v非常接近,因此使用fv也能重建增强后的静脉图像
Figure BDA00031424664700000910
Figure BDA00031424664700000911
步骤5、采集300个人体手背的低曝光静脉图像,对其进行有效区域提取,得到像素大小为256×256的300幅静脉图像,作为测试集。
步骤6、将测试集中的低曝光静脉图像输入到训练好的图像增强网络,得到增强后的静脉图像。
本发明提出的方法在Nvidia 2080Ti GPU主机上采用python编程语言和tensorflow框架语言搭建网络框架进行相关实验。训练包含三部分,首先训练编码器Enc_p与解码器Dec_p。每层卷积层使用ReLU激活函数,网络的学习率设置为2e-4。第二步训练特征解耦网络Enc_b与Dec_b、判别器Dis。在固定以上模块的参数之后,训练静脉图像增强网络Enc_v和Dec_v,网络的学习率设置为2e-5,卷积层后使用ReLU激活函数。其中,训练编码器Enc_p与解码器Dec_p的batch-size设置为3,训练迭代400次,特征解耦网络的batch-size设置为2,训练迭代800次结束训练。实验网络中还使用Adam优化算法实现更高效的运算。
为了验证低曝光图像增强有利于提高静脉识别系统的准确率,将没有经过增强的低曝光静脉图像和增强过后的静脉图像进行静脉识别对比实验,体现低曝光图像增强的实际应用意义。由于实际采集的低曝光静脉图像规模较小,不利于训练静脉识别模型,而且在实际的应用场所中,静脉采集装置采集得到的静脉图像大多是正常曝光的图像,只是由于某些因素可能导致采集过程中偶然出现背景灰暗的低对比度静脉图像。因此,使用正常曝光的静脉图像训练经典的图像识别网络VGG16,然后将没有经过增强的低曝光静脉图像和增强过的静脉图像作为网络的测试集,得到图像增强对静脉识别率的影响,Rank-One识别结果如表1所示。由实验可知,增强后的静脉图像识别率提高58.943%,验证了低曝光图像增强对静脉系统验证效果提升的有效性。
表1 Rank-One识别结果(%)
Figure BDA0003142466470000101
为了更好地体现本发明提出算法对于低曝光静脉图像增强的有效性,选取图像转换和低亮度图像增强中的相关算法LIME、Cycle-GAN、Pix2pix、DIE作为对比实验的模型进行相关实验,实验结果如图4所示。为了避免人类视觉偏差带来的误差,计算图像的PSNR和SSIM进行定量分析,结果如表2所示。
表2不同算法的PSNR和SSIM对比结果(单位:分贝)
Figure BDA0003142466470000111
由表2可知,本发明提出的方法在数值上相对于其他的对比模型在PSNR和SSIM指标上均有较为明显的提高。

Claims (4)

1.一种基于特征解耦学习的低曝光图像增强方法,其特征在于,包括以下步骤:
步骤1、采集P幅正常曝光下人体手背静脉图像,100<P<10000,通过低亮度图像合成方法将上述正常曝光下人体手背静脉图像逐张转化为低曝光手背静脉图像,再对所有静脉图像分别进行有效区域提取,提取后的图像像素大小为h×w,分别得到正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集;
步骤2、基于编码器Enc_p、Enc_b、解码器Dec_b、Dec_p以及判别器Dis构建一个特征解耦网络,基于一个编码器Enc_v和一个解码器Dec_v构建一个图像增强网络;
步骤3、利用正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集,训练特征解耦网络,得到训练好的特征解耦网络:
步骤3-1、通过正常曝光人体手背静脉提取图像训练集中的图像训练编码器Enc_p,得到其对应的正常曝光人体手背静脉图像的纹理特征fp_v,经解码器Dec_p解码得到正常曝光人体手背静脉图像,训练迭代优化后,固定编码器Enc_p参数;
步骤3-2、将低曝光手背静脉提取图像训练集中的低曝光手背静脉提取图像
Figure FDA0003526418250000011
输入到编码器Enc_b中,编码得到低曝光手背静脉提取图像特征fb
步骤3-3、将正常曝光人体手背静脉图像的纹理特征fp_v和低曝光手背静脉提取图像特征fb进行级联,得到低曝光手背静脉图像重建特征fd,将fd输入到解码器Dec_b中进行解码得到低曝光手背静脉解码图像
Figure FDA0003526418250000012
步骤3-4、低曝光手背静脉提取图像
Figure FDA0003526418250000013
作为标签信息,将标签信息和低曝光手背静脉解码图像
Figure FDA0003526418250000014
同时输入到判别器Dis,对其真假进行判别,迫使编码器Enc_b编码得到的低曝光手背静脉提取图像特征fb是低曝光静脉图像的背景特征,训练迭代优化后,固定编码器Enc_b参数和解码器Dec_b参数,进而获得训练好的特征解耦网络;
步骤4、利用低曝光手背静脉提取图像训练集和训练好的特征解耦网络,训练图像增强网络,得到训练好的图像增强网络:
步骤4-1、将低曝光手背静脉提取图像训练集中的低曝光手背静脉提取图像
Figure FDA0003526418250000021
输入到编码器Enc_v,得到低曝光手背静脉特征fv
步骤4-2、将低曝光手背静脉特征fv与低曝光手背静脉提取图像特征fb级联,得到低曝光图像重建特征fd′,fd′输入到解码器Dec_b中进行解码得到低曝光手背静脉图像
Figure FDA0003526418250000022
步骤4-3、低曝光手背静脉提取图像
Figure FDA0003526418250000023
作为标签信息,将标签信息和低曝光手背静脉图像
Figure FDA0003526418250000024
同时输入到判别器Dis,对其真假进行判别,迫使编码器Enc_v得到的低曝光手背静脉特征fv为低曝光手背静脉提取图像的纹理特征;
步骤4-4、将低曝光手背静脉特征fv输入到解码器Dec_v解码输出得到增强后的静脉图像
Figure FDA0003526418250000025
训练迭代优化后,得到训练好的图像增强网络;
步骤5、采集M个人体手背的低曝光静脉图像,100<M<1000,对其进行有效区域提取,得到像素大小为h×w的M幅静脉图像,作为测试集;
步骤6、将测试集中的低曝光静脉图像输入到训练好的图像增强网络,得到增强后的静脉图像。
2.根据权利要求1所述的基于特征解耦学习的低曝光图像增强方法,其特征在于,步骤3中的利用正常曝光下人体手背静脉提取图像训练集和低曝光手背静脉提取图像训练集,训练特征解耦网络,得到训练好的特征解耦网络,具体方法如下:
步骤3-1、使用正常曝光人体手背静脉提取图像训练编码器Enc_p与解码器Dec_p,由于输入和输出都为正常曝光人体手背静脉图像,使得编码器Enc_p编码出来得到的特征为正常曝光人体手背静脉图像的纹理特征:
Figure FDA0003526418250000026
其中,fp_v为正常曝光人体手背静脉图像的纹理特征;
Figure FDA0003526418250000027
为输入的正常曝光人体手背静脉提取图像训练集中的正常曝光人体手背静脉提取图像;
步骤3-2、将低曝光手背静脉提取图像
Figure FDA0003526418250000028
输入到编码器Enc_b中,得到特征:
Figure FDA0003526418250000029
其中,fb为Enc_b编码得到的低曝光手背静脉提取图像特征,当后续经过特征解耦后其代表低曝光手背静脉提取图像的背景特征;
步骤3-3、在获取到正常曝光人体手背静脉图像的纹理特征fp_v和低曝光手背静脉提取图像编码输出的低曝光手背静脉提取图像特征fb之后,将两个特征进行级联:
fd=concate(fb,fp_v)
其中,fd为fb和fp_v级联之后的低曝光手背静脉图像重建特征,concate(·)为特征级联操作;再将fd输入到解码器Dec_b中进行解码得到低曝光手背静脉解码图像
Figure FDA0003526418250000031
Figure FDA0003526418250000032
步骤3-4、低曝光手背静脉提取图像
Figure FDA0003526418250000033
作为标签信息,将标签信息和低曝光手背静脉解码图像
Figure FDA0003526418250000034
同时输入到判别器Dis,对其真假进行判别,通过计算损失函数LDec_b使fd为低曝光手背静脉提取图像的主要特征:
Figure FDA0003526418250000035
其中,
Figure FDA0003526418250000036
是输入的低曝光手背静脉提取图像,
Figure FDA0003526418250000037
是低曝光手背静脉解码图像,使用判别器Dis对解码器重建的图像和原图像进行真假判断;由于fd是由预训练的自编码网络得到的正常曝光人体手背静脉提取图像的纹理特征fp_v和输入为低曝光手背静脉提取图像编码得到的低曝光手背静脉提取图像特征fb级联得到的特征,通过将fd恢复成低曝光手背静脉解码图像,迫使fb编码得到的是低曝光手背静脉提取图像的背景特征。
3.根据权利要求1所述的基于特征解耦学习的低曝光图像增强方法,其特征在于:步骤4中利用低曝光手背静脉提取图像训练集和训练好的特征解耦网络,训练图像增强网络,得到训练好的图像增强网络,具体如下:
步骤4-1、将低曝光手背静脉提取图像
Figure FDA0003526418250000038
输入编码器Enc_v,得到低曝光手背静脉特征fv
Figure FDA0003526418250000039
步骤4-2、将低曝光手背静脉特征fv与低曝光手背静脉提取图像特征fb级联,得到低曝光图像重建特征fd′
fd′=concate(fb,fv)
concate(·)为特征级联操作;
将fd′输入到解码器Dec_b中进行解码得到低曝光手背静脉图像
Figure FDA0003526418250000041
Figure FDA0003526418250000042
步骤4-3、将低曝光手背静脉提取图像
Figure FDA0003526418250000043
作为标签信息,将标签信息和低曝光手背静脉图像
Figure FDA0003526418250000044
同时输入到判别器Dis,对其真假进行判别,通过计算损失函数LDec_b使fd′为低曝光手背静脉提取图像的主要特征:
Figure FDA0003526418250000045
步骤4-4、将低曝光手背静脉特征fv输入Dec_v解码输出得到增强后的静脉图像
Figure FDA0003526418250000046
训练迭代优化后,得到训练好的图像增强网络;
由于fd和fd′解码输出都为低曝光的手背静脉图像,并且两部分的解码使用相同的解码器,从而迫使fd与fd′具有相同的特征向量,由于两者都是通过与低曝光手背静脉提取图像特征fb级联得到,这会使fv与fp_v非常接近,因此使用fv也能重建增强后的静脉图像
Figure FDA0003526418250000047
Figure FDA0003526418250000048
其中,
Figure FDA0003526418250000049
为增强后的静脉图像。
4.根据权利要求1所述的基于特征解耦学习的低曝光图像增强方法,其特征在于:步骤1所述低亮度图像合成方法采用随机伽马变换方法。
CN202110745105.XA 2021-06-30 2021-06-30 基于特征解耦学习的低曝光图像增强方法 Active CN113689344B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110745105.XA CN113689344B (zh) 2021-06-30 2021-06-30 基于特征解耦学习的低曝光图像增强方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110745105.XA CN113689344B (zh) 2021-06-30 2021-06-30 基于特征解耦学习的低曝光图像增强方法

Publications (2)

Publication Number Publication Date
CN113689344A CN113689344A (zh) 2021-11-23
CN113689344B true CN113689344B (zh) 2022-05-27

Family

ID=78576625

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110745105.XA Active CN113689344B (zh) 2021-06-30 2021-06-30 基于特征解耦学习的低曝光图像增强方法

Country Status (1)

Country Link
CN (1) CN113689344B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115457611B (zh) * 2022-10-21 2023-04-21 中国矿业大学 一种基于特征解耦网络的静脉识别方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111428667A (zh) * 2020-03-31 2020-07-17 天津中科智能识别产业技术研究院有限公司 一种基于解耦表达学习生成对抗网络的人脸图像转正方法
CN112001863A (zh) * 2020-08-28 2020-11-27 太原科技大学 一种基于深度学习的欠曝光图像恢复方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104935940B (zh) * 2014-03-17 2018-02-16 寰发股份有限公司 基于深度的块分割的信号传递方法
CN109543535B (zh) * 2018-10-23 2021-12-21 华南理工大学 三维指静脉特征提取方法及其匹配方法
CN110288555B (zh) * 2019-07-02 2022-08-02 桂林电子科技大学 一种基于改进的胶囊网络的低照度增强方法
CN110675335B (zh) * 2019-08-31 2022-09-06 南京理工大学 基于多分辨率残差融合网络的浅表静脉增强方法
KR20210058320A (ko) * 2019-11-14 2021-05-24 한국전자통신연구원 단일 입력 영상을 이용한 3d 모델 생성 방법 및 이를 위한 장치
CN111209850B (zh) * 2020-01-04 2021-02-19 圣点世纪科技股份有限公司 一种基于改进cGAN网络生成适用多设备识别指静脉图像的方法
CN111835983B (zh) * 2020-07-23 2021-06-29 福州大学 一种基于生成对抗网络的多曝光图高动态范围成像方法及系统
CN112214746B (zh) * 2020-09-14 2021-07-13 中国矿业大学 基于多模态静脉图像性别信息异构分离的身份识别方法
CN113034413B (zh) * 2021-03-22 2024-03-05 西安邮电大学 一种基于多尺度融合残差编解码器的低照度图像增强方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111428667A (zh) * 2020-03-31 2020-07-17 天津中科智能识别产业技术研究院有限公司 一种基于解耦表达学习生成对抗网络的人脸图像转正方法
CN112001863A (zh) * 2020-08-28 2020-11-27 太原科技大学 一种基于深度学习的欠曝光图像恢复方法

Also Published As

Publication number Publication date
CN113689344A (zh) 2021-11-23

Similar Documents

Publication Publication Date Title
CN110348487B (zh) 一种基于深度学习的高光谱图像压缩方法及装置
CN110969124A (zh) 基于轻量级多分支网络的二维人体姿态估计方法及系统
CN106919903A (zh) 一种鲁棒的基于深度学习的连续情绪跟踪方法
CN111861945B (zh) 一种文本引导的图像修复方法和系统
CN110933429A (zh) 基于深度神经网络的视频压缩感知与重构方法和装置
CN109711380A (zh) 一种基于全局上下文信息的时序行为片段生成系统及方法
CN116433914A (zh) 一种二维医学图像分割方法及系统
CN111797891A (zh) 基于生成对抗网络的非成对异质人脸图像生成方法、装置
CN113689344B (zh) 基于特征解耦学习的低曝光图像增强方法
CN115880762B (zh) 面向人机混合视觉的可伸缩人脸图像编码方法、系统
CN114821100A (zh) 基于结构组稀疏网络的图像压缩感知重建方法
CN109672885B (zh) 一种用于矿井智能监控的视频图像编解码方法
CN115631107A (zh) 边缘引导的单幅图像噪声去除
CN116704585A (zh) 一种基于质量感知的人脸识别方法
CN116385259A (zh) 基于gan网络的图像风格迁移方法
CN115052147B (zh) 基于生成模型的人体视频压缩方法、系统
CN116523985A (zh) 一种结构和纹理特征引导的双编码器图像修复方法
CN114140472B (zh) 一种跨级信息融合医学图像分割方法
CN111104868B (zh) 一种基于卷积神经网络特征的跨质量人脸识别方法
CN115496134A (zh) 基于多模态特征融合的交通场景视频描述生成方法和装置
CN115760810A (zh) 医学图像分割装置、方法及计算机可读存储介质
CN115131386A (zh) 胸腔病灶影像的轮廓提取及检测方法与系统
CN116977455A (zh) 基于深度双向学习的人脸素描图像生成系统及方法
CN114422795A (zh) 一种面部视频编码方法、解码方法及装置
CN113269702A (zh) 基于跨尺度特征融合的低曝光静脉图像增强方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant