CN111079764A - 一种基于深度学习的低照度车牌图像识别方法及装置 - Google Patents

一种基于深度学习的低照度车牌图像识别方法及装置 Download PDF

Info

Publication number
CN111079764A
CN111079764A CN201911245020.4A CN201911245020A CN111079764A CN 111079764 A CN111079764 A CN 111079764A CN 201911245020 A CN201911245020 A CN 201911245020A CN 111079764 A CN111079764 A CN 111079764A
Authority
CN
China
Prior art keywords
image
illumination
license plate
neural network
low
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911245020.4A
Other languages
English (en)
Other versions
CN111079764B (zh
Inventor
张斯尧
罗茜
王思远
蒋杰
张�诚
李乾
谢喜林
黄晋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Jiuling Software Technology Co ltd
Original Assignee
Shenzhen Jiuling Software Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Jiuling Software Technology Co ltd filed Critical Shenzhen Jiuling Software Technology Co ltd
Priority to CN201911245020.4A priority Critical patent/CN111079764B/zh
Publication of CN111079764A publication Critical patent/CN111079764A/zh
Application granted granted Critical
Publication of CN111079764B publication Critical patent/CN111079764B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/14—Image acquisition
    • G06V30/148—Segmentation of character regions
    • G06V30/153—Segmentation of character regions using recognition of characters or words
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/62—Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/625—License plates
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Abstract

本发明提供了一种基于深度学习的低照度车牌图像识别方法及装置，包括：获取n个样本对；通过n个样本对对第一、第二卷积神经网络进行训练；将待增强的低照度车牌图像依次输入训练好的第一、第二卷积神经网络中，得到增强后的车牌图像；通过一体化的深度网络模型对所述增强后的车牌图像进行识别，从而可提高低照度车牌图像识别的效率和准确度。

Description

一种基于深度学习的低照度车牌图像识别方法及装置
技术领域
本发明属于计算机视觉与智慧交通技术领域，具体是涉及到一种基于深度学习的低照度车牌图像识别方法、装置、终端设备及计算机可读介质。
背景技术
低照度环境下拍摄的图像常存在曝光不足致使图像整体偏暗，视觉效果模糊，很大程度上影响了对图像信息的提取和分析。图像增强是一种常用的图像处理技术，可提高图像的对比度，从而改善图像视觉效果。Retinex理论认为色彩恒常性是由视网膜与大脑皮层共同作用的结果，将待增强图像看做是由反射光分量和入射光分量两部分组成，通过像素之间的像素值比较得到入射光分量估计，称为光照估计，然后从原始图像中去除或校正光照分量，从而实现对原始图像的增强。Retinex理论是一种颜色恒常知觉的计算理论，Retinex是一个合成词，它的构成是retina(视网膜)+cortex(皮层)→Retinex。目前基于Retinex理论处理低照度车牌图像大部分都采用传统算法，例如基于Retinex理论的非线性图像增强方法及其系统(CN104346776B)公开了一种通过梯度域变换的保边滤波方式获取图像的光照分量，然后对图像的光照分量进行动态范围调整，最后根据调整后的光照分量生成增强图像的方法。这些方法虽然能提升增强效果，但对图像还原不够真实，且处理效率低。具体的在车牌识别应用中,当车牌图像质量不高时,目前主要的技术思路是针对单帧图像利用相关的数字图像处理技术(如图像、滤波、图像增强等)进行相应的处理，以提高图像的质量。这些方法，大都是传统的思路，通常来说，会存在图像细节不够清晰，识别细节不够准确，处理效果往往根据环境不同而变化较大。而近年来，深度学习人工智能技术的发展，无疑为解决这些问题提供了新思路。此外，在现有方法中，需要对低照度成像车牌中的字符进行切割，计算量巨大，从而会极大地影响车牌识别效率和准确度。
发明内容
有鉴于此，本发明实施例提供一种基于深度学习的低照度车牌图像识别方法、装置、终端设备及计算机可读介质，能够提高低照度车牌图像识别的效率和准确度。
本发明实施例的第一方面提供了一种基于深度学习的低照度车牌图像识别方法，包括：
获取n个样本对；所述样本对包括低照度车牌图像和正常车牌图像；
将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；其中，所述第一卷积神经网络的损失函数包括所述正常车牌图像的光照图像I1和反射图像R1，以及所述低照度车牌图像的光照图像I2和反射图像R2；
将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure BDA0002307279930000021
以及将所述增强后的光照图像
Figure BDA0002307279930000022
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练；其中，所述第二卷积神经网络的损失函数包括所述增强后的光照图像
Figure BDA0002307279930000023
以及所述重构后的增强图像；
将待增强的低照度车牌图像依次输入训练好的第一神经网络、第二卷积神经网络中，得到增强后的车牌图像；
通过一体化的深度网络模型对所述增强后的车牌图像进行识别；所述一体化的深度网络模型包括卷积层、BRNN层、线性变换层和CTC层。
本发明实施例的第二方面提供了一种基于深度学习的低照度车牌图像识别装置，包括：
获取模块，用于获取n个样本对；所述样本对包括低照度车牌图像和正常车牌图像；
第一训练模块，用于将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；其中，所述第一卷积神经网络的损失函数包括所述正常车牌图像的光照图像I1和反射图像R1，以及所述低照度车牌图像的光照图像I2和反射图像R2；
第二训练模块，用于将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure BDA0002307279930000024
以及将所述增强后的光照图像
Figure BDA0002307279930000025
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练；其中，所述第二卷积神经网络的损失函数包括所述增强后的光照图像
Figure BDA0002307279930000026
以及所述重构后的增强图像；
增强模块，用于将待增强的低照度车牌图像依次输入训练好的第一卷积神经网络、第二卷积神经网络中，得到增强后的车牌图像；
识别模块，用于通过一体化的深度网络模型对所述增强后的车牌图像进行识别；所述一体化的深度网络模型包括卷积层、BRNN层、线性变换层和CTC层。
本发明实施例的第三方面提供了一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述基于深度学习的低照度车牌图像识别方法的步骤。
本发明实施例的第四方面提供了一种计算机可读介质，所述计算机可读介质存储有计算机程序，所述计算机程序被处理执行时实现上述基于深度学习的低照度车牌图像识别方法的步骤。
本发明实施例提供的基于深度学习的低照度车牌图像识别方法中，可获取n个样本对，将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练，还将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure BDA0002307279930000031
以及将所述增强后的光照图像
Figure BDA0002307279930000032
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练，最后可将待增强的低照度车牌图像依次输入训练好的第一神经网络、第二卷积神经网络中，得到增强后的车牌图像，并通过一体化的深度网络模型对所述增强后的车牌图像进行识别，从而可提高低照度车牌图像识别的效率和准确度。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种基于深度学习的低照度车牌图像识别方法的流程图；
图2是本发明实施例提供的第一卷积神经网络的结构示意图；
图3是本发明实施例提供的第二卷积神经网络的结构示意图；
图4是本发明实施例提供的通过一体化的深度网络模型对增强后的车牌图像进行识别的过程示意图；
图5是本发明实施例提供的一种基于深度学习的低照度车牌图像识别装置的结构示意图；
图6是图5中的第一训练模块的细化结构示意图；
图7是图5中的第二训练模块的细化结构示意图；
图8是图5中的识别模块的细化结构示意图；
图9是本发明实施例提供的终端设备的示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。
为了说明本发明所述的技术方案，下面通过具体实施例来进行说明。
请参阅图1，图1是本发明实施例提供的一种基于深度学习的低照度车牌图像识别方法。如图1所示，本实施例的基于深度学习的低照度车牌图像识别方法包括以下步骤：
S101：获取n个样本对。
在本发明实施例中，可利用图像采集设备(例如，单反相机)的不同的光圈值和感光度拍摄第一场景，获得所述第一场景的一个低照度车牌图像和一个正常车牌图像，作为第一样本对，利用图像采集设备的不同的光圈值和感光度拍摄第二场景，获得所述第二场景的一个低照度车牌图像和一个正常车牌图像，作为第二样本对，以此类推，从而获取n个样本对。需要指出的是，所述正常车牌图像的照度大于所述低照度车牌图像的照度。
S102：将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练。
具体地，根据Retinex理论，任何一幅图像都可以分解为光照图像和反射图像，且反射图像由物体本身性质决定，光照图像则受外界环境影响，因此，同一场景的低照度车牌图像和正常车牌图像有相同的反射图像。根据这一理论，可在将所述n个样本对输入第一卷积神经网络中之后，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使第一卷积神经网络学习自动分解，输出正常车牌图像的光照图像I1和反射图像R1，以及低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练，以得到训练好的第一卷积神经网络。
第一卷积神经网络如图2所述，包括5层卷积层和1个sigmoid(S形)层，卷积层用于提取图像特征，利用relu函数(线性整流函数)激活可将特征映射到光照图像和反射图像，sigmoid层将特征约束至[0,1]。所述第一卷积神经网络的损失函数可包括重构损失、光照平滑度损失和反射损失，其表达式如下：
L＝λ1L1+λ2L2+λ3L3
其中，L1为重构损失函数，L2为光照平滑度损失函数，L3为反射损失函数，λ1表示重构损失系数，λ2表示平衡光照平滑性系数，λ3表示反射损失系数；重构损失函数L1表示任一光照图像和反射图像融合重构图像与原图像的差异，重构损失函数L1表达式为：
Figure BDA0002307279930000051
其中，
Figure BDA0002307279930000057
λij为相关系数；
光照平滑度损失函数L2的表达式为：
Figure BDA0002307279930000052
其中，
Figure BDA0002307279930000053
表示水平方向的偏导数，
Figure BDA0002307279930000054
表示垂直方向的偏导数，ω1和ω2分别表示水平方向和垂直方向的平滑权重；
反射损失函数L3的表达式为：
L3＝||R2-R1||
其中，R1为正常车牌图像的反射图像，R2为低照度车牌图像的反射图像。
S103：将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure BDA0002307279930000055
以及将所述增强后的光照图像
Figure BDA0002307279930000056
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练。
在本发明实施例中，第二卷积神经网络的结构如图3所示，前1层为并行卷积层，第2层为1x1卷积层，第3层为子像素卷积层，最后两层为卷积层。第二卷积神经网络通过在网络中引入跳跃结构连接具有相同空间分辨率的并行卷积层和子像素卷积层，并行卷积层和子像素卷积层采用编码-解码模式进行连接，能够加快网络训练速度，防止网络陷入局部最优。并行卷积层采用包含不同滤波器大小的并行卷积结构提取不同尺度目标的图像特征，主要用来进行特征提取和增强，实现对比度提升。第2层卷积层采用1×1卷积核，用于压缩并行卷积层提取的特征的维度。第3层子像素卷积层是反卷积网络结构，通过最近邻插值法将尺寸调整到与输入图像一致。第4层卷积层对卷积层和子像素卷积层的输出特征图进行综合处理，逐个元素求和，进一步提高对比度。第5层卷积层用来输出增强后的光照图像
Figure BDA0002307279930000061
具体地，可用所述低照度车牌图像的光照图像I2和反射图像R2作为训练集输入第二卷积神经网络，根据光照平滑度对所述第二卷积神经网络进行约束，使第二卷积神经网络自动学习输出增强后的光照图像
Figure BDA0002307279930000062
并将增强后的光照图像
Figure BDA0002307279930000063
和低照度车牌图像的反射图像R2进行重构，得得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练，以得到训练好的第二卷积神经网络。
所述第二卷积神经网络的损失函数L'包括重构损失和光照平滑损失，其表达式如下：
L'＝L1'+λ'L2'
其中，L1'表示重构损失函数，L2'表示光照平滑损失函数，λ'表示平衡光照平滑性系数；重构损失函数L1'表示增强后的光照图像
Figure BDA0002307279930000064
和低照度车牌图像的反射图像R2重构增强后的车牌图像与原正常车牌图像S1的差异，重构损失函数L1'表示为：
Figure BDA0002307279930000065
其中，光照平滑损失函数L2'的表达式为：
Figure BDA0002307279930000066
其中，
Figure BDA0002307279930000067
表示水平方向的偏导数，
Figure BDA0002307279930000068
表示垂直方向的偏导数，ω1'和ω2'分别表示水平方向和垂直方向的平滑权重，
Figure BDA0002307279930000069
表示重构后的增强图像，
Figure BDA00023072799300000610
最近邻插值法可以用线性插值法或双线性插值法替代，最近邻插值法、线性插值法和双线性插值法都为现有方法，在此不再赘述。
优选的，将所述增强后的光照图像
Figure BDA00023072799300000611
与低照度车牌图像的反射图像R2重构得到所述增强图像之前，可对低照图像的反射图像R2做去噪操作：任意选取低照图像的反射图像R2的一个像素，计算该像素上下左右邻近像素的平均灰度；当该像素的灰度低于它周围像素的平均灰度时，进一步降低该像素灰度；当该像素的灰度高于它周围像素的平均灰度时，进一步提高该像的素灰度。进一步降低或提高像素灰度值的调整值
Figure BDA0002307279930000072
如下：
Figure BDA0002307279930000071
其中，(x,y)表示该像素点的位置，f(x,y)为该像素点调整前的灰度值，则替换后的像素灰度值g(x,y)表示如下：
Figure BDA0002307279930000073
对低照度车牌图像的反射图像R2的所有像素点都做如上运算，可锐化图像，提高对比度，消除噪声干扰。
S104：将待增强的低照度车牌图像依次输入训练好的第一神经网络、第二卷积神经网络中，得到增强后的车牌图像。
在本发明实施例中，在训练好第一神经网络和第二神经网络之后，可将待增强的低照度车牌图像依次输入训练好的第一神经网络、第二卷积神经网络中，以对所述待增强的低照度车牌图像进行增强，得到增强后的车牌图像。
S105：通过一体化的深度网络模型对所述增强后的车牌图像进行识别。
在本发明实施例中，所述一体化的深度网络模型包括卷积层、双向循环神经网络(BRNN)层、线性变换层和联结主义时间分类(CTC)层。具体地，可结合图4，对通过一体化的深度网络模型对所述增强后的车牌图像进行识别的具体方法进行理解，如下：
第一步，对所述增强后的车牌图像(例如，桂A.02U10)进行RoI(感兴趣区域)池化后的特征提取，将提取的特征(例如，为区域特征C×X×Y)通过两个卷积层，以及两个卷积层之间的矩形池化层进行处理，以将所述提取的特征变换为特征序列D×L；其中，D＝512,L＝19，所述特征序列使用V＝(V1,V2,...,VL)表示。
第二步，在BRNN层应用所述特征序列V，形成两个相互分离的循环神经网络(RNN)，其中一个RNN前向处理所述特征序列V，另外一个RNN后向处理所述特征序列V，将两个隐含的状态级联一起，输入到具有37个输出的线性变换层中，并转到Softmax层，将所述37个输出转换到概率，所述概率对应26个字母、10个数字及一个非字符类的概率，所述概率经过BRNN层编码，使所述特征序列V转换到与L具有相同长度的概率估计q＝(q1,q2,...,qL)，同时使用长短期记忆网络(LSTM)定义包含三个乘法门的记忆细胞，以选择性地保存相关信息，解决RNN训练中的梯度消失问题。
第三步，通过CTC层对所述概率估计q做序列解码，并通过解码后的概率估计q寻找具有最大概率的近似最优路径：
Figure BDA0002307279930000081
其中，π*是具有最大概率的近似最优路径(例如，*A02U10)，B算子用于一处重复的标记及非字符标记，P为概率运算，示例为：B(a-a-b-)＝B(-a--a-bb)＝(aab)，而CTC的具体细节为现有CTC的构造，故在此不做赘述。
第四步，通过所述近似最优路径确定一体化的深度网络模型的损失函数，并通过所述损失函数对所述增强后的车牌图像进行识别。通过模型整体的损失函数识别出所述增强后的车牌图像的方法同现有技术，故在此不再赘述。需要指出的是，所述一体化的深度网络模型除了包括主要的卷积层(两个)、BRNN层、线性变换层和CTC层之外，还可包括Softmax层和两个卷积层之间的矩形池化层。且所述卷积层也可以看做是卷积神经网络。
此外，在本发明的一个实施例中，在上述第一步之前，还可包括对所述增强后的车牌图像(例如，该车牌图像实际包含整车，车牌只是其中一部分)中的车牌区域进行检测的步骤，具体可以为：对所述增强后的车牌进行RoI池化，再通过在循环神经网络(RNN)的两个fc层(全连接层)中加一个提取层，以将所述池化后的特征(或称为区域特征)转化为特征向量，该特征向量用于车牌打分和车牌的边框回归，从而可检测出所述车牌图像中的RoI是否为车牌，再进行下一步骤的车牌的具体识别。可以理解的是，由于在两个FC层中加一个提取层，并通过打分及边框回归的方式对车牌进行检测，因此本发明实施例构建了新的与现有技术不同的RNN。
本发明中提出的方法实际上可嵌入FPGA实现，运用于具有实时输出图像功能的低照度成像车牌识别功能的夜视相机或摄像机监控系统中。
在图1提供的基于深度学习的低照度车牌图像识别方法中，可将待增强的低照度车牌图像依次输入训练好的第一卷积神经网络、第二卷积神经网络中，得到增强后的车牌图像，再可通过一体化的深度网络模型对所述增强后的车牌图像进行识别，由于所述一体化的深度网络模型包含BRNN层、CTC层和两个卷积层(卷积神经网络)，因此，本发明实施例可通过四个卷积神经网络，并结合BRNN层和CTC层的处理，避免进行大计算量的字符分割，提高低照度车牌识别的效率及准确度。
请参阅图5，图5是本发明实施例提供的一种基于深度学习的低照度车牌图像识别装置的结构框图。如图5所示，本实施例的基于深度学习的低照度车牌图像识别装置50包括获取模块501、第一训练模块502、第二训练模块503、增强模块504和识别模块505。获取模块501、第一训练模块502、第二训练模块503、增强模块504和识别模块505分别用于执行图1中的S101、S102、S103、S104和S105中的具体方法，详情可参见图1的相关介绍，在此仅作简单描述：
获取模块501，用于获取n个样本对；所述样本对包括低照度车牌图像和正常车牌图像。
第一训练模块502，用于将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；其中，所述第一卷积神经网络的损失函数包括所述正常车牌图像的光照图像I1和反射图像R1，以及所述低照度车牌图像的光照图像I2和反射图像R2。
第二训练模块503，用于将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure BDA0002307279930000091
以及将所述增强后的光照图像
Figure BDA0002307279930000093
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练；其中，所述第二卷积神经网络的损失函数包括所述增强后的光照图像
Figure BDA0002307279930000092
以及所述重构后的增强图像。
增强模块504，用于将待增强的低照度车牌图像依次输入训练好的第一、第二卷积神经网络中，得到增强后的车牌图像。
识别模块505，用于通过一体化的深度网络模型对所述增强后的车牌图像进行识别；所述一体化的深度网络模型包括卷积层、BRNN层、线性变换层和CTC层。
进一步地，可参见图6，第一训练模块402可具体包括第一约束单元4021和第一训练单元4022：
第一约束单元402，用于将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2。
第一训练单元403，用于以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；所述第一卷积神经网络的损失函数L为：
L＝λ1L1+λ2L2+λ3L3
其中，L1为重构损失函数，L2为光照平滑度损失函数，L3为反射损失函数，λ1表示重构损失系数，λ2表示平衡光照平滑性系数，λ3表示反射损失系数；重构损失函数L1表示任一光照图像和反射图像融合重构图像与原图像的差异，重构损失函数L1表达式为：
Figure BDA0002307279930000101
其中，
Figure BDA00023072799300001014
λij为相关系数。
光照平滑度损失函数L2的表达式为：
Figure BDA0002307279930000102
其中，
Figure BDA0002307279930000103
表示水平方向的偏导数，
Figure BDA0002307279930000104
表示垂直方向的偏导数，ω1和ω2分别表示水平方向和垂直方向的平滑权重。
反射损失函数L3的表达式为：
L3＝||R2-R1||
其中，R1为正常车牌图像的反射图像，R2为低照度车牌图像的反射图像。
进一步地，可参见图7，第二训练模块403可具体包括第一约束单元4031和第一训练单元4032：
第二约束单元4031，用于将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure BDA0002307279930000105
以及将所述增强后的光照图像
Figure BDA0002307279930000106
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像。
第二训练单元4032，用于以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练，所述第二卷积神经网络的损失函数L'为：
L'＝L1'+λ'L2'
其中，L1'表示重构损失函数，L2'表示光照平滑损失函数，λ'表示平衡光照平滑性系数；重构损失函数L1'表示增强后的光照图像
Figure BDA0002307279930000107
和低照度车牌图像的反射图像R2重构增强后的车牌图像与原正常车牌图像S1的差异，重构损失函数L1'表示为：
Figure BDA0002307279930000108
其中，光照平滑损失函数L2'的表达式为：
Figure BDA0002307279930000109
其中，
Figure BDA00023072799300001010
表示水平方向的偏导数，
Figure BDA00023072799300001011
表示垂直方向的偏导数，ω1'和ω2'分别表示水平方向和垂直方向的平滑权重，
Figure BDA00023072799300001012
表示重构后的增强图像，
Figure BDA00023072799300001013
进一步地，可参见图8，识别模块505可具体包括特征提取单元5051、概率估计单元5052、最优路径单元5053和识别单元5054：
特征提取单元5051，用于对所述增强后的车牌图像进行RoI池化后的特征提取，将提取的特征通过两个卷积层，以及两个卷积层之间的矩形池化层进行处理，以将所述提取的特征变换为特征序列D×L；其中，D＝512,L＝19，所述特征序列使用V＝(V1,V2,...,VL)表示。
概率估计单元5052，用于在BRNN层应用所述特征序列V，形成两个相互分离的循环神经网络RNN，其中一个RNN前向处理所述特征序列V，另外一个RNN后向处理所述特征序列V，将两个隐含的状态级联一起，输入到具有37个输出的线性变换层中，并转到Softmax层，将所述37个输出转换到概率，所述概率对应26个字母、10个数字及一个非字符类的概率，所述概率经过BRNN层编码，使所述特征序列V转换到与L具有相同长度的概率估计q＝(q1,q2,...,qL)，同时使用LSTM定义包含三个乘法门的记忆细胞，以选择性地保存相关信息，解决RNN训练中的梯度消失问题。
最优路径单元5053，用于通过CTC层对所述概率估计q做序列解码，并通过解码后的概率估计q寻找具有最大概率的近似最优路径：
Figure BDA0002307279930000111
其中，π*是具有最大概率的近似最优路径，B算子用于一处重复的标记及非字符标记，P为概率运算。
识别单元5054，用于通过所述近似最优路径确定一体化的深度网络模型的损失函数，并通过所述损失函数对所述增强后的车牌图像进行识别。
在图5提供的基于深度学习的低照度车牌图像识别装置，可将待增强的低照度车牌图像依次输入训练好的第一卷积神经网络、第二卷积神经网络中，得到增强后的车牌图像，再可通过一体化的深度网络模型对所述增强后的车牌图像进行识别，由于所述一体化的深度网络模型包含BRNN层、CTC层和两个卷积层(卷积神经网络)，因此，本发明实施例可通过四个卷积神经网络，并结合BRNN层和CTC层的处理，避免进行大计算量的字符分割，提高低照度车牌识别的效率及准确度。
图9是本发明一实施例提供的终端设备的示意图。如图9所示，该实施例的终端设备9包括：处理器90、存储器91以及存储在所述存储器91中并可在所述处理器90上运行的计算机程序92，例如进行基于深度学习的低照度车牌图像识别的程序。所述处理器90执行所述计算机程序92时实现上述方法实施例中的步骤，例如，图1所示的S101至S105。或者，所述处理器90执行所述计算机程序92时实现上述各装置实施例中各模块/单元的功能，例如图5所示模块501至505的功能。
示例性的，所述计算机程序92可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器91中，并由所述处理器90执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序92在终端设备9中的执行过程。例如，所述计算机程序92可以被分割成获取模块501、第一训练模块502、第二训练模块503、增强模块504和识别模块505。(虚拟装置中的模块)，各模块具体功能如下：
获取模块501，用于获取n个样本对；所述样本对包括低照度车牌图像和正常车牌图像。
第一训练模块502，用于将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；其中，所述第一卷积神经网络的损失函数包括所述正常车牌图像的光照图像I1和反射图像R1，以及所述低照度车牌图像的光照图像I2和反射图像R2。
第二训练模块503，用于将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure BDA0002307279930000121
以及将所述增强后的光照图像
Figure BDA0002307279930000122
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练；其中，所述第二卷积神经网络的损失函数包括所述增强后的光照图像
Figure BDA0002307279930000123
以及所述重构后的增强图像。
增强模块504，用于将待增强的低照度车牌图像依次输入训练好的第一、第二卷积神经网络中，得到增强后的车牌图像。
识别模块505，用于通过一体化的深度网络模型对所述增强后的车牌图像进行识别；所述一体化的深度网络模型包括卷积层、BRNN层、线性变换层和CTC层。
所述终端设备9可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。终端设备9可包括，但不仅限于，处理器90、存储器91。本领域技术人员可以理解，图9仅仅是终端设备9的示例，并不构成对终端设备9的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所述处理器90可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器91可以是终端设备9的内部存储单元，例如终端设备9的硬盘或内存。所述存储器91也可以是终端设备9的外部存储设备，例如所述终端设备9上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器91还可以既包括终端设备9的内部存储单元也包括外部存储设备。所述存储器91用于存储所述计算机程序以及终端设备9所需的其他程序和数据。所述存储器91还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中，应该理解到，所揭露的装置/终端设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/终端设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于深度学习的低照度车牌图像识别方法，其特征在于，包括：
获取n个样本对；所述样本对包括低照度车牌图像和正常车牌图像；
将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；其中，所述第一卷积神经网络的损失函数包括所述正常车牌图像的光照图像I1和反射图像R1，以及所述低照度车牌图像的光照图像I2和反射图像R2；
将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure FDA0002307279920000011
以及将所述增强后的光照图像
Figure FDA0002307279920000012
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练；其中，所述第二卷积神经网络的损失函数包括所述增强后的光照图像
Figure FDA0002307279920000013
以及所述重构后的增强图像；
将待增强的低照度车牌图像依次输入训练好的第一卷积神经网络、第二卷积神经网络中，得到增强后的车牌图像；
通过一体化的深度网络模型对所述增强后的车牌图像进行识别；所述一体化的深度网络模型包括卷积层、双向循环神经网络BRNN层、线性变换层和联结主义时间分类CTC层。
2.根据权利要求1所述的基于深度学习的低照度车牌图像识别方法，其特征在于，所述获取n个样本对，包括：
利用图像采集设备的不同的光圈值和感光度拍摄第一场景，获得所述第一场景的一个低照度车牌图像和一个正常车牌图像，作为第一样本对；
利用图像采集设备的不同的光圈值和感光度拍摄第二场景，获得所述第二场景的一个低照度车牌图像和一个正常车牌图像，作为第二样本对；
以此类推，获取n个样本对。
3.根据权利要求1所述的基于深度学习的低照度车牌图像识别方法，其特征在于，所述将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练，包括：
将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2；
以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；所述第一卷积神经网络的损失函数L为：
L＝λ1L1+λ2L2+λ3L3
其中，L1为重构损失函数，L2为光照平滑度损失函数，L3为反射损失函数，λ1表示重构损失系数，λ2表示平衡光照平滑性系数，λ3表示反射损失系数；重构损失函数L1表示任一光照图像和反射图像融合重构图像与原图像的差异，重构损失函数L1表达式为：
Figure FDA0002307279920000021
其中，
Figure FDA0002307279920000022
λij为相关系数；
光照平滑度损失函数L2的表达式为：
Figure FDA0002307279920000023
其中，
Figure FDA0002307279920000028
表示水平方向的偏导数，
Figure FDA0002307279920000029
表示垂直方向的偏导数，ω1和ω2分别表示水平方向和垂直方向的平滑权重；
反射损失函数L3的表达式为：
L3＝||R2-R1||
其中，R1为正常车牌图像的反射图像，R2为低照度车牌图像的反射图像。
4.根据权利要求3所述的基于深度学习的低照度车牌图像识别方法，其特征在于，所述将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure FDA0002307279920000024
以及将所述增强后的光照图像
Figure FDA0002307279920000025
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练，包括：
将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure FDA0002307279920000026
以及将所述增强后的光照图像
Figure FDA0002307279920000027
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像；
以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练，所述第二卷积神经网络的损失函数L'为：
L'＝L1'+λ'L2'
其中，L1'表示重构损失函数，L2'表示光照平滑损失函数，λ'表示平衡光照平滑性系数；重构损失函数L1'表示增强后的光照图像
Figure FDA0002307279920000031
和低照度车牌图像的反射图像R2重构增强后的车牌图像与原正常车牌图像S1的差异，重构损失函数L1'表示为：
Figure FDA0002307279920000032
其中，光照平滑损失函数L2'的表达式为：
Figure FDA0002307279920000033
其中，
Figure FDA0002307279920000038
表示水平方向的偏导数，
Figure FDA0002307279920000037
表示垂直方向的偏导数，ω1'和ω2'分别表示水平方向和垂直方向的平滑权重，
Figure FDA0002307279920000034
表示重构后的增强图像，
Figure FDA0002307279920000035
5.根据权利要求1～4中任一项所述的基于深度学习的低照度车牌图像识别方法，其特征在于，所述通过一体化的深度网络模型对所述增强后的车牌图像进行识别，包括：
对所述增强后的车牌图像进行RoI池化后的特征提取，将提取的特征通过两个卷积层，以及两个卷积层之间的矩形池化层进行处理，以将所述提取的特征变换为特征序列D×L；其中，D＝512,L＝19，所述特征序列使用V＝(V1,V2,...,VL)表示；
在BRNN层应用所述特征序列V，形成两个相互分离的循环神经网络RNN，其中一个RNN前向处理所述特征序列V，另外一个RNN后向处理所述特征序列V，将两个隐含的状态级联一起，输入到具有37个输出的线性变换层中，并转到Softmax层，将所述37个输出转换到概率，所述概率对应26个字母、10个数字及一个非字符类的概率，所述概率经过BRNN层编码，使所述特征序列V转换到与L具有相同长度的概率估计q＝(q1,q2,...,qL)，同时使用长短期记忆网络LSTM定义包含三个乘法门的记忆细胞，以选择性地保存相关信息，解决RNN训练中的梯度消失问题，
通过CTC层对所述概率估计q做序列解码，并通过解码后的概率估计q寻找具有最大概率的近似最优路径：
Figure FDA0002307279920000036
其中，π*是具有最大概率的近似最优路径，B算子用于一处重复的标记及非字符标记，P为概率运算；
通过所述近似最优路径确定一体化的深度网络模型的损失函数，并通过所述损失函数对所述增强后的车牌图像进行识别。
6.一种基于深度学习的低照度车牌图像识别装置，其特征在于，包括：
获取模块，用于获取n个样本对；所述样本对包括低照度车牌图像和正常车牌图像；
第一训练模块，用于将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2，并以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；其中，所述第一卷积神经网络的损失函数包括所述正常车牌图像的光照图像I1和反射图像R1，以及所述低照度车牌图像的光照图像I2和反射图像R2；
第二训练模块，用于将所述低照度车牌图像的光照图像I2和反射图像R2输入第二卷积神经网络中，根据光照平滑度对所述第二卷积神经网络进行约束，使所述第二卷积神经网络输出增强后的光照图像
Figure FDA0002307279920000041
以及将所述增强后的光照图像
Figure FDA0002307279920000042
与低照度车牌图像的反射图像R2重构，得到重构后的增强图像，并以所述第二卷积神经网络的损失函数对所述第二卷积神经网络进行训练；其中，所述第二卷积神经网络的损失函数包括所述增强后的光照图像
Figure FDA0002307279920000043
以及所述重构后的增强图像；
增强模块，用于将待增强的低照度车牌图像依次输入训练好的第一卷积神经网络、第二卷积神经网络中，得到增强后的车牌图像；
识别模块，用于通过一体化的深度网络模型对所述增强后的车牌图像进行识别；所述一体化的深度网络模型包括卷积层、BRNN层、线性变换层和CTC层。
7.根据权利要求6所述的基于深度学习的低照度车牌图像识别装置，其特征在于，所述第一训练模块包括：
第一约束单元，用于将所述n个样本对输入第一卷积神经网络中，以低照度车牌图像和正常车牌图像共享一致的反射率和光照平滑度对所述第一卷积神经网络进行约束，使所述第一卷积神经网络输出正常车牌图像的光照图像I1和反射图像R1，以及输出低照度车牌图像的光照图像I2和反射图像R2；
第一训练单元，用于以所述第一卷积神经网络的损失函数对所述第一卷积神经网络进行训练；所述第一卷积神经网络的损失函数L为：
L＝λ1L1+λ2L2+λ3L3
其中，L1为重构损失函数，L2为光照平滑度损失函数，L3为反射损失函数，λ1表示重构损失系数，λ2表示平衡光照平滑性系数，λ3表示反射损失系数；重构损失函数L1表示任一光照图像和反射图像融合重构图像与原图像的差异，重构损失函数L1表达式为：
Figure FDA0002307279920000051
其中，
Figure FDA0002307279920000055
λij为相关系数；
光照平滑度损失函数L2的表达式为：
Figure FDA0002307279920000052
其中，
Figure FDA0002307279920000053
表示水平方向的偏导数，
Figure FDA0002307279920000054
表示垂直方向的偏导数，ω1和ω2分别表示水平方向和垂直方向的平滑权重；
反射损失函数L3的表达式为：
L3＝||R2-R1||
其中，R1为正常车牌图像的反射图像，R2为低照度车牌图像的反射图像。
8.根据权利要求6或7所述的基于深度学习的低照度车牌图像识别装置，其特征在于，所述识别模块包括：
特征提取单元，用于对所述增强后的车牌图像进行RoI池化后的特征提取，将提取的特征通过两个卷积层，以及两个卷积层之间的矩形池化层进行处理，以将所述提取的特征变换为特征序列D×L；其中，D＝512,L＝19，所述特征序列使用V＝(V1,V2,...,VL)表示；
概率估计单元，用于在BRNN层应用所述特征序列V，形成两个相互分离的循环神经网络RNN，其中一个RNN前向处理所述特征序列V，另外一个RNN后向处理所述特征序列V，将两个隐含的状态级联一起，输入到具有37个输出的线性变换层中，并转到Softmax层，将所述37个输出转换到概率，所述概率对应26个字母、10个数字及一个非字符类的概率，所述概率经过BRNN层编码，使所述特征序列V转换到与L具有相同长度的概率估计q＝(q1,q2,...,qL)，同时使用LSTM定义包含三个乘法门的记忆细胞，以选择性地保存相关信息，解决RNN训练中的梯度消失问题；
最优路径单元，用于通过CTC层对所述概率估计q做序列解码，并通过解码后的概率估计q寻找具有最大概率的近似最优路径：
Figure FDA0002307279920000061
其中，π*是具有最大概率的近似最优路径，B算子用于一处重复的标记及非字符标记，P为概率运算；
识别单元，用于通过所述近似最优路径确定一体化的深度网络模型的损失函数，并通过所述损失函数对所述增强后的车牌图像进行识别。
9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1-5中任一项所述方法的步骤。
10.一种计算机可读介质，所述计算机可读介质存储有计算机程序，其特征在于，所述计算机程序被处理执行时实现如权利要求1-5中任一项所述方法的步骤。
CN201911245020.4A 2019-12-06 2019-12-06 一种基于深度学习的低照度车牌图像识别方法及装置 Active CN111079764B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911245020.4A CN111079764B (zh) 2019-12-06 2019-12-06 一种基于深度学习的低照度车牌图像识别方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911245020.4A CN111079764B (zh) 2019-12-06 2019-12-06 一种基于深度学习的低照度车牌图像识别方法及装置

Publications (2)

Publication Number Publication Date
CN111079764A true CN111079764A (zh) 2020-04-28
CN111079764B CN111079764B (zh) 2023-04-07

Family

ID=70313201

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911245020.4A Active CN111079764B (zh) 2019-12-06 2019-12-06 一种基于深度学习的低照度车牌图像识别方法及装置

Country Status (1)

Country Link
CN (1) CN111079764B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111627218A (zh) * 2020-06-02 2020-09-04 重庆智者炎麒科技有限公司 一种通过图像增强进行夜间车牌识别的方法
CN111709991A (zh) * 2020-05-28 2020-09-25 武汉工程大学 一种铁路工机具的检测方法、系统、装置和存储介质
CN112580672A (zh) * 2020-12-28 2021-03-30 安徽创世科技股份有限公司 一种适用于暗环境的车牌识别预处理方法、装置及存储介质
CN112614063A (zh) * 2020-12-18 2021-04-06 武汉科技大学 用于楼宇内低照度环境的图像增强和噪声自适应去除方法
CN113159158A (zh) * 2021-04-16 2021-07-23 西安建筑科技大学 一种基于生成对抗网络的车牌矫正与重构方法及系统
CN113379861A (zh) * 2021-05-24 2021-09-10 南京理工大学 基于色彩恢复块的彩色微光图像重建方法
CN113505865A (zh) * 2021-09-10 2021-10-15 浙江双元科技股份有限公司 一种基于卷积神经网络的片材表面缺陷图像识别处理方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1150248A2 (en) * 2000-04-24 2001-10-31 Eastman Kodak Company Digital image processing method for edge contrast enhancement using wavelet transform
CN107194356A (zh) * 2017-05-25 2017-09-22 湖南警察学院 基于人工神经网络的人脸检测识别方法
CN110111269A (zh) * 2019-04-22 2019-08-09 深圳久凌软件技术有限公司 基于多尺度上下文聚合网络的低照度成像算法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1150248A2 (en) * 2000-04-24 2001-10-31 Eastman Kodak Company Digital image processing method for edge contrast enhancement using wavelet transform
CN107194356A (zh) * 2017-05-25 2017-09-22 湖南警察学院 基于人工神经网络的人脸检测识别方法
CN110111269A (zh) * 2019-04-22 2019-08-09 深圳久凌软件技术有限公司 基于多尺度上下文聚合网络的低照度成像算法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
陈雅倩;嵇晶晶;王季宇;骆金秋;常恒;: "基于Matlab的车辆牌照的处理与识别的系统探析" *
雷倩;郝存明;张伟平;: "基于超分辨率和深度神经网络的车型识别" *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111709991A (zh) * 2020-05-28 2020-09-25 武汉工程大学 一种铁路工机具的检测方法、系统、装置和存储介质
CN111709991B (zh) * 2020-05-28 2023-11-07 武汉工程大学 一种铁路工机具的检测方法、系统、装置和存储介质
CN111627218A (zh) * 2020-06-02 2020-09-04 重庆智者炎麒科技有限公司 一种通过图像增强进行夜间车牌识别的方法
CN112614063A (zh) * 2020-12-18 2021-04-06 武汉科技大学 用于楼宇内低照度环境的图像增强和噪声自适应去除方法
CN112614063B (zh) * 2020-12-18 2022-07-01 武汉科技大学 用于楼宇内低照度环境的图像增强和噪声自适应去除方法
CN112580672A (zh) * 2020-12-28 2021-03-30 安徽创世科技股份有限公司 一种适用于暗环境的车牌识别预处理方法、装置及存储介质
CN113159158A (zh) * 2021-04-16 2021-07-23 西安建筑科技大学 一种基于生成对抗网络的车牌矫正与重构方法及系统
CN113379861A (zh) * 2021-05-24 2021-09-10 南京理工大学 基于色彩恢复块的彩色微光图像重建方法
CN113505865A (zh) * 2021-09-10 2021-10-15 浙江双元科技股份有限公司 一种基于卷积神经网络的片材表面缺陷图像识别处理方法
CN113505865B (zh) * 2021-09-10 2021-12-07 浙江双元科技股份有限公司 一种基于卷积神经网络的片材表面缺陷图像识别处理方法

Also Published As

Publication number Publication date
CN111079764B (zh) 2023-04-07

Similar Documents

Publication Publication Date Title
CN111079764B (zh) 一种基于深度学习的低照度车牌图像识别方法及装置
Lv et al. Attention guided low-light image enhancement with a large scale low-light simulation dataset
CN110675336A (zh) 一种低照度图像增强方法及装置
Zhou et al. Cross-view enhancement network for underwater images
CN112446270A (zh) 行人再识别网络的训练方法、行人再识别方法和装置
CN112446380A (zh) 图像处理方法和装置
CN109685045B (zh) 一种运动目标视频跟踪方法及系统
CN114119378A (zh) 图像融合方法、图像融合模型的训练方法和装置
CN112348747A (zh) 图像增强方法、装置及存储介质
CN111340077B (zh) 基于注意力机制的视差图获取方法和装置
CN110675334A (zh) 一种图像增强方法及装置
Yuan et al. Single image dehazing via NIN-DehazeNet
CN111833360B (zh) 一种图像处理方法、装置、设备以及计算机可读存储介质
CN112507897A (zh) 跨模态人脸识别方法、装置、设备及存储介质
CN114140346A (zh) 一种图像处理方法及装置
CN111612741A (zh) 一种基于失真识别的精确无参考图像质量评价方法
Su et al. Prior guided conditional generative adversarial network for single image dehazing
Li et al. Densely connected network for impulse noise removal
CN111126250A (zh) 一种基于ptgan的行人重识别方法及装置
Zhou et al. Sparse representation with enhanced nonlocal self-similarity for image denoising
CN111027564A (zh) 基于深度学习一体化的低照度成像车牌识别方法及装置
CN113096023A (zh) 神经网络的训练方法、图像处理方法及装置、存储介质
Qiao et al. Layered input GradiNet for image denoising
Chen et al. High-dynamic range, night vision, image-fusion algorithm based on a decomposition convolution neural network
Zin et al. Local image denoising using RAISR

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant