车牌图像生成模型构建方法、生成方法及装置
技术领域
本申请一般涉及计算机技术领域,具体涉及一种车牌图像生成模型构建方法、生成方法及装置。
背景技术
在物流领域中,需要通过识别车牌进行物流管理。主要的交通工具以货车为主,后车牌主要以双层黄牌为主。在进行车牌识别时,利用预先训练的车牌识别模型来完成。
目前,用于构建车牌识别模型的实际车牌图像较少,为了得到大量的图像数据,一方面通过人工标注的方法收集车牌图像,另一方面,通过人工合成的方法来生成车牌图像。
对于人工合成车牌图像,耗时长,成本高,对于人工合成的车牌图像,与真实车牌差别大,影响识别模型的准确性。
发明内容
鉴于现有技术中的上述缺陷或不足,期望提供一种车牌图像生成模型构建方法、生成方法及装置,以提高车牌图像生成的效率。
第一方面,本申请实施例提供一种车牌图像生成模型构建方法,包括:
获取训练集,该训练集包括合成车牌图像和真实车牌图像;
生成循环生成对抗网络,该循环生成对抗网络包括第一生成器、第二生成器、第一判别器及第二判别器,该第一生成器包括正图像向负图像的映射算法,第二生成器包括负图像向正图像的映射算法,该第一判别器用于识别该训练集中的该第一生成器的输出结果,该第二判别器用于识别该第二生成器的输出结果;
基于该训练集对该循环生成对抗网络进行训练,得到至少一个训练后的第一生成器,作为目标生成器,该目标生成器用于生成目标车牌图像。
第二方面,本申请实施例提供一种车牌图像生成方法,该方法包括:
获取合成车牌图像;
将合成车牌图像输入到如第一方面所述的目标生成器,生成目标车牌图像。
第三方面,本申请实施例提供一种车牌图像生成模型构建装置,包括:
获取模块,用于获取训练集,该训练集包括合成车牌图像和真实车牌图像;
生成模块,用于生成循环生成对抗网络,该循环生成对抗网络包括第一生成器、第二生成器、第一判别器及第二判别器,该第一生成器包括正图像向负图像的映射算法,第二生成器包括负图像向正图像的映射算法,该第一判别器用于识别该训练集中的该第一生成器的输出结果,该第二判别器用于识别该第二生成器的输出结果;
训练模块,用于基于该训练集对该循环生成对抗网络进行训练,得到至少一个训练后的第一生成器,作为目标生成器,该目标生成器用于生成目标车牌图像。
第四方面,本申请实施例提供一种车牌图像生成装置,该装置包括:
获取模块,用于获取合成车牌图像;
生成模块,用于将合成车牌图像输入到如第一方面所述的目标生成器,生成目标车牌图像。
综上,本申请实施例提供的车牌图像生成模型构建方法、生成方法及装置,在预先生成循环生成对抗网络后,利用获取的图像对循环生成对抗网络进行多次反复训练后,得到最优的目标生成器,从而可以利用该最优目标生成器及人工合成的车牌,生成大量的逼真的车牌,提高了车牌图像生成的效率和可靠性。
进一步,通过利用生成器和判别器的输出结果,计算循环生成对抗网络的损失,进而利用该损失调整生成器的参数,提高了生成器的优化效率。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1为本申请的实施例的车牌图像生成模型构建方法的流程示意图;
图2为本申请的实施例的车牌图像生成模型构建方法的结构示意图;
图3为本申请的实施例的生成器的网络结构示意图;
图4为本申请的实施例的判别器的网络结构示意图;
图5为本申请的实施例的车牌图像生成方法的流程示意图;
图6为本申请的实施例的车牌图像生成模型构建装置的结构示意图;
图7为本申请的实施例的车牌图像生成装置的结构示意图;
图8为本申请的实施例的服务器的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关申请,而非对该申请的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与申请相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
可以理解,在物流等场景下,需要对车辆的车牌进行识别,如可以通过预先构建的车牌识别模型实现。在识别模型构建中,需要大量的逼真的车牌图像作为训练样本。本申请实施例为提高车牌图像训练样本的生成效率及准确率,实现车牌图像样本的快速获取,提供了通过循环对抗生成网络,得到车牌图像样本生成的生成模型(即生成器),进而可以利用生成器及人工合成车牌图像,快速高效的获取逼真的车牌图像样本。
为了便于理解和说明,下面通过图1详细说明车牌图像样本生成模型的构建过程。图1所示为本申请实施例提供的车牌图像生成方法的流程示意图,如图1所示,该方法包括:
S110,获取训练集。
S120,生成循环生成对抗网络。
具体的,首先可以通过人工合成的方法合成多张包括车牌号码及背景的车牌图像,并获取多张真实车牌图像。进而可以通过部分图像增广,来生成与合成车牌数量相当的真实车牌图像帧。人工合成车牌图像与真实车牌图像组成训练集。
进一步可以搭建初始的循环生成对抗网络,如图3及图4所示,即生成第一生成器、第二生成器、第一判别器、第二判别器。
可以理解,该第一生成器包括了合成车牌图像特征向真实车牌图像特征的映射算法,其输入为人工合成车牌图像,可以使得在输入人工合成车牌图像后,由于映射算法,能够学习到真实车牌图像的特征,以输出尽可能逼真的真实车牌图像。第二生成器包括真实车牌图像特征向合成车牌图像特征的映射算法,可以使得输入真实车牌图像后,使其学习到合成车牌图像的特征,输出类似于合成车牌的假车牌图像。
此处的人工合成车牌图像向真实车牌图像的映射算法可以包括合成车牌图像与真实车牌图像的特征编码的初步的映射关系。例如,建立一个特征编码的映射表,该映射表中包括合成车牌图像的特征编码、真实车牌图像的特征编码以及两种类型特征编码之间的映射关系。在将车牌图像输入第一生成器进行训练时,即将车牌图像划分为多个像素区域,然后提取每个像素区域的特征编码,特征可以包括像素区域的位置、颜色分布和灰度分布等信息,然后根据每个像素区域的特征编码作为合成车牌图像的特征编码到映射表中进行查询,查询得到对应的真实车牌图像的特征编码,由此得到所有像素对应的真实车牌图像的特征编码后,根据这些特征编码进行解码,可以得到真实车牌图像。
该第一判别器可以用于识别第一生成器的输出结果,第二判别器用于识别第二生成器的输出结果。可以理解,在生成该第一判别器时,可以利用训练集中的车牌图像,使得其对于真实车牌图像,输出高分,对于合成车牌,输出低分。同样的,对于第二判别器,可以利用训练集中的车牌进行初步训练,使得其输出真实车牌时,输出低分,输入人工合成车牌时,输出高分。
可以理解,本申请实施例中的初步学习建立的映射表,其包括的信息量较少,使得生成的真实车牌与实际的车牌差别较大,因此,通过下述的方法对该生成器不断的训练,可以逐渐丰富映射关系表,得到优化的生成器模型,使得该生成器模型在输入合成车牌图像后,输出逼真的车牌图像。
S130,基于训练集对循环生成对抗网络进行训练,得到至少一个训练后的第一生成器,作为目标生成器。
具体的,在生成上述循环生成对抗网络后,可以将获取到的训练集中的数据输入到该网络中,对初步构建的两个生成器进行训练,得到优化后的多个第一生成器,即目标生成器,使得该目标生成器输出的车牌尽可能的逼真,即该目标生成器用于生成目标车牌图像。
在对上述生成的循环生成对抗网络进行训练,希望合成车牌图像和真实车牌图像分布,在完成训练时尽可能相似。具体可以将获取到的训练集中的车牌图像输入到初步生成的循环生成对抗网络中,然后根据第一生成器、第二生成器、第一判别器及第二判别器的输出结果,确定该循环生成对抗网络的损失。最后可以基于本轮输出的损失来替换循环生成对抗网络的参数,完成循环生成对抗网络的一次训练优化。
可以理解,重复上述输入、确定及参数替换的步骤,进行多轮的模型训练。每次训练,可以保存得到一个优化的第一生成器,在重复多轮后可以得到多个优化的第一生成器。
对于每轮训练,具体的,可以结合图2所示:首先可以将人工合成车牌输入到第一生成器GA,使得输入的合成车牌学习到真实车牌的特征,输出类似真实车牌的第一车牌图像GA(s),即假的第一车牌图像。然后可以将该输出结果输入到第一判别器Dr,使其对该结果进行判别评分。根据上述对第一判别器Dr的训练,使得输入GA(s)时,如果GA(s)靠近真实车牌,Dr可以输出高分,否则,输出低分。
可以理解,对于上述的训练,第一生成器为了迎合第一判别器,映射函数可以将所有的合成车牌映射到真实车牌图像集中的同一个模式的车牌,以使得该第一判别器输出高分。显然,这将造成第一生成器模式缺失。
为了解决上述问题,可以进一步将GA(s)输入到第二生成器GB,得到GB(GA(s)),即假的第三车牌图像,即使得第一生成器输出的GA(s)继续还原到合成车牌,以避免将第一生成器训练成单一模式。
同时,为了使得无配对车牌数据转换成功,将真实车牌图像输入到第二生成器GB,输出GB(r),即假的第二车牌图像,即使得第二生成器完成合成车牌特征的学习,以配合优化第一生成器。为了确保第二生成器训练,可以利用上述训练的第二判别器Ds对第二生成器的输出结果进行判别,以确定该输出结果GB(r)是否与合成车牌足够想象。即对于判别结果为合成车牌输出高分,对于真实车牌输出低分。同样的,为了避免第二生成器为了迎合第二判别器,而训练成为单一模式,可以将第二生成器的输出结果输出GB(r)输入到第一生成器,使得其学习真实车牌的特征,还原到真实车牌,即输出GA(GB(r)),即第四车牌图像。
上述输入输出的过程即完成一轮训练,此时,可以计算该循环生成对抗网络的损失,以调整生成器参数进行优化。
例如,可以计算第一生成器GA的生成损失函数:
该损失函数使得第一判别器Dr对GA的输出结果输出更高的分数,即使得GA的输出结果与真实的车牌图像的特征分布随着多次训练越来越接近。
计算第二生成器GB的生成损失函数为:
同样的,该损失函数使得第二判别器Ds对GB的输出结果输出更高的分数,即使得GB的输出结果与合成的车牌图像的特征分布随着多次训练越来越接近。
计算GA的自环损失函数:
该自环损失函数使得GB(GA(s))的结果尽可能的与合成车牌s相似。
计算GB的自环损失函数:
该自环损失函数使得GA(GB(r))的结果尽可能的与真实车牌r相似。
进一步,通过上述公式(1)至(4)计算总的生成损失:
上述公式中,GA为第一生成器,GB为第二生成器,Dr为第一判别器,Ds为第二判别器,s为合成车牌图像,r为真实车牌图像,GA(s)为第一生成器的输出结果,
表示从合成车牌图像集中采样出的合成车牌图像的期望,
表示从真实车牌图像集中采样出的真实车牌图像的期望,α
B及α
A为经验值。
可以理解,在得到上述总的生成损失后,可以对循环生成对抗网络进行优化,即根据该函数值替换第一生成器及第二生成器的参数。
此外,本申请实施例提供的车牌图像生成模型构建方法中,还需要通过计算判别损失函数来修改循环生成对抗网络的权重,以得到优化的目标生成器。
Ds的判别损失函数为:
该损失函数使得Ds能够辨别人工合成车牌和GB生成的类似人工合成车牌的假车牌。
Dr的判别损失函数为:
该损失函数使得Dr能够辨别真实车牌和GA生成的类似真实车牌的假车牌。
进一步,得到判别损失函数值后,可以通过随机梯度下降优化方法调整循环生成对抗网络的权重,得到优化的判别器。
可以理解,在对初始的循环生成对抗网络进行训练时,可以进行多轮的输入输出训练。如设置循环生成对抗网络的学习率为0.0002,对循环生成对抗网络训练30轮,上述生成步骤和判别步骤交替进行,保存每一轮训练得到的生成模型,总共可以得到30个模型结果,该模型结果可以包括第一生成器(即目标生成器)、第二生成器。
进一步,可以通过人工合成测试集,如100张车牌,以利用该测试集对保存的上述目标模型进行验证。具体的,使用每一个保存的模型结果中的第一生成器,将人工规则合成的100张车牌作为输入,得到30组输出。可以通过直观观察各组输出的图片结果,比较输出结果和真实车牌分布之间的相似程度,选择一个或多个相似度最高的模型结果作为最终结果。
本申请实施例提供的车牌图像生成模型构建方法,在生成循环生成对抗网络后,可以利用获取的训练集,以及生成器的损失函数、自环损失函数及判别器的判别损失函数对生成器进行反复训练以优化,得到最优的第一生成器,从而可以利用该第一生成器,生成大量的逼真车牌,提高了车牌图像生成的效率和可靠性。
可以理解,本申请实施例在通过上述方法得到目标生成器,即车牌图像生成模型后,可以通过人工规则合成所需数量的车牌,输入到最终选择的一个或多个目标生成器中,从而得到所需数量的与真实车牌图片分布类似的假车牌。具体如图5所示,该方法可以包括:
S510,获取合成车牌图像;
S520,将合成车牌图像输入到预先构建的目标生成器,生成目标车牌图像。
本申请实施例提供的车牌图像生成方法,在通过人工合成等方式获取所需数量的假的车牌图像后,可以将该假的车牌图像输入到预先训练好的最优的生成器(生成模型),生成大量的逼真车牌,提高了车牌图像生成的效率和可靠性。
图6所示为本申请实施例提供的车牌图像生成模型构建装置的结构示意图,如图所示,该装置可以包括:
获取模块610,用于获取训练集,该训练集包括合成车牌图像和真实车牌图像;
生成模块620,用于生成循环生成对抗网络,该循环生成对抗网络包括第一生成器、第二生成器、第一判别器及第二判别器,该第一生成器包括正图像向负图像的映射算法,第二生成器包括负图像向正图像的映射算法,该第一判别器用于识别该训练集中的该第一生成器的输出结果,该第二判别器用于识别该第二生成器的输出结果;
训练模块630,用于基于该训练集对该循环生成对抗网络进行训练,得到至少一个训练后的第一生成器,作为目标生成器,该目标生成器用于生成目标车牌图像。
可选的,本申请实施例提供的车牌图像生成模型构建装置,该训练模块包括:
输入单元631,用于将该训练集输入到该循环生成对抗网络。
确定单元632,用于确定该循环生成对抗网络的损失。
优化单元633,用于基于该损失替换该循环生成对抗网络的参数。
可选的,本申请实施例提供的车牌图像生成模型构建装置,该确定单元具体用于基于该第一生成器及该第二生成器、该第一判别器及该第二判别器的输出结果,确定第一生成器及第二生成器的损失函数、第一生成器及第二生成器的自环损失函数和第一判别器及第二判别器的判别损失函数。
图7所示为本申请实施例提供的车牌图像生成装置的结构示意图,如图所示,该装置700可以包括:
获取模块710,用于获取合成车牌图像;
生成模块720,用于将合成车牌图像输入到如第一方面所述的目标生成器,生成目标车牌图像。
另一方面,本申请实施例还提供服务器,该服务器包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,该处理器执行该程序时实现如上该的车牌图像生成模型构建方法。
下面参考图8,其示出了适于用来实现本申请实施例的服务器的计算机系统800的结构示意图。
如图8所示,计算机系统800包括中央处理单元(CPU)801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分803加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中,还存储有系统800操作所需的各种程序和数据。CPU 801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
以下部件连接至I/O接口805:包括键盘、鼠标等的输入部分806;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807;包括硬盘等的存储部分808;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器810上,以便于从其上读出的计算机程序根据需要被安装入存储部分808。
特别地,根据本申请公开的车牌图像生成模型构建的实施例,上文参考图1描述的过程可以被实现为计算机软件程序。例如,本申请公开的车牌图像生成模型构建的实施例包括一种计算机程序产品,其包括有形地包含在机器可读介质上的计算机程序,该计算机程序包含用于执行图1的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分809从网络上被下载和安装,和/或从可拆卸介质811被安装。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种车牌图像生成模型构建实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,前述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元或模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中,例如,可以描述为:一种处理器包括获取模型、生成模型及训练模块。其中,这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定,例如,训练模块还可以被描述为“用于基于所述训练集对所述循环生成对抗网络进行训练,得到至少一个训练后的第一生成器,作为目标生成器,所述目标生成器用于生成目标车牌图像”。
作为另一方面,本申请还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中前述装置中所包含的计算机可读存储介质;也可以是单独存在,未装配入设备中的计算机可读存储介质。计算机可读存储介质存储有一个或者一个以上程序,前述程序被一个或者一个以上的处理器用来执行描述于本申请的确定车牌图像生成模型构建的方法,具体执行:
获取训练集,所述训练集包括合成车牌图像和真实车牌图像;
生成循环生成对抗网络,所述循环生成对抗网络包括第一生成器、第二生成器、第一判别器及第二判别器,所述第一生成器包括合成车牌图像向真实车牌图像的映射算法,第二生成器包括真实车牌图像向合成车牌图像的映射算法,所述第一判别器用于识别所述第一生成器的输出结果,所述第二判别器用于识别所述第二生成器的输出结果;
基于所述训练集对所述循环生成对抗网络进行训练,得到至少一个训练后的第一生成器,作为目标生成器,所述目标生成器用于生成目标车牌图像。
综上所述,本申请实施例提供的车牌图像生成模型构建方法及装置,在预先生成循环生成对抗网络后,将获取的训练集中的车牌图像输入到循环生成对抗网络的生成器后,进而利用循环输入及判别器对生成器进行优化和测试,从而通过多次反复训练后,得到最优的目标生成器,从而可以利用该目标生成器,可以生成大量的逼真的车牌,提高了车牌图像生成的效率和可靠性。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本邻域技术人员应当理解,本申请中所涉及的申请范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离所述申请构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。