CN106778682B - 一种卷积神经网络模型的训练方法及其设备 - Google Patents
一种卷积神经网络模型的训练方法及其设备 Download PDFInfo
- Publication number
- CN106778682B CN106778682B CN201710021101.0A CN201710021101A CN106778682B CN 106778682 B CN106778682 B CN 106778682B CN 201710021101 A CN201710021101 A CN 201710021101A CN 106778682 B CN106778682 B CN 106778682B
- Authority
- CN
- China
- Prior art keywords
- neural network
- network model
- convolutional neural
- face image
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 115
- 238000012549 training Methods 0.000 title claims abstract description 79
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000011156 evaluation Methods 0.000 claims abstract description 27
- 238000011176 pooling Methods 0.000 claims description 32
- 239000011159 matrix material Substances 0.000 claims description 25
- 238000007635 classification algorithm Methods 0.000 claims description 7
- 238000005070 sampling Methods 0.000 claims description 4
- 230000006870 function Effects 0.000 description 16
- 230000008569 process Effects 0.000 description 13
- 238000012545 processing Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 210000002569 neuron Anatomy 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 230000002452 interceptive effect Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 238000013529 biological neural network Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000013079 data visualisation Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 241000208140 Acer Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000009336 multiple cropping Methods 0.000 description 1
- 238000005312 nonlinear dynamic Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/178—Human faces, e.g. facial parts, sketches or expressions estimating age from face image; using age information for improving recognition
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Biology (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种卷积神经网络模型的训练方法及其设备，用于通过对预置的卷积神经网络模型的训练得到更新的卷积神经网络模型。本发明实施例方法包括：获取人脸图像；使用预置的卷积神经网络模型对所述人脸图像进行图像训练，得到属性判断结果，所述属性判断结果包括多个属性以及所述多个属性中的每一个属性所对应的概率；通过交叉熵函数和所述人脸图像的真实属性对所述属性判断结果进行评价，得到评价结果；根据所述评价结果更新所述卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
Description
技术领域
本发明涉及图像处理领域，尤其涉及一种卷积神经网络模型的训练方法及其设备。
背景技术
卷积神经网络(英文：Convolutional Neural Network；缩写：CNN)是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。它包括卷积层(英文：alternating convolutional layer)、最大池化层(英文：pooling layer)和全连层。
CNN网络模型主要用来识别位移、缩放及其他形式扭曲不变性的二维图形，CNN的特征检测层通过训练数据进行学习。卷积神经网络以其局部权值共享的特殊结构在语音识别和图像处理方面有着独特的优越性，其布局更接近于实际的生物神经网络，权值共享降低了网络的复杂性，特别是多维输入向量的图像可以直接输入网络这一特点避免了特征提取和分类过程中数据重建的复杂度。
然而，若仅通过预先设计的CNN网络模型对图像进行训练，没有对自身的参数进行更新或修正的机制，因此无法通过自动更新其参数的权重得到性能更优异的CNN网络模型。
发明内容
本发明实施例提供了一种卷积神经网络模型的训练方法及其设备，用于通过对预置的卷积神经网络模型的训练得到更新的卷积神经网络模型。
本发明第一方面提供了一种卷积神经网络模型的训练方法，包括：
获取人脸图像；使用预置的卷积神经网络模型对该人脸图像进行图像训练，得到属性判断结果，该属性判断结果包括多个属性以及该多个属性中的每一个属性所对应的概率；通过交叉熵函数和该人脸图像的真实属性对该属性判断结果进行评价，得到评价结果；根据该评价结果更新该卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
结合本发明第一方面，本发明第一方面的第一种实施方式，包括：
对该人脸图像进行人脸对齐，得到对齐后的人脸图像；使用该卷积神经网络模型对该对齐后的人脸图像进行训练。
结合本发明第一方面，本发明第一方面的第二种实施方式，包括：
对该人脸图像进行图像张量化，得到图像张量化后的人脸图像；使用预置的卷积神经网络模型对该图像张量化后的人脸图像进行图像训练。
可选的，该卷积神经网络模型的卷积层的卷积核的大小为3×3的滤波器，卷积步长为1，且该卷积神经网络模型中的最大池化层的步长为2，采样滑动窗口为2×2。
可选的，该卷积神经网络模型包括5层卷积层、5层最大池化层和2层全连层。
可选的，该卷积神经网络模型中的该5层卷积层、该5层最大池化层和该2层全连层依次为：第一卷积层、第一最大池化层、第二卷积层、第二最大池化层、第三卷积层、第三最大池化层、第四卷积层、第四最大池化层、第五卷积层、第五最大池化层、第一全连层、第二全连层。
结合本发明第一方面，本发明第一方面的第三种实施方式，包括：
使用该卷积神经网络模型对该人脸图像进行图像训练，得到预置个数的矩阵；使用分类算法预估该预置个数的矩阵中的各个矩阵所对应的该多个属性中的各个属性的概率分布；根据该多个属性中的各个属性的概率分布估计该人脸图像的属性。
本发明第二方面提供了一种卷积神经网络模型的训练设备，包括：
获取模块，用于获取人脸图像；训练模块，用于使用预置的卷积神经网络模型对该人脸图像进行图像训练，得到属性判断结果，该属性判断结果包括多个属性以及该多个属性中的每一个属性所对应的概率；评价模块，用于通过交叉熵函数和该人脸图像的真实属性对该属性判断结果进行评价，得到评价结果；更新模块，用于根据该评价结果更新该卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
结合本发明第二方面，本发明第二方面的第一种实施方式，包括：
对齐子模块，用于对该人脸图像进行人脸对齐，得到对齐后的人脸图像；第一训练子模块，用于使用该卷积神经网络模型对该对齐后的人脸图像进行训练。
结合本发明第二方面，本发明第二方面的第二种实施方式，包括：
张量子模块，用于对该人脸图像进行图像张量化，得到图像张量化后的人脸图像；第二训练子模块，用于使用预置的卷积神经网络模型对该图像张量化后的人脸图像进行图像训练。
结合本发明第二方面，本发明第二方面的第三种实施方式，包括：
第三训练子模块，用于使用该卷积神经网络模型对该人脸图像进行图像训练，得到预置个数的矩阵；预估子模块，用于使用分类算法预估该预置个数的矩阵中的各个矩阵所对应的该多个属性中的各个属性的概率分布；估计子模块，用于根据该多个属性中的各个属性的概率分布估计该人脸图像的属性。
从以上技术方案可以看出，本发明实施例具有以下优点：
由于通过获取人脸图像，使用预置的卷积神经网络模型对该人脸图像进行图像训练，得到属性判断结果，该属性判断结果包括多个属性以及该多个属性中的每一个属性所对应的概率，通过交叉熵函数和该人脸图像的真实属性对该属性判断结果进行评价，得到评价结果，根据该评价结果更新该卷积神经网络模型中各个参数的权重，得到更新后的卷积网络模型，因此即使预先设计的卷积神经网络的性能不够优异，也可以通过进行自我修正得到性能更优异的卷积网络模型。
附图说明
图1为本发明实施例中一种卷积神经网络模型的训练方法的一个实施例示意图；
图1-1为本发明实施例中预置的卷积神经网络模型的示意图；
图2为本发明实施例中一种卷积神经网络模型的训练法的另一个实施例示意图；
图3为本发明实施例中一种卷积神经网络模型的训练设备的一个实施例示意图；
图4为本发明实施例中一种卷积神经网络模型的训练设备的另一个实施例示意图；
图5为本发明实施例中一种卷积神经网络模型的训练设备的另一个实施例示意图；
图6为本发明实施例中一种卷积神经网络模型的训练设备的另一个实施例示意图。
具体实施方式
本发明实施例提供了一种卷积神经网络模型的训练方法及其设备，用于通过对预置的卷积神经网络模型的训练得到更新的卷积神经网络模型。
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
卷积神经网络(英文：Convolutional Neural Network；缩写：CNN)是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。它包括卷积层(英文：alternating convolutional layer)、最大池化层(英文：pooling layer)和全连层。
CNN网络模型主要用来识别位移、缩放及其他形式扭曲不变性的二维图形，CNN的特征检测层通过训练数据进行学习。卷积神经网络以其局部权值共享的特殊结构在语音识别和图像处理方面有着独特的优越性，其布局更接近于实际的生物神经网络，权值共享降低了网络的复杂性，特别是多维输入向量的图像可以直接输入网络这一特点避免了特征提取和分类过程中数据重建的复杂度。
然而，若仅通过预先设计的CNN网络模型对图像进行训练，没有对自身的参数进行更新或修正的机制，因此无法通过自动更新其参数的权重得到性能更优异的CNN网络模型。
因此，本发明的核心思想是通过获取人脸图像，使用预置的卷积神经网络模型对该人脸图像进行图像训练，得到属性判断结果，该属性判断结果包括多个属性以及该多个属性中的每一个属性所对应的概率，通过交叉熵函数和该人脸图像的真实属性对该属性判断结果进行评价，得到评价结果，根据该评价结果更新该卷积神经网络模型中各个参数的权重，得到更新后的卷积网络模型，因此即使预先设计的卷积神经网络的性能不够优异，也可以通过进行自我修正得到性能更优异的卷积网络模型。
为便于理解，下面对本发明实施例中的具体流程进行描述，请参阅图1，本发明实施例中一种卷积神经网络模型的训练方法一个实施例包括：
101、获取人脸图像。
在一些可行的实施例中，工作的主体可以为服务器，或者是智能终端，只要有足够强大可以用于计算的处理器以及用于存储的存储器即可，此处不做限定。以服务器为例进行说明，该服务器可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(central processing units，CPU)(例如，一个或一个以上处理器)和存储器，一个或一个以上存储应用程序或数据的存储介质(例如一个或一个以上海量存储设备)。其中，存储器和存储介质可以是短暂存储或持久存储。存储在存储介质的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器可以设置为与存储介质通信，在服务器上执行存储介质中的一系列指令操作。服务器还可以包括一个或一个以上电源，一个或一个以上有线或无线网络接口，一个或一个以上输入输出接口，和/或，一个或一个以上操作系统，例如Windows ServerTM，MacOS XTM，UnixTM,LinuxTM，FreeBSDTM等等。
在一些可行的实施例中，可以通过人脸数据库中获取图像，如adience或者morph或者两者的混合，还可以通过其他途径得到人脸数据库，此处不作限定。
在一些可行的实施例中，可以通过对图像的计算软件进行处理，如矩阵实验室(英文：matrix&laboratory；缩写：MATLAB)软件。MATLAB用于算法开发、数据可视化、数据分析以及数值计算的高级技术计算语言和交互式环境，主要面对科学计算、可视化以及交互式程序设计的高科技计算环境。它将数值分析、矩阵计算、科学数据可视化以及非线性动态系统的建模和仿真等诸多强大功能集成在一个易于使用的视窗环境中，为科学研究、工程设计以及必须进行有效数值计算的众多科学领域提供了一种全面的解决方案，并在很大程度上摆脱了传统非交互式程序设计语言的编辑模式。MATLAB可以进行矩阵运算、绘制函数和数据、实现算法、创建用户界面、连接其他编程语言的程序等，主要应用于工程计算、控制设计、信号处理与通讯、图像处理、信号检测、金融建模设计与分析等领域。
MATLAB的基本数据单位是矩阵，它的指令表达式与数学、工程中常用的形式十分相似，故用MATLAB来解算问题要比用传统非交互式程序设计语言完成相同的事情简捷得多，并且MATLAB也吸收了像工程计算软件(英文：Maple)等软件的优点，使MATLAB成为一个强大的数学软件。
102、使用预置的卷积神经网络模型对该人脸图像进行图像训练，得到属性判断结果，该属性判断结果包括多个属性以及该多个属性中的每一个属性所对应的概率。
在一些可行的实施例中，该预置的卷积神经网络模型可以包括5层卷积层、5层最大池化层和2层全连层。可选的，该卷积神经网络模型中的该5层卷积层、该5层最大池化层和该2层全连层依次为：第一卷积层、第一最大池化层、第二卷积层、第二最大池化层、第三卷积层、第三最大池化层、第四卷积层、第四最大池化层、第五卷积层、第五最大池化层、第一全连层、第二全连层。
在一些可行的实施例中，该卷积神经网络模型的卷积层的卷积核的大小为3×3的滤波器，卷积步长为1个象素，且用0填充宽和高1个象素的边界，该卷积神经网络模型中的最大池化层的步长为2，采样滑动窗口为2×2。
请参考图1-1，为本发明实施例中预置的卷积神经网络模型中5层卷积层、5层最大池化层和2层全连层的示意图，其中，conv代表卷积层，D是颜色通道数量，如D＝1表示灰度图，D＝3表示彩色图，N是通道数，代表卷积层的宽度。Maxpool表示最大池化层，其采样滑动窗口为2×2，步长为2。FC代表全连接层，L->M表示L个神经元映射到M个神经元，C是最后输出的神经元数量，也表示分类数量。
在上面的网络结构中，每个卷积层之后和两个全连层之间都用到了激活函数(英文：Rectified Linear Unit；缩写：ReLU)，其计算方法具体可以为非饱和非线性的函数，比常用的激活函数在训练中更容易收敛。
在一些可行的实施例中，在训练过程中，也使用了Dropout正则化，它使输入层和中间层的神经元随机置零，这些神经元不参与前向与反向传播，权重只保留不更新。这种作法模拟了噪音对输入数据的各种干扰，使一些神经元对一些视觉模式产生漏检的情况。Dropout正则化可以使训练过程收敛得更慢，但得到的网络模型更加鲁棒。
此外，在一些可行的实施例中，为了提高训练效果与避免过拟合，需要做数据扩充。在一些具体的实施例中，其方法是可以进行多重裁剪，具体的，可以为图像按四角与中心方向裁剪，大小为原图像的90％左右，并对应做镜像，这样可以得到10倍增大的数据。
以下结合一个实验进行说明，对于人脸属性分析，现以年龄分类为例，介绍CNN的训练与年龄估计过程。
假定N＝64，M＝200，C＝12，对于3通道72×72的图像，经过裁剪后规格化到64×64，具体步骤如下：
首先可以对图像进行张量化，即把3通道64×64的图像的灰度值减去图像灰度均值，形成3×64×64的3维张量，以作为CNN网络输入，且把它对应的年龄区间作为类标签，如标签(25,32)表示25到32岁年龄区间。
需要说明的是，张量化是把图像矩阵转成一种行或列向量的过程，3维张量是指图像的3通道子图像，也就是3个矩阵。
对每一个张量，使用如图1-1中的CNN结构，经过宽度是N＝64个通道的第1个卷积层处理后，映射成新的张量，其维数是64×64×64，再经过最大池化后，此张量维数降低到64×32×32，依次类推，经过宽度为N＝512个通道的第5个卷积层处理后，形成了维数是512×4×4新张量，再使用最大池化后，此张量维数降低到512×2×2，即L＝512×2×2＝2048。最后经过两个全连层之后，CNN将输出12维张量。
在一些可行的实施例中，使用分类算法预估该预置个数的矩阵中的各个矩阵所对应的该多个属性中的各个属性的概率分布。具体的，即对于一组12维张量与其对应的类标签，使用SoftMax分类算法，计算出12维张量属于12个年龄区间的概率分布，再计算它的数学期望，即年龄估计值。在另一些可行的实施例中，在训练过程中，还可以引入了混淆矩阵，以评价训练效果，此处不作限定。
在一些可行的实施例中，使用该卷积神经网络模型对该人脸图像进行图像训练，得到预置个数的矩阵，上述例子为12维张量。需要说明的是，数字图像数据可以用矩阵来表示，因此可以采用矩阵理论和矩阵算法对数字图像进行分析和处理。最典型的例子是灰度图像，灰度图像的像素数据就是一个矩阵，矩阵的行对应图像的高(单位为像素)，矩阵的列对应图像的宽(单位为像素)，矩阵的元素对应图像的像素，矩阵元素的值就是像素的灰度值。
由于数字图像可以表示为矩阵的形式，所以在计算机数字图像处理程序中，通常用二维数组来存放图像数据。二维数组的行对应图像的高，二维数组的列对应图像的宽，二维数组的元素对应图像的像素，二维数组元素的值就是像素的灰度值。采用二维数组来存储数字图像，符合二维图像的行列特性，同时也便于程序的寻址操作，使得计算机图像编程十分方便。
一个二维数组(矩阵)中的每一个元素对应了图像的一个像素，当保存一幅图像时，不但要保存图像的位图数据矩阵，还要将每个像素的颜色保存下来，颜色的记录是利用颜色表来完成的。
颜色表，也叫颜色查找表，是图像像素数据的颜色索引表。以一个4色位图为例，则其颜色表有4个表项，表中每一行记录一种颜色的R、G、B值，这样，当表示一个像素的颜色时，只需要指出该颜色在第几行，即该颜色在表中的索引值即可。假设该4色位图的颜色表如表1-1所示，并假设该4色位图大小为8行8列。
自然界中的所有颜色都可以由红、绿、蓝(R、G、B)三种颜色合成，数字图像也是如此。针对红(绿/蓝)分量的多少，人为地划分为0～255共256个等级，0表示不含红色(绿/蓝)成分，255表示含有100％红色(绿/蓝)成分。根据红、绿、蓝各种不同的组合就能表示256×256×256种颜色，例如一个像素，当它的红、绿、蓝成分分别为255、0、255时显示为紫色。而对于灰度图像的像素，该像素的红、绿、蓝成分是相等的，只不过随着这三个分量数值的增大，像素颜色从黑色变成白色。从上面介绍可知，彩色数字图像可以由RGB彩色空间表示。彩色空间是用来表示彩色的数学模型，又被称为彩色模型。RGB彩色空间是最常用的一种彩色空间，但在计算机系统中表达颜色信息的空间不止这一种，此处介绍3种最常用的彩色空间。
103、通过交叉熵函数和该人脸图像的真实属性对该属性判断结果进行评价，得到评价结果。
在本发明实施例中，当得到属性判断结果时，可以使用该人脸图像的真实属性和属性判断结果进行比对，然后通过交叉熵函数进行评价，得到评价结果，再通过反向传播，以更新网络中每个权重。
需要说明的是，在一些可行的实施例中，交叉熵函数是用来衡量人工神经网络的预测值与实际值的一种方式。与二次代价函数相比，它能更有效地促进训练。
在一些可行的实施例中，可以重复执行步骤102和103，使训练误差最小化，以便CNN网络模型输出值更接近目标值。
在本发明实施例中，CNN网络模型的人脸属性分析方法主要是利用CNN对输入图像进行特征提取与分类，从而对人脸属性进行分析，以实现对性别、年龄、表情等人脸属性的识别。在一些可行的实施例中，还可以使用到其他生物的脸部识别，或者其他图形识别，此处不作限定。
104、根据该评价结果更新该卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
在本发明实施例中，可以使用该评价结果更新该卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
请参阅图2，本发明实施例中一种卷积神经网络模型的训练方法的另一个实施例包括：
201、获取人脸图像。
202、对该人脸图像进行人脸对齐，得到对齐后的人脸图像。
在一些可行的实施例中，获取的人脸图像，可以首先进行人脸对齐，大小规格化到W×H，其次批量把大小为W×H的图像输入到如步骤101-104的CNN中训练，最后使用训练得到的网络模型，对人脸对齐和规格化的测试数据，进行结果预测，即人脸属性分析，如人的性别、年龄、表情等人脸属性。如在MA(Adience和MORPH库混合)数据库上，图像经过裁剪后规格化到64×64，训练集有6.6万幅图像，而测试集有约1.29万幅图像，以此为例，使用图2中的CNN结构，通过在164轮的训练。
203、使用该卷积神经网络模型对该对齐后的人脸图像进行训练。
204、通过交叉熵函数和该人脸图像的真实属性对该属性判断结果进行评价，得到评价结果。
205、根据该评价结果更新该卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
本实施例中步骤201、203、204、205依次与上述实施例的步骤101、102、103、104相同，此处不赘述。
请参阅图3，本发明实施例中一种卷积神经网络模型的训练设备500的一个实施例包括：
获取模块301，用于获取人脸图像。
训练模块302，用于使用预置的卷积神经网络模型对该人脸图像进行图像训练，得到属性判断结果，该属性判断结果包括多个属性以及该多个属性中的每一个属性所对应的概率。
评价模块303，用于通过交叉熵函数和该人脸图像的真实属性对该属性判断结果进行评价，得到评价结果。
更新模块304，用于根据该评价结果更新该卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
请参阅图4，该训练模块302包括：
对齐子模块3021，用于对该人脸图像进行人脸对齐，得到对齐后的人脸图像。
第一训练子模块3022，用于使用该卷积神经网络模型对该对齐后的人脸图像进行训练。
请参阅图5，该训练模块302包括：
张量子模块3023，用于对该人脸图像进行图像张量化，得到图像张量化后的人脸图像。
第二训练子模块3024，用于使用预置的卷积神经网络模型对该图像张量化后的人脸图像进行图像训练。
请参阅图6，该训练模块302包括：
第三训练子模块3025，用于使用该卷积神经网络模型对该人脸图像进行图像训练，得到预置个数的矩阵。
预估子模块3026，用于使用分类算法预估该预置个数的矩阵中的各个矩阵所对应的该多个属性中的各个属性的概率分布。
估计子模块3027，用于根据该多个属性中的各个属性的概率分布估计该人脸图像的属性。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (11)
1.一种卷积神经网络模型的训练方法，其特征在于，包括：
获取人脸图像；
使用预置的卷积神经网络模型对所述人脸图像进行图像训练，得到属性判断结果，所述属性判断结果包括多个属性以及所述多个属性中的每一个属性所对应的概率；
通过交叉熵函数和所述人脸图像的真实属性对所述属性判断结果进行评价，得到评价结果；
根据所述评价结果更新所述卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
2.根据权利要求1所述方法，其特征在于，所述使用卷积神经网络模型对所述人脸图像进行图像训练包括：
对所述人脸图像进行人脸对齐，得到对齐后的人脸图像；
使用所述卷积神经网络模型对所述对齐后的人脸图像进行训练。
3.根据权利要求1所述方法，其特征在于，所述使用预置的卷积神经网络模型对所述人脸图像进行训练包括：
对所述人脸图像进行图像张量化，得到图像张量化后的人脸图像；
使用预置的卷积神经网络模型对所述图像张量化后的人脸图像进行图像训练。
4.根据权利要求1-3中任一项所述方法，其特征在于，所述卷积神经网络模型的卷积层的卷积核的大小为3×3的滤波器，卷积步长为1，且所述卷积神经网络模型中的最大池化层的步长为2，采样滑动窗口为2×2。
5.根据权利要求4所述方法，其特征在于，所述卷积神经网络模型包括5层卷积层、5层最大池化层和2层全连层。
6.根据权利要求5所述方法，其特征在于，所述卷积神经网络模型中的所述5层卷积层、所述5层最大池化层和所述2层全连层依次为：第一卷积层、第一最大池化层、第二卷积层、第二最大池化层、第三卷积层、第三最大池化层、第四卷积层、第四最大池化层、第五卷积层、第五最大池化层、第一全连层、第二全连层。
7.根据权利要求1-3中任一项所述方法，其特征在于，所述使用预置的卷积神经网络模型对所述人脸图像进行图像训练，得到属性判断结果包括：
使用所述卷积神经网络模型对所述人脸图像进行图像训练，得到预置个数的矩阵；
使用分类算法预估所述预置个数的矩阵中的各个矩阵所对应的所述多个属性中的各个属性的概率分布；
根据所述多个属性中的各个属性的概率分布估计所述人脸图像的属性。
8.一种卷积神经网络模型的训练设备，其特征在于，包括：
获取模块，用于获取人脸图像；
训练模块，用于使用预置的卷积神经网络模型对所述人脸图像进行图像训练，得到属性判断结果，所述属性判断结果包括多个属性以及所述多个属性中的每一个属性所对应的概率；
评价模块，用于通过交叉熵函数和所述人脸图像的真实属性对所述属性判断结果进行评价，得到评价结果；
更新模块，用于根据所述评价结果更新所述卷积神经网络模型中各个参数的权重，得到更新后的卷积神经网络模型。
9.根据权利要求8所述设备，其特征在于，所述训练模块包括：
对齐子模块，用于对所述人脸图像进行人脸对齐得到对齐后的人脸图像；
第一训练子模块，用于使用所述卷积神经网络模型对所述对齐后的人脸图像进行训练。
10.根据权利要求8所述设备，其特征在于，所述训练模块包括：
张量子模块，用于对所述人脸图像进行图像张量化，得到图像张量化后的人脸图像；
第二训练子模块，用于使用预置的卷积神经网络模型对所述图像张量化后的人脸图像进行图像训练。
11.根据权利要求8所述设备，其特征在于，所述训练模块包括：
第三训练子模块，用于使用所述卷积神经网络模型对所述人脸图像进行图像训练，得到预置个数的矩阵；
预估子模块，用于使用分类算法预估所述预置个数的矩阵中的各个矩阵所对应的所述多个属性中的各个属性的概率分布；
估计子模块，用于根据所述多个属性中的各个属性的概率分布估计所述人脸图像的属性。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710021101.0A CN106778682B (zh) | 2017-01-11 | 2017-01-11 | 一种卷积神经网络模型的训练方法及其设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710021101.0A CN106778682B (zh) | 2017-01-11 | 2017-01-11 | 一种卷积神经网络模型的训练方法及其设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN106778682A CN106778682A (zh) | 2017-05-31 |
| CN106778682B true CN106778682B (zh) | 2019-07-09 |
Family
ID=58947921
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710021101.0A Active CN106778682B (zh) | 2017-01-11 | 2017-01-11 | 一种卷积神经网络模型的训练方法及其设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN106778682B (zh) |
Families Citing this family (24)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107358648B (zh) * | 2017-07-17 | 2019-08-27 | 中国科学技术大学 | 基于单张人脸图像的实时全自动高质量三维人脸重建方法 |
| CN109359499A (zh) | 2017-07-26 | 2019-02-19 | 虹软科技股份有限公司 | 一种用于脸部分类的方法和装置 |
| CN107480770B (zh) * | 2017-07-27 | 2020-07-28 | 中国科学院自动化研究所 | 可调节量化位宽的神经网络量化与压缩的方法及装置 |
| US10742894B2 (en) | 2017-08-11 | 2020-08-11 | Ut-Battelle, Llc | Optical array for high-quality imaging in harsh environments |
| CN108021863B (zh) * | 2017-11-01 | 2022-05-06 | 平安科技（深圳）有限公司 | 电子装置、基于图像的年龄分类方法及存储介质 |
| CN107944399A (zh) * | 2017-11-28 | 2018-04-20 | 广州大学 | 一种基于卷积神经网络目标中心模型的行人重识别方法 |
| US10493299B2 (en) * | 2017-12-08 | 2019-12-03 | Elekta, Inc. | Determining parameters for a beam model of a radiation machine using deep convolutional neural networks |
| CN107944556B (zh) * | 2017-12-12 | 2020-09-08 | 电子科技大学 | 基于块项张量分解的深度神经网络压缩方法 |
| CN108052920A (zh) * | 2017-12-27 | 2018-05-18 | 百度在线网络技术（北京）有限公司 | 用于输出信息的方法和装置 |
| CN108256575A (zh) * | 2018-01-17 | 2018-07-06 | 广东顺德工业设计研究院(广东顺德创新设计研究院) | 图像识别方法、装置、计算机设备和存储介质 |
| CN108596044B (zh) * | 2018-04-02 | 2021-05-07 | 中国人民解放军陆军工程大学 | 基于深度卷积神经网络的行人检测方法 |
| CN110516512B (zh) * | 2018-05-21 | 2023-08-25 | 北京中科奥森数据科技有限公司 | 行人属性分析模型的训练方法、行人属性识别方法及装置 |
| CN110163215B (zh) | 2018-06-08 | 2022-08-23 | 腾讯科技（深圳）有限公司 | 图像处理方法、装置、计算机可读介质及电子设备 |
| CN108898087B (zh) * | 2018-06-22 | 2020-10-16 | 腾讯科技（深圳）有限公司 | 人脸关键点定位模型的训练方法、装置、设备及存储介质 |
| CN108833713A (zh) * | 2018-06-28 | 2018-11-16 | Oppo广东移动通信有限公司 | 睡眠时天线控制方法及相关产品 |
| CN109347613B (zh) * | 2018-09-18 | 2023-08-01 | 上海观源信息科技有限公司 | 用于旁路攻击的gpu加速方法 |
| CN109754005B (zh) * | 2018-12-25 | 2022-05-10 | 任飞翔 | 动态增减方法及装置 |
| CN111382642A (zh) * | 2018-12-29 | 2020-07-07 | 北京市商汤科技开发有限公司 | 人脸属性识别方法及装置、电子设备和存储介质 |
| CN109886095A (zh) * | 2019-01-08 | 2019-06-14 | 浙江新再灵科技股份有限公司 | 一种基于视觉的轻型卷积神经网络的乘客属性识别系统及方法 |
| CN110084216B (zh) * | 2019-05-06 | 2021-11-09 | 苏州科达科技股份有限公司 | 人脸识别模型训练和人脸识别方法、系统、设备及介质 |
| CN110516575A (zh) * | 2019-08-19 | 2019-11-29 | 上海交通大学 | 基于残差域富模型的gan生成图片检测方法及系统 |
| CN110909796B (zh) * | 2019-11-22 | 2022-05-17 | 浪潮电子信息产业股份有限公司 | 一种图像分类方法及相关装置 |
| CN112561918B (zh) * | 2020-12-31 | 2024-09-06 | 中移（杭州）信息技术有限公司 | 卷积神经网络的训练方法和病灶分割方法 |
| CN113111735A (zh) * | 2021-03-25 | 2021-07-13 | 西安电子科技大学 | 一种复杂环境下的快速场景识别方法及装置 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104850890A (zh) * | 2015-04-14 | 2015-08-19 | 西安电子科技大学 | 基于实例学习和Sadowsky分布的卷积神经网络参数调整方法 |
| CN105474234A (zh) * | 2015-11-24 | 2016-04-06 | 厦门中控生物识别信息技术有限公司 | 一种掌静脉识别的方法和掌静脉识别装置 |
| CN105631479A (zh) * | 2015-12-30 | 2016-06-01 | 中国科学院自动化研究所 | 基于非平衡学习的深度卷积网络图像标注方法及装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9190053B2 (en) * | 2013-03-25 | 2015-11-17 | The Governing Council Of The Univeristy Of Toronto | System and method for applying a convolutional neural network to speech recognition |
-
2017
- 2017-01-11 CN CN201710021101.0A patent/CN106778682B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104850890A (zh) * | 2015-04-14 | 2015-08-19 | 西安电子科技大学 | 基于实例学习和Sadowsky分布的卷积神经网络参数调整方法 |
| CN105474234A (zh) * | 2015-11-24 | 2016-04-06 | 厦门中控生物识别信息技术有限公司 | 一种掌静脉识别的方法和掌静脉识别装置 |
| CN105631479A (zh) * | 2015-12-30 | 2016-06-01 | 中国科学院自动化研究所 | 基于非平衡学习的深度卷积网络图像标注方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN106778682A (zh) | 2017-05-31 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN106778682B (zh) | 一种卷积神经网络模型的训练方法及其设备 | |
| EP3678059B1 (en) | Image processing method, image processing apparatus, and a neural network training method | |
| CN110532900B (zh) | 基于U-Net和LS-CNN的人脸表情识别方法 | |
| JP7540127B2 (ja) | 人工知能に基づく画像処理方法、画像処理装置、コンピュータプログラム及びコンピュータ機器 | |
| JP7341310B2 (ja) | 皮膚分析のための画像処理、皮膚分析を視覚化するためのシステム及び方法 | |
| Ghiasi et al. | Exploring the structure of a real-time, arbitrary neural artistic stylization network | |
| CN107154043B (zh) | 一种基于3dcnn的肺结节假阳性样本抑制方法 | |
| CN113822982A (zh) | 一种人体三维模型构建方法、装置、电子设备及存储介质 | |
| CN108596833A (zh) | 超分辨率图像重构方法、装置、设备及可读存储介质 | |
| CN108648197A (zh) | 一种基于图像背景掩膜的目标候选区域提取方法 | |
| JP7225731B2 (ja) | 多変数データシーケンスの画像化 | |
| Xu et al. | LBP-BEGAN: A generative adversarial network architecture for infrared and visible image fusion | |
| CN107506792B (zh) | 一种半监督的显著对象检测方法 | |
| CN112861718A (zh) | 一种轻量级特征融合人群计数方法及系统 | |
| US20220180548A1 (en) | Method and apparatus with object pose estimation | |
| CN108596256B (zh) | 一种基于rgb-d物体识别分类器构造方法 | |
| Sheremet et al. | Diagnosis of lung disease based on medical images using artificial neural networks | |
| CN114387270A (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
| Deng et al. | ELMGAN: A GAN-based efficient lightweight multi-scale-feature-fusion multi-task model | |
| KR20220157869A (ko) | 영상 처리 장치 및 그 동작 방법 | |
| Fadaeddini et al. | Data augmentation using fast converging CIELAB-GAN for efficient deep learning dataset generation | |
| JPWO2018083853A1 (ja) | 視野感度推定装置、視野感度推定装置の制御方法、及びプログラム | |
| CN116824299A (zh) | 一种交通基础设施裂缝图像数据增广方法、装置及介质 | |
| JP7537242B2 (ja) | 方法、装置、および、コンピュータープログラム | |
| CN116522070A (zh) | 一种机械零部件无监督智能故障诊断方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20170830 Address after: 361008, Xiamen three software park, Fujian Province, 8 North Street, room 2001 Applicant after: XIAMEN ZKTECO INFORMATION TECHNOLOGY Co.,Ltd. Address before: 361000 Fujian province Xiamen software park two sunrise Road No. 32 403 unit 02 District Applicant before: XIAMEN ZKTECO BIOMETRIC IDENTIFICATION TECHNOLOGY Co.,Ltd. |
|
| TA01 | Transfer of patent application right | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CP03 | Change of name, title or address |
Address after: Room 1301, No.132, Fengqi Road, phase III, software park, Xiamen City, Fujian Province Patentee after: Xiamen Entropy Technology Co.,Ltd. Address before: 361008 room 8, 2001 North Avenue, Xiamen Software Park, Fujian, three Patentee before: XIAMEN ZKTECO INFORMATION TECHNOLOGY Co.,Ltd. |
|
| CP03 | Change of name, title or address | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20250108 Address after: No. 51 Binhe Road, Zhangmutou Town, Dongguan City, Guangdong Province 523628 Patentee after: Entropy based technology (Guangdong) Co.,Ltd. Country or region after: China Address before: Room 1301, 132 Fengqi Road, phase III, software park, Xiamen City, Fujian Province, 361008 Patentee before: Xiamen Entropy Technology Co.,Ltd. Country or region before: China |
|
| TR01 | Transfer of patent right |