CN111783606A - 一种人脸识别网络的训练方法、装置、设备及存储介质 - Google Patents
一种人脸识别网络的训练方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111783606A CN111783606A CN202010592664.7A CN202010592664A CN111783606A CN 111783606 A CN111783606 A CN 111783606A CN 202010592664 A CN202010592664 A CN 202010592664A CN 111783606 A CN111783606 A CN 111783606A
- Authority
- CN
- China
- Prior art keywords
- network
- teacher
- student
- face image
- trained
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012549 training Methods 0.000 title claims abstract description 195
- 238000000034 method Methods 0.000 title claims abstract description 61
- 208000006440 Open Bite Diseases 0.000 claims abstract description 26
- 230000006870 function Effects 0.000 claims description 31
- 238000012360 testing method Methods 0.000 claims description 28
- 230000015654 memory Effects 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 11
- 230000001815 facial effect Effects 0.000 claims description 5
- 239000000126 substance Substances 0.000 claims description 2
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 238000013135 deep learning Methods 0.000 abstract description 2
- 230000000903 blocking effect Effects 0.000 description 16
- 238000005516 engineering process Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 8
- 230000004913 activation Effects 0.000 description 7
- 238000004821 distillation Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Collating Specific Patterns (AREA)
- Image Processing (AREA)
Abstract
本申请公开了一种人脸识别网络的训练方法、装置、设备及存储介质，涉及人工智能中深度学习、云计算以及计算机视觉领域，具体涉及戴口罩人脸识别方面。具体实现方案为：将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据所述教师网络和所述学生网络对所述训练数据对的预测结果，交替训练所述教师网络和所述学生网络；其中，所述训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成；从训练后的教师网络和学生网络中，确定通用人脸识别网络。以解决人脸识别结果准确性失衡的问题，提高人脸识别的准确性。
Description
技术领域
本申请实施例涉及图像处理技术领域，尤其涉及人工智能中深度学习、云计算以及计算机视觉领域，具体涉及戴口罩人脸识别方面。
背景技术
人脸识别技术是基于人的脸部特征信息进行身份识别的一种生物识别技术，已广泛应用于生活中的各个领域。目前，可兼容识别无遮挡人脸图像和遮挡人脸图像的人脸识别网络已成为当前人脸识别技术的研究方向。但是，现有的网络训练方法训练的人脸识别网络，在识别无遮挡人脸图像和遮挡人脸图像时，存在识别结果准确性失衡的情况，例如，只能准确识别遮挡人脸图像或无遮挡人脸图像中的一种。严重影响人脸识别网络的识别精度，亟需改进。
发明内容
本公开提供了一种人脸识别网络的训练方法、装置、设备及存储介质。
根据本公开的一方面，提供了一种人脸识别网络的训练方法，该方法包括：
将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据所述教师网络和所述学生网络对所述训练数据对的预测结果，交替训练所述教师网络和所述学生网络；其中，所述训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成；
从训练后的教师网络和学生网络中，确定通用人脸识别网络。
根据本公开的另一方面，提供了一种人脸识别网络的训练装置，该装置包括：
网络训练模块，用于将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据所述教师网络和所述学生网络对所述训练数据对的预测结果，交替训练所述教师网络和所述学生网络；其中，所述训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成；
网络确定模块，用于从训练后的教师网络和学生网络中，确定通用人脸识别网络。
根据本公开的另一方面，提供了一种电子设备，该电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请任一实施例所述的人脸识别网络的训练方法。
根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本申请任一实施例所述的人脸识别网络的训练方法。
根据本申请的技术解决了现有技术人脸识别结果准确性失衡的问题，提高了人脸识别的准确性。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是根据本申请实施例提供的一种人脸识别网络的训练方法的流程图；
图2A是根据本申请实施例提供的另一种人脸识别网络的训练方法的流程图；
图2B是根据本申请实施例提供的教师网络和学生网络的训练过程示意图；
图3是根据本申请实施例提供的另一种人脸识别网络的训练方法的流程图；
图4是根据本申请实施例提供的另一种人脸识别网络的训练方法的流程图；
图5是根据本申请实施例提供的一种人脸识别网络的训练装置的结构示意图；
图6是用来实现本申请实施例的人脸识别网络的训练方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
图1是根据本申请实施例提供的一种人脸识别网络的训练方法的流程图。本申请实施例适用于训练人脸识别网络的情况。尤其适用于对训练通用的，既可以识别遮挡人脸图像，又可以识别无遮挡人脸图像的人脸识别网络的情况。该实施例可以由配置于电子设备中的人脸识别网络的训练装置来执行，该装置可以采用软件和/或硬件来实现。如图1所示，该方法包括：
S101，将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据教师网络和学生网络对训练数据对的预测结果，交替训练教师网络和学生网络。
其中，所谓训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成。也就是说，本申请实施例中的各训练数据对中包含的遮挡人脸图像和非遮挡人脸图像对应的是同一用户身份。例如，可以是针对每个样本身份选择一张遮挡人脸图像和一张无遮挡人脸图像作为该样本身份对应的训练数据对。本申请实施例是通过大量的训练数据对来进行人脸识别网络的训练。需要说明的是，本申请实施例的训练数据对中的无遮挡人脸图像可以是指脸部区域没有被遮挡的人脸图像；遮挡人脸图像可以是指脸部区域因戴眼镜、口罩、帽子等配件导致部分区域被遮挡的人脸图像。本申请实施例中的教师网络和学生网络是预先构建好的两个用于进行人脸识别的神经网络，学生网络和教师网络的网络结构可以相同，也可以不同，对此本申请实施例不进行限定。
可选的，本申请实施例可以是将训练数据对中的遮挡人脸图像输入到预先构建的教师网络中；将该训练数据对中的无遮挡人脸图像输入到预先构建的学生网络中，此时教师网络和学生网络可以基于自身当前的网络参数，对各自的输入图像进行身份识别预测，并给出预测结果。进而根据教师网络和学生网络针对同一训练数据对的预测结果，交替训练教师网络和学生网络。
具体的，可以是第一次训练时，将第一训练数据对中的遮挡人脸图像输入到教师网络。其中的无遮挡人脸图像输入到学生网络，根据教师网络和学生网络基于第一训练数据对的预测结果，对当前的教师网络的网络参数进行一次更新；第二次训练时，将第二训练数据对中的遮挡人脸图像输入到上次更新后的教师网络。其中的无遮挡人脸图像输入到学生网络，根据教师网络和学生网络基于第二训练数据对的预测结果，对当前的学生网络的网络参数进行一次更新；第三次训练时，将第三训练数据对中的遮挡人脸图像输入到上次更新后的教师网络。其中的无遮挡人脸图像输入到上次更新后的学生网络，根据教师网络和学生网络基于第三训练数据对的预测结果，对当前的教师网络的网络参数进行一次更新；依次类推，不断对教师网络和学生网络进行交替训练，即交替更新教师网络和学生网络的网络参数。
需要说明的是，本步骤在交替训练教师网络和学生网络时，也可以是将训练数据对中的无遮挡人脸图像输入教师网络，遮挡人脸图像输入学生网络，对此本实施例不进行限定。只要训练教师网络和学生网络时，两个网络输入的图像类型固定且不同即可。
S102，从训练后的教师网络和学生网络中，确定通用人脸识别网络。
其中，本申请实施例中的通用人脸识别网络可以是对遮挡人脸图像和无遮挡人脸图像都通用的人脸识别网络。也就是说，无论是遮挡人脸图像，还是无遮挡人脸图像，该通用人脸识别网络都可以精准对其进行身份识别。
可选的，由于本申请实施例是基于教师网络和学生网络对同一身份的不同类型(即遮挡和无遮挡两种类型)的人脸图像的预测结果，对教师网络和学生网络进行交替迭代训练，该训练过程相当于基于自蒸馏技术交替对教师网络和学生网络进行训练，所以交替训练的过程中，教师网络学习到了学生网络识别无遮挡人脸图像的相关知识；同时，学生网络也学习到了教师网络识别遮挡人脸图像的相关知识。因此，训练后的教师网络和学生网络都可以作为通用的人脸识别网络，不但可精准识别无遮挡人脸图像，还可精准识别遮挡人脸图像，也就是说本申请实施例可以是将训练后的学生网络作为通用的人脸识别网络，还可以将训练后的教师网络作为通用人脸识别网络。
可选的，本申请实施例可以是基于训练数据对，对教师网络和学生网络交替迭代训练后，通过同时包含无遮挡人脸图像和遮挡人脸图像的测试数据来对训练后的教师网络和/或学生网络进行测试，如将同时包含无遮挡人脸图像和遮挡人脸图像的测试数据输入训练后的学生网络和/或教师网络中，检测训练后的学生网络和/或教师网络，针对遮挡人脸图像和无遮挡人脸图像是否都可以精准进行身份识别，如果是，则对教师网络和学生网络的交替迭代训练结束，可以执行本步骤从训练后的教师网络和学生网络中选择一个网络作为最终训练好的通用人脸识别网络。
本申请实施例的技术方案，将训练数据对中相同身份的遮挡人脸图像和无遮挡人脸图像分别输入到各自对应的教师网络和学生网络中，基于教师网络和学生网络对该训练数据对的身份预测结果，交替训练教师网络和学生网络，并从训练好的教师网络和学生网络中选择一个作为通用人脸识别网络。本申请实施例的方案交替基于由相同身份的遮挡人脸图像和非遮挡人脸图像构成的训练数据对进行人脸识别网络的训练，保证了训练数据中无遮挡人脸图像和遮挡人脸图像的均衡性，避免了因训练数据不均衡导致的人脸识别结果准确性失衡的问题。另外将单一网络扩展为教师网络和学生网络，基于自蒸馏技术对教师网络和学生网络进行训练，使得训练后的教师网络和学生网络能够学习到对方进行人脸识别时的相关知识。因此从训练后的教师网络和学生网络中确定的通用人脸识别网络，能够精准识别遮挡人脸图像和无遮挡人脸图像，极大的提高了人脸识别的准确性。
可选的，在本申请实施例中，进行网络交替训练的训练数据对中的遮挡人脸图像可以是对无遮挡人脸图像进行遮挡处理后得到的。具体的，可以是针对每一样本身份，只需获取其普通的无遮挡人脸图像即可，该样本身份的遮挡人脸图像可以是通过预设的遮挡算法，对无遮挡人脸图像进行遮挡物添加处理后得到。例如，可以是检测无遮挡人脸图像的嘴巴和鼻子区域，为该区域添加口罩遮挡物；检测无遮挡人脸图像的眼睛区域，为该区域添加眼镜遮挡物等。本申请实施例这样设置的好处是，无需对每一样本身份，都拍摄无遮挡人脸图像和遮挡人脸图像，降低了训练数据对的获取效率，且通过改变遮挡算法，就可以得到各种不同的遮挡人脸图像，提高了训练数据对的多样性。
可选的，在本申请实施例中，所述教师网络和所述学生网络的网络结构相同。所述教师网络和所述学生网络包括：卷积层、全连接层和激活层。具体的，本申请实施例可以为教师网络和学生网络设置相同的网络结构，即由首尾依次连接的卷积层、全连接层和激活层构成。其中，各处理层(即卷积层、全连接层和激活层)的数量可以是一个，也可以是多个，对此不进行限定。其中卷积层用于对输入的遮挡人脸图像或无遮挡人脸图像进行图像特征提取，得到特征图像输入至全连接层；全连接层用于对卷积层输出的特征图像进一步进行特征提取，得到人脸关键点特征输入至激活层，激活层用于对全连接层输出的人脸关键点特征进行分析，预测该人脸关键点特征对应的用户身份，给出预测结果。本申请实施例这样设置的好处是教师网络和学生网络作为孪生网络，在交替迭代训练的过程中，更容易学习到对方进行人脸识别时的相关知识，使得最终得到的通用人脸识别网络的识别效果更为精准。
图2A是根据本申请实施例提供的另一种人脸识别网络的训练方法的流程图；图2B是根据本申请实施例提供的教师网络和学生网络的训练过程示意图。本实施例在上述实施例的基础上，进行了进一步的优化，给出了将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据教师网络和学生网络对训练数据对的预测结果，交替训练教师网络和学生网络的具体情况介绍。如图2A-2B所示，该方法具体包括：
S201，将训练数据对中的遮挡人脸图像输入教师网络，得到教师网络的预测结果。
可选的，本申请实施例可以是将训练数据对中的遮挡人脸图像输入教师网络，教师网络会基于其内部当前的网络参数，对输入的遮挡人脸图像进行处理，得到对该遮挡人脸图像用户身份的预测结果。
示例性的，如图2B所示，可以是针对每一样本身份，将其无遮挡人脸图像进行遮挡处理，得到遮挡人脸图像，将该样本身份的无遮挡人脸图像和遮挡处理后的遮挡人脸图像作为一组训练数据对。然后将该训练数据对中的遮挡人脸图像输入到教师网络的卷积层，卷积层对输入的遮挡人脸图像提取图像特征，得到特征图像输入到全连接层，全连接层对输入的特征图像进行人脸关键点特征提取，并将提取到的人脸关键点特征输入到激活层，激活层对输入的人脸关键点特征进行分析，预测该人脸关键点特征对应的用户身份，作为预测结果1。
需要说明的是，若本次训练之前，没有对教师网络训练过(即没有更新过教师网络的网络参数)，则此时遮挡人脸图像输入的教师网络的当前网络参数为初始设置的网络参数；若本次训练之前，已对教师网络训练过(即更新过教师网络的网络参数)，则此时遮挡人脸图像输入的教师网络的当前网络参数为上次训练更新后的网络参数。
S202，将训练数据对中的无遮挡人脸图像输入学生网络，得到学生网络的预测结果。
可选的，本操作将训练数据对中的无遮挡人脸图像输入学生网络，学生网络会基于其内部当前的网络参数，对输入的无遮挡人脸图像进行处理，得到对该无遮挡人脸图像用户身份的预测结果。需要说明的是，本步骤输入学生网络的无遮挡人脸图像和S201输入到教师网络的遮挡人脸图像对应的用户身份相同，即两者属于同一训练数据对。
示例性的，如图2B所示，可以与S201输入到教师网络中的遮挡人脸图像同属于一个训练数据对的无遮挡人脸图像输入到学生网络的卷积层，卷积层对输入的无遮挡人脸图像提取图像特征，得到特征图像输入到全连接层，全连接层对输入的特征图像进行人脸关键点特征提取，并将提取到的人脸关键点特征输入到激活层，激活层对输入的人脸关键点特征进行分析，预测该人脸关键点特征对应的用户身份，作为预测结果2。
需要说明的是，若本次训练之前，没有对学生网络训练过(即没有更新过学生网络的网络参数)，则此时无遮挡人脸图像输入的学生网络的当前网络参数为初始设置的网络参数；若本次训练之前，已对学生网络训练过(即更新过学生网络的网络参数)，则此时无遮挡人脸图像输入的学生网络的当前网络参数为上次训练更新后的网络参数。
S203，根据教师网络的预测结果、学生网络的预测结果和训练数据对中标注的真实身份，确定相对熵和待训练网络的识别损失函数。
其中，相对熵又称KL散度(Kullback–Leibler divergence)，其可以是描述两个概率分布，即教师网络的预测结果与学生网络的预测结果之间差异的参数表示。可选的，该相对熵用于在交替迭代的过程中，拉近教师网络与学生网络的特征空间距离。
其中，由于本申请实施例是对教师网络和学生网络进行交替迭代训练，所以待训练网络可以交替为教师网络或学生网络；例如，若上次的待训练网络为教师网络，则本次的待训练网络为学生网络；下次的待训练网络为教师网络，依次类推，教师网络和学生网络交替作为待训练网络。
可选的，本申请实施例可以是根据教师网络的预测结果和学生网络的预测结果，确定相对熵；根据待训练网络的预测结果和训练数据对中标注的真实身份，确定待训练网络的识别损失函数。具体的，可以是基于相对熵的计算公式，计算教师网络的预测结果的概率分布与学生网络的预测结果的概率分布之间的差异，作为本次教师网络和学生网络的预测结果的相对熵。本申请实施例中各训练数据对中预先标注有该训练数据对中的无遮挡人脸图像和遮挡人脸图像所对应的真实身份，此时计算待训练网络的识别损失函数时，可以是基于损失函数计算公式，对本次待训练网络的预测结果与本次使用的训练数据对中标注的真实身份进行匹配，计算本次待训练网络的识别损失函数。
示例性的，如图2B所示，若待训练网络为教师网络，则根据教师网络的预测结果1和训练数据对中标注的真实身份，即输入教师网络的遮挡人脸图像的真实身份，计算教师网络的识别损失函数1；若待训练网络为学生网络，则根据学生网络的预测结果2和训练数据对中标注的真实身份，即输入学生网络的无遮挡人脸图像的真实身份，计算学生网络的识别损失函数2；无论是训练教师网络还是学生网络，都是根据预测结果1和预测结果2来计算相对熵。
S204，根据相对熵和待训练网络的识别损失函数，对待训练网络的网络参数进行训练更新。
可选的，若待训练网络为教师网络，则可以是基于S204计算的相对熵和教师网络的识别损失函数作为监督信号，对教师网络的网络参数(如图2B中教师网络中的卷积层、全连接层和激活层的参数)进行一次更新；若待训练网络为学生网络，则可以是基于S204计算的相对熵和学生网络的识别损失函数作为监督信号，对学生网络的网络参数(如图2B中学生网络中的卷积层、全连接层和激活层的参数)进行一次更新。
S205，从训练后的教师网络和学生网络中，确定通用人脸识别网络。
本申请实施例的技术方案，将训练数据对中相同身份的遮挡人脸图像和无遮挡人脸图像分别输入到各自对应的教师网络和学生网络中，基于教师网络和学生网络对该训练数据对的身份预测结果，以及训练数据对中标注的真实身份，计算相对熵和待训练网络的识别损失函数，进而基于相对熵和待训练网络的识别损失函数，对待训练网络的网络参数进行训练更新。并从训练好的教师网络和学生网络中选择一个作为通用人脸识别网络。本申请实施例的方案基于教师网络和学生网络的识别损失函数，以及两个网络预测结果计算的相对熵，交替对教师网络和学生网络进行自蒸馏训练，使得训练后的教师网络和学生网络能够更好的学习到对方进行人脸识别时的相关知识。提高最终得到的通用人脸识别网络的精准性。
图3是根据本申请实施例提供的另一种人脸识别网络的训练方法的流程图。本实施例在上述实施例的基础上，进行了进一步的优化，给出了从训练后的教师网络和学生网络中，确定通用人脸识别网络的具体情况介绍。如图3所示，该方法具体包括：
S301，将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据教师网络和学生网络对训练数据对的预测结果，交替训练教师网络和学生网络。
其中，所述训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成。
S302，根据测试数据，对训练后的教师网络和学生网络进行测试。
可选的，本申请基于自蒸馏技术，交替对教师网络和学生网络进行训练的目的是让教师网络和学生网络相互学习对方进行人脸识别时的相关知识，使得训练后的单个教师网络和学生网络，可以精准识别遮挡人脸图像和无遮挡人脸图像。所以本申请用于测试训练后的教师网络和学生网络的测试数据中需要同时包括遮挡人脸图像和无遮挡人脸图像。
具体的，本申请实施例可以是将训练数据中包含的遮挡人脸图像和无遮挡人脸图像输入到训练后的教师网络中，以使教师网络基于训练后的网络参数，对输入的各遮挡人脸图像和无遮挡人脸图像进行身份预测，并将预测的各图像(即各遮挡人脸图像和无遮挡人脸图像)对应的用户身份与各图像的真实身份进行比较，计算教师网络进行人脸识别的评估参数，作为教师网络的测试结果。将训练数据中包含的遮挡人脸图像和无遮挡人脸图像输入到训练后的学生网络中，以使学生网络基于训练后的网络参数，对输入的各遮挡人脸图像和无遮挡人脸图像进行身份预测，并将预测的各图像对应的用户身份与各图像的真实身份进行比较，计算学生网络进行人脸识别的评估参数，作为学生网络的测试结果。可选的，该评估参数可以包括人脸识别的准确率、精确率或召回率等。对此本实施例不进行限定。
S303，根据教师网络和学生网络的测试结果，从教师网络和学生网络中，选择通用人脸识别网络。
可选的，本申请实施例可以是将教师网络和学生网络的测试结果进行比较，选择测试结果较好的网络作为最终的通用人脸识别网络。例如，可可以是比较教师网络和学生网络的进行人脸识别(包括遮挡人脸图像和无遮挡人脸图像)的准确率，将两者中，准确率高的网络作为最终的通用人脸识别网络。
本申请实施例的技术方案，将训练数据对中相同身份的遮挡人脸图像和无遮挡人脸图像分别输入到各自对应的教师网络和学生网络中，基于教师网络和学生网络对该训练数据对的身份预测结果，交替训练教师网络和学生网络，采用测试数据对训练好的教师网络和学生网络进行测试，并根据测试结果从中选择通用人脸识别网络。本申请实施例的方案基于训练后的教师网络和学生网络的测试结果，选择能够更为精准识别遮挡人脸图像和无遮挡人脸图像的网络作为通用人脸识别网络，进一步提高了得到的通用人脸识别网络的精准性。
图4是根据本申请实施例提供的另一种人脸识别网络的训练方法的流程图。本实施例在上述实施例的基础上，进行了进一步的优化，给出了从训练后的教师网络和学生网络中，确定通用人脸识别网络之后的具体情况介绍。如图4所示，该方法具体包括：
S401，将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据教师网络和学生网络对训练数据对的预测结果，交替训练教师网络和学生网络。
其中，所述训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成。
S402，从训练后的教师网络和学生网络中，确定通用人脸识别网络。
S403，将通用人脸识别网络部署到人脸识别系统中，以对输入人脸识别系统的待检测人脸图像进行身份识别。
可选的，本申请实施例在得到通用人脸识别网络后，可以将该人脸识别网络部署到人脸识别系统中。该通用人脸识别网络会基于训练后的网络参数，对输入的待检测人脸图像进行身份识别，并输出身份识别结果。
可选的，该人脸识别系统可以包括：人脸检测网络、人脸对齐网络以及本申请实施例训练后的通用人脸识别网络。将获取的待识别图像先输入到人脸识别系统的人脸检测网络中，该人脸检测网络会检测获取的待识别图像的人脸位置信息，并基于该人脸位置信息，从待识别图像中提取出人脸图像输入人脸对齐网络；该人脸对齐网络会将输入的人脸图像进行转换操作，得到正面人脸图像，此时该正面人脸图像即为待检测人脸图像，将其输入到通用人脸识别网络，通用人脸识别网络会基于训练后的网络参数，对输入的待检测人脸图像进行身份识别，并输出身份识别结果。本申请部署到人脸识别系统中的通用人脸识别网络不但可以对遮挡人脸图像进行精准的身份识别，还可以对无遮挡人脸图像进行精准的身份识别。
本申请实施例的技术方案，将训练数据对中相同身份的遮挡人脸图像和无遮挡人脸图像分别输入到各自对应的教师网络和学生网络中，基于教师网络和学生网络对该训练数据对的身份预测结果，交替训练教师网络和学生网络，并从训练好的教师网络和学生网络中，选择一个作为通用人脸识别网络部署在人脸识别系统中，以对输入人脸识别系统的待检测人脸图像进行身份识别。本申请实施例的方案交替基于由相同身份的遮挡人脸图像和非遮挡人脸图像构成的训练数据对教师网络和学生网络进行迭代训练，使得训练后确定的通用人脸识别网络，对遮挡人脸图像和无遮挡人脸图像，都能够精准进行身份识别。将这样的通用人脸识别网络部署在人脸识别系统中，极大的提高了人脸识别系统进行用户身份识别的准确性。
图5是根据本申请实施例提供的一种人脸识别网络的训练装置的结构示意图。本申请实施例适用于训练人脸识别网络的情况。尤其适用于对训练通用的，既可以识别遮挡人脸图像，又可以识别无遮挡人脸图像的人脸识别网络的情况。该装置可实现本申请任意实施例所述的人脸识别网络的训练方法。该装置可集成于电子设备中，该装置500具体包括：
网络训练模块501，用于将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据所述教师网络和所述学生网络对所述训练数据对的预测结果，交替训练所述教师网络和所述学生网络；其中，所述训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成；
网络确定模块502，用于从训练后的教师网络和学生网络中，确定通用人脸识别网络。
本申请实施例的技术方案，将训练数据对中相同身份的遮挡人脸图像和无遮挡人脸图像分别输入到各自对应的教师网络和学生网络中，基于教师网络和学生网络对该训练数据对的身份预测结果，交替训练教师网络和学生网络，并从训练好的教师网络和学生网络中选择一个作为通用人脸识别网络。本申请实施例的方案交替基于由相同身份的遮挡人脸图像和非遮挡人脸图像构成的训练数据对进行人脸识别网络的训练，保证了训练数据中无遮挡人脸图像和遮挡人脸图像的均衡性，避免了因训练数据不均衡导致的人脸识别结果准确性失衡的问题。另外将单一网络扩展为教师网络和学生网络，基于自蒸馏技术对教师网络和学生网络进行训练，使得训练后的教师网络和学生网络能够学习到对方进行人脸识别时的相关知识。因此从训练后的教师网络和学生网络中确定的通用人脸识别网络，能够精准识别遮挡人脸图像和无遮挡人脸图像，极大的提高了人脸识别的准确性。
进一步的，所述网络训练模块501包括：
第一图像输入单元，用于将所述训练数据对中的遮挡人脸图像输入教师网络，得到所述教师网络的预测结果；
第二图像输入单元，用于将所述训练数据对中的无遮挡人脸图像输入学生网络，得到所述学生网络的预测结果；
损失函数确定单元，用于根据所述教师网络的预测结果、所述学生网络的预测结果和所述训练数据对中标注的真实身份，确定相对熵和待训练网络的识别损失函数；其中，所述待训练网络交替为所述教师网络或所述学生网络；
网络参数更新单元，用于根据所述相对熵和所述待训练网络的识别损失函数，对所述待训练网络的网络参数进行训练更新。
进一步的，所述损失函数确定单元具体用于：
根据所述教师网络的预测结果和所述学生网络的预测结果，确定相对熵；
根据所述待训练网络的预测结果和所述训练数据对中标注的真实身份，确定所述待训练网络的识别损失函数。
进一步的，所述训练数据对中的遮挡人脸图像是对无遮挡人脸图像进行遮挡处理后得到的。
进一步的，所述网络确定模块502包括：
网络测试单元，用于根据测试数据，对训练后的教师网络和学生网络进行测试；其中，所述测试数据包括：遮挡人脸图像和无遮挡人脸图像；
网络选择单元，用于根据教师网络和学生网络的测试结果，从所述教师网络和所述学生网络中，选择通用人脸识别网络。
进一步的，所述教师网络和所述学生网络的网络结构相同。
进一步的，所述教师网络和所述学生网络包括：卷积层、全连接层和激活层。
进一步的，所述装置还包括：
网络部署模块，用于将所述通用人脸识别网络部署到人脸识别系统中，以对输入所述人脸识别系统的待检测人脸图像进行身份识别。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图6所示，是根据本申请实施例的人脸识别网络的训练方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示，该电子设备包括：一个或多个处理器601、存储器602，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的人脸识别网络的训练方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的人脸识别网络的训练方法。
存储器602作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的人脸识别网络的训练方法对应的程序指令/模块(例如，附图5所示的网络训练模块501和网络确定模块502)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的人脸识别网络的训练方法。
存储器602可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据人脸识别网络的训练方法的电子设备的使用所创建的数据等。此外，存储器602可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器602可选包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至人脸识别网络的训练方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
人脸识别网络的训练方法的电子设备还可以包括：输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接，图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息，以及产生与人脸识别网络的训练方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案，将训练数据对中相同身份的遮挡人脸图像和无遮挡人脸图像分别输入到各自对应的教师网络和学生网络中，基于教师网络和学生网络对该训练数据对的身份预测结果，交替训练教师网络和学生网络，并从训练好的教师网络和学生网络中选择一个作为通用人脸识别网络。本申请实施例的方案交替基于由相同身份的遮挡人脸图像和非遮挡人脸图像构成的训练数据对进行人脸识别网络的训练，保证了训练数据中无遮挡人脸图像和遮挡人脸图像的均衡性，避免了因训练数据不均衡导致的人脸识别结果准确性失衡的问题。另外将单一网络扩展为教师网络和学生网络，基于自蒸馏技术对教师网络和学生网络进行训练，使得训练后的教师网络和学生网络能够学习到对方进行人脸识别时的相关知识。因此从训练后的教师网络和学生网络中确定的通用人脸识别网络，能够精准识别遮挡人脸图像和无遮挡人脸图像，极大的提高了人脸识别的准确性。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (18)
1.一种人脸识别网络的训练方法，包括：
将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据所述教师网络和所述学生网络对所述训练数据对的预测结果，交替训练所述教师网络和所述学生网络；其中，所述训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成；
从训练后的教师网络和学生网络中，确定通用人脸识别网络。
2.根据权利要求1所述的方法，其中，将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据所述教师网络和所述学生网络对所述训练数据对的预测结果，交替训练所述教师网络和所述学生网络，包括：
将所述训练数据对中的遮挡人脸图像输入教师网络，得到所述教师网络的预测结果；
将所述训练数据对中的无遮挡人脸图像输入学生网络，得到所述学生网络的预测结果；
根据所述教师网络的预测结果、所述学生网络的预测结果和所述训练数据对中标注的真实身份，确定相对熵和待训练网络的识别损失函数；其中，所述待训练网络交替为所述教师网络或所述学生网络；
根据所述相对熵和所述待训练网络的识别损失函数，对所述待训练网络的网络参数进行训练更新。
3.根据权利要求2所述的方法，其中，根据所述教师网络的预测结果、所述学生网络的预测结果和所述训练数据对中标注的真实身份，确定相对熵和待训练网络的识别损失函数，包括：
根据所述教师网络的预测结果和所述学生网络的预测结果，确定相对熵；
根据所述待训练网络的预测结果和所述训练数据对中标注的真实身份，确定所述待训练网络的识别损失函数。
4.根据权利要求1所述的方法，其中，所述训练数据对中的遮挡人脸图像是对无遮挡人脸图像进行遮挡处理后得到的。
5.根据权利要求1所述的方法，其中，从训练后的教师网络和学生网络中，确定通用人脸识别网络，包括：
根据测试数据，对训练后的教师网络和学生网络进行测试；其中，所述测试数据包括：遮挡人脸图像和无遮挡人脸图像；
根据教师网络和学生网络的测试结果，从所述教师网络和所述学生网络中，选择通用人脸识别网络。
6.根据权利要求1-5中任一项所述的方法，其中，所述教师网络和所述学生网络的网络结构相同。
7.根据权利要求6所述的方法，其中，所述教师网络和所述学生网络包括：卷积层、全连接层和激活层。
8.根据权利要求1所述的方法，其中，在从训练后的教师网络和学生网络中，确定通用人脸识别网络之后，还包括：
将所述通用人脸识别网络部署到人脸识别系统中，以对输入所述人脸识别系统的待检测人脸图像进行身份识别。
9.一种人脸识别网络的训练装置，包括：
网络训练模块，用于将训练数据对中的遮挡人脸图像输入教师网络，无遮挡人脸图像输入学生网络，并根据所述教师网络和所述学生网络对所述训练数据对的预测结果，交替训练所述教师网络和所述学生网络；其中，所述训练数据对由相同身份的遮挡人脸图像和非遮挡人脸图像构成；
网络确定模块，用于从训练后的教师网络和学生网络中，确定通用人脸识别网络。
10.根据权利要求9所述的装置，其中，所述网络训练模块包括：
第一图像输入单元，用于将所述训练数据对中的遮挡人脸图像输入教师网络，得到所述教师网络的预测结果；
第二图像输入单元，用于将所述训练数据对中的无遮挡人脸图像输入学生网络，得到所述学生网络的预测结果；
损失函数确定单元，用于根据所述教师网络的预测结果、所述学生网络的预测结果和所述训练数据对中标注的真实身份，确定相对熵和待训练网络的识别损失函数；其中，所述待训练网络交替为所述教师网络或所述学生网络；
网络参数更新单元，用于根据所述相对熵和所述待训练网络的识别损失函数，对所述待训练网络的网络参数进行训练更新。
11.根据权利要求10所述的装置，其中，所述损失函数确定单元具体用于：
根据所述教师网络的预测结果和所述学生网络的预测结果，确定相对熵；
根据所述待训练网络的预测结果和所述训练数据对中标注的真实身份，确定所述待训练网络的识别损失函数。
12.根据权利要求9所述的装置，其中，所述训练数据对中的遮挡人脸图像是对无遮挡人脸图像进行遮挡处理后得到的。
13.根据权利要求9所述的装置，其中，所述网络确定模块包括：
网络测试单元，用于根据测试数据，对训练后的教师网络和学生网络进行测试；其中，所述测试数据包括：遮挡人脸图像和无遮挡人脸图像；
网络选择单元，用于根据教师网络和学生网络的测试结果，从所述教师网络和所述学生网络中，选择通用人脸识别网络。
14.根据权利要求9-13中任一项所述的装置，其中，所述教师网络和所述学生网络的网络结构相同。
15.根据权利要求14所述的装置，其中，所述教师网络和所述学生网络包括：卷积层、全连接层和激活层。
16.根据权利要求9所述的装置，其中，还包括：
网络部署模块，用于将所述通用人脸识别网络部署到人脸识别系统中，以对输入所述人脸识别系统的待检测人脸图像进行身份识别。
17.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的人脸识别网络的训练方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的人脸识别网络的训练方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010592664.7A CN111783606B (zh) | 2020-06-24 | 2020-06-24 | 一种人脸识别网络的训练方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010592664.7A CN111783606B (zh) | 2020-06-24 | 2020-06-24 | 一种人脸识别网络的训练方法、装置、设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111783606A true CN111783606A (zh) | 2020-10-16 |
| CN111783606B CN111783606B (zh) | 2024-02-20 |
Family
ID=72759832
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010592664.7A Active CN111783606B (zh) | 2020-06-24 | 2020-06-24 | 一种人脸识别网络的训练方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111783606B (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113283368A (zh) * | 2021-06-08 | 2021-08-20 | 电子科技大学中山学院 | 一种模型训练方法、人脸属性分析方法、装置及介质 |
| CN113343898A (zh) * | 2021-06-25 | 2021-09-03 | 江苏大学 | 基于知识蒸馏网络的口罩遮挡人脸识别方法、装置及设备 |
| CN115641637A (zh) * | 2022-11-11 | 2023-01-24 | 杭州海量信息技术有限公司 | 一种戴口罩人脸识别方法及系统 |
| WO2023051140A1 (zh) * | 2021-09-28 | 2023-04-06 | 北京有竹居网络技术有限公司 | 用于图像特征表示生成的方法、设备、装置和介质 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109377452A (zh) * | 2018-08-31 | 2019-02-22 | 西安电子科技大学 | 基于vae和生成式对抗网络的人脸图像修复方法 |
| CN109711544A (zh) * | 2018-12-04 | 2019-05-03 | 北京市商汤科技开发有限公司 | 模型压缩的方法、装置、电子设备及计算机存储介质 |
| CN110472730A (zh) * | 2019-08-07 | 2019-11-19 | 交叉信息核心技术研究院(西安)有限公司 | 一种卷积神经网络的自蒸馏训练方法和可伸缩动态预测方法 |
| WO2019240964A1 (en) * | 2018-06-12 | 2019-12-19 | Siemens Aktiengesellschaft | Teacher and student based deep neural network training |
| CN110659665A (zh) * | 2019-08-02 | 2020-01-07 | 深圳力维智联技术有限公司 | 一种异维特征的模型构建方法及图像识别方法、装置 |
| US20200090048A1 (en) * | 2017-05-19 | 2020-03-19 | Deepmind Technologies Limited | Multi-task neural network systems with task-specific policies and a shared policy |
| CN110956158A (zh) * | 2019-12-12 | 2020-04-03 | 中山大学 | 一种基于教师学生学习框架的遮挡行人再标识方法 |
| CN111325318A (zh) * | 2019-02-01 | 2020-06-23 | 北京地平线机器人技术研发有限公司 | 神经网络的训练方法、神经网络的训练装置和电子设备 |
-
2020
- 2020-06-24 CN CN202010592664.7A patent/CN111783606B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20200090048A1 (en) * | 2017-05-19 | 2020-03-19 | Deepmind Technologies Limited | Multi-task neural network systems with task-specific policies and a shared policy |
| WO2019240964A1 (en) * | 2018-06-12 | 2019-12-19 | Siemens Aktiengesellschaft | Teacher and student based deep neural network training |
| CN109377452A (zh) * | 2018-08-31 | 2019-02-22 | 西安电子科技大学 | 基于vae和生成式对抗网络的人脸图像修复方法 |
| CN109711544A (zh) * | 2018-12-04 | 2019-05-03 | 北京市商汤科技开发有限公司 | 模型压缩的方法、装置、电子设备及计算机存储介质 |
| CN111325318A (zh) * | 2019-02-01 | 2020-06-23 | 北京地平线机器人技术研发有限公司 | 神经网络的训练方法、神经网络的训练装置和电子设备 |
| CN110659665A (zh) * | 2019-08-02 | 2020-01-07 | 深圳力维智联技术有限公司 | 一种异维特征的模型构建方法及图像识别方法、装置 |
| CN110472730A (zh) * | 2019-08-07 | 2019-11-19 | 交叉信息核心技术研究院(西安)有限公司 | 一种卷积神经网络的自蒸馏训练方法和可伸缩动态预测方法 |
| CN110956158A (zh) * | 2019-12-12 | 2020-04-03 | 中山大学 | 一种基于教师学生学习框架的遮挡行人再标识方法 |
Non-Patent Citations (3)
| Title |
|---|
| LINFENG ZHANG等: "Be Your Own Teacher: Improve the Performance of Convolutional Neural Networks via Self Distillation", 《2019 IEEE/CVF INTERNATIONAL CONFERENCE ON COMPUTER VISION (ICCV)》 * |
| 凌弘毅;: "基于知识蒸馏方法的行人属性识别研究", 计算机应用与软件, no. 10 * |
| 孙全;曾晓勤;: "基于生成对抗网络的图像修复", 计算机科学, no. 12 * |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113283368A (zh) * | 2021-06-08 | 2021-08-20 | 电子科技大学中山学院 | 一种模型训练方法、人脸属性分析方法、装置及介质 |
| CN113283368B (zh) * | 2021-06-08 | 2023-10-20 | 电子科技大学中山学院 | 一种模型训练方法、人脸属性分析方法、装置及介质 |
| CN113343898A (zh) * | 2021-06-25 | 2021-09-03 | 江苏大学 | 基于知识蒸馏网络的口罩遮挡人脸识别方法、装置及设备 |
| CN113343898B (zh) * | 2021-06-25 | 2022-02-11 | 江苏大学 | 基于知识蒸馏网络的口罩遮挡人脸识别方法、装置及设备 |
| WO2023051140A1 (zh) * | 2021-09-28 | 2023-04-06 | 北京有竹居网络技术有限公司 | 用于图像特征表示生成的方法、设备、装置和介质 |
| CN115641637A (zh) * | 2022-11-11 | 2023-01-24 | 杭州海量信息技术有限公司 | 一种戴口罩人脸识别方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111783606B (zh) | 2024-02-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111783606B (zh) | 一种人脸识别网络的训练方法、装置、设备及存储介质 | |
| CN111523596B (zh) | 目标识别模型训练方法、装置、设备以及存储介质 | |
| CN111523597B (zh) | 目标识别模型训练方法、装置、设备以及存储介质 | |
| CN111783605A (zh) | 一种人脸图像识别方法、装置、设备及存储介质 | |
| CN112529073A (zh) | 模型训练方法、姿态估计方法、装置及电子设备 | |
| CN111783870A (zh) | 人体属性的识别方法、装置、设备及存储介质 | |
| CN111833340A (zh) | 图像检测方法、装置、电子设备及存储介质 | |
| CN112507949A (zh) | 目标跟踪方法、装置、路侧设备以及云控平台 | |
| CN111723768A (zh) | 车辆重识别的方法、装置、设备和存储介质 | |
| CN113221677A (zh) | 一种轨迹异常检测方法、装置、路侧设备和云控平台 | |
| CN113642431A (zh) | 目标检测模型的训练方法及装置、电子设备和存储介质 | |
| CN112150462B (zh) | 确定目标锚点的方法、装置、设备以及存储介质 | |
| CN112528786A (zh) | 车辆跟踪方法、装置及电子设备 | |
| CN111738263A (zh) | 目标检测方法、装置、电子设备及存储介质 | |
| CN113537374A (zh) | 一种对抗样本生成方法 | |
| CN112288699B (zh) | 图像相对清晰度的评估方法、装置、设备和介质 | |
| CN113177968A (zh) | 目标跟踪方法、装置、电子设备及存储介质 | |
| CN112508004A (zh) | 一种文字识别方法、装置、电子设备及存储介质 | |
| CN111626263A (zh) | 一种视频感兴趣区域检测方法、装置、设备及介质 | |
| CN111709288B (zh) | 人脸关键点检测方法、装置以及电子设备 | |
| KR20210154774A (ko) | 이미지 식별 방법, 장치, 전자 기기 및 컴퓨터 프로그램 | |
| CN111783613B (zh) | 异常检测方法、模型的训练方法、装置、设备及存储介质 | |
| CN112487973A (zh) | 用户图像识别模型的更新方法和装置 | |
| CN110889392B (zh) | 人脸图像处理的方法及装置 | |
| CN111783644A (zh) | 检测方法、装置、设备和计算机存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |