CN110298240B - 一种汽车用户识别方法、装置、系统及存储介质 - Google Patents

一种汽车用户识别方法、装置、系统及存储介质 Download PDF

Info

Publication number
CN110298240B
CN110298240B CN201910424087.8A CN201910424087A CN110298240B CN 110298240 B CN110298240 B CN 110298240B CN 201910424087 A CN201910424087 A CN 201910424087A CN 110298240 B CN110298240 B CN 110298240B
Authority
CN
China
Prior art keywords
terminal
neural network
automobile
training
loss
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910424087.8A
Other languages
English (en)
Other versions
CN110298240A (zh
Inventor
李亮亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Megvii Technology Co Ltd
Original Assignee
Beijing Megvii Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Megvii Technology Co Ltd filed Critical Beijing Megvii Technology Co Ltd
Priority to CN201910424087.8A priority Critical patent/CN110298240B/zh
Publication of CN110298240A publication Critical patent/CN110298240A/zh
Application granted granted Critical
Publication of CN110298240B publication Critical patent/CN110298240B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种汽车用户识别方法、装置、系统及存储介质,所述方法包括:采集汽车用户的实时人脸图像;将所述实时人脸图像输入汽车终端神经网络进行特征提取得到所述实时人脸图像特征;获取至少一个终端的数据底库中的人脸底库特征;基于所述实时人脸图像特征与所述至少一个终端的所述人脸底库特征进行特征比对,得到识别结果。根据本发明的方法、装置、系统及存储介质,实现了基于多个终端录入底库的特征比对,提升了用户识别的准确性和识别速度,从而保证了汽车用户的解锁和验证体验。

Description

一种汽车用户识别方法、装置、系统及存储介质
技术领域
本发明涉及图像处理技术领域,更具体地涉及汽车用户识别的处理。
背景技术
现有技术中的汽车解锁或汽车用户验证,需要在汽车端录入底库,在汽车端做解锁,受限于单模组即汽车端的图像采集装置(如摄像头),不能与通过其他终端如手机端的摄像头录入的底库中的数据做跨模组比对;并且车内底库受限于客观条件,如光线、角度、摄像头模组本身成像质量一般等,人脸信息容易受到损失,当在云端做人脸识别验证时,原图传输会受限于用户隐私与法律问题,且和网络环境有很强相关,影响用户的解锁和验证体验,给人脸识别算法的性能带来负面影响。此外,汽车端的模组种类繁多,利用通用框架训练出的模型没有针对性,不能定制化地根据汽车端平台型号,摄像头模组类型来匹配合适的模型结构加以训练,也不能保证能汽车端和手机端之间由不同终端的不同摄像头模组录入的底库可以进行跨模组比对。
因此,现有技术中存在汽车端的神经网络模型没有针对性,且无法与其他终端录入的数据进行比对,导致用户识别的准确度低以及速度慢的问题,影响汽车用户的使用体验。
发明内容
考虑到上述问题而提出了本发明。本发明提供了一种汽车用户解锁或验证方法、装置、系统及计算机存储介质,将实时采集图像得到的特征与基于多个终端录入底库的特征比对,提升了用户识别的准确性和识别速度,从而保证了汽车用户的使用体验。
根据本发明的第一方面,提供了一种汽车用户识别方法,包括:
采集汽车用户的实时人脸图像;
将所述实时人脸图像输入汽车终端神经网络进行特征提取得到所述实时人脸图像特征;
获取至少一个终端的数据底库中的人脸底库特征;
基于所述实时人脸图像特征与所述至少一个终端的所述人脸底库特征进行特征比对,得到识别结果。
示例性地,所述方法还包括:
根据所述识别结果确定是否对汽车进行解锁,或所述汽车用户是否有权使用汽车。
示例性地,所述方法还包括:
利用训练数据对主神经网络进行训练得到训练后的主神经网络,以及利用所述训练数据分别对汽车终端初级神经网络和所述至少一个终端的初级神经网络进行终端训练;
在所述终端训练中,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失;并根据所述整体训练损失优化所述汽车终端初级神经网络得到所述汽车终端神经网络。
示例性地,所述方法还包括:
搜索汽车终端的神经网络的最优超参数,得到所述汽车终端初级神经网络;和/或,
搜索所述至少一个终端的神经网络的最优超参数,得到所述至少一个终端的初级神经网络。
示例性地,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失,包括:
计算所述汽车终端初级神经网络与所述训练后的主神经网络之间的第一模型损失,所述至少一个终端的初级神经网络与所述训练后的主神经网络之间的第二模型损失,以及所述汽车终端初级神经网络和所述至少一个终端的初级神经网络中两两之间的第三模型损失;
根据所述第一模型损失、所述第二模型损失和所述第三模型损失计算所述整体训练损失。
示例性地,所述至少一个终端包括:至少一个手机终端,至少一个平板电脑终端,和/或至少一个计算机终端。
示例性地,所述获取至少一个终端的数据底库中的人脸底库特征包括:采用加密形式获取所述人脸底库特征。
根据本发明的第二方面,提供了一种汽车用户识别装置,包括:
图像采集模块,用于采集汽车用户的实时人脸图像;
特征提取模块,用于将所述实时人脸图像输入汽车终端神经网络进行特征提取得到所述实时人脸图像特征;
图像获取模块,用于获取至少一个终端的数据底库中的人脸底库特征;
特征比对模块,用于基于所述实时人脸图像特征与所述至少一个的所述人脸底库特征进行特征比对,得到识别结果。
示例性地,所述汽车用户识别装置还包括:
数据库模块,用于通过所述至少一个终端获取权限用户的图像信息,并基于所述权限用户的图像信息以建立所述至少一个终端的数据底库。
示例性地,所述汽车用户识别装置还包括模型模块,所述模型模块包括:
训练模块,用于利用训练数据对主神经网络进行训练得到训练后的主神经网络,以及利用所述训练数据分别对汽车终端初级神经网络和所述至少一个终端的初级神经网络进行终端训练;
损失计算模块,用于在所述终端训练中,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失;
优化模块,用于根据所述整体训练损失优化所述汽车终端初级神经网络得到所述汽车终端神经网络。
示例性地,所述模型模块还包括:
模型搜索模块,用于搜索汽车终端的神经网络的最优超参数,得到所述汽车终端初级神经网络;和/或,
搜索所述至少一个终端的神经网络的最优超参数,得到所述至少一个终端的初级神经网络。
示例性地,所述损失计算模块包括:
第一计算模块,用于计算所所述汽车终端初级神经网络与所述训练后的主神经网络之间的第一模型损失;
第二计算模块,用于计算所述至少一个终端的初级神经网络与所述训练后的主神经网络之间的第二模型损失;
第三计算模块,用于计算所述汽车终端初级神经网络和所述至少一个终端的初级神经网络中两两之间的第三模型损失;
整体计算模块,根据所述第一模型损失、所述第二模型损失和所述第三模型损失计算整体训练损失。
示例性地,所述整体训练损失还可以包括:汽车终端初级神经网络自身训练损失,和/或所述至少一个终端的初级神经网络自身训练损失。
示例性地,所述优化模块包括:
反馈模块,用于将所述整体训练损失反馈至所述汽车终端初级神经网络;
参数调整模块,用于所述汽车终端初级神经网络根据所述整体训练损失调整所述汽车终端的初级神经网络的权重参数,得到所述汽车终端神经网络。
示例性地,所述汽车用户识别装置还包括:
解锁模块,用于根据所述识别结果确定是否对汽车进行解锁。
示例性地,所述汽车用户识别装置还包括:
验证模块,用于根据所述识别结果确定所述汽车用户是否有权使用汽车。
根据本发明的第三方面,提供了一种汽车用户识别系统,包括存储器、处理器及存储在所述存储器上且在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现第一方面所述方法的步骤。
根据本发明的第四方面,提供了一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被计算机执行时实现第一方面所述方法的步骤。
根据本发明实施例的汽车用户识别方法、装置、系统及计算机存储介质,通过对不同的终端采用超参数最优的神经网络进行训练,并利用相同数据训练得到的高性能神经网络进行优化得到汽车终端神经网络,实现基于多个终端录入底库的特征比对,提升了用户识别的准确性和识别速度,从而保证了汽车用户的识别体验。
附图说明
通过结合附图对本发明实施例进行更详细的描述,本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是用于实现根据本发明实施例的汽车用户识别方法和装置的示例电子设备的示意性框图;
图2是根据本发明实施例的汽车用户识别方法的示意性流程图;
图3是根据本发明实施例的两个终端的终端神经网络训练示例;
图4是根据本发明实施例的多个终端的终端神经网络训练示例;
图5是本发明实施例的前向推理的示例;
图6是根据本发明实施例的汽车用户识别装置的示意性框图;
图7是根据本发明实施例的汽车用户识别系统的示意性框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。
首先,参考图1来描述用于实现本发明实施例的汽车用户识别方法和装置的示例电子设备100。
如图1所示,电子设备100包括一个或多个处理器101、一个或多个存储装置102、输入装置103、输出装置104、图像传感器105,这些组件通过总线系统106或其它形式的连接机构(未示出)互连。应当注意,图1所示的电子设备100的组件和结构只是示例性的,而非限制性的,根据需要,所述电子设备也可以具有其他组件和结构。
所述处理器101可以是中央处理单元(CPU)或者具有数据处理能力或指令执行能力的其它形式的处理单元,并且可以控制所述电子设备100中的其它组件以执行期望的功能。
所述存储装置102可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据,例如所述应用程序使用或产生的各种数据等。
所述输入装置103可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。
所述输出装置104可以向外部(例如用户)输出各种信息(例如图像或声音),并且可以包括显示器、扬声器等中的一个或多个。
所述图像传感器105可以拍摄用户期望的图像(例如照片、视频等),并且将所拍摄的图像存储在所述存储装置102中以供其它组件使用。
示例性地,用于实现根据本发明实施例的汽车用户识别方法和装置的示例电子设备可以被实现为诸如汽车内部和/或外部的视频采集端和/或相应的处理设备等。
汽车用户识别可以是汽车用户的解锁,还可以是汽车用户的验证。汽车用户的解锁指的是采用汽车端外部的图像采集装置,如车外摄像头模组,采集汽车用户的人脸图像,然后对汽车用户的人脸图像进行识别,当确定所述汽车用户为解锁授权用户时可以自动解锁汽车而不需要通过操作其他控制装置进行解锁;汽车用户的验证指的是采用汽车端内部的图像采集装置,如车内摄像头模组,采集汽车用户的人脸图像,然后对汽车用户的人脸图像进行识别验证,当确定所述汽车用户为使用授权用户时可以有权使用汽车,例如自动点火等。上述汽车用户的解锁和验证均为基于实时采集用户的人脸图像以完成相应的操作或获取相应的授权,可以避免汽车被盗的情况发生。
下面,将参照图2描述根据本发明实施例的汽车用户识别方法200。如图2所示,一种汽车用户识别方法200,包括:
首先,在步骤S210,采集汽车用户的实时人脸图像;
在步骤S220,将所述实时人脸图像输入汽车终端神经网络进行特征提取得到所述实时人脸图像特征;
在步骤S230,获取至少一个终端的数据底库中的人脸底库特征;
最后,在步骤S240,基于所述实时人脸图像特征与所述至少一个终端的所述人脸底库特征进行特征比对,得到识别结果。
需要说明的是,上述步骤顺序仅为示意性,并不代表本申请方法200一定按照上述步骤的顺序;具体来说,上述步骤S230并不局限于在步骤S220中得到所述实时人脸图像特征之后,其可以是步骤S240中进行特征比对之前的任何步骤获取,例如,可以是步骤S210采集所述实施人脸图像之前或同时或之后获取,还可以是步骤S220得到所述实时人脸图像特征之前或同时或之后获取,在此不做限制。
示例性地,根据本发明实施例的汽车用户识别方法可以在具有存储器和处理器的设备、装置或者系统中实现。
根据本发明实施例的汽车用户识别方法可以部署在图像采集端处,例如,可以部署在汽车终端,所述汽车终端获取人脸图像,并完成与至少一个终端的数据底库中的人脸底库特征进行比对。替代地,还可以分布地部署在服务器端(或云端)和个人汽车终端处。例如,可以在个人汽车终端获取人脸图像,个人汽车终端将人脸图像传递给服务器端(或云端),服务器端(或云端)根据所接收的人脸图像在多个终端的数据底库中进行特征比对。
其中,汽车终端神经网络是指基于汽车终端的硬件和/或软件环境获取与汽车终端的运算能力等性能最匹配的神经网络结构即神经网络的最优超参数后,采用训练数据对具有最优超参数的神经网络训练后得到的用于特征提取的模型。由于用于训练的最优超参数神经网络结构与汽车终端的运算能力等各方面性能最匹配,即汽车终端神经网络可以充分利用汽车终端的运算能力,对汽车用户的实时人脸图像进行特征提取时可以有很快的响应速度;可以部署于汽车终端,也可以部署于其他终端或服务器端(或云端),在此不做限制。
至少一个终端的数据底库是指包括经过一个或多个不同终端录入的人脸数据构成的数据底库,其中,每个终端的数据底库可以包括人脸图像和/或人脸图像特征,可以部署于其他终端或服务器端(或云端)。需要说明的是,至少一个终端的数据底库不仅可以获取从终端录入的人脸数据,还可以获取其它数据来源的人脸数据,例如获取储存在存储装置中的人脸图像/人脸图像特征或从云端获取的人脸图像/人脸图像特征等,在此对至少一个终端的数据底库的数据来源不做限制。
根据本申请实施例提供的方法,将采集的实时人脸图像进行特征提取得到的实时人脸图像特征,并与至少一个终端的数据底库中的数据进行比对,使得汽车用户的识别不再局限于仅能在汽车终端录入的数据底库中进行比对。因为受到汽车终端的如光线、角度、摄像头模组本身等客观条件的影响,在汽车终端录入的人脸图像和/或人脸图像特征成像质量一般或较差,人脸信息容易受到损失;而如手机、平板电脑、计算机等其他终端上的图像采集装置所采集到的人脸图像可以克服光线、角度、摄像头模组本身等客观条件对成像质量带来的负面影响,录入数据底库的人脸图像和/或人脸图像特征成像质量比较高,那么用这些成像质量高的终端录入的人脸图像和/或人脸图像特征与实时采集得到的人脸图像特征进行识别则可以提高人脸识别的准确度和速度。所以,本申请实施例提供的方法实现了在汽车终端采集并提取得到的实时人脸图像特征,不仅可以与汽车终端自身录入的数据底库的特征进行特征比对,还可以与至少一个其它终端录入的数据底库的特征进行比对,极大提高了汽车用户的人脸识别准确度和效率,提升了用户体验。例如,至少一个终端的数据底库可以包括由汽车终端录入的第一人脸图像和/或第一人脸图像特征,和由手机终端录入的第二人脸图像和/或第二人脸图像特征,其中,手机终端成像质量相对比汽车终端的成像质量要高,将汽车终端获取的实时人脸图像提取特征后与汽车终端和手机终端的数据底库进行比对,可以保证在相同计算能力下,人脸解锁或验证的通过率,降低误报风险。
示例性地,所述至少一个终端可以是设置在不同设备的图像采集装置,如摄像头、具有摄像头的手机、摄像机等。
根据本发明实施例的汽车用户识别方法,通过对不同的终端采用超参数最优的神经网络进行训练,并利用相同数据训练得到的高性能神经网络进行优化得到汽车终端神经网络,实现基于多个终端录入底库的特征比对,提升了用户识别的准确性和识别速度,从而保证了汽车用户的识别体验。
根据本发明实施例,所述汽车用户识别方法200在执行步骤210之前还进一步地包括:通过至少一个终端获取权限用户的图像信息,并基于所述权限用户的图像信息以建立至少一个终端的数据底库。
示例性地,所述建立至少一个终端的数据底库可以包括:获取包含权限用户的人脸的权限用户图像信息;对所述权限用户图像信息进行预处理后,生成对应的权限用户人脸图像;基于所述权限用户人脸图像提取特征得到权限用户人脸特征,并将所述权限用户人脸图像及其对应的权限用户人脸特征存储到人脸底库,或者将所述权限用户人脸特征存储到至少一个终端的数据底库。
示例性地,所述至少一个终端的数据底库可以根据单个权限用户或者多个权限用户分别建立,在多个权限用户的情况下,每个用户拥有对应自己权限的单独的脸部图像特征库。所述至少一个终端的数据底库中的所述权限用户人脸图像和/或对应的权限用户人脸特征可以称为人脸底图或人脸底库特征。
示例性地,所述权限用户图像信息包括单帧图像或连续的多帧图像或不连续的任意选定的多帧图像。
示例性地,所述权限用户人脸图像是通过对所述权限用户图像信息进行人脸检测和/或人脸跟踪处理所确定的包含有权限用户人脸的图像帧。具体的,可以通过诸如模板匹配、SVM(支持向量机)、神经网络等各种本领域中常用的人脸检测方法在包含目标人脸的起始图像帧中确定该目标人脸的大小和位置,随后基于目标人脸的颜色信息、局部特征、或运动信息等对该目标人脸进行跟踪,从而确定视频或非视频中包含有目标人脸的各帧图像。上述通过人脸检测和/或人脸跟踪确定包含有目标人脸的图像帧的处理是图像处理领域中的常见处理,此处不再对其进行详细描述。
根据本发明实施例,所述汽车用户识别方法200还包括:利用训练数据对主神经网络进行训练得到训练后的主神经网络,以及利用所述训练数据分别对汽车终端初级神经网络和所述至少一个终端的初级神经网络进行终端训练;
在所述终端训练中,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失;并根据所述整体训练损失优化所述汽车终端初级神经网络得到所述汽车终端神经网络。
其中,在大规模的机器学习领域中为了获得较好的性能常常会训练很复杂的模型,因为不需要考虑实时性、计算量等因素。虽然这类模型很复杂,但是其包含的信息非常全面,得到的结果准确率很高。主神经网络可以是这样一个高性能的通过大量数据训练得到的大规模神经网络。但是,在将主神经网络应用到终端时就需要考虑神经网络的大小、计算复杂度、速度等诸多因素,因此我们需要将训练好的主神经网络中的“信息”迁移到一个结构更为简单的轻量级神经网络中,或者通过简单的轻量级神经网络去学习复杂的主神经网络中“信息”。一般来说,训练后的主神经网络具有强大的能力和出色的处理性能,而轻量级神经网络的结构更为紧凑,通过对复杂的主神经网络的学习,轻量级神经网络可以优化为性能接近或等同于训练后的主神经网络的紧凑模型,更适合部署于终端。
而对于终端来说,由于硬件环境和/或软件环境不同,不同的终端设备的计算能力等各方面性能不同,那么对于神经网络结构的友好程度也不同,也就是说,采用相同超参数(所谓超参数,就是机器学习模型里面的框架参数,如聚类方法中类的个数等)的神经网络用于不同的终端设备并不能充分利用或适配每个终端设备的运算能力,可能会导致终端设备的资源浪费或运算过负荷。基于上述考虑,可以在每个终端上搜索得到各自的最优超参数的神经网络,即为每个终端的初级神经网络。基于每个终端的初级神经网络进行数据训练,则可以实现在给定的终端设备算力下,基于不同终端设备的最优神经网络结构进行数据训练,尽最大可能利用终端设备的运算力,提升后续人脸识别的准确性。
示例性地,所述汽车用户识别方法200还包括:
搜索汽车终端的神经网络的最优超参数,得到所述汽车终端初级神经网络;和/或,
搜索所述至少一个终端的神经网络的最优超参数,得到所述至少一个终端的初级神经网络。
在一个实施例中,以手机终端和汽车终端为例,手机终端和汽车终端的硬件和软件环境均不同,运算能力不同。对于手机终端可以采用模型搜索技术得到手机终端下的神经网络的最优超参数,即得到手机终端的初级神经网络,同样的,对于汽车终端也可以采用现有的模型搜索技术得到汽车终端下的神经网络的最优超参数,即得到汽车终端初级神经网络。这样,在手机终端下的初级神经网络和汽车终端初级神经网络的基础上,采用训练数据进行训练并优化,可以得到相应的手机终端的终端神经网络和汽车终端神经网络。因为手机终端的终端神经网络和汽车终端神经网络都是在各自终端的最优超参数的神经网络结构下训练得到,所以手机终端的终端神经网络和汽车终端神经网络分别与各自终端的运算能力相适应,可以充分利用和配适各自终端的运算能力,节约运算资源,提高运算效率,有利于保证后续人脸识别的准确性和运算速度。
其中,需要说明的是,应了解本发明不受具体采用的模型搜索技术的限制,无论是现有的模型搜索技术还是将来开发的模型搜索技术,都可以应用于根据本发明实施例的方法中,并且也应包括在本发明的保护范围内。
此外,由于不同终端的初级神经网络的网络结构表达能力是不同的,训练得到的相应的初级神经网络中单位长度特征所蕴含的信息也是有偏差的,在进行不同终端的数据比对时往往效果不好。那么,在利用训练数据对汽车终端初级神经网络和所述至少一个终端的初级神经网络进行训练的过程中,通过让不同终端的初级神经网络对采用相同数据进行训练的主神经网络的学习,以及不同终端的初级神经网络的相互学习得到的最后用于终端的轻量级的终端神经网络,可以在保证了自身终端上进行特征比对的准确性的同时,还可以保证通过不同终端的终端神经网络得到的图像特征是可进行对比的,解决了不同终端的数据之间无法进行比对的问题。
示例性地,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失,包括:
计算所述汽车终端初级神经网络与所述训练后的主神经网络之间的第一模型损失,所述至少一个终端的初级神经网络与所述训练后的主神经网络之间的第二模型损失,以及所述汽车终端初级神经网络和所述至少一个终端的初级神经网络中两两之间的第三模型损失;
根据所述第一模型损失、所述第二模型损失和所述第三模型损失计算所述整体训练损失。
示例性地,所述整体训练损失还可以包括:汽车终端初级神经网络自身训练损失,和/或所述至少一个终端的初级神经网络自身训练损失。
在一个实施例中,所述整体训练损失可以包括:所述第一模型损失、所述第二模型损失、所述第三模型损失、汽车终端初级神经网络自身训练损失以及所述至少一个终端的初级神经网络自身训练损失之和。
在一个实施例中,所述第一模型损失、所述第二模型损失、所述第三模型损失、汽车终端初级神经网络自身训练损失以及所述至少一个终端的初级神经网络自身训练损失还具有相同或不同的权重。可以理解,所述整体训练损失可以由所述第一模型损失、所述第二模型损失、所述第三模型损失、汽车终端初级神经网络自身训练损失以及所述至少一个终端的初级神经网络自身训练损失乘以各自的权重之后相加得到。
其中,在训练过程中,可以将训练后的主神经网络作为教师模型,所述汽车终端初级神经网络和所述至少一个终端的初级神经网络作为学生模型,通过让学生模型向教师模型进行学习(或靠近),以及学生模型之间的互相学习(或靠近),不断减少学生模型与教师模型之间的差异以及减少学生模型之间的差异,以达到学生模型与教师模型的性能接近或相同的程度,这样不仅实现了具有与教师模型相同性能的轻量级学生模型更适用于终端使用,也实现了使用不同的学生模型的终端得到的特征之间是可比的,因为不同的学生模型虽然采用不同的超参数,但是采用了相同的训练数据以及相同的教师模型,最终不同的学生模型之间所表现出的性能是接近或相同,如将同一图像数据输入不同的学生模型,虽然不同的学生模型的内部参数不同,但是对于同一图像数据的输出结果是接近或相同的,所以不同的学生模型之间所表现出的性能是接近或相同,更能保证特征比对时的准确性,从而保证整个识别过程的准确性。
示例性地,根据所述整体训练损失优化所述汽车终端初级神经网络得到所述汽车终端神经网络,包括:
将所述整体训练损失反馈至所述汽车终端初级神经网络;
所述汽车终端初级神经网络根据所述整体训练损失调整所述汽车终端的初级神经网络的权重参数,得到所述汽车终端神经网络。
示例性地,所述汽车用户识别方法200还可以包括:
在所述终端训练中,根据所述整体训练损失优化所述至少一个终端的初级神经网络得到所述至少一个终端的终端神经网络。
示例性地,根据所述整体训练损失优化所述至少一个终端的初级神经网络得到所述至少一个终端的终端神经网络,包括:
将所述整体训练损失反馈至所述至少一个终端的初级神经网络;所述至少一个终端的初级神经网络根据所述整体训练损失调整所述至少一个终端的初级神经网络的权重参数,得到所述至少一个终端的终端神经网络。
其中,在所述终端训练过程中,所述汽车终端初级神经网络和所述至少一个终端的初级神经网络在向训练后的主神经网络学习,整体训练损失包括所述汽车终端初级神经网络与所述训练后的主神经网络之间的第一模型损失,所述至少一个终端的初级神经网络与所述训练后的主神经网络之间的第二模型损失,以及所述汽车终端初级神经网络和所述至少一个终端的初级神经网络中两两之间的第三模型损失,所述第一模型损失、所述第二模型损失和第三模型损失之间的权重可以相同,也可以根据需要进行设置,在此不做限制。将整体训练损失反馈至所述汽车终端初级神经网络和所述至少一个终端的初级神经网络,对所述汽车终端初级神经网络和所述至少一个终端的初级神经网络进行不断优化,最终得到在性能上与高性能的训练后的主神经网络接近的轻量级终端神经网络,进一步保证了所述汽车终端和所述至少一个终端之间数据对比的准确性和可对比性。且所述汽车终端神经网络和所述至少一个终端的终端神经网络是在针对不同终端的最优超参数的神经网络结构的基础上得到,在保证至少一个终端之间数据对比的准确性和可对比性的同时,还能保证在所述汽车终端和所述至少一个终端的运算能力给定的前体下,充分利用和配适各自终端的运算能力,节约运算资源,提高运算效率,有利于保证后续人脸识别的准确性和运算速度。
在一个实施例中,所述训练后的主神经网络为卷积神经网络。
在一个实施例中,所述至少一个终端的终端神经网络为卷积神经网络。
在一个实施例中,所述汽车终端神经网络为卷积神经网络。
在一个实施例中,参见图3,图3示出了根据本发明实施例的汽两个终端的终端神经网络训练示例。如图3所示,以两个终端包括手机终端和汽车终端为例,两个终端神经网络的训练过程具体包括:
首先,利用训练数据对主卷积神经网络进行训练,得到训练后的主神经网络即神经网络大模型;以及,基于所述手机终端在已有的神经网络中搜索神经网络结构的最优超参数,得到所述手机终端的初级神经网络;基于所述汽车终端在已有的神经网络中搜索神经网络结构的最优超参数,得到所述汽车终端的初级神经网络;并采用所述训练数据对所述手机终端的初级神经网络和所述汽车终端的初级神经网络进行终端训练;
在所述终端训练中,基于所述手机终端的初级神经网络对图像数据进行特征提取,得到手机终端图像特征;基于所述汽车终端的初级神经网络对所述图像数据进行特征提取,得到汽车终端图像特征;基于所述神经网络大模型对所述图像数据进行特征提取,得到主模型图像特征;
接着,分别计算所述汽车终端图像特征与主模型图像特征之间的第一模型损失,以及所述汽车终端图像特征自身的损失即汽车终端损失;所述手机终端图像特征与主模型图像特征之间的第二模型损失,以及所述手机终端图像特征自身的损失即手机终端损失;所述手机终端图像特征和汽车终端图像特征之间的第三模型损失即相似性损失;
接着,根据手机终端损失、汽车终端损失、相似性损失、第一模型损失以及第二模型损失计算得到整体训练损失;并将所述整体训练损失反馈至所述手机终端的初级神经网络和所述汽车终端的初级神经网络,优化所述手机终端的初级神经网络和所述汽车终端的初级神经网络的权重参数,即通过所述终端训练过程的不断迭代以对手机终端的初级神经网络和汽车初级神经网络进行优化,得到手机终端的终端神经网络和汽车终端神经网络。
由此可知,手机终端的终端神经网络和汽车终端神经网络是在性能上与高性能的神经网络大模型接近的轻量级神经网络,保证了汽车终端和手机终端之间特征对比的准确性和可对比性。且手机终端的终端神经网络和汽车终端神经网络是分别在手机终端和汽车终端的最优超参数的神经网络结构的基础上得到,在保证多个终端之间数据对比的准确性和可对比性的同时,还能保证在手机终端和汽车终端的运算能力给定的前体下,充分利用和配适各自终端的运算能力,节约运算资源,提高运算效率,有利于保证后续人脸识别的准确性和运算速度。
需要说明的是,上述示例中的步骤顺序并不代表发明实施例中的步骤顺序,两个终端的终端神经网络的训练过程中的步骤顺序可以根据需要进行调整,在此不做限制例如,基于终端搜索最优超参数的神经网络结构与训练神经网络大模型之间的先后顺序可以互换或同时进行。
在一个实施例中,参见图4,图4示出了根据本发明实施例的多个终端的终端神经网络训练示例。如图4所示,以N个终端包括k个不同的手机终端和1个汽车终端为例,多个终端的终端神经网络的训练过程具体包括:
首先,利用训练数据对主神经网络进行训练,得到训练后的主神经网络即神经网络大模型;
以及,基于所述k个手机终端在已有的神经网络中搜索超参数最优的神经网络结构,得到每个手机终端的初级神经网络;基于所述汽车终端在已有的神经网络中搜索超参数最优的神经网络结构,得到所述汽车终端的初级神经网络;并采用所述训练数据对所述k个手机终端的初级神经网络和所述汽车终端初级神经网络进行终端训练;
在所述终端训练中,基于所述k个手机终端的初级神经网络对图像数据进行特征提取,得到k个手机终端图像特征;基于所述汽车终端初级神经网络对所述图像数据进行特征提取,得到汽车终端图像特征;基于所述神经网络大模型对所述图像数据进行特征提取,得到大模型图像特征;
接着,分别计算汽车终端图像特征与大模型图像特征之间的第一模型损失,以及所述汽车终端图像特征自身的损失即为汽车终端损失;所述k个手机终端图像特征和与大模型图像特征之间的第二模型损失,以及所述k个手机终端图像特征自身的损失即为k个手机终端损失;所述k个手机终端图像特征和汽车终端图像特征相互两两之间的第三模型损失即为相似性损失;
接着,根据k个手机终端损失、汽车终端损失、相似性损失、第一模型损失以及第二模型损失计算得到整体训练损失;并将所述整体训练损失反馈至所述k个手机终端的初级神经网络和所述汽车终端的初级神经网络,优化所述k个手机终端的初级神经网络和所述汽车终端初级神经网络的权重参数,,即通过所述终端训练过程的不断迭代以对k个手机终端的初级神经网络和汽车初级神经网络进行优化,得到k个手机终端的终端神经网络和汽车终端神经网络。
由此可知,k个手机终端的终端神经网络和汽车终端神经网络是在性能上与高性能的神经网络大模型接近的轻量级卷积神经网络,保证了所以终端之间数据对比的准确性和可对比性。且k个手机终端的终端神经网络和汽车终端神经网络是分别在k个手机终端和汽车终端的最优超参数的神经网络结构的基础上得到,在保证k个手机终端和汽车终端之间数据对比的准确性和可对比性的同时,还能保证在手机终端和汽车终端的运算能力给定的前体下,充分利用和配适各自终端的运算能力,节约运算资源,提高运算效率,有利于保证后续人脸识别的准确性和运算速度。
需要说明的是,上述示例中的步骤顺序并不代表发明实施例中的步骤顺序,多个终端的终端神经网络的训练过程中的步骤顺序可以根据需要进行调整,在此不做限制例如,基于终端搜索最优超参数的神经网络结构与训练神经网络大模型之间的先后顺序可以互换或同时进行。
在得到所述至少一个终端的终端神经网络之后,在对应的应用终端进行前向推理时,可以相应的同时提供多个SDK(software development kit,软件开发工具包),以保证充分利用和适配不同终端的运算能力。例如,以图3中的手机终端和汽车终端为例,可以在手机终端和汽车终端行前向推理时,同时提供两个SDK以保证充分利用和适配手机终端中处理芯片和汽车终端平台的运算能力。
在一个实施例中,参见图5,图5示出了本发明实施例的前向推理的示例。如图5所示,以手机终端和汽车终端的前向推理过程为例进行说明,所述前向推理过程具体包括:
首先,从手机终端SDK运行相应的程序,以及从汽车终端SDK运行相应的程序;
然后,将手机终端的图像数据A输入手机终端的终端神经网络得到图像数据A的A类图像特征;将汽车终端的图像数据B输入汽车终端神经网络得到图像数据B的B类图像特征,所述A类图像特征和B类图像特征即为相应的前向推理结果。而基于所述A类图像特征和B类图像特征可以得到整体图像特征,进而得到模型损失。
可以理解,其它多个终端与汽车终端的前向推理与上述过程相似,同样属于本发明所要求保护的范围。
根据本发明实施例,所述获取至少一个终端的数据底库中的人脸底库特征包括:采用加密形式获取所述人脸底库特征。
根据本发明实施例,所述汽车用户识别方法200还包括:
根据所述识别结果确定是否对汽车进行解锁,或所述汽车用户是否有权使用汽车。
示例性地,根据所述识别结果确定是否对汽车进行解锁,或所述汽车用户是否有权使用汽车,包括:
如果识别结果包括识别结果成功,则解锁汽车或所述汽车用户有权使用汽车;
如果所述识别结果包括识别结果失败,则不解锁汽车或所述汽车用户无权使用汽车。
示例性地,所述识别结果包括识别结果成功包括:
如果所述至少一个终端的人脸底库特征中,存在与所述实时人脸图像特征相匹配的目标人脸底库特征,则所述识别结果包括识别成功。
示例性地,所述识别结果包括识别结果失败包括:
如果所述至少一个终端的人脸底库特征中,不存在与所述实时人脸图像特征相匹配的目标人脸底库特征,则所述识别结果包括识别失败。
其中,所述目标人脸底库特征是指所述实时人脸图像特征在至少一个终端的数据底库中与人脸底库特征进行特征比对时,相似度最高的那张人脸底库特征。例如,如果所述实时人脸图像特征与人脸底库特征的相似度得分小于识别阈值,则说明所述至少一个终端的数据底库中不存在目标人脸底库特征,此时可以确定识别失败;如果相似度得分大于或等于识别阈值则说明所述至少一个终端的数据底库中存在目标人脸底库特征,此时可以确定识别成功。其中,识别阈值可以根据需要进行设置,如,相似度得分的满分为100分时,识别阈值可以设置为90分。
图6示出了根据本发明实施例的汽车用户识别装置600的示意性框图。如图6所示,根据本发明实施例的汽车用户识别装置600包括:
图像采集模块610,用于采集汽车用户的实时人脸图像;
特征提取模块620,用于将所述实时人脸图像输入汽车终端神经网络进行特征提取得到所述实时人脸图像特征;
图像获取模块630,用于获取至少一个终端的数据底库中的人脸底库特征;
特征比对模块640,用于基于所述实时人脸图像特征与所述至少一个终端的所述人脸底库特征进行特征比对,得到识别结果。
根据本申请实施例提供的装置,将采集的实时人脸图像进行特征提取得到的实时人脸图像特征,并与至少一个终端的数据底库中的数据进行比对,使得汽车用户的识别不再局限于仅能在汽车终端录入的数据底库中进行比对。因为受到汽车终端的如光线、角度、摄像头模组本身等客观条件的影响,在汽车终端录入的人脸图像/和或人脸图像特征成像质量一般或较差,人脸信息容易受到损失;而如手机、平板电脑、计算机等其他终端上的图像采集装置所采集到的人脸图像可以克服光线、角度、摄像头模组本身等客观条件对成像质量带来的负面影响,录入数据底库的人脸图像/和或人脸图像特征成像质量比较高,那么用这些成像质量高的终端录入的人脸图像/和或人脸图像特征与实时采集得到的人脸图像特征进行识别则可以提高人脸识别的准确度和速度。所以,本申请实施例提供的装置将在汽车终端采集并提取得到的实时人脸图像特征,不仅可以与汽车终端自身录入的数据底库的特征进行特征比对,还可以与至少一个其它终端录入的数据底库的特征进行比对,极大提高了汽车用户的人脸识别准确度和效率,提升了用户体验。例如,至少一个终端的数据底库可以包括由汽车终端录入的第一人脸图像和/或第一人脸图像特征,和由手机终端录入的第二人脸图像和/或第二人脸图像特征,其中,手机终端成像质量相对比汽车终端的成像质量要高,将汽车终端获取的实时人脸图像提取特征后与汽车终端和手机终端的数据底库进行比对,可以保证在相同计算能力下,人脸解锁或验证的通过率,降低误报风险。
示例性地,所述至少一个终端可以是设置在不同设备的图像采集装置,如摄像头、具有摄像头的手机、摄像机等。
根据本发明实施例,所述汽车用户识别装置600还进一步地包括:
数据库模块650,用于通过所述至少一个终端获取权限用户的图像信息,并基于所述权限用户的图像信息以建立所述至少一个终端的数据底库。
示例性地,所述建立所述至少一个终端的数据底库包括:获取包含权限用户的人脸的权限用户图像信息;对所述权限用户图像信息进行预处理后,生成对应的权限用户人脸图像;基于所述权限用户人脸图像提取特征得到权限用户人脸特征,并将所述权限用户人脸图像及其对应的权限用户人脸特征存储到人脸底库,或者将所述权限用户人脸特征存储到所述至少一个终端的数据底库。
示例性地,所述至少一个终端的数据底库可以根据单个权限用户或者多个权限用户分别建立,在多个权限用户的情况下,每个用户拥有对应自己权限的单独的脸部图像特征库。所述至少一个终端的数据底库中的所述权限用户人脸图像和/或对应的权限用户人脸特征可以称为人脸底图或人脸底库特征。
示例性地,所述权限用户图像信息包括单帧图像或连续的多帧图像或不连续的任意选定的多帧图像。
示例性地,所述权限用户人脸图像是通过对所述权限用户图像信息进行人脸检测和/或人脸跟踪处理所确定的包含有权限用户人脸的图像帧。具体的,可以通过诸如模板匹配、SVM(支持向量机)、神经网络等各种本领域中常用的人脸检测方法在包含目标人脸的起始图像帧中确定该目标人脸的大小和位置,随后基于目标人脸的颜色信息、局部特征、或运动信息等对该目标人脸进行跟踪,从而确定视频或非视频中包含有目标人脸的各帧图像。上述通过人脸检测和/或人脸跟踪确定包含有目标人脸的图像帧的处理是图像处理领域中的常见处理,此处不再对其进行详细描述。
需要说明的是,所述至少一个终端中的每个终端均可以通过各自终端获取权限用户的图像信息,并基于所述权限用户的图像信息以建立各自终端的数据底库。
根据本发明实施例,所述汽车用户识别装置600还包括模型模块660,所述模型模块660包括:
训练模块661,用于利用训练数据对主神经网络进行训练得到训练后的主神经网络,以及利用所述训练数据分别对汽车终端初级神经网络和所述至少一个终端的初级神经网络进行终端训练;
损失计算模块662,用于在所述终端训练中,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失;
优化模块663,用于根据所述整体训练损失优化所述汽车终端初级神经网络得到所述汽车终端神经网络。
其中,在大规模的机器学习领域中为了获得较好的性能常常会训练很复杂的模型,因为不需要考虑实时性、计算量等因素。虽然这类模型很复杂,但是其包含的信息非常全面,得到的结果准确率很高。主神经网络可以是这样一个高性能的通过大量数据训练得到的大规模神经网络。但是,在将主神经网络应用到终端时就需要考虑神经网络的大小、计算复杂度、速度等诸多因素,因此我们需要将训练好的主神经网络中的“信息”迁移到一个结构更为简单的轻量级神经网络中,或者通过简单的轻量级神经网络去学习复杂的主神经网络中“信息”。一般来说,训练后的主神经网络具有强大的能力和出色的处理性能,而轻量级神经网络的结构更为紧凑,通过对复杂的主神经网络的学习,轻量级神经网络可以优化为性能接近或等同于训练后的主神经网络的紧凑模型,更适合部署于终端。
而对于终端来说,由于硬件环境和/或软件环境不同,不同的终端设备的计算能力等各方面性能不同,那么对于神经网络结构的友好程度也不同,也就是说,采用相同超参数(所谓超参数,就是机器学习模型里面的框架参数,如聚类方法中类的个数等)的神经网络用于不同的终端设备并不能充分利用或适配每个终端设备的运算能力,可能会导致终端设备的资源浪费或运算过负荷。基于上述考虑,可以在每个终端上搜索得到各自的最优超参数的神经网络,即为每个终端的初级神经网络。基于每个终端的初级神经网络进行数据训练,则可以实现在给定的终端设备算力下,基于不同终端设备的最优神经网络结构进行数据训练,尽最大可能利用终端设备的运算力,提升后续人脸识别的准确性。
示例性地,所述模型模块660还包括:
模型搜索模块664,用于搜索汽车终端的神经网络的最优超参数,得到所述汽车终端初级神经网络;和/或,
搜索所述至少一个终端的神经网络的最优超参数,得到所述至少一个终端的初级神经网络。
在一个实施例中,以手机终端和汽车终端为例,手机终端和汽车终端的硬件和软件环境均不同,运算能力不同。对于手机终端可以采用模型搜索技术得到手机终端下的神经网络的最优超参数,即得到手机终端的初级神经网络,同样的,对于汽车终端也可以采用现有的模型搜索技术得到汽车终端下的神经网络的最优超参数,即得到汽车终端初级神经网络。这样,在手机终端下的初级神经网络和汽车终端初级神经网络的基础上,采用训练数据进行训练并优化,可以得到相应的手机终端的终端神经网络和汽车终端神经网络。因为手机终端的终端神经网络和汽车终端神经网络都是在各自终端的最优超参数的神经网络结构下训练得到,所以手机终端的终端神经网络和汽车终端神经网络分别与各自终端的运算能力相适应,可以充分利用和配适各自终端的运算能力,节约运算资源,提高运算效率,有利于保证后续人脸识别的准确性和运算速度。
其中,需要说明的是,应了解本发明不受具体采用的模型搜索技术的限制,无论是现有的模型搜索技术还是将来开发的模型搜索技术,都可以应用于根据本发明实施例的方法中,并且也应包括在本发明的保护范围内。
此外,由于不同终端的初级神经网络的网络结构表达能力是不同的,训练得到的相应的初级神经网络中单位长度特征所蕴含的信息也是有偏差的,在进行不同终端的数据比对时往往效果不好。那么,在利用训练数据对汽车终端初级神经网络和所述至少一个终端的初级神经网络进行训练的过程中,通过让不同终端的初级神经网络对采用相同数据进行训练的主神经网络的学习,以及不同终端的初级神经网络的相互学习得到的最后用于终端的轻量级的终端神经网络,可以在保证了自身终端上进行特征比对的准确性的同时,还可以保证通过不同终端的终端神经网络得到的图像特征是可进行对比的,解决了不同终端的数据之间无法进行比对的问题。
示例性地,所述损失计算模块622包括:
第一计算模块6221,用于计算所所述汽车终端初级神经网络与所述训练后的主神经网络之间的第一模型损失;
第二计算模块6222,用于计算所述至少一个终端的初级神经网络与所述训练后的主神经网络之间的第二模型损失;
第三计算模块6223,用于计算所述汽车终端初级神经网络和所述至少一个终端的初级神经网络中两两之间的第三模型损失;
整体计算模块6224,根据所述第一模型损失、所述第二模型损失和所述第三模型损失计算整体训练损失。
示例性地,所述整体训练损失还可以包括:汽车终端初级神经网络自身训练损失,和/或所述至少一个终端的初级神经网络自身训练损失。
在一个实施例中,所述整体训练损失可以包括:所述第一模型损失、所述第二模型损失、所述第三模型损失、汽车终端初级神经网络自身训练损失以及所述至少一个终端的初级神经网络自身训练损失之和。
在一个实施例中,所述第一模型损失、所述第二模型损失、所述第三模型损失、汽车终端初级神经网络自身训练损失以及所述至少一个终端的初级神经网络自身训练损失还具有相同或不同的权重。可以理解,所述整体训练损失可以由所述第一模型损失、所述第二模型损失、所述第三模型损失、汽车终端初级神经网络自身训练损失以及所述至少一个终端的初级神经网络自身训练损失乘以各自的权重之后相加得到。
其中,在终端训练过程中,可以将训练后的主神经网络作为教师模型,所述汽车终端初级神经网络和所述至少一个终端的初级神经网络作为学生模型,通过让学生模型向教师模型进行学习(或靠近),以及学生模型之间的互相学习(或靠近),不断减少学生模型与教师模型之间的差异以及减少学生模型之间的差异,以达到学生模型与教师模型的性能接近或相同的程度,这样不仅实现了具有与教师模型相同性能的轻量级学生模型更适用于终端使用,也实现了使用不同的学生模型的终端得到的特征之间是可比的,因为不同的学生模型虽然采用不同的超参数,但是采用了相同的训练数据以及相同的教师模型,最终不同的学生模型之间所表现出的性能是接近或相同,如将同一图像数据输入不同的学生模型,虽然不同的学生模型的内部参数不同,但是对于同一图像数据的输出结果是接近或相同的,所以不同的学生模型之间所表现出的性能是接近或相同,更能保证特征比对时的准确性,从而保证整个识别过程的准确性。
示例性地,所述优化模块663包括:
反馈模块6631,用于将所述整体训练损失反馈至所述汽车终端初级神经网络;
参数调整模块6632,用于所述汽车终端初级神经网络根据所述整体训练损失调整所述汽车终端的初级神经网络的权重参数,得到所述汽车终端神经网络。
示例性地,所述优化模块663还可以用于:
在所述终端训练中,根据所述整体训练损失优化所述至少一个终端的初级神经网络得到所述至少一个终端的终端神经网络。
示例性地,所述优化模块663根据所述整体训练损失优化所述至少一个终端的初级神经网络得到所述至少一个终端的终端神经网络,包括:
将所述整体训练损失反馈至所述至少一个终端的初级神经网络;所述至少一个终端的初级神经网络根据所述整体训练损失调整所述至少一个终端的初级神经网络的权重参数,得到所述至少一个终端的终端神经网络。
其中,在所述终端训练过程中,所述汽车终端初级神经网络和所述至少一个终端的初级神经网络在向训练后的主神经网络学习,整体训练损失包括所述汽车终端初级神经网络与所述训练后的主神经网络之间的第一模型损失,所述至少一个终端的初级神经网络与所述训练后的主神经网络之间的第二模型损失,以及所述汽车终端初级神经网络和所述至少一个终端的初级神经网络中两两之间的第三模型损失,所述第一模型损失、所述第二模型损失和第三模型损失之间的权重可以相同,也可以根据需要进行设置,在此不做限制。将整体训练损失反馈至所述汽车终端初级神经网络和所述至少一个终端的初级神经网络,对所述汽车终端初级神经网络和所述至少一个终端的初级神经网络进行不断优化,最终得到在性能上与高性能的训练后的主神经网络接近的轻量级终端神经网络,进一步保证了所述汽车终端和所述至少一个终端之间数据对比的准确性和可对比性。且所述汽车终端神经网络和所述至少一个终端的终端神经网络是在针对不同终端的最优超参数的神经网络结构的基础上得到,在保证至少一个终端之间数据对比的准确性和可对比性的同时,还能保证在所述汽车终端和所述至少一个终端的运算能力给定的前体下,充分利用和配适各自终端的运算能力,节约运算资源,提高运算效率,有利于保证后续人脸识别的准确性和运算速度。
在一个实施例中,所述训练后的主神经网络为卷积神经网络。
在一个实施例中,所述至少一个终端的终端神经网络为卷积神经网络。
在一个实施例中,所述汽车终端神经网络为卷积神经网络。
在一个实施例中,在得到所述多个终端的终端神经网络之后,在相应的应用终端进行前向推理时,可以相应的同时提供多个SDK(software development kit,软件开发工具包),以保证充分利用和适配不同终端的运算能力。例如,以图3中的手机终端和汽车终端为例,可以在手机终端和汽车终端行前向推理时,同时提供两个SDK以保证充分利用和适配手机终端中处理芯片和汽车终端平台的运算能力。
根据本发明实施例,图像获取模块630获取至少一个终端的数据底库中的人脸底库特征还可以包括:采用加密形式获取所述人脸底库特征。
根据本发明实施例,所述汽车用户识别装置600还包括:
解锁模块670,用于根据所述识别结果确定是否对汽车进行解锁。
根据本发明实施例,所述汽车用户识别装置600还包括:
验证模块680,用于根据所述识别结果确定所述汽车用户是否有权使用汽车。
示例性地,解锁模块670根据所述识别结果确定是否对汽车进行解锁,或验证模块680所述汽车用户是否有权使用汽车,包括:
如果所述识别结果包括识别结果成功,则解锁汽车或所述汽车用户有权使用汽车;
如果所述识别结果包括识别结果失败,则不解锁汽车或所述汽车用户无权使用汽车。
示例性地,所述识别结果包括识别结果成功包括:
如果所述至少一个终端的人脸底库特征中,存在与所述实时人脸图像特征相匹配的目标人脸底库特征,则所述识别结果包括识别成功。
示例性地,所述识别结果包括识别结果失败包括:
如果所述至少一个终端的人脸底库特征中,不存在与所述实时人脸图像特征相匹配的目标人脸底库特征,则所述识别结果包括识别失败。
其中,所述目标人脸底库特征是指所述实时人脸图像特征在至少一个终端的数据底库中与人脸底库特征进行特征比对时,相似度最高的那张人脸底库特征。例如,如果所述实时人脸图像特征与人脸底库特征的相似度得分小于识别阈值,则说明所述至少一个终端的数据底库中不存在目标人脸底库特征,此时可以确定识别失败;如果相似度得分大于或等于识别阈值则说明所述至少一个终端的数据底库中存在目标人脸底库特征,此时可以确定识别成功。其中,识别阈值可以根据需要进行设置,如,相似度得分的满分为100分时,识别阈值可以设置为90分。
由此可知,根据本发明实施例的汽车用户识别装置,通过对不同的终端采用超参数最优的神经网络进行训练,并利用相同数据训练得到的高性能神经网络进行优化得到汽车终端神经网络,实现基于多个终端录入底库的特征比对,提升了用户识别的准确性和识别速度,从而保证了汽车用户的识别体验。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
图7示出了根据本发明实施例的汽车用户识别系统700的示意性框图。汽车用户识别系统700包括图像传感器710、存储装置720、以及处理器730。
图像传感器710用于采集图像数据。
所述存储装置720存储用于实现根据本发明实施例的汽车用户识别方法中的相应步骤的程序代码。
所述处理器730用于运行所述存储装置720中存储的程序代码,以执行根据本发明实施例的汽车用户识别方法的相应步骤,并且用于实现根据本发明实施例的汽车用户识别装置中的图像采集模块610,特征提取模块620,图像获取模块630和特征比对模块640。
此外,根据本发明实施例,还提供了一种存储介质,在所述存储介质上存储了程序指令,在所述程序指令被计算机或处理器运行时用于执行本发明实施例的汽车用户识别方法的相应步骤,并且用于实现根据本发明实施例的汽车用户识别装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合,例如一个计算机可读存储介质包含用于随机地生成动作指令序列的计算机可读的程序代码,另一个计算机可读存储介质包含用于进行汽车用户识别的计算机可读的程序代码。
在一个实施例中,所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的汽车用户识别装置的各个功能模块,并且/或者可以执行根据本发明实施例的汽车用户识别方法。
根据本发明实施例的汽车用户识别系统中的各模块可以通过根据本发明实施例的汽车用户识别的电子设备的处理器运行在存储器中存储的计算机程序指令来实现,或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。
根据本发明实施例的汽车用户识别方法、装置、系统以及存储介质,通过对不同的终端采用超参数最优的神经网络进行训练,并利用相同数据训练得到的高性能神经网络进行优化得到汽车终端神经网络,实现基于多个终端录入底库的特征比对,提升了用户识别的准确性和识别速度,从而保证了汽车用户的识别体验。
尽管这里已经参考附图描述了示例实施例,应理解上述示例实施例仅仅是示例性的,并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改,而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个设备,或一些特征可以忽略,或不执行。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该本发明的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如相应的权利要求书所反映的那样,其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域的技术人员可以理解,除了特征之间相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的物品分析设备中的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述,仅为本发明的具体实施方式或对具体实施方式的说明,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。

Claims (8)

1.一种汽车用户识别方法,其特征在于,所述方法包括:
采集汽车用户的实时人脸图像;
将所述实时人脸图像输入汽车终端神经网络进行特征提取得到所述实时人脸图像特征;
获取至少一个终端的数据底库中的人脸底库特征;
基于所述实时人脸图像特征与所述至少一个终端的所述人脸底库特征进行特征比对,得到识别结果;
还包括利用训练数据对主神经网络进行训练得到训练后的主神经网络,以及利用所述训练数据分别对汽车终端初级神经网络和所述至少一个终端的初级神经网络进行终端训练;
在所述终端训练中,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失;并根据所述整体训练损失优化所述汽车终端初级神经网络得到所述汽车终端神经网络;
所述整体训练损失包括:汽车终端初级神经网络自身训练损失,和/或所述至少一个终端的初级神经网络自身训练损失;
所述方法还包括:
通过汽车终端搜索所述汽车终端的神经网络的最优超参数得到所述汽车终端的最优超参数的神经网络,即为所述汽车终端初级神经网络;和/或,
通过所述至少一个终端搜索所述至少一个终端的神经网络的最优超参数得到所述至少一个终端的最优超参数的神经网络,即为所述至少一个终端的初级神经网络。
2.如权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述识别结果确定是否对汽车进行解锁,或所述汽车用户是否有权使用汽车。
3.如权利要求1所述的方法,其特征在于,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失,包括:
计算所述汽车终端初级神经网络与所述训练后的主神经网络之间的第一模型损失,所述至少一个终端的初级神经网络与所述训练后的主神经网络之间的第二模型损失,以及所述汽车终端初级神经网络和所述至少一个终端的初级神经网络中两两之间的第三模型损失;
根据所述第一模型损失、所述第二模型损失和所述第三模型损失计算所述整体训练损失。
4.如权利要求1所述的方法,其特征在于,所述至少一个终端包括:至少一个手机终端,至少一个平板电脑终端,和/或至少一个计算机终端。
5.如权利要求1所述的方法,其特征在于,所述获取至少一个终端的数据底库中的人脸底库特征包括:采用加密形式获取所述人脸底库特征。
6.一种汽车用户识别装置,其特征在于,所述装置包括:
图像采集模块,用于采集汽车用户的实时人脸图像;
特征提取模块,用于将所述实时人脸图像输入汽车终端神经网络进行特征提取得到所述实时人脸图像特征;
图像获取模块,用于获取至少一个终端的数据底库中的人脸底库特征;
特征比对模块,用于基于所述实时人脸图像特征与所述至少一个终端的所述人脸底库特征进行特征比对,得到识别结果;
还包括模型模块,所述模型模块包括:
训练模块,用于利用训练数据对主神经网络进行训练得到训练后的主神经网络,以及利用所述训练数据分别对汽车终端初级神经网络和所述至少一个终端的初级神经网络进行终端训练;
损失计算模块,用于在所述终端训练中,计算针对所述汽车终端初级神经网络、所述至少一个终端的初级神经网络和所述训练后的主神经网络的整体训练损失;
优化模块,用于根据所述整体训练损失优化所述汽车终端初级神经网络得到所述汽车终端神经网络;
所述整体训练损失包括:汽车终端初级神经网络自身训练损失,和/或所述至少一个终端的初级神经网络自身训练损失;
还包括模型搜索模块,用于搜索汽车终端的神经网络的最优超参数得到所述汽车终端的最优超参数的神经网络,即为所述汽车终端初级神经网络;和/或,
搜索所述至少一个终端的神经网络的最优超参数得到所述至少一个终端的最优超参数的神经网络,即为所述至少一个终端的初级神经网络。
7.一种汽车用户识别系统,包括存储器、处理器及存储在所述存储器上且在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至5中任一项所述方法的步骤。
8.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被计算机执行时实现权利要求1至5中任一项所述方法的步骤。
CN201910424087.8A 2019-05-21 2019-05-21 一种汽车用户识别方法、装置、系统及存储介质 Active CN110298240B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910424087.8A CN110298240B (zh) 2019-05-21 2019-05-21 一种汽车用户识别方法、装置、系统及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910424087.8A CN110298240B (zh) 2019-05-21 2019-05-21 一种汽车用户识别方法、装置、系统及存储介质

Publications (2)

Publication Number Publication Date
CN110298240A CN110298240A (zh) 2019-10-01
CN110298240B true CN110298240B (zh) 2022-05-06

Family

ID=68026967

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910424087.8A Active CN110298240B (zh) 2019-05-21 2019-05-21 一种汽车用户识别方法、装置、系统及存储介质

Country Status (1)

Country Link
CN (1) CN110298240B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112733578B (zh) * 2019-10-28 2024-05-24 普天信息技术有限公司 车辆重识别方法及系统
CN111027490B (zh) * 2019-12-12 2023-05-30 腾讯科技(深圳)有限公司 人脸属性识别方法及装置、存储介质
CN111241992B (zh) * 2020-01-08 2024-02-20 科大讯飞股份有限公司 人脸识别模型构建方法、识别方法、装置、设备及存储介质
CN113837374A (zh) * 2020-06-23 2021-12-24 中兴通讯股份有限公司 神经网络的生成方法、设备及计算机可读存储介质
CN113139488B (zh) * 2021-04-29 2024-01-12 北京百度网讯科技有限公司 训练分割神经网络的方法及装置
CN113724740B (zh) * 2021-08-30 2024-03-08 中国科学院声学研究所 音频事件检测模型训练方法及装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108875341A (zh) * 2018-05-24 2018-11-23 北京旷视科技有限公司 一种人脸解锁方法、装置、系统及计算机存储介质
CN109086871A (zh) * 2018-07-27 2018-12-25 北京迈格威科技有限公司 神经网络的训练方法、装置、电子设备和计算机可读介质
CN109241888A (zh) * 2018-08-24 2019-01-18 北京旷视科技有限公司 神经网络训练与对象识别方法、装置和系统及存储介质
CN109344968A (zh) * 2018-10-10 2019-02-15 郑州云海信息技术有限公司 一种神经网络的超参数处理的方法及装置
CN109410924A (zh) * 2017-08-14 2019-03-01 三星电子株式会社 识别方法和识别设备
CN109670436A (zh) * 2018-12-13 2019-04-23 北京旷视科技有限公司 车辆驾驶人员身份验证方法、装置及电子设备
CN109711945A (zh) * 2018-12-28 2019-05-03 深圳市元征科技股份有限公司 一种车辆共享方法及相关装置
CN109816116A (zh) * 2019-01-17 2019-05-28 腾讯科技(深圳)有限公司 机器学习模型中超参数的优化方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11775850B2 (en) * 2016-01-27 2023-10-03 Microsoft Technology Licensing, Llc Artificial intelligence engine having various algorithms to build different concepts contained within a same AI model

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109410924A (zh) * 2017-08-14 2019-03-01 三星电子株式会社 识别方法和识别设备
CN108875341A (zh) * 2018-05-24 2018-11-23 北京旷视科技有限公司 一种人脸解锁方法、装置、系统及计算机存储介质
CN109086871A (zh) * 2018-07-27 2018-12-25 北京迈格威科技有限公司 神经网络的训练方法、装置、电子设备和计算机可读介质
CN109241888A (zh) * 2018-08-24 2019-01-18 北京旷视科技有限公司 神经网络训练与对象识别方法、装置和系统及存储介质
CN109344968A (zh) * 2018-10-10 2019-02-15 郑州云海信息技术有限公司 一种神经网络的超参数处理的方法及装置
CN109670436A (zh) * 2018-12-13 2019-04-23 北京旷视科技有限公司 车辆驾驶人员身份验证方法、装置及电子设备
CN109711945A (zh) * 2018-12-28 2019-05-03 深圳市元征科技股份有限公司 一种车辆共享方法及相关装置
CN109816116A (zh) * 2019-01-17 2019-05-28 腾讯科技(深圳)有限公司 机器学习模型中超参数的优化方法及装置

Also Published As

Publication number Publication date
CN110298240A (zh) 2019-10-01

Similar Documents

Publication Publication Date Title
CN110298240B (zh) 一种汽车用户识别方法、装置、系统及存储介质
CN111797893B (zh) 一种神经网络的训练方法、图像分类系统及相关设备
US11455807B2 (en) Training neural networks for vehicle re-identification
CN109101602B (zh) 图像检索模型训练方法、图像检索方法、设备及存储介质
CN111062871B (zh) 一种图像处理方法、装置、计算机设备及可读存储介质
US10387804B2 (en) Implementations of, and methods of use for a pattern memory engine applying associative pattern memory for pattern recognition
CN111639968B (zh) 轨迹数据处理方法、装置、计算机设备以及存储介质
CN108875487B (zh) 行人重识别网络的训练及基于其的行人重识别
CN113516227B (zh) 一种基于联邦学习的神经网络训练方法及设备
CN109241888B (zh) 神经网络训练与对象识别方法、装置和系统及存储介质
JP2022521038A (ja) 顔認識方法、ニューラルネットワークのトレーニング方法、装置及び電子機器
CN113065635A (zh) 一种模型的训练方法、图像增强方法及设备
CN108491827A (zh) 一种车辆检测方法、装置及存储介质
CN112487217A (zh) 跨模态检索方法、装置、设备及计算机可读存储介质
CN115512005A (zh) 一种数据处理方法及其装置
CN113435568A (zh) 计算机实施的用于训练神经网络的方法和电子系统
CN113254491A (zh) 一种信息推荐的方法、装置、计算机设备及存储介质
CN113177538A (zh) 一种视频循环识别方法、装置、计算机设备及存储介质
CN115238909A (zh) 一种基于联邦学习的数据价值评估方法及其相关设备
CN108875506B (zh) 人脸形状点跟踪方法、装置和系统及存储介质
CN113610228B (zh) 神经网络模型的构建方法及装置
CN113762331A (zh) 关系型自蒸馏方法、装置和系统及存储介质
CN117132950A (zh) 一种车辆追踪方法、系统、设备及存储介质
CN116824284A (zh) 一种图像处理方法以及相关设备
CN115841605A (zh) 目标检测网络训练与目标检测方法、电子设备、存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant