CN110555334B - 人脸特征确定方法、装置、存储介质及电子设备 - Google Patents
人脸特征确定方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN110555334B CN110555334B CN201810542324.6A CN201810542324A CN110555334B CN 110555334 B CN110555334 B CN 110555334B CN 201810542324 A CN201810542324 A CN 201810542324A CN 110555334 B CN110555334 B CN 110555334B
- Authority
- CN
- China
- Prior art keywords
- image
- target
- face
- determining
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及一种人脸特征确定方法、装置、存储介质及电子设备,应用于GPU,该方法包括:获取具有RGB格式的目标图像;根据目标图像,确定资源使用信息,资源使用信息包括进行目标图像处理的资源复用关系以及进行目标图像处理所需的固定资源;根据资源使用信息,对目标图像进行人脸检测和关键点检测,确定目标图像中的人脸特征信息,人脸特征信息包括:人脸特征向量和人脸特征向量对应的目标位置。整个人脸特征确定过程主要在GPU中完成,因此,能够减小GPU与CPU间的切换和交互,提高运行效率。
Description
技术领域
本公开涉及电子技术领域,具体地,涉及一种人脸特征确定方法、装置、存储介质及电子设备。
背景技术
作为一种重要的生物特征识别技术,人脸识别技术被广泛应用于金融、国家安全、司法、教育等领域。基于深度学习的人脸识别系统部署一般配备有较高的硬件配置,特别是GPU(英文:Graphics Processing Unit,中文:图形处理器),以保证能够满足在实际应用中对实时性的要求。现有技术中,服务器端能够实现完整的人脸检测、关键点检测和人脸特征提取,但通常各个处理子模块是相互独立的,仅将网络模型传播部分放到GPU执行,因此会增加GPU与CPU(英文:Central Processing Unit,中文:中央处理器)之间交互,同时需要GPU与CPU之间要进行切换,降低了GPU的利用率。
发明内容
本公开的目的是提供一种能够提高GPU利用率,降低GPU资源的占用的人脸特征确定方法、装置、存储介质及电子设备。
根据本公开实施例的第一方面,提供一种人脸特征确定方法,应用于GPU,所述方法包括:
获取具有RGB格式的目标图像;
根据所述目标图像,确定资源使用信息,所述资源使用信息包括进行所述目标图像处理的资源复用关系以及进行所述目标图像处理所需的固定资源;
根据所述资源使用信息,对所述目标图像进行人脸检测和关键点检测,确定所述目标图像中的人脸特征信息,所述人脸特征信息包括:人脸特征向量和所述人脸特征向量对应的目标位置。
可选的,所述获取具有RGB格式的目标图像,包括:
当待处理图像为非RGB格式时,对所述待处理图像进行格式转换,生成RGB格式的所述待处理图像,作为待处理标准图像;
当所述待处理标准图像存储在本地数据库或者远程数据库时,将所述待处理标准图像拷贝至所述GPU上;
当所述待处理标准图像存储在所述GPU时,将所述待处理标准图像作为所述目标图像。
可选的,所述根据所述目标图像,确定资源使用信息,包括:
根据所述目标图像,确定所述固定资源,其中,所述固定资源包括:所述目标图像所占用的资源、进行所述目标图像处理的网络模型的权重所占用的资源,所述网络模型中包括人脸检测网络、用于关键点确定的回归网络和进行人脸特征精确提取的识别网络;
根据所述目标图像所占用的资源,确定所述网络模型的资源信息,所述网络模型的资源信息包括:所述网络模型的不同层的资源需求量以及所述网络模型的不同层所使用的资源节点以及所释放的资源节点;
根据所述网络模型的资源信息,确定所述资源复用关系。
可选的,所述根据所述资源使用信息,对所述目标图像进行人脸检测和关键点检测,确定所述目标图像中的人脸特征信息,包括:
对所述目标图像进行所述人脸检测和所述关键点检测,利用所述人脸检测网络和所述回归网络确定所述目标图像中的目标人脸框和关键点位置;
根据所述目标人脸框和所述关键点位置,利用所述识别网络通过归一化处理确定所述人脸特征信息。
可选的,所述人脸检测网络包括用于确定人脸框的确定网络和用于对人脸框进行精确分类的分类网络;所述对所述目标图像进行所述人脸检测和所述关键点检测,利用所述人脸检测网络和所述回归网络确定所述目标图像中的目标人脸框和关键点位置,包括:
将根据所述目标图像建立的图像金字塔拼接成超平面集;
对所述图像金字塔拼接成的超平面集进行归一化处理;
根据归一化处理后的所述超平面集,通过所述确定网络确定所述目标人脸框的位置;
根据所述目标人脸框的位置,利用非极大值抑制法,对所述归一化处理后的超平面集中的各层人脸图像进行处理,通过所述分类网络确定所述目标人脸框;
将所述目标人脸框通过图像放缩处理以及所述归一化处理,再分批次输入所述回归网络,确定所述关键点位置。
可选的,所述根据所述目标人脸框和所述关键点位置,利用所述识别网络通过归一化处理确定所述人脸特征,包括:
根据所述目标人脸框和所述关键点位置,通过水平校正,确定具有预设规格的目标人脸图像;
将所述目标人脸图像进行归一化处理后,分批次输入所述识别网络中,确定所述目标图像中的所述人脸特征向量和所述人脸特征向量对应的目标位置。
根据本公开实施例的第二方面,提供一种人脸特征确定装置,应用于GPU,所述装置包括:
图像获取模块,用于获取具有RGB格式的目标图像;
资源确定模块,用于根据所述目标图像,确定资源使用信息,所述资源使用信息包括进行所述目标图像处理的资源复用关系以及进行所述目标图像处理所需的固定资源;
特征确定模块,用于根据所述资源使用信息,对所述目标图像进行人脸检测和关键点检测,确定所述目标图像中的人脸特征信息,所述人脸特征信息包括:人脸特征向量和所述人脸特征向量对应的目标位置。
可选的,所述图像获取模块,包括:
格式转换子模块,用于当待处理图像为非RGB格式时,对所述待处理图像进行格式转换,生成RGB格式的所述待处理图像,作为待处理标准图像;
图像拷贝子模块,用于当所述待处理标准图像存储在本地数据库或者远程数据库时,将所述待处理标准图像拷贝至所述GPU上;
图像确定子模块,用于当所述待处理标准图像存储在所述GPU时,将所述待处理标准图像作为所述目标图像。
可选的,所述资源确定模块,用于:
根据所述目标图像,确定所述固定资源,所述固定资源包括:所述目标图像所占用的资源、进行所述目标图像处理的网络模型的权重所占用的资源,所述网络模型中包括人脸检测网络、用于关键点确定的回归网络和进行人脸特征精确提取的识别网络;
根据所述目标图像所占用的资源,确定所述网络模型的资源信息,所述网络模型的资源信息包括:所述网络模型的不同层的资源需求量以及所述网络模型的不同层所使用的资源节点以及所释放的资源节点;
根据所述网络模型的资源信息,确定所述资源复用关系。
可选的,所述特征确定模块,包括:
第一确定子模块,用于对所述目标图像进行所述人脸检测和所述关键点检测,利用所述人脸检测网络和所述回归网络确定所述目标图像中的目标人脸框和关键点位置;
第二确定子模块,用于根据所述目标人脸框和所述关键点位置,利用所述识别网络通过归一化处理确定所述人脸特征信息。
可选的,所述人脸检测网络包括用于确定人脸框的确定网络和用于对人脸框进行精确分类的分类网络;所述第一确定子模块,用于:
将根据所述目标图像建立的图像金字塔拼接成超平面集;
对所述图像金字塔拼接成的超平面集进行归一化处理;
根据归一化处理后的所述超平面集,通过所述确定网络确定所述目标人脸框的位置;
根据所述目标人脸框的位置,利用非极大值抑制法,对所述归一化处理后的超平面集中的各层人脸图像进行处理,通过所述分类网络确定所述目标人脸框;
将所述目标人脸框通过图像放缩处理以及所述归一化处理,再分批次输入所述回归网络,确定所述关键点位置。
可选的,所述第二确定子模块,用于:
根据所述目标人脸框和所述关键点位置,通过水平校正,确定具有预设规格的目标人脸图像;
将所述目标人脸图像进行归一化处理后,分批次输入所述识别网络中,确定所述目标图像中的所述人脸特征向量和所述人脸特征向量对应的目标位置。
根据本公开实施例的第三方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面中所述方法的步骤。
根据本公开实施例的第四方面,提供一种电子设备,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现第一方面中所述方法的步骤。
根据本公开所提供的技术方案,通过获取具有RGB格式的目标图像;根据所述目标图像,确定资源使用信息,所述资源使用信息包括进行所述目标图像处理的资源复用关系以及进行所述目标图像处理所需的固定资源;根据所述资源使用信息,对所述目标图像进行人脸检测和关键点检测,确定所述目标图像中的人脸特征信息,所述人脸特征信息包括:人脸特征向量和所述人脸特征向量对应的目标位置。能够实现从图像输入到最终的人脸特征信息的输出,将主要过程和计算放在GPU中执行,进而减小GPU与CPU间的切换和交互,提高运行效率。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本公开的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本公开,但并不构成对本公开的限制。在附图中:
图1是根据一示例性实施例示出的一种人脸特征确定方法的流程图;
图2是根据一示例性实施例示出的另一种人脸特征确定方法的流程图;
图3是根据一示例性实施例示出的又一种人脸特征确定方法的流程图;
图4是根据一示例性实施例示出的又一种人脸特征确定方法的流程图;
图5是根据一示例性实施例示出的又一种人脸特征确定方法的流程图;
图6是根据一示例性实施例示出的一种人脸特征确定装置的框图;
图7是根据一示例性实施例示出的一种图像获取模块的框图;
图8是根据一示例性实施例示出的一种特征确定模块的框图;
图9是根据一示例性实施例示出的一种电子设备的框图。
具体实施方式
以下结合附图对本公开的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本公开,并不用于限制本公开。
图1是根据一示例性实施例示出的一种人脸特征确定方法的流程图,如图1所示,该方法应用于GPU,该方法包括:
步骤101,获取具有RGB格式的目标图像。
示例地,本公开所提供的技术方案,将人脸特征确定整个过程中的大部分放在GPU上执行。进行人脸特征确定之前,首先获取符合要求的目标图像,也就是RGB(英文:RedGreen Blue;中文:红绿蓝)格式的目标图像。
步骤102,根据目标图像,确定资源使用信息。
其中,资源使用信息包括进行目标图像处理的资源复用关系以及进行目标图像处理所需的固定资源。
示例地,根据步骤101所确定的目标图像,进一步确定用于图像处理的资源使用信息,其中固定资源也就是GPU的显存资源,包括:进行目标图像处理的网络模型和目标图像所占中的资源,以及网络模型中的资源复用关系。由于处理目标图像的网络模型是通过深度学习训练得到的模型,每层处理的结果也就是该层的输出是作为下一层的输入数据,因此通过资源复用能够降低资源的使用量,即利用网络模型推理层层串行向后执行的机制,在前面的层执行完成后,其用于输出结果使用的资源就不再需要,因此就可以用于后面的层输出使用,由于某层输出的数据需要传给后面多个层,因此只有在等到后面这多个层都执行完,才能对之前层的输出所使用的资源进行释放,在初始化处理时,需要对这个资源复用关系进行确定,例如申请多少资源、每个资源的大小、网络模型中每层网络对应的资源等。因此根据该资源使用信息,进行下面步骤103的操作,对目标图像中的人脸特征信息进行确定。
步骤103,根据资源使用信息,对目标图像进行人脸检测和关键点检测,确定目标图像中的人脸特征信息。
其中,人脸特征信息包括:人脸特征向量和人脸特征向量对应的目标位置。经过网络模型对目标图像的处理,最终输出的目标图像中的人脸特征向量是具有固定维数的用于表征人脸特征的向量,而在目标图像中可能存在一个或者多个人脸,因此在进行目标图像中的人脸识别时,需要对应每个人脸确定一个人脸特征特征向量,同时该人脸特征特征向量对应一个目标位置,该目标位置是人脸在图像中的位置,通常用矩形框表示,例如可以用于实际应用中人脸抓拍。当在目标图像中有多个人脸时,会解析出多个人脸特征向量,同时对应多个目标位置。
综上所述,本公开所提供的人脸特征确定方法,获取具有RGB格式的目标图像;根据目标图像,确定资源使用信息,资源使用信息包括进行目标图像处理的资源复用关系以及进行目标图像处理所需的固定资源;根据资源使用信息,对目标图像进行人脸检测和关键点检测,确定目标图像中的人脸特征信息,人脸特征信息包括:人脸特征向量和人脸特征向量对应的目标位置。整个人脸特征确定过程主要在GPU中完成,因此,能够减小GPU与CPU间的切换和交互,提高运行效率。
图2是根据一示例性实施例示出的另一种人脸特征确定方法的流程图,如图2所示,步骤101所述获取具有RGB格式的目标图像,包括:
步骤1011,当待处理图像为非RGB格式时,对待处理图像进行格式转换,生成RGB格式的待处理图像,作为待处理标准图像。
步骤1012,当待处理标准图像存储在本地数据库或者远程数据库时,将待处理标准图像拷贝至GPU上。
步骤1013,当待处理标准图像存储在GPU时,将待处理标准图像作为目标图像。
示例地,将待处理图像转换为具有RGB格式的待处理标准图像后,根据该待处理标准图像所存储的位置,选择将其拷贝到GPU上进行处理,或者当该待处理标准图像已经存储在GPU上时,可以直接在GPU上进行处理;这里需要说明的是,由于在实际应用处理时,图像解码和人脸识别算法处理是GPU上的两个线程,解码线程解出的数据需要拷贝给人脸识别算法处理模块,因此需要将该存储在GPU上的待处理标准图像拷贝到GPU的另外一个线程中进行并行处理,进而在算法线程处理图像时,解码线程可以同时解图像的下一帧,这样多线程的并行处理能够加快处理速度,提高处理效率。
图3是根据一示例性实施例示出的又一种人脸特征确定方法的流程图,如图3所示,步骤102所述的根据目标图像,确定资源使用信息,包括:
步骤1021,根据目标图像,确定固定资源。
其中,固定资源包括:目标图像所占用的资源、进行目标图像处理的网络模型的权重所占用的资源,该网络模型中包括人脸检测网络、用于关键点确定的回归网络和进行人脸特征精确提取的识别网络。也就是根据目标图像的大小(目标图像的高宽信息),申请确定进行处理该目标图像所占用的资源,以及所使用的网络模型所占用的资源等。
步骤1022,根据目标图像所占用的资源,确定网络模型的资源信息。
其中,网络模型的资源信息包括:网络模型的不同层的资源需求量以及网络模型的不同层所使用的资源节点以及所释放的资源节点。由于网络模型属于不同结构的多层网络,因此不同层的资源需求量不同,且所使用的资源节点以及所释放的资源节点均不同。
步骤1023,根据网络模型的资源信息,确定资源复用关系。
示例地,通过上述步骤在确定目标图像中的人脸特征信息之前,首先通过初始化确定资源复用关系和固定资源,并将固定资源的指针赋相应的变量,以便于在对目标图像的处理过程中直接使用对应的变量。资源复用是申请一组大小固定的资源(比如10KB、200KB等),该大小固定的资源作为不同的操作流程的公用资源,节约资源。而固定资源则在程序运行过程中一直被分配使用,直到程序执行完成才会释放,这样避免了反复申请、释放资源,提高程序运行效率,该目标图像或者网络模型所占用的资源用于存储数据,该资源的大小固定不变,其中存放的数据会改变,且每个数据占用的大小也不一定相同,但不超过这一资源在初始化时所申请的大小。
图4是根据一示例性实施例示出的又一种人脸特征确定方法的流程图,如图4所示,步骤103所述的根据资源使用信息,对目标图像进行人脸检测和关键点检测,确定目标图像中的人脸特征信息,包括:
步骤1031,对目标图像进行人脸检测和关键点检测,利用人脸检测网络和回归网络确定目标图像中的目标人脸框和关键点位置。
其中,关键点位置用于对目标图像中的人脸进行位置校正,进而提高人脸识别的准确率。例如,目标图像中采集的人脸可能是倾斜的,通过关键点位置(眼睛、鼻子或者嘴巴的位置)将倾斜的人脸校正为正脸。根据人脸检测确定目标图像中的目标人脸框,也就是对目标图像进行处理的人脸识别,确定目标图像中的人脸范围,例如用矩形框表示,进而在下面步骤1022中进一步识别出人脸特征向量。
其中,人脸检测网络包括用于确定人脸框的确定网络和用于对人脸框进行精确分类的分类网络。
步骤1032,根据目标人脸框和关键点位置,利用识别网络通过归一化处理确定人脸特征信息。
其中,该步骤可以首先:根据目标人脸框和关键点位置,通过水平校正,确定具有预设规格的目标人脸图像。也就是说,根据步骤1021确定的目标人脸框再结合关键点确定水平校正后的目标人脸图像,该目标人脸图像规格符合识别网络的要求。其次,将目标人脸图像进行归一化处理后,分批次输入识别网络中,确定目标图像中的人脸特征向量和人脸特征向量对应的目标位置。由此通过归一化之后识别网络可以提取出目标人脸图像中的人脸特征向量和对应的目标位置。
图5是根据一示例性实施例示出的又一种人脸特征确定方法的流程图,如图5所示,步骤1031所述的对目标图像进行人脸检测和关键点检测,利用人脸检测网络和回归网络确定目标图像中的目标人脸框和关键点位置,包括:
步骤10311,将根据目标图像建立的图像金字塔拼接成超平面集。
其中,图像金字塔的底部是待处理图像的高分辨率表示,而顶部是低分辨率的近似,当向图像金字塔的上层移动时,尺寸和分辨率就降低。因此通过建立图像金字塔是进行目标图像的一种检测方式,目的是解决目标图像中的多尺度检测问题,而将图像金字塔再拼接成超平面集,能够进一步提高GPU的利用率,加快检测速度。
步骤10312,对图像金字塔拼接成的超平面集进行归一化处理。
步骤10313,根据归一化处理后的超平面集,通过确定网络确定目标人脸框的位置。
步骤10314,根据目标人脸框的位置,利用非极大值抑制法,对归一化处理后的超平面集中的各层人脸图像进行处理,通过分类网络确定目标人脸框。
步骤10315,将目标人脸框通过图像放缩处理以及归一化处理,再分批次输入回归网络,确定关键点位置。
示例地,上述通过人脸检测网络中的确定网络,确定图像金字塔拼接成的超平面集中的人脸框进行确定,之后通过分类网络,对上述确定的人脸框进行精确分类以最终确定目标人脸框。随后再通过回归网络对关键点位置进行确认。
综上所述,本公开所提供的人脸特征确定方法,获取具有RGB格式的目标图像;根据目标图像,确定资源使用信息,资源使用信息包括进行目标图像处理的资源复用关系以及进行目标图像处理所需的固定资源;根据资源使用信息,对目标图像进行人脸检测和关键点检测,确定目标图像中的人脸特征信息,人脸特征信息包括:人脸特征向量和人脸特征向量对应的目标位置。整个人脸特征确定过程主要在GPU中完成,因此,能够减小GPU与CPU间的切换和交互,提高运行效率。
图6是根据一示例性实施例示出的一种人脸特征确定装置的框图。参照图6,应用于GPU,该装置600包括:
图像获取模块610,用于获取具有RGB格式的目标图像。
资源确定模块620,用于根据目标图像,确定资源使用信息,资源使用信息包括进行目标图像处理的资源复用关系以及进行目标图像处理所需的固定资源。
特征确定模块630,用于根据资源使用信息,对目标图像进行人脸检测和关键点检测,确定目标图像中的人脸特征信息,该人脸特征信息包括:人脸特征向量和人脸特征向量对应的目标位置。
可选的,该资源确定模块620,用于:
根据目标图像,确定固定资源,固定资源包括:目标图像所占用的资源、进行目标图像处理的网络模型的权重所占用的资源,网络模型中包括人脸检测网络、用于关键点确定的回归网络和进行人脸特征精确提取的识别网络;
根据目标图像所占用的资源,确定网络模型的资源信息,网络模型的资源信息包括:网络模型的不同层的资源需求量以及网络模型的不同层所使用的资源节点以及所释放的资源节点;
根据网络模型的资源信息,确定资源复用关系。
图7是根据一示例性实施例示出的一种图像获取模块的框图。参照图7,该图像获取模块610包括:
格式转换子模块611,用于当待处理图像为非RGB格式时,对待处理图像进行格式转换,生成RGB格式的待处理图像,作为待处理标准图像。
图像拷贝子模块612,用于当待处理标准图像存储在本地数据库或者远程数据库时,将待处理标准图像拷贝至GPU上。
图像确定子模块613,用于当待处理标准图像存储在GPU时,将待处理标准图像作为目标图像。
图8是根据一示例性实施例示出的一种特征确定模块的框图。参照图8,该特征确定模块630包括:
第一确定子模块631,用于对目标图像进行人脸检测和关键点检测,利用人脸检测网络和回归网络确定目标图像中的目标人脸框和关键点位置。
第二确定子模块632,用于根据目标人脸框和关键点位置,利用识别网络通过归一化处理确定人脸特征信息。
可选的,人脸检测网络包括用于确定人脸框的确定网络和用于对人脸框进行精确分类的分类网络;第一确定子模块621,用于:
将根据目标图像建立的图像金字塔拼接成超平面集;
对图像金字塔拼接成的超平面集进行归一化处理;
根据归一化处理后的超平面集,通过确定网络确定目标人脸框的位置;
根据目标人脸框的位置,利用非极大值抑制法,对归一化处理后的超平面集中的各层人脸图像进行处理,通过分类网络确定目标人脸框;
将目标人脸框通过图像放缩处理以及归一化处理,再分批次输入回归网络,确定关键点位置。
可选的,第二确定子模块622,用于:
根据目标人脸框和关键点位置,通过水平校正,确定具有预设规格的目标人脸图像;
将目标人脸图像进行归一化处理后,分批次输入识别网络中,确定目标图像中的人脸特征向量和人脸特征向量对应的目标位置。
综上所述,本公开所提供的人脸特征确定装置,获取具有RGB格式的目标图像;根据目标图像,确定资源使用信息,资源使用信息包括进行目标图像处理的资源复用关系以及进行目标图像处理所需的固定资源;根据资源使用信息,对目标图像进行人脸检测和关键点检测,确定目标图像中的人脸特征信息,人脸特征信息包括:人脸特征向量和人脸特征向量对应的目标位置。整个人脸特征确定过程主要在GPU中完成,因此,能够减小GPU与CPU间的切换和交互,提高运行效率。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图9是根据一示例性实施例示出的一种电子设备900的框图。如图9所示,该电子设备900可以包括:处理器901,存储器902。该电子设备900还可以包括多媒体组件903,输入/输出(I/O)接口904,以及通信组件905中的一者或多者。
其中,处理器901用于控制该电子设备900的整体操作,以完成上述的人脸特征确定方法中的全部或部分步骤。存储器902用于存储各种类型的数据以支持在该电子设备900的操作,这些数据例如可以包括用于在该电子设备900上操作的任何应用程序或方法的指令,以及应用程序相关的数据,例如联系人数据、收发的消息、图片、音频、视频等等。该存储器902可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,例如静态随机存取存储器(Static Random Access Memory,简称SRAM),电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,简称EEPROM),可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,简称EPROM),可编程只读存储器(Programmable Read-Only Memory,简称PROM),只读存储器(Read-Only Memory,简称ROM),磁存储器,快闪存储器,磁盘或光盘。多媒体组件903可以包括屏幕和音频组件。其中屏幕例如可以是触摸屏,音频组件用于输出和/或输入音频信号。例如,音频组件可以包括一个麦克风,麦克风用于接收外部音频信号。所接收的音频信号可以被进一步存储在存储器902或通过通信组件905发送。音频组件还包括至少一个扬声器,用于输出音频信号。I/O接口904为处理器901和其他接口模块之间提供接口,上述其他接口模块可以是键盘,鼠标,按钮等。这些按钮可以是虚拟按钮或者实体按钮。通信组件905用于该电子设备900与其他设备之间进行有线或无线通信。无线通信,例如Wi-Fi,蓝牙,近场通信(Near FieldCommunication,简称NFC),2G、3G或4G,或它们中的一种或几种的组合,因此相应的该通信组件905可以包括:Wi-Fi模块,蓝牙模块,NFC模块。
在一示例性实施例中,电子设备900可以被一个或多个应用专用集成电路(Application Specific Integrated Circuit,简称ASIC)、数字信号处理器(DigitalSignal Processor,简称DSP)、数字信号处理设备(Digital Signal Processing Device,简称DSPD)、可编程逻辑器件(Programmable Logic Device,简称PLD)、现场可编程门阵列(Field Programmable Gate Array,简称FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述的人脸特征确定方法。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的人脸特征确定方法的步骤。例如,该计算机可读存储介质可以为上述包括程序指令的存储器902,上述程序指令可由电子设备900的处理器901执行以完成上述的人脸特征确定方法。
以上结合附图详细描述了本公开的优选实施方式,但是,本公开并不限于上述实施方式中的具体细节,在本公开的技术构思范围内,可以对本公开的技术方案进行多种简单变型,这些简单变型均属于本公开的保护范围。
另外需要说明的是,在上述具体实施方式中所描述的各个具体技术特征,在不矛盾的情况下,可以通过任何合适的方式进行组合。为了避免不必要的重复,本公开对各种可能的组合方式不再另行说明。
此外,本公开的各种不同的实施方式之间也可以进行任意组合,只要其不违背本公开的思想,其同样应当视为本公开所公开的内容。
Claims (12)
1.一种人脸特征确定方法,其特征在于,应用于GPU,所述方法包括:
获取具有RGB格式的目标图像;
根据所述目标图像,确定资源使用信息,所述资源使用信息包括进行所述目标图像处理的资源复用关系以及进行所述目标图像处理所需的固定资源;
根据所述资源使用信息,对所述目标图像进行人脸检测和关键点检测,确定所述目标图像中的人脸特征信息,所述人脸特征信息包括:人脸特征向量和所述人脸特征向量对应的目标位置;
所述获取具有RGB格式的目标图像,包括:
当待处理图像为非RGB格式时,对所述待处理图像进行格式转换,生成RGB格式的所述待处理图像,作为待处理标准图像;
当所述待处理标准图像存储在本地数据库或者远程数据库时,将所述待处理标准图像拷贝至所述GPU上;
当所述待处理标准图像存储在所述GPU时,将所述待处理标准图像作为所述目标图像。
2.根据权利要求1所述的方法,其特征在于,所述根据所述目标图像,确定资源使用信息,包括:
根据所述目标图像,确定所述固定资源,其中,所述固定资源包括:所述目标图像所占用的资源、进行所述目标图像处理的网络模型的权重所占用的资源,所述网络模型中包括人脸检测网络、用于关键点确定的回归网络和进行人脸特征精确提取的识别网络;
根据所述目标图像所占用的资源,确定所述网络模型的资源信息,所述网络模型的资源信息包括:所述网络模型的不同层的资源需求量以及所述网络模型的不同层所使用的资源节点以及所释放的资源节点;
根据所述网络模型的资源信息,确定所述资源复用关系。
3.根据权利要求2所述的方法,其特征在于,所述根据所述资源使用信息,对所述目标图像进行人脸检测和关键点检测,确定所述目标图像中的人脸特征信息,包括:
对所述目标图像进行所述人脸检测和所述关键点检测,利用所述人脸检测网络和所述回归网络确定所述目标图像中的目标人脸框和关键点位置;
根据所述目标人脸框和所述关键点位置,利用所述识别网络通过归一化处理确定所述人脸特征信息。
4.根据权利要求3所述的方法,其特征在于,所述人脸检测网络包括用于确定人脸框的确定网络和用于对人脸框进行精确分类的分类网络;所述对所述目标图像进行所述人脸检测和所述关键点检测,利用所述人脸检测网络和所述回归网络确定所述目标图像中的目标人脸框和关键点位置,包括:
将根据所述目标图像建立的图像金字塔拼接成超平面集;
对所述图像金字塔拼接成的超平面集进行归一化处理;
根据归一化处理后的所述超平面集,通过所述确定网络确定所述目标人脸框的位置;
根据所述目标人脸框的位置,利用非极大值抑制法,对所述归一化处理后的超平面集中的各层人脸图像进行处理,通过所述分类网络确定所述目标人脸框;
将所述目标人脸框通过图像放缩处理以及所述归一化处理,再分批次输入所述回归网络,确定所述关键点位置。
5.根据权利要求3所述的方法,其特征在于,所述根据所述目标人脸框和所述关键点位置,利用所述识别网络通过归一化处理确定所述人脸特征,包括:
根据所述目标人脸框和所述关键点位置,通过水平校正,确定具有预设规格的目标人脸图像;
将所述目标人脸图像进行归一化处理后,分批次输入所述识别网络中,确定所述目标图像中的所述人脸特征向量和所述人脸特征向量对应的目标位置。
6.一种人脸特征确定装置,其特征在于,应用于GPU,所述装置包括:
图像获取模块,获取具有RGB格式的目标图像;
资源确定模块,用于根据所述目标图像,确定资源使用信息,所述资源使用信息包括进行所述目标图像处理的资源复用关系以及进行所述目标图像处理所需的固定资源;
特征确定模块,用于根据所述资源使用信息,对所述目标图像进行人脸检测和关键点检测,确定所述目标图像中的人脸特征信息,所述人脸特征信息包括:人脸特征向量和所述人脸特征向量对应的目标位置;
所述图像获取模块,包括:
格式转换子模块,用于当待处理图像为非RGB格式时,对所述待处理图像进行格式转换,生成RGB格式的所述待处理图像,作为待处理标准图像;
图像拷贝子模块,用于当所述待处理标准图像存储在本地数据库或者远程数据库时,将所述待处理标准图像拷贝至所述GPU上;
图像确定子模块,用于当所述待处理标准图像存储在所述GPU时,将所述待处理标准图像作为所述目标图像。
7.根据权利要求6所述的装置,其特征在于,所述资源确定模块,用于:
根据所述目标图像,确定所述固定资源,其中,所述固定资源包括:所述目标图像所占用的资源、进行所述目标图像处理的网络模型的权重所占用的资源,所述网络模型中包括人脸检测网络、用于关键点确定的回归网络和进行人脸特征精确提取的识别网络;
根据所述目标图像所占用的资源,确定所述网络模型的资源信息,所述网络模型的资源信息包括:所述网络模型的不同层的资源需求量以及所述网络模型的不同层所使用的资源节点以及所释放的资源节点;
根据所述网络模型的资源信息,确定所述资源复用关系。
8.根据权利要求7所述的装置,其特征在于,所述特征确定模块,包括:
第一确定子模块,用于对所述目标图像进行所述人脸检测和所述关键点检测,利用所述人脸检测网络和所述回归网络确定所述目标图像中的目标人脸框和关键点位置;
第二确定子模块,用于根据所述目标人脸框和所述关键点位置,利用所述识别网络通过归一化处理确定所述人脸特征信息。
9.根据权利要求8所述的装置,其特征在于,所述人脸检测网络包括用于确定人脸框的确定网络和用于对人脸框进行精确分类的分类网络;所述第一确定子模块,用于:
将根据所述目标图像建立的图像金字塔拼接成超平面集;
对所述图像金字塔拼接成的超平面集进行归一化处理;
根据归一化处理后的所述超平面集,通过所述确定网络确定所述目标人脸框的位置;
根据所述目标人脸框的位置,利用非极大值抑制法,对所述归一化处理后的超平面集中的各层人脸图像进行处理,通过所述分类网络确定所述目标人脸框;
将所述目标人脸框通过图像放缩处理以及所述归一化处理,再分批次输入所述回归网络,确定所述关键点位置。
10.根据权利要求8所述的装置,其特征在于,所述第二确定子模块,用于:
根据所述目标人脸框和所述关键点位置,通过水平校正,确定具有预设规格的目标人脸图像;
将所述目标人脸图像进行归一化处理后,分批次输入所述识别网络中,确定所述目标图像中的所述人脸特征向量和所述人脸特征向量对应的目标位置。
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-5中任一项所述方法的步骤。
12.一种电子设备,其特征在于,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现权利要求1-5中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810542324.6A CN110555334B (zh) | 2018-05-30 | 2018-05-30 | 人脸特征确定方法、装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810542324.6A CN110555334B (zh) | 2018-05-30 | 2018-05-30 | 人脸特征确定方法、装置、存储介质及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110555334A CN110555334A (zh) | 2019-12-10 |
CN110555334B true CN110555334B (zh) | 2022-06-07 |
Family
ID=68734473
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810542324.6A Active CN110555334B (zh) | 2018-05-30 | 2018-05-30 | 人脸特征确定方法、装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110555334B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111127458B (zh) * | 2019-12-27 | 2023-06-09 | 深圳力维智联技术有限公司 | 基于图像金字塔的目标检测方法、装置及存储介质 |
CN111583126A (zh) * | 2020-03-27 | 2020-08-25 | 深圳市太赫兹科技创新研究院 | 一种数据增强方法、计算机设备及存储介质 |
CN112016466B (zh) * | 2020-08-28 | 2024-05-28 | 中移(杭州)信息技术有限公司 | 人脸识别方法、系统、电子设备和计算机存储介质 |
CN112437274B (zh) * | 2020-11-17 | 2022-08-30 | 浙江大华技术股份有限公司 | 一种抓拍图片的传输方法及抓拍机 |
CN114584836B (zh) * | 2020-11-30 | 2024-05-03 | 京东方科技集团股份有限公司 | 电子产品使用行为检测方法、装置、系统及介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106447030A (zh) * | 2016-08-30 | 2017-02-22 | 深圳市诺比邻科技有限公司 | 卷积神经网络的计算资源优化方法及系统 |
CN106951867A (zh) * | 2017-03-22 | 2017-07-14 | 成都擎天树科技有限公司 | 基于卷积神经网络的人脸识别方法、装置、系统及设备 |
CN107016175A (zh) * | 2017-03-23 | 2017-08-04 | 中国科学院计算技术研究所 | 适用神经网络处理器的自动化设计方法、装置及优化方法 |
CN107844831A (zh) * | 2017-11-10 | 2018-03-27 | 西安电子科技大学 | 基于tta架构的神经网络处理机 |
CN107844785A (zh) * | 2017-12-08 | 2018-03-27 | 浙江捷尚视觉科技股份有限公司 | 一种基于尺度估计的人脸检测方法 |
CN107871101A (zh) * | 2016-09-23 | 2018-04-03 | 北京眼神科技有限公司 | 一种人脸检测方法及装置 |
CN108090468A (zh) * | 2018-01-05 | 2018-05-29 | 百度在线网络技术(北京)有限公司 | 用于检测人脸的方法和装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10157045B2 (en) * | 2016-11-17 | 2018-12-18 | The Mathworks, Inc. | Systems and methods for automatically generating code for deep learning systems |
-
2018
- 2018-05-30 CN CN201810542324.6A patent/CN110555334B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106447030A (zh) * | 2016-08-30 | 2017-02-22 | 深圳市诺比邻科技有限公司 | 卷积神经网络的计算资源优化方法及系统 |
CN107871101A (zh) * | 2016-09-23 | 2018-04-03 | 北京眼神科技有限公司 | 一种人脸检测方法及装置 |
CN106951867A (zh) * | 2017-03-22 | 2017-07-14 | 成都擎天树科技有限公司 | 基于卷积神经网络的人脸识别方法、装置、系统及设备 |
CN107016175A (zh) * | 2017-03-23 | 2017-08-04 | 中国科学院计算技术研究所 | 适用神经网络处理器的自动化设计方法、装置及优化方法 |
CN107844831A (zh) * | 2017-11-10 | 2018-03-27 | 西安电子科技大学 | 基于tta架构的神经网络处理机 |
CN107844785A (zh) * | 2017-12-08 | 2018-03-27 | 浙江捷尚视觉科技股份有限公司 | 一种基于尺度估计的人脸检测方法 |
CN108090468A (zh) * | 2018-01-05 | 2018-05-29 | 百度在线网络技术(北京)有限公司 | 用于检测人脸的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN110555334A (zh) | 2019-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110555334B (zh) | 人脸特征确定方法、装置、存储介质及电子设备 | |
US12014275B2 (en) | Method for text recognition, electronic device and storage medium | |
US11373275B2 (en) | Method for generating high-resolution picture, computer device, and storage medium | |
JP6994588B2 (ja) | 顔特徴抽出モデル訓練方法、顔特徴抽出方法、装置、機器および記憶媒体 | |
US10796685B2 (en) | Method and device for image recognition | |
CN111368685B (zh) | 关键点的识别方法、装置、可读介质和电子设备 | |
US9704066B2 (en) | Multi-stage image classification | |
US10455259B2 (en) | Enhanced text rendering and readability in images | |
WO2020248841A1 (zh) | 图像的au检测方法、装置、电子设备及存储介质 | |
US10592759B2 (en) | Object recognition apparatus and control method therefor | |
CN111126108B (zh) | 图像检测模型的训练和图像检测方法及装置 | |
CN112215171B (zh) | 目标检测方法、装置、设备及计算机可读存储介质 | |
CN111696176A (zh) | 图像处理方法、装置、电子设备及计算机可读介质 | |
CN111739027A (zh) | 一种图像处理方法、装置、设备及可读存储介质 | |
US20230143452A1 (en) | Method and apparatus for generating image, electronic device and storage medium | |
US20230036338A1 (en) | Method and apparatus for generating image restoration model, medium and program product | |
CN112804558B (zh) | 视频拆分方法、装置及设备 | |
CN115205925A (zh) | 表情系数确定方法、装置、电子设备及存储介质 | |
CN115578614A (zh) | 图像处理模型的训练方法、图像处理方法和装置 | |
CN111881740A (zh) | 人脸识别方法、装置、电子设备及介质 | |
CN113469869B (zh) | 一种图像管理方法和装置 | |
CN114495101A (zh) | 文本检测方法、文本检测网络的训练方法及装置 | |
CN112969032A (zh) | 光照模式识别方法、装置、计算机设备及存储介质 | |
WO2024041108A1 (zh) | 图像矫正模型训练及图像矫正方法、装置和计算机设备 | |
CN117315758A (zh) | 面部表情的检测方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |