CN106778751B - 一种非面部roi识别方法及装置 - Google Patents

一种非面部roi识别方法及装置 Download PDF

Info

Publication number
CN106778751B
CN106778751B CN201710090091.6A CN201710090091A CN106778751B CN 106778751 B CN106778751 B CN 106778751B CN 201710090091 A CN201710090091 A CN 201710090091A CN 106778751 B CN106778751 B CN 106778751B
Authority
CN
China
Prior art keywords
image
facial
face
region
roi
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710090091.6A
Other languages
English (en)
Other versions
CN106778751A (zh
Inventor
雷宇
金宇林
伏英娜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Appmagics Tech (beijing) Ltd
Original Assignee
Appmagics Tech (beijing) Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Appmagics Tech (beijing) Ltd filed Critical Appmagics Tech (beijing) Ltd
Priority to CN201710090091.6A priority Critical patent/CN106778751B/zh
Publication of CN106778751A publication Critical patent/CN106778751A/zh
Priority to PCT/CN2018/075675 priority patent/WO2018149350A1/zh
Application granted granted Critical
Publication of CN106778751B publication Critical patent/CN106778751B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/88Image or video recognition using optical means, e.g. reference filters, holographic masks, frequency domain filters or spatial domain filters

Abstract

本发明提供了一种非面部ROI识别的方法及装置,该方法包括:从待处理的图像中确定至少一个面部关键点;根据所述至少一个面部关键点,确定至少一个颜色样本区域;通过所述至少一个颜色样本区域,从所述待处理的图像中提取面部图像;对所述面部图像进行掩膜消除,获得非面部感兴趣区域ROI对应的目标图像;根据所述至少一个面部关键点及所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别。该装置包括:提取单元、消除单元及识别单元。本方案能够提高对非面部ROI进行识别的速率。

Description

一种非面部ROI识别方法及装置
技术领域
本发明涉及图像处理技术领域,特别涉及一种非面部ROI识别的方法及装置。
背景技术
随着计算机技术和图像处理技术的不断发展与进步,面部表情识别技术被应用于各个领域,比如动画制作、影视制作、视频聊天等,通过对用户的面部表情进行识别,创建用户面部表情与动画人物面部表情的映射关系,以进行动画片、科幻电影的制作,趣味视频聊天或趣味照片拍摄。在面部表情识别过程中,识别舌头、牙齿、眼球等非面部ROI(Region OfInterest,感兴趣区域)是面部表情识别的重点和难点。
目前,识别非面部ROI主要通过SVM(Support Vector Machine,支持向量机分类器)和神经元网络算法的方法进行。
针对于目前通过SVM和神经元网络算法对非面部ROI进行识别的方法,SVM需要将直方图数据提升至较高的维度进行计算,而神经元网络算法需要对图像进行多次卷积卷和池化处理。因此,无论SVM还是神经元网络算法,都需要耗费较长的时间处理大量数据,造成对非面部ROI进行识别的速率较慢。
发明内容
本发明实施例提供了一种非面部ROI识别的方法及装置,能够提高对非面部ROI进行识别的速率。
第一方面,本发明实施例提供了一种非面部ROI识别的方法,包括:
从待处理的图像中确定至少一个面部关键点;
根据所述至少一个面部关键点,确定至少一个颜色样本区域;
通过所述至少一个颜色样本区域,从所述待处理的图像中提取面部图像;
对所述面部图像进行掩膜消除,获得非面部感兴趣区域ROI对应的目标图像;
根据所述至少一个面部关键点及所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别。
优选地,所述通过所述至少一个颜色样本区域,从所述待处理的图像中提取面部图像,包括:
针对于每一个所述颜色样本区域,对该颜色样本区域进行颜色统计,获取该颜色样本区域对应的样本颜色,确定所述样本颜色在与该颜色样本区域相邻区域内的归一化出现频率,并将所述归一化出现频率大于预设阈值的所述相邻区域确定为该颜色样本区域对应的面部区域;
将各个所述颜色样本区域及对应的面部区域进行组合,形成组合面部区域;
从所述待处理的图像中提取位于所述组合面部区域内的图像作为所述面部图像。
优选地,所述对所述面部图像进行掩膜消除,获得非面部ROI对应的目标图像,包括:
对所述面部图像进行掩膜消除;
根据所述至少一个面部关键点,从消除所述面部图像的待处理的图像上获得所述非面部ROI对应的目标图像。
优选地,所述根据所述至少一个面部关键点及所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别,包括:
根据所述至少一个面部关键点,确定所述目标图像上干扰图像所在的区域,并将所述干扰图像消除;
根据所述目标图像上剩余图像相对于各个所述面部关键点所处位置、形状及尺寸,识别所述剩余图像是否为所述非面部ROI。
优选地,所述非面部ROI包括:舌头、牙齿、眼球及胡须中的任意一个。
第二方面,本发明实施例还一种非面部ROI识别的装置,包括:提取单元、消除单元及识别单元;
所述提取单元,用于从待处理的图像中确定至少一个面部关键点,根据所述至少一个面部关键点确定至少一个颜色样本区域,通过所述至少一个颜色样本区域从所述待处理的图像中提取面部图像;
所述消除单元,用于对所述提取单元提取出的面部图像进行掩膜消除,获得所述面部图像上非面部ROI对应的目标图像;
所述识别单元,用于根据所述提取单元确定的所述至少一个面部关键点及所述消除单元获取的所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别。
优选地,所述提取单元包括:获取子单元;
所述获取子单元,用于针对于每一个所述颜色样本区域,对该颜色样本区域进行颜色统计,获取该颜色样本区域对应的样本颜色,确定所述样本颜色在与该颜色样本区域相邻区域内的归一化出现频率,并将所述归一化出现频率大于预设阈值的所述相邻区域确定为该颜色样本区域对应的面部区域;并将各个所述颜色样本区域及对应的面部区域进行组合,形成组合面部区域;以及从所述待处理的图像中提取位于所述组合面部区域内的图像作为所述面部图像。
优选地,
所述消除单元,用于对所述面部图像进行掩膜消除,并根据所述至少一个面部关键点,从消除所述面部图像的待处理的图像上获得所述非面部ROI相对应的目标区域。
优选地,
所述识别单元,用于根据所述至少一个面部关键点,确定所述目标图像上干扰图像所在的区域,并将所述干扰图像消除;并根据所述目标图像上剩余图像相对于各个所述面部关键点所处位置、形状及尺寸,识别所述剩余图像是否为所述非面部ROI。
第三方面,本发明实施例还提供了一种可读介质,包括执行指令,当存储控制器的处理器执行所述执行指令时,所述存储控制器执行权上述实施例提供的非面部ROI识别的方法。
第四方面,本发明实施例还提供了一种存储控制器,包括:处理器、存储器和总线;
所述存储器用于存储执行指令,所述处理器与所述存储器通过所述总线连接,当所述存储控制器运行时,所述处理器执行所述存储器存储的所述执行指令,以使所述存储控制器执行上述实施例提供的非面部ROI识别的方法。
本发明实施例提供了一种非面部ROI识别的方法、装置及可读介质和存储控制器,在待处理的图像中确定至少一个面部关键点后,根据确定出的面部关键点确定至少一个颜色样本区域,通过各个颜色样本区域从待处理图像上提取面部图像,通过对面部图像进行掩膜消除后获得非面部ROI可能出现的目标图像,进而根据各个面部关键点及目标图像对待处理的图像中的非面部ROI进行识别。由此可见,在对非面部ROI进行识别时,仅需要对面部图像进行掩膜消除后获得可能出现非面部ROI的目标图像,进而根据各个面部关键点识别目标图像中是否包括非面部ROI,所需处理的数据量较少,从而可以提高对非面部ROI进行识别的速率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一个实施例提供的一种非面部ROI识别的方法流程图;
图2是本发明另一个实施例提供的一种非面部ROI识别的方法流程图;
图3是本发明一个实施例提供的一种非面部ROI识别的装置所在设备的示意图;
图4是本发明一个实施例提供的一种非面部ROI识别的装置示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例,基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明实施例提供了一种非面部ROI识别的方法,该方法可以包括以下步骤:
步骤101:从待处理的图像中确定至少一个面部关键点;
步骤102:根据所述至少一个面部关键点,确定至少一个颜色样本区域;
步骤103:通过所述至少一个颜色样本区域,从所述待处理的图像中提取面部图像;
步骤104:对所述面部图像进行掩膜消除,获得非面部感兴趣区域ROI对应的目标图像;
步骤105:根据所述至少一个面部关键点及所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别。
本发明实施例提供了一种非面部ROI识别的方法,在待处理的图像中确定至少一个面部关键点后,根据确定出的面部关键点确定至少一个颜色样本区域,通过各个颜色样本区域从待处理图像上提取面部图像,通过对面部图像进行掩膜消除后获得非面部ROI可能出现的目标图像,进而根据各个面部关键点及目标图像对待处理的图像中的非面部ROI进行识别。由此可见,在对非面部ROI进行识别时,仅需要对面部图像进行掩膜消除后获得可能出现非面部ROI的目标图像,进而根据各个面部关键点识别目标图像中是否包括非面部ROI,所需处理的数据量较少,从而可以提高对非面部ROI进行识别的速率。
在本发明一个实施例中,在步骤103中通过颜色样本区域从待处理的图像中提取面部图像时,针对于每一个颜色样本区域,对该颜色样本区域进行颜色统计,获取该颜色样本区域对应的样本颜色,确定该样本颜色在与该颜色样本区域相邻的相邻区域内的归一化出现频率,并将归一化出现频率大于预设值的相邻区域确定为该颜色样本区域对应的面部区域。将各个颜色样本区域及对应的面部区域进行组合后,形成组合面部区域,进而从待处理的图像中提取位于组合面部区域内的图像作为面部图像。
例如,根据在待处理图像上确定的关键点,在待处理图像上确定2个颜色样本区域,2个颜色样本区域分别为人脸图像上两个颧骨的区域,分别为颜色样本区域1和颜色样本区域2。对该颜色样本区域1进行颜色统计,获取颜色样本区域1内的颜色样本1,确定与颜色样本区域1相邻区域内颜色样本1的归一化出现频率,将归一化出现频率大于预设阈值80%的相邻区域确定为颜色样本区域1对应的面部区域。相应地,通过相同的方法确定颜色样本区域2对应的面部区域。将颜色样本区域1和颜色样本区域2对应的面部图像进行组合后,形成组合面部区域,将待处理图像上位于组合面部区域内的图像作为面部图像。
在待处理的图像上确定至少一个面部关键点后,根据各个面部关键点可以在面部图像上确定至少一个颜色样本区域,通过对颜色样本区域进行颜色分析,统计每一个颜色样本区域对应的样本颜色。针对每一个颜色样本区域,确定该颜色样本区域对应的颜色样本在待处理图像内的归一化出现频率,将待处理图像上与该颜色样本区域相邻且归一化出现频率大于预设阈值的区域确定为该颜色样本区域对应的面部区域。将各个颜色样本区域对应的面部区域进行组合后,形成的组合面部区域会覆盖整个面部,位于组合面部区域内的待处理图像即为面部图像。由于非面部ROI与面部图像的颜色存在较大差异,在面部图像上确定至少一个颜色样本区域,通过确定归一化出现频率的方式获取与颜色样本区域颜色相近的区域作为面部区域,将各个颜色样本区域对应的面部区域进行组合,组合面部区域内的待处理图像即为面部图像,实现面部图像的提取。在确定面部图像后边可以方便地确定待处理图像上的非面部ROI。
需要说明的是,不同颜色样本区域对应的面部区域可能会有重叠部分,在对各个颜色样本区域对应的面部区域进行组合时,通过各个面部关键点进行定位,将对应同一区域的面部区域进行重叠处理。
在本发明一个实施例中,在步骤104中对面部图像进行掩膜消除获得非面部ROI对应的目标图像时,对待处理图像上的面部图像进行眼淹没消除,在消除面部图像的待处理图像上,根据各个面部关键点获得非面部ROI对应的目标图像。
例如,非面部ROI为舌头,当获取到面部图像后,对待处理图像上的面部图像进行掩膜消除。在消除面部图像后的待处理图像上,根据之前确定出的至少一个面部关键点,对舌头可能出现的区域进行定位,获取到包括嘴唇及可能包括胡子和舌头的目标图像。
在本发明一个实施例中,在步骤105中根据面部关键点及目标图像对非面部ROI进行识别时,根据之前确定出的至少一个面部关键点,对目标图像上干扰图像所在的区域进行定位,并将干扰图像消除。针对于目标图像上消除干扰图像后剩下的剩余图像,根据剩余图像相对于各个面部关键点所处的位置,以及剩余图像的形状和相对于面部图像的尺寸,判断消除干扰图像后目标图像上的剩余图像是否为所要识别的非面部ROI。
例如,非面部ROI为舌头,所获取到的目标图像包括嘴唇等干扰图像,通过之前确定出的至少一个面部关键点,可以对嘴唇等干扰图像进行定位,在确定出目标图像上嘴唇等干扰图像后,将干扰图像消除。如果在消除嘴唇等干扰图像后目标图像还包括剩余图像,进一步根据剩余图像的位置、形状和尺寸判断剩余图像是否为舌头,如果是则确定待处理图像上包括舌头,即包括非面部ROI,否则确定待处理图像上不包括非面部ROI;如果在消除嘴唇等干扰图像后目标图像被完全消除,则确定待处理图像上不包括非面部ROI。
在本发明一个实施例中,非面部ROI可以为舌头、牙齿、眼球及胡须中的任意一种。这样,本发明实施例所提供的非面部ROI识别方法可以对多种非面部感兴趣区域进行识别,从而提高了该非面部ROI识别方法的适用性。
下面以舌头作为非面部ROI为例,对本发明实施例提供的非面部ROI识别的方法作进一步详细说明,如图2所示,该方法可以包括以下步骤:
步骤201:获取待处理图像。
在本发明一个实施例中,实时获取待处理图像。当待处理图像以视频流的形式输入时,将视频流中的每一帧图像作为一个待处理图像。
例如,在用户A与用户B进行趣味视频聊天时,通过摄像头采集用户A的视频数据,将所采集到的视频数据包括的每一帧图像作为一个待处理图像,获取第一帧待处理图像。
步骤202:判断待处理图像中是否包括面部图像,如果是,执行步骤203,否则执行步骤201。
在本发明一个实施例中,在获取到待处理图像后,对待处理图像进行人脸识别,识别待处理图像中是否包括面部图像,如果是,执行步骤203,进一步识别待处理图像上是否包括非面部ROI;如果否,则执行步骤201,获取下一个待处理图像。
例如,在获取到摄像头采集到的第一帧待处理图像后,识别该待处理图像上是否包括人脸的图像,如果是,针对该待处理图像执行步骤203;如果待处理图像上不包括人脸的图像,则执行步骤201,获取摄像头采集到的下一帧待处理图像,及第二帧待处理图像。
步骤203:在待处理图像上确定至少一个面部关键点。
在本发明一个实施例中,在确定待处理图像上面部人脸图像后,在待处理图像上确定至少一个面部关键点,其中面部关键点位于待处理图像所包括的面部图像上。
例如,在确定待处理图像A包括面部图像后,在待处理图像A上确定三个面部关键点,其中,面部关键点a为用户A面部图像上左眼所在位置,面部关键点b为用户A面部图像上右眼所在位置,面部关键点c为用户A面部图像上鼻尖所在位置。
步骤204:根据各个面部关键点确定至少一个颜色样本区域。
在本发明一个实施例中,根据步骤203中确定出的至少一个面部关键点,在待处理图像所包括的面部图像上确定至少一个颜色样本区域。
例如,在待处理图像A所包括的用户A的面部图像上确定2个颜色样本区域,其中,颜色样本区域d为用户A面部图像上左侧颧骨所在的区域,颜色样本区域e为用户A面部图像上右侧颧骨所在的区域。
步骤205:根据至少一个颜色样本区域,从待处理图像中提取面部图像。
在本发明一个实施例中,针对于每一个颜色样本区域,通过颜色分析获取该颜色样本区域对应的样本颜色,确定该样本颜色在待处理图像各个区域的归一化出现频率。将待处理图像上与该颜色样本区域相邻,且归一化出现频率大于预设阈值的区域作为该颜色样本区域对应的面部区域。将各个颜色样本区域对应的面部区域进行组合,形成组合面部区域,将待处理图像上位于组合面部区域内的图像确定为面部图像。
例如,通过对颜色样本区域d进行颜色分析,确定颜色样本区域d内图像的颜色为颜色X,将颜色X确定为颜色样本区域d的样本颜色;确定颜色X在整个待处理图像A上各个区域的归一化出现频率,将待处理图像A上与颜色样本区域d相邻且颜色X的归一化出现频率大于预设阈值80%的区域确定为颜色样本区域d对应的面部区域,比如确定出颜色样本区域d对应的面部区域为待处理图像A上用户A左半边脸、额头、下巴及鼻子的区域。相应地,通过相同的方法确定出颜色样本区域e对应的面部区域为待处理图像A上用户A右半边脸及额头的区域。将颜色样本区域d与颜色样本区域e对应的面部区域进行组合后,组合面部区域包括了待处理图像A上除用户A眼睛及嘴部之外的其他各个面部区域。从待处理图像A上提取位于组合面部区域之内的图像作为面部图像,即提取到除眼睛和嘴部之外用户A的面部图像。
步骤206:对面部图像进行掩膜消除,获得可能包括非面部ROI的目标区域。
在本发明一个实施例中,在获取到面部图像之后,对待处理图像上的面部图像进行掩膜消除,消除面部图像后获得待处理图像上可能包括非面部ROI的目标区域。
例如,在待处理图像A上对步骤205中获得的面部图像进行掩膜消除后,获得可能包括用户A舌头图像的嘴部图像,将嘴部图像确定为目标图像。
步骤207:根据各个面部关键点,对目标图像中的干扰图像进行消除,获得剩余图像。
在本发明一个实施例中,在获得目标图像后,根据步骤203中确定出的各个面部关键点,定位目标图像中存在的干扰图像,在将目标图像中的干扰图像消除后获得可能为非面部ROI的剩余图像。
例如,通过面部关键点a(左眼位置)、面部关键点b(有眼位置)和面部关键点c(鼻尖位置)对目标图像(嘴部图像)上的干扰图像(嘴唇图像)进行定位,在确定嘴唇图像的区域后,对目标图像上的嘴唇图像进行消除,将消除嘴唇图像后的目标图像作为剩余图像。
步骤208:根据剩余图像的位置、形状及尺寸,确定剩余图像是否为非面部ROI。
在本发明一个实施例中,在获得剩余图像后,根据剩余图像与各个面部关键点的相对位置,以及剩余图像的形状及相对于面部图像的尺寸,确定剩余图像是否为非面部ROI。
例如,如果在消除干扰图像后的目标图像上还包括有图像,即存在剩余图像,确定剩余图像相对于面部关键点a、面部关键点b及面部关键点c的位置,判断剩余图像是否位于舌头可能出现的位置,如果是,则进一步判断剩余图像的形状和尺寸是否与舌头的图像相符,如果是,则确定待处理图像A上存在舌头的图像,在用户B端的显示设备上显示与舌头相对应的特效。如果在消除干扰图像后的目标图像被完全消除,或者虽然有剩余图像存在,但剩余图像的位置、形状或尺寸与舌头的位置、形状及尺寸不赌赢,则确定待处理图像A上部存在舌头的图像,相应地不会在用户B端的显示设备上显示与舌头相对应的特效。
如图3、图4所示,本发明实施例提供了一种非面部ROI识别的装置。装置实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。从硬件层面而言,如图3所示,为本发明实施例提供的非面部ROI识别的装置所在设备的一种硬件结构图,除了图3所示的处理器、内存、网络接口以及非易失性存储器之外,实施例中装置所在的设备通常还可以包括其他硬件,如负责处理报文的转发芯片等等。以软件实现为例,如图4所示,作为一个逻辑意义上的装置,是通过其所在设备的CPU将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。本实施例提供的非面部ROI识别的装置,包括:提取单元401、消除单元402及识别单元403;
所述提取单元401,用于从待处理的图像中确定至少一个面部关键点,根据所述至少一个面部关键点确定至少一个颜色样本区域,通过所述至少一个颜色样本区域从所述待处理的图像中提取面部图像;
所述消除单元402,用于对所述提取单元401提取出的面部图像进行掩膜消除,获得所述面部图像上非面部ROI对应的目标图像;
所述识别单元403,用于根据所述提取单元401确定的所述至少一个面部关键点及所述消除单元402获取的所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别。
在本发明一个实施例中,提取单元401包括有获取子单元;
获取子单元用于针对于每一个所述颜色样本区域,对该颜色样本区域进行颜色统计,获取该颜色样本区域对应的样本颜色,确定所述样本颜色在与该颜色样本区域相邻区域内的归一化出现频率,并将所述归一化出现频率大于预设阈值的所述相邻区域确定为该颜色样本区域对应的面部区域;并将各个所述颜色样本区域及对应的面部区域进行组合,形成组合面部区域;以及从所述待处理的图像中提取位于所述组合面部区域内的图像作为所述面部图像。
在本发明一个实施例中,所述消除单元402用于对所述面部图像进行掩膜消除,并根据所述至少一个面部关键点,从消除所述面部图像的待处理的图像上获得所述非面部ROI相对应的目标区域。
在本发明一个实施例中,所述识别单元403用于根据所述至少一个面部关键点,确定所述目标图像上干扰图像所在的区域,并将所述干扰图像消除;并根据所述目标图像上剩余图像相对于各个所述面部关键点所处位置、形状及尺寸,识别所述剩余图像是否为所述非面部ROI。
需要说明的是,上述装置内的各单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,具体内容可参见本发明方法实施例中的叙述,此处不再赘述。
本发明实施例还提供了一种可读介质,包括执行指令,当存储控制器的处理器执行所述执行指令时,所述存储控制器执行上述实施例提供的非面部ROI识别的方法。
本发明实施例还提供了一种存储控制器,包括:处理器、存储器和总线;
所述存储器用于存储执行指令,所述处理器与所述存储器通过所述总线连接,当所述存储控制器运行时,所述处理器执行所述存储器存储的所述执行指令,以使所述存储控制器执行上述实施例提供的非面部ROI识别的方法。
本发明各个实施例提供的非面部ROI识别的方法及装置,至少具有如下有益效果:
1、在本发明实施例提供的非面部ROI识别的方法及装置中,在待处理的图像中确定至少一个面部关键点后,根据确定出的面部关键点确定至少一个颜色样本区域,通过各个颜色样本区域从待处理图像上提取面部图像,通过对面部图像进行掩膜消除后获得非面部ROI可能出现的目标图像,进而根据各个面部关键点及目标图像对待处理的图像中的非面部ROI进行识别。由此可见,在对非面部ROI进行识别时,仅需要对面部图像进行掩膜消除后获得可能出现非面部ROI的目标图像,进而根据各个面部关键点识别目标图像中是否包括非面部ROI,所需处理的数据量较少,从而可以提高对非面部ROI进行识别的速率。
2、在本发明实施例提供的非面部ROI识别的方法及装置中,在识别非面部ROI时,通过颜色分析对面部图像进行消除,进而识别剩余图像是否为非面部ROI,在识别非面部ROI过程中依赖图像的颜色,因此能够在各种环境下对非面部ROI进行识别,比如待处理图像过曝光、曝光不足等,提高了该非面部ROI识别方法及装置的适用性。
3、在本发明实施例提供的非面部ROI识别的方法及装置中,通过颜色分析、统计的方法对面部图像进行消除,进而识别待处理图像中是否存在非面部ROI,相对于现有SVM及神经元网络算法提高了识别非面部ROI的速率,保证了识别非面部ROI的时效性,从而可以将该非面部ROI识别的方法及装置应用于实时性要求较高的场合,进一步提高了该非面部ROI识别方法及装置的适用性。
4、在本发明实施例提供的非面部ROI识别的方法及装置中,非面部ROI可以为舌头、牙齿、眼球以及胡须中的任意一种,因此该非面部ROI识别的方法及装置能够满足不同用户的需求,提高了该非面部ROI识别方法及装置的通用性。
需要说明的是,在本文中,诸如第一和第二之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个······”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同因素。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储在计算机可读取的存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质中。
最后需要说明的是:以上所述仅为本发明的较佳实施例,仅用于说明本发明的技术方案,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等,均包含在本发明的保护范围内。

Claims (10)

1.一种非面部ROI识别的方法,其特征在于,包括:
从待处理的图像中确定至少一个面部关键点;
根据所述至少一个面部关键点,确定至少一个颜色样本区域;
通过将所述至少一个颜色样本区域对应的面部区域进行组合,从所述待处理的图像中提取面部图像,其中,所述面部图像不包含非面部感兴趣区域ROI对应的目标图像;
通过颜色分析方法对所述面部图像进行掩膜消除,从消除所述面部图像的待处理的图像中获得所述非面部感兴趣区域ROI对应的所述目标图像;
根据所述至少一个面部关键点及所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别。
2.根据权利要求1所述的方法,其特征在于,
所述通过将所述至少一个颜色样本区域对应的面部区域进行组合,从所述待处理的图像中提取面部图像,包括:
针对于每一个所述颜色样本区域,对该颜色样本区域进行颜色统计,获取该颜色样本区域对应的样本颜色,确定所述样本颜色在与该颜色样本区域相邻区域内的归一化出现频率,并将所述归一化出现频率大于预设阈值的所述相邻区域确定为该颜色样本区域对应的面部区域;
将各个所述颜色样本区域及对应的面部区域进行组合,形成组合面部区域;
从所述待处理的图像中提取位于所述组合面部区域内的图像作为所述面部图像。
3.根据权利要求1所述的方法,其特征在于,
所述通过颜色分析方法对所述面部图像进行掩膜消除,从消除所述面部图像的待处理的图像中获得所述非面部ROI对应的所述目标图像,包括:
通过颜色分析方法对所述面部图像进行掩膜消除;
根据所述至少一个面部关键点,从消除所述面部图像的待处理的图像上获得所述非面部ROI对应的目标图像。
4.根据权利要求1所述的方法,其特征在于,
所述根据所述至少一个面部关键点及所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别,包括:
根据所述至少一个面部关键点,确定所述目标图像上干扰图像所在的区域,并将所述干扰图像消除;
根据所述目标图像上剩余图像相对于各个所述面部关键点所处位置、形状及尺寸,识别所述剩余图像是否为所述非面部ROI。
5.根据权利要求1至4中任一所述的方法,其特征在于,
所述非面部ROI包括:舌头、牙齿、眼球及胡须中的任意一个。
6.一种非面部ROI识别的装置,其特征在于,包括:提取单元、消除单元及识别单元;
所述提取单元,用于从待处理的图像中确定至少一个面部关键点,根据所述至少一个面部关键点确定至少一个颜色样本区域,通过将所述至少一个颜色样本区域对应的面部区域进行组合,从所述待处理的图像中提取面部图像,其中,所述面部图像不包含非面部感兴趣区域ROI对应的目标图像;
所述消除单元,用于通过颜色分析方法对所述提取单元提取出的面部图像进行掩膜消除,从消除所述面部图像的待处理的图像中获得所述非面部ROI对应的目标图像;
所述识别单元,用于根据所述提取单元确定的所述至少一个面部关键点及所述消除单元获取的所述目标图像,对所述待处理的图像中的所述非面部ROI进行识别。
7.根据权利要求6所述的装置,其特征在于,
所述提取单元包括:获取子单元;
所述获取子单元,用于针对于每一个所述颜色样本区域,对该颜色样本区域进行颜色统计,获取该颜色样本区域对应的样本颜色,确定所述样本颜色在与该颜色样本区域相邻区域内的归一化出现频率,并将所述归一化出现频率大于预设阈值的所述相邻区域确定为该颜色样本区域对应的面部区域;并将各个所述颜色样本区域及对应的面部区域进行组合,形成组合面部区域;以及从所述待处理的图像中提取位于所述组合面部区域内的图像作为所述面部图像。
8.根据权利要求6所述的装置,其特征在于,
所述消除单元,用于通过颜色分析方法对所述面部图像进行掩膜消除,并根据所述至少一个面部关键点,从消除所述面部图像的待处理的图像上获得所述非面部ROI相对应的目标区域;
和/或,
所述识别单元,用于根据所述至少一个面部关键点,确定所述目标图像上干扰图像所在的区域,并将所述干扰图像消除;并根据所述目标图像上剩余图像相对于各个所述面部关键点所处位置、形状及尺寸,识别所述剩余图像是否为所述非面部ROI。
9.一种可读介质,其特征在于,包括执行指令,当存储控制器的处理器执行所述执行指令时,所述存储控制器执行权利要求1至5中任一所述的方法。
10.一种存储控制器,其特征在于,包括:处理器、存储器和总线;
所述存储器用于存储执行指令,所述处理器与所述存储器通过所述总线连接,当所述存储控制器运行时,所述处理器执行所述存储器存储的所述执行指令,以使所述存储控制器执行权利要求1至5中任一所述的方法。
CN201710090091.6A 2017-02-20 2017-02-20 一种非面部roi识别方法及装置 Active CN106778751B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201710090091.6A CN106778751B (zh) 2017-02-20 2017-02-20 一种非面部roi识别方法及装置
PCT/CN2018/075675 WO2018149350A1 (zh) 2017-02-20 2018-02-07 一种非面部roi识别方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710090091.6A CN106778751B (zh) 2017-02-20 2017-02-20 一种非面部roi识别方法及装置

Publications (2)

Publication Number Publication Date
CN106778751A CN106778751A (zh) 2017-05-31
CN106778751B true CN106778751B (zh) 2020-08-21

Family

ID=58957700

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710090091.6A Active CN106778751B (zh) 2017-02-20 2017-02-20 一种非面部roi识别方法及装置

Country Status (2)

Country Link
CN (1) CN106778751B (zh)
WO (1) WO2018149350A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106778751B (zh) * 2017-02-20 2020-08-21 迈吉客科技(北京)有限公司 一种非面部roi识别方法及装置
CN108197593B (zh) * 2018-01-23 2022-02-18 深圳极视角科技有限公司 基于三点定位方法的多尺寸人脸表情识别方法及装置
CN110210319A (zh) * 2019-05-07 2019-09-06 平安科技(深圳)有限公司 计算机设备、舌体照片体质识别装置及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006103241A2 (fr) * 2005-03-31 2006-10-05 France Telecom Système et procédé de localisation de points d'intérêt dans une image d'objet mettant en œuvre un réseau de neurones
CN102663682A (zh) * 2012-03-13 2012-09-12 华中科技大学 基于感兴趣区域的自适应图像增强方法
CN105184249A (zh) * 2015-08-28 2015-12-23 百度在线网络技术(北京)有限公司 用于人脸图像处理的方法和装置
CN105787878A (zh) * 2016-02-25 2016-07-20 杭州格像科技有限公司 一种美颜处理方法及装置
CN106022214A (zh) * 2016-05-04 2016-10-12 南京工程学院 非约束环境下的有效人脸特征提取方法
CN106295566A (zh) * 2016-08-10 2017-01-04 北京小米移动软件有限公司 人脸表情识别方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106778751B (zh) * 2017-02-20 2020-08-21 迈吉客科技(北京)有限公司 一种非面部roi识别方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006103241A2 (fr) * 2005-03-31 2006-10-05 France Telecom Système et procédé de localisation de points d'intérêt dans une image d'objet mettant en œuvre un réseau de neurones
CN102663682A (zh) * 2012-03-13 2012-09-12 华中科技大学 基于感兴趣区域的自适应图像增强方法
CN105184249A (zh) * 2015-08-28 2015-12-23 百度在线网络技术(北京)有限公司 用于人脸图像处理的方法和装置
CN105787878A (zh) * 2016-02-25 2016-07-20 杭州格像科技有限公司 一种美颜处理方法及装置
CN106022214A (zh) * 2016-05-04 2016-10-12 南京工程学院 非约束环境下的有效人脸特征提取方法
CN106295566A (zh) * 2016-08-10 2017-01-04 北京小米移动软件有限公司 人脸表情识别方法及装置

Also Published As

Publication number Publication date
CN106778751A (zh) 2017-05-31
WO2018149350A1 (zh) 2018-08-23

Similar Documents

Publication Publication Date Title
CN108701216B (zh) 一种人脸脸型识别方法、装置和智能终端
US11227158B2 (en) Detailed eye shape model for robust biometric applications
US9013489B2 (en) Generation of avatar reflecting player appearance
KR102443026B1 (ko) 가상 아바타 발생 방법 및 장치, 및 저장 매체
CN110866466B (zh) 一种人脸识别方法、装置、存储介质和服务器
CN109712144A (zh) 面部图像的处理方法、训练方法、设备和存储介质
CN111033442A (zh) 用于稳健的生物特征应用的详细的眼睛形状模型
CN106778751B (zh) 一种非面部roi识别方法及装置
US20230081982A1 (en) Image processing method and apparatus, computer device, storage medium, and computer program product
CN111597910A (zh) 一种人脸识别方法、装置、终端设备及介质
JP6784261B2 (ja) 情報処理装置、画像処理システム、画像処理方法及びプログラム
KR20150064977A (ko) 얼굴정보 기반의 비디오 분석 및 시각화 시스템
CN110728242A (zh) 基于人像识别的图像匹配方法、装置、存储介质及应用
KR100839536B1 (ko) 얼굴 특징점 추출 장치 및 그 방법, 머리카락 추출 장치 및 그 방법, 실사 캐릭터 생성 시스템 및 그 방법
Kim et al. Facial landmark extraction scheme based on semantic segmentation
US11361467B2 (en) Pose selection and animation of characters using video data and training techniques
Teng et al. Facial expressions recognition based on convolutional neural networks for mobile virtual reality
Lestriandoko et al. The contribution of different face parts to deep face recognition
Alrabiah et al. Unconstrained Gender Recognition from Periocular Region Using Multiscale Deep Features.
Pistola et al. Biometric Identification Using Facial Motion Amplification
Mollah et al. Improvement of haar feature based face detection incorporating human skin color analysis
JP2022119467A (ja) 脈波推定装置、脈波推定方法および脈波推定プログラム
KR20210109167A (ko) 3d 카메라를 이용한 머리카락 영역 검출 방법 및 이를 위한 장치
Ma et al. A lip localization algorithm under variant light conditions
Indriyani et al. An Efficient Segmentation of U-area and T-area on Facial Images by Using Matlab with Hough Transform and Viola-Jones Algorithm Base

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant