CN117253270A - 人脸属性检测优化方法、装置、设备、存储介质及产品 - Google Patents
人脸属性检测优化方法、装置、设备、存储介质及产品 Download PDFInfo
- Publication number
- CN117253270A CN117253270A CN202311130746.XA CN202311130746A CN117253270A CN 117253270 A CN117253270 A CN 117253270A CN 202311130746 A CN202311130746 A CN 202311130746A CN 117253270 A CN117253270 A CN 117253270A
- Authority
- CN
- China
- Prior art keywords
- model
- feature extraction
- attribute detection
- attribute
- extraction model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 338
- 238000000034 method Methods 0.000 title claims abstract description 76
- 238000005457 optimization Methods 0.000 title claims abstract description 64
- 238000003860 storage Methods 0.000 title claims abstract description 27
- 238000000605 extraction Methods 0.000 claims abstract description 340
- 238000012549 training Methods 0.000 claims abstract description 265
- 238000004590 computer program Methods 0.000 claims description 16
- 238000013507 mapping Methods 0.000 claims description 7
- 238000004519 manufacturing process Methods 0.000 claims 1
- 230000006870 function Effects 0.000 description 23
- 239000011159 matrix material Substances 0.000 description 20
- 238000010586 diagram Methods 0.000 description 9
- 239000013598 vector Substances 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 230000001815 facial effect Effects 0.000 description 7
- 230000008901 benefit Effects 0.000 description 6
- 210000000214 mouth Anatomy 0.000 description 6
- 210000001331 nose Anatomy 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 210000001508 eye Anatomy 0.000 description 3
- 210000001061 forehead Anatomy 0.000 description 3
- 210000004209 hair Anatomy 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 208000033748 Device issues Diseases 0.000 description 1
- 241000699670 Mus sp. Species 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Human Computer Interaction (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本申请公开了一种人脸属性检测优化方法、装置、设备、存储介质及程序产品,所述人脸属性检测优化方法包括以下步骤:获取训练样本人脸图像和属性标签;根据练样本人脸图像和属性标签进行本地模型训练,确定共性特征提取模型对应的本地模型更新数据;将本地模型更新数据发送至第二设备,以供第二设备对各第一设备发送的各本地模型更新数据进行聚合,得到全局模型更新数据;接收第二设备发送的全局模型更新数据,基于全局模型更新数据更新共性特征提取模型,返回执行获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件。本申请解决了现有技术通过联邦建模的方式对人脸图像进行属性检测的准确性较低的技术问题。
Description
技术领域
本申请涉及金融科技(Fintech)的人工智能技术领域,尤其涉及一种人脸属性检测优化方法、装置、设备、存储介质及程序产品。
背景技术
随着金融科技,尤其是互联网科技金融的不断发展,越来越多的技术(如分布式、人工智能等)应用在金融领域,但金融业也对技术提出了更高的要求。
对人脸图像进行属性检测是一种应用非常广泛的功能,它是指根据人脸图片判断出人的一些属性,常见的属性检测包括年龄检测、性别检测、皮肤检测、口罩检测等。当前,使用联邦学习技术进行联邦建模,可以有效利用各方的数据进行模型训练,更好地实现对人脸图像进行属性检测。然而,不同机构对人脸图像进行属性检测有不同的需求,且不同机构的设备条件也不同,在此情况下,联邦学习要求各方的模型结构统一,则可能导致部分参与方的模型性能较差,从而导致对人脸图像进行属性检测的准确性降低。
发明内容
本申请的主要目的在于提供一种人脸属性检测优化方法、装置、设备、存储介质及程序产品,旨在解决现有技术通过联邦建模的方式对人脸图像进行属性检测的准确性较低的技术问题。
为实现上述目的,本申请提供一种人脸属性检测优化方法,所述人脸属性检测优化方法应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型;所述人脸属性检测优化方法包括以下步骤:
获取训练样本人脸图像和属性标签;
根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据;
将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备;
接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件。
本申请还提供一种人脸属性检测优化方法,所述人脸属性检测优化方法应用于第三设备,所述第三设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,其中,所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型采用如上所述的人脸属性检测优化方法训练得到;所述人脸属性检测优化方法包括以下步骤:
获取待检测人脸图像;
通过个性特征提取模型对所述待检测人脸图像进行特征提取,得到个性检测特征,并通过共性特征提取模型对所述待检测人脸图像进行特征提取,得到共性检测特征;
将所述个性检测特征和所述共性检测特征输入属性检测模型,得到属性检测结果。
本申请还提供一种人脸属性检测优化装置,所述人脸属性检测优化装置应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,所述人脸属性检测优化装置包括:
获取模块,用于获取训练样本人脸图像和属性标签;
本地训练模块,用于根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据;
发送模块,用于将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备;
更新模块,用于接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件。
本申请还提供一种人脸属性检测优化装置,所述人脸属性检测优化装置应用于第三设备,所述第三设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,其中,所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型采用如上所述的人脸属性检测优化方法训练得到,所述人脸属性检测优化装置包括:
获取模块,用于获取待检测人脸图像;
特征提取模块,用于通过个性特征提取模型对所述待检测人脸图像进行特征提取,得到个性检测特征,并通过共性特征提取模型对所述待检测人脸图像进行特征提取,得到共性检测特征;
检测模块,用于将所述个性检测特征和所述共性检测特征输入属性检测模型,得到属性检测结果。
本申请还提供一种电子设备,所述电子设备为实体设备,所述电子设备包括:存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的所述的人脸属性检测优化方法的程序,所述的人脸属性检测优化方法的程序被处理器执行时可实现如上述的人脸属性检测优化方法的步骤。
本申请还提供一种存储介质,所述存储介质为计算机可读存储介质,所述计算机可读存储介质上存储有实现人脸属性检测优化方法的程序,所述的人脸属性检测优化方法的程序被处理器执行时实现如上述的人脸属性检测优化方法的步骤。
本申请还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述的人脸属性检测优化方法的步骤。
本申请提供了一种人脸属性检测优化方法、装置、设备、存储介质及程序产品,所述人脸属性检测优化方法应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,通过获取训练样本人脸图像和属性标签,根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据,实现了基于第一设备私有的训练样本数据对个性特征提取模型、共性特征提取模型以及属性检测模型进行本地模型训练的目的,进而通过将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备,实现了联合参与联邦学习的各个第一设备共同对共性特征提取模型进行训练的目的,可以利用更多的训练样本数据进行训练,提高共性特征提取模型的精度,因此可以提高对人脸图像中的共性特征提取的准确性,从而提高对人脸图像进行属性检测的准确性,进而通过接收所述第二设备发送的全局模型参数,基于所述全局模型参数更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件,实现了利用第一设备私有的训练样本数据对个性特征提取模型的训练,以及联合多个第一设备联合对共性特征提取模型的训练。在各个第一设备所需检测的属性不同的情况下,因为用于检测的样本数据均为人脸图像,即使所需检测的属性不同或对模型性能的需求不同,检测所需的样本特征往往是部分相同的,因此可以利用共性特征提取模型提取交集部分的样本特征,同时利用个性特征提取模型提取差集部分的样本特征,这样,相比于通过联邦学习为检测不同的属性训练出相同的特征提取模型进行特征提取的方式,本申请可以实现分层的特征提取,解决模型不一致带来的聚合问题,可以通过联邦学习训练共性特征提取模型,挖掘各第一设备之间的数据共性,保持一致,以便进行聚合,有效提高共性特征提取模型的效果,而个性特征提取模型的模型结构、训练数据等均可以根据各个第一设备的自身数据和检测不同的属性的实际需求灵活地进行确定,专注挖掘本地数据的个性特征提取,而不会受到联邦学习的影响,因此个性特征提取模型的效果也会更好。因此克服了不同机构对人脸图像进行属性检测有不同的需求,且不同机构的设备条件也不同,在此情况下,联邦学习要求各方的模型结构统一,则可能导致部分参与方的模型性能较差,从而导致对人脸图像进行属性检测的准确性降低的技术缺陷,提高了通过联邦建模的方式对人脸图像进行属性检测的准确性。且只需要联邦训练共性特征提取模型,可以减少数据传输,提高联邦学习的训练效率。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图得到其他的附图。
图1为本申请人脸属性检测优化方法的第一实施例的流程示意图;
图2为本申请实施例中联邦学习系统的一种可实施方式的场景示意图;
图3为本申请实施例中步骤S20的一种可实施方式的场景示意图;
图4为本申请实施例中步骤S40的一种可实施方式的场景示意图;
图5为本申请人脸属性检测优化方法的第二实施例的流程示意图;
图6为本申请实施例中多属性检测的模型结构示意图;
图7为本申请人脸属性检测优化方法的第三实施例的流程示意图;
图8为本申请实施例中人脸属性检测优化装置的结构示意图;
图9为本申请实施例中人脸属性检测优化方法涉及的硬件运行环境的设备结构示意图。
本申请目的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所得到的所有其它实施例,均属于本发明保护的范围。
实施例一
本申请实施例提供一种人脸属性检测优化方法,在本申请人脸属性检测优化方法的第一实施例中,参照图1,所述人脸属性检测优化方法应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型;所述人脸属性检测优化方法包括以下步骤:
步骤S10,获取训练样本人脸图像和属性标签;
本实施例方法的执行主体可以是一种人脸属性检测优化装置,也可以是一种人脸属性检测优化终端设备或服务器,本实施例以人脸属性检测优化装置进行举例,该人脸属性检测优化装置可以集成在具有数据处理功能的智能手机、计算机等终端设备上。
对人脸图像进行属性检测是一种应用非常广泛的功能,它是指根据人脸图片判断出人的一些属性,常见的属性检测包括年龄检测、性别检测、皮肤检测、口罩检测等。不同的机构对属性检测有不同的需求,例如,公司A希望对年龄和性别进行检测,公司B希望对是否戴口罩进行检测,公司C希望对性别和口罩进行检测等,且不同机构的设备条件也不同,因此对模型性能的需求也会不同,例如一些机构对响应速度有要求,一些机构可能对精度要求较高。
对人脸图像进行属性检测的模型通常可以抽象为两个部分,即,特征提取层和任务层,其中,任务层可以根据实际所需检测的属性进行确定,若不同机构所需检测的属性不同,则任务层往往不同,例如如果是性别检测,则任务层是一个二分类的网络,如果是年龄检测,可以构建为一个回归模型等。
而用于检测的样本数据均为人脸图像,即使所需检测的属性不同或对模型性能的需求不同,检测所需的样本特征往往是部分相同的。在此情况下,如果各个机构各自进行训练,既费时费力,重复执行了很多相同的工作,且训练样本的数量和丰富性都不如联邦学习,因此可以联合多个机构对特征提取层进行横向联邦训练。横向联邦学习是在各个参与者的数据特征重叠较多,而用户重叠较少的情况下,取出参与者数据特征相同而用户不完全相同的那部分数据进行联合机器学习,通过扩展样本的数量可以提高基于人脸图像进行属性检测的检测准确性。
但又因为不同机构所需检测的属性不同,因此要能够准确检测出不同的属性,所需的样本特征往往不会完全相同,例如,若要检测是否佩戴口罩,可能主要提取嘴、鼻、耳朵区域的特征,而若要检测年龄,可能需要提取嘴、鼻、眼睛、额头、头发区域的特征,而联邦学习要求各方的模型结构统一;不同机构对模型性能的需求不同,选用的特征提取模型也可能不同,例如一些机构对响应速度有要求,那么特征提取模型可能会采用轻量级的模型,如mobilenet;有一些机构可能对精度要求较高,那么特征提取模型可能会采用如resnet等。
因此,如果采用联邦学习对不同机构的特征提取模型进行联邦训练,难以满足每一个参与方的实际需求,因此可能导致部分参与方属性检测的准确性降低,也可能导致部分参与方的设备条件无法满足模型训练和应用的需求,也可能因对参与方限制较多导致能够参与联邦学习的参与方数量较少等等。由此可知,因为不同的参与方所需检测的属性不同,如果强制采样同一个模型结构,可能不是最优的选择。
在本实施例中,需要说明的是,所述人脸属性检测优化方法应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备是指联邦学习的参与方。横向联邦学习系统包括多个参与方,也即包括多个第一设备,还可以包括一个协调方。所述第二设备可以为所述协调方,也可以为其中一个参与方,具体可以根据实际情况进行确定,本实施例对此不加以限制。所述第一设备上部署有特征提取模型和属性检测模型,所述特征提取模型与所述属性检测模型串联,所述特征提取模型包括个性特征提取模型和共性特征提取模型,所述个性特征提取模型可以与所述共性特征提取模型串联或并联。在一种可实施的方式中,可以先通过共性特征提取模型对样本数据进行特征提取,得到共性特征,进而通过个性特征提取模型对所述共性特征进行特征提取,得到个性特征,进而将所述个性特征输入所述属性检测模型进行属性检测。
各个第一设备上部署的共性特征提取模型相同,在联邦训练开始之前,可以由所述第二设备下发相同的共性特征提取模型至各所述第一设备,也可以通过协商后由各所述第一设备自行建立初始的共性特征提取模型,所述共性特征提取模型的训练会利用包括己方在内的各个参与方的训练样本人脸图像进行,因此适合用于挖掘不同属性检测共同需要的共性样本特征;所述个性特征提取模型以及所述属性检测模型仅基于所述第一设备私有的本地数据进行训练,因此,所述个性特征提取模型适合用于提取共性样本特征之外的,与其他参与方所需检测的属性关联不大,但对己方所需检测的属性息息相关的特异性特征,例如,第一设备E1要检测是否佩戴口罩,因此需要提取嘴、鼻、耳朵区域的特征,第二设备E2要检测年龄,因此需要提取嘴、鼻、眼睛、额头、头发区域的特征,因此可以通过联邦学习训练出提取嘴、鼻区域特征的共性特征提取模型,而第一设备E1上部署的个性特征提取模型仅需提取耳朵区域的特征,第二设备E2上部署的个性特征提取模型仅需提取眼睛、额头、头发区域的特征。
在一种可实施的方式中,参照图2,所述联邦学习系统包括第二设备以及多个第一设备,每个第一设备上均部署有共性特征提取模型和属性检测模型,至少部分第一设备上部署有个性特征提取模型,所述属性检测模型和所述个性特征提取模型的相关参数均不会发送至第二设备进行聚合,而仅由第一设备根据己方训练样本数据进行本地训练,所述共性特征提取模型的相关参数会发送至第二设备进行聚合,并由第二设备下发聚合后的参数,以使得各所述第一设备中的所述共性特征提取模型完全相同。
作为一种示例,所述步骤S10包括:从所述第一设备私有的原始数据中获取一批量的训练样本的训练样本人脸图像,以及预先为各所述训练样本标注的属性标签。例如,若所述第一设备需要对是否戴口罩的属性进行检测,则属性标签可以为戴口罩和未戴口罩;若所述第一设备需要对年龄的属性进行检测,则属性标签可以为人脸图像中的用户的年龄。
步骤S20,根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据;
在本实施例中,需要说明的是,所述本地模型更新数据是指所述共性特征提取模型更新之后的相关数据,可以是所述共性特征提取模型的模型参数,例如,神经网络的节点之间连接的权重参数等,也可以是所述共性特征提取模型的梯度信息,例如,神经网络梯度下降算法中的梯度信息。
作为一种示例,所述步骤S20包括:将所述训练样本人脸图像转换为训练样本人脸图像矩阵,将所述训练样本人脸图像矩阵分别输入所述个性特征提取模型和所述共性特征提取模型进行特征提取,将所述个性特征提取模型提取到的特征与所述共性特征提取模型提取到的特征一同拼接成特征向量或特征矩阵,输入到所述属性检测模型中,进行属性检测,得到属性检测训练结果,根据所述属性检测训练结果与其对应的属性标签之间的差异,确定所述属性检测模型的模型损失,根据所述模型损失计算梯度,通过反向传播的方式,更新所述属性检测模型、所述个性特征提取模型以及所述共性特征提取模型,从更新后的所述共性特征提取模型中获取本地模型更新数据。
进一步地,所述根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据的步骤包括:
步骤S21,通过所述个性特征提取模型对所述训练样本人脸图像进行特征提取,得到个性训练样本特征,并通过所述共性特征提取模型对所述训练样本人脸图像进行特征提取,得到共性训练样本特征;
步骤S22,将所述个性训练样本特征和所述共性训练样本特征输入所述属性检测模型,得到属性检测训练结果;
步骤S23,根据所述属性检测训练结果和所述属性标签,确定所述属性检测模型的模型损失;
步骤S24,基于所述属性检测模型的模型损失更新所述个性特征提取模型以及所述属性检测模型,并基于所述属性检测模型的模型损失确定所述共性特征提取模型对应的本地模型更新数据。
示例性地,所述步骤S21-S24包括:将所述训练样本人脸图像转换为训练样本人脸图像矩阵,将所述训练样本人脸图像矩阵输入所述个性特征提取模型进行特征提取,得到至少一个个性训练样本特征,将所述训练样本人脸图像矩阵输入所述共性特征提取模型进行特征提取,得到至少一个共性训练样本特征,将各所述个性训练样本特征与各所述共性训练样本特征拼接成特征向量或特征矩阵,输入到所述属性检测模型中,进行属性检测,得到属性检测训练结果,根据所述属性检测训练结果与其对应的属性标签之间的差异,确定所述属性检测模型的模型损失,根据所述模型损失计算梯度,通过反向传播的方式,更新所述属性检测模型以及所述个性特征提取模型,并确定所述共性特征提取模型对应的本地模型更新数据,可以基于所述本地模型更新数据对所述共性特征提取模型进行更新,也可以暂不进行更新,待联邦训练后,根据联邦训练结果对所述共性特征提取模型进行更新。
进一步地,所述本地模型更新数据包括所述共性特征提取模型对应的第二梯度,所述全局模型更新数据包括全局模型梯度;所述基于所述属性检测模型的模型损失更新所述个性特征提取模型以及所述属性检测模型,并基于所述属性检测模型的模型损失确定所述共性特征提取模型对应的本地模型更新数据的步骤包括:
步骤A10,根据所述属性检测模型的模型损失确定所述个性特征提取模型对应的第一梯度、所述共性特征提取模型对应的第二梯度以及所述属性检测模型对应的第三梯度;
步骤A20,基于所述第一梯度更新所述个性特征提取模型,并基于所述第三梯度更新所述属性检测模型;
所述将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备的步骤包括:
步骤A30,将所述第二梯度发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述第二梯度进行聚合,得到全局模型梯度,并将所述全局模型梯度发送至各所述第一设备;
所述接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型的步骤包括:
步骤A40,接收所述第二设备发送的全局模型梯度,基于所述全局模型梯度更新所述共性特征提取模型。
示例性地,所述步骤A10-A40包括:可以采用梯度下降算法,计算表征所述属性检测训练结果与其对应的属性标签之间的误差的损失函数,计算损失函数相对于所述属性检测模型中各个模型参数的第三梯度、损失函数相对于所述个性特征提取模型中各个模型参数的第一梯度以及损失函数相对于所述共性特征提取模型中各个参数的第二梯度。进而,基于所述第一梯度更新所述个性特征提取模型,并基于所述第三梯度更新所述属性检测模型,暂不对所述共性特征提取模型进行更新,而是先将本地训练后得到的所述第二梯度确定为所述共性特征提取模型对应的本地模型更新数据,发送至第二设备进行联邦训练,所述第二设备在接收到各所述第一设备发送的各所述第二梯度之后,对各所述第二梯度进行聚合,得到全局模型梯度,并将所述全局模型梯度发送至各所述第一设备。在接收到所述第二设备联邦训练之后返回的全局模型梯度之后,基于所述全局模型梯度更新所述共性特征提取模型。其中,损失函数可以采用均方根误差损失函数、交叉熵损失函数等,具体可以根据属性检测模型的类型进行确定,本实施例对此不加以限制。
进一步地,所述基于所述属性检测模型的模型损失更新所述个性特征提取模型以及所述属性检测模型,并基于所述属性检测模型的模型损失确定所述共性特征提取模型对应的本地模型更新数据的步骤包括:
步骤B10,基于所述属性检测模型的模型损失更新所述个性特征提取模型、所述属性检测模型以及所述共性特征提取模型;
步骤B20,将更新后的所述共性特征提取模型的模型参数确定为所述共性特征提取模型对应的本地模型更新数据。
示例性地,所述步骤B10-B20包括:可以采用梯度下降算法,计算表征所述属性检测训练结果与其对应的属性标签之间的误差的损失函数,计算损失函数相对于所述属性检测模型中各个模型参数的第三梯度、损失函数相对于所述个性特征提取模型中各个模型参数的第一梯度以及损失函数相对于所述共性特征提取模型中各个参数的第二梯度。进而,基于所述第一梯度更新所述个性特征提取模型,基于所述第二梯度更新所述共性特征提取模型,并基于所述第三梯度更新所述属性检测模型。获取更新后的所述共性特征提取模型的模型参数,将所述模型参数确定为所述共性特征提取模型对应的本地模型更新数据,发送至第二设备进行联邦训练,所述第二设备在接收到各所述第一设备发送的各所述模型参数之后,对各所述模型参数进行聚合,得到全局模型参数,将所述全局模型参数确定为全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备。在接收到所述第二设备联邦训练之后返回的全局模型更新数据之后,用所述全局模型更新数据替换所述共性特征提取模型中对应的模型参数,实现对所述共性特征提取模型的更新。其中,损失函数可以采用均方根误差损失函数、交叉熵损失函数等,具体可以根据属性检测模型的类型进行确定,本实施例对此不加以限制。
进一步地,所述个性特征提取模型包括图像个性特征提取模型以及至少一个多模态个性特征提取模型,所述个性训练样本特征包括图像个性训练样本特征至少一个多模态个性训练样本特征;
所述通过所述个性特征提取模型对所述训练样本人脸图像进行特征提取,得到个性训练样本特征的步骤包括:
步骤S211,获取至少一个模态的训练样本多模态数据;
步骤S212,根据模态与多模态个性特征提取模型之间的映射关系,将各所述训练样本多模态数据输入各自对应的多模态个性特征提取模型,得到至少一个多模态个性训练样本特征,并将所述训练样本人脸图像输入所述图像个性特征提取模型,得到图像个性训练样本特征。
在各个机构基于人脸图像检测的属性类型不同的情况下,由于各个机构采集样本数据的方式不同,获得的样本数据的类型可能不同,例如,有的机构可能是拍照的方式采集样本数据,那么获得的样本数据则是图片,有的机构可能是拍摄视频加录音的方式采集样本数据,那么获得的样本数据则可以包括视频和声音,有的机构可能还可以获得用户输入的文字信息,例如调查问卷、身份信息等等,那么获得的样本数据则可以包括图像和文字,但不同机构可以获得的样本数据的类型可能不同,因此模型结构也会不同,难以通过横向联邦学习进行模型训练。利用可以获得的多模态的样本数据,可以辅助人脸图像实现属性检测,且可以有效提高属性检测的准确性。特别在通过联邦学习对人脸图像对应的共性特征提取模型进行训练的情况下,受限于参与联邦学习的多个第一设备对不同类型属性进行检测的不同需求,共性特征提取模型的精度可能无法达到最理想的水平,通过对能够获取到的其他模态的样本数据进行特征提取,与共性特征提取模型提取到的人脸图像的特征一同输入属性检测模型进行属性检测,可以有效提高属性检测的准确性。
在本实施例中,需要说明的是,所述训练样本多模态数据是指采集到的除图像之外的其他模态的样本数据;所述个性特征提取模型包括图像个性特征提取模型以及至少一个多模态个性特征提取模型,所述多模态个性特征提取模型是指用于对除图像数据之外的其他模态的样本数据进行特征提取的特征提取模型,包括文字个性特征提取器、视频个性特征提取器、音频个性特征提取器等中的至少一种,具体可以根据各个机构可以获得的样本数据的类型进行确定,本实施例对此不加以限制。所述个性训练样本特征包括图像个性训练样本特征至少一个多模态个性训练样本特征,所述多模态个性训练样本特征包括文字训练样本特征、视频训练样本特征、音频训练样本特征等中的至少一种。
示例性地,所述步骤S211-S212包括:从所述第一设备私有的原始数据中获取各所述训练样本各自对应的训练样本多模态数据,将所述训练样本多模态数据转换为训练样本多模态数据矩阵,基于模态将所述训练样本多模态数据矩阵与各所述多模态个性特征提取模型一一对应,将所述训练样本多模态数据矩阵输入各自对应的多模态个性特征提取模型进行特征提取,得到至少一个多模态个性训练样本特征;并将所述训练样本人脸图像转换为训练样本人脸图像矩阵,将所述训练样本人脸图像矩阵输入所述图像个性特征提取模型,得到图像个性训练样本特征。
步骤S30,将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备;
作为一种示例,所述步骤S30包括:在本地模型训练之后,将更新后的所述共性特征提取模型对应的本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备。其中,所述第二设备对各所述本地模型更新数据进行聚合可以采用FedSGD(Federated Stochastic Gradient Descent,联邦随机梯度下降)算法、FedAvg(Federated Average,联邦平均)算法等,具体可以根据实际需要进行确定,本实施例对此不加以限制。
步骤S40,接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件。
在本实施例中,需要说明的是,所述预设联邦训练结束条件可以为参与联邦学习的全部第一设备中超过预设数量的第一设备中的属性检测模型收敛,或者是达到联邦学习的预设最大迭代次数,或者是达到联邦学习的预设最大训练时间等等,具体可以根据实际情况进行确定,本实施例对此不加以限制。
作为一种示例,所述步骤S40包括:接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据将所述共性特征提取模型更新至与参与联邦学习的各个第一设备中的共性特征提取模型相同,返回执行所述获取训练样本人脸图像和属性标签的步骤,开始新一轮的联邦训练,直至满足预设联邦训练结束条件,完成对各所述第一设备中部署的个性特征提取模型、共性特征提取模型以及属性检测模型的训练,获得训练好的个性特征提取模型、训练好的共性特征提取模型以及训练好的属性检测模型。
在一种可实施的方式中,不失一般性,假设当前处在第t轮联邦训练中,设第i个第一设备的模型记为它由三个部分构成,其中属性检测模型记为/>个性特征提取模型记为/>共性特征提取模型记为/>参照图3,经过本地模型训练后,模型变为各所述第一设备将本地模型训练后的共性特征提取模型的模型参数发送至第二设备进行聚合,/>并将聚合后的模型参数发送至各个第一设备,参照图4,各个第一设备基于聚合后的模型参数更新共性特征提取模型。
在本实施例中,所述人脸属性检测优化方法应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,通过获取训练样本人脸图像和属性标签,根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据,实现了基于第一设备私有的训练样本数据对个性特征提取模型、共性特征提取模型以及属性检测模型进行本地模型训练的目的,进而通过将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备,实现了联合参与联邦学习的各个第一设备共同对共性特征提取模型进行训练的目的,可以利用更多的训练样本数据进行训练,提高共性特征提取模型的精度,因此可以提高对人脸图像中的共性特征提取的准确性,从而提高对人脸图像进行属性检测的准确性,进而通过接收所述第二设备发送的全局模型参数,基于所述全局模型参数更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件,实现了利用第一设备私有的训练样本数据对个性特征提取模型的训练,以及联合多个第一设备联合对共性特征提取模型的训练。在各个第一设备所需检测的属性不同的情况下,因为用于检测的样本数据均为人脸图像,即使所需检测的属性不同或对模型性能的需求不同,检测所需的样本特征往往是部分相同的,因此可以利用共性特征提取模型提取交集部分的样本特征,同时利用个性特征提取模型提取差集部分的样本特征,这样,相比于通过联邦学习为检测不同的属性训练出相同的特征提取模型进行特征提取的方式,本申请可以实现分层的特征提取,解决模型不一致带来的聚合问题,可以通过联邦学习训练共性特征提取模型,挖掘各第一设备之间的数据共性,保持一致,以便进行聚合,有效提高共性特征提取模型的效果,而个性特征提取模型的模型结构、训练数据等均可以根据各个第一设备的自身数据和检测不同的属性的实际需求灵活地进行确定,专注挖掘本地数据的个性特征提取,而不会受到联邦学习的影响,因此个性特征提取模型的效果也会更好。因此克服了不同机构对人脸图像进行属性检测有不同的需求,且不同机构的设备条件也不同,在此情况下,联邦学习要求各方的模型结构统一,则可能导致部分参与方的模型性能较差,从而导致对人脸图像进行属性检测的准确性降低的技术缺陷,提高了通过联邦建模的方式对人脸图像进行属性检测的准确性。且只需要联邦训练共性特征提取模型,可以减少数据传输,提高联邦学习的训练效率。
实施例二
进一步地,参照图5,基于本申请上述实施例,在本申请的第二实施例中,与上述实施例相同或相似的内容,可以参考上文介绍,后续不再赘述。在此基础上,所述属性检测模型的数量为多个,分别用于检测不同属性,所述个性特征提取模型的数量为多个,所述属性标签包括各所述属性各自对应的属性标签;
所述根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据的步骤包括:
步骤C10,通过各所述个性特征提取模型对所述训练样本人脸图像进行特征提取,得到多个个性训练样本特征,并通过所述共性特征提取模型对所述训练样本人脸图像进行特征提取,得到共性训练样本特征;
在本实施例中,需要说明的是,有的机构自己就有多种属性的检测需求,例如,既要检测年龄又要检测性别,或者既要检测年龄又要检测是否佩戴口罩等等。在此情况下,若分别作为一个参与方,参与联邦学习,需要重复很多相同的工作,且数据传输量也会翻倍。因此,参照图6,对于有多种属性的检测需求的第一设备,可以仅部署一个共性特征提取模型,不同的属性检测共用这一个共性特征提取模型,而针对于不同的属性,分别部署不同的属性检测模型和个性特征提取模型。这样,在本地模型训练的时候,可以通过一批次数据同时训练多组模型,有效提高模型训练效率,且由于共用同一个共性特征提取模型,因此参与联邦训练时,可以仅需要传输一次数据,可以有效减少数据的传输,提升联邦学习的训练效率。
作为一种示例,所述步骤C10包括:将所述训练样本人脸图像转换为训练样本人脸图像矩阵,将所述训练样本人脸图像矩阵输入各所述个性特征提取模型进行特征提取,得到多组个性训练样本特征,每组个性训练样本特征可以包括一个或多个由同一个个性特征提取模型提取的个性训练样本特征;并将所述训练样本人脸图像矩阵输入所述共性特征提取模型进行特征提取,得到一组共性训练样本特征,一组共性训练样本特征中可以包括一个或多个共性训练样本特征。
步骤C20,根据预设的属性检测模型与个性特征提取模型之间的映射关系,将各所述个性训练样本特征与所述共性训练样本特征组合后输入各所述个性训练样本特征各自对应的属性检测模型,得到不同属性各自对应的属性检测训练结果;
作为一种示例,所述步骤C20包括:根据预设的属性检测模型与个性特征提取模型之间的映射关系,根据输出各所述个性训练样本特征的个性特征提取模型,确定各所述个性训练样本特征各自对应的属性检测模型。进而将所需输入到同一个属性检测模型的一个或多个个性训练样本特征与共性训练样本特征拼接成特征向量或特征矩阵,将所述特征向量或特征矩阵输入各自对应的属性检测模型进行属性检测,得到不同属性各自对应的属性检测训练结果。其中,每个属性检测模型可以与一个或多个个性特征提取模型对应。
步骤C30,根据各所述属性各自对应的属性检测训练结果和各自对应的属性标签,确定各所述属性检测模型的模型损失;
作为一种示例,所述步骤C30包括:确定每个训练样本的每个属性各自对应的属性检测训练结果和各自对应的属性标签,计算表征每个训练样本的每个属性各自对应的属性检测训练结果和各自对应的属性标签之间误差的损失函数。
步骤C40,基于各所述属性检测模型的模型损失更新各所述个性特征提取模型、各所述属性检测模型和/或所述共性特征提取模型,并确定所述共性特征提取模型对应的本地模型更新数据。
作为一种示例,所述步骤C40包括:根据所述损失函数,计算梯度,通过反向传播的方式更新各所述属性检测模型以及个所述个性特征提取模型,确定所述共性特征提取模型对应的本地模型更新数据,可以基于所述本地模型更新数据对所述共性特征提取模型进行更新,也可以暂不进行更新,待联邦训练后,根据联邦训练结果对所述共性特征提取模型进行更新。
在本实施例中,对于有多种属性的检测需求的第一设备,通过仅部署一个共性特征提取模型,不同的属性检测共用这一个共性特征提取模型,而针对于不同的属性,分别部署不同的属性检测模型和个性特征提取模型,实现了多属性检测。这样,在本地模型训练的时候,可以通过一批次数据同时训练多组模型,有效提高模型训练效率,且由于共用同一个共性特征提取模型,因此参与联邦训练时,可以仅需要传输一次数据,可以有效减少数据的传输,提升联邦学习的训练效率。不同的属性可以同时进行检测,由于共用同一个共性特征提取模型,计算资源占用减少,可以有效提高整体的检测效率;不同属性的检测模型可以同时进行训练,从而提高模型训练的效率。
实施例三
进一步地,参照图7,基于本申请上述实施例,在本申请的第三实施例中,与上述实施例相同或相似的内容,可以参考上文介绍,后续不再赘述。在此基础上,所述人脸属性检测优化方法应用于第三设备,所述第三设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,其中,所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型采用如上所述的人脸属性检测优化方法训练得到;所述人脸属性检测优化方法包括以下步骤:
步骤D10,获取待检测人脸图像;
在本实施例中,需要说明的是,所述人脸属性检测优化方法应用于第三设备,所述第三设备可以为所述第一设备,在完成对个性特征提取模型、共性特征提取模型以及属性检测模型的模型训练之后,即可在本地直接进行属性检测;所述第三设备也可以为第一设备之外的其他电子设备,在利用所述第一设备完成对个性特征提取模型、共性特征提取模型以及属性检测模型的模型训练之后,将训练好的个性特征提取模型、共性特征提取模型以及属性检测模型部署于其他电子设备上进行属性检测。具体可以根据实际情况进行确定,本实施例对此不加以限制。
作为一种示例,所述步骤D10包括:获取待检测样本的待检测人脸图像。
步骤D20,通过个性特征提取模型对所述待检测人脸图像进行特征提取,得到个性检测特征,并通过共性特征提取模型对所述待检测人脸图像进行特征提取,得到共性检测特征;
作为一种示例,所述步骤D20包括:将所述待检测人脸图像转换为待检测人脸图像矩阵,将所述待检测人脸图像矩阵输入所述个性特征提取模型进行特征提取,得到至少一个个性检测特征,将所述待检测人脸图像矩阵输入所述共性特征提取模型进行特征提取,得到至少一个共性检测特征。
步骤D30,将所述个性检测特征和所述共性检测特征输入属性检测模型,得到属性检测结果。
作为一种示例,所述步骤D30包括:将各所述个性检测特征与各所述共性检测特征拼接成特征向量或特征矩阵,输入到所述属性检测模型中,进行属性检测,得到属性检测结果。
在本实施例中,通过将人脸图像的特征分为共性特征和个性特征,分别进行提取,由于共性特征提取模型是经过联邦学习训练得到,模型训练所用样本的数量更多,样本更丰富,从而可以提高共性特征提取的准确性,且由于将共性特征提取和个性特征提取分离开,共性特征提取模型进行联邦训练时也不会受到不同属性具有的不同的个性特征的影响,且由于同时也部署了个性特征提取模型,也不会因为联邦学习而丢失不同属性检测所需的特异性的个性样本特征。这样,既可以提取到更准确的共性样本特征,又可以提取到针对于本端属性检测所需的个性样本特征,二者结合可以有效提高属性检测的准确性。
实施例四
进一步地,本申请实施例还提供一种人脸属性检测优化装置,参照图8,所述人脸属性检测优化装置应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,所述人脸属性检测优化装置包括:
获取模块10,用于获取训练样本人脸图像和属性标签;
本地训练模块20,用于根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据;
发送模块30,用于将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备;
更新模块40,用于接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件。
可选地,所述本地训练模块20,还用于:
通过所述个性特征提取模型对所述训练样本人脸图像进行特征提取,得到个性训练样本特征,并通过所述共性特征提取模型对所述训练样本人脸图像进行特征提取,得到共性训练样本特征;
将所述个性训练样本特征和所述共性训练样本特征输入所述属性检测模型,得到属性检测训练结果;
根据所述属性检测训练结果和所述属性标签,确定所述属性检测模型的模型损失;
基于所述属性检测模型的模型损失更新所述个性特征提取模型以及所述属性检测模型,并基于所述属性检测模型的模型损失确定所述共性特征提取模型对应的本地模型更新数据。
可选地,所述本地模型更新数据包括所述共性特征提取模型对应的第二梯度,所述全局模型更新数据包括全局模型梯度,所述本地训练模块20,还用于:
根据所述属性检测模型的模型损失确定所述个性特征提取模型对应的第一梯度、所述共性特征提取模型对应的第二梯度以及所述属性检测模型对应的第三梯度;
基于所述第一梯度更新所述个性特征提取模型,并基于所述第三梯度更新所述属性检测模型;
所述发送模块30,还用于:
将所述第二梯度发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述第二梯度进行聚合,得到全局模型梯度,并将所述全局模型梯度发送至各所述第一设备;
所述更新模块40,还用于:
接收所述第二设备发送的全局模型梯度,基于所述全局模型梯度更新所述共性特征提取模型。
可选地,所述本地训练模块20,还用于:
基于所述属性检测模型的模型损失更新所述个性特征提取模型、所述属性检测模型以及所述共性特征提取模型;
将更新后的所述共性特征提取模型的模型参数确定为所述共性特征提取模型对应的本地模型更新数据。
可选地,所述个性特征提取模型包括图像个性特征提取模型以及至少一个多模态个性特征提取模型,所述个性训练样本特征包括图像个性训练样本特征至少一个多模态个性训练样本特征,所述本地训练模块20,还用于:
获取至少一个模态的训练样本多模态数据;
根据模态与多模态个性特征提取模型之间的映射关系,将各所述训练样本多模态数据输入各自对应的多模态个性特征提取模型,得到至少一个多模态个性训练样本特征,并将所述训练样本人脸图像输入所述图像个性特征提取模型,得到图像个性训练样本特征。
可选地,所述属性检测模型的数量为多个,分别用于检测不同属性,所述个性特征提取模型的数量为多个,所述属性标签包括各所述属性各自对应的属性标签,所述本地训练模块20,还用于:
通过各所述个性特征提取模型对所述训练样本人脸图像进行特征提取,得到多个个性训练样本特征,并通过所述共性特征提取模型对所述训练样本人脸图像进行特征提取,得到共性训练样本特征;
根据预设的属性检测模型与个性特征提取模型之间的映射关系,将各所述个性训练样本特征与所述共性训练样本特征组合后输入各所述个性训练样本特征各自对应的属性检测模型,得到不同属性各自对应的属性检测训练结果;
根据各所述属性各自对应的属性检测训练结果和各自对应的属性标签,确定各所述属性检测模型的模型损失;
基于各所述属性检测模型的模型损失更新各所述个性特征提取模型、各所述属性检测模型和/或所述共性特征提取模型,并确定所述共性特征提取模型对应的本地模型更新数据。
本发明提供的人脸属性检测优化装置,采用上述实施例中的人脸属性检测优化方法,解决了现有技术通过联邦建模的方式对人脸图像进行属性检测的准确性较低的技术问题。与现有技术相比,本发明实施例提供的人脸属性检测优化装置的有益与上述实施例提供的人脸属性检测优化方法的有益相同,且该人脸属性检测优化装置中的其他技术特征与上述实施例方法公开的特征相同,在此不做赘述。
实施例五
进一步地,本申请实施例还提供一种人脸属性检测优化装置,所述人脸属性检测优化装置应用于第三设备,所述第三设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,其中,所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型采用如上所述的人脸属性检测优化方法训练得到,所述人脸属性检测优化装置包括:
获取模块,用于获取待检测人脸图像;
特征提取模块,用于通过个性特征提取模型对所述待检测人脸图像进行特征提取,得到个性检测特征,并通过共性特征提取模型对所述待检测人脸图像进行特征提取,得到共性检测特征;
检测模块,用于将所述个性检测特征和所述共性检测特征输入属性检测模型,得到属性检测结果。
实施例六
进一步地,本发明实施例提供一种电子设备,电子设备包括:至少一个处理器;以及,与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行上述实施例中的人脸属性检测优化方法。
下面参考图9,其示出了适于用来实现本公开实施例的电子设备的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如蓝牙耳机、移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图9示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图9所示,电子设备可以包括处理装置(例如中央处理器、图形处理器等),其可以根据存储在只读存储器(ROM)中的程序或者从存储装置加载到随机访问存储器(RAM)中的程序而执行各种适当的动作和处理。在RAM中,还存储有电子设备操作所需的各种程序和数组。处理装置、ROM以及RAM通过总线彼此相连。输入/输出(I/O)接口也连接至总线。
通常,以下系统可以连接至I/O接口:包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置;包括例如磁带、硬盘等的存储装置;以及通信装置。通信装置可以允许电子设备与其他设备进行无线或有线通信以交换数组。虽然图中示出了具有各种系统的电子设备,但是应理解的是,并不要求实施或具备所有示出的系统。可以替代地实施或具备更多或更少的系统。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置从网络上被下载和安装,或者从存储装置被安装,或者从ROM被安装。在该计算机程序被处理装置执行时,执行本公开实施例的方法中限定的上述功能。
本发明提供的电子设备,采用上述实施例中的人脸属性检测优化方法,解决了现有技术通过联邦建模的方式对人脸图像进行属性检测的准确性较低的技术问题。与现有技术相比,本发明实施例提供的电子设备的有益与上述实施例提供的人脸属性检测优化方法的有益相同,且该电子设备中的其他技术特征与上述实施例方法公开的特征相同,在此不做赘述。
应当理解,本公开的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式的描述中,具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
实施例七
进一步地,本实施例提供一种计算机可读存储介质,具有存储在其上的计算机可读程序指令,计算机可读程序指令用于执行上述实施例中的人脸属性检测优化方法。
本发明实施例提供的计算机可读存储介质例如可以是U盘,但不限于电、磁、光、电磁、红外线、或半导体的系统、系统或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、系统或者器件使用或者与其结合使用。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读存储介质可以是电子设备中所包含的;也可以是单独存在,而未装配入电子设备中。
上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被电子设备执行时,使得电子设备:获取训练样本人脸图像和属性标签;根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据;将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备;接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件。
或者,上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被电子设备执行时,使得电子设备:获取待检测人脸图像;通过个性特征提取模型对所述待检测人脸图像进行特征提取,得到个性检测特征,并通过共性特征提取模型对所述待检测人脸图像进行特征提取,得到共性检测特征;将所述个性检测特征和所述共性检测特征输入属性检测模型,得到属性检测结果。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该单元本身的限定。
本发明提供的计算机可读存储介质,存储有用于执行上述人脸属性检测优化方法的计算机可读程序指令,解决了现有技术通过联邦建模的方式对人脸图像进行属性检测的准确性较低的技术问题。与现有技术相比,本发明实施例提供的计算机可读存储介质的有益与上述实施例提供的人脸属性检测优化方法的有益相同,在此不做赘述。
实施例八
进一步地,本申请还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述的人脸属性检测优化方法的步骤。
本申请提供的计算机程序产品解决了现有技术通过联邦建模的方式对人脸图像进行属性检测的准确性较低的技术问题。与现有技术相比,本发明实施例提供的计算机程序产品的有益与上述实施例提供的人脸属性检测优化方法的有益相同,在此不做赘述。
以上仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利处理范围内。
Claims (11)
1.一种人脸属性检测优化方法,其特征在于,所述人脸属性检测优化方法应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型;所述人脸属性检测优化方法包括以下步骤:
获取训练样本人脸图像和属性标签;
根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据;
将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备;
接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件。
2.如权利要求1所述的人脸属性检测优化方法,其特征在于,所述根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据的步骤包括:
通过所述个性特征提取模型对所述训练样本人脸图像进行特征提取,得到个性训练样本特征,并通过所述共性特征提取模型对所述训练样本人脸图像进行特征提取,得到共性训练样本特征;
将所述个性训练样本特征和所述共性训练样本特征输入所述属性检测模型,得到属性检测训练结果;
根据所述属性检测训练结果和所述属性标签,确定所述属性检测模型的模型损失;
基于所述属性检测模型的模型损失更新所述个性特征提取模型以及所述属性检测模型,并基于所述属性检测模型的模型损失确定所述共性特征提取模型对应的本地模型更新数据。
3.如权利要求2所述的人脸属性检测优化方法,其特征在于,所述本地模型更新数据包括所述共性特征提取模型对应的第二梯度,所述全局模型更新数据包括全局模型梯度;所述基于所述属性检测模型的模型损失更新所述个性特征提取模型以及所述属性检测模型,并基于所述属性检测模型的模型损失确定所述共性特征提取模型对应的本地模型更新数据的步骤包括:
根据所述属性检测模型的模型损失确定所述个性特征提取模型对应的第一梯度、所述共性特征提取模型对应的第二梯度以及所述属性检测模型对应的第三梯度;
基于所述第一梯度更新所述个性特征提取模型,并基于所述第三梯度更新所述属性检测模型;
所述将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备的步骤包括:
将所述第二梯度发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述第二梯度进行聚合,得到全局模型梯度,并将所述全局模型梯度发送至各所述第一设备;
所述接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型的步骤包括:
接收所述第二设备发送的全局模型梯度,基于所述全局模型梯度更新所述共性特征提取模型。
4.如权利要求2所述的人脸属性检测优化方法,其特征在于,所述基于所述属性检测模型的模型损失更新所述个性特征提取模型以及所述属性检测模型,并基于所述属性检测模型的模型损失确定所述共性特征提取模型对应的本地模型更新数据的步骤包括:
基于所述属性检测模型的模型损失更新所述个性特征提取模型、所述属性检测模型以及所述共性特征提取模型;
将更新后的所述共性特征提取模型的模型参数确定为所述共性特征提取模型对应的本地模型更新数据。
5.如权利要求2所述的人脸属性检测优化方法,其特征在于,所述个性特征提取模型包括图像个性特征提取模型以及至少一个多模态个性特征提取模型,所述个性训练样本特征包括图像个性训练样本特征至少一个多模态个性训练样本特征;
所述通过所述个性特征提取模型对所述训练样本人脸图像进行特征提取,得到个性训练样本特征的步骤包括:
获取至少一个模态的训练样本多模态数据;
根据模态与多模态个性特征提取模型之间的映射关系,将各所述训练样本多模态数据输入各自对应的多模态个性特征提取模型,得到至少一个多模态个性训练样本特征,并将所述训练样本人脸图像输入所述图像个性特征提取模型,得到图像个性训练样本特征。
6.如权利要求1所述的人脸属性检测优化方法,其特征在于,所述属性检测模型的数量为多个,分别用于检测不同属性,所述个性特征提取模型的数量为多个,所述属性标签包括各所述属性各自对应的属性标签;
所述根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据的步骤包括:
通过各所述个性特征提取模型对所述训练样本人脸图像进行特征提取,得到多个个性训练样本特征,并通过所述共性特征提取模型对所述训练样本人脸图像进行特征提取,得到共性训练样本特征;
根据预设的属性检测模型与个性特征提取模型之间的映射关系,将各所述个性训练样本特征与所述共性训练样本特征组合后输入各所述个性训练样本特征各自对应的属性检测模型,得到不同属性各自对应的属性检测训练结果;
根据各所述属性各自对应的属性检测训练结果和各自对应的属性标签,确定各所述属性检测模型的模型损失;
基于各所述属性检测模型的模型损失更新各所述个性特征提取模型、各所述属性检测模型和/或所述共性特征提取模型,并确定所述共性特征提取模型对应的本地模型更新数据。
7.一种人脸属性检测优化方法,其特征在于,所述人脸属性检测优化方法应用于第三设备,所述第三设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,其中,所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型采用如权利要求1-6中任一项所述的人脸属性检测优化方法训练得到;所述人脸属性检测优化方法包括以下步骤:
获取待检测人脸图像;
通过个性特征提取模型对所述待检测人脸图像进行特征提取,得到个性检测特征,并通过共性特征提取模型对所述检测人脸图像进行特征提取,得到共性检测特征;
将所述个性检测特征和所述共性检测特征输入属性检测模型,得到属性检测结果。
8.一种人脸属性检测优化装置,所述人脸属性检测优化装置应用于联邦学习系统中的多个第一设备中的任一个,所述第一设备上部署有个性特征提取模型、共性特征提取模型以及属性检测模型,所述人脸属性检测优化装置包括:
获取模块,用于获取训练样本人脸图像和属性标签;
本地训练模块,用于根据所述训练样本人脸图像和所述属性标签对所述个性特征提取模型、所述共性特征提取模型以及所述属性检测模型进行本地模型训练,确定所述共性特征提取模型对应的本地模型更新数据;
发送模块,用于将所述本地模型更新数据发送至第二设备,以供所述第二设备对各所述第一设备发送的各所述本地模型更新数据进行聚合,得到全局模型更新数据,并将所述全局模型更新数据发送至各所述第一设备;
更新模块,用于接收所述第二设备发送的全局模型更新数据,基于所述全局模型更新数据更新所述共性特征提取模型,返回执行所述获取训练样本人脸图像和属性标签的步骤,直至满足预设联邦训练结束条件。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至7中任一项所述的人脸属性检测优化方法的步骤。
10.一种存储介质,其特征在于,所述存储介质为计算机可读存储介质,所述计算机可读存储介质上存储有实现人脸属性检测优化方法的程序,所述实现人脸属性检测优化方法的程序被处理器执行以实现如权利要求1至7中任一项所述的人脸属性检测优化方法的步骤。
11.一种产品,所述产品为计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述人脸属性检测优化方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311130746.XA CN117253270A (zh) | 2023-08-31 | 2023-08-31 | 人脸属性检测优化方法、装置、设备、存储介质及产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311130746.XA CN117253270A (zh) | 2023-08-31 | 2023-08-31 | 人脸属性检测优化方法、装置、设备、存储介质及产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117253270A true CN117253270A (zh) | 2023-12-19 |
Family
ID=89127254
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311130746.XA Pending CN117253270A (zh) | 2023-08-31 | 2023-08-31 | 人脸属性检测优化方法、装置、设备、存储介质及产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117253270A (zh) |
-
2023
- 2023-08-31 CN CN202311130746.XA patent/CN117253270A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102342604B1 (ko) | 뉴럴 네트워크 생성 방법 및 장치 | |
CN110321958B (zh) | 神经网络模型的训练方法、视频相似度确定方法 | |
CN109740018B (zh) | 用于生成视频标签模型的方法和装置 | |
CN110021052B (zh) | 用于生成眼底图像生成模型的方法和装置 | |
CN111382228B (zh) | 用于输出信息的方法和装置 | |
CN110059623B (zh) | 用于生成信息的方法和装置 | |
CN109934142B (zh) | 用于生成视频的特征向量的方法和装置 | |
CN112434620B (zh) | 场景文字识别方法、装置、设备和计算机可读介质 | |
CN112306793A (zh) | 用于监控网页的方法和装置 | |
CN110288532B (zh) | 生成全身图像的方法、装置、设备及计算机可读存储介质 | |
CN113610034B (zh) | 识别视频中人物实体的方法、装置、存储介质及电子设备 | |
CN114677350A (zh) | 连接点提取方法、装置、计算机设备及存储介质 | |
CN112037305B (zh) | 对图像中的树状组织进行重建的方法、设备及存储介质 | |
CN112561084B (zh) | 特征提取方法、装置、计算机设备及存储介质 | |
CN111915689B (zh) | 用于生成目标函数的方法、装置、电子设备和计算机可读介质 | |
CN113191257A (zh) | 笔顺检测方法、装置和电子设备 | |
CN111310595B (zh) | 用于生成信息的方法和装置 | |
CN113256339A (zh) | 资源投放的方法、装置、存储介质及电子设备 | |
CN114765062A (zh) | 基因数据处理方法、装置、计算机设备及存储介质 | |
CN110555861B (zh) | 光流计算方法、装置及电子设备 | |
CN112307243B (zh) | 用于检索图像的方法和装置 | |
CN111797822A (zh) | 文字对象评价方法、装置和电子设备 | |
CN113762585B (zh) | 数据的处理方法、账号类型的识别方法及装置 | |
CN117253270A (zh) | 人脸属性检测优化方法、装置、设备、存储介质及产品 | |
CN113255819B (zh) | 用于识别信息的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |