CN114723966B - 多任务识别方法、训练方法、装置、电子设备及存储介质 - Google Patents
多任务识别方法、训练方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114723966B CN114723966B CN202210335573.4A CN202210335573A CN114723966B CN 114723966 B CN114723966 B CN 114723966B CN 202210335573 A CN202210335573 A CN 202210335573A CN 114723966 B CN114723966 B CN 114723966B
- Authority
- CN
- China
- Prior art keywords
- sample
- feature data
- target
- obtaining
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 129
- 238000012549 training Methods 0.000 title claims abstract description 48
- 238000000605 extraction Methods 0.000 claims abstract description 221
- 238000012545 processing Methods 0.000 claims abstract description 158
- 239000011159 matrix material Substances 0.000 claims description 141
- 238000013136 deep learning model Methods 0.000 claims description 85
- 230000008569 process Effects 0.000 claims description 25
- 238000007781 pre-processing Methods 0.000 claims description 13
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000013135 deep learning Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 11
- 238000004590 computer program Methods 0.000 description 11
- 230000009471 action Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000012512 characterization method Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/285—Selection of pattern recognition techniques, e.g. of classifiers in a multi-classifier system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/771—Feature selection, e.g. selecting representative features from a multi-dimensional feature space
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/72—Data preparation, e.g. statistical preprocessing of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种多任务识别方法、训练方法、装置、电子设备及存储介质,涉及人工智能技术领域,尤其涉及为深度学习、图像处理、计算机视觉技术领域,可应用于人脸等场景。具体实现方案为:根据待识别图像,得到第一中间特征数据;基于目标选择策略和第一中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的特征提取策略,得到目标特征提取策略;基于目标特征提取策略,对第一中间特征数据进行处理,得到第二中间特征数据;根据第二中间特征数据,得到待识别图像的多任务识别结果。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及为深度学习、图像处理、计算机视觉技术领域,可应用于人脸等场景。具体地,涉及一种多任务识别方法、训练方法、装置、电子设备及存储介质。
背景技术
随着计算机技术的发展,人工智能技术也得以发展。人工智能技术可以包括计算机视觉技术、语音识别技术、自然语言处理技术、机器学习、深度学习、大数据处理技术及知识图谱技术等。
人工智能技术在各种领域得到了广泛应用。例如,可以利用人工智能技术实现多任务识别。
发明内容
本公开提供了一种多任务识别方法、训练方法、装置、电子设备及存储介质。
根据本公开的一方面,提供了一种多任务识别方法,包括:根据待识别图像,得到第一中间特征数据;基于目标选择策略和上述第一中间特征数据,从多个特征提取策略中选择与上述待识别图像匹配性最高的特征提取策略,得到目标特征提取策略;基于上述目标特征提取策略,对上述第一中间特征数据进行处理,得到第二中间特征数据;以及,根据上述第二中间特征数据,得到上述待识别图像的多任务识别结果。
根据本公开的另一方面,提供了一种深度学习模型的训练方法,包括:根据样本图像,得到第一中间样本特征数据;基于选择策略和上述第一中间样本特征数据,从多个样本特征提取策略中选择与上述样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略;基于上述目标样本特征提取策略,对上述第一中间样本特征数据进行处理,得到第二中间样本特征数据;根据上述第二中间样本特征数据,得到上述样本图像的多任务识别结果;以及,利用上述样本图像的多任务识别结果和标签值训练上述深度学习模型,得到经训练的深度学习模型。
根据本公开的另一方面,提供了一种多任务识别装置,包括:第一获得模块,用于根据待识别图像,得到第一中间特征数据;第二获得模块,用于基于目标选择策略和上述第一中间特征数据,从多个特征提取策略中选择与上述待识别图像匹配性最高的特征提取策略,得到目标特征提取策略;第三获得模块,用于基于上述目标特征提取策略,对上述第一中间特征数据进行处理,得到第二中间特征数据;以及,第四获得模块,用于根据上述第二中间特征数据,得到上述待识别图像的多任务识别结果。
根据本公开的另一方面,提供了一种深度学习模型的训练装置,包括:第五获得模块,用于根据样本图像,得到第一中间样本特征数据;第六获得模块,用于基于选择策略和上述第一中间样本特征数据,从多个样本特征提取策略中选择与上述样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略;第七获得模块,用于基于上述目标样本特征提取策略,对上述第一中间样本特征数据进行处理,得到第二中间样本特征数据;第八获得模块,用于根据上述第二中间样本特征数据,得到上述样本图像的多任务识别结果;以及,第九获得模块,用于利用上述样本图像的多任务识别结果和标签值训练上述深度学习模型,得到经训练的深度学习模型。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,上述存储器存储有可被上述至少一个处理器执行的指令,上述指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行本公开所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,上述计算机指令用于使上述计算机执行本公开所述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现本公开所述的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开实施例的可以应用多任务识别方法、深度学习模型的训练方法及装置的示例性系统架构;
图2示意性示出了根据本公开实施例的多任务识别方法的流程图;
图3示意性示出了根据本公开实施例的根据待识别图像,得到第一中间特征数据的流程图;
图4示意性示出了根据本公开实施例的基于目标选择策略和第一中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的特征提取策略,得到目标特征提取策略的流程图;
图5示意性示出了根据本公开实施例的基于目标特征提取策略,对第一中间特征数据进行处理,得到第二中间特征数据的流程图;
图6示意性示出了根据本公开实施例的根据第二中间特征数据,得到待识别图像的多任务识别结果的流程图;
图7示意性示出了根据本公开实施例的多任务识别方法的示例示意图;
图8示意性示出了根据本公开实施例的深度学习模型的训练方法的流程图;
图9A示意性示出了根据本公开实施例的深度学习模型的示例示意图;
图9B示意性示出了根据本公开实施例的主干子模块的示意示例图;
图10示意性示出了根据本公开实施例的深度学习模型的训练方法的示意示意图;
图11示意性示出了根据本公开实施例的多任务识别装置的框图;
图12示意性示出了根据本公开实施例的深度学习模型的训练装置的框图;以及
图13示意性示出了根据本公开实施例的适于实现多任务识别方法和深度学习模型的训练方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在计算机视觉的识别领域,识别模型的训练流程是利用通用公开样本集进行预训练,再利用下游识别任务的样本对经预训练的识别模型的模型参数进行微调,得到识别模型。基于上述方式,对经预训练的识别模型进行微调即可得到与下游识别任务对应的识别模型,模型的收敛速度更快,减少了计算资源的消耗。此外,某些下游识别任务的样本数目较少,相比直接训练,能够达到更高的识别精度。
然而,下游识别任务的数据分布与通用公开样本的数据分布存在差异,在微调阶段存在灾难性忘却问题,由此,影响识别精度。如果在预训练阶段进行多任务识别,即,使得与下游识别任务的数据相似的数据参与预训练阶段的模型训练,则可以有效避免微调阶段的灾难性忘却问题,从而进一步提高下游识别任务的识别精度。因此,多任务识别研究是计算机视觉的识别领域的重要课题。由此,需要设计合理的多任务识别方案,以提高多任务识别精度。
图1示意性示出了根据本公开实施例的可以应用多任务识别方法、深度学习模型的训练方法及装置的示例性系统架构。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。例如,在另一实施例中,可以应用多任务识别方法、深度学习模型的训练方法及装置的示例性系统架构可以包括终端设备,但终端设备可以无需与服务器进行交互,即可实现本公开实施例提供的多任务识别方法、深度学习模型的训练方法及装置。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如知识阅读类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等。
服务器105可以是提供各种服务的各种类型的服务器。例如,服务器105可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(Virtual Private Server,虚拟专用服务器)中,存在的管理难度大,业务扩展性弱的缺陷。服务器105也可以为分布式系统的服务器,或者是结合了区块链的服务器。
需要说明的是,本公开实施例所提供的多任务识别方法一般可以由终端设备101、102、或103执行。相应地,本公开实施例所提供的多任务识别装置也可以设置于终端设备101、102、或103中。
备选地,本公开实施例所提供的多任务识别方法一般也可以由服务器105执行。相应地,本公开实施例所提供的多任务识别装置一般可以设置于服务器105中。本公开实施例所提供的多任务识别方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的多任务识别装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
需要说明的是,本公开实施例所提供的深度学习模型的训练方法一般可以由服务器105执行。相应地,本公开实施例所提供的深度学习模型的训练装置一般可以设置于服务器105中。本公开实施例所提供的深度学习模型的训练方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的深度学习模型的训练装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
备选地,本公开实施例所提供的深度学习模型的训练方法一般也可以由终端设备101、102、或103执行。相应地,本公开实施例所提供的深度学习模型的训练装置也可以设置于终端设备101、102、或103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
应注意,以下方法中各个操作的序号仅作为该操作的表示以便描述,而不应被看作表示该各个操作的执行顺序。除非明确指出,否则该方法不需要完全按照所示顺序来执行。
图2示意性示出了根据本公开实施例的多任务识别方法的流程图。
如图2所示,该方法200包括操作S210~S240。
在操作S210,根据待识别图像,得到第一中间特征数据。
在操作S220,基于目标选择策略和第一中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的特征提取策略,得到目标特征提取策略。
在操作S230,基于目标特征提取策略,对第一中间特征数据进行处理,得到第二中间特征数据。
在操作S240,根据第二中间特征数据,得到待识别图像的多任务识别结果。
根据本公开的实施例,待识别图像可以指需要进行多任务识别的图像。多任务识别可以指针对多个任务的图像识别。多任务识别可以包括以下至少两项:活体识别、标识牌识别、障碍物识别、建筑物识别和车辆识别。活体识别可以包括以下至少一项:人脸识别和人体识别。人体识别可以包括人体动作行为识别。待识别图像可以包括以下至少一项:待识别活体图像、待识别标识牌图像、待识别障碍物图像、待识别建筑物图像和待识别车辆图像。待识别活体图像可以包括以下至少一项:待识别人脸图像和待识别人体图像。
根据本公开的实施例,目标选择策略可以指用于从多个特征提取策略中确定与待识别图像匹配性最高的特征提取策略的策略。目标选择策略可以具有与该目标选择策略对应的模型结构。即,可以利用与目标选择策略对应的模型结构来实现根据第一中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的目标特征提取策略。例如,与目标选择策略对应的模型结构可以包括专家选择单元。与待识别图像匹配性最高可以指预期能够使得根据待识别图像的多任务识别结果确定的识别精度达到预期识别精度。预期识别精度可以包括最高识别精度。目标选择策略可以包括与用于选择目标特征提取策略相关的目标参数数据。目标参数数据可以是矩阵中的元素值。目标参数数据可以是根据历史图像集和对历史图像集进行多任务识别得到的多任务识别结果确定的。历史图像集可以包括与多个任务各自对应的历史图像。
根据本公开的实施例,特征提取策略可以指能够用于处理待识别图像的特征数据的策略。目标特征提取策略可以指与待识别图像匹配性最高的特征提取策略。特征提取策略可以用于实现提取第一中间特征数据的全局特征和局部特征中的至少一项。特征提取策略可以具有与该特征提取策略对应的特征提取模型结构。即,可以利用特征提取模型结构来实现提取第一中间特征数据的全局特征和局部特征中的至少一项的特征提取策略。
根据本公开的实施例,第一中间特征数据可以包括第一类别特征数据。第二中间特征数据可以包括第二类别特征数据。类别特征数据可以指与图像在任务的类别维度相关的数据。
根据本公开的实施例,多任务识别结果可以表征待识别图像所属的目标任务的目标类别。目标任务可以是多个任务中可能性最高的任务。目标类别可以是多个类别中可能性最大的类别。可能性可以用概率值表征。可能性与概率值的关系可以根据实际业务需求进行配置,在此不作限定。例如,概率值越大,可能性越高。备选地,概率值越小,可能性越高。
根据本公开的实施例,可以对待识别图像进行处理,得到第一中间特征数据。第一中间特征数据可以包括第一类别特征数据。此外,第一中间特征数据还可以包括第一图像特征数据。可以根据基于目标选择策略对第一中间特征数据进行处理得到的结果,从多个特征提取策略中选择目标特征提取策略。再利用目标特征提取策略处理第一中间特征数据,得到第二中间特征数据。第二中间特征数据可以包括第二类别特征数据。可以根据第一类别特征数据,得到待识别图像属于多个任务各自的类别概率值。根据待识别图像属于多个任务各自的类别概率值,确定表征待识别图像所属的目标任务的目标类别的多任务识别结果。
根据本公开的实施例,操作S210~S240可以由电子设备执行。电子设备可以包括服务器或终端设备。服务器可以是图1中的服务器105。终端设备可以是图1中的终端设备101、终端设备102或终端设备103。
根据本公开的实施例,通过利用基于目标选择策略,根据第一中间特征数据,从多个特征提取策略中选择的与待识别图像匹配性最高的目标特征提取策略处理第一中间特征数据,得到第二中间特征数据,再根据第二中间特征数据,得到待识别图像的多任务识别结果。待识别图像具有与该待识别图像对应的目标特征提取策略,不同待识别图像的目标特征提取策略相同或不同,因此,实现了为待识别图像动态选择目标特征提取策略,由此,降低了不同待识别图像之间的特征提取策略的耦合程度。在此基础上,目标特征提取策略与待识别图像匹配性最高,由此,基于目标特征提取策略处理第一中间特征数据得到的多任务识别结果的多任务识别精度较高。
下面参考图3~图6,结合具体实施例对根据本公开实施例所述的多任务识别方法做进一步说明。
图3示意性示出了根据本公开实施例的根据待识别图像,得到第一中间特征数据的流程图。
如图3所示,该方法300是对图2中的操作S210的进一步限定,该方法300包括操作S311~S314。
在操作S311,对待识别图像进行处理,得到多个待识别图像块各自的对象特征数据。
在操作S312,对预定数据进行处理,得到第一类别特征数据。
在操作S313,根据多个待识别图像块各自的对象特征数据和第一类别特征数据,得到第四中间特征数据。
在操作S314,对第四中间特征数据进行处理,得到第一中间特征数据。
根据本公开的实施例,预定数据可以指与生成第一类别特征数据相关的数据。第一类别特征数据可以指与待识别图像在任务的类别维度相关的数据。类别维度可以包括以下至少一项:与活体识别相关的至少一个类别、与标识牌识别相关的至少一个类别、与障碍物识别相关的至少一个类别、与建筑物识别相关的至少一个类别和与车辆识别相关的至少一个类别。与活体识别相关的至少一个类别可以包括以至少一项:与人脸识别相关的至少一个类别和与人体识别相关的至少一个类别。
例如,与人脸识别相关的至少一个类别可以包括以下至少一项:老年人类别、中年人类别、青年人类别、少年人类别、幼儿类别和婴儿类别。与人体识别相关的至少一个类别可以包括以下至少一项:行走动作类别和运动动作类别。与车辆识别相关的至少一个类别可以包括以下至少一项:乘用车类别和商用车类别。乘用车类别可以包括以下至少一项:基本乘用车类别、多用途车辆类别、运动型多功能车类别和其他车型类别。商用车类别可以包括以下至少一项:客车类别、载货车类别、半挂车类别、客车非完整车类别和载货非完整车类别。
根据本公开的实施例,图像可以包括多个图像块。图像块可以是对图像进行划分得到的。图像块的尺寸大小可以根据实际业务需求进行配置,在此不作限定。不同图像块的尺寸大小可以相同。对象特征数据可以指图像块的特征数据。针对待识别图像,待识别图像可以包括多个待识别图像块。待识别图像块可以是对待识别图像进行划分得到的。不同待识别图像块的尺寸可以相同。
根据本公开的实施例,可以获取待识别图像和预定数据。对待识别图像进行处理,得到多个待识别图像块。可以对多个待识别图像块进行处理,得到多个待识别图像块各自的对象特征数据。对预定数据进行处理,得到第一类别特征数据。
根据本公开的实施例,将第一类别特征数据和多个待识别图像各自的对象特征数据进行拼接,得到第四中间特征数据。例如,可以将第一类别特征数据设置于预定位置处,并与多个待识别图像块各自的对象特征数据的进行拼接,得到第四中间特征数据。预定位置可以根据实际业务需求进行配置,在此不作限定。例如,待识别图像的多个待识别图像块可以形成待识别图像块序列。预定位置可以是在待识别图像块序列的起始位置之前的位置。备选地,预定位置可以是在待识别图像块序列的结束位置之后的位置。
根据本公开的实施例,在获得第四中间特征数据之后,可以对第四中间特征数据进行全局特征和局部特征中的至少一项的特征提取,得到第一中间特征数据。即,可以对第四中间特征数据进行全局特征提取,得到第一中间特征数据。备选地,对第四中间特征数据进行局部特征提取,得到第一中间特征数据。备选地,对第四中间特征数据进行全局特征和局部特征的特征提取,得到第一中间特征数据。
根据本公开的实施例,操作S311~S314可以由电子设备执行。电子设备可以包括服务器或终端设备。服务器可以是图1中的服务器105。终端设备可以是图1中的终端设备101、终端设备102或终端设备103。
根据本公开的实施例,操作S314可以包括如下操作。
基于注意力策略,对第四中间特征数据进行处理,得到第一中间特征数据。
根据本公开的实施例,注意力策略可以用于实现以高权重去聚焦重要信息,低权重去忽略非重要信息,并能通过共享重要信息与其他信息进行信息交换,从而实现重要信息的传递。在本公开实施例中,注意力策略能够提取第一类别特征数据自身、待识别图像块内部以及第一类别特征数据和待识别图像块彼此之间的信息,以更好地完成对的待识别图像的处理。
根据本公开的实施例,可以基于注意力策略,对第四中间特征数据进行处理,得到用于表征待识别图像的全局特征的第一中间特征数据。例如,可以根据注意力策略确定注意力单元。利用注意力单元处理第四中间特征数据,得到第一中间特征数据。
根据本公开的实施例,第一中间特征数据是基于注意力策略对第四中间特征数据进行处理得到的,因此,第一中间特征数据参与了全局自注意机制,耦合了全局信息,由此,可以提高多任务识别精度。
根据本公开的实施例,第一中间特征数据可以是利用深度学习模型的预期注意力单元处理第四中间特征数据得到的。
根据本公开的实施例,深度学习模型可以包括主干模块。主干模块可以包括级联的至少一个主干子模块。主干子模块可以包括注意力单元。预期注意力单元可以是至少一个注意力单元中的一个。例如,预期注意力单元可以是第1层级的主干子模块包括的注意力单元。可以利用预期注意力单元处理多个待识别图像块各自的对象特征数据和第一类别特征数据,得到第一中间特征数据。
图4示意性示出了根据本公开实施例的基于目标选择策略和第一中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的特征提取策略,得到目标特征提取策略的流程图。
如图4所示,该方法400是对图2中的操作S220的进一步限定,该方法400包括操作S421~S422。
在操作S421,基于目标选择策略和第一中间特征数据,得到第三中间特征数据。
在操作S422,根据第三中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的特征提取策略,得到目标特征提取策略。
根据本公开的实施例,第三中间特征数据可以包括与用于确定目标特征提取策略相关的信息。例如,第三中间特征数据可以是中间矩阵。中间矩阵包括的元素的元素值可以表征特征提取策略被确定为目标特征提取策略的概率。
根据本公开的实施例,可以确定与目标选择策略对应的目标选择参数数据。根据目标选择参数数据和第一中间特征数据,得到第三中间特征数据。再根据第三中间特征数据表征的信息,从多个特征提取策略中确定与待识别图像对应的目标特征提取策略。即,第三中间特征数据指示了多个特征提取策略中与待识别图像对应的目标特征提取策略的信息,根据第三中间特征数据所指示的信息,从多个特征提取策略中确定与待识别图像对应的目标特征提取策略。
根据本公开的实施例,操作S421~S422可以由电子设备执行。电子设备可以是服务器或终端设备。服务器可以是图1中的服务器105。终端设备可以是图1中的终端设备101、终端设备102或终端设备103。
根据本公开的实施例,操作S421可以包括如下操作。
根据目标选择策略,确定目标选择矩阵。根据第一中间特征数据,确定中间矩阵。根据目标选择矩阵和中间矩阵,确定目标专家概率矩阵。目标专家概率矩阵包括与多个特征提取策略各自对应的元素。元素的元素值表征特征提取策略被选择的概率。将专家概率矩阵确定为第三中间特征数据。
根据本公开的实施例,目标选择策略可以具有与该目标选择策略对应的目标选择矩阵。可以确定与目标选择策略对应的目标选择矩阵。对第一中间特征数据进行处理,得到中间矩阵。再根据目标选择矩阵和中间矩阵,得到目标专家概率矩阵。例如,可以将目标选择矩阵与中间矩阵进行加权相乘,得到目标专家概率矩阵。备选地,可以将目标选择矩阵与中间矩阵相加,得到目标专家概率矩阵。备选地,可以将目标选择矩阵与中间矩阵相减,得到目标专家概率矩阵。
根据本公开的实施例,根据目标选择矩阵和中间矩阵,确定目标专家概率矩阵,可以包括如下操作。
将目标选择矩阵与中间矩阵相乘,得到目标专家概率矩阵。
根据本公开的实施例,可以对第一中间特征数据进行处理,得到能够实现与目标选择矩阵相乘的中间矩阵。在获得目标选择矩阵和中间矩阵之后,可以将目标选择矩阵与目标专家概率矩阵相乘,得到目标专家概率矩阵。
根据本公开的实施例,根据第三中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的特征提取策略,得到目标特征提取策略,可以包括如下操作。
从目标专家概率矩阵中确定元素值为界限值的元素,得到目标元素。界限值包括最大值或最小值。将与目标元素对应的特征提取策略确定为目标特征提取策略。
根据本公开的实施例,可以从目标专家概率矩阵中确定元素值是界限值的目标元素。将与目标元素对应的特征提取策略确定为目标特征提取策略。
图5示意性示出了根据本公开实施例的基于目标特征提取策略,对第一中间特征数据进行处理,得到第二中间特征数据的流程图。
如图5所示,该方法500是对图2中的操作S230的进一步限定,该方法500包括操作S531。
在操作S531,基于目标特征提取策略,提取第一中间特征数据的全局特征和局部特征中的至少一项,得到第二中间特征数据。
根据本公开的实施例,第一中间特征数据可以包括第一类别特征数据和多个待识别图像块各自的第一对象特征数据。第二中间特征数据可以包括第二类别特征数据和多个待识别图块各自的第二对象特征数据。
根据本公开的实施例,可以基于目标特征提取策略,对第一中间特征数据进行全局特征和局部特征中的至少一项的特征提取,得到第二中间特征数据。即,可以基于目标特征提取策略对第一中间特征数据进行全局特征提取,得到第二中间特征数据。备选地,可以基于目标特征提取策略对第一中间特征数据进行局部特征提取,得到第二中间特征数据。备选地,可以基于目标特征提取策略对第一中间特征数据进行全局特征和局部特征的特征提取,得到第二中间特征数据。
根据本公开的实施例,目标特征提取策略可以包括目标注意力策略和目标局部策略中的至少一项。目标注意力策略能够用于提取第一类别特征数据自身、待识别图像块内部以及第一类别特征数据和待识别图像块彼此之间的信息,以更好地完成对的待识别图像的处理。目标局部策略可以用于实现提取第一类别特征数据自身和待识别图像块内部的信息。
根据本公开的实施例,可以基于目标注意力策略和目标局部策略中的至少一项,对第一中间特征数据进行处理,得到用于表征待识别图像的全局特征和局部特征中的至少一项的第二中间特征数据。
根据本公开的实施例,操作S531可以由电子设备执行。电子设备可以是服务器或终端设备。服务器可以是图1中的服务器105。终端设备可以是图1中的终端设备101、终端设备102或终端设备103。
根据本公开的实施例,操作S531可以包括如下操作。
从深度学习模型包括的多个专家单元中确定与目标特征提取策略对应的至少一个专家单元,得到至少一个目标专家单元。专家单元包括以下至少一项:多头自注意力层和前馈网络层。利用至少一个目标专家单元处理第一中间特征数据,得到第二中间特征数据。
根据本公开的实施例,深度学习模型可以包括主干模块。主干模块可以包括级联的至少一个主干子模块。主干子模块可以包括多个专家单元。专家单元可以包括以下至少一项:多头自注意力(Multi-Head self Attention,MHA)层和前馈网络(Feed ForwardNetwork,FFN)层。主干子模块可以是基于Transformer(即转换器)的模型结构。
根据本公开的实施例,目标特征提取策略可以具有与该目标特征提取策略对应的至少一个目标专家单元。可以利用至少一个目标专家单元处理第一中间特征数据,得到第二中间特征数据。目标专家单元可以包括以下之一:目标多头自注意力层、目标前馈网络层和级联的目标多头自注意力层和目标前馈网络层。
根据本公开的实施例,主干模块可以包括级联的M个主干子模块。M可以是大于或等于1的整数。
根据本公开的实施例,主干子模块还可以包括专家选择单元。
根据本公开的实施例,利用至少一个目标专家单元处理第一中间特征数据,得到第二中间特征数据,可以包括如下操作。
在M=1的情况下,利用第1层级的目标专家单元处理第一中间特征数据,得到第1层级的第五中间特征数据。根据第1层级的第五中间特征数据,得到第二中间特征数据。
在M>1且m>1的情况下,利用第m层级的目标专家单元处理第m层级的第六中间特征数据,得到第m层级的第五中间特征数据。第m层级的第六中间特征数据是第m层级的注意力单元处理第(m-1)层级的第五中间特征数据得到的。第m层级的目标专家单元是根据利用第m层级的专家选择单元处理第(m-1)层级的第五中间特征数据得到的结果确定的。根据第N层级的第五中间样本特征数据,得到第二中间特征数据。N是大于或等于1且小于M的整数。
根据本公开的实施例,M可以是大于或等于1的整数。N可以是大于1且小于或等于M的整数。M和N的数值可以根据实际业务需求进行配置,在此不作限定。例如,M=N=4。m∈{1,2,......,(M-1),M}。
根据本公开的实施例,可以根据第m层级的专家选择单元和待识别图像的第(m-1)层级的第五中间特征数据,从第m层级的多个专家单元中确定第m层级的目标专家单元。
根据本公开的实施例,在第m层级的目标专家单元包括多头自注意力层的情况下,利用第m层级的目标多头自注意力层处理第m层级的第六中间特征数据,得到第m层级的第五中间特征数据。
根据本公开的实施例,在第m层级的目标专家单元包括目标前馈网络层的情况下,利用第m层级的目标前馈网络层处理第m层级的第六中间特征数据,得到第m层级的第五中间特征数据。
根据本公开的实施例,在第m层级的目标专家单元包括目标多头自注意力层和目标前馈网络层的情况下,利用第m层级的目标专家单元处理第m层级的第六中间特征数据,得到第m层级的第五中间特征数据,可以包括如下操作。
利用第m层级的目标多头自注意力层处理第m层级的第六中间特征数据,得到第m层级的第七中间特征数据。利用第m层级的目标前馈网络层处理第m层级的第七中间特征数据,得到第m层级的第五中间特征数据。
根据本公开的实施例,可以将第N层级的第五中间特征数据确定为第二中间特征数据。N可以与M相等。
图6示意性示出了根据本公开实施例的根据第二中间特征数据,得到待识别图像的多任务识别结果的流程图。
根据本公开的实施例,第二中间特征数据可以包括第二类别特征数据。
如图6所示,该方法600是对图2中的操作S240的进一步限定,该方法600包括操作S641~S642。
在操作S641,根据第二类别特征数据,确定待识别图像属于多个任务各自的类别概率值,得到多个类别概率值。
在操作S642,根据多个类别概率值,得到待识别图像的多任务识别结果。
根据本公开的实施例,待识别图像的类别概率值可以指待识别图像属于多个任务的至少一个类别各自的概率值。例如,在待识别图像是待识别人脸图像,以及任务维度包括人脸识别、人体识别和车辆识别的情况下,待识别图像的类别概率值可以包括待识别人脸图像属于与人脸识别相关的至少一个类别的概率值、与人体识别相关的至少一个类别的概率值和与车辆识别相关的至少一个类别的概率值。
根据本公开的实施例,对象特征数据可以是利用深度学习模型的对象处理单元处理待识别图像块得到的。
根据本公开的实施例,第一类别特征数据可以是利用深度学习模型的类别处理单元处理预定数据得到的。
根据本公开的实施例,深度学习模型可以包括预处理模块。预处理模块可以包括对象处理单元和类别处理单元。对象处理单元可以用于对待识别图像包括的多个待识别图像块进行处理,得到多个待识别图像块各自的对象特征数据。类别处理单元可以用于对预定数据进行处理,得到第一类别特征数据。对象处理单元和类别处理单元均可以包括能够用于实现特征提取的网络结构。例如,对象处理单元可以包括卷积神经网络。类别处理单元可以包括卷积神经网络。对象处理单元和类别处理单元的网络结构可以相同或不同。
根据本公开的实施例,多个类别概率值可以是利用深度学习模型的类别分类模块处理第二中间特征数据包括的第二类别特征数据得到的。
根据本公开的实施例,深度学习模型可以包括类别分类模块。类别分类模块可以用于对第二类别特征数据进行处理,得到多个类别概率值。类别分类模块可以包括能够用于实现分类的网络结构。例如,类别分类模块均可以包括线性分类器和非线性分类器之一。
根据本公开的实施例,可以利用类别分类模块处理第二类别特征数据,得到待识别图像属于多个任务各自的类别概率值,得到多个类别概率值。
根据本公开的实施例,操作S641~S642可以由电子设备执行。电子设备可以是服务器或终端设备。服务器可以是图1中的服务器105。终端设备可以是图1中的终端设备101、终端设备102或终端设备103。
图7示意性示出了根据本公开实施例的多任务识别方法的示例示意图。
如图7所示,在700中,可以获取待识别图像701和预定数据703。
对待识别图像701进行处理,得到待识别图像701包括的多个待识别图像块各自的对象特征数据702。对预定数据703进行处理,得到第一类别特征数据704。根据第一类别特征数据704和多个待识别图像块各自的对象特征数据702,得到第四中间特征数据705。基于注意力策略,对第四中间特征数据705进行处理,得到第一中间特征数据706。
根据目标选择策略707,确定目标选择矩阵708。根据第一中间特征数据706,确定中间矩阵709。根据目标选择矩阵708和中间矩阵709,确定目标专家概率矩阵710。目标专家概率矩阵710包括与多个特征提取策略711各自对应的元素。元素的元素值表征特征提取策略711被选择的概率。从目标专家概率矩阵710中确定元素值为界限值的元素,得到目标元素。将与目标元素对应的特征提取策略确定为目标特征提取策略712。
基于目标特征提取策略712,提取第一中间特征数据706的全局特征和局部特征中的至少一项,得到第二中间特征数据713。第二中间特征数据713包括第二类别特征数据714。根据第二类别特征数据714,确定待识别图像701属于多个任务各自的类别概率值715,得到多个类别概率值715。根据多个类别概率值715,得到待识别图像701的多任务识别结果716。
图8示意性示出了根据本公开实施例的深度学习模型的训练方法的流程图。
如图8所示,该方法800包括操作S810~S850。
在操作S810,根据样本图像,得到第一中间样本特征数据。
在操作S820,基于选择策略和第一中间样本特征数据,从多个样本特征提取策略中选择与样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略。
在操作S830,基于目标样本特征提取策略,对第一中间样本特征数据进行处理,得到第二中间样本特征数据。
在操作S840,根据第二中间样本特征数据,得到样本图像的多任务识别结果。
在操作S850,利用样本图像的多任务识别结果和标签值训练深度学习模型,得到经训练的深度学习模型。
根据本公开的实施例,针对样本图像、第一中间样本特征数据和第二中间样本特征数据的说明,可以参见上文针对待识别图像、第一中间特征数据和第二中间特征数据的相关内容,在此不再赘述。
根据本公开的实施例,深度学习模型可以包括预处理模块、主干模块和类别分类模块。
根据本公开的实施例,可以基于损失函数,利用样本图像的多任务识别结果和标签值训练深度学习模型,得到经训练的深度学习模型和标签值训练深度学习模型,得到经训练的深度学习模型。经训练的深度学习模型可以用于实现多任务识别。损失函数可以根据实际业务需求进行配置,在此不作限定。例如,损失函数可以包括以下至少一项:交叉熵损失函数、指数损失函数和平方损失函数。预定条件可以包括输出值收敛和训练轮次达到最大训练轮次中的至少一项。
根据本公开的实施例,操作S810~S850可以由电子设备执行。电子设备可以是服务器或终端设备。服务器可以是图1中的服务器105。终端设备可以是图1中的终端设备101、终端设备102或终端设备103。
根据本公开的实施例,样本图像具有与该样本图像对应的目标样本特征提取策略,不同样本图像的目标样本特征提取策略相同或不同,因此,实现了为样本图像动态选择目标样本特征提取策略,由此,降低了不同样本图像之间的样本特征提取策略的耦合程度。在此基础上,目标样本特征提取策略与样本图像匹配性最高,因此,利用基于目标样本特征提取策略处理第一中间样本特征数据得到的多任务识别结果训练深度学习模型,能够降低不同任务在模型参数更新上的冲突,由此,提高了多任务识别模型的多任务识别精度。
根据本公开的实施例,操作S820可以包括如下操作。
基于选择策略和第一中间样本特征数据,得到第三中间样本特征数据。根据第三中间样本特征数据,从多个样本特征提取策略中选择与样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略。
根据本公开的实施例,基于选择策略和第一中间样本特征数据,得到第三中间样本特征数据,可以包括如下操作。
根据选择策略,确定选择矩阵。根据第一中间样本特征数据,确定中间样本矩阵。根据选择矩阵和中间样本矩阵,确定样本专家概率矩阵。样本专家概率矩阵包括与多个样本特征提取策略各自对应的样本元素。样本元素的元素值表征样本特征提取策略被选择的概率。将样本专家概率矩阵确定为第三中间样本特征数据。
根据本公开的实施例,根据选择矩阵和中间样本矩阵,确定样本专家概率矩阵,可以包括如下操作。
将选择矩阵与中间样本矩阵相乘,得到样本专家概率矩阵。
根据本公开的实施例,根据第三中间样本特征数据,从多个样本特征提取策略中选择与样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略,可以包括如下操作。
从样本专家概率矩阵中确定样本元素值为界限值的样本元素,得到目标样本元素。界限值包括最大值或最小值。将与目标样本元素对应的样本特征提取策略确定为目标样本特征提取策略。
根据本公开的实施例,操作S810可以包括如下操作。
对样本图像进行处理,得到多个样本图像块各自的样本对象特征数据。对预定样本数据进行处理,得到第一样本类别特征数据。根据多个样本图像块各自的样本对象特征数据和第一样本类别特征数据,得到第四中间样本特征数据。对第四中间样本特征数据进行处理,得到第一中间样本特征数据。
根据本公开的实施例,对第四中间样本特征数据进行处理,得到第一中间样本特征数据,可以包括如下操作。
基于注意力策略,对第四中间样本特征数据进行处理,得到第一中间样本特征数据。
根据本公开的实施例,深度学习模型可以包括主干模块。主干模块可以包括级联的至少一个主干子模块。主干子模块可以包括注意力单元。
根据本公开的实施例,基于注意力策略,对第四中间样本特征数据进行处理,得到第一中间样本特征数据,可以包括如下操作。
利用主干模块中的预期注意力单元处理第四中间样本特征数据,得到第一中间样本特征数据。
根据本公开的实施例,基于目标样本特征提取策略,对第一中间样本特征数据进行处理,得到第二中间样本特征数据,可以包括如下操作。
基于目标样本特征提取策略,提取第一中间样本特征数据的全局特征和局部特征中的至少一项,得到第二中间样本特征数据。
根据本公开的实施例,主干子模块还可以包括多个专家单元。专家单元可以包括以下至少一项:多头自注意力层和前馈网络层。
根据本公开的实施例,基于目标样本特征提取策略,提取第一中间样本特征数据的全局特征和局部特征中的至少一项,得到第二中间样本特征数据,可以包括如下操作。
从多个专家单元中确定与目标样本特征提取策略对应的至少一个专家单元,得到至少一个目标样本专家单元。利用至少一个目标样本专家单元处理第一中间样本特征数据,得到第二中间样本特征数据。
根据本公开的实施例,主干模块可以包括级联的M个主干子模块。M是大于或等于1的整数。
根据本公开的实施例,主干子模块还可以包括专家选择单元。
根据本公开的实施例,利用至少一个目标样本专家单元处理第一中间样本特征数据,得到第二中间样本特征数据,可以包括如下操作。
在M=1的情况下,利用第1层级的目标样本专家单元处理第一中间样本特征数据,得到第1层级的第五中间样本特征数据。根据第1层级的第五中间样本特征数据,得到第二中间样本特征数据。
在M>1且m>1的情况下,利用第m层级的目标样本专家单元处理第m层级的第六中间样本特征数据,得到第m层级的第五中间样本特征数据。第m层级的第六中间样本特征数据是第m层级的注意力单元处理第(m-1)层级的第五中间样本特征数据得到的。第m层级的目标样本专家单元是根据利用第m层级的专家选择单元处理第(m-1)层级的第五中间样本特征数据得到的结果确定的。根据第N层级的第五中间样本特征数据,得到第二中间样本特征数据。N是大于或等于1且小于M的整数。
根据本公开的实施例,目标样本专家单元可以包括目标多头自注意力层和目标前馈网络层。
根据本公开的实施例,利用第m层级的目标样本专家单元处理第m层级的第六中间样本特征数据,得到第m层级的第五中间样本特征数据,可以包括如下操作。
利用第m层级的目标多头自注意力层处理第m层级的第六中间样本特征数据,得到第m层级的第七中间样本特征数据。利用第m层级的目标前馈网络层处理第m层级的第七中间样本特征数据,得到第m层级的第五中间样本特征数据。
根据本公开的实施例,样本图像具有与该样本图像对应的目标样本专家单元,不同样本图像的目标样本专家单元相同或不同,因此,实现了为样本图像动态选择目标样本专家单元,由此,降低了主干模块的耦合程度。在此基础上,目标样本专家单元与样本图像匹配性最高,因此,利用基于目标样本专家单元处理第一中间样本特征数据得到的多任务识别结果训练深度学习模型,能够降低不同任务在模型参数更新上的冲突,由此,提高了多任务识别模型的多任务识别精度。
根据本公开的实施例,第二中间样本特征数据可以包括第二样本类别特征数据。
根据本公开的实施例,根据第二中间样本特征数据,得到样本图像的多任务识别结果,可以包括如下操作。
根据第二样本类别特征数据,确定样本图像属于多个任务各自的类别概率值,得到多个样本类别概率值。根据多个样本类别概率值,得到样本图像的多任务识别结果。
根据本公开的实施例,深度学习模型可以包括类别分类模块。
根据本公开的实施例,根据第二样本类别特征数据,确定样本图像属于多个任务各自的类别概率值,得到多个样本类别概率值,可以包括如下操作。
利用类别分类模块处理第二样本类别特征数据,确定样本图像属于多个任务各自的类别概率值,得到多个样本类别概率值。
根据本公开的实施例,可以将多个样本类别概率值和标签值输入损失函数,得到输出值。可以根据输出值调整深度学习模型的模型参数,直至满足预定结束条件。可以将在满足预定结束条件的情况下得到的深度学习模型确定为经训练的深度学习模型。预定结束条件可以包括以下至少一项:输出值收敛和训练轮次达到最大训练轮次。例如,可以根据反向传播算法或随机梯度下降算法,调整深度学习模型的模型参数,直至满足预定结束条件。
根据本公开的实施例,可以根据如下公式(1)确定损失函数。
根据本公开的实施例,Lj表征损失函数。B表征每个批次包括的样本图像的数目。B可以是大于1的整数。T表征任务的数目。T可以是大于1的数目。Cj表征第j个任务包括的类别的数目。Cj可以是大于或等于1的整数。yij表征第i个样本图像的第j个任务的任务标签值,即,yij表征第i个样本图像是否属于第j个任务。yij=1表征第i个样本图像属于第j个任务。yij=0表征第i个样本图像不属于第j个任务。zijk表征第i个样本图像的第j个任务的第k个类别的类别标签值,即,zijk表征第i个样本图像是否属于第j个任务的第k个类别。zijk=1表征第i个样本图像属于第j个任务的第k个类别。zijk=0表征第i个样本图像不属于第j个任务的第k个类别。
根据本公开的实施例,深度学习模型可以包括预处理模块。预处理模块可以包括对象处理单元和类别处理单元。
根据本公开的实施例,样本对象特征数据是利用对象处理单元处理样本图像块得到的。
根据本公开的实施例,第一样本类别特征数据是利用类别处理单元处理预定样本数据得到的。
下面参考图9A、图9B和图10,结合具体实施例对根据本公开实施例所述的深度学习模型的训练方法做进一步说明。
图9A示意性示出了根据本公开实施例的深度学习模型的示例示意图。
如图9A所示,在900A中,深度学习模型901包括预处理模块902、主干模块903和类别分类模块904。
预处理模块902可以包括对象处理单元9020和类别处理单元9021。
主干模块903可以包括级联的M个主干子模块,即,主干子模块903_1、......、主干子模块903_m、......、主干子模块903_M。M可以是大于或等于1的整数。
图9B示意性示出了根据本公开实施例的主干子模块的示意示例图。
如图9B所示,在900B中,主干子模块905包括注意力单元905_1、专家选择单元905_2和Q个专家单元集905_3。专家单元集905_3包括Q个专家单元,即,专家单元905_3_1、......、专家单元905_3_q、......、专家单元905_3_Q。Q可以是大于1的整数。注意力单元905_3_1可以是多头自注意力单元。专家选择单元905_3_2可以是可更新元素值的选择矩阵。专家单元905_3_q可以包括:多头自注意力层、前馈网络层和级联的多头自注意力层和前馈网络层。级联的多头自注意力层和前馈网络层中多头自注意力层的输出作为前馈网络层的输入。
图10示意性示出了根据本公开实施例的深度学习模型的训练方法的示意示意图。
如图10所示,在1000中,深度学习模型包括预处理模块、主干模块和类别分类模块1016。预处理模块包括对象处理单元1002和类别处理单元1005。主干模块包括注意力单元1008、专家单元1010和3个专家单元。3个专家单元包括专家单元1011、专家单元1012和专家单元1013。主干模块可以包括Transformer。
利用对象处理单元1002处理样本图像1001,得到样本图像1001包括的多个样本图像块各自的样本对象特征数据1003。利用类别处理单元1005处理预定样本数据1004,得到第一样本类别特征数据1006。根据第一样本类别特征数据1006和多个样本图像块各自的样本对象特征数据1003,得到第四中间样本特征数据1007。第四中间样本特征数据1007的维度可以是(b,t+1,d)。b表征当前批次包括的样本图像的数目。t表征当前批次包括的对象的数目。d表征每个对象的特征维度。
利用注意力单元1008处理第四中间样本特征数据1007,得到第一中间样本特征数据1009。第一中间样本特征数据1009的维度可以是(b,t+1,d)。
根据第一中间样本特征数据1009,确定中间样本矩阵。即,可以将第一中间样本特征数据1009的后两个维度合并,得到维度为(b,td+d)的中间样本矩阵。利用专家选择单元1010处理中间样本矩阵,得到专家样本概率矩阵。专家选择单元1010可以是维度为(td+d,Q=3)的可更新元素值的矩阵。专家样本概率矩阵的维度可以是(b,Q=3)。从样本专家概率矩阵中确定样本元素值为界限值的样本元素,得到目标样本元素。将与目标样本元素对应的专家选择单元1011确定为目标样本专家单元。
利用目标样本专家单元(即专家单元1011)处理第一中间样本特征数据1009,得到第二中间样本特征数据1014。第二中间样本特征数据1014包括第二类别样本特征数据1015。
利用类别分类模块1016处理第二样本类别特征数据1015,得到样本类别概率值1017。基于损失函数1019,利用样本类别概率值1017和类别标签值1018,得到输出值1020。
根据输出值1020调整对象处理单元1002、类别处理单元1005、注意力单元1008、专家选择单元1010、专家单元1011、专家单元1012、专家单元1013和类别分类模块1016的模型参数,直至满足预定结束条件,得到经训练的深度学习模型。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
以上仅是示例性实施例,但不限于此,还可以包括本领域已知的其他多任务识别方法和深度学习模型的训练方法,只要能够提高多任务识别精度即可。
图11示意性示出了根据本公开实施例的多任务识别装置的框图。
如图11所示,多任务识别装置1100可以包括第一获得模块710、第二获得模块1120、第三获得模块1130和第四获得模块1140。
第一获得模块1110,用于根据待识别图像,得到第一中间特征数据。
第二获得模块1120,用于基于目标选择策略和第一中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的特征提取策略,得到目标特征提取策略。
第三获得模块1130,用于基于目标特征提取策略,对第一中间特征数据进行处理,得到第二中间特征数据。
第四获得模块1140,用于根据第二中间特征数据,得到待识别图像的多任务识别结果。
根据本公开的实施例,第二获得模块1120可以包括第一获得子模块和第二获得子模块。
第一获得子模块,用于基于目标选择策略和第一中间特征数据,得到第三中间特征数据。
第二获得子模块,用于根据第三中间特征数据,从多个特征提取策略中选择与待识别图像匹配性最高的特征提取策略,得到目标特征提取策略。
根据本公开的实施例,第一获得子模块可以包括第一确定单元、第二确定单元、第三确定单元和第四确定单元。
第一确定单元,用于根据目标选择策略,确定目标选择矩阵。
第二确定单元,用于根据第一中间特征数据,确定中间矩阵。
第三确定单元,用于根据目标选择矩阵和中间矩阵,确定目标专家概率矩阵。目标专家概率矩阵包括与多个特征提取策略各自对应的元素。元素的元素值表征特征提取策略被选择的概率。
第四确定单元,用于将目标专家概率矩阵确定为第三中间特征数据。
根据本公开的实施例,第三确定单元可以包括第一获得子单元。
第一获得子单元,用于将目标选择矩阵与中间矩阵相乘,得到目标专家概率矩阵。
根据本公开的实施例,第二获得子模块可以包括第一获得单元和第五确定单元。
第一获得单元,用于从目标专家概率矩阵中确定元素值为界限值的元素,得到目标元素。界限值包括最大值或最小值。
第五确定单元,用于将与目标元素对应的特征提取策略确定为目标特征提取策略。
根据本公开的实施例,第一获得模块1110可以包括第三获得子模块、第四获得子模块、第五获得子模块和第六获得子模块。
第三获得子模块,用于对待识别图像进行处理,得到多个待识别图像块各自的对象特征数据。
第四获得子模块,用于对预定数据进行处理,得到第一类别特征数据。
第五获得子模块,用于根据多个待识别图像块各自的对象特征数据和第一类别特征数据,得到第四中间特征数据。
第六获得子模块,用于对第四中间特征数据进行处理,得到第一中间特征数据。
根据本公开的实施例,第六获得子模块可以包括第二获得单元。
第二获得单元,用于基于注意力策略,对第四中间特征数据进行处理,得到第一中间特征数据。
根据本公开的实施例,第一中间特征数据是利用深度学习模型的预期注意力单元处理第四中间特征数据得到的。
根据本公开的实施例,第三获得模块1130可以包括第七获得子模块。
第七获得子模块,用于基于目标特征提取策略,提取第一中间特征数据的全局特征和局部特征中的至少一项,得到第二中间特征数据。
根据本公开的实施例,第七获得子模块可以包括第三获得单元和第四获得单元。
第三获得单元,用于从深度学习模型包括的多个专家单元中确定与目标特征提取策略对应的至少一个专家单元,得到至少一个目标专家单元。专家单元包括以下至少一项:多头自注意力层和前馈网络层。
第四获得单元,用于利用至少一个目标专家单元处理第一中间特征数据,得到第二中间特征数据。
根据本公开的实施例,第二中间特征数据包括第二类别特征数据。
根据本公开的实施例,第四获得模块1140可以包括第八获得子模块和第九获得子模块。
第八获得子模块,用于根据第二类别特征数据,确定待识别图像属于多个任务各自的类别概率值,得到多个类别概率值。
第九获得子模块,用于根据多个类别概率值,得到待识别图像的多任务识别结果。
图12示意性示出了根据本公开实施例的深度学习模型的训练装置的框图。
如图12所示,深度学习模型的训练装置1200可以包括第五获得模块1210、第六获得模块1220、第七获得模块1230、第八获得模块1240和第九获得模块1250。
第五获得模块1210,用于根据样本图像,得到第一中间样本特征数据。
第六获得模块1220,用于基于选择策略和第一中间样本特征数据,从多个样本特征提取策略中选择与样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略。
第七获得模块1230,用于基于目标样本特征提取策略,对第一中间样本特征数据进行处理,得到第二中间样本特征数据。
第八获得模块1240,用于根据第二中间样本特征数据,得到样本图像的多任务识别结果。
第九获得模块1250,用于利用样本图像的多任务识别结果和标签值训练深度学习模型,得到经训练的深度学习模型。
根据本公开的实施例,第六获得模块1220可以包括第十获得子模块和第十一获得子模块。
第十获得子模块,用于基于选择策略和第一中间样本特征数据,得到第三中间样本特征数据。
第十一获得子模块,用于根据第三中间样本特征数据,从多个样本特征提取策略中选择与样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略。
根据本公开的实施例,第十获得子模块可以包括第六确定单元、第七确定单元、第八确定单元和第九确定单元。
第六确定单元,用于根据选择策略,确定选择矩阵。
第七确定单元,用于根据第一中间样本特征数据,确定中间样本矩阵。
第八确定单元,用于根据选择矩阵和中间样本矩阵,确定样本专家概率矩阵。样本专家概率矩阵包括与多个样本特征提取策略各自对应的样本元素,样本元素的元素值表征样本特征提取策略被选择的概率。
第九确定单元,用于将样本专家概率矩阵确定为第三中间样本特征数据。
根据本公开的实施例,第八确定单元可以包括第二获得子单元。
第二获得子单元,用于将选择矩阵与中间样本矩阵相乘,得到样本专家概率矩阵。
根据本公开的实施例,第十一获得子模块可以包括第五获得单元和第十确定单元。
第五获得单元,用于从样本专家概率矩阵中确定样本元素值为界限值的样本元素,得到目标样本元素。界限值包括最大值或最小值。
第十确定单元,用于将与目标样本元素对应的样本特征提取策略确定为目标样本特征提取策略。
根据本公开的实施例,第五获得模块1210可以包括第十二获得子模块、第十三获得子模块、第十四获得子模块和第十五获得子模块。
第十二获得子模块,用于对样本图像进行处理,得到多个样本图像块各自的样本对象特征数据。
第十三获得子模块,用于对预定样本数据进行处理,得到第一样本类别特征数据。
第十四获得子模块,用于根据多个样本图像块各自的样本对象特征数据和第一样本类别特征数据,得到第四中间样本特征数据。
第十五获得子模块,用于对第四中间样本特征数据进行处理,得到第一中间样本特征数据。
根据本公开的实施例,第十五获得子模块可以包括第六获得单元。
第六获得单元,用于基于注意力策略,对第四中间样本特征数据进行处理,得到第二中间样本特征数据。
根据本公开的实施例,深度学习模型包括主干模块。主干模块包括级联的至少一个主干子模块。主干子模块包括注意力单元。
根据本公开的实施例,第六获得单元可以包括第三获得子单元。
第三获得子单元,用于利用主干模块中的预期注意力单元处理第四中间样本特征数据,得到第一中间样本特征数据。
根据本公开的实施例,第七获得模块1230可以包括第十六获得子模块。
第十六获得子模块,用于基于目标样本特征提取策略,提取第一中间样本特征数据的全局特征和局部特征中的至少一项,得到第二中间样本特征数据。
根据本公开的实施例,主干子模块还包括多个专家单元。专家单元包括以下至少一项:多头自注意力层和前馈网络层。
根据本公开的实施例,第十六获得子模块可以包括第七获得单元和第八获得单元。
第七获得单元,用于从多个专家单元中确定与目标样本特征提取策略对应的至少一个专家单元,得到至少一个目标样本专家单元。
第八获得单元,用于利用至少一个目标样本专家单元处理第一中间样本特征数据,得到第二中间样本特征数据。
根据本公开的实施例,主干模块包括级联的M个主干子模块。M是大于或等于1的整数。
根据本公开的实施例,主干子模块还包括专家选择单元。
根据本公开的实施例,第八获得单元可以包括第四获得子单元、第五获得子单元、第六获得子单元和第七获得子单元。
在M=1的情况下,
第四获得子单元,用于利用第1层级的目标样本专家单元处理第一中间样本特征数据,得到第1层级的第五中间样本特征数据。
第五获得子单元,用于根据第1层级的第五中间样本特征数据,得到第二中间样本特征数据。
在M>1且m>1的情况下,
第六获得子单元,用于利用第m层级的目标样本专家单元处理第m层级的第六中间样本特征数据,得到第m层级的第五中间样本特征数据。第m层级的第六中间样本特征数据是第m层级的注意力单元处理第(m-1)层级的第五中间样本特征数据得到的。第m层级的目标样本专家单元是根据利用第m层级的专家选择单元处理第(m-1)层级的第五中间样本特征数据得到的结果确定的。
第七获得子单元,用于根据第N层级的第五中间样本特征数据,得到第二中间样本特征数据。N是大于或等于1且小于M的整数。
根据本公开的实施例,目标样本专家单元包括目标多头自注意力层和目标前馈网络层。
根据本公开的实施例,第六获得子单元可以用于:
利用第m层级的目标多头自注意力层处理第m层级的第六中间样本特征数据,得到第m层级的第七中间样本特征数据。
利用第m层级的目标前馈网络层处理第m层级的第七中间样本特征数据,得到第m层级的第五中间样本特征数据。
根据本公开的实施例,第二中间样本特征数据包括第二样本类别特征数据。
根据本公开的实施例,第八获得模块可以包括确定子模块和第十七获得子模块。
确定子模块,用于根据第二样本类别特征数据,确定样本图像属于多个任务各自的类别概率值,得到多个样本类别概率值。
第十七获得子模块,用于根据多个样本类别概率值,得到样本图像的多任务识别结果。
根据本公开的实施例,深度学习模型包括类别分类模块。
根据本公开的实施例,确定子模块可以包括第九获得单元。
第九获得单元,用于利用类别分类模块处理第二样本类别特征数据,确定样本图像属于多个任务各自的类别概率值,得到多个样本类别概率值。
根据本公开的实施例,深度学习模型包括预处理模块。预处理模块包括对象处理单元和类别处理单元。
根据本公开的实施例,样本对象特征数据是利用对象处理单元处理样本图像块得到的。
根据本公开的实施例,第一样本类别特征数据是利用类别处理单元处理预定样本数据得到的。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例,一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如上所述的方法。
根据本公开的实施例,一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如上所述的方法。
根据本公开的实施例,一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如上所述的方法。
图13示意性示出了根据本公开实施例的适于实现多任务识别方法和深度学习模型的训练方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图13所示,电子设备1300包括计算单元1301,其可以根据存储在只读存储器(ROM)1302中的计算机程序或者从存储单元1308加载到随机访问存储器(RAM)1303中的计算机程序,来执行各种适当的动作和处理。在RAM 1303中,还可存储电子设备1300操作所需的各种程序和数据。计算单元1301、ROM 1302以及RAM 1303通过总线1304彼此相连。输入/输出(I/O)接口1305也连接至总线1304。
电子设备1300中的多个部件连接至I/O接口1305,包括:输入单元1306,例如键盘、鼠标等;输出单元1307,例如各种类型的显示器、扬声器等;存储单元1308,例如磁盘、光盘等;以及通信单元1309,例如网卡、调制解调器、无线通信收发机等。通信单元1309允许电子设备1300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1301的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1301执行上文所描述的各个方法和处理,例如多任务识别方法和深度学习模型的训练方法。例如,在一些实施例中,多任务识别方法和深度学习模型的训练方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1308。在一些实施例中,计算机程序的部分或者全部可以经由ROM1302和/或通信单元1309而被载入和/或安装到电子设备1300上。当计算机程序加载到RAM1303并由计算单元1301执行时,可以执行上文描述的多任务识别方法和深度学习模型的训练方法的一个或多个步骤。备选地,在其他实施例中,计算单元1301可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行多任务识别模型和深度学习模型的训练方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (46)
1.一种多任务识别方法,包括:
根据待识别图像,得到第一中间特征数据;
基于目标选择策略和所述第一中间特征数据,从多个特征提取策略中选择与所述待识别图像匹配性最高的特征提取策略,得到目标特征提取策略;
基于所述目标特征提取策略,对所述第一中间特征数据进行处理,得到第二中间特征数据;以及
根据所述第二中间特征数据,得到所述待识别图像的多任务识别结果;
其中,所述基于目标选择策略和所述第一中间特征数据,从多个特征提取策略中选择与所述待识别图像匹配性最高的特征提取策略,得到目标特征提取策略,包括:
基于所述目标选择策略和所述第一中间特征数据,得到第三中间特征数据;以及
根据所述第三中间特征数据,从所述多个特征提取策略中选择与所述待识别图像匹配性最高的特征提取策略,得到所述目标特征提取策略;
其中,所述基于所述目标选择策略和所述第一中间特征数据,得到第三中间特征数据,包括:
根据所述目标选择策略,确定目标选择矩阵;
根据所述第一中间特征数据,确定中间矩阵;
根据所述目标选择矩阵和所述中间矩阵,确定目标专家概率矩阵,其中,所述目标专家概率矩阵包括与所述多个特征提取策略各自对应的元素,所述元素的元素值表征所述特征提取策略被选择的概率;以及
将所述目标专家概率矩阵确定为所述第三中间特征数据。
2.根据权利要求1所述的方法,其中,所述根据所述目标选择矩阵和所述中间矩阵,确定目标专家概率矩阵,包括:
将所述目标选择矩阵与所述中间矩阵相乘,得到所述目标专家概率矩阵。
3.根据权利要求1或2所述的方法,其中,所述根据所述第三中间特征数据,从所述多个特征提取策略中选择与所述待识别图像匹配性最高的特征提取策略,得到所述目标特征提取策略,包括:
从所述目标专家概率矩阵中确定元素值为界限值的元素,得到目标元素,其中,所述界限值包括最大值或最小值;以及
将与所述目标元素对应的特征提取策略确定为所述目标特征提取策略。
4.根据权利要求1或2所述的方法,其中,所述根据待识别图像,得到第一中间特征数据,包括:
对所述待识别图像进行处理,得到多个待识别图像块各自的对象特征数据;
对预定数据进行处理,得到第一类别特征数据,其中,所述预定数据指与生成所述第一类别特征数据相关的数据,所述第一类别特征数据指与所述待识别图像在任务的类别维度相关的数据;
根据所述多个待识别图像块各自的对象特征数据和所述第一类别特征数据,得到第四中间特征数据;以及
对所述第四中间特征数据进行处理,得到所述第一中间特征数据。
5.根据权利要求4所述的方法,其中,所述对所述第四中间特征数据进行处理,得到所述第一中间特征数据,包括:
基于注意力策略,对所述第四中间特征数据进行处理,得到所述第一中间特征数据。
6.根据权利要求5所述的方法,其中,所述第一中间特征数据是利用深度学习模型的预期注意力单元处理所述第四中间特征数据得到的。
7.根据权利要求1或2所述的方法,其中,所述基于所述目标特征提取策略,对所述第一中间特征数据进行处理,得到第二中间特征数据,包括:
基于所述目标特征提取策略,提取所述第一中间特征数据的全局特征和局部特征中的至少一项,得到所述第二中间特征数据。
8.根据权利要求7所述的方法,其中,所述基于所述目标特征提取策略,提取所述第一中间特征数据的全局特征和局部特征中的至少一项,得到所述第二中间特征数据,包括:
从深度学习模型包括的多个专家单元中确定与所述目标特征提取策略对应的至少一个专家单元,得到至少一个目标专家单元,其中,所述专家单元包括以下至少一项:多头自注意力层和前馈网络层;以及
利用所述至少一个目标专家单元处理所述第一中间特征数据,得到所述第二中间特征数据。
9.根据权利要求1或2所述的方法,其中,所述第二中间特征数据包括第二类别特征数据;
其中,所述根据所述第二中间特征数据,得到所述待识别图像的多任务识别结果,包括:
根据所述第二类别特征数据,确定所述待识别图像属于多个任务各自的类别概率值,得到多个类别概率值;以及
根据所述多个类别概率值,得到所述待识别图像的多任务识别结果。
10.一种深度学习模型的训练方法,包括:
根据样本图像,得到第一中间样本特征数据;
基于选择策略和所述第一中间样本特征数据,从多个样本特征提取策略中选择与所述样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略;
基于所述目标样本特征提取策略,对所述第一中间样本特征数据进行处理,得到第二中间样本特征数据;
根据所述第二中间样本特征数据,得到所述样本图像的多任务识别结果;以及
利用所述样本图像的多任务识别结果和标签值训练所述深度学习模型,得到经训练的深度学习模型;
其中,所述基于选择策略和所述第一中间样本特征数据,从多个样本特征提取策略中选择与所述样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略,包括:
基于所述选择策略和所述第一中间样本特征数据,得到第三中间样本特征数据;以及
根据所述第三中间样本特征数据,从所述多个样本特征提取策略中选择与所述样本图像匹配性最高的样本特征提取策略,得到所述目标样本特征提取策略;
其中,所述基于所述选择策略和所述第一中间样本特征数据,得到第三中间样本特征数据,包括:
根据所述选择策略,确定选择矩阵;
根据所述第一中间样本特征数据,确定中间样本矩阵;
根据所述选择矩阵和所述中间样本矩阵,确定样本专家概率矩阵,其中,所述样本专家概率矩阵包括与所述多个样本特征提取策略各自对应的样本元素,所述样本元素的元素值表征所述样本特征提取策略被选择的概率;以及
将所述样本专家概率矩阵确定为所述第三中间样本特征数据。
11.根据权利要求10所述的方法,其中,所述根据所述选择矩阵和所述中间样本矩阵,确定样本专家概率矩阵,包括:
将所述选择矩阵与所述中间样本矩阵相乘,得到所述样本专家概率矩阵。
12.根据权利要求10或11所述的方法,其中,所述根据所述第三中间样本特征数据,从所述多个样本特征提取策略中选择与所述样本图像匹配性最高的样本特征提取策略,得到所述目标样本特征提取策略,包括:
从所述样本专家概率矩阵中确定样本元素值为界限值的样本元素,得到目标样本元素,其中,所述界限值包括最大值或最小值;以及
将与所述目标样本元素对应的样本特征提取策略确定为所述目标样本特征提取策略。
13.根据权利要求10或11所述的方法,其中,所述根据样本图像,得到第一中间样本特征数据,包括:
对所述样本图像进行处理,得到多个样本图像块各自的样本对象特征数据;
对预定样本数据进行处理,得到第一样本类别特征数据;
根据所述多个样本图像块各自的样本对象特征数据和所述第一样本类别特征数据,得到第四中间样本特征数据;以及
对所述第四中间样本特征数据进行处理,得到所述第一中间样本特征数据。
14.根据权利要求13所述的方法,其中,所述对所述第四中间样本特征数据进行处理,得到所述第一中间样本特征数据,包括:
基于注意力策略,对所述第四中间样本特征数据进行处理,得到所述第一中间样本特征数据。
15.根据权利要求14所述的方法,其中,所述深度学习模型包括主干模块,所述主干模块包括级联的至少一个主干子模块,所述主干子模块包括注意力单元;
其中,所述基于注意力策略,对所述第四中间样本特征数据进行处理,得到所述第一中间样本特征数据,包括:
利用所述主干模块中的预期注意力单元处理所述第四中间样本特征数据,得到所述第一中间样本特征数据。
16.根据权利要求15所述的方法,其中,所述基于所述目标样本特征提取策略,对所述第一中间样本特征数据进行处理,得到第二中间样本特征数据,包括:
基于所述目标样本特征提取策略,提取所述第一中间样本特征数据的全局特征和局部特征中的至少一项,得到所述第二中间样本特征数据。
17.根据权利要求16所述的方法,其中,所述主干子模块还包括多个专家单元,所述专家单元包括以下至少一项:多头自注意力层和前馈网络层;
其中,所述基于所述目标样本特征提取策略,提取所述第一中间样本特征数据的全局特征和局部特征中的至少一项,得到所述第二中间样本特征数据,包括:
从所述多个专家单元中确定与所述目标样本特征提取策略对应的至少一个专家单元,得到至少一个目标样本专家单元;以及
利用所述至少一个目标样本专家单元处理所述第一中间样本特征数据,得到所述第二中间样本特征数据。
18.根据权利要求17所述的方法,其中,所述主干模块包括级联的M个所述主干子模块,M是大于或等于1的整数;
其中,所述主干子模块还包括专家选择单元;
其中,所述利用所述至少一个目标样本专家单元处理所述第一中间样本特征数据,得到所述第二中间样本特征数据,包括:
在M=1的情况下,
利用第1层级的目标样本专家单元处理所述第一中间样本特征数据,得到第1层级的第五中间样本特征数据;以及
根据所述第1层级的第五中间样本特征数据,得到所述第二中间样本特征数据;
在M>1且m>1的情况下,
利用第m层级的目标样本专家单元处理第m层级的第六中间样本特征数据,得到第m层级的第五中间样本特征数据,其中,所述第m层级的第六中间样本特征数据是第m层级的注意力单元处理第(m-1)层级的第五中间样本特征数据得到的,所述第m层级的目标样本专家单元是根据利用第m层级的专家选择单元处理所述第(m-1)层级的第五中间样本特征数据得到的结果确定的;以及
根据第N层级的第五中间样本特征数据,得到所述第二中间样本特征数据,其中,N是大于或等于1且小于M的整数。
19.根据权利要求18所述的方法,其中,所述目标样本专家单元包括目标多头自注意力层和目标前馈网络层;
其中,所述利用第m层级的目标样本专家单元处理第m层级的第六中间样本特征数据,得到第m层级的第五中间样本特征数据,包括:
利用第m层级的目标多头自注意力层处理所述第m层级的第六中间样本特征数据,得到第m层级的第七中间样本特征数据;以及
利用第m层级的目标前馈网络层处理所述第m层级的第七中间样本特征数据,得到所述第m层级的第五中间样本特征数据。
20.根据权利要求10或11所述的方法,其中,所述第二中间样本特征数据包括第二样本类别特征数据;
其中,所述根据所述第二中间样本特征数据,得到所述样本图像的多任务识别结果,包括:
根据所述第二样本类别特征数据,确定所述样本图像属于多个任务各自的类别概率值,得到多个样本类别概率值;以及
根据所述多个样本类别概率值,得到所述样本图像的多任务识别结果。
21.根据权利要求20所述的方法,其中,所述深度学习模型包括类别分类模块;
其中,所述根据所述第二样本类别特征数据,确定所述样本图像属于多个任务各自的类别概率值,得到多个样本类别概率值,包括:
利用所述类别分类模块处理所述第二样本类别特征数据,确定所述样本图像属于多个任务各自的类别概率值,得到所述多个样本类别概率值。
22.根据权利要求13所述的方法,其中,所述深度学习模型包括预处理模块,所述预处理模块包括对象处理单元和类别处理单元;
其中,所述样本对象特征数据是利用所述对象处理单元处理所述样本图像块得到的;
其中,所述第一样本类别特征数据是利用所述类别处理单元处理所述预定样本数据得到的。
23.一种多任务识别装置,包括:
第一获得模块,用于根据待识别图像,得到第一中间特征数据;
第二获得模块,用于基于目标选择策略和所述第一中间特征数据,从多个特征提取策略中选择与所述待识别图像匹配性最高的特征提取策略,得到目标特征提取策略;
第三获得模块,用于基于所述目标特征提取策略,对所述第一中间特征数据进行处理,得到第二中间特征数据;以及
第四获得模块,用于根据所述第二中间特征数据,得到所述待识别图像的多任务识别结果;
其中,所述第二获得模块,包括:
第一获得子模块,用于基于所述目标选择策略和所述第一中间特征数据,得到第三中间特征数据;以及
第二获得子模块,用于根据所述第三中间特征数据,从所述多个特征提取策略中选择与所述待识别图像匹配性最高的特征提取策略,得到所述目标特征提取策略;
其中,所述第一获得子模块,包括:
第一确定单元,用于根据所述目标选择策略,确定目标选择矩阵;
第二确定单元,用于根据所述第一中间特征数据,确定中间矩阵;
第三确定单元,用于根据所述目标选择矩阵和所述中间矩阵,确定目标专家概率矩阵,其中,所述目标专家概率矩阵包括与所述多个特征提取策略各自对应的元素,所述元素的元素值表征所述特征提取策略被选择的概率;以及
第四确定单元,用于将所述目标专家概率矩阵确定为所述第三中间特征数据。
24.根据权利要求23所述的装置,其中,所述第三确定单元,包括:
第一获得子单元,用于将所述目标选择矩阵与所述中间矩阵相乘,得到所述目标专家概率矩阵。
25.根据权利要求23或24所述的装置,其中,所述第二获得子模块,包括:
第一获得单元,用于从所述目标专家概率矩阵中确定元素值为界限值的元素,得到目标元素,其中,所述界限值包括最大值或最小值;以及
第五确定单元,用于将与所述目标元素对应的特征提取策略确定为所述目标特征提取策略。
26.根据权利要求23或24所述的装置,其中,所述第一获得模块,包括:
第三获得子模块,用于对所述待识别图像进行处理,得到多个待识别图像块各自的对象特征数据;
第四获得子模块,用于对预定数据进行处理,得到第一类别特征数据,其中,所述预定数据指与生成所述第一类别特征数据相关的数据,所述第一类别特征数据指与所述待识别图像在任务的类别维度相关的数据;
第五获得子模块,用于根据所述多个待识别图像块各自的对象特征数据和所述第一类别特征数据,得到第四中间特征数据;以及
第六获得子模块,用于对所述第四中间特征数据进行处理,得到所述第一中间特征数据。
27.根据权利要求26所述的装置,其中,所述第六获得子模块,包括:
第二获得单元,用于基于注意力策略,对所述第四中间特征数据进行处理,得到所述第一中间特征数据。
28.根据权利要求27所述的装置,其中,所述第一中间特征数据是利用深度学习模型的预期注意力单元处理所述第四中间特征数据得到的。
29.根据权利要求23或24所述的装置,其中,所述第三获得模块,包括:
第七获得子模块,用于基于所述目标特征提取策略,提取所述第一中间特征数据的全局特征和局部特征中的至少一项,得到所述第二中间特征数据。
30.根据权利要求29所述的装置,其中,所述第七获得子模块,包括:
第三获得单元,用于从深度学习模型包括的多个专家单元中确定与所述目标特征提取策略对应的至少一个专家单元,得到至少一个目标专家单元,其中,所述专家单元包括以下至少一项:多头自注意力层和前馈网络层;以及
第四获得单元,用于利用所述至少一个目标专家单元处理所述第一中间特征数据,得到所述第二中间特征数据。
31.根据权利要求23或24所述的装置,其中,所述第二中间特征数据包括第二类别特征数据;
其中,所述第四获得模块,包括:
第八获得子模块,用于根据所述第二类别特征数据,确定所述待识别图像属于多个任务各自的类别概率值,得到多个类别概率值;以及
第九获得子模块,用于根据所述多个类别概率值,得到所述待识别图像的多任务识别结果。
32.一种深度学习模型的训练装置,包括:
第五获得模块,用于根据样本图像,得到第一中间样本特征数据;
第六获得模块,用于基于选择策略和所述第一中间样本特征数据,从多个样本特征提取策略中选择与所述样本图像匹配性最高的样本特征提取策略,得到目标样本特征提取策略;
第七获得模块,用于基于所述目标样本特征提取策略,对所述第一中间样本特征数据进行处理,得到第二中间样本特征数据;
第八获得模块,用于根据所述第二中间样本特征数据,得到所述样本图像的多任务识别结果;以及
第九获得模块,用于利用所述样本图像的多任务识别结果和标签值训练所述深度学习模型,得到经训练的深度学习模型;
其中,所述第六获得模块,包括:
第十获得子模块,用于基于所述选择策略和所述第一中间样本特征数据,得到第三中间样本特征数据;以及
第十一获得子模块,用于根据所述第三中间样本特征数据,从所述多个样本特征提取策略中选择与所述样本图像匹配性最高的样本特征提取策略,得到所述目标样本特征提取策略;
其中,所述第十获得子模块,包括:
第六确定单元,用于根据所述选择策略,确定选择矩阵;
第七确定单元,用于根据所述第一中间样本特征数据,确定中间样本矩阵;
第八确定单元,用于根据所述选择矩阵和所述中间样本矩阵,确定样本专家概率矩阵,其中,所述样本专家概率矩阵包括与所述多个样本特征提取策略各自对应的样本元素,所述样本元素的元素值表征所述样本特征提取策略被选择的概率;以及
第九确定单元,用于将所述样本专家概率矩阵确定为所述第三中间样本特征数据。
33.根据权利要求32所述的装置,其中,所述第八确定单元,包括:
第二获得子单元,用于将所述选择矩阵与所述中间样本矩阵相乘,得到所述样本专家概率矩阵。
34.根据权利要求32或33所述的装置,其中,所述第十一获得子模块,包括:
第五获得单元,用于从所述样本专家概率矩阵中确定样本元素值为界限值的样本元素,得到目标样本元素,其中,所述界限值包括最大值或最小值;以及
第十确定单元,用于将与所述目标样本元素对应的样本特征提取策略确定为所述目标样本特征提取策略。
35.根据权利要求32或33所述的装置,其中,所述第五获得模块,包括:
第十二获得子模块,用于对所述样本图像进行处理,得到多个样本图像块各自的样本对象特征数据;
第十三获得子模块,用于对预定样本数据进行处理,得到第一样本类别特征数据;
第十四获得子模块,用于根据所述多个样本图像块各自的样本对象特征数据和所述第一样本类别特征数据,得到第四中间样本特征数据;以及
第十五获得子模块,用于对所述第四中间样本特征数据进行处理,得到所述第一中间样本特征数据。
36.根据权利要求35所述的装置,其中,所述第十五获得子模块,包括:
第六获得单元,用于基于注意力策略,对所述第四中间样本特征数据进行处理,得到所述第二中间样本特征数据。
37.根据权利要求36所述的装置,其中,所述深度学习模型包括主干模块,所述主干模块包括级联的至少一个主干子模块,所述主干子模块包括注意力单元;
其中,所述第六获得单元,包括:
第三获得子单元,用于利用所述主干模块中的预期注意力单元处理所述第四中间样本特征数据,得到所述第一中间样本特征数据。
38.根据权利要求37所述的装置,其中,所述第七获得模块,包括:
第十六获得子模块,用于基于所述目标样本特征提取策略,提取所述第一中间样本特征数据的全局特征和局部特征中的至少一项,得到所述第二中间样本特征数据。
39.根据权利要求38所述的装置,其中,所述主干子模块还包括多个专家单元,所述专家单元包括以下至少一项:多头自注意力层和前馈网络层;
其中,所述第十六获得子模块,包括:
第七获得单元,用于从所述多个专家单元中确定与所述目标样本特征提取策略对应的至少一个专家单元,得到至少一个目标样本专家单元;以及
第八获得单元,用于利用所述至少一个目标样本专家单元处理所述第一中间样本特征数据,得到所述第二中间样本特征数据。
40.根据权利要求39所述的装置,其中,所述主干模块包括级联的M个所述主干子模块,M是大于或等于1的整数;
其中,所述主干子模块还包括专家选择单元;
其中,所述第八获得单元,包括:
在M=1的情况下,
第四获得子单元,用于利用第1层级的目标样本专家单元处理所述第一中间样本特征数据,得到第1层级的第五中间样本特征数据;以及
第五获得子单元,用于根据所述第1层级的第五中间样本特征数据,得到所述第二中间样本特征数据;
在M>1且m>1的情况下,
第六获得子单元,用于利用第m层级的目标样本专家单元处理第m层级的第六中间样本特征数据,得到第m层级的第五中间样本特征数据,其中,所述第m层级的第六中间样本特征数据是第m层级的注意力单元处理第(m-1)层级的第五中间样本特征数据得到的,所述第m层级的目标样本专家单元是根据利用第m层级的专家选择单元处理所述第(m-1)层级的第五中间样本特征数据得到的结果确定的;以及
第七获得子单元,用于根据第N层级的第五中间样本特征数据,得到所述第二中间样本特征数据,其中,N是大于或等于1且小于M的整数。
41.根据权利要求40所述的装置,其中,所述目标样本专家单元包括目标多头自注意力层和目标前馈网络层;
其中,所述第六获得子单元,用于:
利用第m层级的目标多头自注意力层处理所述第m层级的第六中间样本特征数据,得到第m层级的第七中间样本特征数据;以及
利用第m层级的目标前馈网络层处理所述第m层级的第七中间样本特征数据,得到所述第m层级的第五中间样本特征数据。
42.根据权利要求32或33所述的装置,其中,所述第二中间样本特征数据包括第二样本类别特征数据;
其中,所述第八获得模块,包括:
确定子模块,用于根据所述第二样本类别特征数据,确定所述样本图像属于多个任务各自的类别概率值,得到多个样本类别概率值;以及
第十七获得子模块,用于根据所述多个样本类别概率值,得到所述样本图像的多任务识别结果。
43.根据权利要求42所述的装置,其中,所述深度学习模型包括类别分类模块;
其中,所述确定子模块,包括:
第九获得单元,用于利用所述类别分类模块处理所述第二样本类别特征数据,确定所述样本图像属于多个任务各自的类别概率值,得到所述多个样本类别概率值。
44.根据权利要求35所述的装置,其中,所述深度学习模型包括预处理模块,所述预处理模块包括对象处理单元和类别处理单元;
其中,所述样本对象特征数据是利用所述对象处理单元处理所述样本图像块得到的;
其中,所述第一样本类别特征数据是利用所述类别处理单元处理所述预定样本数据得到的。
45.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1~9中任一项或权利要求10~22中任一项所述的方法。
46.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1~9中任一项或权利要求10~22中任一项所述的方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210335573.4A CN114723966B (zh) | 2022-03-30 | 2022-03-30 | 多任务识别方法、训练方法、装置、电子设备及存储介质 |
JP2022209218A JP2023040100A (ja) | 2022-03-30 | 2022-12-27 | マルチタスク識別方法及び装置、トレーニング方法及び装置、電子機器、記憶媒体、並びにコンピュータプログラム |
KR1020220185130A KR20230007998A (ko) | 2022-03-30 | 2022-12-27 | 멀티태스크의 인식 방법, 훈련 방법, 장치, 전자 기기, 저장 매체 및 컴퓨터 프로그램 |
US18/148,174 US20230186607A1 (en) | 2022-03-30 | 2022-12-29 | Multi-task identification method, training method, electronic device, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210335573.4A CN114723966B (zh) | 2022-03-30 | 2022-03-30 | 多任务识别方法、训练方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114723966A CN114723966A (zh) | 2022-07-08 |
CN114723966B true CN114723966B (zh) | 2023-04-07 |
Family
ID=82241121
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210335573.4A Active CN114723966B (zh) | 2022-03-30 | 2022-03-30 | 多任务识别方法、训练方法、装置、电子设备及存储介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230186607A1 (zh) |
JP (1) | JP2023040100A (zh) |
KR (1) | KR20230007998A (zh) |
CN (1) | CN114723966B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116189028B (zh) * | 2022-11-29 | 2024-06-21 | 北京百度网讯科技有限公司 | 图像识别方法、装置、电子设备以及存储介质 |
CN116805253B (zh) * | 2023-08-18 | 2023-11-24 | 腾讯科技(深圳)有限公司 | 干预增益预测方法、装置、存储介质及计算机设备 |
CN117671437B (zh) * | 2023-10-19 | 2024-06-18 | 中国矿业大学(北京) | 基于多任务卷积神经网络的露天采场识别与变化检测方法 |
CN117541894B (zh) * | 2024-01-04 | 2024-04-16 | 支付宝(杭州)信息技术有限公司 | 一种多模态模型的训练方法及装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101178773A (zh) * | 2007-12-13 | 2008-05-14 | 北京中星微电子有限公司 | 基于特征提取和分类器的图像识别系统及方法 |
CN114004357A (zh) * | 2021-11-08 | 2022-02-01 | 上海商汤智能科技有限公司 | 神经网络训练的方法、装置、电子设备及存储介质 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006303899A (ja) * | 2005-04-20 | 2006-11-02 | Fuji Photo Film Co Ltd | 画像処理装置、画像処理システム、および画像処理プログラム |
JP5284863B2 (ja) * | 2009-04-30 | 2013-09-11 | 独立行政法人理化学研究所 | 画像処理装置、画像処理方法およびプログラム |
JP2014021901A (ja) * | 2012-07-23 | 2014-02-03 | Casio Comput Co Ltd | 被写体検出装置、被写体検出方法及びプログラム |
CN110298262B (zh) * | 2019-06-06 | 2024-01-02 | 华为技术有限公司 | 物体识别方法及装置 |
CN111241989B (zh) * | 2020-01-08 | 2023-06-13 | 腾讯科技(深圳)有限公司 | 图像识别方法及装置、电子设备 |
CN111695415B (zh) * | 2020-04-28 | 2024-04-12 | 平安科技(深圳)有限公司 | 图像识别方法及相关设备 |
CN111783902B (zh) * | 2020-07-30 | 2023-11-07 | 腾讯科技(深圳)有限公司 | 数据增广、业务处理方法、装置、计算机设备和存储介质 |
CN112766158B (zh) * | 2021-01-20 | 2022-06-03 | 重庆邮电大学 | 基于多任务级联式人脸遮挡表情识别方法 |
CN113657465B (zh) * | 2021-07-29 | 2024-04-09 | 北京百度网讯科技有限公司 | 预训练模型的生成方法、装置、电子设备和存储介质 |
CN113610150B (zh) * | 2021-08-05 | 2023-07-25 | 北京百度网讯科技有限公司 | 模型训练的方法、对象分类方法、装置及电子设备 |
CN113869286B (zh) * | 2021-12-01 | 2022-02-25 | 中国工程物理研究院电子工程研究所 | 一种自适应多任务智能故障诊断系统及故障诊断方法 |
CN114170662A (zh) * | 2021-12-07 | 2022-03-11 | 上海瑾盛通信科技有限公司 | 人脸识别方法及装置、存储介质、电子设备 |
CN114202026A (zh) * | 2021-12-10 | 2022-03-18 | 北京百度网讯科技有限公司 | 多任务模型训练方法和装置、多任务处理方法和装置 |
CN114255502B (zh) * | 2021-12-23 | 2024-03-29 | 中国电信股份有限公司 | 人脸图像生成方法及装置、人脸识别方法、设备、介质 |
-
2022
- 2022-03-30 CN CN202210335573.4A patent/CN114723966B/zh active Active
- 2022-12-27 JP JP2022209218A patent/JP2023040100A/ja active Pending
- 2022-12-27 KR KR1020220185130A patent/KR20230007998A/ko unknown
- 2022-12-29 US US18/148,174 patent/US20230186607A1/en not_active Abandoned
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101178773A (zh) * | 2007-12-13 | 2008-05-14 | 北京中星微电子有限公司 | 基于特征提取和分类器的图像识别系统及方法 |
CN114004357A (zh) * | 2021-11-08 | 2022-02-01 | 上海商汤智能科技有限公司 | 神经网络训练的方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
KR20230007998A (ko) | 2023-01-13 |
CN114723966A (zh) | 2022-07-08 |
US20230186607A1 (en) | 2023-06-15 |
JP2023040100A (ja) | 2023-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114723966B (zh) | 多任务识别方法、训练方法、装置、电子设备及存储介质 | |
CN113657289B (zh) | 阈值估计模型的训练方法、装置和电子设备 | |
CN114494784A (zh) | 深度学习模型的训练方法、图像处理方法和对象识别方法 | |
CN112561081B (zh) | 深度学习模型的转换方法、装置、电子设备和存储介质 | |
CN113657483A (zh) | 模型训练方法、目标检测方法、装置、设备以及存储介质 | |
CN113902010A (zh) | 分类模型的训练方法和图像分类方法、装置、设备和介质 | |
CN113420792A (zh) | 图像模型的训练方法、电子设备、路侧设备及云控平台 | |
CN115358392A (zh) | 深度学习网络的训练方法、文本检测方法及装置 | |
CN114037059A (zh) | 预训练模型、模型的生成方法、数据处理方法及装置 | |
CN116580223A (zh) | 数据处理及模型微调方法、装置、电子设备及存储介质 | |
CN113052246B (zh) | 用于训练分类模型及图像分类的方法和相关装置 | |
CN113591709B (zh) | 动作识别方法、装置、设备、介质和产品 | |
CN114863243A (zh) | 一种模型的数据遗忘方法、装置、设备及存储介质 | |
CN114494747A (zh) | 模型的训练方法、图像处理方法、装置、电子设备及介质 | |
CN113887630A (zh) | 图像分类方法、装置、电子设备和存储介质 | |
CN115439916A (zh) | 面部识别方法、装置、设备及介质 | |
CN113761379B (zh) | 商品推荐方法及装置、电子设备和介质 | |
CN113361575B (zh) | 模型训练方法、装置和电子设备 | |
CN115759283A (zh) | 一种模型解释方法、装置、电子设备以及存储介质 | |
CN112966723B (zh) | 视频数据增广方法、装置、电子设备及可读存储介质 | |
CN113139463B (zh) | 用于训练模型的方法、装置、设备、介质和程序产品 | |
CN114067415A (zh) | 回归模型的训练方法、对象评估方法、装置、设备和介质 | |
CN112561061A (zh) | 神经网络稀疏化方法、装置、设备、存储介质及程序产品 | |
CN113408632A (zh) | 提高图像分类准确性的方法、装置、电子设备及存储介质 | |
CN113989845A (zh) | 姿态分类方法和姿态分类模型的训练方法、装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |