CN115063647A - 基于深度学习的分布式异构数据处理方法、装置和设备 - Google Patents

基于深度学习的分布式异构数据处理方法、装置和设备 Download PDF

Info

Publication number
CN115063647A
CN115063647A CN202210543864.2A CN202210543864A CN115063647A CN 115063647 A CN115063647 A CN 115063647A CN 202210543864 A CN202210543864 A CN 202210543864A CN 115063647 A CN115063647 A CN 115063647A
Authority
CN
China
Prior art keywords
model
information
node
sub
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN202210543864.2A
Other languages
English (en)
Inventor
刘东升
刘礼芳
陈亚辉
刘彦妮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Gongshang University
Original Assignee
Zhejiang Gongshang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Gongshang University filed Critical Zhejiang Gongshang University
Priority to CN202210543864.2A priority Critical patent/CN115063647A/zh
Publication of CN115063647A publication Critical patent/CN115063647A/zh
Priority to JP2023043894A priority patent/JP7408042B2/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Image Analysis (AREA)

Abstract

本公开的实施例公开了基于深度学习的分布式异构数据处理方法、装置和设备。该方法的一具体实施方式包括：确定节点信息组序列；根据节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定节点信息组对应的训练样本集合；对节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合；通过子模型对应的目标训练样本集合，对子模型进行模型训练，以生成子训练结果；响应于确定得到的多个子训练结果均收敛，根据各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。该实施方式提高了分布式中的节点的节点使用效率、且提高模型训练效率。

Description

基于深度学习的分布式异构数据处理方法、装置和设备
技术领域
本公开的实施例涉及计算机技术领域，具体涉及基于深度学习的分布式异构数据处理方法、装置和设备。
背景技术
模型训练是指对初始模型进行训练，以使得训练得到的模型具有预测或分类能力。目前，再进模型分类时，通常采用的方式为：通过固定的分布式训练方式对模型进行训练。
然而，当采用上述方式时，经常会存在如下技术问题：
第一、由于分布式包含的各个节点的节点配置往往不同，以及多次训练的模型的模型结构往往不同，采用固定的分布式训练方式对模型进行训练，往往会导致分布式中的节点的节点使用效率低下；
第二、当模型包含多个子模型，且模型结构复杂时，直接对整体模型进行训练，模型的训练周期较长，导致模型训练效率低下。
发明内容
本公开的内容部分用于以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了基于深度学习的分布式异构数据处理方法、装置和设备，来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面，本公开的一些实施例提供了一种基于深度学习的分布式异构数据处理方法，该方法包括：确定节点信息组序列，其中，上述节点信息组序列中的节点信息组对应的节点组部署有初始模型包括的各个子模型中的一个子模型；根据上述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定上述节点信息组对应的训练样本集合，其中，模型结构信息表征节点信息组对应的子模型的模型结构；对于上述节点信息组序列中的每个节点信息组，根据上述节点信息组对应的模型结构信息，对上述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合；对于上述各个子模型中的每个子模型，通过上述子模型对应的目标训练样本集合，对上述子模型进行模型训练，以生成子训练结果；响应于确定得到的多个子训练结果均收敛，根据上述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。
第二方面，本公开的一些实施例提供了一种基于深度学习的分布式异构数据处理装置，装置包括：信息确定单元，被配置成确定节点信息组序列；样本确定单元，被配置成根据上述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定上述节点信息组对应的训练样本集合，其中，模型结构信息表征节点信息组对应的子模型的模型结构；样本重构单元，被配置成对于上述节点信息组序列中的每个节点信息组，根据上述节点信息组对应的模型结构信息，对上述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合；模型训练单元，被配置成对于上述各个子模型中的每个子模型，通过上述子模型对应的目标训练样本集合，对上述子模型进行模型训练，以生成子训练结果；模型生成单元，被配置成响应于确定得到的多个子训练结果均收敛，根据上述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。
第三方面，本公开的一些实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
第四方面，本公开的一些实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例中具有如下有益效果：通过本公开的一些实施例的基于深度学习的分布式异构数据处理方法，能够提高分布式中的节点的节点使用效率，且提高模型训练效率。具体来说，导致节点使用效率和模型训练效率低的原因在于：第一、由于分布式包含的各个节点的节点配置往往不同，以及多次训练的模型的模型结构往往不同，采用固定的分布式训练方式对模型进行训练，往往会导致分布式中的节点的节点使用效率低下；第二，当模型包含多个子模型，且模型结构复杂时，直接对整体模型进行训练，模型的训练周期较长，导致模型训练效率低下。基于此，本公开的一些实施例的基于深度学习的分布式异构数据处理方法包括：首先，确定节点信息组序列，其中，上述节点信息组序列中的节点信息组对应的节点组部署有初始模型包括的各个子模型中的一个子模型。实际情况中，由于节点的节点配置往往不同，子模型的模型结构往往不同。采用固定的分布式训练方式，使得子模型部署到预先设定的固定的节点上，会导致模型结构跟节点的配置不匹配(如，模型结构简单的模型部署到配置高的节点)，会导致节点的节点使用率低下。因此，通过确定节点信息组序列，将子模型部署到对应的节点组(如，模型结构简单的模型部署到配置低的节点)，提高节点的节点使用效率。其次，根据上述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定上述节点信息组对应的训练样本集合，其中，模型结构信息表征节点信息组对应的子模型的模型结构。实际情况中，由于不同节点信息组对应的节点组的配置往往不同，且不同子模型的结构也不同，导致不同节点组的模型训练速度也不同。因此，需要根据节点信息组的节点配置信息和子模型的结构信息，确定节点信息组所需的训练样本的数量，以使各个节点组的子模型的训练时间相近，缩短训练时间。然后，对于上述节点信息组序列中的每个节点信息组，根据上述节点信息组对应的模型结构信息，对上述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合。实际情况中，由于不同子模型的模型输入往往不同。因此，需要根据模型结构信息对应的子模型的模型输入，对训练样本进行样本重构，得到目标训练样本集合。接着，对于上述各个子模型中的每个子模型，通过上述子模型对应的目标训练样本集合，对上述子模型进行模型训练，以生成子训练结果。由此，通过对各个子模型分别进行训练，缩短模型训练周期，提高模型训练效率。最后，响应于确定得到的多个子训练结果均收敛，根据上述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。由此，通过分布式中的各个子模型训练完成得到的模型参数信息，生成训练完成的初始模型，提高分布式中的节点的节点使用效率、且提高模型训练效率。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，元件和元素不一定按照比例绘制。
图1是根据本公开的基于深度学习的分布式异构数据处理方法的一些实施例的流程图；
图2是根据本公开的基于深度学习的分布式异构数据处理装置的一些实施例的结构示意图；
图3是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例。相反，提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1示出了根据本公开的基于深度学习的分布式异构数据处理方法的一些实施例的流程100。该基于深度学习的分布式异构数据处理方法，包括以下步骤：
步骤101，确定节点信息组序列。
在一些实施例中，基于深度学习的分布式异构数据处理方法的执行主体(例如，计算设备)可以通过各种方式确定节点信息组序列。其中，上述节点信息组序列中的每个节点信息组对应的节点组部署有初始模型包括的各个子模型中的一个子模型。节点信息可以表征节点。节点是分布式中的运算节点。节点信息可以包括：节点编号、节点配置信息、子模型编号和节点上部署的模型的模型结构信息。节点配置信息可以表征节点的配置。例如，节点配置信息可以用等级表征。当节点配置信息通过等级表征时，等级越高表征节点配置信息对应的节点的运算能力越强。模型结构信息表征节点信息对应的子模型的模型结构。模型结构信息可以表征子模型的模型复杂程度。例如，模型结构信息可以通过对应的子模型的模型层数量化。节点信息组中的各个节点信息对应的节点的配置相同。
在一些实施例的一些可选的实现方式中，上述执行主体确定节点信息组序列，可以包括以下步骤：
第一步，获取初始节点信息序列。
其中，初始节点信息可以包括：节点编号和节点配置信息。节点配置信息可以表征节点的配置。节点配置信息可以通过节点对应的硬件配置在单位时间内的最大数据处理量表征。
第二步，确定上述各个子模型中的每个子模型对应的算力需求信息。
其中，算力需求信息表征子模型的算力需求。算力需求可以通过量化子模型包括的各个层的最大数据处理量得到。例如，算力需求可以是子模型的浮点运算量。其中，浮点运算数量是指在单位时间内浮点运算器的浮点运算量。
第三步，对于上述各个子模型中的每个子模型，根据上述子模型的模型结构信息和上述子模型对应的算力需求信息，从上述初始节点信息序列中筛选出与上述子模型对应的初始节点信息子集，作为节点信息组。
其中，子模型对应的算力需求信息表征的浮点运算量，与节点信息组中节点信息对应的节点的最大数据处理量一致。
步骤102，根据节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定节点信息组对应的训练样本集合。
在一些实施例中，上述执行主体可以根据上述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定上述节点信息组对应的训练样本集合。其中，训练样本集合中的训练样本可以是节点信息组对应的子模型训练时所需的样本。其中，模型结构信息表征节点信息组对应的子模型的模型结构。
可选地，节点配置信息可以包括：任务调度器配置信息、内存配置信息和数据处理器配置信息。内存配置信息可以包括：内存大小信息和内存读写速度信息。其中，任务调度器配置信息可以包括：节点的中央处理器的时钟频率。数据处理器配置信息可以包括：节点的显卡的核心频率。内存大小信息可以包括：节点的存储器的内存大小。内存读写速度信息可以包括：节点的存储器的读写频率。
可选地，上述执行主体根据上述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定上述节点信息组对应的训练样本集合，可以包括以下步骤：
第一步，根据上述节点信息组中的节点信息包括的节点配置信息中的任务调度器配置信息，确定上述节点信息组对应的节点组的任务调度能力信息。
其中，任务调度能力信息可以表征对应的节点组中的节点的中央处理器的调度能力的大小。中央处理器的调度能力的大小可以通过等级量化得到。任务调度能力信息可以包括：任务调度能力等级。例如，任务调度能力等级的取值可以是[1,100]之间的整数。作为示例，当任务调度器配置信息包括的节点的中央处理器的时钟频率位于3.8GHz至4GHz之间时，对应的任务调度能力信息包括的任务调度能力等级为10。
第二步，根据上述节点信息组中的节点信息包括的节点配置信息中的内存配置信息包括的内存大小信息和内存读写速度信息，确定上述节点信息组对应的节点组的内存缓存能力信息。
其中，内存缓存能力信息可以表征对应的节点组中的节点的存储器的缓存能力的大小。存储器的缓存能力的大小可以通过等级量化得到。内存缓存能力信息可以包括：内存缓存能力等级。例如，内存缓存能力等级的取值可以是[1,100]之间的整数。
作为示例，当内存配置信息包括的节点的存储器的内存大于等于16GB，且存储器的读写频率大于等于4000MHz时，对应的内存缓存能力信息包括的内存缓存能力等级为5。
第三步，根据上述节点信息组中的节点信息包括的节点配置信息中的数据处理器配置信息，确定上述节点信息组对应的节点组的数据处理能力信息。
其中，数据处理能力信息可以表征对应的节点组中的节点的显卡的数据处理能力的大小。显卡的数据处理能力的大小可以通过等级量化得到。数据处理能力信息可以包括：数据处理能力等级。例如，数据处理能力等级的取值可以是[1,100]之间的整数。
作为示例，当数据处理器配置信息包括的节点的显卡的核心频率位于350Mhz至400Mhz之间时，对应的数据处理能力信息包括的数据处理能力等级为5。
第四步，根据上述任务调度能力信息、上述内存缓存能力信息、上述数据处理能力信息和上述模型结构信息，确定上述节点信息组对应的节点组的训练样本需求信息。
其中，训练样本需求信息可以表征用于对节点信息组对应的子模型的进行训练的训练样本的需求比例。需求比例是子模型所需的训练样本占所有训练样本的比例。
作为示例，首先，上述执行主体可以将上述任务调度能力等级、内存缓存能力等级、数据处理能力等级和上述模型结构信息包括的模型层数求和，确定节点信息组对应的总等级。然后，上述执行主体可以将上述节点信息组序列中各个节点信息组对应的总等级进行归一化处理，得到各个节点信息组对应的权重。最后，上述执行主体可以将上述各个节点信息组对应的权重，确定为上述各个信息组对应的子模型的进行训练的训练样本的需求比例，得到各个节点信息组对应训练样本需求信息。
第五步，根据上述训练样本需求信息，确定上述节点信息组对应的训练样本集合。
例如，所有训练样本的数量为100。子模型的训练样本的需求比例可以是10％，则用于对子模型进行训练的训练样本的数量为10。其中，上述执行主体可以从所有训练样本中随机抽取10个训练样，作为子模型对应的节点信息组对应的训练样本集合。
步骤103，对于节点信息组序列中的每个节点信息组，根据节点信息组对应的模型结构信息，对节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合。
在一些实施例中，对于节点信息组序列中的每个节点信息组，上述执行主体可以根据上述节点信息组对应的模型结构信息，对上述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合。其中，上述目标训练样本集合中的目标训练样本可以是用于对对应的子模型进行训练的样本。
作为示例，上述执行主体可以根据模型结构信息对应的子模型的模型输入，对节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合。例如，子模型的模型输入的尺寸为300*300。则上述执行主体可以对训练样本中的图像进行裁剪，以使得生成的目标训练样本中的图像的尺寸为300*300。又如，子模型的模型输入的尺寸为20*20。则上述执行主体可以对训练样本中的图像进行裁剪，以使得生成的目标训练样本中的图像的尺寸为20*20。
步骤104，对于各个子模型中的每个子模型，通过子模型对应的目标训练样本集合，对子模型进行模型训练，以生成子训练结果。
在一些实施例中，对于上述各个子模型中的每个子模型，上述执行主体可以通过上述子模型对应的目标训练样本集合，对上述子模型进行模型训练，以生成子训练结果。其中，子训练结果可以表征对应的子模型的损失值。
可选的，上述各个子模型可以包括：人脸识别模型、人种识别模型和姿态识别模型。其中，上述人脸识别模型可以是用于对图像中的用户人脸进行识别的模型。上述人种识别模型可以是用于对图像对应的用户的种族进行识别的模型。上述姿态识别模型可以是用于对图像中的用户姿态进行识别的模型。
作为示例，上述人脸识别模型可以是MTCNN(Multi-task convolutional neuralnetwork，多任务神经网络)模型。上述姿态识别模型可以是OpenPose(开放姿态)模型。上述人种识别模型可以包括：2个第一人种识别网络、2个第二人种识别网络和1个人种分类网络。第一人种识别网络包括：2个3*3、步长为1的卷积层和1个2*2、步长为1的最大池化层。第二人种识别网络包括：3个3*3、步长为1的卷积层和1个2*2、步长为1的最大池化层。人种分类网络可以包括一个2048个神经元的全连接层，1个1024个神经元的全连接层和人种分类器。人种分类器可以是softmax分类器。
在一些实施例的一些可选的实现方式中，对于上述各个子模型中的每个子模型，上述执行主体通过上述子模型对应的目标训练样本集合，对上述子模型进行模型训练，以生成子训练结果，可以包括以下步骤：
第一步，响应于确定上述子模型为上述人脸识别模型，通过上述人脸识别模型对应的目标训练样本集合，对上述人脸识别模型进行模型训练，以生成上述人脸识别模型对应的子训练结果。
作为示例，首先，上述执行主体可以将人脸识别模型对应的目标训练样本集合中的目标训练样本，依次输入上述人脸识别模型，以对上述人脸识别模型进行模型训练。然后，上述执行主体可以通过预先设定的损失函数，确定上述人脸识别模型对应的损失值。其中，预先设定的损失函数可以是均方误差损失函数。
第二步，响应于确定上述子模型为上述人种识别模型，通过上述人种识别模型对应的目标训练样本集合，对上述人种识别模型进行模型训练，以生成上述人种识别模型对应的子训练结果。
作为示例，首先，上述执行主体可以将上述人种识别模型对应的目标训练样本集合中的目标训练样本，依次输入上述人种识别模型，以对上述人种识别模型进行模型训练。然后，上述执行主体可以通过预先设定的损失函数，确定上述人种识别模型对应的损失值。其中，预先设定的损失函数可以是均方误差损失函数。
第三步，响应于确定上述子模型为上述姿态识别模型，通过上述姿态识别模型对应的目标训练样本集合，对上述姿态识别模型进行模型训练，以生成上述姿态识别模型对应的子训练结果。
作为示例，首先，上述执行主体可以将上述姿态识别模型对应的目标训练样本集合中的目标训练样本，依次输入上述姿态识别模型，以对上述姿态识别模型进行模型训练。然后，上述执行主体可以通过预先设定的损失函数，确定上述姿态识别模型对应的损失值。其中，预先设定的损失函数可以是均方误差损失函数。
步骤105，响应于确定得到的多个子训练结果均收敛，根据各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。
在一些实施例中，上述执行主体可以响应于确定得到的多个子训练结果均收敛，根据各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。其中，当前模型参数信息可以是子训练结果收敛时，对应的子模型的权重参数的信息。
在一些实施例的一些可选的实现方式中，上述执行主体响应于确定得到的多个子训练结果均收敛，根据各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型，可以包括以下步骤：
第一步，响应于确定人脸识别模型对应的子训练结果收敛，确定人脸识别模型的当前模型参数，以生成人脸识别模型对应的当前模型参数信息。
作为示例，上述执行主体可以响应于确定人脸识别模型对应的损失值收敛，通过反向传播得到人脸识别模型的权重参数，得到当前模型参数信息。
第二步，响应于确定人种识别模型对应的子训练结果收敛，确定人种识别模型的当前模型参数，以生成人种识别模型对应的当前模型参数信息。
作为示例，上述执行主体可以响应于确定人种识别模型对应损失值收敛，通过反向传播得到人种识别模型的权重参数，得到当前模型参数信息。
第三步，响应于确定姿态识别模型对应的子训练结果收敛，确定姿态识别模型的当前模型参数，以生成姿态识别模型对应的当前模型参数信息。
作为示例，上述执行主体可以响应于确定姿态识别模型对应损失值收敛，通过反向传播得到姿态识别模型的权重参数，得到当前模型参数信息。
第四步，根据得到的多个当前模型参数信息，对上述初始模型进行模型参数更新，以生成候选初始模型。
其中，上述候选初始模型可以是对初始模型中的参数替换后的模型。上述执行主体可以根据得到的多个当前模型参数信息中的模型参数信息包括的权重参数，对上述初始模型的参数进行替换，以生成候选初始模型。
第五步，从上述各个子模型对应的多个训练样本集合中抽取训练样本，以生成目标样本，得到目标样本集合。
其中，目标样本可以是从上述多个训练样本集合中随机抽取的，用于对上述候选初始模型进行训练的样本。
第六步，通过上述目标样本集合对上述候选初始模型进行模型训练。
作为示例，上述执行主体可以将上述目标样本集合中的目标样本，依次输入上述候选初始模型，以对上述候选初始模型进行训练。
第七步，响应于确定上述候选初始模型对应的目标训练结果收敛，生成上述训练完成的初始模型。
作为示例，上述执行主体可以响应于确定上述候选初始模型对应的目标训练结果收敛，将通过当前训练得到的参数确定为初始模型的参数，生成上述训练完成的初始模型。
可选的，上述执行主体还可以执行以下处理步骤：
第一步，获取目标图像。
其中，上述目标图像包含目标对象。上述目标对象可以是用户的全身图像。
作为示例，上述目标图像可以是银行的监控设备拍摄得到的图像。上述监控设备可以是摄像头。
第二步，将上述目标图像输入上述训练完成的初始模型，以生成上述目标图像对应的用户身份信息。
其中，上述用户身份信息可以是上述目标图像包含的目标对象对应的用户的身份信息。上述用户身份信息包括：人脸位置信息、人种信息和用户姿态信息。上述人脸位置信息可以表征上述目标图像包含的目标对象中的人脸所处的位置。上述人种信息可以表征上述目标图像包含的目标对象对应的用户的人种类别。上述用户姿态信息可以表征上述目标图像包含的目标对象中的肢体所处的位置。
第三步，根据上述用户身份信息包括的人脸位置信息、人种信息和用户姿态信息，对上述目标图像进行图像标注，以生成标注后的目标图像。
作为示例，上述执行主体可以根据人脸位置信息中的人脸位置、人种信息中的人种类别和用户姿态信息中的肢体位置，对上述目标图像中的相应位置进行标注。
第四步，对上述标注后的目标图像进行图像存储。
作为示例，上述执行主体可以将上述标注后的图像存入磁盘。
通过本公开的一些实施例的基于深度学习的分布式异构数据处理方法，能够提高分布式中的节点的节点使用效率，且提高模型训练效率。具体来说，导致节点使用效率和模型训练效率低的原因在于：第一、由于分布式包含的各个节点的节点配置往往不同，以及多次训练的模型的模型结构往往不同，采用固定的分布式训练方式对模型进行训练，往往会导致分布式中的节点的节点使用效率低下；第二，当模型包含多个子模型，且模型结构复杂时，直接对整体模型进行训练，模型的训练周期较长，导致模型训练效率低下。基于此，本公开的一些实施例的基于深度学习的分布式异构数据处理方法包括：首先，确定节点信息组序列，其中，上述节点信息组序列中的节点信息组对应的节点组部署有初始模型包括的各个子模型中的一个子模型。实际情况中，由于节点的节点配置往往不同，子模型的模型结构往往不同。采用固定的分布式训练方式，使得子模型部署到预先设定的固定的节点上，会导致模型结构跟节点的配置不匹配(如，模型结构简单的模型部署到配置高的节点)，会导致节点的节点使用率低下。因此，通过确定节点信息组序列，将子模型部署到对应的节点组(如，模型结构简单的模型部署到配置低的节点)，提高节点的节点使用效率。其次，根据上述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定上述节点信息组对应的训练样本集合，其中，模型结构信息表征节点信息组对应的子模型的模型结构。实际情况中，由于不同节点信息组对应的节点组的配置往往不同，且不同子模型的结构也不同，导致不同节点组的模型训练速度也不同。因此，需要根据节点信息组的节点配置信息和子模型的结构信息，确定节点信息组所需的训练样本的数量，以使各个节点组的子模型的训练时间相近，缩短训练时间。然后，对于上述节点信息组序列中的每个节点信息组，根据上述节点信息组对应的模型结构信息，对上述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合。实际情况中，由于不同子模型的模型输入往往不同。因此，需要根据模型结构信息对应的子模型的模型输入，对训练样本进行样本重构，得到目标训练样本集合。接着，对于上述各个子模型中的每个子模型，通过上述子模型对应的目标训练样本集合，对上述子模型进行模型训练，以生成子训练结果。由此，通过对各个子模型分别进行训练，缩短模型训练周期，提高模型训练效率。最后，响应于确定得到的多个子训练结果均收敛，根据上述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。由此，通过分布式中的各个子模型训练完成得到的模型参数信息，生成训练完成的初始模型，提高分布式中的节点的节点使用效率、且提高模型训练效率。
进一步参考图2，作为对上述各图所示方法的实现，本公开提供了一种基于深度学习的分布式异构数据处理装置的一些实施例，这些装置实施例与图1所示的那些方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图2所示，一些实施例的基于深度学习的分布式异构数据处理装置200包括：信息确定单元201、样本确定单元202、样本重构单元203、模型训练单元204和模型生成单元205。其中，信息确定单元201被配置成确定节点信息组序列；样本确定单元202被配置成根据上述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定上述节点信息组对应的训练样本集合，其中，模型结构信息表征节点信息组对应的子模型的模型结构；样本重构单元203被配置成对于上述节点信息组序列中的每个节点信息组，根据上述节点信息组对应的模型结构信息，对上述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合；模型训练单元204被配置成对于上述各个子模型中的每个子模型，通过上述子模型对应的目标训练样本集合，对上述子模型进行模型训练，以生成子训练结果；模型生成单元205被配置成响应于确定得到的多个子训练结果均收敛，根据上述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。
可以理解的是，该装置200中记载的诸单元与参考图1描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置200及其中包含的单元，在此不再赘述。
下面参考图3，其示出了适于用来实现本公开的一些实施例的电子设备(例如，计算设备)300的结构示意图。图3示出的电子设备仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。
如图3所示，电子设备300可以包括处理装置(例如中央处理器、图形处理器等)301，其可以根据存储在只读存储器(ROM)302中的程序或者从存储装置308加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中，还存储有电子设备300操作所需的各种程序和数据。处理装置301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
通常，以下装置可以连接至I/O接口305：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307；包括例如磁带、硬盘等的存储装置308；以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的电子设备300，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图3中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。
特别地，根据本公开的一些实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的一些实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中，该计算机程序可以通过通信装置309从网络上被下载和安装，或者从存储装置308被安装，或者从ROM 302被安装。在该计算机程序被处理装置301执行时，执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是，本公开的一些实施例中记载的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：确定节点信息组序列，其中，上述节点信息组序列中的节点信息组对应的节点组部署有初始模型包括的各个子模型中的一个子模型；根据上述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定上述节点信息组对应的训练样本集合，其中，模型结构信息表征节点信息组对应的子模型的模型结构；对于上述节点信息组序列中的每个节点信息组，根据上述节点信息组对应的模型结构信息，对上述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合；对于上述各个子模型中的每个子模型，通过上述子模型对应的目标训练样本集合，对上述子模型进行模型训练，以生成子训练结果；响应于确定得到的多个子训练结果均收敛，根据上述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括信息确定单元、样本确定单元、样本重构单元、模型训练单元和模型生成单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，模型生成单元还可以被描述为“响应于确定得到的多个子训练结果均收敛，根据上述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (10)

1.一种基于深度学习的分布式异构数据处理方法，包括：
确定节点信息组序列，其中，所述节点信息组序列中的每个节点信息组对应的节点组部署有初始模型包括的各个子模型中的一个子模型；
根据所述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定所述节点信息组对应的训练样本集合，其中，模型结构信息表征节点信息组对应的子模型的模型结构；
对于所述节点信息组序列中的每个节点信息组，根据所述节点信息组对应的模型结构信息，对所述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合；
对于所述各个子模型中的每个子模型，通过所述子模型对应的目标训练样本集合，对所述子模型进行模型训练，以生成子训练结果；
响应于确定得到的多个子训练结果均收敛，根据所述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。
2.根据权利要求1所述的方法，其中，所述确定节点信息组序列，包括：
获取初始节点信息序列；
确定所述各个子模型中的每个子模型对应的算力需求信息；
对于所述各个子模型中的每个子模型，根据所述子模型对应的算力需求信息，从所述初始节点信息序列中筛选出与所述子模型对应的初始节点信息子集，作为节点信息组。
3.根据权利要求2所述的方法，其中，节点配置信息包括：任务调度器配置信息、内存配置信息和数据处理器配置信息，内存配置信息包括：内存大小信息，内存读写速度信息；以及
所述根据所述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定所述节点信息组对应的训练样本集合，包括：
根据所述节点信息组对应的节点配置信息包括的任务调度器配置信息，确定所述节点信息组对应的节点组的任务调度能力信息；
根据所述节点信息组对应的节点配置信息包括的内存配置信息包括的内存大小信息和内存读写速度信息，确定所述节点信息组对应的节点组的内存缓存能力信息；
根据所述节点信息组对应的节点配置信息包括的数据处理器配置信息，确定所述节点信息组对应的节点组的数据处理能力信息；
根据所述任务调度能力信息、所述内存缓存能力信息、所述数据处理能力信息和所述模型结构信息，确定所述节点信息组对应的节点组的训练样本需求信息；
根据所述训练样本需求信息，确定所述节点信息组对应的训练样本集合。
4.根据权利要求3所述的方法，其中，所述各个子模型包括：人脸识别模型、人种识别模型和姿态识别模型；以及
所述对于所述各个子模型中的每个子模型，通过所述子模型对应的目标训练样本集合，对所述子模型进行模型训练，以生成子训练结果，包括：
响应于确定所述子模型为所述人脸识别模型，通过所述人脸识别模型对应的目标训练样本集合，对所述人脸识别模型进行模型训练，以生成所述人脸识别模型对应的子训练结果；
响应于确定所述子模型为所述人种识别模型，通过所述人种识别模型对应的目标训练样本集合，对所述人种识别模型进行模型训练，以生成所述人种识别模型对应的子训练结果；
响应于确定所述子模型为所述姿态识别模型，通过所述姿态识别模型对应的目标训练样本集合，对所述姿态识别模型进行模型训练，以生成所述姿态识别模型对应的子训练结果。
5.根据权利要求4所述的方法，其中，所述根据所述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型，包括：
响应于确定人脸识别模型对应的子训练结果收敛，确定人脸识别模型的当前模型参数，以生成人脸识别模型对应的当前模型参数信息；
响应于确定人种识别模型对应的子训练结果收敛，确定人种识别模型的当前模型参数，以生成人种识别模型对应的当前模型参数信息；
响应于确定姿态识别模型对应的子训练结果收敛，确定姿态识别模型的当前模型参数，以生成姿态识别模型对应的当前模型参数信息；
根据得到的多个当前模型参数信息，对所述初始模型进行模型参数更新，以生成候选初始模型。
6.根据权利要求5所述的方法，其中，所述根据所述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型，还包括：
从所述各个子模型对应的多个训练样本集合中抽取训练样本，以生成目标样本，得到目标样本集合；
通过所述目标样本集合对所述候选初始模型进行模型训练；
响应于确定所述候选初始模型对应的目标训练结果收敛，生成所述训练完成的初始模型。
7.根据权利要求6所述的方法，其中，所述方法还包括：
获取目标图像，其中，所述目标图像包含目标对象；
将所述目标图像输入所述训练完成的初始模型，以生成所述目标图像对应的用户身份信息，其中，所述用户身份信息包括：人脸位置信息、人种信息和用户姿态信息；
根据所述用户身份信息包括的人脸位置信息、人种信息和用户姿态信息，对所述目标图像进行图像标注，以生成标注后的目标图像；
对所述标注后的目标图像进行图像存储。
8.一种基于深度学习的分布式异构数据处理装置，包括：
信息确定单元，被配置成确定节点信息组序列；
样本确定单元，被配置成根据所述节点信息组序列中的每个节点信息组对应的节点配置信息和模型结构信息，确定所述节点信息组对应的训练样本集合，其中，模型结构信息表征节点信息组对应的子模型的模型结构；
样本重构单元，被配置成对于所述节点信息组序列中的每个节点信息组，根据所述节点信息组对应的模型结构信息，对所述节点信息组对应的训练样本集合中的训练样本进行样本重构，以生成目标训练样本集合；
模型训练单元，被配置成对于所述各个子模型中的每个子模型，通过所述子模型对应的目标训练样本集合，对所述子模型进行模型训练，以生成子训练结果；
模型生成单元，被配置成响应于确定得到的多个子训练结果均收敛，根据所述各个子模型中的子模型对应的当前模型参数信息，生成训练完成的初始模型。
9.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1至7中任一所述的方法。
10.一种计算机可读介质，其上存储有计算机程序，其中，所述程序被处理器执行时实现如权利要求1至7中任一所述的方法。
CN202210543864.2A 2022-05-18 2022-05-18 基于深度学习的分布式异构数据处理方法、装置和设备 Withdrawn CN115063647A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202210543864.2A CN115063647A (zh) 2022-05-18 2022-05-18 基于深度学习的分布式异构数据处理方法、装置和设备
JP2023043894A JP7408042B2 (ja) 2022-05-18 2023-03-20 ディープラーニングに基づく分散式異種データの処理方法、装置及び設備

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210543864.2A CN115063647A (zh) 2022-05-18 2022-05-18 基于深度学习的分布式异构数据处理方法、装置和设备

Publications (1)

Publication Number Publication Date
CN115063647A true CN115063647A (zh) 2022-09-16

Family

ID=83198498

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210543864.2A Withdrawn CN115063647A (zh) 2022-05-18 2022-05-18 基于深度学习的分布式异构数据处理方法、装置和设备

Country Status (2)

Country Link
JP (1) JP7408042B2 (zh)
CN (1) CN115063647A (zh)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180314971A1 (en) 2017-04-26 2018-11-01 Midea Group Co., Ltd. Training Machine Learning Models On A Large-Scale Distributed System Using A Job Server
JP6932758B2 (ja) 2019-10-29 2021-09-08 三菱電機インフォメーションシステムズ株式会社 物体検出装置、物体検出方法、物体検出プログラム、学習装置、学習方法及び学習プログラム
WO2021220616A1 (ja) 2020-04-30 2021-11-04 ソニーグループ株式会社 情報処理装置及び情報処理方法、コンピュータプログラム、並びに分散学習システム

Also Published As

Publication number Publication date
JP7408042B2 (ja) 2024-01-05
JP2023171248A (ja) 2023-12-01

Similar Documents

Publication Publication Date Title
CN108520220B (zh) 模型生成方法和装置
US11307864B2 (en) Data processing apparatus and method
CN109800732B (zh) 用于生成漫画头像生成模型的方法和装置
US11307865B2 (en) Data processing apparatus and method
CN111523640B (zh) 神经网络模型的训练方法和装置
CN112883149B (zh) 一种自然语言处理方法以及装置
CN112668588B (zh) 车位信息生成方法、装置、设备和计算机可读介质
US11423307B2 (en) Taxonomy construction via graph-based cross-domain knowledge transfer
CN113435365B (zh) 人脸图像迁移方法及装置
CN113140012B (zh) 图像处理方法、装置、介质及电子设备
WO2024114659A1 (zh) 一种摘要生成方法及其相关设备
CN110689117A (zh) 基于神经网络的信息处理方法和装置
CN113610228B (zh) 神经网络模型的构建方法及装置
CN115063647A (zh) 基于深度学习的分布式异构数据处理方法、装置和设备
US11086634B2 (en) Data processing apparatus and method
CN111291640B (zh) 用于识别步态的方法和装置
US11307866B2 (en) Data processing apparatus and method
CN111949860B (zh) 用于生成相关度确定模型的方法和装置
CN113822324A (zh) 基于多任务模型的图像处理方法、装置及相关设备
CN112348162B (zh) 用于生成识别模型的方法和装置
CN115952830B (zh) 数据处理方法、装置、电子设备及存储介质
US20240028923A1 (en) Extracting enriched target-oriented common sense from grounded graphs to support next step decision making
CN114758368A (zh) 人脸关键点信息生成方法、装置、设备和计算机可读介质
CN116362301A (zh) 一种模型的量化方法以及相关设备
CN114639147A (zh) 年龄信息生成方法、装置、电子设备和计算机可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WW01 Invention patent application withdrawn after publication

Application publication date: 20220916

WW01 Invention patent application withdrawn after publication