CN111160448A - 一种图像分类模型的训练方法及装置 - Google Patents

一种图像分类模型的训练方法及装置 Download PDF

Info

Publication number
CN111160448A
CN111160448A CN201911369308.2A CN201911369308A CN111160448A CN 111160448 A CN111160448 A CN 111160448A CN 201911369308 A CN201911369308 A CN 201911369308A CN 111160448 A CN111160448 A CN 111160448A
Authority
CN
China
Prior art keywords
network model
image
loss
trained
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911369308.2A
Other languages
English (en)
Other versions
CN111160448B (zh
Inventor
张�雄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Reach Best Technology Co Ltd
Original Assignee
Reach Best Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Reach Best Technology Co Ltd filed Critical Reach Best Technology Co Ltd
Priority to CN201911369308.2A priority Critical patent/CN111160448B/zh
Publication of CN111160448A publication Critical patent/CN111160448A/zh
Application granted granted Critical
Publication of CN111160448B publication Critical patent/CN111160448B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开实施例提供了一种图像分类模型的训练方法、装置、电子设备及存储介质，通过将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型；将第二图像样本输入第一网络模型，基于第二损失判断第一网络模型是否收敛；若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型继续进行训练直至收敛，得到训练好的图像分类模型。实现了通过第一损失函数更新待训练的图像分类模型的卷积参数，通过第二损失函数更新待训练的图像分类模型的结构参数，减少网络模型的训练时间，提高图像分类模型的训练速度和图像分裂的准确性。

Description

一种图像分类模型的训练方法及装置
技术领域
本公开涉及深度学习技术领域，尤其涉及一种图像分类模型的训练方法及装置。
背景技术
CNN(Convolutional Neural Network，卷积神经网络)作为深度学习的一个重要分支，具有良好的拟合能力和全局优化能力，因而被广泛地应用于图像识别、语音识别和目标跟踪等领域。
通常，在训练卷积神经网络时，利用NAS(Neural Architecture Search，网络自动化搜索)算法确定CNN的网络架构。NAS算法将初始CNN网络切分成若干个基本单元(Cell)，每个Cell由多个子单元(Block)组成，每个子单元由多个节点(Node)组成。搜索过程中，针对每个Block，分别计算各个Node进行每种预设的可用卷积操作时的操作权重，并保留操作权重的最大值对应的卷积操作，作为当前Node使用的卷积操作。
示例性的，若一个卷积神经网络由10个Cell堆叠而成，每个cell包含2个Block，每个Block包含5个Node；针对每个Block中的各个Node，预设了四种可用卷积操作，计算出的操作权重分别为0.5、0.4、0.05和0.05，则保留操作权重0.5对应的可用卷积操作。
可见，相关技术中，当一个Node中的多种预设的可用卷积操作的操作权重很接近时，如果仅保留操作权重的最大值对应的卷积操作、丢弃其它卷积操作，那么被丢弃的可能也是对网络性能实际影响较大的卷积操作，会降低卷积神经网络输出结果的准确性。
发明内容
本公开提供一种图像分类模型的训练方法及装置，以至少解决相关技术中数据分类结果的准确性较低的问题。本公开的技术方案如下：
根据本公开实施例的第一方面，提供一种图像分类模型的训练方法，包括：
步骤A，获取第一图像样本和第二图像样本，其中，第一图像样本和第二图像样本包括多个相同或不同的样本图像，样本图像包括预先标注的标准分类信息；
步骤B，将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型；
步骤C，将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛；
步骤D，若第一网络模型收敛，得到训练好的图像分类模型；
步骤E，若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型返回执行步骤B至步骤E继续进行训练直至收敛，得到训练好的图像分类模型，其中，第二损失函数由第一损失函数与离散度函数组成，离散度函数用于表征卷积核操作权重的离散度。
可选的，待训练的网络模型为预设的初始卷积神经网络模型，包含多个基本单元，每个基本单元包含多个子单元，每个子单元中包含多个节点。
可选的，第一损失函数为：
L1＝-∑xp(x)logq(x)；
其中，L1为计算获得的第一损失；x表示第一图像样本中的任一图像样本，第一图像样本包括n张图像样本，x包含于[1,n]；p(x)表示第x个输入第一网络模型的图像样本的标准分类，q(x)表示第x个输入第一网络模型的图像样本的预测分类。
可选的，第二损失函数为：
Figure BDA0002339252640000021
其中，k表示第一网络模型中的第k个子单元，l表示第k个子单元中的第l个节点，Ο表示预设的卷积操作集合，o表示节点当前所执行的预设的可用卷积操作，o′表示预设的卷积操作集合中，除了节点当前所执行的预设的可用卷积操作之外的其它可用卷积操作，
Figure BDA0002339252640000022
为第k个子单元中的第l个节点执行卷积运算o时的操作权重，k∈[1,K],l∈[1，L]，K为第一网络模型的子单元的总数量，L为第一网络模型的节点的总数量，离散度函数为：βk,l的离散度为
Figure BDA0002339252640000023
可选的，基于第二损失，更新第一网络模型的结构参数，包括：
根据操作权重
Figure BDA0002339252640000024
以及操作权重和结构参数
Figure BDA0002339252640000025
的对应关系，更新结构参数，其中，对应关系为操作权重
Figure BDA0002339252640000026
为归一化的结构参数
Figure BDA0002339252640000027
根据本公开实施例的第二方面，提供一种图像分类方法，包括：
将待分类图像输入训练好的图像分类模型，得到目标分类结果；其中，训练好的网络模型为通过上述任一的图像分类模型的训练方法训练得到的模型。
根据本公开实施例的第三方面，提供一种图像分类模型的训练方法装置，包括：
数据获取模块，用于获取第一图像样本和第二图像样本，其中，第一图像样本和第二图像样本包括多个相同或不同的样本图像，样本图像包括预先标注的标准分类信息；
第一损失模块，用于将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型；
第二损失模块，用于将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛；
收敛判断模块，用于若第一网络模型收敛，得到训练好的图像分类模型；
未收敛模块，用于若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型返回第一损失模块继续执行直至收敛，得到训练好的图像分类模型，其中，第二损失函数由第一损失函数与离散度函数组成，离散度函数用于表征卷积核操作权重的离散度。
可选的，待训练的网络模型为预设的初始卷积神经网络模型，包含多个基本单元，每个基本单元包含多个子单元，每个子单元中包含多个节点。
可选的，第一损失函数为：
L1＝-∑xp(x)logq(x)；
其中，L1为计算获得的第一损失；x表示第一图像样本中的任一图像样本，第一图像样本包括n张图像样本，x包含于[1,n]；p(x)表示第x个输入第一网络模型的图像样本的标准分类，q(x)表示第x个输入第一网络模型的图像样本的预测分类。
可选的，第二损失函数为：
Figure BDA0002339252640000031
其中，k表示第一网络模型中的第k个子单元，l表示第k个子单元中的第l个节点，Ο表示预设的卷积操作集合，o表示节点当前所执行的预设的可用卷积操作，o′表示预设的卷积操作集合中，除了节点当前所执行的预设的可用卷积操作之外的其它可用卷积操作，
Figure BDA0002339252640000032
为第k个子单元中的第l个节点执行卷积运算o时的操作权重，k∈[1,K],l∈[1，L]，K为第一网络模型的子单元的总数量，L为第一网络模型的节点的总数量，离散度函数为：βk,l的离散度为
Figure BDA0002339252640000041
可选的，第二损失模块具体还用于：
根据操作权重
Figure BDA0002339252640000042
以及操作权重和结构参数
Figure BDA0002339252640000043
的对应关系，更新结构参数，其中，对应关系为操作权重
Figure BDA0002339252640000044
为归一化的结构参数
Figure BDA0002339252640000045
根据本公开实施例的第四方面，提供一种图像分类装置，包括：
图像分类模块，用于将待分类图像输入训练好的图像分类模型，得到目标分类结果；其中，训练好的网络模型为通过上述任一的图像分类模型的训练方法训练得到的模型。
根据本公开实施例的第五方面，提供一种电子设备，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，处理器被配置为执行指令，以实现上述任一图像分类模型的训练方法。
根据本公开实施例的第六方面，提供一种电子设备，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，处理器被配置为执行指令，以实现上述任一图像分类方法。
根据本公开实施例的第七方面，提供一种存储介质，
当存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行上述任一图像分类模型的训练方法。
根据本公开实施例的第八方面，提供一种存储介质，
当存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行上述任一图像分类方法。
根据本公开实施例的第九方面，提供一种计算机程序产品，当计算机程序产品被计算机执行时，使得计算机能够执行上述任一图像分类模型的训练方法。
根据本公开实施例的第十方面，提供一种计算机程序产品，当计算机程序产品被计算机执行时，使得计算机能够执行上述任一图像分类方法。
本公开实施例提供了一种图像分类模型的训练方法、装置、电子设备及存储介质，通过获取第一图像样本和第二图像样本；将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型；将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛；若第一网络模型收敛，得到训练好的图像分类模型；若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型继续进行训练直至收敛，得到训练好的图像分类模型。实现了通过第一损失函数更新待训练的图像分类模型的卷积参数，通过第二损失函数更新待训练的图像分类模型的结构参数，减少网络模型的训练时间，提高图像分类模型的训练速度和图像分裂的准确性。当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理，并不构成对本公开的不当限定。
图1是根据一示例性实施例示出的一种图像分类模型的训练方法的流程图。
图2是一种神经网络结构的示意图。
图3是一种网络单元的结构示意图。
图4是根据一示例性实施例示出的一种图像分类方法的流程图。
图5是根据一示例性实施例示出的一种图像分类模型的训练装置的框图。
图6是根据一示例性实施例示出的一种图像分类装置的框图。
图7是根据一示例性实施例示出的一种图像分类模型的训练装置700的框图。
图8是根据一示例性实施例示出的一种用于图像分类的装置800的框图。
图9是根据一示例性实施例示出的一种用于图像分类模型的训练装置900的框图。
图10是根据一示例性实施例示出的一种用于图像分类的装置1000的框图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案，下面将结合附图，对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
本公开实施例的网络模型训练方法针对的是智能终端设备中的网络模型，因此可以通过智能终端设备执行，该智能终端设备可以为专门用于进行网络模型训练的智能设备，该智能终端设备也可以为进行网络模型的训练并可以通过自身训练好的网络模型进行图像的分类，具体的，该智能终端设备可以为电脑或服务器等。
图1是根据一示例性实施例示出的一种图像分类模型的训练方法流程图，包括以下步骤：
在步骤S11中，获取第一图像样本和第二图像样本。
其中，第一图像样本和第二图像样本包括多个相同或不同的样本图像，样本图像包括预先标注的标准分类信息。其中，上述样本图像可以为多种类型或格式的图像。
在步骤S12中，将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型。
其中，卷积参数为网络模型的卷积层函数的参数。其中，上述通过第一损失函数计算待训练的网络模型的第一损失，更新待训练的网络模型的卷积参数，可以为通过第一损失更新上述网络模型的在深度学习中传递层中的卷积层函数所拥有的参数。
可选的，第一损失函数可以采用传统的对卷积参数进行训练的损失函数，例如，第一损失函数为交叉熵损失函数，通过交叉熵损失函数可以计算待训练的网络模型的第一损失，通过上述交叉熵损失函数可以计算第x个输入第一网络模型的样本数据的标准分类和第x个输入第一网络模型的样本数据的预测分类的交叉熵，得到第一损失。
通过将样本数据集中的样本数据输入待训练的网络模型，通过第一损失函数计算待训练的网络模型的第一损失，更新待训练的网络模型的卷积参数，可以对上述待训练的网络模型的卷积参数进行更新，并根据更新后的卷积参数，得到参数更新后的网络模型即第一网络模型。
在步骤S13中，将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛。
其中，第二损失函数由第一损失函数与离散度函数组成，离散度函数用于表征卷积核操作权重的离散度。将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛，可以通过计算第二损失，并将上述第二损失与预设阈值进行对比。其中，第一网络模型可以为已经收敛的网络模型，也可以为未收敛的网路模型，本公开对此不进行限定。
其中，信息熵函数作为第二损失函数的一部分，通过信息熵函数可以标定所述网络模型的中卷积核的离散度，从而可以在模型训练过程中，根据所得到的第二损失对模型的参数进行修正，从而使得训练好的网络模型所求的操作权重趋向于one-hot化，提高模型的数据分类的精度。
在步骤S14中，若第一网络模型收敛，得到训练好的图像分类模型。
其中，若第一网络模型收敛，得到训练好的图像分类模型，可以为可以通过计算第二损失，并将上述第二损失与预设阈值进行对比，当第二损失小于预设阈值时，可以判定第一网络模型收敛，当第二损失大于预设阈值时，可以判定第一网络模型未收敛。
在步骤S15中，若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型返回执行步骤S12至步骤S15继续进行训练直至收敛，得到训练好的图像分类模型。
其中，第二损失函数由第一损失函数与离散度函数组成，离散度函数用于表征卷积核操作权重的离散度。其中，更新后的第一网络模型可以为已经收敛的网络模型，也可以为未收敛的网路模型，本公开对此不进行限定。
可见，通过本公开实施例提供的图像分类模型的训练方法，通过将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型；将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛；若第一网络模型收敛，得到训练好的图像分类模型；若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型继续进行训练直至收敛，得到训练好的图像分类模型。实现了通过第一损失函数更新待训练的图像分类模型的卷积参数，通过第二损失函数更新待训练的图像分类模型的结构参数，减少网络模型的训练时间，提高图像分类模型的训练速度和图像分裂的准确性。
可选的，待训练的网络模型为预设的初始卷积神经网络模型，包含多个基本单元，每个基本单元包含多个子单元，每个子单元中包含多个节点。
其中，上述待训练的网络模型可以为NAS(神经结构搜索，Neural ArchitectureSearch)搜索方案中，基于CELL(基本单元)的网络模型，一个CELL一般由Block(子单元)B0、B1……Bn-1构成，每个Block Bk，由Node(节点)I0、I1……Ik+1构成。
例如，如图2所示，图2是一种神经网络结构的示意图，图中的隐含层包括若干个基本单元，每个Cell由多个子单元组成，每个子单元由多个节点组成。搜索过程中，针对每个Block，分别计算各个Node进行每种预设的可用卷积操作时的操作权重，并保留操作权重的最大值对应的卷积操作，作为当前Node使用的卷积操作。如图3所示，图3是一种网络单元的结构示意图，其中，C1表示上一个单元的输出，C2表示上上一个单元的输出，C3表示当前单元的输出，n0、n1、n2、n3为当前单元的节点。
可见，通过本公开实施例的方法，可以对待训练的网络模型的单元和节点的参数进行调整，得到训练好的网络模型，从而减少网络模型的训练时间，提高图像分类模型的训练速度和图像分裂的准确性。
可选的，第一损失函数为：
L1＝-∑xp(x)logq(x)；
其中，L1为计算获得的第一损失；x表示第一图像样本中的任一图像样本，第一图像样本包括n张图像样本，x包含于[1,n]；p(x)表示第x个输入第一网络模型的图像样本的标准分类，q(x)表示第x个输入第一网络模型的图像样本的预测分类。
可选的，第一损失函数为交叉熵损失函数，通过交叉熵损失函数可以计算待训练的网络模型的第一损失，通过上述交叉熵损失函数可以计算第x个输入第一网络模型的样本数据的标准分类和第x个输入第一网络模型的样本数据的预测分类的交叉熵，得到第一损失。
通过第一损失函数计算待训练的网络模型的第一损失，并根据第一损失更新待训练的网络模型的卷积参数，从而可以实现对待训练的网络模型进行训练。
可选的，第二损失函数为：
Figure BDA0002339252640000081
其中，k表示第一网络模型中的第k个子单元，l表示第k个子单元中的第l个节点，Ο表示预设的卷积操作集合，o表示节点当前所执行的预设的可用卷积操作，o′表示预设的卷积操作集合中，除了节点当前所执行的预设的可用卷积操作之外的其它可用卷积操作，
Figure BDA0002339252640000082
为第k个子单元中的第l个节点执行卷积运算o时的操作权重，k∈[1,K],l∈[1，L]，K为第一网络模型的子单元的总数量，L为第一网络模型的节点的总数量，离散度函数为：βk,l的离散度为
Figure BDA0002339252640000083
其中，第二损失函数由第一损失函数与离散度函数组成，离散度函数用于表征卷积核操作权重的离散度。
通过，第二损失函数计算第一网络模型的的第二损失，可以通过第二损失进行第一网络模型是否收敛的判断，并可以基于第二损失对第一网络模型的结构参数进行调整，从而进行模型的训练，得到训练好的图像分类模型。
可选的，基于第二损失，更新第一网络模型的结构参数，包括：根据操作权重
Figure BDA0002339252640000084
以及操作权重和结构参数
Figure BDA0002339252640000091
的对应关系，更新结构参数。
其中，对应关系为操作权重
Figure BDA0002339252640000092
为归一化的结构参数
Figure BDA0002339252640000093
通过根据操作权重
Figure BDA0002339252640000094
以及操作权重和结构参数
Figure BDA0002339252640000095
的对应关系，更新结构参数，可以对上述网络模型的结构参数进行调整，从而便于对待训练的网络模型进行训练，得到训练的图像分类模型。
可选的，本公开实施例包括以下步骤：
在步骤S11中，获取第一图像样本和第二图像样本。
其中，第一图像样本和第二图像样本包括多个相同或不同的样本图像，样本图像包括预先标注的标准分类信息。
在步骤S12中，将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型。
在步骤S13中，将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛。
在步骤S14中，若第一网络模型收敛，得到训练好的图像分类模型。
在步骤S15中，若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型返回执行步骤B至步骤E继续进行训练直至收敛，得到训练好的图像分类模型。
其中，第二损失函数由第一损失函数与离散度函数组成，离散度函数用于表征卷积核操作权重的离散度。
可选的，待训练的网络模型为预设的初始卷积神经网络模型，包含多个基本单元，每个基本单元包含多个子单元，每个子单元中包含多个节点。
可选的，第一损失函数为：
L1＝-∑xp(x)logq(x)；
其中，L1为计算获得的第一损失；x表示第一图像样本中的任一图像样本，第一图像样本包括n张图像样本，x包含于[1,n]；p(x)表示第x个输入第一网络模型的图像样本的标准分类，q(x)表示第x个输入第一网络模型的图像样本的预测分类。
可选的，第二损失函数为：
Figure BDA0002339252640000096
其中，k表示第一网络模型中的第k个子单元，l表示第k个子单元中的第l个节点，Ο表示预设的卷积操作集合，o表示节点当前所执行的预设的可用卷积操作，o′表示预设的卷积操作集合中，除了节点当前所执行的预设的可用卷积操作之外的其它可用卷积操作，
Figure BDA0002339252640000101
为第k个子单元中的第l个节点执行卷积运算o时的操作权重，k∈[1,K],l∈[1，L]，K为第一网络模型的子单元的总数量，L为第一网络模型的节点的总数量，离散度函数为：βk,l的离散度为
Figure BDA0002339252640000102
可选的，基于第二损失，更新第一网络模型的结构参数，包括：
根据操作权重
Figure BDA0002339252640000103
以及操作权重和结构参数
Figure BDA0002339252640000104
的对应关系，更新结构参数，其中，对应关系为操作权重
Figure BDA0002339252640000105
为归一化的结构参数
Figure BDA0002339252640000106
可见，通过本公开实施例提供的图像分类模型的训练方法，通过将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型；将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛；若第一网络模型收敛，得到训练好的图像分类模型；若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型继续进行训练直至收敛，得到训练好的图像分类模型。实现了通过第一损失函数更新待训练的图像分类模型的卷积参数，通过第二损失函数更新待训练的图像分类模型的结构参数，减少网络模型的训练时间，提高图像分类模型的训练速度和图像分裂的准确性。
根据本公开实施例的第二方面，提供一种图像分类方法，包括：
在步骤S21中，将待分类图像输入训练好的图像分类模型，得到目标分类结果。
其中，训练好的网络模型为通过上述任一的图像分类模型的训练方法训练得到的模型。可选的，上述将待分类图像输入训练好的图像分类模型，得到目标分类结果，可以为通过某一服务器进行模型的训练得到训练好的网络模型后，通过当前服务器将待分类图像输入训练好的图像分类模型，得到目标分类结果。参见图4，图4是根据一示例性实施例示出的一种图像分类方法的流程图。可选的，上述通过训练好的网络模型进行图像分类的服务器也可以与进行网络模型训练的服务器，为不同的服务器，
可见，通过本公开实施例提供的图像分类方法，通过将待分类图像输入训练好的图像分类模型，得到目标分类结果。实现了上述图像分类模型的训练方法训练得到的网络模型进行图像的分类，得到图像分类结果。
图5是根据一示例性实施例示出的一种图像分类模型的训练装置的框图。参照图5，该装置包括：数据获取模块151，第一损失模块152，第二损失模块153，收敛判断模块154，未收敛模块155。
数据获取模块151，用于获取第一图像样本和第二图像样本，其中，第一图像样本和第二图像样本包括多个相同或不同的样本图像，样本图像包括预先标注的标准分类信息；
第一损失模块152，用于将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型；
第二损失模块153，用于将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛；
收敛判断模块154，用于若第一网络模型收敛，得到训练好的图像分类模型；
未收敛模块155，用于若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型返回第一损失模块继续执行直至收敛，得到训练好的图像分类模型，其中，第二损失函数由第一损失函数与离散度函数组成，离散度函数用于表征卷积核操作权重的离散度。
可选的，待训练的网络模型为预设的初始卷积神经网络模型，包含多个基本单元，每个基本单元包含多个子单元，每个子单元中包含多个节点。
可选的，第一损失函数为：
L1＝-∑xp(x)logq(x)；
其中，L1为计算获得的第一损失；x表示第一图像样本中的任一图像样本，第一图像样本包括n张图像样本，x包含于[1,n]；p(x)表示第x个输入第一网络模型的图像样本的标准分类，q(x)表示第x个输入第一网络模型的图像样本的预测分类。
可选的，第二损失函数为：
Figure BDA0002339252640000111
其中，k表示第一网络模型中的第k个子单元，l表示第k个子单元中的第l个节点，Ο表示预设的卷积操作集合，o表示节点当前所执行的预设的可用卷积操作，o′表示预设的卷积操作集合中，除了节点当前所执行的预设的可用卷积操作之外的其它可用卷积操作，
Figure BDA0002339252640000112
为第k个子单元中的第l个节点执行卷积运算o时的操作权重，k∈[1,K],l∈[1，L]，K为第一网络模型的子单元的总数量，L为第一网络模型的节点的总数量，离散度函数为：βk,l的离散度为
Figure BDA0002339252640000121
可选的，第二损失模块具体还用于：
根据操作权重
Figure BDA0002339252640000122
以及操作权重和结构参数
Figure BDA0002339252640000123
的对应关系，更新结构参数，其中，对应关系为操作权重
Figure BDA0002339252640000124
为归一化的结构参数
Figure BDA0002339252640000125
可见，通过本公开实施例提供的图像分类模型的训练装置，通过将第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新待训练的网络模型的卷积参数，得到第一网络模型；将第二图像样本输入第一网络模型，根据第二损失函数计算第一网络模型的第二损失，基于第二损失判断第一网络模型是否收敛；若第一网络模型收敛，得到训练好的图像分类模型；若第一网络模型未收敛，则基于第二损失，更新第一网络模型的结构参数，并对更新后的第一网络模型继续进行训练直至收敛，得到训练好的图像分类模型。实现了通过第一损失函数更新待训练的图像分类模型的卷积参数，通过第二损失函数更新待训练的图像分类模型的结构参数，减少网络模型的训练时间，提高图像分类模型的训练速度和图像分裂的准确性。
本公开实施例还提供一种图像分类装置，包括：
图像分类模块161，用于将待分类图像输入训练好的图像分类模型，得到目标分类结果；其中，训练好的网络模型为通过上述任一的图像分类模型的训练方法训练得到的模型。
可选的，参见图6，图6是根据一示例性实施例示出的一种图像分类装置的框图。
可见，通过本公开实施例提供的图像分类装置，通过将待分类图像输入训练好的图像分类模型，得到目标分类结果。实现了上述图像分类模型的训练方法训练得到的网络模型进行图像的分类，得到图像分类结果。
图7是根据一示例性实施例示出的一种图像分类模型的训练装置700的框图。例如，装置700可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图7，装置700可以包括以下一个或多个组件：处理组件702，存储器704，电源组件706，多媒体组件708，音频组件710，输入/输出接口712，传感器组件714，以及通信组件716。
处理组件702通常控制装置700的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件702可以包括一个或多个处理器720来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件702可以包括一个或多个模块，便于处理组件702和其他组件之间的交互。例如，处理组件702可以包括多媒体模块，以方便多媒体组件708和处理组件702之间的交互。
存储器704被配置为存储各种类型的数据以支持在装置700的操作。这些数据的示例包括用于在装置700上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器704可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件706为装置700的各种组件提供电力。电源组件706可以包括电源管理系统，一个或多个电源，及其他与为装置700生成、管理和分配电力相关联的组件。
多媒体组件708包括在所述装置700和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件708包括一个前置摄像头和/或后置摄像头。当装置700处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件710被配置为输出和/或输入音频信号。例如，音频组件710包括一个麦克风(MIC)，当装置700处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器704或经由通信组件716发送。在一些实施例中，音频组件710还包括一个扬声器，用于输出音频信号。
输入输出接口712为处理组件702和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件714包括一个或多个传感器，用于为装置700提供各个方面的状态评估。例如，传感器组件714可以检测到装置700的打开/关闭状态，组件的相对定位，例如所述组件为装置700的显示器和小键盘，传感器组件714还可以检测装置700或装置700一个组件的位置改变，用户与装置700接触的存在或不存在，装置700方位或加速/减速和装置700的温度变化。传感器组件714可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件714还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件714还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件716被配置为便于装置700和其他设备之间有线或无线方式的通信。装置700可以接入基于通信标准的无线网络，如WiFi，运营商网络(如2G、3G、4G或5G)，或它们的组合。在一个示例性实施例中，通信组件716经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件716还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置700可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述图像分类模型的训练方法。
在示例性实施例中，还提供了一种包括指令的存储介质，例如包括指令的存储器804，上述指令可由装置700的处理器720执行以完成上述方法。可选地，存储介质可以是非临时性计算机可读存储介质，例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图8是根据一示例性实施例示出的一种用于图像分类的装置800的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图8，装置800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出接口812，传感器组件814，以及通信组件816。
处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
输入输出接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到装置800的打开/关闭状态，组件的相对定位，例如所述组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，运营商网络(如2G、3G、4G或5G)，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述图像分类方法。
在示例性实施例中，还提供了一种包括指令的存储介质，例如包括指令的存储器804，上述指令可由装置800的处理器820执行以完成上述方法。可选地，存储介质可以是非临时性计算机可读存储介质，例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图9是根据一示例性实施例示出的一种用于图像分类模型的训练装置900的框图。例如，装置900可以被提供为一服务器。参照图9，装置900包括处理组件922，其进一步包括一个或多个处理器，以及由存储器932所代表的存储器资源，用于存储可由处理组件922的执行的指令，例如应用程序。存储器932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件922被配置为执行指令，以执行上述图像分类模型的训练方法。
装置900还可以包括一个电源组件926被配置为执行装置900的电源管理，一个有线或无线的网络接口950被配置为将装置900连接到网络，和一个输入输出接口958。装置900可以操作基于存储在存储器932的操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。
图10是根据一示例性实施例示出的一种用于图像分类的装置1000的框图。例如，装置1000可以被提供为一服务器。参照图10，装置1000包括处理组件1022，其进一步包括一个或多个处理器，以及由存储器1032所代表的存储器资源，用于存储可由处理组件1022的执行的指令，例如应用程序。存储器1032中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1022被配置为执行指令，以执行上述图像分类方法。
装置1000还可以包括一个电源组件1026被配置为执行装置1000的电源管理，一个有线或无线的网络接口1050被配置为将装置1000连接到网络，和一个输入输出接口1058。装置1000可以操作基于存储在存储器1032的操作系统，例如Windows ServerTM，Mac OSXTM，UnixTM,LinuxTM，FreeBSDTM或类似。
根据本公开实施例还提供一种计算机程序产品，当计算机程序产品被计算机执行时，使得计算机能够执行上述任一图像分类模型的训练方法。
根据本公开实施例还提供一种计算机程序产品，当计算机程序产品被计算机执行时，使得计算机能够执行上述任一图像分类方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种图像分类模型的训练方法，其特征在于，包括：
步骤A，获取第一图像样本和第二图像样本，其中，所述第一图像样本和第二图像样本包括多个相同或不同的样本图像，所述样本图像包括预先标注的标准分类信息；
步骤B，将所述第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新所述待训练的网络模型的卷积参数，得到第一网络模型；
步骤C，将所述第二图像样本输入所述第一网络模型，根据所述第二损失函数计算所述第一网络模型的第二损失，基于所述第二损失判断所述第一网络模型是否收敛；
步骤D，若所述第一网络模型收敛，得到训练好的图像分类模型；
步骤E，若所述第一网络模型未收敛，则基于所述第二损失，更新所述第一网络模型的结构参数，并对更新后的所述第一网络模型返回执行步骤B至步骤E继续进行训练直至收敛，得到训练好的图像分类模型，其中，所述第二损失函数由所述第一损失函数与离散度函数组成，所述离散度函数用于表征卷积核操作权重的离散度。
2.根据权利要求1所述的方法，其特征在于，所述待训练的网络模型为预设的初始卷积神经网络模型，包含多个基本单元，每个所述基本单元包含多个子单元，每个所述子单元中包含多个节点。
3.根据权利要求2所述的方法，其特征在于，所述第一损失函数为：
L1＝-∑xp(x)logq(x)；
其中，L1为计算获得的第一损失；x表示所述第一图像样本中的任一图像样本，所述第一图像样本包括n张图像样本，x包含于[1,n]；p(x)表示第x个输入所述第一网络模型的图像样本的标准分类，q(x)表示第x个输入所述第一网络模型的图像样本的预测分类。
4.根据权利要求3所述的方法，其特征在于，所述第二损失函数为：
Figure FDA0002339252630000011
其中，k表示所述第一网络模型中的第k个子单元，l表示所述第k个子单元中的第l个节点，Ο表示预设的卷积操作集合，o表示节点当前所执行的预设的可用卷积操作，o′表示预设的卷积操作集合中，除了节点当前所执行的预设的可用卷积操作之外的其它可用卷积操作，
Figure FDA0002339252630000026
为第k个子单元中的第l个节点执行卷积运算o时的操作权重，k∈[1,K],l∈[1，L]，K为第一网络模型的子单元的总数量，L为第一网络模型的节点的总数量，所述离散度函数为：βk,l的离散度为
Figure FDA0002339252630000021
5.根据权利要求3所述的方法，其特征在于，所述基于所述第二损失，更新所述第一网络模型的结构参数，包括：
根据所述操作权重
Figure FDA0002339252630000022
以及操作权重和结构参数
Figure FDA0002339252630000023
的对应关系，更新所述结构参数，其中，所述对应关系为所述操作权重
Figure FDA0002339252630000024
为归一化的所述结构参数
Figure FDA0002339252630000025
6.一种图像分类方法，其特征在于，包括：
将待分类图像输入训练好的图像分类模型，得到目标分类结果；其中，所述训练好的网络模型为通过权利要求1至5任一所述的图像分类模型的训练方法训练得到的模型。
7.一种图像分类模型的训练装置，其特征在于，包括：
数据获取模块，用于获取第一图像样本和第二图像样本，其中，所述第一图像样本和第二图像样本包括多个相同或不同的样本图像，所述样本图像包括预先标注的标准分类信息；
第一损失模块，用于将所述第一图像样本输入待训练网络模型，得到预测分类，根据第一损失函数更新所述待训练的网络模型的卷积参数，得到第一网络模型；
第二损失模块，用于将所述第二图像样本输入所述第一网络模型，根据所述第二损失函数计算所述第一网络模型的第二损失，基于所述第二损失判断所述第一网络模型是否收敛；
收敛判断模块，用于若所述第一网络模型收敛，得到训练好的图像分类模型；
未收敛模块，用于若所述第一网络模型未收敛，则基于所述第二损失，更新所述第一网络模型的结构参数，并对更新后的所述第一网络模型返回第一损失模块继续执行直至收敛，得到训练好的图像分类模型，其中，所述第二损失函数由所述第一损失函数与离散度函数组成，所述离散度函数用于表征卷积核操作权重的离散度。
8.一种图像分类装置，其特征在于，所述装置包括：
图像分类模块，用于将待分类图像输入训练好的图像分类模型，得到目标分类结果；其中，所述训练好的网络模型为通过权利要求1至5任一所述的图像分类模型的训练方法训练得到的模型。
9.一种电子设备，其特征在于，包括：
处理器；
用于存储所述处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述指令，以实现如权利要求1至5中任一项所述的图像分类模型的训练方法或如权利要求6所述的图像分类方法。
10.一种存储介质，其特征在于，当所述存储介质中的指令由电子设备的处理器执行时，使得所述电子设备能够执行如权利要求1至5中任一项所述的图像分类模型的训练方法或如权利要求6所述的图像分类方法。
CN201911369308.2A 2019-12-26 2019-12-26 一种图像分类模型的训练方法及装置 Active CN111160448B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911369308.2A CN111160448B (zh) 2019-12-26 2019-12-26 一种图像分类模型的训练方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911369308.2A CN111160448B (zh) 2019-12-26 2019-12-26 一种图像分类模型的训练方法及装置

Publications (2)

Publication Number Publication Date
CN111160448A true CN111160448A (zh) 2020-05-15
CN111160448B CN111160448B (zh) 2023-09-26

Family

ID=70556775

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911369308.2A Active CN111160448B (zh) 2019-12-26 2019-12-26 一种图像分类模型的训练方法及装置

Country Status (1)

Country Link
CN (1) CN111160448B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111667056A (zh) * 2020-06-05 2020-09-15 北京百度网讯科技有限公司 用于搜索模型结构的方法和装置
CN111709890A (zh) * 2020-06-12 2020-09-25 北京小米松果电子有限公司 一种图像增强模型的训练方法、装置及存储介质
CN111753091A (zh) * 2020-06-30 2020-10-09 北京小米松果电子有限公司 分类方法、分类模型的训练方法、装置、设备及存储介质
CN111753917A (zh) * 2020-06-29 2020-10-09 北京小米松果电子有限公司 数据处理方法、装置及存储介质
CN111967492A (zh) * 2020-06-29 2020-11-20 北京百度网讯科技有限公司 分类模型的训练方法、装置、电子设备以及存储介质
CN113158921A (zh) * 2021-04-26 2021-07-23 北京华捷艾米科技有限公司 一种人体骨架定位方法和装置
WO2021189908A1 (zh) * 2020-10-14 2021-09-30 平安科技（深圳）有限公司 基于深度学习的图像分类方法、装置、服务器及介质
CN114065826A (zh) * 2020-07-28 2022-02-18 紫东信息科技(苏州)有限公司 图像分类模型的构建方法、分类方法、装置及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106980641A (zh) * 2017-02-09 2017-07-25 上海交通大学 基于卷积神经网络的无监督哈希快速图片检索系统及方法
CN109165306A (zh) * 2018-08-09 2019-01-08 长沙理工大学 基于多任务哈希学习的图像检索方法
CN109242098A (zh) * 2018-07-25 2019-01-18 深圳先进技术研究院 限定代价下神经网络结构搜索方法及相关产品

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106980641A (zh) * 2017-02-09 2017-07-25 上海交通大学 基于卷积神经网络的无监督哈希快速图片检索系统及方法
CN109242098A (zh) * 2018-07-25 2019-01-18 深圳先进技术研究院 限定代价下神经网络结构搜索方法及相关产品
CN109165306A (zh) * 2018-08-09 2019-01-08 长沙理工大学 基于多任务哈希学习的图像检索方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
HANTING CHEN等: "Data-Free Learning of Student Networks", 《2019 IEEE/CVF INTERNATIONAL CONFERENCE ON COMPUTER VISION(ICCV)》 *
HANXIAO LIU等: "DARTS: DIFFERENTIABLE ARCHITECTURE SEARCH", "ARXIV:1806.09055V2 [ CS.LG]" *
葛道辉等: "轻量级神经网络架构综述", 《软件学报》 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111667056A (zh) * 2020-06-05 2020-09-15 北京百度网讯科技有限公司 用于搜索模型结构的方法和装置
CN111667056B (zh) * 2020-06-05 2023-09-26 北京百度网讯科技有限公司 用于搜索模型结构的方法和装置
CN111709890A (zh) * 2020-06-12 2020-09-25 北京小米松果电子有限公司 一种图像增强模型的训练方法、装置及存储介质
CN111709890B (zh) * 2020-06-12 2023-11-24 北京小米松果电子有限公司 一种图像增强模型的训练方法、装置及存储介质
CN111753917A (zh) * 2020-06-29 2020-10-09 北京小米松果电子有限公司 数据处理方法、装置及存储介质
CN111967492A (zh) * 2020-06-29 2020-11-20 北京百度网讯科技有限公司 分类模型的训练方法、装置、电子设备以及存储介质
CN111753091A (zh) * 2020-06-30 2020-10-09 北京小米松果电子有限公司 分类方法、分类模型的训练方法、装置、设备及存储介质
CN114065826A (zh) * 2020-07-28 2022-02-18 紫东信息科技(苏州)有限公司 图像分类模型的构建方法、分类方法、装置及电子设备
WO2021189908A1 (zh) * 2020-10-14 2021-09-30 平安科技（深圳）有限公司 基于深度学习的图像分类方法、装置、服务器及介质
CN113158921A (zh) * 2021-04-26 2021-07-23 北京华捷艾米科技有限公司 一种人体骨架定位方法和装置

Also Published As

Publication number Publication date
CN111160448B (zh) 2023-09-26

Similar Documents

Publication Publication Date Title
CN111160448B (zh) 一种图像分类模型的训练方法及装置
CN110516745B (zh) 图像识别模型的训练方法、装置及电子设备
CN111460150B (zh) 一种分类模型的训练方法、分类方法、装置及存储介质
CN109871896B (zh) 数据分类方法、装置、电子设备及存储介质
CN110782468B (zh) 图像分割模型的训练方法及装置及图像分割方法及装置
CN110827253A (zh) 一种目标检测模型的训练方法、装置及电子设备
CN110782034A (zh) 神经网络的训练方法、装置及存储介质
US20210390449A1 (en) Method and device for data processing, and storage medium
CN110245757B (zh) 一种图像样本的处理方法及装置、电子设备和存储介质
CN109961094B (zh) 样本获取方法、装置、电子设备及可读存储介质
CN111210844B (zh) 语音情感识别模型的确定方法、装置、设备及存储介质
CN110532345A (zh) 一种未标注数据的处理方法、装置及存储介质
CN112148980B (zh) 基于用户点击的物品推荐方法、装置、设备和存储介质
CN109819288A (zh) 广告投放视频的确定方法、装置、电子设备及存储介质
CN111753917A (zh) 数据处理方法、装置及存储介质
CN109214175B (zh) 基于样本特征训练分类器的方法、装置及存储介质
CN110889489A (zh) 神经网络的训练方法、图像识别方法及其装置
CN110674246A (zh) 问答模型训练方法、自动问答方法及装置
CN114722238B (zh) 视频推荐方法、装置、电子设备、存储介质及程序产品
CN111104807A (zh) 一种数据处理方法、装置和电子设备
CN107480773B (zh) 训练卷积神经网络模型的方法、装置及存储介质
CN112712385B (zh) 广告推荐方法、装置、电子设备及存储介质
CN107707759B (zh) 终端控制方法、装置以及系统、存储介质
CN112308588A (zh) 广告的投放方法、装置及存储介质
CN113656637B (zh) 视频推荐方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant