CN113378911B - 图像分类模型训练、图像分类方法及相关装置 - Google Patents

Abstract

本公开提供了图像分类模型训练、图像分类方法、装置、电子设备、计算机可读存储介质及计算机程序产品，涉及计算机视觉和深度学习等人工智能技术领域，可应用于智慧城市等场景。该方法包括：对样本图像集中的样本图像，按批次的执行标准批归一化操作，得到对应批次的所有样本图像在不同特征通道上的全局归一化参数；对样本图像集中的样本图像，按单张分别执行自适应归一化操作，得到每张样本图像分别在不同特征通道上的局部归一化参数；根据每张样本图像的全局归一化参数和局部归一化参数，确定每张样本图像的目标归一化参数；基于经目标归一化参数处理后的样本图像，训练得到图像分类模型。通过该方法提供的图像分类模型可实现更好的图像分类效果。

Description

图像分类模型训练、图像分类方法及相关装置

技术领域

本公开涉及人工智能技术领域，具体为计算机视觉和深度学习技术领域，可应用于智慧城市等场景，尤其涉及一种图像分类模型训练和图像分类方法，以及以对应的装置、电子设备、计算机可读存储介质及计算机程序产品。

背景技术

在基于神经网络架构训练得到可用模型的过程中，需要采用大量的训练样本进行迭代训练，为实现稳定和加速训练的效果，训练样本在参与迭代训练时通常需要进行归一化操作。

现有神经网络下通常使用标准的批归一化(Batch Normalization) 方法通过对每一批次(Batch)的数据进行归一化操作，即每批次数据享有统一的归一化参数。

发明内容

本公开实施例提出了一种图像分类模型训练、图像分类方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

第一方面，本公开实施例提出了一种图像分类模型训练方法，包括：对样本图像集中的样本图像，按批次的执行标准批归一化操作，得到对应批次的所有样本图像在不同特征通道上的全局归一化参数；对样本图像集中的样本图像，按单张分别执行自适应归一化操作，得到每张样本图像分别在不同特征通道上的局部归一化参数；根据每张样本图像的全局归一化参数和局部归一化参数，确定每张样本图像的目标归一化参数；基于经目标归一化参数处理后的样本图像，训练得到图像分类模型。

第二方面，本公开实施例提出了一种图像分类模型训练装置，包括：标准批归一化执行单元，被配置成对样本图像集中的样本图像，按批次的执行标准批归一化操作，得到对应批次的所有样本图像在不同特征通道上的全局归一化参数；自适应批归一化执行单元，被配置成对样本图像集中的样本图像，按单张分别执行自适应归一化操作，得到每张样本图像分别在不同特征通道上的局部归一化参数；目标归一化参数确定单元，被配置成根据每张样本图像的全局归一化参数和局部归一化参数，确定每张样本图像的目标归一化参数；图像分类模型训练单元，被配置成基于经目标归一化参数处理后的样本图像，训练得到图像分类模型。

第三方面，本公开实施例提出了一种图像分类方法，包括：获取待分类图像；调用图像分类模型确定待分类图像的所属类别；其中，图像分类模型根据如第一方面中任一实现方式描述的图像分类模型训练方法得到。

第四方面，本公开实施例提出了一种图像分类装置，包括：待分类图像获取单元，被配置成获取待分类图像；模型调用及类别判别单元，被配置成调用图像分类模型确定待分类图像的所属类别；其中，图像分类模型根据如第二方面中任一实现方式描述的图像分类模型训练装置得到。

第五方面，本公开实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的图像分类模型训练方法或如第三方面中任一实现方式描述的图像分类方法。

第六方面，本公开实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的图像分类模型训练方法或如第三方面中任一实现方式描述的图像分类方法。

第七方面，本公开实施例提供了一种包括计算机程序的计算机程序产品，该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的图像分类模型训练方法或如第三方面中任一实现方式描述的图像分类方法。

本公开实施例提供的图像分类模型训练、图像分类方法，通过在采用传统的批归一化操作确定出每批次数据统一享有的全局归一化参数的基础上，增设对单张样本图像分别进行的自适应性归一化操作以确定局部归一化参数，并通过结合全局归一化参数和局部归一化参数，使得训练出的图像分类模型可以在全局特征的基础上加大对不同图像局部特征的考虑力度，进而在局部特征起到更重要作用的情况下，提升模型从训练集迁移到实际集上的泛化能力，进而提升基于此训练出的图像分类模型的分类准确性。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开可以应用于其中的示例性系统架构；

图2为本公开实施例提供的一种图像分类模型训练方法的流程图；

图3为本公开实施例提供的一种根据全局归一化参数和局部归一化参数确定目标归一化参数的方法的流程图；

图4为本公开实施例提供的一种融合得到融合后归一化参数的方法的流程图；

图5为本公开实施例提供的一种训练得到调节系数学习层的方法的流程图；

图6为本公开实施例提供的一种神经网络中的新归一化层的结构示意图；

图7为本公开实施例提供的一种图像分类模型训练装置的结构框图；

图8为本公开实施例提供的一种图像分类装置的结构框图；

图9为本公开实施例提供的一种适用于执行图像分类模型训练方法和/或图像分类方法的电子设备的结构示意图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。

本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，采取了必要的保密措施，且不违背公序良俗。

图1示出了可以应用本申请的用于训练人脸识别模型以及识别人脸的方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105 交互，以接收或发送消息等。终端设备101、102、103和服务器105 上可以安装有各种用于实现两者之间进行信息通讯的应用，例如图像分类应用、模型训练及/模型训练辅助类应用、图像处理类应用等。

终端设备101、102、103和服务器105可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等；当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中，其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器；服务器为软件时，可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。

服务器105通过内置的各种应用可以提供各种服务，以可以为用户提供图像分类服务的图像分类应用为例，服务器105在运行该图像分类应用时可实现如下效果：通过网络104接收由终端设备101、102、 103传入的获取待分类图像；然后调用配置在本地的图像分类模型来确定该待分类图像的所属类别。进一步的，服务器105还可以将确定出的所属类别通过网络104返回给终端设备101、102、103。

其中，图像分类模型可由服务器105上内置的图像分类模型训练类应用按如下步骤训练得到：对样本图像集中的样本图像，按批次的执行标准批归一化操作，得到对应批次的所有样本图像在不同特征通道上的全局归一化参数；对样本图像集中的样本图像，按单张分别执行自适应归一化操作，得到每张样本图像分别在不同特征通道上的局部归一化参数；根据每张样本图像的全局归一化参数和局部归一化参数，确定每张样本图像的目标归一化参数；基于经目标归一化参数处理后的样本图像，训练得到图像分类模型。

由于为训练得到图像分类模型需要占用较多的运算资源和较强的运算能力，因此本申请后续各实施例所提供的图像分类模型训练方法一般由拥有较强运算能力、较多运算资源的服务器105来执行，相应地，图像分类模型训练装置一般也设置于服务器105中。但同时也需要指出的是，在终端设备101、102、103也具有满足要求的运算能力和运算资源时，终端设备101、102、103也可以通过其上安装的图像分类模型训练类应用完成上述本交由服务器105做的各项运算，进而输出与服务器105同样的结果。相应的，图像分类模型训练装置也可以设置于终端设备101、102、103中。在此种情况下，示例性系统架构100也可以不包括服务器105和网络104。

当然，用于训练得到图像分类模型的服务器可以不同于调用训练好的图像分类模型来使用的服务器。特殊的，经由服务器105训练得到的图像分类模型也可以通过模型蒸馏的方式得到适合置入终端设备 101、102、103的轻量级的图像分类模型，即可以根据实际需求的识别准确度灵活选择使用终端设备101、102、103中的轻量级的图像分类模型，还是选择使用服务器105中的较复杂的图像分类模型。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

请参考图2，图2为本公开实施例提供的一种图像分类模型训练方法的流程图，其中流程200包括以下步骤：

步骤201：对样本图像集中的样本图像，按批次的执行标准批归一化操作，得到对应批次的所有样本图像在不同特征通道上的全局归一化参数；

本步骤旨在由图像分类模型训练方法的执行主体(例如图1所示的服务器105)通过以批次为执行单位，对每批次的样本图像执行标准批归一化操作，以得到该批次的所有样本图像共同享有的相同的全局归一化参数。

原始的样本图像通常仅有RGB(Red、Green、Bule，红绿蓝)三个颜色通道，但进入神经网络进行处理后，会根据网络的设计和需求变更为数量不定的特征通道，例如当设定特征维度为128时，此时特征通道数量就为128，假定一批样本图像的数量为500张，那么此时经执行标准批归一化操作，所得到的就是这500张样本图像在这128个特征通道上的各自的全局归一化参数(主要是全局均值和方差)，即该全局归一化参数用于告知每张样本图像如何处理其在每个特征通道上的归一化操作。

进一步的，基于标准批归一化操作的特性和样本数据的连续性，还可以将上一批次的样本图像的全局归一化参数，作为计算下一批次的样本图像的全局归一化参数的基础参数，以通过此种滑动平均方法来对全局归一化参数进行更新。

步骤202：对样本图像集中的样本图像，按单张分别执行自适应归一化操作，得到每张样本图像分别在不同特征通道上的局部归一化参数；

区别于步骤201以批次为执行单位所进行的标准批归一化操作，本步骤旨在由上述执行主体以单张样本图像为执行单位，对每张样本图像分别执行自适应批归一化操作，以得到每张样本图像独自享有的局部归一化参数。

应当理解的是，相比以批次内所有样本图像所进行的标准批归一化操作，本步骤执行的自适应批归一化操作，由于将只需要考虑单张图像、只需要根据构成每张样本图像的内容得到每个特征通道的归一化参数，得以能够更多的结合每张样本图像的实际情况，尽可能的避免受其它样本图像的干扰，即更多的考虑“局部”(指单张样本图像相对于批次内的所有样本图像而言)。

步骤203：根据每张样本图像的全局归一化参数和局部归一化参数，确定每张样本图像的目标归一化参数；

在步骤201和步骤202的基础上，本步骤旨在由上述执行主体综合全局归一化参数和局部归一化参数，以得到兼顾“全局”和“局部”的目标归一化参数，以实现每张样本图像都对应不同的目标归一化参数。

具体的，根据实际应用场景下对“全局”和“局部”的重视程度，可选用多种综合方式，例如直接采用求全局归一化参数和局部归一化参数的均值的方式，也可以根据重要程度的不同，设定相应的加权权值的加权综合法，还可以以全局归一化参数或局部归一化参数为基础或重心，利用另一参数的大小来调节依附于基础或重心的一个修正系数，以借助调整后的修正系数和基础或重心来确定目标归一化参数，等等。

步骤204：基于经目标归一化参数处理后的样本图像，训练得到图像分类模型。

在步骤203的基础上，本步骤旨在由上述执行主体将经目标归一化参数处理后的样本图像作为神经网络中的归一化层的输出，通过后续其它功能层的处理后，最终训练得到图像分类模型。

应当理解的是，作为训练样本的样本图像还标注有其所属的图像类别，以使模型经过训练学习到图像与其所属图像类别之间的对应关系，进而得到该图像分类模型。

本公开实施例提供的图像分类模型训练方法，通过在采用传统的批归一化操作确定出每批次数据统一享有的全局归一化参数的基础上，增设对单张样本图像分别进行的自适应性归一化操作以确定局部归一化参数，并通过结合全局归一化参数和局部归一化参数，使得训练出的图像分类模型可以在全局特征的基础上加大对不同图像局部特征的考虑力度，进而在局部特征起到更重要作用的情况下，提升模型从训练集迁移到实际集上的泛化能力，进而提升基于此训练出的图像分类模型的分类准确性。

请参考图3，图3为本公开实施例提供的一种根据全局归一化参数和局部归一化参数确定目标归一化参数的方法的流程图，即针对图 2所示的流程200中的步骤203提供了一种具体的实现方式，流程200 中的其它步骤并不做调整，也将本实施例所提供的具体实现方式以替换步骤203的方式得到一个新的完整实施例。其中流程300包括以下步骤：

步骤301：融合每张样本图像的全局归一化参数和局部归一化参数，得到每张样本图像的融合后归一化参数；

本步骤旨在由上述执行主体将每张样本图像的全局归一化参数和局部归一化参数进行融合，以得到一个兼顾“全局”和“局部”的融合后归一化参数。

具体的，根据实际应用场景下对“全局”和“局部”的重视程度，可选用多种融合方式，例如直接采用求全局归一化参数和局部归一化参数的均值的方式，也可以根据重要程度的不同，设定相应的加权权值的加权综合法，还可以以全局归一化参数或局部归一化参数为基础或重心，利用另一参数的大小来调节依附于基础或重心的一个修正系数，以借助调整后的修正系数和基础或重心来实现融合，等等。

步骤302：利用预设的调节系数学习层输出与每张样本图像的融合后归一化参数对应的实际调节系数；

在步骤301的基础上，本步骤旨在由上述执行主体通过能够表征融合后归一化参数与调节系数之间的对应关系的调节系数学习层，来确定与融合后归一化参数对应的实际调节系数。

步骤303：利用与每张样本图像对应的实际调节系数，对相应的样本图像的全局归一化参数进行修正，得到目标归一化参数。

本实施例中，调节系数用于对全局归一化参数进行调节的一个系数，即在本实施例中，标准批归一化操作得到的全局归一化参数作为归一化参数的重要基础，经步骤301融合得到的融合后归一化参数通过步骤302确定的调节系数再作用于全局归一化参数上，通过此种操作得以尽可能在兼顾“局部”的基础上，尽可能的避免因过多兼顾“局部”而丧失“全局”的核心特性。

本实施例通过流程300所给出的这种具体实现方式是一种相对复杂的实现方式，在上述复杂实施方式给出的基础上，在步骤203处提及的其它实现方式则可由本领域技术人员在相同思想的指导下自行得到，此处不再一一列举。

请参考图4，图4为本公开实施例提供的一种融合得到融合后归一化参数的方法的流程图，即针对图3所示的流程300中的步骤301 提供了一种具体的实现方式，流程300中的其它步骤并不做调整，也将本实施例所提供的具体实现方式以替换步骤301的方式得到一个新的完整实施例。其中流程400包括以下步骤：

步骤401：确定与每张样本图像的全局归一化参数对应的第一权值；

具体的，在全局归一化参数重要程度较高的场景下，该第一权值可设定为0.8(或80％)。

步骤402：确定与每张样本图像的局部归一化参数对应的第二权值；

在第一权值被设定为0.8(或80％)的情况下，在共同构成单位1 的情况下，该第二权值可被设定为0.2(20％)。

当然，在其它局部归一化参数重要程度较高的场景下，第二权值和第一的大小关系应颠倒过来。

步骤403：根据经第一权值加权后的全局归一化参数、经第二权值加权后的局部归一化参数，得到每张样本图像的融合后归一化参数。

一种不包含其它考虑因子的计算方式可以为：

第一权值×全局归一化参数+第二权值×局部归一化参数＝融合后归一化参数。

本实施例通过流程400示出了一种通过加权来计算得到融合后归一化参数的实现方式，以借助与影响程度对应的权值大小来对相应的归一化参数进行加权，以使其能够以合适的占比影响融合后归一化参数。

进一步的，为了尽可能的提升最后训练出的图像分类模型的图像分类准确度，还可以根据样本图像对应的图像内容复杂度，来作为另一个影响来调整第一权值和第二权值的相对大小。应当理解的是，图像内容复杂度越高，准确判别该图像属于哪一类的难度就越高，就更不能因全局而削弱对当前图像的特征的考虑，因此此时适当削弱对该图像的全局归一化参数的占比，能够使得融合后归一化参数能够更多的体现与该图像对应的局部归一化参数。

除基于权值的加权法之后的其它融合方式可对上述方案经适应性调整得到，此处不再一一列举。

请参考图5，图5为本公开实施例提供的一种训练得到调节系数学习层的方法的流程图，即针对图3所示的流程300中步骤302所使用的调节系数学习层提供了一种具体的构建方式。其中流程500包括以下步骤：

步骤501：将每张样本图像的融合后归一化参数作为输入、相应的图像所属类别作为输出，训练得到表征融合后归一化参数与图像所属类别之间对应关系的第一学习层；

即经本步骤的训练操作后，第一学习层能够表征融合后归一化参数与图像所属类别之间的对应关系，可表示为融合后归一化参数—图像所属类别。

步骤502：将每张样本图像的图像所属类别作为输入、预期的调节系数作为输出，训练得到表征图像所属类别与调节系数之间对应关系的第二学习层；

即经本步骤的训练操作后，第二学习层能够表征图像所属类别与预期的调节系数之间的对应关系，可表示为图像所属类别—预期的调节系数。

步骤503：将第一学习层和第二学习层以图像所属类别作为重合点，学习到表征融合后归一化参数与调节系数之间对应关系的调节系数学习层。

即融合后归一化参数—图像所属类别和图像所属类别—预期的调节系数两者之间存在相同点：图像所属类别，因此可依据其作为重合点得到：融合后归一化参数—图像所属类别—预期的调节系数三者之间的对应关系，进而能够得到融合后归一化参数—预期的调节系数的对应关系。

应当理解的是，除本实施例所给出的构建得到调节系数学习层的方式外，也可以采用其它的方式来构建类效果相同或接近的调节系数学习层，例如通过其它方式得到由融合后归一化参数作为输入、预期的调节系数作为输出的训练样本对，来直接训练得到该调节系数学习层，但通常无法直接该训练样本对，当然也可以存在专门定制一批符合要求的训练样本的处理方式。

上述各实施例从各个方面阐述了如何训练得到图像分类模型，为了尽可能的从实际使用场景突出训练出的图像分类模型所起到的效果，本公开还具体提供了一种使用训练好的图像分类模型来解决实际问题的方案，一种图像分类方法包括如下步骤：

获取待分类图像；

调用图像分类模型确定待分类图像的所属类别。

其中，待分类图像的获取方式多种多样，可如图1所示的终端设备101、102、103拍摄或自行生成得到后发送到上述执行主体，也可以在特定场景下直接由上述执行主体得到。进一步的，待分类图像在输入图像分类模型进行处理之前，还可以进行一些能够帮助模型处理的预处理操作，例如纠偏、尺寸调整、亮度调整等等。

执行上述图像分类方法各步骤的执行主体，是可以区别于执行上述图像分类模型训练方法的各步骤的执行主体的。

为加深理解，本公开还结合一个具体的神经网络，对该神经网络的归一化层具体如何构成给出一种具体的方案，请参见如图6所示的示意图：

1)样本图像集中的样本图像作为训练样本输入常规神经网络层；

2.1)常规神经网络按批给到标准批归一化层计算得到全局均值、方差和缩放系数和偏差系数；

2.2)常规神经网络按单张给到自适应批归一化层计算得到当前图像的均值和方差；

3)将相同图像的独立均值、方差与全局均值和方差进行融合；

融合方式可以是沿通道方向连接、相加等等。

4)将融合后得到的融合后归一化参数通过预设的调节系数学习层输出调节系数；

其中，调节系数学习层可由一些常规的神经网络功能层组成，例如卷积层、全连接层、激活函数等等，用于对融合结果进行进一步的变换。

5)调节系数对标注批归一化层输出的全局均值、方差和缩放系数和偏差系数进行调节，再结合常规神经网络层输出的中间特征值，得到自适应调节后输出的与每张图像对应的归一化参数。

其中，常规神经网络层指神经网络中位于归一化层之前的常规功能层，例如卷积层、全连接层等等，负责提取神经网络中间的图像特征。

进一步参考图7和图8，作为对上述各图所示方法的实现，本公开分别提供了一种图像分类模型训练装置实施例和一种图像分类装置的实施例，图像分类模型训练装置实施例与图2所示的图像分类模型训练方法实施例相对应，图像分类装置实施例与图像分类方法实施例相对应。上述装置具体可以应用于各种电子设备中。

如图7所示，本实施例的图像分类模型训练装置700可以包括：标准批归一化执行单元701、自适应批归一化执行单元702、目标归一化参数确定单元703、图像分类模型训练单元704。其中，标准批归一化执行单元701，被配置成对样本图像集中的样本图像，按批次的执行标准批归一化操作，得到对应批次的所有样本图像在不同特征通道上的全局归一化参数；自适应批归一化执行单元702，被配置成对样本图像集中的样本图像，按单张分别执行自适应归一化操作，得到每张样本图像分别在不同特征通道上的局部归一化参数；目标归一化参数确定单元703，被配置成根据每张样本图像的全局归一化参数和局部归一化参数，确定每张样本图像的目标归一化参数；图像分类模型训练单元704，被配置成基于经目标归一化参数处理后的样本图像，训练得到图像分类模型。

在本实施例中，图像分类模型训练装置700中：标准批归一化执行单元701、自适应批归一化执行单元702、目标归一化参数确定单元703、图像分类模型训练单元704的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-204的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，目标归一化参数确定单元 703可以包括：

融合子单元，被配置成融合每张样本图像的全局归一化参数和局部归一化参数，得到每张样本图像的融合后归一化参数；

实际调节系数确定子单元，被配置成利用预设的调节系数学习层输出与每张样本图像的融合后归一化参数对应的实际调节系数；其中，调节系数学习层用于表征融合后归一化参数与调节系数之间的对应关系；

归一化参数修正子单元，被配置成利用与每张样本图像对应的实际调节系数，对相应的样本图像的全局归一化参数进行修正，得到目标归一化参数。

在本实施例的一些可选的实现方式中，融合子单元可以被进一步配置成：

确定与每张样本图像的全局归一化参数对应的第一权值；

确定与每张样本图像的局部归一化参数对应的第二权值；

根据经第一权值加权后的全局归一化参数、经第二权值加权后的局部归一化参数，得到每张样本图像的融合后归一化参数。

在本实施例的一些可选的实现方式中，图像分类模型训练装置700 中还可以包括：

图像内容复杂度调整单元，被配置成根据样本图像对应的图像内容复杂度，调整第一权值和第二权值的相对大小。

在本实施例的一些可选的实现方式中，还包括被配置成训练得到调节系数学习层的调节系数学习层训练单元，调节系数学习层训练单元可以被进一步配置成：

将每张样本图像的融合后归一化参数作为输入、相应的图像所属类别作为输出，训练得到表征融合后归一化参数与图像所属类别之间对应关系的第一学习层；

将每张样本图像的图像所属类别作为输入、预期的调节系数作为输出，训练得到表征图像所属类别与调节系数之间对应关系的第二学习层；

将第一学习层和第二学习层以图像类别作为重合点，学习到表征融合后归一化参数与调节系数之间对应关系的调节系数学习层。

在本实施例的一些可选的实现方式中，图像分类模型训练装置700 中还可以包括：

基础参数设定单元，被配置成将上一批次的样本图像的全局归一化参数，作为计算下一批次的样本图像的全局归一化参数的基础参数

如图8所示，本实施例的图像分类装置800可以包括：待分类图像获取单元801、模型调用及类别判别单元802。其中，待分类图像获取单元801，被配置成获取待分类图像；模型调用及类别判别单元802，被配置成调用图像分类模型确定待分类图像的所属类别；其中，图像分类模型根据图像分类模型训练装置700得到。

在本实施例中，图像分类装置800中：待分类图像获取单元801、模型调用及类别判别单元802的具体处理及其所带来的技术效果可分别对应方法实施例中的相关说明，在此不再赘述。

上述两实施例作为对应于上述两方法实施例的装置实施例存在，本实施例提供的图像分类模型训练装置以及图像分类装置，通过在采用传统的批归一化操作确定出每批次数据统一享有的全局归一化参数的基础上，增设对单张样本图像分别进行的自适应性归一化操作以确定局部归一化参数，并通过结合全局归一化参数和局部归一化参数，使得训练出的图像分类模型可以在全局特征的基础上加大对不同图像局部特征的考虑力度，进而在局部特征起到更重要作用的情况下，提升模型从训练集迁移到实际集上的泛化能力，进而提升基于此训练出的图像分类模型的分类准确性。

根据本公开的实施例，本公开还提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现上述任一实施例描述的图像分类模型训练方法和/或图像分类方法。

根据本公开的实施例，本公开还提供了一种可读存储介质，该可读存储介质存储有计算机指令，该计算机指令用于使计算机执行时能够实现上述任一实施例描述的图像分类模型训练方法和/或图像分类方法。

本公开实施例提供了一种计算机程序产品，该计算机程序在被处理器执行时能够实现上述任一实施例描述的图像分类模型训练方法和 /或图像分类方法。

图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图9所示，设备900包括计算单元901，其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序，来执行各种适当的动作和处理。在RAM 903中，还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。

设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如图像分类模型训练方法和/或图像分类方法。例如，在一些实施例中，图像分类模型训练方法和/或图像分类方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由 ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时，可以执行上文描述的图像分类模型训练方法和/或图像分类方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式 (例如，借助于固件)而被配置为执行图像分类模型训练方法和/或图像分类方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路 (ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT (阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络) 来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大，业务扩展性弱的缺陷。

本公开实施例的技术方案，通过在采用传统的批归一化操作确定出每批次数据统一享有的全局归一化参数的基础上，增设对单张样本图像分别进行的自适应性归一化操作以确定局部归一化参数，并通过结合全局归一化参数和局部归一化参数，使得训练出的图像分类模型可以在全局特征的基础上加大对不同图像局部特征的考虑力度，进而在局部特征起到更重要作用的情况下，提升模型从训练集迁移到实际集上的泛化能力，进而提升基于此训练出的图像分类模型的分类准确性。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (12)

1.一种图像分类模型训练方法，包括：

对样本图像集中的样本图像，按批次的执行标准批归一化操作，得到对应批次的所有样本图像在不同特征通道上的全局归一化参数；

对所述样本图像集中的样本图像，按单张分别执行自适应归一化操作，得到每张所述样本图像分别在不同特征通道上的局部归一化参数；

融合每张所述样本图像的全局归一化参数和所述局部归一化参数，得到每张所述样本图像的融合后归一化参数；

利用预设的调节系数学习层输出与每张所述样本图像的融合后归一化参数对应的实际调节系数；其中，所述调节系数学习层用于表征融合后归一化参数与调节系数之间的对应关系；

利用与每张所述样本图像对应的实际调节系数，对相应的样本图像的全局归一化参数进行修正，得到目标归一化参数；

基于经所述目标归一化参数处理后的样本图像，训练得到图像分类模型；

训练得到所述调节系数学习层的方法包括：

将每张所述样本图像的融合后归一化参数作为输入、相应的图像所属类别作为输出，训练得到表征融合后归一化参数与图像所属类别之间对应关系的第一学习层；

将每张所述样本图像的图像所属类别作为输入、预期的调节系数作为输出，训练得到表征图像所属类别与调节系数之间对应关系的第二学习层；

将所述第一学习层和所述第二学习层以所述图像所述类别作为重合点，学习到表征所述融合后归一化参数与所述调节系数之间对应关系的调节系数学习层。

2.根据权利要求1所述的方法，其中，所述融合每张所述样本图像的全局归一化参数和所述局部归一化参数，得到每张所述样本图像的融合后归一化参数，包括：

确定与每张所述样本图像的全局归一化参数对应的第一权值；

确定与每张所述样本图像的局部归一化参数对应的第二权值；

根据经所述第一权值加权后的全局归一化参数、经所述第二权值加权后的局部归一化参数，得到每张所述样本图像的融合后归一化参数。

3.根据权利要求2所述的方法，还包括：

根据所述样本图像对应的图像内容复杂度，调整所述第一权值和所述第二权值的相对大小。

4.根据权利要求1-3任一项所述的方法，还包括：

将上一批次的样本图像的全局归一化参数，作为计算下一批次的样本图像的全局归一化参数的基础参数。

5.一种图像分类方法，包括：

获取待分类图像；

调用图像分类模型确定所述待分类图像的所属类别；其中，所述图像分类模型根据权利要求1-4中任一项所述的图像分类模型训练方法得到。

6.一种图像分类模型训练装置，包括：

标准批归一化执行单元，被配置成对样本图像集中的样本图像，按批次的执行标准批归一化操作，得到对应批次的所有样本图像在不同特征通道上的全局归一化参数；

自适应批归一化执行单元，被配置成对所述样本图像集中的样本图像，按单张分别执行自适应归一化操作，得到每张所述样本图像分别在不同特征通道上的局部归一化参数；

目标归一化参数确定单元，被配置成融合每张所述样本图像的全局归一化参数和所述局部归一化参数，得到每张所述样本图像的融合后归一化参数；利用预设的调节系数学习层输出与每张所述样本图像的融合后归一化参数对应的实际调节系数；其中，所述调节系数学习层用于表征融合后归一化参数与调节系数之间的对应关系；利用与每张所述样本图像对应的实际调节系数，对相应的样本图像的全局归一化参数进行修正，得到目标归一化参数；

图像分类模型训练单元，被配置成基于经所述目标归一化参数处理后的样本图像，训练得到图像分类模型；

调节系数学习层训练单元，被配置将每张所述样本图像的融合后归一化参数作为输入、相应的图像所属类别作为输出，训练得到表征融合后归一化参数与图像所属类别之间对应关系的第一学习层；将每张所述样本图像的图像所属类别作为输入、预期的调节系数作为输出，训练得到表征图像所属类别与调节系数之间对应关系的第二学习层；将所述第一学习层和所述第二学习层以所述图像所述类别作为重合点，学习到表征所述融合后归一化参数与所述调节系数之间对应关系的调节系数学习层。

7.根据权利要求6所述的装置，其中，所述目标归一化参数确定单元包括被配置成融合每张所述样本图像的全局归一化参数和所述局部归一化参数，得到每张所述样本图像的融合后归一化参数的融合子单元，所述融合子单元被进一步配置成：

确定与每张所述样本图像的全局归一化参数对应的第一权值；

确定与每张所述样本图像的局部归一化参数对应的第二权值；

根据经所述第一权值加权后的全局归一化参数、经所述第二权值加权后的局部归一化参数，得到每张所述样本图像的融合后归一化参数。

8.根据权利要求7所述的装置，还包括：

图像内容复杂度调整单元，被配置成根据所述样本图像对应的图像内容复杂度，调整所述第一权值和所述第二权值的相对大小。

9.根据权利要求6-8任一项所述的装置，还包括：

基础参数设定单元，被配置成将上一批次的样本图像的全局归一化参数，作为计算下一批次的样本图像的全局归一化参数的基础参数。

10.一种图像分类装置，包括：

待分类图像获取单元，被配置成获取待分类图像；

模型调用及类别判别单元，被配置成调用图像分类模型确定所述待分类图像的所属类别；其中，所述图像分类模型根据权利要求1-4中任一项所述的图像分类模型训练方法得到。

11.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-4中任一项所述的图像分类模型训练方法和/或权利要求5所述的图像分类方法。

12.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的图像分类模型训练方法和/或权利要求5所述的图像分类方法。

Images