CN111126617A

CN111126617A - 一种选择融合模型权重参数的方法、装置及设备

Info

Publication number: CN111126617A
Application number: CN201911215119.XA
Authority: CN
Inventors: 张延凤
Original assignee: Neusoft Corp
Current assignee: Neusoft Corp
Priority date: 2019-12-02
Filing date: 2019-12-02
Publication date: 2020-05-08
Anticipated expiration: 2039-12-02
Also published as: CN111126617B

Abstract

本申请实施例公开了一种选择融合模型权重参数的方法、装置及设备，首先构建初始融合模型，初始融合模型包括N个神经网络模型，每个神经网络模型对应模型权重。从构建的融合模型中，选择第一模型权重组合以构建待验证融合模型，并获取各个待验证融合模型的验证结果，第一模型权重组合包括第1个至第N‑1个模型权重。再根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后，根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合以确定一组目标模型权重，利用该目标模型权重生成对应的目标融合模型，从而提高模型融合效率。

Description

一种选择融合模型权重参数的方法、装置及设备

技术领域

本申请涉及自动化机器学习领域，具体涉及一种选择融合模型权重参数的方法、装置及设备。

背景技术

随着自动化机器学习技术的不断发展，其已经成为人工智能研究方向的一个重要分支。自动化机器学习的过程为不断调整模型(例如，神经网络模型等)的超参数，尝试更多超参数对应的机器学习模型，以获得更符合要求的模型。然而，自动化机器学习所选择的模型通常不是一个固定的模型，而是采取融合的方式对多个模型进行融合，以获得最后的模型组合。

而在模型融合过程中，通常可以将每个模型对应的模型权重作为超参数，采用超参搜索方式搜索所融合的每个模型对应的模型权重，进而根据每个模型的模型权重进行模型融合。然而，此种搜索方式在模型个数较少时比较便捷，当所融合的模型数量较多时，会带来较大的计算量，导致模型融合效率较低。

发明内容

有鉴于此，本申请实施例提供一种选择融合模型权重参数的方法、装置及设备，以减少计算量，提高模型融合效率。

为解决上述问题，本申请实施例提供的技术方案如下：

一种选择融合模型权重参数的方法，所述方法包括：

构建初始融合模型，所述初始融合模型包括N个神经网络模型，每个所述神经网络模型对应有模型权重，N为正整数；

选择第一模型权重组合以构建待验证融合模型，并获取各个所述待验证融合模型的验证结果，所述第一模型权重组合包括第1个至第N-1个模型权重；

根据各个所述待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，所述第二模型权重组合包括第1个至第N个模型权重；

根据所述m组满足预设条件的第二模型权重组合，确定一组目标模型权重，所述目标模型权重包括第1个至第N个模型权重；

利用所述目标模型权重生成对应的目标融合模型。

在一种可能的实现方式中，所述选择第一模型权重组合以构建待验证融合模型，并获取各个所述待验证融合模型的验证结果，包括：

选择一组第一模型权重组合；

根据所述第一模型权重组合包括的第1个至第N-1个模型权重之和，计算对应的第N个模型权重，将第1个至第N个模型权重组成第二模型权重组合；

利用所述第二模型权重组合生成待验证融合模型，利用验证数据集对所述待验证融合模型进行验证，得到所述待验证融合模型的验证结果；

重新执行所述选择一组第一模型权重组合以及后续步骤，直到达到停止条件。

在一种可能的实现方式中，所述根据各个所述待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，包括：

选择所述验证结果满足预设条件的m个待验证融合模型，得到所述m个待验证融合模型分别对应的第二模型权重组合，获得m组满足预设条件的第二模型权重组合。

在一种可能的实现方式中，所述选择所述验证结果满足预设条件的m个待验证融合模型，包括：

对各个待验证融合模型的验证结果进行排序，选择排序在先的m个待验证融合模型。

在一种可能的实现方式中，所述根据所述m组满足预设条件的第二模型权重组合，确定一组目标模型权重，包括：

在m组满足预设条件的第二模型权重组合中，针对每组第二模型权重组合，将非零的模型权重对应的神经网络模型的出现次数增加一次，获得N个神经网络模型对应的出现次数；

根据N个神经网络模型对应的出现次数，确定一组目标模型权重。

在一种可能的实现方式中，所述根据N个神经网络模型对应的出现次数，确定一组目标模型权重，包括：

将N个神经网络模型对应的出现次数进行归一化，转换为一组目标模型权重。

一种选择融合模型权重参数的装置，所述装置包括：

构建单元，用于构建初始融合模型，所述初始融合模型包括N个神经网络模型，每个所述神经网络模型对应有模型权重，N为正整数；

第一获取单元，用于选择第一模型权重组合以构建待验证融合模型，并获取各个所述待验证融合模型的验证结果，所述第一模型权重组合包括第1个至第N-1个模型权重；

第二获取单元，用于根据各个所述待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，所述第二模型权重组合包括第1个至第N个模型权重；

确定单元，用于根据所述m组满足预设条件的第二模型权重组合，确定一组目标模型权重，所述目标模型权重包括第1个至第N个模型权重；

生成单元，用于利用所述目标模型权重生成对应的目标融合模型。

在一种可能的实现方式中，所述第一获取单元，包括：

选择子单元，用于选择一组第一模型权重组合；

计算子单元，用于根据所述第一模型权重组合包括的第1个至第N-1个模型权重之和，计算对应的第N个模型权重，将第1个至第N个模型权重组成第二模型权重组合；

验证子单元，用于利用所述第二模型权重组合生成待验证融合模型，利用验证数据集对所述待验证融合模型进行验证，得到所述待验证融合模型的验证结果；

重新执行所述选择子单元以及后续子单元，直到达到停止条件。

一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行所述的选择融合模型权重参数的方法。

一种选择融合模型权重参数的设备，包括：存储器，处理器，及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现所述的选择融合模型权重参数的方法。

由此可见，本申请实施例具有如下有益效果：

本申请实施例在进行模型融合时，首先构建初始融合模型，该初始融合模型包括N个神经网络模型，每个神经网络模型对应有模型权重。然后，从构建的融合模型中，选择第一模型权重组合以构建待验证融合模型，并获取各个待验证融合模型的验证结果，其中，第一模型权重组合包括第1个至第N-1个模型权重。再根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，其中，第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后，根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，再根据m组第二模型权重组合确定一组目标模型权重，利用该目标模型权重生成对应的目标融合模型。

即，在重复选择模型权重组合时，是在N-1个模型权重的组合中进行选择，而非从N个模型权重的组合中进行选择，当初始融合模型包括的神经网络模型数量较多时，N-1个模型权重的组合数量要远小于N个模型权重的组合数量，即在不断重复选择模型权重组合时迭代的次数会减少，从而减少计算量，提高确定第二模型权重组合的效率，进而提高生成目标融合模型的效率。另外，通过多组第二模型权重组合确定最终的目标模型权重建立目标融合模型，使建立的目标融合模型可以适应更多的应用场景，提高目标融合模型的通用性。

附图说明

图1为本申请实施例提供的一种选择融合模型权重参数的方法的流程图；

图2a为传统模型权重搜索空间示意图；

图2b为本申请模型权重搜索空间示意图；

图3为本申请实施例提供的一种图像分类方法流程图；

图4为本申请实施例提供的一种信息识别方法流程图；

图5为本申请实施例提供的一种选择融合模型权重参数的装置的结构图；

图6为本申请实施例提供的一种图像分类装置结构图；

图7为本申请实施例提供的一种信息分类装置结构图。

具体实施方式

为使本申请的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本申请实施例作进一步详细的说明。

为便于理解本申请提供的技术方案，下面将先对本申请涉及的背景技术进行说明。

发明人在对传统的模型权重搜索方法研究中发现，当融合模型包括大量的模型时，在进行权重搜索时会带来非常大的计算量，导致模型融合效率较低。另外，当获得每个模型的权重，对模型进行融合获得融合模型时，由于传统的模型融合方法存在局限性，导致获得的融合模型在一些应用场景下并不适用，影响融合模型的通用性。

基于此，本申请实施提供了一种选择融合模型权重参数的方法，首先构建初始融合模型，该初始融合模型包括N个神经网络模型，且每个神经网络模型均对应有模型权重。然后，选择多组第一模型权重组合以构建多个待验证融合模型，并获取每个待验证融合模型的验证结果。再根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合。再根据m组满足预设条件的第二模型权重组合，确定一组目标模型权重，以利用该目标模型权重生成对应的目标融合模型，从而实现融合模型的构建。即，在重复选择模型权重组合时，是在N-1个模型权重的组合中进行选择，而非从N个模型权重的组合中进行选择，当初始融合模型包括的神经网络模型数量较多时，N-1个模型权重的组合数量要远小于N个模型权重的组合数量，即在不断重复选择模型权重组合时迭代的次数会减少，从而减少计算量，提高确定第二模型权重组合的效率，进而提高生成目标融合模型的效率。

另外，由于本申请在构建最终的目标融合模型时，预先选择m组满足预设条件的第二模型权重组合，然后根据m组第二模型权重组合确定一组目标模型权重，以利用目标权重生成对应的目标融合模型。也就是，在模型融合过程中不是直接选择一组最优的模型权重组合建立最后的融合模型，而是获取多组模型权重组合，利用多组模型权重组合确定一组模型权重组合形成最后的目标融合模型，从而提高该目标融合模型的通用性，以适用更多的应用场景中。

需要说明的是，本申请提供的构建融合模型的方法可以适用于任何需要适用融合模型的领域及场景，例如金融、航空、政府、医疗、交通等领域，图像分类、数据处理、数据分类、文本处理等各种场景。此外，本实施例所提供的方法，当N取值较大时，进行降维处理所带来的计算量减少的效果更佳。

为便于理解，下面将结合附图对本申请实施例提供的构建融合模型的方法进行说明。

参见图1，该图为本申请实施例提供的一种选择融合模型权重参数的方法流程图，如图1所示，该方法可以包括：

S101：构建初始融合模型。

本实施例中，首先利用已存在的多个神经网络模型构建初始融合模型，该初始融合模型包括N个神经网络模型，每个神经网络模型对应有模型权重，N为正整数。多个神经网络模型可以根据实际应用场景利用不同的神经网络模型训练方法建立。

需要说明的是，本实施例中每个神经网络模型均对应有模型权重，具体每个模型权重的具体取值可以通过遍历方式获得其可能的模型权重，具体地，每个神经网络模型对应的模型权重可以为0、也可以为1，但所构建的融合模型中所有神经网络模型对应的模型权重之和为1。

可以理解的是，全部或部分神经网络模型的模型权重可以组成模型权重组合，例如，在后续实施例中，由第1个至第N-1个模型权重的组合可以构成第一模型权重组合，由第1个至第N个模型权重的组合可以构成第二模型权重组合。

例如，N为4，第一个神经网络模型的模型权重为0.1、第二个神经网络模型的模型权重为0.3、第三个神经网络模型权重为0.4、第四个神经网络模型的模型权重为0.2，则第一模型权重组合可以为[0.1 0.3 0.4]，第二模型权重组合可以为[0.1 0.3 0.4 0.2]。再例如，第一神经网络模型的模型权重为0.2、第二个神经网络模型的模型权重为0.5、第三个神经网络模型的模型权重为0、第四个神经网络模型的模型权重为0.3，则第一模型权重组合可以为[0.2 0.5 0]，第二模型权重组合可以为[0.2 0.5 0 0.3]。

S102：选择第一模型权重组合以构建待验证融合模型，并获取各个待验证融合模型的验证结果。

当构建完成初始融合模型后，由于每个神经网络模型对应有各种可能的模型权重，则从中选择第一模型权重组合，并根据该第一模型权重组合构建待验证融合模型，以获取该待验证融合模型的验证结果，返回再选择第一模型权重组合，并根据该第一模型权重组合构建待验证融合模型，以获取该待验证融合模型的验证结果，以此迭代多次获取各个待验证融合模型的验证结果。其中，第一模型权重组合包括第1个至第N-1个模型权重，该N-1个模型权重之和大于或等于0且小于或等于1，而待验证融合模型包括N个神经网络模型，可以利用第一模型权重组合计算得到第N个模型权重，以根据第1个模型权重至第N个模型权重构建待验证融合模型。

也就是说，在本申请实施例中，在利用第一模型权重组合构建待验证融合模型，进行了降维处理，把N维空间上的计算降维到N-1维空间，即从N个模型权重的组合中进行选择，降维到从N-1个模型权重的组合中进行选择，从而提高获得第N个模型权重的效率。例如，N为100，99个模型权重的组合数量要远小于100个模型权重的组合的数量，从99个模型权重的组合中进行选择的迭代次数，要小于从100个模型权重的组合中进行选择的迭代次数。

具体地，在本申请实施例一种实现方式中，提供了一种选择第一模型权重组合以构建待验证融合模型，并获取各个待验证融合模型的验证结果的实现方法，具体为：

1)选择一组第一模型权重组合。

本实施例中，针对获取的多组第一模型权重组合，选择一组第一模型权重组合进行下述处理。

2)根据第一模型权重组合包括的第1个至第N-1个模型权重之和，计算对应的第N个模型权重，将第1个至第N个模型权重组成第二模型权重组合。

即，由于构建的融合模型包括N个神经网络模型，N个神经网络模型对应的模型权重之和为1，而第一模型权重组合包括N-1个模型权重，则可以将1减去N-1个模型权重之和获得对应的第N个模型权重，即获得第N个神经网络模型的模型权重，以组成第二模型权重组合。也就是，在确定第二模型权重组合时，把确定N个模型权重降维到确定N-1个模型权重，然后利用N个模型权重之和为定值来确定第N个模型权重，从而减少计算量。

例如，所选择的一组第一模型权重组合为[0.1 0.3 0.4]时，确定的第4个模型权重为0.2；第一模型权重组合为[0.2 0.2 0.3]时，确定的第4个模型权重为0.3；第一模型权重组合为[0.2 0.4 0]时，确定的第4个模型权重为0.4。

3)利用第二模型权重组合生成待验证融合模型，利用验证数据集对待验证融合模型进行验证，得到待验证融合模型的验证结果。

当获得第二模型权重组合后，利用第二模型权重组合生成待验证融合模型，并利用验证数据集对验证融合模型进行验证，获得待验证融合模型的验证结果。即，为确保所构建的待验证融合模型满足使用条件，在利用第二模型权重组合生成待验证融合模型时，利用验证数据集验证该待验证融合模型，以获得该待验证融合模型对应的验证结果。

在实际应用时，针对每组第一模型权重组合均进行上述处理，以获得每个待验证融合模型对应的验证结果，直至达到停止条件。停止条件例如达到预设时间、遍历第一模型权重组合完成等，停止条件可以根据实际情况设置。

S103：根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合。

在获得每个待验证融合模型的验证结果后，根据验证结果获得m组满足预设条件的第二模型权重组合，其中，第二模型权重组合包括第1个至第N个模型权重。即，根据验证结果从所组成的多个第二模型权重组合中选择m组满足预设条件的第二模型权重组合。

具体地，从获取的所有验证结果中选择验证结果满足预设条件的m个待验证融合模型，得到m个待验证融合模型分别对应的第二模型权重组合，获得m组满足预设条件的第二模型权重组合。即，根据验证结果确定该验证结果是否满足预设条件，如果该验证结果满足预设条件，则将该验证结果对应的待验证融合模型作为m个待验证融合模型中的一个，依次循环，直至确定出m个待验证融合模型。

其中，选择验证结果满足预设条件的m个待验证融合模型，可以为对各个待验证融合模型的验证结果进行排序，选择排序在先的m个待验证融合模型。例如，共存在100个待验证融合模型，根据各个待验证融合模型对应的验证结果进行排序，得到前50个待验证融合模型分别对应的第二模型权重组合。

S104：根据m组满足预设条件的第二模型权重组合，确定一组目标模型权重。

S105：利用目标模型权重生成对应的目标融合模型。

在获取m组第二模型权重组合后，根据该m组第二模型权重组合确定出一组目标模型权重，然后利用该目标模型权重生成对应的目标融合模型。

可以理解的是，神经网络模型的模型权重不为0时，可以代表该神经网络模型会出现在最终的融合模型中。当某神经网络模型在确定的m组第二模型权重组合中出现的频率越高，表明该神经网络模型越重要，越可以适应各类数据，因此为了可以体现每组第二模型权重组合中每个模型权重对应的神经网络模型的重要性，在确定该神经网络模型对应的模型权重时，可以将其在m组出现的次数作为参考依据。

具体地，在m组满足预设条件的第二模型权重组合中，针对每组第二模型权重组合，将非零的模型权重对应的神经网络模型的出现次数增加一次，获得N个神经网络模型对应的出现次数；根据N个神经网络模型对应的出现次数，确定一组目标模型权重。也就是，统计每个神经网络模型在m组第二模型权重组合中出现的次数，以根据每个神经网络模型的出现次数确定该神经网络模型对应的模型权重，从而获得一组目标模型权重。

例如，共存在5组满足预设条件的第二模型权重组合，分别为[0.2 0.3 0.50]、[0.2 0.2 0.4 0.2]、[0.3 0 0.5 0.2]、[0.3 0.2 0 0.5]以及[0.5 0.2 0.3 0]，其中，第一个神经网络模型出现的次数为5次，第二个神经网络模型出现的次数为4次，第三个神经网络模型出现的次数为4次，第四个神经网络模型出现的次数为3次，根据每个神经网络模型出现的次数确定其对应的模型权重。

即，在确定最终的目标模型权重时，是根据每个神经网络模型出现的次数确定的，从而保证出现次数较多的神经网络模型对应的模型权重也较大，进而使得生成的目标融合模型可以适用更多应用场景，提高目标融合模型的通用性。

具体地，在根据N个神经网络模型对应的出现次数，确定一组目标模型权重时，可以先对每个神经网络模型对应的出现次数进行归一化处理，然后再转换为该神经网络模型的模型权重，进而获得一组目标模型权重。具体为，将N个神经网络模型对应的出现次数进行归一化，转换为一组目标模型权重。也就是，将每个神经网络模型对应的出现次数除以N个神经网络模型对应的出现次数总和，以实现对该神经网络模型对应的出现次数进行归一化处理，进而获得该神经网络模型对应的模型权重，从而转换为一组目标模型权重。

例如，第一个神经网络模型出现的次数为5次，第二个神经网络模型出现的次数为4次，第三个神经网络模型出现的次数为4次，第四个神经网络模型出现的次数为3次，则第一个神经网络模型对应的权重为5/16(约为0.32)、第二个神经网络模型对应的权重为4/16(0.25)、第三个神经网络模型对应的权重为4/16(0.25)、第四个神经网络模型对应的权重为3/16(约为0.18)，则目标模型权重为[0.32 0.25 0.25 0.18]。

通过上述实施例可知，首先构建初始融合模型，该初始融合模型包括N个神经网络模型，每个神经网络模型对应有模型权重。然后，从构建的融合模型中，选择第一模型权重组合以构建待验证融合模型，并获取各个待验证融合模型的验证结果，其中，第一模型权重组合包括第1个至第N-1个模型权重。再根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，其中，第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后，根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，再根据m组第二模型权重组合确定一组目标模型权重，利用该目标模型权重生成对应的目标融合模型。

在重复选择模型权重组合时，是在N-1个模型权重的组合中进行选择，而非从N个模型权重的组合中进行选择，当初始融合模型包括的神经网络模型数量较多时，N-1个模型权重的组合数量要远小于N个模型权重的组合数量，即在不断重复选择模型权重组合时迭代的次数会减少，从而减少计算量，提高确定第二模型权重组合的效率，进而提高生成目标融合模型的效率。另外，通过多组第二模型权重组合确定最终的目标模型权重建立目标融合模型，使建立的目标融合模型可以适应更多的应用场景，提高目标融合模型的通用性。

需要说明的是，本申请实施例通过降低搜索维度可以达到减小计算量的效果，但是达到该效果并未减少搜索模型权重过程中的搜索空间，即在降维前后，搜索模型权重对应的搜索空间是相同的。在N-1维空间搜索获取的模型权重可以通过下述公式一一映射到N维搜索空间对应的模型权重，从而可以说明在降维后并未减少搜索空间：

其中，Qi为N维空间第i个模型对应的模型权重，Ci为在N-1维空间中获得的第i个模型对应的模型权重，MAX(Ci)表示在N-1维空间中对应的最大模型权重。

为便于理解，参见图2a和图2b所示应用场景示例图，在该场景下，N＝3，传统的模型权重搜索需要在三维搜索空间(图2a)进行搜索。而利用本申请提供的方法，只需在二维搜索空间(图2b)进行搜索。例如，在二维搜索空间搜索获得前两个模型权重分别为0.1、0.3，则第3个模型权重为0.6，则映射到三维搜索空间对应的模型权重为Q1＝0.1*1/0.6＝1/6、Q2＝0.3*1/0.6＝3/6、Q3＝0.6/0.6＝1。也就是说，二维搜索空间与三维搜索空间存在映射关系，在二维搜索空间进行模型权重的搜索，可以达到在搜索空间与三维搜索空间相同的情况下减少计算量的效果。

另外，本申请实施例还提供一种图像分类方法，基于上述实施例提供的选择融合模型权重参数的方法，可以将根据选择融合模型权重参数的方法获得的目标融合模型应用到图像分类中，参见图3，该图为本申请实施例提供的一种图像分类方法流程图，该方法可以包括：

S301：获取待分类图像。

S302：将待分类图像输入目标融合模型，得到目标融合模型输出的图像分类结果。

在本实施例中，首先获取待分类的图像，并将该待分类图像输入预先构建的目标融合模型中，以获得该待分类图像对应的图像分类结果。在具体实现时，目标融合模型不仅可以输出待分类图像对应的分类结果，还可以输出每种分类结果对应的概率值，从而便于用户直接了解待分类图像的分类情况。

在实际应用中，待分类图像可以为医学影像图像，则所使用的目标融合模型为可以对医学影像图像进行分类的模型，通过将医学影像图像(或其对应的特征图)输入目标融合模型可以获得该医学影像图像的具体分类结果。例如，可以识别所输入的医学影像图像为正样本医学影像图像，还是负样本医学影像图像。其中，正样本图像是指携带有某种特征或具有某种分类结果的医学影像图像；负样本医学影像图像是指未携带有某种特征或不具有某种分类结果的医学影像图像。

其中，目标融合模型的构建过程包括：

(1)构建初始融合模型，该初始融合模型包括N个神经网络模型。

本实施例中，每个神经网络模型是根据训练图像以及训练图像对应的标签训练得到的，每个神经网络模型可以采用不同的训练方式进行训练，N为正整数。即，将训练图像以及该训练图像对应的标签作为训练数据对初始模型进行训练获得用于进行图像分类的神经网络模型，以利用多个神经网络模型构建初始融合模型。

(2)选择第一模型权重组合以构建待验证融合模型，并获取各个待验证融合模型的验证结果，其中，第一模型权重组合包括第1个至第N-1个模型权重。

(3)根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，其中，第二模型权重组合包括第1个至第N个模型权重。

(4)根据m组满足预设条件的第二模型权重组合，确定一组目标模型权重，其中，目标模型权重包括第1个至第N个模型权重。

(5)利用目标模型权重生成对应的目标融合模型。

需要说明的是，本实施例中关于目标融合模型的具体生成过程可以参见图1所述方法的流程，本实施例在此不再赘述。

本申请实施例利用目标融合模型对待分类图像进行分类，由于该目标融合模型由多个神经网络模型融合生成，使得该目标融合模型输出的分类结果综合了多个神经网络模型的分类结果，进而提高分类结果准确性。

另外，本申请实施例还提供一种信息识别方法，基于上述实施例提供的选择融合模型权重参数的方法，可以将根据选择融合模型权重参数的方法获得的目标融合模型应用到信息识别中，参见图4，该图为本申请实施例提供的信息识别方法流程图，该方法可以包括：

S401：获取待识别信息。

S402：将待识别信息输入目标融合模型，得到目标融合模型输出的信息属性类别。

在本实施例中，首先获取待识别的信息，并将该待识别输入预先构建的目标融合模型中，以获得该待识别信息对应的信息属性类别。在具体实现时，目标融合模型不仅可以输出待识别信息对应的信息属性类别，还可以输出每种信息属性类别对应的概率值，从而便于用户直接了解待识别信息对应的分类情况。

在实际应用中，待识别信息可以为待识别文本信息，则所使用的目标融合模型为可以对待识别文本信息进行信息属性分类的模型，通过将待识别文本信息(或其对应的特性向量)输入目标融合模型可以获得该待识别文本信息的具体信息属性分类结果。例如，可以识别输入的待识别文本信息为可信任信息，还是欺诈信息。

其中，目标融合模型的构建过程包括：

本实施例中，每个神经网络模型是根据训练信息以及训练信息对应的标签训练得到的，每个神经网络模型可以采用不同的训练方式进行训练，N为正整数。即，将训练信息以及该训练信息对应的标签(即实际属性分类)作为训练数据对初始模型进行训练获得用于进行信息识别的神经网络模型，以利用多个神经网络模型构建初始融合模型。

(5)利用目标模型权重生成对应的目标融合模型。

需要说明的是，本实施例中关于目标融合模型的具体生成过程可以参见图1所述的流程，本实施例在此不再赘述。

本申请实施例通过利用目标融合模型对待识别信息的属性分类进行识别，由于该目标融合模型由多个神经网络模型融合，可以综合多个神经网络模型的分类结果进行融合得到最终的分类结果，从而提高分类结果的准确性。

基于上述方法实施例，本申请实施例还提供了一种选择融合模型权重参数的装置、图像分类装置以及信息识别装置，下面将结合附图分别对装置进行说明。

参见图5，该图为本申请实施例提供的一种选择融合模型权重参数的装置结构图，如图5所示，该装置可以包括：

构建单元501，用于构建初始融合模型，所述初始融合模型包括N个神经网络模型，每个所述神经网络模型对应有模型权重，N为正整数；

第一获取单元502，用于选择第一模型权重组合以构建待验证融合模型，并获取各个所述待验证融合模型的验证结果，所述第一模型权重组合包括第1个至第N-1个模型权重；

第二获取单元503，用于根据各个所述待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，所述第二模型权重组合包括第1个至第N个模型权重；

确定单元504，用于根据所述m组满足预设条件的第二模型权重组合，确定一组目标模型权重，所述目标模型权重包括第1个至第N个模型权重；

生成单元505，用于利用所述目标模型权重生成对应的目标融合模型。

在一种可能的实现方式中，所述第一获取单元，包括：

选择子单元，用于选择一组第一模型权重组合；

在一种可能的实现方式中，所述第二获取单元，具体用于选择所述验证结果满足预设条件的m个待验证融合模型，得到所述m个待验证融合模型分别对应的第二模型权重组合，获得m组满足预设条件的第二模型权重组合。

在一种可能的实现方式中，所述第二获取单元，具体用于对各个待验证融合模型的验证结果进行排序，选择排序在先的m个待验证融合模型。

在一种可能的实现方式中，所述确定单元，包括：

统计子单元，用于在m组满足预设条件的第二模型权重组合中，针对每组第二模型权重组合，将非零的模型权重对应的神经网络模型的出现次数增加一次，获得N个神经网络模型对应的出现次数；

确定子单元，用于根据N个神经网络模型对应的出现次数，确定一组目标模型权重。

在一种可能的实现方式中，所述确定子单元，具体用于将N个神经网络模型对应的出现次数进行归一化，转换为一组目标模型权重。

需要说明的是，本实施例中各个单元的具体实现可以参见图1所述方法实施例，本实施例在此不再赘述。

参见图6，该图为本申请实施例提供的一种图像分类装置结构图，如图6所示，该装置可以包括：

第一获取单元601，用于获取待分类图像。

第二获取单元602，用于将待分类图像输入目标融合模型，得到目标融合模型输出的图像分类结果。

其中，目标融合模型的构建过程包括：

(5)利用目标模型权重生成对应的目标融合模型。

参见图7，该图为本申请实施例提供的一种信息识别装置结构图，如图7所示，该装置可以包括：

第三获取单元701，用于获取待识别信息。

第四获取单元702，用于将待识别信息输入目标融合模型，得到目标融合模型输出的信息属性类别。

其中，目标融合模型的构建过程包括：

(5)利用目标模型权重生成对应的目标融合模型。

另外，本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行所述的选择融合模型权重参数的方法、图像分类方法或者信息识别方法。

本申请提供了一种构建融合模型的设备，包括：存储器，处理器，及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现所述的选择融合模型权重参数的方法、图像分类方法或者信息识别方法。

通过上述实施例可知，在进行模型融合时，首先构建初始融合模型，该初始融合模型包括N个神经网络模型，每个神经网络模型对应有模型权重。然后，从构建的融合模型中，选择第一模型权重组合以构建待验证融合模型，并获取各个待验证融合模型的验证结果，其中，第一模型权重组合包括第1个至第N-1个模型权重。再根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，其中，第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后，根据各个待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，再根据m组第二模型权重组合确定一组目标模型权重，利用该目标模型权重生成对应的目标融合模型。

需要说明的是，本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统或装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

应当理解，在本申请中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。

还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims

1.一种选择融合模型权重参数的方法，其特征在于，所述方法包括：

利用所述目标模型权重生成对应的目标融合模型。

2.根据权利要求1所述的方法，其特征在于，所述选择第一模型权重组合以构建待验证融合模型，并获取各个所述待验证融合模型的验证结果，包括：

选择一组第一模型权重组合；

3.根据权利要求1或2所述的方法，其特征在于，所述根据各个所述待验证融合模型的验证结果，获得m组满足预设条件的第二模型权重组合，包括：

4.根据权利要求3所述的方法，其特征在于，所述选择所述验证结果满足预设条件的m个待验证融合模型，包括：

5.根据权利要求1所述的方法，其特征在于，所述根据所述m组满足预设条件的第二模型权重组合，确定一组目标模型权重，包括：

6.根据权利要求5所述的方法，其特征在于，所述根据N个神经网络模型对应的出现次数，确定一组目标模型权重，包括：

7.一种选择融合模型权重参数的装置，其特征在于，所述装置包括：

8.根据权利要求7所述的装置，其特征在于，所述第一获取单元，包括：

选择子单元，用于选择一组第一模型权重组合；

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行权利要求1-6任一项所述的选择融合模型权重参数的方法。

10.一种选择融合模型权重参数的设备，其特征在于，包括：存储器，处理器，及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如权利要求1-6任一项所述的选择融合模型权重参数的方法。