CN111126617A - 一种选择融合模型权重参数的方法、装置及设备 - Google Patents
一种选择融合模型权重参数的方法、装置及设备 Download PDFInfo
- Publication number
- CN111126617A CN111126617A CN201911215119.XA CN201911215119A CN111126617A CN 111126617 A CN111126617 A CN 111126617A CN 201911215119 A CN201911215119 A CN 201911215119A CN 111126617 A CN111126617 A CN 111126617A
- Authority
- CN
- China
- Prior art keywords
- model
- fusion
- weight
- verified
- weights
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 268
- 238000000034 method Methods 0.000 title claims abstract description 78
- 238000012795 verification Methods 0.000 claims abstract description 82
- 238000003062 neural network model Methods 0.000 claims description 120
- 238000004364 calculation method Methods 0.000 claims description 15
- 238000010276 construction Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 6
- 101100134058 Caenorhabditis elegans nth-1 gene Proteins 0.000 claims description 3
- 238000012163 sequencing technique Methods 0.000 claims description 2
- 238000012549 training Methods 0.000 description 31
- 230000008569 process Effects 0.000 description 17
- 238000010586 diagram Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 238000010801 machine learning Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Image Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请实施例公开了一种选择融合模型权重参数的方法、装置及设备,首先构建初始融合模型,初始融合模型包括N个神经网络模型,每个神经网络模型对应模型权重。从构建的融合模型中,选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,第一模型权重组合包括第1个至第N‑1个模型权重。再根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后,根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合以确定一组目标模型权重,利用该目标模型权重生成对应的目标融合模型,从而提高模型融合效率。
Description
技术领域
本申请涉及自动化机器学习领域,具体涉及一种选择融合模型权重参数的方法、装置及设备。
背景技术
随着自动化机器学习技术的不断发展,其已经成为人工智能研究方向的一个重要分支。自动化机器学习的过程为不断调整模型(例如,神经网络模型等)的超参数,尝试更多超参数对应的机器学习模型,以获得更符合要求的模型。然而,自动化机器学习所选择的模型通常不是一个固定的模型,而是采取融合的方式对多个模型进行融合,以获得最后的模型组合。
而在模型融合过程中,通常可以将每个模型对应的模型权重作为超参数,采用超参搜索方式搜索所融合的每个模型对应的模型权重,进而根据每个模型的模型权重进行模型融合。然而,此种搜索方式在模型个数较少时比较便捷,当所融合的模型数量较多时,会带来较大的计算量,导致模型融合效率较低。
发明内容
有鉴于此,本申请实施例提供一种选择融合模型权重参数的方法、装置及设备,以减少计算量,提高模型融合效率。
为解决上述问题,本申请实施例提供的技术方案如下:
一种选择融合模型权重参数的方法,所述方法包括:
构建初始融合模型,所述初始融合模型包括N个神经网络模型,每个所述神经网络模型对应有模型权重,N为正整数;
选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,所述第一模型权重组合包括第1个至第N-1个模型权重;
根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,所述第二模型权重组合包括第1个至第N个模型权重;
根据所述m组满足预设条件的第二模型权重组合,确定一组目标模型权重,所述目标模型权重包括第1个至第N个模型权重;
利用所述目标模型权重生成对应的目标融合模型。
在一种可能的实现方式中,所述选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,包括:
选择一组第一模型权重组合;
根据所述第一模型权重组合包括的第1个至第N-1个模型权重之和,计算对应的第N个模型权重,将第1个至第N个模型权重组成第二模型权重组合;
利用所述第二模型权重组合生成待验证融合模型,利用验证数据集对所述待验证融合模型进行验证,得到所述待验证融合模型的验证结果;
重新执行所述选择一组第一模型权重组合以及后续步骤,直到达到停止条件。
在一种可能的实现方式中,所述根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,包括:
选择所述验证结果满足预设条件的m个待验证融合模型,得到所述m个待验证融合模型分别对应的第二模型权重组合,获得m组满足预设条件的第二模型权重组合。
在一种可能的实现方式中,所述选择所述验证结果满足预设条件的m个待验证融合模型,包括:
对各个待验证融合模型的验证结果进行排序,选择排序在先的m个待验证融合模型。
在一种可能的实现方式中,所述根据所述m组满足预设条件的第二模型权重组合,确定一组目标模型权重,包括:
在m组满足预设条件的第二模型权重组合中,针对每组第二模型权重组合,将非零的模型权重对应的神经网络模型的出现次数增加一次,获得N个神经网络模型对应的出现次数;
根据N个神经网络模型对应的出现次数,确定一组目标模型权重。
在一种可能的实现方式中,所述根据N个神经网络模型对应的出现次数,确定一组目标模型权重,包括:
将N个神经网络模型对应的出现次数进行归一化,转换为一组目标模型权重。
一种选择融合模型权重参数的装置,所述装置包括:
构建单元,用于构建初始融合模型,所述初始融合模型包括N个神经网络模型,每个所述神经网络模型对应有模型权重,N为正整数;
第一获取单元,用于选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,所述第一模型权重组合包括第1个至第N-1个模型权重;
第二获取单元,用于根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,所述第二模型权重组合包括第1个至第N个模型权重;
确定单元,用于根据所述m组满足预设条件的第二模型权重组合,确定一组目标模型权重,所述目标模型权重包括第1个至第N个模型权重;
生成单元,用于利用所述目标模型权重生成对应的目标融合模型。
在一种可能的实现方式中,所述第一获取单元,包括:
选择子单元,用于选择一组第一模型权重组合;
计算子单元,用于根据所述第一模型权重组合包括的第1个至第N-1个模型权重之和,计算对应的第N个模型权重,将第1个至第N个模型权重组成第二模型权重组合;
验证子单元,用于利用所述第二模型权重组合生成待验证融合模型,利用验证数据集对所述待验证融合模型进行验证,得到所述待验证融合模型的验证结果;
重新执行所述选择子单元以及后续子单元,直到达到停止条件。
一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备执行所述的选择融合模型权重参数的方法。
一种选择融合模型权重参数的设备,包括:存储器,处理器,及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现所述的选择融合模型权重参数的方法。
由此可见,本申请实施例具有如下有益效果:
本申请实施例在进行模型融合时,首先构建初始融合模型,该初始融合模型包括N个神经网络模型,每个神经网络模型对应有模型权重。然后,从构建的融合模型中,选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,其中,第一模型权重组合包括第1个至第N-1个模型权重。再根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,其中,第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后,根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,再根据m组第二模型权重组合确定一组目标模型权重,利用该目标模型权重生成对应的目标融合模型。
即,在重复选择模型权重组合时,是在N-1个模型权重的组合中进行选择,而非从N个模型权重的组合中进行选择,当初始融合模型包括的神经网络模型数量较多时,N-1个模型权重的组合数量要远小于N个模型权重的组合数量,即在不断重复选择模型权重组合时迭代的次数会减少,从而减少计算量,提高确定第二模型权重组合的效率,进而提高生成目标融合模型的效率。另外,通过多组第二模型权重组合确定最终的目标模型权重建立目标融合模型,使建立的目标融合模型可以适应更多的应用场景,提高目标融合模型的通用性。
附图说明
图1为本申请实施例提供的一种选择融合模型权重参数的方法的流程图;
图2a为传统模型权重搜索空间示意图;
图2b为本申请模型权重搜索空间示意图;
图3为本申请实施例提供的一种图像分类方法流程图;
图4为本申请实施例提供的一种信息识别方法流程图;
图5为本申请实施例提供的一种选择融合模型权重参数的装置的结构图;
图6为本申请实施例提供的一种图像分类装置结构图;
图7为本申请实施例提供的一种信息分类装置结构图。
具体实施方式
为使本申请的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本申请实施例作进一步详细的说明。
为便于理解本申请提供的技术方案,下面将先对本申请涉及的背景技术进行说明。
发明人在对传统的模型权重搜索方法研究中发现,当融合模型包括大量的模型时,在进行权重搜索时会带来非常大的计算量,导致模型融合效率较低。另外,当获得每个模型的权重,对模型进行融合获得融合模型时,由于传统的模型融合方法存在局限性,导致获得的融合模型在一些应用场景下并不适用,影响融合模型的通用性。
基于此,本申请实施提供了一种选择融合模型权重参数的方法,首先构建初始融合模型,该初始融合模型包括N个神经网络模型,且每个神经网络模型均对应有模型权重。然后,选择多组第一模型权重组合以构建多个待验证融合模型,并获取每个待验证融合模型的验证结果。再根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合。再根据m组满足预设条件的第二模型权重组合,确定一组目标模型权重,以利用该目标模型权重生成对应的目标融合模型,从而实现融合模型的构建。即,在重复选择模型权重组合时,是在N-1个模型权重的组合中进行选择,而非从N个模型权重的组合中进行选择,当初始融合模型包括的神经网络模型数量较多时,N-1个模型权重的组合数量要远小于N个模型权重的组合数量,即在不断重复选择模型权重组合时迭代的次数会减少,从而减少计算量,提高确定第二模型权重组合的效率,进而提高生成目标融合模型的效率。
另外,由于本申请在构建最终的目标融合模型时,预先选择m组满足预设条件的第二模型权重组合,然后根据m组第二模型权重组合确定一组目标模型权重,以利用目标权重生成对应的目标融合模型。也就是,在模型融合过程中不是直接选择一组最优的模型权重组合建立最后的融合模型,而是获取多组模型权重组合,利用多组模型权重组合确定一组模型权重组合形成最后的目标融合模型,从而提高该目标融合模型的通用性,以适用更多的应用场景中。
需要说明的是,本申请提供的构建融合模型的方法可以适用于任何需要适用融合模型的领域及场景,例如金融、航空、政府、医疗、交通等领域,图像分类、数据处理、数据分类、文本处理等各种场景。此外,本实施例所提供的方法,当N取值较大时,进行降维处理所带来的计算量减少的效果更佳。
为便于理解,下面将结合附图对本申请实施例提供的构建融合模型的方法进行说明。
参见图1,该图为本申请实施例提供的一种选择融合模型权重参数的方法流程图,如图1所示,该方法可以包括:
S101:构建初始融合模型。
本实施例中,首先利用已存在的多个神经网络模型构建初始融合模型,该初始融合模型包括N个神经网络模型,每个神经网络模型对应有模型权重,N为正整数。多个神经网络模型可以根据实际应用场景利用不同的神经网络模型训练方法建立。
需要说明的是,本实施例中每个神经网络模型均对应有模型权重,具体每个模型权重的具体取值可以通过遍历方式获得其可能的模型权重,具体地,每个神经网络模型对应的模型权重可以为0、也可以为1,但所构建的融合模型中所有神经网络模型对应的模型权重之和为1。
可以理解的是,全部或部分神经网络模型的模型权重可以组成模型权重组合,例如,在后续实施例中,由第1个至第N-1个模型权重的组合可以构成第一模型权重组合,由第1个至第N个模型权重的组合可以构成第二模型权重组合。
例如,N为4,第一个神经网络模型的模型权重为0.1、第二个神经网络模型的模型权重为0.3、第三个神经网络模型权重为0.4、第四个神经网络模型的模型权重为0.2,则第一模型权重组合可以为[0.1 0.3 0.4],第二模型权重组合可以为[0.1 0.3 0.4 0.2]。再例如,第一神经网络模型的模型权重为0.2、第二个神经网络模型的模型权重为0.5、第三个神经网络模型的模型权重为0、第四个神经网络模型的模型权重为0.3,则第一模型权重组合可以为[0.2 0.5 0],第二模型权重组合可以为[0.2 0.5 0 0.3]。
S102:选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果。
当构建完成初始融合模型后,由于每个神经网络模型对应有各种可能的模型权重,则从中选择第一模型权重组合,并根据该第一模型权重组合构建待验证融合模型,以获取该待验证融合模型的验证结果,返回再选择第一模型权重组合,并根据该第一模型权重组合构建待验证融合模型,以获取该待验证融合模型的验证结果,以此迭代多次获取各个待验证融合模型的验证结果。其中,第一模型权重组合包括第1个至第N-1个模型权重,该N-1个模型权重之和大于或等于0且小于或等于1,而待验证融合模型包括N个神经网络模型,可以利用第一模型权重组合计算得到第N个模型权重,以根据第1个模型权重至第N个模型权重构建待验证融合模型。
也就是说,在本申请实施例中,在利用第一模型权重组合构建待验证融合模型,进行了降维处理,把N维空间上的计算降维到N-1维空间,即从N个模型权重的组合中进行选择,降维到从N-1个模型权重的组合中进行选择,从而提高获得第N个模型权重的效率。例如,N为100,99个模型权重的组合数量要远小于100个模型权重的组合的数量,从99个模型权重的组合中进行选择的迭代次数,要小于从100个模型权重的组合中进行选择的迭代次数。
具体地,在本申请实施例一种实现方式中,提供了一种选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果的实现方法,具体为:
1)选择一组第一模型权重组合。
本实施例中,针对获取的多组第一模型权重组合,选择一组第一模型权重组合进行下述处理。
2)根据第一模型权重组合包括的第1个至第N-1个模型权重之和,计算对应的第N个模型权重,将第1个至第N个模型权重组成第二模型权重组合。
即,由于构建的融合模型包括N个神经网络模型,N个神经网络模型对应的模型权重之和为1,而第一模型权重组合包括N-1个模型权重,则可以将1减去N-1个模型权重之和获得对应的第N个模型权重,即获得第N个神经网络模型的模型权重,以组成第二模型权重组合。也就是,在确定第二模型权重组合时,把确定N个模型权重降维到确定N-1个模型权重,然后利用N个模型权重之和为定值来确定第N个模型权重,从而减少计算量。
例如,所选择的一组第一模型权重组合为[0.1 0.3 0.4]时,确定的第4个模型权重为0.2;第一模型权重组合为[0.2 0.2 0.3]时,确定的第4个模型权重为0.3;第一模型权重组合为[0.2 0.4 0]时,确定的第4个模型权重为0.4。
3)利用第二模型权重组合生成待验证融合模型,利用验证数据集对待验证融合模型进行验证,得到待验证融合模型的验证结果。
当获得第二模型权重组合后,利用第二模型权重组合生成待验证融合模型,并利用验证数据集对验证融合模型进行验证,获得待验证融合模型的验证结果。即,为确保所构建的待验证融合模型满足使用条件,在利用第二模型权重组合生成待验证融合模型时,利用验证数据集验证该待验证融合模型,以获得该待验证融合模型对应的验证结果。
在实际应用时,针对每组第一模型权重组合均进行上述处理,以获得每个待验证融合模型对应的验证结果,直至达到停止条件。停止条件例如达到预设时间、遍历第一模型权重组合完成等,停止条件可以根据实际情况设置。
S103:根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合。
在获得每个待验证融合模型的验证结果后,根据验证结果获得m组满足预设条件的第二模型权重组合,其中,第二模型权重组合包括第1个至第N个模型权重。即,根据验证结果从所组成的多个第二模型权重组合中选择m组满足预设条件的第二模型权重组合。
具体地,从获取的所有验证结果中选择验证结果满足预设条件的m个待验证融合模型,得到m个待验证融合模型分别对应的第二模型权重组合,获得m组满足预设条件的第二模型权重组合。即,根据验证结果确定该验证结果是否满足预设条件,如果该验证结果满足预设条件,则将该验证结果对应的待验证融合模型作为m个待验证融合模型中的一个,依次循环,直至确定出m个待验证融合模型。
其中,选择验证结果满足预设条件的m个待验证融合模型,可以为对各个待验证融合模型的验证结果进行排序,选择排序在先的m个待验证融合模型。例如,共存在100个待验证融合模型,根据各个待验证融合模型对应的验证结果进行排序,得到前50个待验证融合模型分别对应的第二模型权重组合。
S104:根据m组满足预设条件的第二模型权重组合,确定一组目标模型权重。
S105:利用目标模型权重生成对应的目标融合模型。
在获取m组第二模型权重组合后,根据该m组第二模型权重组合确定出一组目标模型权重,然后利用该目标模型权重生成对应的目标融合模型。
可以理解的是,神经网络模型的模型权重不为0时,可以代表该神经网络模型会出现在最终的融合模型中。当某神经网络模型在确定的m组第二模型权重组合中出现的频率越高,表明该神经网络模型越重要,越可以适应各类数据,因此为了可以体现每组第二模型权重组合中每个模型权重对应的神经网络模型的重要性,在确定该神经网络模型对应的模型权重时,可以将其在m组出现的次数作为参考依据。
具体地,在m组满足预设条件的第二模型权重组合中,针对每组第二模型权重组合,将非零的模型权重对应的神经网络模型的出现次数增加一次,获得N个神经网络模型对应的出现次数;根据N个神经网络模型对应的出现次数,确定一组目标模型权重。也就是,统计每个神经网络模型在m组第二模型权重组合中出现的次数,以根据每个神经网络模型的出现次数确定该神经网络模型对应的模型权重,从而获得一组目标模型权重。
例如,共存在5组满足预设条件的第二模型权重组合,分别为[0.2 0.3 0.50]、[0.2 0.2 0.4 0.2]、[0.3 0 0.5 0.2]、[0.3 0.2 0 0.5]以及[0.5 0.2 0.3 0],其中,第一个神经网络模型出现的次数为5次,第二个神经网络模型出现的次数为4次,第三个神经网络模型出现的次数为4次,第四个神经网络模型出现的次数为3次,根据每个神经网络模型出现的次数确定其对应的模型权重。
即,在确定最终的目标模型权重时,是根据每个神经网络模型出现的次数确定的,从而保证出现次数较多的神经网络模型对应的模型权重也较大,进而使得生成的目标融合模型可以适用更多应用场景,提高目标融合模型的通用性。
具体地,在根据N个神经网络模型对应的出现次数,确定一组目标模型权重时,可以先对每个神经网络模型对应的出现次数进行归一化处理,然后再转换为该神经网络模型的模型权重,进而获得一组目标模型权重。具体为,将N个神经网络模型对应的出现次数进行归一化,转换为一组目标模型权重。也就是,将每个神经网络模型对应的出现次数除以N个神经网络模型对应的出现次数总和,以实现对该神经网络模型对应的出现次数进行归一化处理,进而获得该神经网络模型对应的模型权重,从而转换为一组目标模型权重。
例如,第一个神经网络模型出现的次数为5次,第二个神经网络模型出现的次数为4次,第三个神经网络模型出现的次数为4次,第四个神经网络模型出现的次数为3次,则第一个神经网络模型对应的权重为5/16(约为0.32)、第二个神经网络模型对应的权重为4/16(0.25)、第三个神经网络模型对应的权重为4/16(0.25)、第四个神经网络模型对应的权重为3/16(约为0.18),则目标模型权重为[0.32 0.25 0.25 0.18]。
通过上述实施例可知,首先构建初始融合模型,该初始融合模型包括N个神经网络模型,每个神经网络模型对应有模型权重。然后,从构建的融合模型中,选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,其中,第一模型权重组合包括第1个至第N-1个模型权重。再根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,其中,第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后,根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,再根据m组第二模型权重组合确定一组目标模型权重,利用该目标模型权重生成对应的目标融合模型。
在重复选择模型权重组合时,是在N-1个模型权重的组合中进行选择,而非从N个模型权重的组合中进行选择,当初始融合模型包括的神经网络模型数量较多时,N-1个模型权重的组合数量要远小于N个模型权重的组合数量,即在不断重复选择模型权重组合时迭代的次数会减少,从而减少计算量,提高确定第二模型权重组合的效率,进而提高生成目标融合模型的效率。另外,通过多组第二模型权重组合确定最终的目标模型权重建立目标融合模型,使建立的目标融合模型可以适应更多的应用场景,提高目标融合模型的通用性。
需要说明的是,本申请实施例通过降低搜索维度可以达到减小计算量的效果,但是达到该效果并未减少搜索模型权重过程中的搜索空间,即在降维前后,搜索模型权重对应的搜索空间是相同的。在N-1维空间搜索获取的模型权重可以通过下述公式一一映射到N维搜索空间对应的模型权重,从而可以说明在降维后并未减少搜索空间:
其中,Qi为N维空间第i个模型对应的模型权重,Ci为在N-1维空间中获得的第i个模型对应的模型权重,MAX(Ci)表示在N-1维空间中对应的最大模型权重。
为便于理解,参见图2a和图2b所示应用场景示例图,在该场景下,N=3,传统的模型权重搜索需要在三维搜索空间(图2a)进行搜索。而利用本申请提供的方法,只需在二维搜索空间(图2b)进行搜索。例如,在二维搜索空间搜索获得前两个模型权重分别为0.1、0.3,则第3个模型权重为0.6,则映射到三维搜索空间对应的模型权重为Q1=0.1*1/0.6=1/6、Q2=0.3*1/0.6=3/6、Q3=0.6/0.6=1。也就是说,二维搜索空间与三维搜索空间存在映射关系,在二维搜索空间进行模型权重的搜索,可以达到在搜索空间与三维搜索空间相同的情况下减少计算量的效果。
另外,本申请实施例还提供一种图像分类方法,基于上述实施例提供的选择融合模型权重参数的方法,可以将根据选择融合模型权重参数的方法获得的目标融合模型应用到图像分类中,参见图3,该图为本申请实施例提供的一种图像分类方法流程图,该方法可以包括:
S301:获取待分类图像。
S302:将待分类图像输入目标融合模型,得到目标融合模型输出的图像分类结果。
在本实施例中,首先获取待分类的图像,并将该待分类图像输入预先构建的目标融合模型中,以获得该待分类图像对应的图像分类结果。在具体实现时,目标融合模型不仅可以输出待分类图像对应的分类结果,还可以输出每种分类结果对应的概率值,从而便于用户直接了解待分类图像的分类情况。
在实际应用中,待分类图像可以为医学影像图像,则所使用的目标融合模型为可以对医学影像图像进行分类的模型,通过将医学影像图像(或其对应的特征图)输入目标融合模型可以获得该医学影像图像的具体分类结果。例如,可以识别所输入的医学影像图像为正样本医学影像图像,还是负样本医学影像图像。其中,正样本图像是指携带有某种特征或具有某种分类结果的医学影像图像;负样本医学影像图像是指未携带有某种特征或不具有某种分类结果的医学影像图像。
其中,目标融合模型的构建过程包括:
(1)构建初始融合模型,该初始融合模型包括N个神经网络模型。
本实施例中,每个神经网络模型是根据训练图像以及训练图像对应的标签训练得到的,每个神经网络模型可以采用不同的训练方式进行训练,N为正整数。即,将训练图像以及该训练图像对应的标签作为训练数据对初始模型进行训练获得用于进行图像分类的神经网络模型,以利用多个神经网络模型构建初始融合模型。
(2)选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,其中,第一模型权重组合包括第1个至第N-1个模型权重。
(3)根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,其中,第二模型权重组合包括第1个至第N个模型权重。
(4)根据m组满足预设条件的第二模型权重组合,确定一组目标模型权重,其中,目标模型权重包括第1个至第N个模型权重。
(5)利用目标模型权重生成对应的目标融合模型。
需要说明的是,本实施例中关于目标融合模型的具体生成过程可以参见图1所述方法的流程,本实施例在此不再赘述。
本申请实施例利用目标融合模型对待分类图像进行分类,由于该目标融合模型由多个神经网络模型融合生成,使得该目标融合模型输出的分类结果综合了多个神经网络模型的分类结果,进而提高分类结果准确性。
另外,本申请实施例还提供一种信息识别方法,基于上述实施例提供的选择融合模型权重参数的方法,可以将根据选择融合模型权重参数的方法获得的目标融合模型应用到信息识别中,参见图4,该图为本申请实施例提供的信息识别方法流程图,该方法可以包括:
S401:获取待识别信息。
S402:将待识别信息输入目标融合模型,得到目标融合模型输出的信息属性类别。
在本实施例中,首先获取待识别的信息,并将该待识别输入预先构建的目标融合模型中,以获得该待识别信息对应的信息属性类别。在具体实现时,目标融合模型不仅可以输出待识别信息对应的信息属性类别,还可以输出每种信息属性类别对应的概率值,从而便于用户直接了解待识别信息对应的分类情况。
在实际应用中,待识别信息可以为待识别文本信息,则所使用的目标融合模型为可以对待识别文本信息进行信息属性分类的模型,通过将待识别文本信息(或其对应的特性向量)输入目标融合模型可以获得该待识别文本信息的具体信息属性分类结果。例如,可以识别输入的待识别文本信息为可信任信息,还是欺诈信息。
其中,目标融合模型的构建过程包括:
(1)构建初始融合模型,该初始融合模型包括N个神经网络模型。
本实施例中,每个神经网络模型是根据训练信息以及训练信息对应的标签训练得到的,每个神经网络模型可以采用不同的训练方式进行训练,N为正整数。即,将训练信息以及该训练信息对应的标签(即实际属性分类)作为训练数据对初始模型进行训练获得用于进行信息识别的神经网络模型,以利用多个神经网络模型构建初始融合模型。
(2)选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,其中,第一模型权重组合包括第1个至第N-1个模型权重。
(3)根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,其中,第二模型权重组合包括第1个至第N个模型权重。
(4)根据m组满足预设条件的第二模型权重组合,确定一组目标模型权重,其中,目标模型权重包括第1个至第N个模型权重。
(5)利用目标模型权重生成对应的目标融合模型。
需要说明的是,本实施例中关于目标融合模型的具体生成过程可以参见图1所述的流程,本实施例在此不再赘述。
本申请实施例通过利用目标融合模型对待识别信息的属性分类进行识别,由于该目标融合模型由多个神经网络模型融合,可以综合多个神经网络模型的分类结果进行融合得到最终的分类结果,从而提高分类结果的准确性。
基于上述方法实施例,本申请实施例还提供了一种选择融合模型权重参数的装置、图像分类装置以及信息识别装置,下面将结合附图分别对装置进行说明。
参见图5,该图为本申请实施例提供的一种选择融合模型权重参数的装置结构图,如图5所示,该装置可以包括:
构建单元501,用于构建初始融合模型,所述初始融合模型包括N个神经网络模型,每个所述神经网络模型对应有模型权重,N为正整数;
第一获取单元502,用于选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,所述第一模型权重组合包括第1个至第N-1个模型权重;
第二获取单元503,用于根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,所述第二模型权重组合包括第1个至第N个模型权重;
确定单元504,用于根据所述m组满足预设条件的第二模型权重组合,确定一组目标模型权重,所述目标模型权重包括第1个至第N个模型权重;
生成单元505,用于利用所述目标模型权重生成对应的目标融合模型。
在一种可能的实现方式中,所述第一获取单元,包括:
选择子单元,用于选择一组第一模型权重组合;
计算子单元,用于根据所述第一模型权重组合包括的第1个至第N-1个模型权重之和,计算对应的第N个模型权重,将第1个至第N个模型权重组成第二模型权重组合;
验证子单元,用于利用所述第二模型权重组合生成待验证融合模型,利用验证数据集对所述待验证融合模型进行验证,得到所述待验证融合模型的验证结果;
重新执行所述选择子单元以及后续子单元,直到达到停止条件。
在一种可能的实现方式中,所述第二获取单元,具体用于选择所述验证结果满足预设条件的m个待验证融合模型,得到所述m个待验证融合模型分别对应的第二模型权重组合,获得m组满足预设条件的第二模型权重组合。
在一种可能的实现方式中,所述第二获取单元,具体用于对各个待验证融合模型的验证结果进行排序,选择排序在先的m个待验证融合模型。
在一种可能的实现方式中,所述确定单元,包括:
统计子单元,用于在m组满足预设条件的第二模型权重组合中,针对每组第二模型权重组合,将非零的模型权重对应的神经网络模型的出现次数增加一次,获得N个神经网络模型对应的出现次数;
确定子单元,用于根据N个神经网络模型对应的出现次数,确定一组目标模型权重。
在一种可能的实现方式中,所述确定子单元,具体用于将N个神经网络模型对应的出现次数进行归一化,转换为一组目标模型权重。
需要说明的是,本实施例中各个单元的具体实现可以参见图1所述方法实施例,本实施例在此不再赘述。
参见图6,该图为本申请实施例提供的一种图像分类装置结构图,如图6所示,该装置可以包括:
第一获取单元601,用于获取待分类图像。
第二获取单元602,用于将待分类图像输入目标融合模型,得到目标融合模型输出的图像分类结果。
其中,目标融合模型的构建过程包括:
(1)构建初始融合模型,该初始融合模型包括N个神经网络模型。
本实施例中,每个神经网络模型是根据训练图像以及训练图像对应的标签训练得到的,每个神经网络模型可以采用不同的训练方式进行训练,N为正整数。即,将训练图像以及该训练图像对应的标签作为训练数据对初始模型进行训练获得用于进行图像分类的神经网络模型,以利用多个神经网络模型构建初始融合模型。
(2)选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,其中,第一模型权重组合包括第1个至第N-1个模型权重。
(3)根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,其中,第二模型权重组合包括第1个至第N个模型权重。
(4)根据m组满足预设条件的第二模型权重组合,确定一组目标模型权重,其中,目标模型权重包括第1个至第N个模型权重。
(5)利用目标模型权重生成对应的目标融合模型。
需要说明的是,本实施例中关于目标融合模型的具体生成过程可以参见图1所述方法的流程,本实施例在此不再赘述。
参见图7,该图为本申请实施例提供的一种信息识别装置结构图,如图7所示,该装置可以包括:
第三获取单元701,用于获取待识别信息。
第四获取单元702,用于将待识别信息输入目标融合模型,得到目标融合模型输出的信息属性类别。
其中,目标融合模型的构建过程包括:
(1)构建初始融合模型,该初始融合模型包括N个神经网络模型。
本实施例中,每个神经网络模型是根据训练信息以及训练信息对应的标签训练得到的,每个神经网络模型可以采用不同的训练方式进行训练,N为正整数。即,将训练信息以及该训练信息对应的标签(即实际属性分类)作为训练数据对初始模型进行训练获得用于进行信息识别的神经网络模型,以利用多个神经网络模型构建初始融合模型。
(2)选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,其中,第一模型权重组合包括第1个至第N-1个模型权重。
(3)根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,其中,第二模型权重组合包括第1个至第N个模型权重。
(4)根据m组满足预设条件的第二模型权重组合,确定一组目标模型权重,其中,目标模型权重包括第1个至第N个模型权重。
(5)利用目标模型权重生成对应的目标融合模型。
需要说明的是,本实施例中关于目标融合模型的具体生成过程可以参见图1所述的流程,本实施例在此不再赘述。
另外,本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备执行所述的选择融合模型权重参数的方法、图像分类方法或者信息识别方法。
本申请提供了一种构建融合模型的设备,包括:存储器,处理器,及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现所述的选择融合模型权重参数的方法、图像分类方法或者信息识别方法。
通过上述实施例可知,在进行模型融合时,首先构建初始融合模型,该初始融合模型包括N个神经网络模型,每个神经网络模型对应有模型权重。然后,从构建的融合模型中,选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,其中,第一模型权重组合包括第1个至第N-1个模型权重。再根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,其中,第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后,根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,再根据m组第二模型权重组合确定一组目标模型权重,利用该目标模型权重生成对应的目标融合模型。
即,在重复选择模型权重组合时,是在N-1个模型权重的组合中进行选择,而非从N个模型权重的组合中进行选择,当初始融合模型包括的神经网络模型数量较多时,N-1个模型权重的组合数量要远小于N个模型权重的组合数量,即在不断重复选择模型权重组合时迭代的次数会减少,从而减少计算量,提高确定第二模型权重组合的效率,进而提高生成目标融合模型的效率。另外,通过多组第二模型权重组合确定最终的目标模型权重建立目标融合模型,使建立的目标融合模型可以适应更多的应用场景,提高目标融合模型的通用性。
需要说明的是,本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统或装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种选择融合模型权重参数的方法,其特征在于,所述方法包括:
构建初始融合模型,所述初始融合模型包括N个神经网络模型,每个所述神经网络模型对应有模型权重,N为正整数;
选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,所述第一模型权重组合包括第1个至第N-1个模型权重;
根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,所述第二模型权重组合包括第1个至第N个模型权重;
根据所述m组满足预设条件的第二模型权重组合,确定一组目标模型权重,所述目标模型权重包括第1个至第N个模型权重;
利用所述目标模型权重生成对应的目标融合模型。
2.根据权利要求1所述的方法,其特征在于,所述选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,包括:
选择一组第一模型权重组合;
根据所述第一模型权重组合包括的第1个至第N-1个模型权重之和,计算对应的第N个模型权重,将第1个至第N个模型权重组成第二模型权重组合;
利用所述第二模型权重组合生成待验证融合模型,利用验证数据集对所述待验证融合模型进行验证,得到所述待验证融合模型的验证结果;
重新执行所述选择一组第一模型权重组合以及后续步骤,直到达到停止条件。
3.根据权利要求1或2所述的方法,其特征在于,所述根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,包括:
选择所述验证结果满足预设条件的m个待验证融合模型,得到所述m个待验证融合模型分别对应的第二模型权重组合,获得m组满足预设条件的第二模型权重组合。
4.根据权利要求3所述的方法,其特征在于,所述选择所述验证结果满足预设条件的m个待验证融合模型,包括:
对各个待验证融合模型的验证结果进行排序,选择排序在先的m个待验证融合模型。
5.根据权利要求1所述的方法,其特征在于,所述根据所述m组满足预设条件的第二模型权重组合,确定一组目标模型权重,包括:
在m组满足预设条件的第二模型权重组合中,针对每组第二模型权重组合,将非零的模型权重对应的神经网络模型的出现次数增加一次,获得N个神经网络模型对应的出现次数;
根据N个神经网络模型对应的出现次数,确定一组目标模型权重。
6.根据权利要求5所述的方法,其特征在于,所述根据N个神经网络模型对应的出现次数,确定一组目标模型权重,包括:
将N个神经网络模型对应的出现次数进行归一化,转换为一组目标模型权重。
7.一种选择融合模型权重参数的装置,其特征在于,所述装置包括:
构建单元,用于构建初始融合模型,所述初始融合模型包括N个神经网络模型,每个所述神经网络模型对应有模型权重,N为正整数;
第一获取单元,用于选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,所述第一模型权重组合包括第1个至第N-1个模型权重;
第二获取单元,用于根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,所述第二模型权重组合包括第1个至第N个模型权重;
确定单元,用于根据所述m组满足预设条件的第二模型权重组合,确定一组目标模型权重,所述目标模型权重包括第1个至第N个模型权重;
生成单元,用于利用所述目标模型权重生成对应的目标融合模型。
8.根据权利要求7所述的装置,其特征在于,所述第一获取单元,包括:
选择子单元,用于选择一组第一模型权重组合;
计算子单元,用于根据所述第一模型权重组合包括的第1个至第N-1个模型权重之和,计算对应的第N个模型权重,将第1个至第N个模型权重组成第二模型权重组合;
验证子单元,用于利用所述第二模型权重组合生成待验证融合模型,利用验证数据集对所述待验证融合模型进行验证,得到所述待验证融合模型的验证结果;
重新执行所述选择子单元以及后续子单元,直到达到停止条件。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备执行权利要求1-6任一项所述的选择融合模型权重参数的方法。
10.一种选择融合模型权重参数的设备,其特征在于,包括:存储器,处理器,及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1-6任一项所述的选择融合模型权重参数的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911215119.XA CN111126617B (zh) | 2019-12-02 | 2019-12-02 | 一种选择融合模型权重参数的方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911215119.XA CN111126617B (zh) | 2019-12-02 | 2019-12-02 | 一种选择融合模型权重参数的方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111126617A true CN111126617A (zh) | 2020-05-08 |
CN111126617B CN111126617B (zh) | 2024-03-29 |
Family
ID=70497131
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911215119.XA Active CN111126617B (zh) | 2019-12-02 | 2019-12-02 | 一种选择融合模型权重参数的方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111126617B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112418279A (zh) * | 2020-11-05 | 2021-02-26 | 北京迈格威科技有限公司 | 图像融合方法、装置、电子设备及可读存储介质 |
WO2023078009A1 (zh) * | 2021-11-05 | 2023-05-11 | 华为云计算技术有限公司 | 一种模型权重获取方法以及相关系统 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103744978A (zh) * | 2014-01-14 | 2014-04-23 | 清华大学 | 一种基于网格搜索技术用于支持向量机的参数寻优方法 |
US20160275413A1 (en) * | 2015-03-20 | 2016-09-22 | Xingtian Shi | Model vector generation for machine learning algorithms |
US20160358070A1 (en) * | 2015-06-04 | 2016-12-08 | Samsung Electronics Co., Ltd. | Automatic tuning of artificial neural networks |
CN107527124A (zh) * | 2017-10-13 | 2017-12-29 | 众安信息技术服务有限公司 | 生成行业基本面组合预测模型的方法和装置 |
CN109146076A (zh) * | 2018-08-13 | 2019-01-04 | 东软集团股份有限公司 | 模型生成方法及装置、数据处理方法及装置 |
CN109376615A (zh) * | 2018-09-29 | 2019-02-22 | 苏州科达科技股份有限公司 | 用于提升深度学习网络预测性能的方法、装置及存储介质 |
WO2019056497A1 (zh) * | 2017-09-19 | 2019-03-28 | 平安科技(深圳)有限公司 | 驾驶模型训练方法、驾驶人识别方法、装置、设备及介质 |
KR101966557B1 (ko) * | 2017-12-08 | 2019-04-05 | 세종대학교산학협력단 | 빅데이터와 머신러닝을 이용한 수리부속수요 예측 시스템 및 방법 |
CN110084374A (zh) * | 2019-04-24 | 2019-08-02 | 第四范式(北京)技术有限公司 | 构建基于pu学习的模型的方法、装置及预测方法、装置 |
CN110097187A (zh) * | 2019-04-29 | 2019-08-06 | 河海大学 | 一种基于激活-熵权重剪枝的cnn模型压缩方法 |
CN110222762A (zh) * | 2019-06-04 | 2019-09-10 | 恒安嘉新(北京)科技股份公司 | 对象预测方法、装置、设备、及介质 |
CN110298506A (zh) * | 2019-06-27 | 2019-10-01 | 天津智慧城市研究院有限公司 | 一种城市建设水平预测系统 |
-
2019
- 2019-12-02 CN CN201911215119.XA patent/CN111126617B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103744978A (zh) * | 2014-01-14 | 2014-04-23 | 清华大学 | 一种基于网格搜索技术用于支持向量机的参数寻优方法 |
US20160275413A1 (en) * | 2015-03-20 | 2016-09-22 | Xingtian Shi | Model vector generation for machine learning algorithms |
US20160358070A1 (en) * | 2015-06-04 | 2016-12-08 | Samsung Electronics Co., Ltd. | Automatic tuning of artificial neural networks |
WO2019056497A1 (zh) * | 2017-09-19 | 2019-03-28 | 平安科技(深圳)有限公司 | 驾驶模型训练方法、驾驶人识别方法、装置、设备及介质 |
CN107527124A (zh) * | 2017-10-13 | 2017-12-29 | 众安信息技术服务有限公司 | 生成行业基本面组合预测模型的方法和装置 |
KR101966557B1 (ko) * | 2017-12-08 | 2019-04-05 | 세종대학교산학협력단 | 빅데이터와 머신러닝을 이용한 수리부속수요 예측 시스템 및 방법 |
CN109146076A (zh) * | 2018-08-13 | 2019-01-04 | 东软集团股份有限公司 | 模型生成方法及装置、数据处理方法及装置 |
CN109376615A (zh) * | 2018-09-29 | 2019-02-22 | 苏州科达科技股份有限公司 | 用于提升深度学习网络预测性能的方法、装置及存储介质 |
CN110084374A (zh) * | 2019-04-24 | 2019-08-02 | 第四范式(北京)技术有限公司 | 构建基于pu学习的模型的方法、装置及预测方法、装置 |
CN110097187A (zh) * | 2019-04-29 | 2019-08-06 | 河海大学 | 一种基于激活-熵权重剪枝的cnn模型压缩方法 |
CN110222762A (zh) * | 2019-06-04 | 2019-09-10 | 恒安嘉新(北京)科技股份公司 | 对象预测方法、装置、设备、及介质 |
CN110298506A (zh) * | 2019-06-27 | 2019-10-01 | 天津智慧城市研究院有限公司 | 一种城市建设水平预测系统 |
Non-Patent Citations (3)
Title |
---|
CSDN: "模型集成 | 14款常规机器学习 + 加权平均模型融合", pages 1 - 9, Retrieved from the Internet <URL:https://blog.csdn.net/sinat_26917383/article/details/80905004> * |
郭李娜等: "基于网格搜索和交叉验证支持向量机的地表土壤容重预测", 《土壤通报》, no. 03, 6 June 2018 (2018-06-06), pages 14 - 20 * |
郭李娜等: "基于网格搜索和交叉验证支持向量机的地表土壤容重预测", 《土壤通报》, no. 3, pages 14 - 20 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112418279A (zh) * | 2020-11-05 | 2021-02-26 | 北京迈格威科技有限公司 | 图像融合方法、装置、电子设备及可读存储介质 |
WO2023078009A1 (zh) * | 2021-11-05 | 2023-05-11 | 华为云计算技术有限公司 | 一种模型权重获取方法以及相关系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111126617B (zh) | 2024-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Mancini et al. | Best sources forward: domain generalization through source-specific nets | |
CN110633745B (zh) | 一种基于人工智能的图像分类训练方法、装置及存储介质 | |
Domhan et al. | Speeding up automatic hyperparameter optimization of deep neural networks by extrapolation of learning curves | |
CN108846077B (zh) | 问答文本的语义匹配方法、装置、介质及电子设备 | |
US10013636B2 (en) | Image object category recognition method and device | |
CN108446741B (zh) | 机器学习超参数重要性评估方法、系统及存储介质 | |
WO2019015246A1 (zh) | 图像特征获取 | |
CN111444344B (zh) | 实体分类方法、装置、计算机设备和存储介质 | |
CN111127364B (zh) | 图像数据增强策略选择方法及人脸识别图像数据增强方法 | |
CN111382868A (zh) | 神经网络结构搜索方法和神经网络结构搜索装置 | |
CN113220886A (zh) | 文本分类方法、文本分类模型训练方法及相关设备 | |
CN111931505A (zh) | 一种基于子图嵌入的跨语言实体对齐方法 | |
Mensink et al. | Tree-structured CRF models for interactive image labeling | |
WO2015146113A1 (ja) | 識別辞書学習システム、識別辞書学習方法および記録媒体 | |
CN111310821A (zh) | 多视图特征融合方法、系统、计算机设备及存储介质 | |
CN111126617A (zh) | 一种选择融合模型权重参数的方法、装置及设备 | |
CN110197213B (zh) | 基于神经网络的图像匹配方法、装置和设备 | |
CN115859302A (zh) | 源代码漏洞检测方法、装置、设备及存储介质 | |
CN114511083A (zh) | 一种模型的训练方法、装置、存储介质及电子装置 | |
CN113553975B (zh) | 基于样本对关系蒸馏的行人重识别方法、系统、设备及介质 | |
CN108830302B (zh) | 一种图像分类方法、训练方法、分类预测方法及相关装置 | |
CN108875445B (zh) | 一种行人再识别方法及装置 | |
CN111782805A (zh) | 一种文本标签分类方法及系统 | |
CN114565791A (zh) | 一种人物档案识别方法、装置、设备及介质 | |
CN111984812A (zh) | 一种特征提取模型生成方法、图像检索方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |