CN112528123A - 模型搜索方法、装置、电子设备、存储介质和程序产品 - Google Patents
模型搜索方法、装置、电子设备、存储介质和程序产品 Download PDFInfo
- Publication number
- CN112528123A CN112528123A CN202011509331.XA CN202011509331A CN112528123A CN 112528123 A CN112528123 A CN 112528123A CN 202011509331 A CN202011509331 A CN 202011509331A CN 112528123 A CN112528123 A CN 112528123A
- Authority
- CN
- China
- Prior art keywords
- search space
- sub
- model
- initial
- probability distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000005070 sampling Methods 0.000 claims abstract description 30
- 238000004590 computer program Methods 0.000 claims description 11
- 238000007476 Maximum Likelihood Methods 0.000 claims description 10
- 238000010276 construction Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 2
- 238000013135 deep learning Methods 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开公开了一种模型搜索方法、装置、电子设备、存储介质和程序产品，涉及计算机视觉和深度学习技术领域。具体实现方案为：确定初始搜索空间的目标概率分布模型，所述目标概率分布模型用于确定所述初始搜索空间中的模型结构的性能信息；在所述初始搜索空间中采样n个第一子搜索空间；基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，其中，所述第一目标子搜索空间为所述n个第一子搜索空间中性能最优的第一子搜索空间，所述n为大于1的整数；从所述第一目标子搜索空间中搜索目标模型结构。本公开可以提高模型搜索的效率。
Description
技术领域
本公开涉及计算机技术领域，尤其涉及计算机视觉和深度学习技术等人工智能领域。
背景技术
深度学习技术在很多方面上都取得了巨大的成功，近年来神经网络架构搜索(Neural Architecture Searcha，NAS)技术成为了研究热点。NAS是用算法代替繁琐的人工操作，在海量的搜索空间中自动搜索出最佳的神经网络架构。进行神经网络的架构搜索的步骤包括：首先，搜索空间定义、确定搜索空间。然后，根据所采用的优化算法按照预设的搜索策略，搜索得到模型结构。
由于搜索空间中不同操作层中有若干个操作选项，通过将不同操作层的操作选项进行组合，可以确定搜索空间中的不同模型结构，因此，现有的搜索方法主要是按照预设的规则对不同操作层的操作选项进行组合，以采集到不同的模型结构，并基于模型结构在特定任务上的性能，对其进行校验，然后从中选择性能最优的模型结构作为搜索结果进行输出。
发明内容
本公开提供了一种模型搜索方法、装置、电子设备、存储介质和程序产品。
根据本公开的一方面，提供了一种模型搜索方法，包括：
确定初始搜索空间的目标概率分布模型，所述目标概率分布模型用于确定所述初始搜索空间中的模型结构的性能信息；
在所述初始搜索空间中采样n个第一子搜索空间；
基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，其中，所述第一目标子搜索空间为所述n个第一子搜索空间中性能最优的第一子搜索空间，所述n为大于1的整数；
从所述第一目标子搜索空间中搜索目标模型结构。
根据本公开的另一方面，提供了一种模型搜索装置，包括：
第一确定模块，用于确定初始搜索空间的目标概率分布模型，所述目标概率分布模型用于确定所述初始搜索空间中的模型结构的性能信息；
采样模块，用于在所述初始搜索空间中采样n个第一子搜索空间；
第二确定模块，用于基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，其中，所述第一目标子搜索空间为所述n个第一子搜索空间中性能最优的第一子搜索空间，所述n为大于1的整数；
搜索模块，用于从所述第一目标子搜索空间中搜索目标模型结构。
根据本公开的另一方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开提供的模型搜索方法。
根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本公开提供的模型搜索方法。
根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本公开提供的模型搜索方法。
根据本公开的技术方案，通过基于目标概率分布模型，在初始搜索空间中确定第一目标子搜索空间，然后，从第一目标子搜索空间中搜索目标模型结构，这样，可以提高模型搜索的效率。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是本公开提供的一种模型搜索方法的流程图；
图2是本公开提供的一种模型搜索装置的结构图之一；
图3是本公开提供的一种模型搜索装置的结构图之二；
图4是本公开提供的一种电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
请参见图1，图1是本公开提供的一种模型搜索方法，包括：
步骤S101、确定初始搜索空间的目标概率分布模型，所述目标概率分布模型用于确定所述初始搜索空间中的模型结构的性能信息。
现有技术中，由于受限于硬件设备的计算性能，只能从一个较小的搜索空间中搜索模型结构，这样，即便能够从所确定的搜索空间中搜索到最优的模型结构，然而，由于搜索范围的限制，所搜索出的最优的模型结构并不一定能够具有较好的性能。
而本实施例中，由于是先从初始搜索空间中确定第一目标子搜索空间，然后，在第一目标子搜索空间中搜索目标模型结构，即先对搜索空间进行搜索，然后，从所搜索到的搜索空间中搜索模型结构。这样，可以将初始搜索空间确定为一个较大的搜索空间，如所述初始搜索空间可以是由现有的若干个搜索空间进行组合形成的全量搜索空间。具体而言，所述初始搜索空间可以包括现有的所有人工结构、操作选项及其组合，例如，可以包括light-weight nolocal block、ghostnet block、moblienet inverse residual block、resnetresidual block、SE block等。这样，可以提高最终搜索到的目标模型结构的性能。
由于上述初始搜索空间为一个相当大的搜索空间，因此，基于所述初始搜索空间中的全量模型结构的性能信息，以确定所述初始搜索空间的准确的概率分布模型需要耗费大量的人力和物力。基于此，本实施例中，所述目标概率分布模型可以是基于所述初始搜索空间中的部分模型结构的性能信息所确定的概率分布模型，基于该目标概率分布模型可以预测所述初始搜索空间中每个模型结构的性能信息。由于所述目标概率分布模型仅依据初始搜索空间中的部分模型结构的性能确定，因此，所述目标概率分布模型在对模型结构的性能信息进行预测时，可能存在一定的误差。
步骤S102、在所述初始搜索空间中采样n个第一子搜索空间。
上述第一子搜索空间可以是由初始搜索空间中的部分模型结构共同形成的子搜索空间。采样第一子搜索空间的具体过程可以是：随机在初始搜索空间中采样预设个数的模型结构，并将所采样到的所述预设个数的模型结构作为所述第一子搜索空间。如此，重复执行n次上述采样步骤，即可完成在所述初始搜索空间中采样到所述n个第一子搜索空间。
步骤S103、基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，其中，所述第一目标子搜索空间为所述n个第一子搜索空间中性能最优的第一子搜索空间，所述n为大于1的整数。
具体地，由于上述目标概率分布模型可以预测所述初始搜索空间中的模型结构的性能，而上述第一子搜索空间中的模型结构是从所述初始搜索空间中采样得到。因此，可以基于所述目标概率分布模型对每个第一子搜索空间中的模型结构的性能进行预测，并基于第一子搜索空间中的模型结构的性能，以确定第一子搜索空间的性能。这样，通过上述方法分别确定所述n个第一子搜索空间的性能，即可确定n个第一子搜索空间之间的性能的相对大小，从而从所述n个第一子搜索空间中确定所述第一目标子搜索空间。
步骤S104、从所述第一目标子搜索空间中搜索目标模型结构。
在确定第一目标子搜索空间之后，可以按照常规的方法从所述第一目标子搜索空间中搜索所述目标模型结构，当然，也可以采用下文所述的方法搜索所述目标模型结构。
应当说明的是，上述实施例提供的方法在应用于对图像处理方面时，可以提高图像处理的速度，同时，由于任务搜索效率的提高，可以降低设备成本。
该实施方式中，通过基于初始搜索空间中的部分模型结构的性能确定目标概率分布模型，然后，基于模型概率分布模型在初始搜索空间中确定性能较优的第一目标子搜索空间，并从第一目标子搜索空间中搜索目标模型结构，这样，可以在搜索到性能较好的模型结构的基础上，提高模型搜索的效率。
可选地，所述确定初始搜索空间的目标概率分布模型，包括：
基于初始搜索空间中的k个模型结构的性能信息，确定所述初始搜索空间的初始概率分布模型，所述k为大于1的整数；
对所述初始概率分布模型的超参数进行迭代更新，得到所述超参数的预测值；
基于所述超参数的预测值，确定所述目标概率分布模型。
具体地，可以预先构建初始搜索空间所对应的概率分布模型，并对所构建的概率分布模型进行初始化，然后，从所述初始搜索空间中采样k个模型结构，并将所述k个模型结构分别训练至收敛，然后，可以基于测试数据对训练之后的k个模型结构的性能进行测试，从而得到k个模型结构的性能信息，其中，所述测试数据可以与所述模型结构的用途相对应，例如，当训练之后的模型结构为用于执行分类任务的模型结构时，所述测试数据可以是待分类的数据，这样，基于训练之后的模型结构在执行所述分类任务时输出结果的精确性，确定训练之后的模型结构的性能信息。然后，可以基于所述k个模型结构的性能信息，利用现有的预测方法预测所述概率分布模型的超参数的初始值，进而得到所述初始概率分布模型。
由于上述初始概率分布模型的超参数的初始值可能与超参数的真实值之间存在较大的差距，为此，可以进一步从初始搜索空间中采样模型结构，以对所述超参数进行迭代更新，使得所述超参数的预测值逐渐接近超参数的真实值。
该实施方式中，通过对所述初始概率分布模型的超参数进行迭代更新，以得到目标概率分布模型，以便于后续基于所得到的目标概率分布模型确定目标模型结构。
可选地，所述迭代更新中的第i次更新为：依据第i次获取到的第二目标子搜索空间中的模型结构的性能信息，对所述初始概率分布模型的超参数进行更新，在所述i等于1的情况下，所述第i次获取到的第二目标子搜索空间为：基于所述初始概率分布模型，在第i次从所述初始搜索空间采样的多个第二子搜索空间中，确定的性能最优的第二子搜索空间；在所述i不等于1的情况下，所述第i次获取到的第二目标子搜索空间为：基于第i-1次对所述超参数进行更新得到的概率分布模型，在第i次从所述初始搜索空间采样的多个第二子搜索空间中，确定的性能最优的第二子搜索空间。
具体地，可以设置一个迭代更新的截止条件，例如，迭代次数超过预设次数时，停止对超参数进行更新，并将最后一次对超参数进行更新得到的超参数作为所述目标概率分布模型的超参数的预测值。
上述第一次对所述初始概率分布模型的超参数进行更新的过程可以是：从所述初始搜索空间中随机采样多个第二子搜索空间，其中，第二子搜索空间的采样过程与上述实施例中第一子搜索空间的采样过程类型，为避免重复，此处，不再予以赘述。
在采样到所述多个第二子搜索空间的情况下，可以基于所述初始概率分布模型分别预测各个第二子搜索空间中的模型结构的性能信息，然后，可以基于各个第二子搜索空间中的模型结构的性能信息确定对应第二子搜索空间的性能信息，从而可以从所述多个第二子搜索空间中确定第二目标子搜索空间。由于所述第二目标子搜索空间为为所述目标概率分布模型预测的所述初始搜索空间中性能较优的子搜索空间，即所述第二目标子搜索空间中的模型结构为所述初始搜索空间中性能较优的模型结构，因此，可以基于所述第二目标子搜索空间中的模型结构进一步对所述超参数进行更新，以使所述超参数更为接近真实值。从而完成第一次对所述初始概率分布模型的超参数的更新过程。
后续在对所述超参数进行迭代更新过程中，可以每次均在初始搜索空间中采样多个第二子搜索空间，然后，基于上一次更新得到的超参数确定的概率分布模型对本次采样的多个自第二子搜索空间的性能进行预测，从而确定第二目标子搜索空间，以便于基于本次确定的第二目标子搜索空间对超参数进行进一步迭代更新。
该实施方式中，通过对超参数进行迭代更新，这样，可以确保所得到的超参数的预测值更为接近超参数的真实值，即进一步确保所述目标概率分布模型对初始搜索空间的模型结构的性能进行预测的准确性。
可选地，所述依据第i次获取到的第二目标子搜索空间中的模型结构的性能信息，对所述初始概率分布模型的超参数进行更新，包括：
从所述第i次获取到的第二目标子搜索空间中采样m个模型结构，所述为大于1的整数；
确定所述m个模型结构的性能信息；
基于所述m个模型结构的性能信息，按照最大似然估计的方法对所述初始概率分布模型的超参数进行估计，得到所述超参数的更新值。
具体地，在基于第i次获取到的第二目标子搜索空间中的模型结构的性能信息，对所述初始概率分布模型的超参数进行更新的过程中，由于所述第i次获取到的第二目标子搜索空间为所述初始搜索空间中性能较优的子搜索空间，因此，可以从所述第i次获取到的第二目标子搜索空间采样m个模型结构，并分别将所述m个模型结构训练至收敛，然后，可以基于测试数据对m个收敛的模型结构的性能进行测试，从而确定所述m个模型结构的性能信息，基于所述m个模型结构的性能信息，按照最大似然估计的方法对所述初始概率分布模型的超参数进行估计，得到所述超参数的更新值。从而完成对超参数的第i次更新过程。
该实施方式中，通过从所搜索到的第二目标子搜索空间中采样模型结构，并基于所采样的模型结构的性能信息进行最大似然估计，以实现对超参数的更新过程，以便于使所述超参数更为接近真实值。
可选地，所述基于初始搜索空间中的k个模型结构的性能信息，确定所述初始搜索空间的初始概率分布模型，包括：
构建所述初始搜索空间的概率分布模型；
从所述初始搜索空间中采样k个模型结构；
确定所述k个模型结构的性能信息；
基于所述k个模型结构的性能信息，按照最大似然估计的方法对所述概率分布模型的超参数进行预测，得到所述超参数的初始值，以及得到所述初始概率分布模型。
该实施方式中，在构建所述概率分布模型之后，可以从所述初始搜索空间中采样少量模型结构，即采样所述k个模型结构，以初步估计所述概率部分模型的超参数的初始值，以便于后续在该初始值的基础上，对超参数进行迭代更新。
可选地，所述基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，包括：
分别在每个所述第一子搜索空间中采样s个模型结构，所述s为大于1的整数；
确定所述n个第一子搜索空间的性能信息，其中，每个第一子搜索空间的性能信息为其对应的s个模型结构的性能信息的平均值；
将所述n个第一子搜索空间中，性能最优的第一子搜索空间确定为所述第一目标子搜索空间。
具体地，在确定某个第一子搜索空间的性能信息时，可以从该第一子搜索空间中随机采样s个模型结构，并分别对所述s个模型结构进行训练，以分别确定所述s个模型结构的性能信息，然后，可以对所述s个模型结构的性能信息求取平均值，并将该平均值作为该第一子搜索空间的性能信息。这样，即可确定所述n个第一子搜索空间中每个第一子搜索空间的性能信息，通过对比，即可确定所述第一目标子搜索空间。
可选地，所述从所述第一目标子搜索空间中搜索目标模型结构包括：
从所述第一目标子搜索空间中采样t个模型结构，其中，所述t大于第一预设值；
基于所述目标概率分布模型预测所述t个模型结构的性能信息；
将所述t个模型结构中，性能最优的模型结构确定为所述目标模型结构。
其中，上述第一预设值可以是一个较大的数值，例如，可以是100或1000等。
该实施方式中，通过从所述第一目标子搜索空间中采样大量模型结构，并基于目标概率分布模型分别对所采样的模型结构的性能进行预测，然后，将所采样的模型结构中，性能最优的模型结构确定为所述目标模型结构。这样，可以将所述第一目标子搜索空间中性能较好的模型结构作为目标模型结构进行输出，从而可以进一步提高模型搜索的效果。
请参见图2，图2是本公开实施例提供的一种模型搜索装置200，所述模型搜索装置包括：
第一确定模块201，用于确定初始搜索空间的目标概率分布模型，所述目标概率分布模型用于确定所述初始搜索空间中的模型结构的性能信息；
采样模块202，用于在所述初始搜索空间中采样n个第一子搜索空间；
第二确定模块203，用于基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，其中，所述第一目标子搜索空间为所述n个第一子搜索空间中性能最优的第一子搜索空间，所述n为大于1的整数；
搜索模块204，用于从所述第一目标子搜索空间中搜索目标模型结构。
可选地，请参见图3，所述第一确定模块201，包括：
第一确定单元2011，用于基于初始搜索空间中的k个模型结构的性能信息，确定所述初始搜索空间的初始概率分布模型，所述k为大于1的整数；
更新单元2012，用于对所述初始概率分布模型的超参数进行迭代更新，得到所述超参数的预测值；
所述第一确定单元201，还用于基于所述超参数的预测值，确定所述目标概率分布模型。
可选地，所述迭代更新中的第i次更新为：依据第i次获取到的第二目标子搜索空间中的模型结构的性能信息，对所述初始概率分布模型的超参数进行更新，在所述i等于1的情况下，所述第i次获取到的第二目标子搜索空间为：基于所述初始概率分布模型，在第i次从所述初始搜索空间采样的多个第二子搜索空间中，确定的性能最优的第二子搜索空间；在所述i不等于1的情况下，所述第i次获取到的第二目标子搜索空间为：基于第i-1次对所述超参数进行更新得到的概率分布模型，在第i次从所述初始搜索空间采样的多个第二子搜索空间中，确定的性能最优的第二子搜索空间。
可选地，所述采样模块202，还用于从所述第i次获取到的第二目标子搜索空间中采样m个模型结构，所述m为大于1的整数；
所述第一确定模块201，还用于确定所述m个模型结构的性能信息；
所述更新单元2012，具体用于基于所述m个模型结构的性能信息，按照最大似然估计的方法对所述初始概率分布模型的超参数进行估计，得到所述超参数的更新值。
可选地，请参见图3，所述装置还包括：
构建模块205，用于构建所述初始搜索空间的概率分布模型；
所述采样模块202，还用于从所述初始搜索空间中采样k个模型结构；
所述第一确定模块201，还用于确定所述k个模型结构的性能信息；
所述第一确定单元2011，具体用于基于所述k个模型结构的性能信息，按照最大似然估计的方法对所述概率分布模型的超参数进行预测，得到所述超参数的初始值，以及得到所述初始概率分布模型。
可选地，所述采样模块202，还用于分别在每个所述第一子搜索空间中采样s个模型结构，所述s为大于1的整数；
所述第一确定模块201，还用于确定所述n个第一子搜索空间的性能信息，其中，每个第一子搜索空间的性能信息为其对应的s个模型结构的性能信息的平均值；
所述第二确定模块203，具体用于将所述n个第一子搜索空间中，性能最优的第一子搜索空间确定为所述第一目标子搜索空间。
本实施例提供的装置能够实现图1所示的方法实施例中实现的各个过程，且可以达到相同有益效果，为避免重复，这里不再赘述。
本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图4示出了可以用来实施本公开的实施例的示例电子设备400的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图4所示，设备400包括计算单元401，其可以根据存储在只读存储器(ROM)402中的计算机程序或者从存储单元408加载到随机访问存储器(RAM)403中的计算机程序，来执行各种适当的动作和处理。在RAM403中，还可存储设备400操作所需的各种程序和数据。计算单元401、ROM402以及RAM403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
设备400中的多个部件连接至I/O接口405，包括：输入单元406，例如键盘、鼠标等；输出单元407，例如各种类型的显示器、扬声器等；存储单元408，例如磁盘、光盘等；以及通信单元409，例如网卡、调制解调器、无线通信收发机等。通信单元409允许设备400通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元401可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元401的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元401执行上文所描述的各个方法和处理，例如模型搜索方法。例如，在一些实施例中，模型搜索方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元408。在一些实施例中，计算机程序的部分或者全部可以经由ROM402和/或通信单元409而被载入和/或安装到设备400上。当计算机程序加载到RAM403并由计算单元401执行时，可以执行上文描述的模型搜索方法的一个或多个步骤。备选地，在其他实施例中，计算单元401可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行模型搜索方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本公开的技术方案，通过基于目标概率分布模型，在初始搜索空间中确定第一目标子搜索空间，然后，从第一目标子搜索空间中搜索目标模型结构，这样，可以提高模型搜索的效率。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
Claims (15)
1.一种模型搜索方法，包括：
确定初始搜索空间的目标概率分布模型，所述目标概率分布模型用于确定所述初始搜索空间中的模型结构的性能信息；
在所述初始搜索空间中采样n个第一子搜索空间；
基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，其中，所述第一目标子搜索空间为所述n个第一子搜索空间中性能最优的第一子搜索空间，所述n为大于1的整数；
从所述第一目标子搜索空间中搜索目标模型结构。
2.根据权利要求1所述的方法，其中，所述确定初始搜索空间的目标概率分布模型，包括：
基于初始搜索空间中的k个模型结构的性能信息，确定所述初始搜索空间的初始概率分布模型，所述k为大于1的整数；
对所述初始概率分布模型的超参数进行迭代更新，得到所述超参数的预测值；
基于所述超参数的预测值，确定所述目标概率分布模型。
3.根据权利要求2所述的方法，其中，所述迭代更新中的第i次更新为：依据第i次获取到的第二目标子搜索空间中的模型结构的性能信息，对所述初始概率分布模型的超参数进行更新，在所述i等于1的情况下，所述第i次获取到的第二目标子搜索空间为：基于所述初始概率分布模型，在第i次从所述初始搜索空间采样的多个第二子搜索空间中，确定的性能最优的第二子搜索空间；在所述i不等于1的情况下，所述第i次获取到的第二目标子搜索空间为：基于第i-1次对所述超参数进行更新得到的概率分布模型，在第i次从所述初始搜索空间采样的多个第二子搜索空间中，确定的性能最优的第二子搜索空间。
4.根据权利要求3所述的方法，其中，所述依据第i次获取到的第二目标子搜索空间中的模型结构的性能信息，对所述初始概率分布模型的超参数进行更新，包括：
从所述第i次获取到的第二目标子搜索空间中采样m个模型结构，所述m为大于1的整数；
确定所述m个模型结构的性能信息；
基于所述m个模型结构的性能信息，按照最大似然估计的方法对所述初始概率分布模型的超参数进行估计，得到所述超参数的更新值。
5.根据权利要求2所述的方法，其中，所述基于初始搜索空间中的k个模型结构的性能信息，确定所述初始搜索空间的初始概率分布模型，包括：
构建所述初始搜索空间的概率分布模型；
从所述初始搜索空间中采样k个模型结构；
确定所述k个模型结构的性能信息；
基于所述k个模型结构的性能信息，按照最大似然估计的方法对所述概率分布模型的超参数进行预测，得到所述超参数的初始值，以及得到所述初始概率分布模型。
6.根据权利要求1所述的方法，其中，所述基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，包括：
分别在每个所述第一子搜索空间中采样s个模型结构，所述s为大于1的整数；
确定所述n个第一子搜索空间的性能信息，其中，每个第一子搜索空间的性能信息为其对应的s个模型结构的性能信息的平均值；
将所述n个第一子搜索空间中，性能最优的第一子搜索空间确定为所述第一目标子搜索空间。
7.一种模型搜索装置，包括：
第一确定模块，用于确定初始搜索空间的目标概率分布模型，所述目标概率分布模型用于确定所述初始搜索空间中的模型结构的性能信息；
采样模块，用于在所述初始搜索空间中采样n个第一子搜索空间；
第二确定模块，用于基于所述目标概率分布模型，在所述n个第一子搜索空间中确定第一目标子搜索空间，其中，所述第一目标子搜索空间为所述n个第一子搜索空间中性能最优的第一子搜索空间，所述n为大于1的整数；
搜索模块，用于从所述第一目标子搜索空间中搜索目标模型结构。
8.根据权利要求7所述的装置，其中，所述第一确定模块，包括：
第一确定单元，用于基于初始搜索空间中的k个模型结构的性能信息，确定所述初始搜索空间的初始概率分布模型，所述k为大于1的整数；
更新单元，用于对所述初始概率分布模型的超参数进行迭代更新，得到所述超参数的预测值；
所述第一确定单元，还用于基于所述超参数的预测值，确定所述目标概率分布模型。
9.根据权利要求8所述的装置，其中，所述迭代更新中的第i次更新为：依据第i次获取到的第二目标子搜索空间中的模型结构的性能信息，对所述初始概率分布模型的超参数进行更新，在所述i等于1的情况下，所述第i次获取到的第二目标子搜索空间为：基于所述初始概率分布模型，在第i次从所述初始搜索空间采样的多个第二子搜索空间中，确定的性能最优的第二子搜索空间；在所述i不等于1的情况下，所述第i次获取到的第二目标子搜索空间为：基于第i-1次对所述超参数进行更新得到的概率分布模型，在第i次从所述初始搜索空间采样的多个第二子搜索空间中，确定的性能最优的第二子搜索空间。
10.根据权利要求9所述的装置，其中，
所述采样模块，还用于从所述第i次获取到的第二目标子搜索空间中采样m个模型结构，所述m为大于1的整数；
所述第一确定模块，还用于确定所述m个模型结构的性能信息；
所述更新单元，具体用于基于所述m个模型结构的性能信息，按照最大似然估计的方法对所述初始概率分布模型的超参数进行估计，得到所述超参数的更新值。
11.根据权利要求8所述的装置，其中，所述装置还包括：
构建模块，用于构建所述初始搜索空间的概率分布模型；
所述采样模块，还用于从所述初始搜索空间中采样k个模型结构；
所述第一确定模块，还用于确定所述k个模型结构的性能信息；
所述第一确定单元，具体用于基于所述k个模型结构的性能信息，按照最大似然估计的方法对所述概率分布模型的超参数进行预测，得到所述超参数的初始值，以及得到所述初始概率分布模型。
12.根据权利要求7所述的装置，其中，
所述采样模块，还用于分别在每个所述第一子搜索空间中采样s个模型结构，所述s为大于1的整数；
所述第一确定模块，还用于确定所述n个第一子搜索空间的性能信息，其中，每个第一子搜索空间的性能信息为其对应的s个模型结构的性能信息的平均值；
所述第二确定模块，具体用于将所述n个第一子搜索空间中，性能最优的第一子搜索空间确定为所述第一目标子搜索空间。
13.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1至6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1至6中任一项所述的方法。
15.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现权利要求1至6任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011509331.XA CN112528123A (zh) | 2020-12-18 | 2020-12-18 | 模型搜索方法、装置、电子设备、存储介质和程序产品 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011509331.XA CN112528123A (zh) | 2020-12-18 | 2020-12-18 | 模型搜索方法、装置、电子设备、存储介质和程序产品 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112528123A true CN112528123A (zh) | 2021-03-19 |
Family
ID=75001560
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011509331.XA Pending CN112528123A (zh) | 2020-12-18 | 2020-12-18 | 模型搜索方法、装置、电子设备、存储介质和程序产品 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112528123A (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109857804A (zh) * | 2018-12-26 | 2019-06-07 | 同盾控股有限公司 | 一种分布式模型参数的搜索方法、装置和电子设备 |
| CN110633797A (zh) * | 2019-09-11 | 2019-12-31 | 北京百度网讯科技有限公司 | 网络模型结构的搜索方法、装置以及电子设备 |
| DE202019106182U1 (de) * | 2018-11-06 | 2020-02-26 | Google Llc | Neuronenarchitektursuche mit faktorisiertem hierarchischem Suchraum |
| WO2020082663A1 (zh) * | 2018-10-26 | 2020-04-30 | 北京图森未来科技有限公司 | 一种深度神经网络的结构搜索方法及装置 |
| CN111401517A (zh) * | 2020-02-21 | 2020-07-10 | 华为技术有限公司 | 一种感知网络结构搜索方法及其装置 |
| CN111680599A (zh) * | 2020-05-29 | 2020-09-18 | 北京百度网讯科技有限公司 | 人脸识别模型处理方法、装置、设备和存储介质 |
-
2020
- 2020-12-18 CN CN202011509331.XA patent/CN112528123A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020082663A1 (zh) * | 2018-10-26 | 2020-04-30 | 北京图森未来科技有限公司 | 一种深度神经网络的结构搜索方法及装置 |
| DE202019106182U1 (de) * | 2018-11-06 | 2020-02-26 | Google Llc | Neuronenarchitektursuche mit faktorisiertem hierarchischem Suchraum |
| CN109857804A (zh) * | 2018-12-26 | 2019-06-07 | 同盾控股有限公司 | 一种分布式模型参数的搜索方法、装置和电子设备 |
| CN110633797A (zh) * | 2019-09-11 | 2019-12-31 | 北京百度网讯科技有限公司 | 网络模型结构的搜索方法、装置以及电子设备 |
| CN111401517A (zh) * | 2020-02-21 | 2020-07-10 | 华为技术有限公司 | 一种感知网络结构搜索方法及其装置 |
| CN111680599A (zh) * | 2020-05-29 | 2020-09-18 | 北京百度网讯科技有限公司 | 人脸识别模型处理方法、装置、设备和存储介质 |
Non-Patent Citations (3)
| Title |
|---|
| XU, ZX 等: "Probability collectives hybridised with differential evolution for global optimisation", INTERNATIONAL JOURNAL OF BIO-INSPIRED COMPUTATION, 31 December 2016 (2016-12-31) * |
| 茅晓泉, 胡光锐, 唐斌: "一种DHMM的混合训练方法", 电子学报, no. 01, 25 January 2002 (2002-01-25) * |
| 齐红;刘大有;胡成全;卢明;赵亮;: "基于搜索空间划分的概念生成算法", 软件学报, no. 12, 23 December 2005 (2005-12-23) * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112784961A (zh) | 超网络的训练方法、装置、电子设备和存储介质 | |
| CN112966744A (zh) | 模型训练方法、图像处理方法、装置和电子设备 | |
| CN114861039B (zh) | 一种搜索引擎的参数配置方法、装置、设备及存储介质 | |
| CN115631381A (zh) | 分类模型训练方法、图像分类方法、装置及电子设备 | |
| CN114239853A (zh) | 模型训练方法、装置、设备、存储介质以及程序产品 | |
| CN117032938B (zh) | 一种算子的并行调度方法、装置、电子设备及存储介质 | |
| CN116452861A (zh) | 目标模型训练方法、装置及电子设备 | |
| CN115759209B (zh) | 神经网络模型的量化方法、装置、电子设备及介质 | |
| CN111461306A (zh) | 特征评估的方法及装置 | |
| CN116341634A (zh) | 神经结构搜索模型的训练方法、装置及电子设备 | |
| CN113361621B (zh) | 用于训练模型的方法和装置 | |
| CN112528123A (zh) | 模型搜索方法、装置、电子设备、存储介质和程序产品 | |
| CN113657468A (zh) | 预训练模型的生成方法、装置、电子设备和存储介质 | |
| CN114037060A (zh) | 预训练模型的生成方法、装置、电子设备以及存储介质 | |
| CN112784962A (zh) | 超网络的训练方法、装置、电子设备和存储介质 | |
| CN113052325A (zh) | 在线模型的优化方法、装置、设备、存储介质及程序产品 | |
| CN112862017A (zh) | 点云数据的标注方法、装置、设备和介质 | |
| CN112579842A (zh) | 模型搜索方法、装置、电子设备、存储介质和程序产品 | |
| CN114037057B (zh) | 预训练模型的生成方法、装置、电子设备以及存储介质 | |
| CN112507197A (zh) | 模型搜索方法、装置、电子设备、存储介质和程序产品 | |
| CN115456167B (zh) | 轻量级模型训练方法、图像处理方法、装置及电子设备 | |
| CN116416500B (zh) | 图像识别模型训练方法、图像识别方法、装置及电子设备 | |
| CN113361712B (zh) | 特征确定模型的训练方法、语义分析方法、装置及电子设备 | |
| CN116363428A (zh) | 模型微调方法、图像处理方法、装置及电子设备 | |
| CN117669751A (zh) | 量子电路模拟方法、装置及电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |