CN110569973A - 网络结构的搜索方法、装置以及电子设备 - Google Patents
网络结构的搜索方法、装置以及电子设备 Download PDFInfo
- Publication number
- CN110569973A CN110569973A CN201910863289.2A CN201910863289A CN110569973A CN 110569973 A CN110569973 A CN 110569973A CN 201910863289 A CN201910863289 A CN 201910863289A CN 110569973 A CN110569973 A CN 110569973A
- Authority
- CN
- China
- Prior art keywords
- model structure
- hyper
- parameters
- predicted value
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Abstract
本申请公开了一种网络结构的搜索方法、装置以及电子设备,涉及神经网络搜索领域。具体实现方案为:在仿真环境中,评估满足预设收敛条件的超参数和邻居模型结构生成策略;在执行搜索任务时,将模拟退火算法的初始参数设置为超参数;根据邻居模型结构生成策略,生成当前模型结构对应的邻居模型结构;根据当前模型结构的性能、邻居模型结构的性能以及超参数,得到转移概率;按照模拟退火算法进行迭代计算,更新超参数和转移概率,得到超参数的预测值和转移概率的预测值;在超参数的预测值和转移概率的预测值符合搜索停止条件的情况下,停止搜索。提高了模拟退火算法对网络模型的搜索问题的效率。
Description
技术领域
本申请涉及计算机领域,尤其涉及神经网络搜索领域。
背景技术
深度学习技术在很多方向上都取得了巨大的成功,最近几年NAS技术(NeuralArchitecture Search,神经网络架构搜索)成为研究热点。NAS是用算法代替繁琐的人工操作,在海量的搜索空间中自动搜索出最佳的神经网络架构。进行神经网络的架构搜索的步骤包括:首先,搜索空间定义、确定搜索空间。然后,根据所采用的优化算法,比如用强化学习、进化算法、贝叶斯优化等算法确定搜索策略。最后,搜索得到模型结构的速度以及模型的性能。目前,神经网络的架构搜索的方法可包括基于强化学习的模型结构自动搜索、基于进化算法的模型结构自动搜索以及基于梯度的模型结构自动搜索。上述三种方法均是利用黑盒的模型结构来生成搜索策略。搜索速度非常慢,且收敛性无法保证。
发明内容
本申请实施例提供一种网络模型结构的搜索方法、装置以及电子设备,以解决现有技术中的一个或多个技术问题。
第一方面,本申请实施例提供了一种网络模型结构的搜索方法,包括:
在仿真环境中,评估满足预设收敛条件的超参数和邻居模型结构生成策略:
在执行搜索任务时,将模拟退火算法的初始参数设置为超参数;
根据邻居模型结构生成策略,生成当前模型结构对应的邻居模型结构;
根据当前模型结构的性能、邻居模型结构的性能以及超参数,得到转移概率;
按照模拟退火算法进行迭代计算,更新超参数和转移概率,得到超参数的预测值和转移概率的预测值;
在超参数的预测值和转移概率的预测值符合搜索停止条件的情况下,停止搜索。
本实施方式中,由于在评估期定义了邻居模型结构生成策略,以及最优的超参数,提高了模拟退火算法对网络模型的搜索问题的效率。
在一种实施方式中,获取满足预设收敛条件的超参数和邻居模型结构生成策略,包括:
对模拟退火算法的全部超参数进行网格划分,得到一维网格,在一维网格中确定满足收敛条件的超参数;
根据当前模型的结构和邻居模型结构之间的网络编码变化策略,选择满足收敛条件的邻居模型结构生成策略;
其中,收敛条件包括满足搜索任务的精度和收敛速度要求。
在一种实施方式中,按照模拟退火算法进行迭代计算,更新超参数和转移概率,得到超参数的预测值和转移概率的预测值,超参数包括退火温度和退火率,包括:
根据退火率更新退火温度,得到退火温度的预测值,根据退火温度的预测值和退火率,得到超参数的预测值;
根据具有超参数的预测值的模拟退火算法的模型,得到预测模型结构的性能;
根据退火温度的预测值、预测模型结构的性能以及邻居模型结构的性能更新转移概率,得到转移概率的预测值。
在一种实施方式中,还包括:
获取搜索空间的复杂度,并查询模拟退火算法适用的且与搜索空间的复杂度相似的场景,作为仿真环境。
第二方面,提供了一种网络结构的搜索装置,包括:
评估模块,用于在仿真环境中,评估满足预设收敛条件的超参数和邻居模型结构生成策略;
参数设置模块,用于在执行搜索任务时,将模拟退火算法的初始参数设置为超参数;
模型结构生成模块,用于根据邻居模型结构生成策略,生成当前模型结构对应的邻居模型结构;
转移概率计算模块,用于根据当前模型结构的性能、邻居模型结构的性能以及超参数,得到转移概率;
预测值生成模块,用于按照模拟退火算法进行迭代计算,更新超参数和转移概率,得到超参数的预测值和转移概率的预测值;
模型结构搜索模块,用于在超参数的预测值和转移概率的预测值符合搜索停止条件的情况下,停止搜索。
在一种实施方式中,评估模块包括:
第一单元,用于对模拟退火算法的全部超参数进行网格划分,得到一维网格,在一维网格中确定满足收敛条件的超参数;
第二单元,用于根据当前模型的结构和邻居模型结构之间的网络编码变化策略,选择满足收敛条件的邻居模型结构生成策略;
其中,收敛条件包括满足搜索任务的精度和收敛速度要求。
在一种实施方式中,预测值生成模块包括:
第三单元,用于根据退火率更新初始化退火温度,得到退火温度的预测值,根据退火温度的预测值和退火率,得到超参数的预测值,超参数包括退火温度和退火率;
第四单元,用于根据具有超参数的预测值的模拟退火算法的模型,得到预测模型结构的性能;
第五单元,用于根据退火温度的预测值、预测模型结构的性能以及邻居模型结构的性能更新转移概率,得到转移概率的预测值。
在一种实施方式中,还包括:
仿真环境确定模块,用于获取搜索空间的复杂度,并查询模拟退火算法适用的且与搜索空间的复杂度相似的场景,作为仿真环境。
上述申请中的一个实施例具有如下优点或有益效果:由于采用了在评估期定义了邻居模型结构生成策略,以及最优的超参数,提高了模拟退火算法对网络模型的搜索问题的效率。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请的一种网络模型结构的搜索方法流程示意图;
图2是根据本申请的另一种网络模型结构的搜索方法流程示意图;
图3是根据本申请的一种网络模型结构的搜索装置结构框图;
图4是根据本申请的一种网络模型结构的搜索装置结构框图;
图5是用来实现本申请实施例的一种网络模型结构的搜索方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
实施例一
在一种具体实施方式中,如图1所示,提供了一种网络模型结构的搜索方法,包括:
步骤S10:在仿真环境中,评估满足预设收敛条件的超参数和邻居模型结构生成策略;
步骤S20:在执行搜索任务时,将模拟退火算法的初始参数设置为超参数;
步骤S30:根据邻居模型结构生成策略,生成当前模型结构对应的邻居模型结构;
步骤S40:根据当前模型结构的性能、邻居模型结构的性能以及超参数,得到转移概率;
步骤S50:按照模拟退火算法进行迭代计算,更新超参数和转移概率,得到超参数的预测值和转移概率的预测值;
步骤S60:在超参数的预测值和转移概率的预测值符合搜索停止条件的情况下,停止搜索。
在一种示例中,模拟退火算法用于求解经典的NP问题(非确定性多项式,non-deterministic polynomial),如MCP问题(MCP最大覆盖问题,Maximum CoverageProblem)、SCP问题(集合覆盖问题,Set Cover Problem)、TSP问题(推销员旅行问题,Travel Saleman Problem)时,均能够得到最优解。本实施方式中,通过模拟退火算法参数评估器和模拟退火算法邻居性评估器模拟退火算法的参数和邻居模型结构进行评估,得到最优参数和最优邻居模型结构。在搜索任务启动之前,对搜索空间的复杂度进行评估。通过控制NP问题的规模,例如TSP问题中的城市数量,找到与搜索空间的复杂度类似的场景,作为仿真环境。在仿真环境中,对模拟退火算法的超参数、当前模型结构和邻居模型结构进行评估,得到超参数作为最优超参数,邻居模型结构作为最优模型结构,使得模拟退火算法在预设精度下,收敛速度最快。
在执行搜索任务时,将模拟退火算法的初始化超参数设置为超参数。在迭代前期,为了防止陷入局部的最优解可能有较高的概率接收非最优解,因此该算法并不依赖于初始解。每次迭代时,不仅对超参数进行更新,而且根据邻居模型结构生成策略,生成邻居模型结构,以及邻居模型结构的性能。然后,按照当前的退火温度、邻居模型结构与当前模型结构的差值计算转移概率。转移概率是指从当前模型结构的状态转化为邻居模型结构的状态的概率值。并更新超参数中的退火温度和当前网络模型,直至达到最大迭代次数,或退火温度低于某个阈值,或连续多少次状态没有发生转移的条件下,算法收敛。算法的收敛前期,为了防止陷入局部最优解,即使邻居网络结构性能没有当前网络结构性能好,退火温度较高,还是有一定概率转移到邻居模型结构,这样在算法前期可以探索更多的网络结构。在算法后期,随着退火温度降低,从当前网络结构转移到邻居网络结构的概率会越来越低,算法会收敛到更优的网络结构。本实施方式中,由于在评估期定义了邻居模型结构生成策略,以及最优的超参数,提高了模拟退火算法对网络模型的搜索问题的效率。
在一种实施方式中,如图2所示,步骤S10,包括:
步骤S101:对模拟退火算法的全部超参数进行网格划分,得到一维网格,在一维网格中确定满足收敛条件的超参数;
步骤S102:根据当前模型的结构和邻居模型结构之间的网络编码变化策略,选择满足收敛条件的邻居模型结构生成策略;
其中,收敛条件包括满足搜索任务的精度和收敛速度要求。
在一种示例中,在具有空间复杂度的搜索空间中,邻居模型结构生成策略是当前网络模型结构对应的网络编码转移至邻居网络模型结构对应的网络编码,当前模型结构和邻居模型结构是进化关系。邻居模型结构和当前模型结构之间可以任意一个位置发生替换,但也可以多个位置发生替换。多个不同位置发生替换形成了多个邻居模型结构生成策略。利用评估期得到的超参数和邻居模型结构生成策略,能够有效提高搜索速率。
在一种实施方式中,如图2所示,超参数包括退火温度和退火率步骤S50,包括:
步骤S501:根据退火率更新退火温度,得到退火温度的预测值,根据退火温度的预测值和退火率,得到超参数的预测值;
步骤S502:根据具有超参数的预测值的模拟退火算法的模型,得到预测模型结构的性能;
步骤S503:根据退火温度的预测值、预测模型结构的性能以及邻居模型结构的性能更新转移概率,得到转移概率的预测值。
在一种示例中,退火温度高,转移概率越大,退火温度越低,转移概率越低,退火温度与转移概率成正比。网络模型结构性能差,即当前模型结构与邻居模型结构之间的性能差与转移概率成反比。
在一种实施方式中,如图2所示,还包括:
步骤S70:获取搜索空间的复杂度,并查询模拟退火算法适用的且与搜索空间的复杂度相似的场景,作为仿真环境。
在一种示例中,由于模拟退火算法在适用的场景中,能够快速得到最优解,但是,搜索任务的搜索空间并没有模拟退火算法在适用的场景复杂,因此,找出复杂度相类似的场景作为仿真环境,在仿真环境下训练得到模拟退火算法的最优超参数和邻居模型结构生成策略,能够有效提高利用模拟退火算法在类似复杂度搜索空间中的搜索效率。
实施例二
在另一种具体实施方式中,如图3所示,提供了一种网络结构的搜索装置100,包括:
评估模块110,用于在仿真环境中,评估满足预设收敛条件的超参数和邻居模型结构生成策略;
参数设置模块120,用于在执行搜索任务时,将模拟退火算法的初始参数设置为超参数;
模型结构生成模块130,用于根据邻居模型结构生成策略,生成当前模型结构对应的邻居模型结构;
转移概率计算模块140,用于根据当前模型结构的性能、邻居模型结构的性能以及超参数,得到转移概率;
预测值生成模块150,用于按照模拟退火算法进行迭代计算,更新超参数和转移概率,得到超参数的预测值和转移概率的预测值;
模型结构搜索模块160,用于在超参数的预测值和转移概率的预测值符合搜索停止条件的情况下,停止搜索。
在一种实施方式中,如图4所示,评估模块110包括:
第一单元1101,用于对模拟退火算法的全部超参数进行网格划分,得到一维网格,在一维网格中确定满足收敛条件的超参数;
第二单元1102,用于根据当前模型的结构和邻居模型结构之间的网络编码变化策略,选择满足收敛条件的邻居模型结构生成策略;
其中,收敛条件包括满足搜索任务的精度和收敛速度要求。
在一种实施方式中,如图4所示,预测值生成模块150包括:
第三单元1501,用于根据退火率更新初始化退火温度,得到退火温度的预测值,根据退火温度的预测值和退火率,得到超参数的预测值,超参数包括退火温度和退火率;
第四单元1502,用于根据具有超参数的预测值的模拟退火算法的模型,得到预测模型结构的性能;
第五单元1503,用于根据退火温度的预测值、预测模型结构的性能以及邻居模型结构的性能更新转移概率,得到转移概率的预测值。
在一种实施方式中,如图4所示,还包括:
仿真环境确定模块170,用于获取搜索空间的复杂度,并查询模拟退火算法适用的且与搜索空间的复杂度相似的场景,作为仿真环境。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图5所示,是根据本申请实施例的一种网络模型的搜索方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示图形用户界面(Graphical User Interface,GUI)的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的一种网络模型的搜索方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的一种网络模型的搜索方法。
存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的一种网络模型的搜索方法的方法对应的程序指令/模块(例如,附图3所示的评估模块110、参数设置模块120、模型结构生成130、转移概率计算模块140、预测值生成模块150、模型结构搜索模块160)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的一种网络模型的搜索方法。
存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据一种网络模型的搜索的电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至一种网络模型的搜索的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
一种网络模型的搜索方法的电子设备还可以包括:输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接,图5中以通过总线连接为例。
输入装置503可接收输入的数字或字符信息,以及产生与一种网络模型的搜索方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(Liquid Cr5stal Displa5,LCD)、发光二极管(LightEmitting Diode,LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路(Application Specific Integrated Circuits,ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(programmable logic device,PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode Ray Tube,阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(Local Area Network,LAN)、广域网(Wide Area Network,WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,由于在评估期定义了邻居模型结构生成策略,以及最优的超参数,提高了模拟退火算法对网络模型的搜索问题的效率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (10)
1.一种网络结构的搜索方法,其特征在于,包括:
在仿真环境中,评估满足预设收敛条件的超参数和邻居模型结构生成策略;
在执行搜索任务时,将模拟退火算法的初始参数设置为所述超参数;
根据所述邻居模型结构生成策略,生成当前模型结构对应的邻居模型结构;
根据所述当前模型结构的性能、所述邻居模型结构的性能以及所述超参数,得到转移概率;
按照所述模拟退火算法进行迭代计算,更新所述超参数和所述转移概率,得到所述超参数的预测值和所述转移概率的预测值;
在所述超参数的预测值和所述转移概率的预测值符合搜索停止条件的情况下,停止搜索。
2.根据权利要求1所述的方法,其特征在于,获取满足预设收敛条件的超参数和邻居模型结构生成策略,包括:
对所述模拟退火算法的全部超参数进行网格划分,得到一维网格,在所述一维网格中确定满足所述收敛条件的超参数;
根据所述当前模型的结构和所述邻居模型结构之间的网络编码变化策略,选择满足所述收敛条件的邻居模型结构生成策略;
其中,所述收敛条件包括满足所述搜索任务的精度和收敛速度要求。
3.根据权利要求1所述的方法,其特征在于,按照所述模拟退火算法进行迭代计算,更新所述超参数和所述转移概率,得到所述超参数的预测值和所述转移概率的预测值,所述超参数包括退火温度和退火率,包括:
根据所述退火率更新所述退火温度,得到退火温度的预测值,根据所述退火温度的预测值和所述退火率,得到所述超参数的预测值;
根据具有所述超参数的预测值的模拟退火算法的模型,得到预测模型结构的性能;
根据所述退火温度的预测值、所述预测模型结构的性能以及所述邻居模型结构的性能更新所述转移概率,得到所述转移概率的预测值。
4.根据权利要求1所述的方法,其特征在于,还包括:
获取搜索空间的复杂度,并查询所述模拟退火算法适用的且与所述搜索空间的复杂度相似的场景,作为所述仿真环境。
5.一种网络结构的搜索装置,其特征在于,包括:
评估模块,用于在仿真环境中,评估满足预设收敛条件的超参数和邻居模型结构生成策略;
参数设置模块,用于在执行搜索任务时,将模拟退火算法的初始参数设置为所述超参数;
模型结构生成模块,用于根据所述邻居模型结构生成策略,生成当前模型结构对应的邻居模型结构;
转移概率计算模块,用于根据所述当前模型结构的性能、所述邻居模型结构的性能以及所述超参数,得到转移概率;
预测值生成模块,用于按照所述模拟退火算法进行迭代计算,更新所述超参数和所述转移概率,得到超参数的预测值和转移概率的预测值;
模型结构搜索模块,用于在所述超参数的预测值和所述转移概率的预测值符合搜索停止条件的情况下,停止搜索。
6.根据权利要求5所述的装置,其特征在于,所述评估模块包括:
第一单元,用于对所述模拟退火算法的全部超参数进行网格划分,得到一维网格,在所述一维网格中确定满足所述收敛条件的超参数;
第二单元,用于根据所述当前模型的结构和所述邻居模型结构之间的网络编码变化策略,选择满足所述收敛条件的邻居模型结构生成策略;
其中,所述收敛条件包括满足所述搜索任务的精度和收敛速度要求。
7.根据权利要求5所述的装置,其特征在于,所述预测值生成模块包括:
第三单元,用于根据所述退火率更新所述初始化退火温度,得到退火温度的预测值,根据所述退火温度的预测值和所述退火率,得到所述超参数的预测值,所述超参数包括退火温度和退火率;
第四单元,用于根据具有所述超参数的预测值的模拟退火算法的模型,得到预测模型结构的性能;
第五单元,用于根据所述退火温度的预测值、所述预测模型结构的性能以及所述邻居模型结构的性能更新所述转移概率,得到所述转移概率的预测值。
8.根据权利要求5所述的装置,其特征在于,还包括:
仿真环境确定模块,用于获取搜索空间的复杂度,并查询所述模拟退火算法适用的且与所述搜索空间的复杂度相似的场景,作为所述仿真环境。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910863289.2A CN110569973A (zh) | 2019-09-11 | 2019-09-11 | 网络结构的搜索方法、装置以及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910863289.2A CN110569973A (zh) | 2019-09-11 | 2019-09-11 | 网络结构的搜索方法、装置以及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110569973A true CN110569973A (zh) | 2019-12-13 |
Family
ID=68779512
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910863289.2A Pending CN110569973A (zh) | 2019-09-11 | 2019-09-11 | 网络结构的搜索方法、装置以及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110569973A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111340222A (zh) * | 2020-02-25 | 2020-06-26 | 北京百度网讯科技有限公司 | 神经网络模型搜索方法、装置以及电子设备 |
CN113408692A (zh) * | 2020-03-16 | 2021-09-17 | 顺丰科技有限公司 | 网络结构的搜索方法、装置、设备及存储介质 |
CN114217933A (zh) * | 2021-12-27 | 2022-03-22 | 北京百度网讯科技有限公司 | 多任务调度方法、装置、设备以及存储介质 |
-
2019
- 2019-09-11 CN CN201910863289.2A patent/CN110569973A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111340222A (zh) * | 2020-02-25 | 2020-06-26 | 北京百度网讯科技有限公司 | 神经网络模型搜索方法、装置以及电子设备 |
CN113408692A (zh) * | 2020-03-16 | 2021-09-17 | 顺丰科技有限公司 | 网络结构的搜索方法、装置、设备及存储介质 |
CN114217933A (zh) * | 2021-12-27 | 2022-03-22 | 北京百度网讯科技有限公司 | 多任务调度方法、装置、设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110633797B (zh) | 网络模型结构的搜索方法、装置以及电子设备 | |
US11574146B2 (en) | Method for updating parameter of model, distributed training system and electric device | |
CN111144577B (zh) | 异构图之中节点表示的生成方法、装置和电子设备 | |
CN111738414B (zh) | 推荐模型的生成、内容推荐方法、装置、设备和介质 | |
CN111667057B (zh) | 用于搜索模型结构的方法和装置 | |
CN110795569B (zh) | 知识图谱的向量表示生成方法、装置及设备 | |
CN111488971B (zh) | 神经网络模型搜索方法及装置、图像处理方法及装置 | |
CN111582479B (zh) | 神经网络模型的蒸馏方法和装置 | |
CN110569973A (zh) | 网络结构的搜索方法、装置以及电子设备 | |
CN110569969A (zh) | 网络模型结构的采样方法、装置以及电子设备 | |
CN113723278B (zh) | 表格信息提取模型的训练方法及装置 | |
CN111639753B (zh) | 用于训练图像处理超网络的方法、装置、设备以及存储介质 | |
CN112000450A (zh) | 神经网络架构搜索方法以及装置 | |
CN111950293B (zh) | 语义表示模型的生成方法、装置、电子设备及存储介质 | |
CN110852379B (zh) | 用于目标物体识别的训练样本生成方法及装置 | |
CN111914994B (zh) | 多层感知机的生成方法、装置、电子设备及存储介质 | |
CN110580520A (zh) | 基于超网络的模型结构采样、装置以及电子设备 | |
CN111652354B (zh) | 用于训练超网络的方法、装置、设备以及存储介质 | |
CN110569972A (zh) | 超网络的搜索空间构建方法、装置以及电子设备 | |
CN111695699A (zh) | 用于模型蒸馏的方法、装置、电子设备及可读存储介质 | |
CN110766089A (zh) | 超网络的模型结构采样方法、装置以及电子设备 | |
CN111882035A (zh) | 基于卷积核的超网络搜索方法、装置、设备和介质 | |
CN112580723B (zh) | 多模型融合方法、装置、电子设备和存储介质 | |
KR102607536B1 (ko) | 옵티마이저 학습 방법, 장치, 전자 기기 및 판독 가능 기록 매체 | |
CN111680599B (zh) | 人脸识别模型处理方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |