CN111582453A - 生成神经网络模型的方法和装置 - Google Patents

Abstract

本申请涉及人工智能领域，公开了生成神经网络模型的方法和装置。该方法包括：构建多路径超网络，多路径超网络的每一个卷积层包括至少一个分支，每一卷积层的一个分支分别对应该卷积层的一种卷积模块结构，卷积模块结构包括与该卷积层对应尺寸的一个卷积核或者至少两个并行运算的卷积核；基于样本数据对多路径超网络进行训练；基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构，其中，网络结构通过对训练完成的多路径超网络进行路径采样得出。该方法实现了卷积神经网络结构的优化。

Description

生成神经网络模型的方法和装置

技术领域

本公开的实施例涉及计算机技术领域，具体涉及人工智能技术领域，尤其涉及生成神经网络模型的方法和装置。

背景技术

随着人工智能技术和数据存储技术的发展，深度神经网络在许多领域的任务中取得了重要的成果。其中，卷积神经网络因具有良好的特征辨识和提取能力，可处理复杂场景的问题等优势而被广泛应用。

传统的卷积神经网络结构的设计主要集中于层与层之间的连接方式。为了获得具有良好性能的卷积神经网络结构，通常需要花费大量的时间。NAS(neural architecturesearch，自动化神经网络结构搜索)技术可以用算法代替繁琐的人工操作，自动搜索出最佳的神经网络架构。NAS方法可以通过对网结构的基本单元进行堆叠、连接灵活地组建不同的神经网络模型。

发明内容

本公开的实施例提供了生成神经网络模型的方法和装置、电子设备以及计算机可读存储介质。

根据第一方面，提供了一种生成神经网络模型的方法，包括：构建多路径超网络，多路径超网络的每一个卷积层包括至少一个分支，每一卷积层的一个分支分别对应该卷积层的一种卷积模块结构，卷积模块结构包括与该卷积层对应尺寸的一个卷积核或者至少两个并行运算的卷积核；基于样本数据对多路径超网络进行训练；基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构，其中，网络结构通过对训练完成的多路径超网络进行路径采样得出。

根据第二方面，提供了一种生成神经网络模型的装置，包括：构建单元，被配置为构建多路径超网络，多路径超网络的每一个卷积层包括至少一个分支，每一卷积层的一个分支分别对应该卷积层的一种卷积模块结构，卷积模块结构包括与该卷积层对应尺寸的一个卷积核或者至少两个并行运算的卷积核；训练单元，被配置为基于样本数据对多路径超网络进行训练；搜索单元，被配置为基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构，其中，网络结构通过对训练完成的多路径超网络进行路径采样得出。

根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行第一方面提供的生成神经网络模型的方法。

根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行第一方面提供的生成神经网络模型的方法。

根据本申请的技术通过构建并训练包含多样化的卷积模块结构的多路径超网络，实现了卷积神经网络结构的自动优化。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开的生成神经网络模型的方法的一个实施例的流程图；

图2是多路径超网络的一个结构示意图；

图3是多路径超网络中的卷积模块的结构示意图；

图4是基于样本数据对多路径超网络进行训练的一个流程的示意图；

图5本公开的生成神经网络模型的装置的一个实施例的结构示意图；

图6是用来实现本公开的实施例的生成神经网络模型的方法的电子设备的框图。

具体实施方式

下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

本公开的方法或装置可以应用于终端设备或服务器，或者可以应用于包括终端设备、网络和服务器的系统架构。其中，网络用以在终端设备和服务器之间提供通信链路的介质，可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

终端设备可以是用户端设备，其上可以安装有各种客户端应用。例如，图像处理类应用、搜索应用、语音服务类应用等。终端设备可以是硬件，也可以是软件。当终端设备为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器可以是运行各种服务的服务器，例如运行基于图像、视频、语音、文本、数字信号等数据的目标检测与识别、文本或语音识别、信号转换等服务的服务器。服务器可以获取各种媒体数据作为深度学习任务的训练样本数据，如图像数据、音频数据、文本数据等。服务器还可以根据具体的深度学习任务，利用训练样本数据训练超网络，并从超网络中采样出子网络进行评估，根据各子网络的评估结果确定用于执行上述深度学习任务的神经网络模型的结构和参数。

服务器还可以将确定出的神经网络模型的结构和参数等数据发送至终端设备。终端设备根据接收到的数据在本地部署并运行神经网络模型，以执行相应的深度学习任务。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开的实施例所提供的生成神经网络模型的方法可以由终端设备或服务器执行，相应地，生成神经网络模型的装置可以设置于终端设备或服务器中。

请参考图1，其示出了根据本公开的生成神经网络模型的方法的一个实施例的流程100。该生成神经网络模型的方法，包括：

步骤101，构建多路径超网络。

可以根据卷积神经网络的网络结构搜索空间构建超网络，其中网络结构搜索空间由网络结构的基本单元构建，例如各种卷积模块、残差模块、非线性层，分类器等等。超网络包含卷积神经网络的网络结构搜索空间中的所有可选网络结构，超网络内部所有的网络结构在构建不同的子网络时共享参数。

在本实施例中，多路径超网络的每一个卷积层包括至少一个分支，每一卷积层的一个分支分别对应该卷积层的一种卷积模块结构，卷积模块结构包括与该卷积层对应尺寸的一个卷积核或者至少两个并行运算的卷积核。同一卷积层的不同分支对应不同的卷积模块结构。

请参考图2，其示出了多路径超网络的一个结构示意图。如图2所示，多路径超网络包含多个层，其中包括卷积层、非线性层、分类器层等等，图2示出了21、22、23、24四个层。其中每个层包括多个分支，例如图2中层21包括四个分支211、212、213、214。通过在每一个层的至少一个分支中选择一个分支，与其他层中选出的分支相连接、堆叠形成完整的卷积神经网络的结构。其中，每一卷积层的不同分支对应不同的卷积模块结构。例如图2的多路径超网络中，在21、22、23、24四个层的每一层中选择一个分支，与起始层20和结束层25连接起来构成沿分支20、211、221、232、244、25的一条路径的神经网络结构。

卷积模块结构包括与其所在的卷积层对应尺寸的一个卷积核或者至少两个并行运算的卷积核。在这里，卷积层对应的尺寸是该卷积层的对称卷积核的尺寸，例如3×3、5×5，可以是预先设定的。卷积模块包括一个卷积核是指该卷积模块中的卷积核即为对应尺寸的对称卷积核。卷积模块结构包括其所在卷积层对应尺寸的至少两个并行运算的卷积核，是通过将该卷积层对应尺寸的对称卷积核进行拆分，将拆分后的非对称卷积核与该卷积层对应尺寸的对称卷积核做并行运算形成的结构。

图3示出了卷积模块结构的示意图。其以卷积层对应的卷积核尺寸是3×3为例，示出了多种卷积模块结构。具体地，结构(a)中，将3×3卷积核拆分为包含三个尺寸分别为3×3、3×1、1×3的卷积核的并行分支。输入数据I在经过三个并行的并行运算后，将三个并行运算的结果叠加得到该卷积模块的输出O。结构(b)中，将3×3卷积核拆分为包含三个尺寸分别为3×3、3×2、2×3的卷积核的并行分支。结构(c)中，将3×3卷积核拆分为包含三个尺寸分别为3×3、3×1、2×3的卷积核的并行分支。结构(d)中，将3×3卷积核拆分为包含三个尺寸分别为3×3、3×2、1×3的卷积核的并行分支。

需要说明的是，图3以3×3尺寸的对称卷积核为例，仅示出了卷积模块结构的几个示例。在实践中，可以将已有的卷积神经网络模型的网络结构单元中的对称卷积核的运算拆分为包含该对称卷积核以及至少一个不超过该对称卷积核尺寸的其他卷积核的并行运算，以此来构建多路径超网络中的卷积层的各个分支。这样，丰富了多路径超网络的卷积层所包含的卷积模块结构。而由于利用拆分后的多个卷积核并行运算的卷积模块结构增强了卷积核的骨架信息，形成“骨架增强卷积核”的结构，可以提升卷积层提取出的特征的表达能力，因此，构建多路径超网络有助于搜索出性能更好的卷积神经网络结构。并且，本实施例的方式可以在多种卷积模块结构中自动搜索出最优的卷积模块结构，突破了固定的卷积模块结构的局限，能够进一步提升搜索出的卷积神经网络的有效性和准确性。

步骤102，基于样本数据对多路径超网络进行训练。

在本实施例中，可以获取深度学习任务的样本数据。样本数据可以是预先收集的媒体数据，如文本数据、图像数据、音频数据、数字信号等等。可以对收集的媒体数据进行标注，以通过有监督的方法训练多路径超网络。标注信息可以根据具体的深度学习任务确定。作为实例，在人脸图像检测任务中，标注信息可以包括图像中的人脸区域的边界；在语音识别任务中，标注信息可以包括语音信号对应的文本。

多路径超网络结构较为复杂，参数众多，在对多路径超网络进行训练的过程中，可以首先初始化参数，然后在多路径超网络中采样多个子网络，其中，各个子网络继承多路径超网络的参数。可以基于样本数据对子网络进行训练并评估子网络的性能，根据各子网络的性能更新子网络的参数，并同步更新多路径超网络中的对应参数，从而实现多路径超网络参数的迭代更新。

在本实施例的一些可选的实现方式中，可以采用如图4所示的流程对多路径超网络进行训练。

如图4所示，基于样本数据训练多路径超网络的流程400可以包括依次执行多轮迭代训练操作。

其中，每一轮迭代训练操作包括步骤401、步骤402、步骤403以及步骤404。

具体地，在步骤401中，按照如下方式迭代更新多路径超网络的参数：构建超网络的采样策略，按照采样策略从多路径超网络中采样出子网络并基于样本数据中的训练数据训练子网络，基于训练后的各子网络的性能迭代更新多路径超网络中的对应参数。

超网络的采样策略是从多路径超网络中采样出至少一个子网络的策略。在本实施例中，可以将如下满足如下条件的策略作为超网络的采样策略：采样出的子网络覆盖了超网络中的所有的分支，并且各个子网络的结构之间的差异指标超过预设的阈值。可以构建循环神经网络作为采样器，将上述采样策略作为采样过程中的约束条件，利用该循环神经网络从多路径超网络中采样出多个子网络。

采样出子网络之后，可以基于样本数据中的训练数据对各子网络进行训练，训练的流程包括基于各子网络对样本数据的预测结果，采用诸如误差反向传播的方法多轮迭代调整子网络的参数，使得子网络收敛。在完成子网络的训练之后，可以将子网络的参数同步至多路径超网络中，具体将子网络中与超网络对应的分支的参数同步至超网络中，这样实现了多路径超网络的参数的更新。

可选地，可以按照如下方式构建多路径超网络的采样策略：按照多路径超网络中的各个分支，构建超网络的多路径均衡采样策略。在这里，多路径均衡采样策略中，超网络的各个分支被均匀采样。更具体地，在一次采样中多路径超网络的各个分支被采样的次数具有均一性，即一次采样中采样出的子网络所包含的所有分支的统计结果中，各个分支被采样的次数基本均等。这样，可以通过采样出的子网络的训练对超网络的所有参数进行全局更新，避免一些分支被采样的次数过多、另一些分支被采样的次数过少导致训练结果不准确。

接着，在步骤402中，采用样本数据中的测试数据测试迭代更新参数后的多路径超网络的性能。

样本数据中的测试数据可用于评估迭代更新参数后的多路径超网络的性能。具体地，可以采用随机采样的方式、或者利用预先训练的用于从超网络中采样子网络的循环神经网络，从迭代更新参数后的多路径超网络中采样出至少一个待测试的子网络，利用测试数据测试待测试的子网络的性能，例如测试各个待测试的子网络的精度、运算效率、硬件延时、召回率等，作为迭代更新参数后的多路径超网络的性能。

之后，在步骤403中，响应于确定迭代更新参数后的多路径超网络的性能不满足第二预设条件，执行下一轮迭代训练操作。

可以判断迭代更新参数后的多路径超网络的性能是否满足预设第二预设条件，该第二预设条件可以包括精度、运算效率、硬件延时、召回率等指标中的一项或多项达到对应的阈值区间。若不满足，则可以返回步骤401，基于迭代更新参数后的多路径超网络执行下一轮迭代训练操作。

在步骤404中，响应于确定迭代更新参数后的多路径超网络的性能满足第二预设条件，确定当前轮迭代训练操作更新参数后的多路径超网络为训练完成的多路径超网络。

若迭代更新参数后的多路径超网络的性能满足预设第二预设条件，则可以将当前迭代更新参数后的多路径超网络作为训练完成的多路径超网络。

上述训练多路径超网络的流程400，通过从多路径超网络采样子网络，对子网络进行训练来的地带更新多路径超网络的参数，并利用测试数据测试多路径超网络的性能，在多路径超网络的性能不满足第二预设条件时返回继续执行多路径超网络的训练，能够在训练过程中对多路径超网络的性能进行实时、准确的评估，从而逐步优化多路径超网络中连接不同层的分支的参数，获得准确的多路径超网络。

返回图1，上述生成神经网络模型的方法的流程100中，多路径超网络训练完成后，执行如下步骤103：

步骤103，基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构，其中，网络结构通过对训练完成的多路径超网络进行路径采样得出。

训练完成的多路径超网络的参数是经过优化后的参数。可以利用训练完成的多路径超网络进行多种不同网络结构的采样，得到多个候选网络结构。网络结构的采样可以采用随机采样的方式，或者通过已训练的用于从超网络中采样子网络的循环神经网络等模型采样得出。可以获取多路径超网络中采样出的各个候选网络结构对应的参数，构建各个候选网络结构对应的神经网络模型。

然后，利用各个候选网络结构对应的神经网络模型执行相应的深度学习任务，并评估各个候选网络结构对应的神经网络模型的性能。可以选择性能信息满足第一预设条件的神经网络模型作为目标神经网络模型。在这里，第一预设条件可以是性能信息所表征的性能最优、或者性能信息中某一项或多项性能指标达到预设的阈值。

可选地，可以将上述第一预设条件作为约束条件，将多路径超网络作为目标神经网络的搜索空间，构建用于从多路径超网络中采样出候选网络结构的控制器。通过多轮迭代操作对控制器进行训练优化，同时在多轮迭代操作后自动搜索出满足上述第一预设条件的候选网络结构，作为目标神经网络模型的结构。

具体地，可以基于循环神经网络、遗传算法、强化学习算法等构件控制器，控制器从训练完成的多路径超网络中采样出表征候选网络的网络结构的序列，对该序列进行解码获得候选网络结构后，可以从训练完成的多路径超网络中获得候选网络结构中各个分支对应的参数，从而构建出候选神经网络模型。利用候选神经网网络模型执行深度学习任务并判断其性能信息是否满足第一预设条件，若不满足则将该候选神经网络的性能信息前向反馈至控制器，使得控制器更新参数并在下一次迭代操作中重新采样出新的候选网络结构。

在控制器的训练优化过程中，多路径超网络的参数可以保持不变。即控制器的训练优化不改变多路径超网络的参数，仅针对从训练完成的多路径超网络中采样出子网络的方法进行更新。

这样，通过控制器自动迭代更新，能够获得更准确的目标神经网络模型的结构搜索结果，进一步提升搜索出的目标神经网络模型的性能。

本公开上述实施例的生成神经网络模型的方法，通过构建并训练包含多样化的卷积模块结构的多路径超网络，拓展了聚氨基酸很精网络结构的搜索空间，能够搜索出包含有更好的特征表达能力的卷积模块结构的卷积神经网络，实现了卷积神经网络结构的自动优化。

在一些实施例中，上述流程400中，按照采样策略从多路径超网络中采样出子网络并基于样本数据中的训练数据训练子网络的步骤可以包括：按照采样策略从多路径超网络中采样出至少两个尺度的子网络并基于样本数据中的训练数据训练各尺度的子网络。

这时，上述基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构的步骤103可以包括：基于训练完成的多路径超网络，搜索出各尺度下性能信息满足第一预设条件的网络结构作为对应的各尺度的目标神经网络模型的结构。

卷积神经网络的尺度包括深度、宽度以及分辨率。深度由网络的层数表征。宽度由卷积层的通道数表征，如处理RGB(红绿蓝)三色图像的卷积层的通道数可以为3，处理近红外灰度图像的卷积层的通道数为可以是1。分辨率是输入卷积层的矩阵表征的空间分辨率，该空间分辨率例如为图像或特征图的空间分辨率。

可以针对卷积神经网络的不同尺度，如不同的分辨率，在训练多路径超网络的过程中，分别采样各个尺度的子网络，并按照各个尺度的样本数据分别对应训练各个尺度的子网络，并基于各个尺度的子网络的性能迭代更新多路径超网络的参数。在搜索目标神经网络模型的结构时，可以针对不同的尺度分别搜索性能信息满足对应的第一预设条件的网络结构作为对应的各个尺度的目标神经网络模型的结构。这样，训练完成的多路径超网络能够适应不同尺度的样本数据和子网络，进一步提升了多路径超网络的准确性。

在上述实施例的一些可选的实现方式中，生成神经网络模型的方法还包括：根据训练完成的多路径超网络，获取目标神经网络模型的参数；基于目标神经网络模型的结构和参数，对与样本数据对应的待处理媒体数据进行处理。

目标神经网络模型中各个分支的参数可以与训练完成的多路径超网络中对应分支的参数一致。在本实施例中，可以获取目标神经网络模型的结构及对应的参数，在服务器端或终端部署目标神经网络模型，并利用目标神经网络模型处理与样本数据对应的待处理媒体数据。与样本数据对应的待处理媒体数据是指数据的类型、尺寸、所属区间等属性与样本数据一致待处理媒体数据。例如，在训练中使用的样本数据为彩色图像，则待处理媒体数据也是彩色图像；训练中使用的样本数据为预设尺寸的图像，则可以将待处理的媒体数据缩放至预设尺寸形成与样本数据对应的待处理的媒体数据。由于多路径超网络的参数已经通过训练过程优化，目标神经网络模型无需再经过训练流程，可以直接用于处理待处理的媒体数据。由此节省了目标神经网络模型的训练时间，避免了目标神经网络模型的训练中的运算资源消耗，并且目标神经网络模型可以获得准确、可靠的处理结果。

请参考图5，作为对上述生成神经网络模型的方法的实现，本公开提供了一种生成神经网络模型的装置的一个实施例，该装置实施例与上述各方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例的生成神经网络模型的装置500包括构建单元501、训练单元502以及搜索单元503。其中，构建单元501被配置为构建多路径超网络，多路径超网络的每一个卷积层包括至少一个分支，每一卷积层的一个分支分别对应该卷积层的一种卷积模块结构，卷积模块结构包括与该卷积层对应尺寸的一个卷积核或者至少两个并行运算的卷积核；训练单元502被配置为基于样本数据对多路径超网络进行训练；搜索单元503被配置为基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构，其中，网络结构通过对训练完成的多路径超网络进行路径采样得出。

在一些实施例中，上述训练单元502被配置为通过依次执行多轮迭代训练操作以对多路径超网络进行训练。训练单元502包括：更新子单元，被配置为执行迭代训练操作中的迭代更新多路径超网络参数的步骤，迭代更新多路径超网络参数的步骤包括：构建超网络的采样策略，按照采样策略从多路径超网络中采样出子网络并基于样本数据中的训练数据训练子网络，基于训练后的各子网络的性能迭代更新多路径超网络中的对应参数；测试子单元，被配置为执行迭代训练操作中的如下步骤：采用样本数据中的测试数据测试迭代更新参数后的多路径超网络的性能；第一响应子单元，被配置为执行迭代训练操作中的如下步骤：响应于确定迭代更新参数后的多路径超网络的性能不满足第二预设条件，执行下一轮迭代训练操作；第二响应子单元，被配置为执行迭代训练操作中的如下步骤：响应于确定迭代更新参数后的多路径超网络的性能满足第二预设条件，确定当前轮迭代训练操作更新参数后的多路径超网络为训练完成的多路径超网络。

在一些实施例中，上述更新子单元被配置为按照如下方式构建超网络的采样策略：按照多路径超网络中的各个分支，构建超网络的多路径均衡采样策略。

在一些实施例中，上述更新子单元被进一步配置为：按照采样策略从多路径超网络中采样出至少两个尺度的子网络并基于样本数据中的训练数据训练各尺度的子网络；以及上述搜索单元503进一步被配置为按照如下方式搜索出目标神经网络模型的结构：基于训练完成的多路径超网络，搜索出各尺度下性能信息满足第一预设条件的网络结构作为对应的各尺度的目标神经网络模型的结构。

在一些实施例中，上述装置还包括：获取单元，被配置为根据训练完成的多路径超网络，获取目标神经网络模型的参数；处理单元，被配置为基于目标神经网络模型的结构和参数，对与样本数据对应的待处理媒体数据进行处理。

上述装置500与前述方法实施例中的步骤相对应。由此，上文针对生成神经网络模型的方法描述的操作、特征及所能达到的技术效果同样适用于装置500及其中包含的单元，在此不再赘述。

根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。

如图6所示，是根据本申请实施例的生成神经网络模型的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图6所示，该电子设备包括：一个或多个处理器601、存储器602，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。

存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的生成神经网络模型的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的生成神经网络模型的方法。

存储器602作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的生成神经网络模型的方法对应的程序指令/单元/模块(例如，附图5所示的构建单元501、训练单元502以及搜索单元503)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的生成神经网络模型的方法。

存储器602可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据用于生成神经网络的结构的电子设备的使用所创建的数据等。此外，存储器602可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器602可选包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至用于生成神经网络的结构的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

生成神经网络模型的方法的电子设备还可以包括：输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线605或者其他方式连接，图6中以通过总线605连接为例。

输入装置603可接收输入的数字或字符信息，以及产生与用于生成神经网络的结构的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置Y04可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种生成神经网络模型的方法，包括：

构建多路径超网络，所述多路径超网络的每一个卷积层包括至少一个分支，每一卷积层的一个分支分别对应该卷积层的一种卷积模块结构，所述卷积模块结构包括与该卷积层对应尺寸的一个卷积核或者至少两个并行运算的卷积核；

基于样本数据对所述多路径超网络进行训练；

基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构，其中，所述网络结构通过对所述训练完成的多路径超网络进行路径采样得出。

2.根据权利要求1所述的方法，其中，所述基于样本数据对所述多路径超网络进行训练，包括依次执行多轮迭代训练操作；

所述迭代训练操作包括：

按照如下方式迭代更新所述多路径超网络的参数：构建超网络的采样策略，按照所述采样策略从所述多路径超网络中采样出子网络并基于样本数据中的训练数据训练所述子网络，基于训练后的各子网络的性能迭代更新所述多路径超网络中的对应参数；

采用样本数据中的测试数据测试迭代更新参数后的多路径超网络的性能；

响应于确定所述迭代更新参数后的多路径超网络的性能不满足第二预设条件，执行下一轮迭代训练操作；

响应于确定所述迭代更新参数后的多路径超网络的性能满足所述第二预设条件，确定当前轮迭代训练操作更新参数后的多路径超网络为训练完成的多路径超网络。

3.根据权利要求2所述的方法，其中，所述构建超网络的采样策略，包括：按照所述多路径超网络中的各个分支，构建超网络的多路径均衡采样策略。

4.根据权利要求2或3所述的方法，其中，所述按照所述采样策略从所述多路径超网络中采样出子网络并基于样本数据中的训练数据训练所述子网络，包括：

按照所述采样策略从所述多路径超网络中采样出至少两个尺度的子网络并基于样本数据中的训练数据训练各尺度的所述子网络；以及

所述基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构，包括：

基于训练完成的多路径超网络，搜索出各尺度下性能信息满足第一预设条件的网络结构作为对应的各尺度的目标神经网络模型的结构。

5.根据权利要求1所述的方法，其中，所述方法还包括：

根据所述训练完成的多路径超网络，获取所述目标神经网络模型的参数；

基于所述目标神经网络模型的结构和参数，对与所述样本数据对应的待处理媒体数据进行处理。

6.一种生成神经网络模型的装置，包括：

构建单元，被配置为构建多路径超网络，所述多路径超网络的每一个卷积层包括至少一个分支，每一卷积层的一个分支分别对应该卷积层的一种卷积模块结构，所述卷积模块结构包括与该卷积层对应尺寸的一个卷积核或者至少两个并行运算的卷积核；

训练单元，被配置为基于样本数据对所述多路径超网络进行训练；

搜索单元，被配置为基于训练完成的多路径超网络，搜索出性能信息满足第一预设条件的网络结构作为目标神经网络模型的结构，其中，所述网络结构通过对所述训练完成的多路径超网络进行路径采样得出。

7.根据权利要求6所述的装置，其中，所述训练单元被配置为通过依次执行多轮迭代训练操作以对所述多路径超网络进行训练；

所述训练单元包括：

更新子单元，被配置为执行所述迭代训练操作中的迭代更新多路径超网络参数的步骤，所述迭代更新多路径超网络参数的步骤包括：构建超网络的采样策略，按照所述采样策略从所述多路径超网络中采样出子网络并基于样本数据中的训练数据训练所述子网络，基于训练后的各子网络的性能迭代更新所述多路径超网络中的对应参数；

测试子单元，被配置为执行所述迭代训练操作中的如下步骤：采用样本数据中的测试数据测试迭代更新参数后的多路径超网络的性能；

第一响应子单元，被配置为执行所述迭代训练操作中的如下步骤：响应于确定所述迭代更新参数后的多路径超网络的性能不满足第二预设条件，执行下一轮迭代训练操作；

第二响应子单元，被配置为执行所述迭代训练操作中的如下步骤：响应于确定所述迭代更新参数后的多路径超网络的性能满足所述第二预设条件，确定当前轮迭代训练操作更新参数后的多路径超网络为训练完成的多路径超网络。

8.根据权利要求7所述的装置，其中，所述更新子单元被配置为按照如下方式构建超网络的采样策略：按照所述多路径超网络中的各个分支，构建超网络的多路径均衡采样策略。

9.根据权利要求6或7所述的装置，其中，所述更新子单元被进一步配置为：

按照所述采样策略从所述多路径超网络中采样出至少两个尺度的子网络并基于样本数据中的训练数据训练各尺度的所述子网络；以及

所述搜索单元进一步被配置为按照如下方式搜索出目标神经网络模型的结构：

基于训练完成的多路径超网络，搜索出各尺度下性能信息满足第一预设条件的网络结构作为对应的各尺度的目标神经网络模型的结构。

10.根据权利要求6所述的装置，其中，所述装置还包括：

获取单元，被配置为根据所述训练完成的多路径超网络，获取所述目标神经网络模型的参数；

处理单元，被配置为基于所述目标神经网络模型的结构和参数，对与所述样本数据对应的待处理媒体数据进行处理。

11.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。

12.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。

Images