CN111582454B - 生成神经网络模型的方法和装置 - Google Patents

Abstract

本申请涉及人工智能领域，公开了生成神经网络模型的方法和装置。该方法包括：构建包含多个卷积层的超网络，超网络的每一个卷积层包括第一分支和第二分支，第一分支包括第一卷积核，第二分支包括第一卷积核以及至少一个第二卷积核，第一卷积核为对称结构，第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个，第二分支的输出由第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加后得到；获取样本数据，并基于样本数据对超网络进行训练；从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型。该方法实现了卷积神经网络结构的优化。

Description

生成神经网络模型的方法和装置

技术领域

本公开的实施例涉及计算机技术领域，具体涉及人工智能技术领域，尤其涉及生成神经网络模型的方法和装置。

背景技术

随着人工智能技术和数据存储技术的发展，深度神经网络在许多领域的任务中取得了重要的成果。其中，卷积神经网络因具有良好的特征辨识和提取能力，可处理复杂场景的问题等优势而被广泛应用。

卷积神经网络的结构对深度学习任务的性能具有直接的影响。目前，卷积神经网络结构的设计主要集中于层与层之间的连接方式。传统的卷积神经网络结构设计中，通常采用对称卷积核来提取待处理数据(例如图像)的各个方向和各个尺度的特征。

发明内容

本公开的实施例提供了生成神经网络模型的方法和装置、电子设备以及计算机可读存储介质。

根据第一方面，提供了一种生成神经网络模型的方法，包括：构建包含多个卷积层的超网络，超网络的每一个卷积层包括第一分支和第二分支，第一分支包括第一卷积核，第二分支包括第一卷积核以及至少一个第二卷积核，第一卷积核为对称结构，第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个，第二分支的输出由第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加得到；获取样本数据，并基于样本数据对超网络进行训练；从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型。

根据第二方面，提供了一种生成神经网络模型的装置，包括：构建单元，被配置为构建包含多个卷积层的超网络，超网络的每一个卷积层包括第一分支和第二分支，第一分支包括第一卷积核，第二分支包括第一卷积核以及至少一个第二卷积核，第一卷积核为对称结构，第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个，第二分支的输出由第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加得到；训练单元，被配置为获取样本数据，并基于样本数据对超网络进行训练；确定单元，被配置为从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型。

根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行第一方面提供的生成神经网络模型的方法。

根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行第一方面提供的生成神经网络模型的方法。

根据本申请的技术通过构建并训练包含非对称卷积核的超网络，实现了卷积神经网络结构的自动优化。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开的生成神经网络模型的方法的一个实施例的流程图；

图2是本公开的实施例的中的超网络的一个结构示意图；

图3是超网络中的一个卷积层的结构示意图；

图4是从训练完成的超网络中采样出目标神经网络模型的一个流程的示意图；

图5是本公开的生成神经网络模型的装置的一个实施例的结构示意图；

图6是用来实现本公开的实施例的生成神经网络模型的方法的电子设备的框图。

具体实施方式

下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

本公开的方法或装置可以应用于终端设备或服务器，或者可以应用于包括终端设备、网络和服务器的系统架构。其中，网络用以在终端设备和服务器之间提供通信链路的介质，可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

终端设备可以是用户端设备，其上可以安装有各种客户端应用。例如，图像处理类应用、搜索应用、语音服务类应用等。终端设备可以是硬件，也可以是软件。当终端设备为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器可以是运行各种服务的服务器，例如运行基于图像、视频、语音、文本、数字信号等数据的目标检测与识别、文本或语音识别、信号转换等服务的服务器。服务器可以获取各种媒体数据作为深度学习任务的训练样本数据，如图像数据、音频数据、文本数据等。服务器还可以根据具体的深度学习任务，利用训练样本数据训练超网络，并从超网络中采样出子网络进行评估，根据各子网络的评估结果确定用于执行上述深度学习任务的神经网络模型的结构和参数。

服务器还可以将确定出的神经网络模型的结构和参数等数据发送至终端设备。终端设备根据接收到的数据在本地部署并运行神经网络模型，以执行相应的深度学习任务。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开的实施例所提供的生成神经网络模型的方法可以由终端设备或服务器执行，相应地，生成神经网络模型的装置可以设置于终端设备或服务器中。

请参考图1，其示出了根据本公开的生成神经网络模型的方法的一个实施例的流程100。该生成神经网络模型的方法，包括：

步骤101，构建包含多个卷积层的超网络。

可以根据卷积神经网络的网络结构搜索空间构建超网络，其中网络结构搜索空间由卷积神经网络的各种网络结构单元的构建，例如包含不同尺寸的卷积核的卷积模块、单个卷积层、池化层、全连接层、分类器，等等。超网络的每一层可以包含至少一个分支，每一个分支对应一个可选的网络结构单元，相邻层之间的网络结构单元可以两两连接。通过在超网络进行路径采样，在每一层采样一个网络结构单元与上一层采样的网络结构单元相连接，可以形成一个子网络。超网络的每一个连接对应一个或一组参数，超网络内部所有的网络结构在构建不同的子网络时共享参数。

请参考图2，其示出了超网络的一个结构示意图。如图2所示，多路径超网络包含多个层，其中包括卷积层、非线性层、分类器层等等，图2示意性地示出了其中的21、22、23、24四个卷积层。其中每个卷积层可以包括多个分支，例如图2中层21包括四个分支211、212、213、214。在采样子网络时，通过在超网络中的每一个层选择一个分支，与其他层中选出的分支相连接、堆叠形成完整的卷积神经网络的结构。

在本实施例中，超网络的每一个卷积层包括第一分支和第二分支。其中，第一分支包括第一卷积核，第二分支包括第一卷积核和至少一个第二卷积核。第一卷积核为对称结构，第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个。第二卷积核可以为非对称结构，且各第二卷积核的尺寸不超过第一卷积核的尺寸。

对称结构的卷积核是指长度和高度相同的卷积核，即尺寸为a×a的卷积核，其中a为任意正整数。非对称的卷积核是指尺寸为b×c的卷积核，其中b、c为不相等任意正整数。在本实施例中，第二卷积核可以通过将第一卷积核沿其长度或高度方向拆分来获得，例如，第一卷积核尺寸为a×a，沿其长度方向拆分为a个a×1的子卷积核，取其中一个a×1的子卷积核作为同一分支中的一个第二卷积核；沿第一卷积核的高度方向拆分为a个1×a的子卷积核，取其中一个1×a的的子卷积核作为同一分支中的另一个第二卷积核。或者，第一卷积核尺寸为a×a，沿其长度方向拆分出一个a×d的子卷积核来构建对应的第二卷积核，其中d为小于a大于1的正整数。

需要说明的是，第一卷积核的拆分方式并不限于以上示例中的拆分方式，第二卷积核可以是任意一个由第一卷积核拆分得到的子卷积核。在本实施例中，第一分支的卷积核为对称结构，第二分支可以包括非对称结构的卷积核，并且第二卷积核的尺寸不超过第一卷积核的尺寸，也即，第二卷积核在卷积核尺寸的两个方向上的长度都不超过第一卷积核在对应方向上的长度。例如第一卷积核尺寸为a×a，第二卷积核尺寸为b×c，其中，b、c均不大于a。并且，第二分支的输出由第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加得到。

可选地，若一个第二分支中包含至少两个第二卷积核，则同一第二分支中的各第二卷积核的尺寸可以互不相同。例如，同一卷积层的第一分支和第二分支中，第一卷积核的尺寸为M×M，第二卷积核的尺寸为1×M或者M×1，M为大于1的正整数。在这里，尺寸为1×M的第二卷积核可以是从同一第二分支中的第一卷积核(尺寸为M×M)中取一行得到的，尺寸为M×1的第二卷积核可以是从同一第二分支中的第一卷积核(尺寸为M×M)中取一列得到的。这种卷积核的拆分方式获得的第二分支的结构可以有效地提取输入数据的各个方向的特征。

图3以第一卷积核的尺寸为3×3为例，示出了超网络的一个卷积层的第一分支F1和第二分支F2的结构。其中，第一分支仅包含一个3×3的卷积核，输入该第一分支的图像等数据I经过一个3×3的卷积核运算后输出O；第二分支包括三个卷积核，尺寸分别为3×3、3×1、1×3，并且第二分支中三个卷积核对输入数据I并行运算、对三个卷积核的运算结果叠加后输出O。

需要说明的是，在本实施例的其他可选的实现方式中，同一第二分支中的不同第二卷积核的尺寸可以相同。例如，可以将尺寸为3×3的第一卷积核拆分为3个1×3的子卷积核，将每一个1×3的子卷积核分别作为该与第一卷积核在同一第二分支中的一个第二卷积核。

从图3可以看出，超网络中卷积层两个分支中，第一分支采用对称的独立卷积核，第二分支将独立卷积核的运算结果与对该独立卷积核拆分得到的子卷积核的运算结果并行相叠加。一方面，第二分支中增加了第二卷积核的并行运算，对于一些输入数据能够提取出有更好的表达能力的特征，从而帮助提升卷积神经网络的性能。另一方面，本实施例考虑了将对称的第一卷积核的运算替换为第一卷积核和第二卷积核的并行运算后，可能带来卷积神经网络训练时间的增加，使得卷积神经网络训练过程难以收敛到很好的效果的问题，通过保留原有的对称的独立卷积核作为第一分支来避免训练效率降低的问题。

因此，本实施例的超网络的结构提供了卷积层的两种不同结构，一种结构保留传统的卷积神经网络中的对称卷积核，另一种结构将对称卷积核替换为包含对称卷积核以及其子卷积核并行运算的结构。这样，在基于训练完成的超网络搜索最优的神经网络结构时，可以灵活地组合不同卷积层中的两种不同结构，避免直接将所有的对称卷积核都替换为包含对称卷积核以及其子卷积核并行运算的结构带来的收敛效果差的问题。

步骤102，获取样本数据，并基于样本数据对超网络进行训练。

可以获取深度学习任务的样本数据。在这里，样本数据可以是图像、视频、文本、音频等媒体数据。样本数据可以包括相应深度学习任务的标注信息，例如人脸识别任务中，样本图像数据包括人脸对应的用户身份标识，目标检测任务中，样本图像数据包括目标对象的位置标注信息。

可以首先初始化超网络的各个参数，然后通过在超网络中随机地采样出子网络，通过对各子网络进行训练来优化子网络的参数，从而对超网络中对应的参数进行优化。在经过多轮子网络采样、子网络训练后超网络中的参数也经过了多轮优化。并且可以按照一定的均衡采样策略进行采样，使超网络中不同分支之间的连接对应的参数都经过多次迭代优化。

在本实施例的一些可选的实现方式中，可以通过执行多次迭代操作来训练超网络。

在每一次迭代操作中，首先，从超网络中采样出用于训练超网络的子网络构成第一子网络集合。具体可以按照预设的采样策略(例如各个分支均衡采样、不同卷积层的分支之间的连接均衡采样)从超网络中采样出至少一个子网络构成第一子网络集合。然后，基于样本数据对第一子网络集合中的各个子网络分别进行训练。具体可以构建用于监督子网络训练的目标函数，基于目标函数迭代更新子网络的参数，在子网络达到预设的收敛条件时停止迭代更新，得到训练完成的子网络。而后，根据训练完成的第一子网络集合中的子网络的参数更新超网络中的对应参数，即，将训练完成的第一子网络集合中的子网络的参数同步至超网络中对应的连接。之后，从更新参数后的超网络中采样出用于测试超网络性能的子网络构成第二子网络集合，测试第二子网络集合中的子网络的性能以确定更新参数后的超网络的性能。在这里，第二子网络集合的采样策略可以与第一子网络集合的采样策略相同，或者可以随机地从更新参数后的超网络中采样出至少一个子网络来构建第二子网络集合。可以利用测试数据集测试第二子网络集合中的子网络的性能，作为当前更新参数后的超网络的性能。之后，响应于确定更新参数后的超网络的性能未达到预设的收敛条件，基于更新参数后的超网络执行下一轮迭代操作；响应于确定更新参数后的超网络的性能达到预设的收敛条件，将当前迭代操作中的更新参数后的超网络作为训练完成的超网络。在每一轮迭代操作中可以根据预设的采样策略采样出不同的子网络来构建第一子网络集合。这样，通过多次迭代操作可以实现对超网络中各个连接对应的参数的优化更新。

步骤103，从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型。

可以利用训练完成的超网络进行多种不同卷积神经网络的结构采样，得到多个候选卷积神经网络的网络结构。其中，候选卷积神经网络的网络结构可以通过已训练的用于从超网络中采样子网络的循环神经网络等模型采样得出。可以获取训练完成的超网络中采样出的各个候选卷积神经网络的网络结构对应的参数，构建对应的各个候选卷积神经网络。

然后，利用各个候选卷积神经网络执行相应的深度学习任务，并评估各个候选卷积神经网络的性能。可以选择性能信息满足第一预设条件的神经网络模型作为目标神经网络模型。在这里，第一预设条件可以是性能信息所表征的性能最优、或者性能信息中某一项或多项性能指标达到预设的阈值。

请参考图4，其示出了从训练完成的超网络中采样出目标神经网络模型的一个流程400的示意图。

如图4所示，上述流程400包括迭代执行搜索操作。搜索操作具体包括步骤401、步骤402、步骤403和步骤404。

在步骤401中，采用子网络采样控制器从训练完成的超网络中采样出至少一个子网络作为候选神经网络。

子网络采样控制器可以是经过预训练或未经过训练的神经网络模型，如循环神经网络模型。子网络采样控制器也可以实现为遗传算法、强化学习算法、模拟退火算法等。子网络采样控制器用于根据训练完成的超网络生成子网络结构的编码。在这里，子网络采样控制器可以根据反馈信息更新其采样策略，反馈信息可以表征采样出的子网络的性能，这样，根据反馈信息更新后的子网络采样控制器能够采样出性能更好的子网络。

在本实施例中，可以构建超网络结构的编码空间，在子网络采样控制器根据超网络结构的编码空间输出子网络结构的编码之后，对该编码解码即可得到子网络的结构。然后，将超网络中对应的参数同步至采样出的子网络的结构中得到候选神经网络。

在步骤402中，测试各候选神经网络的性能，根据各候选神经网络的性能生成反馈信息。

可以利用测试数据集测试各个候选神经网络的性能。需要说明的是，由于超网络已经训练完成，通过采样训练完成的超网络得到的候选神经的参数无需再进行迭代更新，可以直接将其作为训练完成的神经网络模型来测试其性能。

可以根据候选神经网络的性能生成反馈信息。在这里，衡量性能的指标可以包括执行相应深度学习任务的精度、在预设阈值下的召回率、硬件延时、内存占用率，等等。可以上述各种性能指标归一化并转换为反馈信息，例如将性能指标的归一化值作为反馈值。反馈值越大，对应的性能越好。

在步骤403中，响应于确定反馈信息所表征的候选神经网络的性能不满足预设的第一条件，基于反馈信息更新子网络采样控制器，并基于更新后的子网络采样控制器执行下一次搜索操作。

上述第一预设条件是搜索停止的条件。可以根据反馈信息判断候选神经网络的性能是否满足第一预设条件，例如可以判断候选神经网络的精度是否达到预设的精度阈值，或者判断精度的增长率是否连续多轮未超过增长率阈值，在这里，精度的增长率是指当前搜索操作中候选神经网络的精度相对于上一轮搜索操作中的候选神经网络的精度的增长率。

若当前搜索出的候选神经网络的性能不满足预设的第一条件，则可以将反馈信息前向反馈至子网络采样控制器，以使子网络采样控制器更新参数或更新采样策略，并返回步骤401，基于更新后的参数或采样策略执行下一次搜索操作。

在步骤404中，响应于确定反馈信息所表征的候选神经网络的信息满足预设的第一条件，将性能满足预设的第一条件的候选神经网络确定为目标神经网络模型。

若当前搜索出的候选神经网络的性能不满足预设的第一条件，则可以将性能满足第一预设条件的候选神经网络确定为目标神经网络模型。

这样，通过多次搜索操作，根据从超网络中采样出的候选神经网络的性能不断优化子网络采样方法，能够自动地搜索出性能较好的目标神经网络模型。

本公开上述实施例的生成神经网络模型的方法，通过在超网络中构建包括将原卷积核拆分为至少两个卷积核并行运算的结构的分支，可以利用这种分支的较强的特征提取能力来优化超网络的搜索空间，从而帮助提升基于超网络搜索出的用于执行深度学习任务的卷积神经网络的性能，同时解决了将卷积神经网络中的对称卷积核都替换为包含非对称卷积核的卷积模块结构带来的训练效率低的问题。

在上述实施例的一些可选的实现方式中，上述生成神经网络模型的方法还可以包括获取与样本数据对应的待处理媒体数据，利用目标神经网络模型对待处理媒体数据进行处理的步骤。其中，待处理媒体数据例如为图像数据、文本数据等。在将上述方法应用于具体的深度学习任务中，例如人脸识别任务中时，可以将对应的待处理媒体数据(如人脸图像)输入至目标神经网络模型，得到处理结果。

由于目标神经网络模型是基于上述训练完成的超网络采样得出的，具有较强的特征提取能力，能够获得更准确的媒体数据的处理结果。

请参考图5，作为对上述生成神经网络模型的方法的实现，本公开提供了一种生成神经网络模型的装置的一个实施例，该装置实施例与上述各方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例的生成神经网络模型的装置500包括构建单元501、训练单元502以及确定单元503。其中，构建单元501被配置为构建包含多个卷积层的超网络，超网络的每一个卷积层包括第一分支和第二分支，第一分支包括第一卷积核，第二分支包括第一卷积核以及至少一个第二卷积核，第一卷积核为对称结构，第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个，第二分支的输出由第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加得到；训练单元502被配置为获取样本数据，并基于样本数据对超网络进行训练；确定单元503被配置为从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型。

在一些实施例中，上述训练单元502被配置为通过执行迭代操作对超网络进行训练：训练单元502包括：第一采样子单元，被配置为执行迭代操作中的如下步骤：从超网络中采样出用于训练超网络的子网络构成第一子网络集合；训练子单元，被配置为执行迭代操作中的如下步骤：基于样本数据对第一子网络集合中的各个子网络分别进行训练；更新单元，被配置为执行迭代操作中的如下步骤：根据训练完成的第一子网络集合中的子网络的参数更新超网络中的对应参数；第二采样子单元，被配置为执行迭代操作中的如下步骤：从更新参数后的超网络中采样出用于测试超网络性能的子网络构成第二子网络集合；第一测试单元，被配置为执行迭代操作中的如下步骤：测试第二子网络集合中的子网络的性能以确定更新参数后的超网络的性能；第一反馈单元，被配置为执行迭代操作中的如下步骤：响应于确定更新参数后的超网络的性能未达到预设的收敛条件，基于更新参数后的超网络执行下一轮迭代操作；第一确定子单元，被配置为执行迭代操作中的如下步骤：响应于确定更新参数后的超网络的性能达到预设的收敛条件，将当前迭代操作中的更新参数后的超网络作为训练完成的超网络。

在一些实施例中，上述确定单元503被配置为迭代执行搜索操作；确定单元503包括：第三采样单元，被配置为执行搜索操作中的如下步骤：采用子网络采样控制器从训练完成的超网络中采样出至少一个子网络作为候选神经网络；第二测试单元，被配置为执行搜索操作中的如下步骤：测试各候选神经网络的性能，根据各候选神经网络的性能生成反馈信息；第二反馈单元，被配置为执行搜索操作中的如下步骤：响应于确定反馈信息所表征的候选神经网络的性能不满足预设的第一条件，基于反馈信息更新子网络采样控制器，并基于更新后的子网络采样控制器执行下一次搜索操作；第二确定子单元，被配置为执行搜索操作中的如下步骤：响应于确定反馈信息表征的候选神经网络的性能满足预设的第一条件，将性能满足预设的第一条件的候选神经网络确定为目标神经网络模型。

在一些实施例中，上述第一卷积核的尺寸为M×M，同一第二分支中的各第二卷积核的尺寸不相同，第二卷积核的尺寸为1×M或者M×1，M为大于1的正整数。

在一些实施例中，上述装置还包括：处理单元，被配置为获取与样本数据对应的待处理媒体数据，利用目标神经网络模型对待处理媒体数据进行处理。

上述装置500与前述方法实施例中的步骤相对应。由此，上文针对生成神经网络模型的方法描述的操作、特征及所能达到的技术效果同样适用于装置500及其中包含的单元，在此不再赘述。

根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。

如图6所示，是根据本申请实施例的生成神经网络模型的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图6所示，该电子设备包括：一个或多个处理器601、存储器602，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。

存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的生成神经网络模型的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的生成神经网络模型的方法。

存储器602作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的生成神经网络模型的方法对应的程序指令/单元/模块(例如，附图5所示的构建单元501、训练单元502以及确定单元503)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的生成神经网络模型的方法。

存储器602可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据用于生成神经网络的结构的电子设备的使用所创建的数据等。此外，存储器602可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器602可选包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至用于生成神经网络的结构的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

生成神经网络模型的方法的电子设备还可以包括：输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线605或者其他方式连接，图6中以通过总线605连接为例。

输入装置603可接收输入的数字或字符信息，以及产生与用于生成神经网络的结构的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置Y04可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种生成神经网络模型的方法，应用于人脸识别任务，包括：

构建包含多个卷积层的超网络，所述超网络的每一个卷积层包括第一分支和第二分支，所述第一分支包括第一卷积核，所述第二分支包括所述第一卷积核以及至少一个第二卷积核，所述第一卷积核为对称结构，所述第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个，所述第二分支的输出由所述第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加得到；

获取样本数据，并基于样本数据对所述超网络进行训练，其中，所述样本数据包括图像数据和所述图像数据中人脸对应的用户身份标识；

从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型；

所述方法还包括：

获取与所述样本数据对应的待处理媒体数据，所述待处理媒体数据包括人脸图像；

将所述待处理媒体数据输入至所述目标神经网络模型，得到处理结果。

2.根据权利要求1所述的方法，其中，所述基于样本数据对所述超网络进行训练，包括：

执行如下迭代操作：

从超网络中采样出用于训练超网络的子网络构成第一子网络集合；

基于所述样本数据对第一子网络集合中的各个子网络分别进行训练；

根据训练完成的第一子网络集合中的子网络的参数更新所述超网络中的对应参数；

从更新参数后的超网络中采样出用于测试超网络性能的子网络构成第二子网络集合；

测试所述第二子网络集合中的子网络的性能以确定所述更新参数后的超网络的性能；

响应于确定所述更新参数后的超网络的性能未达到预设的收敛条件，基于更新参数后的超网络执行下一轮迭代操作；

响应于确定所述更新参数后的超网络的性能达到预设的收敛条件，将当前迭代操作中的所述更新参数后的超网络作为训练完成的超网络。

3.根据权利要求1所述的方法，其中，所述从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型，包括迭代执行搜索操作；

所述搜索操作包括：

采用子网络采样控制器从所述训练完成的超网络中采样出至少一个子网络作为候选神经网络；

测试各候选神经网络的性能，根据各候选神经网络的性能生成反馈信息；

响应于确定所述反馈信息所表征的候选神经网络的性能不满足预设的第一条件，基于所述反馈信息更新所述子网络采样控制器，并基于更新后的子网络采样控制器执行下一次搜索操作；

响应于确定所述反馈信息表征的候选神经网络的性能满足预设的第一条件，将性能满足所述预设的第一条件的候选神经网络确定为所述目标神经网络模型。

4.根据权利要求1所述的方法，其中，所述第一卷积核的尺寸为M×M，同一第二分支中的各第二卷积核的尺寸不相同，所述第二卷积核的尺寸为1×M或者M×1，M为大于1的正整数。

5.根据权利要求1-4任一项所述的方法，其中，所述方法还包括：

获取与所述样本数据对应的待处理媒体数据，利用所述目标神经网络模型对所述待处理媒体数据进行处理。

6.一种生成神经网络模型的装置，应用于人脸识别任务，包括：

构建单元，被配置为构建包含多个卷积层的超网络，所述超网络的每一个卷积层包括第一分支和第二分支，所述第一分支包括第一卷积核，所述第二分支包括所述第一卷积核以及至少一个第二卷积核，所述第一卷积核为对称结构，所述第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个，所述第二分支的输出由所述第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加得到；

训练单元，被配置为获取样本数据，并基于样本数据对所述超网络进行训练，其中，所述样本数据包括图像数据和所述图像数据中人脸对应的用户身份标识；

确定单元，被配置为从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型；

执行以下操作的单元：

获取与所述样本数据对应的待处理媒体数据，所述待处理媒体数据包括人脸图像；

将所述待处理媒体数据输入至所述目标神经网络模型，得到处理结果。

7.根据权利要求6所述的装置，其中，所述训练单元被配置为通过执行迭代操作对所述超网络进行训练：

所述训练单元包括：

第一采样子单元，被配置为执行迭代操作中的如下步骤：从超网络中采样出用于训练超网络的子网络构成第一子网络集合；

训练子单元，被配置为执行迭代操作中的如下步骤：基于所述样本数据对第一子网络集合中的各个子网络分别进行训练；

更新单元，被配置为执行迭代操作中的如下步骤：根据训练完成的第一子网络集合中的子网络的参数更新所述超网络中的对应参数；

第二采样子单元，被配置为执行迭代操作中的如下步骤：从更新参数后的超网络中采样出用于测试超网络性能的子网络构成第二子网络集合；

第一测试单元，被配置为执行迭代操作中的如下步骤：测试所述第二子网络集合中的子网络的性能以确定所述更新参数后的超网络的性能；

第一反馈单元，被配置为执行迭代操作中的如下步骤：响应于确定所述更新参数后的超网络的性能未达到预设的收敛条件，基于更新参数后的超网络执行下一轮迭代操作；

第一确定子单元，被配置为执行迭代操作中的如下步骤：响应于确定所述更新参数后的超网络的性能达到预设的收敛条件，将当前迭代操作中的所述更新参数后的超网络作为训练完成的超网络。

8.根据权利要求6所述的装置，其中，所述确定单元被配置为迭代执行搜索操作；

所述确定单元包括：

第三采样单元，被配置为执行搜索操作中的如下步骤：采用子网络采样控制器从所述训练完成的超网络中采样出至少一个子网络作为候选神经网络；

第二测试单元，被配置为执行搜索操作中的如下步骤测试各候选神经网络的性能，根据各候选神经网络的性能生成反馈信息；

第二反馈单元，被配置为执行搜索操作中的如下步骤：响应于确定所述反馈信息所表征的候选神经网络的性能不满足预设的第一条件，基于所述反馈信息更新所述子网络采样控制器，并基于更新后的子网络采样控制器执行下一次搜索操作；

第二确定子单元，被配置为执行搜索操作中的如下步骤：响应于确定所述反馈信息表征的候选神经网络的性能满足预设的第一条件，将性能满足所述预设的第一条件的候选神经网络确定为所述目标神经网络模型。

9.根据权利要求6所述的装置，其中，所述第一卷积核的尺寸为M×M，同一第二分支中的各第二卷积核的尺寸不相同，所述第二卷积核的尺寸为1×M或者M×1，M为大于1的正整数。

10.根据权利要求6-9任一项所述的装置，其中，所述装置还包括：

处理单元，被配置为获取与所述样本数据对应的待处理媒体数据，利用所述目标神经网络模型对所述待处理媒体数据进行处理。

11.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。

12.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。