CN110826696A - 超网络的搜索空间构建方法、装置以及电子设备 - Google Patents
超网络的搜索空间构建方法、装置以及电子设备 Download PDFInfo
- Publication number
- CN110826696A CN110826696A CN201911051830.6A CN201911051830A CN110826696A CN 110826696 A CN110826696 A CN 110826696A CN 201911051830 A CN201911051830 A CN 201911051830A CN 110826696 A CN110826696 A CN 110826696A
- Authority
- CN
- China
- Prior art keywords
- feature map
- layer
- layer feature
- search space
- size
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000010276 construction Methods 0.000 title claims abstract description 26
- 238000010586 diagram Methods 0.000 claims abstract description 58
- 238000005070 sampling Methods 0.000 claims abstract description 32
- 238000013528 artificial neural network Methods 0.000 claims abstract description 12
- 238000000034 method Methods 0.000 claims description 28
- 230000015654 memory Effects 0.000 claims description 17
- 238000011176 pooling Methods 0.000 claims description 17
- 230000004927 fusion Effects 0.000 abstract description 5
- 230000006870 function Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种超网络的搜索空间构建方法、装置以及电子设备，涉及超网络搜索空间领域。具体实现方案为：对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，第L+1层特征图中包括多个尺寸的特征图；对第L层特征图中任意一个特征图，经过上采样得到第L‑1层特征图，第L+1层特征图中包括多个尺寸的特征图；根据第L层特征图、L+1层特征图以及第L‑1层特征图构建超网络的搜索空间，L大于或等于2。实现了多尺寸特征图的融合，有效扩大了超网络的搜索空间，能够搜索得到更多的模型结构。
Description
技术领域
本申请涉及一种计算机视觉领域，尤其涉及一种神经网络搜索领域。
背景技术
深度学习技术在很多方向上都取得了巨大的成功，最近几年NAS技术(NeuralArchitecture Search，神经网络架构搜索)成为研究热点。NAS是用算法代替繁琐的人工操作，在海量的搜索空间中自动搜索出最佳的神经网络架构。超网络的核心思想是通过参数共享的方式，可以同时训练大量网络结构，无需对每一个网络结构进行训练。目前，在超网络的搜索空间中进行模型结构自动搜索的时候，由于两个特征图层之间只能选择一条链路，导致单路径的超网络搜索空间受到限制，最终搜索得到的模型结构的性能较差。
发明内容
本申请实施例提供一种超网络的搜索空间构建方法、装置以及电子设备，以解决现有技术中的一个或多个技术问题。
第一方面，本申请实施方式提供了一种超网络的搜索空间构建方法，包括：
对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，第L+1层特征图中包括多个尺寸的特征图；
对第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，第L+1层特征图中包括多个尺寸的特征图；
根据第L层特征图、L+1层特征图以及第L-1层特征图构建超网络的搜索空间，L大于或等于2。
在本实施方式中，多个尺寸的特征图的各个特征图层，构成了超网络的多路径搜索空间。在超网络的多路径搜索空间中，实现了多尺寸特征图的融合，有效扩大了超网络的搜索空间，能够搜索得到更多的模型结构。
在一种实施方式中，对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，包括：
对第L层特征图中任意一个特征图，经过下采样的第一卷积操作，L+1层特征图的尺寸是第L层特征图中任意一个特征图的尺寸的1/(2N)倍，N为正整数。
本实施方式中，能够缩小特征图的尺寸，使得每层特征图中包含多种尺寸的特征图，以便于供更多的模型结构。
在一种实施方式中，对第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，包括：
对第L层特征图中任意一个特征图，经过上采样的第二卷积操作，得到的L-1层中的特征图的尺寸是第L层特征图中任意一个特征图的尺寸的2N倍，N为正整数。
本实施方式中，能够扩大特征图的尺寸，使得每层特征图中包含多种尺寸的特征图，以便于供更多的模型结构。
在一种实施方式中，下采样的第一卷积操作包括最大池化操作或平均池化操作，上采样的第二卷积操作包括双线性插值操作。
在一种实施方式中，还包括：
第L-1层特征图中的任意一个特征图，经过第三卷积操作得到第L层特征图中的尺寸不变的特征图；
第L层特征图中的任意一个特征图，经过第四卷积操作得到第L+1层中的尺寸不变的特征图。
第二方面，本申请实施方式提供了一种超网络的搜索空间构建装置，包括：
下采样模块，用于对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，第L+1层特征图中包括多个尺寸的特征图；
上采样模块，用于对第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，第L+1层特征图中包括多个尺寸的特征图；
搜索空间构建模块，用于根据第L层特征图、L+1层特征图以及第L-1层特征图构建超网络的搜索空间，L大于或等于2。
在一种实施方式中，上采样模块包括：
下采样单元，用于对第L层特征图中任意一个特征图，经过下采样的第一卷积操作，L+1层特征图的尺寸是第L层特征图中任意一个特征图的尺寸的1/(2N)倍，N为正整数。
在一种实施方式中，下采样模块包括：
上采样单元，用于对第L层特征图中任意一个特征图，经过上采样的第二卷积操作，得到的L-1层中的特征图的尺寸是第L层特征图中任意一个特征图的尺寸的2N倍，N为正整数。
在一种实施方式中，下采样的第一卷积操作包括最大池化操作或平均池化操作，上采样的第二卷积操作包括双线性插值操作。
在一种实施方式中，还包括：
第一单路径采样模块，用于第L-1层特征图中的任意一个特征图，经过第三卷积操作得到第L层特征图中的尺寸不变的特征图；
第二单路径采样模块，用于第L层特征图中的任意一个特征图，经过第四卷积操作得到第L+1层中的尺寸不变的特征图。
上述申请中的一个实施例具有如下优点或有益效果：因为采用每层特征图中包括有多个尺寸的特征图，构成了超网络的多路径搜索空间的技术手段，所以克服了搜索空间受限制的技术问题，进而达到多尺寸特征图的融合，有效扩大了超网络的搜索空间，能够搜索得到更多的模型结构的技术效果。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是根据本申请实施例提供的一种超网络的搜索空间构建方法流程示意图；
图2是根据本申请实施例提供的另一种超网络的搜索空间构建方法流程示意图；
图3是根据本申请实施例提供的一种超网络的搜索空间结构示意图；
图4是根据本申请实施例提供的一种超网络的搜索空间中位置图回归网络模型结构示意图；
图5是根据本申请实施例提供的一种超网络的搜索空间中高分辨率网络模型结构示意图；
图6是根据本申请实施例提供的一种超网络的搜索空间中沙漏网络模型结构示意图；
图7是根据本申请实施例提供的一种超网络的搜索空间构建装置结构框图；
图8是根据本申请实施例提供的另一种超网络的搜索空间构建装置结构框图；
图9是用来实现本申请实施例的一种超网络的搜索空间构建的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
实施例一…
在一种具体实施方式中，如图1所示，提供了一种超网络的搜索空间构建方法，包括如下步骤：
步骤S10：对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，第L+1层特征图中包括多个尺寸的特征图；
步骤S20：对第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，第L+1层特征图中包括多个尺寸的特征图；
步骤S30：根据第L层特征图、L+1层特征图以及第L-1层特征图构建超网络的搜索空间，L大于或等于2。
在一种实施方式中，深度神经网络可以包括输入层、隐藏层和输出层，每层当中有多个神经元，每层与每层之间的神经元相互连接，计算机视觉中，隐藏层主要用来提取特征，所以也可以叫特征图层。单路径每层只有一个特征图，从上一层特征图通过卷积操作得到下一层特征图，特征图的尺寸可以不变。多路径每层可以有多个特征图。可以在多层特征图之间，选择链路，最终得到搜索空间的模型结构。通过下采样能够缩小特征图的尺寸，使得每层特征图中包括多个尺寸的特征图。从下一层特征图通过卷积操作得到上一层特征图，通过上采样能够放大特征图的尺寸，使得每层特征图中包括多个尺寸的特征图。多个尺寸的特征图的各个特征图层，构成了超网络的多路径搜索空间。在超网络的多路径搜索空间中，实现了多尺寸特征图的融合，有效扩大了超网络的搜索空间，能够搜索得到更多的模型结构。
对于深度为L的超网络搜索空间，在第L-1层特征图中存在一个或一个以上的特征图与第L层特征图中的某一个特征图连接的情况下，第L层特征图中的此特征图可以与第L+1层特征图中的任意一个特征图连接。同时，第L层特征图中的此特征图与第L+1层特征图连接的特征图的个数大于或等于1。经过对第L层特征图中的任一个特征图与第L+1层特征图中的任一个特征图的特定连接的选择，可以得到多种单链路的连接方式，进而得到多种经典的结构模型。
在一种实施方式中，如图2所示，步骤S10，包括：
步骤S101：对第L层特征图中任意一个特征图，经过下采样的第一卷积操作，L+1层特征图的尺寸是第L层特征图中任意一个特征图的尺寸的1/(2N)倍，N为正整数。
在一种实施方式中，如图2所示，步骤S20，包括：
步骤S201：对第L层特征图中任意一个特征图，经过上采样的第二卷积操作，得到的L-1层中的特征图的尺寸是第L层特征图中任意一个特征图的尺寸的2N倍，N为正整数。
在一种实施方式中，下采样的第一卷积操作包括最大池化操作或平均池化操作，上采样的第二卷积操作包括双线性插值操作。
在一种示例中，如图3所示，箭头所指向的方向的一列可以称为一层，每层特征图中包括多个特征图，特征图可以称为节点。第一层特征图中包括节点1，第二层特征图包括节点2、节点3、节点4、节点5，第三层特征图包括节点6、节点7、节点8、节点9，以此类推，具体编号请参见图3。
下采样的第一卷积操作包括最大池化操作(max pooling)或平均池化操作(average_pooling)，当然，还可以是其它类型的上采样的操作，均在本实施方式的保护范围内。最大池化操作在尽量不丢失图像特征前期下，对图像进行下采样。具体的，整个图片被不重叠的分割成若干个同样大小的小块(pooling size)。每个小块内只取最大的数字，再舍弃其他节点后，保持原有的平面结构输出。如图3所示，节点1、节点2、节点6、节点10、节点14和节点18的尺寸相同。节点3、节点7、节点11、节点15的尺寸相同。节点4、节点8、节点12、节点16的尺寸相同。节点5、节点9、节点13、节点17的尺寸相同。向下采样，第一层中的节点1，尺寸为256*256，经过下采样得到第二层中的节点3、节点4、节点5。N＝1时，得到节点3的尺寸为128*128。N＝2时，得到节点4的尺寸为64*64。N＝3时，得到节点5的尺寸为32*32。同理，第二层中的节点2的尺寸和节点1的尺寸相同，都是256*256。节点2向下采样，得到节点7、节点8、节点9，尺寸分别为128*128、64*64、32*32。节点3向下采样，得到节点8、节点9。节点4向下采样，得到节点9。
上采样的第二卷积操作包括双线性插值操作，能够将特征图尺寸放大。当然，还可以是其它类型的上采样的操作，均在本实施方式的保护范围内。第三层中的节点5，尺寸为32*32。节点5向上采样，得到节点8、节点7、节点6。N＝1时，得到节点6的尺寸为256*256。N＝2时，得到节点7的尺寸为128*128。N＝3时，得8的到节点尺寸为64*64。同理，可以得到图3中其它上采样的节点。
如图4-6所示，列举了从本实施方式提供的多路径搜索空间中搜索得到的三种模型结构。图4所示，位置图回归网络模型结构(Position Map Regression Network)，图5所示，高分辨率网络模型结构(High-Resolution Net，HRNet)、图6所示，沙漏网络模型结构(Hourglass)。可以看出，本实施方式提供的多路径搜索空间可以包多种特殊的网络结构和普通的网络结构。有效扩大了搜索空间。
在一种实施方式中，如图2所示，还包括：
步骤S40：第L-1层特征图中的任意一个特征图，经过第三卷积操作得到第L层特征图中的尺寸不变的特征图，第L层特征图中的任意一个特征图，经过第四卷积操作得到第L+1层中的尺寸不变的特征图。
在一种示例中，如图3所示，可以选择第三卷积操作和第四卷积操作等操作，对上一层特征图进行卷积作用之后，得到的下一层特征图的尺寸不发生变化。需要指出的是，每层特征图中包含的节点数目可以自行设置，根据需要从搜索空间中得到模型结构的情况进行适应性调整，均在本实施方式的保护范围内。
实施例二
在另一种具体实施方式中，如图7所示，提供了一种超网络的搜索空间构建装置100，包括：
下采样模块110，用于对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，第L+1层特征图中包括多个尺寸的特征图；
上采样模块120，用于对第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，第L+1层特征图中包括多个尺寸的特征图；
搜索空间构建模块130，用于根据第L层特征图、L+1层特征图以及第L-1层特征图构建超网络的搜索空间，L大于或等于2。
在一种实施方式中，如图8所示，提供的一种超网络的搜索空间构建装置200，上采样模块110包括：
下采样单元111，用于对第L层特征图中任意一个特征图，经过下采样的第一卷积操作，L+1层特征图的尺寸是第L层特征图中任意一个特征图的尺寸的1/(2N)倍，N为正整数。
在一种实施方式中，如图8所示，下采样模块120包括：
上采样单元121，用于对第L层特征图中任意一个特征图，经过上采样的第二卷积操作，得到的L-1层中的特征图的尺寸是第L层特征图中任意一个特征图的尺寸的2N倍，N为正整数。
在一种实施方式中，下采样的第一卷积操作包括最大池化操作或平均池化操作，上采样的第二卷积操作包括双线性插值操作。
在一种实施方式中，如图8所示，还包括：
单路径采样模块140，用于第L-1层特征图中的任意一个特征图，经过第三卷积操作得到第L层特征图中的尺寸不变的特征图，第L层特征图中的任意一个特征图，经过第四卷积操作得到第L+1层中的尺寸不变的特征图。
本发明实施例各装置中的各模块的功能可以参见上述方法中的对应描述，在此不再赘述。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图9所示，是根据本申请实施例的一种超网络的搜索空间构建的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图9所示，该电子设备包括：一个或多个处理器901、存储器902，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示图形用户界面(Graphical User Interface，GUI)的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图9中以一个处理器901为例。
存储器902即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的一种超网络的搜索空间构建的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的一种超网络的搜索空间构建的方法。
存储器902作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的一种超网络的搜索空间构建的方法对应的程序指令/模块(例如，附图7所示的下采样模块110、上采样模块120和搜索空间构建模块130)。处理器901通过运行存储在存储器902中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的一种超网络的搜索空间构建的方法。
存储器902可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据一种超网络的搜索空间构建方法的电子设备的使用所创建的数据等。此外，存储器902可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器902可选包括相对于处理器901远程设置的存储器，这些远程存储器可以通过网络连接至一种超网络的搜索空间构建方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
一种超网络的搜索空间构建的方法的电子设备还可以包括：输入装置903和输出装置904。处理器901、存储器902、输入装置903和输出装置904可以通过总线或者其他方式连接，图9中以通过总线连接为例。
输入装置903可接收输入的数字或字符信息，以及产生与一种超网络的搜索空间构建方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置904可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(Liquid Cr9stal Displa9，LCD)、发光二极管(Light Emitting Diode，LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路(Application Specific Integrated Circuits，ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(programmable logic device，PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(Cathode Ray Tube，阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(Local Area Network，LAN)、广域网(Wide Area Network，WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案，多个尺寸的特征图的各个特征图层，构成了超网络的多路径搜索空间。在超网络的多路径搜索空间中，实现了多尺寸特征图的融合，有效扩大了超网络的搜索空间，能够搜索得到更多的模型结构。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (12)
1.一种超网络的搜索空间构建方法，其特征在于，包括：
对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，所述第L+1层特征图中包括多个尺寸的特征图；
对所述第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，所述第L+1层特征图中包括多个尺寸的特征图；
根据所述第L层特征图、所述L+1层特征图以及所述第L-1层特征图构建超网络的搜索空间，L大于或等于2。
2.根据权利要求1所述的方法，其特征在于，对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，包括：
对所述第L层特征图中任意一个特征图，经过下采样的第一卷积操作，所述L+1层特征图的尺寸是所述第L层特征图中任意一个特征图的尺寸的1/(2N)倍，N为正整数。
3.根据权利要求1所述的方法，其特征在于，对所述第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，包括：
对所述第L层特征图中任意一个特征图，经过上采样的第二卷积操作，得到的所述L-1层中的特征图的尺寸是所述第L层特征图中任意一个特征图的尺寸的2N倍，N为正整数。
4.根据权利要求2或3所述的方法，其特征在于，所述下采样的第一卷积操作包括最大池化操作或平均池化操作，所述上采样的第二卷积操作包括双线性插值操作。
5.根据权利要求1至3任一项所述的方法，其特征在于，还包括：
所述第L-1层特征图中的任意一个特征图，经过第三卷积操作得到所述第L层特征图中的尺寸不变的特征图；
所述第L层特征图中的任意一个特征图，经过第四卷积操作得到所述第L+1层中的尺寸不变的特征图。
6.一种超网络的搜索空间构建装置，其特征在于，包括：
下采样模块，用于对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，所述第L+1层特征图中包括多个尺寸的特征图；
上采样模块，用于对所述第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，所述第L+1层特征图中包括多个尺寸的特征图；
搜索空间构建模块，用于根据所述第L层特征图、所述L+1层特征图以及所述第L-1层特征图构建超网络的搜索空间，L大于或等于2。
7.根据权利要求6所述的装置，其特征在于，所述上采样模块包括：
下采样单元，用于对所述第L层特征图中任意一个特征图，经过下采样的第一卷积操作，所述L+1层特征图的尺寸是所述第L层特征图中任意一个特征图的尺寸的1/(2N)倍，N为正整数。
8.根据权利要求6所述的装置，其特征在于，所述下采样模块包括：
上采样单元，用于对所述第L层特征图中任意一个特征图，经过上采样的第二卷积操作，得到的所述L-1层中的特征图的尺寸是所述第L层特征图中任意一个特征图的尺寸的2N倍，N为正整数。
9.根据权利要求7或8所述的装置，其特征在于，所述下采样的第一卷积操作包括最大池化操作或平均池化操作，所述上采样的第二卷积操作包括双线性插值操作。
10.根据权利要求6至8任一项所述的装置，其特征在于，还包括：
第一单路径采样模块，用于所述第L-1层特征图中的任意一个特征图，经过第三卷积操作得到所述第L层特征图中的尺寸不变的特征图；
第二单路径采样模块，用于所述第L层特征图中的任意一个特征图，经过第四卷积操作得到所述第L+1层中的尺寸不变的特征图。
11.一种电子设备，其特征在于，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911051830.6A CN110826696B (zh) | 2019-10-30 | 2019-10-30 | 超网络的搜索空间构建方法、装置以及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911051830.6A CN110826696B (zh) | 2019-10-30 | 2019-10-30 | 超网络的搜索空间构建方法、装置以及电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110826696A true CN110826696A (zh) | 2020-02-21 |
| CN110826696B CN110826696B (zh) | 2023-06-27 |
Family
ID=69551667
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911051830.6A Active CN110826696B (zh) | 2019-10-30 | 2019-10-30 | 超网络的搜索空间构建方法、装置以及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110826696B (zh) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111325328A (zh) * | 2020-03-06 | 2020-06-23 | 上海商汤临港智能科技有限公司 | 神经网络的生成方法、数据处理方法及装置 |
| CN111582453A (zh) * | 2020-05-09 | 2020-08-25 | 北京百度网讯科技有限公司 | 生成神经网络模型的方法和装置 |
| CN111882035A (zh) * | 2020-07-21 | 2020-11-03 | 北京百度网讯科技有限公司 | 基于卷积核的超网络搜索方法、装置、设备和介质 |
| CN112100466A (zh) * | 2020-09-25 | 2020-12-18 | 北京百度网讯科技有限公司 | 生成搜索空间的方法、装置、设备及存储介质 |
| CN112580723A (zh) * | 2020-12-18 | 2021-03-30 | 北京百度网讯科技有限公司 | 多模型融合方法、装置、电子设备和存储介质 |
| CN113378786A (zh) * | 2021-07-05 | 2021-09-10 | 广东工业大学 | 一种超轻量目标检测网络和方法 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109284820A (zh) * | 2018-10-26 | 2019-01-29 | 北京图森未来科技有限公司 | 一种深度神经网络的结构搜索方法及装置 |
| CN109447247A (zh) * | 2018-10-23 | 2019-03-08 | 北京旷视科技有限公司 | 获得卷积神经网络的方法及装置 |
| CN109598332A (zh) * | 2018-11-14 | 2019-04-09 | 北京市商汤科技开发有限公司 | 神经网络生成方法及装置、电子设备和存储介质 |
| CN109902738A (zh) * | 2019-02-25 | 2019-06-18 | 深圳市商汤科技有限公司 | 网络模块和分配方法及装置、电子设备和存储介质 |
| CN110020667A (zh) * | 2019-02-21 | 2019-07-16 | 广州视源电子科技股份有限公司 | 神经网络结构的搜索方法、系统、存储介质以及设备 |
| US20190370648A1 (en) * | 2018-05-29 | 2019-12-05 | Google Llc | Neural architecture search for dense image prediction tasks |
-
2019
- 2019-10-30 CN CN201911051830.6A patent/CN110826696B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190370648A1 (en) * | 2018-05-29 | 2019-12-05 | Google Llc | Neural architecture search for dense image prediction tasks |
| CN109447247A (zh) * | 2018-10-23 | 2019-03-08 | 北京旷视科技有限公司 | 获得卷积神经网络的方法及装置 |
| CN109284820A (zh) * | 2018-10-26 | 2019-01-29 | 北京图森未来科技有限公司 | 一种深度神经网络的结构搜索方法及装置 |
| CN109598332A (zh) * | 2018-11-14 | 2019-04-09 | 北京市商汤科技开发有限公司 | 神经网络生成方法及装置、电子设备和存储介质 |
| CN110020667A (zh) * | 2019-02-21 | 2019-07-16 | 广州视源电子科技股份有限公司 | 神经网络结构的搜索方法、系统、存储介质以及设备 |
| CN109902738A (zh) * | 2019-02-25 | 2019-06-18 | 深圳市商汤科技有限公司 | 网络模块和分配方法及装置、电子设备和存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 谢浩等: "基于强化学习的自动化神经网络设计", 《信息技术与信息化》 * |
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111325328A (zh) * | 2020-03-06 | 2020-06-23 | 上海商汤临港智能科技有限公司 | 神经网络的生成方法、数据处理方法及装置 |
| CN111325328B (zh) * | 2020-03-06 | 2023-10-24 | 上海商汤临港智能科技有限公司 | 神经网络的生成方法、数据处理方法及装置 |
| CN111582453A (zh) * | 2020-05-09 | 2020-08-25 | 北京百度网讯科技有限公司 | 生成神经网络模型的方法和装置 |
| CN111582453B (zh) * | 2020-05-09 | 2023-10-27 | 北京百度网讯科技有限公司 | 生成神经网络模型的方法和装置 |
| CN111882035A (zh) * | 2020-07-21 | 2020-11-03 | 北京百度网讯科技有限公司 | 基于卷积核的超网络搜索方法、装置、设备和介质 |
| CN112100466A (zh) * | 2020-09-25 | 2020-12-18 | 北京百度网讯科技有限公司 | 生成搜索空间的方法、装置、设备及存储介质 |
| CN112580723A (zh) * | 2020-12-18 | 2021-03-30 | 北京百度网讯科技有限公司 | 多模型融合方法、装置、电子设备和存储介质 |
| CN112580723B (zh) * | 2020-12-18 | 2023-09-22 | 北京百度网讯科技有限公司 | 多模型融合方法、装置、电子设备和存储介质 |
| CN113378786A (zh) * | 2021-07-05 | 2021-09-10 | 广东工业大学 | 一种超轻量目标检测网络和方法 |
| CN113378786B (zh) * | 2021-07-05 | 2023-09-19 | 广东省机场集团物流有限公司 | 一种超轻量目标检测网络和方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110826696B (zh) | 2023-06-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110826696A (zh) | 超网络的搜索空间构建方法、装置以及电子设备 | |
| CN111079938B (zh) | 问答阅读理解模型获取方法、装置、电子设备及存储介质 | |
| CN110766089A (zh) | 超网络的模型结构采样方法、装置以及电子设备 | |
| US11995560B2 (en) | Method and apparatus for generating vector representation of knowledge graph | |
| CN111598131B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
| CN111667057B (zh) | 用于搜索模型结构的方法和装置 | |
| CN110569972A (zh) | 超网络的搜索空间构建方法、装置以及电子设备 | |
| CN111832701B (zh) | 模型的蒸馏方法、装置、电子设备及存储介质 | |
| CN111275190A (zh) | 神经网络模型的压缩方法及装置、图像处理方法及处理器 | |
| US11983849B2 (en) | Image filling method and apparatus, device, and storage medium | |
| CN110648293B (zh) | 图像修复方法、装置及电子设备 | |
| CN111680600B (zh) | 人脸识别模型处理方法、装置、设备和存储介质 | |
| CN110852449A (zh) | 模型迁移方法和电子设备 | |
| CN111652434B (zh) | 路网数据处理方法、装置、电子设备及计算机存储介质 | |
| CN111783951B (zh) | 基于超网络的模型获取方法、装置、设备及存储介质 | |
| CN111652354B (zh) | 用于训练超网络的方法、装置、设备以及存储介质 | |
| CN111680597A (zh) | 人脸识别模型处理方法、装置、设备和存储介质 | |
| CN110598629B (zh) | 超网络的搜索空间构建方法、装置以及电子设备 | |
| CN112580723B (zh) | 多模型融合方法、装置、电子设备和存储介质 | |
| CN111680599B (zh) | 人脸识别模型处理方法、装置、设备和存储介质 | |
| CN111160552A (zh) | 负采样处理方法、装置、设备和计算机存储介质 | |
| CN113553857B (zh) | 文本处理方法和文本处理装置 | |
| JP7269979B2 (ja) | 歩行者を検出するための方法及び装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム | |
| CN111523664A (zh) | 超网络参数更新方法、装置和电子设备 | |
| CN111680598B (zh) | 人脸识别模型处理方法、装置、设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |