CN113283426A - 基于多目标神经网络搜索的嵌入式目标检测模型生成方法 - Google Patents
基于多目标神经网络搜索的嵌入式目标检测模型生成方法 Download PDFInfo
- Publication number
- CN113283426A CN113283426A CN202110478018.2A CN202110478018A CN113283426A CN 113283426 A CN113283426 A CN 113283426A CN 202110478018 A CN202110478018 A CN 202110478018A CN 113283426 A CN113283426 A CN 113283426A
- Authority
- CN
- China
- Prior art keywords
- network
- search
- model
- embedded
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 136
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 21
- 230000008569 process Effects 0.000 claims abstract description 18
- 238000012360 testing method Methods 0.000 claims abstract description 16
- 230000002787 reinforcement Effects 0.000 claims abstract description 14
- 238000012549 training Methods 0.000 claims description 17
- 238000011156 evaluation Methods 0.000 claims description 10
- 238000005457 optimization Methods 0.000 claims description 10
- 238000005070 sampling Methods 0.000 claims description 10
- 238000012795 verification Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 7
- 230000006870 function Effects 0.000 claims description 6
- 230000004927 fusion Effects 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 2
- 230000001629 suppression Effects 0.000 claims description 2
- 238000013135 deep learning Methods 0.000 description 5
- 238000013461 design Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000013210 evaluation model Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000011897 real-time detection Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明公开一种基于多目标神经网络搜索的嵌入式目标检测模型生成方法，选择嵌入式目标检测模型的基础检测结构并设定搜索空间；构建包含搜索空间中所有子网络的超网络；将训练好的超网络联合设定好的检测头在目标检测数据集上进行微调；在搜索前通过批量枚举搜索空间中的子网络，自动构建可推理的模型，并将模型部署到嵌入式设备上进行运行时间的测试，建立搜索空间中子网络结构编码与运行时延之间的速查表；使用强化学习的方法展开搜索；搜索过程使得网络结构朝着多个目标的方向优化；维护一个帕累托最优解集来获得符合多目标要求的目标检测模型；选择帕累托最优解集中的元素，将其对应的检测网络在嵌入式平台上进行编译部署。
Description
技术领域
本发明涉及一种基于多目标神经网络搜索的嵌入式目标检测模型生成方法，属于嵌入式目标检测和网络搜索技术领域。
背景技术
目标检测作为计算机视觉领域的重要任务之一，主要是指在图像中定位出特定类别的实例对象。目标检测广泛应用在人们的生产生活中，如自动驾驶、智能监控等。目标检测的解决方案可以分为传统的目标检测算法和基于深度学习的目标检测算法，传统的目标检测通过手工设计特征对图像中的目标进行检测，难以应对图像内容多样的变化，基于深度学习的目标检测则依赖于神经网络结构的设计和目标场景下数据集的构造。基于深度学习的目标检测按照原理又可以分为一阶段算法和二阶段算法，二阶段将检测任务分为区域建议和检测两个步骤，具有较高的精度和较长的运行时间，一阶段则直接进行检测，损失一部分精度却提升了运行速度。
在一些嵌入式场景下，可以选择速度较快的一阶段算法(如SSD等)进行部署，但往往精度和速度的需求仍未得到满足。此外，部署在嵌入式场景下的目标检测算法常常会在运行内存的占用上受到限制，因而对模型的参数量也提出了要求。现有的嵌入式目标检测方法通常会将检测模型通过手工的方式进行一定的优化，以使模型变得更加轻量化、更适合部署在嵌入式设备上。然而这种手工对检测模型做出调整的方式，往往较难在多个目标之间做出最佳平衡，而且会带来较大的实验成本。
发明内容
发明目的：针对嵌入式目标检测场景下精度、速度、参数量等多个指标需要同时考虑的情况，本发明提供一种基于多目标神经网络搜索的嵌入式目标检测模型生成方法，使用多目标神经网络结构搜索的方法得到运行在嵌入式平台上的检测模型，在搜索过程中考虑检测精度、网络时延和参数量等信息，筛选出较为鲁棒的轻量化网络。
技术方案：一种基于多目标神经网络搜索的嵌入式目标检测模型生成方法，包括：(1)根据嵌入式硬件对网络结构的要求，选择嵌入式目标检测模型的基础检测结构并在其骨干网络部分设定搜索空间；(2)根据搜索空间的设定，构建包含搜索空间中所有子网络的超网络，并将超网络在imagenet分类数据集上进行预训练；(3)将训练好的超网络联合设定好的检测头在目标检测数据集上进行微调，使得超网络中预训练获得的参数更加适用于目标检测场景；(4)在搜索前通过批量枚举搜索空间中的子网络，自动构建可推理的模型，并将模型部署到嵌入式设备上进行运行时间的测试，然后建立搜索空间中子网络结构编码与对应运行时延之间的速查表，以备搜索过程中的查询；(5)使用强化学习的方法作为搜索策略对搜索空间中的子网络展开搜索；(6)搜索过程中通过一个关于多目标的奖赏来使得网络结构朝着多个目标的方向优化；(7)搜索过程中维护一个帕累托最优解集来获得符合多目标要求的目标检测模型；(8)按照嵌入式场景下的需求设定选择帕累托最优解集中的元素，将其对应的检测网络在嵌入式平台上进行编译部署。
所述(1)中，选择一阶段目标检测算法SSD-lite中的特征融合及检测头部分作为基础检测结构；待搜索的骨干网络部分按照cell堆叠的形式组织，每个cell中的内部结构由网络搜索得到，这种按照cell划分网络结构的方式大大减少了搜索空间，提高了搜索效率；cell内部中，节点之间的连接关系可以通过one-not编码来表示，而操作算子则在嵌入式硬件支持的前提下选择分组卷积、可分离卷积等参数量与计算量较小的操作类型作为可选项，使得搜索空间中的网络均具备轻量化的特点。
所述(2)中，搜索空间中的网络结构均为提前构建和预训练过的超网络中的子网络，各个子网络共享超网络中的权重参数，在搜索阶段可以减少子网络的训练时长，从而减少搜索时间。
所述(3)中，目标检测模型中的特征提取部分在经过imagenet上的训练后，获得了对图像信息通用的提取能力。在目标检测数据集上的微调中，将超网络末端的softmax层去掉，换为目标检测场景中使用的特征金字塔网络和对检测框偏移量、类别概率进行回归的检测头结构，训练时首先固定超网络部分的参数对金字塔网络与检测头部分的参数进行更新，然后将目标检测模型各部分的参数进行联合训练，从获得适合目标检测场景下的网络参数。
搜索完成后的目标检测网络结构可以描述为：(1)对于给定图像或视频，将其输入运行在嵌入式平台上的目标检测网络中；(2)目标检测网络包含负责进行特征提取的骨干网络部分、特征融合部分、对检测目标的位置和类别进行回归的检测头部分；(3)骨干网络主要由多个卷积模块堆叠构成，逐渐对输入图像进行不同层次的特征提取，不同卷积模块内部的结构通过多目标神经网络搜索来获得；(4)特征融合部分为一个特征金字塔网络，通过卷积操作使得特征图逐渐变小，每一层输出的特征图均会送入一个检测头，从而在不同尺寸特征信息的基础上进行目标检测；(5)检测头的输出为目标定位框的位置偏移量，以及在目标类别中归一化后的置信度；(6)对于多个检测头给出的大量检测框，进行非极大值抑制操作，从而筛去重复的不够精确的检测结果。
相比于大型计算设备，嵌入式设备的硬件计算能力一般较弱，而很多嵌入式目标检测应用场景却需要具备实时检测的能力，因此部署在嵌入式设备上的目标检测模型应同时具备较高的检测精度、少量的算法参数和较短的推理时间。目标检测中对应的三个指标分别为：全类平均精度mAP、模型参数量p、模型在嵌入式设备上运行时间s。在搜索过程中，关于强化学习策略模型的奖赏函数设置为：
其中X为决定网络结构的待优化的超参数集合，即X＝{x1,x2,…,xT}，mAP(X)为根据超参数构建好完整的网络模型后在验证集上测试得到，p(X)为模型的参数量，根据采样后的模型计算得出，α为关于模型参数量的平衡系数，s(X)为模型在嵌入式平台上的运行时间，根据将模型部署到嵌入式硬件上运行测试得到，β为关于模型时延的平衡系数，p0、s0分别为对应的期望值。
搜索过程中可以看作是多目标优化问题，因此维护一个帕累托最优解集，随着采样的进行不断地更新该解集。假定关系集合H＝{-mAP(X),p(X),s(X)}，如果网络结构Xa支配网络结构Xb，记为Xa>Xb，当且仅当
假定搜索过程中所维护的帕累托最优解集为
而对于采样的网络结构Xa，经过评估后，对条件
进行判断，即在已有帕累托最优解集中，是否存在一个网络结构对当前网络结构形成帕累托占优，如果是的话，则舍弃该网络结构，如果否的话，则将其加入到所维护的帕累托最优解集中并将当前网络结构能够支配的解从集合中剔除。
使用强化学习作为搜索策略，奖赏信号中全类平均精度mAP和嵌入式设备上运行时间s均需要依靠环境信息(即训练数据中的验证集和嵌入式设备的运算能力)获得，因此奖赏函数是不可微分的，强化学习中策略网络中的参数需要使用策略梯度方法来进行更新，这里我们结合搜索场景将更新策略定义为
其中θ是策略模型中的待估计的参数，T是搜索空间可搜索的结构进行编码之后参数的数量，at为第t个超参数的选择，m是策略模型一批采样中结构的数量，Rk为第k个网络带来的奖赏，b为先前网络评估表现的滑动平均值。
有益效果：与现有技术相比，本发明提供的基于多目标神经网络搜索的嵌入式目标检测模型生成方法，结合嵌入式目标检测场景的需求，使用多目标神经网络搜索的方法完成检测网络的自动设计和优化，减少了嵌入式目标检测模型的人工设计和实验验证的成本；
本发明将嵌入式目标检测模型的骨干网络部分重新设计搜索空间，以获得良好的特征提取能力，将骨干网络部分划分为多个cell堆叠的形式，对cell内部的结构分别进行搜索，缩小了搜索空间，使得骨干网络更加紧致和灵活；
本发明在检测网络模型的搜索过程中，不通过代理数据集，直接在目标检测任务和嵌入式硬件平台上获得精度和时延的反馈，减少了代理数据集带来的环境偏差，提高了最终获得目标检测模型的效果。
本发明通过精度、参数量、计算时延等多个维度来评估检测模型，使得检测模型在具备精度的同时向着轻量化的方向演变，因此相对于只评估检测模型精度的搜索方式，本发明具备较快的优化速度；
本发明提出了一种多目标视角下模型的评估方式和相应的筛选机制，充分利用每个目标上对模型的反馈信息，为优化策略提供了输入信息的质量保障。
附图说明
图1为目标检测模型生成框架示意图；
图2为目标检测网络结构搜索流程图；
图3为搜索空间cell内部示意图。
具体实施方式
下面结合具体实施例，进一步阐明本发明，应理解这些实施例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。
首先结合图1简述本发明中多目标神经网络搜索、目标检测模型和嵌入式平台三者之间的交互关系。神经网络搜索在设定模型精度、模型参数量、模型时延三个指标为优化目标的情况下，通过不断搜索获得符合条件的目标检测模型。搜索空间中的目标检测子网络通过在嵌入式平台上进行批量部署和测试获得对应模型的运行时延，并将其作为优化目标之一作为搜索策略的反馈。神经网络搜索结束后，将符合用户设定要求的搜索结果迁移至嵌入式计算平台进行编译部署，对平台上的目标检测系统做测试和运行。
同时根据图2描述本发明对于目标检测模型的主要生成流程。首先根据嵌入式硬件选择基础检测网络并确定骨干网络中可搜索的部分，初始化搜索策略与帕累托最优解集。预训练包含所有子网络的超网络并在目标检测数据集上微调权重。依据策略模型的采样生成待评估目标检测模型，从精度、参数量、运行时延三个方面对模型进行评价，然后根据评估结果采用策略梯度的方式更新策略模型，如此循环直至三个优化目标均满足设定或迭代次数耗尽为止。搜索过程中维护一个帕累托最优解集合来保存处在帕累托前沿的解，每个解对应一个目标检测模型。搜索结束后按照嵌入式目标检测场景下的需求选择帕累托最优解集中的网络模型迁移至嵌入式平台上进行编译部署。
在具体实施例中，以工控机+英特尔神经计算棒组成的嵌入式平台为例，对嵌入式目标检测模型的搜索流程进行详细描述。
嵌入式部分的准备工作：在操作系统为Ubuntu16.04的工控机上安装英特尔神经计算棒的开发套件OpenVINO，然后下载测试模型使用nvcc命令编译后进行推理测试。检测模型搜索的准备工作：选择目标检测一阶段算法SSD-lite为基础网络结构，关于其骨干网络部分重新设计搜索空间，确定可搜索的超参数。在搜索空间设定结束后，将搜索空间中的子网络批量迁移到英特尔计算棒平台上进行运行时间的测试，并构建速查表。
关于目标检测模型骨干网络部分搜索空间的约束，使用的约束方法包括：1)将可搜索的空间限制在一个节点个数固定的cell中，然后将搜得的cell进行重复堆叠，得到检测模型的骨干网络。2)限制每个节点的输入和输出的个数，只搜索节点之间的连接方式。3)限制拓扑结构的产生方式，将明显不符合先验知识的结构提前剔除掉。结合图3，以包含4个节点的cell为例，我们对编码方式详细说明。对于第k个节点，编码共包含k位，即[x1,x2,…,xk]，其中x1表示当前节点选择的操作类型，[x2,…,xk]则使用one-hot编码来表示前面节点是否有连接至当前节点。对于操作类型的选择，方案提供几种经典的操作：sep_conv_3、sep_conv_5、dli_conv_3、dli_conv_5等，其中sep_conv表示深度可分离卷积，dli_conv表示空洞卷积，3或5代表卷积核尺寸。当搜索空间需要扩展新的操作类型时，可以将其添加到操作类型列表进行注册。搜索空间设定好后，将所有子网络共同组成的超网络在imagenet分类数据集上进行预训练，然后联合特征金字塔网络和多个负责检测不同尺寸目标的检测头在coco目标检测数据集上进行权重的微调。
选择强化学习作为优化策略，优化内容主要包含三个指标：全类平均精度mAP、模型参数量p、模型在嵌入式设备上运行时间s。在搜索过程中，关于强化学习策略模型的奖赏函数设置为：
奖赏信号中mAP(X)与s(X)需要依靠环境信息(即训练数据中的验证集和英特尔计算棒的计算能力)获得，因此奖赏函数是不可微分的，强化学习中策略网络中的参数需要使用策略梯度方法来进行更新，这里我们结合搜索场景将更新策略定义为
启动对目标检测网络结构的搜索，执行如下步骤：
步骤1：
基于设定好的强化学习策略模型在搜索空间中采样得到某一子网络的编码X，将原始的编码向量转化为网络结构的描述，对于网络中的图结构可以使用邻接表来表示，对于节点上的算子类型则可以使用事先约定好顺序的字符串列表来表示。使用深度学习框架pytorch将转化好的子网络作为骨干网络结合特征金字塔网络和检测头部分将完整的目标检测网络模型用自动构建的方法定义出来。
步骤2：
在目标检测coco数据集上训练定义好的目标检测模型，从多个维度评估模型表现并积累训练信息作为采样模型的评估指标。coco数据集划分为训练集、验证集、测试集三部分，采样得到的目标检测网络在训练集上学习、在验证集上评估，测试集则用作评估最终搜索结果的表现。关于检测模型的全类平均精度mAP，即为检测模型训练完成后在coco数据集的验证集上进行测试获得。关于检测模型的参数量，通过pytorch深度学习框架中自带的参数统计接口来完成。关于检测模型的硬件计算时延，通过搜索前批量在嵌入式平台上测试，建立的时延速查表获得。
步骤3：
根据当前检测模型在精度、参数量和时延三个方面生成的评估信息，按照
计算奖赏值，然后按照
对强化学习的策略模型进行梯度更新。
步骤4：
更新所维护的最优帕累托解集，更新方式为：如果当前网络结构在三个评价目标上的表现在最优解集中存在某一点对其构成帕累托占优，则将该网络结构丢弃，否则，将其加入到解集中并剔除解集中被支配的解；
步骤5：
重复进行步骤1至步骤4的采样、模型评估和更新策略的过程，直至迭代次数耗尽或帕累托最优解集中存在满足用户设定的目标检测网络结构。随着搜索过程的进行，构建的目标检测网络模型会通过迭代越来越接近当前采样空间中的帕累托最优集，在每次循环中用户设定的多个目标上如被满足，则保存当前模型的权重以备验证，当迭代次数耗尽时，输出搜索过程维护的帕累托最优解集，选择合适的目标检测模型进行训练后迁移至工控机+英特尔计算棒上编译部署。
Claims (7)
1.一种基于多目标神经网络搜索的嵌入式目标检测模型生成方法，其特征在于，包括：(1)根据嵌入式硬件对网络结构的要求，选择嵌入式目标检测模型的基础检测结构并在其骨干网络部分设定搜索空间；(2)根据搜索空间的设定，构建包含搜索空间中所有子网络的超网络，并将超网络在imagenet分类数据集上进行预训练；(3)将训练好的超网络联合设定好的检测头在目标检测数据集上进行微调；(4)在搜索前通过批量枚举搜索空间中的子网络，自动构建可推理的模型，并将模型部署到嵌入式设备上进行运行时间的测试，然后建立搜索空间中子网络结构编码与对应运行时延之间的速查表，以备搜索过程中的查询；(5)使用强化学习的方法作为搜索策略对搜索空间中的子网络展开搜索；(6)搜索过程中通过一个关于多目标的奖赏来使得网络结构朝着多个目标的方向优化；(7)搜索过程中维护一个帕累托最优解集来获得符合多目标要求的目标检测模型；(8)按照嵌入式场景下的需求设定选择帕累托最优解集中的元素，将其对应的检测网络在嵌入式平台上进行编译部署。
2.根据权利要求1所述的基于多目标神经网络搜索的嵌入式目标检测模型生成方法，其特征在于，所述(1)中，选择一阶段目标检测算法SSD-lite中的特征融合及检测头部分作为基础检测结构；待搜索的骨干网络部分按照cell堆叠的形式组织，每个cell中的内部结构由网络搜索得到；cell内部中，节点之间的连接关系通过one-not编码来表示，而操作算子则在嵌入式硬件支持的前提下选择参数量与计算量较小的操作类型作为可选项。
3.根据权利要求1所述的基于多目标神经网络搜索的嵌入式目标检测模型生成方法，其特征在于，所述(2)中，搜索空间中的网络结构均为提前构建和预训练过的超网络中的子网络，各个子网络共享超网络中的权重参数。
4.根据权利要求1所述的基于多目标神经网络搜索的嵌入式目标检测模型生成方法，其特征在于，搜索完成后的目标检测网络结构描述为：(1)对于给定图像或视频，将其输入运行在嵌入式平台上的目标检测网络中；(2)目标检测网络包含负责进行特征提取的骨干网络部分、特征融合部分、对检测目标的位置和类别进行回归的检测头部分；(3)骨干网络由多个卷积模块堆叠构成，逐渐对输入图像进行不同层次的特征提取，不同卷积模块内部的结构通过多目标神经网络搜索来获得；(4)特征融合部分为一个特征金字塔网络，通过卷积操作使得特征图逐渐变小，每一层输出的特征图均会送入一个检测头，从而在不同尺寸特征信息的基础上进行目标检测；(5)检测头的输出为目标定位框的位置偏移量，以及在目标类别中归一化后的置信度；(6)对于多个检测头给出的检测框，进行非极大值抑制操作。
5.根据权利要求1所述的基于多目标神经网络搜索的嵌入式目标检测模型生成方法，其特征在于，部署在嵌入式设备上的目标检测模型中，目标检测中对应的三个指标分别为：全类平均精度mAP、模型参数量p、模型在嵌入式设备上运行时间s；在搜索过程中，关于强化学习策略模型的奖赏函数设置为：
其中X为决定网络结构的待优化的超参数集合，即X＝{x1,x2,…,xT}，mAP(X)为根据超参数构建好完整的网络模型后在验证集上测试得到，p(X)为模型的参数量，根据采样后的模型计算得出，α为关于模型参数量的平衡系数，s(X)为模型在嵌入式平台上的运行时间，根据将模型部署到嵌入式硬件上运行测试得到，β为关于模型时延的平衡系数，p0、s0分别为对应的期望值。
6.根据权利要求5所述的基于多目标神经网络搜索的嵌入式目标检测模型生成方法，其特征在于，搜索过程中看作是多目标优化问题，维护一个帕累托最优解集，随着采样的进行不断地更新该解集，设关系集合H＝{-mAP(X),p(X),s(X)}，如果网络结构Xa支配网络结构Xb，记为Xa>Xb，当且仅当
设搜索过程中所维护的帕累托最优解集为
而对于采样的网络结构Xa，经过评估后，对条件
进行判断，即在已有帕累托最优解集中，是否存在一个网络结构对当前网络结构形成帕累托占优，如果是的话，则舍弃该网络结构，如果否的话，则将其加入到所维护的帕累托最优解集中并将当前网络结构能够支配的解从集合中剔除。
7.根据权利要求1所述的基于多目标神经网络搜索的嵌入式目标检测模型生成方法，其特征在于，使用强化学习作为搜索策略，奖赏信号中全类平均精度mAP和嵌入式设备上运行时间s均需要依靠环境信息获得，因此奖赏函数是不可微分的，强化学习中策略网络中的参数需要使用策略梯度方法来进行更新，结合搜索场景将更新策略定义为
其中θ是策略模型中的待估计的参数，T是搜索空间可搜索的结构进行编码之后参数的数量，at为第t个超参数的选择，m是策略模型一批采样中结构的数量，Rk为第k个网络带来的奖赏，b为先前网络评估表现的滑动平均值；所述环境信息即训练数据中的验证集和嵌入式设备的运算能力。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110478018.2A CN113283426A (zh) | 2021-04-30 | 2021-04-30 | 基于多目标神经网络搜索的嵌入式目标检测模型生成方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110478018.2A CN113283426A (zh) | 2021-04-30 | 2021-04-30 | 基于多目标神经网络搜索的嵌入式目标检测模型生成方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113283426A true CN113283426A (zh) | 2021-08-20 |
Family
ID=77277729
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110478018.2A Pending CN113283426A (zh) | 2021-04-30 | 2021-04-30 | 基于多目标神经网络搜索的嵌入式目标检测模型生成方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113283426A (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113780542A (zh) * | 2021-09-08 | 2021-12-10 | 北京航空航天大学杭州创新研究院 | 一种面向fpga的多目标网络结构的构建方法 |
| CN113869395A (zh) * | 2021-09-26 | 2021-12-31 | 大连理工大学 | 基于特征融合及神经网络搜索的轻量型水下目标检测方法 |
| CN114095176A (zh) * | 2021-10-29 | 2022-02-25 | 北京天融信网络安全技术有限公司 | 一种恶意域名检测方法及装置 |
| WO2023124386A1 (zh) * | 2021-12-29 | 2023-07-06 | 华为云计算技术有限公司 | 神经网络架构搜索的方法、装置、设备和存储介质 |
| CN116522999A (zh) * | 2023-06-26 | 2023-08-01 | 深圳思谋信息科技有限公司 | 模型搜索与时延预测器训练方法、装置、设备及存储介质 |
-
2021
- 2021-04-30 CN CN202110478018.2A patent/CN113283426A/zh active Pending
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113780542A (zh) * | 2021-09-08 | 2021-12-10 | 北京航空航天大学杭州创新研究院 | 一种面向fpga的多目标网络结构的构建方法 |
| CN113780542B (zh) * | 2021-09-08 | 2023-09-12 | 北京航空航天大学杭州创新研究院 | 一种面向fpga的多目标网络结构的构建方法 |
| CN113869395A (zh) * | 2021-09-26 | 2021-12-31 | 大连理工大学 | 基于特征融合及神经网络搜索的轻量型水下目标检测方法 |
| CN114095176A (zh) * | 2021-10-29 | 2022-02-25 | 北京天融信网络安全技术有限公司 | 一种恶意域名检测方法及装置 |
| CN114095176B (zh) * | 2021-10-29 | 2024-04-09 | 北京天融信网络安全技术有限公司 | 一种恶意域名检测方法及装置 |
| WO2023124386A1 (zh) * | 2021-12-29 | 2023-07-06 | 华为云计算技术有限公司 | 神经网络架构搜索的方法、装置、设备和存储介质 |
| CN116522999A (zh) * | 2023-06-26 | 2023-08-01 | 深圳思谋信息科技有限公司 | 模型搜索与时延预测器训练方法、装置、设备及存储介质 |
| CN116522999B (zh) * | 2023-06-26 | 2023-12-15 | 深圳思谋信息科技有限公司 | 模型搜索与时延预测器训练方法、装置、设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113283426A (zh) | 基于多目标神经网络搜索的嵌入式目标检测模型生成方法 | |
| CN109241313B (zh) | 一种基于高阶深度哈希学习的图像检索方法 | |
| CN107391512B (zh) | 知识图谱预测的方法和装置 | |
| CN108181591B (zh) | 一种基于改进型bp神经网络的电池soc值的预测方法 | |
| CN111275172B (zh) | 一种基于搜索空间优化的前馈神经网络结构搜索方法 | |
| CN112069310A (zh) | 基于主动学习策略的文本分类方法及系统 | |
| CN114019370B (zh) | 基于灰度图像和轻量级cnn-svm模型的电机故障检测方法 | |
| CN112149721A (zh) | 一种基于主动学习降低标注需求的目标检测方法 | |
| Yuan et al. | Evoq: Mixed precision quantization of dnns via sensitivity guided evolutionary search | |
| CN115096590A (zh) | 一种基于iwoa-elm的滚动轴承故障诊断方法 | |
| CN112381208B (zh) | 一种基于神经网络架构搜索的图片分类方法与系统 | |
| CN115081316A (zh) | 基于改进麻雀搜索算法的dc/dc变换器故障诊断方法及系统 | |
| CN115345222A (zh) | 一种基于TimeGAN模型的故障分类方法 | |
| CN114548591A (zh) | 一种基于混合深度学习模型和Stacking的时序数据预测方法及系统 | |
| CN117151338A (zh) | 一种基于大语言模型的多无人机任务规划方法 | |
| CN113779267B (zh) | 一种基于意图的星上智能任务决策方法 | |
| CN115169517A (zh) | 一种改进的灰狼优化算法的方法 | |
| WO2022147583A2 (en) | System and method for optimal placement of interacting objects on continuous (or discretized or mixed) domains | |
| KR20220088497A (ko) | 서브-커널 써칭 모듈을 사용하여 온-디바이스 뉴럴 네트워크 모델을 최적화하는 방법 및 장치 | |
| CN113282747A (zh) | 一种基于自动机器学习算法选择的文本分类方法 | |
| CN113128689A (zh) | 一种调控知识图谱的实体关系路径推理方法及系统 | |
| CN116796821A (zh) | 面向3d目标检测算法的高效神经网络架构搜索方法及装置 | |
| Zhang et al. | Learning to search efficient densenet with layer-wise pruning | |
| CN116976405A (zh) | 基于免疫优化算法的变分阴影量子神经网络 | |
| CN115620046A (zh) | 一种基于半监督性能预测器的多目标神经架构搜索方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |