CN115238880A - 输电巡检终端的自适应部署方法、系统、设备及存储介质 - Google Patents

输电巡检终端的自适应部署方法、系统、设备及存储介质 Download PDF

Info

Publication number
CN115238880A
CN115238880A CN202211146873.4A CN202211146873A CN115238880A CN 115238880 A CN115238880 A CN 115238880A CN 202211146873 A CN202211146873 A CN 202211146873A CN 115238880 A CN115238880 A CN 115238880A
Authority
CN
China
Prior art keywords
network
sub
power transmission
transmission inspection
networks
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211146873.4A
Other languages
English (en)
Other versions
CN115238880B (zh
Inventor
聂礼强
宋雪萌
赵振兵
胡志坤
罗旺
郑晓云
张盼盼
井立强
高赞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong University
North China Electric Power University
NARI Group Corp
Shandong Computer Science Center National Super Computing Center in Jinan
Wenzhou Power Supply Co of State Grid Zhejiang Electric Power Co Ltd
Zhiyang Innovation Technology Co Ltd
Original Assignee
Shandong University
North China Electric Power University
NARI Group Corp
Shandong Computer Science Center National Super Computing Center in Jinan
Wenzhou Power Supply Co of State Grid Zhejiang Electric Power Co Ltd
Zhiyang Innovation Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong University, North China Electric Power University, NARI Group Corp, Shandong Computer Science Center National Super Computing Center in Jinan, Wenzhou Power Supply Co of State Grid Zhejiang Electric Power Co Ltd, Zhiyang Innovation Technology Co Ltd filed Critical Shandong University
Priority to CN202211146873.4A priority Critical patent/CN115238880B/zh
Publication of CN115238880A publication Critical patent/CN115238880A/zh
Application granted granted Critical
Publication of CN115238880B publication Critical patent/CN115238880B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/20Administration of product repair or maintenance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/06Electricity, gas or water supply
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04SSYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Abstract

本发明提供一种输电巡检终端的自适应部署方法、系统、设备以及存储介质,属于人工智能技术领域,通过搭建适配于所有输电巡检终端的超级网络;选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并对基础模型进行训练;选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络;通过神经网络搜索筛选最佳子网络,并基于最佳子网络对目标输电巡检终端进行部署。本发明在实现了节省计算资源的基础上,达到了确保子网络的精确度,有效缓解子网络之间相互干扰的显著效果。

Description

输电巡检终端的自适应部署方法、系统、设备及存储介质
技术领域
本发明属于人工智能技术领域,具体涉及一种输电巡检终端的自适应部署方法、系统、设备及存储介质。
背景技术
近年来,神经网络模型在电力领域的应用中取得了快速发展。随着输电巡检终端的增多,神经网络模型的网络结构也越来越复杂;由于不同的输电巡检终端的硬件平台作为电力系统的部署终端的芯片内存大小不同、算术单元的数量不同,为神经网络模型在部署终端的部署带来很大的挑战。
现有技术中,通过为神经网络模型设计可用于不同的部署终端的网络结构或者通过模型压缩技术加速神经网络模型的训练和推理来解决复杂的神经网络模型的部署问题;但是仍然存在的弊端如下:
1)设计可用于不同的部署终端的网络结构,对设计者的经验要求较高; 2)需要针对不同的部署终端对神经网络模型进行重新训练,且需要消耗大量人力资源和计算资源。
因此,亟需一种输电巡检终端的自适应部署方法。
发明内容
本发明提供一种输电巡检终端的自适应部署方法、系统、电子设备及存储介质,用以克服现有技术中存在的至少一个技术问题。
为实现上述目的,本发明提供一种输电巡检终端的自适应部署方法,方法包括:
根据实际的输电巡检需求,确定各子网络对应的变化维度,并进而确定子网络的种类数;并按照所确定的子网络种类数搭建适配于所有输电巡检终端的超级网络;
选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并利用预设的训练集对基础模型进行训练;其中,训练集包括有巡检故障标注的图片和无巡检故障标注的图片;
选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络;
通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,并基于最佳子网络对目标输电巡检终端进行部署。
进一步,优选的,通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,包括:
利用NAS神经结构搜索技术,建立各个输电巡检终端对应的延迟查找表;
基于预设的子网络准确率预测模型和延迟查找表,利用神经网络搜索算法筛选各个目标输电巡检终端对应的最佳子网络。
进一步,优选的,获取子网络准确率预测模型的方法,包括,
将每一个子网络的每一个变化维度的变化对应的架构配置编码为one-hot向量;
拼接所有one-hot向量作为整个网络架构的编码;将整个网络架构的编码输入多层感知机,并利用MSE损失函数进行优化;
获得子网络准确率预测模型。
进一步,优选的,训练超级网络的损失函数为:
Figure 702503DEST_PATH_IMAGE001
其中,
Figure 236253DEST_PATH_IMAGE002
是超级网络的权重,
Figure 547586DEST_PATH_IMAGE003
是从超级网络中获取架构为
Figure 508589DEST_PATH_IMAGE004
的子网络的筛选机制;
Figure 281373DEST_PATH_IMAGE005
是特定子网络的损失函数。
进一步,优选的,变化维度包括卷积核大小、模型层数以及卷积通道数。
为了解决上述问题,本发明还提供一种输电巡检终端的自适应部署系统,包括:搭建单元,用于根据实际的输电巡检需求,确定各子网络对应的变化维度,进而确定子网络的种类数;并按照所确定的子网络种类数搭建适配于所有输电巡检终端的超级网络;
训练单元,用于选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并利用预设的训练集对基础模型进行训练;其中,训练集包括有巡检故障标注的图片和无巡检故障标注的图片;
选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络;
搜索单元,用于通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,并基于最佳子网络对目标输电巡检终端进行部署。
进一步,优选的,训练超级网络的损失函数为:
Figure 87655DEST_PATH_IMAGE001
其中,
Figure 996705DEST_PATH_IMAGE002
是超级网络的权重,
Figure 863030DEST_PATH_IMAGE003
是从超级网络中获取架构为
Figure 123110DEST_PATH_IMAGE004
的子网络的筛选机制;
Figure 733083DEST_PATH_IMAGE005
是特定子网络的损失函数。
进一步,优选的,变化维度包括卷积核大小、模型层数以及卷积通道数。
为了解决上述问题,本发明还提供一种电子设备,电子设备包括:
存储器,存储至少一个指令;及
处理器,执行存储器中存储的指令以实现上述的输电巡检终端的自适应部署方法中的步骤。
本发明还保护一种计算机可读存储介质,存储有计算机程序,计算机程序被处理器执行时实现如上述的输电巡检终端的自适应部署方法。
本发明的一种输电巡检终端的自适应部署方法、系统、电子设备以及存储介质,通过构建并训练一个包含所有子网络的超级网络,然后搜索能够在目标输电巡检终端平台上运行的子网络,进而利用子网络对目标输电巡检终端进行部署;具有有益效果如下:
1)在超级网络训练的过程中,利用渐进扩展策略,首先训练各个维度上参数最小的基础模型,然后逐步扩展基础模型以遍历训练不同的子网络结构;在实现了节省计算资源的基础上,确保子网络的精确度,有效缓解了子网络之间相互干扰的问题。
2)本发明通过神经网络搜索根据目的输电巡检终端的资源约束和延迟要求筛选到高精确度的子网络,进而完成输电巡检终端的部署。
3)本发明为神经网络模型在电力系统中不同设备上的高效部署提供了可能。
附图说明
图1为根据本发明实施例的输电巡检终端的自适应部署方法的流程示意图;
图2为根据本发明实施例的超级网络的结构示意图;
图3为根据本发明实施例的输电巡检终端的自适应部署系统的逻辑结构框图;
图4根据本发明实施例的实现输电巡检终端的自适应部署方法的电子设备的内部结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例可以基于人工智能技术和计算机视觉技术对相关的数据进行获取和处理。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。
针对电力系统中不同的输电巡检终端平台的资源限制问题,现有技术中通过人工设计整体的平台架构的方式或者通过神经网络搜索并从头训练网络的方式来解决;但是,具有计算成本高昂且不易于扩展和应用的弊端。本发明通过训练一个包含所有的子网络的超级网络,然后再搜索一个能够在特定终端平台上运行的子网络的方式,构建了输电巡检终端设备自适应的模型。
具体的,作为示例,图1为本发明一实施例提供的输电巡检终端的自适应部署方法的流程示意图。参照图1所示,本发明提供一种输电巡检终端的自适应部署方法,该方法可以由一个装置执行,该装置可以由软件和/或硬件实现。输电巡检终端的自适应部署方法,包括步骤S110~ S140。
在具体的实施过程中,输电巡检终端的自适应部署方法包括步骤S110~S140。
S110、根据实际的输电巡检需求,确定各子网络对应的变化维度,进而确定子网络种类数;并按照所确定的子网络种类数搭建适配于所有输电巡检终端的超级网络。即涉及一个包含所有输电巡检终端的硬件平台的适配子网络的超级网络,所述超级网络能够支持不同大小的子网络的构建。
具体地说,超级网络内的子网络可沿卷积核大小
Figure 762219DEST_PATH_IMAGE006
、模型层数
Figure 799445DEST_PATH_IMAGE007
、卷积通道数量
Figure 281242DEST_PATH_IMAGE008
三个变化维度变化,各维度均有一定的取值集合,当各维度取值集合规模较大时可构成大 量的子网络配置类型。下面以实例说明子网络类型计算方式,以卷积核大小候选集{3,5, 7},模型层数候选集{2,4,8},卷积通道候选集{4,6,8}为例,则可构成33种子网络架构,即 子网络的种类数为9。
图2为根据本发明实施例的超级网络的结构示意图;参照图2所示,超级网络的系统架构为包括K个子网络的超级网络;输入数据训练超级网络之后,根据目标输电终端(即输电巡检终端)和延迟约束搜索适配的子网络。
在具体的实施过程中,超级网络的搭建步骤包括确定子网络的种类数,即确定各 子网络对应的变化维度,即对应的卷积核大小、模型层数和卷积通道数量;根据各个子网络 的变化维度确定子网络种类数;也就是说,卷积核大小
Figure 694906DEST_PATH_IMAGE006
、模型层数
Figure 578548DEST_PATH_IMAGE007
、卷积通道数量
Figure 786676DEST_PATH_IMAGE008
三 个维度取值可组成多少种子网络配置类型,如
Figure 755769DEST_PATH_IMAGE009
Figure 707544DEST_PATH_IMAGE010
Figure 445693DEST_PATH_IMAGE011
均为不同的子网络配置。然后筛选子网 络构建超级网络;具体地说,根据输电巡检终端的需求确定子网络的种类数;进而根据子网 络种类数目和实际应用场景,结合算力资源,随机采样
Figure 90301DEST_PATH_IMAGE012
种子网络配置构建超级网络,本文 M取值为1000000。
在具体的实施过程中,上述终端设备指的是客户端设备,可以为开发人员操作的终端设备,提供相关的人机交互界面,以便用户输入神经网络的自适应搜索过程中所需要的相关参数,例如搜索条件集。示例性的,搜索条件集可以包括目标硬件平台信息(例如目标硬件平台的厂家,属性,型号,执行的目标任务类型等),神经网络的网络结构信息,一个或多个评估指标(例如精度阈值,时间开销阈值,存储空间阈值等)等。示例性的,终端设备可以是人工移动巡检终端、多旋翼无人机巡检终端、固定翼无人机巡检终端和线上机器人巡检终端等的终端设备。本申请实施例对终端设备的具体形态不作特殊限制。
另外,超级网络包含大量不同设置(比如模型的层数和核的大小不同)的子网络;存在参数较大的问题,计算所有子网络的梯度是不可行的。训练一个覆盖所有子网配置的超级网络也是不可行的。而且在训练过程中,不同的子网络之间会相互干扰,而随机采样子网络更新也会带来精度的下降,因此如何高效的训练超级网络是个极具挑战的问题。为了在降低资源消耗的同时尽量保持输电巡检终端的准确率,本发明提出了一种高效的渐进扩展策略对超级网络的神经网络模型进行训练。该策略首先训练各个变化维度(模型的层数、卷积核大小和卷积通道数)上参数最小的基础模型,然后逐步扩展基础模型以遍历训练不同的子网络结构并且确保精确度稳步增长。具体训练过程参见步骤S120和步骤S130。
S120、选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并利用预设的训练集对基础模型进行训练;其中,训练集包括有巡检故障标注的图片和无巡检故障标注的图片。
具体地说,训练集的获取步骤还包括S1211-1213。
S1211:收集输电巡检结果数据。收集电力系统中输电巡检设备获取的输电巡检图片,去除一些模糊图片后剩余128万张用于本发明。S1212:标注数据。在步骤S1211获取输电巡检图片后,根据现场经验判断图片中巡检信息有无故障,进行二分类标注,构建[图片-有无故障]的数据-标签对数据集。S1213:划分数据集。在步骤S1213获取数据集后,按照7:3的比例划分训练集和测试集。
在具体的实施过程中,训练超级网络中最小的基础模型。示例性说明如下:仍以卷积核大小候选集{3,5,7},模型层数候选集{2,4,8},卷积通道数候选集{4,6,8}为例,则渐进扩展策略首先训练的是配置为(k=3,d=2,w=4)的子网络。
S130、选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络。
具体地说,获取并训练扩展子网络。在具体的实施过程中,渐进扩展策略在较小网 络的基础上采样规模为
Figure 549620DEST_PATH_IMAGE013
的扩展候选集,然后通过神经网络搜索的方式(神经架构搜索 (NAS)能够根据应用需求自动地在搜索空间中找到最好的神经架构,用于在某个或者某类 任务上有更好的泛化性能)从中选取
Figure 305086DEST_PATH_IMAGE014
个子网络进一步更新。
需要说明的是,训练过程中通过保持之前参与训练的较小网络的参数不变,只更新扩展参数的方式来避免大小网络间的前后调整。例如,步骤S120中训练最小的基础模型( k=5,d=2,w=4)之后,从控制变量法(即较大子网络配置只在一个维度上发生变化,其他维度保持不变)得到的扩展候选集的采样空间{( k=7,d=2,w=4), ( k=5,d=4,w=4), ( k=5,d=8,w=4), ( k=5,d=2,w=6), ( k=5,d=2,w=8)}中随机筛选M t 个网络配置,然后通过现有的神经网络搜索方式从M t 个网络配置中选取M’个子网络进一步更新。需要对得到的M’个扩展子网络进行训练。
在一个具体的实施例中,不同变化维度(卷积核大小变化、模型层数变化和卷积通道数变化)的扩展子网络的训练示例如下:在卷积核大小变化的场景中,在本发明中,3*3尺寸的卷积核可作为5*5尺寸的卷积核的中心模块,同时5*5尺寸的卷积核又可作为7*7尺寸的卷积核的中心模块,即中心内核(例如3*3和5*5尺寸的卷积核)需要扮演多个角色(独立卷积核和大卷积核的一部分)。渐进扩展策略采用保持先前已训练的较小卷积核权重不变,只更新扩展的卷积核参数的方式训练模型。在模型层数变化的场景中,在D层子网络的基础上添加(N-D)层构成N层的子网络,渐进扩展策略通过保持先前已训练的D层子网络权重不变,只更新新增的网络参数的方式训练模型。在卷积通道数变化的场景中,在通道数为W的子网络上添加(I-W)个通道构成通道数为I的子网络,渐进扩展策略通过保持先前已训练的W个通道数的子网络权重不变,只更新新增的网络参数的方式训练模型。
另外,超级网络训练的目标是各个子网络在数据集上的二分类精确度,具体损失函数如下:
Figure 897741DEST_PATH_IMAGE015
其中,
Figure 447672DEST_PATH_IMAGE002
是超级网络的权重,
Figure 391357DEST_PATH_IMAGE003
是从超级网络中获取架构为
Figure 950514DEST_PATH_IMAGE004
的子网络的筛选机制。
Figure 397676DEST_PATH_IMAGE005
是特定子网络的损失函数,在具体的实施过程在,本发明采用分 类的交叉熵损失函数。
S140、通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,并基于最佳子网络对目标输电巡检终端进行部署。
在超级网络中搜索能够适配特定输电巡检终端硬件平台(包括手持式智能巡检平台、无人机智能巡检平台、智能车巡检平台等)资源的子网络,完成巡检模型在目标输电巡检终端平台的部署。
通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,包括:S141、利用NAS神经结构搜索技术,建立各个输电巡检终端对应的延迟查找表;即为了得到不同子网络在不同终端硬件平台上的延迟,利用现有的ProxylessNAS技术为每种终端硬件平台建立了一个延迟查找表(示例性的,以子网络数为Z,输电巡检终端数量为S,形成的延迟查找表如表1所示。
表1 延迟查找表
Figure 118507DEST_PATH_IMAGE016
S142、基于预设的子网络准确率预测模型(本发明选择三层感知机来预测模型精确度)和延迟查找表,利用神经网络搜索算法筛选各个目标输电巡检终端对应的最佳子网络。其中,子网络准确率预测模型可以但不限制于通过inceptionV4网络和优化器实现。也就是说,对于给定的目标硬件终端平台(比如智能巡检无人机)和延迟要求,基于上面的到的准确率预测模型和延迟查找表,利用已有的进化搜索算法来根据特定平台的资源约束和延迟要求搜索出能够成功部署的子网络架构。
在一个具体的实施例中,获取子网络准确率预测模型的方法,包括,S1421、将每一个子网络的每一个变化维度的变化对应的架构配置编码为one-hot向量;S1422、拼接所有one-hot向量作为整个网络架构的编码;将整个网络架构的编码输入多层感知机,并利用MSE损失函数进行优化;S1423、获得子网络准确率预测模型。具体地说,为了能够知道特定子网络架构的准确率,首先在超级网络中随机采样了100000个不同架构的子网络,然后在标注的数据集上测试这些子网络的准确率,得到所有的[网络架构,准确率]对。基于这些[网络架构,准确率]对,训练一个三层感知机来根据网络架构来预测准确率。对于一个特定的子网络,将网络的每一次配置(卷积核大小、卷积通道的大小)都编码为one-hot向量,将所有的one-hot向量拼接起来作为所有整个网络架构的编码输入到三层感知机,并利用MSE损失函数进行模型优化。训练结束之后,就能利用这个模型来预测子网络的准确率。其中,多层感知机(MLP,Multilayer Perceptron)也叫人工神经网络(ANN,Artificial NeuralNetwork),除了输入输出层,它中间可以有多个隐层,最简单的MLP只含一个隐层,即三层的结构。
综上,本发明通过建立一种输电巡检终端的自适应部署方法,通过将模型训练与架构搜索分离,即构建并训练一个包含多个子网络的超级网络,然后只从超级网络中搜索出一个子网络部署在电力系统中不同的巡检硬件平台(比如手持终端机器和无人机巡检机等)上。该方法节省了大量的人力和算力资源,为深度学习模型在电力系统中不同设备上的高效部署提供了可能,对电力系统的发展具有重要意义。
与上述输电巡检终端的自适应部署方法相对应,本发明还提供一种输电巡检终端的自适应部署系统。图3示出了根据本发明实施例的输电巡检终端的自适应部署系统的功能模块。
如图3所示,本发明提供的输电巡检终端的自适应部署系统300可以安装于电子设备中。根据实现的功能,所述输电巡检终端的自适应部署系统300可以包括搭建单元310、训练单元320和搜索单元330。本发明所述单元也可以称之为模块,指的是一种能够被电子设备的处理器所执行,并且能够完成某一固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
搭建单元310,用于根据实际的输电巡检需求,确定各子网络对应的变化维度,进而确定子网络种类数;并按照所确定的子网络种类数搭建适配于所有输电巡检终端的超级网络。
训练单元320,用于选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并利用预设的训练集对基础模型进行训练;其中,训练集包括有巡检故障标注的图片和无巡检故障标注的图片;选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络。
搜索单元330,用于通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,并基于最佳子网络对目标输电巡检终端进行部署。
进一步,作为本实施例的改进,训练超级网络的损失函数为:
Figure 549489DEST_PATH_IMAGE017
其中,
Figure 646758DEST_PATH_IMAGE002
是超级网络的权重,
Figure 214005DEST_PATH_IMAGE003
是从超级网络中获取架构为
Figure 105738DEST_PATH_IMAGE004
的子网络的筛选机制;
Figure 24015DEST_PATH_IMAGE005
是特定子网络的损失函数。
进一步,作为本实施例的改进,变化维度包括卷积核大小、模型层数以及卷积通道数。
本发明所提供的上述输电巡检终端的自适应部署系统的更为具体的实现方式,均可以参照上述对输电巡检终端的自适应部署方法的实施例表述,在此不再一一列举。
本发明通过建立一种输电巡检终端的自适应部署系统,在实现了节省计算资源的基础上,确保子网络的 精确度,有效缓解了子网络之间相互干扰的问题。
如图4所示,本发明提供一种输电巡检终端的自适应部署方法的电子设备4。
该电子设备4可以包括处理器40、存储器41和总线,还可以包括存储在存储器41中并可在所述处理器40上运行的计算机程序,如输电巡检终端的自适应部署程序42。
其中,所述存储器41至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器41在一些实施例中可以是电子设备4的内部存储单元,例如该电子设备4的移动硬盘。所述存储器41在另一些实施例中也可以是电子设备4的外部存储设备,例如电子设备4上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器41还可以既包括电子设备4的内部存储单元也包括外部存储设备。所述存储器41不仅可以用于存储安装于电子设备4的应用软件及各类数据,例如输电巡检终端的自适应部署程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器40在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器40是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器41内的程序或者模块(例如输电巡检终端的自适应部署程序等),以及调用存储在所述存储器41内的数据,以执行电子设备4的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器41以及至少一个处理器40等之间的连接通信。
图4仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图4示出的结构并不构成对所述电子设备4的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备4还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器40逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备4还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备4还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备4与其他电子设备之间建立通信连接。
可选地,该电子设备4还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备4中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备4中的所述存储器41存储的输电巡检终端的自适应部署程序42是多个指令的组合,在所述处理器40中运行时,可以实现:S110、根据实际的输电巡检需求,确定各子网络对应的变化维度,进而确定子网络种类数;并按照所确定的子网络种类数搭建适配于所有输电巡检终端的超级网络;S120、选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并利用预设的训练集对基础模型进行训练;其中,训练集包括有巡检故障标注的图片和无巡检故障标注的图片;S130、选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络;S140、通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,并基于最佳子网络对目标输电巡检终端进行部署。
具体地,所述处理器40对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。需要强调的是,为进一步保证上述输电巡检终端的自适应部署程序的私密和安全性,上述输电巡检终端的自适应部署程序存储于本服务器集群所处区块链的节点中。
进一步地,所述电子设备4集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明实施例还提供一种计算机可读存储介质,所述存储介质可以是非易失性的,也可以是易失性的,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现:S110、根据实际的输电巡检需求,确定各子网络对应的变化维度,进而确定子网络种类数;并按照所确定的子网络种类数搭建适配于所有输电巡检终端的超级网络;S120、选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并利用预设的训练集对基础模型进行训练;其中,训练集包括有巡检故障标注的图片和无巡检故障标注的图片;S130、选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络;S140、通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,并基于最佳子网络对目标输电巡检终端进行部署。
具体地,所述计算机程序被处理器执行时具体实现方法可参考实施例输电巡检终端的自适应部署方法中相关步骤的描述,在此不赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等,区块链可以存储医疗数据,如个人健康档案、厨房、检查报告等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种输电巡检终端的自适应部署方法,其特征在于,包括:
根据实际的输电巡检需求,确定各子网络对应的变化维度,进而确定子网络种类数;并按照所确定的子网络种类数搭建适配于所有输电巡检终端的超级网络;
选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并利用预设的训练集对所述基础模型进行训练;其中,所述训练集包括有巡检故障标注的图片和无巡检故障标注的图片;
选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在所述采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络;
通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,并基于所述最佳子网络对目标输电巡检终端进行部署。
2.如权利要求1所述的输电巡检终端的自适应部署方法,其特征在于,通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,包括:
利用NAS神经结构搜索技术,建立各个输电巡检终端对应的延迟查找表;
基于预设的子网络准确率预测模型和所述延迟查找表,利用神经网络搜索算法筛选各个目标输电巡检终端对应的最佳子网络。
3.如权利要求2所述的输电巡检终端的自适应部署方法,其特征在于,获取所述子网络准确率预测模型的方法,包括,
将每一个子网络的每一个变化维度的变化对应的架构配置编码为one-hot向量;
拼接所有one-hot向量作为整个网络架构的编码;将整个网络架构的编码输入多层感知机,并利用MSE损失函数进行优化;
获得子网络准确率预测模型。
4.如权利要求1所述的输电巡检终端的自适应部署方法,其特征在于,训练所述超级网络的损失函数为:
Figure 563793DEST_PATH_IMAGE001
其中,
Figure 12092DEST_PATH_IMAGE002
是超级网络的权重,
Figure 322988DEST_PATH_IMAGE003
是从超级网络中获取架构为
Figure 249356DEST_PATH_IMAGE004
的子 网络的筛选机制;
Figure 329307DEST_PATH_IMAGE005
是特定子网络的损失函数。
5.如权利要求1中所述的输电巡检终端的自适应部署方法,其特征在于,所述变化维度包括卷积核大小、模型层数以及卷积通道数。
6.一种输电巡检终端的自适应部署系统,其特征在于,包括:
搭建单元,用于根据实际的输电巡检需求,确定各子网络对应的变化维度,进而确定子网络种类数;并按照所确定的子网络种类数搭建适配于所有输电巡检终端的超级网络;
训练单元,用于选择各变化维度中的参数最小值的子网络作为超级网络的基础模型,并利用预设的训练集对所述基础模型进行训练;其中,所述训练集包括有巡检故障标注的图片和无巡检故障标注的图片;
选择单一变化维度作为变量,根据渐进策略获取采样扩展候选集,在所述采样扩展候选集中搜索设定数量的扩展子网络进行训练,并更新新增的网络参数;直至遍历所有子网络;
搜索单元,用于通过神经网络搜索,筛选各个待部署的输电巡检终端对应的最佳子网络,并基于所述最佳子网络对目标输电巡检终端进行部署。
7.如权利要求6中所述的输电巡检终端的自适应部署系统,其特征在于,训练所述超级网络的损失函数为:
Figure 682928DEST_PATH_IMAGE006
其中,
Figure 481120DEST_PATH_IMAGE002
是超级网络的权重,
Figure 211178DEST_PATH_IMAGE003
是从超级网络中获取架构为
Figure 411215DEST_PATH_IMAGE004
的子 网络的筛选机制;
Figure 670159DEST_PATH_IMAGE005
是特定子网络的损失函数。
8.如权利要求6中所述的输电巡检终端的自适应部署系统,其特征在于,所述变化维度包括卷积核大小、模型层数以及卷积通道数。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至5中任一所述的输电巡检终端的自适应部署方法中的步骤。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5中任一所述的输电巡检终端的自适应部署方法。
CN202211146873.4A 2022-09-21 2022-09-21 输电巡检终端的自适应部署方法、系统、设备及存储介质 Active CN115238880B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211146873.4A CN115238880B (zh) 2022-09-21 2022-09-21 输电巡检终端的自适应部署方法、系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211146873.4A CN115238880B (zh) 2022-09-21 2022-09-21 输电巡检终端的自适应部署方法、系统、设备及存储介质

Publications (2)

Publication Number Publication Date
CN115238880A true CN115238880A (zh) 2022-10-25
CN115238880B CN115238880B (zh) 2022-12-23

Family

ID=83680828

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211146873.4A Active CN115238880B (zh) 2022-09-21 2022-09-21 输电巡检终端的自适应部署方法、系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN115238880B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109754020A (zh) * 2019-01-10 2019-05-14 东华理工大学 融合多层级渐进策略和非监督学习的地面点云提取方法
CN110070530A (zh) * 2019-04-19 2019-07-30 山东大学 一种基于深度神经网络的输电线路覆冰检测方法
US20200387795A1 (en) * 2019-06-06 2020-12-10 Beijing Xiaomi Mobile Software Co., Ltd. Super network training method and device
CN113570029A (zh) * 2020-04-29 2021-10-29 华为技术有限公司 获取神经网络模型的方法、图像处理方法及装置
CN114282709A (zh) * 2021-11-26 2022-04-05 中国海洋大学 基于数字孪生的结构件疲劳裂纹扩展预测方法
CN114581834A (zh) * 2022-03-09 2022-06-03 中国石油大学(华东) 基于蒙特卡洛树搜索的深度强化学习的冰壶决策方法
CN114861890A (zh) * 2022-07-05 2022-08-05 深圳比特微电子科技有限公司 构建神经网络的方法、装置、计算设备及存储介质
CN114881225A (zh) * 2022-04-24 2022-08-09 中国电力科学研究院有限公司 输变电巡检模型网络结构搜索方法、系统及存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109754020A (zh) * 2019-01-10 2019-05-14 东华理工大学 融合多层级渐进策略和非监督学习的地面点云提取方法
CN110070530A (zh) * 2019-04-19 2019-07-30 山东大学 一种基于深度神经网络的输电线路覆冰检测方法
US20200387795A1 (en) * 2019-06-06 2020-12-10 Beijing Xiaomi Mobile Software Co., Ltd. Super network training method and device
CN113570029A (zh) * 2020-04-29 2021-10-29 华为技术有限公司 获取神经网络模型的方法、图像处理方法及装置
CN114282709A (zh) * 2021-11-26 2022-04-05 中国海洋大学 基于数字孪生的结构件疲劳裂纹扩展预测方法
CN114581834A (zh) * 2022-03-09 2022-06-03 中国石油大学(华东) 基于蒙特卡洛树搜索的深度强化学习的冰壶决策方法
CN114881225A (zh) * 2022-04-24 2022-08-09 中国电力科学研究院有限公司 输变电巡检模型网络结构搜索方法、系统及存储介质
CN114861890A (zh) * 2022-07-05 2022-08-05 深圳比特微电子科技有限公司 构建神经网络的方法、装置、计算设备及存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
CHRIS ZHANG等: "GRAPH HYPERNETWORKS FOR NEURAL ARCHITECTURE SEARCH", 《ICLR 2019》 *
YUDONG HAN等: "Semantic-aware Modular Capsule Routing for Visual Question Answering", 《ARXIV》 *
李航宇等: "神经结构搜索的研究进展综述", 《软件学报》 *
牛瑞丞: "基于进化算法的神经网络结构搜索", 《中国优秀硕士学位论文全文数据库信息科技辑》 *

Also Published As

Publication number Publication date
CN115238880B (zh) 2022-12-23

Similar Documents

Publication Publication Date Title
CN109376615B (zh) 用于提升深度学习网络预测性能的方法、装置及存储介质
US11144828B2 (en) Training task optimization system, training task optimization method and non-transitory computer readable medium for operating the same
US20190362235A1 (en) Hybrid neural network pruning
CN110956202B (zh) 基于分布式学习的图像训练方法、系统、介质及智能设备
CN114330699A (zh) 神经网络结构搜索方法及装置
CN112767320A (zh) 图像检测方法、装置、电子设备及存储介质
CN111768096A (zh) 基于算法模型的评级方法、装置、电子设备及存储介质
CN110135428A (zh) 图像分割处理方法和装置
WO2022141840A1 (zh) 网络架构搜索方法、装置、电子设备及介质
US20160342899A1 (en) Collaborative filtering in directed graph
CN115238880B (zh) 输电巡检终端的自适应部署方法、系统、设备及存储介质
CN111935005A (zh) 数据传输方法、装置、处理设备及介质
CN116630712A (zh) 基于模态组合的信息分类方法、装置、电子设备及介质
CN114492849B (zh) 一种基于联邦学习的模型更新方法及装置
CN113485848B (zh) 深度神经网络部署方法、装置、计算机设备和存储介质
CN116341131A (zh) 基于数字孪生的再制造设计仿真系统、方法、设备及介质
WO2022252694A1 (zh) 神经网络优化方法及其装置
CN113723515B (zh) 基于图像识别的摩尔纹识别方法、装置、设备及介质
CN115794400A (zh) 深度学习模型的内存管理方法、装置、设备及存储介质
CN113722554A (zh) 数据分类方法、装置及计算设备
CN107612767B (zh) 一种基于正弦余弦算法的NoC测试规划方法
US20190325261A1 (en) Generation of a classifier from existing classifiers
CN113810212B (zh) 5g切片用户投诉的根因定位方法及装置
CN117574983B (zh) 一种算子处理模型的训练方法和相关装置
CN111340237B (zh) 数据处理和模型运行方法、装置和计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant