CN116166967B - 基于元学习与残差网络的数据处理方法、设备和存储介质 - Google Patents
基于元学习与残差网络的数据处理方法、设备和存储介质 Download PDFInfo
- Publication number
- CN116166967B CN116166967B CN202310429960.9A CN202310429960A CN116166967B CN 116166967 B CN116166967 B CN 116166967B CN 202310429960 A CN202310429960 A CN 202310429960A CN 116166967 B CN116166967 B CN 116166967B
- Authority
- CN
- China
- Prior art keywords
- target
- network
- residual
- training
- state detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本申请涉及数据处理领域,特别涉及一种基于元学习与残差网络的数据处理方法、计算机设备和存储介质,该方法包括:获取待检测的目标设备的日志数据;根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型,目标状态检测模型为基于元学习算法,根据目标设备对应的样本数据对残差网络训练得到;将日志数据输入目标状态检测模型进行状态检测,获得目标设备的状态检测结果。上述方法通过根据目标设备对应的设备类型与日志数据对应的数据类型确定目标状态检测模型,并基于目标状态检测模型对日志数据进行状态检测,可以适应于不同的应用场景、硬件资源以及数据类型,可以有效提高日志数据分析的效率和降低成本。
Description
技术领域
本申请涉及数据处理领域,尤其涉及一种基于元学习与残差网络的数据处理方法、计算机设备和计算机可读存储介质。
背景技术
随着物联网与各类设备在各行各业的普及,对设备产生的日志数据进行分析成为了设备运维的重要环节。设备的日志数据隐含了设备的运行状态,往往预示着设备在接下来一段时间中会发生的情况,因此,对设备的日志数据进行分析尤为重要。在实际场景中,一个物联网里的设备的数量往往成千上万,并且设备的种类也很多。相关技术在分析设备的日志数据时,需要专业人员对每种设备进行定制化的程序设计与开发,如此一来,不仅分析日志数据的效率低,而且成本很高。
因此,如何提高日志数据分析的效率和降低成本成为亟需解决的问题。
发明内容
本申请提供了一种基于元学习与残差网络的数据处理方法、计算机设备和计算机可读存储介质,解决了相关技术在分析计算机设备的日志数据时,需要专业人员对每种计算机设备进行定制化的程序设计与开发导致效率低和成本高的问题。
第一方面,本申请提供了一种基于元学习与残差网络的数据处理方法,所述方法包括:
获取待检测的目标设备的日志数据;根据所述目标设备对应的设备类型与所述日志数据对应的数据类型,确定目标状态检测模型,所述目标状态检测模型为基于元学习算法,根据所述目标设备对应的样本数据对残差网络训练得到;将所述日志数据输入所述目标状态检测模型进行状态检测,获得所述目标设备的状态检测结果,所述状态检测结果包括所述目标设备的运行状态。
第二方面,本申请还提供了一种计算机设备,所述计算机设备包括存储器和处理器;
所述存储器,用于存储计算机程序;
所述处理器,用于执行所述计算机程序并在执行所述计算机程序时实现如上述的基于元学习与残差网络的数据处理方法。
第三方面,本申请还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时使所述处理器实现如上述的基于元学习与残差网络的数据处理方法。
本申请公开了一种基于元学习与残差网络的数据处理方法、计算机设备和计算机可读存储介质,该方法包括:获取待检测的目标设备的日志数据;根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型,目标状态检测模型为基于元学习算法,根据目标设备对应的样本数据对残差网络训练得到;将日志数据输入目标状态检测模型进行状态检测,获得目标设备的状态检测结果,状态检测结果包括目标设备的运行状态。本申请实施例通过根据目标设备对应的设备类型与日志数据对应的数据类型确定目标状态检测模型,并基于目标状态检测模型对日志数据进行状态检测,无需人工调试,可以适应于不同的应用场景、硬件资源以及数据类型,可以有效提高日志数据分析的效率和降低成本。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种计算机设备的结构示意性框图;
图2是本申请实施例提供的一种数据处理方法的示意性流程图;
图3是本申请实施例提供的一种训练状态检测模型的示意性流程图;
图4是本申请实施例提供的一种残差模块的示意图;
图5是本申请实施例提供的一种确定目标网络结构的示意性流程图;
图6是本申请实施例提供的一种选择残差模块的子步骤的示意性流程图;
图7是本申请实施例提供的另一种训练状态检测模型的示意性流程图;
图8是本申请实施例提供的一种确定超参数的子步骤的示意性流程图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
附图中所示的流程图仅是示例说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解、组合或部分合并,因此实际执行的顺序有可能根据实际情况改变。
应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
本申请的实施例提供了一种基于元学习与残差网络的数据处理方法、计算机设备和计算机可读存储介质。该数据处理方法应用于计算机设备中,通过根据目标设备对应的设备类型与日志数据对应的数据类型确定目标状态检测模型,并基于目标状态检测模型对日志数据进行状态检测,无需人工调试,可以适应于不同的应用场景、硬件资源以及数据类型,可以有效提高日志数据分析的效率和降低成本。
示例性的,计算机设备可以是终端或服务器。其中,服务器可以为独立的服务器,也可以为服务器集群。终端可以是智能手机、平板电脑、笔记本电脑、台式电脑、个人数字助理和穿戴式设备等电子设备,还可以是物联网中的各类通信设备,例如家居设备、机器人等等。
请参阅图1,图1是本申请实施例提供的一种计算机设备1000的结构示意性框图。在图1中,计算机设备1000包括处理器1001和存储器1002,其中,处理器1001和存储器1002通过总线连接,该总线比如为I2C(Inter-integrated Circuit,集成电路)总线、分布式软总线。
其中,存储器1002可以包括存储介质和内存储器。存储介质可以是易失性存储介质,也可以是非易失性存储介质。存储介质可存储操作系统和计算机程序。该计算机程序包括程序指令,该程序指令被执行时,可使得处理器执行任意一种计算机设备1000对应的数据处理方法。
处理器1001用于提供计算和控制能力,支撑整个计算机设备1000的运行。
其中,处理器1001可以是中央处理单元(Central Processing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(application specific integrated circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
其中,处理器1001用于运行存储在存储器1002中的计算机程序,并在执行计算机程序时实现如下步骤:
获取待检测的目标设备的日志数据;根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型,目标状态检测模型为基于元学习算法,根据目标设备对应的样本数据对残差网络训练得到;将日志数据输入目标状态检测模型进行状态检测,获得目标设备的状态检测结果,状态检测结果包括目标设备的运行状态。
在一些实施例中,处理器1001还用于实现:
根据目标设备对应的样本数据对残差网络进行网络结构选择训练,确定残差网络的目标网络结构;基于残差网络的目标网络结构进行网络权重选择训练,确定残差网络的目标网络权重;根据残差网络的目标网络结构和目标网络权重,确定目标状态检测模型。
在一些实施例中,残差网络的网络结构由残差模块的数量确定;处理器1001在实现根据目标设备对应的样本数据对残差网络进行网络结构选择训练,确定残差网络的目标网络结构,用于实现:
根据目标设备对应的样本数据进行残差模块选择,获得残差网络中的残差模块的目标数量;根据目标数量对应的残差模块,确定目标网络结构。
在一些实施例中,样本数据包括训练数据集和验证数据集;处理器1001在实现根据目标设备对应的样本数据进行残差模块选择,获得残差网络中的残差模块的目标数量时,用于实现:
确定多个训练轮次对应的残差模块,相邻两个训练轮次的残差模块逐次增大;根据训练数据集对每个训练轮次对应的残差模块进行状态检测训练,获得每个训练轮次对应的训练结果;根据验证数据集对每个训练轮次对应的残差模块进行状态检测验证,获得每个训练轮次对应的验证结果;根据每个训练轮次对应的训练结果和验证结果进行损失函数值计算,获得每个训练轮次对应的损失函数值;根据最小损失函数值对应的训练轮次中的残差模块,确定残差网络中的残差模块的目标数量。
在一些实施例中,处理器1001在实现基于残差网络的目标网络结构进行网络权重选择训练,确定残差网络的目标网络权重之前,还用于实现:
确定残差网络的超参数。
在一些实施例中,处理器1001在实现基于残差网络的目标网络结构进行网络权重选择训练,确定残差网络的目标网络权重时,用于实现:
基于残差网络的目标网络结构和超参数进行网络权重选择训练,确定目标网络权重。
在一些实施例中,超参数包括目标批大小和目标时期;处理器1001在实现确定残差网络的超参数时,用于实现:
确定残差网络的初始批大小和初始时期,并确定多个候选批大小和多个候选时期;基于初始时期,对多个候选批大小进行批大小选择,获得目标批大小;基于目标批大小,对多个候选时期进行时期选择,获得目标时期。
在一些实施例中,样本数据包括训练数据集和验证数据集;处理器1001在实现基于初始时期,对多个候选批大小进行批大小选择,获得目标批大小时,用于实现:
基于初始时期和每个候选批大小,对残差网络的目标网络结构进行状态检测训练,获得每个候选批大小对应的训练结果;基于初始时期和每个候选批大小,对残差网络的目标网络结构进行状态检测验证,获得对应的每个候选批大小的验证结果;根据每个候选批大小对应的训练结果和验证结果进行损失函数值计算,获得对应的每个候选批大小的损失函数值;根据最小损失函数值对应的候选批大小,确定目标批大小。
在一些实施例中,样本数据包括训练数据集和验证数据集;超参数包括目标批大小和目标时期;处理器1001在实现基于目标批大小,对多个候选时期进行时期选择,获得目标时期时,用于实现:
基于目标批大小和每个候选时期,对残差网络的目标网络结构进行状态检测训练,获得每个候选时期对应的训练结果;基于目标批大小和每个候选时期,对残差网络的目标网络结构进行状态检测验证,获得对应的每个候选时期的验证结果;根据每个候选时期对应的训练结果和验证结果进行损失函数值计算,获得对应的每个候选时期的损失函数值;根据最小损失函数值对应的候选时期,确定目标时期。
在一些实施例中,处理器1001在实现根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型时,用于实现:
基于预设的设备类型与状态检测模型之间的对应关系,根据目标设备对应的设备类型确定候选状态检测模型;基于预设的数据类型与状态检测模型之间的对应关系,根据日志数据对应的数据类型确定目标状态检测模型。
下面结合附图,对本申请的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。请参阅图2,图2是本申请实施例提供的一种数据处理方法的示意性流程图。如图2所示,数据处理方法可以包括步骤S10至步骤S12。
步骤S10、获取待检测的目标设备的日志数据。
示例性的,可以获取待检测的目标设备的日志数据。例如,可以从本地数据库或本地磁盘中读取目标设备记录或存储的日志数据。
需要说明的是,在本申请实施例中,日志数据用于检测目标设备的运行状态,通过对日志数据进行状态检测,可以判断目标设备的运行状态是否出现异常,也可以判断目标设备在将来一定时间内是否会出现异常,进而可以提前对目标设备进行维护。
步骤S11、根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型,目标状态检测模型为基于元学习算法,根据目标设备对应的样本数据对残差网络训练得到。
示例性的,可以根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型。
其中,目标状态检测模型为基于元学习算法,根据目标设备对应的样本数据对残差网络训练得到。样本数据可以包括目标设备的样本日志数据和对样本日志数据标记的目标设备对应的运行状态。在本申请实施例中,可以预先基于设备的设备类型和日志数据的数据类型,训练得到设备对应的状态检测模型,并训练好的状态检测模型与设备的设备类型以及日志数据的数据类型进行关联存储。
示例性的,数据类型可以包括但不限于整型、长整型、单精度浮点型、双精度浮点型或字符型等等。例如,对于A设备,若A设备的日志数据的数据类型为字符型,则可以训练得到A设备对应的状态检测模型1。又例如,对于B设备,若B设备的日志数据的数据类型为字符型,则可以训练得到B设备对应的状态检测模型2。
需要说明的是,元学习算法是指希望使得模型获取一种学会学习调参的能力,使模型可以在获取已有知识的基础上快速学习新的任务。残差网络是一种用于解决深层网络中的退化问题的神经网络,可以人为地让神经网络某些层跳过下一层神经元的连接,隔层相连,弱化每层之间的强联系。
在本申请实施例中,通过使用元学习算法训练残差网络,可以使得训练得到的状态检测模型适用于处理不同的设备类型和数据类型对应的日志数据,同时还可以缩短训练时间,进而提高日志数据分析的效率和降低成本。通过使用残差网络对日志数据进行状态检测,可以解决由于网络层次的增加导致检测效果较差的问题,可以有效提高了状态检测的准确性。
在一些实施例中,根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型,可以包括:基于预设的设备类型与状态检测模型之间的对应关系,根据目标设备对应的设备类型确定候选状态检测模型;基于预设的数据类型与状态检测模型之间的对应关系,根据日志数据对应的数据类型确定目标状态检测模型。
在本申请实施例中,可以先根据目标设备对应的设备类型,确定目标设备对应的至少一个候选状态检测模型,再根据目标设备的日志数据对应的数据类型,从至少一个候选状态检测模型确定目标状态检测模型。还可以先根据日志数据对应的数据类型确定目标设备对应的至少一个候选状态检测模型,再根据目标设备对应的设备类型,从至少一个候选状态检测模型确定目标状态检测模型。当然,还可以根据其它方式确定目标状态检测模型,在此不作限定。
例如,对于A目标设备,可以根据A目标设备对应的设备类型,确定多个候选状态检测模型,再根据A目标设备的日志数据对应的数据类型,从至少一个候选状态检测模型确定目标状态检测模型,譬如,目标状态检测模型为状态检测模型1。
需要说明的是,通过根据目标设备对应的设备类型与日志数据对应的数据类型确定目标状态检测模型,后续可以根据目标状态检测模型对日志数据进行状态检测,无需人工调试,解决了相关技术在分析计算机设备的日志数据时,需要专业人员对每种计算机设备进行定制化的程序设计与开发导致效率低和成本高的问题,可以适应于不同的应用场景、硬件资源以及数据类型,进而可以有效提高日志数据分析的效率和降低成本。
步骤S12、将日志数据输入目标状态检测模型进行状态检测,获得目标设备的状态检测结果,状态检测结果包括目标设备的运行状态。
示例性的,在根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型之后,可以将日志数据输入目标状态检测模型进行状态检测,获得目标设备的状态检测结果。
其中,状态检测结果可以包括目标设备的运行状态。例如,运行状态可以是正常运行状态或异常运行状态。
需要说明的是,通过将日志数据输入目标状态检测模型进行状态检测,可以获得目标设备的运行状态,进而可以提前发现目标设备是否出现运行异常,提高了设备的安全性。
上述实施例提供的基于元学习与残差网络的数据处理方法,通过根据目标设备对应的设备类型与日志数据对应的数据类型确定目标状态检测模型,并基于目标状态检测模型对日志数据进行状态检测,无需人工调试,可以适应于不同的应用场景、硬件资源以及数据类型,可以有效提高日志数据分析的效率和降低成本。
在本申请实施例中,状态检测模型是预先训练好的残差网络,以下将对如何训练状态检测模型作详细说明。请参阅图3,图3是本申请实施例提供的一种训练状态检测模型的示意性流程图,具体可以包括以下步骤S20至步骤S22。
步骤S20、根据目标设备对应的样本数据对残差网络进行网络结构选择训练,确定残差网络的目标网络结构。
需要说明的是,训练状态检测模型主要是根据元学习算法训练残差网络学习选择网络结构和网络权重,还可以训练残差网络学习选择超参数。其中,超参数是指输入残差网络的参数,例如,批大小(batch size)和时期(epoch)。训练过程的第一阶段是学习选择残差网络的网络结构,第二阶段是学习选择批大小,第三阶段是学习选择时期,第四阶段是学习选择网络权重。
示例性的,可以针对每个设备和相应的日志数据进行模型训练,得到对应的每个设备的设备类型和数据类型对应的状态检测模型。在本申请实施例中,将以训练目标设备对应的目标状态检测模型为例,详细说明如何训练状态检测模型。
示例性的,可以根据目标设备对应的样本数据对残差网络进行网络结构选择训练,确定残差网络的目标网络结构。例如,对于一个残差网络R,可以定义为{B,Fc}。其中,Fc为全连接层,输出通道为1,输入通道与最后一个一维残差模块的输出通道相同;B为一维残差模块的集合,可以包含一个或多个一维残差模块,如下所示:
B={b1,b2,...,bn}
式中,n表示一维残差模块的数量。
需要说明的是,在残差网络R中,由B中的多个一维残差模块按次序相连后再与全连接层Fc连接。全连接层Fc在运算后会输出一个值,作为设备的状态检测结果。
请参阅图4,图4是本申请实施例提供的一种残差模块的示意图。如图4所示,数据信号在进入一维残差模块后,数据信号被复制为相同的两份,一份进入直连通道到达加法运算的计算单元,与另一份经残差模块的处理层处理过的数据进行相加。
如图4所示,残差模块的处理层由5层组成。其中,第一层是一维卷积层,卷积核的宽度是3,输出通道数为8,步长为2,不对数据信号做填充。第二层是一维BatchNormalization层,即一维批标准化层。第三层是ReLU层,即线性整流函数层,这一层作为激活函数。第四层是另一个一维卷积层,其结构与第一层相同。第五层是另一个一维BatchNormalization层。其中,第五层的输出与直连通道的数据在一个加法计算单元进行相加,相加的结果经过ReLU激活函数后就是一维残差模块最终的结果。
需要说明的是,在本申请实施例中,通过根据元学习算法学习训练残差网络,可以实现全自动的元学习方式探索最佳的残差网络,无需人工调试,解决了相关技术在分析计算机设备的日志数据时,需要专业人员对每种计算机设备进行定制化的程序设计与开发导致效率低和成本高的问题,可以适应于不同的应用场景、硬件资源以及数据类型,可以有效提高日志数据分析的效率和降低成本。
请参阅图5,图5是本申请实施例提供的一种确定目标网络结构的示意性流程图,具体可以包括以下步骤S201和步骤S202。
步骤S201、根据目标设备对应的样本数据进行残差模块选择,获得残差网络中的残差模块的目标数量。
需要说明的是,残差网络的网络结构由残差模块的数量确定,因此,确定残差网络的目标网络结构主要是确定残差网络中的残差模块的目标数量。其中,在训练过程中,优化器可以是Adamw优化器,当然也可以是其它优化器;学习率(learning rate)可以是0.001,初始批大小可以为2,初始时期可以为10,一维残差模块的数量n的初始值可以为1。
示例性的,可以根据目标设备对应的样本数据进行残差模块选择,获得残差网络中的残差模块的目标数量。
其中,样本数据可以包括训练数据集和验证数据集。训练数据集和验证数据集都可以包括目标设备的样本日志数据和对样本日志数据标记的目标设备对应的运行状态。训练数据集用于对残差网络进行训练,验证数据集用于对训练后的残差网络进行验证,得到损失函数值,进而可以确定最小损失函数值时对应的残差模块的目标数量。
示例性的,可以创建一个残差网络R,包含n个一维残差模块和一个全连接层Fc。然后,使用训练数据集和验证数据集对残差网络R进行迭代训练,以降低残差网络的损失函数值并确定残差模块的目标数量。
请参阅图6,图6是本申请实施例提供的一种选择残差模块的子步骤的示意性流程图,具体可以包括以下步骤S2010至步骤S2014。
步骤S2010、确定多个训练轮次对应的残差模块,相邻两个训练轮次的残差模块逐次增大。
示例性的,当一维残差模块的数量n的初始值为1时,可以设定第一训练轮次对应的残差模块的数量为1,第二训练轮次对应的残差模块的数量为2,依次类推。当然,相邻两个训练轮次的残差模块的数量增幅可以根据实际情况设定,具体数值在此不作限定。在本申请实施例中,当训练轮次或残差模块的值大于预设值时,可以停止训练残差网络。当然,当残差网络的损失函数值不再变小时,也可以停止训练残差网络。
步骤S2011、根据训练数据集对每个训练轮次对应的残差模块进行状态检测训练,获得每个训练轮次对应的训练结果。
示例性的,在第一训练轮次时,可以将训练数据集输入第一训练轮次对应的残差模块进行状态检测训练,输出第一训练轮次对应的训练结果;在第二训练轮次时,可以将训练数据集输入第二训练轮次对应的残差模块进行状态检测训练,输出第二训练轮次对应的训练结果,依次类推。其中,状态检测训练的具体过程,在此不作赘述。
步骤S2012、根据验证数据集对每个训练轮次对应的残差模块进行状态检测验证,获得每个训练轮次对应的验证结果。
示例性的,在对每个训练轮次对应的残差模块进行状态检测训练,获得每个训练轮次对应的训练结果之后,可以根据验证数据集对每个训练轮次对应的残差模块进行状态检测验证,获得每个训练轮次对应的验证结果。
例如,在第一训练轮次时,可以将验证数据集输入第一训练轮次训练后的残差模块进行状态检测验证,输出第一训练轮次对应的验证结果;在第二训练轮次时,可以将验证数据集输入第二训练轮次训练后的残差模块进行状态检测验证,输出第二训练轮次对应的验证结果,依次类推。其中,状态检测验证的具体过程,在此不作赘述。
步骤S2013、根据每个训练轮次对应的训练结果和验证结果进行损失函数值计算,获得每个训练轮次对应的损失函数值。
示例性的,在获得每个训练轮次对应的验证结果之后,可以根据每个训练轮次对应的训练结果和验证结果进行损失函数值计算,获得每个训练轮次对应的损失函数值。
示例性的,损失函数可以包括但不限于0-1损失函数、绝对值损失函数、对数损失函数、平方损失函数以及指数损失函数等等。在本申请实施例中,预设的损失函数可以是平均绝对值损失函数。
例如,可以基于平均绝对值损失函数,对每个训练轮次对应的训练结果和验证结果进行损失函数值计算,获得每个训练轮次对应的损失函数值。其中,损失函数值的具体计算过程,在此不作限定。
步骤S2014、根据最小损失函数值对应的训练轮次中的残差模块,确定残差网络中的残差模块的目标数量。
示例性的,在残差网络停止训练后,可以根据最小损失函数值对应的训练轮次中的残差模块,确定残差网络中的残差模块的目标数量。例如,若最小损失函数值对应的训练轮次为第五训练轮次且第五训练轮次中的残差模块的数量为5时,可以确定残差网络中的残差模块的目标数量为5。又例如,若最小损失函数值对应的训练轮次为第十训练轮次且第五训练轮次中的残差模块的数量为10时,可以确定残差网络中的残差模块的目标数量为10。
上述实施例,通过对每个训练轮次对应的残差模块进行状态检测训练和状态检测验证,并根据每个训练轮次对应的训练结果和验证结果确定每个训练轮次对应的损失函数值,可以实现根据最小损失函数值对应的训练轮次中的残差模块确定残差网络中的残差模块的目标数量,进而提高了确定目标网络结构的准确性。
步骤S202、根据目标数量对应的残差模块,确定目标网络结构。
示例性的,在确定残差网络中的残差模块的目标数量之后,可以根据目标数量对应的残差模块,确定目标网络结构。例如,当残差模块的目标数量为5时,可以确定目标网络结构包括5个残差模块。又例如,当残差模块的目标数量为8时,可以确定目标网络结构包括8个残差模块。
步骤S21、基于残差网络的目标网络结构进行网络权重选择训练,确定残差网络的目标网络权重。
示例性的,可以基于元学习算法,将目标设备对应的样本数据输入目标网络结构进行网络权重选择训练,获得残差网络的目标网络权重。其中,网络权重选择训练的具体过程,可以参见相关技术,具体过程在此不作赘述。
上述实施例,通过基于残差网络的目标网络结构进行网络权重选择训练,可以确定残差网络的目标网络权重。
步骤S22、根据残差网络的目标网络结构和目标网络权重,确定目标状态检测模型。
示例性的,在确定残差网络的目标网络结构和目标网络权重之后,可以根据残差网络的目标网络结构和目标网络权重,确定目标状态检测模型。例如,可以将确定目标网络结构和目标网络权重后的残差网络,确定为目标状态检测模型。
上述实施例,通过根据残差网络的目标网络结构和目标网络权重确定目标状态检测模型,可以获得目标设备对应的状态检测模型,无需人工调试,可以适应于不同的应用场景、硬件资源以及数据类型,可以有效提高日志数据分析的效率和降低成本。
请参阅图7,图7是本申请实施例提供的另一种训练状态检测模型的示意性流程图,具体可以包括以下步骤S30至步骤S33。
步骤S30、根据目标设备对应的样本数据对残差网络进行网络结构选择训练,确定残差网络的目标网络结构。
可以理解,上述步骤S30与步骤S20相同,此处不再赘述。
步骤S31、确定残差网络的超参数。
在本申请实施例中,在确定残差网络的目标网络结构时,可以定义初始批大小和初始时期;在确定残差网络的目标网络结构之后,还需要在初始批大小的基础上进一步确定目标批大小以及在初始时期的基础上确定目标时期。
可以理解,通过在网络权重选择训练之前,确定残差网络的超参数,可以基于残差网络的目标网络结构和超参数进行网络权重选择训练确定目标网络权重,可以提高目标网络权重的准确性,进而提高了状态检测模型的精度。
示例性的,可以基于元学习算法,确定残差网络的超参数。以下将对如何确定残差网络的超参数作详细说明。
请参阅图8,图8是本申请实施例提供的一种确定超参数的子步骤的示意性流程图,具体可以包括以下步骤S310至步骤S312。
步骤S310、确定残差网络的初始批大小和初始时期,并确定多个候选批大小和多个候选时期。
示例性的,可以设定残差网络的初始批大小为2,初始时期为10。然后,依次增大初始批大小,得到多个候选批大小,例如候选批大小分别为2、4、6、8、16、32,等等;依次增大初始时期,得到多个候选时期,例如候选时期分别为10、20、30、40、50、60、70、80、90、100,等等。
需要说明的是,可以先基于初始时期确定目标批大小,再基于目标批大小确定目标时期,还可以先初始批大小确定目标时期,再基于目标时期确定目标批大小。在本申请实施例中,可以以先基于初始时期确定目标批大小,再基于目标批大小确定目标时期为例,说明如何确定超参数。
步骤S311、基于初始时期,对多个候选批大小进行批大小选择,获得目标批大小。
示例性的,可以基于初始时期,对多个候选批大小进行批大小选择,获得目标批大小。
需要说明的是,可以将初始时期和候选批大小输入残差网络,采用元学习算法对残差网络进行训练,分别对比每个候选批大小对应的损失函数值,并最小损失函数值对应的候选批大小,确定为目标批大小。
在一些实施例中,基于初始时期,对多个候选批大小进行批大小选择,获得目标批大小,可以包括:基于初始时期和每个候选批大小,对残差网络的目标网络结构进行状态检测训练,获得每个候选批大小对应的训练结果;基于初始时期和每个候选批大小,对残差网络的目标网络结构进行状态检测验证,获得对应的每个候选批大小的验证结果;根据每个候选批大小对应的训练结果和验证结果进行损失函数值计算,获得对应的每个候选批大小的损失函数值;根据最小损失函数值对应的候选批大小,确定目标批大小。
示例性的,在第一轮次训练中,可以将初始时期10和候选批大小2输入残差网络的目标网络结构中,对残差网络的目标网络结构进行状态检测训练,获得候选批大小2对应的训练结果,以及对残差网络的目标网络结构进行状态检测验证,获得候选批大小2对应的验证结果;根据候选批大小2对应的训练结果和验证结果进行损失函数值计算,获得候选批大小2的损失函数值。在第二轮次训练中,可以将初始时期10和候选批大小4输入残差网络的目标网络结构中,对残差网络的目标网络结构进行状态检测训练和状态检测验证,获得候选批大小4对应的训练结果和验证结果;根据候选批大小4对应的训练结果和验证结果进行损失函数值计算,获得候选批大小4的损失函数值。依次类推,可以获得每个候选批大小的损失函数值。其中,状态检测训练和状态检测验证的具体过程,可以参见上述实施例的描述,在此不作赘述。损失函数值的计算过程,可以参见上述实施例的描述,在此不作赘述。
示例性的,在获得对应的每个候选批大小的损失函数值之后,可以根据最小损失函数值对应的候选批大小,确定目标批大小。例如,若最小损失函数值对应的候选批大小为4,则可以确定目标批大小为4。例如,若最小损失函数值对应的候选批大小为16,则可以确定目标批大小为16。
上述实施例,通过基于初始时期和每个候选批大小对残差网络的目标网络结构进行状态检测训练和状态检测验证,并根据每个候选批大小的训练结果和验证结果进行损失函数值计算,可以得到每个候选批大小的损失函数值,进而可以实现将最小损失函数值对应的候选批大小确定为目标批大小。
步骤S312、基于目标批大小,对多个候选时期进行时期选择,获得目标时期。
示例性的,在确定目标批大小后,可以基于目标批大小,对多个候选时期进行时期选择,获得目标时期。
在一些实施例中,基于目标批大小,对多个候选时期进行时期选择,获得目标时期,可以包括:基于目标批大小和每个候选时期,对残差网络的目标网络结构进行状态检测训练,获得每个候选时期对应的训练结果;基于目标批大小和每个候选时期,对残差网络的目标网络结构进行状态检测验证,获得对应的每个候选时期的验证结果;根据每个候选时期对应的训练结果和验证结果进行损失函数值计算,获得对应的每个候选时期的损失函数值;根据最小损失函数值对应的候选时期,确定目标时期。
示例性的,当目标批大小为4时,在第一轮次训练中,可以将目标批大小4和候选时期10输入残差网络的目标网络结构中,对残差网络的目标网络结构进行状态检测训练,获得候选时期10对应的训练结果,以及对残差网络的目标网络结构进行状态检测验证,获得候选时期10对应的验证结果;根据候选时期10对应的训练结果和验证结果进行损失函数值计算,获得候选时期10的损失函数值。在第二轮次训练中,可以将目标批大小4和候选时期20输入残差网络的目标网络结构中,对残差网络的目标网络结构进行状态检测训练和状态检测验证,获得候选时期20对应的训练结果和验证结果;根据候选时期20对应的训练结果和验证结果进行损失函数值计算,获得候选时期20的损失函数值。依次类推,可以获得每个候选时期的损失函数值。
示例性的,在获得对应的每个候选时期的损失函数值之后,可以根据最小损失函数值对应的候选时期,确定目标时期。例如,若最小损失函数值对应的候选时期为20,则可以确定目标时期为20。例如,若最小损失函数值对应的候选时期为30,则可以确定目标时期为30。
上述实施例,通过基于基于目标批大小和每个候选时期对残差网络的目标网络结构进行状态检测训练和状态检测验证,并根据每个候选时期的训练结果和验证结果进行损失函数值计算,可以得到每个候选时期的损失函数值,进而可以实现将最小损失函数值对应的候选时期确定为目标时期。
步骤S32、基于残差网络的目标网络结构和超参数进行网络权重选择训练,确定目标网络权重。
在本申请实施例中,在确定残差网络的目标网络结构和超参数之后,可以基于残差网络的目标网络结构和超参数进行网络权重选择训练,确定残差网络的目标网络权重。其中,网络权重选择训练的具体过程,可以参见相关技术,具体过程在此不作赘述。
上述实施例,通过基于残差网络的目标网络结构和超参数进行网络权重选择训练,可以使得残差网络学习如何选择网络权重,并确定目标网络权重。
步骤S33、根据残差网络的目标网络结构和目标网络权重,确定目标状态检测模型。
可以理解,上述步骤S33与步骤S22相同,此处不再赘述。
上述实施例,通过根据残差网络的目标网络结构和目标网络权重确定目标状态检测模型,可以获得目标设备对应的状态检测模型,无需人工调试,可以适应于不同的应用场景、硬件资源以及数据类型,可以有效提高日志数据分析的效率和降低成本。
本申请的实施例中还提供一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序中包括程序指令,处理器执行程序指令,实现本申请实施例提供的任一项基于元学习与残差网络的数据处理方法。例如,该计算机程序被处理器加载,可以执行如下步骤:
获取待检测的目标设备的日志数据;根据目标设备对应的设备类型与日志数据对应的数据类型,确定目标状态检测模型,目标状态检测模型为基于元学习算法,根据目标设备对应的样本数据对残差网络训练得到;将日志数据输入目标状态检测模型进行状态检测,获得目标设备的状态检测结果,状态检测结果包括目标设备的运行状态。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
其中,计算机可读存储介质可以是前述实施例的计算机设备的内部存储单元,例如计算机设备的硬盘或内存。计算机可读存储介质也可以是计算机设备的外部存储设备,例如计算机设备上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字卡(Secure Digital,SD),闪存卡(Flash Card)等。
以上,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (9)
1.一种基于元学习与残差网络的数据处理方法,其特征在于,包括:
获取待检测的目标设备的日志数据;
根据所述目标设备对应的设备类型与所述日志数据对应的数据类型,确定目标状态检测模型,所述目标状态检测模型为基于元学习算法,根据所述目标设备对应的样本数据对残差网络训练得到,所述残差网络包括全连接层和多个残差模块;
将所述日志数据输入所述目标状态检测模型进行状态检测,获得所述目标设备的状态检测结果,所述状态检测结果包括所述目标设备的运行状态;
所述方法还包括:
根据所述目标设备对应的样本数据对所述残差网络进行网络结构选择训练,确定所述残差网络的目标网络结构;所述残差网络的网络结构由残差模块的数量确定,所述样本数据包括训练数据集和验证数据集;
所述根据所述目标设备对应的样本数据对所述残差网络进行网络结构选择训练,确定所述残差网络的目标网络结构,包括:确定多个训练轮次对应的残差模块,相邻两个训练轮次的残差模块逐次增大;根据所述训练数据集对每个所述训练轮次对应的残差模块进行状态检测训练,获得每个所述训练轮次对应的训练结果;根据所述验证数据集对每个所述训练轮次对应的残差模块进行状态检测验证,获得每个所述训练轮次对应的验证结果;根据每个所述训练轮次对应的训练结果和验证结果进行损失函数值计算,获得每个所述训练轮次对应的损失函数值;根据最小损失函数值对应的训练轮次中的残差模块,确定所述残差网络中的残差模块的目标数量;根据所述目标数量对应的残差模块,确定所述目标网络结构;
所述根据所述目标设备对应的设备类型与所述日志数据对应的数据类型,确定目标状态检测模型,包括:基于预设的设备类型与状态检测模型之间的对应关系,根据所述目标设备对应的设备类型确定至少一个候选状态检测模型;基于预设的数据类型与状态检测模型之间的对应关系,根据所述日志数据对应的数据类型从至少一个所述候选状态检测模型中确定所述目标状态检测模型。
2.根据权利要求1所述的数据处理方法,其特征在于,所述根据所述目标设备对应的样本数据对所述残差网络进行网络结构选择训练,确定所述残差网络的目标网络结构之后,所述方法还包括:
基于所述残差网络的目标网络结构进行网络权重选择训练,确定所述残差网络的目标网络权重;
根据所述残差网络的目标网络结构和目标网络权重,确定所述目标状态检测模型。
3.根据权利要求2所述的数据处理方法,其特征在于,所述基于所述残差网络的目标网络结构进行网络权重选择训练,确定所述残差网络的目标网络权重之前,所述方法还包括:
确定所述残差网络的超参数;
所述基于所述残差网络的目标网络结构进行网络权重选择训练,确定所述残差网络的目标网络权重,包括:
基于所述残差网络的目标网络结构和超参数进行网络权重选择训练,确定所述目标网络权重。
4.根据权利要求3所述的数据处理方法,其特征在于,所述超参数包括目标批大小和目标时期;所述确定所述残差网络的超参数,包括:
确定所述残差网络的初始批大小和初始时期,并确定多个候选批大小和多个候选时期;
基于所述初始时期,对多个所述候选批大小进行批大小选择,获得目标批大小;
基于所述目标批大小,对多个所述候选时期进行时期选择,获得目标时期。
5.根据权利要求4所述的数据处理方法,其特征在于,所述样本数据包括训练数据集和验证数据集;所述基于所述初始时期,对多个所述候选批大小进行批大小选择,获得目标批大小,包括:
基于所述初始时期和每个所述候选批大小,对所述残差网络的目标网络结构进行状态检测训练,获得每个所述候选批大小对应的训练结果;
基于所述初始时期和每个所述候选批大小,对所述残差网络的目标网络结构进行状态检测验证,获得对应的每个所述候选批大小的验证结果;
根据每个所述候选批大小对应的训练结果和验证结果进行损失函数值计算,获得对应的每个所述候选批大小的损失函数值;
根据最小损失函数值对应的候选批大小,确定所述目标批大小。
6.根据权利要求4所述的数据处理方法,其特征在于,所述样本数据包括训练数据集和验证数据集;所述基于所述目标批大小,对多个所述候选时期进行时期选择,获得目标时期,包括:
基于所述目标批大小和每个所述候选时期,对所述残差网络的目标网络结构进行状态检测训练,获得每个所述候选时期对应的训练结果;
基于所述目标批大小和每个所述候选时期,对所述残差网络的目标网络结构进行状态检测验证,获得对应的每个所述候选时期的验证结果;
根据每个所述候选时期对应的训练结果和验证结果进行损失函数值计算,获得对应的每个所述候选时期的损失函数值;
根据最小损失函数值对应的候选时期,确定所述目标时期。
7.根据权利要求1-6任一项所述的数据处理方法,其特征在于,所述样本数据包括所述目标设备的样本日志数据和对所述样本日志数据标记的所述目标设备对应的运行状态。
8.一种计算机设备,其特征在于,所述计算机设备包括存储器和处理器;
所述存储器用于存储计算机程序;
所述处理器,用于执行所述计算机程序并在执行所述计算机程序时实现如权利要求1至6中任一项所述的基于元学习与残差网络的数据处理方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时使所述处理器实现如权利要求1至6中任一项所述的基于元学习与残差网络的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310429960.9A CN116166967B (zh) | 2023-04-21 | 2023-04-21 | 基于元学习与残差网络的数据处理方法、设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310429960.9A CN116166967B (zh) | 2023-04-21 | 2023-04-21 | 基于元学习与残差网络的数据处理方法、设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116166967A CN116166967A (zh) | 2023-05-26 |
CN116166967B true CN116166967B (zh) | 2023-07-14 |
Family
ID=86418582
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310429960.9A Active CN116166967B (zh) | 2023-04-21 | 2023-04-21 | 基于元学习与残差网络的数据处理方法、设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116166967B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117114087B (zh) * | 2023-10-23 | 2024-02-13 | 深圳开鸿数字产业发展有限公司 | 故障预测方法、计算机设备和可读存储介质 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09196825A (ja) * | 1996-01-18 | 1997-07-31 | Fuji Facom Corp | プラントの異常検知装置 |
JP2011065440A (ja) * | 2009-09-17 | 2011-03-31 | Mitsubishi Denki Information Technology Corp | ログデータ分析装置及びログデータ分析装置のログデータ分析方法及びログデータ分析プログラム |
JP2015028700A (ja) * | 2013-07-30 | 2015-02-12 | Kddi株式会社 | 障害検知装置、障害検知方法、障害検知プログラム及び記録媒体 |
US10462170B1 (en) * | 2016-11-21 | 2019-10-29 | Alert Logic, Inc. | Systems and methods for log and snort synchronized threat detection |
CN109885452B (zh) * | 2019-01-23 | 2023-04-14 | 平安科技(深圳)有限公司 | 性能监控方法、装置及终端设备 |
CN110488772B (zh) * | 2019-07-04 | 2021-05-11 | 烽台科技(北京)有限公司 | 一种dcs的集中监控方法、装置及集中监控终端 |
CN112016743A (zh) * | 2020-08-24 | 2020-12-01 | 广东电网有限责任公司 | 电网设备的检修预测方法、装置、计算机设备和存储介质 |
CN112329847A (zh) * | 2020-11-03 | 2021-02-05 | 北京神州泰岳软件股份有限公司 | 一种异常检测方法、装置、电子设备及存储介质 |
CN113438114B (zh) * | 2021-06-29 | 2022-10-14 | 平安普惠企业管理有限公司 | 互联网系统的运行状态监控方法、装置、设备及存储介质 |
CN113780580B (zh) * | 2021-09-09 | 2024-04-19 | 平安银行股份有限公司 | 基于机器学习的数据分析方法、装置、设备及存储介质 |
CN114610515B (zh) * | 2022-03-10 | 2022-09-13 | 电子科技大学 | 基于日志全语义的多特征日志异常检测方法及系统 |
-
2023
- 2023-04-21 CN CN202310429960.9A patent/CN116166967B/zh active Active
Non-Patent Citations (1)
Title |
---|
基于卷积神经网络的网络故障诊断模型;李酉戌;;软件导刊(第12期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN116166967A (zh) | 2023-05-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Annis et al. | Bayesian inference with Stan: A tutorial on adding custom distributions | |
US8549478B2 (en) | Graphical user interface input element identification | |
CN109711440B (zh) | 一种数据异常检测方法和装置 | |
CN109743311B (zh) | 一种WebShell检测方法、装置及存储介质 | |
CN110008080B (zh) | 基于时间序列的业务指标异常检测方法、装置和电子设备 | |
US9471470B2 (en) | Automatically recommending test suite from historical data based on randomized evolutionary techniques | |
US20150309918A1 (en) | Method of optimizing execution of test cases and a system thereof | |
CN111145076B (zh) | 数据并行化处理方法、系统、设备及存储介质 | |
US11269760B2 (en) | Systems and methods for automated testing using artificial intelligence techniques | |
CN116166967B (zh) | 基于元学习与残差网络的数据处理方法、设备和存储介质 | |
CN110909758A (zh) | 计算机可读记录介质、学习方法和学习装置 | |
US11645192B2 (en) | Graph-based method for inductive bug localization | |
CN114443483A (zh) | 人工智能系统的测试方法、装置、电子设备及介质 | |
CN113946983A (zh) | 产品可靠性薄弱环节评估方法、装置和计算机设备 | |
CN111159169B (zh) | 数据治理方法及设备 | |
CN110334262B (zh) | 一种模型训练方法、装置及电子设备 | |
CN110413750A (zh) | 根据用户问句召回标准问句的方法和装置 | |
CN114139636A (zh) | 异常作业处理方法及装置 | |
KR102255470B1 (ko) | 인공신경망 모델의 검증 방법 및 장치 | |
CN109284354B (zh) | 脚本搜索方法、装置、计算机设备及存储介质 | |
CN117114087B (zh) | 故障预测方法、计算机设备和可读存储介质 | |
CN113093702B (zh) | 故障数据的预测方法和装置、电子设备和存储介质 | |
CN112685246B (zh) | 一种时序数据的处理方法及装置 | |
CN115509927A (zh) | 软件缺陷概率的确定方法、装置、设备及存储介质 | |
CN117112449B (zh) | 数据治理工具的成熟度评估方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |