CN114461499A - 异常信息检测模型的构建方法和灰度环境异常检测方法 - Google Patents
异常信息检测模型的构建方法和灰度环境异常检测方法 Download PDFInfo
- Publication number
- CN114461499A CN114461499A CN202210131279.1A CN202210131279A CN114461499A CN 114461499 A CN114461499 A CN 114461499A CN 202210131279 A CN202210131279 A CN 202210131279A CN 114461499 A CN114461499 A CN 114461499A
- Authority
- CN
- China
- Prior art keywords
- detection
- model
- prediction
- detected
- abnormal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3058—Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
本公开提供了一种异常信息检测模型的构建方法和灰度环境异常检测方法,可以应用于人工智能领域。构建方法包括:获取训练样本,其中,训练样本包括训练数据和与样本标签,训练数据包括第一历史检测偏离度,第一历史偏离度基于待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成,样本标签包括第二历史偏离度;获取N个初始模型;利用训练数据分别训练N个初始模型中的每个初始模型,得到训练后的N个预测模型;根据样本标签,确定N个预测模型各自的预测精度;根据N个预测模型各自的预测精度,构建异常信息检测模型。本公开还提供了异常信息检测模型的构建装置、灰度环境异常检测装置、设备、介质和程序产品。
Description
技术领域
本公开涉及人工智能领域,具体地涉及一种异常信息检测模型的构建方法、灰度环境异常检测方法、装置、设备、介质和程序产品。
背景技术
为了适应业务的快速上线,系统功能升级周期进一步缩短,通过灰度发布上线,即将需要投产的系统发布至灰度环境中运行,可以通过灰度环境检测系统运行的异常情况,有针对性地进行调整,从而可以有效降低系统投产上线可能引发的风险。
在实现本公开的发明构思过程中,发明人发现相关技术中通过获取到的运行数据和预先设定的检测阈值,来检测系统在灰度环境中运行的异常情况,检测手段智能化程度较低,且检测准确率较低。
发明内容
鉴于上述问题,本公开提供了异常信息检测模型的构建方法、灰度环境异常检测方法、装置、设备、介质和程序产品。
根据本公开的第一个方面,提供了一种异常信息检测模型的构建方法,包括:
获取训练样本,其中,上述训练样本包括训练数据和与上述训练数据相对应的样本标签,上述训练数据包括第一历史检测偏离度,上述第一历史偏离度基于待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成,上述样本标签包括第二历史偏离度,上述训练数据的时序标记早于上述样本标签;
获取N个初始模型,其中,N个上述初始模型各自的网络结构不同,N≥2;
利用上述训练数据分别训练N个上述初始模型中的每个初始模型,得到训练后的N个预测模型,其中,每个预测模型与N个上述初始模型中的一个初始模型相对应;
根据上述样本标签,确定N个上述预测模型各自的预测精度;
根据N个上述预测模型各自的预测精度,构建异常信息检测模型。
根据本公开的实施例,根据上述样本标签,确定N个上述预测模型各自的预测精度包括:
将上述训练数据分别输入至N个上述预测模型,得到每个上述预测模型各自输出的预测结果;
利用上述样本标签分别处理N个上述预测模型各自输出的预测结果,确定N个上述预测模型各自的预测精度。
根据本公开的实施例,根据N个上述预测模型各自的预测精度,构建异常信息检测模型包括:
根据N个上述预测模型各自的预测精度,确定每个上述预测模型相对应的检测权重;
根据N个上述预测模型和每个上述预测模型相对应的检测权重,构建上述异常信息检测模型。
根据本公开的实施例,上述初始模型包括基于时间序列算法构建的模型。
根据本公开的实施例,上述基于时间序列算法构建的模型包括以下至少一项:
指数平滑模型、自回归差分移动平均模型、Prophet模型、自回归模型、移动平均模型。
根据本公开的实施例,上述第一历史检测数据或上述第二历史检测数据包括以下至少一项:
上述待检测系统的响应时长、上述待检测系统的系统容量、上述待检测系统的运行错误频次、上述待检测系统的请求频次。
本公开的第二方面提供了一种灰度环境异常检测方法,包括:
获取检测偏离度,上述检测偏离度基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成;
将上述检测偏离度输入至异常信息检测模型,输出异常信息检测结果,其中,上述异常信息检测结果表征上述待检测系统的运行异常情况,上述异常信息检测模型由上述的异常信息检测模型的构建方法构建得到。
根据本公开的实施例,上述灰度环境异常检测方法还包括:
根据上述异常信息检测结果,和/或根据待检测系统在灰度环境中运行产生的第一报警信息与目标报警信息库中的目标报警信息的第一匹配结果,确定上述待检测系统的运行异常情况,其中,上述目标报警信息库基于上述待检测系统在正式环境中运行产生的第二报警信息构建得到。
根据本公开的实施例,上述灰度环境异常检测方法还包括:
获取上述待检测系统在上述正式环境中运行产生的第二报警信息;
将上述第二报警信息与上述目标报警信息库中的每个目标报警信息进行匹配,得到上述第二报警信息与每个上述目标报警信息相对应的第二匹配结果;
在上述第二报警信息与每个上述目标报警信息相对应的第二匹配结果均表征不匹配的情况下,将上述第二报警信息作为新的目标报警信息,添加至上述目标报警信息库中,得到更新后的目标报警信息库。
本公开的第三方面提供了一种异常信息检测模型的构建装置,包括:
样本获取模块,用于获取训练样本,其中,上述训练样本包括训练数据和与上述训练数据相对应的样本标签,上述训练数据包括第一历史检测偏离度,上述第一历史偏离度基于待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成,上述样本标签包括第二历史偏离度,上述训练数据的时序标记早于上述样本标签;
初始模型获取模块,用于获取N个初始模型,其中,N个上述初始模型各自的网络结构不同;
训练模块,用于利用上述训练数据分别训练N个上述初始模型中的每个初始模型,得到训练后的N个预测模型,其中,每个预测模型与N个上述初始模型中的一个初始模型相对应,N≥2;
确定模块,用于根据上述样本标签,确定N个上述预测模型各自的预测精度;以及
构建模块,用于根据N个上述预测模型各自的预测精度,构建异常信息检测模型。
本公开的第四方面提供了一种灰度环境异常检测装置,包括:
获取模块,用于获取检测偏离度,上述检测偏离度基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成;以及
检测模块,用于将上述检测偏离度输入至异常信息检测模型,输出异常信息检测结果,其中,上述异常信息检测结果表征上述待检测系统的运行异常情况,上述异常信息检测模型由上述的异常信息检测模型的构建方法构建得到。
本公开的第五方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述异常信息检测模型的构建方法或上述灰度环境异常检测方法。
本公开的第六方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述异常信息检测模型的构建方法或上述灰度环境异常检测方法。
本公开的第七方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述异常信息检测模型的构建方法或上述灰度环境异常检测方法。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的异常信息检测模型的构建方法、灰度环境异常检测方法和装置的应用场景图;
图2示意性示出了根据本公开实施例的异常信息检测模型的构建方法的流程图;
图3示意性示出了根据本公开实施例的根据样本标签,确定N个预测模型各自的预测精度的流程图;
图4示意性示出了根据本公开实施例的根据N个预测模型各自的预测精度,构建异常信息检测模型的流程图;
图5示意性示出了根据本公开实施例的灰度环境异常检测方法的流程图;
图6示意性示出了根据本公开实施例的灰度环境异常检测方法的应用场景图;
图7示意性示出了根据本公开另一实施例的灰度环境异常检测方法的流程图;
图8示意性示出了根据本公开实施例的异常信息检测模型的构建装置的结构框图
图9示意性示出了根据本公开实施例的灰度环境异常检测装置的结构框图;以及
图10示意性示出了根据本公开实施例的适于实现异常信息检测模型的构建方法、灰度环境异常检测方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
灰度环境可以是指线上仿真环境或者预发布环境。系统可以通过在灰度环境中发布,来检测系统的运行状况,及时发现并调整系统在运行过程中出现的问题,从而使系统可以实现一种平滑过渡地发布方式,正式环境可以包括系统正式运行的运行环境。
在实现本公开的发明构思过程中,发明人发现对于系统在灰度环境中运行的异常情况检测准确率较低,且不能及时发现运行的异常情况。
本公开的实施例提供了一种异常信息检测模型的构建方法,包括:
获取训练样本,其中,训练样本包括训练数据和与训练数据相对应的样本标签,训练数据包括第一历史检测偏离度,第一历史偏离度基于待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成,样本标签包括第二历史偏离度,训练数据的时序标记早于样本标签;获取N个初始模型,其中,N个初始模型各自的网络结构不同,N≥2;利用训练数据分别训练N个初始模型中的每个初始模型,得到训练后的N个预测模型,其中,每个预测模型与N个初始模型中的一个初始模型相对应;根据样本标签,确定N个预测模型各自的预测精度;根据N个预测模型各自的预测精度,构建异常信息检测模型。
根据本公开的实施例,通过待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成第一历史检测偏离度,并通过第一历史检测偏离度训练N个网络结构不同的初始模型,可以得到用于预测待检测系统的检测偏离度的N个预测模型;根据样本标签确定N个预测模型各自的预测精度,并根据N个预测模型各自的预测精度,构建异常信息检测模型,可以使构建得到的异常信息检测模型,能够提升针对待检测系统运行的异常信息检测的准确率。
本公开的实施例还提供了一种灰度环境异常检测方法,包括:
获取检测偏离度,检测偏离度基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成;将检测偏离度输入至异常信息检测模型,输出异常信息检测结果,其中,异常信息检测结果表征待检测系统的运行异常情况,异常信息检测模型由上述异常信息检测模型的构建方法构建得到。
根据本公开的实施例,基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成检测偏离度,可以实时获取待检测系统的在灰度环境与正式环境中的运行情况,从而可以通过处理检测偏离度,分析待检测系统分别在灰度环境与正式环境中运行情况;通过上述构建方法构建得到的异常信息检测模型处理检测偏离度,从而使得到的异常信息检测结果可以快速地确定待检测系统在灰度环境中运行的异常情况,可以使相关运维人员快速定位待检测系统的运行异常情况,且相对于人工分析异常信息,可以有效地提升异常情况的检测准确率。
在本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
图1示意性示出了根据本公开实施例的异常信息检测模型的构建方法、灰度环境异常检测方法和装置的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103、网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的异常信息检测模型的构建方法、灰度环境异常检测方法一般可以由服务器105执行。相应地,本公开实施例所提供的异常信息检测模型的构建装置、灰度环境异常检测装置一般可以设置于服务器105中。本公开实施例所提供的异常信息检测模型的构建方法、灰度环境异常检测方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的异常信息检测模型的构建装置、灰度环境异常检测装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
本公开实施例所提供的异常信息检测模型的构建方法、灰度环境异常检测方法也可以由终端设备101、102、103执行。相应地,本公开实施例所提供的异常信息检测模型的构建装置、灰度环境异常检测装置一般可以设置于终端设备101、102、103中。本公开实施例所提供的异常信息检测模型的构建方法、灰度环境异常检测方法也可以由不同于终端设备101、102、103和/或服务器105的终端设备执行。相应地,本公开实施例所提供的异常信息检测模型的构建装置、灰度环境异常检测装置也可以设置于不同于终端设备101、102、103和/或服务器105的终端设备中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图4对公开实施例的异常信息检测模型的构建方法进行详细描述。
图2示意性示出了根据本公开实施例的异常信息检测模型的构建方法的流程图。
如图2所示,上述异常信息检测模型的构建方法可以包括操作S210~操作S250。
在操作S210,获取训练样本,其中,训练样本包括训练数据和与训练数据相对应的样本标签,训练数据包括第一历史检测偏离度,第一历史偏离度基于待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成,样本标签包括第二历史偏离度,训练数据的时序标记早于样本标签。
根据本公开的实施例,第一历史检测数据可以包括在历史时间段内,待检测系统在灰度环境中运行产生的检测指标数据,例如待检测系统在灰度环境中的响应时长等。相应地,第二历史检测数据可以包括在历史时间段内,待检测系统在正式环境中运行产生的检测指标数据。
根据本公开的实施例,第一历史检测偏离度可以根据第一历史检测数据与第二历史检测数据生成,例如可以根据第一历史检测数据与第二历史检测数据的差值生成第一历史检测偏离度。
需要说明的是,第一历史检测数据与第二历史检测数据可以是在同一时刻生成的,也可以是在不同时刻生成的,本领域技术人员可以根据实际的需求进行设定。
根据本公开的实施例,样本标签包括第二历史偏离度,训练数据的时序标记早于样本标签,因此第二历史偏离度在时序上晚于第一历史偏离度。
在操作S220,获取N个初始模型,其中,N个初始模型各自的网络结构不同,N≥2。
根据本公开的实施例,初始模型可以是基于时间序列预测算法构建的,但不限于此,还可以是基于机器学习模型构建得到的。
在操作S230,利用训练数据分别训练N个初始模型中的每个初始模型,得到训练后的N个预测模型,其中,每个预测模型与N个初始模型中的一个初始模型相对应。
根据本公开的实施例,训练初始模型可以通过检验残差来实现,例如当初始模型是基于时间序列预测算法构建的自回归移动平均模型(ARMA模型)时,可以通过检验残差训练初始模型,例如通过检验残差,得到的模型残差为呈正态分布的白噪声时,得到训练后的预测模型。
需要说明的是,本公开的实施例对初始模型的具体训练过程不做限定,本领域技术人员可以根据初始模型的网络结构进行选择。
在操作S240,根据样本标签,确定N个预测模型各自的预测精度。
在操作S250,根据N个预测模型各自的预测精度,构建异常信息检测模型。
根据本公开的实施例,在预测模型的预测精度可以是基于预测模型输出的预测结果与样本标签的比对结果生成。应该理解的是,不同的预测模型各自的预测精度可以相同也可以不同。
根据本公开的实施例,根据N个预测模型各自的预测精度,构建异常信息检测模型,可以包括从N个预测模型中选取预测精度最高的预测模型作为异常信息检测模型,还可以包括将N个预测模型中的M个构建为异常信息监测模型,其中,N≥M≥2。
由于待检测系统在灰度环境与正式环境中运行产生的检测指标数据的类型较多,在综合考虑N个预测模型各自的预测精度的情况下,构建异常信息检测模型,可以利用异常信息检测模型,有效地提升对于待检测系统运行过程中的对于异常信息检测的准确率。
根据本公开的实施例,通过待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成第一历史检测偏离度,并通过第一历史检测偏离度训练N个网络结构不同的初始模型,可以得到用于预测待检测系统的检测偏离度的N个预测模型;根据样本标签确定N个预测模型各自的预测精度,并根据N个预测模型各自的预测精度,构建异常信息检测模型,可以使构建得到的异常信息检测模型,能够提升针对待检测系统运行的异常信息检测的准确率。
根据本公开的实施例,所述初始模型包括基于时间序列算法构建的模型。
根据本公开的实施例,基于时间序列算法构建的模型包括以下至少一项:
指数平滑模型、自回归差分移动平均模型、Prophet模型、自回归模型、移动平均模型。
根据本公开的实施例,初始模型还可以包括其他基于时间序列预测算法构建的模型,例如自回归移动平均模型(ARMA模型)等。
在本实施例中,可以选取指数平滑模型、自回归差分移动平均模型和Prophet模型作为初始模型。
根据本公开的实施例,第一历史检测数据或第二历史检测数据包括以下至少一项:
待检测系统的响应时长、待检测系统的系统容量、待检测系统的运行错误频次、待检测系统的请求频次。
图3示意性示出了根据本公开实施例的根据样本标签,确定N个预测模型各自的预测精度的流程图。
如图3所示,操作S240,根据样本标签,确定N个预测模型各自的预测精度可以包括操作S310~操作S320。
在操作S310,将训练数据分别输入至N个预测模型,得到每个预测模型各自输出的预测结果。
在操作S320,利用样本标签分别处理N个预测模型各自输出的预测结果,确定N个预测模型各自的预测精度。
根据本公开的实施例,预测模型输出的预测结果可以是针对于第二历史偏离度的预测结果,不同的预测模型输出的预测结果可以相同也可以不同。
根据本公开的实施例,利用样本标签分别处理N个预测模型各自输出的预测结果,确定N个预测模型各自的预测精度,可以包括基于样本标签与每个预测结果的比对确定N个预测模型各自的预测精度。
在本实施例中,例如针对一个预测模型,可以利用样本标签与预测结果的差值,得到预测误差,进而确定预测误差与样本标签的比值。在预测误差与样本标签的比值小于或等于预设阈值的情况下,确定该预测结果为预测正确。在预测误差与样本标签的比值大于预设阈值的情况下,确定该预测结果为预测错误。通过统计预测结果为预测正确占预测结果总数的比值,可以确定该预测模型的预测精度。采用相同或相似的方法,可以进一步确定N个预测模型各自的预测精度。
需要说明的是,预设阈值可以根据实际需求进行设计,例如可以包括1%、3%、5%等。本公开的实施例对于预设阈值的具体设定不做限定。
根据本公开的实施例,通过利用样本标签分别处理N个预测模型各自输出的预测结果,确定N个预测模型各自的预测精度,可以进一步确定各个预测模型对于待检测系统在运行过程中异常信息的检测准确率,为后续构建异常信息检测模型提供有效的依据。
图4示意性示出了根据本公开实施例的根据N个预测模型各自的预测精度,构建异常信息检测模型的流程图。
如图4所示,操作S250,根据N个预测模型各自的预测精度,构建异常信息检测模型可以包括操作S410~操作S420。
在操作S410,根据N个预测模型各自的预测精度,确定每个预测模型相对应的检测权重。
在操作S420,根据N个预测模型和每个预测模型相对应的检测权重,构建异常信息检测模型。
根据本公开的实施例,预测模型的预测精度,可以表征该预测模型对于异常信息检测的准确率,综合考虑N个预测模型各自的预测精度,将N个预测模型各自的预测精度按照相同的比例关系转换为每个预测模型相对应的检测权重,从而可以通过检测权重表征N个预测模型各自对于异常信息检测的准确率。
根据本公开的实施例,根据N个预测模型和每个预测模型相对应的检测权重,构建异常信息检测模型,即可以通过将N个预测模型各自输出的预测结果乘以该预测模型相对应的检测权重,得到每个预测模型相对应的权重预测结果。将N个预测模型相对应的权重预测结果求均值,从而可以得到异常信息检测模型的异常信息检测结果。从而使得到的异常信息检测结果可以综合考虑N个预测模型的预测准确率,快速地确定待检测系统在灰度环境中运行的异常情况,使相关运维人员快速定位待检测系统的运行异常情况,有效地提升异常情况的检测准确率。
本公开的实施例还提供了一种灰度环境异常检测方法,以下将通过图5~图7对公开实施例的灰度环境异常检测方法进行详细描述。
图5示意性示出了根据本公开实施例的灰度环境异常检测方法的流程图。
如图5所示,灰度环境异常检测方法可以包括操作S510~操作S520。
在操作S510,获取检测偏离度,检测偏离度基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成。
根据本公开的实施例,第一检测数据可以包括待检测系统在灰度环境中运行实时产生的检测指标数据,例如待检测系统在灰度环境中的响应时长等。相应地,第二检测数据可以包括待检测系统在正式环境中运行实时产生的检测指标数据。
根据本公开的实施例,检测偏离度可以根据第一检测数据与第二检测数据生成,例如可以根据第一检测数据与第二检测数据的差值生成检测偏离度。
需要说明的是,第一检测数据与第二检测数据可以是在同一时刻生成的,也可以是在不同时刻生成的,本领域技术人员可以根据实际的需求进行设定。
在操作S520,将检测偏离度输入至异常信息检测模型,输出异常信息检测结果,其中,异常信息检测结果表征待检测系统的运行异常情况,异常信息检测模型由上述的异常信息检测模型的构建方法构建得到。
根据本公开的实施例,异常信息检测模型由上述的异常信息检测模型的构建方法构建得到,因此输出的异常信息检测结果可以是综合考虑多个预测模型的预测精度的情况下得到的。
根据本公开的实施例,基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成检测偏离度,可以实时获取待检测系统的在灰度环境与正式环境中的运行情况,从而可以通过处理检测偏离度,分析待检测系统分别在灰度环境与正式环境中运行情况;通过上述构建方法构建得到的异常信息检测模型处理检测偏离度,从而使得到的异常信息检测结果可以快速地确定待检测系统在灰度环境中运行的异常情况,可以使相关运维人员快速定位待检测系统的运行异常情况,可以有效地提升异常情况的检测准确率。
根据本公开的实施例,灰度环境异常检测方法还可以包括如下操作。
根据异常信息检测结果,和/或根据待检测系统在灰度环境中运行产生的第一报警信息与目标报警信息库中的目标报警信息的第一匹配结果,确定待检测系统的运行异常情况,其中,目标报警信息库基于待检测系统在正式环境中运行产生的第二报警信息构建得到。
根据本公开的实施例,根据异常信息检测结果,确定待检测系统的运行异常情况,例如可以包括在异常信息检测结果大于预设检测阈值的情况下,确定该待检测系统的运行异常。应该理解的是,预设检测阈值可以根据实际需求进行设定,例如可以是实时检测指标数据与昨日相同时刻的检测指标数据的偏离度、实时检测指标数据与上周相同时刻的检测指标数据的偏离度、实时检测指标数据与两周前相同时刻的检测指标数据的偏离度、实时检测指标数据与三周前相同时刻的检测指标数据的偏离度的平均值3sigma。
根据本公开的实施例,待检测系统在灰度环境中运行产生的第一报警信息与目标报警信息库中的目标报警信息的第一匹配结果,可以表征第一报警信息是否与目标报警信息是否匹配。在第一匹配结果表征不匹配的情况下,可以确定目标报警信息库中不存在与第一报警信息相同的目标报警信息,即第一报警信息是待检测系统在灰度环境运行的过程中产生的新的报警信息。通过确定待检测系统在灰度环境中产生新的报警信息,可以确定待检测系统的运行异常状况为运行异常。从而便于相关人员及时获取到重要的新的报警信息,避免从重复的报警中筛选出新的报警信息而对时效性产生影响。
根据本公开的实施例,可以通过对第一报警信息的字段与目标报警信息的字段进行全词匹配,得到第一匹配结果,但不仅限于此,或者还可以基于第一报警信息与目标报警信息的余弦相似度得到第一匹配结果,本公开的实施例对得到第一匹配结果的具体方法不做限定。
图6示意性示出了根据本公开实施例的灰度环境异常检测方法的应用场景图。
如图6所示,在获取到待检测系统的检测偏离度610后,可以将检测偏离度610输入至异常信息检测模型620。异常信息检测模型620可以是基于A预测模型621、B预测模型622和C预测模型623构建得到的。异常信息检测模型620中的每个预测模型均具有相对应的检测权重。
可以利用A预测模型621、B预测模型622和C预测模型623并行处理检测偏离度610,并根据各预测模型对应的检测权重,输出异常信息检测结果630。在异常信息检测结果630大于预设检测阈值的情况下可以确定待检测系统运行异常,同时标记异常点,以便相关人员针对异常情况进行处理。
在本实施例中,例如可以在异常信息检测结果大于历史平均值3sigma的情况下确定待检测系统运行异常。
图7示意性示出了根据本公开另一实施例的灰度环境异常检测方法的流程图。
如图7所示,上述灰度环境异常检测方法还可以包括操作S710~操作S730。
在操作S710,获取待检测系统在正式环境中运行产生的第二报警信息。
在操作S720,将第二报警信息与目标报警信息库中的每个目标报警信息进行匹配,得到第二报警信息与每个目标报警信息相对应的第二匹配结果。
在操作S730,在第二报警信息与每个目标报警信息相对应的第二匹配结果均表征不匹配的情况下,将第二报警信息作为新的目标报警信息,添加至目标报警信息库中,得到更新后的目标报警信息库。
根据本公开的实施例,第二报警信息与目标报警信息的匹配方法可以包括全词匹配,或者还可以通过第二报警信息与目标报警信息的余弦相似度得到第二匹配结果。
在本实施例中,还可以提取第二报警信息停用词和报警类型词,将停用词和报警类型词拼接为与该第二报警信息相对应的第二拼接报警信息。相应地,目标报警信息库中的每个目标报警信息也是通过相同或相似的方法得到的目标拼接报警信息。将第二拼接报警信息与目标拼接报警信息进行匹配,可以得到第二匹配结果。通过提取停用词和报警类型词,在将停用词和报警类型词拼接后表征第二报警信息和目标报警信息,可以有效地减少字符数量,从而减少第二报警信息与目标报警信息库中的每个目标报警信息进行匹配的运算量,提升得到第二匹配结果的运算效率。
根据本公开的实施例,停用词例如可以包括“的”、“地”、“得”、“应用名”、“数字”、“是”、“ErrMsg”、“apptime”、“java”、“timestamp”、“is”等。报警类型词可以包括报警信息中的报警类型字段,例如可以包括“mysql exception”等。
基于上述异常信息检测模型的构建方法,本公开还提供了一种异常信息检测模型的构建装置。以下将结合图8对该装置进行详细描述。
图8示意性示出了根据本公开实施例的异常信息检测模型的构建装置的结构框图。
如图8所示,异常信息检测模型的构建装置800包括样本获取模块810、初始模型获取模块820、训练模块830、确定模块840和构建模块850。
样本获取模块810用于获取训练样本,其中,训练样本包括训练数据和与训练数据相对应的样本标签,训练数据包括第一历史检测偏离度,第一历史偏离度基于待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成,样本标签包括第二历史偏离度,训练数据的时序标记早于样本标签。
初始模型获取模块820用于获取N个初始模型,其中,N个初始模型各自的网络结构不同。
训练模块830用于利用训练数据分别训练N个初始模型中的每个初始模型,得到训练后的N个预测模型,其中,每个预测模型与N个初始模型中的一个初始模型相对应,N≥2。
确定模块840用于根据样本标签,确定N个预测模型各自的预测精度。
构建模块850用于根据N个预测模型各自的预测精度,构建异常信息检测模型。
根据本公开的实施例,确定模块可以包括:预测单元和第一确定单元。
预测单元用于将训练数据分别输入至N个预测模型,得到每个预测模型各自输出的预测结果。
第一确定单元用于利用样本标签分别处理N个预测模型各自输出的预测结果,确定N个预测模型各自的预测精度。
根据本公开的实施例,构建模块可以包括:第二确定单元和构建单元。
第二确定单元用于根据N个预测模型各自的预测精度,确定每个预测模型相对应的检测权重。
构建单元用于根据N个预测模型和每个预测模型相对应的检测权重,构建异常信息检测模型。
根据本公开的实施例,初始模型包括基于时间序列算法构建的模型。
根据本公开的实施例,基于时间序列算法构建的模型包括以下至少一项:
指数平滑模型、自回归差分移动平均模型、Prophet模型、自回归模型、移动平均模型。
根据本公开的实施例,第一历史检测数据或第二历史检测数据包括以下至少一项:
待检测系统的响应时长、待检测系统的系统容量、待检测系统的运行错误频次、待检测系统的请求频次。
图9示意性示出了根据本公开实施例的灰度环境异常检测装置的结构框图。
如图9所示,该实施例的灰度环境异常检测装置900包括获取模块910和检测模块920。
获取模块910用于获取检测偏离度,检测偏离度基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成。
检测模块920用于将检测偏离度输入至异常信息检测模型,输出异常信息检测结果,其中,异常信息检测结果表征待检测系统的运行异常情况,异常信息检测模型由上述的异常信息检测模型的构建方法构建得到。
根据本公开的实施例,上述异常检测装置还可以包括:异常确定模块。
异常确定模块用于根据异常信息检测结果,和/或根据待检测系统在灰度环境中运行产生的第一报警信息与目标报警信息库中的目标报警信息的第一匹配结果,确定待检测系统的运行异常情况,其中,目标报警信息库基于待检测系统在正式环境中运行产生的第二报警信息构建得到。
根据本公开的实施例,上述异常检测装置还可以包括:报警信息获取模块、匹配模块和更新模块。
报警信息获取模块用于获取待检测系统在正式环境中运行产生的第二报警信息。
匹配模块用于将第二报警信息与目标报警信息库中的每个目标报警信息进行匹配,得到第二报警信息与每个目标报警信息相对应的第二匹配结果。
更新模块用于在第二报警信息与每个目标报警信息相对应的第二匹配结果均表征不匹配的情况下,将第二报警信息作为新的目标报警信息,添加至目标报警信息库中,得到更新后的目标报警信息库。
根据本公开的实施例,样本获取模块810、初始模型获取模块820、训练模块830、确定模块840、构建模块850、获取模块910和检测模块920中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,样本获取模块810、初始模型获取模块820、训练模块830、确定模块840、构建模块850、获取模块910和检测模块920中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,样本获取模块810、初始模型获取模块820、训练模块830、确定模块840、构建模块850、获取模块910和检测模块920中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图10示意性示出了根据本公开实施例的适于实现异常信息检测模型的构建方法、灰度环境异常检测方法的电子设备的方框图。
如图10所示,根据本公开实施例的电子设备1000包括处理器1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。处理器1001例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器1001还可以包括用于缓存用途的板载存储器。处理器1001可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1003中,存储有电子设备1000操作所需的各种程序和数据。处理器1001、ROM 1002以及RAM 1003通过总线1004彼此相连。处理器1001通过执行ROM 1002和/或RAM1003中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,程序也可以存储在除ROM 1002和RAM 1003以外的一个或多个存储器中。处理器1001也可以通过执行存储在一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备1000还可以包括输入/输出(I/O)接口1005,输入/输出(I/O)接口1005也连接至总线1004。电子设备1000还可以包括连接至I/O接口1005的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1006;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007;包括硬盘等的存储部分1008;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1010上,以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 1002和/或RAM 1003和/或ROM 1002和RAM 1003以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的方法。
在该计算机程序被处理器1001执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分1009被下载和安装,和/或从可拆卸介质1011被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分1009从网络上被下载和安装,和/或从可拆卸介质1011被安装。在该计算机程序被处理器1001执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (14)
1.一种异常信息检测模型的构建方法,包括:
获取训练样本,其中,所述训练样本包括训练数据和与所述训练数据相对应的样本标签,所述训练数据包括第一历史检测偏离度,所述第一历史偏离度基于待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成,所述样本标签包括第二历史偏离度,所述训练数据的时序标记早于所述样本标签;
获取N个初始模型,其中,N个所述初始模型各自的网络结构不同,N≥2;
利用所述训练数据分别训练N个所述初始模型中的每个初始模型,得到训练后的N个预测模型,其中,每个预测模型与N个所述初始模型中的一个初始模型相对应;
根据所述样本标签,确定N个所述预测模型各自的预测精度;
根据N个所述预测模型各自的预测精度,构建异常信息检测模型。
2.根据权利要求1所述的构建方法,其中,根据所述样本标签,确定N个所述预测模型各自的预测精度包括:
将所述训练数据分别输入至N个所述预测模型,得到每个所述预测模型各自输出的预测结果;
利用所述样本标签分别处理N个所述预测模型各自输出的预测结果,确定N个所述预测模型各自的预测精度。
3.根据权利要求1所述的构建方法,其中,根据N个所述预测模型各自的预测精度,构建异常信息检测模型包括:
根据N个所述预测模型各自的预测精度,确定每个所述预测模型相对应的检测权重;
根据N个所述预测模型和每个所述预测模型相对应的检测权重,构建所述异常信息检测模型。
4.根据权利要求1所述的构建方法,其中,
所述初始模型包括基于时间序列算法构建的模型。
5.根据权利要求4所述的构建方法,其中,所述基于时间序列算法构建的模型包括以下至少一项:
指数平滑模型、自回归差分移动平均模型、Prophet模型、自回归模型、移动平均模型。
6.根据权利要求1所述的构建方法,其中,所述第一历史检测数据或所述第二历史检测数据包括以下至少一项:
所述待检测系统的响应时长、所述待检测系统的系统容量、所述待检测系统的运行错误频次、所述待检测系统的请求频次。
7.一种灰度环境异常检测方法,包括:
获取检测偏离度,所述检测偏离度基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成;
将所述检测偏离度输入至异常信息检测模型,输出异常信息检测结果,其中,所述异常信息检测结果表征所述待检测系统的运行异常情况,所述异常信息检测模型由权利要求1至6中任一项所述的异常信息检测模型的构建方法构建得到。
8.根据权利要求7所述的方法,还包括:
根据所述异常信息检测结果,和/或根据待检测系统在灰度环境中运行产生的第一报警信息与目标报警信息库中的目标报警信息的第一匹配结果,确定所述待检测系统的运行异常情况,其中,所述目标报警信息库基于所述待检测系统在正式环境中运行产生的第二报警信息构建得到。
9.根据权利要求8所述的方法,还包括:
获取所述待检测系统在所述正式环境中运行产生的第二报警信息;
将所述第二报警信息与所述目标报警信息库中的每个目标报警信息进行匹配,得到所述第二报警信息与每个所述目标报警信息相对应的第二匹配结果;
在所述第二报警信息与每个所述目标报警信息相对应的第二匹配结果均表征不匹配的情况下,将所述第二报警信息作为新的目标报警信息,添加至所述目标报警信息库中,得到更新后的目标报警信息库。
10.一种异常信息检测模型的构建装置,包括:
样本获取模块,用于获取训练样本,其中,所述训练样本包括训练数据和与所述训练数据相对应的样本标签,所述训练数据包括第一历史检测偏离度,所述第一历史偏离度基于待检测系统分别在灰度环境中运行的第一历史检测数据和在正式环境中运行的第二历史检测数据生成,所述样本标签包括第二历史偏离度,所述训练数据的时序标记早于所述样本标签;
初始模型获取模块,用于获取N个初始模型,其中,N个所述初始模型各自的网络结构不同;
训练模块,用于利用所述训练数据分别训练N个所述初始模型中的每个初始模型,得到训练后的N个预测模型,其中,每个预测模型与N个所述初始模型中的一个初始模型相对应,N≥2;
确定模块,用于根据所述样本标签,确定N个所述预测模型各自的预测精度;以及
构建模块,用于根据N个所述预测模型各自的预测精度,构建异常信息检测模型。
11.一种灰度环境异常检测装置,包括:
获取模块,用于获取检测偏离度,所述检测偏离度基于待检测系统分别在灰度环境中运行的第一检测数据和在正式环境中运行的第二检测数据生成;以及
检测模块,用于将所述检测偏离度输入至异常信息检测模型,输出异常信息检测结果,其中,所述异常信息检测结果表征所述待检测系统的运行异常情况,所述异常信息检测模型由权利要求1至6中任一项所述的异常信息检测模型的构建方法构建得到。
12.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~9中任一项所述的方法。
13.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~9中任一项所述的方法。
14.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~9中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210131279.1A CN114461499A (zh) | 2022-02-11 | 2022-02-11 | 异常信息检测模型的构建方法和灰度环境异常检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210131279.1A CN114461499A (zh) | 2022-02-11 | 2022-02-11 | 异常信息检测模型的构建方法和灰度环境异常检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114461499A true CN114461499A (zh) | 2022-05-10 |
Family
ID=81414061
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210131279.1A Pending CN114461499A (zh) | 2022-02-11 | 2022-02-11 | 异常信息检测模型的构建方法和灰度环境异常检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114461499A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115014821A (zh) * | 2022-05-31 | 2022-09-06 | 三一重机有限公司 | 作业机械异常检测方法、装置及作业机械 |
-
2022
- 2022-02-11 CN CN202210131279.1A patent/CN114461499A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115014821A (zh) * | 2022-05-31 | 2022-09-06 | 三一重机有限公司 | 作业机械异常检测方法、装置及作业机械 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108228428B (zh) | 用于输出信息的方法和装置 | |
CN113837596B (zh) | 一种故障确定方法、装置、电子设备及存储介质 | |
CN110070076B (zh) | 用于选取训练用样本的方法和装置 | |
CN113515399A (zh) | 数据异常检测方法及装置 | |
CN114462532A (zh) | 模型训练方法、预测交易风险的方法、装置、设备及介质 | |
CN114997263B (zh) | 基于机器学习的结训率分析方法、装置、设备及存储介质 | |
CN114238058A (zh) | 监控方法、装置、设备、介质和程序产品 | |
US10572827B2 (en) | Prediction quality assessment | |
CN113159934A (zh) | 一种网点客流量的预测方法、系统、电子设备及存储介质 | |
CN113032257A (zh) | 自动化测试方法、装置、计算机系统和可读存储介质 | |
CN114461499A (zh) | 异常信息检测模型的构建方法和灰度环境异常检测方法 | |
CN117952100A (zh) | 数据处理的方法、装置、电子设备和存储介质 | |
CN113076224A (zh) | 数据备份方法、数据备份系统、电子设备及可读存储介质 | |
CN117493797A (zh) | 一种物联网设备的故障预测方法及装置、电子设备、存储介质 | |
CN109933926B (zh) | 用于预测航班可靠性的方法和装置 | |
CN114706856A (zh) | 故障处理方法及装置、电子设备和计算机可读存储介质 | |
CN118095509A (zh) | 一种油井日产液量预测方法、装置及存储介质 | |
CN113052509A (zh) | 模型评估方法、模型评估装置、电子设备和存储介质 | |
CN114117445A (zh) | 漏洞分类方法、装置、设备及介质 | |
CN114416422A (zh) | 问题定位方法、装置、设备、介质和程序产品 | |
CN114021827A (zh) | 运营策略生成方法及装置 | |
CN111767290B (zh) | 用于更新用户画像的方法和装置 | |
CN113609018A (zh) | 测试方法、训练方法、装置、设备、介质和程序产品 | |
CN113127362A (zh) | 对象测试方法、对象测试装置、电子设备及可读存储介质 | |
CN111651753A (zh) | 用户行为分析系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |