CN113641566A - 基于人工智能的系统告警方法、装置、计算机设备和介质 - Google Patents
基于人工智能的系统告警方法、装置、计算机设备和介质 Download PDFInfo
- Publication number
- CN113641566A CN113641566A CN202111018087.1A CN202111018087A CN113641566A CN 113641566 A CN113641566 A CN 113641566A CN 202111018087 A CN202111018087 A CN 202111018087A CN 113641566 A CN113641566 A CN 113641566A
- Authority
- CN
- China
- Prior art keywords
- data
- scheduled
- checking
- scheduling
- task
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 80
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 27
- 238000012545 processing Methods 0.000 claims abstract description 149
- 238000007689 inspection Methods 0.000 claims abstract description 109
- 230000008569 process Effects 0.000 claims description 37
- 238000004590 computer program Methods 0.000 claims description 26
- 238000013075 data extraction Methods 0.000 claims description 14
- 238000005516 engineering process Methods 0.000 abstract description 13
- 238000010586 diagram Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013524 data verification Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3466—Performance evaluation by tracing or monitoring
- G06F11/3495—Performance evaluation by tracing or monitoring for systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3466—Performance evaluation by tracing or monitoring
- G06F11/3476—Data logging
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本申请涉及人工智能技术领域,特别是涉及一种基于人工智能的系统告警方法、装置、计算机设备和介质。所述方法包括:获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据;基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;基于检查结果,对待调度任务进行告警处理。采用本方法能够提升告警处理准确性。本申请还涉及区块链技术领域,各数据均可以上传至区块链。
Description
技术领域
本申请涉及人工智能技术领域,特别是涉及一种基于人工智能的系统告警方法、装置、计算机设备和介质。
背景技术
随着互联网技术的迅猛发展,互联网业务处理逻辑也越发复杂,从而对业务系统的监控检查以及告警提出来更高的要求。
在传统方式中,告警处理通常是基于任务状态告警,或者是任务结果数据量的简单验证检测,检查过程或者告警过程通常较为简单,系统检查告警处理过程并未结合具体的业务场景,检查项的设置并不完善,从而将存在检查遗漏等现象的发生,进而将使得告警处理并不准确。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提升告警处理准确性的基于人工智能的系统告警方法、装置、计算机设备和介质。
一种基于人工智能的系统告警方法,所述方法包括:
获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;
根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据;
基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;
基于检查结果,对待调度任务进行告警处理。
在其中一个实施例中,上述方法还包括:
获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据;
根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据,包括:
基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
在其中一个实施例中,调度处理流程包括数据抽取、数据加工以及数据下发;上述方法还包括:
从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工;
基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
在其中一个实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
在其中一个实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量;
根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
在其中一个实施例中,上述方法还包括:
将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
一种基于人工智能的系统告警装置,所述装置包括:
调度任务数据获取模块,用于获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;
检查配置数据确定模块,用于根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据;
检查模块,用于基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;
告警模块,用于基于检查结果,对待调度任务进行告警处理。
在其中一个实施例中,上述装置还包括:
脚本文件获取模块,用于获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据;
检查配置数据确定模块用于基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一实施例所述方法的步骤。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一实施例所述的方法的步骤。
上述基于人工智能的系统告警方法、装置、计算机设备和介质,通过获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据,然后根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据,进一步基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,并基于检查结果,对待调度任务进行告警处理。从而,可以基于调度处理流程和/或待调度数据,生成对应待调度任务的检查配置数据,并进行检查与告警处理,使得检查处理更具针对性,可以提升检查的覆盖率以及检查的准确性,进而可以提升报告告警的准确性。
附图说明
图1为一个实施例中基于人工智能的系统告警方法的应用场景图;
图2为一个实施例中基于人工智能的系统告警方法的流程示意图;
图3为一个实施例中基于人工智能的系统告警装置的结构框图;
图4为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请提供的基于人工智能的系统告警方法,可以应用于如图1所示的应用环境中。其中,终端102通过网络与服务器104进行通信。具体地,终端102可以与用户交互,并基于用户的指示,请求进行告警检测,并发送至服务器104.服务器104可以获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据,然后根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据。进一步,服务器104可以基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,并基于检查结果,对待调度任务进行告警处理。其中,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备,服务器104可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
在一个实施例中,如图2所示,提供了一种基于人工智能的系统告警方法,以该方法应用于图1中的服务器为例进行说明,包括以下步骤:
步骤S202,获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据。
其中,调度任务数据可以是指目标调度系统中执行调度任务时所相关的数据,可以包括但不限于待调度任务的调度处理流程和/或待调度数据。
在本实施例中,基于调度系统的不同,调度处理流程可以并不相同,例如,在某一具体场景中,调度处理流程可以包括但不限于数据抽取、数据加工以及数据下发等处理过程。待调度数据可以基于数据请求方请求的不同而不同,例如,对于保险业务领域,可以是请求获取保险订单数据、保险交易数据等,而对于医疗领域,待调度数据可以包括医疗数据,如个人健康档案、处方、检查报告等数据。
在本实施例中,服务器在检测到目标调度系统的调度任务时,可以获取其对应的系统数据,并进行后续的处理。
步骤S204,根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据。
其中,检查配置数据是指用于对待调度任务进行检查的数据,其可以包括多个检查配置项。
在本实施例中,检查配置项可以包括全量检查、增量检查、空值率检查、字段检查、具体待调度数据的检查等。本领域技术人员可以理解的是,此处仅为举例说明,在其他实施例中,可以包括更多的检查项,本申请对此不作限制。
在本实施例中,服务器可以基于待调度任务的调度处理流程和/或待调度数据,确定对应待调度任务的检查项,并生成对应的检查配置数据。
在本实施例中,检查配置数据可以是数据表,数据表中记载了各检查配置项以及检查处理流程,服务器可以基于生成的检查配置数据执行相应的数据处理过程。
步骤S206,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果。
具体地,服务器生成对应的检查配置数据后,可以基于检查配置数据中的各配置项,对待调度任务的调度处理流程和/或待调度数据进行检查处理,并生成对应的检查结果。
在本实施例中,服务器对待调度任务的调度处理流程和/或待调度数据进行检查处理可以是按照待调度任务的调度处理流程进行的检查,例如,当待调度任务执行到数据抽取阶段时,则进行数据抽取阶段的检查,并生成对应的检查结果,当待调度任务执行到数据加工阶段时,则进行数据加工阶段的检查,并生成对应的结果,数据下发的处理同理。
步骤S208,基于检查结果,对待调度任务进行告警处理。
在本实施例中,服务器可以根据检查结果,确定检查是否通过。
在本实施例中,当检查结果确定检查通过时,服务器可以不进行告警处理,当服务器确定检查不通过时,则生成告警信息,并发送至运维端,以提示对应的运维人员。
在本实施例中,告警处理可以是在待调度任务执行的各个处理阶段执行的,例如,当服务器基于数据抽取阶段的检查结果,确定检查不通过时,则服务器可以在数据抽取阶段进行告警处理,并停止调度任务的继续执行。同理,当服务器基于数据加工阶段的检查结果,确定检查不通过时,则服务器可以在数据加工阶段进行告警处理,并停止调度任务的继续自行。
在本实施例中,根据调度处理流程的不同,或者是待调度数据的不同,对检查结果是否通过的判定可以不同,例如,在数据抽取阶段,可以是通过对抽取到的数据量进行检查,判定数据量达到预设要求确定检查通过,数据量低于预设要求,检查不通过。
在一个具体的应用场景中,当交易对象需要获取交易所的交易数据时,可以通过调度系统进行请求数据的调用。具体地,服务器可以根据请求获取对应请求的交易数据,对经过处理后发送至请求方,即交易对象。
在本实施例中,服务器在获取并对交易数据进行处理的过程中,可以结合数据处理流程以及交易数据进行检查处理,例如,服务器可以基于处理流程和/或交易数据,确定对应的检查配置数据,进而基于检查配置数据,对处理流程中的各流程步骤,和/或交易数据进行检查,并进行处理,以进行告警处理。例如,处理流程可以包括数据抽取流程,服务器可以对数据抽取流程的执行前、执行中以及执行后所对应的交易数据均进行检查处理,并进行告警。
上述基于人工智能的系统告警方法中,通过获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据,然后根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据,进一步基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,并基于检查结果,对待调度任务进行告警处理。从而,可以基于调度处理流程和/或待调度数据,生成对应待调度任务的检查配置数据,并进行检查与告警处理,使得检查处理更具针对性,可以提升检查的覆盖率以及检查的准确性,进而可以提升报告告警的准确性。
在其中一个实施例中,上述方法还可以包括:获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据。
其中,脚本文件是指通过各不同的编写语言所编写的文件,脚本文件中可以包括各检查项的检查配置数据。
在本实施例中,用户可以通过终端对各检查项的检查配置数据进行编写,并生成脚本文件,使得后续在使用的时候,可以通过读取脚本文件,选择不同的检查项,并生成对应的检查配置数据。例如,终端编写的脚本文件中可以包括全量检查、增量检查、空值率检查、字段检查等各检查项的检查配置数据。服务器可以根据调度处理流程和/或待调度数据,确定对应各调度处理流程或者是待调度数据的目标检查项,并从脚本文件中获取对应目标检查项的检查配置数据,以得到对应待调度任务的检查配置数据。
在本实施例中,根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据,可以包括:基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
具体地,服务器可以根据调度处理流程和/或待调度数据,并结合脚本文件,筛选出对应各流程步骤或者是待调度数据的检查配置数据,并生成对应待调度任务的检查配置数据。
上述实施例中,通过设置脚本文件,使得在生成检查配置数据的时候,可以基于脚本文件生成,可以提升检查配置数据生成效率。并且,通过设置脚本文件,在后续需要更改检查项的时候,可以直接对脚本文件进行更改,相比于传统方式中将检查项写入各个调度任务的执行代码程序中,降低了调度任务与检查项之间强耦合性,有利于简化后续的数据维护。
在其中一个实施例中,如前文所述,调度处理流程可以包括数据抽取、数据加工以及数据下发。
在本实施例中,上述方法还可以包括:从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工。
在本实施例中,服务器可以基于待调度任务,从数据源获取对应的待调度数据,并存储至数据湖中,以使得后续数据处理时,可以从数据湖中获取数据并进行处理。
在本实施例中,数据湖可以包括多种不同种类的数据库,例如hive、hbase、es等,数据湖可以存储来自不同数据源的数据集合,是一个集中式存储库。数据湖中可以进行任意规模存储结构化、半结构化、非结构化和二进制数据,可以管理各类数据的相关要素,包括但不限于数据源、数据格式、连接信息、数据schema、权限管理等。
在本实施例中,服务器可以基于预先设置的数据加工要求,对数据湖中存储的待调度数据进行数据加工,如数据标准化、数据验证、数据加解密等。
在本实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
在本实施例中,服务器可以基于生成的检查配置数据,对数据湖中的待调度数据进行检查处理,如数据加工前的检查,数据加工后的检查等,并生成对应的检查结果。
上述实施例中,通过将抽取出的待调度数据存储指数据湖中,并在数据湖中进行待调度数据的检查,可以实现对来自不同数据源以及不同存储格式的数据进行检查处理,可以提升数据检查的覆盖率,提升数据检查的效率。
在其中一个实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
在本实施例中,待调度数据可以是通过键值对的形式存储的,服务器可以对待调度数据中键值对的主键进行重复性检查,以确定是否存在主键的重复。
齐总,空值率是指数据中的空值或者是0的比率。服务器可以遍历待调度数据,并对待调度数据中的控制以及0数据进行统计计算,确定其对应的空值率。
在本实施例中,服务器可以对空值率进行判定,确定是否达到一定数值,并在确定达到一定数值时,确定检查不通过,并进行告警。例如,服务器可以基于历史数据,确定的空值率阈值为20%,当服务器对待调度数据进行空值率计算,确定空值率为30%时,则服务器可以确定待调度数据的空值率大于空值率阈值,确定空值较多,不符合要求,确定检查不通过,并进行告警。
同理,服务器通过周期对数据源中的数据进行调度时候,可以对数据源中抽取到的数据的增量数据进行增长波动的检查,检查其在本周期内的增长数据与上一增长周期的增长数据的增长量,并在确定该增长量超过预设阈值时,确定检查不通过,并进行告警。例如,对于债券类业务的数据,服务器基于数据表中抽取出的数据可知,在本周期内,债券销售增长为20%,而上周期销售增长为5%,则可以确定在本周期内的增长数据与上一增长周期的增长数据的增长量为15%。服务器可以根据设置的预设阈值,判定该增长量是否满足要求,例如,预设阈值为10%,则可以确定该增长量15%>10%,可能存在增长虚空,则服务器可以确定检查不通过,并进行告警。
在其中一个实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量;根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
在本实施例中,服务器可以设置宏变量,并基于宏变量实现检查条件的动态更新。例如,在服务器检查过程中,需要检查昨天的数据量是否满足要求,则服务器可以设置日期为yyyy-MM-dd,并设置宏变量{yesterday},服务器可以将该数据渲染成昨天的数据。
在本实施例中,服务器还可以设置一些其他的宏变量,如{ds},表示上一周期调度时间,{next_ds}本周期调度时间;{ds_nodash}上一周期调度时间;{next_ds_nodash}本周期调度时间;{prev_ds}上上一周期调度时间;{prev_ds_nodash}上上一周期调度时间;{ts}上一周期调度时间;{ts_nodash}上一周期调度时间;{ts_nodash_with_tz}上一周期调度时间;{yesterday_ds}上一周期调度时间的昨天;{yesterday_ds_nodash}上一周期调度时间的昨天;{tomorrow_ds}上一周期调度时间的明天;{tomorrow_ds_nodash}上一周期调度时间明天。
在本实施例中,服务器可以基于检查配置数据,确定检查配置数据中对应调度处理流程和/或待调度数据的宏变量,并进行后续的检查处理。
上述实施例中,通过设置宏变量,并基于宏变量进行检查处理,使得可以对调度处理流程和/或待调度数据进行检查的时候,可以实现动态更新检查,可以无需添加额外信息以实现动态更新检查,可以提升检查的可扩展性。
在其中一个实施例中,上述方法还可以包括:将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
其中,区块链是指分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Block chain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。
具体地,区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
在本实施例中,服务器可以将调度任务数据、检查配置数据以及检查结果中的一个或者多个数据上传并存储于区块链的节点中,以保证数据的私密性和安全性。
上述实施例中,通过将调度任务数据、检查配置数据以及检查结果中至少一个上传至区块链并存储于区块链的节点中,从而可以保障存储至区块链节点中数据的私密性,可以提升数据的安全性。
在其中一个实施例中,上述数据处理过程可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
应该理解的是,虽然图2的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图3所示,提供了一种基于人工智能的系统告警装置,包括:调度任务数据获取模块100、检查配置数据确定模块200、检查模块300以及告警模块400,其中:
调度任务数据获取模块100,用于获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据。
检查配置数据确定模块200,用于根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
检查模块300,用于基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果。
告警模块400,用于基于检查结果,对待调度任务进行告警处理。
在其中一个实施例中,上述装置还可以包括:
脚本文件获取模块,用于获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据。
检查配置数据确定模块用于基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
在其中一个实施例中,调度处理流程可以包括数据抽取、数据加工以及数据下发。
在本实施例中,上述装置还可以包括:
抽取与加工模块,用于从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工。
在本实施例中,检查模块300用于基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
在其中一个实施例中,检查模块300按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
在其中一个实施例中,检查模块300,可以包括:
宏变量确定子模块,用于基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量。
检查结果生成模块,用于根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
在其中一个实施例中,上述装置还可以包括:
存储模块,用于将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
关于基于人工智能的系统告警装置的具体限定可以参见上文中对于基于人工智能的系统告警方法的限定,在此不再赘述。上述基于人工智能的系统告警装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储调度任务数据、检查配置数据以及检查结果等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于人工智能的系统告警方法。
本领域技术人员可以理解,图4中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,该存储器存储有计算机程序,该处理器执行计算机程序时实现以下步骤:获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据;基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;基于检查结果,对待调度任务进行告警处理。
在其中一个实施例中,处理器执行计算机程序时还可以实现以下步骤:获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据。
在本实施例中,处理器执行计算机程序时实现根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据,可以包括:基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
在其中一个实施例中,调度处理流程可以包括数据抽取、数据加工以及数据下发。
在本实施例中,处理器执行计算机程序时还可以实现以下步骤:从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工。
在本实施例中,处理器执行计算机程序时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
在其中一个实施例中,处理器执行计算机程序时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
在其中一个实施例中,处理器执行计算机程序时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量;根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
在其中一个实施例中,处理器执行计算机程序时还可以实现以下步骤:将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据;基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;基于检查结果,对待调度任务进行告警处理。
在其中一个实施例中,计算机程序被处理器执行时还可以实现以下步骤:获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据。
在本实施例中,计算机程序被处理器执行时实现根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据,可以包括:基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
在其中一个实施例中,调度处理流程可以包括数据抽取、数据加工以及数据下发。
在本实施例中,计算机程序被处理器执行时还可以实现以下步骤:从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工。
在本实施例中,计算机程序被处理器执行时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
在其中一个实施例中,计算机程序被处理器执行时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
在其中一个实施例中,计算机程序被处理器执行时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量;根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
在其中一个实施例中,计算机程序被处理器执行时还可以实现以下步骤:将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种基于人工智能的系统告警方法,其特征在于,所述方法包括:
获取目标调度系统的调度任务数据,所述调度任务数据包括调度处理流程和/或待调度数据;
根据所述调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据;
基于所述检查配置数据,对所述调度处理流程和/或待调度数据进行检查,生成对应的检查结果;
基于所述检查结果,对所述待调度任务进行告警处理。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取预先设置的脚本文件,所述脚本文件中包括各检查项的检查配置数据;
所述根据所述调度处理流程和/或待调度数据,确定对应所述待调度任务的检查配置数据,包括:
基于所述脚本文件,以及所述调度处理流程和/或待调度数据,确定对应所述待调度任务的检查配置数据。
3.根据权利要求1所述的方法,其特征在于,所述调度处理流程包括数据抽取、数据加工以及数据下发;所述方法还包括:
从数据源中抽取待调度数据至数据湖,并对所述数据湖中的所述待调度数据进行数据加工;
所述基于所述检查配置数据,对所述调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
基于所述检查配置数据,对所述数据湖中的加工后的所述待调度数据进行检查,生成对应的检查结果。
4.根据权利要求1所述的方法,其特征在于,所述基于所述检查配置数据,对所述调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
按照所述检查配置数据,对所述调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
5.根据权利要求1所述的方法,其特征在于,所述基于所述检查配置数据,对所述调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
基于所述检查配置数据,确定对所述调度处理流程和/或待调度数据进行检查的宏变量;
根据所述宏变量,对所述调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
6.根据权利要求1至5任一项所述的方法,其特征在于,所述方法还包括:
将所述调度任务数据、所述检查配置数据以及所述检查结果中的至少一个上传至区块链节点中进行存储。
7.一种基于人工智能的系统告警装置,其特征在于,所述装置包括:
调度任务数据获取模块,用于获取目标调度系统的调度任务数据,所述调度任务数据包括调度处理流程和/或待调度数据;
检查配置数据确定模块,用于根据所述调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据;
检查模块,用于基于所述检查配置数据,对所述调度处理流程和/或待调度数据进行检查,生成对应的检查结果;
告警模块,用于基于所述检查结果,对所述待调度任务进行告警处理。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
脚本文件获取模块,用于获取预先设置的脚本文件,所述脚本文件中包括各检查项的检查配置数据;
所述检查配置数据确定模块,用于基于所述脚本文件,以及所述调度处理流程和/或待调度数据,确定对应所述待调度任务的检查配置数据。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至5或6中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至5或6中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111018087.1A CN113641566A (zh) | 2021-08-30 | 2021-08-30 | 基于人工智能的系统告警方法、装置、计算机设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111018087.1A CN113641566A (zh) | 2021-08-30 | 2021-08-30 | 基于人工智能的系统告警方法、装置、计算机设备和介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113641566A true CN113641566A (zh) | 2021-11-12 |
Family
ID=78424826
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111018087.1A Pending CN113641566A (zh) | 2021-08-30 | 2021-08-30 | 基于人工智能的系统告警方法、装置、计算机设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113641566A (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150149400A1 (en) * | 2011-04-18 | 2015-05-28 | Sap Ag | Method and Apparatus for Monitoring an In-memory Computer System |
CN106201687A (zh) * | 2016-07-06 | 2016-12-07 | 浪潮软件集团有限公司 | 托管型任务调度和分解方法 |
CN108923531A (zh) * | 2018-06-12 | 2018-11-30 | 国网河南省电力公司濮阳供电公司 | 一种基于大数据的电网调度告警监视系统 |
CN109543953A (zh) * | 2018-10-25 | 2019-03-29 | 平安科技(深圳)有限公司 | 数据分析方法、装置、终端及存储介质 |
CN109947746A (zh) * | 2017-10-26 | 2019-06-28 | 亿阳信通股份有限公司 | 一种基于etl流程的数据质量管控方法和系统 |
CN110401565A (zh) * | 2019-07-09 | 2019-11-01 | 视联动力信息技术股份有限公司 | 一种离线告警的方法及装置 |
CN110716832A (zh) * | 2019-09-24 | 2020-01-21 | 腾讯科技(深圳)有限公司 | 业务运行的监控告警方法、系统、电子设备及存储介质 |
CN111865691A (zh) * | 2020-07-22 | 2020-10-30 | 平安证券股份有限公司 | 基于人工智能的报警文件分发方法、装置、设备和介质 |
CN112749071A (zh) * | 2020-12-30 | 2021-05-04 | 中国人寿保险股份有限公司上海数据中心 | 一种用于检测应用集群健康度的系统及方法 |
CN112988499A (zh) * | 2019-12-16 | 2021-06-18 | 北京百度网讯科技有限公司 | 数据处理方法、装置、电子设备和存储介质 |
CN113312341A (zh) * | 2021-04-28 | 2021-08-27 | 上海淇馥信息技术有限公司 | 一种数据质量监控方法、系统和计算机设备 |
-
2021
- 2021-08-30 CN CN202111018087.1A patent/CN113641566A/zh active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150149400A1 (en) * | 2011-04-18 | 2015-05-28 | Sap Ag | Method and Apparatus for Monitoring an In-memory Computer System |
CN106201687A (zh) * | 2016-07-06 | 2016-12-07 | 浪潮软件集团有限公司 | 托管型任务调度和分解方法 |
CN109947746A (zh) * | 2017-10-26 | 2019-06-28 | 亿阳信通股份有限公司 | 一种基于etl流程的数据质量管控方法和系统 |
CN108923531A (zh) * | 2018-06-12 | 2018-11-30 | 国网河南省电力公司濮阳供电公司 | 一种基于大数据的电网调度告警监视系统 |
CN109543953A (zh) * | 2018-10-25 | 2019-03-29 | 平安科技(深圳)有限公司 | 数据分析方法、装置、终端及存储介质 |
CN110401565A (zh) * | 2019-07-09 | 2019-11-01 | 视联动力信息技术股份有限公司 | 一种离线告警的方法及装置 |
CN110716832A (zh) * | 2019-09-24 | 2020-01-21 | 腾讯科技(深圳)有限公司 | 业务运行的监控告警方法、系统、电子设备及存储介质 |
CN112988499A (zh) * | 2019-12-16 | 2021-06-18 | 北京百度网讯科技有限公司 | 数据处理方法、装置、电子设备和存储介质 |
CN111865691A (zh) * | 2020-07-22 | 2020-10-30 | 平安证券股份有限公司 | 基于人工智能的报警文件分发方法、装置、设备和介质 |
CN112749071A (zh) * | 2020-12-30 | 2021-05-04 | 中国人寿保险股份有限公司上海数据中心 | 一种用于检测应用集群健康度的系统及方法 |
CN113312341A (zh) * | 2021-04-28 | 2021-08-27 | 上海淇馥信息技术有限公司 | 一种数据质量监控方法、系统和计算机设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109446068B (zh) | 接口测试方法、装置、计算机设备和存储介质 | |
CN109766534B (zh) | 报表生成方法、装置、计算机设备及可读存储介质 | |
CN112329865B (zh) | 基于自编码器的数据异常识别方法、装置和计算机设备 | |
CN111652615B (zh) | 基于区块链大数据的安全识别方法及人工智能云服务平台 | |
CN112016318B (zh) | 基于解释模型的分诊信息推荐方法、装置、设备及介质 | |
CN113886885A (zh) | 数据脱敏方法、数据脱敏装置、设备及存储介质 | |
CN113177396B (zh) | 报表生成方法、装置、计算机设备和存储介质 | |
CN111710383A (zh) | 病历质控方法、装置、计算机设备和存储介质 | |
EP3584654A1 (en) | Hierarchical distributed ledger | |
CN113726784A (zh) | 一种网络数据的安全监控方法、装置、设备及存储介质 | |
CN112231224A (zh) | 基于人工智能的业务系统测试方法、装置、设备和介质 | |
CN113343961B (zh) | 一种用户行为监控方法、系统和计算机设备 | |
CN111767192B (zh) | 基于人工智能的业务数据检测方法、装置、设备和介质 | |
CN111679953B (zh) | 基于人工智能的故障节点识别方法、装置、设备和介质 | |
CN113723956A (zh) | 异常监控方法、装置、设备及存储介质 | |
CN113642039A (zh) | 单证模板的配置方法、装置、计算机设备和存储介质 | |
CN113282514A (zh) | 问题数据的处理方法、装置、计算机设备和存储介质 | |
CN113609230A (zh) | 数据同步异常告警方法、装置、计算机设备和存储介质 | |
CN111078500A (zh) | 运行配置参数的调整方法、装置、计算机设备和存储介质 | |
KR102461925B1 (ko) | 블록체인 네트워크의 위험 월렛 주소를 관리하는 방법 및 장치 | |
CN111858386A (zh) | 数据测试方法、装置、计算机设备和存储介质 | |
CN116384921A (zh) | 运维事件的执行方法、装置、存储介质以及电子设备 | |
CN113641566A (zh) | 基于人工智能的系统告警方法、装置、计算机设备和介质 | |
CN113779937A (zh) | 基于人工智能的文本内容转换方法、装置、设备和介质 | |
CN112862459A (zh) | 试验异常监控方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20211112 |