CN111400130A - 任务监控方法、装置、电子设备及存储介质 - Google Patents

任务监控方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111400130A
CN111400130A CN202010151372.XA CN202010151372A CN111400130A CN 111400130 A CN111400130 A CN 111400130A CN 202010151372 A CN202010151372 A CN 202010151372A CN 111400130 A CN111400130 A CN 111400130A
Authority
CN
China
Prior art keywords
task
monitored
information
data
monitoring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010151372.XA
Other languages
English (en)
Inventor
戴文鹏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202010151372.XA priority Critical patent/CN111400130A/zh
Publication of CN111400130A publication Critical patent/CN111400130A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22—Indexing; Data structures therefor; Storage structures
    • G06F16/2228—Indexing structures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2455—Query execution
    • G06F16/24553—Query execution of query operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/54—Interprogram communication
    • G06F9/546—Message passing systems or structures, e.g. queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/54—Indexing scheme relating to G06F9/54
    • G06F2209/548—Queue

Abstract

本发明涉及数据处理技术领域，提供一种任务监控方法、装置、电子设备及存储介质。该方法同步任务系统中的待监控任务的相关信息至任务监控平台，实现对任务数据的统一处理，并在所述任务监控平台中基于Spark Streaming框架对所述信息进行实时处理，得到任务数据，显示并存储所述任务数据，实现任务的实时监控及可视化，从所述待监控任务的监控指令中获取待监控任务的参数信息以在所述任务数据中进行查询，得到待监控任务的当前运行数据及历史运行数据，根据所述当前运行数据与所述历史运行数据的差异值确定所述待监控任务是否异常，进而根据需要对任务的运行情况进行比对，便于对任务进行异常检测，提升了任务的执行效率，也间接提高了任务的完成质量。

Description

任务监控方法、装置、电子设备及存储介质
技术领域
本发明涉及数据处理技术领域，尤其涉及一种任务监控方法、装置、电子设备及存储介质。
背景技术
一个项目的任务往往涉及到很多数据，例如：系统的运行数据或者其他任务数据等，这些数据往往被分散且无规律的存储在各个数据库中。
由于任务的多样性及复杂性，目前很难实现对相关任务的统一存储及实时监控，也就无法及时检测到每个任务的运行状态，那么当遇到异常情况时，也就无法实现对异常的及时处理，影响了整个项目的正常执行。
发明内容
鉴于以上内容，有必要提供一种任务监控方法、装置、电子设备及存储介质，能够集成与任务相关联的所有数据，并对这些数据进行实时监控及显示，便于及时发现异常并处理，提升了任务的执行效率，也间接提高了任务的完成质量。
一种任务监控方法，所述方法包括：
当接收到待监控任务时，将所述待监控任务输入至任务系统；
同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台；
在所述项目任务监控平台，基于Spark Streaming框架对所述信息进行实时处理，得到任务数据，显示并存储所述任务数据；
当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息；
根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据；
计算所述当前运行数据与所述历史运行数据的差异值；
当所述差异值大于配置阈值时，确定所述待监控任务异常。
根据本发明优选实施例，所述同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，包括：
当所述信息为指定任务的运行信息时，利用哈希函数计算所述运行信息的分片号；
基于所述分片号将所述运行信息同步至Kafka消息队列。
根据本发明优选实施例，所述利用哈希函数计算所述运行信息的分片号包括：
通过分片函数的计算结果对预设的哈希桶取模，得到所述分片号，其中，所述分片函数如下：
Figure BDA0002402554620000021
其中，HashBucket为所述预设的哈希桶，sliceid是指所述运行信息的分片号，
Figure BDA0002402554620000022
是指按照名称分布时所述运行信息的量化函数，daytime(time)是指按照时间分布时所述运行信息的量化函数，b1是指按照名称分布时相邻信息间的分散程度，b2是指按照时间分布时相邻信息间的分散程度，w1是指按照名称分布时的未标准化权重，w2是指按照时间分布时的未标准化权重。
根据本发明优选实施例，所述方法还包括：
设置w2为0，以按照名称将所述运行信息同步至所述Kafka消息队列；或者
设置w1为0，以按照时间将所述运行信息同步至所述Kafka消息队列。
根据本发明优选实施例，所述同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，还包括：
采用Elasticsearch从所述任务系统中查询Java微服务的日志信息；
基于Logstash对所述日志信息进行分析及过滤；
采用Kibana对分析及过滤后的日志信息进行可视化处理；
基于Logstash同步可视化处理后的日志信息至所述项目任务监控平台。
根据本发明优选实施例，所述根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，包括：
当所述任务数据存储在数据库中时，基于预设词典构建ES搜索引擎；
基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
根据本发明优选实施例，所述基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，包括：
在所述ES搜索引擎下的多个配置字典中遍历所述参数信息，得到索引信息；
根据所述索引信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
一种任务监控装置，所述装置包括：
对接单元，用于当接收到待监控任务时，将所述待监控任务输入至任务系统；
同步单元，用于同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台；
处理单元，用于在所述项目任务监控平台，基于Spark Streaming框架对所述信息进行实时处理，得到任务数据；
存储单元，用于显示并存储所述任务数据；
获取单元，用于当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息；
查询单元，用于根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据；
计算单元，用于计算所述当前运行数据与所述历史运行数据的差异值；
确定单元，用于当所述差异值大于配置阈值时，确定所述待监控任务异常。
根据本发明优选实施例，所述同步单元同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，包括：
当所述信息为指定任务的运行信息时，利用哈希函数计算所述运行信息的分片号；
基于所述分片号将所述运行信息同步至Kafka消息队列。
根据本发明优选实施例，所述同步单元利用哈希函数计算所述运行信息的分片号，包括：
通过分片函数的计算结果对预设的哈希桶取模，得到所述分片号，其中，所述分片函数如下：
Figure BDA0002402554620000041
其中，HashBucket为所述预设的哈希桶，sliceid是指所述运行信息的分片号，
Figure BDA0002402554620000042
是指按照名称分布时所述运行信息的量化函数，daytime(time)是指按照时间分布时所述运行信息的量化函数，b1是指按照名称分布时相邻信息间的分散程度，b2是指按照时间分布时相邻信息间的分散程度，w1是指按照名称分布时的未标准化权重，w2是指按照时间分布时的未标准化权重。
根据本发明优选实施例，所述确定单元，还用于当w2为0时，确定按照名称将所述运行信息同步至所述Kafka消息队列；或者
所述确定单元，还用于当w1为0时，确定按照时间将所述运行信息同步至所述Kafka消息队列。
根据本发明优选实施例，所述同步单元同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，还包括：
采用Elasticsearch从所述任务系统中查询Java微服务的日志信息；
基于Logstash对所述日志信息进行分析及过滤；
采用Kibana对分析及过滤后的日志信息进行可视化处理；
基于Logstash同步可视化处理后的日志信息至所述项目任务监控平台。
根据本发明优选实施例，所述查询单元根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，包括：
当所述任务数据存储在数据库中时，基于预设词典构建ES搜索引擎；
基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
根据本发明优选实施例，所述查询单元基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，包括：
在所述ES搜索引擎下的多个配置字典中遍历所述参数信息，得到索引信息；
根据所述索引信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
一种电子设备，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以实现所述任务监控方法。
一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现所述任务监控方法。
由以上技术方案可以看出，本发明能够当接收到待监控任务时，将所述待监控任务输入至任务系统，进一步同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，实现对任务数据的统一处理，并在所述项目任务监控平台，基于Spark Streaming框架对所述信息进行实时处理，得到任务数据，显示并存储所述任务数据，进而能够对任务进行实时监控，并使数据可视化，便于用户查看，当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息，并根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，实现对数据的快速搜索，进一步计算所述当前运行数据与所述历史运行数据的差异值，当所述差异值大于配置阈值时，确定所述待监控任务异常，进而根据需要对任务的运行情况进行比对，便于对任务进行异常检测，提升了任务的执行效率，也间接提高了任务的完成质量。
附图说明
图1是本发明任务监控方法的较佳实施例的流程图。
图2是本发明任务监控装置的较佳实施例的功能模块图。
图3是本发明实现任务监控方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。
如图1所示，是本发明任务监控方法的较佳实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
所述任务监控方法应用于一个或者多个电子设备中，所述电子设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital SignalProcessor，DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品，例如，个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant，PDA)、游戏机、交互式网络电视(Internet Protocol Television，IPTV)、智能式穿戴式设备等。
所述电子设备还可以包括网络设备和/或用户设备。其中，所述网络设备包括，但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(CloudComputing)的由大量主机或网络服务器构成的云。
所述电子设备所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network，VPN)等。
S10，当接收到待监控任务时，将所述待监控任务输入至任务系统。
在本发明的至少一个实施例中，所述待监控任务可以包括与项目相关联的任何任务，例如：所述待监控任务可以是IFRS17(国际财务报告准则17号)项目中的任务。
在本发明的至少一个实施例中，所述任务系统可以包括，但不限于，indo任务调度平台、Kettle任务同步平台、Hadoop/hive大数据数据库以及Oracle数据库、Mysql数据库等。
S11，同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台。
在本发明的至少一个实施例中，当所述预设种类的信息为指定任务(如IFRS17任务)的运行信息时，所述项目任务监控平台可以首先使用Apache的Flume NG实时收集所述任务系统中所涉及的IFRS17任务的运行信息。
进一步地，所述同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，具体包括：
利用哈希函数计算所述预设种类的信息的分片号，并基于所述分片号将所述预设种类信息同步至项目任务监控平台的Kafka消息队列。
其中，所述利用哈希函数计算所述预设种类的信息的分片号，包括：
通过分片函数的计算结果对预设的哈希桶取模，得到所述分片号，其中，所述分片函数如下：
Figure BDA0002402554620000081
其中，HashBucket为所述预设的哈希桶，sliceid是指所述运行信息的分片号，
Figure BDA0002402554620000082
是指按照名称分布时所述预设种类的信息的量化函数，daytime(time)是指按照时间分布时所述预设种类的信息的量化函数，b1是指按照名称分布时相邻信息间的分散程度，b2是指按照时间分布时相邻信息间的分散程度，w1是指按照名称分布时的未标准化权重，w2是指按照时间分布时的未标准化权重。
根据上述公式，当w2为0时，确定按照名称将所述预设种类的信息同步至所述Kafka消息队列，及当w1为0时，确定按照时间将所述预设种类的信息同步至所述Kafka消息队列。
通过上述实施方式，本发明实施例能够基于Kafka消息系统的特性，使存储的所述预设种类的信息可以在多处进行运行使用，因此，IFRS17任务所涉及的预设种类的信息可以通过Kafka同步到所述项目任务监控平台中，以便于对所述IFRS17任务进行任务监控。
在本发明的至少一个实施例中，所述同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台还包括：
采用Elasticsearch从所述任务系统中查询Java微服务的日志信息，并基于Logstash对所述日志信息进行分析及过滤，进一步地，采用Kibana对分析及过滤后的日志信息进行可视化处理，并基于Logstash同步可视化处理后的日志信息至所述项目任务监控平台。
通过上述实施方式，能够实现对Java微服务的日志信息的同步，进而对待监控任务进行统一监控。
S12，在所述项目任务监控平台，基于Spark Streaming框架对所述预设种类的信息进行实时处理，得到任务数据。
例如：对于所同步的IFRS17任务的运行信息及java微服务的日志信息，本发明使用Spark Streaming进行大数据实时计算。在Spark Streaming中，首先使用驱动程序(Drive)实时计算任务的构造、调度等，并使用Cluster Manager计算任务的资源分配，通过将上述运行信息切成很小的批(micro-batch)，用一系列的短暂、无状态、确定性的批处理实现流处理，最终利用Worker节点执行运算，在不同纬度上对这些信息进行分类汇总，然后将汇总好的结果同步到HDFS(Hadoop Distributed File System，Hadoop分布式文件系统)或者Oracle数据库中，并将这些实时的任务信息的处理结果以表格或者图表的方式进行整理。
在批处理中，本发明使用自定义的滑动窗口对一批信息进行处理，进一步地，在Spark Streaming中，由于上游的输入事件可能存在不确定的延迟，而流计算系统的内存是有限的，只能保存有限的状态，因此，在一定时间之后必须丢弃历史数据。以双流A JOIN B为例，假设窗口为1小时，那么A中比当前时间减1小时的更早的数据(行)会被丢弃；如果B中出现1小时前的事件，也会因为无法处理而被忽略。
需要说明的是，所述Spark Streaming框架的技术已经相对成熟，在此不赘述。
其中，所述任务数据可以包括，但不限于：QPS(Queries Per Second，每秒查询率)、TPS(transactions per second，吞吐量)等各个任务指标。
通过上述手段，本发明实施例基于Spark Streaming框架对所述信息进行实时处理，能够实现对任务运行情况的实时分析处理。
S13，显示并存储所述任务数据。
在本发明的至少一个实施例中，所述任务数据可以以表格或者图表的方式显示，不仅实现了处理结果的可视化，且更加直观，方便用户查看。
在本发明的至少一个实施例中，所述任务数据可以存储至任意指定数据库中，也可以存储在HDFS系统中，本发明不做限制。
在本发明的至少一个实施例中，当检测到有异常信息时，可以通过邮件或者短信告警的方式告知对应的开发人员，达到实时监控的效果。
S14，当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息。
在本发明的至少一个实施例中，所述参数信息可以包括，但不限于：任务名称、时间等。
通过上述实施方式，能够根据实际需求对所述任务进行有针对性地监控。
S15，根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
在本发明的至少一个实施例中，所述根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据包括：
当所述任务数据存储在数据库中时，基于预设词典构建ES搜索引擎，进并基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
具体地，所述基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据包括：
在所述ES搜索引擎下的多个配置字典中遍历所述参数信息，得到索引信息，并根据所述索引信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
其中，所述预设词典可以根据实际需要而配置，所述预设词典可以包括，但不限于以下一种或者多种地组合：统计词典、前缀词典、同义词词典、停用词词典、自定义词典等。
所述统计词典是利用统计方法得到的所有可能的分词所构造的词典。
所述前缀词典包括所述统计词典中每一个分词的前缀，例如：所述统计词典中的词“北京大学”的前缀分别是“北”、“北京”、“北京大”；词“大学”的前缀是“大”等。
所述停用词词典中包括文本中出现频率很高但实际意义又不大的词，主要包括语气助词、副词、介词、连词等，通常自身并无明确意义，只有将其放入一个完整的句子中才有一定作用，如常见的“的”、“在”、“和”、“接着”等。
所述自定义词典也可以称为专有名词词典，是在所述统计词典中不存在，但是某领域特定、专有的词。
通过上述词典的配置，能够对任务进行有针对性地查询，且ES搜索引擎地使用，也使查询更加准确、快速。
在本发明的至少一个实施例中，对于存储在HDFS系统中的数据，可以使用Hive进行数据查询。
S16，计算所述当前运行数据与所述历史运行数据的差异值。
在本发明的至少一个实施例中，可以以匹配度、相似度等作为所述差异值，以便获取到任务的当前运行情况与历史运行情况的差异性。
具体计算方式在此不赘述。
S17，当所述差异值大于配置阈值时，确定所述待监控任务异常。
在本发明的至少一个实施例中，所述配置阈值可以根据任务的要求及所采用的衡量差异的具体指标进行自定义配置。
可以理解的是，当所述差异值大于配置阈值时，说明该任务目前的运行情况与历史运行情况存在较大的差异，而这种差异可能说明该任务运行异常，因此，确定所述待监控任务异常。
进一步地，当所述待监控任务异常时，本发明可以进行报警，以便及时处理异常，以确保任务顺利执行。
需要说明的是，上述所涉及的所有数据都可以按照不同的统计生成对应的报表文件，并支持下载及导出，从而便于进行任务的分析和优化。
由以上技术方案可以看出，本发明能够当接收到待监控任务时，将所述待监控任务输入至任务系统，进一步同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，实现对任务数据的统一处理，并基于Spark Streaming框架对所述信息进行实时处理，得到任务数据，显示并存储所述任务数据，进而能够对任务进行实时监控，并使数据可视化，便于用户查看，当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息，并根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，实现对数据的快速搜索，进一步计算所述当前运行数据与所述历史运行数据的差异值，当所述差异值大于配置阈值时，确定所述待监控任务异常，进而根据需要对任务的运行情况进行比对，便于对任务进行异常检测，提升了任务的执行效率，也间接提高了任务的完成质量。
如图2所示，是本发明任务监控装置的较佳实施例的功能模块图。所述任务监控装置11包括对接单元110、同步单元111、处理单元112、存储单元113、获取单元114、查询单元115、计算单元116、确定单元117。本发明所称的模块/单元是指一种能够被处理器13所执行，并且能够完成固定功能的一系列计算机程序段，其存储在存储器12中。
在本实施例中，各模块/单元的功能如下所述：
当接收到待监控任务时，所述对接单元110将所述待监控任务输入至任务系统。
在本发明的至少一个实施例中，所述待监控任务可以包括与项目相关联的任何任务，例如：所述待监控任务可以是IFRS17(国际财务报告准则17号)项目中的任务。
在本发明的至少一个实施例中，所述任务系统可以包括，但不限于，Lindo任务调度平台、Kettle任务同步平台、Hadoop/hive大数据数据库以及Oracle数据库、Mysql数据库等。
所述同步单元111同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台。
在本发明的至少一个实施例中，当所述预设种类的信息为指定任务(如IFRS17任务)的运行信息时，所述项目任务监控平台可以首先使用Apache的Flume NG实时收集所述任务系统中所涉及的IFRS17任务的运行信息。
进一步地，所述同步单元111同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，具体包括：
利用哈希函数计算所述预设种类的信息的分片号，并基于所述分片号将所述预设种类信息同步至项目任务监控平台的Kafka消息队列。
其中，所述利用哈希函数计算所述预设种类的信息的分片号包括：
通过分片函数w的计算结果对预设的哈希桶取模，得到所述分片号，其中，所述分片函数如下：
Figure BDA0002402554620000131
其中，HashBucket为所述预设的哈希桶，sliceid是指所述运行信息的分片号，
Figure BDA0002402554620000141
是指按照名称分布时所述预设种类的信息的量化函数，daytime(time)是指按照时间分布时所述预设种类的信息的量化函数，b1是指按照名称分布时相邻信息间的分散程度，b2是指按照时间分布时相邻信息间的分散程度，w1是指按照名称分布时的未标准化权重，w2是指按照时间分布时的未标准化权重。
根据上述公式，当设置w2为0时，确定按照名称将所述预设种类的信息同步至所述Kafka消息队列，及当设置w1为0时，确定按照时间将所述预设种类的信息同步至所述Kafka消息队列。
通过上述实施方式，本发明实施例能够基于Kafka消息系统的特性，使存储的所述预设种类的信息可以在多处进行运行使用，因此，IFRS17任务所涉及的预设种类的信息可以通过Kafka同步到所述项目任务监控平台中，以便于对所述IFRS17任务进行任务监控。
在本发明的至少一个实施例中，所述同步单元111同步所述系统中的信息至所述电子设备还包括：
所述同步单元111采用Elasticsearch从所述任务系统中查询Java微服务的日志信息，并基于Logstash对所述日志信息进行分析及过滤，进一步地，所述同步单元111采用Kibana对分析及过滤后的日志信息进行可视化处理，并基于Logstash同步可视化处理后的日志信息至所述项目任务监控平台。
通过上述实施方式，能够实现对Java微服务的日志信息的同步，进而对任务进行统一监控。
所述处理单元112在所述项目任务监控平台，基于Spark Streaming框架对所述预设种类的信息进行实时处理，得到任务数据。
例如：对于所同步的IFRS17任务的运行信息及java微服务的日志信息，所述处理单元112使用Spark Streaming进行大数据实时计算。在Spark Streaming中，首先使用驱动程序(Drive)实时计算任务的构造、调度等，并使用Cluster Manager计算任务的资源分配，通过将上述运行信息切成很小的批(micro-batch)，用一系列的短暂、无状态、确定性的批处理实现流处理，最终利用Worker节点执行运算，在不同纬度上对这些信息进行分类汇总，然后将汇总好的结果同步到HDFS(Hadoop Distributed File System，Hadoop分布式文件系统)或者Oracle数据库中，并将这些实时的任务信息的处理结果以表格或者图表的方式进行整理。
在批处理中，所述处理单元112使用自定义的滑动窗口对一批信息进行处理，进一步地，在Spark Streaming中，由于上游的输入事件可能存在不确定的延迟，而流计算系统的内存是有限的，只能保存有限的状态，因此，在一定时间之后必须丢弃历史数据。以双流AJOIN B为例，假设窗口为1小时，那么A中比当前时间减1小时的更早的数据(行)会被丢弃；如果B中出现1小时前的事件，也会因为无法处理而被忽略。
需要说明的是，所述Spark Streaming框架的技术已经相对成熟，在此不赘述。
其中，所述任务数据可以包括，但不限于：QPS(Queries Per Second，每秒查询率)、TPS(transactions per second，吞吐量)等各个任务指标。
通过上述手段，本发明实施例基于Spark Streaming框架对所述信息进行实时处理，能够实现对任务运行情况的实时分析处理。
所述存储单元113显示并存储所述任务数据。
在本发明的至少一个实施例中，所述存储单元113可以以表格或者图表的方式显示所述任务数据，不仅实现了处理结果的可视化，且更加直观，方便用户查看。
在本发明的至少一个实施例中，所述存储单元113可以将所述任务数据存储至任意指定数据库中，也可以存储在HDFS系统中，本发明不做限制。
在本发明的至少一个实施例中，当检测到有异常信息时，所述存储单元113可以通过邮件或者短信告警的方式告知对应的开发人员，达到实时监控的效果。
当接收到对所述待监控任务的监控指令时，所述获取单元114从所述监控指令中获取所述待监控任务的参数信息。
在本发明的至少一个实施例中，所述参数信息可以包括，但不限于：任务名称、时间等。
通过上述实施方式，能够根据实际需求对所述任务进行有针对性地监控。
所述查询单元115根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
在本发明的至少一个实施例中，所述查询单元115根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据包括：
当所述任务数据存储在数据库中时，所述查询单元115基于预设词典构建ES搜索引擎，并基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
具体地，所述查询单元115基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据包括：
所述查询单元115在所述ES搜索引擎下的多个配置字典中遍历所述参数信息，得到索引信息，并根据所述索引信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
其中，所述预设词典可以根据实际需要而配置，所述预设词典可以包括，但不限于以下一种或者多种地组合：统计词典、前缀词典、同义词词典、停用词词典、自定义词典等。
所述统计词典是利用统计方法得到的所有可能的分词所构造的词典。
所述前缀词典包括所述统计词典中每一个分词的前缀，例如：所述统计词典中的词“北京大学”的前缀分别是“北”、“北京”、“北京大”；词“大学”的前缀是“大”等。
所述停用词词典中包括文本中出现频率很高但实际意义又不大的词，主要包括语气助词、副词、介词、连词等，通常自身并无明确意义，只有将其放入一个完整的句子中才有一定作用，如常见的“的”、“在”、“和”、“接着”等。
所述自定义词典也可以称为专有名词词典，是在所述统计词典中不存在，但是某领域特定、专有的词。
通过上述词典的配置，能够对任务进行有针对性地查询，且ES搜索引擎地使用，也使查询更加准确、快速。
在本发明的至少一个实施例中，对于存储在HDFS系统中的数据，所述查询单元115可以使用Hive进行数据查询。
所述计算单元116计算所述当前运行数据与所述历史运行数据的差异值。
在本发明的至少一个实施例中，可以以匹配度、相似度等作为所述差异值，以便获取到任务的当前运行情况与历史运行情况的差异性。
具体计算方式在此不赘述。
当所述差异值大于配置阈值时，所述确定单元117确定所述待监控任务异常。
在本发明的至少一个实施例中，所述配置阈值可以根据任务的要求及所采用的衡量差异的具体指标进行自定义配置。
可以理解的是，当所述差异值大于配置阈值时，说明该任务目前的运行情况与历史运行情况存在较大的差异，而这种差异可能说明该任务运行异常，因此，所述确定单元117确定所述待监控任务异常。
进一步地，当所述待监控任务异常时，所述确定单元117可以进行报警，以便及时处理异常，以确保任务顺利执行。
需要说明的是，上述所涉及的所有数据都可以按照不同的统计生成对应的报表文件，并支持下载及导出，从而便于进行任务的分析和优化。
由以上技术方案可以看出，本发明能够当接收到待监控任务时，将所述待监控任务输入至任务系统，进一步同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，实现对任务数据的统一处理，并基于Spark Streaming框架对所述信息进行实时处理，得到任务数据，显示并存储所述任务数据，进而能够对任务进行实时监控，并使数据可视化，便于用户查看，当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息，并根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，实现对数据的快速搜索，进一步计算所述当前运行数据与所述历史运行数据的差异值，当所述差异值大于配置阈值时，确定所述待监控任务异常，进而根据需要对任务的运行情况进行比对，便于对任务进行异常检测，提升了任务的执行效率，也间接提高了任务的完成质量。
如图3所示，是本发明实现任务监控方法的较佳实施例的电子设备的结构示意图。
所述电子设备1可以包括存储器12、处理器13和总线，还可以包括存储在所述存储器12中并可在所述处理器13上运行的计算机程序，例如任务监控程序。
本领域技术人员可以理解，所述示意图仅仅是电子设备1的示例，并不构成对电子设备1的限定，所述电子设备1既可以是总线型结构，也可以是星形结构，所述电子设备1还可以包括比图示更多或更少的其他硬件或者软件，或者不同的部件布置，例如所述电子设备1还可以包括输入输出设备、网络接入设备等。
需要说明的是，所述电子设备1仅为举例，其他现有的或今后可能出现的电子产品如可适应于本发明，也应包含在本发明的保护范围以内，并以引用方式包含于此。
其中，存储器12至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如：SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器12在一些实施例中可以是电子设备1的内部存储单元，例如该电子设备1的移动硬盘。存储器12在另一些实施例中也可以是电子设备1的外部存储设备，例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地，存储器12还可以既包括电子设备1的内部存储单元也包括外部存储设备。存储器12不仅可以用于存储安装于电子设备1的应用软件及各类数据，例如任务监控程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
处理器13在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器(Central Processing unit，CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。处理器13是所述电子设备1的控制核心(Control Unit)，利用各种接口和线路连接整个电子设备1的各个部件，通过运行或执行存储在所述存储器12内的程序或者模块(例如执行任务监控程序等)，以及调用存储在所述存储器12内的数据，以执行电子设备1的各种功能和处理数据。
所述处理器13执行所述电子设备1的操作系统以及安装的各类应用程序。所述处理器13执行所述应用程序以实现上述各个任务监控方法实施例中的步骤，例如图1所示的步骤S10、S11、S12、S13、S14、S15、S16、S17。
或者，所述处理器13执行所述计算机程序时实现上述各装置实施例中各模块/单元的功能，例如：
当接收到待监控任务时，将所述待监控任务输入至任务系统；
同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台；
在所述项目任务监控平台，基于Spark Streaming框架对所述信息进行实时处理，得到任务数据，显示并存储所述任务数据；当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息；
根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据；
计算所述当前运行数据与所述历史运行数据的差异值；
当所述差异值大于配置阈值时，确定所述待监控任务异常。
示例性的，所述计算机程序可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器12中，并由所述处理器13执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序在所述电子设备1中的执行过程。例如，所述计算机程序可以被分割成对接单元110、同步单元111、处理单元112、存储单元113、获取单元114、查询单元115、计算单元116、确定单元117。
上述以软件功能模块的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机、计算机设备，或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指示相关的硬件设备来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。
其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
总线可以是外设部件互连标准(peripheral component interconnect，简称PCI)总线或扩展工业标准结构(extended industry standard architecture，简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示，在图3中仅用一根箭头表示，但并不表示仅有一根总线或一种类型的总线。所述总线被设置为实现所述存储器12以及至少一个处理器13等之间的连接通信。
尽管未示出，所述电子设备1还可以包括给各个部件供电的电源(比如电池)，优选地，电源可以通过电源管理装置与所述至少一个处理器13逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
进一步地，所述电子设备1还可以包括网络接口，可选地，所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等)，通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地，该电子设备1还可以包括用户接口，用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard))，可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
图3仅示出了具有组件12-13的电子设备1，本领域技术人员可以理解的是，图3示出的结构并不构成对所述电子设备1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
结合图1，所述电子设备1中的所述存储器12存储多个指令以实现一种任务监控方法，所述处理器13可执行所述多个指令从而实现：
当接收到待监控任务时，将所述待监控任务输入至任务系统；
同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台；
在所述项目任务监控平台，基于Spark Streaming框架对所述信息进行实时处理，得到任务数据，显示并存储所述任务数据；当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息；
根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据；
计算所述当前运行数据与所述历史运行数据的差异值；
当所述差异值大于配置阈值时，确定所述待监控任务异常。
具体地，所述处理器13对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种任务监控方法，其特征在于，所述方法包括：
当接收到待监控任务时，将所述待监控任务输入至任务系统；
同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台；
在所述项目任务监控平台，基于Spark Streaming框架对所述信息进行实时处理，得到任务数据，显示并存储所述任务数据；
当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息；
根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据；
计算所述当前运行数据与所述历史运行数据的差异值；
当所述差异值大于配置阈值时，确定所述待监控任务异常。
2.如权利要求1所述的任务监控方法，其特征在于，所述同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，包括：
当所述信息为指定任务的运行信息时，利用哈希函数计算所述运行信息的分片号；
基于所述分片号将所述运行信息同步至Kafka消息队列。
3.如权利要求2所述的任务监控方法，其特征在于，所述利用哈希函数计算所述运行信息的分片号，包括：
通过分片函数的计算结果对预设的哈希桶取模，得到所述分片号，其中，所述分片函数如下：
Figure FDA0002402554610000011
其中，HashBucket为所述预设的哈希桶，sliceid是指所述运行信息的分片号，
Figure FDA0002402554610000012
是指按照名称分布时所述运行信息的量化函数，daytime(time)是指按照时间分布时所述运行信息的量化函数，b1是指按照名称分布时相邻信息间的分散程度，b2是指按照时间分布时相邻信息间的分散程度，w1是指按照名称分布时的未标准化权重，w2是指按照时间分布时的未标准化权重。
4.如权利要求3所述的任务监控方法，其特征在于，所述方法还包括：
设置w2为0，以按照名称将所述运行信息同步至所述Kafka消息队列；或者
设置w1为0，以按照时间将所述运行信息同步至所述Kafka消息队列。
5.如权利要求1所述的任务监控方法，其特征在于，所述同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台，还包括：
采用Elasticsearch从所述任务系统中查询Java微服务的日志信息；
基于Logstash对所述日志信息进行分析及过滤；
采用Kibana对分析及过滤后的日志信息进行可视化处理；
基于Logstash同步可视化处理后的日志信息至所述项目任务监控平台。
6.如权利要求1所述的任务监控方法，其特征在于，所述根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，包括：
当所述任务数据存储在数据库中时，基于预设词典构建ES搜索引擎；
基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
7.如权利要求6所述的任务监控方法，其特征在于，所述基于所述ES搜索引擎，根据所述参数信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据，包括：
在所述ES搜索引擎下的多个配置字典中遍历所述参数信息，得到索引信息；
根据所述索引信息在所述数据库中进行查询，得到所述待监控任务的当前运行数据及历史运行数据。
8.一种任务监控装置，其特征在于，所述装置包括：
对接单元，用于当接收到待监控任务时，将所述待监控任务输入至任务系统；
同步单元，用于同步所述任务系统中与所述待监控任务相关的预设种类的信息至项目任务监控平台；
处理单元，用于在所述项目任务监控平台，基于Spark Streaming框架对所述信息进行实时处理，得到任务数据；
存储单元，用于显示并存储所述任务数据；
获取单元，用于当接收到对所述待监控任务的监控指令时，从所述监控指令中获取所述待监控任务的参数信息；
查询单元，用于根据所述参数信息在所述任务数据中进行查询，得到所述待监控任务的当前运行数据及历史运行数据；
计算单元，用于计算所述当前运行数据与所述历史运行数据的差异值；
确定单元，用于当所述差异值大于配置阈值时，确定所述待监控任务异常。
9.一种电子设备，其特征在于，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以实现如权利要求1至7中任意一项所述的任务监控方法。
10.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的任务监控方法。
CN202010151372.XA 2020-03-06 2020-03-06 任务监控方法、装置、电子设备及存储介质 Pending CN111400130A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010151372.XA CN111400130A (zh) 2020-03-06 2020-03-06 任务监控方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010151372.XA CN111400130A (zh) 2020-03-06 2020-03-06 任务监控方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN111400130A true CN111400130A (zh) 2020-07-10

Family

ID=71436613

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010151372.XA Pending CN111400130A (zh) 2020-03-06 2020-03-06 任务监控方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111400130A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112015815A (zh) * 2020-08-27 2020-12-01 中国平安财产保险股份有限公司 数据同步方法、装置及计算机可读存储介质
CN112231173A (zh) * 2020-09-29 2021-01-15 厦门卫星定位应用股份有限公司 原始数据流转的实时监控方法及装置
CN112463783A (zh) * 2020-12-04 2021-03-09 广州品唯软件有限公司 索引数据监控方法、装置、计算机设备和存储介质
CN112559285A (zh) * 2020-12-08 2021-03-26 中国联合网络通信集团有限公司 基于分布式服务架构的微服务监控方法及相关装置
CN114579401A (zh) * 2022-02-28 2022-06-03 北京字节跳动网络技术有限公司 一种任务检测方法、装置、电子设备及存储介质
CN115102730A (zh) * 2022-06-10 2022-09-23 深圳市众功软件有限公司 多种设备的一体化监控方法
CN115242621A (zh) * 2022-07-21 2022-10-25 北京天一恩华科技股份有限公司 网络专线监控方法、装置、设备及计算机可读存储介质

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112015815A (zh) * 2020-08-27 2020-12-01 中国平安财产保险股份有限公司 数据同步方法、装置及计算机可读存储介质
CN112015815B (zh) * 2020-08-27 2024-02-02 中国平安财产保险股份有限公司 数据同步方法、装置及计算机可读存储介质
CN112231173A (zh) * 2020-09-29 2021-01-15 厦门卫星定位应用股份有限公司 原始数据流转的实时监控方法及装置
CN112463783A (zh) * 2020-12-04 2021-03-09 广州品唯软件有限公司 索引数据监控方法、装置、计算机设备和存储介质
CN112559285A (zh) * 2020-12-08 2021-03-26 中国联合网络通信集团有限公司 基于分布式服务架构的微服务监控方法及相关装置
CN112559285B (zh) * 2020-12-08 2023-05-30 中国联合网络通信集团有限公司 基于分布式服务架构的微服务监控方法及相关装置
CN114579401A (zh) * 2022-02-28 2022-06-03 北京字节跳动网络技术有限公司 一种任务检测方法、装置、电子设备及存储介质
CN115102730A (zh) * 2022-06-10 2022-09-23 深圳市众功软件有限公司 多种设备的一体化监控方法
CN115102730B (zh) * 2022-06-10 2023-08-11 深圳市众功软件有限公司 多种设备的一体化监控方法、装置及电子设备
CN115242621A (zh) * 2022-07-21 2022-10-25 北京天一恩华科技股份有限公司 网络专线监控方法、装置、设备及计算机可读存储介质
CN115242621B (zh) * 2022-07-21 2024-01-02 北京天一恩华科技股份有限公司 网络专线监控方法、装置、设备及计算机可读存储介质

Similar Documents

Publication Publication Date Title
CN111400130A (zh) 任务监控方法、装置、电子设备及存储介质
CN109634801B (zh) 数据趋势分析方法、系统、计算机装置及可读存储介质
JP6509127B2 (ja) 連続データストリームに対する継続時間可変ウィンドウ
CN111190876A (zh) 日志管理系统及其运行方法
CN108063699B (zh) 网络性能监控方法、装置、电子设备、存储介质
US10831648B2 (en) Intermittent failure metrics in technological processes
CN112445854B (zh) 多源业务数据实时处理方法、装置、终端及存储介质
CN109684162B (zh) 设备状态预测方法、系统、终端及计算机可读存储介质
US8135666B2 (en) Systems and methods for policy based execution of time critical data warehouse triggers
WO2023056943A1 (zh) 基于物联网规则引擎的终端控制方法、装置、设备及介质
CN111581060B (zh) 基于Prometheus的日志告警系统、方法以及相关设备
WO2015085154A1 (en) Trend identification and reporting
JP2022118108A (ja) ログ監査方法、装置、電子機器、媒体およびコンピュータプログラム
CN109376873B (zh) 运维方法、装置、电子设备及计算机可读存储介质
CN111400189A (zh) 代码覆盖率监测方法、装置、电子设备及存储介质
CN110046070B (zh) 服务器集群系统的监控方法、装置、电子设备及存储介质
CN114416685B (zh) 日志处理方法、系统和存储介质
CN112395333B (zh) 用于排查数据异常的方法、装置、电子设备及存储介质
WO2022237506A1 (zh) 在线问诊业务监控方法、装置、设备及存储介质
CN105302730A (zh) 一种检测计算模型的方法、测试服务器及业务平台
CN110825526A (zh) 基于er关系的分布式调度方法及装置、设备以及存储介质
CN113987086A (zh) 数据处理方法、数据处理装置、电子设备以及存储介质
CN112182025A (zh) 日志分析方法、装置、设备与计算机可读存储介质
CN109597826B (zh) 数据处理方法、装置、电子设备及计算机可读存储介质
CN114398345A (zh) 数据迁移方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination