CN116775429A - 日志处理方法、装置、计算机设备及存储介质 - Google Patents

日志处理方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
CN116775429A
CN116775429A CN202310695950.XA CN202310695950A CN116775429A CN 116775429 A CN116775429 A CN 116775429A CN 202310695950 A CN202310695950 A CN 202310695950A CN 116775429 A CN116775429 A CN 116775429A
Authority
CN
China
Prior art keywords
log
log data
processing
preset
analysis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310695950.XA
Other languages
English (en)
Inventor
解培佩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Property and Casualty Insurance Company of China Ltd
Original Assignee
Ping An Property and Casualty Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Property and Casualty Insurance Company of China Ltd filed Critical Ping An Property and Casualty Insurance Company of China Ltd
Priority to CN202310695950.XA priority Critical patent/CN116775429A/zh
Publication of CN116775429A publication Critical patent/CN116775429A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466—Performance evaluation by tracing or monitoring
    • G06F11/3476—Data logging
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0766—Error or fault reporting or storing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
    • G06F11/3068—Monitoring arrangements determined by the means or processing involved in reporting the monitored data where the reporting involves data format conversion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
    • G06F11/3072—Monitoring arrangements determined by the means or processing involved in reporting the monitored data where the reporting involves data filtering, e.g. pattern matching, time or event triggered, adaptive or policy-based reporting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2455—Query execution
    • G06F16/24552—Database cache management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2455—Query execution
    • G06F16/24568—Data stream processing; Continuous queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/54—Interprogram communication
    • G06F9/546—Message passing systems or structures, e.g. queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/54—Indexing scheme relating to G06F9/54
    • G06F2209/548—Queue

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Databases & Information Systems (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请实施例属于大数据领域与金融科技领域，涉及一种日志处理方法，包括：基于日志采集组件采集业务系统产生的初始日志数据；基于日志处理引擎对初始日志数据进行预处理，得到指定日志数据；基于业务系统的业务类型标识，调用消息队列对指定日志数据进行缓存；判断当前时间是否处于预设的分析时间段内；若是，基于流处理分析引擎拉取消息队列中的指定日志数据进行分析处理，得到与指定日志数据对应的日志分析结果。本申请还提供一种日志处理装置、计算机设备及存储介质。此外，本申请还涉及区块链技术，日志分析结果可存储于区块链中。本申请可应用于金融领域的日志分析场景，减少了日志分析的处理工作量，提高了日志分析结果的生成效率。

Description

日志处理方法、装置、计算机设备及存储介质
技术领域
本申请涉及大数据技术领域与金融科技领域，尤其涉及日志处理方法、装置、计算机设备及存储介质。
背景技术
在如今软件开发及使用过程中，有着各种分布式应用、微服务组件及大量的数据交互，随着日志的记录及分析的重要性越来越高，金融科技公司，例如保险公司、银行等对于内部系统的日志分析的关注度也越来越高。传统的log4j将日志存储在了服务器文件中，工作人员可以通过对各个日志文件的逐一排查，寻找问题症结所在。但是随着系统架构体系的扩张，日志会显得杂乱无章，分布在各个角落，现有通过工作人员对大量的日志数据进行人工统计分析的方式，需要消耗过多人力、物力资源，从而导致工作效率低下。
发明内容
本申请实施例的目的在于提出一种日志处理方法、装置、计算机设备及存储介质，以解决现有的通过工作人员对大量的日志数据进行人工统计分析的方式，需要消耗过多人力、物力资源，从而导致工作效率低下的技术问题。
为了解决上述技术问题，本申请实施例提供一种日志处理方法，采用了如下所述的技术方案：
基于预设的日志采集组件采集业务系统产生的初始日志数据；
基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；
基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；
获取当前时间，并判断当前时间是否处于预设的分析时间段内；
若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。
进一步的，所述基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据的步骤，具体包括：
基于所述日志处理引擎对所述初始日志数据中的无效数据进行过滤，得到第一日志数据；
基于预设格式对所述第一日志数据进行格式转换处理，得到第二日志数据；
将所述第二日志数据作为所述指定日志数据。
进一步的，所述基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存的步骤，具体包括：
获取与所述业务系统对应的所述业务类型标识；
基于所述业务类型标识，在所述消息队列中创建与所述业务类型标识一一对应的分区；
基于所述业务类型标识对所述指定日志数据进行分类，得到分类后的第三日志数据；
通过所述分区对所述第三日志数据进行对应的缓存处理。
进一步的，在所述基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果的步骤之后，还包括：
基于所述日志分析结果，从所述指定日志数据中筛选出异常日志数据；
确定所述异常日志对应的目标异常类型；
判断所述指定日志数据中是否存在与所述目标异常类型匹配的第四日志数据；
若存在与所述目标异常类型匹配的第四日志数据，判断对于所述第四日志数据的异常处理是否处理完毕；
若未处理完毕，基于预设的异常日志处理节点对所述异常日志数据进行处理；
若处理完毕，则不对所述异常日志数据进行处理。
进一步的，所述基于预设的异常日志处理节点对所述异常日志进行处理的步骤，具体包括：
获取所有的异常日志处理节点；
从所有所述异常日志处理节点中确定出与所述目标异常类型对应的目标异常日志处理节点；
将所述异常日志数据推送至所述目标异常日志处理节点，以通过所述目标异常日志处理节点对所述异常日志数据进行处理。
进一步的，在所述基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果的步骤之后，还包括：
统计所述指定日志数据占用所述消息队列的空间大小；
判断所述空间大小是否大于预设阈值；
若是，基于预设的清理规则对所述消息队列中存储的过期日志进行清理。
进一步的，在所述基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果的步骤之后，还包括：
基于所述日志分析结果生成与所述指定日志数据对应的日志分析报告；
获取目标用户的通讯地址；
基于所述通讯地址将所述日志分析报告推送给所述目标用户。
为了解决上述技术问题，本申请实施例还提供一种日志处理装置，采用了如下所述的技术方案：
采集模块，用于基于预设的日志采集组件采集业务系统产生的初始日志数据；
第一处理模块，用于基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；
存储模块，用于基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；
第一判断模块，用于获取当前时间，并判断当前时间是否处于预设的分析时间段内；
第二处理模块，用于若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。
为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：
基于预设的日志采集组件采集业务系统产生的初始日志数据；
基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；
基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；
获取当前时间，并判断当前时间是否处于预设的分析时间段内；
若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。
为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：
基于预设的日志采集组件采集业务系统产生的初始日志数据；
基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；
基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；
获取当前时间，并判断当前时间是否处于预设的分析时间段内；
若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请实施例首先基于预设的日志采集组件采集业务系统产生的初始日志数据；然后基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；基之后于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；后续获取当前时间，并判断当前时间是否处于预设的分析时间段内；若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。本申请实施例在采集到业务系统产生的初始日志数据，会智能地使用日志处理引擎对所述初始日志数据进行预处理，使得后续只需调用流处理分析引擎对该预处理后保留的指定日志数据进行自动化的分析处理以得到对应的日志分析结果，有效减少了后续日志分析的处理工作量，提高了日志分析结果的生成效率。另外，通过在分析时间段内执行对于指定日志数据的日志分析，从而不会对工作时间段的电子设备的其他运作造成影响，从而可以保证电子设备的正常运作，提高了日志分析的处理智能性。
附图说明
为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图；
图2根据本申请的日志处理方法的一个实施例的流程图；
图3是根据本申请的日志处理装置的一个实施例的结构示意图；
图4是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是，本申请实施例所提供的日志处理方法一般由服务器/终端设备执行，相应地，日志处理装置一般设置于服务器/终端设备中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，示出了根据本申请的日志处理方法的一个实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。本申请实施例提供的日志处理方法应用于任一种需要进行日志分析的场景中，则该方法能够应用于这些场景的产品中，例如，金融保险领域中的日志分析。所述的日志处理方法，包括以下步骤：
步骤S201，基于预设的日志采集组件采集业务系统产生的初始日志数据。
在本实施例中，日志处理方法运行于其上的电子设备(例如图1所示的服务器/终端设备)，具体的执行主体可为电子设备内的日志管理系统，可以通过有线连接方式或者无线连接方式获取业务系统产生的初始日志数据。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultrawideband)连接、以及其他现在已知或将来开发的无线连接方式。其中，所述日志采集组件具体可采用skywalking，skywalking支持Java、.Net、NodeJs等探针，数据存储支持h2、Mysql、Elasticsearch等。采用字节码注入的方式实现无代码侵入，功能全面，性能优秀，且对云原生支持，目前增长势头强劲，社区活跃，其链路追踪，性能监控，日志收集、告警等功能被开发者广泛使用。
步骤S202，基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据。
在本实施例中，上述日志处理引擎具体可采用flume，flume是一个高可用的，分布式的海量日志采集、聚合和传输系统。flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，flume提供对数据进行简单处理，并写到各种数据接受方(可定制)的能力。其中，上述基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。
步骤S203，基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存。
在本实施例中，上述基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。
步骤S204，获取当前时间，并判断当前时间是否处于预设的分析时间段内。
在本实施例中，所述分析时间段由人工或装置自动确定的电子设备的业务空闲时间段，对于该业务空闲时间段的具体数值不作限定，例如该分析时间段可设为0:00-8:00；20:00-24:00。
步骤S205，若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。
在本实施例中，所述流处理分析引擎可根据预先设置的黑名单中定义异常日志的规则，对所述消息队列中的所述指定日志数据进行日志信息筛选，筛选出异常日志数据，并可将指定日志数据中除该异常日志数据之外的其他日志数据。因此，日志分析结果可包括日志属于异常日志数据，或者日志属于正常日志数据。其中，上述流处理分析引擎具体可采用Apache Flink，它是由Apache软件基金会开发的开源流处理框架，其核心是用Java和Scala编写的分布式流数据流引擎。Flink以数据并行和流水线方式执行任意流数据程序，Flink的流水线运行时系统可以执行批处理和流处理程序。此外，Flink的运行时本身也支持迭代算法的执行。其中，通过在分析时间段内执行对于指定日志数据的日志分析，从而不会对工作时间段的电子设备的其他运作造成影响，从而可以保证电子设备的正常运作，提高了日志分析的处理智能性。
本申请首先基于预设的日志采集组件采集业务系统产生的初始日志数据；然后基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；基之后于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；后续获取当前时间，并判断当前时间是否处于预设的分析时间段内；若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。本申请在采集到业务系统产生的初始日志数据，会智能地使用日志处理引擎对所述初始日志数据进行预处理，使得后续只需调用流处理分析引擎对该预处理后保留的指定日志数据进行自动化的分析处理以得到对应的日志分析结果，有效减少了后续日志分析的处理工作量，提高了日志分析结果的生成效率。另外，通过在分析时间段内执行对于指定日志数据的日志分析，从而不会对工作时间段的电子设备的其他运作造成影响，从而可以保证电子设备的正常运作，提高了日志分析的处理智能性。
在一些可选的实现方式中，日志管理系统的框架可包括：
采集侧：负责端上日志的采集、加密、压缩、上传，支持多场景接入，包括微信API、Web API、IOS API、Android API等；支持加密算法，对接入日志记录进行AES加密，确保信息不泄露；存储支持按分组存储、过期日志清理、分组容量动态管理，防止日志存储打满情况；日志上传支持先聚合再上传，上传请求队列管理，上传流量管理，日志断点续传等，保证资源充足情况下的高效上传。
接入层：负责接收接口上传的日志，并转发给日志处理层；支持高并发上传、支持min级别上传、支持投递数据到kafka消息流；
日志处理层：负责加密日志的加工、清洗、解密；采用业内领先的实时流引擎Flink处理kafka消息队列中的日志数据，可以实现秒级别的时效要求，且能支持多种下游组件，如Elasticsearch、Hbase等；按照不同业务线的标识对kafka中实时日志进行分类，解密，格式标准化后再发送到各业务条线独立kafka中，实现业务的隔离；
日志消费层：为用户高阶需求服务，如自定义监控指标、前后端链路串联、实时+离线关联；实时日志也是实时数据流的一种，可以通过这些数据实现监控指标的监控和告警；通过各业务线日志标识找到相关的前后端日志，然后进行串联，实现全链路的日志追踪
平台查询层：给用户提供快速的日志检索支持；通用标准化日志主要由flink写入Elasticsearch，Elasticsearch是一个分布式的开源搜索和分析引擎，具有接入成本低、扩展性高和近实时性等优点，比较适合用来做大数据量的全文检索服务；复杂业务实时指标主要写入Hbase、Hive中，供用户通过openapi进行查询。
在一些可选的实现方式中，步骤S202包括以下步骤：
基于所述日志处理引擎对所述初始日志数据中的无效数据进行过滤，得到第一日志数据。
在本实施例中，所述日志处理引擎具体可采用flume。
基于预设格式对所述第一日志数据进行格式转换处理，得到第二日志数据。
在本实施例中，由于日志格式的转换不会影响日志中包含的实质内容，通过将不同类型的日志数据均转换为相同预设格式的日志，以便于后续的分析处理。对于上述预设格式的选取不作具体限定，可根据实际的业务需求进行设置，例如可选用json格式。具体的，可以将自定义的日志拦截转化程序置于电子设备内的日志处理引擎中，并在日志处理引擎中嵌入flume附加器，进而可以将不同日志数据转化为统一的json格式。
将所述第二日志数据作为所述指定日志数据。
本申请通过基于所述日志处理引擎对所述初始日志数据中的无效数据进行过滤，得到第一日志数据；后续基于预设格式对所述第一日志数据进行格式转换处理，得到第二日志数据，并将所述第二日志数据作为所述指定日志数据。本申请基于日志处理引擎的使用对所述初始日志数据中的无效数据进行过滤，只对初始日志数据中的有效数据进行保留，从而可以减少日志数据的占用空间，且后续只需对该保留的指定日志数据进行分析处理以得到对应的日志分析结果，有效减少了后续日志分析的处理工作量，提高了日志分析结果的生成效率。
在本实施例的一些可选的实现方式中，步骤S203包括以下步骤：
获取与所述业务系统对应的所述业务类型标识。
在本实施例中，业务系统具有多条业务线，所述业务类型标识具体是指业务系统对应的所有业务线的标识。示例性的，在银行系统的业务场景下，业务线可包括网银、利息、信贷、抵押、股票、货币、投资、基金、资产组合、养老金等。
基于所述业务类型标识，在所述消息队列中创建与所述业务类型标识一一对应的分区。
在本实施例中，可通过获取业务类型标识的数量，然后在该消息队列中与该数量相同的多个分区，并为各个业务类型标识与各个分区之间建立一一对应的关系，例如可将业务类型标识作为相应的分区的索引。
基于所述业务类型标识对所述指定日志数据进行分类，得到分类后的第三日志数据。
在本实施例中，通过基于所述业务类型标识对所述指定日志数据进行分类，可以得分各个业务类型下的日志数据。
通过所述分区对所述第三日志数据进行对应的缓存处理。
在本实施例中，可基于所述第三日志数据对应的业务类型标识，来将该第三日志数据存储到与该业务类型标识对应的消息队列中的分区内。
本申请通过获取与所述业务系统对应的所述业务类型标识；然后基于所述业务类型标识，在所述消息队列中创建与所述业务类型标识一一对应的分区；之后基于所述业务类型标识对所述指定日志数据进行分类，得到分类后的第三日志数据；后续通过所述分区对所述第三日志数据进行对应的缓存处理。本申请通过基于业务系统对应的所述业务类型标识的使用来在所述消息队列中创建分区，以及对指定日志数据进行分类，进而通过所述分区对所述第三日志数据进行对应的缓存处理，以实现在消息队列中实现对于不同业务类型的日志数据的隔离存储，提高了日志数据的存储规范性与存储智能性。
在一些可选的实现方式中，在步骤S205之后，上述电子设备还可以执行以下步骤：
基于所述日志分析结果，从所述指定日志数据中筛选出异常日志数据。
在本实施例中，可通过获取日志分析结果中内容为日志属于异常日志数据的指定结果，再从所述指定日志数据中筛选出与该指定结果对应的日志数据作为上述异常日志数据。
确定所述异常日志对应的目标异常类型。
在本实施例中，异常日志可存在多种异常类型，例如可包括sql耗时异常、url耗时异常、dubbo服务调用耗时异常，等等。
判断所述指定日志数据中是否存在与所述目标异常类型匹配的第四日志数据。
若存在与所述目标异常类型匹配的第四日志数据，判断对于所述第四日志数据的异常处理是否处理完毕。
若未处理完毕，基于预设的异常日志处理节点对所述异常日志数据进行处理。
在本实施例中，上述基于预设的异常日志处理节点对所述异常日志数据进行处理的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。
若处理完毕，则不对所述异常日志数据进行处理。
在本实施例中，当与异常日志数据具有相同的异常类型的第四日志数据的异常处理处理完毕时，则需要再对所述异常日志数据进行处理，而如果第四日志数据的异常处理未处理完毕时，则会停止将异常日志数据推送到异常日志处理节点进行处理，以防止重复对具有相同的异常类型的异常日志数据进行处理，避免造成异常日志的繁琐和冗余。
本申请在生成了指定日志数据的日志分析结果后，通过基于所述日志分析结果，从所述指定日志数据中筛选出异常日志数据；然后确定所述异常日志对应的目标异常类型；之后判断所述指定日志数据中是否存在与所述目标异常类型匹配的第四日志数据；若存在与所述目标异常类型匹配的第四日志数据，进一步判断对于所述第四日志数据的异常处理是否处理完毕；若未处理完毕，基于预设的异常日志处理节点对所述异常日志数据进行处理；而若处理完毕，则不对所述异常日志数据进行处理。本申请在对指定日志数据中筛选出的异常日志数据进行处理之前，会智能地分析所述指定日志数据中是否存在与所述目标异常类型匹配的第四日志数据，并在存在第四日志数据且第四日志数据的异常处理已经处理完毕的情况下，则不会对所述异常日志数据进行处理，从而可以有效防止对具有相同的异常类型的异常日志数据进行重复处理，有效降低异常日志处理的工作量，提高异常日志处理的处理效率。
在一些可选的实现方式中，所述基于预设的异常日志处理节点对所述异常日志进行处理，包括以下步骤：
获取所有的异常日志处理节点。
在本实施例中，对于日志包含的每一种异常类型，会对应预先配置与各种分别对应的异常日志处理节点，并建立日志的异常类型与异常日志处理节点之间的关联关系。
从所有所述异常日志处理节点中确定出与所述目标异常类型对应的目标异常日志处理节点。
在本实施例中，可基于日志的异常类型与异常日志处理节点之间的关联关系，使用所述目标异常类型从所有所述异常日志处理节点中确定出目标异常日志处理节点。
将所述异常日志数据推送至所述目标异常日志处理节点，以通过所述目标异常日志处理节点对所述异常日志数据进行处理。
在本实施例中，可基于目标异常日志处理节点的使用对所述异常日志数据进行日志数据的异常修复处理，从而不需要人工对日志数据的异常进行分析修复。
本申请通过获取所有的异常日志处理节点；然后从所有所述异常日志处理节点中确定出与所述目标异常类型对应的目标异常日志处理节点；后续将所述异常日志数据推送至所述目标异常日志处理节点，以通过所述目标异常日志处理节点对所述异常日志数据进行处理。本申请通过从所有所述异常日志处理节点中调用出与所述目标异常类型对应的目标异常日志处理节点，对所述异常日志数据进行处理，保证了对于异常日志数据处理的规范性，基于目标异常日志处理节点的使用对所述异常日志数据进行日志数据的异常修复处理，从而不需要人工对日志数据的异常进行分析修复，提高了日志数据的异常修复的处理效率与处理智能性，提高了用户的使用体验。
在本实施例的一些可选的实现方式中，在步骤S205之后，上述电子设备还可以执行以下步骤：
统计所述指定日志数据占用所述消息队列的空间大小。
判断所述空间大小是否大于预设阈值。
在本实施例中，对于上述预设阈值的取值不作具体限定，可根据实际的业务使用需求进行设置。其中，预设阈值的设置规则可包括：若消息队列的剩余空间小于该预设阈值，则会对消息队列的数据处理工作造成影响，因此通过将消息队列的剩余空间控制在大于预设阈值的范围内，从而可以保证消息队列的正常运作。
若是，基于预设的清理规则对所述消息队列中存储的过期日志进行清理。
在本实施例中，上述清理规则可为根据实际的清理需求生成的对于消息队列中的日志进行自动清理的机制。具体地，清理规则可包括日志数据的存储时间达到预设的时间期限，或者日志数据的访问频率低于预设的频率阈值，等等。其中，对于上述时间期限与频率阈值的取值不作具体限定，可根据实际的使用需求进行设置。
本申请通过统计所述指定日志数据占用所述消息队列的空间大小；然后判断所述空间大小是否大于预设阈值；若是，基于预设的清理规则对所述消息队列中存储的过期日志进行清理。本申请在将指定日志数据缓存在消息队列后，会智能地实时统计指定日志数据占用所述消息队列的空间大小，并当检测到该空间大小大于预设阈值便会智能地基于预设的清理规则对所述消息队列中存储的过期日志进行清理，从而可以有效减小消息队列内空间的浪费使用，保证了消息队列内资源的合理利用，提高了日志数据的存储智能性。
在本实施例的一些可选的实现方式中，在步骤S205之后，上述电子设备还可以执行以下步骤：
基于所述日志分析结果生成与所述指定日志数据对应的日志分析报告。
在本实施例中，可通过将日志分析结果填充于预设的分析报告模板内，以生成对应的日志分析报告。其中，分析报告模板可以根据实际的业务使用需求进行创建生成。
获取目标用户的通讯地址。
在本实施例中，上述目标用户可为与日志维护相关的运维人员。上述通讯地址可为邮件地址。
基于所述通讯地址将所述日志分析报告推送给所述目标用户。
在本实施例中，如果通讯地址为邮件地址，则可以通过登录邮件服务器，再基于邮件服务器将该日志分析报告发送至目标用户的通讯地址。
本申请通过基于所述日志分析结果生成与所述指定日志数据对应的日志分析报告；然后获取目标用户的通讯地址；后续基于所述通讯地址将所述日志分析报告推送给所述目标用户。本申请在基于流处理分析引擎的使用生成了与所述指定日志数据对应的日志分析结果后，还会智能地生成与日志分析结果对应的日志分析报告，并将该日志分析报告发送至相关的目标用户的通讯地址，以便目标用户能够及时根据接收到的日志分析报告来对日志数据进行相对应的运维处理，以提高对于日志数据的处理效率，有利于提高目标用户的工作体验。
需要强调的是，为进一步保证上述日志分析结果的私密和安全性，上述日志分析结果还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。
应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种日志处理装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图3所示，本实施例所述的日志处理装置300包括：采集模块301、第一处理模块302、存储模块303、第一判断模块304以及处理模块305。其中：
采集模块301，用于基于预设的日志采集组件采集业务系统产生的初始日志数据；
第一处理模块302，用于基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；
存储模块303，用于基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；
第一判断模块304，用于获取当前时间，并判断当前时间是否处于预设的分析时间段内；
第二处理模块305，用于若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，第一处理模块302包括：
过滤子模块，用于基于所述日志处理引擎对所述初始日志数据中的无效数据进行过滤，得到第一日志数据；
转换子模块，用于基于预设格式对所述第一日志数据进行格式转换处理，得到第二日志数据；
第一确定子模块，用于将所述第二日志数据作为所述指定日志数据。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中,存储模块303包括：
第一获取子模块，用于获取与所述业务系统对应的所述业务类型标识；
创建子模块，用于基于所述业务类型标识，在所述消息队列中创建与所述业务类型标识一一对应的分区；
分类子模块，用于基于所述业务类型标识对所述指定日志数据进行分类，得到分类后的第三日志数据；
存储子模块，用于通过所述分区对所述第三日志数据进行对应的缓存处理。
本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，日志处理装置还包括：
筛选模块，用于基于所述日志分析结果，从所述指定日志数据中筛选出异常日志数据；
确定模块，用于确定所述异常日志对应的目标异常类型；
第二判断模块，用于判断所述指定日志数据中是否存在与所述目标异常类型匹配的第四日志数据；
第三判断模块，用于若存在与所述目标异常类型匹配的第四日志数据，判断对于所述第四日志数据的异常处理是否处理完毕；
第三处理模块，用于若未处理完毕，基于预设的异常日志处理节点对所述异常日志数据进行处理；
第四处理模块，用于若处理完毕，则不对所述异常日志数据进行处理。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，第三处理模块包括：
第二获取子模块，用于获取所有的异常日志处理节点；
第二确定子模块，用于从所有所述异常日志处理节点中确定出与所述目标异常类型对应的目标异常日志处理节点；
推送子模块，用于将所述异常日志数据推送至所述目标异常日志处理节点，以通过所述目标异常日志处理节点对所述异常日志数据进行处理。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，日志处理装置还包括：
统计模块，用于统计所述指定日志数据占用所述消息队列的空间大小；
第四判断模块，用于判断所述空间大小是否大于预设阈值；
清理模块，用于若是，基于预设的清理规则对所述消息队列中存储的过期日志进行清理。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，日志处理装置还包括：
生成模块，用于基于所述日志分析结果生成与所述指定日志数据对应的日志分析报告；
获取模块，用于获取目标用户的通讯地址；
推送模块，用于基于所述通讯地址将所述日志分析报告推送给所述目标用户。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。
所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如日志处理方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述日志处理方法的计算机可读指令。
所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请实施例中，首先基于预设的日志采集组件采集业务系统产生的初始日志数据；然后基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；基之后于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；后续获取当前时间，并判断当前时间是否处于预设的分析时间段内；若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。本申请实施例在采集到业务系统产生的初始日志数据，会智能地使用日志处理引擎对所述初始日志数据进行预处理，使得后续只需调用流处理分析引擎对该预处理后保留的指定日志数据进行自动化的分析处理以得到对应的日志分析结果，有效减少了后续日志分析的处理工作量，提高了日志分析结果的生成效率。另外，通过在分析时间段内执行对于指定日志数据的日志分析，从而不会对工作时间段的电子设备的其他运作造成影响，从而可以保证电子设备的正常运作，提高了日志分析的处理智能性。
本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的日志处理方法的步骤。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请实施例中，首先基于预设的日志采集组件采集业务系统产生的初始日志数据；然后基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；基之后于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；后续获取当前时间，并判断当前时间是否处于预设的分析时间段内；若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。本申请实施例在采集到业务系统产生的初始日志数据，会智能地使用日志处理引擎对所述初始日志数据进行预处理，使得后续只需调用流处理分析引擎对该预处理后保留的指定日志数据进行自动化的分析处理以得到对应的日志分析结果，有效减少了后续日志分析的处理工作量，提高了日志分析结果的生成效率。另外，通过在分析时间段内执行对于指定日志数据的日志分析，从而不会对工作时间段的电子设备的其他运作造成影响，从而可以保证电子设备的正常运作，提高了日志分析的处理智能性。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。
显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种日志处理方法，其特征在于，包括下述步骤：
基于预设的日志采集组件采集业务系统产生的初始日志数据；
基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；
基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；
获取当前时间，并判断当前时间是否处于预设的分析时间段内；
若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。
2.根据权利要求1所述的日志处理方法，其特征在于，所述基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据的步骤，具体包括：
基于所述日志处理引擎对所述初始日志数据中的无效数据进行过滤，得到第一日志数据；
基于预设格式对所述第一日志数据进行格式转换处理，得到第二日志数据；
将所述第二日志数据作为所述指定日志数据。
3.根据权利要求1所述的日志处理方法，其特征在于，所述基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存的步骤，具体包括：
获取与所述业务系统对应的所述业务类型标识；
基于所述业务类型标识，在所述消息队列中创建与所述业务类型标识一一对应的分区；
基于所述业务类型标识对所述指定日志数据进行分类，得到分类后的第三日志数据；
通过所述分区对所述第三日志数据进行对应的缓存处理。
4.根据权利要求1所述的日志处理方法，其特征在于，在所述基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果的步骤之后，还包括：
基于所述日志分析结果，从所述指定日志数据中筛选出异常日志数据；
确定所述异常日志对应的目标异常类型；
判断所述指定日志数据中是否存在与所述目标异常类型匹配的第四日志数据；
若存在与所述目标异常类型匹配的第四日志数据，判断对于所述第四日志数据的异常处理是否处理完毕；
若未处理完毕，基于预设的异常日志处理节点对所述异常日志数据进行处理；
若处理完毕，则不对所述异常日志数据进行处理。
5.根据权利要求4所述的日志处理方法，其特征在于，所述基于预设的异常日志处理节点对所述异常日志进行处理的步骤，具体包括：
获取所有的异常日志处理节点；
从所有所述异常日志处理节点中确定出与所述目标异常类型对应的目标异常日志处理节点；
将所述异常日志数据推送至所述目标异常日志处理节点，以通过所述目标异常日志处理节点对所述异常日志数据进行处理。
6.根据权利要求1所述的日志处理方法，其特征在于，在所述基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果的步骤之后，还包括：
统计所述指定日志数据占用所述消息队列的空间大小；
判断所述空间大小是否大于预设阈值；
若是，基于预设的清理规则对所述消息队列中存储的过期日志进行清理。
7.根据权利要求1所述的日志处理方法，其特征在于，在所述基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果的步骤之后，还包括：
基于所述日志分析结果生成与所述指定日志数据对应的日志分析报告；
获取目标用户的通讯地址；
基于所述通讯地址将所述日志分析报告推送给所述目标用户。
8.一种日志处理装置，其特征在于，包括：
采集模块，用于基于预设的日志采集组件采集业务系统产生的初始日志数据；
第一处理模块，用于基于预设的日志处理引擎对所述初始日志数据进行预处理，得到处理后的指定日志数据；
存储模块，用于基于与所述业务系统对应的业务类型标识，调用预设的消息队列对所述指定日志数据进行缓存；
第一判断模块，用于获取当前时间，并判断当前时间是否处于预设的分析时间段内；
第二处理模块，用于若是，基于预设的流处理分析引擎拉取所述消息队列中的所述指定日志数据进行分析处理，得到与所述指定日志数据对应的日志分析结果。
9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的日志处理方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的日志处理方法的步骤。
CN202310695950.XA 2023-06-12 2023-06-12 日志处理方法、装置、计算机设备及存储介质 Pending CN116775429A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310695950.XA CN116775429A (zh) 2023-06-12 2023-06-12 日志处理方法、装置、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310695950.XA CN116775429A (zh) 2023-06-12 2023-06-12 日志处理方法、装置、计算机设备及存储介质

Publications (1)

Publication Number Publication Date
CN116775429A true CN116775429A (zh) 2023-09-19

Family

ID=87994059

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310695950.XA Pending CN116775429A (zh) 2023-06-12 2023-06-12 日志处理方法、装置、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN116775429A (zh)

Similar Documents

Publication Publication Date Title
JP7197675B2 (ja) データストリームのリアルタイム処理のためのシステムおよび方法
CN113282611B (zh) 一种流数据同步的方法、装置、计算机设备及存储介质
CN115237857A (zh) 日志处理方法、装置、计算机设备及存储介质
CN115757075A (zh) 任务异常检测方法、装置、计算机设备及存储介质
CN117251490A (zh) 数据查询方法、装置、计算机设备及存储介质
CN115941712B (zh) 报送数据的处理方法、装置、计算机设备及存储介质
CN117094729A (zh) 请求处理方法、装置、计算机设备及存储介质
CN116821493A (zh) 消息推送方法、装置、计算机设备及存储介质
CN116775429A (zh) 日志处理方法、装置、计算机设备及存储介质
CN115238009A (zh) 基于血缘分析的元数据管理方法、装置、设备及存储介质
CN107247804A (zh) 运维大数据分析方法、装置及系统
CN117743291A (zh) 数据处理方法、装置、计算机设备及存储介质
CN116992462A (zh) 基于大数据传输场景的明文信息下线方法及其相关设备
CN116796133A (zh) 数据分析方法、装置、计算机设备及存储介质
CN115829763A (zh) 数据报送方法、装置、计算机设备及存储介质
CN116795882A (zh) 数据获取方法、装置、计算机设备及存储介质
CN116611936A (zh) 数据分析方法、装置、计算机设备及存储介质
CN116862698A (zh) 一种会计凭证处理方法、装置、计算机设备及存储介质
CN116662198A (zh) 数据分析方法、装置、计算机设备及存储介质
CN117094827A (zh) 数据生成方法、装置、计算机设备及存储介质
CN116795632A (zh) 任务处理方法、装置、计算机设备及存储介质
CN117876021A (zh) 基于人工智能的数据预测方法、装置、设备及存储介质
CN117390119A (zh) 任务处理方法、装置、计算机设备及存储介质
CN117520141A (zh) 基于人工智能的脚本推荐方法、装置、设备及存储介质
CN116756612A (zh) 基于人工智能的数据报送方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination