CN117785832A - 日志处理方法、装置、计算机设备及存储介质 - Google Patents
日志处理方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN117785832A CN117785832A CN202410024900.3A CN202410024900A CN117785832A CN 117785832 A CN117785832 A CN 117785832A CN 202410024900 A CN202410024900 A CN 202410024900A CN 117785832 A CN117785832 A CN 117785832A
- Authority
- CN
- China
- Prior art keywords
- log
- slow
- target
- slow sql
- sql log
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 29
- 238000004458 analytical method Methods 0.000 claims abstract description 113
- 238000013515 script Methods 0.000 claims abstract description 76
- 238000012545 processing Methods 0.000 claims abstract description 69
- 238000000034 method Methods 0.000 claims abstract description 57
- 230000008569 process Effects 0.000 claims description 28
- 238000004891 communication Methods 0.000 claims description 18
- 238000012800 visualization Methods 0.000 claims description 17
- 230000007246 mechanism Effects 0.000 claims description 15
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 238000005516 engineering process Methods 0.000 abstract description 16
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000007619 statistical method Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012552 review Methods 0.000 description 2
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 101150041570 TOP1 gene Proteins 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 229910002804 graphite Inorganic materials 0.000 description 1
- 239000010439 graphite Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Landscapes
- Debugging And Monitoring (AREA)
Abstract
本申请属于大数据领域与金融科技领域，涉及一种日志处理方法，包括：从日志服务器拉取慢SQL日志，并将慢SQL日志写入本地文件系统；获取与慢SQL日志对应的指标配置信息；基于规则编辑程序生成与指标配置信息对应的目标指标；调用慢日志分析工具；将目标指标解析为满足日志分析工具的语法的命令脚本；通过慢日志分析工具执行命令脚本，对本地文件系统中的慢SQL日志进行分析统计处理，生成符合目标指标的目标慢SQL日志。本申请还提供一种日志处理装置、计算机设备及存储介质。此外，本申请还涉及区块链技术，目标慢SQL日志可存储于区块链中。本申请可应用于金融领域的日志分析场景，提高了对于慢SQL日志的分析统计效率，保证了生成的分析统计结果的准确性。
Description
技术领域
本申请涉及大数据技术领域与金融科技领域，尤其涉及日志处理方法、装置、计算机设备及存储介质。
背景技术
慢SQL(StructuredQueryLanguage，结构化查询语言)日志，是用来记录在数据库中执行时间超过指定时间的SQL语句。通过慢SQL日志，可以查找出哪些慢SQL语句的执行效率低，以便进行优化。
目前，越来越多的金融科技公司，例如保险公司、银行等使用开源数据库来替换oracle数据库，而为了适配己方业务，提高数据库的运行效率，需要在业务中对数据库中的慢SQL日志进行统计分析。现有的金融科技公司采用的对于慢SQL日志的统计分析方式，是通过Mysql自带的统计工具Mysqldumpslow来进行人工执行命令分析，不能实现自动及时发现和自动统计符合自定义指标的慢SQL日志，且人工分析需要消耗大量的时间，导致慢SQL日志的分析效率低下。
发明内容
本申请实施例的目的在于提出一种日志处理方法、装置、计算机设备及存储介质，以解决现有的金融科技公司采用的对于慢SQL日志的统计分析方式是通过Mysql自带的统计工具Mysqldumpslow来进行人工执行命令分析，不能实现自动及时发现和自动统计符合自定义指标的慢SQL日志，且人工分析需要消耗大量的时间，导致慢SQL日志的分析效率低下的技术问题。
为了解决上述技术问题，本申请实施例提供一种日志处理方法，采用了如下所述的技术方案：
从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；
获取预输入的与所述慢SQL日志对应的指标配置信息；
基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；
调用预设的慢日志分析工具；
将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；
通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
进一步的，所述从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统的步骤，具体包括：
调用预设的日志加载程序；
获取所述日志服务器的服务地址；
基于所述服务地址，使用所述日志加载程序从所述日志服务器中拉取所述慢SQL日志；
将所述慢SQL日志写入所述本地文件系统。
进一步的，所述将所述慢SQL日志写入所述本地文件系统的步骤，具体包括：
对所述慢SQL日志进行去重处理，得到对应的第一慢SQL日志；
基于预设的目标SQL日志格式对所述第一慢SQL日志进行格式转化处理，得到对应的第二慢SQL日志；
基于所述服务地址，将所述第二慢SQL日志写入所述本地文件系统。
进一步的，所述将所述慢SQL日志写入所述本地文件系统的步骤，具体包括：
对所述慢SQL日志进行去重处理，得到对应的第一慢SQL日志；
基于预设的目标SQL日志格式对所述第一慢SQL日志进行格式转化处理，得到对应的第二慢SQL日志；
基于所述服务地址，将所述第二慢SQL日志写入所述本地文件系统。
进一步的，所述将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本的步骤，具体包括：
调用预设的规则解析程序；
通过所述规则解析程序，将所述目标指标解析为满足所述日志分析工具的语法的可执行Shell脚本；
将所述可执行Shell脚本作为所述命令脚本。
进一步的，所述通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志的步骤，具体包括：
获取预设的定时处理机制；
获取当前时间；
在所述当前时间符合所述定时处理机制时，通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
进一步的，在所述通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志的步骤之后，还包括：
确定与所述目标慢SQL日志对应的目标可视化工具；
使用所述目标可视化工具对所述目标慢SQL日志进行展示处理。
进一步的，在所述通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志的步骤之后，还包括：
获取目标用户的通讯方式；
基于所述目标慢SQL日志生成对应的告警日志信息；
基于所述通讯方式，将所述告警日志信息发送给所述目标用户。
为了解决上述技术问题，本申请实施例还提供一种日志处理装置，采用了如下所述的技术方案：
拉取模块，用于从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；
第一获取模块，用于获取预输入的与所述慢SQL日志对应的指标配置信息；
第一生成模块，用于基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；
调用模块，用于调用预设的慢日志分析工具；
解析模块，用于将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；
处理模块，用于通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：
从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；
获取预输入的与所述慢SQL日志对应的指标配置信息；
基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；
调用预设的慢日志分析工具；
将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；
通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：
从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；
获取预输入的与所述慢SQL日志对应的指标配置信息；
基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；
调用预设的慢日志分析工具；
将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；
通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请实施例首先从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；然后获取预输入的与所述慢SQL日志对应的指标配置信息；之后基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；后续调用预设的慢日志分析工具；进一步将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；最后通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。本申请实施例通过自动从日志服务器中拉取慢SQL日志，进而根据预设的规则编辑程序生成慢SQL日志对应的指标配置信息对应的目标指标，并将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本，进而通过使用慢日志分析工具执行所述命令脚本，以实现自动快速地对所述本地文件系统中的所述慢SQL日志进行分析统计处理，从而生成符合所述目标指标的目标慢SQL日志，提高了对于慢SQL日志的分析统计效率，保证了生成的分析统计结果的准确性。
附图说明
为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图；
图2根据本申请的日志处理方法的一个实施例的流程图；
图3是根据本申请的日志处理装置的一个实施例的结构示意图；
图4是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是，本申请实施例所提供的日志处理方法一般由服务器/终端设备执行，相应地，日志处理装置一般设置于服务器/终端设备中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，示出了根据本申请的日志处理方法的一个实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。本申请实施例提供的日志处理方法能够应用于任意一种需要进行慢SQL日志分析的场景中，则该日志处理方法能够应用于这些场景的产品中，例如，金融保险领域中的慢SQL日志分析。所述的日志处理方法，包括以下步骤：
步骤S201，从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统。
在本实施例中，日志处理方法运行于其上的电子设备(例如图1所示的服务器/终端设备)，可以通过有线连接方式或者无线连接方式获取慢SQL日志。上述日志处理方法的执行主体为金融科技公司，例如保险公司、银行内的业务系统。业务系统可包括车险业务系统、寿险业务系统、意外险业务系统。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。其中，上述日志服务器具体为存储有业务系统的慢SQL日志的云存储服务器。另外，上述从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。
步骤S202，获取预输入的与所述慢SQL日志对应的指标配置信息。
在本实施例中，上述与所述慢SQL日志对应的指标配置信息可为相关用户根据实际的慢SQL日志分析需求输入的指标配置信息。具体地，上述指标配置信息可包括统计执行时间TopN，出现频率TopN等，并且支持选择小时维度(输出整点TopN)和天维度(合并24个整点文件，输出天TopN)的指标配置。
步骤S203，基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标。
在本实施例中，上述规则编辑程序具体为RuleEditor规则编辑程序。可通过使用RuleEditor规则编辑程序对所述指标配置信息进行规则配置，以生成与所述指标配置信息对应的目标指标。
步骤S204，调用预设的慢日志分析工具。
在本实施例中，上述慢日志分析工具具体为Mysqlsla。可预先在电子设备中安装Mysqlsla插件。
步骤S205，将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本。
在本实施例中，上述将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。
通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
在本实施例中，在通过所述慢日志分析工具执行所述命令脚本可以生成符合所述目标指标的目标慢SQL日志，还可以得到相应的目标慢SQL日志的详细信息以及对应的慢SQL语句。其中，上述通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。
本申请首先从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；然后获取预输入的与所述慢SQL日志对应的指标配置信息；之后基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；后续调用预设的慢日志分析工具；进一步将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；最后通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。本申请通过自动从日志服务器中拉取慢SQL日志，进而根据预设的规则编辑程序生成慢SQL日志对应的指标配置信息对应的目标指标，并将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本，进而通过使用慢日志分析工具执行所述命令脚本，以实现自动快速地对所述本地文件系统中的所述慢SQL日志进行分析统计处理，从而生成符合所述目标指标的目标慢SQL日志，提高了对于慢SQL日志的分析统计效率，保证了生成的分析统计结果的准确性。
在一些可选的实现方式中，步骤S201包括以下步骤：
调用预设的日志加载程序。
在本实施例中，上述日志加载程序具体可采用SlowLogLoader慢SQL日志加载程序。
获取所述日志服务器的服务地址。
在本实施例中，可通过对存储有慢SQL日志的日志服务器进行地址信息查询，以获取到所述日志服务器的服务地址。
基于所述服务地址，使用所述日志加载程序从所述日志服务器中拉取所述慢SQL日志。
在本实施例中，可按照整点拉取的方式，根据所述服务地址，使用所述日志加载程序从所述日志服务器中拉取所述慢SQL日志。
将所述慢SQL日志写入所述本地文件系统。
在本实施例中，上述将所述慢SQL日志写入所述本地文件系统的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。
本申请通过调用预设的日志加载程序；然后获取所述日志服务器的服务地址；之后基于所述服务地址，使用所述日志加载程序从所述日志服务器中拉取所述慢SQL日志；后续将所述慢SQL日志写入所述本地文件系统。本申请通过基于日志加载程序的使用，根据日志服务器的服务地址，可以实现快速地从所述日志服务器中拉取出所述慢SQL日志，提高了对于日志服务器中的慢SQL日志的获取效率。
在本实施例的一些可选的实现方式中，所述将所述慢SQL日志写入所述本地文件系统，包括以下步骤：
对所述慢SQL日志进行去重处理，得到对应的第一慢SQL日志。
在本实施例中，可通过使用慢日志分析工具对所述慢SQL日志进行去重处理，以确保所述慢SQL日志的唯一性，从而得到对应的第一慢SQL日志。
基于预设的目标SQL日志格式对所述第一慢SQL日志进行格式转化处理，得到对应的第二慢SQL日志。
在本实施例中，上述目标SQL日志格式可为符合实际的告警监控需求的日志格式，例如可包括JSON格式。可通过将所述第一慢SQL日志转换为具有目标SQL日志格式的日志，以得到对应的第二慢SQL日志。
基于所述服务地址，将所述第二慢SQL日志写入所述本地文件系统。
在本实施例中，在确定出所述本地文件系统的服务地址后，将所述第二慢SQL日志写入所述本地文件系统。
本申请通过对所述慢SQL日志进行去重处理，得到对应的第一慢SQL日志；然后基于预设的目标SQL日志格式对所述第一慢SQL日志进行格式转化处理，得到对应的第二慢SQL日志；后续基于所述服务地址，将所述第二慢SQL日志写入所述本地文件系统。本申请通过对所述慢SQL日志进行去重处理与格式转化处理得到对应的第二慢SQL日志，后续再将所述第二慢SQL日志写入所述本地文件系统，可以有效地保证得到的第二慢SQL日志的数据准确性。
在一些可选的实现方式中，步骤S205包括以下步骤：
调用预设的规则解析程序。
在本实施例中，上述规则解析程序具体可采用RuleResolver规则解析程序。
通过所述规则解析程序，将所述目标指标解析为满足所述日志分析工具的语法的可执行Shell脚本。
在本实施例中，通过基于所述规则解析程序的使用，将规则编辑程序生成与所述指标配置信息对应的目标指标通过慢日志分析工具的命令库，解析成满足所述日志分析工具的语法的可执行Shell脚本。其中，上述日志分析工具可采用Mysqlsla，上述所述日志分析工具的语法是指Mysqlsla语法。示例性的，生成的可执行Shell脚本可为统计执行时间Top1脚本(mysqlsla–ltslow–top1/source/mysql_slow.log>/target/report.log)。
将所述可执行Shell脚本作为所述命令脚本。
本申请通过调用预设的规则解析程序；然后通过所述规则解析程序，将所述目标指标解析为满足所述日志分析工具的语法的可执行Shell脚本；后续将所述可执行Shell脚本作为所述命令脚本。本申请基于规则解析程序的使用，可以快速准确地将由编辑程序生成的与指标配置信息对应的目标指标解析为满足所述日志分析工具的语法的可执行Shell脚本，即命令脚本，从而有效地提高了命令脚本的生成效率，有利于后续基于命令脚本的使用来实现对于本地文件系统中的所述慢SQL日志的指标分析统计处理，进而筛选出符合所述目标指标的目标慢SQL日志。
在一些可选的实现方式中，步骤S206包括以下步骤：
获取预设的定时处理机制。
在本实施例中，上述定时处理机制为预先构建的按照预设的处理时间进行定时执行的机制，对于上述处理时间的选取不做具体限定，可根据实际的业务处理需求进行设置。
获取当前时间。
在本实施例中，可通过进行时间查询处理，以获取到当前时间。
在所述当前时间符合所述定时处理机制时，通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
在本实施例中，如果当前时间到达所述定时处理机制中包含的处理时间，则执行通过所述慢日志分析工具执行所述命令脚本的处理，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
本申请通过获取预设的定时处理机制；然后获取当前时间；后续在所述当前时间符合所述定时处理机制时，通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。本申请通过按照预设的定时处理机制，可实现智能地执行通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志的处理，有效地提高了通过所述慢日志分析工具对慢SQL日志进行分析统计处理的处理规范性与处理智能性。
在本实施例的一些可选的实现方式中，在步骤S206之后，上述电子设备还可以执行以下步骤：
确定与所述目标慢SQL日志对应的目标可视化工具。
在本实施例中，上述目标可视化工具可包括Kibana或Grafana。其中，Kibana是开源日志分析平台ELK Stack中的“K”，它为用户提供了一个工具，用于在存储在Elasticsearch集群中的日志数据之上探索、可视化和构建仪表板。Kibana的核心功能是数据查询和分析。使用各种方法，用户可以在Elasticsearch索引的数据中搜索其数据中的特定事件或字符串，以进行根本原因分析和诊断。基于这些查询，用户可以使用Kibana的可视化功能，该功能允许用户以各种不同的方式可视化数据，使用图表、表格、地理地图和其他类型的可视化。另外，Grafana是一个开源(FOSS/OSS)可视化工具，可用于各种不同的数据存储。Grafana是Graphite-web的功能丰富的替代品，可帮助用户轻松创建和编辑仪表板。它包含一个独特的Graphite目标解析器，可以轻松进行度量和函数编辑。由于Grafana使用Flot作为默认选项的快速客户端渲染(即使在很长的时间范围内)，用户可以使用智能轴格式(例如线和点)创建综合图表。
使用所述目标可视化工具对所述目标慢SQL日志进行展示处理。
在本实施例中，可通过将所述目标慢SQL日志传输至所述目标可视化工具中进行展示。
本申请通过确定与所述目标慢SQL日志对应的目标可视化工具；后续使用所述目标可视化工具对所述目标慢SQL日志进行展示处理。本申请在基于慢日志分析工具执行所述命令脚本以生成符合所述目标指标的目标慢SQL日志后，还会智能地使用与所述目标慢SQL日志对应的目标可视化工具对所述目标慢SQL日志进行展示处理，以使得相关用户能够方便快捷地通过目标可视化工具查阅到目标慢SQL日志，并能对目标慢SQL日志进行相应的后续处理，提高了相关用户的使用体验。
在本实施例的一些可选的实现方式中，在步骤S206之后，上述电子设备还可以执行以下步骤：
获取目标用户的通讯方式。
在本实施例中，上述目标用户可为日志维护用户，上述通讯方式包括电话号码或邮件地址。
基于所述目标慢SQL日志生成对应的告警日志信息。
在本实施例中，可通过将所述目标慢SQL日志填充至预设的信息模板内，以生成相应的告警日志信息。其中，上述信息模板为根据实际的告警业务需求构建的。
基于所述通讯方式，将所述告警日志信息发送给所述目标用户。
在本实施例中，可基于所述通讯方式，将所述告警日志信息发送给所述目标用户对应的通讯终端。
本申请通过获取目标用户的通讯方式；然后基于所述目标慢SQL日志生成对应的告警日志信息；后续基于所述通讯方式，将所述告警日志信息发送给所述目标用户。本申请在基于慢日志分析工具执行所述命令脚本以生成符合所述目标指标的目标慢SQL日志后，还会智能地基于所述目标慢SQL日志生成对应的告警日志信息，并基于目标用户的通讯方式，将所述告警日志信息发送给所述目标用户，以使得目标用户能够方便快捷地通过告警日志信息查阅到目标慢SQL日志，并能对目标慢SQL日志进行相应的后续处理，提高了目标用户的工作体验。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
需要强调的是，为进一步保证上述目标慢SQL日志的私密和安全性，上述目标慢SQL日志还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。
应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种日志处理装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图3所示，本实施例所述的日志处理装置300包括：拉取模块301、第一获取模块302、第一生成模块303、调用模块304、解析模块305以及处理模块306。其中：
拉取模块301，用于从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；
第一获取模块302，用于获取预输入的与所述慢SQL日志对应的指标配置信息；
第一生成模块303，用于基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；
调用模块304，用于调用预设的慢日志分析工具；
解析模块305，用于将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；
处理模块306，用于通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，拉取模块301包括：
第一调用子模块，用于调用预设的日志加载程序；
第一获取子模块，用于获取所述日志服务器的服务地址；
拉取子模块，用于基于所述服务地址，使用所述日志加载程序从所述日志服务器中拉取所述慢SQL日志；
写入子模块，用于将所述慢SQL日志写入所述本地文件系统。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中,写入子模块包括：
第一处理单元，用于对所述慢SQL日志进行去重处理，得到对应的第一慢SQL日志；
第二处理单元，用于基于预设的目标SQL日志格式对所述第一慢SQL日志进行格式转化处理，得到对应的第二慢SQL日志；
写入单元，用于基于所述服务地址，将所述第二慢SQL日志写入所述本地文件系统。
本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，解析模块305包括：
第二调用子模块，用于调用预设的规则解析程序；
解析子模块，用于通过所述规则解析程序，将所述目标指标解析为满足所述日志分析工具的语法的可执行Shell脚本；
确定子模块，用于将所述可执行Shell脚本作为所述命令脚本。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，处理模块306包括：
第二获取子模块，用于获取预设的定时处理机制；
第三获取子模块，用于获取当前时间；
分析子模块，用于在所述当前时间符合所述定时处理机制时，通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，日志处理装置还包括：
确定模块，用于确定与所述目标慢SQL日志对应的目标可视化工具；
展示模块，用于使用所述目标可视化工具对所述目标慢SQL日志进行展示处理。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
在本实施例的一些可选的实现方式中，日志处理装置还包括：
第二获取模块，用于获取目标用户的通讯方式；
第二生成模块，用于基于所述目标慢SQL日志生成对应的告警日志信息；
发送模块，用于基于所述通讯方式，将所述告警日志信息发送给所述目标用户。
在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的日志处理方法的步骤一一对应，在此不再赘述。
为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。
所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如日志处理方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述日志处理方法的计算机可读指令。
所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请实施例中，首先从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；然后获取预输入的与所述慢SQL日志对应的指标配置信息；之后基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；后续调用预设的慢日志分析工具；进一步将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；最后通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。本申请实施例通过自动从日志服务器中拉取慢SQL日志，进而根据预设的规则编辑程序生成慢SQL日志对应的指标配置信息对应的目标指标，并将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本，进而通过使用慢日志分析工具执行所述命令脚本，以实现自动快速地对所述本地文件系统中的所述慢SQL日志进行分析统计处理，从而生成符合所述目标指标的目标慢SQL日志，提高了对于慢SQL日志的分析统计效率，保证了生成的分析统计结果的准确性。
本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的日志处理方法的步骤。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请实施例中，首先从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；然后获取预输入的与所述慢SQL日志对应的指标配置信息；之后基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；后续调用预设的慢日志分析工具；进一步将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；最后通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。本申请实施例通过自动从日志服务器中拉取慢SQL日志，进而根据预设的规则编辑程序生成慢SQL日志对应的指标配置信息对应的目标指标，并将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本，进而通过使用慢日志分析工具执行所述命令脚本，以实现自动快速地对所述本地文件系统中的所述慢SQL日志进行分析统计处理，从而生成符合所述目标指标的目标慢SQL日志，提高了对于慢SQL日志的分析统计效率，保证了生成的分析统计结果的准确性。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。
显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。
Claims (10)
1.一种日志处理方法，其特征在于，包括下述步骤：
从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；
获取预输入的与所述慢SQL日志对应的指标配置信息；
基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；
调用预设的慢日志分析工具；
将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；
通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
2.根据权利要求1所述的日志处理方法，其特征在于，所述从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统的步骤，具体包括：
调用预设的日志加载程序；
获取所述日志服务器的服务地址；
基于所述服务地址，使用所述日志加载程序从所述日志服务器中拉取所述慢SQL日志；
将所述慢SQL日志写入所述本地文件系统。
3.根据权利要求2所述的日志处理方法，其特征在于，所述将所述慢SQL日志写入所述本地文件系统的步骤，具体包括：
对所述慢SQL日志进行去重处理，得到对应的第一慢SQL日志；
基于预设的目标SQL日志格式对所述第一慢SQL日志进行格式转化处理，得到对应的第二慢SQL日志；
基于所述服务地址，将所述第二慢SQL日志写入所述本地文件系统。
4.根据权利要求1所述的日志处理方法，其特征在于，所述将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本的步骤，具体包括：
调用预设的规则解析程序；
通过所述规则解析程序，将所述目标指标解析为满足所述日志分析工具的语法的可执行Shell脚本；
将所述可执行Shell脚本作为所述命令脚本。
5.根据权利要求1所述的日志处理方法，其特征在于，所述通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志的步骤，具体包括：
获取预设的定时处理机制；
获取当前时间；
在所述当前时间符合所述定时处理机制时，通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
6.根据权利要求1所述的日志处理方法，其特征在于，在所述通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志的步骤之后，还包括：
确定与所述目标慢SQL日志对应的目标可视化工具；
使用所述目标可视化工具对所述目标慢SQL日志进行展示处理。
7.根据权利要求1所述的日志处理方法，其特征在于，在所述通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志的步骤之后，还包括：
获取目标用户的通讯方式；
基于所述目标慢SQL日志生成对应的告警日志信息；
基于所述通讯方式，将所述告警日志信息发送给所述目标用户。
8.一种日志处理装置，其特征在于，包括：
拉取模块，用于从预设的日志服务器中拉取慢SQL日志，并将所述慢SQL日志写入本地文件系统；
第一获取模块，用于获取预输入的与所述慢SQL日志对应的指标配置信息；
第一生成模块，用于基于预设的规则编辑程序生成与所述指标配置信息对应的目标指标；
调用模块，用于调用预设的慢日志分析工具；
解析模块，用于将所述目标指标解析为满足所述慢日志分析工具的语法的命令脚本；
处理模块，用于通过所述慢日志分析工具执行所述命令脚本，以对所述本地文件系统中的所述慢SQL日志进行分析统计处理，生成符合所述目标指标的目标慢SQL日志。
9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的日志处理方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的日志处理方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410024900.3A CN117785832A (zh) | 2024-01-03 | 2024-01-03 | 日志处理方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410024900.3A CN117785832A (zh) | 2024-01-03 | 2024-01-03 | 日志处理方法、装置、计算机设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN117785832A true CN117785832A (zh) | 2024-03-29 |
Family
ID=90385053
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410024900.3A Pending CN117785832A (zh) | 2024-01-03 | 2024-01-03 | 日志处理方法、装置、计算机设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117785832A (zh) |
-
2024
- 2024-01-03 CN CN202410024900.3A patent/CN117785832A/zh active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112507027B (zh) | 基于Kafka的增量数据同步方法、装置、设备及介质 | |
| CN113282611B (zh) | 一种流数据同步的方法、装置、计算机设备及存储介质 | |
| CN113010542B (zh) | 业务数据处理方法、装置、计算机设备及存储介质 | |
| CN113836235B (zh) | 基于数据中台的数据处理方法及其相关设备 | |
| CN112182004B (zh) | 实时查看数据方法、装置、计算机设备及存储介质 | |
| CN110019116A (zh) | 数据追溯方法、装置、数据处理设备及计算机存储介质 | |
| CN117873486A (zh) | 一种前后端代码自动生成方法、装置、设备及存储介质 | |
| CN110348669B (zh) | 智能规则生成方法、装置、计算机设备及存储介质 | |
| CN115941712B (zh) | 报送数据的处理方法、装置、计算机设备及存储介质 | |
| CN116028446A (zh) | 时序数据文件化管理方法、装置、设备及其存储介质 | |
| CN116821493A (zh) | 消息推送方法、装置、计算机设备及存储介质 | |
| CN117785832A (zh) | 日志处理方法、装置、计算机设备及存储介质 | |
| CN111221817B (zh) | 业务信息数据存储方法、装置、计算机设备及存储介质 | |
| CN113590372A (zh) | 基于日志的链路追踪方法、装置、计算机设备及存储介质 | |
| CN114328214B (zh) | 报表软件的接口测试用例的提效方法、装置、计算机设备 | |
| CN116795882A (zh) | 数据获取方法、装置、计算机设备及存储介质 | |
| CN116842011A (zh) | 血缘关系分析方法、装置、计算机设备及存储介质 | |
| CN116820443A (zh) | 数据分析方法、装置、计算机设备及存储介质 | |
| CN117390230A (zh) | 数据存储方法、装置、计算机设备及存储介质 | |
| CN116611936A (zh) | 数据分析方法、装置、计算机设备及存储介质 | |
| CN116932486A (zh) | 文件生成方法、装置、计算机设备及存储介质 | |
| CN116842050A (zh) | 多维度状态数据处理方法、装置、计算机设备及存储介质 | |
| CN116360796A (zh) | sql脚本的优化方法、装置、计算机设备及存储介质 | |
| CN116775738A (zh) | 数据处理方法、装置、计算机设备及可读存储介质 | |
| CN116450724A (zh) | 数据处理方法、装置、计算机设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |