CN112306817B - 一种基于大数据的运行监控分析系统及方法 - Google Patents
一种基于大数据的运行监控分析系统及方法 Download PDFInfo
- Publication number
- CN112306817B CN112306817B CN202011309992.8A CN202011309992A CN112306817B CN 112306817 B CN112306817 B CN 112306817B CN 202011309992 A CN202011309992 A CN 202011309992A CN 112306817 B CN112306817 B CN 112306817B
- Authority
- CN
- China
- Prior art keywords
- log file
- level
- module
- identification
- storage node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/172—Caching, prefetching or hoarding of files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/174—Redundancy elimination performed by the file system
- G06F16/1744—Redundancy elimination performed by the file system using compression, e.g. sparse files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
- G06F16/1815—Journaling file systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Quality & Reliability (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种基于大数据的运行监控分析系统及方法,所述监控分析系统包括分类模块、一级级别标识添加模块、二级级别标识添加模块和级别标识识别模块,所述分类模块预先给各个监控对象分为一级监控对象和二级监控对象,所述一级级别标识添加模块用于一级监控对象运行产生日志文件时,给相应的日志文件添加一级级别标识,所述二级级别标识添加模块用于在二级监控对象运行产生日志文件时,给相应的日志文件添加二级级别标识,所述级别标识识别模块用于识别监控对象运行产生日志文件上的级别标识,根据日志文件上不同的级别标识确定日志文件的存储方式。
Description
技术领域
本发明涉及大数据技术领域,具体为一种基于大数据的运行监控分析系统及方法。
背景技术
日志文件是用于记录系统操作事件的记录文件或文件集合,可分为事件日志和消息日志。具有处理历史数据、诊断问题的追踪以及理解系统的活动等重要作用。事件日志记录在系统的执行中发生的事件,以便提供可用于理解系统的活动和诊断问题的跟踪,它们对理解复杂系统的活动至关重要,特别是在用户交互较少的应用程序中。互联网中继聊天,即时消息程序,具有聊天功能的对等文件共享客户端和多人游戏通常具有自动记录文本通信的能力,自动记录得到的文本文件就是消息日志。现有技术中,日志文件占用了太多的存储空间。
发明内容
本发明的目的在于提供一种基于大数据的运行监控分析系统及方法,以解决上述背景技术中提出的问题。
为了解决上述技术问题,本发明提供如下技术方案:一种基于大数据的运行监控分析系统,所述监控分析系统包括分类模块、一级级别标识添加模块、二级级别标识添加模块和级别标识识别模块,所述分类模块预先给各个监控对象分为一级监控对象和二级监控对象,所述一级级别标识添加模块用于一级监控对象运行产生日志文件时,给相应的日志文件添加一级级别标识,所述二级级别标识添加模块用于在二级监控对象运行产生日志文件时,给相应的日志文件添加二级级别标识,所述级别标识识别模块用于识别监控对象运行产生日志文件上的级别标识,根据日志文件上不同的级别标识确定日志文件的存储方式。
进一步的,所述级别标识识别模块包括识别信息传输模块、一级处理模块和二级处理模块,所述识别信息传输模块在识别日志文件上的级别标识为一级级别标识时传输信息令一级处理模块工作,在识别日志文件上的级别标识为二级级别标识时传输信息令二级处理模块工作,所述一级处理模块包括一级异常判断模块、一级无异常处理模块和一级异常处理模块,所述一级异常判断模块用于判断级别标识为一级级别标识的日志文件是否异常,并在不存在异常时,令一级无异常处理模块工作,在存在异常时,令一级异常处理模块工作;所述二级出来模块包括二级异常判断模块、二级无异常处理模块和二级异常处理模块,所述二级异常判断模块用于判断级别标识为二级级别标识的日志文件是否异常,并在不存在异常时,令二级无异常处理模块工作,在存在异常时,令二级异常处理模块工作。
进一步的,所述一级无异常处理模块包括第一缓冲存储模块、占用内存获取模块、占用内存比较模块和第一打包压缩发送模块,所述第一缓冲存储模块在判断该具有一级级别标识的日志文件不存在异常时将该日志文件存储到缓冲存储节点,所述占用内存获取模块用于获取缓冲存储节点已存入某监控对象日志文件的占用内存,所述占用内存比较模块在比较出已存入某监控对象日志文件的占用内存大于等于内存阈值时,获取缓冲存储节点该监控对象各个日志文件的存入时间以及当前该监控对象所存储日志文件的最早存入时间,所述第一打包压缩发送模块用于将存入时间与最早存入时间的时间间隔大于等于第二时间间隔阈值的日志文件以及最早存入的日志文件一起打包压缩发送至正式存储节点;所述一级异常处理模块包括第一正式存储模块、第一打包压缩存储关联模块、紧急标识添加模块和紧急标识后续处理模块,所述第一正式存储模块在具有一级级别标识的日志文件上存在异常时将该日志文件作为第一异常日志文件,并将第一异常日志文件存储到正式存储节点,并传输信息令第一打包压缩存储关联模块获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第一异常日志文件相关联,并令紧急标识添加模块获取产生第一异常日志文件的相应的一级监控对象,将其在有效时间长度内产生的日志文件添加紧急标识,其中,当日志文件上添加有紧急标识时,将该日志文件直接存储到正式存储节点,所述紧急标识后续处理模块用于获取正式存储节点带有紧急标识的日志文件的最晚存储时间,如果当前时间与最晚存入的时间间隔大于等于第一时间阈值,将正式存储节点内未被打包压缩且带有紧急标识的日志文件打包压缩,并将打包压缩后的文件与其相应的第一异常日志文件相关联,其中,当紧急标识到达有效时间长度时,取消在该一级监控对象产生的日志文件上添加紧急标识。
进一步的,所述二级无异常处理模块包括第二缓冲存储模块和删除判断模块,所述第二缓冲存储模块在判断该具有二级级别标识的日志文件不存在异常时将该日志文件存储到缓冲存储节点,所述删除判断模块获取各个具有二级级别标识的日志文件的存入时间与当前时间的时间间隔,如果时间间隔大于等于第一时间间隔阈值,将该日志文件从缓冲存储节点中删除,所述二级异常处理模块包括第二正式存储模块、第二打包压缩存储关联模块、限制标识添加模块和限制标识修改模块,所述第二正式存储模块在具有二级级别标识的日志文件上存在异常时将该日志文件作为第二异常日志文件,并将第二异常日志文件存储到正式存储节点,并传输信息令第二打包压缩存储关联模块获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第二异常日志文件相关联,所述限制标识添加模块用于获取产生第二异常日志文件的相应的二级监控对象,将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识,所述限制标识修改模块在二级监控对象产生的日志文件的带有一级级别标识的实际时长大于等于有效时长时,删除日志文件上的带有有效时长的紧急标识,并将带有有效时长的一级级别标识修改为二级级别标识。
一种基于大数据的运行监控分析方法,所述监控分析方法包括以下步骤:
预先给各个监控对象分类,所述监控对象分类包括一级监控对象和二级监控对象,当一级监控对象运行产生日志文件时,给该日志文件添加一级级别标识,当二级监控对象运行产生日志文件时,给该日志文件添加二级级别标识,
识别监控对象运行产生日志文件上的级别标识,根据日志文件上不同的级别标识确定日志文件的存储方式。
进一步的,所述根据日志文件上不同的级别标识确定日志文件的存储方式包括:
如果识别日志文件上的级别标识为一级级别标识,判断该日志文件是否存在异常,
如果该日志文件不存在异常,先将该日志文件存储到缓冲存储节点,再将其存入正式存储节点;
如果该日志文件上存在异常,则该日志文件为第一异常日志文件,立即将第一异常日志文件存储到正式存储节点,同时获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第一异常日志文件相关联,并且获取产生第一异常日志文件的相应的一级监控对象,将其在有效时间长度内产生的日志文件添加紧急标识,其中,当日志文件上添加有紧急标识时,将该日志文件直接存储到正式存储节点。
进一步的,所述将其在有效时间长度内产生的日志文件添加紧急标识后还包括:
获取正式存储节点带有紧急标识的日志文件的最晚存储时间,如果当前时间与最晚存入的时间间隔大于等于第一时间阈值,将正式存储节点内未被打包压缩且带有紧急标识的日志文件打包压缩,并将打包压缩后的文件与其相应的第一异常日志文件相关联,其中,当紧急标识到达有效时间长度时,取消在该一级监控对象产生的日志文件上添加紧急标识。
进一步的,所述先将该日志文件存储到缓冲存储节点,当再将其存入正式存储节点包括:
获取缓冲存储节点已存入某监控对象日志文件的占用内存,如果已存入某监控对象日志文件的占用内存大于等于内存阈值,获取缓冲存储节点该监控对象各个日志文件的存入时间以及当前该监控对象所存储日志文件的最早存入时间,将存入时间与最早存入时间的时间间隔大于等于第二时间间隔阈值的日志文件以及最早存入的日志文件一起打包压缩发送至正式存储节点。
进一步的,所述根据日志文件上不同的级别标识确定日志文件的存储方式还包括:
如果识别日志文件上的级别标识为二级级别标识,判断该日志文件是否存在异常,如果该日志文件不存在异常,将该日志文件存储到缓冲存储节点,获取各个日志文件的存入时间与当前时间的时间间隔,如果时间间隔大于等于第一时间间隔阈值,将该日志文件从缓冲存储节点中删除;
如果该日志文件存在异常,则该日志文件为第二异常日志文件,直接将第二异常日志文件存储到正式存储节点,获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第二异常日志文件相关联,获取产生第二异常日志文件的相应的二级监控对象,将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识。
进一步的,所述将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识后还包括:当二级监控对象产生的日志文件的带有一级级别标识的实际时长大于等于有效时长,删除日志文件上的带有有效时长的紧急标识,并将带有有效时长的一级级别标识修改为二级级别标识。
与现有技术相比,本发明所达到的有益效果是:本发明预先给各个监控对象分类,针对不同的监控对象采取的日志存储方式,从而达到减小占用存储空间的目的。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1是本发明一种基于大数据的运行监控分析系统的模块示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1,本发明提供技术方案:一种基于大数据的运行监控分析系统,所述监控分析系统包括分类模块、一级级别标识添加模块、二级级别标识添加模块和级别标识识别模块,所述分类模块预先给各个监控对象分为一级监控对象和二级监控对象,所述一级级别标识添加模块用于一级监控对象运行产生日志文件时,给相应的日志文件添加一级级别标识,所述二级级别标识添加模块用于在二级监控对象运行产生日志文件时,给相应的日志文件添加二级级别标识,所述级别标识识别模块用于识别监控对象运行产生日志文件上的级别标识,根据日志文件上不同的级别标识确定日志文件的存储方式。
所述级别标识识别模块包括识别信息传输模块、一级处理模块和二级处理模块,所述识别信息传输模块在识别日志文件上的级别标识为一级级别标识时传输信息令一级处理模块工作,在识别日志文件上的级别标识为二级级别标识时传输信息令二级处理模块工作,所述一级处理模块包括一级异常判断模块、一级无异常处理模块和一级异常处理模块,所述一级异常判断模块用于判断级别标识为一级级别标识的日志文件是否异常,并在不存在异常时,令一级无异常处理模块工作,在存在异常时,令一级异常处理模块工作;所述二级出来模块包括二级异常判断模块、二级无异常处理模块和二级异常处理模块,所述二级异常判断模块用于判断级别标识为二级级别标识的日志文件是否异常,并在不存在异常时,令二级无异常处理模块工作,在存在异常时,令二级异常处理模块工作。
所述一级无异常处理模块包括第一缓冲存储模块、占用内存获取模块、占用内存比较模块和第一打包压缩发送模块,所述第一缓冲存储模块在判断该具有一级级别标识的日志文件不存在异常时将该日志文件存储到缓冲存储节点,所述占用内存获取模块用于获取缓冲存储节点已存入某监控对象日志文件的占用内存,所述占用内存比较模块在比较出已存入某监控对象日志文件的占用内存大于等于内存阈值时,获取缓冲存储节点该监控对象各个日志文件的存入时间以及当前该监控对象所存储日志文件的最早存入时间,所述第一打包压缩发送模块用于将存入时间与最早存入时间的时间间隔大于等于第二时间间隔阈值的日志文件以及最早存入的日志文件一起打包压缩发送至正式存储节点;所述一级异常处理模块包括第一正式存储模块、第一打包压缩存储关联模块、紧急标识添加模块和紧急标识后续处理模块,所述第一正式存储模块在具有一级级别标识的日志文件上存在异常时将该日志文件作为第一异常日志文件,并将第一异常日志文件存储到正式存储节点,并传输信息令第一打包压缩存储关联模块获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第一异常日志文件相关联,并令紧急标识添加模块获取产生第一异常日志文件的相应的一级监控对象,将其在有效时间长度内产生的日志文件添加紧急标识,其中,当日志文件上添加有紧急标识时,将该日志文件直接存储到正式存储节点,所述紧急标识后续处理模块用于获取正式存储节点带有紧急标识的日志文件的最晚存储时间,如果当前时间与最晚存入的时间间隔大于等于第一时间阈值,将正式存储节点内未被打包压缩且带有紧急标识的日志文件打包压缩,并将打包压缩后的文件与其相应的第一异常日志文件相关联,其中,当紧急标识到达有效时间长度时,取消在该一级监控对象产生的日志文件上添加紧急标识。
所述二级无异常处理模块包括第二缓冲存储模块和删除判断模块,所述第二缓冲存储模块在判断该具有二级级别标识的日志文件不存在异常时将该日志文件存储到缓冲存储节点,所述删除判断模块获取各个具有二级级别标识的日志文件的存入时间与当前时间的时间间隔,如果时间间隔大于等于第一时间间隔阈值,将该日志文件从缓冲存储节点中删除,所述二级异常处理模块包括第二正式存储模块、第二打包压缩存储关联模块、限制标识添加模块和限制标识修改模块,所述第二正式存储模块在具有二级级别标识的日志文件上存在异常时将该日志文件作为第二异常日志文件,并将第二异常日志文件存储到正式存储节点,并传输信息令第二打包压缩存储关联模块获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第二异常日志文件相关联,所述限制标识添加模块用于获取产生第二异常日志文件的相应的二级监控对象,将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识,所述限制标识修改模块在二级监控对象产生的日志文件的带有一级级别标识的实际时长大于等于有效时长时,删除日志文件上的带有有效时长的紧急标识,并将带有有效时长的一级级别标识修改为二级级别标识。
一种基于大数据的运行监控分析方法,所述监控分析方法包括以下步骤:
预先给各个监控对象分类,所述监控对象分类包括一级监控对象和二级监控对象,当一级监控对象运行产生日志文件时,给该日志文件添加一级级别标识,当二级监控对象运行产生日志文件时,给该日志文件添加二级级别标识;在分类时,可以根据监控对象的使用频率进行分类,使用频率大于等于频率阈值时为一级监控对象,使用频率小于频率阈值时为二级监控对象;或者也可以根据监控对象的重要程度进行分类,重要程度大于等于重要程度阈值时为一级监控对象,重要程度小于重要程度阈值时为二级监控对象;
识别监控对象运行产生日志文件上的级别标识,根据日志文件上不同的级别标识确定日志文件的存储方式:
如果识别日志文件上的级别标识为一级级别标识,判断该日志文件是否存在异常,
如果该日志文件不存在异常,先将该日志文件存储到缓冲存储节点,再将其存入正式存储节点;在缓冲存储节点和正式存储节点中,每个监控对象都分配一个独立的日志文件存储空间,当存储某个监控对象的日志文件时,日志文件存入缓冲存储节点或者正式存储节点相应的监控对象的日志文件存储空间,以下在对日志文件进行处理时,所指的是同一个监控对象的日志文件;
获取缓冲存储节点已存入某监控对象日志文件的占用内存,如果已存入某监控对象日志文件的占用内存大于等于内存阈值,获取缓冲存储节点该监控对象各个日志文件的存入时间以及当前该监控对象所存储日志文件的最早存入时间,将存入时间与最早存入时间的时间间隔大于等于第二时间间隔阈值的日志文件以及最早存入的日志文件一起打包压缩发送至正式存储节点;
如果该日志文件上存在异常,则该日志文件为第一异常日志文件,立即将第一异常日志文件存储到正式存储节点,同时获取缓冲存储节点内相应监控对象在最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点内相应监控对象的存储空间后与第一异常日志文件相关联,并且获取产生第一异常日志文件的相应的一级监控对象,将其在有效时间长度内产生的日志文件添加紧急标识,其中,当日志文件上添加有紧急标识时,将该日志文件直接存储到正式存储节点;
所述将其在有效时间长度内产生的日志文件添加紧急标识后还包括:
获取正式存储节点带有紧急标识的日志文件的最晚存储时间,如果当前时间与最晚存入的时间间隔大于等于第一时间阈值,将正式存储节点内相应监控对象的未被打包压缩且带有紧急标识的日志文件打包压缩,并将打包压缩后的文件与其相应的第一异常日志文件相关联,其中,当紧急标识到达有效时间长度时,取消在该一级监控对象产生的日志文件上添加紧急标识;将异常日志文件的前后文件打包压缩后与异常日志文件相绑定,不仅能减少占用存储空间,而且便于后续对异常情况进行追溯;
如果识别日志文件上的级别标识为二级级别标识,判断该日志文件是否存在异常,如果该日志文件不存在异常,将该日志文件存储到缓冲存储节点,获取各个日志文件的存入时间与当前时间的时间间隔,如果时间间隔大于等于第一时间间隔阈值,将该日志文件从缓冲存储节点中删除;
如果该日志文件存在异常,则该日志文件为第二异常日志文件,直接将第二异常日志文件存储到正式存储节点,获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第二异常日志文件相关联,获取产生第二异常日志文件的相应的二级监控对象,将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识,一级级别标识和紧急标识的有效时长相等,当二级监控对象产生的日志文件上带有一级级别标识和紧急标识时,直接将日志文件按照一级监控对象产生带有紧急标识的的日志文件来处理,当超过有效时长时,二级监控对象产生的文件继续按照原来日志文件的处理方式来处理;
所述将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识后还包括:当二级监控对象产生的日志文件的带有一级级别标识的实际时长大于等于有效时长,删除日志文件上的带有有效时长的紧急标识,并将带有有效时长的一级级别标识修改为二级级别标识。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (1)
1.一种基于大数据的运行监控分析系统,其特征在于:所述监控分析系统包括分类模块、一级级别标识添加模块、二级级别标识添加模块和级别标识识别模块,所述分类模块预先给各个监控对象分为一级监控对象和二级监控对象,所述一级级别标识添加模块用于一级监控对象运行产生日志文件时,给相应的日志文件添加一级级别标识,所述二级级别标识添加模块用于在二级监控对象运行产生日志文件时,给相应的日志文件添加二级级别标识,所述级别标识识别模块用于识别监控对象运行产生日志文件上的级别标识,根据日志文件上不同的级别标识确定日志文件的存储方式;
所述级别标识识别模块包括识别信息传输模块、一级处理模块和二级处理模块,所述识别信息传输模块在识别日志文件上的级别标识为一级级别标识时传输信息令一级处理模块工作,在识别日志文件上的级别标识为二级级别标识时传输信息令二级处理模块工作,所述一级处理模块包括一级异常判断模块、一级无异常处理模块和一级异常处理模块,所述一级异常判断模块用于判断级别标识为一级级别标识的日志文件是否异常,并在不存在异常时,令一级无异常处理模块工作,在存在异常时,令一级异常处理模块工作;所述二级处理 模块包括二级异常判断模块、二级无异常处理模块和二级异常处理模块,所述二级异常判断模块用于判断级别标识为二级级别标识的日志文件是否异常,并在不存在异常时,令二级无异常处理模块工作,在存在异常时,令二级异常处理模块工作;
所述一级无异常处理模块包括第一缓冲存储模块、占用内存获取模块、占用内存比较模块和第一打包压缩发送模块,所述第一缓冲存储模块在判断该具有一级级别标识的日志文件不存在异常时将该日志文件存储到缓冲存储节点,所述占用内存获取模块用于获取缓冲存储节点已存入某监控对象日志文件的占用内存,所述占用内存比较模块在比较出已存入某监控对象日志文件的占用内存大于等于内存阈值时,获取缓冲存储节点该监控对象各个日志文件的存入时间以及当前该监控对象所存储日志文件的最早存入时间,所述第一打包压缩发送模块用于将存入时间与最早存入时间的时间间隔大于等于第二时间间隔阈值的日志文件以及最早存入的日志文件一起打包压缩发送至正式存储节点;所述一级异常处理模块包括第一正式存储模块、第一打包压缩存储关联模块、紧急标识添加模块和紧急标识后续处理模块,所述第一正式存储模块在具有一级级别标识的日志文件上存在异常时将该日志文件作为第一异常日志文件,并将第一异常日志文件存储到正式存储节点,并传输信息令第一打包压缩存储关联模块获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第一异常日志文件相关联,并令紧急标识添加模块获取产生第一异常日志文件的相应的一级监控对象,将其在有效时间长度内产生的日志文件添加紧急标识,其中,当日志文件上添加有紧急标识时,将该日志文件直接存储到正式存储节点,所述紧急标识后续处理模块用于获取正式存储节点带有紧急标识的日志文件的最晚存储时间,如果当前时间与最晚存入的时间间隔大于等于第一时间阈值,将正式存储节点内未被打包压缩且带有紧急标识的日志文件打包压缩,并将打包压缩后的文件与其相应的第一异常日志文件相关联,其中,当紧急标识到达有效时间长度时,取消在该一级监控对象产生的日志文件上添加紧急标识;
所述二级无异常处理模块包括第二缓冲存储模块和删除判断模块,所述第二缓冲存储模块在判断该具有二级级别标识的日志文件不存在异常时将该日志文件存储到缓冲存储节点,所述删除判断模块获取各个具有二级级别标识的日志文件的存入时间与当前时间的时间间隔,如果时间间隔大于等于第一时间间隔阈值,将该日志文件从缓冲存储节点中删除,所述二级异常处理模块包括第二正式存储模块、第二打包压缩存储关联模块、限制标识添加模块和限制标识修改模块,所述第二正式存储模块在具有二级级别标识的日志文件上存在异常时将该日志文件作为第二异常日志文件,并将第二异常日志文件存储到正式存储节点,并传输信息令第二打包压缩存储关联模块获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第二异常日志文件相关联,所述限制标识添加模块用于获取产生第二异常日志文件的相应的二级监控对象,将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识,所述限制标识修改模块在二级监控对象产生的日志文件的带有一级级别标识的实际时长大于等于有效时长时,删除日志文件上的带有有效时长的紧急标识,并将带有有效时长的一级级别标识修改为二级级别标识;
所述监控分析方法包括以下步骤:
预先给各个监控对象分类,所述监控对象分类包括一级监控对象和二级监控对象,当一级监控对象运行产生日志文件时,给该日志文件添加一级级别标识,当二级监控对象运行产生日志文件时,给该日志文件添加二级级别标识,
识别监控对象运行产生日志文件上的级别标识,根据日志文件上不同的级别标识确定日志文件的存储方式;
所述根据日志文件上不同的级别标识确定日志文件的存储方式包括:
如果识别日志文件上的级别标识为一级级别标识,判断该日志文件是否存在异常,
如果该日志文件不存在异常,先将该日志文件存储到缓冲存储节点,再将其存入正式存储节点;
如果该日志文件上存在异常,则该日志文件为第一异常日志文件,立即将第一异常日志文件存储到正式存储节点,同时获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第一异常日志文件相关联,并且获取产生第一异常日志文件的相应的一级监控对象,将其在有效时间长度内产生的日志文件添加紧急标识,其中,当日志文件上添加有紧急标识时,将该日志文件直接存储到正式存储节点;
所述将其在有效时间长度内产生的日志文件添加紧急标识后还包括:
获取正式存储节点带有紧急标识的日志文件的最晚存储时间,如果当前时间与最晚存入的时间间隔大于等于第一时间阈值,将正式存储节点内未被打包压缩且带有紧急标识的日志文件打包压缩,并将打包压缩后的文件与其相应的第一异常日志文件相关联,其中,当紧急标识到达有效时间长度时,取消在该一级监控对象产生的日志文件上添加紧急标识;
所述先将该日志文件存储到缓冲存储节点,当再将其存入正式存储节点包括获取缓冲存储节点已存入某监控对象日志文件的占用内存,如果已存入某监控对象日志文件的占用内存大于等于内存阈值,获取缓冲存储节点该监控对象各个日志文件的存入时间以及当前该监控对象所存储日志文件的最早存入时间,将存入时间与最早存入时间的时间间隔大于等于第二时间间隔阈值的日志文件以及最早存入的日志文件一起打包压缩发送至正式存储节点;
所述根据日志文件上不同的级别标识确定日志文件的存储方式还包括:
如果识别日志文件上的级别标识为二级级别标识,判断该日志文件是否存在异常,如果该日志文件不存在异常,将该日志文件存储到缓冲存储节点,获取各个日志文件的存入时间与当前时间的时间间隔,如果时间间隔大于等于第一时间间隔阈值,将该日志文件从缓冲存储节点中删除;
如果该日志文件存在异常,则该日志文件为第二异常日志文件,直接将第二异常日志文件存储到正式存储节点,获取缓冲存储节点内最近一段预设时长内的日志文件,将其打包压缩传输到正式存储节点后与第二异常日志文件相关联,获取产生第二异常日志文件的相应的二级监控对象,将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识;
所述将该二级监控对象产生的日志文件上的二级级别标识修改为带有有效时长的一级级别标识和带有有效时长的紧急标识后还包括:当二级监控对象产生的日志文件的带有一级级别标识的实际时长大于等于有效时长,删除日志文件上的带有有效时长的紧急标识,并将带有有效时长的一级级别标识修改为二级级别标识。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011309992.8A CN112306817B (zh) | 2020-11-20 | 2020-11-20 | 一种基于大数据的运行监控分析系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011309992.8A CN112306817B (zh) | 2020-11-20 | 2020-11-20 | 一种基于大数据的运行监控分析系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112306817A CN112306817A (zh) | 2021-02-02 |
CN112306817B true CN112306817B (zh) | 2021-07-16 |
Family
ID=74335926
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011309992.8A Active CN112306817B (zh) | 2020-11-20 | 2020-11-20 | 一种基于大数据的运行监控分析系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112306817B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113032173B (zh) * | 2021-03-11 | 2024-08-02 | 中国工商银行股份有限公司 | 基于应用日志分级的多路日志传输方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109818934A (zh) * | 2018-12-29 | 2019-05-28 | 深圳前海达闼云端智能科技有限公司 | 一种自动化日志处理的方法、装置及计算设备 |
CN111343018A (zh) * | 2020-02-22 | 2020-06-26 | 苏州浪潮智能科技有限公司 | 一种数据中心交换机告警日志采集的方法及装置 |
CN111367807A (zh) * | 2020-03-08 | 2020-07-03 | 苏州浪潮智能科技有限公司 | 一种日志分析的方法、系统、设备及介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130159127A1 (en) * | 2011-06-10 | 2013-06-20 | Lucas J. Myslinski | Method of and system for rating sources for fact checking |
CN105095281B (zh) * | 2014-05-13 | 2018-12-25 | 南京理工大学 | 一种基于日志挖掘的网站分类目录优化分析方法 |
CN106100913A (zh) * | 2016-08-25 | 2016-11-09 | 北京票之家科技有限公司 | 错误信息定位系统及方法 |
-
2020
- 2020-11-20 CN CN202011309992.8A patent/CN112306817B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109818934A (zh) * | 2018-12-29 | 2019-05-28 | 深圳前海达闼云端智能科技有限公司 | 一种自动化日志处理的方法、装置及计算设备 |
CN111343018A (zh) * | 2020-02-22 | 2020-06-26 | 苏州浪潮智能科技有限公司 | 一种数据中心交换机告警日志采集的方法及装置 |
CN111367807A (zh) * | 2020-03-08 | 2020-07-03 | 苏州浪潮智能科技有限公司 | 一种日志分析的方法、系统、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112306817A (zh) | 2021-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110519150B (zh) | 邮件检测方法、装置、设备、系统及计算机可读存储介质 | |
CN112306817B (zh) | 一种基于大数据的运行监控分析系统及方法 | |
CN113535518B (zh) | 一种用户行为的分布式实时动态监控方法及系统 | |
CN116233902B (zh) | 一种基于大数据的无线通信网络异常识别系统及方法 | |
CN102111400B (zh) | 一种木马检测方法、装置及系统 | |
CN112001443A (zh) | 网络行为数据的监控方法、装置、存储介质及电子设备 | |
CN112052227A (zh) | 数据变更日志的处理方法、装置和电子设备 | |
CN115562246A (zh) | 远程诊断方法以及相关设备 | |
CN115622867A (zh) | 一种工控系统安全事件预警分类方法及系统 | |
CN106789209A (zh) | 异常处理方法和装置 | |
CN117749535A (zh) | 一种网络流量异常检测方法及装置 | |
CN111818097B (zh) | 基于行为的流量监测方法及装置 | |
CN111651760A (zh) | 一种设备安全状态综合分析的方法及计算机可读存储介质 | |
CN103155486A (zh) | 机器人日志保存的方法、装置和系统 | |
CA2535282A1 (en) | A method and system for message thread compression | |
CN110825940A (zh) | 网络数据包存储和查询方法 | |
CN113821794B (zh) | 一种分布式的可信计算系统及方法 | |
CN115314288A (zh) | 一种基于区块链技术的数据溯源的系统和方法 | |
CN107453882B (zh) | 一种集群中告警信息聚合系统及方法 | |
CN113098898A (zh) | 一种业务数据监测预警平台及预警方法 | |
US20160234344A1 (en) | Message log removal apparatus and message log removal method | |
CN100556041C (zh) | 电子邮件异常特征处理系统和方法 | |
CN114186891B (zh) | 基于mes系统的过程质量巡检单自动生成方法 | |
CN113810386B (zh) | 一种从大数据中提取用于网络安全的训练数据方法和装置 | |
Peeroo et al. | Machine learning for performance prediction of data distribution service |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20210623 Address after: 33b, building 4, Dachong Business Center (phase III), Dachong community, Yuehai street, Nanshan District, Shenzhen, Guangdong 518000 Applicant after: Shenzhen gelonghui Information Technology Co., Ltd Address before: No. 517, ZIJINGHUA Road, Yuhuatai District, Nanjing City, Jiangsu Province, 210000 Applicant before: Zhang Jun |
|
GR01 | Patent grant | ||
GR01 | Patent grant |