CN114691634A - 一种应用于云资源完整性操作的审计日志系统 - Google Patents
一种应用于云资源完整性操作的审计日志系统 Download PDFInfo
- Publication number
- CN114691634A CN114691634A CN202210147733.2A CN202210147733A CN114691634A CN 114691634 A CN114691634 A CN 114691634A CN 202210147733 A CN202210147733 A CN 202210147733A CN 114691634 A CN114691634 A CN 114691634A
- Authority
- CN
- China
- Prior art keywords
- log
- task
- data
- module
- analysis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
- G06F16/1815—Journaling file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24553—Query execution of query operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种应用于云资源完整性操作的审计日志系统,属于操作审计管理技术领域,要解决的技术问题为如何实现云计算审计的完整性操作,支持审计操作的完整性校验以及链路可追踪。包括:日志生产模块,用于基于Spring AOP以及自定义的注解组织日志实例信息,并将生成的日志摘要数据导入所述组织的日志实例信息,并用于将日志信息打印至指定目录下的指定文件;日志采集模块,用于对采集的日志文件进行解析得到日志内容,用于对日志内容鉴权后输出;日志存储模块,用于基于Elasticsearch集群对日志内容进行存储和检索;日志分析展示模块,用于提供日志链路打通任务以及汇总分析任务,并用于展示日志分析结果。
Description
技术领域
本发明涉及操作审计管理技术领域,具体地说是一种应用于云资源完整性操作的审计日志系统。
背景技术
云计算被认为是继大型计算机、个人计算机、互联网之后,IT产业的第四次革命。云计算秉承“按需服务”的理念,为用户提供了弹性、高可用的计算服务。越来越多的企业和个人用户选择把自己的业务系统部署到公有云、私有云或混合云上。由于云计算通常基于虚拟化技术、多租户架构统一对外提供IaaS、PaaS、SaaS服务,许多实现细节被屏蔽。云资源的规格与操作是不是与用户设置的参数相符、参数由哪个用户设置、什么时间设置、创建一个云资源涉及多少个子资源、创建资源失败的具体原因是什么,实际使用者需要对其进行审计。现有云计算相关的审计大都是对云计算中的数据库、主机系统、云资源安全性的。有的提供操作审计的大都是用户登录的、登出等操作,也不支持完整性校验,不支持链路可追踪性。
如何实现云计算审计的完整性操作,支持审计操作的完整性校验以及链路可追踪,是需要解决的技术问题。
发明内容
本发明的技术任务是针对以上不足,提供一种应用于云资源完整性操作的审计日志系统,来解决如何实现云计算审计的完整性操作,支持审计操作的完整性校验以及链路可追踪的技术问题。
本发明的一种应用于云资源完整性操作的审计日志系统,包括:
日志生产模块,所述日志生产模块共多个并与部署有服务产品的节点一一对应,每个日志生成模块均用于基于Spring AOP以及自定义的注解组织日志实例信息,并将生成的日志摘要数据加入所述组织的日志实例信息,得到最终日志信息,并用于将所述最终日志信息打印至指定目录下的指定文件,生成日志文件;
日志采集模块,所述日志采集模块与所述日志生产模块交互,用于对采集的日志文件进行解析得到日志内容,用于对日志内容鉴权后输出;
日志存储模块,所述日志存储模块与所述日志采集模块交互,用于基于Elasticsearch集群对日志内容进行存储和检索;
日志分析展示模块,所述日志分析展示模块与所述日志存储模块交互,用于提供日志链路打通任务以及汇总分析任务,并用于展示日志分析结果。
作为优选,所述日志生产模块包括:
日志生产组件,所述日志生产组件用于自定义注解,基于注解和Spring AOP中环切技术组织日志实例信息,用于基于先国密软加密后国密硬加密的方式计算日志摘要数据,并将所述日志摘要数据导入所述组织的日志实例信息,得到最终日志信息;
日志打印组件,所述日志打印组件用于将最终日志信息输出为json格式,并对json格式的日志信息进行扁平化处理,得到统一格式的日志信息,并将所述统一格式的日志信息打印至指定目录下的指定文件,得到日志文件。
作为优选,所述日志生产组件用于通过如下步骤基于注解和Spring AOP中环切技术组织日志实例信息:
自定义两个注解,分别为操作注解和资源结果注解;
基于Spring AOP中环切技术,在操作注解上建立切点,通过加入注解的方法形成切面;
对于rest请求,如果header中能够获取requestId,表示所述rest请求是被调用方,设置调用标志为被调;如果header中不能够获取requestId,表示所述rest请求为主动请求,设置调用标志为主调;
获取客户端IP地址和方法参数后,调用加入注解的方法,得到其出参;
如果在注解中设置了解析方法,则将获取的方法入参与出参封装入Map对象,并利用反射技术调用配置的解析方法,获取到解析方法返回的日志信息组织日志实例信息;否则根据入参与出参组织日志实例信息。
作为优选,所述日志生产组件用于通过如下步骤生成日志摘要数据:
将日志实例信息数据进行序列化;
调用国密软加密组件对序列化后的日志数据进行加密,获取到长度为64字符长度的密文;
调用加密机使用国密SM3对所述密文进行加密。
作为优选,所述日志打印组件支持log4j、log4j2和logback三种日志框架,所述日志打印组件件分别实现了所述三种日志框架的layout组件;
服务产品根据使用的日志框架引入对应的日志打印组件,并将日志生产组件所在路径上设置为使用日志打印组件格式进行打印日志,日志级别为warn,日志路径为/icp/服务产品code/audit.log,并设置根据日志文件大小进行轮转;在部署服务产品时将日志路径挂载到主机节点的对应目录上。
作为优选,所述日志采集模块包括:
采集端,所述采集端共多个并与日志生产模块一一对应,用于通过json解析器统一采集日志文件,输出解析的日志内容;
汇聚端,所述汇聚端与所述采集端交互,用于汇聚解析的日志内容,并对日志内容统一鉴权、分发至日志存储模块。
作为优选,所述日志采集模块为开源组件fluentd,通过使用daemonset形式进行部署。
作为优选,所述日志分析展示模块包括:
日志分析子模块,所述日志分析子模块用于基于xxl job统一任务调度,用于通过执行任务列表提供日志链路打通任务以及汇总分析任务,所述日志链路打通用于串通日志链路数据,所述汇总分析任务包括用于按照用户维度汇总每个用户每日操作次数的按用户汇总、用于按照操作结果维度汇总每日操作成功或失败次数的按操作结果汇总、用于按操作维度汇总每日每种操作次数的按操作汇总、用于按日维度汇总所有操作次数的按日汇总、用于按季度维度汇总所有操作次数的按季汇总;
日志展示子模块,所述日志展示子模块用于提供类SQL查询,用于通过图形化界面展示日志分析结果,并用于提供报表下载服务。
作为优选,所述日志链路打通任务包括如下流程:
节点接到任务后,获取日志链路线程池,并查询数据库获取已完成链路打通的最新时间戳,如果最新时间戳与当前时间相差不到T个小时,则结束此次任务;否则以此时间戳为开始时间,以小时为单位,开辟T个任务进行打通后T个小时链路数据,每个任务使用滚动查询api查询原始日志数据索引,逐条使用requestId查询原始数据索引,将查询到的所有数据以链路数据格式存入链路索引中,直至T个任务查询完毕后,将其时间段存入数据库中,结束此次任务,等待下一个执行通知;
所述按用户汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到预定的24个小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的每个用户的操作次数,将结果以按用户汇总数据的格式存入用户操作索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知;
所述按操作结果汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询24个小时内的操作成功、失败的次数,将结果以按操作结果汇总数据的格式存入操作结果索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知;
所述按操作汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的每种操作的次数,将结果以按操作汇总数据的格式存入操作索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知;
按日汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的所有操作的次数,将结果以按日汇总数据的格式存入按日汇总索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知;
按季汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到三个月,则结束该次任务;否则以此时间戳为开始时间,查询近三个月内的所有操作的次数,将结果以按季汇总数据的格式存入按季汇总索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知。
本发明的一种应用于云资源完整性操作的审计日志系统具有以下优点:
1、将日志数据与日志生产、采集汇聚和分析展示进行了解耦,各个服务产品只需要关注产生操作审计的接口添加注解即可,对日志生产过程无感知,业务与日志分离,对业务无影响,且生产日志组件无需关注业务所属服务与内容;
2、日志采集模块包括采集端和汇聚端,通过采集端采集解析的日志内容,通过汇聚端对解析的日志内容进行汇聚后统一鉴权分发至日志存储模块,即实现了分别采集和统一汇聚鉴权分发,实现了采集和鉴权分发功能的分离,使得日志存储端不对外公开,保护了隐私性;
3、在分析展示方面,提供了日志链路打通以及各个维度的分析汇总,采用对操作日志数据进行预聚合的方式,大大降低了在进行报表查询的等待时间,且无需进行大量重复的聚合操作。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
下面结合附图对本发明进一步说明。
图1为实施例1一种应用于云资源完整性操作的审计日志系统的结构框图;
图2为实施例1一种应用于云资源完整性操作的审计日志系统中日志生产组件工作流程框图。
具体实施方式
下面结合附图和具体实施例对本发明作进一步说明,以使本领域的技术人员可以更好地理解本发明并能予以实施,但所举实施例不作为对本发明的限定,在不冲突的情况下,本发明实施例以及实施例中的技术特征可以相互结合。
本发明实施例提供一种应用于云资源完整性操作的审计日志系统,用于解决如何实现云计算审计的完整性操作,支持审计操作的完整性校验以及链路可追踪的技术问题。
实施例:
本发明一种应用于云资源完整性操作的审计日志系统,如图1所示,该系统包括日志生产模块、日志采集模块、日志采集模块、日志存储模块、日志分析展示模块。
日志生产模块共多个,并与部署有服务产品的节点一一对应,每个日志生成模块均用于基于Spring AOP以及自定义的注解组织日志实例信息,并将生成的日志摘要数据导入组织的日志实例信息,得到最终日志信息,并用于将最终日志信息打印至指定目录下的指定文件,生成日志文件。
作为一个具体的实施,日志生产模块包括日志生产组件和日志打印组件,日志生产组件用于自定义注解,基于注解和Spring AOP中环切技术组织日志实例体,用于基于先软加密后硬加密的方式计算日志摘要数据,并将日志摘要数据导入组织的日志实例信息,得到日志信息;日志打印组件用于将日志信息输出为json格式,并对json格式的日志信息进行扁平化处理,得到统一格式的日志信息,并将所述统一格式的日志信息打印至指定目录下的指定文件,得到日志文件。
如图2所示,该日志生产组件工作流程包括组织日志实例信息以及进行签名生成日志摘要数据。
步骤一、组织日志实例信息:
日志生产组件使用注解与Spring的AOP技术,首先自定义两个注解,分别是操作注解与资源结果注解;
利用Spring AOP中的环切技术,在操作注解上建立切点,以使加入注解的方法形成切面;
针对rest请求,在header中获取requestId,如果能获取到则表示该请求是被调用方,设置调用标志为被调;如果获取不到则表示该请求是主动请求,设置调用标志为主调;
获取客户端IP地址与方法参数后调用加入注解的方法,得到其出参,如果在注解中设置了解析方法,则将获取的方法入参与出参封装入Map对象,然后利用反射技术调用配置的解析方法,获取到解析方法返回的日志信息组织日志实例信息;否则由日志生产组件根据入参与出参组织日志实例信息。
由于日志数据的长度未知,而加密机对待加密数据有长度限制,因此本实施例采用先软加密后硬加密的方式进行计算摘要,保护日志的完整性。
步骤二、签名生成日志摘要数据:
将日志实例信息数据进行序列化;
调用国密软加密组件对序列化后的日志数据进行加密,获取到长度为64字符长度的密文;
调用加密机使用国密SM3对上一步中的密文进行加密。
通过以上三个步骤生成日志摘要数据,将其放入日志实例信息中,然后调用日志打印组件将日志内容打印到指定文件中。
日志打印组件支持log4j、log4j2与logback三种日志框架,该组件分别实现了三种日志框架的layout组件,将日志内容转为json输出,并将json内容扁平化处理,生成统一格式的日志内容。
服务产品根据使用的日志框架引入对应的日志打印组件,将日志生产组件所在路径上设置为使用日志打印组件格式进行打印日志。日志级别为warn,日志路径为/icp/服务产品code/audit.log,并设置根据日志文件大小进行轮转。在部署服务产品时将日志路径挂载到主机节点的对应目录上。
日志采集模块使用开源组件fluentd,该采集器使用daemonset形式进行部署,确保所有app节点(app节点是服务产品部署的节点)上都有部署,然后使用json解析器,统一采集/icp/*/audit.log文件(*表示模糊匹配,表示采集在/icp目录下任意子目录下的audit.log文件),然后上传至汇聚端fluentd中,由汇聚端fluentd进行统一鉴权、分发、投递至日志存储模块。采集端只需要关注采集即可,对存储模块无感知;汇聚端只需被动等待采集端上传日志数据,然后将日志数据投递至存储端。同时汇聚端具备缓冲区,在存储模块挂掉后可以将日志数据缓存在里面,等待存储模块回复后再进行投递,防止日志数据丢失。这种部署方式有利于减少存储模块的连接数,同时保护存储模块不对外暴露。
日志存储模块使用开源Elasticsearch集群,Elasticsearch是一个分布式、高扩展、高实时的搜索与数据分析引擎。可以很方便的使大量数据具有搜索、分析和探索的能力。充分利用Elasticsearch的水平伸缩性,能使数据变得更有价值。首先原始日志数据进入别名为audit的索引中,这是后面日志分析的基础。利用Elasticsearch提供的分词、高亮功能,可以完美的解决日志根据关键字索引的难题。我们在索引中指定分析器,该分析器使用全小写的keyword匹配,这样可以忽略大小写匹配的问题,如日志数据为Error,当我们使用error进行搜索时也能正确匹配,这样用户可以随意指定输入一个关键字,不必纠结于大小写问题。同时我们的集群是3个Elasticsearch节点运行,索引使用2个副本,保证了即使有节点宕掉,也不会对日志数据有任何影响。如果数据量激增我们也可以通过增加节点的方式进行水平扩展。
日志分析展示模块分为日志分析子模块与日志展示子模块,由于该模块是多副本的,所以日志分析子模块没有没用定时任务去做日志分析的操作,而是依赖于xxl job进行统一任务调度,任务列表为:日志链路打通、按用户汇总、按操作结果汇总、按操作汇总、按日汇总、按季汇总。
日志链路打通任务的作用是串通日志链路数据,总体实现方式如下:
节点接到任务后,获取日志链路线程池,并查询数据库获取已完成链路打通的最新时间戳,如果最新时间戳与当前时间相差不到4小时,则结束此次任务;否则以此时间戳为开始时间,以小时为单位,开辟4个任务进行打通后4个小时链路数据,每个任务使用滚动查询api查询原始日志数据索引,逐条使用requestId查询原始数据索引,将查询到的所有数据以链路数据格式存入链路索引中。直至4个任务查询完毕后,将其时间段存入数据库中,结束此次任务,等待下一个执行通知。
按用户汇总任务的作用是按用户维度汇总每个用户每日操作的次数,总体实现方式如下:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的每个用户的操作次数,将结果以按用户汇总数据的格式存入用户操作索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知。
按操作结果汇总任务的作用是按操作结果维度汇总每日操作成功或失败的次数,总体实现方式如下:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的操作成功、失败的次数,将结果以按操作结果汇总数据的格式存入操作结果索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知。
按操作汇总任务的作用是按操作维度汇总每日每种操作的次数,总体实现方式如下:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的每种操作的次数,将结果以按操作汇总数据的格式存入操作索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知。
按日汇总任务的作用是按日维度汇总所有操作的次数,总体实现方式如下:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的所有操作的次数,将结果以按日汇总数据的格式存入按日汇总索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知。
按季汇总任务的作用是按季度维度汇总所有操作的次数,总体实现方式如下:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到3个月,则结束该次任务;否则以此时间戳为开始时间,查询近3个月内的所有操作的次数,将结果以按季汇总数据的格式存入按季汇总索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知。
日志展示子模块为用户提供类SQL查询分析日志的能力,同时提供图形化的界面为用户展示已聚合的分析数据,并为用户提供下载报表的功能。
本实施例的系统包括日志生产模块、日志采集模块、日志存储模块、日志分析展示模块。日志生产模块由各个云服务产品引用,用于生产指定格式的操作日志,并生成签名;日志采集模块用于采集操作日志,并将采集的内容投递至日志存储模块;日志存储模块用于存储操作日志,并提供检索服务;日志分析展示模块用于日志链路、日志分析结果展示。通过各模块间协调合作向云平台提供了一个完整的服务资源操作审计系统的解决方案。
上文通过附图和优选实施例对本发明进行了详细展示和说明,然而本发明不限于这些已揭示的实施例,基与上述多个实施例本领域技术人员可以知晓,可以组合上述不同实施例中的手段得到本发明更多的实施例,这些实施例也在本发明的保护范围之内。
Claims (9)
1.一种应用于云资源完整性操作的审计日志系统,其特征在于包括:
日志生产模块,所述日志生产模块共多个并与部署有服务产品的节点一一对应,每个日志生成模块均用于基于Spring AOP以及自定义的注解组织日志实例信息,并将生成的日志摘要数据加入所述组织的日志实例信息,得到最终日志信息,并用于将所述最终日志信息打印至指定目录下的指定文件,生成日志文件;
日志采集模块,所述日志采集模块与所述日志生产模块交互,用于对采集的日志文件进行解析得到日志内容,用于对日志内容鉴权后输出;
日志存储模块,所述日志存储模块与所述日志采集模块交互,用于基于Elasticsearch集群对日志内容进行存储和检索;
日志分析展示模块,所述日志分析展示模块与所述日志存储模块交互,用于提供日志链路打通任务以及汇总分析任务,并用于展示日志分析结果。
2.根据权利要求1所述的一种应用于云资源完整性操作的审计日志系统,其特征在于所述日志生产模块包括:
日志生产组件,所述日志生产组件用于自定义注解,基于注解和Spring AOP中环切技术组织日志实例信息,用于基于先国密软加密后国密硬加密的方式计算日志摘要数据,并将所述日志摘要数据导入所述组织的日志实例信息,得到最终日志信息;
日志打印组件,所述日志打印组件用于将最终日志信息输出为json格式,并对json格式的日志信息进行扁平化处理,得到统一格式的日志信息,并将所述统一格式的日志信息打印至指定目录下的指定文件,得到日志文件。
3.根据权利要求2所述的一种应用于云资源完整性操作的审计日志系统,其特征在于所述日志生产组件用于通过如下步骤基于注解和Spring AOP中环切技术组织日志实例信息:
自定义两个注解,分别为操作注解和资源结果注解;
基于Spring AOP中环切技术,在操作注解上建立切点,通过加入注解的方法形成切面;
对于rest请求,如果header中能够获取requestId,表示所述rest请求是被调用方,设置调用标志为被调;如果header中不能够获取requestId,表示所述rest请求为主动请求,设置调用标志为主调;
获取客户端IP地址和方法参数后,调用加入注解的方法,得到其出参;
如果在注解中设置了解析方法,则将获取的方法入参与出参封装入Map对象,并利用反射技术调用配置的解析方法,获取到解析方法返回的日志信息组织日志实例信息;否则根据入参与出参组织日志实例信息。
4.根据权利要求2所述的一种应用于云资源完整性操作的审计日志系统,其特征在于所述日志生产组件用于通过如下步骤生成日志摘要数据:
将日志实例信息数据进行序列化;
调用国密软加密组件对序列化后的日志数据进行加密,获取到长度为64字符长度的密文;
调用加密机使用国密SM3对所述密文进行加密。
5.根据权利要求2所述的一种应用于云资源完整性操作的审计日志系统,其特征在于所述日志打印组件支持log4j、log4j2和logback三种日志框架,所述日志打印组件件分别实现了所述三种日志框架的layout组件;
服务产品根据使用的日志框架引入对应的日志打印组件,并将日志生产组件所在路径上设置为使用日志打印组件格式进行打印日志,日志级别为warn,日志路径为/icp/服务产品code/audit.log,并设置根据日志文件大小进行轮转;在部署服务产品时将日志路径挂载到主机节点的对应目录上。
6.根据权利要求1所述的一种应用于云资源完整性操作的审计日志系统,其特征在于所述日志采集模块包括:
采集端,所述采集端共多个并与日志生产模块一一对应,用于通过json解析器统一采集日志文件,输出解析的日志内容;
汇聚端,所述汇聚端与所述采集端交互,用于汇聚解析的日志内容,并对日志内容统一鉴权、分发至日志存储模块。
7.根据权利要求6所述的一种应用于云资源完整性操作的审计日志系统,其特征在于所述日志采集模块为开源组件fluentd,通过使用daemonset形式进行部署。
8.根据权利要求1所述的一种应用于云资源完整性操作的审计日志系统,其特征在于所述日志分析展示模块包括:
日志分析子模块,所述日志分析子模块用于基于xxl job统一任务调度,用于通过执行任务列表提供日志链路打通任务以及汇总分析任务,所述日志链路打通用于串通日志链路数据,所述汇总分析任务包括用于按照用户维度汇总每个用户每日操作次数的按用户汇总、用于按照操作结果维度汇总每日操作成功或失败次数的按操作结果汇总、用于按操作维度汇总每日每种操作次数的按操作汇总、用于按日维度汇总所有操作次数的按日汇总、用于按季度维度汇总所有操作次数的按季汇总;
日志展示子模块,所述日志展示子模块用于提供类SQL查询,用于通过图形化界面展示日志分析结果,并用于提供报表下载服务。
9.根据权利要求8所述的一种应用于云资源完整性操作的审计日志系统,其特征在于所述日志链路打通任务包括如下流程:
节点接到任务后,获取日志链路线程池,并查询数据库获取已完成链路打通的最新时间戳,如果最新时间戳与当前时间相差不到T个小时,则结束此次任务;否则以此时间戳为开始时间,以小时为单位,开辟T个任务进行打通后T个小时链路数据,每个任务使用滚动查询api查询原始日志数据索引,逐条使用requestId查询原始数据索引,将查询到的所有数据以链路数据格式存入链路索引中,直至T个任务查询完毕后,将其时间段存入数据库中,结束此次任务,等待下一个执行通知;
所述按用户汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到预定的24个小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的每个用户的操作次数,将结果以按用户汇总数据的格式存入用户操作索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知;
所述按操作结果汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询24个小时内的操作成功、失败的次数,将结果以按操作结果汇总数据的格式存入操作结果索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知;
所述按操作汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的每种操作的次数,将结果以按操作汇总数据的格式存入操作索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知;
按日汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到24小时,则结束该次任务;否则以此时间戳为开始时间,查询近24小时内的所有操作的次数,将结果以按日汇总数据的格式存入按日汇总索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知;
按季汇总任务包括如下流程:
节点接到任务后,查询数据库获取已完成的最新时间戳,如果最新时间戳与当前时间相差不到三个月,则结束该次任务;否则以此时间戳为开始时间,查询近三个月内的所有操作的次数,将结果以按季汇总数据的格式存入按季汇总索引中,并将本次汇总的时间段存入数据库中,结束此次任务,等待下一个执行通知。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210147733.2A CN114691634A (zh) | 2022-02-17 | 2022-02-17 | 一种应用于云资源完整性操作的审计日志系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210147733.2A CN114691634A (zh) | 2022-02-17 | 2022-02-17 | 一种应用于云资源完整性操作的审计日志系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114691634A true CN114691634A (zh) | 2022-07-01 |
Family
ID=82136983
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210147733.2A Pending CN114691634A (zh) | 2022-02-17 | 2022-02-17 | 一种应用于云资源完整性操作的审计日志系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114691634A (zh) |
-
2022
- 2022-02-17 CN CN202210147733.2A patent/CN114691634A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11521176B2 (en) | Service flow system and service data processing method and apparatus | |
US12008015B2 (en) | Import and export in blockchain environments | |
CN113711536B (zh) | 从区块链网络中提取数据 | |
US20210117251A1 (en) | Mobile application for an information technology (it) and security operations application | |
US20220121628A1 (en) | Streaming synthesis of distributed traces from machine logs | |
CN103036956B (zh) | 一种分布式组态化海量数据归档系统及实现方法 | |
CN103248645B (zh) | Bt离线数据下载系统及方法 | |
US11394794B2 (en) | Fast ingestion of records in a database using data locality and queuing | |
CN110781230B (zh) | 一种数据接入方法、装置及设备 | |
US10686780B2 (en) | Secure, cloud-based data collection tool | |
CN111831458B (zh) | 一种高并发高解耦数据处理方法及数据中台系统 | |
US11323264B2 (en) | Validating tracked portions of received sensor data using computer cryptographic processing | |
US10609120B2 (en) | Customized, cloud-based data collection tool | |
US11789950B1 (en) | Dynamic storage and deferred analysis of data stream events | |
CN113626512A (zh) | 数据处理方法、装置、设备及可读存储介质 | |
US20220038260A1 (en) | Validating received sensor data using computer cryptographic processing | |
CN114443940A (zh) | 一种消息订阅方法、装置及设备 | |
CN114691634A (zh) | 一种应用于云资源完整性操作的审计日志系统 | |
CN115757642A (zh) | 一种基于归档日志文件的数据同步方法及装置 | |
Bergers et al. | Dwh-dim: a blockchain based decentralized integrity verification model for data warehouses | |
US10191907B2 (en) | Legal discovery tool implemented in a mobile device | |
CN114610803A (zh) | 一种数据处理方法、装置、电子设备和存储介质 | |
US20160253349A1 (en) | Data Analysis And Reporting Tool | |
CN110740046B (zh) | 分析服务契约的方法和装置 | |
US11829343B2 (en) | Generating a business object |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |