CN113434464A - 一种分布式日志处理系统和方法 - Google Patents
一种分布式日志处理系统和方法 Download PDFInfo
- Publication number
- CN113434464A CN113434464A CN202110703908.9A CN202110703908A CN113434464A CN 113434464 A CN113434464 A CN 113434464A CN 202110703908 A CN202110703908 A CN 202110703908A CN 113434464 A CN113434464 A CN 113434464A
- Authority
- CN
- China
- Prior art keywords
- log
- operation instruction
- micro
- search server
- identifier
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
- G06F16/148—File search processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/1734—Details of monitoring file system events, e.g. by the use of hooks, filter drivers, logs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
- G06F16/1815—Journaling file systems
Abstract
本申请涉及日志处理技术领域,尤其涉及一种分布式日志处理系统和方法,其中,客户端接收用户在网页中执行的操作指令,并向微服务平台发送操作请求;微服务平台中的多个目标微服务模块执行与操作请求中的操作标识对应的操作指令所指示的处理操作,记录每个目标微服务模块执行处理操作的日志文件;搜索服务器构建存储有操作标识以及与操作标识对应的日志文件的日志数据库;客户端在确定操作指令发生异常时,向搜索服务器发送异常查询请求;搜索服务器从日志数据库中获取与异常查询请求对应的日志文件,并将获取到的日志文件发送至客户端。通过上述方式,可以缩短查询与异常的操作指令对应的日志文件的搜索链路,提高了查询异常日志链路的效率。
Description
技术领域
本申请涉及日志处理技术领域,尤其涉及一种分布式日志处理系统和方法。
背景技术
现有技术中,客户端的界面中如果线上环节出现了异常,需要获取服务器端的权限以查询异常对应的日志文件。
当出现一个异常问题,则需要从服务器容器内查看相关日志文件,即,出现异常的环节对应的日志链路过长,通过常用的查询方式进行链路查询,调用日志的链路会很长,这样导致查询效率不高。
发明内容
有鉴于此,本申请实施例至少提供一种分布式日志处理系统、一种分布式日志处理方法、一种电子设备和一种计算机可读存储介质。
本申请主要包括以下几个方面:
第一方面,本申请实施例提供一种分布式日志处理系统,包括客户端、微服务平台和搜索服务器。
其中,客户端接收用户在网页中执行的操作指令,将携带有与操作指令对应的操作标识的操作请求发送至微服务平台;
微服务平台中的多个目标微服务模块执行与操作请求中的操作标识对应的操作指令所指示的处理操作,记录每个目标微服务模块执行处理操作的日志文件,并将操作标识和所记录的日志文件发送至搜索服务器;
搜索服务器构建存储有操作标识以及与操作标识对应的日志文件的日志数据库;
客户端在确定操作指令发生异常时,将携带有与操作指令对应的操作标识的异常查询请求发送至搜索服务器;
搜索服务器从日志数据库中获取与异常查询请求中的操作标识对应的日志文件,并将获取到的日志文件发送至客户端。
在一种可能的实施方式中,操作标识与操作指令一一对应,一个操作指令所指示的处理操作由多个目标微服务模块共同执行,每个目标微服务模块执行同一操作指令所指示的处理操作的日志文件所对应操作标识是相同的。
在一种可能的实施方式中,微服务平台还包括日志收集模块,日志收集模块与每个目标微服务模块建立连接,用于记录每个目标微服务模块执行处理操作的日志文件。日志收集模块将与操作指令对应的操作标识写入日志文件的头部文件中,并将写入操作标识后的日志文件发送至搜索服务器。
在一种可能的实施方式中,操作标识为用于指示操作指令的通用唯一识别码。
在一种可能的实施方式中,还包括预设日志收集模块的日志配置文件,日志配置文件用于指示需要从每个目标微服务模块中获取的字段信息;基于日志配置文件从每个微服务模块中获取对应的字段信息以生成该目标微服务模块的日志文件。
在一种可能的实施方式中,搜索服务器还用于:将具有相同操作标识的日志文件划分在同一日志集合中,每个日志集合对应一个操作标识。
第二方面,本申请实施例还提供一种分布式日志处理方法,其特征在于,包括:
客户端接收用户在网页中执行的操作指令,将携带有与操作指令对应的操作标识的操作请求发送至微服务平台;
微服务平台中的多个目标微服务模块执行与操作请求中的操作标识对应的操作指令所指示的处理操作,记录每个目标微服务模块执行处理操作的日志文件,并将操作标识和所记录的日志文件发送至搜索服务器;
搜索服务器构建存储有操作标识以及与操作标识对应的日志文件的日志数据库;
客户端在确定操作指令发生异常时,将携带有与操作指令对应的操作标识的异常查询请求发送至搜索服务器;
搜索服务器从日志数据库中获取与异常查询请求中的操作标识对应的日志文件,并将获取到的日志文件发送至客户端。
在一种可能的实施方式中,操作标识与操作指令一一对应,一个操作指令所指示的处理操作由多个目标微服务模块共同执行,每个目标微服务模块执行同一操作指令所指示的处理操作的日志文件所对应操作标识是相同的。
第三方面,本申请实施例还提供一种电子设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过所述总线进行通信,所述机器可读指令被所述处理器运行时执行上述第二方面或第二方面中任一种可能的实施方式中所述的分布式日志处理方法的步骤。
第四方面,本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行上述第二方面或第二方面中任一种可能的实施方式中所述的分布式日志处理方法的步骤。
本申请实施例提供的分布式日志处理系统和方法,通过为每个客户端在网页中执行的操作指令添加操作标识,并通过日志收集模块将头部文件中带有操作标识的日志文件打印出来,并发送至搜索服务器,搜索服务器基于接收到的日志文件创建日志数据库,并提供具有搜索功能的可视化界面,当客户端的网页在执行操作指令发生异常时,通过与操作指令对应的操作标识在搜索服务器中进行查询,从而获得与异常的操作指令对应的日志文件,尤其是在遇到需要很多个微服务模块共同实现的情况,如果这样的操作指令发生异常,则在查询的过程中可以快速的获得与异常的操作指令对应的日志链路,提高了查询异常日志链路的效率,且不需要获取服务端的权限,就可以在本地获取异常的操作指令对应的日志链路信息,提高了本地工作人员的日志处理效率。
为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本申请实施例所提供的一种分布式日志处理系统的结构示意图;
图2示出了本申请实施例所提供的一种分布式日志处理装置的方法的流程图;
图3出了本申请实施例所提供的一种电子设备的结构示意图。
主要元件符号说明:
100-客户端;200-网关;301-微服务模块A;302-微服务模块B;303-微服务模块C;400-日志收集模块;500-搜索服务器;
600-电子设备;601-处理器;602-通信总线;603-用户接口;604-网络接口;605-存储器;6051-操作系统;6052-应用程序。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,应当理解,本申请中的附图仅起到说明和描述的目的,并不用于限定本申请的保护范围。另外,应当理解,示意性的附图并未按实物比例绘制。本申请中使用的流程图示出了根据本申请的一些实施例实现的操作。应当理解,流程图的操作可以不按顺序实现,没有逻辑的上下文关系的步骤可以反转顺序或者同时实施。此外,本领域技术人员在本申请内容的指引下,可以向流程图添加一个或多个其他操作,也可以从流程图中移除一个或多个操作。
另外,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的全部其他实施例,都属于本申请保护的范围。
为了使得本领域技术人员能够使用本申请内容,结合特定应用场景“分布式日志处理”,给出以下实施方式,对于本领域技术人员来说,在不脱离本申请的精神和范围的情况下,可以将这里定义的一般原理应用于其他实施例和应用场景。
本申请实施例下述方法、装置、电子设备或计算机可读存储介质可以应用于任何需要进行分布式日志处理系统的场景,本申请实施例并不对具体的应用场景作限制,任何使用本申请实施例提供的分布式日志处理系统和方法的方案均在本申请保护范围内。
值得注意的是,在本申请提出之前,客户端的界面中如果线上环节出现了异常,需要获取服务器端的权限以查询异常对应的日志文件。当出现一个异常问题,则需要从服务器容器内查看相关日志文件,即,出现异常的环节对应的日志链路过长,中间件服务出现问题的风险也随之增高,并且通过常用的查询方式进行链路查询,调用日志的链路会很长,这样导致查询效率不高。特别地,涉及微服务模块较多时,上述查询方式的缺陷更为显著。
实施例一
针对上述问题,请参阅图1,图1示出本申请实施例所提供的一种分布式日志处理系统的结构示意图,该分布式日志处理系统包括客户端100、网关200、微服务平台、日志收集模块400和搜索服务器500。其中,微服务平台包括微服务模块A301、微服务模块B302和微服务模块C303。可以理解的是,微服务平台中包括若干个微服务模块,这里的微服务模块A301、微服务模块B302和微服务模块C303为用于执行当前操作指令的微服务模块个数。
具体说来,客户端100接收用户在网页中执行的操作指令,将携带有与操作指令对应的操作标识的操作请求发送至微服务平台。
这里,客户端100的浏览器中显示有网页,网页中可包括多种显示控件,例如,可包括但不限于:搜索框、地址栏、多个显示条目、工具栏,客户端100可以接收用户在网页中执行的针对不同显示控件的操作指令,不同的操作指令对应不同的操作标识,即,一个操作指令对应一个操作标识,客户端100在接收到上述操作指令之后,可以生成操作请求,在该操作请求中携带有与操作指令对应的操作标识。
示例性的,客户端100在接收到上述操作指令之后,还可以获取该页面的页面标识,并将携带有与操作指令对应的操作标识以及与页面对应的页面标识的操作请求发送至微服务平台。
微服务平台中的多个目标微服务模块执行与操作请求中的操作标识对应的操作指令所指示的处理操作,记录每个目标微服务模块执行处理操作的日志文件,并将操作标识和所记录的日志文件发送至搜索服务器500。
这里,可以由一个微服务模块来执行一个操作指令,也可以由多个微服务模块共同来执行一个操作指令。微服务平台在接收到操作请求之后,确定用于执行该操作请求所指示的操作指令的微服务模块,上述的目标微服务模块指的是用于执行客户端100发送的操作请求所指示的操作指令的微服务模块。
针对操作请求所指示的操作指令由一个目标微服务模块来执行的情况,可以记录该一个目标微服务模块执行处理操作的日志文件,并将操作标识和所记录的日志文件发送至搜索服务器500。
针对操作请求所指示的操作指令由多个目标微服务模块来执行的情况,可以分别记录每个目标微服务模块执行处理操作的日志文件,并将操作标识和所记录的日志文件发送至搜索服务器500。
搜索服务器500构建存储有操作标识以及与操作标识对应的日志文件的日志数据库。
在一可选示例中,针对操作请求中携带有与操作指令对应的操作标识以及与页面对应的页面标识的情况,微服务平台还可以将页面标识、操作标识和所记录的日志文件发送至搜索服务器500,在此情况下,搜索服务器500中存储有操作标识、操作标识所属页面的页面标识以及与操作标识对应的日志文件的日志数据库。
在本申请实施例中,针对微服务平台生成的日志文件定义了上述的日志存储方式,即,记录每个目标微服务模块对应的日志文件,并将操作标识和日志文件存储在搜索服务器500,以便于后续的日志文件查询。
客户端100在确定操作指令发生异常时,将携带有与操作指令对应的操作标识的异常查询请求发送至搜索服务器500。
在一可选示例中,客户端100接收到的操作指令由微服务平台中的目标微服务模块来执行,当目标微服务模块在执行过程中检测到针对操作指令的处理操作存在异常时,微服务平台可产生异常处理通知,并将携带有操作标识的异常处理通知发送至客户端100,客户端100响应于异常处理通知产生异常查询请求。
搜索服务器500从日志数据库中获取与异常查询请求中的操作标识对应的日志文件,并将获取到的日志文件发送至客户端100。
在一可选示例中,客户端100所发送的异常查询请求中还可携带有页面标识,此时,可以从日志数据库中获取与异常查询请求中的操作标识、页面标识对应的日志文件。
在客户端100的浏览器界面中,用户通常会发出操作指令,此时客户端100根据接收到的用户在网页中发出的操作指令,将操作指令信息发送至用于执行操作指令的微服务模块,以完成操作指令并反馈响应操作指令的结果,在操作指令结束后将每个响应操作指令的微服务模块执行处理操作的日志文件打印出来,并将每个微服务模块打印出的日志文件发送至搜索服务器500中,其中,每个微服务模块打印出的日志文件的头部文件中都带有与操作指令对应的操作标识。
搜索服务器500接收到日志文件后,将日志文件存储在数据库中。搜索服务器500能够对收集到的日志文件进行搜索,还设置有可视化的操作界面,开发人员可以在客户端100的浏览器中登入搜索服务器500的搜索界面,进行日志文件的搜索。
当客户端100的操作指令发生异常时,开发人员则可以获取与操作指令对应的操作标识,通过操作标识在搜索服务器500的搜索界面中进行搜索,搜索服务器500接收到开发人员发送的操作标识后,则将与操作标识对应的日志文件反馈给客户端100,开发人员则可以通过获取到的日志文件进行检测发生异常的操作指令哪一环节发生了错误。
可以理解的是,在现有的异常日志查找中,通常是通过异常的操作指令的类型进行搜索,这样搜索到的日志文件不仅包括了发生异常的操作指令对应的日志文件,还有其他同类型的操作指令产生的日志文件,因此获取到的查询结果并不准确,由于大量的日志文件占用资源量大,因此搜索速度也有所下降,而通过本申请中提供的与操作指令对应的操作标识进行搜索,获取到的与异常的操作指令对应的日志文件准确,且快速,为开发人员提供了修复异常问题的便利条件。
进一步的,操作标识与操作指令一一对应,一个操作指令所指示的处理操作由所述多个目标微服务模块共同执行,每个目标微服务模块执行同一操作指令所指示的处理操作的日志文件所对应操作标识是相同的。
具体的,这里为客户端100接收到的操作指令设置独立的操作标识,每个客户端100的每个操作指令对应的操作标识是不同的,而响应同一操作指令的多个微服务模块的日志文件中设置的操作标识则是相同的。
可以理解的,这里的操作标识可以是一种编码,可以是根据预设的规律自动生成的数字编码,也可以是随机生成的英文的排列组合等字符串。
进一步的,微服务平台还包括日志收集模块400,日志收集模块400与每个目标微服务模块建立连接,用于记录每个目标微服务模块执行处理操作的日志文件。日志收集模块400将与操作指令对应的操作标识写入日志文件的头部文件中,并将写入操作标识后的日志文件发送至搜索服务器500。
具体的,本实施例中,通过自定义生成的日志收集模块400,将日志收集模块400依赖到每个需要手机日志文件的微服务模块中,通过日志收集模块400与微服务模块连接,可以将执行与操作指令对应的微服务模块执行处理操作过程生成日志文件打印出来,并发送给搜索服务器500,且生成的日志文件中头部文件包括与操作指令对应的操作标识。
进一步的,操作标识为用于指示操作指令的通用唯一识别码。
具体的,选择通用唯一识别码(UUID,Universally Unique Identifier)作为操作标识,能够使所有的操作指令具有唯一的辨识信息,即每个操作指令的操作标识是唯一的,提高了在异常搜索时,使用操作标识进行搜索时可以进行精确定位。
进一步的,预设日志收集模块400的日志配置文件,日志配置文件用于指示需要从每个目标微服务模块中获取的字段信息,基于日志配置文件从每个微服务模块中获取对应的字段信息以生成该目标微服务模块的日志文件。
具体的,日志收集模块400中设置有日志配置文件,日志配置文件是预先设置好的,用于指示需要从每个目标微服务模块中获取的字段信息,在打印日志文件时,根据日志配置文件中的设置的信息,将与日志配置文件中的字段信息收集并打印生成日志文件,并将日志文件发送给搜索服务器500。
进一步的,搜索服务器500还用于将具有相同操作标识的日志文件划分在同一日志集合中,每个日志集合对应一个操作标识。
具体的,搜索服务器500在接收到日志文件后,分析提取出日志文件中的操作标识,并将具有相同操作标识的日志文件划分在同一日志集合中,存储在同一单元,这样当搜索服务器500获取开发人员输入的想要查询的操作标识时,可以直接将同一日志集合中的日志文件反馈给开发人员,提高了获取搜索结果以查找操作指令异常的效率。
实施例二
图2为本申请实施例所提供的一种分布式日志处理方法的流程图。如图2所示,本申请实施例提供的分布式日志处理方法包括:
步骤S101:客户端接收用户在网页中执行的操作指令,将携带有与操作指令对应的操作标识的操作请求发送至微服务平台。
步骤S102:微服务平台中的多个目标微服务模块执行与操作请求中的操作标识对应的操作指令所指示的处理操作,记录每个目标微服务模块执行处理操作的日志文件,并将操作标识和所记录的日志文件发送至搜索服务器。
步骤S103:搜索服务器构建存储有操作标识以及与操作标识对应的日志文件的日志数据库。
步骤S104:客户端在确定操作指令发生异常时,将携带有与操作指令对应的操作标识的异常查询请求发送至搜索服务器。
步骤S105:搜索服务器从日志数据库中获取与异常查询请求中的操作标识对应的日志文件,并将获取到的日志文件发送至客户端。
可以理解的,本申请的实施例中接收用户在客户端中网页执行的操作指令,并根据操作指令生成操作指令的相关信息,确认执行该操作指令需要的微服务模块,并将操作指令发送至用于执行该操作指令的目标微服务模块,以完成操作指令并反馈响应操作指令的结果,在操作指令结束后将每个响应操作指令的微服务模块执行处理操作的日志文件打印出来,并将每个微服务模块打印出的日志文件发送至搜索服务器中,其中,每个微服务模块打印出的日志文件的头部文件中都带有与操作指令对应的操作标识。
搜索服务器接收到日志文件后,将日志文件存储在数据库中。搜索服务器能够对收集到的日志文件进行搜索,还设置有可视化的操作界面,开发人员可以在客户端的浏览器中登入搜索服务器的搜索界面,进行日志文件的搜索。
搜索服务器基于接收到的日志文件创建数据库,并提供具有搜索功能的可视化界面,当客户端的网页在执行操作指令发生异常时,通过与操作指令对应的操作标识在搜索服务器中进行查询,从而获得与异常的操作指令对应的日志文件,尤其是在遇到需要很多个微服务模块共同实现时这样的操作指令发生异常时,在查询的过程中可以快速的获得与异常的操作指令对应的日志链路,提高了查询异常日志链路的效率,且不需要获取服务端的权限,就可以在本地获取异常的操作指令对应的日志链路信息,提高了本地工作人员的使用体验。
进一步的,操作标识与操作指令一一对应,一个操作指令所指示的处理操作由多个目标微服务模块共同执行,每个目标微服务模块执行同一操作指令所指示的处理操作的日志文件所对应操作标识是相同的。
可以理解的,这里的操作标识可以是一种编码,可以是根据预设的规律自动生成的数字编码,也可以是随机生成的英文的排列组合等字符串。优选的,这里的操作标识选择通用唯一识别码。每个操作指令的操作标识是唯一的,提高了在异常搜索时,使用操作标识进行搜索时可以进行精确定位。
实施例三
本申请的实施例中提供了一种分布式系统自定义日志收集、搜索和展示的解决方案。该解决方案的实施步骤为:
(1)抽象出独立的日志收集模块,通过springboot框架工具自动注入自定义的Bean,配置相关的拦截器、注解和切面逻辑等配置,生成公共的lockback.xml日志文件;
(2)前端(即客户端页面)每次接收到用户的操作指令时,头部文件中都设置有与操作指令对应的UUID;
(3)基于AOP逻辑,定义需要处理的包名以及需要织入的逻辑,即在用于响应操作指令的目标微服务模块的pom中添加依赖,将微服务模块的日志配置文件指向日志收集模块的日志配置文件;
(4)搭建Elasticsearch、Logstash、Kibana服务框架,生成数据库,并基于所述数据库生成搜索页面;
(5)通过搜索页面搜索与异常操作对应的UUID。
实施例四
基于同一申请构思,参见图3所示,为本申请实施例提供的一种电子设备600的结构,该电子设备600包括:至少一个处理器601,至少一个网络接口604或者其他用户接口603,存储器605,至少一个通信总线602。通信总线602用于实现这些组件之间的连接通信。该电子设备600可选的包含用户接口603,包括显示器(例如,触摸屏、LCD、CRT、全息成像(Holographic)或者投影(Projector)等),键盘或者点击设备(例如,鼠标,轨迹球(trackball),触感板或者触摸屏等)。
存储器605可以包括只读存储器和随机存取存储器,并向处理器601提供指令和数据。存储器605的一部分还可以包括非易失性随机存取存储器(NVRAM)。
在一些实施方式中,存储器605存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集:
操作系统6051,包含各种系统程序,用于实现各种基础业务以及处理基于硬件的任务;
应用程序6052,包含各种应用程序,例如桌面(launcher)、媒体播放器(MediaPlayer)、浏览器(Browser)等,用于实现各种应用业务。
具体的,存储器605存储有处理器601可执行的机器可读指令,当电子设备运行时,处理器601与存储器605之间通过通信总线602进行通信,机器可读指令被处理器601运行时执行上述的分布式日志处理方法的步骤。
实施例五
基于同一申请构思,本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行上述实施例提供的分布式日志处理方法的步骤。
具体地,所述存储介质能够为通用的存储介质,如移动磁盘、硬盘等,所述存储介质上的计算机程序被运行时,能够执行上述分布式日志处理方法,通过为每个客户端中网页执行的操作指令添加操作标识,并通过日志收集模块将头部文件中带有操作标识的日志文件打印出来,并发送至搜索服务器,搜索服务器基于接收到的日志文件创建数据库,并提供具有搜索功能的可视化界面,当客户端的网页在执行操作指令发生异常时,通过与操作指令对应的操作标识在搜索服务器中进行查询,从而获得与异常的操作指令对应的日志文件,尤其是在遇到需要很多个微服务模块共同实现时这样的操作指令发生异常时,在查询的过程中可以快速的获得与异常的操作指令对应的日志链路,提高了查询异常日志链路的效率,且不需要获取服务端的权限,就可以在本地获取异常的操作指令对应的日志链路信息,提高了本地工作人员的使用体验。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本申请所提供的几个实施例中,应所述理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者所述技术方案的部分可以以软件产品的形式体现出来,所述计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种分布式日志处理系统,其特征在于,包括客户端、微服务平台和搜索服务器,
其中,客户端接收用户在网页中执行的操作指令,将携带有与所述操作指令对应的操作标识的操作请求发送至微服务平台;
微服务平台中的多个目标微服务模块执行与所述操作请求中的操作标识对应的操作指令所指示的处理操作,记录每个目标微服务模块执行处理操作的日志文件,并将操作标识和所记录的日志文件发送至搜索服务器;
搜索服务器构建存储有操作标识以及与操作标识对应的日志文件的日志数据库;
客户端在确定所述操作指令发生异常时,将携带有与所述操作指令对应的操作标识的异常查询请求发送至搜索服务器;
搜索服务器从所述日志数据库中获取与所述异常查询请求中的所述操作标识对应的日志文件,并将获取到的日志文件发送至客户端。
2.根据权利要求1所述的分布式日志处理系统,其特征在于,操作标识与操作指令一一对应,一个操作指令所指示的处理操作由所述多个目标微服务模块共同执行,每个目标微服务模块执行同一操作指令所指示的处理操作的日志文件所对应操作标识是相同的。
3.根据权利要求1或2所述的分布式日志处理系统,其特征在于,微服务平台还包括日志收集模块,
所述日志收集模块与每个目标微服务模块建立连接,用于记录每个目标微服务模块执行处理操作的日志文件;
所述日志收集模块将与所述操作指令对应的操作标识写入日志文件的头部文件中,并将写入操作标识后的日志文件发送至搜索服务器。
4.根据权利要求1所述的分布式日志处理系统,其特征在于,所述操作标识为用于指示操作指令的通用唯一识别码。
5.根据权利要求3所述的分布式日志处理系统,其特征在于,还包括:
预设日志收集模块的日志配置文件,所述日志配置文件用于指示需要从每个目标微服务模块中获取的字段信息;
基于所述日志配置文件从每个微服务模块中获取对应的字段信息以生成该目标微服务模块的日志文件。
6.根据权利要求1所述的分布式日志处理系统,其特征在于,所述搜索服务器还用于:
将具有相同操作标识的日志文件划分在同一日志集合中,每个日志集合对应一个操作标识。
7.一种分布式日志处理方法,其特征在于,包括:
客户端接收用户在网页中执行的操作指令,将携带有与所述操作指令对应的操作标识的操作请求发送至微服务平台;
微服务平台中的多个目标微服务模块执行与所述操作请求中的操作标识对应的操作指令所指示的处理操作,记录每个目标微服务模块执行处理操作的日志文件,并将操作标识和所记录的日志文件发送至搜索服务器;
搜索服务器构建存储有操作标识以及与操作标识对应的日志文件的日志数据库;
客户端在确定所述操作指令发生异常时,将携带有与所述操作指令对应的操作标识的异常查询请求发送至搜索服务器;
搜索服务器从所述日志数据库中获取与所述异常查询请求中的所述操作标识对应的日志文件,并将获取到的日志文件发送至客户端。
8.根据权利要求7所述的分布式日志处理方法,其特征在于,操作标识与操作指令一一对应,一个操作指令所指示的处理操作由所述多个目标微服务模块共同执行,每个目标微服务模块执行同一操作指令所指示的处理操作的日志文件所对应操作标识是相同的。
9.一种电子设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过所述总线进行通信,所述机器可读指令被所述处理器运行时执行如权利要求7或8所述的分布式日志处理方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如权利要求7或8所述的分布式日志处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110703908.9A CN113434464A (zh) | 2021-06-24 | 2021-06-24 | 一种分布式日志处理系统和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110703908.9A CN113434464A (zh) | 2021-06-24 | 2021-06-24 | 一种分布式日志处理系统和方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113434464A true CN113434464A (zh) | 2021-09-24 |
Family
ID=77753978
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110703908.9A Pending CN113434464A (zh) | 2021-06-24 | 2021-06-24 | 一种分布式日志处理系统和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113434464A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114640567A (zh) * | 2022-02-23 | 2022-06-17 | 中银金融科技有限公司 | Apache日志的分析方法及装置 |
CN114844771A (zh) * | 2022-05-05 | 2022-08-02 | 亚信科技(中国)有限公司 | 微服务系统的监测方法、装置、存储介质、程序产品 |
CN115017128A (zh) * | 2022-05-26 | 2022-09-06 | 上海介方信息技术有限公司 | 基于corba中间件的轻量级日志服务设计方法及系统 |
CN115150259A (zh) * | 2022-06-16 | 2022-10-04 | 北京三快在线科技有限公司 | 一种故障定位的方法及装置 |
CN115174366A (zh) * | 2022-05-30 | 2022-10-11 | 阿里巴巴(中国)有限公司 | 数据处理方法以及装置 |
-
2021
- 2021-06-24 CN CN202110703908.9A patent/CN113434464A/zh active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114640567A (zh) * | 2022-02-23 | 2022-06-17 | 中银金融科技有限公司 | Apache日志的分析方法及装置 |
CN114844771A (zh) * | 2022-05-05 | 2022-08-02 | 亚信科技(中国)有限公司 | 微服务系统的监测方法、装置、存储介质、程序产品 |
CN114844771B (zh) * | 2022-05-05 | 2024-03-08 | 亚信科技(中国)有限公司 | 微服务系统的监测方法、装置、存储介质、程序产品 |
CN115017128A (zh) * | 2022-05-26 | 2022-09-06 | 上海介方信息技术有限公司 | 基于corba中间件的轻量级日志服务设计方法及系统 |
CN115017128B (zh) * | 2022-05-26 | 2023-02-10 | 上海介方信息技术有限公司 | 基于corba中间件的轻量级日志服务设计方法及系统 |
CN115174366A (zh) * | 2022-05-30 | 2022-10-11 | 阿里巴巴(中国)有限公司 | 数据处理方法以及装置 |
CN115174366B (zh) * | 2022-05-30 | 2023-10-20 | 浙江天猫技术有限公司 | 数据处理方法以及装置 |
CN115150259A (zh) * | 2022-06-16 | 2022-10-04 | 北京三快在线科技有限公司 | 一种故障定位的方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113434464A (zh) | 一种分布式日志处理系统和方法 | |
US11860821B2 (en) | Generating target application packages for groups of computing devices | |
CN109582301B (zh) | 基于任务调度系统的业务处理方法、装置、设备及介质 | |
JP5684946B2 (ja) | イベントの根本原因の解析を支援する方法及びシステム | |
CN110188135B (zh) | 文件生成方法及设备 | |
CN110908890A (zh) | 一种接口的自动测试方法和装置 | |
CN108111364B (zh) | 一种业务系统的测试方法及装置 | |
CN111353073A (zh) | 终端设备标识信息处理方法、装置及电子设备 | |
JP4698477B2 (ja) | 印刷管理装置、ログ情報収集装置、印刷管理システム、印刷管理方法、印刷管理プログラム及び記憶媒体 | |
CN112187933A (zh) | 一种多架构云平台中服务的监控方法和系统 | |
CN108804889B (zh) | 一种网站注册方法及装置 | |
CN116701053A (zh) | 生产环境数据库的数据备份恢复方法、装置、设备及介质 | |
CN107908629B (zh) | 一种信息查询方法、终端以及设备 | |
CN113360379B (zh) | 程序测试环境创建方法和程序测试环境创建装置 | |
CN114968386A (zh) | 一种电子设备的设备信息管理方法、装置及设备 | |
CN109358813B (zh) | 一种分布式存储系统的扩容方法及装置 | |
CN113094088A (zh) | 数据库配置信息采集方法、装置、计算机设备及存储介质 | |
JP2018067241A (ja) | 動作ログ生成装置、動作ログ生成システム、動作ログ生成方法、及び、動作ログ生成プログラム | |
CN113051178A (zh) | 测试数据构造方法、装置、设备及介质 | |
CN112418944A (zh) | 优惠券流转方法、装置、电子设备和存储介质 | |
CN106354620B (zh) | 一种资源监控方法及系统 | |
CN111142859A (zh) | 一种脚本生成方法、装置、电子设备及存储介质 | |
CN112035425B (zh) | 一种日志的存储方法、装置及计算机系统 | |
JP6551082B2 (ja) | テスト支援装置、テスト支援方法およびテスト支援プログラム | |
CN111290870A (zh) | 一种检测异常的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |