CN108427705A - 电子装置、分布式系统日志查询方法及存储介质 - Google Patents

电子装置、分布式系统日志查询方法及存储介质 Download PDF

Info

Publication number
CN108427705A
CN108427705A CN201810042991.8A CN201810042991A CN108427705A CN 108427705 A CN108427705 A CN 108427705A CN 201810042991 A CN201810042991 A CN 201810042991A CN 108427705 A CN108427705 A CN 108427705A
Authority
CN
China
Prior art keywords
daily record
query
address
storage address
predetermined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810042991.8A
Other languages
English (en)
Other versions
CN108427705B (zh
Inventor
王丽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201810042991.8A priority Critical patent/CN108427705B/zh
Priority to PCT/CN2018/089452 priority patent/WO2019140828A1/zh
Publication of CN108427705A publication Critical patent/CN108427705A/zh
Application granted granted Critical
Publication of CN108427705B publication Critical patent/CN108427705B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/18—File system types
    • G06F16/182—Distributed file systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/14—Details of searching files based on file metadata
    • G06F16/148—File search processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/18—File system types
    • G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
    • G06F16/1815—Journaling file systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明公开了一种电子装置、分布式系统日志查询方法及存储介质，通过在预先确定的数据库中存储日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址之间的映射关系；在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志生成时间的存储地址；获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端。节省了日志查询过程中对主机资源的占用率，提高查询效率，且操作过程简单易实现。

Description

电子装置、分布式系统日志查询方法及存储介质
技术领域
本发明涉互日志处理查询领域，尤其涉及一种电子装置、分布式系统日志查询方法及存储介质。
背景技术
随着互联网技术的发展以及互联网应用的普及，企业为了满足日益增长的业务需求，服务后台通常采用分布式系统来工作，并通过预先确定的数据库存储分布式系统中每台服务器上运行的应用程序的日志(日志包括关键字和日志生成时间)，一旦有应用程序出现故障，则需要专业人员根据业务操作关键字和故障发生的时间生成对应的linux、vim、less、或tail等文本查询命令查询日志，以确定故障发生的原因。这种查询日志的方式对主机资源消耗很大，查询效率低不高，且操作过程复杂容易出错。
发明内容
有鉴于此，本发明提出一种电子装置、分布式系统日志查询方法及存储介质，节省了日志查询过程中对主机资源的占用率，提高查询效率，且操作过程简单易实现。
首先，为实现上述目的，本发明提出一种电子装置，所述电子装置包括存储器、及与所述存储器连接的处理器，所述处理器用于执行所述存储器上存储的分布式系统日志查询程序，所述分布式系统日志查询程序被所述处理器执行时实现如下步骤：
A1、实时获取分布式系统中各个应用程序对应日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址，生成获取的日志生成时间与所述存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中；
A2、在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志生成时间对应的日志的存储地址，所述查询参数包括所述查询时间；
A3、获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志包括预设类型关键字。
进一步地，所述预先确定的日志查询规则包括：
若从所述预先确定的数据库中搜索出与所述查询时间相匹配的日志生成时间，则根据所述日志生成时间与所述存储地址之间的映射关系，确定该日志生成时间对应的日志的存储地址；
若从所述预先确定的数据库中搜索不出与所述查询时间相匹配的日志生成时间，则根据预先确定的索引生成规则生成所述预先确定的日志存储文件的存储地址的索引；
基于所述索引遍历所述预先确定的日志存储文件的存储地址，查询出与所述查询时间相匹配的日志生成时间对应的日志的存储地址。
进一步地，所述索引包括初始查询地址及结束查询地址，所述预先确定的索引生成规则包括：
获取所述预先确定的日志存储文件的初始存储地址及结束存储地址，计算所述初始存储地址及所述结束存储地址的中间存储地址；
获取所述中间存储地址存储的日志，判断获取的日志对应的日志生成时间与查询时间之间的大小关系；
若获取的日志生成时间大于查询时间，则设置所述初始查询地址为所述初始存储地址，定义所述结束查询地址为该中间存储地址；
若获取的日志生成时间小于查询时间，则设置所述初始查询地址为该中间存储地址，设置所述结束查询地址为所述结束存储地址。
进一步地，所述获取分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址的步骤包括：
基于springwebmvc架构在预先确定的所述分布式系统的控制中心上构建controller接口；
向所述controller接口发送调用日志请求；
接收所述controller接口返回的调用预先安装在所述分布式系统的各服务器上的预设类型日志收集系统收集的所述分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址。
进一步地，所述预设类型关键字包括操作关键字和业务关键字，所述查询关键字包括操作关键字和业务关键字。
此外，为实现上述目的，本发明还提供一种分布式系统日志查询方法，所述方法包括如下步骤：
S1、实时获取分布式系统中各个应用程序对应日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址，生成获取的日志生成时间与所述存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中；
S2、在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志生成时间对应的日志的存储地址，所述查询参数包括所述查询时间，所述日志包括日志生成时间；
S3、获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志包括预设类型关键字。
进一步地，所述预先确定的日志查询规则包括：
若从所述预先确定的数据库中搜索出与所述查询时间相匹配的日志生成时间，则根据所述日志生成时间与所述存储地址之间的映射关系，确定该日志生成时间对应的日志的存储地址；
若从所述预先确定的数据库中搜索不出与所述查询时间相匹配的日志生成时间，则根据预先确定的索引生成规则生成所述预先确定的日志存储文件的存储地址的索引；
基于所述索引遍历所述预先确定的日志存储文件的存储地址，查询出与所述查询参数相匹配的日志生成时间对应的日志的存储地址。
进一步地，所述索引包括初始查询地址及结束查询地址，所述预先确定的索引生成规则包括：
获取所述预先确定的日志存储文件的初始存储地址及结束存储地址，计算所述初始存储地址及所述结束存储地址的中间存储地址；
获取所述中间存储地址存储的日志，判断获取的日志对应的日志生成时间与查询时间之间的大小关系；
若获取的日志生成时间大于查询时间，则设置所述初始查询地址为所述初始存储地址，定义所述结束查询地址为该中间存储地址；
若获取的日志生成时间小于查询时间，则设置所述初始查询地址为该中间存储地址，设置所述结束查询地址为所述结束存储地址。
进一步地，所述获取分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址的步骤包括：
基于springwebmvc架构在预先确定的所述分布式系统的控制中心上构建controller接口；
向所述controller接口发送调用日志请求；
接收所述controller接口返回的调用预先安装在所述分布式系统的各服务器上的预设类型日志收集系统收集的所述分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址。
此外，为实现上述目的，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质存储有分布式系统日志查询程序，所述分布式系统日志查询程序可被至少一个处理器执行，以使所述至少一个处理器执行如上述的分布式系统日志查询方法的步骤。
相较于现有技术，本发明所提出的电子装置、分布式系统日志查询方法及存储介质，通过在预先确定的数据库中存储日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址之间的映射关系；在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志的存储地址，所述查询参数包括所述查询时间，所述日志包括日志生成时间；获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志还包括预设类型关键字。节省了日志查询过程中对主机资源的占用率，提高查询效率，且操作过程简单易实现。
附图说明
图1是本发明提出的电子装置一可选的硬件架构的示意图；
图2是本发明电子装置一实施例中分布式系统日志查询程序的程序模块示意图；
图3是本发明分布式系统日志查询方法较佳实施例的实施流程图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，在本发明中涉及“第一”、“第二”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外，各个实施例之间的技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本发明要求的保护范围之内。
参阅图1所示，是本发明提出的电子装置一可选的硬件架构示意图。本实施例中，电子装置10可包括，但不仅限于，可通过通信总线14相互通信连接存储器11、处理器12、网络接口13。需要指出的是，图1仅示出了具有组件11-14的电子装置10，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。
其中，存储器11至少包括一种类型的计算机可读存储介质，计算机可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，存储器11可以是电子装置10的内部存储单元，例如电子装置10的硬盘或内存。在另一些实施例中，存储器11也可以是电子装置10的外包存储设备，例如电子装置10上配备的插接式硬盘，智能存储卡(SmartMedia Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，存储器11还可以既包括电子装置10的内部存储单元也包括其外包存储设备。本实施例中，存储器11通常用于存储安装于电子装置10的操作系统和各类应用软件，例如分布式系统日志查询程序等。此外，存储器11还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器12在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。处理器12通常用于控制电子装置10的总体操作。本实施例中，处理器12用于运行存储器11中存储的程序代码或者处理数据，例如运行的分布式系统日志查询程序等。
网络接口13可包括无线网络接口或有线网络接口，网络接口13通常用于在电子装置10与其他电子设备之间建立通信连接。
通信总线14用于实现组件11-13之间的通信连接。
图1仅示出了具有组件11-14以及分布式系统日志查询程序的电子装置10，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。
可选地，电子装置10还可以包括用户接口(图1中未示出)，用户接口可以包括显示器、输入单元比如键盘，其中，用户接口还可以包括标准的有线接口、无线接口等。
可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED触摸器等。进一步地，显示器也可称为显示屏或显示单元，用于显示在电子装置10中处理信息以及用于显示可视化的用户界面。
在一实施例中，存储器11中存储的分布式系统日志查询程序被处理器12执行时，实现如下操作：
获取分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址，生成获取的日志生成时间与存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中；
在本实施例中，通过基于springwebmvc架构在预先确定的所述分布式系统的控制中心上构建controller接口，向所述controller接口发送调用日志的请求，所述controller接口响应所述调用日志的请求，调用log-collector来执行日志收集指令，所述log-collector为预先分别在各服务器上安装的预设类型日志收集系统，所述日志收集系统接收到所述controller接口的调用请求后，收集对应的服务器上的日志生成时间及所述日志在预先确定的日志存储文件中的存储地址，并返回收集到的所述分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址；
生成获取的日志生成时间与存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中。
在本实施例中，预先确定的日志存储文件可以是各服务器上相同的存储地址，例如，预先确定的日志存储文件存储在各台服务器的本地磁盘C中，在其他实施方式中，预先确定的日志存储文件也可以是各服务器上不同的存储地址，例如，预先确定的日志存储文件在部分服务器中存储在本地磁盘C中，在其他的服务器中存储在本地磁盘D中。
所述日志收集系统通过访问预先确定的日志存储文件的存储地址来获取各个应用程序在运行过程中产生的日志及所述日志在预先确定的日志存储文件中的存储地址；其中，所述日志包括预设类型关键字和日志生成时间，例如预设类型关键字包括操作关键字和业务关键字，日志生成时间以秒为单位。
在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与所述查询时间相匹配的日志生成时间对应的日志的存储地址，所述查询参数包括所述查询时间；
在本实施例中，所述预先确定的日志查询规则是，例如，若从所述预先确定的数据库中搜索出与所述查询时间相匹配的日志生成时间，则根据所述日志生成时间与所述存储地址之间的映射关系，确定该日志生成时间对应的日志的存储地址；
若从所述预先确定的数据库中搜索不出与所述查询时间相匹配的日志生成时间，则根据预先确定的索引生成规则生成所述预先确定的日志存储文件的存储地址的索引；
基于所述索引遍历所述预先确定的日志存储文件的存储地址，查询出与所述查询参数相匹配的日志生成时间对应的日志的存储地址。
在本实施例中，所述索引包括初始查询地址及结束查询地址；所述预先确定的索引生成规则是，例如，获取所述预先确定的日志存储文件的初始存储地址及结束存储地址，计算所述初始存储地址及所述结束存储地址的中间存储地址；
获取所述中间存储地址存储的日志，判断获取的日志对应的日志生成时间与查询时间之间的大小关系；
若获取的日志生成时间大于查询时间，则设置所述初始查询地址为所述初始存储地址，定义所述结束查询地址为该中间存储地址；
若获取的日志生成时间小于查询时间，则设置所述初始查询地址为该中间存储地址，设置所述结束查询地址为所述结束存储地址。
获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志还包括预设类型关键字。
由上述事实施例可知，本发明提出的电子装置通过在预先确定的数据库中存储日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址之间的映射关系；在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志的存储地址，所述查询参数包括所述查询时间，所述日志包括日志生成时间；获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志还包括预设类型关键字。节省了日志查询过程中对主机资源的占用率，提高查询效率，且操作过程简单易实现。
进一步需要说明的是，本发明的分布式系统日志查询程序依据其各部分所实现的功能不同，可用具有相同功能的程序模块进行描述。请参阅图2所示，是本发明电子装置一实施例中分布式系统日志查询程序的程序模块示意图。本实施例中，分布式系统日志查询程序依据其各部分所实现的功能的不同，可以被分割成获取模块201、分析模块202、查询模块203。由上面的描述可知，本发明所称的程序模块是指能够完成特定功能的一系列计算机程序指令段，比程序更适合于描述分布式系统日志查询程序在电子装置10中的执行过程。所述模块201至模块203所实现的功能或操作步骤均与上文类似，此处不再详述，示例性地，例如其中：
获取模块201用于实时获取分布式系统中各个应用程序对应日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址，生成获取的日志生成时间与所述存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中；
分析模块202用于在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志生成时间对应的日志的存储地址，所述查询参数包括所述查询时间；
查询模块203用于获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志还包括预设类型关键字。
此外，本发明还提出一种分布式系统日志查询方法，请参阅图3所示，所述分布式系统日志查询方法包括如下步骤：
步骤S301，实时获取分布式系统中各个应用程序对应日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址，生成获取的日志生成时间与所述存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中；
在本实施例中，通过基于springwebmvc架构在预先确定的所述分布式系统的控制中心上构建controller接口，向所述controller接口发送调用日志的请求，所述controller接口响应所述调用日志的请求，调用log-collector来执行日志收集指令，所述log-collector为预先分别在各服务器上安装的预设类型日志收集系统，所述日志收集系统接收到所述controller接口的调用请求后，收集对应的服务器上的日志生成时间及所述日志在预先确定的日志存储文件中的存储地址，并返回收集到的所述分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址；
生成获取的日志生成时间与存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中。
在本实施例中，预先确定的日志存储文件可以是各服务器上相同的存储地址，例如，预先确定的日志存储文件存储在各台服务器的本地磁盘C中，在其他实施方式中，预先确定的日志存储文件也可以是各服务器上不同的存储地址，例如，预先确定的日志存储文件在部分服务器中存储在本地磁盘C中，在其他的服务器中存储在本地磁盘D中。
所述日志收集系统通过访问预先确定的日志存储文件的存储地址来获取各个应用程序在运行过程中产生的日志及所述日志在预先确定的日志存储文件中的存储地址；其中，所述日志包括预设类型关键字和日志生成时间，例如预设类型关键字包括操作关键字和业务关键字，日志生成时间以秒为单位。
步骤S302，在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志生成时间对应的日志的存储地址，所述查询参数包括所述查询时间；
在本实施例中，所述预先确定的日志查询规则是，例如，若从所述预先确定的数据库中搜索出与所述查询时间相匹配的日志生成时间，则根据所述日志生成时间与所述存储地址之间的映射关系，确定该日志生成时间对应的日志的存储地址；
若从所述预先确定的数据库中搜索不出与所述查询时间相匹配的日志生成时间，则根据预先确定的索引生成规则生成所述预先确定的日志存储文件的存储地址的索引；
基于所述索引遍历所述预先确定的日志存储文件的存储地址，查询出与所述查询参数相匹配的日志生成时间对应的日志的存储地址。
在本实施例中，所述索引包括初始查询地址及结束查询地址；所述预先确定的索引生成规则是，例如，获取所述预先确定的日志存储文件的初始存储地址及结束存储地址，计算所述初始存储地址及所述结束存储地址的中间存储地址；
获取所述中间存储地址存储的日志，判断获取的日志对应的日志生成时间与查询时间之间的大小关系；
若获取的日志生成时间大于查询时间，则设置所述初始查询地址为所述初始存储地址，定义所述结束查询地址为该中间存储地址；
若获取的日志生成时间小于查询时间，则设置所述初始查询地址为该中间存储地址，设置所述结束查询地址为所述结束存储地址。
步骤S303，获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志包括预设类型关键字。
由上述事实例可知，本发明提出的分布式系统通过在预先确定的数据库中存储日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址之间的映射关系；在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志的存储地址，所述查询参数包括所述查询时间，所述日志包括日志生成时间；获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志还包括预设类型关键字。节省了日志查询过程中对主机资源的占用率，提高查询效率，且操作过程简单易实现。
此外，本发明还提出一种计算机可读存储介质，所述计算机可读存储介质上存储有分布式系统日志查询程序，所述分布式系统日志查询程序被处理器执行时实现如下操作：
实时获取分布式系统中各个应用程序对应日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址，生成获取的日志生成时间与所述存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中；
在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志生成时间对应的日志的存储地址，所述查询参数包括所述查询时间；
获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志还包括预设类型关键字。
本发明计算机可读存储介质具体实施方式与上述电子装置以及分布式系统日志查询方法各实施例基本相同，在此不作累述。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种电子装置，其特征在于，所述电子装置包括存储器、及与所述存储器连接的处理器，所述处理器用于执行所述存储器上存储的分布式系统日志查询程序，所述分布式系统日志查询程序被所述处理器执行时实现如下步骤：
A1、实时获取分布式系统中各个应用程序对应日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址，生成获取的日志生成时间与所述存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中；
A2、在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志生成时间对应的日志的存储地址，所述查询参数包括所述查询时间；
A3、获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志包括预设类型关键字。
2.如权利要求1所述的电子装置，其特征在于，所述预先确定的日志查询规则包括：
若从所述预先确定的数据库中搜索出与所述查询时间相匹配的日志生成时间，则根据所述日志生成时间与所述存储地址之间的映射关系，确定该日志生成时间对应的日志的存储地址；
若从所述预先确定的数据库中搜索不出与所述查询时间相匹配的日志生成时间，则根据预先确定的索引生成规则生成所述预先确定的日志存储文件的存储地址的索引；
基于所述索引遍历所述预先确定的日志存储文件的存储地址，查询出与所述查询时间相匹配的日志生成时间对应的日志的存储地址。
3.如权利要求2所述的电子装置，其特征在于，所述索引包括初始查询地址及结束查询地址，所述预先确定的索引生成规则包括：
获取所述预先确定的日志存储文件的初始存储地址及结束存储地址，计算所述初始存储地址及所述结束存储地址的中间存储地址；
获取所述中间存储地址存储的日志，判断获取的日志对应的日志生成时间与查询时间之间的大小关系；
若获取的日志生成时间大于查询时间，则设置所述初始查询地址为所述初始存储地址，定义所述结束查询地址为该中间存储地址；
若获取的日志生成时间小于查询时间，则设置所述初始查询地址为该中间存储地址，设置所述结束查询地址为所述结束存储地址。
4.如权利要求1所述的电子装置，其特征在于，所述获取分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址的步骤包括：
基于springwebmvc架构在预先确定的所述分布式系统的控制中心上构建controller接口；
向所述controller接口发送调用日志请求；
接收所述controller接口返回的调用预先安装在所述分布式系统的各服务器上的预设类型日志收集系统收集的所述分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址。
5.如权利要求1-4任一项所述的电子装置，其特征在于，所述预设类型关键字包括操作关键字和业务关键字，所述查询关键字包括操作关键字和业务关键字。
6.一种分布式系统日志查询方法，其特征在于，所述方法包括如下步骤：
S1、实时获取分布式系统中各个应用程序对应日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址，生成获取的日志生成时间与所述存储地址之间的映射关系，将所述映射关系存储在预先确定的数据库中；
S2、在接收到客户端发送的带有查询参数的日志查询指令后，根据预先确定的日志查询规则分析所述查询参数与所述映射关系，确定与查询时间相匹配的日志生成时间对应的日志的存储地址，所述查询参数包括所述查询时间；
S3、获取确定的存储地址中存储的日志，基于所述查询关键字遍历获取的日志，查询出与所述查询关键字相匹配的预设类型关键字，并将相匹配的预设类型关键字对应的日志返回该客户端，所述查询参数还包括查询关键字，所述日志包括预设类型关键字。
7.如权利要求6所述的分布式系统日志查询方法，其特征在于，所述预先确定的日志查询规则包括：
若从所述预先确定的数据库中搜索出与所述查询时间相匹配的日志生成时间，则根据所述日志生成时间与所述存储地址之间的映射关系，确定该日志生成时间对应的日志的存储地址；
若从所述预先确定的数据库中搜索不出与所述查询时间相匹配的日志生成时间，则根据预先确定的索引生成规则生成所述预先确定的日志存储文件的存储地址的索引；
基于所述索引遍历所述预先确定的日志存储文件的存储地址，查询出与所述查询时间相匹配的日志生成时间对应的日志的存储地址。
8.如权利要求6所述的分布式系统日志查询方法，其特征在于，所述索引包括初始查询地址及结束查询地址，所述预先确定的索引生成规则包括：
获取所述预先确定的日志存储文件的初始存储地址及结束存储地址，计算所述初始存储地址及所述结束存储地址的中间存储地址；
获取所述中间存储地址存储的日志，判断获取的日志对应的日志生成时间与查询时间之间的大小关系；
若获取的日志生成时间大于查询时间，则设置所述初始查询地址为所述初始存储地址，定义所述结束查询地址为该中间存储地址；
若获取的日志生成时间小于查询时间，则设置所述初始查询地址为该中间存储地址，设置所述结束查询地址为所述结束存储地址。
9.如权利要求6所述的分布式系统日志查询方法，其特征在于，所述获取分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址的步骤包括：
基于springwebmvc架构在预先确定的所述分布式系统的控制中心上构建controller接口；
向所述controller接口发送调用日志请求；
接收所述controller接口返回的调用预先安装在所述分布式系统的各服务器上的预设类型日志收集系统收集的所述分布式系统中日志的生成时间及所述日志在预先确定的日志存储文件中的存储地址。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有分布式系统日志查询程序，所述分布式系统日志查询程序可被至少一个处理器执行，以使所述至少一个处理器执行如权利要求6-9中任一项所述分布式系统日志查询方法的步骤。
CN201810042991.8A 2018-01-17 2018-01-17 电子装置、分布式系统日志查询方法及存储介质 Active CN108427705B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201810042991.8A CN108427705B (zh) 2018-01-17 2018-01-17 电子装置、分布式系统日志查询方法及存储介质
PCT/CN2018/089452 WO2019140828A1 (zh) 2018-01-17 2018-06-01 电子装置、分布式系统日志查询方法及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810042991.8A CN108427705B (zh) 2018-01-17 2018-01-17 电子装置、分布式系统日志查询方法及存储介质

Publications (2)

Publication Number Publication Date
CN108427705A true CN108427705A (zh) 2018-08-21
CN108427705B CN108427705B (zh) 2022-04-12

Family

ID=63155975

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810042991.8A Active CN108427705B (zh) 2018-01-17 2018-01-17 电子装置、分布式系统日志查询方法及存储介质

Country Status (2)

Country Link
CN (1) CN108427705B (zh)
WO (1) WO2019140828A1 (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109687991A (zh) * 2018-09-07 2019-04-26 平安科技（深圳）有限公司 用户行为识别方法、装置、设备及存储介质
CN110134615A (zh) * 2019-04-10 2019-08-16 百度在线网络技术（北京）有限公司 应用程序获取日志数据的方法及装置
CN110309150A (zh) * 2019-06-14 2019-10-08 杭州迪普科技股份有限公司 一种日志存储、查询方法及装置
CN110457363A (zh) * 2019-07-05 2019-11-15 中国平安人寿保险股份有限公司 基于分布式数据库的查询方法、装置及存储介质
CN110727641A (zh) * 2019-10-21 2020-01-24 中国民航信息网络股份有限公司 一种日志的查找方法及装置
CN110955757A (zh) * 2019-12-06 2020-04-03 阳光电源股份有限公司 光伏电站设备日志检索方法和系统
CN110990362A (zh) * 2019-11-15 2020-04-10 浙江大搜车软件技术有限公司 日志查询处理方法、装置、计算机设备和存储介质
CN111581172A (zh) * 2020-05-09 2020-08-25 深圳市卡数科技有限公司 运行日志的查询方法、系统、服务器及存储介质
CN111698109A (zh) * 2019-03-14 2020-09-22 北京京东尚科信息技术有限公司 监控日志的方法和装置
CN111813756A (zh) * 2019-04-12 2020-10-23 北京嘀嘀无限科技发展有限公司 一种日志检索系统、方法、装置、电子设备及存储介质
CN112084193A (zh) * 2020-09-04 2020-12-15 山东英信计算机技术有限公司 一种日志查询方法、日志存储方法以及相关设备
CN112685329A (zh) * 2019-10-17 2021-04-20 云丁网络技术(北京)有限公司 用于处理数据的方法及相关装置
CN115225345A (zh) * 2022-06-29 2022-10-21 济南浪潮数据技术有限公司 一种日志下载方法、装置及其介质

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111400368B (zh) * 2020-03-06 2023-12-12 网宿科技股份有限公司 一种分布式服务器系统的日志查找方法及装置
CN111522922B (zh) * 2020-03-26 2023-08-22 浙江口碑网络技术有限公司 日志信息查询方法、装置、存储介质及计算机设备
CN111522714A (zh) * 2020-04-20 2020-08-11 京东数字科技控股有限公司 日志查询方法、装置、电子设备及存储介质
CN112214465A (zh) * 2020-10-19 2021-01-12 珠海金山网络游戏科技有限公司 日志存储系统及方法
CN112732665B (zh) * 2021-01-04 2022-10-18 歌尔股份有限公司 基于Linux平台的日志处理方法、系统及存储介质
CN112835856A (zh) * 2021-02-01 2021-05-25 长沙市到家悠享网络科技有限公司 一种日志数据查询方法及装置、设备、介质
CN112905548B (zh) * 2021-03-25 2023-12-08 昆仑数智科技有限责任公司 一种安全审计系统及方法
CN114785677B (zh) * 2022-04-22 2023-12-22 武汉联影医疗科技有限公司 日志管理方法、装置、计算机设备、存储介质和程序产品

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101944115A (zh) * 2010-09-14 2011-01-12 杭州海康威视数字技术股份有限公司 一种日志搜索方法和系统
CN102136005A (zh) * 2011-03-29 2011-07-27 北京航空航天大学 数据查询方法和装置
CN102929936A (zh) * 2012-09-26 2013-02-13 东软集团股份有限公司 日志记录方法、日志查询方法及系统
CN103177116A (zh) * 2013-04-08 2013-06-26 国电南瑞科技股份有限公司 一种基于两级索引的分布式日志处理和查询方法
CN103617287A (zh) * 2013-12-12 2014-03-05 用友软件股份有限公司 一种分布式环境下的日志管理方法和装置
CN103853743A (zh) * 2012-11-29 2014-06-11 百度在线网络技术（北京）有限公司 一种分布式系统及其日志查询方法
CN104252536A (zh) * 2014-09-16 2014-12-31 福建新大陆软件工程有限公司 一种基于hbase的上网日志数据查询方法及装置
CN104281672A (zh) * 2014-09-28 2015-01-14 网神信息技术（北京）股份有限公司 日志数据的处理方法和装置
US9087090B1 (en) * 2014-07-31 2015-07-21 Splunk Inc. Facilitating execution of conceptual queries containing qualitative search terms
CN105335406A (zh) * 2014-07-30 2016-02-17 阿里巴巴集团控股有限公司 日志数据处理方法及装置
CN106682210A (zh) * 2016-12-30 2017-05-17 广州华多网络科技有限公司 日志文件查询方法及装置
US20170169078A1 (en) * 2015-12-14 2017-06-15 Siemens Aktiengesellschaft Log Mining with Big Data
CN106992886A (zh) * 2017-04-05 2017-07-28 国家电网公司 一种基于分布式存储的日志分析方法及装置

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101944115A (zh) * 2010-09-14 2011-01-12 杭州海康威视数字技术股份有限公司 一种日志搜索方法和系统
CN102136005A (zh) * 2011-03-29 2011-07-27 北京航空航天大学 数据查询方法和装置
CN102929936A (zh) * 2012-09-26 2013-02-13 东软集团股份有限公司 日志记录方法、日志查询方法及系统
CN103853743A (zh) * 2012-11-29 2014-06-11 百度在线网络技术（北京）有限公司 一种分布式系统及其日志查询方法
CN103177116A (zh) * 2013-04-08 2013-06-26 国电南瑞科技股份有限公司 一种基于两级索引的分布式日志处理和查询方法
CN103617287A (zh) * 2013-12-12 2014-03-05 用友软件股份有限公司 一种分布式环境下的日志管理方法和装置
CN105335406A (zh) * 2014-07-30 2016-02-17 阿里巴巴集团控股有限公司 日志数据处理方法及装置
US9087090B1 (en) * 2014-07-31 2015-07-21 Splunk Inc. Facilitating execution of conceptual queries containing qualitative search terms
CN104252536A (zh) * 2014-09-16 2014-12-31 福建新大陆软件工程有限公司 一种基于hbase的上网日志数据查询方法及装置
CN104281672A (zh) * 2014-09-28 2015-01-14 网神信息技术（北京）股份有限公司 日志数据的处理方法和装置
US20170169078A1 (en) * 2015-12-14 2017-06-15 Siemens Aktiengesellschaft Log Mining with Big Data
CN106682210A (zh) * 2016-12-30 2017-05-17 广州华多网络科技有限公司 日志文件查询方法及装置
CN106992886A (zh) * 2017-04-05 2017-07-28 国家电网公司 一种基于分布式存储的日志分析方法及装置

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109687991A (zh) * 2018-09-07 2019-04-26 平安科技（深圳）有限公司 用户行为识别方法、装置、设备及存储介质
CN111698109A (zh) * 2019-03-14 2020-09-22 北京京东尚科信息技术有限公司 监控日志的方法和装置
CN110134615A (zh) * 2019-04-10 2019-08-16 百度在线网络技术（北京）有限公司 应用程序获取日志数据的方法及装置
CN111813756A (zh) * 2019-04-12 2020-10-23 北京嘀嘀无限科技发展有限公司 一种日志检索系统、方法、装置、电子设备及存储介质
CN110309150A (zh) * 2019-06-14 2019-10-08 杭州迪普科技股份有限公司 一种日志存储、查询方法及装置
CN110457363A (zh) * 2019-07-05 2019-11-15 中国平安人寿保险股份有限公司 基于分布式数据库的查询方法、装置及存储介质
CN110457363B (zh) * 2019-07-05 2023-11-21 中国平安人寿保险股份有限公司 基于分布式数据库的查询方法、装置及存储介质
CN112685329A (zh) * 2019-10-17 2021-04-20 云丁网络技术(北京)有限公司 用于处理数据的方法及相关装置
CN110727641A (zh) * 2019-10-21 2020-01-24 中国民航信息网络股份有限公司 一种日志的查找方法及装置
CN110727641B (zh) * 2019-10-21 2023-10-27 中国民航信息网络股份有限公司 一种日志的查找方法及装置
CN110990362A (zh) * 2019-11-15 2020-04-10 浙江大搜车软件技术有限公司 日志查询处理方法、装置、计算机设备和存储介质
CN110955757A (zh) * 2019-12-06 2020-04-03 阳光电源股份有限公司 光伏电站设备日志检索方法和系统
CN111581172A (zh) * 2020-05-09 2020-08-25 深圳市卡数科技有限公司 运行日志的查询方法、系统、服务器及存储介质
CN111581172B (zh) * 2020-05-09 2023-11-07 深圳市卡数科技有限公司 运行日志的查询方法、系统、服务器及存储介质
CN112084193A (zh) * 2020-09-04 2020-12-15 山东英信计算机技术有限公司 一种日志查询方法、日志存储方法以及相关设备
CN115225345A (zh) * 2022-06-29 2022-10-21 济南浪潮数据技术有限公司 一种日志下载方法、装置及其介质

Also Published As

Publication number Publication date
CN108427705B (zh) 2022-04-12
WO2019140828A1 (zh) 2019-07-25

Similar Documents

Publication Publication Date Title
CN108427705A (zh) 电子装置、分布式系统日志查询方法及存储介质
CN108388599B (zh) 电子装置、数据迁移及调用方法及存储介质
CN108520454A (zh) 实时回调订单的方法和系统
CN110557284B (zh) 基于客户端网关的数据聚合方法及装置
CN111414407A (zh) 数据库的数据查询方法、装置、计算机设备及存储介质
CN109240946A (zh) 数据的多级缓存方法及终端设备
US10963888B2 (en) Payment complaint method, device, server and readable storage medium
CN108494771A (zh) 电子装置、防火墙开通验证方法及存储介质
CN106933871A (zh) 短链接处理方法、装置及短链接服务器
CN103368986A (zh) 一种信息推荐方法及信息推荐装置
CN102141925A (zh) 使用第三方目标状态的适用性检测
CN109636582A (zh) 信贷信息管理方法、装置、设备和存储介质
CN108415925A (zh) 电子装置、数据调用日志生成及查询方法及存储介质
CN110335111A (zh) 数据处理方法、系统、终端及服务器
CN108429783A (zh) 电子装置、配置文件推送方法及存储介质
CN113515549B (zh) 财务数据查询方法、装置及可读存储介质
CN106161519B (zh) 一种信息获取方法和装置
CN108564462A (zh) 征信数据的获取方法、终端设备及介质
CN109814896A (zh) 服务器升级方法、装置、计算机系统及可读存储系统
CN110533286A (zh) 基于区块链的联盟成员管理方法、装置以及计算机设备
CN108243254A (zh) 电子装置、应用升级版本发布的方法及存储介质
CN110473097A (zh) 交易监控方法、终端和计算机可读存储介质
CN107967305A (zh) 影像文件上传方法、服务器及可读存储介质
CN108427701A (zh) 基于操作页面识别帮助信息的方法及应用服务器
CN112035676A (zh) 用户操作行为知识图谱构建方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant