CN114500254A - 历史日志收集方法、装置与存储介质 - Google Patents
历史日志收集方法、装置与存储介质 Download PDFInfo
- Publication number
- CN114500254A CN114500254A CN202210142652.3A CN202210142652A CN114500254A CN 114500254 A CN114500254 A CN 114500254A CN 202210142652 A CN202210142652 A CN 202210142652A CN 114500254 A CN114500254 A CN 114500254A
- Authority
- CN
- China
- Prior art keywords
- server
- target
- log
- storage path
- history log
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
- G06F16/1815—Journaling file systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
- H04L9/32—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials
- H04L9/3236—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials using cryptographic hash functions
- H04L9/3239—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials using cryptographic hash functions involving non-keyed hash functions, e.g. modification detection codes [MDCs], MD5, SHA or RIPEMD
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本申请涉及计算机技术领域,本申请提供一种历史日志收集方法、装置与存储介质,方法包括:所述第一服务器接收第二服务器发送的日志收集请求,所述日志收集请求用于请求获取满足目标条件的历史日志;所述第一服务器根据所述目标条件确定至少一个目标存储路径,并分别从各个所述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,所述目标设备是属于所述多个设备中的设备;所述第一服务器向所述第二服务器发送所述历史日志。实施本申请,可以按照需求获取历史日志,不用实时上传所有日志,减少了带宽占用,节约了带宽扩容费用。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种历史日志收集方法、装置与存储介质。
背景技术
随着kubernetes的技术越发成熟,许多公司选择kubernetes来作为容器化的重要手段,但是由于容器化应用和常规服务器应用的差别比较大,所以历史日志归档成了一大难题。
目前,业内常用kubernetes日志中心架构为EFK,E代表elasticsearch(日志存储),F代表为Fluentd或者filebeat(日志收集工具),K代表为kibana(日志查询页面),这是一种完全依赖日志上传到日志中心的方案,系统将日志实时上传到日志中心,日志中心再把实时日志按照需求归档为历史日志。
但是,实时日志会把产生的所有日志文件全部实时传输到日志中心,占用了大量带宽。
发明内容
基于此,有必要针对上述技术问题,提供一种历史日志收集方法、装置与存储介质,能够按照需求获取历史日志,不用实时上传所有日志,减少了带宽占用,节约了带宽扩容费用。
第一方面,本申请提供一种历史日志收集方法,所述方法包括:
所述第一服务器接收第二服务器发送的日志收集请求,所述日志收集请求用于请求获取满足目标条件的历史日志;
所述第一服务器根据所述目标条件确定至少一个目标存储路径,并分别从各个所述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,所述目标设备是属于所述多个设备中的设备;
所述第一服务器向所述第二服务器发送所述历史日志。
结合第一方面,在一些实施例中,所述日志收集请求包括目标组件的组件名称和所述目标组件的运行轨迹,所述运行轨迹为运行所述目标组件的至少一个目标设备;
所述日志收集请求用于请求获取所述至少一个目标设备在运行所述目标组件时所产生的日志;
所述第一服务器根据所述目标条件确定至少一个目标存储路径,包括:
所述第一服务器根据所述运行轨迹和所述组件名称,确定所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径;
所述第一服务器将所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径作为所述至少一个目标存储路径。
结合第一方面,在一些实施例中,在所述第一服务器根据所述运行轨迹和所述组件名称,确定所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径之前,所述方法还包括:
所述第一服务器从所述目标设备接收上报信息,所述上报信息用于指示所述目标设备中用于存储运行所述目标组件时所产生日志的存储路径;
所述第一服务器根据所述运行轨迹和所述组件名称,确定所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径,包括:
所述第一服务器根据所述运行轨迹中包含的至少一个所述目标设备和所述目标设备的所述上报信息,确定所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径。
结合第一方面,在一些实施例中,在所述第一服务器向所述第二服务器发送所述历史日志之前,所述方法还包括:
所述第一服务器判断所述历史日志在所述第二服务器中是否存在,在不存在的情况下,将所述历史日志拷贝并压缩到临时目录;
所述第一服务器向所述第二服务器发送所述历史日志,包括:
所述第一服务器向所述第二服务器发送所述临时目录。
结合第一方面,在一些实施例中,所述第一服务器判断所述历史日志在所述第二服务器中是否存在,包括:
所述第一服务器采用密码杂凑函数对所述历史日志进行处理,获得所述历史日志对应的目标密码杂凑参数;
所述第一服务器将所述目标密码杂凑参数发送给所述第二服务器;
所述第一服务器接收所述第二服务器发送的反馈信息,所述反馈信息用于指示所述第二服务器中是否存在与所述目标密码杂凑参数相同的密码杂凑参数;
若所述反馈信息指示所述第二服务器中存在与所述目标密码杂凑参数相同的密码杂凑参数,则确定所述历史日志在所述第二服务器已经存在;
若所述反馈信息指示所述第二服务器中不存在与所述目标密码杂凑参数相同的密码杂凑参数,则所述第一服务器确定所述历史日志在所述第二服务器中不存在。
结合第一方面,在一些实施例中,在所述第一服务器向所述第二服务器发送所述临时目录之后,还包括:
所述第一服务器向消息中间件发送指示信息,所述指示信息用于指示所述第一服务器完成向所述第二服务器发送所述历史日志的日志收集任务,以使所述消息中间件向所述第二服务器转发所述指示信息。
结合第一方面,在一些实施例中,在所述第一服务器向消息中间件发送指示信息,所述指示信息用于指示所述第一服务器完成向所述第二服务器发送所述历史日志的日志收集任务,以使所述消息中间件向所述第二服务器转发所述指示信息之后,还包括:
所述第一服务器接收所述消息中间件转发的接收完成信息,所述接收完成信息用于指示所述第二服务器完成接收所述第一服务器发送的所述临时目录的任务;
所述第一服务器依据所述接收完成信息删除所述临时目录。
第二方面,本申请提供一种历史日志收集装置,所述装置包括:
第一接收单元,用于接收第二服务器发送的日志收集请求,所述日志收集请求用于请求获取满足目标条件的历史日志;
获取单元,用于根据所述目标条件确定至少一个目标存储路径;并分别从各个所述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,所述目标设备是属于所述多个设备中的设备;
第一发送单元,用于向所述第二服务器发送所述历史日志。
结合第二方面,在一些实施例中,所述装置还包括:
第二接收单元,用于从所述目标设备接收上报信息,所述上报信息用于指示所述目标设备中用于存储运行所述目标组件时所产生日志的存储路径;
判断单元,用于判断所述历史日志在所述第二服务器中是否存在,在不存在的情况下,将所述历史日志拷贝并压缩到临时目录;
第二发送单元,用于向消息中间件发送指示信息,所述指示信息用于指示所述第一服务器完成向所述第二服务器发送所述历史日志的日志收集任务,以使所述消息中间件向所述第二服务器转发所述指示信息;
第三接收单元,用于接收所述消息中间件转发的接收完成信息,所述接收完成信息用于指示所述第二服务器完成接收所述第一服务器发送的所述临时目录的任务;
删除单元,用于依据所述接收完成信息删除所述临时目录。
第三方面,本申请提供另一种历史日志收集装置,其特征在于,包括处理器、存储器以及通信接口,所述处理器、存储器和通信接口相互连接,其中,所述通信接口用于接收和发送数据,所述存储器用于存储计算机程序,所述处理器用于调用所述计算机程序,执行如第一方面以及第一方面中任一可能的实现方式描述的方法。
第四方面,本申请提供一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序;当所述计算机程序在一个或多个处理器上运行时,执行如第一方面以及第一方面中任一可能的实现方式描述的方法。
本申请实施例中,第一服务器接收第二服务器发送的日志收集请求,日志收集请求是用于请求获取满足目标条件的历史日志;第一服务器根据目标条件确定至少一个目标存储路径,并分别从各个目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,目标设备是属于上述多个设备中的设备;第一服务器向第二服务器发送上述历史日志。第一服务器按照第二服务器的收集请求收集上传满足目标条件的日志作为历史日志,实现了历史日志的按需收集和上传,不必实时上传所有日志,减少带宽占用,降低了服务器负载,也节约了宽带扩容费用。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍。
图1为本申请实施例提供的一种历史日志收集方法的第一流程示意图;
图2为本申请实施例提供的一种历史日志收集方法的第二流程示意图;
图3为本申请实施例提供的一种历史日志收集方法的第三流程示意图;
图4为本申请实施例提供的一种历史日志收集方法的系统示意图;
图5为本申请实施例提供的一种历史日志收集装置的示意图;
图6为本申请实施例提供的另一种历史日志收集装置的示意图。
具体实施方式
下面结合附图对本发明作进一步详细描述。
本申请以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”、“该”和“这一”旨在也包括复数表达形式,除非其上下文中明确地有相反指示。
在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上,“至少两个(项)”是指两个或三个及三个以上,“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”。
随着kubernetes(k8s)的技术越发成熟,许多公司选择kubernetes来作为容器化的重要手段,但是由于容器化应用和常规服务器应用的差别比较大,所以历史日志归档成了一大难题。
目前,业内常用kubernetes日志中心架构为EFK,E代表elasticsearch(日志存储),F代表为Fluentd或者filebeat(日志收集工具),K代表为kibana(日志查询页面),这是一种完全依赖日志上传到日志中心的方案,系统将日志实时上传到日志中心,日志中心再把实时日志按照需求归档为历史日志。
但是,实时日志会把产生的所有日志文件全部实时传输到日志中心,占用了大量带宽。
针对上述问题,本发明实施例提供了一种历史日志收集方法、装置与存储介质,下面将结合附图1-附图4,对本发明实施例提供的一种历史日志收集方法进行详细介绍。
请参见图1,为本申请实施例提供的一种历史日志收集方法的第一流程示意图。如图1所示,本发明实施例的历史日志收集方法可以包括以下步骤S101-步骤S103。
S101,上述第一服务器接收第二服务器发送的日志收集请求,上述日志收集请求用于请求获取满足目标条件的历史日志。
本申请实施例中,第一服务器包括应用服务器,可以是部署在设备上的服务器,也可以是外设服务器,上述第一服务器包括探针(agent),探针提供日志搜索服务是收集和搬运日志的主要工具,另外,上述第一服务器管理一个或多个设备,这些设备包括电脑、移动电话等;第二服务器是存储历史日志的目的地,包括kubernetes日志中心,或者其他可以存储历史日志的服务器,上述第二服务器包括后台(backend),后台可以调度日志探针,会监测和记录k8s中每个pod的运行轨迹。
具体的,第一服务器接收第二服务器发送的日志收集请求,日志收集请求包括要收集的历史日志的目标条件,第一服务器根据日志收集请求获取满足目标条件的日志文件作为历史日志。
可选的,上述日志收集请求包括目标组件的组件名称和上述目标组件的运行轨迹,上述运行轨迹为运行上述目标组件的至少一个目标设备;
上述日志收集请求用于请求获取上述至少一个目标设备在运行上述目标组件时所产生的日志。
本申请实施例中,上述组件是k8s中的pod,上述pod可能会在一个或多个设备上运行,上述运行轨迹是指pod在哪些设备上运行过。
具体的,由于第二服务器一直监测每个pod的运行轨迹,当第二服务器需要历史日志时,就会发送日志收集请求给第一服务器,上述日志收集请求含有产生需要的历史日志的组件的组件名称和运行轨迹;上述日志收集请求用于请求获取上述至少一个目标设备在运行上述目标组件时所产生的日志,因为上述组件可能在多个设备被运行,所以目标设备至少有一个也可能是多个。
S102,上述第一服务器根据上述目标条件确定至少一个目标存储路径,并分别从各个上述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,上述目标设备是属于上述多个设备中的设备。
本申请实施例中,上述目标存储路径是指历史日志根据产生源头被分类存储的路径,该路径包括产生该历史日志的设备和组件,例如组件A在设备E1上运行产生的日志,对应存储路径就是E1:\logs\podA,也可以在这个路径对应的文件夹中对上述日志按照不同功能分类存储;上述多个设备是上述第一服务器管理的设备。
具体的,上述第一服务器根据上述目标条件确定至少一个目标存储路径,因为上述目标存储路径包括目标设备信息,所以能分别从各个上述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,上述目标设备是属于上述多个设备中的设备。
可选的,上述第一服务器根据上述目标条件确定至少一个目标存储路径,包括:
上述第一服务器根据上述运行轨迹和上述组件名称,确定上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径;
上述第一服务器将上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径作为上述至少一个目标存储路径。
具体的,因为上述运动轨迹是运行所过上述目标组件的设备,只要获得了组件名称和运行轨迹,上述第一服务器就可确定目标设备,同时还有组件名称,上述第一服务器就确定了目标存储路径,因为运行所过上述目标组件的设备不止一个或者需要收集的上述目标组件不止一个,那么对应的目标存储路径就不止一个。
例如,现在目标组件的组件名称为podA,运行轨迹包括:E1、E2、E3,那对应的目标设备就是E1、E2、E3,因为本实施例中每个设备的日志存储在一个约定的文件夹下,例如是logs,那根据组件名称和运行轨迹可以确定对应目标存储路径为:E1:\logs\podA;E2:\logs\podA;E3:\logs\podA。
又例如,现在目标组件名称还包括podB,运行轨迹包括:E1、E4,那对应目标存储路径还包括:E1:\logs\podB;E4:\logs\podB。
在确定目标存储路径后,第一服务器的探针根据目标存储路径去对应设备收集日志,如果上述日志收集请求只包括组件名称和运行轨迹,那探针直接搬运上述目标存储路径对应文件夹中的所有日志,作为历史日志;但是如果还包含其他条件如:任务开始时间、日志产生时段等条件,就需要探针根据条件筛选上述目标存储路径对应文件夹中的日志文件作为历史日志,例如:任务开始时间为晚上12点,日志产生时段为下午3-5点,那么探针就会在晚上12点去上述目标存储路径的对应设备,在对应设备中的目标存储路径对应文件夹中筛选下午3-5点产生的日志文件作为历史日志。
S103,上述第一服务器向上述第二服务器发送上述历史日志。
具体的,上述第一服务器将在上述目标设备的目标存储路径的对应文件夹中找到的历史日志发送给第二服务器。
本申请实施例中,第一服务器根据第二服务器发送的日志收集请求,按需收集日志作为历史日志发送给第二服务器,实现了历史日志的按需收集和分类存储,也可以定时定点发送历史日志,定点发送日志使得服务器可以在空闲时段上传历史日志降低了服务器繁忙时因日志传输产生业务故障的可能性;本申请实施例替代了现有利用实时上传的日志直接作为历史日志的业内惯用手段,使得无需实时上传所有日志,减少了带宽占用,节约了带宽扩容费用,而且实现了对历史日志的分类归档降低了运维工作量,还因为不用实时上传日志,将用于实时上传日志的日志采集工具剥离出容器,使镜像更加轻量;本申请实施例将现有的实时上传日志归档架构和历史日志归档架构解耦,历史日志不再依赖实时日志,避免了实时日志上下游依赖复杂导致很难保证日志的完整性的问题,提升了历史日志的准确率。
同时在本申请实施例中,通过日志保存为文件进行传输归档,不用担心日志条数的丢失,保证了数据的完整性。
请参见图2,为本申请实施例提供的一种历史日志收集方法的第二流程示意图。如图2所示,本发明实施例的上述历史日志收集方法可以包括以下步骤S201-步骤S204。
S201,上述第一服务器接收第二服务器发送的日志收集请求,上述日志收集请求用于请求获取满足目标条件的历史日志。
本申请实施例步骤S201请参照图1实施例的步骤S101,在此不再赘述。
S202,上述第一服务器从上述目标设备接收上报信息,上述上报信息用于指示上述目标设备中用于存储运行上述目标组件时所产生日志的存储路径;
上述第一服务器根据上述运行轨迹和上述组件名称,确定上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径,包括:
上述第一服务器根据上述运行轨迹中包含的至少一个上述目标设备和上述目标设备的上述上报信息,确定上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径。
具体的,在各个设备将各个组件产生的日志按照组件名称分类存储在同一个存储路径后,向上述第一服务器上报信息,上述第一服务器接收上报信息并记录其中的存储路径。例如:E4设备将组件C产生日志存放在E4:\logs\podC这个存储路径的文件夹中,E4设备就将E4:\logs\podC这个信息上报给第一服务器。
S203,上述第一服务器根据上述目标条件确定至少一个目标存储路径,并分别从各个上述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,上述目标设备是属于上述多个设备中的设备。
本申请实施例步骤S203请参照图1实施例的步骤S102,在此不再赘述。
可选的,上述第一服务器根据上述运行轨迹和上述组件名称,确定上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径,包括:
上述第一服务器根据上述运行轨迹中包含的至少一个上述目标设备和上述目标设备的上述上报信息,确定上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径。
具体的,在第一服务器接收上报信息和第二服务器发来的包含组件运行轨迹的日志收集请求后,就可以直接将运行轨迹的设备与上报信息设备对比,再结合组件名称就可以确定至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径。例如现在组件C运行轨迹是E4设备,那第一服务器根据运行轨迹的E4设备和组件C名称podC,上报信息有对应路径E4:\logs\podC,上述对应路径E4:\logs\podC就是日志的存储路径。
S204,上述第一服务器向上述第二服务器发送上述历史日志。
本申请实施例步骤S204请参照图1实施例的步骤S103,在此不再赘述。
本申请实施例中,各个设备向第一服务器上报日志文件存储信息,方便了上述第一服务器管理下设的设备和监测日志生成情况,第一服务器在接收到第二服务器发送的日志收集请求后,不用和多个设备通信就可以直接确定存储路径,使收集流程更加简洁,降低了确定目标存储路径的难度;另外各个设备将产生的日志存放在一个约定路径下,减轻了探针的寻址和寻找目标日志文件的难度,减少了访问k8s中每个组件的次数,也解决了历史日志文件目录定位的困难的问题。
请参见图3,为本申请实施例提供的一种历史日志收集方法的第三流程示意图。如图3所示,本发明实施例的上述历史日志收集方法可以包括以下步骤S301-步骤S306。
S301,上述第一服务器接收第二服务器发送的日志收集请求,上述日志收集请求用于请求获取满足目标条件的历史日志。
S302,上述第一服务器从上述目标设备接收上报信息,上述上报信息用于指示上述目标设备中用于存储运行上述目标组件时所产生日志的存储路径。
S303,上述第一服务器根据上述目标条件确定至少一个目标存储路径,并分别从各个上述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,上述目标设备是属于上述多个设备中的设备。
本申请实施例步骤S301-步骤S303请参照图2实施例的步骤S201-步骤S203,在此不再赘述。
S304,上述第一服务器判断上述历史日志在上述第二服务器中是否存在,在不存在的情况下,将上述历史日志拷贝并压缩到临时目录。
具体的,上述第一服务器向上述第二服务器发送历史日志的验证信息,第二服务器根据验证信息判断是否有上述历史日志,如果没有就发信息给第一服务器,第一服务器的探针将不在第二服务器中的日志文件拷贝到临时目录,并压缩,压缩时保留存储路径,例如日志文件的存储路径为E4:\logs\podC,那么日志文件在临时目录压缩后路径仍为E4:\logs\podC;如果第二服务器中有上述历史日志,上述第一服务器就不会发送上述历史日志给第二服务器。
可选的,上述第一服务器判断上述历史日志在上述第二服务器中是否存在,包括:
上述第一服务器采用密码杂凑函数对上述历史日志进行处理,获得上述历史日志对应的目标密码杂凑参数;
上述第一服务器将上述目标密码杂凑参数发送给上述第二服务器;
上述第一服务器接收上述第二服务器发送的反馈信息,上述反馈信息用于指示上述第二服务器中是否存在与上述目标密码杂凑参数相同的密码杂凑参数;
若上述反馈信息指示上述第二服务器中存在与上述目标密码杂凑参数相同的密码杂凑参数,则确定上述历史日志在上述第二服务器已经存在;
若上述反馈信息指示上述第二服务器中不存在与上述目标密码杂凑参数相同的密码杂凑参数,则上述第一服务器确定上述历史日志在上述第二服务器中不存在。
本申请实施例中,密码杂凑函数是讯息摘要演算法(Message-Digest Algorithm,MD5),是一种被广泛使用的密码杂凑函数,可以产生出一个128位元(16位元组)的散列值(hash value),用于确保信息传输完整一致。
具体的,上述第一服务器采用密码杂凑函数对上述历史日志进行处理,获得上述历史日志对应的目标密码杂凑参数,就是日志文件的MD5,每个日志文件有唯一的MD5,上述第一服务器向第二服务器发送上述历史日志的MD5,第二服务器判断上述历史日志的MD5是否存在,若上述历史日志的MD5存在,则确定上述历史日志在上述第二服务器已经存在,向第一服务器发送存在信息;若上述历史日志的MD5不存在,则确定上述历史日志在上述第二服务器中不存在,向第一服务器发送不存在信息。
S305,上述第一服务器向上述第二服务器发送上述临时目录。
具体的,上述第一服务器向上述第二服务器发送步骤S304获得的临时目录,发送上述临时目录的过程会根据带宽的实际情况进行限速处理,避免数据丢失。
S306,上述第一服务器向消息中间件发送指示信息,上述指示信息用于指示上述第一服务器完成向上述第二服务器发送上述历史日志的日志收集任务,以使上述消息中间件向上述第二服务器转发上述指示信息。
本申请实施例中,上述消息中间件包括kafka,是一个分布式、分区的、多副本的、多订阅者的消息发布订阅系统,kafka为消息中间件的一种可能情况,也可采用其他消息发布订阅系统。
具体的,上述第一服务器在发送完上述临时目录后,向消息中间件发送指示信息,上述消息中间件向上述第二服务器转发上述指示信息。
S307,上述第一服务器接收上述消息中间件转发的接收完成信息,上述接收完成信息用于指示上述第二服务器完成接收上述第一服务器发送的上述临时目录的任务,上述第一服务器依据上述接收完成信息删除上述临时目录。
具体的,第二服务器在完成接收上述临时目录后,也会向消息中间件发送接收完成信息,消息中间件再向第一服务器转发上述接收完成信息,第一服务器接收上述接收完成信息后,删除上述临时目录,节约内存。
在第一服务器删除上述临时目录后,本次历史日志收集任务结束。
本申请实施例中,增加了判断历史日志是否上传的步骤,避免历史日志重复上传,将历史日志压缩到临时目录一起上传而不是逐一上传历史日志,减少了历史日志上传次数,降低了因多次上传出现数据错误的风险,另外第一服务器与第二服务器都向消息中间件发送历史日志传输详情,避免了第一服务器与第二服务器之间的传输出现问题如断网时,系统无法识别错误进行处理的问题,提高了数据传输的安全性。
为更好理解本申请实施例的历史日志收集方法,请参见图4,为本申请实施例提供的一种历史日志收集方法的系统示意图。如图4所示:
第二服务器向第一服务器发送日志收集请求,第一服务器根据收集请求确定历史日志的目标存储路径,第一服务器去目标存储路径对应设备获取目标日志文件,将上述目标日志文件的MD5发给第二服务器判断目标日志文件是否上传过,如果没有上传过,就将上述目标日志文件拷贝并压缩到临时目录,然后将临时目录发送给第二服务器,发送完成后向消息中间件发送临时目录传输完成的指示信息,消息中间件向第二服务器转发上述指示信息,第二服务器接收上述临时目录并且和指示信息比对,如果接收了全部临时目录没有遗漏或错误就向消息中间件发送接收完成信息,然后对临时目录进行解压,根据需要对历史日志进行归档,第一服务器接收消息中间件转发的确认信息后删除对应临时目录,历史日志收集任务结束。
请参照图5,为本申请实施例提供的一种历史日志收集装置的示意图,如图5所示,该历史日志收集装置50包括:
第一接收单元501,用于接收第二服务器发送的日志收集请求,上述日志收集请求用于请求获取满足目标条件的历史日志;
获取单元502,用于根据上述目标条件确定至少一个目标存储路径;并分别从各个上述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,上述目标设备是属于上述多个设备中的设备;
第一发送单元503,用于向上述第二服务器发送上述历史日志。
在一种可能的设计中,上述日志收集请求包括目标组件的组件名称和上述目标组件的运行轨迹,上述运行轨迹为运行上述目标组件的至少一个目标设备;
上述日志收集请求用于请求获取上述至少一个目标设备在运行上述目标组件时所产生的日志。
在一种可能的设计中,上述获取单元502,具体用于:
根据上述运行轨迹和上述组件名称,确定上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径;
上述第一服务器将上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径作为上述至少一个目标存储路径。
在一种可能的设计中,上述装置还包括:
第二接收单元504,用于从上述目标设备接收上报信息,上述上报信息用于指示上述目标设备中用于存储运行上述目标组件时所产生日志的存储路径;
判断单元505,用于判断上述历史日志在上述第二服务器中是否存在,在不存在的情况下,将上述历史日志拷贝并压缩到临时目录;
第二发送单元506,用于向消息中间件发送指示信息,上述指示信息用于指示上述第一服务器完成向上述第二服务器发送上述历史日志的日志收集任务,以使上述消息中间件向上述第二服务器转发上述指示信息;
第三接收单元507,用于接收上述消息中间件转发的接收完成信息,上述接收完成信息用于指示上述第二服务器完成接收上述第一服务器发送的上述临时目录的任务;
删除单元508,用于依据上述接收完成信息删除上述临时目录。
在一种可能的设计中,上述获取单元502,还具体用于:
上述第一服务器根据上述运行轨迹中包含的至少一个上述目标设备和上述目标设备的上述上报信息,确定上述至少一个目标设备中用于存储运行上述目标组件时所产生日志的存储路径。
在一种可能的设计中,第一发送单元503,具体用于:
向上述第二服务器发送上述临时目录。
在一种可能的设计中,上述判断单元505,具体用于:
上述第一服务器采用密码杂凑函数对上述历史日志进行处理,获得上述历史日志对应的目标密码杂凑参数;
上述第一服务器将上述目标密码杂凑参数发送给上述第二服务器;
上述第一服务器接收上述第二服务器发送的反馈信息,上述反馈信息用于指示上述第二服务器中是否存在与上述目标密码杂凑参数相同的密码杂凑参数;
若上述反馈信息指示上述第二服务器中存在与上述目标密码杂凑参数相同的密码杂凑参数,则确定上述历史日志在上述第二服务器已经存在;
若上述反馈信息指示上述第二服务器中不存在与上述目标密码杂凑参数相同的密码杂凑参数,则上述第一服务器确定上述历史日志在上述第二服务器中不存在。
其中,图5所示装置实施例的具体描述可以参照前述图1、图2或图3所示方法实施例的具体说明,在此不进行赘述。
请参照图6,为本申请实施例提供的另一种历史日志收集装置的结构示意图,如图6所示,该历史日志收集装置600可以包括:至少一个处理器601,例如CPU,至少一个通信接口603,存储器604,至少一个通信总线602。其中,通信总线602用于实现这些组件之间的连接通信。通信接口603可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器604可以是高速RAM存储器,也可以是非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。存储器604可选的还可以是至少一个位于远离前述处理器601的存储装置。如图6所示,作为一种计算机存储介质的存储器604中可以包括操作系统、网络通信单元以及程序指令。
在图6所示的历史日志收集装置600中,处理器601可以用于加载存储器604中存储的程序指令,并具体执行以下操作:
上述第一服务器接收第二服务器发送的日志收集请求,上述日志收集请求用于请求获取满足目标条件的历史日志;
上述第一服务器根据上述目标条件确定至少一个目标存储路径,并分别从各个上述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,上述目标设备是属于上述多个设备中的设备;
上述第一服务器向上述第二服务器发送上述历史日志。
需要说明的是,具体执行过程可以参见图1、图2或图3所示方法实施例的具体说明,在此不进行赘述。
本申请实施例还提供了一种计算机存储介质,上述计算机存储介质可以存储有多条指令,上述指令适于由处理器加载并执行如上述图1、图2或图3所示实施例的方法步骤,具体执行过程可以参见图1、图2或图3所示实施例的具体说明,在此不进行赘述。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行该计算机程序指令时,全部或部分地产生按照本申请实施例该的流程或功能。该计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。该计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,该计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。该可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如DVD)、或者半导体介质(例如固态硬盘)等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,该流程可以由计算机程序来指令相关的硬件完成,该程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法实施例的流程。而前述的存储介质包括:ROM或随机存储记忆体RAM、磁碟或者光盘等各种可存储程序代码的介质。
Claims (10)
1.一种历史日志收集方法,其特征在于,所述方法应用于通信系统,所述通信系统包括第一服务器和多个设备,所述第一服务器和所述多个设备处于同一局域网,所述方法包括:
所述第一服务器接收第二服务器发送的日志收集请求,所述日志收集请求用于请求获取满足目标条件的历史日志;
所述第一服务器根据所述目标条件确定至少一个目标存储路径,并分别从各个所述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,所述目标设备是属于所述多个设备中的设备;
所述第一服务器向所述第二服务器发送所述历史日志。
2.如权利要求1所述的方法,其特征在于,所述日志收集请求包括目标组件的组件名称和所述目标组件的运行轨迹,所述运行轨迹为运行所述目标组件的至少一个目标设备;
所述日志收集请求用于请求获取所述至少一个目标设备在运行所述目标组件时所产生的日志;
所述第一服务器根据所述目标条件确定至少一个目标存储路径,包括:
所述第一服务器根据所述运行轨迹和所述组件名称,确定所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径;
所述第一服务器将所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径作为所述至少一个目标存储路径。
3.如权利要求2所述的方法,其特征在于,在所述第一服务器根据所述运行轨迹和所述组件名称,确定所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径之前,所述方法还包括:
所述第一服务器从所述目标设备接收上报信息,所述上报信息用于指示所述目标设备中用于存储运行所述目标组件时所产生日志的存储路径;
所述第一服务器根据所述运行轨迹和所述组件名称,确定所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径,包括:
所述第一服务器根据所述运行轨迹中包含的至少一个所述目标设备和所述目标设备的所述上报信息,确定所述至少一个目标设备中用于存储运行所述目标组件时所产生日志的存储路径。
4.如权利要求1-3任一项所述的方法,其特征在于,在所述第一服务器向所述第二服务器发送所述历史日志之前,所述方法还包括:
所述第一服务器判断所述历史日志在所述第二服务器中是否存在,在不存在的情况下,将所述历史日志拷贝并压缩到临时目录;
所述第一服务器向所述第二服务器发送所述历史日志,包括:
所述第一服务器向所述第二服务器发送所述临时目录。
5.如权利要求4所述的方法,其特征在于,所述第一服务器判断所述历史日志在所述第二服务器中是否存在,包括:
所述第一服务器采用密码杂凑函数对所述历史日志进行处理,获得所述历史日志对应的目标密码杂凑参数;
所述第一服务器将所述目标密码杂凑参数发送给所述第二服务器;
所述第一服务器接收所述第二服务器发送的反馈信息,所述反馈信息用于指示所述第二服务器中是否存在与所述目标密码杂凑参数相同的密码杂凑参数;
若所述反馈信息指示所述第二服务器中存在与所述目标密码杂凑参数相同的密码杂凑参数,则确定所述历史日志在所述第二服务器已经存在;
若所述反馈信息指示所述第二服务器中不存在与所述目标密码杂凑参数相同的密码杂凑参数,则所述第一服务器确定所述历史日志在所述第二服务器中不存在。
6.如权利要求5所述的方法,其特征在于,在所述第一服务器向所述第二服务器发送所述临时目录之后,还包括:
所述第一服务器向消息中间件发送指示信息,所述指示信息用于指示所述第一服务器完成向所述第二服务器发送所述历史日志的日志收集任务,以使所述消息中间件向所述第二服务器转发所述指示信息。
7.如权利要求6所述的方法,其特征在于,在所述第一服务器向消息中间件发送指示信息,所述指示信息用于指示所述第一服务器完成向所述第二服务器发送所述历史日志的日志收集任务,以使所述消息中间件向所述第二服务器转发所述指示信息之后,还包括:
所述第一服务器接收所述消息中间件转发的接收完成信息,所述接收完成信息用于指示所述第二服务器完成接收所述第一服务器发送的所述临时目录的任务;
所述第一服务器依据所述接收完成信息删除所述临时目录。
8.一种历史日志收集装置,其特征在于,包括:
第一接收单元,用于接收第二服务器发送的日志收集请求,所述日志收集请求用于请求获取满足目标条件的历史日志;
获取单元,用于根据所述目标条件确定至少一个目标存储路径;并分别从各个所述目标存储路径对应的目标设备中获取至少一个目标日志文件,作为历史日志,所述目标设备是属于所述多个设备中的设备;
第一发送单元,用于向所述第二服务器发送所述历史日志。
9.一种历史日志收集装置,其特征在于,包括处理器、存储器以及通信接口,所述处理器、存储器和通信接口相互连接,其中,所述通信接口用于接收和发送数据,所述存储器用于存储计算机程序,所述处理器用于调用所述计算机程序,执行如权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序;当所述计算机程序在一个或多个处理器上运行时,执行如权利要求1至7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210142652.3A CN114500254B (zh) | 2022-02-16 | 2022-02-16 | 历史日志收集方法、装置与存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210142652.3A CN114500254B (zh) | 2022-02-16 | 2022-02-16 | 历史日志收集方法、装置与存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114500254A true CN114500254A (zh) | 2022-05-13 |
CN114500254B CN114500254B (zh) | 2023-08-22 |
Family
ID=81479718
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210142652.3A Active CN114500254B (zh) | 2022-02-16 | 2022-02-16 | 历史日志收集方法、装置与存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114500254B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117176839A (zh) * | 2023-10-26 | 2023-12-05 | 苏州元脑智能科技有限公司 | 遥测报文传输方法、装置、通信设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160337167A1 (en) * | 2014-01-15 | 2016-11-17 | Nec Corporation | Log data collection system, terminal device, and log data collection method |
CN109586968A (zh) * | 2018-12-13 | 2019-04-05 | 北京锐安科技有限公司 | 大数据平台的日志处理方法和大数据平台的日志处理系统 |
CN111046011A (zh) * | 2019-11-27 | 2020-04-21 | 中科曙光国际信息产业有限公司 | 日志收集方法、系统、节点、电子设备及可读存储介质 |
CN112015707A (zh) * | 2020-08-26 | 2020-12-01 | 长春创世麒麟科技有限公司 | 一种日志数据收集方法及日志数据收集系统 |
CN112486938A (zh) * | 2020-12-28 | 2021-03-12 | 上海七牛信息技术有限公司 | 一种应用于kubernetes集群的日志收集方法以及系统 |
CN112506755A (zh) * | 2020-12-18 | 2021-03-16 | 北京顺达同行科技有限公司 | 日志采集方法、装置、计算机设备和存储介质 |
CN113760638A (zh) * | 2020-10-15 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 一种基于kubernetes集群的日志服务方法和装置 |
-
2022
- 2022-02-16 CN CN202210142652.3A patent/CN114500254B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160337167A1 (en) * | 2014-01-15 | 2016-11-17 | Nec Corporation | Log data collection system, terminal device, and log data collection method |
CN109586968A (zh) * | 2018-12-13 | 2019-04-05 | 北京锐安科技有限公司 | 大数据平台的日志处理方法和大数据平台的日志处理系统 |
CN111046011A (zh) * | 2019-11-27 | 2020-04-21 | 中科曙光国际信息产业有限公司 | 日志收集方法、系统、节点、电子设备及可读存储介质 |
CN112015707A (zh) * | 2020-08-26 | 2020-12-01 | 长春创世麒麟科技有限公司 | 一种日志数据收集方法及日志数据收集系统 |
CN113760638A (zh) * | 2020-10-15 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 一种基于kubernetes集群的日志服务方法和装置 |
CN112506755A (zh) * | 2020-12-18 | 2021-03-16 | 北京顺达同行科技有限公司 | 日志采集方法、装置、计算机设备和存储介质 |
CN112486938A (zh) * | 2020-12-28 | 2021-03-12 | 上海七牛信息技术有限公司 | 一种应用于kubernetes集群的日志收集方法以及系统 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117176839A (zh) * | 2023-10-26 | 2023-12-05 | 苏州元脑智能科技有限公司 | 遥测报文传输方法、装置、通信设备及存储介质 |
CN117176839B (zh) * | 2023-10-26 | 2024-02-09 | 苏州元脑智能科技有限公司 | 遥测报文传输方法、装置、通信设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114500254B (zh) | 2023-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109597717B (zh) | 一种数据备份、恢复方法、装置、电子设备及存储介质 | |
US8874520B2 (en) | Processes and methods for client-side fingerprint caching to improve deduplication system backup performance | |
US9201596B2 (en) | Transmitting data by means of storage area network | |
CN109309730A (zh) | 一种可信的文件传输方法和系统 | |
CN110958300B (zh) | 一种数据的上传方法、系统、装置、电子设备和计算机可读介质 | |
CN107247729B (zh) | 一种文件处理方法和装置 | |
CN112311902B (zh) | 基于微服务的文件发送方法及装置 | |
CN114500254B (zh) | 历史日志收集方法、装置与存储介质 | |
CN101266566B (zh) | 多测试场景自动调度系统和方法 | |
CN114610567A (zh) | 容器监控方法、网络设备及存储介质 | |
JP6943008B2 (ja) | 制御プログラム、制御方法、及び情報処理装置 | |
CN111611138B (zh) | 日志数据抓取方法、装置、计算机设备和存储介质 | |
CN112835885B (zh) | 一种分布式表格存储的处理方法、装置及系统 | |
US20080270832A1 (en) | Efficiently re-starting and recovering synchronization operations between a client and server | |
TW201227268A (en) | Data backup system and data backup and retrival method | |
CN111913927A (zh) | 一种数据写入方法、装置及计算机设备 | |
CN111245949A (zh) | 文件归档传输方法、装置及设备 | |
CN115801765A (zh) | 文件传输方法、装置、系统、电子设备及存储介质 | |
CN112053707B (zh) | 多媒体设备的刻录方法及装置、存储介质、电子装置 | |
US20140279887A1 (en) | Virtual storage gate system | |
CN112597119A (zh) | 一种处理日志的生成方法、装置及存储介质 | |
CN111405313A (zh) | 存储流媒体数据的方法和系统 | |
CN113496155B (zh) | 信息处理的方法、装置、设备和计算机可读介质 | |
CN117614973B (zh) | 一种基于多云架构的文件存储方法 | |
CN116055450B (zh) | 通讯录数据的处理方法、装置和存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |