CN111563023B - 一种日志处理方法及系统 - Google Patents
一种日志处理方法及系统 Download PDFInfo
- Publication number
- CN111563023B CN111563023B CN202010402122.9A CN202010402122A CN111563023B CN 111563023 B CN111563023 B CN 111563023B CN 202010402122 A CN202010402122 A CN 202010402122A CN 111563023 B CN111563023 B CN 111563023B
- Authority
- CN
- China
- Prior art keywords
- processing
- log
- software
- data
- processed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
- G06F11/3093—Configuration details thereof, e.g. installation, enabling, spatial arrangement of the probes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2201/00—Indexing scheme relating to error detection, to error correction, and to monitoring
- G06F2201/865—Monitoring of software
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Stored Programmes (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开一种日志处理方法及系统,通过根据获取的电子设备的运行特征数据识别电子设备安装的软件,得到电子设备安装的软件数据;根据预设日志处理策略中的软件与日志的对应关系,确定与软件数据指示的软件对应的待处理日志类型;根据待处理日志类型和所述预设日志处理策略中的日志识别方式,获取软件数据指示的软件对应的待处理日志文件;且实现根据预设日志处理策略中日志处理方式,确定与待处理日志文件对应的日志处理方式,利用日志处理方式对待处理日志文件进行处理,自动确定和获取不同软件对应的待处理日志文件以及待处理日志文件的日志处理方式,适用于多类型的待处理日志文件,通用性更强,且减少了因为重复性劳动导致的出错。
Description
技术领域
本发明涉及计算机技术领域,具体涉及一种日志处理方法及系统。
背景技术
目前电子设备上运行着多种软件,不同软件会在不同的路径下产生大量的日志文件。在日常运维中,为避免日志过多占用资源,可通过人工执行操作命令或定时执行脚本的方式对日志文件进行备份和/或清理,进行备份和/或清理的过程如下:
人工执行操作命令对日志文件进行备份和/或清理的方式、定位软件日志的保存路径,然后通过手动输入指定的操作命令的方式,执行对软件日志进行备份和/或清理。因为日志文件数量较多且分散,依靠人工执行操作命令方式进行日志文件的备份和/或清理,很容易出现遗漏的情况。
定时执行脚本对日志文件进行备份和/或清理的方式、根据日志备份清理需求,预先编写用于备份和/或清理日志的日志处理脚本,定期运行预先编写的日志处理脚本对软件日志执行备份和/或清理。定时执行脚本的方式虽然在一定程度上减少了人工执行操作命令方式的重复性劳动,减少了出错率,但是仍需要分别根据不同软件的特点定制化编写用于备份和/或清理日志的日志处理脚本,日志处理脚本通用性差,且定时执行脚本的方式也会出现遗漏的情况。
发明内容
有鉴于此,本发明实施例提供一种软件日志的处理方法及系统,以解决现有技术通用性差的问题。
为实现上述目的,一方面,本发明实施例提供一种日志处理方法包括:
获取电子设备的运行特征数据;
根据所述电子设备的运行特征数据识别所述电子设备安装的软件,得到所述电子设备对应的软件数据;
根据预设日志处理策略中的软件与日志的对应关系,确定与所述软件数据指示的软件对应的待处理日志类型;
根据所述待处理日志类型和所述预设日志处理策略中的日志识别方式,获取所述软件数据指示的软件对应的待处理日志文件;
根据所述预设日志处理策略中日志处理方式,确定与所述待处理日志文件对应的日志处理方式,利用所述日志处理方式对所述待处理日志文件进行处理。
可选的,日志处理方法还包括:
若根据所述预设处理策略中的软件与日志对应关系,没有确定出所述软件数据指示的软件对应的待处理日志类型,提示对所述软件数据指示的软件的日志文件进行自定义处理;
获取用户为需自定义处理的软件制定的日志文件处理方式,利用所述制定的日志文件处理方式对需自定义处理的软件的日志文件进行处理。
可选的,所述根据所述电子设备的运行特征数据识别所述电子设备安装的软件,得到所述电子设备对应的软件数据,包括:
根据预设运行特征数据与软件的对应关系,确定与所述运行特征数据匹配的软件数据,与所述运行特征数据匹配的软件数据为所述电子设备对应的软件数据。
可选的,所述电子设备的运行特征数据包括进程数据、配置文件数据和用户数据中的至少一种;
所述根据预设运行特征数据与软件的对应关系,确定与所述运行特征数据匹配的软件数据,包括:
根据预设的进程数据与软件的对应关系、预设的配置文件数据与软件的对应关系和预设的用户数据与软件的对应关系中的至少一种,确定匹配的软件数据。
可选的,所述日志处理方式包括处理类型、处理周期和处理量限制;
所述根据所述预设日志处理策略中日志处理方式,确定与所述待处理日志文件对应的日志处理方式,利用所述日志处理方式对所述待处理日志文件进行处理,包括:
根据所述预设日志处理策略中的处理周期,将所述待处理日志文件中到达所述处理周期的日志文件添加至处理清单中;
当所述处理清单中的日志文件数量达到所述处理量限制,停止向所述处理清单添加日志文件;
根据所述预设日志处理策略中的处理类型,对所述处理清单中的日志文件进行处理。
可选的,所述处理类型包括备份和清理中的至少一种;
所述根据所述预设日志处理策略中的处理类型,对所述处理清单中的日志文件进行处理,包括:
从所述处理清单筛选出所述处理类型为备份的待处理日志文件,拷贝所述处理类型为备份的待处理日志文件到指定的存储目录进行备份;
从所述处理清单筛选出所述处理类型为清理的待处理日志文件,删除所述处理类型为清理的待处理日志文件。
另一方面,本发明实施例提供一种日志处理系统,包括:
数据获取单元,用于获取电子设备的运行特征数据;
得到单元,用于根据所述电子设备的运行特征数据识别所述电子设备安装的软件,得到所述电子设备对应的软件数据;
类型确定单元,用于根据预设日志处理策略中的软件与日志的对应关系,确定与所述软件数据指示的软件对应的待处理日志类型;
文件获取单元,用于根据所述待处理日志类型和所述预设日志处理策略中的日志识别方式,获取所述软件数据指示的软件对应的待处理日志文件;
处理单元,用于根据所述预设日志处理策略中日志处理方式,确定与所述待处理日志文件对应的日志处理方式,利用所述日志处理方式对所述待处理日志文件进行处理。
可选的,日志处理系统还包括:
提示单元,用于若根据所述预设处理策略中的软件与日志对应关系,没有确定出所述软件数据指示的软件对应的待处理日志类型,提示对所述软件数据指示的软件的日志文件进行自定义处理;
所述文件获取单元,还用于获取用户为需自定义处理的软件制定的日志文件处理方式;
所述处理单元,还用于利用所述制定的日志文件处理方式对需自定义处理的软件的日志文件进行处理。
可选的,所述得到单元具体用于,根据预设运行特征数据与软件的对应关系,确定与所述运行特征数据匹配的软件数据,与所述运行特征数据匹配的软件数据为所述电子设备对应的软件数据。
可选的,所述电子设备的运行特征数据包括进程数据、配置文件数据和用户数据中的至少一种;
所述得到单元具体用于,根据预设的进程数据与软件的对应关系、预设的配置文件数据与软件的对应关系和预设的用户数据与软件的对应关系中的至少一种,确定匹配的软件数据。
可选的,所述日志处理方式包括处理类型、处理周期和处理量限制;
所述处理单元,包括:
文件添加子单元,用于根据所述预设日志处理策略中的处理周期,将所述待处理日志文件中到达所述处理周期的日志文件添加至处理清单中;
处理量控制子单元,用于当所述处理清单中的日志文件数量达到所述处理量限制,停止向所述处理清单添加日志文件;
文件处理子单元,用于根据所述预设日志处理策略中的处理类型,对所述处理清单中的日志文件进行处理。
可选的,所述处理类型包括备份和清理中的至少一种;
所述文件处理子单元具体用于:从所述处理清单筛选出所述处理类型为备份的待处理日志文件,拷贝所述处理类型为备份的待处理日志文件到指定的存储目录进行备份;从所述处理清单筛选出所述处理类型为清理的待处理日志文件,删除所述处理类型为清理的待处理日志文件。
经由上述技术方案可知,通过获取电子设备的运行特征数据;根据电子设备的运行特征数据识别电子设备安装的软件,得到电子设备对应的软件数据;根据预设日志处理策略中的软件与日志的对应关系,确定与软件数据指示的软件对应的待处理日志类型;根据待处理日志类型和所述预设日志处理策略中的日志识别方式,获取软件数据指示的软件对应的待处理日志文件;根据预设日志处理策略中日志处理方式,确定与待处理日志文件对应的日志处理方式,利用日志处理方式对待处理日志文件进行处理,实现根据获取的电子设备的运行特征数据自动识别电子设备安装的软件,并且可以根据预设日志处理策略中的软件与日志的对应关系和日志识别方式,自动确定和获取不同软件对应的待处理日志文件以及待处理日志文件的日志处理方式,适用于根据预设日志处理策略能够确定出的任一类型的待处理日志文件,与现有技术针对某一软件进行定制的手段相比,通用性更强,且减少了因为重复性劳动导致的出错。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例公开的一种日志处理方法的流程示意图;
图2为图1所示步骤S102的一种实现方式的流程示意图;
图3为图1所示步骤S105的一种实现方式的流程示意图;
图4为本发明另一实施例一种日志处理方法的流程示意图;
图5为本发明又一实施例提供的日志处理方法流程示意图;
图6为本发明另一实施例提供的一种日志处理系统的结构图;
图7为图6中处理单元105的一种结构图;
图8为本发明又一实施例提供的一种日志处理系统的结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本申请中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本发明提供了一种日志处理方法及系统,可以应用在个人电脑、工作站或服务器等安装有软件的电子设备中。其中,软件除了应用软件(application software)之外,软件还包括系统软件(system software)、中间件(middleware)等。日志处理方法执行逻辑内置于安装有软件的电子设备中。对于任一电子设备来说,可能会存在多个用户使用同一电子设备,不同用户在电子设备的操作权限不同,不同的用户在电子设备上安装和使用的软件可能不同。下面介绍在任一用户登录电子设备后可使用的日志处理方法。
如图1所示,为本发明实施例公开的一种日志处理方法的流程示意图,包括如下步骤:
S101,获取电子设备的运行特征数据。
电子设备的运行特征数据是指与电子设备上安装的软件相关联的数据,以通过运行特征数据指示电子设备对应的软件,相关联的数据包括但不限于:电子设备安装某软件时产生的数据、电子设备安装某软件时使用的数据、软件在电子设备上运行时产生的数据和软件在电子设备上运行使用的数据。对应的运行特征数据包括但不限于进程数据、配置文件数据和用户数据中的至少一种,以通过这些运行特征数据指示电子设备对应的软件,如通过运行特征数据指示电子设备当前运行的软件。例如,进程数据可以是系统进程的进程名和/或内容关键字,不同软件在电子设备运行过程和安装过程中会对应不同的进程,而进程可通过进程名和内容关键字中的至少一种区分,因此通过进程名和内容关键字中的至少一种能够确定出当前运行或者安装的软件;配置文件数据可以是系统配置文件的文件名;用户数据可以是当前登录并使用电子设备的用户标识数据,用户标识数据包括但不限于用户名或者用户ID(身份标识号)。
S102,根据电子设备的运行特征数据识别电子设备安装的软件,得到电子设备对应的软件数据。因为电子设备的运行特征数据能够指示电子设备对应的软件,所以通过电子设备的运行特征数据能够识别出电子设备安装的软件,从而得到电子设备对应的软件数据,如软件数据指示电子设备安装的软件的软件标识信息,以通过软件数据体现电子设备安装的软件,进而确定出电子设备安装的软件的日志文件的处理方式。
一种得到电子设备对应的软件数据的可行方式包括但不限于:根据预设运行特征数据与软件的对应关系,确定与运行特征数据匹配的软件数据,与运行特征数据匹配的软件数据为电子设备对应的软件数据。
请参阅图2,其示出了图1所示步骤S102的一种实现方式的流程示意图,包括以下步骤:
S201,从运行特征数据中确定出与预设运行特征数据与软件的对应关系中的运行特征数据相匹配的目标运行特征数据。
预设运行特征数据与软件的对应关系可以是预先定义的运行特征数据与软件标识信息的关系表。其中,软件标识信息用于区分电子设备安装的软件,如软件标识信息可以为但不限于是软件名称。关系表中包括多条记录,每条记录是一组相对应的软件标识信息和运行特征数据,若预设运行特征数据与软件的对应关系中的运行特征数据与获取到的运行特征数据相同,说明对应关系中与获取到的运行特征数据相同的运行特征数据为目标运行特征数据。每条记录中包括至少一个运行特征数据。可选的,当运行特征数据与软件标识信息的关系表中的记录数增多,为保证表中每条对应关系的准确,部分记录中一个软件标识信息可与多个运行特征数据相对应。
假设预设运行特征数据与软件的对应关系为预先定义的运行特征数据与软件标识信息的关系表,则确定目标运行特征数据的过程为:将运行特征数据与软件标识信息的关系表中所列运行特征数据与获取的运行特征数据进行比对,将获取的运行特征数据中出现在关系表中的运行特征数据确定为目标运行特征数据或者将关系表中与获取到的运行特征数据相同的运行特征数据确定为目标运行特征数据。在其他实施例中,预设运行特征数据与软件的对应关系可以采用其他形式进行定义并存储,在此不做限定。
S202,根据预设运行特征数据与软件的对应关系,确定出与目标运行特征数据对应的软件,得到电子设备对应的软件数据。
可以理解的是:从运行特征数据中确定出与对应关系中的运行特征数据匹配的目标运行数据,说明获取到的运行特征数据中存在与对应关系中的软件对应的目标运行特征数据,电子设备中安装有目标运行特征数据对应的软件,由此得到电子设备对应的软件数据。
其中,软件数据用于指示电子设备上安装的软件有哪些,软件数据的一种形式可以是软件名称清单。假设运行特征数据与软件的对应关系为运行特征数据与软件标识信息的关系表,则软件数据为软件标识信息组,软件标识信息组包括至少一个软件标识信息。
为方便理解,下面结合具体的运行特征数据介绍步骤S102的过程。
(一)假设运行特征数据为进程数据,预设运行特征数据与软件的对应关系的一种形式是:预设的进程数据与软件的对应关系,则得到软件数据的可行方式可以是但不限于是:
根据预设的进程数据与软件的对应关系,确定对应关系中与获取到的进程数据相匹配的目标进程数据,根据目标进程数据对应的软件,得到电子设备对应的软件数据,例如将对应关系中与目标进程数据对应的软件数据作为电子设备对应的软件数据。
预设的进程数据与软件的对应关系的一种形式可以是:进程关键字与软件名称的对应关系,如表1所示,定义了一个进程关键字与软件名称的关系表。确定获取到的进程中与关系表中所列进程关键字相匹配的目标进程,根据目标进程的关键字和表1识别当前用户在电子设备安装的软件,得到已安装的软件名称列表。
具体实现指令为:ps–fu<用户名>|grep<进程关键字>。
如果存在匹配的进程关键字,则表明电子设备在该用户下启动了与进程关键字对应的软件名称,安装了软件名称指示的软件。
表1进程关键字与软件名称的关系表
软件名称 | 进程关键字 |
Weblogic | java,-Dweblogic.Name= |
NodeManager | java,NodeManager |
Tuxedo | BBL |
Apache | httpd |
Haproxy | haproxy,-f |
MQ | amqzxma |
Coherence | java,coherence |
Tomcat | java,tomcat |
Nginx | nginx |
Redis | redis |
Zookeeper | java,zookeeper |
Mysql | mysqld |
Keepalive | keepalived |
Redis | redis-server |
表1中记录的进程关键字及软件名称的对应关系,可以根据需要进行动态的调整和补充,进行修改、删除和增加中的任意一种操作。
(二)假设运行特征数据为配置文件数据,预设运行特征数据与软件的对应关系的一种形式是:预设的配置文件数据与软件的对应关系,则得到软件数据的可行方式可以是但不限于是:
根据预设的配置文件数据与软件的对应关系,确定对应关系中与获取到的配置文件数据相匹配的目标配置文件数据,根据目标配置文件数据对应的软件,得到电子设备对应的软件数据,例如将对应关系中与目标进程数据对应的软件数据作为电子设备对应的软件数据。
预设的进程数据与软件的对应关系的一种形式可以是:配置文件名称与软件名称的对应关系,如表2所示,定义了一个配置文件名称与软件名称的关系表。在电子设备上依次检查获取到的配置文件名称,确定与关系表中所列的配置文件名称相匹配的目标配置文件名称,根据表2和目标配置文件名称,识别当前用户在电子设备中安装的软件,得到已安装的软件名称列表。
例如,检查到配置文件名称:/home/ap/opscloud/app_auto/check/AppCheck.sh,根据表2可以该服务器上上安装了应用自动化工具。
表2配置文件名称与软件名称的关系表
表2中记录的配置文件名称与软件名称的对应关系,可以根据需要进行动态的调整和补充,进行修改、删除和增加中的任意一种操作。
(三)假设运行特征数据为用户数据,预设运行特征数据与软件的对应关系的一种形式是:预设的用户数据与软件的对应关系,则得到软件数据的可行方式可以是但不限于是:
根据预设的用户数据与软件的对应关系,确定对应关系中与获取到的用户数据相匹配的目标用户数据,根据目标用户数据对应的软件(如从对应关系中查找到的目标用户数据对应的软件),得到电子设备对应的软件数据。
预设的进程数据与软件的对应关系的一种形式可以是:用户名与已安装软件的对应关系,如表3所示,预先得到的一个用户名与已安装软件的关系表。获取当前使用电子设备的用户的用户名,从关系表中找到当前获取的用户名相匹配的目标用户名;根据表3确定与目标用户名对应的已安装软件,得到已安装的软件名称列表。表3中记录的用户名与已安装软件的对应关系,可以根据实际识别情况进行动态的调整和补充,进行修改、删除和增加中的任意一种操作。
表3用户名与已安装软件的关系表
从上述可知,本实施例可根据预设的进程数据与软件的对应关系、预设的配置文件数据与软件的对应关系和预设的用户数据与软件的对应关系中的一种,确定匹配的软件数据,在其他实施例中,可以将结合上述多种运行特征数据进行安装软件的识别,即根据预设的进程数据与软件的对应关系、预设的配置文件数据与软件的对应关系和预设的用户数据与软件的对应关系中的至少两种,确定匹配的软件数据,此处不再详述。
S103,根据预设日志处理策略中的软件与日志的对应关系,确定与软件数据指示的软件对应的待处理日志类型。
本实施例中,预设日志处理策略是根据电子设备中常用软件的日志特点预先定义的日志处理策略。日志处理策略包括日志备份和日志清理中的至少一种,预设日志处理策略中的软件与日志的对应关系是用于指示确定对软件的哪种类型的日志文件进行处理,由此可知步骤S103可以根据预设日志处理策略中的软件与日志的对应关系以及步骤S102得到的软件数据,确定当前软件数据指示的软件中要进行处理的日志文件的日志类型(即上述待处理日志类型)。
软件与日志的对应关系中记录有多条软件与日志类型的对应关系,每一条软件与日志类型的对应关系包括但不限于以下字段:软件标识和日志类型。
软件标识,该字段用于指示该条策略对应的日志文件属于哪个软件。软件标识字段的值可以是软件名称,也可以是定义的符号或缩写,用于唯一表示软件。例如:定义WLS表示weblogic产品,定义TUXEDO表示tuxedo产品,定义MQM代表IBM MQ产品。
日志类型,该字段用于指示该条策略对应的日志文件所属的类型。一个软件中可能会产生多种日志文件,本字段的值可以是定义的表示某一软件的不同日志类型的符号或简称。例如,对于weblogic产品的3类日志文件:服务器日志、服务器标准输出日志和服务器访问日志,分别定义:Server.lo表示服务器日志,Server.out表示服务器标准输出日志,Server.access表示服务器访问日志。
本步骤根据预设日志处理策略中的软件标识字段和日志类型字段的对应关系,确定与软件数据中指示的软件相对应的待处理日志类型,即确定对软件的哪些类型的日志文件进行处理,如上述weblogic产品来说,其具有3类日志文件,那么通过软件与日志的对应关系可确定出对上述Server.lo、Server.out和Server.access这三种类型的日志文件进行处理,对应的这三种类型是确定出的待处理日志类型。
S104,根据待处理日志类型和预设日志处理策略中的日志识别方式,获取软件数据指示的软件对应的待处理日志文件,以确定出需要进行处理的待处理日志文件。
本实施例中,日志识别方式用于识别软件数据指示的软件中与待处理日志类型匹配的待处理日志文件,日志识别方式包括但不限于以下字段:日志发现方式和日志识别方法。
日志发现方式,该字段用于指示该条策略对应的日志文件采用的发现方式。日志发现方式包括但不限于:通过函数发现日志文件和通过表达式规则匹配日志文件的名称或保存路径。日志发现方式的值可以定义不同的符号或简称来表示不同的日志发现方式。例如,定义日志识别方式的值为F,表示通过函数发现日志文件;日志识别方式的值为E,表示通过表达式规则匹配日志文件。
日志识别方法,该字段用于指示通过日志发现方式识别日志文件过程中采用的具体发现方法或规则。若日志识别方式为通过函数发现日志文件,则日志识别方法字段指示通过函数发现日志文件所使用的具体函数;若日志识别方式为通过表达式规则匹配日志文件,则日志识别方法字段指示使用的具体表达式规则。例如,对于Weblogic的服务器日志,日志发现方式为F,日志发现方法为:GetWLSServeeLog,表示通过执行函数GetWLSServeeLog的方式来发现并获得Weblogic的服务器日志文件。
需要说明的是,日志发现方式和日志识别方法在其他实施例中,可以合并为一个字段指示两个字段所表示的含义。例如使用日志获取方法字段用于指示获取日志文件的发现并获取的具体函数或规则。定义使用不同的符号或简称表示不同的函数和/或规则,通过日志获取字段的值就可以唯一确定日志文件具体通过何种方法发现并获取日志文件。
本步骤根据预设日志处理策略中与日志识别方式相关的字段(本实施例为日志识别方式和日志识别方法),确定与待处理日志类型对应的日志文件的获取方法和获取路径,获取待处理日志文件。
S105,根据预设日志处理策略中日志处理方式,确定与待处理日志文件对应的日志处理方式,利用日志处理方式对待处理日志文件进行处理。
其中,日志处理方式用于指示对待处理日志文件进行何种处理,日志处理方式包括但不限于处理类型、处理周期和处理量限制中的至少一种。其中,处理类型包括备份和清理中的至少一种。
在本实施例中,预设日志处理策略可以设置每种待处理日志类型指示的待处理日志文件的日志处理方式,如设置每种待处理日志类型指示的待处理日志文件的处理类型、处理周期和处理量限制。对应关系还包括但不限于以下字段中的至少一个:日志处理周期、处理个数限制、处理数据量限制和日志处理类型。其中,处理量限制对应于字段处理个数限制和处理数据量限制。
其中,处理周期用于指示该条策略对应的待处理日志文件的处理时间要求。例如,处理周期字段的值为N,表示处理N天前的待处理日志文件。时间单位不一定以一天为单位,也可以以月或小时为时间单位,则N分别表示N个月或N小时。
处理量限制用于指示该条策略对应的待处理日志文件的数据量要求,在累积的待处理日志文件达到处理量限制所指示的数据量要求时进行处理。处理量限制可以采用但不限于采用处理个数限制和处理数据量限制中的至少一种,其中处理个数限制用于指示该条策略对应的日志文件一次最多可以处理的待处理日志文件的个数。如待处理日志文件个数超过处理个数限制的值,则此次不对超过部分的待处理日志文件进行处理;例如,该字段可指示对日志文件一次备份最多可以备份和/或清理的日志文件个数,若待备份清理的日志文件数超过此值,则不再往待备份、清理列表中添加待处理文件。若处理个数限制字段为空,表示不对该策略对应的待处理日志文件的单次处理的文件个数进行限制。在其他实施例中,可以不设置处理个数限制字段,使用一个不可设置的默认值进行个数限制。
处理数据量限制用于指示该条策略对应的待处理日志文件一次最多可以处理的日志文件的数据量大小。其中数据量的单位可以为GB,在此不做限制。待处理日志文件的数据量大小超过处理数据量限制的值,则此次不对超过部分的日志文件进行处理,例如该字段可用于限制某日志文件一次备份的最大数据量,若预估需要备份的日志文件数据量超过此值,则不再往待备份列表中添加日志文件。若处理数据量限制字段为空,表示不对该策略对应的日志文件单次处理的数据量大小进行限制;在其他实施例中,可以不设置处理数据量限制字段,使用一个不可设置的默认值进行数据量限制。
处理类型用于指示该条策略对应的待处理日志文件采用的处理方式。处理方式包括但不限于:进行备份、进行清理、备份成功后执行清理,可以定义不同的符号或简称来表示不同的日志发现方式。例如,日志处理类型字段的值为backup,表示只对日志文件进行备份,不清理;日志处理类型字段的值为delete,表示对日志文件不进行备份,只做清理;日志处理类型字段的值为backupandclear,表示对日志文件先备份,备份成功后执行清理;日志处理类型的值为空时,执行默认处理方式,默认处理方式可以为上述执行方式中的一种。
若一条预设日志处理策略包括本实施例中提到的所有字段,通过该条预设日志处理策略可设置针对一种软件的至少一种待处理日志类型的日志处理方式,如以weblogic产品为例,预设日志处理策略定义weblogic产品的服务器日志的备份清理策略可以为:WLS:Server.log:F:GetWLSServeeLog:15:1000:10:backupandclear,该条策略表示weblogic产品的服务器日志通过GetWLSServeeLog函数发现并获取日志文件,weblogic产品的服务器日志文件处理周期为15天,对15天前的weblogic产品的服务器日志文件先进行备份然后再执行清理,一次备份和清理的日志文件个数不超过1000个或10G。
下面列举三种不同日志处理方式时,步骤S105的执行过程:
若日志处理方式只包括处理类型,则根据预设日志处理策略中处理类型与待处理日志类型的对应关系,确定与待处理日志文件所属待处理日志类型相对应的处理类型,以确定的处理类型处理待处理日志文件。
若日志处理方式包括处理类型和处理周期,先根据预设日志处理策略中处理周期,确定待处理日志文件中满足处理周期要求的待处理日志文件,然后根据预设日志处理策略中处理类型与待处理日志类型的对应关系,确定与待处理日志文件所属待处理日志类型相对应的处理类型,以确定的处理类型处理待处理日志文件。
若日志处理方式包括处理类型、处理周期和处理量限制,请参阅图3,其示出了图1所示步骤S105的一种实现方式的流程示意图,包括以下步骤:
S301,根据预设日志处理策略中的处理周期,将待处理日志文件中到达处理周期的日志文件添加至处理清单中。
根据预设日志处理策略以及待处理日志文件的日志类型,获取与每个待处理日志文件的日志类型相对应的处理周期,确定待处理日志文件中达到处理周期的日志文件,并添加至处理清单中。处理清单为符合处理周期指示的时间条件的日志文件清单。
S302,当处理清单中的日志文件数量达到处理量限制,停止向处理清单添加日志文件。
每次向处理清单添加一项日志文件,检查处理清单中的日志文件数量或处理清单的数据量大小是否达到处理量限制,若没有达到处理量限制,则可以继续想处理清单中添加日志文件;若达到处理量限制,停止向处理清单添加日志文件。
S303,根据预设日志处理策略中的处理类型,对处理清单中的日志文件进行处理。
根据预设日志处理策略中处理类型与待处理日志类型的对应关系,确定与处理清单中的待处理日志文件所属待处理日志类型相对应的处理类型,以确定的处理类型处理处理清单中的待处理日志文件。对待处理日志文件进行处理可以是在处理清单停止添加待处理日志文件之后对处理清单进行批量处理;在其他实施例中也可以在向处理清单中添加待处理日志文件的同时对处理清单中已存在的待处理日志文件进行处理。
本实施例实现根据获取的电子设备的运行特征数据自动识别电子设备安装的软件,并且可以根据预设日志处理策略中的软件与日志的对应关系和日志识别方式,自动确定和获取不同软件对应的待处理日志文件以及待处理日志文件的日志处理方式,适用于根据预设日志处理策略能够确定出的任一类型的待处理日志文件,与现有技术针对某一软件进行定制的手段相比,通用性更强,且减少了因为重复性劳动导致的出错。
上述实施例中预设日志处理策略是电子设备所有用户通用的日志处理策略。可能会出现电子设备中安装的部分软件在预设日志策略中没有对应定义的处理策略,为解决上述问题,提出了如下实施例。
请参阅图4,其示出本发明另一实施例一种日志处理方法的流程示意图,与图1所示的日志处理方法相比,还包括以下步骤:
S106,若根据预设处理策略中的软件与日志对应关系,没有确定出软件数据指示的软件对应的待处理日志类型,提示对软件数据指示的软件的日志文件进行自定义处理。
本实施例中,若软件数据中指示的软件中有至少一个未确定出与该软件对应的待处理日志类型的软件,则提示用户对未确定出待处理日志类型的软件的日志文件进行自定义处理。提示的方式可采用但不限于弹出对话框方式,在此不对提示方式进行限定。
S107,获取用户为需自定义处理的软件制定的日志文件处理方式,利用制定的日志文件处理方式对需自定义处理的软件的日志文件进行处理。
其中,获取用户为需自定义处理的软件制定的日志文件处理方式,可以从补充日志处理策略中获取,或者是获取用户即时设定的处理方式。其中,补充日志处理策略是用户预先自定义的日志文件的处理策略。补充日志处理策略中每条策略的定义方式及规则与通用的预设日志处理策略类似,在此不再赘述。不同的是补充日志处理策略仅在特定用户或特定的电子设备上生效,并不会全局生效。
本实施例中,若从补充日志处理策略中获取为需自定义清理的软件制定的日志文件处理方式,其执行过程为:获取当前可用的补充日志处理策略(可用的补充日志处理策略是在电子设备中生效的补充日志处理策略),根据可用的补充日志处理策略中软件与日志类型的对应关系,以及日志类型与日志处理方式的对应关系,确定出未确定出待处理日志类型的软件的日志文件相对应的日志处理方式,并根据该日志处理方式进行处理。
在其他实施例中,可以将符合处理条件的需自定义清理的软件制定的日志文件添加至处理清单中一起处理。
本实施例支持通过补充日志处理策略方式或用户即时为需自定义的方式,对部分软件的日志文件进行处理,能够满足个性化日志文件的处理需求。
下面结合应用场景进行介绍,请参阅图5,其示出了本发明又一实施例提供的日志处理方法流程示意图,本实施例中的电子设备为数据中心的服务器,需要对日志文件进行备份清理,包括以下步骤:
S401,识别服务器上安装的软件列表。
根据服务器中预设的进程数据及配置文件数据,识别出当前登录服务器的用户安装的软件列表。通过进程数据识别软件和通过配置文件数据识别软件的过程请参见上述实施例中步骤S102的说明,在此不再赘述。
S402,根据软件列表和通用软件日志备份清理策略,识别日志类型。
根据预先定义的通用软件日志备份清理策略中的软件名称字段与日志类型字段的对应关系,从中匹配到与软件列表中的软件相对应的日志类型,生成待备份清理的日志类型列表。其中,通用软件日志备份清理策略相当于上述实施例中预设日志处理策略
S403,根据自定义软件日志备份清理策略,补充自定义备份清理的日志类型。
对于未纳入通用软件日志备份清理策略的剩余软件,根据自定义软件日志备份清理策略中的软件名称字段与日志类型字段的对应关系,从中匹配到与软件列表中的剩余软件相对应的日志类型,补充到待备份清理的日志类型列表中。
S404,生成待备份清理日志文件清单。
基于通用软件日志备份清理策略和自定义软件日志备份清理策略中日志类型字段与日志处理周期字段的对应关系,确定与待备份清理的日志类型列表中的每种日志类型相对应的处理周期。同时,基于通用软件日志备份清理策略和自定义软件日志备份清理策略中预定义的日志发现方法及日志识别方式字段,确定待备份清理的日志类型列表中每种日志类型对应的发现方法和获取方法,通过发现方法和获取方法获得满足备份、清理的周期的待备份清理日志文件(对应上述待处理日志文件)。
检查每个待备份清理日志文件的大小,访问权限,并将其记录到待备份清理日志文件清单中。
每向待备份清理日志文件清单中添加一项待备份清理日志文件,确定待备份清理日志文件清单中的文件数量及清单数据量大小是否满足通用软件日志备份清理策略和自定义软件日志备份清理策略中的处理个数限制和处理数据量限制字段的要求。如果待备份清理日志文件清单中的文件数量不超过处理个数限制的值,且待备份清理日志文件清单数据量大小不超过处理数据量限制的值,则继续添加日志文件,如果不满足,则表示该清单已达到上限,不再支持添加新的日志文件。
S405,从待备份清理日志文件清单筛选出待备份日志文件,执行待备份日志文件的备份操作。
根据通用软件日志备份清理策略和自定义软件日志备份清理策略中定义的日志处理方式,从待备份清理日志文件清单筛选出需要进行备份的待备份日志文件,即处理类型为backup或backupandclear的日志文件。
将待备份日志文件逐个拷贝到临时目录,通过tar,gzip命令进行打包,再通过ftp或sftp方式上传到日志备份服务器进行备份,备份结果文件上传成功后清理临时目录下的待备份日志文件。若过程中有异常,则进行告警通知,并跳转至步骤S407,退出后续程序执行。
S406,从待备份清理日志文件清单筛选出待清洗日志文件,执行待清洗日志文件的清理操作。
根据通用软件日志备份清理策略和自定义软件日志备份清理策略中定义的日志处理方式,从待备份清理日志文件清单筛选出需要进行清理的待清理日志文件,即处理类型为clear或backupandclear的日志文件。
逐项对待清理日志文件进行清理操作,清理过程如下:
检查待清理日志文件的访问权限。如果没有读写权限,则异常退出,跳转至步骤S407,退出后续程序执行。如果有读写权限,则通过一下命令将日志文件清空。命令为:cat/dev/null><待清理日志文件>。
S407,结束。
本实施例的一种应用场景是数据中心的服务器日志备份清理,是通过软件产品特征,自动精准发现需要日志并进行备份和清理。对服务器资源消耗很低,整个过程是全自动的、对服务器是无感的。通过上述技术方案实现了一种通用的日志文件备份清理方法和工具,能够自动识别安装的软件产品,自动化、自适应进行日志文件备份和清理。
通过预先定义通用日志文件备份清理策略,默认能够实现数据中心常用软件产品的日志文件自动化备份、清理,且支持随着系统运行情况变化动态、自适应地调整日志备份清理策略,实现了备份清理免维护
下面介绍与上述方法实施例相对应的装置实施例。
请参阅图6,其示出本发明另一实施例提供的一种日志处理系统的结构图,包括:数据获取单元101、得到单元102、类型确定单元103、文件获取单元104和处理单元105。
数据获取单元101,用于获取电子设备的运行特征数据。数据获取单元101的功能和工作过程请参见上述实施例步骤S101的说明,在此不再赘述。
得到单元102,用于根据电子设备的运行特征数据识别电子设备安装的软件,得到电子设备对应的软件数据。
得到单元102具体用于,根据预设运行特征数据与软件的对应关系,确定与运行特征数据匹配的软件数据,与运行特征数据匹配的软件数据为电子设备对应的软件数据。
其中电子设备的运行特征数据包括进程数据、配置文件数据和用户数据中的至少一种。得到单元102具体用于,根据预设的进程数据与软件的对应关系、预设的配置文件数据与软件的对应关系和预设的用户数据与软件的对应关系中的至少一种,确定匹配的软件数据。得到单元102的功能和工作过程请参见上述实施例步骤S102、步骤S201-S202的说明,在此不再赘述。
类型确定单元103,用于根据预设日志处理策略中的软件与日志的对应关系,确定与软件数据指示的软件对应的待处理日志类型。
文件获取单元104,用于根据待处理日志类型和预设日志处理策略中的日志识别方式,获取软件数据指示的软件对应的待处理日志文件。
类型确定单元103和文件获取单元104的功能和工作过程请分别参见上述实施例步骤S103和步骤S104的说明,在此不再赘述。
处理单元105,用于根据预设日志处理策略中日志处理方式,确定与待处理日志文件对应的日志处理方式,利用日志处理方式对待处理日志文件进行处理。
其中,日志处理方式包括处理类型、处理周期和处理量限制。
请参阅图7,其示出图6中处理单元105的一种结构图,包括:文件添加子单元201、处理量控制子单元202和文件处理子单元203。
文件添加子单元201,用于根据预设日志处理策略中的处理周期,将待处理日志文件中到达处理周期的日志文件添加至处理清单中。
处理量控制子单元202,用于当处理清单中的日志文件数量达到处理量限制,停止向处理清单添加日志文件。
文件处理子单元203,用于根据预设日志处理策略中的处理类型,对处理清单中的日志文件进行处理。
其中处理类型包括备份和清理中的至少一种。文件处理子单元203具体用于:从处理清单筛选出处理类型为备份的待处理日志文件,拷贝处理类型为备份的待处理日志文件到指定的存储目录进行备份。从处理清单筛选出处理类型为清理的待处理日志文件,删除处理类型为清理的待处理日志文件。
处理单元105及其子单元的功能和工作过程请参见上述实施例步骤S105和步骤S301-S303的说明,在此不再赘述。
本实施例通过上述单元及子单元实现根据获取的电子设备的运行特征数据自动识别电子设备安装的软件,并且可以根据预设日志处理策略中的软件与日志的对应关系和日志识别方式,自动确定和获取不同软件对应的待处理日志文件以及待处理日志文件的日志处理方式,适用于根据预设日志处理策略能够确定出的任一类型的待处理日志文件,与现有技术针对某一软件进行定制的手段相比,通用性更强,且减少了因为重复性劳动导致的出错。
上述实施例中预设日志处理策略是电子设备所有用户通用的日志处理策略。可能会出现电子设备中安装的部分软件在预设日志策略中没有对应定义的处理策略,为解决上述问题,提出了如下实施例。
请参阅图8,其示出了本发明又一实施例提供的一种日志处理系统的结构图,与图6相比,系统还包括提示单元106。
提示单元106,用于若根据预设处理策略中的软件与日志对应关系,没有确定出软件数据指示的软件对应的待处理日志类型,提示对软件数据指示的软件的日志文件进行自定义处理。
提示单元106的功能和工作过程请参见上述实施例步骤S106的说明,在此不再赘述。
文件获取单元104,还用于获取用户为需自定义处理的软件制定的日志文件处理方式。处理单元105,还用于利用制定的日志文件处理方式对需自定义处理的软件的日志文件进行处理。文件获取单元104和处理单元105的上述功能和工作过程请参见上述实施例步骤S107的说明,在此不再赘述。
本实施例支持通过补充日志处理策略方式或用户即时为需自定义的方式,对部分软件的日志文件进行处理,能够满足个性化日志文件的处理需求。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统或系统实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。以上所描述的系统及系统实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (8)
1.一种日志处理方法,其特征在于,包括:
获取电子设备的运行特征数据;
根据所述电子设备的运行特征数据识别所述电子设备安装的软件,得到所述电子设备对应的软件数据;
根据预设日志处理策略中的软件与日志的对应关系,确定与所述软件数据指示的软件对应的待处理日志类型;
根据所述待处理日志类型和所述预设日志处理策略中的日志识别方式,获取所述软件数据指示的软件对应的待处理日志文件;
根据所述预设日志处理策略中日志处理方式,确定与所述待处理日志文件对应的日志处理方式,利用所述日志处理方式对所述待处理日志文件进行处理;
所述日志处理方式包括处理类型、处理周期和处理量限制;其中,所述处理周期用于指示待处理日志文件的处理时间要求,所述处理量限制用于指示待处理日志文件的数据量要求,所述处理类型用于指示待处理日志文件采用的处理方式;
所述根据所述预设日志处理策略中日志处理方式,确定与所述待处理日志文件对应的日志处理方式,利用所述日志处理方式对所述待处理日志文件进行处理,包括:根据所述预设日志处理策略中的处理周期,将所述待处理日志文件中到达所述处理周期的日志文件添加至处理清单中;当所述处理清单中的日志文件数量达到所述处理量限制,停止向所述处理清单添加日志文件;根据所述预设日志处理策略中的处理类型,对所述处理清单中的日志文件进行处理。
2.根据权利要求1所述的日志处理方法,其特征在于,还包括:
若根据所述预设处理策略中的软件与日志对应关系,没有确定出所述软件数据指示的软件对应的待处理日志类型,提示对所述软件数据指示的软件的日志文件进行自定义处理;
获取用户为需自定义处理的软件制定的日志文件处理方式,利用所述制定的日志文件处理方式对需自定义处理的软件的日志文件进行处理。
3.根据权利要求1所述的日志处理方法,其特征在于,所述根据所述电子设备的运行特征数据识别所述电子设备安装的软件,得到所述电子设备对应的软件数据,包括:
根据预设运行特征数据与软件的对应关系,确定与所述运行特征数据匹配的软件数据,与所述运行特征数据匹配的软件数据为所述电子设备对应的软件数据。
4.根据权利要求3所述的日志处理方法,其特征在于,所述电子设备的运行特征数据包括进程数据、配置文件数据和用户数据中的至少一种;
所述根据预设运行特征数据与软件的对应关系,确定与所述运行特征数据匹配的软件数据,包括:
根据预设的进程数据与软件的对应关系、预设的配置文件数据与软件的对应关系和预设的用户数据与软件的对应关系中的至少一种,确定匹配的软件数据。
5.根据权利要求4所述的日志处理方法,其特征在于,所述处理类型包括备份和清理中的至少一种;
所述根据所述预设日志处理策略中的处理类型,对所述处理清单中的日志文件进行处理,包括:
从所述处理清单筛选出所述处理类型为备份的待处理日志文件,拷贝所述处理类型为备份的待处理日志文件到指定的存储目录进行备份;
从所述处理清单筛选出所述处理类型为清理的待处理日志文件,删除所述处理类型为清理的待处理日志文件。
6.一种日志处理系统,其特征在于,包括:
数据获取单元,用于获取电子设备的运行特征数据;
得到单元,用于根据所述电子设备的运行特征数据识别所述电子设备安装的软件,得到所述电子设备对应的软件数据;
类型确定单元,用于根据预设日志处理策略中的软件与日志的对应关系,确定与所述软件数据指示的软件对应的待处理日志类型;
文件获取单元,用于根据所述待处理日志类型和所述预设日志处理策略中的日志识别方式,获取所述软件数据指示的软件对应的待处理日志文件;
处理单元,用于根据所述预设日志处理策略中日志处理方式,确定与所述待处理日志文件对应的日志处理方式,利用所述日志处理方式对所述待处理日志文件进行处理;
所述日志处理方式包括处理类型、处理周期和处理量限制;其中,所述处理周期用于指示待处理日志文件的处理时间要求,所述处理量限制用于指示待处理日志文件的数据量要求,所述处理类型用于指示待处理日志文件采用的处理方式;
所述处理单元,具体用于根据所述预设日志处理策略中的处理周期,将所述待处理日志文件中到达所述处理周期的日志文件添加至处理清单中;当所述处理清单中的日志文件数量达到所述处理量限制,停止向所述处理清单添加日志文件;根据所述预设日志处理策略中的处理类型,对所述处理清单中的日志文件进行处理。
7.根据权利要求6所述的日志处理系统,其特征在于,还包括:
提示单元,用于若根据所述预设处理策略中的软件与日志对应关系,没有确定出所述软件数据指示的软件对应的待处理日志类型,提示对所述软件数据指示的软件的日志文件进行自定义处理;
所述文件获取单元,还用于获取用户为需自定义处理的软件制定的日志文件处理方式;
所述处理单元,还用于利用所述制定的日志文件处理方式对需自定义处理的软件的日志文件进行处理;
所述日志处理方式包括处理类型、处理周期和处理量限制;其中,所述处理周期用于指示待处理日志文件的处理时间要求,所述处理量限制用于指示待处理日志文件的数据量要求,所述处理类型用于指示待处理日志文件采用的处理方式;
所述处理单元,包括:文件添加子单元,用于根据所述预设日志处理策略中的处理周期,将所述待处理日志文件中到达所述处理周期的日志文件添加至处理清单中;处理量控制子单元,用于当所述处理清单中的日志文件数量达到所述处理量限制,停止向所述处理清单添加日志文件;文件处理子单元,用于根据所述预设日志处理策略中的处理类型,对所述处理清单中的日志文件进行处理。
8.根据权利要求6所述的日志处理系统,其特征在于,所述得到单元具体用于,根据预设运行特征数据与软件的对应关系,确定与所述运行特征数据匹配的软件数据,与所述运行特征数据匹配的软件数据为所述电子设备对应的软件数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010402122.9A CN111563023B (zh) | 2020-05-13 | 2020-05-13 | 一种日志处理方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010402122.9A CN111563023B (zh) | 2020-05-13 | 2020-05-13 | 一种日志处理方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111563023A CN111563023A (zh) | 2020-08-21 |
CN111563023B true CN111563023B (zh) | 2023-08-11 |
Family
ID=72073425
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010402122.9A Active CN111563023B (zh) | 2020-05-13 | 2020-05-13 | 一种日志处理方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111563023B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113032344B (zh) * | 2020-08-25 | 2021-08-27 | 广州锦行网络科技有限公司 | 一种远程登录日志记录的清理方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101635651A (zh) * | 2009-08-31 | 2010-01-27 | 杭州华三通信技术有限公司 | 一种网络日志数据管理方法、系统及装置 |
CN107426023A (zh) * | 2017-07-21 | 2017-12-01 | 携程旅游信息技术(上海)有限公司 | 云平台日志收集和转发方法、系统、设备及存储介质 |
CN108038231A (zh) * | 2017-12-26 | 2018-05-15 | 广东欧珀移动通信有限公司 | 日志处理方法、装置、终端设备及存储介质 |
CN109324996A (zh) * | 2018-10-12 | 2019-02-12 | 平安科技(深圳)有限公司 | 日志文件处理方法、装置、计算机设备及存储介质 |
CN110019318A (zh) * | 2017-09-11 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 一种日志匹配处理方法、装置以及电子设备 |
CN111124859A (zh) * | 2019-12-13 | 2020-05-08 | 北京浪潮数据技术有限公司 | 一种日志处理方法、装置、设备及存储介质 |
-
2020
- 2020-05-13 CN CN202010402122.9A patent/CN111563023B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101635651A (zh) * | 2009-08-31 | 2010-01-27 | 杭州华三通信技术有限公司 | 一种网络日志数据管理方法、系统及装置 |
CN107426023A (zh) * | 2017-07-21 | 2017-12-01 | 携程旅游信息技术(上海)有限公司 | 云平台日志收集和转发方法、系统、设备及存储介质 |
CN110019318A (zh) * | 2017-09-11 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 一种日志匹配处理方法、装置以及电子设备 |
CN108038231A (zh) * | 2017-12-26 | 2018-05-15 | 广东欧珀移动通信有限公司 | 日志处理方法、装置、终端设备及存储介质 |
CN109324996A (zh) * | 2018-10-12 | 2019-02-12 | 平安科技(深圳)有限公司 | 日志文件处理方法、装置、计算机设备及存储介质 |
CN111124859A (zh) * | 2019-12-13 | 2020-05-08 | 北京浪潮数据技术有限公司 | 一种日志处理方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111563023A (zh) | 2020-08-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7721158B2 (en) | Customization conflict detection and resolution | |
CN109543462B (zh) | 设备标识确定方法、装置、服务器及存储介质 | |
CN104375928A (zh) | 异常日志管理方法及系统 | |
US20050165635A1 (en) | Systems and methods for forecasting demand of an object in a managed supply chain | |
CN104536792A (zh) | 清除应用程序残留文件的方法及装置 | |
EP2083336A2 (en) | Self-organized distributed directory | |
CN111563023B (zh) | 一种日志处理方法及系统 | |
CN110958292A (zh) | 文件上传方法、电子装置、计算机设备及存储介质 | |
CN111338817B (zh) | 一种接口预处理方法及装置 | |
CN116209995A (zh) | 用于客户数据处置的系统和方法 | |
CN104363112A (zh) | 一种参数管理方法及装置 | |
CN113407973B (zh) | 软件功能权限管理方法、系统、服务器及存储介质 | |
CN110795308A (zh) | 一种服务器检验方法、装置、设备及存储介质 | |
US20230244686A1 (en) | Automatic determination of alternative paths for a process flow using machine learning | |
US8423989B2 (en) | Software parameter management | |
US11703835B2 (en) | Methods, systems and data structures for optimizing parameter data retrieval from devices in a control system | |
CN113655967A (zh) | 一种磁盘的删除方法、装置、电子设备及计算机存储介质 | |
CN114546425A (zh) | 模型部署方法、装置、电子设备及存储介质 | |
CN110955870A (zh) | 支持多种运维工具连接使用及获取审计的连接方法及装置 | |
CN114816452B (zh) | 一种基于数据元的医院软件自动化部署方法 | |
US6466945B1 (en) | Accurate processing through procedure validation in software controlled environment | |
US20170011357A1 (en) | Job execution calendar management device and job execution calendar management method | |
US20180176291A1 (en) | Automated server deployment platform | |
US20220237021A1 (en) | Systems and methods of telemetry diagnostics | |
US11835937B2 (en) | Non-transitory computer readable medium storing data distribution program, server apparatus, terminal apparatus, and data distribution system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |