CN115967616A - 日志转发方法、系统、电子设备 - Google Patents
日志转发方法、系统、电子设备 Download PDFInfo
- Publication number
- CN115967616A CN115967616A CN202211642471.3A CN202211642471A CN115967616A CN 115967616 A CN115967616 A CN 115967616A CN 202211642471 A CN202211642471 A CN 202211642471A CN 115967616 A CN115967616 A CN 115967616A
- Authority
- CN
- China
- Prior art keywords
- log
- information
- forwarding
- module
- splicing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 100
- 238000012545 processing Methods 0.000 claims abstract description 101
- 230000001960 triggered effect Effects 0.000 claims abstract description 9
- 230000005540 biological transmission Effects 0.000 claims description 15
- 238000004458 analytical method Methods 0.000 claims description 13
- 238000004891 communication Methods 0.000 claims description 12
- 230000008569 process Effects 0.000 abstract description 40
- 230000006870 function Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000007726 management method Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 238000013468 resource allocation Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000026676 system process Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Landscapes
- Debugging And Monitoring (AREA)
Abstract
本公开实施例公开了一种日志转发方法、系统、电子设备;其中,方法包括:判断获取的日志信息是否合法;若不合法,丢弃日志信息;若合法,根据预设需求判断是否需要触发快速处理通道;若否,触发正常处理通道,通过常规处理获得普通信息,并转发普通信息至预设地址;若是,对日志信息进行快转处理,获得快转拼接信息,并转发快转拼接信息至预设地址;本申请公开的日志转发方法,通过增加的专门快速处理日志信息的快速处理通道,在快速处理通道内对日志信息直接处理、转发,无需日志进程处理,保证日志数据不被丢失,且能实现快转处理;同时,快转流程不会占用日志进程的资源,有效节省所占用的资源空间,使日志进程可以更高效地处理其它事物。
Description
技术领域
本公开涉及软件应用技术领域,尤其涉及一种日志转发方法、系统、电子设备。
背景技术
随着互联网日新月异地发展,人们早已进入了信息时代,而网络安全也越来越受到人们的重视。人们为了保障网络安全,通常会通过各种网络安全设备采集大量的数据,并将这些数据以日志的形式拼接、打包、处理,发送到大数据平台中进行汇总和分析。
系统在运行的过程中会产生大量的流量日志,而日志模块在系统中主要作用是记录系统运行时的各种信息,如用户登录、系统事件、出错信息等,能够反映系统当前和一段时间内的运行状况,随后将其发送到不同的目的地,供管理员使用,方便管理员及时跟踪整个系统的工作状态;用户可以使用日志系统记录的信息为系统排错,优化系统性能,或者根据这些信息回溯调整系统的行为。
现有技术中公开的日志转发方法,在面对数据量巨大的日志信息时,主要存在以下几点问题:1)所有的日志信息均通过日志进程进行处理,导致部分流量日志会丢失;2)在日志对外转发中,有部分流量日志会因为转发效率不高而丢失的问题;3)日志进程资源占比高,cpu资源占用率过高的问题,无法兼容多样的数据处理,同时导致转发处理周期长,转发效率低。
发明内容
有鉴于此,本公开实施例提供了一种日志转发方法、系统、电子设备,通过增加的专门快速处理日志信息的快速处理通道,在快速处理通道内对日志信息直接处理、转发,无需日志进程处理,保证日志数据不被丢失,且能实现快转处理;同时,快转流程不会占用日志进程的资源,有效节省所占用的资源空间,有效提高整体处理效率,实现快速的日志转发。
第一方面,本公开实施例提供了一种日志转发方法,采用如下技术方案:
该方法包括:
判断获取的日志信息是否合法;
若不合法,丢弃所述日志信息;
若合法,根据预设需求判断是否需要触发快速处理通道;
若否,触发正常处理通道,通过常规处理获得普通信息,并转发所述普通信息至预设地址;
若是,对所述日志信息进行快转处理,获得快转拼接信息,并转发所述快转拼接信息至预设地址。
可选的,所述常规处理包括:
根据所述日志信息的类型选择对应的日志通信通道,并存储至日志环形缓冲区;
格式化所述日志信息,获得管理层信息;
对所述管理层信息进行本地拼接或外发拼接,获得本地拼接信息或外发拼接信息,并存储在本地数据库;
基于用户配置,将所述外发拼接信息外发到所述预设地址。
可选的,所述预设地址为与用户配置匹配的预设服务器。
可选的,所述本地拼接为根据数据库结构进行的拼接。
可选的,所述外发拼接为根据Syslog格式、Welf格式、Tp格式或Tal格式中的任一种进行的拼接。
可选的,所述快转拼接信息的获取方法为:
对所述日志信息进行格式化处理,获得数据层信息;
对所述数据层信息进行快转拼接,获得所述快转拼接信息。
可选的,所述快转拼接为根据Syslog格式进行的拼接。
可选的,所述快转拼接信息通过数据系统高效外发接口转发至所述预设地址。
可选的,所述快速处理通道包括启动模块、快转处理模块、快转拼接模块和输出模块,所述快转处理模块与所述启动模块信号连接;
所述快转拼接模块与所述快转处理模块信号连接;
所述输出模块与所述快转拼接模块信号连接;
所述启动模块配置为打开快转开关;
所述快转处理模块配置为在快转接口内部对日志信息进行格式化,获得数据层信息;
所述快转拼接模块配置为对数据层信息进行快转拼接,获得所述快转拼接信息;
所述输出模块配置为基于预设链路转发所述快转拼接信息至所述预设地址。
可选的,所述日志信息的合法判断方法为:判断日志信息中包含的type_id、msgid、vsysid是否在预设范围内,若是,则判定为合法;
若否,则判定为不合法。
可选的,所述日志信息为流量日志。
可选的,所述流量日志的流量为至少每秒1万条。
第二方面,本公开实施例还提供了一种日志转发系统,采用如下技术方案:
包括日志分析模块、日志传输模块和日志输出模块,所述日志分析模块、所述日志输出模块均与所述日志传输模块信号连接;
日志分析模块配置为获取日志信息,并判断所述日志信息是否合法;若不合法,丢弃所述日志信息;若合法,输出所述日志信息至所述日志传输模块;
日志传输模块配置为根据预设需求判断是否需要触发快速处理通道;若否,触发正常处理通道,通过常规处理获得普通信息,并转发所述普通信息至预设地址;若否,传递所述日志信息至所述日志输出模块;
日志输出模块配置为对所述日志信息进行快转处理,获得快转拼接信息,并转发所述快转拼接信息至预设地址。
可选的,还包括日志统计模块,所述日志统计模块与所述日志分析模块、所述日志传输模块、所述日志输出模块均信号连接;
所述日志统计模块包括第一统计模块、第二统计模块和第三统计模块,所述第一统计模块用于统计常规处理后外发的信息数量和结果;
所述第二统计模块,用于统计快转处理外发的信息数量和结果;
所述第三统计模块,用于统计丢弃的日志信息的数量和结果。
第三方面,本公开实施例还提供了一种电子设备,采用如下技术方案:
所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行以上任一所述的日志转发方法。
第四方面,本公开实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行以上任一所述的日志转发方法。
本公开实施例提供的日志转发方法,通过增加专门快速处理日志信息的快速处理通道(即日志接口),在接口内部分兼容原发送到缓存区功能,能够实现快转处理。同时,快转流程不会占用日志进程的资源,包括拼接、合法判断、数据的格式化等操作都不会占资源,节省了相当大的资源空间,使日志进程可以更高效地处理其他事物。
本公开实施例提供的日志转发方法,使得日志信息可以在快速处理通道内直接处理并发送到收集端,无需日志进程处理,保证日志数据不被丢失,同时可实现快速转发。不使用快速转发通道时,保证的是其它模块的处理效率,计算资源分配倾向于处理其它业务,采用快速转发通道时,计算资源倾向于日志处理,因此,计算资源分配给日志处理还是处理其它业务,就可以通过用户配置灵活选择。
上述说明仅是本公开技术方案的概述,为了能更清楚了解本公开的技术手段,而可依照说明书的内容予以实施,并且为让本公开的上述和其他目的、特征和优点能够更明显易懂,以下特举较佳实施例,并配合附图,详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本公开实施例提供的日志转发方法的逻辑流程图。
图2为本公开实施例提供的用于流量日志转发的方法逻辑流程图。
图3为本公开实施例提供的日志转发系统的原理框图。
图4为本公开实施例提供的一种电子设备的原理框图。
具体实施方式
下面结合附图对本公开实施例进行详细描述。
应当明确,以下通过特定的具体实例说明本公开的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本公开的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
需要说明的是,下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见,本文中所描述的方面可体现于广泛多种形式中,且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开,所属领域的技术人员应了解,本文中所描述的一个方面可与任何其它方面独立地实施,且可以各种方式组合这些方面中的两者或两者以上。举例来说,可使用本文中所阐述的任何数目各方面来实施设备及/或实践方法。另外,可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是,以下实施例中所提供的图示仅以示意方式说明本公开的基本构想,图式中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
另外,在以下描述中,提供具体细节是为了便于透彻理解实例。然而,所属领域的技术人员将理解,可在没有这些特定细节的情况下实践所述方面。
参照图1,本申请的第一方面公开了一种日志转发方法,该方法具体包括以下步骤:
获取日志信息,在本实施例中,日志信息是通过接口传入。
判断获取的日志信息是否合法,若不合法,丢弃该日志信息。
其中,日志信息的合法判断方法为:判断日志信息中包含的type_id、msgid、vsysid是否在预设范围内,若是,则判定为合法;若否,则判定为不合法。
若合法,根据预设需求判断是否需要触发快速处理通道,其中,预设需求即为用户需求。
若否,即根据用户需求不需要走快速处理,则触发正常处理通道,通过常规处理获得普通信息,并转发普通信息至预设地址。
具体地,常规处理包括:根据日志信息的类型选择对应的日志通信通道,并存储至日志环形缓冲区。通过日志进程进行控制,遍历日志环形缓冲区,格式化日志信息,获得管理层信息;对管理层信息进行本地拼接或外发拼接,获得本地拼接信息或外发拼接信息,并存储在本地数据库;基于用户配置,如有需求,则根据需求再将外发拼接信息外发到预设地址,即用户配置已经配置好的目的地。
其中,本地拼接为根据数据库结构进行的拼接。
外发拼接为根据Syslog格式、Welf格式、Tp格式或Tal格式中的任一种进行的拼接。
若是,即根据用户需求需要走快速处理,对日志信息进行快转处理,具体地,触发快转接口,在快转接口内部对日志信息进行格式化处理,获得数据层信息;对数据层信息进行快转拼接,获得该快转拼接信息。
通过数据系统高效外发接口转发快转拼接信息至预设地址,即转发至用户配置已经配置好的目的地(即预设服务器)。
具体地,快转拼接为根据Syslog格式进行的拼接。
具体地,快速处理通道包括启动模块、快转处理模块、快转拼接模块和输出模块,快转处理模块与启动模块信号连接;快转拼接模块与快转处理模块信号连接;输出模块与快转拼接模块信号连接;启动模块配置为打开快转开关。
快转处理模块配置为在快转接口内部对日志信息进行格式化,获得数据层信息;快转拼接模块配置为对数据层信息进行快转拼接,获得快转拼接信息;输出模块配置为基于预设链路转发快转拼接信息至所述预设地址。
在本申请中,快速处理通道为增设的专门进行快速处理的快转接口。通过本申请公开方法,增加专门快速处理日志信息的快速处理通道(即日志接口),接口内部分兼容原发送到缓存区功能,能够实现快转处理。
此外,快转流程不会占用日志进程的资源,包括拼接、合法判断、数据的格式化等操作都不会占资源,节省了相当大的资源空间,使日志进程可以更高效地处理其他事物。
快转功能所占的资源归调用者所有,减轻了日志进程的资源压力;不需要进入快速通道,则根据日志类型选择不同的日志通道存储。
单独配置的快速转发通道(即快速处理通道),使得日志可以在接口处直接处理并发送到收集端,无需日志进程处理,保证日志数据不被丢失。不使用快速转发通道时,保证的是其它模块的处理效率,计算资源分配倾向于处理其它业务,采用快速转发通道时,计算资源倾向于日志处理,因此,计算资源分配给日志处理还是处理其它业务,就可以通过用户配置灵活选择。
在本申请中,将本申请中的流程单独封装成一个可供外部使用的接口,用户的使用信息会被记录到配置文件中,通过在该接口内部解析配置文件,使得用户可以自由选择是否使用快转功能,若使用快转功能,则通过出发快速处理通道,即在快转接口的内部内部进行快转处理,这一部分日志信息会记录到单独的缓存区中,根据协议栈,从数据系统高效外发接口统一发送到目标地址。
通过本申请公开的方案,在全自主定义安全防护网关中通过将日志信息分流处理,让调用者给外发过程自行分配资源,而实现日志转发效率的提升。
参照图2,以日志信息为流量日志为例进行详细说明;本实施例主要可解决大量流量日志转发过程中存在的部分流量日志丢失、占用CPU资源较多、转发效率低的问题,其中,大量指的是流量日志的流量为至少每秒1万条。
具体地,获取大量流量日志;判断获取的流量日志是否合法,若该流量日志包含type_id、msgid、vsysid三个元素,若不包含,则为不合法,丢弃该流量日志,或者,若包含的type_id、msgid、vsysid不在预设范围内,则为不合法,丢弃该流量日志。
若包含type_id、msgid、vsysid这三个元素且包含的type_id、msgid、vsysid在预设范围内,则为合法,然后判断该流量日志的级别是否低于预设级别,若是,则丢弃该流量日志。
若否,即等于或大于预设级别,判断该流量日志的开关是否打开,若否,即流量日志的开关的是关闭的,则丢弃该流量日志,说明该流量日志不是系统所匹配的。
若是,根据用户需求判断是否需要触发快速处理通道,即打开接口,以进行快转处理。
若不需要,触发正常处理通道;在正常处理通道中,根据日志信息的类型选择对应的日志通信通道,并存储至日志环形缓冲区;通过日志进程(相当于总控中心)进行控制,遍历日志环形缓冲区,格式化日志信息,获得管理层信息;对管理层信息进行本地拼接或外发拼接,获得本地拼接信息或者外发拼接信息,并存储在本地数据库;基于用户配置,将外发拼接信息外发到服务器。
若需要,触发快转开关配置,在快转接口模块对日志信息进行格式化,获得数据层信息,对数据层信息进行快转拼接,获得快转拼接信息,该快转拼接信息为syslog格式。
然后通过数据系统高效外发接口(即数据面接口)转发所述快转拼接信息至预设地址,即转发给用户配置已经配置好的目的地(ip)。
在整个方法中,还包括对日志信息进行统计,具体地,通过日志统计模块进行统计。日志统计模块包括第一统计模块、第二统计模块和第三统计模块,第一统计模块用于统计正常外发数和结果;第二统计模块,用于统计快转外发数和结果;第三统计模块,用于统计丢弃的流量日志信息。
通过本申请公开的方案,应用于日志模块快速转发的场景,针对流量日志,在快速处理通道内部,变更日志信息格式化位置,通过静态库方式连接到数据系统进程中,日志信息在快转接口内部完成格式化,不占用日志进程cpu资源;把格式化后的日志信息直接通过协议栈发出,由数据系统高效外发接口完成发送,高效便捷。
本申请公开的用于大量流量日志的转发方法,有效减少日志进程资源占比,快转处理通道将调用接口所占资源分配给了调用者,减少了日志进程内部的压力,大大减少了日志进程消耗的的cpu资源。
同时可以有效解决流量日志丢失的问题,提升日志转发效率:采用单独分配数据面缓冲区的方式,日志定义信息无需进入管理面的无锁环形队列,在接口内部完成封装、协议栈发送,高效迅捷;
每个调用接口的进程单独使用cpu资源,较将多类日志集中发送到队列统一由日志进程处理来说,效率得到了很大的提升。
通过本申请公开的方法,能够实现日志信息的快速转发,可用于全自主定义安全防护网关产品,例如防火墙、入侵检测、安全接入、堡垒机、网闸等。
参照图3,本申请的第二方面公开了一种日志转发系统,包括日志分析模块、日志传输模块、日志输出模块和日志统计模块,日志分析模块、日志输出模块均与日志传输模块信号连接,日志统计模块与日志分析模块、日志传输模块、日志输出模块信号连接。
日志分析模块配置为获取日志信息,并判断日志信息是否合法;若不合法,丢弃日志信息;若合法,输出日志信息至日志传输模块;
日志传输模块配置为根据预设需求判断是否需要触发快速处理通道;若否,触发正常处理通道,通过常规处理获得普通信息,并转发普通信息至预设地址;若否,传递日志信息至日志输出模块;
日志输出模块配置为对日志信息进行快转处理,获得快转拼接信息,并转发快转拼接信息至预设地址。
日志统计模块包括第一统计模块、第二统计模块和第三统计模块,第一统计模块用于统计常规处理后外发的信息数量和结果;
第二统计模块,用于统计快转处理外发的信息数量和结果;
第三统计模块,用于统计丢弃的日志信息的数量和结果。
根据本公开实施例的电子设备包括存储器和处理器。该存储器用于存储非暂时性计算机可读指令。具体地,存储器可以包括一个或多个计算机程序产品,该计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。该易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。该非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。
该处理器可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以控制电子设备中的其它组件以执行期望的功能。在本公开的一个实施例中,该处理器用于运行该存储器中存储的该计算机可读指令,使得该电子设备执行前述的本公开各实施例的日志转发方法全部或部分步骤。
本领域技术人员应能理解,为了解决如何获得良好用户体验效果的技术问题,本实施例中也可以包括诸如通信总线、接口等公知的结构,这些公知的结构也应包含在本公开的保护范围之内。
如图4为本公开实施例提供的一种电子设备的结构示意图。其示出了适于用来实现本公开实施例中的电子设备的结构示意图。图4示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,电子设备可以包括处理装置(例如中央处理器、图形处理器等),其可以根据存储在只读存储器(ROM)中的程序或者从存储装置加载到随机访问存储器(RAM)中的程序而执行各种适当的动作和处理。在RAM中,还存储有电子设备操作所需的各种程序和数据。处理装置、ROM以及RAM通过总线彼此相连。输入/输出(I/O)接口也连接至总线。
通常,以下装置可以连接至I/O接口:包括例如传感器或者视觉信息采集设备等的输入装置;包括例如显示屏等的输出装置;包括例如磁带、硬盘等的存储装置;以及通信装置。通信装置可以允许电子设备与其他设备(比如边缘计算设备)进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置从网络上被下载和安装,或者从存储装置被安装,或者从ROM被安装。在该计算机程序被处理装置执行时,执行本公开实施例的日志转发方法的全部或部分步骤。
有关本实施例的详细说明可以参考前述各实施例中的相应说明,在此不再赘述。
根据本公开实施例的计算机可读存储介质,其上存储有非暂时性计算机可读指令。当该非暂时性计算机可读指令由处理器运行时,执行前述的本公开各实施例的日志转发方法的全部或部分步骤。
上述计算机可读存储介质包括但不限于:光存储介质(例如:CD-ROM和DVD)、磁光存储介质(例如:MO)、磁存储介质(例如:磁带或移动硬盘)、具有内置的可重写非易失性存储器的媒体(例如:存储卡)和具有内置ROM的媒体(例如:ROM盒)。
有关本实施例的详细说明可以参考前述各实施例中的相应说明,在此不再赘述。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
在本公开中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序,本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
另外,如在此使用的,在以“至少一个”开始的项的列举中使用的“或”指示分离的列举,以便例如“A、B或C的至少一个”的列举意味着A或B或C,或AB或AC或BC,或ABC(即A和B和C)。此外,措辞“示例的”不意味着描述的例子是优选的或者比其他例子更好。
还需要指出的是,在本公开的系统和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
可以不脱离由所附权利要求定义的教导的技术而进行对在此所述的技术的各种改变、替换和更改。此外,本公开的权利要求的范围不限于以上所述的处理、机器、制造、事件的组成、手段、方法和动作的具体方面。可以利用与在此所述的相应方面进行基本相同的功能或者实现基本相同的结果的当前存在的或者稍后要开发的处理、机器、制造、事件的组成、手段、方法或动作。因而,所附权利要求包括在其范围内的这样的处理、机器、制造、事件的组成、手段、方法或动作。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (16)
1.一种日志转发方法,其特征在于,该方法包括:
判断获取的日志信息是否合法;
若不合法,丢弃所述日志信息;
若合法,根据预设需求判断是否需要触发快速处理通道;
若否,触发正常处理通道,通过常规处理获得普通信息,并转发所述普通信息至预设地址;
若是,对所述日志信息进行快转处理,获得快转拼接信息,并转发所述快转拼接信息至预设地址。
2.根据权利要求1所述的日志转发方法,其特征在于,所述常规处理包括:
根据所述日志信息的类型选择对应的日志通信通道,并存储至日志环形缓冲区;
格式化所述日志信息,获得管理层信息;
对所述管理层信息进行本地拼接或外发拼接,获得本地拼接信息或外发拼接信息,并存储在本地数据库;
基于用户配置,将所述外发拼接信息外发到所述预设地址。
3.根据权利要求2所述的日志转发方法,其特征在于,所述预设地址为与用户配置匹配的预设服务器。
4.根据权利要求2所述的日志转发方法,其特征在于,所述本地拼接为根据数据库结构进行的拼接。
5.根据权利要求2所述的日志转发方法,其特征在于,所述外发拼接为根据Syslog格式、Welf格式、Tp格式或Tal格式中的任一种进行的拼接。
6.根据权利要求1所述的日志转发方法,其特征在于,所述快转拼接信息的获取方法为:
对所述日志信息进行格式化处理,获得数据层信息;
对所述数据层信息进行快转拼接,获得所述快转拼接信息。
7.根据权利要求6所述的日志转发方法,其特征在于,所述快转拼接为根据Syslog格式进行的拼接。
8.根据权利要求1所述的日志转发方法,其特征在于,所述快转拼接信息通过数据系统高效外发接口转发至所述预设地址。
9.根据权利要求1所述的日志转发方法,其特征在于,所述快速处理通道包括启动模块、快转处理模块、快转拼接模块和输出模块,所述快转处理模块与所述启动模块信号连接;
所述快转拼接模块与所述快转处理模块信号连接;
所述输出模块与所述快转拼接模块信号连接;
所述启动模块配置为打开快转开关;
所述快转处理模块配置为在快转接口内部对日志信息进行格式化,获得数据层信息;
所述快转拼接模块配置为对数据层信息进行快转拼接,获得所述快转拼接信息;
所述输出模块配置为基于预设链路转发所述快转拼接信息至所述预设地址。
10.根据权利要求1所述的日志转发方法,其特征在于,所述日志信息的合法判断方法为:判断日志信息中包含的type_id、msgid、vsysid是否在预设范围内,若是,则判定为合法;
若否,则判定为不合法。
11.根据权利要求1所述的日志转发方法,其特征在于,所述日志信息为流量日志。
12.根据权利要求11所述的日志转发方法,其特征在于,所述流量日志的流量为至少每秒1万条。
13.一种日志转发系统,其特征在于,包括日志分析模块、日志传输模块和日志输出模块,所述日志分析模块、所述日志输出模块均与所述日志传输模块信号连接;
日志分析模块配置为获取日志信息,并判断所述日志信息是否合法;若不合法,丢弃所述日志信息;若合法,输出所述日志信息至所述日志传输模块;
日志传输模块配置为根据预设需求判断是否需要触发快速处理通道;若否,触发正常处理通道,通过常规处理获得普通信息,并转发所述普通信息至预设地址;若否,传递所述日志信息至所述日志输出模块;
日志输出模块配置为对所述日志信息进行快转处理,获得快转拼接信息,并转发所述快转拼接信息至预设地址。
14.根据权利要求13所述的日志转发系统,其特征在于,还包括日志统计模块,所述日志统计模块与所述日志分析模块、所述日志传输模块、所述日志输出模块均信号连接;
所述日志统计模块包括第一统计模块、第二统计模块和第三统计模块,所述第一统计模块用于统计常规处理后外发的信息数量和结果;
所述第二统计模块,用于统计快转处理外发的信息数量和结果;
所述第三统计模块,用于统计丢弃的日志信息的数量和结果。
15.一种电子设备,其特征在于,所述电子设备包括:至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-12任一所述的日志转发方法。
16.一种计算机可读存储介质,其特征在于,该计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行权利要求1-12任一所述的日志转发方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211642471.3A CN115967616A (zh) | 2022-12-20 | 2022-12-20 | 日志转发方法、系统、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211642471.3A CN115967616A (zh) | 2022-12-20 | 2022-12-20 | 日志转发方法、系统、电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115967616A true CN115967616A (zh) | 2023-04-14 |
Family
ID=87360905
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211642471.3A Pending CN115967616A (zh) | 2022-12-20 | 2022-12-20 | 日志转发方法、系统、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115967616A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116545685A (zh) * | 2023-04-28 | 2023-08-04 | 零束科技有限公司 | 车内校验失败信息管理方法、通讯系统、车辆及存储介质 |
-
2022
- 2022-12-20 CN CN202211642471.3A patent/CN115967616A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116545685A (zh) * | 2023-04-28 | 2023-08-04 | 零束科技有限公司 | 车内校验失败信息管理方法、通讯系统、车辆及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9800502B2 (en) | Quantized congestion notification for computing environments | |
US11265292B1 (en) | Graph based management of virtualized infrastructures | |
MacDavid et al. | A P4-based 5G user plane function | |
US20160087867A1 (en) | Switch monitoring statistics gathering at servers and gateways for overlay networks | |
US10284460B1 (en) | Network packet tracing | |
CN112887229B (zh) | 一种会话信息同步方法及装置 | |
CN107111510B (zh) | 一种针对vnf包进行操作的方法及装置 | |
US11347488B2 (en) | Compiling domain-specific language code to generate executable code targeting an appropriate type of processor of a network device | |
WO2024148833A1 (zh) | 一种容器多网卡网络配置方法、装置、设备及存储介质 | |
WO2022233297A1 (zh) | 云网络、用于云网络的测量系统、方法、设备及存储介质 | |
CN115967616A (zh) | 日志转发方法、系统、电子设备 | |
CN111314112A (zh) | 一种基于家庭网关的业务加速方法及系统 | |
US20170093665A1 (en) | Problem detection in a distributed digital network through distributed packet analysis | |
US10263807B2 (en) | Hierarchical statistics acceleration | |
US11210156B1 (en) | Intelligent distributed tracing | |
US10397143B1 (en) | Preventing transmission of errors in a computing network | |
US10003677B2 (en) | Network application verification at a network processor | |
EP4236254A1 (en) | Message processing method and device | |
CN117278358A (zh) | 报文发送方法、装置、网络设备及存储介质 | |
CN109710423B (zh) | 一种用于虚拟机间通信的方法及设备 | |
CN109450794B (zh) | 一种基于sdn网络的通信方法及设备 | |
CN114866488A (zh) | 信息流识别方法、网络芯片及网络设备 | |
US10466934B2 (en) | Methods and systems for time-based binning of network traffic | |
CN112817536B (zh) | 一种数据包的捕获方法及相关装置 | |
CN114579387B (zh) | 自定义nginx系统的配置方法、数据处理方法、装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |