CN111193619A - 一种日志文件的采集方法及装置 - Google Patents
一种日志文件的采集方法及装置 Download PDFInfo
- Publication number
- CN111193619A CN111193619A CN201911331053.0A CN201911331053A CN111193619A CN 111193619 A CN111193619 A CN 111193619A CN 201911331053 A CN201911331053 A CN 201911331053A CN 111193619 A CN111193619 A CN 111193619A
- Authority
- CN
- China
- Prior art keywords
- log
- application server
- request
- configuration information
- log file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
- G06F16/1815—Journaling file systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例提供了一种日志文件的采集方法及装置。该日志文件的采集方法,包括:接收外部设备发送的配置信息;其中,所述配置信息包括:日志来源地址以及请求时间;根据所述配置信息,在所述请求时间向所述日志来源地址指示的应用服务器发送日志获取请求,以使所述应用服务器根据所述日志获取请求向所述管理服务器返回日志文件;接收并保存所述日志文件。请求时间为发送日志获取请求的时间,同时也可以认为是接收到日志文件的时间。通过用户自由设定请求时间,可以避免应用服务器的在业务高峰时段推送日志文件,从而消除了日志采集过程对应用服务器带来的影响。
Description
技术领域
本发明涉及日志采集领域,尤其涉及一种日志文件的采集方法及装置。
背景技术
随着科学技术的不断发展,人们的生活和工作与网络的联系也越来越紧密。为了营造一个良好的网络环境,需要对网络中的信息进行审计。即从各个应用系统中采集日志文件进行审计。其中,日志文件是用于记录系统操作事件的记录文件或文件集合,可分为事件日志和消息日志。具有处理历史数据、诊断问题的追踪以及理解系统的活动等重要作用。
由于应用系统中日志文件的数量增长很快,通常需要每隔一段时间对日志文件进行一次更新,覆盖掉原有的日志文件。为避免覆盖原有日志文件带来的影响,通常在覆盖前或者日志文件的数量达到阈值时,将应用系统上的日志推送至管理系统。
然而为实现上述操作,需要在应用系统额外开发相关功能,并且可能影响到应用系统的原有业务。同时在推送日志文件时,若碰上业务高峰期,将影响应用系统上业务的正常运行。
发明内容
鉴于上述问题,提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的日志文件的采集方法及装置。
第一方面,本发明实施例公开了一种日志文件的采集方法,应用于管理服务器,所述方法包括:
接收外部设备发送的配置信息;其中,所述配置信息包括:日志来源地址以及请求时间;
根据所述配置信息,在所述请求时间向所述日志来源地址指示的应用服务器发送日志获取请求,以使所述应用服务器根据所述日志获取请求向所述管理服务器返回日志文件;
接收并保存所述日志文件。
可选的,所述配置信息还包括:至少一种日志文件类型;其中,所述日志文件类型包括:应用平台日志、操作系统日志以及数据库日志。
可选的,所述根据所述配置信息,在所述请求时间向所述日志来源地址指示的应用服务器发送日志获取请求,以使所述应用服务器根据所述日志获取请求向所述管理服务器返回日志文件的步骤包括:
监测当前时间,并在当前时间达到所述请求时间时,根据所述配置信息中的日志文件类型以及日志来源地址生成日志获取请求;
将所述日志获取请求发送至所述日志来源地址指示的应用服务器,以使所述应用服务器根据所述日志获取请求返回对应所述日志文件类型的日志文件。
可选的,所述配置信息还包括:所述日志来源地址指示的应用服务器的类型;其中,所述应用服务器的类型包括互联网应用服务器和视联网应用服务器。
可选的,所述向所述日志来源地址指示的应用服务器发送日志获取请求的步骤包括:
根据所述日志来源地址指示的应用服务器的类型确定传输协议;其中,所述传输协议包括互联网协议和视联网协议;
采用确定的所述传输协议向所述日志来源地址指示的应用服务器发送日志获取请求。
第二方面,本发明实施例还公开了一种日志文件的采集方法,应用于应用服务器,所述方法包括:
接收管理服务器发送的日志获取请求,其中所述日志获取请求为所述管理服务器接收到外部设备发送的配置信息之后,根据所述配置信息,在请求时间发送的请求,所述配置信息包括:日志来源地址以及请求时间;
根据所述日志获取请求,获取所述应用服务器上产生的日志文件;
将所述日志文件发送至所述管理服务器。
第三方面,本发明实施例还公开了一种日志文件的采集装置,应用于管理服务器,所述装置包括:
配置模块,用于接收外部设备发送的配置信息;其中,所述配置信息包括:日志来源地址以及请求时间;
第一采集模块,用于根据所述配置信息,在所述请求时间向所述日志来源地址指示的应用服务器发送日志获取请求,以使所述应用服务器根据所述日志获取请求向所述管理服务器返回日志文件;
第二采集模块,用于接收并保存所述日志文件。
可选的,所述配置信息还包括:至少一种日志文件类型;其中,所述日志文件类型包括:应用平台日志、操作系统日志以及数据库日志。
可选的,所述第一采集模块包括:
日志请求单元,用于监测当前时间,并在当前时间达到所述请求时间时,根据所述配置信息中的日志文件类型以及日志来源地址生成日志获取请求;
发送单元,用于将所述日志获取请求发送至所述日志来源地址指示的应用服务器,以使所述应用服务器根据所述日志获取请求返回对应所述日志文件类型的日志文件。
可选的,所述配置信息还包括:所述日志来源地址指示的应用服务器的类型;其中,所述应用服务器的类型包括互联网应用服务器和视联网应用服务器。
可选的,所述第一采集模块包括:
协议单元,用于根据所述日志来源地址指示的应用服务器的类型确定传输协议;其中,所述传输协议包括互联网协议和视联网协议;
传输单元,用于采用确定的所述传输协议向所述日志来源地址指示的应用服务器发送日志获取请求。
第四方面,本发明实施例还公开了一种日志文件的采集装置,应用于应用服务器,所述装置包括:
接收模块,用于接收管理服务器发送的日志获取请求,其中所述日志获取请求为所述管理服务器接收到外部设备发送的配置信息之后,根据所述配置信息,在请求时间发送的请求,所述配置信息包括:日志来源地址以及请求时间;
日志模块,用于根据所述日志获取请求,获取所述应用服务器上产生的日志文件;
发送模块,用于将所述日志文件发送至所述管理服务器。
第五方面,本发明实施例还公开了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面或第二方面所述方法。
第六方面,本发明实施例还公开了一种计算机可读存储介质,所述计算机可读存储介质存储有执行上述第一方面或第二方面所述方法的计算机程序。
本发明实施例提供的日志文件的采集方法及装置,可以接收外部设备发送的配置信息;其中,配置信息包括:日志来源地址以及请求时间。用户可以通过外部设备自由设置配置信息的具体内容。根据配置信息,在请求时间向日志来源地址指示的应用服务器发送日志获取请求,以使应用服务器根据日志获取请求向管理服务器返回日志文件;接收并保存日志文件。请求时间为发送日志获取请求的时间,同时也可以认为是接收到日志文件的时间。通过控制请求时间即可控制采集日志文件的时间。从而达到按照指定时间获取日志文件的目的。并且通过用户自由设定请求时间,还可以避免应用服务器的在业务高峰时段推送日志文件,从而消除了日志采集过程对应用服务器带来的影响。
附图说明
图1是本发明实施例提供的应用于管理服务器的日志文件的采集方法步骤示意图;
图2是本发明实施例提供的日志文件的采集方法应用架构图之一;
图3是本发明实施例提供的应用于应用服务器的日志文件的采集方法步骤示意图;
图4是本发明实施例提供的日志文件的采集方法应用架构图之二;
图5是本发明实施例提供的应用于管理服务器的日志文件的采集装置示意图;
图6是本发明实施例提供的应用于应用服务器的日志文件的采集装置示意图;
图7是本发明实施例提供的一种视联网的组网示意图;
图8是本发明实施例提供的一种节点服务器的硬件结构示意图;
图9是本发明实施例提供的一种接入交换机的硬件结构示意图;
图10是本发明实施例提供的一种以太网协转网关的硬件结构示意图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
图1示出了本发明一实施例提供的日志文件的采集方法,应用于管理服务器,该方法包括以下步骤:
步骤101,接收外部设备发送的配置信息。
应当说明的是,配置信息包括:日志来源地址以及请求时间。外部设备可以是与管理服务器通过互联网或视联网连接的终端设备、应用平台数据库、安全管理中心等。用户可以通过外部设备对配置信息的具体内容进行设置。
日志来源地址用于确定所要采集日志文件的来源。根据日志来源地址就可以确定对应的应用服务器。请求时间可以是用户根据经验判断应用服务器的空闲时段中的任一时间。配置信息中可以包括一个或者多个日志来源地址,以及一个或多个请求时间。
步骤102,根据配置信息,在请求时间向日志来源地址指示的应用服务器发送日志获取请求,以使应用服务器根据日志获取请求向管理服务器返回日志文件。
应当说明的是,日志获取请求携带有日志来源地址,从而可以将日志获取请求发送到日志来源地址指示的应用服务器中。每个日志来源地址指示一个应用服务器,当存在多个日志来源地址时,则向多个应用服务器发送日志获取请求。多个应用服务器可以均为互联网应用服务器,可以均为视联网应用服务器,也可以是部分为互联网应用服务器,部分为视联网应用服务器。
步骤103,接收并保存日志文件。
应当说明的是,在接收到日志文件之后,对日志文件进行存储。
本发明实施例中,管理服务器可以接收外部设备发送的配置信息;其中,配置信息包括:日志来源地址以及请求时间。用户可以通过外部设备自由设置配置信息的具体内容。根据配置信息,在请求时间向日志来源地址指示的应用服务器发送日志获取请求,以使应用服务器根据日志获取请求向管理服务器返回日志文件;接收并保存日志文件。请求时间为发送日志获取请求的时间,同时也可以认为是接收到日志文件的时间。通过控制请求时间即可控制采集日志文件的时间。从而达到按照指定时间获取日志文件的目的。并且通过用户自由设定请求时间,还可以避免应用服务器的在业务高峰时段推送日志文件,从而消除了日志采集过程对应用服务器带来的影响。
为获取指定类型的日志文件,在上述发明实施例的基础上,本发明实施例中,配置信息还包括:至少一种日志文件类型;其中,日志文件类型包括:应用平台日志、操作系统日志以及数据库日志。
应当说明的是,应用平台日志包括tomcat服务日志文件,应用服务日志文件,web(万维网,World Wide Web)服务日志文件。操作系统日志包括Linux系统日志和Windows系统日志。
具体的,根据配置信息,在请求时间向日志来源地址指示的应用服务器发送日志获取请求,以使应用服务器根据日志获取请求向管理服务器返回日志文件的步骤包括:
监测当前时间,并在当前时间达到请求时间时,根据配置信息中的日志文件类型以及日志来源地址生成日志获取请求;
将日志获取请求发送至日志来源地址指示的应用服务器,以使应用服务器根据日志获取请求返回对应日志文件类型的日志文件。
日志获取请求中携带有日志文件类型,因此应用服务器在根据日志获取请求返回日志文件时,只需要将对应日志文件类型的日志文件返回即可。例如日志获取请求携带的日志文件类型为应用服务日志和数据库日志,则应用服务器仅需要查找应用服务日志和数据库日志,并将查找到的日志文件返回管理服务器即可。
较佳的,可以在应用服务器上设置监测探针,由监测探针接收日志获取请求,根据日志获取请求在应用服务器上获取对应的日志文件,并将获取的日志文件返回至管理服务器。可以通过监测探针将应用服务器上的日志文件存放至固定的目录下,从而方便查询日志文件。当然也可以将部分日志文件存放至固定的目录下,剩余部分日志文件可以通过命令查询。例如表1和表2中关于Linux系统日志的相关描述,其中部分日志需要采用命令查看并获取,如日志文件名为:/var/log/dmesg的日志文件,使用dmesg命令直接查看内核自检信息。
表1:
表2:
监测探针对于纯文本格式的日志文件根据文件修改日期和内容日期来过滤读取的内容,对于二进制类型的日志文件,监测探针通过执行对应的脚本获取日志信息,并将日志信息另存为文本格式的日志文件;
对于Windows操作系统的日志信息,监测探针通过Windows提供的系统应用程序接口,将每天的日志信息保存为纯文本格式的日志文件。
在上述发明实施例的基础上,本发明实施例中,配置信息还包括:日志来源地址指示的应用服务器的类型;其中,应用服务器的类型包括互联网应用服务器和视联网应用服务器。
应当说明的是,互联网应用服务器应当采用互联网协议进行数据传输;视联网应用服务器应当采用视联网协议进行数据传输。因此管理服务器在发送日志获取请求时,针对应用服务器的类型采用不同的传输协议。
具体的,向日志来源地址指示的应用服务器发送日志获取请求的步骤包括:
根据日志来源地址指示的应用服务器的类型确定传输协议;其中,传输协议包括互联网协议和视联网协议;
采用确定的传输协议向日志来源地址指示的应用服务器发送日志获取请求。
当日志来源地址指示的应用服务器为视联网应用服务器,则通过视联网协议向日志来源地址指示的应用服务器发送日志获取请求。当日志来源地址指示的应用服务器为互联网应用服务器,则通过互联网协议向日志来源地址指示的应用服务器发送日志获取请求。当然在接收到日志文件时,还需要采用对应的传输协议解析日志文件。
如图2所示,为本发明实施例提供的日志文件的采集方法应用架构图;其中应用服务器对日志文件进行标准化处理,可以带有可识别的警告、错误、异常等标志信息,然后将每天的日志文件保存至指定目录中。监测探针部署在应用服务器上,可以采集应用平台日志,操作系统日志和数据库日志文件。监测探针通过监测的平台类型,每天定时读取对应文件目录中的文件。
安管中心前端可以配置每个监测探针获取日志的时间,比如可以设置某个监测探针在每天00:01分获取日志文件,探针管理每天00:01分向此监测探针发送日志获取请求,日志获取请求中包含日志获取类型(应用平台、操作系统或者数据库)。
监测探针收到日志获取请求后,根据收到的请求内容,获取日志文件信息,向探针管理发送日志内容。探针管理收到日志内容后,将接收到的文件内容进行保存。
如图3所示,依据本发明的又一个方面,提供了一种日志文件的采集方法,应用于应用服务器,该方法包括:
步骤301,接收管理服务器发送的日志获取请求。
应当说明的是,其中日志获取请求为管理服务器接收到外部设备发送的配置信息之后,根据配置信息,在请求时间发送的请求,配置信息包括:日志来源地址以及请求时间。可以在应用服务器上部署监测探针,由监测探针接收日志获取请求。
步骤302,根据日志获取请求,获取应用服务器上产生的日志文件;
应当说明的是,日志获取请求中还携带有至少一种日志文件类型,应用服务器根据日志获取请求获取对应日志文件类型的日志文件。
步骤303,将日志文件发送至管理服务器。
本发明实施例中,应用服务器在接收到管理服务器发送的日志获取请求之后,返回日志文件。不需要在应用服务器上额外开发相关功能,避免影响到应用服务器的原有业务。同时由于仅在接收到日志获取请求之后才会查询并返回日志文件,因此通过控制管理服务器发送日志获取请求的时间,还可以避免应用服务器的在业务高峰时段推送日志文件,从而消除了日志采集过程对应用服务器带来的影响。
如图4所示,为本发明实施例提供的日志文件的采集方法应用架构图;其中包括多个互联网应用服务器、多个视联网应用服务器、视联网服务器、探针管理以及安管中心。每个互联网应用服务器和每个视联网应用服务器中分别设置有一个监测探针,探针管理支持互联网协议和视联网协议的通讯方式。
部署在视联网应用服务器上的监测探针,采用视联网协议接收探针管理请求和推送日志文件信息。部署在互联网应用服务器上的监测探针,采用互联网协议接收探针管理请求和推送日志文件信息。
可以在安全管理中心中,批量的配置各个监测探针上报日志文件信息的时间。并将配置信息下发至探针管理。探针管理可以同时向多个监测探针发送日志获取请求,并且并行的接收监测探针上报的日志文件信息。视联网协议通过探针源端号码区分日志的来源,互联网协议通过socket(套接字)连接的句柄和报文中的平台id来区分文件来源。探针管理将日志文件进行保存。
探针管理向部署在视联网应用服务器上的监测探针发送请求时,可采用表3所示协议。
表3:
部署在视联网应用服务器上的监测探针收到探针管理发送的日志获取请求后,还可以先进行响应,告知探针管理其是否具备发送日志文件的条件。若不具备则不会向探针管理发送日志文件;若具备则会向探针管理发送日志文件,其中监测探针向探针管理进行响应时,可采用表4所示协议,监测探针向探针管理发送日志文件时,可采用表5所示协议。
表4:
表5:
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
如图5所示,为本发明实施例提供的一种日志文件的采集装置,应用于管理服务器,该装置包括:
配置模块501,用于接收外部设备发送的配置信息;其中,配置信息包括:日志来源地址以及请求时间;
第一采集模块502,用于根据配置信息,在请求时间向日志来源地址指示的应用服务器发送日志获取请求,以使应用服务器根据日志获取请求向管理服务器返回日志文件;
第二采集模块503,用于接收并保存日志文件。
可选的,配置信息还包括:至少一种日志文件类型;其中,日志文件类型包括:应用平台日志、操作系统日志以及数据库日志。
可选的,第一采集模块502包括:
日志请求单元,用于监测当前时间,并在当前时间达到请求时间时,根据配置信息中的日志文件类型以及日志来源地址生成日志获取请求;
发送单元,用于将日志获取请求发送至日志来源地址指示的应用服务器,以使应用服务器根据日志获取请求返回对应日志文件类型的日志文件。
可选的,配置信息还包括:日志来源地址指示的应用服务器的类型;其中,应用服务器的类型包括互联网应用服务器和视联网应用服务器。
可选的,第一采集模块502包括:
协议单元,用于根据日志来源地址指示的应用服务器的类型确定传输协议;其中,传输协议包括互联网协议和视联网协议;
传输单元,用于采用确定的传输协议向日志来源地址指示的应用服务器发送日志获取请求。
本发明实施例中,管理服务器可以接收外部设备发送的配置信息;其中,配置信息包括:日志来源地址以及请求时间。用户可以通过外部设备自由设置配置信息的具体内容。根据配置信息,在请求时间向日志来源地址指示的应用服务器发送日志获取请求,以使应用服务器根据日志获取请求向管理服务器返回日志文件;接收并保存日志文件。请求时间为发送日志获取请求的时间,同时也可以认为是接收到日志文件的时间。通过控制请求时间即可控制采集日志文件的时间。从而达到按照指定时间获取日志文件的目的。并且通过用户自由设定请求时间,还可以避免应用服务器的在业务高峰时段推送日志文件,从而消除了日志采集过程对应用服务器带来的影响。
如图6所示,为本发明实施例提供的一种日志文件的采集装置,应用于应用服务器,该装置包括:
接收模块601,用于接收管理服务器发送的日志获取请求,其中日志获取请求为管理服务器接收到外部设备发送的配置信息之后,根据配置信息,在请求时间发送的请求,配置信息包括:日志来源地址以及请求时间;
日志模块602,用于根据日志获取请求,获取应用服务器上产生的日志文件;
发送模块603,用于将日志文件发送至管理服务器。
本发明实施例中,应用服务器在接收到管理服务器发送的日志获取请求之后,返回日志文件。不需要在应用服务器上额外开发相关功能,避免影响到应用服务器的原有业务。同时由于仅在接收到日志获取请求之后才会查询并返回日志文件,因此通过控制管理服务器发送日志获取请求的时间,还可以避免应用服务器的在业务高峰时段推送日志文件,从而消除了日志采集过程对应用服务器带来的影响。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本发明实施例还公开了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述任一实施例所述的方法。
本发明实施例还公开了一种计算机可读存储介质,所述计算机可读存储介质存储有执行上述实现上述任一实施例所述的方法的计算机程序。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
视联网是网络发展的重要里程碑,是一个实时网络,能够实现高清视频实时传输,将众多互联网应用推向高清视频化,高清面对面。
视联网采用实时高清视频交换技术,可以在一个网络平台上将所需的服务,如高清视频会议、视频监控、智能化监控分析、应急指挥、数字广播电视、延时电视、网络教学、现场直播、VOD点播、电视邮件、个性录制(PVR)、内网(自办)频道、智能化视频播控、信息发布等数十种视频、语音、图片、文字、通讯、数据等服务全部整合在一个系统平台,通过电视或电脑实现高清品质视频播放。
为使本领域技术人员更好地理解本发明实施例,以下对视联网进行介绍:
视联网所应用的部分技术如下所述:
网络技术(Network Technology)
视联网的网络技术创新改良了传统以太网(Ethernet),以面对网络上潜在的巨大视频流量。不同于单纯的网络分组交换(Packet Switching)或网络电路交换(CircuitSwitching),视联网技术采用网络分组交换满足Streaming(译为成流、流、连续播送,是一种数据传送技术,把收到的数据变成一个稳定连续的流,源源不断地送出,使用户听到的声音或看到的图像十分平稳,而且用户在整个数据传送完之前就可以开始在屏幕上进行浏览)需求。视联网技术具备分组交换的灵活、简单和低价,同时具备电路交换的品质和安全保证,实现了全网交换式虚拟电路,以及数据格式的无缝连接。
交换技术(Switching Technology)
视联网采用以太网的异步和包交换两个优点,在全兼容的前提下消除了以太网缺陷,具备全网端到端无缝连接,直通用户终端,直接承载IP数据包。用户数据在全网范围内不需任何格式转换。视联网是以太网的更高级形态,是一个实时交换平台,能够实现目前互联网无法实现的全网大规模高清视频实时传输,将众多网络视频应用推向高清化、统一化。
服务器技术(Server Technology)
视联网和统一视频平台上的服务器技术不同于传统意义上的服务器,它的流媒体传输是建立在面向连接的基础上,其数据处理能力与流量、通讯时间无关,单个网络层就能够包含信令及数据传输。对于语音和视频业务来说,视联网和统一视频平台流媒体处理的复杂度比数据处理简单许多,效率比传统服务器大大提高了百倍以上。
储存器技术(Storage Technology)
统一视频平台的超高速储存器技术为了适应超大容量和超大流量的媒体内容而采用了最先进的实时操作系统,将服务器指令中的节目信息映射到具体的硬盘空间,媒体内容不再经过服务器,瞬间直接送达到用户终端,用户等待一般时间小于0.2秒。最优化的扇区分布大大减少了硬盘磁头寻道的机械运动,资源消耗仅占同等级IP互联网的20%,但产生大于传统硬盘阵列3倍的并发流量,综合效率提升10倍以上。
网络安全技术(Network Security Technology)
视联网的结构性设计通过每次服务单独许可制、设备与用户数据完全隔离等方式从结构上彻底根除了困扰互联网的网络安全问题,一般不需要杀毒程序、防火墙,杜绝了黑客与病毒的攻击,为用户提供结构性的无忧安全网络。
服务创新技术(Service Innovation Technology)
统一视频平台将业务与传输融合在一起,不论是单个用户、私网用户还是一个网络的总合,都不过是一次自动连接。用户终端、机顶盒或PC直接连到统一视频平台,获得丰富多彩的各种形态的多媒体视频服务。统一视频平台采用“菜谱式”配表模式来替代传统的复杂应用编程,可以使用非常少的代码即可实现复杂的应用,实现“无限量”的新业务创新。
视联网的组网如下所述:
视联网是一种集中控制的网络结构,该网络可以是树型网、星型网、环状网等等类型,但在此基础上网络中需要有集中控制节点来控制整个网络。
如图7所示,视联网分为接入网和城域网两部分。
接入网部分的设备主要可以分为3类:节点服务器,接入交换机,终端(包括各种机顶盒、编码板、存储器等)。节点服务器与接入交换机相连,接入交换机可以与多个终端相连,并可以连接以太网。
其中,节点服务器是接入网中起集中控制功能的节点,可控制接入交换机和终端。节点服务器可直接与接入交换机相连,也可以直接与终端相连。
类似的,城域网部分的设备也可以分为3类:城域服务器,节点交换机,节点服务器。城域服务器与节点交换机相连,节点交换机可以与多个节点服务器相连。
其中,节点服务器即为接入网部分的节点服务器,即节点服务器既属于接入网部分,又属于城域网部分。
城域服务器是城域网中起集中控制功能的节点,可控制节点交换机和节点服务器。城域服务器可直接连接节点交换机,也可直接连接节点服务器。
由此可见,整个视联网络是一种分层集中控制的网络结构,而节点服务器和城域服务器下控制的网络可以是树型、星型、环状等各种结构。
形象地称,接入网部分可以组成统一视频平台(圈中部分),多个统一视频平台可以组成视联网;每个统一视频平台可以通过城域以及广域视联网互联互通。
视联网设备分类
1.1本发明实施例的视联网中的设备主要可以分为3类:服务器,交换机(包括以太网网关),终端(包括各种机顶盒,编码板,存储器等)。视联网整体上可以分为城域网(或者国家网、全球网等)和接入网。
1.2其中接入网部分的设备主要可以分为3类:节点服务器,接入交换机(包括以太网网关),终端(包括各种机顶盒,编码板,存储器等)。
各接入网设备的具体硬件结构为:
节点服务器:
如图8所示,主要包括网络接口模块801、交换引擎模块802、CPU模块803、磁盘阵列模块804。
其中,网络接口模块801,CPU模块803、磁盘阵列模块804进来的包均进入交换引擎模块802;交换引擎模块802对进来的包进行查地址表805的操作,从而获得包的导向信息;并根据包的导向信息把该包存入对应的包缓存器806的队列;如果包缓存器806的队列接近满,则丢弃;交换引擎模802轮询所有包缓存器队列,如果满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零。磁盘阵列模块804主要实现对硬盘的控制,包括对硬盘的初始化、读写等操作;CPU模块803主要负责与接入交换机、终端(图中未示出)之间的协议处理,对地址表805(包括下行协议包地址表、上行协议包地址表、数据包地址表)的配置,以及,对磁盘阵列模块804的配置。
接入交换机:
如图9所示,主要包括网络接口模块(下行网络接口模块901、上行网络接口模块902)、交换引擎模块903和CPU模块904。
其中,下行网络接口模块901进来的包(上行数据)进入包检测模块905;包检测模块905检测包的目的地址(DA)、源地址(SA)、数据包类型及包长度是否符合要求,如果符合,则分配相应的流标识符(stream-id),并进入交换引擎模块903,否则丢弃;上行网络接口模块902进来的包(下行数据)进入交换引擎模块903;CPU模块904进来的数据包进入交换引擎模块903;交换引擎模块903对进来的包进行查地址表906的操作,从而获得包的导向信息;如果进入交换引擎模块903的包是下行网络接口往上行网络接口去的,则结合流标识符(stream-id)把该包存入对应的包缓存器907的队列;如果该包缓存器907的队列接近满,则丢弃;如果进入交换引擎模块903的包不是下行网络接口往上行网络接口去的,则根据包的导向信息,把该数据包存入对应的包缓存器907的队列;如果该包缓存器907的队列接近满,则丢弃。
交换引擎模块903轮询所有包缓存器队列,在本发明实施例中分两种情形:
如果该队列是下行网络接口往上行网络接口去的,则满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零;3)获得码率控制模块产生的令牌。
如果该队列不是下行网络接口往上行网络接口去的,则满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零。
码率控制模块908是由CPU模块904来配置的,在可编程的间隔内对所有下行网络接口往上行网络接口去的包缓存器队列产生令牌,用以控制上行转发的码率。
CPU模块904主要负责与节点服务器之间的协议处理,对地址表906的配置,以及,对码率控制模块908的配置。
以太网协转网关:
如图10所示,主要包括网络接口模块(下行网络接口模块1001、上行网络接口模块1002)、交换引擎模块1003、CPU模块1004、包检测模块1005、码率控制模块1008、地址表1006、包缓存器1007和MAC添加模块1009、MAC删除模块1010。
其中,下行网络接口模块1001进来的数据包进入包检测模块1005;包检测模块1005检测数据包的以太网MAC DA、以太网MAC SA、以太网length or frame type、视联网目的地址DA、视联网源地址SA、视联网数据包类型及包长度是否符合要求,如果符合则分配相应的流标识符(stream-id);然后,由MAC删除模块1010减去MAC DA、MAC SA、length orframe type(2byte),并进入相应的接收缓存,否则丢弃;
下行网络接口模块1001检测该端口的发送缓存,如果有包则根据包的视联网目的地址DA获知对应的终端的以太网MAC DA,添加终端的以太网MAC DA、以太网协转网关的MACSA、以太网length or frame type,并发送。
以太网协转网关中其他模块的功能与接入交换机类似。
终端:
主要包括网络接口模块、业务处理模块和CPU模块;例如,机顶盒主要包括网络接口模块、视音频编解码引擎模块、CPU模块;编码板主要包括网络接口模块、视音频编码引擎模块、CPU模块;存储器主要包括网络接口模块、CPU模块和磁盘阵列模块。
1.3城域网部分的设备主要可以分为3类:节点服务器,节点交换机,城域服务器。其中,节点交换机主要包括网络接口模块、交换引擎模块和CPU模块;城域服务器主要包括网络接口模块、交换引擎模块和CPU模块构成。
2、视联网数据包定义
2.1接入网数据包定义
接入网的数据包主要包括以下几部分:目的地址(DA)、源地址(SA)、保留字节、payload(PDU)、CRC。
如下表所示,接入网的数据包主要包括以下几部分:
DA | SA | Reserved | Payload | CRC |
目的地址(DA)由8个字节(byte)组成,第一个字节表示数据包的类型(例如各种协议包、组播数据包、单播数据包等),最多有256种可能,第二字节到第六字节为城域网地址,第七、第八字节为接入网地址。
源地址(SA)也是由8个字节(byte)组成,定义与目的地址(DA)相同。
保留字节由2个字节组成。
payload部分根据不同的数据报的类型有不同的长度,如果数据报的类型是各种协议包,则payload部分的长度是64个字节,如果数据报的类型是单组播数据包,则payload部分的长度是32+1024=1056个字节,当然并不仅仅限于以上2种。
CRC有4个字节组成,其计算方法遵循标准的以太网CRC算法。
2.2城域网数据包定义
城域网的拓扑是图型,两个设备之间可能有2种、甚至2种以上的连接,即节点交换机和节点服务器、节点交换机和节点交换机、节点交换机和节点服务器之间都可能超过2种连接。但是,城域网设备的城域网地址却是唯一的,为了精确描述城域网设备之间的连接关系,在本发明实施例中引入参数:标签,来唯一描述一个城域网设备。
本说明书中标签的定义和多协议标签交换(Multi-Protocol Label Switch,MPLS)的标签的定义类似,假设设备A和设备B之间有两个连接,那么数据包从设备A到设备B就有2个标签,数据包从设备B到设备A也有2个标签。标签分入标签、出标签,假设数据包进入设备A的标签(入标签)是0x0000,这个数据包离开设备A时的标签(出标签)可能就变成了0x0001。城域网的入网流程是集中控制下的入网过程,也就意味着城域网的地址分配、标签分配都是由城域服务器主导的,节点交换机、节点服务器都是被动的执行而已,这一点与MPLS的标签分配是不同的,MPLS的标签分配是交换机、服务器互相协商的结果。
如下表所示,城域网的数据包主要包括以下几部分:
DA | SA | Reserved | 标签 | Payload | CRC |
即目的地址(DA)、源地址(SA)、保留字节(Reserved)、标签、payload(PDU)、CRC。其中,标签的格式可以参考如下定义:标签是32bit,其中高16bit保留,只用低16bit,它的位置是在数据包的保留字节和payload之间。
尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
Claims (10)
1.一种日志文件的采集方法,应用于管理服务器,其特征在于,所述方法包括:
接收外部设备发送的配置信息;其中,所述配置信息包括:日志来源地址以及请求时间;
根据所述配置信息,在所述请求时间向所述日志来源地址指示的应用服务器发送日志获取请求,以使所述应用服务器根据所述日志获取请求向所述管理服务器返回日志文件;
接收并保存所述日志文件。
2.根据权利要求1所述的方法,其特征在于,所述配置信息还包括:至少一种日志文件类型;其中,所述日志文件类型包括:应用平台日志、操作系统日志以及数据库日志。
3.根据权利要求2所述的方法,其特征在于,所述根据所述配置信息,在所述请求时间向所述日志来源地址指示的应用服务器发送日志获取请求,以使所述应用服务器根据所述日志获取请求向所述管理服务器返回日志文件的步骤包括:
监测当前时间,并在当前时间达到所述请求时间时,根据所述配置信息中的日志文件类型以及日志来源地址生成日志获取请求;
将所述日志获取请求发送至所述日志来源地址指示的应用服务器,以使所述应用服务器根据所述日志获取请求返回对应所述日志文件类型的日志文件。
4.根据权利要求1所述的方法,其特征在于,所述配置信息还包括:所述日志来源地址指示的应用服务器的类型;其中,所述应用服务器的类型包括互联网应用服务器和视联网应用服务器。
5.根据权利要求4所述的方法,其特征在于,所述向所述日志来源地址指示的应用服务器发送日志获取请求的步骤包括:
根据所述日志来源地址指示的应用服务器的类型确定传输协议;其中,所述传输协议包括互联网协议和视联网协议;
采用确定的所述传输协议向所述日志来源地址指示的应用服务器发送日志获取请求。
6.一种日志文件的采集方法,应用于应用服务器,其特征在于,所述方法包括:
接收管理服务器发送的日志获取请求,其中所述日志获取请求为所述管理服务器接收到外部设备发送的配置信息之后,根据所述配置信息,在请求时间发送的请求,所述配置信息包括:日志来源地址以及请求时间;
根据所述日志获取请求,获取所述应用服务器上产生的日志文件;
将所述日志文件发送至所述管理服务器。
7.一种日志文件的采集装置,应用于管理服务器,其特征在于,所述装置包括:
配置模块,用于接收外部设备发送的配置信息;其中,所述配置信息包括:日志来源地址以及请求时间;
第一采集模块,用于根据所述配置信息,在所述请求时间向所述日志来源地址指示的应用服务器发送日志获取请求,以使所述应用服务器根据所述日志获取请求向所述管理服务器返回日志文件;
第二采集模块,用于接收并保存所述日志文件。
8.一种日志文件的采集装置,应用于应用服务器,其特征在于,所述装置包括:
接收模块,用于接收管理服务器发送的日志获取请求,其中所述日志获取请求为所述管理服务器接收到外部设备发送的配置信息之后,根据所述配置信息,在请求时间发送的请求,所述配置信息包括:日志来源地址以及请求时间;
日志模块,用于根据所述日志获取请求,获取所述应用服务器上产生的日志文件;
发送模块,用于将所述日志文件发送至所述管理服务器。
9.一种电子设备,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述计算机程序被所述处理器执行时实现如权利要求1至5中任一项所述的日志文件的采集方法或如权利要求6所述的日志文件的采集方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的日志文件的采集方法或如权利要求6所述的日志文件的采集方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911331053.0A CN111193619B (zh) | 2019-12-20 | 2019-12-20 | 一种日志文件的采集方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911331053.0A CN111193619B (zh) | 2019-12-20 | 2019-12-20 | 一种日志文件的采集方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111193619A true CN111193619A (zh) | 2020-05-22 |
CN111193619B CN111193619B (zh) | 2023-07-04 |
Family
ID=70711030
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911331053.0A Active CN111193619B (zh) | 2019-12-20 | 2019-12-20 | 一种日志文件的采集方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111193619B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114531339A (zh) * | 2020-11-03 | 2022-05-24 | 浙江宇视科技有限公司 | 一种日志收集方法、装置、电子设备和存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020116443A1 (en) * | 2001-02-19 | 2002-08-22 | Hitachi, Ltd. | Method and apparatus for supporting a system management |
US20070118575A1 (en) * | 2005-11-22 | 2007-05-24 | Hitachi, Ltd. | File server, file server log management system and file server log management method |
CN105100128A (zh) * | 2014-04-24 | 2015-11-25 | 北京金山网络科技有限公司 | 服务器集群日志的获取与提供方法、日志服务器及节点服务器 |
US20180329797A1 (en) * | 2017-05-12 | 2018-11-15 | Fujitsu Limited | Log output control apparatus, log output control method, and database server |
CN109325010A (zh) * | 2018-09-26 | 2019-02-12 | 中国平安人寿保险股份有限公司 | 日志查看方法、装置、计算机设备和存储介质 |
CN110232048A (zh) * | 2019-06-12 | 2019-09-13 | 腾讯科技(成都)有限公司 | 日志文件的获取方法、装置及存储介质 |
-
2019
- 2019-12-20 CN CN201911331053.0A patent/CN111193619B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020116443A1 (en) * | 2001-02-19 | 2002-08-22 | Hitachi, Ltd. | Method and apparatus for supporting a system management |
US20070118575A1 (en) * | 2005-11-22 | 2007-05-24 | Hitachi, Ltd. | File server, file server log management system and file server log management method |
CN105100128A (zh) * | 2014-04-24 | 2015-11-25 | 北京金山网络科技有限公司 | 服务器集群日志的获取与提供方法、日志服务器及节点服务器 |
US20180329797A1 (en) * | 2017-05-12 | 2018-11-15 | Fujitsu Limited | Log output control apparatus, log output control method, and database server |
CN109325010A (zh) * | 2018-09-26 | 2019-02-12 | 中国平安人寿保险股份有限公司 | 日志查看方法、装置、计算机设备和存储介质 |
CN110232048A (zh) * | 2019-06-12 | 2019-09-13 | 腾讯科技(成都)有限公司 | 日志文件的获取方法、装置及存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114531339A (zh) * | 2020-11-03 | 2022-05-24 | 浙江宇视科技有限公司 | 一种日志收集方法、装置、电子设备和存储介质 |
CN114531339B (zh) * | 2020-11-03 | 2024-03-22 | 浙江宇视科技有限公司 | 一种日志收集方法、装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111193619B (zh) | 2023-07-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109672856B (zh) | 资源同步方法和装置 | |
CN108965040B (zh) | 一种视联网的业务监控方法和装置 | |
CN109729310B (zh) | 一种监控巡检数据导出的方法和装置 | |
CN111193788A (zh) | 一种音视频流负载均衡方法和装置 | |
CN109617956B (zh) | 一种数据处理方法和装置 | |
CN110190973B (zh) | 一种在线状态检测方法及装置 | |
CN109218093B (zh) | 一种获取告警的方法和系统 | |
CN109587002B (zh) | 一种视联网监控设备的状态检测方法及系统 | |
CN109660753B (zh) | 资源同步方法和装置 | |
CN111221664A (zh) | 一种操作日志处理系统 | |
CN109743284B (zh) | 一种基于视联网的视频处理方法及系统 | |
CN111125426A (zh) | 一种数据存储和查询的方法及装置 | |
CN110557273A (zh) | 终端状态告警方法和装置 | |
CN110134892B (zh) | 一种监控资源列表的加载方法和系统 | |
CN109698953B (zh) | 一种视联网监控设备的状态检测方法及系统 | |
CN110691213B (zh) | 一种告警方法和装置 | |
CN110113555B (zh) | 一种基于视联网的视频会议处理方法及系统 | |
CN110677315A (zh) | 一种状态监控的方法和系统 | |
CN111193619B (zh) | 一种日志文件的采集方法及装置 | |
CN110557658A (zh) | 一种监控系统和方法 | |
CN110958461B (zh) | 一种视联网服务器连接状态的检测方法及装置 | |
CN110536148B (zh) | 一种基于视联网的直播方法和设备 | |
CN109450995B (zh) | 一种服务器端数据的获取方法和系统 | |
CN110213533B (zh) | 一种视联网监控视频流的获取方法及装置 | |
CN110267110B (zh) | 一种基于视联网的并发点播处理方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |