CN112737821B - 数据采集方法及装置 - Google Patents
数据采集方法及装置 Download PDFInfo
- Publication number
- CN112737821B CN112737821B CN202011527568.0A CN202011527568A CN112737821B CN 112737821 B CN112737821 B CN 112737821B CN 202011527568 A CN202011527568 A CN 202011527568A CN 112737821 B CN112737821 B CN 112737821B
- Authority
- CN
- China
- Prior art keywords
- service
- type
- acquisition
- service index
- index
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
- H04L12/46—Interconnection of networks
- H04L12/4641—Virtual LANs, VLANs, e.g. virtual private networks [VPN]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/50—Routing or path finding of packets in data switching networks using label swapping, e.g. multi-protocol label switch [MPLS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/133—Protocols for remote procedure calls [RPC]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本说明书提供一种数据采集方法及装置,所述方法包括:接收业务采集请求,所述业务采集请求中包括业务标识;根据预先存储的业务标识与业务指标集合的对应关系确定出该业务采集请求待采集的业务指标;根据预先存储的业务指标与采集类型的对应关系,确定所述业务指标对应的采集类型;按照所述采集类型向网络设备发送的业务指标的采集请求。本公开通过预先存储了丰富的知识,从而无需用户去掌握大量的知识去确定业务请求对应采集的具体业务指标,由此,大大提高了用户在数据采集时的便利性。
Description
技术领域
本说明书涉及通信技术领域,尤其涉及数据采集方法及装置。
背景技术
获取网络设备(交换机、路由器)的当前配置或状态数据是实现IT设备运维的必要步骤。对于不同的网络设备厂商,其获取自家设备的数据是比较容易的。但是现实情况下,客户场景中并不只会存在一种厂商的设备,甚至同厂商设备的版本也各有异。因此,业界一般使用公有的简单网络管理协议SNMP(Simple Network Management Protocol,缩写为SNMP)、网络配置协议Netconf(Network Configuration Protocol,缩写为Netconf)协议获取数据,才能保证客户场景下系统功能的正常使用。
Netconf是国际互联网工程任务组IETF(The Internet Engineering TaskForce,缩写为IETF)定义的“安装,操作和删除网络设备配置”的协议。Netconf操作使用可拓展标记语言Xml编码在远程过程调用RPC(Remote Procedure Call,缩写为RPC)层之上实现,并提供一组基本操作来编辑和查询网络设备上的配置。通过Netconf协议可以主动请求设备数据、向设备订阅被动接收数据以及可以通过命令行接口CLI(Command-lineInterface,缩写为CLI)向设备进行配置操作等。由于Netconf协议规定必须支持可靠的远程登录协议SSH(Secure Shell)协议,所以目前SSH是Netconf使用的最常见的基础协议。
现有技术中,用户通过Netconf协议请求网络设备的相关参数,网络管理设备是通过一台代理主机连接网络设备,与网络设备建立SSH连接后,进而进行Netconf协议通信。存在三种操作方式:
一种是通过CLI输入命令请求网络设备的相关参数;
还有一种方式是通过开源测试工具(例如soap UI)等工具使用可扩展标记语言XML(Extensible Markup Language)封装命令去请求网络设备的相关参数;
还存在的另外一种方式是通过调用基于Java等语言编写的第三方库去请求网络设备的相关参数。
这些操作方式需要用户提前掌握所采集的网络设备相关参数指标的Netconf请求格式等相关知识,而网络设备的相关知识并不是所有用户了解的,这就增加了用户的使用门槛。
发明内容
为克服相关技术中存在的问题,本说明书提供了数据采集方法及装置。
根据本说明书实施例的第一方面,提供一种数据采集方法,所述方法包括:
接收业务采集请求,所述业务采集请求中包括业务标识;
根据预先存储的业务标识与业务指标集合的对应关系确定出该业务采集请求待采集的业务指标;
根据预先存储的业务指标与采集类型的对应关系,确定所述业务指标对应的采集类型;
按照所述采集类型向网络设备发送的业务指标的采集请求。
可选的,所述按照所述采集类型向网络设备发送的业务指标的采集请求包括:
若所述采集类型为get类型,则根据确定出的待采集的业务指标封装成get类型的任务;
获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
以单个网络设备为粒度、按照所述业务指标集合中存储的业务指标的采集周期将该get类型的任务提交至线程池,以使所述线程池调度空闲线程,所述空闲线程根据所述设备列表中存储的网络设备的地址信息和厂商信息执行采集所述网络设备上的业务指标的操作。
可选的,预先存储的业务指标与采集类型的对应关系中包括:
业务指标的标识、业务指标的采集周期、业务指标的采集类型、厂商类型、以及在不同的厂商类型对应的该业务指标的采集路径;
相应的,所述空闲线程根据所述设备列表中存储的网络设备的地址信息和厂商信息执行采集所述网络设备上的业务指标的操作包括:
所述空闲线程根据所述设备列表中的所述厂商信息确定出与对应关系中匹配的厂商的采集路径;
根据所述网络设备的地址信息以及采集路径与所述网络设备建立连接,并获取对应的业务指标。
可选的,在将get类型的任务提交至线程池之前,所述方法还包括:
判断当前被调度的任务中是否存在与生成的get类型的任务相同的任务,若存在,则立即触发所述线程池获取该get类型对应的业务指标。
可选的,所述按照所述采集类型向网络设备发送的业务指标的采集请求包括:
若所述采集类型为订阅Subscribe类型,将根据确定出的待采集的业务指标生成所述订阅类型的业务指标对应的任务;
则获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
以单个网络设备为粒度将所述订阅类型的任务提交至线程池,以使得线程池调度空闲线程,触发与网络设备建立长连接,所述长连接用于获取网络设备订阅的业务指标;
将获取到的业务指标存储至长连接对应的队列中;
定时轮询长连接对应的队列中是否有新的订阅信息返回;
若存在,则将返回的订阅信息存储至预设的存储空间。
根据本说明书实施例的第二方面,提供一种数据采集装置,包括:
业务模块,用于接收业务采集请求,所述业务采集请求中包括业务标识;
指标库模块,用于存储的业务标识与业务指标集合的对应关系,该对应关系用于确定业务采集请求待采集的业务指标;
指标库模块中还存储有业务指标与采集类型的对应关系,该对应关系用于确定所述业务指标对应的采集类型;
数据采集模块用于按照所述采集类型向网络设备发送的业务指标的采集请求。
可选的,所述数据采集模块包括:get类型采集模块,用于在采集类型为get类型的情况下,根据确定出的待采集的业务指标封装成get类型的任务;获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
所述get类型采集模块还用于以单个网络设备为粒度、按照所述业务指标集合中存储的业务指标的采集周期将该get类型的任务提交至线程池,以使所述线程池调度空闲线程,所述空闲线程根据所述设备列表中存储的网络设备的地址信息和厂商信息触发数据采集模块执行采集所述网络设备上的业务指标的操作。
可选的,预先存储的业务指标与采集类型的对应关系中包括:业务指标的标识、业务指标的采集周期、业务指标的采集类型、厂商类型、以及在不同的厂商类型对应的该业务指标的采集路径;
所述空闲线程根据所述设备列表中的所述厂商信息确定出与对应关系中匹配的厂商的采集路径;
所述空闲线程根据所述网络设备的地址信息以及采集路径触发get类型采集模块与所述网络设备建立连接,并获取对应的业务指标。
可选的,所述装置还包括:判断模块,所述判断模块用于在将get类型的任务提交至线程池之前,判断当前被调度的任务中是否存在与生成的get类型的任务相同的任务,若存在,则立即触发所述线程池获取该get类型对应的业务指标。
可选的,所述装置还包括:订阅Subscribe类型采集模块和轮询模块;
所述订阅类型采集模块用于在所述采集类型为订阅Subscribe类型的情况下,根据确定出的待采集的业务指标生成所述订阅类型的业务指标对应的任务;获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
所述订阅类型采集模块还用于以单个网络设备为粒度将所述订阅类型的任务提交至线程池,以使得线程池调度空闲线程,触发与网络设备建立长连接,所述长连接用于获取网络设备订阅的业务指标;将获取到的业务指标存储至长连接对应的队列中;
所述轮询模块用于定时轮询长连接对应的队列中是否有新的订阅信息返回;若存在,则将返回的订阅信息存储至预设的存储空间。
本说明书的实施例提供的技术方案可以包括以下有益效果:通过在网络管理设备中预先存储业务标识与业务指标集合的对应关系,业务指标集合中可以包括很多内容,例如可以包括:业务指标的名称、不同厂商下采集业务指标对应的指标路径、采集周期等。进一步的,根据预先存储的业务指标与采集类型的对应关系,确定出采集类型,从而将需要采集的业务指标进行归类,采用不同的方式进行采集。可见,本公开通过预先存储了丰富的知识,从而无需用户去掌握大量的知识去确定业务请求对应采集的具体业务指标,由此,大大提高了用户在数据采集时的便利性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本说明书。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本说明书的实施例,并与说明书一起用于解释本说明书的原理。
图1是本说明书根据一示例性实施例示出的一种数据采集方法的流程图。
图2是本说明书根据一示例性实施例示出的一种数据采集方法的应用场景图。
图3是本说明书根据一示例性实施例示出的另一种数据采集装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本说明书相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本说明书的一些方面相一致的装置和方法的例子。
在本说明书使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书。在本说明书和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本说明书可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本说明书范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
现有技术中,为了实现普适性,对于网络管理设备与网络设备之间的netconf协议的报文只封装到RPC层,这就需要用户将具体的RPC层的原语和参数编写成XML格式的文件,再通过网络设备的IP地址向网络设备请求数据。此种方式虽然很灵活,但是其需要用户提前知道网络设备的Netconf请求格式,此外设备的有些数据并不是一成不变的,这就需要周期的、持续的获取数据,如果这都需要用户直接操作的话,并不现实。例如:用户想要通过Netconf识别出局域网内的多协议标记转换虚拟专用网络MPLS VPN(Multi-ProtocolLabel Switching Virtual Private Network)组网结构,就需要了解局域网内网络设备的型号,此外组网结构可能会存在变化,就需要周期的去设备获取数据看是否发生变化。在这种情况下,市面的第三方库或框架并不能满足要求。
实施例一
本公开通过提供一种数据采集方法,可以应用于网络管理设备,通过在网络管理设备中预先存储业务标识与业务指标集合的对应关系,业务指标集合中可以包括很多内容,例如可以包括:业务指标的名称、不同厂商下采集业务指标对应的指标路径、采集周期等。进一步的,根据预先存储的业务指标与采集类型的对应关系,确定出采集类型,从而将需要采集的业务指标进行归类,采用不同的方式进行采集。可见,本公开通过预先存储了丰富的知识,从而无需用户去掌握大量的知识去确定业务请求对应采集的具体业务指标,由此,大大提高了用户在数据采集时的便利性。
本公开的网络管理设备用于对网络设备进行监控和管理,网络管理设备上可以安装有用于网络管理的软件,又称网管软件。
接下来对本说明书实施例进行详细说明。
如图1所示,图1是本说明书根据一示例性实施例示出的一种方法的流程图,包括以下步骤:
在步骤102、接收业务采集请求,所述业务采集请求中包括业务标识。
本实施例中以业务采集请求为采集组网中的MPLS VPN网络的组网结构为例进行说明。但应该理解的是,业务采集请求可以为任何请求。
其中,业务采集请求可以是其他模块发送的业务采集请求。
步骤104、根据预先存储的业务标识与业务指标集合的对应关系确定出该业务采集请求待采集的业务指标。
步骤106、根据预先存储的业务指标与采集类型的对应关系,确定所述业务指标对应的采集类型。
网络设备根据识别出的业务标识为“MPLS VPN”确定出MPLS VPN对应的业务指标集合。
一般来说,一个大的业务可能需要采集多个业务指标,例如对于采集MPLS VPN的组网结构信息,那么业务指标集合可以包括:IPv4 LSP(Label Switch Path,标签交换通道)配置信息、三层VPN配置信息、VPLS(Virtual Private LAN Service,虚拟专用局域网服务)PW(Pseudowire,伪线)配置信息等多个业务指标构成。业务指标集合中包括了某一业务对应的多个业务指标,当然还可以包括采集对应的业务指标的周期(例如采集IPv4 LSP配置信息的周期可以为1小时、采集三层VPN配置信息为1小时等)。
在另一种可选的实施方式中,由于组网中可能有不同厂商的网络设备,对于同一业务指标,不同厂商的网络设备的存储位置可能不同,因此业务指标集合中还可以预先存储不同厂商的业务指标的获取路径,从而可以根据该获取路径获取响应的业务指标。
当然,一种比较好的实现方式是,业务指标集合中保存业务指标的指标名称、获取该业务指标的周期、以及获取到该业务指标之后该业务指标的存储位置。而在另外的文件中(本实施例中为了表述方便,将该文件称为业务指标与采集类型的对应关系),存储有业务指标的名称、厂商信息、该业务指标的采集类型、以及业务指标的采集路径信息。也就是将业务指标的调度信息(例如调度周期)和路径信息存储在不同的文件中。
这样做的好处在于:由于不同的业务对应的业务指标可能存在重合的情形,例如路由信息的采集请求也可能采集三层VPN配置信息,这样三层VPN配置信息这一业务指标则被“获取MPLS VPN网络的组网结构”与“获取路由信息”这两个业务采集请求所共用,将对应关系存储单独存储为一个文件可以方便不同的业务进行调用。
下面给出一个业务指标集合中一个业务指标的示例:
指标集名称:“采集MPLS VPN网络架构”,
“所需采集的业务指标”:[
其中,存储位置指的是获取到业务指标之后,存储的位置,即利用kafka队列对获取到的业务指标进行存储,该队列的名称为topic-vpn。
在本公开中的给出了另外存储的对应关系的示例:
{“主键”:“1”,
“厂商”:“H3C”;
“获取方式”:“get”;
“路径信息”:<"http://www.XX.com/netconf/base:1.0">
}
根据该对应关系可以确定出主键1对应的业务指标“IPv4 LSP配置信息”的采集方式为get类型,在厂商为H3C的情况下,获取的路径信息为"http://www.XX.com/netconf/base:1.0"。其中,路径信息中还可以包括获取IPv4LSP配置信息的文件夹的层级信息。
当然,本实施例中仅仅给出了厂商为H3C时获取业务指标“IPv4 LSP配置信息”的路径信息,应当理解的是,本公开的网络设备中还可以存储其他厂商获取业务指标“IPv4LSP配置信息”以及其他业务指标的路径信息。
针对步骤106,在现有的netconf协议中,定义了一些简单的RPC操作,包括获取get、获取配置get-config、复制配置copy-config、关闭连接close-session等操作原语。
本公开的实施例中,根据是否需要实时返回采集请求,可以将采集类型分为两类,一种为获取Get类请求方式,另一种为订阅Subscribe类请求方式。这是由于Netconf协议中的原语从使用上来看可以区分为两种:一种是向网络设备发送请求后立即返回所要采集的数据,例如get与CLI等,后续本文将这些称为Get类;另一种是向网络设备发送业务采集请求后,需要网络管理设备保持与网络设备之间建立的长连接(体现为Session对象),然后网络管理设备通过与网络设备建立的长连接持续从网络设备接收数据。
应当理解的是,当然也可以根据实际的需求将采集类型分为更多的类型。
步骤108、按照所述采集类型向网络设备发送的相关参数的采集请求。
对于不同的采集类型,可以采取不同的采集方式,具体的将在后面的实施例中详细赘述。
应当理解的是,本公开中预先存储的业务指标集合中的内容,例如采集周期等可以根据实际需要进行配置。
实施例二
在上述实施例的基础上,针对不同的采集类型,本公开设计了不同的实现方案。图2示出了本公开的数据采集方法的软件架构示意图。
具体的,如图2所示,若根据对应关系识别到业务指标的采集类型为get类型,相应的,步骤108的一种具体的实现方式包括:
步骤1081,根据确定出的待采集的业务指标生成所述get类型的业务指标对应的任务。
对于采集类型为get类型的业务指标,可以将该业务指标的采集请求封装成对应的采集任务job或者task,为了描述方便,在后文中简称为get类型的任务。举例来说,可以将获取业务指标“IPv4 LSP配置信息”封装成一个job,将获取业务指标“三层VPN配置信息”封装成另外一个job。
在一种可选的实施方式中,可以针对每一个业务指标的job开启触发器,触发器用于在该业务请求的获取数据周期到达时,将该业务指标对应的任务提交至线程池,从而触发线程池调度相关资源与网络设备建立连接。
当然,也可以采用已有的第三方的定时任务框架,例如可以通过QuartZ去实现业务指标的定时获取。
通过以上开启触发器定时触发业务指标获取,网络管理设备可以无需像现有技术一样只能手动的触发网络管理设备获取网络设备上的相关业务指标。
本申请中的线程池用于对资源进行调度,进而与网络设备建立连接,在网络管理设备获取到相关的业务指标之后,可以断开与网络设备的连接,从而将相关资源释放,即将相关的线程归还至线程池。
本公开通过线程池的方式可以实现网络管理设备与多个网络设备建立连接,并且可以实现多个业务参数的同时获取,无需像现有技术一样,只能串行的获取业务指标。对于每一个任务可以对应调用一个空闲线程。
具体的,可以通过步骤1082获取到待采集的网络设备的列表,待采集的网络设备的列表包括待采集设备的地址信息和厂商信息。
地址信息可以为待采集网络设备的IP地址,当然也可以为网络设备的MAC地址,本公开对于网络设备的地址信息并不加以限定。
应当说明的是,本公开中的业务采集请求与业务指标采集请求的关系是,当接收到业务采集请求之后,会将业务采集请求对应的业务根据预先存储的业务指标集合将该业务采集请求分解为多个业务指标对应的采集请求。
进一步的,根据列表中网络设备的IP地址对应的厂商信息结合对应关系确定出该业务指标对应的采集路径信息。由此网络管理设备可以根据待采集网络设备的IP地址和路径信息获取业务指标。
本公开中为了实现网络管理设备可以同时采集网络设备上的多个业务指标,因而采用资源池的方式对资源进行调度,实现业务指标采集的并行的处理。因此可以通过步骤1083,以单个网络设备为粒度、按照业务指标集合中存储的业务指标的采集周期将该get类型的任务提交至线程池,以使所述线程池调度空闲线程,所述空闲线程根据所述设备列表中存储的网络设备的地址信息和厂商信息执行采集所述网络设备上的业务指标的操作。图2中以网络管理设备与网络设备1建立连接为例进行示意。在图2中,网络管理设备通过线程池中的空闲线程与网络设备1建立连接,并获取对应的业务指标。
由于get类型的任务在采集到相关的业务指标之后,即会释放资源,将使用的资源归还至资源池,从而实现资源的合理配置。
在获取到业务指标之后为了便于后续其他程序或线程对业务指标的获取,可以将获取到的业务指标存储到预设的存储空间。
需要说明的是,以单个网络设备为粒度,指的是在向资源池提交get类型的任务时是一个网络设备一个网络设备的逐个进行提交的,并且在提交任务时可以按照业务指标集合中各个业务指标的顺序进行逐个任务去提交。
当然,也可以按照其他的顺序将业务指标对应的业务提交至资源池,本实施例中仅仅给出了一种示例性的执行方式。
此外,在将get类型的任务提交至线程池之前,可以判断当前正在被调度的任务中是否存在与生成的get类型的业务指标对应的任务相同的任务,若存在,则立即触发所述线程池获取该get类型的任务对应的业务指标。
需要解释的是,一般来说,对于定时任务job的执行,可以启动一个调度线程,用于调度各个业务指标对应的job。由于同一个业务指标对应的job有可能被多个业务重复调用,如果判断出已经存在某一个业务指标对应的job正在被调度,则说明该业务指标对应的job被其他业务使用,因此为了让后续调用该业务指标对应的job的其他业务可以很快的获取到结果,可以立即触发线程池获取该get类型对应的业务指标。从而提高响应速度,同时也节约了资源,避免了不同业务调用同一个业务指标时的重复执行。
举例来说,对于采集业务指标“IPv4 LSP配置信息”对应的job,如果该获取“IPv4LSP配置信息”的业务指标对应的job已经被“采集MPLS VPN网络架构”这一业务请求调度,如果此时又被“获取路由信息”这一业务请求调用,则可以立即触发线程池获取“IPv4 LSP配置信息”。
以上实施例即为对采集类型为get类型的业务指标采集请求的描述。
由于Netconf订阅是订阅一次持续接收的逻辑,所以无需像get类型的业务指标一样,针对每一个业务指标分别去创建对应的job。对于采集类型为订阅类型的业务指标,可以获取待采集的设备列表之后,如图2所示,以单个网络设备为粒度将所述订阅类型的任务提交至线程池,以使得线程池调度空闲线程,触发与网络设备建立长连接,该长连接用于获取网络设备订阅的业务指标。
图2的示例中以网络管理设备与另外一个网络设备2建立连接为例,但应当理解的是,get类型的任务以及订阅类型的任务在提交到线程池之后,网络管理设备可以同时都与网络设备1建立连接,本实施例中仅仅是为了表述方便,所以在对订阅类型的任务进行说明时,以网络管理设备与网络设备2建立连接为例进行说明。
在通过网络设备建立的长连接接收到网络设备发送的业务指标之后,将获取到的业务指标推送至长连接对应的队列中;通过设置定时器poller定时轮询长连接对应的队列中是否有新的订阅信息返回,如果有,则说明存在返回的订阅的业务指标,因此可以将返回的订阅信息存储至预设的存储空间。
Get类型的业务指标以及订阅类型的业务指标在存储到预设存储空间的目的可以便于其他线程或者用户等获取这些数据。
本公开对于订阅类型的业务指标的获取与get类型的业务指标的获取可以共用一个资源池进行资源调度,无需像现有技术一样只能串行的处理单个网络设备的业务指标的采集。同时也避免了网络管理设备同时与过多的网络设备同时建立连接而使得网络管理设备的处理性能达到瓶颈。
实施例三
在上述实施例的基础上,本公开还提供了一种数据采集装置,该数据采集装置用于执行上述实施例一和实施例二中的数据采集方法,图3为本实施例提供的数据采集装置的结构示意图,如图3所示,该装置包括:
业务模块301,用于接收业务采集请求,所述业务采集请求中包括业务标识;
指标库模块302,用于存储的业务标识与业务指标集合的对应关系,该对应关系用于确定业务采集请求待采集的业务指标;
指标库模块302中还存储有业务指标与采集类型的对应关系,该对应关系用于确定所述业务指标对应的采集类型;
数据采集模块303用于按照所述采集类型向网络设备发送的业务指标的采集请求。
可选的,数据采集模块303包括:get类型采集模块(图中未具体示出),用于在采集类型为get类型的情况下,根据确定出的待采集的业务指标封装成get类型的任务;获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
所述get类型采集模块还用于以单个网络设备为粒度、按照所述业务指标集合中存储的业务指标的采集周期将该get类型的任务提交至线程池,以使所述线程池调度空闲线程,所述空闲线程根据所述设备列表中存储的网络设备的地址信息和厂商信息触发数据采集模块执行采集所述网络设备上的业务指标的操作。
其中,预先存储的业务指标与采集类型的对应关系中可以包括:业务指标的标识、业务指标的采集周期、业务指标的采集类型、厂商类型、以及在不同的厂商类型对应的该业务指标的采集路径;
所述空闲线程根据所述设备列表中的所述厂商信息确定出与对应关系中匹配的厂商的采集路径;
所述空闲线程根据所述网络设备的地址信息以及采集路径触发get类型采集模块与所述网络设备建立连接,并获取对应的业务指标。
可选的,所述装置还包括:判断模块(图中未示出),所述判断模块用于在将get类型的任务提交至线程池之前,判断当前被调度的任务中是否存在与生成的get类型的任务相同的任务,若存在,则立即触发所述线程池获取该get类型对应的业务指标。
可选的,所述装置还包括:订阅Subscribe类型采集模块和轮询模块(图中未示出);
所述订阅类型采集模块用于在所述采集类型为订阅Subscribe类型的情况下,根据确定出的待采集的业务指标生成所述订阅类型的业务指标对应的任务;获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
所述订阅类型采集模块还用于以单个网络设备为粒度将所述订阅类型的任务提交至线程池,以使得线程池调度空闲线程,触发与网络设备建立长连接,所述长连接用于获取网络设备订阅的业务指标;将获取到的业务指标存储至长连接对应的队列中;
所述轮询模块用于定时轮询长连接对应的队列中是否有新的订阅信息返回;若存在,则将返回的订阅信息存储至预设的存储空间。
本公开通过提供一种数据采集装置,通过在网络管理设备中预先存储业务标识与业务指标集合的对应关系,业务指标集合中可以包括很多内容,例如可以包括:业务指标的名称、不同厂商下采集业务指标对应的指标路径、采集周期等。进一步的,根据预先存储的业务指标与采集类型的对应关系,确定出采集类型,从而将需要采集的业务指标进行归类,采用不同的方式进行采集。本公开通过预先存储了丰富的知识,从而无需用户去掌握大量的知识去确定业务请求对应采集的具体业务指标,由此,大大提高了用户在数据采集时的便利性。
本领域技术人员在考虑说明书及实践这里申请的发明后,将容易想到本说明书的其它实施方案。本说明书旨在涵盖本说明书的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本说明书的一般性原理并包括本说明书未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本说明书的真正范围和精神由下面的权利要求指出。
应当理解的是,本说明书并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本说明书的范围仅由所附的权利要求来限制。
以上所述仅为本说明书的较佳实施例而已,并不用以限制本说明书,凡在本说明书的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本说明书保护的范围之内。
Claims (10)
1.一种数据采集方法,其特征在于,包括:
接收业务采集请求,所述业务采集请求中包括业务标识;
根据预先存储的业务标识与业务指标集合的对应关系确定出该业务采集请求待采集的业务指标;
根据预先存储的业务指标与采集类型的对应关系,确定所述业务指标对应的采集类型;
按照所述采集类型向网络设备发送的业务指标的采集请求。
2.根据权利要求1所述的方法,其特征在于,所述按照所述采集类型向网络设备发送的业务指标的采集请求包括:
若所述采集类型为get类型,则根据确定出的待采集的业务指标封装成get类型的任务;
获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
以单个网络设备为粒度、按照所述业务指标集合中存储的业务指标的采集周期将该get类型的任务提交至线程池,以使所述线程池调度空闲线程,所述空闲线程根据所述设备列表中存储的网络设备的地址信息和厂商信息执行采集所述网络设备上的业务指标的操作。
3.根据权利要求2所述的方法,其特征在于,预先存储的业务指标与采集类型的对应关系中包括:
业务指标的标识、业务指标的采集周期、业务指标的采集类型、厂商类型、以及在不同的厂商类型对应的该业务指标的采集路径;
相应的,所述空闲线程根据所述设备列表中存储的网络设备的地址信息和厂商信息执行采集所述网络设备上的业务指标的操作包括:
所述空闲线程根据所述设备列表中的所述厂商信息确定出与对应关系中匹配的厂商的采集路径;
根据所述网络设备的地址信息以及采集路径与所述网络设备建立连接,并获取对应的业务指标。
4.根据权利要求2所述的方法,其特征在于,在将get类型的任务提交至线程池之前,所述方法还包括:
判断当前被调度的任务中是否存在与生成的get类型的任务相同的任务,若存在,则立即触发所述线程池获取该get类型对应的业务指标。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述按照所述采集类型向网络设备发送的业务指标的采集请求包括:
若所述采集类型为订阅Subscribe类型,将根据确定出的待采集的业务指标生成所述订阅类型的业务指标对应的任务;
则获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
以单个网络设备为粒度将所述订阅类型的任务提交至线程池,以使得线程池调度空闲线程,触发与网络设备建立长连接,所述长连接用于获取网络设备订阅的业务指标;
将获取到的业务指标存储至长连接对应的队列中;
定时轮询长连接对应的队列中是否有新的订阅信息返回;
若存在,则将返回的订阅信息存储至预设的存储空间。
6.一种数据采集装置,其特征在于,包括:
业务模块,用于接收业务采集请求,所述业务采集请求中包括业务标识;
指标库模块,用于存储的业务标识与业务指标集合的对应关系,该对应关系用于确定业务采集请求待采集的业务指标;
指标库模块中还存储有业务指标与采集类型的对应关系,该对应关系用于确定所述业务指标对应的采集类型;
数据采集模块用于按照所述采集类型向网络设备发送的业务指标的采集请求。
7.根据权利要求6所述的装置,其特征在于,所述数据采集模块包括:get类型采集模块,用于在采集类型为get类型的情况下,根据确定出的待采集的业务指标封装成get类型的任务;获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
所述get类型采集模块还用于以单个网络设备为粒度、按照所述业务指标集合中存储的业务指标的采集周期将该get类型的任务提交至线程池,以使所述线程池调度空闲线程,所述空闲线程根据所述设备列表中存储的网络设备的地址信息和厂商信息触发数据采集模块执行采集所述网络设备上的业务指标的操作。
8.根据权利要求7所述的装置,其特征在于,预先存储的业务指标与采集类型的对应关系中包括:业务指标的标识、业务指标的采集周期、业务指标的采集类型、厂商类型、以及在不同的厂商类型对应的该业务指标的采集路径;
所述空闲线程根据所述设备列表中的所述厂商信息确定出与对应关系中匹配的厂商的采集路径;
所述空闲线程根据所述网络设备的地址信息以及采集路径触发get类型采集模块与所述网络设备建立连接,并获取对应的业务指标。
9.根据权利要求7所述的装置,其特征在于,所述装置还包括:判断模块,所述判断模块用于在将get类型的任务提交至线程池之前,判断当前被调度的任务中是否存在与生成的get类型的任务相同的任务,若存在,则立即触发所述线程池获取该get类型对应的业务指标。
10.根据权利要求6-9任一项所述的装置,其特征在于,所述装置还包括:订阅Subscribe类型采集模块和轮询模块;
所述订阅类型采集模块用于在所述采集类型为订阅Subscribe类型的情况下,根据确定出的待采集的业务指标生成所述订阅类型的业务指标对应的任务;获取待采集的设备列表,所述设备列表中包括:待采集设备的地址信息和厂商信息;
所述订阅类型采集模块还用于以单个网络设备为粒度将所述订阅类型的任务提交至线程池,以使得线程池调度空闲线程,触发与网络设备建立长连接,所述长连接用于获取网络设备订阅的业务指标;将获取到的业务指标存储至长连接对应的队列中;
所述轮询模块用于定时轮询长连接对应的队列中是否有新的订阅信息返回;若存在,则将返回的订阅信息存储至预设的存储空间。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011527568.0A CN112737821B (zh) | 2020-12-22 | 2020-12-22 | 数据采集方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011527568.0A CN112737821B (zh) | 2020-12-22 | 2020-12-22 | 数据采集方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112737821A CN112737821A (zh) | 2021-04-30 |
CN112737821B true CN112737821B (zh) | 2022-05-27 |
Family
ID=75604155
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011527568.0A Active CN112737821B (zh) | 2020-12-22 | 2020-12-22 | 数据采集方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112737821B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115086381B (zh) * | 2022-07-25 | 2022-11-11 | 东集技术股份有限公司 | 标签数据采集方法、装置、采集设备及标签数据采集系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6061724A (en) * | 1997-01-29 | 2000-05-09 | Infovista Sa | Modelling process for an information system, in particular with a view to measuring performance and monitoring the quality of service, and a measurement and monitoring system implementing this process |
CN102123149A (zh) * | 2011-03-04 | 2011-07-13 | 哈尔滨工程大学 | 面向服务的大规模网络安全态势评估装置及方法 |
CN103178991A (zh) * | 2011-12-21 | 2013-06-26 | 中国移动通信集团黑龙江有限公司 | 一种多网络关系分析的方法和系统 |
CN105978728A (zh) * | 2016-06-20 | 2016-09-28 | 深圳前海微众银行股份有限公司 | 智能监控系统及业务指标的监控方法 |
CN109189812A (zh) * | 2018-08-14 | 2019-01-11 | 中国平安人寿保险股份有限公司 | 一种指标查询方法、计算机可读存储介质及服务器 |
CN110719196A (zh) * | 2019-09-24 | 2020-01-21 | 中盈优创资讯科技有限公司 | 城域网设备割接异常识别工具及方法 |
CN111538875A (zh) * | 2020-04-27 | 2020-08-14 | 支付宝(杭州)信息技术有限公司 | 业务指标采集方法、装置及风控设备 |
-
2020
- 2020-12-22 CN CN202011527568.0A patent/CN112737821B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6061724A (en) * | 1997-01-29 | 2000-05-09 | Infovista Sa | Modelling process for an information system, in particular with a view to measuring performance and monitoring the quality of service, and a measurement and monitoring system implementing this process |
CN102123149A (zh) * | 2011-03-04 | 2011-07-13 | 哈尔滨工程大学 | 面向服务的大规模网络安全态势评估装置及方法 |
CN103178991A (zh) * | 2011-12-21 | 2013-06-26 | 中国移动通信集团黑龙江有限公司 | 一种多网络关系分析的方法和系统 |
CN105978728A (zh) * | 2016-06-20 | 2016-09-28 | 深圳前海微众银行股份有限公司 | 智能监控系统及业务指标的监控方法 |
CN109189812A (zh) * | 2018-08-14 | 2019-01-11 | 中国平安人寿保险股份有限公司 | 一种指标查询方法、计算机可读存储介质及服务器 |
CN110719196A (zh) * | 2019-09-24 | 2020-01-21 | 中盈优创资讯科技有限公司 | 城域网设备割接异常识别工具及方法 |
CN111538875A (zh) * | 2020-04-27 | 2020-08-14 | 支付宝(杭州)信息技术有限公司 | 业务指标采集方法、装置及风控设备 |
Also Published As
Publication number | Publication date |
---|---|
CN112737821A (zh) | 2021-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3455728B1 (en) | Orchestrator for a virtual network platform as a service (vnpaas) | |
CN109120426B (zh) | 一种网络切片管理方法、装置及计算机可读存储介质 | |
CN110462589B (zh) | 本地装置协调器中的按需代码执行 | |
CN105721473B (zh) | 一种web端远程调用优化的方法及系统 | |
EP0996253B1 (en) | Method and apparatus for browser-based network management | |
US8589885B2 (en) | Debugger launch and attach on compute clusters | |
US8111632B2 (en) | Method for logical deployment, undeployment and monitoring of a target IP network | |
CN102255935B (zh) | 云服务消费方法、云服务中介及云系统 | |
Ferreira et al. | QoS-as-a-Service in the Local Cloud | |
EP2787742B1 (en) | Method and system for transmitting network video | |
CN110352401B (zh) | 具有按需代码执行能力的本地装置协调器 | |
WO2014169870A1 (zh) | 虚拟网元自动装载及虚拟机ip地址获取的方法与系统、存储介质 | |
US7580936B2 (en) | Extendable discovery of network device information | |
WO2010037329A1 (zh) | 一种业务协商方法、系统和设备 | |
CN110545206B (zh) | 一种时间触发网络中调度表生成的方法、装置及系统 | |
CN111245634B (zh) | 一种虚拟化管理方法及装置 | |
CN109840155A (zh) | 一种实现远程过程调用的方法及装置 | |
WO2017101815A1 (zh) | 一种消息处理方法、装置和系统 | |
CN112737821B (zh) | 数据采集方法及装置 | |
WO2017133020A1 (zh) | 一种nfv系统中的策略传输方法和装置 | |
Al-Kasassbeh et al. | Analysis of mobile agents in network fault management | |
WO2010124571A1 (zh) | 节点信息获取方法、客户端、服务器 | |
WO2007022696A1 (fr) | Procédé et appareil de gestion de réseau destiné à la mise en œuvre de relation héritée de hiérarchie de service d’informations dans l’interface de gestion de réseau | |
CN112783049B (zh) | 一种基于微服务的灯联网远程控制系统 | |
Ren et al. | Research on communication method of OPC UA client based on ARM |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |