CN113872821A - 一种网络物理资源采集方法及装置 - Google Patents
一种网络物理资源采集方法及装置 Download PDFInfo
- Publication number
- CN113872821A CN113872821A CN202010613064.4A CN202010613064A CN113872821A CN 113872821 A CN113872821 A CN 113872821A CN 202010613064 A CN202010613064 A CN 202010613064A CN 113872821 A CN113872821 A CN 113872821A
- Authority
- CN
- China
- Prior art keywords
- physical resource
- data
- acquisition
- task
- resource data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/04—Processing captured monitoring data, e.g. for logfile generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0893—Assignment of logical groups to network elements
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Computer And Data Communications (AREA)
Abstract
一种网络物理资源采集方法,所述方法包含:采集装置接收数据消费方发出的物理资源数据采集请求;从目标数据提供方获取物理资源数据的存储地址;配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知;预先定义物理资源数据采集模型,配置该模型,创建物理资源数据采集任务;预先定义资源解析模板,执行物理资源采集任务后得到物理资源数据文件,加载相应的资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新数据消费方数据库。本发明还公开了一种网络资源采集装置。通过本发明可以实现对NFV网络中的物理资源数据进行全量、自动的采集。
Description
技术领域
本发明涉及计算机软件领域,具体涉及一种NFV网络物理资源的采集技术。
背景技术
NFV即网络功能虚拟化,通过X86等通用性硬件及虚拟化技术,来承载很多功能的软件处理,从而降低网络昂贵的设备成本。可以通过软硬件解耦及功能抽象,使网络设备功能不再依赖于专用硬件,资源可以充分灵活共享,实现新业务的快速开发和部署,并基于实际业务需求进行自动部署、弹性伸缩、故障隔离和自愈等。其中,NFVO即网络功能虚拟化协调器,用于管理NS(即网络业务)生命周期;VIM即虚拟基础架构管理器,用于管理虚拟设备;PIM即物理基础设施管理器,对物理基础设施设备(包括服务器、磁阵、交换机、防火墙、分布式存储集群等,以下简称为“物理资源”或“设备”)进行集中管理的工具。
目前的NFVO仅接入了VIM提供的虚拟资源数据,用于协调VNF(即虚拟化的网络功能模块)生命周期的管理、协调NFVI(即网络功能虚拟化基础设施)各类资源的管理,以此确保所需各类虚拟资源与连接的优化配置;若将PIM的物理资源数据提供给NVFO,则NFVO可分析物理资源与虚拟资源之间的关系绘制三层网络拓扑,还可以将物理资源数据共享给综合监控等系统。但是,由于各厂商的PIM的接口不统一,并且以不同的数据交换格式提供物理资源数据,加上各用户的NFVO数据库数据结构也不统一,导致无法直接将物理资源数据导入NFVO数据库。因此亟待一种可以自动对NFV系统中的物理资源数据进行采集的技术出现。
发明内容
本发明公开了一种网络物理资源采集方法,应用于网络物理资源采集系统,一个所述网络物理资源采集系统包含一个数据消费方、一个采集装置、多个数据提供方;所述数据消费方与所述采集装置直接连接,所述数据提供方经注册后与所述采集装置连接;所述方法包含:
所述采集装置接收所述数据消费方发出的物理资源数据采集请求;
所述采集装置从所述目标数据提供方获取所述物理资源数据的存储地址;
所述采集装置配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知;
所述采集装置预先定义物理资源数据采集模型,配置所述物理资源数据采集模型,创建物理资源数据采集任务;
所述采集装置预先定义资源解析模板,执行所述物理资源采集任务后得到物理资源数据文件,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新所述数据消费方数据库。
优选的,所述方法还包含:
所述采集装置监听所述数据提供方自动推送物理资源数据变更通知接口,获取所述物理资源数据变更通知,创建物理资源数据采集任务。
优选的,所述方法还包含:
所述采集装置预先定义任务监控模板,物理资源数据采集任务创建后启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板并展示所得的任务监控信息。
具体的:
所述采集装置与所述数据消费方直接连接,并将所述数据消费方的身份信息存储在数据库中。所述身份信息包含:数据消费方ID,数据消费方数据库的用户名,密码,接入地址;
所述物理资源数据采集请求包含:数据消费方ID,目标数据提供方ID。每个所述物理资源数据采集请求范围为一个目标数据提供方管理的全部物理资源数据。
具体的:
所述数据提供方在注册成功后与所述采集装置连接,所述采集装置将所述数据提供方的注册信息存储在数据库中。所述注册信息包含:数据提供方ID,用户名,密码,接入地址,接口规范;所述接口规范包含:接口列表,参数接口访问方法,参数定义,消息内容模板;
所述采集装置从所述目标数据提供方获取所述物理资源信息的存储地址的方法包含:
所述采集装置从数据库查询所述目标数据提供方的注册信息,携带从所述目标数据提供方注册信息中获取的用户名、密码、接入地址,向所述目标数据提供方请求其物理资源池的接入地址及访问权限;
所述采集装置调用用于查询全部物理资源数据的接口,获取所述目标数据提供方的物理资源池中各种设备类型的物理资源数据存储地址;
所述采集装置调用用于查询一类物理资源数据的接口,获取所述目标数据提供方的物理资源池中每种设备类型下物理资源的数量和每个物理资源数据存储地址。
具体的,所述采集装置配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知的方法包含:
所述采集装置从数据库中查询所述目标数据提供方的注册信息中携带的接口规范,获取所述物理资源数据变更通知消息模板;所述物理资源数据变更通知消息模板包含:发生信息变更的物理资源的数据存储地址及变更类型;
所述采集装置配置所述物理资源数据变更通知消息模板,获得物理资源数据变更通知。
具体的,所述采集装置预先定义物理资源数据采集模型,配置所述物理资源数据采集模型,创建物理资源数据采集任务的方法包含:
所述预先定义物理资源数据采集模型具体为定义采集任务信息、辅助信息;
根据所述物理资源数据变更通知配置所述采集任务信息、消息辅助信息,创建物理资源数据采集任务。
具体的,所述采集装置预先定义资源解析模板,执行所述物理资源采集任务后得到物理资源数据文件,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新所述数据消费方数据库的方法包含:
所述采集装置依据数据消费方数据库的数据结构,预先对每类物理资源定义一个资源解析模板,所述资源解析模板包含:参数名称,参数定义,参数限制。
所述采集装置获得一个物理资源数据文件后,加载相应的资源解析模板,解析所述物理资源数据文件的内容,得到一条物理资源数据记录,再根据信息变更的类型更新数据消费方数据库中的物理资源数据。
本发明还公开了一种网络物理资源采集装置,所述装置包含:
注册单元,用于处理数据提供方的注册请求,将获得的注册信息存储至数据库;
定义单元,用于预先定义物理资源数据采集模型,资源解析模板,将模型和模板存至数据库;
任务管理单元,用于接收数据消费方发出的物理资源数据采集请求;从目标数据提供方获取所述物理资源数据的存储地址;配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知;配置预先定义的物理资源数据采集模型,创建物理资源数据采集任务;
数据处理单元,用于执行所述物理资源采集任务,得到物理资源数据文件,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新所述数据消费方数据库。
优选的,所述装置还包含:
自动更新单元,用于监听所述数据提供方相应接口发生物理资源更新,获取所述物理数据资源变更通知,创建物理资源数据采集任务。
优选的,所述装置还包含:
任务监控单元,用于预先定义任务监控模板,物理资源数据采集任务创建后启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板并展示所得的任务监控信息。
具体的,所述定义单元可包含:
采集模型定义模块,用于预先定义物理资源数据采集模型;
资源模板定义模块,用于预先定义资源解析模板。
具体的,所述任务管理单元可包含:
采集请求处理模块,用于接收数据消费方发出的物理资源数据采集请求;
地址查询模块,用于从目标数据提供方获取所述物理资源数据的存储地址;
采集任务创建模块,用于配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知;配置预先定义物理资源数据采集模型,创建物理资源数据采集任务。
具体的,所述数据处理单元可包含:
数据采集模块,用于执行物理资源数据采集任务,得到物理资源数据文件;
数据解析模块,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据;
数据更新模块,用于更新所述数据消费方数据库中的物理资源数据。
具体的,所述自动更新单元可包含:
监听模块,用于监听所述数据提供方相应接口发生物理资源更新,获取所述物理数据资源变更通知;
自动更新任务创建模块,配置预先定义的物理资源采集模型,创建物理资源自动更新数据采集任务。
具体的,所述任务监控单元可包含:
监控管理模块,用于预先定义任务监控模板,启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板得到任务监控信息。
展示模块,用于将从监控管理模块获取的任务监控信息进行展示。
与现有技术相比,本发明的有益效果是:
1.可对物理资源数据实现全量、自动采集入库,提高了物理资源采集的效率和准确率。
2.可适用于不同用户采集不同厂商资源池中的物理资源数据。
3.自动适配自主采集和PIM自动更新两种采集模式。
4.能对采集过程实时监控,可视化的呈现提升了用户使用体验。进一步的,可以进行错误提示,利于触发实施后续纠正改进措施。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例公开的一种网络物理资源采集方法的流程示意图;
图2为本申请实施例公开的另一种网络物理资源采集方法的流程示意图;
图3为本申请实施例公开的又一种网络物理资源采集方法的流程示意图;
图4为本申请实施例公开的一种网络物理资源采集装置的结构示意图;
图5为本申请实施例公开的另一种网络物理资源采集装置的结构示意图;
图6为本申请实施例公开的又一种网络物理资源采集装置的结构示意图;
图7为本申请实施例公开的再一种网络物理资源采集装置的详细结构示意图;
图8为本申请实施例公开的图5采集装置中一种自动更新单元的结构示意图;
图9为本申请实施例公开的图6采集装置中一种任务监控单元的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参阅图1示出的一种网络物理资源采集方法的流程示意图,网络物理资源采集方法包含如下步骤:
在NFV网络中,一个NFVO下一般建有多个PIM。NFVO即网络功能虚拟化协调器,用于管理NS(即网络业务)生命周期,是物理资源数据消费方,不同的运营商有不同的NFVO数据结构与规范。PIM即物理基础设施管理器,对物理基础设施设备(包括服务器、磁阵、交换机、防火墙、分布式存储集群等,以下简称为“物理资源”或“设备”)进行集中管理的工具;PIM是物理资源数据提供方,不同的厂商有不同的PIM接口规范。每个PIM一般都管理着不同类型的、大量的物理资源,以数据交换格式向外提供物理资源数据。
创建一个采集装置,与一个数据消费方、一个或多个数据提供方组成网络物理资源采集系统;数据消费方与采集装置直接连接,数据提供方经注册后与所述采集装置连接。
步骤S101:采集装置接收数据消费方发出的物理资源数据采集请求。
采集装置与数据消费方直接连接,并已将数据消费方的身份信息存储在数据库中。身份信息包含:数据消费方ID,数据消费方数据库的用户名,密码,接入地址。
物理资源数据采集请求包括:数据消费方ID,目标数据提供方ID。每个所述物理资源数据采集请求范围为一个目标数据提供方的全部物理资源数据。
优选的,物理资源数据采集请求还可以包含其他辅助内容,例如:需求发出的时间,需求的名称、描述等。进一步的,还可以设置重复的周期和次数等,这样可以定时、自动发出物理资源数据采集请求。
步骤S102:采集装置从目标数据提供方获取物理资源数据的存储地址。
数据提供方在注册成功后与采集装置连接,采集装置将所述数据提供方的注册信息存储在数据库中。所述注册信息包含:数据提供方ID,用户名,密码,接入地址,接口规范。数据提供方ID是数据提供方的唯一标识。用户名、密码、接入地址用于请求token,使用token传输数据以保证数据安全。接口规范包括:接口列表,参数接口访问方法,参数定义,消息内容模板。例如,接口列表包括API分类,接口名称,描述等类内容。参数定义包括变量名称、类型、长度、说明等内容。
需要说明的是,一个数据提供方管理的全部物理资源数据存放在一个物理资源池中,物理资源的存储地址按照树状结构存放。其规则是:IP地址或主机名:端口号/资源池/物理资源设备类型/单个物理资源。举例来说,192.168.112.80:9141/pimCm/Firewalls/1表示的是ID为1的防火墙的数据存储地址。
因此,采集装置从目标数据提供方获取所述物理资源数据的存储地址的具体步骤为:
步骤一,采集装置从数据库查询所述目标数据提供方的注册信息,携带从所述目标数据提供方注册信息中获取的用户名、密码、接入地址,向所述目标数据提供方请求访问其物理资源池的接入地址及访问权限。
步骤二,采集装置调用用于查询PIM所管理的全部物理资源数据的接口,获取所述目标数据提供方的物理资源池中各种设备类型的物理资源数据的存储地址;得到如下数据结构所示的数据::
步骤三,所述采集装置调用用于查询一类物理资源数据的接口,获取所述目标数据提供方的物理资源池中每种设备类型下物理资源的数量和每个物理资源数据存储地址。例如查询防火墙类型的物理资源数据,得到如下数据结构所示的数据:
可以得知该PIM共管理了2个防火墙以及每个防火墙数据的存储地址。对每类物理资源都执行上述操作,可得获取目标PIM管理的每类物理资源的数量,以及全部物理资源数据的存储地址。
步骤S103:采集装置配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知。
物理资源数据变更通知消息模板由数据提供方定义,并随注册信息提供给采集装置。所述物理资源数据变更通知消息模板可包含:发生信息变更的物理资源的数据存储地址及变更类型;变更类型分为新增、更新、删除三种。
举例来说,一种物理资源数据变更通知消息模板如下所示:
模板中包含:
Version:接口版本号;
PimId:PIM ID(数据提供方ID)
MsgType:消息类型。当值为pimCmResChanges,表示PIM的物理资源变动通知消息。
UpdtRes:更新的设备列表;AddRes新增的设备列表;DelRes删除的设备列表。
URL:设备信息的存储地址。
采集装置利用步骤S102获得的每个物理资源的数据存储地址配置所述物理资源数据变更通知消息模板,获得物理资源数据变更通知。其中变更类型统一设为“更新”。
步骤S104:采集装置预先定义物理资源数据采集模型,配置所述物理资源数据采集模型,创建物理资源数据采集任务的具体步骤为:
采集装置预先定义物理资源数据采集模型,模型中的属性包含采集任务信息、辅助信息,可根据实际情况增加或减少模型中的一些辅助信息,以达到适应更多需求的目的。具体来说,采集任务信息可包含采集任务ID、采集数据源、采集任务来源;采集数据源包含:作为采集目标的物理资源ID、变更类型、数据存储地址;采集任务来源分为:主动采集和自动更新。辅助信息可包含待采集的物理资源的总数,目标数据提供方ID,数据消费方ID,任务日志等。
根据所述物理资源数据变更通知给上述信息配置上具体的值,创建物理资源数据采集任务。其中任务来源选择“主动采集”。
步骤S105:采集装置预先定义资源解析模板,执行所述物理资源采集任务后得到物理资源数据文件,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新所述数据消费方数据库的具体步骤为:
步骤一,采集装置依据数据消费方数据库的数据结构,预先对每类物理资源定义一个资源解析模板,用于将数据提供方的参数映射为数据消费方的参数。所述资源解析模板可包含:参数名称、参数定义、参数限制条件,及其映射方法。
步骤二,物理资源采集任务启动后,采集装置为每个待采集目标启动一个子任务。首先分析该子任务的物理资源变更的类型,如果是“更新”或“新增”执行步骤三,如果是“删除”则执行步骤四。
步骤三,采集装置通过访问待采集物理资源的数据存储地址,获得以数据交换格式提供的数据详情文件;根据其设备类型,加载相应的资源解析模板;解析上述数据详情文件的内容,得到一条物理资源数据记录;
步骤四,采集装置根据数据变更的类型更新数据消费方数据库中的物理资源数据;完成采集子任务。具体的说,如果数据变更类型为“更新”,则需通过物理资源ID,将该条记录与数据库中已经存储的数据进行对比,将更新的参数值写入数据库;如果数据变更类型为“新增”,则将得到的物理资源数据记录全部写入数据库;如果数据变更类型为“删除”,则在数据库中找到该物理资源ID,并删除相应的数据。
重复步骤二至四,完成全部采集子任务。
由以上实施例可知,本申请提供的物理资源采集方法,可以实现自动将一个资源池中全部物理资源数据采集、入库,取代了现有技术中的人工操作,解决了现有技术中不能全量、及时获取物理资源数据的问题。提高了物理资源采集的效率和准确率。本方法可适用于不用用户采集不同厂商的资源池中物理资源数据,具有很强的兼容性。采集本方法还可预先定义资源解析模板,可以用于不同厂商提供的不同数据结构的数据详情文件,具有很高的灵活性和快速响应能力,在大数据量处理过程中更能够提升数据采集效率。
作为本申请另一可选实施例,参照图2示出的另一种网络物理资源采集方法的流程示意图。本实施例主要是对上述实施例1描述的网络物理资源采集方法的扩展方案,该方法还可以包含:
步骤S106:采集装置监听数据提供方自动推送物理资源数据变更通知接口,获取所述物理资源数据变更通知,创建物理资源数据采集任务的具体步骤为:
当PIM中新增、移除或调整物理资源硬件配置时,数据提供方会自动推送物理资源数据变更通知。采集装置可监听相应的接口,获取物理资源数据变更通知。
根据所述物理资源数据变更通知给物理资源数据采集模型配置上具体的值,创建物理资源数据采集任务。其中任务来源选择“自动更新”。
然后执行步骤105,完成物理资源数据采集及入库。
通过本实施例可知,通过监听的方式进一步保证了物理资源数据更新的动态性和及时性。本方法可以自动适配自主采集和PIM自动更新采集两种工作模式,扩大了本方法的使用范围,增加了本方法的整合性,提升了用户的使用体验。
作为本申请又一可选实施例,参照图3示出的又一种网络物理资源采集方法的流程示意图。本实施例主要是对上述实施例1描述的网络物理资源采集方法的扩展方案,该方法还可以包含:
步骤107:所述采集装置预先定义任务监控模板,物理资源数据采集任务创建后启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板并展示所得的任务监控信息的具体步骤为:
步骤一,采集装置预先定义任务监控模板,该模板的属性可包含:采集任务ID、任务名称、任务开始时间、任务结束时间、任务状态、执行情况、执行进度、采集任务总数、已采集数量、任务描述。其中:执行情况是指采集子任务的执行情况,可分为待采集、采集成功、采集失败三类;已采集数量等于采集成功和采集失败相加的数量;执行进度用已采集数量除以采集任务总数。
步骤二,采集装置为每个采集任务启动一个定时查询。采集装置收集任务相关信息,例如:采集任务创建后,采集装置获取采集任务ID、待采集物理资源的总数、全部待采集物理资源ID;每个采集子任务完成后,采集装置获取子任务日志。
步骤三,使用收集到的任务相关信息为任务监控模板配置具体的值。
步骤四,将任务监控信息进行展示。
因为一个PIM可能管理着大量的物理资源,采集任务可能需要耗费较长的时间,对采集任务进行监控和可视化展示可以改进用户的使用体验;进一步的,用户可以在得到错误提示后,及时采取措施,有利于提高工作的质量。
本发明实施例四公开了一种网络物理资源采集装置,结构示意如图4所示,包含:
注册单元1,用于处理数据提供方的注册请求,将获取的注册信息存至数据库。
定义单元2,用于预先定义物理资源数据采集模型,资源解析模板;并将模型和模板存至数据库。
任务管理单元3,用于接收数据消费方发出的物理资源数据采集请求;从目标数据提供方获取所述物理资源数据的存储地址;配置从数据库获取的预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知;配置从数据库获取的预先定义的物理资源数据采集模型,创建物理资源数据采集任务。
数据处理单元4,执行所述物理资源采集任务后得到物理资源数据文件,加载从数据库获取的相应的资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新所述数据消费方数据库。
本发明实施例五公开了另一种网络物理资源采集装置,结构示意如图5所示。该装置是实施例四公开的装置的一种扩展,还可以包含:
自动更新单元5,用于监听数据提供方相应接口发生物理资源更新,获取所述物理数据资源变更通知,创建物理资源数据采集任务。
本发明实施例六公开了又一种网络物理资源采集装置,示意如图6所示。该装置是实施例四公开的装置的又一种扩展结构,还可以包含:
任务监控单元6,用于预先定义任务监控模板,物理资源数据采集任务创建后启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板并展示所得的任务监控信息。
为了详细说明实施例四公开的装置的结构特征,给出本发明的实施例七,如图7所示,包含:
注册单元1,用于处理数据提供方的注册请求,将获取的注册信息存至数据库。
定义单元2,进一步可包含:
采集模型定义模块21,用于预先定义物理资源数据采集模型,并将模型存至数据库。
资源模板定义模块22,用于预先定义资源解析模板,并将模板存至数据库。
任务管理单元3,进一步可包含:
采集请求处理模块31,用于接收数据消费方发出的物理资源数据采集请求;
地址查询模块32,用于从采集请求处理模块31获知目标数据提供方后,携带从数据库获取的注册信息中的用户名、密码、接入地址和接口信息,获取待采集的目标物理资源数据的存储地址;
采集任务创建模块33,用于使用从地址查询模块32获取的物理资源数据存储地址,配置从数据库获取的目标数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知。还用于配置从数据库获取的预先定义物理资源数据采集模型,创建物理资源数据采集任务。
数据处理单元4,进一步可包含:
数据采集模块41,用于接收采集任务创建模块33创建的任务并执行;
数据解析模块42,用于接收数据采集模块41执行所述物理资源采集任务后得到的物理资源数据文件,从数据库获取资源解析模板,并解析物理资源数据文件获得物理资源数据;
数据更新模块43,用于使用数据机械模块42提供的物理资源数据,更新所述数据消费方数据库中的物理资源数据。
本发明实施例八公开了图5采集装置中一种自动更新单元的结构示意如图8所示,包含:
自动更新单元5,用于监听数据提供方相应接口发生物理资源更新,获取所述物理数据资源变更通知,创建物理资源数据采集任务。进一步可包含:
监听模块51,用于监听数据提供方相应接口发生物理资源更新,获取所述物理数据资源变更通知;
自动更新任务创建模块52,配置从数据库获取的预先定义的物理资源采集模型,创建物理资源自动更新数据采集任务。
本发明实施例九公开了图6采集装置中一种任务监控单元的结构示意图如图9所示,包含:
任务监控单元6,用于预先定义任务监控模板,物理资源数据采集任务创建后启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板并展示所得的任务监控信息。进一步可包含:
监控管理模块61,用于预先定义任务监控模板,启动定时查询,使用定时查询从数据处理单元4获取的任务日志信息配置所述任务监控模板得到的任务监控信息。
展示模块62,用于将从监控管理模块61获取的任务监控信息进行展示。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、单元和单元的具体对应工作过程,可以参考前述方法步骤,在此不再赘述。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (16)
1.一种网络物理资源采集方法,其特征在于,应用于网络物理资源采集系统,一个所述网络物理资源采集系统包含一个数据消费方、一个采集装置、多个数据提供方;所述数据消费方与所述采集装置直接连接,所述数据提供方经注册后与所述采集装置连接;
该方法包含:
所述采集装置接收所述数据消费方发出的物理资源数据采集请求;
所述采集装置从所述目标数据提供方获取所述物理资源数据的存储地址;
所述采集装置配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知;
所述采集装置预先定义物理资源数据采集模型,配置所述物理资源数据采集模型,创建物理资源数据采集任务;
所述采集装置预先定义资源解析模板,执行所述物理资源采集任务后得到物理资源数据文件,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新所述数据消费方数据库。
2.根据权利要求1所述的方法,其特征在于,所述方法还包含:
所述采集装置监听所述数据提供方自动推送物理资源数据变更通知接口,获取所述物理资源数据变更通知,创建物理资源数据采集任务。
3.根据权利要求1所述的方法,其特征在于,所述方法还包含:
所述采集装置预先定义任务监控模板,物理资源数据采集任务创建后启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板并展示所得的任务监控信息。
4.根据权利要求1-3所述的方法,其特征在于:
所述采集装置与所述数据消费方直接连接,并将所述数据消费方的身份信息存储在数据库中。所述身份信息包含:数据消费方ID,数据消费方数据库的用户名,密码,接入地址;
所述物理资源数据采集请求包含:数据消费方ID,目标数据提供方ID。每个所述物理资源数据采集请求范围为一个目标数据提供方管理的全部物理资源数据。
5.根据权利要求4所述的方法,其特征在于:
所述数据提供方在注册成功后与所述采集装置连接,所述采集装置将所述数据提供方的注册信息存储在数据库中。所述注册信息包含:数据提供方ID,用户名,密码,接入地址,接口规范;所述接口规范包含:接口列表,参数接口访问方法,参数定义,消息内容模板;
所述采集装置从所述目标数据提供方获取所述物理资源信息的存储地址的方法包含:
所述采集装置从数据库查询所述目标数据提供方的注册信息,携带从所述目标数据提供方注册信息中获取的用户名、密码、接入地址,向所述目标数据提供方请求其物理资源池的接入地址及访问权限;
所述采集装置调用用于查询全部物理资源数据的接口,获取所述目标数据提供方的物理资源池中各种设备类型的物理资源数据存储地址;
所述采集装置调用用于查询一类物理资源数据的接口,获取所述目标数据提供方的物理资源池中每种设备类型下物理资源的数量和每个物理资源数据存储地址。
6.根据权利要求5所述的方法,其特征在于,所述采集装置配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知的方法包含:
所述采集装置从数据库中查询所述目标数据提供方的注册信息中携带的接口规范,获取所述物理资源数据变更通知消息模板;所述物理资源数据变更通知消息模板包含:发生信息变更的物理资源的数据存储地址及变更类型;
所述采集装置配置所述物理资源数据变更通知消息模板,获得物理资源数据变更通知。
7.根据权利要求6所述的方法,其特征在于,所述采集装置预先定义物理资源数据采集模型,配置所述物理资源数据采集模型,创建物理资源数据采集任务的方法包含:
所述预先定义物理资源数据采集模型具体为定义采集任务信息、辅助信息;
根据所述物理资源数据变更通知配置所述采集任务信息、消息辅助信息,创建物理资源数据采集任务。
8.根据权利要求7所述的方法,其特征在于,所述采集装置预先定义资源解析模板,执行所述物理资源采集任务后得到物理资源数据文件,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新所述数据消费方数据库的方法包含:
所述采集装置依据数据消费方数据库的数据结构,预先对每类物理资源定义一个资源解析模板,所述资源解析模板包含:参数名称,参数定义,参数限制;
所述采集装置获得一个物理资源数据文件后,加载相应的资源解析模板,解析所述物理资源数据文件的内容,得到一条物理资源数据记录,再根据信息变更的类型更新数据消费方数据库中的物理资源数据。
9.一种网络物理资源采集装置,其特征在于,所述装置包含:
注册单元,用于处理数据提供方的注册请求,将获得的注册信息存储至数据库;
定义单元,用于预先定义物理资源数据采集模型,资源解析模板,将模型和模板存至数据库;
任务管理单元,用于接收数据消费方发出的物理资源数据采集请求;从目标数据提供方获取所述物理资源数据的存储地址;配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知;配置预先定义的物理资源数据采集模型,创建物理资源数据采集任务;
数据处理单元,用于执行所述物理资源采集任务,得到物理资源数据文件,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据,更新所述数据消费方数据库。
10.根据权利要求9所述的装置,其特征在于,所述装置还包含:
自动更新单元,用于监听所述数据提供方相应接口发生物理资源更新,获取所述物理数据资源变更通知,创建物理资源数据采集任务。
11.根据权利要求9所述的装置,其特征在于,所述装置还包含:
任务监控单元,用于预先定义任务监控模板,物理资源数据采集任务创建后启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板并展示所得的任务监控信息。
12.根据权利要求9-11所述的装置,其特征在于,所述定义单元包含:
采集模型定义模块,用于预先定义物理资源数据采集模型;
资源模板定义模块,用于预先定义资源解析模板。
13.根据权利要求12所述的装置,其特征在于,所述任务管理单元包含:
采集请求处理模块,用于接收数据消费方发出的物理资源数据采集请求;
地址查询模块,用于从目标数据提供方获取所述物理资源数据的存储地址;
采集任务创建模块,用于配置数据提供方预先定义的物理资源数据变更通知消息模板,获得物理资源数据变更通知;配置预先定义物理资源数据采集模型,创建物理资源数据采集任务。
14.根据权利要求13所述的装置,其特征在于,所述数据处理单元包含:
数据采集模块,用于执行物理资源数据采集任务,得到物理资源数据文件;
数据解析模块,加载所述资源解析模板,解析所述物理资源数据文件获得物理资源数据;
数据更新模块,用于更新所述数据消费方数据库中的物理资源数据。
15.根据权利要求10所述的装置,其特征在于,所述自动更新单元包含:
监听模块,用于监听所述数据提供方相应接口发生物理资源更新,获取所述物理数据资源变更通知;
自动更新任务创建模块,配置预先定义的物理资源采集模型,创建物理资源自动更新数据采集任务。
16.根据权利要求11所述的装置,其特征在于,所述任务监控单元包含:
监控管理模块,用于预先定义任务监控模板,启动定时查询,使用定时查询获取的任务日志信息配置所述任务监控模板得到任务监控信息;
展示模块,用于将从监控管理模块获取的任务监控信息进行展示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010613064.4A CN113872821A (zh) | 2020-06-30 | 2020-06-30 | 一种网络物理资源采集方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010613064.4A CN113872821A (zh) | 2020-06-30 | 2020-06-30 | 一种网络物理资源采集方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113872821A true CN113872821A (zh) | 2021-12-31 |
Family
ID=78981176
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010613064.4A Pending CN113872821A (zh) | 2020-06-30 | 2020-06-30 | 一种网络物理资源采集方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113872821A (zh) |
-
2020
- 2020-06-30 CN CN202010613064.4A patent/CN113872821A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10445069B2 (en) | System and method for generating an application structure for an application in a computerized organization | |
US9202225B2 (en) | Aggregate monitoring of utilization data for vendor products in cloud networks | |
CN110990047B (zh) | 用于多个微服务架构的融合方法及装置 | |
CN109889551A (zh) | 一种智能硬件接入的物联网云平台的方法 | |
CN112214338A (zh) | 一种基于微服务灵活部署的物联网云平台 | |
US20190052531A1 (en) | Systems and methods for service mapping | |
CN109246201B (zh) | 云资源交付方法、处理器以及存储介质 | |
US20100235493A1 (en) | Extendable distributed network management system and method | |
US20110258620A1 (en) | Method and Apparatus for Making a BPM Application Available to Multiple Tenants | |
CN110519348A (zh) | 一种多服务分布式集群部署系统及方法 | |
US20140096237A1 (en) | Information processing system, access right management method, information processing apparatus and control method and control program therefor | |
CN113342547B (zh) | 一种远程服务调用方法、装置、电子设备及可读存储介质 | |
CN111381820A (zh) | 一种基于gui自动生成api的方法及装置 | |
CN116800825A (zh) | 一种基于微服务拆分的调用方法、装置、设备及介质 | |
CN114706690A (zh) | 一种Kubernetes容器共享GPU方法及系统 | |
CN110912726B (zh) | 服务的提供方法、装置、系统、存储介质及电子装置 | |
CN113438126B (zh) | 一种应用于区块链域名系统的分布式在线测试系统 | |
CN111565120B (zh) | 一种5g网络切片产品配置方法、系统及电子设备 | |
TW200301634A (en) | Apparatus and method for collecting information from information providing server | |
CN116708266A (zh) | 一种云服务拓扑图实时更新方法、装置、设备及介质 | |
CN110046319B (zh) | 社交媒体信息采集方法、装置、系统、设备及存储介质 | |
CN113872821A (zh) | 一种网络物理资源采集方法及装置 | |
CN114564530A (zh) | 一种数据库访问方法、装置、设备及存储介质 | |
CN111857955A (zh) | 一种异构云环境下的资源配置信息自动构建与更新的方法 | |
CN113824587A (zh) | 一种多通信协议设备管理方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |