CN113568813A - 一种海量网络性能数据采集方法、装置及系统 - Google Patents
一种海量网络性能数据采集方法、装置及系统 Download PDFInfo
- Publication number
- CN113568813A CN113568813A CN202110869199.1A CN202110869199A CN113568813A CN 113568813 A CN113568813 A CN 113568813A CN 202110869199 A CN202110869199 A CN 202110869199A CN 113568813 A CN113568813 A CN 113568813A
- Authority
- CN
- China
- Prior art keywords
- data
- acquisition
- network performance
- performance data
- zabbix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000007726 management method Methods 0.000 claims description 38
- 238000012544 monitoring process Methods 0.000 claims description 22
- 238000012360 testing method Methods 0.000 claims description 21
- 230000015654 memory Effects 0.000 claims description 17
- 238000003032 molecular docking Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 12
- 238000007405 data analysis Methods 0.000 claims description 12
- 230000002159 abnormal effect Effects 0.000 claims description 11
- 238000012986 modification Methods 0.000 claims description 11
- 230000004048 modification Effects 0.000 claims description 11
- 230000000007 visual effect Effects 0.000 claims description 10
- 238000009434 installation Methods 0.000 claims description 9
- 238000003860 storage Methods 0.000 claims description 9
- 230000000875 corresponding effect Effects 0.000 claims description 7
- 238000013500 data storage Methods 0.000 claims description 7
- 238000012423 maintenance Methods 0.000 claims description 7
- 238000004458 analytical method Methods 0.000 claims description 6
- 230000002596 correlated effect Effects 0.000 claims description 5
- 238000009826 distribution Methods 0.000 claims description 5
- 238000004806 packaging method and process Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 8
- 238000012545 processing Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 230000002776 aggregation Effects 0.000 description 3
- 238000004220 aggregation Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 238000013079 data visualisation Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 210000001503 joint Anatomy 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3466—Performance evaluation by tracing or monitoring
- G06F11/3476—Data logging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/958—Organisation or management of web site content, e.g. publishing, maintaining pages or automatic linking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/04—Processing captured monitoring data, e.g. for logfile generation
- H04L43/045—Processing captured monitoring data, e.g. for logfile generation for graphical visualisation of monitoring data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Quality & Reliability (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Computer Hardware Design (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明涉及网络技术领域，适用于金融领域，本发明实施例提供了一种海量网络性能数据采集方法、装置及系统，所述方法包括：通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群。解决了对于网络性能数据的采集精度、采集成功率要求高与采集量大的矛盾的技术问题。
Description
技术领域
本发明涉及网络技术领域，适用于金融领域，尤其涉及一种海量网络性能数据采集方法、装置及系统。
背景技术
目前，随着网络规模的不断扩大及网络管理精细化要求的不断提高，网络性能指标采集对象数量骤增，传统的网管产品出现采集性能瓶颈，且难以横向扩展，采集管理操作复杂，造成采集成功率低、采集精度低、数据获取方式不灵活等问题，无法满足网络运维要求。
发明内容
鉴于上述对于网络性能数据的采集精度、采集成功率要求高与采集量大的矛盾的技术问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的方案，适用于金融领域，例如银行领域等，达到了解决采集精度、采集成功率要求高与采集量大的矛盾，且具有灵活的横向扩展性，能够很好地应对网络规模不断扩大的采集需求，同时支持对产品集群的集中管理，使海量数据的采集管理更加方便高效的技术效果。
依据本发明的一个方面，提供一种海量网络性能数据采集的方法，所述方法包括：
通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；
获取采集配置，所述采集配置包括采集模板、编排容器组以及采集集群；
根据所述采集配置中至少一项获得第一采集数据特征；
根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储；
通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群；
通过所述Kafka集群生成第一数据消费场景集合；
根据所述第一数据消费场景集合，对所述第一网络性能数据集合进行数据分析。
优选的，所述方法还包括：
通过管理平台获取数据调取指令；
通过所述管理平台获取的所述数据调取指令对应的第一timescale开源数据库的地址信息，并将所述第一timescale开源数据库的地址信息发送至Grafana；
通过Grafana接收的所述第一timescale开源数据库的地址信息并根据调取所述第一网络性能数据集合并生成第一可视化数据信息。
优选的，所述方法还包括：
获得所述分布式开源监控软件zabbix的第一docker镜像文件和所述第一timescale开源数据库的第二docker镜像文件，并将所述第一docker镜像文件以及第二docker镜像文件均导入物理机；
获得容器编排器docker-compose并将所述容器编排器docker-compose设置于所述物理机上；所述物理机与所述采集集群一一对应；
根据所述容器编排器docker-compose，获得第一yml配置文件；
将所述第一yml配置文件、第一docker镜像文件以及第二docker镜像文件打包后上传至所述物理机，并生成docker-compose up命令；
根据所述docker-compose up命令获取编排容器组；所述编排容器组包括：分布式开源监控软件zabbix以及第一timescale开源数据库。
优选的，所述方法还包括：
根据所述目标网络设备集中的网络设备数量信息确定所述编排容器组的个数，其中，所述网络设备数量信息与所述编排容器组的个数正相关；
根据所述编排容器组的数量确定所述物理机的数量，其中每个所述物理机上包括至少一个编排容器组。
优选的，所述当所述数据采集器为日志数据采集器Filebeat时，将所述第一聚合数据输出至Kafka集群前，还包括：
生成修改指令；
根据所述修改指令修改所述分布式开源监控软件zabbix配置文件zabbix_server.conf；
获得所述日志数据采集器Filebeat的安装文件；
根据所述安装文件，修改所述日志数据采集器Filebeat的配置文件filebeat.yml；
根据所述配置文件filebeat.yml，配置待转发的所述分布式开源监控软件zabbix的源数据路径和目的Kafka集群地址；
生成启动命令；
根据所述启动命令，启动所述日志数据采集器Filebeat以将所述Kafka集群和所述日志数据采集器Filebeat进行对接。
优选的，所述方法还包括：
通过测试机对采集模板进行测试并获取测试结果；
根据所述测试结果将所述采集模板导入所述管理平台，以令所述管理平台下发至所述数据采集器。
优选的，所述方法还包括：
基于第一对接信息将新增网络设备对接到物理机上；
根据采集分配信息，对所述新增采集网络设备进行采集。
优选的，所述方法还包括：
获得所述分布式开源监控软件zabbix的API接口；
基于所述API接口，获得所述采集集群的采集状态；
对所述采集状态进行实时监控，获得实时监测结果；
判断所述实时监测结果是否存在异常情况；
若所述实时监测结果存在所述异常情况，生成第一预警指令；
根据所述第一预警指令，触发syslog进行预警；
和/或生成第一错误邮件以及将所述第一错误邮件发送至所述集群维护人员。
依据本发明的第二方面，提供一种海量网络性能数据采集装置，所述装置包括：
第一采集单元，所述第一采集单元用于通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；
第一获取单元：所述第一获取单元用于获取采集配置，所述采集配置包括采集模板、编排容器组以及采集集群；并根据所述采集配置中至少一项获得第一采集数据特征；
第一匹配单元：所述第一匹配单元用于根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储；
第一输出单元，所述第一输出单元用于通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群；
第一生成单元：所述第一生成单元用于通过所述Kafka集群生成第一数据消费场景集合；
第一分析单元：所述第一分析单元用于根据所述第一数据消费场景集合，对所述第一网络性能数据集合进行数据分析。
依据本方面的第三方面，提供一种海量网络性能数据采集系统，所述系统包括：
分布式开源监控软件zabbix，所述分布式开源监控软件zabbix用于向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；获取采集配置，所述采集配置包括采集模板、编排容器组以及采集集群；根据所述采集配置中至少一项获得第一采集数据特征；根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储；
数据采集器，所述数据采集器用于对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群；通过所述Kafka集群生成第一数据消费场景集合；根据所述第一数据消费场景集合，对所述第一网络性能数据集合进行数据分析。
依据本发明的第四方面，提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面的任一项方法。
依据本发明的第五方面，提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行上述第一方面任一项的方法。
本发明提供的一个或者多个技术方案，至少具有如下的技术效果：
1、由于通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群。基于功能强大的分布式开源监控软件zabbix，实现对海量网络性能数据的采集，同时结合轻量级filebeat实现采集数据实时对接kafka，丰富数据获取方式。达到了解决采集精度、采集成功率要求高与采集量大的矛盾，且具有灵活的横向扩展性，能够很好地应对网络规模不断扩大的采集需求的技术效果。
2、针对网络性能数据的特点选用高效的时序数据库timescaleDB取代传统数据库，实现数据处理效率提升，同时支持对产品集群的集中管理，使海量数据的采集管理更加方便高效。
上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种海量网络性能数据采集的方法的流程示意图；
图2为本申请实施例提供的一种海量网络性能数据采集的方法的对所述第一网络性能数据集合进行数据分析的流程示意图；
图3为本申请实施例提供的一种海量网络性能数据采集的方法的对所述第一网络性能数据集合进行数据存储的流程示意图；
图4为本申请实施例提供的一种海量网络性能数据采集的方法的生成第一可视化数据信息的流程示意图；
图5为本申请实施例提供的一种海量网络性能数据采集的方法的获取采集配置的流程示意图；
图6为本申请实施例提供的一种海量网络性能数据采集的方法的将所述Kafka集群和所述日志数据采集器Filebeat进行对接的流程示意图；
图7为本申请实施例提供的一种海量网络性能数据采集的装置的结构示意图；
图8为本申请实施例提供的一种海量网络性能数据采集的计算机设备的示意图。
【附图标记说明】：
11、第一发送单元；
12、第一读取单元；
1002、计算机设备；
1004、处理器；
1006、存储器；
1008、驱动机构；
1010、输入/输出模块；
1012、输入设备；
1014、输出设备；
1016、呈现设备；
1018、GUI；
1020、网络接口；
1022、通信链路；
1024、通信总线。
具体实施方式
本申请实施例提供了一种海量网络性能数据采集的方法，解决了现有技术中对于网络性能数据的采集精度、采集成功率要求高与采集量大的矛盾的技术问题，达到了解决采集精度、采集成功率要求高与采集量大的矛盾，且具有灵活的横向扩展性，能够很好地应对网络规模不断扩大的采集需求，同时支持对产品集群的集中管理，使海量数据的采集管理更加方便高效的技术效果。
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。另外还需要说明的是，为了便于描述，附图中仅示出了与本申请相关的部分而非全部。
申请概述
目前，随着网络规模的不断扩大及网络管理精细化要求的不断提高，网络性能指标采集对象数量骤增，传统的网管产品出现采集性能瓶颈，且难以横向扩展，采集管理操作复杂，造成采集成功率低、采集精度低、数据获取方式不灵活等问题，无法满足网络运维要求。
鉴于上述对于网络性能数据的采集精度、采集成功率要求高与采集量大的矛盾的问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的方案，达到了解决采集精度、采集成功率要求高与采集量大的矛盾，且具有灵活的横向扩展性，能够很好地应对网络规模不断扩大的采集需求，同时支持对产品集群的集中管理，使海量数据的采集管理更加方便高效的技术效果。
针对上述技术问题，本申请提供的技术方案的总体解决思路如下：
本申请提供了一种海量网络性能数据采集的方法，所述方法包括：通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群。
在介绍了本申请基本原理后，下面将结合说明书附图来具体介绍本申请的各种非限制性的实施方式。
参照附图1，本发明实施例提供一种海量网络性能数据采集的方法，所述方法包括：
步骤S100：通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；
具体而言，随着网络规模的不断扩大及网络管理精细化要求的不断提高，网络性能指标采集对象数量骤增，这使得对海量网络性能数据的高效采集更为迫切。在本申请实施例中，计划通过一系列开源软件zabbix+timescaleDB+filebeat+kafka的对接组合，结合容器技术，建立一套高性能、易于扩展的集群系统，实现对海量网络性能数据灵活高效的采集和获取。进一步的，所述分布式开源监控软件zabbix可理解为，一个基于WEB界面的提供分布式系统监视以及网络监视功能的企业级的开源解决方案，能监视各种网络参数，保证服务器系统的安全运营；并提供灵活的通知机制以让系统管理员快速定位/解决存在的各种问题。所述目标网络设备集为需要进行网络性能数据采集的设备集合，其中，所述目标网络设备集中包含至少一个目标网络设备，根据所述第一数据采集指令，在搭建好的zabbix软件基础上，对所述目标网络设备集的性能参数进行采集，所述第一网络性能数据集合即为采集得到的数据的集合，通常包括速率、带宽、吞吐量、时延、时延带宽积等数据。
步骤S200：通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群。
具体而言，在采集到所述目标网络设备集的第一网络性能数据集合后，需要对其进行有效读取以获得第一聚合数据，并将所述第一聚合数据输出至Kafka集群，需要注意的是，在对所述第一网络性能数据集合进行读取的过程中，需要基于zabbix软件对采集的设备性能参数进行读取，其中，所述数据采集器为对数据进行采集的装置，在此以filebeat为例进行说明，基于轻量级日志采集器对数据进行采集，所述filebeat，是本地文件的日志数据采集器，可监控日志目录或特定日志文件(tail file)，并将它们转发给Elasticsearch或Logstatsh进行索引、kafka等。带有内部模块(auditd，Apache，Nginx，System和MySQL)，可通过一个指定命令来简化通用日志格式的收集，解析和可视化。通过所述filebeat日志数据采集器可对所述第一网络性能数据集合进行读取，获得第一聚合数据，所述第一聚合数据即为对所述第一网络性能数据集合进行路径查询以及数据读取后的聚合，通过获得所述第一聚合数据，便于进行固定配置的输出。
进一步的，如图2所示，所述将所述第一聚合数据输出至Kafka集群后，还包括：
步骤S310：通过所述Kafka集群生成第一数据消费场景集合；
步骤S320：根据所述第一数据消费场景集合，对所述第一网络性能数据集合进行数据分析。
具体而言，所述Kafka集群为所述filebeat日志数据采集器的指定输出配置，其中，所述Kafka集群可理解为，一个分布式、分区的、多副本的、多订阅者，常见可以用于web/nginx日志、访问日志，消息服务等等，主要用于日志收集系统和消息系统，其消息传递模式一般为发布-订阅模式，即在发布-订阅消息系统中，消息被持久化到一个topic中，消费者可以订阅一个或多个topic，消费者可以消费该topic中所有的数据，同一条数据可以被多个消费者消费，数据被消费后不会立马删除，在发布-订阅消息系统中，消息的生产者称为发布者，消费者称为订阅者。所述Kafka集群可对输入的所述第一聚合数据进行任意方式的消费，丰富了数据的获取方式，所述第一数据消费场景集合即为任意方式消费场景的集合。
进一步的，基于所述第一数据消费场景集合，可对所述第一网络性能数据集合进行数据分析，举例而言，在对目标网络设备进行性能数据采集时，可获取速率、带宽、吞吐量、时延等数据，通过对以上数据进行目标设备的消费场景集合，即根据所需对采集的性能数据进行组合应用，最终进行数据分析，例如大数据分析等。结合轻量级filebeat实现采集数据实时对接kafka，丰富数据获取方式，能够很好地应对网络规模不断扩大的采集需求。
进一步的，如图3所示，所述采集所述目标网络设备集的第一网络性能数据集合后，还包括：
步骤S410：获取采集配置，所述采集配置包括采集模板、编排容器组以及采集集群；
步骤S420：根据所述采集配置中至少一项获得第一采集数据特征；
步骤S430：根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储。
具体而言，所述数据采集器不是单一的数据采集设备，需要多个模块之间进行配置，已实现对目标网络设备的性能采集，在本申请实施例中，所述采集配置包括采集模板、编排容器组以及采集集群，其中，所述采集模板可理解为对数据进行采集的模板，若采集模板无误，可将采集模板导入管理平台，便于下发到采集器上进行应用，所述编排容器组可理解为分布式开源监控软件zabbix和timescale开源数据库的容器化安装对接的容器组，所述采集集群由若干个所述编排容器组集群而成，通过若干个所述编排容器组之间的互不干涉、横向扩展，集群得到所述采集集群，基于所述采集集群，可对海量网络设备的性能参数进行采集，进而根据所述采集配置中至少一项获得第一采集数据特征，所述第一采集数据特征为所述第一网络性能数据集合的固有特征，两者存在一一对应的映射关系，进而根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储，其中，所述第一timescale开源数据库即TimescaleDB，是一个针对时序数据的开源数据库，数据自动按时间和空间分片(chunk)，它的目标是兼具NoSQL数据库的天然扩展能力和传统关系型数据库的可靠性与查询支持。在内部，TimescaleDB自动将hypertable分割成块，一个块对应着一个根据指定时间间隔和此分区键的区域确定的二维空间。一个单一的TimescaleDB部署可以存储多个hypertable，每个hypertable可以有不同的表结构。
进一步的，如图4所示，所述对所述第一网络性能数据集合进行数据存储后，还包括：
步骤S510：通过管理平台获取数据调取指令；
步骤S520：通过所述管理平台获取的所述数据调取指令对应的第一timescale开源数据库的地址信息，并将所述第一timescale开源数据库的地址信息发送至Grafana；
步骤S530：通过Grafana接收的所述第一timescale开源数据库的地址信息并根据调取所述第一网络性能数据集合并生成第一可视化数据信息。
具体而言，在对所述第一网络性能数据集合进行数据存储之后，为了对其进行调取使用，可通过管理平台获取数据调取指令，进而根据所述数据调取指令和所述第一timescale开源数据库提供的API数据接口，调取所述第一timescale开源数据库的地址信息，并将地址信息发送至Grafana，Grafana调取所述第一网络性能数据集合，并进行可视化处理，生成第一可视化数据信息，其中，Grafana是一款用Go语言开发的开源数据可视化工具，可以做数据监控和数据统计，带有告警功能，换言之，Grafana可对数据进行可视化处理，所述第一可视化数据信息即为可视化处理之后的结果，实现了对采集的设备性能数据进行高效管理，提升数据的处理效率。
进一步的，如图5所示，所述获取采集配置，还包括：
步骤S411：获得所述分布式开源监控软件zabbix的第一docker镜像文件和所述第一timescale开源数据库的第二docker镜像文件，并将所述第一docker镜像文件以及第二docker镜像文件均导入物理机；
步骤S412：获得容器编排器docker-compose并将所述容器编排器docker-compose设置于所述物理机上；所述物理机与所述采集集群一一对应；
步骤S413：根据所述容器编排器docker-compose，获得第一yml配置文件；
步骤S414：将所述第一yml配置文件、第一docker镜像文件以及第二docker镜像文件打包后上传至所述物理机，并生成docker-compose up命令；
步骤S415：根据所述docker-compose up命令获取编排容器组；所述编排容器组包括：分布式开源监控软件zabbix以及第一timescale开源数据库。
具体而言，在对第一分布式开源监控软件zabbix匹配第一timescale开源数据库时，首先获取Zabbix和TSDB的docker镜像，即获得所述分布式开源监控软件zabbix的第一docker镜像文件和所述第一timescale开源数据库的第二docker镜像文件，并将所述第一docker镜像文件和第二docker镜像文件均导入物理机；其次在物理机上安装容器编排器docker-compose，并定义好编排器的yml配置文件，进而将所述第一yml配置文件、第一docker镜像文件以及第二docker镜像文件打包后上传至所述物理机，并生成docker-compose up命令，通过docker-compose up命令启动编排容器，即可实现“Zabbix+TSDB”一个容器组的快速安装和对接。
进一步的，本申请实施例还包括如下步骤(图未示)：
步骤S416：根据所述目标网络设备集中的网络设备数量信息确定所述编排容器组的个数，其中，所述网络设备数量信息与所述编排容器组的个数正相关；
步骤S417：根据所述编排容器组的数量确定所述物理机的数量，其中每个所述物理机上包括至少一个编排容器组。
具体而言，为了确保对海量的网络设备性能参数尽悉采集，需确定数据采集器的个数，即根据所述目标网络设备集中的网络设备数量信息确定所述编排容器组的个数，需要注意的是，所述网络设备数量信息与所述编排容器组的个数正相关，即当新增网络设备时，对应的，也应增加编排容器组的数量，进而根据所述编排容器组的数量确定所述物理机的数量，其中每个所述物理机上包括至少一个编排容器组，根据网络设备的数量对物理机的数量进行调整，确保对海量的网络设备性能参数尽悉采集。
进一步的，如图6所示，当所述数据采集器为日志数据采集器Filebeat时，将所述第一聚合数据输出至Kafka集群前，步骤S200还包括：
步骤S210：生成修改指令；
步骤S220：根据所述修改指令修改所述分布式开源监控软件zabbix配置文件zabbix_server.conf；
步骤S230：获得所述日志数据采集器Filebeat的安装文件；
步骤S240：根据所述安装文件，修改所述日志数据采集器Filebeat的配置文件filebeat.yml；
步骤S250：根据所述配置文件filebeat.yml，配置待转发的所述分布式开源监控软件zabbix的源数据路径和目的Kafka集群地址；
步骤S260：生成启动命令；
步骤S270：根据所述启动命令，启动所述日志数据采集器Filebeat以将所述Kafka集群和所述日志数据采集器Filebeat进行对接。
具体而言，在将所述第一聚合数据输出至Kafka集群前，确定所述Filebeat日志数据采集器的指定输出配置时，进一步的，可根所述修改指令，首先修改zabbix配置文件zabbix_server.conf，开启实时生成文本数据的功能；其次，在物理机上安装filebeat，修改其配置文件filebeat.yml，配置待转发的zabbix源数据路经和目的Kafka集群地址，进而通过所述启动命令，启动filebeat，即实现和zabbix、Kafka的对接。
进一步的，所述获取采集配置后，还包括：
步骤S51A1：通过测试机对采集模板进行测试并获取测试结果；
步骤S51A2：根据所述测试结果将所述采集模板导入所述管理平台，以令所述管理平台下发至所述数据采集器。
具体而言，为确保采集模板的准确性，避免大规模下发模板错误造成的影响，从管理角度设计了测试机，负责对采集模板进行测试，测试通过后才能将采集模板导入集中管理平台，由管理平台下发到所有在用的采集器上，进而实现了确保采集模板的准确性。
进一步的，本申请实施例还包括：
步骤S51B1：基于第一对接信息将新增网络设备对接到物理机上；
步骤S51B2：根据采集分配信息，对所述新增采集网络设备进行采集。
具体而言，在对新增设备进行处理时，可根据所述第一对接信息，获取预先定义好的规则，将需新增采集的网络设备纳入相应的设备组，并根据设计的采集器分配机制算法(如同园区设备分配同园区采集器、根据采集器CPU/内存利用率/采集数量等采集性能指标分配相对空闲的采集器等)，完成新增设备的自动采集部署，进而实现新增设备的对接。
进一步的，本申请实施例还包括：
步骤S51C1：获得所述分布式开源监控软件zabbix的API接口；
步骤S51C2：基于所述API接口，获得所述采集集群的采集状态；
步骤S51C3：对所述采集状态进行实时监控，获得实时监测结果；
步骤S51C4：判断所述实时监测结果是否存在异常情况；
步骤S51C5：若所述实时监测结果存在所述异常情况，生成第一预警指令；
步骤S51C6：根据所述第一预警指令，触发syslog进行预警；和/或生成第一错误邮件以及将所述第一错误邮件发送至所述集群维护人员。
具体而言，为了对数据采集状态进行实时监测，对采集有误的进程进行有效预警，提高数据的采集效率，进一步的，投产后的“Zabbix+TSDB”容器组需要录入管理平台，由管理平台通过zabbix的API接口自动获取采集集群中各采集器的采集状态，进而判断所述实时监测结果是否存在异常情况，如采集器CPU/内存利用率/采集数量/采集进程等，当出现采集进程异常、采集器繁忙度超阀值等异常情况时，可根据所述第一预警指令，触发syslog告警和/或生成所述第一错误邮件，并将所述第一错误邮件发送至所述集群维护人员；同时针对采集进程异常的场景，可启动自愈，对于无法自愈的情况，将该故障采集器上的采集负载自动漂移至其他健康的、满足分配机制算法的采集器上，并记录映射关系，进而实现对采集状态进行实时监测。
基于与前述实施例中一种海量网络性能数据采集的方法同样发明构思，本发明还提供了一种海量网络性能数据采集的装置，如图7所示，所述装置包括：
第一发送单元11：所述第一发送单元用于通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；
第一读取单元12：所述第一读取单元用于通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群。
进一步的，所述装置还包括：
第一生成单元：所述第一生成单元用于通过所述Kafka集群生成第一数据消费场景集合；
第一分析单元：所述第一分析单元用于根据所述第一数据消费场景集合，对所述第一网络性能数据集合进行数据分析。
进一步的，所述装置还包括：
第一获取单元：所述第一获取单元用于获取采集配置，所述采集配置包括采集模板、编排容器组以及采集集群；
第一获得单元：所述第一获得单元用于根据所述采集配置中至少一项获得第一采集数据特征；
第一匹配单元：所述第一匹配单元用于根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储。
进一步的，所述装置还包括：
第二获取单元：所述第二获取单元用于通过管理平台获取数据调取指令；
第一调取单元：所述第一调取单元用于通过所述管理平台获取的所述数据调取指令对应的第一timescale开源数据库的地址信息，并将所述第一timescale开源数据库的地址信息发送至Grafana；
第二生成单元：所述第二生成单元用于通过Grafana接收的所述第一timescale开源数据库的地址信息并根据调取所述第一网络性能数据集合并生成第一可视化数据信息。
进一步的，所述装置还包括：
第二获得单元：所述第二获得单元用于获得所述分布式开源监控软件zabbix的第一docker镜像文件和所述第一timescale开源数据库的第二docker镜像文件，并将所述第一docker镜像文件以及第二docker镜像文件均导入物理机；
第三获得单元：所述第三获得单元用于获得容器编排器docker-compose并将所述容器编排器docker-compose设置于所述物理机上；所述物理机与所述采集集群一一对应；
第四获得单元：所述第四获得单元用于根据所述容器编排器docker-compose，获得第一yml配置文件；
第一上传单元：所述第一上传单元用于将所述第一yml配置文件、第一docker镜像文件以及第二docker镜像文件打包后上传至所述物理机，并生成docker-compose up命令；
第三获取单元：所述第三获取单元用于根据所述docker-compose up命令获取编排容器组；所述编排容器组包括：分布式开源监控软件zabbix以及第一timescale开源数据库。
进一步的，所述装置还包括：
第一确定单元：所述第一确定单元用于根据所述目标网络设备集中的网络设备数量信息确定所述编排容器组的个数，其中，所述网络设备数量信息与所述编排容器组的个数正相关；
第二确定单元：所述第二确定单元用于根据所述编排容器组的数量确定所述物理机的数量，其中每个所述物理机上包括至少一个编排容器组。
进一步的，所述装置还包括：
第三生成单元：所述第三生成单元用于生成修改指令；
第一修改单元：所述第一修改单元用于根据所述修改指令修改所述分布式开源监控软件zabbix配置文件zabbix_server.conf；
第五获得单元：所述第五获得单元用于获得所述日志数据采集器Filebeat的安装文件；
第二修改单元：所述第二修改单元用于根据所述安装文件，修改所述日志数据采集器Filebeat的配置文件filebeat.yml；
第一配置单元：所述第一配置单元用于根据所述配置文件filebeat.yml，配置待转发的所述分布式开源监控软件zabbix的源数据路径和目的Kafka集群地址；
第四生成单元：所述第四生成单元用于生成启动命令；
第一启动单元：所述第一启动单元用于根据所述启动命令，启动所述日志数据采集器Filebeat以将所述Kafka集群和所述日志数据采集器Filebeat进行对接。
进一步的，所述装置还包括：
第一测试单元：所述第一测试单元用于通过测试机对采集模板进行测试并获取测试结果；
第一导入单元：所述第一导入单元用于根据所述测试结果将所述采集模板导入所述管理平台。
进一步的，所述装置还包括：
第一对接单元：所述第一对接单元用于基于第一对接信息将新增网络设备对接到物理机上；
第一采集单元：所述第一采集单元用于根据采集分配信息，对所述新增采集网络设备进行采集。
进一步的，所述装置还包括：
第六获得单元：所述第六获得单元用于获得所述分布式开源监控软件zabbix的API接口；
第七获得单元：所述第七获得单元用于基于所述API接口，获得所述采集集群的采集状态；
第一监控单元：所述第一监控单元用于对所述采集状态进行实时监控，获得实时监测结果；
第一判断单元：所述第一判断单元用于判断所述实时监测结果是否存在异常情况；
第五生成单元：所述第五生成单元用于若所述实时监测结果存在所述异常情况，生成第一预警指令；
第一触发单元：所述第一触发单元用于根据所述第一预警指令，触发syslog进行预警；和/或生成第一错误邮件以及将所述第一错误邮件发送至所述集群维护人员。
前述图1实施例一中的一种海量网络性能数据采集的方法的各种变化方式和具体实例同样适用于本实施例的一种海量网络性能数据采集的装置，通过前述对一种海量网络性能数据采集的方法的详细描述，本领域技术人员可以清楚的知道本实施例中一种海量网络性能数据采集的装置的实施方法，所以为了说明书的简洁，在此不再详述。
本文一实施例中，如图8所示，还提供一种计算机设备，计算机设备1002可以包括一个或多个处理器1004，诸如一个或多个中央处理单元(CPU)，每个处理单元可以实现一个或多个硬件线程。计算机设备1002还可以包括任何存储器1006，其用于存储诸如代码、设置、数据等之类的任何种类的信息。非限制性的，比如，存储器1006可以包括以下任一项或多种组合：任何类型的RAM，任何类型的ROM，闪存设备，硬盘，光盘等。更一般地，任何存储器都可以使用任何技术来存储信息。进一步地，任何存储器可以提供信息的易失性或非易失性保留，存储器1006上存储有可在处理器1004上运行的计算机程序，处理器1004执行计算机程序时实现前述任一实施例所述的一种利用zabbix实现海量网络性能数据采集的方法。进一步地，任何存储器可以表示计算机设备1002的固定或可移除部件。在一种情况下，当处理器1004执行被存储在任何存储器或存储器的组合中的相关联的指令时，计算机设备1002可以执行相关联指令的任一操作。计算机设备1002还包括用于与任何存储器交互的一个或多个驱动机构1008，诸如硬盘驱动机构、光盘驱动机构等。
计算机设备1002还可以包括输入/输出模块1010(I/O)，其用于接收各种输入(经由输入设备1012)和用于提供各种输出(经由输出设备1014))。一个具体输出机构可以包括呈现设备1016和相关联的图形用户接口(GUI)1018。在其他实施例中，还可以不包括输入/输出模块1010(I/O)、输入设备1012以及输出设备1014，仅作为网络中的一台计算机设备。计算机设备1002还可以包括一个或多个网络接口1020，其用于经由一个或多个通信链路1022与其他设备交换数据。一个或多个通信总线1024将上文所描述的部件耦合在一起。
通信链路1022可以以任何方式实现，例如，通过局域网、广域网(例如，因特网)、点对点连接等、或其任何组合。通信链路1022可以包括由任何协议或协议组合支配的硬连线链路、无线链路、路由器、网关功能、名称服务器等的任何组合。
本文实施例还提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行上述任一实施例所述的一种利用zabbix实现海量网络性能数据采集的方法。
本文实施例还提供一种计算机可读指令，其中当处理器执行所述指令时，其中的程序使得处理器执行上述任一实例所述的一种海量网络性能数据采集的方法。
本申请提供了一种海量网络性能数据采集的方法，所述方法包括：通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群。
应理解，在本发明的各种实施例中，上述各过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
还应理解，在本发明实施例中，术语“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系。例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本发明中应用了具体实施例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。
Claims (12)
1.一种海量网络性能数据采集方法，其特征在于，所述方法包括：
通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；
获取采集配置，所述采集配置包括采集模板、编排容器组以及采集集群；
根据所述采集配置中至少一项获得第一采集数据特征；
根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储；
通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群；
通过所述Kafka集群生成第一数据消费场景集合；
根据所述第一数据消费场景集合，对所述第一网络性能数据集合进行数据分析。
2.如权利要求1所述的方法，其特征在于，对所述第一网络性能数据集合进行数据存储后，所述方法还包括：
通过管理平台获取数据调取指令；
通过所述管理平台获取的所述数据调取指令对应的第一timescale开源数据库的地址信息，并将所述第一timescale开源数据库的地址信息发送至Grafana；
通过Grafana接收的所述第一timescale开源数据库的地址信息并根据调取所述第一网络性能数据集合并生成第一可视化数据信息。
3.如权利要求1所述的方法，其特征在于，获取采集配置还包括：
获得所述分布式开源监控软件zabbix的第一docker镜像文件和所述第一timescale开源数据库的第二docker镜像文件，并将所述第一docker镜像文件以及第二docker镜像文件均导入物理机；
获得容器编排器docker-compose并将所述容器编排器docker-compose设置于所述物理机上；所述物理机与所述采集集群一一对应；
根据所述容器编排器docker-compose，获得第一yml配置文件；
将所述第一yml配置文件、第一docker镜像文件以及第二docker镜像文件打包后上传至所述物理机，并生成docker-compose up命令；
根据所述docker-compose up命令获取编排容器组；所述编排容器组包括：分布式开源监控软件zabbix以及第一timescale开源数据库。
4.如权利要求3所述的方法，其特征在于，所述方法还包括：
根据所述目标网络设备集中的网络设备数量信息确定所述编排容器组的个数，其中，所述网络设备数量信息与所述编排容器组的个数正相关；
根据所述编排容器组的数量确定所述物理机的数量，其中每个所述物理机上包括至少一个编排容器组。
5.如权利要求1所述的方法，其特征在于，当所述数据采集器为日志数据采集器Filebeat时，将所述第一聚合数据输出至Kafka集群前，所述方法还包括：
生成修改指令；
根据所述修改指令修改所述分布式开源监控软件zabbix配置文件zabbix_server.conf；
获得所述日志数据采集器Filebeat的安装文件；
根据所述安装文件，修改所述日志数据采集器Filebeat的配置文件filebeat.yml；
根据所述配置文件filebeat.yml，配置待转发的所述分布式开源监控软件zabbix的源数据路径和目的Kafka集群地址；
生成启动命令；
根据所述启动命令，启动所述日志数据采集器Filebeat以将所述Kafka集群和所述日志数据采集器Filebeat进行对接。
6.如权利要求2所述的方法，其特征在于，获取采集配置后，所述方法还包括：
通过测试机对采集模板进行测试并获取测试结果；
根据所述测试结果将所述采集模板导入所述管理平台，以令所述管理平台下发至所述数据采集器。
7.如权利要求1所述的方法，其特征在于，所述方法还包括：
基于第一对接信息将新增网络设备对接到物理机上；
根据采集分配信息，对所述新增网络设备进行采集。
8.如权利要求1所述的方法，其特征在于，所述方法还包括：
获得所述分布式开源监控软件zabbix的API接口；
基于所述API接口，获得所述采集集群的采集状态；
对所述采集状态进行实时监控，获得实时监测结果；
判断所述实时监测结果是否存在异常情况；
若所述实时监测结果存在所述异常情况，生成第一预警指令；
根据所述第一预警指令，触发syslog进行预警；和/或生成第一错误邮件以及将所述第一错误邮件发送至集群维护人员。
9.一种海量网络性能数据采集装置，其特征在于，所述装置包括：
第一采集单元，所述第一采集单元用于通过分布式开源监控软件zabbix向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；
第一获取单元：所述第一获取单元用于获取采集配置，所述采集配置包括采集模板、编排容器组以及采集集群；并根据所述采集配置中至少一项获得第一采集数据特征；
第一匹配单元：所述第一匹配单元用于根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储；
第一输出单元，所述第一输出单元用于通过数据采集器对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群；
第一生成单元：所述第一生成单元用于通过所述Kafka集群生成第一数据消费场景集合；
第一分析单元：所述第一分析单元用于根据所述第一数据消费场景集合，对所述第一网络性能数据集合进行数据分析。
10.一种海量网络性能数据采集系统，其特征在于，所述系统包括：
分布式开源监控软件zabbix，所述分布式开源监控软件zabbix用于向目标网络设备集发送第一数据采集指令以采集所述目标网络设备集的第一网络性能数据集合；所述目标网络设备集中包含至少一个目标网络设备；获取采集配置，所述采集配置包括采集模板、编排容器组以及采集集群；根据所述采集配置中至少一项获得第一采集数据特征；根据所述第一采集数据特征，匹配第一timescale开源数据库，对所述第一网络性能数据集合进行数据存储；
数据采集器，所述数据采集器用于对所述第一网络性能数据集合进行读取以获得第一聚合数据并将所述第一聚合数据输出至Kafka集群；通过所述Kafka集群生成第一数据消费场景集合；根据所述第一数据消费场景集合，对所述第一网络性能数据集合进行数据分析。
11.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述权利要求1-8中任一项的方法。
12.一种计算机可读存储介质，其特征在于，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行上述权利要求1-8任一项的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110869199.1A CN113568813B (zh) | 2021-07-30 | 2021-07-30 | 一种海量网络性能数据采集方法、装置及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110869199.1A CN113568813B (zh) | 2021-07-30 | 2021-07-30 | 一种海量网络性能数据采集方法、装置及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113568813A true CN113568813A (zh) | 2021-10-29 |
| CN113568813B CN113568813B (zh) | 2024-08-02 |
Family
ID=78169345
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110869199.1A Active CN113568813B (zh) | 2021-07-30 | 2021-07-30 | 一种海量网络性能数据采集方法、装置及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113568813B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114553700A (zh) * | 2022-02-24 | 2022-05-27 | 树根互联股份有限公司 | 设备分组方法、装置、计算机设备及存储介质 |
| CN114780820A (zh) * | 2022-04-28 | 2022-07-22 | 广州高专资讯科技有限公司 | 一种基于开源平台的目标匹配系统及方法 |
| CN114844772A (zh) * | 2022-05-06 | 2022-08-02 | 上海欣诺通信技术股份有限公司 | 一种基于Zabbix监控平台的管理方法及系统 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109800259A (zh) * | 2018-12-11 | 2019-05-24 | 深圳市金证科技股份有限公司 | 数据采集方法、装置及终端设备 |
| CN110851234A (zh) * | 2019-10-25 | 2020-02-28 | 中信梧桐港供应链管理有限公司 | 基于docker容器的日志处理方法及装置 |
| CN111130882A (zh) * | 2019-12-25 | 2020-05-08 | 四川省公安科研中心 | 网络设备的监控系统及方法 |
| CN112732514A (zh) * | 2020-12-22 | 2021-04-30 | 航天信息股份有限公司 | 基于分布式关系型数据库的Zabbix监控系统 |
-
2021
- 2021-07-30 CN CN202110869199.1A patent/CN113568813B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109800259A (zh) * | 2018-12-11 | 2019-05-24 | 深圳市金证科技股份有限公司 | 数据采集方法、装置及终端设备 |
| CN110851234A (zh) * | 2019-10-25 | 2020-02-28 | 中信梧桐港供应链管理有限公司 | 基于docker容器的日志处理方法及装置 |
| CN111130882A (zh) * | 2019-12-25 | 2020-05-08 | 四川省公安科研中心 | 网络设备的监控系统及方法 |
| CN112732514A (zh) * | 2020-12-22 | 2021-04-30 | 航天信息股份有限公司 | 基于分布式关系型数据库的Zabbix监控系统 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114553700A (zh) * | 2022-02-24 | 2022-05-27 | 树根互联股份有限公司 | 设备分组方法、装置、计算机设备及存储介质 |
| CN114780820A (zh) * | 2022-04-28 | 2022-07-22 | 广州高专资讯科技有限公司 | 一种基于开源平台的目标匹配系统及方法 |
| CN114780820B (zh) * | 2022-04-28 | 2022-11-01 | 广州高专资讯科技有限公司 | 一种基于开源平台的目标匹配系统及方法 |
| CN114844772A (zh) * | 2022-05-06 | 2022-08-02 | 上海欣诺通信技术股份有限公司 | 一种基于Zabbix监控平台的管理方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113568813B (zh) | 2024-08-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113568813B (zh) | 一种海量网络性能数据采集方法、装置及系统 | |
| CN111131379B (zh) | 一种分布式流量采集系统和边缘计算方法 | |
| US20210224684A1 (en) | Parallel Model Deployment for Artificial Intelligence Using a Primary Storage System | |
| CN108874558A (zh) | 分布式事务的消息订阅方法、电子装置及可读存储介质 | |
| CN110928851B (zh) | 处理日志信息的方法、装置、设备及存储介质 | |
| CN111159524A (zh) | 监控方法和系统，及存储介质 | |
| CN110851234A (zh) | 基于docker容器的日志处理方法及装置 | |
| CN108306749B (zh) | 一种监控系统报警方法、监控系统和监控装置 | |
| CN112737800A (zh) | 服务节点故障定位方法、调用链生成方法及服务器 | |
| CN105045905A (zh) | 一种基于全文检索的日志维护方法及系统 | |
| CN113268530A (zh) | 海量异构数据采集方法、系统、计算机设备和存储介质 | |
| CN113157790B (zh) | 一种核聚变曲线编辑方法、系统、终端及介质 | |
| KR102031589B1 (ko) | 관계 체인 처리 방법 및 시스템, 그리고 저장 매체 | |
| CN110309206B (zh) | 订单信息采集方法及系统 | |
| CN107480189A (zh) | 一种多维度实时分析系统及方法 | |
| Kaur et al. | Image processing on multinode hadoop cluster | |
| CN107609129B (zh) | 日志实时处理系统 | |
| CN106658153A (zh) | 一种数据处理方法及设备 | |
| CN115269519A (zh) | 一种日志检测方法、装置及电子设备 | |
| CN115391429A (zh) | 基于大数据云计算的时序数据处理方法及装置 | |
| CN114756301A (zh) | 日志处理方法、装置和系统 | |
| CN112054926B (zh) | 集群管理方法、装置、电子设备及存储介质 | |
| CN115204251A (zh) | 数据处理方法、装置、电子设备和存储介质 | |
| CN113986677A (zh) | 一种业务资源监测的方法和装置 | |
| CN115114316A (zh) | 一种高并发数据的处理方法、装置、集群和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |