CN116521458A - 一种数据采集服务系统的测试方法及系统 - Google Patents

一种数据采集服务系统的测试方法及系统 Download PDF

Info

Publication number
CN116521458A
CN116521458A CN202310372520.4A CN202310372520A CN116521458A CN 116521458 A CN116521458 A CN 116521458A CN 202310372520 A CN202310372520 A CN 202310372520A CN 116521458 A CN116521458 A CN 116521458A
Authority
CN
China
Prior art keywords
data acquisition
service system
acquisition service
test
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310372520.4A
Other languages
English (en)
Inventor
贺明伟
尹继圣
刘大照
黄文曦
李航
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Ganzhen Intelligent Co ltd
Original Assignee
Shenzhen Ganzhen Intelligent Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Ganzhen Intelligent Co ltd filed Critical Shenzhen Ganzhen Intelligent Co ltd
Priority to CN202310372520.4A priority Critical patent/CN116521458A/zh
Publication of CN116521458A publication Critical patent/CN116521458A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/22Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • G06F11/2273Test methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/22Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • G06F11/26Functional testing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3664Environments for testing or debugging software

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请提供了一种数据采集服务系统的测试方法及系统,涉及数据采集技术领域。数据采集服务系统的测试方法包括:确认数据采集服务系统的基础信息是否满足启动条件,以及确认测试环境是否准备完成;当所述基础信息符合所述启动条件且所述测试环境准备完成,则所述数据采集服务系统对预设业务场景进行测试,并获得测试结果;对所述测试结果与预设结果进行比较,并生成分析报告。通过该方法可以主动发现预设业务场景运行时所存在的不足和缺陷,从而能够针对性地进行调优。

Description

一种数据采集服务系统的测试方法及系统
技术领域
本申请涉及数据采集技术领域,尤其涉及一种数据采集服务系统的测试方法及系统。
背景技术
随着物联网技术的发展,大量的数据需要进行采集,由此实现数据的交互及共享。
数据采集服务系统在运行过程中,需要消耗大量的服务器资源和流量资源,为此需要对系统进行调优。由于系统较为复杂,只有找出系统当前存在的不足和缺陷,才能对症处理并实现调优。
现目前,系统存在的问题多需要用户进行反馈,但这种方式非常被动。如何主动发现系统存在的不足和缺陷,是目前亟待解决的问题。
发明内容
本申请的目的在于克服现有技术的缺陷,提供一种数据采集服务系统的测试方法及系统,用以解决现有技术中的问题。
为解决上述问题,本申请实施例第一方面,提供了一种数据采集服务系统的测试方法,该方法包括:
确认数据采集服务系统的基础信息是否满足启动条件,以及确认测试环境是否准备完成;
当所述基础信息符合所述启动条件且所述测试环境准备完成,则所述数据采集服务系统对预设业务场景进行测试,并获得测试结果;
对所述测试结果与预设结果进行比较,并生成分析报告。
一种可选的实现方式中,所述“所述基础信息符合所述启动条件”包括:
所述数据采集服务系统的逻辑架构与实际部署架构一致;
所述数据采集服务系统的基础数据相对于实际数据按比例缩放;
所述数据采集服务系统的业务模型满足实际业务需求。
一种可选的实现方式中,所述“所述测试环境准备完成”包括:
所述数据采集服务系统的功能验证通过;
所述数据采集服务系统中各业务模型的基础参数梳理并配正确;
压力机到位并部署完成;
网络配置正确,连接通畅且满足压力测试需求。
一种可选的实现方式中,所述预设业务场景包括数据上报场景、容量场景、稳定性场景及异常场景;
其中,所述“所述数据采集服务系统对预设业务场景进行测试,并获得测试结果”包括:
根据所述数据上报场景,测试数据上报服务的单接口最大容量;
根据所述容量场景,获得所述数据采集服务系统的性能瓶颈;
根据所述稳定性场景,获得所述数据采集服务系统可支持的最大累加容量;
根据所述异常场景,获得异常情况对所述数据采集服务系统的性能产生的影响。
一种可选的实现方式中,所述数据上报场景包括:单个上报数据、批量上报数据以及压缩包上报数据。
一种可选的实现方式中,在所述数据采集服务系统对预设业务场景进行测试的过程中,当出现影响所述测试结果的不利因素时,生成暂停指令以使测试暂停。
一种可选的实现方式中,当所述不利因素被解除时,生成重启指令以使测试重启。
本申请实施例第二方面,提供了一种数据采集服务系统的测试系统,该系统包括:
确认模块,用于确认数据采集服务系统的基础信息是否满足启动条件,以及确认测试环境是否准备完成;
测试模块,用于当所述基础信息符合所述启动条件且所述测试环境准备完成,则所述数据采集服务系统对预设业务场景进行测试,并获得测试结果;
分析模块,用于对所述测试结果与预设结果进行比较,并生成分析报告。
一种可选的实现方式中,还包括暂停模块;
所述暂停模块,用于在所述数据采集服务系统对预设业务场景进行测试的过程中,当出现影响所述测试结果的不利因素时,生成暂停指令以使测试暂停。
一种可选的实现方式中,还包括重启模块;
所述重启模块,用于当所述不利因素被解除时,生成重启指令以使测试重启。
本申请的有益效果是:
在满足启动条件以及测试环境准备完成的前提下,数据采集服务系统对预设业务场景进行测试,并获得测试结果。其中,根据测试结果,就可以主动发现预设业务场景运行时所存在的不足和缺陷,从而能够针对性地进行调优。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了一种数据采集服务系统的测试方法的流程图;
图2示出了一种数据采集服务系统的测试系统的结构图。
主要元件符号说明:
11-确认模块;12-测试模块;13-分析模块;14-暂停模块;15-重启模块。
具体实施方式
下面结合附图,对本申请实施例进行描述。显然,所描述的实施例仅为本申请一部分实施例,而不是全部的实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请的保护范围。
实施例
参阅图1,在本实施例中,提出了一种数据采集服务系统的测试方法,包括如下步骤:
S1,确认数据采集服务系统的基础信息是否满足启动条件,以及确认测试环境是否准备完成;
S2,当基础信息符合启动条件且测试环境准备完成,则数据采集服务系统对预设业务场景进行测试,并获得测试结果;
S3,对所述测试结果与预设结果进行比较,并生成分析报告。
对预设业务场景进行测试时,需要满足两个条件:连续和递增。如此才能获得更加准确的测试结果。
在步骤S2中,“基础信息符合启动条件”包括:
数据采集服务系统的逻辑架构与实际部署架构一致;
数据采集服务系统的基础数据相对于实际数据按比例缩放;
数据采集服务系统的业务模型满足实际业务需求。
通过上述设置,使得进行测试数据采集服务系统,与实际生产所采用的系统相一致。当实际数据较大时,基础数据按比例缩放能够降低测试时间和成本,其中,测试结果按照缩放比例进行相应的调整,就可以获得实际生产中所对应的结果。
在本实施例中,基础数据的信息可如下表所示:
在步骤S2中,“测试环境准备完成”包括:
数据采集服务系统的功能验证通过;
数据采集服务系统中各业务模型的基础参数梳理并配正确;
压力机到位并部署完成;
网络配置正确,连接通畅且满足压力测试需求。
由此模拟真实的运行环境,从而获得更为准确的测试结果。
在本实施例中,预设业务场景包括数据上报场景、容量场景、稳定性场景及异常场景。其中,在步骤S2中,“数据采集服务系统对预设业务场景进行测试,并获得测试结果”包括:
根据数据上报场景,测试数据上报服务的单接口最大容量;
根据容量场景,获得数据采集服务系统的性能瓶颈;
根据稳定性场景,获得数据采集服务系统可支持的最大累加容量;
根据异常场景,获得异常情况对数据采集服务系统的性能产生的影响。
进一步地,测试上报场景的目的:确定单接口或单业务压到最大TPS,并且分析单接口或单业务的瓶颈点在哪;判断当前单接口或单业务的最大TPS,是否超过目标TPS,如果超过,并且响应时间也在业务可接受的范围之内,不用调优,如果没有超过,那必须要做调优。
测试容量场景的目的:重点是实现业务模型,模拟线上真实的业务场景。其中,通过Throughput Controller来控制业务比例,容量场景的最大TPS是指最大的稳定TPS。
稳定性场景的测试方法:稳定性场景的时长可通过业务容量去计算;用最大的稳定TPS来运行,只要覆盖了运维周期之内的业务容量即可。
异常场景包括:宏主机;宏网卡;宏应用;宏容器;通过工具来实现对容器的随机删除、网络丢包、模拟CPU高等操作。
在本实施例中,数据上报场景包括:单个上报数据、批量上报数据以及压缩包上报数据。其中,
单个上报数据对应的接口可为:/data-collection/report/single;
批量上报数据对应的接口可为:/data-collection/report/batch;
压缩包上报数据对应的接口可为:/data-collection/report/batch/gzip。
在本实施例中,在数据采集服务系统对预设业务场景进行测试的过程中,当出现影响测试结果的不利因素时,生成暂停指令以使测试暂停。由此可以有效保障测试结果的准确性。其中,不利因素可包括:
系统主机硬件损坏、网络传输时间超长、压力机出现损坏、系统主机因别的原因需升级暂停等;
测试环境受到干扰,比如服务器被临时征用,或服务器的其他使用会对测试结果造成干扰;
测试环境资源需要调整,如操作系统、数据库参数等。
当不利因素被解除时,生成重启指令以使测试重启。
在本实施例中,数据采集服务系统的业务模型如下表所示:
业务模型 接口 业务比例
单个上报数据业务 /data-collection/report/single 80%
批量上报数据业务 /data-collection/report/batch 20%
压缩包上报数据业务 /data-collection/report/batch/gzip 100%
上述业务模型所对应的预设结果可参照下表:
业务模型 接口 目标TPS 响应时间
单个上报数据业务 /data-collection/report/single 1000 200ms
批量上报数据业务 /data-collection/report/batch 500 200ms
压缩包上报数据业务 /data-collection/report/batch/gzip 100 200ms
在本实施例中,数据采集服务系统的技术栈可包括:Kubernetes(容器云)、Helm(Kubernetes包管理器)、Docker(应用容器引擎)、Weave Scope(Kubernetes可视化监控工具)、Spring Cloud(微服务框架)、Spring Boot(容器+MVC框架)、Elasticsearch(搜索引擎)、RabbitMQ(消息队列)、Redis(分布式缓存)、MongoDB(NoSQL数据库)、Jenkins(DevOps调度工具)、Promethues(资源监控系统)、Grafana(监控可视化看板)、Harbor(Docker镜像仓库)、GitLab(代码仓库)、JMeter(压测引擎)。
进行测试前,所需要准备的硬件环境可如下表所示:
测试时所需要使用工具包括:JMeter、influxDB以及Grafana。其中,JMeter是压力测试工具、influxDB和Grafana用于数据监控和数据统计。
为了对测试过程进行监控,还需要采用监控工具。监控工具包括:Promethues、Grafana以及Elasticsearch。其中,Promethues通过Exporter功能采集数据,包括Kubernetes各类组件(kubelet/Pod/APIServer/controller-manager/sheduler/state-metrics/etcd/CoreD NS/)、CenterOS、RabbitMQ、Redis、MySQL、MongoDB/NFS等组件;Grafana用于展现Prometheus采集的数据;Elasticsearch用于存储各类日志。
进行监控时,除了全局监控外,还可以进行定向监控。定向监控可采用的工具包括Jstack、Jmap、Jvisualvm、Arthas、Mysqlreport、pt-digest-query、Perf、strace。其中,Jstack、Jmap、Jvisualvm、Arthas用于监控java应用;Mysqlreport、pt-digest-query用于分析mysql;Perf、strace用于跟踪操作系统级别的调用。
完成测试后,获得测试结果,其中,对测试结果与预设结果进行比较,并生成分析报告。通过分析包括可以获知数据采集服务系统当前所存在的问题,由此方便工程师对系统进行优化和处理。
当kafka单节点导致吞吐量上不去,并且接口出现超时时,解决方案为:kafka使用集群部署;
当k8s内部转换节点,损耗网络,引起网络瓶颈,导致吞吐量上不去时,解决方案为:使用宿主机运行测试;
数据采集服务,吞吐量上不去时,解决方案为:认证方式改造,由之前的Bearertoken授权模式改为普通认证,使验证过程更加简洁高效;
以数据传输请求,无法满足业务需求时,解决方案为:将数据进行压缩,以压缩包形式请求。
在本实施例中,还提出了一种数据采集服务系统的测试系统,包括:
确认模块11,用于确认数据采集服务系统的基础信息是否满足启动条件,以及确认测试环境是否准备完成;
测试模块12,用于当基础信息符合所述启动条件且测试环境准备完成,则数据采集服务系统对预设业务场景进行测试,并获得测试结果;
分析模块13,用于对测试结果与预设结果进行比较,并生成分析报告。
进一步地,测试系统还包括暂停模块;
暂停模块14,用于在数据采集服务系统对预设业务场景进行测试的过程中,当出现影响所述测试结果的不利因素时,生成暂停指令以使测试暂停。
进一步地,测试系统还包括重启模块;
重启模块15,用于当不利因素被解除时,生成重启指令以使测试重启。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件的方式来实现,当然也可以通过专用硬件包括专用集成电路、专用CPU、专用存储器、专用元器件等来实现。一般情况下,凡由计算机程序完成的功能都可以很容易地用相应的硬件来实现,而且,用来实现同一功能的具体硬件结构也可以是多种多样的,例如模拟电路、数字电路或专用电路等。但是,对本申请而言更多情况下软件程序实现是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在可读取的存储介质中,如计算机的软盘、U盘、移动硬盘、只读存储器(read only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述的方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。
所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘(solid state disk,SSD))等。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

Claims (10)

1.一种数据采集服务系统的测试方法,其特征在于,包括:
确认数据采集服务系统的基础信息是否满足启动条件,以及确认测试环境是否准备完成;
当所述基础信息符合所述启动条件且所述测试环境准备完成,则所述数据采集服务系统对预设业务场景进行测试,并获得测试结果;
对所述测试结果与预设结果进行比较,并生成分析报告。
2.根据权利要求1所述的数据采集服务系统的测试方法,其特征在于,
所述“所述基础信息符合所述启动条件”包括:
所述数据采集服务系统的逻辑架构与实际部署架构一致;
所述数据采集服务系统的基础数据相对于实际数据按比例缩放;
所述数据采集服务系统的业务模型满足实际业务需求。
3.根据权利要求1所述的数据采集服务系统的测试方法,其特征在于,所述“所述测试环境准备完成”包括:
所述数据采集服务系统的功能验证通过;
所述数据采集服务系统中各业务模型的基础参数梳理并配正确;
压力机到位并部署完成;
网络配置正确,连接通畅且满足压力测试需求。
4.根据权利要求1所述的数据采集服务系统的测试方法,其特征在于,所述预设业务场景包括数据上报场景、容量场景、稳定性场景及异常场景;
其中,所述“所述数据采集服务系统对预设业务场景进行测试,并获得测试结果”包括:
根据所述数据上报场景,测试数据上报服务的单接口最大容量;
根据所述容量场景,获得所述数据采集服务系统的性能瓶颈;
根据所述稳定性场景,获得所述数据采集服务系统可支持的最大累加容量;
根据所述异常场景,获得异常情况对所述数据采集服务系统的性能产生的影响。
5.根据权利要求4所述的数据采集服务系统的测试方法,其特征在于,所述数据上报场景包括:单个上报数据、批量上报数据以及压缩包上报数据。
6.根据权利要求1所述的数据采集服务系统的测试方法,其特征在于,在所述数据采集服务系统对预设业务场景进行测试的过程中,当出现影响所述测试结果的不利因素时,生成暂停指令以使测试暂停。
7.根据权利要求6所述的数据采集服务系统的测试方法,其特征在于,当所述不利因素被解除时,生成重启指令以使测试重启。
8.一种数据采集服务系统的测试系统,其特征在于,包括:
确认模块,用于确认数据采集服务系统的基础信息是否满足启动条件,以及确认测试环境是否准备完成;
测试模块,用于当所述基础信息符合所述启动条件且所述测试环境准备完成,则所述数据采集服务系统对预设业务场景进行测试,并获得测试结果;
分析模块,用于对所述测试结果与预设结果进行比较,并生成分析报告。
9.根据权利要求8所述的数据采集服务系统的测试系统,其特征在于,还包括暂停模块;
所述暂停模块,用于在所述数据采集服务系统对预设业务场景进行测试的过程中,当出现影响所述测试结果的不利因素时,生成暂停指令以使测试暂停。
10.根据权利要求9所述的数据采集服务系统的测试系统,其特征在于,还包括重启模块;
所述重启模块,用于当所述不利因素被解除时,生成重启指令以使测试重启。
CN202310372520.4A 2023-04-04 2023-04-04 一种数据采集服务系统的测试方法及系统 Pending CN116521458A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310372520.4A CN116521458A (zh) 2023-04-04 2023-04-04 一种数据采集服务系统的测试方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310372520.4A CN116521458A (zh) 2023-04-04 2023-04-04 一种数据采集服务系统的测试方法及系统

Publications (1)

Publication Number Publication Date
CN116521458A true CN116521458A (zh) 2023-08-01

Family

ID=87407411

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310372520.4A Pending CN116521458A (zh) 2023-04-04 2023-04-04 一种数据采集服务系统的测试方法及系统

Country Status (1)

Country Link
CN (1) CN116521458A (zh)

Similar Documents

Publication Publication Date Title
CN111629061B (zh) 一种基于Kubernetes的推理服务系统
US8782215B2 (en) Performance testing in a cloud environment
CN106919485B (zh) 一种基于服务器上配置硬件测试工具的系统
CN108256118B (zh) 数据处理方法、装置、系统、计算设备以及存储介质
CN111966289B (zh) 基于Kafka集群的分区优化方法和系统
CN110750458A (zh) 大数据平台测试方法、装置、可读存储介质及电子设备
CN109218054B (zh) 终端动态配置、相应服务器实现方法、装置和存储介质
CN109254922A (zh) 一种服务器BMC Redfish功能的自动化测试方法及装置
CN112286723A (zh) 机房容灾控制方法、终端及存储介质
CN112506619A (zh) 作业处理方法、装置、电子设备、存储介质和程序产品
US20230376397A1 (en) Method and System for Determining Interval Time for Testing of Server, and Device and Medium
CN107193749B (zh) 测试方法、装置及设备
CN107092556B (zh) 测试方法、装置及设备
CN112306871A (zh) 数据处理方法、装置、设备及存储介质
CN116521458A (zh) 一种数据采集服务系统的测试方法及系统
CN109274533B (zh) 一种基于规则引擎的Web服务故障的定位装置和方法
CN116166427A (zh) 自动扩缩容方法、装置、设备及存储介质
CN115664992A (zh) 网络运行数据的处理方法、装置、电子设备及介质
CN115525392A (zh) 容器监控方法、装置、电子设备及存储介质
CN109901950A (zh) 一种规避应用程序崩溃的方法及装置
US9479579B2 (en) Grouping processing method and system
CN111221687B (zh) 一种云存储测试系统和方法
CN104008054A (zh) 一种软件性能测试装置及方法
CN105988917A (zh) 异常信息获取方法及装置
EP2209334A1 (en) Measurement arrangement for performing quality of service measurements of a telecommunication network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination