CN113656268A - 业务服务的性能测试方法、装置、电子设备和存储介质 - Google Patents

业务服务的性能测试方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN113656268A
CN113656268A CN202110872645.4A CN202110872645A CN113656268A CN 113656268 A CN113656268 A CN 113656268A CN 202110872645 A CN202110872645 A CN 202110872645A CN 113656268 A CN113656268 A CN 113656268A
Authority
CN
China
Prior art keywords
service
business service
resource
business
simulation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110872645.4A
Other languages
English (en)
Other versions
CN113656268B (zh
Inventor
李阳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202110872645.4A priority Critical patent/CN113656268B/zh
Publication of CN113656268A publication Critical patent/CN113656268A/zh
Application granted granted Critical
Publication of CN113656268B publication Critical patent/CN113656268B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3409Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
    • G06F11/3433Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment for load management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083Techniques for rebalancing the load in a distributed system
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本公开提供了一种业务服务的性能测试方法、装置、电子设备和存储介质,涉及搜索、云计算领域,具体实现方案为:响应于获取到测试请求,对与待测试的业务服务部署于同一设备的模拟服务配置运行所占用的资源,并在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。由此,可以实现利用模拟服务与业务服务抢占同一设备资源,在资源抢占场景下,对业务服务进行性能测试。由于该方法无需穷举所有混布情况,可以提升测试效率。

Description

业务服务的性能测试方法、装置、电子设备和存储介质
技术领域
本公开涉及计算机领域,具体涉及智能搜索、云计算等领域,尤其涉及业务服务的性能测试方法、装置、电子设备和存储介质。
背景技术
复杂分布式系统的云原生,是指面向“云”而设计的应用,能够更好地让业务生于“云”或迁移到云平台,享受“云”的高效和持续的服务能力。容器化封装作为云原生架构的关键要素,要求业务服务在资源需求被满足时即可部署,而不应具有其他的外部依赖(比如环境、其他服务等)。
从复杂分布式系统的质量保障角度来看,容器化封装意味着业务服务全混布成为常态,这一特性导致的一个重要问题是,在属于同类资源消耗密集型的业务服务混布在一起时,可能会造成业务服务互相影响。比如,两个CPU(Central Processing Unit,中央处理单元)密集型的业务服务混布在一起,大概率会发生由于CPU争抢而导致业务服务性能恶化的情况。
传统的业务服务的性能测试方法为:穷举所有混布情况分别进行业务服务的性能测试,然而上述方式不仅测试效率较低,而且测试场景无法逐一列举。
发明内容
本公开提供了一种用于业务服务的性能测试方法、装置、电子设备和存储介质。
根据本公开的一方面,提供了一种业务服务的性能测试方法,包括:
响应于获取到测试请求,对与所述业务服务部署于同一设备的模拟服务配置运行所占用的资源;
在同步运行所述业务服务和所述模拟服务的情况下,对所述业务服务进行性能测试。
根据本公开的另一方面,提供了一种业务服务的性能测试装置,包括:
配置模块,用于响应于获取到测试请求,对与所述业务服务部署于同一设备的模拟服务配置运行所占用的资源;
测试模块,用于在同步运行所述业务服务和所述模拟服务的情况下,对所述业务服务进行性能测试。
根据本公开的又一方面,提供了另一种业务服务的性能测试方法,包括:
运行待测试的业务服务;
运行模拟服务,其中,所述模拟服务与所述业务服务共用同一设备资源;
对所述业务服务进行性能测试。
根据本公开的另一方面,提供了另一种业务服务的性能测试装置,包括:
第一运行模块,用于运行待测试的业务服务;
第二运行模块,用于运行模拟服务,其中,所述模拟服务与所述业务服务共用同一设备资源;
测试模块,用于对所述业务服务进行性能测试。
根据本公开的又一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开上述一方面提出的业务服务的性能测试方法,或者,执行本公开上述又一方面提出的业务服务的性能测试方法。
根据本公开的再一方面,提供了一种计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本公开上述一方面提出的业务服务的性能测试方法,或者,执行本公开上述又一方面提出的业务服务的性能测试方法。
根据本公开的还一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现本公开上述一方面提出的业务服务的性能测试方法,或者,实现本公开上述又一方面提出的业务服务的性能测试方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开实施例一所提供的业务服务的性能测试方法的流程示意图;
图2为本公开实施例二所提供的业务服务的性能测试方法的流程示意图;
图3为本公开实施例中模拟服务占用机器资源示意图;
图4为本申请实施例三所提供的业务服务的性能测试方法的流程示意图;
图5为本公开实施例中模拟服务模拟混部数据下载场景示意图;
图6为本公开实施例四所提供的业务服务的性能测试方法的流程示意图;
图7为本公开实施例五所提供的业务服务的性能测试装置的结构示意图;
图8为本公开实施例六所提供的业务服务的性能测试方法的流程示意图;
图9为本公开实施例七所提供的业务服务的性能测试装置的结构示意图;
图10示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
传统的业务服务的性能测试方法为:穷举所有混布情况分别进行业务服务的性能测试,然而上述方式不仅测试效率较低,而且测试场景无法逐一列举。或者,直接忽略业务服务混布下,对业务服务性能的相互影响,不对业务服务相互影响进行验证,而这种方式会对系统埋下极大隐患,容易触发大规模的线上故障。
相关技术中,在大规模云原生系统下,主要通过以下三种方案对业务服务的性能进行测试:
第一种,单个业务服务独占服务器进行性能测试。该方法一般是在服务器上部署待测试的业务服务,且该业务服务独占机器资源,避免机器资源对该业务服务的影响,从而验证该业务服务在独占环境下不同版本之间的性能数据,根据验证结果判断该业务服务是否符合预期。
第二种,多个业务服务同机部署仿真线上生产环境,验证待测试的业务服务在多个服务部署的机器上的性能情况。
第三种,直接线上生产环境生效待测试的业务服务,在生产环境观察待测试的业务服务的性能情况,部分服务升级甚至不考虑性能影响,如果生产环境不出现明显问题,则认为待测试的业务服务升级是符合预期的。
上述三种方案所采用的性能测试方法不同,在云原生系统下所带来的问题也有所不同:
第一种方案,适用的场景是非混布单体的业务服务,或者是服务器上裸部的业务服务。因为该情况下仅关注待测试的业务服务自身的性能是否合适,只要机器上资源足够,待测试的业务服务自身的性能较好,无需关注不同业务服务之间对机器资源的占用和争抢。
然而,在云原生环境下,服务器上的机器资源利用率要求会比较高,业务服务之间的资源争抢会更频繁,业务服务之间的相互影响更加突出,因此该第一种方案的测试方法不太适用于云原生环境。
第二种方案,考虑到了不同业务服务之间的资源争抢的问题,通过同机部署多个业务服务来模拟线上生产环境,以此来验证在同机部署多个业务服务下,待测试业务服务的性能情况。虽然该方法考虑到了资源争抢情况,但是大规模云原生系统中,业务服务的数量巨大,不同业务服务之间同机部署的组合情况将是海量的。所以在验证性能过程中,无法穷举所有业务服务统计部署的组合场景,不仅测试效率较低,而且也容易遗漏混布场景。
第三种方案,从软件服务质量的角度来看,其实是不适用于混布场景的,该方法主要注重了待测试的业务服务升级上线的效率,但是升级的质量并没有关注太多。生产环境实际验证容易引发大规模的故障,这对系统和企业而言是灾难性的。一些因为待测试的业务服务升级导致的隐患可能不是实时爆发,不经严格的性能验证直接上线生产环境,其实埋下了系统隐患。
针对上述存在的至少一种问题,本公开提出一种业务服务的性能测试方法、装置、电子设备和存储介质。
下面参考附图描述本公开实施例的业务服务的性能测试方法、装置、电子设备和存储介质。
图1为本公开实施例一所提供的业务服务的性能测试方法的流程示意图。
本公开实施例以该业务服务的性能测试方法被配置于业务服务的性能测试装置中来举例说明,该业务服务的性能测试装置可以应用于任一电子设备中,以使该电子设备可以执行业务服务的性能测试功能。
其中,电子设备可以为任一具有计算能力的设备,例如可以为个人电脑(PersonalComputer,简称PC)、移动终端、服务器等,移动终端例如可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
如图1所示,该业务服务的性能测试方法可以包括以下步骤:
步骤101,响应于获取到测试请求,对与业务服务部署于同一设备的模拟服务配置运行所占用的资源。
在本公开实施例中,测试请求可以为用户触发的,该测试请求用于对业务服务进行性能测试。
在本公开实施例中,模拟服务与业务服务部署于同一设备中。
在本公开实施例中,在获取到测试请求时,可以响应于该测试请求,对模拟服务配置运行所占用的资源。
步骤102,在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。
在本公开实施例中,可以在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。由此,可以实现利用模拟服务与业务服务抢占同一设备资源,在资源抢占场景下,对业务服务进行性能测试。由于该方法无需穷举所有混布情况,可以提升测试效率。
以执行本公开实施例的业务服务的性能测试方法的电子设备,为分布式集群中的任意一个服务节点进行示例性说明,该服务节点上可以部署有两个容器,一个容器中可以部署有待测试的业务服务,一个容器(比如PAAS(Platform As A Service,平台即服务)容器)中可以部署有模拟服务,通过模拟服务与业务服务进行同机部署,占用机器资源,可以实现模拟不同服务混布场景,其他服务对机器资源的占用情况,从而实现了资源抢占场景下灵活的性能测试。
本公开实施例的业务服务的性能测试方法,通过在获取到测试请求时,对与待测试的业务服务部署于同一设备的模拟服务配置运行所占用的资源,并在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。由此,可以实现利用模拟服务与业务服务抢占同一设备资源,在资源抢占场景下,对业务服务进行性能测试。由于该方法无需穷举所有混布情况,可以提升测试效率。
为了清楚说明上述实施例中是如何对模拟服务进行资源配置的,下面结合实施例二,以资源为CPU资源和内存资源中的至少一项进行示例性说明。
图2为本公开实施例二所提供的业务服务的性能测试方法的流程示意图。
如图2所示,该业务服务的性能测试方法可以包括以下步骤:
步骤201,响应于获取到测试请求,确定业务服务所使用的第一资源占比。
在本公开实施例中,资源可以包括CPU资源和内存资源中的至少一项。
在本公开实施例中,在获取到测试请求时,可以获取业务服务所占用的资源,以及获取部署该业务服务的设备所对应的整机资源,根据业务服务所占用的资源和整机资源,确定第一资源占比。
举例而言,以资源为内存进行示例性说明,业务服务所占用的内存为5G,部署该业务服务的设备所对应的整机内存为20G,则第一资源占比为5/20=25%。
步骤202,根据第一资源占比和设定的资源占比上限,确定第二资源占比。
在本公开实施例中,资源占比上限为预先设定的,比如,以业务为搜索业务进行示例,对于搜索业务服务,该资源占比上限可以为92%。应当理解的是,对于不同的业务服务,对应的资源占比上限可以相同,或者也可以不同,比如搜索业务服务对应的资源占比上线可以为92%,而其他业务服务对应的资源占比上限可以为95%、96%、97%、98%、99%等等,本公开实施例对此并不做限制。
在本公开实施例中,可以将资源占比上限减去第一资源占比,所得到的差值,即为第二资源占比。例如,第一资源占比为30%,资源占比上限为92%,则第二资源占比为92%-30%=62%。
需要说明的是,业务服务上云后,业务服务可以部署在容器中,而容器对业务服务所占用的资源是有规定的,比如内存不能超过设定内存阈值,CPU占用率不能超过设定占用率,因此,在本公开实施例的一种可能的实现方式中,为了满足微服务架构的硬性要求,业务服务所使用的第一资源占比需处于设定占比范围内。即在步骤202之后,还需确定第一资源占比处于设定占比范围内。
步骤203,根据第二资源占比,配置模拟服务所占用的资源。
在公开实施例中,可以根据第二资源占比,配置模拟服务所占用的资源。例如,可以将第二资源占比乘以上述整机资源,所得的乘积即为模拟服务所占用的资源。
也就是说,本公开中,可以根据业务服务所占用的资源,配置模拟服务所占用的资源。
步骤204,在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。
步骤204的执行过程可以参见上述实施例的执行过程,在此不做赘述。
作为一种示例,以模拟服务占用内存资源为例进行示例性说明,假设资源占比上限为92%,剩余的8%的资源留给Pandora agent(潘多拉中间件)、noah/matrix进程。在确定业务服务所占用的第一资源占比后,可以将(92%-第一资源占比),作为模拟服务所需占用的第二资源占比,根据该第二资源占比,在PAAS容器中部署相应的模拟服务,以占用第二资源占比所对应的资源。如图3所示,模拟服务和业务服务一共占用整机资源的92%,该92%为资源红线,模拟服务和业务服务占用92%的资源即可认为整机资源占满。
在整机资源占满的情况下,对业务服务进行性能测试,即可模拟业务服务实例与其他服务充分混部的极端情况,如果该业务服务在自身规定的设定占比范围内无异常,则可说明该业务服务符合云原生混部要求。
本公开实施例的业务服务的性能测试方法,通过确定业务服务所使用的第一资源占比,根据第一资源占比和设定的资源占比上限,确定第二资源占比,根据第二资源占比,配置模拟服务所占用的资源。由此,可以实现根据业务服务所占用的资源,配置模拟服务所占用的资源,使得两者占满同一设备资源,在同一设备资源占满的情况下,对业务服务进行性能测试,即可模拟业务服务与其他服务充分混部的极端情况。
需要说明的是,图2实施例是利用模拟服务抢占设备的内存资源和/或CPU资源,实际应用时,还可以利用模拟服务抢占设备的磁盘资源。下面结合实施例三,对上述过程进行详细说明。
图4为本申请实施例三所提供的业务服务的性能测试方法的流程示意图。
如图4所示,该业务服务的性能测试方法可以包括以下步骤:
步骤401,获取第一词典。
在本公开实施例中,第一词典所含的数据量较小,比如第一词典所含的数据量大小为几十K。
步骤402,根据第一词典中的运行数据,运行模拟服务。
在本公开实施例中,模拟服务可以部署在PAAS容器中,第一词典可以包含PAAS容器的描述信息,该描述信息包括模拟服务所依赖的一些数据,比如运行数据。
在本公开实施例中,模拟服务在正常部署过程中,可以仅下载数据量较小的第一词典,根据该第一词典中的运行数据,运行模拟服务,从而保证模拟服务在较短的时间内部署完成。
需要说明的是,本公开对步骤401至402的执行时序并不作限制,图4仅以步骤401至402在步骤403之前执行进行示例,实际应用时,步骤401至402还可以与步骤403并列执行,或者,步骤401至402还可以在步骤403之后执行,本公开对此并不做限制。
步骤403,响应于获取到测试请求,对与业务服务部署于同一设备的模拟服务配置运行所占用的资源,其中,资源包括磁盘资源。
在本公开实施例中,可以对模拟服务进行磁盘资源配置,以使磁盘的读写速率达到设定速率,比如100MB/s。
步骤404,根据所配置的模拟服务所占用的磁盘资源,将模拟服务的描述信息修改为对应的目标数据项。
步骤405,根据修改后的描述信息,从目标数据项所指示的地址下载第二词典;其中,第二词典所含的数据量大于第一词典所含的数据量。
在本公开实施例中,第二词典所含的数据量较大,比如第二词典所含的数据量大小为几十G。
在本公开实施例中,在模拟服务混部场景时,可以下载较大的第二词典,使得磁盘的读写速率达到设定速率,比如100MB/s,从而模拟磁盘资源抢占的情况。
即本公开中,可以将模拟服务的描述信息修改为对应的目标数据项,从目标数据项所指示的地址下载较大的第二词典,从而占用磁盘资源。
步骤406,在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。
步骤406的执行过程可以参见上述任一实施例,在此不做赘述。
作为一种示例,云原生质量保障体系可以通过引入CNT(cloud native tool,云原生工具)来解决云原生架构下的业务服务的性能测试问题。该CNT工具的核心能力为从CPU、内存、磁盘三个主要维度来实现资源的抢占。CNT工具支持独立服务进行PAAS化部署。
以CNT工具占用内存或CPU资源为例,在服务混部性能测试场景中,将CNT工具作为PAAS容器,该PAAS容器中部署有模拟服务,可以将模拟服务与待测试的业务服务同机部署,占用一定的机器资源。
除了CPU、内存等资源占用模拟外,CNT工具还支持日志打印,以模拟线上服务日志打印的磁盘等资源消耗场景,即在其他服务打印日志时,CNT工具可以模拟对磁盘、IO(Input Output,输入输出)接口的占用;同时,CNT工具还支持混部场景数据下载能力,验证在服务混部情况下,模拟服务进行数据下载占用带宽、磁盘等资源时,待测试的业务服务的性能是否发生异常变化。
如图5所示,CNT工具在正常部署过程中,只会下载数十K大小的小词典(本公开记为第一词典),保证CNT实例能够实现在数十秒内部署完成,而在服务混部数据下载场景中,CNT工具能够通过修改目标数据项触发大词典(本公开中记为第二词典)下载,使磁盘读写速率达到100MB/s(需提前解除磁盘限速),验证待测试的业务服务在服务混布数据下载的场景下的性能表现是否符合预期。
由此,通过CNT工具对CPU、内存、磁盘等机器资源占用,模拟服务混布场景下,其他服务对机器资源的占用情况,从而实现了服务资源占用情况下灵活的性能测试。通过该方法,在海量服务组合场景的性能测试中,测试效率可以提升数倍。同时,CNT工具对机器资源占用较少,可以避免占用多个真实业务服务测试所需的机器资源,使得单个业务服务云原生性能测试机器资源较相关技术中的第二种方案节省数倍。
本公开实施例的业务服务的性能测试方法,通过根据所配置的模拟服务所占用的磁盘资源,将模拟服务的描述信息修改为对应的目标数据项;根据修改后的描述信息,从目标数据项所指示的地址下载第二词典;其中,第二词典所含的数据量大于第一词典所含的数据量。由此,通过下载较大的第二词典,使得磁盘的读写速率达到设定速率,可以实现模拟服务混部场景下磁盘资源抢占的情况。
为了清楚说明本公开上述任一实施例中是如何对业务服务进行性能测试的,本公开提出另一种业务服务的性能测试方法。
图6为本公开实施例四所提供的业务服务的性能测试方法的流程示意图。
如图6所示,该业务服务的性能测试方法可以包括以下步骤:
步骤601,响应于获取到测试请求,对与业务服务部署于同一设备的模拟服务配置运行所占用的资源。
步骤601的执行过程可以参见上述任一实施例,在此不做赘述。
步骤602,在同步运行业务服务和模拟服务的情况下,根据设定的多个测试指标,对业务服务进行性能测试。
在本公开实施例中,测试指标可以包括业务耗时(比如响应时间、排队时间)、SLA(Service-Level Agreement,服务等级协议)指标、拒绝、丢层等指标。
在本公开实施例中,在同步运行业务服务和模拟服务的情况下,可以根据设定的多个测试指标,对业务服务进行性能测试。
步骤603,响应于多个测试指标未符合对应的异常条件,确定业务服务正常。
在本公开实施例中,不同测试指标对应的异常条件可以不同。比如,业务耗时指标对应的异常条件可以为:业务耗时时长大于设定时长;拒绝指标对应的异常条件可以为:搜索被拒绝。
在本公开实施例中,在所有的测试指标均未符合对应的异常条件时,可以确定业务服务正常。
步骤604,响应于至少一个测试指标符合对应的异常条件,确定业务服务异常。
在本公开实施例中,当存在至少一个测试指标符合对应的异常条件时,可以确定业务服务异常。
本公开实施例的业务服务的性能测试方法,通过在同步运行业务服务和模拟服务的情况下,根据设定的多个测试指标,对业务服务进行性能测试,响应于多个测试指标未符合对应的异常条件,确定业务服务正常,响应于至少一个测试指标符合对应的异常条件,确定业务服务异常。由此,根据多个测试指标,来确定业务服务是否异常,可以提升测试结果的可靠性和准确性。
与上述图1至图6实施例提供的业务服务的性能测试方法相对应,本公开还提供一种业务服务的性能测试装置,由于本公开实施例提供的业务服务的性能测试装置与上述图1至图6实施例提供的业务服务的性能测试方法相对应,因此在业务服务的性能测试方法的实施方式也适用于本公开实施例提供的业务服务的性能测试装置,在本公开实施例中不再详细描述。
图7为本公开实施例五所提供的业务服务的性能测试装置的结构示意图。
如图7所示,该业务服务的性能测试装置700可以包括:配置模块710以及测试模块720。
其中,配置模块710,用于响应于获取到测试请求,对与业务服务部署于同一设备的模拟服务配置运行所占用的资源。
测试模块720,用于在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。
在本公开实施例的一种可能的实现方式中,资源包括CPU资源和内存资源中的至少一项;配置模块710,具体用于:确定业务服务所使用的第一资源占比;根据第一资源占比和设定的资源占比上限,确定第二资源占比;根据第二资源占比,配置模拟服务所占用的资源。
在本公开实施例的一种可能的实现方式中,配置模块710,还用于:确定第一资源占比处于设定占比范围内。
在本公开实施例的一种可能的实现方式中,该业务服务的性能测试装置700,还可以包括:
获取模块,用于获取第一词典。
运行模块,用于根据第一词典中的运行数据,运行模拟服务。
在本公开实施例的一种可能的实现方式中,该业务服务的性能测试装置700,还可以包括:
修改模块,用于根据所配置的模拟服务所占用的磁盘资源,将模拟服务的描述信息修改为对应的目标数据项。
下载模块,用于根据修改后的描述信息,从目标数据项所指示的地址下载第二词典;其中,第二词典所含的数据量大于第一词典所含的数据量。
在本公开实施例的一种可能的实现方式中,测试模块720,具体用于:在同步运行业务服务和模拟服务的情况下,根据设定的多个测试指标,对业务服务进行性能测试;响应于多个测试指标未符合对应的异常条件,确定业务服务正常;响应于至少一个测试指标符合对应的异常条件,确定业务服务异常。
本公开实施例的业务服务的性能测试装置,通过在获取到测试请求时,对与待测试的业务服务部署于同一设备的模拟服务配置运行所占用的资源,并在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。由此,可以实现利用模拟服务与业务服务抢占同一设备资源,在资源抢占场景下,对业务服务进行性能测试。由于该装置无需穷举所有混布情况,可以提升测试效率。
本公开还提出一种业务服务的性能测试方法。
图8为本公开实施例六所提供的业务服务的性能测试方法的流程示意图。
如图8所示,该业务服务的性能测试方法可以包括以下步骤:
步骤801,运行待测试的业务服务。
步骤802,运行模拟服务,其中,模拟服务与业务服务共用同一设备资源。
在本公开实施例中,模拟服务与业务服务部署于同一设备中。其中,模拟服务所占用的资源可以根据业务服务所占用的资源配置。
步骤803,对业务服务进行性能测试。
在本公开实施例中,利用模拟服务与业务服务抢占同一设备资源,在资源抢占场景下,对业务服务进行性能测试。
需要说明的是,前述图1至图6实施例的解释说明,也适用于该实施例,其实现原理类似,在此不做赘述。
本公开实施例的业务服务的性能测试方法,通过运行待测试的业务服务;运行模拟服务,其中,模拟服务与业务服务共用同一设备资源;对业务服务进行性能测试。由此,可以实现利用模拟服务与业务服务抢占同一设备资源,在资源抢占场景下,对业务服务进行性能测试。由于该方法无需穷举所有混布情况,可以提升测试效率。
与上述图8实施例提供的业务服务的性能测试方法相对应,本公开还提供一种业务服务的性能测试装置,由于本公开实施例提供的业务服务的性能测试装置与上述图8实施例提供的业务服务的性能测试方法相对应,因此在业务服务的性能测试方法的实施方式也适用于本公开实施例提供的业务服务的性能测试装置,在本公开实施例中不再详细描述。
图9为本公开实施例七所提供的业务服务的性能测试装置的结构示意图。
如图9所示,该业务服务的性能测试装置900可以包括:第一运行模块910、第二运行模块920以及测试模块930。
其中,第一运行模块910,用于运行待测试的业务服务。
第二运行模块920,用于运行模拟服务,其中,模拟服务与业务服务共用同一设备资源。
测试模块930,用于对业务服务进行性能测试。
本公开实施例的业务服务的性能测试装置,通过运行待测试的业务服务;运行模拟服务,其中,模拟服务与业务服务共用同一设备资源;对业务服务进行性能测试。由此,可以实现利用模拟服务与业务服务抢占同一设备资源,在资源抢占场景下,对业务服务进行性能测试。由于该方法无需穷举所有混布情况,可以提升测试效率。
为了实现上述实施例,本公开还提供一种电子设备,电子设备可以包括上述实施例中的主播客户端或服务端,该电子设备可以包括至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开上述任一实施例提出的业务服务的性能测试方法。
为了实现上述实施例,本公开还提供一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开上述任一实施例提出的业务服务的性能测试方法。
为了实现上述实施例,本公开还提供一种计算机程序产品,该计算机程序产品包括计算机程序,计算机程序在被处理器执行时实现本公开上述任一实施例提出的业务服务的性能测试方法。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图10示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。其中,电子设备可以包括上述实施例中的服务端、客户端。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示,设备1000包括计算单元1001,其可以根据存储在ROM(Read-OnlyMemory,只读存储器)1002中的计算机程序或者从存储单元1007加载到RAM(Random AccessMemory,随机访问/存取存储器)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。I/O(Input/Output,输入/输出)接口1005也连接至总线1004。
设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006,例如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于CPU、GPU(Graphic Processing Units,图形处理单元)、各种专用的AI(Artificial Intelligence,人工智能)计算芯片、各种运行机器学习模型算法的计算单元、DSP(Digital Signal Processor,数字信号处理器)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如上述业务服务的性能测试方法。例如,在一些实施例中,上述业务服务的性能测试方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的业务服务的性能测试方法的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行上述业务服务的性能测试方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、FPGA(Field Programmable Gate Array,现场可编程门阵列)、ASIC(Application-Specific Integrated Circuit,专用集成电路)、ASSP(Application Specific StandardProduct,专用标准产品)、SOC(System On Chip,芯片上系统的系统)、CPLD(ComplexProgrammable Logic Device,复杂可编程逻辑设备)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、RAM、ROM、EPROM(Electrically Programmable Read-Only-Memory,可擦除可编程只读存储器)或快闪存储器、光纤、CD-ROM(Compact Disc Read-Only Memory,便捷式紧凑盘只读存储器)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode-Ray Tube,阴极射线管)或者LCD(Liquid Crystal Display,液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:LAN(LocalArea Network,局域网)、WAN(Wide Area Network,广域网)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(VirtualPrivate Server,虚拟专用服务器)中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
其中,需要说明的是,人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
云计算(cloud computing),指的是通过网络接入弹性可扩展的共享物理或虚拟资源池,资源可以包括服务器、操作系统、网络、软件、应用和存储设备等,并可以以按需、自服务的方式对资源进行部署和管理的技术体系。通过云计算技术,可以为人工智能、区块链等技术应用、模型训练提供高效强大的数据处理能力。
根据本公开实施例的技术方案,通过在获取到测试请求时,对与待测试的业务服务部署于同一设备的模拟服务配置运行所占用的资源,并在同步运行业务服务和模拟服务的情况下,对业务服务进行性能测试。由此,可以实现利用模拟服务与业务服务抢占同一设备资源,在资源抢占场景下,对业务服务进行性能测试。由于该方法无需穷举所有混布情况,可以提升测试效率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (16)

1.一种业务服务的性能测试方法,所述方法包括:
响应于获取到测试请求,对与所述业务服务部署于同一设备的模拟服务配置运行所占用的资源;
在同步运行所述业务服务和所述模拟服务的情况下,对所述业务服务进行性能测试。
2.根据权利要求1所述的方法,其中,所述资源包括CPU资源和内存资源中的至少一项;
所述对与所述业务服务部署于同一设备的模拟服务配置运行所占用的资源,包括:
确定所述业务服务所使用的第一资源占比;
根据所述第一资源占比和设定的所述资源占比上限,确定第二资源占比;
根据所述第二资源占比,配置所述模拟服务所占用的资源。
3.根据权利要求2所述的方法,其中,在所述根据所述第一资源占比和设定的所述资源占比上限,确定第二资源占比之前,还包括:
确定所述第一资源占比处于设定占比范围内。
4.根据权利要求1所述的方法,其中,所述方法,还包括:
获取第一词典;
根据所述第一词典中的运行数据,运行所述模拟服务。
5.根据权利要求4所述的方法,其中,在所述资源包括磁盘资源,所述根据所述第一词典中的运行数据,运行所述业务服务之后,还包括:
根据所配置的所述模拟服务所占用的磁盘资源,将所述模拟服务的描述信息修改为对应的目标数据项;
根据修改后的描述信息,从所述目标数据项所指示的地址下载第二词典;
其中,所述第二词典所含的数据量大于所述第一词典所含的数据量。
6.根据权利要求1-5任一项所述的方法,其中,所述在同步运行所述业务服务和所述模拟服务的情况下,对所述业务服务进行性能测试,包括:
在同步运行所述业务服务和所述模拟服务的情况下,根据设定的多个测试指标,对所述业务服务进行性能测试;
响应于所述多个测试指标未符合对应的异常条件,确定所述业务服务正常;
响应于至少一个所述测试指标符合对应的异常条件,确定所述业务服务异常。
7.一种业务服务的性能测试装置,所述方法包括:
配置模块,用于响应于获取到测试请求,对与所述业务服务部署于同一设备的模拟服务配置运行所占用的资源;
测试模块,用于在同步运行所述业务服务和所述模拟服务的情况下,对所述业务服务进行性能测试。
8.根据权利要求7所述的装置,其中,所述资源包括CPU资源和内存资源中的至少一项;
所述配置模块,具体用于:
确定所述业务服务所使用的第一资源占比;
根据所述第一资源占比和设定的所述资源占比上限,确定第二资源占比;
根据所述第二资源占比,配置所述模拟服务所占用的资源。
9.根据权利要求8所述的装置,其中,所述配置模块,还用于:
确定所述第一资源占比处于设定占比范围内。
10.根据权利要求7所述的装置,其中,所述装置,还包括:
获取模块,用于获取第一词典;
运行模块,用于根据所述第一词典中的运行数据,运行所述模拟服务。
11.根据权利要求10所述的装置,其中,所述装置,还包括:
修改模块,用于根据所配置的所述模拟服务所占用的磁盘资源,将所述模拟服务的描述信息修改为对应的目标数据项;
下载模块,用于根据修改后的描述信息,从所述目标数据项所指示的地址下载第二词典;
其中,所述第二词典所含的数据量大于所述第一词典所含的数据量。
12.根据权利要求7-11任一项所述的装置,其中,所述测试模块,具体用于:
在同步运行所述业务服务和所述模拟服务的情况下,根据设定的多个测试指标,对所述业务服务进行性能测试;
响应于所述多个测试指标未符合对应的异常条件,确定所述业务服务正常;
响应于至少一个所述测试指标符合对应的异常条件,确定所述业务服务异常。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的业务服务的性能测试方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的业务服务的性能测试方法。
15.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的业务服务的性能测试方法。
16.一种业务服务的性能测试方法,所述方法包括:
运行待测试的业务服务;
运行模拟服务,其中,所述模拟服务与所述业务服务共用同一设备资源;
对所述业务服务进行性能测试。
CN202110872645.4A 2021-07-30 2021-07-30 业务服务的性能测试方法、装置、电子设备和存储介质 Active CN113656268B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110872645.4A CN113656268B (zh) 2021-07-30 2021-07-30 业务服务的性能测试方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110872645.4A CN113656268B (zh) 2021-07-30 2021-07-30 业务服务的性能测试方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN113656268A true CN113656268A (zh) 2021-11-16
CN113656268B CN113656268B (zh) 2024-02-06

Family

ID=78478154

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110872645.4A Active CN113656268B (zh) 2021-07-30 2021-07-30 业务服务的性能测试方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN113656268B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006130091A1 (en) * 2005-06-03 2006-12-07 Telefonaktiebolaget Lm Ericsson (Publ) Wireless high-speed data network planning tool
US20100262632A1 (en) * 2009-04-14 2010-10-14 Microsoft Corporation Data transfer from on-line to on-premise deployment
CN103297285A (zh) * 2012-02-23 2013-09-11 百度在线网络技术(北京)有限公司 分布式集群的性能测试系统、方法和装置
US20140122168A1 (en) * 2012-10-29 2014-05-01 Elwha Llc Food Supply Chain Automation Residential Information System And Method
CN104572469A (zh) * 2015-01-23 2015-04-29 广东能龙教育股份有限公司 一种基于模拟http请求的接口自动化测试方法和系统
CN106294113A (zh) * 2015-06-03 2017-01-04 阿里巴巴集团控股有限公司 一种基于可编程式测试服务的创建方法及装置
CN108595306A (zh) * 2018-04-18 2018-09-28 大连理工大学 一种面向混部云的服务性能测试方法
US20200019657A1 (en) * 2018-07-16 2020-01-16 Xplicit Computing, Inc. Scalable convention for data properties in numerical computing
CN110765024A (zh) * 2019-10-29 2020-02-07 百度在线网络技术(北京)有限公司 模拟测试方法、装置、电子设备和计算机可读存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006130091A1 (en) * 2005-06-03 2006-12-07 Telefonaktiebolaget Lm Ericsson (Publ) Wireless high-speed data network planning tool
US20100262632A1 (en) * 2009-04-14 2010-10-14 Microsoft Corporation Data transfer from on-line to on-premise deployment
CN103297285A (zh) * 2012-02-23 2013-09-11 百度在线网络技术(北京)有限公司 分布式集群的性能测试系统、方法和装置
US20140122168A1 (en) * 2012-10-29 2014-05-01 Elwha Llc Food Supply Chain Automation Residential Information System And Method
CN104572469A (zh) * 2015-01-23 2015-04-29 广东能龙教育股份有限公司 一种基于模拟http请求的接口自动化测试方法和系统
CN106294113A (zh) * 2015-06-03 2017-01-04 阿里巴巴集团控股有限公司 一种基于可编程式测试服务的创建方法及装置
CN108595306A (zh) * 2018-04-18 2018-09-28 大连理工大学 一种面向混部云的服务性能测试方法
US20200019657A1 (en) * 2018-07-16 2020-01-16 Xplicit Computing, Inc. Scalable convention for data properties in numerical computing
CN110765024A (zh) * 2019-10-29 2020-02-07 百度在线网络技术(北京)有限公司 模拟测试方法、装置、电子设备和计算机可读存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
万泓洋;许洁;朱冰妍;: "基于云计算的英语口语学习系统设计", 计算机与网络, no. 09 *
张彬;李卫平;王晋;: "基于业务统一部署与管理的资源调度算法", 吉林大学学报(理学版), no. 03 *

Also Published As

Publication number Publication date
CN113656268B (zh) 2024-02-06

Similar Documents

Publication Publication Date Title
CN111625452B (zh) 流量回放方法和系统
US10956311B2 (en) White box code concurrency testing for transaction processing
CN111258913A (zh) 算法自动测试方法、装置、计算机系统及可读存储介质
CN114564374A (zh) 算子性能评估方法、装置、电子设备及存储介质
CN114157701A (zh) 一种任务测试方法、装置、设备以及存储介质
CN114501501A (zh) 移动通信网络靶场的配置管理方法、装置、设备及介质
CN115168130A (zh) 一种芯片测试方法、装置、电子设备及存储介质
CN115150471A (zh) 数据处理方法、装置、设备、存储介质及程序产品
CN112559525B (zh) 数据检查系统、方法、装置和服务器
CN113609027A (zh) 一种arm云服务器的测试方法、装置、电子设备和存储介质
US11475191B2 (en) Generating and adding additional control information to logic under test to facilitate debugging and comprehension of a simulation
CN115599438A (zh) 应用程序的发布包的构建方法、装置、设备及介质
CN113590217B (zh) 基于引擎的函数管理方法、装置、电子设备及存储介质
CN115391204A (zh) 自动驾驶服务的测试方法、装置、电子设备及存储介质
CN115495151A (zh) 规则引擎的迁移方法、装置、设备、存储介质及程序产品
CN113656268A (zh) 业务服务的性能测试方法、装置、电子设备和存储介质
CN113127357B (zh) 单元测试方法、装置、设备、存储介质及程序产品
CN114389969A (zh) 客户端的测试方法、装置、电子设备和存储介质
US20180004629A1 (en) Run time smf/rmf statistical formula methodology for generating enhanced workload data points for customer profiling visualization
CN113220367A (zh) 小程序的运行方法、装置、电子设备及存储介质
CN113778849A (zh) 用于测试代码的方法、装置、设备以及存储介质
CN114143235A (zh) Nfv自动测试方法、装置、设备及存储介质
CN116136813B (zh) 适配多型号的航电信号仿真方法、装置及存储介质
CN113961405B (zh) 状态切换指令验证方法、装置、电子设备及存储介质
CN113760765B (zh) 代码测试方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant