CN110442508B - 测试任务处理方法、装置、设备和介质 - Google Patents
测试任务处理方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN110442508B CN110442508B CN201810414745.0A CN201810414745A CN110442508B CN 110442508 B CN110442508 B CN 110442508B CN 201810414745 A CN201810414745 A CN 201810414745A CN 110442508 B CN110442508 B CN 110442508B
- Authority
- CN
- China
- Prior art keywords
- servers
- processing
- test
- real
- computing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3684—Test management for test design, e.g. generating new test cases
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本申请实施例公开了一种测试任务处理方法、装置、设备和介质,用以简化测试流程,提高测试效率和测试用例覆盖面,同时避免搭建测试集群造成的资源浪费,保证用户数据的安全性。所述测试任务处理方法,包括:获取测试任务;从用于处理实时计算任务的计算服务器集群中选择一部分服务器;使用实时用户数据在选择的服务器中对所述测试任务进行处理;输出处理结果,所述处理结果中不包括所述实时用户数据。
Description
技术领域
本申请涉及大数据技术领域,尤其涉及一种测试任务处理方法、装置、设备和介质。
背景技术
在大数据计算平台中引入新功能之后,需要在编译器、优化器和运行器中进行测试,以验证新功能是否会引起系统故障。
传统的测试方式主要有两种,即人工测试和编写简单的测试用例测试。上述两种测试方式在对测试任务处理时,都需要模拟真实运行环境,在线下搭建一个与线上用于处理实时计算任务的计算服务器集群相同规模的线下测试集群。从线上计算服务器集群中抓取部分用户数据,并人工对抓取到用户数据进行脱敏。在对抓取到用户数据进行脱敏之后,利用脱敏后的用户数据在搭建的测试集群中对测试任务进行处理。
上述对测试任务的处理过程,整个过程冗长,效率较低,而且在线下搭建一个与线上计算服务器集群相同规模的测试集群,需要大量的资源,同时维护线下测试集群的成本也非常高,而线下测试集群的使用频率较低,多数时间都处于闲置状态,这无疑将造成资源的浪费。
另外,从线上计算服务器集群中抓取部分用户数据进行脱敏的方式,一方面,抓取的用户数据有限,能够提供的测试用例有限,测试用例覆盖面小;另一方面,人工对抓取的用户数据进行脱敏时,容易因人为忽视,导致用户数据泄漏,用户数据的安全性得不到保障。
发明内容
本申请实施例提供了一种测试任务处理方法、装置、设备和介质,用以简化测试流程,提高测试效率和测试用例覆盖面,同时避免搭建测试集群造成的资源浪费,保证用户数据的安全性。
根据本申请实施例的一方面,提供一种测试任务处理方法,包括:
获取测试任务;
从用于处理实时计算任务的计算服务器集群中选择一部分服务器;
使用实时用户数据在选择的服务器中对测试任务进行处理;
输出处理结果,处理结果中不包括实时用户数据。
根据本申请实施例的另一方面,提供一种测试任务处理装置,包括:
获取模块,用于获取测试任务;
选取模块,用于从用于处理实时计算任务的计算服务器集群中选择一部分服务器;
处理模块,用于使用实时用户数据在选择的服务器中对测试任务进行处理;
输出模块,用于输出处理结果,处理结果中不包括实时用户数据。
根据本申请实施例的又一方面,提供一种测试任务处理设备,包括:存储器和处理器;该存储器用于储存有可执行程序代码;该处理器用于读取存储器中存储的可执行程序代码以执行上述测试任务处理方法。
根据本申请实施例的再一方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,当计算机程序指令被处理器执行时实现上述测试任务处理方法。
根据本申请实施例中的测试任务处理方法、装置、设备和介质,获取测试任务之后,从用于处理实时计算任务的计算服务器集群中选择一部分服务器,使用实时用户数据在选择的服务器中对测试任务进行处理,并输出处理结果,且处理结果中不包括实时用户数据。
本申请实施例提供的测试任务处理方案,使用实时用户数据,在从计算服务器集群选择服务器对测试任务处理,从而使得在对测试任务进行处理时,既能够模拟真实的运行环境,又无需搭建测试集群,避免了搭建测试集群造成的资源浪费。同时在对测试任务进行处理时,直接使用实时用户数据,且输出结果中不包括实时用户数据,既能保证处理测试任务所用用户数据的真实性,又能够避免测试人员接触实时用户数据,能够有效保证用户数据的安全性。另外,整个处理测试任务的过程在计算服务器集群中完成,无需搭建测试集群、提取用户数据、以及对用户数据脱敏等操作,大大简化了处理流程,提高了效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了根据本申请实施例的测试任务处理方法的测试场景示意图;
图2示出了根据本申请实施例的测试任务处理方法的流程示意图;
图3示出了根据本申请实施例的测试任务处理装置的结构示意图;
图4示出了能够实现根据本申请实施例的测试任务处理方法和装置的计算设备的示例性硬件架构的结构图。
具体实施方式
下面将详细描述本申请的各个方面的特征和示例性实施例,为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细描述。应理解,此处所描述的具体实施例仅被配置为解释本申请,并不被配置为限定本申请。对于本领域技术人员来说,本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
目前,在大数据计算平台中引入新功能之后,需要在编译器、优化器和运行器中对新功能进行测试,以验证新功能是否会引起大数据计算平台系统故障。
传统的测试方式主要有两种,即人工测试和编写简单的测试用例测试。上述两种测试方式在对测试任务处理时,都需要模拟真实运行环境,在线下搭建一个与线上用于处理实时计算任务的计算服务器集群相同规模的线下测试集群。从线上计算服务器集群中抓取部分用户数据,并人工对抓取到用户数据进行脱敏。在对抓取到用户数据进行脱敏之后,利用脱敏后的用户数据在搭建的测试集群中进行测试。
从上述传统测试方式对测试任务的处理过程可以看出,传统的测试方式主要存在以下几点不足:
(1)整个过程需要先搭建测试集群,从线上计算服务器集群中抓取部分用户数据,并人工对抓取到用户数据进行脱敏,然后利用脱敏后的用户数据在搭建的测试集群中进行测试,整个过程冗长,效率较低;
(2)在线下搭建一个与线上计算服务器集群相同规模的测试集群,需要大量的资源,维护线下测试集群的成本也非常高,但是线下测试集群的使用频率较低,多数时间都处于闲置状态,这无疑将造成资源的浪费;
(3)从线上计算服务器集群中抓取部分用户数据经过脱敏进行测试的方式,抓取的用户数据有限,能够提供的测试用例有限,测试用例覆盖面小;
(4)从线上计算服务器集群中抓取部分用户数据经过脱敏进行测试的方式,人工对抓取的用户数据进行脱敏时,容易因人为忽视,导致用户数据泄漏,用户数据的安全性得不到保障;
(5)从线上计算服务器集群中抓取部分用户数据经过脱敏进行测试的方式,脱敏后的用户数据与原数据相比,会丧失一定的真实性,可能影响测试结果。
鉴于此,本申请实施例提供了一种测试任务处理方案,获取测试任务之后,从用于处理实时计算任务的计算服务器集群中选择一部分服务器,使用实时用户数据在选择的服务器中对测试任务进行处理,并输出处理结果,且处理结果中不包括实时用户数据。
本申请实施例提供的测试任务处理方案,使用实时用户数据,在从用于处理实时计算任务的计算服务器集群选择服务器对测试任务处理,从而使得在对测试任务进行处理时,既能够模拟真实的运行环境,又无需搭建测试集群,避免了搭建测试集群造成的资源浪费。同时在对测试任务进行处理时,直接使用实时用户数据,且输出结果中不包括实时用户数据,既能保证处理测试任务所用用户数据的真实性,又能够避免测试人员接触实时用户数据,能够有效保证用户数据的安全性。另外,整个处理测试任务的过程在计算服务器集群中完成,无需搭建测试集群、提取用户数据、以及对用户数据脱敏等操作,大大简化了处理流程,提高了效率。
需要说明的是,本申请实施例提供的测试任务处理方案,在计算服务器集群中选择一部分服务器,使用实时用户数据在选择的服务器中对测试任务进行处理时,可以利用计算服务器集群本身超大规模的计算能力来并行对大量的实时用户数据进行计算。换句话说,本申请实施例的测试任务处理方案,能够利用大量的实时用户数据对测试任务进行测试,在测试时几乎可以覆盖真实场景中的所有情况,与现有的测试方案相比,测试用例的覆盖面得到极大提升。
在一个实施方式中,获取测试任务是指从测试人员提交的测试请求中获取测试任务。具体来说,接收测试人员提交的包含测试任务的自定义函数(User-Defined Function,UDF)测试请求,对接收到的UDF测试请求进行解析,从解析结果中获取测试任务。
其中,测试任务可以是新的算法,新的语法等,也可以是大数据计算平台中正在使用的功能或语法,本申请实施例对此不做限定。
在一个实施方式中,在获取测试任务之后,从用于处理实时计算任务的计算服务器集群中选择一部分服务器,并使用实时用户数据在选择的服务器中对测试任务进行处理。
在一个实施方式中,通常情况下,在用于处理实时计算任务的计算服务器集群中,很少出现计算服务器集群中全部服务器均处于工作状态的情况。换句话说,实际应用中,在用于处理实时计算任务的计算服务器集群中,通过仅有部分服务器处于工作状态用于处理实时计算任务,而其它服务器则处于空闲状态。有鉴于此,从用于处理实时计算任务的计算服务器集群中选择一部分服务器时,从用于处理实时计算任务的计算服务器集群中选择一部分处于空闲状态的服务器。
本申请实施例在具体实施时,从用于处理实时计算任务的计算服务器集群中选择一部分处于空闲状态的服务器时,可以首先确定计算服务器集群中服务器的使用率,然后根据计算服务器集群中服务器的使用率,从计算服务器集群中动态选择部分或者全部处于空闲状态的服务器。
具体来说,根据计算服务器集群中服务器的使用率,从计算服务器集群中动态选择部分或者全部处于空闲状态的服务器,是指根据计算服务器集群中服务器的使用率,确定计算服务器集群中存在处于空闲状态的服务器时,则选取部分或全部处于空闲状态的服务器用于处理测试任务。
当然,根据计算服务器集群中服务器的使用率,确定计算服务器集群中不存在处于空闲状态的服务器时,则等待计算服务器集群中存在处于空闲状态的服务器时,再从计算服务器集群中选取部分或全部处于空闲状态的服务器用于处理测试任务。
在一个示例中,如图1所示,在图1示出的计算服务器集群中,若确定当前用于处理实时计算任务的服务器在计算服务器集群中的占比为N%,在N小于100时,可以确定计算服务器集群中存在处于空闲状态的服务器,则可以选取部分或全部处于空闲状态的服务器用于处理测试任务,也即用于处理测试任务的服务器在计算服务器集群中的占比小于或等于(100-N)%。
举例来说,在图1示出的计算服务器集群中,99%的服务器用于处理实时计算任务时,可以选取1%的服务器用于处理测试任务。
当然,需要说明的是,本申请实施例中根据计算服务器集群中服务器的使用率,从计算服务器集群中动态选择部分或者全部处于空闲状态的服务器用于处理测试任务,能够充分利用资源,减少资源浪费。同时,在计算服务器集群中选取服务器对测试任务进行处理,使得处理测试任务的测试环境与真实环境完全一致,有利于提高测试的准确性。
在一个示例中,在用户访问高峰期间(例如,白天),计算服务器集群中服务器的使用率较高,在计算服务器集群中,大部分服务器都需要用于处理实时计算任务,以确保不影响用户的使用,则此时可以选取较少的服务器用于处理测试任务或者不选取用于处理测试任务的服务器。
在另一示例中,在用户访问低谷期间(例如,晚上),计算服务器集群中服务器的使用率较低,在计算服务器集群中,只有少部分服务器需要用于实时计算任务,大部分服务器处于空闲状态,则此时选取较多的服务器用于处理测试任务。
在一个实施方式中,在计算服务器集群中,既有用于处理实时计算任务的服务器,也有用于处理测试任务的服务器,则为了避免不同服务器之间的相互影响,也即为了避免用于处理测试任务的服务器对用于处理实时计算任务的服务器的影响,需要在计算服务器集群中,隔离用于处理实时计算任务的服务器和选取的用于处理测试任务的服务器。
在一个实施方式中,在隔离用于处理实时计算任务的服务器和选取的用于处理测试任务的服务器时,可以通过以下几方面予以实现。
举例来说,在中央处理器(Central Processing Unit,CPU)和内存方面,加强Cgroup(control group)实现,以支持更灵活的资源控制;在磁盘管理方面,统一管理计算服务器集群中的磁盘,并提供存储优先级控制;在万兆网方面,加强流量控制。
在一个实施方式中,UDF测试请求中包括编译器和优化器,编译器和优化器中包含测试任务。具体使用实时用户数据在选择的服务器中对测试任务进行处理时,可以利用UDF中包括的编译器和优化器并行计算实时用户数据,以对待测试任务进行处理。
在一个示例中,在计算服务器集群中,利用UDF中包括的编译器和优化器并行计算实时用户数据时,可以在计算服务器集群中通过执行并行有向无环图(Directed AcyclicGraph,DAG)的方式来并行计算实时用户数据。
传统的测试方式中,在编译器和优化器中对测试任务进行处理时,为了达到更好的测试效果,往往会根据用户数据构建测试用例,此种情况下,在对测试结果分析时,为了分析测试任务是否会引起系统故障,就需要分析构建测试用例的用户数据,而这可能会导致用户数据泄漏,用户数据的安全性得不到保证。
在一个实施方式中,本申请实施例,为了进一步避免测试人员通过对测试结果分析进而接触到用户数据,利用UDF中包括的编译器和优化器并行计算实时用户数据之后,可以对并行计算的结果进行分析,并将分析结果作为对测试任务的处理结果输出,处理结果中不包括处理测试任务时所使用的实时用户数据,以避免测试人员接触到实时用户数据,避免用户数据泄漏,保证用户数据的安全性。
在一个实施方式中,为了对并行计算的结果进行分析,可以对UDF中包括的编译器进行改造,以方便测试人员在编译器中加入自定义的插件。
在一个示例中,可以将编译器改造为基于访问者visitor模型的编译器,并在编译器中加入对并行计算结果进行分析的插件。在将并行计算的计算结果作为对UDF测试请求的处理结果输出之前,由插件根据对UDF的测试结果,判断UDF中包括的编译器和优化器是否符合预设要求,并输出判定结果,也即输出编译器和优化器中的测试任务是否会引起系统故障的判定结果。其中,预设要求可以根据经验值设定,例如:测试正常的用户数据占比大于99%。
下面结合具体的系统处理流程对上述测试任务处理方法的执行过程进行说明,然而,值得注意的是,该具体实施例仅是为了更好地说明本申请,并不构成对本申请的不当限定。
从整体流程而言,如图2所示,测试任务处理方法200,可以包括以下步骤:
步骤S201,获取测试任务。
步骤S202,从用于处理实时计算任务的计算服务器集群中选择一部分服务器。
步骤S203,使用实时用户数据在选择的服务器中对测试任务进行处理。
步骤S204,输出处理结果,处理结果中不包括实时用户数据。
本申请实施例提供的测试任务处理方案,使用实时用户数据,在从用于处理实时计算任务的计算服务器集群选择服务器对测试任务处理,从而使得在对测试任务进行处理时,既能够模拟真实的运行环境,又无需搭建测试集群,避免了搭建测试集群造成的资源浪费。同时在对测试任务进行处理时,直接使用实时用户数据,且输出结果中不包括实时用户数据,既能保证处理测试任务所用用户数据的真实性,又能够避免测试人员接触实时用户数据,能够有效保证用户数据的安全性。另外,整个处理测试任务的过程在计算服务器集群中完成,无需搭建测试集群、提取用户数据、以及对用户数据脱敏等操作,大大简化了处理流程,提高了效率。
在实现的时候,上述实施例中的测试任务处理方法可以通过测试任务处理装置来实现。如图3所示,测试任务处理装置300,可以包括:
获取模块301,用于获取测试任务。
选取模块302,用于从用于处理实时计算任务的计算服务器集群中选择一部分服务器。
处理模块303,用于使用实时用户数据在选择的服务器中对测试任务进行处理。
输出模块304,用于输出处理结果,处理结果中不包括实时用户数据。
在一个实施方式中,选取模块302具体用于:从用于处理实时计算任务的计算服务器集群中选择一部分处于空闲状态的服务器。
在一个实施方式中,选取模块302具体用于:确定计算服务器集群中服务器的使用率;根据计算服务器集群中服务器的使用率,从计算服务器集群中动态选择部分或者全部处于空闲状态的服务器。
在一个实施方式中,测试任务处理装置还包括:隔离模块305,用于在计算服务器集群中,隔离用于处理实时计算任务的服务器和选择的一部分服务器。
在一个实施方式中,获取模块301具体用于:接收包含测试任务的用户自定义函数UDF测试请求;解析UDF测试请求,从解析结果中获取测试任务。
在一个实施方式中,处理模块303具体用于:在选择的服务器中,利用UDF中包括的编译器和优化器并行计算实时用户数据,以对测试任务进行处理,其中,编译器和优化器中包含测试任务。
在一个实施方式中,UDF中包括的编译器为基于访问者visitor模型的编译器。
图4示出了能够实现根据本申请实施例的测试任务处理方法和装置的计算设备的示例性硬件架构的结构图。如图4所示,计算设备400包括输入设备401、输入接口402、中央处理器403、存储器404、输出接口405、以及输出设备406。其中,输入接口402、中央处理器403、存储器404、以及输出接口405通过总线410相互连接,输入设备401和输出设备406分别通过输入接口402和输出接口405与总线410连接,进而与计算设备400的其他组件连接。
具体地,输入设备401接收来自外部的输入信息,并通过输入接口402将输入信息传送到中央处理器403;中央处理器403基于存储器404中存储的计算机可执行指令对输入信息进行处理以生成输出信息,将输出信息临时或者永久地存储在存储器404中,然后通过输出接口405将输出信息传送到输出设备406;输出设备406将输出信息输出到计算设备400的外部供用户使用。
也就是说,图4所示的计算设备也可以被实现为测试任务处理设备,该测试任务处理设备可以包括:存储有计算机可执行指令的存储器;以及处理器,该处理器在执行计算机可执行指令时可以实现结合图1-图3描述的测试任务处理方法和装置。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品或计算机可读存储介质的形式实现。所述计算机程序产品或计算机可读存储介质包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如,红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如,固态硬盘Solid State Disk(SSD))等。
另外,结合上述实施例中的测试任务处理方法,本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令;该计算机程序指令被处理器执行时实现上述实施例中的任意一种测试任务处理方法。
需要明确的是,本申请并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本申请的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本申请的精神后,作出各种改变、修改和添加,或者改变步骤之间的顺序。
还需要说明的是,本申请中提及的示例性实施例,基于一系列的步骤或者装置描述一些方法或系统。但是,本申请不局限于上述步骤的顺序,也就是说,可以按照实施例中提及的顺序执行步骤,也可以不同于实施例中的顺序,或者若干步骤同时执行。
以上所述,仅为本申请的具体实施方式,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的系统、模块和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。应理解,本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。
Claims (14)
1.一种测试任务处理方法,其特征在于,所述方法包括:
获取测试任务;
从用于处理实时计算任务的计算服务器集群中选择一部分服务器;
使用实时用户数据在选择的服务器中对所述测试任务进行处理;
输出处理结果,所述处理结果中不包括所述实时用户数据;
其中,所述从用于处理实时计算任务的计算服务器集群中选择一部分服务器,包括:
从用于处理实时计算任务的计算服务器集群中选择一部分处于空闲状态的服务器。
2.根据权利要求1所述的方法,其特征在于,所述从用于处理实时计算任务的计算服务器集群中选择一部分处于空闲状态的服务器,包括:
确定所述计算服务器集群中服务器的使用率;
根据所述计算服务器集群中服务器的使用率,从所述计算服务器集群中动态选择部分或者全部处于空闲状态的服务器。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述计算服务器集群中,隔离用于处理实时计算任务的服务器和选择的一部分服务器。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述获取测试任务,包括:
接收包含测试任务的用户自定义函数UDF测试请求;
解析所述UDF测试请求,从解析结果中获取测试任务。
5.根据权利要求4所述的方法,其特征在于,所述使用实时用户数据在选择的服务器中对所述测试任务进行处理,包括:
在选择的服务器中,利用所述UDF中包括的编译器和优化器并行计算实时用户数据,以对所述测试任务进行处理,其中,所述编译器和所述优化器中包含所述测试任务。
6.根据权利要求5所述的方法,其特征在于,所述UDF中包括的编译器为基于访问者visitor模型的编译器。
7.一种测试任务处理装置,其特征在于,包括:
获取模块,用于获取测试任务;
选取模块,用于从用于处理实时计算任务的计算服务器集群中选择一部分服务器;
处理模块,用于使用实时用户数据在选择的服务器中对所述测试任务进行处理;
输出模块,用于输出处理结果,所述处理结果中不包括所述实时用户数据;
其中,所述选取模块具体用于:从用于处理实时计算任务的计算服务器集群中选择一部分处于空闲状态的服务器。
8.根据权利要求7所述的装置,其特征在于,所述选取模块具体用于:
确定所述计算服务器集群中服务器的使用率;
根据所述计算服务器集群中服务器的使用率,从所述计算服务器集群中动态选择部分或者全部处于空闲状态的服务器。
9.根据权利要求7所述的装置,其特征在于,所述装置还包括:
隔离模块,用于在所述计算服务器集群中,隔离用于处理实时计算任务的服务器和选择的一部分服务器。
10.根据权利要求7-9中任一项所述的装置,其特征在于,所述获取模块具体用于:
接收包含测试任务的用户自定义函数UDF测试请求;
解析所述UDF测试请求,从解析结果中获取测试任务。
11.根据权利要求10所述的装置,其特征在于,所述处理模块具体用于:
在选择的服务器中,利用所述UDF中包括的编译器和优化器并行计算实时用户数据,以对所述测试任务进行处理,其中,所述编译器和所述优化器中包含所述测试任务。
12.根据权利要求11所述的装置,其特征在于,所述UDF中包括的编译器为基于访问者visitor模型的编译器。
13.一种测试任务处理设备,其特征在于,包括存储器和处理器;所述存储器用于储存有可执行程序代码;所述处理器用于读取所述存储器中存储的可执行程序代码以执行权利要求1-6中任意一项所述的方法。
14.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,当所述计算机程序指令被处理器执行时实现如权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810414745.0A CN110442508B (zh) | 2018-05-03 | 2018-05-03 | 测试任务处理方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810414745.0A CN110442508B (zh) | 2018-05-03 | 2018-05-03 | 测试任务处理方法、装置、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110442508A CN110442508A (zh) | 2019-11-12 |
CN110442508B true CN110442508B (zh) | 2023-05-23 |
Family
ID=68427679
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810414745.0A Active CN110442508B (zh) | 2018-05-03 | 2018-05-03 | 测试任务处理方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110442508B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111355611A (zh) * | 2020-02-26 | 2020-06-30 | 北京字节跳动网络技术有限公司 | 一种预案演练方法、装置以及计算机可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107566214A (zh) * | 2017-08-29 | 2018-01-09 | 微梦创科网络科技(中国)有限公司 | 一种性能测试方法和装置 |
CN107783731A (zh) * | 2017-08-07 | 2018-03-09 | 荣科科技股份有限公司 | 一种大数据实时处理方法及处理系统 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5703195B2 (ja) * | 2011-11-15 | 2015-04-15 | 株式会社日本総合研究所 | プログラムの新旧バージョンに対する差分比較テストシステム及びテスト方法 |
US20150278523A1 (en) * | 2014-03-31 | 2015-10-01 | Intuit Inc. | Method and system for testing cloud based applications and services in a production environment using segregated backend systems |
CN105512020B (zh) * | 2014-09-24 | 2018-05-04 | 阿里巴巴集团控股有限公司 | 测试方法及装置 |
CN106487775B (zh) * | 2015-09-01 | 2020-01-21 | 阿里巴巴集团控股有限公司 | 一种基于云平台的业务数据的处理方法和装置 |
CN107844410A (zh) * | 2016-09-18 | 2018-03-27 | 阿里巴巴集团控股有限公司 | 一种分布式集群系统的调试方法和装置 |
CN107301349A (zh) * | 2017-05-20 | 2017-10-27 | 北京明朝万达科技股份有限公司 | 一种数据库访问控制方法及系统 |
CN107908551A (zh) * | 2017-10-27 | 2018-04-13 | 中国平安人寿保险股份有限公司 | 终端软件测试方法、装置、终端和计算机存储介质 |
CN107861876A (zh) * | 2017-11-16 | 2018-03-30 | 平安科技(深圳)有限公司 | 测试方法、装置、计算机设备及可读存储介质 |
-
2018
- 2018-05-03 CN CN201810414745.0A patent/CN110442508B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107783731A (zh) * | 2017-08-07 | 2018-03-09 | 荣科科技股份有限公司 | 一种大数据实时处理方法及处理系统 |
CN107566214A (zh) * | 2017-08-29 | 2018-01-09 | 微梦创科网络科技(中国)有限公司 | 一种性能测试方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN110442508A (zh) | 2019-11-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106294120B (zh) | 测试代码的方法、设备和计算机程序产品 | |
CN106681811B (zh) | 基于线程池的多线程调度方法及装置 | |
US8225291B2 (en) | Automated detection of application performance bottlenecks | |
US8473789B2 (en) | Memory leak monitoring system and associated methods | |
US20170075795A1 (en) | Identifying test gaps using code execution paths | |
Ning et al. | Optimization of two-granularity software rejuvenation policy based on the Markov regenerative process | |
US9003076B2 (en) | Identifying anomalies in original metrics of a system | |
US9811447B2 (en) | Generating a fingerprint representing a response of an application to a simulation of a fault of an external service | |
CN113590454A (zh) | 测试方法、装置、计算机设备和存储介质 | |
CN110597704A (zh) | 应用程序的压力测试方法、装置、服务器和介质 | |
CN110442508B (zh) | 测试任务处理方法、装置、设备和介质 | |
TW202004533A (zh) | 針對訓練語料從詞頻表中進行負例採樣的方法及裝置 | |
US9251028B2 (en) | Managing code instrumentation in a production computer program | |
US20180285238A1 (en) | Intelligent deinstrumentation of instrumented applications | |
CN109189673B (zh) | 一种软件的测试方案、测试用例的确定方法及装置 | |
CN110716859A (zh) | 自动为修改的代码推送测试用例的方法及相关装置 | |
CN116069650A (zh) | 一种测试用例的生成方法及装置 | |
CN115220131A (zh) | 气象数据质检方法及系统 | |
US11243857B2 (en) | Executing test scripts with respect to a server stack | |
CN114338846B (zh) | 一种报文测试的方法及装置 | |
CN113849484A (zh) | 一种大数据组件升级方法、装置、电子设备及存储介质 | |
CN114328662A (zh) | 异常数据定位方法、装置、电子设备及存储介质 | |
US11036624B2 (en) | Self healing software utilizing regression test fingerprints | |
US7831879B2 (en) | Generating test coverage bin based on simulation result | |
US20170123959A1 (en) | Optimized instrumentation based on functional coverage |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |