CN111294253B - 测试数据处理方法、装置、计算机设备及存储介质 - Google Patents
测试数据处理方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN111294253B CN111294253B CN202010042554.3A CN202010042554A CN111294253B CN 111294253 B CN111294253 B CN 111294253B CN 202010042554 A CN202010042554 A CN 202010042554A CN 111294253 B CN111294253 B CN 111294253B
- Authority
- CN
- China
- Prior art keywords
- test
- group
- index
- target
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/50—Testing arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了一种测试数据处理方法、装置、计算机设备及存储介质，属于计算机技术领域。本申请通过获取目标测试的至少一个目标用户的初始测试指标，基于该至少一个目标用户的初始测试指标以及该至少一个目标用户所属的群组，确定各个群组的群组测试指标，基于各个群组的群组测试指标、各个群组所属的测试组，确定各个测试组的指标统计信息，基于各个测试组的指标统计信息，确定该目标测试的测试结果。一个群组中包括有关联关系的多个目标用户，基于各个群组的群组测试指标，确定目标测试的多个指标统计信息，基于群组维度的数据确定指标统计信息，考虑了用户之间的关联关系，提高指标统计信息计算结果的准确性，进而提高测试结果的准确性。
Description
技术领域
本申请涉及计算机技术领域，特别涉及一种测试数据处理方法、装置、计算机设备及存储介质。
背景技术
AB测试是一种收集用户数据，基于用户数据确定产品方案、市场策略等的有效方法。在进行AB测试时，通常假设参与测试的用户之间是相互独立的，对分别属于测试组和对照组的用户应用不同的测试策略，即使不同组的用户体验不同版本的产品，再基于预先制定的测试指标收集用户数据，对于各个用户数据应用标准的样本方差公式计算出测试指标的方差，进而判断不同测试策略所对应测试结果之间的差异。
在上述测试数据处理过程中，假设用户之间是相互独立的，但是在一些测试场景中，参与测试的各个用户之间并不是完全相互独立的，用户之间的行为会相互影响。在这种情况下，应用上述测试数据处理方法，会导致计算出的方差不准确，进而导致测试结果不准确。
发明内容
本申请实施例提供了一种测试数据处理方法、装置、计算机设备及存储介质，可以提高测试结果的准确性。该技术方案如下：
一方面，提供了一种测试数据处理方法，该方法包括：
获取目标测试的至少一个目标用户的初始测试指标；
基于该至少一个目标用户的该初始测试指标以及该至少一个目标用户所属的群组，确定各个该群组的群组测试指标；
基于各个该群组的群组测试指标、各个该群组所属的测试组，确定各个该测试组的指标统计信息；
基于各个该测试组的指标统计信息，确定该目标测试的测试结果。
一方面，提供了一种测试数据处理装置，该装置包括：
获取模块，用于获取目标测试的至少一个目标用户的初始测试指标；
群组测试指标确定模块，用于基于该至少一个目标用户的该初始测试指标以及该至少一个目标用户所属的群组，确定各个该群组的群组测试指标；
指标统计信息确定模块，用于基于各个该群组的群组测试指标、各个该群组所属的测试组，确定各个该测试组的指标统计信息；
测试结果确定模块，用于基于各个该测试组的指标统计信息，确定该目标测试的测试结果。
在一种可能实现方式中，该获取模块用于：
基于该测试标识，获取该目标测试关联的指标信息表，该指标信息表用于存储各个该目标用户的该初始测试指标；
基于该用户标识、该被测试业务的业务标识更新该指标信息表中的数据项；
基于该用户标识，从该指标信息表中获取该目标用户的初始测试指标。
一方面，提供了一种计算机设备，该计算机设备包括一个或多个处理器和一个或多个存储器，该一个或多个存储器中存储有至少一条程序代码，该至少一条程序代码由该一个或多个处理器加载并执行以实现该测试数据处理方法所执行的操作。
一方面，提供了一种计算机可读存储介质，该计算机可读存储介质中存储有至少一条程序代码，该至少一条程序代码由处理器加载并执行以实现该测试数据处理方法所执行的操作。
本申请实施例提供的技术方案，通过获取目标测试的至少一个目标用户的初始测试指标，基于该至少一个目标用户的该初始测试指标以及该至少一个目标用户所属的群组，确定各个该群组的群组测试指标，基于各个该群组的群组测试指标、各个该群组所属的测试组，确定各个该测试组的指标统计信息，基于各个该测试组的指标统计信息，确定该目标测试的测试结果。一个群组中包括有关联关系的多个目标用户，基于各个群组的群组测试指标，确定目标测试的多个指标统计信息，通过基于群组维度的数据确定指标统计信息，考虑了用户之间的关联关系，提高指标统计信息计算结果的准确性，进而提高测试结果的准确性。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种测试数据处理方法的实施环境示意图；
图2是本申请实施例提供的一种测试数据处理方法的流程图；
图3是本申请实施例提供的一种测试数据处过程的示意图；
图4是本申请实施例提供的一种测试数据处理方法的原理示意图；
图5是本申请实施例提供的一种测试数据处理装置的结构示意图；
图6是本申请实施例提供的一种终端的结构示意图；
图7是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施方式作进一步地详细描述。
为了便于理解本申请实施例的技术过程，下面对本申请实施例所涉及的一些名词进行解释：
群组：一个群组可以包括具有关联关系的多个用户，群组中的各个用户可以具有强关联关系，也可以具有弱关联关系。在一种可能实现方式中，可以基于社交应用程序中参与同一会话的用户构建一个群组，也可以基于具有相同兴趣方向的用户构建一个群组，本申请实施例对基于哪种关联关系构建群组不作限定。在一种可能实现方式中，该群组可以为基于用户之间的某次互动行为，组成的临时群组；也可以为基于可能进行互动的用户所组成的临时群组；也可以为社交类应用程序中已存在的群组，本申请实施例对此不作限定。在一种可能实现方式中，可以在测试开始之前，基于用户的关联关系进行群组划分；也可以在获取到用户的测试数据之后，基于用户之间的互动行为，进行群组划分，本申请实施例对群组划分的具体时间不作限定。
图1是本申请实施例提供的一种测试数据处理方法的实施环境示意图，参见图1，该实施环境可以包括计算机设备101和计算机设备102。
计算机设备101可以是参与目标测试的用户所使用的设备，计算机设备101可以安装和运行有被测试的应用程序，在一种可能实现方式中，该被测试的应用程序内可以登录有用户账号。计算机设备101可以是智能手机、台式计算机、平板电脑、MP3(Moving PictureExperts Group Audio Layer III，动态影像专家压缩标准音频层面3)播放器、MP4(MovingPicture Experts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器和膝上型便携计算机中的至少一种。
计算机设备101通过无线网络或有线网络与计算机设备102相连。
计算机设备102可以是开发侧的计算机设备，该计算机设备102可以用于处理各个用户的测试数据。计算机设备102可以为台式计算机、膝上型便携计算机、一台服务器、多台服务器、云计算平台和虚拟化中心等。
计算机设备101、计算机设备102可以泛指多个计算机设备中的一个，本实施例仅以计算机设备101、计算机设备102来举例说明。
本领域技术人员可以知晓，上述计算机设备的数量可以更多或更少。比如上述计算机设备101可以仅为一个，上述计算机设备102可以仅为一个，或者上述计算机设备101、计算机设备102分别为几十个或几百个，或者更多数量。本申请实施例对计算机设备的数量和设备类型不加以限定。
图2是本申请实施例提供的一种测试数据处理方法的流程图，该方法可以应用于上述实施环境，参见图2，该实施例具体可以包括以下步骤：
201、计算机设备获取目标测试的各个目标用户的初始测试指标。
其中，该目标测试可以是对目标应用程序中某一业务的测试，该目标测试可以包括多个测试组，不同的测试组对应于不同的测试策略，一个该测试组可以包括多个群组，一个该群组可以由多个目标用户组成，同一群组中的各个目标用户之间具有关联关系，该关联关系可以为好友关系等。以该目标测试可以为AB测试为例，该AB测试可以用于测试不同版本的目标应用程序中，该某一业务的触发次数，在该AB测试启动之前，可以基于各个目标用户之间的好友关系，将目标用户划分为多个群组，再将各个群组划分为不同的测试组，通常情况下可以划分为两个测试组，对各个测试组应用不同的测试策略，例如，可以将不同版本的目标应用程序分别下发给不同测试组的目标用户，计算机设备可以基于各个目标用户对目标用户程序的操作行为，来获取测试数据。当然，也可以在获取到目标用户的测试数据之后，再基于各个目标用户之间的关联关系或互动行为，进行群组划分，本申请实施例对此不作限定。
以在目标测试开始之前，将用户划分为多个群组为例进行说明，在本申请实施例中，计算机设备可以响应于测试数据存储请求，基于该测试数据存储请求中的用户标识、被测试业务的业务标识，更新该目标用户的初始测试指标，获取更新后的该初始测试指标。其中，该测试数据存储请求可以基于目标用户对被测试业务的触发操作触发。在一种可能实现方式中，该目标用户所使用的终端设备检测到用户触发测试逻辑，即触发被测试业务时，可以获取该目标用户的用户标识以及相应测试参数。在本申请实施例中，该相应测试参数可以为被测试业务的业务标识，一个业务标识可以用于唯一的指示一个被测试业务。该业务标识可以由开发人员进行设置，以该被测试业务设置为目标控件显示在哪一位置时，该目标控件被点击的概率最大为例，该业务标识可以设置为该目标控件的控件名称、控件标识等。该目标用户所使用的终端设备可以基于该用户标识以及该业务标识生成测试数据存储请求，将该测试数据存储请求发送至该计算机设备。
在本申请实施例中，上述初始测试指标获取过程具体可以包括以下步骤：
步骤一、该计算机设备接收到测试数据存储请求后，基于该用户标识、该被测试业务的业务标识，确定该目标用户所属群组的群组标识、该群组所属测试组的测试组标识、该目标测试的测试标识。
在一种可能实现方式中，该计算机设备可以将该用户标识、该群组标识、该测试组标识、该测试标识等信息进行存储。在一种可能实现方式中，该计算机设备可以将上述信息上报至用于存储测试数据的目标数据库中，该目标数据库中可以维护有一个如下表所示的测试命中数据表，该测试命中数据表可以用于存储命中测试的用户，即目标用户的用户信息以及命中测试的时间等，示例性的，该测试命中数据表可以如表1所示，包括目标测试的命中日期、用户标识、测试标识、测试组标识、群组标识、时间戳。
表1
| 命中日期 | 用户标识 | 测试标识 | 测试组标识 | 群组标识 | 时间戳 |
| 20190901 | 10001 | 1001 | 1 | 1 | 1567263200 |
| 20190901 | 10002 | 1001 | 1 | 2 | 1567277200 |
| 20190901 | 10003 | 1001 | 2 | 3 | 1567277800 |
步骤二、该计算机设备可以基于该测试标识，获取该目标测试关联的指标信息表，基于该用户标识、该被测试业务的业务标识更新该指标信息表中的数据项。
其中，该指标信息表用于存储各个目标用户的该初始测试指标，例如，该目标测试的测试指标设置为目标用户每天点击目标控件的次数时，该指标信息表可以存储有该目标用户每天的点击次数，各个点击次数即为该初始测试指标中的各个数据项。在一种可能实现方式中，各个测试可以与指标表信息相关联，该指标表信息可以包括指标表所在的库名、指标表的表名等，基于该指标表信息可以对目标测试的指标表进行查询。
在一种可能实现方式中，该计算机设备可以实时更新该初始测试指标。也即是，该计算机设备可以基于该测试数据存储请求中的该用户标识、业务标识，确定该初始测试指标中的数据项，对该初始测试指标进行更新。例如，该目标测试的测试指标设置为目标用户每天点击目标控件的次数时，该计算机设备可以基于该用户标识、业务标识，将当前日期所对应的数据项加一。
在一种可能实现方式中，该计算机设备可以按照目标周期对该初始测试指标进行更新。也即是该计算机设备可以按照目标周期，获取各个群组中从实验开始至当前时刻，命中试验，也即是触发被测试业务的目标用户的用户标识，生成用户标识列表。其中，该目标周期可以由开发人员进行设置，本申请实施例对此不作限定。该计算机设备可以将该目标测试的指标表信息与用户标识列表相关联，更新指标表中的各个数据项。例如，该目标测试的测试指标设置为目标用户每天点击目标控件的次数时，可以基于用户标识在该用户标识列表中的出现次数，更新指标表中的数据项。
当然，该计算机设备也可以应用其他方式更新各个用户的初始测试指标，本申请实施例对此不作限定。
步骤三、该计算机设备可以基于该用户标识，从该指标信息表中获取该目标用户的初始测试指标。
在一种可能实现方式中，该计算机设备可以获取该用户标识所指示的初始测试指标中的各个数据项。
202、计算机设备对任一目标用户的该初始试指标中各个数据项进行求和，确定各个目标用户的个人测试指标。
在一种可能实现方式中，该过程可以表示为下述公式(1)。
其中，d为正整数，d所指示的信息可以由开发人员进行设置，本申请实施例对此不作限，例如，d可以表示目标用户i命中目标测试的天数集合；PVij可以表示目标用户i在第j天的数据项的取值，j为正整数，j小于或等于d；PVi可以表示目标用户i的个人测试指标。
需要说明的是，上述对目标用户的个人测试指标获取方法的描述，仅是一种个人测试指标获取方法的示例性描述，本申请实施例对具体采用哪种个人测试指标获取方法不作限定。
203、计算机设备基于各个目标用户的个人测试指标、各个目标用户所属的群组，确定各个群组的群组测试指标。
在本申请实施例中，该计算机设备可以确定任一该群组包含的至少一个该目标用户，对任一该群组中各个目标用户的个人测试指标进行求和，得到任一该群组的群组测试指标。也即是，该计算机设备可以以群组标识为主键，确定各个群组中命中实验的用户数目以及各个用户的个人测试指标之和。在一种可能实现方式中，该群组测试指标的确定方法可以表示为下述公式(2)。
其中，PVk可以群组k的群组测试指标，k为正整数，i可以表示群组k中的任一目标用户，i为正整数，i小于或等于k，PVi可以表示目标用户i的个人测试指标。
在一种可能实现方式中，该计算机设备可以将各个群组中目标用户的用户数目和群组测试指标进行存储。在一种可能实现方式中，该计算机设备可以维护有一个如下表所示的群组指标统计表，该群组指标统计表可以用于存储各个群组的指标信息，示例性的，该群组指标统计表的结构可以如表2所示，包括目标测试的命中日期、测试标识、测试组标识、群组标识、用户数目、群组测试指标。
表2
| 命中日期 | 测试标识 | 测试组标识 | 群组标识 | 用户数目 | 群组测试指标 |
| 20190901 | 1001 | 1 | 1 | 5 | 10 |
| 20190901 | 1001 | 2 | 2 | 3 | 8 |
| 20190901 | 1001 | 3 | 3 | 2 | 6 |
需要说明的是，上述步骤202和步骤203是，基于至少一个目标用户的初始测试指标以及该至少一个目标用户所属的群组，确定各个群组的群组测试指标的步骤。在本申请实施例中，基于参与测试的目标用户之间的关联关系，进行群组划分，各个群组之间是相互独立的，得到各个群组的群组测试指标，进而基于群组测试指标确定进行后续的测试结果计算，也即是基于群组维度的数据进行后续的测试结果计算，可以避免因目标用户之间的用户行为相互影响，而导致测试结果不准确。
204、计算机设备基于各个群组的群组测试指标、各个群组所属的测试组，确定各个测试组的指标统计信息。
在一种可能实现方式中，该计算机设备可以基于Jackknife(刀切法)，计算测试组的指标统计信息。具体地，该计算机设备可以确定任一该测试组包含的至少一个该群组，基于该测试组中除任一该群组外，各个群组的群组测试指标，得到该测试组的多个测试指标均值，基于该测试组的该多个测试指标均值，确定该测试组的该指标统计信息。
在一种可能实现方式中，上述计算测试指标均值的方法可以表示为下述公式(3)。
其中，
可以表示去除群组i得到的测试指标均值，PVk可以群组k的群组测试指标，Nk可以表示群组k中目标用户的用户数目。
在一种可能实现方式中，该计算机设备可以得到多个群组测试指标，组成一个群组测试指标集合，该群组测试指标集合可以表示为下述公式(4)。
其中，
可以表示群组测试指标集合，K可以表示该目标测试所包括群组的数目，K为正整数。
在本申请实施例中，该计算机设备可以基于测试组的各个测试指标均值，得到测试组的目标均值，基于该各个测试指标均值和目标均值，确定测试组的指标统计信息。在一种可能实现方式中，上述指标统计信息的计算过程可以表示为下述公式(5)和公式(6)
其中，
可以表示测试组的目标均值；Nb可以表示群组b中目标用户的用户数目，Nb为正整数，群组b可以为该测试组中的任一群组；
可以表示去除群组b得到的测试指标均值；N的数值等于∑Nb，也即是各个群组中目标用户的用户数目之和；Var(PV)可以表示指标统计信息，在本申请实施例中，该指标统计信息Var(PV)可以为测试组对应的方差；K可以表示测试组中的群组数目，K为正整数。
需要说明的是，上述对获取测试组的指标统计信息方法的描述，仅是一种指标统计信息获取方法示例性描述，本申请实施例对具体采用哪种指标统计信息获取方法不作限定。
205、计算机设备基于各个测试组的指标统计信息，确定该目标测试的测试结果。
在一种可能实现方式中，该计算机设备可以基于各个测试组的指标统计信息进行T检验，T分布理论来计算相关的概率水平，也即是P-value的值。首先，该计算机设备可以基于T检验的计算公式，计算出统计检验量Z值，该T检验的计算公式可以表示为公式(7)。
其中，Z可以表示目标测试的统计检验量Z值，
可以表示测试组1的目标均值，
可以表示测试组2的目标均值，
可以表示测试组1的指标统计信息，即测试组1的方差，
可以表示测试组2的指标统计信息，即测试组2的方差，N1可以表示测试组1所包括的群组数目，N2可以表示测试组2所包括的群组数目。
然后，该计算机设备可以然后基于T分布确定与Z值对应的P值，即P-value的值；最后，该计算机设备可以基于P值的大小来判断测试组之间的差异度，进而确定目标测试的测试结果。在一种可能实现方式中，该计算机设备可以将P值与目标阈值进行比较，基于比较结果确定测试组之间的差异是否显著，例如，当将P值大于目标阈值时，该计算机设备可以确定测试组之间的差异显著。该计算机设备可以基于测试组之间的差异度，确定目标测试的测试结果，例如，确定应用哪一版本的目标应用程序。
图3是本申请实施例提供的一种测试数据处过程的示意图，参见图3，该方法具体可以包括群组信息上报的过程301、指标数据关联的过程302以及方差计算的过程303。参见图4，图4是本申请实施例提供的一种测试数据处理方法的原理示意图，结合图3和图4，对上述测试数据处理过程进行说明。在一种可能实现方式中，该目标测试可以包括测试组401、测试组402，该测试组401可以包括群组403和群组404，该测试组402可以包括群组405和群组406，各个测试组包括至少一个用户，当任一用户触发测试逻辑时，将该任一用户作为目标用户，该计算机设备接收到各个目标用户的测试数据存储请求后，执行群组信息上报的步骤以及指标数据关联的步骤，该计算机设备可以基于关联后的指标数据执行方差计算的步骤，具体地，该计算机设备可以基于各个群组中目标用户的指标数据，得到各个群组的群组测试指标，再基于各个群组的群组测试指标确定各个测试组的指标统计信息，进而得到测试结果。在本申请实施例中，结果群组中各个目标用户的指标信息，得到群组的指标信息，基于群组维度的数据计算指标统计信息，避免可以避免因目标用户之间相互影响，而导致指标统计信息不准确，进而影响测试结果。应用上述测试数据处理方法，可以减少测试的假阳性概率，提高测试精度，使开发人员能产生更准确的决策。
本申请实施例提供的技术方案，通过获取目标测试的至少一个目标用户的初始测试指标，基于该至少一个目标用户的该初始测试指标以及该至少一个目标用户所属的群组，确定各个群组的群组测试指标，基于各个群组的群组测试指标、各个群组所属的测试组，确定各个测试组的指标统计信息，基于各个测试组的指标统计信息，确定该目标测试的测试结果。一个群组中包括有关联关系的多个目标用户，基于各个群组的群组测试指标，确定目标测试的多个指标统计信息，通过基于群组维度的数据确定指标统计信息，考虑了用户之间的关联关系，提高指标统计信息计算结果的准确性，进而提高测试结果的准确性。
上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不再一一赘述。
图5是本申请实施例提供的一种测试数据处理装置的结构示意图，参见图5，该装置包括：
获取模块501，用于获取目标测试的至少一个目标用户的初始测试指标；
群组测试指标确定模块502，用于基于该至少一个目标用户的该初始测试指标以及该至少一个目标用户所属的群组，确定各个该群组的群组测试指标；
指标统计信息确定模块503，用于基于各个该群组的群组测试指标、各个该群组所属的测试组，确定各个该测试组的指标统计信息；
测试结果确定模块504，用于基于各个该测试组的指标统计信息，确定该目标测试的测试结果。
在一种可能实现方式中，该群组测试指标确定模块502用于：
对任一该目标用户的该初始试指标中各个数据项进行求和，确定各个该目标用户的个人测试指标；
基于各个该目标用户的个人测试指标、各个该目标用户所属的该群组，确定各个该群组的群组测试指标。
在一种可能实现方式中，该群组测试指标确定模块502用于：
确定任一该群组包含的至少一个该目标用户；
对任一该群组中各个该目标用户的个人测试指标进行求和，得到任一该群组的群组测试指标。
在一种可能实现方式中，该指标统计信息确定模块503用于：
确定任一该测试组包含的至少一个该群组；
基于该测试组中除任一该群组外，各个该群组的群组测试指标，得到该测试组的多个测试指标均值；
基于该测试组的该多个测试指标均值，确定该测试组的该指标统计信息。
在一种可能实现方式中，该获取模块501用于：
响应于测试数据存储请求，基于该测试数据存储请求中的用户标识、被测试业务的业务标识，更新该目标用户的初始测试指标，获取更新后的该初始测试指标。
在一种可能实现方式中，该装置还包括：
标识确定模块，用于基于该用户标识、该被测试业务的业务标识，确定该目标用户所属群组的群组标识、该群组所属测试组的测试组标识、该目标测试的测试标识。
在一种可能实现方式中，该获取模块501用于：
基于该测试标识，获取该目标测试关联的指标信息表，该指标信息表用于存储各个该目标用户的该初始测试指标；
基于该用户标识、该被测试业务的业务标识更新该指标信息表中的数据项；
基于该用户标识，从该指标信息表中获取该目标用户的初始测试指标。
本申请实施例提供的装置，通过获取目标测试的至少一个目标用户的初始测试指标，基于该至少一个目标用户的该初始测试指标以及该至少一个目标用户所属的群组，确定各个群组的群组测试指标，基于各个群组的群组测试指标、各个群组所属的测试组，确定各个测试组的指标统计信息，基于各个测试组的指标统计信息，确定该目标测试的测试结果。一个群组中包括有关联关系的多个目标用户，基于各个群组的群组测试指标，确定目标测试的多个指标统计信息，通过基于群组维度的数据确定指标统计信息，考虑了用户之间的关联关系，提高指标统计信息计算结果的准确性，进而提高测试结果的准确性。
需要说明的是：上述实施例提供的测试数据处理装置在测试数据处理时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的测试数据处理装置与测试数据处理方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。
上述技术方案所提供的计算机设备可以实现为终端或服务器，例如，图6是本申请实施例提供的一种终端的结构示意图。该终端600可以是：智能手机、平板电脑、MP3播放器(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端600还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常，终端600包括有：一个或多个处理器601和一个或多个存储器602。
处理器601可以包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器601可以采用DSP(Digital Signal Processing，数字信号处理)、FPGA(Field－Programmable Gate Array，现场可编程门阵列)、PLA(Programmable Logic Array，可编程逻辑阵列)中的至少一种硬件形式来实现。处理器601也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称CPU(Central ProcessingUnit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器601可以在集成有GPU(Graphics Processing Unit，图像处理器)，GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器601还可以包括AI(Artificial Intelligence，人工智能)处理器，该AI处理器用于处理有关机器学习的计算操作。
存储器602可以包括一个或多个计算机可读存储介质，该计算机可读存储介质可以是非暂态的。存储器602还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中，存储器602中的非暂态的计算机可读存储介质用于存储至少一条程序代码，该至少一条程序代码用于被处理器601所执行以实现本申请中方法实施例提供的测试数据处理方法。
在一些实施例中，终端600还可选包括有：外围设备接口603和至少一个外围设备。处理器601、存储器602和外围设备接口603之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口603相连。具体地，外围设备包括：射频电路604、显示屏605、摄像头组件606、音频电路607、定位组件608和电源609中的至少一种。
外围设备接口603可被用于将I/O(Input/Output，输入/输出)相关的至少一个外围设备连接到处理器601和存储器602。在一些实施例中，处理器601、存储器602和外围设备接口603被集成在同一芯片或电路板上；在一些其他实施例中，处理器601、存储器602和外围设备接口603中的任意一个或两个可以在单独的芯片或电路板上实现，本实施例对此不加以限定。
射频电路604用于接收和发射RF(Radio Frequency，射频)信号，也称电磁信号。射频电路604通过电磁信号与通信网络以及其他通信设备进行通信。射频电路604将电信号转换为电磁信号进行发送，或者，将接收到的电磁信号转换为电信号。可选地，射频电路604包括：天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路604可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于：城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity，无线保真)网络。在一些实施例中，射频电路604还可以包括NFC(Near Field Communication，近距离无线通信)有关的电路，本申请对此不加以限定。
显示屏605用于显示UI(User Interface，用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏605是触摸显示屏时，显示屏605还具有采集在显示屏605的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器601进行处理。此时，显示屏605还可以用于提供虚拟按钮和/或虚拟键盘，也称软按钮和/或软键盘。在一些实施例中，显示屏605可以为一个，设置终端600的前面板；在另一些实施例中，显示屏605可以为至少两个，分别设置在终端600的不同表面或呈折叠设计；在一些实施例中，显示屏605可以是柔性显示屏，设置在终端600的弯曲表面上或折叠面上。甚至，显示屏605还可以设置成非矩形的不规则图形，也即异形屏。显示屏605可以采用LCD(LiquidCrystal Display，液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件606用于采集图像或视频。可选地，摄像头组件606包括前置摄像头和后置摄像头。通常，前置摄像头设置在终端的前面板，后置摄像头设置在终端的背面。在一些实施例中，后置摄像头为至少两个，分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种，以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality，虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中，摄像头组件606还可以包括闪光灯。闪光灯可以是单色温闪光灯，也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合，可以用于不同色温下的光线补偿。
音频电路607可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波，并将声波转换为电信号输入至处理器601进行处理，或者输入至射频电路604以实现语音通信。出于立体声采集或降噪的目的，麦克风可以为多个，分别设置在终端600的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器601或射频电路604的电信号转换为声波。扬声器可以是传统的薄膜扬声器，也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时，不仅可以将电信号转换为人类可听见的声波，也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中，音频电路607还可以包括耳机插孔。
定位组件608用于定位终端600的当前地理位置，以实现导航或LBS(LocationBased Service，基于位置的服务)。定位组件608可以是基于美国的GPS(GlobalPositioning System，全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
电源609用于为终端600中的各个组件进行供电。电源609可以是交流电、直流电、一次性电池或可充电电池。当电源609包括可充电电池时，该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中，终端600还包括有一个或多个传感器610。该一个或多个传感器610包括但不限于：加速度传感器611、陀螺仪传感器612、压力传感器613、指纹传感器614、光学传感器615以及接近传感器616。
加速度传感器611可以检测以终端600建立的坐标系的三个坐标轴上的加速度大小。比如，加速度传感器611可以用于检测重力加速度在三个坐标轴上的分量。处理器601可以根据加速度传感器611采集的重力加速度信号，控制显示屏605以横向视图或纵向视图进行用户界面的显示。加速度传感器611还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器612可以检测终端600的机体方向及转动角度，陀螺仪传感器612可以与加速度传感器611协同采集用户对终端600的3D动作。处理器601根据陀螺仪传感器612采集的数据，可以实现如下功能：动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器613可以设置在终端600的侧边框和/或显示屏605的下层。当压力传感器613设置在终端600的侧边框时，可以检测用户对终端600的握持信号，由处理器601根据压力传感器613采集的握持信号进行左右手识别或快捷操作。当压力传感器613设置在显示屏605的下层时，由处理器601根据用户对显示屏605的压力操作，实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器614用于采集用户的指纹，由处理器601根据指纹传感器614采集到的指纹识别用户的身份，或者，由指纹传感器614根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时，由处理器601授权该用户执行相关的敏感操作，该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器614可以被设置终端600的正面、背面或侧面。当终端600上设置有物理按键或厂商Logo时，指纹传感器614可以与物理按键或厂商Logo集成在一起。
光学传感器615用于采集环境光强度。在一个实施例中，处理器601可以根据光学传感器615采集的环境光强度，控制显示屏605的显示亮度。具体地，当环境光强度较高时，调高显示屏605的显示亮度；当环境光强度较低时，调低显示屏605的显示亮度。在另一个实施例中，处理器601还可以根据光学传感器615采集的环境光强度，动态调整摄像头组件606的拍摄参数。
接近传感器616，也称距离传感器，通常设置在终端600的前面板。接近传感器616用于采集用户与终端600的正面之间的距离。在一个实施例中，当接近传感器616检测到用户与终端600的正面之间的距离逐渐变小时，由处理器601控制显示屏605从亮屏状态切换为息屏状态；当接近传感器616检测到用户与终端600的正面之间的距离逐渐变大时，由处理器601控制显示屏605从息屏状态切换为亮屏状态。
本领域技术人员可以理解，图6中示出的结构并不构成对终端600的限定，可以包括比图示更多或更少的组件，或者组合某些组件，或者采用不同的组件布置。
图7是本申请实施例提供的一种服务器的结构示意图，该服务器700可因配置或性能不同而产生比较大的差异，可以包括一个或多个处理器(Central Processing Units，CPU)701和一个或多个的存储器702，其中，该一个或多个存储器702中存储有至少一条程序代码，该至少一条程序代码由该一个或多个处理器701加载并执行以实现上述各个方法实施例提供的方法。当然，该服务器700还可以具有有线或无线网络接口、键盘以及输入输出接口等部件，以便进行输入输出，该服务器700还可以包括其他用于实现设备功能的部件，在此不做赘述。
在示例性实施例中，还提供了一种计算机可读存储介质，例如包括至少一条程序代码的存储器，上述至少一条程序代码可由处理器执行以完成上述实施例中的测试数据处理方法。例如，该计算机可读存储介质可以是只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory，RAM)、只读光盘(Compact Disc Read-Only Memory，CD-ROM)、磁带、软盘和光数据存储设备等。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来至少一条程序代码相关的硬件完成，该程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。
上述仅为本申请的可选实施例，并不用以限制本申请，凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。
Claims (13)
1.一种测试数据处理方法，其特征在于，所述方法包括：
获取目标测试的至少一个目标用户的初始测试指标；
基于所述至少一个目标用户的所述初始测试指标以及所述至少一个目标用户所属的群组，确定各个所述群组的群组测试指标，同一所述群组中的各个目标用户之间具有关联关系；
确定任一测试组包含的至少一个所述群组，基于所述测试组中除任一所述群组外，各个所述群组的群组测试指标，得到所述测试组的多个测试指标均值；基于所述测试组的所述多个测试指标均值，确定所述测试组的指标统计信息；
基于各个所述测试组的指标统计信息，确定所述目标测试的测试结果。
2.根据权利要求1所述的方法，其特征在于，所述基于所述至少一个目标用户的所述初始测试指标以及所述至少一个目标用户所属的群组，确定各个所述群组的群组测试指标，包括：
对任一所述目标用户的所述初始测试指标中各个数据项进行求和，确定各个所述目标用户的个人测试指标；
基于各个所述目标用户的个人测试指标、各个所述目标用户所属的所述群组，确定各个所述群组的群组测试指标。
3.根据权利要求2所述的方法，其特征在于，所述基于各个所述目标用户的个人测试指标、各个所述目标用户所属的所述群组，确定各个所述群组的群组测试指标，包括：
确定任一所述群组包含的至少一个所述目标用户；
对任一所述群组中各个所述目标用户的个人测试指标进行求和，得到任一所述群组的群组测试指标。
4.根据权利要求1所述的方法，其特征在于，所述获取目标测试的至少一个目标用户的初始测试指标，包括：
响应于测试数据存储请求，基于所述测试数据存储请求中的用户标识、被测试业务的业务标识，更新所述目标用户的初始测试指标，获取更新后的所述初始测试指标。
5.根据权利要求4所述的方法，其特征在于，所述响应于测试数据存储请求之后，所述方法还包括：
基于所述用户标识、所述被测试业务的业务标识，确定所述目标用户所属群组的群组标识、所述群组所属测试组的测试组标识、所述目标测试的测试标识。
6.根据权利要求5所述的方法，其特征在于，所述基于所述测试数据存储请求中的用户标识、被测试业务的业务标识，更新所述目标用户的初始测试指标，获取更新后的所述初始测试指标，包括：
基于所述测试标识，获取所述目标测试关联的指标信息表，所述指标信息表用于存储各个所述目标用户的所述初始测试指标；
基于所述用户标识、所述被测试业务的业务标识更新所述指标信息表中的数据项；
基于所述用户标识，从所述指标信息表中获取所述目标用户的初始测试指标。
7.一种测试数据处理装置，其特征在于，所述装置包括：
获取模块，用于获取目标测试的至少一个目标用户的初始测试指标；
群组测试指标确定模块，用于基于所述至少一个目标用户的所述初始测试指标以及所述至少一个目标用户所属的群组，确定各个所述群组的群组测试指标，同一所述群组中的各个目标用户之间具有关联关系；
指标统计信息确定模块，用于基于各个所述群组的群组测试指标、各个所述群组所属的测试组，确定各个所述测试组的指标统计信息；
测试结果确定模块，用于基于各个所述测试组的指标统计信息，确定所述目标测试的测试结果；
其中，所述基于各个所述群组的群组测试指标、各个所述群组所属的测试组，确定各个所述测试组的指标统计信息包括：
确定任一所述测试组包含的至少一个所述群组，基于所述测试组中除任一所述群组外，各个所述群组的群组测试指标，得到所述测试组的多个测试指标均值；基于所述测试组的所述多个测试指标均值，确定所述测试组的所述指标统计信息。
8.根据权利要求7所述的装置，其特征在于，所述群组测试指标确定模块用于：
对任一所述目标用户的所述初始测试指标中各个数据项进行求和，确定各个所述目标用户的个人测试指标；
基于各个所述目标用户的个人测试指标、各个所述目标用户所属的所述群组，确定各个所述群组的群组测试指标。
9.根据权利要求8所述的装置，其特征在于，所述群组测试指标确定模块用于：
确定任一所述群组包含的至少一个所述目标用户；
对任一所述群组中各个所述目标用户的个人测试指标进行求和，得到任一所述群组的群组测试指标。
10.根据权利要求7所述的装置，其特征在于，所述获取模块用于：
响应于测试数据存储请求，基于所述测试数据存储请求中的用户标识、被测试业务的业务标识，更新所述目标用户的初始测试指标，获取更新后的所述初始测试指标。
11.根据权利要求10所述的装置，其特征在于，所述装置还包括：
标识确定模块，用于基于所述用户标识、所述被测试业务的业务标识，确定所述目标用户所属群组的群组标识、所述群组所属测试组的测试组标识、所述目标测试的测试标识。
12.一种计算机设备，其特征在于，所述计算机设备包括一个或多个处理器和一个或多个存储器，所述一个或多个存储器中存储有至少一条程序代码，所述至少一条程序代码由所述一个或多个处理器加载并执行以实现如权利要求1至权利要求6任一项所述的测试数据处理方法所执行的操作。
13.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有至少一条程序代码，所述至少一条程序代码由处理器加载并执行以实现如权利要求1至权利要求6任一项所述的测试数据处理方法所执行的操作。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010042554.3A CN111294253B (zh) | 2020-01-15 | 2020-01-15 | 测试数据处理方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010042554.3A CN111294253B (zh) | 2020-01-15 | 2020-01-15 | 测试数据处理方法、装置、计算机设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111294253A CN111294253A (zh) | 2020-06-16 |
| CN111294253B true CN111294253B (zh) | 2022-03-04 |
Family
ID=71018620
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010042554.3A Active CN111294253B (zh) | 2020-01-15 | 2020-01-15 | 测试数据处理方法、装置、计算机设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111294253B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117056239B (zh) * | 2023-10-11 | 2024-01-30 | 腾讯科技（深圳）有限公司 | 测试功能使用特征的确定方法、装置、设备及存储介质 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9665885B1 (en) * | 2016-08-29 | 2017-05-30 | Metadata, Inc. | Methods and systems for targeted demand generation based on ideal customer profiles |
| WO2019143543A2 (en) * | 2018-01-21 | 2019-07-25 | Microsoft Technology Licensing, Llc | Dynamic experimentation evaluation system |
Family Cites Families (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8160909B2 (en) * | 2007-02-06 | 2012-04-17 | Digital River, Inc. | Site optimizer |
| US20150046251A1 (en) * | 2013-08-08 | 2015-02-12 | Monica C. Smith | Methods and systems for analyzing key performance metrics |
| US20150227962A1 (en) * | 2014-02-11 | 2015-08-13 | Sears Brands, L.L.C. | A/b testing and visualization |
| US20160125749A1 (en) * | 2014-10-30 | 2016-05-05 | Linkedin Corporation | User interface for a/b testing |
| CN104601670A (zh) * | 2014-12-25 | 2015-05-06 | 微梦创科网络科技（中国）有限公司 | 一种用户兴趣对象验证方法及装置 |
| CN105354725A (zh) * | 2015-11-20 | 2016-02-24 | 珠海多玩信息技术有限公司 | 一种应用推广效果的预测方法及系统 |
| US10142702B2 (en) * | 2015-11-30 | 2018-11-27 | International Business Machines Corporation | System and method for dynamic advertisements driven by real-time user reaction based AB testing and consequent video branching |
| US20170316432A1 (en) * | 2016-04-27 | 2017-11-02 | Linkedin Corporation | A/b testing on demand |
| US10769532B2 (en) * | 2017-04-05 | 2020-09-08 | Accenture Global Solutions Limited | Network rating prediction engine |
| CN107402881A (zh) * | 2017-04-14 | 2017-11-28 | 阿里巴巴集团控股有限公司 | 一种项目测试的选取方法及装置 |
| US11227256B2 (en) * | 2017-08-15 | 2022-01-18 | Verizon Media Inc. | Method and system for detecting gaps in data buckets for A/B experimentation |
| US20190057118A1 (en) * | 2017-08-15 | 2019-02-21 | Yahoo Holdings, Inc. | Method and System for Detecting Data Bucket Inconsistencies for A/B Experimentation |
| US11240324B2 (en) * | 2017-10-19 | 2022-02-01 | Content Square Israel Ltd. | System and method analyzing actual behavior of website visitors |
| CN110347905B (zh) * | 2018-03-07 | 2023-05-16 | 阿里巴巴集团控股有限公司 | 确定信息关联度、信息推荐的方法、装置和存储介质 |
| CN108415845B (zh) * | 2018-03-28 | 2019-05-31 | 北京达佳互联信息技术有限公司 | Ab测试系统指标置信区间的计算方法、装置和服务器 |
| CN110033342A (zh) * | 2019-01-30 | 2019-07-19 | 阿里巴巴集团控股有限公司 | 一种推荐模型的训练方法及装置、一种推荐方法及装置 |
-
2020
- 2020-01-15 CN CN202010042554.3A patent/CN111294253B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9665885B1 (en) * | 2016-08-29 | 2017-05-30 | Metadata, Inc. | Methods and systems for targeted demand generation based on ideal customer profiles |
| WO2019143543A2 (en) * | 2018-01-21 | 2019-07-25 | Microsoft Technology Licensing, Llc | Dynamic experimentation evaluation system |
Non-Patent Citations (5)
| Title |
|---|
| A/B测试原理在新闻生产中的运用及其对新闻业融合转型的潜在影响;张梓轩等;《中国出版》;20171223(第24期);全文 * |
| A/B测试在软件项目开发中的应用探析;张如云;《电脑开发与应用》;20140525(第5期);全文 * |
| Enabling Adaptability in Web Forms Based on User Characteristics Detection Through A/B Testing and Machine Learning;Juan Cruz-Benito等;《IEEE Access》;20171227;第6卷;全文 * |
| 互联网推荐系统研究综述;阮光册等;《情报学报》;20150924(第09期);全文 * |
| 分级网格服务的Apache ab测试分析;赵佳等;《电子设计工程》;20090305(第03期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111294253A (zh) | 2020-06-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110262947B (zh) | 阈值告警方法、装置、计算机设备及存储介质 | |
| CN109117635B (zh) | 应用程序的病毒检测方法、装置、计算机设备及存储介质 | |
| CN111338910B (zh) | 日志数据处理、显示方法、装置、设备及存储介质 | |
| CN111104980B (zh) | 确定分类结果的方法、装置、设备及存储介质 | |
| CN111078521A (zh) | 异常事件的分析方法、装置、设备、系统及存储介质 | |
| CN111062824B (zh) | 群组成员处理方法、装置、计算机设备及存储介质 | |
| CN110765182B (zh) | 数据统计方法、装置、电子设备及存储介质 | |
| CN112052354A (zh) | 视频推荐方法、视频展示方法、装置及计算机设备 | |
| CN114154068A (zh) | 媒体内容推荐方法、装置、电子设备及存储介质 | |
| CN110929159B (zh) | 资源投放方法、装置、设备及介质 | |
| CN110166275B (zh) | 信息处理方法、装置及存储介质 | |
| CN112529871A (zh) | 评价图像的方法、装置及计算机存储介质 | |
| CN111294253B (zh) | 测试数据处理方法、装置、计算机设备及存储介质 | |
| CN112699268A (zh) | 训练评分模型的方法、设备及存储介质 | |
| CN110990728B (zh) | 兴趣点信息的管理方法、装置、设备及存储介质 | |
| CN111563201A (zh) | 内容推送方法、装置、服务器及存储介质 | |
| CN112001442A (zh) | 特征检测方法、装置、计算机设备及存储介质 | |
| CN111159551B (zh) | 用户生成内容的显示方法、装置及计算机设备 | |
| CN113408809A (zh) | 汽车的设计方案评价方法、装置及计算机存储介质 | |
| CN112132472A (zh) | 资源管理方法、装置、电子设备及计算机可读存储介质 | |
| CN111523876A (zh) | 支付方式的显示方法、装置、系统及存储介质 | |
| CN111539794A (zh) | 凭证信息的获取方法、装置、电子设备及存储介质 | |
| CN114071119B (zh) | 资源的测试方法、装置、电子设备及存储介质 | |
| CN112053192B (zh) | 用户质量的确定方法、装置、服务器、终端、介质及产品 | |
| CN111753154B (zh) | 用户数据处理方法、装置、服务器及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40024677 Country of ref document: HK |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |