CN116340142A - 一种ab测试分流的实现方法 - Google Patents
一种ab测试分流的实现方法 Download PDFInfo
- Publication number
- CN116340142A CN116340142A CN202310045657.9A CN202310045657A CN116340142A CN 116340142 A CN116340142 A CN 116340142A CN 202310045657 A CN202310045657 A CN 202310045657A CN 116340142 A CN116340142 A CN 116340142A
- Authority
- CN
- China
- Prior art keywords
- test
- layer
- flow
- sub
- bucket
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3684—Test management for test design, e.g. generating new test cases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3688—Test management for test execution, e.g. scheduling of test suites
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明提供一种AB测试分流的实现方法,包括以下步骤:在AB测试平台中,采用分桶模式,将每个试验层中上线试验分配的流量和分桶进行关联绑定;AB测试平台采用分流算法,确定移动端App的试验配置信息。本发明提供一种AB测试分流的实现方法,在AB测试平台中,在同一个试验层下其它试验流量发生改变的情况下,本发明提供的分流方法能够确保同一个设备ID在分流计算后落入试验的流量是不变的,保证用户在试验过程中环境的稳定性,不随其它试验流量的突变影响终端的体验。
Description
技术领域
本发明属于AB测试优化技术领域,具体涉及一种AB测试分流的实现方法。
背景技术
现有AB测试过程中,经常会面临以下问题:产品在版本迭代的过程中,需要对方案进行决策,例如对移动端App或网页端某个按钮的icon做替换时,选择用新的icon还是继续用旧的icon,按钮位置位于左边还是右边等。因此,需要在AB测试平台进行试验,AB测试平台创建试验并且给试验分配一定比例的流量,初始时试验能够正常的执行,即分配给试验的流量,能够使用户正常按照试验中设置的icon展示。但是,由于同一个试验层下其它试验流量的调整或试验的下线,导致该试验流量窗口占比也会相应发生改变,原本落入该试验的App用户发生了偏移,造成部分用户在试验过程中产生环境的不稳定性,会随其它试验流量的突变影响终端的体验。
发明内容
针对现有技术存在的缺陷,本发明提供一种AB测试分流的实现方法,可有效解决上述问题。
本发明采用的技术方案如下:
本发明提供一种AB测试分流的实现方法,包括以下步骤:
步骤1,在AB测试平台中,采用分桶模式,将每个试验层中上线试验分配的流量和分桶进行关联绑定,包括:
步骤1.1,在AB测试平台中,创建n个试验层,每个试验层具有试验层ID;
步骤1.2,对于每个试验层,表示为试验层Layeri,i=1,2,…,n,均执行步骤1.3-步骤1.5;
步骤1.3,初始化试验层Layeri:
设置试验层Layeri可分配的流量总量为100份,初始化生成100个分桶,即:分桶总数量与试验层Layeri可分配的流量总量份数相同;每个分桶初始桶状态为未占用状态;100个分桶的桶索引位置分别为:0,1,…,99;
步骤1.4,在试验层Layeri上线m个试验,每个试验表示为试验testij,j=1,2,…,m,确定分配给试验testij的流量份数为Cij,并将相同数量的状态为未占用状态的分桶绑定给该试验testij,此时绑定给该试验testij的各个分桶的桶状态更新为占用状态,并在每个分桶的数据结构内记录绑定的试验testij的试验ID;同一试验层Layeri上线的所有试验所绑定的分桶数量最大值为100个;
对于试验层Layeri中每个试验testij,将其所分配的总流量作为整体,进一步划分为100份,100份流量份数的标识分别为:0,1,…,99;进一步配置试验testij具有k个试验组group,确定分配给每个试验组group的流量份数区间;其中,各个试验组group的流量份数区间合并后形成流量份数为100;
步骤1.5,将试验层ID,每个试验层Layeri的分桶信息、试验层Layeri中每个试验testij的试验组group的流量份数区间存储到缓存;其中,分桶信息包括:桶状态、桶索引位置以及绑定的试验ID;
步骤2,AB测试平台采用分流算法,确定移动端App的试验配置信息,包括:
步骤2.1,移动端App具有设备ID;移动端App将携带设备ID的试验配置请求发送给AB测试平台;
步骤2.2,AB测试平台依次遍历每个试验层Layeri,得到该移动端App在每个试验层Layeri的试验配置信息;因此,所有试验层Layeri的试验配置信息形成该移动端App在AB测试平台的总试验配置信息;
其中,对于任意试验层Layeri,采用以下方法,得到移动端App在试验层Layeri的试验配置信息:
步骤2.2.1,AB测试平台将设备ID和试验层Layeri的试验层ID进行组装拼接,得到拼接字符串;
步骤2.2.2,对拼接字符串进行哈希hash计算,得到哈希值;对哈希值按10000进行取模计算,再取绝对值,得到余数z;
步骤2.2.3,试验层Layeri中试验确定过程:
对余数z进行除100后的取整数运算,得到数值f1;数值f1即为初始确定的该移动端App在当前试验层Layeri分配的分桶索引位置;
查找缓存,校验当前试验层Layeri中分桶索引位置为数值f1的分桶的桶状态是否为占用状态,如果为否,则表明该分桶没有被相关试验所绑定,则结束对本层试验层Layeri的试验配置信息确定流程;如果为是,则该分桶已绑定的试验ID所对应的试验,即为在试验层Layeri中确定对移动端App进行的试验;
步骤2.2.4,试验中试验组的确定过程:
对余数z按100进行取模计算,得到数值f2;
在步骤2.2.3确定的试验的各个试验组所对应的流量份数区间中,包含数值f2的流量份数区间所对应的试验组,即为确定的试验组;
由此完成移动端App在试验层Layeri的试验配置信息,所述试验配置信息即为在试验层Layeri中确定的试验,以及在确定的试验中确定的试验组。
优选的,当某个试验在试验层Layeri下线时,释放该试验所绑定的流量,方法为:对该试验关联绑定的分桶的信息进行更新,包括:将分桶的状态更新为未占用状态,同时,将分桶绑定的设备ID置为空值,并更新缓存。
优选的,步骤2.1具体为:
移动端App读取运行该移动端App的移动端设备的设备ID,通过SDK提供的接口,将设备ID发送给AB测试平台的分流接口。
优选的,步骤2.1和步骤2.2之间,还包括:
AB测试平台接收到来自于移动端App的设备ID后,校验设备ID是否有效,如果无效,则结束对该移动端App的分流流程;如果有效,则再继续执行步骤2.2。
本发明提供的一种AB测试分流的实现方法具有以下优点:
本发明提供一种AB测试分流的实现方法,在AB测试平台中,在同一个试验层下其它试验流量发生改变的情况下,本发明提供的分流方法能够确保同一个设备ID在分流计算后落入试验的流量是不变的,保证用户在试验过程中环境的稳定性,不随其它试验流量的突变影响终端的体验。
附图说明
图1为本发明提供的一种AB测试分流的实现方法的流程示意图;
图2为本发明提供的一种AB测试分流的实现方法的原理图。
具体实施方式
为了使本发明所解决的技术问题、技术方案及有益效果更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
本发明提供一种AB测试分流的实现方法,在AB测试平台中,在同一个试验层下其它试验流量发生改变的情况下,本发明提供的分流方法能够确保同一个设备ID在分流计算后落入试验的流量是不变的,保证用户在试验过程中环境的稳定性,不随其它试验流量的突变影响终端的体验。
参考图1,本发明提供一种AB测试分流的实现方法,包括以下步骤:
步骤1,在AB测试平台中,采用分桶模式,将每个试验层中上线试验分配的流量和分桶进行关联绑定,包括:
步骤1.1,在AB测试平台中,创建n个试验层,每个试验层具有试验层ID;
步骤1.2,对于每个试验层,表示为试验层Layeri,i=1,2,…,n,均执行步骤1.3-步骤1.5;
步骤1.3,初始化试验层Layeri:
AB测试平台中的每个试验层Layeri创建后,都需要进行一次分桶数据初始化过程。初始化方法为:设置试验层Layeri可分配的流量总量为100份,初始化生成100个分桶,即:分桶总数量与试验层Layeri可分配的流量总量份数相同;每个分桶初始桶状态为未占用状态;100个分桶的桶索引位置分别为:0,1,…,99;
因此,对于每个试验层Layeri,将流量和分桶进行关联,采用分桶的模式表示可分配流量。
步骤1.4,在试验层Layeri上线m个试验,每个试验表示为试验testij,j=1,2,…,m,确定分配给试验testij的流量份数为Cij,并将相同数量的状态为未占用状态的分桶绑定给该试验testij,此时绑定给该试验testij的各个分桶的桶状态更新为占用状态,并在每个分桶的数据结构内记录绑定的试验testij的试验ID;同一试验层Layeri上线的所有试验所绑定的分桶数量最大值为100个;
例如,结合图2,试验层Layer1当前共上线3个试验,分别为试验A、试验B和试验C,试验层Layer1可分配的流量总量为100份,分配给试验A、试验B和试验C的流量份数分别为:30份,30份和40份。因此,试验A绑定0-29索引位置的分桶,试验B绑定30-59索引位置的分桶,试验C绑定60-99索引位置的分桶。也就是说,对于每个上线的试验,根据分配给该试验的流量份数,分配相应数量的分桶。
本发明中,在AB测试平台中上线的试验会立即将流量与分桶进行关联绑定,例如试验配置的流量为30份,则分配相应的30个分桶与试验进行关联绑定,试验层总的可分配流量也会对应减少30份。
对于试验层Layeri中每个试验testij,将其所分配的总流量作为整体,进一步划分为100份,100份流量份数的标识分别为:0,1,…,99;进一步配置试验testij具有k个试验组group,确定分配给每个试验组group的流量份数区间;其中,各个试验组group的流量份数区间合并后形成流量份数为100;
例如,仍然结合图2,对于试验A,共包括3个试验组,分别为:试验组1、试验组2和试验组3。分配给试验组1、试验组2和试验组3的流量比分别为:40%、30%和30%,因此,分配给试验组1、试验组2和试验组3的流量份数区间分别为:0,1,…,39,40,41,…,69,70,71,…,99。
当某个试验在试验层Layeri下线时,释放该试验所绑定的流量,方法为:对该试验关联绑定的分桶的信息进行更新,包括:将分桶的状态更新为未占用状态,同时,将分桶绑定的设备ID置为空值,并更新缓存。
本发明中,同一个试验层下,多个试验之间共同分配使用试验层的流量,试验之间分配的流量互斥,例如在同一试验层下,上线的试验流量已消耗30%,则新创建的试验最多只可使用70%流量,以此类推。对于试验层中操作下线的试验,其绑定的流量也会随着试验下线释放掉,试验流量关联绑定的分桶状态也会立即更新成未占用状态0。并且在AB测试平台上操作的试验上线和试验下线都会立即刷新缓存数据,保证分流算法的准确性。
步骤1.5,将试验层ID,每个试验层Layeri的分桶信息、试验层Layeri中每个试验testij的试验组group的流量份数区间存储到缓存;其中,分桶信息包括:桶状态、桶索引位置以及绑定的试验ID;
本发明中,每个分桶的数据结构包括:桶状态,桶索引位置和试验ID三部分。其中,桶状态包括占用状态和未占用状态,未占用状态表明该分桶未被某个上线试验绑定,可用0表示。占用状态表明该分桶已被某个上线试验绑定,可用1表示。通过分流算法计算得到的桶索引位置后,通过分桶的数据结构,可进一步获取到桶状态以及绑定的试验ID。
步骤2,AB测试平台采用分流算法,确定移动端App的试验配置信息,包括:
步骤2.1,移动端App具有设备ID;移动端App将携带设备ID的试验配置请求发送给AB测试平台;
本步骤具体为:
移动端App读取运行该移动端App的移动端设备的设备ID,通过SDK提供的接口,将设备ID发送给AB测试平台的分流接口。
步骤2.1和步骤2.2之间,还包括:AB测试平台接收到来自于移动端App的设备ID后,校验设备ID是否有效,如果无效,则结束对该移动端App的分流流程;如果有效,则再继续执行步骤2.2。
步骤2.2,AB测试平台依次遍历每个试验层Layeri,得到该移动端App在每个试验层Layeri的试验配置信息;因此,所有试验层Layeri的试验配置信息形成该移动端App在AB测试平台的总试验配置信息;
其中,对于任意试验层Layeri,采用以下方法,得到移动端App在试验层Layeri的试验配置信息:
步骤2.2.1,AB测试平台将设备ID和试验层Layeri的试验层ID进行组装拼接,得到拼接字符串;
例如,设备ID为12345,试验层Layer1的试验层ID为90012,则拼接字符串为:1234590012。
由于不同试验层的试验层ID不同,因此,同一个设备ID在不同试验层的拼接字符串不同,由此保证后续步骤的哈希值等运算结果的不同,体现不同试验层的差异性。
步骤2.2.2,对拼接字符串进行哈希hash计算,得到哈希值;对哈希值按10000进行取模计算,再取绝对值,得到余数z;计算公式:abs(hash(设备ID+试验层ID)%10000);abs为取绝对值的运算符。
步骤2.2.3,试验层Layeri中试验确定过程:
对余数z进行除100后的取整数运算,除数100是整个试验层下的分桶总数,得到数值f1;数值f1即为初始确定的该移动端App在当前试验层Layeri分配的分桶索引位置;计算公式:abs(hash(设备ID+试验层ID)%10000)/100;采用此种计算方法,可保证设备ID经计算后得到0到99区间中的一个数值,只要试验中分配的流量没有减少,即试验流量绑定的分桶数量没有减少,则这个设备ID分流计算后必定会落入到该试验中。
查找缓存,校验当前试验层Layeri中分桶索引位置为数值f1的分桶的桶状态是否为占用状态,如果为否,则表明该分桶没有被相关试验所绑定,则结束对本层试验层Layeri的试验配置信息确定流程;如果为是,则该分桶已绑定的试验ID所对应的试验,即为在试验层Layeri中确定对移动端App进行的试验;本发明中,桶的状态表示该分桶是否被上线试验分配的流量关联绑定,分桶的状态主要有两种,分别是0和1,其中状态0表示桶未被上线的试验流量关联绑定,为未占用状态;1则表示分桶已被上线的试验流量关联绑定,为占用状态。
在得到分桶索引位置后,可以从分桶数据中获取绑定的试验ID,即该移动端App用户落入的试验,例如:分桶索引位置结果为32,本试验层下有三个试验,试验1、2、3流量分配分别为30、30、40,则分桶索引位置对应流量绑定的试验为试验2,通过得到的试验ID可以进一步获取该试验下配置的各个试验组信息,包括试验组分配的流量,试验组配置的变量值等。
本发明中,为了提高AB测试分流算法的运算性能,将分流算法计算相关的试验信息存入缓存中,包括试验层、试验、各个试验组信息,从而减少数据查询过程中的时间消耗。
步骤2.2.4,试验中试验组的确定过程:
对余数z按100进行取模计算,模值100代表试验下的试验组流量总份数,得到数值f2;
在步骤2.2.3确定的试验的各个试验组所对应的流量份数区间中,包含数值f2的流量份数区间所对应的试验组,即为确定的试验组;计算公式:abs(hash(设备ID+试验层ID)%10000)%100。
如图2,试验中设置三个试验组分别为试验组1、试验组2、试验组3,流量分配为40%、30%、30%,取模100运算结果为41,则最终会命中到试验组2。
由此完成移动端App在试验层Layeri的试验配置信息,所述试验配置信息即为在试验层Layeri中确定的试验,以及在确定的试验中确定的试验组。
本发明中,AB测试平台设置多个试验层,对于每个试验层,通过对设备ID分流运算的处理,可以得到设备ID在一个试验层中落入的试验信息和试验组信息,依次遍历所有的试验层重复分流运算逻辑,最终得到移动端App在AB测试平台上触发的所有试验信息。
本发明提供一种AB测试分流的实现方法,具有以下特点:
本发明的分流算法目的是将线上的App用户按照固定的流量比例分配到不同试验中,并且能够一直保持试验的流量和用户的分配关系,以此来避免因其它试验流量的突变影响终端的体验问题,所以将试验层下的试验流量和分桶进行关联绑定,并且使用hash取模的方式将一个App用户固定在0到99的区间中,这样只要对应试验的流量(分桶)区间没有减少,则这个App用户和试验的关系就不会改变,这个App用户通过分流算法计算后必定还是会落入到该试验。
本发明提供一种AB测试分流的实现方法,具有以下优点:
在对同一个设备ID分流计算时,只要试验中分配的流量没有减少,即试验流量绑定的分桶没有减少,则这个设备ID分流计算后必定会落入到该试验。本发明提供的分流方法能够确保同一个设备ID在分流计算后落入试验的流量是不变的,保证用户在试验过程中环境的稳定性,不随其它试验流量的突变影响终端的体验。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视本发明的保护范围。
Claims (4)
1.一种AB测试分流的实现方法,其特征在于,包括以下步骤:
步骤1,在AB测试平台中,采用分桶模式,将每个试验层中上线试验分配的流量和分桶进行关联绑定,包括:
步骤1.1,在AB测试平台中,创建n个试验层,每个试验层具有试验层ID;
步骤1.2,对于每个试验层,表示为试验层Layeri,i=1,2,…,n,均执行步骤1.3-步骤1.5;
步骤1.3,初始化试验层Layeri:
设置试验层Layeri可分配的流量总量为100份,初始化生成100个分桶,即:分桶总数量与试验层Layeri可分配的流量总量份数相同;每个分桶初始桶状态为未占用状态;100个分桶的桶索引位置分别为:0,1,…,99;
步骤1.4,在试验层Layeri上线m个试验,每个试验表示为试验testij,j=1,2,…,m,确定分配给试验testij的流量份数为Cij,并将相同数量的状态为未占用状态的分桶绑定给该试验testij,此时绑定给该试验testij的各个分桶的桶状态更新为占用状态,并在每个分桶的数据结构内记录绑定的试验testij的试验ID;同一试验层Layeri上线的所有试验所绑定的分桶数量最大值为100个;
对于试验层Layeri中每个试验testij,将其所分配的总流量作为整体,进一步划分为100份,100份流量份数的标识分别为:0,1,…,99;进一步配置试验testij具有k个试验组group,确定分配给每个试验组group的流量份数区间;其中,各个试验组group的流量份数区间合并后形成流量份数为100;
步骤1.5,将试验层ID,每个试验层Layeri的分桶信息、试验层Layeri中每个试验testij的试验组group的流量份数区间存储到缓存;其中,分桶信息包括:桶状态、桶索引位置以及绑定的试验ID;
步骤2,AB测试平台采用分流算法,确定移动端App的试验配置信息,包括:
步骤2.1,移动端App具有设备ID;移动端App将携带设备ID的试验配置请求发送给AB测试平台;
步骤2.2,AB测试平台依次遍历每个试验层Layeri,得到该移动端App在每个试验层Layeri的试验配置信息;因此,所有试验层Layeri的试验配置信息形成该移动端App在AB测试平台的总试验配置信息;
其中,对于任意试验层Layeri,采用以下方法,得到移动端App在试验层Layeri的试验配置信息:
步骤2.2.1,AB测试平台将设备ID和试验层Layeri的试验层ID进行组装拼接,得到拼接字符串;
步骤2.2.2,对拼接字符串进行哈希hash计算,得到哈希值;对哈希值按10000进行取模计算,再取绝对值,得到余数z;
步骤2.2.3,试验层Layeri中试验确定过程:
对余数z进行除100后的取整数运算,得到数值f1;数值f1即为初始确定的该移动端App在当前试验层Layeri分配的分桶索引位置;
查找缓存,校验当前试验层Layeri中分桶索引位置为数值f1的分桶的桶状态是否为占用状态,如果为否,则表明该分桶没有被相关试验所绑定,则结束对本层试验层Layeri的试验配置信息确定流程;如果为是,则该分桶已绑定的试验ID所对应的试验,即为在试验层Layeri中确定对移动端App进行的试验;
步骤2.2.4,试验中试验组的确定过程:
对余数z按100进行取模计算,得到数值f2;
在步骤2.2.3确定的试验的各个试验组所对应的流量份数区间中,包含数值f2的流量份数区间所对应的试验组,即为确定的试验组;
由此完成移动端App在试验层Layeri的试验配置信息,所述试验配置信息即为在试验层Layeri中确定的试验,以及在确定的试验中确定的试验组。
2.根据权利要求1所述的一种AB测试分流的实现方法,其特征在于,当某个试验在试验层Layeri下线时,释放该试验所绑定的流量,方法为:对该试验关联绑定的分桶的信息进行更新,包括:将分桶的状态更新为未占用状态,同时,将分桶绑定的设备ID置为空值,并更新缓存。
3.根据权利要求1所述的一种AB测试分流的实现方法,其特征在于,步骤2.1具体为:
移动端App读取运行该移动端App的移动端设备的设备ID,通过SDK提供的接口,将设备ID发送给AB测试平台的分流接口。
4.根据权利要求1所述的一种AB测试分流的实现方法,其特征在于,步骤2.1和步骤2.2之间,还包括:
AB测试平台接收到来自于移动端App的设备ID后,校验设备ID是否有效,如果无效,则结束对该移动端App的分流流程;如果有效,则再继续执行步骤2.2。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310045657.9A CN116340142A (zh) | 2023-01-30 | 2023-01-30 | 一种ab测试分流的实现方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310045657.9A CN116340142A (zh) | 2023-01-30 | 2023-01-30 | 一种ab测试分流的实现方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116340142A true CN116340142A (zh) | 2023-06-27 |
Family
ID=86893701
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310045657.9A Pending CN116340142A (zh) | 2023-01-30 | 2023-01-30 | 一种ab测试分流的实现方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116340142A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117493422A (zh) * | 2023-12-29 | 2024-02-02 | 智者四海(北京)技术有限公司 | 抽样方法、装置、电子设备及存储介质 |
-
2023
- 2023-01-30 CN CN202310045657.9A patent/CN116340142A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117493422A (zh) * | 2023-12-29 | 2024-02-02 | 智者四海(北京)技术有限公司 | 抽样方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116340142A (zh) | 一种ab测试分流的实现方法 | |
US10275345B2 (en) | Application experiment system | |
CN103984688B (zh) | 一种基于本地词库提供输入候选词条的方法与设备 | |
CN110287197A (zh) | 一种数据存储方法、迁移方法及装置 | |
CN104346372A (zh) | 用于评估预测模型的方法和装置 | |
CN107493327A (zh) | 分布式缓存管理方法、系统及数据管理系统 | |
CN109697109B (zh) | 一种区分识别冲突虚拟机的方法、系统、装置及存储介质 | |
CN113836024B (zh) | 基于配置驱动的流量复用ab测试方法及系统 | |
US20210103872A1 (en) | System and method for adaptive and dynamic pricing of self-storage storage units | |
CN107368513A (zh) | 客户端数据库更新的方法及装置 | |
CN105164611B (zh) | 管理演示 | |
CN109634585B (zh) | 一种基于表单自适应展示和更新服务端数据的方法 | |
CN103793401B (zh) | 建立多个数据库表的共享索引的方法及装置 | |
CN107748808A (zh) | 基于区间约束的可靠性指标分配优化方法、系统及介质 | |
CN107357530A (zh) | 一种针对OpenStack云硬盘的设置方法及装置 | |
US8700606B2 (en) | Methods for calculating a combined impact analysis repository | |
US8463799B2 (en) | System and method for consolidating search engine results | |
CN105991571B (zh) | 一种信息处理方法及装置 | |
CN109344152A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN112256637A (zh) | 一种基于抽象语法树的文件管理方法、装置及存储介质 | |
CN104239212A (zh) | 测试用例的查询方法及装置、测试用例的建立方法及装置 | |
CN111311105A (zh) | 组合产品评分方法、装置、设备及可读存储介质 | |
EP3022893A1 (en) | Systems and methods for generating customer solutions | |
CN113778399B (zh) | 一种底层通道的配置方法及装置 | |
CN103036796A (zh) | 路由信息更新方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |