CN113298119B - 机器学习模型的投放策略评估方法、装置及电子设备 - Google Patents

Abstract

本公开涉及一种机器学习模型的投放策略评估方法、装置、电子设备及计算机可读介质。该方法包括：确定待进行评估的机器学习模型和待评估的投放策略；将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估。本公开能够自动化的对机器学习模型的应用效果进行分析，节约大量的人力物力资源。

Description

机器学习模型的投放策略评估方法、装置及电子设备

技术领域

本公开涉及计算机信息处理领域，具体而言，涉及一种机器学习模型的投放策略评估方法、装置、电子设备及计算机可读介质。

背景技术

机器学习的模型的一般评估方式是基于准确率的评估，训练出的模型是建立在总数据的子集上的，其被称为训练数据，训练结束后该模型将被用于预测其它新数据。通过训练集产生的模型，利用测试数据来进行模型效果的评估，评估结果以模型评估报告的形式呈现，在报告中通过AUC值、模型准确率、模型召回率等一系列评估指标将帮助判断模型是否可行以及是否满足业务目标。

在具体的应用场景中，比如金融服务网站中，需要通过机器学习模型对用户的整体金融风险进行评估，进而为用户指定不同的用户策略或者推动不同类型的广告。机器学习模型得到的用户金融风险数值是否能够很好的对业务目标进行区分，进而是否能够得到很好地区分效果，也就是说对机器学习模型的应用效果进行分析，目前是一个空白领域。如何衡量机器学习模型对业务目标的区分效果，进而通过机器学习模型指导业务目标的相关策略，是当前面临的技术瓶颈。

在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

有鉴于此，本公开提供一种机器学习模型的投放策略评估方法、装置、电子设备及计算机可读介质，能够自动化的对机器学习模型的效果进行分析，以便精准化投放机器学习模型并产出策略，节约大量的人力物力资源。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一方面，提出一种机器学习模型的投放策略评估方法，该方法包括：确定待进行评估的机器学习模型和待评估的投放策略；将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估。

可选地，还包括：获取存量用户中满足预设条件的用户以生成所述样本用户集合；通过历史积累的白名单用户和黑名单用户生成所述定向用户集合。

可选地，所述投放策略包括切分策略；基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合，包括：获取所述切分策略中的多个阈值范围；将所述多个阈值范围分别和所述用户模型分集合中的多个用户模型分进行比较，以将所述用户模型分集合按照阈值范围分为所述多个样本投放集合；将所述多个阈值范围分别和所述定向模型分集合中的多个定向模型分进行比较，以将所述定向模型分集合按照阈值范围分为所述多个定向投放集合。

可选地，获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合之前，还包括：获取所述样本用户集合和所述定向用户集合的第一流量分集合和第二流量分集合；生成所述多个样本投放集合和所述多个定向投放集合对应的多个样本用户子集合和多个定向用户子集合；基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合。

可选地，获取所述样本用户集合和所述定向用户集合的第一流量分集合和第二流量分集合，包括：获取所述样本用户集合和所述定向用户集合中的用户在第三方媒体上的操作数据；基于所述操作数据中的转化率生成所述第一流量分集合和所述第二流量分集合。

可选地，基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合，包括：提取所述样本用户子集合或所述定向用户子集合中的用户；在所述第一流量分集合和所述第二流量分集合中确定所述用户对应的分数；通过所述用户和其对应的分数生成所述样本用户子集合或所述定向用户子集合对应的样本流量分集合或定向流量分集合。

可选地，基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估，包括：计算出所述多个样本流量分集合对应的多组样本覆盖率及样本转化率；计算出所述多个定向流量分集合对应的多组定向覆盖率及定向转化率；基于所述多组样本覆盖率及样本转化率、所述多组定向覆盖率及定向转化率之间的差异和单调性对所述机器学习模型的投放策略进行评估。

可选地，还包括：调整所述投放策略中的多个阈值范围；基于调整后的多个阈值范围重新生成多个样本流量分集合和多个定向流量分集合以对所述机器学习模型的投放策略进行重新评估。

可选地，还包括：确定所述投放策略中的多个阈值范围的调整范围和调整步长；基于所述调整范围和调整步长对所述机器学习模型的投放策略进行评估，生成多个评估结果；基于所述多个评估结果确定最优化投放策略。

可选地，还包括：基于python技术，将投放策略的评估结果进行实时展示。

根据本公开的一方面，提出一种机器学习模型的投放策略评估装置，该装置包括：模型策略模块，用于确定待进行评估的机器学习模型和待评估的投放策略；分数计算模块，用于将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；策略划分模块，用于基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；分数集合模块，用于获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；策略评估模块，用于基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估。

可选地，还包括：用户集合模块，用于获取存量用户中满足预设条件的用户以生成所述样本用户集合；通过历史积累的白名单用户和黑名单用户生成所述定向用户集合。

可选地，所述投放策略包括切分策略；所述策略划分模块，包括：阈值单元，用于获取所述切分策略中的多个阈值范围；比较单元，用于将所述多个阈值范围分别和所述用户模型分集合中的多个用户模型分进行比较，以将所述用户模型分集合按照阈值范围分为所述多个样本投放集合；切分单元，用于将所述多个阈值范围分别和所述定向模型分集合中的多个定向模型分进行比较，以将所述定向模型分集合按照阈值范围分为所述多个定向投放集合。

可选地，还包括：流量分数模块，用于获取所述样本用户集合和所述定向用户集合的第一流量分集合和第二流量分集合；子集合模块，用于生成所述多个样本投放集合和所述多个定向投放集合对应的多个样本用户子集合和多个定向用户子集合；集合整理模块，用于基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合。

可选地，所述流量分数模块，包括：媒体单元，用于获取所述样本用户集合和所述定向用户集合中的用户在第三方媒体上的操作数据；操作单元，用于基于所述操作数据中的转化率生成所述第一流量分集合和所述第二流量分集合。

可选地，所述集合整理模块，还用于提取所述样本用户子集合或所述定向用户子集合中的用户；在所述第一流量分集合和所述第二流量分集合中确定所述用户对应的分数；通过所述用户和其对应的分数生成所述样本用户子集合或所述定向用户子集合对应的样本流量分集合或定向流量分集合。

可选地，所述策略评估模块，还用于计算出所述多个样本流量分集合对应的多组样本覆盖率及样本转化率；计算出所述多个定向流量分集合对应的多组定向覆盖率及定向转化率；基于所述多组样本覆盖率及样本转化率、所述多组定向覆盖率及定向转化率之间的差异和单调性对所述机器学习模型的投放策略进行评估。

可选地，还包括：调整策略模块，用于调整所述投放策略中的多个阈值范围；基于调整后的多个阈值范围重新生成多个样本流量分集合和多个定向流量分集合以对所述机器学习模型的投放策略进行重新评估。

可选地，还包括：自动优化模块，用于确定所述投放策略中的多个阈值范围的调整范围和调整步长；基于所述调整范围和调整步长对所述机器学习模型的投放策略进行评估，生成多个评估结果；基于所述多个评估结果确定最优化投放策略。

可选地，还包括：实时展示模块，用于基于python技术，将投放策略的评估结果进行实时展示。

根据本公开的一方面，提出一种电子设备，该电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上文的方法。

根据本公开的一方面，提出一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上文中的方法。

根据本公开的机器学习模型的投放策略评估方法、装置、电子设备及计算机可读介质，确定待进行评估的机器学习模型和待评估的投放策略；将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估的方式，能够自动化的对机器学习模型的效果进行分析，以便精准化投放机器学习模型并产出策略，节约大量的人力物力资源。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本公开。

附图说明

通过参照附图详细描述其示例实施例，本公开的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本公开的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据一示例性实施例示出的一种机器学习模型的投放策略评估方法的流程图。

图2是根据另一示例性实施例示出的一种机器学习模型的投放策略评估方法的流程图。

图3是根据另一示例性实施例示出的一种机器学习模型的投放策略评估方法的流程图。

图4是根据一示例性实施例示出的一种机器学习模型的投放策略评估装置的框图。

图5是根据另一示例性实施例示出的一种机器学习模型的投放策略评估装置的框图。

图6是根据一示例性实施例示出的一种电子设备的框图。

图7是根据一示例性实施例示出的一种计算机可读介质的框图。

具体实施方式

现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本公开将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

应理解，虽然本文中可能使用术语第一、第二、第三等来描述各种组件，但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此，下文论述的第一组件可称为第二组件而不偏离本公开概念的教示。如本文中所使用，术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。

本领域技术人员可以理解，附图只是示例实施例的示意图，附图中的模块或流程并不一定是实施本公开所必须的，因此不能用于限制本公开的保护范围。

图1是根据一示例性实施例示出的一种机器学习模型的投放策略评估方法的流程图。机器学习模型的投放策略评估方法10至少包括步骤S102至S110。

如图1所示，在S102中，确定待进行评估的机器学习模型和待评估的投放策略。待进行评估的机器学习模型可为广告投放模型，广告投放模型可对用户的基础信息进行分析，得到广告分数，广告分数代表了用户对媒体投放广告的响应程度，广告分数越高，则该用户越有可能通过广告关注到本平台中的产品，进而注册成为本平台的用户。

对于广告投放模型而言，投放策略可包括不同阈值范围。当用户的广告分位于第一阈值区间时，可通过A策略向该用户展示广告；当用户的广告分位于第二阈值区间时，可通过B策略向该用户展示广告；以此类推。

本公开提出的机器学习模型的投放策略评估方法就是想针对模型后续的策略运行的效果进行评估。

在S104中，将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合。

在一个实施例中，还包括：获取存量用户中满足预设条件的用户以生成所述样本用户集合；通过历史积累的白名单用户和黑名单用户生成所述定向用户集合。可将存量用户中已经注册完成并进行授信的用户作为满足预设条件的用户。

在S106中，基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合。

其中，所述投放策略可为切分策略；基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合，包括：获取所述切分策略中的多个阈值范围；将所述多个阈值范围分别和所述用户模型分集合中的多个用户模型分进行比较，以将所述用户模型分集合按照阈值范围分为所述多个样本投放集合；将所述多个阈值范围分别和所述定向模型分集合中的多个定向模型分进行比较，以将所述定向模型分集合按照阈值范围分为所述多个定向投放集合。

如上文所述，可将位于第一阈值区间的用户作为第一样本投放集合，将位于第二阈值区间的用户作为第二样本投放集合，并以此类推。同时，可将位于第一阈值区间的黑名单或白名单用户作为第一定向投放集合，将位于第二阈值区间的用户作为第二定向投放集合，等等。

在S108中，获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合。

可例如，基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合。

“获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合”的具体内容将在图2对应的实施例中进行描述。

在S110中，基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估。

更具体的，可计算出所述多个样本流量分集合对应的多组样本覆盖率及样本转化率；计算出所述多个定向流量分集合对应的多组定向覆盖率及定向转化率；基于所述多组样本覆盖率及样本转化率、所述多组定向覆盖率及定向转化率之间的差异和单调性对所述机器学习模型的投放策略进行评估。

其中，可认为，一个机器学习模型能够吸引到尽可能多的用户，而且能够吸引到尽可能多种多样特征的用户是一个优秀的机器学习模型的使用效果。而且，该机器学习模型对于黑名单用户而言，能够引入的越少越好，白名单用户能够引入的越多越好。基于上述分析，可认为样本覆盖率远远高于定向覆盖率，且样本转换率远远高于定向转化率时，该机器学习模型的投放策略是较好的状态。在某些应用场景中，还可将黑名单用户和白名单用户的定向覆盖率和转化率分别进行计算比较。机器学习模型的投放策略的评估内容可根据不同的使用目的而进行变更。

图2是根据一示例性实施例示出的一种机器学习模型的投放策略评估方法的流程图。机器学习模型的投放策略评估方法20至少包括步骤S202至S208。

如图2所示，在S202中，获取所述样本用户集合和所述定向用户集合中的用户在第三方媒体上的操作数据。操作数据可包括浏览数据、点击数据等等。

在S204中，基于所述操作数据中的转化率生成所述第一流量分集合和所述第二流量分集合。基于样本用户集合中用户的转化率生成第一流量分集合，基于定向用户集合中用户的转化率生成第二流量分集合。

在S206中，生成所述多个样本投放集合和所述多个定向投放集合对应的多个样本用户子集合和多个定向用户子集合。

在S208中，基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合。

在一个实施例中，可提取所述样本用户子集合或所述定向用户子集合中的用户；在所述第一流量分集合和所述第二流量分集合中确定所述用户对应的分数；通过所述用户和其对应的分数生成所述样本用户子集合或所述定向用户子集合对应的样本流量分集合或定向流量分集合。

根据本公开的机器学习模型的投放策略评估方法，确定待进行评估的机器学习模型和待评估的投放策略；将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估的方式，能够自动化的对机器学习模型的效果进行分析，以便精准化投放机器学习模型并产出策略，节约大量的人力物力资源。

应清楚地理解，本公开描述了如何形成和使用特定示例，但本公开的原理不限于这些示例的任何细节。相反，基于本公开公开的内容的教导，这些原理能够应用于许多其它实施例。

图3是根据另一示例性实施例示出的一种机器学习模型的投放策略评估方法的流程图。图3所示的流程30是对图1所示的流程的补充描述。

如图3所示，在S302中，确定所述投放策略中的多个阈值范围的调整范围和调整步长。可例如，第一阈值区间的分数范围为10-25，第一阈值区间对应的调整范围为正负10，调整步长为1；可例如，第二阈值区间的分数范围为26-40，第二阈值区间对应的调整范围为正负10，调整步长为1，可例如，第三阈值区间的分数范围为41-60，第一阈值区间对应的调整范围为正负10，调整步长为1。

在S304中，基于所述调整范围和调整步长调整所述投放策略中的多个阈值范围。可根据上述范围，对投放策略中的阈值进行调整，生成多个可能的阈值结构组合。

可例如，第一个阈值结构组合可为：第一阈值区间为：5-28；第二阈值区间为29-52；第三阈值区间为53-60；第二个阈值结构组合可为：第一阈值区间为：10-15；第二阈值区间为16-30；第三阈值区间为31-60等等。

在S306中，基于调整后的多个阈值范围重新生成多个样本流量分集合和多个定向流量分集合以对所述机器学习模型的投放策略进行重新评估。对上述重新生成的阈值结构组合再次进行计算，得到新的投放策略的评估结果。

在S308中，基于所述多个评估结果确定最优化投放策略。根据上述多个投放策略评估结果确定业务目标最优化的投放策略对应的分数阈值范围。

在一个实施例中，还包括：基于python技术，将投放策略的评估结果进行实时展示。可通过python技术将上述多个阈值范围对应的评估结果进行实时展示，以便业务人员直观快速的确定最优化的结果。

还可通过业务人员的手动选择，人为指定阈值结构组合，并进行投放策略的评估。

本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由CPU执行的计算机程序。在该计算机程序被CPU执行时，执行本公开提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中，该存储介质可以是只读存储器，磁盘或光盘等。

此外，需要注意的是，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。

图4是根据另一示例性实施例示出的一种机器学习模型的投放策略评估装置的框图。如图4所示，机器学习模型的投放策略评估装置40包括：模型策略模块402，分数计算模块404，策略划分模块406，分数集合模块408，策略评估模块410。

模型策略模块402用于确定待进行评估的机器学习模型和待评估的投放策略；

分数计算模块404用于将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；

策略划分模块406用于基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；所述投放策略包括切分策略；所述策略划分模块406包括：阈值单元，用于获取所述切分策略中的多个阈值范围；比较单元，用于将所述多个阈值范围分别和所述用户模型分集合中的多个用户模型分进行比较，以将所述用户模型分集合按照阈值范围分为所述多个样本投放集合；切分单元，用于将所述多个阈值范围分别和所述定向模型分集合中的多个定向模型分进行比较，以将所述定向模型分集合按照阈值范围分为所述多个定向投放集合。

分数集合模块408用于获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；

策略评估模块410用于基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估。所述策略评估模块410还用于计算出所述多个样本流量分集合对应的多组样本覆盖率及样本转化率；计算出所述多个定向流量分集合对应的多组定向覆盖率及定向转化率；基于所述多组样本覆盖率及样本转化率、所述多组定向覆盖率及定向转化率之间的差异和单调性对所述机器学习模型的投放策略进行评估。

图5是根据一示例性实施例示出的一种机器学习模型的投放策略评估装置的框图。如图5所示，机器学习模型的投放策略评估装置50包括：用户集合模块502，流量分数模块504，子集合模块506，集合整理模块508，调整策略模块510，自动优化模块512，实时展示模块514。

用户集合模块502用于获取存量用户中满足预设条件的用户以生成所述样本用户集合；通过历史积累的白名单用户和黑名单用户生成所述定向用户集合。

流量分数模块504用于获取所述样本用户集合和所述定向用户集合的第一流量分集合和第二流量分集合；所述流量分数模块504包括：媒体单元，用于获取所述样本用户集合和所述定向用户集合中的用户在第三方媒体上的操作数据；操作单元，用于基于所述操作数据中的转化率生成所述第一流量分集合和所述第二流量分集合。

子集合模块506用于生成所述多个样本投放集合和所述多个定向投放集合对应的多个样本用户子集合和多个定向用户子集合；

集合整理模块508用于基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合。所述集合整理模块508还用于提取所述样本用户子集合或所述定向用户子集合中的用户；在所述第一流量分集合和所述第二流量分集合中确定所述用户对应的分数；通过所述用户和其对应的分数生成所述样本用户子集合或所述定向用户子集合对应的样本流量分集合或定向流量分集合。

调整策略模块510用于调整所述投放策略中的多个阈值范围；基于调整后的多个阈值范围重新生成多个样本流量分集合和多个定向流量分集合以对所述机器学习模型的投放策略进行重新评估。

自动优化模块512用于确定所述投放策略中的多个阈值范围的调整范围和调整步长；基于所述调整范围和调整步长对所述机器学习模型的投放策略进行评估，生成多个评估结果；基于所述多个评估结果确定最优化投放策略。

实时展示模块514用于基于python技术，将投放策略的评估结果进行实时展示。

根据本公开的机器学习模型的投放策略评估装置，确定待进行评估的机器学习模型和待评估的投放策略；将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估的方式，能够自动化的对机器学习模型的效果进行分析，以便精准化投放机器学习模型并产出策略，节约大量的人力物力资源。

图6是根据一示例性实施例示出的一种电子设备的框图。

下面参照图6来描述根据本公开的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书中的根据本公开各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图1，图2，图3中所示的步骤。

所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。

所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备600也可以与一个或多个外部设备600’(例如键盘、指向设备、蓝牙设备等)通信，使得用户能与该电子设备600交互的设备通信，和/或该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，如图7所示，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式的上述方法。

所述软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该计算机可读介质实现如下功能：确定待进行评估的机器学习模型和待评估的投放策略；将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；基于所述多个样本流量分集合和所述多个定向流量分集合对所述机器学习模型的投放策略进行评估。

本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中，也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。

通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施例的方法。

以上具体地示出和描述了本公开的示例性实施例。应可理解的是，本公开不限于这里描述的详细结构、设置方式或实现方法；相反，本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。

Claims (18)

1.一种机器学习模型的投放策略评估方法，其特征在于，包括：

获取存量用户中满足预设条件的用户以生成样本用户集合；

通过历史积累的白名单用户和黑名单用户生成定向用户集合；

确定待进行评估的机器学习模型和待评估的投放策略；

将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；

基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；

获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；

计算出所述多个样本流量分集合对应的多组样本覆盖率及样本转化率；

计算出所述多个定向流量分集合对应的多组定向覆盖率及定向转化率；

基于所述多组样本覆盖率及样本转化率、所述多组定向覆盖率及定向转化率之间的差异和单调性对所述机器学习模型的投放策略进行评估。

2.如权利要求1所述的投放策略评估方法，其特征在于，所述投放策略包括切分策略；

基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合，包括：

获取所述切分策略中的多个阈值范围；

将所述多个阈值范围分别和所述用户模型分集合中的多个用户模型分进行比较，以将所述用户模型分集合按照阈值范围分为所述多个样本投放集合；

将所述多个阈值范围分别和所述定向模型分集合中的多个定向模型分进行比较，以将所述定向模型分集合按照阈值范围分为所述多个定向投放集合。

3.如权利要求1所述的投放策略评估方法，其特征在于，获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合之前，还包括：

获取所述样本用户集合和所述定向用户集合的第一流量分集合和第二流量分集合；

生成所述多个样本投放集合和所述多个定向投放集合对应的多个样本用户子集合和多个定向用户子集合；

基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合。

4.如权利要求3所述的投放策略评估方法，其特征在于，获取所述样本用户集合和所述定向用户集合的第一流量分集合和第二流量分集合，包括：

获取所述样本用户集合和所述定向用户集合中的用户在第三方媒体上的操作数据；

基于所述操作数据中的转化率生成所述第一流量分集合和所述第二流量分集合。

5.如权利要求3所述的投放策略评估方法，其特征在于，基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合，包括：

提取所述样本用户子集合或所述定向用户子集合中的用户；

在所述第一流量分集合和所述第二流量分集合中确定所述用户对应的分数；

通过所述用户和其对应的分数生成所述样本用户子集合或所述定向用户子集合对应的样本流量分集合或定向流量分集合。

6.如权利要求1所述的投放策略评估方法，其特征在于，还包括：

调整所述投放策略中的多个阈值范围；

基于调整后的多个阈值范围重新生成多个样本流量分集合和多个定向流量分集合以对所述机器学习模型的投放策略进行重新评估。

7.如权利要求6所述的投放策略评估方法，其特征在于，还包括：

确定所述投放策略中的多个阈值范围的调整范围和调整步长；

基于所述调整范围和调整步长对所述机器学习模型的投放策略进行评估，生成多个评估结果；

基于所述多个评估结果确定最优化投放策略。

8.如权利要求1所述的投放策略评估方法，其特征在于，还包括：

基于python技术，将投放策略的评估结果进行实时展示。

9.一种机器学习模型的投放策略评估装置，其特征在于，包括：

用户集合模块，用于获取存量用户中满足预设条件的用户以生成样本用户集合；通过历史积累的白名单用户和黑名单用户生成定向用户集合；

模型策略模块，用于确定待进行评估的机器学习模型和待评估的投放策略；

分数计算模块，用于将样本用户集合和定向用户集合分别输入所述机器学习模型中生成用户模型分集合和定向模型分集合；

策略划分模块，用于基于所述投放策略将所述用户模型分集合和所述定向模型分集合划分为多个样本投放集合和多个定向投放集合；

分数集合模块，用于获取所述多个样本投放集合和所述多个定向投放集合对应的多个样本流量分集合和多个定向流量分集合；

策略评估模块，用于计算出所述多个样本流量分集合对应的多组样本覆盖率及样本转化率；计算出所述多个定向流量分集合对应的多组定向覆盖率及定向转化率；基于所述多组样本覆盖率及样本转化率、所述多组定向覆盖率及定向转化率之间的差异和单调性对所述机器学习模型的投放策略进行评估。

10.如权利要求9所述的投放策略评估装置，其特征在于，所述投放策略包括切分策略；所述策略划分模块，包括：

阈值单元，用于获取所述切分策略中的多个阈值范围；

比较单元，用于将所述多个阈值范围分别和所述用户模型分集合中的多个用户模型分进行比较，以将所述用户模型分集合按照阈值范围分为所述多个样本投放集合；

切分单元，用于将所述多个阈值范围分别和所述定向模型分集合中的多个定向模型分进行比较，以将所述定向模型分集合按照阈值范围分为所述多个定向投放集合。

11.如权利要求9所述的投放策略评估装置，其特征在于，还包括：

流量分数模块，用于获取所述样本用户集合和所述定向用户集合的第一流量分集合和第二流量分集合；

子集合模块，用于生成所述多个样本投放集合和所述多个定向投放集合对应的多个样本用户子集合和多个定向用户子集合；

集合整理模块，用于基于所述多个样本用户子集合和所述多个定向用户子集合对所述第一流量分集合和所述第二流量分集合进行整理以生成所述多个样本流量分集合和所述多个定向流量分集合。

12.如权利要求11所述的投放策略评估装置，其特征在于，所述流量分数模块，包括：

媒体单元，用于获取所述样本用户集合和所述定向用户集合中的用户在第三方媒体上的操作数据；

操作单元，用于基于所述操作数据中的转化率生成所述第一流量分集合和所述第二流量分集合。

13.如权利要求11所述的投放策略评估装置，其特征在于，所述集合整理模块，还用于

提取所述样本用户子集合或所述定向用户子集合中的用户；在所述第一流量分集合和所述第二流量分集合中确定所述用户对应的分数；通过所述用户和其对应的分数生成所述样本用户子集合或所述定向用户子集合对应的样本流量分集合或定向流量分集合。

14.如权利要求9所述的投放策略评估装置，其特征在于，还包括：

调整策略模块，用于调整所述投放策略中的多个阈值范围；基于调整后的多个阈值范围重新生成多个样本流量分集合和多个定向流量分集合以对所述机器学习模型的投放策略进行重新评估。

15.如权利要求14所述的投放策略评估装置，其特征在于，还包括：

自动优化模块，用于确定所述投放策略中的多个阈值范围的调整范围和调整步长；基于所述调整范围和调整步长对所述机器学习模型的投放策略进行评估，生成多个评估结果；基于所述多个评估结果确定最优化投放策略。

16.如权利要求9所述的投放策略评估装置，其特征在于，还包括：

实时展示模块，用于基于python技术，将投放策略的评估结果进行实时展示。

17.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。

18.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。

Images