CN111324370A - 用于对待上线小程序进行风险处理的方法及装置 - Google Patents

Abstract

本说明书实施例提供了一种用于对待上线小程序进行风险处理的方法及装置。在该方法中，获取待上线小程序的相关数据，利用第一风险评估模型对待上线小程序的相关数据进行风险评估，进而根据待上线小程序的风险评估结果来对待上线小程序进行风险处理，可以有效地对小程序进行上线风险管控。

Description

用于对待上线小程序进行风险处理的方法及装置

技术领域

本说明书的实施例涉及互联网技术领域，具体地，涉及一种用于对待上线小程序进行风险处理的方法及装置。

背景技术

随着互联网技术的不断发展，在一个应用平台软件上可以搭载多个应用程序(例如小程序)，使得用户能够在这个应用平台上便捷地享用多个服务，而用户也不需要在客户端上安装太多的应用程序。另外，小程序可以充分利用应用平台的客户量，为小程序的业务提升人气。

发明内容

鉴于上述问题，本说明书的实施例提供了一种用于对待上线小程序进行风险处理的方法及装置。利用该方法及装置，在对待上线小程序进行风险处理的过程中应用了机器学习模型技术，能够对小程序进行有效的上线风险管控。

根据本说明书的实施例的一个方面，提供了一种用于对待上线小程序进行风险处理的方法，包括：获取待上线小程序的相关数据，所述待上线小程序的相关数据包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息；基于第一风险评估模型对该待上线小程序的相关数据进行风险评估，以确定该待上线小程序的风险评估结果；根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理。

可选地，根据上述方面的一个示例，所述小程序内容描述信息包括小程序名称和/或内容描述信息；和/或所述小程序主体违规记录信息包括针对程序主体信息的线上小程序违规数量和/或线上小程序违规率；和/或所述小程序内容所属行业的违规小程序信息包括在小程序内容所属行业中的线上小程序违规数量和/或线上小程序违规率。

可选地，根据上述方面的一个示例，所述第一风险评估模型的特征维度是由特征排序模型从标注了风险评估结果的第一数据样本特征集中而确定的，所述第一数据样本特征包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

可选地，根据上述方面的一个示例，根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理包括：如果针对待上线小程序的风险评估结果为存在风险，则拒绝上线该待上线小程序。

可选地，根据上述方面的一个示例，所述方法还包括：基于主体风险分层映射表和待上线小程序的程序主体信息，确定所述待上线小程序所对应的主体风险等级，所述主体风险分层映射表包括多组关于程序主体信息与相对应的主体风险等级之间的映射关系；根据所确定的待上线小程序所对应的主体风险等级，对该待上线小程序进行风险处理；其中，所述主体风险分层映射表是通过将关于线上小程序的相关数据集提供给第二风险评估模型进行风险评估而确定出的，所述线上小程序的相关数据包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

可选地，根据上述方面的一个示例，所述方法还包括：针对各个所述线上小程序，基于所述第二风险评估模型对该线上小程序的相关数据进行风险评估，以确定该线上小程序的风险评估结果；针对各个线上小程序所对应的程序主体信息，根据该程序主体信息所对应的线上小程序的风险评估结果，确定该程序主体信息的主体风险等级；基于各个程序主体信息和相应的主体风险等级，确定所述主体风险分层映射表。

可选地，根据上述方面的一个示例，根据该程序主体信息所对应的小程序的风险评估结果，确定该程序主体信息的主体风险等级包括：针对该程序主体信息，统计出现用于指示存在风险的风险评估结果的小程序的风险线上小程序数量和/或风险线上小程序占比；根据所统计的风险线上小程序数量和/或风险线上小程序占比，确定该程序主体信息所对应的主体风险等级。

可选地，根据上述方面的一个示例，所述小程序历史用户行为信息包括以下中的至少一种：针对线上小程序在设定时段内的用户访问量、分享量、收藏量、投诉量和差评量。

可选地，根据上述方面的一个示例，所述第二风险评估模型的特征维度是由特征排序模型从标注了风险评估结果的第二数据样本特征集中而确定的，所述第二数据样本特征包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

可选地，根据上述方面的一个示例，根据待上线小程序的风险评估结果，对该待上线小程序分别进行风险处理包括：执行与该待上线小程序的主体风险等级相对应的风险审核流程。

根据本说明书的实施例的另一方面，提供了一种用于对待上线小程序进行风险处理的装置，包括：小程序数据获取单元，获取待上线小程序的相关数据，所述待上线小程序的相关数据包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息；风险评估结果确定单元，基于第一风险评估模型对该待上线小程序的相关数据进行风险评估，以确定该待上线小程序的风险评估结果；小程序风险处理单元，根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理。

可选地，根据上述方面的一个示例，所述小程序内容描述信息包括小程序名称和/或内容描述信息；和/或所述小程序主体违规记录信息包括针对程序主体信息的线上小程序违规数量和/或线上小程序违规率；和/或所述小程序内容所属行业的违规小程序信息包括在小程序内容所属行业中的线上小程序违规数量和/或线上小程序违规率。

可选地，根据上述方面的一个示例，如果针对待上线小程序的风险评估结果为存在风险，则所述小程序风险处理单元拒绝上线该待上线小程序。

可选地，根据上述方面的一个示例，所述装置还包括：待上线主体风险等级确定单元，基于主体风险分层映射表和待上线小程序的程序主体信息，确定所述待上线小程序所对应的主体风险等级，所述主体风险分层映射表包括多组关于程序主体信息与相对应的主体风险等级之间的映射关系；所述小程序风险处理单元根据所确定的待上线小程序所对应的主体风险等级，对该待上线小程序进行风险处理；其中，所述主体风险分层映射表是通过将关于线上小程序的相关数据集提供给第二风险评估模型进行风险评估而确定出的，所述线上小程序的相关数据包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

可选地，根据上述方面的一个示例，所述装置还包括：小程序风险评估单元，针对各个所述线上小程序，基于所述第二风险评估模型对该线上小程序的相关数据进行风险评估，以确定该线上小程序的风险评估结果；线上主体风险等级确定单元，针对各个线上小程序所对应的程序主体信息，根据该程序主体信息所对应的线上小程序的风险评估结果，确定该程序主体信息的主体风险等级；映射表确定单元，基于各个程序主体信息和相应的主体风险等级，确定所述主体风险分层映射表。

可选地，根据上述方面的一个示例，所述线上主体风险等级确定单元：针对该程序主体信息，统计出现用于指示存在风险的风险评估结果的小程序的风险线上小程序数量和/或风险线上小程序占比；根据所统计的风险线上小程序数量和/或风险线上小程序占比，确定该程序主体信息所对应的主体风险等级。

可选地，根据上述方面的一个示例，所述第二风险评估模型的特征维度是由特征排序模型从具有多个维度数据信息的第二数据样本特征集中而确定的，该多个维度数据信息包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

可选地，根据上述方面的一个示例，所述小程序风险处理单元执行与该待上线小程序的主体风险等级相对应的风险审核流程。

根据本说明书的实施例的另一方面，还提供一种计算设备，包括：至少一个处理器；以及存储器，所述存储器存储指令，当所述指令被所述至少一个处理器执行时，使得所述至少一个处理器执行如上所述的用于对待上线小程序进行风险处理的方法。

根据本说明书的实施例的另一方面，还提供一种机器可读存储介质，其存储有可执行指令，所述指令当被执行时使得所述机器执行如上所述的用于对待上线小程序进行风险处理的方法。

附图说明

通过参照下面的附图，可以实现对于本说明书实施例内容的本质和优点的进一步理解。在附图中，类似组件或特征可以具有相同的附图标记。附图是用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与下面的具体实施方式一起用于解释本说明书的实施例，但并不构成对本说明书的实施例的限制。在附图中：

图1示出了对小程序进行上线的一般流程的示意图；

图2示出了根据本说明书的实施例的用于对待上线小程序进行风险处理的方法的一示例的流程图；

图3示出了根据本说明书的实施例的对第一风险评估模型进行训练的过程的一示例的流程图；

图4示出了根据本说明书的实施例的用于对待上线小程序进行风险处理的方法的一示例的流程图；

图5示出了根据本说明书的实施例的确定主体风险分层映射表的过程的一示例的流程图；

图6示出了根据本说明书的实施例的对第二风险评估模型进行训练的过程的一示例的流程图；

图7示出了根据本说明书的实施例的用于对待上线小程序进行风险处理的装置的一示例的结构框图；和

图8示出了根据本说明书的实施例的用于对待上线小程序进行风险处理的计算设备的硬件结构图。

具体实施方式

以下将参考示例实施方式讨论本文描述的主题。应该理解，讨论这些实施方式只是为了使得本领域技术人员能够更好地理解从而实现本文描述的主题，并非是对权利要求书中所阐述的保护范围、适用性或者示例的限制。可以在不脱离本说明书实施例内容的保护范围的情况下，对所讨论的元素的功能和排列进行改变。各个示例可以根据需要，省略、替代或者添加各种过程或组件。另外，相对一些示例所描述的特征在其它例子中也可以进行组合。

如本文中使用的，术语“包括”及其变型表示开放的术语，含义是“包括但不限于”。术语“基于”表示“至少部分地基于”。术语“一个实施例”和“一实施例”表示“至少一个实施例”。术语“另一个实施例”表示“至少一个其他实施例”。术语“第一”、“第二”等可以指代不同的或相同的对象。下面可以包括其他的定义，无论是明确的还是隐含的。除非上下文中明确地指明，否则一个术语的定义在整个说明书中是一致的。

在本文中，术语“风险评估模型”可以表示用于对待上线小程序的风险(例如，涉黄或涉毒的违规风险)进行评估的机器学习模型。术语“特征维度”表示机器学习模型所采用的预测因子或变量特征维度，并且机器学习模型可以根据特征维度针对输入数据进行预测而输出对应的预测结果。术语“特征排序模型”也被称为特征选择模型，其可以从已有的多个数据维度中选择适用于预测任务的有效数据维度。

图1示出了对小程序进行上线的一般流程的示意图。

如图1所示，小程序主体创建小程序，并将已完成的待上线小程序上传至应用平台进行审核，进而应用平台会根据审核结果来确定是否上线该小程序。目前，应用平台需要依赖人工对小程序进行审核，导致人工审核的压力和成本过大，不适于具有海量小程序业务的应用平台。尤其是，小程序的快速发展导致了小程序业务乱象的滋生，存在不少违规(例如涉黄、涉毒)小程序在线上使用。另外，在对小程序审核的过程中，应用平台还可能会根据小程序主体的过往违规情况(例如小程序主体开发了多个存在风险的小程序)来确定高危主体，并将高危主体创建的所有的待上线小程序都不予通过审核。但是，仅利用小程序主体的过往违规情况这个单一维度指标来确定其后续所有小程序所对应的风险结果，导致小程序风险确定过程过于片面而无法保障准确性，不利于应用平台上小程序业务的运营工作。

图2示出了根据本说明书的实施例的用于对待上线小程序进行风险处理的方法(下文中也称为，待上线小程序风险处理方法)的一示例的流程图。

如图2所示，该方法由为应用平台所配置的风险处理服务端来执行。在块210中，获取待上线小程序的相关数据，待上线小程序的相关数据包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。这里，小程序内容可以包括小程序的业务功能、版本更新等多方面的内容介绍信息，其可以是以文字、图片和视频等各种媒介内容形式进行呈现的，通过读取小程序的内容便可以得到小程序内容描述信息。并且，在业务功能的介绍信息中可以包括对小程序内容所属行业(例如游戏行业、房产行业等)和小程序名称。

在本说明书实施例的一个示例中，小程序主体违规记录信息包括针对程序主体信息的线上小程序违规数量和/或线上小程序违规率。以及，小程序内容所属行业的违规小程序信息包括在小程序内容所属行业中的线上小程序违规数量和/或线上小程序违规率。示例性地，在风险处理服务端得到小程序主体信息和小程序内容所属行业之后，风险处理服务端可以根据小程序主体信息查询违规主体数据库来获取小程序主体违规记录信息，以及根据小程序内容所属行业查询违规行业数据库来获取小程序内容所属行业的违规小程序信息。其中，违规主体数据库存储了与多个小程序主体信息分别相对应的小程序违规记录信息(例如，各个小程序主体所创建的违规小程序的数量和违规小程序占比)，违规行业数据库中记录了多个行业对应的小程序违规信息(例如，游戏、房产行业中所存在的风险小程序的数量和占比)。

接着，在块220中，基于第一风险评估模型对该待上线小程序的相关数据进行风险评估，以确定该待上线小程序的风险评估结果。这里，第一风险评估模型的数据维度与待上线小程序的相关数据中的部分或全部的数据维度信息是一致的。换言之，第一风险评估模型的特征维度可以包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息中的一者或多者，这样第一风险评估模型可以根据所输入的待上线小程序的相关数据进行预测，从而得到相应的风险评估结果(例如，小程序是否涉黄或涉毒)。在本说明书实施例的一个示例中，可以基于人工操作而预先配置第一风险评估模型的特征维度，例如从待上线小程序的相关数据的数据维度中选择部分或所有的数据维度信息来配置第一风险评估模型的特征维度。

但是，在一些情况下，研发人员事先可能也并不知晓哪个数据维度信息(例如，从第一相关数据中选择的维度)对第一风险评估模型是有效的特征维度或无效的特征维度。

鉴于此，在本说明书的另一示例中，可以由特征排序模型来从多个数据维度信息中筛选有效特征维度，以作为第一风险评估模型的入模特征。具体地，第一风险评估模型的特征维度是由特征排序模型从标注了风险评估结果的第一数据样本特征集中而确定的，其中第一数据样本特征集具有与待上线小程序的相关数据相同的特征维度，也就是第一数据样本包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。这里，可以采用多种类型的特征排序模型，在此应不加限制，例如特征排序模型可以是随机森林模型或XGBoost模型，等等。

接着，在块230中，根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理。示例性地，如果针对待上线小程序的风险评估结果为存在风险，则拒绝上线该待上线小程序。另外，如果针对待上线小程序的风险评估结果为不存在风险，则确认上线该待上线小程序。

在本说明书实施例中，应用机器学习模型综合考虑多个维度的输入数据信息，提高了所确定的小程序的风险评估结果的精确度，并依据风险评估结果对待上线小程序进行风险处理，能够有效降低应用平台的上线小程序出现风险的情况。

图3示出了根据本说明书的实施例的对第一风险评估模型进行训练的一示例的流程图。

如图3所示，在块310中，获取具有对应风险评估结果的小程序。具体地，可以是从风险工单中获取具有对应风险评估结果的小程序。这里，风险工单可以是通过对多个小程序(例如，线上或待上线小程序)分别进行人工审核的方式而确定的，风险工单中的风险评估结果可以表示小程序被人工审核为存在风险或不存在风险的结果。

接着，在块320中，根据各个小程序的相关数据确定第一数据样本特征集。

接着，在块330中，将第一数据样本特征集提供给特征排序模型，以由特征排序模型自动选择针对风险评估任务的数据维度。这样，特征排序模型从第一数据样本特征集的多个数据维度中选择有效数据维度。然后，利用有效数据维度来配置第一风险评估模型的特征维度。

接着，在块340中，第一风险评估模型根据第一数据样本特征集进行训练。

具体地，可以将第一数据样本特征集中的各个第一数据样本分为训练样本和预测样本。其中，训练样本用于对第一风险评估模型进行训练，以使得第一风险评估模型能够针对第一数据样本输出对应的小程序的风险评估结果。另外，预测样本用于验证第一风险评估模型的准确率，当模型的准确率大于阈值(例如85％)时结束训练过程。如果第一风险评估模型的准确率不满足要求，则可以调整或重新确定第一数据样本特征集、模型的特征维度等，并重新进行训练和验证，直到模型的准确率能够达标。由此，保障第一风险评估模型的性能，并确保其所确定的风险评估结果的准确率。

在本说明书实施例的一个示例中，第一风险评估模型是XGBoost模型。如上面所描述的，XGBoost模型也具有对特征维度进行排序和选择的功能。这样，XGBoost模型可以自主地在第一数据样本特征集中选择特征维度。

图4示出了根据本说明书的实施例的待上线小程序风险处理方法的一示例的流程图。

如图4所示，在块410中，基于主体风险分层映射表和待上线小程序的程序主体信息，确定待上线小程序所对应的主体风险等级。这里，主体风险分层映射表包括多组关于程序主体信息与相对应的主体风险等级之间的映射关系。以及，主体风险分层映射表可以是通过使用机器学习模型技术而确定的，例如基于第二风险评估模型而确定的，具体将在下文中展开描述。

示例性地，主体风险分层映射表是通过将关于线上小程序的相关数据集提供给第二风险评估模型进行风险评估而确定出的，线上小程序的相关数据包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。在本说明书实施例的示例中所采用的线上小程序的相关数据，相比于待上线小程序的相关数据，线上小程序的相关数据还包括线上小程序的小程序历史用户行为信息，使得第二风险评估模型可以比第一风险评估模型的输入数据维度更加丰富。这里，历史用户行为信息可以表示单个数据维度信息或多个数据维度信息，并且历史用户行为信息包括以下中的至少一种：针对线上小程序在设定时段内的用户访问量、分享量、收藏量、投诉量和差评量。

接着，在块420中，根据所确定的待上线小程序的主体风险等级，对该待上线小程序分别进行风险处理。在本说明书实施例的一个示例中，可以对主体风险等级较高(例如超过主体风险等级阈值)的小程序主体所对应的待上线小程序拒绝上线，并准许主体风险等级较低(例如低于主体风险等级阈值)的小程序主体所对应的待上线小程序上线。

在本说明书实施例的另一示例中，针对待上线小程序，可以分别执行对应于该待上线小程序的主体风险等级的风险审核流程。例如，针对一级高危主体可以直接拒绝其所创建的小程序上线，针对二级高危主体需要进行3层审核流程(例如，3次人工审核)或3人共同审核流程，针对三级高危主体需要进行2层审核流程或2人共同审核流程，而普通主体需要进行1层审核流程或单人审核流程，等等。由此，对小程序主体进行分层管理，实现重点管控高危主体所创建的小程序，有效提高了应用平台对小程序风险的把控能力。

在一些应用场景中，还可以根据主体风险分层映射表对优质小程序进行推广。例如，可以根据主体风险分层映射表中对应主体风险等级较低(例如，对应于所设定的第一主体风险等级)的小程序主体所对应的小程序来确定优质小程序集，并利用优质小程序集中的小程序向用户进行小程序业务推广，可以提升用户体验。

图5示出了根据本说明书的实施例的确定主体风险分层映射表的过程的一示例的流程图。

如图5所示，在块510中，针对各个线上小程序，基于第二风险评估模型对该线上小程序的相关数据进行风险评估，以确定该线上小程序的风险评估结果。应理解的是，第二风险评估模型所使用的特征维度是与线上小程序的相关数据中的部分或全部的数据维度信息是一致的，这样第二风险评估模型就可以基于线上小程序的相关数据输出相应的线上小程序的风险评估结果。在本说明书实施例的一个示例中，第二风险评估模型的特征维度可以是由人工选择的，例如将线上小程序的相关数据中的各个数据维度信息均作为第二风险评估模型的特征维度。

但是，线上小程序的相关数据中所具有的数据维度可能是海量的，例如在小程序历史用户行为信息中包括具有多个设定时段(例如，7天、15天、30天和60天等)的用户行为信息(例如，差评量、访问量等)，而不同设定时段的用户行为信息是相互独立的数据维度信息。此时，应当对数据维度进行筛选，以避免将无效数据维度选入第二风险评估模型，提高第二风险评估模型的性能。

在本说明书实施例的另一示例中，第二风险评估模型的特征维度是由特征排序模型从标注了风险评估结果的第二数据样本特征集中而确定的，第二数据样本包括历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。这样，即使研发人员事先不知道哪些数据维度对预测任务是有效的(或影响程度较大的)，特征排序模型也可以被应用来自动选择有效的数据维度。这里，特征排序模型的具体类型在此应不加限制，例如其可以是随机森林模型或XGBoost模型，等等。

接着，在块520中，针对各个线上小程序所对应的程序主体信息，根据该程序主体信息所对应的线上小程序的风险评估结果，确定该程序主体信息的主体风险等级。例如，如果程序主体信息下的高危线上小程序的数量较多或占比较大时，则可以确定该程序主体信息所对应的主体风险等级较高。

具体地，针对程序主体信息，可以统计出现用于指示存在风险的风险评估结果的小程序的风险线上小程序数量和/或风险线上小程序占比，然后，根据所统计的风险线上小程序数量和/或风险线上小程序占比来确定该程序主体信息所对应的主体风险等级。例如，不同主体风险等级分别具有对应的风险阈值(例如风险数量阈值和风险占比阈值)，可以通过阈值比较来确定各个小程序主体所对应的主体风险等级。

示例性地，小程序主体的线上小程序的数量是n，其中被预测为存在风险的小程序的数量为m，根据小程序主体中的n和m的值来对小程序主体进行风险等级分层。例如，当满足m>M1且m/n>K1时，确定该小程序主体为一级高危主体。当满足m>M2且m/n>K2时，确定该小程序主体为二级高危主体。当满足m>M3且m/n>K3时，确定该小程序主体为三级高危主体，其中M1>M2>M3，K1>K2>K3。另外，K1～K3和M1～M3这些风险阈值可以根据线上反馈数据进行调整，例如当线上反馈数据指示一级高危主体的准确率较低，则可以相应地提高M1和K1的值。

接着，在块530中，基于各个程序主体信息和相应的主体风险等级，确定主体风险分层映射表。由此，在主体风险分层映射表中能够找到多个程序主体信息所分别对应的主题风险等级。

在本说明书实施例的一个示例中，第二风险评估模型是具有特征排序功能的XGBoost模型。这样XGBoost模型可以自主地在第二数据样本特征集中选择特征维度，根据所选择的特征维度进行配置，并基于第二数据样本特征集进行模型训练操作。

图6示出了根据本说明书的实施例的对第二风险评估模型进行训练的一示例的流程图。其中，第二风险评估模型为XGBoost模型。

如图6所示，在块610中，获取具有对应风险评估结果的线上小程序。

接着，在块620中，根据各个线上小程序的相关数据确定第二数据样本特征集。这里，可以针对每一个线上小程序确定一个第二数据样本特征集，其中第二数据样本特征包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

接着，在块630中，将第二数据样本特征集提供给XGBoost模型，以由XGBoost模型自动选择特征维度，并利用所选择的特征维度进行配置。

接着，在块640中，XGBoost模型根据第二数据样本特征集进行训练。由此，利用XGBoost模型实现了自动选择适用于小程序风险预测任务的特征维度，并能对小程序的风险进行有效评估。

图7示出了根据本说明书的实施例的用于对待上线小程序进行风险处理的装置(下文中也称为待上线小程序风险处理装置)的一示例的结构框图。

如图7所示，待上线小程序风险处理装置700包括小程序数据获取单元710、风险评估结果确定单元720和小程序风险处理单元730、待上线主体风险等级确定单元740、小程序风险评估单元750、线上主体风险等级确定单元760和映射表确定单元770。

小程序数据获取单元710获取待上线小程序的相关数据，所述待上线小程序的相关数据包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。小程序数据获取单元710的操作可以参照上面参考图2描述的块210的操作。

风险评估结果确定单元720基于第一风险评估模型对该待上线小程序的相关数据进行风险评估，以确定该待上线小程序的风险评估结果。风险评估结果确定单元720的操作可以参照上面参考图2描述的块220的操作。

小程序风险处理单元730根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理。小程序风险处理单元730的操作可以参照上面参考图2描述的块230的操作。

进一步地，所述小程序内容描述信息包括小程序名称和/或内容描述信息；和/或，所述小程序主体违规记录信息包括针对程序主体信息的线上小程序违规数量和/或线上小程序违规率；和/或，所述小程序内容所属行业的违规小程序信息包括在小程序内容所属行业中的线上小程序违规数量和/或线上小程序违规率。

进一步地，如果针对待上线小程序的风险评估结果为存在风险，则小程序风险处理单元730拒绝上线该待上线小程序。

待上线主体风险等级确定单元740基于主体风险分层映射表待上线小程序的程序主体信息，确定所述待上线小程序所对应的主体风险等级，所述主体风险分层映射表包括多组关于程序主体信息与相对应的主体风险等级之间的映射关系。这里，小程序风险处理单元730根据所确定的待上线小程序所对应的主体风险等级，对该待上线小程序进行风险处理。其中，所述主体风险分层映射表是通过将关于线上小程序的相关数据集提供给第二风险评估模型进行风险评估而确定出的，所述线上小程序的相关数据包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。主体风险等级确定单元740的操作可以参照上面参考图4描述的块410的操作。

小程序风险评估单元750针对各个所述线上小程序，基于所述第二风险评估模型对该线上小程序的相关数据进行风险评估，以确定该线上小程序的风险评估结果。小程序风险评估单元750的操作可以参照上面参考图5描述的块510的操作。

线上主体风险等级确定单元760针对各个线上小程序所对应的程序主体信息，根据该程序主体信息所对应的小程序的风险评估结果，确定该程序主体信息的主体风险等级。主体风险等级确定单元760的操作可以参照上面参考图5描述的块520的操作。

在本说明书的一个示例中，线上主体风险等级确定单元760针对该程序主体信息，统计出现用于指示存在风险的风险评估结果的小程序的风险线上小程序数量和/或风险线上小程序占比；以及根据所统计的风险线上小程序数量和/或风险线上小程序占比，确定该程序主体信息所对应的主体风险等级。

进一步地，小程序风险处理单元730执行与该待上线小程序的主体风险等级相对应的风险审核流程。

映射表确定单元770基于各个程序主体信息和相应的主体风险等级，确定所述主体风险分层映射表。映射表确定单元770的操作可以参照上面参考图5描述的块530的操作。

应理解的是，上述待上线小程序风险处理装置700的结构仅用于示例，以及待上线小程序风险处理装置700可仅具有上述块710-770中的部分块，例如待上线小程序风险处理装置700内可不设置740-770中的一者或多者。

如上参照图2到图7，对根据本说明书实施例的用于对待上线小程序进行风险处理的方法及装置的实施例进行了描述。在以上对方法实施例的描述中所提及的细节，同样适用于本说明书实施例的装置的实施例。上面的用于对待上线小程序进行风险处理的装置可以采用硬件实现，也可以采用软件或者硬件和软件的组合来实现。

图8示出了根据本说明书的实施例的用于对待上线小程序进行风险处理的计算设备800的硬件结构图。如图8所示，计算设备800可以包括至少一个处理器810、存储器(例如非易失性存储器)820、内存830和通信接口840，并且至少一个处理器810、存储器820、内存830和通信接口840经由总线860连接在一起。至少一个处理器810执行在存储器中存储或编码的至少一个计算机可读指令(即，上述以软件形式实现的元素)。

在一个实施例中，在存储器中存储计算机可执行指令，其当执行时使得至少一个处理器810：获取待上线小程序的相关数据，所述待上线小程序的相关数据包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息；基于第一风险评估模型对该待上线小程序的相关数据进行风险评估，以确定该待上线小程序的风险评估结果；根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理。

应该理解，在存储器820中存储的计算机可执行指令当执行时使得至少一个处理器810进行本说明书的各个实施例中以上结合图2-7描述的各种操作和功能。

在本说明书实施例中，计算设备800可以包括但不限于：个人计算机、服务器计算机、工作站、桌面型计算机、膝上型计算机、笔记本计算机、移动计算设备、智能电话、平板计算机、蜂窝电话、个人数字助理(PDA)、手持装置、消息收发设备、可佩戴计算设备、消费电子设备等等。

根据一个实施例，提供了一种比如机器可读介质的程序产品。机器可读介质可以具有指令(即，上述以软件形式实现的元素)，该指令当被机器执行时，使得机器执行本说明书的各个实施例中以上结合图1-8描述的各种操作和功能。具体地，可以提供配有可读存储介质的装置，在该可读存储介质上存储着实现上述实施例中任一实施例的功能的软件程序代码，且使该装置的计算机或处理器读出并执行存储在该可读存储介质中的指令。

在这种情况下，从可读介质读取的程序代码本身可实现上述实施例中任何一项实施例的功能，因此机器可读代码和存储机器可读代码的可读存储介质构成了本发明的一部分。

可读存储介质的实施例包括软盘、硬盘、磁光盘、光盘(如CD-ROM、CD-R、CD-RW、DVD-ROM、DVD-RAM、DVD-RW、DVD-RW)、磁带、非易失性存储卡和ROM。可选择地，可以由通信网络从服务器计算机上或云上下载程序代码。

本领域技术人员应当理解，上面公开的各个实施例可以在不偏离发明实质的情况下做出各种变形和修改。因此，本发明的保护范围应当由所附的权利要求书来限定。

需要说明的是，上述各流程和各装置结构图中不是所有的步骤和单元都是必须的，可以根据实际的需要忽略某些步骤或单元。各步骤的执行顺序不是固定的，可以根据需要进行确定。上述各实施例中描述的装置结构可以是物理结构，也可以是逻辑结构，即，有些单元可能由同一物理实体实现，或者，有些单元可能分由多个物理实体实现，或者，可以由多个独立设备中的某些部件共同实现。

以上各实施例中，硬件单元或模块可以通过机械方式或电气方式实现。例如，一个硬件单元、模块或处理器可以包括永久性专用的电路或逻辑(如专门的处理器，FPGA或ASIC)来完成相应操作。硬件单元或处理器还可以包括可编程逻辑或电路(如通用处理器或其它可编程处理器)，可以由软件进行临时的设置以完成相应操作。具体的实现方式(机械方式、或专用的永久性电路、或者临时设置的电路)可基于成本和时间上的考虑来确定。

上面结合附图阐述的具体实施方式描述了示例性实施例，但并不表示可以实现的或者落入权利要求书的保护范围的所有实施例。在整个本说明书中使用的术语“示例性”意味着“用作示例、实例或例示”，并不意味着比其它实施例“优选”或“具有优势”。出于提供对所描述技术的理解的目的，具体实施方式包括具体细节。然而，可以在没有这些具体细节的情况下实施这些技术。在一些实例中，为了避免对所描述的实施例的概念造成难以理解，公知的结构和装置以框图形式示出。

本公开内容的上述描述被提供来使得本领域任何普通技术人员能够实现或者使用本公开内容。对于本领域普通技术人员来说，对本公开内容进行的各种修改是显而易见的，并且，也可以在不脱离本公开内容的保护范围的情况下，将本文所定义的一般性原理应用于其它变型。因此，本公开内容并不限于本文所描述的示例和设计，而是与符合本文公开的原理和新颖性特征的最广范围相一致。

Claims (20)

1.一种用于对待上线小程序进行风险处理的方法，包括：

获取待上线小程序的相关数据，所述待上线小程序的相关数据包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息；

基于第一风险评估模型对该待上线小程序的相关数据进行风险评估，以确定该待上线小程序的风险评估结果；

根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理。

2.如权利要求1所述的方法，其中，所述小程序内容描述信息包括小程序名称和/或内容描述信息；和/或

所述小程序主体违规记录信息包括针对程序主体信息的线上小程序违规数量和/或线上小程序违规率；和/或

所述小程序内容所属行业的违规小程序信息包括在小程序内容所属行业中的线上小程序违规数量和/或线上小程序违规率。

3.如权利要求1所述的方法，其中，所述第一风险评估模型的特征维度是由特征排序模型从标注了风险评估结果的第一数据样本特征集中而确定的，所述第一数据样本特征包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

4.如权利要求1所述的方法，其中，根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理包括：

如果针对待上线小程序的风险评估结果为存在风险，则拒绝上线该待上线小程序。

5.如权利要求1所述的方法，还包括：

基于主体风险分层映射表和待上线小程序的程序主体信息，确定所述待上线小程序所对应的主体风险等级，所述主体风险分层映射表包括多组关于程序主体信息与相对应的主体风险等级之间的映射关系；

根据所确定的待上线小程序所对应的主体风险等级，对该待上线小程序进行风险处理；

其中，所述主体风险分层映射表是通过将关于线上小程序的相关数据集提供给第二风险评估模型进行风险评估而确定出的，所述线上小程序的相关数据包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

6.如权利要求5所述的方法，还包括：

针对各个所述线上小程序，基于所述第二风险评估模型对该线上小程序的相关数据进行风险评估，以确定该线上小程序的风险评估结果；

针对各个线上小程序所对应的程序主体信息，根据该程序主体信息所对应的线上小程序的风险评估结果，确定该程序主体信息的主体风险等级；

基于各个程序主体信息和相应的主体风险等级，确定所述主体风险分层映射表。

7.如权利要求6所述的方法，其中，根据该程序主体信息所对应的小程序的风险评估结果，确定该程序主体信息的主体风险等级包括：

针对该程序主体信息，统计出现用于指示存在风险的风险评估结果的小程序的风险线上小程序数量和/或风险线上小程序占比；

根据所统计的风险线上小程序数量和/或风险线上小程序占比，确定该程序主体信息所对应的主体风险等级。

8.如权利要求5所述的方法，其中，所述小程序历史用户行为信息包括以下中的至少一种：针对线上小程序在设定时段内的用户访问量、分享量、收藏量、投诉量和差评量。

9.如权利要求8所述的方法，其中，所述第二风险评估模型的特征维度是由特征排序模型从标注了风险评估结果的第二数据样本特征集中而确定的，所述第二数据样本特征包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

10.如权利要求5所述的方法，其中，根据待上线小程序的风险评估结果，对该待上线小程序分别进行风险处理包括：

执行与该待上线小程序的主体风险等级相对应的风险审核流程。

11.一种用于对待上线小程序进行风险处理的装置，包括：

小程序数据获取单元，获取待上线小程序的相关数据，所述待上线小程序的相关数据包括小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息；

风险评估结果确定单元，基于第一风险评估模型对该待上线小程序的相关数据进行风险评估，以确定该待上线小程序的风险评估结果；

小程序风险处理单元，根据待上线小程序的风险评估结果，对该待上线小程序进行风险处理。

12.如权利要求11所述的装置，其中，所述小程序内容描述信息包括小程序名称和/或内容描述信息；和/或

所述小程序主体违规记录信息包括针对程序主体信息的线上小程序违规数量和/或线上小程序违规率；和/或

所述小程序内容所属行业的违规小程序信息包括在小程序内容所属行业中的线上小程序违规数量和/或线上小程序违规率。

13.如权利要求11所述的装置，其中，如果针对待上线小程序的风险评估结果为存在风险，则所述小程序风险处理单元拒绝上线该待上线小程序。

14.如权利要求11所述的装置，还包括：

待上线主体风险等级确定单元，基于主体风险分层映射表和待上线小程序的程序主体信息，确定所述待上线小程序所对应的主体风险等级，所述主体风险分层映射表包括多组关于程序主体信息与相对应的主体风险等级之间的映射关系；

所述小程序风险处理单元根据所确定的待上线小程序所对应的主体风险等级，对该待上线小程序进行风险处理；

其中，所述主体风险分层映射表是通过将关于线上小程序的相关数据集提供给第二风险评估模型进行风险评估而确定出的，所述线上小程序的相关数据包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

15.如权利要求14所述的装置，还包括：

小程序风险评估单元，针对各个所述线上小程序，基于所述第二风险评估模型对该线上小程序的相关数据进行风险评估，以确定该线上小程序的风险评估结果；

线上主体风险等级确定单元，针对各个线上小程序所对应的程序主体信息，根据该程序主体信息所对应的线上小程序的风险评估结果，确定该程序主体信息的主体风险等级；

映射表确定单元，基于各个程序主体信息和相应的主体风险等级，确定所述主体风险分层映射表。

16.如权利要求15所述的装置，其中，所述线上主体风险等级确定单元：

针对该程序主体信息，统计出现用于指示存在风险的风险评估结果的小程序的风险线上小程序数量和/或风险线上小程序占比；

根据所统计的风险线上小程序数量和/或风险线上小程序占比，确定该程序主体信息所对应的主体风险等级。

17.如权利要求14所述的装置，其中，所述第二风险评估模型的特征维度是由特征排序模型从具有多个维度数据信息的第二数据样本特征集中而确定的，该多个维度数据信息包括小程序历史用户行为信息、小程序内容描述信息、小程序主体违规记录信息和小程序内容所属行业的违规小程序信息。

18.如权利要求14所述的装置，其中，所述小程序风险处理单元执行与该待上线小程序的主体风险等级相对应的风险审核流程。

19.一种计算设备，包括：

至少一个处理器；以及

存储器，所述存储器存储指令，当所述指令被所述至少一个处理器执行时，使得所述至少一个处理器执行如权利要求1到10中任一所述的方法。

20.一种机器可读存储介质，其存储有可执行指令，所述指令当被执行时使得所述机器执行如权利要求1到10中任一所述的方法。

Images