CN112329427B - 短信样本的获取方法和装置 - Google Patents

Abstract

本申请涉及自然语言处理领域，公开了短信样本的获取方法和装置：通过每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信，然后基于文本内容将多条采样短信进行去重，得到去重采样短信，最后基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本。实现了对采样短信的去重筛选，得到了难以进行分类的待标注的短信样本，使得待标注的短信样本的数量减少且每个短信样本之间的差异增大，提高了待标注的短信样本的可用性和效果性，从而能够提高基于该短信样本得到的模型的分类和审核效果，提高了基于该短信样本得到的模型的准确率。

Description

短信样本的获取方法和装置

技术领域

本申请涉及计算机技术领域，具体自然语言处理领域，尤其涉及一种短信样本的获取方法和装置。

背景技术

随着科技不断进步，互联网不断发展，人工智能技术已逐渐应用于工业、金融等各行各业，用于解决人们在生产和生活中的各种问题。监督学习作为机器学习中最为重要的一部分，基于大量已经标注的样本对生产中的问题建模，往往可以取得比无监督方法更好的效果，然而监督学习往往需要高昂的标注成本。

在生产环境中，往往存在大量未标注的样本，由于标注成本等原因，已经标注的样本往往较少。对大量未标注的样本进行标注的人工成本较高，且大量未标注的样本中存在较多的无效样本，样本的质量较差等。

发明内容

本申请实施例提供了一种短信样本的获取方法、装置、电子设备以及存储介质。

第一方面，本申请实施例提供了一种短信样本的获取方法，该方法包括：每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信；基于文本内容将多条采样短信进行去重，得到去重采样短信；基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本。

在一些实施例中，基于文本内容将多条采样短信进行去重，得到去重采样短信，基于以下步骤实现：获取当前采样时刻的多条采样短信，其中，多条采样短信包括多个短信类别，每个短信类别分别包括多条采样短信；针对每个短信类别的多条采样短信，获取多条采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对该短信类别的多条采样短信进行去重，得到该短信类别的去重采样短信。

在一些实施例中，针对每个短信类别的多条采样短信，获取多条采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对该短信类别的多条采样短信进行去重，得到该短信类别的去重采样短信，基于以下步骤实现：针对每个短信类别的多条采样短信，获取多条采样短信的短信模板；基于短信模板对该短信类别的多条采样短信进行第一去重，得到第一去重采样短信；对第一去重采样短信进行文本预处理，得到第一去重采样短信的文本内容的文本相似度；基于文本相似度对去重后的采样短信进行第二去重，得到第二去重采样短信，并将第二去重采样短信确定为该短信类别的去重采样短信。

在一些实施例中，基于文本内容将多条采样短信进行去重，得到去重采样短信，还包括以下步骤：针对全部短信类别的去重采样短信，获取全部短信类别的去重采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对全部短信类别的去重采样短信进行第三去重，得到第三去重采样短信，并将第三去重采样短信确定为去重采样短信。

在一些实施例中，基于文本内容将多条采样短信进行去重，得到去重采样短信，还包括以下步骤：获取数据库中待标注的短信样本；将数据库中待标注的短信样本与去重采样短信进行比较，基于文本内容将去重采样短信进行第四去重，得到第四去重采样短信，并将第四去重采样短信确定为去重采样短信。

在一些实施例中，该方法还包括：响应于获取到待标注的短信样本，对待标注的短信样本进行分类标注，得到带标注结果的短信样本；将带标注结果的短信样本进行句子切分，得到带标注结果的短信样本对应的句子序列；基于句子序列和短信样本的标注结果，对Ernie Tiny-CNN构成的神经网络模型进行训练，得到用于对短信进行分类和审核的分类审核模型。

在一些实施例中，该方法还包括：获取分类审核模型输出的分类概率和审核概率；基于待标注的短信样本对应的真实分类概率、分类审核模型输出的分类概率、真实审核概率和分类审核模型输出的审核概率，确定分类审核模型的损失函数；基于损失函数，对分类审核模型进行参数调优，得到调优后的分类审核模型。

在一些实施例中，该方法还包括：响应于获取到待处理短信，将待处理短信执行句子切分，得到待处理短信对应的句子序列；将句子序列输入分类审核模型中的Ernie Tiny预训练模型，得到待处理短信的特征向量；将待处理短信的特征向量输入分类审核模型中的分类模型，得到待处理短信的分类结果；将待处理短信的特征向量输入分类审核模型中的审核模型，得到待处理短信的审核结果；基于待处理短信的分类结果和审核结果，确定是否发送待处理短信。

第二方面，本申请实施例提供了一种短信样本的获取装置，该装置包括：采样模块，被配置成每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信；去重模块，被配置成基于文本内容将多条采样短信进行去重，得到去重采样短信；筛选模块，被配置成基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本。

在一些实施例中，去重模块，包括：获取单元，被配置成获取当前采样时刻的多条采样短信，其中，多条采样短信包括多个短信类别，每个短信类别分别包括多条采样短信；去重单元，被配置成针对每个短信类别的多条采样短信，获取多条采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对该短信类别的多条采样短信进行去重，得到该短信类别的去重采样短信。

在一些实施例中，去重单元，进一步被配置成：针对每个短信类别的多条采样短信，获取多条采样短信的短信模板；基于短信模板对该短信类别的多条采样短信进行第一去重，得到第一去重采样短信；对第一去重采样短信进行文本预处理，得到第一去重采样短信的文本内容的文本相似度；基于文本相似度对去重后的采样短信进行第二去重，得到第二去重采样短信，并将第二去重采样短信确定为该短信类别的去重采样短信。

在一些实施例中，去重单元，进一步被配置成：针对全部短信类别的去重采样短信，获取全部短信类别的去重采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对全部短信类别的去重采样短信进行第三去重，得到第三去重采样短信，并将第三去重采样短信确定为去重采样短信。

在一些实施例中，去重单元，进一步被配置成：获取数据库中待标注的短信样本；将数据库中待标注的短信样本与去重采样短信进行比较，基于文本内容将去重采样短信进行第四去重，得到第四去重采样短信，并将第四去重采样短信确定为去重采样短信。

在一些实施例中，该装置还包括：标注模块，被配置成响应于获取到待标注的短信样本，对待标注的短信样本进行分类标注，得到带标注结果的短信样本；切分模块，被配置成将带标注结果的短信样本进行句子切分，得到带标注结果的短信样本对应的句子序列；训练模块，被配置成基于句子序列和短信样本的标注结果，对Ernie Tiny-CNN构成的神经网络模型进行训练，得到用于对短信进行分类和审核的分类审核模型。

在一些实施例中，该装置还包括：获取模块，被配置成获取分类审核模型输出的分类概率和审核概率；确定模块，被配置成基于待标注的短信样本对应的真实分类概率、分类审核模型输出的分类概率、真实审核概率和分类审核模型输出的审核概率，确定分类审核模型的损失函数；调优模块，被配置成基于损失函数，对分类审核模型进行参数调优，得到调优后的分类审核模型。

在一些实施例中，该装置还包括：输入模块和发送模块；切分模块，进一步被配置成响应于获取到待处理短信，将待处理短信执行句子切分，得到待处理短信对应的句子序列；输入模块，进一步被配置成将句子序列输入分类审核模型中的Ernie Tiny预训练模型，得到待处理短信的特征向量；将待处理短信的特征向量输入分类审核模型中的分类模型，得到待处理短信的分类结果；将待处理短信的特征向量输入分类审核模型中的审核模型，得到待处理短信的审核结果；发送模块，进一步被配置成基于待处理短信的分类结果和审核结果，确定是否发送待处理短信。

第三方面，本申请实施例提供了一种电子设备，该电子设备包括一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被该一个或多个处理器执行，使得一个或多个处理器实现如第一方面的任一实施例的方法。

第四方面，本申请实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面的任一实施例的方法。

本申请通过每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信，然后基于文本内容将多条采样短信进行去重，得到去重采样短信，最后基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本，实现了对采样短信的去重筛选，得到了难以进行分类的待标注的短信样本，使得待标注的短信样本的数量减少且每个短信样本之间的差异增大，提高了待标注的短信样本的可用性和效果性，从而能够提高基于该短信样本得到的模型的分类和审核效果，提高了基于该短信样本得到的模型的准确率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其他特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1是本申请可以应用于其中的示例性系统架构图；

图2是根据本申请的短信样本的获取方法的一个实施例的流程图；

图3是根据本申请的短信样本的获取方法的一个应用场景的示意图；

图4是根据本申请的对采样短信进行去重的一个实施例的流程图；

图5是根据本申请的获取分类审核模型的一个实施例的流程图；

图6是根据本申请的短信样本的获取装置的一个实施例的示意图；

图7是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的短信样本的获取方法的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备104、105，网络106，服务器101、102、103。网络106用以在终端设备104、105与服务器101、102、103之间提供通信链路的介质。网络106可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以通过终端设备104、105通过网络106与服务器101、102、103交互，以接收或发送信息等。终端设备104、105上可以安装有各种应用，例如数据处理应用、即时通信工具、社交平台软件、搜索类应用、购物类应用等。

终端设备104、105可以是硬件，也可以是软件。当终端设备为硬件时，可以是具有显示屏并且支持与服务器通信的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器101、102、103可以是提供各种服务的服务器，例如对与其建立通信连接的终端设备发送的请求进行接收的后台服务器。后台服务器可以对终端设备发送的请求进行接收和分析等处理，并生成处理结果。

服务器101、102、103可以通过设定采样时间，每间隔预设时长对当前采样时刻的短信进行采样，获取到多条采样短信。然后服务器可以对采样短信进行自然语言处理，获取多条采样短信的文本内容，根据该文本内容对多条采样短信进行去重操作，删除一些重复的采样短信，得到去重采样短信。最后服务器得到去重采样短信后，进一步利用主动学习算法对得到的去重采样短信进行筛选，确定出去重采样短信中较难分类的采样短信，经筛选后的采样短信作为待标注的短信样本，以训练分类审核模型。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以是为终端设备提供各种服务的各种电子设备。当服务器为软件时，可以实现成为为终端设备提供各种服务的多个软件或软件模块，也可以实现成为为终端设备提供各种服务的单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开的实施例所提供的短信样本的获取方法可以由服务器101、102、103执行。相应地，短信样本的获取装置可以设置于服务器101、102、103中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

参考图2，图2示出了可以应用于本申请的短信样本的获取方法的实施例的流程示意图200。该短信样本的获取方法包括以下步骤：

步骤210，每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信。

在本实施例中，短信平台线上实时下发给用户的短信数量较大，往往可以达到千万级，由于短信平台上审核的短信多为商家通过短信模板生成的短信，因此，短信在文本内容上存在一定的相似性。短信样本的获取方法的执行主体(例如图1中的服务器101、102、103)可以预先设定采样间隔，可以根据短信平台线上实时下发给用户的短信数量，预先设定将预设时长作为采样间隔，例如每t时间作为一个采样时间间隔。上述执行主体可以通过审核接口获取到需要分类审核的短信，这些短信包括多种短信类别，例如不同消费者、顾客对应的短信，不同商家对应的短信等等，这些短信以消息队列的形式存在，该消息队列中包括多种短信类别短信。

上述执行主体通过定时器等计算时间间隔，每间隔预设时长开始执行采样步骤，将当前时刻作为当前采样时刻，并对当前采样时刻获取到的短信进行采样，通过审核接口将当前采样时刻需要分类审核的短信作为采样短信，则获取到多条采样短信。

作为示例，短信类别定义为消费者对应的短信，共有10个消费者，每个消费者分别对应一个短信发送请求，每个短信发送请求中包括的短信数最多200条。上述执行主体在间隔预设时长时，通过审核接口对10个消费者对应的短信进行采样，则可以分别获取到每个消费者对应的200条短信，即可以获取2000条短信。

步骤220，基于文本内容将多条采样短信进行去重，得到去重采样短信。

在本实施例中，上述执行主体在获取到多条采样短信后，可以将多条采样短信进行排序，得到采样短信序列。然后上述执行主体可以分别对采样短信序列中每条采样短信进行自然语言处理，获取到每条采样短信的文本内容。之后按照采样短信序列中采样短信的排序，将每条采样短信的文本内容依次进行对比，将重复的采样短信删除，以实现对多条采样短信的去重，将剩下的采样短信作为去重采样短信。

步骤230，基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本。

在本实施例中，上述执行主体在对采样短信进行去重得到去重采样短信后，调用主动学习算法对去重采样短信进行筛选，从去重采样短信中选择一些文本内容差异较大且难分类的采样短信得到筛选后的采样短信。在各种主动学习算法中可以通过查询函数选择出一个或一批最有用的样本，查询函数的设计最常用的策略是：不确定性准则(uncertainty)和差异性准则(diversity)。其中，不确定性可以基于信息熵来进行构建，信息熵是衡量信息量的概念，也是衡量不确定性的概念。信息熵越大，就代表不确定性越大，包含的信息量也就越丰富，例如熵值装袋查询(Entropy query-by-bagging)。不确定性策略即找出不确定性较高的短信样本，这些短信样本所包含的丰富信息量，文本内容丰富，训练模型的可用性高。差异性可以表示各个短信样本中包括文本内容信息不重复、不冗余，即短信样本之间具有一定的差异性。

上述执行主体通过主动学习算法筛选出一些不确定性较大和差异性较大的采样短信作为筛选后的采样短信，将筛选后的采样短信确定为待标注的短信样本，以供对短信样本进行标注。

继续参见图3，图3是根据本实施例的短信样本的获取方法的应用场景的一个示意图。

在图3的应用场景中，服务器301每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信。然后服务器301可以将多条采样短信进行排序，得到采样短信序列，并分别对采样短信序列中每条采样短信进行自然语言处理，获取到每条采样短信的文本内容，之后按照采样短信序列中采样短信的排序，将每条采样短信的文本内容依次进行对比，对多条采样短信的去重，得到去重采样短信。最后服务器301调用主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本。

本公开的实施例提供的短信样本的获取方法，通过每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信，然后基于文本内容将多条采样短信进行去重，得到去重采样短信，最后基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本，实现了对采样短信的去重筛选，得到了难以进行分类的待标注的短信样本，使得待标注的短信样本的数量减少且每个短信样本之间的差异增大，提高了待标注的短信样本的可用性和效果性，从而能够提高基于该短信样本得到的模型的分类和审核效果，提高了基于该短信样本得到的模型的准确率。

进一步参考图4，其示出了对采样短信进行去重的一个实施例的流程400。该流程400示出了上述步骤220，基于文本内容将多条采样短信进行去重，得到去重采样短信，该流程400可以包括以下步骤：

步骤410，获取当前采样时刻的多条采样短信。

在本步骤中，上述执行主体通过定时器等计算时间间隔，每间隔预设时长开始执行采样步骤，将当前时刻作为当前采样时刻，并对当前采样时刻获取到的短信进行采样，通过审核接口将当前采样时刻需要分类审核的短信作为采样短信，则获取到多条采样短信。其中，多条采样短信包括多个短信类别，每条采样短信均对应有短信类别，每个短信类别分别包括多条采样短信。

步骤420，针对每个短信类别的多条采样短信，获取多条采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对该短信类别的多条采样短信进行去重，得到该短信类别的去重采样短信。

在本步骤中，每条短信可以有根据短信模板生成，每个短信模板具有对应的模板标识，同一个短信模板生成的短信在文本内容上具有相似性。上述执行主体获取到多个短信类别的采样短信后，分别针对每个短信类别的多条采样短信，将该短信类别对应的多条采样短信进行文本处理，获取每条采样短信对应的短信模板，例如获取每条采样短信对应的短信模板的模板标识。以及上述执行主体通过对多条采样短信进行文本处理，获取到每条采样短信的文本内容，根据该文本内容，获取到各个采样短信的文本内容之间的文本相似度。

上述执行主体在获取到每个短信类别的多条采样短信分别对应的短信模板和文本相似度，将短信模板相同的采样短信进行去重，以及同时将文本相似度超过预设阈值的采样短信进行去重，得到每个短信类别下的去重采样短信。

在本实现方式中，通过针对每个短信类别的多条采样短信进行短信模板和文本相似度去重，得到每个短信类别下的去重采样短信，实现了短信类别内的采样短信去重，能够减少采样短信的数量，提高采样短信的差异性和可用性。

作为一个可选实现方式，上述步骤220，基于文本内容将多条采样短信进行去重，得到去重采样短信，还可以包括以下步骤：

步骤430，针对全部短信类别的去重采样短信，获取全部短信类别的去重采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对全部短信类别的去重采样短信进行第三去重，得到第三去重采样短信，并将第三去重采样短信确定为去重采样短信。

在本步骤中，上述执行主体在对每个短信类别内的采样短信进行去重后，还可以对短信类别之间的采样短信进行去重，即上述执行主体获取到每个短信类别的去重采样短信，将全部短信类别的去重采样短信进行去重。上述执行主体可以在每次获取到每个短信类别的去重采样短信后，对全部短信类别的去重采样短信进行去重；还可以在获取到每个短信类别的去重采样短信预设次数之后，将预设次数的、全部短信类别的去重采样短信进行去重；还可以间隔预设时间，将预设时间内的全部短信类别的去重采样短信进行去重。

上述执行主体获取到全部短信类别的去重采样短信，将全部短信类别的去重采样短信进行文本处理，获取每条去重采样短信对应的短信模板，例如获取每条采样短信对应的短信模板的模板标识。并通过对全部短信类别的去重采样短信进行文本处理，获取到每条去重采样短信的文本内容，根据该文本内容，获取到各个去重采样短信的文本内容之间的文本相似度。

上述执行主体在获取到每个短信类别的多条采样短信分别对应的短信模板和文本相似度，将短信模板相同的采样短信进行去重，以及同时将文本相似度超过预设阈值的采样短信进行去重，以实现基于短信模板和文本相似度对全部短信类别的去重采样短信进行第三去重，得到第三去重采样短信，并将第三去重采样短信确定为去重采样短信。

作为示例，上述执行主体可以获取到一天(24小时)内全部短信类别的去重采样短信，将一天内得到的全部去重采样短信根据短信模板和文本相似度对全部去重采样短信进行第三去重，得到第三去重采样短信，并将第三去重采样短信确定为去重采样短信。

作为示例，上述执行主体还可以在获取到一次全部短信类别的去重采样短信后，将这一次得到的全部短信类别的去重采样短信根据短信模板和文本相似度对全部去重采样短信进行第三去重，得到第三去重采样短信，并将第三去重采样短信确定为去重采样短信。

在本实现方式中，通过针对全部短信类别的多条采样短信进行短信模板和文本相似度去重，得到全部短信类别下的去重采样短信，实现了短信类别之间的采样短信去重，能够减少采样短信的数量，提高采样短信的差异性和可用性。

作为一个可选实现方式，上述步骤220，基于文本内容将多条采样短信进行去重，得到去重采样短信，还可以包括以下步骤：

步骤440，获取数据库中待标注的短信样本。

在本步骤中，上述执行主体通过本地读取等方式获取到数据库中待标注的短信样本。该数据库中存储带有短信模板的短信样本和无短信模板的短信样本，该数据库中的短信样本是已经经过去重后的短信样本。

步骤450，将数据库中待标注的短信样本与去重采样短信进行比较，基于文本内容将去重采样短信进行第四去重，得到第四去重采样短信，并将第四去重采样短信确定为去重采样短信。

在本步骤中，上述执行主体在获取到去重采样短信后，将数据库中待标注的短信样本的文本内容与去重采样短信的文本内容进行比较，对去重采样短信进行第四去重，删除一些重复的文本内容对应的去重后采样短信，得到第四去重采样短信，并将第四去重采样短信确定为去重采样短信。

作为示例，上述执行主体通过对去重采样短信和数据库中的短信样本进行文本处理，获取到去重采样短信的文本内容和数据库中的短信样本的文本内容，根据这两者的文本内容，获取到去重采样短信的文本内容和数据库中的短信样本的文本内容之间的文本相似度，将文本相似度超过预设阈值的去重采样短信进行去重，将文本相似度不超过预设阈值的去重采样短信作为第四去重采样短信，并将第四去重采样短信确定为去重采样短信，将去重采样短信存入数据库。

在本实现方式中，通过将去重采样短信和数据库中的短信样本进行去重，得到最终的去重采样短信，使得得到的去重采样短信的文本内容丰富、差异性和可用性较高。

作为一个可选实现方式，上述步骤420，针对每个短信类别的多条采样短信，获取多条采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对该短信类别的多条采样短信进行去重，得到该短信类别的去重采样短信，可以基于以下步骤实现：

第一步，针对每个短信类别的多条采样短信，获取多条采样短信的短信模板。

在本步骤中，上述执行主体获取到采样短信的短信类别后，针对每个短信类别包括的多条采样短信进行文本处理，确定出每条采样短信的短信模板，例如每条采样短信对应的模板标识，上述执行主体可以直接从短信生成平台中获取每条采样短信对应的模板标识。

第二步，基于短信模板对该短信类别的多条采样短信进行第一去重，得到第一去重采样短信。

在本步骤中，上述执行主体获取到每条采样短信对应的短信模板后，将每条采样短信的短信模板进行比较，将同一短信模板的采样短信进行去重，以实现对该短信类别的多条采样短信进行第一去重，得到第一去重采样短信。

第三步，对第一去重采样短信进行文本预处理，得到第一去重采样短信的文本内容的文本相似度。

在本步骤中，上述执行主体获取到第一去重采样短信后，对第一去重采样短信进行文本预处理，获取到每条第一去重采样短信的文本内容，根据该文本内容，获取到各个第一去重采样短信的文本内容之间的文本相似度。

第四步，基于文本相似度对去重后的采样短信进行第二去重，得到第二去重采样短信，并将第二去重采样短信确定为该短信类别的去重采样短信。

在本步骤中，上述执行主体在获取到各个第一去重采样短信的文本内容之间的文本相似度后，根据该文本相似度和预设阈值之间的比较结果对去重后的采样短信进行第二去重，即将文本相似度超过预设阈值的第一去重采样短信进行删除，得到第二去重采样短信，并将第二去重采样短信确定为该短信类别的去重采样短信。

在本实现方式中，通过针对每个短信类别的多条采样短信进行短信模板和文本相似度去重，得到每个短信类别下的去重采样短信，从而实现了短信类别内的采样短信去重，能够减少采样短信的数量，提高采样短信的差异性和可用性。

进一步参考图5，其示出了获取分类审核模型的一个实施例的流程500。该流程500，可以包括以下步骤：

步骤510，响应于获取到待标注的短信样本，对待标注的短信样本进行分类标注，得到带标注结果的短信样本。

在本步骤中，上述执行主体通过上述步骤获取到待标注的短信样本，可以将待标注的短信样本发送至客户端以使得标注人员对待标注的短信样本进行分类标注，并接收到客户端返回的带标注结果的短信样本。其中，该标注结果可以包括该短信样本对应的分类结果和审核结果，还可以包括该短信样本对应的真实分类概率和真实审核概率。

步骤520，将带标注结果的短信样本进行句子切分，得到带标注结果的短信样本对应的句子序列。

在本步骤中，上述执行主体获取到带标注结果的短信样本后，对短信样本中的文本内容进行分析，根据文本内容中的标点符号对短信样本中的文本内容进行句子切分，得到带标注结果的短信样本对应的句子序列。

步骤530，基于句子序列和短信样本的标注结果，对Ernie Tiny-CNN构成的神经网络模型进行训练，得到用于对短信进行分类和审核的分类审核模型。

在本步骤中，上述执行主体获取到带标注结果的短信样本对应的句子序列和短信样本的标注结果，将带标注结果的短信样本对应的句子序列作为输入，将短信样本的标注结果作为期望输出，对Ernie Tiny-CNN构成的神经网络模型进行训练，得到用于对短信进行分类和审核的分类审核模型。

在本实施例中，通过基于带标注结果的短信样本和标注结果对模型进行训练，得到用于对短信进行分类和审核的分类审核模型，实现了多任务模型的获取，在保证短信样本的可用性和效果性的基础上，提高了分类审核模型的准确率。

作为一个可选实现方式，该短信样本的获取方法还可以包括以下步骤：

第一步，获取分类审核模型输出的分类概率和审核概率。

在本步骤中，上述执行主体在获取到分类审核模型后，将短信样本输入至该分类审核模型，获取到分类结果和审核结果，以及该分类审核模型输出的分类概率和审核概率。其中，分类审核模型输出的分类概率和审核概率用于表征分类审核模型对短信样本的分类预测概率和审核预测概率，分类概率和审核概率均为小于1的数值。

第二步，基于待标注的短信样本对应的真实分类概率、分类审核模型输出的分类概率、真实审核概率和分类审核模型输出的审核概率，确定分类审核模型的损失函数。

在本步骤中，上述执行主体获取到分类审核模型输出的分类概率和审核概率后，从标注结果中获取到待标注的短信样本对应的真实分类概率和真实审核概率。然后上述执行主体可以根据待标注的短信样本对应的真实分类概率和分类审核模型输出的分类概率，以及待标注的短信样本对应的真实审核概率和分类审核模型输出的审核概率，构建分类审核模型的损失函数。例如，上述执行主体可以构建的损失函数如下：

其中，p(y_o)为待标注的短信样本对应的真实审核概率，p(y_o)′为分类审核模型输出的分类概率；p(y_o)为待标注的短信样本对应的真实审核概率，p(y_a)′为分类审核模型输出的审核概率。

第三步，基于损失函数，对分类审核模型进行参数调优，得到调优后的分类审核模型。

在本步骤中，上述执行主体获取到分类审核模型的损失函数，基于该损失函数对分类审核模型中的参数进行调整，以得到调优后的分类审核模型。

在本实现方式中，通过构造联合损失函数同时优化分类审核模型中的分类参数和审核参数，提高了分类审核模型的准确率。

作为一个可选实现方式，该短信样本的获取方法还可以包括以下步骤：

第一步，响应于获取到待处理短信，将待处理短信执行句子切分，得到待处理短信对应的句子序列。

在本步骤中，上述执行主体通过审核接口接收到待处理短信，对待处理短信中的文本内容进行分析，根据文本内容中的标点符号将待处理短信执行句子切分，得到待处理短信对应的句子序列。

第二步，将句子序列输入分类审核模型中的Ernie Tiny预训练模型，得到待处理短信的特征向量。

在本步骤中，上述执行主体获取到待处理短信对应的句子序列后，将句子序列输入分类审核模型中的Ernie Tiny预训练模型，得到待处理短信的特征向量。

第三步，将待处理短信的特征向量输入分类审核模型中的分类模型，得到待处理短信的分类结果。

在本步骤中，上述执行主体得到Ernie Tiny预训练模型输出的特征向量后，将待处理短信的特征向量输入分类审核模型中的分类模型，得到待处理短信的分类结果。其中，该分类结果可以表征待处理短信的内容类别，例如房地产、广告、黄赌毒、反党、汽车、医疗、诈骗、教育、游戏等内容类别。

第四步，将待处理短信的特征向量输入分类审核模型中的审核模型，得到待处理短信的审核结果。

在本步骤中，上述执行主体上述执行主体得到Ernie Tiny预训练模型输出的特征向量后，将待处理短信的特征向量输入分类审核模型中的审核模型，得到待处理短信的审核结果。其中，该审核结果可以表征待处理短信是否符合发送规定的结果，例如用于判断待处理短信是否符合国家和短信运营商的政策规定的结果。

第五步，基于待处理短信的分类结果和审核结果，确定是否发送待处理短信。

在本步骤中，上述执行主体获取到待处理短信的分类结果和审核结果后，可以根据分类结果和审核结果确定是否发送待处理短信。若审核结果为通过时，则将该带有分类结果的待处理短信进行发送；若审核结果为未通过时，则对该带有分类结果的待处理短信不执行发送操作。

在本实现方式中，基于分类审核模型得到待处理短信的分类结果和审核结果，提高了待处理短信分类审核的效率和准确性。

作为一个可选实现方式，该短信样本的获取方法还可以包括：通过设定一个定时任务，定时检测上述数据库中存储的待标注的新增短信样本，当新增短信样本达到预设数量时，则自动对分类审核模型进行迭代训练；当满足训练终止条件时，对分类审核模型进行评估。若评估结果指示迭代后的分类审核模型较历史分类审核模型有效果上的提升，则自动通过滚动更新的方式，更新线上分类审核模型，完成分类审核模型的线上更新。

进一步参考图6，作为对上述各图所示方法的实现，本申请提供了一种短信样本的获取装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例的短信样本的获取装置600包括：采样模块610、去重模块620、筛选模块630。

其中，采样模块610，被配置成每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信；

去重模块620，被配置成基于文本内容将多条采样短信进行去重，得到去重采样短信；

筛选模块630，被配置成基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本。

在本实施例的一些可选的方式中，去重模块，包括：获取单元，被配置成获取当前采样时刻的多条采样短信，其中，多条采样短信包括多个短信类别，每个短信类别分别包括多条采样短信；去重单元，被配置成针对每个短信类别的多条采样短信，获取多条采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对该短信类别的多条采样短信进行去重，得到该短信类别的去重采样短信。

在本实施例的一些可选的方式中，去重单元，进一步被配置成：针对每个短信类别的多条采样短信，获取多条采样短信的短信模板；基于短信模板对该短信类别的多条采样短信进行第一去重，得到第一去重采样短信；对第一去重采样短信进行文本预处理，得到第一去重采样短信的文本内容的文本相似度；基于文本相似度对去重后的采样短信进行第二去重，得到第二去重采样短信，并将第二去重采样短信确定为该短信类别的去重采样短信。

在本实施例的一些可选的方式中，去重单元，进一步被配置成：针对全部短信类别的去重采样短信，获取全部短信类别的去重采样短信的短信模板和文本内容的文本相似度，并基于短信模板和文本相似度对全部短信类别的去重采样短信进行第三去重，得到第三去重采样短信，并将第三去重采样短信确定为去重采样短信。

在本实施例的一些可选的方式中，去重单元，进一步被配置成：获取数据库中待标注的短信样本；将数据库中待标注的短信样本与去重采样短信进行比较，基于文本内容将去重采样短信进行第四去重，得到第四去重采样短信，并将第四去重采样短信确定为去重采样短信。

在本实施例的一些可选的方式中，该装置还包括：标注模块，被配置成响应于获取到待标注的短信样本，对待标注的短信样本进行分类标注，得到带标注结果的短信样本；切分模块，被配置成将带标注结果的短信样本进行句子切分，得到带标注结果的短信样本对应的句子序列；训练模块，被配置成基于句子序列和短信样本的标注结果，对Ernie Tiny-CNN构成的神经网络模型进行训练，得到用于对短信进行分类和审核的分类审核模型。

在本实施例的一些可选的方式中，该装置还包括：获取模块，被配置成获取分类审核模型输出的分类概率和审核概率；确定模块，被配置成基于待标注的短信样本对应的真实分类概率、分类审核模型输出的分类概率、真实审核概率和分类审核模型输出的审核概率，确定分类审核模型的损失函数；调优模块，被配置成基于损失函数，对分类审核模型进行参数调优，得到调优后的分类审核模型。

在本实施例的一些可选的方式中，该装置还包括：输入模块和发送模块；切分模块，进一步被配置成响应于获取到待处理短信，将待处理短信执行句子切分，得到待处理短信对应的句子序列；输入模块，进一步被配置成将句子序列输入分类审核模型中的ErnieTiny预训练模型，得到待处理短信的特征向量；将待处理短信的特征向量输入分类审核模型中的分类模型，得到待处理短信的分类结果；将待处理短信的特征向量输入分类审核模型中的审核模型，得到待处理短信的审核结果；发送模块，进一步被配置成基于待处理短信的分类结果和审核结果，确定是否发送待处理短信。

本公开的实施例提供的短信样本的获取装置，通过每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信，然后基于文本内容将多条采样短信进行去重，得到去重采样短信，最后基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本，实现了对采样短信的去重筛选，得到了难以进行分类的待标注的短信样本，使得待标注的短信样本的数量减少且每个短信样本之间的差异增大，提高了待标注的短信样本的可用性和效果性，从而能够提高基于该短信样本得到的模型的分类和审核效果，提高了基于该短信样本得到的模型的准确率。

根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。

如图7所示，是根据本申请实施例的短信样本的获取方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图7所示，该电子设备包括：一个或多个处理器701、存储器702，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器701为例。

存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的短信样本的获取方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的短信样本的获取方法。

存储器702作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的短信样本的获取方法对应的程序指令/模块(例如，附图6所示的采样模块610、去重模块620和筛选模块630)。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的短信样本的获取方法。

存储器702可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据数据推送的电子设备的使用所创建的数据等。此外，存储器702可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器702可选包括相对于处理器701远程设置的存储器，这些远程存储器可以通过网络连接至数据推送的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

短信样本的获取方法的电子设备还可以包括：输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接，图7中以通过总线连接为例。

输入装置703可接收输入的数字或字符信息，以及产生与数据推送的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

根据本申请实施例的技术方案，通过每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信，然后基于文本内容将多条采样短信进行去重，得到去重采样短信，最后基于主动学习算法对去重采样短信进行筛选，得到筛选后的采样短信，并将筛选后的采样短信确定为待标注的短信样本，实现了对采样短信的去重筛选，得到了难以进行分类的待标注的短信样本，使得待标注的短信样本的数量减少且每个短信样本之间的差异增大，提高了待标注的短信样本的可用性和效果性，从而能够提高基于该短信样本得到的模型的分类和审核效果，提高了基于该短信样本得到的模型的准确率。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (12)

1.一种短信样本的获取方法，包括：

每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信；

基于文本内容将所述多条采样短信进行去重，得到去重采样短信，包括：获取当前采样时刻的多条采样短信，其中，所述多条采样短信包括多个短信类别，每个短信类别分别包括多条采样短信；针对每个短信类别的多条采样短信，获取所述多条采样短信的短信模板；基于所述短信模板对该短信类别的多条采样短信进行第一去重，得到第一去重采样短信；对所述第一去重采样短信进行文本预处理，得到所述第一去重采样短信的文本内容的文本相似度；基于所述文本相似度对所述去重后的采样短信进行第二去重，得到第二去重采样短信，并将所述第二去重采样短信确定为该短信类别的去重采样短信；针对全部短信类别的去重采样短信，获取所述全部短信类别的去重采样短信的短信模板和文本内容的文本相似度，并基于所述短信模板和所述文本相似度对所述全部短信类别的去重采样短信进行第三去重，得到第三去重采样短信，并将所述第三去重采样短信确定为去重采样短信；

基于主动学习算法对所述去重采样短信进行筛选，得到筛选后的采样短信，并将所述筛选后的采样短信确定为待标注的短信样本。

2.根据权利要求1所述的方法，其中，所述基于文本内容将所述多条采样短信进行去重，得到去重采样短信，还包括以下步骤：

获取数据库中待标注的短信样本；

将所述数据库中待标注的短信样本与所述去重采样短信进行比较，基于文本内容将所述去重采样短信进行第四去重，得到第四去重采样短信，并将所述第四去重采样短信确定为去重采样短信。

3.根据权利要求1-2任意一项所述的方法，其中，所述方法还包括：

响应于获取到待标注的短信样本，对所述待标注的短信样本进行分类标注，得到带标注结果的短信样本；

将所述带标注结果的短信样本进行句子切分，得到所述带标注结果的短信样本对应的句子序列；

基于所述句子序列和所述短信样本的标注结果，对Ernie Tiny-CNN构成的神经网络模型进行训练，得到用于对短信进行分类和审核的分类审核模型。

4.根据权利要求3所述的方法，其中，所述方法还包括：

获取所述分类审核模型输出的分类概率和审核概率；

基于所述待标注的短信样本对应的真实分类概率、分类审核模型输出的分类概率、真实审核概率和分类审核模型输出的审核概率，确定所述分类审核模型的损失函数；

基于所述损失函数，对所述分类审核模型进行参数调优，得到调优后的分类审核模型。

5.根据权利要求3所述的方法，其中，所述方法还包括：

响应于获取到待处理短信，将所述待处理短信执行句子切分，得到所述待处理短信对应的句子序列；

将所述句子序列输入所述分类审核模型中的Ernie Tiny预训练模型，得到所述待处理短信的特征向量；

将所述待处理短信的特征向量输入所述分类审核模型中的分类模型，得到所述待处理短信的分类结果；

将所述待处理短信的特征向量输入所述分类审核模型中的审核模型，得到所述待处理短信的审核结果；

基于所述待处理短信的分类结果和审核结果，确定是否发送所述待处理短信。

6.一种短信样本的获取装置，包括：

采样模块，被配置成每间隔预设时长对当前采样时刻的短信进行采样，得到多条采样短信；

去重模块，被配置成基于文本内容将所述多条采样短信进行去重，得到去重采样短信；

筛选模块，被配置成基于主动学习算法对所述去重采样短信进行筛选，得到筛选后的采样短信，并将所述筛选后的采样短信确定为待标注的短信样本；

其中，所述去重模块，包括：获取单元，被配置成获取当前采样时刻的多条采样短信，其中，所述多条采样短信包括多个短信类别，每个短信类别分别包括多条采样短信；去重单元，被配置成针对每个短信类别的多条采样短信，获取所述多条采样短信的短信模板和文本内容的文本相似度，并基于所述短信模板和所述文本相似度对该短信类别的多条采样短信进行去重，得到该短信类别的去重采样短信；

所述去重单元，进一步被配置成：针对每个短信类别的多条采样短信，获取所述多条采样短信的短信模板；基于所述短信模板对该短信类别的多条采样短信进行第一去重，得到第一去重采样短信；对所述第一去重采样短信进行文本预处理，得到所述第一去重采样短信的文本内容的文本相似度；基于所述文本相似度对所述去重后的采样短信进行第二去重，得到第二去重采样短信，并将所述第二去重采样短信确定为该短信类别的去重采样短信；

所述去重单元，进一步被配置成：针对全部短信类别的去重采样短信，获取所述全部短信类别的去重采样短信的短信模板和文本内容的文本相似度，并基于所述短信模板和所述文本相似度对所述全部短信类别的去重采样短信进行第三去重，得到第三去重采样短信，并将所述第三去重采样短信确定为去重采样短信。

7.根据权利要求6所述的装置，其中，所述去重单元，进一步被配置成：

获取数据库中待标注的短信样本；

将所述数据库中待标注的短信样本与所述去重采样短信进行比较，基于文本内容将所述去重采样短信进行第四去重，得到第四去重采样短信，并将所述第四去重采样短信确定为去重采样短信。

8.根据权利要求6-7任意一项所述的装置，其中，所述装置还包括：

标注模块，被配置成响应于获取到待标注的短信样本，对所述待标注的短信样本进行分类标注，得到带标注结果的短信样本；

切分模块，被配置成将所述带标注结果的短信样本进行句子切分，得到所述带标注结果的短信样本对应的句子序列；

训练模块，被配置成基于所述句子序列和所述短信样本的标注结果，对Ernie Tiny-CNN构成的神经网络模型进行训练，得到用于对短信进行分类和审核的分类审核模型。

9.根据权利要求8所述的装置，其中，所述装置还包括：

获取模块，被配置成获取所述分类审核模型输出的分类概率和审核概率；

确定模块，被配置成基于所述待标注的短信样本对应的真实分类概率、分类审核模型输出的分类概率、真实审核概率和分类审核模型输出的审核概率，确定所述分类审核模型的损失函数；

调优模块，被配置成基于所述损失函数，对所述分类审核模型进行参数调优，得到调优后的分类审核模型。

10.根据权利要求8所述的装置，其中，所述装置还包括：输入模块和发送模块；

所述切分模块，进一步被配置成响应于获取到待处理短信，将所述待处理短信执行句子切分，得到所述待处理短信对应的句子序列；

所述输入模块，进一步被配置成将所述句子序列输入所述分类审核模型中的ErnieTiny预训练模型，得到所述待处理短信的特征向量；将所述待处理短信的特征向量输入所述分类审核模型中的分类模型，得到所述待处理短信的分类结果；将所述待处理短信的特征向量输入所述分类审核模型中的审核模型，得到所述待处理短信的审核结果；

所述发送模块，进一步被配置成基于所述待处理短信的分类结果和审核结果，确定是否发送所述待处理短信。

11.一种电子设备，其特征在于，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。

12.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。