CN115758141A - 一种模型训练和业务风控的方法及装置 - Google Patents

Abstract

本说明书公开了一种模型训练和业务风控的方法及装置，可以获取用户在历史上执行业务时的投诉文本信息和业务数据，以及风控规则，而后，将投诉文本信息输入到业务模型中的第一编码层，以及将业务数据输入到该业务模型中的第二编码层，并基于该第一编码层以及第二编码层输出的结果，对业务模型进行第一训练，进而，将投诉文本信息输入到训练后的第一编码层，以及将风控规则输入到第三编码层，并基于训练后的第一编码层以及第三编码层输出的结果，对业务模型进行第二训练，最后，将投诉文本信息、业务数据以及风控规则输入到业务模型中，对业务模型整体性地进行训练，进而提高了为用户进行业务风控的效率以及准确性，保护用户的隐私数据。

Description

一种模型训练和业务风控的方法及装置

技术领域

本说明书涉及计算机技术领域，尤其涉及一种模型训练和业务风控的方法及装置。

背景技术

当前，为保护用户的财产安全、隐私数据安全等，业务平台可以接收用户的投诉信息，并基于用户的投诉信息，为用户解决实际的业务问题，从而给用户提供更好的服务。

在实际应用中，在接收到用户的投诉信息后，业务平台可以通过人工审核的方式，判断用户的投诉信息是否属实，并在属实的情况下，按照用户的投诉信息为用户进行业务处理，但是这种方式需要耗费大量人工成本，并且效率较低。

所以，如何提高进行投诉审核的效率，则是一个亟待解决的问题。

发明内容

本说明书提供一种模型训练和业务风控的方法及装置，以提高帮助用户进行业务风控的效率。

本说明书采用下述技术方案：

本说明书提供一种模型训练的方法，包括：

获取用户在历史上执行业务时的投诉文本信息和业务数据，以及所述业务对应的风控规则；

将所述投诉文本信息输入到业务模型中的第一编码层，以及将所述业务数据输入到所述业务模型中的第二编码层，并基于所述第一编码层以及所述第二编码层输出的结果，对所述第一编码层以及所述第二编码层进行训练；

将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，并基于训练后的第一编码层以及所述第三编码层输出的结果，对训练后的第一编码层以及所述第三编码层进行训练；

将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，将所述业务数据输入到训练后的第二编码层以及将所述风控规则输入到所述业务模型中训练后的第三编码层，并基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对所述业务模型进行训练。

可选地，将所述投诉文本信息输入到业务模型中的第一编码层，以及将所述业务数据输入到所述业务模型中的第二编码层，并基于所述第一编码层以及所述第二编码层输出的结果，对所述业务模型进行第一训练，包括：

将所述投诉文本信息以及所述业务数据输入到业务模型中，以通过所述业务模型中的第一编码层，输出所述投诉文本信息对应的特征编码，以及通过所述业务模型中的第二编码层，确定所述业务数据对应的特征编码；

根据所述投诉文本信息对应的特征编码以及所述业务数据对应的特征编码，确定基于所述投诉文本信息以及所述业务数据得到的预测结果，并以最小化所述预测结果与所述用户对应的业务标签为优化目标，对所述业务模型进行第一训练。

可选地，所述风控规则包括第一规则、第二规则以及第三规则，所述第一规则用于表示所述用户针对所述投诉文本信息对应的业务存在消耗的业务资源，所述第二规则用于表示所述投诉文本信息所涉及的其他用户未归还所述用户消耗的业务资源，所述第三规则用于表示所述用户与所述投诉文本信息所涉及的其他用户之间为预设关系；

将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，并基于训练后的第一编码层以及所述第三编码层输出的结果，对所述业务模型进行第二训练，包括：

将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，得到所述投诉文本信息对应的特征编码以及所述风控规则对应的特征编码；

根据所述投诉文本信息对应的特征编码以及所述风控规则对应的特征编码，确定所述第一规则对应的判断结果、所述第二规则对应的判断结果以及第三规则对应的判断结果；

以最小化所述第一规则对应的判断结果与所述用户对应的第一标签之间的差异，所述第二规则对应的判断结果与所述用户对应的第二标签之间的差异以及所述第三规则对应的判断结果与所述用户对应的第三标签之间的差异为优化目标，对所述业务模型进行第二训练。

可选地，基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对所述业务模型进行训练，包括：

根据训练后的第一编码层，训练后的第二编码层以及训练后的第三编码层分别输出的所述投诉文本信息对应的特征编码，所述业务数据对应的特征编码以及所述风控规则对应的特征编码，得到针对所述用户历史执行的业务的预测结果；

以最小化所述预测结果与所述用户对应的业务标签之间的差异为优化目标，对所述业务模型进行训练。

本说明书提供一种业务风控的方法，包括：

获取用户在执行风控业务时输入的投诉文本信息，以及与所述投诉文本信息对应的业务数据；

将所述投诉文本信息、所述业务数据以及风控规则输入到预先训练的业务模型中，以通过所述业务模型通过所述业务模型中的第一编码层、第二编码层以及第三编码层输出的结果，确定所述用户执行风控业务时是否符合所述风控规则的判断结果，所述业务模型通过上述模型训练的方法进行训练得到；

根据所述判断结果，对所述用户执行业务风控。

本说明书提供一种模型训练的装置，包括：

获取模块，用于获取用户历史上执行的业务对应的投诉文本信息和业务数据，以及所述业务对应的风控规则；

第一预训练模块，用于将所述投诉文本信息输入到业务模型中的第一编码层，以及将所述业务数据输入到所述业务模型中的第二编码层，并基于所述第一编码层以及所述第二编码层输出的结果，对所述业务模型进行第一训练，所述第一训练过程至少包括调整所述第一编码层以及所述第二编码层的模型参数；

第二预训练模块，用于将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，并基于训练后的第一编码层以及所述第三编码层输出的结果，对所述业务模型进行第二训练，所述第二训练过程至少包括调整所述训练后的第一编码层以及所述第三编码层的模型参数；

训练模块，用于将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，将所述业务数据输入到所述业务模型中训练后的第二编码层以及将所述风控规则输入到所述业务模型中训练后的第三编码层，并基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对所述业务模型进行训练。

本说明书提供一种业务风控的装置，包括：

获取模块，用于获取用户在执行风控业务时输入的投诉文本信息，以及与所述投诉文本信息对应的业务数据；

输入模块，用于将所述投诉文本信息、所述业务数据以及风控规则输入到预先训练的业务模型中，以通过所述业务模型通过所述业务模型中的第一编码层、第二编码层以及第三编码层输出的结果，确定所述用户执行风控业务时是否符合所述风控规则的判断结果，所述业务模型通过上述模型训练的方法进行训练得到；

风控模块，用于根据所述判断结果，对所述用户执行业务风控。

本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述模型训练或业务风控的方法。

本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述模型训练或业务风控的方法。

本说明书采用的上述至少一个技术方案能够达到以下有益效果：

在本说明书中提供的模型训练和业务风控的方法中，可以获取用户历史上执行的业务对应的投诉文本信息和业务数据，以及该业务对应的风控规则，将该投诉文本信息输入到业务模型中的第一编码层，以及将业务数据输入到业务模型中的第二编码层，并基于第一编码层以及所述第二编码层输出的结果，对业务模型进行第一训练，第一训练过程至少包括调整第一编码层以及第二编码层的模型参数。而后，可以将该投诉文本信息输入到该业务模型中训练后的第一编码层，以及将该风控规则输入到该业务模型中的第三编码层，并基于训练后的第一编码层以及该第三编码层输出的结果，对业务模型进行第二训练，第二训练过程至少包括调整训练后的第一编码层以及第三编码层的模型参数。最后，可以将投诉文本信息输入到业务模型中训练后的第一编码层，将业务数据输入到业务模型中训练后的第二编码层以及将风控规则输入到业务模型中训练后的第三编码层，并基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对业务模型进行训练。

从上述方法可以看出，本方法将投诉文本信息作为业务数据和风控规则之间搭建联系的桥梁，即，第一编码层与第二编码层共同进行训练后，第一编码层又与第三编码层共同进行训练，最后，第一编码层、第二编码层和第三编码层共同训练，从而得到训练后的业务模型，该业务模型可以用于对用户的投诉文本信息所描述的业务进行审核，进而提高了为用户进行业务风控的效率以及准确性。

附图说明

此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：

图1为本说明书中一种模型训练的方法的流程示意图；

图2为本说明书中提供的一种对上述业务模型进行训练的流程示意图；

图3为本说明书中一种业务风控的方法的流程示意图；

图4为本说明书提供的一种模型训练的装置示意图；

图5为本说明书提供的一种业务风控的装置示意图；

图6为本说明书提供的一种对应于图1或图3的电子设备示意图。

具体实施方式

为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。

以下结合附图，详细说明本说明书各实施例提供的技术方案。

图1为本说明书中一种模型训练的方法的流程示意图，具体包括以下步骤：

S100：获取用户在历史上执行业务时的投诉文本信息和业务数据，以及所述业务对应的风控规则。

在实际应用中，在业务风控中，若用户在执行业务过程中存在问题，则用户可以提交给业务平台描述有问题的文本，作为投诉文本信息，业务平台可以基于投诉文本信息进行审核，若审核通过，则可以为该用户进行业务风控。本说明书中主要提出针对用于对这类投诉文本信息进行审核的业务模型的训练方法，以及应用业务模型对投诉文本信息进行审核的业务风控方法。

具体的，在对业务模型进行训练的过程中，可以获取用户在历史上执行的业务对应的投诉文本信息和业务数据，以及该业务对应的风控规则。这里提到的投诉文本信息可以是指用户针对该用户历史上执行的业务描述存在的问题的文本，用户可以通过该投诉文本信息向业务平台申请进行业务风控，业务数据可以是指与该用户的历史上执行的业务相关的数据，风控规则可以是指用于在风控业务中对用户通过投诉文本信息申请的业务风控的进行审核的规则。

下面以用户在交易场景下向业务平台申请进行业务风控的场景为例对上述三个概念进行说明，假设用户与他人进行交易时存在一些问题(如可能是被他人欺骗进行转账)，那么则可以将业务平台提交投诉文本信息，投诉文本信息中可以描述有用户在此次交易时所涉及的问题，业务平台可以基于该投诉文本信息、获取到与该用户相关的业务数据(如，用户向他人转账的金额、用户自身的一些信息、对方自身的一些信息以及用户和对方的历史交易信息等)以及风控规则，来对用户此次提交的投诉文本信息进行审核。

S102：将所述投诉文本信息输入到业务模型中的第一编码层，以及将所述业务数据输入到所述业务模型中的第二编码层，并基于所述第一编码层以及所述第二编码层输出的结果，对所述业务模型进行第一训练，所述第一训练过程至少包括调整所述第一编码层以及所述第二编码层的模型参数。

S104：将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，并基于训练后的第一编码层以及所述第三编码层输出的结果，对所述业务模型进行第二训练，所述第二训练过程至少包括调整所述训练后的第一编码层以及所述第三编码层的模型参数。

在训练业务模型时，可以先分别针对用于确定投诉文本信息的特征编码的第一编码层、用于确定业务数据的特征编码的第二编码层，以及用于确定风控规则的特征编码的第三编码层进行一定的预训练。

具体的，可以将投诉文本信息输入到业务模型中的第一编码层，以及将业务数据输入到业务模型中的第二编码层，并基于第一编码层以及第二编码层输出的结果，对业务模型进行第一训练，第一训练过程至少包括调整第一编码层以及第二编码层的模型参数。也就是说，在第一训练过程中，主要是对第一编码层和第二编码层进行训练。

以及，将投诉文本信息输入到业务模型中训练后的第一编码层，将风控规则输入到业务模型中的第三编码层，并基于训练后的第一编码层以及第三编码层输出的结果，对业务模型进行第二训练，第二训练过程至少包括调整训练后的第一编码层以及第三编码层的模型参数。

也就是说，在预训练阶段，可以先通过投诉文本信息和业务数据，将第一编码层和第二编码层进行训练，以使第一编码层与第二编码层能够学习到投诉文本信息和业务数据之间的联系，以及通过投诉文本信息和风控规则，将第一编码层和第三编码层进行训练，以使第一编码层与第三编码层能够学习到投诉文本信息和风控规则之间的联系。

也就是说，预训练过程，是希望尽量通过投诉文本信息，建立风控规则和业务数据之间的联系，因此，投诉文本信息对应的第一编码层在第一训练和第二训练中是共用的，可以理解为该第一编码层是间接建立风控规则和业务数据之间联系的媒介，在后续过程中三个编码层将一同进行训练。

在对第一编码层和第二编码层进行预训练时，可以将投诉文本信息以及业务数据输入到业务模型中，以通过业务模型中的第一编码层，输出投诉文本信息对应的特征编码，以及通过业务模型中的第二编码层，确定业务数据对应的特征编码，并根据投诉文本信息对应的特征编码以及业务数据对应的特征编码，确定基于投诉文本信息以及业务数据得到的预测结果，并以最小化该预测结果与用户对应的业务标签为优化目标，对业务模型进行第一训练，也可以理解为，此过程是对业务模型中的第一编码层以及第二编码层进行预训练。

其中，预测结果可以用于表示预测出的上述投诉文本信息所对应的风控业务(或称投诉事件)是否被审核通过，也可以表示预测出的投诉文本信息所涉及的用户历史上执行的业务是否符合风控规则。标注结果可以是指上述投诉文本信息所对应的风控业务(或称投诉事件)在实际中是否被审核通过，也可以表示在实际中该投诉文本信息所涉及的历史上用户执行的业务是否符合风控规则。结合实际业务场景，在用户对自身的交易进行投诉的风控场景中，预测结果可以用于表示业务模型预测出的用户的投诉是否被审核通过，标注信息可以用于表示在实际情况中用户的投诉是否被审核通过。

因此，能够容易想到的是，上述第一训练过程中：正样本可以通过历史上通过了审核的风控业务的相关信息得到，负样本可以通过历史上未通过审核的风控业务的相关信息得到，当然，负样本也可以通过其他方式确定出，即，可以通过历史上用户的投诉文本信息和与该用户的不相关的其他用户的业务数据确定出。

当然，后续训练过程的训练样本均可由上述方式产生，并且，三个训练过程可以共用训练样本。即，训练样本的标注信息是三个训练过程中均需要使用到的，而第一个训练过程可以使用训练样本中的投诉文本信息和业务数据，第二个训练过程可以使用训练样本中的投诉文本信息和风控规则，最后一个训练过程则可以使用训练样本中的投诉文本信息、业务数据和风控规则。

在继续对第一编码层和第三编码层进行训练时，可以继续通过与上述类似的方式进行训练，即，可以将投诉文本信息以及风控规则输入到业务模型中，以通过业务模型中的第一编码层，输出投诉文本信息对应的特征编码，以及通过业务模型中的第三编码层，确定风控规则对应的特征编码，并根据投诉文本信息对应的特征编码以及风控规则对应的特征编码，确定基于投诉文本信息以及风控规则得到的预测结果，并以最小化该预测结果与用户对应的业务标签为优化目标，对业务模型进行第二训练，此训练过程相当于是对第一编码层以及第三编码层共同进行训练。

其中，由于风控规则可以包含有多条，因此，标注信息可以不仅仅为表示是否审核通过的业务标签，标注信息可以包含有每个风控规则对应的标签(即，用户历史上执行的业务是否符合相应的风控规则)。

具体的，风控规则可以包括第一规则、第二规则以及第三规则，第一规则可以用于表示用户针对投诉文本信息对应的业务存在消耗的业务资源，第二规则可以用于表示投诉文本信息所涉及的其他用户未归还用户消耗的业务资源，第三规则可以用于表示用户与投诉文本信息所涉及的其他用户之间为预设关系。那么，一个风控规则所对应的标签则表示用户历史上执行的业务是否与该风控规则相符。

这里提到的第一规则、第二规则以及第三规则对应到实际的业务场景中可以是指：第一规则为用户对该投诉文本信息所涉及的业务存在支出的金额，第二规则为在投诉文本信息所涉及的业务中，用户向其他用户支出的金额并未被归还，第三规则为用户与其他用户之间是陌生人。

具体的训练过程可为：将投诉文本信息输入到业务模型中训练后的第一编码层，以及将风控规则输入到业务模型中的第三编码层，得到投诉文本信息对应的特征编码以及风控规则对应的特征编码。而后，根据投诉文本信息对应的特征编码以及风控规则对应的特征编码，确定第一规则对应的判断结果(即，投诉文本信息所对应的投诉事件是否符合第一规则)、第二规则对应的判断结果(即，投诉文本信息所对应的投诉事件是否符合第二规则)以及第三规则对应的判断结果(即，投诉文本信息所对应的投诉事件是否符合第三规则)。最后，以最小化第一规则对应的判断结果与用户对应的第一标签之间的差异，第二规则对应的判断结果与用户对应的第二标签之间的差异以及第三规则对应的判断结果与用户对应的第三标签之间的差异为优化目标，对训练后的第一编码层以及第三编码层进行训练。

即，再对第一编码层和第三编码层进行训练时，标注信息可以包含三个：第一规则、第二规则以及第三规则分别对应的标签，那么在对第一编码层以及第三编码层进行训练时，存在每个标签所对应的损失函数，需要通过最小化每个标签和其对应的预测结果之间的差异，来对第一编码层和第三编码层进行训练。

第一规则对应的标签可以表示投诉文本信息所对应的投诉事件在实际中是否符合第一规则，第二规则对应的标签可以表示投诉文本信息所对应的投诉事件在实际中是否符合第二规则，第三规则对应的标签可以表示投诉文本信息所对应的投诉事件在实际中是否符合第三规则。

S106：将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，将所述业务数据输入到训练后的第二编码层以及将所述风控规则输入到所述业务模型中训练后的第三编码层，并基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对所述业务模型进行训练。

通过上述方式对第一编码层、第二编码层以及第三编码层进行预训练后，可以将投诉文本信息输入到业务模型中训练后的第一编码层，将业务数据输入到训练后的第二编码层以及将风控规则输入到业务模型中训练后的第三编码层，并基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对业务模型进行训练。

类似的，对业务模型整体进行训练也可以存在多种方式，例如，根据训练后的第一编码层，训练后的第二编码层以及训练后的第三编码层分别输出的投诉文本信息对应的特征编码，业务数据对应的特征编码以及风控规则对应的特征编码，得到针对用户历史执行的业务的预测结果；并以最小化该预测结果与该用户对应的业务标签之间的差异为优化目标，对所述业务模型进行训练。

再例如，可以与上述第二种预训练过程类似，在标注信息中，每个风控规则均对应有的该风控规则的标签，那么在对业务模型进行训练时，需要使得业务模型输出每个风控规则所对应的预测结果，并以各风控规则对应的预测结果和相应风控规则对应的标签之间差异最小化为优化目标，来对业务模型进行整体性的训练。

从上述内容中可以看出，本说明书对业务模型进行训练的过程为先对第一编码层、第二编码层以及第三编码层进行预训练，再统一对业务模型整体性的进行训练，如图2所示。

图2为本说明书中提供的一种对上述业务模型进行训练的流程示意图。

从图2中可以看出，在预训练过程中，投诉文本信息的作用为搭建风控规则和业务数据之间的联系，因此，在两次预训练中，投诉文本信息对应的第一编码层均参与了预训练，首先先是第一编码层与第二编码层共同进行训练，其次是第一编码层和第三编码层共同进行训练，这样一来，将第一编码层、第二编码层与第三编码层均进行预训练后，后续可以将业务模型整体性地进行训练，即，此次训练是第一编码层、第二编码层与第三编码层共同参与训练，此次训练后，业务模型可以应用于实际的风控业务中。

下面从使用业务模型对用户的投诉文本信息所涉及的业务进行审核的风控场景，来对本说明书提供的业务风控的方法进行说明。

图3为本说明书中一种业务风控的方法的流程示意图，具体包括以下步骤：

S300：获取用户在执行风控业务时输入的投诉文本信息，以及与所述投诉文本信息对应的业务数据。

S302：将所述投诉文本信息、所述业务数据以及风控规则输入到预先训练的业务模型中，以通过所述业务模型中的第一编码层、第二编码层以及第三编码层输出的结果，确定所述用户执行风控业务时是否符合所述风控规则的判断结果，所述业务模型通过模型训练的方法进行训练得到。

S304：根据所述判断结果，对所述用户执行业务风控。

在实际的应用场景中，在业务模型通过上述方式训练后，可以通过该业务模型对用户在风控业务中所提交的投诉文本信息进行审核，即，针对用户提交的投诉文本信息所涉及的风控业务判断是否需要进行业务风控。

具体的，可以将获取用户在执行风控业务时输入的投诉文本信息，以及与该投诉文本信息对应的业务数据，并将投诉文本信息、业务数据以及风控规则输入到预先训练的业务模型中，以通过该业务模型中的第一编码层、第二编码层以及第三编码层输出的结果，确定用户执行风控业务时是否符合风控规则的判断结果，这样一来，业务平台可以通过该判断结果，确定是否为该用户进行业务风控。该业务模型通过上述模型训练的方法进行训练得到。

上述过程可以理解为，通过该业务模型输出的预测结果可以表示用户的投诉文本信息所涉及的业务是否需要进行业务风控，而这里提到的风控规则可以与上述模型训练过程中的风控规则一致，也就是说，该业务模型若是需要应用在业务风控的审核场景中，则在模型训练过程中风控规则为风控规则。

需要说明的是，在预测过程中，第一编码层与第三编码层分别输出的投诉文本信息对应的特征编码与业务数据对应的特征编码可以先进行融合，得到用户对应的融合后的业务特征，再通过该融合后的业务特征与风控规则对应的特征编码，确定出用户执行风控业务时是否符合该风控规则的判断结果。

还需说明的是，若在训练过程中业务模型输出的是第一规则、第二规则以及第三规则分别对应的判断结果，那么在确定是否为该用户进行业务风控时，可以在根据判断结果，确定投诉文本信息既符合第一规则，也符合第二规则以及第三规则的情况下，确定需要为该用户进行业务风控。

从上述方法可以看出，本方法将投诉文本信息作为业务数据和风控规则之间搭建联系的桥梁，即，第一编码层与第二编码层共同进行训练后，第一编码层又与第三编码层共同进行训练，最后，第一编码层、第二编码层和第三编码层共同训练，从而得到训练后的业务模型，该业务模型可以用于对用户的投诉文本信息所描述的业务进行审核，进而提高了为用户进行业务风控的效率以及准确性。

以上为本说明书的一个或多个实施例提供的模型训练和业务风控的方法，基于同样的思路，本说明书还提供了模型训练和业务风控的装置，如图4、图5所示。

图4为本说明书提供的一种模型训练的装置示意图，具体包括：

获取模块401，用于获取用户历史上执行的业务对应的投诉文本信息和业务数据，以及所述业务对应的风控规则；

第一预训练模块402，用于将所述投诉文本信息输入到业务模型中的第一编码层，以及将所述业务数据输入到所述业务模型中的第二编码层，并基于所述第一编码层以及所述第二编码层输出的结果，对所述业务模型进行第一训练，所述第一训练过程至少包括调整所述第一编码层以及所述第二编码层的模型参数；

第二预训练模块403，用于将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，并基于训练后的第一编码层以及所述第三编码层输出的结果，对所述业务模型进行第二训练，所述第二训练过程至少包括调整所述训练后的第一编码层以及所述第三编码层的模型参数；

训练模块404，用于将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，将所述业务数据输入到所述业务模型中训练后的第二编码层以及将所述风控规则输入到所述业务模型中训练后的第三编码层，并基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对所述业务模型进行训练。

可选地，所述第一预训练模块402具体用于，将所述投诉文本信息以及所述业务数据输入到业务模型中，以通过所述业务模型中的第一编码层，输出所述投诉文本信息对应的特征编码，以及通过所述业务模型中的第二编码层，确定所述业务数据对应的特征编码；根据所述投诉文本信息对应的特征编码以及所述业务数据对应的特征编码，确定基于所述投诉文本信息以及所述业务数据得到的预测结果，并以最小化所述预测结果与所述用户对应的业务标签为优化目标，对所述业务模型进行第一训练。

可选地，所述风控规则包括第一规则、第二规则以及第三规则，所述第一规则用于表示所述用户针对所述投诉文本信息对应的业务存在消耗的业务资源，所述第二规则用于表示所述投诉文本信息所涉及的其他用户未归还所述用户消耗的业务资源，所述第三规则用于表示所述用户与所述投诉文本信息所涉及的其他用户之间为预设关系；

所述第二预训练模块403具体用于，将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，得到所述投诉文本信息对应的特征编码以及所述风控规则对应的特征编码；根据所述投诉文本信息对应的特征编码以及所述风控规则对应的特征编码，确定所述第一规则对应的判断结果、所述第二规则对应的判断结果以及第三规则对应的判断结果；以最小化所述第一规则对应的判断结果与所述用户对应的第一标签之间的差异，所述第二规则对应的判断结果与所述用户对应的第二标签之间的差异以及所述第三规则对应的判断结果与所述用户对应的第三标签之间的差异为优化目标，对所述业务模型进行第二训练。

可选地，所述训练模块404具体用于，根据训练后的第一编码层，训练后的第二编码层以及训练后的第三编码层分别输出的所述投诉文本信息对应的特征编码，所述业务数据对应的特征编码以及所述风控规则对应的特征编码，得到针对所述用户历史执行的业务的预测结果；以最小化所述预测结果与所述用户对应的业务标签之间的差异为优化目标，对所述业务模型进行训练。

图5为本说明书提供的一种业务风控的装置示意图，具体包括：

获取模块501，用于获取用户在执行风控业务时输入的投诉文本信息，以及与所述投诉文本信息对应的业务数据；

输入模块502，用于将所述投诉文本信息、所述业务数据以及风控规则输入到预先训练的业务模型中，以通过所述业务模型通过所述业务模型中的第一编码层、第二编码层以及第三编码层输出的结果，确定所述用户执行风控业务时是否符合所述风控规则的判断结果，所述业务模型通过模型训练的方法进行训练得到；

风控模块503，用于根据所述判断结果，对所述用户执行业务风控。

可选地，所述风控规则中包括第一规则、第二规则以及第三规则，所述第一规则用于表示所述用户针对所述投诉文本信息对应的业务存在消耗的业务资源，所述第二规则用于表示所述投诉文本信息所涉及的其他用户未归还所述用户消耗的业务资源，所述第三规则用于表示所述用户与所述投诉文本信息所涉及的其他用户之间为预设关系。

本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述模型训练和业务风控的方法。

本说明书还提供了图6所示的电子设备的示意结构图。如图6所述，在硬件层面，该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述模型训练和业务风控的方法。当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。

控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理节点来执行任务。在分布式计算环境中，程序模块可以位于包括存储节点在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。

Claims (10)

1.一种模型训练的方法，包括：

获取用户历史上执行的业务对应的投诉文本信息和业务数据，以及所述业务对应的风控规则；

将所述投诉文本信息输入到业务模型中的第一编码层，以及将所述业务数据输入到所述业务模型中的第二编码层，并基于所述第一编码层以及所述第二编码层输出的结果，对所述业务模型进行第一训练，所述第一训练过程至少包括调整所述第一编码层以及所述第二编码层的模型参数；

将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，并基于训练后的第一编码层以及所述第三编码层输出的结果，对所述业务模型进行第二训练，所述第二训练过程至少包括调整所述训练后的第一编码层以及所述第三编码层的模型参数；

将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，将所述业务数据输入到所述业务模型中训练后的第二编码层以及将所述风控规则输入到所述业务模型中训练后的第三编码层，并基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对所述业务模型进行训练。

2.如权利要求1所述的方法，将所述投诉文本信息输入到业务模型中的第一编码层，以及将所述业务数据输入到所述业务模型中的第二编码层，并基于所述第一编码层以及所述第二编码层输出的结果，对所述业务模型进行第一训练，包括：

将所述投诉文本信息以及所述业务数据输入到业务模型中，以通过所述业务模型中的第一编码层，输出所述投诉文本信息对应的特征编码，以及通过所述业务模型中的第二编码层，确定所述业务数据对应的特征编码；

根据所述投诉文本信息对应的特征编码以及所述业务数据对应的特征编码，确定基于所述投诉文本信息以及所述业务数据得到的预测结果，并以最小化所述预测结果与所述用户对应的业务标签为优化目标，对所述业务模型进行第一训练。

3.如权利要求1所述的方法，所述风控规则包括第一规则、第二规则以及第三规则，所述第一规则用于表示所述用户针对所述投诉文本信息对应的业务存在消耗的业务资源，所述第二规则用于表示所述投诉文本信息所涉及的其他用户未归还所述用户消耗的业务资源，所述第三规则用于表示所述用户与所述投诉文本信息所涉及的其他用户之间为预设关系；

将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，并基于训练后的第一编码层以及所述第三编码层输出的结果，对所述业务模型进行第二训练，包括：

将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，得到所述投诉文本信息对应的特征编码以及所述风控规则对应的特征编码；

根据所述投诉文本信息对应的特征编码以及所述风控规则对应的特征编码，确定所述第一规则对应的判断结果、所述第二规则对应的判断结果以及第三规则对应的判断结果；

以最小化所述第一规则对应的判断结果与所述用户对应的第一标签之间的差异，所述第二规则对应的判断结果与所述用户对应的第二标签之间的差异以及所述第三规则对应的判断结果与所述用户对应的第三标签之间的差异为优化目标，对所述业务模型进行第二训练。

4.如权利要求1所述的方法，基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对所述业务模型进行训练，包括：

根据训练后的第一编码层，训练后的第二编码层以及训练后的第三编码层分别输出的所述投诉文本信息对应的特征编码，所述业务数据对应的特征编码以及所述风控规则对应的特征编码，得到针对所述用户历史执行的业务的预测结果；

以最小化所述预测结果与所述用户对应的业务标签之间的差异为优化目标，对所述业务模型进行训练。

5.一种业务风控的方法，包括：

获取用户在执行风控业务时输入的投诉文本信息，以及与所述投诉文本信息对应的业务数据；

将所述投诉文本信息、所述业务数据以及风控规则输入到预先训练的业务模型中，以通过所述业务模型中的第一编码层、第二编码层以及第三编码层输出的结果，确定所述用户执行风控业务时是否符合所述风控规则的判断结果，所述业务模型通过如权利要求1～4任一项所述的方法进行训练得到；

根据所述判断结果，对所述用户执行业务风控。

6.如权利要求5所述的方法，所述风控规则中包括第一规则、第二规则以及第三规则，所述第一规则用于表示所述用户针对所述投诉文本信息对应的业务存在消耗的业务资源，所述第二规则用于表示所述投诉文本信息所涉及的其他用户未归还所述用户消耗的业务资源，所述第三规则用于表示所述用户与所述投诉文本信息所涉及的其他用户之间为预设关系。

7.一种模型训练的装置，包括：

获取模块，用于获取用户历史上执行的业务对应的投诉文本信息和业务数据，以及所述业务对应的风控规则；

第一预训练模块，用于将所述投诉文本信息输入到业务模型中的第一编码层，以及将所述业务数据输入到所述业务模型中的第二编码层，并基于所述第一编码层以及所述第二编码层输出的结果，对所述业务模型进行第一训练，所述第一训练过程至少包括调整所述第一编码层以及所述第二编码层的模型参数；

第二预训练模块，用于将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，以及将所述风控规则输入到所述业务模型中的第三编码层，并基于训练后的第一编码层以及所述第三编码层输出的结果，对所述业务模型进行第二训练，所述第二训练过程至少包括调整所述训练后的第一编码层以及所述第三编码层的模型参数；

训练模块，用于将所述投诉文本信息输入到所述业务模型中训练后的第一编码层，将所述业务数据输入到所述业务模型中训练后的第二编码层以及将所述风控规则输入到所述业务模型中训练后的第三编码层，并基于训练后的第一编码层、训练后的第二编码层以及训练后的第三编码层输出的结果，对所述业务模型进行训练。

8.一种业务风控的装置，包括：

获取模块，用于获取用户在执行风控业务时输入的投诉文本信息，以及与所述投诉文本信息对应的业务数据；

输入模块，用于将所述投诉文本信息、所述业务数据以及风控规则输入到预先训练的业务模型中，以通过所述业务模型通过所述业务模型中的第一编码层、第二编码层以及第三编码层输出的结果，确定所述用户执行风控业务时是否符合所述风控规则的判断结果，所述业务模型通过如权利要求1～4任一项所述的方法进行训练得到；

风控模块，用于根据所述判断结果，对所述用户执行业务风控。

9.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求1～6任一项所述的方法。

10.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述权利要求1～6任一项所述的方法。

Images