CN114997472A - 一种模型训练的方法、业务风控的方法及装置 - Google Patents

一种模型训练的方法、业务风控的方法及装置 Download PDF

Info

Publication number
CN114997472A
CN114997472A CN202210523094.5A CN202210523094A CN114997472A CN 114997472 A CN114997472 A CN 114997472A CN 202210523094 A CN202210523094 A CN 202210523094A CN 114997472 A CN114997472 A CN 114997472A
Authority
CN
China
Prior art keywords
user
service
target
data
prediction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210523094.5A
Other languages
English (en)
Inventor
刘文强
宗博文
温舒
刘扬
陈金辉
昌黎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Sankuai Online Technology Co Ltd
Original Assignee
Beijing Sankuai Online Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Sankuai Online Technology Co Ltd filed Critical Beijing Sankuai Online Technology Co Ltd
Priority to CN202210523094.5A priority Critical patent/CN114997472A/zh
Publication of CN114997472A publication Critical patent/CN114997472A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Development Economics (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本说明书公开了一种模型训练的方法、业务风控的方法及装置，首先，获取训练样本。其次，将训练样本中目标用户的用户数据输入到待训练的预测模型中，确定用户数据对应的用户业务特征。而后，根据训练样本中记录的目标用户针对目标业务的已执行业务周期，将用户业务特征输入到与训练样本相匹配的预测子模型中，以预测目标用户执行目标业务对应的业务结果，作为预测结果。最后，以最小化预测结果与训练样本对应的标签之间的偏差为优化目标，对预测模型进行训练。本方法可以通过不同已执行业务周期的训练样本，对预测模型进行训练，使得预测模型具有对最新数据分布的感知，从而提高预测模型确定出的预测结果的准确性。

Description

一种模型训练的方法、业务风控的方法及装置
技术领域
本说明书涉及计算机技术领域，尤其涉及一种模型训练的方法、业务风控的方法及装置。
背景技术
随着经济的快速发展，信用消费也越来越受关注，信用卡消费、个人汽车贷款、助学贷款、小额消费贷款等各种个人消费信用贷款日益增多。各个信贷担保方通常会使用预测模型来对用户办理的业务进行风险预测。
目前，在信用贷款业务场景下，通常需要达到设定业务周期的训练样本对预测模型进行训练，而设定业务周期一般较长，例如，六个月，一年等。这会使得训练样本中的数据较为老旧。基于这些训练样本训练得到的预测模型，针对新用户确定出的预测结果的准确性往往较低。
因此，如何能够提高预测模型确定出的预测结果的准确性，则是一个亟待解决的问题。
发明内容
本说明书提供一种模型训练的方法、业务风控的方法及装置，以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案：
本说明书提供了一种模型训练的方法，预测模型包含有主预测子模型和若干辅助预测子模型，在模型训练过程中，不同预测子模型处理不同已执行业务周期的训练样本，针对每个训练样本，该训练样本对应的标签是根据该训练样本中用户在已执行业务周期中对目标业务的执行情况来确定，包括：
获取训练样本；
将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征；
根据所述训练样本中记录的所述目标用户针对目标业务的已执行业务周期，将所述用户业务特征输入到与所述训练样本相匹配的预测子模型中，以预测所述目标用户执行目标业务对应的业务结果，作为预测结果；
以最小化所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
可选地，将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征，具体包括：
将所述用户数据输入到所述预测模型中，以确定出所述用户数据对应的原始特征；
确定所述用户数据中缺失数据的数据维度，作为目标维度，对所述用户数据中目标维度上的数据进行补充，以及将所述用户数据中除目标维度以外的其他数据维度删除，得到辅助用户数据，并确定所述辅助用户数据的特征，作为补偿特征；
根据所述原始特征以及所述补偿特征，确定所述用户数据对应的用户业务特征。
可选地，确定出所述用户数据对应的原始特征，具体包括：
通过所述预测模型中的第一权重参数，对所述用户数据进行特征提取，以确定出所述用户数据对应的原始特征；
对所述用户数据中目标维度上的数据进行补充，以及将所述用户数据中除目标维度以外的其他数据维度删除，得到辅助用户数据，并确定所述辅助用户数据的特征，作为补偿特征，具体包括：
通过所述预测模型中的第二权重参数，对所述用户数据中目标维度上的数据进行补充，以及将所述用户数据中除目标维度以外的其他数据维度删除，以得到所述补偿特征。
可选地，所述预测模型包括：注意力机制网络；
将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征，具体包括：
将所述训练样本中目标用户的用户数据输入到所述注意力机制网络，确定所述用户数据中的各数据维度上的数据之间的相关性；
针对每个数据维度，根据该数据维度上的数据与其他数据维度上的数据之间的相关性，确定该数据维度对应的相关性权重，并根据各个数据维度上的数据以及该数据维度对应的相关性权重，确定该数据维度对应的综合特征；
根据各数据维度对应的综合特征，确定所述用户数据对应的用户业务特征。
可选地，所述预测模型包括：基础特征网络、组合特征网络；
根据各数据维度对应的综合特征，确定所述用户数据对应的用户业务特征，具体包括：
将所述训练样本中目标用户的用户数据输入到所述基础特征网络，以通过所述基础特征网络，对所述用户数据中的各个数据维度进行单独编码，得到基础特征，并将所述用户数据输入到所述组合特征网络，以通过所述组合特征网络，对所述用户数据中的各个数据维度进行组合编码，得到组合特征；
将所述基础特征、所述组合特征中的至少一个，与各数据维度对应的综合特征进行拼接，得到所述用户数据对应的用户业务特征。
可选地，以最小化所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练，具体包括：
若确定该训练样本中所述目标用户申请所述目标业务的实际申请结果为通过，将所述用户业务特征输入到所述目标用户申请所述目标业务对应的预测子模型中，以预测所述目标用户申请目标业务对应的申请结果，作为预测申请结果；
以最小化所述预测申请结果与实际申请结果之间的偏差、所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
可选地，以最小化所述预测申请结果与实际申请结果之间的偏差、所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练，具体包括：
根据各个预测子模型对业务结果的影响程度，确定各个预测子模型对应的权重系数；
根据各个预测子模型对应的权重系数、所述预测申请结果与实际申请结果之间的偏差、所述预测结果与所述训练样本对应的标签之间的偏差，确定损失和值；
以最小化所述损失和值为优化目标，对所述预测模型进行训练。
本说明书提供了一种业务风控的方法，包括：
接收目标用户针对所述目标业务的业务申请请求；
根据所述业务申请请求，确定所述目标用户的用户数据；
将所述目标用户的用户数据输入到预先训练的预测模型中，确定所述用户数据对应的用户业务特征，所述预测模型是通过上述模型训练的方法训练得到的；
将所述用户业务特征输入到主预测子模型中，以根据所述用户业务特征，预测所述用户执行所述目标业务后的业务结果，所述业务结果用于表示所述目标用户是否会履约执行所述目标业务；
根据所述业务结果，对所述目标用户进行业务风控。
本说明书提供了一种模型训练的装置，预测模型包含有主预测子模型和若干辅助预测子模型，在模型训练过程中，不同预测子模型处理不同已执行业务周期的训练样本，针对每个训练样本，该训练样本对应的标签是根据该训练样本中用户在已执行业务周期中对目标业务的执行情况来确定，包括：
获取模块，用于获取训练样本；
输入模块，用于将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征；
预测模块，用于根据所述训练样本中记录的所述目标用户针对目标业务的已执行业务周期，将所述用户业务特征输入到与所述训练样本相匹配的预测子模型中，以预测所述目标用户执行目标业务对应的业务结果，作为预测结果；
训练模块，用于以最小化所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
本说明书提供了一种业务风控的装置，包括：
接收模块，用于接收目标用户针对所述目标业务的业务申请请求；
确定模块，用于根据所述业务申请请求，确定所述目标用户的用户数据；
输入模块，用于将所述目标用户的用户数据输入到预先训练的预测模型中，确定所述用户数据对应的用户业务特征，所述预测模型是通过上述模型训练的方法训练得到的；
预测模块，用于将所述用户业务特征输入到主预测子模型中，以根据所述用户业务特征，预测所述用户执行所述目标业务后的业务结果，所述业务结果用于表示所述目标用户是否会履约执行所述目标业务；
风控模块，用于根据所述业务结果，对所述目标用户进行业务风控。
本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述模型训练的方法以及业务风控的方法。
本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述模型训练的方法以及业务风控的方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果：
在本说明书提供的模型训练的方法以及业务风控的方法中，首先，获取训练样本。其次，将训练样本中目标用户的用户数据输入到待训练的预测模型中，确定用户数据对应的用户业务特征。而后，根据训练样本中记录的目标用户针对目标业务的已执行业务周期，将用户业务特征输入到与训练样本相匹配的预测子模型中，以预测目标用户执行目标业务对应的业务结果，作为预测结果。最后，以最小化预测结果与训练样本对应的标签之间的偏差为优化目标，对预测模型进行训练。
从上述方法中可以看出，本方法可以根据训练样本中记录的目标用户针对目标业务的已执行业务周期，将用户业务特征输入到与训练样本相匹配的预测子模型中，以预测目标用户执行目标业务对应的业务结果，作为预测结果。也就是说，本方法可以通过不同已执行业务周期的训练样本，对预测模型进行训练，使得预测模型具有对最新数据分布的感知，从而提高预测模型确定出的预测结果的准确性。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：
图1为本说明书中一种模型训练的方法的流程示意图；
图2为本说明书实施例提供的一种预测模型的模型结构的示意图；
图3为本说明书中一种业务风控的方法的流程示意图；
图4为本说明书提供的一种模型训练的装置示意图；
图5为本说明书提供的一种业务风控的装置示意图；
图6为本说明书提供的一种对应于图1的电子设备的示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。
以下结合附图，详细说明本说明书各实施例提供的技术方案。
图1为本说明书中一种模型训练的方法的流程示意图，包括以下步骤：
S100：获取训练样本。
在本说明书实施例中，对预测模型进行训练的执行主体可以是服务器，也可以是诸如台式电脑等电子设备，为了便于描述，下面仅以服务器为执行主体，对本说明书提供的预测模型的训练方法进行说明。
在本说明书实施例中，预测模型包含有主预测子模型和若干辅助预测子模型。在模型训练过程中，不同预测子模型处理不同已执行业务周期的训练样本。其中，已执行业务周期大于设定业务周期的训练样本用于训练主预测子模型。已执行业务周期小于设定业务周期的训练样本，根据该训练样本的已执行业务周期，分别用于训练与训练样本的已执行业务周期相匹配的辅助预测子模型。
服务器可以获取训练样本。针对每个训练样本，该训练样本对应的标签是根据该训练样本中用户在已执行业务周期中对目标业务的执行情况来确定。
这里提到的目标业务可以是指需要对用户行为进行评估的业务，例如，需要评估用户是否会出现违规或违约的业务(贷款业务等)，需要评估用户消费能力的业务(信用租借业务、信用卡业务等)等。
进一步的，这里提到的标签可以是指训练样本中用户执行目标业务的执行结果，例如，用户执行目标业务的执行结果对应的标签可以为是否违约。再例如，用户申请目标业务的申请结果对应的标签可以为是否通过。
这里提到的业务周期可以是用于表征根据业务的实际需求确定出的周期，用户以此执行业务。该业务周期可以是预设的一段时间，本说明书对期限的时间长度没有限制，具体可以根据实际需求而定，例如：三个月、六个月、一年等。这里提到的已执行业务周期可以是用户已经执行目标业务的业务周期。
在后续的预测模型的使用过程中，仅根据主预测子模型确定出的预测结果，确定是否通过目标用户申请目标业务的业务申请。
S102：将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征。
在本说明书实施例中，服务器可以将训练样本中目标用户的用户数据输入到待训练的预测模型中，确定用户数据对应的用户业务特征。这里提到的用户数据包含目标用户的基本用户信息以及用户行为，例如，在信用贷款业务中，基本用户信息包括：婚姻状况、年龄、性别、职业、个人收入等。用户行为包括：历史消费数据、历史查询数据、历史贷款数据等。这里提到的历史贷款数据包括：最大逾期天数、最小逾期天数、贷款余额、逾期金额、提前还款次数、提款次数、提款总金额、提款金额占授信金额占比、借款利率、借款期限等。
需要说明的是，目标用户的用户数据可以是从第三方担保机构、各个银行、用户操作的应用中获取到的。
在实际应用中，在获取目标用户的用户数据时，用户数据中并非所有的数据维度都存在数据，部分数据维度的数据为空(null)。例如，用户在申请目标业务时，在部分数据维度未输入数据，导致该部分数据维度缺失数据。若训练样本中有部分数据维度缺失数据，则需要对该训练样本中的缺失数据进行处理后，才可以将该训练样本用于训练预测模型。
目前，对该训练样本进行处理的方法通常是将缺失数据的数据维度中的空白数据(null)设置为零。但是，用户在哪些数据维度中为空白数据，本身就包含有部分信息。并且，简单的将空白数据设置为零，会导致信息丢失。例如，未获取到用户的收入信息，可能是用户是自由职业，将用户的收入信息设置为零，会导致丢失用户具有收入这一信息，导致对该用户的预测结果准确性较差。也就是说，这种方法会导致训练样本丢失部分信息。基于此，服务器可以对训练样本中缺失数据的数据维度单独进行权重的设置，以避免将空白数据设置为零时的信息丢失。
在本说明书实施例中，服务器可以将用户数据输入到预测模型中，以确定出用户数据对应的原始特征。其次，服务器可以确定用户数据中缺失数据的数据维度，作为目标维度，对用户数据中目标维度上的数据进行补充，以及将用户数据中除目标维度以外的其他数据维度删除，得到辅助用户数据，并确定辅助用户数据的特征，作为补偿特征。最后，服务器可以根据原始特征以及补偿特征，确定用户数据对应的用户业务特征。
其中，预测模型中可以包含有输入层，服务器可以将用户数据输入到输入层中，通过上述方法，确定用户数据对应的用户业务特征。
具体的，服务器可以通过预测模型中的第一权重参数，对用户数据进行特征提取，以确定出用户数据对应的原始特征。
然后，服务器可以通过预测模型中的第二权重参数，对用户数据中目标维度上的数据进行补充，以及将用户数据中除目标维度以外的其他数据维度删除，以得到补偿特征。最后，服务器可以根据原始特征以及补偿特征，确定用户数据对应的用户业务特征。具体公式如下：
fi(x)＝h(x)⊙wh+I(x is None)⊙wg
在上述公式中，fi(x)可以用于表示用户数据对应的用户业务特征。fi()可以用于表示输入层对应的模型参数，也就是输入层映射。x可以是指用户数据对应的原始特征。h(x)可以用于表示先对原始特征x中的各个数据维度中的数据进行标准化或归一化，然后将目标维度中的空白数据设置为零。I(x is None)可以用于表示指示函数，用于判断原始特征x中的各个数据维度中的数据是否为空白数据，若为空白数据，将该目标维度中的数据设置为一，若不为空白数据，将该数据维度中的数据设置为零。wh可以用于表示原始特征对应的权重系数。wg可以用于表示补偿特征对应的权重系数，⊙可以用于表示哈达玛积。
其中，服务器可以通过第一权重参数，同时将用户数据乘上权重系数wh，以及将目标维度中的空白数据设置为零，得到原始特征。同样的，服务器可以通过第二权重系数，同时将用户数据中目标维度上的数据进行补充，并乘上权重系数wg，以及将用户数据中除目标维度以外的其他数据维度删除，得到补偿特征。
然后，服务器可以将原始特征与补偿特征进行相加，将补偿特征中的目标维度的数据补充到原始特征中的目标维度上，以得到用户数据对应的用户业务特征。通过上述方法，将空白数据与数值为零进行区分，避免将空白数据设置为零时的信息丢失。
目前，预测模型通常通过一个简单的线性模型来学习这些特征的权重，但是，这种方式只能确定出特定的特征组合。并且，这种方式依赖人工进行特征组合，会导致预测模型对未出现的特征组合的感知能力较低，使得预测模型确定出的预测结果的准确性较低。因此，服务器需要确定出不同的特征组合对预测出的预测结果的影响，以此得到准确的预测结果。
在本说明书实施例中，预测模型包括：注意力机制网络。服务器可以将训练样本中目标用户的用户数据输入到注意力机制网络，确定用户数据中的各数据维度上的数据之间的相关性。
其次，针对每个数据维度，服务器可以根据该数据维度上的数据与其他数据维度上的数据之间的相关性，确定该数据维度对应的相关性权重，并根据各个数据维度上的数据以及该数据维度对应的相关性权重，确定该数据维度对应的综合特征。
最后，服务器可以根据各数据维度对应的综合特征，确定用户数据对应的用户业务特征。
进一步的，预测模型包括：基础特征网络、组合特征网络。服务器可以将训练样本中目标用户的用户数据输入到基础特征网络，以通过基础特征网络，对用户数据中的各个数据维度进行单独编码，得到基础特征，并将用户数据输入到组合特征网络，以通过组合特征网络，对用户数据中的各个数据维度进行组合编码，得到组合特征。
然后，将基础特征、组合特征中的至少一个，与各数据维度对应的综合特征进行拼接，得到用户数据对应的用户业务特征。具体公式如下：
Figure BDA0003642728500000111
在上述公式中，ff(fi(x))可以用于表征用户数据对应的用户业务特征。fw()可以用于表示基础特征网络对应的模型参数，也就是基础特征网络映射。fd()可以用于表示组合特征网络对应的模型参数，也就是组合特征网络映射。fa()可以用于表示注意力机制网络对应的模型参数，也就是注意力机制网络映射。
Figure BDA0003642728500000112
可以用于表征连接符号，将基础特征、组合特征、各数据维度对应的综合特征进行拼接，得到用户数据对应的用户业务特征。当然，服务器也可以仅确定其中的一种特征或将其中的任意两种特征进行拼接，以得到用户数据对应的用户业务特征。
S104：根据所述训练样本中记录的所述目标用户针对目标业务的已执行业务周期，将所述用户业务特征输入到与所述训练样本相匹配的预测子模型中，以预测所述目标用户执行目标业务对应的业务结果，作为预测结果。
S106：以最小化所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
在实际应用中，服务器用于对预测模型进行训练的训练样本需要具有一定的业务数据，也就是说，训练样本中需要具有用户已执行设定业务的规定业务周期产生的业务数据，例如，六个月，一年等。由于时间长度较长，导致训练样本中的数据较为老旧，使得训练出的预测模型对新增用户的预测结果的准确性较差。基于此，服务器可以将已执行业务周期较短的训练样本用于训练预测模型，使得预测模型具有对最新数据分布的感知。
在本说明书实施例中，服务器可以根据训练样本中记录的目标用户针对目标业务的已执行业务周期，将用户业务特征输入到与训练样本相匹配的预测子模型中，以预测目标用户执行目标业务对应的业务结果，作为预测结果。
这里提到的目标用户执行目标业务对应的业务结果表示目标用户履约执行目标业务的概率。例如，若训练样本中记录的目标用户针对目标业务的已执行业务周期为六个月，将用户业务特征输入到已执行业务周期为六个月的预测子模型中，以预测目标用户是否履约执行目标业务，作为预测结果。
然后，服务器可以以最小化预测结果与训练样本对应的标签之间的偏差为优化目标，对预测模型进行训练。例如，在训练样本中，若目标用户履约执行目标业务，训练样本对应的标签为一，若目标用户未履约执行目标业务，训练样本对应的标签为零。服务器可以以最小化目标用户履约执行目标业务的概率与训练样本对应的标签之间的差值为优化目标，对预测模型进行训练。
目前，用于训练预测模型的训练样本中都对应有已执行业务周期。这意味着训练样本均为通过目标业务的业务申请的训练样本。而不应用目标用户未通过目标业务的业务申请的训练样本，会导致训练出的预测模型的风险判断能力较低。基于此，服务器设置训练样本中记录的目标用户针对目标业务的已执行业务周期为零个月对应的辅助预测子模型，以此使得预测模型学习到目标用户未通过目标业务的业务申请的训练样本的用户业务特征。
在本说明书实施例中，若出现训练样本中记录的目标用户针对目标业务的已执行业务周期为零个月的情况，目标用户执行目标业务对应的业务结果表示目标用户是否通过执行目标业务的业务申请。
进一步的，若训练样本中记录的目标用户针对目标业务的已执行业务周期为零个月，将用户业务特征输入到目标用户申请目标业务的预测子模型中，以预测目标用户是否通过执行目标业务的业务申请，作为预测申请结果。
然后，服务器可以以最小化预测申请结果与实际申请结果之间的偏差为优化目标，对预测模型进行训练。
通过上述方法，服务器可以使得预测模型学习到目标用户未通过目标业务的业务申请的训练样本的用户业务特征，提高预测模型对目标用户的预测结果的风险区分能力。
进一步的，在本说明书实施例中，每个训练样本均具有实际申请结果的标签，若确定该训练样本中目标用户申请目标业务的实际申请结果为通过，将用户业务特征输入到目标用户申请目标业务对应的预测子模型中，以预测目标用户申请目标业务对应的申请结果，作为预测申请结果。
然后，服务器可以以最小化预测申请结果与实际申请结果之间的偏差、预测结果与训练样本对应的标签之间的偏差为优化目标，对预测模型进行训练。
在实际应用中，不同的子预测模型确定出的预测申请结果与实际申请结果之间的偏差或预测结果与训练样本对应的标签之间的偏差，对预测模型的训练过程中的训练效果并不相同。基于此，服务器可以确定出各个预测子模型对应的权重系数，以此确定用于训练预测模型的损失和值。
在本说明书实施例中，服务器可以根据各个预测子模型对业务结果的影响程度，确定各个预测子模型对应的权重系数。其次，服务器可以根据各个预测子模型对应的权重系数、预测申请结果与实际申请结果之间的偏差、预测结果与训练样本对应的标签之间的偏差，确定损失和值。最后，服务器可以以最小化损失和值为优化目标，对预测模型进行训练。经过多轮的迭代训练，可以使偏差不断减小，并收敛在一个数值范围内，进而完成预测模型的训练。具体公式如下：
losstotal＝wl*lossl+ws1*losss1+…+wsn*losssn+wr*lossr
在上述公式中，losstotal可以用于表征预测模型的损失和值。wl可以用于表征主预测子模型对应的权重。lossl可以用于表征主预测子模型的损失。ws1可以用于表征已执行业务周期为一个月对应的辅助预测子模型的权重。losss1可以用于表征已执行业务周期为一个月对应的辅助预测子模型的损失。wsn可以用于表征已执行业务周期为n个月对应的辅助预测子模型的权重。losssn可以用于表征已执行业务周期为n个月对应的辅助预测子模型的损失。wr可以用于表征目标用户申请目标业务对应的辅助预测子模型的权重。lossr可以用于表征目标用户申请目标业务对应的辅助预测子模型的损失。
需要说明的是，各预测子模型对应的权重可以通过网络搜索、贝叶斯搜索等超参数调参的方法得到。
Figure BDA0003642728500000141
在上述公式中，n可以用于表征训练样本的数量。lossj,l可以用于表征第j个训练样本在主预测子模型中的损失。I(j,l)可以用于表示指示函数，确定训练样本中已执行业务周期是否大于设定业务周期，也就是说，确定训练样本是否具有已执行业务周期大于设定业务周期对应的标签。从上述公式中可以看出，预测模型可以确定出一批训练样本在主预测子模型中的损失的平均值。
Figure BDA0003642728500000142
在上述公式中，lossj,sn可以用于表征第j个训练样本在已执行业务周期为n个月对应的辅助预测子模型中的损失。I(j,sn)可以用于表示指示函数，确定训练样本中已执行业务周期是否为n个月，也就是说，确定训练样本是否具有已执行业务周期为n个月对应的标签。从上述公式中可以看出，预测模型可以确定出一批训练样本在已执行业务周期为n个月对应的辅助预测子模型中的损失的平均值。
Figure BDA0003642728500000143
在上述公式中，lossj,r可以用于表征第j个训练样本在目标用户申请目标业务对应的辅助预测子模型中的损失。从上述公式中可以看出，预测模型可以确定出一批训练样本在目标用户申请目标业务对应的辅助预测子模型中的损失的平均值。
例如，若设定业务周期为十二个月，训练样本中记录的目标用户针对目标业务的已执行业务周期为三个月。预测模型确定出的损失和值的公式如下。
losstotal＝ws3*losss3+wr*lossr
再例如，若设定业务周期为十二个月，训练样本中记录的目标用户针对目标业务的已执行业务周期为十三个月。预测模型确定出的损失和值的公式如下。
losstotal＝wl*lossl+wr*lossr
再例如，若训练样本中记录的目标用户针对目标业务的已执行业务周期为零个月。预测模型确定出的损失和值的公式如下。
losstotal＝wr*lossr
从上述方法中可以看出，每个训练样本均有目标用户申请目标业务对应的辅助预测子模型的损失，并且，基于已执行业务周期，确定另一个预测子模型的损失，以此确定出损失和值，对预测模型进行训练。
需要说明的是，预测模型中的网络结构可以有多种形式，例如，Wide&Deep模型(Wide&Deep Learning for Recommender Systems)、注意力机制网络(Attention Model，AM)等，本说明书不对预测模型进行具体的限定。
当然，在本说明书实施例中，服务器可以将上述输入层、基础特征网络、组合特征网络、注意力机制网络、主预测子模型、若干辅助预测子模型相结合，得到预测模型。具体如图2所示。
图2为本说明书实施例提供的一种预测模型的模型结构的示意图。
在图2中，服务器可以将目标用户的用户数据输入到预测模型中的输入层，确定用户数据对应的原始特征以及用户数据对应的补偿特征，并将原始特征与补偿特征进行相加，将补偿特征中的目标维度的数据补充到原始特征中的目标维度上，得到补充后的原始特征。
其次，服务器可以将补充后的原始特征分别输入到基础特征网络、组合特征网络以及注意力机制网络中，得到基础特征、组合特征以及各数据维度对应的综合特征。
而后，服务器可以将基础特征、组合特征以及各数据维度对应的综合特征进行拼接，得到用户数据对应的用户业务特征。
然后，服务器可以根据训练样本对应的标签，确定训练样本中用户在已执行业务周期中对目标业务的执行情况，也就是，训练样本中记录的目标用户针对目标业务的已执行业务周期。将用户业务特征输入到与训练样本相匹配的预测子模型中，以预测目标用户执行目标业务对应的业务结果，作为预测结果。
最后，服务器可以预测结果与训练样本对应的标签之间的偏差为优化目标，对预测模型进行训练。
例如，若设定业务周期为十二个月，训练样本中记录的目标用户针对目标业务的已执行业务周期为三个月。服务器可以将用户业务特征输入到已执行业务周期为三个月的预测子模型中，以预测目标用户是否履约执行目标业务，作为预测结果。同时，服务器可以将用户业务特征输入到目标用户申请目标业务的预测子模型中，以预测目标用户是否通过执行目标业务的业务申请，作为预测申请结果。
然后，服务器可以以最小化预测结果与训练样本对应的标签之间的偏差、预测申请结果与实际申请结果之间的偏差，这两者的损失和值为优化目标，对预测模型进行训练。
再例如，若设定业务周期为十二个月，训练样本中记录的目标用户针对目标业务的已执行业务周期为十三个月。服务器可以将用户业务特征输入到主预测子模型中，以预测目标用户是否履约执行目标业务，作为预测结果。同时，服务器可以将用户业务特征输入到目标用户申请目标业务的预测子模型中，以预测目标用户是否通过执行目标业务的业务申请，作为预测申请结果。
然后，服务器可以以最小化预测结果与训练样本对应的标签之间的偏差、预测申请结果与实际申请结果之间的偏差，这两者的损失和值为优化目标，对预测模型进行训练。
再例如，若训练样本中记录的目标用户针对目标业务的已执行业务周期为零个月。服务器可以将用户业务特征输入到目标用户申请目标业务的预测子模型中，以预测目标用户是否通过执行目标业务的业务申请，作为预测申请结果。
然后，服务器可以以最小化预测申请结果与实际申请结果之间的偏差为优化目标，对预测模型进行训练。
从上述过程中可以看出，本方法可以根据训练样本中记录的目标用户针对目标业务的已执行业务周期，将用户业务特征输入到与训练样本相匹配的预测子模型中，以预测目标用户执行目标业务对应的业务结果，作为预测结果。也就是说，本方法可以通过不同已执行业务周期的训练样本，对预测模型进行训练，使得预测模型具有对最新数据分布的感知，从而提高预测模型确定出的预测结果的准确性。
进一步的，本方法还可以通过预测模型中的输入层，避免直接将缺失数据直接设置为零的信息丢失。
并且，本方法可以通过设置目标用户申请目标业务的预测子模型，使得预测模型学习到目标用户未通过目标业务的业务申请的训练样本的用户业务特征，提高预测模型对目标用户的预测结果的风险区分能力。
本说明书实施例在预测模型的训练完成后，可以通过预测模型对用户进行业务风控，具体过程如图3所示。
图3为本说明书中一种业务风控的方法的流程示意图。
S300：接收目标用户针对所述目标业务的业务申请请求。
S302：根据所述业务申请请求，确定所述目标用户的用户数据。
S304：将所述目标用户的用户数据输入到预先训练的预测模型中，确定所述用户数据对应的用户业务特征，所述预测模型是通过上述模型训练的方法训练得到的。
S306：将所述用户业务特征输入到主预测子模型中，以根据所述用户业务特征，预测所述用户执行所述目标业务后的业务结果，所述业务结果用于表示所述目标用户是否会履约执行所述目标业务。
S308：根据所述业务结果，对所述目标用户进行业务风控。
在本说明书实施例中，服务器可以接收目标用户针对目标业务的业务申请请求，例如，若设定业务为贷款业务，服务器可以接收目标用户的贷款申请。再根据业务申请请求，确定目标用户的用户数据，例如，服务器确定目标用户的基本用户信息以及用户行为。
其次，服务器可以根据业务申请请求，确定目标用户的用户数据。而后，服务器可以将目标用户的用户数据输入到预先训练的预测模型中，确定用户数据对应的用户业务特征。
然后，服务器可以将用户业务特征输入到主预测子模型中，以根据用户业务特征，预测用户执行目标业务后的业务结果，这里提到的业务结果用于表示目标用户是否会履约执行目标业务。最后，根据业务结果，对用户进行业务风控。
具体的，服务器可以将用户业务特征输入到主预测子模型中，可以得到目标用户会履约执行目标业务的概率。若目标用户会履约执行目标业务的概率大于设定概率阈值，则通过目标用户的目标业务的业务申请。
从上述内容可以看出，服务器将通过这种方式训练后的预测模型应用到实际业务中，可以有效提高风险识别的准确性。
以上为本说明书的一个或多个实施例提供的模型训练的方法，基于同样的思路，本说明书还提供了相应的模型训练的装置，如图4所示。
图4为本说明书提供的一种模型训练的装置示意图，预测模型包含有主预测子模型和若干辅助预测子模型，在模型训练过程中，不同预测子模型处理不同已执行业务周期的训练样本，针对每个训练样本，该训练样本对应的标签是根据该训练样本中用户在已执行业务周期中对目标业务的执行情况来确定，包括：
获取模块400，用于获取训练样本；
输入模块402，用于将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征；
预测模块404，用于根据所述训练样本中记录的所述目标用户针对目标业务的已执行业务周期，将所述用户业务特征输入到与所述训练样本相匹配的预测子模型中，以预测所述目标用户执行目标业务对应的业务结果，作为预测结果；
训练模块406，用于以最小化所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
可选地，所述输入模块402具体用于，将所述用户数据输入到所述预测模型中，以确定出所述用户数据对应的原始特征，确定所述用户数据中缺失数据的数据维度，作为目标维度，对所述用户数据中目标维度上的数据进行补充，以及将所述用户数据中除目标维度以外的其他数据维度删除，得到辅助用户数据，并确定所述辅助用户数据的特征，作为补偿特征，根据所述原始特征以及所述补偿特征，确定所述用户数据对应的用户业务特征。
可选地，所述输入模块402具体用于，通过所述预测模型中的第一权重参数，对所述用户数据进行特征提取，以确定出所述用户数据对应的原始特征，通过所述预测模型中的第二权重参数，对所述用户数据中目标维度上的数据进行补充，以及将所述用户数据中除目标维度以外的其他数据维度删除，以得到所述补偿特征。
可选地，所述预测模型包括：注意力机制网络；
所述输入模块402具体用于，将所述训练样本中目标用户的用户数据输入到所述注意力机制网络，确定所述用户数据中的各数据维度上的数据之间的相关性，针对每个数据维度，根据该数据维度上的数据与其他数据维度上的数据之间的相关性，确定该数据维度对应的相关性权重，并根据各个数据维度上的数据以及该数据维度对应的相关性权重，确定该数据维度对应的综合特征，根据各数据维度对应的综合特征，确定所述用户数据对应的用户业务特征。
可选地，所述预测模型包括：基础特征网络、组合特征网络；
所述输入模块402具体用于，将所述训练样本中目标用户的用户数据输入到所述基础特征网络，以通过所述基础特征网络，对所述用户数据中的各个数据维度进行单独编码，得到基础特征，并将所述用户数据输入到所述组合特征网络，以通过所述组合特征网络，对所述用户数据中的各个数据维度进行组合编码，得到组合特征，将所述基础特征、所述组合特征中的至少一个，与各数据维度对应的综合特征进行拼接，得到所述用户数据对应的用户业务特征。
可选地，所述训练模块406具体用于，若确定该训练样本中所述目标用户申请所述目标业务的实际申请结果为通过，将所述用户业务特征输入到所述目标用户申请所述目标业务对应的预测子模型中，以预测所述目标用户申请目标业务对应的申请结果，作为预测申请结果，以最小化所述预测申请结果与实际申请结果之间的偏差、所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
可选地，所述训练模块406具体用于，根据各个预测子模型对业务结果的影响程度，确定各个预测子模型对应的权重系数，根据各个预测子模型对应的权重系数、所述预测申请结果与实际申请结果之间的偏差、所述预测结果与所述训练样本对应的标签之间的偏差，确定损失和值，以最小化所述损失和值为优化目标，对所述预测模型进行训练。
图5为本说明书提供的一种业务风控的装置示意图，包括：
接收模块500，用于接收目标用户针对所述目标业务的业务申请请求；
确定模块502，用于根据所述业务申请请求，确定所述目标用户的用户数据；
输入模块504，用于将所述目标用户的用户数据输入到预先训练的预测模型中，确定所述用户数据对应的用户业务特征，所述预测模型是通过上述模型训练的方法训练得到的；
预测模块506，用于将所述用户业务特征输入到主预测子模型中，以根据所述用户业务特征，预测所述用户执行所述目标业务后的业务结果，所述业务结果用于表示所述目标用户是否会履约执行所述目标业务；
风控模块508，用于根据所述业务结果，对所述目标用户进行业务风控。
本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述图1提供的一种模型训练的方法以及业务风控的方法。
本说明书还提供了图6所示的一种对应于图1的电子设备的示意结构图。如图6所述，在硬件层面，该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1所述的模型训练的方法以及业务风控的方法。当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本说明书的实施例可提供为方法、系统、或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。

Claims (12)

1.一种模型训练的方法，其特征在于，预测模型包含有主预测子模型和若干辅助预测子模型，在模型训练过程中，不同预测子模型处理不同已执行业务周期的训练样本，针对每个训练样本，该训练样本对应的标签是根据该训练样本中用户在已执行业务周期中对目标业务的执行情况来确定，包括：
获取训练样本；
将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征；
根据所述训练样本中记录的所述目标用户针对目标业务的已执行业务周期，将所述用户业务特征输入到与所述训练样本相匹配的预测子模型中，以预测所述目标用户执行目标业务对应的业务结果，作为预测结果；
以最小化所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
2.如权利要求1所述的方法，其特征在于，将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征，具体包括：
将所述用户数据输入到所述预测模型中，以确定出所述用户数据对应的原始特征；
确定所述用户数据中缺失数据的数据维度，作为目标维度，对所述用户数据中目标维度上的数据进行补充，以及将所述用户数据中除目标维度以外的其他数据维度删除，得到辅助用户数据，并确定所述辅助用户数据的特征，作为补偿特征；
根据所述原始特征以及所述补偿特征，确定所述用户数据对应的用户业务特征。
3.如权利要求2所述的方法，其特征在于，确定出所述用户数据对应的原始特征，具体包括：
通过所述预测模型中的第一权重参数，对所述用户数据进行特征提取，以确定出所述用户数据对应的原始特征；
对所述用户数据中目标维度上的数据进行补充，以及将所述用户数据中除目标维度以外的其他数据维度删除，得到辅助用户数据，并确定所述辅助用户数据的特征，作为补偿特征，具体包括：
通过所述预测模型中的第二权重参数，对所述用户数据中目标维度上的数据进行补充，以及将所述用户数据中除目标维度以外的其他数据维度删除，以得到所述补偿特征。
4.如权利要求1所述的方法，其特征在于，所述预测模型包括：注意力机制网络；
将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征，具体包括：
将所述训练样本中目标用户的用户数据输入到所述注意力机制网络，确定所述用户数据中的各数据维度上的数据之间的相关性；
针对每个数据维度，根据该数据维度上的数据与其他数据维度上的数据之间的相关性，确定该数据维度对应的相关性权重，并根据各个数据维度上的数据以及该数据维度对应的相关性权重，确定该数据维度对应的综合特征；
根据各数据维度对应的综合特征，确定所述用户数据对应的用户业务特征。
5.如权利要求4所述的方法，其特征在于，所述预测模型包括：基础特征网络、组合特征网络；
根据各数据维度对应的综合特征，确定所述用户数据对应的用户业务特征，具体包括：
将所述训练样本中目标用户的用户数据输入到所述基础特征网络，以通过所述基础特征网络，对所述用户数据中的各个数据维度进行单独编码，得到基础特征，并将所述用户数据输入到所述组合特征网络，以通过所述组合特征网络，对所述用户数据中的各个数据维度进行组合编码，得到组合特征；
将所述基础特征、所述组合特征中的至少一个，与各数据维度对应的综合特征进行拼接，得到所述用户数据对应的用户业务特征。
6.如权利要求1所述的方法，其特征在于，以最小化所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练，具体包括：
若确定该训练样本中所述目标用户申请所述目标业务的实际申请结果为通过，将所述用户业务特征输入到所述目标用户申请所述目标业务对应的预测子模型中，以预测所述目标用户申请目标业务对应的申请结果，作为预测申请结果；
以最小化所述预测申请结果与实际申请结果之间的偏差、所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
7.如权利要求6所述的方法，其特征在于，以最小化所述预测申请结果与实际申请结果之间的偏差、所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练，具体包括：
根据各个预测子模型对业务结果的影响程度，确定各个预测子模型对应的权重系数；
根据各个预测子模型对应的权重系数、所述预测申请结果与实际申请结果之间的偏差、所述预测结果与所述训练样本对应的标签之间的偏差，确定损失和值；
以最小化所述损失和值为优化目标，对所述预测模型进行训练。
8.一种业务风控的方法，其特征在于，包括：
接收目标用户针对所述目标业务的业务申请请求；
根据所述业务申请请求，确定所述目标用户的用户数据；
将所述目标用户的用户数据输入到预先训练的预测模型中，确定所述用户数据对应的用户业务特征，所述预测模型是通过上述权利要求1～7任一项所述的方法训练得到的；
将所述用户业务特征输入到主预测子模型中，以根据所述用户业务特征，预测所述用户执行所述目标业务后的业务结果，所述业务结果用于表示所述目标用户是否会履约执行所述目标业务；
根据所述业务结果，对所述目标用户进行业务风控。
9.一种模型训练的装置，其特征在于，预测模型包含有主预测子模型和若干辅助预测子模型，在模型训练过程中，不同预测子模型处理不同已执行业务周期的训练样本，针对每个训练样本，该训练样本对应的标签是根据该训练样本中用户在已执行业务周期中对目标业务的执行情况来确定，包括：
获取模块，用于获取训练样本；
输入模块，用于将所述训练样本中目标用户的用户数据输入到待训练的预测模型中，确定所述用户数据对应的用户业务特征；
预测模块，用于根据所述训练样本中记录的所述目标用户针对目标业务的已执行业务周期，将所述用户业务特征输入到与所述训练样本相匹配的预测子模型中，以预测所述目标用户执行目标业务对应的业务结果，作为预测结果；
训练模块，用于以最小化所述预测结果与所述训练样本对应的标签之间的偏差为优化目标，对所述预测模型进行训练。
10.一种业务风控的装置，其特征在于，包括：
接收模块，用于接收目标用户针对所述目标业务的业务申请请求；
确定模块，用于根据所述业务申请请求，确定所述目标用户的用户数据；
输入模块，用于将所述目标用户的用户数据输入到预先训练的预测模型中，确定所述用户数据对应的用户业务特征，所述预测模型是通过上述权利要求1～7任一项所述的方法训练得到的；
预测模块，用于将所述用户业务特征输入到主预测子模型中，以根据所述用户业务特征，预测所述用户执行所述目标业务后的业务结果，所述业务结果用于表示所述目标用户是否会履约执行所述目标业务；
风控模块，用于根据所述业务结果，对所述目标用户进行业务风控。
11.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求1～8任一项所述的方法。
12.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述权利要求1～8任一项所述的方法。
CN202210523094.5A 2022-05-13 2022-05-13 一种模型训练的方法、业务风控的方法及装置 Pending CN114997472A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210523094.5A CN114997472A (zh) 2022-05-13 2022-05-13 一种模型训练的方法、业务风控的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210523094.5A CN114997472A (zh) 2022-05-13 2022-05-13 一种模型训练的方法、业务风控的方法及装置

Publications (1)

Publication Number Publication Date
CN114997472A true CN114997472A (zh) 2022-09-02

Family

ID=83027064

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210523094.5A Pending CN114997472A (zh) 2022-05-13 2022-05-13 一种模型训练的方法、业务风控的方法及装置

Country Status (1)

Country Link
CN (1) CN114997472A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115563584A (zh) * 2022-11-29 2023-01-03 支付宝(杭州)信息技术有限公司 一种模型训练方法、装置、存储介质及电子设备
CN115952859A (zh) * 2023-03-01 2023-04-11 支付宝(杭州)信息技术有限公司 数据处理方法、装置及设备
CN116109008A (zh) * 2023-04-04 2023-05-12 支付宝(杭州)信息技术有限公司 一种业务执行的方法、装置、存储介质及电子设备

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115563584A (zh) * 2022-11-29 2023-01-03 支付宝(杭州)信息技术有限公司 一种模型训练方法、装置、存储介质及电子设备
CN115952859A (zh) * 2023-03-01 2023-04-11 支付宝(杭州)信息技术有限公司 数据处理方法、装置及设备
CN116109008A (zh) * 2023-04-04 2023-05-12 支付宝(杭州)信息技术有限公司 一种业务执行的方法、装置、存储介质及电子设备

Similar Documents

Publication Publication Date Title
CN114997472A (zh) 一种模型训练的方法、业务风控的方法及装置
CN115146731A (zh) 一种模型训练的方法、业务风控的方法及装置
CN111881973A (zh) 一种样本选择方法、装置、存储介质及电子设备
CN110008991B (zh) 风险事件的识别、风险识别模型的生成方法、装置、设备及介质
CN113643119A (zh) 一种模型训练的方法、业务风控的方法及装置
CN113641896A (zh) 一种模型训练以及推荐概率预测方法及装置
CN115238826B (zh) 一种模型训练的方法、装置、存储介质及电子设备
CN116882767B (zh) 一种基于不完善异构关系网络图的风险预测方法及装置
CN113010562B (zh) 一种信息推荐的方法以及装置
CN116578877B (zh) 一种模型训练及二次优化打标的风险识别的方法及装置
CN116308738B (zh) 一种模型训练的方法、业务风控的方法及装置
CN113379528A (zh) 风控模型建立方法、装置和风险控制方法
CN112183584A (zh) 一种模型训练以及业务执行的方法及装置
CN115758141A (zh) 一种模型训练和业务风控的方法及装置
CN114912513A (zh) 一种模型训练的方法、识别信息的方法及装置
CN114997907A (zh) 一种预测模型的训练方法、信息推荐的方法及装置
CN114860967A (zh) 一种模型训练的方法、信息推荐的方法以及装置
CN114996570A (zh) 一种信息推荐的方法及装置
CN114120273A (zh) 一种模型训练的方法及装置
CN117786061B (zh) 一种基于时空注意力机制的大语言模型预测方法及装置
CN116109008B (zh) 一种业务执行的方法、装置、存储介质及电子设备
CN116340852B (zh) 一种模型训练、业务风控的方法及装置
CN117494052A (zh) 一种基于时空静态信息自动化生成的预测方法及装置
CN117876114A (zh) 一种业务执行和模型训练的方法及装置
CN118350417A (zh) 目标检测模型的优化方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination