CN114548307A - 分类模型训练方法和装置、分类方法和装置 - Google Patents

Abstract

本公开提供了一种分类模型训练方法和装置，涉及大数据、机器学习等技术领域。具体实现方案为：基于分类建模任务，确定待构建模型的建模信息；基于建模信息，在历史模型库中选取至少一个预训练模型；基于选取的样本，得到预训练模型的输出结果；基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型。该实施方式提升了分类模型分类效果。

Description

分类模型训练方法和装置、分类方法和装置

技术领域

本公开涉及计算机技术领域，具体涉及大数据、机器学习等技术领域，尤其涉及一种分类模型训练方法和装置、分类方法和装置、电子设备、计算机可读存储介质以及计算机程序产品。

背景技术

分类模型在建模时，可以采用将历史样本和本次建模样本混合训练的建模方式，该方式建模耗时长，且建模效果不佳；还可以采用目标样本的建模方式，在这个方式中在目标样本是一些小样本的场景下，由于无法使用复杂算法，建模效果不佳。

发明内容

本公开提供了一种分类模型训练方法和装置、分类方法和装置、电子设备、计算机可读存储介质以及计算机程序产品。

根据第一方面，提供了一种分类模型训练方法，该方法包括：基于分类建模任务，确定待构建模型的建模信息；基于建模信息，在历史模型库中选取至少一个预训练模型；基于选取的样本，得到预训练模型的输出结果；基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型。

根据第二方面，提供了一种分类方法，该方法包括：获取待分类数据；将待分类数据输入采用如第一方面任一实现方式描述的方法生成的分类模型中，输出待分类数据的分类结果。

根据第三方面，提供了一种分类模型训练装置，该装置包括：确定单元，被配置成基于分类建模任务，确定待构建模型的建模信息；选取单元，被配置成基于建模信息，在历史模型库中选取至少一个预训练模型；得到单元，被配置成基于选取的样本，得到预训练模型的输出结果；训练单元，被配置成基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型。

根据第四方面，又提供了一种分类装置，该装置包括：获取单元，被配置成被配置成获取待分类数据；输入单元，被配置成将待分类数据输入采用如第三方面任一实现方式描述的装置生成的分类模型中，得到待分类数据的分类结果。

根据第五方面，提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器，其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面或第二方面任一实现方式描述的方法。

根据第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面或第二方面任一实现方式描述的方法。

根据第七方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第一方面或第二方面任一实现方式描述的方法。

本公开的实施例提供的分类模型训练方法和装置，首先，基于分类建模任务，确定待构建模型的建模信息；其次，基于建模信息，在历史模型库中选取至少一个预训练模型；再次，基于选取的样本，得到预训练模型的输出结果；最后，基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型。由此，将历史模型库中预训练模型的输出结果加入到新建的分类模型的特征池中，高效地利用了历史样本和历史建模结果，提升了分类模型的分类效果。

本公开的实施例提供的分类方法和装置，获取待分类数据；将待分类数据输入采用本实施例的分类模型训练方法生成的分类模型中，得到待分类数据的分类结果。由此，采用分类模型训练方法得到的分类模型进行分类，可以对待分类数据进行可靠的分类，保证了数据分类的有效性。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开分类模型训练方法的一个实施例的流程图；

图2是根据本公开分类模型训练方法适用场景的一种结构示意图；

图3是根据本公开分类方法的一个实施例的流程图；

图4是根据本公开分类模型训练装置的一个实施例的结构示意图；

图5是根据本公开选取单元的一个实施例的结构示意图；

图6是根据本公开筛选模块的一个实施例的结构示意图；

图7是根据本公开得到单元的一个实施例的结构示意图；

图8是根据本公开得到单元的另一个实施例的结构示意图；

图9是根据本公开得到单元的再一个实施例的结构示意图；

图10是根据本公开训练单元的一个实施例的结构示意图；

图11是根据本公开分类装置的一个实施例的结构示意图；

图12是用来实现本公开实施例的分类模型训练方法或分类方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

针对传统的小目标样本建模效果不好，或者历史样本和历史建模结果无法高效复用的问题，本公开提出了一种分类模型训练方法，图1示出了根据本公开分类模型训练方法的一个实施例的流程100，上述分类模型训练方法包括以下步骤：

步骤101，基于分类建模任务，确定待构建模型的建模信息。

本实施例中，分类模型训练方法运行于其上的执行主体在建模之前首先需要确定所要建立的模型的任务，即建模任务。例如，建模任务为金融风控类型预测。

本实施例中，待构建模型可以是基学习器或者分类网络，待构建模型的参数还不确定，通过对待构建模型进行训练，可以生成分类模型。

本实施例中，待构建模型的建模信息是与待构建模型相关的信息，建模信息包括与待构建模型在建模过程相关的建模参数，建模参数包括：待构建模型的样本、待构建模型的超参数、待构建模型的参数、待构建模型的业务场景等。其中，通过待构建模型的样本可以确定样本特征。

在这里，样本是待构建模型的分类建模任务对应的实际业务场景样本，样本可以主要用于分类模型的建模，也即对待构建模型的训练。可选地，通过对样本进行标签标注可以得到待构建模型的正样本和负样本。

本实施例中，样本是用于训练待构建模型的样本，样本可以是从大量的数据集或数据源中选取的样本，待构建模型的样本的数量不做限制，例如，样本是从目标样本集中选取的第一预设数目的样本。

本实施例中，上述基于分类建模任务，确定待构建模型的建模信息包括：基于待构建模型的分类建模任务，确定待构建模型的样本、样本特征以及待构建模型的业务场景。其中，业务场景可以基于待构建模型所适用的场景不同而表现不同，例如，金融风控分类、零售产品分类等。

本公开的技术方案中，所涉及的建模信息的收集、存储、使用、加工、传输、提供和公开等处理，是在经授权后执行的，符合相关法律法规。

步骤102，基于建模信息，在历史模型库中选取至少一个预训练模型。

本实施例中，历史模型库包括多个预训练模型，每个预训练模型是基于各自的样本训练得出的已经训练训练完成的模型，基于待构建模型的建模信息，从历史模型库中选取与待构建模型对应的预训练模型，可以基于选取的预训练模型的输出结果，扩容待构建模型特征池，为训练待构建模型打下坚实的基础。

本实施例中，上述基于建模信息，在历史模型库中选取至少一个预训练模型包括：基于建模信息中待构建模型的样本，在历史模型库中选取与待构建模型的样本相似的预训练模型，即将历史模型库中模型的样本与待构建模型的样本进行相似度比较，响应于相似度大于相似度阈值(例如90％)以上，确定该历史模型库中模型为预训练模型，通过样本之间的相似度确定预训练模型，可以使选取的预训练模型具有待构建模型的样本特征。

可选地，上述基于建模信息，在历史模型库中选取至少一个预训练模型包括：基于建模信息中待构建模型的样本，在历史模型库中选取与待构建模型的样本相似的模型，即将历史模型库中模型的样本与待构建模型的样本进行相似度比较，响应于相似度大于相似度阈值(例如90％)以上，选取该模型；进一步，检测选取的模型与待构建模型的样本的特征空间，在选取的模型的特征空间与待构建模型的特征空间的重合度大于重合度阈值(例如80％)以上，确定选取的模型为预训练模型。通过样本和特征空间之间的相似度确定预训练模型，可以加强选取的预训练模型的准确度。

可选地，如图2所示，可以基于样本相似度、特征空间相似度、业务场景相似度从历史模型库中选取预训练模型，上述基于建模信息，在历史模型库中选取至少一个预训练模型包括：基于建模信息中待构建模型的样本，在历史模型库中选取与待构建模型的样本相似的模型，得到第一模型；基于建模信息中待构建模型的样本特征，在历史模型库中选取与待构建模型的样本特征相似的模型，得到第二模型；基于建模信息中待构建模型的业务场景，在历史模型库中选取与待构建模型的业务场景相似的模型，得到第三模型；取第一模型、第二模型以及第三模型三者中均具有的模型作为预训练模型。通过样本、特征空间、业务场景之间的相似度确定预训练模型，可以进一步加强选取的预训练模型的准确度。

可选地，在得到预训练模型之后，可以通过评估预训练模型用到的特征未来的获取情况，检查预训练模型用到的特征在当前建模任务上是否大部分可用，防止分类模型的偏移。

步骤103，基于选取的样本，得到预训练模型的输出结果。

本实施例中，选取的样本是指为待构建模型选取的样本，将选取的样本输入预训练模型，可以得到预训练模型的输出结果。

本实施例中，预训练模型的输出结果可以是预训练模型对选取的样本进行类型预测得到的最终结果，预训练模型的输出结果还可以是预训练模型对选取的样本进行类型预测过程中得到的中间结果，或者预训练模型的输出结果是中间结果加上最终结果。

本实施例中，预训练模型可以是历史模型库中同一类模型的一个模型还可以是历史模型库中同一类模型中的多个模型，例如，预训练模型包括：树模型。进一步地，预训练模型还可以包括历史模型库中多个不同种类的模型，例如，预训练模型包括：树模型和神经网络模型。基于预训练模型的类型，输出结果可以是一个预训练模型输出的结果，也可以是不同类型的预训练模型输出的结果。

在本实施例的一些可选实现方式中，预训练模型包括：神经网络模型，基于选取的样本，得到预训练模型的输出结果包括：将选取的样本输入神经网络模型，得到神经网络模型输出的第一预测结果；采集神经网络模型的隐节点的隐向量；拼接第一预测结果和隐向量，得到神经网络模型的输出结果。

本实施例中，神经网络模型的任务与待构建模型的分类建模任务相同，即神经网络模型用于实现分类，将选取的样本输入神经网络模型，得到的第一预测结果，第一预测结果可以包括选取的样本的属于某一个或多个类型的概率，例如，选取的样本为基金，第一预测结果为选取的样本是否有风险的概率。

本实施例中，神经网络模型的隐节点为隐含层节点，隐含层可以是神经网络模型的最后一层，隐含层为最后一层的输出的节点向量，隐含层节点的选择非常重要，它不仅对建立的神经网络模型的性能影响很大，而且是神经网络模型训练时出现“过拟合”的直接原因。

本可选实现方式提供的得到预测模型的输出结果的方法，在预训练模型为神经网络模型时，拼接第一预测结果与隐向量作为预训练模型的输出结果，可以使预训练模型的输出结果具有更多的特征表征，提高了分类模型训练的样本获取的可靠性。

在本实施例的一些可选实现方式中，上述预训练模型包括：树模型，基于选取的样本，得到预训练模型的输出结果包括：将选取的样本输入树模型，得到树模型输出的第二预测结果；采集树模型输出的叶子节点索引号；对叶子节点索引号进行独热编码；拼接第二预测结果和进行独热编码后的叶子节点索引号，得到树模型的输出结果。

本实施例中，树模型是指由决策树构成的机器学习模型，例如，树模型为XGBoost(eXtreme Gradient Boosting，极端梯度提升)，或者树模型为或LightGBM(LightGradient Boosting，光速梯度提升)，其中，XGBoost和LightGBM均是由多个决策树构成。对于一个选取的样本，输出该样本在每个决策树落到的叶子节点的索引号。比如树模型中的第一个树总共4个叶子节点，该样本落在了第2个叶子节点中，这样如果有100个决策树对于一个样本就可以得到100个索引号。

需要说明的是，叶子节点索引号属于连续性特征，通过对叶子节点索引号进行独热编码，可以使编码后的叶子节点索引号具有类别特征，从而在第二预测结果和进行独热编码后的叶子节点索引号进行拼接之后具有类别属性。

本可选实现方式提供的得到预测模型的输出结果的方法，在预训练模型为树模型和神经网络模型时，采集叶子节点索引号，并将每个索引号进行热编码之后作为新特征、树模型输出的第二预测结果、神经网络模型数据的第一预测结果、隐向量拼接作为预训练模型的输出结果，可以使预训练模型输出结果具有更多的特征表征，提高了分类模型训练的样本获取的可靠性。

在本实施例的一些可选实现方式中，上述预训练模型包括：神经网络模型和树模型，基于选取的样本，得到预训练模型的输出结果包括：将选取的样本输入神经网络模型，得到神经网络模型输出的第一预测结果；采集神经网络模型的隐节点的隐向量；将选取的样本输入树模型，得到树模型输出的第二预测结果；采集树模型输出的叶子节点索引号；对叶子节点索引号进行独热编码；拼接第一预测结果、第二预测结果、隐向量和进行独热编码后的叶子节点索引号，得到预训练模型的输出结果。

本可选实现方式提供的得到预测模型的输出结果的方法，在预训练模型为树模型时，采集叶子节点索引号，并将每个索引号进行热编码之后作为新特征和树模型输出的第二预测结果拼接，可以使预训练模型输出结果具有更多的特征表征，提高了分类模型训练的样本获取的可靠性。

步骤104，基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型。

本实施例中，将输出结果和样本进行拼接，得到新样本，并将新样本更新进待构建模型的样本集中。需要说明的是，上述选取的样本也是从待构建模型的样本集中选取的样本。

本实施例中，在待构建模型的样本集达到一定规模之后，可以采用样本集中的样本(包括新样本和样本集的原始的样本)对待构建模型进行训练，直至待构建模型满足训练完成条件，得到训练完成的分类模型。

本实施例中，分类模型训练方法运行于其上的执行主体可以从样本集中获取训练样本(可以是新样本和/或原始的样本)，将训练样本输入待构建模型中，检测待构建模型或者待构建模型的输出是否满足训练完成条件，若不满足训练完成条件，则调整待构建模型的参数，并再选取训练样本，输入到待构建模型中，再检测待构建模型是否满足训练完成条件，直至待构建模型满足训练完成条件，停止选取训练样本，并将当前的待构建模型作为分类模型。

本实施例中，训练完成条件与待构建模型的架构相关，当待构建模型为神经网络模型时，上述训练完成条件包括以下至少一项：待构建模型的迭代训练(向待构建模型输入训练样本，分析待构建模型输出的预测结果为一次迭代训练)次数达到第一预定迭代阈值，待构建模型的损失值小于预定损失值阈值。其中，预定迭代阈值可以是基于待构建模型的损失值得到的经验值。例如，第一预定迭代阈值是2万次。预定损失值阈值为0.01。

在本实施例中，当待构建模型为树模型时，上述训练完成条件包括以下至少一项：树模型的迭代训练次数达到第二预定迭代阈值，树模型满足早停规则。早停规则为限制树模型是否继续训练的规则，通过该早停规则可以确定分类模型已经训练完成。例如，早停规则包括：在经过数次迭代训练之后，树模型的输出效果没有改变。

可选地，在对待构建模型进行训练过程，上述分类模型训练方法还包括：实时检测待构建模型的迭代训练次数是否达到最大次数，响应于迭代训练次数已达到最大次数，将待构建模型的决策树的数量限制为预设数量，当树模型的迭代训练次数过多时，通过限制决策树的数量，可以避免待构建模型的发生特征维度爆炸，提高分类模型训练的安全性。

本实施例中，分类模型可以是通过多轮迭代训练，对待构建模型进行调参后，得到的训练完成的模型。在待构建模型训练过程，若待构建模型满足训练完成条件，则满足训练完成条件的该待构建模型则可以作为分类模型使用。

在本实施例的一些可选实现方式中，上述基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型包括：将输出结果以及样本进行拼接，得到拼接样本；采用拼接样本对待构建模型进行训练，得到训练完成的分类模型。

本可选实现方式中，待构建模型每次迭代训练采用一个拼接样本，即待构建模型每迭代一次生成一个拼接样本。

本可选实现方式提供的得到训练完成的分类模型的方法，直接采用输出结果与样本进行拼接后的拼接样本对待构建模型进行训练，相对于直接采用样本训练待构建模型进行训练，可以得到更多的样本特征表征，提升了待构建模型训练的可靠性，保证了分类模型的分类效果。

可选地，在得到分类模型之后，可以通过预先配置的验证样本的路径测试分类模型，并生成分类模型评估报告。分类模型的测试过程包括：选取目标样本，使用目标样本测试分类模型，得到第一测试结果；在目标样本中拼接预训练模型的样本，得到第一拼接样本，使用第一拼接样本测试分类模型，得到第二测试结果；在目标样本中拼接预训练模型的输出结果，得到第二拼接样本，使用第二拼接样本测试分类模型，得到第三测试结果；比较第一测试结果、第二测试结果和第三测试结果，确定分类模型的预测性能。

本公开的实施例提供的分类模型训练方法，首先，基于分类建模任务，确定待构建模型的建模信息；其次，基于建模信息，在历史模型库中选取至少一个预训练模型；再次，基于选取的样本，得到预训练模型的输出结果；最后，基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型。由此，将历史模型库中预训练模型的输出结果加入到新建的分类模型的特征池中，高效地利用了历史样本和历史建模结果，提升了分类模型的分类效果。

在本实施例的一些可选实现方式中，建模信息包括：样本特征和业务场景信息；上述基于建模信息，在历史模型库中选取至少一个预训练模型包括：基于样本特征，从历史模型库中选取预筛选模型；基于业务场景信息，从预筛选模型中选取至少一个预训练模型。

本可选实现方式中，预筛选模型为从历史模型库中的模型中筛选出来的模型，该预筛选模型是已经训练完成的模型，并且可以获取预筛选模型在训练过程中采用的样本，进一步确定组成样本特征的样本特征空间。

本可选实现方式中，建模信息采用样本特征和业务场景信息，在选取预训练模型时，参考样本特征和业务场景信息，提高了预训练模型选取的可靠性。

由于业务场景与样本特征之间的独立性，可选地，上述基于建模信息，在历史模型库中选取至少一个预训练模型包括：基于业务场景信息，从历史模型库中选取预筛选模型；基于样本特征，从预筛选模型中选取至少一个预训练模型。

上述基于业务场景信息，从历史模型库中选取预筛选模型包括：基于建模信息中业务场景信息与历史模型库中各个模型的业务场景的相似度，选取相似度大于相似度阈值且训练完成的训练作为预筛选模型；基于建模信息中样本特征与历史模型中各个模型的样本特征之间一致率，选取与一致率大于预设阈值且已经训练完成的模型作为预训练模型，基于业务场景相似度和特征空间相似度确定预训练模型，将待构建模型的样本输入预训练模型得到预训练模型的输出结果。

本实施例中，特征空间相似度参数以及预训练模型的输出结果中是算子参数，通过为算子参数设置不同值，即可以适配不同项目使用。

在本实施例的一些可选实现方式中，上述基于样本特征，从历史模型库中选取预筛选模型包括：确定历史模型库中各个模型的样本特征空间；基于样本特征与各个模型的样本特征空间的重合率，选取预筛选模型。

本可选实现方式中，历史模型中各个模型可以是训练完成模型，各个模型的样本特征空间为训练各个模型时所采用的所有样本的特征的集合。上述基于样本特征与各个模型的样本特征空间的重合率，选取预筛选模型，包括：分别检测样本特征与各个模型的样本特征空间的重合率，响应于重合率大于预设重合阈值(例如90％)，选取重合率大于预设重合阈值的模型作为预筛选模型。

本可选实现方式中，基于样本特征与各个模型的样本特征空间的重合率，选取预筛选模型，可以保证选取的预筛选模型的样本特征接近待构建模型的样本特征，提高了待构建模型的建模效果。

进一步地，基于上述实施例提供的分类模型训练方法，本公开还提供了一种分类方法的一个实施例，本公开的分类方法结合了大数据、机器学习等人工智能领域。

参见图3，示出了根据本公开分类方法的一个实施例的流程300，本实施例提供的分类方法包括以下步骤：

步骤301，获取待分类数据。

在本实施例中，待分类数据可以是任何即将通过分类模型进行分类数据，而本实施例的分类模型可以是针对不同任务的二分类模型或者多分类模型。通过分类模型对待分类数据进行处理，可以得到分类的结果。

本实施例中，分类方法的执行主体可以通过多种方式来获取待分类数据。例如，执行主体可以通过有线连接方式或无线连接方式，从数据库服务器中获取存储于其中的待分类数据。再例如，执行主体也可以实时接收终端或其他设备实时采集的待分类数据。

步骤302，将待分类数据输入分类模型训练方法生成的分类模型中，输出待分类数据的分类结果。

本实施例中，执行主体可以将步骤301中获取的待分类数据输入分类模型中，从而得到获取的待分类数据的分类结果。

本实施例中，分类模型训练方法生成的分类模型可以是采用如上述图1实施例所描述的方法而训练得到的，具体训练过程可以参见图1实施例的相关描述，在此不再赘述。

本公开的实施例提供的分类方法，获取待分类数据；将待分类数据输入采用本实施例的分类模型训练方法生成的分类模型中，得到待分类数据的分类结果。由此，采用分类模型训练方法得到的分类模型进行分类，可以对待分类数据进行可靠的分类，保证了数据分类的有效性。

进一步参考图4，作为对上述各图所示方法的实现，本公开提供了分类模型训练装置的一个实施例，该装置实施例与图1所示的方法实施例相对应，该装置具体可应用于各种电子设备中。

如图4所示，本实施例提供的分类模型训练装置400包括：确定单元401，选取单元402，得到单元403，训练单元404。其中，上述确定单元401，可以被配置成基于分类建模任务，确定待构建模型的建模信息。上述选取单元402，可以被配置成基于建模信息，在历史模型库中选取至少一个预训练模型。上述得到单元403，可以被配置成基于选取的样本，得到预训练模型的输出结果。上述训练单元404，可以被配置成基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型。

在本实施例中，分类模型训练装置400中：确定单元401，选取单元402，得到单元403，训练单元404的具体处理及其所带来的技术效果可分别参考图1对应实施例中的步骤101、步骤102、步骤103、步骤104的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，上述建模信息包括：样本特征和业务场景信息；如图5所示，上述选取单元500包括：筛选模块501，选取模块502。其中，上述筛选模块501，可以被配置成基于样本特征，从历史模型库中选取预筛选模型。上述选取模块502，可以被配置成基于业务场景信息，从预筛选模型中选取至少一个预训练模型。本可选实现方式中，选取单元500与选取单元402是标号不同且功能相同的单元。

在本实施例的一些可选的实现方式中，如图6所示，上述筛选模块600包括：确定子模块601，选取子模块602。上述确定子模块，可以被配置成确定历史模型库中各个模型的样本特征空间。上述选取子模块，可以被配置成基于样本特征与各个模型的样本特征空间的重合率，选取预筛选模型。本可选实现方式中，筛选模块600与筛选模块501是标号不同且功能相同的模块。

在本实施例的一些可选实现方式中，如图7所示，上述得到单元700包括：第一得到模块701，第一采集模块702，第一拼接模块703。其中，上述第一得到模块701，可以被配置成将选取的样本输入神经网络模型，得到神经网络模型输出的第一预测结果。上述第一采集模块702，可以被配置成采集神经网络模型的隐节点的隐向量。上述第一拼接模块703，可以被配置成拼接第一预测结果和隐向量，得到神经网络模型的输出结果。本可选实现方式中，得到单元700与得到单元403是标号不同且功能相同的单元。

在本实施例的一些可选实现方式中，上述预训练模型包括：树模型，如图8所示，上述得到单元800包括：第二得到模块801，第二采集模块802，编码模块803，第二拼接模块804。其中，上述第二得到模块801，可以被配置成将选取的样本输入树模型，得到树模型输出的第二预测结果。上述第二采集模块802，可以被配置成采集树模型输出的叶子节点索引号。上述编码模块803，可以被配置成对叶子节点索引号进行独热编码。上述第二拼接模块804，可以被配置成拼接第二预测结果和进行独热编码后的叶子节点索引号，得到树模型的输出结果。本可选实现方式中，得到单元800与得到单元403是标号不同且功能相同的单元。

在本实施例的一些可选实现方式中，上述预训练模型包括：神经网络模型和树模型，如图9所示，上述得到单元900包括：第一得到模块901，第一采集模块902，第二得到模块903，第二采集模块904，编码模块905，总拼接模块906。其中，上述第一得到模块901，可以被配置成将选取的样本输入神经网络模型，得到神经网络模型输出的第一预测结果。上述第一采集模块902，可以被配置成采集神经网络模型的隐节点的隐向量。上述第二得到模块903，可以被配置成将选取的样本输入树模型，得到树模型输出的第二预测结果。上述第二采集模块904，可以被配置成采集树模型输出的叶子节点索引号。上述编码模块905，可以被配置成对叶子节点索引号进行独热编码。上述总拼接模块906，可以被配置成拼接第一预测结果、第二预测结果、隐向量和进行独热编码后的叶子节点索引号，得到预训练模型的输出结果。本可选实现方式中，得到单元900与得到单元403是标号不同且功能相同的单元。

在本实施例的一些可选实现方式中，如图10所示，上述训练单元1000包括：样本拼接模块1001，训练模块1002。其中，上述样本拼接模块1001，可以被配置成将输出结果以及样本进行拼接，得到拼接样本。上述训练模块1002，可以被配置成采用拼接样本对待构建模型进行训练，得到训练完成的分类模型。本可选实现方式中，训练单元1000与训练单元404是标号不同且功能相同的单元。

本公开的实施例提供的分类模型训练装置，首先，确定单元401基于分类建模任务，确定待构建模型的建模信息；其次，选取单元402基于建模信息，在历史模型库中选取至少一个预训练模型；再次，得到单元403基于选取的样本，得到预训练模型的输出结果；最后，训练单元404基于输出结果和样本，对待构建模型进行训练，得到训练完成的分类模型。由此，将历史模型库中预训练模型的输出结果加入到新建的分类模型的特征池中，高效地利用了历史样本和历史建模结果，提升了分类模型的分类效果。

进一步参考图11，作为对上述各图所示方法的实现，本公开提供了分类装置的一个实施例，该装置实施例与图3所示的方法实施例相对应，该装置具体可应用于各种电子设备中。

如图11所示，本实施例提供的分类装置1100包括：获取单元1101，输入单元1102。其中，上述获取单元1101，可以被配置成获取待分类数据。上述输入单元1102，可以被配置成将待分类数据输入采用如上述图3实施例所描述的装置生成的分类模型中，输出待分类数据的分类结果。

在本实施例中，分类装置1100中：获取单元1101，输入单元1102的具体处理及其所带来的技术效果可分别参考图3对应实施例中的步骤301、步骤302的相关说明，在此不再赘述。

本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图12示出了可以用来实施本公开的实施例的示例电子设备1200的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图12所示，设备1200包括计算单元1201，其可以根据存储在只读存储器(ROM)1202中的计算机程序或者从存储单元1208加载到随机访问存储器(RAM)1203中的计算机程序，来执行各种适当的动作和处理。在RAM 1203中，还可存储设备1200操作所需的各种程序和数据。计算单元1201、ROM 1202以及RAM1203通过总线1204彼此相连。输入/输出(I/O)接口1205也连接至总线1204。

设备1200中的多个部件连接至I/O接口1205，包括：输入单元1206，例如键盘、鼠标等；输出单元1207，例如各种类型的显示器、扬声器等；存储单元1208，例如磁盘、光盘等；以及通信单元1209，例如网卡、调制解调器、无线通信收发机等。通信单元1209允许设备1200通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元1201可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1201的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1201执行上文所描述的各个方法和处理，例如分类模型训练方法或分类方法。例如，在一些实施例中，分类模型训练方法或分类方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元1208。在一些实施例中，计算机程序的部分或者全部可以经由ROM 1202和/或通信单元1209而被载入和/或安装到设备1200上。当计算机程序加载到RAM 1203并由计算单元1201执行时，可以执行上文描述的分类模型训练方法或分类方法的一个或多个步骤。备选地，在其他实施例中，计算单元1201可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行分类模型训练方法或分类方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程分类模型训练装置、分类装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (19)

1.一种分类模型训练方法，所述方法包括：

基于分类建模任务，确定待构建模型的建模信息；

基于所述建模信息，在历史模型库中选取至少一个预训练模型；

基于选取的样本，得到所述预训练模型的输出结果；

基于所述输出结果和所述样本，对所述待构建模型进行训练，得到训练完成的分类模型。

2.根据权利要求1所述的方法，其中，所述建模信息包括：样本特征和业务场景信息；

所述基于所述建模信息，在历史模型库中选取至少一个预训练模型包括：

基于所述样本特征，从所述历史模型库中选取预筛选模型；

基于所述业务场景信息，从所述预筛选模型中选取至少一个预训练模型。

3.根据权利要求2所述的方法，其中，所述基于所述样本特征，从所述历史模型库中选取预筛选模型包括：

确定所述历史模型库中各个模型的样本特征空间；

基于所述样本特征与各个模型的样本特征空间的重合率，选取预筛选模型。

4.根据权利要求1所述的方法，其中，所述预训练模型包括：神经网络模型，所述基于选取的样本，得到所述预训练模型的输出结果包括：

将选取的样本输入所述神经网络模型，得到所述神经网络模型输出的第一预测结果；

采集所述神经网络模型的隐节点的隐向量；

拼接所述第一预测结果和所述隐向量，得到所述神经网络模型的输出结果。

5.根据权利要求1所述的方法，其中，所述预训练模型包括：树模型，所述基于选取的样本，得到所述预训练模型的输出结果包括：

将选取的样本输入所述树模型，得到所述树模型输出的第二预测结果；

采集所述树模型输出的叶子节点索引号；

对所述叶子节点索引号进行独热编码；

拼接所述第二预测结果和进行独热编码后的叶子节点索引号，得到所述树模型的输出结果。

6.根据权利要求1所述的方法，其中，所述预训练模型包括：神经网络模型和树模型，所述基于选取的样本，得到所述预训练模型的输出结果包括：

将选取的样本输入所述神经网络模型，得到所述神经网络模型输出的第一预测结果；

采集所述神经网络模型的隐节点的隐向量；

将选取的样本输入所述树模型，得到所述树模型输出的第二预测结果；

采集所述树模型输出的叶子节点索引号；

对所述叶子节点索引号进行独热编码；

拼接所述第一预测结果、所述第二预测结果、所述隐向量和进行独热编码后的叶子节点索引号，得到所述预训练模型的输出结果。

7.根据权利要求1-6之一所述的方法，其中，所述基于所述输出结果和所述样本，对所述待构建模型进行训练，得到训练完成的分类模型包括：

将所述输出结果以及所述样本进行拼接，得到拼接样本；

采用所述拼接样本对所述待构建模型进行训练，得到训练完成的分类模型。

8.一种分类方法，所述方法：

获取待分类数据；

将所述待分类数据输入如权利要求1-7任一项所述的方法生成的分类模型中，输出所述待分类数据的分类结果。

9.一种分类模型训练装置，所述装置包括：

确定单元，被配置成基于分类建模任务，确定待构建模型的建模信息；

选取单元，被配置成基于所述建模信息，在历史模型库中选取至少一个预训练模型；

得到单元，被配置成基于选取的样本，得到所述预训练模型的输出结果；

训练单元，被配置成基于所述输出结果和所述样本，对所述待构建模型进行训练，得到训练完成的分类模型。

10.根据权利要求9所述的装置，所述建模信息包括：样本特征和业务场景信息；所述选取单元包括：

筛选模块，被配置成基于所述样本特征，从所述历史模型库中选取预筛选模型；

选取模块，被配置成基于所述业务场景信息，从所述预筛选模型中选取至少一个预训练模型。

11.根据权利要求10所述的装置，其中，所述筛选模块包括：

确定子模块，被配置成确定所述历史模型库中各个模型的样本特征空间；

选取子模块，被配置成基于所述样本特征与各个模型的样本特征空间的重合率，选取预筛选模型。

12.根据权利要求9所述的装置，其中，所述预训练模型包括：神经网络模型，所述得到单元包括：

第一得到模块，被配置成将选取的样本输入所述神经网络模型，得到所述神经网络模型输出的第一预测结果；

第一采集模块，被配置成采集所述神经网络模型的隐节点的隐向量；

第一拼接模块，被配置成拼接所述第一预测结果和所述隐向量，得到所述神经网络模型的输出结果。

13.根据权利要求9所述的装置，其中，所述预训练模型包括：树模型，所述得到单元包括：

第二得到模块，被配置成将选取的样本输入所述树模型，得到所述树模型输出的第二预测结果；

第二采集模块，被配置成采集所述树模型输出的叶子节点索引号；

编码模块，被配置成对所述叶子节点索引号进行独热编码；

第二拼接模块，被配置成拼接所述第二预测结果和进行独热编码后的叶子节点索引号，得到所述树模型的输出结果。

14.根据权利要求9所述的装置，其中，所述预训练模型包括：神经网络模型和树模型，所述得到单元包括：

第一得到模块，被配置成将选取的样本输入所述神经网络模型，得到所述神经网络模型输出的第一预测结果；

第一采集模块，被配置成采集所述神经网络模型的隐节点的隐向量；

第二得到模块，被配置成将选取的样本输入所述树模型，得到所述树模型输出的第二预测结果；

第二采集模块，被配置成采集所述树模型输出的叶子节点索引号；

编码模块，被配置成对所述叶子节点索引号进行独热编码；

总拼接模块，被配置成拼接所述第一预测结果、所述第二预测结果、所述隐向量和进行独热编码后的叶子节点索引号，得到所述预训练模型的输出结果。

15.根据权利要求9-14之一所述的装置，其中，所述训练单元包括：

样本拼接模块，被配置成将所述输出结果以及所述样本进行拼接，得到拼接样本；

训练模块，被配置成采用所述拼接样本对所述待构建模型进行训练，得到训练完成的分类模型。

16.一种分类装置，所述装置包括：

获取单元，被配置成获取待分类数据；

输入单元，被配置成将所述待分类数据输入采用如权利要求9-15中任一项所述的装置生成的分类模型中，输出所述待分类数据的分类结果。

17.一种电子设备，其特征在于，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。

18.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述方法。

19.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现权利要求1-8中任一项所述的方法。

Images