CN114021660A - 一种特征挖掘模型的训练方法、装置、介质及设备 - Google Patents

Abstract

本发明公开了一种特征挖掘模型的训练方法，包括：确定第一业务标签和第二业务标签；获取目标业务场景下与第一业务标签对应的第一训练集和与第二业务标签对应的第二训练集，第一训练集用于训练第一机器学习模型；利用训练好的第一机器学习模型对第二训练集进行特征提取，得到第一特征集；通过人工提取的方式对第二训练集进行特征提取，得到第二特征集；合并第一特征集与第二特征集，得到合并特征集；利用合并特征集训练第二机器学习模型。本发明通过机器学习模型进行特征挖掘，使得特征挖掘过程完全自动化，不需要人工定义特征，节省人力物力。同时通过机器学习模型进行特征挖掘，可以快速生成高维度的特征，充分挖掘数据中的有效信息。

Description

一种特征挖掘模型的训练方法、装置、介质及设备

技术领域

本发明涉及特征挖掘技术领域，具体涉及一种特征挖掘模型的训练方法、装置、介质及设备。

背景技术

在机器学习模型的应用场景中，经常遇到时序特征加工的问题，例如在金融风控中，原始数据是用户的信用卡消费流水或企业的发票流水信息，传统的特征加工方法完全依赖建模专家人工定义特征(例如“最近三个月的消费流水总额度”、“最近一年的月均消费次数”等)用来训练机器学习模型。

上述人工定义特征的方法非常依赖建模专家对业务特征的理解，当遇到一个陌生的业务领域时，就有哪些特征比较有效，只能根据手动构造大量特征之后再验证筛选，这会耗费大量的人力物力。

另一方面，人工定义的特征有其局限性，不能充分发挥数据的价值，很可能会遗漏掉一些比较重要的特征，进而影响最终的建模效果。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种特征挖掘模型的训练方法、装置、介质及设备，用于解决现有技术中的至少一个缺陷。

为实现上述目的及其他相关目的，本发明提供一种特征挖掘模型的训练方法，包括：

确定第一业务标签和第二业务标签；

获取目标业务场景下与所述第一业务标签对应的第一训练集和与所述第二业务标签对应的第二训练集，所述第一训练集用于训练第一机器学习模型；

利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集；

通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；

合并所述第一特征集与所述第二特征集，得到合并特征集；

利用所述合并特征集训练第二机器学习模型。

可选地，所述第一机器学习模型包括：时序模型。

可选地，所述方法还包括对所述合并特征集进行筛选，得到目标特征集；所述目标特征集用于训练第二机器学习模型。

可选地，所述第一业务标签与所述第二业务标签不同。

为实现上述目的及其他相关目的，本发明提供一种基于时序模型的自动化特征挖掘装置，包括：

标签确定模块，用于确定第一业务标签和第二业务标签；

训练集获取模块，用于获取目标业务场景下与所述第一业务标签对应的第一训练集和与所述第二业务标签对应的第二训练集，所述第一训练集用于训练第一机器学习模型；

第一特征提取模块，用于利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集；

第二特征提取模块，用于通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；

特征合并模块，用于合并所述第一特征集与所述第二特征集，得到合并特征集；

模型训练模块，用于利用所述合并特征集训练第二机器学习模型。

可选地，所述第一机器学习模型包括：时序模型。

可选地，所述装置还包括：特征筛选模块，用于对所述合并特征集进行筛选，得到目标特征集；所述目标特征集用于训练第二机器学习模型。

可选地，所述第一业务标签与所述第二业务标签不同。

为实现上述目的及其他相关目的，本发明提供一种特征挖掘模型的训练设备，包括：

一个或多个处理器；和

其上存储有指令的一个或多个机器可读介质，当所述一个或多个处理器执行时，使得所述设备执行一个或多个所述的方法。

为实现上述目的及其他相关目的，本发明提供一个或多个机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得设备执行一个或多个所述的方法。

如上所述，本发明的一种特征挖掘模型的训练方法、装置、介质及设备，具有以下有益效果：

本发明的一种特征挖掘模型的训练方法，包括：确定第一业务标签和第二业务标签；获取目标业务场景下与所述第一业务标签对应的第一训练集和与所述第二业务标签对应的第二训练集，所述第一训练集用于训练第一机器学习模型；利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集；通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；合并所述第一特征集与所述第二特征集，得到合并特征集；利用所述合并特征集训练第二机器学习模型。本发明通过机器学习模型进行特征挖掘，使得特征挖掘过程完全自动化，不需要人工定义特征，节省人力物力。同时通过机器学习模型进行特征挖掘，可以快速生成高维度的特征，充分挖掘数据中的有效信息。

图附说明

图1为本发明一实施例一种特征挖掘模型的训练方法的流程图；

图2为本发明一实施例时序模型的原理图；

图3为本发明一实施例一种特征挖掘模型的训练装置的硬件结构示意图；

图4为本发明一实施例中终端设备的硬件结构示意图；

图5为本发明一实施例中终端设备的硬件结构示意图。

具体实施方式

以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需说明的是，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。

需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制，其实际实施时各组件的型态、数量及比例可为一种随意的改变，且其组件布局型态也可能更为复杂。

如图1所示，本申请实施例提供一种特征挖掘模型的训练方法方法，包括以下步骤：

S100,确定第一业务标签和第二业务标签；

S101,获取目标业务场景下与所述第一业务标签对应的第一训练集和与所述第二业务标签对应的第二训练集，所述第一训练集用于训练第一机器学习模型；

S102,利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集；

S103,通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；

S104,合并所述第一特征集与所述第二特征集，得到合并特征集；

S105,利用所述合并特征集训练第二机器学习模型。

本发明通过机器学习模型进行特征挖掘，使得特征挖掘过程完全自动化，不需要人工定义特征，节省人力物力。同时通过机器学习模型进行特征挖掘，可以快速生成高维度的特征，充分挖掘数据中的有效信息。

以下对各步骤进行详细说明

在步骤S101中，所述的目标业务场景可以包括金融交易业务场景(如证券交易系统和货币支付系统)、物联网业务场景(如可穿戴设备和智能家居系统)、环境监测业务场景(如湿度监测系统和空气颗粒物质监测系统)﹑医疗智能业务场景 (如身体关键指标跟踪系统和健康状况监测系统)和事件应用程序应用场景(如用户信息管理系统和会员管理系统)等。在本实施例中，所述目标业务场景为金融风控场景。

在步骤S100中，业务标签是指模型实现的目的，例如，对于金融风控场景来说，业务标签可以是“是否逾期”，即模型的训练的目的是为预测客户是否会逾期。在本实施例中，第一业务标签表示训练第一机器学习模型的目的，第二业务标签表示训练第二机器学习模型的目的。

例如，第一业务标签是“是否逾期”，即根据客户的贷款逾期评估信息预测客户是否会逾期。其中，客户的贷款逾期评估信息根据来源不同可以包括年龄、性别、受教育程度、行业、贷款产品等能够直接获取的信息，还可以包括贷款账龄占贷款期限比例、当前期数内资金流入金额、当期流入金额与还款金额差值等需要经过数据处理获取的信息。所述客户的贷款逾期评估信息包括的信息数量根据实际需要进行设置，本发明实施例不做限定。

在一实施例中，所述第一业务标签与所述第二业务标签不同。即训练第一机器学习模型时所用的样本标签可以跟最终要训练的第二机器学习模型不同，这样一方面能够用于训练无监督机器学习模型(训练的时候没有样本标签)，另一方面也能够将训练第一机器学习模型所用的标签信息迁移到最终的第二机器学习模型中。

第一训练集是用于训练第一机器学习模型的样本，其中第一机器学习模型用于对数据进行特征提取。第一训练集包括目标业务场景下的历史数据。其中，第一训练集中至少包括一个样本数据，每个样本数据由一条历史数据组成，每一条样本数据包括至少一个特征，本实施例对此不作限定，在实际应用中可以结合相应系统的处理能力和实际业务场影确定第一训练集中样本的数量以及特征的数量。

第二训练集是用于训练第二机器学习模型的样本，其中第二机器学习模型用于对数据进行特征挖掘。第二训练集包括目标业务场景下的历史数据。其中，第二训练集中至少包括一个样本数据，每个样本数据由一条历史数据组成，每一条样本包括至少一个特征，本实施例对此不作限定，在实际应用中可以结合相应系统的处理能力和实际业务场影确定第二训练集中样本的数量以及特征的数量。需要说明的是，在对特征挖掘模型的训练前，需要对第二训练集的数据进行相应的处理，即提取第二训练集的特征，然后利用提取的特征训练特征挖掘模型。

在一实施例中，第一机器学习模型为时序模型。由于第一机器学习模型为时序模型，因此，第一训练集的样本数据为时间序列数据，是指目标业务场景在不同时间上收集到的数据，用于描述目标业务场景中出现的现象随时间变化的情况。

时序模型的原理图如图2所示，其中X1～Xn为每个时刻的原始统计信息，时间粒度(例如以天/周/月为一个时间单位)可以根据实际情况设定。

Z1～Zk为每个类别标签对应的输出，例如在金融风控模型中Z1～Zk为每个类别的置信度。

A为时序模型，比如可以选择RNN(循环神经网络，Recurrent Neural Network，RNN)、LSTM(长短期记忆网络，LSTM，Long Short-Term Memory) 等。

H0～Hn为每个时刻的模型输出，他们是高维向量，Ht能够记忆t时刻及以前的数据信息，最后的Hn记忆了该流水的所有信息，所以Hn可以用来作为最终的输出特征。

在步骤S102中,利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集。

具体地，将第二训练集输入到第一机器学习模型中，得到第一特征集。其中，第一特征集以二维表的形式展现。在二维表中，每一列表示一个特征，每一行表示一个样本数据。

在步骤S103中,通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；

具体地，通过人工定义特征的计算逻辑，从第二训练集中计算出人工特征，作为第二特征集。其中，第一特征集以二维表的形式展现。在二维表中，每一列表示一个特征，每一行表示一个样本数据。

在步骤S104中,合并所述第一特征集与所述第二特征集，得到合并特征集。

由于第一特征集以二维表的形式展现，第二特征集以二维表的形式展现，因此，对第一特征集与第二特征集进行合并时，即将第一特征集的第一二维表与第特征集的第二二维表进行合并。

在将第一二维表与第二二维进行合并时，若第一二维表中与第二二维表中不存在相同特征时，即不存在相同列时，直接将第一二维表与第二二维的列进行合并。对第一二维表与第二二维表进行合并，即将第一特征集与第二特征集进行样本维度的相加，相加后形成一个维度更大的特征表，在该特征表中，每一行表示一个样本数据，每一列表示一维特征。

例如，第一二维表中存在20维特征，第二二维表中存在100维特征，则将第一二维表与第二二维表合并后，样本数据的条数没有发生改变，而特征的维度为120维。

在将第一二维表与第二二维进行合并时，若第一二维表中与第二二维表中存在相同特征时，即存在相同列时，则将第一二维表中与第二二维表中具有相同名称的列进行合并，得到合并列。

具体的，通过计算机智能识别比对第一二维表和第二二维表中列的名称，选取名称相同的列，将第一二维表和第二二维表名称相同列进行合并，得到合并列。然后，将第一二维表和第二二维表中与待合并的列的名称不同的列与合并列进行拼接，得到合并特征集。

具体的，合并列确定后，就可以将第一二维表和第二二维表中剩余列与合并列进行拼接，即合并列确定后，可以将第一二维表和第二二维表中剩余的列与合并列进行拼接，最终得到合并后的新的二维表，即合并特征集。在该特征表中，每一行表示一个样本数据，每一列表示一维特征。

在步骤S105中,利用所述合并特征集训练第二机器学习模型。其中，第二机器学习模型可以是分类模型，如LR(逻辑回归模型,Logistic Regression,LR)、 XGBoost(梯度提升模型,Extreme Gradient Boosting,XGBoost)、GBDT(决策树,Gradient BoostingDecision Tree,GBDT)、DNN(深度神经网络,Deep Neural Networks,DNN)、聚类模型(如Kmeans等模型)、回归模型(如线性回归、DNN 回归等模型)的任意模型。

在一实施例中，所述方法还包括对所述合并特征集进行筛选，得到目标特征集；所述目标特征集用于训练第二机器学习模型。在本实施例中，通过对合并特征集的筛选，获取区分度较高的特征集，即目标特征集。其中，区分度较高是指在模型训练过程中，利用了某些特征，使得最终训练的模型的指标能更好的满足设定要求。比如，在金融风控领域，设定的要求是模型能识别出客户是否逾期，则收入、是否存在历史逾期等就是区分度较高的特征，即目标特征；而性别则为区分度较低的特征，即非目标特征。

本发明针对传统特征定义方法存在的问题，提供了一套基于时序模型(例如LSTM、RNN等)的自动化时序特征挖掘的方法。该方法利用样本标签指导特征挖掘，能够产生成千上万维特征，所产生的特征也可以跟其他人工定义的特征结合，共同训练机器学习模型，从而提高整体模型的区分度。

如图3所示，本申请实施例提供一种基于时序模型的自动化特征挖掘装置，包括：

标签确定模块300，用于确定第一业务标签和第二业务标签；

训练集获取模块301，用于获取目标业务场景下与所述第一业务标签对应的第一训练集和与所述第二业务标签对应的第二训练集，所述第一训练集用于训练第一机器学习模型；

第一特征提取模块302，用于利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集；

第二特征提取模块303，用于通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；

特征合并模块304，用于合并所述第一特征集与所述第二特征集，得到合并特征集；

模型训练模块305，用于利用所述合并特征集训练第二机器学习模型。

本发明通过机器学习模型进行特征挖掘，使得特征挖掘过程完全自动化，不需要人工定义特征，节省人力物力。同时通过机器学习模型进行特征挖掘，可以快速生成高维度的特征，充分挖掘数据中的有效信息。

所述的目标业务场景可以包括金融交易业务场景(如证券交易系统和货币支付系统)、物联网业务场景(如可穿戴设备和智能家居系统)、环境监测业务场景(如湿度监测系统和空气颗粒物质监测系统)﹑医疗智能业务场景(如身体关键指标跟踪系统和健康状况监测系统)和事件应用程序应用场景(如用户信息管理系统和会员管理系统)等。在本实施例中，所述目标业务场景为金融风控场景。

业务标签是指模型实现的目的，例如，对于金融风控场景来说，业务标签可以是“是否逾期”，即模型的训练的目的是为预测客户是否会逾期。在本实施例中，第一业务标签表示训练第一机器学习模型的目的，第二业务标签表示训练第二机器学习模型的目的。

例如，第一业务标签是“是否逾期”，即根据客户的贷款逾期评估信息预测客户是否会逾期。其中，客户的贷款逾期评估信息根据来源不同可以包括年龄、性别、受教育程度、行业、贷款产品等能够直接获取的信息，还可以包括贷款账龄占贷款期限比例、当前期数内资金流入金额、当期流入金额与还款金额差值等需要经过数据处理获取的信息。所述客户的贷款逾期评估信息包括的信息数量根据实际需要进行设置，本发明实施例不做限定。

在一实施例中，所述第一业务标签与所述第二业务标签不同。即训练第一机器学习模型时所用的样本标签可以跟最终要训练的第二机器学习模型不同，这样一方面能够用于训练无监督机器学习模型(训练的时候没有样本标签)，另一方面也能够将训练第一机器学习模型所用的标签信息迁移到最终的第二机器学习模型中。

第一训练集是用于训练第一机器学习模型的样本，其中第一机器学习模型用于对数据进行特征提取。第一训练集包括目标业务场景下的历史数据。其中，第一训练集中至少包括一个样本数据，每个样本数据由一条历史数据组成，每一条样本数据包括至少一个特征，本实施例对此不作限定，在实际应用中可以结合相应系统的处理能力和实际业务场影确定第一训练集中样本的数量以及特征的数量。

第二训练集是用于训练第二机器学习模型的样本，其中第二机器学习模型用于对数据进行特征挖掘。第二训练集包括目标业务场景下的历史数据。其中，第二训练集中至少包括一个样本数据，每个样本数据由一条历史数据组成，每一条样本包括至少一个特征，本实施例对此不作限定，在实际应用中可以结合相应系统的处理能力和实际业务场影确定第二训练集中样本的数量以及特征的数量。需要说明的是，在对特征挖掘模型的训练前，需要对第二训练集的数据进行相应的处理，即提取第二训练集的特征，然后利用提取的特征训练特征挖掘模型。

在一实施例中，第一机器学习模型为时序模型。由于第一机器学习模型为时序模型，因此，第一训练集的样本数据为时间序列数据，是指目标业务场景在不同时间上收集到的数据，用于描述目标业务场景中出现的现象随时间变化的情况。

时序模型的原理图如图2所示，其中X1～Xn为每个时刻的原始统计信息，时间粒度(例如以天/周/月为一个时间单位)可以根据实际情况设定。

Z1～Zk为每个类别标签对应的输出，例如在金融风控模型中Z1～Zk为每个类别的置信度。

A为时序模型，比如可以选择RNN(循环神经网络，Recurrent Neural Network，RNN)、LSTM(长短期记忆网络，LSTM，Long Short-Term Memory) 等。

H0～Hn为每个时刻的模型输出，他们是高维向量，Ht能够记忆t时刻及以前的数据信息，最后的Hn记忆了该流水的所有信息，所以Hn可以用来作为最终的输出特征。

在本实施例中，第一特征提取模块302利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集。

具体地，将第二训练集输入到第一机器学习模型中，得到第一特征集。其中，第一特征集以二维表的形式展现。在二维表中，每一列表示一个特征，每一行表示一个样本数据。

在本实施例中，第二特征提取模块303通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；

具体地，通过人工定义特征的计算逻辑，从第二训练集中计算出人工特征，作为第二特征集。其中，第一特征集以二维表的形式展现。在二维表中，每一列表示一个特征，每一行表示一个样本数据。

在本实施例中，特征合并模块304合并所述第一特征集与所述第二特征集，得到合并特征集。

由于第一特征集以二维表的形式展现，第二特征集以二维表的形式展现，因此，对第一特征集与第二特征集进行合并时，即将第一特征集的第一二维表与第特征集的第二二维表进行合并。

在将第一二维表与第二二维进行合并时，若第一二维表中与第二二维表中不存在相同特征时，即不存在相同列时，直接将第一二维表与第二二维的列进行合并。对第一二维表与第二二维表进行合并，即将第一特征集与第二特征集进行样本维度的相加，相加后形成一个维度更大的特征表，在该特征表中，每一行表示一个样本数据，每一列表示一维特征。

例如，第一二维表中存在20维特征，第二二维表中存在100维特征，则将第一二维表与第二二维表合并后，样本数据的条数没有发生改变，而特征的维度为120维。

在将第一二维表与第二二维进行合并时，若第一二维表中与第二二维表中存在相同特征时，即存在相同列时，则将第一二维表中与第二二维表中具有相同名称的列进行合并，得到合并列。

具体的，通过计算机智能识别比对第一二维表和第二二维表中列的名称，选取名称相同的列，将第一二维表和第二二维表名称相同列进行合并，得到合并列。然后，将第一二维表和第二二维表中与待合并的列的名称不同的列与合并列进行拼接，得到合并特征集。

具体的，合并列确定后，就可以将第一二维表和第二二维表中剩余列与合并列进行拼接，即合并列确定后，可以将第一二维表和第二二维表中剩余的列与合并列进行拼接，最终得到合并后的新的二维表，即合并特征集。在该特征表中，每一行表示一个样本数据，每一列表示一维特征。

在本实施例中，模型训练模块305利用所述合并特征集训练第二机器学习模型。其中，第二机器学习模型可以是分类模型，如LR(逻辑回归模型,Logistic Regression,LR)、XGBoost(梯度提升模型,Extreme Gradient Boosting,XGBoost)、 GBDT(决策树,GradientBoosting Decision Tree,GBDT)、DNN(深度神经网络,Deep Neural Networks,DNN)、聚类模型(如Kmeans等模型)、回归模型(如线性回归、DNN回归等模型)的任意模型。

在一实施例中，所述装置还包括：特征筛选模块，用于对所述合并特征集进行筛选，得到目标特征集；所述目标特征集用于训练第二机器学习模型。在本实施例中，通过对合并特征集的筛选，获取区分度较高的特征集，即目标特征集。其中，区分度较高是指在模型训练过程中，利用了某些特征，使得最终训练的模型的指标能更好的满足设定要求。比如，在金融风控领域，设定的要求是模型能识别出客户是否逾期，则收入、是否存在历史逾期等就是区分度较高的特征，即目标特征；而性别则为区分度较低的特征，即非目标特征。

本发明针对传统特征定义方法存在的问题，提供了一套基于时序模型(例如LSTM、RNN等)的自动化时序特征挖掘的装置。该装置利用样本标签指导特征挖掘，能够产生成千上万维特征，所产生的特征也可以跟其他人工定义的特征结合，共同训练机器学习模型，从而提高整体模型的区分度。

由于上述装置实施例与方法实施例相对应，在装置实施例中各模块的功能实现可以参照方法实施例的实现方式，此处不再赘述。

本申请实施例还提供了一种设备，该设备可以包括：一个或多个处理器；和其上存储有指令的一个或多个机器可读介质，当由所述一个或多个处理器执行时，使得所述设备执行图1所述的方法。在实际应用中，该设备可以作为终端设备，也可以作为服务器，终端设备的例子可以包括：智能手机、平板电脑、电子书阅读器、MP3(动态影像专家压缩标准语音层面3，Moving Picture Experts Group Audio Layer III)播放器、MP4(动态影像专家压缩标准语音层面4，Moving Picture Experts GroupAudio Layer IV)播放器、膝上型便携计算机、车载电脑、台式计算机、机顶盒、智能电视机、可穿戴设备等等，本申请实施例对于具体的设备不加以限制。

本申请实施例还提供了一种非易失性可读存储介质，该存储介质中存储有一个或多个模块(programs)，该一个或多个模块被应用在设备时，可以使得该设备执行本申请实施例的图1中方法所包含步骤的指令(instructions)。

图4为本申请一实施例提供的终端设备的硬件结构示意图。如图所示，该终端设备可以包括：输入设备1100、第一处理器1101、输出设备1102、第一存储器1103和至少一个通信总线1104。通信总线1104用于实现元件之间的通信连接。第一存储器1103可能包含高速RAM存储器，也可能还包括非易失性存储 NVM，例如至少一个磁盘存储器，第一存储器1103中可以存储各种程序，用于完成各种处理功能以及实现本实施例的方法步骤。

可选的，上述第一处理器1101例如可以为中央处理器(Central ProcessingUnit，简称CPU)、应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，该第一处理器1101通过有线或无线连接耦合到上述输入设备1100和输出设备1102。

可选的，上述输入设备1100可以包括多种输入设备，例如可以包括面向用户的用户接口、面向设备的设备接口、软件的可编程接口、摄像头、传感器中至少一种。可选的，该面向设备的设备接口可以是用于设备与设备之间进行数据传输的有线接口、还可以是用于设备与设备之间进行数据传输的硬件插入接口(例如USB接口、串口等)；可选的，该面向用户的用户接口例如可以是面向用户的控制按键、用于接收语音输入的语音输入设备以及用户接收用户触摸输入的触摸感知设备(例如具有触摸感应功能的触摸屏、触控板等)；可选的，上述软件的可编程接口例如可以是供用户编辑或者修改程序的入口，例如芯片的输入引脚接口或者输入接口等；输出设备1102可以包括显示器、音响等输出设备。

在本实施例中，该终端设备的处理器包括用于执行各设备中各模块的功能，具体功能和技术效果参照上述实施例即可，此处不再赘述。

图5为本申请的一个实施例提供的终端设备的硬件结构示意图。图5是对图 4在实现过程中的一个具体的实施例。如图所示，本实施例的终端设备可以包括第二处理器1201以及第二存储器1202。

第二处理器1201执行第二存储器1202所存放的计算机程序代码，实现上述实施例中图1所述方法。

第二存储器1202被配置为存储各种类型的数据以支持在终端设备的操作。这些数据的示例包括用于在终端设备上操作的任何应用程序或方法的指令，例如消息，图片，视频等。第二存储器1202可能包含随机存取存储器(random access memory，简称RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

可选地，第二处理器1201设置在处理组件1200中。该终端设备还可以包括：通信组件1203，电源组件1204，多媒体组件1205，语音组件1206，输入/输出接口1207和/或传感器组件1208。终端设备具体所包含的组件等依据实际需求设定，本实施例对此不作限定。

处理组件1200通常控制终端设备的整体操作。处理组件1200可以包括一个或多个第二处理器1201来执行指令，以完成上述数据处理方法中的全部或部分步骤。此外，处理组件1200可以包括一个或多个模块，便于处理组件1200和其他组件之间的交互。例如，处理组件1200可以包括多媒体模块，以方便多媒体组件1205和处理组件1200之间的交互。

电源组件1204为终端设备的各种组件提供电力。电源组件1204可以包括电源管理系统，一个或多个电源，及其他与为终端设备生成、管理和分配电力相关联的组件。

多媒体组件1205包括在终端设备和用户之间的提供一个输出接口的显示屏。在一些实施例中，显示屏可以包括液晶显示器(LCD)和触摸面板(TP)。如果显示屏包括触摸面板，显示屏可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。

语音组件1206被配置为输出和/或输入语音信号。例如，语音组件1206包括一个麦克风(MIC)，当终端设备处于操作模式，如语音识别模式时，麦克风被配置为接收外部语音信号。所接收的语音信号可以被进一步存储在第二存储器 1202或经由通信组件1203发送。在一些实施例中，语音组件1206还包括一个扬声器，用于输出语音信号。

输入/输出接口1207为处理组件1200和外围接口模块之间提供接口，上述外围接口模块可以是点击轮，按钮等。这些按钮可包括但不限于：音量按钮、启动按钮和锁定按钮。

传感器组件1208包括一个或多个传感器，用于为终端设备提供各个方面的状态评估。例如，传感器组件1208可以检测到终端设备的打开/关闭状态，组件的相对定位，用户与终端设备接触的存在或不存在。传感器组件1208可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在，包括检测用户与终端设备间的距离。在一些实施例中，该传感器组件1208还可以包括摄像头等。

通信组件1203被配置为便于终端设备和其他设备之间有线或无线方式的通信。终端设备可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个实施例中，该终端设备中可以包括SIM卡插槽，该SIM卡插槽用于插入SIM卡，使得终端设备可以登录GPRS网络，通过互联网与服务器建立通信。

由上可知，在图5实施例中所涉及的通信组件1203、语音组件1206以及输入/输出接口1207、传感器组件1208均可以作为图4实施例中的输入设备的实现方式。

上述实施例仅例示性说明本发明的原理及其功效，而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下，对上述实施例进行修饰或改变。因此，举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变，仍应由本发明的权利要求所涵盖。

Claims (10)

1.一种特征挖掘模型的训练方法，其特征在于，包括：

确定第一业务标签和第二业务标签；

获取目标业务场景下与所述第一业务标签对应的第一训练集和与所述第二业务标签对应的第二训练集，所述第一训练集用于训练第一机器学习模型；

利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集；

通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；

合并所述第一特征集与所述第二特征集，得到合并特征集；

利用所述合并特征集训练第二机器学习模型。

2.根据权利要求1所述的特征挖掘模型的训练方法，其特征在于，所述第一机器学习模型包括：时序模型。

3.根据权利要求1所述的特征挖掘模型的训练方法，其特征在于，所述方法还包括对所述合并特征集进行筛选，得到目标特征集；所述目标特征集用于训练第二机器学习模型。

4.根据权利要求1所述的特征挖掘模型的训练方法，其特征在于，所述第一业务标签与所述第二业务标签不同。

5.一种基于时序模型的自动化特征挖掘装置，其特征在于，包括：

标签确定模块，用于确定第一业务标签和第二业务标签；

训练集获取模块，用于获取目标业务场景下与所述第一业务标签对应的第一训练集和与所述第二业务标签对应的第二训练集，所述第一训练集用于训练第一机器学习模型；

第一特征提取模块，用于利用训练好的第一机器学习模型对所述第二训练集进行特征提取，得到第一特征集；

第二特征提取模块，用于通过人工提取的方式对所述第二训练集进行特征提取，得到第二特征集；

特征合并模块，用于合并所述第一特征集与所述第二特征集，得到合并特征集；

模型训练模块，用于利用所述合并特征集训练第二机器学习模型。

6.根据权利要求5所述的特征挖掘模型的训练装置，其特征在于，所述第一机器学习模型包括：时序模型。

7.根据权利要求5所述的特征挖掘模型的训练装置，其特征在于，所述装置还包括：特征筛选模块，用于对所述合并特征集进行筛选，得到目标特征集；所述目标特征集用于训练第二机器学习模型。

8.根据权利要求5所述的特征挖掘模型的训练装置，其特征在于，所述第一业务标签与所述第二业务标签不同。

9.一种特征挖掘模型的训练设备，其特征在于，包括：

一个或多个处理器；和

其上存储有指令的一个或多个机器可读介质，当所述一个或多个处理器执行时，使得所述设备执行如权利要求1-4中一个或多个所述的方法。

10.一个或多个机器可读介质，其特征在于，其上存储有指令，当由一个或多个处理器执行时，使得设备执行如权利要求1-4中一个或多个所述的方法。

Images