CN111767277A - 数据处理方法和装置 - Google Patents

Abstract

本发明提供一种数据处理方法和装置，所述数据处理方法包括以下步骤：S1，获取包含多个表格的初始数据集，并对初始数据集进行预处理以去除至少一个表格中相应属性的数据信息；S2，通过多表连接将预处理后的数据集中存在联系的表格进行合并；S3，对多表连接后的数据集进行采样以缩减数据集的大小；S4，通过自动化特征工程获取采样后的数据集中的高阶特征或特征间的组合，以得到包含新特征的数据集；S5，通过自动特征选择过滤掉新特征中的无效特征，以得到包含目标特征的待训练/测试数据集。本发明能够在保证数据有效性的前提下减小数据量，避免内存溢出，并提高后续模型训练和测试的速度，从而能够在限定时间和内存下完成机器学习流程。

Description

数据处理方法和装置

技术领域

本发明涉及机器学习技术领域，具体涉及一种数据处理方法、一种数据处理装置和一种计算机程序产品。

背景技术

时序关系型数据在在线广告、推荐系统、金融市场分析、医疗等应用场景中非常常见，人们往往需要利用这样的数据去构建机器学习模型，并应用机器学习模型提升对应业务的效果。以在线广告点击率预测问题为例，每个样本就是向用户展示广告，样本标记为用户是否点击广告。因为是实际的服务系统，所有样本都是时序产生的。

时序数据是机器学习解决行业场景，尤其是大数据场景的最重要的一种数据，因为数据输入的特殊性，时序存储的方式和数据库的设计方式也和普通的关系型数据库有很大的区别。比如传感器网络的采集数据、二级市场的交易数据、社交网络的发布和评论数据等，这些以时间为基准索引的数据源，都是时序数据，而能够基于这些时序数据做出对未来的预测，也就是能做出科学的“占卜”，在行业一直有着强烈的需求。

在传统的机器学习应用中，需要经验丰富的专家才能从时序关系型数据中挖掘出有效的时序信息，并加以利用来提升机器学习模型的效果。即使具备较深的知识储备，专家也需要通过不断的尝试和试错，才能构建出有价值的时序特征，并且利用好多个相关联表来提升机器学习模型的性能。

基于上述现状，如何对时序数据进行处理以突破机器学习模型性能的限制成为目前亟需解决的问题。

发明内容

本发明为解决上述技术问题，提供了一种数据处理方法和装置，能够在保证数据有效性的前提下减小数据量，避免内存溢出，并提高后续模型训练和测试的速度，从而能够在限定时间和内存下完成机器学习流程。

本发明采用的技术方案如下：

一种数据处理方法，包括以下步骤：S1，获取包含多个表格的初始数据集，并对所述初始数据集进行预处理以去除至少一个表格中相应属性的数据信息；S2，通过多表连接将预处理后的数据集中存在联系的表格进行合并；S3，对多表连接后的数据集进行采样以缩减数据集的大小；S4，通过自动化特征工程获取采样后的数据集中的高阶特征或特征间的组合，以得到包含新特征的数据集；S5，通过自动特征选择过滤掉所述新特征中的无效特征，以得到包含目标特征的待训练/测试数据集。

所述的数据处理方法还包括：S6，建立机器学习模型；S7，将所述待训练/测试数据集输入所述机器学习模型以进行训练/测试。

所述步骤S2包括：将表格间的关系分为两类，其中，第一类包含一对一和多对一关系，第二类包含一对多和多对多关系；对于所述第一类关系，直接将副表的数据通过key值合并到主表上；对于所述第二类关系，对所述第二类关系中的副表做聚集操作，以转换为所述第一类关系，并将转换关系后的副表的数据通过key值合并到主表上。

所述步骤S2还包括：如果主表和副表都有时间戳，则将副表上离主表当前数据的时间最接近且为相同key值的数据合并到主表上。

所述步骤S3包括：获取设定的样本数阈值；对多表连接后的数据集进行采样，以使数据集中的样本数不高于所述样本数阈值。

所述机器学习模型为LightGBM，通过早停法选择LightGBM的学习率，并通过引导聚集算法对LightGBM进行融合。

其中，采用自适应数据采样策略对LightGBM进行训练。

一种数据处理装置，包括：预处理模块，所述预处理模块用于获取包含多个表格的初始数据集，并对所述初始数据集进行预处理以去除至少一个表格中相应属性的数据信息；多表连接模块，所述多表连接模块用于通过多表连接将预处理后的数据集中存在联系的表格进行合并；采样模块，所述采样模块用于对多表连接后的数据集进行采样以缩减数据集的大小；特征工程模块，所述特征工程模块用于通过自动化特征工程获取采样后的数据集中的高阶特征或特征间的组合，以得到包含新特征的数据集；特征选择模块，所述特征选择模块用于通过自动特征选择过滤掉所述新特征中的无效特征，以得到包含目标特征的待训练/测试数据集。

所述的数据处理装置还包括：模型建立模块，所述模型建立模块用于建立机器学习模型；模型训练/测试模块，所述模型训练/测试模块用于将所述待训练/测试数据集输入所述机器学习模型以进行训练/测试。

一种计算机程序产品，当所述计算机程序产品中的指令由处理器执行时，执行上述数据处理方法。

本发明的有益效果：

本发明通过数据预处理去除表格中相应属性的数据信息，并通过表格合并、数据采样和自动化特征工程，能够在保证数据有效性的前提下减小数据量，避免内存溢出，并提高后续模型训练和测试的速度，从而能够在限定时间和内存下完成机器学习流程。

附图说明

图1为本发明实施例的数据处理方法的流程图；

图2为本发明一个实施例的数据预处理示意图；

图3为本发明一个实施例的时序数据结构示意图；

图4为本发明一个实施例自动化特征工程的流程框架示意图；

图5为本发明一个实施例的数据处理方法的流程图；

图6为本发明实施例的数据处理装置的方框示意图；

图7为本发明一个实施例的数据处理装置的方框示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，本发明实施例的数据处理方法和装置适用于处理时序数据，该时序数据用以构建机器学习模型，即用于进行机器学习模型的训练和测试。

如图1所示，本发明实施例的数据处理方法包括以下步骤：

S1，获取包含多个表格的初始数据集，并对初始数据集进行预处理以去除至少一个表格中相应属性的数据信息。

本发明实施例的初始数据集包含大量表格数据，首先可通过对表格的结构及其属性的分析，针对不同类型的表格数据制定不同的数据预处理方案。举例而言，如图2所示，可去除方差极小，例如为0或接近0的数值特征(列n_1)，也可去除所有值都不同的类别特征(列c_1)。通过去除某些明显无用的属性信息，能够减小数据量，提高后续模型训练和测试的速度。

S2，通过多表连接将预处理后的数据集中存在联系的表格进行合并。

在本发明的一个实施例中，时序数据的结构可入图3所示，包含主表与相关表，相连的表格可视作主、副表，表格间的关系可分为四种，分别是一对一、一对多、多对一和多对多。

因为时间和内存的限制，所以需要在尽可能保留信息的同时，让最后生成的表格数据规模不至于过大，因此在此步骤对表格进行合并。

具体地，可将将表格间的关系分为两类，其中，第一类包含一对一和多对一关系，第二类包含一对多和多对多关系。对于第一类关系，可直接将副表的数据通过key值合并到主表上；对于第二类关系，可对第二类关系中的副表做聚集操作，以转换为第一类关系，并将转换关系后的副表的数据通过key值合并到主表上。并且，如果主表和副表都有时间戳，则可将副表上离主表当前数据的时间最接近且为相同key值的数据合并到主表上。

通过表格的合并，能够进一步减小数据量，提高后续模型训练和测试的速度，并且，能够增加数据的维度，扩增数据的特征空间。

S3，对多表连接后的数据集进行采样以缩减数据集的大小。

由于数据集的大小有时可能是未知的，在对其进行操作处理之前首先要判断当前环境是否能够支持整个数据集共同参与后续的特征工程及模型训练过程。因此可预先做一次判断，即要求训练集与测试集的总样本数不超过某一个可以接受的阈值。如训练集与测试集的总样本数过多，则可获取设定的样本数阈值，然后对多表连接后的数据集进行采样，以使数据集中的样本数不高于该样本数阈值。

通过数据采样，能够进一步减小数据量，提高后续模型训练和测试的速度，即减少系统运行时间，同时能够避免内存溢出的风险。

S4，通过自动化特征工程获取采样后的数据集中的高阶特征或特征间的组合，以得到包含新特征的数据集。

在本发明的一个实施例中，可根据不同数据集的数据量大小以及特征重要性筛选出适量的不同类型的特征两两组合形成新的特征，然后在全量数据上重现有用的特征，在希望挖掘到有用的特征的同时，尽量减小内存溢出的风险。可通过结合特征重要性及序列后向选择算法，设置一个阈值，将在参与模型训练中，筛出重要性较低的特征而尽可能小地损失模型精度。

参照图4，自动化特征工程的过程可包括生成特征迭代和时间记忆控制，其中，生成特征迭代包括对输入的数据进行单特征变换、二阶特征组合、三阶特征组合、高阶特征聚合及在每次变换组合后的快速特征选择，时间记忆控制包括对迭代后得到的样本数据进行特征选择和生成特征列表。

S5，通过自动特征选择过滤掉新特征中的无效特征，以得到包含目标特征的待训练/测试数据集。

在本发明的一个实施例中，步骤S4可分为多个阶段，在每次自动化特征工程后，均进行一次特征选择以过滤掉在该阶段得到的无效的特征，例如与学习和应用目标无关的特征，来避免内存溢出并且加速最终的模型训练。

根据本发明实施例的数据处理方法，通过数据预处理去除表格中相应属性的数据信息，并通过表格合并、数据采样和自动化特征工程，能够在保证数据有效性的前提下减小数据量，避免内存溢出，并提高后续模型训练和测试的速度，从而能够在限定时间和内存下完成机器学习流程。

进一步地，如图5所示，本发明实施例的数据处理方法还可包括以下步骤：

S6，建立机器学习模型。

在本发明的一个实施例中，机器学习模型为LightGBM。

对于参数调优，可加入先验知识，设置多组不同的学习率，通过早停法(early-stopping)选择LightGBM的学习率，以保证模型能训练一定的轮数，并且通过验证集选择最好的学习率，以及通过引导聚集算法(bagging)对LightGBM进行融合。此外，还可通过学习率衰减来使得LightGBM更快地收敛。

S7，将待训练/测试数据集输入机器学习模型以进行训练/测试。

在本发明的一个实施例中，可采用自适应数据采样策略对LightGBM进行训练。

具体地，对于类别不平衡的数据在训练时的处理方式，当正负样本不平衡程度超出限值，例如正负样本比例超过1:3时，可采用欠采样的方式，缓和正负样本不平衡。此外，还可尝试通过增加正样本的权重等方式来优化类别不平衡带来的问题。在模型融合的部分，在保留原始较少的正样本的同时，换一批负样本来进行训练，这样能够尽可能保留更多的原始数据的信息，同时缓解类别不平衡的问题。

对应上述实施例的数据处理方法，本发明还提出一种数据处理装置。

如图6所示，本发明实施例的数据处理装置包括预处理模块10、多表连接模块20、采样模块30、特征工程模块40和特征选择模块50，其中，预处理模块10用于获取包含多个表格的初始数据集，并对初始数据集进行预处理以去除至少一个表格中相应属性的数据信息；多表连接模块20用于通过多表连接将预处理后的数据集中存在联系的表格进行合并；采样模块30用于对多表连接后的数据集进行采样以缩减数据集的大小；特征工程模块40用于通过自动化特征工程获取采样后的数据集中的高阶特征或特征间的组合，以得到包含新特征的数据集；特征选择模块50用于通过自动特征选择过滤掉新特征中的无效特征，以得到包含目标特征的待训练/测试数据集。

进一步地，如图7所示，本发明实施例的数据处理装置还可包括模型建立模块60和模型训练/测试模块70，模型建立模块60用于建立机器学习模型；模型训练/测试模块70用于将待训练/测试数据集输入机器学习模型以进行训练/测试。

本发明实施例的数据处理装置更具体的实施方式可参照上述数据处理方法的实施例，在此不再赘述。

根据本发明实施例的数据处理装置，通过预处理模块去除表格中相应属性的数据信息，并通过多表连接模块进行表格合并、采样模块进行数据采样及特征工程模块进行自动化特征工程，能够在保证数据有效性的前提下减小数据量，避免内存溢出，并提高后续模型训练和测试的速度，从而能够在限定时间和内存下完成机器学习流程。

对应上述实施例，本发明还提出一种计算机程序产品。

当本发明实施例的计算机程序产品中的指令由处理器执行时，可执行根据本发明上述实施例所述的数据处理方法。

根据本发明实施例的计算机程序产品，处理器执行其中的指令时，通过数据预处理去除表格中相应属性的数据信息，并通过表格合并、数据采样和自动化特征工程，能够在保证数据有效性的前提下减小数据量，避免内存溢出，并提高后续模型训练和测试的速度，从而能够在限定时间和内存下完成机器学习流程。

在本发明的描述中，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。“多个”的含义是两个或两个以上，除非另有明确具体的限定。

在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必针对相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种数据处理方法，其特征在于，包括以下步骤：

S1，获取包含多个表格的初始数据集，并对所述初始数据集进行预处理以去除至少一个表格中相应属性的数据信息；

S2，通过多表连接将预处理后的数据集中存在联系的表格进行合并；

S3，对多表连接后的数据集进行采样以缩减数据集的大小；

S4，通过自动化特征工程获取采样后的数据集中的高阶特征或特征间的组合，以得到包含新特征的数据集；

S5，通过自动特征选择过滤掉所述新特征中的无效特征，以得到包含目标特征的待训练/测试数据集。

2.根据权利要求1所述的数据处理方法，其特征在于，还包括：

S6，建立机器学习模型；

S7，将所述待训练/测试数据集输入所述机器学习模型以进行训练/测试。

3.根据权利要求1或2所述的数据处理方法，其特征在于，所述步骤S2包括：

将表格间的关系分为两类，其中，第一类包含一对一和多对一关系，第二类包含一对多和多对多关系；

对于所述第一类关系，直接将副表的数据通过key值合并到主表上；

对于所述第二类关系，对所述第二类关系中的副表做聚集操作，以转换为所述第一类关系，并将转换关系后的副表的数据通过key值合并到主表上。

4.根据权利要求3所述的数据处理方法，其特征在于，所述步骤S2还包括：

如果主表和副表都有时间戳，则将副表上离主表当前数据的时间最接近且为相同key值的数据合并到主表上。

5.根据权利要求1或2所述的数据处理方法，其特征在于，所述步骤S3包括：

获取设定的样本数阈值；

对多表连接后的数据集进行采样，以使数据集中的样本数不高于所述样本数阈值。

6.根据权利要求2所述的数据处理方法，其特征在于，所述机器学习模型为LightGBM，通过早停法选择LightGBM的学习率，并通过引导聚集算法对LightGBM进行融合。

7.根据权利要求6所述的数据处理方法，其特征在于，其中，采用自适应数据采样策略对LightGBM进行训练。

8.一种数据处理装置，其特征在于，包括：

预处理模块，所述预处理模块用于获取包含多个表格的初始数据集，并对所述初始数据集进行预处理以去除至少一个表格中相应属性的数据信息；

多表连接模块，所述多表连接模块用于通过多表连接将预处理后的数据集中存在联系的表格进行合并；

采样模块，所述采样模块用于对多表连接后的数据集进行采样以缩减数据集的大小；

特征工程模块，所述特征工程模块用于通过自动化特征工程获取采样后的数据集中的高阶特征或特征间的组合，以得到包含新特征的数据集；

特征选择模块，所述特征选择模块用于通过自动特征选择过滤掉所述新特征中的无效特征，以得到包含目标特征的待训练/测试数据集。

9.根据权利要求8所述的数据处理装置，其特征在于，还包括：

模型建立模块，所述模型建立模块用于建立机器学习模型；

模型训练/测试模块，所述模型训练/测试模块用于将所述待训练/测试数据集输入所述机器学习模型以进行训练/测试。

10.一种计算机程序产品，其特征在于，当所述计算机程序产品中的指令由处理器执行时，执行根据权利要求1-7中任一项所述的数据处理方法。

Images