CN104809238B - 用于数据采集系统的数据处理方法及装置 - Google Patents

Abstract

本发明公开了一种用于数据采集系统的数据处理方法及装置。其中，该方法包括：获取充电设备在充电时产生的交易数据；判断获取的交易数据的属性信息是否缺失；以及若判断出获取的交易数据的属性信息缺失，则按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据。本发明解决了由于传统的数据采集系统无法对接收到的数据进行主动处理而造成的影响数据库中存储数据的质量的技术问题。

Description

用于数据采集系统的数据处理方法及装置

技术领域

本发明涉及互联网领域，具体而言，涉及一种用于数据采集系统的数据处理方法及装置。

背景技术

目前，在电力领域中，由于传统的数据采集系统只能被动接收来自充电站的数据，无法对接收到的数据进行主动处理，包括筛选和修正等，这直接影响了数据库中存储数据的质量，进而影响了数据的二次价值开发。

针对上述的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种用于数据采集系统的数据处理方法及装置，以至少解决由于传统的数据采集系统无法对接收到的数据进行主动处理而造成的影响数据库中存储数据的质量的技术问题。

根据本发明实施例的一个方面，提供了一种用于数据采集系统的数据处理方法，包括：获取充电设备在充电时产生的交易数据；判断获取的交易数据的属性信息是否缺失；以及若判断出上述获取的交易数据的属性信息缺失，则按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据。

进一步地，在按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据之后，上述数据处理方法还包括：判断上述属性信息填补后的交易数据是否携带有第一标识，上述第一标识用于表征当前数据为充电设备未成功上传的交易数据；以及若判断出上述属性信息填补后的交易数据携带有上述第一标识，则将携带有上述第一标识的交易数据删除。

进一步地，在判断上述属性信息填补后的交易数据是否携带有第一标识之后，上述数据处理方法还包括：若判断出上述属性信息填补后的交易数据未携带有上述第一标识，则判断上述属性信息填补后的交易数据是否异常数据；以及若判断出上述属性信息填补后的交易数据是异常数据，则对异常的交易数据执行修正操作。

进一步地，在对异常的交易数据执行修正操作之后，上述数据处理方法还包括：判断对上述异常的交易数据修正是否成功；以及若判断出对上述异常的交易数据修正失败，则为修正失败后的交易数据添加第二标识。

进一步地，在判断对上述异常的交易数据修正是否成功之后，上述数据处理方法还包括：若判断出对上述异常的交易数据修正成功，则将修正成功后的交易数据作为正常数据。

根据本发明实施例的另一方面，还提供了一种用于数据采集系统的数据处理装置，包括：获取单元，用于获取充电设备在充电时产生的交易数据；第一判断单元，用于判断获取的交易数据的属性信息是否缺失；以及填补单元，用于在判断出上述获取的交易数据的属性信息缺失时，按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据。

进一步地，上述数据处理装置还包括：第二判断单元，用于在按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据之后，判断上述属性信息填补后的交易数据是否携带有第一标识，上述第一标识用于表征当前数据为充电设备未成功上传的交易数据；以及删除单元，用于在判断出上述属性信息填补后的交易数据携带有上述第一标识时，将携带有上述第一标识的交易数据删除。

进一步地，上述数据处理装置还包括：第三判断单元，用于在判断上述属性信息填补后的交易数据是否携带有第一标识之后，且在判断出上述属性信息填补后的交易数据未携带有上述第一标识时，判断上述属性信息填补后的交易数据是否异常数据；以及修正单元，用于在判断出上述属性信息填补后的交易数据是异常数据时，对异常的交易数据执行修正操作。

进一步地，上述数据处理装置还包括：第四判断单元，用于在对异常的交易数据执行修正操作之后，判断对上述异常的交易数据修正是否成功；以及添加单元，用于在判断出对上述异常的交易数据修正失败时，为修正失败后的交易数据添加第二标识。

进一步地，上述数据处理装置还包括：确定单元，用于在判断对上述异常的交易数据修正是否成功之后，且在判断出对上述异常的交易数据修正成功时，将修正成功后的交易数据作为正常数据。

在本发明实施例中，采用数据采集系统主动处理接收到的数据的方式，通过获取充电设备在充电时产生的交易数据；判断获取的交易数据的属性信息是否缺失；以及若判断出获取的交易数据的属性信息缺失，则按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据，达到了主动处理接收到的数据的目的，从而实现了提高数据库中存储数据的质量的技术效果，进而解决了由于传统的数据采集系统无法对接收到的数据进行主动处理而造成的影响数据库中存储数据的质量的技术问题。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的一种用于数据采集系统的数据处理方法的流程图；以及

图2是根据本发明实施例的一种可选的用于数据采集系统的数据处理装置的示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例1

根据本发明实施例，提供了一种用于数据采集系统的数据处理方法的方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1是根据本发明实施例的一种用于数据采集系统的数据处理方法的流程图，如图1所示，该方法包括如下步骤：

步骤S102，获取充电设备在充电时产生的交易数据；

步骤S104，判断获取的交易数据的属性信息是否缺失；以及

步骤S106，若判断出获取的交易数据的属性信息缺失，则按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据。

需要说明的是，充电设备可以包括充电站，以及充电站内的各充电桩等，而充电桩包括直流充电桩和交流充电桩等。这些充电设备在充电时，会将产生的交易数据上传至数据采集系统。当交易数据上传失败时，这些上传失败的交易数据会被添加相应的标识，即第一标识，该标识用于表示这些交易数据是上传失败的数据，即无效数据。对于无效数据，在后续数据分析时是无用的，因此可以将其删除，以防对其他有效数据造成干扰；当交易数据上传成功时，这些上传成功的交易数据不会被添加任何标识。

另外，正常情况下，充电设备上传的数据除了包括交易数据之外，还会包括：交易数据产生的时间、地点(如哪个充电站中的哪个充电桩)等交易数据的属性信息；异常情况下，充电设备在上传数据时会导致交易数据的相关属性信息缺失，例如，某交易数据的产生的时间缺失，和/或其产生的地点缺失等。

通过本发明实施例，由于数据采集系统在获取到充电设备上传的交易数据之后，会对缺失的属性信息的交易数据进行属性信息填补，可以保证交易数据的完整性，达到提高数据库中存储数据的质量的效果。

可选地，在按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据之后，上述数据处理方法还可以包括：

S2，判断属性信息填补后的交易数据是否携带有第一标识，第一标识用于表征当前数据为充电设备未成功上传的交易数据；以及

S4，若判断出属性信息填补后的交易数据携带有第一标识，则将携带有第一标识的交易数据删除。

当交易数据上传失败时，这些上传失败的交易数据会被添加相应的标识，即第一标识，该标识用于表示这些交易数据是上传失败的数据，即无效数据。对于无效数据，在后续数据分析时是无用的，因此可以将其删除，以防对其他有效数据造成干扰。

通过本发明实施例，数据采集系统在对交易数据进行填补之后，通过进一步检测填补后的交易数据是否是上传失败的数据，并在确定这些数据为上传失败的数据之后将其删除以避免对其他有效数据造成干扰。

可选地，在判断属性信息填补后的交易数据是否携带有第一标识之后，上述数据处理方法还可以包括：

S6，若判断出属性信息填补后的交易数据未携带有第一标识，则判断属性信息填补后的交易数据是否异常数据；以及

S8，若判断出属性信息填补后的交易数据是异常数据，则对异常的交易数据执行修正操作。

当交易数据上传成功时，这些上传成功的交易数据不会被添加任何标识，而没有被添加任何标识的交易数据可能是正常数据，也可能是异常数据。所谓正常数据是指交易数据及其属性信息均准确无误的数据；所谓异常数据是指交易数据和/或其属性信息错误的数据，例如，某交易数据其当前的时间属性信息显示其产生的时间为2015年5月5日，而该交易数据实际上产生的时间为2015年5月4日，此时认为该交易数据为异常数据。对于异常数据，系统可以按照匹配规则对其进行修正以期得到准确的数据，即正常数据。

通过本发明实施例，通过判断未携带有第一标识的属性信息填补后的交易数据是否异常数据，以及在其为异常数据时对其进行修正以得到准确的数据，可以防止由于数据本身异常而导致后续数据分析时分析结果不准确。

可选地，在对异常的交易数据执行修正操作之后，上述数据处理方法还可以包括：

S10，判断对异常的交易数据修正是否成功；以及

S12，若判断出对异常的交易数据修正失败，则为修正失败后的交易数据添加第二标识。

由于系统无法确定100％的将异常数据修正为正常数据，因此，异常数据经修正后可能为正常数据，也可能为异常数据，为了防止修正后的数据均被误认为是正常数据，实施时，先判断对异常的交易数据修正是否成功，若成功，则不作处理，若失败，则为修正失败后的交易数据添加特殊标记，即第二标识，以将其与修正成功的异常交易数据和本身即正常的交易数据进行区别。

通过本发明实施例，由于对正常数据和异常数据在形式上进行了区分，使得在后期数据分析时可以有针对性的一类数据进行分析，例如，可以对异常数据进行针对性分析，包括分析异常数据产生的原因以及产生异常数据频率较高的充电站、充电桩都有哪些等。同时，对修正失败的异常交易数据添加相关标识，不仅便于与正常数据进行区分，以便于技术人员可以通过该标识在第一时间与运维人员确认异常数据产生的原因，而且可以节省单独存储异常数据的空间。

可选地，在判断对异常的交易数据修正是否成功之后，上述数据处理方法还可以包括：

S14，若判断出对异常的交易数据修正成功，则将修正成功后的交易数据作为正常数据。

需要说明的是，在将修正成功后的交易数据作为正常数据之后，可以将其与原本就是正常数据的交易数据归类为最终的正常数据，以便于后期对其进行集中且有针对性的数据分析。

通过本发明实施例，先采用预先设定的匹配原则(即联合匹配原则)对缺失值(缺失的属性信息)进行了填补，之后又通过对数据进行校验，将时间等错误的异常数据进行了校正，在一定程度上保证了数据的完整性和正确性。

需要说明的是，已经使用本发明对某电力公司提供的从2011年1月到2015年3月的1000667条交易记录中的133336条含有缺失值(即缺失的属性信息)的交易记录进行了修正，由于早期记录的交易数据中，充电结算设备的ID大多存在重复情况(实际上充电结算设备的ID应为唯一标识)，故在采用预先设定的匹配原则对其进行修正时，只能成功修正652条异常数据。另外，已经使用本发明对上述交易记录中的20735条充电日期错误的交易数据进行了修正，由于用于数据校验的变量在2015年3月正式启用，故仅仅成功修正了199条异常数据。虽然，此次实验修正成功的数据量较小，但技术人员可以根据添加的特殊标识(即第二标识)在第一时间与运维人员进行确认，从而可以及时对数据库中的信息进行更新，进而保证后期数据修正的成功率。

实施例2

根据本发明实施例，提供了一种用于数据采集系统的数据处理装置的装置实施例。

图2是根据本发明实施例的一种可选的用于数据采集系统的数据处理装置的示意图，如图2所示，该装置包括：获取单元202、第一判断单元204和填补单元206。获取单元202，用于获取充电设备在充电时产生的交易数据；第一判断单元204，用于判断获取的交易数据的属性信息是否缺失；以及填补单元206，用于在判断出获取的交易数据的属性信息缺失时，按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据。

需要说明的是，充电设备可以包括充电站，以及充电站内的各充电桩等，而充电桩包括直流充电桩和交流充电桩等。这些充电设备在充电时，会将产生的交易数据上传至数据采集系统。当交易数据上传失败时，这些上传失败的交易数据会被添加相应的标识，即第一标识，该标识用于表示这些交易数据是上传失败的数据，即无效数据。对于无效数据，在后续数据分析时是无用的，因此可以将其删除，以防对其他有效数据造成干扰；当交易数据上传成功时，这些上传成功的交易数据不会被添加任何标识。

另外，正常情况下，充电设备上传的数据除了包括交易数据之外，还会包括：交易数据产生的时间、地点(如哪个充电站中的哪个充电桩)等交易数据的属性信息；异常情况下，充电设备在上传数据时会导致交易数据的相关属性信息缺失，例如，某交易数据的产生的时间缺失，和/或其产生的地点缺失等。

通过本发明实施例，由于数据采集系统在获取到充电设备上传的交易数据之后，会对缺失的属性信息的交易数据进行属性信息填补，可以保证交易数据的完整性，达到提高数据库中存储数据的质量的效果。

可选地，上述数据处理装置还可以包括：第二判断单元和删除单元。第二判断单元，用于在按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据之后，判断属性信息填补后的交易数据是否携带有第一标识，第一标识用于表征当前数据为充电设备未成功上传的交易数据；以及删除单元，用于在判断出属性信息填补后的交易数据携带有第一标识时，将携带有第一标识的交易数据删除。

当交易数据上传失败时，这些上传失败的交易数据会被添加相应的标识，即第一标识，该标识用于表示这些交易数据是上传失败的数据，即无效数据。对于无效数据，在后续数据分析时是无用的，因此可以将其删除，以防对其他有效数据造成干扰。

通过本发明实施例，数据采集系统在对交易数据进行填补之后，通过进一步检测填补后的交易数据是否是上传失败的数据，并在确定这些数据为上传失败的数据之后将其删除以避免对其他有效数据造成干扰。

可选地，上述数据处理装置还可以包括：第三判断单元和修正单元。第三判断单元，用于在判断属性信息填补后的交易数据是否携带有第一标识之后，且在判断出属性信息填补后的交易数据未携带有第一标识时，判断属性信息填补后的交易数据是否异常数据；以及修正单元，用于在判断出属性信息填补后的交易数据是异常数据时，对异常的交易数据执行修正操作。

当交易数据上传成功时，这些上传成功的交易数据不会被添加任何标识，而没有被添加任何标识的交易数据可能是正常数据，也可能是异常数据。所谓正常数据是指交易数据及其属性信息均准确无误的数据；所谓异常数据是指交易数据和/或其属性信息错误的数据，例如，某交易数据其当前的时间属性信息显示其产生的时间为2015年5月5日，而该交易数据实际上产生的时间为2015年5月4日，此时认为该交易数据为异常数据。对于异常数据，系统可以按照匹配规则对其进行修正以期得到准确的数据，即正常数据。

通过本发明实施例，通过判断未携带有第一标识的属性信息填补后的交易数据是否异常数据，以及在其为异常数据时对其进行修正以得到准确的数据，可以防止由于数据本身异常而导致后续数据分析时分析结果不准确。

可选地，上述数据处理装置还可以包括：第四判断单元和添加单元。第四判断单元，用于在对异常的交易数据执行修正操作之后，判断对异常的交易数据修正是否成功；以及添加单元，用于在判断出对异常的交易数据修正失败时，为修正失败后的交易数据添加第二标识。

由于系统无法确定100％的将异常数据修正为正常数据，因此，异常数据经修正后可能为正常数据，也可能为异常数据，为了防止修正后的数据均被误认为是正常数据，实施时，先判断对异常的交易数据修正是否成功，若成功，则不作处理，若失败，则为修正失败后的交易数据添加特殊标记，即第二标识，以将其与修正成功的异常交易数据和本身即正常的交易数据进行区别。

通过本发明实施例，由于对正常数据和异常数据在形式上进行了区分，使得在后期数据分析时可以有针对性的一类数据进行分析，例如，可以对异常数据进行针对性分析，包括分析异常数据产生的原因以及产生异常数据频率较高的充电站、充电桩都有哪些等。同时，对修正失败的异常交易数据添加相关标识，不仅便于与正常数据进行区分，以便于技术人员可以通过该标识在第一时间与运维人员确认异常数据产生的原因，而且可以节省单独存储异常数据的空间。

可选地，上述数据处理装置还可以包括：确定单元。确定单元，用于在判断对异常的交易数据修正是否成功之后，且在判断出对异常的交易数据修正成功时，将修正成功后的交易数据作为正常数据。

需要说明的是，在将修正成功后的交易数据作为正常数据之后，可以将其与原本就是正常数据的交易数据归类为最终的正常数据，以便于后期对其进行集中且有针对性的数据分析。

通过本发明实施例，先采用预先设定的匹配原则(即联合匹配原则)对缺失值(缺失的属性信息)进行了填补，之后又通过对数据进行校验，将时间等错误的异常数据进行了校正，在一定程度上保证了数据的完整性和正确性。上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (8)

1.一种用于数据采集系统的数据处理方法，其特征在于，包括：

获取充电设备在充电时产生的交易数据；

判断获取的交易数据的属性信息是否缺失；以及

若判断出所述获取的交易数据的属性信息缺失，则按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据；

在按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据之后，所述数据处理方法还包括：

判断所述属性信息填补后的交易数据是否携带有第一标识，所述第一标识用于表征当前数据为充电设备未成功上传的交易数据；以及

若判断出所述属性信息填补后的交易数据携带有所述第一标识，则将携带有所述第一标识的交易数据删除。

2.根据权利要求1所述的数据处理方法，其特征在于，在判断所述属性信息填补后的交易数据是否携带有第一标识之后，所述数据处理方法还包括：

若判断出所述属性信息填补后的交易数据未携带有所述第一标识，则判断所述属性信息填补后的交易数据是否异常数据；以及

若判断出所述属性信息填补后的交易数据是异常数据，则对异常的交易数据执行修正操作。

3.根据权利要求2所述的数据处理方法，其特征在于，在对异常的交易数据执行修正操作之后，所述数据处理方法还包括：

判断对所述异常的交易数据修正是否成功；以及

若判断出对所述异常的交易数据修正失败，则为修正失败后的交易数据添加第二标识。

4.根据权利要求3所述的数据处理方法，其特征在于，在判断对所述异常的交易数据修正是否成功之后，所述数据处理方法还包括：

若判断出对所述异常的交易数据修正成功，则将修正成功后的交易数据作为正常数据。

5.一种用于数据采集系统的数据处理装置，其特征在于，包括：

获取单元，用于获取充电设备在充电时产生的交易数据；

第一判断单元，用于判断获取的交易数据的属性信息是否缺失；以及

填补单元，用于在判断出所述获取的交易数据的属性信息缺失时，按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据；

所述数据处理装置还包括：

第二判断单元，用于在按照预先设定的匹配规则对缺失的属性信息进行填补，得到属性信息填补后的交易数据之后，判断所述属性信息填补后的交易数据是否携带有第一标识，所述第一标识用于表征当前数据为充电设备未成功上传的交易数据；以及

删除单元，用于在判断出所述属性信息填补后的交易数据携带有所述第一标识时，将携带有所述第一标识的交易数据删除。

6.根据权利要求5所述的数据处理装置，其特征在于，所述数据处理装置还包括：

第三判断单元，用于在判断所述属性信息填补后的交易数据是否携带有第一标识之后，且在判断出所述属性信息填补后的交易数据未携带有所述第一标识时，判断所述属性信息填补后的交易数据是否异常数据；以及

修正单元，用于在判断出所述属性信息填补后的交易数据是异常数据时，对异常的交易数据执行修正操作。

7.根据权利要求6所述的数据处理装置，其特征在于，所述数据处理装置还包括：

第四判断单元，用于在对异常的交易数据执行修正操作之后，判断对所述异常的交易数据修正是否成功；以及

添加单元，用于在判断出对所述异常的交易数据修正失败时，为修正失败后的交易数据添加第二标识。

8.根据权利要求7所述的数据处理装置，其特征在于，所述数据处理装置还包括：

确定单元，用于在判断对所述异常的交易数据修正是否成功之后，且在判断出对所述异常的交易数据修正成功时，将修正成功后的交易数据作为正常数据。