CN115952859B - 数据处理方法、装置及设备 - Google Patents
数据处理方法、装置及设备 Download PDFInfo
- Publication number
- CN115952859B CN115952859B CN202310215812.7A CN202310215812A CN115952859B CN 115952859 B CN115952859 B CN 115952859B CN 202310215812 A CN202310215812 A CN 202310215812A CN 115952859 B CN115952859 B CN 115952859B
- Authority
- CN
- China
- Prior art keywords
- data
- compression score
- characteristic
- compression
- score
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本说明书实施例提供了一种数据处理方法、装置及设备,其中,该方法包括:在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据;将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,以提高对缺失数据的填补效果,提高后续数据处理的准确性。
Description
技术领域
本文件涉及数据处理技术领域,尤其涉及一种数据处理方法、装置及设备。
背景技术
随着计算机技术的快速发展,企业为用户提供的应用服务的种类和数量也越来越多,随之而来的用户数据的数据量日益增加,数据结构也日趋复杂。由于数据的时效性等原因,可能存在待检测数据存在数据缺失问题。
对于数据缺失问题,可以通过默认值填补的方式进行填补处理,例如,对于存在数据缺失的特征项,可以通过默认值(如-1等)对该特征项进行数据填补处理。
但是,由于待检测数据的特征项的数量较多,数据结构也较为复杂,因此,通过默认值对数据缺失项进行填补处理,会导致对缺失数据的填补效果差,影响后续数据处理的准确性,因此,需要一种能够提高对缺失数据的填补效果,以提高后续数据处理准确性的解决方案。
发明内容
本说明书实施例的目的是提供一种数据处理方法、装置及设备,以提供一种能够提高对缺失数据的填补效果,以提高后续数据处理准确性的解决方案。
为了实现上述技术方案,本说明书实施例是这样实现的:
第一方面,一种数据处理方法,包括:在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据;将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度;基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
第二方面,本说明书实施例提供了一种数据处理装置,所述装置包括:第一获取模块,用于在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据;分值获取模块,用于将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度;数据填补模块,用于基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
第三方面,本说明书实施例提供了一种数据处理设备,所述数据处理设备包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据;将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度;基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
第四方面,本说明书实施例提供一种存储介质,所述存储介质用于存储计算机可执行指令,所述可执行指令在被执行时实现以下流程:在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据;将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度;基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1A为本说明书一种数据处理方法实施例的流程图;
图1B为本说明书一种数据处理方法的处理过程示意图;
图2为本说明书又一种数据处理方法的处理过程示意图;
图3为本说明书一种编码模型的示意图;
图4为本说明书一种压缩值获取过程的示意图;
图5为本说明书一种填补处理过程的示意图;
图6为本说明书又一种数据处理方法的处理过程示意图;
图7为本说明书一种数据处理装置实施例的结构示意图;
图8为本说明书一种数据处理设备的结构示意图。
具体实施方式
本说明书实施例提供一种数据处理方法、装置及设备。
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本说明书保护的范围。
实施例一
如图1A和图1B所示,本说明书实施例提供一种数据处理方法,该方法的执行主体可以为服务器,其中,该服务器可以是独立的服务器,也可以是由多个服务器组成的服务器集群。
该方法具体可以包括以下步骤:
在S102中,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据对应的第二数据。
其中,第一数据可以是在预设获取周期内,获取的与预设业务和/或预设用户对应的数据,预设数据获取周期可以为近一周、近半个月、每天的预设时段等,具体如,第一数据可以是在每天的10点-14点获取的用户触发执行资源转移业务产生的行为数据,或者,第一数据还可以是近一天获取的预设用户在人机交互过程中输入的多个行为数据,又或者,第一数据还可以近一周获取的预设用户触发执行资源转移业务输入的多个行为数据,第一数据可以包括文本数据、语音数据、图片数据和视频数据等数据中的一个或多个,第一数据中新增的特征数据可以为增量数据,即第一数据可以包括近三天获取的数据,那么,第一数据中新增的特征数据可以是近一天获取的数据,第二数据可以是基于第一数据对应的业务或用户确定的数据,例如,假设第一数据可以是在每天的10点-14点获取的用户A触发执行资源转移业务产生的行为数据,那么,第二数据就可以是每天的10点-14点获取的用户B触发执行资源转移业务产生的行为数据,或者,假设第一数据还可以是近一天获取的预设用户在人机交互过程中输入的多个行为数据,那么,第二数据就可以是近三天获取的该预设用户在人机交互过程中输入的多个行为数据等,又或者,假设第一数据可以是在每天的10点-14点获取的地点A对应的用户触发执行资源转移业务产生的行为数据,那么,第二数据就可以是每天的10点-14点获取的地点B对应的用户触发执行资源转移业务产生的行为数据等。
在实施中,随着计算机技术的快速发展,企业为用户提供的应用服务的种类和数量也越来越多,随之而来的用户数据的数据量日益增加,数据结构也日趋复杂。由于数据的时效性等原因,可能存在待检测数据存在数据缺失问题。对于数据缺失问题,可以通过默认值填补的方式进行填补处理,例如,对于存在数据缺失的特征项,可以通过默认值(如-1等)对该特征项进行数据填补处理。但是,由于待检测数据的特征项的数量较多,数据结构也较为复杂,因此,通过默认值对数据缺失项进行填补处理,会导致对缺失数据的填补效果差,影响后续数据处理的准确性,因此,需要一种能够提高对缺失数据的填补效果,以提高后续数据处理准确性的解决方案。为此,本说明书实施例提供一种可以解决上述问题的技术方案,具体可以参见下述内容。
在实施中,由于在不同的数据检测时期,可能有不同的防控需求、关联时间、关联空间和关联背景等,数据对应的风险也会呈现出不同的表现形式,例如,在寒假和暑假期间,学生群体被骗的风险会急剧上升。这便要求用于对检测模型进行训练的数据样本的覆盖时间周期较长,才可以保证检测模型性能稳定。然而,由于新的风险特征不断产生,而服务器获取到的数据存在存储时效性等特征,因此,生成时间较远的特征数据可能存在数据缺失问题,为提高对数据检测的模型的训练稳定性,需要对特征缺失数据进行填补处理。
服务器可以对获取到的待检测数据进行数据缺失检测处理,可以将存在特征数据缺失的待检测数据确定为第一数据,例如,如下表1所示,待检测数据可以包括用户1、用户2和用户3针对资源转移业务生成的资源转移数据,其中,待检测数据1可以包括待检测数据1-1和待检测数据1-2,待检测数据2可以包括待检测数据2-1和待检测数据2-2,基于数据获取时间可以确定待检测数据1-1和待检测数据2-1为新增的特征数据。
表1
由上表1可以看出,针对新增的待检测数据1-1,用户1在时间1通过设备1触发执行资源转移业务对应的资源转移数量存在特征数据缺失的情况,因此,服务器可以将待检测数据1确定为第一数据。
服务器可以获取与第一数据对应的第二数据,例如,服务器可以将获取到的待检测数据中不存在特征数据缺失的数据确定为第二数据,如上表1中的待检测数据2-2不存在特征数据缺失,因此,可以将待检测数据2确定为第二数据。或者,假设上述第一数据为近三天服务器获取的地点A对应的触发执行资源转移业务产生的资源转移数据,那么,服务器可以将获取地点B对应的触发执行资源转移业务产生的资源转移数据确定为第一数据对应的第二数据。
此外,由上表1可以看出,针对新增的待检测数据2-1,用户2在时间2触发执行资源转移业务对应的设备标识存在特征数据缺失的情况,因此,服务器可以将待检测数据2确定为第一数据。由于新增的待检测数据1-1不存在设备标识的特征数据缺失,因此,服务器可以将待检测数据1确定为与该第一数据对应的第二数据。
上述第一数据以及对应的第二数据的确定方法是一种可选地、可实现的确定方法,在实际应用场景中,还可以有多种不同的确定方法,可以根据实际应用场景的不同选取不同的确定方法,本说明书实施例对此不作具体限定。
在S104中,将第一数据中历史的特征数据输入预先训练的编码模型中,得到第一数据中历史的特征数据对应的第一压缩分值,并将第二数据中历史的特征数据输入预先训练的编码模型中,得到第二数据中历史的特征数据对应的第二压缩分值。
其中,编码模型可以为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,预设维度小于所述特征数据的维度。
在实施中,第一数据可以包括历史的特征数据和新增的特征数据,第二数据也可以包括历史的特征数据和新增的特征数据,例如,如上表1所示,假设第一数据可以为待检测数据1,待检测数据2为第一数据对应的第二数据,那么,基于数据获取时间,可以确定待检测数据1-1为第一数据中的新增的特征数据,待检测数据1-2可以为第一数据中的历史的特征数据,待检测数据2-1为第二数据中的新增的特征数据,待检测数据2-2可以为第二数据中的历史的特征数据。
服务器可以将第一数据中历史的特征数据输入预先训练的编码模型中,通过编码模型将第一数据中历史的特征数据压缩到预设维度空间,得到第一数据对应的第一压缩分值,同样的,服务器也可以将第二数据中历史的特征数据输入预先训练的编码模型中,通过编码模型将第二数据中历史的特征数据压缩到预设维度空间,得到第二数据对应的第二压缩分值。
例如,以预设维度为一维为例,服务器可以将待检测数据1-2和待检测数据2-2输入预先训练的编码模型中,通过编码模型分别对这两个特征数据进行压缩处理,分别得到待检测数据1对应的第一压缩分值以及待检测数据2对应的第二压缩分值。这样,就可以将多维度的特征数据映射到一维空间,提高后续数据处理效率。
其中,预设维度可以基于第一数据的检测效率需求和/检测精度需求确定,例如,假设第一数据的检测效率需求较高,检测精度需求较低,那么,服务器可以确定预设维度为预设第一维度,或者,假设第一数据的检测效率需求较低,检测精度需求较高,那么,服务器可以确定预设第二维度,其中,预设第一维度小于预设第二维度,预设第二维度小于输入到编码模型中的特征数据的维度。
在S106中,基于第一压缩分值和第二压缩分值,确定第二数据中与第一数据对应的目标数据,并基于目标数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
在实施中,服务器可以将第二压缩分值中与第一压缩分值之间的差值小于预设差值阈值的第二压缩分值对应的第二数据,确定为与第一数据对应的目标数据,然后基于目标数据中与第一数据中缺失的特征数据进行填补处理,得到填补处理后的第一数据。
例如,假设第一数据的新增的特征数据中的特征1对应的数据存在缺失,那么,服务器可以基于目标数据中与特征1对应的数据,对第一数据中第一数据的新增的特征数据中的特征1进行填补处理,得到填补处理后的第一数据,如服务器可以将目标数据中与特征1对应的数据的差值、均值、众数等任一项确定为第一数据的新增的特征数据中的特征1对应的数据。
填补处理后的第一数据可以用于进行后续数据检测处理,如可以基于填补处理后的第一数据,对第一数据进行分类处理、风险检测处理、相似数据检索处理等。
本说明书实施例提供一种数据处理方法,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据对应的第二数据,将第一数据中历史的特征数据输入预先训练的编码模型中,得到第一数据中历史的特征数据对应的第一压缩分值,并将第二数据中历史的特征数据输入预先训练的编码模型中,得到第二数据中历史的特征数据对应的第二压缩分值,编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,预设维度小于所述特征数据的维度,基于第一压缩分值和第二压缩分值,确定第二数据中与第一数据对应的目标数据,并基于目标数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。这样,可以将特征数据压缩到预设维度空间,得到压缩分值,通过压缩分值,确定用于对第一数据进行填补处理的目标数据,提高了数据处理效率,且基于目标数据对第一数据进行填补处理,避免了通过默认值等方式进行填补处理存在的填补效果差的问题,即可以提高缺失数据的填补效果,提高后续数据处理的准确性。
实施例二
如图2所示,本说明书实施例提供一种数据处理方法,该方法的执行主体可以为服务器,其中,服务器可以是独立的服务器,也可以是由多个服务器组成的服务器集群。该方法具体可以包括以下步骤:
在S202中,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据中新增的特征数据中存在特征数据缺失的目标特征,并获取第一数据对应的候选数据。
在实施中,服务器可以对待检测数据进行数据缺失检测处理,可以将存在特征数据缺失的待检测数据确定为第一数据,并将存在特征数据缺失的特征确定为目标特征,候选数据可以是待检测数据中除第一数据以外的数据。
在S204中,将候选数据中与目标特征对应的特征数据不存在缺失的候选数据确定为第二数据。
在实施中,假设候选数据包括待检测数据2和待检测数据3,可以获取待检测数据2和待检测数据3中新增的特征数据,并将待检测数据2和待检测数据3中新增的特征数据中,目标特征对应的特征数据不存在缺失的数据,确定为第二数据。这样,可以通过目标特征,对候选数据进行筛选,保证第二数据为可以用于对第一数据进行填补处理的数据,提高数据处理效率。
在S206中,获取第一样本数据。
在实施中,假设第一数据为资源转移业务对应的资源转移数据,那么,服务器可以将近一个月的历史资源转移数据确定为第一样本数据。
在S208中,将第一样本数据输入编码模型中的编码模块中,得到第一样本数据对应的第三压缩分值。
在S210中,将第三压缩分值输入编码模型中的解码模块中,得到第三压缩分值对应的第二样本数据。
在实施中,以编码模型包括编码(Encoder)模块和解码(Decoder)模块为例,如图3所示,可以将第一样本数据输入编码模型中的编码模块中,得到第一样本数据对应的第三压缩分值,再将第三压缩分值输入编码模型中的解码模块中,得到第三压缩分值对应的第二样本数据。
在S212中,基于第一样本数据和第二样本数据,对编码模型进行迭代训练,得到训练后的编码模型。
在实施中,可以通过第一样本数据和第二样本数据,对编码模型进行自监督训练,得到训练后的编码模型。
在实际应用中,上述S212的处理方式可以多种多样,以下提供一种可选的实现方式,具体可以参见下述步骤一~步骤四处理:
步骤一,基于第一数据对应的风险检测需求,确定第一数据对应的风险损失函数。
其中,风险损失函数可以用于控制编码模型输出的压缩分值满足风险检测需求。
在实施中,由于不同的应用场景,对数据的风险检测需求不同,例如,针对资源转移场景,对业务执行时间的风险检测需求较低,对业务执行数量的风险检测需求较高,而针对页面风险检测场景,对页面刷新时间的风险检测需求较高,对待检测页面的数量的风险检测需求较低,因此,可以获取第一数据对应的风险检测需求,并确定与该风险检测需求对应的风险损失函数,以通过风险损失函数,控制编码模型对数据的压缩方向,以使编码模型输出的压缩分值满足风险检测需求。
例如,假设第一数据对应的风险检测需求为资源转移场景对应的风险检测需求,那么,可以通过对应的风险损失函数,控制编码模型的压缩方向,如控制编码模型增加对业务执行时间的压缩比重,降低对业务执行数量的压缩比重,这样,编码模型输出的压缩分值中业务执行时间的比重就大于业务执行数量的比重,以尽可能的保留与风险检测需求相关的特征数据,提升有效信息的留存率,提高后续风险检测准确性,并且可以提高编码模型的鲁棒性和稳定性。
步骤二,将第一样本数据输入编码模型中的编码模块中,得到第一样本数据对应的风险分值。
步骤三,基于第一样本数据和第二样本数据,确定第一损失值,并基于风险分值和风险损失函数,确定第二损失值。
步骤四,基于第一损失值和第二损失值,对编码模型进行迭代训练,得到训练后的编码模型。
在S214中,将第一数据中历史的特征数据输入预先训练的编码模型中的编码模块,得到第一数据中历史的特征数据对应的第一压缩分值。
在S216中,将第二数据中历史的特征数据输入预先训练的编码模型中的编码模块,得到第二数据中历史的特征数据对应的第一压缩分值。
在实施中,如图4所示,可以通过训练后的编码模型中的编码模块,对第一数据中历史的特征数据进行压缩处理,得到第一数据中历史的特征数据对应的第一压缩分值,对第二数据中历史的特征数据进行压缩处理,得到第二数据中历史的特征数据对应的第二压缩分值。
其中,以后续检测模型(如风险检测模型等)为由神经算法构建的检测模型为例,由于待检测数据中的变量多为离散统计值,而神经网络算法构建的模型可以接收的数据为归一化后的[-1,1]之间的连续数值,输出数据也是[-1,1]之间的连续数值,因此,在进入神经网络进行网络传播时,需要对数据进行归一化处理,例如,假设历史购物次数为5,对该数据进行min-max归一化后为0.1,解码模块得到的预测值为0.12,但是0.12经过反向复原后得到的数值可能为5.5,这样的数值分布与认知经验存在差异,因此,为得到更加符合认知经验,且可以对后续检测模型进行更好训练的填补处理,可以不通过解码模块得到的数据对第一数据进行填补处理。
在S218中,获取第一压缩分值与每个第二压缩分值之间的差值。
在S220中,基于差值,确定第二压缩分值对应的第二数据中与第一数据对应的目标数据。
在实施中,可以将差值小于预设差值阈值的第二压缩分值对应的第二数据中与第一数据对应的目标数据,或者,还可以基于差值,对第二压缩分值进行排序,将排序后的第二压缩分值中的前n位第二压缩分值对应的第二数据中与第一数据对应的目标数据,其中,n可以基于第一数据的检测需求确定。
在S222中,获取目标数据中与目标特征对应的特征数据的数据生成时间。
在S224中,基于数据生成时间,确定多个目标数据中用于对第一数据进行填补处理的第四数据,并基于第四数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
在实施中,在目标数据有多个的情况下,服务器可以基于数据生成时间,对目标数据进行排序,并将排序后的目标数据中的前m位目标数据确定为第四数据,其中,m可以基于第一数据的特征数据填补时效需求确定,这样,可以保证用于对第一数据进行填补的第四数据的时效性,提高填补处理的准确性。
如图5所示,可以将第四数据的新增的特征数据中与目标特征对应的特征数据复制到第一数据,以对第一数据进行填补处理,得到填补处理后的第一数据。
在S226中,将填补处理后的第一数据输入预先训练的风险检测模型中,得到第一数据的风险检测结果。
其中,风险检测模型可以为基于预设深度学习算法构建的模型。
在实施中,例如,风险检测模型可以是由神经网络算法构建的用于对数据进行分类处理的模型,即可以通过风险检测模型输出的分类结果对第一数据进行风险检测处理。
这样,由于已经通过目标数据对第一数据进行填补处理,因此,通过填补处理后的第一数据可以得到准确的风险检测结果,提高了风险检测的准确性。
本说明书实施例提供一种数据处理方法,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据对应的第二数据,将第一数据中历史的特征数据输入预先训练的编码模型中,得到第一数据中历史的特征数据对应的第一压缩分值,并将第二数据中历史的特征数据输入预先训练的编码模型中,得到第二数据中历史的特征数据对应的第二压缩分值,编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,预设维度小于所述特征数据的维度,基于第一压缩分值和第二压缩分值,确定第二数据中与第一数据对应的目标数据,并基于目标数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。这样,可以将特征数据压缩到预设维度空间,得到压缩分值,通过压缩分值,确定用于对第一数据进行填补处理的目标数据,提高了数据处理效率,且基于目标数据对第一数据进行填补处理,避免了通过默认值等方式进行填补处理存在的填补效果差的问题,即可以提高缺失数据的填补效果,提高后续数据处理的准确性。
实施例三
如图6所示,本说明书实施例提供一种数据处理方法,该方法的执行主体可以为服务器,其中,服务器可以是独立的服务器,也可以是由多个服务器组成的服务器集群。该方法具体可以包括以下步骤:
在S102中,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据对应的第二数据。
在S206中,获取第一样本数据。
在S208中,将第一样本数据输入编码模型中的编码模块中,得到第一样本数据对应的第三压缩分值。
在S210中,将第三压缩分值输入编码模型中的解码模块中,得到第三压缩分值对应的第二样本数据。
在S212中,基于第一样本数据和第二样本数据,对编码模型进行迭代训练,得到训练后的编码模型。
在S214中,将第一数据中历史的特征数据输入预先训练的编码模型中的编码模块,得到第一数据中历史的特征数据对应的第一压缩分值。
在S216中,将第二数据中历史的特征数据输入预先训练的编码模型中的编码模块,得到第二数据中历史的特征数据对应的第一压缩分值。
在302中,获取第一数据中新增的特征数据中存在特征数据缺失的目标特征。
在304中,将多个第二数据中与目标特征对应的特征数据不存在缺失的第二数据确定为第三数据。
在实施中,可以先基于目标特征对第二数据进行筛选处理,以提高后续数据处理效率。
在306中,获取第一压缩分值与每个第三数据对应的第二压缩分值之间的差值。
在308中,基于差值,确定第二压缩分值对应的第三数据中与第一数据对应的目标数据。
上述S308的具体处理过程可以参见上述实施例二中S204的相关内容,在此不再赘述。
在S222中,获取目标数据中与目标特征对应的特征数据的数据生成时间。
在S224中,基于数据生成时间,确定多个目标数据中用于对第一数据进行填补处理的第四数据,并基于第四数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
在S226中,将填补处理后的第一数据输入预先训练的风险检测模型中,得到第一数据的风险检测结果。
其中,风险检测模型可以为基于预设深度学习算法构建的模型。
本说明书实施例提供一种数据处理方法,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据对应的第二数据,将第一数据中历史的特征数据输入预先训练的编码模型中,得到第一数据中历史的特征数据对应的第一压缩分值,并将第二数据中历史的特征数据输入预先训练的编码模型中,得到第二数据中历史的特征数据对应的第二压缩分值,编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,预设维度小于所述特征数据的维度,基于第一压缩分值和第二压缩分值,确定第二数据中与第一数据对应的目标数据,并基于目标数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。这样,可以将特征数据压缩到预设维度空间,得到压缩分值,通过压缩分值,确定用于对第一数据进行填补处理的目标数据,提高了数据处理效率,且基于目标数据对第一数据进行填补处理,避免了通过默认值等方式进行填补处理存在的填补效果差的问题,即可以提高缺失数据的填补效果,提高后续数据处理的准确性。
实施例四
以上为本说明书实施例提供的数据处理方法,基于同样的思路,本说明书实施例还提供一种数据处理装置,如图7所示。
该数据处理装置包括:第一获取模块701、分值获取模块702和数据填补模块703,其中:
第一获取模块701,用于在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据;
分值获取模块702,用于将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度;
数据填补模块703,用于基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
本说明书实施例中,所述装置还包括:
风险检测模块,用于将所述填补处理后的第一数据输入预先训练的风险检测模型中,得到所述第一数据的风险检测结果,所述风险检测模型为基于预设深度学习算法构建的模型。
本说明书实施例中,所述装置还包括:
第二获取模块,用于获取第一样本数据;
第一输入模块,用于将所述第一样本数据输入所述编码模型中的编码模块中,得到所述第一样本数据对应的第三压缩分值;
第二输入模块,用于将所述第三压缩分值输入所述编码模型中的解码模块中,得到所述第三压缩分值对应的第二样本数;
模型训练模块,用于基于所述第一样本数据和所述第二样本数据,对所述编码模型进行迭代训练,得到训练后的编码模型;
所述分值获取模块702,用于;
将所述第一数据中历史的特征数据输入预先训练的编码模型中的编码模块,得到所述第一数据中历史的特征数据对应的第一压缩分值。
本说明书实施例中,所述模型训练模块,用于:
基于所述第一数据对应的风险检测需求,确定所述第一数据对应的风险损失函数,所述风险损失函数用于控制所述编码模型输出的压缩分值满足所述风险检测需求;
将所述第一样本数据输入所述编码模型中的编码模块中,得到所述第一样本数据对应的风险分值;
基于所述第一样本数据和所述第二样本数据,确定第一损失值,并基于所述风险分值和所述风险损失函数,确定第二损失值;
基于所述第一损失值和所述第二损失值,对所述编码模型进行迭代训练,得到所述训练后的编码模型。
本说明书实施例中,所述第一获取模块701,用于:
获取所述第一数据中新增的特征数据中存在特征数据缺失的目标特征,并获取所述第一数据对应的候选数据;
将所述候选数据中与所述目标特征对应的特征数据不存在缺失的候选数据确定为所述第二数据。
本说明书实施例中,所述数据填补模块703,用于:
获取所述第一压缩分值与每个所述第二压缩分值之间的差值;
基于所述差值,确定所述第二压缩分值对应的第二数据中与所述第一数据对应的目标数据。
本说明书实施例中,所述数据填补模块703,用于:
获取所述第一数据中新增的特征数据中存在特征数据缺失的目标特征;
将多个所述第二数据中与所述目标特征对应的特征数据不存在缺失的第二数据确定为第三数据;
获取所述第一压缩分值与每个所述第三数据对应的第二压缩分值之间的差值;
基于所述差值,确定所述第二压缩分值对应的第三数据中与所述第一数据对应的目标数据。
本说明书实施例中,所述目标数据有多个,所述数据填补模块703,用于:
获取所述目标数据中与所述目标特征对应的特征数据的数据生成时间;
基于所述数据生成时间,确定多个所述目标数据中用于对所述第一数据进行填补处理的第四数据,并基于所述第四数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到所述填补处理后的第一数据。
本说明书实施例提供一种数据处理装置,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据对应的第二数据,将第一数据中历史的特征数据输入预先训练的编码模型中,得到第一数据中历史的特征数据对应的第一压缩分值,并将第二数据中历史的特征数据输入预先训练的编码模型中,得到第二数据中历史的特征数据对应的第二压缩分值,编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,预设维度小于所述特征数据的维度,基于第一压缩分值和第二压缩分值,确定第二数据中与第一数据对应的目标数据,并基于目标数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。这样,可以将特征数据压缩到预设维度空间,得到压缩分值,通过压缩分值,确定用于对第一数据进行填补处理的目标数据,提高了数据处理效率,且基于目标数据对第一数据进行填补处理,避免了通过默认值等方式进行填补处理存在的填补效果差的问题,即可以提高缺失数据的填补效果,提高后续数据处理的准确性。
实施例五
基于同样的思路,本说明书实施例还提供一种数据处理设备,如图8所示。
数据处理设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器801和存储器802,存储器802中可以存储有一个或一个以上存储应用程序或数据。其中,存储器802可以是短暂存储或持久存储。存储在存储器802的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括对数据处理设备中的一系列计算机可执行指令。更进一步地,处理器801可以设置为与存储器802通信,在数据处理设备上执行存储器802中的一系列计算机可执行指令。数据处理设备还可以包括一个或一个以上电源803,一个或一个以上有线或无线网络接口804,一个或一个以上输入输出接口805,一个或一个以上键盘806。
具体在本实施例中,数据处理设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对数据处理设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据;
将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度;
基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。
可选地,所述方法还包括:
将所述填补处理后的第一数据输入预先训练的风险检测模型中,得到所述第一数据的风险检测结果,所述风险检测模型为基于预设深度学习算法构建的模型。
可选地,在所述将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值之前,还包括:
获取第一样本数据;
将所述第一样本数据输入所述编码模型中的编码模块中,得到所述第一样本数据对应的第三压缩分值;
将所述第三压缩分值输入所述编码模型中的解码模块中,得到所述第三压缩分值对应的第二样本数据;
基于所述第一样本数据和所述第二样本数据,对所述编码模型进行迭代训练,得到训练后的编码模型;
所述将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,包括:
将所述第一数据中历史的特征数据输入预先训练的编码模型中的编码模块,得到所述第一数据中历史的特征数据对应的第一压缩分值。
可选地,所述基于所述第一样本数据和所述第二样本数据,对所述编码模型进行迭代训练,得到训练后的编码模型,包括:
基于所述第一数据对应的风险检测需求,确定所述第一数据对应的风险损失函数,所述风险损失函数用于控制所述编码模型输出的压缩分值满足所述风险检测需求;
将所述第一样本数据输入所述编码模型中的编码模块中,得到所述第一样本数据对应的风险分值;
基于所述第一样本数据和所述第二样本数据,确定第一损失值,并基于所述风险分值和所述风险损失函数,确定第二损失值;
基于所述第一损失值和所述第二损失值,对所述编码模型进行迭代训练,得到所述训练后的编码模型。
可选地,所述获取所述第一数据对应的第二数据,包括:
获取所述第一数据中新增的特征数据中存在特征数据缺失的目标特征,并获取所述第一数据对应的候选数据;
将所述候选数据中与所述目标特征对应的特征数据不存在缺失的候选数据确定为所述第二数据。
可选地,所述基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,包括:
获取所述第一压缩分值与每个所述第二压缩分值之间的差值;
基于所述差值,确定所述第二压缩分值对应的第二数据中与所述第一数据对应的目标数据。
可选地,所述基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,包括:
获取所述第一数据中新增的特征数据中存在特征数据缺失的目标特征;
将多个所述第二数据中与所述目标特征对应的特征数据不存在缺失的第二数据确定为第三数据;
获取所述第一压缩分值与每个所述第三数据对应的第二压缩分值之间的差值;
基于所述差值,确定所述第二压缩分值对应的第三数据中与所述第一数据对应的目标数据。
可选地,所述目标数据有多个,所述基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据,包括:
获取所述目标数据中与所述目标特征对应的特征数据的数据生成时间;
基于所述数据生成时间,确定多个所述目标数据中用于对所述第一数据进行填补处理的第四数据,并基于所述第四数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到所述填补处理后的第一数据。
本说明书实施例提供一种数据处理设备,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据对应的第二数据,将第一数据中历史的特征数据输入预先训练的编码模型中,得到第一数据中历史的特征数据对应的第一压缩分值,并将第二数据中历史的特征数据输入预先训练的编码模型中,得到第二数据中历史的特征数据对应的第二压缩分值,编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,预设维度小于所述特征数据的维度,基于第一压缩分值和第二压缩分值,确定第二数据中与第一数据对应的目标数据,并基于目标数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。这样,可以将特征数据压缩到预设维度空间,得到压缩分值,通过压缩分值,确定用于对第一数据进行填补处理的目标数据,提高了数据处理效率,且基于目标数据对第一数据进行填补处理,避免了通过默认值等方式进行填补处理存在的填补效果差的问题,即可以提高缺失数据的填补效果,提高后续数据处理的准确性。
实施例六
本说明书实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述数据处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等。
本说明书实施例提供一种计算机可读存储介质,在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取第一数据对应的第二数据,将第一数据中历史的特征数据输入预先训练的编码模型中,得到第一数据中历史的特征数据对应的第一压缩分值,并将第二数据中历史的特征数据输入预先训练的编码模型中,得到第二数据中历史的特征数据对应的第二压缩分值,编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,预设维度小于所述特征数据的维度,基于第一压缩分值和第二压缩分值,确定第二数据中与第一数据对应的目标数据,并基于目标数据中新增的特征数据,对第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据。这样,可以将特征数据压缩到预设维度空间,得到压缩分值,通过压缩分值,确定用于对第一数据进行填补处理的目标数据,提高了数据处理效率,且基于目标数据对第一数据进行填补处理,避免了通过默认值等方式进行填补处理存在的填补效果差的问题,即可以提高缺失数据的填补效果,提高后续数据处理的准确性。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20 以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书一个或多个实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书的实施例是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书一个或多个实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (11)
1.一种数据处理方法,包括:
在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据,所述第二数据为基于所述第一数据对应的业务或用户确定的数据;
将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度,所述第一压缩分值为所述第一数据中历史的特征数据在所述预设维度空间的表示,所述第二压缩分值为所述第二数据中历史的特征数据在所述预设维度空间的表示;
基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据;其中,所述第一数据对应的目标数据为所述第二压缩分值中与所述第一压缩分值之间的差值小于预设差值阈值的第二压缩分值对应的第二数据。
2.根据权利要求1所述的方法,所述方法还包括:
将所述填补处理后的第一数据输入预先训练的风险检测模型中,得到所述第一数据的风险检测结果,所述风险检测模型为基于预设深度学习算法构建的模型。
3.根据权利要求1所述的方法,在所述将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值之前,还包括:
获取第一样本数据;
将所述第一样本数据输入所述编码模型中的编码模块中,得到所述第一样本数据对应的第三压缩分值;
将所述第三压缩分值输入所述编码模型中的解码模块中,得到所述第三压缩分值对应的第二样本数据;
基于所述第一样本数据和所述第二样本数据,对所述编码模型进行迭代训练,得到训练后的编码模型;
所述将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,包括:
将所述第一数据中历史的特征数据输入预先训练的编码模型中的编码模块,得到所述第一数据中历史的特征数据对应的第一压缩分值。
4.根据权利要求3所述的方法,所述基于所述第一样本数据和所述第二样本数据,对所述编码模型进行迭代训练,得到训练后的编码模型,包括:
基于所述第一数据对应的风险检测需求,确定所述第一数据对应的风险损失函数,所述风险损失函数用于控制所述编码模型输出的压缩分值满足所述风险检测需求;
将所述第一样本数据输入所述编码模型中的编码模块中,得到所述第一样本数据对应的风险分值;
基于所述第一样本数据和所述第二样本数据,确定第一损失值,并基于所述风险分值和所述风险损失函数,确定第二损失值;
基于所述第一损失值和所述第二损失值,对所述编码模型进行迭代训练,得到所述训练后的编码模型。
5.根据权利要求1所述的方法,所述获取所述第一数据对应的第二数据,包括:
获取所述第一数据中新增的特征数据中存在特征数据缺失的目标特征,并获取所述第一数据对应的候选数据;
将所述候选数据中与所述目标特征对应的特征数据不存在缺失的候选数据确定为所述第二数据。
6.根据权利要求5所述的方法,所述基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,包括:
获取所述第一压缩分值与每个所述第二压缩分值之间的差值;
基于所述差值,确定所述第二压缩分值对应的第二数据中与所述第一数据对应的目标数据。
7.根据权利要求1所述的方法,所述基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,包括:
获取所述第一数据中新增的特征数据中存在特征数据缺失的目标特征;
将多个所述第二数据中与所述目标特征对应的特征数据不存在缺失的第二数据确定为第三数据;
获取所述第一压缩分值与每个所述第三数据对应的第二压缩分值之间的差值;
基于所述差值,确定所述第二压缩分值对应的第三数据中与所述第一数据对应的目标数据。
8.根据权利要求6或7任一项所述的方法,所述目标数据有多个,所述基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据,包括:
获取所述目标数据中与所述目标特征对应的特征数据的数据生成时间;
基于所述数据生成时间,确定多个所述目标数据中用于对所述第一数据进行填补处理的第四数据,并基于所述第四数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到所述填补处理后的第一数据。
9.一种数据处理装置,包括:
第一获取模块,用于在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据,所述第二数据为基于所述第一数据对应的业务或用户确定的数据;
分值获取模块,用于将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度,所述第一压缩分值为所述第一数据中历史的特征数据在所述预设维度空间的表示,所述第二压缩分值为所述第二数据中历史的特征数据在所述预设维度空间的表示;
数据填补模块,用于基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据;其中,所述第一数据对应的目标数据为所述第二压缩分值中与所述第一压缩分值之间的差值小于预设差值阈值的第二压缩分值对应的第二数据。
10.一种数据处理设备,所述数据处理设备包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据,所述第二数据为基于所述第一数据对应的业务或用户确定的数据;
将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度,所述第一压缩分值为所述第一数据中历史的特征数据在所述预设维度空间的表示,所述第二压缩分值为所述第二数据中历史的特征数据在所述预设维度空间的表示;
基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据;其中,所述第一数据对应的目标数据为所述第二压缩分值中与所述第一压缩分值之间的差值小于预设差值阈值的第二压缩分值对应的第二数据。
11.一种存储介质,所述存储介质用于存储计算机可执行指令,所述可执行指令在被执行时实现以下流程:
在检测到第一数据中新增的特征数据中存在特征数据缺失的情况下,获取所述第一数据对应的第二数据,所述第二数据为基于所述第一数据对应的业务或用户确定的数据;
将所述第一数据中历史的特征数据输入预先训练的编码模型中,得到所述第一数据中历史的特征数据对应的第一压缩分值,并将所述第二数据中历史的特征数据输入预先训练的编码模型中,得到所述第二数据中历史的特征数据对应的第二压缩分值;所述编码模型为基于预设编码算法构建的用于将特征数据压缩到预设维度空间的模型,所述预设维度小于所述特征数据的维度,所述第一压缩分值为所述第一数据中历史的特征数据在所述预设维度空间的表示,所述第二压缩分值为所述第二数据中历史的特征数据在所述预设维度空间的表示;
基于所述第一压缩分值和所述第二压缩分值,确定所述第二数据中与所述第一数据对应的目标数据,并基于所述目标数据中新增的特征数据,对所述第一数据中新增的特征数据进行填补处理,得到填补处理后的第一数据;其中,所述第一数据对应的目标数据为所述第二压缩分值中与所述第一压缩分值之间的差值小于预设差值阈值的第二压缩分值对应的第二数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310215812.7A CN115952859B (zh) | 2023-03-01 | 2023-03-01 | 数据处理方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310215812.7A CN115952859B (zh) | 2023-03-01 | 2023-03-01 | 数据处理方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115952859A CN115952859A (zh) | 2023-04-11 |
CN115952859B true CN115952859B (zh) | 2023-05-23 |
Family
ID=85903264
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310215812.7A Active CN115952859B (zh) | 2023-03-01 | 2023-03-01 | 数据处理方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115952859B (zh) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115712866A (zh) * | 2022-10-28 | 2023-02-24 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11568187B2 (en) * | 2019-08-16 | 2023-01-31 | Fair Isaac Corporation | Managing missing values in datasets for machine learning models |
CN111368259B (zh) * | 2020-03-09 | 2023-05-12 | 南方电网科学研究院有限责任公司 | 一种配网电压数据缺失填补方法及相关装置 |
CN112199374B (zh) * | 2020-09-29 | 2023-12-05 | 中国平安人寿保险股份有限公司 | 针对数据缺失的数据特征挖掘方法及其相关设备 |
CN112381303A (zh) * | 2020-11-19 | 2021-02-19 | 北京嘀嘀无限科技发展有限公司 | 一种任务指标数据预测方法和系统 |
CN112749742A (zh) * | 2020-12-30 | 2021-05-04 | 北京知因智慧科技有限公司 | 源发风险分值的量化方法、量化装置及电子设备 |
CN113312667B (zh) * | 2021-06-07 | 2022-09-02 | 支付宝(杭州)信息技术有限公司 | 一种风险防控方法、装置及设备 |
CN113704697B (zh) * | 2021-08-31 | 2023-12-26 | 平安科技(深圳)有限公司 | 基于多元回归模型的医疗数据缺失处理方法、装置及设备 |
CN113836125A (zh) * | 2021-09-15 | 2021-12-24 | 中国电力科学研究院有限公司 | 一种配电物联网边缘侧的配变数据清洗修复方法和系统 |
CN114119081A (zh) * | 2021-11-15 | 2022-03-01 | 北京京东尚科信息技术有限公司 | 对象预测模型的训练方法、装置、电子设备及存储介质 |
CN114676121B (zh) * | 2022-03-30 | 2024-06-28 | 重庆大学 | 基于多尺度时空记忆共享网络的缺失监测数据填补方法 |
CN114756727A (zh) * | 2022-04-27 | 2022-07-15 | 北京北大软件工程股份有限公司 | 一种获得数据补全模型、数据补全的方法、装置及介质 |
CN114997472A (zh) * | 2022-05-13 | 2022-09-02 | 北京三快在线科技有限公司 | 一种模型训练的方法、业务风控的方法及装置 |
CN115238804A (zh) * | 2022-07-29 | 2022-10-25 | 广汽本田汽车有限公司 | 基于生成对抗网络的点焊数据填补方法、装置及存储介质 |
CN115358798A (zh) * | 2022-08-25 | 2022-11-18 | 阳光新能源开发股份有限公司 | 负荷数据修复方法、装置、设备及计算机可读存储介质 |
-
2023
- 2023-03-01 CN CN202310215812.7A patent/CN115952859B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115712866A (zh) * | 2022-10-28 | 2023-02-24 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
Also Published As
Publication number | Publication date |
---|---|
CN115952859A (zh) | 2023-04-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110162796B (zh) | 新闻专题创建方法和装置 | |
CN110163417B (zh) | 一种业务量的预测方法、装置及设备 | |
CN110826894A (zh) | 超参数确定方法、装置及电子设备 | |
CN115712866B (zh) | 数据处理方法、装置及设备 | |
CN117076650B (zh) | 一种基于大语言模型的智能对话方法、装置、介质及设备 | |
CN114880489B (zh) | 数据处理方法、装置及设备 | |
CN116049761A (zh) | 数据处理方法、装置及设备 | |
CN114926706B (zh) | 数据处理方法、装置及设备 | |
CN115952859B (zh) | 数据处理方法、装置及设备 | |
CN111242195B (zh) | 模型、保险风控模型训练方法、装置及电子设备 | |
CN115994252A (zh) | 数据处理方法、装置及设备 | |
CN112182116B (zh) | 数据探查方法及装置 | |
CN110046090B (zh) | 页面元素的定位方法及装置 | |
CN117252183B (zh) | 一种基于语义的多源表格自动匹配方法、装置及存储介质 | |
CN115827935B (zh) | 一种数据处理方法、装置及设备 | |
CN114817469B (zh) | 文本增强方法、文本增强模型的训练方法及装置 | |
CN110851416B (zh) | 数据存储性能分析方法和装置、宿主机确定方法和装置 | |
CN110033249B (zh) | 一种流水落表方法及装置 | |
CN116595969A (zh) | 一种文本生成的方法、装置、存储介质及电子设备 | |
CN118378006A (zh) | 一种溯源数据的评估方法、装置及设备 | |
CN117313025A (zh) | 任务处理方法及装置 | |
CN116186607A (zh) | 一种模型的处理方法、装置及设备 | |
CN118115288A (zh) | 反欺诈预测方法、装置及设备 | |
CN116150685A (zh) | 一种数据分类方法、装置、设备及存储介质 | |
CN116597348A (zh) | 视频分类模型的训练方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |