CN113470830A - 异常数据处理方法、装置、设备及存储介质 - Google Patents

Abstract

本发明涉及数据处理，提供一种异常数据处理方法、装置、设备及存储介质。该方法能够获取待分析数据；识别所述待分析数据所属的异常类型；若所述异常类型为预设类型，对所述待分析数据进行离散化处理，得到离散数据；根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组；搜索每个序列分组的目标最近邻分组；根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点；根据所述数据拐点识别出所述待分析数据中的异常数据；从所述待分析数据中剔除所述异常数据，得到目标数据。本发明能够提高目标数据的质量。此外，本发明还涉及区块链技术，所述目标数据可存储于区块链中。

Description

异常数据处理方法、装置、设备及存储介质

技术领域

本发明涉及数据处理技术领域，尤其涉及一种异常数据处理方法、装置、设备及存储介质。

背景技术

在医疗平台中，随着医疗数据的爆发，脏数据也越来越多，而在医疗数据分析过程中，脏数据会影响数据分析结果，进而造成数据分析结果不准确，为此，如何过滤脏数据在数据分析过程中起着重要的作用。

在目前的脏数据过滤方式中，通常采用分箱、聚类分析或者回归分析方式剔除脏数据，然而，这些方式的计算方式复杂，导致无法快速剔除脏数据。另外，这些方式无法准确的确定出脏数据，造成数据过滤的准确性低下。

发明内容

鉴于以上内容，有必要提供一种异常数据处理方法、装置、设备及存储介质，能够提高异常数据的检测准确性，从而提高目标数据的数据质量。

一方面，本发明提出一种异常数据处理方法，所述异常数据处理方法包括：

获取待分析数据；

识别所述待分析数据所属的异常类型；

若所述异常类型为预设类型，对所述待分析数据进行离散化处理，得到离散数据；

根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组；

搜索每个序列分组的目标最近邻分组；

根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点；

根据所述数据拐点识别出所述待分析数据中的异常数据；

从所述待分析数据中剔除所述异常数据，得到目标数据。

根据本发明优选实施例，所述识别所述待分析数据所属的异常类型包括：

统计所述待分析数据的数据总量；

基于第一预设值、第二预设值及所述数据总量确定所述待分析数据中的第一位置序号及第二位置序号；

根据所述待分析数据从小至大的顺序对所述待分析数据进行排序，得到数据序列及所述待分析数据在所述数据序列中的序列号；

基于所述待分析数据、所述序列号及所述第一位置序号计算第一分位数，并基于所述待分析数据、所述序列号及所述第二位置序号计算第二分位数；

计算所述第一分位数与所述第二分位数的差值，得到数据阈值；

根据所述第一分位数、所述第二分位数及所述数据阈值确定目标区间；

若所述待分析数据中存在任一数据不处于所述目标区间中，将所述异常类型确定为所述预设类型。

根据本发明优选实施例，所述对所述待分析数据进行离散化处理，得到离散数据包括：

根据所述待分析数据的数据来源定位所述待分析数据所对应的数据领域；

获取所述数据领域中的多个预设范围；

将所述待分析数据离散到与所述多个预设范围对应的分值，得到所述离散结果。

根据本发明优选实施例，所述根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组包括：

根据所述数据频次对所述离散数据进行排序，得到离散序列；

根据所述数据频次及预设频次距离生成多个频次区间；

根据所述多个频次区间及所述数据频次分割所述离散序列，得到所述多个序列分组。

根据本发明优选实施例，所述根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点包括：

从所述数据频次中获取每个序列分组的最大频次及最小频次；

计算所述最大频次与所述最小频次的差值在所述预设频次距离中的比值，得到每个序列分组的分组斜率；

基于所述分组斜率计算每个序列分组与所述目标最近邻分组的斜率差值；

从所述斜率差值中筛选取值最大的斜率差值所对应的序列分组作为所述数据拐点。

根据本发明优选实施例，所述根据所述数据拐点识别出所述待分析数据中的异常数据包括：

将与所述数据拐点对应的目标最近邻分组确定为特征分组；

从所述离散序列中提取所述数据频次小于所述特征分组的序列分组作为目标分组；

将所述目标分组所对应的待分析数据确定为所述异常数据。

根据本发明优选实施例，所述搜索每个序列分组的目标最近邻分组包括：

确定每个序列分组在所述离散序列中的离散位置；

根据所述多个序列分组在所述离散序列中的排列方向确定搜索方向；

基于所述离散位置在所述搜索方向上遍历所述离散序列中的所述多个序列分组，得到多个搜索分组；

将与所述离散位置的位置距离最小的搜索分组确定为所述目标最近邻分组。

另一方面，本发明还提出一种异常数据处理装置，所述异常数据处理装置包括：

获取单元，用于获取待分析数据；

识别单元，用于识别所述待分析数据所属的异常类型；

处理单元，用于若所述异常类型为预设类型，对所述待分析数据进行离散化处理，得到离散数据；

划分单元，用于根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组；

搜索单元，用于搜索每个序列分组的目标最近邻分组；

定位单元，用于根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点；

所述识别单元，还用于根据所述数据拐点识别出所述待分析数据中的异常数据；

剔除单元，用于从所述待分析数据中剔除所述异常数据，得到目标数据。

另一方面，本发明还提出一种电子设备，所述电子设备包括：

存储器，存储计算机可读指令；及

处理器，执行所述存储器中存储的计算机可读指令以实现所述异常数据处理方法。

另一方面，本发明还提出一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机可读指令，所述计算机可读指令被电子设备中的处理器执行以实现所述异常数据处理方法。

由以上技术方案可以看出，本发明通过对所述待分析数据的异常类型的检测，能够避免对不包含异常数据的数据样本进行数据分析处理，从而提高异常数据的处理效率，进而在所述异常类型为所述预设类型时，通过离散化所述待分析数据，能够提高所述异常数据的确定效率，通过每个序列分组与所述目标最近邻分组的关系能够准确的定位出所述数据拐点，能够提高所述异常数据的检测准确性，从而提高所述目标数据的质量，有利于提高后续对所述目标数据的分析准确性。

附图说明

图1是本发明异常数据处理方法的较佳实施例的流程图。

图2是本发明异常数据处理装置的较佳实施例的功能模块图。

图3是本发明实现异常数据处理方法的较佳实施例的电子设备的结构示意图。

具体实施方式

为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。

如图1所示，是本发明异常数据处理方法的较佳实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。

所述异常数据处理方法可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。

人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。

所述异常数据处理方法应用于一个或者多个电子设备中，所述电子设备是一种能够按照事先设定或存储的计算机可读指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字信号处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述电子设备可以是任何一种可与用户进行人机交互的电子产品，例如，个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant，PDA)、游戏机、交互式网络电视(Internet Protocol Television，IPTV)、智能穿戴式设备等。

所述电子设备可以包括网络设备和/或用户设备。其中，所述网络设备包括，但不限于单个网络电子设备、多个网络电子设备组成的电子设备组或基于云计算(CloudComputing)的由大量主机或网络电子设备构成的云。

所述电子设备所处的网络包括，但不限于：互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network，VPN)等。

S10，获取待分析数据。

在本发明至少一个实施例中，所述待分析数据是指需要进行数据分析的样本数据，例如，所述待分析数据可以是训练任意模型的样本数据。

所述待分析数据可以是任意医疗数据，例如，所述待分析数据可以是个人健康档案、处方、检查报告等数据。

在本发明至少一个实施例中，所述电子设备从预设存储路径获取所述待分析数据。

S11，识别所述待分析数据所属的异常类型。

在本发明至少一个实施例中，所述异常类型是指所述待分析数据所属的类型，所述异常类型包括具有异常点类型及不具有异常点类型。

在本发明至少一个实施例中，所述电子设备识别所述待分析数据所属的异常类型包括：

统计所述待分析数据的数据总量；

基于第一预设值、第二预设值及所述数据总量确定所述待分析数据中的第一位置序号及第二位置序号；

根据所述待分析数据从小至大的顺序对所述待分析数据进行排序，得到数据序列及所述待分析数据在所述数据序列中的序列号；

基于所述待分析数据、所述序列号及所述第一位置序号计算第一分位数，并基于所述待分析数据、所述序列号及所述第二位置序号计算第二分位数；

计算所述第一分位数与所述第二分位数的差值，得到数据阈值；

根据所述第一分位数、所述第二分位数及所述数据阈值确定目标区间；

若所述待分析数据中存在任一数据不处于所述目标区间中，将所述异常类型确定为所述预设类型。

其中，经过实验证明，所述第一预设值通常设置为3，所述第二预设值通常设置为1时，所述异常类型的确定准确性较高。

所述目标区间是指以所述第二分位数与所述数据阈值的预设倍数的差值为左区间，以所述第二分位数与所述数据阈值的所述预设倍数的总和为右区间构建而成的数据区间。

通过上述实施方式，能够初步确定出所述待分析数据的类型，从而有利于后续对所述待分析数据进行处理。

具体地，所述电子设备基于第一预设值、第二预设值及所述数据总量确定第一位置序号及第二位置序号包括：

计算所述数据总量与配置值的总和，得到运算总和；

计算所述第一预设值与所述第二预设值的总和，得到预设总和；

计算所述第一预设值与所述运算总和的乘积，得到第一运算乘积，并计算所述第一运算乘积与所述预设总和的比值，得到所述第一位置序号；

计算所述第二预设值与所述运算总和的乘积，得到第二运算乘积，并计算所述第二运算乘积与所述预设总和的比值，得到所述第二位置序号。

其中，所述配置值通常设置为1。

例如，所述数据序列为1、3、8、11、21、54，所述数据总量为6，所述第一预设值为3，所述第二预设值为1，所述配置值为1，经计算，所述运算总和为7，所述预设总和为4，所述第一位置序号为：3*7/4＝5.25，所述第二位置序号为1*7/4＝1.75。

具体地，所述电子设备基于所述待分析数据、所述序列号及所述第一位置序号计算第一分位数包括：

对所述第一位置序号进行取整处理，得到第一取整序号，并对所述第一位置序号与所述配置值的总和进行取整处理，得到第二取整序号；

计算所述第一位置序号与所述第一取整序号的差值，得到第一权值，并计算所述第二取整序号与所述第一位置序号的差值，得到第二权值；

从所述数据序列中提取处于所述第一取整序号的数据作为第一数据，并从所述数据序列中提取处于所述第二取整序号的数据作为第二数据；

基于所述第一权值及所述第二权值对所述第一数据及所述第二数据进行加权和运算，得到所述第一分位数。

承接上述例子，所述第一位置序号为5.25，经处理，所述第一取整序号为5，所述第二取整序号为6，所述第一权值为0.25，所述第二权值为0.75，所述第一分位数为：21*0.25+54*0.75＝45.75。

具体地，所述电子设备基于所述待分析数据、所述序列号及所述第二位置序号计算第二分位数的方式与所述电子设备基于所述待分析数据、所述序列号及所述第一位置序号计算第一分位数的方式相同，本发明对此不再赘述。

S12，若所述异常类型为预设类型，对所述待分析数据进行离散化处理，得到离散数据。

在本发明至少一个实施例中，所述预设类型是指具有异常点类型，也就是说，所述待分析数据中具有异常点数据。

所述离散数据是指数值只能用自然数或整数单位计算的数据。

在本发明至少一个实施例中，所述电子设备对所述待分析数据进行离散化处理，得到离散数据包括：

根据所述待分析数据的数据来源定位所述待分析数据所对应的数据领域；

获取所述数据领域中的多个预设范围；

将所述待分析数据离散到与所述多个预设范围对应的分值，得到所述离散结果。

其中，所述数据来源是指存储所述待分析数据的路径位置。

所述数据领域是指基于所述待分析数据进行数据分析的领域。例如，所述数据领域可以是人员能力评级。

通过将所述待分析数据进行离散化处理，便于将所述待分析数据映射到一个基准分值，减少了所述待分析数据的数据量，便于提高后续异常数据的定位效率。

S13，根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组。

在本发明至少一个实施例中，所述数据频次是指每个离散数据在所述待分析数据中所对应的离散数据中的数量。

每个序列分组中的最大数据频次与最小数据频次的差值相等。

在本发明至少一个实施例中，所述电子设备根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组包括：

根据所述数据频次对所述离散数据进行排序，得到离散序列；

根据所述数据频次及预设频次距离生成多个频次区间；

根据所述多个频次区间及所述数据频次分割所述离散序列，得到所述多个序列分组。

其中，所述预设频次距离是根据对历史样本数据进行异常点处理的结果调整生成的。

每个所述频次区间中的频次是等距离的，每个所述频次区间的区间距离都为所述预设频次距离。

通过对所述离散数据进行排序后进行分割，能够将无序的离散数据按照所述数据频次的大小进行排序，便于后续能够直接根据所述多个频次区间划分所述离散数据，从而能够提高所述离散数据的划分效率。

S14，搜索每个序列分组的目标最近邻分组。

在本发明至少一个实施例中，所述多个最近邻分组是指在沿着搜索方向上与每个序列分组最相邻的序列分组。

在本发明至少一个实施例中，所述电子设备搜索每个序列分组的目标最近邻分组包括：

确定每个序列分组在所述离散序列中的离散位置；

根据所述多个序列分组在所述离散序列中的排列方向确定搜索方向；

基于所述离散位置在所述搜索方向上遍历所述离散序列中的所述多个序列分组，得到多个搜索分组；

将与所述离散位置的位置距离最小的搜索分组确定为所述目标最近邻分组。

其中，所述排列方向可以包括水平方向或者垂直方向。

所述搜索方向是指与所述排列方向相对应的方向，例如，若所述排列方向为水平方向，则所述搜索方向可以是水平向右方向；若所述排列方向为垂直方向，则所述搜索方向可以是竖直向下方向。

所述位置距离是指每个搜索分组在所述离散序列中的位置与所述离散位置的距离。

通过所述排列方向能够准确的确定出所述搜索方向，进而根据所述搜索方向能够准确的从所述多个序列分组中定位出所述目标最近邻分组。

S15，根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点。

在本发明至少一个实施例中，所述数据拐点是指斜率差值最大的序列分组。

在本发明至少一个实施例中，所述电子设备根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点包括：

从所述数据频次中获取每个序列分组的最大频次及最小频次；

计算所述最大频次与所述最小频次的差值在所述预设频次距离中的比值，得到每个序列分组的分组斜率；

基于所述分组斜率计算每个序列分组与所述目标最近邻分组的斜率差值；

从所述斜率差值中筛选取值最大的斜率差值所对应的序列分组作为所述数据拐点。

其中，所述最大频次是指每个序列分组中取值最大的数据频次，所述最小频次是指每个序列分组中取值最小的数据频次。

通过所述最大频次及所述最小频次的确定，能够快速生成每个序列分组所对应的分组斜率，进而根据所述斜率能够快速确定出所述数据拐点。

S16，根据所述数据拐点识别出所述待分析数据中的异常数据。

在本发明至少一个实施例中，所述异常数据是指数据频次小于特征分组中最大频次的离散数据所对应的待分析数据。

在本发明至少一个实施例中，所述电子设备根据所述数据拐点识别出所述待分析数据中的异常数据包括：

将与所述数据拐点对应的目标最近邻分组确定为特征分组；

从所述离散序列中提取所述数据频次小于所述特征分组的序列分组作为目标分组；

将所述目标分组所对应的待分析数据确定为所述异常数据。

通过所述离散序列能够快速识别出数据频次小于所述特征分组的目标分组，从而提高所述异常数据的确定效率。

S17，从所述待分析数据中剔除所述异常数据，得到目标数据。

在本发明至少一个实施例中，所述目标数据是指从所述待分析数据中过滤所述异常数据后所得到的数据。

需要强调的是，为进一步保证上述目标数据的私密和安全性，上述目标数据还可以存储于一区块链的节点中。

本实施例中，通过过滤数据频次较少的数据治理所述异常数据，能够提高所述目标数据的质量，从而能够训练生成更稳定更高效的模型，有利于数据的分析。

在本发明至少一个实施例中，在从所述待分析数据中剔除所述异常数据，得到目标数据之后，所述方法还包括：

存储所述目标数据；

根据所述目标数据的存储路径生成及数据标识生成提示信息；

采用对称加密技术加密所述提示信息，得到密文；

将所述密文发送至指定联系人的终端设备。

由以上技术方案可以看出，本发明通过对所述待分析数据的异常类型的检测，能够避免对不包含异常数据的数据样本进行数据分析处理，从而提高异常数据的处理效率，进而在所述异常类型为所述预设类型时，通过离散化所述待分析数据，能够提高所述异常数据的确定效率，通过每个序列分组与所述目标最近邻分组的关系能够准确的定位出所述数据拐点，能够提高所述异常数据的检测准确性，从而提高所述目标数据的质量，有利于提高后续对所述目标数据的分析准确性。

如图2所示，是本发明异常数据处理装置的较佳实施例的功能模块图。所述异常数据处理装置11包括获取单元110、识别单元111、处理单元112、划分单元113、搜索单元114、定位单元115、剔除单元116、存储单元117、生成单元118、加密单元119及发送单元120。本发明所称的模块/单元是指一种能够被处理器13所获取，并且能够完成固定功能的一系列计算机可读指令段，其存储在存储器12中。在本实施例中，关于各模块/单元的功能将在后续的实施例中详述。

获取单元110获取待分析数据。

在本发明至少一个实施例中，所述待分析数据是指需要进行数据分析的样本数据，例如，所述待分析数据可以是训练任意模型的样本数据。

所述待分析数据可以是任意医疗数据，例如，所述待分析数据可以是个人健康档案、处方、检查报告等数据。

在本发明至少一个实施例中，所述获取单元110从预设存储路径获取所述待分析数据。

识别单元111识别所述待分析数据所属的异常类型。

在本发明至少一个实施例中，所述异常类型是指所述待分析数据所属的类型，所述异常类型包括具有异常点类型及不具有异常点类型。

在本发明至少一个实施例中，所述识别单元111识别所述待分析数据所属的异常类型包括：

统计所述待分析数据的数据总量；

基于第一预设值、第二预设值及所述数据总量确定所述待分析数据中的第一位置序号及第二位置序号；

根据所述待分析数据从小至大的顺序对所述待分析数据进行排序，得到数据序列及所述待分析数据在所述数据序列中的序列号；

基于所述待分析数据、所述序列号及所述第一位置序号计算第一分位数，并基于所述待分析数据、所述序列号及所述第二位置序号计算第二分位数；

计算所述第一分位数与所述第二分位数的差值，得到数据阈值；

根据所述第一分位数、所述第二分位数及所述数据阈值确定目标区间；

若所述待分析数据中存在任一数据不处于所述目标区间中，将所述异常类型确定为所述预设类型。

其中，经过实验证明，所述第一预设值通常设置为3，所述第二预设值通常设置为1时，所述异常类型的确定准确性较高。

所述目标区间是指以所述第二分位数与所述数据阈值的预设倍数的差值为左区间，以所述第二分位数与所述数据阈值的所述预设倍数的总和为右区间构建而成的数据区间。

通过上述实施方式，能够初步确定出所述待分析数据的类型，从而有利于后续对所述待分析数据进行处理。

具体地，所述识别单元111基于第一预设值、第二预设值及所述数据总量确定第一位置序号及第二位置序号包括：

计算所述数据总量与配置值的总和，得到运算总和；

计算所述第一预设值与所述第二预设值的总和，得到预设总和；

计算所述第一预设值与所述运算总和的乘积，得到第一运算乘积，并计算所述第一运算乘积与所述预设总和的比值，得到所述第一位置序号；

计算所述第二预设值与所述运算总和的乘积，得到第二运算乘积，并计算所述第二运算乘积与所述预设总和的比值，得到所述第二位置序号。

其中，所述配置值通常设置为1。

例如，所述数据序列为1、3、8、11、21、54，所述数据总量为6，所述第一预设值为3，所述第二预设值为1，所述配置值为1，经计算，所述运算总和为7，所述预设总和为4，所述第一位置序号为：3*7/4＝5.25，所述第二位置序号为1*7/4＝1.75。

具体地，所述识别单元111基于所述待分析数据、所述序列号及所述第一位置序号计算第一分位数包括：

对所述第一位置序号进行取整处理，得到第一取整序号，并对所述第一位置序号与所述配置值的总和进行取整处理，得到第二取整序号；

计算所述第一位置序号与所述第一取整序号的差值，得到第一权值，并计算所述第二取整序号与所述第一位置序号的差值，得到第二权值；

从所述数据序列中提取处于所述第一取整序号的数据作为第一数据，并从所述数据序列中提取处于所述第二取整序号的数据作为第二数据；

基于所述第一权值及所述第二权值对所述第一数据及所述第二数据进行加权和运算，得到所述第一分位数。

承接上述例子，所述第一位置序号为5.25，经处理，所述第一取整序号为5，所述第二取整序号为6，所述第一权值为0.25，所述第二权值为0.75，所述第一分位数为：21*0.25+54*0.75＝45.75。

具体地，所述识别单元111基于所述待分析数据、所述序列号及所述第二位置序号计算第二分位数的方式与所述识别单元111基于所述待分析数据、所述序列号及所述第一位置序号计算第一分位数的方式相同，本发明对此不再赘述。

若所述异常类型为预设类型，处理单元112对所述待分析数据进行离散化处理，得到离散数据。

在本发明至少一个实施例中，所述预设类型是指具有异常点类型，也就是说，所述待分析数据中具有异常点数据。

所述离散数据是指数值只能用自然数或整数单位计算的数据。

在本发明至少一个实施例中，所述处理单元112对所述待分析数据进行离散化处理，得到离散数据包括：

根据所述待分析数据的数据来源定位所述待分析数据所对应的数据领域；

获取所述数据领域中的多个预设范围；

将所述待分析数据离散到与所述多个预设范围对应的分值，得到所述离散结果。

其中，所述数据来源是指存储所述待分析数据的路径位置。

所述数据领域是指基于所述待分析数据进行数据分析的领域。例如，所述数据领域可以是人员能力评级。

通过将所述待分析数据进行离散化处理，便于将所述待分析数据映射到一个基准分值，减少了所述待分析数据的数据量，便于提高后续异常数据的定位效率。

划分单元113根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组。

在本发明至少一个实施例中，所述数据频次是指每个离散数据在所述待分析数据中所对应的离散数据中的数量。

每个序列分组中的最大数据频次与最小数据频次的差值相等。

在本发明至少一个实施例中，所述划分单元113根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组包括：

根据所述数据频次对所述离散数据进行排序，得到离散序列；

根据所述数据频次及预设频次距离生成多个频次区间；

根据所述多个频次区间及所述数据频次分割所述离散序列，得到所述多个序列分组。

其中，所述预设频次距离是根据对历史样本数据进行异常点处理的结果调整生成的。

每个所述频次区间中的频次是等距离的，每个所述频次区间的区间距离都为所述预设频次距离。

通过对所述离散数据进行排序后进行分割，能够将无序的离散数据按照所述数据频次的大小进行排序，便于后续能够直接根据所述多个频次区间划分所述离散数据，从而能够提高所述离散数据的划分效率。

搜索单元114搜索每个序列分组的目标最近邻分组。

在本发明至少一个实施例中，所述多个最近邻分组是指在沿着搜索方向上与每个序列分组最相邻的序列分组。

在本发明至少一个实施例中，所述搜索单元114搜索每个序列分组的目标最近邻分组包括：

确定每个序列分组在所述离散序列中的离散位置；

根据所述多个序列分组在所述离散序列中的排列方向确定搜索方向；

基于所述离散位置在所述搜索方向上遍历所述离散序列中的所述多个序列分组，得到多个搜索分组；

将与所述离散位置的位置距离最小的搜索分组确定为所述目标最近邻分组。

其中，所述排列方向可以包括水平方向或者垂直方向。

所述搜索方向是指与所述排列方向相对应的方向，例如，若所述排列方向为水平方向，则所述搜索方向可以是水平向右方向；若所述排列方向为垂直方向，则所述搜索方向可以是竖直向下方向。

所述位置距离是指每个搜索分组在所述离散序列中的位置与所述离散位置的距离。

通过所述排列方向能够准确的确定出所述搜索方向，进而根据所述搜索方向能够准确的从所述多个序列分组中定位出所述目标最近邻分组。

定位单元115根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点。

在本发明至少一个实施例中，所述数据拐点是指斜率差值最大的序列分组。

在本发明至少一个实施例中，所述定位单元115根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点包括：

从所述数据频次中获取每个序列分组的最大频次及最小频次；

计算所述最大频次与所述最小频次的差值在所述预设频次距离中的比值，得到每个序列分组的分组斜率；

基于所述分组斜率计算每个序列分组与所述目标最近邻分组的斜率差值；

从所述斜率差值中筛选取值最大的斜率差值所对应的序列分组作为所述数据拐点。

其中，所述最大频次是指每个序列分组中取值最大的数据频次，所述最小频次是指每个序列分组中取值最小的数据频次。

通过所述最大频次及所述最小频次的确定，能够快速生成每个序列分组所对应的分组斜率，进而根据所述斜率能够快速确定出所述数据拐点。

所述识别单元111根据所述数据拐点识别出所述待分析数据中的异常数据。

在本发明至少一个实施例中，所述异常数据是指数据频次小于特征分组中最大频次的离散数据所对应的待分析数据。

在本发明至少一个实施例中，所述识别单元111根据所述数据拐点识别出所述待分析数据中的异常数据包括：

将与所述数据拐点对应的目标最近邻分组确定为特征分组；

从所述离散序列中提取所述数据频次小于所述特征分组的序列分组作为目标分组；

将所述目标分组所对应的待分析数据确定为所述异常数据。

通过所述离散序列能够快速识别出数据频次小于所述特征分组的目标分组，从而提高所述异常数据的确定效率。

剔除单元116从所述待分析数据中剔除所述异常数据，得到目标数据。

在本发明至少一个实施例中，所述目标数据是指从所述待分析数据中过滤所述异常数据后所得到的数据。

需要强调的是，为进一步保证上述目标数据的私密和安全性，上述目标数据还可以存储于一区块链的节点中。

本实施例中，通过过滤数据频次较少的数据治理所述异常数据，能够提高所述目标数据的质量，从而能够训练生成更稳定更高效的模型，有利于数据的分析。

在本发明至少一个实施例中，在从所述待分析数据中剔除所述异常数据，得到目标数据之后，所述方法还包括：

存储单元117存储所述目标数据；

生成单元118根据所述目标数据的存储路径生成及数据标识生成提示信息；

加密单元119采用对称加密技术加密所述提示信息，得到密文；

发送单元120将所述密文发送至指定联系人的终端设备。

由以上技术方案可以看出，本发明通过对所述待分析数据的异常类型的检测，能够避免对不包含异常数据的数据样本进行数据分析处理，从而提高异常数据的处理效率，进而在所述异常类型为所述预设类型时，通过离散化所述待分析数据，能够提高所述异常数据的确定效率，通过每个序列分组与所述目标最近邻分组的关系能够准确的定位出所述数据拐点，能够提高所述异常数据的检测准确性，从而提高所述目标数据的质量，有利于提高后续对所述目标数据的分析准确性。

如图3所示，是本发明实现异常数据处理方法的较佳实施例的电子设备的结构示意图。

在本发明的一个实施例中，所述电子设备1包括，但不限于，存储器12、处理器13，以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令，例如异常数据处理程序。

本领域技术人员可以理解，所述示意图仅仅是电子设备1的示例，并不构成对电子设备1的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。

所述处理器13可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，所述处理器13是所述电子设备1的运算核心和控制中心，利用各种接口和线路连接整个电子设备1的各个部分，及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。

示例性的，所述计算机可读指令可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器12中，并由所述处理器13执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段，该计算机可读指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如，所述计算机可读指令可以被分割成获取单元110、识别单元111、处理单元112、划分单元113、搜索单元114、定位单元115、剔除单元116、存储单元117、生成单元118、加密单元119及发送单元120。

所述存储器12可用于存储所述计算机可读指令和/或模块，所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块，以及调用存储在存储器12内的数据，实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据电子设备的使用所创建的数据等。存储器12可以包括非易失性和易失性存储器，例如：硬盘、内存、插接式硬盘，智能存储卡(SmartMedia Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他存储器件。

所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地，所述存储器12可以是具有实物形式的存储器，如内存条、TF卡(Trans-flash Card)等等。

所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机可读指令来指令相关的硬件来完成，所述的计算机可读指令可存储于一计算机可读存储介质中，该计算机可读指令在被处理器执行时，可实现上述各个方法实施例的步骤。

其中，所述计算机可读指令包括计算机可读指令代码，所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)。

本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

结合图1，所述电子设备1中的所述存储器12存储计算机可读指令实现一种异常数据处理方法，所述处理器13可执行所述计算机可读指令从而实现：

获取待分析数据；

识别所述待分析数据所属的异常类型；

若所述异常类型为预设类型，对所述待分析数据进行离散化处理，得到离散数据；

根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组；

搜索每个序列分组的目标最近邻分组；

根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点；

根据所述数据拐点识别出所述待分析数据中的异常数据；

从所述待分析数据中剔除所述异常数据，得到目标数据。

具体地，所述处理器13对上述计算机可读指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。

在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

所述计算机可读存储介质上存储有计算机可读指令，其中，所述计算机可读指令被处理器13执行时用以实现以下步骤：

获取待分析数据；

识别所述待分析数据所属的异常类型；

若所述异常类型为预设类型，对所述待分析数据进行离散化处理，得到离散数据；

根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组；

搜索每个序列分组的目标最近邻分组；

根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点；

根据所述数据拐点识别出所述待分析数据中的异常数据；

从所述待分析数据中剔除所述异常数据，得到目标数据。

所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。

因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。

此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。所述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称，而并不表示任何特定的顺序。

最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种异常数据处理方法，其特征在于，所述异常数据处理方法包括：

获取待分析数据；

识别所述待分析数据所属的异常类型；

若所述异常类型为预设类型，对所述待分析数据进行离散化处理，得到离散数据；

根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组；

搜索每个序列分组的目标最近邻分组；

根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点；

根据所述数据拐点识别出所述待分析数据中的异常数据；

从所述待分析数据中剔除所述异常数据，得到目标数据。

2.如权利要求1所述的异常数据处理方法，其特征在于，所述识别所述待分析数据所属的异常类型包括：

统计所述待分析数据的数据总量；

基于第一预设值、第二预设值及所述数据总量确定所述待分析数据中的第一位置序号及第二位置序号；

根据所述待分析数据从小至大的顺序对所述待分析数据进行排序，得到数据序列及所述待分析数据在所述数据序列中的序列号；

基于所述待分析数据、所述序列号及所述第一位置序号计算第一分位数，并基于所述待分析数据、所述序列号及所述第二位置序号计算第二分位数；

计算所述第一分位数与所述第二分位数的差值，得到数据阈值；

根据所述第一分位数、所述第二分位数及所述数据阈值确定目标区间；

若所述待分析数据中存在任一数据不处于所述目标区间中，将所述异常类型确定为所述预设类型。

3.如权利要求1所述的异常数据处理方法，其特征在于，所述对所述待分析数据进行离散化处理，得到离散数据包括：

根据所述待分析数据的数据来源定位所述待分析数据所对应的数据领域；

获取所述数据领域中的多个预设范围；

将所述待分析数据离散到与所述多个预设范围对应的分值，得到所述离散结果。

4.如权利要求1-3中任一项所述的异常数据处理方法，其特征在于，所述根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组包括：

根据所述数据频次对所述离散数据进行排序，得到离散序列；

根据所述数据频次及预设频次距离生成多个频次区间；

根据所述多个频次区间及所述数据频次分割所述离散序列，得到所述多个序列分组。

5.如权利要求4所述的异常数据处理方法，其特征在于，所述根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点包括：

从所述数据频次中获取每个序列分组的最大频次及最小频次；

计算所述最大频次与所述最小频次的差值在所述预设频次距离中的比值，得到每个序列分组的分组斜率；

基于所述分组斜率计算每个序列分组与所述目标最近邻分组的斜率差值；

从所述斜率差值中筛选取值最大的斜率差值所对应的序列分组作为所述数据拐点。

6.如权利要求4所述的异常数据处理方法，其特征在于，所述根据所述数据拐点识别出所述待分析数据中的异常数据包括：

将与所述数据拐点对应的目标最近邻分组确定为特征分组；

从所述离散序列中提取所述数据频次小于所述特征分组的序列分组作为目标分组；

将所述目标分组所对应的待分析数据确定为所述异常数据。

7.如权利要求4所述的异常数据处理方法，其特征在于，所述搜索每个序列分组的目标最近邻分组包括：

确定每个序列分组在所述离散序列中的离散位置；

根据所述多个序列分组在所述离散序列中的排列方向确定搜索方向；

基于所述离散位置在所述搜索方向上遍历所述离散序列中的所述多个序列分组，得到多个搜索分组；

将与所述离散位置的位置距离最小的搜索分组确定为所述目标最近邻分组。

8.一种异常数据处理装置，其特征在于，所述异常数据处理装置包括：

获取单元，用于获取待分析数据；

识别单元，用于识别所述待分析数据所属的异常类型；

处理单元，用于若所述异常类型为预设类型，对所述待分析数据进行离散化处理，得到离散数据；

划分单元，用于根据所述离散数据的数据频次划分所述离散数据，得到多个序列分组；

搜索单元，用于搜索每个序列分组的目标最近邻分组；

定位单元，用于根据每个序列分组及所述目标最近邻分组定位所述待分析数据的数据拐点；

所述识别单元，还用于根据所述数据拐点识别出所述待分析数据中的异常数据；

剔除单元，用于从所述待分析数据中剔除所述异常数据，得到目标数据。

9.一种电子设备，其特征在于，所述电子设备包括：

存储器，存储有计算机可读指令；及

处理器，执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的异常数据处理方法。

10.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有计算机可读指令，所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的异常数据处理方法。

Images