CN112966819A - 分布外数据检测方法、装置、服务器及存储介质 - Google Patents
分布外数据检测方法、装置、服务器及存储介质 Download PDFInfo
- Publication number
- CN112966819A CN112966819A CN202110241746.1A CN202110241746A CN112966819A CN 112966819 A CN112966819 A CN 112966819A CN 202110241746 A CN202110241746 A CN 202110241746A CN 112966819 A CN112966819 A CN 112966819A
- Authority
- CN
- China
- Prior art keywords
- data
- low
- dimensional
- memory
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000001514 detection method Methods 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000003287 optical effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本发明实施例公开了一种分布外数据检测方法、装置、服务器及存储介质，所述方法包括：获取待检测数据；对待检测数据进行编码处理，得到低维特征数据；基于预设第一内存数据对低维特征数据进行处理，得到第一低维数据；基于预设第二内存数据对低维特征数据进行处理，得到第二低维数据；基于第一低维数据和第二低维数据生成待解码数据；对待解码数据进行解码处理，得到重构数据；确定待检测数据和重构数据的重构误差，若重构误差大于预设阈值，则确定待检测数据为分布外数据。本发明实施例限制了自编码器对OOD数据的重构能力，提高了ID数据和OOD数据的重构误差的差异，从而提升OOD数据识别的准确性。
Description
技术领域
本发明实施例涉及机器学习技术领域，尤其涉及一种分布外数据检测方法、装置、服务器及存储介质。
背景技术
在机器学习领域，用于训练模型的数据通常被称为分布内(In-distribution，ID)数据，而分布外(Out-of-distribution，OOD)数据是指和训练的ID数据分布不一致的数据。在神经网络模型的实际应用中，输入数据中有时存在OOD数据，这会导致模型预测不准确，进而限制神经网络模块的应用。因此，对机器学习模型的输入数据进行OOD数据检测是提高模型预测准确率的一种重要手段。
目前，OOD数据的检测主要采用基于自编码器的OOD检测算法。自编码器使用ID数据进行训练，故而其对ID数据具有较好的重构效果，但不能够很好的重构OOD数据。因此，当自编码器的输入数据和重构后的输出数据之间误差较大时，即可认为输入数据为OOD数据。然而，由于自编码器的泛化能力过强，即使是训练数据分布外的OOD数据也可能重构得很好，这就导致自编码器无法很好的检测出OOD数据。
发明内容
有鉴于此，本发明实施例提供一种分布外数据检测方法、装置、服务器及存储介质，以降低自编码器对分布外数据的重构能力，提高分布外数据检测的准确性。
第一方面，本发明实施例提供一种分布外数据检测方法，包括：
获取待检测数据；
对所述待检测数据进行编码处理，得到低维特征数据；
基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据；
基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据；
基于所述第一低维数据和所述第二低维数据生成待解码数据；
对所述待解码数据进行解码处理，得到重构数据；
确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
进一步的，所述基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据包括：
计算所述低维特征数据与预设第一内存数据的第一余弦相似度；
基于所述第一余弦相似度对所述预设第一内存数据进行加权处理，得到第一低维数据。
进一步的，所述基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据包括：
根据所述低维特征数据的标签和预设第二内存数据确定目标第二内存数据；
基于所述目标第二内存数据对所述低维特征数据进行处理，得到第二低维数据。
进一步的，所述根据所述低维特征数据的标签和预设第二内存数据确定目标第二内存数据包括：
确定所述低维特征数据的标签；
将所述预设第二内存数据中标签与所述低维特征数据的标签相同的数据作为目标第二内存数据。
进一步的，所述基于所述目标第二内存数据对所述低维特征数据进行处理，得到第二低维数据包括：
计算所述低维特征数据与所述目标第二内存数据的第二余弦相似度；
基于所述第二余弦相似度对所述目标第二内存数据进行加权处理，得到第二低维数据。
进一步的，所述基于所述第一低维数据和所述第二低维数据生成待解码数据包括：
将所述第一低维数据和所述第二低维数据的加权平均结果作为待解码数据。
第二方面，本发明实施例提供一种分布外数据检测装置，包括：
待检测数据获取模块，用于获取待检测数据；
编码模块，用于对所述待检测数据进行编码处理，得到低维特征数据；
第一数据处理模块，用于基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据；
第二数据处理模块，用于基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据；
待解码数据生成模块，用于基于所述第一低维数据和所述第二低维数据生成待解码数据；
解码模块，用于对所述待解码数据进行解码处理，得到重构数据；
分布外数据检测模块，用于确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
进一步的，所述第一数据处理模块包括：
第一余弦相似度计算单元，用于计算所述低维特征数据与所述预设第一内存数据的第一余弦相似度；
第一低维数据生成单元，用于基于所述第一余弦相似度对所述预设第一内存数据进行加权处理，得到第一低维数据。
第三方面，本发明实施例提供一种服务器，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或至少一个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任意实施例提供的分布外数据检测方法。
第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明任意实施例提供的分布外数据检测方法。
本发明实施例提供的分布外数据检测方法通过预设第一内存数据和预设第二内存数据分别生成新的低位数据后再生成待解码数据，限制了自编码器对OOD数据的重构能力，提高了ID数据和OOD数据的重构误差的差异，从而提升OOD数据识别的准确性。
附图说明
图1为本发明实施例一提供的一种分布外数据检测方法的流程示意图；
图2为本发明实施例二提供的一种分布外数据检测方法的流程示意图；
图3为本发明实施例三提供的一种分布外数据检测装置的结构示意图；
图4为本发明实施例四提供的一种服务器的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各步骤描述成顺序的处理，但是其中的许多步骤可以被并行地、并发地或者同时实施。此外，各步骤的顺序可以被重新安排。当其操作完成时处理可以被终止，但是还可以具有未包括在附图中的附加步骤。处理可以对应于方法、函数、规程、子例程、子程序等等。
此外，术语“第一”、“第二”等可在本文中用于描述各种方向、动作、步骤或元件等，但这些方向、动作、步骤或元件不受这些术语限制。这些术语仅用于将第一个方向、动作、步骤或元件与另一个方向、动作、步骤或元件区分。术语“第一”、“第二”等而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中，“多个”、“批量”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
实施例一
图1为本发明实施例一提供的一种分布外数据检测方法的流程示意图。本发明实施例提供的分布外数据检测方法可以通过基于内存选择的自编码器实现。如图1所示，本发明实施例一提供的分布外数据检测方法包括：
S110、获取待检测数据。
具体的，待检测数据为高维数据，是一种高效表示，其包括多种数据特征。
S120、对所述待检测数据进行编码处理，得到低维特征数据。
具体的，对待检测数据进行编码处理，也就是寻找高维数据的低维嵌入表示，并期望这个低维嵌入表示包含高维数据的本质特征，且不含有噪音等信息。编码后得到的低维嵌入表示也就是待检测数据所对应的低维特征数据。本实施例中，编码可以通过自编码器(Auto-encoder)中的编码器(encoder)实现。
S130、基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据。
具体的，预设第一内存数据是第一内存中预先存储的数据，其是基于各种类别的待检测数据所提取的特征数据。一般的，待检测数据具有一定的类别属性，待检测数据的类别属性也称为待检测数据的标签。例如，待检测数据为一幅交通工具图片，则其标签可能是轮船、飞机、自行车、公交车等等。预设第一内存数据开始是随机生成的，在训练阶段，通过反向传播更新训练得到一定量的特征数据，记为第一特征数据，第一特征数据是各种类别的共有特征数据。
将低维特征数据与预设第一内存数据表示的所有第一特征数据进行比较，确定每个第一特征数据所占的比例，最后将预设第一内存数据内的所有第一特征数据根据各自所占的比例的进行加权组合，得到第一低维数据。
S140、基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据。
具体的，预设第二内存数据是第二内存中预先存储的数据。预设第二内存数据开始也是随机生成的，在训练阶段，通过反向传播更新训练得到一定量的特征数据，记为第二特征数据。与预设第一内存数据不同，预设第二内存数据包括多个种类的第二特征数据，每一种类的第二特征数据均为单一类别的特征数据，第二特征数据的种类也称作第二特征数据的标签。
将低维特征数据与预设第二内存数据内的某一种类(标签)的所有第二特征数据进行比较，确定每一个第二特征数据所占的比例，最后将该种类(标签)的所有第二特征数据根据各自所占的比例的进行加权组合，得到第二低维数据。
S150、基于所述第一低维数据和所述第二低维数据生成待解码数据。
具体的，将第一低维数据和第二低维数据结合，得到待解码数据。待解码数据即为输入解码器进行解码操作的数据。一般的，将第一低维数据和第二低维数据的加权平均结果作为待解码数据。
S160、对所述待解码数据进行解码处理，得到重构数据。
具体的，将待解码数据输入自编码器的解码器(decoder)中，进行解码操作，得到重构数据。解码操作也称为数据重构，其是解码器将高维数据的低维嵌入表示还原为高维数据的过程。
在生成第二低维数据时，由于只使用了预设第二内存数据的某一标签的第二特征数据对低维特征数据进行处理，因此可以避免多个标签的第二特征数据互相组合(也即跨标签组合)对重构数据的影响，限制了自编码器对OOD数据的重构效果，进而可以更加精确地识别出OOD数据。
S170、确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
具体的，待检测数据与重构数据之间的差值，即为二者的重构误差。当重构误差较大时，也即重构误差大于预设阈值，意味着无法很好的重构出待检测数据，故而可以判断待检测数据为分布外数据(OOD数据)。
如此，通过对待检测数据进行分布外数据的识别，可以检测神经网络模型预测结果的准确性，进而为决策系统的判断提供准确参考，提高决策系统的可靠性。
本发明实施例一提供的分布外数据检测方法通过预设第一内存数据和预设第二内存数据分别生成新的低位数据后再生成待解码数据，限制了自编码器对OOD数据的重构能力，提高了ID数据和OOD数据的重构误差的差异，从而提升OOD数据识别的准确性。
实施例二
图2为本发明实施例二提供的一种分布外数据检测方法的流程示意图，本实施例是对上述实施例的进一步细化。如图2所示，本发明实施例二提供的分布外数据检测方法包括：
S210、获取待检测数据。
S220、对所述待检测数据进行编码处理，得到低维特征数据。
S230、计算所述低维特征数据与预设第一内存数据的第一余弦相似度。
具体的，预设第一内存数据包括多个第一特征数据。低维特征数据与预设第一内存数据的第一余弦相似度，是指低维特征数据与预设第一内存数据的每个第一特征数据对应的第一余弦相似度，故而需要将低维特征数据与每个第一特征数据进行比较，得到对应的第一余弦相似度。
S240、基于所述第一余弦相似度对所述预设第一内存数据进行加权处理，得到第一低维数据。
具体的，在进行加权处理之前，还需要对所有的第一余弦相似度进行softmax处理，以确保所有第一余弦相似度之和为1。然后将每个第一特征数据对应的第一余弦相似度作为其对应的权重，将所有第一特征数据进行加权求和，得到新的嵌入表示，即第一低维数据。
S250、根据所述低维特征数据的标签和预设第二内存数据确定目标第二内存数据。
具体的，由于预设第二内存数据包括多个标签的第二特征数据，故而需要确定具体选用哪一个标签的第二特征数据对低维特征数据经进行处理，也即确定目标第二内存数据。本实施中，将与低维特征数据的标签相同的标签所对应的预设第二内存数据作为目标第二内存数据，具体包括：确定所述低维特征数据的标签；将所述预设第二内存数据中标签与所述低维特征数据的标签相同的数据作为目标第二内存数据。
先确定要处理的低维特征数据的标签，这一操作可以通过一层全连接的神经网络实现；然后将该标签对应的预设第二内存数据中的数据作为目标第二内存数据。预设第二内存数据中的第二特征数据均按照标签进行了分类，故而当标签与低维特征数据的标签一致时，即为目标第二内存数据。
S260、基于所述目标第二内存数据对所述低维特征数据进行处理，得到第二低维数据。
具体的，目标第二内存数据包括多个第二特征数据。将低维特征数据与目标第二内存数据表示的所有第二特征数据进行比较，确定每个第二特征数据所占的比例，最后将目标第二内存数据内的所有第二特征数据根据各自所占的比例的进行加权组合，得到第二低维数据。
本实施例中，将低维特征数据与第二特征数据对应的第二余弦相似度作为第二特征数据所占的比例。生成第二低维数据的步骤具体包括：计算所述低维特征数据与所述目标第二内存数据的第二余弦相似度；基于所述第二余弦相似度对所述目标第二内存数据进行加权处理，得到第二低维数据。也即，计算低维特征数据与目标第二内存数据每个第二特征数据所对应的第二余弦相似度，并对所有第二余弦相似度进行softmax处理，以确保所有第二余弦相似度之和为1。然后将每个第二特征数据对应的第二余弦相似度作为其对应的权重，将所有第二特征数据进行加权求和，得到新的嵌入表示，即第二低维数据。
S270、将所述第一低维数据和所述第二低维数据的加权平均结果作为待解码数据。
具体的，将第一低维数据和第二低维数据进行加权平均，生成新的嵌入表示，即为待解码数据。
S280、对所述待解码数据进行解码处理，得到重构数据。
S290、确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
本发明实施例二提供的分布外数据检测方法通过预设第一内存数据和预设第二内存数据分别生成新的低位数据后再生成待解码数据，限制了自编码器对OOD数据的重构能力，提高了ID数据和OOD数据的重构误差的差异，从而提升OOD数据识别的准确性。此外，还提高了内存中不同标签数据间的多样性，有助于自编码器对ID数据的重构。
实施例三
图3为本发明实施例三提供的一种分布外数据检测装置的结构示意图。本发明实施例提供的分布外数据检测装置可以通过基于内存选择的自编码器实现。本实施例提供的分布外数据检测装置能够实现本发明任意实施例提供的分布外数据检测方法，具备实现方法的相应功能结构和有益效果，本实施例中未详尽描述的内容可参考本发明任意方法实施例的描述。
如图3所示，本发明实施例三提供的分布外数据检测装置包括：待检测数据获取模块310、编码模块320、第一数据处理模块330、第二数据处理模块340、待解码数据生成模块350、解码模块360和分布外数据检测模块370，其中：
待检测数据获取模块310用于获取待检测数据；
编码模块320用于对所述待检测数据进行编码处理，得到低维特征数据；
第一数据处理模块330用于基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据；
第二数据处理模块340用于基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据；
待解码数据生成模块350用于基于所述第一低维数据和所述第二低维数据生成待解码数据；
解码模块360用于对所述待解码数据进行解码处理，得到重构数据；
分布外数据检测模块370用于确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
进一步的，第一数据处理模块330包括：
第一余弦相似度计算单元，用于计算所述低维特征数据与所述预设第一内存数据的第一余弦相似度；
第一低维数据生成单元，用于基于所述第一余弦相似度对所述预设第一内存数据进行加权处理，得到第一低维数据。
进一步的，第二数据处理模块340包括：
目标第二内存数据确定单元，用于根据所述低维特征数据的标签和预设第二内存数据确定目标第二内存数据；
第二低维数据生成单元，用于基于所述目标第二内存数据对所述低维特征数据进行处理，得到第二低维数据。
进一步的，所述目标第二内存数据确定单元具体用于：
确定所述低维特征数据的标签；
将所述预设第二内存数据中标签与所述低维特征数据的标签相同的数据作为目标第二内存数据。
进一步的，所述第二低维数据生成单元具体用于：
计算所述低维特征数据与所述目标第二内存数据的第二余弦相似度；
基于所述第二余弦相似度对所述目标第二内存数据进行加权处理，得到第二低维数据。
进一步的，待解码数据生成模块350具体用于：
将所述第一低维数据和所述第二低维数据的加权平均结果作为待解码数据。
本发明实施例三提供的分布外数据检测装置通过待检测数据获取模块、编码模块、第一数据处理模块、第二数据处理模块、待解码数据生成模块、解码模块和分布外数据检测模块，限制了自编码器对OOD数据的重构能力，提高了ID数据和OOD数据的重构误差的差异，从而提升OOD数据识别的准确性。
实施例四
图4为本发明实施例四提供的一种服务器的结构示意图。图4示出了适于用来实现本发明实施方式的示例性服务器412的框图。图4显示的服务器412仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示，服务器412以通用服务器的形式表现。服务器412的组件可以包括但不限于：一个或者多个处理器416，存储装置428，连接不同系统组件(包括存储装置428和处理器416)的总线418。
总线418表示几类总线结构中的一种或多种，包括存储装置总线或者存储装置控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry SubversiveAlliance，ISA)总线，微通道体系结构(Micro Channel Architecture，MAC)总线，增强型ISA总线、视频电子标准协会(Video Electronics Standards Association，VESA)局域总线以及外围组件互连(Peripheral Component Interconnect，PCI)总线。
服务器412典型地包括多种计算机系统可读介质。这些介质可以是任何能够被服务器412访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
存储装置428可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(Random Access Memory，RAM)430和/或高速缓存存储器432。服务器412可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统434可以用于读写不可移动的、非易失性磁介质(图4未显示，通常称为“硬盘驱动器”)。尽管图4中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘，例如只读光盘(Compact Disc Read-Only Memory，CD-ROM),数字视盘(Digital Video Disc-Read Only Memory，DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线418相连。存储装置428可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块442的程序/实用工具440，可以存储在例如存储装置428中，这样的程序模块442包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块442通常执行本发明所描述的实施例中的功能和/或方法。
服务器412也可以与一个或多个外部设备414(例如键盘、指向终端、显示器424等)通信，还可与一个或者多个使得用户能与该服务器412交互的终端通信，和/或与使得该服务器412能与一个或多个其它计算终端进行通信的任何终端(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口422进行。并且，服务器412还可以通过网络适配器420与一个或者多个网络(例如局域网(Local Area Network，LAN)，广域网(Wide AreaNetwork，WAN)和/或公共网络，例如因特网)通信。如图4所示，网络适配器420通过总线418与服务器412的其它模块通信。应当明白，尽管图中未示出，可以结合服务器412使用其它硬件和/或软件模块，包括但不限于：微代码、终端驱动器、冗余处理器、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks，RAID)系统、磁带驱动器以及数据备份存储系统等。
处理器416通过运行存储在存储装置428中的程序，从而执行各种功能应用以及数据处理，例如实现本发明任意实施例所提供的分布外数据检测方法，该方法可以包括：
获取待检测数据；
对所述待检测数据进行编码处理，得到低维特征数据；
基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据；
基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据；
基于所述第一低维数据和所述第二低维数据生成待解码数据；
对所述待解码数据进行解码处理，得到重构数据；
确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
实施例五
本发明实施例五还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例所提供的分布外数据检测方法，该方法可以包括：
获取待检测数据；
对所述待检测数据进行编码处理，得到低维特征数据；
基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据；
基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据；
基于所述第一低维数据和所述第二低维数据生成待解码数据；
对所述待解码数据进行解码处理，得到重构数据；
确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是，但不限于，电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言(诸如Java、Smalltalk、C++)，还包括常规的过程式程序设计语言(诸如“C”语言或类似的程序设计语言)。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或终端上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络(包括局域网(LAN)或广域网(WAN))连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种分布外数据检测方法，其特征在于，包括：
获取待检测数据；
对所述待检测数据进行编码处理，得到低维特征数据；
基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据；
基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据；
基于所述第一低维数据和所述第二低维数据生成待解码数据；
对所述待解码数据进行解码处理，得到重构数据；
确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
2.如权利要求1所述的方法，其特征在于，所述基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据包括：
计算所述低维特征数据与预设第一内存数据的第一余弦相似度；
基于所述第一余弦相似度对所述预设第一内存数据进行加权处理，得到第一低维数据。
3.如权利要求1所述的方法，其特征在于，所述基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据包括：
根据所述低维特征数据的标签和预设第二内存数据确定目标第二内存数据；
基于所述目标第二内存数据对所述低维特征数据进行处理，得到第二低维数据。
4.如权利要求3所述的方法，其特征在于，所述根据所述低维特征数据的标签和预设第二内存数据确定目标第二内存数据包括：
确定所述低维特征数据的标签；
将所述预设第二内存数据中标签与所述低维特征数据的标签相同的数据作为目标第二内存数据。
5.如权利要求3所述的方法，其特征在于，所述基于所述目标第二内存数据对所述低维特征数据进行处理，得到第二低维数据包括：
计算所述低维特征数据与所述目标第二内存数据的第二余弦相似度；
基于所述第二余弦相似度对所述目标第二内存数据进行加权处理，得到第二低维数据。
6.如权利要求1所述的方法，其特征在于，所述基于所述第一低维数据和所述第二低维数据生成待解码数据包括：
将所述第一低维数据和所述第二低维数据的加权平均结果作为待解码数据。
7.一种分布外数据检测装置，其特征在于，包括：
待检测数据获取模块，用于获取待检测数据；
编码模块，用于对所述待检测数据进行编码处理，得到低维特征数据；
第一数据处理模块，用于基于预设第一内存数据对所述低维特征数据进行处理，得到第一低维数据；
第二数据处理模块，用于基于预设第二内存数据对所述低维特征数据进行处理，得到第二低维数据；
待解码数据生成模块，用于基于所述第一低维数据和所述第二低维数据生成待解码数据；
解码模块，用于对所述待解码数据进行解码处理，得到重构数据；
分布外数据检测模块，用于确定所述待检测数据和所述重构数据的重构误差，若所述重构误差大于预设阈值，则确定所述待检测数据为分布外数据。
8.如权利要求7所述的装置，其特征在于，所述第一数据处理模块包括：
第一余弦相似度计算单元，用于计算所述低维特征数据与所述预设第一内存数据的第一余弦相似度；
第一低维数据生成单元，用于基于所述第一余弦相似度对所述预设第一内存数据进行加权处理，得到第一低维数据。
9.一种服务器，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或至少一个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一项所述的分布外数据检测方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一项所述的分布外数据检测方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110241746.1A CN112966819B (zh) | 2021-03-04 | 2021-03-04 | 分布外数据检测方法、装置、服务器及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110241746.1A CN112966819B (zh) | 2021-03-04 | 2021-03-04 | 分布外数据检测方法、装置、服务器及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112966819A true CN112966819A (zh) | 2021-06-15 |
| CN112966819B CN112966819B (zh) | 2024-04-09 |
Family
ID=76276543
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110241746.1A Active CN112966819B (zh) | 2021-03-04 | 2021-03-04 | 分布外数据检测方法、装置、服务器及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112966819B (zh) |
Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180082150A1 (en) * | 2016-09-20 | 2018-03-22 | Kabushiki Kaisha Toshiba | Abnormality detection device, learning device, abnormality detection method, and learning method |
| CN109543727A (zh) * | 2018-11-07 | 2019-03-29 | 复旦大学 | 一种基于竞争重构学习的半监督异常检测方法 |
| KR20190081594A (ko) * | 2017-12-29 | 2019-07-09 | 한국외국어대학교 연구산학협력단 | 자동화 생산 라인의 작업 오류 검출 장치 및 방법 |
| CN110766056A (zh) * | 2019-09-27 | 2020-02-07 | 中山大学 | 一种融合图像生成和多标签分类的异常图像检测方法 |
| CN110807518A (zh) * | 2019-11-06 | 2020-02-18 | 国网山东省电力公司威海供电公司 | 一种面向电网数据的离群点检测方法 |
| US20200065616A1 (en) * | 2017-10-30 | 2020-02-27 | Tsinghua University | Unsupervised exception access detection method and apparatus based on one-hot encoding mechanism |
| CN111178523A (zh) * | 2019-08-02 | 2020-05-19 | 腾讯科技（深圳）有限公司 | 一种行为检测方法、装置、电子设备及存储介质 |
| CN111242793A (zh) * | 2020-01-16 | 2020-06-05 | 上海金仕达卫宁软件科技有限公司 | 医保数据异常的检测方法和装置 |
| US20200210849A1 (en) * | 2018-12-31 | 2020-07-02 | Paypal, Inc. | Transaction anomaly detection using artificial intelligence techniques |
| WO2020143379A1 (zh) * | 2019-01-08 | 2020-07-16 | 阿里巴巴集团控股有限公司 | 异常数据的检测方法及其系统 |
| CN111915015A (zh) * | 2020-06-30 | 2020-11-10 | 上海金仕达软件科技有限公司 | 一种异常值检测方法、装置、终端设备及存储介质 |
| CN111967571A (zh) * | 2020-07-07 | 2020-11-20 | 华东交通大学 | 一种基于mhma的异常检测方法和设备 |
| CN112364939A (zh) * | 2020-12-04 | 2021-02-12 | 中信银行股份有限公司 | 异常值检测方法、装置、设备及存储介质 |
-
2021
- 2021-03-04 CN CN202110241746.1A patent/CN112966819B/zh active Active
Patent Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180082150A1 (en) * | 2016-09-20 | 2018-03-22 | Kabushiki Kaisha Toshiba | Abnormality detection device, learning device, abnormality detection method, and learning method |
| US20200065616A1 (en) * | 2017-10-30 | 2020-02-27 | Tsinghua University | Unsupervised exception access detection method and apparatus based on one-hot encoding mechanism |
| KR20190081594A (ko) * | 2017-12-29 | 2019-07-09 | 한국외국어대학교 연구산학협력단 | 자동화 생산 라인의 작업 오류 검출 장치 및 방법 |
| CN109543727A (zh) * | 2018-11-07 | 2019-03-29 | 复旦大学 | 一种基于竞争重构学习的半监督异常检测方法 |
| US20200210849A1 (en) * | 2018-12-31 | 2020-07-02 | Paypal, Inc. | Transaction anomaly detection using artificial intelligence techniques |
| WO2020143379A1 (zh) * | 2019-01-08 | 2020-07-16 | 阿里巴巴集团控股有限公司 | 异常数据的检测方法及其系统 |
| CN111178523A (zh) * | 2019-08-02 | 2020-05-19 | 腾讯科技（深圳）有限公司 | 一种行为检测方法、装置、电子设备及存储介质 |
| CN110766056A (zh) * | 2019-09-27 | 2020-02-07 | 中山大学 | 一种融合图像生成和多标签分类的异常图像检测方法 |
| CN110807518A (zh) * | 2019-11-06 | 2020-02-18 | 国网山东省电力公司威海供电公司 | 一种面向电网数据的离群点检测方法 |
| CN111242793A (zh) * | 2020-01-16 | 2020-06-05 | 上海金仕达卫宁软件科技有限公司 | 医保数据异常的检测方法和装置 |
| CN111915015A (zh) * | 2020-06-30 | 2020-11-10 | 上海金仕达软件科技有限公司 | 一种异常值检测方法、装置、终端设备及存储介质 |
| CN111967571A (zh) * | 2020-07-07 | 2020-11-20 | 华东交通大学 | 一种基于mhma的异常检测方法和设备 |
| CN112364939A (zh) * | 2020-12-04 | 2021-02-12 | 中信银行股份有限公司 | 异常值检测方法、装置、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112966819B (zh) | 2024-04-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN114372477B (zh) | 文本识别模型的训练方法、文本识别方法及装置 | |
| CN112633419B (zh) | 小样本学习方法、装置、电子设备和存储介质 | |
| CN111125658B (zh) | 识别欺诈用户的方法、装置、服务器和存储介质 | |
| CN111950692B (zh) | 用于改进的通用化的基于汉明距离的稳健输出编码 | |
| CN111222981A (zh) | 可信度确定方法、装置、设备和存储介质 | |
| CN113723618B (zh) | 一种shap的优化方法、设备及介质 | |
| US11983866B2 (en) | Image defect detection method, electronic device using the same | |
| CN110688111A (zh) | 业务流程的配置方法、装置、服务器和存储介质 | |
| CN111753959A (zh) | 一种神经网络模型优化方法、装置、设备和存储介质 | |
| CN112149754A (zh) | 一种信息的分类方法、装置、设备及存储介质 | |
| US20220198633A1 (en) | Defect detection method, electronic device and storage medium | |
| CN112967251B (zh) | 图片检测方法、图片检测模型的训练方法及装置 | |
| CN110781849A (zh) | 一种图像处理方法、装置、设备及存储介质 | |
| CN110826616B (zh) | 信息处理方法及装置、电子设备、存储介质 | |
| CN112966819B (zh) | 分布外数据检测方法、装置、服务器及存储介质 | |
| CN113033817B (zh) | 基于隐空间的ood检测方法、装置、服务器及存储介质 | |
| CN116542673A (zh) | 应用于机器学习的欺诈行为识别方法及系统 | |
| CN116797973A (zh) | 应用于环卫智慧管理平台的数据挖掘方法及系统 | |
| CN111049988A (zh) | 移动设备的亲密度预测方法、系统、设备及存储介质 | |
| CN114925808A (zh) | 一种基于云网端资源中不完整时间序列的异常检测方法 | |
| CN115730591A (zh) | 基于知识图谱的用户服务方法、装置、设备和存储介质 | |
| CN114842261A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
| CN115049546A (zh) | 样本数据处理方法、装置、电子设备及存储介质 | |
| CN110297989B (zh) | 异常检测的测试方法、装置、设备和介质 | |
| CN114707518A (zh) | 面向语义片段的目标情感分析方法、装置、设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |