CN113033817B - 基于隐空间的ood检测方法、装置、服务器及存储介质 - Google Patents

基于隐空间的ood检测方法、装置、服务器及存储介质 Download PDF

Info

Publication number
CN113033817B
CN113033817B CN202110298336.0A CN202110298336A CN113033817B CN 113033817 B CN113033817 B CN 113033817B CN 202110298336 A CN202110298336 A CN 202110298336A CN 113033817 B CN113033817 B CN 113033817B
Authority
CN
China
Prior art keywords
data
sample
encoder
preset
class
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110298336.0A
Other languages
English (en)
Other versions
CN113033817A (zh
Inventor
张舒怡
宋丽妍
姚新
武晓宇
胡崝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Southwest University of Science and Technology
Original Assignee
Huawei Technologies Co Ltd
Southwest University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd, Southwest University of Science and Technology filed Critical Huawei Technologies Co Ltd
Priority to CN202110298336.0A priority Critical patent/CN113033817B/zh
Publication of CN113033817A publication Critical patent/CN113033817A/zh
Application granted granted Critical
Publication of CN113033817B publication Critical patent/CN113033817B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Image Analysis (AREA)

Abstract

本发明实施例公开了一种基于隐空间的OOD检测方法、装置、服务器及存储介质，所述方法包括：获取待检测数据；通过预设编码器对待检测数据进行编码处理，以将待检测数据映射至预设编码器的隐藏特征空间，得到压缩特征数据；在隐藏特征空间中，通过多个预设单类别分类器确定压缩特征数据的多个分类结果；若多个分类结果符合预设条件，则确定待检测数据为分布外数据。本发明实施例通过预设编码器和预设单类别分类器的结合实现了OOD数据的检测，预设编码器可以找到表征更精准的特征空间，可以在更低维度空间中进行OOD检测，提高自编码器对OOD数据检测的精度，相比于其他的检测算法可以有效降低内存需求和能耗。

Description

基于隐空间的OOD检测方法、装置、服务器及存储介质
技术领域
本发明实施例涉及机器学习技术领域，尤其涉及一种基于隐空间的OOD检测方法、装置、服务器及存储介质。
背景技术
在机器学习领域，用于训练模型的数据通常被称为分布内(In-distribution，ID)数据，而分布外(Out-of-distribution，OOD)数据是指和训练的ID数据分布不一致的数据。在神经网络模型的实际应用中，输入数据中有时存在OOD数据，这会导致模型预测不准确，进而限制神经网络模块的应用。因此，对机器学习模型的输入数据进行OOD数据检测是提高模型预测准确率的一种重要手段。
现有工作中，自编码器常被用于OOD数据的检测，但其使用方法较为局限。传统的自编码器主要包括编码器和解码器，编码器是一种无监督式学习模型，它利用输入数据本身作为学习目标，来指导编码器学习一个映射关系，强迫神经网络在缩减维度的前提下学习最有信息量的特征，再通过解码器把隐藏层的隐变量还原到初始维度，从而得到一个重构输出数据。当重构输出数据与输入数据误差较大时，即可认为输入数据为OOD数据。然而，自编码器的泛化能力过强，即使是与训练数据不同分布的OOD数据也可能重构得很好，这就导致自编码器无法很好的依赖于重构误差指标检测出OOD数据。
发明内容
有鉴于此，本发明实施例提供一种基于隐空间的OOD检测方法、装置、服务器及存储介质，以提高自编码器对OOD数据检测的精度。
第一方面，本发明实施例提供一种基于隐空间的OOD检测方法，包括：
获取待检测数据；
通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据；
在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果；
若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据。
进一步的，所述通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据之前，还包括：
搭建自编码器模型并设定模型参数；
获取训练样本；
通过所述自编码器模型基于所述模型参数对所述训练样本进行处理，得到模型输出数据；
根据所述训练样本和所述模型输出数据确定样本损失函数；
基于所述样本损失函数更新所述模型参数，返回获取训练样本的步骤，直至所述样本损失函数符合预设条件，得到训练好的自编码器模型，所述训练好的自编码器模型包括预设编码器。
进一步的，所述自编码器模型包括编码器、分类层和解码器，所述训练样本包括原始样本数据和原始样本类标，所述模型输出数据包括重构样本数据和预测样本类标；所述通过所述自编码器模型基于所述模型参数对所述训练样本进行处理，得到模型输出数据包括：
通过所述编码器对所述原始样本数据进行特征提取，得到隐变量；
通过解码器对所述隐变量进行重构，得到重构样本数据；
通过所述分类层对所述隐变量进行类标预测，得到预测样本类标。
进一步的，所述根据所述训练样本和所述模型输出数据确定样本损失函数包括：
根据所述原始样本数据和所述重构样本数据确定数据损失函数；
根据所述原始样本类标和所述预测样本类标确定类标损失函数；
根据所述数据损失函数和所述类标损失函数确定样本损失函数。
进一步的，所述在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果之前，还包括：
通过所述预设编码器对所述训练样本进行特征提取，得到样本分类数据；
通过所述样本分类数据分别对多个预设分类模型进行分类训练，得到训练好的多个预设单类别分类器。
进一步的，所述通过所述样本分类数据分别对多个预设分类模型进行分类训练，得到训练好的多个预设单类别分类器包括：
通过训练好的自编码器确定所述训练样本的重构误差和类标误差；
根据所述重构误差和所述类标误差确定样本权重；
基于所述样本权重设定多个预设分类模型的初始化参数，并通过所述样本分类数据分别对确定初始化参数后的多个预设分类模型进行训练，得到训练好的多个预设单类别分类器。
进一步的，所述若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据包括：
若所述多个分类结果中有预设数量的分类结果为不属于本类别，则确定所述待检测数据为分布外数据。
第二方面，本发明实施例提供一种基于隐空间的OOD检测装置，包括：
待检测数据获取模块，用于获取待检测数据；
特征提取模块，用于通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据；
分类模块，用于在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果；
数据检测模块，用于若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据。
第三方面，本发明实施例提供一种服务器，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或至少一个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任意实施例提供的基于隐空间的OOD检测方法。
第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明任意实施例提供的基于隐空间的OOD检测方法。
本发明实施例提供的基于隐空间的OOD检测方法通过预设编码器和预设单类别分类器的结合实现了OOD数据的检测，预设编码器和预设单类别分类器可以找到表征更精准的特征空间，进而实现在更低维度的空间中进行OOD检测，提高了自编码器对OOD数据检测的精度，相比于其他的检测算法(例如基于CNN深度神经网络的方法)，可以有效降低内存和能耗。
附图说明
图1为本发明实施例一提供的一种基于隐空间的OOD检测方法的流程示意图；
图2为本发明实施例二提供的一种基于隐空间的OOD检测方法的流程示意图；
图3A为本发明实施例二提供的没有分类层的编码器的隐藏特征空间的示意图；
图3B为本发明实施例二提供的有分类层的编码器的隐藏特征空间的示意图；
图4为本发明实施例三提供的一种基于隐空间的OOD检测装置的结构示意图；
图5为本发明实施例四提供的一种服务器的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各步骤描述成顺序的处理，但是其中的许多步骤可以被并行地、并发地或者同时实施。此外，各步骤的顺序可以被重新安排。当其操作完成时处理可以被终止，但是还可以具有未包括在附图中的附加步骤。处理可以对应于方法、函数、规程、子例程、子程序等等。
此外，术语“第一”、“第二”等可在本文中用于描述各种方向、动作、步骤或元件等，但这些方向、动作、步骤或元件不受这些术语限制。这些术语仅用于将第一个方向、动作、步骤或元件与另一个方向、动作、步骤或元件区分。术语“第一”、“第二”等而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中，“多个”、“批量”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
实施例一
图1为本发明实施例一提供的一种基于隐空间的OOD检测方法的流程示意图。如图1所示，本发明实施例一提供的基于隐空间的OOD检测方法包括：
S110、获取待检测数据。
具体的，待检测数据为高维数据，是一种高效表示，其包括多种数据特征。
S120、通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据。
具体的，预设编码器为预先训练好的有监督自编码器(Auto-encoder)中的编码器(encoder)，该有监督自编码器使用ID数据进行训练，对ID数据具有较强的重构效果。对待检测数据进行编码处理，也就是通过预设编码器对待检测数据进行特征提取，相当于将待检测数据映射至隐藏特征空间。待检测数据也就是自编码器的输入数据，自编码器提取的特征记为压缩特征数据，该压缩特征数据是高维待检测数据的低维嵌入表示，这个低维嵌入表示包含高维待检测数据的本质特征，且不含有噪音等信息。每一个压缩特征数据都对应于隐藏特征空间中的一个点。
S130、在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果。
具体的，预设单类别分类器为预先训练好的分类模型，其用于对隐藏特征空间中的ID数据进行分类处理。每一种数据都具有对应的类别属性，例如，一幅交通工具图片，则其类别可能是轮船、飞机、自行车、公交车等等，每一个预设单类别分类器代表一种类别的数据。在进行分类处理时，预设单类别分类器对压缩特征数据进行识别，判断压缩特征数据是否属于该预设单类别分类器所代表的类别，并输出分类结果。每一个预设单类别分类器均对压缩特征数据进行分类处理，一个预设单类别分类器输出一个分类结果，可得到多个分类结果。预设单类别分类器的分类结果包括两种情况：是和否，当分类结果为“是”时，表示压缩特征数据属于本类别；当分类结果为“否”时，表示压缩特征数据不属于本类别。预设单类别分类器的分类条件可以预先设定，分类条件是多样的，如压缩特征数据到本类别决策边界的距离小于设定值，则认为压缩特征数据属于本类别；或者，压缩特征数据属于本类别的置信度达到设定值，则认为压缩特征数据属于本类别。
S140、若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据。
具体的，根据分类结果的多样化，预设条件可以是任意对分类结果进行限定的合适方式。例如，分类结果符合预设条件可以是：当有预设数量的分类结果为“否”，即表示有预设数量的单类别分类器判定压缩特征数据不属于本类别，则认为该压缩特征数据为OOD数据的低维嵌入表示，进而认为待检测数据为OOD数据(分布外数据)。
如此，通过对待检测数据进行分布外数据的识别，可以检测神经网络模型预测结果的准确性，进而为决策系统的判断提供准确参考，提高决策系统的可靠性。例如，在自动驾驶领域，神经网络模型对输入数据进行预测，决策系统根据预测结果判定需要加速。而如果此时输入数据为OOD数据，则神经网络模型的预测结果是不准确的，那么此时车辆不需要加速。因此，通过本发明实施例提供的基于隐空间的OOD检测方法对输入数据进行OOD检测，将输入数据为OOD数据的信息告知决策系统，从而使决策系统对神经网络模型的预测结果进行进一步判定，避免造成事故。
本发明实施例一提供的基于隐空间的OOD检测方法通过预设编码器和预设单类别分类器的结合实现了OOD数据的检测，预设编码器和预设单类别分类器可以找到表征更精准的特征空间，进而实现在更低维度的空间中进行OOD检测，提高了自编码器对OOD数据检测的精度，相比于其他的检测算法(例如基于CNN深度神经网络的方法)，可以有效降低内存和能耗。
实施例二
图2为本发明实施例二提供的一种基于隐空间的OOD检测方法的流程示意图，本实施例是对上述实施例的进一步细化。如图2所示，本发明实施例二提供的基于隐空间的OOD检测方法包括：
S210、搭建自编码器模型并设定模型参数。
本实施例中，自编码器模型包括编码器、分类层和解码器。自编码器模型的具体结构也可根据数据集复杂程度、计算资源等相关信息来决定，例如，可采用单层自编码器、堆栈自编码器、深度自编码器等。自编码器模型相当于一个神经网络模型，其包括输入层、隐藏层和输出层，其中，隐藏层的隐含空间节点个数将决定OOD检测空间的维度，隐含空间节点数越少，编码器输出向量维度越小，OOD检测空间维度越小。优选的，隐含空间节点个数选取32～128之间的整数值，避免过高维度的隐含空间可能包含冗余特征而有损检测效率的问题，同时也避免过低维度的隐含空间可能无法很好地将数据特征表达的问题。可以使用交叉验证方法选择维度。
模型参数为自编码器模型本身的计算参数，如权值、偏置、激活函数、损失函数等。
S220、获取训练样本。
具体的，训练样本是用于对自编码器模型进行训练的样本数据，其为ID数据。进一步的，训练样本包括两个部分：原始样本数据和原始样本类标。原始样本数据是指样本数据本身，原始样本类标是指样本数据的类别。训练样本可记为(xin，y)，其中，xin表示原始样本数据，y表示原始样本类标。
S230、通过所述自编码器模型基于所述模型参数对所述训练样本进行处理，得到模型输出数据。
具体的，自编码器模型基于模型参数对训练样本进行处理，包括对原始样本数据和原始样本类标进行处理，得到模型输出数据。根据训练样本的两种情况，模型输出数据包括重构样本数据和预测样本类标。
进一步的，对自编码器模型的数据处理过程包括：通过所述编码器对所述原始样本数据进行特征提取，得到隐变量；通过解码器对所述隐变量进行重构，得到重构样本数据；通过所述分类层对所述隐变量进行类标预测，得到预测样本类标。
具体的，编码器接收原始样本数据xin，通过函数fe(W，b)将其转换为隐变量fe(xin|W，b)，也即对原始样本数据xin进行隐空间特征提取(相当于将原始样本数据xin映射至编码器的隐藏特征空间)。解码器将隐变量fe(xin|W，b)作为输入，通过函数fd(W′，b′)对其进行重构，得到重构样本数据xout＝fd(fe(xin|W，b)|W′，b′)。同时，分类层以隐变量fe(xin|W，b)作为输入，对隐变量fe(xin|W，b)的类别进行预测，得到预测样本类标
Figure BDA0002985142930000101
S240、根据所述训练样本和所述模型输出数据确定样本损失函数。
具体的，根据数据的不同，样本损失函数L包括数据损失函数Lr(xin，xout)和类标损失函数
Figure BDA0002985142930000102
样本损失函数的确定具体包括：根据所述原始样本数据和所述重构样本数据确定数据损失函数；根据所述原始样本类标和所述预测样本类标确定类标损失函数；根据所述数据损失函数和所述类标损失函数确定样本损失函数。数据损失函数Lr(xin，xout)是重构样本数据xout和原始样本数据xin之间的损失，用于衡量由于数据压缩而损失掉的信息。类标损失函数
Figure BDA0002985142930000103
是预测样本类标
Figure BDA0002985142930000104
和原始样本类标y之间的损失，用于衡量分类层对原始样本数据进行类别预测的损失信息。分别求得数据损失函数Lr(xin，xout)和类标损失函数
Figure BDA0002985142930000111
后，将二者相加，即得样本损失函数L，也即
Figure BDA0002985142930000112
数据损失函数Lr(xin，xout)和类标损失函数
Figure BDA0002985142930000113
的函数类型在模型参数设定时确定，其可以是任意类型的损失函数，如均方误差和交叉熵。进一步的，可以分别设定数据损失函数Lr(xin，xout)的权重α和类标损失函数
Figure BDA0002985142930000114
的权重β，以调节数据损失函数Lr(xin，xout)和类标损失函数
Figure BDA0002985142930000115
的重要性，也即
Figure BDA0002985142930000116
一般的，更高的权重意味着更高的重要性。
S250、基于所述样本损失函数更新所述模型参数，返回获取训练样本的步骤，直至所述样本损失函数符合预设条件，得到训练好的自编码器模型，所述训练好的自编码器模型包括预设编码器。
具体的，样本损失函数确定后，更新模型参数中的相关数据，如权值、偏置等。然后继续通过训练样本对自编码器模型进行训练，直至样本损失函数符合预设条件，自编码器模型即训练完毕，训练好的自编码器模型中的编码器即为预设编码器。样本损失函数符合预设条件一般指样本损失函数不再下降或者达到设定的迭代次数。
本实施例中，由于添加了分类层，使得编码器的隐藏特征空间具有更加清晰的分类效果，也即各类别的数据边界更加清晰。示例性的，图3A为没有分类层的编码器的隐藏特征空间的示意图，图3B为有分类层的编码器的隐藏特征空间的示意图，图中，同一类型的符号代表同一类别的数据。由图3A和图3B可知，在自编码器模型中增加分类层后，编码器的隐藏特征空间中各类别的数据能够更好地被区分开来。
进一步的，模型参数的更新可以通过反向传播算法实现，每一次迭代训练后，样本损失函数通过反向传播算法传播回隐藏层，达到更新模型参数的目的。
S260、通过所述预设编码器对所述训练样本进行特征提取，得到样本分类数据。
S270、通过所述样本分类数据分别对多个预设分类模型进行分类训练，得到训练好的多个预设单类别分类器。
具体的，通过训练好的预设编码器再次对训练样本进行特征提取，将训练样本映射至预设编码器的隐藏特征空间中，将提取的数据(也即此时预设编码器的隐藏特征空间中的数据)记为样本分类数据。然后将样本分类数据作为一训练数据集，对多个预设分类模型进行训练，每一个训练好的预设分类模型即为一个预设单类别分类器。
可选的，也可以通过普通编码器(即不包含分类层的自编码器中的编码器)对训练样本进行特征提取，然后基于提取的特征数据对预设分类模型进行训练，得到预设单类别分类器。
进一步的，得到预设单类别分类器的过程具体包括步骤S271～S273(图中未示出)。
S271、通过训练好的自编码器确定所述训练样本的重构误差和类标误差。
具体的，将训练样本输入训练好的自编码中，其中，训练好的编码器对原始样本数据进行特征提取，得到隐空间特征；训练好的解码器对隐空间特征进行重构，得到重构数据，该重构数据与原始样本数据的误差即为重构误差。同时，训练好的分类层对隐空间特征进行类标预测，得到预测类标，该预测类标与原始样本类标之间的误差即为类标误差。
S272、根据所述重构误差和所述类标误差确定样本权重。具体的，在训练预设分类模型时，通过重构误差和类标误差调节样本权重，以使最终得到的预设单类别分类器能够更好的对输入数据进行分类。
被分类正确且重构误差小的样本数据是最具有代表性的ID样本数据，赋予最高权重，被分类错误并且重构误差大的样本数据是最具有干扰性的ID样本，应降低权重。如此，权重赋值规则为：分类正确且重构误差小的样本权重＞分类正确且重构误差大的样本权重＞分类错误且重构误差小的样本权重＞分类错误且重构误差大的样本权重。对样本数据赋予权重后，使得分类层能够更好的对样本数据进行分类，同一类别的样本数据更加集中。
例如，可采用reverse sigmoid function
Figure BDA0002985142930000131
作为权重函数。假设[a，b]为正确分类的训练样本重构误差范围，[c，d]为错误分类的训练样本重构误差范围，对于训练样本i，其权重
Figure BDA0002985142930000132
Figure BDA0002985142930000133
其中当条件condition(如分类正确
Figure BDA0002985142930000134
)成立，IIcondition＝1，否则IIcondition＝0。
S273、基于所述样本权重设定多个预设分类模型的初始化参数，并通过所述样本分类数据分别对确定初始化参数后的多个预设分类模型进行训练，得到训练好的多个预设单类别分类器。
具体的，预设分类模型可以是任意能够进行分类处理的模型，如OC-SVM(OneClass-Support Vector Machine，单类别支持向量机)模型。根据样本权重确定预设分类模型的初始化参数，也就是确定预设分类模型的参数W_i。设定初始化参数后，样本分类数据对每个预设分类模型进行训练，训练好的预设分类模型即为预设单类别分类器。
S280、获取待检测数据。
S290、通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据。
S211、在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果；
S212、若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据。
本发明实施例二提供的基于隐空间的OOD检测方法通过预设编码器和预设单类别分类器的结合实现了OOD数据的检测，预设编码器可以找到表征更精准的特征空间，进而实现在更低维度的空间中进行OOD检测，提高了自编码器对OOD数据检测的精度，相比于其他的检测算法(例如基于CNN深度神经网络的检测算法)，可以有效降低内存需求和能耗。
实施例三
图4为本发明实施例三提供的一种基于隐空间的OOD检测装置的结构示意图。本实施例提供的基于隐空间的OOD检测装置能够实现本发明任意实施例提供的基于隐空间的OOD检测方法，具备实现方法的相应功能结构和有益效果，本实施例中未详尽描述的内容可参考本发明任意方法实施例的描述。
如图4所示，本发明实施例三提供的基于隐空间的OOD检测装置包括：待检测数据获取模块310、特征提取模块320、分类模块330和数据检测模块340，其中：
待检测数据获取模块310用于获取待检测数据；
特征提取模块320用于通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据；
分类模块330用于在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果；
数据检测模块340用于若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据。
进一步的，所述基于隐空间的OOD检测装置还包括：
模型搭建模块，用于搭建自编码器模型并设定模型参数；
训练样本获取模块，用于获取训练样本；
自编码器模型训练模块，用于通过所述自编码器模型基于所述模型参数对所述训练样本进行处理，得到模型输出数据；
损失函数确定模块，用于根据所述训练样本和所述模型输出数据确定样本损失函数；
模型参数更新模块，用于基于所述样本损失函数更新所述模型参数，返回获取训练样本的步骤，直至所述样本损失函数符合预设条件，得到训练好的自编码器模型，所述训练好的自编码器模型包括预设编码器。
进一步的，所述自编码器模型包括编码器、分类层和解码器，所述训练样本包括原始样本数据和原始样本类标，所述模型输出数据包括重构样本数据和预测样本类标；所述自编码器模型训练模块包括：
隐变量提取单元，用于通过所述编码器对所述原始样本数据进行特征提取，得到隐变量；
样本重构单元，用于通过解码器对所述隐变量进行重构，得到重构样本数据；
类标预测单元，用于通过所述分类层对所述隐变量进行类标预测，得到预测样本类标。
进一步的，所述损失函数确定模块包括：
数据损失函数确定单元，用于根据所述原始样本数据和所述重构样本数据确定数据损失函数；
类标损失函数确定单元，用于根据所述原始样本类标和所述预测样本类标确定类标损失函数；
样本损失函数确定单元，用于根据所述数据损失函数和所述类标损失函数确定样本损失函数。
进一步的，基于隐空间的OOD检测装置还包括：
样本分类数据获取模块，用于通过所述预设编码器对所述训练样本进行特征提取，得到样本分类数据；
分类模型训练模块，用于通过所述样本分类数据分别对多个预设分类模型进行分类训练，得到训练好的多个预设单类别分类器。
进一步的，所述分类模型训练模块包括：
误差确定单元，用于通过训练好的自编码器确定所述训练样本的重构误差和类标误差；
样本权重确定单元，用于根据所述重构误差和所述类标误差确定样本权重；
分类模型训练单元，用于基于所述样本权重设定多个预设分类模型的初始化参数，并通过所述样本分类数据分别对确定初始化参数后的多个预设分类模型进行训练，得到训练好的多个预设单类别分类器。
进一步的，数据检测模块340具体用于：
若所述多个分类结果中有预设数量的分类结果为不属于本类别，则确定所述待检测数据为分布外数据。
本发明实施例三提供的基于隐空间的OOD检测装置通过待检测数据获取模块、特征提取模块、分类模块和数据检测模块实现了OOD数据的检测，预设编码器和预设单类别分类器可以找到表征更精准的特征空间，进而实现在更低维度的空间中进行OOD检测，提高了自编码器对OOD数据检测的精度，相比于其他的检测算法(例如基于CNN深度神经网络的方法)，可以有效可以有效降低内存需求和降低能耗。
实施例四
图5为本发明实施例四提供的一种服务器的结构示意图。图5示出了适于用来实现本发明实施方式的示例性服务器412的框图。图5显示的服务器412仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示，服务器412以通用服务器的形式表现。服务器412的组件可以包括但不限于：一个或者多个处理器416，存储装置428，连接不同系统组件(包括存储装置428和处理器416)的总线418。
总线418表示几类总线结构中的一种或多种，包括存储装置总线或者存储装置控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry SubversiveAlliance，ISA)总线，微通道体系结构(Micro Channel Architecture，MAC)总线，增强型ISA总线、视频电子标准协会(Video Electronics Standards Association，VESA)局域总线以及外围组件互连(Peripheral Component Interconnect，PCI)总线。
服务器412典型地包括多种计算机系统可读介质。这些介质可以是任何能够被服务器412访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
存储装置428可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(Random Access Memory，RAM)430和/或高速缓存存储器432。服务器412可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统434可以用于读写不可移动的、非易失性磁介质(图5未显示，通常称为“硬盘驱动器”)。尽管图5中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘，例如只读光盘(Compact Disc Read-Only Memory，CD-ROM),数字视盘(Digital Video Disc-Read Only Memory，DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线418相连。存储装置428可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块442的程序/实用工具440，可以存储在例如存储装置428中，这样的程序模块442包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块442通常执行本发明所描述的实施例中的功能和/或方法。
服务器412也可以与一个或多个外部设备414(例如键盘、指向终端、显示器424等)通信，还可与一个或者多个使得用户能与该服务器412交互的终端通信，和/或与使得该服务器412能与一个或多个其它计算终端进行通信的任何终端(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口422进行。并且，服务器412还可以通过网络适配器420与一个或者多个网络(例如局域网(Local Area Network，LAN)，广域网(Wide AreaNetwork，WAN)和/或公共网络，例如因特网)通信。如图5所示，网络适配器420通过总线418与服务器412的其它模块通信。应当明白，尽管图中未示出，可以结合服务器412使用其它硬件和/或软件模块，包括但不限于：微代码、终端驱动器、冗余处理器、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks，RAID)系统、磁带驱动器以及数据备份存储系统等。
处理器416通过运行存储在存储装置428中的程序，从而执行各种功能应用以及数据处理，例如实现本发明任意实施例所提供的基于隐空间的OOD检测方法，该方法可以包括：
获取待检测数据；
通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据；
在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果；
若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据。
实施例五
本发明实施例五还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例所提供的基于隐空间的OOD检测方法，该方法可以包括：
获取待检测数据；
通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据；
在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果；
若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是，但不限于，电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言(诸如Java、Smalltalk、C++)，还包括常规的过程式程序设计语言(诸如“C”语言或类似的程序设计语言)。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或终端上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络(包括局域网(LAN)或广域网(WAN))连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (8)

1.一种基于隐空间的OOD检测方法，其特征在于，包括：
获取待检测数据；
通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据；
在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果；
若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据；
其中，所述通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据之前，还包括：
搭建自编码器模型并设定模型参数；
获取训练样本；
通过所述自编码器模型基于所述模型参数对所述训练样本进行处理，得到模型输出数据；
根据所述训练样本和所述模型输出数据确定样本损失函数；
基于所述样本损失函数更新所述模型参数，返回获取训练样本的步骤，直至所述样本损失函数符合预设条件，得到训练好的自编码器模型，所述训练好的自编码器模型包括预设编码器；
其中，所述训练样本包括原始样本数据和原始样本类标，所述模型输出数据包括重构样本数据和预测样本类标；所述根据所述训练样本和所述模型输出数据确定样本损失函数包括：
根据所述原始样本数据和所述重构样本数据确定数据损失函数；
根据所述原始样本类标和所述预测样本类标确定类标损失函数；
根据所述数据损失函数和所述类标损失函数确定样本损失函数。
2.如权利要求1所述的方法，其特征在于，所述自编码器模型包括编码器、分类层和解码器，所述通过所述自编码器模型基于所述模型参数对所述训练样本进行处理，得到模型输出数据包括：
通过所述编码器对所述原始样本数据进行特征提取，得到隐变量；
通过解码器对所述隐变量进行重构，得到重构样本数据；
通过所述分类层对所述隐变量进行类标预测，得到预测样本类标。
3.如权利要求1所述的方法，其特征在于，所述在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果之前，还包括：
通过所述预设编码器对所述训练样本进行特征提取，得到样本分类数据；
通过所述样本分类数据分别对多个预设分类模型进行分类训练，得到训练好的多个预设单类别分类器。
4.如权利要求3所述的方法，其特征在于，所述通过所述样本分类数据分别对多个预设分类模型进行分类训练，得到训练好的多个预设单类别分类器包括：
通过训练好的自编码器确定所述训练样本的重构误差和类标误差；
根据所述重构误差和所述类标误差确定样本权重；
基于所述样本权重设定多个预设分类模型的初始化参数，并通过所述样本分类数据分别对确定初始化参数后的多个预设分类模型进行训练，得到训练好的多个预设单类别分类器。
5.如权利要求1所述的方法，其特征在于，所述若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据包括：
若所述多个分类结果中有预设数量的分类结果为不属于本类别，则确定所述待检测数据为分布外数据。
6.一种基于隐空间的OOD检测装置，其特征在于，包括：
待检测数据获取模块，用于获取待检测数据；
特征提取模块，用于通过预设编码器对所述待检测数据进行编码处理，以将所述待检测数据映射至所述预设编码器的隐藏特征空间，得到压缩特征数据；
分类模块，用于在所述隐藏特征空间中，通过多个预设单类别分类器确定所述压缩特征数据的多个分类结果；
数据检测模块，用于若所述多个分类结果符合预设条件，则确定所述待检测数据为分布外数据；
其中，所述基于隐空间的OOD检测装置还包括：
模型搭建模块，用于搭建自编码器模型并设定模型参数；
训练样本获取模块，用于获取训练样本；
自编码器模型训练模块，用于通过所述自编码器模型基于所述模型参数对所述训练样本进行处理，得到模型输出数据；
损失函数确定模块，用于根据所述训练样本和所述模型输出数据确定样本损失函数；
模型参数更新模块，用于基于所述样本损失函数更新所述模型参数，返回获取训练样本的步骤，直至所述样本损失函数符合预设条件，得到训练好的自编码器模型，所述训练好的自编码器模型包括预设编码器；
其中，所述自编码器模型包括编码器、分类层和解码器，所述训练样本包括原始样本数据和原始样本类标，所述模型输出数据包括重构样本数据和预测样本类标；所述损失函数确定模块包括：
数据损失函数确定单元，用于根据所述原始样本数据和所述重构样本数据确定数据损失函数；
类标损失函数确定单元，用于根据所述原始样本类标和所述预测样本类标确定类标损失函数；
样本损失函数确定单元，用于根据所述数据损失函数和所述类标损失函数确定样本损失函数。
7.一种服务器，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或至少一个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5中任一项所述的基于隐空间的OOD检测方法。
8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-5中任一项所述的基于隐空间的OOD检测方法。
CN202110298336.0A 2021-03-19 2021-03-19 基于隐空间的ood检测方法、装置、服务器及存储介质 Active CN113033817B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110298336.0A CN113033817B (zh) 2021-03-19 2021-03-19 基于隐空间的ood检测方法、装置、服务器及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110298336.0A CN113033817B (zh) 2021-03-19 2021-03-19 基于隐空间的ood检测方法、装置、服务器及存储介质

Publications (2)

Publication Number Publication Date
CN113033817A CN113033817A (zh) 2021-06-25
CN113033817B true CN113033817B (zh) 2023-04-28

Family

ID=76471939

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110298336.0A Active CN113033817B (zh) 2021-03-19 2021-03-19 基于隐空间的ood检测方法、装置、服务器及存储介质

Country Status (1)

Country Link
CN (1) CN113033817B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117235580A (zh) * 2023-09-26 2023-12-15 复旦大学 样本类型检测、类别置信度确定模型生成方法和装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11100399B2 (en) * 2017-11-21 2021-08-24 International Business Machines Corporation Feature extraction using multi-task learning
CN108881196B (zh) * 2018-06-07 2020-11-24 中国民航大学 基于深度生成模型的半监督入侵检测方法
CN108985330B (zh) * 2018-06-13 2021-03-26 华中科技大学 一种自编码网络及其训练方法、异常用电检测方法和系统
US11657269B2 (en) * 2019-05-23 2023-05-23 Salesforce.Com, Inc. Systems and methods for verification of discriminative models
CN110738573A (zh) * 2019-09-06 2020-01-31 平安医疗健康管理股份有限公司 基于分类器的数据处理方法、设备、存储介质及装置
CN110766056B (zh) * 2019-09-27 2022-05-06 中山大学 一种融合图像生成和多标签分类的异常图像检测方法
CN112488238B (zh) * 2020-12-14 2022-11-15 桂林电子科技大学 一种基于对抗自编码器的混合异常检测方法

Also Published As

Publication number Publication date
CN113033817A (zh) 2021-06-25

Similar Documents

Publication Publication Date Title
CN110245348B (zh) 一种意图识别方法及系统
CN111275175B (zh) 神经网络训练方法、装置、图像分类方法、设备和介质
CN110929802A (zh) 基于信息熵的细分类识别模型训练、图像识别方法及装置
CN111242291A (zh) 神经网络后门攻击的检测方法、装置和电子设备
CN111368878B (zh) 一种基于ssd目标检测的优化方法、计算机设备和介质
CN112149705A (zh) 分类模型的训练方法、系统、计算机设备及存储介质
CN113434683B (zh) 文本分类方法、装置、介质及电子设备
CN111125658B (zh) 识别欺诈用户的方法、装置、服务器和存储介质
CN111753863A (zh) 一种图像分类方法、装置、电子设备及存储介质
CN113033436B (zh) 障碍物识别模型训练方法及装置、电子设备、存储介质
CN111222981A (zh) 可信度确定方法、装置、设备和存储介质
CN116089648B (zh) 基于人工智能的档案管理系统及方法
CN111291902B (zh) 后门样本的检测方法、装置和电子设备
CN113762508A (zh) 一种图像分类网络模型的训练方法、装置、设备和介质
CN115080749B (zh) 一种基于自监督训练的弱监督文本分类方法、系统和装置
CN113033817B (zh) 基于隐空间的ood检测方法、装置、服务器及存储介质
CN113239883A (zh) 分类模型的训练方法、装置、电子设备以及存储介质
CN111738290B (zh) 图像检测方法、模型构建和训练方法、装置、设备和介质
CN114255381B (zh) 图像识别模型的训练方法、图像识别方法、装置及介质
CN114495114B (zh) 基于ctc解码器的文本序列识别模型校准方法
CN111242322B (zh) 后门样本的检测方法、装置和电子设备
CN116777814A (zh) 图像处理方法、装置、计算机设备、存储介质及程序产品
CN112966819B (zh) 分布外数据检测方法、装置、服务器及存储介质
CN111178630A (zh) 一种负荷预测方法及装置
CN112348045A (zh) 神经网络的训练方法、训练装置和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant