CN116702083A - 一种卫星遥测数据异常检测方法及系统 - Google Patents
一种卫星遥测数据异常检测方法及系统 Download PDFInfo
- Publication number
- CN116702083A CN116702083A CN202311003833.9A CN202311003833A CN116702083A CN 116702083 A CN116702083 A CN 116702083A CN 202311003833 A CN202311003833 A CN 202311003833A CN 116702083 A CN116702083 A CN 116702083A
- Authority
- CN
- China
- Prior art keywords
- data
- data points
- feature
- anomaly detection
- satellite telemetry
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 65
- 239000013598 vector Substances 0.000 claims abstract description 102
- 230000004927 fusion Effects 0.000 claims abstract description 36
- 238000000034 method Methods 0.000 claims abstract description 30
- 238000013144 data compression Methods 0.000 claims abstract description 23
- 238000010586 diagram Methods 0.000 claims abstract description 19
- 238000013507 mapping Methods 0.000 claims abstract description 17
- 238000000605 extraction Methods 0.000 claims description 25
- 230000006870 function Effects 0.000 claims description 12
- 238000013527 convolutional neural network Methods 0.000 claims description 5
- 230000009466 transformation Effects 0.000 claims 1
- 238000007906 compression Methods 0.000 abstract description 14
- 230000006835 compression Effects 0.000 abstract description 14
- 238000004364 calculation method Methods 0.000 abstract description 10
- 230000000694 effects Effects 0.000 abstract description 4
- 230000008569 process Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/2433—Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/254—Fusion techniques of classification results, e.g. of results related to same input data
- G06F18/256—Fusion techniques of classification results, e.g. of results related to same input data of results relating to different input data, e.g. multimodal recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Processing (AREA)
Abstract
本发明涉及卫星遥感技术领域,具体涉及一种卫星遥测数据异常检测方法及系统,卫星遥测数据异常检测方法通过将原始数据点映射到特征空间,并对得到的第一特征向量的集合进行数据压缩后进行解码和重建,提升了卫星遥测数据的压缩效果,且计算复杂度和数据重建的复杂性较低,同时减小了后续的计算量;通过对压缩后的原始数据点中的各个类型的数据进行融合,提高了特征信息的丰富度,从而提升了后续异常检测的准确性和可靠性;通过将融合数据划分为多个伪周期并构建各个伪周期对应的相位平面轨迹图,根据第二特征向量选择对应的异常检测算法进行异常检测,进一步提升了卫星遥测数据异常检测的准确性和可靠性,且具有快速高效的检测效率。
Description
技术领域
本发明涉及卫星遥感技术领域,尤其是一种卫星遥测数据异常检测方法及系统。
背景技术
卫星遥感技术通过卫星传感器获取地球表面的大范围、连续的观测数据,广泛应用于气象、环境监测、资源管理、灾害监测等领域。随着遥感技术的发展,获取到的遥测数据量不断增加,形成了大规模的遥测数据集。然而,遥测数据中可能存在着各种类型的异常,会降低数据的可靠性和应用效果。同时,大规模的遥测数据集具有数据量大、数据类型丰富、无用信息较多等特点,并且卫星遥测数据是多模态异构的多源数据,无法直接进行处理或检测,这为卫星遥测数据的异常检测带来了巨大挑战。现有的卫星遥测数据异常检测方法在对卫星遥测数据进行数据压缩时无法在保证压缩效果的同时具备较低的计算复杂度,且数据重建的难度较高,从而降低了卫星遥测数据异常检测的整体效率;此外,现有的卫星遥测数据异常检测方法包括统计学、机器学习和数据建模,这些检测方法在面对具有复杂的空间和时间变化特征的卫星遥测数据时计算复杂度较高,且异常检测的准确性和可靠性较低。
发明内容
为解决上述现有技术问题,本发明提供卫星遥测数据异常检测方法及系统,提升了卫星遥测数据异常检测准确性、可靠性和效率。
为了达到上述技术目的,本申请实施例所采取的技术方案包括:
第一方面,本申请实施例提供了一种卫星遥测数据异常检测方法,包括以下步骤:
通过预设的映射模型将获取到的卫星遥测数据的原始数据点映射到特征空间,得到原始数据点的集合对应的第一特征向量的集合;
对第一特征向量的集合进行数据压缩,得到压缩特征向量集合;
对压缩特征向量集合进行解码,得到压缩后的原始数据点;
对压缩后的原始数据点中的各个类型的数据进行融合,得到融合数据;
将融合数据划分为多个伪周期,并根据各个伪周期中的数据点构建各个伪周期对应的相位平面轨迹图;
根据从各个相位平面轨迹图提取的第二特征向量,选择对应的异常检测算法进行卫星遥测数据的异常检测。
另外,根据本申请上述实施例的一种卫星遥测数据异常检测方法,还可以具有以下附加的技术特征:
进一步地,本申请实施例的一种卫星遥测数据异常检测方法中,通过预设的映射模型将获取到的卫星遥测数据的原始数据点映射到特征空间,得到原始数据点的集合对应的第一特征向量的集合,包括:
采用预训练好的卷积神经网络对第一原始数据进行特征提取,得到第三特征向量,第一原始数据为卫星遥测数据中的图像数据对应的原始数据点;
采用预训练好的长短期记忆模型对第二原始数据进行特征提取,得到第四特征向量,第二原始数据为卫星遥测数据中的文字数据对应的原始数据点;
将各个第三特征向量与对应的第四特征向量进行融合,得到多个第五特征向量;
采用长短期记忆模型对各个第五特征向量进行特征提取,得到第一特征向量的集合。
进一步地,在本申请的一个实施例中,对压缩特征向量集合进行解码,得到压缩后的原始数据点,包括:
提取压缩特征向量集合的低维特征表示;
采用预设的特征解码函数对低维特征表示进行解码,得到压缩后的所述原始数据点。
进一步地,在本申请的一个实施例中,对压缩后的原始数据点中的各个类型的数据进行融合,得到融合数据,包括:
采用预设的多模态数据融合网络对压缩后的原始数据点中的各个类型的数据进行融合,得到融合数据,多模态数据融合网络中设置有多源异构融合模块,多源异构融合模块用于将压缩后的原始数据点中的各个类型的数据在标记级别上自适应结合对应的特征数据点。
进一步地,在本申请的一个实施例中,多源异构融合模块设置于多模态数据融合网络的任意网络层。
进一步地,在本申请的一个实施例中,将融合数据划分为多个伪周期,并根据各个伪周期中的数据点构建各个伪周期对应的相位平面轨迹图,包括:
将融合数据划分为多个伪周期后,获取各个伪周期中的数据点的相位;
根据相位构建各个伪周期对应的相位平面轨迹图。
进一步地,在本申请的一个实施例中,获取各个伪周期中的数据点的相位,包括:
对各个伪周期中的数据点进行傅里叶变换,得到各个伪周期对应的频域信号;
根据频域信号获取各个伪周期中的数据点的相位。
进一步地,在本申请的一个实施例中,第二特征向量的提取方法包括统计特征提取方法、频域特征提取方法和时域特征提取方法。
进一步地,在本申请的一个实施例中,根据从各个相位平面轨迹图提取的第二特征向量,选择对应的异常检测算法进行卫星遥测数据的异常检测,包括:
结合变分自编码器和聚类算法对各个相位平面轨迹图进行异常检测。
第二方面,本申请实施例提出了一种卫星遥测数据异常检测系统,包括:
数据压缩模块;
多模态数据融合模块;
异常检测模块;
数据压缩模块通过预设的映射模型将获取到的卫星遥测数据的原始数据点映射到特征空间,得到原始数据点的集合对应的第一特征向量的集合;对第一特征向量的集合进行数据压缩,得到压缩特征向量集合;对压缩特征向量集合进行解码,得到压缩后的原始数据点;
多模态数据融合模块对压缩后的原始数据点中的各个类型的数据进行融合,得到融合数据;
异常检测模块将融合数据划分为多个伪周期,并根据各个伪周期中的数据点构建各个伪周期对应的相位平面轨迹图;根据从各个相位平面轨迹图提取的第二特征向量,选择对应的异常检测算法进行卫星遥测数据的异常检测。
本发明的有益效果体现在,通过将获取到的卫星遥测数据的原始数据点映射到特征空间,并对得到的第一特征向量的集合进行数据压缩后进行解码和重建,提升了卫星遥测数据的压缩效果,且计算复杂度和数据重建的难度较低,同时减小了后续的计算量,提高了异常检测效率;通过对压缩后的原始数据点中的各个类型的数据进行融合,提高了特征信息的丰富度,实现了对多源异构的卫星遥测数据的尺度和表现形式的统一,从而提升了后续异常检测的准确性和可靠性;通过将融合数据划分为多个伪周期,并根据各个伪周期中的数据点构建各个伪周期对应的相位平面轨迹图,根据从各个相位平面轨迹图提取的第二特征向量选择对应的异常检测算法进行异常检测,进一步提升了卫星遥测数据异常检测的准确性和可靠性,且具有快速高效的检测效率。
附图说明
图1为本发明所提供的一种卫星遥测数据异常检测方法具体实施例的流程示意图;
图2为本发明所提供的一种卫星遥测数据异常检测系统具体实施例的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
参照图1,本申请实施例中的一种卫星遥测数据异常检测方法,包括以下步骤:
S101、通过预设的映射模型将获取到的卫星遥测数据的原始数据点映射到特征空间,得到原始数据点的集合对应的第一特征向量的集合。
其中,卫星遥测数据具有数据量大、数据类型丰富、无用信息较多等特点,为卫星遥测数据的处理带来了巨大挑战。传统的卫星遥测数据压缩方法通常采用无损压缩算法或者有损压缩算法,其中,无损压缩算法,如Huffman编码和Lempel-Ziv编码,在对卫星遥测数据进行数据压缩时不丢失任何信息,但计算的复杂度较高,且压缩后的数据需要进行解码和重建,需要较长的处理时间和较多的计算资源;有损压缩算法,如空间域压缩、变换域压缩和预测编码,在对卫星遥测数据进行压缩时会舍弃一部分数据细节和精度以获得更高的压缩比,但压缩质量较低,从而降低了数据的准确性和可靠性。因此,本申请实施例通过将获取到的卫星遥测数据的原始数据点映射到特征空间得到第一特征向量的集合,并在后续对第一特征向量的集合进行数据压缩,能够有效降低数据压缩过程的计算复杂性,且具有较高的压缩质量,同时后续对压缩后的特征向量进行特征解码即可实现数据的解码和重建,难度较低,提升了后续的数据处理效率,从而提升了卫星遥测数据异常检测的整体效率。
具体地,采用特征提取方法提取获取到的卫星遥测数据的特征,将卫星遥测数据的转换为特征集合。可选地,卫星遥测数据的原始数据点表示为,通过特征提取函数(映射模型)/>进行特征提取,得到第一特征向量的集合/>,具体表示为:
其中,i表示时间步。
可选地,步骤S101可以进一步划分为步骤S1011-S1014:
步骤S1011、采用预训练好的卷积神经网络对第一原始数据进行特征提取,得到第三特征向量。
其中,第一原始数据为卫星遥测数据中的图像数据对应的原始数据点。
步骤S1012、采用预训练好的长短期记忆模型对第二原始数据进行特征提取,得到第四特征向量。
其中,第二原始数据为卫星遥测数据中的文字数据对应的原始数据点。
步骤S1013、将各个第三特征向量与对应的第四特征向量进行融合,得到多个第五特征向量。
步骤S1014、采用长短期记忆模型对各个第五特征向量进行特征提取,得到第一特征向量的集合。
可以理解的是,卫星遥测数据包括若干个图像数据以及对应的文字数据,其中图像数据是结构化数据,文字数据是序列数据。若直接对卫星遥测数据进行特征提取,所提取到的特征向量是不准确的。因此,本申请实施例采用卷积神经网络(CNN)进行卫星遥测数据中各图像数据的特征提取,得到图像数据对应的高维的特征向量(第三特征向量),采用长短期记忆模型(LSTM)对卫星遥测数据中的各文字数据进行特征提取,得到文字数据对应的高维的特征向量(第四特征向量),然后融合第三特征向量和第四特征向量,并进一步采用LSTM进行复合特征提取,最终得到第一特征向量的集合,能够更加准确地提取卫星遥测数据的特征向量。
可选地,在一些实施例中,在采用LSTM对第五特征向量进行特征提取时,LSTM根据第五特征向量和上一个时间步的隐藏状态来计算模型中的输入门、遗忘门、输出门和候选细胞状态,然后根据输入门、遗忘门、输出门和候选细胞状态计算隐藏状态,最终得到的隐藏状态序列为第一特征向量的集合的最终表现。
S102、对第一特征向量的集合进行数据压缩,得到压缩特征向量集合。
可以理解的是,步骤S101得到的第一特征向量具有较低的维度和较少的信息量。为了进一步减小数据量,减小后续的计算量,本申请实施例采用数据压缩算法对第一特征向量的集合进行数据压缩,得到压缩特征向量集合。
可选地,在一些实施例中,数据压缩算法可选用哈夫曼编码、Lempel-Ziv编码或者离散余弦变换(DCT)。
S103、对压缩特征向量集合进行解码,得到压缩后的原始数据点。
可以理解的是,步骤S101和步骤S102是在特征空间对卫星遥测数据的原始数据点对应的特征向量进行数据压缩,还需要对压缩后得到的压缩特征向量集合进行解码和重建。具体地,本申请实施例采用特征解码函数对压缩特征向量集合中的各个特征向量进行解码,重建成原始数据空间的数据点,从而得到压缩后的原始数据点。
可选地,在一些实施例中,步骤S103可以进一步划分为步骤S1031-S1032:
步骤S1031、提取压缩特征向量集合的低维特征表示。
步骤S1032、采用预设的特征解码函数对低维特征表示进行解码,得到压缩后的原始数据点。
其中,低维特征表示包含了卫星遥测数据的原始数据点的重要特征,为显著点逆特征,通过解码器(预设的特征解码函数)进行特征解码即可得到原始数据空间的数据点,即压缩后的原始数据点。
可选地,在一些实施例中,压缩后的原始数据点:
其中,Wd为解码器的权重矩阵,bd为解码器的偏差项,Z为低维特征表示。
S104、对压缩后的原始数据点中的各个类型的数据进行融合,得到融合数据。
可以理解的是,卫星遥测数据是多模态异构的多源数据,无法直接进行处理或检测,并且卫星遥测数据中包括多种类型的数据,比如地理位置信息的数据、包含辐射信息的数据、包含时间信息的数据以及包含其他参数信息的数据。本申请实施例通过对压缩后的原始数据点中的各个类型的数据进行融合,提高了特征信息的丰富度,实现了对多源异构的卫星遥测数据的尺度和表现形式的统一,使得后续能够基于尺度和表现形式统一的融合数据进行卫星遥测数据的异常检测,同时提升了异常检测的准确性和可靠性。
可选地,在一些实施例中,采用预设的多模态数据融合网络对压缩后的原始数据点中的各个类型的数据进行融合,得到融合数据。
其中,多模态数据融合网络中设置有多源异构融合模块(IntermediateMultimodal Fusion Module,IMFM),多源异构融合模块用于将压缩后的原始数据点中的各个类型的数据在标记级别上自适应结合对应的特征数据点。
具体地,在本申请的实施例中,IMFM利用一个额外的中间标记,通过自我注意机制,在标记级别上自适应地结合地理信息特征数据点、时空信息特征数据点、RGB和高度特征数据点(辐射信息)。
进一步说明的是,IMFM是以一种分层的方式设计的。中间标记首先通过将中间标记输入一个多层自注意(MSA)模块来提取全局多模态特征,得到输出中间标记,并将输出中间标记分别连接到每个模态的标记上。然后,利用单块Transformer层,通过自注意模块进一步将输出中间标记与模式特异性标记相融合。形式上,IMFM的第一阶段将两种模式的中间标记和模式特异性标记作为单块Transformer层的输入,可以表述为:
其中,TL是Transforfer模块,是输出特性。||是连接操作。通过根据标记的数量对/>进行切片,可以得到包括/>(地理信息模态、时空信息模态)、/>(RGB模态)和输出中间标记的输出特征。然后,通过将输出中间标记分别与地理信息模态、时空信息模态、RGB模态进行融合,得到IMFM模块的最终输出特征。可以表述为:
可选地,在一些实施例中,IMFM设置于多模态数据融合网络的任意网络层。
S105、将融合数据划分为多个伪周期,并根据各个伪周期中的数据点构建各个伪周期对应的相位平面轨迹图。
具体地,本申请实施例以每个伪周期为基本分析单元,根据各个伪周期中的数据点构建各个伪周期对应的相位平面轨迹图,其中相位平面轨迹图中包含了对应的各个伪周期中的数据点的相位信息。
可选地,在一些实施例中,各个伪周期对应的相位平面轨迹图的构建步骤具体包括:
1)将融合数据划分为多个伪周期后,获取各个伪周期中的数据点的相位;
2)根据相位构建各个伪周期对应的相位平面轨迹图。
可选地,在一些实施例中,首先对各个伪周期中的数据点进行傅里叶变换,得到各个伪周期对应的频域信号,然后根据频域信号获取各个伪周期中的数据点的相位。
可选地,在一些实施例中,显示构建得到的相位平面轨迹图,以便直观地体现各个伪周期中的数据点的相位信息。
S106、根据从各个相位平面轨迹图提取的第二特征向量,选择对应的异常检测算法进行卫星遥测数据的异常检测。
其中,第二特征向量为对应的伪周期的特征表示,基于第二特征向量选择对应的异常检测算法进行卫星遥测数据的异常检测。
可选地,在一些实施例中,第二特征向量的提取方法包括统计特征提取方法、频域特征提取方法和时域特征提取方法。
可选地,在一些实施例中,选择对应的异常检测算法进行卫星遥测数据的异常检测具体包括:结合变分自编码器(Variational Autoencoder, VAE)和聚类算法对各个相位平面轨迹图进行异常检测。可以理解的是,VAE是一种生成模型,结合了自编码器(Autoencoder)和概率模型的思想。通过学习数据的分布能够在编码过程中学习到数据的特征表示,并且可以在解码过程中生成新的样本。在本申请的一些实施例中,VAE由编码器(Encoder)和解码器(Decoder)两部分组成,其中编码器用于将输入的特征向量(第二特征向量)映射为潜在变量,该潜在变量为一个均值和一个方差所组成的向量;解码器用于将潜在变量映射回原始特征向量,即原始特征向量的重建过程。
在本申请的一些实施例中,VAE的训练目标是最大化下界(Evidence LowerBound, ELBO),即最小化重建误差和潜在空间的正则项。
其中,KL表示KL散度,用于衡量潜在空间与先验分布p(z)之间的距离。通过梯度下降优化这个损失函数,可以得到适合于数据fi(Xi)的潜在空间表示。
在得到所有伪周期的特征向量表示后,即提取到第二特征向量后,将第二特征向量组成特征矩阵。然后,使用K均值聚类算法对特征矩阵进行聚类,将伪周期分成K个簇。对于每个伪周期Xi,根据聚类结果,可以知道它所属的簇。如果某个伪周期被分配到与其他伪周期明显不同的簇中,该伪周期可能是异常伪周期。
综上所述,上述步骤S101-S106的卫星遥测数据异常检测方法,通过将获取到的卫星遥测数据的原始数据点映射到特征空间,并对得到的第一特征向量的集合进行数据压缩后进行解码和重建,提升了卫星遥测数据的压缩效果,且计算复杂度和数据重建的难度较低,同时减小了后续的计算量,提高了异常检测效率;通过对压缩后的原始数据点中的各个类型的数据进行融合,提高了特征信息的丰富度,实现了对多源异构的卫星遥测数据的尺度和表现形式的统一,从而提升了后续异常检测的准确性和可靠性;通过将融合数据划分为多个伪周期,并根据各个伪周期中的数据点构建各个伪周期对应的相位平面轨迹图,根据从各个相位平面轨迹图提取的第二特征向量选择对应的异常检测算法进行异常检测,进一步提升了卫星遥测数据异常检测的准确性和可靠性,且具有快速高效的检测效率。
其次,参照附图描述根据本申请实施例提出的一种卫星遥测数据异常检测系统。
图2是本申请一个实施例的一种卫星遥测数据异常检测系统结构示意图。
系统具体包括:
数据压缩模块201;
多模态数据融合模块202;
异常检测模块203;
数据压缩模块201通过预设的映射模型将获取到的卫星遥测数据的原始数据点映射到特征空间,得到原始数据点的集合对应的第一特征向量的集合;对第一特征向量的集合进行数据压缩,得到压缩特征向量集合;对压缩特征向量集合进行解码,得到压缩后的原始数据点;
多模态数据融合模块202对压缩后的原始数据点中的各个类型的数据进行融合,得到融合数据;
异常检测模块203将融合数据划分为多个伪周期,并根据各个伪周期中的数据点构建各个伪周期对应的相位平面轨迹图;根据从各个相位平面轨迹图提取的第二特征向量,选择对应的异常检测算法进行卫星遥测数据的异常检测。
可见,上述方法实施例中的内容均适用于本系统实施例中,本系统实施例所具体实现的功能与上述方法实施例相同,并且达到的有益效果与上述方法实施例所达到的有益效果也相同。
在一些可选择的实施例中,在方框图中提到的功能/操作可以不按照操作示图提到的顺序发生。例如,取决于所涉及的功能/操作,连续示出的两个方框实际上可以被大体上同时地执行或所述方框有时能以相反顺序被执行。此外,在本申请的流程图中所呈现和描述的实施例以示例的方式被提供,目的在于提供对技术更全面的理解。所公开的方法不限于本文所呈现的操作和逻辑流程。可选择的实施例是可预期的,其中各种操作的顺序被改变以及其中被描述为较大操作的一部分的子操作被独立地执行。
此外,虽然在功能性模块的背景下描述了本申请,但应当理解的是,除非另有相反说明,功能和/或特征中的一个或多个可以被集成在单个物理装置和/或软件模块中,或者一个或多个功能和/或特征可以在单独的物理装置或软件模块中被实现。还可以理解的是,有关每个模块的实际实现的详细讨论对于理解本申请是不必要的。更确切地说,考虑到在本文中公开的装置中各种功能模块的属性、功能和内部关系的情况下,在工程师的常规技术内将会了解该模块的实际实现。因此,本领域技术人员运用普通技术就能够在无需过度试验的情况下实现在权利要求书中所阐明的本申请。还可以理解的是,所公开的特定概念仅仅是说明性的,并不意在限制本申请的范围,本申请的范围由所附权利要求书及其等同方案的全部范围来决定。
应当理解,本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的程序执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
在本发明的实施例的描述中,需要理解的是,术语“上”、“下”、“前”、“后”、“左”、“右”、“坚直”、“水平”、“中心”、“顶”、“底”、“顶部”、“底部”、“内”、“外”、“内侧”、“外侧”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。其中,“里侧”是指内部或围起来的区域或空间。“外围”是指某特定部件或特定区域的周围的区域。
在本发明的实施例的描述中,术语“第一”、“第二”、“第三”、“第四”仅用以描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”、“第三”、“第四”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,除非另有说明,“多个”的含义是两个或两个以上。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
在本发明的实施例的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“组装”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
在本发明的实施例的描述中,具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
在本发明的实施例的描述中,需要理解的是,“-”和“~”表示的是两个数值之同的范围,并且该范围包括端点。例如:“A-B”表示大于或等于A,且小于或等于B的范围。“A~B”表示大于或等于A,且小于或等于B的范围。
在本发明的实施例的描述中,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。
Claims (10)
1.一种卫星遥测数据异常检测方法,其特征在于,包括以下步骤:
通过预设的映射模型将获取到的卫星遥测数据的原始数据点映射到特征空间,得到所述原始数据点的集合对应的第一特征向量的集合;
对所述第一特征向量的集合进行数据压缩,得到压缩特征向量集合;
对所述压缩特征向量集合进行解码,得到压缩后的所述原始数据点;
对压缩后的所述原始数据点中的各个类型的数据进行融合,得到融合数据;
将所述融合数据划分为多个伪周期,并根据各个所述伪周期中的数据点构建各个所述伪周期对应的相位平面轨迹图;
根据从各个所述相位平面轨迹图提取的第二特征向量,选择对应的异常检测算法进行所述卫星遥测数据的异常检测。
2.根据权利要求1所述的一种卫星遥测数据异常检测方法,其特征在于,所述通过预设的映射模型将获取到的卫星遥测数据的原始数据点映射到特征空间,得到所述原始数据点的集合对应的第一特征向量的集合,包括:
采用预训练好的卷积神经网络对第一原始数据进行特征提取,得到第三特征向量,所述第一原始数据为所述卫星遥测数据中的图像数据对应的原始数据点;
采用预训练好的长短期记忆模型对第二原始数据进行特征提取,得到第四特征向量,所述第二原始数据为所述卫星遥测数据中的文字数据对应的原始数据点;
将各个所述第三特征向量与对应的所述第四特征向量进行融合,得到多个第五特征向量;
采用所述长短期记忆模型对各个所述第五特征向量进行特征提取,得到所述第一特征向量的集合。
3.根据权利要求1所述的一种卫星遥测数据异常检测方法,其特征在于,所述对所述压缩特征向量集合进行解码,得到压缩后的所述原始数据点,包括:
提取所述压缩特征向量集合的低维特征表示;
采用预设的特征解码函数对所述低维特征表示进行解码,得到压缩后的所述原始数据点。
4.根据权利要求1所述的一种卫星遥测数据异常检测方法,其特征在于,所述对压缩后的所述原始数据点中的各个类型的数据进行融合,得到融合数据,包括:
采用预设的多模态数据融合网络对压缩后的所述原始数据点中的各个类型的数据进行融合,得到所述融合数据,所述多模态数据融合网络中设置有多源异构融合模块,所述多源异构融合模块用于将压缩后的所述原始数据点中的各个类型的数据在标记级别上自适应结合对应的特征数据点。
5.根据权利要求4所述的一种卫星遥测数据异常检测方法,其特征在于,所述多源异构融合模块设置于所述多模态数据融合网络的任意网络层。
6.根据权利要求1所述的一种卫星遥测数据异常检测方法,其特征在于,所述将所述融合数据划分为多个伪周期,并根据各个所述伪周期中的数据点构建各个所述伪周期对应的相位平面轨迹图,包括:
将所述融合数据划分为多个所述伪周期后,获取各个所述伪周期中的数据点的相位;
根据所述相位构建各个所述伪周期对应的相位平面轨迹图。
7.根据权利要求6所述的一种卫星遥测数据异常检测方法,其特征在于,所述获取各个所述伪周期中的数据点的相位,包括:
对各个所述伪周期中的数据点进行傅里叶变换,得到各个所述伪周期对应的频域信号;
根据所述频域信号获取各个所述伪周期中的数据点的相位。
8.根据权利要求1所述的一种卫星遥测数据异常检测方法,其特征在于,所述第二特征向量的提取方法包括统计特征提取方法、频域特征提取方法和时域特征提取方法。
9.根据权利要求1所述的一种卫星遥测数据异常检测方法,其特征在于,所述根据从各个所述相位平面轨迹图提取的第二特征向量,选择对应的异常检测算法进行所述卫星遥测数据的异常检测,包括:
结合变分自编码器和聚类算法对各个所述相位平面轨迹图进行异常检测。
10.一种卫星遥测数据异常检测系统,其特征在于,包括:
数据压缩模块;
多模态数据融合模块;
异常检测模块;
所述数据压缩模块通过预设的映射模型将获取到的卫星遥测数据的原始数据点映射到特征空间,得到所述原始数据点的集合对应的第一特征向量的集合;对所述第一特征向量的集合进行数据压缩,得到压缩特征向量集合;对所述压缩特征向量集合进行解码,得到压缩后的所述原始数据点;
所述多模态数据融合模块对压缩后的所述原始数据点中的各个类型的数据进行融合,得到融合数据;
所述异常检测模块将所述融合数据划分为多个伪周期,并根据各个所述伪周期中的数据点构建各个所述伪周期对应的相位平面轨迹图;根据从各个所述相位平面轨迹图提取的第二特征向量,选择对应的异常检测算法进行所述卫星遥测数据的异常检测。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311003833.9A CN116702083B (zh) | 2023-08-10 | 2023-08-10 | 一种卫星遥测数据异常检测方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311003833.9A CN116702083B (zh) | 2023-08-10 | 2023-08-10 | 一种卫星遥测数据异常检测方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116702083A true CN116702083A (zh) | 2023-09-05 |
CN116702083B CN116702083B (zh) | 2023-12-26 |
Family
ID=87834337
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311003833.9A Active CN116702083B (zh) | 2023-08-10 | 2023-08-10 | 一种卫星遥测数据异常检测方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116702083B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117395381A (zh) * | 2023-12-12 | 2024-01-12 | 上海卫星互联网研究院有限公司 | 一种遥测数据的压缩方法、装置及设备 |
CN117749253A (zh) * | 2024-02-06 | 2024-03-22 | 上海卫星互联网研究院有限公司 | 一种遥测数据压缩方法、卫星及地面设备 |
CN117992775A (zh) * | 2024-04-07 | 2024-05-07 | 武昌首义学院 | 一种卫星情报与训练数据能效管理与优化方法及系统 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180367797A1 (en) * | 2015-12-15 | 2018-12-20 | Nippon Telegraph And Telephone Corporation | Image difference detection device, method for detecting image difference, and computer program |
CN109948117A (zh) * | 2019-03-13 | 2019-06-28 | 南京航空航天大学 | 一种对抗网络自编码器的卫星异常检测方法 |
CN112232447A (zh) * | 2020-12-14 | 2021-01-15 | 国网江西省电力有限公司电力科学研究院 | 一种电力设备状态监测数据的完整样本集的构建方法 |
CN114065862A (zh) * | 2021-11-18 | 2022-02-18 | 南京航空航天大学 | 一种多维时序数据异常检测方法和系统 |
CN114782694A (zh) * | 2022-06-21 | 2022-07-22 | 中国科学技术大学 | 无监督异常检测方法、系统、设备及存储介质 |
CN115169430A (zh) * | 2022-04-27 | 2022-10-11 | 北京理工大学 | 基于多尺度解码的云网端资源多维时间序列异常检测方法 |
CN115222141A (zh) * | 2022-07-29 | 2022-10-21 | 湖南第一师范学院 | 一种多变量时序异常检测方法、系统、介质、设备及终端 |
CN116304884A (zh) * | 2023-05-11 | 2023-06-23 | 西安衍舆航天科技有限公司 | 航天器遥测数据健康预测方法、系统、设备及存储介质 |
CN116471307A (zh) * | 2023-06-20 | 2023-07-21 | 北京中科朗易科技有限责任公司 | 物联网异构数据级联传输方法、装置、设备及介质 |
-
2023
- 2023-08-10 CN CN202311003833.9A patent/CN116702083B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180367797A1 (en) * | 2015-12-15 | 2018-12-20 | Nippon Telegraph And Telephone Corporation | Image difference detection device, method for detecting image difference, and computer program |
CN109948117A (zh) * | 2019-03-13 | 2019-06-28 | 南京航空航天大学 | 一种对抗网络自编码器的卫星异常检测方法 |
CN112232447A (zh) * | 2020-12-14 | 2021-01-15 | 国网江西省电力有限公司电力科学研究院 | 一种电力设备状态监测数据的完整样本集的构建方法 |
CN114065862A (zh) * | 2021-11-18 | 2022-02-18 | 南京航空航天大学 | 一种多维时序数据异常检测方法和系统 |
CN115169430A (zh) * | 2022-04-27 | 2022-10-11 | 北京理工大学 | 基于多尺度解码的云网端资源多维时间序列异常检测方法 |
CN114782694A (zh) * | 2022-06-21 | 2022-07-22 | 中国科学技术大学 | 无监督异常检测方法、系统、设备及存储介质 |
CN115222141A (zh) * | 2022-07-29 | 2022-10-21 | 湖南第一师范学院 | 一种多变量时序异常检测方法、系统、介质、设备及终端 |
CN116304884A (zh) * | 2023-05-11 | 2023-06-23 | 西安衍舆航天科技有限公司 | 航天器遥测数据健康预测方法、系统、设备及存储介质 |
CN116471307A (zh) * | 2023-06-20 | 2023-07-21 | 北京中科朗易科技有限责任公司 | 物联网异构数据级联传输方法、装置、设备及介质 |
Non-Patent Citations (2)
Title |
---|
HAIXU JIANG等: "Anomaly detection and identification in satellite telemetry data based on pseudo-period", 《APPLIED SCIENCES》, vol. 10, no. 1, pages 1 - 20 * |
XIXUAN WANG等: "Variational transformer-based anomaly detection approach for multivariate time series", 《MEASUREMENT》, vol. 191, pages 1 - 17 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117395381A (zh) * | 2023-12-12 | 2024-01-12 | 上海卫星互联网研究院有限公司 | 一种遥测数据的压缩方法、装置及设备 |
CN117395381B (zh) * | 2023-12-12 | 2024-03-12 | 上海卫星互联网研究院有限公司 | 一种遥测数据的压缩方法、装置及设备 |
CN117749253A (zh) * | 2024-02-06 | 2024-03-22 | 上海卫星互联网研究院有限公司 | 一种遥测数据压缩方法、卫星及地面设备 |
CN117749253B (zh) * | 2024-02-06 | 2024-05-10 | 上海卫星互联网研究院有限公司 | 一种遥测数据压缩方法、卫星及地面设备 |
CN117992775A (zh) * | 2024-04-07 | 2024-05-07 | 武昌首义学院 | 一种卫星情报与训练数据能效管理与优化方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN116702083B (zh) | 2023-12-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116702083B (zh) | 一种卫星遥测数据异常检测方法及系统 | |
Huang et al. | Octsqueeze: Octree-structured entropy model for lidar compression | |
CN110059772B (zh) | 基于多尺度解码网络的遥感图像语义分割方法 | |
Wiesmann et al. | Deep compression for dense point cloud maps | |
US10511696B2 (en) | System and method for aggregation, archiving and compression of internet of things wireless sensor data | |
CN104541308B (zh) | 使用多边形的3d网格和对应纹理对图像进行编码的方法和装置 | |
CN108882020A (zh) | 一种视频信息处理方法、装置及系统 | |
CN113159056B (zh) | 图像分割方法、装置、设备及存储介质 | |
CN111860233B (zh) | 基于选择注意力网络的sar图像复杂建筑物提取方法及系统 | |
CN115393540A (zh) | 基于深度学习的三维海洋环境场的智能融合方法及系统 | |
CN114460555B (zh) | 一种雷达回波外推方法、装置及存储介质 | |
CN112598053A (zh) | 基于半监督学习的主动显著性目标检测方法 | |
CN114120361B (zh) | 一种基于编解码结构的人群计数定位方法 | |
CN116205962B (zh) | 基于完整上下文信息的单目深度估计方法及系统 | |
CN115131281A (zh) | 变化检测模型训练和图像变化检测方法、装置及设备 | |
CN117079163A (zh) | 一种基于改进yolox-s的航拍图像小目标检测方法 | |
CN116229106A (zh) | 一种基于双u结构的视频显著性预测方法 | |
CN115905838A (zh) | 一种视听辅助的细粒度触觉信号重建方法 | |
Liu et al. | A survey on semantic communications: technologies, solutions, applications and challenges | |
CN114385619B (zh) | 一种多通道海洋观测时序标量数据缺失值预测方法及系统 | |
CN111428751B (zh) | 基于压缩感知和卷积网络的物体检测方法 | |
CN115115819A (zh) | 面向装配顺序监测的图像多视角语义变化检测网络及方法 | |
CN117152449A (zh) | 一种异常识别的方法、装置和设备及计算机存储介质 | |
Kamble et al. | 3D Image reconstruction using C-dual attention network from multi-view images | |
CN116977703A (zh) | 基于人工智能的异常检测方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |