CN110427996A - 基于模糊匹配的时间序列异常模式识别方法及装置 - Google Patents
基于模糊匹配的时间序列异常模式识别方法及装置 Download PDFInfo
- Publication number
- CN110427996A CN110427996A CN201910673710.3A CN201910673710A CN110427996A CN 110427996 A CN110427996 A CN 110427996A CN 201910673710 A CN201910673710 A CN 201910673710A CN 110427996 A CN110427996 A CN 110427996A
- Authority
- CN
- China
- Prior art keywords
- time series
- segment
- processing
- data
- noise
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2468—Fuzzy queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Fuzzy Systems (AREA)
- General Physics & Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Automation & Control Theory (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于模糊匹配的时间序列异常模式识别方法及装置,其中,方法包括以下步骤:对原始时间序列进行缺失值处理、白噪声处理及离群点处理,以得到满足预设条件的时间序列;检测满足预设条件的时间序列中的转折点,以将满足预设条件的时间序列分为多个节段化子序列;根据每个节段化子序列的起始和结束点查找得到的序列节段,并通过DTW算法进行匹配,得到匹配结果。该方法可以不需要精确定义所有异常的模式,仅通过少量模板即可搜索到感兴趣的模式片段,且可以实现在合适尺度和有效性基础上进行序列模式搜索的目的。
Description
技术领域
本发明涉及数据处理技术领域,特别涉及一种基于模糊匹配的时间序列异常模式识别方法及装置。
背景技术
在时域天文学中,需要处理大量的星等亮度时间序列数据,其中诸多的光变亮度异常代表着有研究价值的天文现象,例如,微引力透镜现象和恒星耀发现象,二者的光变都有较为准确的数学模型描述。但是,相关技术中还无法的对诸多的光变亮度异常进行有效的识别。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的一个目的在于提出一种基于模糊匹配的时间序列异常模式识别方法,该方法可以实现在合适尺度和有效性基础上进行序列模式搜索的目的。
本发明的另一个目的在于提出一种基于模糊匹配的时间序列异常模式识别装置。
为达到上述目的,本发明一方面实施例提出了一种基于模糊匹配的时间序列异常模式识别方法,包括以下步骤:对原始时间序列进行缺失值处理、白噪声处理及离群点处理,以得到满足预设条件的时间序列;检测所述满足预设条件的时间序列中的转折点,以将所述满足预设条件的时间序列分为多个节段化子序列;根据每个节段化子序列的起始和结束点查找得到的序列节段,并通过DTW(Dynamic Time Warping,动态时间归整)算法进行匹配,得到匹配结果。
本发明实施例的基于模糊匹配的时间序列异常模式识别方法,可以容忍样本在时域、幅值以及偏移、噪声影响下不同情况的模糊匹配,不需要精确定义所有异常的模式,仅通过少量模板即可搜索到感兴趣的模式片段;通过利用数据中的噪声,定义信噪比进行时间序列数据节段化处理以及相应的加速模式优化,从而实现在合适尺度和有效性基础上进行序列模式搜索的目的。
另外,根据本发明上述实施例的基于模糊匹配的时间序列异常模式识别方法还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述对数据进行缺失值处理、白噪声处理及离群点处理,包括:根据预设间隔的阈值对所述原始时间序列进行数据中断切片,得到多个独立的时间序列片段;剔除整体密度低于第一预设阈值的时间序列片段,并对剩余的时间序列片段进行线性插值处理,得到缺失值处理后的时间序列片段。
进一步地,在本发明的一个实施例中,所述对数据进行缺失值处理、白噪声处理及离群点处理,还包括:将所述缺失值处理后的时间序列片段进行小波分解,得到每个片段的小波系数;对每个片段的小波系数进行阈值处理,以对小波系数小于第二预设阈值的片段进行降噪处理。
进一步地,在本发明的一个实施例中,所述对数据进行缺失值处理、白噪声处理及离群点处理,还包括:根据小波变换和原始数据的差异值确定噪声强度;对所述噪声强度超过随机误差阈值的系统噪声进行无效处理。
进一步地,在本发明的一个实施例中,在通过所述DTW算法进行匹配之前,还包括:对所述每个节段化子序列进行Z-Score标准化,以使匹配模板匹配到目标幅值的信号。
为达到上述目的,本发明另一方面实施例提出了一种基于模糊匹配的时间序列异常模式识别装置,包括:处理模块,用于对原始时间序列进行缺失值处理、白噪声处理及离群点处理,以得到满足预设条件的时间序列;检测模块,用于检测所述满足预设条件的时间序列中的转折点,以将所述满足预设条件的时间序列分为多个节段化子序列;匹配模块,用于根据每个节段化子序列的起始和结束点查找得到的序列节段,并通过DTW算法进行匹配,得到匹配结果。
本发明实施例的基于模糊匹配的时间序列异常模式识别装置,可以容忍样本在时域、幅值以及偏移、噪声影响下不同情况的模糊匹配,不需要精确定义所有异常的模式,仅通过少量模板即可搜索到感兴趣的模式片段;通过利用数据中的噪声,定义信噪比进行时间序列数据节段化处理以及相应的加速模式优化,从而实现在合适尺度和有效性基础上进行序列模式搜索的目的。
另外,根据本发明上述实施例的基于模糊匹配的时间序列异常模式识别装置还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述处理模块进一步用于根据预设间隔的阈值对所述原始时间序列进行数据中断切片,得到多个独立的时间序列片段,并剔除整体密度低于第一预设阈值的时间序列片段,并对剩余的时间序列片段进行线性插值处理,得到缺失值处理后的时间序列片段。
进一步地,在本发明的一个实施例中,所述处理模块进一步用于将所述缺失值处理后的时间序列片段进行小波分解,得到每个片段的小波系数,并对每个片段的小波系数进行阈值处理,以对小波系数小于第二预设阈值的片段进行降噪处理。
进一步地,在本发明的一个实施例中,所述对处理模块进一步用于根据小波变换和原始数据的差异值确定噪声强度,并对所述噪声强度超过随机误差阈值的系统噪声进行无效处理。
进一步地,在本发明的一个实施例中,还包括:标准化模块,在通过所述DTW算法进行匹配之前,用于对所述每个节段化子序列进行Z-Score标准化,以使匹配模板匹配到目标幅值的信号。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为根据本发明实施例的基于模糊匹配的时间序列异常模式识别方法的流程图;
图2为根据本发明实施例的基于密度和绝对缺失长度进行序列切分和筛选示意图;
图3为根据本发明实施例的使用小波变换进行降噪的步骤示意图;
图4为根据本发明实施例的添加新的关键点时垂直PIP距离度量定义示意图;
图5为根据本发明实施例的通过模糊匹配算法发现的一次恒星耀发示意图;
图6为根据本发明实施例的基于模糊匹配的时间序列异常模式识别装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
在介绍基于模糊匹配的时间序列异常模式识别方法及装置之前,先给出模式异常的定义,具体如下:
本发明实施例可以通过定义异常模式,并在序列中搜索获得真实的异常样本,进行深入的研究。其中,给出模式异常的定义:对于S1,…,Sn等多个连续的光亮度片段,其在给定的特征中与本发明实施例感兴趣的模式在变化的过程相似度较高,可以认为是同一类的天文学现象,则可认定该段连续的星等值是本发明实施例的搜索目标。这里的相似度定义、给定的模板和相应的相似度度量方法体现出本发明实施例对目标模式的倾向。
下面参照附图描述根据本发明实施例提出的基于模糊匹配的时间序列异常模式识别方法及装置,首先将参照附图描述根据本发明实施例提出的基于模糊匹配的时间序列异常模式识别方法。
图1是本发明一个实施例的基于模糊匹配的时间序列异常模式识别方法的流程图。
如图1所示,该基于模糊匹配的时间序列异常模式识别方法包括以下步骤:
在步骤S101中,对原始时间序列进行缺失值处理、白噪声处理及离群点处理,以得到满足预设条件的时间序列。
其中,满足预设条件的时间序列可以理解为没有异常单个离散点异常、且随机噪声水平相对低且稳定的连续光亮度点。
需要说明的是,本发明实施例的方法是对模式异常的主动搜索匹配,主要包括两部分:对数据的预处理和对候选子序列的筛选和相似度匹配。真实数据中存在多样的数据缺失、离群点异常以及随机噪声,其中,数据缺失会使得匹配算法失效,仪器以及异常因素影响造成的离群点会使得匹配失效,随机噪声会影响本发明实施例对数据片段相似度度量的准确性。因此,本发明实施例通过对应的手段解决三个问题,保证了进入后续剪枝匹配阶段的数据是没有异常单个离散点异常、且随机噪声水平相对低且稳定的连续光亮度点。
进一步地,在本发明的一个实施例中,对数据进行缺失值处理、白噪声处理及离群点处理,包括:根据预设间隔的阈值对原始时间序列进行数据中断切片,得到多个独立的时间序列片段;剔除整体密度低于第一预设阈值的时间序列片段,并对剩余的时间序列片段进行线性插值处理,得到缺失值处理后的时间序列片段。
具体而言,在进行缺失值处理时,对于一段长度为n的原始时间序列y的存在密度定义如下:
其中,is_valid函数为判断该数据点是否有数值的函数,若有值则为1,反之为0。
在实际的GWAC光变曲线序列数据集中,本发明实施例没有保存所有时刻的数据,而仅仅保存了有效的数据时间戳(儒略日JD的浮点数值)序列和对应的星等亮度值。其中,儒略日定义一天为86400秒,对应数值1,即每一秒对应儒略日数值的每一个时间序列的采样间隔为15秒,根据儒略日定义,两个有效的数据点之间的儒略日差值为将其记为则某一段数据子序列时间戳Ts(i...j)可以通过以下公式快速计算:
进一步地,如图2所示,缺失值处理操作分为两步,首先通过大间隔的阈值设置,将所有大于8个点(对应0.001389天)的数据中断切片,当作完全独立的时间序列片段,因为连续缺失大于该长度的数据无法通过插值补全进行后续的处理,将大段的数据缺失(不同天或者同一天内较长缺失)剔除可以极大地减少后续建树的空值比例,降低数据处理的复杂度。
然后,对于每个片段内部的缺失值,根据其总体密度进行进一步判断,将整体密度低于某阈值的序列片段剔除,保留高于某阈值的序列片段,对于达到密度的片段,则在后续的过程中进行线性的插值处理。最终得到的数据是绝对长度符合要求、没有连续的大段缺失、而且总体的数据缺失比例也符合要求的序列片段。
进一步地,在本发明的一个实施例中,对数据进行缺失值处理、白噪声处理及离群点处理,还包括:将缺失值处理后的时间序列片段进行小波分解,得到每个片段的小波系数;对每个片段的小波系数进行阈值处理,以对小波系数小于第二预设阈值的片段进行降噪处理。
具体而言,在进行白噪声处理时,由于在真实的时间序列中,有效的信号在时域有连续性的白噪声,将其经小波分解的时间序列信号得到的小波系数,其中正常信号在小波域的幅值要大于噪声在小波域的幅值,因此,在进行变换时,本发明实施例可以使用小波变换将数据分解为不同频率的表示,并对不同频率的系数进行阈值处理,从而可以针对性地处理较小幅值的小波域系数,以达到降噪效果。
进一步地,如图3所示,通过小波变换进行去噪的操作可以分为四个步骤,本发明实施例使用Symlets6作为小波基函数,进行行离散二进小波变换,为提高变换的速率,可以将信号进行二级分解,保留低频的所有信号,对于高频的所有信号,使用Garrote阈值法进行过滤和缩放,进行降噪,过滤的阈值λ的计算采用通用阈值法VisuShrink。具体地:
首先,需要顾及小波频率系数序列的噪声等级即小波域系数的标准差,用于VisuShrink的计算。其公式如下:
其中,J为二进小波变换的次数,即是J-1尺度下小波变换后的所有小波系数绝对值的中位数除以0.6745后的值,其中0.6745是VisuShrink算法中预定义的超参数。
由此,可以定义过滤的阈值λ如下:
其中,N为信号序列数据的长度。
然后,针对以上的阈值,本发明实施例对不同大小的小波系数进行处理:
其中,ωj,k为原始的、过滤之前在j尺度上,k时间处经过小波变换的小波系数,表示对应条件下过滤后的小波系数。
进一步地,在本发明的一个实施例中,对数据进行缺失值处理、白噪声处理及离群点处理,还包括:根据小波变换和原始数据的差异值确定噪声强度;对噪声强度超过随机误差阈值的系统噪声进行无效处理。
具体而言,在进行离群点处理及数据有效性验证时,在真实的光变曲线数据中,存在许多自然意外带来的无效数据,例如,由于天空中云层变化、月光影响或其它外界不可控的自然因素,导致数据无效。超过随机误差阈值的系统噪声可以分为两类:1、光变曲线的随机噪声强度过高,导致时间序列出现高频的均值波动和方差波动。2、有少数点出现离群现象,即其绝对值偏移该段数据均值过大。
两类现象对应不同的处理手段,本发明实施例使用小波变换和原始数据二者的差异衡量噪声强度,由于噪声的存在,可以使用中位数进行噪声分布的估计,在假设噪声为(μ,σ)为均值方差的正态分布的前提下,定义噪声强度为正态分布占比95%时的标准差的二倍,即1.96*2σ,过滤在(μ-3σ,μ+3σ)范围外的数据作为离群点。经过查正态分布表,可以得知中位数即数据占比约为0.5时,数据分布在(μ-0.68σ,μ+0.68σ)中,则有对数据标准误差的估计σ:
在步骤S102中,检测满足预设条件的时间序列中的转折点,以将满足预设条件的时间序列分为多个节段化子序列。
具体而言,如图4所示,进行数据节段化处理时,通过检测时间序列中的转折点来将序列分为多个变化较为稳定连续、特征较为明显的片段。目前检测关键点的技术发展的较为成熟,感知型关键点(PIP)是一个由上而下的时间序列分片算法,采用贪婪策略。它首先将整个序列先视作为一个片段,而后通过迭代寻找所有片段中,与片段两个端点距离最大的点,并将其设置为新的关键点,将当前片段一分为二来更新新的片段。其中,本发明实施例使用的距离度量方法为垂直距离度量方法。
进一步地,本发明实施例使用每个关键点生成时的距离和噪声强度比较来确定停止时刻,保证节段化的过程能够最大程度地压缩数据同时保留完整的数据变化特征。其中,当d≤2*1.96σ*时停止。
在步骤S103中,根据每个节段化子序列的起始和结束点查找得到的序列节段,并通过DTW算法进行匹配,得到匹配结果。
进一步地,在本发明的一个实施例中,在通过DTW算法进行匹配之前,还包括:对每个节段化子序列进行Z-Score标准化,以使匹配模板匹配到目标幅值的信号。
具体而言,在进行子序列的模糊匹配时,对于得到的节段化子序列,可以认为所有突变的信号都是以每个节段为开始或结束的,故而可以将搜索的起始和结束点设置为通过关键点查找得到的序列节段,从而极大地加速了匹配过程。同时,本发明实施例需要对子序列进行Z-Score标准化,使得模板可以匹配到不同幅值的信号,并同时使用基于信号幅值和噪声强度2*1.96σ*的阈值设定,忽略所有总体信号变化太小的子序列。对于匹配过程,本发明实施例使用DTW算法进行匹配,DTW算法目前仍然认为是最佳的时间序列相似度计算方法,解决了时域偏移的问题。当然,本领域技术人员还可以根据实际情况选择其他的算法进行匹配,在此仅作为示例,不做具体限定。
下面将通过一个具体示例对基于模糊匹配的时间序列异常模式识别方法进行进一步阐述。
图5即是一次匹配成功的例子,如图5所示,本发明实施例的离线算法找到了一处在线算法没有找到的真实恒星耀发。从图中可以看出,该序列总长度仅有89,在其之前的数据均为无效数据,不能够通过有效值积累探测如此的异常光变,这是在线的基于窗又的统计学预警方法所无法完成的,也是本发明实施例主动的模式匹配异常算法的优势所在。该段数据经过降噪过程,计算得到了噪声强度为0.0605,属于信号连续性较好,信噪比较高,噪声水平很低的序列。故而89个点分为了5个序列节段,使得每个数据段内的数据都比较稳定。
对于89个点,取其中任意两个点作为子序列搜索的起止点,可以有89(89-1)=3916个组合,本发明实施例不需要准确地求出其中最佳匹配的最小值,而可以通过节段化搜索其最有特征片段和查询模板之间的相似度,再经过序列长度阈值、幅值阈值的过滤后,通过序列匹配出现的必要条件缩小搜索范围。最终仅仅计算可能的3916子序列组合中的8个组合,并且获得了和模板相似度一个较好的匹配结果,即第2-4个节段构成的子序列。
另外,图5中的三幅子图从上至下依次为子图一、子图二、子图三,其中,子图一是降噪后的序列,实线表示其匹配的到的结果;DTW对模板和被查询序列的偏移对应情况如子图二所示,对应的匹配数据点使用黑色虚线连接;子图三可以看出DTW算法很好地应对了时域偏移的问题,将模板前半段的亮度剧烈上升的过程相匹配,而后半段进行相应的平移适应。
进一步地,本发明实施例进行测试的真实数据集,是GWAC一台望远镜对部分不同天区多天的数据,包含1006078颗星,约2.69亿个数据点。在经过缺失值处理后,同时限定点数大于20的数据。经过以上的过滤,最终共得到2.53亿个数据点,进入数据有效性验证、降噪以及后续的分析判断过程。由于每颗星的曲线可能被切分为多个,2.53亿个数据点共有1084269条符合密度阈值的光变曲线,其平均长度为233.04,其中包含两次耀发的光变。在全量测试中,串行版本耗时3336.68s,同时算法均能够找到全部两个耀发现象。
根据本发明实施例提出的基于模糊匹配的时间序列异常模式识别方法,可以容忍样本在时域、幅值以及偏移、噪声影响下不同情况的模糊匹配,不需要精确定义所有异常的模式,仅通过少量模板即可搜索到感兴趣的模式片段;通过利用数据中的噪声,定义信噪比进行时间序列数据节段化处理以及相应的加速模式优化,从而实现在合适尺度和有效性基础上进行序列模式搜索的目的。
其次参照附图描述根据本发明实施例提出的基于模糊匹配的时间序列异常模式识别装置。
图6是本发明一个实施例的基于模糊匹配的时间序列异常模式识别装置的结构示意图。
如图6所示,该基于模糊匹配的时间序列异常模式识别装置10包括:处理模块100、检测模块200和匹配模块300。
其中,处理模块100用于对原始时间序列进行缺失值处理、白噪声处理及离群点处理,以得到满足预设条件的时间序列。检测模块200用于检测满足预设条件的时间序列中的转折点,以将满足预设条件的时间序列分为多个节段化子序列。匹配模块300用于根据每个节段化子序列的起始和结束点查找得到的序列节段,并通过DTW算法进行匹配,得到匹配结果。本发明实施例的装置10可以不需要精确定义所有异常的模式,仅通过少量模板即可搜索到感兴趣的模式片段,且可以实现在合适尺度和有效性基础上进行序列模式搜索的目的。
进一步地,在本发明的一个实施例中,处理模块100进一步用于根据预设间隔的阈值对原始时间序列进行数据中断切片,得到多个独立的时间序列片段,并剔除整体密度低于第一预设阈值的时间序列片段,并对剩余的时间序列片段进行线性插值处理,得到缺失值处理后的时间序列片段。
进一步地,在本发明的一个实施例中,处理模块100进一步用于将缺失值处理后的时间序列片段进行小波分解,得到每个片段的小波系数,并对每个片段的小波系数进行阈值处理,以对小波系数小于第二预设阈值的片段进行降噪处理。
进一步地,在本发明的一个实施例中,对处理模块100进一步用于根据小波变换和原始数据的差异值确定噪声强度,并对噪声强度超过随机误差阈值的系统噪声进行无效处理。
进一步地,在本发明的一个实施例中,本发明实施例的装置10还包括:标准化模块。其中,标准化模块在通过DTW算法进行匹配之前,用于对每个节段化子序列进行Z-Score标准化,以使匹配模板匹配到目标幅值的信号。
需要说明的是,前述对基于模糊匹配的时间序列异常模式识别方法实施例的解释说明也适用于该实施例的基于模糊匹配的时间序列异常模式识别装置,此处不再赘述。
根据本发明实施例提出的基于模糊匹配的时间序列异常模式识别装置,可以容忍样本在时域、幅值以及偏移、噪声影响下不同情况的模糊匹配,不需要精确定义所有异常的模式,仅通过少量模板即可搜索到感兴趣的模式片段;通过利用数据中的噪声,定义信噪比进行时间序列数据节段化处理以及相应的加速模式优化,从而实现在合适尺度和有效性基础上进行序列模式搜索的目的。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (10)
1.一种基于模糊匹配的时间序列异常模式识别方法,其特征在于,包括以下步骤:
对原始时间序列进行缺失值处理、白噪声处理及离群点处理,以得到满足预设条件的时间序列;
检测所述满足预设条件的时间序列中的转折点,以将所述满足预设条件的时间序列分为多个节段化子序列;以及
根据每个节段化子序列的起始和结束点查找得到的序列节段,并通过DTW算法进行匹配,得到匹配结果。
2.根据权利要求1所述的方法,其特征在于,所述对数据进行缺失值处理、白噪声处理及离群点处理,包括:
根据预设间隔的阈值对所述原始时间序列进行数据中断切片,得到多个独立的时间序列片段;
剔除整体密度低于第一预设阈值的时间序列片段,并对剩余的时间序列片段进行线性插值处理,得到缺失值处理后的时间序列片段。
3.根据权利要求2所述的方法,其特征在于,所述对数据进行缺失值处理、白噪声处理及离群点处理,还包括:
将所述缺失值处理后的时间序列片段进行小波分解,得到每个片段的小波系数;
对每个片段的小波系数进行阈值处理,以对小波系数小于第二预设阈值的片段进行降噪处理。
4.根据权利要求3所述的方法,其特征在于,所述对数据进行缺失值处理、白噪声处理及离群点处理,还包括:
根据小波变换和原始数据的差异值确定噪声强度;
对所述噪声强度超过随机误差阈值的系统噪声进行无效处理。
5.根据权利要求1所述的方法,其特征在于,在通过所述DTW算法进行匹配之前,还包括:
对所述每个节段化子序列进行Z-Score标准化,以使匹配模板匹配到目标幅值的信号。
6.一种基于模糊匹配的时间序列异常模式识别装置,其特征在于,包括:
处理模块,用于对原始时间序列进行缺失值处理、白噪声处理及离群点处理,以得到满足预设条件的时间序列;
检测模块,用于检测所述满足预设条件的时间序列中的转折点,以将所述满足预设条件的时间序列分为多个节段化子序列;以及
匹配模块,用于根据每个节段化子序列的起始和结束点查找得到的序列节段,并通过DTW算法进行匹配,得到匹配结果。
7.根据权利要求6所述的装置,其特征在于,所述处理模块进一步用于根据预设间隔的阈值对所述原始时间序列进行数据中断切片,得到多个独立的时间序列片段,并剔除整体密度低于第一预设阈值的时间序列片段,并对剩余的时间序列片段进行线性插值处理,得到缺失值处理后的时间序列片段。
8.根据权利要求7所述的装置,其特征在于,所述处理模块进一步用于将所述缺失值处理后的时间序列片段进行小波分解,得到每个片段的小波系数,并对每个片段的小波系数进行阈值处理,以对小波系数小于第二预设阈值的片段进行降噪处理。
9.根据权利要求8所述的装置,其特征在于,所述对处理模块进一步用于根据小波变换和原始数据的差异值确定噪声强度,并对所述噪声强度超过随机误差阈值的系统噪声进行无效处理。
10.根据权利要求1所述的方法,其特征在于,还包括:
标准化模块,在通过所述DTW算法进行匹配之前,用于对所述每个节段化子序列进行Z-Score标准化,以使匹配模板匹配到目标幅值的信号。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910673710.3A CN110427996B (zh) | 2019-07-24 | 2019-07-24 | 基于模糊匹配的时间序列异常模式识别方法及装置 |
PCT/CN2019/099467 WO2021012315A1 (zh) | 2019-07-24 | 2019-08-06 | 基于模糊匹配的时间序列异常模式识别方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910673710.3A CN110427996B (zh) | 2019-07-24 | 2019-07-24 | 基于模糊匹配的时间序列异常模式识别方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110427996A true CN110427996A (zh) | 2019-11-08 |
CN110427996B CN110427996B (zh) | 2022-03-15 |
Family
ID=68412269
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910673710.3A Active CN110427996B (zh) | 2019-07-24 | 2019-07-24 | 基于模糊匹配的时间序列异常模式识别方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN110427996B (zh) |
WO (1) | WO2021012315A1 (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112766426A (zh) * | 2021-04-06 | 2021-05-07 | 中国铁道科学研究院集团有限公司通信信号研究所 | 一种基于时间约束的故障类型识别方法 |
CN112818297A (zh) * | 2021-02-05 | 2021-05-18 | 国网安徽省电力有限公司合肥供电公司 | 一种云环境下数据异常检测方法 |
CN112925950A (zh) * | 2021-01-27 | 2021-06-08 | 中国人民大学 | 一种面向连续星表数据的数据质量控制方法及系统 |
CN112990372A (zh) * | 2021-04-27 | 2021-06-18 | 北京瑞莱智慧科技有限公司 | 一种数据处理方法、模型训练方法、装置及电子设备 |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114659937B (zh) * | 2022-05-20 | 2022-08-02 | 扬州惠特科技有限公司 | 一种再生聚酯聚合釜用在线粘度监测方法 |
CN115292872B (zh) * | 2022-05-30 | 2023-04-07 | 中国特种设备检测研究院 | 一种过山车轨道缺陷定位方法、系统、介质及设备 |
CN116110516B (zh) * | 2023-04-14 | 2023-07-21 | 青岛山青华通环境科技有限公司 | 一种污水处理过程异常工况识别方法和装置 |
CN116644281B (zh) * | 2023-07-27 | 2023-10-24 | 东营市艾硕机械设备有限公司 | 一种游艇船体偏移检测方法 |
CN117093944B (zh) * | 2023-09-13 | 2024-08-20 | 北京天泽智云科技有限公司 | 一种时序数据模板自适应的异常模式识别方法与系统 |
CN117176545B (zh) * | 2023-11-02 | 2024-01-26 | 江苏益捷思信息科技有限公司 | 基于时间序列分析的数据交换异常检测方法及系统 |
CN117239942B (zh) * | 2023-11-16 | 2024-01-19 | 天津瑞芯源智能科技有限责任公司 | 一种具有监控功能的电表 |
CN118138651A (zh) * | 2024-05-06 | 2024-06-04 | 江苏天南电力股份有限公司 | 基于5g技术的输电线路数据远程传输方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105069093A (zh) * | 2015-08-05 | 2015-11-18 | 河海大学 | 一种基于嵌入式索引的水文时间序列相似性搜索方法 |
CN106777084A (zh) * | 2016-12-13 | 2017-05-31 | 清华大学 | 针对光变曲线在线分析及异常报警的方法及系统 |
CN107402983A (zh) * | 2017-07-10 | 2017-11-28 | 清华大学 | 邻近点查询方法及查询装置 |
CN109993092A (zh) * | 2019-03-25 | 2019-07-09 | 清华大学 | 光变异常的实时高灵敏早期识别方法及装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009116582A1 (ja) * | 2008-03-19 | 2009-09-24 | 国立大学法人 北海道大学 | 動画検索装置および動画検索プログラム |
US9679194B2 (en) * | 2014-07-17 | 2017-06-13 | At&T Intellectual Property I, L.P. | Automated obscurity for pervasive imaging |
CN104820673B (zh) * | 2015-03-27 | 2018-03-06 | 浙江大学 | 基于自适应性分段统计近似的时间序列相似性度量方法 |
CN105205112A (zh) * | 2015-09-01 | 2015-12-30 | 西安交通大学 | 一种时序数据异常特征的挖掘系统及方法 |
-
2019
- 2019-07-24 CN CN201910673710.3A patent/CN110427996B/zh active Active
- 2019-08-06 WO PCT/CN2019/099467 patent/WO2021012315A1/zh active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105069093A (zh) * | 2015-08-05 | 2015-11-18 | 河海大学 | 一种基于嵌入式索引的水文时间序列相似性搜索方法 |
CN106777084A (zh) * | 2016-12-13 | 2017-05-31 | 清华大学 | 针对光变曲线在线分析及异常报警的方法及系统 |
CN107402983A (zh) * | 2017-07-10 | 2017-11-28 | 清华大学 | 邻近点查询方法及查询装置 |
CN109993092A (zh) * | 2019-03-25 | 2019-07-09 | 清华大学 | 光变异常的实时高灵敏早期识别方法及装置 |
Non-Patent Citations (2)
Title |
---|
XIAOBIN MA 等: "Program power profiling based on phase behaviors", 《SUSTAINABLE COMPUTING: INFORMATICS AND SYSTEMS》 * |
李正欣 等: "基于DTW的多元时间序列模式匹配方法", 《模式识别与人工智能》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112925950A (zh) * | 2021-01-27 | 2021-06-08 | 中国人民大学 | 一种面向连续星表数据的数据质量控制方法及系统 |
CN112818297A (zh) * | 2021-02-05 | 2021-05-18 | 国网安徽省电力有限公司合肥供电公司 | 一种云环境下数据异常检测方法 |
CN112818297B (zh) * | 2021-02-05 | 2024-02-20 | 国网安徽省电力有限公司合肥供电公司 | 一种云环境下数据异常检测方法 |
CN112766426A (zh) * | 2021-04-06 | 2021-05-07 | 中国铁道科学研究院集团有限公司通信信号研究所 | 一种基于时间约束的故障类型识别方法 |
CN112990372A (zh) * | 2021-04-27 | 2021-06-18 | 北京瑞莱智慧科技有限公司 | 一种数据处理方法、模型训练方法、装置及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2021012315A1 (zh) | 2021-01-28 |
CN110427996B (zh) | 2022-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110427996A (zh) | 基于模糊匹配的时间序列异常模式识别方法及装置 | |
Zhang et al. | Fabric defect detection using salience metric for color dissimilarity and positional aggregation | |
CN104887224B (zh) | 面向癫痫脑电信号的特征提取与自动识别方法 | |
Bissi et al. | Automated defect detection in uniform and structured fabrics using Gabor filters and PCA | |
CN109948647A (zh) | 一种基于深度残差网络的心电图分类方法及系统 | |
CN108256556A (zh) | 基于深度信念网络的风力发电机组齿轮箱故障诊断方法 | |
EA036070B1 (ru) | Способ распознавания сигнала о вторжении в пределы оптоволоконного периметра, устройство распознавания и система сигнализации о вторжении в пределы оптоволоконного периметра | |
CA2566540A1 (en) | Device and method for analyzing an information signal | |
CN110298085A (zh) | 基于XGBoost和随机森林算法的模拟电路故障诊断方法 | |
Ansari | Generation and storage of large synthetic fingerprint database | |
CN112905412A (zh) | 关键性能指标数据的异常检测方法及装置 | |
CN109949287A (zh) | 一种基于自适应分割与模板校正的织物瑕疵检测方法 | |
CN117708760B (zh) | 基于多模型融合的开关柜多源局放模式识别方法及系统 | |
CN114487129B (zh) | 基于声发射技术的柔性材料的损伤识别方法 | |
CN112180315A (zh) | 光纤电流互感器故障特征提取方法、装置及系统 | |
CN117557566B (zh) | 基于图像特征的电子烟发热丝质量智能检测方法 | |
CN102988041A (zh) | 心磁信号噪声抑制中的信号选择性平均方法 | |
CN118225803A (zh) | 一种推土机刀片表面外观视觉检测方法 | |
CN116738221A (zh) | 一种带压管道气体分析方法及系统 | |
CN116482597A (zh) | 电能表运行数据变量筛选方法、电子设备及存储介质 | |
Ye et al. | Flaw detection on FPC solder surface | |
CN109614714A (zh) | 一种发酵乳香气感官质量控制的模型建立方法 | |
CN113066544B (zh) | 基于CAA-Net与LightGBM的FVEP特征点检测方法 | |
CN114692693A (zh) | 基于分形理论的分布式光纤信号识别方法、装置、存储介质 | |
CN109903840B (zh) | 一种模型整合方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |