JP2016004577A - 実時系列内の異常を検出するための方法 - Google Patents
実時系列内の異常を検出するための方法 Download PDFInfo
- Publication number
- JP2016004577A JP2016004577A JP2015107494A JP2015107494A JP2016004577A JP 2016004577 A JP2016004577 A JP 2016004577A JP 2015107494 A JP2015107494 A JP 2015107494A JP 2015107494 A JP2015107494 A JP 2015107494A JP 2016004577 A JP2016004577 A JP 2016004577A
- Authority
- JP
- Japan
- Prior art keywords
- variables
- time series
- group
- series data
- real time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Complex Calculations (AREA)
- Testing And Monitoring For Control Systems (AREA)
- Computational Linguistics (AREA)
Abstract
【解決手段】実時系列内の異常が、正常な時系列データのペア間のペアワイズ類似度の類似度行列を最初に求めることによって検出される。スペクトラルクラスタリング手順が、この類似度行列に適用されて、時系列データの次元を表す変数を相互に排他的なグループに分割する。正常な挙動のモデルが、グループごとに推定される。次に、実時系列データについて、異常スコアが、グループごとのモデルを用いて求められ、この異常スコアが所定の閾値と比較されて、異常が信号で通知される。
【選択図】図1
Description
Claims (15)
- 実時系列内の異常を検出するための方法であって、
正常な時系列データのペア間の非負のペアワイズ類似度の類似度行列を求めるステップと、
スペクトラルクラスタリング手順を前記類似度行列に適用するステップであって、前記時系列データの次元を表す変数を相互に排他的であるグループに分割するステップと、
グループごとの正常な挙動のモデルを推定するステップと、
前記実時系列データについて、グループごとの前記正常な挙動のモデルを用いて異常スコアを求めるステップと、
前記異常スコアを所定の閾値と比較するステップであって、前記異常を信号で通知するステップと、
を含み、前記ステップは、プロセッサにおいて実行される、実時系列内の異常を検出するための方法。 - 前記実時系列データは、センサーによって取得される、請求項1に記載の方法。
- 前記スペクトラルクラスタリングは、類似度尺度として相関係数の絶対値を用いる、請求項1に記載の方法。
- 前記相関係数は、線形、非線形、放射基底関数ネットワーク又はサポートベクトルマシンの出力である、請求項3に記載の方法。
- 前記スペクトラルクラスタリングは、同じグループ内の変数間の類似度を最大にし、異なるグループ内の要素間の前記類似度を最小にする、請求項1に記載の方法。
- 前記次元は、M次元ユークリッド空間である、請求項1に記載の方法。
- 前記スペクトラルクラスタリングは、正規化カット手順を用いる、請求項1に記載の方法。
- 変数i及びjのペア間の前記類似度尺度bijは、必ずしも対称ではなく、前記類似度行列は、aij=(bij+bji)/2を有する行列Aである、請求項3に記載の方法。
- 各グループの前記モデルは、該グループ内の前記変数上の確率密度関数によって表される、請求項1に記載の方法。
- 前記確率密度関数は、多変量ガウス分布である、請求項9に記載の方法。
- 前記確率密度関数は、非パラメトリックパルツェンカーネル密度推定である、請求項9に記載の方法。
- 前記異常スコアを組み合わせることであって、グローバル異常スコアを形成することと、
前記グローバル異常スコアを前記所定の閾値と比較することであって、前記異常を信号で通知することと、
を更に含む、請求項1に記載の方法。 - 前記組み合わせることは、各グループの変数の数に比例した重みを用いた加重加算である、請求項12に記載の方法。
- 組み合わせることは、一般的な論理式を用いる、請求項12に記載の方法。
- 前記論理式は、グループ固有の閾値に対する前記スコアの論理条件に関する論理演算子AND及びORによって構成される、請求項14に記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/305,618 | 2014-06-16 | ||
US14/305,618 US9984334B2 (en) | 2014-06-16 | 2014-06-16 | Method for anomaly detection in time series data based on spectral partitioning |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016004577A true JP2016004577A (ja) | 2016-01-12 |
JP6594044B2 JP6594044B2 (ja) | 2019-10-23 |
Family
ID=54836440
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015107494A Active JP6594044B2 (ja) | 2014-06-16 | 2015-05-27 | 実時系列内の異常を検出するための方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9984334B2 (ja) |
JP (1) | JP6594044B2 (ja) |
CN (1) | CN105320727B (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018010438A (ja) * | 2016-07-13 | 2018-01-18 | 国立大学法人京都大学 | クラスタ評価装置、クラスタ数算出装置、クラスタ装置、クラスタ評価方法、およびプログラム |
JP2019159604A (ja) * | 2018-03-09 | 2019-09-19 | 株式会社インテック | 異常検知装置、異常検知方法及び異常検知プログラム |
CN110532297A (zh) * | 2019-08-01 | 2019-12-03 | 河海大学 | 一种基于层次聚类的符号化水文时间序列异常模式检测方法 |
JP2021530013A (ja) * | 2019-08-27 | 2021-11-04 | クーパン コーポレイション | 拡張k平均クラスタリングアルゴリズムを使用して不正取引を検出するためのコンピュータ実装方法 |
Families Citing this family (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150277416A1 (en) * | 2014-03-31 | 2015-10-01 | Mitsubishi Electric Research Laboratories, Inc. | Method for Anomaly Detection in Discrete Manufacturing Processes |
GB2529150B (en) | 2014-08-04 | 2022-03-30 | Darktrace Ltd | Cyber security |
US10425302B2 (en) * | 2015-11-23 | 2019-09-24 | International Business Machines Corporation | Scalable end-to-end quality of service monitoring and diagnosis in software defined networks |
GB2547201B (en) * | 2016-02-09 | 2022-08-31 | Darktrace Holdings Ltd | Cyber security |
GB2547202B (en) | 2016-02-09 | 2022-04-20 | Darktrace Ltd | An anomaly alert system for cyber threat detection |
GB201603304D0 (en) * | 2016-02-25 | 2016-04-13 | Darktrace Ltd | Cyber security |
CN105812280B (zh) * | 2016-05-05 | 2019-06-04 | 四川九洲电器集团有限责任公司 | 一种分类方法及电子设备 |
US10333958B2 (en) | 2016-07-19 | 2019-06-25 | Cisco Technology, Inc. | Multi-dimensional system anomaly detection |
US20180046936A1 (en) * | 2016-08-10 | 2018-02-15 | Futurewei Technologies, Inc. | Density-based apparatus, computer program, and method for reclassifying test data points as not being an anomoly |
US10304263B2 (en) * | 2016-12-13 | 2019-05-28 | The Boeing Company | Vehicle system prognosis device and method |
US10338982B2 (en) | 2017-01-03 | 2019-07-02 | International Business Machines Corporation | Hybrid and hierarchical outlier detection system and method for large scale data protection |
EP3575908B1 (en) * | 2017-01-25 | 2021-08-04 | NTN Corporation | State monitoring method and state monitoring apparatus |
CN108460864B (zh) * | 2017-02-22 | 2022-09-02 | 开利公司 | 人流量估测系统及用于其的故障处理方法 |
CN106656637B (zh) * | 2017-02-24 | 2019-11-26 | 国网河南省电力公司电力科学研究院 | 一种电网异常检测方法及装置 |
JP6778132B2 (ja) * | 2017-03-13 | 2020-10-28 | 株式会社日立製作所 | 設備機器の異常診断システム |
US10699007B2 (en) * | 2017-03-13 | 2020-06-30 | Oracle International Corporation | Hybrid univariate/multivariate prognostic-surveillance technique |
CN107094284B (zh) * | 2017-05-02 | 2020-05-19 | 湘潭大学 | 一种基于谱聚类算法的机会网络群组移动方法 |
CN107194184B (zh) * | 2017-05-31 | 2020-11-17 | 成都数联易康科技有限公司 | 基于时间序列相似性分析的在院人次异常检测方法及系统 |
KR102017561B1 (ko) * | 2017-08-10 | 2019-09-05 | 울랄라랩 주식회사 | 기계학습 기법에 기반한 기계의 오류 데이터를 검출하기 위한 알고리즘 및 방법 |
CN109388781B (zh) * | 2017-08-14 | 2020-08-07 | 比亚迪股份有限公司 | 测量数据的处理方法和装置 |
CN109582482A (zh) * | 2017-09-29 | 2019-04-05 | 西门子公司 | 用于检测离散型生产设备的异常的方法及装置 |
US10417083B2 (en) * | 2017-11-30 | 2019-09-17 | General Electric Company | Label rectification and classification/prediction for multivariate time series data |
KR102413096B1 (ko) | 2018-01-08 | 2022-06-27 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
RU2766106C1 (ru) * | 2018-01-26 | 2022-02-07 | Уэйгейт Текнолоджиз Ю-Эс-Эй, Лп | Обнаружение нештатных ситуаций |
US11477222B2 (en) | 2018-02-20 | 2022-10-18 | Darktrace Holdings Limited | Cyber threat defense system protecting email networks with machine learning models using a range of metadata from observed email communications |
US11985142B2 (en) | 2020-02-28 | 2024-05-14 | Darktrace Holdings Limited | Method and system for determining and acting on a structured document cyber threat risk |
US11463457B2 (en) | 2018-02-20 | 2022-10-04 | Darktrace Holdings Limited | Artificial intelligence (AI) based cyber threat analyst to support a cyber security appliance |
US11924238B2 (en) | 2018-02-20 | 2024-03-05 | Darktrace Holdings Limited | Cyber threat defense system, components, and a method for using artificial intelligence models trained on a normal pattern of life for systems with unusual data sources |
US11962552B2 (en) | 2018-02-20 | 2024-04-16 | Darktrace Holdings Limited | Endpoint agent extension of a machine learning cyber defense system for email |
EP3528459B1 (en) | 2018-02-20 | 2020-11-04 | Darktrace Limited | A cyber security appliance for an operational technology network |
JP6955233B2 (ja) * | 2018-05-11 | 2021-10-27 | 日本電気株式会社 | 予測モデル作成装置、予測モデル作成方法、および予測モデル作成プログラム |
US10986121B2 (en) | 2019-01-24 | 2021-04-20 | Darktrace Limited | Multivariate network structure anomaly detector |
EP3786827A1 (en) | 2019-08-29 | 2021-03-03 | Darktrace Limited | Cyber attack adversary simulator |
US11060885B2 (en) | 2019-09-30 | 2021-07-13 | Oracle International Corporation | Univariate anomaly detection in a sensor network |
WO2021171092A2 (en) | 2020-02-28 | 2021-09-02 | Darktrace, Inc. | Treating data flows differently based on level of interest |
IL295937A (en) | 2020-02-28 | 2022-10-01 | Darktrace Holdings Ltd | Red team of AI opponents |
US11216247B2 (en) | 2020-03-02 | 2022-01-04 | Oracle International Corporation | Automatic asset anomaly detection in a multi-sensor network |
CN112037106B (zh) * | 2020-08-07 | 2023-12-15 | 汉威科技集团股份有限公司 | 一种基于特征互相关性和概率密度的数据异常分析方法 |
CN112132362A (zh) * | 2020-09-30 | 2020-12-25 | 上海众源网络有限公司 | 一种指标数据处理方法、装置、电子设备及存储介质 |
US11556555B2 (en) * | 2020-10-27 | 2023-01-17 | Oracle International Corporation | Automatic data-screening framework and preprocessing pipeline to support ML-based prognostic surveillance |
CN112579728B (zh) * | 2020-12-18 | 2023-04-18 | 成都民航西南凯亚有限责任公司 | 基于海量数据全文检索的行为异常识别方法及装置 |
US11762956B2 (en) | 2021-02-05 | 2023-09-19 | Oracle International Corporation | Adaptive pattern recognition for a sensor network |
CN113570473B (zh) * | 2021-06-25 | 2024-02-09 | 深圳供电局有限公司 | 设备故障监测方法、装置、计算机设备和存储介质 |
CN116776258B (zh) * | 2023-08-24 | 2023-10-31 | 北京天恒安科集团有限公司 | 电力设备监测数据处理方法及系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5706503A (en) | 1994-05-18 | 1998-01-06 | Etak Inc | Method of clustering multi-dimensional related data in a computer database by combining the two verticles of a graph connected by an edge having the highest score |
US7171340B2 (en) | 2005-05-02 | 2007-01-30 | Sas Institute Inc. | Computer-implemented regression systems and methods for time series data analysis |
US8010589B2 (en) * | 2007-02-20 | 2011-08-30 | Xerox Corporation | Semi-automatic system with an iterative learning method for uncovering the leading indicators in business processes |
US8073790B2 (en) | 2007-03-10 | 2011-12-06 | Hendra Soetjahja | Adaptive multivariate model construction |
JP5363927B2 (ja) | 2009-09-07 | 2013-12-11 | 株式会社日立製作所 | 異常検知・診断方法、異常検知・診断システム、及び異常検知・診断プログラム |
CN103226595B (zh) * | 2013-04-17 | 2016-06-15 | 南京邮电大学 | 基于贝叶斯混合公共因子分析器的高维数据的聚类方法 |
-
2014
- 2014-06-16 US US14/305,618 patent/US9984334B2/en active Active
-
2015
- 2015-05-27 JP JP2015107494A patent/JP6594044B2/ja active Active
- 2015-06-15 CN CN201510329969.8A patent/CN105320727B/zh active Active
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018010438A (ja) * | 2016-07-13 | 2018-01-18 | 国立大学法人京都大学 | クラスタ評価装置、クラスタ数算出装置、クラスタ装置、クラスタ評価方法、およびプログラム |
JP2019159604A (ja) * | 2018-03-09 | 2019-09-19 | 株式会社インテック | 異常検知装置、異常検知方法及び異常検知プログラム |
JP7040851B2 (ja) | 2018-03-09 | 2022-03-23 | 株式会社インテック | 異常検知装置、異常検知方法及び異常検知プログラム |
CN110532297A (zh) * | 2019-08-01 | 2019-12-03 | 河海大学 | 一种基于层次聚类的符号化水文时间序列异常模式检测方法 |
JP2021530013A (ja) * | 2019-08-27 | 2021-11-04 | クーパン コーポレイション | 拡張k平均クラスタリングアルゴリズムを使用して不正取引を検出するためのコンピュータ実装方法 |
JP7038859B2 (ja) | 2019-08-27 | 2022-03-18 | クーパン コーポレイション | 拡張k平均クラスタリングアルゴリズムを使用して不正取引を検出するためのコンピュータ実装方法 |
Also Published As
Publication number | Publication date |
---|---|
US20150363699A1 (en) | 2015-12-17 |
JP6594044B2 (ja) | 2019-10-23 |
CN105320727A (zh) | 2016-02-10 |
US9984334B2 (en) | 2018-05-29 |
CN105320727B (zh) | 2020-03-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6594044B2 (ja) | 実時系列内の異常を検出するための方法 | |
Auret et al. | Empirical comparison of tree ensemble variable importance measures | |
US10496730B2 (en) | Factor analysis device, factor analysis method, and factor analysis program | |
Anderson et al. | Some solutions to the multivariate Behrens–Fisher problem for dissimilarity‐based analyses | |
JP2013257251A (ja) | 異常検知方法、プログラム及びシステム | |
AU2015203002B2 (en) | Information processing apparatus, program, and information processing method | |
AU2014240224B2 (en) | Time series analytics | |
JP6183449B2 (ja) | システム分析装置、及び、システム分析方法 | |
JP2017215765A (ja) | 異常検知装置、異常検知方法及び異常検知プログラム | |
WO2020260476A1 (en) | Unsupervised clustering in quantum feature spaces using quantum similarity matrices | |
CN110858072A (zh) | 设备运行状态的确定方法及装置 | |
CN112380073B (zh) | 一种故障位置的检测方法、装置及可读存储介质 | |
Lee et al. | Design of a multivariate exponentially weighted moving average control chart with variable sampling intervals | |
Wang et al. | Orthogonal nonnegative matrix factorization based local hidden Markov model for multimode process monitoring | |
WO2018177293A1 (en) | Sample-based multidimensional data cloning | |
RU2020127362A (ru) | Способ и компьютерный программный продукт для определения мер по разработке, проектированию и/или развертыванию сложных встраиваемых или киберфизических систем, в частности, используемых в них сложных программных архитектур, из разных технических областей | |
Szarmach et al. | Decision Tree-Based Algorithms for Detection of Damage in AIS Data | |
Sullivan | Estimating the locations of multiple change points in the mean | |
Ampanthong et al. | A comparative study of outlier detection procedures in multiple linear regression | |
Dix et al. | Measuring the Robustness of ML Models Against Data Quality Issues in Industrial Time Series Data | |
KR101907443B1 (ko) | 구성 요소 기반 악성 파일 유사성 분석 장치 및 방법 | |
CN111666316A (zh) | 一种隔离分布核构建方法、异常数据检测方法及装置 | |
Bagheri et al. | On the Performance of the Measure for Diagnosing Multiple High Leverage Collinearity-Reducing Observations. | |
Sofikitou et al. | Multivariate nonparametric control charts based on ordered samples, signs and ranks | |
Kim et al. | Post Hotelling's T-square procedure to identify fault variables |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190122 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190308 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190827 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190924 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6594044 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |