JP2020140580A - 検知装置及び検知プログラム - Google Patents
検知装置及び検知プログラム Download PDFInfo
- Publication number
- JP2020140580A JP2020140580A JP2019037021A JP2019037021A JP2020140580A JP 2020140580 A JP2020140580 A JP 2020140580A JP 2019037021 A JP2019037021 A JP 2019037021A JP 2019037021 A JP2019037021 A JP 2019037021A JP 2020140580 A JP2020140580 A JP 2020140580A
- Authority
- JP
- Japan
- Prior art keywords
- data
- detection
- abnormality
- detection device
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/904—Browsing; Visualisation therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2365—Ensuring data consistency and integrity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/906—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- Neurology (AREA)
- Quality & Reliability (AREA)
- Debugging And Monitoring (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
Description
まず、図1を用いて、第1の実施形態に係る検知装置の構成について説明する。図1は、第1の実施形態に係る検知装置の構成の一例を示す図である。図1に示すように、検知装置10は、入出力部11、記憶部12及び制御部13を有する。
学習データにおいては変動が小さかった特徴量が、検知対象データにおいてわずかでも変動した場合、検知結果に大きな影響を与える場合がある。この場合、本来異常でないデータに対する異常度が過剰に大きくなり、誤検知が起きやすくなる。
サーバシステムから出力されるデータのように、遁増又は遁減するデータが存在する。このようなデータの特徴量は、学習データとテストデータにおいて取り得る値の範囲が異なる場合があり、誤検知の原因になる。例えば、累積値の場合、累積値そのものよりも値の変化度合い等に意味がある場合がある。
モデルの学習を行う際には、モデルパラメータの初期値等をランダムに決定する場合がある。例えば、オートエンコーダを含むニューラルネットワークを用いたモデルの学習を行う際には、ノード間の重み等の初期値をランダムに決定する場合がある。また、誤差逆伝播の際にドロップアウトの対象になるノードがランダムに決定される場合がある。
サーバシステムから出力されるデータのように、時間の経過に応じて分布が変化するデータがある。このため、分布の変化前に収集された学習データを使って生成されたモデルを用いて、分布の変化後に収集されたテストデータの検知を行った場合、テストデータの正常分布を学習していないために、正常なデータの異常度が大きくなることが考えられる。
検知装置10はいわゆるアノマリ検知を行うものであるため、学習データはなるべく正常なデータであることが望ましい。一方で、収集した学習データの中には、人が認識することが難しい異常データや外れ度が高いデータが含まれていることがある。
図14を用いて、検知装置10の学習処理の流れについて説明する。図14は、第1の実施形態に係る検知装置の学習処理の流れを示すフローチャートである。図14に示すように、まず、検知装置10は、学習データの入力を受け付ける(ステップS101)。次に、検知装置10は、遁増又は遁減する特徴量のデータを変換する(ステップS102)。例えば、検知装置10は、各データを所定の時刻間の差又は比に変換する。
前処理部131は、学習用のデータ及び検知対象のデータを加工する。また、生成部132は、前処理部131によって加工された学習用のデータを基に、深層学習によりモデルを生成する。また、検知部133は、前処理部131によって加工された検知対象のデータをモデルに入力して得られた出力データを基に異常度を計算し、異常度を基に検知対象のデータの異常を検知する。このように、実施形態によれば、深層学習を使って異常検知を行う場合の学習データの前処理や選定、モデルの選択を適切に行えるようになり、検知精度を向上させることができる。
ここで、検知装置10による検知結果の出力例について説明する。検知装置10は、例えばテキストログ及び数値ログの学習及び検知を行うことができる。例えば、数値ログの特徴量は、各種センサが計測した数値及び数値に統計的な処理を施した値である。また、例えば、テキストログの特徴量は、各メッセージを分類してIDを付与し、一定時刻ごとの各IDの出現頻度を表す値である。
これまで、生成部132が深層学習にオートエンコーダを用いる場合の実施形態を説明した。一方で、生成部132は、深層学習にリカレントニューラルネットワーク(以降、RNN)を用いてもよい。つまり、生成部132は、深層学習にオートエンコーダ又はRNNを用いる。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、各装置の分散及び統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散又は統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
一実施形態として、検知装置10は、パッケージソフトウェアやオンラインソフトウェアとして上記の検知を実行する検知プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記の検知プログラムを情報処理装置に実行させることにより、情報処理装置を検知装置10として機能させることができる。ここで言う情報処理装置には、デスクトップ型又はノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機やPHS(Personal Handyphone System)等の移動体通信端末、さらには、PDA(Personal Digital Assistant)等のスレート端末等がその範疇に含まれる。
11 入出力部
12 記憶部
13 制御部
121 モデル情報
131 前処理部
132 生成部
133 検知部
Claims (8)
- 学習用のデータ及び検知対象のデータを加工する前処理部と、
前記前処理部によって加工された学習用のデータを基に、深層学習によりモデルを生成する生成部と、
前記前処理部によって加工された検知対象のデータを前記モデルに入力して得られた出力データを基に異常度を計算し、前記異常度を基に前記検知対象のデータの異常を検知する検知部と、
を有することを特徴とする検知装置。 - 前記前処理部は、特徴量の時系列データである前記学習用のデータから、時間に対する変動の大きさの度合いが所定値以下である特徴量を特定し、
前記検知部は、前記検知対象のデータの特徴量うち、前記前処理部によって特定された特徴量、又は、前記前処理部によって特定された特徴量以外の特徴量の少なくともいずれかを基に異常を検知することを特徴とする請求項1に記載の検知装置。 - 前記前処理部は、前記学習用のデータ及び検知対象のデータの一部又は全てを、当該データの所定の時刻間の差又は比に変換することを特徴とする請求項1に記載の検知装置。
- 前記生成部は、深層学習にオートエンコーダ又はリカレントニューラルネットワークを用いることを特徴とする請求項1から3のいずれか1項に記載の検知装置。
- 前記生成部は、前記学習用のデータに対して複数回学習を行い、
前記検知部は、前記生成部によって生成された各モデルのうち、互いの関係の強さに応じて選択されたモデルを用いて異常を検知することを特徴とする請求項4に記載の検知装置。 - 前記前処理部は、時系列データである前記学習用のデータを所定の期間ごとのスライディングウィンドウで分割し、
前記生成部は、前記前処理部によって分割されたスライディングウィンドウごとのデータのそれぞれを基に、モデルを生成することを特徴とする請求項4又は5に記載の検知装置。 - 前記前処理部は、前記学習用のデータに対する複数の異なる正規化手法ごとに生成されたモデル群、又は、それぞれに異なるモデルパラメータが設定されたモデル群のうちの少なくとも一方のモデル群に含まれる少なくとも1つのモデルを使って計算された異常度が所定の値より高いデータを前記学習用のデータから除外することを特徴とする請求項4から6のいずれか1項に記載の検知装置。
- コンピュータを、請求項1から7のいずれか1項に記載の検知装置として機能させるための検知プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019037021A JP7103274B2 (ja) | 2019-02-28 | 2019-02-28 | 検知装置及び検知プログラム |
US17/421,378 US20210397938A1 (en) | 2019-02-28 | 2020-02-13 | Detection device and detection program |
PCT/JP2020/005474 WO2020175147A1 (ja) | 2019-02-28 | 2020-02-13 | 検知装置及び検知プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019037021A JP7103274B2 (ja) | 2019-02-28 | 2019-02-28 | 検知装置及び検知プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020140580A true JP2020140580A (ja) | 2020-09-03 |
JP7103274B2 JP7103274B2 (ja) | 2022-07-20 |
Family
ID=72238879
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019037021A Active JP7103274B2 (ja) | 2019-02-28 | 2019-02-28 | 検知装置及び検知プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20210397938A1 (ja) |
JP (1) | JP7103274B2 (ja) |
WO (1) | WO2020175147A1 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2022201451A1 (ja) * | 2021-03-25 | 2022-09-29 | ||
JP7335378B1 (ja) | 2022-03-02 | 2023-08-29 | エヌ・ティ・ティ・コムウェア株式会社 | メッセージ分類装置、メッセージ分類方法、およびプログラム |
JP7335379B1 (ja) | 2022-03-02 | 2023-08-29 | エヌ・ティ・ティ・コムウェア株式会社 | 学習装置、学習方法、およびプログラム |
WO2023228316A1 (ja) * | 2022-05-25 | 2023-11-30 | 日本電信電話株式会社 | 検知装置、検知方法及び検知プログラム |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11084225B2 (en) | 2018-04-02 | 2021-08-10 | Nanotronics Imaging, Inc. | Systems, methods, and media for artificial intelligence process control in additive manufacturing |
KR20200141812A (ko) * | 2019-06-11 | 2020-12-21 | 삼성전자주식회사 | 뉴럴 네트워크를 이용하여 이상 신호를 감지하는 방법 및 장치 |
US11117328B2 (en) * | 2019-09-10 | 2021-09-14 | Nanotronics Imaging, Inc. | Systems, methods, and media for manufacturing processes |
US11630956B2 (en) * | 2020-10-20 | 2023-04-18 | Jade Global, Inc. | Extracting data from documents using multiple deep learning models |
CN112738098A (zh) * | 2020-12-28 | 2021-04-30 | 北京天融信网络安全技术有限公司 | 一种基于网络行为数据的异常检测方法及装置 |
US11640388B2 (en) * | 2021-04-30 | 2023-05-02 | International Business Machines Corporation | Cognitive data outlier pre-check based on data lineage |
EP4099224A1 (en) * | 2021-05-31 | 2022-12-07 | Grazper Technologies ApS | A concept for detecting an anomaly in input data |
CN115309871B (zh) * | 2022-10-12 | 2023-03-21 | 中用科技有限公司 | 一种基于人工智能算法的工业大数据处理方法及系统 |
US11704540B1 (en) * | 2022-12-13 | 2023-07-18 | Citigroup Technology, Inc. | Systems and methods for responding to predicted events in time-series data using synthetic profiles created by artificial intelligence models trained on non-homogenous time series-data |
US11868860B1 (en) * | 2022-12-13 | 2024-01-09 | Citibank, N.A. | Systems and methods for cohort-based predictions in clustered time-series data in order to detect significant rate-of-change events |
CN117390586B (zh) * | 2023-12-13 | 2024-05-03 | 福建南方路面机械股份有限公司 | 基于多模态数据的坍落度监测方法、装置及可读介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008117381A (ja) * | 2006-10-10 | 2008-05-22 | Omron Corp | 時系列データ解析装置、時系列データ解析システム、時系列データ解析方法、プログラム、および記録媒体 |
JP2018112863A (ja) * | 2017-01-11 | 2018-07-19 | 株式会社東芝 | 異常検知装置、異常検知方法、および異常検知プログラム |
JP2018148350A (ja) * | 2017-03-03 | 2018-09-20 | 日本電信電話株式会社 | 閾値決定装置、閾値決定方法及びプログラム |
-
2019
- 2019-02-28 JP JP2019037021A patent/JP7103274B2/ja active Active
-
2020
- 2020-02-13 WO PCT/JP2020/005474 patent/WO2020175147A1/ja active Application Filing
- 2020-02-13 US US17/421,378 patent/US20210397938A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008117381A (ja) * | 2006-10-10 | 2008-05-22 | Omron Corp | 時系列データ解析装置、時系列データ解析システム、時系列データ解析方法、プログラム、および記録媒体 |
JP2018112863A (ja) * | 2017-01-11 | 2018-07-19 | 株式会社東芝 | 異常検知装置、異常検知方法、および異常検知プログラム |
JP2018148350A (ja) * | 2017-03-03 | 2018-09-20 | 日本電信電話株式会社 | 閾値決定装置、閾値決定方法及びプログラム |
Non-Patent Citations (2)
Title |
---|
柏木 陽佑 他: "識別的推定法に基づく音声の構造的表象を制約として用いたニューラルネットワーク音響モデルの話者適応", 情報処理学会 研究報告 音声言語情報処理(SLP), vol. 第2016−SLP−112巻 第1号, JPN6020015643, 21 July 2016 (2016-07-21), pages 1 - 6, ISSN: 0004731327 * |
納谷 太 他: "センサネットワークを用いた業務の計測と分析", 電子情報通信学会技術研究報告, vol. 第109巻 第131号, JPN6020015645, 9 July 2009 (2009-07-09), pages 127 - 134, ISSN: 0004731328 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2022201451A1 (ja) * | 2021-03-25 | 2022-09-29 | ||
WO2022201451A1 (ja) * | 2021-03-25 | 2022-09-29 | 株式会社日立国際電気 | 検知装置および検知方法 |
JP7436752B2 (ja) | 2021-03-25 | 2024-02-22 | 株式会社日立国際電気 | 検知装置および検知方法 |
JP7335378B1 (ja) | 2022-03-02 | 2023-08-29 | エヌ・ティ・ティ・コムウェア株式会社 | メッセージ分類装置、メッセージ分類方法、およびプログラム |
JP7335379B1 (ja) | 2022-03-02 | 2023-08-29 | エヌ・ティ・ティ・コムウェア株式会社 | 学習装置、学習方法、およびプログラム |
WO2023228316A1 (ja) * | 2022-05-25 | 2023-11-30 | 日本電信電話株式会社 | 検知装置、検知方法及び検知プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP7103274B2 (ja) | 2022-07-20 |
WO2020175147A1 (ja) | 2020-09-03 |
US20210397938A1 (en) | 2021-12-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7103274B2 (ja) | 検知装置及び検知プログラム | |
JP6313730B2 (ja) | 異常検出システムおよび方法 | |
JP6853148B2 (ja) | 検知装置、検知方法及び検知プログラム | |
WO2017154844A1 (ja) | 分析装置、分析方法および分析プログラム | |
Hoffmann et al. | A best practice guide to resource forecasting for computing systems | |
US11115295B2 (en) | Methods and systems for online monitoring using a variable data | |
US20210097438A1 (en) | Anomaly detection device, anomaly detection method, and anomaly detection program | |
JP2018112863A (ja) | 異常検知装置、異常検知方法、および異常検知プログラム | |
JP2020008997A (ja) | 異常検知システム | |
US20150370235A1 (en) | Analyzing scada systems | |
CN115348159A (zh) | 基于自编码器和服务依赖图的微服务故障定位方法及装置 | |
CN113516174B (zh) | 调用链异常检测方法、计算机设备以及可读存储介质 | |
CN115427968A (zh) | 边缘计算设备中的鲁棒人工智能推理 | |
JP6767312B2 (ja) | 検知システム、検知方法及び検知プログラム | |
CN108362957B (zh) | 设备故障诊断方法、装置、储存介质和电子设备 | |
CN109343952B (zh) | 贝叶斯网络确定方法、装置、存储介质和电子设备 | |
CN111930728A (zh) | 一种设备的特征参数和故障率的预测方法及系统 | |
US20220058075A1 (en) | Identifying faults in system data | |
JP2018073241A (ja) | 検知装置、検知方法および検知プログラム | |
JP6749957B2 (ja) | 検知装置、検知方法及び検知プログラム | |
US20200213203A1 (en) | Dynamic network health monitoring using predictive functions | |
US11188064B1 (en) | Process flow abnormality detection system and method | |
JP6835702B2 (ja) | 異常推定装置、異常推定方法及びプログラム | |
JP7444270B2 (ja) | 判定装置、判定方法及び判定プログラム | |
JP7143894B2 (ja) | 情報処理装置、伝達関数生成方法、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210531 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220513 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220607 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220620 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7103274 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |