JP7420244B2 - 学習装置、学習方法、推定装置、推定方法及びプログラム - Google Patents
学習装置、学習方法、推定装置、推定方法及びプログラム Download PDFInfo
- Publication number
- JP7420244B2 JP7420244B2 JP2022527333A JP2022527333A JP7420244B2 JP 7420244 B2 JP7420244 B2 JP 7420244B2 JP 2022527333 A JP2022527333 A JP 2022527333A JP 2022527333 A JP2022527333 A JP 2022527333A JP 7420244 B2 JP7420244 B2 JP 7420244B2
- Authority
- JP
- Japan
- Prior art keywords
- learning
- latent
- attribute information
- input
- graph data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 36
- 230000014509 gene expression Effects 0.000 claims description 14
- 230000006870 function Effects 0.000 claims description 13
- 238000006243 chemical reaction Methods 0.000 claims description 5
- 238000001514 detection method Methods 0.000 description 62
- 230000002159 abnormal effect Effects 0.000 description 22
- 238000012545 processing Methods 0.000 description 18
- 230000005856 abnormality Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 5
- 230000010365 information processing Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000002547 anomalous effect Effects 0.000 description 3
- 230000001939 inductive effect Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000005295 random walk Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012946 outsourcing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000010454 slate Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000013106 supervised machine learning method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Debugging And Monitoring (AREA)
Description
第1の実施形態に係る検知装置は、入力されたデータを用いてモデルの学習を行う。例えば、入力されるデータは、教師情報付きの属性情報付きグラフである。例えば、教師情報は、データの各サンプルが異常であるか正常であるかを示すラベルである。また、データの各サンプルは、グラフのノードに相当し、ノード間のエッジの有無及び重み等が定義されているものとする。また、検知装置は、学習済みのモデルを用いて、異常であるか正常であるかが未知のサンプルの異常検知を行い、検知結果を出力する。つまり、第1の実施形態において、検知装置は学習装置と推定装置の両方の機能を有する。
図1は、第1の実施形態に係る検知装置の構成例を示す図である。図1に示すように、検知装置10は、入力部11、出力部12、記憶部13及び制御部14を有する。入力部11は、入力装置を介してデータの入力を受け付けるためのインタフェースである。また、出力部12は、出力装置に対してデータを出力するためのインタフェースである。
(条件1)cがゼロベクトルではない。
(条件2)GCNのbias termは使わない。
(条件3)unboundedなactivation function (ReLU等)を用いる。
これまで説明してきたように、入力部11は、正常サンプルを少なくとも含む教師情報付きの属性情報付きグラフデータを入力として受け取る。学習部141は、属性情報付きグラフデータに含まれる正常サンプルの特徴を表す潜在表現を学習する。このように、検知装置10は、正常サンプルが含まれる属性情報付きグラフデータを基に、異常検知のための潜在表現を学習することができる。このため、本実施形態によれば、属性情報付きグラフを含む教師データにおける異常サンプルが正常サンプルに比べて少ない場合であっても、精度良く異常検知を行うことができる。
第1の実施形態では、検知装置が学習装置と推定装置の両方の機能を有する場合の例を説明した。一方、第2の実施形態では、学習装置と推定装置は別々の装置として実現される。
図4は、第2の実施形態に係る検知システムの構成例を示す図である。図4に示すように、検知システム2は、学習装置20及び推定装置30を有する。学習装置20は、入力部21、出力部22、記憶部23及び制御部24を有する。また、推定装置30は、入力部31、出力部32、記憶部33及び制御部34を有する。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、各装置の分散及び統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散又は統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
一実施形態として、検知装置10、学習装置20及び推定装置30は、パッケージソフトウェアやオンラインソフトウェアとして上記の学習処理又は推定処理を実行するプログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記のプログラムを情報処理装置に実行させることにより、情報処理装置を検知装置10、学習装置20又は推定装置30として機能させることができる。ここで言う情報処理装置には、デスクトップ型又はノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機やPHS(Personal Handyphone System)等の移動体通信端末、さらには、PDA(Personal Digital Assistant)等のスレート端末等がその範疇に含まれる。
10 検知装置
11、21、31 入力部
12、22、32 出力部
13、23、33 記憶部
14、24、34 制御部
20 学習装置
30 推定装置
131 モデル情報
141、241 学習部
142、341 推定部
242 格納部
Claims (6)
- 正常サンプルを少なくとも含む教師情報付きの属性情報付きグラフデータを入力として受け取る入力部と、
前記属性情報付きグラフデータに含まれる正常サンプルの特徴を表す潜在表現を学習する学習部と、
を有し、
前記学習部は、
モデルを用いて、前記正常サンプルの特徴を潜在空間における潜在表現に変換する変換部と、
前記変換部によって変換される前記正常サンプルの潜在表現が、あらかじめ設定された前記潜在空間における所定の点に近くなるように、前記モデルのパラメータを更新する更新部と、
を有することを特徴とする学習装置。 - 前記入力部は、サンプルごとの属性情報、及び各サンプルに対応するノード間のエッジの有無を表す隣接グラフを少なくとも含む属性情報付きグラフデータを入力として受け取り、
前記学習部は、前記属性情報と前記隣接グラフの両方を基に得られる潜在表現が最適化されるように学習することを特徴とする請求項1に記載の学習装置。 - 学習装置が実行する学習方法であって、
正常サンプルを少なくとも含む教師情報付きの属性情報付きグラフデータを入力として受け取る入力工程と、
前記属性情報付きグラフデータに含まれる正常サンプルの特徴を表す潜在表現を学習する学習工程と、
を含み、
前記学習工程は、
モデルを用いて、前記正常サンプルの特徴を潜在空間における潜在表現に変換する変換工程と、
前記変換工程によって変換される前記正常サンプルの潜在表現が、あらかじめ設定された前記潜在空間における所定の点に近くなるように、前記モデルのパラメータを更新する更新工程と、
を含むことを特徴とする学習方法。 - 属性情報付きグラフデータを入力として受け取る入力部と、
属性情報付きグラフデータに含まれる正常サンプルの特徴を、潜在空間における潜在表現に変換することに用いられ、変換された前記正常サンプルの潜在表現が、あらかじめ設定された前記潜在空間における所定の点に近くなるように、パラメータが更新されたモデルを用いて、前記入力部に入力された属性情報付きグラフデータの未知ノードの潜在表現と、前記正常サンプルの潜在表現とのかい離の度合いを推定する推定部と、
を有することを特徴とする推定装置。 - 推定装置が実行する推定方法であって、
属性情報付きグラフデータを入力として受け取る入力工程と、
属性情報付きグラフデータに含まれる正常サンプルの特徴を、潜在空間における潜在表現に変換することに用いられ、変換された前記正常サンプルの潜在表現が、あらかじめ設定された前記潜在空間における所定の点に近くなるように、パラメータが更新されたモデルを用いて、前記入力工程において入力された属性情報付きグラフデータの未知ノードの潜在表現と、前記正常サンプルの潜在表現とのかい離の度合いを推定する推定工程と、
を含むことを特徴とする推定方法。 - コンピュータを、請求項1に記載の学習装置、又は請求項4に記載の推定装置として機能させるためのプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/020810 WO2021240661A1 (ja) | 2020-05-26 | 2020-05-26 | 学習装置、学習方法、推定装置、推定方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2021240661A1 JPWO2021240661A1 (ja) | 2021-12-02 |
JP7420244B2 true JP7420244B2 (ja) | 2024-01-23 |
Family
ID=78723053
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022527333A Active JP7420244B2 (ja) | 2020-05-26 | 2020-05-26 | 学習装置、学習方法、推定装置、推定方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7420244B2 (ja) |
WO (1) | WO2021240661A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023157280A1 (ja) * | 2022-02-21 | 2023-08-24 | 日本電信電話株式会社 | 探索装置、探索方法、及び、探索プログラム |
-
2020
- 2020-05-26 JP JP2022527333A patent/JP7420244B2/ja active Active
- 2020-05-26 WO PCT/JP2020/020810 patent/WO2021240661A1/ja active Application Filing
Non-Patent Citations (1)
Title |
---|
YANG, Soojung et al.,A comprehensive study on the prediction reliability of graph neural network for virtual screening,arXiv [online],2020年05月17日,pp.1-40,https://arxiv.org/pdf/2003.07611.pdf |
Also Published As
Publication number | Publication date |
---|---|
JPWO2021240661A1 (ja) | 2021-12-02 |
WO2021240661A1 (ja) | 2021-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Savitha et al. | A meta-cognitive learning algorithm for an extreme learning machine classifier | |
US7996342B2 (en) | Systems, methods and computer program products for supervised dimensionality reduction with mixed-type features and labels | |
Daye et al. | High-dimensional heteroscedastic regression with an application to eQTL data analysis | |
Häggström | Data‐driven confounder selection via Markov and Bayesian networks | |
Delgado-Panadero et al. | Implementing local-explainability in gradient boosting trees: feature contribution | |
JP6870508B2 (ja) | 学習プログラム、学習方法及び学習装置 | |
Cai et al. | One-step targeted maximum likelihood estimation for time-to-event outcomes | |
US11146580B2 (en) | Script and command line exploitation detection | |
Steingrimsson et al. | Deep learning for survival outcomes | |
CN113287093A (zh) | 基于众包的容器异常检测 | |
Zhou et al. | A priori trust inference with context-aware stereotypical deep learning | |
US10997499B1 (en) | Systems and methods for file system metadata analytics | |
EP3916597A1 (en) | Detecting malware with deep generative models | |
US11645500B2 (en) | Method and system for enhancing training data and improving performance for neural network models | |
Singh et al. | Assessment of supervised machine learning algorithms using dynamic API calls for malware detection | |
US20220180240A1 (en) | Transaction composition graph node embedding | |
JP6767312B2 (ja) | 検知システム、検知方法及び検知プログラム | |
Moore et al. | Increasing power in randomized trials with right censored outcomes through covariate adjustment | |
JP7420244B2 (ja) | 学習装置、学習方法、推定装置、推定方法及びプログラム | |
WO2020129031A1 (en) | Method and system for generating investigation cases in the context of cybersecurity | |
US10540828B2 (en) | Generating estimates of failure risk for a vehicular component in situations of high-dimensional and low sample size data | |
JP2020021343A (ja) | 解析装置、解析方法及びプログラム | |
US20210365358A1 (en) | Diagnosing anomalies detected by black-box machine learning models | |
Guo et al. | SGB‐ELM: an advanced stochastic gradient boosting‐based ensemble scheme for extreme learning machine | |
Guo et al. | An interpretable neural network model through piecewise linear approximation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221021 |
|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A801 Effective date: 20221021 |
|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20221021 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230905 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231106 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231212 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231225 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7420244 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |