JP7444270B2 - 判定装置、判定方法及び判定プログラム - Google Patents
判定装置、判定方法及び判定プログラム Download PDFInfo
- Publication number
- JP7444270B2 JP7444270B2 JP2022550323A JP2022550323A JP7444270B2 JP 7444270 B2 JP7444270 B2 JP 7444270B2 JP 2022550323 A JP2022550323 A JP 2022550323A JP 2022550323 A JP2022550323 A JP 2022550323A JP 7444270 B2 JP7444270 B2 JP 7444270B2
- Authority
- JP
- Japan
- Prior art keywords
- determination
- data
- model
- overdetection
- relearning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 32
- 238000001514 detection method Methods 0.000 claims description 72
- 230000006870 function Effects 0.000 claims description 13
- 230000005856 abnormality Effects 0.000 claims description 9
- 230000002159 abnormal effect Effects 0.000 claims description 7
- 238000012545 processing Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 238000011156 evaluation Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000010365 information processing Effects 0.000 description 4
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000003211 malignant effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012946 outsourcing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000010454 slate Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1416—Event detection, e.g. attack signature detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computer Security & Cryptography (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Probability & Statistics with Applications (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Debugging And Monitoring (AREA)
- Alarm Systems (AREA)
- Testing And Monitoring For Control Systems (AREA)
Description
図1は、判定装置と検知システムとの関係を説明する図である。図1に示すように、判定装置30は、過検知データ及び検知結果に関する情報を検知システム1から取得し、取得した情報を基に判定を行い、判定結果をユーザに通知する。
判定部332は、過検知データの件数の初期学習データの件数に対する割合が所定の値を超えた場合、初期学習モデルの再学習が必要であると判定する。例えば、過検知モデルの学習に使用される過検知データの件数が、初期学習データの件数の30%を超えた場合、判定部332は初期学習モデルの再学習が必要であると判定する。
判定部332は、検知対象のデータのうちの、過検知モデルを使った異常検知システムによって異常と検知されなかったデータの割合が所定の値を超えた場合、初期学習モデルの再学習が必要であると判定する。例えば、過検知モデルによって正常判定されるデータの件数が、検知対象のデータの件数の40%を超えた場合、初期学習モデルの再学習が必要であると判定される。
図5は、第1の実施形態に係る判定装置の処理の流れを示すフローチャートである。まず、判定装置30は、過検知データに関する情報、初期学習モデルに関する情報、過検知モデルに関する情報を取得を取得する(ステップS101)。判定装置30は、これらの全ての情報を取得してもよいし、一部を取得してもよい。
これまで説明してきたように、判定部332は、正常であることが既知の初期学習データを学習することにより生成された初期学習モデルに関する情報、初期学習モデルを使った異常検知システムによって過検知された過検知データに関する情報、及び、過検知データを基に生成された過検知モデルに関する情報のうち少なくともいずれかに基づき、初期学習モデルの再学習の要否を判定する。通知部333は、判定部332による判定の結果を通知する。このように、判定装置30は、再学習の要否を自動的に判定して通知する。その結果、本実施形態によれば、正常状態の変化に追従する手法を適切に選択することができるようになる。
本実施形態の検知システム1及び判定装置30は、IoT機器の異常検知へ適用可能である。例えば、検知システム1は、IoTネットワークに置かれたネットワークセンサによってキャプチャされたパケットに対して統計処理を実施し、トラフィック特徴量を生成する。そして、検知システム1は、トラフィック特徴量を用いて生成モデル(確率密度推定器)の学習を行い、初期学習モデルを生成する。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、各装置の分散及び統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散又は統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部又は任意の一部が、CPU(Central Processing Unit)及び当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。なお、プログラムは、CPUだけでなく、GPU等の他のプロセッサによって実行されてもよい。
一実施形態として、判定装置30は、パッケージソフトウェアやオンラインソフトウェアとして上記の判定処理を実行する判定プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記の判定プログラムを情報処理装置に実行させることにより、情報処理装置を判定装置30として機能させることができる。ここで言う情報処理装置には、デスクトップ型又はノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機やPHS(Personal Handyphone System)等の移動体通信端末、さらには、PDA(Personal Digital Assistant)等のスレート端末等がその範疇に含まれる。
10 学習装置
20 検知装置
30 判定装置
31 IF部
32 記憶部
33 制御部
331 取得部
332 判定部
333 通知部
Claims (8)
- 正常であることが既知の初期学習データを学習することにより生成された第1のモデルを使った異常検知システムによって過検知された過検知データを所定の基準で複数の種別に分類したときの種別の数の、前記初期学習データを前記基準で分類したときの種別の数に対する割合が所定の値を超えた場合、前記第1のモデルの再学習が必要であると判定する判定部と、
前記判定部による判定の結果を通知する通知部と、
を有することを特徴とする判定装置。 - 正常であることが既知の初期学習データを学習することにより生成された第1のモデルを使った異常検知システムによって過検知された過検知データを基に生成された第2のモデルを使った異常検知システムによって異常と検知されなかったデータの、検知対象のデータに対する割合が所定の値を超えた場合、前記第1のモデルの再学習が必要であると判定する判定部と、
前記判定部による判定の結果を通知する通知部と、
を有することを特徴とする判定装置。 - 前記判定部は、さらに、前記過検知データの件数の前記初期学習データの件数に対する割合が所定の値を超えた場合、前記第1のモデルの再学習が必要であると判定することを特徴とする請求項1又は2に記載の判定装置。
- 前記判定部は、さらに、前記第2のモデルの損失関数が所定の値を超えた場合、前記第1のモデルの再学習が必要であると判定することを特徴とする請求項2に記載の判定装置。
- 前記判定部は、さらに、前記第1のモデルによって計算される異常の度合いを表すスコアが所定の値を超えた場合、前記第1のモデルの再学習が必要であると判定することを特徴とする請求項1又は2に記載の判定装置。
- 判定装置によって実行される判定方法であって、
正常であることが既知の初期学習データを学習することにより生成された第1のモデルを使った異常検知システムによって過検知された過検知データを所定の基準で複数の種別に分類したときの種別の数の、前記初期学習データを前記基準で分類したときの種別の数に対する割合が所定の値を超えた場合、前記第1のモデルの再学習が必要であると判定する判定工程と、
前記判定工程による判定の結果を通知する通知工程と、
を含むことを特徴とする判定方法。 - 判定装置によって実行される判定方法であって、
正常であることが既知の初期学習データを学習することにより生成された第1のモデルを使った異常検知システムによって過検知された過検知データを基に生成された第2のモデルを使った異常検知システムによって異常と検知されなかったデータの、検知対象のデータに対する割合が所定の値を超えた場合、前記第1のモデルの再学習が必要であると判定する判定工程と、
前記判定工程による判定の結果を通知する通知工程と、
を含むことを特徴とする判定方法。 - コンピュータを、請求項1から5のいずれか1項に記載の判定装置として機能させるための判定プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/035622 WO2022059207A1 (ja) | 2020-09-18 | 2020-09-18 | 判定装置、判定方法及び判定プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2022059207A1 JPWO2022059207A1 (ja) | 2022-03-24 |
JP7444270B2 true JP7444270B2 (ja) | 2024-03-06 |
Family
ID=80776756
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022550323A Active JP7444270B2 (ja) | 2020-09-18 | 2020-09-18 | 判定装置、判定方法及び判定プログラム |
Country Status (6)
Country | Link |
---|---|
US (1) | US20230351251A1 (ja) |
EP (1) | EP4216113A4 (ja) |
JP (1) | JP7444270B2 (ja) |
CN (1) | CN116324826A (ja) |
AU (1) | AU2020468530B2 (ja) |
WO (1) | WO2022059207A1 (ja) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018143019A1 (ja) | 2017-01-31 | 2018-08-09 | 日本電気株式会社 | 情報処理装置、情報処理方法およびプログラム記録媒体 |
JP2019513246A (ja) | 2017-03-13 | 2019-05-23 | 平安科技(深▲せん▼)有限公司Ping An Technology (Shenzhen) Co.,Ltd. | ランダムフォレストモデルの訓練方法、電子装置及び記憶媒体 |
WO2019138655A1 (ja) | 2018-01-09 | 2019-07-18 | 日本電信電話株式会社 | モデル学習装置、モデル学習方法、及びプログラム |
JP2019153893A (ja) | 2018-03-01 | 2019-09-12 | 日本電信電話株式会社 | 検知装置、検知方法及び検知プログラム |
JP2019220866A (ja) | 2018-06-20 | 2019-12-26 | 日本電信電話株式会社 | 評価装置及び評価方法 |
JP2020123174A (ja) | 2019-01-30 | 2020-08-13 | オリンパス株式会社 | 画像ファイル生成装置、画像ファイル生成方法、画像管理装置、および画像管理方法 |
JP2021018537A (ja) | 2019-07-18 | 2021-02-15 | オークマ株式会社 | 工作機械における診断モデルの再学習要否判定方法及び再学習要否判定装置、再学習要否判定プログラム |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020078818A1 (en) * | 2018-10-15 | 2020-04-23 | Koninklijke Philips N.V. | Adapting prediction models |
US11481665B2 (en) * | 2018-11-09 | 2022-10-25 | Hewlett Packard Enterprise Development Lp | Systems and methods for determining machine learning training approaches based on identified impacts of one or more types of concept drift |
-
2020
- 2020-09-18 JP JP2022550323A patent/JP7444270B2/ja active Active
- 2020-09-18 EP EP20954192.9A patent/EP4216113A4/en active Pending
- 2020-09-18 US US18/026,345 patent/US20230351251A1/en active Pending
- 2020-09-18 CN CN202080105206.4A patent/CN116324826A/zh active Pending
- 2020-09-18 AU AU2020468530A patent/AU2020468530B2/en active Active
- 2020-09-18 WO PCT/JP2020/035622 patent/WO2022059207A1/ja unknown
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018143019A1 (ja) | 2017-01-31 | 2018-08-09 | 日本電気株式会社 | 情報処理装置、情報処理方法およびプログラム記録媒体 |
JP2019513246A (ja) | 2017-03-13 | 2019-05-23 | 平安科技(深▲せん▼)有限公司Ping An Technology (Shenzhen) Co.,Ltd. | ランダムフォレストモデルの訓練方法、電子装置及び記憶媒体 |
WO2019138655A1 (ja) | 2018-01-09 | 2019-07-18 | 日本電信電話株式会社 | モデル学習装置、モデル学習方法、及びプログラム |
JP2019153893A (ja) | 2018-03-01 | 2019-09-12 | 日本電信電話株式会社 | 検知装置、検知方法及び検知プログラム |
JP2019220866A (ja) | 2018-06-20 | 2019-12-26 | 日本電信電話株式会社 | 評価装置及び評価方法 |
JP2020123174A (ja) | 2019-01-30 | 2020-08-13 | オリンパス株式会社 | 画像ファイル生成装置、画像ファイル生成方法、画像管理装置、および画像管理方法 |
JP2021018537A (ja) | 2019-07-18 | 2021-02-15 | オークマ株式会社 | 工作機械における診断モデルの再学習要否判定方法及び再学習要否判定装置、再学習要否判定プログラム |
Also Published As
Publication number | Publication date |
---|---|
CN116324826A (zh) | 2023-06-23 |
EP4216113A4 (en) | 2024-06-05 |
EP4216113A1 (en) | 2023-07-26 |
AU2020468530A1 (en) | 2023-04-20 |
WO2022059207A1 (ja) | 2022-03-24 |
US20230351251A1 (en) | 2023-11-02 |
AU2020468530B2 (en) | 2024-02-01 |
JPWO2022059207A1 (ja) | 2022-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7103274B2 (ja) | 検知装置及び検知プログラム | |
RU2654146C1 (ru) | Система и способ обнаружения вредоносных файлов с использованием элементов статического анализа | |
WO2018159337A1 (ja) | プロファイル生成装置、攻撃検知装置、プロファイル生成方法、および、プロファイル生成プログラム | |
WO2019240038A1 (ja) | 検知装置及び検知方法 | |
JP2018073258A (ja) | 検知装置、検知方法および検知プログラム | |
WO2019245006A1 (ja) | 検知装置及び検知方法 | |
JP6767312B2 (ja) | 検知システム、検知方法及び検知プログラム | |
US20190303789A1 (en) | Computer-readable recording medium, learning method, and learning device | |
JP7444270B2 (ja) | 判定装置、判定方法及び判定プログラム | |
JP2019040423A (ja) | 検知装置、検知方法および検知プログラム | |
JP6954466B2 (ja) | 生成方法、生成装置および生成プログラム | |
JP6835704B2 (ja) | 検知システム、学習方法及び学習プログラム | |
JP2018073241A (ja) | 検知装置、検知方法および検知プログラム | |
JP7184197B2 (ja) | 異常検出装置、異常検出方法および異常検出プログラム | |
JP7444271B2 (ja) | 学習装置、学習方法及び学習プログラム | |
JP2019003533A (ja) | 検知装置および検知方法 | |
US11899793B2 (en) | Information processing apparatus, control method, and program | |
WO2021075009A1 (ja) | 学習装置、推定装置、学習方法及び学習プログラム | |
JP7509311B2 (ja) | トラフィックセンサ、分析方法、および、分析プログラム | |
JP7176630B2 (ja) | 検知装置、検知方法および検知プログラム | |
JP6933302B2 (ja) | 学習方法、学習装置及び学習プログラム | |
JP7509242B2 (ja) | 改竄検知装置、改竄検知方法および改竄検知プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231107 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240105 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240123 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240205 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7444270 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |