JP2020113119A - 監視システム、監視方法およびプログラム - Google Patents
監視システム、監視方法およびプログラム Download PDFInfo
- Publication number
- JP2020113119A JP2020113119A JP2019004517A JP2019004517A JP2020113119A JP 2020113119 A JP2020113119 A JP 2020113119A JP 2019004517 A JP2019004517 A JP 2019004517A JP 2019004517 A JP2019004517 A JP 2019004517A JP 2020113119 A JP2020113119 A JP 2020113119A
- Authority
- JP
- Japan
- Prior art keywords
- output data
- statistical information
- abnormality
- degree
- learning model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
- G06F11/0766—Error or fault reporting or storing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3452—Performance evaluation by statistical analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3466—Performance evaluation by tracing or monitoring
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/043—Architecture, e.g. interconnection topology based on fuzzy logic, fuzzy membership or fuzzy inference, e.g. adaptive neuro-fuzzy inference systems [ANFIS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Computer Hardware Design (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Pure & Applied Mathematics (AREA)
- Automation & Control Theory (AREA)
- Computational Mathematics (AREA)
- Fuzzy Systems (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Debugging And Monitoring (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
Description
上記のように、機械学習により学習されたモデル(以下、学習モデルという)は、入力データの傾向の変化によって出力の精度が低下する場合がある。このような場合に、入力データの傾向の変化を検知して変化の原因を排除すること、変化した入力データに対しても精度よく機能するように学習モデルを修正すること、および、その時に得られた出力の取り扱いに注意すること、などが学習モデルを運用する上で重要となる。
第2の実施形態にかかる監視システムは、異常が生じたと判定された場合に、異常の原因などを示す情報を出力する。図5は、第2の実施形態にかかる監視システムの構成の一例を示すブロック図である。図5に示すように、第2の実施形態にかかる監視システムは、情報処理装置100と、監視装置200−2と、情報処理装置300と、を備えている。
101 処理制御部
102 通信制御部
121 記憶部
200、200−2 監視装置
201 取得部
202 算出部
203 判定部
204 出力制御部
205−2 抽出部
206−2 生成部
221 記憶部
300 情報処理装置
301 表示制御部
302 通信制御部
321 表示部
400 ネットワーク
Claims (6)
- 学習された学習モデルに第1入力データを入力して得られる複数の第1出力データ、および、複数の前記第1出力データから得られる第1統計情報、の少なくとも一方を記憶する記憶部と、
前記学習モデルに第2入力データを入力して得られる複数の第2出力データを取得する取得部と、
複数の前記第1統計情報に対する前記第2出力データの統計情報の変化の度合い、複数の前記第1出力データから算出される第2統計情報に対する前記第2出力データの統計情報の変化の度合い、および、複数の前記第1統計情報から算出される第3統計情報に対する前記第2出力データの統計情報の変化の度合い、の少なくとも1つを表す異常度を算出する算出部と、
前記異常度に基づいて、前記学習モデルに異常が生じたか否かを判定する判定部と、
異常が生じたと判定された場合に、異常が生じたことを示す情報を出力する出力制御部と、
を備える監視システム。 - 異常が生じたと判定された場合に、複数の前記第2出力データのうち、異常の原因となった第2出力データである異常データを抽出する抽出部をさらに備え、
前記出力制御部は、さらに、前記学習モデルが前記異常データをどのように処理したかを示す情報を出力する、
請求項1に記載の監視システム。 - 前記学習モデルは、ニューラルネットワークである、
請求項1に記載の監視システム。 - 前記第1出力データおよび前記第2出力データは、前記ニューラルネットワークが出力するロジットまたは確率値である、
請求項3に記載の監視システム。 - 学習された学習モデルに第1入力データを入力して得られる複数の第1出力データ、および、複数の前記第1出力データから得られる第1統計情報、の少なくとも一方を記憶する記憶ステップと、
前記学習モデルに第2入力データを入力して得られる複数の第2出力データを取得する取得ステップと、
複数の前記第1統計情報に対する前記第2出力データの統計情報の変化の度合い、複数の前記第1出力データから算出される第2統計情報に対する前記第2出力データの統計情報の変化の度合い、および、複数の前記第1統計情報から算出される第3統計情報に対する前記第2出力データの統計情報の変化の度合い、の少なくとも1つを表す異常度を算出する算出ステップと、
前記異常度に基づいて、前記学習モデルに異常が生じたか否かを判定する判定ステップと、
異常が生じたと判定された場合に、異常が生じたことを示す情報を出力する出力制御ステップと、
を含む監視方法。 - 学習された学習モデルに第1入力データを入力して得られる複数の第1出力データ、および、複数の前記第1出力データから得られる第1統計情報、の少なくとも一方を記憶する記憶部を備えるコンピュータを、
前記学習モデルに第2入力データを入力して得られる複数の第2出力データを取得する取得部と、
複数の前記第1統計情報に対する前記第2出力データの統計情報の変化の度合い、複数の前記第1出力データから算出される第2統計情報に対する前記第2出力データの統計情報の変化の度合い、および、複数の前記第1統計情報から算出される第3統計情報に対する前記第2出力データの統計情報の変化の度合い、の少なくとも1つを表す異常度を算出する算出部と、
前記異常度に基づいて、前記学習モデルに異常が生じたか否かを判定する判定部と、
異常が生じたと判定された場合に、異常が生じたことを示す情報を出力する出力制御部と、
として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019004517A JP7309366B2 (ja) | 2019-01-15 | 2019-01-15 | 監視システム、監視方法およびプログラム |
US16/542,420 US20200226048A1 (en) | 2019-01-15 | 2019-08-16 | Monitoring system, monitoring method, and computer program product |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019004517A JP7309366B2 (ja) | 2019-01-15 | 2019-01-15 | 監視システム、監視方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020113119A true JP2020113119A (ja) | 2020-07-27 |
JP7309366B2 JP7309366B2 (ja) | 2023-07-18 |
Family
ID=71518082
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019004517A Active JP7309366B2 (ja) | 2019-01-15 | 2019-01-15 | 監視システム、監視方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20200226048A1 (ja) |
JP (1) | JP7309366B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11698977B1 (en) * | 2019-11-13 | 2023-07-11 | Ivanti, Inc. | Predicting and quantifying weaponization of software weaknesses |
CN113406935B (zh) * | 2021-06-22 | 2022-09-02 | 惠民万顺节能新材料有限公司 | 一种热镀铝锌板生产过程监控系统 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070028219A1 (en) * | 2004-10-15 | 2007-02-01 | Miller William L | Method and system for anomaly detection |
WO2018061842A1 (ja) * | 2016-09-27 | 2018-04-05 | 東京エレクトロン株式会社 | 異常検知プログラム、異常検知方法および異常検知装置 |
JP2019016209A (ja) * | 2017-07-07 | 2019-01-31 | 株式会社東芝 | 診断装置、診断方法およびコンピュータプログラム |
-
2019
- 2019-01-15 JP JP2019004517A patent/JP7309366B2/ja active Active
- 2019-08-16 US US16/542,420 patent/US20200226048A1/en active Pending
Non-Patent Citations (2)
Title |
---|
INDRE ZLIOBAITE: ""Change with Delayed Labeling: when is it detectable?"", 2010 IEEE INTERNATIONAL CONFERENCE ON DATA MINING WORKSHOPS [ONLINE], JPN6022045477, 2011, pages 843 - 850, ISSN: 0004909381 * |
武藤 志真子, 管理栄養士・栄養士のための 統計処理入門, vol. 初版, JPN6022045478, 1 March 2012 (2012-03-01), pages 87 - 94, ISSN: 0004909382 * |
Also Published As
Publication number | Publication date |
---|---|
US20200226048A1 (en) | 2020-07-16 |
JP7309366B2 (ja) | 2023-07-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11763198B2 (en) | Sensor contribution ranking | |
US10733287B2 (en) | Resiliency of machine learning models | |
US11675641B2 (en) | Failure prediction | |
US20170109427A1 (en) | Information processing apparatus, information processing method, and storage medium | |
US20170147909A1 (en) | Information processing apparatus, information processing method, and storage medium | |
US20210116331A1 (en) | Anomaly analysis method, program, and system | |
US20220083814A1 (en) | Associating a population descriptor with a trained model | |
US10068073B2 (en) | Verification device and control method for verifiction device, as well as computer program | |
US11080070B2 (en) | Automated user interface analysis | |
WO2019087803A1 (ja) | 画像処理装置、画像処理方法及び記録媒体 | |
JP7309366B2 (ja) | 監視システム、監視方法およびプログラム | |
US20190213610A1 (en) | Evaluation device and evaluation method | |
US20210356943A1 (en) | Monitoring apparatus, monitoring method, computer program product, and model training apparatus | |
US11521392B2 (en) | Image processing apparatus and image processing method for image analysis process | |
US11455489B2 (en) | Device that updates recognition model and method of updating recognition model | |
JP6874864B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US20190066285A1 (en) | Image inspection apparatus, image inspection method, and image inspection program | |
US11527091B2 (en) | Analyzing apparatus, control method, and program | |
US20170276567A1 (en) | Information processing apparatus, information processing method, and program | |
JP2014146161A (ja) | モデル推定装置およびその方法 | |
US20220067345A1 (en) | Method and system for identifying, tracking, and collecting data on a person of interest | |
US20210232947A1 (en) | Signal processing device, signal processing method, and computer program product | |
CN113837208A (zh) | 一种异常图像的确定方法、装置、电子设备及存储介质 | |
US20220180495A1 (en) | Abnormality detection apparatus, control method, and program | |
JP2016099688A (ja) | リスク評価方法およびリスク評価装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211116 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220921 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221101 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20221216 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230222 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230606 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230705 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7309366 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |