JP7183904B2 - 評価装置、評価方法、および、評価プログラム - Google Patents
評価装置、評価方法、および、評価プログラム Download PDFInfo
- Publication number
- JP7183904B2 JP7183904B2 JP2019058884A JP2019058884A JP7183904B2 JP 7183904 B2 JP7183904 B2 JP 7183904B2 JP 2019058884 A JP2019058884 A JP 2019058884A JP 2019058884 A JP2019058884 A JP 2019058884A JP 7183904 B2 JP7183904 B2 JP 7183904B2
- Authority
- JP
- Japan
- Prior art keywords
- evaluation
- classifier
- learning
- latent variables
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000011156 evaluation Methods 0.000 title claims description 84
- 238000000034 method Methods 0.000 claims description 15
- 238000002372 labelling Methods 0.000 claims description 7
- 238000004891 communication Methods 0.000 description 22
- 238000001514 detection method Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 7
- 230000007123 defense Effects 0.000 description 6
- 230000010365 information processing Effects 0.000 description 5
- 230000002159 abnormal effect Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/552—Detecting local intrusion or implementing counter-measures involving long-term monitoring or reporting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/094—Adversarial learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/03—Indexing scheme relating to G06F21/50, monitoring users, programs or devices to maintain the integrity of platforms
- G06F2221/034—Test or assess a computer or a system
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Security & Cryptography (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Computer Hardware Design (AREA)
- Probability & Statistics with Applications (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Computer And Data Communications (AREA)
Description
11 入出力部
12 制御部
13 記憶部
121 ラベル付与部
122 分類部
123 学習部
124 評価部
Claims (5)
- 入力データとしてラベルなしデータを用いる変分オートエンコーダの潜在変数の入力を受け付ける入力部と、
入力された前記潜在変数を所定のクラスタリング手法によりクラスタリングし、クラスタごとに当該クラスタに属する潜在変数に前記クラスタのラベルを付与するラベル付与部と、
前記ラベルが付与された潜在変数を教師データとして用いて分類器の学習を行う学習部と、
学習後の前記分類器に対し、Adversarial Attackの耐性評価を行う評価部と、
前記Adversarial Attackの耐性評価の結果を、前記変分オートエンコーダのAdversarial Attackの耐性評価として出力する出力部と、
を備えることを特徴とする評価装置。 - 前記所定のクラスタリング手法は、
X-meansであることを特徴とする請求項1に記載の評価装置。 - 前記評価部は、
学習後の前記分類器に入力されるデータに加えるノイズの強さごとに、前記分類器が、前記ノイズの付加後のデータを前記ノイズの付加前のデータに付与されたラベルと同じラベルに分類する確率を測定することにより、前記学習後の分類器に対するAdversarial Attackの耐性評価を行う
ことを特徴とする請求項1に記載の評価装置。 - 評価装置により実行される評価方法であって、
入力データとしてラベルなしデータを用いる変分オートエンコーダの潜在変数の入力を受け付けるステップと、
前記入力された潜在変数を所定のクラスタリング手法によりクラスタリングし、クラスタごとに当該クラスタに属する潜在変数に前記クラスタのラベルを付与するラベル付与ステップと、
前記ラベルが付与された潜在変数を教師データとして用いて分類器の学習を行う学習ステップと、
学習後の前記分類器に対し、Adversarial Attackの耐性評価を行う評価ステップと、
前記Adversarial Attackの耐性評価の結果を、前記変分オートエンコーダのAdversarial Attackの耐性評価として出力する出力ステップと、
を含むことを特徴とする評価方法。 - 入力データとしてラベルなしデータを用いる変分オートエンコーダの潜在変数の入力を受け付ける入力ステップと、
入力された前記潜在変数を所定のクラスタリング手法によりクラスタリングし、クラスタごとに当該クラスタに属する潜在変数に前記クラスタのラベルを付与するラベル付与ステップと、
前記ラベルが付与された潜在変数を教師データとして用いて分類器の学習を行う学習ステップと、
学習後の前記分類器に対し、Adversarial Attackの耐性評価を行う評価ステップと、
前記Adversarial Attackの耐性評価の結果を、前記変分オートエンコーダのAdversarial Attackの耐性評価として出力する出力ステップと、
をコンピュータに実行させることを特徴とする評価プログラム。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019058884A JP7183904B2 (ja) | 2019-03-26 | 2019-03-26 | 評価装置、評価方法、および、評価プログラム |
CN202080018178.2A CN113544704B (zh) | 2019-03-26 | 2020-03-11 | 评价装置、评价方法以及记录介质 |
EP20779293.8A EP3929818B1 (en) | 2019-03-26 | 2020-03-11 | Evaluation device, evaluation method, and evaluation program |
US17/441,701 US11977627B2 (en) | 2019-03-26 | 2020-03-11 | Evaluation device, evaluation method, and evaluation program |
PCT/JP2020/010520 WO2020195826A1 (ja) | 2019-03-26 | 2020-03-11 | 評価装置、評価方法、および、評価プログラム |
AU2020246084A AU2020246084B2 (en) | 2019-03-26 | 2020-03-11 | Evaluation device, evaluation method, and evaluation program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019058884A JP7183904B2 (ja) | 2019-03-26 | 2019-03-26 | 評価装置、評価方法、および、評価プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020160743A JP2020160743A (ja) | 2020-10-01 |
JP7183904B2 true JP7183904B2 (ja) | 2022-12-06 |
Family
ID=72611427
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019058884A Active JP7183904B2 (ja) | 2019-03-26 | 2019-03-26 | 評価装置、評価方法、および、評価プログラム |
Country Status (6)
Country | Link |
---|---|
US (1) | US11977627B2 (ja) |
EP (1) | EP3929818B1 (ja) |
JP (1) | JP7183904B2 (ja) |
CN (1) | CN113544704B (ja) |
AU (1) | AU2020246084B2 (ja) |
WO (1) | WO2020195826A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11893111B2 (en) * | 2019-11-26 | 2024-02-06 | Harman International Industries, Incorporated | Defending machine learning systems from adversarial attacks |
US20230410472A1 (en) * | 2020-11-10 | 2023-12-21 | Nippon Telegraph And Telephone Corporation | Learning device, learning method and program |
CN112463999A (zh) * | 2020-12-10 | 2021-03-09 | 中国科学院深圳先进技术研究院 | 视觉位置识别方法及装置、计算机设备及可读存储介质 |
EP4057193A1 (en) * | 2021-03-10 | 2022-09-14 | Tata Consultancy Services Limited | Method and system for identifying mislabeled data samples using adversarial attacks |
JP2023008415A (ja) | 2021-07-06 | 2023-01-19 | 富士通株式会社 | 評価プログラム、評価方法および情報処理装置 |
EP4120136A1 (en) | 2021-07-14 | 2023-01-18 | Volkswagen Aktiengesellschaft | Method for automatically executing a vehicle function, method for training a machine learning defense model and defense unit for a vehicle |
CN114301719B (zh) * | 2022-03-10 | 2022-05-13 | 中国人民解放军国防科技大学 | 一种基于变分自编码器的恶意更新检测方法及系统 |
JP7311820B1 (ja) | 2022-11-30 | 2023-07-20 | ダイトロン株式会社 | 異常判定方法、異常判定装置及びプログラム |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019101982A (ja) | 2017-12-07 | 2019-06-24 | 日本電信電話株式会社 | 学習装置、検知システム、学習方法及び学習プログラム |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180174035A1 (en) * | 2013-05-06 | 2018-06-21 | Knowmtech, Llc | Universal machine learning building block |
CN105247533B (zh) * | 2013-05-20 | 2017-12-12 | 日本电信电话株式会社 | 信息处理装置和确定方法 |
EP3230890A4 (en) * | 2014-12-10 | 2018-07-25 | Kyndi, Inc. | Technical and semantic signal processing in large, unstructured data fields |
WO2016103651A1 (ja) * | 2014-12-22 | 2016-06-30 | 日本電気株式会社 | 情報処理システム、情報処理方法、及び、記録媒体 |
JP6258189B2 (ja) * | 2014-12-24 | 2018-01-10 | 日本電信電話株式会社 | 特定装置、特定方法および特定プログラム |
US10831577B2 (en) * | 2015-12-01 | 2020-11-10 | Preferred Networks, Inc. | Abnormality detection system, abnormality detection method, abnormality detection program, and method for generating learned model |
CN109844777A (zh) * | 2016-10-26 | 2019-06-04 | 索尼公司 | 信息处理装置和信息处理方法 |
US10685293B1 (en) * | 2017-01-20 | 2020-06-16 | Cybraics, Inc. | Methods and systems for analyzing cybersecurity threats |
US10621586B2 (en) * | 2017-01-31 | 2020-04-14 | Paypal, Inc. | Fraud prediction based on partial usage data |
JP2018139071A (ja) * | 2017-02-24 | 2018-09-06 | 株式会社リコー | 生成モデル学習方法、生成モデル学習装置およびプログラム |
US11049243B2 (en) * | 2017-04-19 | 2021-06-29 | Siemens Healthcare Gmbh | Target detection in latent space |
JP6725452B2 (ja) * | 2017-05-26 | 2020-07-22 | 日本電信電話株式会社 | 分類装置、分類方法および分類プログラム |
US10990677B2 (en) * | 2017-06-05 | 2021-04-27 | Microsoft Technology Licensing, Llc | Adversarial quantum machine learning |
DE102017223751A1 (de) * | 2017-12-22 | 2019-06-27 | Robert Bosch Gmbh | Verfahren und Vorrichtung zur Erkennung von Anomalien in einem Datenstrom eines Kommunikationsnetzwerks |
CN108334497A (zh) * | 2018-02-06 | 2018-07-27 | 北京航空航天大学 | 自动生成文本的方法和装置 |
CN108389239A (zh) * | 2018-02-23 | 2018-08-10 | 深圳市唯特视科技有限公司 | 一种基于条件多模式网络的微笑脸部视频生成方法 |
CN108492118B (zh) * | 2018-04-03 | 2020-09-29 | 电子科技大学 | 汽车售后服务质量评价回访文本数据的两阶段抽取方法 |
CN108573227B (zh) * | 2018-04-09 | 2022-04-29 | 深圳竹信科技有限公司 | 心电图数据质量评价方法及装置 |
CN108776806A (zh) * | 2018-05-08 | 2018-11-09 | 河海大学 | 基于变分自编码器和密度峰值的混合属性数据聚类方法 |
CN108881196B (zh) * | 2018-06-07 | 2020-11-24 | 中国民航大学 | 基于深度生成模型的半监督入侵检测方法 |
JP7119631B2 (ja) * | 2018-06-20 | 2022-08-17 | 日本電信電話株式会社 | 検知装置、検知方法および検知プログラム |
CN109214408A (zh) * | 2018-07-10 | 2019-01-15 | 武汉科技大学 | 基于生成对抗模型识别肝肿瘤的方法及装置 |
CN109063291B (zh) * | 2018-07-20 | 2021-07-13 | 西安交通大学 | 机电装备冷却通道结构智能化拓扑优化设计方法 |
CN109360191B (zh) * | 2018-09-25 | 2020-06-12 | 南京大学 | 一种基于变分自编码器的图像显著性检测方法 |
CN109447137B (zh) * | 2018-10-15 | 2022-06-14 | 聚时科技(上海)有限公司 | 一种基于分解因子的图像局部风格迁移方法 |
CN109507648A (zh) * | 2018-12-19 | 2019-03-22 | 西安电子科技大学 | 基于VAE-ResNet网络的雷达辐射源识别方法 |
-
2019
- 2019-03-26 JP JP2019058884A patent/JP7183904B2/ja active Active
-
2020
- 2020-03-11 US US17/441,701 patent/US11977627B2/en active Active
- 2020-03-11 WO PCT/JP2020/010520 patent/WO2020195826A1/ja unknown
- 2020-03-11 EP EP20779293.8A patent/EP3929818B1/en active Active
- 2020-03-11 AU AU2020246084A patent/AU2020246084B2/en active Active
- 2020-03-11 CN CN202080018178.2A patent/CN113544704B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019101982A (ja) | 2017-12-07 | 2019-06-24 | 日本電信電話株式会社 | 学習装置、検知システム、学習方法及び学習プログラム |
Non-Patent Citations (5)
Title |
---|
KOS, Jernej et al.,Adversarial Examples for Generative Models,arXiv [online],2017年02月22日,[検索日 2020.05.25], インターネット: <URL: https://arxiv.org/pdf/1702.06832v1> |
LOSALKA, Arpan,Resisting Adversarial Attacks Using Gaussian Mixture Variational Autoencoders,Towards Data Science [online],2019年02月18日,[検索日 2020.05.25], インターネット: <URL: https://towardsdatascience.com/resisting-adversarial-atta |
PELLEG, Dan et al.,X-means: Extending K-means with Efficient Estimation of the Number of Clusters,Proc. of the 17th International Conference on Machine Learning,2000年,pp.727-734 |
佐藤聖,軽くてシンプルでLチカ相当「K-means」を動かす,Interface,日本,CQ出版株式会社,2018年05月01日,第44巻, 第5号,pp.75-80,ISSN 0387-9569 |
村田祐樹ほか,Random Forestと畳み込み特徴に基づくインタラクティブ機械学習による人物識別 ―移動ロボットの教室内巡回,人工知能学会第31回全国大会論文集DVD,一般社団法人人工知能学会,2017年05月23日 |
Also Published As
Publication number | Publication date |
---|---|
EP3929818B1 (en) | 2024-08-07 |
CN113544704B (zh) | 2024-07-19 |
US11977627B2 (en) | 2024-05-07 |
JP2020160743A (ja) | 2020-10-01 |
CN113544704A (zh) | 2021-10-22 |
WO2020195826A1 (ja) | 2020-10-01 |
AU2020246084B2 (en) | 2023-02-23 |
EP3929818A1 (en) | 2021-12-29 |
EP3929818A4 (en) | 2022-11-30 |
AU2020246084A1 (en) | 2021-10-14 |
US20220147620A1 (en) | 2022-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7183904B2 (ja) | 評価装置、評価方法、および、評価プログラム | |
AU2016264813B2 (en) | Cascading classifiers for computer security applications | |
US11637859B1 (en) | System and method for analyzing binary code for malware classification using artificial neural network techniques | |
US8401982B1 (en) | Using sequencing and timing information of behavior events in machine learning to detect malware | |
JP2023537826A (ja) | ディープ・ラーニングによるネットワーク侵入検知 | |
Chapaneri et al. | A comprehensive survey of machine learning-based network intrusion detection | |
US20220053010A1 (en) | System and method for determining a communication anomaly in at least one network | |
US8626675B1 (en) | Systems and methods for user-specific tuning of classification heuristics | |
Zhao et al. | CAN bus intrusion detection based on auxiliary classifier GAN and out-of-distribution detection | |
Omar | Machine learning for cybersecurity: Innovative deep learning solutions | |
US11836251B2 (en) | Malware detection using a machine learning model | |
US11663363B2 (en) | System and method of detecting a false positive outcome in classification of files | |
Bowen et al. | BLoCNet: a hybrid, dataset-independent intrusion detection system using deep learning | |
JP2024525288A (ja) | 高次元空間にわたる異常検出方法、システム、プログラム | |
Čeponis et al. | Evaluation of deep learning methods efficiency for malicious and benign system calls classification on the AWSCTD | |
EP3588349B1 (en) | System and method for detecting malicious files using two-stage file classification | |
CN115529159B (zh) | 加密流量检测模型的训练方法、装置、设备及存储介质 | |
CN114443113B (zh) | 异常应用或组件的识别方法、装置、存储介质与电子设备 | |
CN113065132B (zh) | 一种宏程序的混淆检测方法、装置、电子设备和存储介质 | |
Paulikas et al. | Survey of Cloud Traffic Anomaly Detection Algorithms | |
US20240143747A1 (en) | System and method for automatic binary segmentation | |
Sharukh | A Hybrid Deep Learning Approach for Detecting Zero-Day Malware Attacks | |
Albaseer et al. | Exploiting the Divergence Between Output of ML Models to Detect Adversarial Attacks in Streaming IoT Applications | |
Wang et al. | An Incremental Learning Model for Network Intrusion Detection Systems | |
Omar | Machine Learning for Cybersecurity |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210610 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220809 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221006 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221025 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221107 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7183904 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |