JP7464114B2 - 識別装置、識別方法及び記録媒体 - Google Patents
識別装置、識別方法及び記録媒体 Download PDFInfo
- Publication number
- JP7464114B2 JP7464114B2 JP2022518529A JP2022518529A JP7464114B2 JP 7464114 B2 JP7464114 B2 JP 7464114B2 JP 2022518529 A JP2022518529 A JP 2022518529A JP 2022518529 A JP2022518529 A JP 2022518529A JP 7464114 B2 JP7464114 B2 JP 7464114B2
- Authority
- JP
- Japan
- Prior art keywords
- index value
- classification
- class
- input data
- objective function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 18
- 230000006870 function Effects 0.000 claims description 94
- 238000004590 computer program Methods 0.000 claims description 11
- 238000011156 evaluation Methods 0.000 description 52
- 238000004364 calculation method Methods 0.000 description 41
- 238000012546 transfer Methods 0.000 description 9
- 230000006872 improvement Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000009467 reduction Effects 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 230000000052 comparative effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000000306 recurrent effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000015654 memory Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Description
初めに、図1を参照しながら、本実施形態の識別装置1の構成について説明する。図1は、本実施形態の識別装置1の構成を示すブロック図である。
続いて、図4を参照しながら、本実施形態の識別装置1が行う学習動作の流れについて説明する。図4は、本実施形態の識別装置1が行う学習動作の流れを示すフローチャートである。
以上説明したように、本実施形態の識別装置1は、評価曲線PECに基づく目的関数Lを用いて、学習モデルGのパラメータの更新(つまり、学習モデルMの学習)を行う。具体的には、識別装置1は、評価曲線PECよりも下側の領域AUCの面積Sが最大になるように、学習モデルGのパラメータの更新(つまり、学習モデルMの学習)を行う。ここで、学習動作が開始される前の評価曲線PECと学習動作が完了した後の評価曲線PECとを示すグラフである図10に示すように、領域AUCの面積Sが大きくなるように学習モデルMの学習が行われると、座標平面上で評価曲線PECが左上方にシフトする。座標平面上で評価曲線PECが左上方にシフトすると、許容閾値を超える精度評価値を実現する(つまり、識別精度が十分になる状態を実現する)ための時間指標値の最小値が小さくなる。例えば、図10に示す例では、学習動作が開始される前には、許容閾値を超える精度評価値を実現するための時間指標値の最小値が値t1である一方で、学習動作が完了した後には、許容閾値を超える精度評価値を実現するための時間指標値の最小値が値t1よりも小さい値t2になっている。このように許容閾値を超える精度評価値を実現するための時間指標値の最小値が小さくなることは、許容閾値を超える識別精度で入力データのクラスを識別するために要する時間が短くなることを意味する。従って、本実施形態では、識別装置1は、入力データのクラスの識別精度(つまり、クラスの識別結果の正確さ)の向上と入力データのクラスを識別するために要する識別時間の短縮とを両立させることができる。
上述した説明では、学習ユニット22は、評価曲線PECよりも下側の領域AUCの面積Sに基づく目的関数Lを用いて、学習モデルMの学習を行っている。しかしながら、学習ユニット22は、領域AUCの面積Sに基づく目的関数Lに加えて又は代えて、評価曲線PECに基づいて定まる任意の目的関数Lを用いて、学習モデルMの学習を行ってもよい。例えば、評価曲線PECを示すグラフである図11に示すように、学習ユニット22は、評価曲線PEC上の少なくとも一つのサンプル点Pの位置に基づく目的関数Lを用いて、学習モデルMの学習を行ってもよい。この場合、学習ユニット22は、評価曲線PEC上の少なくとも一つのサンプル点Pが座標平面上で左上方に最大限シフトするように、換言すれば、評価曲線PECの立ち上がり部分(具体的には、図11における時間指標値が最も小さい領域における曲線部分)に設定された特定の点Pにおける評価曲線PECの傾きを最大化するように、少なくとも一つのサンプル点Pの位置に基づく目的関数Lを用いて、学習モデルMの学習を行ってもよい。ここで、学習ユニット22は、座標平面上で評価曲線PECを左上方に効率的にシフトさせるために、時間指標値が相対的に小さいサンプル点Pの精度指標値の向上を、時間指標値が相対的に大きいサンプル点Pの精度指標値の向上よりも優先させてもよい。つまり、サンプル点Pに対応する時間指標値が小さいほど当該サンプル点Pの重みが大きくなるように、少なくとも一つのサンプル点Pの位置に基づく目的関数Lを算出してもよい。
2 演算装置
21 識別ユニット
211 特徴量算出部
212 識別部
22 学習ユニット
221 曲線算出部
222 目的関数算出部
223 更新部
Claims (9)
- 学習可能な学習モデルを用いて、入力データのクラスを識別する識別手段と、
前記入力データのクラスの識別結果の正確さを評価するための第1指標値と前記入力データのクラスの識別に要する時間を評価するための第2指標値との間の関連性に基づく目的関数を用いて、前記学習モデルを更新する更新手段と
を備え、
前記目的関数は、前記第1及び第2指標値に夫々対応する二つの座標軸を含む座標平面内で前記関連性を示す曲線に基づく関数を含む
識別装置。 - 前記目的関数は、前記曲線よりも下側の領域の面積に基づく関数を含む
請求項1に記載の識別装置。 - 前記第1及び第2指標値の夫々が、最小値がゼロとなり且つ最大値が1となるようにお正規化されている場合には、前記曲線よりも下側の領域は、前記曲線と、前記二つの座標軸のうちの前記第2指標値に対応する一の座標軸と、前記第2指標値=1という数式で特定される直線とによって囲まれる領域である
請求項2に記載の識別装置。 - 前記目的関数は、目的関数をLとし、且つ、最大値が1になるように正規化された前記面積をSとすると、L=(1-S)2という数式を用いて定義される
請求項2又は3に記載の識別装置。 - 前記更新手段は、前記面積が最大になるように、前記目的関数を用いて前記学習モデルを更新する
請求項2から4のいずれか一項に記載の識別装置。 - 前記学習モデルは、前記入力データが入力された場合に、前記入力データが所定クラスに属する確からしさを示す尤度を出力し、
前記識別手段は、前記尤度と所定閾値との大小関係に基づいて、前記入力データのクラスを識別し、
前記更新手段は、(i)互いに異なる複数の前記所定閾値を用いた前記識別手段の識別結果に基づいて、前記第1及び第2指標値を算出し、(ii)前記算出した第1及び第2指標値に基づいて、前記目的関数を算出し、(iii)前記算出した目的関数を用いて、前記学習モデルを更新する
請求項1から5のいずれか一項に記載の識別装置。 - 前記入力データは、系統だって配列可能な複数の単位データを含む系列データを含み、
前記学習モデルは、前記系列データが入力された場合に、前記系列データが所定クラスに属する確からしさを示す尤度を、前記複数の単位データに夫々対応して複数出力する
請求項1から6のいずれか一項に記載の識別装置。 - 学習可能な学習モデルを用いて、入力データのクラスを識別することと、
前記入力データのクラスの識別結果の正確さを評価するための第1指標値と前記入力データのクラスの識別に要する時間を評価するための第2指標値との間の関連性に基づく目的関数を用いて、前記学習モデルを更新することと
を含み、
前記目的関数は、前記第1及び第2指標値に夫々対応する二つの座標軸を含む座標平面内で前記関連性を示す曲線に基づく関数を含む
識別方法。 - コンピュータに識別方法を実行させるコンピュータプログラムであって、
前記識別方法は、
学習可能な学習モデルを用いて、入力データのクラスを識別することと、
前記入力データのクラスの識別結果の正確さを評価するための第1指標値と前記入力データのクラスの識別に要する時間を評価するための第2指標値との間の関連性に基づく目的関数を用いて、前記学習モデルを更新することと
を含み、
前記目的関数は、前記第1及び第2指標値に夫々対応する二つの座標軸を含む座標平面内で前記関連性を示す曲線に基づく関数を含む
コンピュータプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/018236 WO2021220450A1 (ja) | 2020-04-30 | 2020-04-30 | 識別装置、識別方法及び記録媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JPWO2021220450A1 JPWO2021220450A1 (ja) | 2021-11-04 |
JPWO2021220450A5 JPWO2021220450A5 (ja) | 2023-01-23 |
JP7464114B2 true JP7464114B2 (ja) | 2024-04-09 |
Family
ID=78331882
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022518529A Active JP7464114B2 (ja) | 2020-04-30 | 2020-04-30 | 識別装置、識別方法及び記録媒体 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220245519A1 (ja) |
JP (1) | JP7464114B2 (ja) |
WO (1) | WO2021220450A1 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019049688A1 (ja) | 2017-09-06 | 2019-03-14 | 日本電信電話株式会社 | 異常音検知装置、異常モデル学習装置、異常検知装置、異常音検知方法、異常音生成装置、異常データ生成装置、異常音生成方法、およびプログラム |
US20190095799A1 (en) | 2017-08-18 | 2019-03-28 | University Of Southern California | Optimally stopped optimization systems and methods |
JP2019164618A (ja) | 2018-03-20 | 2019-09-26 | 株式会社東芝 | 信号処理装置、信号処理方法およびプログラム |
-
2020
- 2020-04-30 JP JP2022518529A patent/JP7464114B2/ja active Active
- 2020-04-30 WO PCT/JP2020/018236 patent/WO2021220450A1/ja active Application Filing
- 2020-04-30 US US17/617,659 patent/US20220245519A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190095799A1 (en) | 2017-08-18 | 2019-03-28 | University Of Southern California | Optimally stopped optimization systems and methods |
WO2019049688A1 (ja) | 2017-09-06 | 2019-03-14 | 日本電信電話株式会社 | 異常音検知装置、異常モデル学習装置、異常検知装置、異常音検知方法、異常音生成装置、異常データ生成装置、異常音生成方法、およびプログラム |
JP2019164618A (ja) | 2018-03-20 | 2019-09-26 | 株式会社東芝 | 信号処理装置、信号処理方法およびプログラム |
Non-Patent Citations (2)
Title |
---|
Russwurm, M., et al.,End-to-end learning for early classification of time series.[online],arXiv,2019年01月30日,[検索日 2020.09.25], Internet: <URL:https://arxiv.org/pdf/1901.10681.pdf> |
Wang, W., et al.,Earliness-aware deep convolutional networks for early time series classification. [online],arXiv,2016年11月14日,[検索日 2020.09.25], Internet: <URL:https://arxiv.org/pdf/1611.04578.pdf> |
Also Published As
Publication number | Publication date |
---|---|
US20220245519A1 (en) | 2022-08-04 |
JPWO2021220450A1 (ja) | 2021-11-04 |
WO2021220450A1 (ja) | 2021-11-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106548210B (zh) | 基于机器学习模型训练的信贷用户分类方法及装置 | |
WO2021155706A1 (zh) | 利用不平衡正负样本对业务预测模型训练的方法及装置 | |
US11023806B2 (en) | Learning apparatus, identifying apparatus, learning and identifying system, and recording medium | |
Krishnan et al. | Deep kalman filters | |
Fernández-Navarro et al. | A dynamic over-sampling procedure based on sensitivity for multi-class problems | |
US11977625B2 (en) | Using multimodal model consistency to detect adversarial attacks | |
US20200320428A1 (en) | Fairness improvement through reinforcement learning | |
US20230342846A1 (en) | Micro-loan system | |
CN109754078A (zh) | 用于优化神经网络的方法 | |
US20180253645A1 (en) | Triage of training data for acceleration of large-scale machine learning | |
Acilar et al. | Optimization of multiple input–output fuzzy membership functions using clonal selection algorithm | |
JP2023544186A (ja) | 敵対的補間バックドア検出 | |
WO2020247200A1 (en) | Likelihood ratios for out-of-distribution detection | |
US11488007B2 (en) | Building of custom convolution filter for a neural network using an automated evolutionary process | |
WO2023064906A1 (en) | Multi-model system for electronic transaction authorization and fraud detection | |
KR102308752B1 (ko) | 객체 추적 방법 및 장치 | |
Ye et al. | High‐Dimensional Feature Selection Based on Improved Binary Ant Colony Optimization Combined with Hybrid Rice Optimization Algorithm | |
JP7464114B2 (ja) | 識別装置、識別方法及び記録媒体 | |
CN117009863A (zh) | 免疫组库分类方法、装置、设备和存储介质 | |
CN115936104A (zh) | 用于训练机器学习模型的方法和装置 | |
Kurz et al. | Isolating cost drivers in interstitial lung disease treatment using nonparametric Bayesian methods | |
Yuvarajan et al. | A Comparison of Machine Learning Techniques for Survival Prediction in Breast Cancer Gene Expression Data | |
WO2021214861A1 (ja) | 学習装置、学習済みモデル生成方法、分類装置、分類方法、及びコンピュータ読み取り可能な記録媒体 | |
Froelich et al. | Medical diagnosis using fuzzy cognitive map classifier | |
Gan et al. | Deep Reinforcement Learning and Dempster-Shafer Theory: A Unified Approach to Imbalanced Classification |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221027 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221027 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230919 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231031 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231212 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240206 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240227 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240311 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7464114 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |