JP2021071823A - 予測モデル説明方法、予測モデル説明プログラム、予測モデル説明装置 - Google Patents
予測モデル説明方法、予測モデル説明プログラム、予測モデル説明装置 Download PDFInfo
- Publication number
- JP2021071823A JP2021071823A JP2019196929A JP2019196929A JP2021071823A JP 2021071823 A JP2021071823 A JP 2021071823A JP 2019196929 A JP2019196929 A JP 2019196929A JP 2019196929 A JP2019196929 A JP 2019196929A JP 2021071823 A JP2021071823 A JP 2021071823A
- Authority
- JP
- Japan
- Prior art keywords
- decision tree
- data set
- prediction model
- data
- branch
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000003066 decision tree Methods 0.000 claims abstract description 130
- 238000013138 pruning Methods 0.000 claims description 28
- 238000012545 processing Methods 0.000 claims description 14
- 238000012937 correction Methods 0.000 description 24
- 230000010365 information processing Effects 0.000 description 21
- 230000006870 function Effects 0.000 description 18
- 238000011156 evaluation Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 15
- 238000004364 calculation method Methods 0.000 description 8
- 238000000926 separation method Methods 0.000 description 7
- 101150067055 minC gene Proteins 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 244000141353 Prunus domestica Species 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
- G06N5/045—Explanation of inference; Explainable artificial intelligence [XAI]; Interpretable artificial intelligence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
C=(1−15/20)*(20/100)+0.1*(1−(80/100))=0.070
C=(1−10/20)*(20/100)+0.1*(1−(80/100))=0.120
C=0+0.1*(1−(60/80))=0.025
選択した前記複数のモデルそれぞれを葉とし、前記データセットに含まれるデータを根から前記葉に至る間で分類する論理それぞれを節とする決定木を作成し、
作成した前記決定木の葉に属するデータのばらつきに基づいて、前記決定木の剪定する枝を特定し、
特定した前記枝を剪定した決定木に対応するデータセットに基づいて前記決定木を再作成し、
再作成した前記決定木の各節に対応する論理それぞれを、前記予測モデルの説明結果として出力する、
処理をコンピュータが実行することを特徴とする予測モデル説明方法。
ことを特徴とする付記1に記載の予測モデル説明方法。
ことを特徴とする付記2に記載の予測モデル説明方法。
前記選択する処理は、前記データセットと、当該データセットに付与された前記予測結果とに基づいて前記データセットに含まれるデータを線形分離可能な複数のモデルを選択する、
ことを特徴とする付記1乃至3のいずれか一に記載の予測モデル説明方法。
選択した前記複数のモデルそれぞれを葉とし、前記データセットに含まれるデータを根から前記葉に至る間で分類する論理それぞれを節とする決定木を作成し、
作成した前記決定木の葉に属するデータのばらつきに基づいて、決定木の剪定する枝を特定し、
特定した前記枝を剪定した決定木に対応するデータセットに基づいて前記決定木を再作成し、
再作成した前記決定木の各節に対応する論理それぞれを、前記予測モデルの説明結果として出力する、
処理をコンピュータに実行させることを特徴とする予測モデル説明プログラム。
ことを特徴とする付記5に記載の予測モデル説明プログラム。
ことを特徴とする付記6に記載の予測モデル説明プログラム。
前記選択する処理は、前記データセットと、当該データセットに付与された前記予測結果とに基づいて前記データセットに含まれるデータを線形分離可能な複数のモデルを選択する、
ことを特徴とする付記5乃至7のいずれか一に記載の予測モデル説明プログラム。
選択した前記複数のモデルそれぞれを葉とし、前記データセットに含まれるデータを根から前記葉に至る間で分類する論理それぞれを節とする決定木を作成し、作成した前記決定木の葉に属するデータのばらつきに基づいて、決定木の剪定する枝を特定し、特定した前記枝を剪定した決定木に対応するデータセットに基づいて前記決定木を再作成して前記予測モデルの説明木を生成する生成部と、
生成した前記説明木の各節に対応する論理それぞれを、前記予測モデルの説明結果として出力する出力部と、
を有することを特徴とする予測モデル説明装置。
ことを特徴とする付記9に記載の予測モデル説明装置。
ことを特徴とする付記10に記載の予測モデル説明装置。
前記選択部は、前記データセットと、当該データセットに付与された前記予測結果とに基づいて前記データセットに含まれるデータを線形分離可能な複数のモデルを選択する、
ことを特徴とする付記9乃至11のいずれか一に記載の予測モデル説明装置。
10…入力部
11…入力データセット
12…予測モデル
13…予測結果
13A、13B…ラベル
20…モデル生成部
21…解釈可能モデル作成部
22…モデル選択部
30…説明木生成部
31…決定木生成部
32…評価部
33…データセット修正部
40…出力部
41…出力結果画面
100…コンピュータ
101…CPU
102…入力装置
103…モニタ
104…媒体読取装置
105…インタフェース装置
106…通信装置
107…RAM
108…ハードディスク装置
108A…予測モデル説明プログラム
109…バス
C1、C2…ケース
M、M1〜M6…解釈可能モデル
n0〜n4…ノード
L1〜L6…葉
Claims (6)
- 予測モデルに入力されたデータセットと、当該データセットに対する前記予測モデルの予測結果とに基づいて前記データセットに含まれるデータを線形分離可能な複数のモデルを選択し、
選択した前記複数のモデルそれぞれを葉とし、前記データセットに含まれるデータを根から前記葉に至る間で分類する論理それぞれを節とする決定木を作成し、
作成した前記決定木の葉に属するデータのばらつきに基づいて、前記決定木の剪定する枝を特定し、
特定した前記枝を剪定した決定木に対応するデータセットに基づいて前記決定木を再作成し、
再作成した前記決定木の各節に対応する論理それぞれを、前記予測モデルの説明結果として出力する、
処理をコンピュータが実行することを特徴とする予測モデル説明方法。 - 前記特定する処理は、前記決定木の葉に属するデータにばらつきのある枝について剪定した場合のコストを計算し、計算した前記コストを最小とする枝を剪定する枝として特定する、
ことを特徴とする請求項1に記載の予測モデル説明方法。 - 今回再作成した決定木について計算した前記コストと、前回再作成した決定木について計算した前記コストとの差が所定値未満となるまで前記特定する処理と、前記再作成する処理とを繰り返す、
ことを特徴とする請求項2に記載の予測モデル説明方法。 - 前記データセットは、前記予測結果が正解として付与された前記予測モデルの生成に用いられるデータセットであり、
前記選択する処理は、前記データセットと、当該データセットに付与された前記予測結果とに基づいて前記データセットに含まれるデータを線形分離可能な複数のモデルを選択する、
ことを特徴とする請求項1乃至3のいずれか一項に記載の予測モデル説明方法。 - 予測モデルに入力されたデータセットと、当該データセットに対する前記予測モデルの予測結果とに基づいて前記データセットに含まれるデータを線形分離可能な複数のモデルを選択し、
選択した前記複数のモデルそれぞれを葉とし、前記データセットに含まれるデータを根から前記葉に至る間で分類する論理それぞれを節とする決定木を作成し、
作成した前記決定木の葉に属するデータのばらつきに基づいて、決定木の剪定する枝を特定し、
特定した前記枝を剪定した決定木に対応するデータセットに基づいて前記決定木を再作成し、
再作成した前記決定木の各節に対応する論理それぞれを、前記予測モデルの説明結果として出力する、
処理をコンピュータに実行させることを特徴とする予測モデル説明プログラム。 - 予測モデルに入力されたデータセットと、当該データセットに対する前記予測モデルの予測結果とに基づいて前記データセットに含まれるデータを線形分離可能な複数のモデルを選択する選択部と、
選択した前記複数のモデルそれぞれを葉とし、前記データセットに含まれるデータを根から前記葉に至る間で分類する論理それぞれを節とする決定木を作成し、作成した前記決定木の葉に属するデータのばらつきに基づいて、決定木の剪定する枝を特定し、特定した前記枝を剪定した決定木に対応するデータセットに基づいて前記決定木を再作成して前記予測モデルの説明木を生成する生成部と、
生成した前記説明木の各節に対応する論理それぞれを、前記予測モデルの説明結果として出力する出力部と、
を有することを特徴とする予測モデル説明装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019196929A JP7395960B2 (ja) | 2019-10-30 | 2019-10-30 | 予測モデル説明方法、予測モデル説明プログラム、予測モデル説明装置 |
US17/079,687 US20210133595A1 (en) | 2019-10-30 | 2020-10-26 | Method for describing prediction model, non-transitory computer-readable storage medium for storing prediction model description program, and prediction model description device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019196929A JP7395960B2 (ja) | 2019-10-30 | 2019-10-30 | 予測モデル説明方法、予測モデル説明プログラム、予測モデル説明装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021071823A true JP2021071823A (ja) | 2021-05-06 |
JP7395960B2 JP7395960B2 (ja) | 2023-12-12 |
Family
ID=75688691
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019196929A Active JP7395960B2 (ja) | 2019-10-30 | 2019-10-30 | 予測モデル説明方法、予測モデル説明プログラム、予測モデル説明装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20210133595A1 (ja) |
JP (1) | JP7395960B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102524758B1 (ko) * | 2022-09-26 | 2023-04-25 | (주)시큐레이어 | 설명가능 인공지능(xai)에 기반하여 데이터 마스킹 정보를 제공하기 위한 방법 및 이를 이용한 서버 |
KR102630394B1 (ko) * | 2023-08-29 | 2024-01-30 | (주)시큐레이어 | 설명가능 인공지능(xai)에 기반하여 테이블 데이터 분석 정보를 제공하기 위한 방법 및 이를 이용한 러닝 서버 |
KR102630391B1 (ko) * | 2023-08-29 | 2024-01-30 | (주)시큐레이어 | 설명가능 인공지능(xai)에 기반하여 이미지 데이터 마스킹 정보를 제공하기 위한 방법 및 이를 이용한 러닝 서버 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11481580B2 (en) * | 2018-05-31 | 2022-10-25 | Fujitsu Limited | Accessible machine learning |
US20220171770A1 (en) * | 2020-11-30 | 2022-06-02 | Capital One Services, Llc | Methods, media, and systems for multi-party searches |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08278901A (ja) * | 1995-04-04 | 1996-10-22 | Kokusai Denshin Denwa Co Ltd <Kdd> | 決定木形式の診断知識を用いた診断装置 |
US20070185896A1 (en) * | 2006-02-01 | 2007-08-09 | Oracle International Corporation | Binning predictors using per-predictor trees and MDL pruning |
JP2019125240A (ja) * | 2018-01-18 | 2019-07-25 | 株式会社日立製作所 | 分析装置および分析方法 |
WO2020008919A1 (ja) * | 2018-07-04 | 2020-01-09 | 株式会社エイシング | 機械学習装置及び方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10832264B1 (en) * | 2014-02-28 | 2020-11-10 | Groupon, Inc. | System, method, and computer program product for calculating an accepted value for a promotion |
-
2019
- 2019-10-30 JP JP2019196929A patent/JP7395960B2/ja active Active
-
2020
- 2020-10-26 US US17/079,687 patent/US20210133595A1/en active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08278901A (ja) * | 1995-04-04 | 1996-10-22 | Kokusai Denshin Denwa Co Ltd <Kdd> | 決定木形式の診断知識を用いた診断装置 |
US20070185896A1 (en) * | 2006-02-01 | 2007-08-09 | Oracle International Corporation | Binning predictors using per-predictor trees and MDL pruning |
JP2019125240A (ja) * | 2018-01-18 | 2019-07-25 | 株式会社日立製作所 | 分析装置および分析方法 |
WO2020008919A1 (ja) * | 2018-07-04 | 2020-01-09 | 株式会社エイシング | 機械学習装置及び方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102524758B1 (ko) * | 2022-09-26 | 2023-04-25 | (주)시큐레이어 | 설명가능 인공지능(xai)에 기반하여 데이터 마스킹 정보를 제공하기 위한 방법 및 이를 이용한 서버 |
KR102630394B1 (ko) * | 2023-08-29 | 2024-01-30 | (주)시큐레이어 | 설명가능 인공지능(xai)에 기반하여 테이블 데이터 분석 정보를 제공하기 위한 방법 및 이를 이용한 러닝 서버 |
KR102630391B1 (ko) * | 2023-08-29 | 2024-01-30 | (주)시큐레이어 | 설명가능 인공지능(xai)에 기반하여 이미지 데이터 마스킹 정보를 제공하기 위한 방법 및 이를 이용한 러닝 서버 |
Also Published As
Publication number | Publication date |
---|---|
JP7395960B2 (ja) | 2023-12-12 |
US20210133595A1 (en) | 2021-05-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2021071823A (ja) | 予測モデル説明方法、予測モデル説明プログラム、予測モデル説明装置 | |
Carvalho et al. | A cookbook for using model diagnostics in integrated stock assessments | |
JP5454827B1 (ja) | 文書評価装置、文書評価方法、及びプログラム | |
CN110909758A (zh) | 计算机可读记录介质、学习方法和学习装置 | |
Hagg et al. | Prototype discovery using quality-diversity | |
JPWO2014199920A1 (ja) | 予測関数作成装置、予測関数作成方法、及びプログラム | |
CN108681505B (zh) | 一种基于决策树的测试用例排序方法和装置 | |
CN116210010A (zh) | 用于评估工程系统的一致性的方法和系统 | |
Wiedenmann et al. | Autocorrelated error in stock assessment estimates: implications for management strategy evaluation | |
JP2021096775A (ja) | 学習方法、学習プログラムおよび情報処理装置 | |
Ackermann et al. | Black-box learning of parametric dependencies for performance models | |
US11449578B2 (en) | Method for inspecting a neural network | |
JP2019219848A (ja) | ソースコード解析方法およびソースコード解析装置 | |
CN112183571A (zh) | 预测方法、预测装置以及计算机可读记录介质 | |
Ziegenbein et al. | Machine learning algorithms in machining: A guideline for efficient algorithm selection | |
KR102441442B1 (ko) | 그래프 컨볼루션 네트워크 학습 방법 및 장치 | |
Abdulrahman et al. | An Overview of the Algorithm Selection Problem | |
CN115349129A (zh) | 生成具有不确定性区间的性能预测 | |
JP5623344B2 (ja) | 縮約素性生成装置、方法、プログラム、モデル構築装置及び方法 | |
Hou et al. | A novel machine learning algorithm to reduce prediction error and accelerate learning curve for very large datasets | |
JP7238907B2 (ja) | 機械学習装置、方法及びプログラム | |
WO2022009499A1 (ja) | テスト支援装置及びテスト支援方法 | |
Wilsdorf et al. | Exploiting provenance and ontologies in supporting best practices for simulation experiments: a case study on sensitivity analysis | |
JP7224263B2 (ja) | モデル生成方法、モデル生成装置及びプログラム | |
JP7468650B2 (ja) | 情報処理装置、情報処理方法、及び、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220708 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230517 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230523 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230720 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231031 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231113 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7395960 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |