JP6975692B2 - 計算機システム及び予測器が出力した予測値の根拠に関連する情報の提示方法 - Google Patents
計算機システム及び予測器が出力した予測値の根拠に関連する情報の提示方法 Download PDFInfo
- Publication number
- JP6975692B2 JP6975692B2 JP2018141375A JP2018141375A JP6975692B2 JP 6975692 B2 JP6975692 B2 JP 6975692B2 JP 2018141375 A JP2018141375 A JP 2018141375A JP 2018141375 A JP2018141375 A JP 2018141375A JP 6975692 B2 JP6975692 B2 JP 6975692B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- evaluation target
- target data
- predicted value
- index
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 106
- 239000013598 vector Substances 0.000 claims description 153
- 238000011156 evaluation Methods 0.000 claims description 126
- 238000000605 extraction Methods 0.000 claims description 90
- 238000004364 calculation method Methods 0.000 claims description 75
- 238000004458 analytical method Methods 0.000 claims description 53
- 238000012545 processing Methods 0.000 claims description 18
- 238000007726 management method Methods 0.000 claims description 16
- 238000012549 training Methods 0.000 claims description 8
- 238000013523 data management Methods 0.000 description 29
- 238000010586 diagram Methods 0.000 description 9
- 238000001914 filtration Methods 0.000 description 9
- 238000013461 design Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000001186 cumulative effect Effects 0.000 description 4
- 238000007405 data analysis Methods 0.000 description 4
- 238000003745 diagnosis Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 201000010099 disease Diseases 0.000 description 2
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000000611 regression analysis Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2272—Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
- G06N5/045—Explanation of inference; Explainable artificial intelligence [XAI]; Interpretable artificial intelligence
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Public Health (AREA)
- Databases & Information Systems (AREA)
- Computational Linguistics (AREA)
- Primary Health Care (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Epidemiology (AREA)
- Pathology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
101 端末
105 ネットワーク
110 予測器
111 根拠ベクトル算出部
112 事例抽出部
113 結果出力部
120 予測器設計情報
121 事例データ管理情報
122 根拠ベクトル管理情報
123 説明データ管理情報
201 プロセッサ
202 主記憶装置
203 副記憶装置
204 ネットワークインタフェース
1000、1700 分析画面
Claims (12)
- 複数の特徴量及び正解値から構成される複数の学習データを用いて生成された予測器を用いて、複数の特徴量から構成される評価対象データの予測値を出力する計算機システムであって、
プロセッサ、前記プロセッサに接続されるメモリ、及び前記プロセッサに接続されるネットワークインタフェースを有する少なくとも一つの計算機から構成され、
前記予測器と、
前記予測器が出力した前記評価対象データの予測値を解釈するための第一解釈指標を算出する指標算出部と、
ユーザが前記評価対象データの予測値を解釈するために有用な前記学習データを選択するための選択指標を算出し、前記選択指標に基づいて前記学習データを選択する抽出部と、を備え、
前記学習データに含まれる前記正解値を解釈するための第二解釈指標を管理するための指標管理情報を保持し、
前記予測器は、前記評価対象データの予測値を出力し、
前記指標算出部は、前記評価対象データ及び前記評価対象データの予測値に基づいて、前記第一解釈指標を算出し、
前記抽出部は、
前記第一解釈指標及び前記第二解釈指標に基づいて、前記選択指標を算出し、
前記選択指標に基づいて、前記学習データを選択し、
前記評価対象データの解釈指標及び前記選択された学習データに関する情報を提示するための表示情報を生成し、前記表示情報を出力することを特徴とする計算機システム。 - 請求項1に記載の計算機システムであって、
前記第一解釈指標は、前記評価対象データを構成する前記複数の特徴量の各々の前記予測値に対する寄与度を成分とする根拠ベクトルであり、
前記第二解釈指標は、前記学習データを構成する前記複数の特徴量の各々の前記正解値に対する寄与度を成分とする根拠ベクトルであることを特徴とする計算機システム。 - 請求項2に記載の計算機システムであって、
前記抽出部は、前記評価対象データの根拠ベクトル及び前記学習データの根拠ベクトルの類似度を前記選択指標として算出することを特徴とする計算機システム。 - 請求項2に記載の計算機システムであって、
前記抽出部は、
前記評価対象データの根拠ベクトルを用いて、前記評価対象データの根拠ベクトルと対照的な特徴を有する対照根拠ベクトルを算出し、
前記対照根拠ベクトル及び前記学習データの根拠ベクトルの類似度を前記選択指標として算出することを特徴とする計算機システム。 - 請求項3又は請求項4に記載の計算機システムであって、
前記予測器は、複数の前記評価対象データの各々の前記予測値を出力し、
前記指標算出部は、前記複数の評価対象データの各々の前記第一解釈指標を算出し、
前記抽出部は、
前記複数の評価対象データの各々の前記選択指標を算出し、
前記評価対象データの選択指標に基づいて、前記複数の評価対象データの各々の前記学習データを選択し、
前記複数の評価対象データ及び前記選択された学習データを用いて分析処理を実行し、
前記分析処理の結果を含む前記表示情報を生成することを特徴とする計算機システム。 - 請求項5に記載の計算機システムであって、
前記分析処理の結果は、前記特徴量の傾向に関する情報、及び、前記抽出部によって提示する学習データとして選択された回数に関する情報の少なくともいずれかを含むことを特徴とする計算機システム。 - 複数の特徴量及び正解値から構成される複数の学習データを用いて生成された予測器を用いて、複数の特徴量から構成される評価対象データの予測値を出力する計算機システムが実行する前記予測器が出力した予測値の根拠に関連する情報の提示方法であって、
前記計算機システムは、
プロセッサ、前記プロセッサに接続されるメモリ、及び前記プロセッサに接続されるネットワークインタフェースを有する少なくとも一つの計算機から構成され、
前記予測器と、前記予測器が出力した前記評価対象データの予測値を解釈するための第一解釈指標を算出する指標算出部と、ユーザが前記評価対象データの予測値を解釈するために有用な前記学習データを選択するための選択指標を算出し、前記選択指標に基づいて前記学習データを選択する抽出部と、を有し、
前記学習データに含まれる前記正解値を解釈するための第二解釈指標を管理するための指標管理情報を保持し、
前記予測器が出力した予測値の根拠に関連する情報の提示方法は、
前記予測器が、前記評価対象データの予測値を出力する第1のステップと、
前記指標算出部が、前記評価対象データ及び前記評価対象データの予測値に基づいて、前記第一解釈指標を算出する第2のステップと、
前記抽出部が、前記第一解釈指標及び前記第二解釈指標に基づいて、前記選択指標を算出する第3のステップと、
前記抽出部が、前記選択指標に基づいて、前記学習データを選択する第4のステップと、
前記抽出部が、前記評価対象データの解釈指標及び前記選択された学習データに関する情報を提示するための表示情報を生成し、前記表示情報を出力する第5のステップと、を含むことを特徴とする予測器が出力した予測値の根拠に関連する情報の提示方法。 - 請求項7に記載の予測器が出力した予測値の根拠に関連する情報の提示方法であって、
前記第一解釈指標は、前記評価対象データを構成する前記複数の特徴量の各々の前記予測値に対する寄与度を成分とする根拠ベクトルであり、
前記第二解釈指標は、前記学習データを構成する前記複数の特徴量の各々の前記正解値に対する寄与度を成分とする根拠ベクトルであることを特徴とする予測器が出力した予測値の根拠に関連する情報の提示方法。 - 請求項8に記載の予測器が出力した予測値の根拠に関連する情報の提示方法であって、
前記第3のステップは、前記抽出部が、前記評価対象データの根拠ベクトル及び前記学習データの根拠ベクトルの類似度を前記選択指標として算出するステップを含むことを特徴とする予測器が出力した予測値の根拠に関連する情報の提示方法。 - 請求項8に記載の予測器が出力した予測値の根拠に関連する情報の提示方法であって、
前記第3のステップは、
前記抽出部が、前記評価対象データの根拠ベクトルを用いて、前記評価対象データの根拠ベクトルと対照的な特徴を有する対照根拠ベクトルを算出するステップと、
前記抽出部が、前記対照根拠ベクトル及び前記学習データの根拠ベクトルの類似度を前記選択指標として算出するステップと、を含むことを特徴とする予測器が出力した予測値の根拠に関連する情報の提示方法。 - 請求項9又は請求項10に記載の予測器が出力した予測値の根拠に関連する情報の提示方法であって、
前記第1のステップは、前記予測器が、複数の前記評価対象データの各々の前記予測値を出力するステップを含み、
前記第2のステップは、前記指標算出部が、前記複数の評価対象データの各々の前記第一解釈指標を算出するステップを含み、
前記第3のステップは、前記抽出部が、前記複数の評価対象データの各々の前記選択指標を算出するステップを含み、
前記第4のステップは、前記抽出部が、前記評価対象データの選択指標に基づいて、前記複数の評価対象データの各々の前記学習データを選択するステップを含み、
前記第5のステップは、
前記抽出部が、前記複数の評価対象データ及び前記選択された学習データを用いて分析処理を実行するステップと、
前記抽出部が、前記分析処理の結果を含む前記表示情報を生成するステップを、を含むことを特徴とする予測器が出力した予測値の根拠に関連する情報の提示方法。 - 請求項11に記載の予測器が出力した予測値の根拠に関連する情報の提示方法であって、
前記分析処理の結果は、前記特徴量の傾向に関する情報、及び、前記抽出部によって提示する学習データとして選択された回数に関する情報の少なくともいずれかを含むことを特徴とする予測器が出力した予測値の根拠に関連する情報の提示方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018141375A JP6975692B2 (ja) | 2018-07-27 | 2018-07-27 | 計算機システム及び予測器が出力した予測値の根拠に関連する情報の提示方法 |
US16/504,897 US11551818B2 (en) | 2018-07-27 | 2019-07-08 | Computer system and method of presenting information related to basis of predicted value output by predictor |
EP19188123.4A EP3599617A1 (en) | 2018-07-27 | 2019-07-24 | Computer system and method of presenting information related to basis of predicted value output by predictor, data carrier |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018141375A JP6975692B2 (ja) | 2018-07-27 | 2018-07-27 | 計算機システム及び予測器が出力した予測値の根拠に関連する情報の提示方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020017197A JP2020017197A (ja) | 2020-01-30 |
JP6975692B2 true JP6975692B2 (ja) | 2021-12-01 |
Family
ID=67438736
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018141375A Active JP6975692B2 (ja) | 2018-07-27 | 2018-07-27 | 計算機システム及び予測器が出力した予測値の根拠に関連する情報の提示方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11551818B2 (ja) |
EP (1) | EP3599617A1 (ja) |
JP (1) | JP6975692B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7242585B2 (ja) * | 2020-01-31 | 2023-03-20 | 株式会社日立製作所 | リコメンデーションシステムおよびリコメンデーション方法 |
JP7256766B2 (ja) * | 2020-03-04 | 2023-04-12 | 株式会社日立製作所 | 推測根拠分析装置及び推測根拠分析方法 |
CN111523677B (zh) * | 2020-04-17 | 2024-02-09 | 第四范式(北京)技术有限公司 | 实现对机器学习模型的预测结果进行解释的方法及装置 |
JP7516871B2 (ja) | 2020-05-29 | 2024-07-17 | セイコーエプソン株式会社 | 方法、装置、および、コンピュータープログラム |
US11514369B2 (en) | 2020-06-16 | 2022-11-29 | DataRobot, Inc. | Systems and methods for machine learning model interpretation |
JP7402140B2 (ja) * | 2020-09-23 | 2023-12-20 | 株式会社日立製作所 | 登録装置、登録方法、および登録プログラム |
JP2024516330A (ja) * | 2022-02-15 | 2024-04-12 | 三菱電機株式会社 | 類似寄与検出方法及び類似寄与検出システム |
CN116542401B (zh) * | 2023-07-05 | 2023-09-19 | 江南大学附属医院 | 一种住院诊疗服务单元的医保超支预测方法与系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3650304B2 (ja) * | 2000-02-29 | 2005-05-18 | 株式会社日立製作所 | 需要予測装置 |
US6988090B2 (en) * | 2000-10-25 | 2006-01-17 | Fujitsu Limited | Prediction analysis apparatus and program storage medium therefor |
WO2015161198A1 (en) * | 2014-04-17 | 2015-10-22 | Lockheed Martin Corporation | Prognostics and health management system |
JP6347755B2 (ja) | 2015-02-27 | 2018-06-27 | 富士フイルム株式会社 | 診療支援装置、診療支援装置の作動方法及び作動プログラム、診療支援システム |
US11144825B2 (en) | 2016-12-01 | 2021-10-12 | University Of Southern California | Interpretable deep learning framework for mining and predictive modeling of health care data |
US10510022B1 (en) * | 2018-12-03 | 2019-12-17 | Sas Institute Inc. | Machine learning model feature contribution analytic system |
-
2018
- 2018-07-27 JP JP2018141375A patent/JP6975692B2/ja active Active
-
2019
- 2019-07-08 US US16/504,897 patent/US11551818B2/en active Active
- 2019-07-24 EP EP19188123.4A patent/EP3599617A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US11551818B2 (en) | 2023-01-10 |
JP2020017197A (ja) | 2020-01-30 |
EP3599617A1 (en) | 2020-01-29 |
US20200034738A1 (en) | 2020-01-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6975692B2 (ja) | 計算機システム及び予測器が出力した予測値の根拠に関連する情報の提示方法 | |
JP6893480B2 (ja) | 分析装置および分析方法 | |
US10073827B2 (en) | Method and system to generate a process flow diagram | |
JP7125358B2 (ja) | 計算機システム及び入力データに対する予測結果の根拠に関する情報の提示方法 | |
US11152119B2 (en) | Care path analysis and management platform | |
JP4890806B2 (ja) | 予測プログラムおよび予測装置 | |
JP7057761B2 (ja) | 計算機システム及び情報の提示方法 | |
JP7051724B2 (ja) | 計算機システム及び対象に関する目的を達成するために有用な情報の提示方法 | |
Wang et al. | A recommender mechanism based on case-based reasoning | |
JP7145059B2 (ja) | モデルの予測根拠提示システム及びモデルの予測根拠提示方法 | |
CN108604332A (zh) | 用于生成预测的系统和方法 | |
JP7141371B2 (ja) | 学習データの精練方法及び計算機システム | |
Chourasia et al. | Reads2vec: Efficient embedding of raw high-throughput sequencing reads data | |
JP2020042645A (ja) | 時系列データ分析装置、時系列データ分析方法、および時系列データ分析プログラム | |
Xavier et al. | Natural language processing for imaging protocol assignment: machine learning for multiclass classification of abdominal CT protocols using indication text data | |
JP6422512B2 (ja) | 計算機システム及びグラフィカルモデルの管理方法 | |
US20220415506A1 (en) | Learning apparatus, estimation apparatus, learning method, estimation method and program | |
JP2018180711A (ja) | テストケースを選択する計算機及びテストケースの選択方法 | |
Alhashem et al. | Diabetes Detection and Forecasting using Machine Learning Approaches: Current State-of-the-art | |
US20240028973A1 (en) | Cross-hierarchical machine learning prediction | |
JP2021105807A (ja) | 計算機システム及び業務システムの運用環境の解析方法 | |
US20220359082A1 (en) | Health state prediction system including ensemble prediction model and operation method thereof | |
Kamal et al. | Improving resource allocation in the precision medicine Era: a simulation-based approach using R | |
Pokhrel et al. | OrphaGPT: An Adapted Large Language Model for Orphan Diseases Classification | |
EP3547167A1 (en) | Information retrieval |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201105 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211013 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211019 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211108 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6975692 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |