CN116994687B - 基于反事实对比的临床决策支持模型解释系统 - Google Patents
基于反事实对比的临床决策支持模型解释系统 Download PDFInfo
- Publication number
- CN116994687B CN116994687B CN202311272949.2A CN202311272949A CN116994687B CN 116994687 B CN116994687 B CN 116994687B CN 202311272949 A CN202311272949 A CN 202311272949A CN 116994687 B CN116994687 B CN 116994687B
- Authority
- CN
- China
- Prior art keywords
- interpretation
- model
- contrast
- patient data
- counterfactual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 claims abstract description 38
- 230000001364 causal effect Effects 0.000 claims abstract description 25
- 230000006870 function Effects 0.000 claims description 29
- 238000013507 mapping Methods 0.000 claims description 16
- 238000005457 optimization Methods 0.000 claims description 6
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 230000001105 regulatory effect Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 description 9
- 208000024172 Cardiovascular disease Diseases 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000035488 systolic blood pressure Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 238000000502 dialysis Methods 0.000 description 3
- 230000002526 effect on cardiovascular system Effects 0.000 description 3
- 238000001631 haemodialysis Methods 0.000 description 3
- 230000000322 hemodialysis Effects 0.000 description 3
- IJGRMHOSHXDMSA-UHFFFAOYSA-N Atomic nitrogen Chemical compound N#N IJGRMHOSHXDMSA-UHFFFAOYSA-N 0.000 description 2
- 235000008733 Citrus aurantifolia Nutrition 0.000 description 2
- 235000011941 Tilia x europaea Nutrition 0.000 description 2
- 239000000654 additive Substances 0.000 description 2
- 230000000996 additive effect Effects 0.000 description 2
- 230000036772 blood pressure Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- DDRJAANPRJIHGJ-UHFFFAOYSA-N creatinine Chemical compound CN1CC(=O)NC1=N DDRJAANPRJIHGJ-UHFFFAOYSA-N 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000004571 lime Substances 0.000 description 2
- 206010020772 Hypertension Diseases 0.000 description 1
- XSQUKJJJFZCRTK-UHFFFAOYSA-N Urea Chemical compound NC(N)=O XSQUKJJJFZCRTK-UHFFFAOYSA-N 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 239000004202 carbamide Substances 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 229940109239 creatinine Drugs 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000003862 health status Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 229910052757 nitrogen Inorganic materials 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001225 therapeutic effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H10/00—ICT specially adapted for the handling or processing of patient-related medical or healthcare data
- G16H10/20—ICT specially adapted for the handling or processing of patient-related medical or healthcare data for electronic clinical trials or questionnaires
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/50—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Primary Health Care (AREA)
- Biomedical Technology (AREA)
- Epidemiology (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Pathology (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Medical Treatment And Welfare Office Work (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本发明公开了一种基于反事实对比的临床决策支持模型解释系统，该系统包括用于解读待解释的决策支持模型的模型基础信息的模型解读模块；用于得到反事实状态的患者数据的反事实数据生成模块；用于解释待解释的决策支持模型并给出反事实对比解释的反事实对比解释模块。本发明利用反事实对比的方法，对比患者数据与反事实状态的患者数据在相同临床决策支持模型下的决策差异，获得具有因果解释性的反事实对比解释，解决了传统全局解释方法因果解释性不足的问题。本发明提供患者个体的局部解释的同时还能够提供全局解释，解决了传统局部解释方法全局泛化性差且无法给出全局解释的问题。
Description
技术领域
本发明属于医疗健康信息技术领域，尤其涉及一种基于反事实对比的临床决策支持模型解释系统。
背景技术
近年来，机器学习，尤其是深度学习技术迅猛发展，研究者针对临床场景开发了多种决策支持算法，以帮助医疗工作者快速做出决策。然而，由于大多数决策支持方法采用的是黑盒模型，用户往往难以理解模型的工作原理和推理过程，这阻碍了模型的推广与实际应用。因此，研究者们开始着眼于如何增强模型的解释性，专注于开发黑盒模型的解释方法，以便为临床决策支持模型提供可信赖的解释，使得模型变得更为透明、易于理解，进而提升人们对模型的信任度和满意度。
常见的解释方法包括局部解释方法和全局解释方法。局部解释方法，如模型无关的局部解释（Local Interpretable Model-Agnostic Explanations，LIME）方法解释模型如何做出单个预测决策；全局解释性方法，如沙普利加性解释（SHapley AdditiveexPlanation，SHAP）方法解释整个模型的工作原理和预测结果。然而，现有解释方法存在一些问题。局部解释方法，如LIME方法，仅能给出个体解释，其解释效果不具有泛化性，给出的局部解释在全局层面失效。而全局解释方法，如SHAP方法，忽视了数据内的因果结构，仅能在特征之间互相独立的情况下给出准确的解释，如果特征之间具有相关性，SHAP方法将给出错误的解释结果。
发明内容
本发明的目的在于针对现有技术的不足，面向医疗临床决策支持场景，提供一种基于反事实对比的临床决策支持模型解释系统。
本发明的目的是通过以下技术方案实现的：一种基于反事实对比的临床决策支持模型解释系统，包括：
模型解读模块，用于解读待解释的决策支持模型的模型基础信息；
反事实数据生成模块，用于得到反事实状态的患者数据，包括：将患者数据输入任意待解释的决策支持模型得到决策建议，利用患者数据、决策建议和模型基础信息得到反事实状态的患者数据；
反事实对比解释模块，用于解释待解释的决策支持模型，包括：将反事实状态的患者数据输入待解释的决策支持模型得到反事实状态的决策建议；利用患者数据、决策建议、反事实状态的患者数据、反事实状态的决策建议和模型基础信息得到反事实对比解释。
进一步地，所述模型基础信息包括模型输入特征集、模型输入尺寸和模型输出尺寸。
进一步地，所述反事实数据生成模块将患者数据X映射为反事实状态的患者数据X*，映射函数记为G，则G(X)= X*；通过反事实生成损失函数优化G。
进一步地，所述反事实生成损失函数表示为：，其中/>表示欧氏距离，/>是超参数，H是待解释的决策支持模型对应的映射函数，/>是患者数据X和反事实状态的患者数据G(X)的距离函数。
进一步地，所述距离函数表示为：，其中/>是模型解读模块解读出的模型输入特征集，/>是第k个特征的患者数据，/>是第k个特征的反事实状态的患者数据，median(·)表示取中位数。
进一步地，所述反事实数据生成模块通过六层神经网络实现，网络结构具体为：将模型解读模块解读出的模型输入的特征维度记为D，第一层节点数为D，第二层节点数为D/2，第三层节点数为D/4，第四层节点数为D/4，第五层节点数为D/2，第六层节点数为D；从第一层到第六层依次全连接，且使用tanh激活，第一层与第六层间、第二层与第五层间通过残差连接。
进一步地，所述反事实对比解释模块包括因果效应估计单元和反事实对比解释单元；所述因果效应估计单元用于从全局层面获得各特征对决策建议的因果效应，所述反事实对比解释单元用于从局部层面获得患者个体的反事实对比解释。
进一步地，所述反事实对比解释单元将患者数据、决策建议、反事实状态的患者数据和反事实状态的决策建议组织成反事实对比向量；将提示词输入大语言模型，用于规整局部解释的句式；将反事实对比向量输入大语言模型获得反事实对比解释中的局部解释，所述局部解释用于针对每个患者给出事实与反事实状态的对比性解释。
进一步地，所述因果效应估计单元中，因果效应，其中/>是模型解读模块解读出的模型输入特征集，E(·)表示求期望，/>是第k个特征的患者数据，/>是第k个特征的反事实状态的患者数据，G是所述反事实数据生成模块将患者数据映射为反事实状态的患者数据的映射函数，Y是决策建议，Y*是反事实状态的决策建议。
本发明还提供一种基于反事实对比的临床决策支持模型解释装置，包括存储器和处理器，所述存储器用于存储程序数据，所述处理器用于执行所述程序数据以实现上述基于反事实对比的临床决策支持模型解释系统。
本发明的有益效果是：
1. 针对全局解释方法忽视数据内在因果关系的问题，本发明利用反事实对比的方法，对比患者数据与反事实状态的患者数据在相同临床决策支持模型下的决策差异，获得具有因果解释性的反事实对比解释，解决传统方法因果解释性不足的问题。
2. 针对局部解释方法全局泛化性差且无法给出全局解释的问题，本发明利用反事实对比解释单元提供患者个体的局部解释的同时使用因果效应估计单元提供全局解释。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为一示例性实施例示出的基于反事实对比的临床决策支持模型解释系统结构图；
图2为一示例性实施例示出的反事实数据生成模块结构图；
图3为一示例性实施例示出的反事实对比解释模块结构图；
图4为一示例性实施例示出的基于反事实对比的临床决策支持模型解释装置结构图。
具体实施方式
为了更好的理解本申请的技术方案，下面结合附图对本申请实施例进行详细描述。
应当明确，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本申请保护的范围。
在本申请实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本申请。在本申请实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。
本申请提供一种基于反事实对比的临床决策支持模型解释系统，如图1所示，该系统包括：用于解读待解释的决策支持模型的模型基础信息的模型解读模块；用于得到反事实状态的患者数据的反事实数据生成模块；用于解释待解释的决策支持模型并给出反事实对比解释的反事实对比解释模块。
首先，通过模型解读模块解读待解释的决策支持模型的模型基础信息，模型基础信息包括模型输入、输出信息。其次，将患者数据输入任意待解释的决策支持模型获得决策建议。然后，将患者数据、决策建议和模型基础信息输入反事实数据生成模块获得反事实状态的患者数据。再然后，将反事实状态的患者数据输入同样的待解释的决策支持模型获得反事实状态的决策建议。最后，将患者数据、决策建议、反事实状态的患者数据、反事实状态的决策建议、模型基础信息输入反事实对比解释模块，输出反事实对比解释。
下述说明进一步给出了符合本申请要求的基于反事实对比的临床决策支持模型解释系统各模块实现的部分实施例。
一、模型解读模块
模型解读模块用于解读待解释的决策支持模型的模型基础信息，模型基础信息包括模型输入、输出信息。解读出模型输入的特征集为F，模型输入的尺寸为(, D)，模型输出的尺寸为(, 1)。其中，(, D)表示模型输入的特征维度为D维，(, 1)表示模型输出为1维。医疗场景的决策支持模型通常是辅助医生判断患者病情的分类模型，对单个患者来说，模型输入是用于表征患者信息的D维向量，模型输出是用于表征患者患某种疾病的可能性的取值0-1的1维标量。
二、反事实数据生成模块
反事实数据生成模块用于利用患者数据、决策建议和模型基础信息得到反事实状态的患者数据。
根据模型基础信息知模型输入为D维，因此输入模型的患者数据表示为。其中N是患者总数量，/>，/>表示第i个患者的数据。待解释的决策支持模型表示成一个映射函数H，则决策建议可表示为Y=H(X)。待解释的决策支持模型对第i个患者的决策建议是/>。定义反事实状态的决策建议为/>。反事实状态的患者数据为/>。其中/>为函数H的逆。同时，为了保障反事实数据的真实性，应当使得/>与X之间的距离尽可能小。距离公式表示为。其中F是模型解读模块获得的特征集F，/>表示第k个特征的患者数据，/>表示第k个特征的反事实状态的患者数据，median(·)函数表示取中位数。距离/>的分子是患者数据X与反事实状态的患者数据/>的曼哈顿距离，分母是患者数据X的绝对中位差。
反事实数据生成模块将患者数据X映射为反事实状态的患者数据。反事实数据生成模块的映射功能表示为映射函数G，则/>。通过反事实生成损失函数优化G。反事实生成损失/>。其中/>表示欧氏距离。是超参数，本申请实施例中/>。/>是上文提到的距离函数，，其中/>表示第k个特征的反事实状态的患者数据。
本申请实施例通过多层神经网络的架构实现反事实数据生成模块的功能。具体的网络结构如图2所示。第一层节点数为D，第二层/>节点数为D/2，第三层/>节点数为D/4，第四层/>节点数为D/4，第五层/>节点数为D/2，第六层/>节点数为D。从第一层到第六层依次全连接，且使用tanh激活。第一层与第六层间、第二层与第五层间通过残差连接。
本申请实施例使用均方根传递（Root Mean Square Propagation，RMSProp）优化方法，通过反向传播优化反事实数据生成模块的映射函数G中的权重参数。
三、反事实对比解释模块
如图3所示是反事实对比解释模块结构图，反事实对比解释模块包括因果效应估计单元和反事实对比解释单元。因果效应估计单元用于从全局层面获得特征集F中各特征对决策建议Y的因果效应，反事实对比解释单元用于从局部层面获得患者个体的反事实对比解释。
3.1反事实对比解释单元
反事实对比解释单元将患者数据X、决策建议Y、反事实状态的患者数据、反事实状态的决策建议/>，组织成反事实对比向量/>。
首先将用于微调大语言模型组织自然语言句式的提示词输入大语言模型，用于规整局部解释的句式；然后将反事实对比向量E输入大语言模型获得反事实对比解释中的局部解释EX。
具体地，提示词可采用以下形式但不限于此：“我将以（事实，事实预测，反事实，反事实预测）的格式输入数据，请将括号内的内容组织成容易理解的解释性语句。参考以下句式陈述‘在事实状态下，患者的状态为（事实），预测模型给出的预测结果是（事实预测）；当患者处于反事实状态（反事实）时，预测模型给出反事实预测为（反事实预测）’并给出解释性的补充”。
在一局部解释示例中，对第i个患者的反事实对比向量为，其中/>分别为第i个患者的患者数据、决策建议、反事实状态的患者数据、反事实状态的决策建议。例如/>=(收缩压145mmHg,发生心血管疾病,收缩压110mmHg,无心血管疾病)。对第i个患者的局部解释/>为“在事实状态下，患者的收缩压为145mmHg，这种状态下的预测结果显示，患者可能会发生心血管疾病。这通常是因为高血压可能会对心脏和血管产生额外的压力，久而久之可能会引发各种心血管疾病。然而，当我们思考一个反事实的状态，假设患者的收缩压为110mmHg。在这种理想情况下，预测结果显示患者不会出现心血管疾病。比较事实和反事实，我们可以发现患者如果能够有效地降低收缩压，健康状况可能会有所改善，降低心血管疾病的风险。这个预测有助于提醒患者管控血压，以及医生在进行治疗决策时更加重视血压控制”。
3.2因果效应估计单元
因果效应估计单元用于从全局层面获得特征集F中各特征对决策建议Y的因果效应，即得到全局解释。因果效应。其中E(·)表示求期望，/>表示第k个特征的患者数据，/>表示第k个特征的反事实状态的患者数据，G是反事实数据生成模块的映射功能表示为映射函数。例如，当待解释的决策支持模型H为血透患者首次透析1年后心血管并发症预测模型时，特征集F={血压，性别，年龄，肌酐，尿素氮}，模型输出Y=0或1。Y=0表示决策建议认为该血透患者首次透析1年后不会患心血管并发症，Y=1表示决策建议认为该血透患者首次透析1年后会患有心血管并发症。此时因果效应估计单元计算出的因果效应/>，分别表示该待解释的决策支持模型H的各项输入特征对输出的决策建议的影响的因果效应大小。
综上，当确定待解释的决策支持模型之后，首先，通过模型解读模块解读待解释的决策支持模型的模型基础信息，模型基础信息包括模型输入特征集F、输入维度D、输出维度1。其次，将患者数据X输入待解释的决策支持模型H获得决策建议Y。然后，将患者数据X、决策建议Y和模型基础信息输入反事实数据生成模块，根据映射函数G获得反事实状态的患者数据G(X)。在此过程中，利用RMSProp优化方法，通过反向传播优化反事实生成损失，获得训练好的映射函数G。
再然后，将反事实状态的患者数据输入待解释的决策支持模型H获得反事实状态的决策建议。最后，将患者数据、决策建议、反事实状态的患者数据、反事实状态的决策建议、模型基础信息输入反事实对比解释模块，输出反事实对比解释，包括局部解释EX和全局解释即。其中局部解释用于针对每个患者给出事实与反事实状态的对比性解释，全局解释针对模型本身给出每个输入特征对输出的决策的影响效应大小。
针对全局解释方法忽视数据内在因果关系的问题，本发明利用反事实对比的方法，对比患者数据与反事实状态的患者数据在相同临床决策支持模型下的决策差异，获得具有因果解释性的反事实对比解释，解决传统方法因果解释性不足的问题。针对局部解释方法全局泛化性差且无法给出全局解释的问题，本发明利用反事实对比解释单元提供患者个体的局部解释的同时使用因果效应估计单元提供全局解释，本发明同时提供了局部、全局的解释。
与前述基于反事实对比的临床决策支持模型解释系统的实施例相对应，本发明还提供了基于反事实对比的临床决策支持模型解释装置的实施例。
参见图4，本发明实施例提供的基于反事实对比的临床决策支持模型解释装置，包括一个或多个处理器，用于实现上述实施例中的基于反事实对比的临床决策支持模型解释系统。
本发明基于反事实对比的临床决策支持模型解释装置的实施例可以应用在任意具备数据处理能力的设备上，该任意具备数据处理能力的设备可以为诸如计算机等设备或装置。装置实施例可以通过软件实现，也可以通过硬件或者软硬件结合的方式实现。以软件实现为例，作为一个逻辑意义上的装置，是通过其所在任意具备数据处理能力的设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言，如图4所示，为本发明基于反事实对比的临床决策支持模型解释装置所在任意具备数据处理能力的设备的一种硬件结构图，除了图4所示的处理器、内存、网络接口、以及非易失性存储器之外，实施例中装置所在的任意具备数据处理能力的设备通常根据该任意具备数据处理能力的设备的实际功能，还可以包括其他硬件，对此不再赘述。
上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。
对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本发明方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。
本发明实施例还提供一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时，实现上述实施例中的基于反事实对比的临床决策支持模型解释系统。
所述计算机可读存储介质可以是前述任一实施例所述的任意具备数据处理能力的设备的内部存储单元，例如硬盘或内存。所述计算机可读存储介质也可以是任意具备数据处理能力的设备，例如所述设备上配备的插接式硬盘、智能存储卡（Smart Media Card，SMC）、SD卡、闪存卡（Flash Card）等。进一步的，所述计算机可读存储介质还可以既包括任意具备数据处理能力的设备的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述任意具备数据处理能力的设备所需的其他程序和数据，还可以用于暂时地存储已经输出或者将要输出的数据。
本领域技术人员在考虑说明书及实践这里公开的内容后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的。
应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。
Claims (7)
1.一种基于反事实对比的临床决策支持模型解释系统，其特征在于，包括：
模型解读模块，用于解读待解释的决策支持模型的模型基础信息；
反事实数据生成模块，用于得到反事实状态的患者数据，包括：将患者数据输入任意待解释的决策支持模型得到决策建议，利用患者数据、决策建议和模型基础信息得到反事实状态的患者数据；
反事实对比解释模块，用于解释待解释的决策支持模型，包括：将反事实状态的患者数据输入待解释的决策支持模型得到反事实状态的决策建议；利用患者数据、决策建议、反事实状态的患者数据、反事实状态的决策建议和模型基础信息得到反事实对比解释；
所述反事实对比解释模块包括因果效应估计单元和反事实对比解释单元；所述因果效应估计单元用于从全局层面获得各特征对决策建议的因果效应，所述反事实对比解释单元用于从局部层面获得患者个体的反事实对比解释；
所述反事实对比解释单元将患者数据、决策建议、反事实状态的患者数据和反事实状态的决策建议组织成反事实对比向量；将提示词输入大语言模型，用于规整局部解释的句式；将反事实对比向量输入大语言模型获得反事实对比解释中的局部解释，所述局部解释用于针对每个患者给出事实与反事实状态的对比性解释；
所述因果效应估计单元中，因果效应，其中/>是模型解读模块解读出的模型输入特征集，E(·)表示求期望，/>是第k个特征的患者数据，/>是第k个特征的反事实状态的患者数据，G是所述反事实数据生成模块将患者数据映射为反事实状态的患者数据的映射函数，Y是决策建议，/>是反事实状态的决策建议。
2.根据权利要求1所述的一种基于反事实对比的临床决策支持模型解释系统，其特征在于，所述模型基础信息包括模型输入特征集、模型输入尺寸和模型输出尺寸。
3.根据权利要求1所述的一种基于反事实对比的临床决策支持模型解释系统，其特征在于，所述反事实数据生成模块将患者数据X映射为反事实状态的患者数据，映射函数记为G，则/>；通过反事实生成损失函数优化G。
4.根据权利要求3所述的一种基于反事实对比的临床决策支持模型解释系统，其特征在于，所述反事实生成损失函数表示为：，其中/>表示欧氏距离，是超参数，H是待解释的决策支持模型对应的映射函数，/>是患者数据X和反事实状态的患者数据G(X)的距离函数。
5.根据权利要求4所述的一种基于反事实对比的临床决策支持模型解释系统，其特征在于，所述距离函数表示为：，其中是模型解读模块解读出的模型输入特征集，/>是第k个特征的患者数据，/>是第k个特征的反事实状态的患者数据，median(·)表示取中位数。
6.根据权利要求1所述的一种基于反事实对比的临床决策支持模型解释系统，其特征在于，所述反事实数据生成模块通过六层神经网络实现，网络结构具体为：将模型解读模块解读出的模型输入的特征维度记为D，第一层节点数为D，第二层节点数为D/2，第三层节点数为D/4，第四层节点数为D/4，第五层节点数为D/2，第六层节点数为D；从第一层到第六层依次全连接，且使用tanh激活，第一层与第六层间、第二层与第五层间通过残差连接。
7.一种基于反事实对比的临床决策支持模型解释装置，包括存储器和处理器，其特征在于，所述存储器用于存储程序数据，所述处理器用于执行所述程序数据以实现权利要求1-6中任一项所述的基于反事实对比的临床决策支持模型解释系统。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311272949.2A CN116994687B (zh) | 2023-09-28 | 2023-09-28 | 基于反事实对比的临床决策支持模型解释系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311272949.2A CN116994687B (zh) | 2023-09-28 | 2023-09-28 | 基于反事实对比的临床决策支持模型解释系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116994687A CN116994687A (zh) | 2023-11-03 |
| CN116994687B true CN116994687B (zh) | 2024-02-06 |
Family
ID=88527032
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311272949.2A Active CN116994687B (zh) | 2023-09-28 | 2023-09-28 | 基于反事实对比的临床决策支持模型解释系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116994687B (zh) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115270634A (zh) * | 2022-08-04 | 2022-11-01 | 南京航空航天大学 | 一种适用于自主空战领域的反事实解释生成方法及系统 |
| WO2022251237A1 (en) * | 2021-05-25 | 2022-12-01 | Aktana, Inc. | Explainable artificial intelligence-based sales maximization decision models |
| CN115798711A (zh) * | 2022-12-22 | 2023-03-14 | 之江实验室 | 基于反事实对比学习的慢性肾病诊疗决策支持系统 |
| CN115827705A (zh) * | 2022-11-08 | 2023-03-21 | 北京有竹居网络技术有限公司 | 用于反事实解释的数据处理方法和装置 |
| CN116348894A (zh) * | 2020-10-08 | 2023-06-27 | 硕动力公司 | 用于机器学习模型中的反事实解释的系统和方法 |
-
2023
- 2023-09-28 CN CN202311272949.2A patent/CN116994687B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116348894A (zh) * | 2020-10-08 | 2023-06-27 | 硕动力公司 | 用于机器学习模型中的反事实解释的系统和方法 |
| WO2022251237A1 (en) * | 2021-05-25 | 2022-12-01 | Aktana, Inc. | Explainable artificial intelligence-based sales maximization decision models |
| CN115270634A (zh) * | 2022-08-04 | 2022-11-01 | 南京航空航天大学 | 一种适用于自主空战领域的反事实解释生成方法及系统 |
| CN115827705A (zh) * | 2022-11-08 | 2023-03-21 | 北京有竹居网络技术有限公司 | 用于反事实解释的数据处理方法和装置 |
| CN115798711A (zh) * | 2022-12-22 | 2023-03-14 | 之江实验室 | 基于反事实对比学习的慢性肾病诊疗决策支持系统 |
Non-Patent Citations (1)
| Title |
|---|
| 因果推理;况琨;李廉;耿直;徐雷;张坤;廖备水;黄华新;丁鹏;苗旺;蒋智超;;Engineering(第03期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116994687A (zh) | 2023-11-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Zhang et al. | Shifting machine learning for healthcare from development to deployment and from models to data | |
| US20190139642A1 (en) | System and methods for medical image analysis and reporting | |
| Caruccio et al. | Can ChatGPT provide intelligent diagnoses? A comparative study between predictive models and ChatGPT to define a new medical diagnostic bot | |
| Hu et al. | Automatic construction of chinese herbal prescriptions from tongue images using CNNs and auxiliary latent therapy topics | |
| WO2021114635A1 (zh) | 患者分群模型构建方法、患者分群方法及相关设备 | |
| CN111292814A (zh) | 一种医疗数据标准化的方法及装置 | |
| CN111128391A (zh) | 一种信息处理设备、方法和存储介质 | |
| Norris | Machine Learning with the Raspberry Pi | |
| KR20190139722A (ko) | 진단명 레이블링을 위한 딥러닝을 이용한 판독기록문으로부터 최종 진단명 추출 방법 및 장치 | |
| US20220375576A1 (en) | Apparatus and method for diagnosing a medical condition from a medical image | |
| CN116028613B (zh) | 常识问答方法、系统、计算机设备和存储介质 | |
| Salna | The promise of artificial intelligence in cardiothoracic surgery | |
| Xu et al. | Hybrid reinforced medical report generation with m-linear attention and repetition penalty | |
| CN110941962B (zh) | 基于图网络的答案句选择方法及装置 | |
| CN116994687B (zh) | 基于反事实对比的临床决策支持模型解释系统 | |
| CN117034142A (zh) | 一种不平衡医疗数据缺失值填充方法及系统 | |
| CN111696636A (zh) | 一种基于深度神经网络的数据处理方法及装置 | |
| US20220036180A1 (en) | Reinforcement learning approach to approximate a mental map of formal logic | |
| CN116956934A (zh) | 任务处理方法、装置、设备及存储介质 | |
| CN116469534A (zh) | 医院叫号管理系统及其方法 | |
| Malgieri | Ontologies, Machine Learning and Deep Learning in Obstetrics | |
| WO2022249407A1 (ja) | アセスメント支援システム、アセスメント支援方法、及び記録媒体 | |
| CN110570943B (zh) | 智能推荐mdt入组的方法及装置、电子设备、存储介质 | |
| Maragoudakis et al. | Heart sound screening in real-time assistive environments through MCMC Bayesian data mining | |
| Milecki et al. | MEDIMP: Medical Images and Prompts for renal transplant representation learning |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |