CN115240843A - 基于结构因果模型的公平性预测系统 - Google Patents
基于结构因果模型的公平性预测系统 Download PDFInfo
- Publication number
- CN115240843A CN115240843A CN202210826417.8A CN202210826417A CN115240843A CN 115240843 A CN115240843 A CN 115240843A CN 202210826417 A CN202210826417 A CN 202210826417A CN 115240843 A CN115240843 A CN 115240843A
- Authority
- CN
- China
- Prior art keywords
- causal
- model
- fairness
- decision
- decision model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000001364 causal effect Effects 0.000 title claims abstract description 144
- 230000006870 function Effects 0.000 claims abstract description 53
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 33
- 238000000034 method Methods 0.000 claims abstract description 33
- 238000009826 distribution Methods 0.000 claims abstract description 26
- 238000010801 machine learning Methods 0.000 claims abstract description 25
- 230000004044 response Effects 0.000 claims abstract description 20
- 238000013507 mapping Methods 0.000 claims description 12
- 238000012805 post-processing Methods 0.000 claims description 11
- 238000003860 storage Methods 0.000 claims description 8
- 238000012549 training Methods 0.000 claims description 5
- 238000007781 pre-processing Methods 0.000 claims description 4
- 238000012886 linear function Methods 0.000 claims description 2
- 239000002245 particle Substances 0.000 description 15
- 230000000694 effects Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000004590 computer program Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 238000005316 response function Methods 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 5
- 238000005457 optimization Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000007477 logistic regression Methods 0.000 description 3
- 206010028980 Neoplasm Diseases 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 201000011510 cancer Diseases 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 210000003813 thumb Anatomy 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H10/00—ICT specially adapted for the handling or processing of patient-related medical or healthcare data
- G16H10/60—ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/50—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Pathology (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种基于结构因果模型的公平性预测系统,获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;根据通过目标函数优化后的预设机器学习算法作为决策模型;对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果;本发明仅以观测样本和先验因果图作为输入,无需繁琐的操作步骤即可获得最终的满足公平性要求的决策模型,具备良好的可用性。
Description
技术领域
本发明涉及生物工程及人工智能技术领域,特别涉及一种基于结构因果模型的公平性预测系统。
背景技术
本部分的陈述仅仅是提供了与本发明相关的背景技术,并不必然构成现有技术。
随着大数据时代下数据量的爆炸式增长以及算力的提升,机器学习技术得到了长足发展,并且越来越多的被用于辅助或代替人们进行决策,特别是那些与民生息息相关且具有重要影响的领域。例如,使用机器学习技术能够有效地利用电子健康记录(EHR)做出针对患者的决策,可以提高诊断、治疗选择的效率并有效降低成本。机器学习模型通过学习历史数据的经验规律来改善计算机系统或算法的能力与性能。过去经历过提供医疗保健方面偏见的群体,很容易受到错误预测或医疗资源扣留的伤害。这些偏见的来源比较复杂,可能与由患者的敏感特征(如社会经济等)导致的历史护理差异、用于模型训练的患者电子健康记录数据中某类患者的代表性不足等有关。因而,在医疗保健等领域,机器学习算法的公平性问题逐渐引起研究人员、社会公众的关注。公平机器学习算法是指在决策过程中,不存在基于个体或群体的内在或后天特征的任何偏见或歧视。比起基于统计学的公平性定义,基于因果关系的公平性定义考虑了数据的生成机制,可以追溯引起不公平现象的根源,因此,越来越多的研究员从因果的角度出发提出了公平性概念,如总效应公平、反事实公平、特定路径公平等。但是由于检测技术的局限性以及法律和伦理约束等因素,现实中患者的许多特征是不可观测的,但是如果忽略这些特征的存在及对模型的影响,会导致错误的因果效应的评估(这些特征被称为潜在混淆因子)。在某些情况下因果效应不能从观测数据被唯一计算。如何消除潜在混淆因子的影响以及解决因果效应不可识别性问题,是当前公平机器学习技术将基于因果关系的公平性概念应用于医疗保健等领域中仍待提升的难点。
目前,针对历史数据呈现歧视问题的基于结构因果模型的处理方法有:在数据预处理阶段,通过重构数据集来消除敏感特征对决策的不公平路径的影响;在训练模型时,加入基于因果关系的公平性约束;在后处理阶段,通过重构模型修改算法的输出结果,使其满足反事实公平等方法。这些方法大多基于变量间没有潜在混淆因子的假设来简化因果效应的评估,然而,在实际应用场景中,特别是在医疗保健中,潜在混淆因子的存在是一个不可避免的事实。因而,这些忽略潜在混淆因子对模型影响的方法并不可靠。此外,这些方法大多只能处理单一的基于因果关系的公平性指标的因果效应不可识别情况,可扩展性差,但是不同的实际场景需要使用不同的公平性指标来评估,使得基于结构因果模型的公平机器学习技术还存在较多的改进空间。
发明内容
为了解决现有技术的不足,本发明提供了一种基于结构因果模型的公平性预测系统,仅以观测样本和先验因果图作为输入,无需繁琐的操作步骤即可获得最终的满足公平性要求的决策模型,具备良好的可用性。
为了实现上述目的,本发明采用如下技术方案:
本发明第一方面提供了一种基于结构因果模型的公平性预测系统。
一种基于结构因果模型的公平性预测系统,包括:
数据获取与预处理模块,被配置为:获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
参数化因果模型模块,被配置为:结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
初始决策模型训练模块,被配置为:根据通过目标函数优化后的预设机器学习算法作为决策模型;
决策模型后处理模块,被配置为:对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
本发明第二方面提供了一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现如下步骤:
获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
根据通过目标函数优化后的预设机器学习算法作为决策模型;
对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
本发明第三方面提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,所述处理器执行所述程序时实现如下步骤:
获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
根据通过目标函数优化后的预设机器学习算法作为决策模型;
对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
与现有技术相比,本发明的有益效果是:
1、本发明借助响应变量函数来参数化因果模型,以此来捕获符合观测数据分布的所有因果模型,响应变量函数既能编码由潜在混淆因子导致的不确定性又有助于处理因果效应无法识别的问题,以便后续因果效应边界的计算;根据实际场景选择合适的机器学习算法来训练决策模型,为之后重构决策模型提供了一个更好的起点;通过限制敏感特征对决策的因果效应边界在公平性阈值之内来对训练好的决策模型进行重构,使得最终的决策模型满足公平性约束。
2、本发明借助响应变量函数可以有效地处理潜在混淆因子和解决各种因果效应不可识别性问题,特别是多种因果效应不可识别性问题的组合,因此本发明适用于各种基于结构因果模型的公平性指标;通过后处理的机制,使得本发明因地制宜,不拘泥于某个特定的机器学习算法,具有适应各临床实践场景的优势;此外,本系统仅以观测样本和先验因果图作为输入,无需繁琐的操作步骤即可获得最终的满足公平性要求的决策模型,具备良好的可用性。
附图说明
构成本发明的一部分的说明书附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。
图1为本发明实施例1提供的基于结构因果模型的公平性预测系统的结构示意图。
图2为本发明实施例1提供的基于结构因果模型的公平性预测系统的公知方法流程图。
具体实施方式
下面结合附图与实施例对本发明作进一步说明。
应该指出,以下详细说明都是例示性的,旨在对本发明提供进一步的说明。除非另有指明,本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是,这里所使用的术语仅是为了描述具体实施方式,而非意图限制根据本发明的示例性实施方式。如在这里所使用的,除非上下文另外明确指出,否则单数形式也意图包括复数形式,此外,还应当理解的是,当在本说明书中使用术语“包含”和/或“包括”时,其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
实施例1:
如图1和图2所示,本发明实施例1提供了一种基于结构因果模型的公平性预测系统,包括:
数据获取与预处理模块,被配置为:获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
参数化因果模型模块,被配置为:结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
初始决策模型训练模块,被配置为:根据通过目标函数优化后的预设机器学习算法作为决策模型;
决策模型后处理模块,被配置为:对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
具体的,所述系统的工作方法,包括以下过程:
S101,获取待解决问题的患者数据样本并进行离散化处理,以及获取由这些患者数据特征构成的因果图。
S1011,获取观测样本并进行离散化处理。
具体地,首先将患者特征转变为计算机可计算的形式,如对于人口统计学特征中的性别特征,将“男”表示为0,“女”表示为1等。然后根据数据的特点,将连续型数据转化为离散化数据,具体的离散化方法有等距、等频、STL 离散化算法等。
S1012,获取先验知识因果图。
具体地,可根据所研究问题的领域知识或(和)结合因果发现算法构建符合实际的因果图。因果图是一种有向无环图并以权重邻接矩阵的形式呈现,其中两变量间存在因果关系则以权重1表示,不存在因果关系则以权重0表示。
S102,参数化因果模型。
具体的,首先引入响应变量函数,将所有未知的外生变量(其中包括潜在混淆因子)映射到已知的有限域的空间内,以此来捕获符合观测数据分布的所有因果模型。然后可以明确地遍历所有可能的因果模型来计算最紧密的因果效应边界,便于S104中训练最终的满足公平性要求的决策模型。
具体的,所述步骤102的具体实现方式如下:
S1021,根据结构因果模型的定义,每个内生变量(即可观测变量)V都受其对应的一个外生变量UV的影响,以此来表示可观测变量V的不确定性。如果外生变量间存在相关关系,那么这些外生变量就是我们所说的潜在混淆因子。此外,每个可观测变量V都有一个因果结构方程v=fV(pa(V),uV),其中pa(V)表示该可观测变量V的父变量,以此来表示该观测变量的生成机制。由于所有观测变量的取值有限且已知它们的因果关系,可以将外生变量的值域映射到几个等价域内,并且每个等价域对应一个响应变量函数rV:domain(UV)→N,通过这一从U到R的映射变换后,每个可观测变量的结构方程被转换为有限数量的参数化映射函数,以可观测变量V为例,其结构方程变为其数量为|V||Pa(V)|,或者如果该变量没有父变量,则其数量为|V|。
例如,有因果关系:X是Y的因,且X没有可观测父变量。此外,X和Y都只有两种取值,即X∈{x+,x-},Y∈{y+,y-},并且他们的响应函数变量分别为RX和 RY。对于X来说,由于X没有父变量,其响应函数变量只有两种取值,则其响应函数变量RX和响应函数的定义如下:
然后,通过从U到R的函数映射,内生变量的联合分布P(v)可由原来的满足从Pa(V)到V函数映射的U的值u的概率之和P(v)=∑{u|V(u)=v}P(u)转变成如下式子计算:
其中t(·)是一个指示函数:
S1022,计算因果效应边界。
具体的,为了便于理解,这里使用总效应公平这一基于因果关系的公平性指标其中表示决策模型的输出,do(s+) 表示干预敏感特征S,使其强制取s+,来说明如何通过响应变量函数R来计算的边界,通过从U到R的函数映射,可以由包含R的式子表达,具体定义如下:
其中,V′=V\{S,Y},pa+(v)表示如果Pa(V)包含敏感特征S,则其值取s+, pa-(v)类似。
由此,观测变量的联合分布P(v)和基于因果的公平性指标(这里以为例)都可表示为关于P(r)的线性函数。所有符合观测数据分布的因果模型P(r)都不能被区分,因此,计算的边界相当于找到符合观测数据分布且使得最大或最小的因果模型P(r),形式化定义如下:
S103,选择合适的机器学习算法训练决策模型。
具体的,根据待解决的实际场景问题的特点,来选择合适的机器学习算法,并使用S1011预处理后的数据作为输入来训练模型,通过优化该机器学习算法的目标函数,得到一个精确度高,泛化能力强的初始决策模型。
例如,对于一个二分类问题,可以选择使用Logistic回归算法来构建初始决策模型。Logistic回归算法通过拟合一个逻辑函数(通常是sigmod函数其中,z=wTx,x表示样本的特征,w表示需要训练的模型参数)来预测一个事件发生的概率。
Logistic回归算法的目标函数定义如下:
其中,n表示数据集样本数量,i表示第i个样本,可采用随机梯度下降法优化目标函数(6),得到精确度高、泛化能力较强的初始决策模型w。
S104,采用后处理机制重构决策模型,使其满足公平性约束。
具体的,通过限制敏感特征对决策的因果效应边界,来修改分类器的输出结果使得修改后的输出结果满足公平性约束。其优化目标是找到一个最优的概率映射函数使得在最小化Y和之间差异的同时,重构的分类器输出满足公平性约束。形式化定义如下:
具体来说,使用粒子群优化算法PSO来进行求解目标函数(7)。PSO算法随机选择一组优化问题的解来初始化,并且将每个解称为一个“粒子”,在本发明中,粒子表示后处理函数映射在PSO算法中,每个粒子都有一个飞行速度,并且每个粒子可以根据自己的飞行经验和其他同伴的飞行经验(即计算粒子的适应值)来调整其飞行方向和大小,以达到全局最优位置。具体来说,第i个粒子在第t轮迭代时其位置的形式化定义为:
其中w表示权衡全局和局部飞行经验的惯性权重;表示第i个粒子的最佳位置,即到当前迭代为止第i个粒子所到达的最佳位置坐标(即该粒子表示的最优解),而表示种群的最优解;r1和r2是两个由均匀分布产生的随机数,其取值范围为[0,1];C1和C2分别表示认知系数和社会系数。
第i个粒子在第t轮迭代时其适应值的定义如下:
使用粒子群优化算法PSO优化目标函数(7)的具体流程如下:首先初始化一个种群,其中包括每个粒子的位置(即后处理函数映射)、速度、个体最佳位置和群体最佳位置。然后执行算法主循环内的内容直到最大迭代次数。在主循环内,首先根据公式(9)和公式(10)计算每个粒子的速度和位置。然后根据当前位置,根据S102和公式(11)计算公平性指标的边界和每个粒子的适应值。最后,算法返回种群的最佳位置(即),即得到最终的满足公平性约束的决策模型。
综上所述,本发明提出了基于结构因果模型的公平性预测系统;该系统首先借助响应变量函数来参数化因果模型,以此来捕获符合观测数据分布的所有因果模型,响应变量函数既能编码由潜在混淆因子导致的不确定性又有助于处理因果效应无法识别的问题,以便后续因果效应边界的计算;然后根据实际场景选择合适的机器学习算法来训练决策模型,为之后重构决策模型提供一个更好的起点。最后,通过限制敏感特征对决策的因果效应边界在公平性阈值之内来对训练好的决策模型进行重构,使得最终的决策模型满足公平性约束;本发明借助响应变量函数可以有效地处理潜在混淆因子和解决各种因果效应不可识别性问题,特别是多种因果效应不可识别性问题的组合。因此,本发明适用于各种基于结构因果模型的公平性指标。通过后处理的机制,使得本发明因地制宜,不拘泥于某个特定的机器学习算法,具有适应各临床实践场景的优势(例如可以采用病人的历史诊疗信息进行癌症发病程度的预测,或者进行癌症病人的情绪进行预测和识别等)。此外,本系统仅以观测样本和先验因果图作为输入,无需繁琐的操作步骤即可获得最终的满足公平性要求的决策模型,具备良好的可用性。
实施例2:
本发明实施例2提供了一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现如下步骤:
获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
根据通过目标函数优化后的预设机器学习算法作为决策模型;
对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
详细步骤与实施例1提供的系统工作方法相同,这里不再赘述。
实施例3:
本发明实施例3提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,所述处理器执行所述程序时实现如下步骤:
获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
根据通过目标函数优化后的预设机器学习算法作为决策模型;
对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
详细步骤与实施例1提供的系统工作方法相同,这里不再赘述。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory, ROM)或随机存储记忆体(Random AccessMemory,RAM)等。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于结构因果模型的公平性预测系统,其特征在于:
包括:
数据获取与预处理模块,被配置为:获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
参数化因果模型模块,被配置为:结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
初始决策模型训练模块,被配置为:根据通过目标函数优化后的预设机器学习算法作为决策模型;
决策模型后处理模块,被配置为:对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
2.如权利要求1所述的基于结构因果模型的公平性预测系统,其特征在于:
参数化因果模型模块中,包括:引入响应变量函数,将所有未知的外生变量映射到已知的有限域的空间内,捕获符合观测数据分布的所有因果模,遍历所有可能的因果模型来计算因果效应边界。
3.如权利要求2所述的基于结构因果模型的公平性预测系统,其特征在于:
每个可观测变量V都受其对应的一个外生变量UV的影响,所有可观测变量的取值有限且已知它们的因果关系,将外生变量UV的值域映射到多个等价域内,每个等价域对应一个响应变量函数rV:domain(UV)→N,通过从U到R的映射变换后,每个可观测变量的结构方程被转换为有限数量的参数化映射函数;
9.一种计算机可读存储介质,其上存储有程序,其特征在于,该程序被处理器执行时实现如下步骤:
获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
根据通过目标函数优化后的预设机器学习算法作为决策模型;
对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,其特征在于,所述处理器执行所述程序时实现如下步骤:
获取患者数据样本并进行离散化处理,根据离散化处理后的患者数据特征得到因果图;
结合得到的因果图,通过将响应变量函数引入因果模型来参数化因果模型,捕获符合观测数据分布的所有因果模型,计算敏感特征对决策的因果效应边界;
根据通过目标函数优化后的预设机器学习算法作为决策模型;
对训练好的决策模型进行重构调整,限制敏感特征对决策的因果效应边界在公平性阈值之内,得到最终的满足公平性约束的决策模型,根据满足公平性约束的决策模型,得到患者的临床风险预测结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210826417.8A CN115240843A (zh) | 2022-07-14 | 2022-07-14 | 基于结构因果模型的公平性预测系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210826417.8A CN115240843A (zh) | 2022-07-14 | 2022-07-14 | 基于结构因果模型的公平性预测系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115240843A true CN115240843A (zh) | 2022-10-25 |
Family
ID=83673307
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210826417.8A Pending CN115240843A (zh) | 2022-07-14 | 2022-07-14 | 基于结构因果模型的公平性预测系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115240843A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116151485A (zh) * | 2023-04-18 | 2023-05-23 | 中国传媒大学 | 反事实预测和效果评估方法、系统 |
CN117610398A (zh) * | 2023-09-22 | 2024-02-27 | 中国人民大学 | 反事实公平性的预测模型训练方法、预测方法及其装置 |
-
2022
- 2022-07-14 CN CN202210826417.8A patent/CN115240843A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116151485A (zh) * | 2023-04-18 | 2023-05-23 | 中国传媒大学 | 反事实预测和效果评估方法、系统 |
CN117610398A (zh) * | 2023-09-22 | 2024-02-27 | 中国人民大学 | 反事实公平性的预测模型训练方法、预测方法及其装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11620487B2 (en) | Neural architecture search based on synaptic connectivity graphs | |
US11593617B2 (en) | Reservoir computing neural networks based on synaptic connectivity graphs | |
US11593627B2 (en) | Artificial neural network architectures based on synaptic connectivity graphs | |
US11625611B2 (en) | Training artificial neural networks based on synaptic connectivity graphs | |
CN110647920A (zh) | 机器学习中的迁移学习方法及装置、设备与可读介质 | |
US11568201B2 (en) | Predicting neuron types based on synaptic connectivity graphs | |
CN115240843A (zh) | 基于结构因果模型的公平性预测系统 | |
US11631000B2 (en) | Training artificial neural networks based on synaptic connectivity graphs | |
Li et al. | Active feature acquisition with generative surrogate models | |
Selvan et al. | Uncertainty quantification in medical image segmentation with normalizing flows | |
US11568212B2 (en) | Techniques for understanding how trained neural networks operate | |
CN112232407A (zh) | 病理图像样本的神经网络模型训练方法、装置 | |
CN111242948A (zh) | 图像处理、模型训练方法、装置、设备和存储介质 | |
US20210319269A1 (en) | Apparatus for determining a classifier for identifying objects in an image, an apparatus for identifying objects in an image and corresponding methods | |
Han | Multimodal brain image analysis and survival prediction using neuromorphic attention-based neural networks | |
Angayarkanni | Predictive analytics of chronic kidney disease using machine learning algorithm | |
Townsend et al. | Discovering visual concepts and rules in convolutional neural networks | |
Lin et al. | A particle swarm optimization based classifier for liver disorders classification | |
EP3975071A1 (en) | Identifying and quantifying confounding bias based on expert knowledge | |
CN118072976B (zh) | 基于数据分析的儿童呼吸道疾病预测系统及方法 | |
Güvenç et al. | BRAIN TUMOR SEGMENTATION ON FLAIR MR IMAGES WITH U-NET | |
CN112699909B (zh) | 信息识别方法、装置、电子设备及计算机可读存储介质 | |
WO2024000566A1 (en) | Method and apparatus for auxiliary learning with joint task and data scheduling | |
Klonecki et al. | Cost-constrained Group Feature Selection Using Information Theory | |
Kumar Siddamallappa | Feature selection for image classification using ESSO |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |