CN115024725A - 融合心理状态多参数检测的肿瘤治疗辅助决策系统 - Google Patents
融合心理状态多参数检测的肿瘤治疗辅助决策系统 Download PDFInfo
- Publication number
- CN115024725A CN115024725A CN202210408061.6A CN202210408061A CN115024725A CN 115024725 A CN115024725 A CN 115024725A CN 202210408061 A CN202210408061 A CN 202210408061A CN 115024725 A CN115024725 A CN 115024725A
- Authority
- CN
- China
- Prior art keywords
- patient
- features
- mental health
- health state
- state detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/165—Evaluating the state of mind, e.g. depression, anxiety
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/0205—Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/766—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using regression, e.g. by projecting features on hyperplanes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/021—Measuring pressure in heart or blood vessels
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
- A61B5/02405—Determining heart rate variability
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/08—Detecting, measuring or recording devices for evaluating the respiratory organs
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Theoretical Computer Science (AREA)
- Pathology (AREA)
- Multimedia (AREA)
- Biophysics (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Physics & Mathematics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Veterinary Medicine (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Databases & Information Systems (AREA)
- Physiology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Human Computer Interaction (AREA)
- Psychiatry (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Cardiology (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Educational Technology (AREA)
- Psychology (AREA)
- Social Psychology (AREA)
- Pulmonology (AREA)
- Dentistry (AREA)
- Signal Processing (AREA)
- Hospice & Palliative Care (AREA)
- Developmental Disabilities (AREA)
Abstract
本发明提供一种融合心理状态多参数检测的肿瘤治疗辅助决策系统,涉及疾病辅助诊疗技术领域。本发明基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征,然后基于这些共享特征构建参数共享特征提取模型,并基于该模型提取所有心理健康状态检测任务的关键特征;最后基于这些关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,并利用心理状态评估指标来辅助医护人员制定个性化的疾病诊疗方案。本发明可以实现在不同特殊医疗场景下做出精确的疾病诊疗辅助决策,其普适性强,精度高。
Description
技术领域
本发明涉及疾病辅助诊疗技术领域,具体涉及一种融合心理状态多参数检测的肿瘤治疗辅助决策系统。
背景技术
随着生活节奏的加快与工作压力的增大,越来越多的人的心理状态都或多或少的存在一些问题,而心理状态的健康状况又能在一定程度上反应出人们的身体健康,所以可以基于心理状态的健康情况进行疾病的辅助治疗。
现已有的临床疾病辅助诊疗技术中,大多数只专注于疾病本身,很少有考虑患者心理健康状态从而辅助疾病治疗的技术;有的通过心理量表或者生理信号来辅助心理状态多参数检测用来辅助疾病诊疗;又或者大多数仅专注于普适性的心理健康评估来辅助疾病诊疗。
但是仅仅关注疾病本身而不考虑患者的心理健康状态进行诊疗不利于充分考虑影响患者健康的各种因素,其疾病诊断结果不准确;而大部分通过心理量表和基于生理信号的心理健康筛查方法需要专门的医疗设备,需要采用多种模型进行心理状态多参数的检测来提取多种特征,其成本高、专业性强,不具有普适性;另外,仅专注于普适性的心理健康评估的大多数疾病辅助诊疗方法往往关注于单一参数,或者仅仅关注行为、生理特征等,也不利于获得精准的疾病诊疗判断结果。由此可见,目前暂不存在可普遍适用且诊疗结果准确的疾病辅助诊疗技术。
发明内容
(一)解决的技术问题
针对现有技术的不足,本发明提供了一种融合心理状态多参数检测的肿瘤治疗辅助决策系统,解决了现有疾病辅助诊疗技术无法兼顾普适性和诊疗判断结果精准度高的问题。
(二)技术方案
为实现以上目的,本发明通过以下技术方案予以实现:
第一方面,本发明首先提出了一种融合心理状态多参数检测的肿瘤治疗辅助决策方法,所述方法包括:
基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征;
基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征;
基于所述关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,利用所述心理状态评估指标来辅助医护人员制定个性化的肿瘤治疗方案。
优选的,所述心理健康状态检测包括焦虑心理健康状态检测任务和抑郁心理健康状态检测任务;所述时序性信息包括不同性别患者在疾病诊疗不同时段的年龄、收入、肿瘤分期、肿瘤复发次数。
优选的,所述基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征包括:
S11、对获取的患者的面部视频和时序性信息进行预处理;
S12、确定患者不同心理健康状态检测任务之间的共享特征并对特征进行提取。
优选的,所述共享特征包括:面部行为特征和非接触式生理特征;所述面部行为特征包括眼睛特征、嘴巴特征、头部位姿特征;所述非接触式生理特征包括呼吸特征、心率特征、心率变异性特征,以及血压特征。
优选的,所述基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征包括:
S21、基于所述共享特征利用多任务学习方法构建参数共享特征提取模型;
S22、基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的相关特征,并选择所述相关特征的最优特征子集作为关键特征。
第二方面,本发明还提出了一种融合心理状态多参数检测的肿瘤治疗辅助决策系统,所述系统包括:
共享特征获取模块,用于基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征;
关键特征提取模块,用于基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征;
治疗辅助决策制定模块,用于基于所述关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,利用所述心理状态评估指标来辅助医护人员制定个性化的肿瘤治疗方案。
优选的,所述心理健康状态检测任务包括焦虑心理健康状态检测任务和抑郁心理健康状态检测任务;所述时序性信息包括不同性别患者在疾病诊疗不同时段的年龄、收入、肿瘤分期、肿瘤复发次数。
优选的,所述共享特征获取模块基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征包括:
S11、对获取的患者的面部视频和时序性信息进行预处理;
S12、确定患者不同心理健康状态检测任务之间的共享特征并对特征进行提取。
优选的,所述共享特征包括:面部行为特征和非接触式生理特征;所述面部行为特征包括眼睛特征、嘴巴特征、头部位姿特征;所述非接触式生理特征包括呼吸特征、心率特征、心率变异性特征,以及血压特征。
优选的,所述关键特征提取模块基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征包括:
S21、基于所述共享特征利用多任务学习方法构建参数共享特征提取模型;
S22、基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的相关特征,并选择所述相关特征的最优特征子集作为关键特征。
(三)有益效果
本发明提供了一种融合心理状态多参数检测的肿瘤治疗辅助决策系统。与现有技术相比,具备以下有益效果:
1、本发明基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征,然后基于这些共享特征构建参数共享特征提取模型,并基于该模型提取所有心理健康状态检测任务的关键特征;最后基于这些关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,并利用心理状态评估指标来辅助医护人员制定个性化的疾病诊疗方案。本发明可以实现在不同特殊医疗场景下做出精确的疾病诊疗辅助决策,其普适性强,精度高。
2、本发明通过确定患者不同心理健康状态检测任务之间的共享特征,然后构建参数共享特征提取模型提取多种特征和关键特征,无需针对不同的心理健康状态检测任务采用专门的医疗设备和模型,检测设备成本低,可以在低时延、高实时性、网络负载要求低等特殊医疗场景下实现心理状态多参数检测,普适性强。
3、本发明将心理状态多参数检测结果(即患者不同阶段心理状态评估指标)应用到疾病诊疗过程,以辅助医护人员制定疾病诊疗决策方案,为个性化推荐治疗方案提供科学的决策依据,使得推荐结果更加精准,可以提高患者的生命质量。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中融合心理状态多参数检测的肿瘤治疗辅助决策方法的流程示意图;
图2为本发明实施例中构建基于参数共享的特征提取模型的示意图;
图3为本发明实施例中构建基于贝叶斯的辅助决策模型示意图;
图4为本发明实施例中基于DBN的动态建模过程示意图;
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本申请实施例通过提供一种融合心理状态多参数检测的肿瘤治疗辅助决策系统,解决了现有疾病辅助诊疗技术无法兼顾普适性和诊疗判断结果精准度高的问题,实现了低成本且精准辅助疾病治疗的目的。
本申请实施例中的技术方案为解决上述技术问题,总体思路如下:
为了在各种不同的特殊环境中制定患者疾病诊疗辅助决策,本发明利用获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征,然后基于这些共享特征构建参数共享特征提取模型,并基于该模型提取所有心理健康状态检测任务的关键特征;最后基于关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,并利用心理状态评估指标制定肿瘤治疗辅助决策。本发明无需成本高、专业性强的专门医疗设备用于检测患者的心理健康状态,并将患者的心理健康状态检测结果应用于疾病治疗辅助决策的制定,可在不同特殊医疗场景下做出精确的疾病诊疗辅助决策,普适性强,精度高。
为了更好的理解上述技术方案,下面将结合说明书附图以及具体的实施方式对上述技术方案进行详细的说明。
实施例1:
第一方面,本发明首先提出了一种融合心理状态多参数检测的肿瘤治疗辅助决策方法,参见图1,该方法包括:
S1、基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征;
S2、基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征;
S3、基于所述关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,利用所述心理状态评估指标来辅助医护人员制定个性化的肿瘤治疗方案。
可见,本实施例基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征,然后基于这些共享特征构建参数共享特征提取模型,并基于该模型提取所有心理健康状态检测任务的关键特征;最后基于这些关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,并利用心理状态评估指标来辅助医护人员制定个性化的疾病诊疗方案。本发明可以实现在不同特殊医疗场景下做出精确的疾病诊疗辅助决策,其普适性强,精度高。
下面结合附图1-4,以及对S1-S3具体步骤的解释,来详细说明本发明一个实施例的实现过程。
S1、基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征。
S11、对获取的患者的面部视频和时序性信息进行预处理。
通过生命质量测定量表QLQ-C30、医院焦虑抑郁量表HADS、特定疾病心理评定量表,来记录患者的心理健康信息;同时通过医疗机构相关系统中患者的就诊信息获取其它的患者时序性信息。患者的时序性信息包括不同性别患者在疾病诊疗不同时段的年龄、收入、肿瘤分期、肿瘤复发次数等等。
根据患者病情情况,确定患者面部视频和患者时序性信息的采样间隔。一般的情况下,我们将采样间隔分成三个阶段:患者入院前(t-1 时刻)、住院中(t时刻)、出院后(t+1时刻)。在患者使用平板填写量表时,平板的前置摄像头将患者面部视频记录下来,然后对获取的患者面部视频进行预处理,具体的,
在患者的面部视频预处理过程中,首先需要对视频片段进行预处理,利用面部特征点定位和人脸检测算法从视频序列中检测人脸并定位感兴趣区域,利用mediapipe人脸检测模型,准确定位面部关键特征点,对图片中的人脸进行裁剪,将人脸从背景图片中分割出来并完成人脸校准、对齐、补光等一系列操作,得到高清人脸图像集。
S12、确定患者不同心理健康状态检测任务之间的共享特征并对特征进行提取。
由于患者的心理健康状态往往会影响患者的疾病诊疗,所以在临床诊疗过程中,仅仅专注于疾病本身是不够的,我们同时需要考虑患者的心理健康状态。通过分析患者心理健康状态的关键特征,将其作为心理健康状态判断的重要评估指标,并将这些指标作为应用于特定疾病诊疗时的个性化管理,可以辅助特定科室的医生进行疾病诊疗时的精准决策。
而患者不同疾病与不同心理健康状态之间的紧密联系不一样,所以患者具体心理健康状态评估的选择与需要辅助诊疗的疾病相关(比如,患者的抑郁和焦虑两种心理健康状态与患者肿瘤之间关系密切),所以在实际操作时可以根据需要辅助诊疗的疾病来灵活选择患者的不同心理健康状态检测任务。本实施例以患者的焦虑和抑郁两种心理状态为例,来阐述本发明的技术方案。
另外,传统的方法一般通过心理量表或者生理信号来辅助心理状态多参数检测,而大部分基于生理信号的心理健康筛查方法需要专门的医疗设备,针对不同的心理状态需要采用多种不同的模型进行心理状态多参数检测,例如,对于焦虑这种心理状态需要采取一种模型进行多种参数检测,针对抑郁这种心理状态又需要采取另外一种模型进行其多种参数检测。这样的做法会增加额外的计算成本和网络负载,无法在低时延、高实时性等特殊医疗场景下实现心理状态多参数检测,限制了其应用场景。目前,极少有在参数或者特征共享的情况下进行心理状态多参数检测的相关技术。
通过相关研究表明,患者的焦虑与抑郁两种心理状态均可以通过患者的面部行为特征和非接触式生理特征进行反馈。所以可以在两者参数相同或者特征共享的情况下采用一种参数共享的特征提取模型进行焦虑与抑郁两种心理状态多参数的检测。
面部行为特征包括眼睛、嘴巴、头部位姿等面部行为特征;非接触式生理特征包括呼吸、心率、心率变异性、血压等生理特征。面部行为特征和非接触式生理特征的提取具体过程如下:
(1)焦虑状态下面部行为特征的提取。
科学研究表明,人的面部特征与焦虑之间存在相关性。面部焦虑的主要表征包括眼睛(凝视分布、眨眼频率和瞳孔大小变化)、嘴巴(如嘴巴运动、嘴唇形态)、脸颊和整体头部行为(头部运动和头部速度)。与焦虑相关的其他面部症状可能包括面部紧张、苍白和眼睑抽搐。眼睛注视方向的大小、注视连贯性和注视提示效应也受焦虑的影响。高特质焦虑个体在意志和刺激驱动的凝视下表现出更大的凝视不稳定性。与其他人相比,焦虑的人往往更专注,更频繁地扫描负面信息。此外,各种研究表明瞳孔直径与情绪或认知唤醒之间存在联系,并且瞳孔扩张可能是焦虑程度较高的指标。
根据焦虑患者上述的面部表征,我们通过S1中获取的面部视频分别提取患者的眼睛特征、头部位姿信息、嘴巴特征。具体过程如下:
①眼睛特征提取(Xeye):使用人脸特征点检测的特征点定位眼角点位置,通过眼角点计算出人眼的位置,将人眼图片裁切保存。应用 AlexNet网络,使用gazeCapture公开数据集对人眼注视点进行训练。对AlexNet网络输入人脸面部原图、裁剪后的左右眼图像与人脸位置信息图片,人脸位置信息图片是将人脸区域在原始图片的大致位置按照严格正比的关系换算到二值掩膜图片上得到的图片。并对输入的图片进行卷积和多项式乘法、标准化等处理,输出预测的用户注视点相对于摄像头的横坐标和纵坐标(x,y)。
②嘴巴特征提取(Xmouth):我们通过人脸关键特征点,定位并分割嘴巴区域,形成嘴巴区域的时序图像序列,并计算该序列的像素均值,以此得到嘴巴区域的时序特征。
③头部姿态特征提取(XheadPos):基于随机回归森林实时头部姿态估计系统来对头部位置和其偏转朝向进行回归预测,量化头部在空间中三个维度上的旋转姿态角(Yaw,Pitch,Roll)坐标,并提取各维度的速度和加速度特征,得到每帧共9个低层特征:最大值、最小值、范围、平均值、方差和标准偏差等。
(2)焦虑状态下非接触式生理特征的提取(Xphysiological)
焦虑是对威胁和心理压力的正常反应。在大脑中,杏仁核和海马是大脑中处理压力反应的两个重要部分。杏仁核主要处理恐惧和威胁,而海马体则与记忆有关。当一个人承受巨大压力时,压力产生的恐惧和威胁感会刺激杏仁核,而海马体负责储存这种记忆。当杏仁核和海马体受到这种刺激时,自主神经系统和副交感神经就会被激活。焦虑症患者会出现心率加快、呼吸加快、血压升高、头晕、出汗和肌肉紧张。焦虑的生理特征可以作为焦虑检测的一些客观证据。但下丘脑-垂体-肾上腺(HPA)轴响应慢性压力的持续激活可能会损害免疫反应并促进某些类型癌症的发展。
根据患者的焦虑表征,我们通过面部视频来提取患者的心率、心率变异性、血压、呼吸等非接触式生理信息。非接触生理检测模块基于患者面部ROI区域,构建时空表示块和空间频率表示块,计算ROI 区域中RGB三通道的像素均值并按时间顺序进行排列得到原始PPG 信号,然后对原始PPG信号通过去趋势、标准化和盲源信号分离进行处理,得到处理后的PPG信号,频率在正常范围内的信号即为脉搏波信号与呼吸信号,然后将处理后的PPG信号进行傅里叶变换和带通滤波器处理计算出心率与呼吸率等生理特征值。最后,我们通过脉搏波计算心率变异性的时域指标(包括全程NN间期时间间隔的标准差 SDNN、全程每5minNN间期平均值的标准差SDANN、全程每5minNN 间期平均值的标准差RMSSD、相邻NN时间差>50ms的个数占总数百分比PNN50)和频域指标(低频LF、LF的标化、高频HF、HF的标化、低频段与高频段的比值LF/HF)。
血压是血液在血管内流动而作用于单位面积血管壁的侧压力,也是人体的四大生命体征之一。人体心脏收缩期时面部血管中血容量增加,血压升高,导致iPPG信号中像素均值减弱;而心脏舒张期时面部血管中血容量减少,血压降低,导致iPPG信号中像素均值增加。因此,可通过iPPG信号中波峰及波谷的强度值计算舒张压与收缩压。此外,身体质量指数(BMI)是国际上常用的人体健康衡量标准,而且大量研究表明BMI与血压存在较高相关性。因此,基于iPPG信号和BMI 指数,非接触式血压监测方法通过最小二乘拟合法来计算SBP收缩压与DBP舒张压。
(3)抑郁状态下的特征提取
在临床观察中发现,当面临相同的刺激和环境条件时,抑郁患者与正常人群的情感体验大不相同,从他的动作姿态、面部表情上得到体现。依据抑郁症的情感失调假说,抑郁人群的积极情绪表达减少的同时消极情绪表达增加。抑郁人群与正常人群间面部出现的面部运动单元频次相似或较低,但与负性情绪相关的AU4、AU5与AU20在抑郁人群面部出现的次数明显更多。由情感计算领域中关于面部运动单元与情感表达间的规律可知,AU4主要控制降眉肌,在面部中表现为皱紧眉头,常因人们心中的正常活动被意外打断时出现,往往与恐惧与愤怒情绪相关;AU5则控制上眼睑提肌,表现为因惊讶或恐惧时导致的眼睛瞪大;AU20表现为嘴角向耳边拉扯,使嘴唇呈现出平扁的形状,常常在恐惧、害怕与惊恐中出现。不少研究者通过监测脑电、肌电、心电、眼电、皮肤电和脉搏波等生理信号的变化,以分析抑郁患者与正常人之间的差异性,以此作为识别抑郁患者辅助手段。类似地,根据抑郁状态的典型表征,我们通过上述同样的(提取焦虑状态的特征)方法来提取与抑郁状态的相关特征,如眼睛、嘴巴、头部位姿、 AU运动单元等面部行为特征,呼吸、血压、心率变异性、心率等非接触式生理特征,此处不再赘述。
(4)基于患者信息的判断规则提取(XpatientInfo)
生命质量(QOL)被认为是患者预后的重要指标,与无病生存率和总生存率同等重要。生命质量在患者管理中越来越受到重视,提高患者生命质量已成为临床医生的重要目标。患者的生命质量是一个复杂的问题,受医学、心理、社会和精神因素的影响,同时,癌症本身引起的症状、文化背景等也可能影响生命质量。而情绪对于生命质量的影响也成为了近年来医生关注的热点,有研究表明,患者的焦虑抑郁程度受年龄、性别、收入、肿瘤分期、肿瘤复发的影响,因此,我们选择年龄、性别、收入、肿瘤分期、肿瘤复发次数等影响生命质量的患者相关信息,提取基于患者信息的判断规则,作为分析患者心理健康状态的重要依据。
S2、基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征。
S21、基于上述共享特征利用多任务学习方法构建参数共享特征提取模型。
传统的机器学习方法主要是基于单任务的学习(Single-task Learning)模式进行学习,对于复杂的学习任务也可将其分解为多个独立的单任务进行学习,然后对学习得到的解决进行组合,得到最终的结果。多任务学习是机器学习的一个重要组成部分,是迁移学习的一种。在给定几个相关联任务的输入数据和输出数据的情况下,多任务学习能够发挥任务之间的关系,同时学习多个模型。与单任务学习相比,多任务学习主要有以下几个方面的优势:
①多任务学习通过挖掘任务之间的关系,能够得到额外的有用信息,大部分情况下都要比单任务学习的效果要好。在有标签样本比较少的情况下,单任务学习模型往往不能够学习得到足够的信息,表现较差,多任务学习能克服当前任务样本较少的缺点,从其他任务里获取有用信息,学习得到效果更好、鲁棒性更高的机器学习模型。
②多任务学习有更好的模型泛化能力,通过同时学习多个相关的任务,得到的共享模型能够直接应用到将来的某个相关联的任务上。
根据步骤S21中所提取的特征可知,在焦虑检测与抑郁检测的过程中,均需要从面部行为特征、非接触式生理特征和基于患者信息的判断规则中提取任务学习所需要的特征。在特征提取层面,它们是可以进行参数共享的。
因此,我们构造一个基于参数共享特征提取模型,如图2所示,并以焦虑、抑郁等心理状态多参数检测为学习任务。通过选择面部行为、非接触式生理特征和基于患者信息的判断规则,作为特征提取网络的输入。在特征提取过程中,通过共享卷积层及其参数,同时用全连接层来学习特定的任务(如焦虑检测和抑郁检测)。通过特征提取网络的参数共享,提取焦虑、抑郁的相关特征,实现焦虑、抑郁等心理状态多参数检测,从而减少计算成本,提高模型的精度。
S22、基于上述参数共享特征提取模型获取所有所述心理健康状态检测任务的相关特征,并选择所述相关特征的最优特征子集作为关键特征。
由于心理健康状态检测任务所有相关特征之中有的特征是重要的,而有的特征是不重要的,为了便于计算,可以选择出心理健康状态检测任务的关键特征,也就是最优特征子集。
特征选择是特征工程里的一个重要问题,其目标是寻找最优特征子集。特征选择能剔除不相关(irrelevant)或冗余(redundant)的特征,从而达到减少特征个数,提高模型精确度,减少运行时间的目的。另一方面,选取出真正相关的特征简化模型,协助理解数据产生的过程。我们通过随机森林来对特征进行选择。具体的,
(1)计算基尼指数。特征重要性是通过对数据集中的每个特征进行计算,并进行排序得到。在单个决策树中通过每个特征分裂点改进性能度量的量来计算特征重要性,由节点负责加权和记录次数。也就是说一个特征对分裂点改进性能度量越大(越靠近根节点)通过选取面部行为特征、非接触式生理特征和基于患者信息{Xeye,Xmouth,XheadPos,Xphysiological,XpatientInfo}的判断规则,根据Gini指数的计算原理,计算出每个特征的Gini指数{GIeye,GImouth,GIheadPos,GIphysiological,GIpatientInfo}。
(2)计算特征重要性评分(variable importance measures,VIM)。假设,随机森林中总共有N颗树,则第n颗树中特征Xeye在节点m 的重要性,即节点m分枝前后的Gini指数变化量为:
类似地,其他特征的重要性评分也可以根据上述步骤进行计算。
(3)特征子集选择。我们通过设置特征重要性评分的阈值,将大于该阈值条件下的特征子集选择出来,实现非接触式心理状态多参数检测,并应用于焦虑、抑郁等心理状态关键特征分析。
S3、基于所述关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,利用所述心理状态评估指标来辅助医护人员制定个性化的肿瘤治疗方案。
1)基于上述步骤获取的关键特征和患者时序性信息对患者不同阶段的心理状态进行动态建模,从而确定患者不同阶段心理状态评估指标。
通过分析眼睛、头部位姿、嘴巴形态等面部行为特征,呼吸、心率、心率变异性、血压等非接触式生理特征,基于性别、年龄、体重、病情分期等患者信息的判断规则,然后根据特征的重要性,从而建立焦虑、抑郁等心理状态判断指标。
计算条件概率和转移概率。条件概率矩阵反映的是领域专家对于网络中关联节点之间因果关系的看法,大多数是根据专家知识确定。或者根据统计学原理,计算得到对应的条件概率和转移概率。需要注意的是,条件概率矩阵是一种专家知识,不可避免带有一定的主观性。我们采用样本数据反复调试的方法,对得出的条件概率表进行适度调整,以便提高焦虑、抑郁等心理状态多参数识别结果的可信度。
构造辅助决策模型。根据焦虑状态的相关特征,我们构造如图3 所示的基于贝叶斯网络的辅助决策模型。在图3中,焦虑等级可以划分为正常、轻度焦虑、中度焦虑、中重度焦虑、重度焦虑。对应不同的量表评分,对应不同等级的焦虑水平。类似地,也可以对患者的抑郁状态构造对应的辅助决策模型。
2)动态建模与肿瘤治疗辅助决策。如图4所示,根据患者的面部行为特征、生理特征、基于患者信息的判断规则等时序特征,通过动态贝叶斯网络(DBN)对患者不同阶段的心理状态进行动态建模,分析患者在入院前、住院中、出院后等不同阶段心理状态的关键特征,构建评估焦虑、抑郁等心理状态的重要指标,评估患者在入院前、住院中、出院后这几个阶段的心理状态、年龄、性别、收入、肿瘤分期、肿瘤复发次数的相似程度,以此作为制定肿瘤治疗方案的依据之一,从而辅助医生进行决策。在诊疗过程中,医生通过积极关注患者的心理状态,对患者施加积极的干预措施,以缓解患者的焦虑抑郁程度,从而提高患者的生命质量。
至此,则完成了本发明一种融合心理状态多参数检测的肿瘤治疗辅助决策方法的全部过程。
实施例2:
第二方面,本发明还提供了一种融合心理状态多参数检测的肿瘤治疗辅助决策系统,该系统包括:
共享特征获取模块,用于基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征;
关键特征提取模块,用于基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征;
治疗辅助决策制定模块,用于基于所述关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,利用所述心理状态评估指标来辅助医护人员制定个性化的肿瘤治疗方案。
可选的,所述心理健康状态检测任务包括焦虑心理健康状态检测任务和抑郁心理健康状态检测任务;所述时序性信息包括不同性别患者在疾病诊疗不同时段的年龄、收入、肿瘤分期、肿瘤复发次数。
可选的,所述共享特征获取模块基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征包括:
S11、对获取的患者的面部视频和时序性信息进行预处理;
S12、确定患者不同心理健康状态检测任务之间的共享特征并对特征进行提取。
优选的,所述共享特征包括:面部行为特征和非接触式生理特征;所述面部行为特征包括眼睛特征、嘴巴特征、头部位姿特征;所述非接触式生理特征包括呼吸特征、心率特征、心率变异性特征,以及血压特征。
可选的,所述关键特征提取模块基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征包括:
S21、基于所述共享特征利用多任务学习方法构建参数共享特征提取模型;
S22、基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的相关特征,并选择所述相关特征的最优特征子集作为关键特征。
可理解的是,本发明实施例提供的融合心理状态多参数检测的肿瘤治疗辅助决策系统与上述融合心理状态多参数检测的肿瘤治疗辅助决策方法相对应,其有关内容的解释、举例、有益效果等部分可以参照融合心理状态多参数检测的肿瘤治疗辅助决策方法中的相应内容,此处不再赘述。
综上所述,与现有技术相比,具备以下有益效果:
1、本发明基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征,然后基于这些共享特征构建参数共享特征提取模型,并基于该模型提取所有心理健康状态检测任务的关键特征;最后基于这些关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,并利用心理状态评估指标来辅助医护人员制定个性化的疾病诊疗方案。本发明可以实现在不同特殊医疗场景下做出精确的疾病诊疗辅助决策,其普适性强,精度高。
2、本发明通过确定患者不同心理健康状态检测任务之间的共享特征,然后构建参数共享特征提取模型提取多种特征和关键特征,无需针对不同的心理健康状态检测任务采用专门的医疗设备和模型,检测设备成本低,可以在低时延、高实时性、网络负载要求低等特殊医疗场景下实现心理状态多参数检测,普适性强。
3、本发明将心理状态多参数检测结果(即患者不同阶段心理状态评估指标)应用到疾病诊疗过程,以辅助医护人员制定疾病诊疗决策方案,为个性化推荐治疗方案提供科学的决策依据,使得推荐结果更加精准,可以提高患者的生命质量。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (5)
1.一种融合心理状态多参数检测的肿瘤治疗辅助决策系统,其特征在于,所述系统包括:
共享特征获取模块,用于基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征;
关键特征提取模块,用于基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征;
治疗辅助决策制定模块,用于基于所述关键特征对患者不同阶段的心理状态进行动态建模以确定患者不同阶段心理状态评估指标,利用所述心理状态评估指标来辅助医护人员制定个性化的肿瘤治疗方案。
2.如权利要求1所述的系统,其特征在于,所述心理健康状态检测任务包括焦虑心理健康状态检测任务和抑郁心理健康状态检测任务;所述时序性信息包括不同性别患者在疾病诊疗不同时段的年龄、收入、肿瘤分期、肿瘤复发次数。
3.如权利要求2所述的系统,其特征在于,所述共享特征获取模块基于获取的患者的面部视频和时序性信息确定患者不同心理健康状态检测任务之间的共享特征包括:
S11、对获取的患者的面部视频和时序性信息进行预处理;
S12、确定患者不同心理健康状态检测任务之间的共享特征并对特征进行提取。
4.如权利要求3所述的系统,其特征在于,所述共享特征包括:面部行为特征和非接触式生理特征;所述面部行为特征包括眼睛特征、嘴巴特征、头部位姿特征;所述非接触式生理特征包括呼吸特征、心率特征、心率变异性特征,以及血压特征。
5.如权利要求1所述的系统,其特征在于,所述关键特征提取模块基于所述共享特征构建参数共享特征提取模型,并基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的关键特征包括:
S21、基于所述共享特征利用多任务学习方法构建参数共享特征提取模型;
S22、基于所述参数共享特征提取模型获取所有所述心理健康状态检测任务的相关特征,并选择所述相关特征的最优特征子集作为关键特征。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210408061.6A CN115024725A (zh) | 2022-04-19 | 2022-04-19 | 融合心理状态多参数检测的肿瘤治疗辅助决策系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210408061.6A CN115024725A (zh) | 2022-04-19 | 2022-04-19 | 融合心理状态多参数检测的肿瘤治疗辅助决策系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115024725A true CN115024725A (zh) | 2022-09-09 |
Family
ID=83118621
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210408061.6A Pending CN115024725A (zh) | 2022-04-19 | 2022-04-19 | 融合心理状态多参数检测的肿瘤治疗辅助决策系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115024725A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115919313A (zh) * | 2022-11-25 | 2023-04-07 | 合肥工业大学 | 一种基于时空特征的面部肌电情绪识别方法 |
CN115995116A (zh) * | 2023-03-23 | 2023-04-21 | 苏州复变医疗科技有限公司 | 基于计算机视觉的抑郁状态评估方法、装置、终端及介质 |
CN117958763A (zh) * | 2024-03-29 | 2024-05-03 | 四川互慧软件有限公司 | 一种基于时间轴的患者360度指标检测方法 |
-
2022
- 2022-04-19 CN CN202210408061.6A patent/CN115024725A/zh active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115919313A (zh) * | 2022-11-25 | 2023-04-07 | 合肥工业大学 | 一种基于时空特征的面部肌电情绪识别方法 |
CN115919313B (zh) * | 2022-11-25 | 2024-04-19 | 合肥工业大学 | 一种基于时空特征的面部肌电情绪识别方法 |
CN115995116A (zh) * | 2023-03-23 | 2023-04-21 | 苏州复变医疗科技有限公司 | 基于计算机视觉的抑郁状态评估方法、装置、终端及介质 |
CN117958763A (zh) * | 2024-03-29 | 2024-05-03 | 四川互慧软件有限公司 | 一种基于时间轴的患者360度指标检测方法 |
CN117958763B (zh) * | 2024-03-29 | 2024-05-31 | 四川互慧软件有限公司 | 一种基于时间轴的患者360度指标检测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Panicker et al. | A survey of machine learning techniques in physiology based mental stress detection systems | |
Zamzmi et al. | An approach for automated multimodal analysis of infants' pain | |
CN108697386B (zh) | 用于检测生理状态的系统和方法 | |
CN115024725A (zh) | 融合心理状态多参数检测的肿瘤治疗辅助决策系统 | |
KR20190128978A (ko) | 인간 감정 인식을 위한 딥 생리적 정서 네트워크를 이용한 인간 감정 추정 방법 및 그 시스템 | |
US20210386343A1 (en) | Remote prediction of human neuropsychological state | |
Kuo et al. | An EEG spectrogram-based automatic sleep stage scoring method via data augmentation, ensemble convolution neural network, and expert knowledge | |
Chen et al. | A new deep learning framework based on blood pressure range constraint for continuous cuffless BP estimation | |
Saeed et al. | Model adaptation and personalization for physiological stress detection | |
JP2022008806A5 (zh) | ||
WO2021184802A1 (zh) | 一种血压分类预测方法和装置 | |
Mellouk et al. | CNN-LSTM for automatic emotion recognition using contactless photoplythesmographic signals | |
Altıntop et al. | A novel approach for detection of consciousness level in comatose patients from EEG signals with 1-D convolutional neural network | |
Rescio et al. | Ambient and wearable system for workers’ stress evaluation | |
Karmakar et al. | Real time detection of cognitive load using fNIRS: A deep learning approach | |
Pankaj et al. | Optimized deep neural network models for blood pressure classification using Fourier analysis-based time–frequency spectrogram of photoplethysmography signal | |
Hsieh et al. | The emotion recognition system with Heart Rate Variability and facial image features | |
Ma et al. | Automatic sleep-stage classification of heart rate and actigraphy data using deep and transfer learning approaches | |
US20230027982A1 (en) | Regularized multiple-input pain assessment and trend | |
CN115836847A (zh) | 一种血压预测装置及设备 | |
Vasu et al. | A survey on bipolar disorder classification methodologies using machine learning | |
Gudigar et al. | Automatic identification of hypertension and assessment of its secondary effects using artificial intelligence: A systematic review (2013–2023) | |
Uribe et al. | Physiological signals fusion oriented to diagnosis-A review | |
Mo et al. | A multimodal data-driven framework for anxiety screening | |
Kraft et al. | Reliability factor for accurate remote PPG systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |