CN113303776B - 基于循环神经网络的非接触式血压测量方法 - Google Patents

基于循环神经网络的非接触式血压测量方法 Download PDF

Info

Publication number
CN113303776B
CN113303776B CN202110591808.1A CN202110591808A CN113303776B CN 113303776 B CN113303776 B CN 113303776B CN 202110591808 A CN202110591808 A CN 202110591808A CN 113303776 B CN113303776 B CN 113303776B
Authority
CN
China
Prior art keywords
blood pressure
neural network
training
input
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110591808.1A
Other languages
English (en)
Other versions
CN113303776A (zh
Inventor
李牧
王芬婷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian University of Technology
Original Assignee
Xian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian University of Technology filed Critical Xian University of Technology
Priority to CN202110591808.1A priority Critical patent/CN113303776B/zh
Publication of CN113303776A publication Critical patent/CN113303776A/zh
Application granted granted Critical
Publication of CN113303776B publication Critical patent/CN113303776B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/021Measuring pressure in heart or blood vessels
    • A61B5/02108Measuring pressure in heart or blood vessels from analysis of pulse wave characteristics
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/725Details of waveform analysis using specific filters therefor, e.g. Kalman or adaptive filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7253Details of waveform analysis characterised by using transforms
    • A61B5/7257Details of waveform analysis characterised by using transforms using Fourier transforms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Physiology (AREA)
  • Mathematical Physics (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Signal Processing (AREA)
  • Evolutionary Computation (AREA)
  • Psychiatry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Fuzzy Systems (AREA)
  • Cardiology (AREA)
  • Vascular Medicine (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Abstract

本发明公开了一种基于循环神经网络的非接触式血压测量方法,具体按照以下步骤实施:步骤1、对受试者采集部位的选取,选取面部作为感兴趣区域并进行视频录制;步骤2、对录制的人面部视频进行检测和追踪;步骤3、对检测追踪到的面部皮肤根据颜色变化提取脉搏波信号;步骤4、对提取的脉搏波信号进行预处理;步骤5、将预处理后的脉搏信号提取相应的特征点,并搭建循环神经网络模型,将提取的特征点塞入到搭建好的循环神经网络的输入端用于训练连续血压估计模型,得到相应的血压值。本发明实现一种非接触的连续且无创的血压测量方式,使受试者可以更舒适的进行血压测量。

Description

基于循环神经网络的非接触式血压测量方法
技术领域
本发明属于电子信息技术领域,具体涉及一种基于循环神经网络的非接触式血压测量方法。
背景技术
心血管疾病是世界上最重要的死亡原因之一。根据《欧洲心脏杂志》的报道,每年有410万人死于这种疾病。高血压是心血管疾病的主要原因。2014年,全世界高血压的患病人数为13亿,预计到2030年,将有15.6亿人患有高血压。
血压是人体的重要参数之一,测量血压为医生提供了有价值的信息。经常进行血压测量有助于血压相关疾病的早期检测、控制和治疗,例如:低血压和高血压。血压显示身体血管对血液运动的阻力,血压值的大小取决于心脏的功能和血管特征,如血管壁的弹性和厚度[5]。该压力的上限和下限分别称为收缩压(SBP)和舒张压(DBP)[6]。平均动脉血压可以表示为三分之一的两倍舒张压和收缩压之和。
目前测量血压的方法主要有间歇式血压测量方法、连续血压测量方法、脉搏波法测血压。
间歇式血压测量方法又分为听诊法(柯氏音法)和示波法。听诊法其原理是利用袖带充气使动脉封闭,然后放气减压,利用听诊器和压力计检测柯氏音来测量收缩压和舒张压。示波法测血压其原理是采用充气袖带(装有压力传感器)来阻断上臂动脉血流:充气过程中,当外加袖带压力远大于收缩压时,脉搏波消失,当放气时随着外加袖带压力减小,脉搏波开始出现,当从袖带压力大于收缩压到小于收缩压,脉搏波会突然增大;当脉搏波消失对应收缩压。实际测量中先检测到脉搏波最大值对应的平均压,然后根据脉搏波最大振幅比例确定收缩压和舒张压。这两种方法的缺点是都需要两分钟以上才能重新测量一次,只对某一时间点血压进行采样(间歇),不能反映一直在波动的血压。
目前临床和科研中常用的连续血压测量方法:有创的的导管法、无创的张力测定法、容积补偿法、超声波法。其中有创的导管法其原理是将带有压力的传感器的导管直接插入到任何动脉部位(桡动脉、主动脉)血液中测量瞬时血压。此方法的的缺点是它是有创的,对人的创伤较大。无创张力测定法其原理是在动脉上施加压力探头,当施加的压力探头和血管压力相等时使血管处于扁平的状态,使血管壁张力垂直于探头,此时即可通过测量外加压力得动脉血压。此方法的缺点是使血管处于扁平状态非常困难。容积补偿法测血压其原理是通过施加外部袖带压力等于血管内的压力,通过测量外部施加的袖带的压力来测量血压的值,即可得到血管内部的压力。该方法有较高的精度,但是该方法无法准确的测量脉搏波的波形,并且改方法对测量设备的实时性要求比较高,长时间的测量会给测试者带来不适。超声波法测量血压的原理是超声波对血管壁和血流相对运动产生的多普勒效应,超声波法在测量过程中能够呈现出动脉波的传播形式。其优点是测量的抗噪声的能力比较强拜托了传统的袖带式的血压测量的束缚。但是其缺点也比较的明显,设备复杂无法用于日常的监护,测试者微小的移动都会影响测量的精确确度。对于脉搏波法测血压其原理是脉搏信号中携带大量的人体心血管系统疾病信息,因此,评价人体心血管系统的生理病理信息可以通过检测脉搏波波形特征变化及其在血管中的波速来间接获得。其方法有光电容积描记法(PPG)和成像式光电容积描记法(IPPG)。光电容积描记法的原理是使用一束特定波长的光照射在人体某部位(耳朵、手指等)表面,一部分透射穿过人体组织另一部分被反射,利用光电传感器将透射或者反射的光通过探测器转换为电信号,即为光电容积脉搏波。其优点是摆脱了传统的袖带式测血压的束缚,实现了连续测血压。但其缺点是也属于接触式的,并且对于特殊人群此方法不适用,比如:身体残疾,新生儿,皮肤损伤等。成像式光电容积描记法是通过视频采集的传感器,感知皮肤组织中血流的变化,通过相应的算法将此变化转化为脉搏波信号,实现血压的测量。该方法的优点是首先不同于PPG技术的单点测量,IPPG技术通常可以采集更大区域的图像,可以获得比PPG技术更丰富的信息。再者IPPG技术采用非接触手段,对设备要求更低,测量方法更为简单、无创。最后对于新生儿、皮肤烫伤、或者身体残疾的人来说可以方便的测血压,还可以消除“白大褂”效应。并且为将来医疗资源分配的基础,即实现远医生对患者的程治疗。
总的来说现有的血压测量方法存在如下问题,首先传统的方法虽然精度较高,但此方法必须给测试者的上臂绑袖带,给测试者带来一定的不便并且是间歇式的,而且现有的血压测量设备需要有一定技术的工作人员才能完成、设备比较复杂。其次,光电容积描记法对测试者要求的比较高,不恰当的测量力度、角度等都会影响测量结果。对于特殊的人群此方法也不适用。为了实现连续的无创的血压测量方式,采用了基于循环神经网络的非接触式血压测量方法。
发明内容
本发明的目的是提供一种基于循环神经网络的非接触式血压测量方法,实现一种非接触的连续且无创的血压测量方式,使受试者可以更舒适的进行血压测量。
本发明所采用的技术方案是,基于循环神经网络的非接触式血压测量方法,具体按照以下步骤实施:
步骤1、对受试者采集部位的选取,选取面部作为感兴趣区域并进行视频录制;
步骤2、对录制的人面部视频进行检测和追踪;
步骤3、对检测追踪到的面部皮肤根据颜色变化提取脉搏波信号;
步骤4、对提取的脉搏波信号进行预处理;
步骤5、将预处理后的脉搏信号提取相应的特征点,并搭建循环神经网络模型,将提取的特征点塞入到搭建好的循环神经网络的输入端用于训练连续血压估计模型,得到相应的血压值。
本发明的特点还在于,
步骤1具体如下:
步骤1.1、设视频拍摄的分辨率为720p*1080p,帧率要求大于60FPS;
步骤1.2、选取人脸作为感兴趣区域ROI后,被测试者保持不动将摄像机正对人脸部并和人脸保持一米的距离,被测试者保持不动并且闭着眼睛;
步骤1.3、视频的拍摄要求均匀的室内灯光并且环境的温度保持在26℃,对于视频的采集受试者总数为50人,年龄为25±3的健康男性和女性各一半,每段视频的长度为30秒左右,每段视频拍摄时通过袖带式的血压计得到收缩压、舒张压和心率,并记录在对应的数据库中,并进行7天的采集。
步骤2具体如下:
步骤2.1、将所述步骤1录制好的视频上传到上位机,利用自适应增强算法AdaBoost对人脸进行监测:首先采用双线性差值法将人脸数据库中选出的多张人脸归一化到20*20像素大小;再从这些归一化后的图片里提取特征矩形,然后利用积分图计算矩形的特征值;最后利用AdaBoost训练器进行训练:一张待检测的图像有一个强分类器,让多个弱分类器再次加权投票结果的错误率加权求和,最后将这些加权求和的结果与平均投票的结果比较得到最优结果;
步骤2.2、利用人脸追踪算法来减少这些噪声的影响,使用Kanade-Lucas-Tomasi算法KLT进行人脸的追踪,具体过程为:首先利用诸如Harris角点的特征检测器在初始帧中寻找一系列特征点,然后基于各特征点的局部模板,通过采用平移或仿射运动模型的Lucas-Kanade运动估计,寻找各特征点的帧间对应矢量,最后对于各特征点,在各帧中判断其跟踪的好坏,移除部分特征,即比如去除掉那些被遮挡的或者无法准确跟踪的特征,然后周期性加入一些新的特征,如每隔5帧。
步骤3具体如下:
步骤3.1、利用皮肤像素的空间分布,通过空间RGB相关性推导:
其中,C为皮肤像素的空间分布,N为皮肤像素的个数,V是N*3视频中皮肤像素的RGB通道矢量化矩阵;VT是V的转置;
通过对皮肤像素的空间分布C进行QR分解得到皮肤像素子空间,即:
C·U=Λ·U满足det(C-Λ·I)=0(2)
其中,det(·)表示矩阵行列式,U和Λ分别表示特征向量和特征值;由于RGB通过道中存在独立传感器噪声,因此将C展开,即:
其中,ui为u的第i列向量,λi为λ的第i个对角元素,表示为ui的转置,在RGB空间中将u定义为新的皮肤像素轴,主特征向量u1控制皮肤像素簇的皮肤因子,是一种对空间异常值具有鲁棒性的最小二乘估计,u2和u3是正交于u1的后续变化方向;
步骤3.2、在时间域,将两个子空间的时间关系建模为瞬时旋转和缩放,然后根据特征向量之间旋转即方向变化绘制出相应的脉搏波信号波形。
步骤4具体如下:
步骤4.1、得到脉搏波波形后,对信号进行预处理,选择快速傅立叶变换滤波器去噪,将时域信号转换到频域,并将小于0.4Hz和大于7Hz的频率范围用零值进行填充,然后将信号再通过快速傅里叶逆变换转换到时域,最后在对信号进行归一化处理;
步骤4.2、提取基于整体的特征,将上一步去噪后的信号中两个连续的峰值之间的特定距离处的IPPG信号的所有值认为是特征向量,这些特征向量的每一个都是所对应的循环神经网络的输入,并且将人的身高、年龄、性别、体重输入到循环神经网络中进行训练,该训练是独立完成的。
步骤5具体如下:
步骤5.1、搭建循环神经网络RNN:
循环神经网络RNN由输入层、隐藏层、输出层组成,隐藏层有一个数据的循环更新,其中,用xt表示第t步时的输入,t=1,2,3,...,St表示样本在时间t处的记忆,St=f(U·xt+w·St-1),W表示输入的权重,U表示此刻输入的样本的权重,V表示输出的样本的权重,在t=1时刻,初始化输入S0=0,随机初始化W、U、V,进行下面的公式计算:
h1=Ux1+WS0 (4)
S1=f(h1) (5)
y1=g(VS1) (6)
其中,f和g均为激活函数,时间向前推进,此时的状态作为时刻1的记忆状态将参与下一个时刻的预测活动,因为权值共享W、U、V在每一个时刻都是相等的,最终得到的输出值为:
ht=Uxt+WSt-1 (7)
St=f(ht) (8)
yt=g(VSt) (9)
步骤5.2、长短时记忆网络LSTM:
LSTM网络引入一个新的内部状态ct专门进行线性的循环信息传递,同时非线性输出信息给隐藏层的外部状态ht
ht=ot⊙tanh(ct) (11)
其中ft,it和ot为三个控制信息传递的门;⊙为向量元素乘积;ct-1为上一时刻的记忆单元;是通过非线性函数得到候选状态,
在每个时刻t,LSTM网络的内部状态ct记录了到当前时刻为止的历史信息;
LSTM网络引入门机制控制信息传递的路径,三个“门”分别为输入门、遗忘门和输出门,具体如下:
遗忘门ft:控制上一个时刻的内部状态ct-1需要遗忘多少信息,
输入门it:控制当前时刻的候选状态有多少信息需要保存,
输出门ot:控制当前时刻的内部状态ct有多少信息需要输出给外部状态ht
三个门的计算方式如下:
遗忘门:ft=δ(Ufht-1+Wfxt+bf) (13)
输入门:it=δ(Uiht-1+Wixt+bi) (14)
输出门:ot=δ(Uoht-1+Woxt+bo) (15)
其中,xt为当前时刻的输入,δ是Logistic Sigmoid函数,tanh(·)为双曲正切映射,提供非线性的激活函数,W是权值矩阵,b是偏置向量,ht-1为上一时刻的外部状态;
根据步骤4.2所述得到的脉搏波将预处理后的信号中两个连续的峰值之间的特定距离处的IPPG信号的所有值都认为是特征向量和人的身高、年龄、性别、体重输入到循环神经网络中进行训练,输入长短期期记忆网络模型,训练神经网络,并将相对应的标签输入,即可输出相对应的血压值,即收缩压和舒张压。
本发明的有益效果是,本发明在与传统的接触式的相比,首先,本发明是一种利用摄像机作为光电探测器来测量皮肤表面颜色变化的非侵入性技术。通过对测试者皮肤的视频记录,提取搏动的脉搏波信号。其次,本发明对测试者来说是一种舒适感极强的测量方法,不会过多地干扰用户的日常活动,避免接触式侵入性方法带来的疼痛。最后,本发明是一种利用循环神经网络的非接触式血压测量,循环神经网络(RNN)赋予了网络对前面的内容的一种“记忆功能”。具体的表现形式为网络会对前面的信息进行记忆并应用于当前输出的计算中,即隐藏层之间的节点不再无连接而是有连接的,并且隐藏层的输入不仅包括输入层的输出还包括上一时刻隐藏层的输出,由于人体的机能不是独立的,因此对于血压的连续预测有积极的效果。
附图说明
图1是本发明的基于基于循环神经网络的非接触式血压监测方法的流程图;
图2信号预处理的算法图;
图3RNN循环网络结构;
图4长短期记忆网络结构。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
本发明基于循环神经网络的非接触式血压测量方法,流程图如图1所示,具体按照以下步骤实施:
步骤1、对受试者采集部位的选取,选取面部作为感兴趣区域并进行视频录制,经过调查研究发现人的面部具有丰富的毛细血管,有利于获取丰富的信息;
其中,步骤1具体如下:
步骤1.1、由于本专利的非接触特性,数据采集易受外界环境的干扰,通过对数据采集过程分析,可能对数据采集质量可控因素的主要包括:视频拍摄的参数、拍摄环境的光照强度,拍摄的姿势等,本专利通过调查研究确定数据在采集过程中几点具体要求:
设视频拍摄的分辨率为720p*1080p,分辨率越高信号的信噪比就相较较好,帧率要求大于60FPS,因为帧率越高信号的功率谱信噪比有明显的提高。
步骤1.2、选取人脸作为感兴趣区域ROI后,被测试者保持不动将摄像机正对人脸部并和人脸保持一米的距离,被测试者保持不动并且闭着眼睛,这样有助于减少噪声干扰,提高信号的质量。
步骤1.3、视频的拍摄要求均匀的室内灯光并且环境的温度保持在26℃,对于视频的采集受试者总数为50人,年龄为25±3的健康男性和女性各一半,每段视频的长度为30秒左右,每段视频拍摄时通过袖带式的血压计得到收缩压、舒张压和心率,并记录在对应的数据库中,并进行7天的采集。
步骤2、对录制的人面部视频进行检测和追踪;由于在测量血压过程中要求人保持静止来减少噪声,但人不可能处于完全静止的状态,所以需要用到人脸检测与追踪来减少由于呼吸、微表情对信号的干扰。
所述步骤2具体如下:
步骤2.1、将所述步骤1录制好的视频上传到上位机,利用自适应增强算法AdaBoost对人脸进行监测:首先采用双线性差值法将人脸数据库中选出的多张人脸归一化到20*20像素大小;再从这些归一化后的图片里提取特征矩形,然后利用积分图计算矩形的特征值,积分图的引入大大提高了检测速度。最后是训练AdaBoost训练器:(1)首先,是初始化训练数据的权值分布。假设有N个训练样本数据,则每一个训练样本最开始时,都被赋予相同的权值:w1=1/N。(2)然后,训练弱分类器hi,具体训练过程中是:如果某个训练样本点,被弱分类器hi准确地分类,那么在构造下一个训练集中,它对应的权值要减小;相反,如果某个训练样本点被错误分类,那么它的权值就应该增大。权值更新过的样本集被用于训练下一个分类器,整个训练过程如此迭代地进行下去。(3)最后,将各个训练得到的弱分类器组合成一个强分类器。各个弱分类器的训练过程结束后,加大分类误差率小的弱分类器的权重,使其在最终的分类函数中起着较大的决定作用,而降低分类误差率大的弱分类器的权重,使其在最终的分类函数中起着较小的决定作用
最后将这些加权求和的结果与平均投票的结果比较得到最优结果。
该算法的核心是使用相同的弱分类器在不同的样本集上进行训练,得到多个弱分类器。误检率计算每个弱分类器的置信度。置信度被用作算法中弱分类器的权重。最后,将每个弱分类器的检测结果乘以这些权重进行分类。实现人脸的检测。
步骤2.2、在视频检测中,检测者的包括呼吸、运动、眨眼在内的生理活动产生运动模糊和检测误差,会对结果产生影响,利用人脸追踪算法来减少这些噪声的影响,本专利使用Kanade-Lucas-Tomasi(KLT)算法进行人脸的追踪,众所周知KLT算法在实时计算速度上非常好,因此应用在运动物体的追踪,基于特征点的运动目标的追踪,其本质就是根据某个相似性度量,寻找相邻两帧图像对应的特征点的映射情况。具体过程为:首先利用诸如Harris角点的特征检测器在初始帧中寻找一系列特征点,然后基于各特征点的局部模板,通过采用平移或仿射运动模型的Lucas-Kanade运动估计,寻找各特征点的帧间对应矢量,最后对于各特征点,在各帧中判断其跟踪的好坏,移除部分特征,即比如去除掉那些被遮挡的或者无法准确跟踪的特征,然后周期性加入一些新的特征,如每隔5帧。增强了AdaBoost检测算法在视频人脸检测中的鲁棒性。这提高了在视频中检测人脸的能力,并为获得理想的IPPG信号提供了基础。
步骤3、对检测追踪到的面部皮肤根据颜色变化提取脉搏波信号;本发明使用空间子空间的算法进行脉搏波信号的提取。
步骤3具体如下:
步骤3.1、现有的rPPG算法都使用空间平均RGB来量化皮肤像素,即(R,G,B)。他们没有考虑皮肤像素在RGB空间中的空间分布。本发明利用皮肤像素的空间分布,通过空间RGB相关性推导:
其中,C为皮肤像素的空间分布,N为皮肤像素的个数,V是N*3视频中皮肤像素的RGB通道矢量化矩阵;VT是V的转置;
通过对皮肤像素的空间分布C进行QR分解得到皮肤像素子空间,即:
C·U=Λ·U subj.to det(C-Λ·I)=0 (2)
其中,det(·)表示矩阵行列式,U和Λ分别表示特征向量和特征值;由于RGB通过道中存在独立传感器噪声,因此将C展开,即:
其中,ui为u的第i列向量,λi为λ的第i个对角元素,表示为ui的转置,在RGB空间中将u定义为新的皮肤像素轴,主特征向量u1控制皮肤像素簇的皮肤因子,是一种对空间异常值具有鲁棒性的最小二乘估计,u2和u3是正交于u1的后续变化方向;
步骤3.2、在时间域,搏动的血液引起RGB通道的变化,从而改变皮肤像素的子空间,我们将两个子空间的时间关系建模为瞬时旋转和缩放,特征向量之间的旋转(方向变化)与RGB通道中不同的相对的PPG贡献有关;特征值的变化(能量变化)与被测皮肤的脉动性有关。然后根据特征向量之间旋转即方向变化绘制出相应的脉搏波信号波形。
步骤4、对提取的脉搏波信号进行预处理,由于人的不可避免地运动,会给波形带来噪声,所以需要对信号去噪,利用小波变换和自适应滤波器对信号进行去噪,在对信号进行快速傅里叶变换,将频率在0.4-7Hz以外的频率置零,最后对信号反傅里叶变换,得到时域信号。
对预处理后的信号进行用主成分分析法降维处理,减少训练和评估部分的特征向量的长度将减少计算量。此外,数据相关性的减少提高了模型训练过程的效率。
步骤4具体如下:
步骤4.1、得到脉搏波波形后,如图2所示是信号预处理的流程图,接下来就是对信号进行预处理,选择快速傅立叶变换滤波器去噪,将时域信号转换到频域,并将小于0.4Hz和大于7Hz的频率范围用零值进行填充,然后将信号再通过快速傅里叶逆变换转换到时域,最后在对信号进行归一化处理;
步骤4.2、提取基于整体的特征,将上一步去噪后的信号中两个连续的峰值之间的特定距离处的IPPG信号的所有值认为是特征向量,这些特征向量的每一个都是所对应的循环神经网络的输入,并且将人的身高、年龄、性别、体重输入到循环神经网络中进行训练,该训练是独立完成的。
步骤5、将预处理后的脉搏信号提取相应的特征点,并搭建循环神经网络模型,将提取的特征点塞入到搭建好的循环神经网络的输入端用于训练连续血压估计模型,得到相应的血压值。本发明选取的是长短期记忆神经网络(LSTM),LSTM的核心在于细胞状态以及“门”结构。细胞状态能够将序列处理过程中的相关信息一直传递下去。因此,即使是较早时间步长的信息也能携带到较后时间步长的细胞中来,这克服了短时记忆的影响。“门”结构在训练过程中会去学习该保存或遗忘哪些信息。
步骤5具体如下:
步骤5.1、搭建循环神经网络RNN:
RNN是一类具有短期记忆能力的神经网络,在循环神经网络中,神经元不仅可以接受其他神经元的信息,还可以接受自身的信息,形成一个环路结构。RNN最常用于处理序列数据,序列数据的特点就在于序列的前后数据存在很强的相关性,下一个值由当前值以及前面的值,共同决定,而RNN的内部结构可以对这类数据的前后信息进行记忆存储,每次训练都将前面值的输出结果进行保存,再用于后面的值运算。
如图3所示为循环神经网络的结构图,RNN由输入层、隐藏层、输出层组成,隐藏层有一个数据的循环更新,其中,用xt表示第t步时的输入,t=1,2,3,...,St表示样本在时间t处的记忆,St=f(U·xt+w·St-1),W表示输入的权重,U表示此刻输入的样本的权重,V表示输出的样本的权重,在t=1时刻,初始化输入S0=0,随机初始化W、U、V,进行下面的公式计算:
h1=Ux1+WS0 (4)
S1=f(h1) (5)
y1=g(VS1) (6)
其中,f和g均为激活函数,时间向前推进,此时的状态作为时刻1的记忆状态将参与下一个时刻的预测活动,因为权值共享W、U、V在每一个时刻都是相等的,最终得到的输出值为:
ht=Uxt+WSt-1 (7)
St=f(ht) (8)
yt=g(VSt) (9)
然而,传统的循环神经网络存在两个问题:一是模型在建模前需要提前确定时间步长数,为了能够使模型的预测精度更高,建模中要确定最优的时间间隔,而在模型训练时一般采用试错法确定参数;二是不能捕获输入序列的长时依赖信息。为了解决这个问题,采用了如下所述的具有长短时记忆网络LSTM;
步骤5.2、长短时记忆网络LSTM
LSTM网络是RNN的一个变体,网络的主体结构与RNN相似,是循环神经网络用来处理长距离依赖性问题的一种可行有效的方法,不同的是传统神经网络隐藏层中的神经元被LSTM网络隐藏层中的记忆区块所代替,使得神经元的记忆能力更强,其特有的细胞控制机制能够解决梯度爆炸以及时间序列的长时依赖问题。
LSTM网络引入一个新的内部状态ct专门进行线性的循环信息传递,同时非线性输出信息给隐藏层的外部状态ht
ht=ot⊙tanh(ct) (11)
其中ft,it和ot为三个控制信息传递的门;⊙为向量元素乘积;ct-1为上一时刻的记忆单元;是通过非线性函数得到候选状态,
在每个时刻t,LSTM网络的内部状态ct记录了到当前时刻为止的历史信息;
LSTM网络引入门机制控制信息传递的路径,三个“门”分别为输入门、遗忘门和输出门,具体如下:如图4所示为长短期记忆网络的“门”结构图。
遗忘门ft:控制上一个时刻的内部状态ct-1需要遗忘多少信息,
输入门it:控制当前时刻的候选状态有多少信息需要保存,
输出门ot:控制当前时刻的内部状态ct有多少信息需要输出给外部状态ht
三个门的计算方式如下:
遗忘门:ft=δ(Ufht-1+Wfxt+bf) (13)
输入门:it=δ(Uiht-1+Wixt+bi) (14)
输出门:ot=δ(Uoht-1+Woxt+bo) (15)
其中,xt为当前时刻的输入,δ是LogisticSigmoid函数,tanh(·)为双曲正切映射,提供非线性的激活函数,W是权值矩阵,b是偏置向量,ht-1为上一时刻的外部状态;
根据步骤4.2所述得到的脉搏波将预处理后的信号中两个连续的峰值之间的特定距离处的IPPG信号的所有值都认为是特征向量和人的身高、年龄、性别、体重输入到循环神经网络中进行训练,输入长短期期记忆网络模型,训练神经网络,并将相对应的标签输入,即可输出相对应的血压值,即收缩压和舒张压。

Claims (2)

1.基于循环神经网络的非接触式血压测量方法,其特征在于,具体按照以下步骤实施:
步骤1、对受试者采集部位的选取,选取面部作为感兴趣区域并进行视频录制;
所述步骤1具体如下:
步骤1.1、设视频拍摄的分辨率为720p*1080p,帧率要求大于60FPS;
步骤1.2、选取人脸作为感兴趣区域ROI后,被测试者保持不动将摄像机正对人脸部并和人脸保持一米的距离,被测试者保持不动并且闭着眼睛;
步骤1.3、视频的拍摄要求均匀的室内灯光并且环境的温度保持在26℃,对于视频的采集受试者总数为50人,年龄为25±3的健康男性和女性各一半,每段视频的长度为30秒左右,每段视频拍摄时通过袖带式的血压计得到收缩压、舒张压和心率,并记录在对应的数据库中,并进行7天的采集;
步骤2、对录制的人面部视频进行检测和追踪;
所述步骤2具体如下:
步骤2.1、将所述步骤1录制好的视频上传到上位机,利用自适应增强算法AdaBoost对人脸进行监测:首先采用双线性差值法将人脸数据库中选出的多张人脸归一化到20*20像素大小;再从这些归一化后的图片里提取特征矩形,然后利用积分图计算矩形的特征值;最后利用AdaBoost训练器进行训练:一张待检测的图像有一个强分类器,让多个弱分类器再次加权投票结果的错误率加权求和,最后将这些加权求和的结果与平均投票的结果比较得到最优结果;
步骤2.2、利用人脸追踪算法来减少这些噪声的影响,使用Kanade-Lucas-Tomasi算法KLT进行人脸的追踪,具体过程为:首先利用Harris角点的特征检测器在初始帧中寻找一系列特征点,然后基于各特征点的局部模板,通过采用平移或仿射运动模型的Lucas-Kanade运动估计,寻找各特征点的帧间对应矢量,最后对于各特征点,在各帧中判断其跟踪的好坏,移除部分特征,即去除掉那些被遮挡的或者无法准确跟踪的特征,然后周期性加入一些新的特征,每隔5帧;
步骤3、对检测追踪到的面部皮肤根据颜色变化提取脉搏波信号;
所述步骤3具体如下:
步骤3.1、利用皮肤像素的空间分布,通过空间RGB相关性推导:
其中,C为皮肤像素的空间分布,N为皮肤像素的个数,V是N*3视频中皮肤像素的RGB通道矢量化矩阵;VT是V的转置;
通过对皮肤像素的空间分布C进行QR分解得到皮肤像素子空间,即:
C·U=Λ·U满足det(C-Λ·I)=0 (2)
其中,det(·)表示矩阵行列式,U和Λ分别表示特征向量和特征值;由于RGB通过道中存在独立传感器噪声,因此将C展开,即:
其中,ui为u的第i列向量,i=1,2,3,λi为λ的第i个对角元素,表示为ui的转置,在RGB空间中将u定义为新的皮肤像素轴,主特征向量u1控制皮肤像素簇的皮肤因子,是一种对空间异常值具有鲁棒性的最小二乘估计,u2和u3是正交于u1的后续变化方向;
步骤3.2、在时间域,将两个子空间的时间关系建模为瞬时旋转和缩放,然后根据特征向量之间旋转即方向变化绘制出相应的脉搏波信号波形;
步骤4、对提取的脉搏波信号进行预处理;
所述步骤4具体如下:
步骤4.1、得到脉搏波波形后,对信号进行预处理,选择快速傅立叶变换滤波器去噪,将时域信号转换到频域,并将小于0.4Hz和大于7Hz的频率范围用零值进行填充,然后将信号再通过快速傅里叶逆变换转换到时域,最后在对信号进行归一化处理;
步骤4.2、提取基于整体的特征,将上一步去噪后的信号中两个连续的峰值之间的特定距离处的IPPG信号的所有值认为是特征向量,这些特征向量的每一个都是所对应的循环神经网络的输入,并且将人的身高、年龄、性别、体重输入到循环神经网络中进行训练,该训练是独立完成的;
步骤5、将预处理后的脉搏信号提取相应的特征点,并搭建循环神经网络模型,将提取的特征点塞入到搭建好的循环神经网络的输入端用于训练连续血压估计模型,得到相应的血压值。
2.根据权利要求1所述的基于循环神经网络的非接触式血压测量方法,其特征在于,所述步骤5具体如下:
步骤5.1、搭建循环神经网络RNN:
循环神经网络RNN由输入层、隐藏层、输出层组成,隐藏层有一个数据的循环更新,其中,用xt表示第t步时的输入,t=1,2,3,...,St表示样本在时间t处的记忆,St=f(U·xt+w·St-1),W表示输入的权重,U表示此刻输入的样本的权重,V表示输出的样本的权重,在t=1时刻,初始化输入S0=0,随机初始化W、U、V,进行下面的公式计算:
h1=Ux1+WS0 (4)
S1=f(h1) (5)
y1=g(VS1) (6)
其中,f和g均为激活函数,时间向前推进,此时的状态作为时刻1的记忆状态将参与下一个时刻的预测活动,因为权值共享W、U、V在每一个时刻都是相等的,最终得到的输出值为:
ht=Uxt+WSt-1 (7)
St=f(ht) (8)
yt=g(VSt) (9)
步骤5.2、长短时记忆网络LSTM:
LSTM网络引入一个新的内部状态ct专门进行线性的循环信息传递,同时非线性输出信息给隐藏层的外部状态ht
ht=ot⊙tanh(ct) (11)
其中ft,it和ot为三个控制信息传递的门;⊙为向量元素乘积;ct-1为上一时刻的记忆单元;是通过非线性函数得到候选状态,
在每个时刻t,LSTM网络的内部状态ct记录了到当前时刻为止的历史信息;
LSTM网络引入门机制控制信息传递的路径,三个“门”分别为输入门、遗忘门和输出门,具体如下:
遗忘门ft:控制上一个时刻的内部状态ct-1需要遗忘多少信息,
输入门it:控制当前时刻的候选状态有多少信息需要保存,
输出门ot:控制当前时刻的内部状态ct有多少信息需要输出给外部状态ht
三个门的计算方式如下:
遗忘门:ft=δ(Ufht-1+Wfxt+bf) (13)
输入门:it=δ(Uiht-1+Wixt+bi) (14)
输出门:ot=δ(Uoht-1+Woxt+bo) (15)
其中,xt为当前时刻的输入,δ是Logistic Sigmoid函数,tanh(·)为双曲正切映射,提供非线性的激活函数,W是权值矩阵,b是偏置向量,ht-1为上一时刻的外部状态;
根据步骤4.2所述得到的脉搏波将预处理后的信号中两个连续的峰值之间的特定距离处的IPPG信号的所有值都认为是特征向量和人的身高、年龄、性别、体重输入到循环神经网络中进行训练,输入长短期期记忆网络模型,训练神经网络,并将相对应的标签输入,即可输出相对应的血压值,即收缩压和舒张压。
CN202110591808.1A 2021-05-28 2021-05-28 基于循环神经网络的非接触式血压测量方法 Active CN113303776B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110591808.1A CN113303776B (zh) 2021-05-28 2021-05-28 基于循环神经网络的非接触式血压测量方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110591808.1A CN113303776B (zh) 2021-05-28 2021-05-28 基于循环神经网络的非接触式血压测量方法

Publications (2)

Publication Number Publication Date
CN113303776A CN113303776A (zh) 2021-08-27
CN113303776B true CN113303776B (zh) 2024-02-09

Family

ID=77376221

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110591808.1A Active CN113303776B (zh) 2021-05-28 2021-05-28 基于循环神经网络的非接触式血压测量方法

Country Status (1)

Country Link
CN (1) CN113303776B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113827234B (zh) * 2021-11-25 2022-03-18 之江实验室 一种基于高光谱人脸视频的远程脉搏波重建方法
CN114569096B (zh) * 2022-02-28 2024-05-24 西安交通大学 一种基于视频流的非接触式连续血压测量方法及系统
CN114926957B (zh) * 2022-04-13 2024-01-19 西安理工大学 基于智能家居的婴幼儿监护系统及监护方法
CN115607126B (zh) * 2022-09-28 2023-06-02 中国人民解放军总医院 一种基于脉冲超宽带雷达的非接触血压测量方法
CN115736863A (zh) * 2022-11-04 2023-03-07 北京小凡科技有限公司 基于计算机视觉和深度学习的非接触式血压检测系统

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105105733A (zh) * 2015-08-14 2015-12-02 姚丽峰 实现连续追踪血压值的血压测量系统及方法
WO2017024457A1 (zh) * 2015-08-08 2017-02-16 深圳先进技术研究院 连续血压测量装置、测量模型建立方法和系统
CN109480808A (zh) * 2018-09-27 2019-03-19 深圳市君利信达科技有限公司 一种基于ppg的心率检测方法、系统、设备和存储介质
WO2019100827A1 (zh) * 2017-11-24 2019-05-31 深圳市岩尚科技有限公司 一种脉搏波信号中提取血压数据的方法及装置
CN110191675A (zh) * 2016-12-19 2019-08-30 纽洛斯公司 用于非接触式确定血压的系统和方法
CN111611888A (zh) * 2020-05-12 2020-09-01 西安爱特眼动信息科技有限公司 非接触血压估计方法及装置
CN111728602A (zh) * 2020-08-21 2020-10-02 之江实验室 基于ppg的无接触血压测量装置
KR20200123335A (ko) * 2019-04-18 2020-10-29 서울대학교산학협력단 순환신경망을 이용한 구간혈압 추정 방법 및 그 방법을 구현하기 위한 구간 혈압 추정 장치
KR20210001486A (ko) * 2019-06-28 2021-01-07 박윤규 얼굴 영상 이미지를 이용하여 사용자의 건강 지표를 측정하는 방법 및 그를 이용한 장치

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102284671B1 (ko) * 2019-10-24 2021-07-30 성균관대학교산학협력단 피부영상을 이용한 혈압 측정 방법 및 장치

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017024457A1 (zh) * 2015-08-08 2017-02-16 深圳先进技术研究院 连续血压测量装置、测量模型建立方法和系统
CN105105733A (zh) * 2015-08-14 2015-12-02 姚丽峰 实现连续追踪血压值的血压测量系统及方法
CN110191675A (zh) * 2016-12-19 2019-08-30 纽洛斯公司 用于非接触式确定血压的系统和方法
WO2019100827A1 (zh) * 2017-11-24 2019-05-31 深圳市岩尚科技有限公司 一种脉搏波信号中提取血压数据的方法及装置
CN109833034A (zh) * 2017-11-24 2019-06-04 深圳市岩尚科技有限公司 一种脉搏波信号中提取血压数据的方法及装置
CN109480808A (zh) * 2018-09-27 2019-03-19 深圳市君利信达科技有限公司 一种基于ppg的心率检测方法、系统、设备和存储介质
KR20200123335A (ko) * 2019-04-18 2020-10-29 서울대학교산학협력단 순환신경망을 이용한 구간혈압 추정 방법 및 그 방법을 구현하기 위한 구간 혈압 추정 장치
KR20210001486A (ko) * 2019-06-28 2021-01-07 박윤규 얼굴 영상 이미지를 이용하여 사용자의 건강 지표를 측정하는 방법 및 그를 이용한 장치
CN111611888A (zh) * 2020-05-12 2020-09-01 西安爱特眼动信息科技有限公司 非接触血压估计方法及装置
CN111728602A (zh) * 2020-08-21 2020-10-02 之江实验室 基于ppg的无接触血压测量装置

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
Blood pressure estimation from appropriate and inappropriate PGG signals using A whole-based method;Seyedeh Somayyeh etal.;Biomediacal signal processing and control;第47卷;全文 *
基于BP神经网络的脉搏触压觉与血压关系分析;李万兵;权宏伟;;电子世界(第05期);全文 *
基于GA-Elman神经网络无创连续血压测量方法的研究;袁春雨;中国知网硕士电子期刊(第12期);全文 *
基于RNN的脉搏波血压计的研究与实现;刘艳萍;李杰;金菲;;电子技术应用(第06期);全文 *
基于深度可分卷积神经网络的实时人脸表情和性别分类;刘尚旺;刘承伟;张爱丽;;计算机应用(第04期);全文 *

Also Published As

Publication number Publication date
CN113303776A (zh) 2021-08-27

Similar Documents

Publication Publication Date Title
CN113303776B (zh) 基于循环神经网络的非接触式血压测量方法
US11337626B2 (en) System and method for contactless blood pressure determination
US11844593B2 (en) System and method for non-invasive determination of blood pressure dip based on trained prediction models
Sikdar et al. Computer-vision-guided human pulse rate estimation: a review
US8360986B2 (en) Non-contact and passive measurement of arterial pulse through thermal IR imaging, and analysis of thermal IR imagery
Yamamoto et al. ECG signal reconstruction via Doppler sensor by hybrid deep learning model with CNN and LSTM
Sun et al. Imaging the cardiovascular pulse
CN113143230B (zh) 一种外周动脉血压波形重构系统
Zhou et al. The noninvasive blood pressure measurement based on facial images processing
WO2023185873A1 (zh) 一种基于多阶多模态的非袖带式血压测量装置及方法
CN116327152A (zh) 一种远程非接触式心率检测系统及方法
CN113662520B (zh) 一种基于不确定性量化策略的可穿戴连续血压测量系统
KR102108961B1 (ko) 이미지 기반의 인공지능 딥러닝을 이용한 혈압 추정 장치
Benezeth et al. Probabilistic signal quality metric for reduced complexity unsupervised remote photoplethysmography
CN113456042A (zh) 一种基于3d cnn的无接触面部血压测量方法
Lian et al. Robust and remote photoplethysmography based on smartphone imaging of the human palm
CN116327181A (zh) 一种心脏实时无感监测综合评价方法、装置及电子设备
Das et al. Time–frequency learning framework for rPPG signal estimation using Scalogram-based feature map of facial video data
Bajraktari et al. Methods of Contactless Blood Pressure Measurement: A Systematic Review
CN115486824A (zh) 一种基于不确定性度量的无袖带连续血压估计系统
CN114587310A (zh) 一种基于光电容积脉搏波实现有创血压波形估计的方法
Han et al. Noncontact blood pressure estimation using BP-related cardiovascular knowledge: An uncalibrated method based on consumer-level camera
Wang et al. Photoplethysmography-based heart action monitoring using a growing multilayer network
Yawle et al. ML-based Blood Pressure Estimation using Converted PPG Signal from Video
Sridhar et al. A unique framework for contactless estimation of body vital signs using facial recognition

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant