CN110706826A - 一种基于视频图像的非接触式的实时多人心率和血压测量方法 - Google Patents

一种基于视频图像的非接触式的实时多人心率和血压测量方法 Download PDF

Info

Publication number
CN110706826A
CN110706826A CN201911034466.2A CN201911034466A CN110706826A CN 110706826 A CN110706826 A CN 110706826A CN 201911034466 A CN201911034466 A CN 201911034466A CN 110706826 A CN110706826 A CN 110706826A
Authority
CN
China
Prior art keywords
blood pressure
heart rate
image
layer
pulse wave
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911034466.2A
Other languages
English (en)
Other versions
CN110706826B (zh
Inventor
郝秀春
何沛凌
李虹霞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangsu University
Original Assignee
Jiangsu University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangsu University filed Critical Jiangsu University
Priority to CN201911034466.2A priority Critical patent/CN110706826B/zh
Publication of CN110706826A publication Critical patent/CN110706826A/zh
Application granted granted Critical
Publication of CN110706826B publication Critical patent/CN110706826B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H80/00ICT specially adapted for facilitating communication between medical practitioners or patients, e.g. for collaborative diagnosis, therapy or health monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/02Preprocessing
    • G06F2218/04Denoising
    • G06F2218/06Denoising by applying a scale-space analysis, e.g. using wavelet analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Public Health (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Pathology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Databases & Information Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Abstract

本发明公开了一种基于视频图像的非接触式的实时多人心率和血压测量方法。属于血压测量领域,所述方法包括:通过非接触方式获取被检测者的人脸组织区域的视频图像,根据所述视频图像提取人脸图像;对所有所述人脸区域中满足预设条件的皮肤组织进行图像处理并生成图像数据;根据所述图像数据,计算出被检测人群的心率和血压值。本发明用非接触方式获取被检测者的面部区域的视频图像,并根据处理后的图像实现多人心率和血压的实时测量。本发明其测量方式简单,即时性强,提升了用户体验,能够满足多人心率和血压实时测量,节省时间,在家庭健康监测领域有较大应用价值。

Description

一种基于视频图像的非接触式的实时多人心率和血压测量 方法
技术领域
本发明属于医疗健康检测领域,涉及一种一种基于视频图像的非接触式的实时多人心率和血压测量方法。
背景技术
随着社会经济的快速发展,人们对健康状况越来越关注;尤其是随着人口老龄化的日益严重和患慢性非传染疾病人群的不断增加,关于慢性疾病的实时监测仪器成为医疗不可或缺的手段。目前,我国的高血压患者日益增多,现有的关于高血压的家用监测仪器中,主要为基于示波法的臂式或腕式动态血压监测设备,由于需要充放气,存在功耗高的问题,同时对被测试者的影响干扰大,尤其不适合睡眠过程中的动态连续血压监测,不能实现对动脉血压逐拍、连续监测等。
长期心率过快比心率慢的人存在更大的心血管疾病的潜在风险,同时,如果确诊高血压,减慢心率可以有效地降低血压,而且心率的快慢还可以预测高血压靶器官损害的发生风险,研究显示:高血压者心率大于84次/分钟,比心率小于65次/分钟者,冠心病的发生风险增加1倍,高血压者心率大于79次/分钟,比心率小于79次/分钟者,死亡的发生风险增加89%。同时,《中国高血压防治指南》对高血压患者的心率管理做出了要求,将干预的起始心率定在了80次/分钟,也就是当高血压患者的心率超过80/分钟时,即应采取治疗措施,尽快将心率降下来,同时还要结合自身情况达到相应的心率控制目标:高血压尚未发生冠心病等心脑血管病时,心率应控制在60-75次/分钟,高血压已发生冠心病等心脑血管病时:心率应控制在55-60次/分钟,因此,同时检测心率和血压在心血管疾病监测领域有很大意义。
中国专利号为CN1077157461的专利公开了一种基于光电容积脉搏波的无创连续血压测量方法。通过采集测量对象的容积脉搏波,获取二阶微分容积脉搏波,提取二阶微分容积脉搏波在一个心脏搏动周期中的两个特征点,进而获取脉搏波传导时间PWTT,最后获取脉压差DP、收缩压SBP;该发明测量精度高且测量简便,但其采集的是指尖的光电信号。
中国专利号为CN108272449的专利发明公开了一种非接触式的血压监测方法及系统。通过获取被监测者身体上两个采样位置的视频信号流,获取脉搏波的传输速度。再将脉搏波的传输速度转换为血压值,实现血压的动态监测。该系统和方法实现非接触式、无袖带、动态、连续、逐拍血压监测,提高用户的舒适体验度,对用户的日常活动不造成干扰,并能实时反馈用户的血压情况。该发明需要采集面部和指尖两处视频信号,对信号同步性要求高。
中国专利CN106778685A的专利公开了一种基于视频的多人快速心率检测方法,通过将视频数据的颜色空间转换到HSV,实现多人心率的检测,实现了多人的心率快速测量。通过检测与跟踪由摄像头输入的视频或是已有视频中的多个人脸区域并分割出脸颊区域,提取脸颊区域的时域数据序列并进行预处理,然后转换到频域进行心率的提取,并利用多线程方法加速,给出了一种实现多人的快速心率检测的方法,但并未实现血压的测量。
因此,提出一种非接触式的可以实现多人心率和血压测量的方法,实现健康状况实时监测,在家庭健康领域有很大的应用前途。而且面部视频图像采集容易,不需要测试者穿戴监测设备,提高了用户的舒适体验度,对用户的日常活动不造成干扰,并能实时反馈用户的血压情况。
发明内容
本发明提供一种非接触式的多人心率和血压测量的方法,实现健康状况实时监测,在家庭健康领域和远程医疗领域有很大的应用前途,
本发明的技术方案为:
一种基于视频图像的非接触式的实时多人心率和血压测量方法,包括以下步骤:
步骤1,采用摄像头前对多人进行视频图像采集;
步骤2,对视频图像进行运动检测,检测目标存在运动和静止两种状态,将所获取的图像从RGB颜色空间映射到YCbCr颜色空间,将运动二值图和肤色二值图做与运算处理得到前景二值图;
步骤3,结合SVM、Adaboost算法以及卷积神经网络对多个行人的人脸进行检测;
步骤4,从人体肤色图像中获得脉搏波信号后,使用demy小波变换对采集的信号进行滤波处理,然后检测心率信号的波峰来计算心率,并对脉搏波进行二次差分处理,得到加速脉搏波,确定加速脉搏波的两个特征点;并建立血压BP与脉搏波传导时间之间PWTT的模型;
步骤5,使用RBF神经网络来进一步完善对血压的预测,最后,输出预测结果,并根据人脸检测的结果将待测人群的心率和血压值以报表形式呈现。
进一步,步骤1中,选取分辨率为20fip·s-1的摄像机,实验中选择摄像头的分辨率为320×240,进行视频图像采集时,采集时间设置为60s。
进一步,步骤2对视频图像进行运动检测过程中包括:将像素信息灰度化,对应位置的像素值设定为1,否则为0,此步骤可以用运动二值图表示,其表达式为
式中,img(x,y,t)为当前帧图像,bg(x,y)为背景图像,th为阈值,如果在t时间的图片帧不存在运动情况,则直接进行肤色检测;
将所获取的图像从RGB颜色空间映射到YCbCr颜色空间,映射过程为:
Figure BDA0002251072450000032
其中Cr是红色分量R与亮度Y之间的差值;Cb是蓝色分量B与亮度Y的差值;且Cb和Cr之间是相对独立的,通过将图像映射到YCbCr颜色空间上建立肤色模型后,生成肤色二值图;如果该位置上的像素被判定为肤色像素,肤色二值图对应位置设定为1,若不是肤色像素,则设定为0,肤色二值图像cimg(x,y,t)的运算表达式可以表示为:
cimg(x,y,t)=CbCr(img(x,y,t))
将运动二值图和肤色二值图做与运算处理得到前景二值图fimg(x,y,t)为:
fimg(x,y,t)=cimg(x,y,t)&rimg(x,y,t)
并根据几何特征筛选出人脸区域,避免人体其他部位的干扰,特征一为像素比列,计算出类肤色像素在整张图像像素中的比重,若该比重在4/5以上或1/40以下区间,则排除该区域;特征二为椭圆区域,人脸近似为椭圆区域,在二值图中找到椭圆区域定位人脸。
进一步,步骤3的具体过程为:
步骤3.1,通过harr特征,改善人脸特征提取不充分的情况,给定学习训练样本:G={(x1,y1),(x2,y2),(x3,y3),…,(xm,ym)},
其中xi∈X,yi∈Y,i=1,2,3,…,m;m为训练集中样本的个数;X和Y表示某个域或者实例空间;
步骤3.2,初始化样本权重:
Figure BDA0002251072450000033
Q为给定的迭代次数;Dq(i)表示在第q次迭代中样本的权重;利用样本权重Dq(i)训练弱分类器;
步骤3.3,获取弱学习器的预测函数hq,并计算在各样本下的误差εi和平均误差εq
Figure BDA0002251072450000034
步骤3.4,选取
Figure BDA0002251072450000041
步骤3.5,更新样本权重
Figure BDA0002251072450000042
式中,Zq为归一化因子,保证权重比例不变的情况下使分布权重和为1。
步骤3.6,转到步骤3.2进行下一步迭代,直至迭代到第Q次为止。
步骤3.7,输出最终的强分类器,即预测函数:
Figure BDA0002251072450000043
步骤3.8,在Adaboost算法弱分类器选择时,采用SVM作为Adaboost的弱分类器,能够减少参数个数,降低训练次数。SVM选择RBF(径向基函数)做为核函数:
K(xi,yi)=exp(-γ‖xi-xj2)
式中,‖xi-xj2表示为xi和xj两个特征向量之间的平方欧几里得距离,xj为核函数中心,
Figure BDA0002251072450000044
表示为函数的宽度参数,控制函数的径向作用范围。
步骤3.9,使用卷积神经网络CNN分类器对上一步结果进行二次分类,将检测结果为人脸的部分做下一步处理,卷积核的计算公式表示为下式:
式中:Mj表示选择输入的特征图;
Figure BDA0002251072450000046
表示前一层的第i个特征图与第l层的第j个特征图所连接的卷积核;
Figure BDA0002251072450000047
表示第卷积核矩阵,‘*’表示卷积运算;
Figure BDA0002251072450000048
表示偏置;f()表示激活函数,可以选择leakyRelu函数,加快收敛速度,解决梯度消失问题,防止神经元坏死,激活函数公式如下:
Figure BDA0002251072450000049
xi表示为激活函数的输入,a表示为一个固定的数值斜率,在0.1-0.5之间,可以选择为0.15。
步骤3.10,分类器由一个输入层、两个卷积层、两个池化层、一个全连接层、一个输出层构成,首先对数据进行预处理,采用归一化的处理方法大小设置为(80,80);然后通过浅层卷积层进行人脸面部特征提取,设置卷积核大小为5*5,共16个;通过大小为2*2的池化层进行降维操作;深层卷积层进行特征映射,设置卷积核大小为3*3,获得特征图,共16个特征图;然后放入池化层,进行特征提取,通过全连接层进行分类处理,使用Softmax分类器进行分类,分成两类,一类为人脸,另一类为非人脸;输出层进行结果输出,将判断结果为人脸的部分输出做下一步处理。
进一步,步骤4中,检测心率信号的波峰来计算心率过程为:
通过设置检测阈值和间隔时间来提取峰值,检测出峰值后计算出两个峰值波之间间隔的平均值
式中,R(i)表示检测到波峰值数量,N表示检测区间长度,表示随后根据心率计算公式得出心率:
Figure BDA0002251072450000053
进一步,步骤4中,所述确定加速脉搏波的两个特征点为:特征点A为心脏收缩时动脉血液进行入毛细血管,使加速脉搏波上升至第一个峰值,特征点B为毛细血管内的血液进行入静脉,静脉管壁压力上升,加速脉搏波上升至第二个峰值;两个特征点之间的时间间隔即为脉搏波传导时间(PWTT);建立血压BP与脉搏波传导时间之间PWTT的模型为:
BP=a+b*PWTT
其中a、b为待定参数,反应不同血管生理状况下血压的变化,BP为计算的血压。
1.通过预设的非接触方式获取被检测者的人体面部组织区域的视频图像;
2.进行人脸检测,提取人脸ROI区域。首先使用结合运动分析和肤色模型的SVM-Adaboost方法进行人脸检测。运动分析采用背景差分法将目标和背景分离,在人脸运动的情况下提取出比较完整的目标图像,排除背景对检测的干扰。通过将当前图像帧与背景帧做差值运算获取运动目标,选用当前获取的图像帧来更新背景图像,并将图像二值化,减少环境光光线对背景的影响。人脸肤色和周围环境存在色彩差异,采用建立肤色模型的方法将获得人脸视频图像从RGB颜色空间映射到YCrCb颜色空间,忽略掉Y亮度的影响,使用Cb和Cr对目标进行特征检测,生成肤色二值图像。将运动图像与肤色二值图像进行与运算后得到前景二值图,并利用几何特征筛选出人脸。采用结合了SVM和Adaboost算法的方法对人脸精确检测,然后输出结果。采用CNN分类器(卷积神经网络)对进行二次判断,将检测到人脸区域二次判别,将分类为人脸的部分输出,做下一步处理。
3.从人体肤色图像中获得脉搏波信号并进行处理。使用demy小波变换算法对采集的信号进行滤波处理,得到去除噪声和基线漂移的脉搏波;对脉搏波进行二次差分处理得加速脉搏波,得到加速脉搏波的两个特征点;根据加速脉搏波的特征点得到脉搏波传导时间;
4.依据数学模型计算心率和血压值,显示心率和血压值。根据脉搏波传导时间与血压建立关系,同时使用训练好的RBF神经网络对血压做出更精准的预测。
5.将预测结果和视频图像中检测到的人脸相对应,显示结果。
与现有技术相比,本发明的优点为:本发明不但实现了多人的心率和血压测量,实时性高,而且本发明在家庭健康监测领域优势比较明显,能节省时间。
此外,本发明使用小波变换对信号进行处理,提高数据的稳定性和可靠性,使用RBF神经网络对数据进行拟合,使预测结果更加准确。本发明在人脸检测将运动检测与Adaboost和SVM算法结合,使人脸检测更加准确,使用CNN分类器进行二次判别,提高了同时实时多人心率和血压测量的准确率。
附图说明
图1是本发明一实施例所示的基于视频图像的实时多人心率和血压测量方法的流程图。
图2是本发明实施例所示的人脸检测流程图。
图3是本发明实施例的Haar特征矩阵示意图,(a)是边缘特征,(b)是线性特征,(c)是圆心环绕特征,(d)是对角线特征。
图4是本发明实施例的CNN神经网络结构示意图。
图5本发明一实施例的去除噪声和基线漂移后的脉搏波波形。(a)是原始脉搏波图形;(b)去除噪声后的脉搏波图形;(c)是基线;(d)是去除基线漂移后的脉搏波是本发明实施例的获取心率示意图。
图6是本发明实施例的峰值点示意图。
图7是本发明实施例的加速脉搏波特征点示意图。
具体实施方式
以下结合实例和附图说明本发明
图1-2所示为是本发明一实施例所示的基于视频图像的实时多人心率和血压测量方法以及本发明实施例所示的人脸检测流程图。
在实验室使用笔记本自带摄像头采集视频图像;据奈奎斯特采样定律,采样频率需要大于信号带宽的2倍,由于正常心氧信号的频率在0.7~4Hz,故在实验中选取分辨率为20fip·s-1的摄像机,从而能满足要求、提高摄像头为分辨率会降低其采样频率,而低分辨率会造成信号为某些峰值点信息的丢失。为此兼顾采样频率和分辨率,实验中选择摄像头的分辨率为320×240。
待测人群静坐在笔记本摄像头前进行视频图像采集,采集时间设置为60s。
获上述得视频图像后,对视频图像进行运动检测,检测目标存在运动和静止两种状态。将像素信息灰度化,对应位置的像素值设定为1,否则为0。此步骤可以用运动二值图表示,其表达式为
Figure BDA0002251072450000071
式中,img(x,y,t)为当前帧图像,bg(x,y)为背景图像,th为阈值。
如果在t时间的图片帧不存在运动情况,则直接进行肤色检测。
获得上述视频后,将所获取的图像从RGB颜色空间映射到YCbCr颜色空间,映射过程为:
其中Cr是红色分量R与亮度之Y之间的差值;Cb是蓝色分量B与亮度Y的差值;且Cb和Cr之间是相对独立的。通过将图像映射到YCbCr颜色空间上建立肤色模型后,生成肤色二值图。如果该位置上的像素被判定为肤色像素,肤色二值图对应位置设定为1,若不是肤色像素,则设定为0。肤色二值图像cimg(x,y,t)的运算表达式可以表示为cimg(x,y,t)=CbCr(img(x,y,t))
将运动二值图和肤色二值图做与运算处理得到前景二值图fimg(x,y,t)。
fimg(x,y,t)=cimg(x,y,t)&rimg(x,y,t)
并根据几何特征筛选出人脸区域,避免人体其他部位的干扰。特征一为像素比列,计算出类肤色像素在整张图像像素中的比重,若该比重在4/5以上或1/40以下区间,则排除该区域;特征二为椭圆区域,人脸近似为椭圆区域,在二值图中找到椭圆区域定位人脸。
结合SVM、Adaboost算法以及卷积神经网络对人脸进行检测。通过harr特征,改善人脸特征提取不充分的情况(图3是本发明实施例的Haar特征矩阵示意图,(a)是边缘特征,(b)是线性特征,(c)是圆心环绕特征,(d)是对角线特征);采用SVM作为Adaboost的弱分类器,SVM模型以RBF(径向基函数)为核函数,其性能受惩罚参数C和和核参数g的影响,相比其他分类器参数更少,能提高检测准确率和稳定性。
Adaboost算法如下:
(1)给定学习训练样本G={(x1,y1),(x2,y2),(x3,y3),…,(xm,ym)}。其中xi∈X,yi∈Y,i=1,2,3,…,m;m为训练集中样本的个数;X和Y表示某个域或者实例空间。
(2)初始化样本权重:Q为给定的迭代次数;Dq(i)表示在第q次迭代中样本的权重。
(3)利用样本权重Dq(i)训练弱分类器。
(4)获取弱学习器的预测函数hq,并计算在各样本下的误差εi和平均误差εq
Figure BDA0002251072450000081
(5)选取
Figure BDA0002251072450000082
(6)更新样本权重
Figure BDA0002251072450000083
式中,Zq为归一化因子,保证权重比例不变的情况下使分布权重和为1。
(7)转到步骤三进行下一步迭代,直至迭代到第Q次为止。
(8)输出最终的强分类器,即预测函数。
Figure BDA0002251072450000084
在Adaboost算法弱分类器选择时,采用SVM作为Adaboost的弱分类器,能够减少参数个数,降低训练次数。SVM选择RBF(径向基函数)做为核函数。
K(xi,yi)=exp(-γ‖xi-xj2)
式中,‖xi-xj2表示为xi和xj两个特征向量之间的平方欧几里得距离,xj为核函数中心,
Figure BDA0002251072450000085
表示为函数的宽度参数,控制函数的径向作用范围。
图4是本发明实施例的CNN神经网络结构示意图。使用CNN(卷积神经网络)分类器对上一步结果进行二次分类,将检测结果为人脸的部分做下一步处理。卷积核的计算公式表示为下式。
Figure BDA0002251072450000086
式中:Mj表示选择输入的特征图;
Figure BDA0002251072450000087
表示前一层的第i个特征图与第l层的第j个特征图所连接的卷积核;表示第卷积核矩阵,‘*’表示卷积运算;
Figure BDA0002251072450000089
表示偏置;f()表示激活函数,可以选择leakyRelu函数,加快收敛速度,解决梯度消失问题,防止神经元坏死,激活函数公式如下:
Figure BDA00022510724500000810
xi表示为激活函数的输入,a表示为一个固定的数值斜率,在0.1-0.5之间,可以选择为0.15。
CNN分类器由一个输入层、两个卷积层、两个池化层、一个全连接层、一个输出层构成。卷积层增加输入图片的深度,用于学习输入数据的特征表示,将初始数据映射到隐藏特征空间,浅层卷积提取边缘和纹理特征,深层卷积提取抽象特征,预处理数据经过卷积计算,加上偏置,得到相应的局部特征;将卷积输出结果进行非线性激活函数处理;对激活函数的结果进行池化操作,保留显著特征,降低特征图维度,提升模型的畸变容忍能力;全连接层进行分类处理;输出层输出结果。
首先对数据进行预处理,采用归一化的处理方法大小设置为(80,80);
然后通过浅层卷积层进行人脸面部特征提取,设置卷积核大小为5*5,共16个;
通过大小为2*2的池化层进行降维操作;
深层卷积层进行特征映射,设置卷积核大小为3*3,获得特征图,共16个特征图;然后放入池化层,进行特征提取,
通过全连接层进行分类处理,使用Softmax分类器进行分类,分成两类,一类为人脸,另一类为非人脸;
输出层进行结果输出,将判断结果为人脸的部分输出做下一步处理。
从人体肤色图像中获得脉搏波信号后,使用demy小波变换算法对采集的信号进行滤波处理,得到去除噪声和基线漂移的脉搏波。图5为本发明一实施例的去除噪声和基线漂移后的脉搏波波形。(a)是原始脉搏波图形;(b)去除噪声后的脉搏波图形;(c)是基线;(d)是去除基线漂移后的脉搏波是本发明实施例的获取心率示意图。
图6是本发明实施例的峰值点示意图。
图7是本发明实施例的加速脉搏波特征点示意图。
检测心率信号的波峰来计算心率。通过设置检测阈值和间隔时间来提取峰值,
在检测时,将检测时间设置为10s(可以改变),检测时,考虑到人体心率一般不会超过200次/min,设置间隔时间大于300ms,峰值一般不低于最大峰值的的40%,判断公式可表示为:
Figure BDA0002251072450000091
式中,x表示采样的时间坐标,y表示峰值幅值,0.4ymax为区间中峰值的最大值,f表示为采样频率。
检测出峰值后计算出两个峰值波之间间隔的平均值
Figure BDA0002251072450000092
Figure BDA0002251072450000101
式中,R(i)表示检测到波峰值数量,N表示检测区间长度,表示随后根据心率计算公式得出心率:
Figure BDA0002251072450000102
对脉搏波进行二次差分处理,得到加速脉搏波,计算公式如下所示:
P=Δ(Δf(xk))
式中,xk为原始脉搏波信号,Δf(xk)代表一阶向后差分,P代表脉搏波数据点。
确定加速脉搏波的两个特征点;特征点A为心脏收缩时动脉血液进行入毛细血管,使加速脉搏波上升至第一个峰值,特征点B为毛细血管内的血液进行入静脉,静脉管壁压力上升,加速脉搏波上升至第二个峰值;两个特征点之间的时间间隔即为脉搏波传导时间(PWTT)。
血压与脉搏波传导时间存在线性关系,建立血压BP与脉搏波传导时间之间PWTT的模型
BP=a+b*PWTT
其中a、b为待定参数,反应不同血管生理状况下血压的变化,BP为计算的血压,根据建立的血压模型,利用已知的数据进行标定,采用线性回归的方法得出待定系数。
进一步,使用收敛较快的RBF神经网络来进一步完善对血压的预测,RBF神经网络有三层结构:输入层、隐层和输出层。输入层进行信号输入;隐层把向量从低维映射到高纬度,线性不可分的情况变得线性可分;从隐层空间到输出空间变换是线性的,输出层是隐层单元的线性加权和,权为网络可调参数。通常采用高斯函数为基函数,表达式如下:
Figure BDA0002251072450000103
式中,i为第i个隐含神经元,xi=1,2,…n;xi表示输入向量;ci表示第i个隐层单元的函数中心,δi表示隐层节点宽度。
网络的输出方程为:
y=wR(x)
式中,w为权值。
利用已知的大量的数据对神经网路进行训练,对输入数据进行进一步调整,使得血压的预测结果更加精准;使用PSO(粒子群算法)优化算法得到最优的网络权值阈值,能够进一步提升预测准确率,增强预测效果。
最后,输出预测结果,并根据人脸检测的结果将待测人群的心率和血压值以报表形式呈现。
综上,本发明的一种基于视频图像的非接触式的实时多人心率和血压测量方法。所述方法包括:通过非接触方式获取被检测者的人脸组织区域的视频图像,根据所述视频图像提取人脸图像;对所有所述人脸区域中满足预设条件的皮肤组织进行图像处理并生成图像数据;根据所述图像数据,计算出被检测人群的心率和血压值。本发明用非接触方式获取被检测者的面部区域的视频图像,并根据处理后的图像实现多人心率和血压的实时测量。本发明其测量方式简单,即时性强,提升了用户体验,能够满足多人心率和血压实时测量,节省时间,在家庭健康监测领域有较大应用价值。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示意性实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管已经示出和描述了本发明的实施例,本领域的普通技术人员可以理解:在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由权利要求及其等同物限定。

Claims (6)

1.一种基于视频图像的非接触式的实时多人心率和血压测量方法,其特征在于,包括以下步骤:
步骤1,采用摄像头前对多人进行视频图像采集;
步骤2,对视频图像进行运动检测,检测目标存在运动和静止两种状态,将所获取的图像从RGB颜色空间映射到YCbCr颜色空间,将运动二值图和肤色二值图做与运算处理得到前景二值图;
步骤3,结合SVM、Adaboost算法以及卷积神经网络对多个行人的人脸进行检测;
步骤4,从人体肤色图像中获得脉搏波信号后,使用demy小波变换对采集的信号进行滤波处理,然后检测心率信号的波峰来计算心率,并对脉搏波进行二次差分处理,得到加速脉搏波,确定加速脉搏波的两个特征点;并建立血压BP与脉搏波传导时间之间PWTT的模型;
步骤5,使用RBF神经网络来进一步完善对血压的预测,最后,输出预测结果,并根据人脸检测的结果将待测人群的心率和血压值以报表形式呈现。
2.根据权利要求1所述的一种基于视频图像的非接触式的实时多人心率和血压测量方法,其特征在于,步骤1中,选取分辨率为20fip·s-1的摄像机,实验中选择摄像头的分辨率为320×240,进行视频图像采集时,采集时间设置为60s。
3.根据权利要求1所述的一种基于视频图像的非接触式的实时多人心率和血压测量方法,其特征在于,步骤2对视频图像进行运动检测过程中包括:将像素信息灰度化,对应位置的像素值设定为1,否则为0,此步骤可以用运动二值图表示,其表达式为
Figure FDA0002251072440000011
式中,img(x,y,t)为当前帧图像,bg(x,y)为背景图像,th为阈值,如果在t时间的图片帧不存在运动情况,则直接进行肤色检测;
将所获取的图像从RGB颜色空间映射到YCbCr颜色空间,映射过程为:
Figure FDA0002251072440000012
其中Cr是红色分量R与亮度Y之间的差值;Cb是蓝色分量B与亮度Y的差值;且Cb和Cr之间是相对独立的,通过将图像映射到YCbCr颜色空间上建立肤色模型后,生成肤色二值图;如果该位置上的像素被判定为肤色像素,肤色二值图对应位置设定为1,若不是肤色像素,则设定为0,肤色二值图像cimg(x,y,t)的运算表达式可以表示为:
cimg(x,y,t)=CbCr(img(x,y,t))
将运动二值图和肤色二值图做与运算处理得到前景二值图fimg(x,y,t)为:
fimg(x,y,t)=cimg(x,y,t)&rimg(x,y,t)
并根据几何特征筛选出人脸区域,避免人体其他部位的干扰,特征一为像素比列,计算出类肤色像素在整张图像像素中的比重,若该比重在4/5以上或1/40以下区间,则排除该区域;特征二为椭圆区域,人脸近似为椭圆区域,在二值图中找到椭圆区域定位人脸。
4.根据权利要求1所述的一种基于视频图像的非接触式的实时多人心率和血压测量方法,其特征在于,步骤3的具体过程为:
步骤3.1,通过harr特征,改善人脸特征提取不充分的情况,给定学习训练样本:G={(x1,y1),(x2,y2),(x3,y3),…,(xm,ym)},
其中xi∈X,yi∈Y,i=1,2,3,…,m;m为训练集中样本的个数;X和Y表示某个域或者实例空间;
步骤3.2,初始化样本权重:
Figure FDA0002251072440000021
i=1,2,…,m;q==1,2,…,Q;Q为给定的迭代次数;Dq(i)表示在第q次迭代中样本的权重;利用样本权重Dq(i)训练弱分类器;
步骤3.3,获取弱学习器的预测函数hq,并计算在各样本下的误差εi和平均误差εq
Figure FDA0002251072440000022
步骤3.4,选取
Figure FDA0002251072440000023
步骤3.5,更新样本权重
Figure FDA0002251072440000024
式中,Zq为归一化因子,保证权重比例不变的情况下使分布权重和为1。
步骤3.6,转到步骤3.2进行下一步迭代,直至迭代到第Q次为止。
步骤3.7,输出最终的强分类器,即预测函数:
步骤3.8,在Adaboost算法弱分类器选择时,采用SVM作为Adaboost的弱分类器,能够减少参数个数,降低训练次数。SVM选择RBF(径向基函数)做为核函数:
K(xi,yi)=exp(-γ‖xi-xj2)
式中,‖xi-xj2表示为xi和xj两个特征向量之间的平方欧几里得距离,xj为核函数中心,
Figure FDA0002251072440000031
表示为函数的宽度参数,控制函数的径向作用范围。
步骤3.9,使用卷积神经网络CNN分类器对上一步结果进行二次分类,将检测结果为人脸的部分做下一步处理,卷积核的计算公式表示为下式:
Figure FDA0002251072440000032
式中:Mj表示选择输入的特征图;表示前一层的第i个特征图与第l层的第j个特征图所连接的卷积核;表示第卷积核矩阵,‘*’表示卷积运算;
Figure FDA0002251072440000035
表示偏置;f()表示激活函数,可以选择leakyRelu函数,加快收敛速度,解决梯度消失问题,防止神经元坏死,激活函数公式如下:
Figure FDA0002251072440000036
xi表示为激活函数的输入,a表示为一个固定的数值斜率,在0.1-0.5之间,可以选择为0.15。
步骤3.10,分类器由一个输入层、两个卷积层、两个池化层、一个全连接层、一个输出层构成,首先对数据进行预处理,采用归一化的处理方法大小设置为(80,80);然后通过浅层卷积层进行人脸面部特征提取,设置卷积核大小为5*5,共16个;通过大小为2*2的池化层进行降维操作;深层卷积层进行特征映射,设置卷积核大小为3*3,获得特征图,共16个特征图;然后放入池化层,进行特征提取,通过全连接层进行分类处理,使用Softmax分类器进行分类,分成两类,一类为人脸,另一类为非人脸;输出层进行结果输出,将判断结果为人脸的部分输出做下一步处理。
5.根据权利要求1所述的一种基于视频图像的非接触式的实时多人心率和血压测量方法,其特征在于,步骤4中,检测心率信号的波峰来计算心率过程为:
通过设置检测阈值和间隔时间来提取峰值,检测出峰值后计算出两个峰值波之间间隔的平均值
Figure FDA0002251072440000037
Figure FDA0002251072440000038
式中,R(i)表示检测到波峰值数量,N表示检测区间长度,表示随后根据心率计算公式得出心率:
Figure FDA0002251072440000039
6.根据权利要求1所述的一种基于视频图像的非接触式的实时多人心率和血压测量方法,其特征在于,步骤4中,所述确定加速脉搏波的两个特征点为:特征点A为心脏收缩时动脉血液进行入毛细血管,使加速脉搏波上升至第一个峰值,特征点B为毛细血管内的血液进行入静脉,静脉管壁压力上升,加速脉搏波上升至第二个峰值;两个特征点之间的时间间隔即为脉搏波传导时间(PWTT);建立血压BP与脉搏波传导时间之间PWTT的模型为:
BP=a+b*PWTT
其中a、b为待定参数,反应不同血管生理状况下血压的变化,BP为计算的血压。
CN201911034466.2A 2019-10-29 2019-10-29 一种基于视频图像的非接触式的实时多人心率和血压测量方法 Active CN110706826B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911034466.2A CN110706826B (zh) 2019-10-29 2019-10-29 一种基于视频图像的非接触式的实时多人心率和血压测量方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911034466.2A CN110706826B (zh) 2019-10-29 2019-10-29 一种基于视频图像的非接触式的实时多人心率和血压测量方法

Publications (2)

Publication Number Publication Date
CN110706826A true CN110706826A (zh) 2020-01-17
CN110706826B CN110706826B (zh) 2023-05-09

Family

ID=69202566

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911034466.2A Active CN110706826B (zh) 2019-10-29 2019-10-29 一种基于视频图像的非接触式的实时多人心率和血压测量方法

Country Status (1)

Country Link
CN (1) CN110706826B (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111275018A (zh) * 2020-03-06 2020-06-12 华东师范大学 一种基于环形感兴趣区域加权的非接触式心率信号提取方法
CN111554398A (zh) * 2020-05-11 2020-08-18 济南浪潮高新科技投资发展有限公司 一种基于5g的远程评估生命体征方法及系统
CN111611888A (zh) * 2020-05-12 2020-09-01 西安爱特眼动信息科技有限公司 非接触血压估计方法及装置
CN111696687A (zh) * 2020-07-24 2020-09-22 上海理工大学 一种采用手机摄像头实现微循环及脉搏同步监测的方法
CN111797735A (zh) * 2020-06-22 2020-10-20 深圳壹账通智能科技有限公司 人脸视频识别方法、装置、设备及存储介质
CN112001346A (zh) * 2020-08-31 2020-11-27 江苏正德厚物联网科技发展有限公司 一种基于多算法融合协同的生命体征检测方法及监测系统
CN114271800A (zh) * 2021-12-01 2022-04-05 西北工业大学 一种办公环境下的非侵扰式连续血压监测方法及应用
CN114903308A (zh) * 2022-05-20 2022-08-16 哈尔滨理工大学 一种基于人工智能的椅子
CN117694845A (zh) * 2024-02-06 2024-03-15 北京科技大学 基于融合特征增强的非接触式生理信号检测方法及装置
CN114271800B (zh) * 2021-12-01 2024-06-28 西北工业大学 一种办公环境下的非侵扰式连续血压监测方法及应用

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104699931A (zh) * 2013-12-09 2015-06-10 广州华久信息科技有限公司 一种基于人脸的神经网络血压预测方法及手机
CN106343986A (zh) * 2016-09-20 2017-01-25 浙江大学 一种基于摄像头的动态血压非接触监测装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104699931A (zh) * 2013-12-09 2015-06-10 广州华久信息科技有限公司 一种基于人脸的神经网络血压预测方法及手机
CN106343986A (zh) * 2016-09-20 2017-01-25 浙江大学 一种基于摄像头的动态血压非接触监测装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
李丽等: "企业集团信用风险评估SVM集成分类器的构建与应用", 《技术经济》 *
汪赟等: "基于LabVIEW的人脸视频实时心率测量系统", 《电子科技》 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111275018B (zh) * 2020-03-06 2022-10-25 华东师范大学 一种基于环形感兴趣区域加权的非接触式心率信号提取方法
CN111275018A (zh) * 2020-03-06 2020-06-12 华东师范大学 一种基于环形感兴趣区域加权的非接触式心率信号提取方法
CN111554398A (zh) * 2020-05-11 2020-08-18 济南浪潮高新科技投资发展有限公司 一种基于5g的远程评估生命体征方法及系统
CN111611888A (zh) * 2020-05-12 2020-09-01 西安爱特眼动信息科技有限公司 非接触血压估计方法及装置
CN111611888B (zh) * 2020-05-12 2023-05-12 西安奇点融合信息科技有限公司 非接触血压估计装置
CN111797735A (zh) * 2020-06-22 2020-10-20 深圳壹账通智能科技有限公司 人脸视频识别方法、装置、设备及存储介质
CN111696687A (zh) * 2020-07-24 2020-09-22 上海理工大学 一种采用手机摄像头实现微循环及脉搏同步监测的方法
CN111696687B (zh) * 2020-07-24 2022-03-25 上海理工大学 一种采用手机摄像头实现微循环及脉搏同步监测的方法
CN112001346A (zh) * 2020-08-31 2020-11-27 江苏正德厚物联网科技发展有限公司 一种基于多算法融合协同的生命体征检测方法及监测系统
CN112001346B (zh) * 2020-08-31 2023-12-29 江苏正德厚物联网科技发展有限公司 一种基于多算法融合协同的生命体征检测方法及监测系统
CN114271800A (zh) * 2021-12-01 2022-04-05 西北工业大学 一种办公环境下的非侵扰式连续血压监测方法及应用
CN114271800B (zh) * 2021-12-01 2024-06-28 西北工业大学 一种办公环境下的非侵扰式连续血压监测方法及应用
CN114903308A (zh) * 2022-05-20 2022-08-16 哈尔滨理工大学 一种基于人工智能的椅子
CN117694845A (zh) * 2024-02-06 2024-03-15 北京科技大学 基于融合特征增强的非接触式生理信号检测方法及装置
CN117694845B (zh) * 2024-02-06 2024-04-26 北京科技大学 基于融合特征增强的非接触式生理信号检测方法及装置

Also Published As

Publication number Publication date
CN110706826B (zh) 2023-05-09

Similar Documents

Publication Publication Date Title
CN110706826B (zh) 一种基于视频图像的非接触式的实时多人心率和血压测量方法
Lekadir et al. A convolutional neural network for automatic characterization of plaque composition in carotid ultrasound
Bobbia et al. Unsupervised skin tissue segmentation for remote photoplethysmography
CN110269600B (zh) 基于多元经验模态分解与联合盲源分离的非接触式视频心率检测方法
Liu et al. Automatic whole heart segmentation using a two-stage u-net framework and an adaptive threshold window
CN111938622B (zh) 心率检测方法、装置及系统、可读存储介质
CN111667467A (zh) 基于聚类算法的下肢血管钙化指数多参数累积计算方法
Liu et al. Cardiac magnetic resonance image segmentation based on convolutional neural network
Kumari et al. Blood vessel extraction using wiener filter and morphological operation
Alasadi et al. Early detection and classification of melanoma skin cancer
Kia et al. Computer-aided diagnosis (CAD) of the skin disease based on an intelligent classification of sonogram using neural network
Alasadi et al. Diagnosis of malignant melanoma of skin cancer types
CN117197594B (zh) 一种基于深度神经网络的心脏分流分类系统
Chen et al. Camera-based heart rate estimation for hospitalized newborns in the presence of motion artifacts
CN114332910A (zh) 一种面向远红外图像的相似特征计算的人体部位分割方法
Dirgenali et al. Recognition of early phase of atherosclerosis using principles component analysis and artificial neural networks from carotid artery Doppler signals
Wisaeng et al. Automatic detection of exudates in retinal images based on threshold moving average models
He et al. Remote photoplethysmography heart rate variability detection using signal to noise ratio bandpass filtering
Hu et al. Study on Real-Time Heart Rate Detection Based on Multi-People.
Hennersperger et al. Vascular 3D+ T freehand ultrasound using correlation of doppler and pulse-oximetry data
Wang et al. Tongue diagnosis based on biometric pattern recognition technology
Su et al. Sleep comfort analysis using a part-based mixture model with nighttime infrared video
Wang et al. Non-contact measurement of heart rate based on facial video
Iyatomi et al. Parameterization of dermoscopic findings for the internet-based melanoma screening system
Suriani et al. Non-contact facial based vital sign estimation using convolutional neural network approach

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant