CN112232256A - 一种无接触式运动及体测数据采集系统 - Google Patents
一种无接触式运动及体测数据采集系统 Download PDFInfo
- Publication number
- CN112232256A CN112232256A CN202011157411.3A CN202011157411A CN112232256A CN 112232256 A CN112232256 A CN 112232256A CN 202011157411 A CN202011157411 A CN 202011157411A CN 112232256 A CN112232256 A CN 112232256A
- Authority
- CN
- China
- Prior art keywords
- data
- signal
- heart rate
- person
- tested
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000033001 locomotion Effects 0.000 title claims abstract description 32
- 238000005259 measurement Methods 0.000 title claims abstract description 12
- 238000000034 method Methods 0.000 claims abstract description 72
- 210000004072 lung Anatomy 0.000 claims abstract description 38
- 230000029058 respiratory gaseous exchange Effects 0.000 claims abstract description 23
- 238000001228 spectrum Methods 0.000 claims abstract description 19
- 230000036387 respiratory rate Effects 0.000 claims abstract description 15
- 238000012417 linear regression Methods 0.000 claims abstract description 11
- 230000010354 integration Effects 0.000 claims abstract description 6
- 230000002776 aggregation Effects 0.000 claims abstract description 5
- 238000004220 aggregation Methods 0.000 claims abstract description 5
- 238000012216 screening Methods 0.000 claims description 35
- 238000012545 processing Methods 0.000 claims description 23
- 239000013598 vector Substances 0.000 claims description 15
- 238000009826 distribution Methods 0.000 claims description 14
- 230000004044 response Effects 0.000 claims description 13
- 230000001815 facial effect Effects 0.000 claims description 11
- 230000000737 periodic effect Effects 0.000 claims description 11
- 238000012546 transfer Methods 0.000 claims description 9
- 238000000354 decomposition reaction Methods 0.000 claims description 7
- 238000007476 Maximum Likelihood Methods 0.000 claims description 5
- 238000000053 physical method Methods 0.000 claims description 5
- 230000003595 spectral effect Effects 0.000 claims description 5
- 238000001914 filtration Methods 0.000 claims description 4
- 239000000126 substance Substances 0.000 claims description 4
- 210000002345 respiratory system Anatomy 0.000 claims description 3
- 239000013589 supplement Substances 0.000 claims description 3
- 230000008569 process Effects 0.000 abstract description 16
- 238000000691 measurement method Methods 0.000 abstract 1
- 108091006146 Channels Proteins 0.000 description 31
- 238000004364 calculation method Methods 0.000 description 19
- 230000006870 function Effects 0.000 description 18
- 238000004458 analytical method Methods 0.000 description 14
- 230000003993 interaction Effects 0.000 description 8
- 230000000694 effects Effects 0.000 description 7
- 238000009532 heart rate measurement Methods 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 230000000241 respiratory effect Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 239000000047 product Substances 0.000 description 4
- 238000005265 energy consumption Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 238000009531 respiratory rate measurement Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000009827 uniform distribution Methods 0.000 description 2
- 210000001260 vocal cord Anatomy 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 208000006545 Chronic Obstructive Pulmonary Disease Diseases 0.000 description 1
- 102000001554 Hemoglobins Human genes 0.000 description 1
- 108010054147 Hemoglobins Proteins 0.000 description 1
- 241000282412 Homo Species 0.000 description 1
- 206010057190 Respiratory tract infections Diseases 0.000 description 1
- 206010042434 Sudden death Diseases 0.000 description 1
- 238000002835 absorbance Methods 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 208000006673 asthma Diseases 0.000 description 1
- 230000002567 autonomic effect Effects 0.000 description 1
- 238000005284 basis set Methods 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 238000001311 chemical methods and process Methods 0.000 description 1
- 230000008133 cognitive development Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000034994 death Effects 0.000 description 1
- 231100000517 death Toxicity 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 208000019622 heart disease Diseases 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 210000000867 larynx Anatomy 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 210000000214 mouth Anatomy 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 230000003387 muscular Effects 0.000 description 1
- 210000003928 nasal cavity Anatomy 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 238000001615 p wave Methods 0.000 description 1
- 230000001766 physiological effect Effects 0.000 description 1
- 230000035790 physiological processes and functions Effects 0.000 description 1
- 238000006116 polymerization reaction Methods 0.000 description 1
- 230000008433 psychological processes and functions Effects 0.000 description 1
- 230000002685 pulmonary effect Effects 0.000 description 1
- 238000000718 qrs complex Methods 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 208000023504 respiratory system disease Diseases 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000010845 search algorithm Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 201000002859 sleep apnea Diseases 0.000 description 1
- 238000000551 statistical hypothesis test Methods 0.000 description 1
- 238000000528 statistical test Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000002459 sustained effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000010998 test method Methods 0.000 description 1
- 201000008827 tuberculosis Diseases 0.000 description 1
- 238000001429 visible spectrum Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/0205—Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4803—Speech analysis specially adapted for diagnostic purposes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7253—Details of waveform analysis characterised by using transforms
- A61B5/7257—Details of waveform analysis characterised by using transforms using Fourier transforms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30061—Lung
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/15—Biometric patterns based on physiological signals, e.g. heartbeat, blood flow
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Physiology (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- Surgery (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Psychiatry (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Artificial Intelligence (AREA)
- Multimedia (AREA)
- Cardiology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Pulmonology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Quality & Reliability (AREA)
- Radiology & Medical Imaging (AREA)
- Mathematical Physics (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本发明提出了一种无接触式运动及体测数据采集系统,旨在解决现有技术中无接触式的心率、呼吸率测量方法准确度不高、使用场景有限的技术问题。系统包括:人脸智能步道装置和心率柱装置,所述心率柱装置通过分析语音数据中的频谱谱峰计算待测试者心率数据,通过多元线性回归方法处理面部图像数据计算待测试者心率数据,通过选择性集成聚合方法处理肺部图像数据计算待测试者呼吸率数据。本发明能够高效、稳定的通过无接触的方式采集人员的运动数据和体侧数据,准确率高,具有良好的应用前景。
Description
技术领域
本发明涉及一种无接触式运动及体测数据采集系统,属于无接触式的心率测量、呼吸率测量技术领域。
背景技术
随着计算机技术普及,大多数人们的生活和工作习惯发生了改变,亚健康人群越来越多,相应的心脏病患者也越来越多,在不适当的运动中猝死的人数也有所增加,心脏的异常会直接影响到人体的各个部位,为了保护人身安全,研究人员需要开发出更高效可靠的运动数据监测方法。
在运动数据中,最关键的两个数据是心率和呼吸率。从医学的角度来看,心率的测量方法多种多样,从调查自主状态的中枢调节,到研究心理过程和生理功能之间的基本联系,再到评估认知发展和临床风险等等。传统上,心电图(ECG)是评估人体心脏状况的一种常见的、重要的非侵入性诊断工具,通过检测动脉搏动来测量心率,每个搏动由一系列波组成:P波、QRS波群、T波,偶尔还有U波。此外,人们还提出了许多利用支持向量机、自组织映射等方法对心电信号进行分析的算法,心电特征提取方法大多是以心电信号为基础的,均是记录人体皮肤表面生物电位信号变化的非侵入性接触方法,不过这类非接触心率测量方法的准确度都不算太高。
除了上述技术以外,经研究还发现,人体心率与声带参数的变化是动态相关的,心脏活动与人类语音的声学特性直接相关,因此,可以通过语音的分析检测来获取人体心率变化。此外,血管中的血容量随着心脏每一次心跳的增加和减少,使人们能够测量由于可见光光谱中不同的血红蛋白吸收率差异而引起的反射强度的周期性变化,从而评估连续的心率变化。但是目前针对这两种特性的心率测量方法还比较少,而且使用效果并不理想。
呼吸运动是一种基本的生理活动,它与生物体内的一些肌肉,神经和化学过程有关。由于诸如慢性阻塞性肺疾病,哮喘,肺结核,睡眠呼吸暂停和呼吸道感染等呼吸系统疾病致死人数约占全世界人类死亡的18%,因此评估多种呼吸系统参数对于诊断和监测至关重要。一些重要的呼吸参数(如呼吸频率(RR),呼吸模式(RP))通常只会在临床和主要医疗机构中进行测量,且其测量需要用到专用工具,目前还没有比较便捷的无接触式呼吸率测量方法或装置。
发明内容
针对现有技术中无接触式的心率、呼吸率测量方法准确度都不太高、使用场景有限的问题,本发明一种无接触式运动及体测数据采集系统,将心率、呼吸率计算方法整合到步道技术中,让在步道上运动的人能实时监测自己的心率、呼吸率情况,提高运动安全性,本发明采用无接触采集技术,使用更方便,相比于现有技术,准确度也更高。
为解决上述技术问题,本发明采用了如下技术手段:
本发明提供了一种无接触式运动及体测数据采集系统,包括:
人脸智能步道装置,用于采集并分析人脸数据,一方面根据预设光强,控制步道摄像补光灯,另一方面根据本地人脸库识别出人员身份,并将人员身份信息上传至服务端;
心率柱装置,用于采集待测试者的语音、图像或视频数据,计算待测试者的心率数据和呼吸率数据,进行SOS转拨,与SOS服务关联配置。
进一步的,所述心率柱装置通过分析语音数据中的频谱谱峰计算待测试者心率数据,通过多元线性回归方法处理面部图像数据计算待测试者心率数据,通过选择性集成聚合方法处理肺部图像数据计算待测试者呼吸率数据。
进一步的,所述通过分析语音数据中的频谱谱峰计算待测试者心率数据的方法包括以下步骤:
S1、对采集到的语音信号进行短时傅里叶变换,得到短时傅立叶变换谱图;
S2、从原始语音信号的顶部到底部对短时傅立叶变换谱图进行水平扫描,获得一维信号;
S3、对一维信号进行滤波和离散傅立叶变换处理,获得心率数据。
进一步的,所述步骤S1中的短时傅里叶变换的具体公式如下:
其中,表示短时傅里叶变换频谱,x(m)表示人类语音信号,w(n)表示有限大小的FIR滤波器,x(m)w(n-m)表示加窗信号,m是语音信号时间维度,m=1…M,M为语音信号总时长,n是滤波器宽度大小,n=1…N,N为滤波器最大宽度。
进一步的,步骤S3的具体操作如下:
S31、通过5阶FIR低通滤波器处理一维信号,获得滤波后的一维信号x(a),a=0…A,A为滤波后的一维信号x(a)的长度;
S32、对滤波后的每个一维信号进行离散傅里叶变换,具体公式如下:
其中,X(k)为经离散傅里叶变换后的向量,k=0…A/2,A为滤波后的一维信号x(a)的长度;
S33、利用短时傅里叶变换频谱的阶数统计滤波器从多个向量中提取心率数据,阶数统计滤波器的具体公式如下:
R=k→max{Xk|k=1,2,…,A/2} (3)
其中,R表示心率数据,→为求取索引运算符。
进一步的,所述通过多元线性回归方法处理面部图像数据计算待测试者心率数据的方法包括以下步骤:
S1、通过RGB摄像头拍摄人体面部图像,生成图像信号;
S2、基于集成经验模态分解方法处理图像信号,获得IMF分量;
S3、利用泊松分布的最大似然估计计算每个IMF分量的期望值;
S4、根据多元回归模型和期望值计算心率估计值。
进一步的,所述步骤S2的具体操作如下:
S21、将白噪声w(t)添加到图像信号中,获得待处理信号x(t);
S22、识别x(t)中的所有局部极值,通过2条三次样条线分别连接所有局部极大值和所有局部极小值,获得上下包络;
S23、从x(t)中任选一个信号点,定义该信号点的原始数据与上下包络均值之差为:
hb=x(t)-mb (4)
其中,hb表示信号点b的原始数据与上下包络均值之差,mb为信号点b处的上下包络均值,b=1,2,…,B,B为待处理信号x(t)的信号点总数;
S24、基于hb进行迭代筛选,并在每次筛选后,计算该次筛选对应的标准偏差,筛选公式如下:
hbc=hb(c-1)-mbc (5)
其中,hbc为hb经过c次筛选后的数据,hb(c-1)为hb经过c-1次筛选后的数据,mbc为经过c次筛选后信号点b处的上下包络均值,c为正整数,
标准偏差公式如下:
其中,SDc表示第c次筛选对应的标准偏差,hb(c-1)(to)表示to时刻hb经过c-1次筛选后的数据,hbc(to)表示to时刻hb经过c次筛选后的数据,to∈[0,T],T为预先指定的时间段;
S25、当SDc小于预定值时,停止数据筛选,获得第b个IMF分量Hb=hbc;
S26、重复步骤S23~S25,直到处理完所有信号点,获得B个IMF分量。
进一步的,心率估计值的计算公式如下:
Hγ=γ0+γ1η1+γ2η2+…γbηb+…+γBηB+ε (7)
其中,Hγ表示心率估计值,γ0为权值因子,γb为第b个IMF分量对应的权值因子,ηb=tb/λb,tb表示第b个IMF分量的停止点,λb表示第b个IMF分量的期望值,ε表示随机高斯白噪声项。
进一步的,所述通过选择性集成聚合方法处理肺部图像数据计算待测试者呼吸率数据的方法包括如下步骤:
S1、利用摄像头获取人体肺部视频;
S2、将肺部视频中的每个像素建模为LTI通道的响应,获得LTI通道模型;
S3、根据LTI通道模型获取选择成员集合X+,并在X+上计算集合平均值以获得生成信号的估计;
S4、根据生成信号的估计和代理信号估计呼吸率,并进行相位补偿,其中,所述代理信号如下:
其中,q(s)表示肺部视频的第s帧像素强度向量和第一帧像素强度向量之间夹角的余弦,z(s)表示肺部视频的第s帧中所有像素平铺后获得的一个列向量。
进一步的,所述步骤S1的具体操作如下:
S11、通过摄像头获取肺部视频,肺部视频中共有T帧肺部图像,每一帧图像有包含P×Q个像素;
S12、建立LTI通道模型,具体公式如下:
其中,xp(s)表示第s帧第p个像素点处的强度,hp(s)表示第s帧第p个像素点对应的LTI通道的传递函数,g(s)表示生成信号,即空气流入和流出呼吸系统引起的肺部区域的周期性物理运动,表示卷积运算符,np(s)表示第s帧第p个像素点对应的LTI通道的噪声,p=1,…,PQ,s=1,…,S。
采用以上技术手段后可以获得以下优势:
本发明提出了一种无接触式运动及体测数据采集系统,本发明系统主要运用在智能步道上,通过设置在步道上的人脸采集点识别运动人员的身份信息,并计算其运动速度、运动轨迹、能耗等,帮助运动人员了解自身运动情况,协助指导运动人员科学运动。通过心率柱装置计算运动人员的心率、呼吸率,帮助运动人员实时观察个人体侧数据,可以有效提高运动安全性。
本发明根据语音数据的频谱谱峰来计算待测试者心率数据,实现了无接触式的心率测量,操作简单快捷,测量结果准确性较高。本发明还通过多元线性回归方法处理面部图像数据计算待测试者心率数据,同样可以实现无接触式心率测量,相比于现有技术,测量结果的准确性更高,运用效果更好。本发明可以结合语音数据和面部数据共同计算心率,进一步提高心率计算准确性。
本发明还通过选择性集成聚合方法处理肺部图像数据计算待测试者呼吸率数据,实现了无接触式的呼吸率测量,相比于现有技术,本发明系统不受环境、工具限制,运用场景更广泛,且测量结果准确。
本发明能够高效、稳定的通过无接触的方式采集人员的运动数据和体侧数据,具有良好的应用前景。
附图说明
图1为本发明一种无接触式运动及体测数据采集系统的结构示意图。
图2为本发明中通过分析语音数据中的频谱谱峰计算待测试者心率数据的方法的步骤流程图。
图3为本发明实施例中不包含噪声的理想语音信号的频谱图。
图4为本发明中通过多元线性回归方法处理面部图像数据计算待测试者心率数据的方法的步骤流程图。
图5为本发明中通过多元线性回归方法处理面部图像数据计算待测试者心率数据的方法的的流程框图。
图6为本发明中通过选择性集成聚合方法处理肺部图像数据计算待测试者呼吸率数据的方法的步骤流程图。
图7为本发明实施例中LTI通道模型系统的结构示意图。
图中,1是人脸智能步道装置,101是人脸采集点,102是前端人脸分析主控模块,103是步道大屏模块,104是云端服务模块,2是心率柱装置,201是前端采集交互模块,202是云端计算模块,203是SOS服务模块。
具体实施方式
下面结合附图对本发明的技术方案作进一步说明:
如图1所示,本发明提出了一种无接触式运动及体测数据采集系统,包括人脸智能步道装置1和心率柱装置2,人脸智能步道装置主要用于采集并分析人脸数据,一方面根据预设光强,控制步道摄像补光灯,另一方面根据本地人脸库识别出人员身份,并将人员身份信息上传至服务端;心率柱装置主要用于采集待测试者的语音、图像或视频数据,计算待测试者的心率数据和呼吸率数据,进行SOS转拨,与SOS服务关联配置。
人脸智能步道装置包括设置在步道上的多个人脸采集点101、前端人脸分析主控模块102、步道大屏模块103和云端服务模块104。人脸智能步道装置利用人脸采集点实时采集在步道上运动的人脸数据,每个人脸采集点包括2个摄像机,摄像机全天24小时工作,获取客流视频。
前端人脸分析主控模块能够分析客流视频,提炼视频中运动人脸,通过人脸识别算法,将提取人脸与本地人脸库对比,识别人员身份,如果比对不成功,将该人脸信息自动注册生成临时账号,将识别后的人员身份、人员到达的采集点、人员在采集画面中的位置、时间等上传到云端服务模块,如果某条人员身份记录上传失败,前端人脸分析主控模块会临时保存该记录,等待服务恢复正常后补传,本发明中前端人脸分析主控模块可以留存10000条最新记录,超过次数后会按顺序删除时间靠前的记录。前端人脸分析主控模块由供电开机后TCP连接云端服务模块,其工作时间通常由云端服务模块下发,若云端服务模块无下发,前端人脸分析主控模块根据内嵌默认工作时间段工作。
此外,前端人脸分析主控模块的本地人脸库数据也会与云端服务模块同步。云端服务模块主动推送新注册用户至本地人脸库,若有推送异常,后端服务记录异常数据,待连接正常后再次推送;前端人脸分析主控模块可选择定期或者空闲时段同步周期内的本地人脸库(上一同步成功时间点至当前时间内新更新用户,包括新注册和人脸照片更新),可设置成询问服务端是否有更新,有则更新,无则不更新。
云端服务模块具有人脸注册服务、人脸同步服务、运动数据接收服务、运动数据查询服务等功能。用户可以利用App或者小程序注册、修改人脸数据,云端服务模块将人脸数据实例化至本地人脸库,并将人脸照片推送至步道大屏模块。用户注册时,手机端可以依据注册人员所在位置距离100米以内步道判定人员归属步道。云端服务模块根据前端人脸分析主控模块上传的记录描绘运动者的运动轨迹,计算运动速度、里程、能耗等信息,协助相关平台指导用户科学运动。本发明系统的用户可以通过登录云端服务模块查询个人运动数据。
步道大屏模块可以提供运动人员注册、运动数据显示、运动排名统公园数据计分析、吃动平衡分析以及播放宣传视频等功能。步道大屏模块接收并展示云端服务模块的数据,展示数据包括用户ID、运动时长、运动速度、运动时间等,步道大屏模块还能实时调取数据并在屏幕上显示公园内历史人流量、男女比例、年龄层次等数据。
心率柱装置通过前端带有麦克风的摄像头采集待测试者的语音、面部图像和肺部图像数据,并反馈给云端,云端通过计算得出待测试者的心率和呼吸率,然后返回到前端显示。心率柱装置包括三个模块:前端采集交互模块201、云端计算模块202和SOS服务模块203。
前端采集交互模块通过带有麦克风和喇叭的摄像头采集待测试者的语音、图像、视频数据并上传到云端计算模块,具体的是人体面部图像和肺部视频。前端采集交互模块具有交互屏幕,交互屏幕上设置有“开始”和“SOS”按键,交互屏幕可以托传“开始”和“SOS”键的按键信号至云端计算模块,从云端计算模块获取心率和呼吸率数据,利用喇叭进行播报。当按下“开始”按键之后,交互屏幕显示以下文字“开始测试,请注视前方摄像头”,同时摄像头内置的喇叭朗读出该段文字,该摄像头检测到人脸之后开始对人脸进行定位,识别出眉毛周围的区域,并开启麦克风,交互屏幕上显示出需要待测试者朗读的包含元音的词组,如email等,并提示测试者开始朗读。摄像头开始录制待测试者的图像、视频和语音数据。前端采集交互模块将采集到的数据通过有线网络或者5G无线网络上传到云端计算模块。
SOS服务模块需要通过账号密码登录,其与云端计算模块保持TCP连接,可以接受云端呼叫指令。用户点接听后,则控制前端的摄像头进行视频通话,视频通话结束后需要将通话结束状态传送至云端,此时云端计算模块具备接听心率柱的开始测试功能。
云端计算模块负责根据采集的语音、人脸、肺部数据计算待测试者的心率和呼吸率数据,具体的,通过分析语音数据中的频谱谱峰计算待测试者心率数据,通过多元线性回归方法处理面部图像数据计算待测试者心率数据,通过选择性集成聚合方法处理肺部图像数据计算待测试者呼吸率数据。云端计算模块还可以进行SOS转拨,与SOS服务关联配置,当云端计算模块接收到SOS信号后,寻找该心率柱所在步道的SOS服务,并对服务呼叫,服务接听后,云端将该心率柱摄像头的所有控制权授权给SOS服务,直至SOS服务挂断后,重新持有摄像头的所有控制权。
人类语音信号包含语言、表达功能并且可以传达有机和生物信息。“语音产生的源过滤器理论”认为输出语音是声源(例如喉部)经由上咽喉声道形状确定的传递函数(滤波器)调制后的输出,其谱图上具有宽带能量峰。上咽喉声道由口腔和鼻腔两部分组成,是一个时变的声学过滤器,可以抑制某些频率的声能通过,而允许其在其他频率通过。共振峰是由上咽喉声道维持局部能量峰所对应的频率,其由声道的整体形状、长度和体积决定。本发明方法考虑到喉部的肌肉被许多与人体循环系统相连的血管覆盖,因此得出结论:人体心率与声带参数的变化是动态相关的,因此心率与人类语音的声学特性直接相关,因此通过获得元音语音信号的频率特性和同一人的原始ECG数据可以来检测与人体心脏活动相关的语音属性的变化。
本发明还提出了一种基于语音信号的无接触式心率计算方法,即通过分析语音数据中的频谱谱峰计算待测试者心率数据的方法,该方法可以用在本发明系统的云端计算模块中,如图2所示,具体包括以下步骤:
S1、对采集到的语音信号进行短时傅里叶变换(STFT),得到短时傅立叶变换谱图,本发明的语音信号主要是元音语音信号,具体公式如下:
其中,表示短时傅里叶变换频谱,x(m)表示人类语音信号,w(n)表示有限大小的FIR滤波器,x(m)w(n-m)表示加窗信号,m是语音信号时间维度,m=1…M,M为语音信号总时长,n是滤波器宽度大小,n=1…N,N为滤波器最大宽度,wi为频域第i阶谐波分量。
如果w(n)的大小相对于语音信号周期较大,则具有良好的频率分辨率;反之,频率分辨率较差。为了从元音语音信号中提取心率,w(n)的大小应该小于同一患者的ECG信号的RR间隔(即ECG信号的两个连续R波之间的时间间隔)。
S2、从语音信号的顶部到底部对短时傅立叶变换谱图进行水平扫描,获得一维信号。
在理想情况下,无噪声的语音信号的短时傅立叶变换谱图包含共振峰,但实际上,心脏活动会导致本发明采集到的语音信号的所有共振峰失真,失真持续时间大约等于0.2秒,幅度为100Hz。图3为不包含噪声的理想语音信号的频谱图,为了从本发明的短时傅立叶变换谱图中提取相关的心率信息,本发明提出了一种从原始语音信号的顶部(奈奎斯特频率)到底部(DC)水平扫描短时傅立叶变换谱图的搜索算法,该算法每次水平扫描语音信号的谱图时,都获得一个一维(1-D)信号。如图3所示,水平扫描有两种可能的情况:
1)当扫描线穿过共振峰边界之外的部分谱图时,它只包含背景信息,不能提取有用的一维信号,如图3中的扫描线a;
2)当扫描线通过共振峰的任何部分时,它能够提取有用的一维信号,如图3中扫描线b,c。
S3、对一维信号进行滤波和离散傅立叶变换处理,获得心率数据,具体操作如下:
S31、通过5阶FIR低通滤波器处理一维信号,为每个提取的一维信号(有用的一维信号)抑制高频分量,获得滤波后的一维信号x(a),a=0…A,A为滤波后的一维信号x(a)的长度。
S32、对滤波后的每个一维信号进行离散傅里叶变换(DFT),具体公式如下:
其中,X(k)为经离散傅里叶变换后的向量,k为单边频谱的谐波数,k=0…A/2。
S33、利用短时傅里叶变换频谱的阶数统计滤波器从多个向量中提取心率数据。变换之后四次谐波的幅度是最大的,根据傅立叶变换特性,一段6秒语音信号的四次谐波对应于0.67Hz频率和40bmp的心率,这恰好是语音发出者的心率,因此可以使用多个幅度最大的谐波来提取心率。
阶数统计滤波器的具体公式如下:
R=k→max{Xk|k=1,2,…,A/2} (12)
其中,R表示心率数据,→为求取索引运算符。
对L个经由长度为N的汉明窗作用后的语音信号x(m)进行STFT,可以得到L/2个系数,这些系数对应频率范围从0频(DC)到fs/2的二维频谱的“y”轴,其中,fs为原始语音信号的采样率。另外,对二维频谱的“x”轴上进行DFT,产生ts/2L个对应着从0频(DC)到fs/2L的频率范围谐波,其中,ts表示x(m)的持续时间。本发明使用两个关系来计算心率:tr/2L:fs/2L和xp:fhr,其中,tr为输入语音信号的记录周期,xp表示二维频谱中候选心率频率的位置,fhr是估计心率,运算符“:”表示某种关系。求解上述关于fhr的关系,便可以计算出心率,心率=60(xp/ts)。
一般来说,心率范围在40到200bpm之间,人类元音语音的共振峰从1到6KHz不等,因此,本发明搜索区域是:二维频谱“x”轴上从40到200bpm的范围和“y”轴上从1到6KHz的范围。通常心率以bmp为单位,而以谐波频率以HZ为单位,两者可通过bmp=60/fhr关系转化。
为了验证本发明基于语音信号的无接触式心率计算方法的准确度,本发明实施例中选择了来自不同年龄的21名志愿者,按照要求朗读包含元音的词组,每人朗读的时间均超过6s,志愿者在朗读的同时通过接触式脉搏血氧仪测量他们的心率,同时使用本发明方法处理语音数据,计算心率,具体结果如表1所示:
表1
通过表1可以看出,本发明方法的平均计算错误率为4.92%,小于5%,最高测量准确率为97.82%。
本发明还提出了一种基于人脸识别的无接触式心率计算方法,即通过多元线性回归方法处理面部图像数据计算待测试者心率数据的方法,该方法可以用在本发明系统的云端计算模块中,如图4、5所示,具体包括以下步骤:
S1、通过RGB摄像头拍摄人体面部图像,生成图像信号。通过RGB摄像头获取的面部图像中包括来自环境光源的照明和来自捕获目标的反射,为了提供稳定的可靠的心率监测,首先应该对面部反射进行分解。
为采集到的人体面部图像建立x-y坐标系,则人体面部图像可以表示为:
I(x,y)=R(x,y)L(x,y) (13)
其中,I(x,y)表示人体面部图像,R(x,y)表示对象的反射信号,L(x,y)表示照明信号。
由于人类在阴影和明亮区域中都能感知到反射细节,但他们也能意识到阴影的存在,所以在物理意义上R(x,y)和L(x,y)可能不是完全分离的。根据韦伯定理,微小变化的敏感度阈值与信号电平成比例增加,该定律源于亮度感知实验,其中观察者暴露在强度为I的均匀场中,其中刺激的亮度增加一个量ΔI,观察者从其中观察到相对于背景存在的量被称为亮度辨别阈值。韦伯定律为从输入刺激到感知的对数映射提供了理论依据。然而用这种方法估计R(x,y)和L(x,y)并不合适,需要加入约束。人体面部图像中的每个像素的权值ω与局部外观变化的绝对值和实际平均外观的比率关系为:
S2、基于集成经验模态分解方法处理图像信号,获得IMF分量。
Hilbert-Huang变换(HHT)是一种将信号分解为固有模态函数(IMF)并获取瞬时频率数据的方法。对于非线性非平稳数据,例如连续帧的反射信号,使用经验模式分解(EMD)或集成经验模态分解(EEMD)方法从IMF中提取特征比FFT更合适。使用EMD,可以将任何复杂的数据集分解为有限且少量的组成成分,这是IMF的集合。EMD没有指定的“基础”,它的“基础”是根据信号本身自适应生成的,不仅具有很高的分解效率,而且具有很强的频率和时间局部性。
IMF代表一种简单的振荡模式,与简单的谐波函数相对应,但是它更为笼统:除了在简单的谐波分量中具有恒定的幅度和频率之外,IMF在时间上有可变的幅度和频率。IMF被定义为满足以下要求的函数:1、在整个数据集中,极值的数目和过零率的数目必须相等或最多相差一个;2、在任何时候,由局部最大值定义的包络和由局部最小值定义的包络的平均值为零。
步骤S2的具体操作如下:
S21、将白噪声w(t)添加到图像信号中,白噪声w(t)为反射率信号的方差,该方差是零均值正态分布,获得待处理信号x(t)。
S22、识别x(t)中的所有局部极值,通过2条三次样条线分别连接所有局部极大值和所有局部极小值,获得上下包络,上下包络一起覆盖所有数据。
S23、从x(t)中任选一个信号点,定义该信号点的原始数据与上下包络均值之差为:
hb=x(t)-mb (15)
其中,hb表示信号点b的原始数据与上下包络均值之差,mb为信号点b处的上下包络均值,b=1,2,…,B,B为待处理信号x(t)的信号点总数。
分解后的hb可以是一个IMF,但是,本发明的原始数据通常包含很大的变化,因此仅靠单次迭代不足以形成基本的IMF。在此过程中,可能会产生或移动新的极值,因为上下包络是通过三次样条线连接所有局部极值而形成的,另外,非线性数据还存在一些问题,例如,平均包络可能与实际的局部平均包络不同,这将导致非对称信号,与筛选过程的迭代次数无关。尽管存在这些问题,但仍可以从筛选过程中提取关键成分。
本发明方法将hb视为数据,进行后续迭代筛选。
S24、基于hb进行迭代筛选,并在每次筛选后,计算该次筛选对应的标准偏差,筛选公式如下:
hbc=hb(c-1)-mbc (16)
其中,hbc为hb经过c次筛选后的数据,hb(c-1)为hb经过c-1次筛选后的数据,mbc为经过c次筛选后信号点b处的上下包络均值,c为正整数。从公式(16)可以看出,每次筛选的结果都与上次筛选结果有关。
标准偏差公式如下:
其中,SDc表示第c次筛选对应的标准偏差,hb(c-1)(to)表示to时刻hb经过c-1次筛选后的数据,hbc(to)表示to时刻hb经过c次筛选后的数据,to∈[0,T],T为预先指定的时间段。
S25、如果对信号过度筛选将导致分解后的IMF具有固定的幅度,为了使IMF符合HHT属性(即振幅和频率的变化具有其物理意义),需要为筛选过程定义停止迭代标准:当SDc小于预定值时,停止数据筛选,获得第b个IMF分量Hb=hbc。Hb应该包含信号的最佳比例或最短周期。
S26、重复步骤S23~S25,直到处理完所有信号点,获得B个IMF分量。
在每次获得IMF分量后都可以将获取的IMF分量与其余数据分开,rb=rb-1-Hb,当残差rb数据中仍然包含较长的周期变化时,可以将rb视为新数据并经历上述相同的筛选过程,当残差成为单调函数时,无法从中提取其他IMF,筛选过程最终停止。由上述过程可知:
通过上述筛选过程,实现了将数据分解为B个经验模态。尽管EEMD可以解决混合模态问题,但由于EEMD过程包括对IMF求和和平均,因此分解后的分量可能不是真正的IMF,为了解决这个问题,将EMD作为EEMD的后续处理步骤。
S3、利用泊松分布的最大似然估计计算每个IMF分量的期望值。
为了检测IMF每个周期的峰值,需要计算局部最大值的位置,与帧号相对应的峰和峰的位置分别表示为Φv和Φvf。G代表具有泊松分布特性的时间间隔T中检测到多少个峰值。为了在每个IMF中获得更精确的峰周期以与下一步的多元回归模型结合,必须修正每个IMF中的峰周期。
假设单次观测到的泊松分布的概率密度函数为:
Gb~P0(λb) E[Gb]=λb (19)
其中,Gb表示来自IMF的Hb分量,λb为一个周期内的参数,P0为概率密度函数表示符。
Gb={g1,…,gu,…,gd},其联合概率密度函数是各个pdf的乘积:
其中,P(g|λ)表示联合概率密度,λ为泊松分布的参数。
利用最大似然估计通过先取似然对数然后关于λ求导,可得:
总帧数Fv可通过下式计算:
Fv=v×λv (22)
其中,v为峰值数的索引,v的大小不得超过所采集到的信号的最大帧数目,λv是从Φ1f到Φvf的期望,Φ1f表示第1帧对应的周期峰值的位置,Φvf表示第v帧对应的周期峰值的位置。
在已知IMF的每个分量的每个峰-峰周期的情况下,构建集合{S1,S2,…,Su,…,Sd},可以从该集合构造直方图,然后连续地检查峰峰周期时间,并检验参数分布,以搜索停止点tv。采用停止点的主要原因是想用较少帧的数据来求出相对稳定的峰值周期。
通过Shapiro-Wilk零假设原理检查集合{S1,S2,…,Su,…,Sd}是否来自同一正态分布,进而确定停止点的位置。统计检测的方法如下:
其中,z={z1,…,zu,…,zn},是从标准正态分布抽样的随机变量的顺序统计量的期望,V是这些顺序统计量的协方差矩阵。
当通过上述条件确认本发明IMF分量的所有停止点tb后,可以利用泊松分布的最大似然估计找到每个IMF分量Hb对应的期望λb。
S4、根据多元回归模型和期望值计算心率估计值,心率估计值的计算公式如下:
Hγ=γ0+γ1η1+γ2η2+…γbηb+…+γBηB+ε (25)
其中,Hγ表示心率估计值,γ0为权值因子,γb为第b个IMF分量对应的权值因子,ηb=tb/λb,tb表示第b个IMF分量的停止点,λb表示第b个IMF分量的期望值,ε表示随机高斯白噪声项。
本发明利用多元回归模型计算可用因子,并通过假设检验(H0:γb=0,H1:γb≠0)验证所选因子的可靠性,依次确定适合评价心率因子。本发明使用t检验方法根据线性回归模型的自由度来计算因子的p值。在统计显着性检验中,p值小于预定的显着性水平(0.05)时拒绝假设,即当因子值接近0(H0:γb=0)的概率小于5%时,充分表面在多元回归模型中存在该因子的参数,从而拒绝了原假设。
通过验证因子的合理性,优化公式(25),得到最佳模型:
Hr=γ0+γ3η3+γ4η4 (26)
为了验证本发明基于人脸识别的无接触式心率计算方法的效果,将本发明方法与现有技术中最优的无接触式心率测量方法比较,结果如表2所示:
表2
评价指标 | ICA | IMF4 | 本发明所提出的方法 |
SDE | 7.033 | 4.170 | 2.912 |
Acc-t | 43.3% | 79.1% | 91.4% |
Acc-r | 48.4% | 76.6% | 89.6% |
其中,ICA表示Poh提出的使用视频成像和盲源分离的无接触式自动心脏脉搏测量,IMF4表示Chen提出的基于图像传感器的基于Hilbert–Huang变换的人脸反射心率估计方法,SDE为标准差错误率,Acc-t和Acc-r分别为理论计算准确率和实际测量准确率。从表2可以看出本发明方法的错误率更小,准确度更高。
本发明还提出了一种无接触式呼吸率呼吸模式测量方法,该方法可以用在本发明系统的云端计算模块中,如图6所示,具体包括如下步骤:
S1、利用摄像头获取人体肺部视频。
S2、将肺部视频中的每个像素建模为LTI通道的响应,获得LTI通道模型;具体操作如下:
S11、设肺部视频中共有S帧肺部图像,每一帧图像有包含P×Q个像素。
S12、将肺部图像中的每个像素都建模为具有未知动态的、最小相位LTI通道的响应,假设每个LTI通道均含有未知分布的加性噪声。因为噪声的频谱特征是特定于场景的,所以本发明没有对其分布作出假设。
建立LTI通道模型,具体公式如下:
其中,xp(s)表示第s帧第p个像素点处的强度,hp(s)表示第s帧第p个像素点对应的LTI通道的传递函数,g(s)表示生成信号,即空气流入和流出呼吸系统引起的肺部区域的周期性物理运动,表示卷积运算符,np(s)表示第s帧第p个像素点对应的LTI通道的噪声,其均值为0,p=1,…,PQ,s=1,…,S。
设|Hp(w)|和∠Hp(w)分别表示第p个LTI信道的幅值和相位响应,∠Hp(w)是从满足[-π,π]范围的均匀分布中抽样得到的。将|Hp(w)|建模为变量w的随机过程,在每个频率w处的采样|Hp(w)|产生由p索引的独立同分布随机变量。
S3、根据LTI通道模型获取选择成员集合X+,并在X+上计算集合平均值以获得生成信号的估计。
本发明通过LTI通道模型构建的模型系统是一个单输入多输出系统,即多个LTI通道的联合的输出由相同的呼吸信号驱动,如图7所示,在该模型系统下,可以抽象出一个数学问题:给定x1(s),x2(s),…,xp(s),…,xPQ(s),并且h1(s),h2(s),…,hp(s),…,hPQ(s)未知,需要获得g(s)的估计其等于g(s)乘以一个幅度缩放因子,即其中ι是任意常数。此问题是难以求解的,因为没有关于系统传递函数hp(s)的相关信息,然而,如果对g(s)的特性做出一定的假设,则的估计是有可能的。
在本发明实施例中给出两种对g(s)的特性的假设:
1)假设激励为单频正弦信号
g(s)=δsin(w0s+θ) (28)
根据LTI系统理论,每个LTI通道的输出响应fp(s)具有以下形式:
fp(s)=δFpsin(w0s+φp+θ) (29)
其中,δ为0~1区间内抽取出的随机值,Fp=|Hp(w0)|、φp=∠Hp(w0),它们对于每个LTI信道都是唯一且未知的。
根据公式(27)可知:
xp(s)=δFpsin(w0s+φp+θ)+np(s) (30)
引理1:如果g(s)是单频正弦信号,则LTI输出响应的总体平均值属于集合X+,具体的:
其会渐进收敛到生成信号的l倍,即:
将公式(30)代入公式(32)可得:
假设φ、F和噪声之间独立,则公式(34)可以被拆分为:
其中,EF、Eφ和En分别表示集合X+中随机变量F、φ和噪声的期望。
由X+的定义可知:
由于噪声是满足零均值的分布,所以综合公式(35)和(36)后可得:
通过上述论证可知,当本发明模型系统的输入是单频信号时,属于集合X+的一组LTI的输出响应的总体平均会收敛到输入信号的一定倍数。虽然不能保证每个问题都存在这样一个集合,但可以从经验上论证,对于当前呼吸率计算问题,很可能存在这样一个集合。
通过蛮力法(根据其定义)来查找X+是不可行的,因为计算被噪声破坏的两个信号之间的相位差并不容易,这是由于每个LTI通道引入的相位滞后及其相关的噪声是未知的。因此,本发明提出了一种有效的方法,该方法不仅可以通过选择X+来估计g(s),而且可以降低噪声的影响。
随机LTI通道对单频激励信号的响应会是一组随机缩放和相移的正弦波,它们具有两个自由度,即幅度缩放尺度和相移;这样的一组随机正弦曲线可以同构地映射到一个二维空间,在该二维空间中可以更好地表示任意幅度和相位滞后。本发明使用从标准二阶多项式派生的基础集来表示每个LTI通道的响应,令o(t)和y(t)代表希尔伯特空间()中的两个有限能量信号,且o(t)具有周期性并用w0表示其主频,则o(t)和y(t)的内积如下:
将信号o(t)的范数定义为‖o(t)‖2=<o(t),o(t)>,内积和范数的值与频率相关。
通过使用Gram Schmidt对标准多项式基Ω={1,t,t2}进行正交化,得出一组正交基Ψ{ψ1(t,w0),ψ2(t,w0),ψ3(t,w0)},其中,Ψ的各分量如下定义:
ψ3(t,w0)=1 (41)
设Q(t)表示基Ψ下,具体公式为:
其中α,β和σ是实数。
设信号s(t)=sin(w0t+φ+θ),则信号s(t)在基Ψ下的最佳拟合的最优系数{α*,β*,σ*}可通过下式计算:
{α*,β*,σ*}=argmin{α,β,σ}‖Q(t)-s(t)‖2 (43)
α*=<s(t),ψ1(t,w0)> (44)
β*=<s(t),ψ2(t,w0)> (45)
σ*=<s(t),ψ3(t,w0)> (46)
通过上式可以看出,σ*是信号s(t)的平均值,如果所有信号都被强制为零均值,则σ*为0,可以忽略。进一步的,设si(t)=sin(w0t+φi+θ),{α*,β*}表示公式(43)中优化问题的解,通过求解可得:
2)假设激励为周期信号
当激励信号为一般的周期信号:
其中,μ是谐波阶次的序号,δμ是第μ次谐波的振幅,wμ是频域上第μ次谐波。
为了简化分析,假设g(s)的傅里叶变换中共包含ζ个谐波分量,由公式(30)可得:
其中,Fp(wμ)=|Hp(wμ)|,φp(wμ)=∠Hp(wμ)。
其中,φp满足[-π,π]区间的均匀分布,fp(s)二次拟合系数的系综{α*,β*}在系数空间的可行解区域是一个椭圆盘。
综合上述2种假设可知,X+的选择有以下几个标准:1、为了使用求和来近似代替期望,在X+中需要有足够的通道;2、为了精确估计g(s),EF[Fp(wμ)]需要为常数,因此,每种类型的LTI通道幅度响应在X+中应该具有相等的权重;3、X+中每个LTI通道引入的相位滞后必须在生成信号θ的相位的π/2以内。
在已知{α*,β*}在系数空间的可行解区域是一个椭圆盘的前提下,设{αp,βp}表示解空间椭圆上的一点,p∈{1,…,PQ},该椭圆内的每一个点都对应着一个LTI通道。设定义两个集合DO和DI来对应于解空间的某些区域:
其中,re表示排除半径,0<re≤1。
X+的选取范围为:
X+=DO-DI (54)
S4、根据生成信号的估计和代理信号估计呼吸率,并进行相位补偿。
对于接收到的肺部视频信号,在给定持续时间内每个空间位置的像素强度的单个时间序列(称为像素时间序列,PTS)是LTI通道的响应,RP就是待估计的生成信号,其基频(w0)即为待计算的呼吸率。二次基(χ)是基频的函数,因此求解每个PTS的最佳拟合系数需要基频的先验知识,但是w0的初始选择并不影响RP的估计。此外,在本发明方法中,视频开始录制时待测试者的确切呼吸状态是未知的,这导致估计信号和真实的生成信号之间可能存在相位差。
为了解决相位差问题,本发明方法定义了一个代理信号,它可以估计w0同时补偿相位差。代理信号是时间序列,其在给定时间的值取决于该时间点视频帧所有像素的强度和第一个视频帧所有像素的强度的逐元素点积的值,代理信号的表达式如下:
其中,q(s)表示肺部视频的第s帧像素强度向量和第一帧像素强度向量之间夹角的余弦,q(s)是周期性的,并且其基频即为生成信号的基频w0,z(s)表示肺部视频的第s帧中所有像素平铺后获得的一个列向量。
本发明通过将代理信号的一个周期投影到解空间的椭圆上来校正相位差,求解出q(s)信号,进而确定集合X+之后,便可以对生成信号进行估计,得到呼吸模式和呼吸率。
本发明能够高效、稳定的通过无接触的方式采集人员的运动数据和体侧数据,具有良好的应用前景。将本发明运用在智能步道上,可以实时监测运动人员的运动数据(运动速度、运动轨迹、能耗等)和体侧数据(心率、呼吸率),帮助运动人员合理运动,提高运动安全性。本发明方法提供了2种无接触式心率计算方法和1种无接触式呼吸率计算方法,在心率计算领域,本发明方法的操作简单快捷,计算结果比现有技术更准确可靠,在呼吸率计算领域,本发明通过对肺部视频的分析直接计算呼吸率数据,相比现有技术不受环境、工具限制,运用场景更广泛,且测量结果准确。
上面结合附图对本发明的实施方式作了详细地说明,但是本发明并不局限于上述实施方式,在本领域普通技术人员所具备的知识范围内,还可以在不脱离本发明宗旨的前提下做出各种变化。
Claims (10)
1.一种无接触式运动及体测数据采集系统,其特征在于,包括:
人脸智能步道装置,用于采集并分析人脸数据,一方面根据预设光强,控制步道摄像补光灯,另一方面根据本地人脸库识别出人员身份,并将人员身份信息上传至服务端;
心率柱装置,用于采集待测试者的语音、图像或视频数据,计算待测试者的心率数据和呼吸率数据,进行SOS转拨,与SOS服务关联配置。
2.根据权利要求1所述的一种无接触式运动及体测数据采集系统,其特征在于,所述心率柱装置通过分析语音数据中的频谱谱峰计算待测试者心率数据,通过多元线性回归方法处理面部图像数据计算待测试者心率数据,通过选择性集成聚合方法处理肺部图像数据计算待测试者呼吸率数据。
3.根据权利要求2所述的一种无接触式运动及体测数据采集系统,其特征在于,所述通过分析语音数据中的频谱谱峰计算待测试者心率数据的方法包括以下步骤:
S1、对采集到的语音信号进行短时傅里叶变换,得到短时傅立叶变换谱图;
S2、从原始语音信号的顶部到底部对短时傅立叶变换谱图进行水平扫描,获得一维信号;
S3、对一维信号进行滤波和离散傅立叶变换处理,获得心率数据。
6.根据权利要求2所述的一种无接触式运动及体测数据采集系统,其特征在于,所述通过多元线性回归方法处理面部图像数据计算待测试者心率数据的方法包括以下步骤:
S1、通过RGB摄像头拍摄人体面部图像,生成图像信号;
S2、基于集成经验模态分解方法处理图像信号,获得IMF分量;
S3、利用泊松分布的最大似然估计计算每个IMF分量的期望值;
S4、根据多元回归模型和期望值计算心率估计值。
7.根据权利要求6所述的一种无接触式运动及体测数据采集系统,其特征在于,所述步骤S2的具体操作如下:
S21、将白噪声w(t)添加到图像信号中,获得待处理信号x(t);
S22、识别x(t)中的所有局部极值,通过2条三次样条线分别连接所有局部极大值和所有局部极小值,获得上下包络;
S23、从x(t)中任选一个信号点,定义该信号点的原始数据与上下包络均值之差为:
hb=x(t)-mb
其中,hb表示信号点b的原始数据与上下包络均值之差,mb为信号点b处的上下包络均值,b=1,2,...,B,B为待处理信号x(t)的信号点总数;
S24、基于hb进行迭代筛选,并在每次筛选后,计算该次筛选对应的标准偏差,筛选公式如下:
hbc=hb(c-1)-mbc
其中,hbc为hb经过c次筛选后的数据,hb(c-1)为hb经过c-1次筛选后的数据,mbc为经过c次筛选后信号点b处的上下包络均值,c为正整数,
标准偏差公式如下:
其中,SDc表示第c次筛选对应的标准偏差,hb(c-1)(to)表示to时刻hb经过c-1次筛选后的数据,hbc(to)表示to时刻hb经过c次筛选后的数据,to∈[0,T],T为预先指定的时间段;
S25、当SDc小于预定值时,停止数据筛选,获得第b个IMF分量Hb=hbc;
S26、重复步骤S23~S25,直到处理完所有信号点,获得B个IMF分量。
8.根据权利要求7所述的一种无接触式运动及体测数据采集系统,其特征在于,心率估计值的计算公式如下:
Hγ=γ0+Y1η1+γ2η2+…Ybηb+…+γBηB+ε
其中,Hγ表示心率估计值,γ0为权值因子,γb为第b个IMF分量对应的权值因子,ηb=tb/λb,tb表示第b个IMF分量的停止点,λb表示第b个IMF分量的期望值,ε表示随机高斯白噪声项。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011157411.3A CN112232256B (zh) | 2020-10-26 | 2020-10-26 | 一种无接触式运动及体测数据采集系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011157411.3A CN112232256B (zh) | 2020-10-26 | 2020-10-26 | 一种无接触式运动及体测数据采集系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112232256A true CN112232256A (zh) | 2021-01-15 |
CN112232256B CN112232256B (zh) | 2024-02-02 |
Family
ID=74110083
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011157411.3A Active CN112232256B (zh) | 2020-10-26 | 2020-10-26 | 一种无接触式运动及体测数据采集系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112232256B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113033291A (zh) * | 2021-02-01 | 2021-06-25 | 浙江大学 | 基于rfid的具有隐私保护且防伪造攻击的人脸识别方法和系统 |
CN113349810A (zh) * | 2021-05-27 | 2021-09-07 | 北京安德医智科技有限公司 | 脑出血病灶识别及血肿扩大预测方法及装置 |
CN113884236A (zh) * | 2021-08-24 | 2022-01-04 | 西安电子科技大学 | 一种多传感器融合动平衡分析方法、系统、设备、介质 |
CN114360232A (zh) * | 2021-12-10 | 2022-04-15 | 南昌航天广信科技有限责任公司 | 采集器开启控制方法、系统、计算机及可读存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102013208588A1 (de) * | 2012-06-01 | 2013-12-05 | Xerox Corp. | Verarbeitung eines videos zur schätzung einer atemrate |
CN105160143A (zh) * | 2015-06-08 | 2015-12-16 | 南京读动信息科技有限公司 | 全民智道系统及其管理服务方法 |
CN105467806A (zh) * | 2015-01-06 | 2016-04-06 | 四川大学 | 单像素全息相机 |
CN106344005A (zh) * | 2016-10-28 | 2017-01-25 | 张珈绮 | 一种可移动心电图监测系统及监测方法 |
CN106901741A (zh) * | 2017-03-13 | 2017-06-30 | 合肥工业大学 | 一种适用于昼夜环境的呼吸率检测方法 |
CN110200607A (zh) * | 2019-05-14 | 2019-09-06 | 南京理工大学 | 基于光流法与lms算法消除生命体征检测中体动影响的方法 |
CN110269600A (zh) * | 2019-08-06 | 2019-09-24 | 合肥工业大学 | 基于多元经验模态分解与联合盲源分离的非接触式视频心率检测方法 |
CN110367950A (zh) * | 2019-07-22 | 2019-10-25 | 西安爱特眼动信息科技有限公司 | 非接触式生理信息检测方法及系统 |
-
2020
- 2020-10-26 CN CN202011157411.3A patent/CN112232256B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102013208588A1 (de) * | 2012-06-01 | 2013-12-05 | Xerox Corp. | Verarbeitung eines videos zur schätzung einer atemrate |
CN105467806A (zh) * | 2015-01-06 | 2016-04-06 | 四川大学 | 单像素全息相机 |
CN105160143A (zh) * | 2015-06-08 | 2015-12-16 | 南京读动信息科技有限公司 | 全民智道系统及其管理服务方法 |
CN106344005A (zh) * | 2016-10-28 | 2017-01-25 | 张珈绮 | 一种可移动心电图监测系统及监测方法 |
CN106901741A (zh) * | 2017-03-13 | 2017-06-30 | 合肥工业大学 | 一种适用于昼夜环境的呼吸率检测方法 |
CN110200607A (zh) * | 2019-05-14 | 2019-09-06 | 南京理工大学 | 基于光流法与lms算法消除生命体征检测中体动影响的方法 |
CN110367950A (zh) * | 2019-07-22 | 2019-10-25 | 西安爱特眼动信息科技有限公司 | 非接触式生理信息检测方法及系统 |
CN110269600A (zh) * | 2019-08-06 | 2019-09-24 | 合肥工业大学 | 基于多元经验模态分解与联合盲源分离的非接触式视频心率检测方法 |
Non-Patent Citations (3)
Title |
---|
ALEX PAPPACHEN JAMES: "Heart rate monitoring using human speed spectral feature", 《HUMAN-CENTRIC COMPUTING AND INFORMATION SCIENCE》, vol. 5, no. 1, pages 1 - 12 * |
霍亮;杨学志;李江山;刘雪南;方帅;: "适用于昼夜环境的呼吸率视频检测", 中国图象图形学报, no. 01, pages 148 - 158 * |
黄如强: "救援机器人的非接触式人体体征视觉测量方法研究", 《医疗卫生装备》, vol. 41, no. 06, pages 26 - 31 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113033291A (zh) * | 2021-02-01 | 2021-06-25 | 浙江大学 | 基于rfid的具有隐私保护且防伪造攻击的人脸识别方法和系统 |
CN113033291B (zh) * | 2021-02-01 | 2022-06-17 | 浙江大学 | 基于rfid的人脸识别方法和系统 |
CN113349810A (zh) * | 2021-05-27 | 2021-09-07 | 北京安德医智科技有限公司 | 脑出血病灶识别及血肿扩大预测方法及装置 |
CN113884236A (zh) * | 2021-08-24 | 2022-01-04 | 西安电子科技大学 | 一种多传感器融合动平衡分析方法、系统、设备、介质 |
CN113884236B (zh) * | 2021-08-24 | 2022-06-21 | 西安电子科技大学 | 一种多传感器融合动平衡分析方法、系统、设备、介质 |
CN114360232A (zh) * | 2021-12-10 | 2022-04-15 | 南昌航天广信科技有限责任公司 | 采集器开启控制方法、系统、计算机及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112232256B (zh) | 2024-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112232256B (zh) | 一种无接触式运动及体测数据采集系统 | |
JP7261811B2 (ja) | 訓練された予測モデルに基づく血圧降下の非侵襲的決定のためのシステム及び方法 | |
Wang et al. | A comparative survey of methods for remote heart rate detection from frontal face videos | |
CN110269600B (zh) | 基于多元经验模态分解与联合盲源分离的非接触式视频心率检测方法 | |
EP3229676B1 (en) | Method and apparatus for physiological monitoring | |
US10004410B2 (en) | System and methods for measuring physiological parameters | |
Balakrishnan et al. | Detecting pulse from head motions in video | |
CN102058400B (zh) | 一种人体基本生命体征数据的快速检测装置 | |
KR101738278B1 (ko) | 영상을 이용한 감정 인식 방법 | |
CN112294282A (zh) | 基于rppg的情绪检测装置的自标定方法 | |
Chen et al. | Modulation model of the photoplethysmography signal for vital sign extraction | |
Li et al. | An improvement for video-based heart rate variability measurement | |
Ayesha et al. | Heart rate monitoring using PPG with smartphone camera | |
KR101996027B1 (ko) | 동공 크기 변화를 이용한 심장 주파수 영역의 정보 추출 방법 및 그 장치 | |
Karmuse et al. | A robust rppg approach for continuous heart rate measurement based on face | |
CN111179454A (zh) | 签到和生理参数检测系统及其控制方法 | |
Suriani et al. | Facial video based heart rate estimation for physical exercise | |
Kansara et al. | Heart Rate Measurement | |
Ben Salah et al. | Contactless heart rate estimation from facial video using skin detection and multi-resolution analysis | |
Sacramento et al. | A real-time software to the acquisition of heart rate and photoplethysmography signal using two region of interest simultaneously via webcam | |
Nair et al. | Non-contact heart-rate measurement using KLT-algorithm | |
KR20200140469A (ko) | 영상 이미지를 통해 사용자의 피부 및 건강 지표를 측정하는 방법 및 그를 이용한 장치 | |
Tabei | Novel smartphone-based photoplethysmogram signal analysis for health monitoring applications | |
Malini | Non-Contact Heart Rate Monitoring System using Deep Learning Techniques | |
EP4124289A1 (en) | Device, system and method for determining health information related to the cardiovascular system of a subject |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |