CN114241582A - 血液微循环热力图获取方法、装置、电子设备及存储介质 - Google Patents

血液微循环热力图获取方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN114241582A
CN114241582A CN202210037248.XA CN202210037248A CN114241582A CN 114241582 A CN114241582 A CN 114241582A CN 202210037248 A CN202210037248 A CN 202210037248A CN 114241582 A CN114241582 A CN 114241582A
Authority
CN
China
Prior art keywords
value
sliding window
face
image sequence
mask
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210037248.XA
Other languages
English (en)
Other versions
CN114241582B (zh
Inventor
罗静静
杨嘉成
韦敏
祝兴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN202210037248.XA priority Critical patent/CN114241582B/zh
Publication of CN114241582A publication Critical patent/CN114241582A/zh
Application granted granted Critical
Publication of CN114241582B publication Critical patent/CN114241582B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • A61B5/0261Measuring blood flow using optical means, e.g. infrared light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4854Diagnosis based on concepts of traditional oriental medicine
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Physiology (AREA)
  • Hematology (AREA)
  • Cardiology (AREA)
  • Psychiatry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • Alternative & Traditional Medicine (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本申请属于图像处理技术领域,公开了一种血液微循环热力图获取方法、装置、电子设备及存储介质,通过获取被测者的面部视频信息;对面部视频信息中的图像序列进行第一掩膜处理,得到第一面部图像序列;通过滑窗方式获取第一面部图像序列的第一AC值矩阵;提取最大的第一AC值作为AC值阈值;对面部视频信息中的图像序列进行第二掩膜处理,得到第二面部图像序列;通过滑窗方式获取第二面部图像序列的第二AC值矩阵;对比第二AC值矩阵中各第二AC值与AC值阈值以修正第二AC值矩阵;根据修正后的第二AC值矩阵生成血液微循环热力图;从而可得到能够清晰看出面部不同区域的血液微循环状态的图像。

Description

血液微循环热力图获取方法、装置、电子设备及存储介质
技术领域
本申请涉及图像处理技术领域,具体而言,涉及一种血液微循环热力图获取方法、装置、电子设备及存储介质。
背景技术
血液微循环是微动脉和微静脉间的血液循环,其功能障碍或者血液微循环血流灌注量减少时,会导致组织代谢需求中的营养物质和氧气不足,进而导致器官功能不全或者衰竭,成为疾病发生的重要原因。现代医学认为血液微循环不通是万病之源,所以方便有效地检测微循环状态有重要意义的。
现有观察血液微循环的手段是对人脸使用脉冲幅度映射图(Pulse amplitudemapping)技术成像,缺点是得到的图像的像素较低,准确率不高,难以清晰看出面部不同区域的血液微循环状态。
发明内容
本申请的目的在于提供一种血液微循环热力图获取方法、装置、电子设备及存储介质,可得到能够清晰看出面部不同区域的血液微循环状态的图像。
第一方面,本申请提供了一种血液微循环热力图获取方法,用于获取人面的血液微循环热力图,包括步骤:
A1.获取被测者的面部视频信息;
A2.对所述面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;
A3.通过滑窗方式获取所述第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;
A4.提取所述第一AC值矩阵的最大值作为AC值阈值;
A5.对所述面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;
A6.通过滑窗方式获取所述第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;
A7.对比所述第二AC值矩阵中各所述第二AC值与所述AC值阈值以修正所述第二AC值矩阵;
A8.根据修正后的所述第二AC值矩阵生成血液微循环热力图。
该血液微循环热力图获取方法,由于IPPG信号中的交流分量(AC, alternatingcomponent)能够有效地反映面部的血流灌注量,将面部按照区域分割,并把各区域的AC值通过热力图的形式展现,该热力图可以清晰显示出面部不同区域的血液微循环状态;此外,由于面部边缘容易出现高能量的噪声,人的眼睛、嘴巴容易出现轻微移动而造成高能量的噪声,因此通过掩膜处理时通过缩小边缘去除面部边缘部分,在进行第一掩膜处理时先去掉眼睛、嘴巴部分,以获取AC值阈值,并在第二掩膜处理后用该AC值阈值进行第二AC值矩阵的修正,从而可减小由于眼睛、嘴巴轻微移动造成的噪声,提高分辨率,使血液微循环热力图更加干净、包含更多有效信息,进而能够更加清晰显示出面部不同区域的血液微循环状态。
优选地,步骤A2包括:
对所述面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据;
根据所述位置数据生成第一掩膜,所述第一掩膜中与所述面部各部分对应的位置的值为1,其它部分的值为0;
对所述第一掩膜进行边缘缩小处理和去除眼部区域和嘴巴区域的处理,得到处理后的第一掩膜;
用所述处理后的第一掩膜对所述面部视频信息中的图像序列进行掩膜操作,得到所述第一面部图像序列。
通过该第一掩膜对面部视频信息中的图像序列进行掩膜操作,能够有效地去除图像序列中的面部边缘部分、眼睛部分和嘴巴部分,从而有效减小噪声。
优选地,步骤A3包括:
用预设步长对所述第一面部图像序列的各图像进行滑窗扫描,计算各滑窗窗口区域的有效像素点的像素均值;所述有效像素点为像素值非零的像素点;
以所述第一面部图像序列的各图像的同一滑窗窗口区域的所述像素均值为第一IPPG信号值,获取每个所述滑窗窗口区域的第一IPPG信号;
提取所述第一IPPG信号的波峰值数据集和波谷值数据集;
通过以下公式计算各所述滑窗窗口区域的有效像素点的第一AC值,并把各所述滑窗窗口区域的非有效像素点的第一AC值设为0,得到所述第一AC值矩阵:
Figure 100002_DEST_PATH_IMAGE002
其中,
Figure 100002_DEST_PATH_IMAGE004
为第j个所述滑窗窗口区域的有效像素点的第一AC值,
Figure 100002_DEST_PATH_IMAGE006
为第j个所述滑窗窗口区域的所述第一IPPG信号的波峰值数据集里的第i个波峰值,
Figure 100002_DEST_PATH_IMAGE008
为第j个所述滑窗窗口区域的所述第一IPPG信号的波谷值数据集里的第i个波谷值,
Figure 100002_DEST_PATH_IMAGE010
为第j个所述滑窗窗口区域的所述第一IPPG信号的周期波数量。
优选地,步骤A5包括:
对所述面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据;
根据所述位置数据生成第二掩膜,所述第二掩膜中与所述面部各部分对应的位置的值为1,其它部分的值为0;
对所述第二掩膜进行边缘缩小处理,得到处理后的第二掩膜;
用所述处理后的第二掩膜对所述面部视频信息中的图像序列进行掩膜操作,得到所述第二面部图像序列。
通过该第二掩膜对面部视频信息中的图像序列进行掩膜操作,能够有效地去除图像序列中的面部边缘部分,并保留眼睛部分和嘴巴部分的信息。
优选地,步骤A6包括:
用预设步长对所述第二面部图像序列的各图像进行滑窗扫描,计算各滑窗窗口区域的有效像素点的像素均值;所述有效像素点为像素值非零的像素点;
以所述第二面部图像序列的各图像的同一滑窗窗口区域的所述像素均值为第二IPPG信号值,获取每个所述滑窗窗口区域的第二IPPG信号;
提取所述第二IPPG信号的波峰值数据集和波谷值数据集;
通过以下公式计算各所述滑窗窗口区域的有效像素点的第二AC值,并把各所述滑窗窗口区域的非有效像素点的第二AC值设为0,得到所述第二AC值矩阵:
Figure 100002_DEST_PATH_IMAGE012
其中,
Figure 100002_DEST_PATH_IMAGE014
为第k个所述滑窗窗口区域的有效像素点的第二AC值,
Figure 100002_DEST_PATH_IMAGE016
为第k个所述滑窗窗口区域的所述第二IPPG信号的波峰值数据集里的第m个波峰值,
Figure 100002_DEST_PATH_IMAGE018
为第k个所述滑窗窗口区域的所述第二IPPG信号的波谷值数据集里的第m个波谷值,
Figure 100002_DEST_PATH_IMAGE020
为第k个所述滑窗窗口区域的所述第二IPPG信号的周期波数量。
优选地,步骤A7包括:
把所述第二AC值矩阵中大于所述AC值阈值的所述第二AC值乘以预设修正系数;所述预设修正系数大于0且小于1。
通过把过大的第二AC值按比例缩小,可使血液微循环热力图中过大的AC值在正常范围内,避免得到显示异常的血液微循环热力图。
优选地,步骤A8包括:
以修正后的所述第二AC值矩阵中的各所述第二AC值为各像素点的像素值生成所述血液微循环热力图。
第二方面,本申请提供了一种血液微循环热力图获取装置,用于获取人面的血液微循环热力图,包括:
第一获取模块,用于获取被测者的面部视频信息;
第一掩膜模块,用于对所述面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;
第一计算模块,用于通过滑窗方式获取所述第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;
提取模块,用于提取所述第一AC值矩阵的最大值作为AC值阈值;
第二掩膜模块,用于对所述面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;
第二计算模块,用于通过滑窗方式获取所述第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;
修正模块,用于对比所述第二AC值矩阵中各所述第二AC值与所述AC值阈值以修正所述第二AC值矩阵;
生成模块,用于根据修正后的所述第二AC值矩阵生成血液微循环热力图。
该血液微循环热力图获取装置,由于IPPG信号中的交流分量(AC, alternatingcomponent)能够有效地反映面部的血流灌注量,将面部按照区域分割,并把各区域的AC值通过热力图的形式展现,该热力图可以清晰显示出面部不同区域的血液微循环状态;此外,由于面部边缘容易出现高能量的噪声,人的眼睛、嘴巴容易出现轻微移动而造成高能量的噪声,因此通过掩膜处理时通过缩小边缘去除面部边缘部分,在进行第一掩膜处理时先去掉眼睛、嘴巴部分,以获取AC值阈值,并在第二掩膜处理后用该AC值阈值进行第二AC值矩阵的修正,从而可减小由于眼睛、嘴巴轻微移动造成的噪声,提高分辨率,使血液微循环热力图更加干净、包含更多有效信息,进而能够更加清晰显示出面部不同区域的血液微循环状态。
第三方面,本申请提供了一种电子设备,包括处理器和存储器,所述存储器存储有所述处理器可执行的计算机程序,所述处理器执行所述计算机程序时,运行如前文所述血液微循环热力图获取方法中的步骤。
第四方面,本申请提供了一种存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时运行如前文所述血液微循环热力图获取方法中的步骤。
有益效果:
本申请提供的血液微循环热力图获取方法、装置、电子设备及存储介质,通过获取被测者的面部视频信息;对所述面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;通过滑窗方式获取所述第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;提取所述第一AC值矩阵的最大值作为AC值阈值;对所述面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;通过滑窗方式获取所述第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;对比所述第二AC值矩阵中各所述第二AC值与所述AC值阈值以修正所述第二AC值矩阵;根据修正后的所述第二AC值矩阵生成血液微循环热力图;从而可得到能够清晰看出面部不同区域的血液微循环状态的图像。
本申请的其他特征和优点将在随后的说明书阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请了解。
附图说明
图1为本申请实施例提供的血液微循环热力图获取方法的流程图。
图2为本申请实施例提供的血液微循环热力图获取装置的结构示意图。
图3为本申请实施例提供的电子设备的结构示意图。
图4为现有的51点模型中的人脸特征点的分布位置示意图。
图5为示例性的人面的血液微循环热力图。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
请参照图1,图1是本申请一些实施例中的一种血液微循环热力图获取方法,用于获取人面的血液微循环热力图,包括步骤:
A1.获取被测者的面部视频信息;
A2.对面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;
A3.通过滑窗方式获取第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;
A4.提取第一AC值矩阵的最大值作为AC值阈值;
A5.对面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;
A6.通过滑窗方式获取第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;
A7.对比第二AC值矩阵中各第二AC值与AC值阈值以修正第二AC值矩阵;
A8.根据修正后的第二AC值矩阵生成血液微循环热力图。
该血液微循环热力图获取方法,由于IPPG信号中的交流分量(AC, alternatingcomponent)能够有效地反映面部的血流灌注量,将面部按照区域分割,并把各区域的AC值通过热力图的形式展现,该热力图可以清晰显示出面部不同区域的血液微循环状态;此外,由于面部边缘容易出现高能量的噪声,人的眼睛、嘴巴容易出现轻微移动而造成高能量的噪声,因此通过掩膜处理时通过缩小边缘去除面部边缘部分,在进行第一掩膜处理时先去掉眼睛、嘴巴部分,以获取AC值阈值,并在第二掩膜处理后用该AC值阈值进行第二AC值矩阵的修正,从而可减小由于眼睛、嘴巴轻微移动造成的噪声,提高分辨率,使血液微循环热力图更加干净、包含更多有效信息,进而能够更加清晰显示出面部不同区域的血液微循环状态。
在一些实施方式中,该血液微循环热力图获取方法可应用于具有环形光源的面诊仪上,该面诊仪具有头部定位机构,以使被测者的头部固定,避免头部移动而影响血液微循环热力图的准确性。其中,环形光源为亮度固定且发光波长固定的光源以使被测者面部的各个区域受到均匀的光照。从而由该面诊仪的摄像头采集被测者的面部视频信息,优选地,在采集被测者的面部视频信息的时候,视频信息的采样率要在被测者的心率的20倍以上,例如20 fps 、24fps等,采样时长要至少5s,这样可以保证提取至少5个心跳周期,即使去除第一个周期和最后一个周期的信息,还有至少三个周期的信息可用作分析,从而保证最终得到的血液微循环热力图的准确性。
在一些优选实施方式中,步骤A1之后和步骤A2之前,还包括步骤:
A9.提取面部视频信息中的图像序列中每一帧图像的不动特征点的位置数据;不动特征点包括人中处的特征点、鼻梁处的特征点和眉毛两端的特征点;
A10.以不动特征点为锚点对面部视频信息中的图像序列中每一帧图像进行仿射变换。
与人脸的其它特征点相比,人中处的特征点、鼻梁处的特征点和眉毛两端的特征点的位置随面部表情变化的变化较小,以这些特征点作为锚点进行仿射变换,可避免仿射变换后的图像出现较大程度的变形和缩放。通过仿射变换后的各帧图像的面部五官位置相同,从而进一步保证后续的得到的血液微循环热力图的准确性。
其中,在一些实施例中,步骤A9包括:基于51点模型提取各帧图像中的人脸特征点(人脸特征点的分布位置见图4)的位置数据,剔除不动特征点以外的人脸特征点的位置数据(见图4,人中处的特征点包括34号点,鼻梁处的特征点包括28、29、30和31号点,眉毛两端的特征点包括18、22、23和27号点)。
其中,步骤A10中,可用第一帧图像为仿射变换的目标,对其它图像进行仿射变换,其中,仿射变换的具体过程为现有技术,此处不对其进行详述。
在一些实施方式中,步骤A2包括:
A201.对面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据;
A202.根据位置数据生成第一掩膜,第一掩膜中与面部各部分对应的位置的值为1,其它部分的值为0;
A203.对第一掩膜进行边缘缩小处理和去除眼部区域和嘴巴区域的处理,得到处理后的第一掩膜;
A204.用处理后的第一掩膜对面部视频信息中的图像序列进行掩膜操作,得到第一面部图像序列。
通过该第一掩膜对面部视频信息中的图像序列进行掩膜操作,能够有效地去除图像序列中的面部边缘部分、眼睛部分和嘴巴部分,从而有效减小噪声。
其中,对图像进行语义分割以提取面部各部分的位置数据的具体方法为现有技术,此处不对其进行详述。实际应用中,也可通过其它现有的图像识别方法来提取面部各部分的位置数据。
其中,步骤A202中,生成的第一掩膜包括一个第一掩膜矩阵,该第一掩膜矩阵的尺寸与面部视频信息中的图像序列中的各图像的像素尺寸相同,例如,图像包含n1行m1列像素(即图像的像素尺寸为n1*m1),则第一掩膜矩阵包含n1行m1列元素(即第一掩膜矩阵的尺寸为n1*m1)。其中,第一掩膜矩阵的每个元素与图像的每个像素点相对应(例如第一掩膜矩阵中的(i,j)号元素对应图像的(i,j)号像素点),第一掩膜矩阵中与图像中面部区域的像素点对应的元素的值为1,其它元素的值为0。
其中,步骤A203包括:以面部视频信息中的图像序列的图像的面部边缘线以内的预设像素宽度(预设像素宽度可以为固定的预设值,例如40个像素点;预设像素宽度也可以是面部边缘线的最大像素距离的预设比例值,其中,面部边缘线的最大像素距是指面部边缘线上任意两个像素点之间的距离的最大值,预设比例值一般为2%-5%)的环带区域(该面部边缘线为该环带区域的外边界线)为缩减区域,把第一掩膜矩阵中与该缩减区域对应的元素的值改为0,并把第一掩膜矩阵中与眼部区域和嘴巴区域对应的元素的值改为0。
其中,步骤A204包括:用面部视频信息中的图像序列的各帧图像中的各像素点的像素值分别乘以第一掩膜矩阵中对应的元素值,得到与各帧图像对应的新的像素矩阵,根据各帧图像对应的新的像素矩阵生成相应的各帧第一面部图像,得到第一面部图像序列。即,并非直接改变面部视频信息中的图像序列的各帧图像的像素值,而是通过掩膜操作得到新的图像序列(第一面部图像序列),面部视频信息中的图像序列的各帧图像的像素值保持不变。
在一些优选实施方式中,步骤A3包括:
A301.用预设步长对第一面部图像序列的各图像进行滑窗扫描,计算各滑窗窗口区域的有效像素点的像素均值;有效像素点为像素值非零的像素点;
A302.以第一面部图像序列的各图像的同一滑窗窗口区域的像素均值为第一IPPG信号值,获取每个滑窗窗口区域的第一IPPG信号;
A303.提取第一IPPG信号的波峰值数据集和波谷值数据集;
A304.通过以下公式计算各滑窗窗口区域的有效像素点的第一AC值,并把各滑窗窗口区域的非有效像素点(即像素值为0的像素点)的第一AC值设为0,得到第一AC值矩阵:
Figure 481487DEST_PATH_IMAGE002
其中,
Figure 992103DEST_PATH_IMAGE004
为第j个滑窗窗口区域的有效像素点的第一AC值,
Figure 240682DEST_PATH_IMAGE006
为第j个滑窗窗口区域的第一IPPG信号的波峰值数据集里的第i个波峰值,
Figure 229367DEST_PATH_IMAGE008
为第j个滑窗窗口区域的第一IPPG信号的波谷值数据集里的第i个波谷值,
Figure 873100DEST_PATH_IMAGE010
为第j个滑窗窗口区域的第一IPPG信号的周期波数量。
其中,滑窗窗口的尺寸要与滑动步长(即前述的预设步长)相同,其中,滑窗窗口的横向尺寸、纵向尺寸分别与横向滑动步长、纵向滑动步长(即预设步长包括预设横向步长和预设纵向步长)相等。其中,预设步长的大小(也是滑窗窗口的尺寸大小)可根据实际需要设置。
例如,第一面部图像序列中包括100帧图像,则每帧图像的第一个滑窗窗口区域的像素均值为分别为p1、p2…p100,则这些像素均值按时序排序形成的数据集合即为第一个滑窗窗口区域的第一IPPG信号。
优选地,步骤A302之后和步骤A303之前,还包括步骤:
对各滑窗窗口区域的第一IPPG信号进行滑动平均处理和低通滤波处理(例如滤除2Hz以下的信号)。
从而可去除低频干扰成分,提高第一AC值计算结果的准确性。
其中,第一IPPG信号包含多个周期的数据,每个周期包括一个波峰值和一个波谷值,提取各周期的波峰值形成波峰值数据集,提取各周期的波谷值形成波谷值数据集。
优选地,步骤A303包括:对提取的波峰值数据集和波谷值数据集进行离群值剔除。其中,离群值剔除的具体方法为现有技术,此处不对其进行详述。其中,波峰值数据集中每剔除一个离群值,都需要把波谷值数据集中对应的波谷值剔除,相应地,波谷值数据集中每剔除一个离群值,都需要把波峰值数据集中对应的波谷值剔除。其中,每剔除一对离群值(波峰值和对应的波谷值),则
Figure 164404DEST_PATH_IMAGE010
减1。
在一些实施方式中,步骤A5包括:
A501.对面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据;
A502.根据位置数据生成第二掩膜,第二掩膜中与面部各部分对应的位置的值为1,其它部分的值为0;
A503.对第二掩膜进行边缘缩小处理,得到处理后的第二掩膜;
A504.用处理后的第二掩膜对面部视频信息中的图像序列进行掩膜操作,得到第二面部图像序列。
通过该第二掩膜对面部视频信息中的图像序列进行掩膜操作,能够有效地去除图像序列中的面部边缘部分,并保留眼睛部分和嘴巴部分的信息。
其中,步骤A501具体参考步骤A201。步骤A502具体参考步骤A202。步骤A503包括:以面部视频信息中的图像序列的图像的面部边缘线以内的预设像素宽度(该预设像素宽度与步骤A203中的预设像素宽度相同)的环带区域(该面部边缘线为该环带区域的外边界线)为缩减区域,把第二掩膜矩阵中与该缩减区域对应的元素的值改为0。步骤A504具体参考步骤A204。
在一些优选实施方式中,步骤A6包括:
A601.用预设步长(与前文的预设步长相同)对第二面部图像序列的各图像进行滑窗扫描,计算各滑窗窗口区域的有效像素点的像素均值;有效像素点为像素值非零的像素点;
A602.以第二面部图像序列的各图像的同一滑窗窗口区域的像素均值为第二IPPG信号值,获取每个滑窗窗口区域的第二IPPG信号;
A603.提取第二IPPG信号的波峰值数据集和波谷值数据集;
A604.通过以下公式计算各滑窗窗口区域的有效像素点的第二AC值,并把各滑窗窗口区域的非有效像素点的第二AC值设为0,得到第二AC值矩阵:
Figure 759333DEST_PATH_IMAGE012
其中,
Figure 286129DEST_PATH_IMAGE014
为第k个滑窗窗口区域的有效像素点的第二AC值,
Figure 423850DEST_PATH_IMAGE016
为第k个滑窗窗口区域的第二IPPG信号的波峰值数据集里的第m个波峰值,
Figure 745110DEST_PATH_IMAGE018
为第k个滑窗窗口区域的第二IPPG信号的波谷值数据集里的第m个波谷值,
Figure 968281DEST_PATH_IMAGE020
为第k个滑窗窗口区域的第二IPPG信号的周期波数量。
其中,滑窗窗口的尺寸要与滑动步长相同,其中,滑窗窗口的横向尺寸、纵向尺寸分别与横向滑动步长、纵向滑动步长相等。其中,预设步长的大小(也是滑窗窗口的尺寸大小)可根据实际需要设置。
例如,第二面部图像序列中包括100帧图像,则每帧图像的第一个滑窗窗口区域像素均值为分别为q1、q2…q100,则这些像素均值按时序排序形成的数据集合即为第一个滑窗窗口区域的第二IPPG信号。
优选地,步骤A602之后和步骤A603之前,还包括步骤:
对各滑窗窗口区域的第二IPPG信号进行滑动平均处理和低通滤波处理(例如滤除2Hz以下的信号)。
从而可去除低频干扰成分,提高第二AC值计算结果的准确性。
其中,第二IPPG信号包含多个周期的数据,每个周期包括一个波峰值和一个波谷值,提取各周期的波峰值形成波峰值数据集,提取各周期的波谷值形成波谷值数据集。
优选地,步骤A603包括:对提取的波峰值数据集和波谷值数据集进行离群值剔除。其中,离群值剔除的具体方法为现有技术,此处不对其进行详述。其中,波峰值数据集中每剔除一个离群值,都需要把波谷值数据集中对应的波谷值剔除,相应地,波谷值数据集中每剔除一个离群值,都需要把波峰值数据集中对应的波谷值剔除。其中,每剔除一对离群值(波峰值和对应的波谷值),则
Figure 537583DEST_PATH_IMAGE020
减1。
具体地,步骤A7包括:
把第二AC值矩阵中大于AC值阈值的第二AC值乘以预设修正系数;预设修正系数大于0且小于1。
通过把过大的第二AC值按比例缩小,可使血液微循环热力图中过大的AC值在正常范围内,避免得到显示异常的血液微循环热力图。
其中,预设修正系数可根据实际需要设置,能够把过大的第二AC值修正到一般皮肤的AC值水平即可,一般可在0.1-0.8之间取值,例如0.12;实际应用中,对于大部分被测者,该预设修正系数在0.1-0.2之间取值就能得到比较好的修正效果,对于部分年龄较大的被测者,有时候需要使用较大的预设修正系数(0.2-0.8之间)才能取得较好的修正效果。
在本实施例中,步骤A8包括:
以修正后的第二AC值矩阵中的各第二AC值为各像素点的像素值生成血液微循环热力图。
例如,第二AC值矩阵的尺寸为n2*m2(即第二AC值矩阵有n2行m2列元素),则生成一个像素尺寸为n2*m2的血液微循环热力图(即该血液微循环热力图中有n2行m2列像素点),该血液微循环热力图中的像素点的像素值等于第二AC值矩阵中对应的元素的元素值(血液微循环热力图中的像素点中任意(i,j)号的像素点的像素值等于第二AC值矩阵中对应的(i,j)号元素的元素值)。
例如,图5为示例性的人面的血液微循环热力图,在获取该血液微循环热力图时,被测者的面部视频信息的采样频率为20 fps、采样时长为5s,对第一掩膜和第二掩膜进行边缘缩小处理时的预设像素宽度为面部边缘线的最大像素距离的3%,预设修正系数为0.12。从该图中可以清晰看出面部不同区域的血液微循环状态。
由上可知,该血液微循环热力图获取方法,通过获取被测者的面部视频信息;对面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;通过滑窗方式获取第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;提取第一AC值矩阵的最大值作为AC值阈值;对面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;通过滑窗方式获取第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;对比第二AC值矩阵中各第二AC值与AC值阈值以修正第二AC值矩阵;根据修正后的第二AC值矩阵生成血液微循环热力图;从而可得到能够清晰看出面部不同区域的血液微循环状态的图像。
请参考图2,本申请提供了一种血液微循环热力图获取装置,用于获取人面的血液微循环热力图,包括:
第一获取模块1,用于获取被测者的面部视频信息;
第一掩膜模块2,用于对面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;
第一计算模块3,用于通过滑窗方式获取第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;
提取模块4,用于提取第一AC值矩阵的最大值作为AC值阈值;
第二掩膜模块5,用于对面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;
第二计算模块6,用于通过滑窗方式获取第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;
修正模块7,用于对比第二AC值矩阵中各第二AC值与AC值阈值以修正第二AC值矩阵;
生成模块8,用于根据修正后的第二AC值矩阵生成血液微循环热力图。
该血液微循环热力图获取装置,由于IPPG信号中的交流分量(AC, alternatingcomponent)能够有效地反映面部的血流灌注量,将面部按照区域分割,并把各区域的AC值通过热力图的形式展现,该热力图可以清晰显示出面部不同区域的血液微循环状态;此外,由于面部边缘容易出现高能量的噪声,人的眼睛、嘴巴容易出现轻微移动而造成高能量的噪声,因此通过掩膜处理时通过缩小边缘去除面部边缘部分,在进行第一掩膜处理时先去掉眼睛、嘴巴部分,以获取AC值阈值,并在第二掩膜处理后用该AC值阈值进行第二AC值矩阵的修正,从而可减小由于眼睛、嘴巴轻微移动造成的噪声,提高分辨率,使血液微循环热力图更加干净、包含更多有效信息,进而能够更加清晰显示出面部不同区域的血液微循环状态。
在一些实施方式中,该血液微循环热力图获取装置可应用于具有环形光源的面诊仪上,该面诊仪具有头部定位机构,以使被测者的头部固定,避免头部移动而影响血液微循环热力图的准确性。其中,环形光源为亮度固定且发光波长固定的光源以使被测者面部的各个区域受到均匀的光照。从而由该面诊仪的摄像头采集被测者的面部视频信息,优选地,在采集被测者的面部视频信息的时候,视频信息的采样率要在被测者的心率的20倍以上,例如20 fps 、24fps等,采样时长要至少5s,这样可以保证提取至少5个心跳周期,即使去除第一个周期和最后一个周期的信息,还有至少三个周期的信息可用作分析,从而保证最终得到的血液微循环热力图的准确性。
在一些优选实施方式中,该血液微循环热力图获取装置还包括:
特征点提取模块,用于提取面部视频信息中的图像序列中每一帧图像的不动特征点的位置数据;不动特征点包括人中处的特征点、鼻梁处的特征点和眉毛两端的特征点;
仿射变换模块,用于以不动特征点为锚点对面部视频信息中的图像序列中每一帧图像进行仿射变换。
与人脸的其它特征点相比,人中处的特征点、鼻梁处的特征点和眉毛两端的特征点的位置随面部表情变化的变化较小,以这些特征点作为锚点进行仿射变换,可避免仿射变换后的图像出现较大程度的变形和缩放。通过仿射变换后的各帧图像的面部五官位置相同,从而进一步保证后续的得到的血液微循环热力图的准确性。
其中,在一些实施例中,特征点提取模块用于在提取面部视频信息中的图像序列中每一帧图像的不动特征点的位置数据的时候,执行:
基于51点模型提取各帧图像中的人脸特征点(人脸特征点的分布位置见图4)的位置数据,剔除不动特征点以外的人脸特征点的位置数据(见图4,人中处的特征点包括34号点,鼻梁处的特征点包括28、29、30和31号点,眉毛两端的特征点包括18、22、23和27号点)。
其中,仿射变换模块可用第一帧图像为仿射变换的目标,对其它图像进行仿射变换,其中,仿射变换的具体过程为现有技术,此处不对其进行详述。
在一些实施方式中,第一掩膜模块2用于在对面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列的时候,执行:
对面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据;
根据位置数据生成第一掩膜,第一掩膜中与面部各部分对应的位置的值为1,其它部分的值为0;
对第一掩膜进行边缘缩小处理和去除眼部区域和嘴巴区域的处理,得到处理后的第一掩膜;
用处理后的第一掩膜对面部视频信息中的图像序列进行掩膜操作,得到第一面部图像序列。
通过该第一掩膜对面部视频信息中的图像序列进行掩膜操作,能够有效地去除图像序列中的面部边缘部分、眼睛部分和嘴巴部分,从而有效减小噪声。
其中,对图像进行语义分割以提取面部各部分的位置数据的具体方法为现有技术,此处不对其进行详述。实际应用中,也可通过其它现有的图像识别方法来提取面部各部分的位置数据。
其中,第一掩膜模块2生成的第一掩膜包括一个第一掩膜矩阵,该第一掩膜矩阵的尺寸与面部视频信息中的图像序列中的各图像的像素尺寸相同,例如,图像包含n1行m1列像素(即图像的像素尺寸为n1*m1),则第一掩膜矩阵包含n1行m1列元素(即第一掩膜矩阵的尺寸为n1*m1)。其中,第一掩膜矩阵的每个元素与图像的每个像素点相对应(例如第一掩膜矩阵中的(i,j)号元素对应图像的(i,j)号像素点),第一掩膜矩阵中与图像中面部区域的像素点对应的元素的值为1,其它元素的值为0。
其中,第一掩膜模块2在对第一掩膜进行边缘缩小处理和去除眼部区域和嘴巴区域的处理,得到处理后的第一掩膜的时候,执行:以面部视频信息中的图像序列的图像的面部边缘线以内的预设像素宽度(预设像素宽度可以为固定的预设值,例如40个像素点;预设像素宽度也可以是面部边缘线的最大像素距离的预设比例值,其中,面部边缘线的最大像素距是指面部边缘线上任意两个像素点之间的距离的最大值,预设比例值一般为2%-5%)的环带区域(该面部边缘线为该环带区域的外边界线)为缩减区域,把第一掩膜矩阵中与该缩减区域对应的元素的值改为0,并把第一掩膜矩阵中与眼部区域和嘴巴区域对应的元素的值改为0。
其中,第一掩膜模块2在用处理后的第一掩膜对面部视频信息中的图像序列进行掩膜操作,得到第一面部图像序列的时候,执行:用面部视频信息中的图像序列的各帧图像中的各像素点的像素值分别乘以第一掩膜矩阵中对应的元素值,得到与各帧图像对应的新的像素矩阵,根据各帧图像对应的新的像素矩阵生成相应的各帧第一面部图像,得到第一面部图像序列。即,并非直接改变面部视频信息中的图像序列的各帧图像的像素值,而是通过掩膜操作得到新的图像序列(第一面部图像序列),面部视频信息中的图像序列的各帧图像的像素值保持不变。
在一些优选实施方式中,第一计算模块3用于在通过滑窗方式获取第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵的时候,执行:
用预设步长对第一面部图像序列的各图像进行滑窗扫描,计算各滑窗窗口区域的有效像素点的像素均值;有效像素点为像素值非零的像素点;
以第一面部图像序列的各图像的同一滑窗窗口区域的像素均值为第一IPPG信号值,获取每个滑窗窗口区域的第一IPPG信号;
提取第一IPPG信号的波峰值数据集和波谷值数据集;
通过以下公式计算各滑窗窗口区域的有效像素点的第一AC值,并把各滑窗窗口区域的非有效像素点(即像素值为0的像素点)的第一AC值设为0,得到第一AC值矩阵:
Figure 654444DEST_PATH_IMAGE002
其中,
Figure 553130DEST_PATH_IMAGE004
为第j个滑窗窗口区域的有效像素点的第一AC值,
Figure 388230DEST_PATH_IMAGE006
为第j个滑窗窗口区域的第一IPPG信号的波峰值数据集里的第i个波峰值,
Figure 866616DEST_PATH_IMAGE008
为第j个滑窗窗口区域的第一IPPG信号的波谷值数据集里的第i个波谷值,
Figure 103563DEST_PATH_IMAGE010
为第j个滑窗窗口区域的第一IPPG信号的周期波数量。
其中,滑窗窗口的尺寸要与滑动步长(即前述的预设步长)相同,其中,滑窗窗口的横向尺寸、纵向尺寸分别与横向滑动步长、纵向滑动步长(即预设步长包括预设横向步长和预设纵向步长)相等。其中,预设步长的大小(也是滑窗窗口的尺寸大小)可根据实际需要设置。
例如,第一面部图像序列中包括100帧图像,则每帧图像的第一个滑窗窗口区域的像素均值为分别为p1、p2…p100,则这些像素均值按时序排序形成的数据集合即为第一个滑窗窗口区域的第一IPPG信号。
优选地,第一计算模块3在获取每个滑窗窗口区域的第一IPPG信号之后和提取第一IPPG信号的波峰值数据集和波谷值数据集之前,还执行:
对各滑窗窗口区域的第一IPPG信号进行滑动平均处理和低通滤波处理(例如滤除2Hz以下的信号)。
从而可去除低频干扰成分,提高第一AC值计算结果的准确性。
其中,第一IPPG信号包含多个周期的数据,每个周期包括一个波峰值和一个波谷值,提取各周期的波峰值形成波峰值数据集,提取各周期的波谷值形成波谷值数据集。
优选地,第一计算模块3在提取第一IPPG信号的波峰值数据集和波谷值数据集的时候,执行:对提取的波峰值数据集和波谷值数据集进行离群值剔除。其中,离群值剔除的具体方法为现有技术,此处不对其进行详述。其中,波峰值数据集中每剔除一个离群值,都需要把波谷值数据集中对应的波谷值剔除,相应地,波谷值数据集中每剔除一个离群值,都需要把波峰值数据集中对应的波谷值剔除。其中,每剔除一对离群值(波峰值和对应的波谷值),则
Figure 268090DEST_PATH_IMAGE010
减1。
在一些实施方式中,第二掩膜模块5用于在对面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列的时候,执行:
对面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据;
根据位置数据生成第二掩膜,第二掩膜中与面部各部分对应的位置的值为1,其它部分的值为0;
对第二掩膜进行边缘缩小处理,得到处理后的第二掩膜;
用处理后的第二掩膜对面部视频信息中的图像序列进行掩膜操作,得到第二面部图像序列。
通过该第二掩膜对面部视频信息中的图像序列进行掩膜操作,能够有效地去除图像序列中的面部边缘部分,并保留眼睛部分和嘴巴部分的信息。
其中,对面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据的具体过程参考第一掩膜模块2的对应操作过程。
其中,用处理后的第二掩膜对面部视频信息中的图像序列进行掩膜操作,得到第二面部图像序列的具体过程参考第一掩膜模块2的对应操作过程。
其中,第二掩膜模块5在对第二掩膜进行边缘缩小处理,得到处理后的第二掩膜的时候,执行:以面部视频信息中的图像序列的图像的面部边缘线以内的预设像素宽度(该预设像素宽度与第一掩膜模块2使用的预设像素宽度相同)的环带区域(该面部边缘线为该环带区域的外边界线)为缩减区域,把第二掩膜矩阵中与该缩减区域对应的元素的值改为0。
其中,用处理后的第二掩膜对面部视频信息中的图像序列进行掩膜操作,得到第二面部图像序列的具体过程参考第一掩膜模块2的对应操作过程。
在一些优选实施方式中,第二计算模块6用于在通过滑窗方式获取第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵的时候,执行:
用预设步长(与前文的预设步长相同)对第二面部图像序列的各图像进行滑窗扫描,计算各滑窗窗口区域的有效像素点的像素均值;有效像素点为像素值非零的像素点;
以第二面部图像序列的各图像的同一滑窗窗口区域的像素均值为第二IPPG信号值,获取每个滑窗窗口区域的第二IPPG信号;
提取第二IPPG信号的波峰值数据集和波谷值数据集;
通过以下公式计算各滑窗窗口区域的有效像素点的第二AC值,并把各滑窗窗口区域的非有效像素点的第二AC值设为0,得到第二AC值矩阵:
Figure 465853DEST_PATH_IMAGE012
其中,
Figure 138143DEST_PATH_IMAGE014
为第k个滑窗窗口区域的有效像素点的第二AC值,
Figure 839383DEST_PATH_IMAGE016
为第k个滑窗窗口区域的第二IPPG信号的波峰值数据集里的第m个波峰值,
Figure 204505DEST_PATH_IMAGE018
为第k个滑窗窗口区域的第二IPPG信号的波谷值数据集里的第m个波谷值,
Figure 623985DEST_PATH_IMAGE020
为第k个滑窗窗口区域的第二IPPG信号的周期波数量。
其中,滑窗窗口的尺寸要与滑动步长相同,其中,滑窗窗口的横向尺寸、纵向尺寸分别与横向滑动步长、纵向滑动步长相等。其中,预设步长的大小(也是滑窗窗口的尺寸大小)可根据实际需要设置。
例如,第二面部图像序列中包括100帧图像,则每帧图像的第一个滑窗窗口区域的像素均值为分别为q1、q2…q100,则这些像素均值按时序排序形成的数据集合即为第一个滑窗窗口区域的第二IPPG信号。
优选地,第二计算模块6在获取每个滑窗窗口区域的第二IPPG信号之后和提取第二IPPG信号的波峰值数据集和波谷值数据集之前,还执行:
对各滑窗窗口区域的第二IPPG信号进行滑动平均处理和低通滤波处理(例如滤除2Hz以下的信号)。
从而可去除低频干扰成分,提高第二AC值计算结果的准确性。
其中,第二IPPG信号包含多个周期的数据,每个周期包括一个波峰值和一个波谷值,提取各周期的波峰值形成波峰值数据集,提取各周期的波谷值形成波谷值数据集。
优选地,第二计算模块6在提取第二IPPG信号的波峰值数据集和波谷值数据集的时候,执行:对提取的波峰值数据集和波谷值数据集进行离群值剔除。其中,离群值剔除的具体方法为现有技术,此处不对其进行详述。其中,波峰值数据集中每剔除一个离群值,都需要把波谷值数据集中对应的波谷值剔除,相应地,波谷值数据集中每剔除一个离群值,都需要把波峰值数据集中对应的波谷值剔除。其中,每剔除一对离群值(波峰值和对应的波谷值),则
Figure 99966DEST_PATH_IMAGE020
减1。
具体地,修正模块7用于在对比第二AC值矩阵中各第二AC值与AC值阈值以修正第二AC值矩阵的时候,执行:
把第二AC值矩阵中大于AC值阈值的第二AC值乘以预设修正系数;预设修正系数大于0且小于1。
通过把过大的第二AC值按比例缩小,可使血液微循环热力图中过大的AC值在正常范围内,避免得到显示异常的血液微循环热力图。
其中,预设修正系数可根据实际需要设置,能够把过大的第二AC值修正到一般皮肤的AC值水平即可,一般可在0.1-0.8之间取值,例如0.12;实际应用中,对于大部分被测者,该预设修正系数在0.1-0.2之间取值就能得到比较好的修正效果,对于部分年龄较大的被测者,有时候需要使用较大的预设修正系数(0.2-0.8之间)才能取得较好的修正效果。
在本实施例中,生成模块8用于在根据修正后的第二AC值矩阵生成血液微循环热力图的时候,执行:
以修正后的第二AC值矩阵中的各第二AC值为各像素点的像素值生成血液微循环热力图。
例如,第二AC值矩阵的尺寸为n2*m2(即第二AC值矩阵有n2行m2列元素),则生成一个像素尺寸为n2*m2的血液微循环热力图(即该血液微循环热力图中有n2行m2列像素点),该血液微循环热力图中的像素点的像素值等于第二AC值矩阵中对应的元素的元素值(血液微循环热力图中的像素点中任意(i,j)号的像素点的像素值等于第二AC值矩阵中对应的(i,j)号元素的元素值)。
例如,图5为示例性的人面的血液微循环热力图,在获取该血液微循环热力图时,被测者的面部视频信息的采样频率为20 fps、采样时长为5s,对第一掩膜和第二掩膜进行边缘缩小处理时的预设像素宽度为面部边缘线的最大像素距离的3%,预设修正系数为0.12。从该图中可以清晰看出面部不同区域的血液微循环状态。
由上可知,该血液微循环热力图获取装置,通过获取被测者的面部视频信息;对面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;通过滑窗方式获取第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;提取第一AC值矩阵的最大值作为AC值阈值;对面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;通过滑窗方式获取第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;对比第二AC值矩阵中各第二AC值与AC值阈值以修正第二AC值矩阵;根据修正后的第二AC值矩阵生成血液微循环热力图;从而可得到能够清晰看出面部不同区域的血液微循环状态的图像。
请参照图3,图3为本申请实施例提供的一种电子设备的结构示意图,本申请提供一种电子设备,包括:处理器301和存储器302,处理器301和存储器302通过通信总线303和/或其他形式的连接机构(未标出)互连并相互通讯,存储器302存储有处理器301可执行的计算机程序,当电子设备运行时,处理器301执行该计算机程序,以执行上述实施例的任一可选的实现方式中的血液微循环热力图获取方法,以实现以下功能:获取被测者的面部视频信息;对面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;通过滑窗方式获取第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;提取第一AC值矩阵的最大值作为AC值阈值;对面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;通过滑窗方式获取第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;对比第二AC值矩阵中各第二AC值与AC值阈值以修正第二AC值矩阵;根据修正后的第二AC值矩阵生成血液微循环热力图。
本申请实施例提供一种存储介质,其上存储有计算机程序,计算机程序被处理器执行时,执行上述实施例的任一可选的实现方式中的血液微循环热力图获取方法,以实现以下功能:获取被测者的面部视频信息;对面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;通过滑窗方式获取第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;提取第一AC值矩阵的最大值作为AC值阈值;对面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;通过滑窗方式获取第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;对比第二AC值矩阵中各第二AC值与AC值阈值以修正第二AC值矩阵;根据修正后的第二AC值矩阵生成血液微循环热力图。其中,存储介质可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(Static RandomAccess Memory, 简称SRAM),电可擦除可编程只读存储器(Electrically ErasableProgrammable Read-Only Memory, 简称EEPROM),可擦除可编程只读存储器(ErasableProgrammable Read Only Memory, 简称EPROM),可编程只读存储器(Programmable Red-Only Memory, 简称PROM),只读存储器(Read-Only Memory, 简称ROM),磁存储器,快闪存储器,磁盘或光盘。
在本申请所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
再者,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上所述仅为本申请的实施例而已,并不用于限制本申请的保护范围,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (10)

1.一种血液微循环热力图获取方法,用于获取人面的血液微循环热力图,其特征在于,包括步骤:
A1.获取被测者的面部视频信息;
A2.对所述面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;
A3.通过滑窗方式获取所述第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;
A4.提取所述第一AC值矩阵的最大值作为AC值阈值;
A5.对所述面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;
A6.通过滑窗方式获取所述第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;
A7.对比所述第二AC值矩阵中各所述第二AC值与所述AC值阈值以修正所述第二AC值矩阵;
A8.根据修正后的所述第二AC值矩阵生成血液微循环热力图。
2.根据权利要求1所述的血液微循环热力图获取方法,其特征在于,步骤A2包括:
对所述面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据;
根据所述位置数据生成第一掩膜,所述第一掩膜中与所述面部各部分对应的位置的值为1,其它部分的值为0;
对所述第一掩膜进行边缘缩小处理和去除眼部区域和嘴巴区域的处理,得到处理后的第一掩膜;
用所述处理后的第一掩膜对所述面部视频信息中的图像序列进行掩膜操作,得到所述第一面部图像序列。
3.根据权利要求1所述的血液微循环热力图获取方法,其特征在于,步骤A3包括:
用预设步长对所述第一面部图像序列的各图像进行滑窗扫描,计算各滑窗窗口区域的有效像素点的像素均值;所述有效像素点为像素值非零的像素点;
以所述第一面部图像序列的各图像的同一滑窗窗口区域的所述像素均值为第一IPPG信号值,获取每个所述滑窗窗口区域的第一IPPG信号;
提取所述第一IPPG信号的波峰值数据集和波谷值数据集;
通过以下公式计算各所述滑窗窗口区域的有效像素点的第一AC值,并把各所述滑窗窗口区域的非有效像素点的第一AC值设为0,得到所述第一AC值矩阵:
Figure DEST_PATH_IMAGE002
其中,
Figure DEST_PATH_IMAGE004
为第j个所述滑窗窗口区域的有效像素点的第一AC值,
Figure DEST_PATH_IMAGE006
为第j个所述滑窗窗口区域的所述第一IPPG信号的波峰值数据集里的第i个波峰值,
Figure DEST_PATH_IMAGE008
为第j个所述滑窗窗口区域的所述第一IPPG信号的波谷值数据集里的第i个波谷值,
Figure DEST_PATH_IMAGE010
为第j个所述滑窗窗口区域的所述第一IPPG信号的周期波数量。
4.根据权利要求1所述的血液微循环热力图获取方法,其特征在于,步骤A5包括:
对所述面部视频信息中的图像序列的图像进行语义分割,以提取面部各部分的位置数据;
根据所述位置数据生成第二掩膜,所述第二掩膜中与所述面部各部分对应的位置的值为1,其它部分的值为0;
对所述第二掩膜进行边缘缩小处理,得到处理后的第二掩膜;
用所述处理后的第二掩膜对所述面部视频信息中的图像序列进行掩膜操作,得到所述第二面部图像序列。
5.根据权利要求1所述的血液微循环热力图获取方法,其特征在于,步骤A6包括:
用预设步长对所述第二面部图像序列的各图像进行滑窗扫描,计算各滑窗窗口区域的有效像素点的像素均值;所述有效像素点为像素值非零的像素点;
以所述第二面部图像序列的各图像的同一滑窗窗口区域的所述像素均值为第二IPPG信号值,获取每个所述滑窗窗口区域的第二IPPG信号;
提取所述第二IPPG信号的波峰值数据集和波谷值数据集;
通过以下公式计算各所述滑窗窗口区域的有效像素点的第二AC值,并把各所述滑窗窗口区域的非有效像素点的第二AC值设为0,得到所述第二AC值矩阵:
Figure DEST_PATH_IMAGE012
其中,
Figure DEST_PATH_IMAGE014
为第k个所述滑窗窗口区域的有效像素点的第二AC值,
Figure DEST_PATH_IMAGE016
为第k个所述滑窗窗口区域的所述第二IPPG信号的波峰值数据集里的第m个波峰值,
Figure DEST_PATH_IMAGE018
为第k个所述滑窗窗口区域的所述第二IPPG信号的波谷值数据集里的第m个波谷值,
Figure DEST_PATH_IMAGE020
为第k个所述滑窗窗口区域的所述第二IPPG信号的周期波数量。
6.根据权利要求1所述的血液微循环热力图获取方法,其特征在于,步骤A7包括:
把所述第二AC值矩阵中大于所述AC值阈值的所述第二AC值乘以预设修正系数;所述预设修正系数大于0且小于1。
7.根据权利要求1所述的血液微循环热力图获取方法,其特征在于,步骤A8包括:
以修正后的所述第二AC值矩阵中的各所述第二AC值为各像素点的像素值生成所述血液微循环热力图。
8.一种血液微循环热力图获取装置,用于获取人面的血液微循环热力图,其特征在于,包括:
第一获取模块,用于获取被测者的面部视频信息;
第一掩膜模块,用于对所述面部视频信息中的图像序列进行第一掩膜处理,得到去除眼部区域和嘴巴区域且缩小边缘的第一面部图像序列;
第一计算模块,用于通过滑窗方式获取所述第一面部图像序列中对应每个滑窗窗口区域的像素点的第一IPPG信号的第一AC值,得到第一AC值矩阵;
提取模块,用于提取所述第一AC值矩阵的最大值作为AC值阈值;
第二掩膜模块,用于对所述面部视频信息中的图像序列进行第二掩膜处理,得到保留眼部区域和嘴巴区域且缩小边缘的第二面部图像序列;
第二计算模块,用于通过滑窗方式获取所述第二面部图像序列中对应每个滑窗窗口区域的像素点的第二IPPG信号的第二AC值,得到第二AC值矩阵;
修正模块,用于对比所述第二AC值矩阵中各所述第二AC值与所述AC值阈值以修正所述第二AC值矩阵;
生成模块,用于根据修正后的所述第二AC值矩阵生成血液微循环热力图。
9.一种电子设备,其特征在于,包括处理器和存储器,所述存储器存储有所述处理器可执行的计算机程序,所述处理器执行所述计算机程序时,运行如权利要求1-7任一项所述血液微循环热力图获取方法中的步骤。
10.一种存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时运行如权利要求1-7任一项所述血液微循环热力图获取方法中的步骤。
CN202210037248.XA 2022-01-13 2022-01-13 血液微循环热力图获取方法、装置、电子设备及存储介质 Active CN114241582B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210037248.XA CN114241582B (zh) 2022-01-13 2022-01-13 血液微循环热力图获取方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210037248.XA CN114241582B (zh) 2022-01-13 2022-01-13 血液微循环热力图获取方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN114241582A true CN114241582A (zh) 2022-03-25
CN114241582B CN114241582B (zh) 2024-05-10

Family

ID=80746507

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210037248.XA Active CN114241582B (zh) 2022-01-13 2022-01-13 血液微循环热力图获取方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN114241582B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016158624A1 (ja) * 2015-03-30 2016-10-06 国立大学法人東北大学 生体情報計測装置、生体情報計測方法、生体情報表示装置及び生体情報表示方法
US20180005085A1 (en) * 2016-06-29 2018-01-04 Niramai Health Analytix Pvt. Ltd. Blood vessel extraction in two-dimensional thermography
US20180174490A1 (en) * 2016-12-15 2018-06-21 The Brigham And Women's Hospital, Inc. Methods and systems for generating fluid simulation models
US20190008402A1 (en) * 2014-10-04 2019-01-10 Government Of The United States, As Represented By The Secretary Of The Air Force Non-Contact Assessment of Cardiovascular Function using a Multi-Camera Array
CN110353700A (zh) * 2019-07-29 2019-10-22 苏州市高事达信息科技股份有限公司 非接触式血氧饱和度检测方法
US20200302609A1 (en) * 2019-03-19 2020-09-24 Arizona Board Of Regents On Behalf Of Arizona State University Detecting abnormalities in vital signs of subjects of videos
CN113450329A (zh) * 2021-06-29 2021-09-28 广州医软智能科技有限公司 一种微循环图像血管分支红细胞流速计算方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190008402A1 (en) * 2014-10-04 2019-01-10 Government Of The United States, As Represented By The Secretary Of The Air Force Non-Contact Assessment of Cardiovascular Function using a Multi-Camera Array
WO2016158624A1 (ja) * 2015-03-30 2016-10-06 国立大学法人東北大学 生体情報計測装置、生体情報計測方法、生体情報表示装置及び生体情報表示方法
US20180005085A1 (en) * 2016-06-29 2018-01-04 Niramai Health Analytix Pvt. Ltd. Blood vessel extraction in two-dimensional thermography
US20180174490A1 (en) * 2016-12-15 2018-06-21 The Brigham And Women's Hospital, Inc. Methods and systems for generating fluid simulation models
US20200302609A1 (en) * 2019-03-19 2020-09-24 Arizona Board Of Regents On Behalf Of Arizona State University Detecting abnormalities in vital signs of subjects of videos
CN110353700A (zh) * 2019-07-29 2019-10-22 苏州市高事达信息科技股份有限公司 非接触式血氧饱和度检测方法
CN113450329A (zh) * 2021-06-29 2021-09-28 广州医软智能科技有限公司 一种微循环图像血管分支红细胞流速计算方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
赵彦涛;付美玲;王斌;张旭光;李小俚;: "基于主成分分析和重叠直方图统计的视频信号心率测量", 中国生物医学工程学报, no. 03, 20 June 2016 (2016-06-20), pages 284 - 291 *
陈辉;郑秀娟;倪宗军;张昀;杨晓梅;: "基于面部视频分析的生命体征检测", 北京航空航天大学学报, no. 09, pages 1770 - 1777 *

Also Published As

Publication number Publication date
CN114241582B (zh) 2024-05-10

Similar Documents

Publication Publication Date Title
US9710907B2 (en) Diagnosis support system using panoramic radiograph and diagnosis support program using panoramic radiograph
CN107292877B (zh) 一种基于眼底图像特征的左右眼识别方法
McDuff et al. Fusing partial camera signals for noncontact pulse rate variability measurement
US20180350080A1 (en) Analysis method and system of digital subtraction angiographic images
Feng et al. Motion artifacts suppression for remote imaging photoplethysmography
WO2019110312A1 (en) A system and method for detecting motion sickness
Kumari et al. Blood vessel extraction using wiener filter and morphological operation
Newman et al. Automatic nystagmus detection and quantification in long-term continuous eye-movement data
CN113920119B (zh) 一种基于热成像技术的心率呼吸分析处理方法
Dikkala et al. A comprehensive analysis of morphological process dependent retinal blood vessel segmentation
Escorcia-Gutierrez et al. Convexity shape constraints for retinal blood vessel segmentation and foveal avascular zone detection
Cho et al. Reduction of motion artifacts from remote photoplethysmography using adaptive noise cancellation and modified HSI model
Mehta et al. Heart rate estimation from RGB facial videos using robust face demarcation and VMD
JP4302180B2 (ja) 局所血流動態に関するインデックスを演算する方法及び装置
CN114241582B (zh) 血液微循环热力图获取方法、装置、电子设备及存储介质
Lopes et al. A deep learning approach to detect hyoid bone in ultrasound exam
Lian et al. Research on non-contact multi-person heart rate measurement method for intelligent education
CN113361480A (zh) 基于人脸视频的人体脉搏波获取方法
Pansare et al. Heart Rate Measurement from Face and Wrist Video
Gambi et al. Sensitivity of the contactless videoplethysmography-based heart rate detection to different measurement conditions
Napier et al. A CAD system for brain haemorrhage detection in head CT scans
Pursche et al. Multi-person remote heart-rate measurement from human faces-a cnn based approach
CN111626974A (zh) 冠状动脉造影图像序列的质量评分方法和装置
Aloudat et al. Histogram analysis for automatic blood vessels detection: First step of IOP
Kiyama et al. Development of robust video-oculography system for non-invasive autonomic nerve quantification

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant