CN102576458B - 用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量的方法和系统 - Google Patents

用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量的方法和系统 Download PDF

Info

Publication number
CN102576458B
CN102576458B CN201080045245.6A CN201080045245A CN102576458B CN 102576458 B CN102576458 B CN 102576458B CN 201080045245 A CN201080045245 A CN 201080045245A CN 102576458 B CN102576458 B CN 102576458B
Authority
CN
China
Prior art keywords
signal
value
signals
output signal
transformation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201080045245.6A
Other languages
English (en)
Other versions
CN102576458A (zh
Inventor
I.O.基伦科
V.珍妮
G.德哈安
A.J.范里斯特
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN102576458A publication Critical patent/CN102576458A/zh
Application granted granted Critical
Publication of CN102576458B publication Critical patent/CN102576458B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30076Plethysmography

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Cardiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Physiology (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Image Processing (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)

Abstract

本发明涉及一种用于进行远程光体积描记的方法,所述方法促进获得第一信号(42;50a-n)进行分析以便表征该第一信号的至少一个周期性分量,所述至少一个周期性分量对应于生物体内的生物现象,所述方法包括:获得代表所捕获的电磁辐射的强度的至少两个第二信号(18-20),其中每一个第二信号与相应的不同辐射频率范围相对应。第一信号(42;50a-n)至少可以从通过对第二信号(18-20;55-57)应用变换(22,26,30)而获得的输出信号(31)导出,从而使得输出信号(31)的任何值是基于来自对应时间点处的每一个相应的第二信号(18-20;55-57)的值。所述方法还包括在捕获对应于第二信号(18-20;55-57)的信号以及应用变换(22,26,30)时,通过以下措施的至少其中之一获得决定相应的第二信号(18-20;55-57)的至少一些分量对输出信号(31)的影响的至少一个变量的至少一个值:(i)分析第二信号(18-20;55-57)、通过对第二信号(18-20)应用变换(22,26,30)获得的输出信号(31)以及从输出信号(31)导出的第一信号(42;50a-n)中的至少一个,并且利用所述分析来选择与相应的其中一个变量相对应的至少一个参数(54)的至少一个值;以及(ii)计算与相应的其中一个变量相对应的至少一个时变因数的值,其中每一个因数值基于至少一个第二信号值,以及在多个并行操作序列当中的至少一个操作序列内的一个操作中应用每一个因数,并且将与相应的其中一个第二信号(55-57)相对应的信号取作输入,其中所述操作序列包括至少一个所述操作。

Description

用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量的方法和系统
技术领域
本发明涉及一种用于进行远程光体积描记的方法,所述方法促进获得第一信号进行分析以便表征该第一信号的至少一个周期性分量,所述至少一个周期性分量对应于生物体内的生物现象。
本发明还涉及一种用于进行远程光体积描记的系统,所述系统用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量,所述至少一个周期性分量对应于生物体内的生物现象。
本发明还涉及一种计算机程序。
背景技术
其申请人与本申请相同的欧洲专利申请号09154493.2之前被提交,并且在本申请的优先权日期之后被公布。其描述了一种被设置成处理图像序列的系统。所述系统实施该处理,以便基于图像的像素数据确定一个信号的频谱中的至少一个峰值的存在和频率值的至少其中之一,其中所述图像对应于某一种周期性生理现象的频率。对所述图像序列的至少其中之一执行图像分段算法。在所述图像序列当中跟踪被确定为对应于所期望类型的身体部分的一个或更多不同节段。对于每一个所选择和跟踪的节段,选择一个测量区。对于每一个测量区,生成代表对应于该测量区的像素的时变平均亮度的信号。所述亮度可以是各个颜色分量的加权和,或者仅仅是一个颜色分量的值。所述信号以其均值为中心,并且使用基本的信号处理技术至少在一定范围内确定信号频谱的一个或更多局部最大值,所述范围已知包括对应于感兴趣的生物(通常是人类)的典型心率值和/或呼吸率值。
发明内容
希望提供一种用于进行远程光体积描记的方法、系统和计算机程序,所述方法、系统和计算机程序用于促进获得第一信号进行分析以便表征该第一信号的至少一个周期性分量,其中感兴趣的分量与噪声(例如由于运动和照明改变而导致的噪声)相对明显地区分开。
为此,本发明提供一种用于进行远程光体积描记的方法,所述方法促进获得第一信号进行分析以便表征该第一信号的至少一个周期性分量,所述至少一个周期性分量对应于生物体内的生物现象,所述方法包括:
获得代表所捕获的电磁辐射的强度的至少两个第二信号,其中每一个第二信号对应于相应的不同辐射频率范围,
第一信号至少可以从通过对第二信号应用变换而获得的输出信号导出,从而使得输出信号的任何值是基于来自对应时间点处的每一个相应的第二信号的值,
在捕获对应于第二信号的信号以及应用变换时,通过以下措施的至少其中之一获得决定相应的第二信号的至少一些分量对输出信号的影响的至少一个变量的至少一个值:
(i)分析第二信号、通过对第二信号应用变换获得的输出信号以及从输出信号导出的第一信号中的至少一个,以及
利用所述分析来选择与相应的其中一个变量相对应的至少一个参数的至少一个值;以及
(ii)计算与相应的其中一个变量相对应的至少一个时变因数的值,其中每一个因数值基于至少一个第二信号值,
以及在多个并行操作序列当中的至少一个操作序列中的一个操作中应用每一个因数,并且将与相应的其中一个第二信号相对应的信号取作输入,其中所述操作序列包括至少一个所述操作。
所述方法适于促进这样一种方法,其中捕获反射、透射或辐射光并且进行处理,以便获得代表基于不同频率范围(其在这里也被称作颜色通道)内的强度值的一个值的至少一些变化的信号。分析该信号以便表征从中捕获所述反射、透射和/或发射光的场景中特定周期性现象。因为特定颜色通道由于感兴趣的现象而表现出弱于其他通道的变化,而运动和照明改变又会影响每一个第二信号,因此对第二信号所应用的变换适于获得具有增强信噪比的输出信号。但是简单地从其中一个第二信号中减去另一个通常将不足以去除运动和照明改变的影响。在捕获对应于第二信号的信号并且应用变换时,通过分析第二信号、输出信号和第一信号中的至少一个以及利用所述分析来选择决定相应的第二信号的至少一些分量对输出信号的影响的至少一个参数的至少一个值,确立每一个颜色通道是否应当影响输出信号(从而影响第一信号)以及影响程度。相应的参数值影响被用来获得输出信号的少于所有第二信号。其特别可能会影响第二信号对输出信号的影响程度,也就是说在被用来获得输出信号的第二信号的混合中受到所述参数值影响的第二信号的相对强度。与从一个波长下获得的强度信号中减去另一个波长下获得的强度信号的方法相比或者与取得比值的方法相比,本发明的方法对于分别包含至少在有限程度上与周期性的感兴趣现象相关联的分量的第二信号工作良好。使用来自多个通道的有关信息,同时抑制多余的信息。
这对于其中计算至少一个时变因数的值并且每一个因数值基于至少一个第二信号值的情况同样成立,这是因为实现了某种归一化。通过把所述因数应用于基于相应的第二信号的信号,获得颜色空间内的一种变换,特别是一种归一化。由于所述因数是时变的,因此可以去除背景照明光谱中的改变,从而改进信噪比。随后可以把通过应用所述因数获得的信号组合成一个信号,从该信号至少可以导出第一信号,这是这样的事实所暗示的,即所述因数是决定在应用所述变换时的相应的第二信号的至少一些分量对输出信号的影响的变量。在这方面,所述方法不同于简单地取得各个颜色分量的比值并且表征该比值的周期性分量的那些方法。据观察,基于相应的其中一个第二信号的信号分别对应于相应的其中一个第二信号、其标量倍数或者通过对其中一个第二信号应用其中另一个因数而获得的信号。因此,在计算至少一个时变因数的值的情况下,每一个第二信号形成去到其中应用所计算的因数的由一个或更多操作构成的相应序列的输入。随后把各个输出组合成一个输出信号,从该输出信号至少可以导出第一信号。
在一个实施例中,对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个的分析被用来选择决定相应的第二信号的至少一些分量对输出信号的影响的至少一个参数的至少一个值,以便最大化第一信号的频谱的一个有限部分中的相对信号强度。
因此,在先验地知道第一信号的总频谱的一个特定范围包括与感兴趣的现象相关联的信息的情况下,所述方法改进了该范围内的信噪比。
在一个实施例中,所述变换包括至少一个参数化操作,并且对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个的分析被用来选择所述操作的至少一个参数的值。
与选择影响场景照明的参数的做法相比,该实施例相对一定会得到良好的结果。此外,该实施例与改变照明条件的做法相比没有那么生硬。
在一种变型中,所述操作是取得以不同方式基于第二信号的至少两个输入的操作。
所述输入可以简单地对应于包括在不同的相应的第二信号中的值,或者例如其中一个是和,另一个是差。该实施例允许将所述两个输入组合,其中使得所述参数值例如决定对于被组合的输入所应用的乘法因数或相位改变。
在另一种变型中,所述变换包括利用至少一个参数值在相应的输入信号上并行地实施的操作,其中所述至少一个参数值特定于少于所有的输入信号。
因此就提供了一种影响不同的第二信号在输出信号中的突出性的替换方式。
在另一种变型中,所述变换包括至少一个参数化非线性操作,并且对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个的分析被用来选择所述操作的至少一个参数的值。
因此,可以使得特定颜色通道对于所述变换的输出信号的影响取决于幅度和/或频率。这种变型例如可以被用来允许一个颜色通道中的大信号波动而不是小信号波动影响输出信号,反之亦然。
在一个实施例中,所述变换包括对于相应的输入信号并行地实施的操作,其中每一个输入信号是第二信号与至少一个非零系数的不同线性组合,所述操作包括取得输入信号的对数。
一般来说,所述操作将对于相应的输入信号实施,所述输入信号是第二信号的标量倍数或者对应于第二信号。
周围照明水平的变化在许多情况下将在近似相同的程度上影响每一个颜色通道。实质上,每一个第二信号是通过代表周围照明水平的变化的信号进行调制的结果。所述对数的输出是具有与周围照明水平的乘法变化相关的加法分量的信号。可以把输出视为代表周围照明水平变化的信号与独立于周围照明水平变化并且包括代表感兴趣的周期性现象的分量的信号的和。后一个信号对于每一个颜色通道通常是不同的,这是因为每一个颜色通道受到所述周期性现象的不同影响。可以相对容易地抑制代表周围照明水平的变化的信号。这样做的一种方式是通过一个后续操作,其把至少从包括取得对数的所述操作的相应输出信号导出的输入信号投影到多维空间内的一个平面上。该多维空间通常将具有一定数目的维度,所述维度的数目等于第二信号的数目(例如在第二信号代表红色、绿色和蓝色通道的情况下是三个)。所述多维空间可以被想作一个颜色空间。应当提到的是,由于被不完美地跟踪的感兴趣区段的移动而造成的变化会导致与周围照明水平的变化类似的效果,所述效果在该实施例中类似地得到抑制。
在一个实施例中,每一个第二信号包括一个图像帧序列,所述图像帧由代表在相关联的辐射频率范围内捕获的电磁辐射的强度的像素值构成。
该实施例相对容易利用视频摄影机来实施,这是因为这样的摄影机已经包括用以提供多个颜色通道内的图像帧的滤波器。此外,可以通过将来自图像中的不同位置的像素值组合形成第一信号或其前驱形式来减少随机噪声。
在一个实施例中,所述第二信号包括这样的第二信号:其包括在电磁频谱的被调谐到水的吸收频谱中的峰值的一部分内所捕获的电磁辐射的强度值。
该实施例适于促进获得第一信号进行分析,以便表征该第一信号的至少一个周期性分量,其中所述周期性分量对应于从中捕获辐射、反射或透射光的生物体内的生物现象。具体来说,这种变型可以被用来促进实施一种用于确定生物的心率的光体积描记方法。
在一个实施例中,所述第二信号包括这样的第二信号:其包括在电磁频谱的对应于500nm到600nm之间的波长值范围的一个部分内所捕获的电磁辐射的强度值。
该实施例类似地适于促进获得第一信号进行分析,以便表征该第一信号的至少一个周期性分量,其中所述周期性分量对应于从中捕获辐射、反射或透射光的生物体内的生物现象。包括在电磁频谱的对应于500nm到600nm之间的波长值范围的一个部分内所捕获的电磁辐射的强度值的所述第二信号将包含关于受照(皮肤)组织中的氧合血红蛋白水平改变的信息。
在一个实施例中,所述分析包括对分别基于多个第二信号的数据集合实施主分量分析。
该实施例提供了一般方法的分析步骤的一种适当的实现方式,其中一个第二信号相对较强地与感兴趣的周期性现象相关,另一个信号则相对较弱地与之相关。可以对所述信号进行矩阵操作,以便获得作为第一信号的基础的输出信号,特别是第一信号与之相对应的输出信号。所述矩阵操作的参数是从所述主分量导出的。通过对第二信号实施主分量分析允许确定各个第二信号之间的相关性。其中一个主分量将对应于代表感兴趣的周期性现象的信号分量。包括基于所述主分量分析的参数的矩阵操作被设置成获取该主分量以作为第一信号,或者获取可以直接从中获得第一信号的一个信号。
在一个实施例中,其中对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个进行分析,并且所述分析被用来选择在捕获对应于第二信号的信号以及应用变换时决定相应的第二信号或其至少一些分量对输出信号的影响的至少一个参数的至少一个值,该实施例还包括使得所述至少一个参数的所选值被加载到一个系统中,所述系统包括:
用于获得代表所捕获的电磁辐射的强度的至少两个第二信号的接口,其中每一个第二信号与相应的不同辐射频率范围相对应;以及
用于对第二信号应用变换以便获得至少可以从中导出第一信号的输出信号的信号处理系统,输出信号的任何值都是基于来自共同时间点处的每一个相应的第二信号的值,
其中,所述系统被设置成至少部分地根据所述至少一个参数的加载值来确定相应的第二信号对输出信号的影响。
因此,该实施例被用来找到用在被制造成实施一种获得第一信号的方法的系统中的适当参数值,其中所述方法是通过以下步骤实现的:获得代表所捕获的电磁辐射强度的至少两个第二信号,每一个第二信号与相应的不同辐射频率范围相对应;以及对第二信号应用变换以便产生输出信号,所述输出信号的任何值是基于来自对应时间点处的每一个相应的第二信号的值。
在一个实施例中,连续地实施所述分析以及对于至少一个参数值的所述选择,同时对第二信号进行处理以便获得第一信号。
因此,该实施例提供了一种连续地适配成确保提供第一信号的方法,其中感兴趣的周期性分量被相对明确地定义。
在一个实施例中,所述至少一个时变因数包括可以通过计算来自所述至少一个第二信号当中的每一个的相应值的线性组合而获得的因数,并且该因数的相同值被用在每一个并行操作序列中。
该实施例的一个效果是关于与感兴趣的周期性现象无关的照明变化实施了归一化。由于不同颜色通道中的信号(各个第二信号)受到这种变化的影响程度基本上相同,因此任何线性组合都将导致在至少一定程度上去除由于所述照明变化而造成的调制。
在该实施例的一种变型中,与在捕获对应于第二信号的信号并且应用变换时决定相应的第二信号的至少一些分量对输出信号的影响的相应的其中一个变量相对应的参数包括所述线性组合的至少一个系数。
在该实施例中,可以为所述因数给出一个值,该值导致变换到颜色空间内的一个平面,其通常平行于颜色空间内的对应于由于感兴趣的周期性现象而导致的变化的一条线。举例来说,在远程光体积描记的情况下,在彩色图像序列中表示的由于对象的心搏和/或呼吸而造成的脉冲血流将导致所述对象的暴露出的皮肤的颜色变化。在没有由于图像中的颜色改变的其他原因而导致的噪声的情况下,上述变化在颜色空间内是沿着一条线。通过投影到一个平行的平面上往往将会去除由于其他原因而导致的变化。
在一种变型中,其中每一个第二信号包括图像帧序列,所述图像帧由代表在相关联的频率范围内捕获的电磁辐射的强度的像素值构成,对于每个像素实施所述并行序列中的操作,其中对于每一个像素位置计算一个因数值。
在所述方法的另一个实施例中,对于至少其中一个因数,对于每一个并行序列计算对应的关联时间点处的单独值,其中每一个单独值是从被所涉及的序列取作输入的第二信号的多个值获得的,所述多个值与跨越一定间隔的相应时间点相关联,所述间隔包括与所述因数值相关联的时间点。
一个效果是实施颜色归一化。由于所述因数值分别是从被所涉及的第二序列取作输入的第二信号的多个值获得的,其中所述多个值与跨越一定间隔的相应时间点相关联,所述间隔包括与所述因数值相关联的时间点,因此可以去除相对缓慢地变化的背景颜色改变。与感兴趣的现象(例如在对应于第二信号的图像信号中表示的对象的脉冲血流)相关联的那些颜色改变则得以保留。
在该实施例的一种变型中,计算所述因数值包括计算与至少两个时间点相关联的第二信号值的平均值。
通过求平均去除了变化的影响。
在另一种变型中,各个第二信号在时间上是离散的,并且对于每一个因数值的计算包括取得与至少两个时间点相关联的第二信号值的平均值,其中一个对应于与所述因数值相关联的时间点。
与所述因数值相关联的时间点是与在所述操作序列内的有关操作中为之应用因数值的信号值相关联的时间点。这种变型的一个效果是确保所述平均值尽可能密切地近似瞬时平均值,从而可以更加精确地去除更加快速的背景变化。
根据另一方面,根据本发明的系统用于进行远程光体积描记,所述系统用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量,所述至少一个周期性分量对应于生物体内的生物现象,所述系统包括:
用于获得代表所捕获的电磁辐射的强度的至少两个第二信号的接口,其中每一个第二信号与相应的不同辐射频率范围相对应,
至少可以从能够通过对第二信号应用变换获得的输出信号导出第一信号,从而使得输出信号的任何值都是基于来自对应时间点处的每一个相应的第二信号的值,其中所述系统被设置成:
在捕获对应于第二信号的信号以及应用变换时,通过以下措施的至少其中之一获得决定相应的第二信号的至少一些分量对输出信号的影响的至少一个变量的至少一个值:
(i)分析第二信号、输出信号以及第一信号中的至少一个,并且利用所述分析来选择与相应的其中一个变量相对应的至少一个参数的至少一个值;以及
(ii)计算与相应的其中一个变量相对应的至少一个时变因数的值,其中每一个因数值基于至少一个第二信号值,
以及在多个并行操作序列当中的至少一个操作序列内的一个操作中应用每一个因数,并且将与相应的其中一个第二信号相对应的信号取作输入,其中所述操作序列包括至少一个这样的操作。
在一个实施例中,所述系统被配置成实施根据本发明的方法。
根据本发明的另一方面,提供包括指令集合的计算机程序,当被合并到机器可读介质中时,所述指令集合能够使得具有信息处理能力的系统施行根据本发明的方法。
附图说明
下面将参照附图更加详细地解释本发明,其中:
图1是用于从信号中提取信息的系统的方框图,所述信号是通过对代表所捕获的电磁辐射的强度的至少两个第二信号应用变换而获得的,其中每一个第二信号与相应的不同辐射频率范围相对应;
图2是由所述系统实施的方法的流程图;
图3是示出了由所述系统应用的变换的图示;
图4是示出了在第一种变型中由所述系统实施来获得用于进行分析的信号以便表征其至少一个周期性分量的一些步骤的流程图;
图5是示出了在第二种变型中由所述系统实施来获得用于进行分析的信号以便表征其至少一个周期性分量的一些步骤的流程图;以及
图6是示出了获得第一信号进行分析以便表征其至少一个周期性分量的一种替换方法的流程图。
具体实施方式
在图1中通过举例的方式示出了一种用于实施远程光体积描记的系统。光体积描记成像是基于以下原理:皮肤下方的血量的时间变化导致由皮肤吸收的光的变化。可以通过取得某一皮肤区域的图像并且计算一个所选区段上的像素平均值来检测及测量这样的变化。还可以通过利用光照明皮肤的一个所选区域并且利用光电传感器测量反射光的强度来检测所述变化。在这里使用的实例中,图1的系统被设置成确定生物的心率值。但是相同的系统也可以被用来表征某种其他的周期性生物现象(例如呼吸率或氧合水平)的相位和/或频率。
应当提到的是,图1所示的系统和下面将解释的原理还可以被用来从图像中采集时间上振动或脉冲的非生物信号。适当的应用的实例包括监测工业装备和处理以便通过分析振动来预测即将发生的故障,以及远程检测机动车中的引擎的每秒转数以便确定其速度。在所有这些实例中,正如这里将要详细解释的实例中那样,使用一种对于照明改变以及对于与将要分析的周期性现象无关的运动鲁棒的方法。
在所示实施例中,所述系统包括数据处理系统1,其可以是配备有适当接口的通用计算机或专用设备。数据处理系统1包括数据处理设备2和主存储器3以及大容量存储设备4。其至少还包括去到输出设备6的接口5。
该例的数据处理系统1被设置成通过接口8从视频摄影机7采集图像序列。更精确地说,数据处理系统1被设置成在相应的颜色通道中接收多个图像帧序列。特定颜色通道内的图像帧包括代表在电磁频谱的特定范围内捕获的电磁辐射的强度的像素值。这是由于包括在视频摄影机7中的彩色滤波器而实现的。
不同颜色通道中的图像帧序列通常是同步的,在这种意义上,来自每一个通道的一个图像帧都与特定时间点相关联。如果视频摄影机7仅有一个光电传感器阵列,则在相关联的图像帧之间会有微小的时间偏移,但是所述偏移将比对应于捕获完整图像的频率的偏移小一个数量级。但是通常来说,视频摄影机7将具有多个光电传感器阵列,因此可以同时捕获各个图像帧。在一个替换实施例中,使用多个视频摄影机。
应当提到的是,所述系统还使用具有适当滤波器的光电传感器9-11来获得代表所捕获的电磁辐射的强度的信号,所述信号分别对应于一个相应的不同频率范围。来自光电传感器9、10、11的信号被数据处理系统1通过接口12接收到。在这样的实施例的一种变型中,第一传感器9被设置成捕获红色光,第二传感器10捕获蓝色光,并且第三传感器11捕获绿色光。在一个替换实施例中,其中一个传感器9-11被设置成捕获信号(模拟或数字),所述信号包括在电磁辐射频谱的一个部分内捕获的电磁辐射的强度值,所述部分对应于包括在500nm到600nm范围内的仅仅一个范围内的空气中波长。其对应于可见光谱的绿色部分。
在同一个或另一个实施例中,其中一个传感器9-11被调谐到对应于水的吸收频谱中的峰值的频率。频谱的可见部分中的适当频率是对应于514、606、660或739nm的空气中波长的那些频率。在一种替换的变型中,其中一个传感器9-11被调谐到刚好在频谱的可见部分之外的频率(其处在红外附近)。具体来说,所述传感器可以被调谐到对应于836nm或970nm的空气中波长的频率。硅光电传感器对于800到1000nm范围内的辐射特别敏感,因此这样的实施例得到了所捕获的强信号。硅光电传感器相对便宜且常见。虽然视频摄影机7和光电传感器9-11都在图1中示出,但是应当理解的是,所述系统通常可以仅仅使用这些模式的其中之一来捕获代表对应于不同的相应辐射频率范围的所捕获电磁辐射的强度的信号。本发明的描述将在利用视频摄影机7的实施例的基础上继续。
在一个实施例中,使用具有红色、绿色和蓝色通道的标准视频摄影机7。在另一个实施例中,所述通道可以是蓝绿色、黄色和品红色。
一个实施例使用具有滤波器的经过适配的视频摄影机7,其只允许包括在对应于500nm到600nm之间的空气中波长的频率范围内的一个有限范围内的光进入。这意味着该通道内的图像帧包括对应于所捕获的绿色光强度的像素值。
另一个实施例包括具有被调谐到水的吸收频谱中的峰值的滤波器的经过适配的视频摄影机7。具体来说,所述滤波器可以被调谐到对应于514、606、660或739nm的空气中波长的频率。如果希望在相对较暗的情况下使用图1的系统,则所述滤波器可以被调谐到刚好在光谱的可见部分之外的频率(其处在红外附近)。具体来说,所述传感器可以被调谐到对应于836nm或970nm的空气中波长的频率。这样做的效果在于可以使用具有传统CMOS或CCD阵列的视频摄影机7。这样的传感器对于800到1000nm之间的范围内的辐射特别敏感,因此这样的实施例得到所捕获的强信号。当被用来捕获一个或更多生物的图像时,该通道内的像素值随着血浆流发生相对较强的变化。因此有可能提取出具有其频率对应于所述生物的心率的相对较强分量的第一信号,正如后面将解释的那样。
在所示实施例中,图1的系统配备有(可选的)光源13-15的集合,其中的每一个光源被调谐到特定的频率范围。在一个实施例中,光源13-15频率或频率范围被调谐到对应于视频摄影机7的各个通道的频率或频率范围。数据处理系统1被配置成通过适当的接口16控制在相应的频率范围内发出的光的强度。在另一个实施例中,数据处理系统1光源13-15是可调谐的,并且数据处理系统1被设置成选择控制光源13-15在其中发光的电磁频谱范围的适当参数值。这可以与用于视频摄影机7的可调谐滤波器相组合。
图2示出了由数据处理系统1实施的第一方法中的各个步骤,此外还将参照图3对其进行解释。在第一步骤17中,数据处理系统1加载来自每一个通道的图像帧的序列18-20。序列18-20是同步的,在这种意义上,特定时间点对应于来自每一个序列18-20的一个图像帧。因此,每一个序列形成一个信号,对该信号应用变换以便获得单个输出信号。所述变换的性质使得输出信号的每一个值是基于来自对应时间点处的每一个相应的第二信号的值。
就是说,所述变换包括多个操作,其中一些仅仅取得来自其中一个序列18-20的一个图像帧作为输入。在所示实施例中,所述方法包括对于来自每一个相应的序列18-20的一个帧并行地实施操作22a-c(图3)的步骤21。操作22a-c是参数化操作22a-c,这意味着其取得一个参数值作为另一个输入,所述参数值是对于每一个相应的通道单独地设定的。因此,一般来说其对于每一个相应的通道将是不同的。操作22a-c可以是如图3中所示的非线性操作。几种适当的操作的一个实例是伽马编码操作(Vout=Vin γ),其中对于每一个通道使用一个单独的伽马值。该步骤21的输出包括由经过单独处理的图像帧构成的三个并行序列23-25。
对于在先前步骤21中被提供作为输出的序列23-25实施下一个操作26(步骤27)。该操作26是取得以不同方式基于由经过单独处理的图像帧构成的序列23-25的至少两个输入的操作。在该例中,所述输入直接对应于序列23-25。在该例中,操作26是矩阵操作。其把三个图像帧变换成单个图像(即由基于各个像素值的值构成的阵列),从而把由经过单独处理的图像帧构成的序列23-25变换成单个图像序列28。该步骤27被实现成使得把对应于共同时间点的各个图像帧用作输入。
随后在另一个非线性操作30中对矩阵操作26的输出进行处理(步骤29)。该操作同样可以是伽马编码操作。其结果是图像的输出序列31(即由基于各个像素值的值构成的阵列)。从输出序列31中提取出至少一个信号(步骤32)进行分析,以便表征其至少一个周期性分量。所提取出的信号具有由单个值构成的序列的形式,这与由值的阵列构成的序列不同。每一个值都是基于来自输出序列31中的一个图像的多个像素值。
在图3中所示出的方法的一种替换实现方式中,对于来自每一个相应的序列18-20的一个帧并行地实施操作22a-c(图3)的步骤21不使用伽马编码操作。相反,操作22a-c包括取得序列18-20的各个像素值的对数。在该替换实现方式中,不必对操作22a-c进行参数化,但是其当然是非线性的。此外,在该实现方式中,对于相应的序列18-20并行逐帧地实施非线性操作22a-c的步骤21的输出包括由经过单独处理的图像帧构成的三个并行序列23-25。
取得对数可用于去除由于影响所有通道的照明改变而导致的信号分量。这样的改变是由受照对象的移动导致的(例如导致阴影落在各帧中的整个感兴趣区段上并且/或者是由背景照明的改变导致的)。所述改变通常是乘法的,在这种意义上,每一个通道中的感兴趣信号都被乘以一个调制因数,所述调制因数代表亮度改变以及照明源的光谱中的任何改变。通过取得对数,背景照明变为加法的,从而更加容易例如在后续的矩阵操作26中将其去除。矩阵操作26例如可以涉及投影在颜色空间内的一个平面上,从而导致完全或部分去除代表辉度改变的调制信号。取得对数不会明显地影响感兴趣的信号(也就是将从图像的输出序列31中提取出的信号),这是因为正如将会看到的那样,感兴趣的信号具有相对较小的变化。因此,通过观察自然对数的Taylor展开(lnz=(z-1)-1/2(z-1)2+…)将会看到,所述对数近似该信号。
在另一个实施例中(图2中未详细示出),在矩阵操作26之前是这样一个操作:其中减少或消除以大致相等的度量影响所有颜色通道的条件中的特定变化的效果。举例来说,在远程光体积描记中,周围照明改变、皮肤透射的改变以及对于感兴趣区段的不完美跟踪可能会导致每一个颜色通道中的信号的相同方式的调制。通过把相应的序列18-20的相关联的帧的每一个对应的像素值除以一个值来减少或去除这一效果,其中所述值是来自每一个序列18-20的像素值的线性组合。应当提到的是,可能有这样的实施例,其中所述线性组合的除了一个之外的所有系数都等于零。
可以如下写出不同的相应颜色通道中的图像帧的序列18-20:
其中,是一帧中的像素位置,t是对应于每一个相应的序列18-20中的一帧的时间点。于是可以如下写入矩阵操作26之前的步骤21中的去除或减少辉度变化的效果:
应当提到的是,这是一个参数化操作,并且可以通过分析由序列18-20代表的信号、从矩阵操作26得到的信号或者从后一个信号中提取出的信号中的至少一个来优化系数α、β、γ的值。但是一般来说,任何系数值集合都将提供一种效果,其中包括这些系数当中的两个具有零值的组合。
下面将描述提取至少一个信号进行分析以便表征其至少一个周期性分量的步骤32的实现方式。
在图4中示出了一种提取方法的第一实例。为了清楚起见省略了一些步骤。可以在一定程度上改变各个步骤的顺序,并且在早于所示的阶段实施特定步骤。具体来说,可以在从视频摄影机7接收图像序列18、19、20的阶段实施特定步骤。所示方法开始于获得(步骤33)从图2中所示的最后一个非线性处理步骤29得到的输出序列31。在下一步骤34中,对图像进行处理以便去除非周期性背景信号。在该步骤34的一种实现方式中,形成对应于序列31中的一部分或所有图像的平均亮度的校正信号。随后把像素数据与所述校正信号去相关。用于抵消非线性互相关的算法本身是已知的。在该步骤34中可以进行另外的图像处理以便例如补偿摄影机运动。
在图4的方法中,在图像序列31中跟踪感兴趣区段35(步骤37)。感兴趣区段35被选择成对应于代表生物的一部分(例如面部)的暴露出的皮肤的图像的一部分。例如在Viola, P.和Jones, M.J.的“Robust real-time object detection(鲁棒的实时对象检测)”(Proc. Of IEEE Workshop on statistical and computational theories of vision,2001年7月13日)中描述了一种用于选择这样的感兴趣区段35的适当算法。可以替换该技术或者与该技术组合来使用其他技术。
在整个序列31当中跟踪感兴趣区段35。在De Haan等人的“True-motion estimation with 3-D recursive search block matching(利用3-D回归搜索块匹配的真实运动估计)”(IEEE Transactions on circuits and systems for video technology3(5),1993年10月,pp. 368-379)中描述了一种适当的跟踪算法。可以替换该跟踪算法或者与该跟踪算法相组合地使用其他跟踪算法。
在所示实施例中,选择感兴趣区段35内的测量区36(步骤38)。通过对多个图像部分(每一个图像部分的尺寸为一个或更多图像点)进行空间和/或时间分析来选择测量区36,以便确定具有类似特性的邻接部分集合。一种适当的算法是用于选择具有最小梯度变化的区段的算法。在关键图像中关于感兴趣区段35确定测量区36的位置,从而随后可以在序列31的每一个图像中对其进行定位。
接下来(步骤39),对于每一个图像,组合与测量区36内的各个单独的图像点相关联的值,从而获得亮度信号40。一种适当的组合操作是求平均。该信号40是时变信号,这是因为每一个值都对应于序列31中的一个图像,并且序列31中的每一个图像都对应于特定时间点。
随后把该亮度信号40转换(步骤41)成最终信号42,其至少代表基于来自从视频摄影机7获得的序列18-20的像素值的一个值的变化。在该步骤41的一种实现方式中,亮度信号40以其均值为中心。在一种不同的实现方式中,该步骤41包括滤波操作,例如对应于平均亮度信号40的微分的滤波操作。用于提取亮度信号40的动态范围的大约1%的变化的其他替换技术也是可能的。
分析最终信号42(步骤43),以便表征一个或更多周期性生理现象。具体来说,使用频谱分析来确定其频谱中的至少一定频率范围内的一个或更多局部最大值,其中已知所述频率范围包括对应于感兴趣的生物(例如人类)的典型心率值和/或呼吸率值。在一个替换实施例中,使用时域内的心率提取方法。
可以看到,出于说明性目的已经描述了单个感兴趣区段35和单个测量区36。在其他实施例中,跟踪序列31内的多个感兴趣区段,并且/或者使用一个感兴趣区段内的多个测量区来获得多个最终信号。随后可以使用例如聚类算法等等来获得对应于例如心率的公议值(consensus value)。
图5示出了对利用图2的方法获得的图像序列31进行处理的一种替换方法。同样地,为了清楚起见省略了某些步骤,可以改变各个步骤的顺序,并且可能已经在图2中所示的阶段实施了某些步骤。
初始步骤44、45类似于图4的方法的第一步骤33、34。因此,获得(步骤44)并且校正(步骤45)利用图2的方法生成的图像序列31。
但是在下一步骤46中,将栅格覆盖在序列31中的每一个图像上。所述栅格把图像分割成(潜在的)测量区阵列。每一个测量区包括多个图像点,即像素位置。随后(步骤47),选择至少一个但是通常是所有测量区,并且对于每一个测量区形成相应的信号48a-n,所述信号48a-n对应于所涉及的测量区内的各个图像点处的像素值的时变空间组合。所述空间组合可以是平均值、均值或其他类型的组合。在任何情况下,一个特定时间点处的其中一个信号48a-n的值是基于来自对应于该时间点的序列31中的图像的多个像素值。因此,随机噪声(与由于所代表场景中的摄影机运动或对象移动而导致的噪声不同)得以被抵消。
随后把每一个信号48a-n以其均值为中心(步骤49),以便产生最终信号50a-n进行分析,从而表征其至少一个周期性分量。同样地,取代把信号48a-n以其均值为中心,可以使用提取小幅度变化的不同操作(比如微分)。
在最后一个步骤51中实施对最终信号50a-n的分析。在该例中,确定特定频率范围内的主导频率。在其他应用中,对于特定频率产生相位图(如果对于由所述栅格限定的每一个测量区产生最终信号50a-n的话)。
前面参照图2、4和5描述的方法允许对于人类的生物统计信号进行鲁棒的连续监测。此外,与所监测的人类的日常活动的干扰最小,这是由于所述监测的远程性质而实现的。因此,所述方法可以被用来在任何时刻提供关于一个人的精神和生理状况的实际上即时的反馈。所述方法不需要正被监测的个人佩戴不便的身体传感器。
传统的远程光体积描记方法受限于对处在视频摄影机7的大约1米范围内的人进行远程监测。此外,所监测的对象不应当移动,并且在采集视频信号的过程中照明应当是恒定的。
图2中所示的步骤52、53使得图1的系统能够提供具有增强的信噪比的最终信号42、50a-n,至少在涉及对应于将要分析的周期性信号的分量的情况下是这样(所述分量表明所述远程光体积描记实例中的脉冲血流)。具体来说,对于由于视频摄影机7的移动、所监测的人的移动以及照明变化而导致的噪声的鲁棒性得到了改进。
为此,所述系统分析(步骤52)接收自视频摄影机7的图像帧序列18-20、由经过单独处理的图像帧构成的序列23-25、从矩阵操作26得到的图像序列28、图像的输出序列31以及所提取出的信号40、48和信号42、50a-n中的至少一个,并且确定(步骤53)适当的值,以便提供对应于第一操作22a-c、矩阵操作26和另外的非线性变换操作30的每一个实例的参数值集合54。替换地或附加地,可以在参数值集合54中包括用于导出控制信号和/或滤波器系数的值的参数,其中所述控制信号决定由不同的经过调谐的光源13-15发出的光的相对强度和/或频率,所述滤波器系数决定由传感器9-11捕获的光的相对衰减和/或通带。
所述参数值被选择成优化所需信号分量(其代表血量脉冲)与多余信号分量(其由于照明改变或运动导致)的比值。
在一个实施例中,所述数据处理系统实际上利用最终信号42、50a-n计算信噪比,并且利用穷举性或定向搜索方法来调节参数值,以便最大化所计算的信噪比。
在另一个实施例中,数据处理系统1仅仅利用利用各个颜色通道中的图像帧序列18-20或者经过单独处理的序列23-25来实施主分量分析。随后把用于矩阵操作的系数选择成正交于与感兴趣的信号分量(即代表心率和/或呼吸率的分量)无关的主分量。
在所示实施例中,在处理由序列18-20代表的信号的同时,连续实施步骤52、53。该实施例适用于其中周围照明条件发生改变的情况。
在一个替换实施例中,如图1中所示的系统被用来获得参数值集合54以便随后用在仅仅实施步骤17、21、27、29、32的一个或更多其他系统中,所述步骤直接得到信号42、50a-n以进行分析,从而表征其至少一个周期性分量。因此,一种制造所述其他系统的方法包括:利用之前通过使用测试信号和图2的完整方法获得的参数值集合54来配置所述系统。这些系统(比如实施图2的完整方法的系统)能够提取一个信号,其中所述信号包括携带代表相对较强的周期性信号的信息的分量。
在图6中示出了实施远程光体积描记的方法的另一个实施例。该方法可以被视为图2的方法的一种替换方案,并且同样由数据处理系统1实施。
该方法还把相应的颜色通道中的图像帧的多个序列55-57作为输入,其对应于在图2中示出并且在前面讨论过的序列18-20。每一个图像帧由代表在与所涉及的序列55-57相关联的频率范围内捕获的电磁辐射的强度的像素值构成,其中不同的相应频率范围与每一个序列55-57相关联。序列55-57是同步的,这是因为特定时间点对应于每一个序列55-57的一个图像帧。因此,每一个序列55-57形成一个信号,其在这里也被称作第二信号。各个图像帧对应于具有暴露出的皮肤的至少一个生物(优选地是人类)的图像。在下面的详细解释中将假设对完整的图像帧进行处理,但是图6的方法也可以在一个或更多所跟踪的感兴趣区段上实施,其中每一个所跟踪的感兴趣区段都是分段操作的结果,所述分段操作旨在识别出各个图像帧的代表暴露出的皮肤的那些部分。
在第一步骤58中获得图像帧的序列55-57,随后对其进行并行处理。也就是说,每一个序列形成对于包括至少一个操作的相应序列的输入。每一个序列中的至少一个操作涉及到应用一个因数,所述因数的值是基于在来自序列55-57本身中的图像帧的像素值的基础上计算的至少一个值。这些因数决定序列55-57的至少一些分量对最终信号的相对影响,其中所述最终信号被用来提取心率或呼吸率信息(在光体积描记应用中)。
在所示实施例中,首先实施颜色归一化(步骤59),但是操作序列中的各个操作的顺序在原则上可以不同。实施颜色归一化步骤59以便对一定时间区间内的平均皮肤色调进行归一化,从而消除照明频谱中的缓慢改变以及由于运动导致的平均皮肤色调的缓慢改变的效果。当代表皮肤的像素被不完美地跟踪时,运动可能会导致平均皮肤色调中的改变。当其中所描绘的对象发生移动的环境没有被均匀地照明时,其也可能会导致平均皮肤色调中的改变,这例如是由于存在具有不同频谱的多个光源或者由于有色的反射表面而导致的。
颜色归一化步骤59实际上把由摄影机7限定的颜色空间变换到归一化的颜色空间,其中缓慢的颜色改变没有效果。这种归一化的一个效果是(在理想情况下)在归一化的颜色空间内提供一个矢量,其与代表由于血量脉冲而导致的颜色改变的固定线(“心搏线”)平行地移动。
假设图像帧的序列55-57对应于红色、绿色和蓝色通道,则可以如下写出由摄影机在像素位置和时间点t处记录的颜色改变
由于变化的血量(在远程光体积描记的情况下是感兴趣的现象)而导致的颜色改变被覆盖所述血量的皮肤的局部皮肤色调以及照明源调制。这是一个乘法处理,因此适当的归一化将导致解调。
颜色归一化步骤59包括把瞬时颜色分量除以红色、绿色和蓝色值的对应的时间平均值。取代所述平均值,可以取得与相应的不同时间点相关联的多个值的不同组合,其中所述不同时间点跨越与为之计算所述组合的时间点相关联的时间点。一个实例是中值。颜色归一化步骤59的结果由经过颜色归一化的图像的三个并行序列60-62形成。所述操作可以被如下写出:
其中,是归一化的颜色矢量,并且是对于图像帧的每一个并行序列55-57单独计算的时变因数。
在针对这里所讨论的变型的一种替换变型中,计算单独的因数值,并且将其应用于每一个像素位置(即没有空间组合)。
在所示变型中,在一个或更多感兴趣区段当中的每一个之内的多个像素位置处的像素值的基础上计算因数,并且将其应用于与该感兴趣区段内的各个位置相关联的像素。因此可以将其如下写出:
其中,|X|对应于感兴趣区段X的面积。
当然,数据处理设备2将处理时间离散信号。虽然随着时间的平均值可以使用来自多于两个时间点的像素值,但是简单并且相对精确的近似使用来自两个相继时间点的像素值。其中一个可以对应于为之计算所述因数值的时间点。在这样的步骤的实现方式的一个实例中,其可以被如下写出:
应当提到的是,所述感兴趣区段在该变型中对应于一个像素位置。
颜色归一化步骤59应当得到其像素值遵循高斯分布的图像帧。在一种变型中,其值偏差过大的那些像素不被用来获得用以进行分析以便表征其至少一个周期性分量的最终信号(其在这里也被称作“第一信号”)。附加地或替换地,所述方法被迭代地应用。在颜色归一化之后,随着时间具有最稳定像素值分布的一个区段被用作感兴趣区段。可替换地,可以使用最大的区段。在全部两种替换方案中,代表单个生物的暴露出的皮肤的图像部分应当具有高斯分布这一事实被用来对图像帧进行分段。计算适用于其中一个所述节段的颜色归一化因数,并且将其应用于与仅仅该节段中的各个像素位置相关联的像素值。
如图6中所示,在下一步骤63中对颜色归一化的图像的序列60-62进行进一步处理,在该步骤中实施照明归一化。应当提到的是,该步骤63可以处在颜色归一化步骤59之前,并且在一些变型中可以省略这两个归一化步骤59、63的其中之一。
照明归一化步骤63考虑到了近乎不可能在图像的序列55-57中精确地跟踪各个像素,尽管通常应当有可能分段出代表暴露出的皮肤的所有像素。但是当各个单独的像素被不完美地跟踪时,照明强度和皮肤透射的变化仍将表现出来。照明归一化有助于帮助去除这些效果。其还有助于去除由于移动而不是图像中所示对象的脉冲血流导致的亮度改变。
照明归一化步骤63得到另外三个归一化的图像序列64-66。其可以被如下地数学表示:
参数α、β、γ可以具有任何值。实际上,其中一个或两个可以具有零值。但是在理论上存在对于各个值的最优选择,其是使得所得到的归一化的像素处在归一化的颜色空间内的与心搏线平行的一个平面内的该组合。在一个实施例中,实施分析以便选择参数α、β、γ的优化值。
在所示方法的后续步骤67中,通过从每一个当前像素值中减去紧接在前的时间点处的对应像素位置处的值而建立不同的信号,从而得到差值帧的三个序列68-70。应当提到的是,该步骤67可以与例如颜色归一化步骤59相组合,从而将等式(6)修改成:
所示步骤67是取得图像帧的序列55-57(“第二信号”)作为输入的并行操作序列中的最后一步。
其后是另一个步骤71,其中实施操作以便把归一化的差信号组合成单个信号,其每一个值都是基于来自对应时间点处的相应的归一化的差信号的值。在所示实施例中,该步骤71涉及到投影到归一化的颜色空间内的一条线,其对应于由于生物的脉冲血流而导致的颜色变化。与该线正交的任何噪声都在步骤71中被消除,从而得到单个帧序列72。在一种变型中,在该步骤71中还消除了异常值。
随后应用可选的后处理步骤73。该步骤73可以涉及诸如带通滤波之类的操作。其结果是经过后处理的图像帧序列74。
最后(步骤75),建立至少一个组合信号76。该信号是基于多个像素位置处的信号,对其进行处理的结果是获得一个公议值。该步骤75可以涉及聚类、求平均、确定中值、进一步的异常值去除等等。该步骤75得到具有更好信噪比的更强信号。可以应用傅里叶分析来表征至少一个周期性分量,例如对应于心搏信号或呼吸信号的周期性分量。
在一个替换实施例中,后处理步骤73已经涉及从时域到频域的变换。
前面描述的实施例的效果是允许把利用相对不那么复杂并且便宜的摄影机7捕获的图像用来表征周期性现象,其中所述周期性现象在图像帧的感兴趣区段内导致几乎不可察觉的变化。所述表征相对可靠,这是因为由于其他影响导致的变化被消除或者至少被抑制。
应当提到的是,前面提到的实施例说明而非限制本发明,在不背离所附权利要求书的范围的情况下,本领域技术人员将能够设计许多替换实施例。在权利要求书中,置于括号之间的任何附图标记不应当被理解为限制该权利要求。“包括”一词不排除未在权利要求中列出的其他元件或步骤的存在。元件之前的“一”或“一个”不排除存在多个这样的元件。在互不相同的从属权利要求中引述某些措施的纯粹事实并不意味着不能使用这些措施的组合来获益。
在其中同时使用视频摄影机7和传感器9-11的实施例也例如是可能的。在其中除了视频摄影机7之外还使用另一个摄影机的另一个实施例也是可能的。举例来说,热摄影机可以提供一个通道内的信号,视频摄影机7则提供另一个通道内的信号。

Claims (14)

1.用于进行远程光体积描记的方法,所述方法促进获得第一信号进行分析以便表征该第一信号的至少一个周期性分量,所述至少一个周期性分量对应于生物体内的生物现象,所述方法包括:
获得代表所捕获的电磁辐射的强度的至少两个第二信号,其中每一个第二信号与相应的不同辐射频率范围相对应,
第一信号至少可以从通过对第二信号应用变换而获得的输出信号导出,从而使得输出信号的任何值是基于来自对应时间点处的每一个相应的第二信号的值,
在捕获对应于第二信号的信号以及应用变换时,通过以下措施的至少其中之一获得决定相应的第二信号的至少一些分量对输出信号的影响的至少一个变量的至少一个值:
(i)分析第二信号、通过对第二信号应用变换获得的输出信号以及从输出信号导出的第一信号中的至少一个,并且
利用所述分析来选择与相应的其中一个变量相对应的至少一个参数的至少一个值;以及
(ii)计算与相应的其中一个变量相对应的至少一个时变因数的值,其中每一个因数值基于至少一个第二信号值,
以及在多个并行操作序列当中的至少一个操作序列中的一个操作中应用每一个因数,并且将与相应的其中一个第二信号相对应的信号取作输入,其中所述操作序列包括至少一个所述操作。
2.根据权利要求1的方法,其中,对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个的所述分析被用来选择决定相应的第二信号的至少一些分量对输出信号的影响的至少一个参数的至少一个值,以便最大化第一信号的频谱的有限部分中的相对信号强度。
3.根据权利要求1的方法,其中,所述变换包括至少一个参数化操作,并且其中对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个的所述分析被用来选择所述参数化操作的至少一个参数的值。
4.根据权利要求3的方法,其中,所述参数化操作是取得以不同方式基于第二信号的至少两个输入的操作。
5.根据权利要求3的方法,其中,所述变换包括利用至少一个参数值在相应的输入信号上并行地实施的操作,其中所述至少一个参数值特定于少于所有的输入信号。
6.根据权利要求3的方法,其中,所述变换包括至少一个参数化非线性操作,并且其中对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个的所述分析被用来选择所述参数化非线性操作的至少一个参数的值。
7.根据权利要求1的方法,其中,所述变换包括对于相应的输入信号并行地实施的操作,其中每一个输入信号是第二信号与至少一个非零系数的不同线性组合,所述操作包括取得输入信号的对数。
8.根据权利要求1的方法,其中,所述分析包括对分别基于多个第二信号的数据集合实施主分量分析。
9.根据权利要求1的方法,其中,对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个进行分析,并且所述分析被用来选择在捕获对应于第二信号的信号以及应用变换时决定相应的第二信号的至少一些分量对输出信号的影响的至少一个参数的至少一个值,所述方法还包括使得所述至少一个参数的所选值被加载到系统中,所述系统包括:
用于获得代表所捕获的电磁辐射的强度的至少两个第二信号的接口,其中每一个第二信号与相应的不同辐射频率范围相对应;以及
用于对第二信号应用变换以便获得至少可以从中导出第一信号的输出信号的信号处理系统,输出信号的任何值都是基于来自共同时间点处的每一个相应的第二信号的值,其中,所述系统被设置成使得至少部分地根据所述至少一个参数的加载值来确定相应的第二信号对输出信号的影响。
10.根据权利要求1的方法,其中,连续地实施对第二信号、通过对第二信号应用变换而获得的输出信号以及从输出信号导出的第一信号中的至少一个的所述分析以及对于至少一个参数值的所述选择,同时对第二信号进行处理以便获得第一信号。
11.根据权利要求1的方法,其中,所述至少一个时变因数包括可以通过计算来自所述至少其中一个第二信号当中的每一个的相应值的线性组合而获得的因数,并且其中该因数的相同值被使用在每一个并行操作序列中。
12.根据权利要求1的方法,其中,对于至少其中一个因数,对于每一个并行序列计算对应的关联时间点处的单独值,其中每一个单独值是从被所涉及的序列取作输入的第二信号的多个值获得的,所述多个值与跨越一定间隔的相应时间点相关联,所述间隔包括与所述因数值相关联的时间点。
13.用于进行远程光体积描记的系统,所述系统用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量,所述至少一个周期性分量对应于生物体内的生物现象,所述系统包括:
用于获得代表所捕获的电磁辐射的强度的至少两个第二信号的接口,其中每一个第二信号与相应的不同辐射频率范围相对应,
至少可以从能够通过对第二信号应用变换获得的输出信号导出第一信号,从而使得输出信号的任何值都是基于来自对应时间点处的每一个相应的第二信号的值,
其中所述系统被设置成:
在捕获对应于第二信号的信号以及应用变换时,通过以下措施的至少其中之一获得决定相应的第二信号的至少一些分量对输出信号的影响的至少一个变量的至少一个值:
(i)分析第二信号、输出信号以及第一信号中的至少一个并且利用所述分析来选择与相应的其中一个变量相对应的至少一个参数的至少一个值,以及在捕获对应于第二信号的信号并且应用变换时决定相应的第二信号的至少一些分量对输出信号的影响;以及
(ii)计算与相应的其中一个变量相对应的至少一个时变因数的值,其中每一个因数值基于至少一个第二信号值,
以及在多个并行操作序列当中的至少一个操作序列内的一个操作中应用每一个因数,并且将与相应的其中一个第二信号相对应的信号取作输入,其中所述操作序列包括至少一个所述操作。
14.根据权利要求13的系统,其被配置成实施根据权利要求1-12当中的任一条的方法。
CN201080045245.6A 2009-10-06 2010-09-29 用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量的方法和系统 Active CN102576458B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP09172337.9 2009-10-06
EP09172337 2009-10-06
PCT/IB2010/054396 WO2011042839A1 (en) 2009-10-06 2010-09-29 Method and system for obtaining a first signal for analysis to characterize at least one periodic component thereof

Publications (2)

Publication Number Publication Date
CN102576458A CN102576458A (zh) 2012-07-11
CN102576458B true CN102576458B (zh) 2015-08-19

Family

ID=43242894

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080045245.6A Active CN102576458B (zh) 2009-10-06 2010-09-29 用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量的方法和系统

Country Status (5)

Country Link
US (3) US8666116B2 (zh)
EP (2) EP2486539B1 (zh)
JP (1) JP5856960B2 (zh)
CN (1) CN102576458B (zh)
WO (1) WO2011042839A1 (zh)

Families Citing this family (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5715132B2 (ja) 2009-08-20 2015-05-07 コーニンクレッカ フィリップス エヌ ヴェ 画像解析に関する方法及びシステム
EP2640268B1 (en) 2010-11-17 2016-02-03 Koninklijke Philips N.V. System and method for converting an input signal into an output signal
TWI548397B (zh) 2011-01-05 2016-09-11 皇家飛利浦電子股份有限公司 用以自特徵信號擷取資訊之裝置及方法
EP2691020A2 (en) 2011-03-30 2014-02-05 Koninklijke Philips N.V. Contactless sleep disorder screening system
US10426356B2 (en) 2011-07-09 2019-10-01 Gauss Surgical, Inc. Method for estimating a quantity of a blood component in a fluid receiver and corresponding error
GB201114406D0 (en) * 2011-08-22 2011-10-05 Isis Innovation Remote monitoring of vital signs
EP2741661B1 (en) * 2011-09-02 2016-05-04 Koninklijke Philips N.V. Camera for generating a biometrical signal of a living being
DE102011112344A1 (de) * 2011-09-03 2013-03-07 Volkswagen Aktiengesellschaft Verfahren zur Zustandserkennung eines Fahrzeugführers durch Erfassung einer plethysmographischen Größe sowie Vorrichtung zur Durchführung des Verfahrens
WO2013038326A1 (en) * 2011-09-13 2013-03-21 Koninklijke Philips Electronics N.V. Distortion reduced signal detection
US9241674B2 (en) 2011-09-29 2016-01-26 Koninklijke Philips N.V. Distortion reduced signal detection
CN103083005B (zh) * 2011-11-01 2015-05-13 北京瓦力网络科技有限公司 一种心率检测的方法
US20130331669A1 (en) * 2012-06-11 2013-12-12 Raytheon Company Multi-spectral imaging system and method for remote biometric measurement of human physiological parameters
WO2014020463A1 (en) * 2012-07-30 2014-02-06 Koninklijke Philips N.V. Device and method for extracting physiological information
CN104540443B (zh) 2012-08-02 2017-06-20 皇家飞利浦有限公司 用于提取生理信息的设备和方法
WO2014024104A1 (en) * 2012-08-06 2014-02-13 Koninklijke Philips N.V. Device and method for extracting physiological information
US20140200460A1 (en) * 2012-08-14 2014-07-17 Aliphcom Real-time physiological characteristic detection based on reflected components of light
BR112015009631A2 (pt) * 2012-11-02 2017-07-04 Koninklijke Philips Nv dispositivo para extrair informações fisiológicas de radiação eletromagnética detectada remotamente emitida ou refletida por um indivíduo; método para extrair informações fisiológicas de radiação eletromagnética detectada remotamente emitida ou refletida por um indivíduo; e programa de computador
BR112015014945A2 (pt) * 2012-12-21 2017-07-11 Koninklijke Philips Nv sistema de monitoramento remoto de fotoplestimografia, método de monitoramento remoto de fotoplestimografia, e programa de computador
ITMI20130104A1 (it) * 2013-01-24 2014-07-25 Empatica Srl Dispositivo, sistema e metodo per la rilevazione e il trattamento di segnali di battito cardiaco
EP2762066A1 (en) * 2013-02-05 2014-08-06 Koninklijke Philips N.V. System and method for determining vital sign information of a subject
JP6389834B2 (ja) * 2013-03-13 2018-09-12 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 被験者からバイタルサインを決定する装置及び方法
US10238292B2 (en) 2013-03-15 2019-03-26 Hill-Rom Services, Inc. Measuring multiple physiological parameters through blind signal processing of video parameters
EP2987133B1 (en) 2013-04-18 2018-06-13 Koninklijke Philips N.V. Concurrent display of medical images from different imaging modalities
US9962095B2 (en) * 2013-04-23 2018-05-08 Microsoft Technology Licensing, Llc Optical heartrate tracking
US20140375785A1 (en) * 2013-06-19 2014-12-25 Raytheon Company Imaging-based monitoring of stress and fatigue
EP3030137B1 (en) * 2013-08-06 2023-09-13 Koninklijke Philips N.V. System and method for extracting physiological information from remotely detected electromagnetic radiation
US9270919B2 (en) * 2013-09-24 2016-02-23 Karl Storz Imaging, Inc. Simultaneous display of two or more different sequentially processed images
US10045702B2 (en) 2013-10-17 2018-08-14 Koninklijke Philips N.V. Automatic camera adjustment for remote photoplethysmography
RU2684560C2 (ru) * 2014-03-06 2019-04-09 Конинклейке Филипс Н.В. Устройство для определения физиологического показателя
DE102014211882A1 (de) 2014-06-20 2015-12-24 Robert Bosch Gmbh Verfahren zur Ermittlung der Herzfrequenz des Fahrers eines Fahrzeugs
US9955880B2 (en) * 2014-10-27 2018-05-01 Tata Consultancy Services Limited Estimating physiological parameters
EP3212057B1 (en) * 2014-10-29 2021-12-01 Spectral MD, Inc. Reflective mode multi-spectral time-resolved optical imaging methods and apparatuses for tissue classification
WO2016159150A1 (ja) 2015-03-31 2016-10-06 株式会社エクォス・リサーチ 脈波検出装置、及び脈波検出プログラム
JP6308161B2 (ja) 2015-03-31 2018-04-11 株式会社エクォス・リサーチ 脈波検出装置、及び脈波検出プログラム
US10242441B2 (en) * 2015-05-21 2019-03-26 Koninklijke Philips N.V. Identifying living skin tissue in a video sequence using color and spatial similarities
EP3298536A1 (en) * 2015-05-21 2018-03-28 Koninklijke Philips N.V. Determining a pulse signal from a video sequence
JP6531834B2 (ja) * 2015-11-20 2019-06-19 富士通株式会社 情報処理装置、情報処理方法、および情報処理プログラム
JP6724603B2 (ja) * 2015-11-27 2020-07-15 株式会社リコー 脈波測定装置、脈波測定プログラム、脈波測定方法及び脈波測定システム
WO2017093379A1 (en) * 2015-12-01 2017-06-08 Koninklijke Philips N.V. Device, system and method for determining vital sign information of a subject
CN106897965B (zh) * 2015-12-14 2020-04-28 国基电子(上海)有限公司 彩色图像处理系统及彩色图像处理方法
US11191489B2 (en) * 2016-01-15 2021-12-07 Koninklijke Philips N.V. Device, system and method for generating a photoplethysmographic image carrying vital sign information of a subject
CN106063702A (zh) * 2016-05-23 2016-11-02 南昌大学 一种基于人脸视频图像的心率检测系统及检测方法
US10335045B2 (en) 2016-06-24 2019-07-02 Universita Degli Studi Di Trento Self-adaptive matrix completion for heart rate estimation from face videos under realistic conditions
US10750129B2 (en) 2016-08-23 2020-08-18 Koninklijke Philips N.V. Hospital video surveillance system
CN110573066A (zh) 2017-03-02 2019-12-13 光谱Md公司 用于多光谱截肢部位分析的机器学习系统和技术
EP3375351A1 (en) * 2017-03-13 2018-09-19 Koninklijke Philips N.V. Device, system and method for measuring and processing physiological signals of a subject
DE102017107228A1 (de) 2017-04-04 2018-10-04 Infineon Technologies Ag Sensoreinrichtungen, Systeme und Verfahren
TW201838584A (zh) * 2017-04-18 2018-11-01 原相科技股份有限公司 能夠消除或避免偏移干擾而可準確量測生理特徵的電子裝置及方法
EP3440996A1 (en) 2017-08-08 2019-02-13 Koninklijke Philips N.V. Device, system and method for determining a physiological parameter of a subject
JP6784403B2 (ja) * 2017-09-01 2020-11-11 国立大学法人千葉大学 心拍変動の推定方法、心拍変動の推定プログラム及び心拍変動推定システム
EP3517034A1 (en) * 2018-01-24 2019-07-31 Koninklijke Philips N.V. Device, system and method for determining at least one vital sign of a subject
EP3899463A4 (en) 2018-12-14 2022-12-21 Spectral MD, Inc. SYSTEM AND METHOD FOR HIGH-PRECISION MULTIAPERTURE SPECTRAL IMAGING
US10740884B2 (en) 2018-12-14 2020-08-11 Spectral Md, Inc. System and method for high precision multi-aperture spectral imaging
WO2020123724A1 (en) 2018-12-14 2020-06-18 Spectral Md, Inc. Machine learning systems and methods for assessment, healing prediction, and treatment of wounds
GB201900034D0 (en) 2019-01-02 2019-02-13 Oxehealth Ltd Method and apparatus for monitoring of a human or animal subject
GB201900033D0 (en) * 2019-01-02 2019-02-13 Oxehealth Ltd Mrthod and apparatus for monitoring of a human or animal subject
GB201900032D0 (en) * 2019-01-02 2019-02-13 Oxehealth Ltd Method and apparatus for monitoring of a human or animal subject
US20220215514A1 (en) * 2019-04-17 2022-07-07 Nikon Corporation Video processing apparatus, video processing method, and recording medium
KR102632479B1 (ko) * 2019-06-17 2024-01-31 삼성전자주식회사 맥파 센서 및 맥파 센서의 동작 방법
US20240029396A1 (en) * 2020-12-25 2024-01-25 Sony Interactive Entertainment Inc. Pulse detection device and pulse detection method
EP4181053A1 (en) * 2021-11-16 2023-05-17 Koninklijke Philips N.V. Determining spectral reflectance characteristics
WO2024121066A1 (en) 2022-12-05 2024-06-13 Koninklijke Philips N.V. System for respiratory rate determination based on multiple contactless sensing modalities and related methods

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2110841T5 (es) * 1994-03-24 2005-12-16 Minnesota Mining And Manufacturing Company Sistema de autenticacion personal biometrica.
US6650918B2 (en) * 2002-02-22 2003-11-18 Datex-Ohmeda, Inc. Cepstral domain pulse oximetry
JP4200687B2 (ja) * 2002-05-13 2008-12-24 株式会社日立製作所 生体認証装置および該装置実現のためのプログラム
KR100675555B1 (ko) * 2003-07-07 2007-01-29 유선국 맥박 산소포화도 측정 장치 및 방법
JP4024727B2 (ja) * 2003-07-28 2007-12-19 株式会社日立製作所 眠気検出装置
JPWO2006064635A1 (ja) * 2004-12-17 2008-06-12 コニカミノルタホールディングス株式会社 診断システム
EP1835845A4 (en) 2004-12-28 2008-09-10 Hypermed Inc HYPERSPECTRAL / MULTISPECTRAL IMAGERY FOR THE DETERMINATION, EVALUATION AND MONITORING OF SYSTEMIC PHYSIOLOGY OR IMPACT CONDITIONS
JP2007125151A (ja) * 2005-11-02 2007-05-24 Konica Minolta Holdings Inc 診断システム及び診断装置
GB0607270D0 (en) * 2006-04-11 2006-05-17 Univ Nottingham The pulsing blood supply
US8360986B2 (en) 2006-06-30 2013-01-29 University Of Louisville Research Foundation, Inc. Non-contact and passive measurement of arterial pulse through thermal IR imaging, and analysis of thermal IR imagery
JP4895834B2 (ja) * 2007-01-23 2012-03-14 Hoya株式会社 画像処理装置
EP1988489B1 (en) 2007-05-04 2021-02-17 STMicroelectronics (Research & Development) Limited Biometric sensor apparatus and method
JP5029150B2 (ja) * 2007-06-06 2012-09-19 ソニー株式会社 生体情報取得装置および生体情報取得方法
US8506480B2 (en) 2007-07-11 2013-08-13 Sotera Wireless, Inc. Device for determining respiratory rate and other vital signs
US7504872B2 (en) 2007-08-13 2009-03-17 Nvidia Corporation Generic flexible timer design
JP5027604B2 (ja) * 2007-09-21 2012-09-19 富士通株式会社 指先適正押圧状態報知方法及び装置
US8149273B2 (en) 2007-11-30 2012-04-03 Fuji Xerox Co., Ltd. System and methods for vital sign estimation from passive thermal video
WO2010100594A2 (en) 2009-03-06 2010-09-10 Koninklijke Philips Electronics N.V. Processing images of at least one living being
US20110251493A1 (en) * 2010-03-22 2011-10-13 Massachusetts Institute Of Technology Method and system for measurement of physiological parameters

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Contact-less, Multi-Spectral Imaging of Dermal Perfusion;N. Madhu Mohan, et al.;《Instrumentation and Measurement Technology Conference Proceedings, 2008. IMTC 2008. IEEE》;20080515;第793-796页 *

Also Published As

Publication number Publication date
US20140153800A1 (en) 2014-06-05
EP2486539B1 (en) 2016-09-07
US20120195486A1 (en) 2012-08-02
CN102576458A (zh) 2012-07-11
US8666116B2 (en) 2014-03-04
US20150104088A1 (en) 2015-04-16
EP3142067A2 (en) 2017-03-15
US8938097B2 (en) 2015-01-20
EP3142067A3 (en) 2017-06-07
EP3142067B1 (en) 2020-01-01
US9524548B2 (en) 2016-12-20
JP5856960B2 (ja) 2016-02-10
WO2011042839A1 (en) 2011-04-14
EP2486539A1 (en) 2012-08-15
JP2013506523A (ja) 2013-02-28

Similar Documents

Publication Publication Date Title
CN102576458B (zh) 用于获得第一信号进行分析以便表征该第一信号的至少一个周期性分量的方法和系统
EP2485639B1 (en) Method and system for carrying out photoplethysmography
US8553940B2 (en) Formation of a time-varying signal representative of at least variations in a value based on pixel values
EP2404283B1 (en) Processing images of at least one living being
Dosso et al. Eulerian magnification of multi-modal RGB-D video for heart rate estimation
KR102082292B1 (ko) 카메라 기반 광용적맥파 추정
Przybyło et al. Distant measurement of plethysmographic signal in various lighting conditions using configurable frame-rate camera
Al-Naji et al. Contactless cardiac activity detection based on head motion magnification
KR102468654B1 (ko) 보정된 이미지 기반 심박 추정 방법 및 그 장치
Laurie et al. Dedicated exposure control for remote photoplethysmography
EP3430472B1 (en) Method of producing video images that are independent of the background lighting
JP6585623B2 (ja) 生体情報計測装置、生体情報計測方法および生体情報計測プログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant