CN102549620A - 至少表示基于像素值的值的变化的时变信号的形成 - Google Patents

至少表示基于像素值的值的变化的时变信号的形成 Download PDF

Info

Publication number
CN102549620A
CN102549620A CN2010800452282A CN201080045228A CN102549620A CN 102549620 A CN102549620 A CN 102549620A CN 2010800452282 A CN2010800452282 A CN 2010800452282A CN 201080045228 A CN201080045228 A CN 201080045228A CN 102549620 A CN102549620 A CN 102549620A
Authority
CN
China
Prior art keywords
image
subclass
sequence
pixel value
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2010800452282A
Other languages
English (en)
Other versions
CN102549620B (zh
Inventor
I.O.基伦科
V.让内
G.德哈恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN102549620A publication Critical patent/CN102549620A/zh
Application granted granted Critical
Publication of CN102549620B publication Critical patent/CN102549620B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/38Registration of image sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30076Plethysmography

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Abstract

一种形成时变信号的方法,该时变信号至少表示基于来自图像序列的像素值的值的变化,该信号在长度上对应于该图像序列,该方法包括获取图像序列。通过从定义间隔的至少两个图像的每个中选择至少一个像素值的子集以形成关联子集的组(21),从而形成像素值的子集的多个组(21)。对于只具有来自相同图像的子集的任意对的组(21),来自多于一个图像的子集是不同的。根据至少一个选择标准选择子集的组(21)以形成信号。所选择的子集的组(21)覆盖不同的间隔,其短于序列的长度。

Description

至少表示基于像素值的值的变化的时变信号的形成
技术领域
本发明涉及一种用于形成至少表示基于来自图像序列的像素值的值的变化的时变信号的方法和系统。该发明还涉及一种计算机程序。
背景技术
US2009/0141124 A1涉及一种基于红外线视频的生命信号测量的系统和方法,其使用主体校准、信号增强和谐波分析。在该方法中,首先执行轮廓分割(segmentation)以定位将要测量的血管。然后,相同的分割参数集合被用在所有帧中以对对应的区域进行分割。之后,基于每个帧中分割的位置和尺度通过校准在帧上所选择的区域中的所有像素来执行运动补偿。在轮廓分割和动作补偿之后,执行空间滤波以移除与心跳不相关的噪声,并且之后执行非线性滤波以处理对应于每个校准的像素序列的时间信号。然后每个像素的信号频谱被馈入用于异常值移除的聚类算法。然后在最大簇中的像素被使用以选择优势频率,并且优势频率的中值频率被作为脉冲频率而输出。
已知方法的问题是当片段(segment)的校准没有被足够精确地执行时,异常值移除不能很好地起作用。在某些情况中,特别是在对应像素之间的差别位于像素值的量化误差处或者之下的情况时,校准是不够精确的。
发明内容
期望的是提供一种上述类型的方法、系统和计算机程序,其允许获得更精确的时变信号以在频谱分析中使用,例如从而从视频图像序列中确定生物统计参数的值。
为此,根据本发明的一个方面,提供了一种根据本发明形成至少表示基于像素值的值的变化的时变信号的方法,其包括:
获取图像序列;
通过从定义间隔的至少两个图像的每个中选择至少一个像素值的子集以形成关联子集的组,从而形成像素值的子集的多个组,
其中,对于只具有来自相同图像的子集的任意配对的组,来自多于一个图像的子集是不同的;和
根据至少一个选择标准选择子集的组以形成信号,
其中所选择的子集的组覆盖不同的间隔,其短于序列的长度。
由于来自至少两个图像的每个的像素值的子集的组被选择,有可能建立差别,其都被要求频谱分析。因此,通过该方法获取的信号将至少表示在图像的至少特定部分中的颜色和/或亮度的变化。然后,这个信号能够被用于确定在图像的该特定部分中表示的个体的心率或呼吸率。通过分开执行选择步骤以覆盖信号的不同间隔,对于不同的间隔能够使用不同的相应子集的对。例如,如果从第一图像中选择了第一子集并从第二图像中选择了相应子集,则该对能够被使用在信号中。对于信号的下一个间隔,对应于例如下一对图像,能够选择相应子集的对,其与来自第一图像的第一子集不对应。只有小的信号变化对于确定要被量化的周期性现象的值(例如,在图像序列中表示的个人的诸如心率或呼吸率的生物统计参数)是相关的。该方法基于这样的实现,其中与第一图像中像素的特定子集对应的区域不必贯穿整个图像序列被追踪以形成在确定表征周期性现象的值中使用的信号。相反,对于不同的间隔选择合适的组,其被融合以形成比任何组都长的信号。因此该方法与贯穿图像序列跟踪感兴趣的单个区域的方法的区别在于,对于只具有来自相同图像的子集的任意配对的组,来自多于一个图像的子集是不同的。
在实施例中,通过至少在基于获取的图像的多个图像的每个的至少区域上放置栅格以获取像素值的时空体积(spatio-temporal volume)而形成组,每个时空体积包括在由栅格限定的相应空间孔径(aperture)中的每个图像的像素值。
效果是不需要在多个图像的每个中搜索类似的子集。由两个或更多图像中相应位置处的子集简单地形成了组。
这个实施例的变形包括,对于每个组,分析由空间孔径确定的像素值的至少一个子集,以确定其是否表示某种类型的表面的一部分。
特别地,像素的一个或多个子集能够被分析以确定它们是否具有指示它们表示生物、更特别地是人类的裸露皮肤的部分区域的特征。在光体积描记术方法的环境中正使用该方法的情况下,该实施例是有用的。其帮助确保在该环境中时变信号表示由于脉动血流而产生的反射的变化。
在该方法的实施例中,至少基于获取的图像序列,通过获取来自图像序列的像素值的时空体积而形成组,每个体积包括在来自序列的间隔中每个图像的空间孔径中的像素值,该方法包括对于在序列的不同间隔上定义的组,使用不同的孔径。
这个实施例允许在不同时刻(对应于图形序列上不同的间隔)特别调整孔径的大小。其针对以下问题:具有大空间孔径意味着有更多像素值能够被合并以便减少随机噪声,但是具有大孔径也增加了由于运动伪像(motion artifact)或光照变化(illumination change)的原因、组将不符合至少一个选择标准的可能性。在实施例中,孔径的大小取决于孔径中像素子集的均匀性(uniformity)。能够使用对象分割、颜色分割和/或背景-前景分割而确定该均匀性。这是有用的,由于其帮助避免了以下情况:基于像素值的值的时间变化被检测到,其不是由于在图像中表示的对象的实际亮度变化,而是由于在时空体积的持续时间内特征移动至空间孔径中的事实。
在实施例中,至少基于获取的图像序列,通过获取来自图像序列的像素值的时空体积而形成组,每个体积包括在来自序列的间隔中每个图像的空间孔径中的像素值,该方法包括对于序列的不同间隔上定义的组、使用不同的间隔长度。
这个实施例针对以下问题:具有长间隔能够增加需要完成的处理的量,但是将允许检测能够被移除的运动伪像。
在实施例中,至少基于获取的图像序列,通过获取来自图像序列的像素值的时空体积而形成组,每个体积包括在来自序列的间隔中的每个图像的空间孔径中的像素值,其中至少一个选择标准的估计包括确定空间均匀性的度量和确定时间均匀性的度量中的至少一个。
时间均匀性的度量能够被限制在特定频率范围。这个实施例针对不稳定的测量和对运动或光照伪像的脆弱性的问题。通过使用空间均匀性的度量,能够只选择具有均匀区域的组,即符合空间均匀性的最小绝对值的那些,或者仅相对于其他组是最均匀的那些。非均匀性会快速地导致运动伪像,意味着在基于时空体积中的像素值的、时变信号中表示的颜色或亮度的时间变化实际上是由于较深或较亮区域移动至定义时空体积的空间孔径中。使用时间均匀性的度量还有助于防止感兴趣的那些之外的时间变化进入时变信号。
在实施例中,至少基于获取的图像序列,通过获取来自图像序列的像素值的时空体积而形成组,每个体积包括在来自序列的间隔中的每个图像的空间孔径中的像素值,并且该方法进一步包括通过将来自每个孔径的多个像素值合并为一个值而从每个选择的组中提取信号段。
合并步骤有助于移除随机噪声。在特别的变形中,信号段的提取包括获取只表示基于像素值的空间合并的值的时间变化的信号段。特别地,这些能够是低于特定振幅和/或在特定受限频率范围中的变化,其中最大振幅能够是绝对或相对振幅(例如移动平均的最大百分比)。
在这个实施例的变形中,通过采取信号段作为输入的融合操作而形成时变信号,并且其中信号段通过不同的权重参与该融合操作,权重确定它们影响时变信号的程度。
这个实施例考虑了如下事实:一些信号段包括比其他信号段更清楚的感兴趣现象的分量特征。例如,一些段具有相对清楚的表示由于血流而导致的皮肤反射的变化的分量。还能够是这种情形:某些信号段比其他的信号段长,因此它们携带更多的信息。这能够使得对于在融合处理中强调这些段是有用的。
在该方法的实施例中,通过从至少基于获取的图像序列中的一个的第一图像选择至少一个像素值的第一子集、并至少基于获取的图像序列的相应的一个在至少一个另外的图像的每个中定位类似的子集而形成组。
至少在大小和/或旋度的放大或减少之后,类似的子集在它们所表示的内容上至少在一定程度上相对应。在捕获移动对象的像素值中的变化方面,这个实施例是有用的。
在实施例中,通过获取预测的运动向量和修改该预测的运动向量以根据至少一个类似性标准选择用于估计的备选子集,来寻找至少一个另外的图像中的类似的子集。
因为对于每个子集使用单独的运动向量,这个实施例能够具有相对高的精确性地检测类似的子集,但是其在计算上不是非常昂贵,因为其不使用穷尽搜索。
在实施例中,形成组包括至少基于获取的图像序列的相应图像、只从至少两个图像的序列的每个中感兴趣的有限区域中选择子集。
这个实施例能够处理表示相同类型的不同对象(例如两个生物)的图像序列。此外,其在计算上是更高效的。
根据本发明的另一个方面,提供了一种用于形成至少表示基于来自图像序列的像素值的值的变化的时变信号的系统,该信号在长度上对应于图像序列,该系统包括:
接口,用于获取图像序列;和
数据处理系统,被布置用于:
通过从定义间隔的至少两个图像的每个选择至少一个像素值的子集以形成关联子集的组,从而形成像素值的子集的多个组,使得图像由至少两个间隔覆盖;和
根据至少一个选择标准,选择子集的组以形成信号,
其中所选择的子集的组覆盖不同的间隔,其短于序列的长度。
在实施例中,所述系统被布置成执行根据本发明的方法。
根据本发明的另一个方面,提供了一种计算机程序,包括指令集合,其能够当被结合在机器可读介质中时使得具有信息处理能力的系统执行根据本发明的方法。
附图说明
本发明将参照附图被进一步详细解释,其中:
图1是用于形成时变信号的系统的示意性框图;
图2是示出形成时变信号的方法的第一通用实施例的流程图;
图3是示出形成时变信号的方法的第二实施例的流程图;
图4是从覆盖图像序列的有限间隔的图像中获取的像素值的子集的组的图示;
图5是从选择的像素值的子集的组中提取信号段的图示。
具体实施例
适于执行远程光学体积描记术的系统的多个实施例将在此处被解释。光学体积描记术是一种用于使用皮肤反射变化来表征某些周期性生理现象的方法。人类皮肤能够被模型化为具有至少两个层的对象,其中一个是表皮(薄的表面层),另一个是真皮(在表皮之下的较厚的层)。在表皮中,大约5%的进入光线被反射,这是对于所有波长和皮肤颜色的情况。在已知为身体反射(在双色反射模型(Dichromatic Reflection Model)中被描述)的现象中,剩余的光在两个皮肤层中被散射和吸收。表皮的表现为像是光滤波器,主要吸收光。在真皮中,光被散射和吸收。该吸收取决于血液成分,因此该吸收对于血流变化是灵敏的。真皮的光学属性通常对于所有人种是相同的。真皮包含密集的血管网络,大约为成人总血管网络的10%。这些血管根据身体中的血流而收缩。它们因此改变了真皮的结构,其影响皮肤层的反射。因此,根据皮肤反射变化能够确定心率。
要描述的系统和方法不限于光学体积描记术,而是还能够被用来获取至少包括携带信息的分量的信号,所述信息表征在图像序列中表示的感兴趣的周期性现象。在所有应用中,该方法对于与感兴趣的周期性现象(在光学体积描记术的情况下是血液脉动流)无关的光照变化和运动伪像是健壮的。
系统包括多个组件,其中只有一些在图1中被示出。系统包括数据处理系统1,其可以是通用计算机,并且包括数据处理单元2和主存储器3。它进一步包括用于存储软件的海量存储设备4,包括用于执行在此概述的方法的软件。数据处理系统1具有针对用于获取数字图像序列的视频摄像机6的接口5。它还具有针对输出设备8、例如可视显示单元的接口7以用于以可感知的形式呈现输出。当然,数据处理系统1进一步包括常用功能组件,诸如用户输入设备、网络接口等,其在图1中没有被单独地示出。
在实施例中,(未示出),数据处理系统1进一步包括对于至少一个光源的接口,该光源能够是被调整至电磁辐射频谱的可视或近红外线部分的特定范围的光源。
数据处理系统1被布置成生成至少表示基于来自由视频摄像机6捕获的图像序列的每一个的像素值的值的变化的第一信号。在某些实施例中(在图中未示出),它被布置成处理该第一信号以便抑制或移除由捕获图像的单独分析而确定的运动。
在第一实施例中(图2),数据处理系统1执行的方法包括获取(步骤9)图像序列。至少一个图像被分割(步骤10),感兴趣的一个或多个区域被选择(步骤11)。
分割和选择步骤10,11被执行以便识别表示特定类型的表面的区域,特别是那些符合特定标准的区域。在一个实施例中,识别感兴趣的区域,其表示在图像中表示的人的脸部的一些或全部。用于实现这个实施例的合适的算法被描述在Viola,P.和Jones,M.J.,“Robust real-time object detection”, Proc. of IEEE workshop on statistical and computational theories of vision,2001年7月13日。用于识别具有特定形状、颜色和/或图案的图像分段的其它合适的算法是已知的,并且能够代替这个算法或与这个算法相结合地使用。
本说明书将基于感兴趣的一个区域被选择的假设继续进行。这个感兴趣的区域贯穿图像序列被跟踪。用于实现此的合适的算法在De Haan等的“True-motion estimation with 3-D recursive search block matching”, IEEE transactions on circuits and systems for video technology, 3(5),1993年10月,第368-379页中被描述。
对于序列中的第一对图像,数据处理系统1继续进行以在感兴趣的区域中选择至少一个像素值的子集。特别地,从第一图像中感兴趣的区域中选择多个子集(步骤12)。对于每个选择的子集,在子序列中的邻近的图像(通常是在当前图像之后的那个图像,但是也可以是在前的图像)中寻找相应的子集(步骤13)。
通常,每个子集将具有多个像素值,使得在另一个图像中寻找相应的子集的步骤13包括根据一些标准搜索类似的子集。也就是说在下一个图像中寻找感兴趣的区域中最匹配的子集。来自第一图像的每个选择的子集和来自下一个图像的最佳匹配的子集形成子集的组。因为来自第一图像的子集彼此完全不同,对于任意对的组,来自第一和下一个图像两者的子集是不同的。
在下一个帧中寻找相应的子集能够包括在下一个图像中全局搜索与从第一图像中选择的子集的集合相对应的子集的合并集合。这是一种低成本的解决方案,但是很可能相对不够精确。可替换地,对于从第一图像中选择的像素值的每个子集,能够执行穷尽的搜索。这是相对精确的方法,但是计算上相对昂贵。在另一个实施例中,通过获取该子集的预测的运动向量和修改该预测的运动向量以根据至少一个类似性标准选择用于估计的备选子集来寻找类似的子集。该修改是以更新向量的形式,其可以是随机的。这样一种途径表示预测的搜索,其能够在当前图像中的子集上迭代多次。由于对于在初始步骤12中选择的每个子集、运动向量都被单独地寻找的事实,组中的子集相对好地匹配。预测的运动向量的使用允许具有相对低的计算成本的实现方式。例如,能够通过对在当前帧中选择的子集的第一个执行穷尽搜索、然后使用从中产生的运动向量作为其它子集的预测的运动向量来获取预测的运动向量。
接下来(步骤14),每个组被分析。不符合至少一个预先确定的标准的那些组被丢弃(步骤15)。在一个实施例中,在最佳匹配的一个或多个组被选择的意义上,该至少一个标准是相对标准。然而,通常,该至少一个标准将是绝对标准,因为形成的组的数量将是非常大的,使得将总会有一些符合该至少一个标准。
在特定实施例中,该至少一个标准包括像素值的每个子集应当具有最小空间均匀性的标准。在另一个实施例中,该至少一个标准包括至少一个类似性标准。该类似性标准能够与例如颜色和/或纹理的类似性相关。在实施例中,从图像至图像,有关系的像素不能移动比特定距离更多的距离,在这个意义上,使用运动标准。这些标准的每个被设计成确保对于与感兴趣的现象(在光学体积描记术的情况中是周期生物现象)不相关的运动和/或光照改变的健壮性。
然后,只对于选择的子集的组的每个,建立信号片段(步骤16)。在实施例中,来自子集中的像素值被合并成单个值,例如,通过采取加权平均或者通过寻找平均值。对于组中的每个子集都这样做,以使得每个图像都有一个这样的值。效果是对于噪声的健壮性相对高。然而,提取信号值的其它方式也是可能的。在实施例中,图像序列包括两个或多个图像帧序列,每个对应于不同的频道并且包括表示在电磁辐射频谱的有限范围内捕获的电磁辐射的强度的像素值。例如,图像序列能够包括在不同颜色频道(例如红、绿和蓝)中的图像帧序列。在这个可替换的方案中,合并能够包括对来自形成完整图像的每个图像帧的像素值取加权和。其还能够包括减法操作,例如从对应于绿色光的频道中的像素值中减去在所有频道上的平均亮度。
然后,在与组的各个子集相关联的值之间的差别被取得。在每个组仅包括来自两个图像的子集的实施例中,信号片段因此只包括一个值。请注意,选择步骤15能够被推迟,直到信号片段已经被建立之后,特别地以便于使用基于值的合并或者基于图像间合并中的差别的选择标准。因此,只有产生强信号值的那些组能够被选择。
对于每个下一对图像重复步骤12-16,以使得获取到不同的信号片段,其表示在由图像序列限定的时间基础上的不同时间间隔。
在最终步骤中这些被融合(步骤17)以获取覆盖的时间间隔对应于由图像序列所覆盖的时间间隔的信号。多种方法能够被用于信号片段的融合(fusion)。该融合能够例如基于寻找在信号之间的最高关联性或基于异常值的光照。可选择地,信号段能够通过不同权重参与融合过程,所述权重确定它们影响作为融合步骤17的结果的时变信号的程度。例如,权重值能够取决于在寻找类似子集的步骤13中组中的子集被确定与之相匹配的可靠性。在另一个实施例中,组中的子集之间的空间距离至少部分地确定权重。如果距离大,则权重较低。
虽然已经使用来自相邻子集的子集对的组的例子解释了图2的方法,但是图2的方法能够使用来自序列的连续图像的三个或更多子集的组。由组确定的间隔能够重叠。例如,一个组能够包括从第一至第三图像的子集,而另一个从第二至第四图像。
在又一个可替换的实施例中,某些组不是根据来自相邻图像的子集而形成,而是通过跳过某些图像。例如,在一个实现方式中,从第一图像中选择子集,并且在第二图像中找到最相似的子集,从而获取了来自第一和第二图像的子集对。如果特定对不符合特定标准,则该对被丢弃,并且来自第三图像的类似子集被确定。然后,例如能够使用内插以形成从中提取出信号段的子集对。因此,在这个实施例中,在丢弃不符合至少一个标准的集合的像素值的子集对的步骤15后,在另外的图像中寻找类似子集的步骤13在从图像序列中的当前图像中进一步移除的图像上重复。
在一个实施例中(未示出),执行额外的校正以增加对于移动的健壮性。在图像序列中表示的至少一个主体的移动被量化,以便获取分离的信号,该分离的信号至少表示在图像序列中表示的至少一个特定类型的主体的周期性运动。然后,这个信息被用于抑制作为融合处理的结果而获取的信号的分量。将能理解只有对应于感兴趣的区域的主体的运动被分析。能够通过确定表示在图像序列上感兴趣的区域的运动的运动向量序列来实现运动分析。然后,通过分析运动向量的重复性来确定表示生物的周期的运动分量的数据。在实施例中,只有在特定幅度范围内的运动被考虑。作为使用运动向量的替代方案,在像素值或者像素值集合中的光照变化能够被使用以推断运动。然而,这是不太可靠的,并且运动的频率不能被很好地确定。
注意到的是作为融合步骤17的结果的信号、利用可选的运动抑制步骤获得的信号和针对多个间隔获取(步骤16)的信号片段中的任意项能够并且通常会经历进一步的处理,其可以包括提取对应于感兴趣的生物统计信号的信息的步骤,例如使用阿尔法(alpha)趋势均值过滤器过滤。另一个可能的过滤操作是带通过滤。
产生的信号能够被分析,例如以获取对应于例如心率或呼吸率的、感兴趣的周期性现象的频率值。它还能够被使用以选通(gate)成像装置(例如CT扫描仪)。
形成至少表示基于来自图像序列的像素值的值的变化的时变信号的替代方法(图3)删去在两个或多个图像中寻找类似子集以形成像素值的子集的组的步骤13。代替地,形成位置对应的子集的组。
该方法使用特定数量的图像的缓冲器,通过该方法的每次迭代,最近的图像被加入其中(步骤18),而最久的图像从中移除。因此,该缓冲器包含图像序列的子序列。这些通过在图像的集合20的每个上放置栅格(图3)而被用于构成时空体积(步骤19)。在集合20中的图像至少基于视频摄像机6提供的图像。它们可以是过滤和/或图像处理操作(未示出)的结果以补偿运动、摄像机移动等等。
栅格定义了具有宽度△x和高度△y的空间孔径。每个时空体积由集合20中的每个图像的孔径中的给定的一个孔径中的像素值组成。对应于空间孔径中的像素值的像素值子集的序列21的例子在图4中被示出。在集合20中的图像数量确定时间间隔△t。
根据至少一个标准的集合来估计(步骤22)每个时空体积中像素值的子集。只有符合该至少一个标准的那些被保留,并被用于获取至少包括表示生物中的周期性现象的分量的信号。
通常,在图3的实施例中能够使用相同种类的选择标准,如已经结合图2的实施例的选择步骤14而描述的。在栅格被放置在整个图像上的情况下,图3的方法的选择步骤22将至少还包括步骤:估计像素值的子集是否表示特定类型表面,例如人的裸露皮肤。进一步的选择标准涉及像素值的每个子集的均匀性和子集的序列21的时间均匀性。只有最均匀的时空体积、或者符合一些绝对均匀性标准的那些被保留。能够使用多个方法的任意一个来完成在空间和时间域中均匀性的计算,包括动态范围、方差(variance)、熵等的计算。
构成时空体积的步骤19能够使用缺省的空间孔径和时间间隔△t。在一个实施例中,图3的方法的每次迭代(即,对于被处理的整个图像序列的每个间隔)使用不同的孔径大小。附加地或者可替换地,间隔的长度、即在集合20中的图像的数量是变化的。孔径大小(宽度△x或高度△y)能够与所分析的区域的均匀性有联系。从而,更均匀的区域将产生更大的孔径。其它合适的影响因子包括视频摄像机6的传感器的空间分辨率和这些传感器的其它特征。在其它实施例中,不同的孔径具有不同尺寸,在这个意义上,栅格是不规则的。适当的尺寸还能够通过在图像集合20的至少一个上执行对象分割、颜色分割和背景-前景分割中的至少一个而确定。如果分割产生相对小的片段,则栅格的孔径将也是小的。图像集合20所覆盖的间隔△t的合适大小将通常取决于在每个图像中存在的运动量。因此,与选择步骤22相关的一些分析在这些实施例中将已经被执行以组成时空体积。能够确定间隔△t的大小的其它因子包括视频摄像机6的帧速率、在图像中表示的主体的运动强度和光照改变。
在时空体积的某些已经被选择之后,对于每个选择的时空体积,提取基于时空体积的像素值的值的时间变化(步骤23)。在这个步骤23中,来自子集中的像素值被合并成单个值,例如,通过取加权平均或者通过查找平均值。这针对序列21中的每个子集来完成(图4),以使得每个图像有一个这样的值。像素值的合并的效果为对噪声的健壮性是相对高的。然而,提取信号值的其它方式是可能的。在一个实施例中,每个图像包括两个或多个图像帧,每个对应于不同的频道并且包括表示在电磁辐射频谱的有限范围内捕获到的电磁辐射的强度的像素值。例如,图像序列能够包括在不同颜色频道(例如,红、绿和蓝)内的图像帧的序列。在这个可替代方案中,合并能够包括对来自形成完整图像的每个图像帧的像素值取加权和。其还能够包括减法操作,例如,从相应于绿色光的频道中的像素值减去平均亮度。
如图5中图示的,在为像素值的一个子集计算的值和对于序列21中所有子集的值的时间平均之间的差被计算。通常,能够使用任意其他方法以提取在特定时间段上颜色值的空间平均亮度的时间波动。这些变化应当在幅度变化和频率值的特定范围内。
在图示的实施例中,使用滑窗以形成和选择时空体积。因此,在每次迭代处,为图像的当前集合20获取的信号片段彼此融合并且与在前面的迭代处获取的重叠信号片段融合(步骤24)。例如,该融合能够基于寻找信号之间的最高关联性或基于光照异常值。信号片段能够通过不同加权参数参与融合操作。例如,这些能够取决于相关联的时空体积的时间间隔△t的长度(更多的权重被分配给具有更大间隔△t的体积(volume))。
融合的信号被用于提取最重要的信息,其在心跳信号监视的情况下是心率。能够使用阿尔法(Alpha)趋势均值过滤器以从融合的信号中提取感兴趣的融合信号的部分。
如上所述作为对图2中图示的方法的可选附加,抑制表示周期性运动的分量的类似方法在一个实施例(未示出)中被使用。在这种情况下,通过执行图象序列的基于视频的运动分析,获取分离的数据,该分离的数据至少表示在被处理的图像序列中表示的生物的周期性的运动分量。一个运动信号能够被获取并且被至少用于抑制对应于该周期性运动的融合信号的分量。可替换地,能够为分离的图像部分获取分离的运动信号,并且其被用于抑制为对应于那些部分的时空体积而获取的信号段的分量。在特定变形中,是否获取分离的运动信号以便至少抑制从分离的时空体积提取的信号段的周期性分量取决于运动信号之间的差异程度。
即使没有运动抑制,上面概述的方法允许在存在主体运动或光照的突然变化时、从主体的皮肤区域中健壮地提取和分析时间生物统计信号。基于构造和选择最可靠和时间上一致的不受运动伪影影响的时空像素体积(spatio-temporal pixel volumes),图3的实施例能够在信号获得过程期间被直接实现。
应当注意到上面提及的实施例是阐释而非限制本发明,并且本领域技术人员将能够设计许多可替换的实施例,而不脱离所附权利要求的范围。在权利要求中,置于括号间的任何参考标记将不被解释为限制权利要求。词语“包括”不排除在权利要求中列出的那些之外的元素或步骤的存在。在元素前面的词语“一”或“一个”不排除多个该元素的存在。在彼此不同的从属权利要求中记载的特定措施的纯粹事实不表明这些措施的组合不能被有利地使用。
在图2的方法中用于寻找类似子集的类似性的度量能够被限制于纹理的类似性。不需要严格的像素值的类似性。

Claims (14)

1.一种形成时变信号的方法,该时变信号至少表示基于来自图像序列的像素值的值的变化,该信号在长度上对应于该图像序列,该方法包括:
获取所述图像序列;
通过从定义间隔的至少两个图像的每个选择至少一个像素值的子集以形成关联子集的组(21),从而形成像素值的子集的多个组(21),其中对于只具有来自相同图像的子集的任意配对的组(21),来自多于一个图像的子集是不同的;和
根据至少一个选择标准选择子集的组(21)以形成信号,其中所选择的子集的组(21)覆盖不同的间隔,其短于序列的长度。
2.根据权利要求1的方法,其中通过至少在基于所获取的图像的多个图像的每个的至少区域上放置栅格以获取像素值的时空体积而形成组(21),每个体积包括在由所述栅格限定的相应空间孔径中的每个图像的像素值。
3.根据权利要求2的方法,包括:针对每个组,分析由空间孔径限定的像素值的至少一个子集,以确定其是否表示特定类型的表面的一部分。
4.根据权利要求1的方法,其中至少基于获取的图像序列、通过获取来自图像序列的像素值的时空体积而形成组,每个体积包括在来自序列的间隔中的每个图像的空间孔径中的像素值,该方法包括针对在序列的不同间隔上定义的组使用不同的孔径。
5.根据权利要求1的方法,其中至少基于获取的图像序列、通过获取来自图像序列的像素值的时空体积而形成组,每个体积包括在来自序列的间隔中的每个图像的空间孔径中的像素值,该方法包括针对在序列的不同间隔上定义的组(21)使用不同的间隔长度。
6.根据权利要求1的方法,其中至少基于获取的图像序列、通过获取来自图像序列的像素值的时空体积而形成组,每个体积包括在来自序列的间隔中的每个图像的空间孔径中的像素值,其中至少一个选择标准的估计包括确定空间均匀性的度量和确定时间均匀性的度量中的至少一个。
7.根据权利要求1的方法,其中至少基于获取的图像序列、通过获取来自图像序列的像素值的时空体积而形成组(21),每个体积包括在来自序列的间隔中的每个图像的空间孔径中的像素值,并且该方法进一步包括通过将来自每个孔径的多个像素值合并为一个值而从每个选择的组(21)中提取信号段。
8.根据权利要求7的方法,其中通过采取信号段作为输入的融合操作而形成时变信号,其中信号段通过不同权重参与该融合操作,所述权重确定它们影响所述时变信号的程度。
9.根据权利要求1的方法,其中通过从至少基于获取的图像序列中的一个的第一图像选择至少一个像素值的第一子集,并至少基于获取的图像序列的相应的一个、在至少一个另外的图像的每个中定位类似的子集而形成组。
10.根据权利要求1的方法,其中通过获取预测的运动向量和修改该预测的运动向量以根据至少一个类似性标准选择用于估计的备选子集,从而找到至少一个另外的图像中的类似的子集。
11.根据权利要求1的方法,其中形成组包括至少基于获取的图像序列的相应图像、只从至少两个图像的序列的每个中感兴趣的有限区域中选择子集。
12.一种用于形成时变信号的系统,该时变信号至少表示基于来自图像序列的像素值的值的变化,该信号在长度上对应于所述图像序列,该系统包括:
接口(5),用于获取所述图像序列;和
数据处理系统(1),被布置用于:
通过从定义间隔的至少两个图像的每个中选择至少一个像素值的子集以形成关联子集的组(21),从而形成像素值的子集的多个组(21),以使得图像由至少两个间隔覆盖;并
根据至少一个选择标准,选择子集的组(21)以形成所述信号,其中所选择的子集的组(21)覆盖不同的间隔,短于所述序列的长度。
13.根据权利要求12的系统,被配置以执行根据权利要求1-11中任意一个的方法。
14.计算机程序,包括指令集合,当结合在机器可读介质中时,该指令集合能够使得具有信息处理能力的系统执行根据权利要求1-11中任意一个的方法。
CN201080045228.2A 2009-10-06 2010-10-01 至少表示基于像素值的值的变化的时变信号的形成和处理 Active CN102549620B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP09172343.7 2009-10-06
EP09172343 2009-10-06
PCT/IB2010/054437 WO2011042844A1 (en) 2009-10-06 2010-10-01 Formation of a time-varying signal representative of at least variations in a value based on pixel values

Publications (2)

Publication Number Publication Date
CN102549620A true CN102549620A (zh) 2012-07-04
CN102549620B CN102549620B (zh) 2015-01-28

Family

ID=43216349

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080045228.2A Active CN102549620B (zh) 2009-10-06 2010-10-01 至少表示基于像素值的值的变化的时变信号的形成和处理

Country Status (5)

Country Link
US (2) US8553940B2 (zh)
EP (1) EP2486543B1 (zh)
JP (1) JP5685598B2 (zh)
CN (1) CN102549620B (zh)
WO (1) WO2011042844A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103356189A (zh) * 2012-03-30 2013-10-23 美国西门子医疗解决公司 磁共振和超声参数化图像融合
CN104662584A (zh) * 2012-09-21 2015-05-27 皇家飞利浦有限公司 运动鲁棒的生命信号监测

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11381757B2 (en) * 2019-06-13 2022-07-05 Motherson Innovations Company Limited Imaging system and method
EP2691020A2 (en) 2011-03-30 2014-02-05 Koninklijke Philips N.V. Contactless sleep disorder screening system
JP5734740B2 (ja) * 2011-05-23 2015-06-17 株式会社豊田中央研究所 弾性波検出装置及び弾性波検出プログラム
GB201114406D0 (en) 2011-08-22 2011-10-05 Isis Innovation Remote monitoring of vital signs
WO2014030091A1 (en) * 2012-08-24 2014-02-27 Koninklijke Philips N.V. Method and apparatus for measuring physiological parameters of an object
CN105338890B (zh) * 2012-11-11 2018-10-09 肯库有限责任公司 确定生命参数的方法和装置
US10052038B2 (en) * 2013-03-14 2018-08-21 Koninklijke Philips N.V. Device and method for determining vital signs of a subject
BR112015022112A2 (pt) * 2013-03-14 2017-07-18 Koninklijke Philips Nv dispositivo para determinar os sinais vitais de um indivíduo, método para determinar os sinais vitais de um indivíduo, programa de computador, e sistema para determinar os sinais vitais de um indivíduo
US10238292B2 (en) 2013-03-15 2019-03-26 Hill-Rom Services, Inc. Measuring multiple physiological parameters through blind signal processing of video parameters
JP6371837B2 (ja) * 2013-10-17 2018-08-08 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 被験者のバイタルサインを取得するデバイスと方法
RU2679868C1 (ru) 2013-12-13 2019-02-13 Конинклейке Филипс Н.В. Система и способ мониторинга сна
WO2016006027A1 (ja) * 2014-07-07 2016-01-14 富士通株式会社 脈波検出方法、脈波検出プログラム及び脈波検出装置
JP6436385B2 (ja) * 2014-12-17 2018-12-12 パナソニックIpマネジメント株式会社 撮像装置、画像処理装置及び画像処理方法
US10019883B2 (en) 2016-01-21 2018-07-10 Htc Corporation Method for monitoring breathing activity, electronic device, and computer-readable storage medium using the same
GB201601140D0 (en) 2016-01-21 2016-03-09 Oxehealth Ltd Method and apparatus for estimating heart rate
GB201601142D0 (en) * 2016-01-21 2016-03-09 Oxehealth Ltd Method and apparatus for estimating breathing rate
GB201601143D0 (en) 2016-01-21 2016-03-09 Oxehealth Ltd Method and apparatus for health and safety monitoring of a subject in a room
GB201601217D0 (en) 2016-01-22 2016-03-09 Oxehealth Ltd Signal processing method and apparatus
US10335045B2 (en) 2016-06-24 2019-07-02 Universita Degli Studi Di Trento Self-adaptive matrix completion for heart rate estimation from face videos under realistic conditions
US11412943B2 (en) 2016-07-16 2022-08-16 Olesya Chornoguz Methods and systems for obtaining physiologic information
US10750129B2 (en) 2016-08-23 2020-08-18 Koninklijke Philips N.V. Hospital video surveillance system
GB201615899D0 (en) 2016-09-19 2016-11-02 Oxehealth Ltd Method and apparatus for image processing
US10192307B2 (en) 2016-10-27 2019-01-29 Xerox Corporation System and method for extracting a periodic signal from video
EP3539082A1 (en) 2016-11-08 2019-09-18 Oxehealth Limited Method and apparatus for image processing
GB201706449D0 (en) 2017-04-24 2017-06-07 Oxehealth Ltd Improvements in or realting to in vehicle monitoring
GB201803508D0 (en) 2018-03-05 2018-04-18 Oxehealth Ltd Method and apparatus for monitoring of a human or animal subject
GB201900034D0 (en) 2019-01-02 2019-02-13 Oxehealth Ltd Method and apparatus for monitoring of a human or animal subject
GB201900032D0 (en) 2019-01-02 2019-02-13 Oxehealth Ltd Method and apparatus for monitoring of a human or animal subject
GB201900033D0 (en) 2019-01-02 2019-02-13 Oxehealth Ltd Mrthod and apparatus for monitoring of a human or animal subject
KR102407956B1 (ko) * 2019-11-21 2022-06-14 주식회사 지비소프트 스마트 미러 장치
WO2024121066A1 (en) 2022-12-05 2024-06-13 Koninklijke Philips N.V. System for respiratory rate determination based on multiple contactless sensing modalities and related methods

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040218787A1 (en) * 2002-04-17 2004-11-04 Tomohisa Tagami Motion detector, image processing system, motion detecting method, program, and recordig medium
WO2008009656A1 (en) * 2006-07-17 2008-01-24 Mitsubishi Electric Information Technology Centre Europe B.V. Image processing for change detection

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB8628698D0 (en) 1986-12-01 1987-01-07 Kon Israel Pulse rate detector
US4958638A (en) 1988-06-30 1990-09-25 Georgia Tech Research Corporation Non-contact vital signs monitor
ES2110841T5 (es) 1994-03-24 2005-12-16 Minnesota Mining And Manufacturing Company Sistema de autenticacion personal biometrica.
US5995856A (en) 1995-11-22 1999-11-30 Nellcor, Incorporated Non-contact optical monitoring of physiological parameters
AU2977700A (en) 1999-01-29 2000-08-18 Evgueni N. Bogomolov Personal physiological monitor
WO2001067960A2 (en) 2000-03-16 2001-09-20 Cedara Software Corp. System and method for processing an image sequence
JP2005517257A (ja) * 2002-02-06 2005-06-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ セグメント化装置及び方法
US6650918B2 (en) 2002-02-22 2003-11-18 Datex-Ohmeda, Inc. Cepstral domain pulse oximetry
KR100462182B1 (ko) * 2002-04-15 2004-12-16 삼성전자주식회사 Ppg 기반의 심박 검출 장치 및 방법
US7354380B2 (en) 2003-04-23 2008-04-08 Volpe Jr Joseph C Heart rate monitor for controlling entertainment devices
US20050054940A1 (en) 2003-04-23 2005-03-10 Almen Adam J. Apparatus and method for monitoring heart rate variability
KR100675555B1 (ko) 2003-07-07 2007-01-29 유선국 맥박 산소포화도 측정 장치 및 방법
GB0327100D0 (en) 2003-11-21 2003-12-24 King S College Hospital Nhs Tr Blood flow monitoring equipment
CN1613425A (zh) 2004-09-15 2005-05-11 南京大学 司机疲劳预警生物识别的方法和系统
CN101394783B (zh) 2004-09-21 2014-03-19 数字信号公司 远程监视生理机能的系统和方法
EP1835845A4 (en) 2004-12-28 2008-09-10 Hypermed Inc HYPERSPECTRAL / MULTISPECTRAL IMAGERY FOR THE DETERMINATION, EVALUATION AND MONITORING OF SYSTEMIC PHYSIOLOGY OR IMPACT CONDITIONS
CN100509083C (zh) 2005-01-31 2009-07-08 重庆微海软件开发有限公司 利用呼吸信号控制图像同步的方法及其装置
JP4068098B2 (ja) * 2005-02-21 2008-03-26 稔 冨田 血流測定装置
US7840246B1 (en) 2005-09-20 2010-11-23 Pacesetter, Inc. Implantable self-calibrating optical sensors
WO2007043328A1 (ja) * 2005-10-12 2007-04-19 Konica Minolta Holdings, Inc. データ検出装置及びデータ検出方法
JPWO2007052755A1 (ja) 2005-11-04 2009-04-30 株式会社東芝 呼吸モニタリング装置、呼吸モニタリングシステム、医療的処理システム、呼吸モニタリング方法、呼吸モニタリングプログラム
WO2007144880A2 (en) 2006-06-13 2007-12-21 Elfi-Tech Ltd. System and method for measurement of biological parameters of a subject
US8360986B2 (en) 2006-06-30 2013-01-29 University Of Louisville Research Foundation, Inc. Non-contact and passive measurement of arterial pulse through thermal IR imaging, and analysis of thermal IR imagery
US20100056887A1 (en) 2006-11-27 2010-03-04 Pioneer Corporation Emission sensor device and bioinformation detecting method
WO2008129482A2 (en) 2007-04-18 2008-10-30 Koninklijke Philips Electronics, N.V. Apparatus and methods for rendering personal stories to medical patients
EP1988489B1 (en) 2007-05-04 2021-02-17 STMicroelectronics (Research & Development) Limited Biometric sensor apparatus and method
US8506480B2 (en) 2007-07-11 2013-08-13 Sotera Wireless, Inc. Device for determining respiratory rate and other vital signs
US7504872B2 (en) 2007-08-13 2009-03-17 Nvidia Corporation Generic flexible timer design
CN101112307A (zh) 2007-08-30 2008-01-30 复旦大学 利用高速ccd测量斑马鱼心率的方法
US8149273B2 (en) * 2007-11-30 2012-04-03 Fuji Xerox Co., Ltd. System and methods for vital sign estimation from passive thermal video
JP5013532B2 (ja) * 2008-02-28 2012-08-29 学校法人玉川学園 移動物体追跡装置、移動物体追跡方法及びプログラム
CN101527034B (zh) 2008-03-07 2013-01-23 深圳迈瑞生物医疗电子股份有限公司 自适应帧相关的方法和装置
WO2010100594A2 (en) 2009-03-06 2010-09-10 Koninklijke Philips Electronics N.V. Processing images of at least one living being
US20110251493A1 (en) * 2010-03-22 2011-10-13 Massachusetts Institute Of Technology Method and system for measurement of physiological parameters

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040218787A1 (en) * 2002-04-17 2004-11-04 Tomohisa Tagami Motion detector, image processing system, motion detecting method, program, and recordig medium
WO2008009656A1 (en) * 2006-07-17 2008-01-24 Mitsubishi Electric Information Technology Centre Europe B.V. Image processing for change detection

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
F.P.WIERINGA ET AL: "Contactless multiple wavelength photoplethysmographic imaging: a first step toward "SpO2 Camera" technology", 《ANNALS OF BIOMEDICAL ENGINEERING》 *
JENS-RAINER OHM: "《Multimedia Communication Technology》", 1 January 2004, SPRINGER *
TING WU: "PPGI: New development in noninvasive and contactless diagnosis of dermal perfusion using near infrared light", 《JOURNAL OF THE SOCIETY OF CHINESE PHYSISTS IN GERMANY》 *
WIM VERKRUYSSE ET AL: "Remote plethysmographic imaging using ambient light", 《OPTICS EXPRESS》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103356189A (zh) * 2012-03-30 2013-10-23 美国西门子医疗解决公司 磁共振和超声参数化图像融合
CN104662584A (zh) * 2012-09-21 2015-05-27 皇家飞利浦有限公司 运动鲁棒的生命信号监测
CN104662584B (zh) * 2012-09-21 2019-01-08 皇家飞利浦有限公司 运动鲁棒的生命信号监测

Also Published As

Publication number Publication date
JP2013506927A (ja) 2013-02-28
US20120195469A1 (en) 2012-08-02
EP2486543B1 (en) 2017-02-22
EP2486543A1 (en) 2012-08-15
US9025826B2 (en) 2015-05-05
US8553940B2 (en) 2013-10-08
WO2011042844A1 (en) 2011-04-14
JP5685598B2 (ja) 2015-03-18
CN102549620B (zh) 2015-01-28
US20140037163A1 (en) 2014-02-06

Similar Documents

Publication Publication Date Title
CN102549620B (zh) 至少表示基于像素值的值的变化的时变信号的形成和处理
Zhou et al. Efficient and accurate extraction of in vivo calcium signals from microendoscopic video data
CN102341828B (zh) 处理至少一个活体的图像
EP3405105B1 (en) Method and apparatus for estimating heart rate
JP6521845B2 (ja) 心拍に連動する周期的変動の計測装置及び計測方法
CN105190691B (zh) 用于获得对象的生命体征的设备
US8649562B2 (en) Method and system for processing a signal including at least a component representative of a periodic phenomenon in a living being
US10952683B2 (en) Method and apparatus for estimating breathing rate
CN104123536B (zh) 用于图像分析的系统和方法
US20160125620A1 (en) Device, system and method for automated detection of orientation and/or location of a person
Li et al. The 1st challenge on remote physiological signal sensing (repss)
CN117351395A (zh) 夜间场景目标检测方法、系统及存储介质
CN105027166A (zh) 用于基于生命体征来检测对象的装置和方法
Di Lernia et al. Remote photoplethysmography (rPPG) in the wild: Remote heart rate imaging via online webcams
KR101601041B1 (ko) 기능적 자기 공명 영상의 패턴 분류 장치 및 방법
Zheng et al. Shielding facial physiological information in video
KR101556601B1 (ko) 3차원 볼륨 영상의 빅 데이터 데이터베이스 구축 장치 및 방법
US10977482B2 (en) Object attribution analyzing method and related object attribution analyzing device
CN113347920B (zh) 血压测量装置、模式设定装置以及血压测量方法
Ahmed et al. Automatic Region of Interest Extraction from Finger Nail Images for Measuring Blood Hemoglobin Level
Bonomi et al. Contactless approach for heart rate estimation for QoE assessment
Zaki et al. Tracing of retinal blood vessels through edge information
CN114723934A (zh) 基于视频的血流特征测定及疲劳度判定
CN116509324A (zh) 灵长类动物精细动作分析方法、装置、电子设备及介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant