CN103561648B - 用于监视在共同床中的多个受检者的移动和呼吸的方法和设备 - Google Patents

用于监视在共同床中的多个受检者的移动和呼吸的方法和设备 Download PDF

Info

Publication number
CN103561648B
CN103561648B CN201280026290.6A CN201280026290A CN103561648B CN 103561648 B CN103561648 B CN 103561648B CN 201280026290 A CN201280026290 A CN 201280026290A CN 103561648 B CN103561648 B CN 103561648B
Authority
CN
China
Prior art keywords
under inspection
person under
motion
image
bedding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201280026290.6A
Other languages
English (en)
Other versions
CN103561648A (zh
Inventor
H.C.范武格特
A.海恩里奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN103561648A publication Critical patent/CN103561648A/zh
Application granted granted Critical
Publication of CN103561648B publication Critical patent/CN103561648B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/08Detecting, measuring or recording devices for evaluating the respiratory organs
    • A61B5/0816Measuring devices for examining respiratory frequency
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/113Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb occurring during breathing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4806Sleep evaluation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7278Artificial waveform generation or derivation, e.g. synthesising signals from measured signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Physiology (AREA)
  • Pulmonology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Psychiatry (AREA)
  • Signal Processing (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明涉及用于监视占用共同寝具的两个或更多个受检者的移动和呼吸的方法和设备。特别地,本发明涉及一种用于监视位于共同寝具中的受检者的移动的方法,该方法包括以下步骤:‑利用光学传感器来对所述寝具成像;‑通过产生指示在从所述光学传感器接收的连续图像或以数帧分开的图像之间的相对应图像块的局部移位的运动矢量来执行运动估计;‑通过测量运动矢量的空间和时间相关性来计算运动群集;‑通过将每个运动群集分配给相对应的受检者来分割所述计算的运动群集,其中向相对应的受检者分配运动群集是基于运动群集彼此之间的空间和/或时间相似性和先前的分割结果。

Description

用于监视在共同床中的多个受检者的移动和呼吸的方法和 设备
技术领域
本发明涉及用于监视在共同寝具中的例如同床者的移动和呼吸的方法和设备。特别地,本发明涉及一种用于监视位于共同寝具中的受检者的移动的方法,该方法包括以下步骤:
-利用光学传感器来对寝具成像;
-通过产生指示在从所述光学传感器接收的连续图像或以数帧分开的图像之间的相对应图像块的局部移位的运动矢量来执行运动估计;
-通过测量运动矢量的空间和时间相关性来计算运动群集;
-通过将每个运动群集分配给相对应的受检者来分割计算的运动群集,
其中向相对应的受检者分配运动群集是基于运动群集彼此之间的空间和/或时间相似性和先前的分配结果。
背景技术
呼吸是高度相关的睡眠参数,例如,其提供对于放松、睡眠深度、呼吸暂停和打鼾事件等状态的了解。移动也为高度相关的睡眠参数,例如其提供对于人的睡眠-觉醒状态和周期性的肢体移动的了解。在一张床上多于一个人对于监视床上的呼吸和移动带来了困难。不仅当两个人靠在一起睡眠时而且也在较少靠在一起但在盖同一床羽绒被睡眠时如此。因此,本发明涉及当两个或更多个受检者共用共同床时监视呼吸和移动。就此而言,“受检者”应被理解为人和/或动物,而共同的床应被理解为休息的地点,如床,其通常由至少两个受检者同时使用。
可使用光学传感器和小麦克风以非接触的方式来监视呼吸。监视呼吸可用于许多睡眠/放松应用,例如闭环节律性呼吸装置或其它放松装置、用于监视各种类型的呼吸暂停或打鼾的装置、睡眠教练、睡眠深度监视器、非接触式“睡眠质量评分器”等。在睡眠期间的移动也是高度相关的睡眠参数,例如其提供对于人睡眠-觉醒状态和周期性肢体移动的了解。也能使用光学传感器以非接触式方式来监视移动。监视移动可用于多种睡眠/放松应用,例如对于人的睡眠/觉醒状态做出响应的系统(例如,当人入睡时关掉的系统)、用于监视周期性肢体移动的装置、深度睡眠监视器、非接触式“睡眠质量评分器”等。
上述装置通常目标在于监视或影响一个使用者;但是很多人是与同床者共用他们的床。同床者可能或多或少地靠在一起睡眠。存在多种伴侣睡觉姿势,例如:
- “远离(Sailing away)”–同床者睡在最远的床脚,或者头对脚;
- “拥抱”– 同床者深深拥抱面对面睡觉;
-“面对背贴身(Spoon)” – 一个同床者侧睡并且另一个同床者躺在这个同床者的后方并且用一只手臂围绕他或她;
- “面对背宽松(Loosely tight)”-这种姿势类似于“面对背贴身”,但差别在于同床者在他们和其同床者之间保持某些距离,然而,在两个同床者之间总是存在接触:膝盖、手、脚等。
多个人一起睡在一张床上并且盖一床羽绒被。由国家睡眠基金会询问超过一千成人受访者的调查发现在大多数晚上,61%的受访者与重要的另一半同眠,12%的受访者在大多数晚上与他们的宠物一起睡觉,并且5%的受访者与他们的孩子(们)一起睡觉。超过六成的受访者(62%)报告他们更喜欢与他们重要的另一半同眠。
戴在身上的传感器可用于在睡眠期间监视移动(例如活动记录器)或呼吸(例如戴在胸部和/或腹部周围的呼吸带),但是,对于使用者而言,这些传感器既不舒服也不方便。不戴在身上的传感器,例如光学传感器,因此对于使用者而言是更理想的并且具有以甚至更可靠的方式来监视睡眠的潜力。
睡在一起给在夜间利用具有固定位置的不戴在身上的传感器监视呼吸和/或移动带来了困难。不仅当两个人身体靠在一起睡眠时而且也在较少靠在一起但盖同一床羽绒被睡眠时如此,这是因为较大和较小的移动二者,包括呼吸移动,可从床的一侧传到床的另一侧。
Nakajima等人在1997年10月30日-11月2日美国芝加哥, IL举行的第19届国际会议IEEE/EMBS的会议记录中的论文“A method for measuring respiration and physicalactivity in bed by optical flow analysis”公开了一种完全不接触并且不受约束的监视方法,其通过引入图像序列分析,基于身体移动的光流检测。应用时空局部优化方法来确定图像序列中的光流。光流使整个身体运动的表观速度场可视,包括由于呼吸和在床上的姿势改变造成的乳房移动。心率的暂时增加反映了身体活动的大小。提出了两种候选参数来基于实验结果的比较来评估呼吸和身体活动。运动速度平方的平均值反映了身体活动的大小。代表性场平均分量示出了具有与利用鼻热敏电阻器获得的呼吸的周期性起伏相对应的周期性起伏的波形。
Nakajima等人在2000年7月23日-28日在美国芝加哥, IL举行的第22届年度EMBS国际会议的会议记录中的论文“A monitor for posture changes and respiration inbed using real time image sequence analysis”公开了一种图像序列分析的实时系统以评估床上的受检者的姿势变化和呼吸。该系统包括CCD摄像机(用作传感器)、图像处理板和PC。包括256个CPU的图像处理板在150ms内检测256×240像素的光流(表观速度)。代表性场平均速度示出了包括两个分量的波形,这两个分量具有大峰和周期性起伏。大峰发生在姿势改变期间,并且周期性起伏对应于利用鼻热敏电阻得到的呼吸。在疗养院测试了该系统,其中,其总共工作了56个小时而没有任何问题。
Kuo等人在2010年3月在IEEE Transactions on Information Technology inBiomedicine, 第14卷,第2期中的论文“A visual context-awareness-based sleeping-respiration measurement system” 公开了由于老龄化人口的快速增长,改进老年人健康护理的具体方面变得更加重要。用于老年人的睡眠监视系统是很少的。在此论文中,提出了一种基于视觉情境感知的睡眠-呼吸测量系统,其测量年老的睡眠者的呼吸信息。准确的呼吸测量需要考虑到睡觉的人的所有可能的情境。所提出的系统包括身体运动情境检测子系统、呼吸情境检测子系统和基于快速运动矢量估计的呼吸测量子系统。对于研究人群而言,这种系统得到准确的呼吸测量。
US 7,431,700 B2公开了一种监视器,其能检测睡觉的人的呼吸而不会受到室内照明光的影响并且能通过图像测量而容易地定量评估检测的呼吸。该监视器包括用于投射特定的照明图案的器件,用于持续地拾取投射的光的图像的器件,用于从图像拾取器件在不同时间采集的两个帧的图像计算照明图案的帧间移动的器件,用于生成包括以时间序列排列的帧间移动的移动波形数据的器件;以及用于从移动波形数据来检测对象的移动的器件。
WO 2010/070463 A1公开了一种用于指示人的性趣的情绪检测系统,该系统包括:身体迹象检测装置,其生成表示所述人的身体参数的响应信号;身体接触检测器,其生成指示用于在所述人与同床者之间的身体接触的发生的接触信号;信号处理器,其具备存储器;以及,输出装置,其受处理器控制。在分析模式中,处理器分析从身体迹象检测装置获得的(多个)响应信号,确定人的情绪并且根据确定的结果,操作输出装置。响应于从身体接触检测器接收的指示人与同床者的身体做出身体接触的接触信号,处理器由其记录模式切换到其分析模式。
由Shi和Malik在新德里Narosa的第六届国际计算机视觉会议中的论文“Motionsegmentation and tracking using normalized cuts”,第1154-1160页,提出了一种运动分割算法,其目的在于将场景分成其最显著的移动组。通过连接彼此时空相邻的像素,在图像序列上构建加权图。在每个像素处,限定运动轨迹矢量,其获得图像速度的概率分布。在运动轨迹之间的距离用于在图边缘上分配权重。使用归一化切割,发现由图像序列形成的时空图的最突出的划分。
EP 1 410 755 A1公开了一种能检测睡觉的人的状况的监视装置。监视装置包括:多个独立的距离传感器,这些传感器朝向待监视的监视目标区域中的不同位置以测量离监视目标的距离;计算单元,其用于计算距离传感器的输出随时间的变化;以及,检测处理器,其基于在多个距离传感器中的一个或多个距离传感器所计算的随时间的变化来检测被监视目标的形状变化。
发明内容
因此,本发明的目的在于改进利用不戴在身上的传感器监视呼吸和移动的精确性,特别是当两个或更多个受检者共用一张床时。
通过一种用于监视位于共同寝具中的受检者的移动的方法来实现本发明的这个目的,该方法包括以下步骤:
-利用光学传感器来对寝具成像;
-通过产生指示在从所述光学传感器接收的连续图像或以数帧(帧数取决于在照相机中设置的帧率)分开的图像之间的相对应图像块的局部移位的运动矢量来执行运动估计;
-通过测量运动矢量的空间和时间相关性来计算运动群集;
-通过将每个运动群集分配给相对应的受检者来分割计算的运动群集,
其中向相对应的受检者分配运动群集是基于运动群集彼此之间的空间和/或时间相似性和先前的运动矢量分配。
通过本发明,提出了一种利用光学传感器的技术,光学传感器能自适应地将图像部分分配给一个受检者和/或其他受检者以便在整夜准确地分析受检者自己的移动和呼吸节奏。即使当受检者睡在两个单独床垫上时以及他们紧靠着躺在一起并且盖一床羽绒被时都能如此。此外,所提出的技术利用仅一个传感器来同时监视在床上的多个受检者。
就此而言,成像应被认为是收集在共同床上的受检者上的光学信息。但是,并不需要以高分辨率照相机系统来拍摄这种光学信息。例如从与在具有16×16像素分辨率的光学鼠标中使用的光学传感器类似的光学传感器组合的低分辨率图像用于执行运动估计。低分辨率图像处理降低了对处理功率的需要,而这使得该方法更快,甚至当仅使用小处理系统时。此外,使用低分辨率图像使得能够匿名监视具有不可辨认的特征(例如面部)的受检者。另外,光学信息无需在电磁波谱的可见范围中。例如,光学信息可在电磁波谱的红外(IR)范围中组合。使用IR提供了以下益处:该方法甚至更少地干扰被监视的受检者,因为其是肉眼看不到的,并且因此更舒适。
对于运动估计,可采用提供合适运动矢量的任何类型的算法,例如,由de Haan等人在1993年10月IEEE Transactions on Circuits and Systems for Video Technology,第3卷,第5期中的论文“True-motion estimation with 3-D recursive search blockmatching”中提出的算法。但是一般而言,可采用计算运动信息的任何算法,例如光流估计、最大后验概率估计、马尔科夫随机场估计、均方误差计算、绝对差求和计算、平均绝对差计算、误差平方和计算以及绝对变换差求和计算(sum of absolute transformeddifferences calculation)可适用于本发明的方法。
根据本发明的一实施例,考虑先前图像的分割结果来将运动群集分配给在随后的图像中的相对应的受检者。这样一来,提高了分配精确性,同时降低了所需处理功率。
根据本发明的另一实施例,基于来自由光学传感器提供的连续图像或数帧(帧数取决于在照相机中设置的帧率)分开的图像的数据来对共同床中的每个受检者执行呼吸分析。
测量呼吸在健康护理和消费市场中是有价值的。在健康护理中,可通过分析受检者的呼吸模式来辨认很多种疾病(例如,心衰竭、呼吸或肺疾病、肾衰竭)。例如,当心衰竭推进时,可能会出现陈-施式(Cheyne-Stokes)呼吸(周期性呼吸)。下文描述了心衰竭的症状可如何以特定呼吸模式表现出其本身。心衰竭的症状可能突然开始,特别是由于心脏病发作引起时。但是,大部分人在心脏开始出现问题时并无症状。症状然后逐渐地随着日、月或年发展。最常见的症状是呼吸短促和疲劳。心衰竭可能会稳定一段时间,但常常缓慢地并且在不知不觉中发展。左侧心衰竭和右侧心衰竭产生不同的症状。尽管可能存在两种类型的心衰竭,常常以一侧衰竭的症状为主。最终,左侧心衰竭造成右侧故障。左侧心衰竭导致流体积聚在肺中,这造成呼吸短促。起先,呼吸短促仅在用力期间发生,但随着心衰竭发展,其在越来越少用力时发生并且最终甚至在休息时发生。具有严重左侧心衰竭的人可能在躺下时呼吸短促(被称作端坐呼吸的病症),这是因为重力造成更多的流体流入肺。坐起造成流体中的某些排到肺底部并且使得呼吸更容易。当心衰竭推进时,可出现陈-施式呼吸(周期性呼吸)。在此不常见的呼吸模式中,人快速地并且深深地呼吸,然后更缓慢地呼吸,然后持续数秒完全不呼吸。形成陈-施式呼吸是因为流向大脑的血减少了并且因此控制呼吸的大脑区域并未接收到足够的氧。患有心衰竭的某些人经历端坐呼吸、阵发性夜间呼吸困难,或二者。端坐呼吸为当人躺下时呼吸短促,而通过坐起得到缓解。阵发性夜间呼吸困难为在睡觉期间突然的、常常很可怕的呼吸短促突发。这种病症是端坐呼吸的极端形式并且是严重心衰竭的迹象。也可能在贫血或失血的人中出现呼吸困难,这是因为将氧运送到组织的红血细胞数量减少。人快速并且深深地呼吸,以反射性努力来试图增加血液中的氧量。患有严重肾衰竭、糖尿病突然恶化的人或者已服用某种药物或者毒品的人感觉到喘不过气来并且可能开始快速地喘气,这是因为大量酸积聚在血液中(被称作代谢性酸中毒的病症)。贫血和心衰竭也可能会造成患有肾衰竭的人呼吸困难。此外,存在三种形式的睡眠呼吸暂停:中央(CSA)、阻塞性(OSA)和复合或混合的睡眠呼吸暂停(即,中央与阻塞性的组合)。在CSA中,由于缺少呼吸努力而中断呼吸;在OSA中,尽管存在呼吸努力但气流存在物理阻塞而中断呼吸,并且常见的是打鼾。
无论是什么类型,发生睡眠呼吸暂停的个人很少觉察到难以呼吸,即使在醒来时。睡眠呼吸暂停常常被发作期间目击到该个人的其他人认出为困难或者由于其对身体的影响而被怀疑。症状可存在数年或甚至数十年而没有被确认,在此期间,患者可能变得习惯于与严重水平的睡眠障碍相关联的白天嗜睡和疲劳。
据ESC(欧洲心脏病协会)和HFSA(美国心衰竭协会)报道,心衰竭(HF)是很常见的疾病。ESC代表具有大于9亿组合人口的国家,并且在这51个国家中至少存在1500万HF患者。无症状型心室功能障碍的患病率类似,使得在大约4%的人口中存在HF或无症状型心室功能障碍。HF的患病率在2%与3%之间并且在大约75岁的年龄急剧升高,因此在70至80岁的人中的患病率在10%与20%之间。HF的总患病率在增加也是因为全球老龄化人口。HFSA文献表明心衰竭是常见的,但未被辨认并且常常被误诊。这影响了接近500万的美国人。心衰竭是仅有的不断增长的主要心血管障碍。据估计每年诊断出400,000至700,000新的心衰竭病例并且在美国由于这个病症而死亡的人数已超过自从1979年的两倍,平均每年 250,000人死亡。
大量的HF事件自然地伴有高昂的健康护理成本。除了心脏病之外,呼吸疾病也是普遍的,其中早期干预或者更明确的诊断将有益于人的健康和相关联的健康护理成本。英国肺脏基金会表明了以下事实:
·存在影响肺和/或气道并且影响人呼吸能力的超过四十种病症。其包括肺癌、肺结核、哮喘、COPD(慢性阻塞性肺病)、囊胞性纤维症、睡眠呼吸暂停、禽流感、毛细支气管炎等;
·在英国每7个人中就有1个人患有肺病,这等于大约800万人;
·在英国呼吸疾病是排在所有非呼吸癌症组合之后的第二大致死原因(2004年死亡117,456人),所有非呼吸癌症组合仅造成略微更多的死亡(在2004年在英国死亡122,500人);
·在全球呼吸疾病为排在心血管疾病之后的第二大致死原因;
·在2020年,全世界6800万死亡人中将有1190万是由于肺病造成;
·英国由于呼吸疾病造成的死亡率几乎为欧洲平均值的两倍并且在欧洲为第六高;
·由于职业肺病造成的死亡快速上升,这是因为在1988年-1998年之间由于间皮瘤死亡的人数增加了75%;
·呼吸疾病是在儿童中最常报道的长期疾病,并且是在成人中第三最常报道的。
呼吸监视对于消费市场而言,特别是对于放松而言是有价值的。目前,由于不规律的睡眠、轮班当值、表现压力和紧张,更难以以放松的方式入睡。围绕放松的解决方案变得越来越重要。人的放松状态与他/她的呼吸特征密切相关。由于呼吸模式在整个入睡过程变化,呼吸分析能提供用于睡眠改善干预的控制参数,例如用于放松的有节律的呼吸。
另外,由于人将其几乎三分之一的生命花费于睡觉,好品质的睡眠对于良好的健康和幸福状况至关重要。但是,生活方式和环境因素使得睡眠越来越难,如在本文中所讨论的那样。目前,由于疾病、不规律的睡眠、轮班当值、表现压力和紧张导致睡眠质量越来越差。差的睡眠对于行为、情绪、表现、安全性、精神和身体健康具有不利的影响。
能通过与如通常用于量化深度的相移干涉术相当的方法来执行呼吸分析。为了实现此,将光图案投射到待分析的区域上。在不存在投射光图案的情况下,分析在所观察的竖直偏移与来自自然源的反射光的实际竖直偏移之间的关系。呼吸造成的微移动使得来自自然光的投射光的这种图案显著变形。如果放松要求并且图像品质足够,能从图像提取微移动而无需任何额外的图案投射。
根据本发明,通过利用在连续图像或数帧(帧数取决于在照相机中设置的帧率)隔开的图像中的最大运动区域来执行对在共同寝具中的受检者的呼吸的分析,所述最大运动区域在受检者的肢体不动时识别。当执行运动估计以提供运动矢量时,最大的运动区域为具有最大运动矢量的区域。为了识别肢体不动的时间,可采用针对运动矢量的阈值。如果运动矢量低于阈值,那么识别最大运动矢量的区域并且仅在这些区域中执行呼吸分析。这减小了分析所需的计算功率并且使得能将该方法实施于用作独立系统的小监视装置。
根据本发明的另一实施例,通过对每个识别的最大运动区域执行独立呼吸分析来执行对每个受检者的个别呼吸分析。这使得能够准确监视每个个别受检者的呼吸,即使受检者很靠近彼此定位时,例如在共同床中或者盖一床羽绒被。
根据本发明的另一实施例,来自光学传感器的图像被分割成主要胸部运动的边界。这种分割可基于运动估计的结果和所计算的运动矢量,例如通过将具有相同取向的运动矢量分配给一个区段。取向可在可限定的阈值水平内改变以用于分配。发现通常位于共同环境中的不同受检者的胸部运动矢量在其取向方面显著不同,因此将矢量分配给表示不同受检者的不同区段是可能的。
根据本发明的另一实施例,除了共用该共同床的受检者之外,光学传感器也对床环境成像。通过这样做,能正好在受检者进入例如卧室等被监视环境时的点监视受检者的运动。通过恒定地监视受检者的运动,将运动分配给不同的受检者更容易,这是因为当分析连续图像或数帧分开的图像时,能将来自先前图像的运动估计的结果考虑在内。
根据本发明的另一实施例,从运动估计得到的运动矢量用于跟踪也在寝具的环境中的受检者。通过这样做,也在受检者离开共同寝具时监视受检者的运动,只要受检者仍在共同环境中,例如卧室等中。通过恒定地监视受检者的运动,将运动分配给不同的受检者更容易,这是因为当分析连续图像或数帧分开的图像时能考虑来自先前图像的运动估计结果。
在另一方面,本发明涉及一种用于监视位于共同寝具中的受检者的移动的设备,该设备包括光学传感器和数据处理单元,其中光学传感器能对共同寝具成像并且将连续图像或者数帧分开的图像的数据递送到数据处理单元,其中数据处理单元能够执行计算机程序,计算机程序包括能够使处理单元执行上文所描述的方法的指令集合。
特别地,计算机程序具有以下能力:通过产生指示在从所述光学传感器接收的连续图像或数帧分开的图像之间的相对应图像块的局部移位的运动矢量来对从所述光学传感器接收的图像执行运动估计,通过测量运动矢量的空间和时间相关性来计算运动群集,通过将每个运动群集分配给相对应的受检者来分割计算的运动群集,其中将运动群集分配给相对应的受检者是基于运动群集彼此之间的空间和/或时间相似性和先前的分割结果。
在本发明的另一实施例中,设备包括光投射器件,其能将光图案投射到所述共同寝具上。优选地,光投射器件投射人眼不可见的波长(例如,在电磁波谱的IR范围中的波长)的光图案。
在另一方面,本发明涉及一种计算机程序,其包括一组指令,当被合并到机器可读介质中时这组指令能使信息处理系统执行上文所描述的方法。特定而言,计算机程序能够通过产生指示在从光学传感器接收的连续图像或以数帧分开的图像之间的相对应图像块的局部移位的运动矢量来对从所述光学传感器接收的图像执行运动估计;通过测量运动矢量的空间和时间相关性来计算运动群集;通过将每个运动群集分配给相对应的受检者来分割所计算的运动群集,其中向相对应的受检者分配运动群集是基于运动群集彼此之间的空间和/或时间相似性和先前的分割结果。
监视呼吸可用于许多睡眠/放松应用,例如闭环有节律的呼吸装置或其它放松装置、用于监视呼吸暂停或打鼾的装置、睡眠教练、睡眠深度监视器、非接触式“睡眠质量评分器”等。监视移动也可用于许多睡眠/放松应用,例如对于人的睡眠/觉醒状态做出响应的系统(例如,当人入睡后关掉的系统)、用于监视周期性肢体移动的装置、睡眠深度监视器、非接触式“睡眠质量评分器”等。它们通常为目标在于监视或影响一个使用者的装置;但是很多使用者是与他人共用他们的床。本发明还有关于针对两个人的系统,例如被设计用于两个(或更多个)人使用的有节律的呼吸装置或其它放松装置。
附图说明
参考下文描述的实施例,本发明的这些和其它方面将会显然并被阐明。
在附图中:
图1示出了两个睡眠受检者的运动矢量;
图2示出了向正确的受检者分配移动的框图;
图3示出了提取个人呼吸信号的框图;
图4示出了来自整夜睡眠序列的灰度等级图像;
图5示出了在呼吸循环期间的实例;
图6示出了在呼吸循环期间的另一实例;
图7示出了在呼吸循环期间的另一实例;以及
图8示出了表示个别地处理的呼吸信号的图。
具体实施方式
虽然在附图和前文的描述中已经详细地示出和描述了本发明,但是这些说明和描述应被认为是说明性的或示例性的且不是限制性的;本发明并不限于所公开的实施例。所公开的实施例的另外的变型可由本领域技术人员在实践所主张的本发明时,通过学习附图、公开内容和所附权利要求书而理解和实行。在权利要求中,词语“包括”并不排除其它元件或步骤,且词语“一”或“一个”并不排除多个。在相互不同的附属权利要求中陈述特定措施的简单事实并不表示不能使用这些措施的组合来获益。在权利要求中的任何附图标记不应被理解为限制其范围。
图1示出了两个睡觉的受检者10和20的运动矢量。在实际房间情形中记录的两个睡觉的受检者的运动矢量为彩色/数字编码的。不同的颜色/数字指示不同的运动矢量。两个受检者彼此靠着躺下并且在睡觉时做出移动。图1A:不同类型的运动矢量可用于将受检者彼此分割,即,蓝色区域100属于右边的受检者,紫色区域200属于左边的受检者。图1B:主要地,右边的受检者在移动,由于在他/她侧部上强的运动矢量100,该移动可以看到。头部(红色区域115)在不同于身体(绿色区域120)的方向中移动。
图2示出了将移动分配给正确的受检者的框图。在例如通过光流算法对从光学传感器接收的图像数据执行运动估计300得到运动矢量310之后,在步骤320中测量运动矢量310之间的空间与时间相关性。在一定公差范围内具有相同取向的运动矢量310合并成运动群集330。这些运动群集330被分配给相对应的受检者。为了提高分配的准确性以及减少所需的计算功率,当测量运动矢量310的空间与时间相关性时考虑先前图像分析的分割历史340。
图3示出了提取个人呼吸信号的框图。为了利用一个传感器来提取每个受检者的呼吸波形,提议图3中所描述的方案。可采用基于任何类型的光学传感器的呼吸算法,例如通过与如通常用于深度定量的相移干涉术相当的方法。为了实现此,将光图案投射到待分析的区域上。在不存在投射的光图案的情况下,观察在相同图像区域(例如,图像块)之间的时间相互关系,例如反射的红外光的量将在呼吸区域中随着时间变化。呼吸造成的微移动使得从自然光投射的光的图案显著变形。能分析主要贡献于整个图像的整体呼吸信号的运动区域400(参看图4,对于原始输入图像而言)并且获得主要运动中心410(参看图5、图6和图7中的高亮区域)。图像被进一步分割成所发现的运动中心并且对多个(两个或更多个,取决于在床上的受检者的数量)图像区域独立地执行呼吸分析算法420。这导致两个独立的波形,如图8所示。通过主观地评估图像中的呼吸移动已经在视觉上验证波形。
图4示出了来自整夜睡眠序列的灰度等级图像。其中两个受检者并排紧邻躺下的整夜睡眠序列的这种原始灰度等级图像为如上文所描述的用作运动估计输入的连续图像或数帧间隔开的图像的示例。
图5示出了在呼吸循环期间的实例。其为当两个受检者的胸部移动时在呼吸循环期间的实例。在左图中,示出了在呼吸监视期间的高亮运动区域500、510,而右图示出了高胸部运动输出500、510与原始灰度等级图像的叠加(右)。
图6示出了在呼吸循环期间的另一实例。此处,示出了当左边的受检者的胸部移动时在呼吸循环期间的实例。示出在呼吸监视600期间的高亮运动区(左)和高胸部运动输出600与原始灰度等级图像的叠加(右)。
图7示出了在呼吸循环期间的另一实例。此处,示出了当右边的受检者的胸部移动时在呼吸循环期间的实例。示出了在呼吸监视期间的高亮的运动区域700(左)和高胸部运动输出700与原始灰度等级图像的叠加(右)。
图8示出了表示个别处理的呼吸信号的图。描绘了在分割图像区域并将它们分配给相对应的受检者之后两个睡觉的受检者的个别处理的呼吸信号。可以看到左边的受检者(黑色,800)具有比右边的受检者(蓝色,900)更高的呼吸速率,并且有时在与右边的受检者相同的相位并且有时在相反的相位呼吸。应当指出的是由于呼吸信号并未被归一化,振幅的比例可忽略。

Claims (11)

1.一种用于监视位于共同寝具中的受检者的移动的方法,所述受检者为包含人的动物,所述方法包括以下步骤:
-利用光学传感器来对所述寝具成像;
-通过产生指示在从所述光学传感器接收的连续图像或以数帧分开的图像之间的相对应图像块的局部移位的运动矢量来执行运动估计;
-通过测量所述运动矢量的空间和时间相关性来计算运动群集;
-通过将每个运动群集分配给相对应的受检者来分割所计算的运动群集,
其中向所述相对应的受检者分配运动群集是基于所述运动群集彼此之间的空间和/或时间相似性,并且
其中基于由所述光学传感器提供的连续图像或若干分开的图像的数据来对共同寝具中的每个受检者执行呼吸分析,其中对在所述共同寝具中的两个或更多个受检者的呼吸的分析通过使用在所述连续图像或数帧分开的图像中的最大运动区域来执行,所述最大运动区域在所述受检者的肢体不动的时间期间识别。
2.根据权利要求1所述的方法,其中,考虑先前图像的分割结果来将运动群集分配给随后图像中的相对应的受检者。
3.根据权利要求1所述的方法,其中,所述图像被分割成主要胸部运动的边界。
4.根据权利要求1所述的方法,其中,通过对于每个识别的所述最大运动区域执行独立的呼吸分析来执行每个受检者的个别呼吸分析。
5.根据权利要求4所述的方法,其中,光图案被投射到所述共同寝具上并且投射的光的所述图案变形使得由于一个受检者或另一个受检者呼吸造成的微移动能从所述图像提取。
6.根据权利要求1-5中任一项所述的方法,其中,所述光学传感器除了对在所述共同寝具中睡觉的所述两个或更多个受检者成像之外,还额外地对所述寝具的环境成像。
7.根据权利要求6所述的方法,其中,由于运动估计造成的运动矢量用于跟踪在所述寝具环境内的所述受检者。
8.根据前述权利要求1-5中任一项所述的方法,其中,通过选自包括下列项目的组的至少一种算法来执行所述运动估计:块匹配算法、光流估计、最大后验概率估计、马尔科夫随机场估计、均方误差计算、绝对差求和计算、平均绝对差计算、误差平方和计算或绝对变换差求和计算。
9.一种用于监视位于共同寝具环境中的受检者的移动的设备,所述设备包括光学传感器和数据处理单元,其中所述光学传感器能对所述共同寝具成像并且将连续图像或者数帧分开的图像的数据递送到所述数据处理单元,其中所述数据处理单元被配置成执行根据权利要求1至8中任一项所述的方法中的各步骤。
10.根据权利要求9所述的设备,还包括,用于将光图案投射到所述共同寝具上的器件。
11.一种用于监视位于共同寝具中的受检者的移动的设备,所述受检者为包含人的动物,所述设备包括:
-通过产生指示在从对所述寝具成像的光学传感器接收的连续图像或以数帧分开的图像之间的相对应图像块的局部移位的运动矢量来执行运动估计的装置;
-通过测量所述运动矢量的空间和时间相关性来计算运动群集的装置;
-通过将每个运动群集分配给相对应的受检者来分割所计算的运动群集的装置,
其中向所述相对应的受检者分配运动群集是基于所述运动群集彼此之间的空间和/或时间相似性,并且
其中基于由所述对所述寝具成像的光学传感器提供的连续图像或若干分开的图像的数据来对共同寝具中的每个受检者执行呼吸分析,其中对在所述共同寝具中的两个或更多个受检者的呼吸的分析通过使用在所述连续图像或数帧分开的图像中的最大运动区域来执行,所述最大运动区域在所述受检者的肢体不动的时间期间识别。
CN201280026290.6A 2011-05-30 2012-05-24 用于监视在共同床中的多个受检者的移动和呼吸的方法和设备 Expired - Fee Related CN103561648B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP11305655 2011-05-30
EP11305655.0 2011-05-30
PCT/IB2012/052605 WO2012164453A1 (en) 2011-05-30 2012-05-24 Method and apparatus for monitoring movement and breathing of multiple subjects in a common bed

Publications (2)

Publication Number Publication Date
CN103561648A CN103561648A (zh) 2014-02-05
CN103561648B true CN103561648B (zh) 2017-06-09

Family

ID=46208123

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280026290.6A Expired - Fee Related CN103561648B (zh) 2011-05-30 2012-05-24 用于监视在共同床中的多个受检者的移动和呼吸的方法和设备

Country Status (6)

Country Link
US (1) US9339215B2 (zh)
EP (1) EP2713875B1 (zh)
JP (1) JP6006790B2 (zh)
CN (1) CN103561648B (zh)
RU (1) RU2604701C2 (zh)
WO (1) WO2012164453A1 (zh)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10335060B1 (en) 2010-06-19 2019-07-02 Dp Technologies, Inc. Method and apparatus to provide monitoring
US9192326B2 (en) 2011-07-13 2015-11-24 Dp Technologies, Inc. Sleep monitoring system
US9459597B2 (en) 2012-03-06 2016-10-04 DPTechnologies, Inc. Method and apparatus to provide an improved sleep experience by selecting an optimal next sleep state for a user
US10791986B1 (en) 2012-04-05 2020-10-06 Dp Technologies, Inc. Sleep sound detection system and use
EP2772884A1 (en) * 2013-02-28 2014-09-03 Koninklijke Philips N.V. Apparatus and method for detecting subjects on the basis of vital signs
US9594354B1 (en) 2013-04-19 2017-03-14 Dp Technologies, Inc. Smart watch extended system
RU2676147C2 (ru) 2013-07-22 2018-12-26 Конинклейке Филипс Н.В. Непрерывное автоматическое наблюдение за движениями пациента
US10363388B2 (en) 2013-12-18 2019-07-30 Koninklijke Philips N.V. System and method for enhancing sleep slow wave activity based on cardiac characteristics or respiratory characteristics
US10568565B1 (en) * 2014-05-04 2020-02-25 Dp Technologies, Inc. Utilizing an area sensor for sleep analysis
US10610153B2 (en) * 2014-07-21 2020-04-07 Withings System and method to monitor and assist individual's sleep
US10278638B2 (en) * 2014-07-21 2019-05-07 Withings System and method to monitor and assist individual's sleep
US10078795B2 (en) * 2014-08-11 2018-09-18 Nongjian Tao Systems and methods for non-contact tracking and analysis of physical activity using imaging
US10121062B2 (en) 2014-11-03 2018-11-06 Koninklijke Philips N.V. Device, system and method for automated detection of orientation and/or location of a person
CN104490399B (zh) * 2014-12-19 2017-08-01 北京智谷睿拓技术服务有限公司 人体运动信息获取方法和装置
US11883188B1 (en) 2015-03-16 2024-01-30 Dp Technologies, Inc. Sleep surface sensor based sleep analysis system
JP2018531640A (ja) * 2015-09-04 2018-11-01 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 対象のバイタルサインを監視するシステム、方法、及びプロセッサ
CN105559751B (zh) * 2015-12-14 2018-06-12 安徽华米信息科技有限公司 监测微活动状态的方法、装置及可穿戴设备
JP6268220B2 (ja) 2016-05-17 2018-01-24 ミネベアミツミ株式会社 呼吸波形描画システム
JP6268219B2 (ja) 2016-05-17 2018-01-24 ミネベアミツミ株式会社 呼吸波形描画システム及び生体情報モニタリングシステム
EP3245943A1 (de) * 2016-05-18 2017-11-22 Motognosis UG (haftungsbeschränkt) Verfahren zur berührungslosen ermittlung und aufbereitung von schlafbewegungsdaten
JP6321719B2 (ja) * 2016-05-20 2018-05-09 ミネベアミツミ株式会社 生体情報モニタリングシステム
JP6284574B2 (ja) * 2016-05-20 2018-02-28 ミネベアミツミ株式会社 生体情報モニタリングシステム
US11412943B2 (en) 2016-07-16 2022-08-16 Olesya Chornoguz Methods and systems for obtaining physiologic information
US10925496B2 (en) 2016-07-16 2021-02-23 Alexander Misharin Methods and systems for obtaining physiologic information
DE102018104913A1 (de) * 2018-03-05 2019-09-05 Prüftechnik Dieter Busch AG Schwingungsüberwachung eines Objekts mittels Videokamera
US11471097B1 (en) 2018-10-15 2022-10-18 Dp Technologies, Inc. Hardware sensor system for improved sleep detection
EP3671630A1 (en) 2018-12-19 2020-06-24 Nokia Technologies Oy Movement indication
CN113164048B (zh) * 2019-03-01 2024-02-02 深圳市大耳马科技有限公司 一种生命体征监测方法、设备和系统
CN113164097B (zh) * 2019-03-01 2024-01-26 深圳市大耳马科技有限公司 一种生命体征监测方法、设备和系统

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1410755A1 (en) * 2001-06-15 2004-04-21 Sumitomo Osaka Cement Co., Ltd. Monitoring apparatus

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08510373A (ja) * 1993-05-14 1996-10-29 アールシーティー・システムズ・インコーポレーテッド 商店等におけるビデオ通行モニタ装置
JP3531512B2 (ja) * 1998-12-25 2004-05-31 松下電工株式会社 睡眠状態監視装置
US7612796B2 (en) * 2000-01-13 2009-11-03 Countwise, Llc Video-based system and method for counting persons traversing areas being monitored
JP3477166B2 (ja) * 2000-12-07 2003-12-10 学校法人慶應義塾 監視装置
US8007436B2 (en) * 2003-04-10 2011-08-30 Intellectual Property Bank Corp. Biological information monitoring system
JP2006034377A (ja) * 2004-07-22 2006-02-09 Toshiba Corp 呼吸計測装置
WO2010070463A1 (en) * 2008-12-15 2010-06-24 Koninklijke Philips Electronics N.V. Method and device for automatically creating a romantic atmosphere, and method and system for mood detection
JP2011030919A (ja) * 2009-08-05 2011-02-17 Kandenko Co Ltd 被験者検知システム
EP2380493A1 (en) * 2010-04-21 2011-10-26 Koninklijke Philips Electronics N.V. Respiratory motion detection apparatus

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1410755A1 (en) * 2001-06-15 2004-04-21 Sumitomo Osaka Cement Co., Ltd. Monitoring apparatus

Also Published As

Publication number Publication date
CN103561648A (zh) 2014-02-05
JP2014518728A (ja) 2014-08-07
JP6006790B2 (ja) 2016-10-12
RU2013158869A (ru) 2015-07-10
RU2604701C2 (ru) 2016-12-10
EP2713875B1 (en) 2017-12-06
WO2012164453A1 (en) 2012-12-06
US9339215B2 (en) 2016-05-17
US20150073283A1 (en) 2015-03-12
EP2713875A1 (en) 2014-04-09

Similar Documents

Publication Publication Date Title
CN103561648B (zh) 用于监视在共同床中的多个受检者的移动和呼吸的方法和设备
CN102869305B (zh) 呼吸运动检测装置
US10506952B2 (en) Motion monitor
Yu et al. Multiparameter sleep monitoring using a depth camera
CN106413533A (zh) 用于检测对象的呼吸暂停的设备、系统和方法
Kuo et al. A visual context-awareness-based sleeping-respiration measurement system
Chatterjee et al. Real-time respiration rate measurement from thoracoabdominal movement with a consumer grade camera
Huang et al. Inconspicuous on-bed respiratory rate monitoring
Yu et al. Breath and Position Monitoring during Sleeping with a Depth Camera.
Lee et al. A real-time camera-based adaptive breathing monitoring system
US20240046461A1 (en) System and method for determining sleep analysis based on a body image
Roshan Fekr et al. Movement analysis of the chest compartments and a real-time quality feedback during breathing therapy
Martinez et al. A vision-based system for breathing disorder identification: A deep learning perspective
Li et al. How do you breathe-a non-contact monitoring method using depth data
Țarălungă et al. Automatic real time derivation of breathing rate from thermal video sequences
Ma Towards a Contactless Vital Sign System
Ullal Non-invasive monitoring of vital signs using recliner chair and respiratory pattern analysis
Awais et al. Face and its features detection during nap
Marques Measurement of imperceptible breathing movements from Kinect Skeleton Data
Jakkaew An Approach to Non-contact Respiration
Tahoun Nonintrusive nocturnal remote monitoring of vital signs in ambient assisted living environments
Kataria et al. Ultrasound imaging used for identification of asthma pattern using segmentation
Slastnikov et al. Review of Instrumental Methods for Detecting the Respiratory Signal
WO2024057260A1 (en) Respiratory evaluation and monitoring system and method
ERDEM Group Members

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170609

Termination date: 20190524