CN107865644B - 脉搏波计测装置、脉搏波计测方法、程序以及记录介质 - Google Patents

脉搏波计测装置、脉搏波计测方法、程序以及记录介质 Download PDF

Info

Publication number
CN107865644B
CN107865644B CN201710748536.5A CN201710748536A CN107865644B CN 107865644 B CN107865644 B CN 107865644B CN 201710748536 A CN201710748536 A CN 201710748536A CN 107865644 B CN107865644 B CN 107865644B
Authority
CN
China
Prior art keywords
infrared light
visible light
waveform
control signal
pulse wave
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710748536.5A
Other languages
English (en)
Other versions
CN107865644A (zh
Inventor
村上健太
吉冈元贵
小泽顺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2017102800A external-priority patent/JP6846626B2/ja
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of CN107865644A publication Critical patent/CN107865644A/zh
Application granted granted Critical
Publication of CN107865644B publication Critical patent/CN107865644B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • A61B5/02427Details of sensor
    • A61B5/02433Details of sensor for infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6889Rooms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7253Details of waveform analysis characterised by using transforms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7282Event detection, e.g. detecting unique waveforms indicative of a medical condition

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Physiology (AREA)
  • Cardiology (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Signal Processing (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Circuit Arrangement For Electric Light Sources In General (AREA)

Abstract

本公开涉及脉搏波计测装置、计测方法、程序及记录介质。脉搏波计测装置(10)具备处理器及存储器,处理器:对设置于外部的照明装置输出指示以使得从多个第1可见光图像中获得的第1色相波形的振幅属于预定色相范围,运算从多个第2可见光图像中获得的第1可见光波形与从多个第1红外光图像中获得的第1红外光波形之间的相关度,根据相关度,输出控制红外光光源(123)的红外光光量的红外光控制信号、控制照明装置(30)的光量的可见光控制信号,之后,从取得的多个第3可见光图像及多个第2红外光图像中分别提取第2可见光波形及第2红外光波形,根据第2可见光波形的特征量和第2红外光波形的特征量中的至少一方,算出第1生物体信息并将其输出。

Description

脉搏波计测装置、脉搏波计测方法、程序以及记录介质
技术领域
本公开涉及以非接触方式计测人的脉搏波的脉搏波计测装置、脉搏波计测方法、程序以及记录介质。
背景技术
专利文献1中公开了使用毫米波、可见光、红外光等在非接触状态下计测心跳以及睡眠深度的技术。
另外,专利文献2中公开了在摄影装置中良好地进行从将红外光照射到被拍摄对象的红外摄影模式向通常摄影模式的切换的技术。
现有技术文献
专利文献1:日本特开2013-192620号公报
专利文献2:日本特开2004-146873号公报
专利文献3:日本特开2007-130182号公报
发明内容
然而,在专利文献1和/或专利文献2所公开的技术中,需要进一步的改善。
本公开的一个技术方案涉及的脉搏波计测装置,其具备处理器,所述处理器,从设置于所述脉搏波计测装置的外部的照明装置,取得规定第1对应关系的第1控制方案(pattern),所述第1对应关系表示与多个指示分别对应的所述照明装置所输出的可见光的色温(颜色温度),参照所述第1控制方案来决定与所述脉搏波计测装置所保持的表示第1色温的信息对应的第1指示,将所述第1指示输出到所述照明装置,在可见光区域拍摄被所述照明装置照射了具有与所述第1指示对应的色温的可见光的用户,取得多个第1可见光图像,根据所述多个第1可见光图像来运算多个第1色相,从所述多个第1色相提取第1色相波形,在所述第1色相波形的振幅不属于预定色相范围的情况下,参照所述第1控制方案来决定与不同于所述第1色温的第2色温对应的第2指示,将所述第2指示输出到所述照明装置,在所述可见光区域拍摄被所述照明装置照射了具有与所述第2指示对应的色温的可见光的所述用户,取得多个第2可见光图像,根据所述多个第2可见光图像来运算多个第2色相,从所述多个第2色相提取第2色相波形,在所述第2色相波形的振幅属于所述预定色相范围的情况下,进行第1处理,所述第1处理包括:取得多个第1红外光图像,所述多个第1红外光图像是通过在红外光区域拍摄被红外光光源照射了红外光的所述用户而获得的图像,从所取得的所述多个第2可见光图像中提取第1可见光波形,所述第1可见光波形是表示所述用户的脉搏波的波形,从所取得的所述多个第1红外光图像中提取第1红外光波形,所述第1红外光波形是表示所述用户的脉搏波的波形,运算所提取的所述第1可见光波形与所提取的所述第1红外光波形之间的相关度,根据所述相关度,将控制所述红外光光源所发出的红外光的光量的红外光控制信号输出到所述红外光光源,根据所述相关度,将控制所述照明装置所发出的可见光的光量的可见光控制信号输出到所述照明装置,取得多个第3可见光图像,所述多个第3可见光图像是通过在可见光区域拍摄被所述照明装置照射了基于所述可见光控制信号的可见光的用户而获得的图像,取得多个第2红外光图像,所述多个第2红外光图像是通过在红外光区域拍摄被红外光光源照射了基于所述红外光控制信号的红外光的所述用户而获得的图像,从所取得的所述多个第3可见光图像中提取第2可见光波形,所述第2可见光波形是表示所述用户的脉搏波的波形,从所取得的所述多个第2红外光图像中提取第2红外光波形,所述第2红外光波形是表示所述用户的脉搏波的波形,根据所述第2可见光波形的特征量和所述第2红外光波形的特征量中的至少一方,算出第1生物体信息,将算出的所述第1生物体信息进行输出。
此外,该总括性或者具体的技术方案既可以通过系统、方法、集成电路、计算机程序或者计算机可读取的记录介质来实现,也可以通过装置、系统、方法、集成电路、计算机程序和记录介质的任意组合来实现。计算机可读取的记录介质例如包括CD-ROM(CompactDisc-Read Only Memory)等非易失性记录介质。
根据本公开,能够实现进一步的改善。从本说明书及附图中可知晓本公开的一个技术方案的附加的益处及优点。该益处和/或优点可以单独地由本说明书及附图所公开的各种实施方式及特征而得到,无需为了获得一个以上益处和/或优点而实施所有的实施方式及特征。
附图说明
图1是表示本实施方式中的脉搏波计测系统被用户利用的情形的示意图。
图2是表示脉搏波计测装置10的硬件结构的一例的框图。
图3是表示实施方式涉及的照明装置30的硬件结构的一例的框图。
图4是表示实施方式1涉及的便携终端的硬件结构的一例的框图。
图5是用于说明脉搏波计测装置的使用例的图。
图6是用于说明脉搏波计测装置的使用例的图。
图7是表示本实施方式中的脉搏波计测装置的功能结构的一例的框图。
图8是表示本实施方式中的可见光图像以及红外光图像的辉度变化的一例的坐标图。
图9是表示本实施方式中的脉搏波时刻(timing)的算出的一例的坐标图。
图10是表示按时间序列取得的心跳间隔时间的例子的坐标图。
图11是用于说明从脉搏波中提取拐点的方法的坐标图。
图12是表示用于说明对可见光波形中的从顶点到底点之间的斜率进行运算的方法的可见光波形的坐标图。
图 13是按红外光光源的光量不同的等级来表示由红外光摄像头(camera)取得了人的皮肤图像的情况下的红外光波形的坐标图。
图14是表示将第1心跳间隔时间和第2心跳间隔时间分别按时间序列顺序的数据进行了描绘的坐标图。
图15是用于对判定心跳间隔时间是否适当的具体例进行说明的图。
图16是用于说明在可见光波形中进行了峰值点的过剩取得、没有在对应的红外光波形中进行峰值点的过剩取得的情况的例子的图。
图17是用于说明使用拐点来算出相关度的情况的图。
图18是用于说明虽然峰值点的个数过剩但不符合第1预定期间内的峰值点的个数超过第1阈值这一条件的例子的图。
图19是表示用于说明不将在光源的光量的调整期间所取得的峰值点使用于可见光波形与红外光波形之间的相关度的运算这一情况的例子的图。
图20是表示使用脉搏波计测装置来使可见光光源的光量减少至0、并且使红外光光源的光量增加至适当光量的最简单的步骤的例子的图。
图21是用于说明使光源控制等待,直到对于可见光波形和红外光波形的各波形,在第2预定期间内从该波形中提取到连续的两个以上的预定特征点为止的图。
图22是用于说明由色温的变化引起的、可见光拍摄部122中的用户的脸部的视觉差异的图。
图23是用于说明根据RGB的辉度信号来运算色相H的色相信号的运算处理的图。
图24是用于说明色相环的图。
图25是表示在变换到不同色相范围的情况下所取得的色相波形的图。
图26是用于说明在照明装置是根据第2控制方案来调光的装置的情况下的使可见光光源的光量减少到0为止、并且使红外光光源的光量增加到适当的光量为止的光源的切换控制的图。
图27是用于说明在照明装置是根据第3控制方案来调光的装置的情况下的光源的切换控制的图。
图28是用于说明在照明装置是根据第4控制方案来调光的装置的情况下的光源的切换控制的一例的图。
图29是表示在照明装置的照度为预定阈值的情况下使其关闭的切换控制的一例的图。
图30是表示在缩短后的完成时间内进行切换控制的情况的一例的图。
图31是表示向提示装置显示的显示例的图。
图32是表示本实施方式中的脉搏波计测装置的处理的流程的流程图。
图33是表示本实施方式中的峰值点的过剩取得判定处理的详细情况的流程图。
图34是表示本实施方式中的相关度的运算处理的详细情况的流程图。
图35是表示本实施方式中的光量的调整处理的详细情况的流程图。
图36是变形例中的控制模式识别处理的流程图。
标号说明
1:脉搏波计测系统 10:脉搏波计测装置
20:壳体 22:可见光摄像头
23:红外光LED 24:红外光摄像头
30:照明装置 31:可见光LED
32:控制器 40:提示装置
100:脉搏波运算装置 101:CPU
102:主存储器(memory) 103:储存器(storage)
104:通信IF 111:可见光波形运算部
112:红外光波形运算部 113:相关度运算部
114:控制方案取得部 115:光源控制部
116:生物体信息算出部 122:可见光拍摄部
123:红外光光源 124:红外光拍摄部
200:便携终端 201:CPU
202:主存储器 203:储存器
204:显示器 205:通信IF
206:输入IF
具体实施方式
(成为本公开的基础的见解)
关于在“背景技术”中记载的技术,本发明人发现会产生以下的问题。
在专利文献1中,没有公开当在暗室取得脉搏波的情况下对红外光源的光量的调整,因此,存在难以在暗室以非接触的方式计测心跳和/或脉搏波这一问题。
另外,在专利文献2中,虽然使用可见光的辉度与红外光的辉度之比进行了模式的切换,但存在在对暗室中的脉搏波计测适用该模式的切换的情况下,无法容易地根据基于辉度之比的切换来计测脉搏波这一问题。
于是,本公开提供能够在暗室中高精度地进行脉搏波计测的脉搏波计测装置等。
本公开的一个技术方案涉及的脉搏波计测装置,其具备处理器,所述处理器,从设置于所述脉搏波计测装置的外部的照明装置,取得规定第1对应关系的第1控制方案,所述第1对应关系表示与多个指示分别对应的所述照明装置所输出的可见光的色温,参照所述第1控制方案来决定与所述脉搏波计测装置所保持的表示第1色温的信息对应的第1指示,将所述第1指示输出到所述照明装置,在可见光区域拍摄被所述照明装置照射了具有与所述第1指示对应的色温的可见光的用户,取得多个第1可见光图像,根据所述多个第1可见光图像来运算多个第1色相,从所述多个第1色相提取第1色相波形,在所述第1色相波形的振幅不属于预定色相范围的情况下,参照所述第1控制方案来决定与不同于所述第1色温的第2色温对应的第2指示,将所述第2指示输出到所述照明装置,在所述可见光区域拍摄被所述照明装置照射了具有与所述第2指示对应的色温的可见光的所述用户,取得多个第2可见光图像,根据所述多个第2可见光图像来运算多个第2色相,从所述多个第2色相提取第2色相波形,在所述第2色相波形的振幅属于所述预定色相范围的情况下,进行第1处理,所述第1处理包括:取得多个第1红外光图像,所述多个第1红外光图像是通过在红外光区域拍摄被红外光光源照射了红外光的所述用户而获得的图像,从所取得的所述多个第2可见光图像中提取第1可见光波形,所述第1可见光波形是表示所述用户的脉搏波的波形,从所取得的所述多个第1红外光图像中提取第1红外光波形,所述第1红外光波形是表示所述用户的脉搏波的波形,运算所提取的所述第1可见光波形与所提取的所述第1红外光波形之间的相关度,根据所述相关度,将控制所述红外光光源所发出的红外光的光量的红外光控制信号输出到所述红外光光源,根据所述相关度,将控制所述照明装置所发出的可见光的光量的可见光控制信号输出到所述照明装置,取得多个第3可见光图像,所述多个第3可见光图像是通过在可见光区域拍摄被所述照明装置照射了基于所述可见光控制信号的可见光的用户而获得的图像,取得多个第2红外光图像,所述多个第2红外光图像是通过在红外光区域拍摄被红外光光源照射了基于所述红外光控制信号的红外光的所述用户而获得的图像,从所取得的所述多个第3可见光图像中提取第2可见光波形,所述第2可见光波形是表示所述用户的脉搏波的波形,从所取得的所述多个第2红外光图像中提取第2红外光波形,所述第2红外光波形是表示所述用户的脉搏波的波形,根据所述第2可见光波形的特征量和所述第2红外光波形的特征量中的至少一方,算出第1生物体信息,将算出的所述第1生物体信息进行输出。
由此,调整设置于外部的照明装置的色温以使得从多个第1可见光图像中获得的色相波形的振幅属于预定色相范围,根据调整了照明装置的色温后获得的多个第2可见光图像以及多个第1红外光图像来提取用户的脉搏波。因此,能够获得几乎不受由辉度变化引起的噪声的影响的明了的第1色相波形以及第2色相波形。
另外,由此,运算从多个第2可见光图像中获得的第1可见光波形、与从多个第1红外光图像中获得的第1红外光波形的相关度,根据相关度来控制照明装置的光量以及红外光光源所发出的红外光的光量。因此,例如即使在利用市面上销售的照明装置的情况下,也能够适当地进行可见光的光量的调整和红外光光量的调整,能够高精度地算出生物体信息。
另外,也可以为,所述预定色相范围是色相大于等于0度且小于等于60度的范围。另外,也可以为,所述预定色相范围是色相以30度为基准的色相范围。
如此,通过变更照明装置的色温以使得用户的皮肤表面的色调从白变为微红、尤其是色相H的值例如变到30度附近,能够应对更严重的体动和/或环境噪声,稳健地取得第1色相波形以及第2色相波形。因此,能够获得几乎不受由辉度变化引起的噪声的影响的明了的第1色相波形以及第2色相波形。
另外,也可以为,所述处理器在所述相关度的运算中,(1)提取多个第1单位波形所包含的多个第1单位时间内的多个第1峰值点,所述多个第1峰值点是所述多个第1单位波形所包含的多个第1最大值点或者所述多个第1单位波形所包含的多个第1最小值点,所述第1可见光波形包括所述多个第1单位波形,所述多个第1最大值点与所述多个第1单位波形分别对应,所述多个第1最小值点与所述多个第1单位波形分别对应,所述多个第1单位波形与所述多个第1单位时间分别对应,(2)提取多个第2单位波形所包含的多个第2单位时间内的多个第2峰值点,所述多个第2峰值点是所述多个第2单位波形所包含的多个第2最大值点或者所述多个第2单位波形所包含的多个第2最小值点,所述第1红外光波形包括所述多个第2单位波形,所述多个第2最大值点与所述多个第2单位波形分别对应,所述多个第2最小值点与所述多个第2单位波形分别对应,所述多个第2单位波形与所述多个第2单位时间分别对应,(3)基于所述多个第1单位时间来算出多个第1心跳间隔时间,所述多个第1心跳间隔时间是第1时间与第2时间之间的时间,所述多个第1单位时间包括所述第1时间与所述第2时间,所述多个第1单位时间所包含的时间不存在于所述第1时间与所述第2时间之间,(4)基于所述多个第2单位时间来算出多个第2心跳间隔时间,所述多个第2心跳间隔时间是第3时间与第4时间之间的时间,所述多个第2单位时间包括所述第3时间与所述第4时间,所述多个第2单位时间所包含的时间不存在于所述第3时间与所述第4时间之间,使用以下的(式1),运算第1相关系数来作为所述相关度,
Figure BDA0001390575180000091
ρ1:第1相关系数,
σ12:所述多个第1心跳间隔时间和所述多个第2心跳间隔时间的协方差,
σ1:所述多个第1心跳间隔时间的标准差即第1标准差,
σ2:所述多个第2心跳间隔时间的标准差即第2标准差。
因此,能够算出第1可见光波形与第1红外光波形之间的相关度。
另外,也可以为,所述处理器,根据所述第1可见光波形的特征量和所述第1红外光波形的特征量中的至少一方,算出第2生物体信息,将算出的所述第2生物体信息进行输出。
因此,能够根据在调整可见光或红外光的光量之前取得的、第1可见光波形的特征量和第1红外光波形的特征量中的至少一方来算出第2生物体信息,并将算出的第2生物体信息进行输出。
另外,也可以为,所述处理器,在所述照明装置进一步是根据以开启关闭的单级调整光量的第2控制方案来调光的装置的情况下,在所述红外光控制信号的输出中,将使所述红外光光源所发出的红外光的光量增大预先确定的第1变化量的控制信号,作为所述红外光控制信号输出到所述红外光光源,在所述可见光控制信号的输出中,将使所述照明装置关闭的控制信号,作为所述可见光控制信号输出到所述照明装置。
因此,即使照明装置是单级地调整光量的照明装置,也能够适当地进行可见光的光量的调整和红外光的光量的调整。
另外,也可以为,所述处理器,在所述照明装置进一步是根据以第1可见光光量和比所述第1可见光光量小的第2可见光光量的两级调整光量的第3控制方案来调光的装置的情况下,在所述红外光控制信号的输出中,向所述红外光光源输出将所述红外光光源所发出的红外光的光量从第1红外光光量控制为增大了预先确定的第2变化量的第2红外光光量的控制信号来作为所述红外光控制信号,将使所述照明装置从所述第1可见光光量变化为所述第2可见光光量的控制信号,作为所述可见光控制信号输出到所述照明装置,根据从所述第1红外光图像以及第2红外光图像中获得的红外光的辉度变化、和从所述第2可见光图像以及第3可见光图像中获得的可见光的辉度变化,决定所述红外光的光量的第3变化量,向所述红外光光源输出从所述第2红外光光量控制为增大了所决定的所述第3变化量的第3红外光光量的控制信号来作为所述红外光控制信号,将使所述照明装置关闭的第二级的控制信号,作为所述可见光控制信号输出到所述照明装置。
由此,脉搏波计测装置在照明装置是以两级调整光量的照明装置的情况下,在第一级的调光中取得可见光的辉度的减少量,根据取得的减少量,使红外光光源的光量增加,由此,能够更有效地取得红外光波形。
另外,也可以为,所述处理器,在所述照明装置进一步是根据无级地调整光量的第4控制方案来调光的装置的情况下,在运算出的所述相关度大于等于预定阈值的情况下,在所述红外光控制信号的输出中,将使所述红外光光源的红外光的光量增加的控制信号作为所述红外光控制信号输出到所述红外光光源,在所述可见光控制信号的输出中,将使所述照明装置的可见光的光量减少的控制信号作为所述可见光控制信号输出到所述照明装置,在所述第3可见光图像的取得、所述第2可见光波形的提取、所述第2红外光图像的取得以及所述第2红外光波形的提取之后,进一步反复进行所述相关度的运算,在所述照明装置的光量变为小于等于第2阈值、并且反复进行所述相关度的运算的结果为所述相关度变为大于等于所述预定阈值的情况下,将使所述照明装置关闭的控制信号作为所述可见光控制信号输出到所述照明装置。
由此,与使可见光线性减少直到关闭为止的情况相比,能够更快地使其关闭,能够进行向舒适睡眠的引导。
另外,也可以为,所述处理器,在所述照明装置是根据无级地调整光量的第4控制方案来调光的装置的情况下,执行通常处理和短时间处理中的某一处理,(ⅰ)所述通常处理为,在运算出的所述相关度大于等于预定阈值的情况下,在所述红外光控制信号的输出中,将使所述红外光光源的红外光的光量以第1速度增加的控制信号作为所述红外光控制信号输出到所述红外光光源,在所述可见光控制信号的输出中,将使所述照明装置的可见光的光量以第2速度减少的控制信号作为所述可见光控制信号输出到所述照明装置,在所述第3可见光图像的取得、所述第2可见光波形的提取、所述第2红外光图像的取得以及所述第2红外光波形的提取之后,进一步反复进行所述相关度的运算,(ⅱ)所述短时间处理为,在运算出的所述相关度大于等于预定阈值的情况下,在所述红外光控制信号的输出中,将使所述红外光光源的红外光的光量以所述第1速度的两倍以上的第3速度增加的控制信号,作为所述红外光控制信号输出到所述红外光光源,在所述可见光控制信号的输出中,将使所述照明装置的可见光的光量以所述第2速度的两倍以上的第4速度减少的控制信号,作为所述可见光控制信号输出到所述照明装置,在所述第3可见光图像的取得、所述第2可见光波形的提取、所述第2红外光图像的取得以及所述第2红外光波形的提取之后,进一步反复进行所述相关度的运算。
因此,能够缩短切换控制所花费的时间。
此外,这些总括性或具体的技术方案既可以通过系统、方法、集成电路、计算机程序或计算机可读取的CD-ROM等记录介质来实现,也可以通过系统、方法、集成电路、计算机程序和记录介质的任意组合来实现。
(实施方式)
在本实施方式中,对脉搏波计测装置进行说明,该脉搏波计测装置根据用户的可见光图像和红外光图像分别取得用户的脉搏波,并基于所取得的两个脉搏波的特征量的相关度来控制光源。
[1-1.构成]
[1-1-1.脉搏波计测系统]
对本实施方式涉及的脉搏波计测系统的构成进行说明。
图1是表示本实施方式中的脉搏波计测系统1被用户U利用的情形的示意图。图2是表示脉搏波计测装置10的硬件结构的一例的框图。
脉搏波计测系统1构成为包括脉搏波计测装置10和照明装置30。脉搏波计测系统1也可以构成为还包括便携终端200。脉搏波计测装置10、照明装置30以及便携终端200相互以能够通信的方式连接。
脉搏波计测装置10具备可见光摄像头22、红外光LED23、红外光摄像头24以及脉搏波运算装置100。此外,脉搏波计测装置10也可以为具备脉搏波运算装置100的构成。
如图1所示,脉搏波计测装置10具有壳体20,在壳体20的照射光一侧的面(例如下表面)配置有图2所示的各构成要素。具体而言,对于脉搏波计测装置10,例如在壳体20的上部的侧面排列配置有可见光摄像头22、红外光LED(Light Emitting Diode,发光二极管)23以及红外光摄像头24。另外,脉搏波计测装置10具备脉搏波运算装置100,该脉搏波运算装置100使用由可见光摄像头22以及红外光摄像头24拍摄到的图像来取得用户的脉搏波,并基于所取得的两个脉搏波的相关度来进行照明装置30以及红外光LED23的光量的控制。
可见光摄像头22是拍摄可见光线的摄像头。可见光摄像头22例如是具备CCD(Charge Coupled Device,电荷耦合器件)或者CMOS(Complementary Metal OxideSemiconductor Image Sensor,金属氧化物半导体元件图像传感器)等图像传感器的摄像头。可见光摄像头22通过对图像传感器适用RGB的彩色滤波器(color filter,滤光片),能够使该图像传感器取得可见光、即位于400~800nm的波长域的光来作为RGB(Red、Green、Blue,红绿蓝)的三种信号。
红外光LED23是照射红外线的光源。红外线是红外光区域(例如800~2500nm)的波长域的光。红外光LED23可以由多个炮弹型的LED构成,也可以由多个表面安装型(SMD:Surface Mount Device)的LED构成,还可以由COB(Chip On Board,板上芯片)型的LED构成。此外,红外光LED23也可以由多个LED构成。
红外光摄像头24是拍摄红外线的摄像头。红外光摄像头24也可以是对包括可见光区域的一部分在内的波长区域(例如700nm~900nm)的电磁波进行拍摄的摄像头。红外光摄像头24配置在相邻于红外光LED23的位置。红外光摄像头24通过具备与可见光摄像头22不同的滤波器,使该图像传感器取得红外光、即位于800nm以上的波长域的光来作为单色的一种信号。
脉搏波运算装置100配置在壳体20的内部。脉搏波运算装置100具备CPU(CentralProcessing Unit,中央处理单元)101、主存储器102、储存器103以及通信IF(Interface,接口)104。
CPU101是执行储存器103等所存储的控制程序的处理器。
主存储器102是作为在CPU101执行控制程序时使用的工作区而使用的易失性存储区域(主存储装置)。
储存器103是保持控制程序、各种数据等的非易失性存储区域(辅助存储装置)。
通信IF104是经由网络在与其他设备之间收发数据的通信接口。具体而言,通信IF104向照明装置30、可见光摄像头22、红外光LED23以及红外光摄像头24输出用于控制这些设备的控制信号。另外,通信IF104取得在可见光摄像头22和红外光摄像头24的各自中拍摄到的拍摄数据。
另外,通信IF104也可以是对照明装置30发送控制信号的通信接口。具体而言,通信IF104也可以是利用红外线将控制信号发送给照明装置30的通信接口。
另外,通信IF104也可以是能够与便携终端200通信连接的通信接口。具体而言,通信IF104既可以是符合IEEE802.11a、b、g、n标准的无线局域网(Local Area Network:LAN)接口,也可以是符合Bluetooth(注册商标)标准的无线通信接口。
[1-1-2.照明装置]
使用图3对照明装置30的硬件结构进行说明。
图3是表示实施方式涉及的照明装置30的硬件结构的一例的框图。
照明装置30是照射可见光线的光源,具备可见光LED31和控制器32。照明装置30是接收由遥控器等发送的预定控制信号,照射与该预定控制信号相应的光量的光的装置。照明装置30例如可以是市面上销售的吸顶灯、吊灯、壁灯、台灯(stand light)、脚灯(footlight)、聚光灯(spot light)、筒灯(down light)等照明器具,也可以是构成为能够受理来自遥控器的控制信号的LED灯泡、直管形LED灯、圆形(环形)LED灯等装置。
可见光LED31例如是白色LED。可见光线是可见光区域(例如400~800nm)的波长域的光。可见光LED31例如在壳体的下表面配置成圆环状。此外,可见光LED31可以由多个炮弹型的LED构成,也可以由多个表面安装型(SMD:Surface Mount Device)的LED构成,还可以由COB(Chip On Board)型的LED构成。另外,可见光LED31也可以不配置成圆环状。此外,照明装置也可以是取代可见光LED31而具有荧光灯、灯泡形荧光灯、灯泡等作为光源的构成的装置。
控制器32接收由预定的遥控器、脉搏波计测装置10或者便携终端200发送的控制信号,根据接收到的控制信号来调整可见光LED31的光量。控制器32例如由微控制器以及通信模块等实现。通信模块既可以接收基于红外线的控制信号,也可以接收由无线局域网发送的控制信号,还可以接收由Bluetooth(注册商标)发送的控制信号。
[1-1-3.便携终端]
使用图4对便携终端200的硬件结构进行说明。
图4是表示实施方式1涉及的便携终端的硬件结构的一例的框图。
如图4所示,便携终端200具备CPU201、主存储器202、储存器203、显示器204、通信IF205以及输入IF206。便携终端200例如是智能手机、平板终端等能够通信的信息终端。
CPU201是执行储存器203等所存储的控制程序的处理器。
主存储器202是作为在CPU201执行控制程序时使用的工作区而使用的易失性存储区域(主存储装置)。
储存器203是保持控制程序、各种数据等的非易失性存储区域(辅助存储装置)。
显示器204是显示CPU201中的处理结果的显示装置。显示器204例如是液晶显示器、有机EL显示器。
通信IF205是与脉搏波计测装置10通信的通信接口。通信IF205例如既可以是符合IEEE802.11a、b、g、n标准的无线局域网(Local Area Network)接口,也可以是符合Bluetooth(注册商标)标准的无线通信接口。另外,通信IF205也可以是符合第3代移动通信系统(3G)、第4代移动通信系统(4G)或者LTE(注册商标)等这样的移动通信系统所利用的通信标准的无线通信接口。
输入IF206例如配置于显示器204的表面,是受理来自用户的向显示器204所显示的UI(User Interface,用户界面)的输入的触摸面板。输入IF206例如也可以是数字键或者键盘等输入装置。
图5以及图6是用于说明脉搏波计测装置10的使用例的图。
便携终端200例如也可以如图5所示那样将用于操作脉搏波计测装置10的UI显示于显示器204。另外,便携终端200也可以根据向该UI的输入,将控制信号发送给脉搏波计测装置10。
在脉搏波计测系统1中,能够利用便携终端200来作为供用户切换可见光LED21、红外光LED23的开启/关闭(ON/OFF)的手段。例如,通过在便携终端200中启动用于控制脉搏波计测装置10的遥控器应用,能够将该便携终端200作为脉搏波计测装置10以及照明装置30的遥控器来使用。如图5的(a)所示,用户通过选择“照明开启”,能够使照明装置30开启。
图6的(a)是照明装置30为开启时的示意例。另外,当用户选择“红外开启”时,不管照明装置30是开启还是关闭,都能够使红外光光源开启。例如,图6的(b)表示照明装置30为关闭而红外光LED23为开启的状态。在红外光照明的情况下,具有如下特征:由于用户不会感到刺眼,因此能够继续如常睡眠。进而,当用户选择“关闭”时,照明装置30和红外光LED23都成为关闭,不再向用户照射任何光。
而且,在图5的(b)所示的UI中,在用户选择了“通常模式”时,从照明装置30为开启并且红外光LED23为关闭的状态开始,使照明装置30的光量逐渐减少而成为关闭,并且使红外光LED23开启并逐渐提高光量,由此,决定最佳的红外光LED23的光量,使得即使用户处于睡眠期间也能够取得脉搏波。
另外,在用户选择了“时短模式”时,与用户选择了“通常模式”时相比,使得减少照明装置30的光量的速度加快一倍以上,使增加红外光LED23的光量的速度加快一倍以上。由此,与通常模式的情况相比,能够缩短照明装置30为开启的期间。后面叙述时短模式的详细情况。
[1-2.功能结构]
接着,使用图7对脉搏波计测装置10的功能结构进行说明。
图7是表示本实施方式中的脉搏波计测装置的功能结构的一例的框图。
如图7所示,脉搏波计测装置10具备可见光拍摄部122、红外光光源123、红外光拍摄部124以及脉搏波运算装置100。
可见光拍摄部122在可见光区域拍摄被照明装置30照射了可见光的照射对象。具体而言,可见光拍摄部122将通过在可见光区域(例如,彩色)拍摄用户的皮肤作为照射对象而获得可见光图像输出到脉搏波运算装置100的可见光波形运算部111。可见光拍摄部122例如将通过拍摄包含人的脸或手的皮肤而获得的皮肤图像作为可见光图像进行输出。可见光拍摄部122例如将在多个不同的时刻拍摄到的多个可见光图像输出到可见光波形运算部111。皮肤图像是在时间上连续的多个时刻拍摄包含人的脸或手的皮肤中的同一部位而得到的图像,例如,由动态图像或多张静止图像构成。可见光拍摄部122例如通过可见光摄像头22来实现。
红外光光源123对用户照射红外光,其照射的光量通过脉搏波运算装置100的光源控制部115来调整。红外光光源123例如通过红外光LED23来实现。
红外光拍摄部124在红外光区域拍摄被红外光光源123照射了红外光的照射对象。具体而言,红外光拍摄部124将在红外光区域(例如,单色)拍摄用户的皮肤作为照射对象而获得的红外光图像输出到脉搏波运算装置100的红外光波形运算部112。红外光拍摄部124例如将在多个不同的时刻拍摄到的多个红外光图像输出到红外光波形运算部112。红外光拍摄部124拍摄与由可见光拍摄部122拍摄的部位相同的部位。红外光拍摄部124例如将通过拍摄包含人的脸或手的皮肤而获得的皮肤图像作为红外光图像进行输出。其原因在于,通过也在红外光拍摄部124中拍摄与可见光拍摄部122所拍摄的部位相同的部位,能够在可见光区域和红外光区域中取得同样的脉搏波,易于对特征量进行比较。
此外,作为相同部位的拍摄方法,设定对可见光拍摄部122和红外光拍摄部124而言相同大小的关心区域(ROI)。而且,针对由可见光拍摄部122和红外光拍摄部124拍摄到的该ROI内的图像,例如也可以通过使用模式识别进行比较来判断是否拍摄了相同部位。另外,也可以:在由可见光拍摄部122获得的可见光图像和由红外光拍摄部124获得的红外光图像的各图像中进行人脸识别,取得眼、鼻、口等特征点的坐标和大小,考虑眼、鼻、口等的大小之比,运算从眼、鼻、口等特征点起的坐标(相对位置),由此确定相同部位。
由红外光拍摄部124获得的皮肤图像与由可见光拍摄部122获得的皮肤图像同样地,是在时间上连续的多个时刻拍摄包含人的脸或手的皮肤中的同一部位而得到的图像,例如,由动态图像或多张静止图像构成。红外光拍摄部124例如通过红外光摄像头24来实现。
脉搏波运算装置100具备可见光波形运算部111、红外光波形运算部112、相关度运算部113、控制方案取得部114、光源控制部115以及生物体信息算出部116。以下,依次对脉搏波运算装置100的各构成要素进行说明。
(可见光波形运算部)
可见光波形运算部111从可见光拍摄部122取得可见光图像,从所取得的可见光图像中提取作为表示用户的脉搏波的波形的可见光波形。可见光波形运算部111从在进行照明装置30的光量的控制之前所取得第1可见光图像中,提取第1可见光波形。另外,可见光波形运算部111从在进行了照明装置30的光量的控制之后所取得的第2可见光图像中,提取第2可见光波形。此外,进行照明装置30的光量的控制指的是,通过后述的光源控制部115,将使照明装置30的可见光的光量减少的可见光控制信号或者使照明装置30的可见光的光量增加的可见光控制信号输出到照明装置30。如此,在从可见光拍摄部122取得的多个可见光图像中,包含在进行照明装置30的光量的控制之前所取得的第1可见光图像和在进行了照明装置30的光量的控制之后所取得的第2可见光图像。另外,在从多个可见光图像中提取的可见光波形中,包含从第1可见光图像中提取的第1可见光波形和从第2可见光图像中提取的第2可见光波形。
可见光波形运算部111也可以提取多个第1特征点,该第1特征点是所提取出的第1可见光波形中的预定特征点。具体而言,可见光波形运算部111在将第1可见光波形分割成作为脉搏波的周期的脉搏波周期单位的多个第1单位波形时,针对多个第1单位波形的各第1单位波形,提取作为该第1单位波形中的最大值的第1顶点和作为该第1单位波形中的最小值的第1底点的一方即第1峰值点,由此从第1可见光波形中提取多个第1峰值点。此外,第1峰值点是第1特征点的一例。
可见光波形运算部111取得脉搏波的时刻作为可见光波形的特征点,根据相邻的脉搏波的时刻来运算心跳间隔时间。也就是说,可见光波形运算部111针对所提取出的多个第1特征点的各第1特征点,算出该第1特征点和与该第1特征点相邻的其他第1特征点之间的时间来作为第1心跳间隔时间。例如,可见光波形运算部111针对所提取出的多个第1峰值点的各第1峰值点,算出该第1峰值点的第1时刻和在时间序列上与该第1峰值点相邻的其他第1峰值点的第2时刻之间的时间间隔即第1心跳间隔时间,由此算出多个所述第1心跳间隔时间。
具体而言,可见光波形运算部111基于从与进行了拍摄的时刻分别关联的多个可见光图像中提取的辉度的时间变化,提取可见光波形。也就是说,从可见光拍摄部122取得的多个可见光图像分别与在可见光拍摄部122中拍摄到该可见光图像的时刻(time point)相关联。可见光波形运算部111通过取得可见光波形的预定特征点的间隔,取得用户的脉搏波的时刻(以下,也称为脉搏波时刻)。而且,可见光波形运算部111针对所获得的多个脉搏波时刻的各脉搏波时刻,算出该脉搏波时刻与后一个脉搏波时刻的间隔来作为心跳间隔时间。
另外,可见光波形运算部111也可以提取多个第3特征点,该第3特征点是所提取出的第2可见光波形中的预定特征点。具体而言,可见光波形运算部111也可以在将第2可见光波形分割成脉搏波周期单位的多个第3单位波形时,针对多个第3单位波形的各第3单位波形,提取作为该第3单位波形中的最大值的第3顶点和作为该第3单位波形中的最小值的第3底点的一方即第3峰值点,由此从第2可见光波形中提取多个所述第3峰值点。此外,第3峰值点是第3特征点的一例。
可见光波形运算部111也可以针对所提取出的多个第3峰值点的各第3峰值点,算出该第3峰值点的第5时刻和在时间序列上与该第3峰值点相邻的其他第3峰值点的第6时刻之间的时间间隔即第3心跳间隔时间,由此算出多个所述第3心跳间隔时间。
例如,可见光波形运算部111使用所提取出的可见光波形,确定辉度的变化最大的时刻,将所确定出的时刻确定为脉搏波时刻。或者,可见光波形运算部111使用预先保持的脸或手的图案(pattern),确定多个可见光图像中的脸或手的位置,使用所确定出的位置的辉度的时间变化来确定可见光波形。可见光波形运算部111使用所确定出的可见光波形,算出脉搏波时刻。在此,脉搏波时刻指的是辉度的时间波形、即脉搏波的时间波形中的预定特征点的时刻。预定特征点例如是辉度的时间波形中的峰值位置(顶点或底点的时刻)。峰值位置例如可以使用包括使用了爬山法、自相关法以及微分函数的方法的公知的局部搜索法来确定。可见光波形运算部111例如通过CPU101、主存储器102以及储存器103等来实现。
一般而言,脉搏波是伴随心脏跳动的末梢血管系内的血压或体积的变化。也就是说,脉搏波是通过心脏收缩导致从心脏送出血液并到达脸或手等时的血管的体积的变化。如此,当脸或手等处的血管的体积发生变化时,通过血管的血液的量会发生变化,皮肤的颜色取决于血红蛋白等血液中的成分的量而发生变化。因此,所拍摄到的图像中的脸或手的辉度根据脉搏波而发生变化。也就是说,如果使用从在多个时刻拍摄脸或手而得到的图像中获得的脸或手的辉度的时间变化,则能够取得与血液的移动有关的信息。如此,可见光波形运算部111通过根据按时间序列拍摄到的多个图像来运算与血液的移动有关的信息,由此取得脉搏波时刻。
对于可见光区域的脉搏波时刻的取得,也可以使用可见光图像中的拍摄到绿色波长域的辉度的图像。其原因在于,在可见光区域拍摄到的图像中,在绿色附近的波长域的辉度上出现较大的因脉搏波引起的变化。在包含多个像素的可见光图像中,与流入较多血液的状态的脸或手相当的像素的绿色波长域的辉度,小于与流入较少血液的状态的脸或手相当的像素的绿色波长域的辉度。
图8的(a)是表示本实施方式中的可见光图像的辉度变化、特别是绿色的辉度变化的一例的坐标图。具体而言,图8的(a)示出由可见光拍摄部122拍摄到的可见光图像中的用户脸颊区域的绿色成分(G)的辉度变化。在图8的(a)的坐标图中,横轴表示时间,纵轴表示绿色成分(G)的辉度。对于图8的(a)所示的辉度变化,可知因为脉搏波而导致辉度周期性地变化。
在日常环境下、即在可见光区域拍摄皮肤的情况下,由于照明的散射光或各种要因,可见光图像包含噪声。由此,可见光波形运算部111也可以对从可见光拍摄部122取得的可见光图像实施基于滤波器等的信号处理,取得包含较多因脉搏波引起的皮肤的辉度变化的可见光图像。用于信号处理的滤波器的例子是低通滤波器。也就是说,在本实施方式中,可见光波形运算部111使用经过了低通滤波器的绿色成分(G)的辉度变化,进行可见光波形的提取处理。
图9的(a)是表示本实施方式中的脉搏波时刻的算出的一例的坐标图。在图9的(a)的坐标图中,横轴表示时间,纵轴表示辉度。在图9的(a)的坐标图的时间波形中,时刻t1~t5的各个点是拐点或顶点。该坐标图的时间波形中的各点包括作为特征点的拐点和峰值点(顶点以及底点)。此外,顶点指的是在时间波形中向上凸的极大值的点,底点指的是在时间波形中向下凸的极小值的点。在时间波形所包含的上述的各点中,辉度比前后时刻的点都大的点(顶点)的时刻或者辉度比前后时刻的点都小的点(底点)的时刻是脉搏波时刻。
使用图9的(a)所示的坐标图的辉度时间波形,对确定顶点的位置的方法、即峰值搜索的方法进行说明。可见光波形运算部111在该辉度的时间波形中,将当前的参照点设为时刻t2的点。可见光波形运算部111对时刻t2的点和前一个时刻t1的点进行比较,并且对时刻t2的点和后一个时刻t3的点进行比较。可见光波形运算部111在参照点的辉度比前一个时刻的点以及后一个时刻的点的各个点的辉度大的情况下,判定为正。也就是说,在该情况下,可见光波形运算部111判定为参照点是峰值点(顶点)、且该参照点的时刻是脉搏波时刻。
另一方面,可见光波形运算部111在参照点的辉度比前一个时刻的点以及后一个时刻的点的至少一方的辉度小的情况下,判定为否。也就是说,这该情况下,可见光波形运算部111判定为参照点不是峰值点(顶点)、且该参照点的时刻不是脉搏波时刻。
在图9的(a)中,时刻t2的点的辉度比时刻t1的点的辉度大,但时刻t2的点的辉度比时刻t3的点的辉度小,因此可见光波形运算部111将时刻t2的点判定为否。接着,可见光波形运算部111将参照点递增一个,将接下来的时刻t3的点设为参照点。时刻t3的点的辉度比时刻t3的前一个时刻t2的点以及时刻t3的后一个时刻t4的点的各个点的辉度大,因此可见光波形运算部111将时刻t3的点判定为正。可见光波形运算部111将判定为正的点的时刻作为脉搏波时刻输出到相关度运算部113。由此,如图9的(b)所示那样,确定白圈标记的时刻作为脉搏波时刻。
另外,可见光波形运算部111在脉搏波时刻的确定中,也可以基于一般的心率(例如60bpm~180bpm)的知识,考虑心跳间隔时间例如处于333ms~1000ms之间这一情况来确定脉搏波时刻。可见光波形运算部111通过考虑一般的心跳间隔时间,不需要对所有的点进行上述的辉度比较,只要对一部分点进行辉度比较,就能够确定适当的脉搏波时刻。也就是说,使用从最近取得的脉搏波时刻起处于333ms以后且1000ms以前的范围的各点作为参照点来进行上述的辉度比较即可。在该情况下,无需进行使用该范围以前的点作为参照点的辉度比较就能够确定下一个脉搏波时刻。因此,能够在日常环境时稳健地取得脉搏波时刻。
可见光波形运算部111进一步通过算出所获得的相邻的脉搏波时刻的时间差来算出心跳间隔时间。心跳间隔时间按时间序列发生变动。因此,通过与根据在同一期间所取得的红外光波形确定出的脉搏波的心跳间隔时间进行比较,能够利用于可见光波形与红外光波形的预定特征点的相关度的运算。
图10是表示按时间序列取得的心跳间隔时间的例子的坐标图。在图10的坐标图中,横轴表示与按时间序列取得的心跳间隔时间关联的数据编号,纵轴表示心跳间隔时间。如图10所示,可知心跳间隔时间随着时刻发生变动。此外,数据编号表示数据(在此为心跳间隔时间)被存储于存储器的顺序。也就是说,与第n个(n为自然数)记录的心跳间隔时间对应的数据编号成为“n”。
可见光波形运算部111也可以进一步在可见光波形中提取紧接脉搏波时刻之后的拐点的时刻。具体而言,可见光波形运算部111通过算出可见光波形的辉度值的一次微分来取得可见光微分辉度的极小点,将成为该极小点的时刻作为拐点的时刻(以下,称为拐点时刻)来算出。也就是说,可见光波形运算部111也可以提取多个从顶点到底点之间的拐点来作为预定特征点。
另外,可见光波形运算部111在拐点时刻的算出中,也可以基于一般的心率的知识,考虑心跳间隔时间例如处于333ms~1000ms之间这一情况来算出拐点时刻。由此,即使可见光波形中包含与心跳完全没有关系的拐点,由于没有确定该拐点,因此能够更准确地算出拐点时刻。
图11是用于说明从脉搏波中提取拐点的方法的坐标图。具体而言,图11的(a)是表示从可见光图像获得的可见光波形的坐标图,图11的(b)是对图11的(a)的一次微分值进行了描绘的坐标图。在图11的(a)中,圈标记表示峰值点中的顶点,叉标记表示拐点。在图11的(b)中,圈标记表示与图11的(a)中的顶点对应的点,叉标记表示与图11的(a)中的拐点对应的点。在图11的(a)的坐标图中,横轴表示时间,纵轴表示辉度值。另外,在图11的(b)的坐标图中,横轴表示时间,纵轴表示辉度值的微分系数。
在可见光波形的提取中,如前述那样使用特别是拍摄了绿色光的可见光图像。说明该可见光波形的提取的原理。在脸或手等的血管中的血液量随着脉搏波发生了增减的情况下,血中的血红蛋白的量随着血液量而增减。也就是说,随着血管中的血液量的增减,吸收绿色波长域的光的血红蛋白的量发生增减。因此,在可见光拍摄部122中拍摄到的可见光图像中,随着血液量的增减,血管附近的皮肤的颜色会发生变化,可见光的特别是绿色成分的辉度值发生变动。具体而言,由于血红蛋白吸收绿色的光,因此可见光图像中的辉度值仅减少与被血红蛋白吸收的量相当的量。
进而,可见光波形具有与从底点到顶点的梯度相比从顶点到下一个底点的梯度陡这一特征。因此,在从底点到顶点之间,比较容易受到噪声的影响。另一方面,在从顶点到下一个底点之间,由于梯度陡,因此不容易受到噪声的影响。因此,位于从顶点到底点之间的拐点时刻也还具有不容易受到噪声的影响且比较容易稳定地取得这一特征。根据以上所述,可见光波形运算部111也可以将位于从顶点到底点的拐点间的时间差作为心跳间隔时间来算出。
另外,前述的可见光波形的峰值点是在紧接拐点之前微分系数成为0的部分。具体而言,如图11的(b)所示,可知接近作为拐点的叉标记之前的微分系数成为0的点的时刻,成为表示图11的(a)的顶点的圈标记的时刻。使用该特征,可见光波形运算部111也可以将从可见光波形中取得的顶点仅限定为接近拐点之前的顶点。
可见光波形运算部111进一步算出可见光波形的从顶点到底点的斜率。可见光波形运算部111算出连接多个第1顶点中的一个第1顶点和多个第1底点中的在时间序列上接近该一个第1顶点之后的一个第1底点的第1直线的第1斜率。可见光波形的上述斜率也可以是通过调整照明装置30的辉度而尽可能大的值。其原因在于,斜率越大,则可见光波形中的顶点的尖度就越大,因滤波器处理等引起的脉搏波时刻的时间偏离就越小。
图12是表示用于说明对可见光波形的斜率进行运算的方法的可见光波形的坐标图。在图12的坐标图中,横轴表示时间,纵轴表示辉度值,圈标记表示顶点,三角标记表示底点。在可见光波形运算部111中,用直线连接顶点(圈标记)和位于其之后的底点(三角标记),算出该直线的斜率。在此算出的斜率根据照明装置30的光源发出的光的光量、由可见光拍摄部122取得的用户的皮肤的部位等而不同。因此,为了能够清晰地取得脉搏波,例如为了在心跳间隔时间处于333ms~1000ms之间持续取得脉搏波,可以分别设定照明装置30的光量、可见光拍摄部122中的与用户的部位对应的ROI,记录斜率信息,并与红外光的脉搏波的斜率信息进行比较。另外,可见光波形运算部111将从初始状态即照明装置30成为开启到通过光源控制部115使照明装置30的可见光的光量或红外光光源123的红外光的光量变化为止的状态下的、可见光波形中的从顶点到底点之间的斜率作为第1斜率A记录于存储器(例如储存器103)。脉搏波计测装置10的特征在于:一边对可见光波形与红外光波形之间的特征点进行比较,一边逐渐使照明装置30的光量变为0并使红外光光源123的光量增加。如此,由于使可见光的光量逐渐减少,因此可见光波形的从顶点到底点的斜率最大的是初始状态。
(红外光波形运算部)
红外光波形运算部112从红外光拍摄部124取得红外光图像,从所取得的红外光图像中提取作为表示用户的脉搏波的波形的红外光波形。红外光波形运算部112从在进行红外光光源123的光量的控制之前所取得的第1红外光图像中,提取第1红外光波形。另外,红外光波形运算部112从在进行了红外光光源123的光量的控制之后所取得的第2红外光图像中,提取第2红外光波形。此外,进行红外光光源123的光量的控制指的是,通过后述的光源控制部115,将使红外光光源123的红外光的光量增加的红外光控制信号或者使红外光光源123的红外光的光量减少的红外光控制信号输出到红外光光源123。如此,在从红外光拍摄部124取得的多个红外光图像中,包含在进行红外光光源123的光量的控制之前所取得的第1红外光图像和在进行了红外光光源123的光量的控制之后所取得的第2红外光图像。
红外光波形运算部112也可以提取多个第2特征点,该第2特征点是所提取出的第1红外光波形中的预定特征点。具体而言,红外光波形运算部112在将第1红外光波形分割成脉搏波周期单位的多个第2单位波形时,针对多个第2单位波形的各第2单位波形,提取作为该第2单位波形中的最大值的第2顶点和作为该第2单位波形中的最小值的第2底点的一方即第2峰值点,由此从第1红外光波形中提取多个第2峰值点。此外,第2峰值点是第2特征点的一例。
红外光波形运算部112与可见光波形运算部111同样地,取得脉搏波的时刻作为红外光波形的特征点,根据相邻的脉搏波的时刻来运算心跳间隔时间。也就是说,红外光波形运算部112针对所提取出的多个第2特征点的各第2特征点,算出该第2特征点和与该第2特征点相邻的其他第2特征点之间的时间来作为第2心跳间隔时间。具体而言,红外光波形运算部112基于从多个红外光图像中提取的辉度的时间变化,提取红外光波形。也就是说,从红外光拍摄部124取得的多个红外光图像分别与在红外光拍摄部124中拍摄到该红外光图像的时刻(time point)相关联。例如,红外光波形运算部112针对所提取出的多个第2峰值点的各第2峰值点,算出该第2峰值点的第3时刻和在时间序列上与该第2峰值点相邻的其他第2峰值点的第4时刻之间的时间间隔即第2心跳间隔时间,由此算出多个第2心跳间隔时间。
红外光波形运算部112也可以提取多个第4特征点,该第4特征点是所提取出的第2红外光波形中的预定特征点。具体而言,红外光波形运算部112也可以在将第2红外光波形分割成脉搏波周期单位的多个第4单位波形时,针对多个第4单位波形的各第4单位波形,提取作为该第4单位波形中的最大值的第4顶点和作为该第4单位波形中的最小值的第4底点的一方即第4峰值点,由此从第2红外光波形中提取多个第4峰值点。此外,第4峰值点是第4特征点的一例。
红外光波形运算部112也可以针对所提取出的多个第4峰值点的各第4峰值点,算出该第4峰值点的第7时刻和在时间序列上与该第4峰值点相邻的其他第4峰值点的第8时刻之间的时间间隔即第4心跳间隔时间,由此算出多个第4心跳间隔时间。
在此,红外光波形运算部112与可见光波形运算部111同样地,例如使用包括使用了爬山法、自相关法以及微分函数的方法在内的公知的局部搜索法,能够确定红外光波形的作为预定特征点的峰值位置。另外,红外光波形运算部112与可见光波形运算部111同样地,例如通过CPU101、主存储器102以及储存器103等来实现。
一般而言,在红外光图像中,与可见光图像同样地,图像中的皮肤区域、例如脸或手的辉度取决于血红蛋白等血液中的成分的量而发生变化。也就是说,如果使用从在多个时刻拍摄脸或手而得到的图像中获得的脸或手的辉度的时间变化,则能够取得与血液的移动有关的信息。如此,红外光波形运算部112通过根据按时间序列拍摄到的多个图像来运算与血液的移动有关的信息,由此取得脉搏波时刻。
对于红外光区域的脉搏波时刻的取得,也可以使用红外光图像中的拍摄到800nm以上的波长域的辉度的图像。其原因在于,在红外光区域拍摄到的图像中,在800~950nm附近的波长域的辉度上出现较大的因脉搏波引起的变化。
图8的(b)是表示本实施方式中的红外光图像的辉度变化的一例的坐标图。具体而言,图8的(b)示出由红外光拍摄部124拍摄到的红外光图像中的用户脸颊区域的辉度变化。在图8的(b)的坐标图中,横轴表示时间,纵轴表示辉度。对于图8的(b)所示的辉度变化,可知因为脉搏波导致辉度周期性地变化。
然而,在红外光区域拍摄皮肤的情况下,与在可见光区域拍摄皮肤的情况相比,由血红蛋白吸收的红外光的吸收量少。也就是说,由于体动等各种要因,在红外光区域拍摄到的红外光图像容易包含噪声。由此,也可以对所拍摄到的红外光图像实施基于滤波器等的信号处理,将适当的光量的红外光照射到用户的皮肤区域,由此取得包含较多因脉搏波引起的皮肤的辉度变化的红外光图像。用于信号处理的滤波器的例子是低通滤波器。也就是说,在本实施方式中,红外光波形运算部112使用经过了低通滤波器的红外光的辉度变化,进行红外光波形的提取处理。此外,关于由红外光光源123进行的红外光的光量的决定方法,在相关度运算部113或光源控制部115中进行记述。
接着,对红外光波形运算部112中的峰值搜索的方法进行说明。红外光波形中的峰值搜索,可以利用与可见光波形中的峰值搜索同样的方法。
红外光波形运算部112在脉搏波时刻的确定中,与可见光波形运算部111同样地,也可以基于一般的心率(例如60bpm~180bpm)的知识,考虑心跳间隔时间例如处于333ms~1000ms之间这一情况来确定脉搏波时刻。红外光波形运算部112通过考虑一般的心跳间隔时间,不需要对所有的点进行上述的辉度比较,只要对一部分点进行辉度比较,就能够确定适当的脉搏波时刻。也就是说,使用从最近取得的脉搏波时刻起处于333ms以后且1000ms以前的范围的各点作为参照点来进行上述的辉度比较即可。在该情况下,无需进行使用该范围以前的点作为参照点的辉度比较就能够确定下一个脉搏波时刻。
红外光波形运算部112与可见光波形运算部111同样地,通过算出所取得的相邻的脉搏波时刻的时间差来算出心跳间隔时间。另外,红外光波形运算部112也可以进一步在红外光波形中提取紧接脉搏波时刻之后的拐点的时刻。而且,例如,红外光波形运算部112通过算出红外光波形的辉度值的一次微分来取得红外光微分辉度的极小点,将成为该极小点的时刻作为拐点的时刻(拐点时刻)来算出。也就是说,红外光波形运算部112也可以提取多个从顶点到底点之间的拐点来作为预定特征点。
另外,红外光波形运算部112与可见光波形运算部111同样地,进行关于红外光波形的从顶点到底点的斜率的运算。也就是说,红外光波形运算部112算出第2红外光波形的、连接多个第4顶点中的一个第4顶点和多个第4底点中的在时间序列上紧接该一个第4顶点之后的一个第4底点的第2直线的斜率即第2斜率。
如上,红外光波形运算部112通过进行与可见光波形运算部111同样的处理,提取多个预定特征点作为第2特征点。然而,红外光波形相比于可见光波形,因从光源发出的红外光的光量而发生较大变化。也就是说,红外光波形相比于可见光波形更容易受到光源的光量的影响。
图13是按红外光光源的光量不同的等级来表示由红外光摄像头取得了人的皮肤图像的情况下的红外光波形的坐标图。在图13中,从(a)到(d)依次使红外光光源的光量的等级增加。即,对于光源等级,光源等级1表示光量最少,光源等级每次增加,光量都增多,光源等级4表示光量最多。此外,光源等级示出等级每增加一级,光源的控制电压增加约0.5V。另外,图13的各坐标图中的圈标记表示脉搏波的峰值位置(顶点)。如图13的(a)那样,若光源的光量少,则噪声会比来自红外光光源的红外光多,难以进行脉搏波时刻的确定。另一方面,如图13的(c)和/或(d)那样,若光源的光量多,则与脉搏波相应的皮肤的辉度变化会被光源的光量掩埋,脉搏波的形状减小,难以进行脉搏波时刻的确定。
可是,在使用照射可见光并在可见光区域拍摄到的图像来取得脉搏波的情况下,即使以对用户的眼睛而言不会过强的光量照射可见光,也能够以该照射量充分地取得脉搏波。然而,在使用照射红外光并在红外光区域拍摄到的图像来确定脉搏波的情况下,即使对红外光的光量进行控制,也会如上述那样包含噪声或红外光的光量过多。因此,只是在相当小的光量的范围内,难以进行脉搏波的取得。另外,即使仅将红外光光源的光量预先决定为预定值,也会因要取得的皮肤的部位和/或、用户的肤质、皮肤的颜色等发生变化,因此难以预先决定适当的光量。因此,需要通过下面叙述的相关度运算部113,一边缩小可见光的光量一边进行使红外光的光量成为适当的值的控制,以使得可见光波形与红外光波形一致。
(相关度运算部)
相关度运算部113运算从可见光波形运算部111获得的可见光波形与从红外光波形运算部112获得的红外光波形之间的相关度。而且,相关度运算部113根据算出的相关度,决定用于调整照明装置30以及红外光光源123的各光量的指令,将所决定的指令发送给光源控制部115。
相关度运算部113从可见光波形运算部111和红外光波形运算部112分别取得根据第1可见光波形算出的多个第1心跳间隔时间和根据第1红外光波形算出的多个第2心跳间隔时间。而且,相关度运算部113运算在时间序列上互相对应的多个第1心跳间隔时间与多个第2心跳间隔时间之间的第1相关度。
另外,相关度运算部113从可见光波形运算部111和红外光波形运算部112分别取得根据第2可见光波形算出的多个第3心跳间隔时间和根据第2红外光波形算出的多个第4心跳间隔时间。而且,相关度运算部113也可以运算在时间序列上互相对应的多个第3心跳间隔时间与多个第4心跳间隔时间之间的第2相关度。
图14是表示将第1心跳间隔时间和第2心跳间隔时间分别按时间序列顺序的数据进行了描绘的坐标图。在图14的坐标图中,横轴表示时间序列上的数据编号,纵轴表示与各数据编号对应的心跳间隔时间。此外,在此,数据编号表示各心跳间隔时间的数据被存储于其被记录的存储器的顺序。也就是说,在第1心跳间隔时间,与第n个(n为自然数)记录的心跳间隔时间对应的数据编号成为“n”。另外,在第2心跳间隔时间,与第n个(n为自然数)记录的心跳间隔时间对应的数据编号成为“n”。进而,第1心跳间隔时间和第2心跳间隔时间是对同一时刻的脉搏波进行了计测的结果,因此,只要原则上没有计测误差,如果数据编号相同则可以说是对大致相同时刻的脉搏波进行了计测的结果。也就是说,多个第1心跳间隔时间以及多个第2心跳间隔时间包含在时间序列上互相对应的一组第1心跳间隔时间及第2心跳间隔时间。
相关度运算部113使用相关法,进行多个第1心跳间隔时间和多个第2心跳间隔时间的相关度的运算。具体而言,相关度运算部113使用以下的(式1),运算在时间序列上互相对应的、多个第1心跳间隔时间与多个第2心跳间隔时间之间的第1相关系数来作为第1相关度。
Figure BDA0001390575180000301
ρ1:第1相关系数
σ12:多个第1心跳间隔时间和多个第2心跳间隔时间的协方差
σ1:多个第1心跳间隔时间的标准差即第1标准差
σ2:多个第2心跳间隔时间的标准差即第2标准差
另外,相关度运算部113使用以下的(式2),运算在时间序列上互相对应的、多个第3心跳间隔时间与多个第4心跳间隔时间之间的第2相关系数来作为第2相关度。
Figure BDA0001390575180000302
ρ2:第2相关系数
σ34:所述多个第3心跳间隔时间和所述多个第4心跳间隔时间的协方差
σ3:所述多个第3心跳间隔时间的标准差即第3标准差
σ4:所述多个第4心跳间隔时间的标准差即第4标准差
例如,如果第1相关系数在第2阈值(预定阈值)、例如0.8以上,则相关度运算部113判断为多个第1心跳间隔时间和多个第2心跳间隔时间大致一致,向光源控制部115发送例如“True”的信号来作为表示大致一致的信号。另一方面,如果相关系数是小于第2阈值、例如0.8的值,则相关度运算部113判断为多个第1心跳间隔时间和多个第2心跳间隔时间不一致,向光源控制部115发送例如“False”的信号来作为表示不一致的信号。相关度运算部113以与第1相关系数同样的方式对第2相关系数也进行上述的处理。
另外,相关度运算部113也可以不仅运算第1心跳间隔时间和第2心跳间隔时间的相关度,还判定各心跳间隔时间是否适当,将判定结果发送给光源控制部115。具体而言,相关度运算部113在多个第1心跳间隔时间以及多个第2心跳间隔时间中,判定在时间序列上互相对应的第1心跳间隔时间和第2心跳间隔时间之间的绝对误差是否超过第3阈值(例如200ms)。相关度运算部113例如算出数据编号相同的第1心跳间隔时间和第2心跳间隔时间的绝对误差,判定该绝对误差是否超过第3阈值。而且,相关度运算部113例如在判定为该绝对误差超过第3阈值的情况下,判定为可见光波形以及红外光波形中的某一方的峰值点的个数过剩。而且,相关度运算部将峰值点的个数过剩一方的波形(可见光波形或红外光波形)发送给光源控制部115。此外,绝对误差的运算通过下述的式3来进行。
e=RRIRGB-RRIIR(式3)
在式3中,e表示对应的第1心跳间隔时间和第2心跳间隔时间的绝对误差,RRIRGB表示第1心跳间隔时间,RRIIR表示第2心跳间隔时间。
另外,相关度运算部113,如果e小于(-1)×第3阈值(例如,-200ms),则判定为可见光中的峰值点的个数过剩,如果e大于第3阈值(例如,200ms),则判断为红外光中的峰值点的个数过剩。而且,相关度运算部113将表示峰值点的个数过剩一方的波形是可见光波形还是红外光波形的信息作为判定结果发送给光源控制部115。如此,根据两个波形的对应的心跳间隔时间的偏离,能够确定在哪个波形中过剩地取得了峰值点或者峰值点的取得失败。
相关度运算部113例如在判定为对应的第1心跳间隔时间和第2心跳间隔时间的绝对误差超过第3阈值、且在可见光波形中过剩地取得了峰值点的情况下,向光源控制部115发送表示该判定结果的“False,RGB”的信号。此外,相关度运算部113在判定为绝对误差超过第3阈值、且在红外光波形中过剩地取得了峰值点的情况下,向光源控制部115发送表示该判定结果的“False,IR”的信号。
图15是用于对判定心跳间隔时间是否适当的具体例进行说明的图。图15的(a)是表示所取得的多个心跳间隔时间不适当的情况的坐标图。图15的(b)是与图15的(a)对应的表示可见光波形或红外光波形的一例的坐标图。在图15的(a)的坐标图中,横轴表示时间序列上的数据编号,纵轴表示与各数据编号对应的心跳间隔时间。在图15的(b)的坐标图中,横轴表示时间,纵轴表示图像中的辉度。
在图15的(a)中,由虚线包围的部分是两个点的心跳间隔时间不适当的部分。心跳间隔时间虽然通常晃动地变动,但几乎没有急剧变动的情况。例如,在如图15的(a)所示由虚线包围的部分以外的区域,平均值约为950ms,其标准差约为50ms。然而,由虚线包围的两个点的心跳间隔时间,值急剧变化为约600~700ms。这是由于取得了图15的(b)中划了虚线的部分作为峰值点而引起的。即,由于在可见光波形运算部111或红外光波形运算部112中过剩地取得了峰值点而引起。
在可见光波形运算部111或红外光波形运算部112的某一方中获得了图15所示那样的结果的情况下,当对多个第1心跳间隔时间和多个第2心跳间隔时间的数据数进行比较时,数据数会不一致。
图16中示出该情形。图16是用于说明在可见光波形中进行了峰值点的过剩取得、没有在对应的红外光波形中进行峰值点的过剩取得的情况的例子的图。
多个第1或第2心跳间隔时间的数据例如以(数据No,心跳间隔时间)这一形式保存于储存器103。表示在可见光波形中取得的多个第1心跳间隔时间的数据例如成为(x,t20-t11)、(x+1,t12-t20)、(x+2,t13-t12)。另外,表示在红外光波形中取得的多个第2心跳间隔时间的数据例如成为(x,t12-t11)、(x+1,t13-t12)。由此,当对在可见光波形和红外光波形中分别取得的数据进行比较时,尽管是在同一时间区间t11~t13之间取得的数据,但数据数发生了偏离。由此,之后的第1心跳间隔时间和第2心跳间隔时间之间的数据的对应关系全部偏离,心跳间隔时间的时间变动的相关度会发生偏离。
因此,相关度运算部113在由可见光波形运算部111和红外光波形运算部112得到的第3或第4心跳间隔时间的各数据编号的心跳间隔时间的绝对误差在第3阈值、例如200ms以上时,将峰值点的个数较多一方的脉搏波峰值删除一个。而且,相关度运算部113进行将从与进行了删除的峰值对应的数据编号起以后的数据编号逐个减一的处理。
相关度运算部113在如上述那样判定为过剩地取得了峰值点(即,预定特征点)的情况下,也可以将预定特征点较多一方的波形(可见光波形或红外光波形)中的成为了心跳间隔时间的运算基准的预定特征点从该心跳间隔时间的运算对象中排除。也就是说,如果e小于(-1)×第3阈值,则相关度运算部113将成为了用于算出该e的RRIRGB的运算基准的峰值点从第1心跳间隔时间的运算对象中排除。如果e大于第3阈值,则相关度运算部113将成为了用于算出该e的RRIIR的运算基准的峰值点从第2心跳间隔时间的运算对象中排除。
也就是说,相关度运算部113判定多个第3心跳间隔时间以及多个第4心跳间隔时间中的、在时间序列上互相对应的第3心跳间隔时间和第4心跳间隔时间之间的绝对误差是否超过第3阈值。而且,相关度运算部113在判定为绝对误差超过第3阈值的情况下,对多个第3峰值点的个数和多个第4峰值点的个数进行比较。相关度运算部113在判定为超过第3阈值的第3心跳间隔时间以及第4心跳间隔时间中,确定出根据比较的结果是判定为个数多的一方的峰值点而算出的心跳间隔时间。相关度运算部113将成为了所确定出的心跳间隔时间的运算基准的峰值点从该心跳间隔时间的运算对象中排除。
另外,峰值点的过剩取得是由于在所取得的波形(可见光波形或红外光波形)中噪声多而引起的。因此,掌握发生了过剩取得一方的波形是可见光波形还是红外光波形,例如如上述那样生成“False,RGB”这样的信号,将所生成的信号发送给光源控制部115。也就是说,光源控制部115如果接收到“False,RGB”的信号,则能够掌握可见光波形与红外光波形之间的心跳间隔时间不一致以及不一致的原因是可见光波形。如此,能够掌握可见光波形和红外光波形的峰值点的取得中的数据偏离,能够将表示所掌握的结果的信息发送给光源控制部115,因此能够更准确地取得可见光波形以及红外光波形中的用户的脉搏波。
此外,在相关度运算部113中,在第1心跳间隔时间与第2心跳间隔时间的相关度的判定中将第2阈值作为0.8进行了判定,但并不限于此。具体而言,也可以根据用户想要计测的生物体信息的准确性来改变第2阈值。例如,在想要通过严格地进行用户睡眠时的红外光下的脉搏波提取来更准确地取得睡眠期间的生物体信息例如心跳和/或血压等信息的情况下,也可以使成为判定基准的第2阈值加大,例如成为0.9等值。
另外,在调整了成为基准的相关系数的第2阈值的情况下,也可以根据调整后的第2阈值,在提示装置40中显示取得数据的可信度。例如,在可见光波形与红外光波形之间的特征量不怎么一致、在睡眠时等无法减少来自可见光的光源的光量的情况下,也可以将成为基准的相关系数的第2阈值变更为例如0.6等小于0.8的值。此时,因为与相关度有关的准确性小,所以也可以在提示装置40显示可信度变小这一情况。
相关度运算部113在从可见光波形以及红外光波形中按时间序列取得的第1以及第2心跳间隔时间的相关系数小于第2阈值的情况下,或者在可见光波形运算部111以及红外光波形运算部112中过剩取得了第1预定期间的峰值点的情况下,也可以使用可见光波形以及红外光波形各自的拐点来判定可见光波形与红外光波形的相关度。也就是说,也可以通过使用(式2)来运算在时间序列上互相对应的使用第1拐点算出的多个第3心跳间隔时间与使用第2拐点算出的多个第4心跳间隔时间之间的相关系数来作为第2相关系数。
具体而言,如前所述,在可见光波形以及红外光波形中的第1以及第2心跳间隔时间的相关系数小于第2阈值例如0.8的情况下,或者在由可见光波形运算部111以及红外光波形运算部112取得的峰值点的个数在第1预定区间(例如5秒钟)并不一致、至少一方的波形中的峰值点的个数超过了第1阈值(例如10个)的情况下,也可以使用可见光波形和红外光波形这两方的波形中的拐点,判定各波形中的拐点间的时间间隔信息的相关度。
也就是说,相关度运算部113进行判定多个第3峰值点的个数或多个第4峰值点的个数在第1预定期间是否超过第1阈值的第10判定。相关度运算部113在判定为第3峰值点的个数或第4峰值点的个数在第1预定期间超过第1阈值的情况下,也可以进行下面的处理。
也就是说,相关度运算部113使可见光波形运算部111进行如下处理:针对多个第3顶点的各第3顶点,提取该第3顶点和多个第3底点中的在时间序列上接近该第3顶点之后的第3底点之间的拐点即第1拐点,由此提取多个所述第1拐点。另外,相关度运算部113使红外光波形运算部112进行如下处理:针对多个第4顶点的各第4顶点,提取该第4顶点和多个第4底点中的在时间序列上紧接该第4顶点之后的第4底点之间的拐点即第2拐点,由此提取多个第2拐点。另外,相关度运算部113使可见光波形运算部111进行如下处理:针对所提取出的多个第1拐点的各第1拐点,算出该第1拐点的第9时刻和与该第1拐点相邻的其他的第1拐点的第10时刻之间的时间间隔来作为第3心跳间隔时间。另外,相关度运算部113使红外光波形运算部112进行如下处理:针对所提取出的多个第2拐点的各第2拐点,算出该第2拐点的第7时刻和与该第2拐点相邻的其他的第2拐点的第8时刻之间的时间间隔来作为所述第4心跳间隔时间。并且,相关度运算部113通过使用(式2)来运算在时间序列上互相对应的使用第1拐点算出的多个第3心跳间隔时间与使用第2拐点算出的多个第4心跳间隔时间之间的第2相关系数来作为第2相关度。
另外,相关度运算部113也可以不管第10判定的结果如何,都在下述情况下如上述那样的通过使用(式2)来运算使用第1拐点算出的多个第3心跳间隔时间与使用第2拐点算出的多个第4心跳间隔时间之间的第2相关系数来作为第2相关度。该情况是如下情况:根据比较的结果是判定为个数少的一方的峰值点而算出的心跳间隔时间的标准差为所述第4阈值以下。
图17是用于说明使用拐点算出相关度的情况的图。图17的(a)是表示在可见光波形中取得的峰值点(顶点)的坐标图,图17的(b)是表示在红外光波形中取得的峰值点(顶点)的坐标图。在图17的(a)以及(b)中,都是横轴表示时间,纵轴表示辉度,黑点表示所取得的顶点,白圈表示所取得的拐点。
在图17的(a)中,可知:在可见光波形中过剩地取得了峰值点,在第1预定期间(5秒钟)峰值点存在第1阈值以上或超过第1阈值的10个或11个。另一方面,在图17的(b)中,在红外光波形中以一定的心跳间隔时间取得了峰值点,标准差为100ms以下。此时,表示可见光波形以及红外光波形中的第1以及第2心跳间隔时间的时间序列的数据编号会发生偏离。
因此,相关度运算部113也可以利用由可见光波形运算部111和红外光波形运算部112取得的位于各脉搏波的顶点-底点间的拐点,运算可见光波形与红外光波形之间的相关度。相关度运算部113例如使可见光波形运算部111以及红外光波形运算部112算出使用拐点算出的第1心跳间隔时间和第2心跳间隔时间,运算该第1和第2心跳间隔时间之间的相关度。作为具体的运算方法,通过可见光波形和红外光波形的拐点间的心跳间隔时间的相关或者绝对误差来进行评价。
此外,在相关度运算部113中,设为了在可见光波形或红外光波形中的心跳间隔时间的相关系数小于第2阈值的情况下,或者对于可见光波形或红外光波形中的峰值点的个数而在第1预定期间至少一方的波形中的峰值点的个数多于第1阈值的情况下,使用拐点间的心跳间隔时间来运算可见光波形与红外光波形之间的相关度,但并不限于此。例如,相关度运算部113也可以不使用峰值点而从最初就使用拐点间的心跳间隔时间来运算可见光波形与红外光波形之间的相关度。由此,即使在未能高精度地从可见光波形或红外光波形中取得峰值点的情况下,也能够通过算出拐点间的心跳间隔时间来算出与心跳间隔时间类似的时间。但是,拐点间的心跳间隔时间相比于能够从峰值点取得的心跳间隔时间,具有虽然不容易附着噪声但拐点在顶点-底点间容易发生变动这一特征。即,具有如下趋势:顶点-顶点的心跳间隔时间稳定,例如标准差容易达到100ms以内,与拐点-拐点间的心跳间隔时间相比,时间误差小。因此,在本公开中,只要没有特别预告,优先使用根据峰值点运算的心跳间隔时间。
另外,相关度运算部113在上述之外,也可以在满足了下述条件的情况下,取代根据峰值点运算的心跳间隔时间而将拐点间的心跳间隔时间用于相关度的运算。该条件例如是:多个心跳间隔时间以及多个心跳间隔时间中的、与可见光波形和红外光波形中的峰值点的个数较少一方的波形对应的心跳间隔时间的标准差为第4阈值(例如100ms)以下。这存在如下可能性:在通过第1预定期间内的峰值点的个数来判定是否过剩地取得了峰值点的情况下,实际上,虽然峰值点的个数过剩,但却不符合第1预定期间内的峰值点的个数超过第1阈值这一条件,而是看漏掉过剩取得的峰值点。
例如,图18是用于说明虽然峰值点的个数过剩但不符合第1预定期间内的峰值点的个数超过第1阈值这一条件的例子的图。在图18的(a)以及(b)中,都是横轴表示时间,纵轴表示辉度,黑点表示所取得的顶点,白圈表示所取得的拐点。
如图18的(a)所示,在可见光波形中,在5秒钟取得的峰值点的个数为8个的情况下,不符合第1预定期间内的峰值点的个数超过第1阈值这一条件,而是取得了与在图18的(b)所示的红外光波形中取得的峰值点的个数不同个数的峰值点。此时,如前所述,当过剩地取得即使一个峰值点时,如果能够示出存在第1心跳间隔时间和第2心跳间隔时间的数据编号逐个偏离一个这一问题、那么可见光波形和红外光波形的某一方的心跳间隔时间大致恒定这一情况,则能够根据该波形的峰值点的个数来进行调整(删除)。峰值点的调整的详细情况,如使用图16说明的那样。
此外,相关度运算部113在可见光波形和红外光波形这两方的波形中第1预定期间的心跳间隔时间的标准差都超过第4阈值的情况下,判定为无法从两方的波形取得适当的脉搏波时刻,向光源控制部115发送表示无法从两方的波形取得适当的脉搏波时刻这一情况的“False,Both”的信号。
相关度运算部113在开始使用脉搏波计测装置10时、且通过可见光波形运算部111无法在第1预定期间适当地取得峰值点的情况(即,心跳间隔时间的标准差小于第4阈值的情况)下,将使可见光波形运算部111运算可见光波形的顶点-底点间的斜率作为第1斜率A而得到的结果存储于存储器。并且,相关度运算部113在每次通过光源控制部115使照明装置30或红外光光源123的光量变化时,向光源控制部115发送指令,使得红外光波形的顶点-底点间的第2斜率成为第1斜率A。进而,相关度运算部113也可以不将在光源控制部115调整光源光量的调整期间所取得的峰值点用于可见光波形与红外光波形之间的相关度的运算。
图19是表示用于说明不将在光源的光量的调整期间所取得的峰值点使用于可见光波形与红外光波形之间的相关度的运算这一情况的例子的图。在图19的坐标图中,横轴表示时间,纵轴表示辉度,在斜线的区域示出了正在调整光源的光量的情形。另外,白圈以及黑点表示所取得的峰值点。
如图19所示,通过调整光源的光量,可见光波形或红外光波形的辉度的增益发生变化,与此相应地峰值点的尖度也发生变化。若在可见光波形运算部111或红外光波形运算部112中对尖度发生了变化后的峰值点实施滤波,则由于实施滤波之前的原波形的峰值的尖度,导致峰值点的位置在时间轴上发生前后上的变化。如果是算出心率作为生物体信息的程度,则该误差不会成为问题,但在根据脉搏波传播时间算出血压等情况下,因该误差导致的影响很大。因此,在本公开的脉搏波计测装置10中,也可以不从通过第1~第4控制信号控制照明装置30或红外光光源123的光量的期间所取得的可见光波形或红外光波形中提取预定特征点(即峰值点)。
也就是说,可见光波形运算部111在多个第1峰值点的提取中,从在除去通过可见光控制信号控制照明装置30的光量的期间之外的期间所取得的第1可见光波形中提取多个第1峰值点。另外,可见光波形运算部111在多个第3峰值点的提取中,从在除去通过第3控制信号控制照明装置30的光量的期间之外的期间所取得的第2可见光波形中提取多个第3峰值点。
另外,红外光波形运算部112在多个第2峰值点的提取中,从在除去通过红外光控制信号控制红外光光源123的光量的期间之外的期间所取得的第1红外光波形中提取多个第2峰值点。另外,红外光波形运算部112在多个第4峰值点的提取中,从在除去通过第4控制信号控制红外光光源123的光量的期间之外的期间所取得的第2红外光波形中提取多个第4峰值点。
此外,相关度运算部113在可见光波形和红外光波形中的心跳间隔时间的相关系数小于第2阈值的情况下,作为某一方或两方的波形的峰值点的个数过剩这一情况,算出心跳间隔时间的误差和/或各心跳间隔时间的标准差,在满足了预定条件的情况下,使用波形的从顶点到底点之间的拐点间的心跳间隔时间,但并不限于此。相关度运算部113例如在即使第1心跳间隔时间和第2心跳间隔时间的相关系数小于第2阈值但已适当地取得了两波形中的峰值点(例如,两波形的心跳间隔时间的标准差都为第4阈值以下)的情况下,向光源控制部115发送“False”的信号。
如此,相关度运算部113向光源控制部115发送与所运算出的相关度和从可见光波形以及红外光波形中提取预定特征点的提取结果相应的信号(例如,“True”、“False”、“False,RGB”、“False,IR”以及“False,Both”的某一方)。
如上述进行的说明,相关度运算部113基于第1心跳间隔时间以及第2心跳间隔时间来进行以下的判定。
即,相关度运算部113进行判定是否为第1标准差超过第4阈值、且所述第2标准差超过所述第4阈值的第2判定。另外,相关度运算部113在第2判定的结果是判定为第1标准差超过第4阈值、且第2标准差超过第4阈值的情况下,进行第3判定以及第4判定,所述第3判定是多个第1心跳间隔时间中的一个第1心跳间隔时间和多个第2心跳间隔时间中的在时间序列上与该一个第1心跳间隔时间对应的一个第2心跳间隔时间的第1时间差是否小于第5阈值的判定,所述第4判定是第1时间差是否大于比第5阈值大的第6阈值的判定。
另一方面,相关度运算部113在第3判定以及第4判定的结果是判定为第1时间差小于第5阈值的情况下,进行判定第2标准差是否为第4阈值以下的第5判定。
另外,相关度运算部113也可以基于第3心跳间隔时间以及第4心跳间隔时间来进行以下的判定。
也就是说,相关度运算部113进行判定是否为第3标准差超过第4阈值、且第4标准差超过第4阈值的第6判定。另外,相关度运算部113在第6判定的结果是判定为第3标准差超过第4阈值、且第4标准差超过所述第4阈值的情况下,进行第7判定以及第8判定,所述第7判定是多个第3心跳间隔时间中的一个第3心跳间隔时间和多个第4心跳间隔时间中的在时间序列上与该一个第3心跳间隔时间对应的一个第4心跳间隔时间的第2时间差是否小于第5阈值的判定,所述第8判定是所述第2时间差是否大于第6阈值的判定。
另一方面,相关度运算部113在第7判定以及第8判定的结果是判定为第2时间差小于第5阈值的情况下,进行判定第4标准差是否为第4阈值以下的第9判定。
(控制方案取得部)
控制方案取得部114取得控制方案,该控制方案是用于对位于脉搏波计测装置10外部的照明装置30进行调光的方案,是对该照明装置30预先确定的控制方案。控制方案取得部114将所取得的控制方案发送到光源控制部115。具体而言,控制方案取得部114按各机型存储有多个各种机型的照明装置30的控制方案,每次识别照明装置30,都进行所存储的多个控制方案与识别出的照明装置30的匹配,选择用于控制所识别出的照明装置30的控制方案。
控制方案取得部114例如也可以存储有各种制造商的货号(商品号码)和用于控制与该货号对应的照明装置的控制方案。由此,例如用户初次使用脉搏波计测装置10时,控制方案取得部114也可以通过受理照明装置30的货号的输入,并选择与所受理的货号对应的控制方案,从而取得相应的控制方案。此外,关于来自用户的输入,如果脉搏波计测装置10具有输入按钮等输入IF则可以由脉搏波计测装置10受理,也可以由便携终端200经由所启动的遥控器应用来受理。在后者的情况下,脉搏波计测装置10从便携终端200接收被输入到便携终端200的货号。由此,控制方案取得部114能够识别与各货号相应的控制方案,另外能够选择与货号相应的控制信号。
此外,控制方案是并非由开启、关闭信号,而由照明装置的种类判定的、例如两级的控制方案和/或多级的照明变化方案,进而能够判定是否使色温变化,本装置能够自动地识别照明装置。也就是说,控制方案包括与照明装置30的机型相应的控制方案,可以包括第1控制方案、第2控制方案、第3控制方案以及第4控制方案中的至少某一方。第1控制方案是调整光量以及色温的控制方案。第2控制方案例如是以开启关闭的单级调整光量的控制方案。第3控制方案是以第1可见光光量和比第1可见光光量小的第2可见光光量的两级调整光量的控制方案。第4控制方案是无级地调整光量的控制方案。
(光源控制部)
光源控制部115根据从相关度运算部113接收到的与相关度以及提取结果相应的信号,决定为使照明装置30的可见光的光量和红外光光源123的红外光的光量的至少一方增加、减少、维持的某一方,将与决定结果相应的第1~第4控制信号输出到照明装置30以及红外光光源123。
另外,光源控制部115通过控制方案取得部114取得在照明装置30的调光中使用的控制方案,根据取得的控制方案,决定对作为照明装置30的光源的可见光LED31的光量进行调整的时刻和相应的光量。具体而言,光源控制部115根据红外光光源123发出的红外光的光量的控制,使用控制方案取得部114所取得的控制方案,将控制照明装置30所照射的光量的可见光控制信号输出到照明装置。
光源控制部115在接收到“False”的信号的情况下,能够判断为虽然可见光波形以及红外光波形中的第1和第2心跳间隔时间的相关系数小于第2阈值但却已适当地取得了各波形的心跳间隔时间。此时,光源控制部115能够判断为是如下情况:虽然处于相对于可见光波形而言红外光波形的信号弱、且能够取得各波形中的预定特征点的状态,但例如由于峰值点的尖度小因而通过滤波器处理等导致每次峰值的位置发生了偏离。因此,在该情况下,光源控制部115使红外光光源123的光量增加,直到红外光波形的从顶点到底点的第2斜率成为存储器所存储的第1斜率A为止。
另外,光源控制部115在接收到“True”的信号的情况下,能够判断为示出了可见光波形和红外光波形中的预定特征点一致这一情况。因此,光源控制部115使照明装置30的可见光的光量减少,使红外光光源123的红外光的光量增加,直到红外光波形的从顶点到底点的第2斜率成为存储器所存储的第1斜率A为止。也就是说,光源控制部115在相关度大于等于第2阈值的情况下,使可见光光源的可见光的光量减少,使红外光光源的红外光的光量增加。另外,在红外光的光量的增加中,使红外光的光量增加,直到红外光波形的第2斜率成为存储器(储存器103)所存储的第1斜率A为止。
此外,第3可见光图像的取得、第2可见光波形的提取、第2红外光图像的取得、第2红外光波形的提取、以及第2相关系数的运算,在脉搏波运算装置100的各处理部中反复进行。光源控制部115在反复进行的第2相关系数的运算中,对第2斜率和存储器所存储的第1斜率进行比较,将红外光控制信号输出到红外光光源123,直到第2斜率成为第1斜率为止。
另外,光源控制部115例如在接收到“False,IR”的信号的情况下,能够判断为红外光波形运算部112在红外光波形中无法适当地取得预定特征点。也就是说,例如,“False,IR”的信号示出了在红外光波形中噪声多这一情况。因此,不调整照明装置30的光量而使红外光光源123的光量增加。
也就是说,光源控制部115在第3判定以及第4判定的结果是判定为作为第1时间差的绝对误差e大于第6阈值(200[ms])的情况下,将红外光控制信号输出到红外光光源123。另外,光源控制部115在第7判定以及第8判定的结果是判定为作为第2时间差的绝对误差e大于第6阈值(200[ms])的情况下,将红外光控制信号输出到红外光光源123。光源控制部115通过将红外光控制信号输出到红外光光源123来使红外光光源123的光量增加。
另外,光源控制部115在接收到“False,RGB”的信号的情况下,能够判断为可见光波形运算部111在可见光波形中无法适当地取得预定特征点。另外,光源控制部115在该情况下,无法判断红外光波形运算部112是否在红外光波形中适当地取得了预定特征点。因此,例如,如果在红外光波形中的第1预定期间的心跳间隔时间的标准差在第4阈值以下,则光源控制部115使照明装置30的光源的光量减少,使红外光光源123的光源的光量增加,直到红外光波形的从顶点到底点之间的斜率成为A为止。另外,如果红外光波形中的上述标准差超过第4阈值,则光源控制部115判定为都无法取得信号,将信号变更为“False,Both”。
也就是说,光源控制部115在第5判定的结果是判定为第2标准差在第4阈值以下的情况下,将可见光控制信号输出到照明装置30,并且将红外光控制信号输出到红外光光源123。光源控制部115在判定为第2标准差大于第4阈值的情况下,将第3控制信号输出到照明装置30,并且将第4控制信号输出到红外光光源。此外,第5判定如上所述是在第3判定以及第4判定的结果是判定为第1时间差小于第5阈值的情况下进行的、第2标准差是否在第4阈值以下的判定。
另外,光源控制部115在第9判定的结果是判定为第4标准差为第4阈值以下的情况下,将可见光控制信号输出到照明装置301,并且将红外光控制信号输出到红外光光源123。光源控制部115在第9判定的结果是判定为第4标准差大于第4阈值的情况下,将第3控制信号输出到照明装置30,并且将第4控制信号输出到红外光光源123。此外,第9判定如上所述是在第7判定以及第8判定的结果是判定为第2时间差小于第5阈值的情况下进行的、第4标准差是否在第4阈值以下的判定。
另外,光源控制部115在接收到“False,Both”的信号的情况下,能够判断为无论在可见光波形中还是在红外光波形中都无法取得预定特征点。光源控制部115在该情况下,使照明装置30的光量增加,直到可见光波形的从顶点到底点的斜率成为第1斜率A为止。此外,如果存储器中存储有可见光波形的初始的光量,则光源控制部115也可以使照明装置30的光量增加到该初始的光量为止。另外,光源控制部115使红外光光源123的光量减少至0。也就是说,光源控制部115在可见光波形和红外光波形这两方中都无法取得预定特征点的情况下,将能够最切实地进行取得的状态的照明装置30的光量以及红外光光源123的光量设为初始状态,再次进行光量的调整。
也就是说,光源控制部115在第3判定以及第4判定的结果是判定为作为第1时间差的绝对误差e为第5阈值以上且第6阈值以下的情况下,将第3控制信号输出到照明装置30,并且将第4控制信号输出到红外光光源123。另外,光源控制部115在第7判定以及第8判定的结果是判定为作为第2时间差的绝对误差e为第5阈值以上且第6阈值以下的情况下,将第3控制信号输出到照明装置30,并且将第4控制信号输出到红外光光源123。光源控制部115通过将第3控制信号输出到照明装置30,使照明装置30的光量增加,通过将第4控制信号输出到红外光光源123,使红外光光源123的光量减少。
也就是说,光源控制部115在多个第1心跳间隔时间的标准差超过第4阈值、且多个第2心跳间隔时间的标准差超过第4阈值、且在时间序列上互相对应的第1心跳间隔时间与第2心跳间隔时间之差小于第5阈值((-1)×第3阈值)的情况下,使照明装置30的可见光的光量减少,并且使红外光光源123的红外光的光量增加,在红外光的光量的增加中,使红外光的光量增加,直到红外光波形的第2斜率成为存储器所存储的第1斜率A为止。
另外,光源控制部115在多个第1心跳间隔时间的标准差超过第4阈值、且多个第2心跳间隔时间的标准差超过第4阈值、且在时间序列上互相对应的第1心跳间隔时间与第2心跳间隔时间之差大于第6阈值(即第3阈值)的情况下,使红外光光源123的红外光的光量增加,在红外光的光量的增加中,使红外光的光量增加,直到红外光波形的第2斜率成为存储器所存储的第1斜率A为止。
另外,光源控制部115在多个第1心跳间隔时间的标准差超过第4阈值、且多个第2心跳间隔时间的标准差超过第4阈值、且在时间序列上互相对应的第1心跳间隔时间与第2心跳间隔时间之差为从第5阈值到第6阈值之间的值的情况下,使照明装置30的可见光的光量增加,并且使红外光光源123的红外光的光量减少。
此外,光源控制部115设为了除了“False,Both”等在可见光波形和红外光波形这两方中都无法取得预定特征点的情况以外,使红外光光源123的光量增加,直到红外光波形的第2斜率成为第1斜率A为止,但并不限于此。对于光源控制部115,例如在ROI中的平均辉度值超过第7阈值例如240的情况下,光源的光量会过强,导致从用户的皮肤拍摄的图像被噪声信息掩埋。此外,平均辉度的“240”是表示辉度的0~255的值中的“240”,越大的值表示辉度越大。因此,光源控制部115在该情况下,认为红外光波形的第2斜率超过了第1斜率A,因此也可以使红外光的光量减少,直到第2斜率成为第1斜率A为止。
图20是表示使用脉搏波计测装置来使可见光光源的光量减少到0、并且使红外光光源的光量增加至适当光量的最简单的步骤的例子的图。在图20的(a)~(d)的所有的坐标图中,横轴表示时间,纵轴表示辉度。另外,在图20中,将可见光波形标记为RGB,将红外光波形标记为IR。
图20的(a)是表示在用户通过脉搏波计测装置10将照明装置30开启的初始状态下所取得的可见光波形以及红外光波形的图。图20的(a)的可见光波形是图20的(a)~(d)的可见光波形中的从顶点到底点的斜率最大的波形。因此,将此时的可见光波形的从顶点到底点的斜率作为第1斜率A存储于存储器。
另外,此时,红外光光源123成为关闭。因此,几乎没有取得红外光波形。在该状态下,相关度运算部113向光源控制部115发送例如“False,IR”这一信号。因此,光源控制部115使红外光光源123的红外光光源光量增加。此时,随着使红外光光源123的光量增加,在红外光波形运算部112中,变得能够取得红外光波形的预定特征点,能够取得第2心跳间隔时间。另外,所取得的第2心跳间隔时间的标准差会收敛在第4阈值以内。而且,如图20的(b)所示,一边维持将第2心跳间隔时间的标准差收敛在第4阈值以内的状态,一边使红外光光源123的光量增加,直到红外光波形的顶点-底点间的第2斜率成为第1斜率A为止。在第2斜率成为了第1斜率A的情况下,相关度运算部113向光源控制部115发送例如“TRUE,AMP=A”的信号。因此,光源控制部115在接收到“TRUE,AMP=A”的信号的时间点,暂时中止光源的调整。
接着,从图20的(b)的状态开始,光源控制部115使照明装置30的可见光源的光量减少。图20的(c)是在红外光波形运算部112中心跳间隔时间的标准差在第4阈值以下、照明装置30的光源成为关闭的状态。另外,图20的(d)是进一步照明装置30的光源成为关闭、且红外光波形的第2斜率成为第1斜率A的状态,即最终目标的状态。
在从图20的(b)的状态变为图20的(c)的状态的过程中,使可见光的光量每隔一定间隔例如减少1W。而且,每当使可见光的光量减少时,红外光波形运算部112以及相关度运算部113确认在红外光波形中是否适当地取得了预定特征点。另外,红外光波形运算部112以及相关度运算部113如果确认到在红外光波形中适当地取得了预定特征点,则如图20的(d)所示,使红外光光源123的光源的光量增加,直到红外光波形的第2斜率成为第1斜率A为止。
因此,在从图20的(b)的状态变为图20的(c)的状态的过程中,相关度运算部113向光源控制部115发送“True”的信号或“False,IR”的信号,光源控制部115每接收到“False,IR”的信号时调整红外光光源123的光量,直到成为“True”为止。而且,光源控制部115在通过使照明装置30的光量减少而从相关度运算部113接收到“False,RGB”时,结束该过程。
或者,在从图20的(c)的状态变为图20的(d)的状态的过程中,相关度运算部113向光源控制部115发送“False,RGB”的信号,光源控制部115使红外光光源123的光源的光量持续增加,直到红外光波形的第2斜率成为第1斜率A为止,例如,如果从相关度运算部113接收到表示无法取得可见光波形、且第2斜率成为了第1斜率A的“False,RGB,AMP=A”的信号,则结束光源控制部115对光源光量的控制。
另外,光源控制部115具有如下特征:在可见光波形运算部111或红外光波形运算部112中,对于可见光波形和红外光波形的各波形,在从该波形取得了连续的两个以上的预定特征点之后,进行光源的控制。也就是说,光源控制部115在红外光控制信号的输出中,使红外光控制信号的输出待机,直到在第2预定期间内从第1可见光波形提取到连续的两个以上的第1峰值点,或者直到在第2预定期间内从第2可见光波形提取到连续的两个以上的第3峰值点。另外,光源控制部115在红外光控制信号的输出中,使红外光控制信号的输出待机,直到在第2预定期间内从第1红外光波形提取到连续的两个以上的第2峰值点为止,或者直到在第2预定期间内从第2红外光波形提取到连续的两个以上的第4峰值点为止。
图21是用于说明使光源控制等待,直到对于可见光波形和红外光波形的各波形,在第2预定期间内从该波形提取到连续的两个以上的预定特征点为止的图。图21的坐标图表示可见光波形或红外光波形。在图21的坐标图中,横轴表示时间,纵轴表示辉度。
当光源控制部115使照明装置30或者红外光光源123的光量变化时,可见光波形或红外光波形的辉度的增益发生变化。而且,当辉度的增益变化时,脉搏波时刻的位置发生偏离,因此在心跳间隔时间等的时刻的算出中会产生很大误差。另外,在本公开中,作为可见光波形与红外光波形的相关度的判定材料,主要使用了心跳间隔时间,为了算出心跳间隔时间而需要两个连续的峰值点。因此,如图21所示,光源控制部115在可见光波形或红外光波形中确认到了连续地提取了两个以上峰值点之后,对光源量进行调整。
至此,说明了照明装置30能够完全地进行调光控制的情况下(也就是说,是能够根据第4控制方案来调光的照明装置的情况下)的、光源控制部115中的控制方法。接着,分别对照明装置30是能够根据第2控制方案来调光的照明装置的情况、是能够根据第3控制方案来调光的照明装置的情况进行说明。
关于基本的控制方法,如光源控制部115中的说明所述,但对相关度运算部113中的针对判定的、光源的控制方法中的特征性的情况进行说明。
与无级地调整光量的第4控制方案的情况相比,照明装置30在是根据以开启关闭的单级调整光量的第2控制方案、或者以第1可见光光量和第2可见光光量的两级调整光量的第3控制方案来调光的装置的情况下,无法将可见光的光量随意地变为任意光量。
于是,光源控制部115例如在从相关度运算部113受理到“True”的信号的情况下,将如下控制信号作为红外光控制信号输出到红外光光源123,所述控制信息用于使红外光的光源的光量增加直到红外光波形的第2斜率变为第1斜率A为止,并从那里进一步增加直到能够检测出红外光波形的预定特征点(也就是说峰值点)的范围为止。
光源控制部115在输出红外光控制信号后,将使照明装置30的照明的光量降低一级的控制信号作为可见光控制信号进行输出。
具体而言,光源控制部115在照明装置30是根据第2控制方案来调光的装置的情况下,将使照明装置30从开启的状态变为关闭的状态的控制信号作为可见光控制信号进行输出。
另外,光源控制部115在照明装置30是根据第3控制方案来调光的装置的情况下,如果照明装置30的光量为第1可见光光量,则将从第1可见光光量变更为比第1可见光光量小的第2可见光光量的控制信号作为可见光控制信号进行输出。另外,光源控制部115在照明装置30是根据第3控制方案来调光的装置的情况下,如果照明装置30的光量为第2可见光光量,则将使照明装置30变为关闭的状态的控制信号作为可见光控制信号进行输出。
《第1控制方案》
接着,说明通过调整光量以及色温来进行照明装置30的调光的情况。
在照明装置30是根据调整光量以及色温的第1控制方案来调光的装置的情况下,首先,在使照明装置30所照射的可见光的色温达到预定色温以下、例如2500K以下之后,进行上述的光源的切换控制。
图22是用于说明由色温的变化引起的、可见光拍摄部122中的用户的脸部的视觉差异的图。图22的(a)是表示日常照明例如中性白(5000K左右)时的、拍摄用户的脸部而得到的图像的一例的图,图22的(b)是表示降低了色温、照射了灯泡色(2500K左右)时的拍摄用户的脸部而得到的图像的一例的图。此时,在脉搏波计测装置10中,变更所使用的算法,不根据RGB的辉度信号来取得可见光波形,而使用根据RGB的辉度信号运算出的色相H的色相信号。
图23是用于说明根据RGB的辉度信号来运算色相H的色相信号的运算处理的图。图23的(a)~(c)是表示能够由可见光拍摄部122取得的各RGB信号(可见光波形)的坐标图。在图23的(a)~(c)的每一个中,横轴表示时间,纵轴表示各RGB的辉度。另外,图23的(d)是表示根据它们三个信号运算出的色相H的信号(色相波形)的坐标图。在图23的(d)中,横轴表示时间,纵轴表示色相环中的角度。此外,色相环中的0度是在R信号中有增益、其他的G信号以及B信号为0的状态。另外,色相信号通过式3根据RGB的辉度信号来运算。
Figure BDA0001390575180000491
在式3中“R”为R信号(红色信号)的辉度值,“B”为B信号(蓝色信号)的辉度值,“G”为G信号(绿色信号)的辉度值。
式3是颜色中的辉度信号变为R>G>B这一顺序的情况下的算式,用户的皮肤颜色基本上满足该关系,能够使用上述的式3。如此,若使用式3将RGB的辉度信号变换为色相信号,则如图24所示那样,用户的皮肤颜色作为在色相环中存在于大于等于0度且小于等于60度的色相范围的颜色来表现。也就是说,不使用RGB的辉度信号,而是通过使用色相H的色相信号,能够抵消RGB的辉度信号所包含的辉度成分,能够获得色调成分的变化。因此,能够减少由辉度变化引起的噪声的影响。
也就是说,光源控制部115将使照明装置30的色温调整为预先确定的温度(例如2500K)的控制信号作为色温控制信号输出到照明装置30。而且,可见光波形运算部111使用式3运算从在色温控制信号的输出之后取得的第3可见光图像中所获得的色相,使用运算出的色相来提取可见光波形。
再者,通过最初进行使色温小于等于2500K的控制,将会对用户的脸颊照射如灯泡色那样的微红的光。由此,通过可见光拍摄部122拍摄到的结果为,会获得用户的皮肤表面的色调变化在色相环的30度附近振动的结果。此时,30度的轴具有与RGB的G信号的轴垂直相交这一特征,因此最容易受到脉搏波易出现变化的G信号的变化的影响。由此,通过变更照明装置30的色温以使得用户的皮肤表面的色调从白变为微红、尤其是色相H的值变到30度附近,能够应对更严重的体动和/或环境噪声,稳健地取得可见光波形。
也就是说,可见光波形运算部111在色温控制信号输出后,取得通过在可见光区域拍摄被照明装置30照射了色温为预先确定的温度的可见光的用户而获得的第3可见光图像。而且,可见光波形运算部111运算所取得的第3可见光图像的色相,从运算出的色相提取色相波形,该色相波形是表示用户的脉搏波的波形。光源控制部115将如下控制信号作为色温控制信号输出到照明装置30,所述控制信号调整照明装置30的色温以使得所提取到的色相波形落入以预定基准值(例如色相环中的30度)为基准的色相范围(例如大于等于0度且小于等于60度的范围)。
在此,图25是表示在变换到不同色相范围的情况下所取得的色相波形的图。图25的(a)对色相环进行表示。图25的(b)表示在调整了照明装置30的色温以使得所提取到的色相波形落入以色相环中的90度为基准的大于等于60度且小于等于120度的色相范围的情况下所取得的色相波形。图25的(c)表示在调整了照明装置30的色温以使得所提取到的色相波形落入以色相环中的30度为基准的大于等于0度且小于等于60度的色相范围的情况下所取得的色相波形。图25的(d)表示在调整了照明装置30的色温以使得所提取到的色相波形落入以色相环中的-30度为基准的大于等于-60度且小于等于0度的色相范围的情况下所取得的色相波形。
如图25所示,可知在调整了照明装置30的色温以使得所提取到的色相波形落入以色相环中的30度为基准的大于等于0度且小于等于60度的色相范围的情况下,与向其他色相范围调整了色温的情况相比,能够获得几乎没有受到由辉度变化引起的噪声的影响的明了的波形。
另外,再者,灯泡色对于用户而言具有给予放松效果,使其易于入睡的效果,因此,对于用户而言,将色温从白色(5000K)变更为红色(2500K)也是有益的。
对照明装置30所输出的可见光的色温的调整也可以如下这样进行。
首先,控制方案取得部114从设置于脉搏波计测装置10的外部的照明装置30取得规定第1对应关系的第1控制方案。第1对应关系表示多个指示与照明装置30所输出的可见光的多个色温。多个指示与多个色温为1对1的关系。脉搏波运算装置100保持表示预先所保持的第1色温的信息。接着,光源控制部115参照第1控制方案所规定的第1对应关系来决定与第1色温对应的第1指示。接着,光源控制部115将第1指示输出到照明装置30。接着,照明装置30对用户照射具有与第1指示对应的色温的可见光。接着,可见光拍摄部122在可见光区域拍摄被照射了具有与第1指示对应的色温的可见光的用户并取得多个第1可见光图像。接着,可见光波形运算部111根据多个第1可见光图像来运算多个第1色相,从多个第1色相提取第1色相波形,该第1色相波形是表示用户的脉搏波的波形。关于提取色相波形的详细情况,已经利用图23等进行了详细说明。光源控制部115判断第1色相波形的振幅是否属于预定色相范围,在判断为属于的情况下,将处理移至上述的光源的切换控制。光源控制部115判断第1色相波形的振幅是否属于预定色相范围,在判断为不属于的情况下,移至以下的处理。光源控制部115参照第1控制方案来决定与不同于第1色温的第2色温对应的第2指示,将第2指示输出到照明装置30。接着,照明装置30对用户照射具有与第2指示对应的色温的可见光。接着,可见光拍摄部122在可见光区域拍摄被照射了具有与第2指示对应的色温的可见光的用户并取得多个第4可见光图像。可见光波形运算部111根据多个第4可见光图像来运算多个第2色相,从运算出的多个第2色相提取第2色相波形,该第2色相波形是表示用户的脉搏波的波形。关于提取色相波形的详细情况,已经利用图23等进行了详细说明。接着,光源控制部115判断第2色相波形的振幅是否属于预定色相范围。光源控制部115在判断为第2色相波形的振幅属于预定色相范围的情况下,将处理移至上述的光源的切换控制。在光源切换的控制中,相关度运算部113也可以使用多个第4可见光图像来提取作为表示用户的脉搏波的波形的可见光波形,使用该可见光波形和多个红外光图像来根据所提取的作为表示用户的脉搏波的波形的红外光波形求取相关度。
《第2控制方案》
图26是用于说明在照明装置是根据第2控制方案来调光的装置的情况下的使可见光光源的光量减少到0为止、并且使红外光光源的光量增加到适当的光量为止的光源的切换控制的图。图26的(a)是表示与作为可见光光源的照明装置30和红外光光源123的各自中的各光量相应的电压的变化的坐标图。在图26的(a)的坐标图中,横轴表示时间,纵轴表示与光量相应的电压。图26的(b)以及(c)均表示在如图26的(a)那样使施加于各光源的电压变化的情况下的、可见光波形以及红外光波形。在图26的(b)以及(c)的坐标图中,横轴表示时间,纵轴表示辉度。
另外,在从作为照射可见光的光源的照明装置30向红外光光源123的光源切换控制中,将光源的切换完成的完成时间设为T。该完成时间T例如是开始切换之后2分钟到10分钟左右的时间。由此,能够更准确地取得并比较可见光波形和红外光波形。
如图26所示,在照明装置30的调光等级为单级的情况下,照明装置30通过开启和关闭的某一方对所照射的可见光进行调光。因此,脉搏波计测装置10需要通过在照明装置30开启的状态下调整红外光光源123的光量,从而调整为能够在红外光下取得用户的脉搏波的状态的光量。具体而言,光源控制部115将使红外光光源123发出的红外光的光量增大预先确定的第1变化量的控制信号作为红外光控制信号输出到红外光光源123。红外光光源123在接收到该红外光控制信号时,施加如图26的(a)所示的预定电压以使得光量增加第1变化量,如图26的(b)以及(c)所示那样,光量增加第1变化量。
此外,作为红外光拍摄部124的硬件的红外光摄像头24也受可见光区域的波段的光的影响。因此,脉搏波计测装置10需要在使照明装置30关闭之前,预先对红外光拍摄部124中的、由使照明装置30关闭而引起的辉度的减少进行预测,使红外光光源123的光量增加。
而且,光源控制部115将使照明装置30关闭的控制信号作为可见光控制信号输出到照明装置30。照明装置30在接收到可见光控制信号时,关闭并变为不照射可见光的状态。如此,脉搏波计测装置10即使在使照明装置30关闭了的情况下,由于预先使红外光光源123的光量增加,因此也能够有效地取得红外光波形的特征点(例如峰值点的时刻等)。
此外,光源控制部115也可以通过重复来对红外光光源123的光量的调整进行学习。例如存在如下情况:如图26的(c)所示,仅进行了1次上述的切换控制,由于红外光光源123的光量的增加量不足,导致在照明装置30的可见光关闭时,无法取得红外光波形的特征点(例如峰值点)。在该情况下,光源控制部115使红外光光源123的光量进一步增加,直到能够取得红外光波形的特征点为止。而且,光源控制部115也可以存在能够取得红外光波形的特征量的情况下的、照明装置30即将关闭之前的红外光的光量和照明装置30关闭之后进一步使之增加的红外光光源123的光量,将它们的光量之和作为在下一次切换控制中即将使照明装置30关闭之前所设定的红外光光源123的光量。由此,脉搏波计测装置10能够使每次取得红外光波形失败的概率减小,能够更有效地取得用户的睡眠期间的脉搏波。
《第3控制方案》
接着,对照明装置30的调光的等级为两级的情况进行说明。
图27是用于说明在照明装置是根据第3控制方案来调光的装置的情况下的光源的切换控制的图。图27的(a)是表示与作为可见光光源的照明装置30和红外光光源123的各自的各光量相应的电压变化的坐标图。在图27的(a)中,横轴表示时间,纵轴表示与光量相应的电压。图27的(b)表示如图27的(a)那样使施加于各光源的电压变化的情况下的、可见光波形以及红外光波形。在图27的(b)中,横轴表示时间,纵轴表示辉度。另外,与图26同样地,将切换控制中的完成时间设为T。
如图27的(a)以及(b)所示,在照明装置30的调光等级为两级的情况下,可见光即使从第1可见光光量下降一级变为第2可见光光量,由于第2可见光光量不为0,因此也是能够取得可见光波形的状态。因此,在为两级的情况下,首先,进行最初的一级的调光。也就是说,光源控制部115将控制红外光光源123所发出的红外光的光量从第1红外光光量增大预先确定的第2变化量后变为第2红外光光量的控制信号作为红外光控制信号输出到红外光光源123。而且,光源控制部115将使照明装置30从第1可见光光量变化为第2可见光光量的控制信号作为可见光控制信号输出到照明装置30。
红外光光源123在接收到该红外光控制信号时,施加如图27的(a)的第一级的变化所示的预定电压以使得光量增加第2变化量,如图27的(b)所示那样,光量增加第2变化量。另外,照明装置30在接收到该可见光控制信号时,使光量从第1可见光光量变化为第2可见光光量。
此时,在脉搏波计测装置10中,能够掌握在第一级的调光中由照明装置30中的电压的下降引起的、可见光的辉度的减少量。由此,能够预测在下一级的调光中由电压下降引起的可见光的辉度下降。
也就是说,光源控制部115根据从输出红外光控制信号前后的第1以及第2红外光图像中获得的红外光的辉度变化、和从输出可见光控制信号前后的第2以及第3可见光图像中获得的可见光的辉度变化,决定红外光光源123的红外光的光量的第3变化量。
此外,第1红外光图像是在红外光控制信号被输出之前由红外光拍摄部124拍摄到的红外光图像,第2红外光图像是在红外光控制信号被输出之后由红外光拍摄部124拍摄到的红外光图像。另外,第2可见光图像是在可见光控制信号被输出之前由可见光拍摄部122拍摄到的可见光图像,第3可见光图像是在可见光控制信号被输出之后由可见光拍摄部122拍摄到的可见光图像。
在此决定的第3变化量例如也可以是与在照明装置30通过第二级的调光而被关闭时可能影响红外光图像的红外光的辉度变化等同或以上的值。而且,光源控制部115将控制从第2红外光光量增大所决定的第3变化量后变为第3红外光光量的控制信号作为红外光控制信号输出到红外光光源123。之后,光源控制部115将使照明装置30关闭的第二级的控制信号作为可见光控制信号输出到照明装置30。
红外光光源123在接收到该红外光控制信号时,施加如图27的(a)的第二级的变化所示的预定电压以使得光量增加第3变化量,如图27的(b)所示那样,光量增加第3变化量。照明装置30在接收到该可见光控制信号时,关闭并变为不照射可见光的状态。
如此,脉搏波计测装置10在照明装置30是根据第3控制方案来调光的装置的情况下,在第一级的调光中取得可见光的辉度的减少量,根据取得的减少量,使红外光光源123的光量增加,由此,能够更有效地取得红外光波形。
另外,照明装置30的调光的等级越是变为从两级进一步增多的多级,通过对每级反复与上述同样的原理,越能够更有效地取得红外光波形。
此外,光源控制部115在受理到“False,Both”的信号的情况下,在使照明装置30的可见光的光量返回到最亮的光量后,反复进行使红外光光源123的光量增大直到红外光波形的第2斜率再次变为第1斜率A为止的处理。
《第4控制方案》
接着,对照明装置30的调光的等级为无级的情况进行说明。
图28是用于说明在照明装置是根据第4控制方案来调光的装置的情况下的光源的切换控制的一例的图。图28的(a)是表示与作为可见光光源的照明装置30和红外光光源123的各自的各光量相应的电压变化的坐标图。在图28的(a)中,横轴表示时间,纵轴表示与光量相应的电压。图28的(b)表示如图28的(a)那样使施加于各光源的电压变化的情况下的、可见光波形以及红外光波形。在图28的(b)中,横轴表示时间,纵轴表示辉度。
如图28的(a)所示,在照明装置30的调光的等级为无级的情况下,在使施加的电压线性下降时,可见光的光量线性地减少,电源在完成时间T关闭。另一方面,可知在使施加的电压线性提高时,红外光光源123的红外光的光量线性地增加。此时,如图28的(b)所示,可见光波形为根据电压的变化而减少,红外光波形为根据电压的变化而增加。因此,在照明装置30是根据第4控制方案来调光的装置的情况下,即使在没能顺利地进行从可见光波形的取得切换到红外光波形的取得的情况下,由于能够线性地使其增减,因此能够一边微调整,一边取得红外光中的脉搏波。再者,由于与分级的情况下的照明装置不同而能够进行微调整,因此更能够一边捕捉可见光中的可见光波形的特征点,一边取得红外光中的红外光波形的特征点。
此外,在照明装置30的调光的等级为无级的情况下,使可见光线性地减少,使红外光线性地增加,但不限于此。例如,如图29所示,光源控制部115也可以在照明装置30的照度为预定阈值、例如50~200勒克司,且在红外光波形运算部112中取得了红外光波形的特征点的情况下,关闭辉度被控制着以使照度达到预定阈值的照明装置30。通过像这样进行控制,与使可见光线性减少直到关闭为止的情况相比,能够更快地关闭,能够进行向舒适睡眠的导入。
在此,图29是表示在照明装置的照度为预定阈值的情况下使其关闭的切换控制的一例的图。图29的(a)是表示与作为可见光光源的照明装置30和红外光光源123的各自中的各光量相应的电压变化的坐标图。在图29的(a)中,横轴表示时间,纵轴表示与光量相应的电压。图29的(b)表示在如图29的(a)那样使施加于各光源的电压变化的情况下的、可见光波形以及红外光波形。在图29的(b)中,横轴表示时间,纵轴表示辉度。
也就是说,在该情况下,脉搏波计测装置10在相关度运算部113运算出的相关度大于等于预定阈值(第2阈值)的情况下,将使红外光光源123的红外光的光量增加的控制信号作为红外光控制信号输出到红外光光源123,将使照明装置30的可见光的光量减少的控制信号作为可见光控制信号输出到照明装置30,并在第3可见光图像的取得、第2可见光波形的提取、第2红外光图像的取得以及第2红外光波形的提取之后进一步反复进行相关度的运算。此外,第2可见光波形是根据第3可见光图像所提取的、表示用户的脉搏波的波形。第2红外光波形是根据第2红外光图像所提取的、表示用户的脉搏波的波形。
而且,光源控制部115也可以在照明装置30的光量变为小于等于第2阈值并且反复进行的相关度运算的结果为相关度变为大于等于预定阈值的情况下,将使照明装置30关闭的控制信号作为可见光控制信号输出到照明装置。此外,在该情况下的第2阈值指的是,照度为预定阈值的情况下的照明装置30的光量。
另外,照明装置30为了更有效地进行从作为照射可见光的光源的照明装置30向红外光光源123的光源的切换控制,将切换所花费的完成时间设定成了T,但不限于此。尤其在照明装置30的调光等级为无级的情况下,也可以根据用户的指示,进行提早调整时间的切换控制。在用户之中,有人会觉得睡觉时每次为了切换光源用完成时间T(例如2分钟到10分钟之间)控制可见光是痛苦的。因此,如图5的(b)所示,例如也可以准备“通常模式”和“时短模式”这两种切换控制。在由用户选择了“通常模式”的情况下,脉搏波计测装置10花费通常所设定的完成时间T来进行切换控制。另外,在由用户选择了“时短模式”的情况下,与取得可见光波形和/或红外光波形的准确性相比更重视速度,例如,也可以将切换所花费的完成时间设为T/3(例如30秒到3分钟左右),通过使用在此之间取得的可见光波形以及红外光波形来进行切换控制。
也就是说,脉搏波计测装置10执行通常模式下的通常处理和时短模式下的短时间处理中的某一方处理。通常处理指的是如下处理:在运算出的相关度大于等于预定阈值的情况下,将使红外光光源123的红外光的光量以第1速度增加的控制信号作为红外光控制信号输出,将使照明装置30的可见光的光量以第2速度减少的控制信号作为可见光控制信号输出,并在第3可见光图像的取得、第2可见光波形的提取、第2红外光图像的取得以及第2红外光波形的提取之后进一步反复进行相关度的运算。短时间处理指的是如下处理:在运算出的相关度大于等于预定阈值的情况下,将使红外光光源123的红外光的光量以第1速度的两倍以上的第3速度增加的控制信号作为红外光控制信号输出,将使照明装置30的可见光的光量以第2速度的两倍以上的第4速度减少的控制信号作为可见光控制信号输出,并在第3可见光图像的取得、第2可见光波形的提取、第2红外光图像的取得以及第2红外光波形的提取之后进一步反复进行相关度的运算。
图30是表示在缩短后的完成时间内进行切换控制的情况的一例的图。图30的(a)是表示与作为可见光光源的照明装置30和红外光光源123的各自的各光量相应的电压变化的坐标图。在图30的(a)中,横轴表示时间,纵轴表示与光量相应的电压。图30的(b)表示如图30的(a)那样使施加于各光源的电压变化的情况下的、可见光波形以及红外光波形。在图30的(b)中,横轴表示时间,纵轴表示辉度。
如图30的(a)所示,从照明装置30照射的光量在从切换控制开始起的完成时间T/3衰减为0。此时,如图30的(b)所示,可见光波形的峰值数比在完成时间为T的通常模式下的切换控制中取得的可见光波形的峰值数少。因此,在时短模式的情况下,在切换控制中为了取得红外光波形而比较的可见光波形的特征点的数据数减少。因此,切换控制的准确度降低,但能够缩短切换控制所花费的时间。通过以该时短模式进行切换控制,用户在想快速入睡的日子等,能够迅速进行切换,进入睡眠。
(生物体信息算出部)
生物体信息算出部116使用由可见光波形运算部111取得的可见光波形和由红外光波形运算部112取得的红外光波形各自的特征量的某一方,算出用户的生物体信息。具体而言,生物体信息算出部116在照明装置30为开启且在可见光波形运算部111中能够取得可见光波形的情况下,从可见光波形运算部111取得第1心跳间隔时间。而且,生物体信息算出部116使用第1心跳间隔时间,算出例如心率、压力指数等生物体信息。
另一方面,生物体信息算出部116在照明装置30为关闭或者在可见光波形运算部111中无法取得可见光波形、且在红外光波形运算部112中能够取得红外光波形的情况下,从红外光波形运算部112取得第2心跳间隔时间。而且,生物体信息算出部116使用第2心跳间隔时间,同样地算出例如心率、压力指数等生物体信息。
此外,生物体信息算出部116在可见光波形运算部111和红外光波形运算部112这两方中都能够提取各波形(可见光波形以及红外光波形)的特征量(心跳间隔时间)的情况下,使用来自可见光波形运算部111的第1心跳间隔时间,算出生物体信息。这是因为:相比于红外光,可见光具有应对体动等噪声的稳健性,可靠性高。
此外,生物体信息算出部116既可以使用所取得的可见光波形的特征量来算出生物体信息,也可以使用所取得的红外光波形的特征量来算出生物体信息。另外,生物体信息算出部116既可以使用在从光源控制部115输出了第2控制信息之后所取得的第2可见光波形的特征量来算出用户的生物体信息,也可以使用在从光源控制部115输出第2控制信息之前所取得的第1可见光波形的特征量来算出用户的生物体信息。同样地,生物体信息算出部116既可以使用在从光源控制部115输出了红外光控制信号之后所取得的第2红外光波形的特征量来算出用户的生物体信息,也可以使用在从光源控制部115输出红外光控制信号之前所取得的第1红外光波形的特征量来算出用户的生物体信息。
此外,要算出的生物体信息设为了心率和/或压力指数,但并不限于此。例如,也可以根据所获得的脉搏波来算出加速度脉搏波,算出动脉硬化指数。另外,也可以从用户的不同的两个地方的部位准确地取得脉搏波的时刻,根据其时间差(脉搏波传播时间)推定血压。另外,也可以根据心跳间隔时间的变动算出交感神经、副交感神经的占优性,算出睡眠深度。
此外,作为压力指数,生物体信息算出部116也可以根据LF/HF的数值来输出表示“压力高”、“压力低”等的信息。
另外,生物体信息算出部116可以如专利文献3所示那样作为睡眠深度来求出。睡眠深度具体可以基于LF、HF以及体动的有无来判定。此外,睡眠深度是表示受试者的脑部活动状态的程度的指标。例如,作为睡眠深度,也可以判定为符合non-REM睡眠、REM睡眠的哪一方。进而,在non-REM睡眠期间,也可以进一步判定符合浅睡眠、深睡眠的哪一方。
此外,生物体信息算出部116也可以通过对每个所判定出的睡眠深度的阶段赋予与阶段相应的数值,将该数值作为睡眠深度进行输出。
此外,LF(Low Frequency,低频)以及HF(Hi Frequency,高频)通过进行专利文献3所示那样的处理来获得。也就是说,将脉搏波间隔数据(心跳间隔时间)例如通过FFT(FastFourier Transform,快速傅里叶变换)变换成频谱分布。接着,通过所获得的频谱分布,得到LF、HF。具体而言,取多个功率谱的峰值和以峰值为中心前后等间隔的1点这3个点的合计值的算术平均而设为LF、HF。此外,作为频率分析法的例子,在FFT法之外,可以使用AR模型、最大熵法、小波法等。
(提示装置)
提示装置40是对从生物体信息算出部116接收到的生物体信息进行提示的装置。提示装置40具体是对从生物体信息算出部116获得的心率和/或压力指数、睡眠深度等生物体信息进行提示的装置。提示装置40例如通过便携终端200来实现,既可以在便携终端200的显示器204显示表示生物体信息的图形,也可以从便携终端200的未图示的扬声器输出表示生物体信息的声音。
此外,提示装置40在脉搏波计测装置10内置有显示器的情况下,也可以通过该显示器来实现,在脉搏波计测装置10内置有扬声器的情况下,也可以通过该扬声器来实现。
此外,提示装置40设为了对从生物体信息算出部116获得的生物体信息进行提示,但并不限于此。提示装置40例如也可以一直提示照明装置30的光源的光量和/或红外光光源123的光源的光量。另外,提示装置40也可以将通过相关度运算部113得到的当前时间点的一致度例如作为可信度以%的显示方式进行提示。具体而言,提示装置40也可以提示可见光波形与红外光波形之间的相关系数。
图31是表示向提示装置显示的显示例的图。如图31所示,提示装置40显示表示心率、压力指数、睡眠深度、另外还有当前的可信度(即,可见光波形和红外光波形的心跳间隔时间的相关系数)的图形。另外,提示装置40也可以还显示当前时间点的可见光光源与红外光光源的光量之比。另外,提示装置40也可以根据这些参数判断用户的睡眠状态是何种状态,通过参照使心率、压力指数以及睡眠深度的各数值与睡眠状态预先相关联的表来判定睡眠状态,显示所判定出的睡眠状态。提示装置40例如在心率为65以下、压力指数40为以下、睡眠深度为70以上时显示为“GOOD”。此外,提示装置40也可以将上述的生物体信息等的提示内容不是在刚算出之后就显示。也就是说,由于用户基本上正在睡眠,因此不是立即提示通过算出而得到的生物体信息等提示内容,例如也可以进行记录(蓄积),在用户例如第二天的早上醒来的时间点提示该提示内容。由此,用户能够在醒来后立即确认是否睡了一个好觉。
[1-3.工作]
接着,对本实施方式涉及的脉搏波计测装置10的工作进行说明。图32是表示本实施方式中的脉搏波计测装置10的处理的流程的流程图。
首先,照明装置30在用户进入房间或通过用户自身使用控制器来启动。
首先,光源控制部115从照明装置30取得第4控制方案(S001)。
光源控制部115基于取得的第4控制方案将可见光控制信号输出到照明装置30,由此,调整照明装置30的可见光的色温以使得所提取到的色相波形落入以预定基准值(例如色相环中的30度)为基准的色相范围(例如大于等于0度且小于等于60度的范围)(S002)。
可见光波形运算部111取得通过在可见光区域拍摄被照明装置30照射了可见光的用户而获得的第2可见光图像(S003)。
红外光波形运算部112取得通过在红外光区域拍摄被红外光光源123照射了红外光的用户而获得的第1红外光图像(S004)。
可见光波形运算部111从所取得的第2可见光图像中,提取作为表示用户的脉搏波的波形的第1可见光波形(S005)。可见光波形运算部111在可见光波形中提取多个作为预定特征点的第1特征点。然后,可见光波形运算部111算出第1心跳间隔时间来作为可见光波形的特征量。另外,可见光波形运算部111使此时的可见光波形的从顶点到底点的斜率作为第1斜率A存储于存储器。
红外光波形运算部112从所取得的第1红外光图像中,提取作为表示用户的脉搏波的波形的第1红外光波形(S006)。红外光波形运算部112在红外光波形中提取多个作为预定特征点的第2特征点。然后,红外光波形运算部112算出第2心跳间隔时间来作为红外光波形的特征量。
然后,相关度运算部113进行峰值点的判定(S007)。具体而言,相关度运算部113针对在可见光波形中提取出的第1特征点,判定是否不存在过剩取得的峰值点。另外,相关度运算部113针对在红外光波形中提取出的第2特征点,判定是否不存在过剩取得的峰值点。此外,后面叙述由相关度运算部113进行的峰值点的判定处理的详细情况。
接着,相关度运算部113运算可见光波形和红外光波形的相关度(S008)。此外,后面叙述由相关度运算部113进行的相关度的运算处理的详细情况。
接着,光源控制部115进行各光源的光量的调整(S009)。光源控制部115根据光量的调整的结果,输出用于控制各光源的光量的控制信号。此外,后面叙述由光源控制部115进行的照明装置30以及红外光光源123的光量的调整处理的详细情况。
接着,在进行了各光源的调整之后,作为步骤S010~S013,反复进行步骤S003~步骤S006的处理。
接着,生物体信息算出部116根据可见光波形的特征量和红外光波形的特征量中的至少一方,算出生物体信息(S014)。
接着,生物体信息算出部116将所算出的生物体信息向提示装置40输出(S015)。
图33是表示本实施方式中的峰值点的过剩取得判定处理的详细情况的流程图。
相关度运算部113算出第1心跳间隔时间的标准差SDRGB(S101)。
接着,相关度运算部113判定标准差SDRGB是否为第4阈值以下(S102)。
相关度运算部113在判定为标准差SDRGB为第4阈值以下的情况下(S102:是),算出第2心跳间隔时间的标准差SDIR(S103)。
然后,相关度运算部113判定标准差SDIR是否为第4阈值以下(S104)。
如此,相关度运算部113通过进行步骤S102和步骤S104中的至少一方,进行判定是否为所算出的标准差SDRGB超过第4阈值、且所算出的标准差SDIR超过所述第4阈值的第2判定。
相关度运算部113在判定为标准差SDIR为第4阈值以下的情况下(S104:是),将“False”的信号发送到光源控制部115(S105)。
另一方面,相关度运算部113在判定为标准差SDRGB超过第4阈值的情况下(S102:否)、或者在判定为标准差SDIR超过第4阈值的情况下(S104:否),算出对应的第1心跳间隔时间与第2心跳间隔时间之间的绝对误差e(S106)。
相关度运算部113判定绝对误差e是否小于-200[ms](S107)。
相关度运算部113在判定为绝对误差e小于-200[ms]的情况下(S107:是),将“False,RGB”的信号发送到光源控制部115(S109)。
另一方面,相关度运算部113在判定为绝对误差e为-200[ms]以上的情况下(S107:否),判定绝对误差e是否大于200[ms](S108)。
也就是说,相关度运算部113在第2判定的结果是判定为标准差SDRGB超过第4阈值、且标准差SDIR超过第4阈值的情况下,进行在时间序列上互相对应的第1心跳间隔时间与第2心跳间隔时间的绝对误差e(时间差)是否小于第5阈值的第3判定、以及时间差是否大于比第5阈值大的第6阈值的第4判定。
相关度运算部113在判定为绝对误差e大于200[ms]的情况下(S108:是),将“False,IR”的信号发送到光源控制部115(S110)。
相关度运算部113在判定为绝对误差e为200[ms]以下的情况下(S108:否),将“False,Both”的信号发送到光源控制部115(S111)。
图34是表示本实施方式中的相关度的运算处理的详细情况的流程图。
首先,相关度运算部113运算多个第1心跳间隔时间与多个第2心跳间隔时间的相关度(S201)。
相关度运算部113判定通过进行运算而得到的相关度是否大于第2阈值(S202)。也就是说,相关度运算部113进行判定所运算出的相关度是否为第2阈值以上的第1判定。
相关度运算部113在判定为相关度大于第2阈值的情况下(S202:是),将“True”的信号发送到光源控制部115(S203)。
另一方面,相关度运算部113在判定为相关度为第2阈值以下的情况下(S202:否),将“False”的信号发送到光源控制部115(S204)。
图35是表示本实施方式中的光量的调整处理的详细情况的流程图。
光源控制部115判定从相关度运算部113接收到的信号是“True”、“False”、“False,IR”、“False,RGB”和“False,Both”的信号的哪个信号(S301)。
光源控制部115在所接收到的信号是“True”的信号的情况下,使可见光的光量减少,并且使红外光的光量增加(S302)。
光源控制部115在所接收到的信号是“False”或“False,IR”的信号的情况下,使红外光的光量增加(S303)。也就是说,光源控制部115在通过相关度运算部113判定为绝对误差e大于第6阈值的情况下,由于接收“False,IR”的信号,因此将使红外光光源123的红外光的光量增加的控制信号作为红外光控制信号输出到红外光光源123。
光源控制部115在通过步骤S302或步骤S303使红外光的光量增加了的情况下,判定红外光波形的第2斜率是否等于存储器所存储的第1斜率A(S304)。另外,光源控制部115也可以进一步在通过步骤S302使可见光的光量减少了的情况下,判定可见光的光量是否为0。
光源控制部115如果判定为第2斜率等于第1斜率(S304:是),则结束光量的调整处理。另外,光源控制部115也可以进一步如果判定为可见光的光量为0,则结束光量的调整处理。
光源控制部115在所接收到的信号是“False,RGB”的情况下,判定标准差SDIR是否为第4阈值以下(S305)。也就是说,光源控制部115在通过相关度运算部113判定为绝对误差e小于第5阈值的情况下,进行判定标准差SDIR是否为第4阈值以下的第5判定。
光源控制部115在判定为标准差SDIR为第4阈值以下的情况下(S305:是),进行步骤S302的处理。也就是说,光源控制部115在通过相关度运算部113判定为标准差SDIR为第4阈值以下的情况下,将使照明装置30的可见光的光量减少的可见光控制信号输出到照明装置30,并且将使红外光光源123的红外光的光量增加的红外光控制信号输出到红外光光源123。
光源控制部115在所接收到的信号是“False,Both”的情况下,或者在判定为标准差SDIR大于第4阈值的情况下(S305:否),使可见光的光量增加并回到初始的光量,并且使红外光的光量减少并使红外光光源123关闭(S306)。也就是说,光源控制部115在通过相关度运算部113判定为绝对误差e为第5阈值以上且第6阈值以下的情况下,由于接收“False,Both”的信号,因此将使照明装置30的可见光的光量增加的控制信号作为可见光控制信号输出到照明装置30,并且将使红外光光源123的红外光的光量减少的控制信号作为红外光控制信号输出到红外光光源123。或者,光源控制部115在通过相关度运算部113判定为标准差SDIR大于第4阈值的情况下,将使照明装置30的可见光的光量增加的控制信号作为可见光控制信号输出到照明装置30,并且将使红外光光源123的红外光的光量减少的控制信号作为红外光控制信号输出到红外光光源123。
光源控制部115在通过步骤S304判定为第2斜率与第1斜率A不同的情况下(S304:否)或者步骤S306已结束的情况下,返回到步骤S001。也就是说,脉搏波计测装置10在该情况下,当即使进行了照明装置30的可见光的光量以及红外光光源123的红外线的光量的变更也不满足步骤S304的判定条件的情况下,返回到步骤S001,反复进行可见光图像的取得、红外光图像的取得、可见光波形的提取、红外光波形的提取以及相关度的运算,根据反复进行的相关度的运算的结果,进行红外光控制信号的输出以及可见光控制信号的输出。也就是说,反复进行可见光图像的取得、红外光图像的取得、可见光波形的提取、红外光波形的提取、相关度的运算、红外光控制信号的输出以及可见光控制信号的输出,直到满足步骤S304的判定条件为止。此外,将通过第2次以后的处理而反复取得的可见光图像设为第3可见光图像,将通过第2次以后的处理而反复取得的红外光图像设为第2红外光图像,将通过第2次以后的处理而反复提取出的可见光波形设为第2可见光波形,将通过第2次以后的处理而反复提取出的红外光波形设为第2红外光波形。
例如,第2可见光图像是在输出可见光控制信号之前由可见光拍摄部122拍摄到的可见光图像,第3可见光图像是在输出了可见光控制信号之后由可见光拍摄部122拍摄到的可见光图像。另外,第1红外光图像是在输出红外光控制信号之前由红外光拍摄部124拍摄到的红外光图像,第2红外光图像是在输出了红外光控制信号之后由红外光拍摄部124拍摄到的红外光图像。
[1-4.效果等]
在本实施方式涉及的脉搏波计测装置10中,根据红外光光源123所发出的红外光的光量控制,对照明装置30使用预先确定的控制方案,控制照明装置30所照射的光量。因此,例如即使在利用市面上销售的照明装置的情况下,也能够适当地进行可见光的光量的调整和红外光光量的调整,能够高精度地算出生物体信息。
另外,在脉搏波计测装置10中,根据第1可见光波形的特征量和第1红外光波形的特征量中的至少一方来算出第2生物体信息,并将算出的第2生物体信息进行输出。
因此,能够根据在调整可见光或者红外光的光量之前取得的、第1可见光波形的特征量和第1红外光波形的特征量中的至少一方来算出第2生物体信息,并将算出的第2生物体信息进行输出。
另外,根据脉搏波计测装置10,在照明装置30是根据以开启关闭的单级调整光量的第2控制方案来调光的装置的情况下,将使红外光光源所发出的红外光的光量增大预先确定的第1变化量的控制信号,作为红外光控制信号输出到红外光光源123,将使照明装置30关闭的控制信号,作为可见光控制信号输出到照明装置30。
因此,即使照明装置30是单级地调整光量的照明装置,也能够适当地进行可见光的光量的调整和红外光的光量的调整。
另外,根据脉搏波计测装置10,在照明装置30是根据以第1可见光光量和比第1可见光光量小的第2可见光光量的两级调整光量的第3控制方案来调光的装置的情况下,向红外光光源123输出将红外光光源123所发出的红外光的光量从第1红外光光量控制为增大了预先确定的第2变化量的第2红外光光量的控制信号来作为红外光控制信号,将使照明装置30从第1可见光光量变化为第2可见光光量的控制信号,作为可见光控制信号输出到照明装置30,根据从第1红外光图像以及第2红外光图像中获得的红外光的辉度变化、和从第2可见光图像以及第3可见光图像中获得的可见光的辉度变化,决定红外光的光量的第3变化量,向所述红外光光源输出从第2红外光光量控制为增大了所决定的第3变化量的第3红外光光量的控制信号来作为红外光控制信号,将使照明装置30关闭的第二级的控制信号,作为可见光控制信号输出到照明装置30。
由此,脉搏波计测装置10在照明装置30是根据第3控制方案来调光的装置的情况下,在第一级的调光中取得可见光的辉度的减少量,根据取得的减少量,使红外光光源的光量增加,由此,能够更有效地取得红外光波形。
另外,根据脉搏波计测装置10,在照明装置30是根据无级地调整光量的第4控制方案来调光的装置的情况下,在运算出的相关度大于等于预定阈值的情况下,在红外光控制信号的输出中,将使红外光光源的红外光的光量增加的控制信号作为红外光控制信号输出到红外光光源,在可见光控制信号的输出中,将使照明装置30的可见光的光量减少的控制信号作为可见光控制信号输出到照明装置30,在第3可见光图像的取得、第2可见光波形的提取、第2红外光图像的取得以及第2红外光波形的提取之后,进一步反复进行相关度的运算,在照明装置的光量变为小于等于第2阈值、并且反复进行相关度的运算的结果为相关度变为大于等于预定阈值的情况下,将使照明装置30关闭的控制信号作为可见光控制信号输出到照明装置30。
由此,与使可见光线性减少直到关闭为止的情况相比,能够更快地使其关闭,能够进行向舒适睡眠的引导。
另外,根据脉搏波计测装置10,在照明装置30是根据无级地调整光量的第4控制方案来调光的装置的情况下,执行通常处理和短时间处理中的某一处理,(ⅰ)所述通常处理为,在运算出的相关度大于等于预定阈值的情况下,在红外光控制信号的输出中,将使红外光光源123的红外光的光量以第1速度增加的控制信号作为红外光控制信号输出到红外光光源,在可见光控制信号的输出中,将使照明装置的可见光的光量以第2速度减少的控制信号作为可见光控制信号输出到照明装置,在第3可见光图像的取得、第2可见光波形的提取、第2红外光图像的取得以及第2红外光波形的提取之后,进一步反复进行相关度的运算,(ⅱ)所述短时间处理为,在运算出的相关度大于等于预定阈值的情况下,在红外光控制信号的输出中,将使红外光光源的红外光的光量以第1速度的两倍以上的第3速度增加的控制信号,作为红外光控制信号输出到红外光光源,在可见光控制信号的输出中,将使照明装置的可见光的光量以第2速度的两倍以上的第4速度减少的控制信号,作为可见光控制信号输出到照明装置,在第3可见光图像的取得、第2可见光波形的提取、第2红外光图像的取得以及第2红外光波形的提取之后,进一步反复进行相关度的运算。
因此,能够缩短切换控制所花费的时间。
另外,根据脉搏波计测装置10,在照明装置30是根据对光量以及色温进行调整的第1控制方案来调光的装置的情况下,将使照明装置30的色温调整为预先确定的温度的控制信号作为可见光控制信号输出到照明装置30,使用根据在可见光控制信号的输出之后取得的第3可见光图像而获得的色相,提取第2可见光波形,另外,在脉搏波计测装置10中,在可见光控制信号输出后,取得通过在可见光区域拍摄被照明装置30照射了色温为所述预先确定的温度的可见光的用户而获得的第3可见光图像,根据取得的第3可见光图像的色相,提取作为表示用户的脉搏波的波形的色相波形,将调整照明装置的色温以使得提取出的色相波形落入以预定基准值为基准的范围的控制信号,作为可见光控制信号输出到照明装置30。
由此,通过变更照明装置的色温以使得用户的皮肤表面的色调从白变为微红、尤其是色相H的值例如变到30度附近,能够应对更严重的体动和/或环境噪声,稳健地取得可见光波形。
另外,根据脉搏波计测装置10,运算从拍摄了用户的脉搏波而得到的可见光图像中取得的可见光波形与从拍摄了同一脉搏波而得到的红外光图像中取得的红外光波形的相关度,根据相关度来控制红外光光源发出的红外光的光量。因此,能够适当地进行红外光光量的调整,即使在睡眠期间等昏暗状态下,也能够取得用户的生物体信息。由此,能够不设置与人接触的生物体传感器地,以非接触方式进行睡眠时的生物体监视等。
另外,根据脉搏波计测装置10,相关度运算部113通过比较从可见光波形算出的第1心跳间隔时间和从红外光波形算出的第2心跳间隔时间,运算相关度。因此,能够容易地运算可见光波形与红外光波形之间的相关度。
另外,根据脉搏波计测装置10,对调整了红外光光源的光量之后的红外光波形的第2斜率与存储器所存储的第1斜率A进行比较,因此能够判定红外光光源的光量是否成为了适当的光量。
另外,根据脉搏波计测装置10,在绝对误差e超过第3阈值的情况下,将被判定为超过第3阈值的第1心跳间隔时间以及第2心跳间隔时间中的、成为预定特征点较多一方的波形中的心跳间隔时间的运算基准的预定特征点从该心跳间隔时间的运算对象中排除。因此,能够删除过剩取得的峰值点,能够求出适当值的第1心跳间隔时间或第2心跳间隔时间。
另外,根据脉搏波计测装置10,根据所运算出的相关度和从可见光波形以及红外光波形提取预定特征点的提取结果,决定为使可见光光源以及红外光光源的光量分别增加、减少、维持的哪一方,根据决定结果将控制信号输出到可见光光源以及红外光光源。由此,能够适当地调整可见光光源以及红外光光源的光量。
另外,根据脉搏波计测装置10,不从在通过控制信号控制照明装置30或红外光光源123的光量的期间所取得的可见光波形或红外光波形中提取预定特征点。因此,能够适当地提取预定特征点,能够高精度地算出生物体信息。
另外,根据脉搏波计测装置10,使用于控制照明装置30的可见光的光量的控制信号或用于控制红外光光源的红外光的光量的控制信号的输出待机,直到在可见光波形和红外光波形的各波形中,在第2预定期间内从该波形中提取到连续的两个以上的预定特征点为止。因此,能够适当地提取预定特征点,能够高精度地算出生物体信息。
[1-5.变形例]
[1-5-1.变形例1]
在上述实施方式中,控制方案取得部114通过根据由用户输入的照明装置30的货号,从脉搏波计测装置10的储存器103所存储的多个控制方案中选择与该照明装置30对应的控制方案,由此取得相应控制方案,但不限于此。控制方案取得部114例如也可以通过利用红外线与照明装置30进行通信来读取该照明装置30的控制方案。具体而言,脉搏波计测装置10也可以通过利用红外线等发送多个控制方案所包含的控制信号,在控制方案取得部114中根据照明装置30的光量变化来判定照明装置30对所发送的信号的反应,由此,确定与该照明装置30对应的控制方案。由此,即使不受理由用户输入的货号,也能够自动地确定照明装置30的控制方案。
具体而言,脉搏波计测装置10也可以进行图36所示的工作。
图36是变形例中的控制模式识别处理的流程图。
在脉搏波计测装置10中,光源控制部115对照明装置30发送预定的控制信号(S401)。光源控制部115将多种控制信号发送给照明装置30。例如,光源控制部115发送“0000”到“1111”的16比特的信号。
接着,可见光波形运算部111从所取得的可见光图像中取得照明装置30的光量变化(S402)。
然后,光源控制部115根据可见光波形运算部111所取得的光量变化,进行在预先所存储的多个控制方案中选择最佳的控制方案的匹配处理(S403)。
光源控制部115进行匹配处理直到通过匹配处理识别到最佳的控制方案(S404)。
[1-5-2.变形例2]
在上述实施方式中,用户在切换控制中,能够选择是重视脉搏波取得的准确性还是重视到照明装置30关闭为止的速度,但不限于此。例如,也可以根据用户的使用次数,自动地改变光源的控制方法。
具体而言,也可以为,在进行了初始设定或者一次设定后,使用了10次左右的情况下,则重视准确性,使得能够一边仔细地切换可见光和红外光的光源,一边取得准确的脉搏波。
另外,另一方面,考虑进行一次设定后的数次,环境和/或条件等几乎不变,因此也可以事先存储光源的切换控制中的可见光以及红外光的光量,在所存储的光量的周边微调整,由此进行重视速度的控制(也就是说,基于时短模式的切换控制)。
如此,通过最低限度地在必要时重视准确性并仔细比较脉搏波,能够不打搅用户的睡眠而准确地进行生物体感测。
如上,本公开能够针对外部的照明装置获取其控制手段,进行与附带的红外光光源的切换,因此,用户只要在有照明的位置则不论在哪,都能够进行睡眠期间的生物体感测。
[1-5-3.变形例3]
虽然在上述实施方式中没有特别提及,但照明装置30在从光量0启动的情况下,也可以控制成使光量成为预先设定的初始值。由此,在存在用户喜好的照度或对用户而言易于取得脉搏波的照度的情况下,能够立即成为该状态。
[1-5-4.变形例4]
另外,也可以对能够通过可见光波形运算部111取得可见光波形、且可见光波形的顶点-底点间的斜率最大时的、照明装置30的光量进行记录,每当用户进入房间时,控制成使照明装置30的光量成为所记录的值。
[1-5-5.变形例5]
另外,虽然在上述实施方式中没有特别提及,但红外光存在若持续向人的眼睛照射则视力会下降的可能性。因此,红外光光源123也可以将ROI限定为用户的脸中的除人的眼睛之外的区域来照射红外光。红外光光源123例如在向用户的脸照射光的情况下,特别是在脸颊区域容易取得脉搏波。因此,光源控制部115也可以确定例如用户的眼睛下方的部分,使红外光光源123向该部分照射红外光。光源控制部115例如通过对由红外光拍摄部124拍摄到的图像进行分析来进行用户的脸部识别,使用脸部识别的结果来确定用户的眼睛下方的部分。另外,光源控制部115也可以在从红外光光源123照射的红外光的功率为预定阈值以上、且经过了预定的时间以上的情况下,调整红外光光源123的光量以使红外光的光量被抑制为小于预定光量。另外,如前所述,在红外光的情况下,会对用户的视力产生影响,因此也可以根据用户的脸部识别来确定脸颊位置,缩小照射区域以使得向用户的脸颊照射红外光。
[1-5-6.变形例6]
另外,在上述实施方式中,脉搏波计测装置10中的脉搏波运算装置100内置于脉搏波计测装置10,但不限于此。例如,脉搏波运算装置100也可以作为外部的服务器装置来实现,也可以通过便携终端200来实现,还可以通过PC等信息终端来实现。也就是说,在该情况下,只要是能够从可见光拍摄部122以及红外光拍摄部124读取所拍摄到的图像、并且能够控制照明装置30以及红外光光源123的光量的结构,脉搏波运算装置100可以通过任何装置来实现。
[1-5-7.变形例7]
另外,脉搏波计测装置等所包含的各构成要素可以是电路。这些电路既可以作为整体构成一个电路,也可以分别是不同的电路。另外,这些电路分别既可以是通用的电路,也可以是专用的电路。也就是说,在上述各实施方式中,各构成要素也可以通过由专用的硬件构成或执行与各构成要素相适合的软件程序来实现。
另外,各构成要素也可以通过CPU或处理器等程序执行部读出硬盘或半导体存储器等记录介质所记录的软件程序并执行来实现。在此,实现上述各实施方式的显示控制方法等的软件是如下这样的程序。
即,该程序使计算机执行具备处理器以及存储器的脉搏波计测装置所执行的脉搏波计测方法,所述脉搏波计测方法包括:从设置于所述脉搏波计测装置的外部的照明装置,取得规定第1对应关系的第1控制方案,所述第1对应关系表示与多个指示分别对应的所述照明装置所输出的可见光的色温,参照所述第1控制方案来决定与所述脉搏波计测装置所保持的表示第1色温的信息对应的第1指示,将所述第1指示输出到所述照明装置,在可见光区域拍摄被所述照明装置照射了具有与所述第1指示对应的色温的可见光的用户,取得多个第1可见光图像,根据所述多个第1可见光图像来运算多个第1色相,从所述多个第1色相提取第1色相波形,在所述第1色相波形的振幅不属于预定色相范围的情况下,参照所述第1控制方案来决定与不同于所述第1色温的第2色温对应的第2指示,将所述第2指示输出到所述照明装置,在所述可见光区域拍摄被所述照明装置照射了具有与所述第2指示对应的色温的可见光的所述用户,取得多个第2可见光图像,根据所述多个第2可见光图像来运算多个第2色相,从所述多个第2色相提取第2色相波形,在所述第2色相波形的振幅属于所述预定色相范围的情况下,进行第1处理,所述第1处理包括:取得多个第1红外光图像,所述多个第1红外光图像是通过在红外光区域拍摄被红外光光源照射了红外光的所述用户而获得的图像,从所取得的所述多个第2可见光图像中提取第1可见光波形,所述第1可见光波形是表示所述用户的脉搏波的波形,从所取得的所述多个第1红外光图像中提取第1红外光波形,所述第1红外光波形是表示所述用户的脉搏波的波形,运算所提取的所述第1可见光波形与所提取的所述第1红外光波形之间的相关度,根据所述相关度,将控制所述红外光光源所发出的红外光的光量的红外光控制信号输出到所述红外光光源,根据所述相关度,将控制所述照明装置所发出的可见光的光量的可见光控制信号输出到所述照明装置,取得多个第3可见光图像,所述多个第3可见光图像是通过在可见光区域拍摄被所述照明装置照射了基于所述可见光控制信号的可见光的用户而获得的图像,取得多个第2红外光图像,所述多个第2红外光图像是通过在红外光区域拍摄被红外光光源照射了基于所述红外光控制信号的红外光的所述用户而获得的图像,从所取得的所述多个第3可见光图像中提取第2可见光波形,所述第2可见光波形是表示所述用户的脉搏波的波形,从所取得的所述多个第2红外光图像中提取第2红外光波形,所述第2红外光波形是表示所述用户的脉搏波的波形,根据所述第2可见光波形的特征量和所述第2红外光波形的特征量中的至少一方,算出第1生物体信息,将算出的所述第1生物体信息进行输出。
以上,基于实施方式对一个或多个技术方案涉及的脉搏波计测装置等进行了说明,但本公开并不限定于该实施方式。在不脱离本公开的主旨的范围内,在本实施方式中实施本领域技术人员能想到的各种变形而得到的方式、组合不同实施方式中的构成要素而构成的方式,也可以包含在一个或多个技术方案的范围内。
例如,在上述实施方式中,也可以取代特定的构成要素而由另外的构成要素来执行特定的构成要素所执行的处理。另外,也可以变更多个处理的顺序,也可以并行地执行多个处理。
本公开作为能够高精度地算出生物体信息的脉搏波计测装置等而有用。

Claims (11)

1.一种脉搏波计测装置,其具备处理器,
所述处理器,
从设置于所述脉搏波计测装置的外部的照明装置,取得规定第1对应关系的第1控制方案,所述第1对应关系表示与多个指示分别对应的所述照明装置所输出的可见光的色温,
参照所述第1控制方案来决定与所述脉搏波计测装置所保持的表示第1色温的信息对应的第1指示,
将所述第1指示输出到所述照明装置,
在可见光区域拍摄被所述照明装置照射了具有与所述第1指示对应的色温的可见光的用户,取得多个第1可见光图像,
根据所述多个第1可见光图像来运算多个第1色相,从所述多个第1色相提取第1色相波形,
在所述第1色相波形的振幅不属于预定色相范围的情况下,参照所述第1控制方案来决定与不同于所述第1色温的第2色温对应的第2指示,将所述第2指示输出到所述照明装置,
在所述可见光区域拍摄被所述照明装置照射了具有与所述第2指示对应的色温的可见光的所述用户,取得多个第2可见光图像,
根据所述多个第2可见光图像来运算多个第2色相,从所述多个第2色相提取第2色相波形,在所述第2色相波形的振幅属于所述预定色相范围的情况下,进行第1处理,
所述第1处理包括:
取得多个第1红外光图像,所述多个第1红外光图像是通过在红外光区域拍摄被红外光光源照射了红外光的所述用户而获得的图像,
从所取得的所述多个第2可见光图像中提取第1可见光波形,所述第1可见光波形是表示所述用户的脉搏波的波形,
从所取得的所述多个第1红外光图像中提取第1红外光波形,所述第1红外光波形是表示所述用户的脉搏波的波形,
运算所提取的所述第1可见光波形与所提取的所述第1红外光波形之间的相关度,
根据所述相关度,将控制所述红外光光源所发出的红外光的光量的红外光控制信号输出到所述红外光光源,
根据所述相关度,将控制所述照明装置所发出的可见光的光量的可见光控制信号输出到所述照明装置,
取得多个第3可见光图像,所述多个第3可见光图像是通过在可见光区域拍摄被所述照明装置照射了基于所述可见光控制信号的可见光的用户而获得的图像,
取得多个第2红外光图像,所述多个第2红外光图像是通过在红外光区域拍摄被红外光光源照射了基于所述红外光控制信号的红外光的所述用户而获得的图像,
从所取得的所述多个第3可见光图像中提取第2可见光波形,所述第2可见光波形是表示所述用户的脉搏波的波形,
从所取得的所述多个第2红外光图像中提取第2红外光波形,所述第2红外光波形是表示所述用户的脉搏波的波形,
根据所述第2可见光波形的特征量和所述第2红外光波形的特征量中的至少一方,算出第1生物体信息,
将算出的所述第1生物体信息进行输出。
2.根据权利要求1所述的脉搏波计测装置,
所述预定色相范围是色相大于等于0度且小于等于60度的范围。
3.根据权利要求2所述的脉搏波计测装置,
所述预定色相范围是色相以30度为基准的色相范围。
4.根据权利要求1至3中任一项所述的脉搏波计测装置,
所述处理器在所述相关度的运算中,
(1)将所述第1可见光波形分割成以第1单位时间为单位的多个第1单位波形,提取所述多个第1单位波形所包含的多个所述第1单位时间内的多个第1峰值点,所述多个第1峰值点是所述多个第1单位波形所包含的多个第1最大值点或者所述多个第1单位波形所包含的多个第1最小值点,所述第1单位时间是作为脉搏波的周期的脉搏波周期,
(2)将所述第1红外光波形分割成以第2单位时间为单位的多个第2单位波形,提取所述多个第2单位波形所包含的多个所述第2单位时间内的多个第2峰值点,所述多个第2峰值点是所述多个第2单位波形所包含的多个第2最大值点或者所述多个第2单位波形所包含的多个第2最小值点,所述第2单位时间是所述脉搏波周期,
(3)针对所提取出的所述多个第1峰值点的各第1峰值点,算出该第1峰值点的第1时刻和在时间序列上与该第1峰值点相邻的其他第1峰值点的第2时刻之间的时间间隔即第1心跳间隔时间,由此算出多个第1心跳间隔时间,
(4)针对所提取出的所述多个第2峰值点的各第2峰值点,算出该第2峰值点的第3时刻和在时间序列上与该第2峰值点相邻的其他第2峰值点的第4时刻之间的时间间隔即第2心跳间隔时间,由此算出多个第2心跳间隔时间,
使用以下的(式1),运算第1相关系数来作为所述相关度,
Figure FDA0003292277630000031
ρ1:第1相关系数,
σ12:所述多个第1心跳间隔时间和所述多个第2心跳间隔时间的协方差,
σ1:所述多个第1心跳间隔时间的标准差即第1标准差,
σ2:所述多个第2心跳间隔时间的标准差即第2标准差。
5.根据权利要求1至3中任一项所述的脉搏波计测装置,
所述处理器,
根据所述第1可见光波形的特征量和所述第1红外光波形的特征量中的至少一方,算出第2生物体信息,
将算出的所述第2生物体信息进行输出。
6.根据权利要求1至3中任一项所述的脉搏波计测装置,
所述处理器,
在所述照明装置进一步是根据以开启关闭的单级调整光量的第2控制方案来调光的装置的情况下,
在所述红外光控制信号的输出中,将使所述红外光光源所发出的红外光的光量增大预先确定的第1变化量的控制信号,作为所述红外光控制信号输出到所述红外光光源,
在所述可见光控制信号的输出中,将使所述照明装置关闭的控制信号,作为所述可见光控制信号输出到所述照明装置。
7.根据权利要求1至3中任一项所述的脉搏波计测装置,
所述处理器,
在所述照明装置进一步是根据以第1可见光光量和比所述第1可见光光量小的第2可见光光量的两级调整光量的第3控制方案来调光的装置的情况下,
在所述红外光控制信号的输出中,向所述红外光光源输出将所述红外光光源所发出的红外光的光量从第1红外光光量控制为增大了预先确定的第2变化量的第2红外光光量的控制信号来作为所述红外光控制信号,
将使所述照明装置从所述第1可见光光量变化为所述第2可见光光量的控制信号,作为所述可见光控制信号输出到所述照明装置,
根据从所述第1红外光图像以及第2红外光图像中获得的红外光的辉度变化、和从所述第2可见光图像以及第3可见光图像中获得的可见光的辉度变化,决定所述红外光的光量的第3变化量,
向所述红外光光源输出从所述第2红外光光量控制为增大了所决定的所述第3变化量的第3红外光光量的控制信号来作为所述红外光控制信号,
将使所述照明装置关闭的第二级的控制信号,作为所述可见光控制信号输出到所述照明装置。
8.根据权利要求1至3中任一项所述的脉搏波计测装置,
所述处理器,
在所述照明装置进一步是根据无级地调整光量的第4控制方案来调光的装置的情况下,
在运算出的所述相关度大于等于预定阈值的情况下,
在所述红外光控制信号的输出中,将使所述红外光光源的红外光的光量增加的控制信号作为所述红外光控制信号输出到所述红外光光源,
在所述可见光控制信号的输出中,将使所述照明装置的可见光的光量减少的控制信号作为所述可见光控制信号输出到所述照明装置,
在所述第3可见光图像的取得、所述第2可见光波形的提取、所述第2红外光图像的取得以及所述第2红外光波形的提取之后,进一步反复进行所述相关度的运算,
在所述照明装置的光量变为小于等于第2阈值、并且反复进行所述相关度的运算的结果为所述相关度变为大于等于所述预定阈值的情况下,将使所述照明装置关闭的控制信号作为所述可见光控制信号输出到所述照明装置。
9.根据权利要求1至3中任一项所述的脉搏波计测装置,
所述处理器,
在所述照明装置是根据无级地调整光量的第4控制方案来调光的装置的情况下,执行通常处理和短时间处理中的某一处理,
(ⅰ)所述通常处理为,
在运算出的所述相关度大于等于预定阈值的情况下,
在所述红外光控制信号的输出中,将使所述红外光光源的红外光的光量以第1速度增加的控制信号作为所述红外光控制信号输出到所述红外光光源,
在所述可见光控制信号的输出中,将使所述照明装置的可见光的光量以第2速度减少的控制信号作为所述可见光控制信号输出到所述照明装置,
在所述第3可见光图像的取得、所述第2可见光波形的提取、所述第2红外光图像的取得以及所述第2红外光波形的提取之后,进一步反复进行所述相关度的运算,
(ⅱ)所述短时间处理为,
在运算出的所述相关度大于等于预定阈值的情况下,
在所述红外光控制信号的输出中,将使所述红外光光源的红外光的光量以所述第1速度的两倍以上的第3速度增加的控制信号,作为所述红外光控制信号输出到所述红外光光源,
在所述可见光控制信号的输出中,将使所述照明装置的可见光的光量以所述第2速度的两倍以上的第4速度减少的控制信号,作为所述可见光控制信号输出到所述照明装置,
在所述第3可见光图像的取得、所述第2可见光波形的提取、所述第2红外光图像的取得以及所述第2红外光波形的提取之后,进一步反复进行所述相关度的运算。
10.一种脉搏波计测方法,是脉搏波计测装置的脉搏波计测方法,包括:
从设置于所述脉搏波计测装置的外部的照明装置,取得规定第1对应关系的第1控制方案,所述第1对应关系表示与多个指示分别对应的所述照明装置所输出的可见光的色温,
参照所述第1控制方案来决定与所述脉搏波计测装置所保持的表示第1色温的信息对应的第1指示,
将所述第1指示输出到所述照明装置,
在可见光区域拍摄被所述照明装置照射了具有与所述第1指示对应的色温的可见光的用户,取得多个第1可见光图像,
根据所述多个第1可见光图像来运算多个第1色相,从所述多个第1色相提取第1色相波形,
在所述第1色相波形的振幅不属于预定色相范围的情况下,参照所述第1控制方案来决定与不同于所述第1色温的第2色温对应的第2指示,将所述第2指示输出到所述照明装置,
在所述可见光区域拍摄被所述照明装置照射了具有与所述第2指示对应的色温的可见光的所述用户,取得多个第2可见光图像,
根据所述多个第2可见光图像来运算多个第2色相,从所述多个第2色相提取第2色相波形,在所述第2色相波形的振幅属于所述预定色相范围的情况下,进行第1处理,
所述第1处理包括:
取得多个第1红外光图像,所述多个第1红外光图像是通过在红外光区域拍摄被红外光光源照射了红外光的所述用户而获得的图像,
从所取得的所述多个第2可见光图像中提取第1可见光波形,所述第1可见光波形是表示所述用户的脉搏波的波形,
从所取得的所述多个第1红外光图像中提取第1红外光波形,所述第1红外光波形是表示所述用户的脉搏波的波形,
运算所提取的所述第1可见光波形与所提取的所述第1红外光波形之间的相关度,
根据所述相关度,将控制所述红外光光源所发出的红外光的光量的红外光控制信号输出到所述红外光光源,
根据所述相关度,将控制所述照明装置所发出的可见光的光量的可见光控制信号输出到所述照明装置,
取得多个第3可见光图像,所述多个第3可见光图像是通过在可见光区域拍摄被所述照明装置照射了基于所述可见光控制信号的可见光的用户而获得的图像,
取得多个第2红外光图像,所述多个第2红外光图像是通过在红外光区域拍摄被红外光光源照射了基于所述红外光控制信号的红外光的所述用户而获得的图像,
从所取得的所述多个第3可见光图像中提取第2可见光波形,所述第2可见光波形是表示所述用户的脉搏波的波形,
从所取得的所述多个第2红外光图像中提取第2红外光波形,所述第2红外光波形是表示所述用户的脉搏波的波形,
根据所述第2可见光波形的特征量和所述第2红外光波形的特征量中的至少一方,算出第1生物体信息,
将算出的所述第1生物体信息进行输出。
11.一种记录介质,是非易失性且计算机可读取的记录介质,存储有用于使具备处理器的脉搏波计测装置执行处理的控制程序,
所述处理包括:
从设置于所述脉搏波计测装置的外部的照明装置,取得规定第1对应关系的第1控制方案,所述第1对应关系表示与多个指示分别对应的所述照明装置所输出的可见光的色温,
参照所述第1控制方案来决定与所述脉搏波计测装置所保持的表示第1色温的信息对应的第1指示,
将所述第1指示输出到所述照明装置,
在可见光区域拍摄被所述照明装置照射了具有与所述第1指示对应的色温的可见光的用户,取得多个第1可见光图像,
根据所述多个第1可见光图像来运算多个第1色相,从所述多个第1色相提取第1色相波形,
在所述第1色相波形的振幅不属于预定色相范围的情况下,参照所述第1控制方案来决定与不同于所述第1色温的第2色温对应的第2指示,将所述第2指示输出到所述照明装置,
在所述可见光区域拍摄被所述照明装置照射了具有与所述第2指示对应的色温的可见光的所述用户,取得多个第2可见光图像,
根据所述多个第2可见光图像来运算多个第2色相,从所述多个第2色相提取第2色相波形,在所述第2色相波形的振幅属于所述预定色相范围的情况下,进行第1处理,
所述第1处理包括:
取得多个第1红外光图像,所述多个第1红外光图像是通过在红外光区域拍摄被红外光光源照射了红外光的所述用户而获得的图像,
从所取得的所述多个第2可见光图像中提取第1可见光波形,所述第1可见光波形是表示所述用户的脉搏波的波形,
从所取得的所述多个第1红外光图像中提取第1红外光波形,所述第1红外光波形是表示所述用户的脉搏波的波形,
运算所提取的所述第1可见光波形与所提取的所述第1红外光波形之间的相关度,
根据所述相关度,将控制所述红外光光源所发出的红外光的光量的红外光控制信号输出到所述红外光光源,
根据所述相关度,将控制所述照明装置所发出的可见光的光量的可见光控制信号输出到所述照明装置,
取得多个第3可见光图像,所述多个第3可见光图像是通过在可见光区域拍摄被所述照明装置照射了基于所述可见光控制信号的可见光的用户而获得的图像,
取得多个第2红外光图像,所述多个第2红外光图像是通过在红外光区域拍摄被红外光光源照射了基于所述红外光控制信号的红外光的所述用户而获得的图像,
从所取得的所述多个第3可见光图像中提取第2可见光波形,所述第2可见光波形是表示所述用户的脉搏波的波形,
从所取得的所述多个第2红外光图像中提取第2红外光波形,所述第2红外光波形是表示所述用户的脉搏波的波形,
根据所述第2可见光波形的特征量和所述第2红外光波形的特征量中的至少一方,算出第1生物体信息,
将算出的所述第1生物体信息进行输出。
CN201710748536.5A 2016-09-23 2017-08-28 脉搏波计测装置、脉搏波计测方法、程序以及记录介质 Active CN107865644B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2016-185686 2016-09-23
JP2016185686 2016-09-23
JP2017102800A JP6846626B2 (ja) 2016-09-23 2017-05-24 脈波計測装置および脈波計測方法
JP2017-102800 2017-05-24

Publications (2)

Publication Number Publication Date
CN107865644A CN107865644A (zh) 2018-04-03
CN107865644B true CN107865644B (zh) 2021-12-03

Family

ID=61688100

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710748536.5A Active CN107865644B (zh) 2016-09-23 2017-08-28 脉搏波计测装置、脉搏波计测方法、程序以及记录介质

Country Status (2)

Country Link
US (1) US20180085014A1 (zh)
CN (1) CN107865644B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10002474B1 (en) * 2016-07-12 2018-06-19 United Services Automobile Association (Usaa) Access control based on rhythmic pattern repetition
CN112384135A (zh) * 2018-06-28 2021-02-19 株式会社村上开明堂 心搏检测装置、心搏检测方法以及程序
US20200297216A1 (en) * 2019-03-20 2020-09-24 Mediatek Inc. Physiological monitoring system and control method for a vital-sign detection device
JP7115458B2 (ja) * 2019-10-30 2022-08-09 カシオ計算機株式会社 電子装置、電子装置の作動方法及び電子装置の制御プログラム
CN111432135B (zh) * 2020-03-31 2022-03-22 北京嘀嘀无限科技发展有限公司 监控设备、方法、装置及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007151579A (ja) * 2005-11-30 2007-06-21 Denso Corp 生体状態検出装置
CN104247574A (zh) * 2013-03-06 2014-12-24 优志旺电机株式会社 光源装置及投影机
CN104702924A (zh) * 2013-12-05 2015-06-10 全视技术有限公司 捕获可见光和红外光图像的图像传感器及关联系统和方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04106748U (ja) * 1991-02-28 1992-09-14 株式会社島津製作所 光生体計測装置
US6774367B2 (en) * 2002-08-14 2004-08-10 Ford Global Technologies, Llc Active night vision system for vehicles employing anti-blinding scheme
GB0327755D0 (en) * 2003-12-01 2003-12-31 Elliott Stephen R Optical-sensor chip
CN100450437C (zh) * 2005-03-10 2009-01-14 深圳迈瑞生物医疗电子股份有限公司 低灌注下测量血氧的方法
JP5641752B2 (ja) * 2010-03-16 2014-12-17 キヤノン株式会社 眼科撮影装置および眼科撮影方法
JP5808620B2 (ja) * 2011-09-06 2015-11-10 株式会社小糸製作所 車両用前照灯装置および車両用前照灯制御システム
US9962095B2 (en) * 2013-04-23 2018-05-08 Microsoft Technology Licensing, Llc Optical heartrate tracking
WO2016061041A1 (en) * 2014-10-14 2016-04-21 East Carolina University Methods, systems and computer program products for determining hemodynamic status parameters using signals derived from multispectral blood flow and perfusion imaging
CN105943014A (zh) * 2016-06-04 2016-09-21 浙江大学 一种基于SoC的穿戴式心率变异性监测设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007151579A (ja) * 2005-11-30 2007-06-21 Denso Corp 生体状態検出装置
CN104247574A (zh) * 2013-03-06 2014-12-24 优志旺电机株式会社 光源装置及投影机
CN104702924A (zh) * 2013-12-05 2015-06-10 全视技术有限公司 捕获可见光和红外光图像的图像传感器及关联系统和方法

Also Published As

Publication number Publication date
US20180085014A1 (en) 2018-03-29
CN107865644A (zh) 2018-04-03

Similar Documents

Publication Publication Date Title
CN107865644B (zh) 脉搏波计测装置、脉搏波计测方法、程序以及记录介质
CN107773225B (zh) 脉搏波计测装置、脉搏波计测方法以及记录介质
JP2018068431A (ja) 脈波演算装置および脈波演算方法
RU2649529C2 (ru) Устройство и способ для получения информации о жизненно важных показателях живого существа
JP6538287B2 (ja) 皮膚検出に対する装置、システム及び方法
US7891814B2 (en) Mental fatigue detecting method and device
US20140285326A1 (en) Combination speaker and light source responsive to state(s) of an organism based on sensor data
US20150297142A1 (en) Device and method for extracting physiological information
US11064895B2 (en) Pulse wave detection device, image analysis device, and biometric information generation system
EP3229676A1 (en) Method and apparatus for physiological monitoring
WO2015169634A1 (en) Device, system and method for extracting physiological information
JP2017505178A5 (zh)
JP6608527B2 (ja) 装置、端末および生体情報システム
US9962837B2 (en) System and method of controlling robot by brain electrical signals
KR20140122849A (ko) 휴대용 기기 이용한 스트레스 체크 및 치유 시스템 및 방법
US20180360329A1 (en) Physiological signal sensor
KR20170014181A (ko) 식품 정보 제공 방법 및 장치
CN110742596A (zh) 用于拍照及生物信息测量的电子设备
CN114126160A (zh) 一种智能灯具的控制方法和控制系统
US20220087547A1 (en) Electronic device, control method for electronic device, and recording medium
JP6846626B2 (ja) 脈波計測装置および脈波計測方法
JP7165886B2 (ja) 脈波計測装置および脈波計測方法
CN115297920A (zh) 环境控制系统和环境控制方法
WO2015170720A1 (ja) 画像認識装置および画像認識方法
US10646158B2 (en) Method of using autonomic nerve fluctuations and system using the same

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant