(本開示の基礎となった知見)
本発明者は、「背景技術」の欄において記載した技術に関し、以下の問題が生じることを見出した。
特許文献1では、暗室で脈波を取得する場合において赤外光源の光量の調整について開示されていないため、暗室かつ非接触による心拍や脈波の計測が難しいという問題がある。
また、特許文献2では、可視光の輝度と赤外光の輝度との比を用いてモードの切り替えを用いているが、暗室における脈波計測に当該モードの切り替えを適用した場合、輝度の比による切り替えでは、容易に脈波を計測できないという問題がある。
そこで、本開示は、暗室において精度よく脈波計測が可能な脈波計測装置等を提供する。
本開示の一態様に係る脈波計測装置は、プロセッサを備える脈波計測装置であって、前記プロセッサは、前記脈波計測装置の外部に設けられた照明装置から、第1対応関係を規定する第1制御パターンを取得し、前記第1対応関係は、複数の指示それぞれに対応する前記照明装置が出力する可視光の色温度を示し、前記脈波計測装置が保持する第1色温度を示す情報に対応する第1指示を、前記第1制御パターンを参照して決定し、前記第1指示を前記照明装置に出力し、前記照明装置により前記第1指示に対応した色温度を有する可視光を照射されたユーザを可視光領域において撮像して複数の第1可視光画像を取得し、前記複数の第1可視光画像から第1の複数の色相を演算し、前記第1の複数の色相から第1色相波形を抽出し、前記第1色相波形の振幅が所定の色相範囲に属さない場合、前記第1色温度と異なる第2色温度に対応する第2指示を、前記第1制御パターンを参照して決定し、前記第2指示を前記照明装置に出力し、前記照明装置により前記第2指示に対応した色温度を有する可視光を照射された前記ユーザを前記可視光領域において撮像して複数の第2可視光画像を取得し、前記複数の第2可視光画像から第2の複数の色相を演算し、前記第2の複数の色相から第2色相波形を抽出し、前記第2色相波形の振幅が前記所定の色相範囲に属する場合、第1処理行い、前記第1処理は、赤外光光源により赤外光を照射された前記ユーザを赤外光領域において撮像することにより得られた複数の第1赤外光画像を取得し、取得した前記複数の第2可視光画像から、前記ユーザの脈波を示す波形である第1可視光波形を抽出し、取得した前記複数の第1赤外光画像から、前記ユーザの脈波を示す波形である第1赤外光波形を抽出し、抽出した前記第1可視光波形と、抽出した前記第1赤外光波形との間の相関度を演算し、前記相関度に応じて、前記赤外光光源が発する赤外光の光量を制御する赤外光制御信号を前記赤外光光源に出力し、前記相関度に応じて、前記照明装置が発する可視光の光量を制御する可視光制御信号を前記照明装置に出力し、前記照明装置により前記可視光制御信号に基づく可視光を照射されたユーザを可視光領域において撮像することにより得られた複数の第3可視光画像を取得し、赤外光光源により前記赤外光制御信号に基づく赤外光を照射された前記ユーザを赤外光領域において撮像することにより得られた複数の第2赤外光画像を取得し、取得した前記複数の第3可視光画像から、前記ユーザの脈波を示す波形である第2可視光波形を抽出し、取得した前記複数の第2赤外光画像から、前記ユーザの脈波を示す波形である第2赤外光波形を抽出し、前記第2可視光波形の特徴量および前記第2赤外光波形の特徴量の少なくとも一方から、第1生体情報を算出し、算出した前記第1生体情報を出力することを含む。
これによれば、複数の第1可視光画像から得られる色相波形の振幅が所定の色相範囲に属するように、外部に設けられた照明装置の色温度を調整し、照明装置の色温度を調整した後において得られる複数の第2可視光画像および複数の第1赤外光画像からユーザの脈波を抽出する。このため、輝度変化によるノイズの影響をほとんど受けていない明瞭な第1色相波形および第2色相波形を得ることができる。
また、これによれば、複数の第2可視光画像から得られた第1可視光波形と、複数の第1赤外光画像から得られた第1赤外光波形との相関度を演算し、相関度に応じて照明装置の光量および赤外光光源が発する赤外光の光量を制御する。このため、例えば市販の照明装置を利用した場合であっても、可視光の光量の調整と赤外光光量の調整とを適切に行うことができ、精度よく生体情報を算出できる。
また、前記所定の色相範囲は、色相が0度以上60度以下の範囲であってもよい。また、前記所定の色相範囲は、色相が30度を基準とする色相範囲であってもよい。
このように、ユーザの肌表面の色みを白から赤っぽく、特に、色相Hの値が例えば30度付近になるように、照明装置の色温度を変更することで、より体動や環境ノイズに対して、ロバストに第1色相波形および第2色相波形を取得することができる。このため、輝度変化によるノイズの影響をほとんど受けていない明瞭な第1色相波形および第2色相波形を得ることができる。
また、前記プロセッサは、前記相関度の演算において、(1)複数の第1単位波形に含まれる複数の第1単位時間における複数の第1ピーク点を抽出し、前記複数の第1ピーク点は、前記複数の第1単位波形に含まれる複数の第1の最大値点または前記複数の第1単位波形に含まれる複数の第1の最小値点であり、前記第1可視光波形は前記複数の第1単位波形を含み、前記複数の第1の最大値点と前記複数の第1単位波形とはそれぞれ対応し、前記複数の第1の最小値点と前記複数の第1単位波形とはそれぞれ対応し、前記複数の第1単位波形と前記複数の第1単位時間とはそれぞれ対応し、(2)複数の第2単位波形に含まれる複数の第2単位時間における複数の第2ピーク点を抽出し、前記複数の第2ピーク点は、前記複数の第2単位波形に含まれる複数の第2の最大値点または前記複数の第2単位波形に含まれる複数の第2の最小値点であり、前記第1赤外光波形は前記複数の第2単位波形を含み、前記複数の第2の最大値点と前記複数の第2単位波形とはそれぞれ対応し、前記複数の第2の最小値点と前記複数の第2単位波形とはそれぞれ対応し、前記複数の第2単位波形と前記複数の第2単位時間とはそれぞれ対応し、(3)前記複数の第1単位時間に基づいて複数の第1心拍間隔時間を算出し、前記複数の第1心拍間隔時間は第1時間と第2時間との間の時間であり、前記複数の第1単位時間は前記第1時間と前記第2時間とを含み、前記複数の第1単位時間に含まれる時間は前記第1時間と前記第2時間との間には存在せず、(4)前記複数の第2単位時間に基づいて複数の第2心拍間隔時間を算出し、前記複数の第2心拍間隔時間は第3時間と第4時間との間の時間であり、前記複数の第2単位時間は前記第3時間と前記第4時間とを含み、前記複数の第2単位時間に含まれる時間は前記第3時間と前記第4時間との間には存在せず、以下の(式1)を用いて、前記相関度を演算してもよい。
このため、第1可視光波形と第1赤外光波形との間の相関度を算出することができる。
また、前記プロセッサは、前記第1可視光波形の特徴量および前記第1赤外光波形の特徴量の少なくとも一方から、第2生体情報を算出し、算出した前記第2生体情報を出力してもよい。
このため、可視光または赤外光の光量の調整前に取得された、第1可視光波形の特徴量および第1赤外光波形の特徴量の少なくとも一方から、第2生体情報を算出し、算出した第2生体情報を出力することができる。
また、前記プロセッサは、前記照明装置が、さらに、オンオフの一段階で光量を調整する第2制御パターンにより調光される装置である場合、前記赤外光制御信号の出力において、前記赤外光光源が発する赤外光の光量を予め定められた第1変化量だけ大きくする制御信号を、前記赤外光制御信号として前記赤外光光源に出力し、前記可視光制御信号の出力において、前記照明装置をオフにする制御信号を、前記可視光制御信号として前記照明装置に出力してもよい。
このため、照明装置が一段階で光量を調整する照明装置であっても、適切に可視光の光量の調整と赤外光の光量の調整とを行うことができる。
また、前記プロセッサは、前記照明装置が、さらに、第1可視光光量と、前記第1可視光光量よりも小さい第2可視光光量との二段階で光量を調整する第3制御パターンにより調光される装置である場合、前記赤外光制御信号の出力において、前記赤外光光源が発する赤外光の光量を第1赤外光光量から予め定められた第2変化量だけ大きくした第2赤外光光量に制御する制御信号を、前記赤外光制御信号として前記赤外光光源に出力し、前記照明装置を前記第1可視光光量から前記第2可視光光量に変化させる制御信号を、前記可視光制御信号として前記照明装置に出力し、前記第1および第2赤外光画像から得られる赤外光の輝度変化と、前記第2および第3可視光画像から得られる可視光の輝度変化とに応じて、前記赤外光の光量における第3変化量を決定し、前記第2赤外光光量から、決定した前記第3変化量だけ大きくした第3赤外光光量に制御する制御信号を、前記赤外光制御信号として前記赤外光光源に出力し、前記照明装置をオフにする二段階目の制御信号を、前記可視光制御信号として前記照明装置に出力してもよい。
これによれば、脈波計測装置は、照明装置が二段階で光量を調整する照明装置である場合、一段階目の調光において可視光の輝度の減少量を取得し、取得した減少量に応じて、赤外光光源の光量を増加させることで、より効果的に、赤外光波形を取得することができる。
また、前記プロセッサは、前記照明装置が、さらに、無段階で光量を調整する第4制御パターンにより調光される装置である場合において、演算した前記相関度が所定の閾値以上の場合、前記赤外光制御信号の出力において、前記赤外光光源における赤外光の光量を増加させる制御信号を前記赤外光制御信号として前記赤外光光源に出力し、前記可視光制御信号の出力において、前記照明装置における可視光の光量を減少させる制御信号を前記可視光制御信号として前記照明装置に出力し、前記第3可視光画像の取得、前記第2可視光波形の抽出、前記第2赤外光画像の取得、および、前記第2赤外光波形の抽出の後にさらに、前記相関度の演算を繰り返し行い、前記照明装置の光量が第2の閾値以下となり、かつ、繰り返し行われた前記相関度の演算の結果、前記相関度が前記所定の閾値以上となった場合に、前記照明装置をオフにする制御信号を、前記可視光制御信号として前記照明装置に出力してもよい。
これによれば、可視光をオフにするまで線形に減少させる場合と比較して、より早くオフにすることができ、快適な睡眠への導入を行うことができる。
また、前記プロセッサは、前記照明装置が、無段階で光量を調整する第4制御パターンにより調光される装置である場合において、(i)演算した前記相関度が所定の閾値以上の場合、前記赤外光制御信号の出力において、前記赤外光光源における赤外光の光量を第1速度で増加させる制御信号を前記赤外光制御信号として前記赤外光光源に出力し、前記可視光制御信号の出力において、前記照明装置における可視光の光量を第2速度で減少させる制御信号を前記可視光制御信号として前記照明装置に出力し、前記第3可視光画像の取得、前記第2可視光波形の抽出、前記第2赤外光画像の取得、および、前記第2赤外光波形の抽出の後にさらに、前記相関度の演算を繰り返し行う通常処理と、(ii)演算した前記相関度が所定の閾値以上の場合、前記赤外光制御信号の出力において、前記赤外光光源における赤外光の光量を前記第1速度よりも2倍以上速い第3速度で増加させる制御信号を前記赤外光制御信号として前記赤外光光源に出力し、前記可視光制御信号の出力において、前記照明装置における可視光の光量を前記第2速度よりも2倍以上速い第4速度で減少させる制御信号を前記可視光制御信号として前記照明装置に出力し、前記第3可視光画像の取得、前記第2可視光波形の抽出、前記第2赤外光画像の取得、および、前記第2赤外光波形の抽出の後にさらに、前記相関度の演算を繰り返し行う短時間処理と、のいずれかの処理を実行してもよい。
このため、切り替え制御にかかる時間を短縮することができる。
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
(実施の形態)
本実施の形態において、ユーザの可視光画像および赤外光画像のそれぞれからユーザの脈波を取得し、取得した2つの脈波の特徴量の相関度に基づいて、光源を制御する脈波計測装置について説明する。
[1−1.構成]
[1−1−1.脈波計測システム]
本実施の形態に係る脈波計測システムの構成について説明する。
図1は、本実施の形態における脈波計測システム1がユーザUに利用される様子を示す模式図である。図2は、脈波計測装置10のハードウェア構成の一例を示すブロック図である。
脈波計測システム1は、脈波計測装置10と、照明装置30とにより構成される。脈波計測システム1は、さらに、携帯端末200により構成されてもよい。脈波計測装置10と、照明装置30と、携帯端末200とは、互いに通信可能に接続されている。
脈波計測装置10は、可視光カメラ22と、赤外光LED23と、赤外光カメラ24と、脈波演算装置100とを備える。なお、脈波計測装置10は、脈波演算装置100を備える構成であってもよい。
脈波計測装置10は、図2に示すように、筐体20を有し、筐体20のうち光を照射する側の面(例えば下面)に図2に示す各構成要素が配置されている。具体的には、脈波計測装置10には、例えば、筐体20の上部の側面に、可視光カメラ22、赤外光LED(Light Emitting Diode)23および赤外光カメラ24が並んで配置されている。また、脈波計測装置10は、可視光カメラ22および赤外光カメラ24により撮像された画像を用いて、ユーザの脈波を取得し、取得した2つの脈波の相関度に基づいて、照明装置30および赤外光LED23の光量の制御を行う脈波演算装置100を備える。
可視光カメラ22は、可視光線を撮像するカメラである。可視光カメラ22は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor Image
Sensor)などのイメージセンサを備えるカメラである。可視光カメラ22は、イメージセンサに対し、RGBのカラーフィルタを適用することで、可視光、すなわち、400〜800nmの波長域に存在する光を、当該イメージセンサにRGB(Red,Green,Blue)の3種類の信号として取得させる。
赤外光LED23は、赤外線を照射する光源である。赤外線は、赤外光領域(例えば、800〜2500nm)の波長域の光である。赤外光LED23は、複数の砲弾型のLEDにより構成されてもよいし、複数の表面実装型(SMD:Surface Mount
Device)のLEDにより構成されてもよいし、COB(Chip On Board)型のLEDにより構成されてもよい。なお、赤外光LED23は、複数のLEDにより構成されていてもよい。
赤外光カメラ24は、赤外線を撮像するカメラである。赤外光カメラ24は、可視光領域の一部を含む波長領域(例えば、700nm〜900nm)の電磁波を撮像するカメラであってもよい。赤外光カメラ24は、赤外光LED23に隣接する位置に配置されている。赤外光カメラ24は、可視光カメラ22とは異なるフィルタを備えることで、赤外光、すなわち、800nm以上の波長域に存在する光を、当該イメージセンサにモノクロの1種類の信号として取得させる。
脈波演算装置100は、筐体20の内部に配置されている。脈波演算装置100は、CPU(Central Processing Unit)101、メインメモリ102、ストレージ103および通信IF(Interface)104を備える。
CPU101は、ストレージ103などに記憶された制御プログラムを実行するプロセッサである。
メインメモリ102は、CPU101が制御プログラムを実行するときに使用するワークエリアとして用いられる揮発性の記憶領域(主記憶装置)である。
ストレージ103は、制御プログラム、各種データなどを保持する不揮発性の記憶領域(補助記憶装置)である。
通信IF104は、ネットワークを介して他の機器との間でデータを送受信する通信インタフェースである。具体的には、通信IF104は、照明装置30、可視光カメラ22、赤外光LED23および赤外光カメラ24に、これらの機器を制御するための制御信号を出力する。また、通信IF104は、可視光カメラ22および赤外光カメラ24のそれぞれにおいて撮像された撮像データを取得する。
また、通信IF104は、照明装置30に制御信号を送信する通信インタフェースであってもよい。具体的には、通信IF104は、赤外線によって制御信号を照明装置30に送信する通信インタフェースであってもよい。
また、通信IF104は、携帯端末200と通信接続できる通信インタフェースであってもよい。具体的には、通信IF104は、IEEE802.11a、b、g、n規格に適合した無線LAN(Local Area Network)インタフェースであってもよいし、Bluetooth(登録商標)規格に適合した無線通信インタフェースであってもよい。
[1−1−2.照明装置]
照明装置30のハードウェア構成について図3を用いて説明する。
図3は、実施の形態に係る照明装置30のハードウェア構成の一例を示すブロック図である。
照明装置30は、可視光線を照射する光源であり、可視光LED31と、コントローラ32とを備える。照明装置30は、リモコンなどにより送信される所定の制御信号を受信し、当該所定の制御信号に応じた光量の光を照射する装置である。照明装置30は、例えば、市販されているシーリングライト、ペンダントライト、ブラケットライト、スタンドライト、フットライト、スポットライト、ダウンライトなどの照明器具であってもよいし、リモコンからの制御信号を受け付けることができるように構成されたLED電球、直管形LEDランプ、丸形(環形)LEDランプなどの装置であってもよい。
可視光LED31は、例えば白色LEDである。可視光線は、可視光領域(例えば、400〜800nm)の波長域の光である。可視光LED31は、例えば、筐体の下面に円環状に配置されている。なお、可視光LED31は、複数の砲弾型のLEDにより構成されてもよいし、複数の表面実装型(SMD:Surface Mount Device)のLEDにより構成されてもよいし、COB(Chip On Board)型のLEDにより構成されてもよい。また、可視光LED31は、円環状に配置されていなくてもよい。なお、照明装置は、可視光LED31の代わりに蛍光灯、電球形蛍光灯、電球などを光源として有する構成の装置であってもよい。
コントローラ32は、所定のリモコン、脈波計測装置10または携帯端末200により送信された制御信号を受信し、受信した制御信号に応じて可視光LED31の光量を調整する。コントローラ32は、例えば、マイクロコントローラおよび通信モジュールなどにより実現される。通信モジュールは、赤外線による制御信号を受信してもよいし、無線LANによる制御信号を受信してもよいし、Bluetooth(登録商標)による制御信号を受信してもよい。
[1−1−3.携帯端末]
携帯端末200のハードウェア構成について図4を用いて説明する。
図4は、実施の形態1に係る携帯端末のハードウェア構成の一例を示すブロック図である。
図4に示すように、携帯端末200は、CPU201と、メインメモリ202と、ストレージ203と、ディスプレイ204と、通信IF205と、入力IF206とを備える。携帯端末200は、例えば、スマートフォン、タブレット端末などの通信可能な情報端末である。
CPU201は、ストレージ203などに記憶された制御プログラムを実行するプロセッサである。
メインメモリ202は、CPU201が制御プログラムを実行するときに使用するワークエリアとして用いられる揮発性の記憶領域(主記憶装置)である。
ストレージ203は、制御プログラム、各種データなどを保持する不揮発性の記憶領域(補助記憶装置)である。
ディスプレイ204は、CPU201での処理結果を表示する表示装置である。ディスプレイ204は、例えば、液晶ディスプレイ、有機ELディスプレイである。
通信IF205は、脈波計測装置10と通信する通信インタフェースである。通信IF205は、例えば、IEEE802.11a、b、g、n規格に適合した無線LAN(Local Area Network)インタフェースであってもよいし、Bluetooth(登録商標)規格に適合した無線通信インタフェースであってもよい。また、通信IF205は、第3世代移動通信システム(3G)、第4世代移動通信システム(4G)、または、LTE(登録商標)などのような移動通信システムで利用される通信規格に適合した無線通信インタフェースであってもよい。
入力IF206は、例えば、ディスプレイ204の表面に配置され、ディスプレイ204に表示されるUI(User Interface)へのユーザからの入力を受け付けるタッチパネルである。入力IF206は、例えば、テンキーまたはキーボードなどの入力装置であってもよい。
図5および図6は、脈波計測装置10の使用例を説明するための図である。
携帯端末200は、例えば、図5に示すように、脈波計測装置10を操作するためのUIをディスプレイ204に表示してもよい。また、携帯端末200は、当該UIへの入力に応じて、制御信号を脈波計測装置10に送信してもよい。
脈波計測システム1では、ユーザが照明装置30や赤外光LED23のON/OFFを切り替える手段として携帯端末200を利用できる。例えば、脈波計測装置10を制御するためのリモコンアプリを携帯端末200において起動することで、当該携帯端末200を脈波計測装置10および照明装置30のリモコンとして使用できる。図5の(a)に示すように、ユーザは「照明ON」を選択することで、照明装置30をONにすることができる。
図6の(a)は、照明装置30がONであるときのイメージ例である。また、ユーザが「赤外ON」を選択すると、照明装置30がONであるか、OFFであるかに関わらず、赤外光光源をONにすることができる。例えば、図6の(b)は、照明装置30がOFFであるが、赤外光LED23がONである状態を示す。赤外光照明の場合、ユーザはまぶしくないため、通常通り睡眠を行うことができるという特徴がある。さらに、ユーザが「OFF」を選択すると、照明装置30も赤外光LED23もOFFとなり、ユーザにはどの光も照射されなくなる。
そして、図5の(b)に示すUIにおいて、ユーザが「通常モード」を選択した際は、照明装置30がON、かつ、赤外光LED23がOFFの状態から、徐々に照明装置30の光量を減少させてOFFにしていき、かつ、赤外光LED23をONにして光量を徐々に上げていくことで、最適な赤外光LED23の光量を決め、ユーザが睡眠中であっても脈波を取得できるようになる。
また、ユーザが「時短モード」を選択した際は、ユーザが「通常モード」を選択した差異よりも、照明装置30の光量を減少させる速度を2倍以上速くし、赤外光LED23の光量を増加させる速度を2倍以上速くする。これにより、通常モードの場合よりも、照明装置30がONとなっている期間を短くすることができる。時短モードの詳細な説明については、後述する。
[1−2.機能構成]
次に、脈波計測装置10の機能構成について図7を用いて説明する。
図7は、本実施の形態における脈波計測装置の機能構成の一例を示すブロック図である。
図7に示すように、脈波計測装置10は、可視光撮像部122と、赤外光光源123と、赤外光撮像部124と、脈波演算装置100とを備える。
可視光撮像部122は、照明装置30により可視光が照射された照射対象を可視光領域において撮像する。可視光撮像部122は、具体的には、照射対象としてユーザの肌を可視光領域(例えば、カラー)で撮像することにより得られた可視光画像を脈波演算装置100の可視光波形演算部111に出力する。可視光撮像部122は、例えば、人の顔または手を含む肌を撮像することにより得られた肌画像を可視光画像として出力する。可視光撮像部122は、例えば、複数の異なるタイミングで撮像した複数の可視光画像を可視光波形演算部111に出力する。肌画像は、人の顔または手を含む肌のうちの同一の箇所を時間的に連続する複数のタイミングで撮像された画像であり、例えば、動画または複数枚の静止画で構成される。可視光撮像部122は、例えば、可視光カメラ22により実現される。
赤外光光源123は、ユーザに対して赤外光を照射し、その照射する光量は、脈波演算装置100の光源制御部115によって調整される。赤外光光源123は、例えば、赤外光LED23により実現される。
赤外光撮像部124は、赤外光光源123により赤外光が照射された照射対象を赤外光領域において撮像する。赤外光撮像部124は、具体的には、照射対象としてユーザの肌を赤外光領域(例えば、モノクロ)で撮像することにより得られた赤外光画像を脈波演算装置100の赤外光波形演算部112に出力する。赤外光撮像部124は、例えば、複数の異なるタイミングで撮像した複数の赤外光画像を赤外光波形演算部112に出力する。赤外光撮像部124は、可視光撮像部122で撮像する部位と同じ部位を撮像する。赤外光撮像部124は、例えば、人の顔または手を含む肌を撮像することにより得られた肌画像を赤外光画像として出力する。これは、赤外光撮像部124においても可視光撮像部122が撮像した部位と同じ部位を撮像することで、可視光領域と赤外光領域とにおいて、同様の脈波を取得することができ、特徴量を比較しやすいからである。
なお、同じ部位の撮像方法としては、可視光撮像部122と赤外光撮像部124とで同じ大きさの関心領域(ROI)を設定する。そして、可視光撮像部122と赤外光撮像部124とで撮像された当該ROI内の画像について、例えば、パターン認識を用いて比較することで、同じ部位を撮像しているか否かを判断してもよい。また、可視光撮像部122により得られた可視光画像と、赤外光撮像部124により得られた赤外光画像とのそれぞれにおいて顔認識を行い、目、鼻、口などにおける特徴点の座標と大きさを取得し、目、鼻、口などの大きさの比を考慮して、目、鼻、口などの特徴点からの座標(相対的な位置)を演算することで同じ部位を特定してもよい。
赤外光撮像部124により得られる肌画像は、可視光撮像部122により得られる肌画像と同様に、人の顔または手を含む肌のうちの同一の箇所を時間的に連続する複数のタイミングで撮像された画像であり、例えば、動画または複数枚の静止画で構成される。赤外光撮像部124は、例えば、赤外光カメラ24により実現される。
脈波演算装置100は、可視光波形演算部111と、赤外光波形演算部112と、相関度演算部113と、制御パターン取得部114と、光源制御部115と、生体情報算出部116とを備える。以下、脈波演算装置100の各構成要素について順に説明する。
(可視光波形演算部)
可視光波形演算部111は、可視光撮像部122から可視光画像を取得し、取得した可視光画像からユーザの脈波を示す波形である可視光波形を抽出する。可視光波形演算部111は、照明装置30の光量の制御が行われる前において取得した第1可視光画像から、第1可視光波形を抽出する。また、可視光波形演算部111は、照明装置30の光量の制御が行われた後において取得した第2可視光画像から、第2可視光波形を抽出する。なお、照明装置30の光量の制御が行われるとは、後述する光源制御部115により、照明装置30における可視光の光量を減少させる可視光制御信号、または、照明装置30における可視光の光量を増加させる可視光制御信号が照明装置30に出力されることを指す。このように、可視光撮像部122から取得される複数の可視光画像には、照明装置30の光量の制御が行われる前において取得される第1可視光画像と、照明装置30の光量の制御が行われた後において取得される第2可視光画像とが含まれる。また、複数の可視光画像から抽出される可視光波形には、第1可視光画像から抽出される第1可視光波形と、第2可視光画像から抽出される第2可視光波形とが含まれる。
可視光波形演算部111は、抽出した第1可視光波形における所定の特徴点である第1特徴点を複数抽出してもよい。具体的には、可視光波形演算部111は、第1可視光波形を脈波の周期である脈波周期単位の複数の第1単位波形に分割したとき、複数の第1単位波形のそれぞれについて、当該第1単位波形における最大値である第1頂点、および、当該第1単位波形における最小値である第1底点の一方である第1ピーク点を抽出することで、第1可視光波形から複数の第1ピーク点を抽出する。なお、第1ピーク点は、第1特徴点の一例である。
可視光波形演算部111は、可視光波形の特徴点として、脈波のタイミングを取得し、隣り合う脈波のタイミングから心拍間隔時間を演算する。つまり、可視光波形演算部111は、抽出した複数の第1特徴点のそれぞれについて、当該第1特徴点に隣接する他の第1特徴点との間の時間を第1心拍間隔時間として算出する。例えば、可視光波形演算部111は、抽出した複数の第1ピーク点のそれぞれについて、当該第1ピーク点での第1時刻と、当該第1ピーク点に時系列で隣接する他の第1ピーク点での第2時刻との間の時間間隔である第1心拍間隔時間を算出することで、複数の前記第1心拍間隔時間を算出する。
具体的には、可視光波形演算部111は、撮像されたタイミングがそれぞれ対応づけられた複数の可視光画像から抽出される輝度の時間変化に基づいて、可視光波形を抽出する。つまり、可視光撮像部122から取得される複数の可視光画像のそれぞれは、可視光撮像部122において当該可視光画像が撮像された時刻(time point)と対応づけられている。可視光波形演算部111は、可視光波形の所定の特徴点の間隔を取得することで、ユーザの脈波のタイミング(以下、脈波タイミングともいう)を取得する。そして、可視光波形演算部111は、得られた複数の脈波タイミングのそれぞれについて、当該脈波タイミングと一つ後の脈波タイミングとの間隔を心拍間隔時間として算出する。
また、可視光波形演算部111は、抽出した第2可視光波形における所定の特徴点である第3特徴点を複数抽出してもよい。具体的には、可視光波形演算部111は、第2可視光波形を脈波周期単位の複数の第3単位波形に分割したとき、複数の第3単位波形のそれぞれについて、当該第3単位波形における最大値である第3頂点、および、当該第3単位波形における最小値である第3底点の一方である第3ピーク点を抽出することで、第2可視光波形から複数の前記第3ピーク点を抽出してもよい。なお、第3ピーク点は、第3特徴点の一例である。
可視光波形演算部111は、抽出した複数の第3ピーク点のそれぞれについて、当該第3ピーク点での第5時刻と、当該第3ピーク点に時系列で隣接する他の第3ピーク点での第6時刻との間の時間間隔である第3心拍間隔時間を算出することで、複数の前記第3心拍間隔時間を算出してもよい。
例えば、可視光波形演算部111は、抽出した可視光波形を用いて、最も輝度の変化の大きいタイミングを特定し、特定したタイミングを脈波タイミングとして特定する。または、可視光波形演算部111は、予め保持している顔または手のパターンを用いて、複数の可視光画像における顔または手の位置を特定し、特定した位置の輝度の時間的な変化を用いて可視光波形を特定する。可視光波形演算部111は、特定した可視光波形を用いて、脈波タイミングを算出する。ここで、脈波タイミングとは、輝度の時間波形、すなわち脈波の時間波形における所定の特徴点における時刻である。所定の特徴点は、例えば、輝度の時間波形におけるピーク位置(頂点または底点の時刻)である。ピーク位置は、例えば、山登り法、自己相関法、および微分関数を用いた方法を含む公知の局所探索法を用いて、特定できる。可視光波形演算部111は、例えば、CPU101、メインメモリ102およびストレージ103などにより実現される。
一般に、脈波は、心臓の拍動に伴い末梢血管系内の血圧または体積の変化である。つまり、脈波は、心臓が収縮することにより、心臓から血液が送り出され、顔または手などに到達したとき血管の体積の変化である。このように、顔または手などにおける血管の体積が変化すると、血管を通過する血液の量が変化することとなり、ヘモグロビンなどの血液中の成分の量に依存して肌の色が変化する。このため、撮像した画像における顔または手の輝度は、脈波に応じて変化する。つまり、顔または手を複数のタイミングで撮像した画像から得られる顔または手の輝度の時間変化を用いれば、血液の移動に関する情報を取得できる。このように、可視光波形演算部111は、時系列で撮像した複数の画像から血液の移動に関する情報を演算することで、脈波タイミングを取得する。
可視光領域における脈波タイミングの取得では、可視光画像中の緑色の波長域の輝度が撮像された画像が用いられてもよい。可視光領域において撮像された画像において、緑色近辺の波長域の輝度に、脈波による変化が大きく現れるためである。複数の画素を含む可視光画像において、多くの血液が流入している状態の顔または手に相当する画素の緑色の波長域における輝度は、少ない血液が流入している状態の顔または手に相当する画素の緑色の波長域の輝度と比べて小さい。
図8の(a)は、本実施の形態における可視光画像の輝度変化、特に緑色における輝度変化の一例を示すグラフである。具体的には、図8の(a)は、可視光撮像部122によって撮像された可視光画像におけるユーザの頬の領域の緑色成分(G)の輝度変化を示す。図8の(a)のグラフにおいて、横軸は時間を示し、縦軸は緑色成分(G)の輝度を示す。図8の(a)に示す輝度変化は、脈波に起因して輝度が周期的に変化していることがわかる。
日常環境下、すなわち可視光領域で肌が撮像される場合、照明による散乱光または様々な要因によって、可視光画像はノイズを含む。よって、可視光波形演算部111は、可視光撮像部122から取得した可視光画像にフィルタ等による信号処理を施し、脈波に起因する肌の輝度変化を多く含む可視光画像を得てもよい。信号処理に用いるフィルタの例は、ローパスフィルタである。つまり、可視光波形演算部111は、本実施の形態では、ローパスフィルタを通した緑色成分(G)の輝度変化を用いて、可視光波形の抽出処理を行う。
図9の(a)は、本実施の形態における脈波タイミングの算出の一例を示すグラフである。図9の(a)のグラフにおいて、横軸は時間を示し、縦軸は輝度を示す。図9の(a)のグラフの時間波形おいて、時刻t1〜t5のそれぞれの点は、変曲点または頂点である。当該グラフの時間波形における各点は、特徴点としての、変曲点と、ピーク点(頂点および底点)とを含む。なお、頂点とは、時間波形において上に凸の極大値における点であり、底点とは、時間波形において下に凸の極小値における点である。時間波形に含まれる上記の各点において、前後の時刻の点のいずれよりも輝度が大きい点(頂点)における時刻、または、前後の時刻の点のいずれよりも輝度が小さい点(底点)の時刻が脈波タイミングである。
図9の(a)に示すグラフの輝度時間波形を用いて、頂点の位置を特定する方法、つまりピーク探索の方法を説明する。可視光波形演算部111は、当該輝度の時間波形において、現在の参照点を時刻t2の点とする。可視光波形演算部111は、時刻t2の点と、一つ前の時刻t1の点とを比較し、かつ、時刻t2の点と、一つ後の時刻t3の点とを比較する。可視光波形演算部111は、参照点の輝度が、一つ前の時刻の点および一つ後の時刻の点のそれぞれの輝度よりも大きい場合、正と判定する。つまり、この場合、可視光波形演算部111は、参照点がピーク点(頂点)であって、その参照点の時刻が脈波タイミングであると判定する。
一方で、可視光波形演算部111は、参照点の輝度が、一つ前の時刻の点および一つ後の時刻の点の少なくとも一方の輝度よりも小さい場合、否と判定する。つまり、この場合、可視光波形演算部111は、参照点がピーク点(頂点)ではなく、その参照点の時刻が脈波タイミングではないと判定する。
図9の(a)において、時刻t2の点の輝度は時刻t1の点の輝度より大きいが、時刻t2の点の輝度は時刻t3の点の輝度よりは小さいため、可視光波形演算部111は、時刻t2の点を否と判定する。次に、可視光波形演算部111は、参照点を一つインクリメントし、次の時刻t3の点を参照点とする。時刻t3の点の輝度は、時刻t3の一つ前の時刻t2の点および時刻t3の一つ後の時刻t4の点のそれぞれの輝度より大きいため、可視光波形演算部111は、時刻t3の点を正と判定する。可視光波形演算部111は、正と判定した点の時刻を脈波タイミングとして相関度演算部113に出力する。これにより、図9の(b)に示すように、白丸印の時刻が脈波タイミングとして特定される。
また、可視光波形演算部111は、脈波タイミングの特定において、一般的な心拍数(例えば60bpmから180bpm)の知識に基づき、心拍間隔時間が例えば333msから1000msまでの間であることを考慮して脈波タイミングを特定してもよい。可視光波形演算部111は、一般的な心拍間隔時間を考慮することにより、全ての点において上述の輝度の比較を行う必要がなく、一部の点において輝度の比較を行えば、適切な脈波タイミングを特定できる。つまり、最近に取得された脈波タイミングから333ms以降1000ms以前の範囲にある各点を参照点として用いて上述の輝度の比較を行えばよい。この場合、その範囲以前の点を参照点として用いた輝度の比較を行うことなく、次の脈波タイミングを特定できる。したがって、日常環境時にロバストな脈波タイミングの取得が可能となる。
可視光波形演算部111は、さらに、得られた隣り合う脈波タイミングの時間差を算出することで心拍間隔時間を算出する。心拍間隔時間は、時系列で変動する。このため、同一の期間において取得した赤外光波形から特定した脈波の心拍間隔時間と比較することで、可視光波形と赤外光波形の所定の特徴点における相関度の演算に利用することができる。
図10は、時系列で取得した心拍間隔時間の例を示すグラフである。図10のグラフにおいて、横軸は時系列に取得した心拍間隔時間に対応付けられたデータナンバーを示し、縦軸は心拍間隔時間を示す。図10に示すように、心拍間隔時間は、時刻によって変動しているのがわかる。なお、データナンバーとは、データ(ここでは心拍間隔時間)がメモリに記憶された順番を示す。つまり、n番目(nは自然数)に記録された心拍間隔時間に対応するデータナンバーは「n」となる。
可視光波形演算部111は、さらに、可視光波形において、脈波タイミング直後の変曲点の時刻を抽出してもよい。具体的には、可視光波形演算部111は、可視光波形の輝度値の一次微分を算出することで可視光微分輝度の極小点を取得し、その極小点となる時刻を変曲点の時刻(以下、変曲点タイミングと言う)を算出する。つまり、可視光波形演算部111は、所定の特徴点として、頂点から底点までの間の変曲点を複数抽出してもよい。
また、可視光波形演算部111は、変曲点タイミングの算出においても、一般的な心拍数の知識に基づき、心拍間隔時間が例えば、333msから1000msまでの間であることを考慮して変曲点タイミングを算出してもよい。これにより、可視光波形にまったく心拍とは関係のない変曲点が含まれていたとしても、当該変曲点を特定することがないため、より正確に変曲点タイミングを算出することができる。
図11は、脈波から変曲点を抽出する方法を説明するためのグラフである。具体的には、図11の(a)は、可視光画像から得られた可視光波形を示すグラフであり、図11の(b)は、図11の(a)の一次微分値をプロットしたグラフである。図11の(a)では、丸印がピーク点のうちの頂点を表し、X印が変曲点を表す。図11の(b)では、丸印が図11の(a)における頂点に対応する点を示し、X印が図11の(a)における変曲点に対応する点を示す。図11の(a)のグラフにおいて、横軸は時間を示し、縦軸は輝度値を示す。また、図11の(b)のグラフにおいて、横軸は時間を示し、縦軸は、輝度値の微分係数を示す。
可視光波形の抽出では、前述のように特に緑色の光が撮像された可視光画像を用いる。この可視光波形の抽出の原理を説明する。脈波に応じて顔または手などの血管中の血液量が増減した場合、血中のヘモグロビンの量が血液量に応じて増減する。つまり、血管中の血液量の増減に応じて、緑色の波長域の光を吸収するヘモグロビンの量が増減する。このため、可視光撮像部122において撮像された可視光画像では、血液量の増減に応じて、血管付近の肌の色が変化することになり、可視光の特に緑色成分の輝度値が変動する。具体的には、ヘモグロビンが緑色の光を吸収するため、可視光画像における輝度値は、ヘモグロビンに吸収された分だけ減少する。
さらに、可視光波形は、底点から頂点までの勾配よりも、頂点から次の底点までの勾配の方が急であるという特徴を持つ。したがって、底点から頂点までの間では、比較的ノイズの影響を受けやすい。一方で、頂点から次の底点までの間では、勾配が急なため、ノイズの影響を受けにくい。このため、頂点から底点までの間に存在する変曲点タイミングもまた、ノイズの影響を受けにくく、比較的安定して取得しやすいという特徴をもつ。以上のことから、可視光波形演算部111は、頂点から底点までに存在する変曲点間の時間差を、心拍間隔時間として算出してもよい。
また、前述した可視光波形のピーク点は、変曲点の直前において微分係数が0になる部分である。具体的には、図11の(b)に示すように、変曲点であるX印の直前の微分係数が0となる点の時刻が図11の(a)の頂点を示す丸印の時刻となっているのがわかる。この特徴を用いて、可視光波形演算部111は、可視光波形から取得する頂点を変曲点の直前の頂点だけに限定してもよい。
可視光波形演算部111は、さらに、可視光波形の頂点から底点までの傾きを算出する。可視光波形演算部111は、複数の第1頂点のうちの一の第1頂点と、複数の第1底点のうちの、当該一の第1頂点の時系列における直後の一の第1底点とを結ぶ第1直線の第1の傾きを算出する。可視光波形における上記傾きは、照明装置30の輝度を調整することにより、できるだけ大きい値である方がよい。これは、傾きが大きければ大きいほど、より可視光波形における頂点の尖度が大きくなり、フィルタ処理等による脈波タイミングの時間ずれが、小さくなるからである。
図12は、可視光波形の傾きを演算する方法を説明するための可視光波形を示すグラフである。図12のグラフにおいて、横軸は時間を示し、縦軸は輝度値を示し、丸印は頂点を示し、三角印は底点を示す。可視光波形演算部111では、頂点(丸印)とその次にある底点(三角印)とを直線で結び、その直線の傾きを算出する。ここで算出した傾きは、照明装置30における光源が発する光の光量、可視光撮像部122で取得するユーザの肌の部位などに応じて異なる。したがって、脈波がクリアに取得できる、例えば、心拍間隔時間が333msから1000msまでの間で取得し続けられるように、照明装置30の光量、可視光撮像部122におけるユーザの部位に対応するROIをそれぞれ設定し、傾き情報を記録し、赤外光の脈波における傾き情報と比較することができる。また、可視光波形演算部111は、初期状態、すなわち、照明装置30がONになってから、光源制御部115によって、照明装置30の可視光の光量または赤外光光源123の赤外光の光量を変化させるまでの状態における、可視光波形における頂点から底点までの間の傾きを第1の傾きAとしてメモリ(例えばストレージ103)に記録する。脈波計測装置10は、可視光波形と赤外光波形との間の特徴点を比較しながら、徐々に照明装置30の光量を0にしていき、赤外光光源123の光量を増加させていくことを特徴としている。このように、可視光の光量を徐々に減少させるため、可視光波形の頂点から底点までの傾きが最も大きくなるのは、初期状態である。
(赤外光波形演算部)
赤外光波形演算部112は、赤外光撮像部124から赤外光画像を取得し、取得した赤外光画像からユーザの脈波を示す波形である赤外光波形を抽出する。赤外光波形演算部112は、赤外光光源123の光量の制御が行われる前において取得した第1赤外光画像から、第1赤外光波形を抽出する。また、赤外光波形演算部112は、赤外光光源123の光量の制御が行われた後において取得した第2赤外光画像から、第2赤外光波形を抽出する。なお、赤外光光源123の光量の制御が行われるとは、後述する光源制御部115により、赤外光光源123における赤外光の光量を増加させる赤外光制御信号、または、赤外光光源123における赤外光の光量を減少させる赤外光制御信号が赤外光光源123に出力されることを指す。このように、赤外光撮像部124から取得される複数の赤外光画像には、赤外光光源123の光量の制御が行われる前において取得される第1赤外光画像と、赤外光光源123の光量の制御が行われた後において取得される第2赤外光画像とが含まれる。
赤外光波形演算部112は、抽出した第1赤外光波形における所定の特徴点である第2特徴点を複数抽出してもよい。具体的には、赤外光波形演算部112は、第1赤外光波形を脈波周期単位の複数の第2単位波形に分割したとき、複数の第2単位波形のそれぞれについて、当該第2単位波形おける最大値である第2頂点、および、当該第2単位波形における最小値である第2底点の一方である第2ピーク点を抽出することで、第1赤外光波形から複数の第2ピーク点を抽出する。なお、第2ピーク点は、第2特徴点の一例である。
赤外光波形演算部112は、赤外光波形の特徴点として、可視光波形演算部111と同様に、脈波のタイミングを取得し、隣り合う脈波のタイミングから心拍間隔時間を演算する。つまり、赤外光波形演算部112は、抽出した複数の第2特徴点のそれぞれについて、当該第2特徴点に隣接する他の第2特徴点との間の時間を第2心拍間隔時間として算出する。具体的には、赤外光波形演算部112は、複数の赤外光画像から抽出される輝度の時間変化に基づいて、赤外光波形を抽出する。つまり、赤外光撮像部124から取得される複数の赤外光画像のそれぞれは、赤外光撮像部124において当該赤外光画像が撮像された時刻(time point)と対応付けられている。例えば、赤外光波形演算部112は、抽出した複数の第2ピーク点のそれぞれについて、当該第2ピーク点での第3時刻と、当該第2ピーク点に時系列で隣接する他の第2ピーク点での第4時刻との間の時間間隔である第2心拍間隔時間を算出することで、複数の第2心拍間隔時間を算出する。
赤外光波形演算部112は、抽出した第2赤外光波形における所定の特徴点である第4特徴点を複数抽出してもよい。具体的には、赤外光波形演算部112は、第2赤外光波形を脈波周期単位の複数の第4単位波形に分割したとき、複数の第4単位波形のそれぞれについて、当該第4単位波形おける最大値である第4頂点、および、当該第4単位波形における最小値である第4底点の一方である第4ピーク点を抽出することで、第2赤外光波形から複数の第4ピーク点を抽出してもよい。なお、第4ピーク点は、第4特徴点の一例である。
赤外光波形演算部112は、抽出した複数の第4ピーク点のそれぞれについて、当該第4ピーク点での第7時刻と、当該第4ピーク点に時系列で隣接する他の第4ピーク点での第8時刻との間の時間間隔である第4心拍間隔時間を算出することで、複数の第4心拍間隔時間を算出ししてもよい。
ここで、赤外光波形演算部112は、可視光波形演算部111と同様に、赤外光波形の所定の特徴点としてのピーク位置を、例えば、山登り法、自己相関法、および微分関数を用いた方法を含む公知の局所探索法を用いて、特定できる。また、赤外光波形演算部112は、可視光波形演算部111と同様に、例えば、CPU101、メインメモリ102およびストレージ103などにより実現される。
一般に、赤外光画像では、可視光画像と同様に、ヘモグロビンなどの血液中の成分の量に依存して、画像における肌領域、例えば、顔または手の輝度が変化する。つまり、顔または手を複数のタイミングで撮像した画像から得られる顔または手の輝度の時間変化を用いれば、血液の移動に関する情報を取得できる。このように、赤外光波形演算部112は、時系列で撮像した複数の画像から血液の移動に関する情報を演算することで、脈波タイミングを取得する。
赤外光領域における脈波タイミングの取得では、赤外光画像中の800nm以上の波長域の輝度が撮像された画像が用いられてもよい。赤外光領域において撮像された画像において、800〜950nm近辺の波長域の輝度に、脈波による変化が大きく現れるためである。
図8の(b)は、本実施の形態における赤外光画像の輝度変化の一例を示すグラフである。具体的には、図8の(b)は、赤外光撮像部124によって撮像された赤外光画像におけるユーザの頬の領域の輝度変化を示す。図8の(b)のグラフにおいて、横軸は時間を示し、縦軸は輝度を示す。図8の(b)に示す輝度変化は、脈波に起因して輝度が周期的に変化していることがわかる。
しかし、赤外光領域で肌を撮像する場合、可視光領域で肌を撮像する場合に比べ、ヘモグロビンによる赤外光の吸収量が少ない。つまり、体動等の様々な要因によって、赤外光領域で撮像された赤外光画像はノイズを含みやすい。よって、撮像された赤外光画像にフィルタ等による信号処理を施し、適切な光量の赤外光をユーザの肌領域に照射することで、脈波に起因する肌の輝度変化を多く含む赤外光画像を得てもよい。信号処理に用いるフィルタの例は、ローパスフィルタである。つまり、赤外光波形演算部112は、本実施の形態では、ρバスフィルタを通した赤外光の輝度変化を用いて、赤外光波形の抽出処理を行う。なお、赤外光光源123による赤外光の光量の決定方法については、相関度演算部113または、光源制御部115において記述する。
次に、赤外光波形演算部112における、ピーク探索の方法について説明する。赤外光波形におけるピーク探索は、可視光波形におけるピーク探索と同様の方法を利用できる。
赤外光波形演算部112は、脈波タイミングの特定において、可視光波形演算部111と同様に、一般的な心拍数(例えば60bpmから180bpm)の知識に基づき、心拍間隔時間が例えば333msから1000msまでの間であることを考慮して脈波タイミングを特定してもよい。赤外光波形演算部112は、一般的な心拍間隔時間を考慮することにより、全ての点において上述の輝度の比較を行う必要がなく、一部の点において輝度の比較を行えば、適切な脈波タイミングを特定できる。つまり、最近に取得された脈波タイミングから333ms以降1000ms以前の範囲にある各点を参照点として用いて上述の輝度の比較を行えばよい。この場合、その範囲以前の点を参照点として用いた輝度の比較を行うことなく、次の脈波タイミングを特定できる。
赤外光波形演算部112は、可視光波形演算部111と同様に、得られた隣り合う脈波タイミングの時間差を算出することで心拍間隔時間を算出する。また、赤外光波形演算部112は、さらに、赤外光波形において、脈波タイミング直後の変曲点の時刻を抽出してもよい。そして、例えば、赤外光波形演算部112は、赤外光波形の輝度値の一次微分を算出することで赤外光微分輝度の極小点を取得し、その極小点となる時刻を変曲点の時刻(変曲点タイミング)を算出する。つまり、赤外光波形演算部112は、所定の特徴点として、頂点から底点までの間の変曲点を複数抽出してもよい。
また、赤外光波形演算部112は、可視光波形演算部111と同様に、赤外光波形の頂点から底点までの傾きについての演算を行う。つまり、赤外光波形演算部112は、第2赤外光波形における、複数の第4頂点のうちの一の第4頂点と、複数の第4底点のうちの、当該一の第4頂点の時系列における直後の一の第4底点とを結ぶ第2直線の傾きである第2の傾きを算出する。
以上のように、赤外光波形演算部112は、可視光波形演算部111と同様の処理を行うことで、所定の特徴点を第2特徴点として複数抽出する。しかし、赤外光波形は、可視光波形と比較すると、光源から出る赤外光の光量によって、大きく変化する。つまり、赤外光波形は、可視光波形よりも光源の光量の影響を受けやすい。
図13は、赤外光光源の光量の異なるレベルごとに、赤外光カメラで人の肌画像を取得した場合の赤外光波形を示すグラフである。図13では、(a)から(d)まで、順に赤外光光源における光量のレベルを増加させている。すなわち、光源レベルは、光源レベル1が最も光量が少なく、光源レベルが増加する毎に光量が多くなり、光源レベル4が最も光量が多いことを示している。なお、光源レベルは、レベルが1増加するごとに光源の制御電圧が約0.5V増加することを示す。また、図13の各グラフにおける丸印は、脈波のピーク位置(頂点)を示している。図13の(a)のように、光源における光量が少ないと、赤外光光源からの赤外光よりもノイズが多くなり、脈波タイミングの特定が難しい。一方で、図13の(c)や(d)のように、光源における光量が多いと、脈波に応じた肌の輝度の変化が光源の光量に埋もれてしまい、脈波の形が小さくなり、脈波タイミングの特定が難しい。
ところで、可視光を照射し可視光領域で撮像した画像を用いて脈波を取得する場合、ユーザの目にとって強すぎない光量で可視光を照射しても、その照射量で十分に脈波を取得できる。しかしながら、赤外光を照射し赤外光領域で撮像した画像を用いて脈波を取得する場合、赤外光の光量を制御しても、上述したように、ノイズを含んだり赤外光の光量が多くなりすぎたりする。このため、かなり絞られた光量の範囲内でしか、脈波の取得は難しい。また、赤外光光源の光量だけ所定の値に予め決めていても、取得する肌の部位や、ユーザの肌質、肌の色等によっても変化するため、予め適切な光量を決めておくことは難しい。したがって、次に述べる相関度演算部113によって、可視光波形と赤外光波形とが一致するように、可視光の光量を絞りながら、赤外光の光量を適切な値になる制御を行う必要がある。
(相関度演算部)
相関度演算部113は、可視光波形演算部111から得られた可視光波形と、赤外光波形演算部112から得られた赤外光波形との間の相関度を演算する。そして、相関度演算部113は、算出した相関度に応じて、照明装置30および赤外光光源123における各光量を調整する指令を決定し、決定した指令を光源制御部115に送る。
相関度演算部113は、第1可視光波形から算出した複数の第1心拍間隔時間と、第1赤外光波形から算出した複数の第2心拍間隔時間とを、可視光波形演算部111および赤外光波形演算部112からそれぞれ取得する。そして、相関度演算部113は、時系列において互いに対応する、複数の第1心拍間隔時間と、複数の第2心拍間隔時間との間の第1相関度を演算する。
また、相関度演算部113は、第2可視光波形から算出した複数の第3心拍間隔時間と、第2赤外光波形から算出した複数の第4心拍間隔時間とを、可視光波形演算部111および赤外光波形演算部112からそれぞれ取得する。そして、相関度演算部113は、時系列において互いに対応する、複数の第3心拍間隔時間と、複数の第4心拍間隔時間との間の第2相関度を演算してもよい。
図14は、第1心拍間隔時間と、第2心拍間隔時間とのそれぞれを時系列順のデータでプロットしたものを示すグラフである。図14のグラフにおいて、横軸は時系列におけるデータナンバーを示し、縦軸は各データナンバーに対応する心拍間隔時間を示す。なお、ここで、データナンバーとは、各心拍間隔時間のデータが記録されたメモリに記憶された順番を示す。つまり、第1心拍間隔時間において、n番目(nは自然数)に記録された心拍間隔時間に対応するデータナンバーは「n」となる。また、第2心拍間隔時間において、n番目(nは自然数)に記録された心拍間隔時間に対応するデータナンバーは「n」となる。さらに、第1心拍間隔時間と第2心拍間隔時間とは、同一のタイミングにおける脈波が計測された結果であるので、原則として計測誤差がない限り、データナンバーが同一であればほぼ同じタイミングにおける脈波を計測した結果といえる。つまり、複数の第1心拍間隔時間および複数の第2心拍間隔時間とは、時系列で互いに対応する1組の第1心拍間隔時間および第2心拍間隔時間とを含む。
相関度演算部113は、相関法を用いて、複数の第1心拍間隔時間および複数の第2心拍間隔時間の相関度の演算を行う。具体的には、相関度演算部113は、以下の(式1)を用いて、時系列において互いに対応する、複数の第1心拍間隔時間と、複数の第2心拍間隔時間との間の第1相関係数を、第1相関度として演算する。
また、相関度演算部113は、以下の(式2)を用いて、時系列において互いに対応する、複数の第3心拍間隔時間と、複数の第4心拍間隔時間との間の第2相関係数を、第2相関度として演算する。
相関度演算部113は、例えば、第1相関係数が第2の閾値(所定の閾値)、例えば、0.8以上であれば、複数の第1心拍間隔時間と、複数の第2心拍間隔時間がほぼ一致しているとして判断し、光源制御部115に、ほぼ一致していることを示す信号として、例えば、「TRUE」の信号を送信する。一方で、相関度演算部113は、相関係数が第2の閾値、例えば、0.8よりも小さい値であれば、複数の第1心拍間隔時間と、複数の第2心拍間隔時間とが一致していないと判断し、光源制御部115に、一致していないことを示す信号として、例えば、「FALSE」の信号を送信する。相関度演算部113は、第1相関係数と同様に第2相関係数に対しても上記の処理を行う。
また、相関度演算部113は、第1心拍間隔時間および第2心拍間隔時間の相関度だけでなく、各心拍間隔時間が適切であるかを判定し、判定結果を光源制御部115に送信してもよい。相関度演算部113は、具体的には、複数の第1心拍間隔時間および複数の第2心拍間隔時間のうちで、時系列で互いに対応する第1心拍間隔時間および第2心拍間隔時間との間の絶対誤差が第3の閾値(例えば200ms)を超えているか否かを判定する。相関度演算部113は、例えば、データナンバーが同一の第1心拍間隔時間および第2心拍間隔時間の絶対誤差を算出し、当該絶対誤差が第3の閾値を超えているか否かを判定する。そして、相関度演算部113は、例えば、当該絶対誤差が第3の閾値を超えると判定した場合、可視光波形および赤外光波形のうちのいずれかのピーク点の数が過剰であると判定する。そして、相関度演算部は、ピーク点の数が過剰である方の波形(可視光波形または赤外光波形)を光源制御部115に送信する。なお、絶対誤差の演算は下記の式3により得られる。
e=RRIRGB−RRIIR・・・(式3)
式1において、eは、対応する第1心拍間隔時間および第2心拍間隔時間との絶対誤差を示し、RRIRGBは第1心拍間隔時間を示し、RRIIRは第2心拍間隔時間を示す。
また、相関度演算部113は、eが(−1)×第3の閾値(例えば、−200ms)より小さければ、可視光におけるピーク点の数が過剰であると判定し、eが第3の閾値(例えば、200ms)より大きければ、赤外光におけるピーク点の数が過剰であると判定する。そして、相関度演算部113は、判定結果として、ピーク点の数が過剰である方の波形が可視光波形か赤外光波形かを示す情報を、光源制御部115に送信する。このように、2つの波形の対応する心拍間隔時間のずれから、どちらか波形においてピーク点を過剰に取得しいている、もしくは、ピーク点の取得に失敗していることを特定できる。
相関度演算部113は、例えば、対応する第1心拍間隔時間および第2心拍間隔時間の絶対誤差が第3の閾値を超えており、かつ、可視光波形において、ピーク点が過剰に取得されていると判定した場合、光源制御部115に当該判定の結果を示す「False,RGB」の信号を送信する。なお、相関度演算部113は、絶対誤差が第3の閾値を超えており、かつ、赤外光波形において、ピーク点が過剰に取得されていると判定した場合、光源制御部115に当該判定の結果を示す「False,IR」の信号を送信する。
図15は、心拍間隔時間が適切であるか否かの判定の具体例について説明するための図である。図15の(a)は、取得された複数の心拍間隔時間が適切でない場合を示すグラフである。図15の(b)は、図15の(a)に対応した、可視光波形または赤外光波形の一例を示すグラフである。図15の(a)のグラフにおいて、横軸は時系列におけるデータナンバーを示し、縦軸は各データナンバーに対応する心拍間隔時間を示す。図15の(b)のグラフにおいて、横軸は時間示し、縦軸は画像における輝度を示す。
図15の(a)において、点線で囲んだ二点の心拍間隔時間が適切でない部分である。心拍間隔時間は、一般的にゆらぎながら変動するが、急激に値が変動することはほぼない。例えば、図15の(a)に示すように点線で囲んだ部分以外の領域では、平均値が約950msであり、その標準偏差は約50msである。しかし、点線で囲まれた2点の心拍間隔時間は、約600〜700msと急激に値が変化している。これは、図15の(b)における破線が引かれた部分がピーク点として取得されていることが原因で起こる。すなわち、可視光波形演算部111または赤外光波形演算部112においてピーク点が過剰に取得されたことによって起こる。
可視光波形演算部111または赤外光波形演算部112のどちらかにおいて、図15に示したような結果が得られた場合、複数の第1心拍間隔時間および複数の第2心拍間隔時間のデータ数を比較すると、データ数が一致しなくなる。
図16にその様子を示す。図16は、可視光波形においてピーク点の過剰取得が行われ、対応する赤外光波形においてピーク点の過剰取得が行われなかった場合の例を説明するための図である。
複数の第1または第2心拍間隔時間のデータは、例えば、(データNo、心拍間隔時間)という形式でストレージ103に格納する。可視光波形において取得される複数の第1心拍間隔時間を示すデータは、例えば、(x、t20−t11)、(x+1、t12−t20)、(x+2、t13−t12)となる。また、赤外光波形において取得される複数の第2心拍間隔時間を示すデータは、例えば、(x、t12−t11)、(x+1、t13−t12)となる。これにより、可視光波形および赤外光波形のそれぞれにおいて取得されたデータを比較すると、同じ時間区間t11〜t13の間で取得されたデータであるのに、データ数がずれてしまっている。これにより、その後の第1心拍間隔時間および第2心拍間隔時間の間のデータの対応関係が全てずれ、心拍間隔時間の時間変動の相関度がずれることになる。
したがって、相関度演算部113は、可視光波形演算部111と赤外光波形演算部112とで得られた、第3または第4心拍間隔時間の各データナンバーにおける心拍間隔時間の絶対誤差が、第3の閾値、例えば、200ms以上であるとき、ピーク点の数が多い方の脈波ピークを一つ削除する。そして、相関度演算部113は、削除したピークに対応するデータナンバーから以降のデータナンバーを一つ分ずつ減らす処理を行う。
相関度演算部113は、上記のように、ピーク点(つまり、所定の特徴点)が過剰に取得されていると判定した場合、所定の特徴点が多い方の波形(可視光波形または赤外光波形)における心拍間隔時間の演算の基準となった所定の特徴点を当該心拍間隔時間の演算対象から除外してもよい。つまり、相関度演算部113は、eが(−1)×第3の閾値より小さければ、当該eを算出するのに用いたRRIRGBの演算の基準となったピーク点を第1心拍間隔時間の演算対象から除外する。相関度演算部113は、eが第3の閾値より大きければ、当該eを算出するのに用いたRRIIRの演算の基準となったピーク点を第2心拍間隔時間の演算対象から除外する。
つまり、相関度演算部113は、複数の第3心拍間隔時間および複数の第4心拍間隔時間のうち、時系列で互いに対応する第3心拍間隔時間および第4心拍間隔時間との間の絶対誤差が第3の閾値を超えているか否かを判定する。そして、相関度演算部113は、絶対誤差が第3の閾値を超えていると判定した場合、複数の第3ピーク点の数と、複数の第4ピーク点の数とを比較する。相関度演算部113は、第3の閾値を超えていると判定された第3心拍間隔時間および第4心拍間隔時間のうち、比較の結果、数が多いと判定された方のピーク点により算出された心拍間隔時間を特定する。相関度演算部113は、特定した心拍間隔時間の演算の基準となったピーク点を当該心拍間隔時間の演算対象から除外する。
また、ピーク点の過剰取得は、取得した波形(可視光波形または赤外光波形)においてノイズが多いことにより起きる。このため、過剰取得した方の波形が可視光波形であるか、赤外光波形であるかを把握し、例えば、上述したように「FALSE,RGB」というような信号を生成し、生成した信号を光源制御部115に送信する。つまり、光源制御部115は、「FALSE,RGB」の信号を受信すれば、可視光波形と赤外光波形との間の心拍間隔時間が一致していないこと、および、一致していない原因は可視光波形であることを把握できる。このように、可視光波形と赤外光波形とのピーク点の取得におけるデータずれを把握でき、把握した結果を示す情報を光源制御部115に送信できるため、可視光波形および赤外光波形におけるユーザの脈波をより正確に取得することが可能になる。
なお、相関度演算部113では、第1心拍間隔時間と第2心拍間隔時間との相関度の判定において、第2の閾値を0.8として判定したが、これに限るものではない。具体的には、ユーザが計測したい生体情報の正確性に応じて、第2の閾値を変えてもよい。例えば、ユーザが睡眠時における赤外光での脈波抽出を厳密に行うことで、睡眠中の生体情報、例えば、心拍や血圧等の情報をより正確に取得したい場合、判定基準とする第2の閾値を大きくし、例えば0.9等の値にしてもよい。
また、基準としている相関係数の第2の閾値を調整した場合、調整した第2の閾値に応じて、提示装置40に、取得データの信頼度として表示してもよい。例えば、可視光波形と赤外光波形との間での特徴量がなかなか一致せず、睡眠時等に、可視光の光源からの光量を低減できない場合、基準となる相関係数の第2の閾値を、例えば、0.6等の0.8よりも小さい値に変更してもよい。その際、相関度に関する正確性は、小さくなるので、提示装置40に信頼度が小さくなったことを表示してもよい。
相関度演算部113は、可視光波形および赤外光波形から時系列で取得した第1および第2心拍間隔時間の相関係数が第2の閾値より小さい場合、または、可視光波形演算部111および赤外光波形演算部112において、第1所定期間のピーク点を過剰取得した場合、可視光波形および赤外光波形のそれぞれの変曲点を用いて、可視光波形と赤外光波形との相関度を判定してもよい。つまり、時系列において互いに対応する、第1変曲点を用いて算出した複数の第3心拍間隔時間と、第2変曲点を用いて算出した複数の第4心拍間隔時間との間の相関係数を、(式2)を用いることで第2相関係数として演算してもよい。
具体的には、前述したように、可視光波形および赤外光波形における第1および第2心拍間隔時間の相関係数が、第2の閾値、例えば、0.8より小さい場合、または、可視光波形演算部111および赤外光波形演算部112で取得したピーク点の数が、第1所定区間(例えば、5秒間)において一致せず、少なくとも一方の波形におけるピーク点の数が第1の閾値(例えば、10個)を超えていた場合、可視光波形と赤外光波形との両方の波形における変曲点を使用し、各波形において変曲点間の時間間隔情報の相関度を判定してもよい。
つまり、相関度演算部113は、複数の第3ピーク点の数または複数の第4ピーク点の数が第1所定期間において、第1の閾値を超えるか否かを判定する第10判定を行う。相関度演算部113は、第3ピーク点の数または第4ピーク点の数が第1所定期間において第1の閾値を超えると判定した場合、次の処理を行ってもよい。
つまり、相関度演算部113は、可視光波形演算部111に、複数の第3頂点のそれぞれについて、当該第3頂点と、複数の第3底点のうちの、当該第3頂点の時系列における直後の第3底点との間の変曲点である第1変曲点を抽出することで、複数の前記第1変曲点を抽出させる。また、相関度演算部113は、赤外光波形演算部112に、複数の第4頂点のそれぞれについて、当該第4頂点と、複数の第4底点のうちの、当該第4頂点の時系列における直後の第4底点との間の変曲点である第2変曲点を抽出することで、複数の第2変曲点を抽出させる。また、相関度演算部113は、可視光波形演算部111に、抽出した複数の第1変曲点のそれぞれについて、当該第1変曲点での第9時刻と、当該第1変曲点に隣接する他の第1変曲点での第10時刻との間の時間間隔を第3心拍間隔時間として算出させる。また、相関度演算部113は、赤外光波形演算部112に、抽出した複数の第2変曲点のそれぞれについて、当該第2変曲点での第7時刻と、当該第2変曲点に隣接する他の第2変曲点での第8時刻との間の時間間隔を前記第4心拍間隔時間として算出させる。そして、相関度演算部113は、時系列において互いに対応する、第1変曲点を用いて算出した複数の第3心拍間隔時間と、第2変曲点を用いて算出した複数の第4心拍間隔時間との間の第2相関係数を、(式2)を用いることで第2相関度として演算する。
また、相関度演算部113は、第10判定の結果に関わらず、次の場合に、上記のように、第1変曲点を用いて算出した複数の第3心拍間隔時間と、第2変曲点を用いて算出した複数の第4心拍間隔時間との間の第2相関係数を、(式2)を用いることで第2相関度として演算してもよい。その場合とは、比較の結果、数が少ないと判定された方のピーク点により算出された心拍間隔時間の標準偏差が前記第4の閾値以下である場合である。
図17は、変曲点を用いて相関度を算出する場合を説明するための図である。図17の(a)は、可視光波形において取得されたピーク点(頂点)を示すグラフであり、図17の(b)は、赤外光波形において取得されたピーク点(頂点)を示すグラフである。図17の(a)および(b)において、共に横軸は時間を示し、縦軸は輝度を示し、黒丸は取得された頂点を示し、白丸は取得された変曲点を示す。
図17の(a)では、可視光波形において、過剰にピーク点を取得しており、第1所定期間(5秒間)において、ピーク点が、第1の閾値以上または第1の閾値を超える、10個または11個存在するのがわかる。一方で、図17の(b)では、赤外光波形において、ピーク点は一定の心拍間隔時間で取得されており、標準偏差が100ms以下である。この時、可視光波形および赤外光波形における第1および第2心拍間隔時間を示す時系列のデータナンバーがずれることになる。
したがって、相関度演算部113は、可視光波形演算部111と赤外光波形演算部112とより取得した、各脈波の頂点−底点間に存在する変曲点を利用して、可視光波形および赤外光波形の間の相関度を演算してもよい。相関度演算部113は、例えば、変曲点を用いて算出した第1心拍間隔時間と第2心拍間隔時間とを可視光波形演算部111および赤外光波形演算部112に算出させ、当該第1および第2心拍間隔時間の間の相関度を演算する。具体的な演算法としては、可視光波形と赤外光波形との変曲点間の心拍間隔時間の相関または絶対誤差によって評価する。
なお、相関度演算部113では、可視光波形または赤外光波形における心拍間隔時間の相関係数が第2の閾値より小さい場合、または、可視光波形または赤外光波形におけるピーク点の数が第1所定期間において、少なくとも一方の波形におけるピーク点の数が、第1の閾値より多い場合、変曲点間の心拍間隔時間を用いて、可視光波形および赤外光波形の間の相関度を演算するとしたが、これに限るものではない。例えば、相関度演算部113は、ピーク点を用いず、最初から変曲点間の心拍間隔時間を用いて、可視光波形および赤外光波形の間の相関度を演算してもよい。これにより、可視光波形または赤外光波形からピーク点を精度よく取得できていない場合であっても、変曲点間の心拍間隔時間を算出することで、心拍間隔時間に類似した時間を算出できる。ただし、変曲点間の心拍間隔時間は、ピーク点から取得できる心拍間隔時間に比べて、ノイズはのりにくいが、変曲点が頂点−底点間で変動しやすいという特徴を持つ。すなわち、頂点−頂点の心拍間隔時間が安定しており、例えば、標準偏差が100ms以内となりやすく、変曲点−変曲点間の心拍間隔時間よりも、時間誤差が小さくなる傾向にある。したがって、本開示においては、特に断りがない限り、ピーク点から演算する心拍間隔時間を優先して使用する。
また、相関度演算部113は、上記とは別に、次の条件を満たした場合、変曲点間の心拍間隔時間をピーク点から演算する心拍間隔時間の代わりに、相関度の演算に用いてもよい。その条件とは、例えば、複数の心拍間隔時間および複数の心拍間隔時間のうち、可視光波形および赤外光波形のうちのピーク点の数が少ない方の波形に対応する心拍間隔時間の標準偏差が第4の閾値(例えば、100ms)以下であることである。これは、第1所定期間におけるピーク点の数で、過剰にピーク点が取得されたか否かを判定する場合、実は、ピーク点の数が過剰であるのに、第1所定期間におけるピーク点の数が第1の閾値を超えているという条件にあてはまらず、過剰に取得されたピーク点を見過ごす可能性がある。
例えば、図18は、ピーク点の数が過剰であるのに、第1所定期間におけるピーク点の数が第1の閾値を超えているという条件に当てはまらない例を説明するための図である。図18の(a)および(b)において、共に横軸は時間を示し、縦軸は輝度を示し、黒丸は取得された頂点を示し、白丸は取得された変曲点を示す。
図18の(a)に示すように、可視光波形において、5秒間で取得されたピーク点の数が8個であった場合、第1所定期間におけるピーク点の数が第1の閾値を超えているという条件にはあてはまらないが、図18の(b)に示す赤外光波形において取得されたピーク点の数とは異なる数のピーク点が取得されている。このとき、前述したように、一つでもピーク点を過剰に取得すると、第1心拍間隔時間および第2心拍間隔時間におけるデータナンバーが一つずつずれていくという問題がある、そこで、可視光波形または赤外光波形のいずれか一方の心拍間隔時間がほぼ一定であることが示すことができれば、当該波形のピーク点の数に応じて、調整(削除)することができる。ピーク点の調整の詳細は、図16を用いて説明したとおりである。
なお、相関度演算部113は、可視光波形および赤外光波形の両方の波形において、第1所定期間での心拍間隔時間の標準偏差が第4の閾値を超える場合、両方の波形から適切な脈波タイミングが取得できないと判定し、光源制御部115に、両方の波形から適切な脈波タイミングが取得できないことを示す「False,Both」の信号を送信する。
相関度演算部113は、脈波計測装置10を使用開始時、かつ、可視光波形演算部111によって、第1所定期間でピーク点が適切に取得できていた場合(すなわち、心拍間隔時間の標準偏差が第4の閾値より小さい場合)に、可視光波形の頂点−底点間の傾きを第1の傾きAとして可視光波形演算部111に演算させた結果をメモリに記憶させる。そして、相関度演算部113は、光源制御部115によって、照明装置30または赤外光光源123における光量が変化するたびに、赤外光波形の頂点−底点間の第2の傾きが第1の傾きAになるように、光源制御部115に指令を送る。さらに、相関度演算部113は、光源制御部115において、光源の光量の調整中に取得したピーク点を、可視光波形と赤外光波形との間の相関度の演算に使用しなくてもよい。
図19は、光源の光量の調整中に取得したピーク点を、可視光波形と赤外光波形との間の相関度の演算に使用しないことを説明するための例を示す図である。図19のグラフにおいて、横軸は時間を示し、縦軸は輝度を示し、斜線の領域で光源の光量を調整している様子を示している。また、白丸および黒丸は、取得されたピーク点を示す。
図19に示すように、光源の光量を調整することで、可視光波形または赤外光波形の輝度のゲインが変化し、それに応じてピーク点の尖度も変化する。尖度が変化した後のピーク点に対して、可視光波形演算部111または赤外光波形演算部112においてフィルタをかけると、フィルタをかける前の生波形のピークの尖度によって、ピーク点の位置が時間軸において前後に変化する。生体情報として心拍数を算出する程度であれば、この誤差は問題にならないが、脈波伝播時間から血圧を算出する場合等では、この誤差による影響は大きい。したがって、本開示の脈波計測装置10では、第1〜第4制御信号により照明装置30または赤外光光源123の光量を制御している間において取得された可視光波形または赤外光波形から所定の特徴点(つまり、ピーク点)を抽出しなくてもよい。
つまり、可視光波形演算部111は、複数の第1ピーク点の抽出において、可視光制御信号により照明装置30の光量を制御している期間を除く期間において取得された第1可視光波形から複数の第1ピーク点を抽出する。また、可視光波形演算部111は、複数の第3ピーク点の抽出において、第3制御信号により照明装置30の光量を制御している期間を除く期間において取得された第2可視光波形から複数の第3ピーク点を抽出する。
また、赤外光波形演算部112は、複数の第2ピーク点の抽出において、赤外光制御信号により赤外光光源123の光量を制御している期間を除く期間において取得された第1赤外光波形から複数の第2ピーク点を抽出する。また、赤外光波形演算部112は、複数の第4ピーク点の抽出において、第4制御信号により赤外光光源123の光量を制御している期間を除く期間において取得された第2赤外光波形から複数の第4ピーク点を抽出する。
なお、相関度演算部113は、可視光波形および赤外光波形における心拍間隔時間の相関係数が、第2の閾値より小さい場合、いずれか一方または両方の波形のピーク点の数が過剰であるとして、心拍間隔時間の誤差や各心拍間隔時間の標準偏差を算出し、所定の条件を満たした場合、波形の頂点から底点までの間の変曲点間の心拍間隔時間を用いるとしたが、これに限らない。相関度演算部113は、例えば、第1心拍間隔時間および第2心拍間隔時間の相関係数が第2の閾値より小さくても、両波形におけるピーク点は適切に取得できている(例えば、両波形の心拍間隔時間における標準偏差が共に、第4の閾値以下である)場合、光源制御部115に、「False」の信号を送信する。
このように、相関度演算部113は、演算した相関度と、可視光波形および赤外光波形からの所定の特徴点の抽出結果とに応じた信号(例えば、「True」、「False」、「False,RGB」、「False,IR」および「False,Both」のいずれか)を光源制御部115に送信する。
上記に説明したように、相関度演算部113は、第1心拍間隔時間および第2心拍間隔時間に基づいて、以下の判定を行う。
つまり、相関度演算部113は、第1標準偏差が第4の閾値を超えており、かつ、前記第2標準偏差が前記第4の閾値を超えているか否かを判定する第2判定を行う。また、相関度演算部113は、第2判定の結果、第1標準偏差が第4の閾値を超えており、かつ、第2標準偏差が第4の閾値を超えていると判定した場合、複数の第1心拍間隔時間のうちの一の第1心拍間隔時間と、複数の第2心拍間隔時間のうちの、当該一の第1心拍間隔時間に時系列において対応する一の第2心拍間隔時間との第1時間差が第5の閾値未満であるか否かの第3判定、および、第5の閾値よりも大きい第6の閾値より第1時間差が大きいか否かの第4判定を行う。
一方、相関度演算部113は、第3判定および第4判定の結果、第1時間差が第5の閾値よりも小さいと判定した場合、第2標準偏差が第4の閾値以下であるか否かを判定する第5判定を行う。
また、相関度演算部113は、第3心拍間隔時間および第4心拍間隔時間に基づいて、以下の判定を行ってもよい。
つまり、相関度演算部113は、第3標準偏差が第4の閾値を超えており、かつ、第4標準偏差が第4の閾値を超えているか否かを判定する第6判定を行う。また、相関度演算部113は、第6判定の結果、第3標準偏差が第4の閾値を超えており、かつ、第4標準偏差が前記第4の閾値を超えていると判定した場合、複数の第3心拍間隔時間のうちの一の第3心拍間隔時間と、複数の第4心拍間隔時間のうちの、当該一の第3心拍間隔時間に時系列において対応する一の第4心拍間隔時間との第2時間差が第5の閾値未満であるか否かの第7判定、および、第6の閾値より前記第2時間差が大きいか否かの第8判定を行う。
一方、相関度演算部113は、第7判定および第8判定の結果、第2時間差が第5の閾値よりも小さいと判定した場合、第4標準偏差が第4の閾値以下であるか否かを判定する第9判定を行う。
(制御パターン取得部)
制御パターン取得部114は、脈波計測装置10の外部にある照明装置30を調光するための制御パターンであって、当該照明装置30に予め定められた制御パターンを取得する。制御パターン取得部114は、取得した制御パターンを光源制御部115に送信する。具体的には、制御パターン取得部114は、様々な機種の照明装置30の制御パターンを機種毎に複数記憶しており、照明装置30を認識するたびに、記憶している複数の制御パターンと認識した照明装置30とのマッチングを行い、認識した照明装置30を制御するための制御パターンを選択する。
制御パターン取得部114は、例えば、各種メーカーの品番とその品番に対応する照明装置を制御するための制御パターンを記憶していてもよい。これにより、例えば、ユーザが初めて脈波計測装置10を使用するときに、制御パターン取得部114は、照明装置30の品番の入力を受け付けることで、受け付けた品番に対応する制御パターンを選択することで、当該制御パターンを取得するようにしてもよい。なお、ユーザからの入力は、脈波計測装置10が入力ボタンなどの入力IFを有していれば脈波計測装置10が受け付けてもよいし、携帯端末200により起動されたリモコンアプリ経由で受け付けてもよい。後者の場合、脈波計測装置10は、携帯端末200に入力された品番を携帯端末200から受信する。これにより、制御パターン取得部114は、各品番に応じた制御パターンを認識でき、また、品番に応じた、制御信号を選択することができる。
なお、制御パターンは、ON、OFF信号でなく、照明装置の種類による、例えば、二段階の制御パターンや、多段階の照明変化パターン、さらには、色温度を変化させられるかが判定でき、本装置が自動的に、照明装置を認識することができる。つまり、制御パターンは、照明装置30の機種に応じた制御パターンを含み、第1制御パターン、第2制御パターン、第3制御パターンおよび第4制御パターンの少なくともいずれかを含んでいてもよい。第1制御パターンは、光量および色温度を調整する制御パターンである。第2制御パターンは、例えば、オンオフの一段階で光量を調整する制御パターンである。第3制御パターンは、第1可視光光量と、第1可視光光量よりも小さい第2可視光光量との二段階で光量を調整する制御パターンである。第4制御パターンは、無段階で光量を調整する制御パターンである。
(光源制御部)
光源制御部115は、相関度演算部113から受信した、相関度および抽出結果に応じた信号に応じて、照明装置30の可視光の光量、および、赤外光光源123における赤外光の光量の少なくとも一方を、増加させるか、減少させるか、維持するかのいずれかに決定し、決定結果に応じた第1〜第4制御信号を照明装置30および赤外光光源123に出力する。
また、光源制御部115は、制御パターン取得部114より、照明装置30の調光に用いられる制御パターンを取得し、取得した制御パターンに応じて、照明装置30の光源である可視光LED31の光量を調整するタイミングと、当該光量とを決定する。具体的には、光源制御部115は、赤外光光源123が発する赤外光の光量の制御に応じて、制御パターン取得部114が取得した制御パターンを用いて、照明装置30が照射する光量を制御する可視光制御信号を照明装置に出力する。
光源制御部115は、「False」の信号を受信した場合、可視光波形および赤外光波形における第1および第2心拍間隔時間の相関係数が第2の閾値より小さいが、各波形の心拍間隔時間は適切に取得できていると判断できる。このとき、光源制御部115は、可視光波形に対して、赤外光波形の信号が弱く、各波形における所定の特徴点は取得できる状態であるが、例えば、ピーク点の尖度が小さいため、フィルタ処理等により、毎回ピークの位置がずれている場合と判断できる。したがって、この場合、光源制御部115は、赤外光光源123における光量を赤外光波形の頂点から底点までの第2の傾きがメモリに記憶している第1の傾きAになるまで、増加させる。
また、光源制御部115は、「TRUE」の信号を受信した場合、可視光波形および赤外光波形における所定の特徴点が一致していることを示していると判断できる。このため、光源制御部115は、照明装置30における可視光の光量を下げて、赤外光光源123における赤外光の光量を赤外光波形の頂点から底点までの第2の傾きがメモリに記憶している第1の傾きAになるまで増加させる。つまり、光源制御部115は、相関度が第2の閾値以上の場合、可視光光源における可視光の光量を減少させ、赤外光光源における赤外光の光量を増加させる。また、赤外光の光量の増加では、赤外光波形における第2の傾きが、メモリ(ストレージ103)に記憶している第1の傾きAになるまで、赤外光の光量を増加させる。
なお、第3可視光画像の取得、第2可視光波形の抽出、第2赤外光画像の取得、第2赤外光波形の抽出、および、第2相関係数の演算は、脈波演算装置100の各処理部において、繰り返し行われる。光源制御部115は、繰り返し行われる第2相関係数の演算において、第2の傾きと、メモリに記憶している第1の傾きとが比較され、第2の傾きが、第1の傾きになるまで、赤外光制御信号を赤外光光源123に出力する。
また、光源制御部115は、例えば、「False,IR」の信号を受信した場合、赤外光波形演算部112が赤外光波形において所定の特徴点を適切に取得できていないと判断できる。つまり、例えば、「False,IR」の信号は赤外光波形にノイズが多いということを示している。このため、照明装置30における光量は調整せず、赤外光光源123における光量を増加させる。
つまり、光源制御部115は、第3判定および第4判定の結果、第1時間差であるが絶対誤差eが、第6の閾値(200〔ms〕)より大きいと判定された場合、赤外光制御信号を赤外光光源123に出力する。また、光源制御部115は、第7判定および第8判定の結果、第2時間差であるが絶対誤差eが、第6の閾値(200〔ms〕)より大きいと判定された場合、赤外光制御信号を赤外光光源123に出力する。光源制御部115は、赤外光制御信号を赤外光光源123に出力することで赤外光光源123における光量を増加させる。
また、光源制御部115は、「False,RGB」の信号を受信した場合、可視光波形演算部111が可視光波形において所定の特徴点を適切に取得できていないと判断できる。また、光源制御部115は、この場合、赤外光波形演算部112が赤外光波形において所定の特徴点を適切に取得できているか否かを判断できない。したがって、光源制御部115は、例えば、赤外光波形において、第1所定期間の心拍間隔時間の標準偏差が第4の閾値以下であれば、照明装置30における光源の光量を減少させ、赤外光光源123における光源の光量を赤外光波形の頂点から底点までの間の傾きがAになるまで、増加させる。また、光源制御部115は、赤外光波形における上記標準偏差が第4の閾値を超えていれば、共に信号が取得できていないと判定し、信号を「False,Both」に変更する。
つまり、光源制御部115は、第5判定の結果、第2標準偏差が第4の閾値以下であると判定した場合、可視光制御信号を照明装置30に出力し、かつ、赤外光制御信号を赤外光光源123に出力する。光源制御部115は、第2標準偏差が第4の閾値より大きいと判定した場合、第3制御信号を照明装置30に出力し、かつ、第4制御信号を赤外光光源に出力する。なお、第5判定は、上述したように、第3判定および第4判定の結果、第1時間差が第5の閾値よりも小さいと判定した場合に行われる、第2標準偏差が第4の閾値以下であるか否かの判定である。
また、光源制御部115は、第9判定の結果、第4標準偏差が第4の閾値以下であると判定した場合、可視光制御信号を照明装置30に出力し、かつ、赤外光制御信号を赤外光光源123に出力する。光源制御部115は、第9判定の結果、第4標準偏差が第4の閾値より大きいと判定した場合、第3制御信号を照明装置30に出力し、かつ、第4制御信号を赤外光光源123に出力する。なお、第9判定は、上述したように、第7判定および第8判定の結果、第2時間差が第5の閾値よりも小さいと判定した場合に行われる、第4標準偏差が第4の閾値以下であるか否かの判定である。
また、光源制御部115は、「FALSE,Both」の信号を受信した場合、可視光波形においても、赤外光波形においても所定の特徴点が取得できていないと判断できる。光源制御部115は、この場合、可視光波形の頂点から底点までの傾きが第1の傾きAになるまで、照明装置30の光量を増加させる。なお、光源制御部115は、可視光波形の初期の光量がメモリに記憶されていれば、当該初期の光量になるまで照明装置30の光量を増加させてもよい。また、光源制御部115は、赤外光光源123の光量を0まで減少させる。つまり、光源制御部115は、可視光波形および赤外光波形の両方において、所定の特徴点が取得できない場合、最も確実に取得できる状態である、照明装置30の光量および赤外光光源123の光量を初期状態とし、再度光量の調整を行う。
つまり、光源制御部115は、第3判定および第4判定の結果、第1時間差である絶対誤差eが第5の閾値以上第6の閾値以下であると判定された場合、第3制御信号を照明装置30に出力し、かつ、第4制御信号を赤外光光源123に出力する。また、光源制御部115は、第7判定および第8判定の結果、第2時間差である絶対誤差eが第5の閾値以上第6の閾値以下であると判定された場合、第3制御信号を照明装置30に出力し、かつ、第4制御信号を赤外光光源123に出力する。光源制御部115は、第3制御信号を照明装置30に出力することで、照明装置30の光量を増加させ、第4制御信号を赤外光光源123に出力することで、赤外光光源123の光量を減少させる。
つまり、光源制御部115は、複数の第1心拍間隔時間の標準偏差が第4の閾値を超えており、かつ、複数の第2心拍間隔時間の標準偏差が第4の閾値を超えている場合であって、時系列において互いに対応する第1心拍間隔時間および第2心拍間隔時間の差が第5の閾値((−1)×第3の閾値)より小さい場合、照明装置30における可視光の光量を減少させ、かつ、赤外光光源123における赤外光の光量を増加させ、赤外光の光量の増加では、赤外光波形における第2の傾きが、メモリに記憶している第1の傾きAになるまで、赤外光の光量を増加させる。
また、光源制御部115は、複数の第1心拍間隔時間の標準偏差が第4の閾値を超えており、かつ、複数の第2心拍間隔時間の標準偏差が第4の閾値を超えている場合であって、時系列において互いに対応する第1心拍間隔時間および第2心拍間隔時間の差が第6の閾値(つまり第3の閾値)より大きい場合、赤外光光源123における赤外光の光量を増加させ、赤外光の光量の増加では、赤外光波形における第2の傾きが、メモリに記憶している第1の傾きAになるまで、赤外光の光量を増加させる。
また、光源制御部115は、複数の第1心拍間隔時間の標準偏差が第4の閾値を超えており、かつ、複数の第2心拍間隔時間の標準偏差が第4の閾値を超えている場合であって、時系列において互いに対応する第1心拍間隔時間および第2心拍間隔時間の差が第5の閾値から第6の閾値までの間の値である場合、照明装置30における可視光の光量を増加させ、かつ、赤外光光源123における赤外光の光量を減少させる。
なお、光源制御部115は、「False,Both」等の、可視光波形および赤外光波形の両方において、所定の特徴点が取得できなかった場合以外は、赤外光光源123の光量を赤外光波形の第2の傾きが第1の傾きAになるまで増加させるとしたが、これに限らない。光源制御部115は、例えば、ROIにおける平均輝度値が、第7の閾値、例えば240を超えている場合、光源の光量が強すぎることにより、ユーザの肌から撮像される画像がノイズ情報に埋もれてしまう。なお、平均輝度の「240」は、輝度を示す0から255の値のうちの「240」であり、大きい値ほど輝度が大きいことを示す。このため、光源制御部115は、この場合、赤外光波形の第2の傾きが第1の傾きAを超えていると考えられるので、第2の傾きが第1の傾きAになるまで、赤外光の光量を減少させてもよい。
図20は、脈波計測装置を用いて、可視光光源の光量を0になるまで減少させ、かつ、赤外光光源の光量を適切な光量まで増加させる最も簡単なステップの例を示す図である。図20における(a)〜(d)の全てのグラフにおいて、横軸は時間を示し、縦軸は輝度を示す。また、図20では、可視光波形をRGBと表記し、赤外光波形をIRと表記している。
図20の(a)は、ユーザが脈波計測装置10で照明装置30をONにした初期状態において、取得された可視光波形および赤外光波形を示す図である。図20の(a)の可視光波形は、図20の(a)〜(d)の可視光波形のうちで、頂点から底点までの傾きが最も大きい波形である。したがって、この時の可視光波形の頂点から底点までの傾きを第1の傾きAとして、メモリに記憶する。
また、この時、赤外光光源123はOFFとなっている。このため、赤外光波形は、ほとんど取得されない。この状態では、相関度演算部113は、光源制御部115に、例えば、「False,IR」という信号を送信する。したがって、光源制御部115では、赤外光光源123における赤外光光源123の光量を増加させる。この時、赤外光光源123の光量を増加させるにつれて、赤外光波形演算部112では、赤外光波形の所定の特徴点が取得できるようになり、第2の心拍間隔時間が取得できる。また、取得した第2心拍間隔時間の標準偏差は、第4の閾値以内に収まるようになる。そして、図20の(b)に示すように、第2心拍間隔時間の標準偏差を第4の閾値以内に収まった状態を維持しながら、赤外光波形の頂点−底点間の第2の傾きが第1の傾きAになるまで、赤外光光源123の光量を増加させる。第2の傾きが第1の傾きAとなった場合、相関度演算部113は、光源制御部115に、例えば、「TRUE,AMP=A」の信号を送信する。このため、光源制御部115は、「TRUE,AMP=A」の信号を受信した時点で、光源の調整を一度中止する。
次に、図20の(b)の状態から、光源制御部115は、照明装置30における可視光源の光量を減少させていく。図20の(c)は、赤外光波形演算部112において、心拍間隔時間の標準偏差が第4の閾値以下であり、照明装置30における光源がOFFとなっている状態である。また、図20の(d)は、さらに、照明装置30における光源がOFFとなっており、かつ、赤外光波形における第2の傾きが第1の傾きAとなっている状態、すなわち、最終的に目指す状態である。
図20の(b)の状態から図20の(c)の状態になる過程では、可視光の光量を一定間隔ずつ、例えば、1Wずつ減少させていく。そして、可視光の光量を減少させるたびに、赤外光波形演算部112および相関度演算部113は、赤外光波形において所定の特徴点が適切に取得できているか確認する。また、赤外光波形演算部112および相関度演算部113は、赤外光波形において所定の特徴点が適切に取得できていることが確認できれば、図20の(d)に示すように、赤外光光源123の光源における光量を、赤外光波形における第2の傾きが第1の傾きAになるまで増加させる。
したがって、図20の(b)の状態から図20の(c)の状態になる過程では、相関度演算部113は、光源制御部115に対して、「True」の信号、もしくは、「False,IR」の信号を送信し、光源制御部115は、「False,IR」の信号を受信する度に「True」になるまで、赤外光光源123の光量を調整する。そして、光源制御部115は、照明装置30の光量を減少させることで、相関度演算部113から「False,RGB」を受信すると、この過程を終了する。
または、図20の(c)の状態から図20の(d)の状態になる過程において、相関度演算部113は、光源制御部115に対し、「False,RGB」の信号を送信し、光源制御部115は、赤外光光源123における光源の光量を赤外光波形における第2の傾きが第1の傾きAになるまで増加させ続け、例えば、可視光波形が取得できず、かつ、第2の傾きが第1の傾きAになったことを示す「False,RGB,AMP=A」の信号を相関度演算部113から受信すれば、光源制御部115による光源の光量の制御を終了する。
また、光源制御部115は、可視光波形演算部111または赤外光波形演算部112において、可視光波形または赤外光波形のそれぞれ、当該波形から連続する2つ以上の所定の特徴点が取得できた後に、光源の制御を行うという特徴を持つ。つまり、光源制御部115は、赤外光制御信号の出力において、第1可視光波形から連続する2つ以上の第1ピーク点が第2所定期間内に抽出されるまで、または、第2可視光波形から連続する2つ以上の第3ピーク点が第2所定期間内に抽出されるまで、赤外光制御信号の出力を待機する。また、光源制御部115は、赤外光制御信号の出力において、第1赤外光波形から連続する2つ以上の第2ピーク点が第2所定期間内に抽出されるまで、または、第2赤外光波形から連続する2つ以上の第4ピーク点が第2所定期間内に抽出されるまで、赤外光制御信号の出力を待機する。
図21は、可視光波形および赤外光波形のそれぞれにおいて、当該波形から連続する2つ以上の所定の特徴点が第2所定期間内に抽出されるまで、光源制御を待機することを説明するための図である。図21におけるグラフは、可視光波形または赤外光波形を示す。図21のグラフにおいて、横軸は時間を示し、縦軸は輝度を示す。
光源制御部115は、照明装置30、または、赤外光光源123の光量を変化させると、可視光波形または赤外光波形の輝度のゲインが変化する。そして、輝度のゲインが変化すると、脈波タイミングの位置がずれるため、心拍間隔時間等のタイミングの算出において、大きな誤差が生じる。また、本開示では、可視光波形と赤外光波形との相関度の判定材料として、心拍間隔時間を主に用いており、心拍間隔時間を算出するためには2つの連続するピーク点が必要である。したがって、図21に示すように、光源制御部115は、可視光波形または赤外光波形において、連続してピーク点が2つ以上取れていることを確認した後、光源量を調整する。
ここまで、照明装置30が、完全に調光制御可能である場合(つまり、第4制御パターンによって調光可能な照明装置である場合)の、光源制御部115における制御方法について説明した。次に、照明装置30が、第2制御パターンによって調光可能な照明装置である場合、第3制御パターンによって調光可能な照明装置である場合について、それぞれ説明する。
基本的な制御手法については、照明制御パターン記憶部110における説明の通りであるが、相関度演算部113での判定に対する、光源の制御方法で特徴的な場合について説明する。
照明装置30は、無段階で光量を調整する第4制御パターンの場合と比較して、オンオフの一段階で光量を調整する第2制御パターン、もしくは、第1可視光光量と第2可視光光量との二段階で光量を調整する第3制御パターンにより調光される装置である場合は、可視光の光量を任意の光量に自在に変えることができない。
そこで、光源制御部115は、例えば、相関度演算部113から、「TRUE」の信号を受け取った場合、赤外光の光源を赤外光波形における第2の傾きが第1の傾きAになるまで増加させ、そこからさらに、赤外光波形の所定の特徴点(つまり、ピーク点)が検出できる範囲まで、増加させるための制御信号を、赤外光制御信号として赤外光光源123に出力する。
光源制御部115は、赤外光制御信号を出力した後、照明装置30における照明の光量を一段階を下げる制御信号を可視光制御信号として出力する。
具体的には、光源制御部115は、照明装置30が第2制御パターンにより調光される装置である場合、照明装置30をオンの状態からオフの状態にさせる制御信号を可視光制御信号として出力する。
また、光源制御部115は、照明装置30が第3制御パターンにより調光される装置である場合、照明装置30の光量が第1可視光光量であれば、第1可視光光量から第1可視光光量よりも小さい第2可視光光量に変更する制御信号を可視光制御信号として出力する。また、光源制御部115は、照明装置30が第3制御パターンにより調光される装置である場合、照明装置30の光量が第2可視光光量であれば照明装置30をオフの状態にさせる制御信号を可視光制御信号として出力する。
《第1制御パターン》
次に、照明装置30の調光が光量および色温度を調整によって行われる場合について説明する。
照明装置30が、光量および色温度を調整する第4制御パターンにより調光される装置である場合、まず、照明装置30が照射する可視光の色温度を所定の色温度以下、例えば、2500K以下にしてから、上述した光源の切り替え制御を行う。
図22は、色温度の変化による、可視光撮像部122における、ユーザの顔の見え方の違いを説明するための図である。図22の(a)は、日常の照明、例えば、昼白色(5000K程度)の時の、ユーザの顔が撮像された画像の一例を示す図であり、図22の(b)は、色温度を低くし、電球色(2500K程度)を照射した際のユーザの顔が撮像された画像の一例を示す図である。このとき、脈波計測装置10では、使用するアルゴリズムを変更し、RGBの輝度信号から可視光波形を取得するのではなく、RGBの輝度信号から演算した色相Hの色相信号を用いる。
図23は、RGBの輝度信号から色相Hの色相信号を演算する演算処理について説明するための図である。図23の(a)〜(c)は、可視光撮像部122によって、取得できる各RGB信号(可視光波形)を示すグラフである。図23の(a)〜(c)のそれぞれにおいて、横軸は時間を示し、縦軸は各RGBの輝度を示す。また、図23の(d)は、これら3つの信号から演算した色相Hの信号(色相波形)を示すグラフである。図23の(d)において、横軸は時間を示し、縦軸は色相環における角度を示す。なお、色相環における0度は、R信号においてゲインがあり、他のG信号およびB信号は0である状態である。また、色相信号は、RGBの輝度信号から式3により演算される。
式3において「R」はR信号(赤色信号)の輝度値、「B」はB信号(青色信号)の輝度値、「G」はG信号(緑信号)の輝度値である。
式3は、色における輝度信号がR>G>Bの順になっている場合の式であるが、ユーザの肌の色は、基本的にこの関係を満たしており、上記の式3を使用することができる。このように、式2を用いてRGBの輝度信号を色相信号に変換すると、図24に示すように、ユーザの肌の色は、色相環において、0度以上60度以下の色相範囲に存在する色として表される。つまり、RGBの輝度信号ではなく、色相Hの色相信号を用いることで、RGBの輝度信号に含まれる輝度成分を打ち消すことができ、色み成分の変化を得ることができる。このため、輝度変化によるノイズの影響を少なくできる。
つまり、光源制御部115は、照明装置30の色温度を予め定められた温度(例えば、2500K)に調整する制御信号を、色温度制御信号として照明装置30に出力する。そして、可視光波形演算部111は、色温度制御信号の出力の後において取得した第3可視光画像から得られた色相を、式3を用いて演算し、演算した色相を用いて可視光波形を抽出する。
さらに、色温度を2500K以下とする制御を最初に行うことで、電球色のような赤っぽい光をユーザの頬にあてることになる。これにより、可視光撮像部122で撮像した結果、ユーザの肌表面の色み変化は、色相環の30度付近で振動する結果が得られるようになる。このとき、30度の軸は、RGBのG信号の軸と垂直に交わるという特徴を持っているため、脈波の変化が現れやすいG信号の変化に最も影響を受けやすい。よって、ユーザの肌表面の色みを白から赤っぽく、特に、色相Hの値が30度付近になるように、照明装置30の色温度を変更することで、より体動や環境ノイズに対して、ロバストに可視光波形を取得することができる。
つまり、可視光波形演算部111は、色温度制御信号の出力の後において、照明装置30により色温度が予め定められた温度の可視光を照射されたユーザを可視光領域において撮像することにより得られた第3可視光画像を取得する。そして、可視光波形演算部111は、取得した第3可視光画像の色相を演算し、演算した色相からユーザの脈波を示す波形である色相波形を抽出する。光源制御部115は、抽出された色相波形が所定の基準値(例えば、色相環における30度)を基準とする色相範囲(例えば、0度以上60度以下の範囲)に収まるように照明装置30の色温度を調整する制御信号を、色温度制御信号として照明装置30に出力する。
ここで、図25は、異なる色相範囲に変換した場合に取得される色相波形を示す図である。図25の(a)は、色相環について示す。図25の(b)は、抽出された色相波形が色相環における90度を基準とする60度以上120度以下の色相範囲に収まるように照明装置30の色温度を調整した場合に取得される色相波形を示す。図25の(c)は、抽出された色相波形が色相環における30度を基準とする0度以上60度以下の色相範囲に収まるように照明装置30の色温度を調整した場合に取得される色相波形を示す。図25の(d)は、抽出された色相波形が色相環における90度を基準とする−60度以上0度以下の色相範囲に収まるように照明装置30の色温度を調整した場合に取得される色相波形を示す。
図25に示されるように、抽出された色相波形が色相環における30度を基準とする0度以上60度以下の色相範囲に収まるように照明装置30の色温度を調整した場合に、他の色相範囲に色温度を調整した場合と比較して、輝度変化によるノイズの影響をほとんど受けていない明瞭な波形を得ることができていることが分かる。
また、さらに、電球色は、ユーザにとって、リラックス効果を与え、眠りやすくする効果があるため、ユーザにとっても、色温度を白(5000K)から、赤(2500K)に変更することは、メリットがある。
照明装置30が出力する可視光の色温度の調整は以下のように行ってもよい。
まず、制御パターン取得部114は脈波計測装置10の外部に設けられた照明装置30から、第1対応関係を規定する第1制御パターンを取得する。第1対応関係は、複数の指示と照明装置30が出力する可視光の複数の色温度を示す。複数の指示と複数の色温度は1対1の関係である。脈波演算装置100は予め保持する第1色温度を示す情報を保持する。次に、光源制御部115は、第1色温度に対応する第1指示を、第1制御パターンに規定される第1対応関係を参照して決定する。次に、光源制御部115は、第1指示を照明装置30に出力する。次に、照明装置30は第1指示に対応した色温度を有する可視光をユーザに照射する。次に、可視光撮像部122は第1指示に対応した色温度を有する可視光を照射されたユーザを可視光領域において撮像して複数の第1可視光画像を取得する。次に、可視光波形演算部111は複数の第1可視光画像から第1の複数の色相を演算し、第1の複数の色相からユーザの脈波を示す波形である第1色相波形を抽出する。色相波形を抽出の詳細は図23など用いてすでに詳述した。光源制御部115は、第1色相波形の振幅が所定の色相範囲に属するか否かを判断し、属すると判断した場合、処理は上述した光源の切り替え制御に移る。光源制御部115は、第1色相波形の振幅が所定の色相範囲に属するか否かを判断し、属さないと判断した場合、以下の処理に移る。光源制御部115は、第1色温度と異なる第2色温度に対応する第2指示を、第1制御パターンを参照して決定し、第2指示を照明装置30に出力する。次に、照明装置30は第2指示に対応した色温度を有する可視光をユーザに照射する。次に、可視光撮像部122は第2指示に対応した色温度を有する可視光を照射されユーザを可視光領域において撮像して複数の第4可視光画像を取得する。可視光波形演算部111は複数の第4可視光画像から第2の複数の色相を演算し、演算した第2の複数の色相からユーザの脈波を示す波形である第2色相波形を抽出する。色相波形の抽出の詳細は図23など用いてすでに詳述した。次に、光源制御部115は、第2色相波形の振幅が所定の色相範囲に属するかを判断する。光源制御部115は、第2色相波形の振幅が所定の色相範囲に属すると判断し場合、処理は上述した光源の切り替え制御に移る。光源切り替えの制御において、相関度演算部113は複数の第4可視光画像を用いてユーザの脈波を示す波形である可視光波形と抽出し、この可視光波形と複数の赤外光画像を用いて抽出するユーザの脈波を示す波形である赤外光波形から相関度を求めてもよい。
《第2制御パターン》
図26は、照明装置が第2制御パターンにより調光される装置である場合の可視光光源の光量を0になるまで減少させ、かつ、赤外光光源の光量を適切な光量まで増加させる光源の切り替え制御について説明するための図である。図26の(a)は、可視光光源である照明装置30と赤外光光源123とのそれぞれにおける各光量に応じた電圧の変化を示すグラフである。図26の(a)のグラフにおいて、横軸は時間を示し、縦軸は光量に応じた電圧を示す。図26の(b)および(c)は、共に、図26の(a)のように各光源に印加する電圧を変化させた場合の、可視光波形および赤外光波形を示す。図26の(b)および(c)のグラフにおいて、横軸は時間を示し、縦軸は輝度を示す。
また、可視光を照射する光源である照明装置30から赤外光光源123への光源の切り替え制御において、光源の切り替えが完了する完了時間をTとしている。この完了時間Tは、例えば、切り替えを開始してから2分から10分程度の時間である。これにより、より正確に、可視光波形と赤外光波形とを取得し、比較することができる。
図26に示すように照明装置30の調光の段階が一段階である場合、照明装置30は、照射される可視光はオンかオフかのいずれかで調光される。したがって、脈波計測装置10は、照明装置30がオンである状態で赤外光光源123における光量を調整することで、赤外光の下でユーザの脈波を取得できる状態の光量に調整する必要がある。具体的には、光源制御部115は、赤外光光源123が発する赤外光の光量を予め定められた第1変化量だけ大きくする制御信号を、赤外光制御信号とし赤外光光源123に出力する。赤外光光源123は、当該赤外光制御信号を受信すると、第1変化量だけ光量が増加するように、図26の(a)に示すような所定の電圧が印加され、図26の(b)および(c)に示すように第1変化量だけ光量が増加する。
なお、赤外光撮像部124のハードウェアである赤外光カメラ24は可視光領域の波長帯の光の影響も受ける。このため、脈波計測装置10は、照明装置30をオフにする前に、予め赤外光撮像部124における、照明装置30をオフにすることによる輝度の減少を予測し、赤外光光源123における光量を増加させる必要がある。
そして、光源制御部115は、照明装置30をオフにする制御信号を、可視光制御信号として照明装置30に出力する。照明装置30は、可視光制御信号を受信すると、オフになり、可視光を照射しない状態となる。このように、脈波計測装置10は、照明装置30をオフにした場合であっても、赤外光光源123における光量を予め増加させているため、効果的に赤外光波形の特徴点(例えば、ピーク点のタイミング等)を取得することができる。
なお、光源制御部115は、赤外光光源123の光量の調整を、数を重ねることで学習してもよい。例えば、図22の(c)に示すように、上記の切り替え制御を1回行っただけでは、赤外光光源123での光量の増加量が足りなかったせいで、照明装置30での可視光がオフになった時に、赤外光波形の特徴点(例えばピーク点)を取得できない場合がある。この場合、光源制御部115は、赤外光波形の特徴点が取得できるまで、赤外光光源123における光量をさらに増加させる。そして、光源制御部115は、赤外光波形の特徴量が取得できた場合における、照明装置30がオフになる直前の赤外光の光量と、照明装置30がオフになった後、さらに増加させた赤外光光源123の光量とを記憶し、それらの光量の和を、次回の切り替え制御において照明装置30をオフにする直前に設定する赤外光光源123の光量としてもよい。これにより、脈波計測装置10は、毎回の赤外光波形の取得を失敗する確率を減少させることができ、より効果的にユーザの睡眠中の脈波を取得することができる。
《第3制御パターン》
次に、照明装置30の調光の段階が二段階である場合について説明する。
図27は、照明装置が第3制御パターンにより調光される装置である場合の光源の切り替え制御について説明するための図である。図27の(a)は、可視光光源である照明装置30と赤外光光源123とのそれぞれにおける各光量に応じた電圧の変化を示すグラフである。図27の(a)において、横軸は時間を示し、縦軸は光量に応じた電圧を示す。図27の(b)は、図27の(a)のように各光源に印加する電圧を変化させた場合の、可視光波形および赤外光波形を示す。図27の(b)において、横軸は時間を示し、縦軸は輝度を示す。また、図26と同様に、切り替え制御における完了時間をTとしている。
図27の(a)および(b)に示すように、照明装置30の調光の段階が二段階である場合、可視光が第1可視光光量から第2可視光光量に一段階下がっても、第2可視光光量は0ではないため、可視光波形が取得できる状態である。したがって、二段階である場合、まず、最初の一段階の調光を行う。つまり、光源制御部115は、赤外光光源123が発する赤外光の光量を第1赤外光光量から予め定められた第2変化量だけ大きくした第2赤外光光量に制御する制御信号を、赤外光制御信号として赤外光光源123に出力する。そして、光源制御部115は、照明装置30を第1可視光光量から第2可視光光量に変化させる制御信号を、可視光制御信号として照明装置30に出力する。
赤外光光源123は、当該赤外光制御信号を受信すると、第2変化量だけ光量が増加するように、図27の(a)の一段階目の変化に示すような所定の電圧が印加され、図27の(b)に示すように第2変化量だけ光量が増加する。また、照明装置30は、当該可視光制御信号を受信すると、第1可視光光量から第2可視光光量に光量を変化させる。
このとき、脈波計測装置10では、一段階目の調光において、照明装置30における電圧の降下による、可視光の輝度の減少量を把握できる。それによって、次の一段階の調光において、電圧降下による可視光の輝度降下を予測することができる。
つまり、光源制御部115は、赤外光制御信号を出力する前後の第1および第2赤外光画像から得られる赤外光の輝度変化と、可視光制御信号を出力する前後の第1および第3可視光画像から得られる可視光の輝度変化とに応じて、赤外光光源123の赤外光の光量における第3変化量を決定する。
なお、第1赤外光画像は、赤外光制御信号が出力される前に赤外光撮像部124により撮像された赤外光画像であり、第2赤外光画像は、赤外光制御信号が出力された後に赤外光撮像部124により撮像された赤外光画像である。また、第2可視光画像は、可視光制御信号が出力される前に可視光撮像部122により撮像された可視光画像であり、第3可視光画像は、可視光制御信号が出力された後に可視光撮像部122により撮像された可視光画像である。
ここで決定する第3変化量は、例えば、照明装置30が二段階目の調光によってオフとされたときに赤外光画像に影響しうる赤外光の輝度変化と同等以上の値であってもよい。そして、光源制御部115は、第2赤外光光量から、決定した第3変化量だけ大きくした第3赤外光光量に制御する制御信号を、赤外光制御信号として赤外光光源123に出力する。その後、光源制御部115は、照明装置30をオフにする二段階目の制御信号を、可視光制御信号として照明装置30に出力する。
赤外光光源123は、当該赤外光制御信号を受信すると、第3変化量だけ光量が増加するように、図27の(a)の二段階目の変化に示すような所定の電圧が印加され、図27の(b)に示すように第3変化量だけ光量が増加する。照明装置30は、当該可視光制御信号を受信すると、オフになり、可視光を照射しない状態となる。
このように、脈波計測装置10は、照明装置30が第3制御パターンにより調光される装置である場合、一段階目の調光において可視光の輝度の減少量を取得し、取得した減少量に応じて、赤外光光源123の光量を増加させることで、より効果的に、赤外光波形を取得することができる。
また、照明装置30が、調光する段階が三段階からさらに多くなる多段階になればなるほど、上記と同様の原理を一段階毎に繰り返すことにより、より効果的に赤外光波形を取得できる。
なお、光源制御部115は、「FALSE、BOTH」の信号を受け取った場合、照明装置30における可視光の光量を一番明るい光量に戻した後、赤外光光源123の光量を、再び赤外光波形の第2の傾きが第1の傾きAになるまで、大きくする処理を繰り返す。
《第4制御パターン》
次に、照明装置30の調光の段階が無段階である場合について説明する。
図28は、照明装置が第4制御パターンにより調光される装置である場合の光源の切り替え制御の一例について説明するための図である。図28の(a)は、可視光光源である照明装置30と赤外光光源123とのそれぞれにおける各光量に応じた電圧の変化を示すグラフである。図28の(a)において、横軸は時間を示し、縦軸は光量に応じた電圧を示す。図28の(b)は、図28の(a)のように各光源に印加する電圧を変化させた場合の、可視光波形および赤外光波形を示す。図28の(b)において、横軸は時間を示し、縦軸は輝度を示す。
図28の(a)に示すように、照明装置30の調光の段階が無段階である場合、可視光の光量は、印加する電圧を線形的に下げていくと、線形的に減少し、完了時間Tで電源がオフになる。一方で、赤外光光源123における赤外光の光量は、印加する電圧を線形的に上げていくと、線形的に増加しているのがわかる。このとき、可視光波形は、図28の(b)に示すように、電圧の変化に応じて減少し、赤外光波形は、電圧の変化に応じて増加する。したがって、照明装置30が、第4制御パターンにより調光される装置である場合、可視光波形の取得から赤外光波形の取得にうまく切り替えが行えなかった場合であっても、線形的に増減させることができるため、微調整をしながら、赤外光における脈波を取得することができる。さらに、段階がある場合の照明装置と異なり微調整が可能なため、より可視光における可視光波形の特徴点を捉えながら、赤外光における赤外光波形の特徴点を取得することができる。
なお、照明装置30の調光の段階が無段階である場合、可視光を線形に減少させ、赤外光を線形に増加させるとしたが、これに限るものではない。例えば、図29に示すように、光源制御部115は、照明装置30による照度が所定の閾値、例えば、50〜200ルクスであり、赤外光波形演算部112において、赤外光波形の特徴点が取得できた場合、照度が所定の閾値となるように輝度が制御されている照明装置30をオフとしてもよい。このように制御することで、可視光をオフにするまで線形に減少させる場合と比較して、より早くオフにすることができ、快適な睡眠への導入を行うことができる。
ここで、図29は、照明装置の照度が所定の閾値である場合に、オフにする切り替え制御の一例を示す図である。図29の(a)は、可視光光源である照明装置30と赤外光光源123とのそれぞれにおける各光量に応じた電圧の変化を示すグラフである。図29の(a)において、横軸は時間を示し、縦軸は光量に応じた電圧を示す。図29の(b)は、図29の(a)のように各光源に印加する電圧を変化させた場合の、可視光波形および赤外光波形を示す。図29の(b)において、横軸は時間を示し、縦軸は輝度を示す。
つまり、この場合、脈波計測装置10は、相関度演算部113が演算した相関度が所定の閾値(第2の閾値)以上の場合に、赤外光光源123における赤外光の光量を増加させる制御信号を赤外光制御信号として赤外光光源123に出力し、照明装置30における可視光の光量を減少させる制御信号を可視光制御信号として照明装置30に出力し、第3可視光画像の取得、第2可視光波形の抽出、第2赤外光画像の取得、および、第2赤外光波形の抽出の後にさらに、相関度の演算を繰り返し行う。なお、第2可視光波形は、第3可視光画像から抽出した、ユーザの脈波を示す波形である。第2赤外光波形は、第2赤外光画像から抽出した、ユーザの脈波を示す波形である。
そして、光源制御部115は、照明装置30の光量が第2の閾値以下となり、かつ、繰り返し行われた相関度の演算の結果、相関度が所定の閾値以上となった場合に、照明装置30をオフにする制御信号を、可視光制御信号として照明装置に出力してもよい。なおこの場合の第2の閾値とは、照度が所定の閾値の場合の照明装置30による光量である。
また、照明装置30は、より効果的に可視光を照射する光源である照明装置30から赤外光光源123への光源の切り替え制御を行うために、切り替えにかかる完了時間をTとして設定したが、これに限るものではない。特に、照明装置30の調光の段階が無段階である場合は、ユーザによる指示に応じて、調整時間を早めた切り替え制御を行ってもよい。ユーザの中には、寝る時に毎回光源の切り替えのために完了時間T(例えば、2分から10分もの間)、可視光を制御されるのは、苦痛を感じる人がいる。したがって、図5の(b)に示したように、例えば、「通常モード」と「時短モード」との2種類の切り替え制御を用意してもよい。「通常モード」がユーザにより選択された場合、脈波計測装置10は、通常設定されている完了時間Tをかけて、切り替え制御を行う。また、「時短モード」がユーザにより選択された場合、可視光波形や赤外光波形が取得されることの正確性よりも早さを重視し、例えば、切り替えにかかる完了時間をT/3(例えば、30秒から3分程度)とし、この間に取得された可視光波形および赤外光波形を用いることで、切り替え制御を行ってもよい。
つまり、脈波計測装置10は、通常モードにおける通常処理と、時短モードにおける短時間処理との、いずれかの処理を実行する。通常処理とは、演算した相関度が所定の閾値以上の場合に、赤外光光源123における赤外光の光量を第1速度で増加させる制御信号を赤外光制御信号として出力し、照明装置30における可視光の光量を第2速度で減少させる制御信号を可視光制御信号として出力し、第3可視光画像の取得、第2可視光波形の抽出、第2赤外光画像の取得、および、第2赤外光波形の抽出の後にさらに、相関度の演算を繰り返し行う処理である。短時間処理とは、演算した相関度が所定の閾値以上の場合に、赤外光光源123における赤外光の光量を第1速度よりも2倍以上速い第3速度で増加させる制御信号を赤外光制御信号として出力し、照明装置30における可視光の光量を第2速度よりも2倍以上速い第4速度で減少させる制御信号を可視光制御信号として出力し、第3可視光画像の取得、第2可視光波形の抽出、第2赤外光画像の取得、および、第2赤外光波形の抽出の後にさらに、相関度の演算を繰り返し行う処理である。
図30は、短縮した完了時間において切り替え制御を行う場合の一例を示す図である。図30の(a)は、可視光光源である照明装置30と赤外光光源123とのそれぞれにおける各光量に応じた電圧の変化を示すグラフである。図30の(a)において、横軸は時間を示し、縦軸は光量に応じた電圧を示す。図30の(b)は、図30の(a)のように各光源に印加する電圧を変化させた場合の、可視光波形および赤外光波形を示す。図30の(b)において、横軸は時間を示し、縦軸は輝度を示す。
図30の(a)に示すように、照明装置30から照射される光量は、切り替え制御開始から完了時間T/3でオフになっている。このとき、図30の(b)に示すように、可視光波形のピーク数は、完了時間がTの通常モードでの切り替え制御において取得される可視光波形のピーク数よりも少ない。したがって、時短モードの場合、切り替え制御において赤外光波形を取得するために比較する可視光波形の特徴点のデータ数が減る。このため、切り替え制御の正確度が減ってしまうが、切り替え制御にかかる時間を短縮することができる。この時短モードで切り替え制御を行うことにより、ユーザは、早く寝たい日等は、素早く切り替えを行い、睡眠に入ることができる。
(生体情報算出部)
生体情報算出部116は、可視光波形演算部111で取得された可視光波形または赤外光波形演算部112で取得された赤外光波形のそれぞれの特徴量のいずれか一方を用いて、ユーザの生体情報を算出する。生体情報算出部116は、具体的には、照明装置30がONであり、かつ、可視光波形演算部111において可視光波形を取得できる場合、可視光波形演算部111から第1心拍間隔時間を取得する。そして、生体情報算出部116は、第1心拍間隔時間を用いて、例えば心拍数、ストレス指数などの生体情報を算出する。
一方で、生体情報算出部116は、照明装置30がOFFである、または、可視光波形演算部111において可視光波形が取得できない場合であって、赤外光波形演算部112において赤外光波形が取得できる場合、赤外光波形演算部112から第2心拍間隔時間を取得する。そして、生体情報算出部116は、第2心拍間隔時間を用いて、同様に、例えば心拍数、ストレス指数などの生体情報を算出する。
なお、生体情報算出部116は、可視光波形演算部111および赤外光波形演算部112の両方において各波形(可視光波形および赤外光波形)の特徴量(心拍間隔時間)が抽出できている場合、可視光波形演算部111からの第1心拍間隔時間を用いて、生体情報を算出する。これは、赤外光よりも可視光の方が、体動等のノイズへのロバスト性があり、信頼性が高いからである。
なお、生体情報算出部116は、取得された可視光波形の特徴量を用いて生体情報を算出してもよいし、取得された赤外光波形の特徴量を用いて生体情報を算出してもよい。また、生体情報算出部116は、光源制御部115から第2制御情報が出力された後に取得された第2可視光波形の特徴量を用いてユーザの生体情報を算出してもよいし、光源制御部115から第2制御情報が出力される前に取得された第1可視光波形の特徴量を用いてユーザの生体情報を算出してもよい。同様に、生体情報算出部116は、光源制御部115から赤外光制御信号が出力された後に取得された第2赤外光波形の特徴量を用いてユーザの生体情報を算出してもよいし、光源制御部115から赤外光制御信号が出力される前に取得された第1赤外光波形の特徴量を用いてユーザの生体情報を算出してもよい。
なお、生体情報算出部116は、取得された可視光波形の特徴量を用いて生体情報を算出してもよいし、取得された赤外光波形の特徴量を用いて生体情報を算出してもよい。また、生体情報算出部116は、光源制御部115から第2制御情報が出力された後に取得された第2可視光波形の特徴量を用いてユーザの生体情報を算出してもよいし、光源制御部115から第2制御情報が出力される前に取得された第1可視光波形の特徴量を用いてユーザの生体情報を算出してもよい。同様に、生体情報算出部116は、光源制御部115から赤外光制御信号が出力された後に取得された第2赤外光波形の特徴量を用いてユーザの生体情報を算出してもよいし、光源制御部115から赤外光制御信号が出力される前に取得された第1赤外光波形の特徴量を用いてユーザの生体情報を算出してもよい。
なお、算出する生体情報は、心拍数やストレス指数としたが、これに限ったものではない。例えば、得られた脈波から加速度脈波を算出し、動脈硬化指数を算出してもよい。また、2箇所の異なるユーザの部位から脈波のタイミングを正確に取得し、その時間差(脈波伝播時間)から血圧を推定してもよい。また、心拍間隔時間の変動から、交感神経、副交感神経の優位性を算出し、睡眠深度を算出してもよい。
なお、生体情報算出部116は、ストレス指数としては、LF/HFの数値に応じて、「ストレスが高い」、「ストレスが低い」などを示す情報を出力してもよい。
また、生体情報算出部116は、睡眠深度として、特許文献3に示すように、求めることができる。睡眠深度は、具体的には、LF、HFおよび体動の有無に基づいて、判定できる。なお、睡眠深度とは、被験者の脳の活動状態の程度を示す指標である。例えば、睡眠深度として、ノンレム睡眠、レム睡眠のいずれに該当するかを判定してもよい。さらにノンレム睡眠においてはさらに浅睡眠、深睡眠のいずれに該当するかを判定してもよい。
なお、生体情報算出部116は、判定された睡眠深度の段階毎に段階に応じた数値を付与することで、当該数値を睡眠深度として出力してもよい。
なお、LF(Low Frequency)およびHF(Hi Frequency)は、特許文献3に示すような処理を行うことで得られる。つまり、脈拍間隔データ(心拍間隔時間)を例えばFFT(Fast Fourier Transform)にて周波数スペクトル分布に変換する。次に、得られた周波数スペクトル分布より、LF,HFを得る。具体的には、複数のパワースペクトルのピーク値とピーク値を中心として前後等間隔の1点との3点の合計値の算術平均をとってLF、HFとする。なお、周波数解析法としてFFT法の他の例としては、ARモデル、最大エントロピー法、ウェーブレット法などを用いることができる。
(提示装置)
提示装置40は、生体情報算出部116から受診した、生体情報を提示する装置である。提示装置40は、具体的には、生体情報算出部116より得た心拍数やストレス指数、睡眠深度等の生体情報を提示する装置である。提示装置40は、例えば、携帯端末200により実現され、携帯端末200のディスプレイ204に生体情報を示すグラフィックを表示してもよいし、携帯端末200の図示しないスピーカから生体情報を示す音声を出力してもよい。
なお、提示装置40は、脈波計測装置10にディスプレイが内蔵されている場合、当該ディスプレイによって実現してもよいし、脈波計測装置10にスピーカが内蔵されている場合、当該スピーカによって実現してもよい。
なお、提示装置40は、生体情報算出部116より得た生体情報を提示するとしたが、これに限らない。提示装置40は、例えば、常に、照明装置30における光源の光量や、赤外光光源123における光源の光量を提示してもよい。また、提示装置40は、相関度演算部113より、現在時点での一致度を、例えば、信頼度として%表示で提示してもよい。具体的には、提示装置40は、可視光波形と赤外光波形との間の相関係数を提示してもよい。
図31は、提示装置への表示例を示す図である。図31に示すように、提示装置40は、心拍数、ストレス指数、睡眠深度、また、現在の信頼度(すなわち、可視光波形および赤外光波形の心拍間隔時間の相関係数)を示すグラフィックを表示する。また、提示装置40は、現時点における可視光光源および赤外光光源の光量の比も表示してもよい。また、提示装置40は、これらのパラメータからユーザの睡眠状態がどのような状態なのかを心拍数、ストレス指数および睡眠深度の各数値と、睡眠状態とが予め対応付けられたテーブルを参照することで睡眠状態を判定し、判定した睡眠状態を表示してもよい。提示装置40は、例えば、心拍数65以下、ストレス指数40以下、睡眠深度が70以上だと「GOOD」と表示する。なお、提示装置40は、上記の生体情報などの提示内容を、算出した直後に表示しなくてもよい。つまり、ユーザは、基本的に睡眠を行っているため、算出することにより得られた生体情報などの提示内容をすぐに提示するのではなく、例えば、記録(蓄積)しておき、ユーザが、例えば次の日の朝に、起きた時点で、当該提示内容を提示してもよい。これにより、ユーザは起きてすぐに、いい睡眠が取れたのかどうかを確認できる。
[1−3.動作]
次に、本実施の形態に係る脈波計測装置10の動作について説明する。図32は、本実施の形態における脈波計測装置10の処理の流れを示すフローチャートである。
まず、照明装置30は、ユーザが部屋に入室または、ユーザ自身がコントロールを制御することにより、起動する。
まず、光源制御部115は、照明装置30から第4制御パターンを取得する(S001)。
光源制御部115は、取得した第4制御パターンに基づいて可視光制御信号を照明装置30に出力することで、照明装置30の可視光の色温度を、抽出された色相波形が所定の基準値(例えば、色相環における30度)を基準とする色相範囲(例えば、0度以上60度以下の範囲)に収まるように照明装置30の色温度を調整する(S002)。
可視光波形演算部111は、照明装置30により可視光を照射されたユーザを可視光領域において撮像することにより得られた第2可視光画像を取得する(S003)。
赤外光波形演算部112は、赤外光光源123により赤外光を照射されたユーザを赤外光領域において撮像することにより得られた第1赤外光画像を取得する(S004)。
可視光波形演算部111は、取得した第2可視光画像から、ユーザの脈波を示す波形である第1可視光波形を抽出する(S005)。可視光波形演算部111は、可視光波形において所定の特徴点である第1特徴点を複数抽出する。そして、可視光波形演算部111は、可視光波形の特徴量として、第1心拍間隔時間を算出する。また、可視光波形演算部111は、この時の可視光波形の頂点から底点までの傾きを第1の傾きAとしてメモリに記憶させる。
赤外光波形演算部112は、取得した第1赤外光画像から、ユーザの脈波を示す波形である第1赤外光波形を抽出する(S006)。赤外光波形演算部112は、赤外光波形において所定の特徴点である第2特徴点を複数抽出する。そして、赤外光波形演算部112は、赤外光波形の特徴量として、第2心拍間隔時間を算出する。
そして、相関度演算部113は、ピーク点の判定を行う(S007)。具体的には、相関度演算部113は、可視光波形において抽出された第1特徴点について、過剰取得されたピーク点がないか否かを判定する。また、相関度演算部113は、赤外光波形において抽出された第2特徴点について、過剰取得されたピーク点がないか否かを判定する。なお、相関度演算部113によるピーク点の判定処理の詳細は、後述する。
次に相関度演算部113は、可視光波形および赤外光波形の相関度を演算する(S008)。なお、相関度演算部113による相関度の演算処理の詳細は、後述する。
次に、光源制御部115は、各光源の光量の調整を行う(S009)。光源制御部115は、光量の調整の結果に応じて、各光源の光量を制御するための制御信号を出力する。なお、光源制御部115による照明装置30および赤外光光源123の光量の調整処理の詳細は、後述する。
次に、各光源の調整が行われた後において、ステップS0010〜S013として、ステップS003〜ステップS006の処理を繰り返す。
次に、生体情報算出部116は、可視光波形の特徴量および赤外光波形の特徴量の少なくとも一方から、生体情報を算出する(S014)。
次に、生体情報算出部116は、算出した生体情報を提示装置40へ出力する(S015)。
図33は、本実施の形態におけるピーク点の過剰取得判定処理の詳細を示すフローチャートである。
相関度演算部113は、第1心拍間隔時間の標準偏差SDRGBを算出する(S101)。
次に、相関度演算部113は、標準偏差SDRGBが第4の閾値以下であるか否かを判定する(S102)。
相関度演算部113は、標準偏差SDRGBが第4の閾値以下であると判定した場合(S102でYes)、第2心拍間隔時間の標準偏差SDIRを算出する(S103)。
そして、相関度演算部113は、標準偏差SDIRが第4の閾値以下であるか否かを判定する(S104)。
このように、相関度演算部113は、ステップS102およびステップS104の少なくとも一方を行うことで、算出した標準偏差SDRGBが第4の閾値を超えており、かつ、算出した標準偏差SDIRが前記第4の閾値を超えているか否かを判定する第2判定を行う。
相関度演算部113は、標準偏差SDIRが第4の閾値以下であると判定した場合(S104でYes)、「False」の信号を光源制御部115に送信する(S105)。
一方で、相関度演算部113は、標準偏差SDRGBが第4の閾値を超えると判定した場合(S102でNo)、または、標準偏差SDIRが第4の閾値を超えると判定した場合(S104でNo)、対応する第1心拍間隔時間と第2心拍間隔時間との間の絶対誤差eを算出する(S106)。
相関度演算部113は、絶対誤差eが−200〔ms〕より小さいか否かを判定する(S107)。
相関度演算部113は、絶対誤差eが−200〔ms〕より小さいと判定した場合(S107でYes)、「False,RGB」の信号を光源制御部115に送信する(S109)。
一方で、相関度演算部113は、絶対誤差eが−200〔ms〕以上であると判定した場合(S107でNo)、絶対誤差eが200〔ms〕より大きいか否かを判定する(S108)。
つまり、相関度演算部113は、第2判定の結果、標準偏差SDRGBが第4の閾値を超えており、かつ、標準偏差SDIRが第4の閾値を超えていると判定した場合、時系列において互いに対応する第1心拍間隔時間および第2心拍間隔時間の絶対誤差e(時間差)が第5の閾値未満であるか否かの第3判定、および、第5の閾値よりも大きい第6の閾値より時間差が大きいか否かの第4判定を行う。
相関度演算部113は、絶対誤差eが200〔ms〕より大きいと判定した場合(S108でYes)、「False,IR」の信号を光源制御部115に送信する(S110)。
相関度演算部113は、絶対誤差eが200〔ms〕以下であると判定した場合(S108でNo)、「False,Both」の信号を光源制御部115に送信する(S111)。
図34は、本実施の形態における相関度の演算処理の詳細を示すフローチャートである。
まず、相関度演算部113は、複数の第1心拍間隔時間と複数の第2心拍間隔時間との相関度を演算する(S201)。
相関度演算部113は、演算することにより得られた相関度が第2の閾値より大きいか否かを判定する(S202)。つまり、相関度演算部113は、演算した相関度が第2の閾値以上であるか否かを判定する第1判定を行う。
相関度演算部113は、相関度が第2の閾値より大きいと判定した場合(S202でYes)、「True」の信号を光源制御部115に送信する(S203)。
一方で、相関度演算部113は、相関度が第2の閾値以下で有ると判定した場合(S202でNo)、「False」の信号を光源制御部115に送信する(S204)。
図35は、本実施の形態における光量の調整処理の詳細を示すフローチャートである。
光源制御部115は、相関度演算部113から受信した信号が、「True」、「False」、「False,IR」、「False,RGB」および「False,Both」の信号のいずれの信号であるかを判定する(S301)。
光源制御部115は、受信した信号が「True」の信号である場合、可視光の光量を減少させ、かつ、赤外光の光量を増加させる(S302)。
光源制御部115は、受信した信号が「False」または「False,IR」の信号である場合、赤外光の光量を増加させる(S303)。つまり、光源制御部115は、絶対誤差eが第6の閾値より大きいと相関度演算部113により判定された場合、「False,IR」の信号を受信するため、赤外光光源123における赤外光の光量を増加させる制御信号を赤外光制御信号として赤外光光源123に出力する。
光源制御部115は、ステップS302またはステップS303において、赤外光の光量を増加させた場合、赤外光波形の第2の傾きがメモリに記憶している第1の傾きAに等しいか否かを判定する(S304)。また、光源制御部115は、さらに、ステップS302において、可視光の光量を減少させた場合、可視光の光量が0であるか否かを判定してもよい。
光源制御部115は、第2の傾きが第1の傾きに等しいと判定すれば(S304でYes)、光量の調整処理を終了する。また、光源制御部115は、さらに、可視光の光量が0であると判定すれば、光量の調整処理を終了してもよい。
光源制御部115は、受信した信号が「False,RGB」である場合、標準偏差SDIRが第4の閾値以下であるか否かを判定する(S305)。つまり、光源制御部115は、絶対誤差eが第5の閾値よりも小さいと相関度演算部113により判定された場合、標準偏差SDIRが第4の閾値以下であるか否かを判定する第5判定を行う。
光源制御部115は、標準偏差SDIRが第4の閾値以下であると判定した場合(S305でYes)、ステップS302の処理を行う。つまり、光源制御部115は、標準偏差SDIRが第4の閾値以下であると相関度演算部113により判定された場合、照明装置30における可視光の光量を減少させる可視光制御信号を照明装置30に出力し、かつ、赤外光光源123における赤外光の光量を増加させる赤外光制御信号を赤外光光源123に出力する。
光源制御部115は、受信した信号が「False,Both」である場合、または、標準偏差SDIRが第4の閾値より大きいと判定した場合(S305でNo)、可視光の光量を増加させて初期の光量に戻し、かつ、赤外光の光量を減少させ赤外光光源123をOFFにする(S306)。つまり、光源制御部115は、絶対誤差eが第5の閾値以上第6の閾値以下であると相関度演算部113により判定された場合、「False,Both」の信号を受信するため、照明装置30における可視光の光量を増加させる制御信号を可視光制御信号として照明装置30に出力し、かつ、赤外光光源123における赤外光の光量を減少させる制御信号を赤外光制御信号として赤外光光源123に出力する。または、光源制御部115は、標準偏差SDIRが第4の閾値より大きいと相関度演算部113により判定された場合、照明装置30における可視光の光量を増加させる制御信号を可視光制御信号として照明装置30に出力し、かつ、赤外光光源123における赤外光の光量を減少させる制御信号を赤外光制御信号として赤外光光源123に出力する。
光源制御部115は、ステップS304において第2の傾きが第1の傾きAと異なると判定した場合(S304でNo)またはステップS306が終了した場合、ステップS001に戻る。つまり、脈波計測装置10は、この場合、照明装置30における可視光の光量、および、赤外光光源123における赤外線の光量の変更を行ってもステップS304の判定条件を満たさない場合、ステップS001に戻り、可視光画像の取得、赤外光画像の取得、可視光波形の抽出、赤外光波形の抽出、および、相関度の演算を繰り返し、繰り返し行われた相関度の演算の結果に応じて、赤外光制御信号の出力、および、可視光制御信号の出力を行う。つまり、可視光画像の取得、赤外光画像の取得、可視光波形の抽出、赤外光波形の抽出、相関度の演算、赤外光制御信号の出力、および、可視光制御信号の出力は、ステップS304の判定条件を満たすまで繰り返し行われる。なお、2回目以降の処理で繰り返し取得された可視光画像を第3可視光画像とし、2回目以降の処理で繰り返し取得された赤外光画像を第2赤外光画像とし、2回目以降の処理で繰り返し抽出された可視光波形を第2可視光波形とし、2回目以降の処理で繰り返し抽出された赤外光波形を第2赤外光波形とする。
例えば、第2可視光画像は、可視光制御信号が出力される前に可視光撮像部122により撮像された可視光画像であり、第3可視光画像は、可視光制御信号が出力された後に可視光撮像部122により撮像された可視光画像である。また、第1赤外光画像は、赤外光制御信号が出力される前に赤外光撮像部124により撮像された赤外光画像であり、第2赤外光画像は、赤外光制御信号が出力された後に赤外光撮像部124により撮像された赤外光画像である。
[1−4.効果など]
本実施の形態に係る脈波計測装置10によれば、赤外光光源123が発する赤外光の光量の制御に応じて、照明装置30に予め定められた制御パターンを用いて、照明装置30が照射する光量を制御する。このため、例えば市販の照明装置を利用した場合であっても、可視光の光量の調整と赤外光光量の調整とを適切に行うことができ、精度よく生体情報を算出できる。
また、脈波計測装置10によれば、第1可視光波形の特徴量および第1赤外光波形の特徴量の少なくとも一方から、第2生体情報を算出し、算出した第2生体情報を出力する。
このため、可視光または赤外光の光量の調整前に取得された、第1可視光波形の特徴量および第1赤外光波形の特徴量の少なくとも一方から、第2生体情報を算出し、算出した第2生体情報を出力することができる。
また、脈波計測装置10によれば、照明装置30が、オンオフの一段階で光量を調整する第1制御パターンにより調光される装置である場合、赤外光光源が発する赤外光の光量を予め定められた第1変化量だけ大きくする制御信号を、赤外光制御信号として赤外光光源123に出力し、照明装置30をオフにする制御信号を、可視光制御信号として照明装置30に出力する。
このため、照明装置30が一段階で光量を調整する照明装置であっても、適切に可視光の光量の調整と赤外光の光量の調整とを行うことができる。
また、脈波計測装置10によれば、照明装置30が、第1可視光光量と、第1可視光光量よりも小さい第2可視光光量との二段階で光量を調整する第2制御パターンにより調光される装置である場合、赤外光光源123が発する赤外光の光量を第1赤外光光量から予め定められた第2変化量だけ大きくした第2赤外光光量に制御する制御信号を、赤外光制御信号として赤外光光源123に出力し、照明装置30を第1可視光光量から第2可視光光量に変化させる制御信号を、可視光制御信号として照明装置30に出力し、第1および第2赤外光画像から得られる赤外光の輝度変化と、第1および第3可視光画像から得られる可視光の輝度変化とに応じて、赤外光の光量における第3変化量を決定し、第2赤外光光量から、決定した第3変化量だけ大きくした第3赤外光光量に制御する制御信号を、赤外光制御信号として前記赤外光光源に出力し、照明装置30をオフにする二段階目の制御信号を、可視光制御信号として照明装置30に出力する。
これによれば、脈波計測装置10は、照明装置30が第2制御パターンにより調光される装置である場合、一段階目の調光において可視光の輝度の減少量を取得し、取得した減少量に応じて、赤外光光源の光量を増加させることで、より効果的に、赤外光波形を取得することができる。
また、脈波計測装置10によれば、照明装置30が、無段階で光量を調整する第3制御パターンにより調光される装置である場合において、演算した相関度が所定の閾値以上の場合に、赤外光制御信号の出力では、赤外光光源における赤外光の光量を増加させる制御信号を赤外光制御信号として赤外光光源に出力し、可視光制御信号の出力では、照明装置30における可視光の光量を減少させる制御信号を可視光制御信号として照明装置30に出力し、第3可視光画像の取得、第2可視光波形の抽出、第2赤外光画像の取得、および、第2赤外光波形の抽出の後にさらに、相関度の演算を繰り返し行い、照明装置の光量が第2の閾値以下となり、かつ、繰り返し行われた相関度の演算の結果、相関度が所定の閾値以上となった場合に、照明装置30をオフにする制御信号を、可視光制御信号として照明装置30に出力する。
これによれば、可視光をオフにするまで線形に減少させる場合と比較して、より早くオフにすることができ、快適な睡眠への導入を行うことができる。
また、脈波計測装置10によれば、照明装置30が、無段階で光量を調整する第3制御パターンにより調光される装置である場合において、(i)演算した相関度が所定の閾値以上の場合に、赤外光制御信号の出力では、赤外光光源123における赤外光の光量を第1速度で増加させる制御信号を赤外光制御信号として赤外光光源に出力し、可視光制御信号の出力では、照明装置における可視光の光量を第2速度で減少させる制御信号を可視光制御信号として照明装置に出力し、第3可視光画像の取得、第2可視光波形の抽出、第2赤外光画像の取得、および、第2赤外光波形の抽出の後にさらに、相関度の演算を繰り返し行う通常処理と、(ii)演算した相関度が所定の閾値以上の場合に、赤外光制御信号の出力では、赤外光光源における赤外光の光量を第1速度よりも2倍以上速い第3速度で増加させる制御信号を赤外光制御信号として赤外光光源に出力し、可視光制御信号の出力では、照明装置における可視光の光量を第2速度よりも2倍以上速い第4速度で減少させる制御信号を可視光制御信号として照明装置30に出力し、第3可視光画像の取得、第2可視光波形の抽出、第2赤外光画像の取得、および、第2赤外光波形の抽出の後にさらに、相関度の演算を繰り返し行う短時間処理と、のいずれかの処理を実行する。
このため、切り替え制御にかかる時間を短縮することができる。
また、脈波計測装置10によれば、照明装置30が、光量および色温度を調整する第4制御パターンにより調光される装置である場合、照明装置30の色温度を予め定められた温度に調整する制御信号を、可視光制御信号として照明装置30に出力し、可視光制御信号の出力の後において取得した第3可視光画像から得られた色相を用いて、第2可視光波形を抽出する。また、脈波計測装置10では、可視光制御信号の出力の後において、照明装置30により色温度が前記予め定められた温度の可視光を照射されたユーザを可視光領域において撮像することにより得られた第3可視光画像を取得し、取得した第3可視光画像の色相から、ユーザの脈波を示す波形である色相波形を抽出し、抽出した色相波形が所定の基準値を基準とする範囲に収まるように照明装置の色温度を調整する制御信号を、可視光制御信号として照明装置30に出力する。
これによれば、ユーザの肌表面の色みを白から赤っぽく、特に、色相Hの値が例えば30度付近になるように、照明装置の色温度を変更することで、より体動や環境ノイズに対して、ロバストに可視光波形を取得することができる。
また、脈波計測装置10によれば、ユーザの脈波が撮像された可視光画像から得られた可視光波形と、同一の脈波が撮像された赤外光画像赤外光波形から得られた赤外光波形との相関度を演算し、相関度に応じて赤外光光源が発する赤外光の光量を制御する。このため、赤外光光量の調整を適切に行うことができ、睡眠中などの暗闇状態であっても、ユーザの生体情報を取得することができる。これにより、人に接触する生体センサを設けることなく、非接触での睡眠時の生体モニタリング等が可能になる。
また、脈波計測装置10によれば、相関度演算部113は、可視光波形から算出した第1心拍間隔時間と、赤外光波形から算出した第2心拍間隔時間とを比較することで、相関度を演算する。このため、可視光波形と赤外光波形との間の相関度を容易に演算できる。
また、脈波計測装置10によれば、赤外光光源の光量を調整した後の赤外光波形における第2の傾きとメモリに記憶している第1の傾きAとを比較するため、赤外光光源の光量が適切な光量になったか否かを判定できる。
また、脈波計測装置10によれば、絶対誤差eが第3の閾値を超えている場合、第3の閾値を超えていると判定された第1心拍間隔時間および第2心拍間隔時間のうち、所定の特徴点が多い方の波形における心拍間隔時間の演算の基準となった所定の特徴点を当該心拍間隔時間の演算対象から除外する。このため、過剰に取得されたピーク点を削除することができ、適切な値の第1心拍間隔時間または第2心拍間隔時間を求めることができる。
また、脈波計測装置10によれば、演算した相関度と、可視光波形および赤外光波形からの所定の特徴点の抽出結果とに応じて、可視光光源および赤外光光源における光量をそれぞれ、増加させるか、減少させるか、維持するかのいずれかに決定し、決定結果に応じた制御信号を可視光光源および赤外光光源に出力する。これにより、適切に可視光光源および赤外光光源の光量を調整することができる。
また、脈波計測装置10によれば、制御信号により照明装置30または赤外光光源123の光量を制御している間において取得された可視光波形または赤外光波形から所定の特徴点を抽出しない。このため、所定の特徴点を適切に抽出でき、精度よく生体情報を算出できる。
また、脈波計測装置10によれば、可視光波形および赤外光波形のそれぞれにおいて、当該波形から連続する2つ以上の所定の特徴点が第2所定期間内に抽出されるまで、照明装置30における可視光の光量を制御する制御信号、または、赤外光光源における赤外光の光量を制御する制御信号の出力を待機する。このため、所定の特徴点を適切に抽出でき、精度よく生体情報を算出できる。
[1−5.変形例]
[1−5−1.変形例1]
上記実施の形態では、制御パターン取得部114は、ユーザにより入力された照明装置30の品番に応じて、当該照明装置30に対応する制御パターンを脈波計測装置10のストレージ103に記憶されている複数の制御パターンの中から選択することで、当該制御パターンを取得するとしたが、これに限るものではない。制御パターン取得部114は、例えば、赤外線によって、照明装置30と通信を行うことで、当該照明装置30の制御パターンを読み取ってもよい。具体的には、脈波計測装置10は、赤外線等により複数の制御パターンに含まれる制御信号を送信することで、送信した信号に対する照明装置30の反応を、照明装置30の光量変化に応じて制御パターン取得部114にて判定することで、当該照明装置30に対応する制御パターンを特定してもよい。これにより、ユーザにより品番の入力を受け付けなくても、照明装置30の制御パターンを自動的に特定できる。
具体的には、脈波計測装置10は、図36に示す動作を行ってもよい。
図36は、変形例における制御パターン認識処理のフローチャートである。
脈波計測装置10では、光源制御部115が照明装置30に所定の制御信号を送信する(S401)。光源制御部115は、複数種類の制御信号を照明装置30に送信する。例えば、光源制御部115は、「0000」から「1111」までの16ビットの信号を送信する。
次に、可視光波形演算部111は、取得した可視光画像から照明装置30の光量変化を取得する(S402)。
そして、光源制御部115は、可視光波形演算部111が取得した光量変化に応じて、予め記憶されている複数の制御パターンのうちで最適な制御パターンを選択するマッチング処理を行う(S403)。
光源制御部115は、マッチング処理によって最適な制御パターンを認識するまで、マッチング処理を行う(S404)。
[1−5−2.変形例2]
上記実施の形態では、ユーザは、切り替え制御において、脈波取得の正確性を重視するか、照明装置30のオフまでの速さを重視するかを選択できるとしたが、これに限るものではない。例えば、ユーザの使用回数に応じて、自動的に光源の制御方法を変えてもよい。
具体的には、初期設定時または一度設定を行ってから、10回程度使用した場合には、正確性を重視し、じっくりと可視光と赤外光の光源を切り替えながら、正確な脈波が取得できるようにしてもよい。
また、一方で、一度設定してから数回は、ほとんど環境や条件等が変わらないことが考えられるため、あらかじめ、光源の切り替え制御における可視光および赤外光の光量を記憶しておき、記憶した光量の周辺で微調整することで、速さを重視した制御(つまり、時短モードによる切り替え制御)を行ってもよい。
このように、最低限必要なときに、正確性を重視してしっかり脈波を比較することで、ユーザの睡眠を邪魔することなく、正確に生体センシングができるようになる。
以上のように、本開示は、外部の照明装置に対して、その制御手段を獲得し、付随の赤外光光源との切り替えを行うことができるので、ユーザは照明がある場所ならばどこでも、睡眠中の生体センシングを行うことができるようになる。
[1−5−3.変形例3]
上記実施の形態では、特に言及していないが、照明装置30は、光量0から起動する場合、光量をあらかじめ設定した初期値になるように制御してもよい。これにより、ユーザが好みの照度、または、ユーザによって、脈波が取得しやすい照度があった場合、すぐにその状態にすることができる。
[1−5−4.変形例4]
また、可視光波形演算部111により、可視光波形が取得でき、かつ、可視光波形の頂点−底点間の傾きが最も大きかった時の、照明装置30の光量を記録し、ユーザが部屋に入るたびに、照明装置30の光量が記録した値になるように制御してもよい。
[1−5−5.変形例5]
また、上記実施の形態では特に言及していないが、赤外光は、人の目に照射し続けると、視力が下がる可能性がある。このため、赤外光光源123は、ユーザの顔のうちで、人の目を除く領域にROIを限定して、赤外光を照射してもよい。赤外光光源123は、例えば、ユーザの顔に光を照射する場合、特に頬において脈波が取得しやすい。このため、光源制御部115は、例えばユーザの目の下の部分を特定し、当該部分に向けて赤外光光源123に赤外光を照射させてもよい。光源制御部115は、例えば、赤外光撮像部124により撮像された画像を解析することでユーザの顔認識を行い、顔認識の結果を用いて、ユーザの目の下の部分を特定する。また、光源制御部115は、赤外光光源123から照射されている赤外光のパワーが所定の閾値以上であり、かつ、所定の時間以上経っている場合、赤外光の光量を所定の光量未満に抑えるように赤外光光源123の光量を調整してもよい。また、前述したように、赤外光の場合、ユーザの視力に影響を及ぼすため、ユーザの顔認識から頬の場所を特定し、ユーザの頬に赤外光が照射するように、照射領域を絞ってもよい。
[1−5−6.変形例6]
また、上記実施の形態では、脈波計測装置10における脈波演算装置100は、脈波計測装置10に内蔵されているが、これに限らない。例えば、脈波演算装置100は、外部のサーバ装置として実現されてもよいし、携帯端末200により実現されてもよいし、PCなどの情報端末により実現されてもよい。つまり、この場合、可視光撮像部122および赤外光撮像部124から撮像された画像を取得でき、かつ、照明装置30および赤外光光源123の光量を制御できる構成であれば、脈波演算装置100は、どの装置により実現されてもよい。
[1−5−7.変形例7]
また、脈波計測装置等に含まれる各構成要素は、回路でもよい。これらの回路は、全体として1つの回路を構成してもよいし、それぞれ別々の回路でもよい。また、これらの回路は、それぞれ、汎用的な回路でもよいし、専用の回路でもよい。つまり、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。
また、各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の表示制御方法などを実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、プロセッサおよびメモリを備える脈波計測装置が実行する脈波計測方法であって、前記脈波計測装置の外部に設けられた照明装置から、第1対応関係を規定する第1制御パターンを取得し、前記第1対応関係は、複数の指示それぞれに対応する前記照明装置が出力する可視光の色温度を示し、前記脈波計測装置が保持する第1色温度を示す情報に対応する第1指示を、前記第1制御パターンを参照して決定し、前記第1指示を前記照明装置に出力し、前記照明装置により前記第1指示に対応した色温度を有する可視光を照射されたユーザを可視光領域において撮像して複数の第1可視光画像を取得し、前記複数の第1可視光画像から第1の複数の色相を演算し、前記第1の複数の色相から第1色相波形を抽出し、前記第1色相波形の振幅が所定の色相範囲に属さない場合、前記第1色温度と異なる第2色温度に対応する第2指示を、前記第1制御パターンを参照して決定し、前記第2指示を前記照明装置に出力し、前記照明装置により前記第2指示に対応した色温度を有する可視光を照射された前記ユーザを前記可視光領域において撮像して複数の第2可視光画像を取得し、前記複数の第2可視光画像から第2の複数の色相を演算し、前記第2の複数の色相から第2色相波形を抽出し、前記第2色相波形の振幅が前記所定の色相範囲に属する場合、第1処理行い、前記第1処理は、赤外光光源により赤外光を照射された前記ユーザを赤外光領域において撮像することにより得られた複数の第1赤外光画像を取得し、取得した前記複数の第2可視光画像から、前記ユーザの脈波を示す波形である第1可視光波形を抽出し、取得した前記複数の第1赤外光画像から、前記ユーザの脈波を示す波形である第1赤外光波形を抽出し、抽出した前記第1可視光波形と、抽出した前記第1赤外光波形との間の相関度を演算し、前記相関度に応じて、前記赤外光光源が発する赤外光の光量を制御する赤外光制御信号を前記赤外光光源に出力し、前記相関度に応じて、前記照明装置が発する可視光の光量を制御する可視光制御信号を前記照明装置に出力し、前記照明装置により前記可視光制御信号に基づく可視光を照射されたユーザを可視光領域において撮像することにより得られた複数の第3可視光画像を取得し、赤外光光源により前記赤外光制御信号に基づく赤外光を照射された前記ユーザを赤外光領域において撮像することにより得られた複数の第2赤外光画像を取得し、取得した前記複数の第3可視光画像から、前記ユーザの脈波を示す波形である第2可視光波形を抽出し、取得した前記複数の第2赤外光画像から、前記ユーザの脈波を示す波形である第2赤外光波形を抽出し、前記第2可視光波形の特徴量および前記第2赤外光波形の特徴量の少なくとも一方から、第1生体情報を算出し、算出した前記第1生体情報を出力することを含む脈波計測方法を実行させる。
以上、一つまたは複数の態様に係る脈波計測装置等について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
例えば、上記実施の形態において、特定の構成要素が実行する処理を特定の構成要素の代わりに別の構成要素が実行してもよい。また、複数の処理の順序が変更されてもよいし、複数の処理が並行して実行されてもよい。