JP2021069813A - バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム - Google Patents

バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム Download PDF

Info

Publication number
JP2021069813A
JP2021069813A JP2019199403A JP2019199403A JP2021069813A JP 2021069813 A JP2021069813 A JP 2021069813A JP 2019199403 A JP2019199403 A JP 2019199403A JP 2019199403 A JP2019199403 A JP 2019199403A JP 2021069813 A JP2021069813 A JP 2021069813A
Authority
JP
Japan
Prior art keywords
reliability
user
color change
camera
time series
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019199403A
Other languages
English (en)
Other versions
JP7340801B2 (ja
Inventor
中村 剛
Takeshi Nakamura
中村  剛
田中 義照
Yoshiteru Tanaka
義照 田中
忠則 手塚
Tadanori Tezuka
忠則 手塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2019199403A priority Critical patent/JP7340801B2/ja
Publication of JP2021069813A publication Critical patent/JP2021069813A/ja
Priority to JP2023131041A priority patent/JP2023144028A/ja
Application granted granted Critical
Publication of JP7340801B2 publication Critical patent/JP7340801B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】ユーザの周囲に複数のカメラが配置された環境下において、ユーザの生体情報を高精度に計測する。【解決手段】周囲に複数のカメラが配置されたユーザの生体情報を計測するバイタルデータ出力方法は、複数のカメラのうち少なくとも1つのカメラによって撮像されたユーザの撮像映像を取得し、撮像映像に基づいて、ユーザの生体情報を含む生体信号を抽出し、抽出された生体信号の信頼度を算出し、算出された信頼度が所定の比較参照値以上となる条件を満たす場合に、生体信号に基づいてユーザの生体情報を推定して出力する。【選択図】図2

Description

本開示は、バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステムに関する。
特許文献1には、第1表示装置に接続された第1カメラによって撮影されるビデオ会議を制御するビデオ会議制御方法が開示されている。このビデオ会議制御方法は、プロセッサが、ユーザ環境において、第1カメラに対する顔の向きが、第2表示装置に接続されて
いる第2カメラに対する顔の向きよりも正面から離れている場合、又は、第1カメラにおいて顔の向きが検出できない場合に、第2表示装置で入出力イベント及びアプリケーションイベントの少なくとも一方が検出されたとき、ビデオ会議を第2カメラに切り替える。
特開2017−108366号公報
しかし、上述した特許文献1の構成を、例えば複数のモニタを交互に見ながら仕事するユーザのマルチディスプレイ環境に適用しようとすると、次の課題が生じる可能性があった。具体的には、このようなマルチディスプレイ環境下ではユーザが複数のモニタのそれぞれを交互に見ながらデータ入力などの操作を行う可能性がある。このため、複数のカメラのそれぞれにより撮像されるユーザの顔の向きが一定時間にわたって安定しない可能性があった。したがって、マルチディスプレイ環境下のユーザの生体情報(例えば、脈拍あるいはストレス指数)を非接触で計測するためにユーザを撮像したカメラの撮像画像が必要となる場合に、ユーザの顔の向きが安定しないことで高精度な生体情報の計測が困難となるという課題があった。
本開示は、上述した従来の事情に鑑みて案出され、ユーザの周囲に複数のカメラが配置された環境下において、ユーザの生体情報を高精度に計測するバイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステムを提供することを目的とする。
本開示は、周囲に複数のカメラが配置されたユーザの生体情報を計測するバイタルデータ出力方法であって、前記複数のカメラのうち少なくとも1つのカメラによって撮像された前記前記ユーザの撮像映像を取得し、前記撮像映像に基づいて、前記ユーザの前記生体情報を含む生体信号を抽出し、前記抽出された前記生体信号の信頼度を算出し、算出された前記信頼度が所定の比較参照値以上となる条件を満たす場合に、前記生体信号に基づいて前記ユーザの前記生体情報を推定して出力する、バイタルデータ出力方法を提供する。
また、本開示は、複数のカメラとの間で通信可能に接続されたバイタルデータ出力装置であって、前記複数のカメラのうち少なくとも1つの前記カメラによって撮像された撮像映像からユーザの生体情報を含む生体信号と、前記生体信号の信頼度とを受信する通信部と、前記通信部によって受信された前記信頼度が所定の比較参照値以上か否かを検定するプロセッサと、を備え、前記プロセッサは、前記信頼度が前記所定の比較参照値以上となる条件を満たす場合に、前記生体信号に基づいて前記ユーザの前記生体情報を推定して出力する、バイタルデータ出力装置を提供する。
また、本開示は、周囲に複数のカメラが配置されたユーザの生体情報を計測するバイタルセンシングシステムであって、前記複数のカメラのうち少なくとも1つのカメラは、ユーザを撮像した撮像映像から前記ユーザの生体情報を含む生体信号を抽出し、抽出された前記生体信号の信頼度を算出し、前記生体信号と前記信頼度とを前記サーバに送信し、前記サーバは、受信された前記信頼度が所定の比較参照値以上となる条件を満たす場合に、前記生体信号に基づいて前記ユーザの前記生体情報を推定して出力する、バイタルセンシングシステムを提供する。
本開示によれば、ユーザの周囲に複数のカメラが配置された環境下において、ユーザの生体情報を高精度に計測できる。
実施の形態1に係るバイタルセンシングシステムのユースケース例の説明図 実施の形態1に係るバイタルセンシングシステムのユースケース例を上から見た説明図 実施の形態1に係るバイタルセンシングシステムの内部構成例を示す図 色変化時系列信号の信頼度の算出例を説明する図 実施の形態1に係るバイタルセンシングシステムの脈拍推定手順例を示すシーケンス図 実施の形態1の変形例に係るバイタルセンシングシステムの脈拍推定手順例を説明する図 実施の形態1の変形例に係る色変化時系列信号の生成例を説明する図 実施の形態2に係るバイタルセンシングシステムの内部構成例 実施の形態2に係るバイタルセンシングシステムの脈拍推定手順例を示すシーケンス図 実施の形態2に係るバイタルセンシングシステムにおけるカメラの切り替えを説明する図
(実施の形態1の内容に至る経緯)
従来、カメラによって撮影されるビデオ会議を制御するビデオ会議制御方法がある。このビデオ会議制御方法は、マルチディスプレイ環境において、第1モニタに接続された第1カメラに対する顔の向きが、第2モニタに接続されている第2カメラに対する顔の向きよりも正面から離れている場合、または、第1カメラにおいて顔の向きが検出できない場合に、第2モニタにおけるユーザ操作の有無あるいは所定の時間以上の通信が検出されたとき、ビデオ会議を第2カメラに切り替える。
しかし、上述した特許文献1の構成を、例えば複数のモニタを交互に見ながら仕事するユーザのマルチディスプレイ環境に適用する場合、ユーザが複数のモニタのそれぞれを交互に見ながらデータ入力などの操作を行う可能性がある。これにより、複数のカメラのそれぞれにより撮像されるユーザの顔の向きが一定時間にわたって安定せず、ユーザの顔の向きの変更に応じてユーザを撮像するカメラが切り替わる可能性があった。したがって、マルチディスプレイ環境下のユーザの生体情報(例えば、脈拍あるいはストレス指数)を非接触で計測するためにユーザを撮像したカメラの撮像画像が必要となる場合に、ユーザの顔の向きが安定しないことで生体情報を計測可能な時間(例えば、数秒または1分)に亘ってユーザを撮像できず、さらに高精度な生体情報の計測が困難となるという課題があった。
さらに、ユーザの生体情報を計測する場合、計測された生体情報は、照明配置などの環境条件により、ユーザを正面から撮像した撮像映像を用いるよりも、ユーザの側面(つまり横顔)あるいは斜めなどの他の方向から撮像した撮像映像を用いる方が、生体情報の計測精度が高くなることがある。
よって、以下に示す各実施の形態においては、ユーザの周囲に複数のカメラが配置された環境下において、ユーザの生体情報を高精度に計測するバイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステムの例を説明する。
以下、適宜図面を参照しながら、本開示に係るバイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステムの構成および作用を具体的に開示した各実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるものであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
また、以下の説明で使用される用語は、例示であり、限定を意図していない。例えば、用語「カメラ」は、このカメラによって撮像された撮像映像、および撮像映像に含まれる生体信号(例えば、色変化時系列信号)を含む。つまり、各実施の形態の説明で使用される「カメラの選択」は、このカメラによって撮像された撮像映像の選択、および撮像映像に含まれる生体信号(例えば、色変化時系列信号)の選択を含む。さらに、以下の説明で使用される「生体情報(脈拍、心拍、ストレス指数など)の推定」は、「生体情報(脈拍、心拍、ストレス指数など)の計測」を含み、限定を意図しない。
(実施の形態1)
図1および図2を参照して、実施の形態1に係るバイタルセンシングシステム100のユースケース例について説明する。図1は、実施の形態1に係るバイタルセンシングシステム100のユースケース例の説明図である。図2は、実施の形態1に係るバイタルセンシングシステム100のユースケース例を上から見た説明図である。実施の形態1に係るバイタルセンシングシステム100は、端末装置P1とカメラC1との間で有線あるいは無線通信可能に接続され、また、端末装置P2とカメラC2との間で有線あるいは無線通信可能に接続され、データの送受信を行う。
なお、図1において、端末装置の数およびカメラの数がそれぞれ2つの例(つまり、ユーザH1がデュアルディスプレイ環境である)を示すが、端末装置の数およびカメラの数は、例示された2つに限定されない。端末装置の数およびカメラの数は、例えば端末装置が3つ、カメラが3つ(つまり、マルチディスプレイ環境)であってもよいし、同数でなくてよい。また、実施の形態1に係るバイタルセンシングシステム100の構成は、2以上のカメラを含み、かつ1以上のカメラが通信可能に接続された2以上の端末装置を含んでいればよい。また、カメラは、端末装置に内蔵されるカメラであってよい。
端末装置P1は、例えばデスクトップ型のPC(Personal Computer)であり、ネットワークNWを介してカメラC1との間で有線あるいは無線通信可能に接続される。端末装置P1は、カメラC1によって撮像されたユーザH1の顔の正面の撮像映像を受信し、受信された撮像映像に映るユーザH1の顔の位置を検出する。端末装置P1は、検出された顔の位置のうち脈拍データ(または心拍データ)の抽出を目的として顔表面の顔色変化を測定するための領域(以降、センシング領域と表記)を設定し、設定されたセンシング領域におけるユーザH1の顔表面の顔色変化を示す時系列信号(以降、色変化時系列信号と表記)を抽出する。端末装置P1は、色変化時系列信号の波形に基づいて、脈拍データの脈拍計測精度を推定するための信頼度を算出し、抽出された色変化時系列信号と、算出された信頼度とをサーバS1に送信するとともに、メモリ(図3参照)に記憶する。
また、端末装置P1は、カメラC1によって撮像された撮像映像の撮像時刻とカメラC2によって撮像された撮像映像の撮像時刻とを合わせるため、端末装置P2と時刻の同期を実行する。なお、時刻の同期は、サーバS1から時刻の情報を受信することにより実行されてもよい。
カメラC1は、端末装置P1との間で有線あるいは無線通信可能に接続される。カメラC1は、画角Ag1内のユーザH1を撮像し、撮像されたユーザH1の撮像映像を端末装置P1に送信する。なお、図1および図2に示すカメラC1は、端末装置P1に外付けされた例を示しているが、端末装置P1に内蔵されるカメラであってもよい。
端末装置P2は、例えばカメラC2を備えたノート型のPCであり、サーバS1との間でネットワークNWを介して有線あるいは無線通信可能に接続される。端末装置P2は、カメラC2によって撮像されたユーザH1の顔の側面(つまり横顔)の撮像映像を受信し、受信された撮像映像に映るユーザH1の顔の位置を検出する。端末装置P2は、検出された顔の位置を含み、脈拍データの抽出を目的として顔表面の顔色変化を測定するためのセンシング領域を設定し、設定されたセンシング領域におけるユーザH1の顔表面の顔色変化を示す時系列信号を抽出する。端末装置P2は、色変化時系列信号の波形に基づいて、脈拍データの脈拍計測精度を推定する信頼度を算出し、抽出された色変化時系列信号と、算出された信頼度とをサーバS1に送信するとともに、メモリ(図3参照)に記憶する。なお、センシング領域は、ユーザH1の顔の位置に応じて変更されてよい。
また、端末装置P2は、カメラC2によって撮像された撮像映像の撮像時刻とカメラC1によって撮像された撮像映像の撮像時刻とを合わせるため、端末装置P1と時刻の同期を実行する。なお、時刻の同期は、サーバS1から時刻の情報を受信することにより実行されてもよい。
カメラC2は、端末装置P2に備えられ、画角Ag2内のユーザH1を撮像する。カメラC2は、画角Ag2内のユーザH1を撮像し、撮像されたユーザH1の撮像映像を端末装置P2におけるプロセッサ(図3参照)に送信する。
なお、複数の端末装置P1,P2のそれぞれは、PCに限定されず、例えばスマートフォン、タブレット端末などであってよい。また、複数のカメラC1,C2のそれぞれは、例えばスマートフォン、タブレット端末が備えるカメラであっても、有線あるいは無線通信可能に接続されたカメラであってもよい。
図3は、実施の形態1に係るバイタルセンシングシステム100の内部構成例を示す図である。実施の形態1に係るバイタルセンシングシステム100は、複数の端末装置P1,P2のそれぞれと、複数のカメラC1,C2のそれぞれと、サーバS1と、ネットワークNWと、を含んで構成される。なお、図3に示す例において、端末装置P1とカメラC1との間で有線通信可能に接続される例を示すが、これに限定されないことは言うまでもない。また、同様に、ネットワークNWを介した複数の端末装置P1,P2のそれぞれおよびサーバS1との間の通信方法は、図3に示す無線通信に限定されない。
端末装置P1は、カメラC1およびサーバS1との間で通信可能に接続される。端末装置P1は、カメラC1によって撮像された撮像映像から抽出された色変化時系列信号と、算出された信頼度とを、ネットワークNWを介してサーバS1に送信する。端末装置P1は、通信部20と、プロセッサ21と、メモリ22と、モニタ23と、を含んで構成される。
通信部20は、カメラC1における通信部40およびサーバS1における通信部10との間で有線あるいは無線通信可能に接続される。ここでいう有線通信は、例えばUSB(Univesal Serial Bus)ケーブル(不図示)、HDMI(登録商標)(High−Definition Multimedia Interface)ケーブル(不図示)あるいはLAN(Local Area Network)ケーブル(不図示)を用いた通信である。また、ここでいう無線通信は、例えばBluetooth(登録商標)、NFC(登録商標)などの近距離無線通信、またはWi−fi(登録商標)などの無線LANを介した通信である。
通信部20は、カメラC1における通信部40から、ユーザH1を撮像した撮像映像を受信し、メモリ22に記憶するとともにプロセッサ21に出力する。また、通信部20は、プロセッサ21によって抽出されたユーザH1の顔表面の顔色変化を示す色変化時系列信号と、色変化時系列信号の波形に基づいて算出され、ユーザH1の脈拍データの脈拍計測精度を推定する信頼度とを、ネットワークNWを介してサーバS1における通信部10に送信する。
プロセッサ21は、例えばCPU(Central Processing unit)またはFPGA(Field Programmable Gate Array)を用いて構成されて、メモリ22と協働して、各種の処理および制御を行う。具体的に、プロセッサ21は、メモリ22に保持されたプログラムおよびデータを参照し、そのプログラムを実行することにより、撮像映像からユーザH1の顔の位置を検出する機能、センシング領域からユーザH1の色変化時系列信号を抽出する機能、抽出された色変化時系列信号の信頼度を算出する機能などを実現する。
プロセッサ21は、カメラC1によって撮像された撮像映像から、ユーザH1の顔が映る領域を検出する。プロセッサ21は、検出された顔の領域のうち、ユーザH1の顔表面の顔色変化を測定するためのセンシング領域を設定し、このセンシング領域からユーザH1の顔色の変化に基づく色変化時系列信号を抽出する。プロセッサ21は、色変化時系列信号の波形に基づいて、ユーザH1の脈拍データの脈拍計測精度を推定する信頼度を算出する。プロセッサ21は、抽出された色変化時系列信号と、算出された信頼度とを、ネットワークNWを介してサーバS1に送信するとともに、メモリ22に記憶する。
また、プロセッサ21は、カメラC1によって撮像された撮像映像の撮像時刻とカメラC2によって撮像された撮像映像の撮像時刻とがずれないように、端末装置P2におけるプロセッサ31あるいはサーバS1におけるプロセッサ11との間で時刻の同期を実行する。
メモリ22は、例えばプロセッサ21の各処理を実行する際に用いられるワークメモリとしてのRAM(Random Access Memory)と、プロセッサ21の動作を規定したプログラムおよびデータを格納するROM(Read Only Memory)とを有する。RAMには、プロセッサ21により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、プロセッサ21の動作を規定するプログラムが書き込まれている。メモリ22は、カメラC1から受信された撮像映像、撮像映像から抽出された色変化時系列信号および算出された信頼度などを記憶する。
モニタ23は、例えばLCD(Liquid Crystal Display)もしくは有機EL(Electroluminescence)を用いて構成される。モニタ23は、抽出された色変化時系列信号を表示する。また、モニタ23は、ネットワークNWを介して端末装置P2から抽出された色変化時系列信号を受信する場合、カメラC1によって撮像された撮像映像に基づいて抽出された色変化時系列信号と、カメラC2によって撮像された撮像映像に基づいて抽出された色変化時系列信号とを並べて表示してよい。さらに、サーバS1からユーザH1の脈拍の推定結果を受信する場合、モニタ23は、この脈拍の推定結果を併せて表示してよい。ユーザH1は、モニタ23に表示する表示対象(例えば、複数の色変化時系列信号、信頼度がより高い色変化時系列信号、脈拍、ストレス指数など)を入力操作により変更してよい。
次に、端末装置P2の内部構成について説明する。端末装置P2は、通信部30と、プロセッサ31と、メモリ32と、モニタ33と、カメラC2と、を含んで構成される。
通信部30は、サーバS1における通信部10との間で有線あるいは無線通信可能に接続される。なお、通信部30は、端末装置P1における通信部20との間でも同様に、通信可能に接続されてよい。ここでいう有線通信は、例えばUSBケーブル(不図示)あるいはLANケーブル(不図示)を用いた通信である。ここでいう無線通信は、例えばBluetooth(登録商標)、NFC(登録商標)などの近距離無線通信、またはWi−fi(登録商標)などの無線LANを介した通信である。
通信部30は、プロセッサ31によって抽出されたユーザH1の顔表面の顔色変化を示す色変化時系列信号と、色変化時系列信号の波形に基づいて算出され、ユーザH1の脈拍データの脈拍計測精度を推定する信頼度とを、ネットワークNWを介してサーバS1における通信部10に送信する。
プロセッサ31は、例えばCPUまたはFPGAを用いて構成されて、メモリ32と協働して、各種の処理および制御を行う。具体的には、プロセッサ31は、メモリ32に保持されたプログラムおよびデータを参照し、そのプログラムを実行することにより、撮像映像からユーザH1の顔の検出する機能、センシング領域からユーザH1の色変化時系列信号を抽出する機能、抽出された色変化時系列信号の信頼度を算出する機能などを実現する。
プロセッサ31は、カメラC2によって撮像された撮像映像から、ユーザH1の顔が映る領域を検出する。プロセッサ31は、検出された顔の領域のうち、ユーザH1の顔表面の顔色変化を測定するためのセンシング領域を設定し、このセンシング領域からユーザH1の顔色の変化に基づく色変化時系列信号を抽出する。プロセッサ31は、色変化時系列信号の波形に基づいて、ユーザH1の脈拍データの脈拍計測精度を推定する信頼度を算出する。なお、プロセッサ31は、信頼度の算出を波形ごとあるいは所定の時間、所定の周期ごとに算出してよい。プロセッサ31は、抽出された色変化時系列信号と、算出された信頼度とを、ネットワークNWを介してサーバS1に送信するとともに、メモリ32に記憶する。
なお、プロセッサ31は、カメラC2によって撮像された撮像映像の撮像時刻とカメラC2によって撮像された撮像映像の撮像時刻とを合わせるため、端末装置P1におけるプロセッサ21あるいはサーバS1におけるプロセッサ11との間で時刻の同期を実行する。
メモリ32は、例えばプロセッサ31の各処理を実行する際に用いられるワークメモリとしてのRAMと、プロセッサ31の動作を規定したプログラムおよびデータを格納するROMとを有する。RAMには、プロセッサ31により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、プロセッサ31の動作を規定するプログラムが書き込まれている。メモリ32は、カメラC2から入力された撮像映像、撮像映像から抽出された色変化時系列信号および算出された信頼度などを記憶する。
モニタ33は、例えばLCDもしくは有機ELを用いて構成される。モニタ33は、抽出された色変化時系列信号を表示する。また、モニタ33は、ネットワークNWを介して端末装置P1から抽出された色変化時系列信号を受信する場合、カメラC1によって撮像された撮像映像に基づいて抽出された色変化時系列信号と、カメラC2によって撮像された撮像映像に基づいて抽出された色変化時系列信号とを並べて表示してよい。さらに、サーバS1からユーザH1の脈拍の推定結果を受信する場合、モニタ33は、この脈拍の推定結果を併せて表示してよい。ユーザH1は、モニタ33に表示する表示対象(例えば、複数の色変化時系列信号、信頼度がより高い色変化時系列信号、心拍、脈拍、ストレス指数など)を入力操作により変更してよい。
カメラC2は、少なくともレンズ(不図示)とイメージセンサ(不図示)とを有して構成される。イメージセンサは、例えばCCD(Charged−coupled device)あるいはCMOS(Complementary metal−oxide−semiconductor)などの固体撮像素子であり、撮像面に結像した光学像を電気信号に変換する。カメラC2は、撮像された撮像映像をプロセッサ31に出力する。
次に、カメラC1について説明する。カメラC1は、端末装置P1との間で通信可能に接続され、撮像された撮像映像を端末装置P1に送信する。カメラC1は、通信部40と、プロセッサ41と、メモリ42と、撮像部43と、を含んで構成される。
通信部40は、端末装置P1における通信部20との間でデータを有線あるいは無線通信可能に接続される。ここでいう有線通信は、例えばUSBケーブル(不図示)、HDMI(登録商標)ケーブル(不図示)あるいはLANケーブル(不図示)を用いた通信である。また、ここでいう無線通信は、例えばBluetooth(登録商標)、NFC(登録商標)などの近距離無線通信、またはWi−fi(登録商標)などの無線LANを介した通信である。通信部40は、撮像部43によって撮像された撮像映像を端末装置P1に送信する。
プロセッサ41は、例えばCPUまたはFPGAを用いて構成され、メモリ42と協働して、各種の処理および制御を行う。プロセッサ41は、撮像部43によって撮像され、入力された撮像映像をメモリ42に記憶するとともに、端末装置P1における通信部20に送信する。
メモリ42は、例えばプロセッサ41の各処理を実行する際に用いられるワークメモリとしてのRAMと、プロセッサ41の動作を規定したプログラムおよびデータを格納するROMとを有する。RAMには、プロセッサ41により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、プロセッサ41の動作を規定するプログラムが書き込まれている。メモリ42は、撮像部43によって撮像された撮像映像を記憶する。
撮像部43は、少なくともレンズ(不図示)とイメージセンサ(不図示)とを有して構成される。イメージセンサは、例えばCCDまたはCMOSの固体撮像素子であり、撮像面に結像した光学像を電気信号に変換する。撮像部43は、撮像された撮像映像をプロセッサ41に出力する。
次に、サーバS1の内部構成について説明する。サーバS1は、ネットワークNW1を介して複数の端末装置P1,P2のそれぞれとの間で無線通信可能に接続される。サーバS1は、通信部10と、プロセッサ11と、メモリ12と、を含んで構成される。
通信部10は、端末装置P1における通信部20および端末装置P2における通信部30との間で無線通信可能に接続される。ここでいう無線通信は、例えばBluetooth(登録商標)、NFC(登録商標)などの近距離無線通信、またはWi−fi(登録商標)などの無線LANを介した通信である。
通信部10は、端末装置P1における通信部20からカメラC1によって撮像された撮像映像に基づくユーザH1の色変化時系列信号と、信頼度とを受信する。また、通信部10は、端末装置P2における通信部30からカメラC2によって撮像された撮像映像に基づくユーザH1の色変化時系列信号と、信頼度とを受信する。通信部10は、これらの色変化時系列信号および信頼度をプロセッサ11に出力するとともに、メモリ12に記憶する。また、通信部10は、プロセッサ11によって推定されたユーザH1の脈拍の情報、ストレス指数の情報などを、ネットワークNW1を介して複数の端末装置P1,P2のそれぞれに送信する。
プロセッサ11は、例えばCPUまたはFPGAを用いて構成されて、メモリ12と協働して、各種の処理および制御を行う。具体的には、プロセッサ11は、メモリ12に保持されたプログラムおよびデータを参照し、そのプログラムを実行することにより、撮像映像からユーザH1の顔の検出する機能、センシング領域からユーザH1の色変化時系列信号を抽出する機能、抽出された色変化時系列信号の信頼度を算出する機能などを実現する。
プロセッサ11は、端末装置P1から受信された信頼度と、端末装置P2から受信された信頼度とを検定する。具体的に、プロセッサ11は、受信された複数の信頼度のそれぞれのうち、最も信頼度が大きい色変化時系列信号を検定して選択する。
なお、抽出された色変化時系列信号が高精度に脈拍を推定可能な色変化時系列信号であるか否かを検定するため、プロセッサ11は、閾値を用いて検定をしてもよい。プロセッサ11は、検定の際に最も高く算出された信頼度が閾値を超えない場合、脈拍を推定せず、脈拍データを計測不可の旨をユーザH1に通知するアラートを生成し、複数の端末装置P1,P2のそれぞれに送信してよい。なお、閾値は、予め設定されてメモリ12に記憶される。複数の端末装置P1,P2のそれぞれは、受信されたアラートをモニタに表示させて、ユーザH1に通知する。
プロセッサ11は、検定の結果選択された色変化時系列信号に基づいて、ユーザH1の脈拍を推定する。プロセッサ11は、推定結果としてのユーザH1の脈拍データをメモリ12に記憶する。また、プロセッサ11は、ユーザH1の脈拍データを通信部10に出力する。通信部10に入力されたユーザH1の脈拍データは、ネットワークNW1を介して、複数の端末装置P1,P2のそれぞれに送信される。なお、ユーザH1によって予めユーザH1の脈拍データを表示する端末装置が設定されている場合、プロセッサ11により推定された脈拍データは、設定された端末装置のみに送信されてよい。
プロセッサ11は、推定されたユーザH1の脈拍データに基づいて、ユーザH1のストレス指数を算出する。また、プロセッサ11は、色変化時系列信号および信頼度に基づいて、ユーザH1の在席/空席(不在)を判定してもよい。
なお、プロセッサ11は、複数のカメラC1,C2のそれぞれによって撮像された撮像映像の撮像時刻がずれないように、複数の端末装置P1,P2のそれぞれの時刻を同期させる制御指示を実行してよい。
メモリ12は、例えばプロセッサ11の各処理を実行する際に用いられるワークメモリとしてのRAMと、プロセッサ11の動作を規定したプログラムおよびデータを格納するROMとを有する。RAMには、プロセッサ11により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、プロセッサ11の動作を規定するプログラムが書き込まれている。メモリ12は、各端末装置から受信された色変化時系列信号および信頼度と、推定された脈拍データ、ストレス指数あるいは在席/空席(不在)の情報とをユーザH1ごとに記憶する。
ネットワークNW1は、サーバS1および複数の端末装置P1,P2のそれぞれとの間で通信可能に接続される。
図4は、色変化時系列信号の信頼度の算出例を説明する図である。図4に示すテーブルTB1は、複数のカメラC1,C2のそれぞれによって撮像された撮像映像、顔位置(つまり顔の向き)、色変化時系列信号、検定結果を比較したテーブルである。
撮像映像は、複数のカメラC1,C2のそれぞれによって撮像された撮像映像である。カメラC1は、ユーザH1の正面を撮像し、撮像された撮像映像を端末装置P1に送信する。カメラC2は、ユーザH1の側面(つまり横顔)を撮像し、撮像された撮像映像を端末装置P2に送信する。
端末装置P1は、受信され撮像映像に映るユーザH1の顔位置を「正面」と判定し、ユーザH1の顔から色変化時系列信号を抽出するためのセンシング領域SAr1を設定する。なお、設定されるセンシング領域SAr1は、画像処理の実行により、ユーザH1の顔色変化が大きいと判定された領域であってよい。端末装置P1は、設定されたセンシング領域SAr1から色変化時系列信号Vt1を抽出する。
また、端末装置P2は、受信され撮像映像に映るユーザH1の顔位置を「側面」と判定し、ユーザH1の顔から色変化時系列信号を抽出するためのセンシング領域SAr2を設定する。なお、センシング領域SAr2設定は、画像処理の実行により、ユーザH1の顔色変化が大きいと判定された領域であってよい。端末装置P2は、設定されたセンシング領域SAr2から色変化時系列信号Vt2を抽出する。
なお、ここで抽出される色変化時系列信号Vt1,Vt2のそれぞれは、ストレス指数を算出可能な時間として時間T0以上に亘って抽出される。つまり、カメラC1によって撮像された撮像映像は、ストレス指数を算出可能に時間T0以上に亘って撮像される。なお、ここでストレス指数を算出可能な時間T0は、具体的に数秒または1分であるが、これに限定されずストレス指数を算出可能な時間であればよい。
端末装置P1は、抽出された色変化時系列信号Vt1の信頼度を算出する。また、端末装置P2は、抽出された色変化時系列信号Vt2の信頼度を算出する。以下、信頼度の算出方法について説明する。
信頼度は、生体信号(つまり色変化時系列信号)の信頼性を示す指標であり、例えば、生体信号の正確性、適格性、または、周期性を示す指標などである。信頼度は、例えば、色変化時系列信号の波形に基づいて、端末装置P1,P2のそれぞれによって算出される。まず、端末装置P1,P2のそれぞれは、センシング領域から抽出された色変化時系列信号の波形の周期が脈拍の周期の範囲内であるか否かを検定し、検定の結果、色変化時系列信号の波形の周期が脈拍の周期である場合、色変化時系列信号の波形の振幅および周期の二乗平均誤差を算出する。端末装置P1,P2のそれぞれは、算出された振幅および周期の二乗平均誤差の大きさに応じて、推定される色変化時系列信号の脈拍計測精度の程度を示す指標としての信頼度を算出する。
なお、信頼度の算出方法は、上述された方法に限定されない。信頼度は、機械学習(Machine Learning)により学習された複数の色変化時系列信号の波形データおよび脈拍データのそれぞれを用いて学習されたモデル(以下、学習済モデル)に基づいて、算出されてよい。学習済みモデルは、端末装置P1,P2のそれぞれが備えるメモリに蓄積され、端末装置P1,P2におけるプロセッサにより実行されてよい。また、学習済みモデルは、サーバS1におけるメモリ12蓄積された学習データによって生成され、端末装置P1,P2のそれぞれに送信されてもよい。学習済みモデルは、端末装置P1,P2のそれぞれが備えるメモリに記憶される。
なお、ここで学習済みモデルの生成に用いられる複数の色変化時系列信号の波形データおよび脈拍データのそれぞれは、生体情報(脈拍、ストレス指数など)の計測対象となるユーザH1だけでなく、バイタルセンシングシステム100を利用する複数のユーザのそれぞれから収集されてよい。これにより、バイタルセンシングシステム100は、より多くの学習データから学習済みモデルを生成できるため、ユーザH1の生体情報(脈拍、ストレス指数など)を高精度に計測できる。
さらに、学習済みモデルは、ユーザごとに生成されてよい。ユーザごとの学習済みモデルを用いた場合、複数の端末装置P1,P2のそれぞれは、例えばユーザH1が仕事をする位置(つまり撮像位置)における照明配置、自然光、他の物の配置、ユーザの顔の特徴(痣、傷、肌の色)などの環境条件が考慮(調整)された信頼度を算出できる。これにより、バイタルセンシングシステム100は、ユーザH1の周囲に複数のカメラが配置された環境に応じて、ユーザH1の生体情報(脈拍、ストレス指数など)を高精度に計測できる。
また、信頼度は、抽出された所定の時間帯の色変化時系列信号のうち、所定の時間あるいは周期ごとに複数算出されてもよいし、任意の時間ごとに算出されてよい。
以上、信頼度の算出方法について説明したが、複数の色変化時系列信号のそれぞれのうちいずれの色変化時系列信号を用いるかの検定(選択)方法は、信頼度に基づく例に限定されない。信頼度は、標準偏差に基づいて算出されてもよいし、他の統計的推定方法により算出されてよい。また、信頼度は、例えば評価値、スコア、指標などの用語に置き換えられてよい。
端末装置P1は、色変化時系列信号Vt1に基づいて算出された信頼度および色変化時系列信号Vt1を、ネットワークNW1を介してサーバS1に送信する。また、端末装置P2は、色変化時系列信号Vt2に基づいて算出された信頼度および色変化時系列信号Vt2を、ネットワークNW1を介してサーバS1に送信する。
サーバS1は、受信された複数の信頼度のそれぞれのうち、最も高い信頼度を検定する。図4に示す例において、サーバS1は、ユーザH1の脈拍を推定可能な(つまり脈拍計測精度が所定の精度以上である)信号として、最も信頼度が高い色変化時系列信号Vt2を選択する。サーバS1は、色変化時系列信号Vt2に基づいて、ユーザH1の脈拍を推定し、推定された脈拍に基づいて、ストレス指数を算出する。
ここで、信頼度の算出に要する色変化時系列信号の周期数および時間は、脈拍、心拍などの推定に要する周期数および時間よりも小さい(短い)。これにより、サーバS1は、色変化時系列信号の信頼度をより早く算出でき、算出された信頼度に基づいて、脈拍データの脈拍計測精度が高いと算出された色変化時系列信号を用いてユーザH1の生体情報(脈拍)を推定(計測)できる。このように、信頼度の算出に要する周期数あるいは時間が脈拍、心拍などの推定に要する時間より小さく(短く)することで、サーバS1は、例えばリアルタイムに生体情報(脈拍、ストレス指数など)を出力する場合、信頼度に閾値が設定されている場合などに、算出された信頼度に応じて、生体情報の推定(計測)に用いる色変化時系列信号の選択、カメラの選択などの処理を適応的かつ効率的に実行できる。
また、信頼度の算出に要する色変化時系列信号の周期数および時間は、脈拍、心拍などの推定に要する周期数および時間よりも大きく(長く)てもよい。このような場合、サーバS1は、信頼度の算出精度そのものを向上できる。つまり、サーバS1は、高精度に算出された信頼度に基づいて、脈拍データの脈拍計測精度が高いと算出された色変化時系列信号を用いてユーザH1の生体情報(脈拍)を推定(計測)でき、例えばリアルタイムにユーザH1の脈拍、心拍を推定しない場合において有用である。
さらに、色変化時系列信号のうち、信頼度が閾値未満となった時間帯が限定的であって、信頼度が閾値以上である他の色変化時系列信号からユーザH1の脈拍、ストレス指数などを推定あるいは算出可能な場合、サーバS1は、信頼度が閾値以上である他の色変化時系列信号からユーザH1の脈拍、ストレス指数などを推定あるいは算出してよい。
図5は、実施の形態1に係るバイタルセンシングシステム100の脈拍推定手順例を示すシーケンス図である。図5において、サーバS1は、信頼度が最も高い色変化時系列信号から脈拍を推定する例について説明する。
まず、端末装置P1が実行する処理について説明する。端末装置P1は、カメラC1からユーザH1を撮像した撮像映像を受信し、取得する(St1A)。
端末装置P1は、取得された撮像映像からユーザH1の顔位置を検出し(St2A)、検出された顔の位置のうち脈拍の抽出を目的として顔表面の顔色変化を測定するためセンシング領域を抽出し(St3A)、抽出されたセンシング領域におけるユーザH1の顔表面の色変化時系列信号を抽出する(St4A)。なお、撮像映像においてユーザH1の顔の位置が変化する場合、センシング領域は、ユーザH1の顔の位置に応じて変更されてよい。
端末装置P1は、抽出された色変化時系列信号の波形に基づいて、ユーザH1の脈拍計測精度を示す信頼度を算出する(St5A)。端末装置P1は、抽出された色変化時系列信号と、算出された信頼度とを、ネットワークNW1を介してサーバS1に送信する(St6A)。
次に、端末装置P2が実行する処理について説明する。端末装置P2は、カメラC2からユーザH1を撮像した撮像映像を受信し、取得する(St1B)。
端末装置P2は、取得された撮像映像からユーザH1の顔位置を検出し(St2B)、検出された顔の位置のうち脈拍の抽出を目的として顔表面の顔色変化を測定するためセンシング領域を抽出し(St3B)、抽出されたセンシング領域におけるユーザH1の顔表面の色変化時系列信号を抽出する(St4B)。なお、撮像映像においてユーザH1の顔の位置が変化する場合、センシング領域は、ユーザH1の顔の位置に応じて変更されてよい。
端末装置P2は、抽出された色変化時系列信号の波形に基づいて、ユーザH1の脈拍データの脈拍計測精度を推定するための信頼度を算出する(St5B)。端末装置P2は、抽出された色変化時系列信号と、算出された信頼度とを、ネットワークNW1を介してサーバS1に送信する(St6B)。
サーバS1は、端末装置P1から受信された信頼度と端末装置P2から受信された信頼度とを検定し、脈拍を推定するための色変化時系列信号として最も信頼度が高く算出された色変化時系列信号を選択する(St7)。
サーバS1は、選択された色変化時系列信号からユーザH1の脈拍を推定する(St8)。
以上により、実施の形態1に係るバイタルセンシングシステム100は、周囲に複数のカメラC1,C2が配置されたユーザH1の脈拍(生体情報の一例)を計測する。バイタルセンシングシステム100は、複数のカメラC1,C2のうち少なくとも1つのカメラによって撮像されたユーザH1の撮像映像を取得し、撮像映像に基づいて、ユーザの脈拍情報を含む色変化時系列信号(生体信号の一例)を抽出し、抽出された色変化時系列信号の信頼度を算出する。バイタルセンシングシステム100は、算出された信頼度が所定の比較参照値(例えば、他のカメラから取得された色変化時系列信号の信頼度、信頼度について予め設定された閾値など)以上となる条件を満たす場合に、色変化時系列信号に基づいてユーザの脈拍を推定(計測)して出力する。
これにより、実施の形態1に係るバイタルセンシングシステム100は、ユーザH1の周囲に複数のカメラC1,C2のそれぞれが配置された環境下において、ユーザH1の生体情報(脈拍)をより高精度に計測できる。また、実施の形態1の変形例に係るバイタルセンシングシステム100は、より信頼度が高い、つまり推定(計測)される脈拍データの脈拍計測精度が高い色変化時系列信号を用いてユーザH1の生体情報(脈拍)を推定(計測)できる。
また、実施の形態1に係るバイタルセンシングシステム100は、信頼度の算出に要する時間が、生体情報(脈拍、ストレス指数など)の推定(計測)に要する時間よりも短い。これにより、実施の形態1に係るバイタルセンシングシステム100は、信頼度を生体情報よりも早く算出できるため、例えばリアルタイムに生体情報(脈拍、ストレス指数など)を出力する場合、信頼度に閾値が設定されている場合、また後述する実施の形態2に係るバイタルセンシングシステム100aのように複数のカメラのそれぞれを切り替えて撮像する場合などに、算出された信頼度に応じて、生体情報の推定(計測)に用いる色変化時系列信号の選択、カメラの選択(切り替え)などを適応的かつ効率的に実行できる。よって、実施の形態1に係るバイタルセンシングシステム100は、算出された信頼度に基づいて、脈拍データの脈拍計測精度が高いと算出された色変化時系列信号を用いてユーザH1の生体情報(脈拍)を推定(計測)できる。
また、実施の形態1に係るバイタルセンシングシステム100において抽出される生体信号(つまり、色変化時系列信号)は周期性を有する。ここで、生体信号に基づいて、信頼度を算出可能な周期数は、生体情報(脈拍)を推定可能な周期数より少ない。これにより、実施の形態1に係るバイタルセンシングシステム100は、より少ない周期の生体信号から信頼度を算出できる。つまり、バイタルセンシングシステム100は、信頼度を生体情報よりも早く算出できるため、例えばリアルタイムに生体情報(脈拍、ストレス指数など)を出力する場合、信頼度に閾値が設定されている場合、また後述する実施の形態2に係るバイタルセンシングシステム100aのように複数のカメラのそれぞれを切り替えて撮像する場合などに、算出された信頼度に応じて、生体情報の推定(計測)に用いる色変化時系列信号の選択、カメラの選択(切り替え)などを適応的かつ効率的に実行できる。よって、実施の形態1に係るバイタルセンシングシステム100は、算出された信頼度に基づいて、脈拍データの脈拍計測精度が高いと算出された色変化時系列信号を用いてユーザH1の生体情報(脈拍)を推定(計測)できる。
また、実施の形態1に係るバイタルセンシングシステム100により算出される信頼度の算出に要する時間は、生体情報(脈拍、ストレス指数など)の推定(計測)に要する時間よりも長い。つまり、実施の形態1に係るバイタルセンシングシステム100は、信頼度を長期間に亘って算出するため、算出された信頼度そのものが高精度となる。これにより、実施の形態1に係るバイタルセンシングシステム100は、生体情報の推定(計測)に使用される信号の信頼度をより高精度に算出でき、この算出された信頼度に基づいて、脈拍データの脈拍計測精度が高いと算出された色変化時系列信号を用いてユーザH1の生体情報(脈拍)を推定(計測)できる。
また、実施の形態1に係るバイタルセンシングシステム100は、算出された信頼度が比較参照値未満(例えば、他のカメラから取得された色変化時系列信号の信頼度、信頼度について予め設定された閾値など)の場合、信頼度を算出する間に推定された生体情報(脈拍、ストレス指数など)は出力されない。これにより、実施の形態1に係るバイタルセンシングシステム100は、例えば長期間に亘って脈拍データの脈拍計測精度が低いと算出された脈拍データの脈拍計測精度が高いと算出された色変化時系列信号を用いてユーザH1の生体情報(脈拍)を推定(計測)できる。
また、実施の形態1に係るバイタルセンシングシステム100は、ユーザH1を撮像するカメラC1と1以上の他のカメラ(例えばカメラC2)によって撮像された撮像映像に基づいて抽出された色変化時系列信号の信頼度のそれぞれを比較する。これにより、実施の形態1に係るバイタルセンシングシステム100は、より信頼度が高い色変化時系列信号を用いてユーザH1の生体情報(脈拍、ストレス指数など)を高精度に計測できる。
(実施の形態1の変形例)
実施の形態1に係るバイタルセンシングシステム100は、ストレス指数を算出可能な時間(具体的には、数秒または1分)以上に亘って抽出され、信頼度が最も高い1つの色変化時系列信号に基づいて、ユーザH1の脈拍を推定する例を示した。実施の形態1の変形例に係るバイタルセンシングシステム100では、ストレス指数を算出可能な時間(具体的には、数秒または1分)以上に亘って抽出された複数の色変化時系列信号のそれぞれの信頼度が、少なくとも2つの区間で算出され、所定の区間において信頼度が最も高い色変化時系列信号に基づいて、ユーザH1の脈拍を推定する例について説明する。
図6および図7を参照して、実施の形態1の変形例に係るバイタルセンシングシステム100の脈拍推定手順および色変化時系列信号の生成例について説明する。図6は、実施の形態1の変形例に係るバイタルセンシングシステム100の脈拍推定手順例を示すシーケンス図である。図7は、実施の形態1の変形例に係る色変化時系列信号の生成例を説明する図である。なお、図6に示す実施の形態1の変形例に係るバイタルセンシングシステム100の脈拍推定手順例は、ステップSt1〜ステップSt3およびステップSt1A〜ステップSt4A、St1B〜ステップSt4Bにおいて、図5に示す実施の形態1に係るバイタルセンシングシステム100の脈拍推定手順例とほぼ同一の処理が実行される。よって、実施の形態1と同一の操作手順あるいは動作手順については同一の符号を用いることで、その説明を省略する。また、図7に示す色変化時系列信号Vt3は、カメラC1によって撮像された撮像映像を用いて、端末装置P1によって抽出された例を示す。同様に、図7に示す色変化時系列信号Vt4は、カメラC2によって撮像された撮像映像を用いて、端末装置P2によって抽出された例を示す。
端末装置P1は、抽出された色変化時系列信号Vt3の波形に基づいて、ユーザH1の脈拍計測精度を示す信頼度を所定の時間帯m1,m2,m3,m4,m5ごとに算出する(St51A)。ここで、図7に示す複数の時間帯m1〜m5のそれぞれは、プロセッサ21によって設定され、抽出された色変化時系列信号Vt3の波形の周期性あるいは形状に基づいて、色変化時系列信号の波形が周期的である時間帯(つまり、信頼度が高く算出されることが推定される区間)と周期的でない時間帯(つまり、信頼度が低く算出されることが推定される区間)とを区分するように設定される。
なお、信頼度を算出する区間は、上述した時間帯に限定されず、所定の時間帯ごとあるいは所定の周期ごとであってよい。また、図7において、複数の時間帯m1〜m5のそれぞれが色変化時系列信号Vt3,Vt4のそれぞれにおいて同じ時間帯である例を示しているが、信頼度を算出する区間は抽出された色変化時系列信号ごとに設定されてよい。
端末装置P1は、抽出された色変化時系列信号Vt3に、算出された信頼度のそれぞれを時間帯ごとに対応付けて記憶するとともに、色変化時系列信号Vt3と色変化時系列信号Vt3の時間帯ごとに算出された信頼度とを、ネットワークNW1を介してサーバS1に送信する(St61A)。
端末装置P2は、抽出された色変化時系列信号Vt4の波形に基づいて、ユーザH1の脈拍計測精度を示す信頼度を所定の時間帯m1,m2,m3,m4,m5ごとに算出する(St51B)。ここで、図7に示す複数の時間帯m1〜m5のそれぞれは、プロセッサ31によって設定され、抽出された色変化時系列信号Vt4の波形の周期性あるいは形状に基づいて、色変化時系列信号の波形が周期的である時間帯(つまり、信頼度が高く算出されることが推定される区間)と周期的でない時間帯(つまり、信頼度が低く算出されることが推定される区間)とを判定し、これらを区分するように設定される。
端末装置P2は、抽出された色変化時系列信号Vt4に、算出された信頼度のそれぞれを時間帯ごとに対応付けて記憶するとともに、色変化時系列信号Vt4と色変化時系列信号Vt4の時間帯ごとに算出された信頼度とを、ネットワークNW1を介してサーバS1に送信する(St61B)。
サーバS1は、端末装置P1から受信された色変化時系列信号Vt3に対応付けられた時間帯ごとの信頼度と、端末装置P2から受信された色変化時系列信号Vt4に対応付けられた時間帯ごとの信頼度とを検定し、脈拍を推定するための色変化時系列信号として信頼度がより高く算出された各時間帯の色変化時系列信号のそれぞれ(図7に示す色変化時系列信号Vt3における区間信号Vt31,Vt32のそれぞれ、および色変化時系列信号Vt4における区間信号Vt41,Vt42のそれぞれ)を抽出する。サーバS1は、抽出された各時間帯における色変化時系列信号のそれぞれから、1つの色変化時系列信号Vt5を生成する(St7C)。なお、生成される色変化時系列信号Vt5は、ストレス指数を算出可能に1分以上の長さを有する。
また、複数の色変化時系列信号Vt3,Vt4のそれぞれに設定された時間帯(区間)が異なり、検定により重複する区間がある場合、サーバS1は、より高い信頼度を有する時間帯(区間)の信号を優先して抽出した1つの色変化時系列信号Vt5を生成してよい。
サーバS1は、生成された色変化時系列信号Vt5に基づいて、ユーザH1の脈拍を推定する(St8)。
以上により、実施の形態1の変形例に係るバイタルセンシングシステム100は、ユーザの周囲に複数のカメラが配置された環境下において、複数の色変化時系列信号のうち、より信頼度が高い信号のみを抽出した色変化時系列信号を生成できる。これにより、実施の形態1の変形例に係るバイタルセンシングシステム100は、信頼度が高い、つまり推定(計測)される脈拍データの脈拍計測精度が高い色変化時系列信号を用いてユーザH1の生体情報(脈拍)を推定(計測)できる。さらに、ストレス指数のように1分以上の色変化時系列信号を必要とする計測において、バイタルセンシングシステム100は、1分以上にわたって信頼度が高い色変化時系列信号が抽出できない場合であっても、数秒の色変化時系列信号から色変化時系列信号の信頼度を判定することで、容易にユーザH1の生体情報(脈拍)を高精度に計測できる。
(実施の形態2)
実施の形態1に係るバイタルセンシングシステム100は、時間の同期を実行した複数のカメラのそれぞれから同時に撮像映像を取得する例を示した。実施の形態2に係るバイタルセンシングシステム100aでは、1つの端末装置に複数のカメラのそれぞれが通信可能に接続され、これら複数のカメラのそれぞれのうち撮像映像を取得するカメラが1つの例について説明する。
図8は、実施の形態2に係るバイタルセンシングシステム100aの内部構成例を示す図である。図8に示す実施の形態2に係るバイタルセンシングシステム100aの内部構成例は、実施の形態1に係るバイタルセンシングシステム100の内部構成例とほぼ同一の構成を有する。実施の形態1と同一の構成要素については同一の符号を用いることで、その説明を省略する。なお、図8に示す端末装置は1つであるが、この例に限定されないことは言うまでもない。例えば、実施の形態2に係るバイタルセンシングシステム100aは、1つの端末装置に複数のカメラのそれぞれが通信可能に接続されていればよい。
実施の形態2に係るバイタルセンシングシステム100aにおける端末装置P1aは、カメラC1との間で有線通信可能に接続され、カメラC2aおよびサーバS1aとの間で無線通信可能に接続される。端末装置P1aは、通信部20aと、プロセッサ21aと、メモリ22aと、モニタ23と、操作部24と、を含んで構成される。なお、端末装置P1aは、3つ以上のカメラと通信可能に接続されてよい。
通信部20aは、カメラC1との間で有線通信可能に接続され、カメラC2aおよびサーバS1aとの間で無線通信可能に接続される。通信部20aは、カメラC1における通信部40あるいはカメラC2aにおける通信部50のいずれか一方のカメラからユーザH1を撮像した撮像映像を受信し、メモリ22aに記憶するとともにプロセッサ21に出力する。また、通信部20aは、プロセッサ21aによって抽出されたユーザH1の顔表面の顔色変化を示す色変化時系列信号と、色変化時系列信号の波形に基づいて算出され、ユーザH1の脈拍計測精度を示す信頼度とを、ネットワークNWを介してサーバS1aにおける通信部10に送信する。
また、通信部20aは、サーバS1aによって実行される色変化時系列信号に基づいて算出された信頼度の検定において、信頼度がサーバS1aに設定された信頼度の閾値未満である場合、信頼度が閾値未満である旨の情報を通信部10から受信する。通信部20aは、受信された信頼度が閾値未満である旨の情報をプロセッサ21aに出力する。
プロセッサ21aは、予め設定されたカメラから受信された撮像映像からユーザH1の顔が映る領域を検出する。プロセッサ21aは、検出された顔の領域のうち、ユーザH1の顔表面の顔色変化を測定するためのセンシング領域を設定し、このセンシング領域からユーザH1の顔色の変化に基づく色変化時系列信号を抽出する。プロセッサ21aは、色変化時系列信号の波形に基づいて、ユーザH1の脈拍計測精度を示す信頼度を算出する。プロセッサ21aは、抽出された色変化時系列信号と、算出された信頼度とを、ネットワークNWを介してサーバS1aに送信するとともに、撮像映像が撮像されたカメラの情報と関連付けてメモリ22aに記憶する。
ここで、実施の形態2におけるプロセッサ21aの色変化時系列信号の抽出および信頼度の算出を実行するカメラの選択方法について説明する。プロセッサ21aは、操作部24から入力され、ユーザH1によってメインカメラとして選択(設定)されたカメラを優先的に選択してもよいし、撮像映像に映るユーザH1の顔の向きが正面のカメラを優先的に選択してもよい。
さらに、プロセッサ21aは、端末装置P1aと複数のカメラC1,C2aのそれぞれのうち、有線通信可能に接続されたカメラ(例えば、図8に示すカメラC1)を優先的に選択してもよい。これにより、プロセッサ21aは、無線通信方式ごとの規格に応じた圧縮処理が施されていないデータであって、生ログ(生データ)状態の撮像映像を受信できる。なお、端末装置P1aがカメラを内蔵している場合、プロセッサ21aは、内蔵されたカメラを最優先に選択してよい。
また、プロセッサ21aは、通信部20aから入力された信頼度が閾値未満である旨の情報に基づいて、信頼度が閾値未満である色変化時系列信号が抽出された撮像映像を撮像したカメラの情報を取得し、メモリ22aに記憶する。プロセッサ21aは、撮像映像を取得するカメラを、現在のカメラ(つまり、信頼度が閾値未満と検定されたカメラ)から信頼度の算出および検定が実行されていない(つまり、未検定である)他のカメラに切り替える。プロセッサ21aは、切り替えられた他のカメラをONにして、ユーザH1の撮像を開始する。なお、他のカメラは、ユーザH1によって選択されてよい。
プロセッサ21aは、他のカメラから取得された撮像映像に基づいて、再度色変化時系列信号の抽出および信頼度の算出を実行する。プロセッサ21aは、抽出された色変化時系列信号と、算出された信頼度とを、ネットワークNWを介してサーバS1aに送信するとともに、撮像映像が撮像された他のカメラの情報と関連付けてメモリ22aに記憶する。
なお、プロセッサ21aは、端末装置P1aに通信可能に接続されたすべてのカメラのそれぞれにおいて、サーバS1aによって検定された信頼度が閾値未満となった場合、カメラの設置位置が不適である旨のアラートを生成し、モニタ23aに出力する。また、プロセッサ21aは、メモリ22aに記憶された検定済み、かつ信頼度が閾値未満と検定されたすべてのカメラの情報をリセットする制御指示を生成する。プロセッサ21aは、生成された制御指示をメモリ22aに出力し、検定済みカメラの情報をリセットさせる。
メモリ22aは、端末装置P1aと通信可能に接続された複数のカメラC1,C2aのそれぞれを識別可能な情報を記憶し、複数のカメラC1,C2aのそれぞれから受信された撮像映像、撮像映像から抽出された色変化時系列信号および信頼度などを記憶する。また、メモリ22aは、操作部24から入力され、メインカメラとして選択(設定)されたカメラの情報を記憶する。
さらに、メモリ22aは、信頼度の算出およびサーバS1aによる信頼度の検定が実行された検定済みのカメラの情報を記憶する。なお、メモリ22aは、プロセッサ21aから検定済みカメラの情報をリセットする制御指示が入力された場合、この制御指示に基づいて、検定済みカメラの情報をリセットする。
モニタ23aは、プロセッサ21aから入力されたアラートを表示する。なお、アラートは、スピーカ(不図示)から音声出力されてよい。
操作部24は、例えばユーザH1の入力操作を検出するユーザインターフェースであり、マウス、キーボードまたはタッチパネルなどを用いて構成される。操作部24は、ユーザH1の入力操作に基づいて、ユーザH1を撮像するメインカメラの選択(設定)および切り替えを受け付ける。操作部24は、受け付けたユーザH1の入力操作を信号に変換し、プロセッサ21aおよびメモリ22aのそれぞれに出力する。
カメラC2aは、端末装置P1aとの間で無線通信可能に接続され、撮像された撮像映像を端末装置P1aに送信する。カメラC2aは、通信部50と、プロセッサ51と、メモリ52と、撮像部53と、を含んで構成される。
通信部50は、端末装置P1aにおける通信部20aとの間でデータを無線通信可能に接続される。ここでいう無線通信は、例えばBluetooth(登録商標)、NFC(登録商標)などの近距離無線通信、またはWi−fi(登録商標)などの無線LANを介した通信である。通信部50は、撮像部53によって撮像された撮像映像を端末装置P1aに送信する。
プロセッサ51は、例えばCPUまたはFPGAを用いて構成され、メモリ52と協働して、各種の処理および制御を行う。プロセッサ51は、撮像部53によって撮像され、入力された撮像映像をメモリ52に記憶するとともに、端末装置P1aおける通信部20aに送信する。
メモリ52は、例えばプロセッサ51の各処理を実行する際に用いられるワークメモリとしてのRAMと、プロセッサ51の動作を規定したプログラムおよびデータを格納するROMとを有する。RAMには、プロセッサ51により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、プロセッサ51の動作を規定するプログラムが書き込まれている。メモリ52は、撮像部53によって撮像された撮像映像を記憶する。
撮像部53は、少なくともレンズ(不図示)とイメージセンサ(不図示)とを有して構成される。イメージセンサは、例えばCCDまたはCMOSの固体撮像素子であり、撮像面に結像した光学像を電気信号に変換する。撮像部53は、撮像された撮像映像をプロセッサ51に出力する。
実施の形態2に係るサーバS1aは、ネットワークNWを介して端末装置P1aとの間で無線通信可能に接続される。サーバS1aは、通信部10aと、プロセッサ11aと、メモリ12aと、を含んで構成される。
通信部10aは、端末装置P1aにおける通信部20aから色変化時系列信号と、信頼度とを受信する。また、通信部10aは、プロセッサ11aから信頼度が閾値未満である旨の情報が入力されると、この情報を、ネットワークNWを介して端末装置P1aにおける通信部20aに送信する。
プロセッサ11aは、端末装置P1aから受信された色変化時系列信号の信頼度と、予め設定され、メモリ12aに記憶された信頼度における閾値とを検定する。プロセッサ11aは、受信された信頼度が閾値以上の場合、受信された色変化時系列信号からユーザH1の脈拍を推定するとともに、推定された脈拍データに基づいて、ユーザH1のストレス指数を算出する。また、プロセッサ11aは、推定された脈拍データおよびストレス指数をメモリ12aに記憶する。一方、プロセッサ11aは、受信された信頼度が閾値未満の場合、信頼度が閾値未満である旨の情報を生成し、通信部20aに出力する。
ここで、実施の形態2に係るバイタルセンシングシステム100aにおいて、信頼度の算出に要する色変化時系列信号の周期数および時間は、脈拍などの推定に要する周期数および時間よりも小さく(短く)てよい。これにより、サーバS1aは、算出された信頼度が閾値を下回る場合、すぐにユーザH1を撮像するカメラを現在のカメラから他のカメラに切り替えることができる。
さらに、色変化時系列信号のうち、信頼度が閾値未満となった時間帯が限定的であって、信頼度が閾値以上である他の色変化時系列信号からユーザH1の脈拍、心拍、ストレス指数などを推定あるいは算出可能な場合、サーバS1aは、信頼度が閾値以上である他の色変化時系列信号からユーザH1の脈拍、ストレス指数などを推定あるいは算出してよい。
メモリ12aは、予め設定され、ユーザの脈拍を推定可能あるいはストレス指数を算出可能な信頼度を記憶する。また、メモリ12aは、プロセッサ11aによって推定された脈拍データおよびストレス指数をユーザごとに記憶する。
図9を参照して、実施の形態2に係るバイタルセンシングシステム100aの脈拍推定手順について説明する。図9は、実施の形態2に係るバイタルセンシングシステム100aの脈拍推定手順例を示すシーケンス図である。なお、図9において、ユーザH1によって選択(設定)されたカメラを最初にユーザH1を撮像するカメラとして選択する例を示すが、カメラの選択方法はこれに限定されないことは言うまでもない。
端末装置P1aは、通信可能に接続された複数のカメラC1,C2aのそれぞれのうち、ユーザH1によって予め選択されたカメラC1をONにし、ユーザH1の撮像を開始する(St10)。端末装置P1aは、カメラC1からユーザH1を撮像した撮像映像を受信し、取得する(St11)。
端末装置P1aは、取得された撮像映像からユーザH1の顔位置を検出し(St12)、検出された顔の位置のうち脈拍の抽出を目的として顔表面の顔色変化を測定するためセンシング領域を抽出し(St13)、抽出されたセンシング領域におけるユーザH1の顔表面の色変化時系列信号を抽出する(St14)。なお、撮像映像においてユーザH1の顔の位置が変化する場合、センシング領域は、ユーザH1の顔の位置に応じて変更されてよい。
端末装置P1aは、抽出された色変化時系列信号の波形に基づいて、ユーザH1の脈拍計測精度を示す信頼度を算出する(St15)。端末装置P1aは、抽出された色変化時系列信号と、算出された信頼度とを、ネットワークNW1を介してサーバS1aに送信する(St16)。
サーバS1aは、端末装置P1aから受信された色変化時系列信号の信頼度とメモリ12aに記憶された閾値とを検定する(St17)。サーバS1aは、ステップSt17の処理において、信頼度が閾値以上である場合(St17,YES)、色変化時系列信号に基づいてユーザH1の脈拍を推定する(St18)。
一方、サーバS1aは、ステップSt17の処理において、信頼度が閾値未満である場合(St17,NO)、検定結果として受信された色変化時系列信号の信頼度が閾値未満である旨の情報を生成し、端末装置P1aに送信する(St19)。
端末装置P1aは、検定結果を受信すると、この検定結果をメモリ22aに出力するとともに、端末装置P1aとの間で通信可能に接続されたすべてのカメラのそれぞれによって撮像された撮像映像の信頼度が検定済みであるか否かを判定する(St20)。
端末装置P1aは、メモリ22aに記憶された検定済みのカメラの情報に基づいて、通信可能に接続されたすべてのカメラについて検定済みである場合(St20,YES)、カメラの設置位置が不適である旨のアラートを生成し、モニタ23aに出力する(St21)。また、端末装置P1aは、メモリ22aに記憶された検定済みのカメラの情報をリセットし、通信可能に接続されたすべてのカメラを未検定状態にする(St23)。以降、バイタルセンシングシステム100aは、ステップSt11の処理に戻る。
一方、端末装置P1aは、メモリ22aに記憶された検定済みのカメラの情報に基づいて、通信可能に接続されたすべてのカメラについて検定済みでない場合(St20,NO)、現在ONにしているカメラをOFFにする(St22)。また、端末装置P1aは、検定済みでないいずれか1つのカメラをONにする(St24)。以降、バイタルセンシングシステム100aは、ステップSt11の処理に戻る。
図10は、実施の形態2に係るバイタルセンシングシステム100aにおけるカメラの切り替えを説明する図である。なお、図10に示す色変化時系列信号において、説明をわかりやすくするために図示を省略しているが、各色変化時系列信号Vt61,Vt62,Vt71,Vt72の信号は、ストレス指数を算出可能な時間(つまり1分)以上の信号であり、実際にはカメラC1,C2aの切り替えに伴う1秒程度の切り替え時間により非連続の信号である。
図10に示す例において、端末装置P1aは、まず時間0(ゼロ)においてカメラC1をONにし、カメラC1によって撮像された撮像映像を受信する。端末装置P1aは、受信された撮像映像から抽出された色変化時系列信号Vt61と信頼度とを、メモリ22aに記憶するとともに、サーバS1aに送信する。ここで、算出された色変化時系列信号Vt61の信頼度は、波形の形状および周期が規則的でなく(つまり、色変化時系列信号Vt61の振幅および周期のばらつきが大きい)、閾値よりも低い値とする。
サーバS1aは、受信された色変化時系列信号Vt61の信頼度と予め設定された閾値とを検定し、検定結果として色変化時系列信号Vt61の信頼度が閾値未満である旨の情報を生成して、端末装置P1aに送信する。
端末装置P1aは、受信された検定結果に基づいて、カメラC1の情報を検定済みのカメラとしてメモリ22aに記憶させる。端末装置P1aは、カメラC1をOFFにするとともに、時間T1においてメモリ22aに検定済みカメラとして記憶されていない未検定のカメラC2aをONにし、再度ユーザH1の撮像を開始する。
端末装置P1aは、カメラC2aによって撮像された撮像映像を受信する。端末装置P1aは、受信された撮像映像から抽出された色変化時系列信号Vt71と信頼度とを、メモリ22aに記憶するとともに、サーバS1aに送信する。ここで、算出された色変化時系列信号Vt71の信頼度は、波形の形状および周期が規則的でなく(つまり、色変化時系列信号Vt71の振幅および周期のばらつきが大きい)、閾値よりも低い値とする。
サーバS1aは、受信された色変化時系列信号Vt71の信頼度と予め設定された閾値とを検定し、検定結果として色変化時系列信号Vt71の信頼度が閾値未満である旨の情報を生成して、端末装置P1aに送信する。
端末装置P1aは、受信された検定結果に基づいて、カメラC2aの情報を検定済みのカメラとしてメモリ22aに記憶させる。ここで、端末装置P1aは、端末装置P1aとの間で通信可能に接続されたすべてのカメラC1,C2aが検定済みであるため、メモリ22aに記憶された検定済みカメラの情報をリセットする。端末装置P1aは、カメラC2aをOFFにするとともに、時間T2において再度カメラC1をONにし、再度ユーザH1の撮像を開始する。また、端末装置P1aは、カメラの設置位置が不適である旨のアラートを生成し、モニタ23aに出力する。
端末装置P1aは、カメラC1によって撮像された撮像映像を受信する。端末装置P1aは、受信された撮像映像から抽出された色変化時系列信号Vt62と信頼度とを、メモリ22aに記憶するとともに、サーバS1aに送信する。ここで、算出された色変化時系列信号Vt62の信頼度は、波形の形状および周期が規則的でなく(つまり、色変化時系列信号Vt62の振幅および周期のばらつきが大きい)、閾値よりも低い値とする。
サーバS1aは、受信された色変化時系列信号Vt62の信頼度と予め設定された閾値とを検定し、検定結果として色変化時系列信号Vt62の信頼度が閾値未満である旨の情報を生成して、端末装置P1aに送信する。
端末装置P1aは、受信された検定結果に基づいて、カメラC1の情報を検定済みのカメラとしてメモリ22aに記憶させる。端末装置P1aは、カメラC1をOFFにするとともに、時間T3においてメモリ22aに検定済みカメラとして記憶されていない未検定のカメラC2aをONにし、再度ユーザH1の撮像を開始する。
端末装置P1aは、カメラC2aによって撮像された撮像映像を受信する。端末装置P1aは、受信された撮像映像から抽出された色変化時系列信号Vt72と信頼度とを、メモリ22aに記憶するとともに、サーバS1aに送信する。ここで、算出された色変化時系列信号Vt72の信頼度は、波形の形状および周期が規則的であり(つまり、色変化時系列信号Vt72の振幅および周期のばらつきが小さい)、閾値よりも高い値とする。
サーバS1aは、受信された色変化時系列信号Vt72の信頼度と予め設定された閾値とを検定する。サーバS1aは、検定の結果、色変化時系列信号Vt72の信頼度が閾値以上であるため、時間T4以降、算出された信頼度が閾値未満となるまで、カメラC2aによるユーザH1の撮像を継続する。
以上により、実施の形態2に係るバイタルセンシングシステム100aは、ユーザの周囲に複数のカメラが配置された環境下において、ユーザの生体情報を高精度に計測できる。また、バイタルセンシングシステム100aは、複数のカメラのそれぞれのうちいずれか1つのカメラを用いてユーザH1の撮像を実行し、センシング領域の設定および抽出、色変化時系列信号の抽出、信頼度の算出などの各処理を実行するため、サーバS1aおよび端末装置P1aの処理負荷を低減できる。
また、実施の形態2に係るバイタルセンシングシステム100aは、算出された信頼度がメモリ12aに記憶された所定の閾値(つまり、比較参照値)以上となる条件を満たすまで、複数のカメラC1,C2aのうち少なくとも1つのカメラによって撮像された撮像映像に基づく色変化時系列信号の抽出と色変化時系列信号の信頼度の算出とを繰り返す。これにより、実施の形態2に係るバイタルセンシングシステム100aは、ユーザH1の周囲に複数のカメラC1,C2aが配置された環境下において、ユーザH1の生体情報(脈拍)を高精度に計測できる。
また、実施の形態2に係るバイタルセンシングシステム100aは、信頼度が所定の閾値(つまり、比較参照値)以上となる条件を満たさない場合、条件を満たさない信頼度が算出されたカメラの情報をメモリ12aに記憶し、記憶されていないカメラ(つまり、未検定のカメラ)のうち少なくとも1つのカメラによってユーザH1の撮像を実行する。これにより、実施の形態2に係るバイタルセンシングシステム100aは、ユーザH1の周囲に複数のカメラC1,C2aが配置された環境下において、ユーザH1の生体情報(脈拍)を高精度に計測できる。また、バイタルセンシングシステム100aは、複数のカメラのそれぞれのうちいずれか1つのカメラを用いてユーザH1の撮像を実行し、センシング領域の設定および抽出、色変化時系列信号の抽出、信頼度の算出などの各処理を実行するため、サーバS1aおよび端末装置P1aの処理負荷を低減できる。
また、実施の形態2に係るバイタルセンシングシステム100aは、メモリ12aに記憶されていないカメラがない(つまり、端末装置P1aとの間で通信可能に接続されたすべてのカメラが検定済みである)場合、メモリ12aに記憶された検定済みのカメラの情報をリセットする。これにより、実施の形態2に係るバイタルセンシングシステム100aは、ユーザH1の周囲に複数のカメラC1,C2aが配置された環境下において、複数のカメラC1,C2aのそれぞれを効率的に切り替え、より信頼度が高く算出される撮像映像を取得できる。
また、実施の形態2に係るバイタルセンシングシステム100aは、撮像映像に基づいて抽出された色変化時系列信号の信頼度とメモリ12aに記憶された所定の閾値とを検定する。これにより、実施の形態2に係るバイタルセンシングシステム100aは、ユーザH1の周囲に複数のカメラC1,C2aが配置された環境下において、信頼度が閾値(つまり、計測される脈拍データの脈拍計測精度における一定の計測精度を有することを示す)以上の色変化時系列信号に基づいて、ユーザH1の生体情報(脈拍)を高精度に計測できる。
また、実施の形態2に係るバイタルセンシングシステム100aにおける複数のカメラは、1分以上に亘ってユーザH1を撮像する。これにより、実施の形態2に係るバイタルセンシングシステム100aは、ストレス指数の算出に必要な時間(1分)以上に亘って、ユーザH1を撮像でき、信頼度が閾値以上の色変化時系列信号に基づいて、ユーザH1の生体情報(脈拍、ストレス指数など)を高精度に計測できる。
以上、添付図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても本開示の技術的範囲に属すると了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。
本開示は、ユーザの周囲に複数のカメラが配置された環境下において、ユーザの生体情報を高精度に計測するバイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステムの提示として有用である。
10,20,30,40,50 通信部
11,21,31,41,51 プロセッサ
12,22,32,42,52 メモリ
23,33 モニタ
24 操作部
43,53 撮像部
C1,C2 カメラ
H1 ユーザ
P1,P2 端末装置
NW ネットワーク
S1 サーバ

Claims (13)

  1. 周囲に複数のカメラが配置されたユーザの生体情報を計測するバイタルデータ出力方法であって、
    前記複数のカメラのうち少なくとも1つのカメラによって撮像された前記ユーザの撮像映像を取得し、
    前記撮像映像に基づいて、前記ユーザの前記生体情報を含む生体信号を抽出し、
    前記抽出された前記生体信号の信頼度を算出し、
    算出された前記信頼度が所定の比較参照値以上となる条件を満たす場合に、前記生体信号に基づいて前記ユーザの前記生体情報を推定して出力する、
    バイタルデータ出力方法。
  2. 算出された前記信頼度が前記所定の比較参照値以上となる条件を満たすまで、前記複数のカメラのうち少なくとも1つのカメラによって撮像された撮像映像に基づく生体信号の抽出と前記生体信号の信頼度の算出とを繰り返す、
    請求項1に記載のバイタルデータ出力方法。
  3. 前記信頼度の算出に要する時間は、前記生体情報の推定に要する時間よりも短い、
    請求項1に記載のバイタルデータ出力方法。
  4. 前記生体信号は周期性を有し、
    前記信頼度を算出可能な周期数は、前記生体情報を推定可能な周期数より少ない、
    請求項1に記載のバイタルデータ出力方法。
  5. 前記信頼度の算出に要する時間は、前記生体情報の推定に要する時間よりも長い、
    請求項1に記載のバイタルデータ出力方法。
  6. 算出された前記信頼度が前記比較参照値未満の場合、前記信頼度を算出する間に推定された生体情報は出力されない、
    請求項5に記載のバイタルデータ出力方法。
  7. 前記信頼度が前記所定の比較参照値以上となる条件を満たさない場合、前記条件を満たさない前記信頼度が算出された前記カメラの情報を記憶し、
    前記記憶されていないカメラのうち少なくとも1つのカメラによって撮像された撮像映像を取得する、
    請求項1に記載のバイタルデータ出力方法。
  8. 前記記憶されていないカメラがない場合、前記記憶されたカメラの情報をリセットする、
    請求項7に記載のバイタルデータ出力方法。
  9. 前記所定の比較参照値は、所定の閾値である、
    請求項1に記載のバイタルデータ出力方法。
  10. 前記所定の比較参照値は、前記ユーザを撮像する1以上の他のカメラによって撮像された撮像映像に基づいて抽出された生体信号の信頼度である、
    請求項1に記載のバイタルデータ出力方法。
  11. 前記複数のカメラは、1分以上に亘って前記ユーザを撮像する、
    請求項1〜10のいずれか1項に記載のバイタルデータ出力方法。
  12. 複数のカメラが配置されたユーザの生体情報を計測するバイタルデータ出力装置であって、
    前記複数のカメラのうち少なくとも1つの前記カメラによって撮像された撮像映像から前記ユーザの前記生体情報を含む生体信号と、前記生体信号の信頼度とを受信する通信部と、
    前記通信部によって受信された前記信頼度が所定の比較参照値以上か否かを検定するプロセッサと、を備え、
    前記プロセッサは、前記信頼度が前記所定の比較参照値以上となる条件を満たす場合に、前記生体信号に基づいて前記ユーザの前記生体情報を推定して出力する、
    バイタルデータ出力装置。
  13. 複数のカメラとサーバとの間で通信可能に接続されたバイタルセンシングシステムであって、
    前記複数のカメラのうち少なくとも1つのカメラは、
    ユーザを撮像した撮像映像から前記ユーザの生体情報を含む生体信号を抽出し、
    抽出された前記生体信号の信頼度を算出し、
    前記生体信号と前記信頼度とを前記サーバに送信し、
    前記サーバは、
    受信された前記信頼度が所定の比較参照値以上となる条件を満たす場合に、前記生体信号に基づいて前記ユーザの前記生体情報を推定して出力する、
    バイタルセンシングシステム。
JP2019199403A 2019-10-31 2019-10-31 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム Active JP7340801B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019199403A JP7340801B2 (ja) 2019-10-31 2019-10-31 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム
JP2023131041A JP2023144028A (ja) 2019-10-31 2023-08-10 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019199403A JP7340801B2 (ja) 2019-10-31 2019-10-31 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023131041A Division JP2023144028A (ja) 2019-10-31 2023-08-10 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム

Publications (2)

Publication Number Publication Date
JP2021069813A true JP2021069813A (ja) 2021-05-06
JP7340801B2 JP7340801B2 (ja) 2023-09-08

Family

ID=75713919

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019199403A Active JP7340801B2 (ja) 2019-10-31 2019-10-31 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム
JP2023131041A Pending JP2023144028A (ja) 2019-10-31 2023-08-10 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023131041A Pending JP2023144028A (ja) 2019-10-31 2023-08-10 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム

Country Status (1)

Country Link
JP (2) JP7340801B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016513517A (ja) * 2013-03-14 2016-05-16 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 被検者のバイタルサイン情報を取得するためのデバイス及び方法
JP2016077539A (ja) * 2014-10-16 2016-05-16 パナソニックIpマネジメント株式会社 生体情報推定装置及び生体情報推定方法
JP2018008039A (ja) * 2016-06-30 2018-01-18 パナソニックIpマネジメント株式会社 生体情報検出装置
JP2018068431A (ja) * 2016-10-25 2018-05-10 パナソニックIpマネジメント株式会社 脈波演算装置および脈波演算方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016513517A (ja) * 2013-03-14 2016-05-16 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 被検者のバイタルサイン情報を取得するためのデバイス及び方法
JP2016077539A (ja) * 2014-10-16 2016-05-16 パナソニックIpマネジメント株式会社 生体情報推定装置及び生体情報推定方法
JP2018008039A (ja) * 2016-06-30 2018-01-18 パナソニックIpマネジメント株式会社 生体情報検出装置
JP2018068431A (ja) * 2016-10-25 2018-05-10 パナソニックIpマネジメント株式会社 脈波演算装置および脈波演算方法

Also Published As

Publication number Publication date
JP2023144028A (ja) 2023-10-06
JP7340801B2 (ja) 2023-09-08

Similar Documents

Publication Publication Date Title
US9154739B1 (en) Physical training assistant system
US11948401B2 (en) AI-based physical function assessment system
US10776423B2 (en) Motor task analysis system and method
JP2017200208A5 (ja) 撮像装置、情報取得システム、情報検索サーバ、及びプログラム
CN105996975A (zh) 用于检测视力的方法、设备以及终端
JP2014076385A5 (ja)
JP2016106668A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2014166270A5 (ja)
KR102466438B1 (ko) 인지 기능 평가 시스템 및 인지 기능 평가 방법
CN112673608A (zh) 用于确定移动设备的用户的认知状态的装置、方法和程序
US10185399B2 (en) Image processing apparatus, non-transitory computer-readable recording medium, and image processing method
KR102487926B1 (ko) 심장 박동을 측정하기 위한 전자 장치 및 방법
US11508150B2 (en) Image processing apparatus and method of controlling the same
CN111710207B (zh) 超声演示装置及系统
CN112987910B (zh) 眼球追踪设备的测试方法、装置、设备及存储介质
Krupicka et al. Motion capture system for finger movement measurement in Parkinson disease
WO2020133776A1 (zh) 一种基于电视机的健康状况检测方法、系统及电视机
JP6782483B2 (ja) 視機能検査システム
JP2021069813A (ja) バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム
JP2022085560A (ja) 身体不調改善装置及び身体不調改善プログラム
CN110826422A (zh) 一种用于获得运动参数信息的系统和方法
JP2022018244A5 (ja)
JP2015058246A (ja) 視線分析システム
EP4102460A1 (en) Information processing device, information processing method, and information processing program
CN114442808A (zh) 一种位姿跟踪模块的测试方法、装置、设备、系统和介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230414

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230718

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230817

R151 Written notification of patent or utility model registration

Ref document number: 7340801

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151