JP6565468B2 - 呼吸検知装置、呼吸検知方法、及び呼吸検知プログラム - Google Patents

呼吸検知装置、呼吸検知方法、及び呼吸検知プログラム Download PDF

Info

Publication number
JP6565468B2
JP6565468B2 JP2015160859A JP2015160859A JP6565468B2 JP 6565468 B2 JP6565468 B2 JP 6565468B2 JP 2015160859 A JP2015160859 A JP 2015160859A JP 2015160859 A JP2015160859 A JP 2015160859A JP 6565468 B2 JP6565468 B2 JP 6565468B2
Authority
JP
Japan
Prior art keywords
measurement
target person
area
measurement area
person
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015160859A
Other languages
English (en)
Other versions
JP2017038673A (ja
Inventor
安川 徹
徹 安川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Noritsu Precision Co Ltd
Original Assignee
Noritsu Precision Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Noritsu Precision Co Ltd filed Critical Noritsu Precision Co Ltd
Priority to JP2015160859A priority Critical patent/JP6565468B2/ja
Publication of JP2017038673A publication Critical patent/JP2017038673A/ja
Application granted granted Critical
Publication of JP6565468B2 publication Critical patent/JP6565468B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、呼吸検知装置、呼吸検知方法、及び呼吸検知プログラムに関する。
近年、対象人物をカメラによって撮影し、得られた画像データを解析することで当該対象人物のバイタルサインを非接触で測定する方法が開発されている。例えば、特許文献1では、対象人物の肩部から胸部下部までを撮影し、撮影した領域の画像濃度の変化から呼気と吸気とを計測し、これによって、当該対象人物の呼吸数を算出する方法が提案されている。
特開2005−218507号公報
画像解析に基づいて対象人物の呼吸数を計測する従来の技術では、呼吸数を正確に測定するため、計測領域が非常に限定的であった。すなわち、対象人物の胸郭が所定の角度で撮影できない場合には、対象人物の呼吸数を計測することができなかった。そのため、従来のシステムでは、次のような問題点が生じることを本件発明者らは見出した。
すなわち、浴室に入る場合等、急激な温度変化が生じる場合に、人間は、体調を崩し、最悪のケースでは呼吸停止に至る可能性がある。このような呼吸停止を画像解析に基づいて監視することができれば、非常に有益である。しかしながら、このような場面では、監視の対象となる対象人物は、カメラの撮影範囲を比較的に自由に動き回る。そのため、計測領域が非常に限定的である従来のシステムでは、比較的に自由に動き回る対象人物の呼吸数を計測することは出来ず、このような場面に利用できないという問題点があることを本件発明者は見出した。
本発明は、一側面では、このような点を考慮してなされたものであり、その目的は、比較的に自由に動き回る対象人物の呼吸数を計測することのできるシステムを提供することである。
本発明は、上述した課題を解決するために、以下の構成を採用する。
すなわち、本発明の一側面に係る呼吸検知装置は、呼吸数を計測する対象となる対象人物を撮影した撮影画像であって、当該撮影画像内の各画素の深度を示す深度データを含む撮影画像を取得する画像取得部と、取得した前記撮影画像内において、前記対象人物の写る人物領域を抽出する人物領域抽出部と、抽出した前記人物領域から、前記対象人物の呼吸数を計測する計測領域を選定する計測領域選定部と、前記撮影画像内で選定された前記計測領域に含まれる各画素の深度を用いて、実空間上における前記計測領域の変動を測定し、測定した前記計測領域の実空間上における変動に基づいて、前記対象人物の呼吸数を計測する呼吸数計測部と、を備える。そして、前記計測領域について、前記計測領域の候補となる複数の候補領域が前記対象人物の身体上に予め設定されており、また、当該複数の候補領域には、前記計測領域として選定するための優先順位が予め定められており、前記計測領域選定部は、前記複数の候補領域の優先順位に基づいて、抽出した前記人物領域に写る1又は複数の候補領域の中から、前記対象人物の呼吸数を計測する前記計測領域を選定する。
上記構成では、対象人物の呼吸数の測定に、各画素の深度を示す深度データを含む撮影画像が用いられる。この各画素の深度は、撮影装置から被写体までの深さを示す。より詳細には、被写体の深度は、当該被写体の表面に対して取得される。すなわち、深度データを利用すれば、実空間上における被写体表面の位置を特定することができる。そのため、この深度データを利用すれば、対象人物に対する撮影装置の視野方向(視点)によらず、当該被写体の実空間(三次元空間)上の状態を解析することができる。したがって、上記構成によれば、対象人物に対する撮影装置の視野方向(視点)に依存することなく、取得された撮影画像から対象人物の呼吸数を計測することができる。
加えて、上記構成では、呼吸数を計測する計測領域の候補となる候補領域が、対象人物の身体上に複数設定されており、また、当該複数の候補領域には、計測領域として選定するための優先順位が予め定められている。そして、その優先順位に従って、撮影画像(人物領域)内に写る1又は複数の候補領域の中から計測領域が選定される。そのため、上記構成によれば、撮影画像内に少なくとも1つの候補領域が写っていれば、対象人物の呼吸数を計測することができる。したがって、上記構成によれば、比較的に自由に動き回る対象人物の呼吸数を計測可能なシステムを提供することができる。
また、上記一側面に係る呼吸検知装置の別の形態として、前記呼吸数計測部は、前記計測領域に含まれる各画素の深度に基づいて、前記計測領域内の複数の計測点それぞれの変位を取得し、取得した複数の計測点それぞれの変位の平均値を算出し、前記複数の計測点それぞれの変位を前記算出した平均値で減算することにより、前記複数の計測点それぞれの相対変位を算出し、前記複数の計測点それぞれの相対変位に基づいて、前記対象人物の前記呼吸数を計測してもよい。
当該構成では、計測領域内の複数の計測点の変動に基づいて、対象人物の呼吸数が計測される。ここで、呼吸による動作は、各計測点を分散する方向(例えば、放射方向)に変位させる傾向にある。すなわち、呼吸動作による各計測点の変位はうち消し合う関係になる。一方、対象人物が移動する等、呼吸に無関係な動作は、各計測点を同一方向に変位させる傾向にある。すなわち、呼吸に無関係な動作による各計測点の変位は加算し合う関係になる。したがって、各計測点の変位の平均値は、理想的には、呼吸に無関係な動作を示す。よって、当該構成によれば、各計測点の変位を当該変位の平均値で減算することで、呼吸に無関係な動作による変位の影響を除外することができ、これによって、対象人物の呼吸数を比較的正確に測定することができる。
また、上記一側面に係る呼吸検知装置の別の形態として、前記複数の候補領域のうち少なくとも一つの候補領域は、前記対象人物の胸郭又は肩部に設定されてよい。対象人物の身体部位のうち胸郭及び肩部は、撮影画像に比較的に写りやすく、かつ、呼吸に基づく変動が生じ易い。したがって、当該構成によれば、計測領域の呼吸に基づく変動が捕捉しやすいため、対象人物の呼吸数を比較的正確に測定することができる。
また、上記一側面に係る呼吸検知装置の別の形態として、前記撮影画像は、前記深度データを取得可能に構成された撮影装置であって、浴室に居る対象人物を撮影するために該浴室に設置された撮影装置により撮影されたものであってよい。当該構成によれば、急激な温度変化の生じやすい浴室での対象人物の呼吸状態を監視するシステムを構築することができる。
また、上記一側面に係る呼吸検知装置の別の形態として、上記呼吸検知装置は、前記計測された呼吸数が所定回数以下である場合、前記対象人物の異常を検知したことを通知する通知部を更に備えてもよい。当該構成によれば、対象人物の呼吸が停止した場合等、対象人物に異常事態が発生した場合に、当該異常事態を検知し、検知した異常事態を報知することができる。
なお、対象人物の異常を検知したことを通知する通知先及び通知方法は、実施の形態に応じて適宜選択されてよい。例えば、当該通知は、対象人物の行動を見守る見守り者に対して行われてよい。対象人物が、入院患者、施設入居者、要介護者等である場合は、当該見守り者は、例えば、看護師、施設職員、介護者等である。また、当該通知は、ナースコール等の施設に設置された設備と連携して行われてもよい。
なお、上記各形態に係る呼吸検知装置の別の形態として、以上の各構成を実現する情報処理システムであってもよいし、情報処理方法であってもよいし、プログラムであってもよいし、このようなプログラムを記録したコンピュータその他装置、機械等が読み取り可能な記憶媒体であってもよい。ここで、コンピュータ等が読み取り可能な記録媒体とは、プログラム等の情報を、電気的、磁気的、光学的、機械的、又は、化学的作用によって蓄積する媒体である。また、情報処理システムは、1又は複数の情報処理装置によって実現されてもよい。
例えば、本発明の一側面に係る呼吸検知方法は、コンピュータが、呼吸数を計測する対象となる対象人物を撮影した撮影画像であって、当該撮影画像内の各画素の深度を示す深度データを含む撮影画像を取得するステップと、取得した前記撮影画像内において、前記対象人物の写る人物領域を抽出するステップと、抽出した前記人物領域から、前記対象人物の呼吸数を計測する計測領域を選定するステップと、前記撮影画像内で選定された前記計測領域に含まれる各画素の深度を用いて、実空間上における前記計測領域の変動を測定し、測定した前記計測領域の実空間上における変動に基づいて、前記対象人物の呼吸数を計測するステップと、を実行する情報処理方法であって、前記計測領域について、前記計測領域の候補となる複数の候補領域が前記対象人物の身体上に予め設定されており、当該複数の候補領域には、前記計測領域として選定するための優先順位が予め定められており、前記計測領域を選定するステップでは、前記複数の候補領域の優先順位に基づいて、抽出した前記人物領域に写る1又は複数の候補領域の中から、前記対象人物の呼吸数を計測する前記計測領域を選定する、情報処理方法である。
また、例えば、本発明の一側面に係る呼吸検知プログラムは、コンピュータに、呼吸数を計測する対象となる対象人物を撮影した撮影画像であって、当該撮影画像内の各画素の深度を示す深度データを含む撮影画像を取得するステップと、取得した前記撮影画像内において、前記対象人物の写る人物領域を抽出するステップと、抽出した前記人物領域から、前記対象人物の呼吸数を計測する計測領域を選定するステップと、前記撮影画像内で選定された前記計測領域に含まれる各画素の深度を用いて、実空間上における前記計測領域の変動を測定し、測定した前記計測領域の実空間上における変動に基づいて、前記対象人物の呼吸数を計測するステップと、を実行させるためのプログラムであって、前記計測領域について、前記計測領域の候補となる複数の候補領域が前記対象人物の身体上に予め設定されており、当該複数の候補領域には、前記計測領域として選定するための優先順位が予め定められており、前記計測領域を選定するステップでは、前記複数の候補領域の優先順位に基づいて、抽出した前記人物領域に写る1又は複数の候補領域の中から、前記対象人物の呼吸数を計測する前記計測領域を選定する、プログラムである。
本発明によれば、比較的に自由に動き回る対象人物の呼吸数を計測可能なシステムを提供することができる。
図1は、本発明が適用される場面の一例を模式的に例示する。 図2は、実施の形態に係る呼吸検知装置のハードウェア構成を例示する。 図3は、実施の形態に係るカメラにより取得される深度と被写体との関係を例示する。 図4は、実施の形態に係る呼吸検知装置の機能構成を例示する。 図5は、実施の形態に係る候補領域設定情報のデータ構成を例示する。 図6は、実施の形態に係る呼吸検知装置による呼吸数の測定に関する処理手順を例示する。 図7Aは、実施の形態に係るカメラにより取得される撮影画像を例示する。 図7Bは、実施の形態に係るカメラにより取得される撮影画像を例示する。 図8は、実施の形態に係る撮影画像内の座標関係を例示する。 図9は、実施の形態に係る撮影画像の任意の点(画素)とカメラとの実空間内での位置関係を例示する。 図10Aは、実施の形態に係るカメラにより取得される撮影画像を模式的に例示する。 図10Bは、実施の形態に係るカメラにより取得される撮影画像を模式的に例示する。 図11は、呼吸動作に基づく計測領域内の各計測点の変位を模式的に例示する。 図12は、呼吸動作以外の動作に基づく計測領域内の各計測点の変位を模式的に例示する。
以下、本発明の一側面に係る実施の形態(以下、「本実施形態」とも表記する)を、図面に基づいて説明する。ただし、以下で説明する本実施形態は、あらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。つまり、本発明の実施にあたって、実施形態に応じた具体的構成が適宜採用されてもよい。なお、本実施形態において登場するデータを自然言語により説明しているが、より具体的には、コンピュータが認識可能な疑似言語、コマンド、パラメタ、マシン語等で指定される。
§1 適用場面
まず、図1を用いて、本発明が適用する場面について説明する。図1は、本実施形態に係る呼吸検知装置1が用いられる場面の一例を示す。本実施形態に係る呼吸検知装置1は、カメラ2によって対象人物を撮影し、それにより得られた撮影画像3を解析することで、当該対象人物の呼吸数を計測する情報処理装置である。そのため、本実施形態に係る呼吸検知装置1は、対象人物の呼吸数を計測する場面で広く利用可能である。
具体的には、まず、本実施形態に係る呼吸検知装置1は、呼吸数を計測する対象となる対象人物を撮影した撮影画像3をカメラ2から取得する。図1で例示される場面では、対象人物は浴室内に居り、カメラ2は、このような対象人物を撮影するため、浴室に設置されている。ただし、対象人物の状態は、このような状態に限られなくてもよく、実施の形態に応じて適宜選択されてよい。
カメラ2は、撮影画像3内の各画素に対応する深度を示す深度データを取得可能に構成される。本実施形態では、カメラ2は、各画素の深度を取得可能なように、被写体の深度を測定する深度センサ(後述する深度センサ21)を含んでいる。本実施形態に係る呼吸検知装置1は、このようなカメラ2と接続し、呼吸数を計測する対象となる対象人物を撮影した撮影画像3を取得する。
取得される撮影画像3は、画素毎に得られる深度を示す深度データを含んでいる。この撮影画像3は、撮影範囲内の被写体の深度を示すデータを含んでいればよく、そのデータ形式は実施の形態に応じて適宜選択可能である。
例えば、撮影画像3は、撮影範囲内の被写体の深度が二次元状に分布したデータ(例えば、深度マップ)であってもよい。また、例えば、撮影画像3は、深度データとともに、RGB画像を含んでもよい。更に、例えば、撮影画像3は、呼吸数を計測可能であれば、動画像で構成されてもよいし、複数枚の静止画像で構成されてもよい。
次に、呼吸検知装置1は、取得した撮影画像3内において対象人物の写る人物領域を抽出する。そして、呼吸検知装置1は、対象人物の呼吸数を計測する計測領域を抽出した人物領域から選定する。
ここで、図1に例示されるように、本実施形態では、計測領域について、当該計測領域の候補となる複数の候補領域31が対象人物の身体上に予め設定されている。加えて、複数の候補領域31には、計測領域として選定するための優先順位が予め定められている。そこで、呼吸検知装置1は、当該予め定められた優先順位に基づいて、抽出した人物領域に写る1又は複数の候補領域31の中から、対象人物の呼吸数を計測する計測領域を選定する。
そして、呼吸検知装置1は、選定した計測領域の変動に基づいて、対象人物の呼吸数を計測する。上記のとおり、撮影画像3は、各画素の深度を示す深度データを含んでいる。そのため、呼吸検知装置1は、この深度データを利用することで、撮影画像3内に写る被写体の実空間上の位置を特定することができる。
より詳細には、被写体の深度は、当該被写体の表面に対して取得される。すなわち、呼吸検知装置1は、深度データの示す各画素の深度を参照することで、実空間上における被写体表面の位置を特定することができる。
そこで、呼吸検知装置1は、撮影画像3内で選定された計測領域に含まれる各画素の深度を用いて、実空間上における計測領域の位置を追跡することで、当該実空間上における計測領域の変動を測定する。そして、呼吸検知装置1は、測定した計測領域の実空間上における変動に基づいて、対象人物の呼吸数を計測する。
このように、本実施形態によれば、対象人物の呼吸数の計測に、各画素の深度を示す深度データを含む撮影画像3が用いられる。上記のとおり、各画素の深度は被写体表面に対して取得されるため、深度データを利用すれば、実空間上の被写体表面の位置を特定することができる。そのため、この深度データを利用すれば、対象人物に対するカメラ2の視野方向(視点)によらず、対象人物の実空間(三次元空間)上の状態を解析することができる。したがって、本実施形態によれば、対象人物に対するカメラ2の視野方向(視点)に依存することなく、取得された撮影画像3から対象人物の呼吸数を計測することができる。
加えて、本実施形態では、呼吸数を計測する計測領域の候補となる候補領域31が、対象人物の身体上に複数設定されており、また、複数の候補領域31には、計測領域として選定するための優先順位が予め定められている。そして、その優先順位に従って、撮影画像3(人物領域)内に写る1又は複数の候補領域31の中から計測領域が選定される。そのため、本実施形態によれば、撮影画像3内に少なくとも1つの候補領域31が写っていれば、対象人物の呼吸数を計測することができる。したがって、本実施形態によれば、対象人物が比較的自由に動き回っても、当該対象人物の呼吸数を計測することができる。
なお、図1の例では、対象人物の胸郭、右肩部、及び左肩部にそれぞれ1つの候補領域31が設定されている。すなわち、図1の例では、対象人物の身体上に、合計3つの候補領域31が予め設定されている。ただし、候補領域31の数及び設置部位は、これらの例に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。候補領域31の数は、2つでもよいし、4つ以上であってもよい。また、各候補領域31は、呼吸によって変動する身体部位に適宜設定される。例えば、各候補領域31は、上半身、特に、腹部、胸郭、肩部、背部、側面部、頭部、顔面等に設定することができる。
また、本実施形態では、カメラ2は、浴室に設置されている。より詳細には、カメラ2は、浴室の洗い場側の側壁に設置されている。しかしながら、カメラ2の設置場所は、このような例に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。例えば、カメラ2は、浴槽側の側壁に設置されてもよい。また、浴室以外の場面で利用するため、カメラ2は、浴室以外の場所に設置されてもよい。
また、呼吸検知装置1の配置場所は、カメラ2から撮影画像3を取得可能であれば、実施の形態に応じて適宜決定可能である。例えば、呼吸検知装置1は、図1に例示されるように、カメラ2に近接するように配置されてもよい。また、呼吸検知装置1は、ネットワークを介してカメラ2と接続してもよく、当該カメラ2とは全く異なる場所に配置されてもよい。
§2 構成例
<ハードウェア構成>
次に、図2を用いて、呼吸検知装置1のハードウェア構成を説明する。図2は、本実施形態に係る呼吸検知装置1のハードウェア構成を例示する。呼吸検知装置1は、図2に例示されるように、CPU、RAM(Random Access Memory)、ROM(Read Only Memory)等を含む制御部11、制御部11で実行するプログラム5等を記憶する記憶部12、画像の表示と入力を行うためのタッチパネルディスプレイ13、音声を出力するためのスピーカ14、外部装置と接続するための外部インタフェース15、ネットワークを介して通信を行うための通信インタフェース16、及び記憶媒体6に記憶されたプログラムを読み込むためのドライブ17が電気的に接続されたコンピュータである。図2では、通信インタフェース及び外部インタフェースは、それぞれ、「通信I/F」及び「外部I/F」と記載されている。
なお、呼吸検知装置1の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換、及び追加が可能である。例えば、制御部11は、複数のプロセッサを含んでもよい。また、例えば、タッチパネルディスプレイ13は、それぞれ別個独立に接続される入力装置及び表示装置に置き換えられてもよい。また、例えば、スピーカ14は省略されてもよい。また、例えば、スピーカ14は、呼吸検知装置1の内部装置としてではなく、外部装置として呼吸検知装置1に接続されてもよい。また、呼吸検知装置1はカメラ2を内蔵してもよい。また、例えば、ドライブ17は、外部インタフェース15を介して接続されてもよいし、省略されてもよい。また、呼吸検知装置1は、複数の外部インタフェース15を備えてもよく、複数種類の外部装置と接続してもよい。
本実施形態に係るカメラ2は、外部インタフェース15を介して呼吸検知装置1に接続しており、呼吸数を計測する対象人物を撮影する。このカメラ2は、本発明の「撮影装置」に相当する。カメラ2の設置場所は、対象人物を撮影可能であれば特に限定されなくてよく、実施の形態に応じて適宜選択されてよい。例えば、浴室における対象人物の呼吸状態を監視する場合には、図1で例示されるように、カメラ2は、浴室内に居る対象人物を撮影可能なように、浴室内に適宜設置される。
このカメラ2は、深度データを含む撮影画像3を撮影可能なように、被写体の深度を測定するための深度センサ21を備えている。この深度センサ21の種類及び測定方法は、実施の形態に応じて適宜選択されてよい。例えば、深度センサ21として、TOF(Time Of Flight)方式等のセンサを挙げることができる。
ただし、カメラ2の構成は、深度を取得可能であれば、このような例に限定されず、実施の形態に応じて適宜選択可能である。例えば、カメラ2は、撮影範囲内の被写体の深度を特定することが可能なように、ステレオカメラであってもよい。ステレオカメラは、撮影範囲内の被写体を複数の異なる方向から撮影するため、当該被写体の深度を記録することができる。また、カメラ2は、撮影範囲内の被写体の深度を特定可能であれば、深度センサ21単体に置き換わってもよい。
なお、対象人物を撮影する場所は暗い可能性がある。そこで、撮影場所の明るさに影響されずに深度を取得可能なように、深度センサ21は、赤外線の照射に基づいて深度を測定する赤外線深度センサであってもよい。このような赤外線深度センサを含む比較的安価な撮影装置として、例えば、マイクロソフト社のKinect、ASUS社のXtion、Occipital社のStructure Sensorを挙げることができる。
ここで、図3を用いて、本実施形態に係る深度センサ21によって測定される深度を詳細に説明する。図3は、本実施形態に係る深度として扱うことが可能な距離の一例を示す。当該深度は、被写体の深さを表現する。図3で例示されるように、被写体の深さは、例えば、カメラ2と対象物との直線の距離Aで表現されてもよいし、カメラ2の被写体に対する水平軸から下ろした垂線の距離Bで表現されてもよい。
すなわち、本実施形態に係る深度は、距離Aであってもよいし、距離Bであってもよい。本実施形態では、距離Bを深度として扱うことにする。ただし、距離A及び距離Bは、例えば、三平方の定理等に基づいて、互いに変換可能である。そのため、距離Bを用いた以降の説明は、そのまま、距離Aに適用することが可能である。本実施形態に係る呼吸検知装置1は、このような深度を利用することで、呼吸数の計測を行う。
また、本実施形態では、記憶部12には、各候補領域31の設定を示す候補領域設定情報121とプログラム5とが記憶されている。候補領域設定情報121については後述する。プログラム5は、呼吸検知装置1に後述する呼吸数の計測に関する処理手順を実行させるためのプログラムであり、本発明の「呼吸検知プログラム」に相当する。このプログラム5は記憶媒体6に記録されていてもよい。
記憶媒体6は、コンピュータその他装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。記憶媒体6は、本発明の「記憶媒体」に相当する。なお、図2は、記憶媒体6の一例として、CD(Compact Disk)、DVD(Digital Versatile Disk)等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体6の種類は、ディスク型に限定される訳ではなく、ディスク型以外であってもよい。ディスク型以外の記憶媒体として、例えば、フラッシュメモリ等の半導体メモリを挙げることができる。
また、このような呼吸検知装置1は、例えば、提供されるサービス専用に設計された装置であってもよいし、PC(Personal Computer)、タブレット端末等の汎用の装置であってもよい。更に、呼吸検知装置1は、1又は複数のコンピュータにより実装されてもよい。
<機能構成例>
次に、図4及び図5を用いて、呼吸検知装置1の機能構成を説明する。図4は、本実施形態に係る呼吸検知装置1の機能構成を例示する。また、図5は、本実施形態に係る候補領域設定情報121のデータ構成を例示する。本実施形態では、呼吸検知装置1の制御部11は、記憶部12に記憶されたプログラム5をRAMに展開する。そして、制御部11は、RAMに展開されたプログラム5をCPUにより解釈及び実行して、各構成要素を制御する。これにより、呼吸検知装置1は、画像取得部111、人物領域抽出部112、計測領域選定部113、呼吸数計測部114及び通知部115を備えるコンピュータとして機能する。
画像取得部111は、カメラ2によって撮影された撮影画像3を取得する。取得される撮影画像3は、各画素の深度を示す深度データが含まれている。上記のとおり、この深度データによれば、撮影画像3内に写る被写体の実空間上の位置、より詳細には、実空間上における被写体表面の位置を特定することができる。
人物領域抽出部112は、取得した撮影画像3内において、対象人物の写る人物領域を抽出する。計測領域選定部113は、抽出した人物領域から、対象人物の呼吸数を計測する計測領域を選定する。
ここで、上記のとおり、計測領域の選定は、候補領域31の中から行われる。そのため、当該計測領域について、複数の候補領域31が対象人物の身体上に予め定められており、また、当該複数の候補領域31には、計測領域として選定するための優先順位が予め定められている。本実施形態では、この各候補領域31についての設定は、図5で例示される候補領域設定情報121として記憶部12に記憶されている。
本実施形態に係る候補領域設定情報121を示すデータは、図5で例示されるように、候補領域IDフィールド、位置フィールド、及び優先順位フィールドを含む。図5に例示されるテーブルでは、1行分のデータ(1レコード)が1候補領域分のデータに該当する。
候補領域IDフィールドには、対象の候補領域31を識別するための識別子(候補領域ID)が格納される。候補領域IDは、各候補領域31を識別可能であれば、任意に設定されてよい。
位置フィールドには、撮影画像3内に対象人物が現れた場合に、当該対象人物の身体上で候補領域31の位置を特定するための位置情報が格納される。候補領域31は、例えば、対象人物の上半身に適宜設定されてよく、候補領域31の位置を指定(特定)する方法は、特に限定されなくてよく、実施の形態に応じて適宜選択されてよい。例えば、候補領域31の位置は、腹部、胸郭、肩部、背部等の身体部位に基づいて設定されてよい。
優先順位フィールドには、対象の候補領域31の優先順位を示す値が格納される。各候補領域31の優先順位は実施の形態に応じて適宜設定されてよい。ただし、本実施形態では、この優先順位に基づいて、呼吸数の計測領域が選定される。そのため、各候補領域31の優先順位は、呼吸動作による変動が生じ易い身体部位に設定されている候補領域31が優先的に計測領域として選定されるように設定されるのが好ましい。例えば、胸郭に設定された候補領域31が他の身体部位に設定された候補領域31よりも優先的に選定されるように、各候補領域31の優先順位が設定されてよい。
なお、本実施形態では、各候補領域31の設定が候補領域設定情報121として独立のデータで構成されている。しかしながら、各候補領域31の設定は、プログラム5の一部(例えば、プログラム5内の分岐条件)に組み込まれてもよい。
また、図5では、候補領域設定情報121を示すデータは、テーブル形式で表現されている。しかしながら、候補領域設定情報121のデータ形式は、このような例に限定されなくてもよく、実施の形態に応じて適宜選択されてもよい。候補領域設定情報121のデータ形式は、テーブル形式以外のデータ形式であってもよい。
また、本実施形態では、候補領域設定情報121は、自装置内の記憶部12に格納されている。しかしながら、候補領域設定情報121は、他の情報処理装置の記憶装置に格納されていてもよい。この場合、呼吸検知装置1は、例えば、ネットワークを介して、当該他の情報処理装置から候補領域設定情報121を取得してもよい。
また、候補領域設定情報121を示すデータのレコード構成は、図5の例に限定されなくてもよく、実施の形態に応じて適宜設定されてもよい。更に、図5の各レコードに格納された値は、本実施形態に係る呼吸検知装置1の動作を説明するために便宜上に記載したものであり、このような例に限定される訳ではない。各レコードに格納される値は、実施の形態に応じて適宜決定されてよい。
図4に戻り、本実施形態では、以上のようにして、複数の候補領域31と各候補領域31の優先順位とが予め設定される。そして、計測領域選定部113は、複数の候補領域31の優先順位に基づいて、抽出した人物領域に写る1又は複数の候補領域31の中から、対象人物の呼吸数を計測する計測領域を選定する。
呼吸数計測部114は、撮影画像3内で選定された計測領域に含まれる各画素の深度を用いて、実空間上における計測領域の変動を測定し、測定した計測領域の実空間上における変動に基づいて、対象人物の呼吸数を計測する。通知部115は、計測された呼吸数が所定回数以下である場合、対象人物の異常を検知したことを通知する。
なお、本実施形態では、これらの機能がいずれも汎用のCPUによって実現される例を説明している。しかしながら、これらの機能の一部又は全部が、1又は複数の専用のプロセッサにより実現されてもよい。また、呼吸検知装置1の機能構成に関して、実施形態に応じて、適宜、機能の省略、置換、及び追加が行われてもよい。例えば、異常検知の通知を行わない場合には、通知部115は省略されてもよい。各機能に関しては後述する動作例で詳細に説明する。
§3 動作例
次に、図6を用いて、呼吸検知装置1の動作例を説明する。図6は、呼吸検知装置1による呼吸数の計測に関する処理手順を例示する。なお、以下で説明する呼吸数の計測に関する処理手順は、本発明の「呼吸検知方法」に相当する。ただし、以下で説明する呼吸数の計測に関する処理手順は一例に過ぎず、各処理は可能な限り変更されてもよい。また、以下で説明する処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。
(ステップS101)
ステップS101では、制御部11は、画像取得部111として機能し、カメラ2により撮影された撮影画像3を取得する。撮影画像3を取得すると、制御部11は、次のステップS102に処理を進める。
本実施形態では、カメラ2は、深度センサ21を備えている。そのため、本ステップS101において取得される撮影画像3には、当該深度センサ21により測定された各画素の深度を示す深度データが含まれている。制御部11は、この深度データを含む撮影画像3として、例えば、図7A及び図7Bで例示される撮影画像3を取得する。
図7A及び図7Bは、深度データを含む撮影画像3の一例を示す。図7Aの撮影画像3は、浴槽内の湯水に入浴者がつかっている場面を撮影したものである。また、図7Bの撮影画像3は、入浴者が洗い場にいる場面を撮影したものである。図7A及び図7Bで例示される撮影画像3は、各画素の濃淡値が当該各画素の深度に応じて定められた画像である。黒色の画素ほど、カメラ2に近いことを示す。一方、白色の画素ほど、カメラ2から遠いことを示す。この撮影画像3は、深度画像と称されてもよい。
制御部11は、この深度データに基づいて、各画素の写る対象の実空間での位置を特定することができる。すなわち、制御部11は、撮影画像3内の各画素の座標(二次元情報)と深度とから、当該各画素内に写る被写体の三次元空間(実空間)での位置を特定することができる。以下、図8及び図9を用いて、制御部11が各画素の実空間上での位置を特定する計算例を示す。
図8は、撮影画像3内の座標関係を模式的に例示する。また、図9は、撮影画像3の任意の画素(点s)とカメラ2との実空間内での位置関係を模式的に例示する。なお、図8の左右方向は、図9の紙面に垂直な方向に対応する。すなわち、図9で表れている撮影画像3の長さは、図8で例示される縦方向の長さ(Hピクセル)に対応する。また、図8で例示される横方向の長さ(Wピクセル)は、図1で表れていない撮影画像3の紙面垂直方向の長さに対応する。
ここで、図8で例示されるように、撮影画像3の任意の画素(点s)の座標を(xs,ys)とし、カメラ2の横方向の画角をVx、縦方向の画角をVyとする。また、撮影画像3の横方向のピクセル数をWとし、縦方向のピクセル数をHとし、撮影画像3の中心点(画素)の座標を(0,0)とする。
制御部11は、カメラ2の画角(Vx、Vy)を示す情報をカメラ2から取得することができる。また、制御部11は、このカメラ2の画角(Vx、Vy)を示す情報を、ユーザ入力に基づき取得してもよいし、予め設定されている設定値として取得してもよい。また、制御部11は、点sの座標(xs,ys)及び撮影画像3のピクセル数(W×H)を撮影画像3から取得することができる。更に、制御部11は、撮影画像3に含まれる深度データを参照することによって、点sの深度Dsを取得することができる。
制御部11は、これらの情報を利用することで、当該各画素(点s)の実空間上の位置を特定することができる。例えば、制御部11は、以下の数1〜3で示される関係式に基づいて、図9に例示されるカメラ座標系におけるカメラ2から点sまでのベクトルS(Sx,Sy,Sz,1)の各値を算出することができる。これにより、撮影画像3内の二次元座標系における点sの位置とカメラ座標系における点sの位置とは相互に変換可能になる。
ただし、上記ベクトルSは、カメラ2を中心とした三次元座標系のベクトルである。このカメラ2は、図9に例示されるように、水平面(地面)に対して傾いている場合がある。すなわち、カメラ座標系は、水平面(地面)を基準とする三次元空間のワールド座標系から傾いている場合がある。そのため、制御部11は、カメラ2のロール角、ピッチ角(図9のα)及びヨー角を用いた射影変換を上記ベクトルSに適用することによって、上記カメラ座標系のベクトルSをワールド座標系のベクトルに変換し、ワールド座標系における点sの位置を算出してもよい。このカメラ座標及びワールド座標はそれぞれ、実空間を表す座標系である。制御部11は、このようにして、深度データを利用することで、撮影画像3に写る被写体の実空間上の位置を特定することができる。
また、本実施形態では、制御部11は、対象人物の呼吸数を計測可能なように、所定時間分の動画像又は複数枚の静止画像を撮影画像3として取得してもよい。これにより、取得される撮影画像3には、所定時間分の呼吸動作が現れる。制御部11は、このような撮影画像3を取得した段階で、取得した撮影画像3に対して、後述するステップS102〜S106までの処理を実行することで、所定時間内に現れる呼吸数を計測してもよい。なお、呼吸数を計測する時間の基準となる所定時間の値は、実施の形態に応じて適宜設定されてよい。また、制御部11は、撮影画像3を構成する一部のフレームを取得した段階で、当該取得したフレームに対して、後述するステップS102〜S106までの処理の少なくとも一部を実行してもよい。
なお、制御部11は、対象人物の呼吸のモニタリングを行うため、カメラ2のビデオ信号に同期させて撮影画像3を取得してもよい。そして、制御部11は、後述するステップS102〜S106までの処理を取得した撮影画像3に対して即座に実行してもよい。呼吸検知装置1は、このような動作を絶え間なく連続して実行することにより、リアルタイム画像処理を実現し、カメラ2の撮影範囲に存在する対象人物の呼吸のモニタリングをリアルタイムに行うことができる。
(ステップS102)
図6に戻り、次のステップS102では、制御部11は、人物領域抽出部112として機能し、ステップS101で取得した撮影画像3内において、対象人物の写る人物領域を抽出する。そして、撮影画像3内で人物領域を抽出すると、制御部11は、次のステップS103に処理を進める。
なお、人物領域を抽出する方法は、種々の公知の方法があり、実施の形態に応じて適宜選択されてよい。例えば、制御部11は、上記のとおり、各画素の深度を参照することで、各画素の実空間上の位置を特定してもよい。これによって、制御部11は、被写体の三次元形状を特定することができる。
そこで、制御部11は、深度データの示す各画素の深度を用いた三次元パターンマッチングを実施してもよい。この場合、例えば、制御部11は、記憶部12等に人物の三次元形状のテンプレートを保持し、深度データを利用して、この三次元形状のテンプレートに適合するパターンを撮影画像3内で検索することで、人物領域を抽出することができる。
このとき、制御部11は、対象人物の身体上に設定された各候補領域31の位置を特定可能にするため、人物領域に写る対象人物の各身体部位を識別してもよい。制御部11は、例えば、各身体部位のパターンマッチングを行うことにより、人物領域に写る対象人物の各身体部位を識別することができる。
(ステップS103)
次のステップS103では、制御部11は、計測領域選定部113として機能し、ステップS102で抽出した人物領域から、対象人物の呼吸数を計測する計測領域を選定する。計測領域を選定すると、制御部11は、次のステップS104に処理を進める。
ここで、図10A及び図10Bを用いて、計測領域を選定する処理について説明する。図10A及び図10Bは、ステップS101で取得される撮影画像3の一例を模式的に例示する。上記のとおり、本実施形態では、呼吸数を計測する計測領域の候補となる複数の候補領域31が対象人物の身体上に予め設定されている。
各候補領域31は、呼吸動作により変動する身体部位に適宜設定される。例えば、呼吸には、腹式呼吸と胸式呼吸との2種類のタイプがある。腹式呼吸とは、横隔膜の上下運動により行う呼吸である。一方、胸式呼吸とは、胸郭を拡げることによって行う呼吸である。そのため、対象人物が呼吸をする際には、胸郭の他に、肩部、腹部、背部等も変動する。したがって、各候補領域31は、胸郭、肩部、腹部、背部等に設定することができる。
なお、対象人物の身体部位のうち胸郭及び肩部は、撮影画像に比較的に写りやすく、かつ、呼吸に基づく変動が生じ易い。そのため、複数の候補領域31のうち少なくとも一つの候補領域31は、対象人物の胸郭又は肩部に設定されるのが好ましい。これによって、計測領域の呼吸に基づく変動が捕捉しやすくなり、対象人物の呼吸数を比較的正確に測定することが可能になる。
本実施形態では、図1に例示されるように、胸郭、右肩部、及び左肩部にそれぞれ候補領域31が設定されている。図10Aでは、この3つの候補領域31のうち、右肩部に設定された候補領域31が写っている。一方、図10Bでは、右肩部に設定された候補領域31と胸郭に設定された候補領域31とが写っている。制御部11は、候補領域設定情報121を参照することで、各候補領域31の位置を特定することができる。
そして、制御部11は、候補領域設定情報121を参照することで、予め定められている各候補領域31の優先順位を特定することができる。制御部11は、各候補領域31の優先順位に基づいて、抽出した人物領域に写る1又は複数の候補領域31の中から、対象人物の呼吸数を計測する計測領域を選定する。
例えば、図10Aの場合には、人物領域には1つの候補領域31しか写っていないため、制御部11は、この候補領域31を計測領域として選定する。また、例えば、図10Bの場合には、人物領域には2つの候補領域31が写っている。この場合に、胸郭に設定された候補領域31の方が、各肩部に設定された候補領域31よりも優先順位が高いとする。このときには、制御部11は、当該優先順位に従って、胸郭に設定された候補領域31を計測領域として選定する。
なお、図10A及び図10Bでは、各候補領域31の形状は矩形状である。しかしながら、各候補領域31の形状は、このような例に限定されなくてもよく、実施の形態に応じて適宜設定されてよい。また、各候補領域31の大きさは、実施の形態に応じて適宜設定可能である。更に、計測領域として選定する候補領域31の数は、単数に限られなくてもよく、複数であってもよい。各候補領域31及びその優先順位は、実施の形態に応じて適宜設定することができる。
(ステップS104)
図6に戻り、次のステップS104では、制御部11は、呼吸数計測部114として機能し、ステップS103において撮影画像3内で選定した計測領域に含まれる各画素の深度を用いて、実空間上における計測領域の変動を測定する。そして、制御部11は、測定した計測領域の実空間上における変動に基づいて、対象人物の呼吸数を計測する。
なお、計測領域の変動を測定する方法及び計測領域の変動に基づいて呼吸数を測定する方法は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。以下、各方法についてその一例を説明する。
まず、計測領域の変動を測定する方法について説明する。例えば、上記のとおり、各画素の深度は、実空間上における被写体表面の位置を示す。また、ステップS101で取得された撮影画像3は、所定時間分の動画像又は複数枚の静止画像である。そのため、制御部11は、計測領域に含まれる各画素の深度をプロットすることで、当該計測領域の変動を測定することができる。
また、例えば、制御部11は、オプティカルフロー等に基づいて、ステップS103で選定した計測領域を撮影画像3内で追跡する。そして、制御部11は、計測領域に含まれる各画素の深度を参照することで、計測領域の実空間上での変動を測定することができる。なお、測定する変動の方向は、特に限定されなくてもよく、実施の形態に応じて適宜設定されてよい。例えば、制御部11は、身体の前後方向の変動を測定してもよい。
ここで、図11及び図12を用いて、計測領域の変動について詳細に説明する。図11は、呼吸動作に基づく計測領域32内の各計測点321の変位を模式的に例示する。また、図12は、対象人物の移動等の呼吸動作以外の動作に基づく計測領域32内の各計測点321の変位を模式的に例示する。各計測点321は、計測領域32内の任意の点であってよく、例えば、計測領域32に含まれる撮影画像3の画素に対応する。
図11に例示されるように、呼吸による動作は、計測領域32に含まれる各計測点321を分散する方向(例えば、放射方向)に変位させる傾向にある。すなわち、呼吸動作による各計測点321の変位はうち消し合う関係になる。一方、図12に例示されるように、対象人物が移動する等の呼吸に無関係な動作は、計測領域32に含まれる各計測点321を同一方向(図12では、上方向)に変位させる傾向にある。すなわち、呼吸に無関係な動作による各計測点321の変位は加算し合う関係になる。したがって、各計測点321の変位の平均値は、理想的には、呼吸に無関係な動作を示す。
そこで、制御部11は、計測領域32内の複数の計測点321の変位に基づいて、次のようにして、計測領域32の実空間上における変動を測定してもよい。すなわち、制御部11は、計測領域32に含まれる各画素の深度に基づいて、計測領域32内の複数の計測点321(図11及び図12では9つ)それぞれの変位を取得し、取得した複数の計測点321それぞれの変位の平均値を算出する。
そして、制御部11は、複数の計測点321それぞれの変位を当該平均値で減算することにより、複数の計測点321それぞれの相対変位を算出する。制御部11は、このように算出される各計測点321の相対変位を、計測領域32の実空間上における変動として取り扱ってよい。これにより、呼吸に無関係な動作による変位の影響を除外することができ、対象人物の呼吸数を比較的正確に計測することができる。
なお、図11及び図12では、計測領域32内に設定された計測点321の数は9つである。しかしながら、計測領域32内に設定される計測点321の数は、9つに限定されなくてもよく、実施の形態に応じて適宜選択されてよい。ここで、上記のように、各計測点321の平均値に基づいて、呼吸に無関係な動作による変位の影響を除外するためには、各計測点321は、計測領域32内に万遍なく配置されるのが好ましい。
次に、計測領域の変動に基づいて呼吸数を測定する方法について説明する。制御部11は、上記のように測定した計測領域の実空間上における変動に基づいて、対象人物の呼吸数を計測する。各計測点321の相対変位を算出した場合には、制御部11は、当該各計測点321の相対変位に基づいて、対象人物の呼吸数を計測する。
具体的には、呼吸による計測領域の変動は周期性を有している。そこで、制御部11は、上記のように測定した計測領域の実空間上における変動をフーリエ変換等によって周波数解析を行うことによって、呼吸の周期を算出してもよい。これによって、制御部11は、対象人物の呼吸数を計測することができる。
また、呼吸による計測領域の変動には周期的にピークが現れると想定される。そこで、制御部11は、計測領域の変動におけるピーク数をカウントしてもよい。これによって、制御部11は、対象人物の呼吸数を計測することができる。
また、呼吸による計測領域の変動では、ある方向(例えば、高さ方向(z軸方向))に所定範囲の大きさの振幅が現れると想定される。そこで、制御部11は、計測領域がある方向に所定範囲の大きさで振幅した回数を呼吸数としてカウントしてもよい。これによって、制御部11は、対象人物の呼吸数を計測することができる。
以上のように、本ステップS104では、ステップS103において撮影画像3内で選定した計測領域に含まれる各画素の深度を用いて、実空間上における計測領域の変動を測定する。そして、制御部11は、測定した計測領域の実空間上における変動に基づいて、対象人物の呼吸数を計測する。対象人物の呼吸数を計測すると、制御部11は、次のステップS105に処理を進める。
(ステップS105)
図6に戻り、次のステップS105では、制御部11は、ステップS104で計測した対象人物の呼吸数が所定回数以下であるか否かを判定する。そして、ステップS104で計測した対象人物の呼吸数が所定回数以下であると判定した場合には、制御部11は、次のステップS106に処理を進める。他方、計測した対象人物の呼吸数が所定回数以下ではないと判定した場合には、制御部11は、次のステップS106を省略して、本動作例に係る処理を終了する。
なお、本ステップS105の判定基準となる閾値(所定回数)は、実施の形態に応じて適宜設定されてよい。ただし、当該閾値は、対象人物の呼吸状態が異常であるか否かの基準となる。そのため、当該閾値は、そのような呼吸状態の異常を判定可能なように適宜設定されるのが好ましい。
(ステップS106)
次のステップS106では、制御部11は、通知部115として機能し、対象人物の異常を検知したことを通知する。本ステップS106は、上記のとおり、ステップS104で計測された呼吸数が所定回数以下である場合に実行される。つまり、制御部11は、計測された呼吸数が所定回数以下である場合に、対象人物の異常を検知したことを通知する。これによって、本動作例に係る処理は終了する。
なお、通知先及び通知方法は、実施の形態に応じて適宜選択することができる。制御部11は、例えば、対象人物以外の第三者、特に、対象人物の行動を見守る見守り者に当該通知を行ってもよい。対象人物が、入院患者、施設入居者、要介護者等である場合、見守り者は、例えば、看護師、施設職員、介護者等である。また、制御部11は、対象人物自身に当該通知を行ってもよい。
例えば、本実施形態に係る呼吸検知装置1が病院等の施設で利用される場合、当該呼吸検知装置1は、外部インタフェース15を介して、ナースコールシステム等の設備と接続することができる。この場合、制御部11は、当該ナースコールシステム等の設備と連携して、対象人物の異常を検知したことを知らせるための通知を行ってもよい。すなわち、制御部11は、外部インタフェース15を介して、当該ナースコールシステムを制御してもよい。そして、制御部11は、対象人物の異常を検知したことを知らせるための通知として、当該ナースコールシステムによる呼び出しを行ってもよい。これによって、対象人物の呼吸状態が異常であることを当該対象人物の見守りを行う看護師等に適切に知らせることができる。
また、例えば、制御部11は、タッチパネルディスプレイ13による画面表示によって、対象人物の異常を検知したことを知らせるための通知を行ってもよい。また、例えば、制御部11は、呼吸検知装置1に接続されるスピーカ14から所定の音声を出力することにより、対象人物の異常を検知したことを知らせるための通知を行ってもよい。このタッチパネルディスプレイ13及びスピーカ14をそれぞれ見守り者の居室に設置することで、対象人物の呼吸状態が異常であることを当該見守り者に適切に知らせることができる。
また、例えば、制御部11は、電子メール、ショートメッセージサービス、プッシュ通知等を利用して、対象人物の異常を検知したことを知らせるための通知を行ってもよい。このような通知を行う場合には、通知先となるユーザ端末の電子メールアドレス、電話番号等は記憶部12に予め登録されていてもよい。そして、制御部11は、この予め登録されている電子メールアドレス、電話番号等を利用して、対象人物の異常を検知したことを知らせるための通知を行ってもよい。
[作用・効果]
以上のように、本実施形態に係る呼吸検知装置1は、対象人物の呼吸数を計測するため、上記ステップS101の処理によって、各画素の深度を示す深度データを含む撮影画像3を取得する。上記のとおり、この深度データを利用すれば、対象人物に対するカメラ2の視野方向(視点)によらず、当該被写体の実空間(三次元空間)上の状態を解析することができる。したがって、本実施形態によれば、対象人物に対するカメラ2の視野方向(視点)に依存することなく、撮影画像3から対象人物の呼吸数を計測することができる。
加えて、本実施形態では、候補領域設定情報121によって、対象人物の身体上に計測領域の候補となる複数の候補領域31と各候補領域31の優先順位とが予め設定されている。上記ステップS103では、本実施形態に係る呼吸検知装置1は、その優先順位に従って、撮影画像3(人物領域)内に写る1又は複数の候補領域31の中から計測領域を選定する。そのため、本実施形態では、撮影画像3内に少なくとも1つの候補領域31が写っていれば、対象人物の呼吸数を計測することができる。したがって、本実施形態によれば、比較的に自由に動き回る対象人物の呼吸数を計測可能なシステムを提供することができる。
また、本実施形態では、浴室に居る対象人物を撮影するため、カメラ2は、浴室内を撮影可能に設置される。したがって、本実施形態によれば、急激な温度変化の生じやすい浴室での対象人物の呼吸状態を監視することができる。
また、本実施形態では、ステップS104で計測された呼吸数が所定回数以下である場合に、ステップS106により、対象人物の異常を検知したことの通知が行われる。したがって、本実施形態によれば、対象人物の呼吸が停止した場合等、対象人物に異常事態が発生した場合に、当該異常事態を検知し、検知した異常事態を報知することができる。
§4 変形例
以上、本発明の実施の形態を詳細に説明してきたが、前述までの説明はあらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。
例えば、上記呼吸検知装置1は、浴室に居る対象人物を撮影し、得られた撮影画像3を解析することで、対象人物の呼吸数を計測している。そこで、呼吸検知装置1は、呼吸数を計測すると共に、撮影画像3を更に解析することで、例えば、動きの大きさ等、対象人物の動作レベルを分析してもよい。そして、呼吸検知装置1は、呼吸数と共に動作レベルの情報を蓄積し、数週間、数か月前等に計測した情報と現時点で計測した情報とを比較することで、対象人物の生活における動作レベルの変化を監視してもよい。
1…呼吸検知装置、
2…カメラ、21…深度センサ、
3…撮影画像、31…候補領域、32…計測領域、321…計測点、
5…プログラム、6…記憶媒体、
11…制御部、12…記憶部、13…タッチパネルディスプレイ、
14…スピーカ、15…外部インタフェース、16…通信インタフェース、
17…ドライブ、
111…画像取得部、112…人物領域抽出部、113…計測領域選定部、
114…呼吸数計測部、115…通知部、
121…候補領域設定情報

Claims (6)

  1. 呼吸数を計測する対象となる対象人物を撮影した撮影画像であって、当該撮影画像内の各画素の深度を示す深度データを含む撮影画像を取得する画像取得部と、
    取得した前記撮影画像内において、前記対象人物の写る人物領域を抽出する人物領域抽出部と、
    抽出した前記人物領域から、前記対象人物の呼吸数を計測する計測領域を選定する計測領域選定部と、
    前記撮影画像内で選定された前記計測領域に含まれる各画素の深度を用いて、実空間上における前記計測領域の変動を測定し、測定した前記計測領域の実空間上における変動に基づいて、前記対象人物の呼吸数を計測する呼吸数計測部と、
    を備え、
    前記計測領域について、前記計測領域の候補となる複数の候補領域が前記対象人物の身体上に予め設定されており、当該複数の候補領域には、前記計測領域として選定するための優先順位が予め定められており、
    前記計測領域選定部は、前記複数の候補領域の優先順位に基づいて、抽出した前記人物領域に写る1又は複数の候補領域の中から、前記対象人物の呼吸数を計測する前記計測領域を選定し、
    前記呼吸数計測部は、
    前記計測領域に含まれる各画素の深度に基づいて、前記計測領域内の複数の計測点それぞれの変位を取得し、
    取得した複数の計測点それぞれの変位の平均値を算出し、
    前記複数の計測点それぞれの変位を前記算出した平均値で減算することにより、前記複数の計測点それぞれの相対変位を算出し、
    前記複数の計測点それぞれの相対変位に基づいて、前記対象人物の前記呼吸数を計測する、
    呼吸検知装置。
  2. 前記複数の候補領域のうち少なくとも一つの候補領域は、前記対象人物の胸郭又は肩部に設定される、
    請求項1に記載の呼吸検知装置。
  3. 前記撮影画像は、前記深度データを取得可能に構成された撮影装置であって、浴室に居る対象人物を撮影するために該浴室に設置された撮影装置により撮影される、
    請求項1又は2に記載の呼吸検知装置。
  4. 前記計測された呼吸数が所定回数以下である場合、前記対象人物の異常を検知したことを通知する通知部を更に備える、
    請求項1からのいずれか1項に記載の呼吸検知装置。
  5. コンピュータが、
    呼吸数を計測する対象となる対象人物を撮影した撮影画像であって、当該撮影画像内の各画素の深度を示す深度データを含む撮影画像を取得するステップと、
    取得した前記撮影画像内において、前記対象人物の写る人物領域を抽出するステップと、
    抽出した前記人物領域から、前記対象人物の呼吸数を計測する計測領域を選定するステップと、
    前記撮影画像内で選定された前記計測領域に含まれる各画素の深度を用いて、実空間上における前記計測領域の変動を測定し、測定した前記計測領域の実空間上における変動に基づいて、前記対象人物の呼吸数を計測するステップと、
    を実行する呼吸検知方法であって、
    前記計測領域について、前記計測領域の候補となる複数の候補領域が前記対象人物の身体上に予め設定されており、当該複数の候補領域には、前記計測領域として選定するための優先順位が予め定められており、
    前記計測領域を選定するステップでは、前記複数の候補領域の優先順位に基づいて、抽出した前記人物領域に写る1又は複数の候補領域の中から、前記対象人物の呼吸数を計測する前記計測領域を選定し、
    前記呼吸数を計測するステップでは、
    前記計測領域に含まれる各画素の深度に基づいて、前記計測領域内の複数の計測点それぞれの変位を取得し、
    取得した複数の計測点それぞれの変位の平均値を算出し、
    前記複数の計測点それぞれの変位を前記算出した平均値で減算することにより、前記複数の計測点それぞれの相対変位を算出し、
    前記複数の計測点それぞれの相対変位に基づいて、前記対象人物の前記呼吸数を計測する、
    呼吸検知方法。
  6. コンピュータに、
    呼吸数を計測する対象となる対象人物を撮影した撮影画像であって、当該撮影画像内の各画素の深度を示す深度データを含む撮影画像を取得するステップと、
    取得した前記撮影画像内において、前記対象人物の写る人物領域を抽出するステップと、
    抽出した前記人物領域から、前記対象人物の呼吸数を計測する計測領域を選定するステップと、
    前記撮影画像内で選定された前記計測領域に含まれる各画素の深度を用いて、実空間上における前記計測領域の変動を測定し、測定した前記計測領域の実空間上における変動に基づいて、前記対象人物の呼吸数を計測するステップと、
    を実行させるための呼吸検知プログラムであって、
    前記計測領域について、前記計測領域の候補となる複数の候補領域が前記対象人物の身体上に予め設定されており、当該複数の候補領域には、前記計測領域として選定するための優先順位が予め定められており、
    前記計測領域を選定するステップでは、前記複数の候補領域の優先順位に基づいて、抽出した前記人物領域に写る1又は複数の候補領域の中から、前記対象人物の呼吸数を計測する前記計測領域を選定し、
    前記呼吸数を計測するステップでは、
    前記計測領域に含まれる各画素の深度に基づいて、前記計測領域内の複数の計測点それぞれの変位を取得し、
    取得した複数の計測点それぞれの変位の平均値を算出し、
    前記複数の計測点それぞれの変位を前記算出した平均値で減算することにより、前記複数の計測点それぞれの相対変位を算出し、
    前記複数の計測点それぞれの相対変位に基づいて、前記対象人物の前記呼吸数を計測する、
    呼吸検知プログラム。

JP2015160859A 2015-08-18 2015-08-18 呼吸検知装置、呼吸検知方法、及び呼吸検知プログラム Active JP6565468B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015160859A JP6565468B2 (ja) 2015-08-18 2015-08-18 呼吸検知装置、呼吸検知方法、及び呼吸検知プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015160859A JP6565468B2 (ja) 2015-08-18 2015-08-18 呼吸検知装置、呼吸検知方法、及び呼吸検知プログラム

Publications (2)

Publication Number Publication Date
JP2017038673A JP2017038673A (ja) 2017-02-23
JP6565468B2 true JP6565468B2 (ja) 2019-08-28

Family

ID=58202433

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015160859A Active JP6565468B2 (ja) 2015-08-18 2015-08-18 呼吸検知装置、呼吸検知方法、及び呼吸検知プログラム

Country Status (1)

Country Link
JP (1) JP6565468B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022141118A1 (zh) * 2020-12-29 2022-07-07 深圳迈瑞生物医疗电子股份有限公司 呼吸信息获取方法、装置、监护仪及计算机可读存储介质

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002272847A (ja) * 2001-03-19 2002-09-24 Toshiba Corp 呼吸モニタ装置
JP4230287B2 (ja) * 2002-11-25 2009-02-25 住友大阪セメント株式会社 動き検出装置
JP5771778B2 (ja) * 2010-06-30 2015-09-02 パナソニックIpマネジメント株式会社 監視装置、プログラム
TWI492737B (zh) * 2012-12-11 2015-07-21 Ind Tech Res Inst 生理資訊量測系統及其方法
EP2772189A1 (en) * 2013-02-28 2014-09-03 Koninklijke Philips N.V. Apparatus and method for determining vital sign information from a subject
JP2014171574A (ja) * 2013-03-07 2014-09-22 Sharp Corp 呼吸モニタリング装置、システム、及び方法
EP2983588A1 (en) * 2013-04-09 2016-02-17 Koninklijke Philips N.V. Apparatus and method for determining thorax and abdomen respiration signals from image data
US10201293B2 (en) * 2013-09-11 2019-02-12 Xerox Corporation Non-contact monitoring of spatio-temporal respiratory mechanics via depth sensing
JP6737261B2 (ja) * 2015-03-13 2020-08-05 ノーリツプレシジョン株式会社 バイタルサイン測定装置、バイタルサイン測定方法、及び、バイタルサイン測定プログラム
WO2016151966A1 (ja) * 2015-03-23 2016-09-29 ノーリツプレシジョン株式会社 乳幼児監視装置、乳幼児監視方法、及び、乳幼児監視プログラム

Also Published As

Publication number Publication date
JP2017038673A (ja) 2017-02-23

Similar Documents

Publication Publication Date Title
JP6115335B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
WO2016151966A1 (ja) 乳幼児監視装置、乳幼児監視方法、及び、乳幼児監視プログラム
JP6167563B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6780641B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP6432592B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6737261B2 (ja) バイタルサイン測定装置、バイタルサイン測定方法、及び、バイタルサイン測定プログラム
JP6489117B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6504156B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6638723B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JPWO2015118953A1 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6645503B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP6565468B2 (ja) 呼吸検知装置、呼吸検知方法、及び呼吸検知プログラム
JP6607253B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP6737262B2 (ja) 異常状態検知装置、異常状態検知方法、及び、異常状態検知プログラム
JP2019216807A (ja) 情報処理装置
JP6606912B2 (ja) 浴室異常検知装置、浴室異常検知方法、及び浴室異常検知プログラム
JP6780639B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP2022126069A (ja) 画像処理方法
JP2022126071A (ja) 画像処理方法
JP2022126070A (ja) 画像処理方法
JP2019219171A (ja) 情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190702

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190715

R150 Certificate of patent or registration of utility model

Ref document number: 6565468

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250