JPWO2015118953A1 - 情報処理装置、情報処理方法、及び、プログラム - Google Patents

情報処理装置、情報処理方法、及び、プログラム Download PDF

Info

Publication number
JPWO2015118953A1
JPWO2015118953A1 JP2015560920A JP2015560920A JPWO2015118953A1 JP WO2015118953 A1 JPWO2015118953 A1 JP WO2015118953A1 JP 2015560920 A JP2015560920 A JP 2015560920A JP 2015560920 A JP2015560920 A JP 2015560920A JP WO2015118953 A1 JPWO2015118953 A1 JP WO2015118953A1
Authority
JP
Japan
Prior art keywords
depth
person
information processing
watching
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015560920A
Other languages
English (en)
Other versions
JP6500785B2 (ja
Inventor
松本 修一
修一 松本
猛 村井
猛 村井
上辻 雅義
雅義 上辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Noritsu Precision Co Ltd
Original Assignee
Noritsu Precision Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Noritsu Precision Co Ltd filed Critical Noritsu Precision Co Ltd
Publication of JPWO2015118953A1 publication Critical patent/JPWO2015118953A1/ja
Application granted granted Critical
Publication of JP6500785B2 publication Critical patent/JP6500785B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1113Local tracking of patients, e.g. in a hospital or private home
    • A61B5/1115Monitoring leaving of a patient support, e.g. a bed or a wheelchair
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7405Details of notification to user or communication with user or patient ; user input means using sound
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7475User input or interface means, e.g. keyboard, pointing device, joystick
    • A61B5/748Selection of a region of interest, e.g. using a graphics tablet
    • A61B5/7485Automatic selection of region of interest
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/02Operational features
    • A61B2560/0266Operational features for monitoring or limiting apparatus function
    • A61B2560/0276Determining malfunction
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0219Inertial sensors, e.g. accelerometers, gyroscopes, tilt switches

Abstract

情報処理装置(1)は、深度センサを含む撮影装置(2)によって撮影された深度情報を含む撮影画像を取得し、各画素の深度に基づいて、見守り対象者とベッドの領域との位置関係が所定の条件を満たすか否かを判定する。当該深度センサによって撮影画像内の各画素の深度を取得できない状態が一定時間以上継続した場合に、見守り対象者の見守りが正常にできていない可能性のあることを通知する。

Description

本発明は、情報処理装置、情報処理方法、及び、プログラムに関する。
室内斜め上方から室内下方に向けて撮影された画像の境界辺を通過して、床面領域からベッド領域への人体移動を検知することで、入床事象を判断し、ベッド領域から床面領域への人体移動を検知することで、離床事象を判断する技術がある(特許文献1)。
また、ベッドに寝ている患者が起床挙動を行ったことを判定するための見守り領域を、ベッドに就寝している患者を含むベッドの直上の領域に設定して、ベッドの横方向から見守り領域を含む撮影画像の見守り領域に占める患者と思われる画像領域の大きさを示す変動値が、患者がベッドに寝ている状態でカメラから得られた撮影画像の見守り領域に占める患者と思われる画像領域の大きさを示す初期値未満である場合に、患者が起床挙動を行っていると判断する技術がある(特許文献2)。
特開2002−230533号公報 特開2011−005171号公報
近年、入院患者、施設入居者、要介護者等の見守り対象者がベッドから転倒、転落する事故、及び、認知症患者の徘徊による事故が年々増加する傾向にある。このような事故を防止する方法として、例えば、特許文献1及び2で例示されるような、室内に設置した撮影装置(カメラ)で見守り対象者を撮影し、撮影した画像を解析することで、起き上がり、端座位、離床等の見守り対象者の行動を検知する見守りシステムが開発されている。
このような見守りシステムでは、見守りを行う環境(以下、「見守り環境」とも称する)が変化すると、見守り対象者の行動を適切に検知できなくなってしまう可能性がある。例えば、撮影装置の向きが変わってしまうことによって、見守り対象者が撮影画像に写らなくなり、見守り対象者の行動を検知できなくなってしまう可能性がある。このような状態で見守りシステムが放置されると、見守り対象者の見守りを正常にできない事態が続いてしまうことになる。
本発明は、一側面では、このような点を考慮してなされたものであり、見守り対象者の見守りを正常にできなくなった状態で見守りシステムが放置されてしまうことを防止可能にする技術を提供することを目的とする。
本発明は、上述した課題を解決するために、以下の構成を採用する。
すなわち、本発明の一側面に係る情報処理装置は、見守り対象者のベッドにおける行動を見守るために設置され、被写体の深度を測定するための深度センサを含む撮影装置、によって撮影された撮影画像であって、当該深度センサにより測定される当該撮影画像内の各画素の深度を示す深度情報を含む撮影画像、を取得する画像取得部と、前記深度情報により示される前記撮影画像内の各画素の深度に基づいて、前記見守り対象者と前記ベッドの領域との実空間内での位置関係が所定の条件を満たすか否かを判定することで、前記見守り対象者の前記ベッドに関連する行動を検知する行動検知部と、前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定する異常判定部と、前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う通知部と、を備える。
そこで、上記構成に係る情報処理装置は、撮影画像内の各画素の深度に基づいて、実空間内でのベッドの高さ方向におけるベッドの基準面と見守り対象者との位置関係が所定の条件を満たすか否かを判定する。そして、上記構成に係る情報処理装置は、この判定の結果に基づいて、見守り対象者とベッドとの実空間内での位置関係を推定し、見守り対象者のベッドに関連する行動を検知する。
つまり、上記構成に係る情報処理装置は、撮影画像に含まれる深度情報に基づいて、見守り対象者の行動を検知する。それゆえ、この深度情報が取得できないような状態では、上記構成に係る情報処理装置は、見守り対象者の行動を検知できなくなってしまう。これに対応するため、上記構成に係る情報処理装置は、撮影装置に含まれる深度センサによって撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定する。そして、深度センサによって撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う。
これにより、上記構成に係る情報処理装置では、深度センサによって撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、見守りを正常にできない可能性のあることを利用者等に報知することができる。そのため、深度情報が取得できないことによって生じる見守りの不具合の状態での見守りシステムの放置を防止することができる。すなわち、上記構成によれば、見守り対象者の見守りを正常にできなくなった状態で見守りシステムが放置されてしまうことを防止することができる。
なお、見守り対象者とは、本発明によりベッドでの行動を見守られる対象者であり、例えば、入院患者、施設入居者、要介護者等である。一方、見守り対象者の見守りを行う者は、例えば、看護師、施設職員、介護者等である。また、ベッドに関連する行動とは、見守り対象者がベッドの置かれた場所で行う可能性のある行動を指し、例えば、ベッド上での起き上がり、ベッドにおける端座位、ベッドの柵越え、ベッドからの落下、ベッドからの離床等である。ここで、端座位とは、見守り対象者がベッドの端に腰をかけている状態を指す。また、柵越えとは、見守り対象者がベッドの柵から身を乗り出している状態を指す。
また、上記一側面に係る情報処理装置の別の形態として、前記異常判定部は、前記ベッドの領域について所定の割合を超えて深度が取得できない場合に、前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態であると判定してもよい。当該構成では、情報処理装置は、見守り対象者の行動の基準となるベッドの領域について深度が取得できない場合に、撮影画像内の各画素の深度を取得できない状態であると判定する。そのため、見守り対象者の行動を検知するのに無関係な領域について深度が取得できない場合について、撮影画像内の各画素の深度を取得できない状態であると判定することを防止することができる。これにより、当該構成によれば、見守りシステムにおける異常発生の誤報の生じる可能性を低減することができる。
また、上記一側面に係る情報処理装置の別の形態として、上記情報処理装置は、前記撮影画像の背景として設定された背景画像と前記撮影画像との差分から前記撮影画像の前景領域を抽出する前景抽出部を更に備えてもよい。そして、前記行動検知部は、前記前景領域内の各画素の深度に基づいて特定される前記前景領域の写る対象の実空間内での位置を前記見守り対象者の位置として利用し、前記見守り対象者と前記ベッドの領域との実空間内での位置関係が所定の条件を満たすか否かを判定することで、前記見守り対象者の前記ベッドに関連する行動を検知してもよい。
当該構成によれば、背景画像と撮影画像との差分を抽出することで、撮影画像の前景領域が特定される。この前景領域は、背景画像から変化の生じている領域である。そのため、前景領域には、見守り対象者に関連する像として、見守り対象者が動くことで変化の生じた領域、換言すると、見守り対象者の身体部位のうち動いている部位(以下、「動作部位」とも称する)の存在する領域が含まれている。よって、深度情報により示される前景領域内の各画素の深度を参照することで、実空間内における見守り対象者の動作部位の位置を特定することが可能である。
そこで、上記構成に係る情報処理装置は、前景領域内の各画素の深度に基づいて特定される前景領域に写る対象の実空間内での位置を見守り対象者の位置として利用して、ベッドの基準面と見守り対象者との位置関係が所定の条件を満たすか否かを判定する。すなわち、見守り対象者の行動を検知するための所定条件は、前景領域が見守り対象者の行動に関連すると仮定して設定されている。上記構成に係る情報処理装置は、実空間内において、ベッドの基準面に対して見守り対象者の動作部位がどの高さに存在しているかに基づいて、見守り対象者の行動を検知する。
ここで、前景領域は、背景画像と撮影画像との差分で抽出することができるため、高度な画像処理を利用しなくても特定することができる。そのため、上記構成によれば、簡易な方法で見守り対象者の行動を検知することができるようになる。
また、上記一側面に係る情報処理装置の別の形態として、前記撮影装置は加速度センサを更に含んでもよく、前記異常判定部は、前記加速度センサに基づいて前記撮影装置の衝撃を検出した後に、当該衝撃前の撮影画像と当該衝撃後の撮影画像とを比較することによって、前記撮影装置の撮影範囲に一定以上のずれが生じたか否かを判定してもよく、前記通知部は、前記撮影装置の撮影範囲に一定以上のずれが生じたと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行ってもよい。
上述のとおり、撮影装置の向きが変わってしまうことによって、見守り対象者が撮影画像に写らなくなり、見守り対象者の行動を検知できなくなってしまう可能性がある。当該構成によれば、撮影装置の撮影範囲に一定以上のずれが生じたと判定される場合に、見守りを正常にできない可能性のあることを利用者等に報知することができる。そのため、撮影装置の向きが変わることによって生じる見守りの不具合の状態での見守りシステムの放置を防止することができる。
また、上記一側面に係る情報処理装置の別の形態として、上記情報処理装置は、前記見守り対象者の見守りを行う者を呼び出すためのナースコールシステムに接続されてもよい。そして、前記通知部は、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知として、前記ナースコールシステムによる呼び出しを行ってもよい。当該構成によれば、ナースコールシステムを通じて、見守りシステムでの異常発生を報知することができる。
また、上記一側面に係る情報処理装置の別の形態として、上記情報処理装置は、音声を出力するための音声出力装置に接続されてもよい。そして、前記通知部は、前記ナースコールシステムによる呼び出しができない場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知として、当該ナースコールシステムによる呼び出しに代えて、前記音声出力装置に所定音声の出力を行わせてもよい。当該構成によれば、ナースコールシステムの呼び出しが正常にできない場合であっても、見守りシステムでの異常発生を報知することができる。
また、上記一側面に係る情報処理装置の別の形態として、上記情報処理装置は、画面表示を行うための表示装置に接続されてもよい。そして、前記通知部は、前記ナースコールシステムによる呼び出しができない場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知として、当該ナースコールシステムによる呼び出しに代えて、前記表示装置に所定態様の画面表示を行わせてもよい。当該構成によれば、ナースコールシステムの呼び出しが正常にできない場合であっても、見守りシステムでの異常発生を報知することができる。
また、上記一側面に係る情報処理装置の別の形態として、前記異常判定部は、前記情報処理装置が前記撮影装置を認識できているか否かを判定してもよく、前記通知部は、前記情報処理装置が前記撮影装置を認識できていないと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行ってもよい。
撮影装置の認識ができなくなると、上記情報処理装置は、見守り対象者の行動を検知するために利用する撮影画像が取得できなくなるため、見守り対象者の見守りを正常に実行できなくなる。当該構成によれば、このような状態に見守りシステムでの異常発生の通知が行われるため、撮影画像が取得できなくなることによる見守りの不具合の状態での見守りシステムの放置を防止することができる。
また、上記一側面に係る情報処理装置の別の形態として、前記異常判定部は、前記行動検知部による前記見守り対象者の行動の検知が一定時間以上実行されていないどうかを判定してもよく、前記通知部は、前記行動検知部による前記見守り対象者の行動の検知が一定時間以上実行されていないと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行ってもよい。見守り対象者の行動の検知が実行されない場合、見守り対象者の見守りが正常にできていない可能性がある。当該構成によれば、このような場合に異常発生の報知が行われるため、見守り対象者の行動検知が一定時間以上実行されないことによる見守りの不具合の状態での見守りシステムの放置を防止することができる。
また、上記一側面に係る情報処理装置の別の形態として、前記撮像装置に含まれる深度センサは、赤外線の照射に基づいて深度を測定する赤外線深度センサであってもよい。赤外線深度センサであれば、暗所であっても被写体の深度を取得することができる。そのため、当該構成によれば、見守り対象者の見守りが行われる場所の明るさに影響を受けずに被写体の深度を取得し、見守り対象者の行動を検知することが可能となる。
なお、上記各形態に係る情報処理装置の別の形態として、以上の各構成を実現する情報処理システムであってもよいし、情報処理方法であってもよいし、プログラムであってもよいし、このようなプログラムを記録したコンピュータその他装置、機械等が読み取り可能な記憶媒体であってもよい。ここで、コンピュータ等が読み取り可能な記録媒体とは、プログラム等の情報を、電気的、磁気的、光学的、機械的、又は、化学的作用によって蓄積する媒体である。また、情報処理システムは、1又は複数の情報処理装置によって実現されてもよい。
例えば、本発明の一側面に係る情報処理方法は、コンピュータが、見守り対象者のベッドにおける行動を見守るために設置され、被写体の深度を測定するための深度センサを含む撮影装置、によって撮影された撮影画像であって、当該深度センサにより測定される当該撮影画像内の各画素の深度を示す深度情報を含む撮影画像、を取得するステップと、前記深度情報により示される前記撮影画像内の各画素の深度に基づいて、前記見守り対象者と前記ベッドの領域との実空間内での位置関係が所定の条件を満たすか否かを判定することで、前記見守り対象者の前記ベッドに関連する行動を検知するステップと、前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定するステップと、前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行うステップと、を実行する情報処理方法である。
また、例えば、本発明の一側面に係るプログラムは、コンピュータに、見守り対象者のベッドにおける行動を見守るために設置され、被写体の深度を測定するための深度センサを含む撮影装置、によって撮影された撮影画像であって、当該深度センサにより測定される当該撮影画像内の各画素の深度を示す深度情報を含む撮影画像、を取得するステップと、前記深度情報により示される前記撮影画像内の各画素の深度に基づいて、前記見守り対象者と前記ベッドの領域との実空間内での位置関係が所定の条件を満たすか否かを判定することで、前記見守り対象者の前記ベッドに関連する行動を検知するステップと、前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定するステップと、前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行うステップと、を実行させるためのプログラムである。
本発明によれば、見守り対象者の見守りを正常にできなくなった状態で見守りシステムが放置されてしまうことを防止することが可能になる。
図1は、本発明が適用される場面の一例を示す。 図2は、各画素の深度に応じて当該各画素の濃淡値が定められた撮影画像の一例を示す。 図3は、実施の形態に係る情報処理装置のハードウェア構成を例示する。 図4は、実施の形態に係る深度を例示する。 図5は、実施の形態に係る機能構成を例示する。 図6は、実施の形態において見守り対象者の行動を検知する際の情報処理装置による処理手順を例示する。 図7は、実施の形態に係る情報処理装置が見守り対象者の見守りを行う際に表示する画面を例示する。 図8は、撮影画像に含まれる深度情報に基づいて特定される撮影範囲の被写体の三次元分布を例示する。 図9は、撮影画像から抽出される前景領域の三次元分布を例示する。 図10は、実施の形態に係る見守りシステムが起き上がりを検知するための検知領域を模式的に例示する。 図11は、実施の形態に係る見守りシステムが離床を検知するための検知領域を模式的に例示する。 図12は、実施の形態に係る見守りシステムが端座位を検知するための検知領域を模式的に例示する。 図13は、実施の形態に係る情報処理装置が実行する、見守りを正常に行えない状態で見守りシステムが放置されてしまうことを防止するための処理手順を例示する。 図14は、領域の広がり具合と分散との関係を例示する。
以下、本発明の一側面に係る実施の形態(以下、「本実施形態」とも表記する)を、図面に基づいて説明する。ただし、以下で説明する本実施形態は、あらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。つまり、本発明の実施にあたって、実施形態に応じた具体的構成が適宜採用されてもよい。
なお、本実施形態において登場するデータを自然言語により説明しているが、より具体的には、コンピュータが認識可能な疑似言語、コマンド、パラメタ、マシン語等で指定される。
§1 適用場面例
まず、図1を用いて、本発明が適用される場面について説明する。図1は、本発明が適用される場面の一例を模式的に示す。本実施形態では、医療施設又は介護施設において、入院患者又は施設入居者が見守り対象者の例示として行動を見守られる場面が想定されている。見守り対象者の見守りを行う者(以下、「利用者」とも称する)は、例えば、看護師又は施設職員である。情報処理装置1とカメラ2とを含む見守りシステムを利用して、見守り対象者のベッドでの行動の見守りを行う。
本実施形態に係る見守りシステムは、カメラ2によって見守り対象者の行動を撮影することで、見守り対象者とベッドとが写る撮影画像3を取得する。そして、当該見守りシステムは、カメラ2により取得される撮影画像3を情報処理装置1によって解析することで、見守り対象者の行動を検知し、見守り対象者の行動を見守る。
カメラ2は、本発明の撮影装置に相当し、見守り対象者のベッドにおける行動を見守るために設置される。カメラ2の配置可能な位置は特に限定されなくてもよいが、本実施形態では、カメラ2は、ベッドの長手方向の前方に設置されている。図1は、カメラ2を横から見た場面を例示しており、図1の上下方向がベッドの高さ方向に相当する。また、図1の左右方向がベッドの長手方向に相当し、図1の紙面に垂直な方向がベッドの幅方向に相当する。
本実施形態に係るカメラ2は、被写体の深度を測定するための深度センサ(後述する深度センサ8)を含んでおり、撮影画像内の各画素に対応する深度を取得することができる。そのため、このカメラ2によって取得される撮影画像3は、図1で例示されるように、画素毎に得られる深度を示す深度情報を含む。
この深度情報を含む撮影画像3のデータ形式は、特に限定されなくてもよく、実施の形態に応じて、適宜、選択されてもよい。撮影画像3は、例えば、撮影範囲内の被写体の深度を示すデータであってもよく、撮影範囲内の被写体の深度が二次元状に分布したデータ(例えば、深度マップ)であってもよい。また、撮影画像3は、深度情報とともに、RGB画像を含んでもよい。更に、撮影画像3は、動画像であってもよいし、静止画像であってもよい。
図2は、このような撮影画像3の一例を示す。図2で例示される撮影画像3は、各画素の濃淡値が当該各画素の深度に応じて定められた画像である。黒色の画素ほど、カメラ2に近いことを示す。一方、白色の画素ほど、カメラ2から遠いことを示す。当該深度情報によれば、撮影範囲内の被写体の実空間(三次元空間)内での位置を特定することができる。
より詳細には、被写体の深度は、当該被写体の表面に対して取得される。そして、撮影画像3に含まれる深度情報を用いることで、カメラ2に写る被写体表面の実空間内での位置を特定することができる。本実施形態では、カメラ2により撮影された撮影画像3は情報処理装置1に送信される。そして、情報処理装置1は、取得した撮影画像3に基づいて、見守り対象者の行動を推定する。
本実施形態に係る情報処理装置1は、取得される撮影画像3に基づいて見守り対象者の行動を推定するために、当該撮影画像3の背景として設定されている背景画像と撮影画像3との差分を抽出することで、撮影画像3内の前景領域を特定する。特定される前景領域は、背景画像から変化の生じている領域であるため、見守り対象者の動作部位の存在する領域を含んでいる。そこで、情報処理装置1は、見守り対象者に関連する像として前景領域を利用して、見守り対象者の行動を検知する。
例えば、見守り対象者がベッド上で起き上がる場合には、図1で例示されるように、起き上がりに関する部位(図1では上半身)の写る領域が前景領域として抽出される。このように抽出される前景領域内の各画素の深度を参照することで、実空間内における見守り対象者の動作部位の位置を特定することが可能である。
見守り対象者のベッドにおける行動は、このように特定される動作部位とベッドとの位置関係に基づいて推定することが可能である。例えば、図1で例示されるように、見守り対象者の動作部位がベッド上面の上方で検知された場合には、見守り対象者はベッド上で起き上がりの動作を行っていると推定することができる。また、例えば、見守り対象者の動作部位がベッドの側部付近で検知された場合には、見守り対象者は端座位の状態になろうとしていると推定することができる。
そこで、情報処理装置1は、前景領域内の各画素の深度に基づいて特定される前景領域に写る対象の実空間内での位置を見守り対象者の位置として利用する。具体的には、本実施形態に係る情報処理装置1は、前景領域に写る対象とベッドとの実空間内での位置関係に基づいて、見守り対象者の行動を検知する。つまり、情報処理装置1は、実空間内において、見守り対象者の動作部位がベッドに対してどこに存在しているかに基づいて、見守り対象者の行動を検知する。そのため、見守り環境が変化することで、例えば、深度情報が取得できなくなったり、撮影範囲が変わってしまったりすると、見守り対象者の行動が正常に検知できなくなってしまう可能性がある。このような状態で見守りシステムが放置されてしまうと、見守り対象者の見守りを正常にできない状態が継続してしまうことになる。
これに対応するため、本実施形態に係る情報処理装置1は、カメラ2に含まれる深度センサによって撮影画像3内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定する。そして、深度センサによって撮影画像3内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う。
これにより、本実施形態に係る情報処理装置1では、深度センサによって撮影画像3内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、見守りを正常にできない可能性のあることを利用者等に報知することができる。そのため、本実施形態によれば、深度情報が取得できないことによって生じる見守りの不具合の状態での見守りシステムの放置を防止することができる。すなわち、見守り対象者の見守りを正常にできなくなった状態で見守りシステムが放置されてしまうことを防止することができる。
§2 構成例
<ハードウェア構成>
次に、図3を用いて、情報処理装置1のハードウェア構成を説明する。図3は、本実施形態に係る情報処理装置1のハードウェア構成を例示する。情報処理装置1は、図3に例示されるように、CPU、RAM(Random Access Memory)、ROM(Read Only Memory)等を含む制御部11、制御部11で実行するプログラム5等を記憶する記憶部12、画像の表示と入力を行うためのタッチパネルディスプレイ13、音声を出力するためのスピーカ14、外部装置と接続するための外部インタフェース15、ネットワークを介して通信を行うための通信インタフェース16、及び記憶媒体6に記憶されたプログラムを読み込むためのドライブ17が電気的に接続されたコンピュータである。ただし、図3では、通信インタフェース及び外部インタフェースは、それぞれ、「通信I/F」及び「外部I/F」と記載されている。
なお、情報処理装置1の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換、及び追加が可能である。例えば、制御部11は、複数のプロセッサを含んでもよい。また、例えば、タッチパネルディスプレイ13は、それぞれ別個独立に接続される入力装置及び表示装置に置き換えられてもよい。また、例えば、スピーカ14は省略されてもよい。また、例えば、スピーカ14は、情報処理装置1の内部装置としてではなく、外部装置として情報処理装置1に接続されてもよい。また、情報処理装置1はカメラ2を内蔵してもよい。
情報処理装置1は、複数の外部インタフェース15を備え、複数の外部装置と接続されてもよい。本実施形態では、情報処理装置1は、外部インタフェース15を介してカメラ2と接続されている。本実施形態に係るカメラ2は、見守り対象者のベッドにおける行動を見守るために設置される。このカメラ2は、被写体の深度を測定するための深度センサ8と、カメラ2の動きを計測するための加速度センサ9と、を備えている。これら深度センサ8及び加速度センサ9の種類及び測定方法は、実施の形態に応じて適宜選択されてよい。例えば、深度センサ8として、TOF(Time Of Flight)方式等のセンサを挙げることができる。また、加速度センサ9の種類として、静電容量検出方式、ピエゾ抵抗方式、熱検知方式等のセンサを挙げることができる。
なお、見守り対象者の見守りが行われる場所(例えば、医療施設の病室)は、見守り対象者のベッドが置かれる場所、換言すると、見守り対象者の就寝する場所である。そのため、見守り対象者の見守りは暗い場所で行われる可能性がある。そこで、撮影場所の明るさに影響されずに深度を取得するためには、赤外線の照射に基づいて深度を測定する赤外線深度センサが、深度センサ8として用いられるのが好ましい。このような赤外線深度センサを含む比較的安価な撮影装置として、マイクロソフト社のKinect、ASUS社のXtion、PrimeSense社のCARMINEを挙げることができる。
ここで、図4を用いて、本実施形態に係る深度センサ8によって測定される深度を詳細に説明する。図4は、本実施形態に係る深度として扱うことが可能な距離の一例を示す。当該深度は、被写体の深さを表現する。図4で例示されるように、被写体の深さは、例えば、カメラと対象物との直線の距離Aで表現されてもよいし、カメラの被写体に対する水平軸から下ろした垂線の距離Bで表現されてもよい。すなわち、本実施形態に係る深度は、距離Aであってもよいし、距離Bであってもよい。本実施形態では、距離Bを深度として扱うことにする。ただし、距離Aと距離Bとは、例えば、三平方の定理等を用いることで、互いに変換可能である。そのため、距離Bを用いた以降の説明は、そのまま、距離Aに適用することが可能である。
また、情報処理装置1は、図3に例示されるように、外部インタフェース15を介してナースコールシステム4に接続している。ナースコールシステム4のハードウェア構成及び機能構成は、実施の形態に応じて、適宜、選択されてもよい。ナースコールシステム4は、見守り対象者の見守りを行う利用者(看護師、施設職員等)を呼び出すための装置であり、ナースコールシステムとして既知の装置であってよい。本実施形態に係るナースコールシステム4は、情報処理装置1と配線18で接続される親機40と、この親機40と無線通信可能な子機41と、を備える。
親機40は、例えば、利用者の詰所に設置されている。親機40は、主に、詰所に居る利用者を呼び出すために利用される。一方、子機41は、一般的には利用者に携帯される。子機41は、当該子機41を携帯する利用者を呼び出すために利用される。親機40及び子機41はそれぞれ、種々の通知を音声で出力するためのスピーカを備えてもよい。また、親機40及び子機41はそれぞれ、情報処理装置1等を介して見守り対象者と会話可能なようにマイクを備えてもよい。情報処理装置1は、このように、外部インタフェース15を介して、ナースコールシステム4等の施設に設置された設備と接続して、種々の通知を当該設備と連携して行ってもよい。
また、情報処理装置1は、図3で例示されるように、外部インタフェース15を介してナースコールに接続している。このように、情報処理装置1は、外部インタフェース15を介してナースコール等の施設に設置された設備と接続されることで、見守り対象者に危険の迫る予兆があることを知らせるための通知を当該設備と連携して行ってもよい。
なお、プログラム5は、情報処理装置1に後述する動作に含まれる処理を実行させるプログラムであり、本発明の「プログラム」に相当する。このプログラム5は記憶媒体6に記録されていてもよい。記憶媒体6は、コンピュータその他装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的、又は、化学的作用によって蓄積する媒体である。記憶媒体6は、本発明の「記憶媒体」に相当する。なお、図3は、記憶媒体6の一例として、CD(Compact Disk)、DVD(Digital Versatile Disk)等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体6の種類は、ディスク型に限定される訳ではなく、ディスク型以外であってもよい。ディスク型以外の記憶媒体として、例えば、フラッシュメモリ等の半導体メモリを挙げることができる。
また、情報処理装置1として、例えば、提供されるサービス専用に設計された装置の他、PC(Personal Computer)、タブレット端末等の汎用の装置が用いられてよい。また、情報処理装置1は、1又は複数のコンピュータにより実装されてもよい。
<機能構成例>
次に、図5を用いて、情報処理装置1の機能構成を説明する。図5は、本実施形態に係る情報処理装置1の機能構成を例示する。本実施形態に係る情報処理装置1が備える制御部11は、記憶部12に記憶されたプログラム5をRAMに展開する。そして、制御部11は、RAMに展開されたプログラム5をCPUにより解釈及び実行して、各構成要素を制御する。これにより、本実施形態に係る情報処理装置1は、画像取得部21、前景抽出部22、行動検知部23、異常判定部24、通知部25、及び表示制御部26を備えるコンピュータとして機能する。
画像取得部21は、カメラ2によって撮影された撮影画像3を取得する。取得される撮影画像3には、深度センサ8によって測定された各画素の深度を示す深度情報が含まれている。前景抽出部22は、撮影画像3の背景として設定された背景画像とこの撮影画像3との差分から撮影画像3の前景領域を抽出する。行動検知部23は、深度情報により示される前景領域内の各画素の深度に基づいて、前景領域に写る対象とベッドとの実空間内での位置関係が所定の条件を満たすか否かを判定する。そして、行動検知部23は、当該判定の結果に基づいて、見守り対象者のベッドに関連する行動を検知する。
異常判定部24は、見守りシステムの見守りに異常発生の可能性があるか否かを判定する。そして、通知部25は、見守りシステムの見守りに異常発生の可能性があると判定される場合に、見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う。表示制御部26は、タッチパネルディスプレイ13の画面表示を制御する。
例えば、異常判定部24は、深度センサ8によって撮影画像3内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定する。そして、通知部25は、深度センサ8によって撮影画像3内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う。この場合に、表示制御部26は、タッチパネルディスプレイ13上でこの通知に係る画面表示を行ってもよい。
なお、各機能に関しては後述する動作例で詳細に説明する。ここで、本実施形態では、これらの機能がいずれも汎用のCPUによって実現される例を説明している。しかしながら、これらの機能の一部又は全部が、1又は複数の専用のプロセッサにより実現されてもよい。また、情報処理装置1の機能構成に関して、実施形態に応じて、適宜、機能の省略、置換、及び追加が行われてもよい。
§3 動作例
[見守り対象者の行動検知]
まず、図6及び図7を用いて、情報処理装置1による見守り対象者の行動検知の処理手順を説明する。図6は、情報処理装置1による見守り対象者の行動検知に係る処理手順を例示する。図7は、行動検知に係る処理を実行する際にタッチパネルディスプレイ13に表示される画面50を例示する。
本実施形態に係る制御部11は、図6で例示される処理手順により見守り対象者の見守りを行う際に、表示制御部26として機能し、図7で例示される画面50をタッチパネルディスプレイ13に表示する。画面50は、カメラ2により撮影されている撮影画像3を表示する領域51、図6で例示される見守り処理の一時停止を受け付けるためのボタン52、及び見守り処理の各種設定を受け付けるためのボタン53を含む。制御部11は、このような画面50をタッチパネルディスプレイ13に表示させながら、以下のステップS101〜S105の処理を実行して、見守り対象者のベッドに関連する行動の検知を行う。利用者は、この行動検知の結果を利用して、見守り対象者の見守りを行う。
なお、以下で説明する行動検知に関する処理手順は一例に過ぎず、各処理は可能な限り変更されてもよい。以下で説明する処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。また、見守り対象者の見守りを行う際にタッチパネルディスプレイ13に表示する画面は、図7で例示される画面50に限定されなくてもよく、実施の形態に応じて、適宜、設定されてよい。
(ステップS101)
ステップS101では、制御部11は、画像取得部21として機能し、カメラ2により撮影された撮影画像3を取得する。本実施形態では、カメラ2は深度センサ8を備えるため、取得される撮影画像3には、各画素の深度を示す深度情報が含まれる。制御部11は、この深度情報を含む撮影画像3として、例えば、図2及び図7で例示されるような、各画素の深度に応じて各画素の濃淡値(画素値)が定められた撮影画像3を取得する。つまり、図2及び図7で例示される撮影画像3の各画素の濃淡値は、当該各画素に写る対象の深度に対応している。
制御部11は、上記のとおり、当該深度情報に基づいて、各画素の写る対象の実空間での位置を特定することができる。すなわち、制御部11は、撮影画像3内の各画素の位置(二次元情報)と深度とから、当該各画素内に写る被写体の三次元空間(実空間)での位置を特定することができる。例えば、図7で例示される撮影画像3に写る被写体の実空間での状態は、次の図8で例示される。
図8は、撮影画像3に含まれる深度情報に基づいて特定される撮影範囲内の被写体の位置の三次元分布を例示する。撮影画像3内の位置と深度とで各画素を三次元空間内にプロットすることで、図8で例示される三次元分布を作成することができる。つまり、制御部11は、図8で例示される三次元分布のように、撮影画像3内に写る被写体の実空間内での状態を認識することができる。
なお、本実施形態に係る情報処理装置1は、医療施設又は介護施設において、入院患者又は施設入居者を見守るために利用される。そこで、制御部11は、リアルタイムに入院患者又は施設入居者の行動を見守ることができるように、カメラ2のビデオ信号に同期させて撮影画像3を取得してもよい。そして、制御部11は、後述するステップS102〜S105までの処理を取得した撮影画像3に対して即座に実行してもよい。情報処理装置1は、このような動作を絶え間なく連続して実行することにより、リアルタイム画像処理を実現し、リアルタイムに入院患者又は施設入居者の行動を見守ることを可能にする。
(ステップS102)
図6に戻り、ステップS102では、制御部11は、前景抽出部22として機能し、ステップS101で取得した撮影画像3の背景として設定された背景画像と撮影画像3との差分から、当該撮影画像3の前景領域を抽出する。ここで、背景画像は、前景領域を抽出するために利用されるデータであり、背景となる対象の深度を含んで設定される。背景画像を作成する方法は、実施の形態に応じて、適宜、設定されてよい。例えば、制御部11は、見守り対象者の見守りを開始したときに得られる数フレーム分の撮影画像の平均を算出することで、背景画像を作成してもよい。このとき、深度情報も含んで撮影画像の平均が算出されることで、深度情報を含む背景画像が作成される。
図9は、図7及び図8で例示した被写体のうち撮影画像3から抽出される前景領域の三次元分布を例示する。具体的には、図9は、見守り対象者がベッド上で起き上がった際に抽出される前景領域の三次元分布を例示している。上記のような背景画像を利用して抽出される前景領域は、背景画像で示される実空間内の状態から変化した位置に現れる。そのため、見守り対象者がベッド上で動いた場合、見守り対象者の動作部位の写る領域は、この前景領域として抽出される。例えば、図9では、見守り対象者がベッド上で上半身を起こす(起き上がり)動作を行っているため、見守り対象者の上半身の写る領域が前景領域として抽出されている。制御部11は、このような前景領域を用いて、見守り対象者の動作を判定する。
なお、本ステップS102において、制御部11が前景領域を抽出する方法は、以上のような方法に限定されなくてもよく、例えば、背景差分法を用いて背景と前景とを分離してもよい。背景差分法として、例えば、上記のような背景画像と入力画像(撮影画像3)との差分から背景と前景とを分離する方法、異なる3枚の画像を用いて背景と前景とを分離する方法、及び統計的モデルを適用することで背景と前景とを分離する方法を挙げることができる。前景領域を抽出する方法は、特に限定されなくてよく、実施の形態に応じて、適宜、選択されてよい。
(ステップS103)
図6に戻り、ステップS103では、制御部11は、行動検知部23として機能し、ステップS102で抽出した前景領域内の画素の深度に基づいて、前景領域に写る対象とベッドとの位置関係が所定の条件を満たすか否かを判定する。そして、制御部11は、その判定結果に基づいて、見守り対象者の行っている行動を検知する。
なお、見守り対象者の行動を検知する方法、各行動を検知するための所定の条件、及び検知対象とする行動は、特に限定されなくてもよく、実施の形態に応じて、適宜、選択されてよい。以下では、見守り対象者の行動を検知する方法の一例として、ベッド上面と前景領域との位置関係に基づいて見守り対象者の起き上がり、離床、端座位、及び柵越えを検知する方法を説明する。
このベッド上面は、ベッドの垂直方向上側の面であり、例えば、ベッドマットレスの上面である。このベッド上面の実空間内での範囲は、予め設定されてもよいし、撮影画像3を解析してベッドの位置を特定することで設定されてもよいし、撮影画像3内でその範囲が利用者により指定されることで設定されてもよい。なお、見守り対象者の行動を検知する基準は、このようなベッド上面に限定されなくてもよく、ベッドに存在する物理的な対象に限らず、仮想的な対象であってもよい。
すなわち、本実施形態に係る制御部11は、前景領域に写る対象とベッド上面との実空間内での位置関係が所定の条件を満たすか否かの判定に基づいて、見守り対象者の行っている行動を検知する。そのため、見守り対象者の行動を検知するための所定の条件は、ベッド上面を基準として特定される所定の領域(以下、「検知領域」とも称する)に前景領域に写る対象が含まれるか否かを判定するための条件に相当する。そこで、ここでは、説明の便宜のために、この検知領域と前景領域との関係に基づいて、見守り対象者の行動を検知する方法を説明する。
(1)起き上がり
図10は、起き上がりを検知するための検知領域DAを模式的に例示する。見守り対象者がベッド上で起き上がった場合、図9で例示される前景領域がベッド上面の上方に現れると想定される。そのため、起き上がりを検知するための検知領域DAは、例えば、図10で例示されるように、ベッド上面からベッドの高さ方向上方に所定の距離だけ高い位置に設定されてもよい。検知領域DAの範囲は、特に限定されなくてもよく、実施の形態に応じて、適宜、設定されてよい。制御部11は、閾値以上の画素数分の前景領域に写る対象が検知領域DAに含まれると判定した場合に、見守り対象者のベッド上での起き上がりを検知してもよい。
(2)離床
図11は、離床を検知するための検知領域DBを模式的に例示する。見守り対象者がベッドから離床した場合、ベッドのサイドフレームから離れた位置に前景領域が現れると想定される。そのため、離床を検知するための検知領域DBは、例えば、図11で例示されるように、ベッド上面からベッドの幅方向に離れた位置に設定されてもよい。この検知領域DBの範囲は、上記検知領域DAと同様に、実施の形態に応じて、適宜、設定されてよい。制御部11は、閾値以上の画素数分の前景領域に写る対象が検知領域DBに含まれると判定した場合に、見守り対象者のベッドからの離床を検知してもよい。
(3)端座位
図12は、端座位を検知するための検知領域DCを模式的に例示する。見守り対象者がベッドにおいて端座位を行った場合、ベッドのサイドフレーム周辺、かつ、ベッドの上方から下方にかけて、前景領域が現れると想定される。そのため、端座位を検知するための検知領域DCは、図12で例示されるように、ベッドのサイドフレーム周辺で、かつ、ベッドの上方から下方にかけて設定されてもよい。制御部11は、閾値以上の画素数分の前景領域に写る対象が検知領域DCに含まれると判定した場合に、見守り対象者のベッドにおける端座位を検知してもよい。
(4)柵越え
見守り対象者がベッドの柵から身を乗り出した場合、換言すると、見守り対象者が柵越えを行った場合、ベッドのサイドフレーム周辺で、かつ、ベッドの上方に、前景領域が現れると想定される。そのため、柵越えを検知するための検知領域は、ベッドのサイドフレーム周辺で、かつ、ベッドの上方に、設定されてもよい。制御部11は、閾値以上の画素数分の前景領域に写る対象がこの検知領域に含まれると判定した場合に、見守り対象者の柵越えを検知してもよい。
(5)その他
本ステップS103では、制御部11は、上記のようにして、見守り対象者の各行動の検知を行う。すなわち、制御部11は、対象の行動の上記判定条件を満たすと判定した場合に、当該対象の行動を検知することができる。一方、各行動の上記判定条件を満たさないと判定した場合には、制御部11は、見守り対象者の行動を検知することなく、次のステップS104に処理を進める。
なお、見守り対象者の行動を検知する方法は、上記の方法に限定されなくてもよく、実施の形態に応じて、適宜、設定されてよい。例えば、制御部11は、前景領域として抽出された各画素の撮影画像3内の位置及び深度の平均を取ることで、前景領域の平均位置を算出してもよい。そして、制御部11は、実空間内において各行動を検知する条件として設定された検知領域に当該前景領域の平均位置が含まれるか否かを判定することで、見守り対象者の行動を検知してもよい。
また、制御部11は、前景領域の形状に基づいて、前景領域に写る身体部位を特定してもよい。前景領域は、背景画像からの変化を示す。そのため、前景領域に写る身体部位は、見守り対象者の動作部位に対応する。これに基づいて、制御部11は、特定した身体部位(動作部位)とベッド上面との位置関係に基づいて、見守り対象者の行動を検知してもよい。これと同様に、制御部11は、各行動の検知領域に含まれる前景領域に写る身体部位が所定の身体部位であるか否かを判定することで、見守り対象者の行動を検知してもよい。
(ステップS104)
ステップS104では、制御部11は、ステップS103において検知した行動が見守り対象者に危険の迫る予兆を示す行動であるか否かを判定する。そして、ステップS103において検知した行動が見守り対象者に危険の迫る予兆を示す行動であると判定した場合、制御部11は、ステップS105に処理を進める。一方、ステップS103において見守り対象者の行動を検知しなかった場合、又は、ステップS103において検知した行動が見守り対象者に危険の迫る予兆を示す行動ではないと判定した場合、制御部11は、本動作例に係る処理を終了する。
見守り対象者に危険の迫る予兆を示す行動であると設定される行動は、実施の形態に応じて、適宜、選択されてよい。例えば、転落又は転倒が生じる可能性のある行動として、見守り対象者に危険の迫る予兆を示す行動に端座位が設定されていると仮定する。この場合、制御部11は、ステップS103において見守り対象者が端座位の状態にあると検知したとき、ステップS103において検知した行動が見守り対象者に危険の迫る予兆を示す行動であると判定する。
このステップS103において検知した行動が見守り対象者に危険の迫る予兆を示す行動であるか否かを判定する場合に、制御部11は、見守り対象者の行動の遷移を利用してもよい。例えば、離床から端座位の状態になるよりも、起き上がりから端座位の状態になった方が、見守り対象者が転落又は転倒する可能性が高いと想定される。そこで、制御部11は、ステップS104において、見守り対象者の行動の遷移を踏まえて、ステップS103において検知した行動が見守り対象者に危険の迫る予兆を示す行動であるか否かを判定してもよい。
例えば、制御部11は、見守り対象者の行動を定期的に検知しているところ、ステップS103において、見守り対象者の起き上がりを検知した後に、見守り対象者が端座位の状態になったと検知したとする。このとき、制御部11は、本ステップS104において、ステップS103において推定した行動が見守り対象者に危険の迫る予兆を示す行動であると判定してもよい。
(ステップS105)
ステップS105では、制御部11は、通知部25として機能し、見守り対象者に危険の迫る予兆があることを知らせるための通知を行う。制御部11が当該通知を行う方法は、実施の形態に応じて、適宜、選択されてもよい。
例えば、制御部11は、情報処理装置1に接続されるナースコールシステム4等の施設に設置された設備と連携して、見守り対象者に危険の迫る予兆があることを知らせるための通知を行ってもよい。本実施形態では、制御部11は、外部インタフェース15を介して接続されたナースコールシステム4を制御して、見守り対象者に危険の迫る予兆があることを知らせるための通知として、当該ナースコールシステム4による呼び出しを行ってもよい。これにより、見守り対象者に危険の迫る予兆があることを見守り対象者の行動を見守る利用者に適切に知らせることが可能になる。
なお、制御部11は、ナースコールシステム4による呼び出しの一例として、例えば、親機40及び子機41の少なくとも一方に所定の音声を出力させる。この呼び出しは、親機40及び子機41の両方で行ってもよいし、どちらか一方で行ってもよい。呼び出しを行う方法は、実施の形態に応じて、適宜、選択されてよい。
また、例えば、制御部11は、情報処理装置1に接続されるスピーカ14から所定の音声を出力することにより、見守り対象者に危険の迫る予兆があることを知らせるための通知を行ってもよい。このスピーカ14がベッドの周辺に配置されている場合、このような通知をスピーカ14で行うことにより、見守りを行う場所周辺に居る者に対して、見守り対象者に危険の迫る予兆があることを知らせることが可能になる。この見守りを行う場所周辺に居る者には、見守り対象者自身が含まれてもよい。これにより、見守り対象者に危険の迫る予兆があることを見守り対象者自身にも報知することが可能になる。
また、例えば、制御部11は、タッチパネルディスプレイ13上に、見守り対象者に危険の迫る予兆があることを知らせるための画面を表示させてもよい。また、例えば、制御部11は、電子メールを利用して、このような通知を行ってもよい。この場合、通知先となるユーザ端末の電子メールアドレスは記憶部12に予め登録されていてもよく、制御部11は、この予め登録されている電子メールアドレスを利用して、見守り対象者に危険の迫る予兆があることを知らせるための通知を行ってもよい。
この通知が完了すると、制御部11は、本動作例に係る処理を終了する。ただし、情報処理装置1は、見守り対象者の行動を定期的に検知する場合、上述の動作例に示される処理を定期的に繰り返してもよい。定期的に処理を繰り返す間隔は、適宜、設定されてもよい。また、情報処理装置1は、利用者の要求に応じて、上述の動作例に示される処理を実行してもよい。更に、情報処理装置1は、画面50に設けられたボタン52の操作に応じて、見守り対象者の行動検知に係る処理を一時停止してもよい。
以上のように、本実施形態に係る情報処理装置1は、前景領域と被写体の深度とを利用して、見守り対象者の動作部位とベッドとの実空間内の位置関係を評価することで、見守り対象者の行動を検知する。そのため、本実施形態によれば、実空間での見守り対象者の状態に適合する行動推定が可能となる。
[異常判定]
次に、図15を用いて、見守りを正常に行えない状態で見守りシステムが放置されてしまうことを防止するための処理を説明する。図15は、本実施形態に係る情報処理装置1が実行する、見守りを正常に行えない状態で見守りシステムが放置されてしまうことを防止するための処理手順を例示する。なお、この異常状態での見守りシステムの放置防止に係る処理は、いかなるタイミングで実行されてもよく、例えば、プログラム5が実行されている間、定期的に実行される。以下で説明する処理手順は一例に過ぎず、各処理は、可能な限り変更されもよい。また、以下で説明する処理手順について、実施の形態に応じて、適宜、ステップの置換及び追加が可能である。
(ステップS201及びステップS202)
ステップS201及びステップS202では、制御部11は、異常判定部24として機能し、見守りシステムの見守りに異常発生の可能性があるか否かを判定する。そして、制御部11は、見守りシステムの見守りに異常発生の可能性があると判定した場合に、次のステップS203に処理を進める。一方、制御部11は、見守りシステムの見守りに異常発生の可能性がないと判定した場合に、本動作例に係る処理を終了する。見守りシステムの見守りに異常が発生している可能性があるか否かを判定する方法は、実施の形態に応じて、適宜選択されてもよい。以下では、見守りシステムの見守りに異常発生の可能性があるか否かを判定する具体的な方法を例示する。
(i)深度情報の未取得
制御部11は、例えば、深度センサ8によって撮影画像3内の各画素の深度を取得できない状態が一定時間以上継続した場合に、見守りシステムの見守りに異常発生の可能性があると判定してもよい。深度センサ8により各画素に対応する深度が取得できない原因は種々挙げることができる。例えば、深度センサ8に不具合が生じた場合に、深度センサ8は、各画素の深度を取得することができなくなる。また、例えば、深度センサ8が赤外線深度センサである場合、赤外線を吸収する物体が撮影範囲内に存在するとき、太陽光などの強い光が撮影範囲に照射したとき等に、深度センサ8は、各画素の深度を取得することができなくなる。
これらの原因により各画素の深度を取得できない場合、深度を取得できない画素にはエラー値が割り当てられる。制御部11は、例えば、このようなエラー値の出現している継続時間に基づいて、深度センサ8によって撮影画像3内の各画素の深度を取得できない状態が一定時間以上継続したか否かを判定する。一定時間以上継続したと判定する基準となる所定時間は、設定値として予め定められてもよいし、利用者による入力値により定められてもよいし、複数の設定値から選択されることで定められてよい。
そして、制御部11は、深度センサ8によって撮影画像3内の各画素の深度を取得できない状態が一定時間以上継続したと判定した場合に、見守りシステムの見守りに異常発生の可能性があると評価して、次のステップS203に処理を進める。すなわち、制御部11は、後述するとおり、見守りシステムの見守りが正常にできていない可能性のあることを知らせるための通知を行う。一方、そうではない場合、制御部11は、見守りシステムの見守りに異常発生の可能性がないと評価して、本動作例に係る処理を終了する。
上述のとおり、情報処理装置1は、深度情報に基づいて、見守り対象者とベッドとの実空間内での位置関係を評価する。そのため、深度情報が取得できない場合には、情報処理装置1は、見守り対象者の行動を検知することができなくなる。換言すると、情報処理装置1によって見守り対象者の行動を見守ることができなくなってしまう。これに対して、本実施形態に係る情報処理装置1は、深度情報が取得できないと評価できる場合に、見守り対象者の見守りを正常にできない可能性のあることを利用者等に報知する。そのため、本実施形態によれば、深度情報が取得できないことによって生じる見守りの不具合の状態での見守りシステムの報知を防止することができる。
なお、制御部11は、例えば、ベッドの領域について所定の割合を超えて深度が取得できない場合に、深度センサ8によって撮影画像3内の各画素の深度を取得できない状態と判定してもよい。上述のとおり、本実施形態に係る情報処理装置1は、ベッド上面と前景領域との位置関係に基づいて、見守り対象者の行動を検知する。そのため、ベッド周りの深度情報が取得できれば、情報処理装置1は見守り対象者の行動を検知することが可能である。
そこで、本実施形態に係る制御部11は、ベッド領域(例えば、ベッド上面)のうち深度を取得できない領域の割合を測定する。そして、制御部11は、深度を取得できない領域の割合が所定値を超えている場合に、深度センサ8によって撮影画像3内の各画素の深度を取得できない状態と判定してもよい。一方、制御部11は、深度を取得できない領域の割合が所定値以下である場合に、深度センサ8によって撮影画像3内の各画素の深度を取得できない状態ではないと判定してもよい。
これによって、見守り対象者の行動を検知するのに無関係な領域について深度が取得できない場合について、撮影画像3内の各画素の深度を取得できない状態であると判定することを防止することができる。そのため、見守りシステムにおける異常発生の誤報の生じる可能性を低減することができる。なお、深度情報を取得できない状態であると判定する基準となる所定値は、設定値として予め定められてもよいし、利用者による入力値により定められてもよいし、複数の設定値から選択されることで定められてよい。
(ii)撮影範囲のずれ
また、制御部11は、例えば、カメラ2の撮影範囲に一定以上のずれが生じた場合に、見守りシステムの見守りに異常発生の可能性があると判定してもよい。カメラ2の撮影範囲にずれが生じる原因は種々挙げることができる。例えば、カメラ2の付近を通行する通行人がカメラ2にぶつかった場合に、カメラ2の撮影範囲にずれが生じる。
このような原因によりカメラ2の撮影範囲に一定以上のずれが生じる場合、カメラ2には一定以上の動きが生じる。そのため、制御部11は、まず、加速度センサ9に基づいてカメラ2の衝撃を検知する。例えば、制御部11は、加速度センサ9により計測されたカメラ2の移動量が所定値を超えた場合に、カメラ2の衝撃を検知してもよい。
加速度センサ9に基づいてカメラ2の衝撃を検知した後、制御部11は、次に、当該衝撃を検出する前に取得された撮影画像3と当該衝撃を検出した後に取得された撮影画像3とを比較する。制御部11は、例えば、カメラ2から継続的に取得される撮影画像3を一定時間分だけ記憶部12に保持させ続けることで、衝撃前の撮影画像3と衝撃後の撮影画像3とを記憶部12から取得できるようになる。
このような衝撃前の撮影画像3と衝撃後の撮影画像3とを比較する方法は、実施の形態に応じて、適宜選択されてよい。制御部11は、例えば、衝撃前の撮影画像3と衝撃後の撮影画像3との一致度に基づいて、これらの撮影画像3を比較してもよい。すなわち、制御部11は、衝撃前の撮影画像3と衝撃後の撮影画像3との一致度に基づいて、カメラ2の撮影範囲に一定以上のずれが生じたか否かを判定してもよい。
この場合、制御部11は、衝撃前の撮影画像3と衝撃後の撮影画像3との一致度が所定値以下であるときに、カメラ2の撮影範囲に一定以上のずれが生じたと判定する。一方、制御部11は、衝撃前の撮影画像3と衝撃後の撮影画像3との一致度が所定値を超えるときに、カメラ2の撮影範囲に一定以上のずれは生じていないと判定する。
そして、制御部11は、カメラ2の撮影範囲に一定以上のずれが生じたと判定した場合に、見守りシステムの見守りに異常発生の可能性があると評価して、次のステップS203に処理を進める。すなわち、制御部11は、後述するとおり、見守りシステムの見守りが正常にできていない可能性のあることを知らせるための通知を行う。一方、そうではない場合、制御部11は、見守りシステムの見守りに異常発生の可能性がないと評価して、本動作例に係る処理を終了する。
上述のとおり、情報処理装置1は、撮影画像3内にベッド付近の状態が写ることによって、見守り対象者のベッドに関連する行動を検知している。そのため、カメラ2の撮影範囲がずれてしまうと、撮影画像3内にベッド付近の状態が十分に写らなくなり、情報処理装置1は、見守り対象者の行動を検知できなくなってしまう可能性がある。これに対して、本実施形態に係る情報処理装置1は、撮影範囲に一定以上のずれが生じたと評価できる場合に、見守り対象者の見守りを正常にできない可能性のあることを利用者等に報知する。そのため、カメラ2の向きが変わることによって生じる見守りの不具合の状態での見守りシステムの放置を防止することができる。
なお、カメラ2の衝撃を検知する基準となる所定値、及びカメラ2の撮影範囲のずれを判定する基準となる所定値はそれぞれ、設定値として予め定められてもよいし、利用者による入力値により定められてもよいし、複数の設定値から選択されることで定められてよい。
(iii)撮影装置の認識不可
また、制御部11は、例えば、カメラ2を認識できない場合に、見守りシステムの見守りに異常発生の可能性があると判定してもよい。情報処理装置1がカメラ2を認識できなくなる原因は種々挙げることができる。例えば、カメラ2と情報処理装置1との間の配線が切断されること、カメラ2の電源プラグがコンセントから外れること等が原因で、カメラ2は情報処理装置1に認識されなくなる。
これらの原因によりカメラ2を認識できない場合、制御部11は、外部インタフェース15を介してカメラ2にアクセスできなくなる。そこで、制御部11は、外部インタフェース15を介してカメラ2にアクセスできるか否かに基づいて、カメラ2を認識できているか否かを判定してもよい。
そして、制御部11は、カメラ2を認識できていないと判定した場合に、見守りシステムの見守りに異常発生の可能性があると評価して、次のステップS203に処理を進める。すなわち、制御部11は、後述するとおり、見守りシステムの見守りが正常にできていない可能性のあることを知らせるための通知を行う。一方、そうではない場合、制御部11は、見守りシステムの見守りに異常発生の可能性がないと評価して、本動作例に係る処理を終了する。
上述のとおり、情報処理装置1は、撮影画像3を解析することで、見守り対象者の行動を検知する。そのため、カメラ2が認識できないと、情報処理装置1は、カメラ2から撮影画像3を取得できなくなり、見守り対象者の行動を検知することができなくなる。これに対して、本実施形態に係る情報処理装置1は、撮影画像3を取得できないと評価できる場合に、見守り対象者の見守りを正常にできない可能性のあることを利用者等に報知する。そのため、本実施形態によれば、撮影画像3を取得できなくなることによる見守りの不具合の状態での見守りシステムの放置を防止することができる。
(iv)行動検知の不実施
制御部11は、例えば、上記ステップS103による見守り対象者の行動検知が一定時間以上実行されていない場合に、見守りシステムの見守りに異常発生の可能性があると判定してもよい。見守り対象者の行動検知が実行されない原因は種々挙げることができる。例えば、図7で例示されるように、ボタン52の操作により見守り処理が一時停止された状態で放置されること、ボタン53の操作により設定画面が表示された状態で放置されること等が原因で、見守り対象者の行動検知が実行されなくなる。
これらの原因によって行動検知の処理が実行されない場合、上記一時停止等の状態が維持されていることになる。そこで、制御部11は、この一時停止等の状態が維持されている時間に基づいて、見守り対象者の行動の検知が一定時間以上実行されていないかどうかを判定してもよい。なお、一定時間以上実行されていないと判定する基準となる所定時間は、設定値として予め定められてもよいし、利用者による入力値により定められてもよいし、複数の設定値から選択されることで定められてよい。
そして、制御部11は、見守り対象者の行動の検知が一定時間以上実行されていないと判定した場合に、見守りシステムの見守りに異常発生の可能性があると評価して、次のステップS203に処理を進める。すなわち、制御部11は、後述するとおり、見守りシステムの見守りが正常にできていない可能性のあることを知らせるための通知を行う。一方、そうではない場合、制御部11は、見守りシステムの見守りに異常発生の可能性がないと評価して、本動作例に係る処理を終了する。
上述のとおり、情報処理装置1は、見守り対象者の行動を検知することで、当該見守り対象者の見守りを行っている。そのため、見守り対象者の行動検知が一定時間以上実行されない場合、見守り対象者の見守りが正常に行えない可能性がある。これに対して、本実施形態に係る情報処理装置1は、見守り対象者の行動を一定時間以上検知していないと評価できる場合に、見守り対象者の見守りを正常にできない可能性のあることを利用者等に報知する。そのため、本実施形態によれば、見守り対象者の行動検知が一定時間以上実行されないことによって生じる見守りの不具合の状態での見守りシステムの報知を防止することができる。
(v)その他
なお、見守りシステムの見守りに異常発生の可能性があると判定する見守りシステムの状態は上述の例に限られず、実施の形態に応じて、適宜設定されてよい。例えば、見守り対象者の行動を検知する情報処理装置(本実施形態では、情報処理装置1)のCPUの負荷が高い場合に、見守り対象者の行動の検知処理が適切に実行されない可能性がある。そこで、制御部11は、CPUに一定以上の負荷がかかっている場合に、見守り対象者の見守りが正常に行えない可能性があると判定してもよい。
CPUの負荷を判定する方法は、実施の形態に応じて、適宜選択されてよい。例えば、制御部11は、CPUの使用率、CPUの温度等に基づいて、CPUの負荷を判定することができる。制御部11は、CPUの使用率が所定値を超えた場合に、CPUに一定以上の負荷がかかっていると判定してもよい。また、制御部11は、CPUの温度が所定温度を超えた場合に、CPUに一定以上の負荷がかかっていると判定してもよい。
また、例えば、タッチパネルディスプレイ13の画面操作がパスワードによりロックされている場合に、パスワードの入力を誤る利用者は、当該見守りシステムの正規の利用者ではない可能性がある。このような利用者に見守りシステムが利用された場合、見守りシステムに予見できない不具合が生じる可能性がある。そこで、制御部11は、パスワードの入力を利用者が所定回数(例えば、3回)間違えたときに、見守り対象者の見守りが正常に行えない可能性があると判定してもよい。
なお、本ステップS201及びステップS202において、制御部11は、上記判定方法から1又は複数種類の判定方法を採用して、見守りシステムの見守りに異常発生の可能性があるか否かを判定してもよい。また、制御部11は、上記判定方法からいずれの判定方法を採用するかの選択を受け付けてもよい。そして、制御部11は、選択された1又は複数の判定方法を利用して、見守りシステムの見守りに異常発生の可能性があるか否かを判定してもよい。見守りシステムの見守りに異常発生の可能性があると判定される場合に、次のステップS203の処理が実行される。
(ステップS203)
ステップS203では、制御部11は、通知部25として機能し、見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う。このような通知を行う方法は、実施の形態に応じて、適宜選択されてよい。例えば、制御部11は、上記危険予兆の通知と同様に、このような異常発生予兆を知らせる通知として、ナースコールシステム4による呼び出しを行ってもよいし、スピーカ14から所定音声を出力させてもよい。
また、例えば、制御部11は、異常発生予兆を知らせる通知として、タッチパネルディスプレイ13上に所定態様の画面表示を行わせてもよい。所定態様の画面表示として、制御部11は、例えば、タッチパネルディスプレイ13に表示する画面を点滅させてもよい。更に、制御部11は、異常発生予兆を知らせる通知として、電子メールの送信を行ってもよいし、異常発生予兆を検知した時刻を記録した履歴を作成してもよい。このような異常発生予兆の履歴は、異常発生予兆を検知した後に情報処理装置1を操作する利用者に、見守り対象者の見守りが正常にできていない可能性のある時刻を知らせることができる。
なお、制御部11は、見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知に、1又は複数のデバイスを利用してもよい。
また、制御部11は、特定のデバイスを利用して、見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行ってもよい。このような場合に、通知を行う当該特定のデバイスが認識できなくなったとき、制御部11は、上記異常発生予兆を知らせる通知を行えないようになる。これに対応するため、制御部11は、通知を行うデバイスが認識できなくなったとき、当該通知を行うデバイスとは他のデバイスを利用して、この異常発生予兆を知らせるための通知を行ってもよい。
例えば、異常発生予兆を知らせるための通知を行うデバイスとしてナースコールシステム4が設定されている場合に、制御部11は、ナースコールシステム4を正常に制御しているときには、上記の事態の発生に応じてナースコールシステム4による呼び出しを行う。
一方、配線18が切断された等の理由により、ナースコールシステム4を正常に制御できなくなったときには、ナースコールシステム4による呼び出しができなくなる。このとき、制御部11は、例えば、異常発生予兆を知らせるための通知として、ナースコールシステム4による呼び出しに代えて、スピーカ14に所定音声の出力を行わせてもよい。スピーカ14は本発明の音声出力装置に相当する。この所定音声は、特に限定されなくてもよく、例えば、異常内容を知らせる音声メッセージ、ビープ音等であってもよい。これにより、上記各異常事態の予兆の他、ナースコールシステム4との接続に異常が発生していることを音声で利用者等に報知することができる。
また、制御部11は、ナースコールシステム4による呼び出しができないとき、例えば、異常発生予兆を知らせるための通知として、ナースコールシステム4による呼び出しに代えて、タッチパネルディスプレイ13に所定態様の画面表示を行わせてもよい。タッチパネルディスプレイ13は本発明の表示装置に相当する。この所定態様の画面表示は特に限定されなくてもよく、制御部11は、例えば、所定態様の画面表示として、タッチパネルディスプレイ13に表示する画面を点滅させてもよい。これにより、上記各異常事態の予兆の他、ナースコールシステム4との接続に異常が発生していることを視覚的に利用者等に報知することができる。
このようなナースコールシステム4に代えて、異常発生予兆を知らせるための通知を行うデバイスは、予め設定されていてもよいし、当該通知を行う際に制御部11が認識しているデバイスから任意に選択されてもよい。これにより、ナースコールシステム4による呼び出しが正常に行えない場合にあっても、見守りシステムでの異常発生を報知することができる。
§4 変形例
以上、本発明の実施の形態を詳細に説明してきたが、前述までの説明はあらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。
(1)面積の利用
例えば、カメラ2から被写体が遠ざかるほど、撮影画像3内の被写体の像は小さくなり、カメラ2に被写体が近づくほど、撮影画像3内の被写体の像は大きくなる。撮影画像3内に写る被写体の深度は被写体の表面に対して取得されるが、その撮影画像3の各画素に対応する被写体の表面部分の面積は各画素間で一致するとは限らない。
そこで、制御部11は、被写体の遠近による影響を除外するために、上記ステップS103において、前置領域に写る被写体のうち検知領域に含まれる部分の実空間における面積を算出してもよい。そして、制御部11は、算出した面積に基づいて、見守り対象者の行動を検知してもよい。
なお、撮影画像3内の各画素の実空間における面積は、その各画素の深度に基づいて、次のようにして求めることができる。制御部11は、以下の数1及び数2の関係式に基づいて、図7で例示される撮影画像3内の任意の点s(1画素)の実空間内における横方向の長さw及び縦方向の長さhをそれぞれ算出することができる。なお、Dsは、点sでの深度を示す。Vxは、カメラ2の横方向の画角を示す。Vyは、カメラ2の縦方向の画角を示す。Wは、撮影画像3の横方向のピクセル数を示す。Hは、撮影画像3の縦方向のピクセル数を示す。撮影画像3の中心点(画素)の座標を(0,0)とする。制御部11は、例えば、カメラ2にアクセスすることでこれらの情報を取得することができる。
したがって、制御部11は、このように算出されるwの2乗、hの2乗、又はwとhとの積によって、深度Dsにおける1画素の実空間内での面積を求めることができる。そこで、制御部11は、上記ステップS103において、前置領域内の画素のうちの検知領域に含まれる対象を写した各画素の実空間内での面積の総和を算出する。そして、制御部11は、算出した面積の総和が所定の範囲内に含まれるか否かを判定することで、見守り対象者のベッドにおける行動を検知してもよい。これにより、被写体の遠近の影響を除外し、見守り対象者の行動の検知精度を高めることができる。
なお、このような面積は、深度情報のノイズ、見守り対象者以外の物体の動き、等によって、大きく変化してしまう場合がある。これに対応するため、制御部11は、数フレーム分の面積の平均を利用してもよい。また、制御部11は、処理対象のフレームにおける該当領域の面積と当該処理対象のフレームよりも過去の数フレームにおける当該該当領域の面積の平均との差が所定範囲を超える場合、当該該当領域を処理対象から除外してもよい。
(2)面積及び分散を利用した行動推定
上記のような面積を利用して見守り対象者の行動を検知する場合、行動を検知するための条件となる面積の範囲は、検知領域に含まれると想定される見守り対象者の所定部位に基づいて設定される。この所定部位は、例えば、見守り対象者の頭部、肩部等である。すなわち、見守り対象者の所定部位の面積に基づいて、行動を検知するための条件となる面積の範囲が設定される。
ただし、前置領域に写る対象の実空間内における面積だけでは、制御部11は、その前置領域に写る対象の形状を特定することはできない。そのため、制御部11は、検知領域に含まれる見守り対象者の身体部位を取り違えて、見守り対象者の行動を誤検知してしまう可能性がある。そこで、制御部11は、実空間における広がり具合を示す分散を利用して、このような誤検知を防止してもよい。
図12を用いて、この分散を説明する。図12は、領域の拡がり具合と分散との関係を例示する。図12で例示される領域TA及び領域TBは、それぞれ、同じ面積であるとする。上記のような面積だけで見守り対象者の行動を推定しようとすると、制御部11は、制御部11は、領域TAと領域TBとは同じであると認識してしまうため、見守り対象者の行動を誤検知してしまう可能性がある。
しかしながら、図12で例示されるように、領域TAと領域TBとは実空間における広がりが大きく異なる(図12では水平方向の広がり具合)。そこで、制御部11は、上記ステップS103において、前置領域に含まれる画素のうち検知領域に含まれる対象を写した各画素の分散を算出してもよい。そして、制御部11は、算出した分散が所定の範囲に含まれるか否かの判定に基づいて、見守り対象者の行動を検知してもよい。
なお、上記面積の例と同様に、行動の検知の条件となる分散の範囲は、検知領域に含まれると想定される見守り対象者の所定部位に基づいて設定される。例えば、検知領域に含まれる所定部位が頭部であると想定される場合には、行動の検知の条件となる分散の値は比較的に小さい値の範囲で設定される。一方、検知領域に含まれる所定部位が肩部であると想定される場合には、行動の検知の条件となる分散の値は比較的に大きな値の範囲で設定される。
(3)前景領域の不利用
上記実施形態では、制御部11(情報処理装置1)は、ステップS102で抽出される前景領域を利用して見守り対象者の行動を検知する。しかしながら、見守り対象者の行動を検知する方法は、このような前景領域を利用した方法に限定されなくてもよく、実施の形態に応じて適宜選択されてもよい。
見守り対象者の行動を検知する際に前景領域を利用しない場合、制御部11は、上記ステップS102の処理を省略してもよい。そして、制御部11は、行動検知部23として機能し、撮影画像3内の各画素の深度に基づいて、ベッド基準面と見守り対象者との実空間内での位置関係が所定の条件を満たすか否かを判定することで、見守り対象者のベッドに関連する行動を検知してもよい。この例として、例えば、制御部11は、ステップS103の処理として、パターン検出、図形要素検出等によって撮影画像3を解析して見守り対象者に関連する像を特定してもよい。この見守り対象者に関連する像は、見守り対象者の全身の像であってもよいし、頭部、肩部等の1又は複数の身体部位の像であってもよい。そして、制御部11は、特定した見守り対象者に関連する像とベッドとの実空間内での位置関係に基づいて、見守り対象者のベッドに関連する行動を検知してもよい。
なお、上記のとおり、前景領域を抽出するための処理は、撮影画像3と背景画像との差分を計算する処理に過ぎない。そのため、上記実施形態のように前景領域を利用して見守り対象者の行動を検知する場合、制御部11(情報処理装置1)は、高度な画像処理を利用せずに、見守り対象者の行動を検知することができるようになる。これにより、見守り対象者の行動の検知に係る処理を高速化することが可能になる。
1…情報処理装置、2…カメラ、3…撮影画像、4…ナースコールシステム、
5…プログラム、6…記憶媒体、8…深度センサ、9…加速度センサ、
11…制御部、12…記憶部、13…タッチパネルディスプレイ、
14…スピーカ、15…外部インタフェース、16…通信インタフェース、
17…ドライブ
21…画像取得部、22…前景抽出部、23…行動検知部、24…異常判定部、
25…通知部、26…表示制御部

Claims (12)

  1. 見守り対象者のベッドにおける行動を見守るために設置され、被写体の深度を測定するための深度センサを含む撮影装置、によって撮影された撮影画像であって、当該深度センサにより測定される当該撮影画像内の各画素の深度を示す深度情報を含む撮影画像、を取得する画像取得部と、
    前記深度情報により示される前記撮影画像内の各画素の深度に基づいて、前記見守り対象者と前記ベッドの領域との実空間内での位置関係が所定の条件を満たすか否かを判定することで、前記見守り対象者の前記ベッドに関連する行動を検知する行動検知部と、
    前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定する異常判定部と、
    前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う通知部と、
    を備える、
    情報処理装置。
  2. 前記異常判定部は、前記ベッドの領域について所定の割合を超えて深度が取得できない場合に、前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態であると判定する、
    請求項1に記載の情報処理装置。
  3. 前記撮影画像の背景として設定された背景画像と前記撮影画像との差分から前記撮影画像の前景領域を抽出する前景抽出部を更に備え、
    前記行動検知部は、前記前景領域内の各画素の深度に基づいて特定される前記前景領域の写る対象の実空間内での位置を前記見守り対象者の位置として利用し、前記見守り対象者と前記ベッドの領域との実空間内での位置関係が所定の条件を満たすか否かを判定することで、前記見守り対象者の前記ベッドに関連する行動を検知する、
    請求項1又は2に記載の情報処理装置。
  4. 前記撮影装置は加速度センサを更に含み、
    前記異常判定部は、前記加速度センサに基づいて前記撮影装置の衝撃を検出した後に、当該衝撃前の撮影画像と当該衝撃後の撮影画像とを比較することによって、前記撮影装置の撮影範囲に一定以上のずれが生じたか否かを判定し、
    前記通知部は、前記撮影装置の撮影範囲に一定以上のずれが生じたと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う、
    請求項1から3のいずれか1項に記載の情報処理装置。
  5. 前記情報処理装置は、前記見守り対象者の見守りを行う者を呼び出すためのナースコールシステムに接続され、
    前記通知部は、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知として、前記ナースコールシステムによる呼び出しを行う、
    請求項1から4のいずれか1項に記載の情報処理装置。
  6. 前記情報処理装置は、音声を出力するための音声出力装置に接続され、
    前記通知部は、前記ナースコールシステムによる呼び出しができない場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知として、当該ナースコールシステムによる呼び出しに代えて、前記音声出力装置に所定音声の出力を行わせる、
    請求項5に記載の情報処理装置。
  7. 前記情報処理装置は、画面表示を行うための表示装置に接続され、
    前記通知部は、前記ナースコールシステムによる呼び出しができない場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知として、当該ナースコールシステムによる呼び出しに代えて、前記表示装置に所定態様の画面表示を行わせる、
    請求項5又は6に記載の情報処理装置。
  8. 前記異常判定部は、前記情報処理装置が前記撮影装置を認識できているか否かを判定し、
    前記通知部は、前記情報処理装置が前記撮影装置を認識できていないと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う、
    請求項1から7のいずれか1項に記載の情報処理装置。
  9. 前記異常判定部は、前記行動検知部による前記見守り対象者の行動の検知が一定時間以上実行されていないどうかを判定し、
    前記通知部は、前記行動検知部による前記見守り対象者の行動の検知が一定時間以上実行されていないと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行う、
    請求項1から8のいずれか1項に記載の情報処理装置。
  10. 前記撮像装置に含まれる深度センサは、赤外線の照射に基づいて深度を測定する赤外線深度センサである、
    請求項1から9のいずれか1項に記載の情報処理装置。
  11. コンピュータが、
    見守り対象者のベッドにおける行動を見守るために設置され、被写体の深度を測定するための深度センサを含む撮影装置、によって撮影された撮影画像であって、当該深度センサにより測定される当該撮影画像内の各画素の深度を示す深度情報を含む撮影画像、を取得するステップと、
    前記深度情報により示される前記撮影画像内の各画素の深度に基づいて、前記見守り対象者と前記ベッドの領域との実空間内での位置関係が所定の条件を満たすか否かを判定することで、前記見守り対象者の前記ベッドに関連する行動を検知するステップと、
    前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定するステップと、
    前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行うステップと、
    を実行する情報処理方法。
  12. コンピュータに、
    見守り対象者のベッドにおける行動を見守るために設置され、被写体の深度を測定するための深度センサを含む撮影装置、によって撮影された撮影画像であって、当該深度センサにより測定される当該撮影画像内の各画素の深度を示す深度情報を含む撮影画像、を取得するステップと、
    前記深度情報により示される前記撮影画像内の各画素の深度に基づいて、前記見守り対象者と前記ベッドの領域との実空間内での位置関係が所定の条件を満たすか否かを判定することで、前記見守り対象者の前記ベッドに関連する行動を検知するステップと、
    前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したかどうかを判定するステップと、
    前記深度センサによって前記撮影画像内の各画素の深度を取得できない状態が一定時間以上継続したと判定される場合に、前記見守り対象者の見守りが正常にできていない可能性のあることを知らせるための通知を行うステップと、
    を実行させるためのプログラム。
JP2015560920A 2014-02-07 2015-01-22 情報処理装置、情報処理方法、及び、プログラム Active JP6500785B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014021822 2014-02-07
JP2014021822 2014-02-07
PCT/JP2015/051631 WO2015118953A1 (ja) 2014-02-07 2015-01-22 情報処理装置、情報処理方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JPWO2015118953A1 true JPWO2015118953A1 (ja) 2017-03-23
JP6500785B2 JP6500785B2 (ja) 2019-04-17

Family

ID=53777760

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015560920A Active JP6500785B2 (ja) 2014-02-07 2015-01-22 情報処理装置、情報処理方法、及び、プログラム

Country Status (4)

Country Link
US (1) US20160345871A1 (ja)
JP (1) JP6500785B2 (ja)
CN (1) CN105960664A (ja)
WO (1) WO2015118953A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9852546B2 (en) 2015-01-28 2017-12-26 CCP hf. Method and system for receiving gesture input via virtual control objects
US10726625B2 (en) 2015-01-28 2020-07-28 CCP hf. Method and system for improving the transmission and processing of data regarding a multi-user virtual environment
US10725297B2 (en) * 2015-01-28 2020-07-28 CCP hf. Method and system for implementing a virtual representation of a physical environment using a virtual reality environment
JP6804220B2 (ja) * 2016-05-27 2020-12-23 ヒースト株式会社 離床検出装置
WO2018012432A1 (ja) * 2016-07-12 2018-01-18 コニカミノルタ株式会社 行動判定装置及び行動判定方法
JP6406371B2 (ja) * 2017-03-02 2018-10-17 オムロン株式会社 見守り支援システム及びその制御方法
JP2019074806A (ja) * 2017-10-12 2019-05-16 株式会社日立エルジーデータストレージ 生活リズム測定システム及び生活リズム測定方法
CN108652625B (zh) * 2018-02-05 2021-07-16 苏州朗润医疗系统有限公司 一种用于保障磁共振扫描安全的图像识别方法及系统
JP2019217103A (ja) * 2018-06-21 2019-12-26 ノーリツプレシジョン株式会社 介助システム、介助方法及び介助プログラム
CN109043962A (zh) * 2018-09-05 2018-12-21 魏龙亮 一种各部位温度可调的石墨烯加热床垫及其温控方法
CN111096752A (zh) * 2018-10-26 2020-05-05 由昉信息科技(上海)有限公司 一种运用于医疗照护领域的感测及警示系统及方法
CN111419584B (zh) * 2020-04-13 2021-05-07 南京林业大学 一种智能养老康复护理床

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008110215A (ja) * 2007-11-15 2008-05-15 Sumitomo Osaka Cement Co Ltd 監視装置
WO2009029996A1 (en) * 2007-09-05 2009-03-12 Conseng Pty Ltd Patient monitoring system
JP2009175840A (ja) * 2008-01-22 2009-08-06 Atsumi Electric Co Ltd ビームセンサ
JP2010272065A (ja) * 2009-05-25 2010-12-02 Sony Corp センサ端末、センサ端末の異常判断情報送信方法、コントローラおよびコントローラのセンサ異常判断方法
JP2012070223A (ja) * 2010-09-24 2012-04-05 Mega Chips Corp 監視カメラ、監視システムおよび監視方法
JP2012073832A (ja) * 2010-09-29 2012-04-12 Secom Co Ltd 警備システム
JP2012090235A (ja) * 2010-10-22 2012-05-10 Mitsubishi Electric Building Techno Service Co Ltd 映像監視システム
JP2013078433A (ja) * 2011-10-03 2013-05-02 Panasonic Corp 監視装置、プログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9579047B2 (en) * 2013-03-15 2017-02-28 Careview Communications, Inc. Systems and methods for dynamically identifying a patient support surface and patient monitoring
US9785744B2 (en) * 2010-09-14 2017-10-10 General Electric Company System and method for protocol adherence
CN102610054A (zh) * 2011-01-19 2012-07-25 上海弘视通信技术有限公司 基于视频的起身检测系统
US9235977B2 (en) * 2011-02-22 2016-01-12 Richard Deutsch Systems and methods for monitoring caregiver and patient protocol compliance
JP5325251B2 (ja) * 2011-03-28 2013-10-23 株式会社日立製作所 カメラ設置支援方法、画像認識方法
CN103150736A (zh) * 2012-11-16 2013-06-12 佳都新太科技股份有限公司 一种基于视频监控的摄像机移动检测方法
US20140140590A1 (en) * 2012-11-21 2014-05-22 Microsoft Corporation Trends and rules compliance with depth video

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009029996A1 (en) * 2007-09-05 2009-03-12 Conseng Pty Ltd Patient monitoring system
JP2008110215A (ja) * 2007-11-15 2008-05-15 Sumitomo Osaka Cement Co Ltd 監視装置
JP2009175840A (ja) * 2008-01-22 2009-08-06 Atsumi Electric Co Ltd ビームセンサ
JP2010272065A (ja) * 2009-05-25 2010-12-02 Sony Corp センサ端末、センサ端末の異常判断情報送信方法、コントローラおよびコントローラのセンサ異常判断方法
JP2012070223A (ja) * 2010-09-24 2012-04-05 Mega Chips Corp 監視カメラ、監視システムおよび監視方法
JP2012073832A (ja) * 2010-09-29 2012-04-12 Secom Co Ltd 警備システム
JP2012090235A (ja) * 2010-10-22 2012-05-10 Mitsubishi Electric Building Techno Service Co Ltd 映像監視システム
JP2013078433A (ja) * 2011-10-03 2013-05-02 Panasonic Corp 監視装置、プログラム

Also Published As

Publication number Publication date
CN105960664A (zh) 2016-09-21
JP6500785B2 (ja) 2019-04-17
US20160345871A1 (en) 2016-12-01
WO2015118953A1 (ja) 2015-08-13

Similar Documents

Publication Publication Date Title
WO2015118953A1 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6167563B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6171415B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6115335B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
WO2015133195A1 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6432592B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6780641B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP6489117B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
WO2016151966A1 (ja) 乳幼児監視装置、乳幼児監視方法、及び、乳幼児監視プログラム
JP6504156B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6708980B2 (ja) 画像処理システム、画像処理装置、画像処理方法、および画像処理プログラム
JP6607253B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP6822326B2 (ja) 見守り支援システム及びその制御方法
JP6645503B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP6737262B2 (ja) 異常状態検知装置、異常状態検知方法、及び、異常状態検知プログラム
WO2019013105A1 (ja) 見守り支援システム及びその制御方法
JP5870230B1 (ja) 見守り装置、見守り方法および見守りプログラム
JP6606912B2 (ja) 浴室異常検知装置、浴室異常検知方法、及び浴室異常検知プログラム
JP6565468B2 (ja) 呼吸検知装置、呼吸検知方法、及び呼吸検知プログラム

Legal Events

Date Code Title Description
AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20161025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161026

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190304

R150 Certificate of patent or registration of utility model

Ref document number: 6500785

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250