JP7356849B2 - 見守りシステム、見守り方法及び記憶媒体 - Google Patents

見守りシステム、見守り方法及び記憶媒体 Download PDF

Info

Publication number
JP7356849B2
JP7356849B2 JP2019167025A JP2019167025A JP7356849B2 JP 7356849 B2 JP7356849 B2 JP 7356849B2 JP 2019167025 A JP2019167025 A JP 2019167025A JP 2019167025 A JP2019167025 A JP 2019167025A JP 7356849 B2 JP7356849 B2 JP 7356849B2
Authority
JP
Japan
Prior art keywords
trunk
center
fall
monitoring system
alarm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019167025A
Other languages
English (en)
Other versions
JP2021043850A (ja
Inventor
佑人 小松
洋和 敦森
司 舟根
亜希子 小幡
明彦 神鳥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2019167025A priority Critical patent/JP7356849B2/ja
Priority to US16/988,099 priority patent/US11244552B2/en
Publication of JP2021043850A publication Critical patent/JP2021043850A/ja
Application granted granted Critical
Publication of JP7356849B2 publication Critical patent/JP7356849B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0407Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis
    • G08B21/043Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis detecting an emergency event, e.g. a fall
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1116Determining posture transitions
    • A61B5/1117Fall detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6889Rooms
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0438Sensor means for detecting
    • G08B21/0476Cameras to detect unsafe condition, e.g. video cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1113Local tracking of patients, e.g. in a hospital or private home
    • A61B5/1114Tracking parts of the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1113Local tracking of patients, e.g. in a hospital or private home
    • A61B5/1115Monitoring leaving of a patient support, e.g. a bed or a wheelchair

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Physiology (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Gerontology & Geriatric Medicine (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • Psychology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Multimedia (AREA)
  • Emergency Alarm Devices (AREA)
  • Alarm Systems (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、人体の転倒の予兆を検出する見守りシステムと見守り方法に関する。
人体の動きを観察して特定の動きを検出する装置としては、特許文献1や特許文献2が知られている。特許文献1には、歩行時の膝関節の高さと、大腿部の振り上げ角速度からなる脚データと、段差情報の時系列データから段差において躓きによる転倒を予測するシステムが開示されている。
特許文献2には、重心動揺計を用いたクロステストによって、姿勢の安定性を評価する指標と、クロステスト時の姿勢情報から転倒を予測する装置が開示されている。
特開2015-164477号公報 特開2017-176244号公報
上記従来技術では、被験者に位置センサや加速度センサを装着したり重心動揺計を用いて、歩行中の転倒を予測しているが、歩行以外の転倒を検知又は予測することはできない。
例えば、姿勢保持が困難な症状のある場合には、歩行中以外でも転倒する場合があり、通常歩行時の転倒のパターンとは異なる場合が多く、学習用データの収集が極めて困難である。姿勢保持が困難な症状がある場合、ベッドで着座している状態から側方等へ転倒する場合があるが、上記従来技術では、着座姿勢からの転倒や転倒の予兆を予測することはできない、という問題があった。
そこで本発明は、上記問題点に鑑みてなされたもので、着座姿勢を含んで人体の転倒の予兆を検出することを目的とする。
本発明は、プロセッサとメモリを有する計算機で、被撮影者が転倒する転倒確率を算出する見守りシステムであって、 前記被撮影者の時系列の骨格情報を受け付けて、前記骨格情報に基づいて前記被撮影者の頭部と腰の角度を算出し、前記角度を前記被撮影者の体幹として抽出し、予め設定された体幹情報に基づいて体幹の中心を体幹中心として算出し、前記時系列の骨格情報から算出した時系列の体幹から基準となる体幹を基準体幹として抽出し、当該基準体幹の中心を第1の体幹中心とし、前記被撮影者が移動又は転倒中の体幹の中心を第2の体幹中心として保持する体幹抽出部と、前記基準体幹の第1の体幹中心と、前記第2の体幹中心の距離をずれ量として算出し、前記ずれ量から前記転倒確率を算出する転倒確率算出部と、を有する。
したがって、本発明は、人体の体幹の変化から、着座姿勢を含んで転倒の予兆検知を高精度で行うことが可能となる。
本明細書において開示される主題の、少なくとも一つの実施の詳細は、添付されている図面と以下の記述の中で述べられる。開示される主題のその他の特徴、態様、効果は、以下の開示、図面、請求項により明らかにされる。
本発明の実施例1を示し、見守りシステムの構成の一例を示す図である。 本発明の実施例1を示し、計算機の構成の一例を示すブロック図である。 本発明の実施例1を示し、居室内の空間の一例を示す斜視図である。 本発明の実施例1を示し、着座姿勢の体幹の一例を示す図である。 本発明の実施例1を示し、計算機で行われる処理の一例を示すフローチャートである。 本発明の実施例1を示し、着座姿勢の基準の体幹と、転倒中の体幹の一例を示す図である。 本発明の実施例1を示し、体幹中心のずれ量と、転倒確率の一例を示すグラフである。 本発明の実施例1を示し、体幹の補正画像の一例を示す図である。 本発明の実施例2を示し、見守りシステムの一例を示す図である。 本発明の実施例3を示し、歩行中の転倒の予兆を検出する見守りシステムの一例を示す図である。
以下、本発明の実施形態を添付図面に基づいて説明する。
図1は、本発明の実施例1を示し、見守りシステムの構成の一例を示す図である。本実施例では、姿勢保持が困難な症状や機能障害のある人を見守る見守りシステムの一例を示す。
図示の居室30は平面図を示し、居室30内には対象者40が使用するベッド31が設置され、居室30内の四隅には対象者40を撮影するカメラ34-1~34-4が設置される。ベッド31の長辺と対向するカメラ34-1と34-2との間にはモニタ33が設置される。なお、以下の説明では、カメラを個々に特定しない場合では、「-」以降を省略した符号「34」を使用する。他の構成要素の符号についても同様である。
モニタ33とカメラ34-1の間にはライト35-Lが設置され、モニタ33とカメラ34-2の間にはライト35-Rが設置される。モニタ33と各カメラ34及びライト35はネットワーク36を介して計算機10に接続される。
計算機10は、カメラ34の動画を取得して対象者40の状態を検出し、対象者40の転倒の予兆を検出した場合には、モニタ33に所定の画像を表示し、ライト35を後述するように点灯させる。なお、ベッド31上に配置されたクッション32は、対象者40が転倒した際の衝撃を緩衝する。
なお、図中の対象者40は、モニタ33に対向してベッド31に着座している状態を示す。また、本実施例では、4台のカメラ34で対象者40を撮影する例を示すが、転倒の予兆を検出可能な台数であればよく、1台のカメラ34で撮影することも可能である。
図2は、計算機10の構成の一例を示すブロック図である。計算機10は、プロセッサ11と、メモリ12と、入力装置13と、出力装置14と、通信装置15及びストレージ装置16を含む。
メモリ12には、見守りプログラム20がロードされてプロセッサ11によって実行される。見守りプログラム20は、画像処理部21と、体幹抽出部22と、転倒確率算出部23と、警報発生部24を含む。
画像処理部21は、4台のカメラ34から動画をそれぞれ取得して、画像(フレーム)の時系列を揃えて体幹抽出部22へ出力する。体幹抽出部22は、カメラ34の画像から対象者40の体幹と体幹中心を後述するように算出し、体幹中心のずれ量Dと、体幹中心の加速度αと、体幹の角度βを後述するように算出する。
転倒確率算出部23は、体幹抽出部22が算出した体幹中心のずれ量Dと、加速度αと、体幹の角度βから対象者40の転倒確率Pを後述するように算出する。
画像処理部21と、体幹抽出部22と、転倒確率算出部23と、警報発生部24の各機能部はプログラムとしてメモリ12にロードされる。
プロセッサ11は、各機能部のプログラムに従って処理を実行することによって、所定の機能を提供する機能部として稼働する。例えば、プロセッサ11は、画像処理プログラムに従って処理を実行することで画像処理部21として機能する。他のプログラムについても同様である。さらに、プロセッサ11は、各プログラムが実行する複数の処理のそれぞれの機能を提供する機能部としても稼働する。計算機及び計算機システムは、これらの機能部を含む装置及びシステムである。
入力装置13は、キーボードやマウスあるいはタッチパネル等で構成される。出力装置14は、例えば、ディスプレイなどで構成される。通信装置15は、ネットワーク36に接続されて、居室30内の機器と通信を行う。
ストレージ装置16には、対象者40の体幹情報110を管理する体幹データベース100が格納される。体幹情報110は、対象者40毎に予め設定された体幹中心の位置情報と、対象者40の識別子が保持される。
図3は、居室30内の対象者40の一例を示す斜視図である。ベッド31は、背部や脚部の高さを調整可能なギャッジアップベッド等を採用することができる。
カメラ34は、居室30内の四隅の所定の高さからベッド31の中央に向けて設置され、対象者40の画像を所定のフレームレート(例えば、30fps)で撮影する。また、対象者40の転倒方向を算出するため、ベッド31の長手方向をX軸とし、ベッド31の幅方向をY軸とし、居室30の鉛直方向をZ軸とする。
図4は、着座姿勢の対象者40の体幹の一例を示す図である。体幹抽出部22は、カメラ34の画像から体幹43と、脚部42と、腕部45と、体幹中心50を算出する。体幹抽出部22は、カメラ34の画像から、頭部中心41と、腰部中心44を算出し、頭部中心41と腰部中心44を結ぶ体幹43の角度を算出する。なお、角度は、予め設定した基準の軸(例えば、Z軸)に対する角度として算出する。
カメラ34の画像から頭部中心41と、腰部中心44と、脚部42と、腕部45を算出する手法としては、例えば、特開2019-66238号公報や特開2019-96328号公報等の公知又は周知の技術を用いて骨格や関節を抽出すればよい。以下では、画像より推定された骨格位置、関節位置の情報のことを単に骨格、関節などと呼ぶ。
体幹抽出部22は、カメラ34の画像から推定及び抽出した骨盤の中心を腰部中心44とし、カメラ34の画像から抽出した頭部の中心を頭部中心41とする。体幹抽出部22は、脚部42や腕部45を、カメラ34の画像から抽出した骨格や関節を結ぶ直線の角度を算出する。
体幹抽出部22は、体幹43や脚部42等の角度を算出する。この角度は、各カメラ34の画像から対象者40の正面の画像を合成し、正面の画像内の角度として算出することができる。あるいは、図3に示したX、Y、Zの3次元空間の線分の角度を用いてもよい。
体幹抽出部22は、体幹データベース100の体幹情報110を参照して対象者40毎に予め設定された体幹中心50の位置を取得する。体幹中心50の位置は、例えば、腰部中心44から頭部中心41までの距離の比率で設定する。
例えば、腰部中心44から頭部中心41までの距離の30%の位置を体幹中心50の位置とする。体幹中心50の位置(比率)は、対象者40毎の個人差などを考慮して、専門家などが予め設定して体幹データベース100の体幹情報110へ登録しておく。
なお、本実施例では、転倒の予兆を高精度で検出するため、体幹中心50の位置(比率)を対象者40毎に設定しておく例を示すが、高精度が要求されない場合には、固定値を用いてもよい。
体幹抽出部22は、時系列で算出される体幹43から決定した基準体幹43Sと当該基準体幹43Sの体幹中心50を基準として保持する。
図5は、計算機10で行われる処理の一例を示すフローチャートである。計算機10の見守りプログラム20は、まず、画像処理部21がカメラ34から対象者40の画像を取得する(S1)。
次に、体幹抽出部22は、対象者40の画像から骨格を抽出し、図4で示したように、頭部中心41と腰部中心44及び脚部42を算出する(S2)。体幹抽出部22は、体幹データベース100の体幹情報110を参照して、対象者40の体幹中心の位置を取得する。体幹抽出部22は、頭部中心41と腰部中心44を結ぶ直線の角度を体幹43として算出し、体幹情報110の体幹中心の位置から体幹中心50を算出する(S3)。
次に、体幹抽出部22は、基準となる体幹を決定する。基準となる体幹は、例えば、図3に示したZ軸と体幹43がなす角度が所定の角度(例えば、20度)以内の体幹43を、基準の体幹(基準体幹43S)とする(S4)。
体幹43はカメラ34のフレームレートに応じた時系列で算出され、基準体幹43Sは時系列の体幹43のうち、所定の角度以内という上記条件を満たし、かつ、今回算出された体幹の撮影時刻から直近の撮影時刻の体幹43である。
体幹抽出部22は、基準体幹43Sのフレームの撮影時刻を記憶する。体幹抽出部22は、今回算出した体幹43が基準体幹43Sであれば、フレームの撮影時刻を更新する。
体幹抽出部22は、基準体幹43Sの体幹中心50から、今回の体幹中心50の座標までのずれ量Dを算出する(S5)。ずれ量Dは、図6で示すように基準体幹43Sの体幹中心50の座標から今回の体幹中心50-Rの座標の差分(距離)で表すことができる。なお、ずれ量Dは距離を用いてもよいし、2次元で表現する場合にはフレーム間の画素数を用いることができる。
なお、図6は、図3に示した対象者40が、図中右側(対象者40は左側)へ転倒する様子を、図1のモニタ33の位置から観察した様子を示す。図6において、転倒中の対象者40の体幹を43-R、頭部中心を41-R、体幹中心を50-Rの符号で示す。
また、体幹抽出部22は、座標の差分から体幹中心50の移動方向(転倒方向)を算出する。移動方向は、例えば、対象者40の正面を0度として、左側への転倒では転倒方向を90度とし、右側への転倒では転倒方向を-90度とすることができる。また、体幹抽出部22は、ずれ量Dが0又は0近傍の場合は、転倒方向が無いことを示す所定値(例えば、ヌル値)とする。
次に、ステップS6では、体幹抽出部22が、今回の体幹中心50の加速度αを、基準体幹43Sの撮影時刻と今回の体幹43の撮影時刻とずれ量Dと、前回の速度と前回の体幹43の撮影時刻から算出する。
次に、体幹抽出部22は、今回の体幹43-Rと基準体幹43Sがなす角度β(図6参照)と、基準体幹43Sの脚部42と今回の体幹43の脚部42がなす角度γ(図6参照)を算出する(S7)。
ステップS8では、ずれ量Dが所定の閾値ThD以上であるか否かを判定し、閾値ThD以上であればステップS12へ進み、閾値ThD未満であればステップS9へ進む。閾値ThDは、体幹中心50のずれ量が転倒の予兆を示す値などに予め設定される。
ステップS9では、加速度αが所定の閾値Thα以上であるか否かを判定し、閾値Thα以上であればステップS12へ進み、閾値Thα未満であればステップS10へ進む。閾値Thαは、体幹中心50の加速度が転倒の予兆を示す値などに予め設定される。
ステップS10では、体幹43の角度βが所定の閾値Thβ以上であるか否かを判定し、閾値Thβ以上であればステップS12へ進み、閾値Thβ未満であればステップS10へ進む。閾値Thβは、体幹43の角度が転倒の予兆を示す値などに予め設定される。
ステップS11では、脚部42の角度γが所定の閾値Thγ以上であるか否かを判定し、閾値Thγ以上であればステップS12へ進み、閾値Thγ未満であればステップS1へ戻って上記処理を繰り返す。閾値Thγは、脚部42の角度が転倒の予兆を示す値などに予め設定される。
ステップS12では、転倒確率算出部23が、ずれ量Dなどに基づいて転倒確率Pを算出する。転倒確率Pは、図7で示すように、体幹中心50のずれ量Dから算出することができる。図7の例では、
転倒確率P=f1(D)
で表すことができる。なお、f1は、ずれ量Dから転倒確率Pを算出する所定の関数である。
本実施例では、ずれ量Dに加えて、体幹中心50の加速度αと、体幹43の角度βと、脚部42の角度γから転倒確率Pを算出する。転倒確率Pは、
転倒確率P=f2((D×w1)+(α×w2)+(β×w3)+(γ×w4))
で表すことができる。なお、f2は、ずれ量Dと加速度αと角度β、γから転倒確率Pを算出する所定の関数である。また、w1はずれ量Dの重み係数を示し、w2は加速度αの重み係数を示し、w3は角度βの重み係数を示し、w4は角度γの重み係数を示す。
次に、転倒確率算出部23は、上記ステップS5で算出された転倒方向を取得し(S13)、転倒方向の有無を判定する(S14)。転倒確率算出部23は、転倒方向が所定値(ヌル値)以外であれば転倒方向が確定しているのでステップS15へ進み、そうでない場合にはステップS19へ進む。
ステップS15では、警報発生部24が、転倒確率Pと所定の閾値ThPを比較して、転倒確率Pが閾値ThP以上であれば、転倒の予兆があると判定してステップS16へ進み、転倒確率Pが閾値ThP未満であればステップS19へ進む。
ステップS16では、警報発生部24が、対象者40の転倒の予兆を検出したので、対象者40に対して姿勢(体幹)を補正する方向を示す画像を体幹補正画像として生成して居室30のモニタ33へ送信する。
図8は、体幹の補正画像の一例を示す図である。図8は、対象者40が図3の状態から左側へ転倒しそうな場合を示す。対象者40に対向して設置されたモニタ33の画面330には、対象者40の現在の画像と、基準体幹43Sを生成したフレームから取得した対象者のシルエットを体幹補正画像400として表示される。さらに、対象者40の現在の画像から体幹補正画像400の間には、体幹を移動すべき方向が矢印410で表示される。
なお、モニタ33の画面330は、対象者40から観察した場合の鏡像で構成される。すなわち、対象者40が図3の状態から左側へ転倒しそうな場合は、対象者40の現在の画像は、画面330上で左側に傾いて表示される。そして、画面330の矢印410は、対象者40から観察した場合に右側へ体を移動させるように表示される。
次に、ステップS17では、警報発生部24が居室30のライト35-Lを転倒させる。ライト35-Lは、対象者40から見て右側に設置されており、現在、左側へ転倒しそうな対象者40に対して右側へ注意を引かせる。警報発生部24は、対象者40が転倒しそうな方向とは逆方向に設置されたライトを所定時間まで点灯させることにより、対象者40に対して右側へ体幹を移動させれば転倒を回避できることを通知する。なお、警報発生部24は、ライト35-Lを所定時間まで点滅させてもよい。
なお、本実施例では、モニタ33の両側に設置したライト35を点灯させる例を示したが、これに限定されるものではない。例えば、モニタ33の両側又はベッド31の長辺の両端にスピーカ(図示省略)を設置して、転倒方向とは反対側のスピーカから音声を出力するようにしてもよい。また、光や音響等の警報装置による警報に代わって、振動で体幹を移動させる方向を指示するようにしてもよい。また、対象者40に警報を通知する警報装置は、対象者40の周囲に複数配置して、転倒方向とは逆方向の警報装置から警報を発生させればよい。
次に、警報発生部24は、居室30の対象者40に転倒の予兆が発生したことを示す警報を出力装置14に出力して、医療機関の担当者に転倒の予兆を通知する。
一方、ステップS14、S15の判定で、転倒方向が無く、又は、転倒確率Pが閾値ThP未満の場合のステップS19では、警報発生部24が、家具やベッド31の高さや位置を調整するメッセージを出力装置14に出力する。そして、ステップS20では、警報発生部24がクッション32の設置を促すメッセージを出力装置14に出力する。そして、見守りプログラム20は、ステップS1へ戻って上記処理を繰り返す。
以上の処理によって、本実施例の見守りシステムでは、人体を撮影した動画から人体の体幹の変化を抽出し、着座姿勢を含んで転倒の予兆検知を高精度で行うことが可能となる。
なお、本実施例では、姿勢保持が困難な症状のある人(対象者40)を対象として転倒の予兆を検出する例を示したが、一般に、ヒトに対して転倒の予兆の検出を実施してもよい。
また、本実施例では、カメラ34の動画から骨格を抽出して対象者40の転倒確率Pを算出する例を示したが、これに限定されるものではない。例えば、カメラ34の動画を取得する映像処理サーバと、映像処理サーバから動画を取得して対象者40(被撮影者)の骨格を抽出する骨格抽出サーバを独立して稼働させ、本実施例の計算機10が骨格抽出サーバから時系列的な骨格情報を受け付けて、被撮影者の転倒確率Pを算出してもよい。なお、時系列的な骨格情報は、骨格情報を抽出した画像を撮影した時刻を含む情報であればよい。
図9は、本発明の実施例2を示し、見守りシステムの構成の一例を示す図である。本実施例の見守りシステムは、多数の居室30の対象者40をモニタする例を示す。各居室内の構成は前記実施例1と同様である。
計算機10は、ネットワーク36を介して多数の居室30のカメラ34等に接続され、各居室30のカメラ34の画像(動画)を取得して、前記実施例1と同様に転倒確率Pを算出する。
計算機10は、各居室30のカメラ34の画像を出力装置14の画面140に表示する。本実施例では、計算機10が転倒確率Pの大きさに応じて、画面140に表示する居室30のウィンドウのサイズを変更する。
計算機10は、居室30内の対象者40毎の転倒確率Pの値が所定の閾値ThP1未満であれば、転倒の予兆は無いので当該居室30内の画像は最も小さなウィンドウ141で表示する。
計算機10は、居室30内の対象者40毎の転倒確率Pの値が所定の閾値ThP2以上であれば、転倒が発生していると判定して当該居室30内の画像は最も大きなウィンドウ142で表示する。なお、閾値の関係は、閾値ThP1<閾値ThP2である。
計算機10は、居室30内の対象者40毎の転倒確率Pの値が所定の閾値ThP1以上、かつ所定の閾値ThP2未満であれば、対象者40に転倒の予兆が発生しているので、当該居室30内の画像は中程度のサイズのウィンドウ143で表示する。
転倒が発生しているウィンドウ142と、転倒の予兆が発生しているウィンドウ143には、警告文と居室名を表示することで、医療機関の担当者に異常が発生している居室30を通知することができる。
以上のように、本実施例の見守りシステムでは、計算機10で多数の居室30の対象者40をモニタする際に、画面140内では居室30毎にウィンドウを表示し、転倒の予兆が発生していない居室30の画像を最小のサイズのウィンドウ141で表示し、転倒の予兆が発生している居室30の画像を中程度のサイズのウィンドウ143で表示し、転倒が発生している居室30の画像を最大のサイズのウィンドウ142で表示する。本実施例では、画面140を監視する医療機関の担当者に、異常が発生している居室30を的確に把握させることができる。
図10は、本発明の実施例3を示し、見守りシステムが歩行者を監視する例を示す図である。本実施例では、通路などにカメラ34を設置して、通路を通過する歩行者の転倒の予兆を検出する例を示す。
見守りシステムの構成は、前記実施例1のモニタ33とライト35を削除した構成とすればよい。また、本実施例では、不特定多数の歩行者を監視する場合には、体幹中心50の位置(比率)は、予め設定した固定値を用いる。
図10は、計算機10の出力装置14の画面200の一例を示す。画面200は、転倒の予兆が発生していない歩行者の画像が表示され、画面200の右側には転倒確率Pを示すバー210が表示される。
バー210は、転倒確率Pが増大するにつれて着色された領域が図中上方へ伸びるように構成される。例えば、画面200Aのように、転倒確率Pが転倒の予兆を示す場合(閾値ThP1以上)は、バー210の着色領域が上方へ伸びて、歩行者の画像に加えて、警告文とカメラ34の位置が表示される。
さらに、転倒確率Pが増大して閾値ThP2以上になると、画面200Bのように、バー210は着色領域となり、計算機10は歩行者に転倒が発生したと判定して、歩行者の画像に加えて、警告文とカメラ34の位置が表示される。
このように、本実施例の見守りシステムは、体幹の変化から転倒の予兆を検出することができるので、姿勢保持が困難な症状のある人に限らず、一般に、ヒトの歩行などを監視することができる。
<結び>
以上のように、上記実施例1~3の見守りシステムは、以下のような構成とすることができる。
(1)プロセッサ(11)とメモリ(12)を有する計算機(10)で、被撮影者(対象者40)が転倒する転倒確率(P)を算出する見守りシステムであって、前記被撮影者(40)の時系列の骨格情報を受け付けて、前記骨格情報に基づいて前記被撮影者(40)の頭部(頭部中心41)と腰(腰部中心44)の角度を算出し、前記角度を前記被撮影者(40)の体幹(43)として抽出し、予め設定された体幹情報(110)に基づいて体幹(43)の中心を体幹中心(50)として算出し、前記時系列の骨格情報から算出した時系列の体幹(43)から基準となる体幹(43)を基準体幹(43S)として抽出し、当該基準体幹(43S)の中心を保持する体幹抽出部(22)と、前記基準体幹(43S)の体幹中心(50)と、前記体幹(43)の体幹中心(50)の距離をずれ量(D)として算出し、前記ずれ量(D)から前記転倒確率(P)を算出する転倒確率算出部(23)と、を有する。
上記構成により、計算機10は、基準体幹43Sの体幹中心50と、前記体幹43の体幹中心50の距離をずれ量Dとして算出し、前記ずれ量Dの値に応じて転倒確率Pを算出することができ、人体(被撮影者)の体幹の変化から、着座姿勢を含んで転倒の予兆検知を高精度で行うことが可能となる。
(2)上記(1)に記載の見守りシステムであって、前記体幹抽出部(22)は、前記時系列の体幹(43)から時系列の体幹中心(50)を算出し、時系列の体幹中心(50)から当該体幹中心(50)の加速度(α)を算出し、前記転倒確率算出部(23)は、前記体幹中心(50)のずれ量(D)と前記加速度(α)から前記転倒確率(P)を算出する。
上記構成により、体幹中心50のずれ量Dに加えて体幹中心50の加速度αから転倒確率Pを算出することで、人体(被撮影者)の体幹の変化(ずれ量Dと加速度α)から、着座姿勢を含んで転倒の予兆検知を高精度で行うことが可能となる。
(3)上記(2)に記載の見守りシステムであって、前記体幹抽出部(22)は、前記時系列の体幹(43)から脚部(42)の角度(β)を算出し、前記転倒確率算出部(23)は、前記体幹中心(50)のずれ量(D)と前記加速度(α)と前記脚部(42)の角度(γ)から前記転倒確率(P)を算出する。
上記構成により、体幹中心50のずれ量Dに加えて体幹中心50の加速度αと脚部42の角度から転倒確率Pを算出することで、人体(被撮影者)の体幹の変化(ずれ量Dと加速度αと角度γ)から、着座姿勢を含んで転倒の予兆検知を高精度で行うことが可能となる。
(4)(1)に記載の見守りシステムであって、前記転倒確率(P)が、予め設定した閾値(ThP、ThP1)以上になると転倒の予兆と判定する警報発生部(24)を、さらに有する。
上記構成により、被撮影者に転倒の予兆が発生した場合、計算機10を利用する医療機関の担当者などに被撮影者の異常を通知することができる。
(5)(4)に記載の見守りシステムであって、前記警報発生部(24)は、前記転倒の予兆が判定されると、所定の警報(220)を出力する。
上記構成により、被撮影者に転倒の予兆が発生した場合、計算機10は警報を出力することで、計算機10を利用する医療機関の担当者や被撮影者などに異常の予兆を通知することができる。
(6)上記(4)に記載の見守りシステムであって、前記警報発生部(24)は、前記転倒の予兆が判定されると、前記被撮影者(40)の体幹(43)を補正するための体幹補正画像(400)を出力する。
上記構成により、被撮影者に転倒の予兆が発生した場合、計算機10が体幹補正画像400を提供することで、被撮影者に体幹の移動方向を提供することができる。
(7)上記(4)に記載の見守りシステムであって、前記体幹抽出部(22)は、前記時系列の体幹中心(50)から前記体幹中心(50)の移動方向を転倒方向として算出し、前記警報発生部(24)は、前記被撮影者(40)の周囲に複数配置された警報装置(ライト35)に接続されて、前記転倒の予兆が判定されると、前記転倒方向とは逆方向の前記警報装置(35)から所定の警報を発生させる。
上記構成により、被撮影者に転倒の予兆が発生した場合、計算機10に接続されたライト35のうち、転倒方向とは逆方向のライト35から警報を発生させることで、被撮影者(対象者40)に体幹を移動させる方向を促すことができる。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に記載したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加、削除、又は置換のいずれもが、単独で、又は組み合わせても適用可能である。
また、上記の各構成、機能、処理部、及び処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、及び機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、又は、ICカード、SDカード、DVD等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
10 計算機
11 プロセッサ
12 メモリ
14 出力装置
16 ストレージ装置
20 見守りプログラム
21 画像処理部
22 体幹検出部
23 転倒確率算出部
24 警報発生部
33 モニタ
34 カメラ
35 ライト
110 体幹情報

Claims (15)

  1. プロセッサとメモリを有する計算機で、被撮影者が転倒する転倒確率を算出する見守りシステムであって、
    前記被撮影者の時系列の骨格情報を受け付けて、前記骨格情報に基づいて前記被撮影者の頭部と腰の角度を算出し、前記角度を前記被撮影者の体幹として抽出し、予め設定された体幹情報に基づいて体幹の中心を体幹中心として算出し、前記時系列の骨格情報から算出した時系列の体幹から基準となる体幹を基準体幹として抽出し、当該基準体幹の中心を第1の体幹中心とし、前記被撮影者が移動又は転倒中の体幹の中心を第2の体幹中心として保持する体幹抽出部と、
    前記基準体幹の第1の体幹中心と、前記第2の体幹中心の距離をずれ量として算出し、前記ずれ量から前記転倒確率を算出する転倒確率算出部と、
    を有することを特徴とする見守りシステム。
  2. 請求項1に記載の見守りシステムであって、
    前記体幹抽出部は、
    前記時系列の体幹から時系列の前記第2の体幹中心を算出し、時系列の前記第2の体幹中心から前記第2の体幹中心の加速度を算出し、
    前記転倒確率算出部は、
    前記第1の体幹中心から前記第2の体幹中心のずれ量と前記加速度から前記転倒確率を算出することを特徴とする見守りシステム。
  3. 請求項2に記載の見守りシステムであって、
    前記体幹抽出部は、
    前記時系列の体幹から脚部の角度を算出し、
    前記転倒確率算出部は、
    前記第1の体幹中心から前記第2の体幹中心のずれ量と前記加速度と前記脚部の角度から前記転倒確率を算出することを特徴とする見守りシステム。
  4. 請求項1に記載の見守りシステムであって、
    前記転倒確率が、予め設定した閾値以上になると転倒の予兆と判定する警報発生部を、さらに有することを特徴とする見守りシステム。
  5. 請求項4に記載の見守りシステムであって、
    前記警報発生部は、
    前記転倒の予兆が判定されると、所定の警報を出力することを特徴とする見守りシステム。
  6. 請求項4に記載の見守りシステムであって、
    前記警報発生部は、
    前記転倒の予兆が判定されると、前記被撮影者の体幹を補正するための体幹補正画像を出力することを特徴とする見守りシステム。
  7. 請求項4に記載の見守りシステムであって、
    前記体幹抽出部は、
    前記時系列の前記第2の体幹中心から前記第2の体幹中心の移動方向を転倒方向として算出し、
    前記警報発生部は、
    前記被撮影者の周囲に複数配置された警報装置に接続されて、前記転倒の予兆が判定されると、前記転倒方向とは逆方向の前記警報装置から所定の警報を発生させることを特徴とする見守りシステム。
  8. プロセッサとメモリを有する計算機で、被撮影者が転倒する転倒確率を算出する見守り方法であって、
    前記計算機が、前記被撮影者の時系列の骨格情報を受け付けて、前記骨格情報に基づいて前記被撮影者の頭部と腰の角度を算出し、前記角度を前記被撮影者の体幹として抽出し、予め設定された体幹情報に基づいて体幹の中心を体幹中心として算出し、前記時系列の骨格情報から算出した時系列の体幹から基準となる体幹を基準体幹として抽出し、当該基準体幹の中心を第1の体幹中心とし、前記被撮影者が移動又は転倒中の体幹の中心を第2の体幹中心として保持する体幹抽出ステップと、
    前記計算機が、前記基準体幹の第1の体幹中心と、前記第2の体幹中心の距離をずれ量として算出し、前記ずれ量から前記転倒確率を算出する転倒確率算出ステップと、
    を含むことを特徴とする見守り方法。
  9. 請求項8に記載の見守り方法であって、
    前記体幹抽出ステップは、
    前記時系列の体幹から時系列の前記第2の体幹中心を算出し、時系列の前記第2の体幹中心から当該前記第2の体幹中心の加速度を算出し、
    前記転倒確率算出ステップは、
    前記第1の体幹中心からの前記第2の体幹中心のずれ量と前記加速度から前記転倒確率を算出することを特徴とする見守り方法。
  10. 請求項9に記載の見守り方法であって、
    前記体幹抽出ステップは、
    前記時系列の体幹から脚部の角度を算出し、
    前記転倒確率算出ステップは、
    前記第1の体幹中心から前記第2の体幹中心のずれ量と前記加速度と前記脚部の角度から前記転倒確率を算出することを特徴とする見守り方法。
  11. 請求項8に記載の見守り方法であって、
    前記計算機は、前記転倒確率が予め設定した閾値以上になると転倒の予兆と判定する警報発生ステップを、さらに含むことを特徴とする見守り方法。
  12. 請求項11に記載の見守り方法であって、
    前記警報発生ステップは、
    前記転倒の予兆が判定されると、所定の警報を出力することを特徴とする見守り方法。
  13. 請求項11に記載の見守り方法であって、
    前記警報発生ステップは、
    前記転倒の予兆が判定されると、前記被撮影者の体幹を補正するための体幹補正画像を出力することを特徴とする見守り方法。
  14. 請求項11に記載の見守り方法であって、
    前記体幹抽出ステップは、
    前記時系列の前記第2の体幹中心から前記第2の体幹中心の移動方向を転倒方向として算出し、
    前記警報発生ステップは、
    前記被撮影者の周囲に複数配置された警報装置に接続されて、前記転倒の予兆が判定されると、前記転倒方向とは逆方向の前記警報装置から所定の警報を発生させることを特徴とする見守り方法。
  15. プロセッサとメモリを有する計算機で、被撮影者が転倒する転倒確率を算出させるためのプログラムを格納した記憶媒体であって、
    前記被撮影者の時系列の骨格情報を受け付けて、前記骨格情報に基づいて前記被撮影者の
    頭部と腰の角度を算出し、前記角度を前記被撮影者の体幹として抽出し、予め設定された体幹情報に基づいて体幹の中心を体幹中心として算出し、前記時系列の骨格情報から算出した時系列の体幹から基準となる体幹を基準体幹として抽出し、当該基準体幹の中心を第1の体幹中心とし、前記被撮影者が移動又は転倒中の体幹の中心を第2の体幹中心として保持する体幹抽出ステップと、
    前記基準体幹の第1の体幹中心と、前記第2の体幹中心の距離をずれ量として算出し、前記ずれ量から前記転倒確率を算出する転倒確率算出ステップと、
    を前記計算機に実行させるための前記プログラムを格納した非一時的な計算機読み取り可能な記憶媒体。
JP2019167025A 2019-09-13 2019-09-13 見守りシステム、見守り方法及び記憶媒体 Active JP7356849B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019167025A JP7356849B2 (ja) 2019-09-13 2019-09-13 見守りシステム、見守り方法及び記憶媒体
US16/988,099 US11244552B2 (en) 2019-09-13 2020-08-07 Watching system, watching method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019167025A JP7356849B2 (ja) 2019-09-13 2019-09-13 見守りシステム、見守り方法及び記憶媒体

Publications (2)

Publication Number Publication Date
JP2021043850A JP2021043850A (ja) 2021-03-18
JP7356849B2 true JP7356849B2 (ja) 2023-10-05

Family

ID=74862402

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019167025A Active JP7356849B2 (ja) 2019-09-13 2019-09-13 見守りシステム、見守り方法及び記憶媒体

Country Status (2)

Country Link
US (1) US11244552B2 (ja)
JP (1) JP7356849B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11179064B2 (en) * 2018-12-30 2021-11-23 Altum View Systems Inc. Method and system for privacy-preserving fall detection
WO2021165050A1 (en) * 2020-02-17 2021-08-26 Koninklijke Philips N.V. System to secure health safety during charging of health wearable
US20220319045A1 (en) * 2021-04-01 2022-10-06 MohammadSado Lulu System For Posture Detection Using The Camera Of A Hand-Held Device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120075464A1 (en) 2010-09-23 2012-03-29 Stryker Corporation Video monitoring system
JP2015107141A (ja) 2013-12-03 2015-06-11 富士ゼロックス株式会社 姿勢判定装置、姿勢判定システム及びプログラム
JP2015217053A (ja) 2014-05-15 2015-12-07 国立大学法人東北大学 運動測定装置ならびに運動測定方法
JP2015225276A (ja) 2014-05-29 2015-12-14 セイコーエプソン株式会社 表示システム、表示装置、表示制御装置、表示方法、およびプログラム
JP2018088084A (ja) 2016-11-28 2018-06-07 トヨタ自動車株式会社 転倒報知システム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5979586A (en) * 1997-02-05 1999-11-09 Automotive Systems Laboratory, Inc. Vehicle collision warning system
JP2015164477A (ja) 2014-03-02 2015-09-17 学校法人早稲田大学 つまずき予測検知システム及びつまずき防止システム
JP6678492B2 (ja) 2016-03-28 2020-04-08 アニマ株式会社 動的バランス評価装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120075464A1 (en) 2010-09-23 2012-03-29 Stryker Corporation Video monitoring system
JP2015107141A (ja) 2013-12-03 2015-06-11 富士ゼロックス株式会社 姿勢判定装置、姿勢判定システム及びプログラム
JP2015217053A (ja) 2014-05-15 2015-12-07 国立大学法人東北大学 運動測定装置ならびに運動測定方法
JP2015225276A (ja) 2014-05-29 2015-12-14 セイコーエプソン株式会社 表示システム、表示装置、表示制御装置、表示方法、およびプログラム
JP2018088084A (ja) 2016-11-28 2018-06-07 トヨタ自動車株式会社 転倒報知システム

Also Published As

Publication number Publication date
US11244552B2 (en) 2022-02-08
US20210082270A1 (en) 2021-03-18
JP2021043850A (ja) 2021-03-18

Similar Documents

Publication Publication Date Title
JP7356849B2 (ja) 見守りシステム、見守り方法及び記憶媒体
CN112784662A (zh) 基于视频的跌倒风险评价系统
AU2017202152B2 (en) Method and system for determining postural balance of a person
US10841501B2 (en) Photographing control apparatus and photographing control method
JP7057589B2 (ja) 医療情報処理システム、歩行状態定量化方法およびプログラム
JP6086468B2 (ja) 被写体見守りシステム
JP2020034960A (ja) 被監視者の姿勢検知装置
JP2020086819A (ja) 画像処理プログラムおよび画像処理装置
WO2020145380A1 (ja) 介護記録装置、介護記録システム、介護記録プログラムおよび介護記録方法
CN115116133A (zh) 一种用于独居老人监护的异常行为检测系统及方法
WO2016186160A1 (ja) 画像処理システム、画像処理装置、画像処理方法、および画像処理プログラム
Alazrai et al. Fall detection for elderly using anatomical-plane-based representation
JP2008146583A (ja) 姿勢検知装置および挙動検知装置
JP6729510B2 (ja) 見守り支援システム及びその制御方法
JP7539779B2 (ja) 異常検知システム
US11482031B2 (en) System and method for detecting potentially dangerous human posture
JP3767898B2 (ja) 人物行動理解システム
Bauer et al. Modeling bed exit likelihood in a camera-based automated video monitoring application
KR102310964B1 (ko) 근골격계 증상을 진단하기 위한 전자 장치, 방법, 및 시스템
JP2019204366A (ja) 行動監視装置及び行動監視方法
CN116348909A (zh) 姿势检测装置、姿势检测方法及睡相判定方法
WO2023171356A1 (ja) 患者モニタリングシステム、患者モニタリング方法、およびプログラム
JP2020081473A (ja) 情報処理システム、位置特定方法及びプログラム
US20240260854A1 (en) Physical-ability estimation system, physical-ability estimation method, and recording medium
WO2021241347A1 (ja) 疲労推定システム、疲労推定方法、及び、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230829

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230925

R150 Certificate of patent or registration of utility model

Ref document number: 7356849

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150