JP2022039814A - System, electronic apparatus, method for controlling electronic apparatus, and program - Google Patents
System, electronic apparatus, method for controlling electronic apparatus, and program Download PDFInfo
- Publication number
- JP2022039814A JP2022039814A JP2020145012A JP2020145012A JP2022039814A JP 2022039814 A JP2022039814 A JP 2022039814A JP 2020145012 A JP2020145012 A JP 2020145012A JP 2020145012 A JP2020145012 A JP 2020145012A JP 2022039814 A JP2022039814 A JP 2022039814A
- Authority
- JP
- Japan
- Prior art keywords
- monitored object
- chair
- coordinates
- seated
- sliding down
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Emergency Alarm Devices (AREA)
- Alarm Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
本開示は、システム、電子機器、電子機器の制御方法、及びプログラムに関する。 The present disclosure relates to systems, electronic devices, control methods for electronic devices, and programs.
例えば介護施設のような現場において、要看護者又は要介護者などのような被監視者の行動を監視する装置が提案されている。例えば、特許文献1は、撮像装置で得られた画像に基づいて、被監視者における所定の行動を検知する被監視者システムを開示している。特許文献2は、対象者の足に検出装置を装着することにより、対象者が歩行中に転倒するのを予防する転倒予防システムを開示している。また、特許文献3は、温度分布を検出することにより、人体の体位を判定する見守り支援装置を開示している。また、引用文献4は、在宅、又は老人ホーム若しくは介護施設における老年精神病患者を監視するための医療システムを開示している。
For example, in a field such as a long-term care facility, a device for monitoring the behavior of a monitored person such as a nurse or a care recipient has been proposed. For example,
被監視対象を監視することにより、被監視対象の安全に供することができれば、有益である。 It would be beneficial if the monitored object could be safely monitored by monitoring it.
本開示の目的は、被監視対象の安全に供し得るシステム、電子機器、電子機器の制御方法、及びプログラムを提供することにある。 An object of the present disclosure is to provide a system, an electronic device, a control method for the electronic device, and a program that can be safely provided to the monitored object.
一実施形態に係るシステムは、
被監視対象を撮像する撮像部と、
前記撮像部によって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出部と、
前記撮像部によって撮像された経時的な画像において前記被監視対象が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示すタイミング情報に基づいて、前記開始時点と前記終了時点との間における前記所定部位の座標と、前記被監視対象が着座していた椅子からずり落ちる動作の開始との関係を機械学習するコントローラと、
を備える。
The system according to one embodiment is
An imaging unit that captures the monitored object and
An extraction unit that extracts the coordinates of a predetermined portion of the monitored object from the image captured by the imaging unit, and an extraction unit.
Between the start time and the end time based on the timing information indicating the start time and the end time of the operation in which the monitored object slides down from the chair in which the monitored object is seated in the time-dependent image captured by the image pickup unit. A controller that machine-learns the relationship between the coordinates of the predetermined portion and the start of the motion of sliding down from the chair on which the monitored object is seated.
To prepare for.
また、一実施形態に係るシステムは、
被監視対象を撮像する撮像部と、
前記撮像部によって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出部と、
人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間における前記人間の所定部位の座標と、前記人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習された機械学習データに基づいて、前記抽出部によって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定するコントローラと、
を備える。
In addition, the system according to one embodiment is
An imaging unit that captures the monitored object and
An extraction unit that extracts the coordinates of a predetermined portion of the monitored object from the image captured by the imaging unit, and an extraction unit.
Machine learning was performed on the relationship between the coordinates of the predetermined part of the human between the start time and the end time of the motion of sliding down from the chair in which the human was seated and the start of the motion of sliding down from the chair in which the human was seated. Based on the machine learning data, the controller that estimates the start of the motion of the monitored object sliding down from the chair on which the monitored object was seated from the coordinates of the predetermined portion of the monitored object extracted by the extraction unit.
To prepare for.
一実施形態に係る電子機器は、
被監視対象を含んで撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出部と、
前記被監視対象を含んで撮像された経時的な画像において前記被監視対象が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示すタイミング情報に基づいて、前記開始時点と前記終了時点との間における前記所定部位の座標と、前記被監視対象が着座していた椅子からずり落ちる動作の開始との関係を機械学習するコントローラと、
を備える。
The electronic device according to one embodiment is
An extraction unit that extracts the coordinates of a predetermined part of the monitored object from an image captured including the monitored object, and an extraction unit.
The start time and the end time are based on the timing information indicating the start time and the end time of the motion of the monitored object sliding down from the chair in which the monitored object is seated in the time-lapse image captured including the monitored object. A controller that machine-learns the relationship between the coordinates of the predetermined part between the two and the start of the motion of sliding down from the chair on which the monitored object is seated.
To prepare for.
また、一実施形態に係る電子機器は、
被監視対象を含んで撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出部と、
人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間における前記人間の所定部位の座標と、前記人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習された機械学習データに基づいて、前記抽出部によって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定するコントローラと、
を備える。
In addition, the electronic device according to one embodiment is
An extraction unit that extracts the coordinates of a predetermined part of the monitored object from an image captured including the monitored object, and an extraction unit.
Machine learning was performed on the relationship between the coordinates of the predetermined part of the human between the start time and the end time of the motion of sliding down from the chair in which the human was seated and the start of the motion of sliding down from the chair in which the human was seated. Based on the machine learning data, the controller that estimates the start of the motion of the monitored object sliding down from the chair on which the monitored object was seated from the coordinates of the predetermined portion of the monitored object extracted by the extraction unit.
To prepare for.
一実施形態に係る電子機器の制御方法は、
被監視対象を撮像する撮像ステップと、
前記撮像ステップによって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出ステップと、
前記撮像ステップによって撮像された経時的な画像において前記被監視対象が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示すタイミング情報に基づいて、前記開始時点と前記終了時点との間における前記所定部位の座標と、前記被監視対象が着座していた椅子からずり落ちる動作の開始との関係を機械学習する機械学習ステップと、
を含む。
The method for controlling an electronic device according to an embodiment is as follows.
An imaging step that captures the monitored object, and
An extraction step of extracting the coordinates of a predetermined portion of the monitored object from the image captured by the imaging step, and an extraction step.
Between the start time and the end time based on the timing information indicating the start time and the end time of the operation in which the monitored object slides down from the chair in which the monitored object is seated in the time-dependent image captured by the imaging step. A machine learning step for machine learning the relationship between the coordinates of the predetermined portion and the start of the motion of sliding down from the chair on which the monitored object was seated.
including.
また、一実施形態に係る電子機器の制御方法は、
被監視対象を撮像する撮像ステップと、
前記撮像ステップによって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出ステップと、
人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間における前記人間の所定部位の座標と、前記人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習された機械学習データに基づいて、前記抽出ステップによって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定する推定ステップと、
を含む。
Further, the control method of the electronic device according to the embodiment is as follows.
An imaging step that captures the monitored object, and
An extraction step of extracting the coordinates of a predetermined portion of the monitored object from the image captured by the imaging step, and an extraction step.
Machine learning was performed on the relationship between the coordinates of the predetermined part of the human between the start time and the end time of the motion of sliding down from the chair in which the human was seated and the start of the motion of sliding down from the chair in which the human was seated. Based on the machine learning data, the estimation step of estimating the start of the motion of the monitored object sliding down from the chair on which the monitored object was seated from the coordinates of the predetermined portion of the monitored object extracted by the extraction step, and the estimation step.
including.
一実施形態に係るプログラムは、
コンピュータに、
被監視対象を撮像する撮像ステップと、
前記撮像ステップによって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出ステップと、
前記撮像ステップによって撮像された経時的な画像において前記被監視対象が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示すタイミング情報に基づいて、前記開始時点と前記終了時点との間における前記所定部位の座標と、前記被監視対象が着座していた椅子からずり落ちる動作の開始との関係を機械学習する機械学習ステップと、
を実行させる。
The program according to one embodiment is
On the computer
An imaging step that captures the monitored object, and
An extraction step of extracting the coordinates of a predetermined portion of the monitored object from the image captured by the imaging step, and an extraction step.
Between the start time and the end time based on the timing information indicating the start time and the end time of the operation in which the monitored object slides down from the chair in which the monitored object is seated in the time-dependent image captured by the imaging step. A machine learning step for machine learning the relationship between the coordinates of the predetermined portion and the start of the motion of sliding down from the chair on which the monitored object was seated.
To execute.
また、一実施形態に係るプログラムは、
コンピュータに、
被監視対象を撮像する撮像ステップと、
前記撮像ステップによって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出ステップと、
人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間における前記人間の所定部位の座標と、前記人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習された機械学習データに基づいて、前記抽出ステップによって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定する推定ステップと、
を実行させる。
In addition, the program according to one embodiment is
On the computer
An imaging step that captures the monitored object, and
An extraction step of extracting the coordinates of a predetermined portion of the monitored object from the image captured by the imaging step, and an extraction step.
Machine learning was performed on the relationship between the coordinates of the predetermined part of the human between the start time and the end time of the motion of sliding down from the chair in which the human was seated and the start of the motion of sliding down from the chair in which the human was seated. Based on the machine learning data, the estimation step of estimating the start of the motion of the monitored object sliding down from the chair on which the monitored object was seated from the coordinates of the predetermined portion of the monitored object extracted by the extraction step, and the estimation step.
To execute.
一実施形態によれば、被監視対象の安全に供し得るシステム、電子機器、電子機器の制御方法、及びプログラムを提供することができる。 According to one embodiment, it is possible to provide a system, an electronic device, a control method for the electronic device, and a program that can be safely provided to the monitored object.
本開示において、「電子機器」とは、電力により駆動する機器としてよい。また、「システム」とは、電力により駆動する機器を含むものとしてよい。また、「ユーザ」とは、一実施形態に係るシステム及び/又は電子機器を使用する者(典型的には人間)としてよい。ユーザは、一実施形態に係るシステム及び/又は電子機器を用いることで、被監視対象の監視を行う者を含んでもよい。また、「被監視対象」とは、一実施形態に係るシステム及び/又は電子機器によって監視される対象となる者(例えば人間又は動物)としてよい。さらに、ユーザは、被監視対象を含んでもよい。 In the present disclosure, the "electronic device" may be a device driven by electric power. Further, the "system" may include a device driven by electric power. Further, the "user" may be a person (typically a human being) who uses the system and / or the electronic device according to the embodiment. The user may include a person who monitors the monitored object by using the system and / or the electronic device according to the embodiment. Further, the “monitored target” may be a person (for example, a human or an animal) to be monitored by the system and / or the electronic device according to the embodiment. Further, the user may include a monitored object.
一実施形態に係るシステムが利用される場面として想定されるのは、例えば、会社、病院、老人ホーム、学校、スポーツジム、及び介護施設などのような、社会活動を行う者が使用する特定の施設などとしてよい。例えば、会社であれば従業員などの健康状態の把握及び/又は管理は、極めて重要である。同様に、病院であれば患者及び医療従事者など、また老人ホームであれば入居者及びスタッフなどの健康状態の把握及び/又は管理は、極めて重要である。一実施形態に係るシステムが利用される場面は、上述の、会社、病院、及び老人ホームなどの施設に限定されず、被監視対象の健康状態の把握及び/又は管理などが望まれる任意の施設としてよい。任意の施設は、例えば、ユーザの自宅などの非商業施設も含んでもよい。また、一実施形態に係るシステムが利用される場面は、例えば、電車、バス、及び飛行機などの移動体内、並びに、駅及び乗り場などとしてもよい。 It is assumed that the system according to one embodiment is used in a specific situation used by a person engaged in social activities such as a company, a hospital, an elderly home, a school, a sports gym, and a long-term care facility. It may be a facility. For example, in the case of a company, it is extremely important to understand and / or manage the health status of employees. Similarly, it is extremely important to understand and / or manage the health status of patients and medical staff in hospitals, and residents and staff in elderly housing with care. The scene in which the system according to the embodiment is used is not limited to the above-mentioned facilities such as companies, hospitals, and elderly housings, but any facility where it is desired to grasp and / or manage the health condition of the monitored object. May be. Any facility may also include non-commercial facilities, such as the user's home. Further, the scene in which the system according to one embodiment is used may be, for example, a moving body such as a train, a bus, or an airplane, a station, a platform, or the like.
一実施形態に係るシステムは、例えば、介護施設などにおいて、要看護者又は要介護者などのような被監視対象の行動を監視する用途で用いられてよい。一実施形態に係るシステムは、例えば要看護者又は要介護者などのような被監視対象が着座している椅子からずり落ちる動作を監視することができる。ここで、被監視対象が着座している椅子からずり落ちる動作とは、例えば、被監視対象が椅子の座面に着座している場合に当該座面の上で身体を部分的に滑らせるようにして当該椅子から落下する動作などとしてよい。 The system according to one embodiment may be used for monitoring the behavior of a monitored object such as a nurse-requiring person or a nursing-requiring person in a nursing care facility or the like. The system according to one embodiment can monitor the movement of a monitored object such as a nurse or a care recipient sliding down from a seated chair. Here, the action of the monitored object sliding down from the seated chair is, for example, allowing the monitored object to partially slide on the seating surface when the monitored object is seated on the seating surface of the chair. It may be an action of falling from the chair.
特に、一実施形態に係るシステムは、例えば要看護者又は要介護者などのような被監視者が椅子などに着座している場合に、椅子からずり落ちる動作が終了する前、例えば床面などに落下する前に、所定の警告を発することができる。したがって、一実施形態に係るシステムによれば、例えば介護施設などのスタッフは、例えば要看護者又は要介護者などのような被監視者が椅子からずり落ちる前に、被監視者が椅子からずり落ちようとしていることを認識し得る。 In particular, the system according to one embodiment is used, for example, when a monitored person such as a nurse or a care recipient is seated on a chair, before the operation of sliding off the chair is completed, for example, on the floor surface. A given warning can be issued before the fall. Therefore, according to the system according to one embodiment, the staff such as a care facility slides off the chair before the monitored person such as a nurse or a person requiring nursing care slides off the chair. You can recognize that you are trying.
以下、一実施形態に係るシステムについて、図面を参照して詳細に説明する。 Hereinafter, the system according to the embodiment will be described in detail with reference to the drawings.
図1は、一実施形態に係るシステムの概略構成を示す図である。図1に示すように、一実施形態に係るシステム1は、電子機器10及び撮像部20を含んで構成されてよい。電子機器10と撮像部20とは、有線若しくは無線、又は有線及び無線の組合せにより接続されてよい。一実施形態に係るシステム1は、図1に示す機能部の一部を含まなくてもよいし、図1に示す以外の機能部を含んでもよい。例えば、一実施形態に係るシステム1は、警告部17及び通信部19の少なくとも一方を備えなくてもよい。また、例えば、一実施形態に係るシステム1は、画像を表示可能なディスプレイ及び/又はメモリカードなどのストレージを挿入可能なスロットなどを備えてもよい。
FIG. 1 is a diagram showing a schematic configuration of a system according to an embodiment. As shown in FIG. 1, the
図1に示す撮像部20は、例えばデジタルカメラのような、電子的に画像を撮像するイメージセンサを含んで構成されてよい。撮像部20は、CCD(Charge Coupled Device Image Sensor)又はCMOS(Complementary Metal Oxide Semiconductor)センサ等のように、光電変換を行う撮像素子を含んで構成されてよい。撮像部20は、例えば図1に示すように、被監視対象Tを撮像してよい。ここで、被監視対象Tは、例えば人間としてよい。撮像部20は、撮像した画像を信号に変換して、電子機器10に送信してよい。例えば、撮像部20は、撮像した画像に基づく信号を、電子機器10の抽出部11、記憶部13、及び/又は、コントローラ15などに送信してよい。撮像部20は、被監視対象Tを撮像するものであれば、デジタルカメラのような撮像デバイスに限定されず、任意のデバイスとしてよい。
The
一実施形態において、撮像部20は、例えば被監視対象Tを所定時間ごと(例えば秒間15フレーム)の静止画として撮像してもよい。また、一実施形態において、撮像部20は、例えば被監視対象Tを連続した動画として撮像してもよい。
In one embodiment, the
図1に示すように、一実施形態に係る電子機器10は、抽出部11、記憶部13、コントローラ15、警告部17、及び通信部19を備えてよい。一実施形態に係る電子機器10は、図1に示す機能部の一部を備えなくてもよいし、図1に示す以外の機能部を備えてもよい。例えば、一実施形態に係る電子機器10は、記憶部13に記憶される後述の機械学習データ132を備えてもよい。例えば、一実施形態に係る電子機器10は、後述の機械学習データ132の少なくとも一部が、外部サーバなどの外部機器に記憶されているとしてもよい。
As shown in FIG. 1, the
抽出部11は、撮像部20によって撮像された画像から、所定の特徴点を抽出する機能を有してよい。例えば、抽出部11は、撮像部20によって撮像された被監視対象Tの画像から、当該被監視対象Tの身体における所定部位のような特徴点の座標を抽出してもよい。ここで、特徴点については、さらに後述する。一実施形態において、抽出部11は、撮像部20によって撮像された被監視対象Tの画像から、当該被監視対象Tの頭部、体幹、四肢、及び/又は各関節などの各部の座標を抽出してもよい。抽出部11は、専用のハードウェアとして構成されてもよいし、少なくとも一部にソフトウェアを含めて構成されてもよいし、全てソフトウェアで構成されているとしてもよい。このように、抽出部11は、撮像部20によって撮像された画像から、被監視対象Tの所定部位の座標を抽出してよい。
The
記憶部13は、各種の情報を記憶するメモリとしての機能を有してよい。記憶部13は、例えばコントローラ15において実行されるプログラム、及び、コントローラ15において実行された処理の結果などを記憶してよい。また、記憶部13は、コントローラ15のワークメモリとして機能してよい。記憶部13は、例えば半導体メモリ等により構成することができるが、これに限定されず、任意の記憶装置とすることができる。例えば、記憶部13は、一実施形態に係る電子機器10に挿入されたメモリカードのような記憶媒体としてもよい。また、記憶部13は、後述のコントローラ15として用いられるCPUの内部メモリであってもよいし、コントローラ15に別体として接続されるものとしてもよい。
The
図1に示すように、記憶部13は、例えば機械学習データ132を記憶してもよい。ここで、機械学習データ132は、機械学習によって生成されるデータとしてよい。また、機械学習とは、特定のタスクをトレーニングによって実行可能になるAI(Artificial Intelligence)の技術に基づくものとしてよい。より具体的には、機械学習とは、コンピュータのような情報処理装置が多くのデータを学習し、分類及び/又は予測などのタスクを遂行するアルゴリズム又はモデルを自動的に構築する技術としてよい。本明細書において、AI(Artificial Intelligence)の一部には、機械学習が含まれるとしてもよい。本明細書において、機械学習には、正解データをもとに入力データの特徴又はルールを学習する教師あり学習が含まれるものとしてよい。また、機械学習には、正解データがない状態で入力データの特徴又はルールを学習する教師なし学習が含まれるものとしてもよい。さらに、機械学習には、報酬又は罰などを与えて入力データの特徴又はルールを学習する強化学習などが含まれるものとしてもよい。また、本明細書において、機械学習は、教師あり学習、教師なし学習、及び強化学習を任意に組み合わせたものとしてもよい。本実施形態の機械学習データ132の概念は、入力データに対して学習されたアルゴリズムを用いて所定の推論(推定)結果を出力するアルゴリズムを含むとしてもよい。本実施形態は、このアルゴリズムとして、例えば、従属変数と独立変数との関係を予測する線形回帰、人の脳神経系ニューロンを数理モデル化したニューラルネットワーク(NN)、誤差を二乗して算出する最小二乗法、問題解決を木構造にする決定木、及びデータを所定の方法で変形する正則化などその他適宜なアルゴリズムを用いることができる。本実施形態は、ニューラルネットワークの一種であるディープラーニングを利用するとしてよい。ディープラーニングは、ニューラルネットワークの一種であり、ネットワークの階層が深いニューラルネットワークがディープラーニングと呼ばれている。
As shown in FIG. 1, the
本開示の技術において、被監視対象の身体の動作aと、この動作aから発生する被監視対象の動作結果Aとの間には、一般的に一定の関係が存在するものとしてよい。なお、ここでの動作結果には、被監視対象の動作、被監視対象の動作開始時点、被監視対象の動作から発生する事故及び事件その他の出来事などを含むとしてよい。例えば、被監視対象の身体の動作aが行われ、この動作aから被監視対象の動作結果Aが発生したとする。また、被監視対象の身体の動作bが行われ、この動作bから被監視対象の動作結果Bが発生したとする。本開示の技術は、上記動作aと動作結果A、動作bと動作結果Bその他の動作と動作結果の関係を、機械学習データとして蓄積する。そして、本開示の技術は、動作xが抽出された場合に、上記機械学習データを用いて、動作xに関係する動作結果Xを推定するとしてよい。 In the technique of the present disclosure, it may be assumed that there is generally a certain relationship between the motion a of the body of the monitored object and the motion result A of the monitored object generated from this motion a. The operation result here may include the operation of the monitored object, the operation start time of the monitored object, an accident, an incident or other event generated from the operation of the monitored object. For example, it is assumed that the movement a of the body of the monitored target is performed, and the movement result A of the monitored target is generated from this movement a. Further, it is assumed that the movement b of the body to be monitored is performed, and the movement result B of the monitored target is generated from this movement b. The technique of the present disclosure accumulates the relationship between the operation a and the operation result A, the operation b and the operation result B, and other operations and the operation result as machine learning data. Then, in the technique of the present disclosure, when the motion x is extracted, the motion result X related to the motion x may be estimated using the machine learning data.
特に、一実施形態において、機械学習データ132は、被監視対象Tが着座していた椅子からずり落ちる動作をする際の特徴点の動きを機械学習したデータとしてよい。以下、被監視対象Tが着座していた椅子からずり落ちる動作を、「ずり落ち動作」と記すことがある。また、機械学習データ132は、被監視対象Tとして特定の人物(例えば特定の要介護者など)が着座していた椅子からずり落ちる動作をする際の特徴点の動きを機械学習したデータとしてもよい。一実施形態に係る機械学習データ132については、さらに後述する。
In particular, in one embodiment, the
コントローラ15は、電子機器10を構成する各機能部をはじめとして、電子機器10の全体を制御及び/又は管理する。コントローラ15は、種々の機能を実行するための制御及び処理能力を提供するために、例えばCPU(Central Processing Unit)のような、少なくとも1つのプロセッサを含んでよい。コントローラ15は、まとめて1つのプロセッサで実現してもよいし、いくつかのプロセッサで実現してもよいし、それぞれ個別のプロセッサで実現してもよい。プロセッサは、単一の集積回路として実現されてよい。集積回路は、IC(Integrated Circuit)ともいう。プロセッサは、複数の通信可能に接続された集積回路及びディスクリート回路として実現されてよい。プロセッサは、他の種々の既知の技術に基づいて実現されてよい。
The
一実施形態において、コントローラ15は、例えばCPU及び当該CPUで実行されるプログラムとして構成されてよい。コントローラ15において実行されるプログラム、及び、コントローラ15において実行された処理の結果などは、例えば記憶部13に記憶されてよい。コントローラ15は、コントローラ15の動作に必要なメモリを適宜含んでもよい。一実施形態に係る電子機器10のコントローラ15の動作については、さらに後述する。
In one embodiment, the
警告部17は、コントローラ15から出力される所定の警告信号に基づいて、システム1又は電子機器10のユーザなどに注意を促すための所定の警告を発してよい。警告部17は、所定の警告として、例えば音、音声、光、文字、映像、及び振動など、ユーザの聴覚、視覚、触覚の少なくともいずれかを刺激する任意の機能部としてよい。具体的には、警告部17は、例えばブザー又はスピーカのような音声出力部、LEDのような発光部、LCDのような表示部、及びバイブレータのような触感呈示部などの少なくともいずれかとしてよい。このように、警告部17は、コントローラ15から出力される所定の警告信号に基づいて、所定の警告を発してよい。一実施形態において、警告部17は、所定の警報を、聴覚、視覚、及び触覚の少なくともいずれかに作用する情報として発してもよい。
The
一実施形態において、警告部17は、例えば被監視対象Tが着座していた椅子からずり落ちる動作を開始する前に、被監視対象Tが椅子からずり落ちるリスクがある旨の警告を発してよい。また、一実施形態において、警告部17は、被監視対象Tが着座していた椅子からずり落ちる動作を終了する前に、被監視対象Tが椅子からずり落ちるリスクがある旨の警告を発してもよい。例えば、一実施形態において、視覚情報を出力する警告部17は、被監視対象Tが椅子からずり落ちるリスクがある旨が検出されると、その旨を発光又は所定の表示などによってユーザに警告してよい。また、一実施形態において、聴覚情報を出力する警告部17は、被監視対象Tが椅子からずり落ちるリスクがある旨が検出されると、その旨を所定の音又は音声などによってユーザに警告してよい。本実施形態では、上記警告は、発光又は所定の表示、及び所定の音又は音声を組み合わせてもよい。
In one embodiment, the
図1に示す電子機器10は、警告部17を内蔵している。しかしながら、一実施形態にシステム1において、警告部17は、電子機器10の外部に設けられてもよい。この場合、警告部17と電子機器10とは、有線若しくは無線、又は有線及び無線の組合せにより接続されてよい。
The
通信部19は、有線又は無線により通信するためのインタフェースの機能を有する。一実施形態の通信部19によって行われる通信方式は無線通信規格としてよい。例えば、無線通信規格は2G、3G、4G、及び5G等のセルラーフォンの通信規格を含む。例えばセルラーフォンの通信規格は、LTE(Long Term Evolution)、W-CDMA(Wideband Code Division Multiple Access)、CDMA2000、PDC(Personal Digital Cellular)、GSM(登録商標)(Global System for Mobile communications)、及びPHS(Personal Handy-phone System)等を含む。例えば、無線通信規格は、WiMAX(Worldwide Interoperability for Microwave Access)、IEEE802.11、WiFi、Bluetooth(登録商標)、IrDA(Infrared Data Association)、及びNFC(Near Field Communication)等を含む。通信部19は、上記の通信規格の1つ又は複数をサポートすることができる。通信部19は、例えば電波を送受信するアンテナ及び適当なRF部などを含めて構成してよい。また、通信部19は、外部に有線接続するためのコネクタなどのようなインタフェースとして構成してもよい。通信部19は、無線通信を行うための既知の技術により構成することができるため、より詳細なハードウェアなどの説明は省略する。
The
通信部19が受信する各種の情報は、例えば記憶部13及び/又はコントローラ15に供給されてよい。通信部19が受信する各種の情報は、例えば記憶部13及び/又はコントローラ15に内蔵されたメモリに記憶してもよい。また、通信部19は、例えばコントローラ15による処理結果、抽出部11による抽出結果、及び/又は、記憶部13に記憶された情報などを外部に送信してもよい。
Various types of information received by the
図1に示すような、一実施形態に係る電子機器10を構成する各機能部の少なくとも一部は、ソフトウェアとハードウェア資源とが協働した具体的手段によって構成されてもよい。
As shown in FIG. 1, at least a part of each functional unit constituting the
次に、一実施形態に係るシステム1の動作について説明する。
Next, the operation of the
一実施形態に係るシステム1の動作は、典型的には、「学習フェーズ」と「推定フェーズ」とに分けることができる。学習フェーズにおいては、例えば被監視対象Tのような人間が着座していた椅子からずり落ちる動作における身体の各部の位置(座標)と、当該ずり落ちる動作のタイミングとの関係を機械学習する動作を行ってよい。また、推定フェーズにおいては、学習フェーズにおいて機械学習した結果に基づいて、被監視対象Tが着座していた椅子からずり落ちる動作における身体の各部の位置(座標)から、ずり落ち動作の開始を推定する動作を行ってよい。以下、上述の学習フェーズ及び推定フェーズのそれぞれにおける動作について、より詳細に説明する。まず、学習フェーズにおける動作について、説明する。
The operation of the
図2は、一実施形態に係るシステム1の学習フェーズにおける動作の一例を示すフローチャートである。図2は、一実施形態に係るシステム1に含まれる電子機器10の学習フェーズにおける動作に焦点を当てたフローチャートとしてもよい。
FIG. 2 is a flowchart showing an example of the operation in the learning phase of the
例えば介護施設又は病院などにおいて、お年寄り又は負傷者のように、足腰が弱くなるなど筋力が低下している者は、椅子に着座している際に、その椅子からずり落ちるリスクがあり得る。また、例えば上述のような筋力が低下している者などは、着座している椅子から立ち上がろうとする動作の途中で、その椅子からずり落ちるリスクもあり得る。また、椅子に着座している者が着座したままの体勢を比較的長く継続させると不快に感じ、身体を揺するように動かすことがある。この場合も、例えば上述のような筋力が低下している者などは、身体を揺するように動かしているうちに、その椅子からずり落ちるリスクがあり得る。一実施形態に係るシステム1の学習フェーズにおいては、上述のようにして被監視対象Tのような人間が椅子からずり落ちる動作における身体の各部の位置(座標)と、当該ずり落ちる動作のタイミングとの関係を機械学習してよい。以下、このような動作について、より詳細に説明する。
For example, in a long-term care facility or a hospital, a person with weak muscles such as weak legs, such as an elderly person or an injured person, may be at risk of slipping off the chair when sitting on the chair. In addition, for example, a person with weak muscle strength as described above may have a risk of slipping off the chair while trying to get up from the chair. In addition, a person sitting on a chair may feel uncomfortable if he / she keeps sitting in a sitting position for a relatively long time, and may move his / her body to shake. In this case as well, for example, a person with weak muscles as described above may have a risk of slipping off the chair while moving the body to shake. In the learning phase of the
図2に示す動作が開始する時点において、システム1の撮像部20は、例えば被監視対象Tのような人間の撮像を開始していてよい。図2に示す動作が開始する時点は、撮像部20が例えば被監視対象Tのような人間の撮像を開始した時点としてもよい。また、図2に示す動作が開始する時点は、撮像部20が撮像を開始してから、例えば被監視対象Tのような人間が撮像部20の撮像範囲に入った時点としてもよい。
At the time when the operation shown in FIG. 2 starts, the
図2に示す動作が開始すると、電子機器10のコントローラ15は、撮像部20によって撮像された画像を取得する(ステップS11)。
When the operation shown in FIG. 2 starts, the
図3は、図2に示したステップS11においてコントローラ15が取得した画像、すなわち撮像部20によって撮像された画像の例を示す図である。
FIG. 3 is a diagram showing an example of an image acquired by the
図3に示すように、撮像部20は、例えば被監視対象Tのような人間が椅子に着座している状態を撮像してよい。図3は、被監視対象Tのような人間が椅子に着座しつつ、両腕をテーブル(又はデスク)に載せている様子を模式的に示している。この場合、ステップS11において、コントローラ15は、被監視対象Tのような人間が椅子に着座している画像を取得する。後述のように、撮像部20は、被監視対象Tのような人間が椅子に着座している状態以外の状態の画像を撮像してもよい。この場合、ステップS11において、コントローラ15は、被監視対象Tのような人間が椅子に着座している状態以外の状態の画像を取得してもよい。
As shown in FIG. 3, the
撮像部20は、秒間所定数のフレームの各画像を撮像するものとしてよい。ここで、撮像部20が撮像する画像は、連続するフレームの静止画としてもよいし、動画としてもよい。例えば、撮像部20は、秒間15フレームの画像を撮像するものとしてよい。ステップS11において、コントローラ15は、撮像部20によって撮像された秒間所定数のフレームの画像を取得してよい。
The
図2に示すように、ステップS11において撮像された画像を取得すると、抽出部11は、被監視対象Tの身体における所定部位の座標を抽出する(ステップS12)。ステップS12における動作は、抽出部11ではなく、コントローラ15が行ってもよい。
As shown in FIG. 2, when the image captured in step S11 is acquired, the
図4は、ステップS12において抽出される被監視対象Tの身体における所定部位の例を示す図である。 FIG. 4 is a diagram showing an example of a predetermined portion of the body of the monitored target T extracted in step S12.
ステップS12において、抽出部11は、例えば図4に示すような被監視対象Tの身体における所定部位の座標を抽出してよい。図4に示すように、ステップS12において座標を抽出する所定部位は、例えば、被監視対象Tの身体における首、左肩、左肘、左手首、右肩、右肘、及び右手首を含んでよい。また、図4に示すように、ステップS12において座標を抽出する所定部位は、例えば、被監視対象Tの身体における左尻、左膝、左足首、右尻、右膝、及び右足首をさらに含んでよい。このように、ステップS12において抽出される所定部位の座標は、被監視対象Tの身体における所定の関節点の座標などとしてよい。
In step S12, the
図5は、図3に示した画像において、被監視対象Tの身体における所定部位として抽出される座標の例を示す図である。図5に示す被監視対象Tの画像は、図3に示した被監視対象Tの画像と同じものを示している。図5は、図3に示した被監視対象Tの画像において、図4に示した被監視対象Tの身体における所定部位として抽出される座標を示している。 FIG. 5 is a diagram showing an example of coordinates extracted as a predetermined part of the body of the monitored target T in the image shown in FIG. The image of the monitored object T shown in FIG. 5 is the same as the image of the monitored object T shown in FIG. FIG. 5 shows the coordinates extracted as a predetermined part of the body of the monitored object T shown in FIG. 4 in the image of the monitored object T shown in FIG.
ステップS12において、抽出部11は、図5に示す複数のドットの座標を、図4に示す被監視対象Tの身体における所定部位として抽出する。例えば、抽出部11は、図5に示す座標軸に従って、図5に示す複数のドットの座標を、2次元的に抽出してよい。すなわち、抽出部11は、撮像部20によって撮像される画像の撮像範囲の左下端部は、図5に示す座標軸の原点を示すものとしてよい。例えば、抽出部11は、図5に示す被監視対象Tの首の位置の座標を、図5に示す座標軸に従って取得する。
In step S12, the
ここで、撮像部20が秒間所定数のフレームの各画像を撮像する場合、抽出部11は、秒間所定数のフレームにおいて被監視対象Tの身体における所定部位として抽出してよい。また、コントローラ15が秒間所定数のフレームの画像を取得する場合も、抽出部11は、秒間所定数のフレームにおいて被監視対象Tの身体における所定部位として抽出してよい。一例として、抽出部11は、被監視対象Tの身体における所定部位を、秒間15フレームにおいて抽出してよい。
Here, when the
図6は、例えば1秒間の15フレームにおいて、被監視対象Tの身体において抽出された所定部位の座標をまとめて示す図である。図6に示すように、ステップS12において、コントローラ15(又は抽出部11)は、被監視対象Tの身体において抽出された所定部位の座標を、各フレームごとに並べて配置してもよい。図6に示すように、抽出部11は、各フレームごとに、被監視対象Tの身体において2次元的に(X,Y座標として)所定部位の座標を抽出してよい。図6に示す表において、各行は、各フレームにおいて、被監視対象Tの身体の所定部位が、X,Y座標として抽出された様子を模式的に示してある。また、図6に示す表において、各フレームを示す行は、時間の経過に従って上から下に示してある。図6に示す15フレームの座標は、例えば図5に示すような画像(又は動画)における1秒間の座標をトラッキングしたものとしてよい。また、図6に示す15フレームの後も、順次、被監視対象Tの身体において所定部位の座標が抽出されるものとしてよい。
FIG. 6 is a diagram showing the coordinates of predetermined parts extracted in the body of the monitored target T collectively, for example, in 15 frames per second. As shown in FIG. 6, in step S12, the controller 15 (or the extraction unit 11) may arrange the coordinates of the predetermined portion extracted in the body of the monitored target T side by side for each frame. As shown in FIG. 6, the
このように、一実施形態において、抽出部11は、撮像部20によって撮像された秒間所定数のフレームの各画像ごとに、被監視対象Tの身体における所定数の関節点の座標を2次元的に抽出してもよい。
As described above, in one embodiment, the
ステップS12において所定部位の座標が抽出されたら、抽出部11は、抽出された所定数のフレーム(例えば1秒間の15フレーム)における座標(X,Y)それぞれの最大値及び最小値に従って、座標を正規化する(ステップS13)。
After the coordinates of the predetermined portion are extracted in step S12, the
ステップS12において抽出される所定部位の座標は、例えば被監視対象Tの身体のサイズなどに起因してばらつくことが想定される。また、ステップS12において抽出される所定部位の座標は、例えば撮像部20と被監視対象Tとの距離、及び、撮像部20から被監視対象Tに向く方向などにも起因してばらつくことが想定される。したがって、一実施形態において、ステップS12において抽出された座標のX方向成分及びY方向成分をそれぞれ正規化することにより、抽出された座標を汎用的に機械学習に用いることができるようにする。
It is assumed that the coordinates of the predetermined portion extracted in step S12 vary due to, for example, the size of the body of the monitored target T. Further, it is assumed that the coordinates of the predetermined portion extracted in step S12 vary due to, for example, the distance between the
この場合、例えば1秒間の15フレームにおいて抽出されたX,Y座標のそれぞれの最大値及び最小値に基づいて、抽出されるX,Y座標を正規化してもよい。ここで、ステップS12において抽出されたX座標の最大値をXmaxとし、ステップS12において抽出されたX座標の最小値をXminとする。また、正規化後のX座標の最大値をX’maxとする。この場合、以下の式(1)を用いて、正規化前のX座標(X)を、正規化後のX座標(X’)に変換することができる。 In this case, for example, the extracted X and Y coordinates may be normalized based on the maximum and minimum values of the extracted X and Y coordinates in 15 frames per second. Here, the maximum value of the X coordinate extracted in step S12 is Xmax, and the minimum value of the X coordinate extracted in step S12 is Xmin. Further, the maximum value of the X coordinate after normalization is set to X'max. In this case, the X coordinate (X) before normalization can be converted into the X coordinate (X') after normalization by using the following equation (1).
X’=((X-Xmin)/(Xmax-Xmin))・X’max (1) X'= ((X-Xmin) / (Xmax-Xmin)) · X'max (1)
同様に、ステップS12において抽出されたY座標の最大値をYmaxとし、ステップS12において抽出されたY座標の最小値をYminとする。また、正規化後のY座標の最大値をY’maxとする。この場合、以下の式(2)を用いて、正規化前のY座標(Y)を、正規化後のY座標(Y’)に変換することができる。 Similarly, the maximum value of the Y coordinate extracted in step S12 is Ymax, and the minimum value of the Y coordinate extracted in step S12 is Ymin. Further, the maximum value of the Y coordinate after normalization is set to Y'max. In this case, the Y coordinate (Y) before normalization can be converted into the Y coordinate (Y') after normalization by using the following equation (2).
Y’=((Y-Ymin)/(Ymax-Ymin))・Y’max (2) Y'= ((Y-Ymin) / (Ymax-Ymin)) · Y'max (2)
上記の式(1)及び式(2)に従って、抽出された座標のX方向成分及びY方向成分を正規化することにより、被監視対象Tの個体差、及び撮像部20がと被監視対象Tを撮像した環境などが機械学習に与える影響を低減することが期待できる。
By normalizing the X-direction component and the Y-direction component of the extracted coordinates according to the above equations (1) and (2), the individual difference of the monitored target T and the
このように、一実施形態において、抽出部11は、2次元的に抽出された被監視対象Tの身体における所定数の関節点の座標の各方向成分を、当該各方向成分の最大値及び最小値に基づいて正規化してもよい。また、このような動作は、抽出部11ではなくコントローラ15が行ってもよい。
As described above, in one embodiment, the
ステップS13に示す座標の正規化により、図6に示す各座標(X,Y)は、それぞれ座標(X’,Y’)に正規化される。 By normalizing the coordinates shown in step S13, each coordinate (X, Y) shown in FIG. 6 is normalized to the coordinates (X', Y'), respectively.
ステップS13において座標が正規化されたら、コントローラ15は、タイミング情報を取得する(ステップS14)。ステップS14においてコントローラ15がタイミング情報を取得するために、ステップS11において取得された画像、又は、ステップS12において抽出された座標において、予めタイミング情報が付与(設定)されている必要がある。また、ステップS12において抽出された座標ではなく、ステップS13において正規化された座標において、予めタイミング情報が付与(設定)されていてもよい。以下、このようなタイミング情報について、さらに説明する。
When the coordinates are normalized in step S13, the
一実施形態において、電子機器10が機械学習するためのデータとして、例えば被監視対象Tのような人間が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示す情報を用意する必要がある。被監視対象Tが着座していた椅子からずり落ちる動作の開始時点及び終了時点を示す情報(タイミング情報)があれば、電子機器10は、このタイミング情報を例えば教師データとして機械学習を行うことができる。以上のように、被監視対象Tが着座していた椅子からずり落ちる動作の開始時点及び終了時点を示す情報を、「タイミング情報」とも記す。すなわち、「タイミング情報」とは、撮像部20によって撮像された経時的な画像においてずり落ち動作の開始時点及び終了時点を示す情報としてよい。
In one embodiment, as data for the
このようなタイミング情報は、例えばスタッフなどの人員によって付与(設定)されてよい。すなわち、例えば行動学の専門家又は介護施設の職員などが、撮像部20によって撮像された被監視対象Tの画像を観察(視認)しながら、ずり落ち動作の開始時点及び終了時点を示すタイミング情報を付与してよい。また、このようなタイミング情報を付与するための所定の基準を予め設けることにより、行動学の専門家又は介護施設の職員などではない一般的な人員であっても、タイミング情報を付与することができる。上述のように、タイミング情報は、ステップS11において取得された画像データにおいて付与(設定)されてよい。また、タイミング情報は、ステップS12において抽出された座標データにおいて付与(設定)されてよい。また、タイミング情報は、ステップS13において正規化された座標データにおいて付与(設定)されてよい。
Such timing information may be given (set) by personnel such as staff. That is, for example, a behavioral expert or a staff member of a nursing facility observes (visually recognizes) the image of the monitored target T captured by the
図7は、タイミング情報の設定について説明する図である。図7においては、画像データが各フレームごとに時間の経過とともに連続している様子を概念的に示している。すなわち、図7において、画像データは、時間の経過に従って、フレーム1、フレーム2、フレーム3、…のように連続していることを示している。また、図7においては、画像データにタイミング情報を付与(設定)する例を示している。しかしながら、上述のように、図7に示す画像データは、座標データに代えてもよいし、正規化された座標データに代えてもよい。
FIG. 7 is a diagram illustrating the setting of timing information. FIG. 7 conceptually shows how the image data is continuous with the passage of time for each frame. That is, in FIG. 7, it is shown that the image data is continuous like
図7に示す「入室」の時点において、例えば撮像部20が設置された部屋に被監視対象Tが入室した様子が、撮像部20によって撮像された画像のデータ(画像データ)に示されていたとする。
図7に示す最初の「着席」の時点において、入室してきた被監視対象Tが椅子に着席した様子が、画像データに示されていたとする。
図7に示す「ずり落ち動作の開始」の時点において、被監視対象Tが着座していた椅子からずり落ちる動作を開始した様子が、画像データに示されていたとする。
図7に示す「ずり落ち動作の終了」の時点において、被監視対象Tが着座していた椅子からずり落ちる動作を終了した様子が、画像データに示されていたとする。
図7に示す2度目の「着席」の時点において、椅子からずり落ちた被監視対象Tが例えば介護スタッフの補助などにより再び椅子に着席した様子が、画像データに示されていたとする。
図7に示す「離席」の時点において、椅子に着座していた被監視対象Tが例えば立ち上がるなどして椅子から離席した様子が、画像データに示されていたとする。
図7に示す「退室」の時点において、椅子から離席した被監視対象Tが、例えば撮像部20が設置された部屋から退室した様子が、画像データに示されていたとする。
At the time of "entering the room" shown in FIG. 7, for example, the state in which the monitored target T entered the room in which the
It is assumed that the image data shows that the monitored target T who has entered the room is seated in the chair at the time of the first "seating" shown in FIG. 7.
It is assumed that the image data shows that the monitored target T has started the sliding motion from the chair on which the monitored object T was seated at the time of "starting the sliding motion" shown in FIG. 7.
It is assumed that the image data shows that the monitored target T has finished the sliding motion from the chair on which the monitored object T was seated at the time of "end of the sliding motion" shown in FIG. 7.
It is assumed that the image data shows that the monitored target T, which has slipped off the chair, is seated again in the chair at the time of the second "seating" shown in FIG. 7, for example, with the assistance of the care staff.
It is assumed that the image data shows that the monitored object T, who was seated in the chair, left the chair at the time of "leaving the seat" shown in FIG. 7, for example, by standing up.
It is assumed that the image data shows that the monitored object T, who has left the chair, has left the room in which the
以上のように撮像された画像データにおいて、例えば行動学の専門家又は介護施設の職員その他の一般的な人員などによって、少なくとも「ずり落ち動作の開始」の時点及び「ずり落ち動作の終了」の時点を示すタイミング情報が付与(設定)されてよい。 In the image data captured as described above, for example, by a behavioral expert, a staff member of a nursing facility, or other general personnel, at least at the time of "start of the sliding motion" and "end of the sliding motion". Timing information indicating a time point may be given (set).
ここで、「ずり落ち動作の開始」の時点とは、例えば図8に示すように椅子C1に着座していた被監視対象Tが、例えば図9に示すような動きを開始した時点としてもよい。図8及び図9においては、簡略化のために、ステップS11において取得された画像データではなく、ステップS12において抽出された座標データを図示してある。図8は、被監視対象Tが椅子C1に着座している様子を示しており、これは図7に示す最初の「着席」の時点から「ずり落ち動作の開始」の時点までの状態を示すものとしてよい。 Here, the time point of "start of the sliding down operation" may be, for example, the time point when the monitored object T sitting on the chair C1 starts the movement as shown in FIG. 9, for example. .. In FIGS. 8 and 9, for the sake of simplification, the coordinate data extracted in step S12 is shown instead of the image data acquired in step S11. FIG. 8 shows a state in which the monitored target T is seated on the chair C1, which shows the state from the time of the first “seating” shown in FIG. 7 to the time of “the start of the sliding motion”. It may be a thing.
一般的に、図8に示す状態から被監視対象Tが前方向にずり落ち動作を開始する場合、図9に示すように、首の位置の座標が下方向に移動する傾向にある。また、一般的に、図8に示す状態から被監視対象Tが前方向にずり落ち動作を開始する場合、図9に示すように、左尻又は右尻の位置の座標が前方向に移動する傾向にある。したがって、一実施形態において、図8に示す状態から図9に示す状態に遷移を開始した時点を「ずり落ち動作の開始」の時点として、タイミング情報を付与(設定)してよい。 Generally, when the monitored object T starts the sliding operation in the forward direction from the state shown in FIG. 8, the coordinates of the position of the neck tend to move downward as shown in FIG. Further, in general, when the monitored target T starts the sliding operation in the forward direction from the state shown in FIG. 8, the coordinates of the position of the left buttock or the right buttock move in the forward direction as shown in FIG. There is a tendency. Therefore, in one embodiment, timing information may be added (set) with the time point at which the transition from the state shown in FIG. 8 to the state shown in FIG. 9 is started as the time point at which the “sliding operation starts”.
このように、一実施形態において、タイミング情報におけるずり落ち動作の開始時点は、撮像部20によって撮像された経時的な画像において被監視対象Tの尻が椅子において被監視対象Tの前方向に移動を開始したタイミングを示してもよい。また、一実施形態において、タイミング情報におけるずり落ち動作の開始時点は、撮像部20によって撮像された経時的な画像において被監視対象Tの首が被監視対象Tの下方向に移動を開始したタイミングを示してもよい。また、タイミング情報におけるずり落ち動作の開始時点は、被監視対象Tの首の移動及び被監視対象Tの尻の移動の少なくとも一方が開始した時点としてもよいし、どちらか一方が開始した時点としてもよい。
As described above, in one embodiment, at the start time of the sliding motion in the timing information, the buttock of the monitored object T moves in the forward direction of the monitored object T in the chair in the temporal image captured by the
また、「ずり落ち動作の開始」の時点とは、例えば図10に示すように椅子C2に着座していた被監視対象Tが、例えば図11に示すような動きを開始した時点としてもよい。図10及び図11においても、簡略化のために、ステップS11において取得された画像データではなく、ステップS12において抽出された座標データを図示してある。図10は、被監視対象Tが椅子C2に着座している様子を示しており、これは図7に示す最初の「着席」の時点から「ずり落ち動作の開始」の時点までの状態を示すものとしてよい。 Further, the time point of "starting the sliding down operation" may be, for example, the time point when the monitored object T sitting on the chair C2 starts the movement as shown in FIG. 11, for example. Also in FIGS. 10 and 11, for the sake of simplification, the coordinate data extracted in step S12 is shown instead of the image data acquired in step S11. FIG. 10 shows a state in which the monitored target T is seated on the chair C2, which shows the state from the time of the first “seating” shown in FIG. 7 to the time of “the start of the sliding motion”. It may be a thing.
一般的に、図10に示す状態から被監視対象Tが横(左又は右)方向にずり落ち動作を開始する場合、図11に示すように、首の位置の座標が左方向(又は右方向)に移動する傾向にある。また、一般的に、図10に示す状態から被監視対象Tが横方向にずり落ち動作を開始する場合、図11に示すように、左肩(又は右肩)の位置の座標が下方向に移動する傾向にある。したがって、一実施形態において、図10に示す状態から図11に示す状態に遷移を開始した時点を「ずり落ち動作の開始」の時点として、タイミング情報を付与(設定)してもよい。 Generally, when the monitored object T starts sliding down in the lateral (left or right) direction from the state shown in FIG. 10, the coordinates of the neck position are in the left direction (or right direction) as shown in FIG. ) Tends to move. Further, in general, when the monitored object T starts the operation of sliding down in the lateral direction from the state shown in FIG. 10, the coordinates of the position of the left shoulder (or the right shoulder) move downward as shown in FIG. Tend to do. Therefore, in one embodiment, timing information may be added (set) with the time point at which the transition from the state shown in FIG. 10 to the state shown in FIG. 11 is started as the time point at which the “sliding operation starts”.
このように、一実施形態において、タイミング情報におけるずり落ち動作の開始時点は、撮像部20によって撮像された経時的な画像において被監視対象Tの首が被監視対象Tの左又は右方向に移動を開始したタイミングを示してもよい。また、一実施形態において、タイミング情報におけるずり落ち動作の開始時点は、撮像部20によって撮像された経時的な画像において被監視対象Tの左方又は右肩が被監視対象Tの下方向に移動を開始したタイミングを示してもよい。また、タイミング情報におけるずり落ち動作の開始時点は、被監視対象Tの首の移動及び被監視対象Tの肩の移動の少なくとも一方が開始した時点としてもよいし、どちらか一方が開始した時点としてもよい。
As described above, in one embodiment, the neck of the monitored target T moves to the left or right of the monitored target T in the temporal image captured by the
以上のように、一実施形態において、タイミング情報におけるずり落ち動作の開始時点は、撮像部20によって撮像された経時的な画像において被監視対象Tが椅子からずり落ちるに至る動作を開始したタイミングを示してもよい。
As described above, in one embodiment, the start time point of the sliding motion in the timing information indicates the timing at which the monitored target T starts the motion of sliding down from the chair in the temporal image captured by the
また、「ずり落ち動作の終了」の時点とは、撮像部20によって撮像された経時的な画像において被監視対象Tが椅子からずり落ちた時点としてもよい。すなわち、タイミング情報におけるずり落ち動作の終了時点は、撮像部20によって撮像された経時的な画像において被監視対象Tが椅子からずり落ちたタイミングを示してもよい。ここで、被監視対象Tが椅子からずり落ちたタイミングとは、例えば椅子に着座していた被監視対象Tの右尻及び左尻が、椅子の座面を離れた時点としてもよい。また、被監視対象Tが椅子からずり落ちたタイミングとは、例えば被監視対象Tが着座していた椅子からずり落ちて、被監視対象Tの左足首又は右足首以外の部位が床面に到達した時点としてもよい。また、ずり落ち動作の終了時点として、その他にも、例えば被監視対象Tの動きが所定時間停止した時点、被監視対象Tの頭又は腰などの所定の代表点が所定の高さ落下した時点、被監視対象Tの頭又は腰などの所定の代表点が床又は地面などの基準位置から所定の高さ以下の範囲に入った時点などを用いることができる。
Further, the time point of "the end of the slide-down operation" may be the time point when the monitored target T slides off the chair in the time-dependent image captured by the
タイミング情報において、上述した「ずり落ち動作の開始」の時点及び「ずり落ち動作の終了」の時点は、必ずしもこの順序で付与(設定)しなくてもよい。すなわち、タイミング情報において、最初に「ずり落ち動作の終了」の時点を設定してから、「ずり落ち動作の開始」の時点を設定してもよい。 In the timing information, the time points of the above-mentioned "start of the slide-down operation" and the time points of the "end of the slide-down operation" do not necessarily have to be given (set) in this order. That is, in the timing information, the time point of "the end of the slide-down operation" may be set first, and then the time point of "the start of the slide-down operation" may be set.
例えば、スタッフなどの人員は、撮像部20によって撮像された被監視対象Tの画像を再生して観察(視認)している際、「ずり落ち動作の開始」の時点を見極めるのが必ずしも容易でないことも想定される。このような場合、まず、スタッフなどの人員は、撮像部20によって撮像された被監視対象Tの画像を再生して観察(視認)している際に、「ずり落ち動作の終了」の時点をタイミング情報として設定してよい。次に、スタッフなどの人員は、「ずり落ち動作の終了」の時点から、撮像部20によって撮像された被監視対象Tの画像を時間的に逆に再生して観察(視認)してもよい。ここで、撮像部20によって撮像された被監視対象Tの画像を時間的に逆に再生する際には、当該逆再生の速度をある程度低下させてもよい。このようにすれば、スタッフなどの人員は、タイミング情報において、「ずり落ち動作の終了」の時点よりも前の時点である「ずり落ち動作の開始」の時点を容易に設定することができる。例えば、スタッフなどの人員は、時間的に逆に再生させた画像データを視認しながら、被監視対象Tの左尻又は右尻が椅子の座面において被監視対象Tの前方に最初に移動する時点を見出して、当該時点をタイミング情報として設定してよい。
For example, it is not always easy for a staff member or the like to determine the time point of "starting the sliding operation" when the image of the monitored target T captured by the
上述のようにして画像データ(又は座標データ若しくは正規化された座標データ)においてタイミング情報が付与(設定)されたら、コントローラ15は、ステップS14において当該タイミング情報を取得することができる。電子機器10のコントローラ15は、ステップS14において、上述のようなタイミング情報を、例えば通信部19を介して外部のネットワークなどから取得してもよい。また、コントローラ15は、ステップS14において、上述のようなタイミング情報を、例えばメモリカードなどのストレージを挿入可能な電子機器10のスロットなどから取得してもよい。また、システム1が画像を表示可能なディスプレイを含む場合、当該ディスプレイに画像データなどを表示してもよい。この場合、スタッフなどの人員がディスプレイを視認しながら設定するタイミング情報は、例えば電子機器10の操作部などを介して入力されてよい。
When the timing information is added (set) in the image data (or the coordinate data or the normalized coordinate data) as described above, the
ステップS14においてタイミング情報を取得したら、コントローラ15は、画像データから抽出された座標と、ずり落ち動作の開始との関係を、タイミング情報に基づいて機械学習する(ステップS15)。ステップS15において、コントローラ15は、ずり落ち動作の開始時点と終了時点との間における被監視対象Tの所定部位(関節点)の座標と、ずり落ち動作の開始との関係を、タイミング情報に基づいて学習するものとしてよい。ここで、コントローラ15は、画像データ(又は座標データ、若しくは正規化された座標データ)、及びこれに設定されたタイミング情報に基づいて、機械学習を行ってもよい。以下、ステップS15における機械学習の結果として生成されるデータを、「機械学習データ」と記すことがある。
After acquiring the timing information in step S14, the
上述のような機械学習を行うことにより、電子機器10は、ずり落ち動作が開始するタイミングと、ずり落ち動作の開始時点から終了時点までの間における被監視対象Tの所定部位(関節点)の座標の動きとの関連を把握することができる。このため、電子機器10によれば、後述の推定フェーズにおいて、被監視対象Tの所定部位(関節点)の座標の動きに基づいて、ずり落ち動作の開始時点を推定し得る。
By performing the machine learning as described above, the
このように、一実施形態において、コントローラ15は、ずり落ち動作の開始時点と終了時点との間における被監視対象Tの所定部位の座標と、ずり落ち動作の開始との関係を、タイミング情報に基づいて機械学習する。ここで、タイミング情報とは、上述のように、撮像部20によって撮像された経時的な画像においてずり落ち動作の開始時点及び終了時点を示す情報としてよい。
As described above, in one embodiment, the
後述の推定フェーズにおいて電子機器10がずり落ち動作の開始時点を推定する精度を向上するために、比較的多数のサンプル(例えば被監視対象Tのような人間)のデータについて、機械学習を行ってもよい。機械学習を行う際のサンプルのデータを多くすることにより、後述の推定フェーズにおいて電子機器10がずり落ち動作の開始時点を推定する際の精度を高めることが期待できる。したがって、機械学習を行う際のサンプルのデータを多くすることにより、電子機器10がずり落ち動作の開始を推定して警告を発する際に、誤報を発したり、失報したりするといったことを低減し得る。
In order to improve the accuracy of estimating the start time of the sliding motion of the
上述の機械学習において、タイミング情報は、撮像部20によって撮像された経時的な画像においてずり落ち動作の開始時点及び終了時点を示す情報とした。一実施形態において、タイミング情報は、撮像部20によって撮像された経時的な画像においてずり落ち動作の開始時点及び終了時点以外の時点を示す情報を含むものとしてもよい。
In the above-mentioned machine learning, the timing information is information indicating the start time point and the end time point of the sliding motion in the time-dependent image captured by the
例えば、図7に示す学習データ(4)の区間の画像データは、ずり落ち動作の開始時点と終了時点との間に存在する。このため、学習データ(4)は、危険な(すなわちずり落ちのリスクが高い)クラスに分類されるデータとして、コントローラ15に機械学習させてよい。図7に示す学習データ(4)の区間の画像データは、ずり落ち動作の開始時点とほぼ同じ時点において開始している。一方、図7に示す学習データ(4)の区間の画像データは、ずり落ち動作の終了時点とは異なる時点において終了している。
For example, the image data in the section of the learning data (4) shown in FIG. 7 exists between the start time point and the end time point of the sliding operation. Therefore, the training data (4) may be machine-learned by the
一方、図7に示す学習データ(1)乃至(3)、及び学習データ(5)乃至(6)の区間の画像データは、ずり落ち動作の開始時点と終了時点との間に存在しない。このため、これらの学習データは、正常な(すなわち危険が少ない(ずり落ちのリスクが低い))クラスに分類されるデータとして、コントローラ15に機械学習させてよい。これらの学習データの区間の画像データは、ずり落ち動作の開始時点とは異なる時点において開始し、ずり落ち動作の終了時点とは異なる時点において終了している。
On the other hand, the learning data (1) to (3) and the image data in the section of the learning data (5) to (6) shown in FIG. 7 do not exist between the start time point and the end time point of the sliding operation. Therefore, these training data may be machine-learned by the
このように、一実施形態において、タイミング情報は、撮像部20によって撮像された経時的な画像においてずり落ち動作の開始時点及び終了時点以外の時点を示す情報を含んでもよい。このようなタイミング情報に基づいて、コントローラ15は、ずり落ち動作の開始時点と終了時点との間における被監視対象Tの所定部位の座標と、ずり落ち動作の開始との関係を機械学習してもよい。
As described above, in one embodiment, the timing information may include information indicating a time point other than the start time point and the end time point of the sliding operation in the time-dependent image captured by the
コントローラ15は、図7に示すように、危険なクラスに分類される学習データ(4)のみならず、正常なクラスに分類される学習データ(1)乃至(3)、及び学習データ(5)乃至(6)のような学習データにも基づいて、機械学習を行ってよい。コントローラ15は、危険なクラスに分類される学習データ及び正常なクラスに分類される学習データに基づいて機械学習を行うことにより、ずり落ち動作の開始を推定する精度を高めることができる。
As shown in FIG. 7, the
次に、推定フェーズにおける動作について、説明する。 Next, the operation in the estimation phase will be described.
図12は、一実施形態に係るシステム1の推定フェーズにおける動作の一例を示すフローチャートである。図12は、一実施形態に係るシステム1に含まれる電子機器10の推定フェーズにおける動作に焦点を当てたフローチャートとしてもよい。
FIG. 12 is a flowchart showing an example of the operation in the estimation phase of the
上述のように、例えば介護施設又は病院などにおいて、お年寄り又は負傷者のように、足腰が弱くなるなど筋力が低下している者は、椅子に着座している際に、その椅子からずり落ちるリスクがあり得る。また、椅子に着座している者が着座したままの体勢を比較的長く継続させると不快に感じ、身体を揺するように動かすことがある。この場合も、例えば上述のような筋力が低下している者などは、身体を揺するように動かしているうちに、その椅子からずり落ちるリスクがあり得る。一実施形態に係るシステム1の推定フェーズにおいては、学習フェーズにおいて得られた機械学習データを利用して、被監視対象Tが椅子からずり落ちる動作における身体の各部の位置(座標)から、当該ずり落ちる動作の開始を推定してよい。以下、このような動作について、より詳細に説明する。システム1によって被監視対象Tを監視することで、例えば介護施設又は病院などのスタッフは、ずり落ち動作が開始することを、被監視対象Tが実際にずり落ち動作を終了する前に認識することができる。
As mentioned above, in nursing care facilities or hospitals, for example, elderly people or injured people who have weak muscles such as weak legs are at risk of slipping off the chair when sitting on the chair. There can be. In addition, a person sitting on a chair may feel uncomfortable if he / she keeps sitting in a sitting position for a relatively long time, and may move his / her body to shake. In this case as well, for example, a person with weak muscles as described above may have a risk of slipping off the chair while moving the body to shake. In the estimation phase of the
図12に示す動作が開始すると、電子機器10のコントローラ15は、機械学習データを取得する(ステップS21)。ステップS21において取得する機械学習データは、図2に示したステップS15における機械学習の結果として生成されるデータとしてよい。すなわち、機械学習データとは、人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間におけるその人間の所定部位の座標と、その人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習されたデータとしてよい。
When the operation shown in FIG. 12 starts, the
図12に示す動作が開始する時点で既に機械学習データを取得している場合には、コントローラ15は、ステップS21において再び機械学習データを取得しなくてもよい。また、ステップS21において取得する機械学習データは、後述のステップS25において用いられる。このため、一実施形態において、機械学習データの取得は、必ずしもステップS21において行う必要はなく、ステップ25までの任意のタイミングにおいて行ってもよい。
If the machine learning data has already been acquired at the time when the operation shown in FIG. 12 starts, the
ステップS21において機械学習データが取得されたら、コントローラ15は、撮像部20によって撮像された画像を取得する(ステップS22)。ステップS22における動作は、図2に示したステップS11の動作と同様に行ってよい。
When the machine learning data is acquired in step S21, the
ステップ22において撮像された画像を取得すると、抽出部11は、被監視対象Tの身体における所定部位の座標を抽出する(ステップS23)。ステップS23における動作は、図2に示したステップS12の動作と同様に行ってよい。すなわち、例えば、抽出部11は、撮像部20によって撮像された秒間所定数のフレームの各画像ごとに、被監視対象Tの身体における所定数の関節点の座標を2次元的に抽出してもよい。
When the image captured in step 22 is acquired, the
ステップS23において所定部位の座標が抽出されたら、抽出部11は、抽出された所定数のフレーム(例えば1秒間の15フレーム)における座標(X,Y)それぞれの最大値及び最小値に従って、座標を正規化する(ステップS24)。ステップS24における動作は、図2に示したステップS13の動作と同様に行ってよい。すなわち、例えば、抽出部11は、2次元的に抽出された被監視対象Tの身体における所定数の関節点の座標の各方向成分を、当該各方向成分の最大値及び最小値に基づいて正規化してもよい。
After the coordinates of the predetermined portion are extracted in step S23, the
ステップS24において座標が正規化されたら、コントローラ15は、ステップS21において取得された機械学習データに基づいて、ステップS24において正規化された座標から、ずり落ち動作の開始が推定されるか否かを判定する(ステップS25)。
After the coordinates are normalized in step S24, the
ステップS25においてずり落ち動作の開始が推定される場合、すなわち、ずり落ち動作がこれから開始するリスクが高まった場合、コントローラ15は、所定の警告信号を出力する(ステップS26)。ステップS26において、コントローラ15は、所定の警告信号を警告部17に出力してよい。これにより、警告部17は、所定の警告を発することができる。
When the start of the slide-down operation is estimated in step S25, that is, when the risk that the slide-down operation is about to start increases, the
一方、ステップS25においてずり落ち動作の開始が推定されない場合、すなわち、ずり落ち動作がこれから開始するリスクが高まっていない場合、コントローラ15は、ステップS26の動作をスキップして、図12に示す動作を終了してよい。図12に示す動作が終了すると、コントローラ15は、再び図12に示す動作を開始してよい。例えば、コントローラ15は、画像データから座標が抽出されるごとに、図12に示す動作を繰り返してもよい。すなわち、例えば抽出部11が秒間15フレームの画像データから座標(X,Y)を抽出する場合、コントローラ15は、ステップS25におけるずり落ち動作の開始の推定を秒間15回行ってもよい。
On the other hand, if the start of the slipping operation is not estimated in step S25, that is, if the risk that the sliding operation will start from now on is not increased, the
このように、一実施形態において、コントローラ15は、機械学習データに基づいて、抽出部11によって抽出された被監視対象Tの所定部位の座標から、ずり落ち動作の開始を推定してよい。また、抽出部11は、撮像部20によって撮像された単位時間当たり所定数のフレームの画像から被監視対象Tの所定部位の座標を抽出してもよい。この場合、コントローラ15は、抽出部11によって抽出された被監視対象Tの所定部位の座標から、ずり落ち動作の開始を推定してもよい。
As described above, in one embodiment, the
図12に示すように、コントローラ15は、ステップS25においてずり落ち動作の開始を推定したら直ちに、ステップS26において所定の警告信号を出力してよい。このため、コントローラ15は、実際のずり落ち動作が終了する前に、所定の警告信号を出力してよい。このように、コントローラ15は、ずり落ち動作の開始を推定したら、ずり落ち動作の終了前に、所定の警告信号を出力してもよい。また、コントローラ15は、可能な場合には、実際のずり落ち動作が開始する前に、所定の警告信号を出力してもよい。このように、コントローラ15は、ずり落ち動作の開始を推定したら、ずり落ち動作の開始前に、所定の警告信号を出力してもよい。
As shown in FIG. 12, the
一実施形態に係るシステム1によれば、例えば被監視対象Tのような人間が着座していた椅子からずり落ちる動作における身体の関節点の座標と、当該ずり落ちる動作のタイミングとの関係を機械学習することができる。また、一実施形態に係るシステム1によれば、機械学習した結果に基づいて、被監視対象Tが着座していた椅子からずり落ちる動作における身体の関節点の座標から、ずり落ち動作の開始を推定することができる。したがって、一実施形態に係るシステム1によれば、被監視対象Tが椅子に着座している場合に、その椅子からずり落ちる動作が終了する前、例えば床面などに落下する前に、所定の警告を発することができる。したがって、一実施形態に係るシステム1によれば、例えば介護施設などのスタッフは、例えば要看護者又は要介護者などのような被監視者が椅子からずり落ちる前に、被監視者が椅子からずり落ちようとしていることを認識し得る。このため、一実施形態に係るシステム1によれば、被監視対象Tの安全に供し得る。
According to the
図13は、図12のステップS25において説明した推定処理をさらに説明する図である。図13は、左側の列において、例えば図12のステップS22において取得された画像データに撮像された被監視対象Tの状態を示している。図13に示すように、撮像された画像データにおいて、被監視対象Tは、撮像部20が設置された部屋に入室して椅子に着席した後、ずり落ち動作を開始したとする。ずり落ち動作が開始した瞬間から、コントローラ15は、図12に示したステップS22以降の動作を、秒間15フレームの処理として行うものとする。すなわち、システム1において、撮像部20は、秒間15フレームの画像を撮像するものとしてよい。また、システム1において、コントローラ15は、秒間15フレームの画像を取得するものとしてよい。また、システム1において、抽出部11は、秒間15フレームの画像から、被監視対象Tの身体の関節点の座標を抽出するものとしてよい。また、システム1において、コントローラ15(又は抽出部11)は、秒間15フレームの画像から抽出された座標を正規化するものとしてよい。さらに、システム1において、コントローラ15は、機械学習データに基づいて、秒間15フレームの正規化された座標から、ずり落ちの開始を推定してよい。
FIG. 13 is a diagram further explaining the estimation process described in step S25 of FIG. FIG. 13 shows the state of the monitored target T captured in the image data acquired in step S22 of FIG. 12, for example, in the left column. As shown in FIG. 13, in the captured image data, it is assumed that the monitored target T enters the room in which the
図13の中央の列において、コントローラ15が画像データのフレームを連続して取得する様子を概念的に示してある。ここで、各フレームの画像データは、画像データから抽出された座標としてもよいし、正規化された座標としてもよい。また、図13の中央の列において、ハッチングを付した画像データは、ずり落ち動作が開始してから1秒間のフレームを表している。
In the central column of FIG. 13, the
このような状況において、コントローラ15は、ずり落ち動作が開始してから1秒間のフレーム(フレーム1からフレーム15まで)に基づいて、その時点におけるずり落ちの開始を推定してよい(図13に示す推定1)。次に、コントローラ15は、フレーム2からフレーム16までフレームに基づいて、その時点におけるずり落ちの開始を推定してよい(図13に示す推定2)。以上のような動作を繰り返すことにより、コントローラ15は、ずり落ちの開始の推定を、秒間15回行うことになる。したがって、一実施形態に係るシステム1によれば、例えば図13に示す推定1及び推定2において何らかの原因により本来推定されるべきずり落ちの開始が推定されなかったとしても、秒間15回の推定によって失報のリスクを低減することができる。
In such a situation, the
上述した実施形態において、例えば図4に示したように、抽出部11は、被監視対象Tの関節点として、13か所の部位の座標を抽出する例について説明した。しかしながら、一実施形態において、抽出部11は、13より多くの箇所の部位の座標を抽出してもよいし、13より少ない箇所の部位の座標を抽出してもよい。また、上述した実施形態において、システム1は、秒間15フレームを処理する例について説明した。しかしながら、一実施形態において、システム1又はシステム1を構成する各機能部は、秒間15よりも多くのフレームを処理してもよいし、秒間15よりも少ないフレームを処理してもよい。一実施形態において、システム1が扱う関節点の数及び/又は処理するフレームの数は、ずり落ち動作の開始の推定が妥当な結果になるように調整してもよい。
In the above-described embodiment, for example, as shown in FIG. 4, the
このように、一実施形態において、コントローラ15は、ずり落ち動作の開始の推定の妥当性が所定以上になるように、前記フレームの数及び前記関節点の数の少なくとも一方を決定してもよい。
As described above, in one embodiment, the
上記実施形態においては、撮像された画像データを用いているため、可視光を検出対象として用いて監視を行った。しかしながら、本開示は、このような場合に限定されず、任意の電磁波、音波、温度、振動など、他の検出対象を任意に用いてもよい。 In the above embodiment, since the captured image data is used, visible light is used as a detection target for monitoring. However, the present disclosure is not limited to such cases, and other detection targets such as arbitrary electromagnetic waves, sound waves, temperatures, and vibrations may be arbitrarily used.
本開示に係る実施形態について、諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形又は修正を行うことが容易であることに注意されたい。従って、これらの変形又は修正は本開示の範囲に含まれることに留意されたい。例えば、各構成部又は各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の構成部又はステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。本開示に係る実施形態について装置を中心に説明してきたが、本開示に係る実施形態は装置の各構成部が実行するステップを含む方法としても実現し得るものである。本開示に係る実施形態は装置が備えるプロセッサにより実行される方法、プログラム、又はプログラムを記録した記憶媒体としても実現し得るものである。本開示の範囲にはこれらも包含されるものと理解されたい。 Although the embodiments according to the present disclosure have been described based on the drawings and examples, it should be noted that those skilled in the art can easily make various modifications or modifications based on the present disclosure. It should be noted, therefore, that these modifications or modifications are within the scope of this disclosure. For example, the functions included in each component or each step can be rearranged so as not to be logically inconsistent, and a plurality of components or steps can be combined or divided into one. Is. Although the embodiment according to the present disclosure has been mainly described with respect to the apparatus, the embodiment according to the present disclosure can also be realized as a method including steps executed by each component of the apparatus. The embodiments according to the present disclosure can also be realized as a method, a program, or a storage medium on which a program is recorded, which is executed by a processor included in the apparatus. It should be understood that these are also included in the scope of this disclosure.
上述した実施形態は、システム1としての実施のみに限定されるものではない。例えば、上述した実施形態は、システム1に含まれる電子機器10として実施してもよい。また、上述した実施形態は、例えば、電子機器10のような機器による監視方法として実施してもよい。さらに、上述した実施形態は、例えば、電子機器10のような機器又は情報処理装置(例えばコンピュータ)が実行するプログラムとして実施してもよい。
The above-described embodiment is not limited to the implementation as the
1 システム
10 電子機器
11 抽出部
13 記憶部
132 機械学習データ
15 コントローラ
17 警告部
19 通信部
20 撮像部
1
Claims (20)
前記撮像部によって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出部と、
前記撮像部によって撮像された経時的な画像において前記被監視対象が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示すタイミング情報に基づいて、前記開始時点と前記終了時点との間における前記所定部位の座標と、前記被監視対象が着座していた椅子からずり落ちる動作の開始との関係を機械学習するコントローラと、
を備えるシステム。 An imaging unit that captures the monitored object and
An extraction unit that extracts the coordinates of a predetermined portion of the monitored object from the image captured by the imaging unit, and an extraction unit.
Between the start time and the end time based on the timing information indicating the start time and the end time of the operation in which the monitored object slides down from the chair in which the monitored object is seated in the time-dependent image captured by the image pickup unit. A controller that machine-learns the relationship between the coordinates of the predetermined portion and the start of the motion of sliding down from the chair on which the monitored object is seated.
A system equipped with.
前記撮像部によって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出部と、
人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間における前記人間の所定部位の座標と、前記人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習された機械学習データに基づいて、前記抽出部によって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定するコントローラと、
を備えるシステム。 An imaging unit that captures the monitored object and
An extraction unit that extracts the coordinates of a predetermined portion of the monitored object from the image captured by the imaging unit, and an extraction unit.
Machine learning was performed on the relationship between the coordinates of the predetermined part of the human between the start time and the end time of the motion of sliding down from the chair in which the human was seated and the start of the motion of sliding down from the chair in which the human was seated. Based on the machine learning data, the controller that estimates the start of the motion of the monitored object sliding down from the chair on which the monitored object was seated from the coordinates of the predetermined portion of the monitored object extracted by the extraction unit.
A system equipped with.
前記コントローラは、前記抽出部によって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定する、請求項8に記載のシステム。 The extraction unit extracts the coordinates of the predetermined portion of the monitored object from the images of a predetermined number of frames per unit time captured by the imaging unit.
The system according to claim 8, wherein the controller estimates the start of an operation of sliding down from the chair on which the monitored object is seated from the coordinates of a predetermined portion of the monitored object extracted by the extraction unit.
前記被監視対象を含んで撮像された経時的な画像において前記被監視対象が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示すタイミング情報に基づいて、前記開始時点と前記終了時点との間における前記所定部位の座標と、前記被監視対象が着座していた椅子からずり落ちる動作の開始との関係を機械学習するコントローラと、
を備える電子機器。 An extraction unit that extracts the coordinates of a predetermined part of the monitored object from an image captured including the monitored object, and an extraction unit.
The start time and the end time are based on the timing information indicating the start time and the end time of the motion of the monitored object sliding down from the chair in which the monitored object is seated in the time-lapse image captured including the monitored object. A controller that machine-learns the relationship between the coordinates of the predetermined part between the two and the start of the motion of sliding down from the chair on which the monitored object is seated.
Electronic equipment equipped with.
人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間における前記人間の所定部位の座標と、前記人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習された機械学習データに基づいて、前記抽出部によって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定するコントローラと、
を備える電子機器。 An extraction unit that extracts the coordinates of a predetermined part of the monitored object from an image captured including the monitored object, and an extraction unit.
Machine learning was performed on the relationship between the coordinates of the predetermined part of the human between the start time and the end time of the motion of sliding down from the chair in which the human was seated and the start of the motion of sliding down from the chair in which the human was seated. Based on the machine learning data, the controller that estimates the start of the motion of the monitored object sliding down from the chair on which the monitored object was seated from the coordinates of the predetermined portion of the monitored object extracted by the extraction unit.
Electronic equipment equipped with.
前記撮像ステップによって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出ステップと、
前記撮像ステップによって撮像された経時的な画像において前記被監視対象が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示すタイミング情報に基づいて、前記開始時点と前記終了時点との間における前記所定部位の座標と、前記被監視対象が着座していた椅子からずり落ちる動作の開始との関係を機械学習する機械学習ステップと、
を含む、電子機器の制御方法。 An imaging step that captures the monitored object, and
An extraction step of extracting the coordinates of a predetermined portion of the monitored object from the image captured by the imaging step, and an extraction step.
Between the start time and the end time based on the timing information indicating the start time and the end time of the operation in which the monitored object slides down from the chair in which the monitored object is seated in the time-dependent image captured by the imaging step. A machine learning step for machine learning the relationship between the coordinates of the predetermined portion and the start of the motion of sliding down from the chair on which the monitored object was seated.
How to control electronic devices, including.
前記撮像ステップによって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出ステップと、
人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間における前記人間の所定部位の座標と、前記人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習された機械学習データに基づいて、前記抽出ステップによって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定する推定ステップと、
を含む、電子機器の制御方法。 An imaging step that captures the monitored object, and
An extraction step of extracting the coordinates of a predetermined portion of the monitored object from the image captured by the imaging step, and an extraction step.
Machine learning was performed on the relationship between the coordinates of the predetermined part of the human between the start time and the end time of the motion of sliding down from the chair in which the human was seated and the start of the motion of sliding down from the chair in which the human was seated. Based on the machine learning data, the estimation step of estimating the start of the motion of the monitored object sliding down from the chair on which the monitored object was seated from the coordinates of the predetermined portion of the monitored object extracted by the extraction step, and the estimation step.
How to control electronic devices, including.
被監視対象を撮像する撮像ステップと、
前記撮像ステップによって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出ステップと、
前記撮像ステップによって撮像された経時的な画像において前記被監視対象が着座していた椅子からずり落ちる動作の開始時点及び終了時点を示すタイミング情報に基づいて、前記開始時点と前記終了時点との間における前記所定部位の座標と、前記被監視対象が着座していた椅子からずり落ちる動作の開始との関係を機械学習する機械学習ステップと、
を実行させる、プログラム。 On the computer
An imaging step that captures the monitored object, and
An extraction step of extracting the coordinates of a predetermined portion of the monitored object from the image captured by the imaging step, and an extraction step.
Between the start time and the end time based on the timing information indicating the start time and the end time of the operation in which the monitored object slides down from the chair in which the monitored object is seated in the time-dependent image captured by the imaging step. A machine learning step for machine learning the relationship between the coordinates of the predetermined portion and the start of the motion of sliding down from the chair on which the monitored object was seated.
A program that runs.
被監視対象を撮像する撮像ステップと、
前記撮像ステップによって撮像された画像から前記被監視対象の所定部位の座標を抽出する抽出ステップと、
人間が着座していた椅子からずり落ちる動作の開始時点と終了時点との間における前記人間の所定部位の座標と、前記人間が着座していた椅子からずり落ちる動作の開始との関係が機械学習された機械学習データに基づいて、前記抽出ステップによって抽出された前記被監視対象の所定部位の座標から、前記被監視対象が着座していた椅子からずり落ちる動作の開始を推定する推定ステップと、
を実行させる、プログラム。
On the computer
An imaging step that captures the monitored object, and
An extraction step of extracting the coordinates of a predetermined portion of the monitored object from the image captured by the imaging step, and an extraction step.
Machine learning was performed on the relationship between the coordinates of the predetermined part of the human between the start time and the end time of the motion of sliding down from the chair in which the human was seated and the start of the motion of sliding down from the chair in which the human was seated. Based on the machine learning data, the estimation step of estimating the start of the motion of the monitored object sliding down from the chair on which the monitored object was seated from the coordinates of the predetermined portion of the monitored object extracted by the extraction step, and the estimation step.
A program that runs.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020145012A JP2022039814A (en) | 2020-08-28 | 2020-08-28 | System, electronic apparatus, method for controlling electronic apparatus, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020145012A JP2022039814A (en) | 2020-08-28 | 2020-08-28 | System, electronic apparatus, method for controlling electronic apparatus, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022039814A true JP2022039814A (en) | 2022-03-10 |
Family
ID=80497727
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020145012A Pending JP2022039814A (en) | 2020-08-28 | 2020-08-28 | System, electronic apparatus, method for controlling electronic apparatus, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022039814A (en) |
-
2020
- 2020-08-28 JP JP2020145012A patent/JP2022039814A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10383314B2 (en) | Empathy monitoring and detection system | |
US10600204B1 (en) | Medical environment bedsore detection and prevention system | |
US9710920B2 (en) | Motion information processing device | |
CN108882853B (en) | Triggering measurement of physiological parameters in time using visual context | |
Dovgan et al. | Intelligent elderly-care prototype for fall and disease detection | |
US10489661B1 (en) | Medical environment monitoring system | |
JP2022095619A (en) | Recuperation support system | |
JPWO2017183602A1 (en) | Monitored person monitoring system and monitored person monitoring method | |
US10475206B1 (en) | Medical environment event parsing system | |
US10229489B1 (en) | Medical environment monitoring system | |
Bisio et al. | Towards IoT-based eHealth services: A smart prototype system for home rehabilitation | |
JP7314939B2 (en) | Image recognition program, image recognition device, learning program, and learning device | |
JP2022039814A (en) | System, electronic apparatus, method for controlling electronic apparatus, and program | |
JP2022050269A (en) | System, electronic apparatus, method for controlling electronic apparatus, and program | |
JP2022050268A (en) | System, electronic apparatus, method for controlling electronic apparatus, and program | |
JP2022050273A (en) | System, electronic apparatus, method for controlling electronic apparatus, and program | |
JP2022050271A (en) | System, electronic apparatus, method for controlling electronic apparatus, and program | |
Safarzadeh et al. | Real-time fall detection and alert system using pose estimation | |
JP2022050272A (en) | System, electronic apparatus, method for controlling electronic apparatus, and program | |
JP7518699B2 (en) | SYSTEM, ELECTRONIC DEVICE, CONTROL METHOD FOR ELECTRONIC DEVICE, AND PROGRAM | |
Chen et al. | A Novel CNN-BiLSTM Ensemble Model With Attention Mechanism for Sit-to-Stand Phase Identification Using Wearable Inertial Sensors | |
JP2022055248A (en) | System, electronic apparatus, method for controlling electronic apparatus, and program | |
JPWO2017183528A1 (en) | Monitored person monitoring apparatus, method and system | |
JP2022123738A (en) | Determination device, determination method, determination program and determination system | |
JP7449212B2 (en) | Systems, electronic devices, control methods for electronic devices, and programs |