JP2019021002A - Watching support system, and control method thereof - Google Patents
Watching support system, and control method thereof Download PDFInfo
- Publication number
- JP2019021002A JP2019021002A JP2017138539A JP2017138539A JP2019021002A JP 2019021002 A JP2019021002 A JP 2019021002A JP 2017138539 A JP2017138539 A JP 2017138539A JP 2017138539 A JP2017138539 A JP 2017138539A JP 2019021002 A JP2019021002 A JP 2019021002A
- Authority
- JP
- Japan
- Prior art keywords
- person
- watching
- watched
- determination
- determination unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000003384 imaging method Methods 0.000 claims abstract description 25
- 238000012544 monitoring process Methods 0.000 claims description 14
- 230000000694 effects Effects 0.000 abstract description 5
- 230000009467 reduction Effects 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 28
- 238000001514 detection method Methods 0.000 description 27
- 230000009471 action Effects 0.000 description 25
- 238000012545 processing Methods 0.000 description 13
- 230000006399 behavior Effects 0.000 description 12
- 230000006870 function Effects 0.000 description 12
- 230000004048 modification Effects 0.000 description 11
- 238000012986 modification Methods 0.000 description 11
- 230000010365 information processing Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 235000012054 meals Nutrition 0.000 description 2
- 206010012289 Dementia Diseases 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000474 nursing effect Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/18—Status alarms
- G08B21/22—Status alarms responsive to presence or absence of persons
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B25/00—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B25/00—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
- G08B25/01—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
- G08B25/04—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium using a single signalling line, e.g. in a closed loop
Abstract
Description
本発明は、ベッド上の対象者の見守りを支援するための技術に関する。 The present invention relates to a technique for supporting watching of a subject on a bed.
ベッドからの転落事故などを未然に防ぐため、病院や介護施設などにおける患者の見守りを支援するシステムが知られている。特許文献1には、カメラで撮影した画像(撮影画像)から患者を検出し、その検出結果に基づいて患者の動作を判定し、その判定結果に応じた通知を行うシステムが提案されている。
In order to prevent accidents such as falling from a bed, a system for supporting patient watching in a hospital or a nursing facility is known.
上述のように、撮影画像から対象者を検出し、その検出結果を見守り支援に役立てるという試みは、従来からなされている。しかしながら、対象者が他者に直接的に見守られている場合には通知が不要であるにも拘わらず、特許文献1のように所定の動作に応じて通知を行う方法では、そのような不要な通知が行われることがある。そして、不要な通知の発生は、通知を確認するシステム利用者の負担増加につながる。さらに、所定の動作に応じて撮影画像を通知する方法では、不要な通知により、撮影画像に写っている他者のプライバシーを侵害することになりかねない。
As described above, attempts have been made in the past to detect a target person from a captured image and watch the detection result for use in support. However, when the subject is directly watched by others, the notification is unnecessary, but the method of performing notification according to a predetermined operation as in
本発明は、上記実情に鑑みなされたものであって、不要な通知を抑制することができ、システム利用者の負担軽減やプライバシー保護などの効果を得ることができる技術を提供することを目的とする。 The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a technology capable of suppressing unnecessary notifications and obtaining effects such as reduction of burden on a system user and protection of privacy. To do.
上記目的を達成するために、本発明では、撮像装置により撮影された画像(撮影画像)の判定領域に基づいて、対象者が他者に見守られているか否かを判定し、対象者が他者に見守られていると判定した場合に通知を省略する、という方法を採用する。 In order to achieve the above object, according to the present invention, it is determined whether or not the subject is watched by others based on the judgment region of the image (captured image) taken by the imaging device. A method is adopted in which notification is omitted when it is determined that the person is watching.
具体的には、本発明の第一態様は、ベッド上の対象者の見守りを支援する見守り支援システムであって、撮像装置により撮影された画像を取得する画像取得部と、前記撮影された画像の一部の領域であり、且つ、前記ベッドを含む領域である判定領域の画像に基づいて、前記対象者が他者に見守られているか否かを判定する見守り判定部と、前記撮影された画像に基づいて、前記対象者の状態を判定する状態判定部と、前記状態判定部の判定結果に応じた通知を行う出力部と、を有し、前記出力部は、前記対象者が前記他者に見守られていると前記見守り判定部により判定された場合に、前記通知を省略することを特徴とする見守り支援システムを提供する。 Specifically, the first aspect of the present invention is a monitoring support system that supports watching of a subject on a bed, and an image acquisition unit that acquires an image captured by an imaging device, and the captured image A monitoring determination unit that determines whether or not the subject is being watched by others based on an image of a determination region that is a part of the region and includes the bed; A state determination unit that determines a state of the subject based on an image; and an output unit that performs notification according to a determination result of the state determination unit. A watch support system is provided in which the notice is omitted when the watch determination unit determines that the watch is being watched by a person.
この構成によれば、ベッドの領域とその周辺の領域とを撮影した画像から、対象者が他者に見守られているか否かが判定される。ここで、患者や要介護者などの対象者を、看護師や介護者などの他者が見守る場合を考える。この場合には、対象者はベッドにいる可能性が高く、他者はベッド周辺にいる可能性が高い。そのため、上記構成によれば、対象者が他者に見守られているか否かを高精度に判定することができる。そして、通知は、直接的に見守られていない対象者を間接的に見守るために必要であり、対象者が他者に直接的
に見守られている場合には不要である。上記構成によれば、対象者が他者に見守られていると判定された場合に、通知が省略される。これにより、不要な通知を抑制することができ、システム利用者の負担軽減やプライバシー保護などの効果を得ることができる。例えば、不要な通知をシステム利用者が確認するといった手間を省くことができる。また、見舞客などのシステムの利用に関与しない他者の画像が不必要に通知されることを抑制でき、他者のプライバシーを保護することができる。
According to this configuration, it is determined whether or not the subject is being watched by another person from the images of the bed area and the surrounding area. Here, a case is considered in which a subject such as a patient or a care recipient is watched by another person such as a nurse or a caregiver. In this case, the target person is likely to be in the bed, and the other person is likely to be around the bed. Therefore, according to the said structure, it can be determined with high precision whether the subject is watched by others. The notification is necessary for indirectly watching the target person who is not directly watched, and is not necessary when the target person is watched directly by others. According to the above configuration, notification is omitted when it is determined that the subject is being watched by others. As a result, unnecessary notifications can be suppressed, and effects such as reducing the burden on the system user and protecting the privacy can be obtained. For example, it is possible to save the trouble of the system user confirming unnecessary notifications. In addition, it is possible to suppress unnecessary notification of an image of another person who is not involved in the use of the system such as a visitor, and it is possible to protect the privacy of the other person.
前記見守り判定部は、前記判定領域に2人以上の人物が存在する場合に、前記対象者が前記他者に見守られていると判定するとよい。2人以上の人物の中に、対象者と、対象者を見守る他者とが含まれる可能性が高いからである。 The watching determination unit may determine that the target person is being watched by the other person when two or more persons exist in the determination region. This is because there is a high possibility that the target person and others watching over the target person are included in the two or more persons.
前記見守り判定部は、前記ベッドに存在する第1の人物と、前記第1の人物の方を向いている第2の人物とが前記判定領域に存在する場合に、前記対象者が前記他者に見守られていると判定してもよい。ベッドに存在する第1の人物は対象者である可能性が高く、対象者(第1の人物)の方を向いている第2の人物は対象者を見守る人物である可能性が高いからである。 When the first person existing in the bed and the second person facing the first person are present in the determination area, the watching determination unit determines that the target person is the other person. It may be determined that it is being watched over by. The first person present on the bed is likely to be the target person, and the second person facing the target person (first person) is likely to be the person watching over the target person. is there.
前記見守り判定部は、顔向きのベクトルと、前記第1の人物へ向かうベクトルとのなす角度が閾値以下である人物を、前記第1の人物の方を向いている前記第2の人物として決定するとよい。顔向きのベクトルと、第1の人物へ向かうベクトルとのなす角度が閾値以下である人物は、第1の人物の方を向いている可能性が高いからである。 The watching determination unit determines, as the second person facing the first person, a person whose angle between a face-facing vector and a vector heading for the first person is equal to or less than a threshold value Good. This is because a person whose angle between the face-facing vector and the vector heading to the first person is equal to or smaller than the threshold is likely to face the first person.
前記見守り判定部は、見守られる動作を行っている人物と、見守る動作を行っている人物とが前記判定領域に存在する場合に、前記対象者が前記他者に見守られていると判定してもよい。見守られる動作を行っている人物は、他者に見守られている対象者である可能性が高く、見守る動作を行っている人物は、対象者を見守っている他者である可能性が高いからである。 The watching determination unit determines that the target person is watched by the other person when the person performing the watching operation and the person performing the watching operation exist in the determination area. Also good. Because the person performing the watched action is likely to be the target person watched by others, the person performing the watch action is likely to be the other person watching the target person It is.
なお、本発明は、上記構成ないし機能の少なくとも一部を有する見守り支援システムとして捉えることができる。また、本発明は、上記処理の少なくとも一部を含む、見守り支援方法又は見守り支援システムの制御方法や、これらの方法をコンピュータに実行させるためのプログラム、又は、そのようなプログラムを非一時的に記録したコンピュータ読取可能な記録媒体として捉えることもできる。上記構成及び処理の各々は技術的な矛盾が生じない限り互いに組み合わせて本発明を構成することができる。 The present invention can be understood as a watching support system having at least a part of the above configuration or function. The present invention also includes a monitoring support method or a monitoring support system control method including at least a part of the above processing, a program for causing a computer to execute these methods, or such a program non-temporarily. It can also be understood as a recorded computer-readable recording medium. Each of the above configurations and processes can be combined with each other to constitute the present invention as long as there is no technical contradiction.
本発明によれば、不要な通知を抑制することができ、システム利用者の負担軽減やプライバシー保護などの効果を得ることができる。 According to the present invention, unnecessary notifications can be suppressed, and effects such as reduction of the burden on the system user and protection of privacy can be obtained.
本発明は、ベッド上の対象者の見守りを支援するための技術に関する。この技術は、病院や介護施設などにおいて、患者や要介護者などの離床・起床行動を自動で検知し、危険な状態が発生した場合などに必要な通知を行うシステムに適用することができる。このシステムは、例えば、高齢者、認知症患者、子供などの見守り支援に好ましく利用することができる。 The present invention relates to a technique for supporting watching of a subject on a bed. This technology can be applied to a system that automatically detects a getting-away / wake-up action of a patient or a care recipient in a hospital or a care facility, and performs a necessary notification when a dangerous state occurs. This system can be preferably used for, for example, watching support for elderly people, dementia patients, children, and the like.
以下、図面を参照して本発明を実施するための好ましい形態の一例を説明する。ただし、以下の実施形態に記載されている装置の構成や動作は一例であり、本発明の範囲をそれらのみに限定する趣旨のものではない。 Hereinafter, an example of a preferable mode for carrying out the present invention will be described with reference to the drawings. However, the configurations and operations of the devices described in the following embodiments are merely examples, and are not intended to limit the scope of the present invention.
(システム構成)
図1と図2を参照して、本発明の実施形態に係る見守り支援システムの構成を説明する。図1は、見守り支援システム1のハードウェア構成および機能構成を模式的に示すブロック図であり、図2は、撮像装置の設置例を示す図である。
(System configuration)
With reference to FIG. 1 and FIG. 2, the structure of the watching support system which concerns on embodiment of this invention is demonstrated. FIG. 1 is a block diagram schematically illustrating a hardware configuration and a functional configuration of the
見守り支援システム1は、主なハードウェア構成として、撮像装置10と情報処理装置11を有している。撮像装置10と情報処理装置11の間は有線又は無線により接続されている。図1では、1つの撮像装置10のみ示しているが、複数台の撮像装置10を情報処理装置11に接続してもよい。
The
撮像装置10は、ベッド上の対象者を撮影して画像データを取り込むためのデバイスである。撮像装置10としては、モノクロ又はカラーの可視光カメラ、赤外線カメラ、三次元カメラなどを用いることができる。本実施形態では、夜間でも(部屋内が暗い場合でも)対象者の見守りを可能とするため、赤外線LED照明100と近赤外線カメラ101で構成される撮像装置10を採用する。撮像装置10は、図2に示すように、ベッド20の頭側上方から足側に向かって、ベッド20の全体を俯瞰するように設置される。撮像装置10は所定の時間間隔(例えば、30fps)で撮影を行い、その画像データは情報処理装置11に順次取り込まれる。なお、撮像装置10の向きは特に限定されない。ベッド20の足側からの向きで撮像装置10が設置されてもよいし、ベッド20の側面側からの向きで撮像装置10が設置されてもよい。
The
情報処理装置11は、撮像装置10から取り込まれる画像データをリアルタイムに分析し、ベッド20上の対象者21の起床状態や離床状態を自動で検知し、必要な場合に通知を行う機能を備える装置である。情報処理装置11は、具体的な機能として、画像取得部110、検出部111、見守り判定部112、行動判定部113、出力部114、領域設定部115、記憶部116を有している。本実施形態の情報処理装置11は、CPU(プロセッサ)、メモリ、ストレージ(HDD、SSDなど)、入力デバイス(キーボード、マウス、タッチパネルなど)、出力デバイス(ディスプレイ、スピーカなど)、通信インタフェースなどを具備する汎用のコンピュータにより構成され、上述した情報処理装置11の各機能は、ストレージ又はメモリに格納されたプログラムをCPUが実行することにより実現される。ただし、情報処理装置11の構成はこの例に限られない。例えば、複数台のコンピュータによる分散コンピューティングを行ってもよいし、上記機能の一部をクラウドサーバにより実行してもよいし、上記機能の一部をASICやFPGAのような回路で実行してもよい。
The
画像取得部110は、撮像装置10により撮影された画像(撮影画像)を取得する機能である。画像取得部110より入力された画像データは一時的にメモリ又はストレージに
記録され、検出部111、見守り判定部112、行動判定部113などの処理に供される。
The
検出部111は、画像取得部110により取得された撮影画像を分析し、当該撮影画像から、見守り対象者21や他者(看護師や介護者など)を検出する。例えば、検出部111は、人物の人体又はその一部(頭部、顔、上半身など)を検出する。撮影画像から人体やその一部を検出する方法としてはいかなる方法を用いてもよい。例えば、古典的なHaar−like特徴量やHoG特徴量を用いた識別器による手法や近年のFaster R−CNNによる手法を用いた物体検出アルゴリズムを好ましく用いることができる。本実施形態の検出部111は、Haar−like特徴量を用いた識別器により頭部(首より上の部分;例えば対象者21の頭部22)を検出し、検出結果として、頭部の位置(x,y)及びサイズ(縦横のピクセル数)を出力する。頭部の位置(x,y)は、例えば、頭部を囲む矩形枠の中心点の画像座標で表される。なお、本実施形態の検出部111は検出結果を画像座標系の位置・サイズで出力するが、検出部111が画像座標系を空間座標系に換算し、人物の空間座標系における3次元位置や3次元的なサイズを出力してもよい。
The
見守り判定部112は、画像取得部110により取得された撮影画像の一部の領域であり、且つ、ベッド20を含む領域である見守り判定領域の画像に基づいて、対象者21が他者に見守られているか否かを判定する機能である。本実施形態では、見守り判定部112は、見守り判定領域に対する検出部111の検出結果に基づいて、対象者21が他者に見守られているか否かを判定する。見守り判定部112の処理(見守り判定処理)については後述する。
The watching
行動判定部113は、画像取得部110により取得された撮影画像に基づいて、対象者21の状態や行動を判定する機能である。本実施形態では、行動判定部113は、撮影画像全体に対する検出部111の検出結果に基づいて、起床判定、離床判定などを行う。
The
出力部114は、行動判定部113の判定結果に応じた通知を行う機能である。本実施形態では、出力部114は、行動判定部113により対象者21の起床動作ないし離床動作が検知された場合に、必要な通知を行う。出力部114は、対象者21の動作の危険度合いに応じて、通知の要否(例えば、危険な状態の場合のみ通知を行う)、通知の内容(例えばメッセージの内容)、通知手段(例えば音声、メール、ブザー、警告灯)、通知先(例えば看護師、医師)、通知の頻度などを切り替えることができる。本実施形態では、出力部114は、対象者21が他者に見守られていると見守り判定部112により判定された場合に、通知を省略する。
The
領域設定部115は、撮像装置10により撮影される撮影画像に対し判定領域(見守り判定領域や行動判定領域)を設定する機能である。見守り支援システム1はベッド20上の対象者21の状態監視を目的とするため、撮影画像内のベッド20の領域に基づき判定領域が設定される。判定領域の設定は、手動で行ってもよいし自動で行ってもよい。手動設定の場合、領域設定部115は、撮影画像内のベッド領域ないし判定領域そのものをユーザに入力させるためのユーザインタフェースを提供するとよい。自動設定の場合、領域設定部115は、物体認識処理により撮影画像からベッド領域を検出するとよい。
The
図3Aは、撮影画像の例であり、図3Bは、図3Aの撮影画像に対し設定された見守り判定領域の例である。図3Cは、図3Aの撮影画像に対し設定された行動判定領域の例である。本実施形態では、領域設定部115は、ベッド領域30を基準として、見守り判定領域A0と行動判定領域A1〜A3を設定する。見守り判定領域A0は、ベッド領域30とその周辺からなる領域であり、対象者21が他者に見守られている時に対象者21と他
者が存在し得る範囲に対応する。行動判定領域A1は、ベッド20の頭側に設定される領域であり、就床時(対象者21がベッド20に寝ている時)に対象者21の頭部22が存在し得る範囲に対応する(以後、就床領域A1と呼ぶ)。行動判定領域A2は、ベッド20の足側に設定される領域であり、起床時(対象者21が上半身を起こした姿勢の時)に対象者21の頭部22が存在し得る範囲に対応する(以後、起床領域A2と呼ぶ)。本実施形態において、ベッド領域30に対する各判定領域A0〜A2の相対的な位置・サイズが予め決められており、ベッド領域30が特定されれば各判定領域A0〜A2の範囲は計算で定まるものとする。行動判定領域A3は、行動判定領域A1、A2以外の領域である。離床時(対象者21がベッド20から離れた状態の時)は、対象者21の頭部22は行動判定領域A3内に存在する(以後、離床領域A3と呼ぶ)。
3A is an example of a captured image, and FIG. 3B is an example of a watching determination area set for the captured image of FIG. 3A. FIG. 3C is an example of an action determination area set for the captured image of FIG. 3A. In the present embodiment, the
本実施形態では、見守り判定部112は、見守り判定領域A0に2つ以上の頭部の検出位置が属すか否かを判定する。そして、見守り判定部112は、見守り判定領域A0に2つ以上の頭部の検出位置が属す場合に、対象者21が他者に見守られていると判定し、そうでない場合に、対象者21が他者に見守られていないと判定する。
In the present embodiment, the watching
また、本実施形態では、行動判定部113は、頭部の検出位置が行動判定領域A1〜A3のいずれに属するかを判定し、対象者21の状態を分類する。ここでは、頭部が就床領域A1内で検出された場合を「就床状態」、起床領域A2内で検出された場合を「起床状態」、離床領域A3内で検出された場合を「離床状態」と呼ぶ。そして、行動判定部113は、「就寝状態」から「起床状態」への状態変化を起床動作として検知し、「起床状態」から「離床状態」への状態変化を離床動作として検知する。
Moreover, in this embodiment, the
記憶部116は、見守り支援システム1が処理に用いる各種のデータを記憶する機能である。記憶部116には、少なくとも、起床判定、離床判定などで用いる各種パラメータ(閾値など)、判定領域の設定情報、過去複数フレームの画像データ又は検出結果(移動速度や移動方向の計算のため)を記憶するための記憶エリアが設けられる。
The
(状態監視処理)
図4を参照して本システムの状態監視処理の一例を説明する。図4の処理フローは、撮像装置10から1フレームの画像が取り込まれる度に実行される。
(Status monitoring process)
An example of the status monitoring process of this system will be described with reference to FIG. The processing flow in FIG. 4 is executed every time one frame image is captured from the
まず、ステップS40において、画像取得部110は、撮像装置10から1フレームの撮影画像を取り込む。取得された撮影画像は記憶部116に一時的に記録される。
First, in step S <b> 40, the
次に、ステップS41において、検出部111は、ステップS40で取得された撮影画像から頭部を検出する。検出された頭部の位置(xy座標)の情報は、ステップS40で取得された撮影画像の撮影時刻の情報または当該撮影画像のフレーム番号に対応付けられて記憶部116に記録される。
Next, in step S41, the
そして、ステップS42において、見守り判定部112は、ステップS41の検出結果を用いて見守り判定処理を行う。
In step S42, the
次に、ステップS43において、ステップS42の判定結果に応じて処理が切り替えられる。対象者21が他者に見守られていると判定された場合には、ステップS44へ処理が進められる。対象者21が他者に見守られていると判定されなかった場合には、ステップS44とステップS45の処理が省略され、本フローチャートが終了される。
Next, in step S43, the processing is switched according to the determination result in step S42. If it is determined that the subject 21 is being watched by others, the process proceeds to step S44. If it is not determined that the
ステップS44において、行動判定部113は、ステップS41の検出結果を用いて、対象者21の状態や行動を判定する。ステップS45において、出力部114は、ステッ
プS44の判定結果に応じた通知を行う。
In step S44, the
(見守り判定処理)
図5と図6Aと図6Bを参照して、ステップS42の見守り判定処理の一例について説明する。図5は、見守り判定部112により実行される見守り判定処理のフローチャートであり、図6Aと図6Bは、画像取得部110により取得された撮影画像の例である。
(Monitoring judgment process)
With reference to FIG. 5, FIG. 6A, and FIG. 6B, an example of the watching determination process in step S42 will be described. FIG. 5 is a flowchart of the watching determination process executed by the watching
まず、ステップS50において、見守り判定部112は、見守り判定領域A0内で2つ以上の頭部が検出されたか否かを判定する。見守り判定領域A0内で2つ以上の頭部が検出された場合には、ステップS51へ処理が進められ、見守り判定領域A0内で頭部が1つのみ検出された場合には、ステップS52へ処理が進められる。
First, in step S50, the watching
ステップS51において、見守り判定部112は、対象者21が他者に見守られていると判定する(見守りあり判定)。
In step S <b> 51, the watching
ステップS52において、見守り判定部112は、対象者21が他者に見守られていないと判定する(見守りなし判定)。
In step S <b> 52, the watching
ここで、図6Aの撮影画像60がステップS40で取得された場合を考える。この場合には、ステップS41において、見守り判定領域A0内の頭部として、対象者21の頭部61のみが検出される。そのため、対象者21が他者に見守られていないと判定され(ステップS52)、対象者21の状態や行動に応じて通知が行われる(ステップS44とステップS45)。
Here, consider a case where the captured
次に、図6Bの撮影画像62がステップS40で取得された場合を考える。この場合には、ステップS41において、見守り判定領域A0内の頭部として、対象者21の頭部61と、対象者21を見守る他者の頭部63とが検出される。そのため、対象者21が他者に見守られていると判定され(ステップS51)、ステップS45の通知が省略される。
Next, consider a case where the captured
以上述べたように、本実施形態によれば、ベッドの領域とその周辺の領域とを撮影した画像から、対象者が他者に見守られているか否かが判定される。ここで、患者や要介護者などの対象者を、看護師や介護者などの他者が見守る場合を考える。この場合には、対象者はベッドにいる可能性が高く、他者はベッド周辺にいる可能性が高い。そのため、上記構成によれば、対象者が他者に見守られているか否かを高精度に判定することができる。 As described above, according to the present embodiment, it is determined whether or not the subject is being watched by others from the images obtained by capturing the bed area and the surrounding area. Here, a case is considered in which a subject such as a patient or a care recipient is watched by another person such as a nurse or a caregiver. In this case, the target person is likely to be in the bed, and the other person is likely to be around the bed. Therefore, according to the said structure, it can be determined with high precision whether the subject is watched by others.
具体的には、見守り判定領域に2人以上の人物が存在する場合に限って、対象者が他者に見守られていると判定される。2人以上の人物の中に、対象者と、対象者を見守る他者とが含まれる可能性が高いため、この構成によれば、対象者が他者に見守られていることを高精度に検出することができる。さらに、撮影画像に2人以上の人物が写っている場合には、他者の状態が対象者の状態として誤検出されることがあるが、本実施形態では、そのような誤検出を抑制することもできる。 Specifically, it is determined that the target person is watched by others only when there are two or more persons in the watch determination area. Since there is a high possibility that the target person and others watching over the target person are included in two or more persons, this configuration ensures that the target person is watched over by the other person with high accuracy. Can be detected. Furthermore, when two or more persons are captured in the captured image, the state of the other person may be erroneously detected as the state of the target person. In the present embodiment, such erroneous detection is suppressed. You can also.
そして、通知は、直接的に見守られていない対象者を間接的に見守るために必要であり、対象者が他者に直接的に見守られている場合には不要である。本実施形態によれば、対象者が他者に見守られていると判定された場合に、通知が省略される。これにより、不要な通知を抑制することができ、システム利用者の負担軽減やプライバシー保護などの効果を得ることができる。例えば、不要な通知をシステム利用者が確認するといった手間を省くことができる。また、他者の画像が不必要に通知されることを抑制でき、他者のプライバシーを保護することができる。 The notification is necessary for indirectly watching the target person who is not directly watched, and is not necessary when the target person is watched directly by others. According to this embodiment, notification is omitted when it is determined that the subject is being watched by others. As a result, unnecessary notifications can be suppressed, and effects such as reducing the burden on the system user and protecting the privacy can be obtained. For example, it is possible to save the trouble of the system user confirming unnecessary notifications. Moreover, it can suppress that an image of others is notified unnecessarily, and can protect others' privacy.
<その他>
上記の実施形態の説明は、本発明を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。例えば、上記実施形態では、台形の見守り判定領域A0(図3B)が設定される例を説明したが、見守り判定領域A0の形状やサイズは特に限定されない。例えば、図3Dに示すように、六角形の見守り判定領域A0が設定されてもよい。
<Others>
The above description of the embodiments is merely illustrative of the present invention. The present invention is not limited to the specific form described above, and various modifications are possible within the scope of the technical idea. For example, in the above embodiment, an example in which the trapezoid watching determination area A0 (FIG. 3B) is set has been described, but the shape and size of the watching determination area A0 are not particularly limited. For example, as shown in FIG. 3D, a hexagonal watching determination area A0 may be set.
また、見守り判定処理のフローチャートは図5のフローチャートに限られない。以下に、見守り判定処理の変形例について説明する。 Further, the flowchart of the watching determination process is not limited to the flowchart of FIG. Below, the modification of the watching determination process is demonstrated.
(第1の変形例)
図7と図8Aと図8Bを参照して、見守り判定処理の第1の変形例について説明する。図7は、見守り判定部112により実行される見守り判定処理のフローチャートであり、図8Aと図8Bは、画像取得部110により取得された撮影画像の例である。
(First modification)
With reference to FIG. 7, FIG. 8A, and FIG. 8B, a first modification of the watching determination process will be described. FIG. 7 is a flowchart of the watching determination process executed by the watching
まず、ステップS70において、見守り判定部112は、見守り判定領域A0内で2つ以上の頭部が検出されたか否かを判定する。見守り判定領域A0内で2つ以上の頭部が検出された場合には、ステップS71へ処理が進められ、見守り判定領域A0内で頭部が1つのみ検出された場合には、ステップS75へ処理が進められる。
First, in step S70, the watching
ステップS71において、見守り判定部112は、画像取得部110により取得された撮影画像を用いて、当該撮影画像の見守り判定領域A0から顔を検出する。基本的には、頭部が検出された領域で、顔が検出される。但し、後頭部などの領域では、顔が写っていないため、頭部は検出されるが、顔は検出されない。
In step S <b> 71, the watching
次に、ステップS72において、見守り判定部112は、ステップS71で1つ以上の顔が検出されたか否かを判定する。1つ以上の顔が検出された場合には、ステップS73へ処理が進められ、顔が1つも検出されなかった場合には、ステップS75へ処理が進められる。
Next, in step S72, the watching
ステップS73において、見守り判定部112は、ステップS41とステップS72の検出結果に基づいて、ベッド20に存在する第1の人物と、第1の人物の方を向いている第2の人物とが見守り判定領域A0に存在するか否かを判定する。ここで、第1の人物が第2の人物に見守られていると考えられるため、以後、第1の人物を「被見守り者」と記載し、第2の人物を「見守り者」と記載する。被見守り者と見守り者が存在する場合には、ステップS74へ処理が進められ、そうでない場合には、ステップS75へ処理が進められる。
In step S73, the watching
ステップS74において、見守り判定部112は、対象者21が他者に見守られていると判定する(見守りあり判定)。
In step S <b> 74, the watching
ステップS75において、見守り判定部112は、対象者21が他者に見守られていないと判定する(見守りなし判定)。
In step S <b> 75, the watching
ここで、図8Aの撮影画像80がステップS40で取得された場合を考える。この場合には、ステップS41において、見守り判定領域A0内の頭部として、対象者21の頭部81と、対象者21を見守らない他者の頭部82とが検出される。そして、ステップS71において、他者の顔83が検出される。
Here, consider a case where the captured
その後、ステップS73において、以下の処理が行われる。まず、見守り判定部112
は、ベッド20内で検出された頭部81を、被見守り者の頭部として決定する。次に、見守り判定部112は、顔83の向きのベクトル84と、顔83(頭部82)から頭部81へ向かうベクトル85とを算出する。そして、見守り判定部112は、ベクトル84とベクトル85のなす角度θ1(≦180度)が閾値以下であるか否かを判定する。閾値は、被見守り者の方を向いているか否かを判定するための角度であり、例えば45度である。
Thereafter, in step S73, the following processing is performed. First, the
Determines the
角度θ1が閾値(45度)よりも大きいため、見守り判定部112は、顔83の人物を、見守り者ではなく、被見守り者の方を向いていない人物として決定する。すなわち、見守り判定部112は、見守り判定領域A0に被見守り者が存在するが、見守り判定領域A0に見守り者が存在しないと判定する。そのため、対象者21が他者に見守られていないと判定され(ステップS75)、対象者21の状態や行動に応じて通知が行われる(ステップS44とステップS45)。
Since the angle θ1 is larger than the threshold value (45 degrees), the watching
次に、図8Bの撮影画像86がステップS40で取得された場合を考える。この場合には、ステップS41において、見守り判定領域A0内の頭部として、対象者21の頭部81と、対象者21を見守る他者の頭部87とが検出される。そして、ステップS71において、他者の顔88が検出される。
Next, consider a case where the captured
その後、ステップS73において、以下の処理が行われる。まず、見守り判定部112は、ベッド20内で検出された頭部81を、被見守り者の頭部として決定する。次に、見守り判定部112は、顔88の向きのベクトル89と、顔88(頭部87)から頭部81へ向かうベクトル90とを算出する。そして、見守り判定部112は、ベクトル89とベクトル90のなす角度θ2(≦180度)が閾値以下であるか否かを判定する。
Thereafter, in step S73, the following processing is performed. First, the watching
角度θ2は閾値(45度)以下であるため、見守り判定部112は、顔88の人物を、見守り者として決定する。すなわち、見守り判定部112は、見守り判定領域A0に被見守り者と見守り者が存在すると判定する。そのため、対象者21が他者に見守られていると判定され(ステップS74)、ステップS45の通知が省略される。
Since the angle θ2 is equal to or smaller than the threshold value (45 degrees), the watching
以上述べたように、第1の変形例によれば、ベッドに存在する被見守り者(第1の人物)と、被見守り者の方を向いている見守り者(第2の人物)とが見守り判定領域に存在する場合に限って、対象者が他者に見守られていると判定される。ベッドに存在する被見守り者は対象者である可能性が高く、対象者(被見守り者)の方を向いている見守り者は対象者を見守る人物である可能性が高い。そして、他者が対象者の傍にいたとしても、他者が対象者の方を向いていない場合には、他者が対象者を見守っているとは言いにくい。そのため、この構成によれば、対象者が他者に見守られているか否かをより高精度に判定することができる。 As described above, according to the first modification, the watched person (first person) existing in the bed and the watcher (second person) facing the watched person are watching. Only when it exists in the determination area, it is determined that the subject is being watched by others. There is a high possibility that the watched person existing in the bed is a target person, and the watch person facing the target person (watched person) is likely to be a person watching the target person. Even if the other person is near the target person, it is difficult to say that the other person is watching over the target person when the other person is not facing the target person. Therefore, according to this configuration, it can be determined with higher accuracy whether or not the subject is being watched by others.
また、第1の変形例によれば、顔向きのベクトルと、被見守り者へ向かうベクトルとのなす角度が閾値以下である人物が、見守り者として決定される。顔向きのベクトルと、被見守り者へ向かうベクトルとのなす角度が閾値以下である人物は、被見守り者の方を向いている可能性が高い。そのため、この構成によれば、見守り者を高精度に検出することができる。 Further, according to the first modification, a person whose angle formed by the face-facing vector and the vector heading toward the watched person is equal to or smaller than the threshold is determined as the watcher. There is a high possibility that a person whose angle between the face-facing vector and the vector heading to the watched person is equal to or less than the threshold is facing the watched person. Therefore, according to this configuration, a watcher can be detected with high accuracy.
(第2の変形例)
図9を参照して、見守り判定処理の第2の変形例について説明する。図9は、見守り判定部112により実行される見守り判定処理のフローチャートである。
(Second modification)
With reference to FIG. 9, a second modification of the watching determination process will be described. FIG. 9 is a flowchart of the watching determination process executed by the watching
まず、ステップS90において、見守り判定部112は、見守り判定領域A0内で2つ以上の頭部が検出されたか否かを判定する。見守り判定領域A0内で2つ以上の頭部が検
出された場合には、ステップS91へ処理が進められ、見守り判定領域A0内で頭部が1つのみ検出された場合には、ステップS94へ処理が進められる。
First, in step S90, the watching
ステップS91において、見守り判定部112は、画像取得部110により取得された撮影画像を用いて、当該撮影画像の見守り判定領域A0から、見守られる動作を行っている被見守り動作者と、見守る動作を行っている見守り動作者とを検出する。見守られる動作は、起床や就寝の被介助、食事の被介助、更衣の被介助などの動作であり、見守る動作は、起床や就寝の介助、食事の介助、更衣の介助などの動作である。被見守り動作者や見守り動作者は、例えば、HoG特徴量を用いた識別器による手法やFaster R−CNNによる手法を用いた物体検出アルゴリズムにより検出される。
In step S91, the watching
次に、ステップS92において、見守り判定部112は、ステップS91で被見守り動作者と見守り動作者との両方が検出されたか否かを判定する。被見守り動作者と見守り動作者の両方が検出された場合には、ステップS93へ処理が進められ、そうでない場合には、ステップS94へ処理が進められる。
Next, in step S92, the watching
ステップS93において、見守り判定部112は、対象者21が他者に見守られていると判定する(見守りあり判定)。
In step S <b> 93, the watching
ステップS94において、見守り判定部112は、対象者21が他者に見守られていないと判定する(見守りなし判定)。
In step S94, the watching
以上述べたように、第2の変形例によれば、見守られる動作を行っている人物と、見守る動作を行っている人物とが見守り判定領域に存在する場合に限って、対象者が他者に見守られていると判定する。見守られる動作を行っている人物は、他者に見守られている対象者である可能性が高く、見守る動作を行っている人物は、対象者を見守っている他者である可能性が高い。そして、他者が対象者の傍にいたとしても、他者が見守る動作を行っていない場合には、他者が対象者を見守っているとは言いにくい。そのため、この構成によれば、対象者が他者に見守られているか否かをより高精度に判定することができる。 As described above, according to the second modification, the target person is the other person only when the person performing the watching operation and the person performing the watching operation exist in the watching determination area. It is determined that it is being watched by. A person who is performing an action to be watched is likely to be a target person being watched by another person, and a person who is performing the action to be watched is likely to be another person watching the target person. Even if the other person is near the target person, it is difficult to say that the other person is watching the target person when the other person is not performing the watching operation. Therefore, according to this configuration, it can be determined with higher accuracy whether or not the subject is being watched by others.
1:見守り支援システム 10:撮像装置 11:情報処理装置
110:画像取得部 111:検出部 112:見守り判定部 113:行動判定部 114:出力部 115:領域設定部 116:記憶部
100:赤外線LED照明 101:近赤外線カメラ 20:ベッド 21:対象者 22:頭部
30:ベッド領域 A0:見守り判定領域 A1:就床領域(行動判定領域) A2:起床領域(行動判定領域) A3:離床領域(行動判定領域)
60:撮影画像 61:頭部 62:撮影画像 63:頭部
80:撮影画像 81:頭部 82:頭部 83:顔 84:ベクトル 85:ベクトル 86:撮影画像 87:頭部 88:顔 89:ベクトル 90:ベクトル θ1:角度 θ2:角度
1: Watching support system 10: Imaging device 11: Information processing device 110: Image acquisition unit 111: Detection unit 112: Watching determination unit 113: Action determination unit 114: Output unit 115: Area setting unit 116: Storage unit 100: Infrared LED Illumination 101: Near-infrared camera 20: Bed 21: Target person 22: Head 30: Bed area A0: Watching determination area A1: Bed area (behavior determination area) A2: Wake-up area (behavior determination area) A3: Bed leaving area ( Action judgment area)
60: Captured image 61: Head 62: Captured image 63: Head 80: Captured image 81: Head 82: Head 83: Face 84: Vector 85: Vector 86: Captured image 87: Head 88: Face 89: Vector 90: Vector θ1: Angle θ2: Angle
Claims (7)
撮像装置により撮影された画像を取得する画像取得部と、
前記撮影された画像の一部の領域であり、且つ、前記ベッドを含む領域である判定領域の画像に基づいて、前記対象者が他者に見守られているか否かを判定する見守り判定部と、
前記撮影された画像に基づいて、前記対象者の状態を判定する状態判定部と、
前記状態判定部の判定結果に応じた通知を行う出力部と、
を有し、
前記出力部は、前記対象者が前記他者に見守られていると前記見守り判定部により判定された場合に、前記通知を省略する
ことを特徴とする見守り支援システム。 A monitoring support system that supports watching of a target person on a bed,
An image acquisition unit that acquires an image captured by the imaging device;
A watching determination unit that determines whether or not the subject is watched by another person based on an image of a determination region that is a partial region of the captured image and that includes the bed; ,
A state determination unit that determines the state of the subject based on the captured image;
An output unit that performs notification according to the determination result of the state determination unit;
Have
The monitoring support system, wherein the output unit omits the notification when the watching determination unit determines that the target person is being watched by the other person.
ことを特徴とする請求項1に記載の見守り支援システム。 The monitoring support system according to claim 1, wherein the watching determination unit determines that the target person is watched by the other person when two or more persons exist in the determination region. .
ことを特徴とする請求項1に記載の見守り支援システム。 When the first person existing in the bed and the second person facing the first person are present in the determination area, the watching determination unit determines that the target person is the other person. The watching support system according to claim 1, wherein it is determined that the watch is being watched by the user.
ことを特徴とする請求項3に記載の見守り支援システム。 The watching determination unit determines, as the second person facing the first person, a person whose angle between a face-facing vector and a vector heading for the first person is equal to or less than a threshold value The watching support system according to claim 3, wherein:
ことを特徴とする請求項1に記載の見守り支援システム。 The watching determination unit determines that the target person is watched by the other person when the person performing the watching operation and the person performing the watching operation exist in the determination area. The monitoring support system according to claim 1, wherein:
撮像装置により撮影された画像を取得するステップと、
前記撮影された画像の一部の領域であり、且つ、前記ベッドを含む領域である判定領域の画像に基づいて、前記対象者が他者に見守られているか否かを判定するステップと、
前記撮影された画像に基づいて、前記対象者の状態を判定するステップと、
前記対象者の状態の判定結果に応じた通知を行うステップと、
を有し、
前記対象者が前記他者に見守られていると判定された場合に、前記通知が省略される
ことを特徴とする見守り支援システムの制御方法。 A method for controlling a watching support system that supports watching a subject on a bed,
Obtaining an image taken by an imaging device;
Determining whether or not the subject is watched by others based on an image of a determination region that is a partial region of the captured image and that includes the bed;
Determining the state of the subject based on the captured image;
Performing notification according to the determination result of the state of the target person;
Have
The control method of the watching support system, wherein the notification is omitted when it is determined that the target person is watched by the other person.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017138539A JP6870514B2 (en) | 2017-07-14 | 2017-07-14 | Watching support system and its control method |
PCT/JP2018/025596 WO2019013105A1 (en) | 2017-07-14 | 2018-07-05 | Monitoring assistance system and control method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017138539A JP6870514B2 (en) | 2017-07-14 | 2017-07-14 | Watching support system and its control method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019021002A true JP2019021002A (en) | 2019-02-07 |
JP6870514B2 JP6870514B2 (en) | 2021-05-12 |
Family
ID=65002445
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017138539A Active JP6870514B2 (en) | 2017-07-14 | 2017-07-14 | Watching support system and its control method |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6870514B2 (en) |
WO (1) | WO2019013105A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022215158A1 (en) * | 2021-04-06 | 2022-10-13 | 三菱電機株式会社 | Notification control device and notification control method |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112766185B (en) * | 2021-01-22 | 2022-06-14 | 燕山大学 | Head posture monitoring method, device and system based on deep learning |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013149156A (en) * | 2012-01-20 | 2013-08-01 | Fujitsu Ltd | State detection device and state detection method |
JP2015139550A (en) * | 2014-01-29 | 2015-08-03 | シャープ株式会社 | Bed-leaving determination device and bed-leaving determination method |
WO2015133195A1 (en) * | 2014-03-06 | 2015-09-11 | Nkワークス株式会社 | Information processing device, information processing method, and program |
JP2015220596A (en) * | 2014-05-16 | 2015-12-07 | 株式会社ニコン | Electronic apparatus |
WO2016071314A1 (en) * | 2014-11-03 | 2016-05-12 | Koninklijke Philips N.V. | Device, system and method for automated detection of orientation and/or location of a person |
JP2016177680A (en) * | 2015-03-20 | 2016-10-06 | 株式会社リコー | Information processing system, information processing terminal, information processing method, and program |
WO2016199749A1 (en) * | 2015-06-10 | 2016-12-15 | コニカミノルタ株式会社 | Image processing system, image processing device, image processing method, and image processing program |
JP2017041079A (en) * | 2015-08-19 | 2017-02-23 | アイホン株式会社 | Operation recognition device |
-
2017
- 2017-07-14 JP JP2017138539A patent/JP6870514B2/en active Active
-
2018
- 2018-07-05 WO PCT/JP2018/025596 patent/WO2019013105A1/en active Application Filing
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013149156A (en) * | 2012-01-20 | 2013-08-01 | Fujitsu Ltd | State detection device and state detection method |
JP2015139550A (en) * | 2014-01-29 | 2015-08-03 | シャープ株式会社 | Bed-leaving determination device and bed-leaving determination method |
WO2015133195A1 (en) * | 2014-03-06 | 2015-09-11 | Nkワークス株式会社 | Information processing device, information processing method, and program |
JP2015220596A (en) * | 2014-05-16 | 2015-12-07 | 株式会社ニコン | Electronic apparatus |
WO2016071314A1 (en) * | 2014-11-03 | 2016-05-12 | Koninklijke Philips N.V. | Device, system and method for automated detection of orientation and/or location of a person |
JP2016177680A (en) * | 2015-03-20 | 2016-10-06 | 株式会社リコー | Information processing system, information processing terminal, information processing method, and program |
WO2016199749A1 (en) * | 2015-06-10 | 2016-12-15 | コニカミノルタ株式会社 | Image processing system, image processing device, image processing method, and image processing program |
JP2017041079A (en) * | 2015-08-19 | 2017-02-23 | アイホン株式会社 | Operation recognition device |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022215158A1 (en) * | 2021-04-06 | 2022-10-13 | 三菱電機株式会社 | Notification control device and notification control method |
Also Published As
Publication number | Publication date |
---|---|
JP6870514B2 (en) | 2021-05-12 |
WO2019013105A1 (en) | 2019-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6717235B2 (en) | Monitoring support system and control method thereof | |
US9600993B2 (en) | Method and system for behavior detection | |
WO2014199941A1 (en) | Information processing device, information processing method, and program | |
JP6167563B2 (en) | Information processing apparatus, information processing method, and program | |
WO2016199749A1 (en) | Image processing system, image processing device, image processing method, and image processing program | |
JP6822328B2 (en) | Watching support system and its control method | |
JP6119938B2 (en) | Image processing system, image processing apparatus, image processing method, and image processing program | |
JP6870514B2 (en) | Watching support system and its control method | |
JP6729510B2 (en) | Monitoring support system and control method thereof | |
JP6264181B2 (en) | Image processing apparatus, image processing method, and image processing program | |
US10762761B2 (en) | Monitoring assistance system, control method thereof, and program | |
JP6822326B2 (en) | Watching support system and its control method | |
TWI697869B (en) | Posture determination method, electronic system and non-transitory computer-readable recording medium | |
JP2023548886A (en) | Apparatus and method for controlling a camera | |
JP6635074B2 (en) | Watching support system and control method thereof | |
JP6729512B2 (en) | Monitoring support system and control method thereof | |
US20220054046A1 (en) | Assessing patient out-of-bed and out-of-chair activities using embedded infrared thermal cameras | |
JP2023051147A (en) | Nurse call system and state determination system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200305 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20201027 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210118 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210316 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210329 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6870514 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |