JPWO2019181609A1 - 監視システム及び監視方法 - Google Patents

監視システム及び監視方法 Download PDF

Info

Publication number
JPWO2019181609A1
JPWO2019181609A1 JP2020508227A JP2020508227A JPWO2019181609A1 JP WO2019181609 A1 JPWO2019181609 A1 JP WO2019181609A1 JP 2020508227 A JP2020508227 A JP 2020508227A JP 2020508227 A JP2020508227 A JP 2020508227A JP WO2019181609 A1 JPWO2019181609 A1 JP WO2019181609A1
Authority
JP
Japan
Prior art keywords
cane
white cane
support
behavior
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020508227A
Other languages
English (en)
Other versions
JP7062753B2 (ja
Inventor
藤井 幸
幸 藤井
正紀 住吉
正紀 住吉
洸 山崎
洸 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Kokusai Electric Inc
Original Assignee
Hitachi Kokusai Electric Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Kokusai Electric Inc filed Critical Hitachi Kokusai Electric Inc
Publication of JPWO2019181609A1 publication Critical patent/JPWO2019181609A1/ja
Application granted granted Critical
Publication of JP7062753B2 publication Critical patent/JP7062753B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/005Traffic control systems for road vehicles including pedestrian guidance indicator
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)

Abstract

特定の施設に訪れた視覚障がい者に対してサポートの必要性を判定することが可能な技術を提供する。
白杖検知装置111において、白杖検出部121が、撮像装置107により撮影された画像から白杖102を検出し、白杖挙動解析部122が、白杖検出部121により白杖102が検出された場合に、その後の一定時間内において白杖102が振られた回数を測定し、要サポート者判定部123が、白杖挙動解析部122による測定回数(白杖振り回数)を所定の閾値と比較して、白杖102を使用している視覚障がい者101に対するサポートの必要性の有無を判定し、サポート指示部124が、要サポート者判定部123によりサポートの必要があると判定された場合に、駅職員にサポートの必要があることを報知する。

Description

本発明は、所定のエリアを撮像した画像を監視装置により監視する監視システムに関する。
従来、カメラで撮像した画像に対して画像処理を実施して、画像中の所定の物体を検出する機能を備えた監視システムが実用されている。例えば、特許文献1には、画像の所定エリア内から観察物体を判定し、観察物体から物体特徴情報を作成し、物体特徴情報から行動タイプを決定し、観察物体が注意物体か否かを判定する技術が開示されている。
特開2017−028364号公報
上記のような監視システムの一形態として、駅などの監視エリア内に白杖を持った人物が存在することを検出し、駅員等に通知する白杖検知システムが存在する。しかしながら、従来の白杖検知システムでは、白杖を持った人物が存在することを通知することは可能であるが、駅などをいつも利用していてサポートが不要な人物なのか、初めて駅を利用するためにサポートを必要としている人物なのかの判断は行えなかった。
本発明は、上記のような従来の事情に鑑みて為されたものであり、特定の施設に訪れた視覚障がい者に対してサポートの必要性を判定することが可能な技術を提供することを目的とする。
本発明では、上記の目的を達成するために、監視システムを以下のように構成した。
すなわち、所定のエリアを撮像した画像を監視装置により監視する監視システムにおいて、前記監視装置が、前記撮像装置により撮影された画像から所定の杖を検出する杖検出手段と、前記杖検出手段により前記杖が検出された場合に、その後の一定時間内における前記杖の挙動を解析する杖挙動解析手段と、前記杖挙動解析手段による前記杖の挙動の解析結果に基づいて、前記杖の使用者に対するサポートの必要性の有無を判定する要サポート者判定手段とを備えたことを特徴とする。
このような構成により、不慣れな場所にいる視覚障がい者が周囲の状況を把握するためにより頻繁に白杖を振っている様子を捉えて、その視覚障がい者サポートを必要としている状況であることを判別することが可能となる。
ここで、前記杖挙動解析手段は、前記杖の挙動として、前記一定時間内における前記杖の振り回数を測定し、前記要サポート者判定手段は、前記杖の振り回数が所定の閾値を超える場合に、前記杖の使用者に対するサポートの必要性があると判定する構成としてもよい。
なお、前記杖の挙動は、例えば、前記杖に付された特定の模様部を追跡することにより解析してもよく、あるいは、前記杖の先端を追跡することにより解析してもよい。
本発明によれば、特定の施設に訪れた視覚障がい者に対してサポートの必要性を判定することが可能になる。
本発明の一実施形態に係る白杖検知システムの概要を説明する図である。 図1の白杖検知システムの機能ブロックの例を示す図である。 白杖の振り回数の測定について説明する図である。 白杖の例を示す図である。 携帯無線機の例を示す図である。 白杖検知装置による処理のフローチャートの例を示す図である。
本発明の一実施形態について、図面を参照して説明する。
図1には、本発明の一実施形態に係る白杖検知システムの概要を示してある。図2には、図1の白杖検知システムの機能ブロックの例を示してある。白杖検知システムは監視システムの一形態であり、以下では、鉄道の駅に適用する場合を例にして説明する。
一般的に、駅を利用する視覚障がい者(特に、その駅に不案内な人物)101は、白杖102を使用しながら、点字ブロック103に沿って改札104を通過する。そこで、本システムでは、駅構内の改札104の入場前にある点字ブロック103付近のエリアを撮像する撮像装置107を設置する。撮像装置107は、点字ブロック103付近を通過する人物の様子を、その人物が白杖を使用している場合には白杖も含めて撮影できるように配置される。
撮像装置107は、ネットワーク108を介して、システムを構成する各機器と通信可能に接続される。撮像装置107としては、撮影した画像を圧縮符号化してネットワーク108へ送出するためのエンコーダを内蔵したネットワークカメラや、別体のエンコーダを介してネットワーク108に接続されるアナログカメラなど、種々の形式の装置を使用することができる。画像データは、ネットワーク108内の伝送量を削減するために、JPEG形式やH.265などの符号化方式により圧縮処理されてもよい。
本システムのネットワーク108は、図2に示すように、ネットワークスイッチ(NW−SW)201を中心に構成(一般的には複数台で構成)されている。撮像装置107により撮影された画像は、イーサネット(登録商標)プロトコルに従って変換され、ネットワークスイッチ201を介してデコーダ110に送信される。デコーダ110は、受信した画像データを画像に戻し、デコーダ110に接続されたモニタ112に表示させることができる。
また、撮像装置107から送信される画像データは、白杖検知装置111にも伝送されて、白杖検知装置111で画像解析が行われる。ネットワークスイッチ201には更に、無線送信システム109が接続されており、無線(例えば、列車無線システム)を介して携帯無線機113との音声通信やデータ通信が可能となっている。
なお、図2では、無線送信システム109と携帯無線機113の間を除いて、各機器がLANケーブルで接続されているが、無線により通信可能に接続されても構わない。
白杖検知装置111は、白杖検出部121と、白杖挙動解析部122と、要サポート者判定部123と、サポート指示部124とを有している。
白杖102を持った視覚障がい者101が駅構内に現れ、撮像装置107で撮影されると、その画像データが白杖検知装置111に送信される。白杖検知装置111は、受信した画像データに対して、白杖検出部121により画像処理を行って、画像内に含まれる白杖102の検出を行う。白杖を検出する方法としては、背景差分画像を用いる方法や、ハフ変換、ディープラーニングの技術などを用いることができ、例えば、特開2015−32133号公報、特開2012−124659号公報、特開2016−057998号公報に開示された技術を用いることができる。
白杖検知装置111は、白杖102が検出されると、白杖挙動解析部122により白杖102の挙動を解析する。本例では、白杖102の挙動として、白杖102が一定時間内に振られた回数を測定する。不慣れな場所にいる視覚障がい者は、周囲の状況を把握するためにより頻繁に白杖を振ることが想定されるので、白杖振り回数を計測することで、その場所に不慣れでサポートを必要としている状況であるか否かを判別することが可能となる。
図4に示すように、多くの白杖は、先端より手前側の所定の位置に、人の目に留まり易い色(例えば、赤色)で塗装された模様部401を有している。そこで、白杖挙動解析部122は、この模様部401を画像から検出してその位置を追跡することで、白杖振り回数の測定を行う。なお、白杖にペイントされている他の模様や、白杖の先端を手掛かりにして、それらの位置を追跡することで白杖振り回数の測定を行ってもよい。
白杖振り回数の測定について、図3を参照して具体的に説明する。撮像装置107は1秒間に所定数の画像(NTSC方式では1秒間に30枚)を撮影している。図3では、左から右に向かって時系列に各画像(フレーム)を並べて表示しており、各フレームにおいて視覚障がい者101が白杖102を振っている状況が撮影されている。説明の便宜上、白杖102には模様部401があるものとする。
図3では、フレーム毎に模様部401の位置が移動している状況を示しており、模様部401の位置を分かり易くするために、模様部401の中心を基準点301(白丸)とし、その座標を(xn ,yn )で表している。各フレームにおいて、実線の白杖はそのフレームにおける実際の白杖を示しており、破線の白杖は1つ前のフレームにおける白杖を示している。なお、破線の白杖は説明の便宜のために表したものであり、実際の画像には映っていない。
白杖挙動解析部122は、画像処理技術(例えば、画像内の物体の動きベクトルを求めるオプティカルフローの技術)を用いて基準点301の位置を追跡することで、一定時間(例えば、5秒間)に白杖102が振られた回数を計測する。
白杖検知装置111は、白杖挙動解析部122により解析された白杖の挙動に基づいて、白杖102を使用している視覚障がい者101(以下、白杖使用者ともいう)が要サポート者か否かを要サポート者判定部123により判定する。本例では、白杖の挙動を表す一定時間内の白杖振り回数が、所定の閾値を超えた場合に要サポート者であると判定し、そうでない場合は要サポート者ではないと判定する。
白杖検知装置111は、白杖102を使用している視覚障がい者101が要サポート者であると判定された場合には、サポート指示部124により駅職員にサポートを指示する。具体的には、サポート指示部124は、無線送信システム109を介して、駅職員106の携帯している携帯無線機113に、要サポート者の存在を駅職員106に報知する報知メッセージを出力させる。携帯無線機113は、例えば図5に示すように、要サポート者(視覚障がい者)がいる改札口の情報を含み且つその改札口にサポートに向かうよう促す報知メッセージを、画面表示及び音声出力する。
上記の報知メッセージにおいて、駅職員が向かうべき改札口は、撮像装置と改札口との対応付けデータがあれば、要サポート者を撮影した撮像装置から特定できる。また、改札口の情報以外のメッセージ部分は、固定メッセージとすることができる。報知メッセージは、白杖検知装置111から送出してもよいし、白杖検知装置111からの指示に従って無線送信システム109から送出してもよい。なお、駅職員106がタブレット装置を携帯している場合には、タブレット装置に画像データを含めて送信して、現地の状況を表示させるようにしてもよい。
また、サポート指示部124は、視覚障がい者101のサポートの必要があると判断すると、デコーダ110を制御して、その人物を撮影している撮像装置107によるライブ映像をモニタ112に表示させる。駅に複数の撮像装置が設置されている場合には、該当する撮像装置のライブ映像を表示するように強制的に切り替えてもよい。これにより、モニタ112を監視している駅管理者105は、映像で現地の状況をリアルタイムに確認することができ、駅職員106に適切な指示を行うことができるようになる。
図6には、白杖検知装置111による処理のフローチャートの例を示してある。
白杖検知装置111は、撮像装置107により撮影された画像を取得し(ステップS11)、その画像に対して白杖検出処理を行う(ステップS12)。
白杖検出処理の結果、白杖102が検出されなかった場合(ステップS13;No)には、撮影画像の取得(ステップS11)に戻る。一方、白杖102が検出された場合(ステップS13;Yes)には、その後の所定期間内の白杖振り回数を測定する(ステップS14)。
その結果、白杖振り回数が所定の閾値以下であった場合(ステップS15;No)には、白杖使用者は要サポート者ではないと判断して、撮影画像の取得(ステップS11)に戻る。一方、白杖振り回数が所定の閾値を超えた場合(ステップS15;Yes)には、白杖使用者は要サポート者であると判断して、携帯無線機113による要サポート者の存在報知、およびモニタ112による撮像装置107のライブ映像の表示を実行させる。
以上のように、本例の監視システムは、白杖検知装置111において、白杖検出部121が、撮像装置107により撮影された画像から白杖102を検出し、白杖挙動解析部122が、白杖検出部121により白杖102が検出された場合に、その後の一定時間内において白杖102が振られた回数を測定し、要サポート者判定部123が、白杖挙動解析部122による測定回数(白杖振り回数)を所定の閾値と比較して、白杖102を使用している視覚障がい者101に対するサポートの必要性の有無を判定し、サポート指示部124が、要サポート者判定部123によりサポートの必要があると判定された場合に、駅職員106にサポートの必要があることを報知するように構成されている。
このような構成によれば、不慣れな場所にいる視覚障がい者が周囲の状況を把握するためにより頻繁に白杖を振っている様子を捉えて、その視覚障がい者サポートを必要としている状況であることを判別することができる。したがって、真にサポートを必要としている人物に対してのみ駅職員にサポートを促すことができ、駅職員の労力を軽減することが可能となる。
ここで、本例では、白杖検知装置111が、本発明に係る監視装置に対応している。なお、本発明に係る監視装置の機能を撮像装置107に内蔵して、撮像装置107が要サポート者の有無を判別するようにしてもよい。
また、白杖の挙動は、白杖が振られた回数以外の観点から解析してもよい。例えば、白杖の振り方(白杖の移動パターン)を解析するようにしてもよい。すなわち、不慣れな場所にいる視覚障がい者に特有の白杖の振り方をパターン化して事前に登録しておき、同様な振り方が検出された場合に、要サポート者と判定することが考えられる。
ところで、白杖の挙動は、白杖が他の通行人により撮像装置から一時的に隠されて撮影できなかった場合などに正しく解析できない恐れがある。そこで、別の手段により要サポート者か否かを判断する仕組みを追加してもよい。具体的には、例えば、駅構内への入口と改札口とに撮像装置を設置しておき、それぞれの撮像装置で撮像された画像から白杖を検出するようにする。そして、白杖を使用している白杖使用者が入口から改札口に移動するまでに要した移動時間を計測し、移動時間が所定の時間を超えた場合に、その白杖使用者はサポートが必要であると判断する。
入口から改札口までの移動時間を計測する場合には、同時に複数の白杖使用者がいることも想定されるので、各々の撮像装置で撮影された人物が、同じ人物か違う人物かを判断する必要がある。同じ人物か否かを判断する方法としては、例えば、白杖使用者が入口を通過時に、入口の撮像装置による撮影画像から白杖使用者の服装や持ち物の画像を検出してキー画像として登録しておき、白杖使用者が改札口を通過時に、改札口の撮像装置による撮影画像からキー画像と同様な特徴量を持つ画像が検出された場合に、入口で撮影された人物と改札口で撮影された人物とを同一人物と判断する方法が考えられる。
なお、上記の説明では、白杖を使用する視覚障がい者のサポートについて説明したが、他の色(例えば、黄色や赤色)の杖を使用する視覚障がい者のサポートに対しても本発明を適用できることは言うまでもなく、視覚障がい者に使用される可能性がある杖の特徴を予め設定しておけばよい。また、駅の改札口の他に、エレベータやエスカレータの乗り場、階段、プラットホームなどを監視して、要サポート者の有無を判別するようにしてもよい。また、本システムを適用する施設は、鉄道の駅に限られず、デパートやイベント会場などの各種の施設に適用することができる。
以上、本発明について詳細に説明したが、本発明は、ここに記載されたシステムに限定されるものではなく、上記以外のシステムにも広く適用できることは言うまでもない。
また、本発明は、例えば、本発明に係る処理を実行する方法や方式、そのような方法や方式を実現するためのプログラム、そのプログラムを記憶する記憶媒体などとして提供することも可能である。
本発明は、所定のエリアを撮像した画像を監視装置により監視する監視システムに利用することができる。
101:視覚障がい者、 102:白杖、 103:点字ブロック、 104:改札、
105:駅管理者、 106:駅職員、 107:撮像装置、 108:ネットワーク、 109:無線送信システム、 110:デコーダ、 111:白杖検知装置、 112:モニタ、 113:携帯無線機、 121:白杖検出部、 122:白杖挙動解析部、 123:要サポート者判定部、 124:サポート指示部、 201:ネットワークスイッチ(NW−SW)、 301:基準点、 401:模様部

Claims (5)

  1. 所定のエリアを撮像した画像を監視装置により監視する監視システムにおいて、
    前記監視装置が、
    前記画像から所定の杖を検出する杖検出手段と、
    前記杖検出手段により前記杖が検出された場合に、その後の一定時間内における前記杖の挙動を解析する杖挙動解析手段と、
    前記杖挙動解析手段による前記杖の挙動の解析結果に基づいて、前記杖の使用者に対するサポートの必要性の有無を判定する要サポート者判定手段とを備えたことを特徴とする監視システム。
  2. 請求項1に記載の監視システムにおいて、
    前記杖挙動解析手段は、前記杖の挙動として、前記一定時間内における前記杖の振り回数を測定し、
    前記要サポート者判定手段は、前記杖の振り回数が所定の閾値を超える場合に、前記杖の使用者に対するサポートの必要性があると判定することを特徴とする監視システム。
  3. 請求項1に記載の監視システムにおいて、
    前記杖挙動解析手段は、前記杖に付された特定の模様部を追跡することで、前記杖の挙動を解析することを特徴とする監視システム。
  4. 請求項1に記載の監視システムにおいて、
    前記杖挙動解析手段は、前記杖の先端を追跡することで、前記杖の挙動を解析することを特徴とする監視システム。
  5. 所定のエリアを撮像した画像を監視装置により監視する監視方法において、
    前記監視装置が、前記画像から所定の杖が検出された場合に、その後の一定時間内における前記杖の挙動を解析し、前記杖の挙動の解析結果に基づいて、前記杖の使用者に対するサポートの必要性の有無を判定することを特徴とする監視方法。
JP2020508227A 2018-03-20 2019-03-11 監視システム及び監視方法 Active JP7062753B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018052835 2018-03-20
JP2018052835 2018-03-20
PCT/JP2019/009704 WO2019181609A1 (ja) 2018-03-20 2019-03-11 監視システム及び監視方法

Publications (2)

Publication Number Publication Date
JPWO2019181609A1 true JPWO2019181609A1 (ja) 2021-03-11
JP7062753B2 JP7062753B2 (ja) 2022-05-06

Family

ID=67987819

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020508227A Active JP7062753B2 (ja) 2018-03-20 2019-03-11 監視システム及び監視方法

Country Status (2)

Country Link
JP (1) JP7062753B2 (ja)
WO (1) WO2019181609A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021087065A (ja) * 2019-11-26 2021-06-03 西日本旅客鉄道株式会社 駅監視システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005258515A (ja) * 2004-03-09 2005-09-22 Koito Ind Ltd 移動体感知装置
JP2006011600A (ja) * 2004-06-23 2006-01-12 Kyosan Electric Mfg Co Ltd 白杖センサ及び歩行者支援装置
JP2007274234A (ja) * 2006-03-30 2007-10-18 National Institute Of Advanced Industrial & Technology ステレオカメラを用いた白杖使用者検出システム
JP2016063305A (ja) * 2014-09-16 2016-04-25 株式会社日立ビルシステム 視覚障がい者の案内装置
WO2017159060A1 (ja) * 2016-03-18 2017-09-21 日本電気株式会社 情報処理装置、制御方法、及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005258515A (ja) * 2004-03-09 2005-09-22 Koito Ind Ltd 移動体感知装置
JP2006011600A (ja) * 2004-06-23 2006-01-12 Kyosan Electric Mfg Co Ltd 白杖センサ及び歩行者支援装置
JP2007274234A (ja) * 2006-03-30 2007-10-18 National Institute Of Advanced Industrial & Technology ステレオカメラを用いた白杖使用者検出システム
JP2016063305A (ja) * 2014-09-16 2016-04-25 株式会社日立ビルシステム 視覚障がい者の案内装置
WO2017159060A1 (ja) * 2016-03-18 2017-09-21 日本電気株式会社 情報処理装置、制御方法、及びプログラム

Also Published As

Publication number Publication date
JP7062753B2 (ja) 2022-05-06
WO2019181609A1 (ja) 2019-09-26

Similar Documents

Publication Publication Date Title
KR102021999B1 (ko) 인체 감시 발열 경보 장치
CN108734055B (zh) 一种异常人员检测方法、装置及系统
KR101215948B1 (ko) 신체정보 및 얼굴인식에 기반한 감시 시스템의 영상정보 마스킹 방법
JP2018085597A (ja) 人物行動監視装置および人物行動監視システム
KR101309366B1 (ko) 영상 기반 이상 동작 감시 시스템 및 방법
JP2021108149A (ja) 人物検出システム
KR100822476B1 (ko) 원격 응급상황 모니터링 시스템 및 방법
EP3018902B1 (en) Monitoring camera system
KR20160074208A (ko) 비콘신호를 이용한 안전 서비스 제공 시스템 및 방법
KR20090001848A (ko) 얼굴표정 감시 방법 및 얼굴표정 감시 시스템
JP4430027B2 (ja) 画像処理装置、監視カメラ及び画像監視システム
JP2009227450A (ja) エレベータのかご内監視装置
JP6483214B1 (ja) エレベータシステム及びエレベータの迷子検出方法
JP2020145511A (ja) カメラ装置、人物検出方法および人物検出システム
JP7062753B2 (ja) 監視システム及び監視方法
KR100900494B1 (ko) 이동체 움직임 추적 시스템 및 그 제어방법
JP2009033564A (ja) 表示装置及び表示プログラム
KR20220113631A (ko) 위험 상황 감지 장치 및 위험 상황 감지 방법
KR102116396B1 (ko) 사회약자 인식장치 및 그 장치의 구동방법
JP5444103B2 (ja) 通報装置
CN114529979A (zh) 人体姿势辨识系统、人体姿势辨识方法以及非暂态计算机可读取储存媒体
CN111144260A (zh) 一种翻越闸机的检测方法、装置及系统
WO2021241293A1 (ja) 行動体特定システム
JP2011227677A (ja) 通報装置
JP2013186876A (ja) 無人化判定装置、無人化判定方法および無人化判定プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210928

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220412

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220420

R150 Certificate of patent or registration of utility model

Ref document number: 7062753

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150