JP7418734B2 - 煙検出装置 - Google Patents

煙検出装置 Download PDF

Info

Publication number
JP7418734B2
JP7418734B2 JP2019213964A JP2019213964A JP7418734B2 JP 7418734 B2 JP7418734 B2 JP 7418734B2 JP 2019213964 A JP2019213964 A JP 2019213964A JP 2019213964 A JP2019213964 A JP 2019213964A JP 7418734 B2 JP7418734 B2 JP 7418734B2
Authority
JP
Japan
Prior art keywords
smoke
image
transition state
monitoring target
target area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019213964A
Other languages
English (en)
Other versions
JP2021087084A (ja
Inventor
賢治 寺田
那留 岩藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nohmi Bosai Ltd
University of Tokushima NUC
Original Assignee
Nohmi Bosai Ltd
University of Tokushima NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nohmi Bosai Ltd, University of Tokushima NUC filed Critical Nohmi Bosai Ltd
Priority to JP2019213964A priority Critical patent/JP7418734B2/ja
Publication of JP2021087084A publication Critical patent/JP2021087084A/ja
Application granted granted Critical
Publication of JP7418734B2 publication Critical patent/JP7418734B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Fire-Detection Mechanisms (AREA)

Description

本発明は、監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定することのできる煙検出装置に関する。
画像処理技術を応用し、監視カメラが撮像した監視対象領域の中から、煙の領域だけを抽出できる従来装置がある(例えば、特許文献1参照)。このような従来装置は、煙が発生した状態を、定常状態とは異なる異常状態として検出している。
特開2010-97265号公報
しかしながら、従来技術には、以下のような課題がある。
火災時の煙によって、一酸化炭素中毒により多くの死傷者が発生するおそれがある。特に、工場、ショッピングセンタなどの大規模な施設においては、火災発生地点から遠く離れた場所まで煙が及び、被害が拡大するおそれがある。また、煙が充満してしまうと、出口がどこであるかを把握できなくなるため、外部から適切な避難指示を出す必要がある。
しかしながら、特許文献1等の従来装置では、大規模な施設において広がる煙を詳細に特定することが困難である。従って、大規模な施設において広がる煙による被害拡大を抑えることが重要な課題となる。すなわち、火災による被害を軽減させるためには、煙流動を把握することが重要となる。
本発明は、前記のような課題を解決するためになされたものであり、監視対象領域内に発生した煙の流動を報知できる煙検出装置を得ることを目的とする。
本発明に係る煙検出装置は、監視対象領域の画像を撮像する撮像素子と、撮像素子により撮像された画像の時系列データに基づいて監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器によって識別表示させるための表示画像を生成する検出部とを備え、検出部は、時系列データのそれぞれについて画像処理を施すことで、監視対象領域を分割した個々の分割領域のうちで煙が発生した領域を煙領域として抽出し、個々の分割領域のそれぞれについて、あらかじめ決められた時間にわたって煙領域として抽出された累積回数を求めることで遷移状態を特定し、個々の分割領域のそれぞれについて、累積回数に応じた識別表示を行うための画像として表示画像を生成するものである。
また、本発明に係る煙検出装置は、監視対象領域の画像を撮像する撮像素子と、撮像素子により撮像された画像の時系列データに基づいて監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器によって識別表示させるための表示画像を生成する検出部とを備え、検出部は、遷移状態から監視対象領域における煙の移動方向および移動速度を特定し、移動方向および移動速度を識別するための情報を付加して表示画像を生成するものである。
さらに、本発明に係る煙検出装置は、監視対象領域の画像を撮像する撮像素子と、撮像素子により撮像された画像の時系列データに基づいて監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器によって識別表示させるための表示画像を生成する検出部とを備え、検出部は、遷移状態から監視対象領域における煙の移動方向を特定し、移動方向を識別するための情報を付加して表示画像を生成するものである。
本発明によれば、監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器によって識別表示させるための表示画像を生成することで、監視対象領域内に発生した煙の流動を報知できる煙検出装置を得ることができる。
本発明の実施の形態1における煙検出装置の構成図である。 本発明の実施の形態1における煙検出装置により、表示画像に相当する煙分布マップを作成する手法を示した説明図である。 本発明の実施の形態1における煙検出装置により、射影変換後の時系列取得画像から煙分布マップを作成する手法を示した説明図である。 本発明の実施の形態1に係る移動情報生成部において実行される流動方向の検出処理に関する説明図である。 本発明の実施の形態1に係る移動情報生成部において実行される流動速度の検出処理に関する説明図である。 本発明の実施の形態2における煙検出装置により、複数のカメラによる撮像結果を用いて、監視対象領域における煙分布マップを作成する手法を示した説明図である。
以下、本発明の煙検出装置の好適な実施の形態につき、図面を用いて説明する。
実施の形態1.
図1は、本発明の実施の形態1における煙検出装置の構成図である。本実施の形態1における煙検出装置は、画像メモリ10および検出部20を備えている。画像メモリ10は、撮像素子に相当するカメラ1により撮像された画像を、過去一定期間分、時系列データとして記憶できるように、複数フレーム分の画像メモリとして構成されている。1フレーム分の画像は、複数の画素から構成される。
また、検出部20は、煙遷移状態特定部21、移動情報生成部22、および表示画像生成部23を含んで構成されている。煙遷移状態特定部21は、画像処理を施すことで、監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定する。移動情報生成部22は、画像処理を施すことで、監視対象領域における煙の移動方向および移動速度を、移動情報として生成する。
さらに、表示画像生成部23は、煙遷移状態特定部21で特定した遷移状態を表示器2によって識別表示させるための表示画像を生成する。また、表示画像生成部23は、移動情報生成部22で生成した移動情報を付加した表示画像を生成することもできる。そして、表示画像生成部23は、生成した表示画像を表示器2に表示させることで、監視対象領域内における煙の遷移状態を報知する。
なお、移動情報生成部22は、オプション機能であり、検出部20は、最小構成としては、煙遷移状態特定部21と表示画像生成部23とで構成することができる。
このように、図1に示す構成を備えた本実施の形態1に係る煙検出装置は、カメラ1により撮像された画像の時系列データに基づいて、監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器2によって識別表示させるための表示画像を生成することができる。そこで、本発明における表示画像の生成手法について、図面を用いて具体的に説明する。
図2は、本発明の実施の形態1における煙検出装置により、表示画像に相当する煙分布マップを作成する手法を示した説明図である。図2(a)は、監視対象領域内をカメラ1により撮像した状態を示す平面図であり、監視対象領域を上から見た平面図である。
図2(b)は、カメラ1により撮像された取得画像を例示したものである。
図2(c)は、図2(a)に示した壁面Aを基準面とした際に、図2(b)に示した取得画像に対して、壁面Aを特定するための4点(P1、P2、P3、P4)をプロットした状態を示す画像である。この4点(P1、P2、P3、P4)は、カメラ1の設置位置に応じて、あらかじめ設定することが可能である。
図2(d)は、図2(c)の画像に対して射影変換を行い、奥行きによるスケールの違いを排除し、4点(P1、P2、P3、P4)により長方形が規定されるようにして作成された平面画像である。より具体的には、縦方向および横方向の距離が、画面全体にわたって均等となるように、図2(c)の画像を射影変換することで、基準面である壁面Aに沿って煙がどのように移動しているかを模式的に示した平面画像に相当する図2(d)が得られる。
図2(e)は、奥行きによるスケールの違いが排除された、図2(d)に示した平面画像を、任意の区画で区切ることで仮想的に作成された煙分布マップである。具体的には、検出部20は、任意の区画で区切られた個々の分割領域のそれぞれについて、あらかじめ決められた時間にわたって煙領域として抽出された累積回数を求めることで、遷移状態を特定する。
なお、あらかじめ決められた時間による複数の画像は、時系列データとして取得でき、時系列データに基づいて累積回数を求める手法については、図3を用いて後述する。
さらに、検出部20は、個々の分割領域のそれぞれについて、累積回数を識別表示させるための画像として、煙分布マップを生成する。生成された煙分布マップにおいては、あらかじめ決められた時間にわたって煙が存在する区画が、累積回数に応じて色付けされている。累積回数に応じた色分けの具体例としては、累積回数が多いほど、濃い色とするように色分けすることが考えられる。従って、表示器2に表示された煙分布マップを見た人は、視覚的に煙分布を分かりやすく認識することができる。
図3は、本発明の実施の形態1における煙検出装置により、射影変換後の時系列取得画像から煙分布マップを作成する手法を示した説明図である。図3(a)は、時刻t1において取得された画像に対して射影変換を施すことで得られた壁面Aに関する平面画像であり、図3(b)は、時刻t2において取得された画像に対して射影変換を施すことで得られた壁面Aに関する平面画像であり、図3(c)は、時刻t3において取得された画像に対して射影変換を施すことで得られた壁面Aに関する平面画像である。
ここで、各時刻は、古い順に、t1、t2、t3となっている。それぞれの時刻で取得された画像が画像メモリ10に蓄えられる。そして、あらかじめ決められた時間が、時刻t1から時刻t3までの3枚分の時系列データの間隔とすると、煙遷移状態特定部21は、画像メモリ10に蓄えられた3枚の画像のそれぞれにおいて、既存の煙検知手法を用いて煙領域を特定する。
次に、煙遷移状態特定部21は、煙領域が特定された画像のそれぞれに対して射影変換を施すことで、図3(a)~図3(c)に相当する画像を生成する。さらに、煙遷移状態特定部21は、個々の分割領域のそれぞれについて、3枚の画像にわたって煙領域として抽出された累積回数を求めることで、監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定する。
次に、表示画像生成部23は、個々の分割領域のそれぞれについて、累積回数を識別表示させるための画像として、図3(d)に示したような煙分布マップを生成する。図3(d)に示した煙分布マップでは、累積回数が多い領域ほど、色が濃くなって表示されている。
また、図3(d)に示された煙分布マップでは、個々の分割領域のそれぞれについて、流動方向を示す矢印が追記されている。図3(d)に示した流動方向を示す矢印は、煙に関する移動情報の1つとして、移動情報生成部22により生成することができる。
本実施の形態1に係る移動情報生成部22では、「複素正弦波変調撮像によるオプティカルフロー検出理論」という既存の技術を用いて、領域ごとに流動方向が推定される。より具体的には、以下の手順で流動方向が特定される。
ステップ1:時系列画像に相当する連続フレーム画像に基づいて、画素ごとに輝度の時系列変化グラフを得る。
ステップ2:連続フレーム画像の輝度推移を示す時系列変化グラフと、三相正弦波との相関により位相画像を得る。
ステップ3:位相画像に対して空間微分を行うことで画素ごとのベクトルを求める。
ステップ4:ベクトルの時空間的安定性から流動領域を検出する。
ステップ5:流動領域中において、ベクトルの時空間平均値を算出することで、それぞれの領域における流動方向を特定する。
図4は、本発明の実施の形態1における移動情報生成部22において実行される流動方向の検出処理に関する説明図である。図4(a)は、画像メモリ10に蓄積された連続フレーム画像を示している。図4(b)は、上述したステップ1により画素ごとに生成される輝度の時系列変化グラフを示している。図4(b)では、3×3の各画素に関する輝度の時系列変化グラフを例示している。
さらに、図4(c)は、輝度の時系列変化グラフに対して上述したステップ2~ステップ5を実行することで、3×3の画素領域において推定結果として特定された流動方向を模式的に示している。移動情報生成部22は、図4に示した一連処理を実行することで、連続フレーム画像の時系列変化から、領域ごとに流動方向を特定することができる。
さらに、移動情報生成部22は、領域ごとに特定した流動方向から、大局的流動方向を推定することも可能である。図3(d)に示したように、表示画像生成部23は、移動情報生成部22によって推定された大局的流動方向を、煙分布マップとともに表示器2に表示させることができる。
図5は、本発明の実施の形態1における移動情報生成部22において実行される流動速度の検出処理に関する説明図である。図5(a)は、時刻t1において取得された画像に基づいて生成された煙分布マップであり、図5(b)は、時刻t2において取得された画像に基づいて生成された煙分布マップであり、図5(c)は、時刻t3において取得された画像に基づいて生成された煙分布マップである。
移動情報生成部22は、図5(a)~図5(c)に示したように、それぞれの煙分布マップに基づいて煙の先端位置を特定する。具体的には、移動情報生成部22は、煙領域の端部の分割領域であり、かつ累積回数が最も少ない分割領域を、煙先端であるとして特定することができる。図5(a)~図5(c)では、移動情報生成部22により煙先端と特定された領域を、斜めにハッチングされた分割領域として示している。
次に、移動情報生成部22は、3つの煙分布マップからなる時系列煙分布マップに対して特定したそれぞれの先端位置を、ある基準位置からの距離として算出する。そして、移動情報生成部22は、図5(d)に示すように、時刻t1~t3で特定される時間を横軸とし、基準位置からの距離を縦軸とした2次元平面上に、3つの煙分布マップのそれぞれにおいて時間および距離により特定される3点をプロットする。さらに、移動情報生成部22は、2次元平面上にプロットした3点の傾きから、煙の流動速度を算出することができる。
なお、移動情報生成部22は、時系列煙分布マップにおける先端位置の時間遷移から、煙の大局的流動方向を求めることも可能である。
そして、表示画像生成部23は、作成した煙分布マップに対して、移動情報生成部22により生成された流動方向および流動速度に関する情報を付加して、表示器2に表示させることができる。
以上のように、実施の形態1によれば、監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器によって識別表示させるための表示画像を生成する煙検出装置を実現できる。この結果、煙の発生状況に応じて、煙の流動方向に関する情報を適切に表示することができ、迅速な避難を促すことができる。さらに、煙が充満する前に、適切な方向に避難誘導を行うことが可能となる。
実施の形態2.
先の実施の形態1では、1台のカメラで撮像された監視対象領域の画像に基づいて、煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器によって識別表示させるための表示画像を生成する煙検出装置について説明した。これに対して、本実施の形態2では、監視対象領域を複数台のカメラで分割して撮像した複数の画像に基づいて、煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器によって識別表示させるための表示画像を生成する煙検出装置について説明する。
図6は、本発明の実施の形態2における煙検出装置により、複数のカメラによる撮像結果を用いて、監視対象領域における煙分布マップを作成する手法を示した説明図である。図6(a)は、監視対象領域内を4台のカメラ1(1)~1(4)により撮像した状態を示す平面図であり、監視対象領域を上から見た平面図である。
図6では、トンネルを監視対象領域としており、横に長い壁面Aを、4台のカメラ1(1)~1(4)を用いて撮像している場合を例示している。すなわち、4台のカメラ1(1)~1(4)は、監視対象領域に含まれる複数の個別領域を分割して撮像している。
4台のカメラ1(1)~1(4)では、隣接するカメラで撮像領域の一部が重複するようにしている。従って、検出部20は、重複した領域に関しては、一方のカメラによる画像を採用することで、図6(b)~図6(e)に示すように、横方向に連続した4枚の煙分布マップ1~4を生成することができる。
そして、検出部20内の表示画像生成部23は、4枚の煙分布マップ1~4を合成することで、図6(f)に示すように、壁面Aに対応した1枚の煙分布マップを全体マップとして生成できる。
図6に示した例では、監視対象領域であるトンネル内で発生した煙が、カメラ1(1)~カメラ1(3)の3台で撮像できた状態を例示している。そして、カメラ1(1)の撮像結果に基づいて生成された煙分布マップ1および移動情報から、表示画像を見た者は、大局的流動方向が左方向であり、流動速度が1.6m/Sであることを認識できる。
また、カメラ1(2)の撮像結果に基づいて生成された煙分布マップ2および移動情報から、表示画像を見た者は、大局的流動方向が左方向であり、流動速度が1.8m/Sであることを認識できる。
さらに、カメラ1(3)の撮像結果に基づいて生成された煙分布マップ3および移動情報から、表示画像を見た者は、大局的流動方向が右方向であり、流動速度が1.7m/Sであることを認識できる。
そして、煙分布マップ1~4が合成された全体マップを見た者は、カメラ1(2)で撮像された監視対象領域内で発生した煙が、左方向に1.6m/sの速度で広がっており、右方向に1.7m/sの速度で広がっていることを、視覚的に、迅速に把握することができる。
以上のように、実施の形態2によれば、1台のカメラではカバーしきれない監視対象領域を、複数のカメラにより分割して得られた撮像結果に基づいて、先の実施の形態1と同様の画像処理を施すことで、監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した遷移状態を表示器によって識別表示させるための表示画像を生成する煙検出装置を実現できる。
この結果、監視対象領域の大きさに応じて適切な台数のカメラを、適切な位置に配置することで、煙の発生状況に応じて、煙の流動方向に関する情報を適切に表示することができ、迅速な避難を促すことができる。さらに、煙が充満する前に、適切な方向に避難誘導を行うことが可能となる。
なお、本発明は、上記の実施の形態に限定されるものではなく、本発明の主旨を逸脱しない範囲で種々に変形することが可能である。例えば、AR(拡張現実)として、煙分布マップをカメラ1により撮像された取得画像に重ねて表示するようにしてもよい。また、その際に、煙の先端部分の位置が分かるように輪郭や、線により表示するようにしてもよい。また、監視対象領域が建物の場合に、フロアを俯瞰した平面図上に煙分布マップあるいは煙分布マップに基づき変換した情報を表示するようにしてもよい。
1 カメラ(撮像素子)、2 表示器、10 画像メモリ、20 検出部、21 煙遷移状態特定部、22 移動情報生成部、23 表示画像生成部。

Claims (3)

  1. 監視対象領域の画像を撮像する撮像素子と、
    前記撮像素子により撮像された前記画像の時系列データに基づいて前記監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した前記遷移状態を表示器によって識別表示させるための表示画像を生成する検出部と
    を備え
    前記検出部は、
    前記時系列データのそれぞれについて画像処理を施すことで、前記監視対象領域を分割した個々の分割領域のうちで煙が発生した領域を煙領域として抽出し、
    前記個々の分割領域のそれぞれについて、あらかじめ決められた時間にわたって前記煙領域として抽出された累積回数を求めることで前記遷移状態を特定し、
    前記個々の分割領域のそれぞれについて、前記累積回数に応じた識別表示を行うための画像として前記表示画像を生成する
    煙検出装置。
  2. 監視対象領域の画像を撮像する撮像素子と、
    前記撮像素子により撮像された前記画像の時系列データに基づいて前記監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した前記遷移状態を表示器によって識別表示させるための表示画像を生成する検出部と
    を備え
    前記検出部は、
    前記遷移状態から前記監視対象領域における煙の移動方向および移動速度を特定し、
    前記移動方向および前記移動速度を識別するための情報を付加して前記表示画像を生成する
    煙検出装置。
  3. 監視対象領域の画像を撮像する撮像素子と、
    前記撮像素子により撮像された前記画像の時系列データに基づいて前記監視対象領域内に発生した煙の時間経過に伴う遷移状態を特定し、特定した前記遷移状態を表示器によって識別表示させるための表示画像を生成する検出部と
    を備え
    前記検出部は、
    前記遷移状態から前記監視対象領域における煙の移動方向を特定し、
    前記移動方向を識別するための情報を付加して前記表示画像を生成する
    煙検出装置。
JP2019213964A 2019-11-27 2019-11-27 煙検出装置 Active JP7418734B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019213964A JP7418734B2 (ja) 2019-11-27 2019-11-27 煙検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019213964A JP7418734B2 (ja) 2019-11-27 2019-11-27 煙検出装置

Publications (2)

Publication Number Publication Date
JP2021087084A JP2021087084A (ja) 2021-06-03
JP7418734B2 true JP7418734B2 (ja) 2024-01-22

Family

ID=76085794

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019213964A Active JP7418734B2 (ja) 2019-11-27 2019-11-27 煙検出装置

Country Status (1)

Country Link
JP (1) JP7418734B2 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011215741A (ja) 2010-03-31 2011-10-27 Nohmi Bosai Ltd 煙検出装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011215741A (ja) 2010-03-31 2011-10-27 Nohmi Bosai Ltd 煙検出装置

Also Published As

Publication number Publication date
JP2021087084A (ja) 2021-06-03

Similar Documents

Publication Publication Date Title
JP6801760B2 (ja) 画像処理装置、監視システム、画像処理方法、及びプログラム
WO2016143754A1 (ja) ガス漏れ位置推定装置、ガス漏れ位置推定システム、ガス漏れ位置推定方法及びガス漏れ位置推定プログラム
JP2023016837A (ja) 情報処理装置、情報処理方法、及びプログラム
US9875408B2 (en) Setting apparatus, output method, and non-transitory computer-readable storage medium
JP2016048834A (ja) モニタリング装置、モニタリングシステムおよびモニタリング方法
KR101623826B1 (ko) 히트맵 영상 기능을 가진 감시카메라
JP2018142164A5 (ja) 画像処理装置、情報処理方法及びプログラム
US20150304568A1 (en) Field display system, field display method, and field display program
US10460466B2 (en) Line-of-sight measurement system, line-of-sight measurement method and program thereof
JP2015185106A (ja) 人数計測装置、人数計測システムおよび人数計測方法
KR20180092495A (ko) 다중 카메라 영상 내 관심 객체 중심의 베스트 뷰 영상 생성 장치 및 방법
JP6638723B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP6365906B1 (ja) 3次元侵入検知システムおよび3次元侵入検知方法
CN105577983A (zh) 检测运动遮罩的设备和方法
JPWO2017061351A1 (ja) ナビゲート装置及びナビゲート方法
JP5111934B2 (ja) 監視装置
CN111033472B (zh) 异常状态检测装置与方法以及计算器可读取记录媒体
JP7418734B2 (ja) 煙検出装置
KR101700651B1 (ko) 위치정보 기반의 공유 경로데이터를 이용한 객체 트래킹 장치
WO2014087622A1 (ja) 見え方提示システム、方法およびプログラム
JP2016144049A (ja) 画像処理装置、画像処理方法、およびプログラム
KR101383997B1 (ko) 실시간 동영상 합병 방법 및 시스템, 실시간 동영상 합병을 이용한 영상 감시 시스템 및 가상 영상 투어 시스템
JP7176429B2 (ja) ガス漏れ位置特定システム及びガス漏れ位置特定プログラム
CN111447403B (zh) 一种视频显示方法、装置及系统
JP2015033047A (ja) 複数カメラを用いた奥行き推定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231226

R150 Certificate of patent or registration of utility model

Ref document number: 7418734

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150