JP7073769B2 - 運転支援システム及び運転支援方法 - Google Patents

運転支援システム及び運転支援方法 Download PDF

Info

Publication number
JP7073769B2
JP7073769B2 JP2018023687A JP2018023687A JP7073769B2 JP 7073769 B2 JP7073769 B2 JP 7073769B2 JP 2018023687 A JP2018023687 A JP 2018023687A JP 2018023687 A JP2018023687 A JP 2018023687A JP 7073769 B2 JP7073769 B2 JP 7073769B2
Authority
JP
Japan
Prior art keywords
vehicle
image
captured
abnormal image
map information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018023687A
Other languages
English (en)
Other versions
JP2019139609A (ja
Inventor
智啓 下沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Isuzu Motors Ltd
Original Assignee
Isuzu Motors Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Isuzu Motors Ltd filed Critical Isuzu Motors Ltd
Priority to JP2018023687A priority Critical patent/JP7073769B2/ja
Priority to PCT/JP2019/002901 priority patent/WO2019159683A1/ja
Publication of JP2019139609A publication Critical patent/JP2019139609A/ja
Application granted granted Critical
Publication of JP7073769B2 publication Critical patent/JP7073769B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems

Description

本開示は、運転支援システム及び運転支援方法に関する。
トラック等の車両の運転者は、様々な環境下で運転を行っている。例えば、車両が走行する時間帯や進行方向によっては、運転者は、前方からの光(例えば太陽光)が眩しいため前方を適切に視認できない。
特開2009-37493号公報
上記の光から運転者を保護するためにサングラス等が利用されるが、運転者が眩しいと感じた後にサングラス等を掛けることになり、事前に対応できない。このため、運転者に事前に注意を喚起できる方策の実現が要請されているが、従来では具体的な解決策が存在しなかった。
そこで、本開示はこれらの点に鑑みてなされたものであり、視界が眩しくなる地点を予測して適切に注意喚起することを目的とする。
本開示の第1の態様においては、車両に搭載された撮像部が進行方向を所定間隔で撮像して生成した撮像画像を順次取得する画像取得部と、前記車両の位置、前記車両の進行方向及び時刻に関する情報を含む車両情報を取得する情報取得部と、順次取得された複数の前記撮像画像中に輝度の異常がある異常画像があるか否かを判定する異常判定部と、異常画像があると判定された場合には、前記異常画像を撮像したタイミングに対応する前記車両情報に基づいて、運転を支援するための支援用地図情報を作成する地図作成部と、を備える、運転支援システムを提供する。
また、前記異常判定部は、順次取得された複数の前記撮像画像の輝度の大きさをそれぞれ求め、前記輝度の平均値から所定値以上大きい輝度の画像を、前記異常画像であると判定することとしてもよい。
また、前記地図作成部は、前記異常画像を撮像した時刻における前記車両の位置、進行方向を示す情報を含む前記支援用地図情報を作成することとしてもよい。
また、前記運転支援システムは、前記支援用地図情報に基づいて、走行中の車両が前記異常画像である撮像画像を撮像した地点に近づくと想定される場合に、注意を喚起する注意喚起部を更に備えることとしてもよい。
本開示の第2の態様においては、車両に搭載された撮像部が進行方向を所定間隔で撮像して生成した撮像画像を順次取得するステップと、前記車両の位置、前記車両の進行方向及び時刻に関する情報を含む車両情報を取得するステップと、順次取得された複数の前記撮像画像中に輝度の異常がある異常画像があるか否かを判定するステップと、異常画像があると判定された場合には、前記異常画像を撮像したタイミングに対応する前記車両情報に基づいて、運転を支援するための支援用地図情報を作成するステップと、を備える、運転支援方法を提供する。
本開示によれば、視界が眩しくなる地点を予測して適切に注意喚起できるという効果を奏する。
本発明の一の実施形態に係る運転支援システムSの構成を説明するためのブロック図である。 撮像装置2による撮像画像の撮像を説明するための図である。 所定時間内に取得した各撮像画像の輝度値の分布例を示す図である。 支援用地図情報を説明するための模式図である。 支援用地図情報の作成処理を説明するためのフローチャートである。
<運転支援システムの構成>
本発明の一の実施形態に係る運転支援システムの構成について、図1を参照しながら説明する。
図1は、一の実施形態に係る運転支援システムSの構成を説明するためのブロック図である。運転支援システムSは、車両1を運転する際に事前に光が眩しい注意地点を特定して警告することで、運転を円滑に行わせる。運転支援システムSは、図1に示すように、車両1と、管理装置50とを含む。
車両1は、一例としてトラックである。車両1は、図1に示すように、撮像装置2と、GPS3と、警報装置4と、記憶部5と、車両制御装置6とを有する。
撮像装置2は、車両1の運転席(例えばトラックのキャブ)に前方(運転者の視界)を向くように設けられており(図2参照)、例えばCCDカメラを含む。撮像装置2は、走行中の車両1の前方を撮像して、撮像画像を生成する。本実施形態では、撮像装置2は、所定間隔で前方を撮像し、生成した撮像画像を車両制御装置6へ順次出力する。
図2は、撮像装置2による撮像画像の撮像を説明するための図である。撮像装置2は、車両1の運転者の視界を撮像するが、進行方向や走行時刻によっては、図2に示すように太陽の直接光や反射光も含むような撮像画像を撮像する。このため、撮像装置2が撮像した撮像画像には、輝度が異なるものが含まれる。例えば、視界が急に明るくなった場合には、その際に撮像した撮像画像の輝度が大きくなる。
図1に戻り、GPS3は、例えば人工衛星を利用した全地球測位システムであり、車両1の位置を測位する。GPS3は、測位結果を車両制御装置6に出力する。
警報装置4は、運転を支援するために、運転者に対して警報を行う装置である。例えば、警報装置4は、運転者の視界に入る光量が多くなる(前方からの太陽光が眩しい)と予測される場合に、警報を行う。警報装置4は、例えば、アラーム等の音を鳴らすスピーカ、警告画面を表示する表示部、振動を発生する振動発生部を含む。
記憶部5は、例えばROM(Read Only Memory)及びRAM(Random Access Memory)を含む。記憶部5は、車両制御装置6が実行するためのプログラムや各種データを記憶する。例えば、記憶部5は、撮像装置2が生成した撮像画像や、運転支援用の制御地図を記憶している。
車両制御装置6は、例えばCPU(Central Processing Unit)である。車両制御装置6は、記憶部5に記憶されたプログラムを実行することにより、制御地図作成処理を実行する。車両制御装置6は、画像取得部12と、車両情報取得部13と、画像判定部14と、通信制御部15と、警報制御部16とを有する。
画像取得部12は、車両1の進行方向(運転者の視界)を撮像した撮像画像を取得する。すなわち、画像取得部12は、車両1の走行中に撮像装置2が所定間隔で撮像して、生成した撮像画像を順次取得する。画像取得部12は、順次取得した撮像画像を記憶部5に記憶させる。
車両情報取得部13は、車両1の位置、進行方向及び時刻に関する情報を含む車両情報を取得する情報取得部である。例えば、車両情報取得部13は、GPS3の測位結果に基づいて、車両1の位置及び進行方向を特定する。また、車両情報取得部13は、GPS3が測定した時刻も、併せて取得する。
画像判定部14は、画像取得部12が取得した撮像画像を判定する。画像判定部14は、順次取得された複数の撮像画像中に輝度の異常がある異常画像があるか否かを判定する異常判定部の機能を有する。例えば、画像判定部14は、所定時間内に順次取得された複数の撮像画像の輝度の大きさをそれぞれ求め、輝度の平均値から所定値以上大きい輝度の画像を異常画像であると判定する。
ここで、画像判定部14の異常画像の判定方法の一例を説明する。
まず、画像判定部14は、過去の所定時間内に画像取得部12が順次取得した各撮像画像の輝度値(例えば、各撮像画像の輝度の平均値)の分布を求める。ここでは、各撮像画像の輝度値の分布が、例えば図3に示すようなものであったとする。
図3は、所定時間内に取得した各撮像画像の輝度値の分布例を示す図である。図3のグラフの横軸は輝度を示し、縦軸は頻度を示す。車両1の走行中に視界の明るさの変化が小さい場合(運転者がまぶしく感じない場合)には、輝度値は、図3の所定範囲C1(例えば、平均値+3σ)内に分布する。しかし、視界が急に明るくなる場合(運転者がまぶしく感じる場合)には、その際に撮像した撮像画像の輝度値は、図3の所定範囲C1から離れて大きな値(領域C2の部分)を示す。画像判定部14は、領域C2の部分に相当する輝度値が検出された場合に、輝度が異常であると判定する。
上記の異常画像の判定をする利点は、以下の点にある。通常、運転者にとっては輝度が安定している状態では、輝度の大きさに関係なく目が慣れる習性を有する。そして、このような安定した状態から輝度が大きくなると、眩しく感じる。そこで、輝度が安定した状態から輝度が大きく変化した際に異常画像であると判定することで、運転者が眩しいと感じるタイミングを適切に検出できる。
上記では、画像判定部14は、複数の撮像画像中に輝度に異常がある画像を異常画像として判定することとしたが、これに限定されない。例えば、画像判定部14は、画像形式によっては、輝度に代えて白色度に異常がある画像を異常画像として判定してもよい。
図1に戻り、通信制御部15は、管理装置50との間の情報の送受信を制御する。例えば、通信制御部15は、画像判定部14によって異常画像があると判定された場合には、車両情報取得部13によって取得された車両情報を管理装置50に送信させる。具体的には、通信制御部15は、異常画像と判定された撮像画像を撮像した際の車両情報を、管理装置50に送信させる。また、通信制御部15は、後述する管理装置50が作成した支援用地図情報を受信する。
警報制御部16は、警報装置4の動作を制御する。警報制御部16は、車両1の走行中に運転者の視界に入る光量を多くなると予測される場合には、警報装置4によって注意を喚起する注意喚起部として機能する。例えば、警報制御部16は、支援用地図情報から運転者の視界に入る光量を多くなる地点(別言すれば、輝度が異常であると判定された撮像画像を撮像した地点)に、撮像画像を撮像した時刻帯に車両1が近づくと想定される場合には、警報装置4によって注意を喚起する。
管理装置50は、例えば管理センターに設けられた管理サーバーであり、複数の車両1との間で情報の送受信を行う(図1では、説明の便宜上、一つの車両1のみが示されている)。管理装置50は、車両1の運転状況を管理すると共に、運転を支援する支援用地図情報を車両1に送信する。管理装置50は、通信部52と、管理制御部53と、記憶部54とを有する。
通信部52は、車両1から、撮像画像中に異常画像があると判定された際の車両情報を受信する。記憶部54は、管理制御部53が実行するためのプログラムや各種データを記憶する。記憶部54は、車両1から受信した車両情報を記憶する。
管理制御部53は、管理装置50の動作を制御する。例えば、管理制御部53は、車両1の画像判定部14によって異常画像があると判定された場合には、異常画像を撮像したタイミングに対応する車両情報に基づいて、運転を支援するための支援用地図情報を作成する地図情報作成部として機能する。すなわち、管理制御部53は、車両1から受信した車両情報に基づいて、支援用地図情報を作成する。この際、管理制御部53は、異常画像を撮像した時刻における車両1の位置、進行方向を示す情報を含む支援用地図情報を作成する。
図4は、支援用地図情報を説明するための模式図である。管理制御部53は、例えば図4(a)~(d)に示すように、所定の時刻帯毎の支援用地図情報を作成する。各支援用地図情報には、輝度が異常を示す地点を示す情報I1(星のマーク)と、その地点の車両1の通過方向(進行方向)を示す情報I2(矢印の向き)が含まれる。なお、図4(d)では、輝度の異常が無いので、上記の情報I1、I2が含まれていない。
通信部51は、管理制御部53が作成した支援用地図情報を、車両1に送信する。車両1は、受信した支援用地図情報に基づいて、運転者の視界に入る光量が多くなる地点に同時刻帯に近づき、かつ当該地点の車両1の通過方向が支援用地図情報と同じ場合には、警報装置4によって警報を行うことになる。
<支援用地図情報の作成処理>
支援用地図情報の作成処理について、図5を参照しながら説明する。
図5は、支援用地図情報の作成処理を説明するためのフローチャートである。図5のフローチャートは、車両1が走行を開始したところから開始される。
まず、画像取得部12は、撮像装置2が所定間隔で撮像した撮像画像を、順次取得する(ステップS102)。この際、車両情報取得部13は、車両1の位置、進行方向及び時刻に関する情報を含む車両情報を取得する。
次に、画像判定部14は、画像取得部12が取得した複数の撮像画像の各輝度を求める(ステップS104)。例えば、画像判定部14は、図3に示すような各撮像画像の輝度の分布を求める。
次に、画像判定部14は、求めた輝度の分布において、輝度の異常がある異常画像があるか否かを判定する(ステップS106)。ステップS106で異常画像があると判定された場合には(Yes)、通信制御部15は、異常画像であると判定された撮像画像の撮像した際の車両情報を、管理装置50に送信する(ステップS108)。
管理装置50の管理制御部53は、車両1から受信した車両情報に基づいて、支援用地図情報を作成する(ステップS110)。例えば、管理制御部53は、図4(a)~(d)に示すような支援用地図情報を作成する。その後、管理装置50は、作成した支援用地図情報を車両1に送信する。
<本実施形態における効果>
上述した実施形態において、運転支援システムSは、車両1の前方を撮像する撮像装置2が順次取得した複数の撮像画像中に輝度の異常がある異常画像があるか否かを判定する。そして、運転支援システムSは、異常画像があると判定された場合には、異常画像を撮像したタイミングに対応する車両情報に基づいて、運転を支援するための支援用地図情報を作成する。
異常画像の判定によって、車両1の走行中に太陽光によって視界が急に眩しくなる撮像画像を撮像した地点を特定できる。そして、当該撮像画像を撮像した際の車両1の位置、進行方向、時刻に基づいて支援用地図情報を作成することで、その後の運転の際に注意地点(視界が急に眩しくなる地点)を事前に予測して運転者に注意を喚起できる。
なお、上記においては、管理装置50の管理制御部53が支援用地図情報を作成することとしたが、これに限定されない。例えば、車両1の車両制御装置6が支援用地図情報を作成する機能を有してもよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の分散・統合の具体的な実施の形態は、以上の実施の形態に限られず、その全部又は一部について、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を合わせ持つ。
S 運転支援システム
1 車両
2 撮像装置
12 画像取得部
13 車両情報取得部
14 画像判定部
16 警報制御部
50 管理装置
53 管理制御部

Claims (3)

  1. 車両に搭載された撮像部が進行方向を所定間隔で撮像して生成した撮像画像を順次取得する画像取得部と、
    前記車両の位置、前記車両の進行方向及び時刻に関する情報を含む車両情報を取得する情報取得部と、
    順次取得された複数の前記撮像画像中に輝度の異常がある異常画像があるか否かを判定する異常判定部と、
    前記車両と通信可能な管理装置に設けられ、異常画像があると判定された場合には、前記異常画像を撮像したタイミングに対応する前記車両情報に基づいて、前記異常画像を撮像した時刻帯における前記車両の位置と、当該位置での前記車両の通過方向とを示す情報を含む支援用地図情報を作成する地図作成部と、
    前記支援用地図情報を前記管理装置から受信した車両が前記異常画像である撮像画像が撮像された地点に前記時刻帯に近づき、かつ当該地点での前記車両の通過方向が前記支援用地図情報に含まれる通過方向と同じである場合には、注意を喚起する注意喚起部と、
    を備える、運転支援システム。
  2. 前記異常判定部は、
    順次取得された複数の前記撮像画像の輝度の大きさをそれぞれ求め、
    前記輝度の平均値から所定値以上大きい輝度の画像を、前記異常画像であると判定する、
    請求項1に記載の運転支援システム。
  3. 車両に搭載された撮像部が進行方向を所定間隔で撮像して生成した撮像画像を順次取得するステップと、
    前記車両の位置、前記車両の進行方向及び時刻に関する情報を含む車両情報を取得するステップと、
    順次取得された複数の前記撮像画像中に輝度の異常がある異常画像があるか否かを判定するステップと、
    異常画像があると判定された場合には、前記車両と通信可能な管理装置において、前記異常画像を撮像したタイミングに対応する前記車両情報に基づいて、前記異常画像を撮像した時刻帯における前記車両の位置と、当該位置での前記車両の通過方向とを示す情報を含む支援用地図情報を作成するステップと、
    前記支援用地図情報を前記管理装置から受信した車両が前記異常画像である撮像画像が撮像された地点に前記時刻帯に近づき、かつ当該地点での前記車両の通過方向が前記支援用地図情報に含まれる通過方向と同じである場合には、注意を喚起するステップと、
    を備える、運転支援方法。
JP2018023687A 2018-02-14 2018-02-14 運転支援システム及び運転支援方法 Active JP7073769B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018023687A JP7073769B2 (ja) 2018-02-14 2018-02-14 運転支援システム及び運転支援方法
PCT/JP2019/002901 WO2019159683A1 (ja) 2018-02-14 2019-01-29 運転支援システム及び運転支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018023687A JP7073769B2 (ja) 2018-02-14 2018-02-14 運転支援システム及び運転支援方法

Publications (2)

Publication Number Publication Date
JP2019139609A JP2019139609A (ja) 2019-08-22
JP7073769B2 true JP7073769B2 (ja) 2022-05-24

Family

ID=67618698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018023687A Active JP7073769B2 (ja) 2018-02-14 2018-02-14 運転支援システム及び運転支援方法

Country Status (2)

Country Link
JP (1) JP7073769B2 (ja)
WO (1) WO2019159683A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101917120B1 (ko) * 2016-12-21 2018-11-09 김조섭 차량 변속기용 부품의 스플라인 성형 장치

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7264018B2 (ja) 2019-11-22 2023-04-25 トヨタ自動車株式会社 システム、情報処理装置、及び、プログラム
JP7470540B2 (ja) * 2020-03-18 2024-04-18 本田技研工業株式会社 内部機器の異常判定装置、異常判定方法、及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007276766A (ja) 2006-03-15 2007-10-25 Omron Corp 監視装置および方法、記録媒体、並びに、プログラム
JP2007295525A (ja) 2006-03-27 2007-11-08 Seiko Epson Corp 撮像装置、撮像システム及び撮像方法
JP2009006946A (ja) 2007-06-29 2009-01-15 Aisin Aw Co Ltd 車両挙動学習装置及び車両挙動学習プログラム
JP2017207340A (ja) 2016-05-17 2017-11-24 株式会社デンソー 走行計画作成装置及びセンタ

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3550765B2 (ja) * 1994-12-02 2004-08-04 株式会社デンソー 車両用経路案内装置
JP3520618B2 (ja) * 1995-08-16 2004-04-19 日産自動車株式会社 車両用視線方向計測装置
JP2003200734A (ja) * 2002-01-09 2003-07-15 Hitachi Ltd 移動体の防眩装置
JP2007076452A (ja) * 2005-09-13 2007-03-29 Denso Corp 車両用防眩装置及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007276766A (ja) 2006-03-15 2007-10-25 Omron Corp 監視装置および方法、記録媒体、並びに、プログラム
JP2007295525A (ja) 2006-03-27 2007-11-08 Seiko Epson Corp 撮像装置、撮像システム及び撮像方法
JP2009006946A (ja) 2007-06-29 2009-01-15 Aisin Aw Co Ltd 車両挙動学習装置及び車両挙動学習プログラム
JP2017207340A (ja) 2016-05-17 2017-11-24 株式会社デンソー 走行計画作成装置及びセンタ

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101917120B1 (ko) * 2016-12-21 2018-11-09 김조섭 차량 변속기용 부품의 스플라인 성형 장치

Also Published As

Publication number Publication date
WO2019159683A1 (ja) 2019-08-22
JP2019139609A (ja) 2019-08-22

Similar Documents

Publication Publication Date Title
CN108460734B (zh) 车辆驾驶员辅助模块进行图像呈现的系统和方法
KR102504579B1 (ko) 차량 혼합 현실의 조건부 가용성
US9195894B2 (en) Vehicle and mobile device traffic hazard warning techniques
JP6311646B2 (ja) 画像処理装置、電子ミラーシステム、及び画像処理方法
US11050929B2 (en) Driver recorder, display control method and program
RU2678531C2 (ru) Система замещения зеркал для транспортного средства
JP7073769B2 (ja) 運転支援システム及び運転支援方法
JP7027737B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
WO2011132388A1 (ja) 車両の周辺監視装置
US10166923B2 (en) Image generation device and image generation method
US20110035099A1 (en) Display control device, display control method and computer program product for the same
US9643493B2 (en) Display control apparatus
JP6939283B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
US20200285884A1 (en) Display system and display method
US10922976B2 (en) Display control device configured to control projection device, display control method for controlling projection device, and vehicle
CN110378836B (zh) 获取对象的3d信息的方法、系统和设备
JP5942176B2 (ja) 車載用表示装置、車載表示装置の制御方法、プログラム
JP2020033003A (ja) 表示制御装置、及び表示制御プログラム
JP6216569B2 (ja) ドライブレコーダ
JP2014223824A (ja) 表示装置、表示方法および表示プログラム
JP6266022B2 (ja) 画像処理装置、警報装置、および画像処理方法
JP2013172378A (ja) 画像処理装置及び車両
JP2010118767A (ja) 画像処理装置及び画像処理方法
JP6855254B2 (ja) 画像処理装置、画像処理システム、及び、画像処理方法
JP2017037400A (ja) 情報表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201229

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211102

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220412

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220425

R150 Certificate of patent or registration of utility model

Ref document number: 7073769

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150