JP2019070875A - 安全運転判定装置及び安全運転判定方法 - Google Patents

安全運転判定装置及び安全運転判定方法 Download PDF

Info

Publication number
JP2019070875A
JP2019070875A JP2017195473A JP2017195473A JP2019070875A JP 2019070875 A JP2019070875 A JP 2019070875A JP 2017195473 A JP2017195473 A JP 2017195473A JP 2017195473 A JP2017195473 A JP 2017195473A JP 2019070875 A JP2019070875 A JP 2019070875A
Authority
JP
Japan
Prior art keywords
angle
driver
value
angle value
acquired
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017195473A
Other languages
English (en)
Other versions
JP6984294B2 (ja
Inventor
和彦 山口
Kazuhiko Yamaguchi
和彦 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Isuzu Motors Ltd
Original Assignee
Isuzu Motors Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Isuzu Motors Ltd filed Critical Isuzu Motors Ltd
Priority to JP2017195473A priority Critical patent/JP6984294B2/ja
Publication of JP2019070875A publication Critical patent/JP2019070875A/ja
Application granted granted Critical
Publication of JP6984294B2 publication Critical patent/JP6984294B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】運転者の顔向き角度を適切に求める安全運転判定装置及び方法を提供する。【解決手段】車両1の運転者を撮像装置4によって撮像して車両1の進行方向を基準にしたときの運転者の顔向き角度を示す角度値を取得し、取得した角度値に基づいて運転者が前方不注視であるか否かを判定する。制御装置10は、進行方向に対する運転者のヨー方向の顔向き角度と、ピッチ方向の顔向き角度との少なくとも一方の角度値を取得する角度値取得部32と、角度値取得部32が所定時間に亘って取得した角度値を用いて、運転者の顔に対する撮像装置4の撮像方向に対応した角度値のオフセット値を取得するオフセット値取得部33と、角度値取得部32が取得した角度値を、オフセット値取得部33が取得したオフセット値を用いて補正する角度値補正部34と、を備える。【選択図】図1

Description

本発明は、安全運転判定装置及び安全運転判定方法に関する。
従来、車両を運転する運転者の顔向き方向によって運転者の前方不注視(脇見)を判定し、運転者が前方不注視であると判定した場合に運転者に警報を発する装置が提案されている。この装置は、運転者の顔向き角度が正面(進行方向)に対して所定角度以上ずれた状態が所定時間以上継続すると、警報を発する。
特開2008−97445号公報
運転者の顔向き方向は、撮像装置が運転者を撮像した撮像画像に基づいて判定される。しかし、車両の構造上、撮像装置は運転者の正面には配置できず、例えば運転者の顔に対して斜め下方に配置される。このように撮像装置が配置されると、運転者の顔向き角度を適切に求めることができないため、判定精度が低下し、誤って警報が発せられる恐れがある。
そこで、本発明はこれらの点に鑑みてなされたものであり、運転者の顔向き角度を適切に求めることを目的とする。
本発明の第1の態様においては、車両の運転者を撮像装置によって撮像して前記車両の進行方向を基準にしたときの前記運転者の顔向き角度を示す角度値を取得し、取得した前記角度値に基づいて前記運転者が前方不注視であるか否かを判定する安全運転判定装置であって、前記進行方向に対する前記運転者のヨー方向の顔向き角度と、前記進行方向に対する前記運転者のピッチ方向の顔向き角度との少なくとも一方の顔向き角度を示す角度値とを取得する角度値取得部と、前記角度値取得部が所定時間に亘って取得した前記角度値を用いて、前記運転者の顔に対する前記撮像装置の撮像方向に対応した前記角度値のオフセット値を取得するオフセット値取得部と、前記角度値取得部が取得した前記角度値を、前記オフセット値取得部が取得した前記オフセット値を用いて補正する角度値補正部と、を備える、安全運転判定装置を提供する。
上記構成の安全運転判定装置によれば、オフセット値を用いて補正された角度値は、撮像装置が運転者の顔に対して斜めに配置されていても、あたかも撮像装置が運転者を正面から撮像した場合の角度値を示すことになるので、車両の進行方向に対する運転者の顔向きを適切に取得できる。
また、前記オフセット値取得部は、前記角度値取得部が所定時間に亘って取得した前記角度値の平均値を、前記オフセット値として取得することとしてもよい。
また、前記オフセット値取得部は、前記所定時間に亘って前記車両の速度が所定速度以上である場合の前記角度値の平均値を、前記オフセット値として取得することとしてもよい。
また、前記オフセット値取得部は、第1時間に亘って取得した、前記ヨー方向の顔向き角度を示す第1角度値の平均値を、第1オフセット値として取得し、前記第1時間よりも短い第2時間に亘って取得した、前記ピッチ方向の顔向き角度を示す第2角度値の平均値を、第2オフセット値として取得し、前記角度値補正部は、前記第1角度値を前記第1オフセット値を用いて補正し、前記第2角度値を前記第2オフセット値を用いて補正することとしてもよい。
本発明の第2の態様においては、車両の運転者を撮像装置によって撮像して前記車両の進行方向を基準にしたときの前記運転者の顔向き角度を示す角度値を取得し、取得した前記角度値に基づいて前記運転者が前方不注視であるか否かを判定する安全運転判定方法であって、前記進行方向に対する前記運転者のヨー方向の顔向き角度と、前記進行方向に対する前記運転者のピッチ方向の顔向き角度との少なくとも一方の顔向き角度を示す角度値とを取得するステップと、所定時間に亘って取得した前記角度値を用いて、前記運転者の顔に対する前記撮像装置の撮像方向に対応した前記角度値のオフセット値を取得するステップと、取得した前記角度値を、前記オフセット値を用いて補正するステップと、を備える、安全運転判定方法を提供する。
本発明によれば、運転者の顔向き角度を適切に求めることができるという効果を奏する。
車両1の構成の一例を示すブロック図である。 撮像装置4と運転者の顔向き角度との関係を説明するための模式図である。 脇見判定処理の流れを説明するためのフローチャートである。
<車両の構成>
図1を参照しながら、本発明に係る安全運転判定装置が搭載された車両の構成について説明する。
図1は、車両1の構成の一例を示すブロック図である。車両1は、一例としてトラックである。車両1は、図1に示すように、撮像装置4と、警報装置8と、制御装置10とを有する。
撮像装置4は、車両1の運転席(例えばトラックのキャブ)に設けられており、例えばCCDカメラを含む。撮像装置4は、運転席に座っている運転者を前方から撮像して、撮像画像を生成する。例えば、撮像装置4は、車両1が走行中の運転者の顔を撮像して、車両1の進行方向に対する運転者の顔向き角度を特定できる撮像画像を生成する。撮像装置4は、生成した撮像画像を制御装置10へ出力する。
警報装置8は、運転中の運転者が前方不注視(脇見)である場合に、運転者に対して警報を行う装置である。警報装置8は、例えば、アラーム等の音を鳴らすスピーカ、警告画面を表示する表示部、振動を発生する振動発生部を含む。なお、警報装置8は、音、表示及び振動の少なくとも2つを組み合わせて、警報を行ってもよい。
制御装置10は、撮像装置4と警報装置8の動作を制御する。本実施形態において、制御装置10は、車両1の進行方向を基準にしたときの運転者の顔向き角度を示す角度値を取得し、取得した角度値に基づいて運転者が前方不注視であるか否かを判定する安全運転判定装置の機能を有する。
ところで、運転者の角度値は、撮像装置4の設置位置や運転者の座高の影響を受けて、車両1の進行方向に対してずれやすいため、撮像装置4によって角度値を正確に求めることが困難である。
図2は、撮像装置4と運転者の顔向き角度との関係を説明するための模式図である。図2(a)には運転者Dの側面から見た図が示され、図2(b)には運転者Dの上方から見た図が示されている。撮像装置4は、図2(a)及び図2(b)に示すように、運転者Dの顔の正面ではなく、運転者Dの顔に対して斜め下方に設けられている。このように撮像装置4が配置されると、進行方向に対する運転者Dの顔向き角度(図2(a)に示すピッチ方向と図2(b)に示すヨー方向)を正確に求めることができないため、運転者Dが前方不注視であるか否かの判定精度が低下し、警報装置8が誤って警報を行う恐れがある。
これに対して、本実施形態では、詳細は後述するが、運転者の顔向き角度を示す角度値(ヨー角度値やピッチ角度値)を補正して、運転者が前方不注視であるか否かを判定する。これにより、運転者が前方不注視であるか否かを高精度に判定できるので、誤って警報を行うことを防止できる。
<制御装置の詳細構成>
図1を参照しながら、制御装置10の詳細構成について説明する。
制御装置10は、図1に示すように、記憶部20と、制御部30とを有する。
記憶部20は、例えばROM(Read Only Memory)及びRAM(Random Access Memory)を含む。記憶部20は、制御部30が実行するためのプログラムや各種データを記憶する。また、記憶部20には、運転者の顔向き角度値に関する情報が記憶されている。
制御部30は、例えばCPU(Central Processing Unit)である。制御部30は、記憶部20に記憶されたプログラムを実行することにより、脇見判定処理を制御する。制御部30は、図1に示すように、角度値取得部32と、オフセット値取得部33と、角度値補正部34と、脇見判定部35と、警報制御部36とを含む。
角度値取得部32は、車両1の進行方向に対する運転者の顔向き角度を示す角度値を取得する。具体的には、角度値取得部32は、撮像装置4が撮像した撮像画像に基づいて、角度値を取得する。角度値取得部32は、所定間隔で、角度値を継続して取得する。角度値取得部32は、取得した角度値を、オフセット値取得部33と角度値補正部34へ出力する。
角度値取得部32は、角度値として、進行方向に対する運転者のヨー方向(図2(b))の顔向き角度を示すヨー角度値と、進行方向に対する運転者のピッチ方向(図2(a))の顔向き角度を示すピッチ角度値とを取得する。なお、角度値取得部32は、ヨー角度値とピッチ角度値のいずれか一方を取得してもよい。
オフセット値取得部33は、角度値取得部32が所定時間(一例として10(分))に亘って取得した角度値を用いて、運転者の顔に対する撮像装置4の撮像方向に対応した角度値のオフセット値を取得する。オフセット値は、撮像装置4が運転者の顔の正面に位置した際に取得される角度値に補正するための値である。オフセット値取得部33は、取得したオフセット値を角度値補正部34を出力する。
オフセット値取得部33は、角度値取得部32が所定時間に亘って取得した角度値の平均値を、オフセット値として取得する。例えば、オフセット値取得部33は、所定時間に亘って車両の速度が所定速度(一例として60(km/h))以上である場合の角度値の平均値を、オフセット値として取得する。
オフセット値取得部33は、第1時間T1に亘って取得した、ヨー方向の顔向き角度を示すヨー角度値の平均値を、ヨーオフセット値として取得する。また、オフセット値取得部33は、第1時間よりも短い第2時間T2に亘って取得した、ピッチ方向の顔向き角度を示すピッチ角度値の平均値を、ピッチオフセット値として取得する。ここで、第2時間T2が第1時間T1よりも短いのは、ピッチ方向の顔の動きが、ヨー方向の顔の動き(ミラー確認のための動き等)に比べて安定しやすい特徴があるため、角度値の平均値を取得する時間が短くなっている。
角度値補正部34は、角度値取得部32が取得した角度値を、オフセット値取得部33が取得したオフセット値を用いて補正する。例えば、角度値補正部34は、ヨー角度値をヨーオフセット値を用いて補正し、ピッチ角度値をピッチオフセット値を用いて補正する。このようにオフセット値を用いて補正された角度値は、あたかも撮像装置4が運転者を正面から撮像した場合の角度値を示すことになるので、車両1の進行方向に対する運転者の顔向きを適切に取得できる。角度値補正部34は、補正後の角度値を脇見判定部35へ出力する。
脇見判定部35は、運転者が前方不注視(脇見)であるか否かを判定する。本実施形態では、脇見判定部35は、角度値補正部34によって補正された後の角度値(以下では、補正後角度値とも呼ぶ)を用いて、運転者が脇見中であるか否かを判定する。例えば、脇見判定部35は、補正後角度値が所定角度よりも大きい状態が所定時間継続した場合に、脇見中であると判定する。脇見判定部35は、判定結果を警報制御部36へ出力する。
警報制御部36は、運転者が脇見中である場合に、警報装置8に警報を行わせる。すなわち、警報制御部36は、脇見判定部35によって脇見中であると判定された場合に、警報装置8に警報を行わせる。
なお、上記では、ヨー角度値及びピッチ角度値の両方を補正することとしたが、これに限定されない。例えば、撮像装置4が、上下方向において運転者の頭と同じ位置で、かつ運転者の頭から見て左又は右に位置する場合には、ヨー角度値のみを補正してもよい。
<脇見判定処理>
図3を参照しながら、脇見判定処理の流れについて説明する。脇見判定処理は、制御装置10の制御部30が記憶部20に記憶されたプログラムを実行することで実現される。
図3は、脇見判定処理の流れを説明するためのフローチャートである。図3のフローチャートは、例えば車両1が走行を開始したところから開始される。
まず、角度値取得部32は、車両1の進行方向に対する運転者の顔向き角度を示す角度値を取得する(ステップS102)。例えば、角度値取得部32は、ヨー角度値とピッチ角度値を取得する。
次に、オフセット値取得部33は、角度値取得部32が所定時間に亘って取得した角度値を用いて、運転者の顔に対する撮像装置4の撮像方向に対応した角度値のオフセット値を取得する(ステップS104)。例えば、オフセット値取得部33は、所定時間に亘って車両の速度が所定速度以上である場合の角度値の平均値を、オフセット値(例えば、ヨーオフセット値やピッチオフセット値)として取得する。なお、オフセット値取得部33は、車両1の走行が開始してから所定時間経過した後に、オフセット値を取得する。
次に、角度値補正部34は、角度値取得部32が取得した角度値を、オフセット値取得部33が取得したオフセット値を用いて補正する(ステップS106)。例えば、角度値補正部34は、ヨーオフセット値を用いてヨー角度値を補正し、ピッチオフセット値を用いてピッチ角度値を補正する。脇見判定部35は、オフセット値が取得される前は、初期値(角度)を用いて、角度値を補正する。初期値は、撮像装置4の設置位置や運転者の標準体型等を考慮して設定された値である。
次に、脇見判定部35は、補正後の角度値を用いて、運転者が脇見中であるか否かを判定する(ステップS108)。具体的には、脇見判定部35は、補正後の角度値が、基準となる所定角度以上であり、かつその状態が所定時間以上継続した場合、脇見中であると判定する。
そして、ステップS108において脇見中であると判定された場合には(Yes)、警報制御部36は、警報装置8に警報を行わせる(ステップS110)。一方で、ステップS108において脇見中ではないと判定された場合には(No)、上述したステップS102〜S106の処理が繰り返される。
<本実施形態における効果>
上述した実施形態においては、所定時間に亘って取得した角度値(ヨー角度値、ピッチ角度値)を用いて、運転者の顔に対する撮像装置4の撮像方向に対応した角度値のオフセット値(ヨーオフセット値、ピッチオフセット値)を取得する。そして、オフセット値の取得後に、角度値をオフセット値を用いて補正する。
これにより、オフセット値を用いて補正された角度値は、撮像装置4が運転者の顔に対して斜めに配置されていても、あたかも撮像装置4が運転者を正面から撮像した場合の角度値を示すことになるので、車両1の進行方向に対する運転者の顔向きを適切に取得できる。この結果、運転者が脇見中であるか否かを高精度に判定できるので、誤って警報が行われることを防止できる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の分散・統合の具体的な実施の形態は、以上の実施の形態に限られず、その全部又は一部について、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を合わせ持つ。
1 車両
4 撮像装置
8 警報装置
10 制御装置
32 角度値取得部
33 オフセット値取得部
34 角度値補正部
35 脇見判定部
36 警報制御部

Claims (5)

  1. 車両の運転者を撮像装置によって撮像して前記車両の進行方向を基準にしたときの前記運転者の顔向き角度を示す角度値を取得し、取得した前記角度値に基づいて前記運転者が前方不注視であるか否かを判定する安全運転判定装置であって、
    前記進行方向に対する前記運転者のヨー方向の顔向き角度と、前記進行方向に対する前記運転者のピッチ方向の顔向き角度との少なくとも一方の顔向き角度を示す角度値とを取得する角度値取得部と、
    前記角度値取得部が所定時間に亘って取得した前記角度値を用いて、前記運転者の顔に対する前記撮像装置の撮像方向に対応した前記角度値のオフセット値を取得するオフセット値取得部と、
    前記角度値取得部が取得した前記角度値を、前記オフセット値取得部が取得した前記オフセット値を用いて補正する角度値補正部と、
    を備える、安全運転判定装置。
  2. 前記オフセット値取得部は、前記角度値取得部が所定時間に亘って取得した前記角度値の平均値を、前記オフセット値として取得する、
    請求項1に記載の安全運転判定装置。
  3. 前記オフセット値取得部は、前記所定時間に亘って前記車両の速度が所定速度以上である場合の前記角度値の平均値を、前記オフセット値として取得する、
    請求項2に記載の安全運転判定装置。
  4. 前記オフセット値取得部は、
    第1時間に亘って取得した、前記ヨー方向の顔向き角度を示す第1角度値の平均値を、第1オフセット値として取得し、
    前記第1時間よりも短い第2時間に亘って取得した、前記ピッチ方向の顔向き角度を示す第2角度値の平均値を、第2オフセット値として取得し、
    前記角度値補正部は、前記第1角度値を前記第1オフセット値を用いて補正し、前記第2角度値を前記第2オフセット値を用いて補正する、
    請求項2又は3に記載の安全運転判定装置。
  5. 車両の運転者を撮像装置によって撮像して前記車両の進行方向を基準にしたときの前記運転者の顔向き角度を示す角度値を取得し、取得した前記角度値に基づいて前記運転者が前方不注視であるか否かを判定する安全運転判定方法であって、
    前記進行方向に対する前記運転者のヨー方向の顔向き角度と、前記進行方向に対する前記運転者のピッチ方向の顔向き角度との少なくとも一方の顔向き角度を示す角度値とを取得するステップと、
    所定時間に亘って取得した前記角度値を用いて、前記運転者の顔に対する前記撮像装置の撮像方向に対応した前記角度値のオフセット値を取得するステップと、
    取得した前記角度値を、前記オフセット値を用いて補正するステップと、
    を備える、安全運転判定方法。
JP2017195473A 2017-10-05 2017-10-05 安全運転判定装置及び安全運転判定方法 Active JP6984294B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017195473A JP6984294B2 (ja) 2017-10-05 2017-10-05 安全運転判定装置及び安全運転判定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017195473A JP6984294B2 (ja) 2017-10-05 2017-10-05 安全運転判定装置及び安全運転判定方法

Publications (2)

Publication Number Publication Date
JP2019070875A true JP2019070875A (ja) 2019-05-09
JP6984294B2 JP6984294B2 (ja) 2021-12-17

Family

ID=66440672

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017195473A Active JP6984294B2 (ja) 2017-10-05 2017-10-05 安全運転判定装置及び安全運転判定方法

Country Status (1)

Country Link
JP (1) JP6984294B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112021001556T5 (de) 2020-03-11 2023-01-19 Isuzu Motors Limited Sicherfahrbeurteilungsgerät

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007280375A (ja) * 2006-03-14 2007-10-25 Omron Corp 検出装置および方法、記録媒体、並びに、プログラム
JP2009015549A (ja) * 2007-07-04 2009-01-22 Omron Corp 脇見検出装置および方法、並びに、プログラム
JP2010257293A (ja) * 2009-04-27 2010-11-11 Toyota Motor Corp ドライバ状態監視装置及び車両制御装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007280375A (ja) * 2006-03-14 2007-10-25 Omron Corp 検出装置および方法、記録媒体、並びに、プログラム
JP2009015549A (ja) * 2007-07-04 2009-01-22 Omron Corp 脇見検出装置および方法、並びに、プログラム
JP2010257293A (ja) * 2009-04-27 2010-11-11 Toyota Motor Corp ドライバ状態監視装置及び車両制御装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112021001556T5 (de) 2020-03-11 2023-01-19 Isuzu Motors Limited Sicherfahrbeurteilungsgerät
US12097802B2 (en) 2020-03-11 2024-09-24 Isuzu Motors Limited Safe driving determination apparatus

Also Published As

Publication number Publication date
JP6984294B2 (ja) 2021-12-17

Similar Documents

Publication Publication Date Title
JP6488922B2 (ja) 運転者異常検出装置
JP6364627B2 (ja) 視線方向検出装置および視線方向検出方法
JP4687411B2 (ja) 車両周辺画像処理装置及びプログラム
JP5947268B2 (ja) 車両のロール角推定装置
JP2006308375A (ja) 赤外線利用型目位置検出装置
JP2009046026A (ja) 運転席調整システム
JP2011151666A (ja) パラメータ取得装置、パラメータ取得システム、パラメータ取得方法、及び、プログラム
JP6384802B2 (ja) 移動体検出装置、画像処理装置、移動体検出方法、及び、集積回路
JP2006350670A (ja) 夜間運転視界支援装置
JP6375633B2 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
WO2015133072A1 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP2022031755A5 (ja) 車両、及び運転支援装置
US10547815B2 (en) Bird's-eye view video generation device, bird's-eye view video generation method and non-transitory storage medium
JP6717330B2 (ja) 視線検出装置、該視線検出装置の制御方法、角膜反射像位置の検出方法、及びコンピュータプログラム
JP2005267384A (ja) 車両走行状態判定装置
JP2019070875A (ja) 安全運転判定装置及び安全運転判定方法
US20180126904A1 (en) Vehicle rear region image display device, and non-transitory computer-readable medium storing vehicle rear region image display program
JP2010183294A (ja) 画像処理装置、画像処理方法ならびにプログラム
JP2019070876A (ja) 安全運転支援装置及び安全運転支援方法
JP2008236507A (ja) 車両運転支援装置
JP2007280374A (ja) 情報処理装置および方法、記録媒体、並びに、プログラム
JP5098981B2 (ja) 顔部位検出装置
JP2008042759A (ja) 画像処理装置
JP2019020171A (ja) 車幅検出装置、車幅検出方法、およびプログラム
JP2011180962A (ja) 運転支援装置、運転支援方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211026

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211108

R150 Certificate of patent or registration of utility model

Ref document number: 6984294

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150