JP6981377B2 - 車両用表示制御装置、車両用表示制御方法、及び制御プログラム - Google Patents

車両用表示制御装置、車両用表示制御方法、及び制御プログラム Download PDF

Info

Publication number
JP6981377B2
JP6981377B2 JP2018139469A JP2018139469A JP6981377B2 JP 6981377 B2 JP6981377 B2 JP 6981377B2 JP 2018139469 A JP2018139469 A JP 2018139469A JP 2018139469 A JP2018139469 A JP 2018139469A JP 6981377 B2 JP6981377 B2 JP 6981377B2
Authority
JP
Japan
Prior art keywords
vehicle
distance
dimensional position
precision map
respect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018139469A
Other languages
English (en)
Other versions
JP2020016541A (ja
Inventor
大祐 竹森
猛 羽藤
大翔 坂野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2018139469A priority Critical patent/JP6981377B2/ja
Priority to PCT/JP2019/021029 priority patent/WO2020021842A1/ja
Publication of JP2020016541A publication Critical patent/JP2020016541A/ja
Application granted granted Critical
Publication of JP6981377B2 publication Critical patent/JP6981377B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/80Arrangements for controlling instruments
    • B60K35/81Arrangements for controlling instruments for controlling displays
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Transportation (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Optics & Photonics (AREA)
  • Automation & Control Theory (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Instrument Panels (AREA)

Description

本開示は、車両用表示制御装置、車両用表示制御方法、及び制御プログラムに関するものである。
従来、ウインドシールド等の投影部材へ画像を投影することによって車両の前景に虚像を重畳表示させるヘッドアップディスプレイ(以下、HUD)が知られている。例えば特許文献1には、車両において互いに離れた位置に配置される2つの測距センサでそれぞれ測定する注目物体までの距離の違いから、車両を基準とした注目物体の相対位置を検出し、ヘッドアップディスプレイによってフロントウインドシールド上に、その注目物体の周囲を囲むようにして環状の指標を映出する技術が開示されている。特許文献1では、測距センサとして、信号を発してからその信号が注目物体で反射して戻ってくるまでに要する時間を測定する超音波センサ、レーザレーダ、又はミリ波レーダを使用することが開示されている。
特開2005−343351号公報
車両の前方の物体は、その車両が位置する地点とその物体が位置する地点との勾配差によって、その車両のドライバから見える高さが大きく変動する場合がある。しかしながら、特許文献1に開示の技術では、超音波センサ、レーザレーダ、又はミリ波レーダといった測距センサは、自車に対する注目物体の高さまでを精度良く測定することが難しい。よって、自車に対する注目物体の高さ方向のずれを特定しにくく、注目物体を囲む環状の指標が高さ方向にずれやすくなる。その結果、注目物体に対し、意図した位置から高さ方向に大幅にずれた重畳表示が行われ、運転者が注目物体の誤認識をしたりシステムに対する不信感を抱いたりするおそれがある。
この開示のひとつの目的は、ヘッドアップディスプレイによって車両の前景中の対象物を強調する虚像を重畳表示させる際に、ドライバによるその対象物の誤認識及びドライバの不信感を低減させることを可能にする車両用表示制御装置、車両用表示制御方法、及び制御プログラムを提供することにある。
上記目的は独立請求項に記載の特徴の組み合わせにより達成され、また、下位請求項は、開示の更なる有利な具体例を規定する。特許請求の範囲に記載した括弧内の符号は、ひとつの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
上記目的を達成するために、本開示の第1の車両用表示制御装置は、車両で用いられ、投影部材(10)に表示画像を投影することによって車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御装置であって、探査波を送信し、その探査波が対象物で反射される反射波を受信することで車両に対する対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得する距離方位取得部(201)と、地点別の高さの情報を含む高精度地図を取得する高精度地図取得部(203)と、距離方位取得部で取得する距離及び方位と、高精度地図取得部で取得する高精度地図とを用いて、車両に対する対象物の三次元位置を特定する三次元位置特定部(204)と、三次元位置特定部で特定する、車両に対する対象物の三次元位置に合わせて、対象物を強調する虚像を重畳表示させる表示制御部(207)と、車両のドライバの視点位置を特定する視点位置特定部(205)と、高精度地図に高さの情報が含まれている地点のうち、車両と対象物との間の地点の高さの情報と、視点位置特定部で特定する視点位置とをもとに、路面の勾配変化によってドライバから不可視となる不可視領域を推定する不可視領域推定部(206)とを備え、表示制御部は、不可視領域推定部で推定する不可視領域を避けて、対象物を強調する虚像を重畳表示させる。
上記目的を達成するために、本開示の第2の車両用表示制御装置は、車両で用いられ、投影部材(10)に表示画像を投影することによって車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御装置であって、探査波を送信し、その探査波が対象物で反射される反射波を受信することで車両に対する対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得する距離方位取得部(201)と、地点別の高さの情報を含む高精度地図を取得する高精度地図取得部(203)と、距離方位取得部で取得する距離及び方位と、高精度地図取得部で取得する高精度地図とを用いて、車両に対する対象物の三次元位置を特定する三次元位置特定部(204)と、三次元位置特定部で特定する、車両に対する対象物の三次元位置に合わせて、対象物を強調する虚像を重畳表示させる表示制御部(207)と、車両の前方を撮像する撮像装置(41)で撮像する撮像画像を取得する撮像画像取得部(200)とを備え、三次元位置特定部は、車両に対する対象物の距離が所定距離以上の場合には、距離方位取得部で取得する距離及び方位と、高精度地図取得部で取得する高精度地図とを用いて、車両に対する対象物の三次元位置を特定する一方、車両に対する対象物の距離が所定距離未満の場合には、距離方位取得部で取得する距離及び方位に加え、撮像画像取得部で取得する撮像画像を用いて、車両に対する対象物の三次元位置を特定する。
上記目的を達成するために、本開示の第1の車両用表示制御方法は、車両で用いられ、投影部材(10)に表示画像を投影することによって車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御方法であって、探査波を送信し、その探査波が対象物で反射される反射波を受信することで車両に対する対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得し、地点別の高さの情報を含む高精度地図を取得し、取得する距離及び方位と、取得する高精度地図とを用いて、車両に対する対象物の三次元位置を特定し、車両のドライバの視点位置を特定し、高精度地図に高さの情報が含まれている地点のうち、車両と対象物との間の地点の高さの情報と、特定する視点位置とをもとに、路面の勾配変化によってドライバから不可視となる不可視領域を推定し、推定する不可視領域を避けて、特定する車両に対する対象物の三次元位置に合わせて、対象物を強調する虚像を重畳表示させる。
上記目的を達成するために、本開示の第2の車両用表示制御方法は、車両で用いられ、投影部材(10)に表示画像を投影することによって車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御方法であって、探査波を送信し、その探査波が対象物で反射される反射波を受信することで車両に対する対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得し、地点別の高さの情報を含む高精度地図を取得し、車両の前方を撮像する撮像装置(41)で撮像する撮像画像を取得し、車両に対する対象物の距離が所定距離以上の場合には、取得する距離及び方位と、取得する高精度地図とを用いて、車両に対する対象物の三次元位置を特定する一方、車両に対する対象物の距離が所定距離未満の場合には、取得する距離及び方位に加え、取得する撮像画像を用いて、車両に対する対象物の三次元位置を特定し、特定する、車両に対する対象物の三次元位置に合わせて、対象物を強調する虚像を重畳表示させる。
上記目的を達成するために、本開示の第1の制御プログラムは、コンピュータを、車両で用いられ、投影部材(10)に表示画像を投影することによって車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御装置として機能させるための制御プログラムであって、探査波を送信し、その探査波が対象物で反射される反射波を受信することで車両に対する対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得する距離方位取得部(201)と、地点別の高さの情報を含む高精度地図を取得する高精度地図取得部(203)と、距離方位取得部で取得する距離及び方位と、高精度地図取得部で取得する高精度地図とを用いて、車両に対する対象物の三次元位置を特定する三次元位置特定部(204)と、車両のドライバの視点位置を特定する視点位置特定部(205)と、高精度地図に高さの情報が含まれている地点のうち、車両と対象物との間の地点の高さの情報と、視点位置特定部で特定する視点位置とをもとに、路面の勾配変化によってドライバから不可視となる不可視領域を推定する不可視領域推定部(206)と、三次元位置特定部で特定する、車両に対する対象物の三次元位置に合わせて、不可視領域推定部で推定する不可視領域を避けて、対象物を強調する虚像を重畳表示させる表示制御部(207)として機能させる。
上記目的を達成するために、本開示の第2の制御プログラムは、コンピュータを、車両で用いられ、投影部材(10)に表示画像を投影することによって車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御装置として機能させるための制御プログラムであって、探査波を送信し、その探査波が対象物で反射される反射波を受信することで車両に対する対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得する距離方位取得部(201)と、地点別の高さの情報を含む高精度地図を取得する高精度地図取得部(203)と、車両の前方を撮像する撮像装置(41)で撮像する撮像画像を取得する撮像画像取得部(200)と、車両に対する対象物の距離が所定距離以上の場合には、距離方位取得部で取得する距離及び方位と、高精度地図取得部で取得する高精度地図とを用いて、車両に対する対象物の三次元位置を特定する一方、車両に対する対象物の距離が所定距離未満の場合には、距離方位取得部で取得する距離及び方位に加え、撮像画像取得部で取得する撮像画像を用いて、車両に対する対象物の三次元位置を特定する三次元位置特定部(204)と、三次元位置特定部で特定する、車両に対する対象物の三次元位置に合わせて、対象物を強調する虚像を重畳表示させる表示制御部(207)として機能させる。
これらによれば、探査波センサで検出する、車両に対する対象物の距離及び方位に加え、地点別の高さの情報を含む高精度地図も用いて、車両に対する対象物の三次元位置を特定するので、車両に対する対象物の高さをより精度良く特定することが可能になる。また、この三次元位置に合わせて、対象物を強調する虚像を重畳表示させるので、対象物を強調する虚像が、意図した位置から高さ方向に大幅にずれることを抑えることが可能になる。その結果、ヘッドアップディスプレイによって車両の前景中の対象物を強調する虚像を重畳表示させる際に、ドライバによるその対象物の誤認識及びドライバの不信感を低減させることが可能になる。
車両システム1の概略的な構成の一例を示す図である。 HUD装置230の車両への搭載例を示す図である。 HCU20の概略的な構成の一例を示す図である。 HCU20での虚像表示制御関連処理の流れの一例を示すフローチャートである。 対象地点が地図データ点にあたる場合の、自車に対する対象物の高さ方向の位置の特定の一例について説明するための図である。 対象地点にとっての勾配基準点の探索の一例について説明するための図である。 不可視領域の推定の一例について説明するための図である。 重畳表示の一例を示す図である。 重畳表示の一例を示す図である。 撮像画像からの自車に対する対象物の高さ方向の位置の特定の一例について説明するための図である。 重畳表示の一例を示す図である。 重畳表示の一例を示す図である。
図面を参照しながら、開示のための複数の実施形態を説明する。なお、説明の便宜上、複数の実施形態の間において、それまでの説明に用いた図に示した部分と同一の機能を有する部分については、同一の符号を付し、その説明を省略する場合がある。同一の符号を付した部分については、他の実施形態における説明を参照することができる。
(実施形態1)
<車両システム1の概略構成>
以下、本実施形態について図面を用いて説明する。車両システム1は、自動車といった路上を走行する車両で用いられるものである。車両システム1は、一例として、図1に示すように、HMI(Human Machine Interface)システム2、ADAS(Advanced Driver Assistance Systems)ロケータ3、周辺監視センサ4、車両制御ECU5、及び運転支援ECU6を含んでいる。HMIシステム2、ADASロケータ3、周辺監視センサ4、車両制御ECU5、及び運転支援ECU6は、例えば車内LANに接続されているものとする。
ADASロケータ3は、図1に示すように、GNSS(Global Navigation Satellite System)受信機30、慣性センサ31、及び地図データベース(以下、地図DB)32を備えている。GNSS受信機30は、複数の人工衛星からの測位信号を受信する。慣性センサ31は、例えばジャイロセンサ及び加速度センサを備える。ADASロケータ3は、GNSS受信機30で受信する測位信号と、慣性センサ31の計測結果とを組み合わせることにより、自車の車両位置を逐次測位する。一例として、本実施形態では、車両位置が経緯度の座標で表されるものとして説明を行う。経緯度の座標ではx軸が経度,y軸が緯度を示す。なお、車両位置の測位には、自車に搭載された車速センサから逐次出力される検出結果から求めた走行距離等を用いる構成としてもよい。そして、測位した車両位置を車内LANへ出力する。
地図DB32は、不揮発性メモリであって、リンクデータ、ノードデータ、道路形状等の地図データを格納している。リンクデータは、リンクを特定するリンクID、リンクの長さを示すリンク長、リンク方位、リンク旅行時間、リンクの始端と終端とのノード座標、及び道路属性等の各データから構成される。ノードデータは、地図上のノード毎に固有の番号を付したノードID、ノード座標、ノード名称、ノード種別、ノードに接続するリンクのリンクIDが記述される接続リンクID、交差点種別等の各データから構成される。道路形状のデータには、高度、横断勾配、縦断勾配等のデータを含むものとする。よって、この高度が高さの情報に相当し、地図データが高精度地図に相当する。高度、横断勾配、縦断勾配等のデータは、少なくとも道路上の地点別であればよく、例えば地図データの観測点別とすればよい。
また、地図データとして、道路形状及び構造物の特徴点の点群からなる三次元地図を用いる構成としてもよく、この三次元地図を用いる場合はこの点群の高さ方向の座標を高さの情報として用いてもよい。ADASロケータ3は、この三次元地図を用いる場合、GNSS受信機30を用いずに、この三次元地図と、道路形状及び構造物の特徴点の点群を検出するLIDAR(Light Detection and Ranging/Laser Imaging Detection and Ranging)等の周辺監視センサ4での検出結果とを用いて、自車の車両位置を特定する構成としてもよい。なお、地図データは、自車に搭載された車載通信モジュールを用いて自車の外部から取得する構成としてもよい。
周辺監視センサ4は、自車の周辺環境を監視する自律センサである。一例として、周辺監視センサ4は、歩行者,人間以外の動物、自車以外の車両等の移動する動的物標、及び路上の落下物,ガードレール、縁石、及び樹木等の静止している静的物標といった自車周辺の対象物を検出する。他にも、自車周辺の走行区画線等の路面標示を検出する。例えば周辺監視センサ4としては、自車周囲の所定範囲を撮像する周辺監視カメラ、自車周囲の所定範囲に探査波を送信するミリ波レーダ、ソナー、LIDAR等の探査波センサがある。周辺監視カメラは、逐次撮像する撮像画像をセンシング情報として車内LANへ逐次出力する。探査波センサは、対象物によって反射された反射波を受信した場合に得られる受信信号に基づく走査結果をセンシング情報として車内LANへ逐次出力する。
より詳しくは、探査波センサは、探査波を送信してから、対象物で反射される反射波を受信するまでにかかった時間をもとに、探査波センサから対象物までの距離を測定する。また、探査波センサは、探査波を走査することで、反射波を受信する際の探査波の送信角度から、探査波センサに対する対象物の方位を測定する。方位は方位角で表せばよく、例えば正面方向を基準として時計回りを正の方位角、反時計回りを負の方位角で表せばよい。なお、探査波センサは、探査波を送信する送信部を自車の異なる箇所に複数設けることで、どの送信部から探査波を送信する場合に反射波を受信するかによって探査波センサに対する対象物の方位角を測定する構成としてもよい。
本実施形態では、周辺監視センサ4として、少なくとも、自車の前方の所定範囲を撮像範囲とする前方カメラ41と、自車の前方の所定範囲に探査波を送信するミリ波レーダ42とを用いる構成とする。この前方カメラ41が撮像装置に相当する。前方カメラ41とミリ波レーダ42とのセンシング範囲は、少なくとも一部が重なるが、同一である必要はない。例えば、前方カメラ41は、自車のルームミラー,インストルメントパネル上面等に設ける構成とすればよい。また、ミリ波レーダ42は、自車のフロントグリル,フロントバンパ等に設ける構成とすればよい。ミリ波レーダ42は、ミリ波又は準ミリ波を自車の前方の所定範囲を走査しながら送信し、対象物によって反射された反射波を受信することで、ミリ波レーダ42に対しての対象物の距離及び方位角を測定する。以降では、ミリ波レーダ42に対する対象物の距離及び方位角、つまり自車に対する対象物の距離及び方位角を、単に対象物の距離及び方位角と呼ぶ。
なお、周辺監視センサ4としては、自車の前方以外を撮像するカメラを用いたり、ソナー,LIDAR(Light Detection and Ranging/Laser Imaging Detect ion and Ranging)等の探査波センサを用いたりする構成としてもよい。
車両制御ECU5は、自車の加減速制御及び/又は操舵制御を行う電子制御装置である。車両制御ECU5としては、操舵制御を行う操舵ECU、加減速制御を行うパワーユニット制御ECU及びブレーキECU等がある。車両制御ECU5は、自車に搭載されたアクセルポジションセンサ、ブレーキ踏力センサ、舵角センサ、車輪速センサ等の各センサから出力される検出信号を取得し、電子制御スロットル、ブレーキアクチュエータ、EPS(Electric Power Steering)モータ等の各走行制御デバイスへ制御信号を出力する。また、車両制御ECU5は、上述の各センサの検出信号を車内LANへ出力可能である。
運転支援ECU6は、車両制御ECU5を制御することにより、ドライバによる運転操作の代行を行う自動運転機能を実行する。運転支援ECU6は、ADASロケータ3から取得する自車の車両位置及び地図データ,周辺監視センサ4でのセンシング情報をもとに、自車の走行環境を認識する。一例としては、周辺監視センサ4でのセンシング情報から、自車周辺の物体の形状及び移動状態を認識したり、自車周辺の路面標示の形状を認識したりする。そして、自車の車両位置及び地図データと組み合わせることで、実際の走行環境を三次元で再現した仮想空間を生成する。
また、運転支援ECU6は、認識した走行環境に基づき、自動運転機能によって自車を自動走行させるための走行計画を生成する。走行計画としては、長中期の走行計画と、短期の走行計画とを生成する等すればよい。短期の走行計画では、生成した自車の周囲の仮想空間を用いて、例えば先行車との目標車間距離を維持するための加減速,車線追従及び車線変更のための操舵,並びに衝突回避のための急制動等が決定される。長中期の走行計画としては、自車を目的地へ向かわせるための推奨経路を生成する。なお、運転支援ECU6は、短期の走行計画と長中期の走行計画とのうちの短期の走行計画のみを生成する構成としてもよい。
運転支援ECU6で実行する自動運転機能の一例としては、駆動力及び制動力を調整することで、先行車との目標車間距離を維持するように自車の走行速度を制御するACC(Adaptive Cruise Control)機能がある。また、前方のセンシング情報をもとに制動力を発生させることで、自車を強制的に減速させるAEB(Autonomous Emergency Braking)機能がある。なお、ここで述べたのは、あくまで一例であり、自動運転の機能として他の機能を備えている構成としてもよい。
HMIシステム2は、HCU(Human Machine Interface Control Unit)20、操作デバイス21、DSM(Driver Status Monitor)22、及び表示装置23を備えており、自車のユーザであるドライバからの入力操作を受け付けたり、自車のドライバに向けて情報を提示したりする。操作デバイス21は、自車のドライバが操作するスイッチ群である。操作デバイス21は、各種の設定を行うために用いられる。例えば、操作デバイス21としては、自車のステアリングのスポーク部に設けられたステアリングスイッチ等がある。
DSM22は、近赤外光源及び近赤外カメラと、これらを制御する制御ユニット等とによって構成されている。DSM22は、近赤外カメラを自車の運転席側に向けた姿勢にて、例えばステアリングコラムカバー,インストルメントパネル12(図2参照)の上面等に配置される。DSM22は、近赤外光源によって近赤外光を照射されたドライバの頭部を、近赤外カメラによって撮影する。近赤外カメラによる撮像画像は、制御ユニットによって画像解析される。制御ユニットは、例えばドライバの目を撮像画像から抽出し、車室内の基準位置に対する目の位置(以下、視点位置)を検出する。基準位置は例えば近赤外カメラの設置位置等とすればよい。DSM22は、検出した視点位置の情報をHCU20へ出力する。
表示装置23としては、ヘッドアップディスプレイ(HUD)装置230を用いる。ここで、図2を用いてHUD装置230について説明を行う。図2に示すようにHUD230は、自車のインストルメントパネル12に設けられる。HUD230は、例えば液晶式又は走査式等のプロジェクタ231により、HCU20から出力される画像データに基づく表示画像を形成する。表示画像としては、ACC機能によって自車が追従する先行車を強調表示するための画像等の対象物を強調表示するための画像がある。強調表示の対象となる対象物は、ACC機能によって自車が追従する先行車に限らず、自車の回避対象となる障害物等であってもよい。なお、表示画像としては、対象物を強調表示するための画像に限らず、車速,自動運転機能の動作状態等の自車状態を示す画像を含んだり、自車の予定進路を示す画像を含んだりする構成としてもよい。
HUD230は、プロジェクタ231によって形成される表示画像を、例えば凹面鏡等の光学系232を通じて、投影部材としてのフロントウインドシールド10に既定された投影領域に投影する。投影領域は、運転席前方に位置するものとする。フロントウインドシールド10によって車室内側に反射された表示画像の光束は、運転席に着座するドライバによって知覚される。また、透光性ガラスにより形成されるフロントウインドシールド10を透過した、自車の前方に存在する風景としての前景からの光束も、運転席に着座するドライバによって知覚される。これにより、ドライバは、フロントウインドシールド10の前方にて結像される表示画像の虚像100を、前景の一部と重ねて視認可能となる。つまり、HUD230は、自車の前景に虚像100を重畳表示し、所謂AR(Augmented Reality)表示を実現する。
なお、HUD230が表示画像を投影する投影部材は、フロントウインドシールド10に限らず、透光性コンバイナであっても構わない。また、表示装置23として、HUD220の他にも、画像を表示する装置を用いる構成としてもよい。一例としては、コンビネーションメータ、CID(Center Information Display)等がある。
HCU20は、プロセッサ、揮発性メモリ、不揮発性メモリ、I/O、これらを接続するバスを備えるマイクロコンピュータを主体として構成され、HUD230と車内LANとに接続されている。HCU20は、不揮発性メモリに記憶された制御プログラムを実行することにより、HUD230による表示を制御する。このHCU20が車両用表示制御装置に相当する。プロセッサがこの制御プログラムを実行することは、制御プログラムに対応する車両用表示制御方法が実行されることに相当する。ここで言うところのメモリは、コンピュータによって読み取り可能なプログラム及びデータを非一時的に格納する非遷移的実体的記憶媒体(non-transitory tangible storage medium)である。また、非遷移的実体的記憶媒体は、半導体メモリ又は磁気ディスクなどによって実現される。なお、HUD装置230による表示の制御に関するHCU20の構成については、以下で詳述する。
<HCU20の概略構成>
ここで、図3を用いてHCU20の概略構成についての説明を行う。HCU20は、HUD装置230での表示制御に関して、図3に示すように、撮像画像取得部200、距離方位取得部201、自車位置取得部202、高精度地図取得部203、三次元位置特定部204、視点位置特定部205、不可視領域推定部206、及び表示生成部207を機能ブロックとして備える。なお、HCU20が実行する機能の一部又は全部を、一つ或いは複数のIC等によりハードウェア的に構成してもよい。また、HCU20が備える機能ブロックの一部又は全部は、プロセッサによるソフトウェアの実行とハードウェア部材の組み合わせによって実現されてもよい。
撮像画像取得部200は、前方カメラ41で逐次撮像する撮像画像をセンシング情報として取得する。距離方位取得部201は、ミリ波レーダ42で逐次測定する対象物の距離及び方位角をセンシング情報として取得する。自車位置取得部202は、ADASロケータ3で逐次測位する自車の車両位置を取得する。高精度地図取得部203は、ADASロケータ3の地図DB32に格納されている地図データを取得する。高精度地図取得部203は、観測点別、つまり複数の地点別の高度及び横断勾配の情報を含む高精度地図を取得することになる。
三次元位置特定部204は、自車に対する対象物の三次元位置を特定する。例えば、三次元位置特定部204は、運転支援ECU6で認識する走行環境のうちから対象物を選定して三次元位置を特定すればよい。一例としては、自車の回避対象とする障害物を対象物として選定したり、ACC機能で追従させる先行車を対象物として選定したりする構成とすればよい。以下では、ACC機能で追従させる先行車を対象物として選定する場合を例に挙げて説明を行う。運転支援ECU6で認識する走行環境のうちの対象物と、撮像画像取得部200で取得する撮像画像中の対象物及び距離方位取得部201で距離及び方位を取得する対象物との紐付けは、自車に体する距離及び方位の略一致をもとに行う等すればよい。
三次元位置特定部204は、自車に対する対象物の距離が所定距離以上の場合には、距離方位取得部201で取得する対象距離及び方位角と、高精度地図取得部で取得する高精度地図とを用いて、自車に対する対象物の三次元位置を特定する。詳細については後述する。ここで言うところの所定距離とは、前方カメラ41の撮像画像をもとに撮像画像中の物体の高さを特定する精度が十分でなくなり始めると推定される距離とすればよく、任意に設定可能な値である。
一方、三次元位置特定部204は、自車に対する対象物の距離が前述の所定距離未満の場合には、距離方位取得部201で取得する距離及び方位角に加え、撮像画像取得部200で取得する撮像画像を用いて、自車に対する対象物の三次元位置を特定する。詳細については後述する。なお、三次元位置特定部204は、自車に対する対象物の距離が前述の所定距離未満の場合にも高精度地図取得部203で取得する高精度地図を用いる構成としてもよい。
視点位置特定部205は、DSM22で逐次検出する視点位置の情報から自車の車両位置を基準とするドライバの視点位置を特定する。例えば、視点位置特定部205は、DSM22で検出する視点位置を、DSM22での視点位置の基準とする位置と自車における車両位置の基準となる位置とのずれをもとに、自車の車両位置を基準とする視点位置に変換することで、自車のドライバの視点位置を特定する。
不可視領域推定部206は、高精度地図取得部203で取得する高精度地図に高度の情報が含まれている地点のうち、自車と対象物との間の地点の高度の情報と、視点位置特定部205で特定する視点位置とをもとに、路面の勾配変化によって自車のドライバから不可視となる不可視領域を推定する。詳細については後述する。
表示生成部207は、自車に対する対象物の三次元位置に合わせて対象物を強調する虚像を重畳表示させるための画像データを生成し、この画像データをHUD230に出力することで、自車に対する対象物の三次元位置に合わせて対象物を強調する虚像を重畳表示させる。この表示生成部207が表示制御部に相当する。画像データを構成する個々のフレームには、対象物を強調表示するためのマーク(以下、強調表示マーク)が描画されている。強調表示マークの描画位置は、強調表示マークの表示画像が投影領域に投影されたときに、強調表示マークの表示画像に基づく虚像が前景中の意図する位置に表示されるように設定される。
一例としては、表示生成部207は、三次元位置特定部204で特定する自車に対する対象物の三次元位置と、視点位置特定部205で特定する視点位置と、予めHCU20の不揮発性メモリに格納されている投影領域の設定位置とをもとに、対象物、視点、及び投影領域の位置関係を把握する。そして、表示生成部207は、対象物、視点、及び投影領域の位置関係に基づき、強調表示マークの表示画像の投影領域内での投影位置、つまり、強調表示マークの表示画像に基づく虚像の結像位置を、幾何学的な演算によって算出する。
また、表示生成部207は、不可視領域推定部206で推定される不可視領域が存在する場合には、この不可視領域を避けて、対象物を強調する虚像を重畳表示させる。対象物を強調する虚像の重畳表示の詳細については後述する。
<HCU20での虚像表示制御関連処理>
続いて、図4のフローチャートを用いて、HCU20でのHUD230による重畳表示の制御に関連する処理(以下、虚像表示制御関連処理)の流れの一例について説明を行う。図4のフローチャートでは、HUD230の電源がオン且つHUD230の機能がオンになった場合に開始する構成とすればよい。HUD230の機能のオンオフは、操作デバイス21で受け付ける入力操作に応じて切り替えられる構成とすればよい。また、HUD230の電源のオンオフは、自車の内燃機関又はモータジェネレータを始動させるためのスイッチ(以下、パワースイッチ)のオンオフに応じて切り替えられる構成とすればよい。
まず、ステップS1では、距離方位取得部201が、ミリ波レーダ42で測定する対象物の距離及び方位角をセンシング情報として取得する。ステップS2では、三次元位置特定部204が、S1で取得する対象物の距離及び方位角をもとに、自車の車両位置を基準とする座標系における対象物の位置座標を算出する。詳しくは、極座標系であるミリ波レーダ42で測定する距離及び方位角を、自車の車両位置を基準とする左右方向の軸(以下、x軸)と前後方向の軸(以下、y軸)とで表されるxy座標系に座標変換する。自車に対する対象物の距離r,自車に対する対象物の方位角θとする場合、x=r・cosθ,y=r・sinθの演算式によって、対象物の(x,y)座標を算出する。
ステップS3では、S1で取得する対象物の距離が前述の所定距離以上である場合(S3でYES)には、ステップS4に移る。一方、S1で取得する対象物の距離が前述の所定距離未満である場合(S3でNO)には、ステップS12に移る。
ステップS4では、高精度地図取得部203が、地図DB32に格納されている高精度地図を取得する。例えば高精度地図取得部203は、自車位置取得部202で取得する自車の車両位置周辺に絞って高精度地図を取得する構成とすればよい。
ステップS5では、三次元位置特定部204が、S2で算出する対象物の(x,y)座標に対応する地点(以下、対象地点)が、S4で取得する高精度地図に高さ及び横断勾配の情報が含まれている地点(以下、地図データ点)にあたるか否かを判別する。一例として、対象地点は、地理座標系における自車の車両位置の経緯度を、S2で算出する対象物の(x,y)座標分だけオフセットすることで特定すればよい。そして、対象地点が、地図データ点にあたる場合(S5でYES)には、ステップS6に移る。一方、対象地点が、地図データ点にあたらない場合(S5でNO)には、ステップS7に移る。
ステップS6では、三次元位置特定部204が、自車に対する対象物の高さ方向の位置を特定して、ステップS9に移る。詳しくは、自車の車両位置を基準とする高さ方向の軸(以下、z軸)のz座標を特定する。ここで、図5を用いて、対象地点が地図データ点にあたる場合の、自車に対する対象物の高さ方向の位置の特定の一例について説明する。図5のOvが自車を示しており、Vaが対象物としての先行車を示している。また、図5の黒丸が地図データ点,Opが地図データ点のうちの自車が位置する地点,Apが地図データ点のうちの先行車が位置する地点を示している。
三次元位置特定部204は、高精度地図上の自車が位置する地点(図5のOp参照)の高度と、高精度地図上のS2で算出する対象物の(x,y)座標が示す地点(図5のAp参照)の高度との差分(図5のDi参照)から対象物のz座標を特定する。なお、三次元位置特定部204は、例えば自車の車両位置としては、自車位置取得部202で取得する自車の車両位置を、S4で取得する高精度地図の地図データ点にマップマッチングさせた位置を用いればよい。
ステップS7では、三次元位置特定部204が、S4で取得する高精度地図の地図データ点から、対象地点にとっての横断勾配の基準となる勾配基準点を探索する。ここで、図6を用いて、三次元位置特定部204での対象地点にとっての勾配基準点の探索の一例について説明する。図6のOvが自車を示しており、Vaが対象物としての先行車を示している。また、図6の黒丸が地図データ点,Opが地図データ点のうちの自車が位置する地点,Apが地図データ点のうちの先行車が位置する地点,Scpが対象地点にとっての勾配基準点を示している。
三次元位置特定部204は、自車の車両位置よりも前方の地図データ点から、自車前方の経路を近似する経路近似曲線(図6の破線参照)を算出する。一例としては、スプライン曲線を算出すればよい。続いて、三次元位置特定部204は、対象地点(図6のAp参照)からこの経路近似曲線に垂線を下ろし、垂線と経路近似曲線との交わる点から最短距離にある地図データ点を勾配基準点(図6のScp参照)とする。なお、三次元位置特定部204は、対象地点を高精度地図にマップマッチングさせて、対象地点から最短距離にある地図データ点を勾配基準点として探索すると言い換えることもできる。
ステップS8では、S7で探索する勾配基準点における横断勾配と、この勾配基準点と対象地点との距離とを用いて、対象地点の高さを特定してステップS9に移る。ここで、図6を用いて、対象地点が地図データ点にあたらない場合の、自車に対する対象物の高さ方向の位置の特定の一例について説明する。
三次元位置特定部204は、勾配基準点の(x,y)座標と対象地点の(x,y)座標とから、勾配基準点から対象地点までの距離を算出する。一例として、勾配基準点の(x,y)座標は、地理座標系における勾配基準点の経緯度の座標を、地理座標系における自車の車両位置の経緯度の座標分だけオフセットすることで特定すればよい。続いて、勾配基準点から対象地点までの距離と、勾配基準点における横断勾配とをもとに、勾配基準点から対象地点までこの横断勾配で一定と仮定した上で三角関数を用いることで、勾配基準点と対象地点との高度の差分(図6のDi参照)を算出する。そして、S6と同様にして算出する自車の車両位置と勾配基準点との高度の差分(図6のDi参照)と、勾配基準点と対象地点との高度の差分(図6のDi参照)とを足し合わせて対象物のz座標を特定する。
ステップS9では、三次元位置特定部204が、S2で算出する対象物の(x,y)座標と、S6若しくはS8で特定する対象物のz座標とを合わせて、自車に対する対象物の三次元位置、つまり(x,y,z)座標を特定する。
ステップS10では、不可視領域推定部206が、S4で取得する高精度地図の地図データ点のうちの、自車と対象物との間の地図データ点の高度の情報と、視点位置特定部205で特定する視点位置とをもとに、路面の勾配変化によって自車のドライバから不可視となる不可視領域を推定する。ここで、図7を用いて、不可視領域の推定の一例について説明する。図7のOvが自車を示しており、Vaが対象物としての先行車を示している。また、図7の黒丸が地図データ点,Vpが視点位置,Losが視点位置を起点とする線分,Opが地図データ点のうちの自車が位置する地点,Apが地図データ点のうちの先行車が位置する地点を示している。
不可視領域推定部206は、自車の車両位置(図7のOp参照)と対象地点(図7のAp参照)との間の地図データ点から高度の情報を抽出し、高度の情報をスプライン補間して近似曲線(以下、勾配近似曲線)を求める。なお、対象地点が、地図データ点にあたらない場合には、前述の勾配基準点を対象地点の代わりに用いる構成とすればよい。続いて、視点位置特定部205で特定する視点位置(図7のVp参照)を起点とし、求めた勾配近似曲線と接する線分を求め、接点の(x,y,z)座標を算出する。そして、求めた座標点のz座標、つまり自車に対する高さに基づき、この高さ以下の領域を不可視領域として推定する。この高さよりも高い領域が可視領域となる。なお、例えば、不可視領域推定部206は、視点位置から対象地点までの間で勾配近似曲線に接する線分を引けない場合は、不可視領域なしと推定すればよい。
ステップS11では、S10で不可視領域が推定される場合、つまり不可視領域ありの場合(S11でYES)には、ステップS1に移る。一方、S10で不可視領域なしの場合(S11でNO)には、ステップS1に移る。ステップS12では、表示生成部207が、不可視領域を強調表示マークの表示画像の描画対象から除外する不可視領域回避処理を行って、ステップS13に移る。
ステップS13では、表示生成部207が、S9で特定する三次元位置に合わせて、強調表示マークの表示画像の画像データを生成する。ステップS14では、表示生成部207が、S13で生成する画像データをHUD230に出力することで、自車に対する対象物の三次元位置に合わせて対象物を強調する強調表示マークの虚像を前景に重畳表示させる。そして、ステップS20に移る。
一例として、表示生成部207は、S9で特定する三次元位置と、視点位置特定部205で特定する視点位置と、予めHCU20の不揮発性メモリに格納されている投影領域の設定位置とをもとに、図8に示すような対象物(図8のVa参照)の下端に沿うライン状の強調表示マークの虚像(図8のHl参照)を前景に重畳表示させる。図8は、重畳表示の一例を示す図であって、Viが投影領域を示している。なお、対象物の下端に沿う形状であれば、ライン状以外の形状であってもよい。
また、表示生成部207は、S12で不可視領域回避処理を行っている場合、つまり、不可視領域推定部206で推定される不可視領域が存在する場合には、この不可視領域を避けて、強調表示マークの虚像を重畳表示させる。具体例としては、図9に示すように、対象物(図9のVa参照)の下端に沿うライン状の強調表示マーク(図9のHl参照)を、可視領域の高さまで平行移動させて、対象物の可視領域中の下端に沿うように重畳表示させればよい。図9は、重畳表示の一例を示す図であって、Viが投影領域を示している。
ステップS15では、撮像画像取得部200が、前方カメラ41で撮像する撮像画像をセンシング情報として取得する。ステップS16では、三次元位置特定部204が、S15で取得する撮像画像を用いて、自車に対する対象物の高さ方向の位置を特定する。三次元位置特定部204は、自車に対する対象物の高さ方向の位置については、撮像画像から画像認識によって検出する消失点の、平坦路での消失点からの変化量をもとに特定すればよい。
ここで、図10を用いて、撮像画像からの自車に対する対象物の高さ方向の位置の特定の一例について説明する。図10のAが前方上り勾配の路面の撮像画像の例を示しており、Bが平坦路の撮像画像の例を示している。なお、本実施形態では、平坦路の撮像画像中における消失点である基準点(図10のBP参照)の位置は、車両の製造時,車両へのHUD230の取り付け時等に予め求めてHCU20の不揮発性メモリに格納済みとする。また、基準点の位置は、車両のピッチング状態に応じた位置を選択して用いることができるように、例えば車両のハイトセンサの出力値別とすることが好ましい。
まず、三次元位置特定部204は、S14で取得する撮像画像に対してエッジ抽出を行い、エッジ抽出を行った白線候補に対してHough変換を行うことで線分を抽出する。三次元位置特定部204は、抽出する線分を色情報と比較することで白線を抽出する。三次元位置特定部204は、撮像画像から抽出する左右の白線を延長することで左右の白線の交点の位置を算出し、算出する交点を消失点(図10のFOE参照)とする。なお、前述の基準点についても予め同様にして算出しておく構成とすればよい。続いて、三次元位置特定部204は、この消失点を基準点と比較し、基準点に対する消失点の変化量から自車前方の縦断勾配を特定する。変化量からの縦断勾配の特定については、予め変化量と縦断勾配との対応関係をHCU20の不揮発性メモリに格納しておき、この対応関係を参照することで特定可能とすればよい。
そして、三次元位置特定部204は、S1で取得する対象物の距離と、特定する自車前方の縦断勾配とをもとに、自車から対象物までこの縦断勾配で一定と仮定した上で三角関数を用いることで、自車の車両位置と対象地点との高度の差分から対象物のz座標を特定する。また、三次元位置特定部204は、画像認識によって車高といった対象物自体の高さも特定することが好ましい。
ステップS17では、三次元位置特定部204が、S2で算出する対象物の(x,y)座標と、S16で推定する対象物のz座標とを合わせて、自車に対する対象物の三次元位置、つまり(x,y,z)座標を特定する。ステップS18では、表示生成部207が、S17で特定する三次元位置に合わせて、強調表示マークの表示画像の画像データを生成する。ステップS19では、表示生成部207が、S18で生成する画像データをHUD230に出力することで、自車に対する対象物の三次元位置に合わせて対象物を強調する強調表示マークの虚像を前景に重畳表示させる。
一例として、表示生成部207は、S17で特定する三次元位置及び対象物の高さと、視点位置特定部205で特定する視点位置と、予めHCU20の不揮発性メモリに格納されている投影領域の設定位置とをもとに、図11に示すような対象物(図11のVa参照)を囲う枠状の強調表示マークの虚像(図11のHl参照)を前景に重畳表示させる。図11は、重畳表示の一例を示す図であって、Viが投影領域を示している。なお、対象物を囲う形状であれば、枠状以外の形状であってもよく、一部を欠いている形状であってもよい。
ステップS20では、虚像表示制御関連処理の終了タイミングであった場合(S20でYES)には、虚像表示制御関連処理を終了する。一方、虚像表示制御関連処理の終了タイミングでなかった場合(S20でNO)には、S1に戻って処理を繰り返す。虚像表示制御関連処理の終了タイミングの一例としては、自車のパワースイッチがオフになった場合,HUD230の機能がオフになった場合等がある。
図4のフローチャートで説明した例では、S4〜S14の処理では、前方カメラ41で撮像する撮像画像を用いないため、自車に対する対象物の高さは精度良く特定することが可能となる一方、対象物自体の高さを精度良く特定することが難しいため、対象物の下端に沿う形状の虚像を重畳表示させる。これによれば、対象物を強調する表示を、高さ方向のずれを抑えつつ行うことが可能になる。また、S15〜S19の処理では、前方カメラ41で撮像する撮像画像も用いるため、自車に対する対象物の高さを精度良く特定することが可能となるとともに、対象物自体の高さも精度良く特定することが可能となる。よって、対象物を囲う形状の虚像を重畳表示させる。これによれば、対象物を強調する表示を、対象物を囲って対象物をドライバに認識しやすくしながらも、高さ方向のずれを抑えて行うことが可能になる。
<実施形態1のまとめ>
実施形態1の構成によれば、探査波センサであるミリ波レーダ42で検出する、自車に対する対象物の距離及び方位角に加え、地点別の高さの情報を含む高精度地図も用いて、自車に対する対象物の三次元位置を特定するので、自車に対する対象物の高さをより精度良く特定することが可能になる。また、この三次元位置に合わせて、対象物を強調する虚像を重畳表示させるので、対象物を強調する虚像が、意図した位置から高さ方向に大幅にずれることを抑えることが可能になる。その結果、HUD230によって自車の前景中の対象物を強調する虚像を重畳表示させる際に、ドライバによるその対象物の誤認識及びドライバの不信感を低減させることが可能になる。
また、実施形態1の構成によれば、対象物が自車から所定距離未満の近距離の場合には、この近距離において自車に対する対象物の高さを精度良く特定することが可能な、前方カメラ41で撮像する撮像画像を用いることで、自車に対する対象物の高さを特に精度良く特定することが可能になる。一方、対象物が自車から所定距離以上の遠距離の場合には、この距離において自車に対する対象物の高さを精度良く特定することが困難な、前方カメラ41で撮像する撮像画像を用いず、高精度地図を用いることで、自車に対する対象物の高さを精度良く特定することが可能になる。
さらに、実施形態1の構成によれば、対象地点が高精度地図の地図データ点にあたらない場合であっても、この対象地点にとっての横断勾配の基準となる勾配基準点を探索し、探索する勾配基準点における横断勾配と、この勾配基準点と対象地点との距離とを用いて、対象地点の高さを特定することが可能になる。よって、対象地点が高精度地図の地図データ点にあたらない場合であっても、自車に対する対象物の高さをより精度良く特定することが可能になる。
他にも、実施形態1の構成によれば、不可視領域推定部206が不可視領域を推定し、表示生成部207が不可視領域を避けて強調表示マークの虚像を重畳表示させるので、対象物のうちの前方勾配で隠れていない部分から大きく離れた位置に対象物を強調する虚像を重畳表示させずに済む。よって、ドライバによるその対象物の誤認識及びドライバの不信感をさらに低減させることが可能になる。
(実施形態2)
実施形態1では、対象物が自車から所定距離未満の近距離の場合には、対象物の三次元位置の特定に前方カメラ41で撮像する撮像画像を用いるが高精度地図は用いない一方、対象物が自車から所定距離以上の遠距離の場合には、対象物の三次元位置の特定に高精度地図は用いるが前方カメラ41で撮像する撮像画像を用いない構成を示したが、必ずしもこれに限らない。
例えば、対象物が近距離の場合であっても遠距離の場合であっても高精度地図を用いて自車に対する対象物の高さを特定する構成としてもよい。この場合、例えば前方カメラ41で撮像する撮像画像は、対象物が近距離の場合において対象物自体の高さを特定し、対象物を囲う形状の虚像を重畳表示させるのに用いる構成としてもよい。さらに、この場合、実施形態1と同様にして不可視領域推定部206が不可視領域を、高精度地図を用いて推定し、不可視領域を避けて強調表示マークの虚像を重畳表示させる構成としてもよい。具体例としては、図12に示すように、対象物(図12のVa参照)を囲う枠状の強調表示マーク(図12のHl参照)の不可視領域にあたる部分をマスク処理して、対象物の可視領域中の部分を囲うように重畳表示させればよい。図12は、重畳表示の一例を示す図であって、Viが投影領域を示している。
以上の構成であっても、探査波センサであるミリ波レーダ42で検出する、自車に対する対象物の距離及び方位角に加え、地点別の高さの情報を含む高精度地図も用いて、自車に対する対象物の三次元位置を特定するので、自車に対する対象物の高さをより精度良く特定することが可能になる。よって、HUD230によって自車の前景中の対象物を強調する虚像を重畳表示させる際に、ドライバによるその対象物の誤認識及びドライバの不信感を低減させることが可能になる。
また、対象物が近距離の場合であっても遠距離の場合であっても高精度地図を用いて自車に対する対象物の高さを特定する一方、対象地点が地図データ点にあたらない場合に、前方カメラ41で撮像する撮像画像を用いて自車に対する対象物の高さを特定する構成としてもよい。この構成において、対象地点が地図データ点にあたらない場合であって、対象物が近距離の場合に、前方カメラ41で撮像する撮像画像を用いて自車に対する対象物の高さを特定する一方、対象地点が地図データ点にあたらない場合であって、対象物が遠距離の場合に、S7〜S8の処理と同様にして自車に対する対象物の高さを特定する構成とすることが好ましい。
これによれば、対象地点が地図データ点にあたらない場合であって、対象物の距離が近距離の場合には、この近距離において自車に対する対象物の高さを精度良く特定することが可能な、前方カメラ41で撮像する撮像画像を用いることで、勾配基準点を探索する処理負荷を抑えつつも自車に対する対象物の高さを精度良く特定することが可能になる。一方、対象地点が地図データ点にあたらない場合であって、対象物の距離が遠距離の場合には、この距離において自車に対する対象物の高さを精度良く特定することが困難な、前方カメラ41で撮像する撮像画像を用いず、勾配基準点を探索して自車に対する対象物の高さを精度良く特定することが可能になる。
(実施形態3)
実施形態1では、前方カメラ41で撮像する撮像画像を用いて自車に対する対象物の高さを特定するか否かに応じて、対象物を囲う形状の虚像を重畳表示させるか対象物の下端に沿う形状の虚像を重畳表示させるかを切り替える構成を示したが、必ずしもこれに限らない。例えば、前方カメラ41で撮像する撮像画像を用いて自車に対する対象物の高さを特定するか否かにかかわらず、同様の形状の虚像を重畳表示させる構成としてもよい。
(実施形態4)
実施形態1では、不可視領域推定部206が不可視領域を推定し、表示生成部207が不可視領域を避けて強調表示マークの虚像を重畳表示させる構成を示したが、必ずしもこれに限らない。例えば、HCU20に不可視領域推定部206を備えず、不可視領域を推定しない構成としてもよい。
(実施形態5)
実施形態1では、DSM22で検出した視点位置の情報から視点位置特定部205が自車の車両位置を基準とするドライバの視点位置を特定する構成を示したが、必ずしもこれに限らない。例えば、予めHCU20の不揮発性メモリに格納される設定位置を、自車の車両位置を基準とするドライバの視点位置として用いる構成としてもよい。この設定位置は、車種別に設定される仮想の点であって、通常の運転状態におけるドライバの目の位置を代表する点である。設定位置は、例えばシーティングリファレンスポイントの直上635mmの高さに設定される構成とすればよい。
他にも、設定位置をリクライニング角度,スライド位置といった運転席のシート位置別に予め格納しておくことで、シート位置に応じた設定位置を選択して、自車の車両位置を基準とするドライバの視点位置を特定する構成としてもよい。
(実施形態6)
実施形態1では、高精度地図取得部203が地図データを取得する地図DB32がADASロケータ3に備えられている構成を示したが、必ずしもこれに限らない。例えば、地図DB32は、ADASロケータ3以外に備えられる構成としてもよい。
(実施形態7)
実施形態1では、自車が自動運転機能を有している場合に適用した例を挙げて説明を行ったが、必ずしもこれに限らない。例えば、自車が自動運転機能を有していない構成であってもよい。この場合には、自車のドライバが注意すべき対象物を強調する虚像を重畳表示させることで、この対象物に対する注意喚起を行う構成等とすればよい。
(実施形態8)
実施形態1では、HUD230での表示の制御に関する機能をHUD230とは別体のHCU20が担う構成を示したが、必ずしもこれに限らない。例えば、HUD230での表示の制御に関する機能をHUD230に設けられる制御回路が担う構成としてもよいし、コンビネーションメータに設けられる制御回路等が担う構成としてもよい。
なお、本開示は、上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本開示の技術的範囲に含まれる。
1 車両システム、2 HMIシステム、3 ADASロケータ、4 周辺監視センサ、5 車両制御ECU、6 運転支援ECU、10 フロントウインドシールド(投影部材)、20 HCU(車両用表示制御装置)、41 前方カメラ(撮像装置)、42 ミリ波レーダ(探査波センサ)、100 虚像、200 撮像画像取得部、201 距離方位取得部、202 自車位置取得部、203 高精度地図取得部、204 三次元位置特定部、205 視点位置特定部、206 不可視領域推定部、207 表示生成部(表示制御部)、230 HUD(ヘッドアップディスプレイ)

Claims (11)

  1. 車両で用いられ、投影部材(10)に表示画像を投影することによって前記車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御装置であって、
    探査波を送信し、その探査波が前記対象物で反射される反射波を受信することで前記車両に対する前記対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得する距離方位取得部(201)と、
    地点別の高さの情報を含む高精度地図を取得する高精度地図取得部(203)と、
    前記距離方位取得部で取得する前記距離及び前記方位と、前記高精度地図取得部で取得する前記高精度地図とを用いて、前記車両に対する前記対象物の三次元位置を特定する三次元位置特定部(204)と、
    前記三次元位置特定部で特定する、前記車両に対する前記対象物の三次元位置に合わせて、前記対象物を強調する虚像を重畳表示させる表示制御部(207)と
    前記車両のドライバの視点位置を特定する視点位置特定部(205)と、
    前記高精度地図に前記高さの情報が含まれている地点のうち、前記車両と前記対象物との間の地点の前記高さの情報と、前記視点位置特定部で特定する前記視点位置とをもとに、路面の勾配変化によって前記ドライバから不可視となる不可視領域を推定する不可視領域推定部(206)とを備え
    前記表示制御部は、前記不可視領域推定部で推定する前記不可視領域を避けて、前記対象物を強調する虚像を重畳表示させる車両用表示制御装置。
  2. 前記車両の前方を撮像する撮像装置(41)で撮像する撮像画像を取得する撮像画像取得部(200)を備え、
    前記三次元位置特定部は、前記車両に対する前記対象物の距離が所定距離以上の場合には、前記距離方位取得部で取得する前記距離及び前記方位と、前記高精度地図取得部で取得する前記高精度地図とを用いて、前記車両に対する前記対象物の三次元位置を特定する一方、前記車両に対する前記対象物の距離が所定距離未満の場合には、前記距離方位取得部で取得する前記距離及び前記方位に加え、前記撮像画像取得部で取得する前記撮像画像を用いて、前記車両に対する前記対象物の三次元位置を特定する請求項1に記載の車両用表示制御装置。
  3. 車両で用いられ、投影部材(10)に表示画像を投影することによって前記車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御装置であって、
    探査波を送信し、その探査波が前記対象物で反射される反射波を受信することで前記車両に対する前記対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得する距離方位取得部(201)と、
    地点別の高さの情報を含む高精度地図を取得する高精度地図取得部(203)と、
    前記距離方位取得部で取得する前記距離及び前記方位と、前記高精度地図取得部で取得する前記高精度地図とを用いて、前記車両に対する前記対象物の三次元位置を特定する三次元位置特定部(204)と、
    前記三次元位置特定部で特定する、前記車両に対する前記対象物の三次元位置に合わせて、前記対象物を強調する虚像を重畳表示させる表示制御部(207)と
    前記車両の前方を撮像する撮像装置(41)で撮像する撮像画像を取得する撮像画像取得部(200)とを備え
    前記三次元位置特定部は、前記車両に対する前記対象物の距離が所定距離以上の場合には、前記距離方位取得部で取得する前記距離及び前記方位と、前記高精度地図取得部で取得する前記高精度地図とを用いて、前記車両に対する前記対象物の三次元位置を特定する一方、前記車両に対する前記対象物の距離が所定距離未満の場合には、前記距離方位取得部で取得する前記距離及び前記方位に加え、前記撮像画像取得部で取得する前記撮像画像を用いて、前記車両に対する前記対象物の三次元位置を特定する車両用表示制御装置。
  4. 前記表示制御部は、前記三次元位置特定部で、前記撮像画像を用いて、前記車両に対する前記対象物の三次元位置を特定する場合には、前記対象物を強調する虚像として、前記前景中の前記対象物を囲う形状の虚像を重畳表示させる一方、前記撮像画像を用いず、前記高精度地図取得部で取得する前記高精度地図を用いて、前記車両に対する前記対象物の三次元位置を特定する場合には、前記対象物を強調する虚像として、前記前景中の前記対象物の下端に沿う形状の虚像を重畳表示させる請求項2又は3に記載の車両用表示制御装置。
  5. 前記三次元位置特定部は、前記撮像画像を用いて、前記車両に対する前記対象物の三次元位置を特定する場合、前記車両に対する前記対象物の高さ方向の位置については、前記撮像画像から画像認識によって検出する消失点の、平坦路での消失点からの変化量をもとに特定する請求項2〜4のいずれか1項に記載の車両用表示制御装置。
  6. 前記三次元位置特定部は、前記高精度地図取得部で取得する前記高精度地図を用いて、前記車両に対する前記対象物の三次元位置を特定する場合、前記車両に対する前記対象物の高さ方向の位置については、前記高精度地図上の前記車両が位置する地点の高さと、前記車両に対する前記対象物の前記距離及び前記方位が示す地点の高さとの差分から特定する請求項1〜のいずれか1項に記載の車両用表示制御装置。
  7. 前記高精度地図は、少なくとも道路上の複数地点についての高さ及び横断勾配の情報を含むものであり、
    前記三次元位置特定部は、前記高精度地図取得部で取得する前記高精度地図を用いて、前記車両に対する前記対象物の三次元位置を特定する場合であって、前記車両に対する前記対象物の距離及び方位が示す地点である対象地点が、前記高精度地図に前記高さ及び前記横断勾配の情報が含まれている地点にあたらない場合には、前記高精度地図に前記高さ及び前記横断勾配の情報が含まれている地点のうちから、前記対象地点にとっての横断勾配の基準となる勾配基準点を探索し、前記勾配基準点での横断勾配と、前記勾配基準点と前記対象地点との距離とから、前記車両に対する前記対象物の前記距離及び前記方位が示す地点の高さを特定する請求項に記載の車両用表示制御装置。
  8. 車両で用いられ、投影部材(10)に表示画像を投影することによって前記車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御方法であって、
    探査波を送信し、その探査波が前記対象物で反射される反射波を受信することで前記車両に対する前記対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得し、
    地点別の高さの情報を含む高精度地図を取得し、
    取得する前記距離及び方位と、取得する前記高精度地図とを用いて、前記車両に対する前記対象物の三次元位置を特定し、
    前記車両のドライバの視点位置を特定し、
    前記高精度地図に前記高さの情報が含まれている地点のうち、前記車両と前記対象物との間の地点の前記高さの情報と、特定する前記視点位置とをもとに、路面の勾配変化によって前記ドライバから不可視となる不可視領域を推定し、
    推定する前記不可視領域を避けて、特定する前記車両に対する前記対象物の三次元位置に合わせて、前記対象物を強調する虚像を重畳表示させる車両用表示制御方法。
  9. 車両で用いられ、投影部材(10)に表示画像を投影することによって前記車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御方法であって、
    探査波を送信し、その探査波が前記対象物で反射される反射波を受信することで前記車両に対する前記対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得し、
    地点別の高さの情報を含む高精度地図を取得し、
    前記車両の前方を撮像する撮像装置(41)で撮像する撮像画像を取得し、
    前記車両に対する前記対象物の距離が所定距離以上の場合には、取得する前記距離及び方位と、取得する前記高精度地図とを用いて、前記車両に対する前記対象物の三次元位置を特定する一方、前記車両に対する前記対象物の距離が所定距離未満の場合には、取得する前記距離及び前記方位に加え、取得する前記撮像画像を用いて、前記車両に対する前記対象物の三次元位置を特定し、
    特定する、前記車両に対する前記対象物の三次元位置に合わせて、前記対象物を強調する虚像を重畳表示させる車両用表示制御方法。
  10. コンピュータを、
    車両で用いられ、投影部材(10)に表示画像を投影することによって前記車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御装置として機能させるための制御プログラムであって、
    探査波を送信し、その探査波が前記対象物で反射される反射波を受信することで前記車両に対する前記対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得する距離方位取得部(201)と、
    地点別の高さの情報を含む高精度地図を取得する高精度地図取得部(203)と、
    前記距離方位取得部で取得する前記距離及び前記方位と、前記高精度地図取得部で取得する前記高精度地図とを用いて、前記車両に対する前記対象物の三次元位置を特定する三次元位置特定部(204)と、
    前記車両のドライバの視点位置を特定する視点位置特定部(205)と、
    前記高精度地図に前記高さの情報が含まれている地点のうち、前記車両と前記対象物との間の地点の前記高さの情報と、前記視点位置特定部で特定する前記視点位置とをもとに、路面の勾配変化によって前記ドライバから不可視となる不可視領域を推定する不可視領域推定部(206)と
    前記三次元位置特定部で特定する、前記車両に対する前記対象物の三次元位置に合わせて、前記不可視領域推定部で推定する前記不可視領域を避けて、前記対象物を強調する虚像を重畳表示させる表示制御部(207)として機能させるための制御プログラム。
  11. コンピュータを、
    車両で用いられ、投影部材(10)に表示画像を投影することによって前記車両の前景中の対象物を強調する虚像を重畳表示させるヘッドアップディスプレイ(230)を制御する車両用表示制御装置として機能させるための制御プログラムであって、
    探査波を送信し、その探査波が前記対象物で反射される反射波を受信することで前記車両に対する前記対象物の距離及び方位を検出する探査波センサ(42)で検出する、その距離及び方位を、取得する距離方位取得部(201)と、
    地点別の高さの情報を含む高精度地図を取得する高精度地図取得部(203)と、
    前記車両の前方を撮像する撮像装置(41)で撮像する撮像画像を取得する撮像画像取得部(200)と、
    前記車両に対する前記対象物の距離が所定距離以上の場合には、前記距離方位取得部で取得する前記距離及び前記方位と、前記高精度地図取得部で取得する前記高精度地図とを用いて、前記車両に対する前記対象物の三次元位置を特定する一方、前記車両に対する前記対象物の距離が所定距離未満の場合には、前記距離方位取得部で取得する前記距離及び前記方位に加え、前記撮像画像取得部で取得する前記撮像画像を用いて、前記車両に対する前記対象物の三次元位置を特定する三次元位置特定部(204)と、
    前記三次元位置特定部で特定する、前記車両に対する前記対象物の三次元位置に合わせて、前記対象物を強調する虚像を重畳表示させる表示制御部(207)として機能させるための制御プログラム。
JP2018139469A 2018-07-25 2018-07-25 車両用表示制御装置、車両用表示制御方法、及び制御プログラム Active JP6981377B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018139469A JP6981377B2 (ja) 2018-07-25 2018-07-25 車両用表示制御装置、車両用表示制御方法、及び制御プログラム
PCT/JP2019/021029 WO2020021842A1 (ja) 2018-07-25 2019-05-28 車両用表示制御装置、車両用表示制御方法、制御プログラム、および持続的有形コンピュータ読み取り媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018139469A JP6981377B2 (ja) 2018-07-25 2018-07-25 車両用表示制御装置、車両用表示制御方法、及び制御プログラム

Publications (2)

Publication Number Publication Date
JP2020016541A JP2020016541A (ja) 2020-01-30
JP6981377B2 true JP6981377B2 (ja) 2021-12-15

Family

ID=69182211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018139469A Active JP6981377B2 (ja) 2018-07-25 2018-07-25 車両用表示制御装置、車両用表示制御方法、及び制御プログラム

Country Status (2)

Country Link
JP (1) JP6981377B2 (ja)
WO (1) WO2020021842A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113341942A (zh) * 2020-02-14 2021-09-03 本田技研工业株式会社 车辆用装置和加速度的校正方法
JP2021191648A (ja) 2020-06-05 2021-12-16 トヨタ自動車株式会社 位置推定装置及び位置推定方法
US20230176208A1 (en) * 2020-06-12 2023-06-08 Mitsubishi Electric Corporation Road shape estimation device, road shape estimation method, and computer-readable medium
JP7279689B2 (ja) 2020-06-16 2023-05-23 トヨタ自動車株式会社 データ処理装置及びデータ処理システム
DE102020211301A1 (de) * 2020-09-09 2022-03-10 Volkswagen Aktiengesellschaft Verfahren zur Darstellung eines virtuellen Elements
JP7322855B2 (ja) 2020-10-23 2023-08-08 トヨタ自動車株式会社 路面情報作成装置及び車両制御システム
JP7314902B2 (ja) 2020-10-29 2023-07-26 トヨタ自動車株式会社 車両の制御方法及び制御装置
JP2022155162A (ja) 2021-03-30 2022-10-13 ミネベアミツミ株式会社 ポンプシステムおよび電子機器
JP7501463B2 (ja) 2021-07-15 2024-06-18 トヨタ自動車株式会社 車両用表示制御装置、表示方法及び表示プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001331787A (ja) * 2000-05-19 2001-11-30 Toyota Central Res & Dev Lab Inc 道路形状推定装置
JP2005258941A (ja) * 2004-03-12 2005-09-22 Toyota Central Res & Dev Lab Inc 障害物検出装置
JP2005343351A (ja) * 2004-06-04 2005-12-15 Olympus Corp 運転支援装置
JP5338273B2 (ja) * 2008-11-24 2013-11-13 株式会社デンソー 画像生成装置、ヘッドアップディスプレイ装置および車両用表示装置
JP2014092935A (ja) * 2012-11-02 2014-05-19 Aisin Aw Co Ltd 先行車認識システム、先行車認識方法、及び先行車認識プログラム

Also Published As

Publication number Publication date
WO2020021842A1 (ja) 2020-01-30
JP2020016541A (ja) 2020-01-30

Similar Documents

Publication Publication Date Title
JP6981377B2 (ja) 車両用表示制御装置、車両用表示制御方法、及び制御プログラム
US11982539B2 (en) Display system, display control device, and display control program product
US12061336B2 (en) Head-up display
US11287879B2 (en) Display control device, display control method, and program for display based on travel conditions
US11525694B2 (en) Superimposed-image display device and computer program
US11325470B2 (en) Method, device and computer-readable storage medium with instructions for controlling a display of an augmented-reality head-up display device for a transportation vehicle
JP6984624B2 (ja) 表示制御装置および表示制御プログラム
CN110462699B (zh) 车辆用显示控制装置以及车辆用显示单元
US11347216B2 (en) Remote parking system
US11710429B2 (en) Display control device and non-transitory computer readable storage medium for display control by head-up display
JP7024619B2 (ja) 移動体用表示制御装置、移動体用表示制御方法、及び制御プログラム
JP7416114B2 (ja) 表示制御装置および表示制御プログラム
JP2019526105A (ja) 周辺モデルの写像を作成するための方法、並びに、車両制御システム、及び、対応する車両
WO2020189238A1 (ja) 車両用表示制御装置、車両用表示制御方法、車両用表示制御プログラム
JP7400242B2 (ja) 車両用表示制御装置および車両用表示制御方法
JP7302311B2 (ja) 車両用表示制御装置、車両用表示制御方法、車両用表示制御プログラム
WO2020246114A1 (ja) 表示制御装置および表示制御プログラム
JP7263962B2 (ja) 車両用表示制御装置および車両用表示制御方法
JP2020138609A (ja) 車両用表示制御装置、車両用表示制御方法、車両用表示制御プログラム
US10981597B2 (en) Vehicle control device and method
JP2021028587A (ja) 車載表示制御装置
JP2021037894A (ja) 表示制御装置および表示制御プログラム
JP7172730B2 (ja) 車両用表示制御装置、車両用表示制御方法、車両用表示制御プログラム
JP2022166700A (ja) 車両用表示制御装置
JP2020091148A (ja) 表示制御装置および表示制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210601

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210906

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210906

C12 Written invitation by the commissioner to file intermediate amendments

Free format text: JAPANESE INTERMEDIATE CODE: C12

Effective date: 20210921

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210928

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20211005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211019

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211101

R151 Written notification of patent or utility model registration

Ref document number: 6981377

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151