JP2021039085A - 重畳画像表示装置、重畳画像描画方法及びコンピュータプログラム - Google Patents

重畳画像表示装置、重畳画像描画方法及びコンピュータプログラム Download PDF

Info

Publication number
JP2021039085A
JP2021039085A JP2020031592A JP2020031592A JP2021039085A JP 2021039085 A JP2021039085 A JP 2021039085A JP 2020031592 A JP2020031592 A JP 2020031592A JP 2020031592 A JP2020031592 A JP 2020031592A JP 2021039085 A JP2021039085 A JP 2021039085A
Authority
JP
Japan
Prior art keywords
vehicle
guidance
guide
target point
superimposed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020031592A
Other languages
English (en)
Other versions
JP7476568B2 (ja
Inventor
崇志 河合
Takashi Kawai
崇志 河合
鋭典 竹内
Toshinori Takeuchi
鋭典 竹内
賢二 渡邊
Kenji Watanabe
賢二 渡邊
広之 三宅
Hiroyuki Miyake
広之 三宅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Publication of JP2021039085A publication Critical patent/JP2021039085A/ja
Application granted granted Critical
Publication of JP7476568B2 publication Critical patent/JP7476568B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/365Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3632Guidance using simplified or iconic instructions, e.g. using arrows
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3635Guidance using 3D or perspective road maps

Abstract

【課題】車両周辺の風景に重畳して表示された案内オブジェクトの内容を明確に乗員に認識させることができ、適切な運転操作を行わせることを可能にした重畳画像表示装置、重畳画像描画方法及びコンピュータプログラムを提供する。【解決手段】車両の進行方向前方に案内対象となる案内対象地点がある場合に、案内対象地点に対する案内を行う為の案内オブジェクト53を表示する一方で、案内オブジェクトを表示する際には、車両から案内対象地点までの距離が閾値以上である場合には、乗員に車両との相対位置が固定された状態で重畳して視認される態様で案内オブジェクトを表示する。また、その後に車両から案内対象地点までの距離が閾値未満となった場合には、乗員に案内対象地点との相対位置が固定された状態で重畳して視認される態様で案内オブジェクトを表示するように構成する。【選択図】図9

Description

本発明は、車両の走行支援を行う重畳画像表示装置、重畳画像描画方法及びコンピュータプログラムに関する。
従来より、車両の乗員に対して経路案内や障害物の警告等の車両の走行支援を行う為の各種情報を提供する情報提供手段として、様々な手段が用いられている。例えば、車両に設置された液晶ディスプレイによる表示や、スピーカから出力する音声等である。そして、近年、このような情報提供手段の一つとして、乗員の周辺環境(風景、実景)に重畳する画像を表示することによって、情報の提供を行う装置がある。例えば、ヘッドアップディスプレイ、ウインドウシールドディスプレイの他、液晶ディスプレイに表示した車両周辺の撮像画像に重畳して画像を表示する方法等が該当する。
ここで、上記周辺環境に重畳する画像を表示することによって、車両の乗員に案内対象となる案内対象地点を案内する場合には、重畳する画像を案内対象地点付近に重畳させることが効果的である。案内対象地点としては、例えば車両が右左折する案内分岐点、案内分岐点の目印となる地物(施設、看板など)、注意を促す必要のある障害物等が該当する。例えば、特開2007−121001号公報には、案内対象交差点の300m手前に車両が位置した時点で、車両前方の実写画像に含まれる案内対象交差点に重畳して右左折方向を示す矢印の画像を表示する技術について開示されている。
特開2007−121001号公報(第7頁、図9)
上記特許文献1に記載の技術は、案内対象交差点の300m手前に車両が位置した時点で矢印の画像が表示される。しかしながら、現実的には300m手前の時点では案内対象交差点までの距離が非常に遠いので、車両からは案内対象交差点は非常に小さくしか視認できない。従って、案内対象交差点に重畳する矢印の画像も非常に小さくなり、矢印の画像がどの交差点でどの方向に曲がることを示す矢印であるかを認識するのは非常に困難であった。
従って、上記特許文献1に記載の技術では、案内対象交差点の300m手前に車両が位置した時点で矢印の画像が表示されるが、実際に乗員が矢印の内容を正確に認識できる(即ちどの交差点でどの方向に曲がるかを認識できる)のはそれより更に案内対象交差点に近づいたタイミングとなる。その結果、案内に対して乗員の運転操作が遅れてしまう問題があった。
本発明は前記従来における問題点を解消するためになされたものであり、車両の状況に応じた適切な視認態様で案内オブジェクトを乗員に視認させることによって、案内オブジェクトの内容を明確に乗員に認識させることができ、適切な運転操作を行わせることを可能にした重畳画像表示装置、重畳画像描画方法及びコンピュータプログラムを提供することを目的とする。
前記目的を達成するため本発明に係る第1の重畳画像表示装置は、車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクトを、前記車両周辺の風景に重畳して視認させる重畳画像表示装置であって、車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段を有し、前記オブジェクト表示手段は、車両から前記案内対象地点までの距離が閾値以上である場合には、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様で前記案内オブジェクトを表示し、車両から前記案内対象地点までの距離が閾値未満である場合には、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様で前記案内オブジェクトを表示する。
尚、「風景」とは、実際に車両から視認される風景(実景)に加えて、風景を撮像した画像、風景を再現した画像等も含む。
また、本発明に係る第2の重畳画像表示装置は、車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクトを、前記車両周辺の風景に重畳して視認させる重畳画像表示装置であって、車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段を有し、前記オブジェクト表示手段は、一の前記案内オブジェクトを、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様と、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様と、の間で切り替えて表示する。
また、本発明に係る第1の重畳画像描画方法は、オブジェクト生成手段が、車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトの画像を生成するステップと、オブジェクト描画手段が、生成された前記案内オブジェクトの画像を画像表示装置に対して前記車両周辺の風景に重畳して視認させる位置に描画するステップと、を有し、前記オブジェクト描画手段は、車両から前記案内対象地点までの距離が閾値以上である場合には、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様で前記案内オブジェクトを描画し、車両から前記案内対象地点までの距離が閾値未満である場合には、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様で前記案内オブジェクトを描画する。
また、本発明に係る第2の重畳画像描画方法は、オブジェクト生成手段が、車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトの画像を生成するステップと、オブジェクト描画手段が、生成された前記案内オブジェクトの画像を画像表示装置に対して前記車両周辺の風景に重畳して視認させる位置に描画するステップと、を有し、前記オブジェクト描画手段は、一の前記案内オブジェクトを、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様と、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様と、の間で切り替えて描画する。
また、本発明に係る第1のコンピュータプログラムは、車両の走行支援を行うプログラムである。具体的には、車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクトを、前記車両周辺の風景に重畳して視認させる重畳画像表示装置を、車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段として機能させる為のコンピュータプログラムである。また、前記オブジェクト表示手段は、車両から前記案内対象地点までの距離が閾値以上である場合には、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様で前記案内オブジェクトを表示し、車両から前記案内対象地点までの距離が閾値未満である場合には、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様で前記案内オブジェクトを表示する。
また、本発明に係る第2のコンピュータプログラムは、車両の走行支援を行うプログラムである。具体的には、車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクトを、前記車両周辺の風景に重畳して視認させる重畳画像表示装置を、車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段として機能させる為のコンピュータプログラムである。また、前記オブジェクト表示手段は、一の前記案内オブジェクトを、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様と、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様と、の間で切り替えて表示する。
前記構成を有する本発明に係る第1の重畳画像表示装置、重畳画像描画方法及びコンピュータプログラムによれば、車両から案内対象地点までの距離が離れた状態では車両との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内対象地点までの距離が離れた状態においても案内オブジェクトの内容を明確に乗員に認識させることが可能となる。その結果、案内に対して乗員の運転操作が遅れることを防止して、適切な運転操作を行わせることが可能となる。一方で、車両から案内対象地点までの距離が近づいた状態では案内対象地点との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内対象地点までの距離が近づいた状態では案内対象地点と案内オブジェクトを対応させて視認させる効果的な案内が可能となる。
また、前記構成を有する本発明に係る第2の重畳画像表示装置、重畳画像描画方法及びコンピュータプログラムによれば、一の案内オブジェクトについて車両との相対位置が固定された状態と案内対象地点との相対位置が固定された状態との間で切り替えて乗員に視認させるので、同じ案内オブジェクトであっても状況に応じて乗員からの視認態様を変化させることによって、状況に応じた適切な視認態様で乗員に視認させることが可能となる。特に車両との相対位置が固定された状態では車両から案内対象地点までの距離に関わらず案内オブジェクトの内容を明確に乗員に認識させることが可能となる。一方、案内対象地点との相対位置が固定された状態では、案内対象地点と案内オブジェクトを対応させて視認させる効果的な案内が可能となる。
第1実施形態に係るナビゲーション装置を示したブロック図である。 第1実施形態に係る走行支援処理プログラムのフローチャートである。 液晶ディスプレイに表示される走行案内画面の一例を示した図である。 案内オブジェクト表示位置決定処理のサブ処理プログラムのフローチャートである。 車両が案内分岐点から離れた状態にある場合の案内オブジェクトの配置例を示した図である。 車両が案内分岐点から離れた状態にある場合の案内オブジェクトの配置例を示した図である。 車両が案内分岐点に対して接近した状態にある場合の案内オブジェクトの配置例を示した図である。 3次元空間に配置された案内オブジェクトを視認した視認画像の一例を示した図である。 車両の走行に伴って液晶ディスプレイに表示される走行案内画面を示した図である。 第2実施形態に係る重畳画像表示装置の概略構成図である。 第2実施形態に係る重畳画像表示装置における案内オブジェクトの表示例を示した図である。 案内オブジェクトの変形例を示した図である。
以下、本発明に係る重畳画像表示装置をナビゲーション装置に具体化した第1実施形態及び第2実施形態について図面を参照しつつ詳細に説明する。
[第1実施形態]
先ず、第1実施形態に係るナビゲーション装置1の概略構成について図1を用いて説明する。図1は第1実施形態に係るナビゲーション装置1を示したブロック図である。
図1に示すように第1実施形態に係るナビゲーション装置1は、ナビゲーション装置1が搭載された車両の現在位置を検出する現在位置検出部11と、各種のデータが記録されたデータ記録部12と、入力された情報に基づいて、各種の演算処理を行うナビゲーションECU13と、ユーザからの操作を受け付ける操作部14と、ユーザに対して進行方向前方を撮像した実景画像を表示する液晶ディスプレイ15と、経路案内に関する音声ガイダンスを出力するスピーカ16と、記憶媒体であるDVDを読み取るDVDドライブ17と、プローブセンタやVICS(登録商標:Vehicle Information and Communication System)センタ等の情報センタとの間で通信を行う通信モジュール18と、を有する。また、ナビゲーション装置1はCAN等の車載ネットワークを介して、ナビゲーション装置1の搭載された車両に対して設置されたフロントカメラ19や各種センサが接続されている。
以下に、ナビゲーション装置1が有する各構成要素について順に説明する。
現在位置検出部11は、GPS21、車速センサ22、ステアリングセンサ23、ジャイロセンサ24等からなり、現在の車両の位置、方位、車両の走行速度、現在時刻等を検出することが可能となっている。ここで、特に車速センサ22は、車両の移動距離や車速を検出する為のセンサであり、車両の駆動輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションECU13に出力する。そして、ナビゲーションECU13は発生するパルスを計数することにより駆動輪の回転速度や移動距離を算出する。尚、上記4種類のセンサをナビゲーション装置1が全て備える必要はなく、これらの内の1又は複数種類のセンサのみをナビゲーション装置1が備える構成としても良い。
また、データ記録部12は、外部記憶装置及び記録媒体としてのハードディスク(図示せず)と、ハードディスクに記録された地図情報DB31や所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド(図示せず)とを備えている。尚、データ記録部12をハードディスクの代わりにフラッシュメモリやメモリーカードやCDやDVD等の光ディスクにより構成しても良い。また、地図情報DB31は外部のサーバに格納させ、ナビゲーション装置1が通信により取得する構成としても良い。
ここで、地図情報DB31は、例えば、道路(リンク)に関するリンクデータ32、ノード点に関するノードデータ33、分岐点に関する分岐点データ34、施設等の地点に関する地点データ、地図を表示するための地図表示データ、経路を探索するための探索データ、地点を検索するための検索データ等が記憶された記憶手段である。
また、リンクデータ32としては、道路を構成する各リンクに関してリンクの属する道路の幅員、勾(こう)配、カント、バンク、路面の状態、道路の車線数、車線数の減少する箇所、幅員の狭くなる箇所、踏切り等を表すデータが、コーナに関して、曲率半径、交差点、T字路、コーナの入口及び出口等を表すデータが、道路属性に関して、降坂路、登坂路等を表すデータが、道路種別に関して、高速道路と一般道(国道、県道、細街路等)を表すデータがそれぞれ記録される。
また、ノードデータ33としては、実際の道路の分岐点(交差点、T字路等も含む)や各道路に曲率半径等に応じて所定の距離毎に設定されたノード点の座標(位置)、ノードが交差点に対応するノードであるか等を表すノード属性、ノードに接続するリンクのリンク番号のリストである接続リンク番号リスト、ノードにリンクを介して隣接するノードのノード番号のリストである隣接ノード番号リスト、各ノード点の高さ(高度)等に関するデータ等が記録される。
また、分岐点データ34としては、分岐点の交差点名称、分岐点を形成するノードを特定する該当ノード情報、分岐点に接続されるリンクを特定する接続リンク情報、分岐点に接続されるリンクに対応する方面名称、分岐点の形状を特定する情報等が記憶される。また、分岐点での右左折案内を行う場合に目印となり得る構造物についても記憶される。
一方、ナビゲーションECU(エレクトロニック・コントロール・ユニット)13は、ナビゲーション装置1の全体の制御を行う電子制御ユニットであり、演算装置及び制御装置としてのCPU41、並びにCPU41が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるRAM42、制御用のプログラムのほか、後述の走行支援処理プログラム(図2)等が記録されたROM43、ROM43から読み出したプログラムを記憶するフラッシュメモリ44等の内部記憶装置を備えている。尚、ナビゲーションECU13は、処理アルゴリズムとしての各種手段を有する。例えば、オブジェクト表示手段は、車両の進行方向前方に案内対象となる案内対象地点がある場合に、案内対象地点に対する案内を行う為の案内オブジェクトを表示する。
操作部14は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ(図示せず)を有する。そして、ナビゲーションECU13は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、操作部14は液晶ディスプレイ15の前面に設けたタッチパネルを有する構成としても良い。また、マイクと音声認識装置を有する構成としても良い。
また、液晶ディスプレイ15には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、出発地から目的地までの案内経路、案内経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。また、特に第1実施形態では、通常の走行時において液晶ディスプレイ15にはフロントカメラ19で撮像した撮像画像、即ち現時点の車両周辺(特に車両前方)の風景(実景画像)を表示し、更に必要に応じて風景に対して案内オブジェクトを重畳させて表示する。
ここで、風景に重畳して表示される案内オブジェクトとしては、車両に関する情報や乗員の運転の支援の為に用いられる各種情報がある。例えば乗員に対して警告対象となる対象物(他車両、歩行者、案内標識)に対する警告、ナビゲーション装置1で設定された案内経路や案内経路に基づく案内情報(右左折方向を示す矢印、案内分岐点の目印を示すアイコン、案内分岐点までの距離等)、路面に表示する警告(追突注意、制限速度等)、車両が走行する車線の区画線、現在車速、シフト位置、エネルギ残量、広告画像、施設情報、案内標識、地図画像、交通情報、ニュース、天気予報、時刻、接続されたスマートフォンの画面等がある。尚、以下に説明する第1実施形態では案内オブジェクトは、車両の今後の進路とともに車両の進行方向前方にある案内分岐点における案内を行う為の案内情報とし、より具体的には車両が現在走行する道路の上方で車両の今後の進路に沿った位置に表示され、案内経路に沿った案内分岐点の退出方向を示す複数個の矢印とする。
また、スピーカ16は、ナビゲーションECU13からの指示に基づいて案内経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。
また、DVDドライブ17は、DVDやCD等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて音楽や映像の再生、地図情報DB31の更新等が行われる。尚、DVDドライブ17に替えてメモリーカードを読み書きする為のカードスロットを設けても良い。
また、通信モジュール18は、交通情報センタ、例えば、VICSセンタやプローブセンタ等から送信された渋滞情報、規制情報、交通事故情報等の各情報から成る交通情報を受信する為の通信装置であり、例えば携帯電話機やDCMが該当する。
また、フロントカメラ19は、例えばCCD等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を車両の進行方向前方に向けて設置される。そして、フロントカメラ19により撮像された撮像画像は、前述したように車両周辺(特に車両前方)の風景(実景画像)として液晶ディスプレイ15に対して表示される。
続いて、前記構成を有するナビゲーション装置1においてナビゲーションECU13が実行する走行支援処理プログラムについて図2に基づき説明する。図2は第1実施形態に係る走行支援処理プログラムのフローチャートである。ここで、走行支援処理プログラムは車両のACC電源(accessory power supply)がONされた後に実行され、液晶ディスプレイ15に表示された車両周辺の風景に重畳した案内オブジェクトを視認させることによって、車両の走行支援を行うプログラムである。尚、以下の図2及び図4にフローチャートで示されるプログラムは、ナビゲーション装置1が備えているRAM42やROM43に記憶されており、CPU41により実行される。
以下の説明では案内オブジェクトを用いた車両の走行支援として、ナビゲーション装置1で設定された案内経路に沿った車両の走行案内を行う例について説明する。また、表示対象となる案内オブジェクトは、車両の今後の進路とともに車両の進行方向前方にある案内分岐点における案内を行う為の案内情報とし、特に車両が現在走行する道路の上方で車両の今後の進路に沿った位置に表示され、案内分岐点の退出方向を示す複数個の矢印を案内オブジェクトとして表示する場合の処理を例に挙げて説明する。但し、ナビゲーション装置1では案内オブジェクトを用いて上記走行支援以外の案内や情報提供を行うことも可能である。また、表示対象となる案内オブジェクトは、上記矢印以外の情報とすることも可能である。例えば、案内オブジェクトとして乗員に対して警告対象となる対象物(他車両、歩行者、案内標識)に対する警告、路面に表示する警告(追突注意、制限速度等)、車両が走行する車線の区画線、現在車速、シフト位置、エネルギ残量、広告画像、施設情報、案内標識、地図画像、交通情報、ニュース、天気予報、時刻、接続されたスマートフォンの画面等を表示することも可能である。
先ず、走行支援処理プログラムでは、ステップ(以下、Sと略記する)1においてCPU41は、車両の現在位置を現在位置検出部11の検出結果や地図情報に基づいて特定する。尚、車両の現在位置を特定する際には、車両の現在位置を地図情報にマッチングさせるマップマッチング処理についても行う。その後、ナビゲーション装置1で設定されている案内経路を読み出し、特定された車両の現在位置から案内経路に沿った次の案内分岐点までの距離を算出する。尚、案内分岐点とは、ナビゲーション装置1に設定されている案内経路に従ってナビゲーション装置1が走行の案内を行う際に、右左折指示等の案内を行う対象となる分岐点(交差点)である。
次に、S2においてCPU41は、前記S1で算出された次の案内分岐点までの距離が、所定の案内開始距離以下か否かを判定する。尚、案内開始距離は車両が走行する道路の道路種別によって決定され、例えば高速道路は300mとする。一方、一般道は高速道路よりも短い150m、或いは案内分岐点の手前側150m以内に他の分岐点がある場合には、案内分岐点から該他の分岐点までの距離とする。
そして、前記S1で算出された次の案内分岐点までの距離が案内開始距離以下であると判定された場合(S2:YES)には、S3へと移行する。それに対して、前記S1で算出された次の案内分岐点までの距離が案内開始距離以下でないと判定された場合(S2:NO)には、S1へと戻る。
S3においてCPU41は、案内オブジェクトによって案内対象とする地点、即ち案内オブジェクトを重畳(配置)させるべき地点(以下、案内点という)の座標を取得する。尚、第1実施形態では案内オブジェクトを用いて案内分岐点の右左折案内を行うので、案内点としては案内分岐点が該当し、従って案内点の座標は案内分岐点の座標Xに相当する。尚、案内分岐点の座標Xはナビゲーション装置1が有する地図情報から特定することとするが、フロントカメラ19で撮像した画像に対して画像認識処理を行うことにより特定しても良い。その場合には、例えば高速道路では図5や図7に示すように分岐にあるゼブラ帯の手前側頂点を案内分岐点の座標Xとする。
次に、S4においてCPU41は、後述の案内オブジェクト表示位置決定処理(図4)を行う。案内オブジェクト表示位置決定処理は、車両の現在位置や前記S3で取得された案内点の座標に基づいて、液晶ディスプレイ15に対して表示する案内オブジェクトの形状及び案内オブジェクトを表示する位置(範囲)を具体的に決定する処理である。尚、前記S4で決定される案内オブジェクトの形状及び案内オブジェクトを表示する位置は、例えば風景内の車両から所定距離離れた道路上方や案内点に案内オブジェクトを重畳して乗員に視認させる為の条件となる。
続いて、S5においてCPU41は、前記S4で決定された形状の案内オブジェクトの画像を生成し、更に液晶ディスプレイ15に対して制御信号を送信し、液晶ディスプレイ15に対して生成された案内オブジェクトの画像を前記S4で決定された位置(範囲)に対して描画する。尚、液晶ディスプレイ15には予めフロントカメラ19で撮像した撮像画像、即ち現時点の車両周辺(特に車両前方)の風景(実景画像)が表示されている。その結果、車両の乗員に風景に重畳された案内オブジェクトを視認させることが可能となる。
図3は前記S5において液晶ディスプレイ15に表示される走行案内画面51の一例を示した図である。図3に示すように液晶ディスプレイ15には、フロントカメラ19により撮像された現時点の車両前方の風景52が表示される。そして、車両前方の風景52に重畳して案内オブジェクトの画像53が表示される。案内オブジェクトの画像53は、複数の矢印形状のオブジェクトの画像を含み、複数のオブジェクトの画像を車両が現在走行する道路の上方に対して車両の今後の進路に沿って所定間隔で位置するように表示する。各矢印の向きは車両の案内分岐点の退出方向を示す。また、後述のように案内オブジェクトの画像53は、車両が案内分岐点から離れた状態では車両との相対位置が固定された態様(以下、第1の態様という)で表示され、車両が案内分岐点にある程度まで近づくと、風景52内にある案内分岐点との相対位置が固定された態様(以下、第2の態様という)に切り替えて表示される。特に第2の態様では案内オブジェクトの画像53の一部が案内分岐点に重畳した状態で固定される。従って、走行案内画面51を車両の乗員が視認した場合に、車両の進路や、右左折対象となる案内分岐点の位置や、案内交差点における退出方向を正確に把握できる。
また、案内オブジェクトとして上述した車両の案内分岐点の退出方向を示す矢印以外に、図3に示すように案内分岐点の退出方向を示す案内標識の画像54についても風景に重畳して表示するようにしても良い。案内標識の画像54には、案内分岐点の退出方向を示す矢印と退出方向に対応した方面の名称が含まれる。また、案内標識の画像54を重畳する位置は、例えば車両から案内分岐点までの距離が1km以下かつ300m以上の状態では、案内分岐点の300m手前の路側帯の上方に視認できる位置とする。そして、車両から案内分岐点までの距離が300m未満の状態では、車両の現在位置から10m前方の路側帯の上方に視認できる位置とする。
更に、案内オブジェクトとして案内交差点までの距離を示す画像についても風景に重畳して表示するようにしても良い。案内交差点までの距離を示す画像を重畳する位置は、例えば車両の前方直近とし、車両から案内分岐点までの距離が所定距離区間内(例えば300mから150m)にある間において表示する。
その後、S6においてCPU41は、前記S1と同様に車両の現在位置から案内経路に沿った次の案内分岐点までの距離を算出し、算出された次の案内分岐点までの距離が、所定の案内終了距離以下か否かを判定する。尚、案内終了距離は車両が走行する道路の道路種別によって決定され、例えば高速道路は30m、一般道は高速道路よりも短い10mとする。
そして、次の案内分岐点までの距離が案内終了距離以下であると判定された場合(S6:YES)には、S7へと移行する。それに対して、次の案内分岐点までの距離が案内終了距離以下でないと判定された場合(S6:NO)にはS4へと戻り、案内オブジェクトの表示を継続して行う。
続いて、S7においてCPU41は、液晶ディスプレイ15に対して制御信号を送信し、液晶ディスプレイ15に対して表示されている案内オブジェクトの画像の透過率を案内分岐点までの距離に応じで段階的に上昇させる。具体的には、車両が案内分岐点に到達するタイミングで透過率が100%となるように透過率を上昇させる。尚、案内オブジェクトの画像の背後に隠れている風景についても車両の乗員が把握できるように、案内オブジェクトの画像は表示開始時点において透過率が0%ではなく例えば20%に設定されている。従って、案内オブジェクトの画像は、車両から案内分岐点までの距離が案内終了距離以下となるまでは透過率が20%で表示され、その後は案内分岐点に近づくにつれて20%→30%→40%→・・・と段階的に透過率が上昇し、最終的に車両が案内分岐点に到達するタイミングで透過率が100%となる。
その後、S8においてCPU41は、車両が案内分岐点を通過したか否かを判定する。例えば現在位置検出部11で検出された車両の現在位置と地図情報に基づいて判定される。
そして、車両が案内分岐点を通過したと判定された場合(S8:YES)には、液晶ディスプレイ15に対して制御信号を送信し、液晶ディスプレイ15に表示されていた案内オブジェクトを非表示とする(S9)。尚、フロントカメラ19で撮像した撮像画像、即ち現時点の車両周辺(特に車両前方)の風景(実景画像)については継続して表示される。但し、風景の画像についても非表示とし、液晶ディスプレイ15の表示画面を地図画像の表示などに切り替えても良い。
一方、車両が案内分岐点を通過していないと判定された場合(S8:NO)にはS4へと戻り、案内オブジェクトの表示を継続して行う。
次に、前記S4において実行される案内オブジェクト表示位置決定処理のサブ処理について図4に基づき説明する。図4は案内オブジェクト表示位置決定処理のサブ処理プログラムのフローチャートである。
先ず、S11においてCPU41は、車両の現在位置を現在位置検出部11の検出結果や地図情報に基づいて特定する。尚、車両の現在位置を特定する際には、車両の現在位置を地図情報にマッチングさせるマップマッチング処理についても行う。その後、特定された車両の現在位置から前記3で取得された案内点(即ち案内分岐点)の座標までの距離を算出する。
次に、S12においてCPU41は、前記S11で算出された案内点の座標までの距離が、所定の閾値未満か否かを判定する。尚、案内点の座標までの距離が閾値となるタイミングは、後述のS13のように車両に対する相対位置が固定されて液晶ディスプレイ15に表示(第1の態様で表示)された案内オブジェクトの画像の少なくとも一部が案内点に対して重畳するタイミング、即ち案内分岐点に対して案内オブジェクトの少なくとも一部が重畳して車両の乗員に視認されるタイミングである。詳細については後述する。
そして、前記S11で算出された案内点までの距離が閾値未満であると判定された場合(S12:YES)には、S14へと移行する。それに対して、前記S11で算出された次の案内点までの距離が閾値以上であると判定された場合(S12:NO)には、S13へと移行する。
S13においてCPU41は、“案内オブジェクトを風景に対して重畳する位置”を、乗員に車両との相対位置が固定された状態で案内オブジェクトが重畳して視認される位置(第1の態様で表示する為の位置)に設定する。具体的には車両の現在位置に対して所定距離前方(例えば10m前方)の位置を案内オブジェクトの重畳(配置)位置とする。
一方、S14においてCPU41は、“案内オブジェクトを風景に対して重畳する位置”を、乗員に案内点(即ち案内分岐点)との相対位置が固定された状態で案内オブジェクトが重畳して視認される位置(第2の態様で表示する為の位置)に設定する。具体的には案内点(その周辺も含む)に対して案内オブジェクトの少なくとも一部が重畳して視認される位置とする。
次に、S15においてCPU41は、車両の現在位置周辺(特に車両進行方向の前方)に対応した3次元空間を生成する。尚、3次元空間には、道路以外に、建築物、道路標識などについてもモデリングしても良いし、道路のみをモデリングしても良い。或いは道路についてもモデリングしない地面のみがある単なる空白の3次元空間としても良い。また、3次元空間は予め3次元地図情報として地図情報DB31に格納しておき、前記S15では地図情報DB31から該当する自車位置周辺の3次元地図情報を読み出しても良い。また、フロントカメラ19で撮像した画像に基づいて3次元空間を生成しても良い。例えばフロントカメラ19で撮像した撮像画像に対して点群マッチングを行うことによって、道路や道路周辺にある構造物を検出し、3次元空間を生成することが可能である。
また、前記S15でCPU41は、現在位置検出部11で検出されたパラメータに基づいて、生成された3次元空間における自車両の現在位置及び方位についても特定する。特に、車両に設置されたフロントカメラ19の位置を自車両の現在位置とし、フロントカメラ19の光軸方向を自車両の方位とする。尚、フロントカメラ19の位置は車両の乗員の位置、フロントカメラ19の光軸方向は車両の乗員の視線方向にも相当する。
続いて、S16においてCPU41は、液晶ディスプレイ15に表示する対象となる案内オブジェクトを生成する。第1実施形態では、案内オブジェクトは車両の進行方向前方にある案内分岐点の退出方向を示す矢印とし、特に図5〜図7に示すように2等辺三角形状を有する3つの矢印61〜63を生成する。尚、案内経路が進行方向前方にある案内交差点で右折する経路である場合には右方向を示す矢印となる。案内経路が進行方向前方にある案内交差点で左折する経路である場合には左方向を示す矢印となる。また、案内オブジェクトは2次元ポリゴンとし、基本的に厚みは存在しないこととする。但し、厚みを持たせた3次元ポリゴンとしても良い。また、前記S16で生成される案内オブジェクトの形状は適宜変更可能であり、案内分岐点における退出方向を示すことができる形状であれば矢印以外の形状であっても良い。また、3つの矢印である必要もなく、1のみの矢印であっても良い。
続いて、S17においてCPU41は、前記S16で生成された案内オブジェクトを、前記S15で生成された3次元空間に対して配置する。尚、3次元空間に対して案内オブジェクトを配置する位置は、前記S13又はS14において設定された“風景に対して案内オブジェクトを重畳する位置”に基づいて決定される。
例えばS13において“案内オブジェクトを風景に対して重畳する位置”を、車両の現在位置に対して所定距離前方(例えば10m前方)の位置に設定している場合には、図5のように3次元空間における車両64が現在走行する道路の上方で且つ車両64の現在位置に対して所定距離前方の位置に案内オブジェクトである3つの矢印61〜63を所定間隔で配置する。更に、3つの矢印61〜63は車両の今後の進路65に沿った位置に配置される。ここで、図5は一例として高速道路の案内分岐点60を左方向に退出する案内経路が設定されている場合における案内オブジェクトの配置例を示した図である。具体的には図5に示すように車両の進路65に沿って等間隔に3つの矢印61〜63が配列される。特に、3つの矢印61〜63の内、車両の現在位置から最も車両側にある矢印61までの距離が固定の所定距離(例えば10m)となる位置に配置する。ここで、各矢印61〜63は、2等辺三角形状を有し、進行方向に対して交差する方向と平行となる(即ち車両側に正面を向ける)ように夫々配置される。また、矢印61〜63は、底辺に対する頂角の方向によって退出方向を示しており、案内分岐点60を左方向に退出する場合には、図5に示すように左方向に頂角を向けた2等辺三角形状となる。また、3つの矢印61〜63の配置間隔は適宜変更可能であるが例えば10m間隔とする。また、3つの矢印61〜63は車両の進路65に対して平行に配列されるのではなく、案内分岐点60に近い位置に視認される矢印程、車両の進路65に対して案内分岐点60の進行方向側(図5では左側)に位置するように徐々に傾斜して配列される。特に車両64から視認した際に、複数の矢印61〜63が互いに所定割合(例えば20%)以上重複しないことについても条件として配置する。但し、進行方向に対して平行に配列しても良い。一方、垂直方向については図6に示すように矢印61〜63の下端が路面から所定距離(例えば1m)離れた位置に配置する。
一方、S14において“案内オブジェクトを風景に対して重畳する位置”を、案内点(即ち案内分岐点)に対して案内オブジェクトの少なくとも一部が重畳して視認される位置に設定している場合には、図7のように3次元空間における車両64が現在走行する道路の上方で且つ案内分岐点の位置に案内オブジェクトである3つの矢印61〜63を所定間隔で配置する。更に、3つの矢印61〜63は車両の今後の進路65に沿った位置に配置される。ここで、図7は一例として高速道路の案内分岐点60を左方向に退出する案内経路が設定されている場合における案内オブジェクトの配置例を示した図である。具体的には図7に示すように車両の進路65に沿って等間隔に3つの矢印61〜63が配列される。特に、3つの矢印61〜63像の内、最も進行方向側にある矢印63の左側端部(右方向の矢印である場合には右側端部)が案内分岐点の座標Xと一致(水平方向に関して一致)する位置とする。尚、案内分岐点の座標Xはナビゲーション装置1が有する地図情報から特定することとするが、フロントカメラ19で撮像した画像に対して画像認識処理を行うことにより特定しても良い。その場合には、分岐にあるゼブラ帯の頂点を案内分岐点の座標Xとする。また、3つの矢印61〜63の配置間隔は適宜変更可能であるが例えば10m間隔とする。また、3つの矢印61〜63は車両の進路65に対して平行に配列されるのではなく、案内分岐点60に近い位置に視認される矢印程、車両の進路65に対して案内分岐点60の進行方向側(図7では左側)に位置するように徐々に傾斜して配列される。特に車両64から視認した際に、複数の矢印61〜63が互いに所定割合(例えば20%)以上重複しないことについても条件として配置する。但し、進行方向に対して平行に配列しても良い。一方、垂直方向については図6に示すように矢印61〜63の下端が路面から所定距離(例えば1m)離れた位置に配置する。
次に、S18においてCPU41は、先ず案内オブジェクトが配置された3次元空間を、前記S15で特定された車両の位置(視点に相当する)から車両の進行方向に視認した画像(以下、視認画像という)を取得する。例えば、図8は図7に示す態様で車両並びに案内オブジェクトが配置された場合に取得される視認画像66を示した図である。特に車両の位置はフロントカメラ19の位置とするので、取得された視認画像66は3次元空間に配置された案内オブジェクトをフロントカメラ19の視点から車両の進行方向に視認した際に視認できる像となるが、車両の乗員の視界にも相当する。
その後、CPU41は、視認画像66に含まれる案内オブジェクトの形状及び案内オブジェクトの位置を、液晶ディスプレイ15により表示対象とする案内オブジェクトの形状及び案内オブジェクトの位置として記憶する。ここで、前記S18で記憶される案内オブジェクトの形状は、3次元空間に配置された案内オブジェクトを車両(より正確にはフロントカメラ19)の視点から視認した際に視認できる案内オブジェクトの形状である。また、前記S18で記憶される案内オブジェクトの位置は、3次元空間に配置された案内オブジェクトを車両(より正確にはフロントカメラ19)の視点から視認した際に視認できる案内オブジェクトの位置である。前述のように3次元空間における案内オブジェクトは車両の進路に沿って車両の現在走行する道路上に配置されるので、前記S18で記憶される案内オブジェクトの形状や位置は車両が現在走行する道路の道路形状や車両の今後の進路に基づいた形状や位置となる。また、視認画像66に含まれる案内オブジェクトは、複数の矢印61〜63が互いに所定割合(例えば20%)以上重複しない画像となる。
その後、S19においてCPU41は、前記S18で記憶された案内オブジェクトの形状及び案内オブジェクトの位置に基づいて、液晶ディスプレイ15において案内オブジェクトを表示する範囲を決定する。尚、案内オブジェクトの表示範囲は、前記S18で記憶される形状を有する案内オブジェクトが、3次元空間において配置された案内オブジェクトと同位置に表示される範囲となる。その後、S5へと移行し、前述したように液晶ディスプレイ15に対して制御信号を送信し、液晶ディスプレイ15に対して前記S18で記憶された形状の案内オブジェクトの画像を、前記S19で決定された表示範囲に表示する。
その結果、車両の走行に伴って液晶ディスプレイ15に表示される走行案内画面51は図9のような画面となる。先ず、車両から案内分岐点までの距離が案内開始距離(例えば300m)以下となった時点で、案内オブジェクトの画像53が第1の態様によりフロントカメラ19で撮像した車両の進行方向前方の風景52に重畳して表示される。尚、最初に案内オブジェクトの画像53が重畳する位置は、車両の現在位置に対して相対的に固定された位置であり、例えば車両の10m前方となる。第1の態様では乗員には車両との相対位置が固定された状態で重畳して案内オブジェクトの画像53が視認されることとなる。その後しばらくは案内オブジェクトの画像53は車両の現在位置に対して相対的に固定された状態で重畳して表示される。車両に対する相対位置が固定されるので、表示される案内オブジェクトの画像53の表示サイズも固定となる。
その後、車両が案内分岐点に接近し、車両の現在位置に対して相対的に固定された位置に重畳表示された案内オブジェクトの画像53が、案内分岐点に重畳(到達)する(即ちS12で初めてYESと判定される)と、第1の態様から第2の態様へと切り替わり、その後は案内オブジェクトの画像53は風景52内の案内分岐点との相対位置が固定される。即ち、案内オブジェクトの画像53は案内分岐点に重畳する位置に固定して表示される。尚、第1の態様から第2の態様へと切り替わりは表示対象となる案内オブジェクトを変更するものではなく、表示対象となる案内オブジェクトは切り替わる前後において同じである。即ち、表示対象となる案内オブジェクトは同じで、表示される態様(乗員から視認される態様)のみが第1の態様から第2の態様へと切り替わる。第2の態様では乗員に案内分岐点との相対位置が固定された状態で案内オブジェクトの画像53が重畳して視認されることとなる。その後、車両が案内分岐点に接近するのに従って、案内オブジェクトの画像53は徐々に大きくなる。また、車両から案内分岐点までの距離が案内終了距離(例えば30m)以下となった時点で、徐々に案内オブジェクトの画像53の透過率が上がり(S7)、車両が案内分岐点を通過したタイミングで案内オブジェクトの画像53は液晶ディスプレイ15から消失する(S9)。尚、案内オブジェクトの画像53と風景52内の案内分岐点との相対位置が固定された後は、そのことを乗員に示すために案内オブジェクトの画像53の色を変えたり、案内オブジェクトの画像53の形状を変えるようにしても良い。
その結果、車両の乗員は走行案内画面51を視認した場合に、車両が案内分岐点に対して遠方にある場合においても案内分岐点の退出方向を示す案内オブジェクトの画像53を明確に視認できるので、少なくとも案内分岐点の退出方向については正確に把握できる。その後、車両が案内分岐点に対してある程度接近すると、案内オブジェクトの画像53は案内分岐点に重畳することとなるので、右左折対象となる案内分岐点の位置についても明確となり、案内分岐点の位置及び案内分岐点における退出方向を正確に把握できる。
以上詳細に説明した通り、第1実施形態に係るナビゲーション装置1、案内オブジェクトの画像の描画方法及びナビゲーション装置1で実行されるコンピュータプログラムによれば、車両の進行方向前方に案内対象となる案内対象地点がある場合に、案内対象地点に対する案内を行う為の案内オブジェクトを表示する(S5)一方で、案内オブジェクトを表示する際には、車両から案内対象地点までの距離が閾値以上である場合には、乗員に車両との相対位置が固定された状態で重畳して視認される態様で案内オブジェクトを表示する。また、その後に車両から案内対象地点までの距離が閾値未満となった場合には、乗員に案内対象地点との相対位置が固定された状態で重畳して視認される態様で案内オブジェクトを表示する(S12〜S20)ので、車両から案内対象地点までの距離が離れた状態においても案内オブジェクトの内容を明確に乗員に認識させることが可能となる。その結果、案内に対して乗員の運転操作が遅れることを防止して、適切な運転操作を行わせることが可能となる。一方で、車両から案内対象地点までの距離が近づいた状態では案内対象地点との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内対象地点までの距離が近づいた状態では案内対象地点と案内オブジェクトを対応させて視認させる効果的な案内が可能となる。
[第2実施形態]
次に、第2実施形態に係る重畳画像表示装置について図10及び図11に基づいて説明する。尚、以下の説明において上記図1乃至図9の第1実施形態に係る重畳画像表示装置の構成と同一符号は、前記第1実施形態に係る重畳画像表示装置等の構成と同一あるいは相当部分を示すものである。
この第2実施形態に係る重畳画像表示装置の概略構成は、第1実施形態に係る重畳画像表示装置とほぼ同じ構成である。また、各種制御処理も第1実施形態に係る重畳画像表示装置とほぼ同じ制御処理である。
ただし、第1実施形態に係る重畳画像表示装置が、ナビゲーション装置1の液晶ディスプレイ15に対してフロントカメラ19で撮像した撮像画像を表示し、更に液晶ディスプレイ15に対して案内オブジェクトを表示することによって、車両周辺の風景に案内オブジェクトを重畳させて表示するのに対して、第2実施形態に係る重畳画像表示装置は車両周辺の風景に重畳する画像を表示する手段としてヘッドアップディスプレイシステムを用いる点で異なる。
以下に第2実施形態に係る重畳画像表示装置の概略構成について図10を用いて説明する。図10は第2実施形態に係る重畳画像表示装置101の概略構成図である。
図10に示すように重畳画像表示装置101は、車両102に搭載されたナビゲーション装置103と、同じく車両102に搭載されるとともにナビゲーション装置103と接続されたフロントディスプレイ104とを基本的に有する。尚、フロントディスプレイ104は車両102のフロントガラス105とともにヘッドアップディスプレイとして機能し、車両102の乗員106に対して様々な情報の提供を行う情報提供手段となる。
ここで、フロントディスプレイ104は、車両102のダッシュボード107内部に設置され、前面に設けられた画像表示面に対して画像を表示する機能を有する液晶ディスプレイである。バックライトとしては例えばCCFL(冷陰極管)や白色LEDが用いられる。尚、フロントディスプレイ104としては、液晶ディスプレイ以外に、有機ELディスプレイや液晶プロジェクタとスクリーンの組み合わせを用いても良い。
そして、フロントディスプレイ104は車両102のフロントガラス105とともにヘッドアップディスプレイとして機能し、フロントディスプレイ104から出力される画像を、運転席の前方のフロントガラス105に反射させて車両102の乗員106に視認させるように構成されている。尚、フロントディスプレイ104には、必要に応じて案内オブジェクトを表示する。尚、以下に説明する第2実施形態では案内オブジェクトは、第1実施形態と同様に車両の今後の進路とともに車両の進行方向前方にある案内分岐点における案内を行う為の案内情報とし、より具体的には車両が現在走行する道路の上方で車両の今後の進路に沿った位置に視認され、案内分岐点の退出方向を示す矢印等とする。
また、フロントガラス105を反射して乗員106がフロントディスプレイ104に表示された映像を視認した場合に、乗員106にはフロントガラス105の位置ではなく、フロントガラス105の先の遠方の位置にフロントディスプレイ104に表示された映像が虚像110として視認されるように構成される。また、虚像110は車両前方の周辺環境(風景、実景)に重畳して表示されることとなり、例えば車両前方に位置する任意の対象物(路面、建築物、警告対象となる物等)に重畳させて表示させることも可能である。
ここで、虚像110を生成する位置、より具体的には乗員106から虚像110までの距離(以下、結像距離という)Lについては、フロントディスプレイ104の位置によって決定される。例えば、フロントディスプレイ104において映像の表示された位置からフロントガラス105までの光路に沿った距離(光路長)によって結像距離Lが決定される。例えば結像距離Lが1.5mとなるように光路長が設定されている。
また、車両のフロントバンパの上方やルームミラーの裏側等にはフロントカメラ111が設置される。フロントカメラ111は、例えばCCD等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を車両の進行方向前方に向けて設置される。そして、フロントカメラ111により撮像された撮像画像に対して画像処理が行われることによって、フロントガラス越しに乗員106に視認される前方環境(即ち虚像110が重畳される環境)の状況等が検出される。尚、フロントカメラ111の代わりにミリ波レーダ等のセンサを用いても良い。
また、車両のインストルメントパネルの上面には車内カメラ112が設置される。車内カメラ112は、例えばCCD等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を運転席に向けて設置される。車内において一般的に乗員の顔が位置すると予想される範囲を検出範囲(車内カメラ112の撮像範囲)として設定し、運転席に座った乗員106の顔を撮像する。そして、車内カメラ112により撮像された撮像画像に対して画像処理が行われることによって、乗員106の目の位置(視線開始点)や視線方向を検出する。
そして、第2実施形態に係る重畳画像表示装置は、前述した走行支援処理プログラム(図2)のS5において、図11に示すようにフロントディスプレイ104に対して案内オブジェクトの画像120、121を表示する。その結果、図11に示すようにフロントディスプレイ104に表示された案内オブジェクトの画像120、121を車両の乗員が視認することによって、フロントガラス105越しの風景に重畳して案内オブジェクトの画像120の虚像122が視認される。同じくフロントガラス105越しの風景に重畳して案内オブジェクトの画像121の虚像123が視認される。
それによって、第1実施形態に係る重畳画像表示装置と同様に、車両の進路や、右左折対象となる案内分岐点の位置や、案分岐点における退出方向を正確に把握できる。尚、第2実施形態に係る重畳画像表示装置では、前記S4の案内オブジェクト表示位置決定処理において、フロントディスプレイ104に対して表示する案内オブジェクトの形状及び案内オブジェクトを表示する位置(範囲)を決定する。また、前記S15で3次元空間に特定する自車両の現在位置及び方位は、車両の乗員の位置及び車内カメラ112を用いて検出した乗員の視線方向とするのが望ましい。
尚、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
例えば車両周辺の風景に重畳する画像を表示する手段として、第1実施形態では実景画像の表示された液晶ディスプレイ15を用い、第2実施形態ではヘッドアップディスプレイシステムを用いているが、フロントガラスに対して画像を表示するウインドウシールドディスプレイ(WSD)を用いても良い。WSDでは、フロントガラスをスクリーンとしてプロジェクタから映像を表示しても良いし、フロントガラスを透過液晶ディスプレイとしても良い。WSDによってフロントガラスに対して表示された画像は、車両周辺の風景に重畳する画像となる。
また、第1及び第2実施形態では、案内オブジェクトは車両の今後の進路とともに車両の進行方向前方にある案内分岐点における車両の進行方向を示す複数の矢印の画像としているが、他の画像としても良い。例えば、図12に示すように案内オブジェクトを一の矢印の画像130としても良い。矢印の画像130は車両の進行方向前方にある案内分岐点における車両の進行方向を示す矢印とし、上述した第1及び第2実施形態と同様に車両が案内分岐点に接近するのに従って第1の態様から第2の態様へと切り替えて表示することが可能である。また、案内オブジェクトは車両の乗員への警告対象となる対象物(例えば他車両、歩行者、案内標識)に対する警告画像、車両が走行する車線の区画線の画像などでも良い。
また、第1及び第2実施形態では、案内オブジェクトを用いて案内分岐点の案内を行っているが、案内オブジェクトにより案内対象とする地点は案内分岐点に限られることなく、例えば車線減少地点や合流区間等の車両の乗員に注意を促す他の地点としても良い。また、案内対象地点の種類によって表示する案内オブジェクトの内容を変更するのが望ましい。
また、第1及び第2実施形態では、案内オブジェクトを用いた走行支援は、高速道路の走行時と一般道の走行時の両方で行っているが、高速道路の走行時のみ或いは一般道の走行時のみで行うようにしても良い。
また、第1実施形態では、ナビゲーション装置1の液晶ディスプレイ15に対してフロントカメラ19で撮像した実景画像や案内オブジェクトを表示しているが、実景画像や案内オブジェクトを表示するディスプレイとしては車両内に配置されたディスプレイであれば、液晶ディスプレイ15以外のディスプレイであっても良い。
また、第2実施形態では、フロントディスプレイ104によって車両102のフロントガラス105の前方に虚像を生成する構成としているが、フロントガラス105以外のウィンドウの前方に虚像を生成する構成としても良い。また、フロントディスプレイ104により映像を反射させる対象はフロントガラス105自身ではなくフロントガラス105の周辺に設置されたバイザー(コンバイナー)であっても良い。
また、第1及び第2実施形態では、走行支援処理プログラム(図2)の処理をナビゲーション装置1のナビゲーションECU13が実行する構成としているが、実行主体は適宜変更することが可能である。例えば、液晶ディスプレイ15の制御部、車両制御ECU、その他の車載器が実行する構成としても良い。
また、本発明に係る重畳画像表示装置を具体化した実施例について上記に説明したが、重畳画像表示装置は以下の構成を有することも可能であり、その場合には以下の効果を奏する。
例えば、第1の構成は以下のとおりである。
車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクト(61〜63)を、前記車両周辺の風景に重畳して視認させる重畳画像表示装置(1)であって、車両の進行方向前方に案内対象となる案内対象地点(60)がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段(41)を有し、前記オブジェクト表示手段は、車両から前記案内対象地点までの距離が閾値以上である場合には、乗員に車両(64)との相対位置が固定された状態で重畳して視認される第1の態様で前記案内オブジェクトを表示し、車両から前記案内対象地点までの距離が閾値未満である場合には、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様で前記案内オブジェクトを表示する。
上記構成を有する重畳画像表示装置によれば、車両から案内対象地点までの距離が離れた状態では車両との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内対象地点までの距離が離れた状態においても案内オブジェクトの内容を明確に乗員に認識させることが可能となる。その結果、案内に対して乗員の運転操作が遅れることを防止して、適切な運転操作を行わせることが可能となる。一方で、車両から案内対象地点までの距離が近づいた状態では案内対象地点との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内対象地点までの距離が近づいた状態では案内対象地点と案内オブジェクトを対応させて視認させる効果的な案内が可能となる。
また、第2の構成は以下のとおりである。
車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクト(61〜63)を、前記車両周辺の風景に重畳して視認させる重畳画像表示装置(1)であって、車両の進行方向前方に案内対象となる案内対象地点(60)がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段(41)を有し、前記オブジェクト表示手段は、一の前記案内オブジェクトを、乗員に車両(64)との相対位置が固定された状態で重畳して視認される第1の態様と、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様と、の間で切り替えて表示する。
上記構成を有する重畳画像表示装置によれば、一の案内オブジェクトについて車両との相対位置が固定された状態と案内対象地点との相対位置が固定された状態との間で切り替えて乗員に視認させるので、同じ案内オブジェクトであっても状況に応じて乗員からの視認態様を変化させることによって、状況に応じた適切な視認態様で乗員に視認させることが可能となる。特に車両との相対位置が固定された状態では車両から案内対象地点までの距離に関わらず案内オブジェクトの内容を明確に乗員に認識させることが可能となる。一方、案内対象地点との相対位置が固定された状態では、案内対象地点と案内オブジェクトを対応させて視認させる効果的な案内が可能となる。
また、第3の構成は以下のとおりである。
前記オブジェクト表示手段(41)は、車両(64)から前記案内対象地点(60)までの距離が閾値となるタイミングで前記第1の態様から前記第2の態様へと切り替えて表示する。
上記構成を有する重畳画像表示装置によれば、車両から案内対象地点までの距離が離れた状態では車両との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内対象地点までの距離が離れた状態においても案内オブジェクトの内容を明確に乗員に認識させることが可能となる。その結果、案内に対して乗員の運転操作が遅れることを防止して、適切な運転操作を行わせることが可能となる。一方で、車両から案内対象地点までの距離が近づいた状態では案内対象地点との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内対象地点までの距離が近づいた状態では案内対象地点と案内オブジェクトを対応させて視認させる効果的な案内が可能となる。
また、第4の構成は以下のとおりである。
車両から前記案内対象地点(60)までの距離が前記閾値となるタイミングは、前記案内対象地点に対して前記案内オブジェクト(61〜63)の少なくとも一部が重畳して視認されるタイミングである。
上記構成を有する重畳画像表示装置によれば、案内オブジェクトの表示態様が第1の態様から第2の態様へと切り替わる際に、案内オブジェクトの表示位置が大きく変わることなく、ユーザに違和感を与えることが無い。
また、第5の構成は以下のとおりである。
前記オブジェクト表示手段(41)は、前記第1の態様で前記案内オブジェクト(61〜63)を表示する場合には、前記案内オブジェクトの表示サイズを固定し、前記第2の態様で前記案内オブジェクトを表示する場合には、車両(64)から前記案内対象地点(60)までの距離に応じて前記案内オブジェクトの表示サイズを段階的に拡大して表示する。
上記構成を有する重畳画像表示装置によれば、案内オブジェクトの表示態様が第1の態様である場合には、案内オブジェクトの表示サイズを固定することによって、案内オブジェクトが案内対象地点と相対的な関係にないことを明らかにすることが可能である。一方で、案内オブジェクトの表示態様が第2の態様である場合には、案内オブジェクトの表示サイズを車両位置の変化に伴って変更することによって、案内オブジェクトが案内対象地点と相対的な関係にあることを明らかにすることが可能である。
また、第6の構成は以下のとおりである。
前記オブジェクト表示手段(41)は、前記第2の態様で前記案内オブジェクト(61〜63)を表示する場合には、車両(64)から前記案内対象地点(60)までの距離に応じて前記案内オブジェクトの透過率を段階的に上げて表示する。
上記構成を有する重畳画像表示装置によれば、車両が案内対象地点、即ち案内対象地点に対して相対位置の固定された案内オブジェクトに接近するのに伴って案内オブジェクトの透過率を段階的に上げるので、表示サイズの拡大される案内オブジェクトによって車両の乗員の視認性を低下させることを防止する。また、車両が案内オブジェクトを通過するように視認させることが可能である。
また、第7の構成は以下のとおりである。
前記案内対象地点(60)は、案内対象となる案内分岐点であって、前記案内オブジェクト(61〜63)は、前記案内分岐点における車両の退出方向を示す矢印である。
上記構成を有する重畳画像表示装置によれば、車両から案内分岐点までの距離が離れた状態では車両との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内分岐点までの距離が離れた状態であっても少なくとも案内分岐点における車両の退出方向は事前に乗員に認識させることが可能となる。一方で、車両から案内分岐点までの距離が近づいた状態では案内分岐点との相対位置が固定された状態で乗員に案内オブジェクトが視認されるので、車両から案内分岐点までの距離が近づいた状態では案内分岐点の位置や案内分岐点の退出方向を明確に案内することが可能となる。
また、第8の構成は以下のとおりである。
前記案内オブジェクト(61〜63)は、車両(64)が現在走行する道路の道路形状と車両の今後の進路に基づいて生成され、前記オブジェクト表示手段(41)は、車両が現在走行する道路の上方で車両の今後の進路に沿った位置に重畳して視認される態様で前記案内オブジェクトを表示する。
上記構成を有する重畳画像表示装置によれば、案内オブジェクトを乗員に視認させることによって、今後の車両の進路を視覚的にわかりやすく乗員に認識させることが可能となる。
また、第9の構成は以下のとおりである。
前記案内対象地点(60)は、案内対象となる案内分岐点であって、前記案内オブジェクト(61〜63)は、複数のオブジェクトを含み、前記オブジェクト表示手段(41)は、前記複数のオブジェクトを所定間隔で車両の今後の進路に沿った位置に重畳して視認される態様で表示するとともに、前記案内分岐点に近い位置に視認されるオブジェクト程、車両の今後の進路に対して前記案内分岐点の進行方向側に視認されるように表示する。
上記構成を有する重畳画像表示装置によれば、複数のオブジェクトの配列方向によって今後の車両の進路を視覚的にわかりやすく乗員に認識させることが可能となるとともに、特に案内対象となる案内分岐点が進行方向前方にある場合には、案内分岐点における車両の進行方向についても案内オブジェクトの配置によって事前に示唆することが可能となる。
また、第10の構成は以下のとおりである。
前記オブジェクト表示手段(41)は、前記複数のオブジェクトが互いに所定割合以上重複しない態様で表示する。
上記構成を有する重畳画像表示装置によれば、複数のオブジェクトを互いに大きく重複させないことによって、複数のオブジェクトの配列方向、即ち今後の車両の進路を視覚的にわかりやすく乗員に認識させることが可能となる。
1 ナビゲーション装置
15 液晶ディスプレイ
19 フロントカメラ
41 CPU
42 RAM
43 ROM
51 走行案内画面
52 風景
53、54 案内オブジェクトの画像
60 案内分岐点
61〜63 矢印(案内オブジェクトの一例)
64 車両

Claims (14)

  1. 車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクトを、前記車両周辺の風景に重畳して視認させる重畳画像表示装置であって、
    車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段を有し、
    前記オブジェクト表示手段は、
    車両から前記案内対象地点までの距離が閾値以上である場合には、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様で前記案内オブジェクトを表示し、
    車両から前記案内対象地点までの距離が閾値未満である場合には、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様で前記案内オブジェクトを表示する重畳画像表示装置。
  2. 車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクトを、前記車両周辺の風景に重畳して視認させる重畳画像表示装置であって、
    車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段を有し、
    前記オブジェクト表示手段は、一の前記案内オブジェクトを、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様と、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様と、の間で切り替えて表示する重畳画像表示装置。
  3. 前記オブジェクト表示手段は、車両から前記案内対象地点までの距離が閾値となるタイミングで前記第1の態様から前記第2の態様へと切り替えて表示する請求項2に記載の重畳画像表示装置。
  4. 車両から前記案内対象地点までの距離が前記閾値となるタイミングは、前記案内対象地点に対して前記案内オブジェクトの少なくとも一部が重畳して視認されるタイミングである請求項1又は請求項3に記載の重畳画像表示装置。
  5. 前記オブジェクト表示手段は、
    前記第1の態様で前記案内オブジェクトを表示する場合には、前記案内オブジェクトの表示サイズを固定し、
    前記第2の態様で前記案内オブジェクトを表示する場合には、車両から前記案内対象地点までの距離に応じて前記案内オブジェクトの表示サイズを段階的に拡大して表示する請求項1乃至請求項4のいずれかに記載の重畳画像表示装置。
  6. 前記オブジェクト表示手段は、
    前記第2の態様で前記案内オブジェクトを表示する場合には、車両から前記案内対象地点までの距離に応じて前記案内オブジェクトの透過率を段階的に上げて表示する請求項1乃至請求項5のいずれかに記載の重畳画像表示装置。
  7. 前記案内対象地点は、案内対象となる案内分岐点であって、
    前記案内オブジェクトは、前記案内分岐点における車両の退出方向を示す矢印である請求項1乃至請求項6のいずれかに記載の重畳画像表示装置。
  8. 前記案内オブジェクトは、車両が現在走行する道路の道路形状と車両の今後の進路に基づいて生成され、
    前記オブジェクト表示手段は、車両が現在走行する道路の上方で車両の今後の進路に沿った位置に重畳して視認される態様で前記案内オブジェクトを表示する請求項1乃至請求項6のいずれかに記載の重畳画像表示装置。
  9. 前記案内対象地点は、案内対象となる案内分岐点であって、
    前記案内オブジェクトは、複数のオブジェクトを含み、
    前記オブジェクト表示手段は、前記複数のオブジェクトを所定間隔で車両の今後の進路に沿った位置に重畳して視認される態様で表示するとともに、前記案内分岐点に近い位置に視認されるオブジェクト程、車両の今後の進路に対して前記案内分岐点の進行方向側に視認されるように表示する請求項8に記載の重畳画像表示装置。
  10. 前記オブジェクト表示手段は、前記複数のオブジェクトが互いに所定割合以上重複しない態様で表示する請求項9に記載の重畳画像表示装置。
  11. オブジェクト生成手段が、車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の案内オブジェクトの画像を生成するステップと、
    オブジェクト描画手段が、生成された前記案内オブジェクトの画像を画像表示装置に対して前記車両周辺の風景に重畳して視認させる位置に描画するステップと、を有し、
    前記オブジェクト描画手段は、
    車両から前記案内対象地点までの距離が閾値以上である場合には、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様で前記案内オブジェクトを描画し、
    車両から前記案内対象地点までの距離が閾値未満である場合には、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様で前記案内オブジェクトを描画する重畳画像描画方法。
  12. オブジェクト生成手段が、車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の案内オブジェクトの画像を生成するステップと、
    オブジェクト描画手段が、生成された前記案内オブジェクトの画像を画像表示装置に対して前記車両周辺の風景に重畳して視認させる位置に描画するステップと、を有し、
    前記オブジェクト描画手段は、
    一の前記案内オブジェクトを、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様と、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様と、の間で切り替えて描画する重畳画像描画方法。
  13. 車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクトを、前記車両周辺の風景に重畳して視認させる重畳画像表示装置を、
    車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段として機能させる為のコンピュータプログラムであって、
    前記オブジェクト表示手段は、
    車両から前記案内対象地点までの距離が閾値以上である場合には、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様で前記案内オブジェクトを表示し、
    車両から前記案内対象地点までの距離が閾値未満である場合には、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様で前記案内オブジェクトを表示するコンピュータプログラム。
  14. 車両に搭載され、前記車両の乗員へ情報を案内する案内オブジェクトを、前記車両周辺の風景に重畳して視認させる重畳画像表示装置を、
    車両の進行方向前方に案内対象となる案内対象地点がある場合に、前記案内対象地点に対する案内を行う為の前記案内オブジェクトを表示するオブジェクト表示手段として機能させる為のコンピュータプログラムであって、
    前記オブジェクト表示手段は、一の前記案内オブジェクトを、乗員に車両との相対位置が固定された状態で重畳して視認される第1の態様と、乗員に前記案内対象地点との相対位置が固定された状態で重畳して視認される第2の態様と、の間で切り替えて表示するコンピュータプログラム。
JP2020031592A 2019-09-02 2020-02-27 重畳画像表示装置、重畳画像描画方法及びコンピュータプログラム Active JP7476568B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019159411 2019-09-02
JP2019159411 2019-09-02

Publications (2)

Publication Number Publication Date
JP2021039085A true JP2021039085A (ja) 2021-03-11
JP7476568B2 JP7476568B2 (ja) 2024-05-01

Family

ID=

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220326039A1 (en) * 2021-04-08 2022-10-13 Toyota Jidosha Kabushiki Kaisha Method, information processing device, and non-transitory storage medium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220326039A1 (en) * 2021-04-08 2022-10-13 Toyota Jidosha Kabushiki Kaisha Method, information processing device, and non-transitory storage medium

Also Published As

Publication number Publication date
US20210063185A1 (en) 2021-03-04
US11493357B2 (en) 2022-11-08

Similar Documents

Publication Publication Date Title
JP6700623B2 (ja) 走行支援装置及びコンピュータプログラム
US11535155B2 (en) Superimposed-image display device and computer program
JP5346650B2 (ja) 情報表示装置
WO2019097755A1 (ja) 表示装置及びコンピュータプログラム
JP6946963B2 (ja) 重畳画像表示装置及びコンピュータプログラム
US11493357B2 (en) Superimposed image display device, superimposed image drawing method, and computer program
US20230135641A1 (en) Superimposed image display device
US11828613B2 (en) Superimposed-image display device
JP7476568B2 (ja) 重畳画像表示装置、重畳画像描画方法及びコンピュータプログラム
JP7400356B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP7302389B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2022077198A (ja) 重畳画像表示装置
JP2021081232A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2023008462A (ja) 重畳画像表示装置
JP2019087259A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2023064957A (ja) 重畳画像表示装置
JP2023044949A (ja) 重畳画像表示装置
JP2021038978A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2024049817A (ja) 重畳画像表示装置
JP2024018205A (ja) 重畳画像表示装置
JP2021076415A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2023038558A (ja) 重畳画像表示装置
JP2022110828A (ja) 重畳画像表示装置
JP2024033759A (ja) 重畳画像表示装置
JP2023131981A (ja) 重畳画像表示装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20210423

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230911

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231010

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231206

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240401