JPWO2018066711A1 - 走行支援装置及びコンピュータプログラム - Google Patents

走行支援装置及びコンピュータプログラム Download PDF

Info

Publication number
JPWO2018066711A1
JPWO2018066711A1 JP2018544000A JP2018544000A JPWO2018066711A1 JP WO2018066711 A1 JPWO2018066711 A1 JP WO2018066711A1 JP 2018544000 A JP2018544000 A JP 2018544000A JP 2018544000 A JP2018544000 A JP 2018544000A JP WO2018066711 A1 JPWO2018066711 A1 JP WO2018066711A1
Authority
JP
Japan
Prior art keywords
road
vehicle
visibility
driver
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018544000A
Other languages
English (en)
Other versions
JP6658905B2 (ja
Inventor
孝光 坂井
孝光 坂井
希美 神保
希美 神保
智明 廣田
智明 廣田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Publication of JPWO2018066711A1 publication Critical patent/JPWO2018066711A1/ja
Application granted granted Critical
Publication of JP6658905B2 publication Critical patent/JP6658905B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • B60W30/0956Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3697Output of additional, non-guidance related information, e.g. low fuel level
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804Creation or updating of map data
    • G01C21/3807Creation or updating of map data characterised by the type of data
    • G01C21/3815Road data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/2163Partitioning the feature space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/042Knowledge-based neural networks; Logical representations of neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models
    • G06N5/045Explanation of inference; Explainable artificial intelligence [XAI]; Interpretable artificial intelligence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08Detecting or categorising vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Evolutionary Computation (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Transportation (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Human Computer Interaction (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Image Analysis (AREA)

Abstract

接続道路に対する適切な走行支援を行うことを可能にした走行支援装置及びコンピュータプログラムを提供する。具体的には、車両の周辺環境を撮像した撮像画像を取得し、3次元で地図を表現した地図画像において撮像画像の撮像範囲と同一範囲を撮像画像の撮像方向と同一方向から示す地図画像である地図情報画像を取得し、撮像画像と地図情報画像に基づいて、車両が走行する道路と車両の周囲にある分岐点で接続する道路である接続道路に対する運転者の視認性を判定し、視認性の判定結果を出力するように構成する。

Description

本発明は、車両の走行支援を行う走行支援装置及びコンピュータプログラムに関する。
近年、例えば車両に対する走行支援の一つとして、移動体の周辺にある危険因子を判定し、判定結果に基づく案内や車両制御等が行われている。危険因子とは移動体が走行する際に注意するべき因子であり、特に危険因子の一つとして車両が走行する道路と車両の周囲にある分岐点で接続する道路(以下、接続道路という)が挙げられる。接続道路は、その道路上を移動する他車両、歩行者、自転車等が、今後に車両の走行する道路へと進入する虞のある道路となる。従って、運転者が接続道路の存在を把握することは、そのような他車両、歩行者、自転車等の進入に対して事前に注意を払う為に非常に重要である。
但し、接続道路であったとしても周囲に障害物が無く運転者から明確に視認できる接続道路については、仮に案内が行われなかったとしても接続道路の存在を運転者は明らかに把握することが可能であり、該接続道路を対象とした支援(例えば案内や車両制御等)を実施する必然性は薄い。一方で、周囲の障害物によって運転者から視認することが難しい接続道路については、支援対象とするのが望ましい。従って、運転者に対して適切な走行支援を行う為には、運転者からの接続道路の視認性を判定することが重要である。そこで、例えば特開2012−192878号公報には、車両の走行中において車両に設置されたカメラ、センサ及び通信機器を用いて周辺にある他車両等の障害物の位置や移動速度をリアルタイムで検出し、車両の死角領域に接続道路が含まれ、且つ死角領域の危険度が高いと判定された場合において、接続道路に位置する他車両を回避する為の運転支援を行うことが開示されている。
特開2012−192878号公報(第8−11頁)
しかしながら、上記特許文献1では、自車両と他車両との位置関係に基づいて俯瞰的に死角領域を判定しているが、実際に運転者から視認できる周辺環境については考慮していないので、死角領域と判定された領域が実際の運転者の死角領域と異なる場合があった。従って、実際には死角領域に含まれない接続道路についても危険因子と判定され、支援対象となる可能性があった。
本発明は前記従来における問題点を解消するためになされたものであり、運転者からの接続道路の視認性を判定するとともに判定結果を出力することによって、接続道路に対する適切な走行支援を行うことを可能にした走行支援装置及びコンピュータプログラムを提供することを目的とする。
前記目的を達成するため本発明に係る走行支援装置は、運転者の視線開始点及び視線方向と対応した光軸を備える撮像装置によって車両の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段と、前記撮像画像と車両周辺の地図情報とに基づいて、車両が走行する道路と車両の周囲にある分岐点で接続する道路である接続道路が、前記撮像画像において存在する位置を特定する接続道路特定手段と、前記撮像画像における前記接続道路の位置と車両の周囲にある障害物の位置との位置関係に基づいて、前記接続道路の運転者からの視認性を判定する視認性判定手段と、前記視認性判定手段の判定結果を出力する出力手段と、を有する。
尚、「視認性」とは、単純に運転者から接続道路が見えるか否かのみを示す場合もあれば、運転者からの接続道路の見易さ、或いは運転者による接続道路の状況の把握し易さを示す場合もある。そして、上記「視認性」は、接続道路の全体が見えるか否かの判断指標以外に、接続道路の少なくとも一部が見えるか否か、接続道路の特定の箇所が見えるか否か等の判断指標を用いて特定される。
また、「判定結果を出力する」とは、判定結果を案内することに加えて、判定結果に基づく車両制御を行うことも含む。
また、本発明に係るコンピュータプログラムは、車両の走行支援を行うプログラムである。具体的には、運転者の視線開始点及び視線方向と対応した光軸を備える撮像装置によって車両の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段と、前記撮像画像と車両周辺の地図情報とに基づいて、車両が走行する道路と車両の周囲にある分岐点で接続する道路である接続道路が、前記撮像画像において存在する位置を特定する接続道路特定手段と、前記撮像画像における前記接続道路の位置と車両の周囲にある障害物の位置との位置関係に基づいて、前記接続道路の運転者からの視認性を判定する視認性判定手段と、前記視認性判定手段の判定結果を出力する出力手段と、して機能させる。
前記構成を有する本発明に係る走行支援装置及びコンピュータプログラムによれば、運転者からの接続道路の視認性を判定するとともに判定結果を出力することによって、接続道路に対する適切な走行支援を行うことが可能となる。例えば、視認性が低く危険因子となり得る接続道路については案内や車両制御等の走行支援を行う一方で、不要な案内や車両制御についてはできる限り制限することが可能となる。
本実施形態に係るナビゲーション装置を示したブロック図である。 本実施形態に係る走行支援処理プログラムのフローチャートである。 撮像画像の撮像範囲を示した図である。 撮像画像と地図情報画像とを比較した図である。 撮像画像に対して設定される判定領域を示した図である。 判定領域と障害物の重複割合の算出例を示した図である。 判定領域を区画した例を示した図である。 判定領域を区画した例を示した図である。 不可視道路を案内する重畳画像の例を示した図である。
以下、本発明に係る走行支援装置についてナビゲーション装置に具体化した一実施形態に基づき図面を参照しつつ詳細に説明する。先ず、本実施形態に係るナビゲーション装置1の概略構成について図1を用いて説明する。図1は本実施形態に係るナビゲーション装置1を示したブロック図である。
図1に示すように本実施形態に係るナビゲーション装置1は、ナビゲーション装置1が搭載された車両の現在位置を検出する現在位置検出部11と、各種のデータが記録されたデータ記録部12と、入力された情報に基づいて、各種の演算処理を行うナビゲーションECU13と、ユーザからの操作を受け付ける操作部14と、ユーザに対して車両周辺の地図やナビゲーション装置1に設定された案内経路に関する情報等を表示する液晶ディスプレイ15と、経路案内に関する音声ガイダンスや危険因子に対する警告等を出力するスピーカ16と、記憶媒体であるDVDを読み取るDVDドライブ17と、プローブセンタやVICS(登録商標:Vehicle Information and Communication System)センタ等の情報センタとの間で通信を行う通信モジュール18と、を有している。また、ナビゲーション装置1は、CAN等の車載ネットワークを介して、HUD(ヘッドアップディスプレイ)19や車外カメラ20が接続されている。
以下に、ナビゲーション装置1が有する各構成要素について順に説明する。
現在位置検出部11は、GPS21、車速センサ22、ステアリングセンサ23、ジャイロセンサ24等からなり、現在の車両の位置、方位、車両の走行速度、現在時刻等を検出することが可能となっている。ここで、特に車速センサ22は、車両の移動距離や車速を検出する為のセンサであり、車両の駆動輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションECU13に出力する。そして、ナビゲーションECU13は発生するパルスを計数することにより駆動輪の回転速度や移動距離を算出する。尚、上記4種類のセンサをナビゲーション装置1が全て備える必要はなく、これらの内の1又は複数種類のセンサのみをナビゲーション装置1が備える構成としても良い。
また、データ記録部12は、外部記憶装置及び記録媒体としてのハードディスク(図示せず)と、ハードディスクに記録された地図情報DB31や撮像画像DB32や所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド(図示せず)とを備えている。尚、データ記録部12としてはハードディスクの代わりにメモリーカードやCDやDVD等の光ディスクを有しても良い。また、地図情報DB31や撮像画像DB32は外部のサーバに格納させ、ナビゲーション装置1が通信により取得しても良い。
ここで、地図情報DB31は、2次元地図情報33と3次元地図情報34とがそれぞれ記憶される。2次元地図情報33は、一般的なナビゲーション装置1において用いられる地図情報であり、例えば、道路(リンク)に関するリンクデータ、ノード点に関するノードデータ、施設に関する施設データ、経路探索処理に用いられる探索データ、地図を表示するための地図表示データ、各交差点に関する交差点データ、地点を検索するための検索データ等を含む。
一方、3次元地図情報34は、3次元で地図を表現した地図画像に関する情報である。特に本実施形態では3次元で道路の輪郭を表現した地図画像に関する情報とする。尚、道路の輪郭以外の情報についても表現した地図画像としても良い。例えば、施設形状、道路の区画線、道路標識、看板等についても3次元で表現した地図画像としても良い。
そして、ナビゲーション装置1は、液晶ディスプレイ15における地図画像の表示、案内経路の探索等の一般的な機能については2次元地図情報33を用いて行う。また、後述のように接続道路の視認性の判定に係る処理については3次元地図情報34を用いて行う。
また、撮像画像DB32は、車外カメラ20によって撮像された撮像画像35が格納される記憶手段である。尚、車外カメラ20によって撮像された撮像画像35は累積的に撮像画像DB32に格納され、古い画像から順に削除される。
一方、ナビゲーションECU(エレクトロニック・コントロール・ユニット)13は、ナビゲーション装置1の全体の制御を行う電子制御ユニットであり、演算装置及び制御装置としてのCPU41、並びにCPU41が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるRAM42、制御用のプログラムのほか、後述の走行支援処理プログラム(図2参照)等が記録されたROM43、ROM43から読み出したプログラムを記憶するフラッシュメモリ44等の内部記憶装置を備えている。尚、ナビゲーションECU13は、処理アルゴリズムとしての各種手段を有する。例えば、周辺環境撮像手段は、運転者の視線開始点及び視線方向と対応した光軸を備える車外カメラ20によって車両の周辺環境を撮像した撮像画像を取得する。接続道路特定手段は、撮像画像と車両周辺の地図情報とに基づいて、車両が走行する道路と車両の周囲にある分岐点で接続する道路である接続道路が、撮像画像において存在する位置を特定する。視認性判定手段は、撮像画像における接続道路の位置と車両の周囲にある障害物の位置との位置関係に基づいて、接続道路の運転者からの視認性を判定する。出力手段は、視認性判定手段の判定結果を出力する。
操作部14は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ(図示せず)を有する。そして、ナビゲーションECU13は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、操作部14は液晶ディスプレイ15の前面に設けたタッチパネルを有しても良い。また、マイクと音声認識装置を有しても良い。
また、液晶ディスプレイ15には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、ナビゲーション装置1で設定されている案内経路、案内経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。尚、本実施形態では情報の表示手段としてHUD19を備えているので、上記地図画像等の表示についてもHUD19で行う構成とすれば液晶ディスプレイ15は省略しても良い。
また、スピーカ16は、ナビゲーションECU13からの指示に基づいて案内経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。また、本実施形態では特に視認性が閾値よりも低いと判定された接続道路の案内についても出力する。
また、DVDドライブ17は、DVDやCD等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて音楽や映像の再生、地図情報DB31の更新等が行われる。尚、DVDドライブ17に替えてメモリーカードを読み書きする為のカードスロットを設けても良い。
また、通信モジュール18は、交通情報センタ、例えば、VICSセンタやプローブセンタ等から送信された交通情報を受信する為の通信装置であり、例えば携帯電話機やDCMが該当する。
一方、HUD19は、車両のダッシュボード内部に設置されており、内部には映像が表示される映像表示面である液晶ディスプレイやスクリーンを有する。そして、液晶ディスプレイやスクリーンに表示された映像を、HUD19が備える凹面鏡等を介し、更に運転席の前方のフロントウィンドウに反射させて車両の乗員に視認させるように構成されている。尚、フロントウィンドウを反射して乗員が液晶ディスプレイやスクリーンに表示された映像を視認した場合に、乗員にはフロントウィンドウの位置ではなく、フロントウィンドウの先の遠方の位置に液晶ディスプレイやスクリーンに表示された映像が虚像として視認されるように構成される。その結果、前方環境の実景に虚像を重畳して乗員に視認させることが可能となる。
尚、液晶ディスプレイやスクリーンに表示される映像としては、車両に関する情報や乗員の運転の支援の為に用いられる各種情報がある。特に本実施形態では、視認性が閾値よりも低いと判定された接続道路を運転者に示唆する為の情報が表示される。
また、本実施形態では前方環境の実景に重畳する画像を表示する手段としてHUD19を用いているが、他の手段を用いても良い。例えば、フロントウィンドウに対して映像を表示するウインドウシールドディスプレイ(WSD)を用いても良い。例えば、フロントウィンドウをスクリーンとしてプロジェクタから映像を表示しても良いし、フロントウィンドウを透過液晶ディスプレイとしても良い。WSDによってフロントウィンドウに対して表示された画像は、HUD19と同様に前方環境の実景に重畳する画像となる。
一方、車外カメラ20は、例えばCCD等の固体撮像素子を用いたカメラにより構成され、車両のルームミラーの裏側やフロントバンパ等に取り付けられるとともに光軸方向を水平より所定角度下方に向けて設置される。そして、車外カメラ20は、車両の進行方向前方の周辺環境を撮像する。また、ナビゲーションECU13は後述のように撮像された撮像画像を3次元地図情報34の画像と比較することによって、車両周辺にある接続道路の視認性の判定を行う。尚、車外カメラ20は車両の側方や後方にも配置するように構成しても良い。また、車外カメラ20の設置位置は運転者の目の位置(視線開始点)と略同一であって、光軸方向は通常時の運転者の視線方向と略同一となるように調整するのが望ましい。それによって、車外カメラ20によって撮像された画像が運転者の視野と一致することとなり、接続道路の視認性の判定をより適切に行うことが可能となる。
尚、本実施形態では特に車外カメラ20の撮像画像と3次元地図情報34とに基づいて、運転者の視野内に存在するとともに車両が走行する道路と車両の周囲にある分岐点で接続する接続道路の視認性を判定する。上記接続道路は、その道路上を移動する他車両、歩行者、自転車等が、今後に車両の走行する道路へと進入する虞のある道路である。そこで、後述のように接続道路に対する運転者の視認性が低い(即ち接続道路を運転者が把握できていないと予測される)場合には、接続道路の存在を運転者に把握させる為の案内を行う。
続いて、上記構成を有する本実施形態に係るナビゲーション装置1においてCPU41が実行する走行支援処理プログラムについて図2に基づき説明する。図2は本実施形態に係る走行支援処理プログラムのフローチャートである。ここで、走行支援処理プログラムは、車両のACC電源(accessory power supply)がONされた後に実行され、車外カメラ20で撮像した撮像画像と3次元地図情報34とに基づいて運転者からの接続道路の視認性を判定し、視認性の低い接続道路を案内するプログラムである。また、以下の図2にフローチャートで示されるプログラムは、ナビゲーションECU13が備えているRAM42、ROM43等に記憶されており、CPU41により実行される。
先ず、走行支援処理プログラムでは、ステップ(以下、Sと略記する)1において、CPU41は車両の現在位置及び方位を現在位置検出部11の検出結果に基づいて取得する。具体的には、2次元地図情報33を用いて車両の現在位置を示す地図上の位置座標を取得する。尚、車両の現在位置を検出する際には、車両の現在位置を2次元地図情報33にマッチングさせるマップマッチング処理についても行う。更に、車両の現在位置は、高精度ロケーション技術を用いて特定しても良い。ここで、高精度ロケーション技術とは、車両に設置されたカメラから取り込んだ白線や路面ペイント情報を画像認識により検出し、更に、白線や路面ペイント情報を予め記憶した地図情報DBと照合することにより、走行車線や高精度な車両位置を検出可能にする技術である。尚、高精度ロケーション技術の詳細については既に公知であるので省略する。尚、車両の現在位置及び方位は最終的に3次元地図情報34の地図上においても特定するのが望ましい。
次に、S2においてCPU41は、直近に車外カメラ20で撮像された撮像画像を撮像画像DB32から取得する。尚、車外カメラ20で撮像された撮像画像は、運転者の視線開始点(視点)及び視線方向に対応して車両の進行方向前方、即ち運転者が視認する前方環境(運転者の視野)を撮像した画像である。
続いて、S3においてCPU41は、地図情報DB31に格納された3次元地図情報34の内、特に前記S1で特定された車両の現在位置周辺(例えば車両の現在位置から300m周囲)の3次元地図情報34を取得する。
その後、S4においてCPU41は、前記S2で取得した撮像画像の撮像範囲を取得する。ここで、図3に示すように撮像画像35の撮像範囲は、撮像を行った時点の車外カメラ20の焦点Pの位置、光軸方向α、画角φによって特定することが可能である。尚、画角φは車外カメラ20によって予め決められた固定値である。一方、焦点Pの位置は前記S1で取得した車両の現在位置と車両における車外カメラ20の設置位置に基づいて決まる。また、光軸方向αは前記S1で取得した車両の方位と車両における車外カメラ20の設置方向に基づいて決まる。
次に、S5においてCPU41は、前記S3で取得した3次元地図情報34を用いて、前記S4で取得した撮像画像の撮像範囲と同一範囲を撮像画像の撮像方向と同一方向から3次元で地図を表現した俯瞰画像(以下、地図情報画像という)を生成する。尚、地図情報画像自体は、撮像画像と同じ2次元の画像である。
ここで、図4は撮像画像51に対応して生成される地図情報画像52の一例を示した図である。図4に示すように地図情報画像52は撮像画像51の撮像範囲(即ち運転者の視野内)に含まれる道路の輪郭53を示す線が描かれた画像となる。そして、撮像画像51では他車両等の障害物によって隠れている道路の輪郭についても地図情報画像52では描かれることとなる。
続いて、S6においてCPU41は、前記S2で取得した撮像画像に対して画像認識処理を行うことによって、車両の周辺に位置する障害物を検出する。画像認識処理としては、2値化処理、特徴点やテンプレートを用いたパターンマッチング処理等が行われるが、それらの画像認識処理については既に公知であるので詳細は省略する。また、前記S3では、“障害物の種類”、“形状(検出した範囲)”、“自車両からの距離”、“位置座標”についてもそれぞれ取得する。“障害物の種類”としては、例えば車、歩行者、自転車等がある。“位置座標”については撮像画像上に直交座標系を設定した撮像画像上における位置座標とする。また、障害物の検出方法としては車外カメラ20の撮像画像から検出する以外に、車両に設置されたセンサを用いて検出しても良いし、外部から通信によって障害物に関する情報を取得しても良い。尚、障害物は必ずしも形の定まったものである必要は無く、接続道路の視認性を阻害する物であれば例えば光や暗闇であっても良い。
例えば、図4に示す例では3台の車両54〜56が障害物として検出されることとなり、各車両54〜56について“障害物の種類”、“形状(検出した範囲)”、“自車両からの距離”、“位置座標”が特定される。
更に、S7においてCPU41は、前記S6で検出された障害物の向き(進行方向)と障害物を検出した場所を特定する。尚、“障害物の向き(進行方向)”は障害物の種類と形状から特定しても良いし、所定間隔で連続して撮像した撮像画像中における障害物の位置の変化に基づいて特定しても良い。また、“障害物を検出した場所”は、前記S6で検出した障害物の位置座標と前記S5で生成した地図情報画像に基づいて、障害物が道路上に位置するか、道路外に位置するのかを特定する。更に、道路上である場合には、車両の走行する車線上に位置するか、対向車線上に位置するか、接続道路上に位置するかについても特定するのが望ましい。また、前記S7は前記S6で検出された全ての障害物を対象として行う。
例えば、図4に示す例では3台の車両54〜56について、“障害物の向き(進行方向)”は後方(自車両の方位と逆方向)と特定される。また、“障害物を検出した場所”は対向車線上と特定される。
次に、S8においてCPU41は、前記S2で取得した撮像画像に対して、運転者の視野内に存在する接続道路の視認性を判定する為の判定領域を設定する。尚、『接続道路』とは、車両が走行する道路と車両の周囲にある分岐点で接続する道路である。例えば、図4に示す例では、分岐点57に接続する道路58、59が接続道路に該当する。尚、本実施形態では特に車両が走行する道路と交差する方向に接続する道路58、59を接続道路の対象とするが、進行方向に接続する道路60についても接続道路に含めても良い。また、接続道路が複数ある場合には、接続道路毎に判定領域を設定する。尚、前記S2で取得した撮像画像内(即ち運転者の視野内)に接続道路が存在しない場合(障害物などで隠れて見えない場合も存在するとみなす)についてはS8以降の処理を行わずに当該走行支援処理を終了する。
以下に、前記S8の判定領域の設定方法について、図5を用いてより詳細に説明する。以下の説明では車両の進行方向前方にある分岐点57に右方向に接続する接続道路59に対して設定する判定領域を例に挙げて説明する。
先ず、CPU41は、前記S5で生成した地図情報画像52に基づいて、撮像画像51において接続道路59が存在する位置を特定する。具体的には地図情報画像52において接続道路59の輪郭53に囲まれるエリアと対応する撮像画像51のエリアを特定する。特定されたエリアが撮像画像51において接続道路59が存在する位置となる。例えば図5では、ハッチングした領域が撮像画像51において接続道路59が存在する位置となる。続いて、CPU41は特定された接続道路59の位置に基づいて、接続道路59が分岐点57と接続する最も自車両側に位置する端部Xを撮像画像51において特定する。次に、撮像画像51上で特定された端部Xを原点として、接続する分岐点57から接続道路59に沿って離れる方向に3m、高さ方向に2mの矩形領域を判定領域61に設定する。同様に他の接続道路に対しても判定領域を設定する。
尚、前記S8で設定される判定領域61は、撮像画像51内、即ち運転者の視野内に存在する接続道路59を対象として、接続道路59の一部を少なくとも含む領域となる。より具体的には、接続道路59が分岐点57と接続する端部から接続道路59に沿って3mm以内の道路部分を含む領域に対して判定領域61が設定される。
次に、S9においてCPU41は、前記S2で取得した撮像画像における接続道路の位置と、同じく撮像画像における障害物の位置との位置関係に基づいて、撮像画像内(即ち運転者の視野内)に存在する接続道路の運転者からの視認性を判定する。尚、複数の接続道路が存在する場合には、接続道路毎に視認性を判定する。特に本実施形態では、前記S8で設定された判定領域内における接続道路と障害物の位置関係に基づいて、接続道路の運転者からの視認性を判定する。
以下に、前記S9の視認性の判定方法について、図6を用いてより詳細に説明する。以下の説明では車両の進行方向前方にある分岐点57に右方向に接続する接続道路59に対する視認性の判定を例に挙げて説明する。
先ず、CPU41は、前記S6で検出された障害物(図6に示す例では車両54〜56)が撮像画像51において存在する位置を特定する。次に、判定領域61に対して車両54〜56が重複する重複割合を算出する。具体的には、図6に示すように判定領域61の全領域の面積の内、車両54〜56が重複している面積の割合を重複割合として算出する。尚、車両54〜56の位置や形状については前記S6で検出される。そして、算出した重複割合を、接続道路59の運転者からの視認性を示す数値とする。尚、CPU41は、算出した重複割合(視認性)が閾値(例えば80%)以上の場合には該当する接続道路が運転者から視認できないと判定し、重複割合が閾値未満の場合には該当する接続道路が運転者から視認できると判定する。
また、図8に示すように判定領域61を複数の区画に区分しても良い。例えば、図8では判定領域61を対向する各辺の中点を結んだ線を境界とした4つの区画71〜74に区分した例を示す。更に、本実施形態では以下の(A)、(B)のように区画71〜74毎に異なる視認性の算出基準を設定することも可能である。尚、以下の説明では左上の区画を区画71、左下の区画を区画72、右上の区画を区画73、右下の区画を区画74として説明する。
(A)一例として複数の区画71〜74の内、分岐点と接続する端部から近い区画程、重複割合がより高く算出され易い算出基準を設定する。ここで、分岐点と接続する端部から近い区画は、接続道路の入口付近に位置する区画となるので、特に接続道路から車両が走行する道路へと進入する車両や歩行者がいるか否かを運転者が判断するに際して重要な区画となる。従って、分岐点と接続する端部から近い区画程、重複割合がより高く算出され易い算出基準を設定する。
例えば図5に示すように車両の進行方向前方にある分岐点57に右方向に接続する接続道路59に対して設定した判定領域61については、分岐点57に近い区画71、72について、区画73、74よりも重複割合がより高く算出され易い算出基準を設定する。例えば区画71、72については実際に区画71、72に対して障害物が重複する割合を1.2倍した割合を重複割合として算出する。一方、区画73、74については実際に区画73、74に対して障害物が重複する割合を0.8倍した割合を重複割合として算出する。そして、区画毎に算出した重複割合を合計した値を、判定領域61に対して障害物が重複する重複割合とする。
尚、分岐点に左方向に接続する接続道路に対して設定した判定領域については、上記例と左右逆となる。
(B)他の例として複数の区画71〜74の内、下側にある区画程、重複割合がより高く算出され易い算出基準を設定する。ここで、図5に示すように判定領域61は下端を接続道路59の手前側の端部Xに基づいて設定するので、下側にある区画72、74は上側にある区画71、73よりも、接続道路59と重複する割合が高くなる。即ち、下側にある区画は、接続道路を移動する車両や歩行者が位置する可能性の高い区画となるので、特に接続道路から車両が走行する道路へと進入する車両や歩行者がいるか否かを運転者が判断するに際して重要な区画となる。従って、下側にある区画程、重複割合がより高く算出され易い算出基準を設定する。
例えば区画72、74については実際に区画72、74に対して障害物が重複する割合を1.2倍した割合を重複割合として算出する。一方、区画71、73については実際に区画71、73に対して障害物が重複する割合を0.8倍した割合を重複割合として算出する。そして、区画毎に算出した重複割合を合計した値を、判定領域61に対して障害物が重複する重複割合とする。
尚、上記(A)と(B)とを組み合わせても良い。その場合には、区画71、72、74については実際に区画71、72、74に対して障害物が重複する割合を1.2倍した割合を重複割合として算出する。一方、区画73については実際に区画73に対して障害物が重複する割合を0.8倍した割合を重複割合として算出する。そして、区画毎に算出した重複割合を合計した値を、判定領域61に対して障害物が重複する重複割合とする。更に、区間72については1.4倍にしても良い。
また、接続道路の道路幅に応じて判定領域61を区分する境界を変更しても良い。具体的には、図8に示すように接続道路の道路幅が狭い場合には、上下を区分する境界を下側に移動させ、接続道路の道路幅が広い場合には、上下を区分する境界を上側に移動させる。それによって、上記(B)においてより適切な重複割合の補正が可能となる。
次に、S10においてCPU41は、車両から停止可能距離にあって、前記S9で算出した重複割合(視認性)が閾値(例えば80%)以上の接続道路、即ち運転者の視野内にあって運転者から視認できない接続道路があるか否か判定する。尚、『停止可能距離』は、車両が所定の加速度(運転者に負担が生じない上限加速度とする)以下で停止可能な距離であり、車両の現在の車速に基づいて算出される。また、前記S10で判断基準となる閾値は適宜変更可能であり、例えば50%としても良い。また、周辺環境によって閾値を変更可能にしても良い。例えば、夜や降雨時等の視界が悪い環境であればその他の環境の場合よりも閾値を高く設定する。
そして、車両から停止可能距離にあって、前記S9で算出した重複割合(視認性)が閾値(例えば80%)以上の接続道路、即ち運転者から視認できない接続道路があると判定された場合(S10:YES)には、S11へと移行する。それに対して、前記S9で算出した重複割合(視認性)が閾値(例えば80%)以上の接続道路が無い、或いは有ったとしても停止可能距離外であると判定された場合(S10:NO)には、S13へと移行する。
S11においてCPU41は、前記S6で特定した障害物の種類と、前記S7で特定した障害物の向き(進行方向)及び検出場所に基づいて、接続道路と重複する障害物が車両であって、該車両が接続道路上に位置するか否かを判定する。ここで、仮に接続道路が他車両と重複して視認できなかったとしても、該他車両が接続道路上を走行する車両であれば、運転者は該他車両の位置から接続道路の位置や形状をある程度把握でき、接続道路から自車両が走行する道路へと進入する車両がいるか否かについても運転者が判断可能である。従って、そのような場合には例外的に視認性が閾値以下である接続道路であったとしても、運転者が視認できるとみなす。
そして、接続道路と重複する障害物が車両であって、該車両が接続道路上に位置すると判定された場合(S11:YES)には、S13へと移行する。それに対して、接続道路と重複する障害物が車両以外である、或いは車両であっても接続道路上に位置しないと判定された場合(S11:NO)には、S12へと移行する。
S12においてCPU41は、HUD19に対して制御信号を送信し、HUD19の液晶ディスプレイに対して運転者が視認できないと判定された接続道路(以下、不可視道路という)の存在を示唆する映像を出力する。具体的には、不可視道路の内、分岐点と接続する端部を含む範囲に重畳して運転者に視認される重畳画像を表示する。また、不可視道路を警告する音声をスピーカ16から出力しても良い。
例えば、図9は前記S12において表示される重畳画像の一例を示した図である。
図9に示すように車両の進行方向の所定距離(25m)前方の位置に、不可視道路の存在を示唆するエクスクラメーションマークの虚像(重畳画像)75が表示される。特に、虚像75は不可視道路の内、分岐点と接続する端部を含む範囲、即ち不可視道路の入口付近に重畳して運転者に視認されるので、不可視道路から自車両が走行する道路へと進入する他車両や歩行者がいる場合であっても、他車両や歩行者の進入に対して事前に注意を払うことが可能となる。
また、前記S12で表示される重畳画像は、車両から不可視道路までの距離が接近する程、サイズを大きくするのが望ましい。それによって、視覚的に不可視道路までの距離を運転者に把握させることが可能となる。
一方、S13においてCPU41は、撮像画像内(即ち運転者の視野内)に運転者から視認できない接続道路は無いと判定し、特に接続道路に対する案内を行うことなく当該走行支援処理を終了する。
尚、接続道路の運転者からの視認性を判定した判定結果を出力する出力手段として、本実施形態では特に運転者から視認できない(視認性が閾値以下)と判定された不可視道路の存在を運転者に示唆する案内を行っているが、判定結果を出力する出力手段として、判定結果に基づく車両制御を行うようにしても良い。例えば、不可視道路を運転者に気付かせる為の車両制御、或いは不可視道路を避ける車両制御を行うことが可能である。具体的には、不可視道路の手前で減速する車両制御がある。また、判定結果を自動運転車両に対して適用することも可能である。
更に、不可視道路においてどのような危険因子があるのかを機械学習によって判別できるのであれば、より具体的に危険因子を特定する案内(例えば「車両の前方死角にある交差道路から進入する歩行者に注意してください」)を行っても良い。
以上詳細に説明した通り、本実施形態に係るナビゲーション装置1及びナビゲーション装置1で実行されるコンピュータプログラムでは、車両の周辺環境を撮像した撮像画像を取得し(S2)、3次元で地図を表現した地図画像において撮像画像の撮像範囲と同一範囲を撮像画像の撮像方向と同一方向から示す地図画像である地図情報画像を取得し(S5)、撮像画像と地図情報画像に基づいて、車両が走行する道路と車両の周囲にある分岐点で接続する道路である接続道路に対する運転者の視認性を判定し(S10)、視認性の判定結果を出力する(S12)ので、接続道路に対する適切な走行支援を行うことが可能となる。例えば、視認性が低く危険因子となり得る接続道路については案内や車両制御等の走行支援を行う一方で、不要な案内や車両制御についてはできる限り制限することが可能となる。
尚、本発明は前記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
例えば、本実施形態では、3次元地図情報34は3次元で道路の輪郭を表現した地図画像に関する情報であるが、道路の輪郭以外の情報を表現した地図情報としても良い。例えば、施設形状、道路の区画線、道路標識、看板等についても表現した地図画像としても良い。
また、本実施形態では、不可視道路を運転者に示唆する案内として、不可視道路の入口付近に重畳して視認される画像を表示している(図9)が、重畳画像は他の形態の画像としても良い。例えば、不可視道路の輪郭に重畳して視認される線分の画像を表示しても良い。
また、本実施形態では、判定領域61を横3m縦2mの矩形形状としているが、判定領域61のサイズや形状は適宜変更可能であり、例えば円形状としても良い。また、図7には、判定領域61を4つの区画に区分する例を示したが、区分する数は3以下或いは5以上としても良い。
また、本実施形態では走行支援処理プログラム(図2)はナビゲーション装置1が実施しているが、ナビゲーション装置以外の車載器が実施する構成としても良い。例えば、HUD19の制御部、車両制御ECU、その他の車載器が実行する構成としても良い。尚、HUD19の制御部が実行する場合には、本発明に係る走行支援装置はHUD19で構成することも可能である。また、車載器が全ての処理を実施するのではなく、一部の処理を外部サーバが実施することとしても良い。
また、本発明に係る走行支援装置を具体化した実施例について上記に説明したが、走行支援装置は以下の構成を有することも可能であり、その場合には以下の効果を奏する。
例えば、第1の構成は以下のとおりである。
運転者の視線開始点及び視線方向と対応した光軸を備える撮像装置(20)によって車両の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段(41)と、前記撮像画像と車両周辺の地図情報とに基づいて、車両が走行する道路と車両の周囲にある分岐点で接続する道路である接続道路が、前記撮像画像において存在する位置を特定する接続道路特定手段(41)と、前記撮像画像における前記接続道路の位置と車両の周囲にある障害物(54〜56)の位置との位置関係に基づいて、前記接続道路の運転者からの視認性を判定する視認性判定手段(41)と、前記視認性判定手段の判定結果を出力する出力手段(41)と、を有する。
上記構成を有する走行支援装置によれば、運転者からの接続道路の視認性を判定するとともに判定結果を出力することによって、接続道路に対する適切な走行支援を行うことが可能となる。例えば、視認性が低く危険因子となり得る接続道路については案内や車両制御等の走行支援を行う一方で、不要な案内や車両制御についてはできる限り制限することが可能となる。
また、第2の構成は以下のとおりである。
前記撮像画像から車両の周囲にある前記障害物の位置と形状を検出する障害物検出手段(41)を有し、前記視認性判定手段(41)は、前記障害物検出手段により検出された前記障害物の位置と形状に基づいて、前記接続道路の運転者からの視認性を判定する。
上記構成を有する走行支援装置によれば、特に車両の周囲にある障害物によって接続道路の視認性が阻害される場合において、正確な接続道路の運転者からの視認性を判定することが可能となる。
また、第3の構成は以下のとおりである。
前記撮像画像における前記接続道路の一部を少なくとも含む領域に対して、前記接続道路の視認性を判定する対象となる判定領域(61)を設定する判定領域設定手段(41)を有し、前記視認性判定手段(41)は、前記判定領域内における前記接続道路と前記障害物の位置関係に基づいて前記接続道路の運転者からの視認性を判定する。
上記構成を有する走行支援装置によれば、接続道路の一部を含む特定の領域における接続道路と障害物との位置関係に基づいて接続道路の視認性を判定するので、特に運転者が接続道路を把握する際に重要となる領域を考慮して接続道路の視認性を判定することが可能となる。
また、第4の構成は以下のとおりである。
前記判定領域設定手段(41)は、前記接続道路の内、分岐点と接続する端部から前記接続道路に沿って所定距離以内の道路部分を含む領域に対して前記判定領域(61)を設定する。
上記構成を有する走行支援装置によれば、特に接続道路の入口付近の範囲を対象として視認性を判定するので、接続道路から車両が走行する道路へと進入する直前の車両や歩行者を運転者から視認することができるか否かについて考慮して接続道路の視認性を判定することが可能となる。
また、第5の構成は以下のとおりである。
前記視認性判定手段(41)は、前記判定領域(61)内に対して前記障害物が重複する重複割合を算出し、算出された前記重複割合に基づいて前記接続道路の運転者からの視認性を判定する。
上記構成を有する走行支援装置によれば、特に車両の周囲にある障害物によって接続道路の視認性が阻害される場合において、正確な接続道路の運転者からの視認性を判定することが可能となる。
また、第6の構成は以下のとおりである。
前記視認性判定手段(41)は、前記判定領域(61)を複数の区画に区分するとともに、前記複数の区画毎に異なる算出基準で前記重複割合を算出する。
上記構成を有する走行支援装置によれば、判定領域の内、特に運転者が接続道路を把握する際に重要となる区画における視認性を考慮して接続道路の視認性を判定することが可能となる。
また、第7の構成は以下のとおりである。
前記視認性判定手段(41)は、前記複数の区画の内、分岐点と接続する端部から近い区画程、前記重複割合がより高く算出され易い算出基準を設定する。
上記構成を有する走行支援装置によれば、判定領域の内、特に接続道路の入口付近の区画における視認性を重視して接続道路の視認性を判定することが可能となる。
また、第8の構成は以下のとおりである。
前記視認性判定手段(41)は、前記複数の区画の内、下方にある区画程、前記重複割合がより高く算出され易い算出基準を設定する。
上記構成を有する走行支援装置によれば、判定領域の内、特に接続道路と重複する割合が高い区画における視認性を重視して接続道路の視認性を判定することが可能となる。
また、第9の構成は以下のとおりである。
前記視認性判定手段(41)は、前記接続道路の道路幅に応じて前記判定領域(61)を区分する境界を変更する。
上記構成を有する走行支援装置によれば、接続道路の道路幅に応じて、判定領域の内、特に接続道路と重複する割合が高い区画を適切に区分することが可能となる。
また、第10の構成は以下のとおりである。
前記視認性判定手段(41)は、前記重複割合が閾値以上の場合には前記接続道路が前記運転者から視認できないと判定するとともに、前記重複割合が閾値未満の場合には前記接続道路が前記運転者から視認できると判定する。
上記構成を有する走行支援装置によれば、特に車両の周囲にある障害物によって接続道路の視認性が阻害される場合において、障害物と接続道路の重複割合から接続道路を運転者が視認できるか否かを正確に判定することが可能となる。
また、第11の構成は以下のとおりである。
前記視認性判定手段(41)は、前記障害物(54〜56)が自車両の周辺に位置する他車両である場合に、前記他車両が前記接続道路上に位置するか否かを判定し、前記他車両が前記接続道路上に位置すると判定された場合には、前記撮像画像における前記接続道路の位置と前記他車両の位置との位置関係に関わらず、前記接続道路を運転者が視認できると判定する。
上記構成を有する走行支援装置によれば、車両の周囲にある障害物によって接続道路の視認性が阻害される場合であっても、例外的に障害物が接続道路上を移動する車両である場合には、運転者が接続道路を視認できると判定することが可能となる。
1 ナビゲーション装置
13 ナビゲーションECU
19 HUD
20 車外カメラ
31 地図情報DB
32 撮像画像DB
33 2次元地図情報
34 3次元地図情報
41 CPU
42 RAM
43 ROM
51 撮像画像
52 地図情報画像
54〜56 障害物
58、59 接続道路
61 判定領域
75 虚像

Claims (12)

  1. 運転者の視線開始点及び視線方向と対応した光軸を備える撮像装置によって車両の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段と、
    前記撮像画像と車両周辺の地図情報とに基づいて、車両が走行する道路と車両の周囲にある分岐点で接続する道路である接続道路が、前記撮像画像において存在する位置を特定する接続道路特定手段と、
    前記撮像画像における前記接続道路の位置と車両の周囲にある障害物の位置との位置関係に基づいて、前記接続道路の運転者からの視認性を判定する視認性判定手段と、
    前記視認性判定手段の判定結果を出力する出力手段と、を有する走行支援装置。
  2. 前記撮像画像から車両の周囲にある前記障害物の位置と形状を検出する障害物検出手段を有し、
    前記視認性判定手段は、前記障害物検出手段により検出された前記障害物の位置と形状に基づいて、前記接続道路の運転者からの視認性を判定する請求項1に記載の走行支援装置。
  3. 前記撮像画像における前記接続道路の一部を少なくとも含む領域に対して、前記接続道路の視認性を判定する対象となる判定領域を設定する判定領域設定手段を有し、
    前記視認性判定手段は、前記判定領域内における前記接続道路と前記障害物の位置関係に基づいて前記接続道路の運転者からの視認性を判定する請求項1又は請求項2に記載の走行支援装置。
  4. 前記判定領域設定手段は、前記接続道路の内、分岐点と接続する端部から前記接続道路に沿って所定距離以内の道路部分を含む領域に対して前記判定領域を設定する請求項3に記載の走行支援装置。
  5. 前記視認性判定手段は、
    前記判定領域内に対して前記障害物が重複する重複割合を算出し、
    算出された前記重複割合に基づいて前記接続道路の運転者からの視認性を判定する請求項3又は請求項4に記載の走行支援装置。
  6. 前記視認性判定手段は、
    前記判定領域を複数の区画に区分するとともに、前記複数の区画毎に異なる算出基準で前記重複割合を算出する請求項5に記載の走行支援装置。
  7. 前記視認性判定手段は、
    前記複数の区画の内、分岐点と接続する端部から近い区画程、前記重複割合がより高く算出され易い算出基準を設定する請求項6に記載の走行支援装置。
  8. 前記視認性判定手段は、
    前記複数の区画の内、下方にある区画程、前記重複割合がより高く算出され易い算出基準を設定する請求項6又は請求項7に記載の走行支援装置。
  9. 前記視認性判定手段は、前記接続道路の道路幅に応じて前記判定領域を区分する境界を変更する請求項6乃至請求項8のいずれかに記載の走行支援装置。
  10. 前記視認性判定手段は、
    前記重複割合が閾値以上の場合には前記接続道路が前記運転者から視認できないと判定するとともに、前記重複割合が閾値未満の場合には前記接続道路が前記運転者から視認できると判定する請求項5乃至請求項9のいずれかに記載の走行支援装置。
  11. 前記視認性判定手段は、
    前記障害物が自車両の周辺に位置する他車両である場合に、前記他車両が前記接続道路上に位置するか否かを判定し、
    前記他車両が前記接続道路上に位置すると判定された場合には、前記撮像画像における前記接続道路の位置と前記他車両の位置との位置関係に関わらず、前記接続道路を運転者が視認できると判定する請求項10に記載の走行支援装置。
  12. コンピュータを、
    運転者の視線開始点及び視線方向と対応した光軸を備える撮像装置によって車両の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段と、
    前記撮像画像と車両周辺の地図情報とに基づいて、車両が走行する道路と車両の周囲にある分岐点で接続する道路である接続道路が、前記撮像画像において存在する位置を特定する接続道路特定手段と、
    前記撮像画像における前記接続道路の位置と車両の周囲にある障害物の位置との位置関係に基づいて、前記接続道路の運転者からの視認性を判定する視認性判定手段と、
    前記視認性判定手段の判定結果を出力する出力手段と、
    して機能させる為のコンピュータプログラム。
JP2018544000A 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム Active JP6658905B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016199254 2016-10-07
JP2016199254 2016-10-07
PCT/JP2017/036561 WO2018066711A1 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JPWO2018066711A1 true JPWO2018066711A1 (ja) 2019-06-24
JP6658905B2 JP6658905B2 (ja) 2020-03-04

Family

ID=61831788

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018543999A Active JP6700623B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム
JP2018544000A Active JP6658905B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム
JP2018544001A Expired - Fee Related JP6566145B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018543999A Active JP6700623B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2018544001A Expired - Fee Related JP6566145B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム

Country Status (5)

Country Link
US (3) US10878256B2 (ja)
EP (3) EP3496033A4 (ja)
JP (3) JP6700623B2 (ja)
CN (3) CN109791737A (ja)
WO (3) WO2018066712A1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018063460A1 (en) * 2016-09-30 2018-04-05 General Electric Company System and method for optimization of deep learning architecture
JP7160251B2 (ja) * 2017-01-12 2022-10-25 モービルアイ ビジョン テクノロジーズ リミテッド ナビゲーションシステム、方法、およびプログラム
CN108346107B (zh) * 2017-12-28 2020-11-10 创新先进技术有限公司 一种社交内容风险识别方法、装置以及设备
US11041730B2 (en) * 2018-03-02 2021-06-22 DeepMap Inc. Reverse rendering of an image based on high definition map data
US11846514B1 (en) 2018-05-03 2023-12-19 Zoox, Inc. User interface and augmented reality for representing vehicles and persons
US10809081B1 (en) * 2018-05-03 2020-10-20 Zoox, Inc. User interface and augmented reality for identifying vehicles and persons
US10837788B1 (en) 2018-05-03 2020-11-17 Zoox, Inc. Techniques for identifying vehicles and persons
CN112384760A (zh) * 2018-05-15 2021-02-19 御眼视觉技术有限公司 用于自主车辆导航的系统和方法
JP6766844B2 (ja) * 2018-06-01 2020-10-14 株式会社デンソー 物体識別装置、移動体用システム、物体識別方法、物体識別モデルの学習方法及び物体識別モデルの学習装置
US11002066B2 (en) * 2018-06-19 2021-05-11 Apple Inc. Systems with dynamic pixelated windows
JP7070157B2 (ja) * 2018-06-29 2022-05-18 富士通株式会社 画像処理プログラム、画像処理装置及び画像処理方法
US11195030B2 (en) * 2018-09-14 2021-12-07 Honda Motor Co., Ltd. Scene classification
US20200090501A1 (en) * 2018-09-19 2020-03-19 International Business Machines Corporation Accident avoidance system for pedestrians
US11495028B2 (en) * 2018-09-28 2022-11-08 Intel Corporation Obstacle analyzer, vehicle control system, and methods thereof
US11055857B2 (en) * 2018-11-30 2021-07-06 Baidu Usa Llc Compressive environmental feature representation for vehicle behavior prediction
JP2022516849A (ja) * 2019-01-18 2022-03-03 ベステル エレクトロニク サナイー ベ ティカレト エー.エス. ヘッドアップディスプレイシステム、方法、データキャリア、処理システム及び車両
US10824947B2 (en) * 2019-01-31 2020-11-03 StradVision, Inc. Learning method for supporting safer autonomous driving without danger of accident by estimating motions of surrounding objects through fusion of information from multiple sources, learning device, testing method and testing device using the same
JP7228472B2 (ja) * 2019-06-07 2023-02-24 本田技研工業株式会社 認識装置、認識方法、およびプログラム
EP3970060A1 (en) * 2019-06-10 2022-03-23 Huawei Technologies Co., Ltd. Driver attention detection using heat maps
KR102664123B1 (ko) * 2019-09-09 2024-05-09 현대자동차주식회사 차량 데이터 생성 장치 및 방법, 그리고 시스템
JP7139300B2 (ja) * 2019-10-03 2022-09-20 本田技研工業株式会社 認識装置、認識方法、およびプログラム
JP7407034B2 (ja) * 2020-03-19 2023-12-28 本田技研工業株式会社 走行経路設定装置、走行経路を設定する方法およびプログラム
JP7380443B2 (ja) * 2020-06-22 2023-11-15 トヨタ自動車株式会社 部分画像生成装置及び部分画像生成用コンピュータプログラム
WO2022112810A1 (ja) * 2020-11-27 2022-06-02 日産自動車株式会社 車両支援方法及び車両支援装置
JP2022123940A (ja) * 2021-02-15 2022-08-25 本田技研工業株式会社 車両制御装置
JP2022161066A (ja) * 2021-04-08 2022-10-21 トヨタ自動車株式会社 表示制御システム、表示制御方法及びプログラム
CN113899355A (zh) * 2021-08-25 2022-01-07 上海钧正网络科技有限公司 地图更新方法、装置、云端服务器和共享骑行设备
US20230177839A1 (en) * 2021-12-02 2023-06-08 Nvidia Corporation Deep learning based operational domain verification using camera-based inputs for autonomous systems and applications

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007129382A1 (ja) * 2006-04-28 2007-11-15 Panasonic Corporation ナビゲーション装置およびその方法
JP2015108926A (ja) * 2013-12-04 2015-06-11 三菱電機株式会社 車両用運転支援装置

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07333317A (ja) * 1994-06-14 1995-12-22 Mitsubishi Electric Corp 移動体間距離認識装置
JPH09196695A (ja) * 1996-01-18 1997-07-31 Matsushita Electric Ind Co Ltd ナビゲーション案内装置
US6285317B1 (en) * 1998-05-01 2001-09-04 Lucent Technologies Inc. Navigation system with three-dimensional display
EP1378724B1 (en) 2002-07-01 2006-03-29 Mazda Motor Corporation Route guidance system based on visual activity of the driver
JP3932127B2 (ja) * 2004-01-28 2007-06-20 マツダ株式会社 車両用画像表示装置
JP2006172215A (ja) 2004-12-16 2006-06-29 Fuji Photo Film Co Ltd 運転支援システム
JP4483764B2 (ja) * 2005-10-28 2010-06-16 株式会社デンソー 運転支援システムおよびプログラム
JP2008046766A (ja) * 2006-08-11 2008-02-28 Denso Corp 車両外部情報表示装置
CN101512617B (zh) * 2006-09-04 2012-02-01 松下电器产业株式会社 行驶信息提供装置
EP2090867A4 (en) * 2006-12-05 2012-03-21 Navitime Japan Co Ltd NAVIGATION SYSTEM, PORTABLE TERMINAL DEVICE, AND PERIPHERAL IMAGE DISPLAY METHOD
JP5017242B2 (ja) * 2008-12-03 2012-09-05 本田技研工業株式会社 視覚支援装置
JP5771889B2 (ja) * 2009-03-04 2015-09-02 日産自動車株式会社 経路案内装置及び経路案内方法
JP2010261747A (ja) * 2009-04-30 2010-11-18 Denso Corp 警報装置
JP5407898B2 (ja) * 2010-01-25 2014-02-05 株式会社豊田中央研究所 対象物検出装置及びプログラム
CN102754138A (zh) * 2010-03-16 2012-10-24 三菱电机株式会社 道路车辆协调型安全驾驶辅助装置
EP2615596A4 (en) * 2010-09-08 2017-12-06 Toyota Jidosha Kabushiki Kaisha Moving-object prediction device, virtual-mobile-object prediction device, program, mobile-object prediction method, and virtual-mobile-object prediction method
JP5704902B2 (ja) * 2010-11-26 2015-04-22 東芝アルパイン・オートモティブテクノロジー株式会社 運転支援装置及び運転支援方法
JP5743576B2 (ja) * 2011-02-02 2015-07-01 スタンレー電気株式会社 物体検出システム
JP2012192878A (ja) 2011-03-17 2012-10-11 Toyota Motor Corp 危険度判定装置
JP5840046B2 (ja) * 2012-03-23 2016-01-06 株式会社豊田中央研究所 情報提供装置、情報提供システム、情報提供方法、及びプログラム
CN104221067A (zh) * 2012-03-29 2014-12-17 丰田自动车株式会社 驾驶支援装置
US10270642B2 (en) * 2012-12-05 2019-04-23 Origin Wireless, Inc. Method, apparatus, and system for object tracking and navigation
DE102012218360A1 (de) * 2012-10-09 2014-04-10 Robert Bosch Gmbh Blickfeldanzeige für ein Fahrzeug
JP6136237B2 (ja) 2012-12-19 2017-05-31 アイシン・エィ・ダブリュ株式会社 走行支援システム、走行支援方法及びコンピュータプログラム
US9330256B2 (en) * 2013-02-01 2016-05-03 Qualcomm Incorporated Location based process-monitoring
JP2015104930A (ja) * 2013-11-28 2015-06-08 株式会社デンソー ヘッドアップディスプレイ装置
CN104112370B (zh) * 2014-07-30 2016-08-17 哈尔滨工业大学深圳研究生院 基于监控图像的停车场智能车位识别方法及系统
JP6361403B2 (ja) 2014-09-17 2018-07-25 アイシン・エィ・ダブリュ株式会社 自動運転支援システム、自動運転支援方法及びコンピュータプログラム
WO2016070193A1 (en) * 2014-10-31 2016-05-06 Nodal Inc. Systems, apparatus, and methods for improving safety related to movable/moving objects
JP2016122308A (ja) * 2014-12-25 2016-07-07 クラリオン株式会社 車両制御装置
CN104571513A (zh) * 2014-12-31 2015-04-29 东莞市南星电子有限公司 一种通过遮蔽摄像区域模拟触摸指令方法及系统
JP6418574B2 (ja) * 2015-01-14 2018-11-07 株式会社デンソーアイティーラボラトリ 危険度推定装置、危険度推定方法及び危険度推定用コンピュータプログラム
JP6428927B2 (ja) * 2015-04-21 2018-11-28 日産自動車株式会社 車両誘導装置及び車両誘導方法
BR112018007120B1 (pt) * 2015-10-09 2023-05-02 Nissan Motor Co., Ltd Dispositivo de display veicular e método de display veicular
JP6623044B2 (ja) 2015-11-25 2019-12-18 日立オートモティブシステムズ株式会社 ステレオカメラ装置
CN105930833B (zh) * 2016-05-19 2019-01-22 重庆邮电大学 一种基于视频监控的车辆跟踪与分割方法
US20180188427A1 (en) * 2016-12-29 2018-07-05 Uber Technologies, Inc. Color Filter Array for Image Capture Device
US10452926B2 (en) * 2016-12-29 2019-10-22 Uber Technologies, Inc. Image capture device with customizable regions of interest

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007129382A1 (ja) * 2006-04-28 2007-11-15 Panasonic Corporation ナビゲーション装置およびその方法
JP2015108926A (ja) * 2013-12-04 2015-06-11 三菱電機株式会社 車両用運転支援装置

Also Published As

Publication number Publication date
JP6658905B2 (ja) 2020-03-04
US20190344803A1 (en) 2019-11-14
JPWO2018066710A1 (ja) 2019-06-24
US20190197323A1 (en) 2019-06-27
WO2018066712A1 (ja) 2018-04-12
CN109791738A (zh) 2019-05-21
JPWO2018066712A1 (ja) 2019-04-25
JP6700623B2 (ja) 2020-05-27
CN109791737A (zh) 2019-05-21
US20190251374A1 (en) 2019-08-15
US10733462B2 (en) 2020-08-04
EP3496069B1 (en) 2022-10-26
EP3496069A1 (en) 2019-06-12
EP3496033A4 (en) 2019-10-23
EP3496033A1 (en) 2019-06-12
JP6566145B2 (ja) 2019-08-28
EP3496069A4 (en) 2019-06-12
CN109791738B (zh) 2021-12-21
CN109791053A (zh) 2019-05-21
EP3496068A4 (en) 2019-06-12
WO2018066710A1 (ja) 2018-04-12
US10878256B2 (en) 2020-12-29
WO2018066711A1 (ja) 2018-04-12
EP3496068A1 (en) 2019-06-12

Similar Documents

Publication Publication Date Title
JP6658905B2 (ja) 走行支援装置及びコンピュータプログラム
US11535155B2 (en) Superimposed-image display device and computer program
US11511627B2 (en) Display device and computer program
US11525694B2 (en) Superimposed-image display device and computer program
JP7151073B2 (ja) 表示装置及びコンピュータプログラム
US11493357B2 (en) Superimposed image display device, superimposed image drawing method, and computer program
JP2018173862A (ja) 走行支援装置及びコンピュータプログラム
JP2019164611A (ja) 走行支援装置及びコンピュータプログラム
JP2019010919A (ja) 走行支援装置及びコンピュータプログラム
JP6435798B2 (ja) 車両情報案内システム、車両情報案内方法及びコンピュータプログラム
JP7143728B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP6939147B2 (ja) 走行情報案内装置及びコンピュータプログラム
JP6582798B2 (ja) 走行支援システム、走行支援方法及びコンピュータプログラム
JP6984341B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2023008462A (ja) 重畳画像表示装置
JP2023038558A (ja) 重畳画像表示装置
JP2021081232A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2020085897A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2019082382A (ja) 重畳画像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200120

R150 Certificate of patent or registration of utility model

Ref document number: 6658905

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150