JPWO2018066712A1 - 走行支援装置及びコンピュータプログラム - Google Patents

走行支援装置及びコンピュータプログラム Download PDF

Info

Publication number
JPWO2018066712A1
JPWO2018066712A1 JP2018544001A JP2018544001A JPWO2018066712A1 JP WO2018066712 A1 JPWO2018066712 A1 JP WO2018066712A1 JP 2018544001 A JP2018544001 A JP 2018544001A JP 2018544001 A JP2018544001 A JP 2018544001A JP WO2018066712 A1 JPWO2018066712 A1 JP WO2018066712A1
Authority
JP
Japan
Prior art keywords
image
risk factor
captured image
map information
map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018544001A
Other languages
English (en)
Other versions
JP6566145B2 (ja
Inventor
孝光 坂井
孝光 坂井
智明 廣田
智明 廣田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Publication of JPWO2018066712A1 publication Critical patent/JPWO2018066712A1/ja
Application granted granted Critical
Publication of JP6566145B2 publication Critical patent/JP6566145B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095—Predicting travel path or likelihood of collision
    • B60W30/0956—Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09—Driving style or behaviour
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3697—Output of additional, non-guidance related information, e.g. low fuel level
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804—Creation or updating of map data
    • G01C21/3807—Creation or updating of map data characterised by the type of data
    • G01C21/3815—Road data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/2163—Partitioning the feature space
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/045—Explanation of inference; Explainable artificial intelligence [XAI]; Interpretable artificial intelligence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256—Lane; Road marking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261—Obstacle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08—Detecting or categorising vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Evolutionary Computation (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Transportation (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Human Computer Interaction (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Image Analysis (AREA)

Abstract

移動体の周辺環境にある危険因子をより正確に判定することを可能にした走行支援装置及びコンピュータプログラムを提供する。具体的には、車両の周辺環境を撮像した撮像画像５１を取得し、３次元で地図を表現した地図画像において撮像画像の撮像範囲と同一範囲を撮像画像の撮像方向と同一方向から示す地図画像である地図情報画像５２を取得し、撮像画像と地図情報画像を複数チャネルの入力画像として機械学習に入力することによって、撮像画像には含まれていない車両の周辺環境にある危険因子を、学習データに基づいて抽出するように構成する。

Description

本発明は、移動体の走行支援を行う走行支援装置及びコンピュータプログラムに関する。
近年、例えば車両等の移動体に対する走行支援の一つとして、移動体の周辺にある危険因子を抽出し、抽出した危険因子を案内することが行われている。危険因子とは移動体が走行する際に注意するべき因子であり、例えば移動体から視認することが難しい位置にある（以下同様）他車両や歩行者等の障害物、交差道路、横断歩道等の道路標識、車線の増減区間、道路に面する建物の出入口等がある。上記のような危険因子を判定する手段としては、例えば移動体の現在位置や方位と地図情報とを比較して判定することや、移動体に搭載されたカメラ、センサ或いは通信機器を用いて判定することが可能である。
例えば特開２０１２−１９２８７８号公報には、車両の走行中において車両に設置されたカメラ、センサ及び通信機器を用いて周辺にある他車両等の障害物の位置や移動速度をリアルタイムで検出し、車両に死角領域があって、且つ死角領域の危険度が高いと判定された場合には、死角領域にある障害物を回避する為の運転支援を行うことが開示されている。
特開２０１２−１９２８７８号公報（第８−１１頁）
しかしながら、上記特許文献１では、自車両と他車両との位置関係に基づいて俯瞰的に死角領域を判定しているが、実際に運転者から視認できる周辺環境については考慮していないので、死角領域と判定された領域が実際の運転者の死角領域と異なる場合があった。また、先行車両や対向車両の挙動によって死角領域の危険度を判定しているが、仮に先行車両や対向車両が危険度の高いと判定される挙動を行ったとしても、実際に死角領域が危険であるか否かを正確に判定することは困難であった。従って、危険因子とならない死角領域についても危険因子と判定され、支援対象となる可能性がある。
本発明は前記従来における問題点を解消するためになされたものであり、移動体の周辺環境にある危険因子をより正確に判定することを可能にした走行支援装置及びコンピュータプログラムを提供することを目的とする。
前記目的を達成するため本発明に係る走行支援装置は、移動体の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段と、３次元で地図を表現した地図画像において前記撮像画像の撮像範囲と同一範囲を前記撮像画像の撮像方向と同一方向から示す地図画像を、地図情報画像として取得する地図情報画像取得手段と、前記撮像画像と前記地図情報画像を複数チャネルの入力画像として機械学習に入力することによって、前記撮像画像には含まれていない前記移動体の周辺環境にある危険因子を、学習データに基づいて抽出する危険因子抽出手段と、を有する。
尚、「移動体」とは、車両に限定されず、歩行者、自転車等の道路を移動するものであれば良い。
また、「危険因子」とは、移動体が走行する際に注意するべき因子であり、例えば移動体から視認することが難しい位置にある（以下同様）他車両や歩行者等の障害物、交差道路、横断歩道等の道路標識、車線の増減区間、道路に面する建物の出入口等がある。
また、本発明に係るコンピュータプログラムは、移動体の走行支援を行うプログラムである。具体的には、移動体の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段と、３次元で地図を表現した地図画像において前記撮像画像の撮像範囲と同一範囲を前記撮像画像の撮像方向と同一方向から示す地図画像を、地図情報画像として取得する地図情報画像取得手段と、前記撮像画像と前記地図情報画像を複数チャネルの入力画像として機械学習に入力することによって、前記撮像画像には含まれていない前記移動体の周辺環境にある危険因子を、学習データに基づいて抽出する危険因子抽出手段と、して機能させる。
前記構成を有する本発明に係る走行支援装置及びコンピュータプログラムによれば、３次元で地図を表現した地図画像と移動体の周辺の撮像画像とを複数チャネルの入力画像として機械学習に入力することによって、学習データに基づいて移動体の周辺環境にある危険因子をより正確に判定することが可能となる。
本実施形態に係るナビゲーション装置を示したブロック図である。 本実施形態に係る機械学習処理プログラムのフローチャートである。 撮像画像の撮像範囲を示した図である。 撮像画像に基づいて生成される地図情報画像を示した図である。 画像に対する機械学習の一例を説明した図である。 撮像画像と地図情報画像とを比較した図である。 本実施形態に係る危険因子判定処理プログラムのフローチャートである。
以下、本発明に係る走行支援装置についてナビゲーション装置に具体化した一実施形態に基づき図面を参照しつつ詳細に説明する。先ず、本実施形態に係るナビゲーション装置１の概略構成について図１を用いて説明する。図１は本実施形態に係るナビゲーション装置１を示したブロック図である。
図１に示すように本実施形態に係るナビゲーション装置１は、ナビゲーション装置１が搭載された車両の現在位置を検出する現在位置検出部１１と、各種のデータが記録されたデータ記録部１２と、入力された情報に基づいて、各種の演算処理を行うナビゲーションＥＣＵ１３と、ユーザからの操作を受け付ける操作部１４と、ユーザに対して車両周辺の地図やナビゲーション装置１に設定された案内経路に関する情報等を表示する液晶ディスプレイ１５と、経路案内に関する音声ガイダンスや危険因子に対する警告等を出力するスピーカ１６と、記憶媒体であるＤＶＤを読み取るＤＶＤドライブ１７と、プローブセンタやＶＩＣＳ（登録商標：Vehicle Information and Communication System）センタ等の情報センタとの間で通信を行う通信モジュール１８と、を有している。また、ナビゲーション装置１は、ＣＡＮ等の車載ネットワークを介して、ナビゲーション装置１の搭載された車両に対して設置された車外カメラ１９が接続されている。
以下に、ナビゲーション装置１が有する各構成要素について順に説明する。
現在位置検出部１１は、ＧＰＳ２１、車速センサ２２、ステアリングセンサ２３、ジャイロセンサ２４等からなり、現在の車両の位置、方位、車両の走行速度、現在時刻等を検出することが可能となっている。ここで、特に車速センサ２２は、車両の移動距離や車速を検出する為のセンサであり、車両の駆動輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションＥＣＵ１３に出力する。そして、ナビゲーションＥＣＵ１３は発生するパルスを計数することにより駆動輪の回転速度や移動距離を算出する。尚、上記４種類のセンサをナビゲーション装置１が全て備える必要はなく、これらの内の１又は複数種類のセンサのみをナビゲーション装置１が備える構成としても良い。
また、データ記録部１２は、外部記憶装置及び記録媒体としてのハードディスク（図示せず）と、ハードディスクに記録された地図情報ＤＢ３１や撮像画像ＤＢ３２や所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド（図示せず）とを備えている。尚、データ記録部１２としてはハードディスクの代わりにメモリーカードやＣＤやＤＶＤ等の光ディスクを有しても良い。また、地図情報ＤＢ３１や撮像画像ＤＢ３２は外部のサーバに格納させ、ナビゲーション装置１が通信により取得しても良い。
ここで、地図情報ＤＢ３１は、２次元地図情報３３と３次元地図情報３４とがそれぞれ記憶される。２次元地図情報３３は、一般的なナビゲーション装置１において用いられる地図情報であり、例えば、道路（リンク）に関するリンクデータ、ノード点に関するノードデータ、施設に関する施設データ、経路探索処理に用いられる探索データ、地図を表示するための地図表示データ、各交差点に関する交差点データ、地点を検索するための検索データ等を含む。
一方、３次元地図情報３４は、３次元で地図を表現した地図画像に関する情報である。特に本実施形態では３次元で道路の輪郭を表現した地図画像に関する情報とする。尚、道路の輪郭以外の情報についても表現した地図画像としても良い。例えば、施設形状、道路の区画線、道路標識、看板等についても３次元で表現した地図画像としても良い。
そして、ナビゲーション装置１は、液晶ディスプレイ１５における地図画像の表示、案内経路の探索等の一般的な機能については２次元地図情報３３を用いて行う。また、後述のように危険因子の判定に係る処理については３次元地図情報３４を用いて行う。
また、撮像画像ＤＢ３２は、車外カメラ１９によって撮像された撮像画像３５が格納される記憶手段である。尚、車外カメラ１９によって撮像された撮像画像３５は累積的に撮像画像ＤＢ３２に格納され、古い画像から順に削除される。
一方、ナビゲーションＥＣＵ（エレクトロニック・コントロール・ユニット）１３は、ナビゲーション装置１の全体の制御を行う電子制御ユニットであり、演算装置及び制御装置としてのＣＰＵ４１、並びにＣＰＵ４１が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるＲＡＭ４２、制御用のプログラムのほか、後述の機械学習処理プログラム（図２参照）及び危険因子判定処理プログラム（図７参照）等が記録されたＲＯＭ４３、ＲＯＭ４３から読み出したプログラムを記憶するフラッシュメモリ４４等の内部記憶装置を備えている。尚、ナビゲーションＥＣＵ１３は、処理アルゴリズムとしての各種手段を有する。例えば、周辺環境撮像手段は、車両の周辺環境を撮像した撮像画像を取得する。地図情報画像取得手段は、３次元地図情報３４において撮像画像の撮像範囲と同一範囲を撮像画像の撮像方向と同一方向から示す地図画像を、地図情報画像として取得する。危険因子抽出手段は、撮像画像と地図情報画像を複数チャネルの入力画像として機械学習に入力することによって、撮像画像には含まれていない車両の周辺環境にある危険因子を、学習データに基づいて抽出する。
操作部１４は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ（図示せず）を有する。そして、ナビゲーションＥＣＵ１３は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、操作部１４は液晶ディスプレイ１５の前面に設けたタッチパネルを有しても良い。また、マイクと音声認識装置を有しても良い。
また、液晶ディスプレイ１５には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、ナビゲーション装置１で設定されている案内経路、案内経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。尚、液晶ディスプレイ１５の代わりに、ＨＵＤやＨＭＤを用いても良い。また、本実施形態では特に、危険因子の判定結果の案内についても表示する。
また、スピーカ１６は、ナビゲーションＥＣＵ１３からの指示に基づいて案内経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。また、本実施形態では特に、危険因子の判定結果の案内についても出力する。
また、ＤＶＤドライブ１７は、ＤＶＤやＣＤ等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて音楽や映像の再生、地図情報ＤＢ３１の更新等が行われる。尚、ＤＶＤドライブ１７に替えてメモリーカードを読み書きする為のカードスロットを設けても良い。
また、通信モジュール１８は、交通情報センタ、例えば、ＶＩＣＳセンタやプローブセンタ等から送信された交通情報を受信する為の通信装置であり、例えば携帯電話機やＤＣＭが該当する。
また、車外カメラ１９は、例えばＣＣＤ等の固体撮像素子を用いたカメラにより構成され、車両のルームミラーの裏側やフロントバンパ等に取り付けられるとともに光軸方向を水平より所定角度下方に向けて設置される。そして、車外カメラ１９は、車両の進行方向前方の周辺環境を撮像する。また、ナビゲーションＥＣＵ１３は後述のように撮像された撮像画像を３次元地図情報３４の画像とともに複数チャネルの入力画像として機械学習に入力することによって、車両周辺にある危険因子を判定する。尚、車外カメラ１９は車両の側方や後方にも配置するように構成しても良い。また、車外カメラ１９の設置位置は運転者の目の位置（視線開始点）と略同一であって、光軸方向は通常時の運転者の視線方向と略同一となるように調整するのが望ましい。それによって、車外カメラ１９によって撮像された画像が運転者の視野と一致することとなり、危険因子の判定をより適切に行うことが可能となる。
本実施形態に係るナビゲーション装置１において上記機械学習によって判定される危険因子とは、車両が走行する際に注意するべき（案内を行うべき）因子である。例えば車両から視認することが難しい位置にある（以下同様）他車両や歩行者等の障害物、交差道路、横断歩道等の道路標識、車線の増減区間、道路に面する建物の出入口等がある。例えば、「道路に面する建物の出入口」については、歩行者が新たに道路上に出現する可能性のある地点であり、車両が走行する際に注意するべき場所となる。また、「車線の増減区間」については他車両が車線変更を行う可能性のある地点であり、車両が走行する際に注意するべき場所となる。
尚、本実施形態では前記したように３次元地図情報３４は、特に道路の輪郭線を３次元で表現した地図画像に関する情報である。従って、３次元地図情報３４の地図画像を機械学習に入力することによって判定対象となる危険因子は道路に関する因子、例えば“車両から視認することが難しい位置にある交差道路”となる。但し、３次元地図情報３４に含める情報の数を増やすことによって、その他の種類の危険因子についても判定対象とすることが可能である。例えば、３次元地図情報３４に区画線の情報を含めることによって、“車両から視認することが難しい位置にある車線の増減区間”を危険因子として判定対象とする。更に、３次元地図情報３４に施設の形状の情報を含めることによって、“車両から視認することが難しい位置にある道路に面する建物の出入口”を危険因子として判定対象とする。
続いて、上記構成を有する本実施形態に係るナビゲーション装置１においてＣＰＵ４１が実行する機械学習処理プログラムについて図２に基づき説明する。図２は本実施形態に係る機械学習処理プログラムのフローチャートである。ここで、機械学習処理プログラムは、車両のＡＣＣがＯＮされた後に実行され、車外カメラ１９で撮像した撮像画像と３次元地図情報３４とに基づいて危険因子を判定する為の機械学習を行う際における学習用教師信号（正解値）を設定するプログラムである。尚、機械学習処理プログラム（図２）は後述の危険因子を判定する為の危険因子判定処理プログラム（図７）と並行して実施される。即ち、危険因子判定処理プログラム（図７）によって危険因子の判定を行いつつ、機械学習処理プログラム（図２）によって危険因子の判定を行う為のより適切な学習用教師信号（正解値）を設定する。また、以下の図２及び図７にフローチャートで示されるプログラムは、ナビゲーションＥＣＵ１３が備えているＲＡＭ４２、ＲＯＭ４３等に記憶されており、ＣＰＵ４１により実行される。
先ず、機械学習処理プログラムでは、ステップ（以下、Ｓと略記する）１において、ＣＰＵ４１は車両の現在位置及び方位を現在位置検出部１１の検出結果に基づいて取得する。具体的には、２次元地図情報３３を用いて車両の現在位置を示す地図上の位置座標を取得する。尚、車両の現在位置を検出する際には、車両の現在位置を２次元地図情報３３にマッチングさせるマップマッチング処理についても行う。更に、車両の現在位置は、高精度ロケーション技術を用いて特定しても良い。ここで、高精度ロケーション技術とは、車両後方のカメラから取り込んだ白線や路面ペイント情報を画像認識により検出し、更に、白線や路面ペイント情報を予め記憶した地図情報ＤＢと照合することにより、走行車線や高精度な車両位置を検出可能にする技術である。尚、高精度ロケーション技術の詳細については既に公知であるので省略する。尚、車両の現在位置及び方位は最終的に３次元地図情報３４の地図上で特定するのが望ましい。
次に、Ｓ２においてＣＰＵ４１は、地図情報ＤＢ３１に格納された３次元地図情報３４の内、特に前記Ｓ１で特定された車両の現在位置周辺（例えば車両の現在位置から３００ｍ周囲）の３次元地図情報３４を取得する。
続いて、Ｓ３においてＣＰＵ４１は、直近に車外カメラ１９で撮像された撮像画像を撮像画像ＤＢ３２から取得する。尚、車外カメラ１９で撮像された撮像画像は、運転者の視線開始点（視点）及び視線方向に対応して車両の進行方向前方、即ち運転者が視認する前方環境（運転者の視野）を撮像した画像である。
その後、Ｓ４においてＣＰＵ４１は、前記Ｓ３で取得した撮像画像の撮像範囲を取得する。ここで、図３に示すように撮像画像３５の撮像範囲は、撮像を行った時点の車外カメラ１９の焦点Ｐの位置、光軸方向α、画角φによって特定することが可能である。尚、画角φは車外カメラ１９によって予め決められた固定値である。一方、焦点Ｐの位置は前記Ｓ１で取得した車両の現在位置と車両における車外カメラ１９の設置位置に基づいて決まる。また、光軸方向αは前記Ｓ１で取得した車両の方位と車両における車外カメラ１９の設置方向に基づいて決まる。
次に、Ｓ５においてＣＰＵ４１は、前記Ｓ２で取得した３次元地図情報３４を用いて、前記Ｓ４で取得した撮像画像の撮像範囲と同一範囲を撮像画像の撮像方向と同一方向から３次元で地図を表現した俯瞰画像（以下、地図情報画像という）を生成する。尚、地図情報画像自体は、撮像画像と同じ２次元の画像である。
ここで、図４は撮像画像５１に対応して生成される地図情報画像５２の一例を示した図である。図４に示すように地図情報画像５２は撮像画像５１の撮像範囲（即ち運転者の視野内）に含まれる道路の輪郭５３を示す線が描かれた画像となる。そして、撮像画像５１では他車両等の障害物によって隠れている道路の輪郭についても地図情報画像５２では描かれることとなる。
その後、Ｓ６においてＣＰＵ４１は、前記Ｓ３で取得した撮像画像と前記Ｓ５で生成された地図情報画像とを複数チャネルの入力画像として機械学習に入力する。また、撮像画像に関してはＲＧＢの各３色で表現した３チャンネルの入力画像として機械学習に入力するので、地図情報画像と含めて４チャンネルの入力画像となる。尚、本実施形態では特に多層構造の畳み込みニューラルネットワークを用いた機械学習（Deep Learning）を用いる。
図５に示すようにＲＧＢの各３色で表現した撮像画像５１と地図情報画像５２を４チャンネルの入力画像として学習モデルに入力すると、先ず畳み込みニューラルネットワーク（以下、畳み込みＣＮＮという）５５に基づく画像処理が行われる。畳み込みＣＮＮ５５では、『畳み込み層』と『プーリング層』を複数回繰り返し、危険因子を判定する為の特に重要な特徴マップ５６が出力される。
また、『畳み込み層』は入力した画像に対してフィルタをかける（畳み込む）層である。画像の畳み込みによって画像内のパターン（特徴）が検出できるようになる。また、畳み込むフィルタは複数とする。フィルタの数を複数とすることで入力した画像の様々な特徴を捉えることが可能となる。また、フィルタをかけることによって、出力される画像のサイズが小さくなる。出力された画像は特徴マップとも呼ばれる。また、この畳み込み層に用いるフィルタは設計者が設定する必要はなく、学習によって取得することが可能である。尚、学習が進むことによって、危険因子を判定する為の特に重要な特徴を抽出する為に適したフィルタが設定されることとなる。この機械学習処理プログラムによって設定する学習用教師信号（正解値）には上記フィルタも含まれる。
一方、『プーリング層』は畳み込み層の直後に置かれ、抽出された特徴の位置感度を低下させる。具体的には、畳み込みの出力を粗くリサンプリングすることによって、画像の多少のずれによる違いを吸収する。プーリング層でも入力画像に比べて出力画像のサイズは小さくなる。
そして、上記『畳み込み層』と『プーリング層』を複数回繰り返した後に、最終的に全結合した多層パーセプトロンを出力する。多層パーセプトロンは１次元ベクトルのデータとなる。
その後、畳み込みＣＮＮ５５によって出力された全結合した多層パーセプトロンを、危険因子判定の為のニューラルネットワーク（以下、危険判定ＣＮＮという）５７の入力層に対して入力する。そして、危険判定ＣＮＮ５７では、入力層での処理を行った後の出力データである各ニューロンにウェイト（重み係数）を乗じたデータを次の中間層に対して入力する。そして、中間層においても同様に中間層での処理を行った後の出力データである各ニューロンにウェイト（重み係数）を乗じたデータを次の出力層に対して入力する。そして、出力層において中間層から入力されたデータを用いて最終的な危険因子の判定を行い、判定結果（即ち抽出された危険因子）が出力される。尚、危険判定ＣＮＮ５７は、学習が進むことによって、上記ウェイト（重み係数）がより適した値に適宜変更され、設定されることとなる。本実施形態では、特に第１の中間層が危険判定エリアにある物体の位置及び動きを検出する層であり、第２の中間層が検出された物体の位置や動きを車両の周辺状況（シーン）として認識を行う層であり、出力層が車両の周辺状況（シーン）から危険因子の判定を行う層となる。この機械学習処理プログラムによって設定する学習用教師信号（正解値）には上記ウェイト（重み係数）も含まれる。
また、特に本実施形態では入力対象となる撮像画像５１と地図情報画像５２とを同一チャンネルで重ね合せて入力することによって、同一の画素間（即ち車両周辺の同一エリア）での相関、即ち撮像画像と地図情報画像との間に差分がある差分エリアを容易に識別することが可能となる。ＣＰＵ４１は、撮像画像と地図情報画像との間に差分がある差分エリアを、地図画像上には存在するが撮像画像では何らかの理由によって消失した（撮像されなかった）対象があるエリアであり、車両の乗員から死角となるエリアと推定する。従って、特に差分エリア内において機械学習によって抽出された特徴部分から危険因子を判定することによって、危険因子の判定に係る処理をより軽くすることが可能となる。尚、機械学習によって抽出される特徴部分としては、地図情報画像には含まれている一方で撮像画像には含まれていない対象物、即ち運転者の視野内にはあるが視認できない対象物が含まれることとなる。
例えば、図６に示す撮像画像５１（実際にはＲＧＢで表現された３つの画像）と地図情報画像５２とが機械学習に入力される場合には、地図情報画像５２には存在する道路の輪郭の一部が撮像画像５１では他車両によって消失する。即ち、図６に示す例では破線に囲まれたエリアが差分エリア５８となる。また、上記機械学習によって抽出される特徴部分は道路の輪郭線を被覆する他車両や消失した輪郭線となる。これらの特徴部分は差分エリア５８にあるので、差分エリア５８を容易に識別可能とすることによって、上記特徴部分の抽出に係る処理を容易化することが可能となる。従って、例えば差分エリア５８内に運転者に視認できない交差道路等の危険因子の候補が存在する場合において、機械学習によって該交差道路を危険因子として判定し易くなる。尚、図６に示す例では他車両によって道路の輪郭線が撮像画像５１から消失しているが、他車両以外にも建造物等によって消失する場合もある。
その後、Ｓ７においてＣＰＵ４１は、前記Ｓ６の学習結果に基づいて学習データである学習用教師信号（正解値）を設定する。尚、学習用教師信号には、上述したように畳み込み層に用いるフィルタや危険判定ＣＮＮ５７に用いるウェイト（重み係数）が含まれる。その結果、機械学習処理プログラムを繰り返し行うことによって、危険因子を特定する為の特に重要な特徴を抽出する為に適したフィルタが設定され、車両の周辺状況（シーン）からより正確な危険因子の判定を行うことが可能となる。特に本実施形態では学習用教師信号には、地図情報画像には含まれている一方で撮像画像には含まれていない対象物（即ち運転者の視野内にはあるが視認できない対象物）を危険因子として判定する為の学習データを含むこととなる。
続いて、本実施形態に係るナビゲーション装置１においてＣＰＵ４１が実行する危険因子判定処理プログラムについて図７に基づき説明する。図７は本実施形態に係る危険因子判定処理プログラムのフローチャートである。ここで、危険因子判定処理プログラムは、車両のＡＣＣがＯＮされた後に実行され、車外カメラ１９で撮像した撮像画像と３次元地図情報３４とに基づいて車両の周囲にある危険因子を判定し、判定結果を出力するプログラムである。尚、危険因子判定処理プログラム（図７）は前述した機械学習処理プログラム（図２）と並行して実施される。即ち、危険因子判定処理プログラム（図７）によって危険因子の判定を行いつつ、機械学習処理プログラム（図２）によって危険因子の判定を行う為のより適切な学習用教師信号（正解値）を設定する。
先ず、危険因子判定処理プログラムでは、Ｓ１１において、ＣＰＵ４１は車両の現在位置及び方位を現在位置検出部１１の検出結果に基づいて取得する。尚、詳細はＳ１と同様であるので省略する。
次に、Ｓ１２においてＣＰＵ４１は、地図情報ＤＢ３１に格納された３次元地図情報３４の内、特に前記Ｓ１１で特定された車両の現在位置周辺（例えば車両の現在位置から３００ｍ周囲）の３次元地図情報３４を取得する。
続いて、Ｓ１３においてＣＰＵ４１は、直近に車外カメラ１９で撮像された撮像画像を撮像画像ＤＢ３２から取得する。尚、車外カメラ１９で撮像された撮像画像は、運転者の視線開始点（視点）及び視線方向に対応して車両の進行方向前方、即ち運転者が視認する前方環境（運転者の視野）を撮像した画像である。
その後、Ｓ１４においてＣＰＵ４１は、前記Ｓ３で取得した撮像画像の撮像範囲を取得する。尚、詳細はＳ４と同様であるので省略する。
次に、Ｓ１５においてＣＰＵ４１は、前記Ｓ１２で取得した３次元地図情報３４を用いて、前記Ｓ１４で取得した撮像画像の撮像範囲と同一範囲を撮像画像の撮像方向と同一方向から３次元で地図を表現した俯瞰画像（地図情報画像）を生成する。
その後、Ｓ１６においてＣＰＵ４１は、前記Ｓ１３で取得した撮像画像と前記Ｓ１５で生成された地図情報画像とを複数チャネルの入力画像として機械学習に入力する。また、撮像画像に関してはＲＧＢの各３色で表現した３チャンネルの入力画像として機械学習に入力するので、地図情報画像と含めて４チャンネルの入力画像となる。尚、本実施形態では特に多層構造の畳み込みニューラルネットワークを用いた機械学習（Deep Learning）を用いる。
尚、本実施形態では特に多層構造の畳み込みニューラルネットワークを用いた機械学習（Deep Learning）を用いる。また、前述した機械学習処理プログラム（図２）によって設定された最新の学習用教師信号（正解値）を用いる。尚、機械学習の内容についてはＳ６で説明したので詳細は省略する
そして、Ｓ１７においてＣＰＵ４１は、前記Ｓ１６の機械学習の結果に基づいて車両の周辺環境にある危険因子の判定を行う。上述したように本実施形態では入力対象となる撮像画像と地図情報画像とを同一チャンネルで重ね合せて入力することによって、同一の画素間（即ち車両周辺の同一エリア）での相関、即ち撮像画像と地図情報画像との間に差分がある差分エリアを容易に識別することが可能となる。そして、特に差分エリア内において機械学習によって抽出された特徴部分から危険因子を判定する。それによって、危険因子の判定並びに抽出に係る処理をより軽くすることが可能となる。尚、学習用教師信号には、地図情報画像には含まれている一方で撮像画像には含まれていない対象物（即ち運転者の視野内にはあるが視認できない対象物）を危険因子として判定する為の学習データを含むので、車両の周辺環境において運転者に視認できない交差道路等の危険因子の候補が存在する場合において、学習用教師信号等の学習データに基づいて該交差道路を危険因子として正確に判定することが可能となる。
例えば、図６に示す撮像画像５１と地図情報画像５２を機械学習に入力した場合には、差分エリア５８において特徴部分として道路の輪郭線を被覆する他車両や、他車両によって消失する道路の輪郭線が抽出される。そして、機械学習では、抽出した特徴部分に基づいて、他車両によって消失する道路の輪郭線に対応する道路は、他車両によって自車両から死角となっている交差道路であり、危険因子として存在すると判定することが可能となる。学習を重ねることによってより精度が向上すれば、運転者が気付くことができない危険因子についても判定することが可能となる。
その後ナビゲーション装置１では、危険因子の判定結果（即ち抽出された危険因子）を出力する。具体的には、危険因子が存在すると判定された場合には、危険因子が存在することをユーザに案内しても良いし、危険因子を避ける車両制御を行っても良い。例えば、「車両の前方に注意してください」との案内を行う。また、危険因子がどのような種類のものであるかを機械学習によって判別できるのであれば、より具体的に危険因子を特定する案内（例えば「車両の前方死角にある交差道路に注意してください」）を行っても良い。また、危険因子の位置についても案内しても良い。一方、車両制御を行う場合には、例えば減速制御を行う。また、自動運転車両に対して適用することも可能である。その場合には、例えば危険因子を避ける走行経路を設定する等の制御が可能である。
以上詳細に説明した通り、本実施形態に係るナビゲーション装置１及びナビゲーション装置１で実行されるコンピュータプログラムでは、車両の周辺環境を撮像した撮像画像を取得し（Ｓ１３）、３次元で地図を表現した地図画像において撮像画像の撮像範囲と同一範囲を撮像画像の撮像方向と同一方向から示す地図画像である地図情報画像を取得し（Ｓ１５）、撮像画像と地図情報画像を複数チャネルの入力画像として機械学習に入力することによって、撮像画像には含まれていない車両の周辺環境にある危険因子を、学習データに基づいて抽出する（Ｓ１６、Ｓ１７）ので、車両の周辺環境にある危険因子をより正確に判定することが可能となる。
また、従来技術（例えば特開２０１２−１９２８７８号公報）では車両の走行中において車両に設置されたカメラ、センサ及び通信機器を用いて周辺にある先行車両、対向車両の位置や移動速度を常時検出する必要があり、該当する車両の数が多くなると、危険因子の判定に係る処理負担が非常に重くなる問題がある。それに対し、本実施形態では危険因子の判定に関する処理負担について従来に比べて軽くすることが可能となる。
尚、本発明は前記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
例えば、本実施形態では、３次元地図情報３４は３次元で道路の輪郭を表現した地図画像に関する情報であるが、道路の輪郭以外の情報を表現した地図情報としても良い。例えば、施設形状、道路の区画線、道路標識、看板等についても表現した地図画像としても良い。その場合には、危険因子として交差道路以外の因子についても判定対象とすることが可能となる。例えば、３次元地図情報３４に区画線の情報を含めることによって、“車両から視認することが難しい位置にある車線の増減区間”を危険因子として判定することが可能となる。
また、本実施形態では機械学習として特に多層構造の畳み込みニューラルネットワークを用いた機械学習（Deep Learning）を用いているが、その他の機械学習を用いることも可能である。
また、本実施形態では機械学習処理プログラム（図２）と危険因子判定処理プログラム（図７）と並行して実施しているが、各プログラムは必ずしも同時に実行する必要はなく、例えば危険因子判定処理プログラム（図７）を実行した後に機械学習処理プログラム（図２）を実行しても良い。
また、本実施形態では機械学習処理プログラム（図２）及び危険因子判定処理プログラム（図７）はナビゲーション装置１が実施しているが、ナビゲーション装置以外の車載器が実施する構成としても良い。また、車載器が全ての処理を実施するのではなく、一部の処理を外部サーバが実施することとしても良い。
また、本発明に係る走行支援装置を具体化した実施例について上記に説明したが、走行支援装置は以下の構成を有することも可能であり、その場合には以下の効果を奏する。
例えば、第１の構成は以下のとおりである。
移動体の周辺環境を撮像した撮像画像（５１）を取得する周辺環境撮像手段（４１）と、３次元で地図を表現した地図画像において前記撮像画像の撮像範囲と同一範囲を前記撮像画像の撮像方向と同一方向から示す地図画像を、地図情報画像（５２）として取得する地図情報画像取得手段（４１）と、前記撮像画像と前記地図情報画像を複数チャネルの入力画像として機械学習に入力することによって、前記撮像画像には含まれていない前記移動体の周辺環境にある危険因子を、学習データに基づいて抽出する危険因子抽出手段（４１）と、を有する。
上記構成を有する走行支援装置によれば、３次元で地図を表現した地図画像と移動体の周辺の撮像画像とを複数チャネルの入力画像として機械学習に入力することによって、学習データに基づいて移動体の周辺環境にある危険因子をより正確に判定することが可能となる。
また、第２の構成は以下のとおりである。
前記危険因子抽出手段（４１）は、前記撮像画像（５１）と前記地図情報画像（５２）との間に差分が生じる差分エリアの特徴部分から前記移動体の周辺環境にある危険因子を抽出する。
上記構成を有する走行支援装置によれば、従来に比べて危険因子の判定に関する処理負担を軽くすることが可能となる。
また、第３の構成は以下のとおりである。
前記危険因子抽出手段（４１）は、前記地図情報画像（５２）には含まれている一方で前記撮像画像（５１）には含まれていない対象物を、前記特徴部分として抽出する。
上記構成を有する走行支援装置によれば、運転者の死角、即ち運転者から視認できない位置に存在する危険因子に繋がる対象物を特徴物として容易に抽出することが可能となる。
また、第４の構成は以下のとおりである。
前記地図画像は、３次元で道路の輪郭を表現した地図画像であって、前記危険因子抽出手段（４１）は、前記地図情報画像（５２）には含まれている一方で前記撮像画像（５１）には含まれていない道路の輪郭がある場合に、該輪郭に対応する道路を危険因子として判定する。
上記構成を有する走行支援装置によれば、特に車両から死角となる位置にある道路を危険因子として判定することが可能となる。また、３次元地図を道路の輪郭を特定する情報とすることによって、３次元地図の情報量を抑えることが可能となる。
また、第５の構成は以下のとおりである。
前記危険因子抽出手段（４１）は、多層構造のニューラルネットワークを用いた機械学習によって前記移動体の周辺環境にある危険因子を判定する。
上記構成を有する走行支援装置によれば、多層構造のニューラルネットワークを用いた機械学習によって、画像の特徴をより深いレベルで学習し、非常に高い精度で特徴を認識できるので、危険因子のより正確な判定が可能となる。特に、ユーザ側で特徴を抽出する為のフィルタを設定することなく、学習によって最適なフィルタを設定することが可能である。
１ ナビゲーション装置
１３ ナビゲーションＥＣＵ
１９ 車外カメラ
３１ 地図情報ＤＢ
３２ 撮像画像ＤＢ
３３ ２次元地図情報
３４ ３次元地図情報
４１ ＣＰＵ
４２ ＲＡＭ
４３ ＲＯＭ
５１ 撮像画像
５２ 地図情報画像
５５ 畳み込みＣＮＮ
５７ 危険判定ＣＮＮ

Claims (6)

  1. 移動体の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段と、
    ３次元で地図を表現した地図画像において前記撮像画像の撮像範囲と同一範囲を前記撮像画像の撮像方向と同一方向から示す地図画像を、地図情報画像として取得する地図情報画像取得手段と、
    前記撮像画像と前記地図情報画像を複数チャネルの入力画像として機械学習に入力することによって、前記撮像画像には含まれていない前記移動体の周辺環境にある危険因子を、学習データに基づいて抽出する危険因子抽出手段と、を有する走行支援装置。
  2. 前記危険因子抽出手段は、前記撮像画像と前記地図情報画像との間に差分が生じる差分エリアの特徴部分から前記移動体の周辺環境にある危険因子を抽出する請求項１に記載の走行支援装置。
  3. 前記危険因子抽出手段は、前記地図情報画像には含まれている一方で前記撮像画像には含まれていない対象物を、前記特徴部分として抽出する請求項２に記載の走行支援装置。
  4. 前記地図画像は、３次元で道路の輪郭を表現した地図画像であって、
    前記危険因子抽出手段は、前記地図情報画像には含まれている一方で前記撮像画像には含まれていない道路の輪郭がある場合に、該輪郭に対応する道路を前記特徴部分として抽出する請求項３に記載の走行支援装置。
  5. 前記危険因子抽出手段は、多層構造のニューラルネットワークを用いた機械学習によって前記移動体の周辺環境にある危険因子を抽出する請求項１乃至請求項４のいずれかに記載の走行支援装置。
  6. コンピュータを、
    移動体の周辺環境を撮像した撮像画像を取得する周辺環境撮像手段と、
    ３次元で地図を表現した地図画像において前記撮像画像の撮像範囲と同一範囲を前記撮像画像の撮像方向と同一方向から示す地図画像を、地図情報画像として取得する地図情報画像取得手段と、
    前記撮像画像と前記地図情報画像を複数チャネルの入力画像として機械学習に入力することによって、前記撮像画像には含まれていない前記移動体の周辺環境にある危険因子を、学習データに基づいて抽出する危険因子抽出手段と、して機能させる為のコンピュータプログラム。
JP2018544001A 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム Expired - Fee Related JP6566145B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016199254 2016-10-07
JP2016199254 2016-10-07
PCT/JP2017/036562 WO2018066712A1 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JPWO2018066712A1 true JPWO2018066712A1 (ja) 2019-04-25
JP6566145B2 JP6566145B2 (ja) 2019-08-28

Family

ID=61831788

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018544001A Expired - Fee Related JP6566145B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム
JP2018544000A Active JP6658905B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム
JP2018543999A Active JP6700623B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2018544000A Active JP6658905B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム
JP2018543999A Active JP6700623B2 (ja) 2016-10-07 2017-10-09 走行支援装置及びコンピュータプログラム

Country Status (5)

Country Link
US (3) US10733462B2 (ja)
EP (3) EP3496069B1 (ja)
JP (3) JP6566145B2 (ja)
CN (3) CN109791737A (ja)
WO (3) WO2018066712A1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11017269B2 (en) * 2016-09-30 2021-05-25 General Electric Company System and method for optimization of deep learning architecture
KR102535540B1 (ko) * 2017-01-12 2023-05-23 모빌아이 비젼 테크놀로지스 엘티디. 차량 움직임에 기반한 항법
CN108346107B (zh) * 2017-12-28 2020-11-10 创新先进技术有限公司 一种社交内容风险识别方法、装置以及设备
US11365976B2 (en) * 2018-03-02 2022-06-21 Nvidia Corporation Semantic label based filtering of objects in an image generated from high definition map data
US10837788B1 (en) 2018-05-03 2020-11-17 Zoox, Inc. Techniques for identifying vehicles and persons
US11846514B1 (en) 2018-05-03 2023-12-19 Zoox, Inc. User interface and augmented reality for representing vehicles and persons
US10809081B1 (en) * 2018-05-03 2020-10-20 Zoox, Inc. User interface and augmented reality for identifying vehicles and persons
CN112384760A (zh) * 2018-05-15 2021-02-19 御眼视觉技术有限公司 用于自主车辆导航的系统和方法
JP6766844B2 (ja) * 2018-06-01 2020-10-14 株式会社デンソー 物体識別装置、移動体用システム、物体識別方法、物体識別モデルの学習方法及び物体識別モデルの学習装置
US11002066B2 (en) * 2018-06-19 2021-05-11 Apple Inc. Systems with dynamic pixelated windows
JP7070157B2 (ja) * 2018-06-29 2022-05-18 富士通株式会社 画像処理プログラム、画像処理装置及び画像処理方法
US11195030B2 (en) * 2018-09-14 2021-12-07 Honda Motor Co., Ltd. Scene classification
US20200090501A1 (en) * 2018-09-19 2020-03-19 International Business Machines Corporation Accident avoidance system for pedestrians
US11495028B2 (en) * 2018-09-28 2022-11-08 Intel Corporation Obstacle analyzer, vehicle control system, and methods thereof
US11055857B2 (en) * 2018-11-30 2021-07-06 Baidu Usa Llc Compressive environmental feature representation for vehicle behavior prediction
WO2020147962A1 (en) * 2019-01-18 2020-07-23 Vestel Elektronik Sanayi Ve Ticaret A.S. Head-up display system
US10824947B2 (en) * 2019-01-31 2020-11-03 StradVision, Inc. Learning method for supporting safer autonomous driving without danger of accident by estimating motions of surrounding objects through fusion of information from multiple sources, learning device, testing method and testing device using the same
JP7228472B2 (ja) * 2019-06-07 2023-02-24 本田技研工業株式会社 認識装置、認識方法、およびプログラム
EP3970060A1 (en) * 2019-06-10 2022-03-23 Huawei Technologies Co., Ltd. Driver attention detection using heat maps
KR102664123B1 (ko) * 2019-09-09 2024-05-09 현대자동차주식회사 차량 데이터 생성 장치 및 방법, 그리고 시스템
JP7139300B2 (ja) * 2019-10-03 2022-09-20 本田技研工業株式会社 認識装置、認識方法、およびプログラム
JP7407034B2 (ja) * 2020-03-19 2023-12-28 本田技研工業株式会社 走行経路設定装置、走行経路を設定する方法およびプログラム
JP7380443B2 (ja) * 2020-06-22 2023-11-15 トヨタ自動車株式会社 部分画像生成装置及び部分画像生成用コンピュータプログラム
CN116583889A (zh) * 2020-11-27 2023-08-11 日产自动车株式会社 车辆辅助方法及车辆辅助装置
JP2022123940A (ja) * 2021-02-15 2022-08-25 本田技研工業株式会社 車両制御装置
JP2022161066A (ja) * 2021-04-08 2022-10-21 トヨタ自動車株式会社 表示制御システム、表示制御方法及びプログラム
CN113899355A (zh) * 2021-08-25 2022-01-07 上海钧正网络科技有限公司 地图更新方法、装置、云端服务器和共享骑行设备
US20230177839A1 (en) * 2021-12-02 2023-06-08 Nvidia Corporation Deep learning based operational domain verification using camera-based inputs for autonomous systems and applications

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005215879A (ja) * 2004-01-28 2005-08-11 Mazda Motor Corp 車両用画像表示装置、車両用画像表示方法及び車両用画像表示プログラム
JP2011150633A (ja) * 2010-01-25 2011-08-04 Toyota Central R&D Labs Inc 対象物検出装置及びプログラム
JP2012192878A (ja) * 2011-03-17 2012-10-11 Toyota Motor Corp 危険度判定装置
JP2013200684A (ja) * 2012-03-23 2013-10-03 Toyota Central R&D Labs Inc 情報提供装置、情報提供システム、情報提供方法、及びプログラム
JP2016122308A (ja) * 2014-12-25 2016-07-07 クラリオン株式会社 車両制御装置
JP2016130966A (ja) * 2015-01-14 2016-07-21 株式会社デンソーアイティーラボラトリ 危険度推定装置、危険度推定方法及び危険度推定用コンピュータプログラム

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07333317A (ja) * 1994-06-14 1995-12-22 Mitsubishi Electric Corp 移動体間距離認識装置
JPH09196695A (ja) * 1996-01-18 1997-07-31 Matsushita Electric Ind Co Ltd ナビゲーション案内装置
US6285317B1 (en) 1998-05-01 2001-09-04 Lucent Technologies Inc. Navigation system with three-dimensional display
DE60304254T2 (de) * 2002-07-01 2006-12-14 Mazda Motor Corp., Shinchi Zielführungssystem basiert auf visueller Tätigkeit des Fahrers
JP2006172215A (ja) 2004-12-16 2006-06-29 Fuji Photo Film Co Ltd 運転支援システム
JP4483764B2 (ja) * 2005-10-28 2010-06-16 株式会社デンソー 運転支援システムおよびプログラム
US8103442B2 (en) 2006-04-28 2012-01-24 Panasonic Corporation Navigation device and its method
JP2008046766A (ja) * 2006-08-11 2008-02-28 Denso Corp 車両外部情報表示装置
US8085140B2 (en) * 2006-09-04 2011-12-27 Panasonic Corporation Travel information providing device
EP2090867A4 (en) * 2006-12-05 2012-03-21 Navitime Japan Co Ltd NAVIGATION SYSTEM, PORTABLE TERMINAL DEVICE, AND PERIPHERAL IMAGE DISPLAY METHOD
JP5017242B2 (ja) 2008-12-03 2012-09-05 本田技研工業株式会社 視覚支援装置
JP5771889B2 (ja) * 2009-03-04 2015-09-02 日産自動車株式会社 経路案内装置及び経路案内方法
JP2010261747A (ja) * 2009-04-30 2010-11-18 Denso Corp 警報装置
US20120242505A1 (en) * 2010-03-16 2012-09-27 Takashi Maeda Road-vehicle cooperative driving safety support device
CN103155015B (zh) * 2010-09-08 2014-12-31 丰田自动车株式会社 移动物预测装置、假想活动物预测装置、程序模块、移动物预测方法以及假想活动物预测方法
JP5704902B2 (ja) * 2010-11-26 2015-04-22 東芝アルパイン・オートモティブテクノロジー株式会社 運転支援装置及び運転支援方法
JP5743576B2 (ja) * 2011-02-02 2015-07-01 スタンレー電気株式会社 物体検出システム
US20150051753A1 (en) * 2012-03-29 2015-02-19 Toyota Jidosha Kabushiki Kaisha Driving assistance device
US10270642B2 (en) * 2012-12-05 2019-04-23 Origin Wireless, Inc. Method, apparatus, and system for object tracking and navigation
DE102012218360A1 (de) * 2012-10-09 2014-04-10 Robert Bosch Gmbh Blickfeldanzeige für ein Fahrzeug
JP6136237B2 (ja) 2012-12-19 2017-05-31 アイシン・エィ・ダブリュ株式会社 走行支援システム、走行支援方法及びコンピュータプログラム
US9330256B2 (en) * 2013-02-01 2016-05-03 Qualcomm Incorporated Location based process-monitoring
JP2015104930A (ja) * 2013-11-28 2015-06-08 株式会社デンソー ヘッドアップディスプレイ装置
JP6241235B2 (ja) * 2013-12-04 2017-12-06 三菱電機株式会社 車両用運転支援装置
CN104112370B (zh) * 2014-07-30 2016-08-17 哈尔滨工业大学深圳研究生院 基于监控图像的停车场智能车位识别方法及系统
JP6361403B2 (ja) 2014-09-17 2018-07-25 アイシン・エィ・ダブリュ株式会社 自動運転支援システム、自動運転支援方法及びコンピュータプログラム
WO2016070193A1 (en) * 2014-10-31 2016-05-06 Nodal Inc. Systems, apparatus, and methods for improving safety related to movable/moving objects
CN104571513A (zh) * 2014-12-31 2015-04-29 东莞市南星电子有限公司 一种通过遮蔽摄像区域模拟触摸指令方法及系统
MX360967B (es) * 2015-04-21 2018-11-23 Nissan Motor Dispositivo de guiado de vehículos y método de guiado de vehículos.
MX371164B (es) * 2015-10-09 2020-01-21 Nissan Motor Dispositivo de despliegue vehicular y metodo de despliegue vehicular.
JP6623044B2 (ja) * 2015-11-25 2019-12-18 日立オートモティブシステムズ株式会社 ステレオカメラ装置
CN105930833B (zh) * 2016-05-19 2019-01-22 重庆邮电大学 一种基于视频监控的车辆跟踪与分割方法
US20180188427A1 (en) * 2016-12-29 2018-07-05 Uber Technologies, Inc. Color Filter Array for Image Capture Device
US10452926B2 (en) * 2016-12-29 2019-10-22 Uber Technologies, Inc. Image capture device with customizable regions of interest

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005215879A (ja) * 2004-01-28 2005-08-11 Mazda Motor Corp 車両用画像表示装置、車両用画像表示方法及び車両用画像表示プログラム
JP2011150633A (ja) * 2010-01-25 2011-08-04 Toyota Central R&D Labs Inc 対象物検出装置及びプログラム
JP2012192878A (ja) * 2011-03-17 2012-10-11 Toyota Motor Corp 危険度判定装置
JP2013200684A (ja) * 2012-03-23 2013-10-03 Toyota Central R&D Labs Inc 情報提供装置、情報提供システム、情報提供方法、及びプログラム
JP2016122308A (ja) * 2014-12-25 2016-07-07 クラリオン株式会社 車両制御装置
JP2016130966A (ja) * 2015-01-14 2016-07-21 株式会社デンソーアイティーラボラトリ 危険度推定装置、危険度推定方法及び危険度推定用コンピュータプログラム

Also Published As

Publication number Publication date
EP3496069A1 (en) 2019-06-12
EP3496068A4 (en) 2019-06-12
US20190344803A1 (en) 2019-11-14
JP6658905B2 (ja) 2020-03-04
WO2018066711A1 (ja) 2018-04-12
US20190197323A1 (en) 2019-06-27
EP3496069A4 (en) 2019-06-12
WO2018066712A1 (ja) 2018-04-12
JP6700623B2 (ja) 2020-05-27
EP3496068A1 (en) 2019-06-12
JPWO2018066710A1 (ja) 2019-06-24
CN109791053A (zh) 2019-05-21
CN109791737A (zh) 2019-05-21
WO2018066710A1 (ja) 2018-04-12
US10733462B2 (en) 2020-08-04
EP3496033A4 (en) 2019-10-23
JPWO2018066711A1 (ja) 2019-06-24
CN109791738A (zh) 2019-05-21
EP3496069B1 (en) 2022-10-26
CN109791738B (zh) 2021-12-21
US10878256B2 (en) 2020-12-29
US20190251374A1 (en) 2019-08-15
EP3496033A1 (en) 2019-06-12
JP6566145B2 (ja) 2019-08-28

Similar Documents

Publication Publication Date Title
JP6566145B2 (ja) 走行支援装置及びコンピュータプログラム
JP6834704B2 (ja) 走行支援装置及びコンピュータプログラム
US20210365750A1 (en) Systems and methods for estimating future paths
WO2019097763A1 (ja) 重畳画像表示装置及びコンピュータプログラム
WO2019097755A1 (ja) 表示装置及びコンピュータプログラム
JP5729176B2 (ja) 移動案内システム、移動案内装置、移動案内方法及びコンピュータプログラム
JP2019164611A (ja) 走行支援装置及びコンピュータプログラム
JP2018173860A (ja) 走行支援装置及びコンピュータプログラム
JP6946963B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP7163748B2 (ja) 車両用表示制御装置
JP7151073B2 (ja) 表示装置及びコンピュータプログラム
WO2018180756A1 (ja) 運転支援システム
JP2017062706A (ja) 走行支援システム、走行支援方法及びコンピュータプログラム
JP2018173861A (ja) 走行支援装置及びコンピュータプログラム
JP5573266B2 (ja) 車両用対象物画像認識装置、車両用対象物画像認識方法及びコンピュータプログラム
JP7143728B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP6984341B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2014154125A (ja) 走行支援システム、走行支援方法及びコンピュータプログラム
JP5712844B2 (ja) 移動体位置検出システム、移動体位置検出装置、移動体位置検出方法及びコンピュータプログラム
JP2022110828A (ja) 重畳画像表示装置
JP2014145672A (ja) 走行案内システム、走行案内方法及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190702

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190715

R150 Certificate of patent or registration of utility model

Ref document number: 6566145

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees