JP2022164079A - 運転支援装置、運転支援方法及びプログラム - Google Patents
運転支援装置、運転支援方法及びプログラム Download PDFInfo
- Publication number
- JP2022164079A JP2022164079A JP2021069327A JP2021069327A JP2022164079A JP 2022164079 A JP2022164079 A JP 2022164079A JP 2021069327 A JP2021069327 A JP 2021069327A JP 2021069327 A JP2021069327 A JP 2021069327A JP 2022164079 A JP2022164079 A JP 2022164079A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- leading vehicle
- leading
- image
- driver
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 52
- 238000012545 processing Methods 0.000 claims abstract description 62
- 230000008569 process Effects 0.000 claims description 30
- 230000007613 environmental effect Effects 0.000 claims description 20
- 230000033001 locomotion Effects 0.000 claims description 20
- 239000000284 extract Substances 0.000 claims description 14
- 230000008859 change Effects 0.000 claims description 11
- 230000010365 information processing Effects 0.000 description 40
- 238000004891 communication Methods 0.000 description 26
- 238000010586 diagram Methods 0.000 description 24
- 240000004050 Pentaglottis sempervirens Species 0.000 description 11
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 11
- 230000007704 transition Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 238000001514 detection method Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000015654 memory Effects 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 238000011960 computer-aided design Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 101100048088 Caenorhabditis elegans let-70 gene Proteins 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Landscapes
- Navigation (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】仮想的な先導車両を用いた車両の運転支援を継続して行う。
【解決手段】環境情報取得部231は、車両の周囲の環境に関する環境情報を取得する。判定部234は、環境情報に基づいて所定位置に仮想的に配置される先導車両に対応する先導車両領域に進入する物体が存在するか否かを判定する。位置更新部235は、先導車両領域に進入する物体が存在する場合には、先導車両を仮想的に配置する位置を、所定位置から他の位置に変更する。運転支援制御部236は、先導車両を仮想的に配置する位置が変更された場合には、先導車両を仮想的に配置する位置を他の位置とする走行データに基づく先導車両を運転者に見せるための表示処理を行う。
【選択図】図2
【解決手段】環境情報取得部231は、車両の周囲の環境に関する環境情報を取得する。判定部234は、環境情報に基づいて所定位置に仮想的に配置される先導車両に対応する先導車両領域に進入する物体が存在するか否かを判定する。位置更新部235は、先導車両領域に進入する物体が存在する場合には、先導車両を仮想的に配置する位置を、所定位置から他の位置に変更する。運転支援制御部236は、先導車両を仮想的に配置する位置が変更された場合には、先導車両を仮想的に配置する位置を他の位置とする走行データに基づく先導車両を運転者に見せるための表示処理を行う。
【選択図】図2
Description
本発明は、車両の運転を支援する運転支援装置、運転支援方法及びプログラムに関する。
従来、車両の前方に仮想的な先導車両を表示させ、運転者の運転を支援する技術が存在する。例えば、先導車両が実景の中に存在すると仮定したときの先導車両の表示位置を、地図データと走行データと視点位置とに基づいて算出し、その算出された表示位置に先導車両を表示させる運転支援装置が提案されている(例えば、特許文献1参照)。
上述した従来技術では、車両の前方の先導車両の表示位置に、他の乗り物や人物が進入した場合、その進入したものと先導車両とが重なって見えるため、運転者はその先導車両を見え難くなり、運転支援の継続が困難となるおそれがある。
本発明は、仮想的な先導車両を用いた車両の運転支援を継続して行うことを目的とする。
本発明の一態様は、車両の運転者から見える実景における車両の前方の所定位置に先導車両が配置されたように運転者に見せるため、虚像である先導車両画像を当該実景に重ねて配置して車両の運転を支援する運転支援装置である。この運転支援装置は、車両の走行情報と所定位置の周囲に存在する物体に関する物体情報とを含む車両の周囲の環境に関する環境情報を取得する環境情報取得部と、環境情報を用いて先導車両の走行データを生成する走行データ生成部と、環境情報に基づいて所定位置に仮想的に配置される先導車両に対応する先導車両領域に進入する物体が存在するか否かを判定する判定部と、先導車両領域に進入する物体が存在する場合には、先導車両を仮想的に配置する位置を、所定位置から他の位置に変更する位置更新部と、先導車両を仮想的に配置する位置が変更されていない場合には、先導車両を仮想的に配置する位置を所定位置とする走行データに基づく先導車両画像を運転者に見せるための表示処理を行い、先導車両を仮想的に配置する位置が変更された場合には、先導車両を仮想的に配置する位置を他の位置とする走行データに基づく先導車両画像を運転者に見せるための表示処理を行う出力処理部とを備える。
本発明によれば、仮想的な先導車両を用いた車両の運転支援を継続して行うことができる。
以下、添付図面を参照しながら本発明の実施形態について説明する。
[運転支援システムの構成例]
図1は、本実施形態における運転支援システム1のシステム構成例を簡略化して示す図である。運転支援システム1は、車両10に乗車する運転者5の運転を支援する通信システムであり、車両10に表示させる仮想的な先導車両70(図3、図4参照)を遠隔地空間20に存在するオペレータ(遠隔地ユーザ)6が自在に運転できるシステムである。具体的には、運転支援システム1は、ネットワーク2と、車両10と、遠隔地空間20と、車両30、35と、自転車40と、電子機器50と、環境情報取得装置61、62とを備える。なお、図1では、説明を容易にするため、車両10、遠隔地空間20以外の構成要素として、車両30、35、自転車40、電子機器50、環境情報取得装置61、62を例示するが、各機器の数や種類はこれに限定されない。
図1は、本実施形態における運転支援システム1のシステム構成例を簡略化して示す図である。運転支援システム1は、車両10に乗車する運転者5の運転を支援する通信システムであり、車両10に表示させる仮想的な先導車両70(図3、図4参照)を遠隔地空間20に存在するオペレータ(遠隔地ユーザ)6が自在に運転できるシステムである。具体的には、運転支援システム1は、ネットワーク2と、車両10と、遠隔地空間20と、車両30、35と、自転車40と、電子機器50と、環境情報取得装置61、62とを備える。なお、図1では、説明を容易にするため、車両10、遠隔地空間20以外の構成要素として、車両30、35、自転車40、電子機器50、環境情報取得装置61、62を例示するが、各機器の数や種類はこれに限定されない。
車両10には、車両10を運転する運転者(乗員)5が乗車している。また、遠隔地空間20には、先導車両70(図3、図4参照)を操作するオペレータ6が存在する。先導車両70は、車両10が走行する経路を案内するための標識であり、その経路に車両10を先導するために車両10に仮想的に表示される。なお、先導車両は、ゴーストカー、バーチャル先導車両、仮想先行車両とも称することができる。
車両30、35は、車両10以外の他の車両であり、乗用車、オートバイ、貨物自動車、商用車、特種用途自動車等の乗り物を意味する。また、車両30、35のそれぞれには、ネットワーク2を介して他の機器との間で各種情報のやり取りを行うことが可能な電子機器31、36が設置される。
自転車40は、主に乗り手の力により駆動して走行する二輪車(または3輪以上も含む)である。また、自転車40には、ネットワーク2を介して他の機器との間で各種情報のやり取りを行うことが可能な電子機器41が設置される。なお、電子機器41は、自転車40に乗るユーザが所持する携帯型の機器でもよい。
電子機器50は、人物7が所持する携帯型の機器であり、例えばスマートフォン、タブレット端末、携帯電話、持ち運び可能なパーソナルコンピュータである。また、電子機器50は、ネットワーク2を介して他の機器との間で各種情報のやり取りが可能である。なお、電子機器31、36、41、50の各構成は、例えば図2に示す車両10が備える情報処理装置100の構成と同様とすることができる。
環境情報取得装置61、62は、道路上や建物等に設置される機器であり、設置されている周囲の環境に関する各種の環境情報を取得し、取得された環境情報をネットワーク2を介して他の機器に送信する。例えば、環境情報取得装置61、62は、通信部、撮像画像取得部、音声取得部、位置情報取得部を備える。通信部は、無線通信または有線通信を利用してネットワーク2を介して他の機器との間で各種情報のやり取りを行うものである。また、通信部は、無線通信を利用して他の機器との間で各種情報のやり取りを直接行うことも可能である。撮像画像取得部は、カメラ等の撮像装置を利用して被写体を撮像して画像データを生成して画像データを出力するものである。音声取得部は、マイク等の音声取得装置を利用して周囲の音声を取得して音声データとして出力するものである。位置情報取得部は、周囲に存在する他の機器との無線通信における電波強度や電波の方向、周囲に存在する他の機器を撮像した画像データ、周囲に存在する他の機器が発する音に関する音声データ等に基づいて、周囲に存在する他の機器の位置を推定する。この推定される位置は、環境情報取得装置61、62を基準とする他の機器の位置である。例えば、他の機器が出力する電波強度や電波の方向に基づいてその機器の方向及び位置(移動方向及び移動速度を含む)を推定可能である。また、画像データに含まれる移動する物体の遷移に基づいてその物体の方向及び位置(移動方向及び移動速度を含む)を推定可能である。また、移動する物体が発する音の遷移に基づいてその物体の方向及び位置(移動方向及び移動速度を含む)を推定可能である。このように推定された周囲の機器に関する位置情報は、ネットワーク2を介して通信部210に送信される。
また、環境情報取得装置61、62は、例えば道路に沿って所定間隔で設置されるロードサイドインフラストラクチャとすることができる。ロードサイドインフラストラクチャは、例えば、自身の位置や交通上の名称等の情報を情報処理装置100や運転支援装置200に提供する。複数のロードサイドインフラストラクチャは相互に通信が可能であり、車両10と、他の車両30、35との通信を中継する通信機として動作する場合がある。このように、車両10はいわゆる車路間通信が可能である。また、車両10は、電子機器31、36、41、50との通信も可能である。従って、車両10は、V2X(Vehicle-to-everything)通信が可能であり、車両10の周辺にある通信可能なあらゆる物から、運転支援システム1が行う運転支援に必要な情報やその他の各種情報を取得することができる。
[車両及び遠隔地空間の各装置の構成例]
図2は、車両10が備える情報処理装置100と遠隔地空間20に設置される運転支援装置200との機能構成例を示すブロック図である。
図2は、車両10が備える情報処理装置100と遠隔地空間20に設置される運転支援装置200との機能構成例を示すブロック図である。
[車両が備える情報処理装置の構成例]
情報処理装置100は、環境情報取得部110と、通信部120と、コントローラ130と、出力部140と、記憶部150とを備える。
情報処理装置100は、環境情報取得部110と、通信部120と、コントローラ130と、出力部140と、記憶部150とを備える。
記憶部150は、各種情報を記憶する記憶媒体である。例えば、記憶部150には、コントローラ130が各種処理を行うために必要となる各種情報(例えば、制御プログラム、地図DB(Database))が記憶される。また、記憶部150には、通信部120を介して取得された各種情報が記憶される。記憶部150は、1または複数のストレージデバイスまたはメモリによって構成される。記憶部150として、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、SSD(Solid State Drive)、または、これらの組み合わせを用いることができる。
地図DBには、道路情報、施設情報など運転支援のための経路案内に必要となる地図情報が格納されている。その地図情報には、道路の勾配、道路の交差点、道路の車線数、道幅情報、道路の起伏情報が含まれる。また、地図情報には、速度制限、一方通行などを示す道路標識、横断歩道、区画線などを示す道路標示も含まれる。また、地図情報には、道路構造物(例えば信号機、電信柱)、建物などの設備情報を含めてもよい。
環境情報取得部110は、地図情報取得部111と、位置情報取得部112と、撮像画像取得部113と、外部音声取得部114とを備える。
地図情報取得部111は、記憶部150に記憶されている地図DBから運転支援に必要となる地図情報を取得するものであり、取得された地図情報をコントローラ130に出力する。なお、地図情報取得部111は、車両10の外部に存在する機器からネットワーク2を介して地図情報を取得してもよい。また、地図情報取得部111は、2次元の地図情報に限らず3次元の地図情報も取得して用いてもよい。
位置情報取得部112は、車両10が存在する位置に関する位置情報を取得するものであり、取得した位置情報をコントローラ130に出力する。位置情報取得部112は、例えば、GNSS(Global Navigation Satellite System:全球測位衛星システム)を利用して位置情報を取得するGNSS受信機により実現できる。また、その位置情報には、GNSS信号の受信時における緯度、経度、高度等の位置に関する各データが含まれる。また、他の位置情報の取得方法により位置情報を取得してもよい。例えば、周囲に存在するアクセスポイントや基地局からの情報を用いて位置情報を導き出してもよい。また、例えば、ナビゲーション装置による位置推定技術を用いて位置情報を導き出してもよい。なお、位置情報取得部112は、車両10の位置を検出する他の位置センサや測距センサからの情報に基づいて位置情報を取得してもよい。測距センサは、車両10の周辺にある物または人等の位置及び距離を計測するものであり、例えば、LiDAR(Light Detection and Ranging)スキャナ、ミリ波レーダ、または、超音波センサ等である。車両10には、その測距センサが、前方、後方、及び、側方等の任意箇所に1または複数設けられる。本実施形態においては、測距センサは、少なくとも他の車両の位置及び距離を検出する。
撮像画像取得部113は、車両10の車外及び/または車内を撮像する1または複数のカメラによって構成される。本実施形態においては、撮像画像取得部113は、少なくとも、車両10の車外かつ前方を撮像する前方カメラと、車両10の車内を撮像する車内カメラと、を含む。前方カメラの撮像範囲は、少なくとも車両10の走行状態における運転者5の視野の一部または全部を含む。車内カメラの撮像範囲は、例えば運転者5の視線の推移を検出できる程度に、運転者5を含む。以下、前方カメラが撮像した画像及び前方カメラが撮像した画像からなる映像を前方画像といい、車内カメラが撮像した画像及び車内カメラが撮像した画像からなる映像を運転者画像という。
外部音声取得部114は、車両10の車外及び/または車内の音または音声を収音する1または複数のマイクによって構成される。本実施形態においては、外部音声取得部114は、少なくとも、車両10の車外で発生した音または音声を収音する車外マイクと、車両10の運転者5及び/または同乗者(以下、運転者5等という)の音声を収音する車内マイクと、を含む。車外マイクは、例えば、他の車両等が発する走行音や警報音、道路やその他の設備が発する音もしくは音声、または、車両10の周囲にいる人が発する音声等を収音する。以下、車外マイクが収音した音または音声のデータを、車外音声という。車内マイクは、例えば、運転者5等が発する音声、並びに、その他の車内音を収音する。運転者5等は、車両10及び/または運転支援装置200の動作を指示するための指令を音声で入力する場合がある。したがって、車内マイクは、指令として機能しない通常の会話または独り言に加え、音声指令を収音する場合がある。本実施形態においては、車内マイクは、少なくとも運転者5が発する音声を収音する。以下、車内マイクが収音した音及び/または音声のデータを、車内音声という。
なお、環境情報取得部110の各部により取得された各情報は、任意のタイミングで運転支援装置200に送信してもよく、運転者5の操作に応じて運転支援装置200に送信してもよい。
通信部120は、コントローラ130による制御の下で、ネットワーク2を介して運転支援装置200、電子機器31、36、41、50、環境情報取得装置61、62等と接続し、運転支援等に係る各種情報を送受信する装置間インタフェースである。例えば、コントローラ130は、通信部120を用いて運転支援装置200と通信することにより、運転支援装置200の求めに応じて、前方画像、運転者画像、車外音声、車内音声、位置情報、及び、測距情報を適宜送信する。また、コントローラ130は、通信部120を用いて、先導車両70(図4)を表示するための運転支援情報を運転支援装置200から受信する。また、コントローラ130は、通信部120を用いて、電子機器31、36、41、50、環境情報取得装置61、62またはこれらの機器が接続するサーバ等にアクセスすることにより、他の車両の走行に関する情報等を取得する場合がある。
コントローラ130は、車両10の各部を統括的に制御する制御装置である。コントローラ130は、1または複数のコンピュータによって構成され、例えば、中央演算装置(CPU)、ランダムアクセスメモリ(RAM)、及び、入出力インタフェース(I/Oインタフェース)等を備える。また、コントローラ130は、運転支援に係る各種の制御を必要に応じて実行するようにプログラムされている。また、コントローラ130は、環境情報取得部110により取得された各情報を集約して各種処理を行う。
出力部140は、画像や音声等によって、運転者5等に対して先導車両70やその他の情報を報知するために用いられるユーザインタフェースである。出力部140は、例えば、表示部141及び音声出力部142を含む。表示部141は、先導車両70やその他の情報を報知する。表示部141は、例えば、インストルメントパネルやステアリングホイル等に設けられ、ユーザデバイスが表示部141を構成する場合がある。また、運転者5等の操作の用に供され、コントローラ130及び/または運転支援装置200に対して各種の情報を入力するために用いられるユーザインタフェースである情報入力装置(図示省略)をタッチパネル等で構成してもよい。このときには、情報入力装置と出力部140は実質的に一体的に構成される。特に、本実施形態においては、表示部141は、HUD(ヘッドアップディスプレイ)である。HUDは、フロントガラス等を介して間接的に、または、運転者5の瞳に直接的に、画像を投影することにより、運転者5の視野に、現実の風景等に重畳して先導車両70(図4参照)等の情報を表す画像を虚像で表示する。本実施形態において表示させる先導車両70は、HUDである表示部141が表示する虚像である。なお、表示部141は、HUDのように、いわゆるAR(拡張現実)を実現するAR表示装置(例えばARヘッドマウントディスプレイ)によって構成される他、VR(仮想現実)を実現するVR表示装置、または、MR(複合現実)を実現するMR表示装置によって構成されてもよい。音声出力部142は、音または音声によって各種情報を報知するものであり、例えばスピーカやヘッドフォンを用いることができる。
[運転支援装置の構成例]
運転支援装置200は、通信部210と、運転操作部220と、コントローラ230と、出力部240と、記憶部250とを備える。
運転支援装置200は、通信部210と、運転操作部220と、コントローラ230と、出力部240と、記憶部250とを備える。
通信部210は、コントローラ230による制御の下で、ネットワーク2を介して情報処理装置100と接続し、運転支援に係る各種情報を送受信する装置間インタフェースである。例えば、運転支援装置200は、通信部210によって情報処理装置100と接続し、運転支援開始処理によって情報処理装置100から送信される運転支援の開始指示を受ける。これにより、車両10に対する運転支援が開始される。また、運転支援装置200は、通信部210によって、先導車両70を車両10に表示させるための運転支援情報を情報処理装置100に送信する。
出力部240は、運転支援装置200の出力インタフェースであり、例えば、画像を表示する表示部241、及び、音や音声を再生する音声出力部242等によって構成される。表示部241は、前方画像、運転者画像、及び/または、これらを用いて生成した画像を表示する。前方画像を用いて生成した画像とは、例えば、前方画像の一部を拡大及び変形等の加工をする画像処理を施すことによって生成される画像である。本実施形態においては、前方画像を用いて先導車両70を視点とする画像(以下、先導車両視点画像という)が生成され、表示部241はこれを表示する。また、音声出力部242は、車外音声、車内音声、または、これらを用いて生成した音声等をスピーカによって再生する。これらにより、オペレータ6は、車両10の前方に現実にあるかのように自然に先導車両70を運転して、後続する車両10を先導することができる。なお、表示部241として、例えばVRヘッドマウントディスプレイを用いてもよく、HMDなどの没入感の強いAR/VR機器を用いてもよく、HUDのような身体に直接装着せずに重畳表示する機器を用いてもよい。また、音声出力部242として、立体音響ヘッドフォンを用いてもよく、立体音響のように指向性まで再現できる音声再生装置を用いてもよく、ステレオスピーカのような比較的簡便なものを用いてもよい。
運転操作部220は、運転支援装置200の入力インタフェースであり、オペレータ6によって操作される。本実施形態においては、オペレータ6は、運転操作部220を用いて先導車両70を運転する。このため、運転操作部220は、例えば、ステアリングホイル221、ペダル222(例えばアクセルペダル、ブレーキペダル)等を模した装置、または、方向キーやボタン等で構成される家庭用ゲーム機の操作盤である。
記憶部250は、1または複数のストレージデバイスまたはメモリによって構成される。すなわち、記憶部250は、例えば、RAM、ROM、HDD、SSD、または、これらの組み合わせである。記憶部250は、コントローラ230の制御及び先導車両表示に用いるデータ及びプログラム等を一時的または永続的に記憶する。コントローラ230は、制御プログラムにしたがって動作し、各種機能を実現することにより、車両10に対して先導車両70を表示させる。本実施形態においては、画像データのうち、先導車両70の画像のように、虚像の表示によって運転者5の視野に仮想的に表示する画像データを、仮想画像という。
コントローラ230は、運転支援装置200の各部を統括的に制御することにより、先導車両視点画像や先導車両音声の生成等を担い、車両10に対してリアルタイムに先導車両70の画像を提供する制御装置である。ここで、先導車両視点画像は、先導車両70に乗車していると仮定した場合に運転者から見える景色を表示部241に表示させるための画像情報である。また、先導車両音声は、先導車両70に乗車していると仮定した場合に運転者に聞こえる音声を音声出力部242から出力させるための音声情報である。
また、コントローラ230は、1または複数のコンピュータによって構成され、例えば、中央演算装置(CPU)、ランダムアクセスメモリ(RAM)、及び、入出力インタフェース(I/Oインタフェース)等を備える。また、コントローラ230は、運転支援に係る各種の制御を必要に応じて実行するようにプログラムされている。
なお、先導車両視点画像の生成方法としては、各種の方法を用いることが可能である。例えば車両10、他の移動物体、車両10の周囲の撮像機器から取得した画像群を元にライトフィールドレンダリングによる任意視点画像を生成する方法を用いることが可能である。また、取得した画像を車両10の位置情報および3次元地図情報と組み合わせて、3次元空間中にテクスチャとしてマッピングすることで任意の視点からの画像を生成する方法を用いることが可能である。また、先導車両音声の生成方法としては、例えば車両10にマイクアレイを取り付け、指向性も含めた音声情報を元に、任意視点における音声を生成する方法を用いることが可能である。なお、車両10に限らず別個の移動物体や車両10の周囲の音声取得機器からの音声も用いてもよい。また、本実施形態における先導車両視点画像及び先導車両音声の生成例については、後述する。
本実施形態においては、コントローラ230は、車両10に対する運転支援を実現するために、環境情報取得部231、走行データ生成部232、先導車両画像生成部233、判定部234、位置更新部235、運転支援制御部236として機能する。
環境情報取得部231は、運転支援のために、情報処理装置100や他の機器から運転支援に必要な各種の情報を取得する。より具体的には、環境情報取得部231は、必要に応じて、情報処理装置100から前方画像及び運転者画像、車外音声及び車内音声、位置情報、測距情報等を適宜取得する。
走行データ生成部232は、運転操作部220による入力操作を受け付け、その入力操作の内容に基づいて車両10に表示させるべき先導車両70の走行データを生成するものである。
運転支援制御部236は、出力部240への出力、及び、運転操作部220からの入力を制御する。例えば、運転支援制御部236は、車両10の前方画像に画像処理を施すことによって先導車両視点画像を生成し、これを表示部241に表示させる。また、運転支援制御部236は、車外音声等を音声出力部242から出力させる。また、運転支援制御部236は、先導車両70を車両10に表示させるための運転支援情報を情報処理装置100に送信する。また、運転支援制御部236は、車両10に表示される先導車両70の表示位置を更新する際に、その更新を運転者5に通知するための変更位置案内情報を生成する変更位置案内情報生成部を兼ねる。
具体的には、運転支援制御部236は、先導車両70の周辺環境を表す先導車両視点画像を生成する。すなわち、先導車両視点画像は、先導車両70の位置における周辺環境を表す画像である。オペレータ6は、表示部241に先導車両視点画像が表示されることで、あたかも先導車両70の運転席に座っているように周辺環境を視認することができる。運転支援制御部236は、車両10を基準とした周辺環境の3次元空間情報を記憶部250から取得し、周辺環境の3次元空間における仮想視点位置を算出し、車両10の周辺画像を用いて仮想視点位置における先導車両視点画像を生成する。なお、仮想視点位置は、先導車両70の運転席の位置に相当する位置である。3次元空間情報は、車両10の位置情報と、3次元地図情報とに基づいて、車両10の位置を基準とした周辺環境の3次元空間情報として取得される。また、3次元空間情報は、車両10の環境情報取得部110により取得された各種環境情報に基づいて、SLAM(Simultaneous Localization and Mapping)を用いて、車両10の位置の推定と、車両10の周辺環境に関する3次元の環境地図がリアルタイムに生成されてもよい。また、運転支援制御部236は、ライトフィールドレンダリング技術により、仮想視点位置における先導車両視点画像を生成してもよい。具体的には、運転支援制御部236は、複数の視点のカメラにより撮像された車両10の周辺環境の周辺画像から、車両10の周辺環境の光線情報を取得する。そして、運転支援制御部236は、仮想視点位置に届く光線情報に基づいて仮想視点位置における画像を合成することで、先導車両視点画像を生成する。
また、運転支援制御部236は、先導車両音声を生成する。先導車両音声は、仮想視点位置において周辺環境から聞こえてくる仮想の音声である。運転支援制御部236は、環境情報取得部231により取得された車両10の周辺環境の音声情報に基づいて、周辺環境における音源の位置に対応するように仮想音源の位置を設定する。そして、運転支援制御部236は、仮想音源の位置に仮想音響の音像を定位させるように仮想音響の音声信号処理を行う。運転支援制御部236は、音声信号処理により生成した音声情報を音声出力部242から出力させる。また、本実施形態では、運転支援制御部236による先導車両音声の生成を行わずに、運転支援制御部236による仮想画像の生成のみを行うこととしてもよい。
また、運転支援制御部236は、仮想視点位置の周辺環境を俯瞰的に表す俯瞰画像を生成してもよい。運転支援制御部236は、環境情報取得部231により取得された、仮想視点位置と、仮想視点位置の周辺の対象物との間の距離と、仮想視点位置に対する対象物の位置の方向から、仮想視点位置と対象物との位置関係を表す俯瞰画像を生成する。この俯瞰画像95の一例を図11に示す。即ち、俯瞰画像95は、車両10の周囲を走行する車両を検出した情報に基づいて生成された俯瞰画像である。図11に示す例では、車両10の前方には車両37乃至39が走行している。このため、俯瞰画像95には、車両10の車両画像96と、先導車両70の所定位置を示す車両画像97と、その所定位置の前の各車両とが表示される。運転者5は、俯瞰画像95を見ることで、車両10と、先導車両70と、周辺の対象物(車両37乃至39)との位置関係を把握することができる。
先導車両画像生成部233は、車両10に表示させるべき先導車両70の画像(先導車両画像)を生成するものである。先導車両画像生成部233は、運転操作部220による入力操作を受け付け、その入力操作の内容に基づいて、車両10に表示させるべき先導車両70の位置、大きさ、及び、向き等を随時更新する。また、先導車両画像生成部233は、運転操作部220のステアリングホイル221、ペダル222の操作に応じて、先導車両70の後部に設置されているステアリングランプ(方向指示灯)、ブレーキランプの表示態様を変更する。
判定部234は、環境情報取得部231により取得された環境情報に基づいて、車両10の前方の所定位置に仮想的に配置される先導車両70に対応する先導車両領域に進入する物体が存在するか否かを判定するものである。なお、先導車両領域に進入する物体の判定方法については、図5、図6を参照して詳細に説明する。
位置更新部235は、判定部234により先導車両領域に進入する物体が存在することが検出された場合に、先導車両70を仮想的に配置する位置を、車両10の前方の所定位置から他の位置に変更する演算を実行するものである。即ち、位置更新部235は、先導車両70を仮想的に配置するための適切な空きスペースを判定し、先導車両70の表示位置を更新する。なお、先導車両70の位置更新方法については、図7を参照して詳細に説明する。
[先導車両の配置例及び表示例]
図3は、三車線の道路3を走行する車両10と、車両10に表示される先導車両70の道路3における仮想的な位置との関係を示す図である。図3に示すように、車両10を基準として、車両10よりも距離L1だけ前を走行するように先導車両70が配置される。この先導車両70の位置については、オペレータ6の入力操作や設定によって適宜変更される。距離L1は、例えば数m~150m程度とすることができる。また、本実施形態では、車両10よりも距離L1だけ前の位置を所定位置と称して説明する。なお、所定位置は、固定としてもよく、オペレータ6の入力操作に応じて適宜変更された位置としてもよい。なお、本実施形態では、オペレータ6は、車両10よりも距離L1だけ前の所定位置を先導車両70が走行するように操作を行うものとする。
図3は、三車線の道路3を走行する車両10と、車両10に表示される先導車両70の道路3における仮想的な位置との関係を示す図である。図3に示すように、車両10を基準として、車両10よりも距離L1だけ前を走行するように先導車両70が配置される。この先導車両70の位置については、オペレータ6の入力操作や設定によって適宜変更される。距離L1は、例えば数m~150m程度とすることができる。また、本実施形態では、車両10よりも距離L1だけ前の位置を所定位置と称して説明する。なお、所定位置は、固定としてもよく、オペレータ6の入力操作に応じて適宜変更された位置としてもよい。なお、本実施形態では、オペレータ6は、車両10よりも距離L1だけ前の所定位置を先導車両70が走行するように操作を行うものとする。
図4は、車両10のフロントガラス11に先導車両70を表示させる場合の表示例を示す図である。なお、図4は、車両10の内部を簡略化して示すものであり、フロントガラス11、ハンドル12、操作部13、ダッシュボード14以外の図示は省略する。なお、操作部13には、スピーカが内蔵され、各種の音声が出力される。
ここで、先導車両70は、車両10の前方の道路を所定の走行軌跡及び速度で走行するように描画される先導車両の虚像である。この虚像は、実景の座標系に適合する透視投影画像(あるいはその透視投影画像をデフォルメしたもの)であり、例えば車両10の三次元CAD(Computer-Aided Design)データに基づいて定義された簡易的なポリゴンモデルからレンダリングされる半透明の画像である。
図4に示すように、車両10を運転している運転者5は、実景である道路3とともに虚像である先導車両70がフロントガラス11に表示されることで、先導車両70が道路3を走行しているように見える。
ここで、先導車両70は、車両10の運転者5が見られるように仮想的に表示されるものであり、車両10の外部の人物は見ることができない。このため、車両10の外部に存在する人物や自転車が先導車両70の領域に進入するおそれがある。また、フロントガラス11に表示される先導車両70の表示位置に、他の乗り物や人物が進入した場合、その進入したものと先導車両70とが重なって見えるため、運転者5は先導車両70を見え難くなり、運転支援の継続が困難となるおそれがある。そこで、本実施形態では、先導車両70の表示位置に進入する他の乗り物や人物が存在する場合には、先導車両70を所定位置から一時的に移動させることにより、その進入したものと先導車両70とが重なることを防止する。これにより、先導車両70を用いた車両10の運転支援を継続して行うことが可能となる。
[移動状況の推定例]
図5は、判定部234による移動状況の推定処理の一例を示す図である。図5では、先導車両70を基準として所定周囲内に存在する他の物体として、人物7、車両30、自転車40を例にして説明する。また、人物7が所持する電子機器50、車両30に設置されている電子機器31、自転車40に設置されている電子機器41のそれぞれは、位置情報取得部を備える。そして、各位置情報取得部により取得された位置情報は定期的にネットワーク2を介してコントローラ230に送信されるものとする。
図5は、判定部234による移動状況の推定処理の一例を示す図である。図5では、先導車両70を基準として所定周囲内に存在する他の物体として、人物7、車両30、自転車40を例にして説明する。また、人物7が所持する電子機器50、車両30に設置されている電子機器31、自転車40に設置されている電子機器41のそれぞれは、位置情報取得部を備える。そして、各位置情報取得部により取得された位置情報は定期的にネットワーク2を介してコントローラ230に送信されるものとする。
判定部234は、予め設定されている目的地までの経路や、オペレータ6の過去の運転操作履歴に基づいて、先導車両70の走行状況を推定することが可能である。判定部234は、例えば、3車線の道路3では、オペレータ6が真中の車線を走行する可能性が高い場合には、先導車両70が3車線の道路3の真中の車線を走行すると推定できる。また、判定部234は、運転操作部220による入力操作を受け付け、その入力操作の内容に基づいて先導車両70の走行状況を推定できる。即ち、判定部234は、ステアリングホイル221やペダル222の入力操作に応じて、先導車両70の向き、加速及び減速を直接得ることができる。このため、判定部234は、等直線運動、線形補間等に基づいて所定時間経過後の先導車両70の位置を推定可能である。
また、環境情報取得装置61、62から取得された先導車両70の位置及びその周囲の環境情報等に基づいて、先導車両70の走行状況を推定することが可能である。例えば、判定部234は、先導車両70の位置情報と、環境情報取得装置61、62から取得された先導車両70の位置及び周囲に関する環境情報とに基づいて、先導車両70の現在地を推定できる。また、判定部234は、先導車両70の位置及び周囲に関する環境情報に基づいて、3車線の道路3に停車している他の車両やスピードの遅い車両が存在することを把握できる。この場合には、判定部234は、先導車両70がそれらの車両を避けて走行すると推定できるため、先導車両70の現在地からの走行状況を推定できる。また、先導車両70が直線状に走行することが推定できる場合には、例えば等速直線運動を仮定して先導車両70の走行状況を推定してもよい。または、先導車両70の走行状況推定については、周囲のシーンをクラス分類した結果(高速道路、交差点、ラウンドバウト、横断歩道前、駐車場内など)と合わせて条件分岐により行ってもよい。また、先導車両70の走行状況推定については、機械学習により環境情報取得部231からのセンサ値を入力とし、舵角やスピードを出力とするEnd-to-Endで学習したニューラルネットワークを用いて推定してもよい。
このように推定された現在時刻から所定時間経過後までの先導車両70の移動範囲を点線の枠71で示し、所定時間経過後の先導車両70の位置を点線の矩形72で示す。なお、所定時間は、例えば数秒程度(例えば3秒)とすることができる。
また、判定部234は、車両30の運転者の過去の運転操作履歴、車両30の位置情報、環境情報取得装置61、62から取得された車両30及びその周囲の環境情報等に基づいて、車両30の走行状況を推定することが可能である。例えば、判定部234は、車両30の位置情報と、環境情報取得装置61、62から取得された車両30及びその周囲の環境情報とに基づいて、車両30の現在地を推定できる。また、判定部234は、環境情報取得装置61、62から取得された車両30の画像情報や音声情報に基づいて、車両30の移動方向や移動速度を推定できる。このように、車両10及び先導車両70以外の他の物体の場合には、ステアリングホイルやペダル等の直接的な値を取得できないため、他の物体に関する各センサ値等を取得して用いる。なお、車両30が自動運転車両である場合には、その自動運転に関する情報を取得して用いてもよい。また、車両30の後部のステアリングランプ等を利用して車両30の進行方向を判定してもよい。また、車両30のライダ、チョンボセンサ等のセンサ値を取得可能な場合には、そのセンサ値を用いる。そして、等直線運動、線形補間やEnd-to-Endで学習したニューラルネットワークを用いて車両30の位置、向き、速度等の走行状況を推定できる。また、上述した先導車両70の走行状況推定と同様に、周囲のシーンをクラス分類した結果と合わせて条件分岐により行ってもよい。なお、先導車両70の周囲の車両30の走行状況については、利用できる入力値が先導車両70よりも限定されるが、利用できる入力値を用いて先導車両70の走行状況推定と同様に行えばよい。
このように推定された現在時刻から所定時間経過後までの車両30の移動範囲を点線の枠32で示し、所定時間経過後の車両30の推定位置を点線の矩形33で示す。
また、判定部234は、人物7の過去の歩行履歴、人物7の位置情報(電子機器50により取得可能)、環境情報取得装置61、62から取得された人物7及びその周囲の環境情報等に基づいて、人物7の移動状況を推定することが可能である。例えば、判定部234は、人物7の位置情報と、環境情報取得装置61、62から取得された人物7に関する環境情報とに基づいて、人物7の現在地を推定できる。また、判定部234は、環境情報取得装置61、62から取得された人物7の画像情報や音声情報に基づいて、人物7の移動方向や移動速度を推定できる。このように、人物7の移動状況を推定できる。また、上述した車両30の走行状況推定と同様に、等速直線運動を仮定して推定してもよく、周囲のシーンをクラス分類した結果と合わせて条件分岐により行ってもよい。また、機械学習により学習したニューラルネットワークを用いて推定してもよい。
図5では、人物7の現在地を点線の矩形81で示す。また、推定された現在時刻から所定時間経過後までの人物7の移動範囲を点線の枠82で示し、所定時間経過後の人物7の推定位置を点線の矩形83で示す。
また、判定部234は、自転車40の移動状況についても、上述した車両30や人物7の推定と同様に推定可能である。即ち、判定部234は、自転車40を乗る人物の過去の歩行履歴、自転車40の位置情報(電子機器41により取得可能)、環境情報取得装置61、62から取得された自転車40及びその周囲の環境情報等に基づいて、自転車40の移動状況を推定可能である。
図5では、自転車40の現在地を点線の矩形84で示す。また、推定された現在時刻から所定時間経過後までの自転車40の移動範囲を点線の枠85で示し、所定時間経過後の自転車40の推定位置を点線の矩形86で示す。
なお、図5では、各物体の現在地と所定時間経過後の位置とを示す範囲として矩形を用いる例を示すが、これらの範囲のサイズ及び形状については、物体の属性に応じて適宜変更可能である。例えば、人物である場合には、比較的サイズの大きい円形の範囲を用いることができる。
[進入判定例]
図6は、判定部234による進入判定処理の一例を示す図である。図6では、T字型の交差点4において、移動または停止している車両30について、先導車両70との進入判定をする場合の例を示す。なお、点線の枠71は、推定された現在時刻から所定時間経過後までの先導車両70の移動範囲を示し、点線の矩形72は、推定された所定時間経過後の先導車両70の位置を示す。なお、点線の矩形72で示す領域は、先導車両領域の一例である。また、点線の枠32は、推定された現在時刻から所定時間経過後までの車両30の移動範囲を示し、点線の矩形33は、推定された所定時間経過後の車両30の推定位置を示す。なお、図6では、説明を容易にするため、車両30及び先導車両70のそれぞれの移動範囲及び所定時間経過後の位置については、図5に示す例と同じものを使用する。
図6は、判定部234による進入判定処理の一例を示す図である。図6では、T字型の交差点4において、移動または停止している車両30について、先導車両70との進入判定をする場合の例を示す。なお、点線の枠71は、推定された現在時刻から所定時間経過後までの先導車両70の移動範囲を示し、点線の矩形72は、推定された所定時間経過後の先導車両70の位置を示す。なお、点線の矩形72で示す領域は、先導車両領域の一例である。また、点線の枠32は、推定された現在時刻から所定時間経過後までの車両30の移動範囲を示し、点線の矩形33は、推定された所定時間経過後の車両30の推定位置を示す。なお、図6では、説明を容易にするため、車両30及び先導車両70のそれぞれの移動範囲及び所定時間経過後の位置については、図5に示す例と同じものを使用する。
図6に示すように、所定時間経過後の先導車両70の推定位置(点線の矩形72)と、所定時間経過後の車両30の推定位置(点線の矩形33)との一部が重複する。この重複する領域を重複領域73として示す。この場合には、判定部234は、先導車両70の領域(先導車両領域)に進入する物体として車両30が存在することを検出する。
ここで、先導車両70の領域に進入する物体を検出する場合に用いられる各物体の推定位置(例えば点線の矩形33、72)のサイズや形状については、物体の属性に基づいて適宜変更可能である。例えば、人物の推定位置(例えば点線の矩形83)については、安全性を高めるため、他の物体の推定位置よりも大きいサイズとすることができる。また、例えば、比較的速度の速い物体の推定位置についても同様に、安全性を高めるため、速度の遅い物体の推定位置よりも大きいサイズとすることができる。
また、先導車両70の領域に進入する物体を検出する場合の判定基準については、対象物体の推定位置のうちの少なくとも一部が重複したことを条件とすることができる。ただし、その判定基準については、物体の属性に基づいて適宜変更可能である。例えば、先導車両70の領域に進入する物体の検出対象が人物である場合には、安全性を高めるため、他の物体の判定基準よりも厳しい基準とすることができる。例えば、先導車両70の領域に進入する物体の検出対象が人物以外である場合には、先導車両70の推定位置と、対象物体の推定位置との重複率が10%となることを条件とすることができる。また、先導車両70の領域に進入する物体の検出対象が人物である場合には、その重複率が1%となることを条件とすることができる。
また、判定部234は、他の物体についても同様に、所定時間経過後の先導車両70の推定位置(点線の矩形72)と、所定時間経過後の他の車両の推定位置(点線の矩形83、86)との一部が重複するか否かを判定する。そして、判定部234は、先導車両70の推定位置(点線の矩形72)と重複する推定位置となる他の物体が存在する場合には、その物体を、先導車両70の領域に進入する物体として検出する。
なお、図6では、説明を容易にするため、先導車両70の走行方向と、判定対象となる車両30の走行方向とが直交する交差点4での進入判定をする場合を例にしたが、同一直線上を移動する他の物体についても同様に、進入判定を行うことが可能である。例えば、図3、図4に示す三車線の道路3の同一車線(例えば真中の車線)上において、車両10の前方の遠方を走行する他の車両(例えば車両35とする)が存在する場合を想定する。この場合には、車両10と車両35との間に先導車両70が配置されることになる。このような状況において、例えば、渋滞や信号待ち等で車両35が車両10に徐々に近づいてくるような場合も考えられる。この場合には、車両35と先導車両70との間隔が徐々に短くなり、将来的には車両35が先導車両70の領域に進入することが想定される。このように車両35が先導車両70の領域に進入する場合には、判定部234は、車両35を先導車両70の領域に進入する物体として検出する。このように、先導車両70の領域に進入する物体として車両35が検出され、先導車両70を所定位置から移動する場合の表示例を図8に示す。
[空きスペース抽出例]
図7は、位置更新部235による空きスペース抽出処理の一例を示す図である。図7では、車両10の前方の範囲80の中から、車両10の前方の所定位置に存在する先導車両70を移動させる空きスペースを抽出する例を示す。なお、車両10の前方の範囲80は、車両10及び先導車両70の周囲の範囲のうち、車両10の運転者5が見ることが可能な範囲とする。
図7は、位置更新部235による空きスペース抽出処理の一例を示す図である。図7では、車両10の前方の範囲80の中から、車両10の前方の所定位置に存在する先導車両70を移動させる空きスペースを抽出する例を示す。なお、車両10の前方の範囲80は、車両10及び先導車両70の周囲の範囲のうち、車両10の運転者5が見ることが可能な範囲とする。
図6に示すように、先導車両70の領域に進入する物体が検出された場合には、位置更新部235は、車両10の前方の範囲80の中から、先導車両70を配置可能な空きスペースを抽出する。ここで、空きスペースは、例えば、車両10の前方の範囲80のうち、他の物体が進入しないと推定されるスペースである。
位置更新部235は、例えば、図7に示すように、範囲80のうち、矢印A1乃至A7方向の何れかに他の物体が進入しないと推定されるスペースが存在するか否かを判定する。そして、矢印A1乃至A7方向の何れかに他の物体が進入しないと推定されるスペースが存在する場合には、位置更新部235は、そのスペースを先導車両70を一時的に配置する空きスペースとして抽出する。具体的には、位置更新部235は、環境情報取得部231により取得された環境情報に基づいて、範囲80のうちから、他の物体が存在しないスペースを空きスペース候補として抽出する。この場合に、空きスペース候補が複数存在する場合には、その複数の空きスペース候補を抽出する。例えば、車両10の撮像画像取得部113により取得された車両10の前方の画像に他の物体が含まれるか否かに基づいて空きスペース候補を抽出することが可能である。
そして、位置更新部235は、抽出された空きスペース候補について、図6で示した進入判定処理を行い、他の物体が進入する空きスペース候補が存在するか否かを判定する。次に、位置更新部235は、進入判定処理により、他の物体が進入すると判定された空きスペース候補以外の空きスペース候補から、先導車両70を配置可能な空きスペースを抽出する。この場合に、複数の空きスペースが抽出された場合には、所定規則に基づいて先導車両70を配置する空きスペースを決定する。例えば、矢印A1乃至A7方向のそれぞれに優先順位を設定しておき、その優先順位の高い空きスペースを、先導車両70を配置する空きスペースとして決定する。
なお、範囲80に空きスペースが存在しない場合には、位置更新部235は、先導車両70の上空に空いている空間が存在するか否かを判定する。例えば、先導車両70の所定位置がトンネル内となっている場合には、上空の空間が空いていないと判定される。一方、先導車両70の上空に空いている空間が存在する場合には、位置更新部235は、先導車両70の上空を先導車両70を一時的に配置する空きスペースとして抽出する。
なお、車両10が1車線の道路を走行している場合には、先導車両70を左右方向に移動させると、先導車両70が対向車線や歩道等を走行することになるため、先導車両70を左右方向に移動させることが困難であることが想定される。このように、車両10が1車線の道路を走行している場合には、上述した範囲80から空きスペースを抽出する抽出処理を省略し、先導車両70の上空に空いている空間が存在するか否かを判定する判定処理のみを行うようにしてもよい。
なお、位置更新部235により先導車両70を一時的に配置する空きスペースが抽出された場合には、その空きスペースに移動した先導車両70が車両10の表示部141に表示されることになる。即ち、車両10の運転者5は、所定位置から移動した先導車両70を見ながら運転することになる。また、先導車両70の位置の変更をオペレータ6が把握できるように、運転支援制御部236は、先導車両70の位置が変更された旨をオペレータ6に通知する。例えば、表示部241での通知画像の表示や音声出力部242からの通知音出力等で通知される。例えば、図8に示す例では、三車線の道路3の真中の車線を走行していた先導車両70を左側の車線に変更する。この場合には、先導車両70を左側の車線に変更した旨がオペレータ6に通知される。なお、車両10及び先導車両70を含む周囲の物体の俯瞰画像を表示部241に常時表示させておき、この俯瞰画像を用いて通知してもよい。また、先導車両70の位置が変更された場合には、運転支援制御部236は、変更後の位置を基準とする先導車両視点画像及び先導車両音声を生成してオペレータ6に提供してもよい。これにより、オペレータ6は、運転者5が見ている先導車両70の位置を基準として正確な操作を行うことが可能となる。ただし、先導車両70の位置が上空に変更された場合には、先導車両70が同一車線上を走行しているため、先導車両視点画像及び先導車両音声を変更しない。
[先導車両の移動例]
図8、図9は、位置更新部235により抽出された空きスペースに先導車両70を移動する場合の表示例を示す図である。なお、図8に示す表示例は、図4に示す先導車両70を左側に移動させた点以外は、図4と同様である。このため、図4と共通する点についての説明を省略する。また、図9乃至図13についても同様である。なお、図9乃至図13に表示例では、先導車両画像生成部233により生成された先導車両画像を表示する例を示すが、説明を容易にするため、先導車両70を表示すると称して説明する。
図8、図9は、位置更新部235により抽出された空きスペースに先導車両70を移動する場合の表示例を示す図である。なお、図8に示す表示例は、図4に示す先導車両70を左側に移動させた点以外は、図4と同様である。このため、図4と共通する点についての説明を省略する。また、図9乃至図13についても同様である。なお、図9乃至図13に表示例では、先導車両画像生成部233により生成された先導車両画像を表示する例を示すが、説明を容易にするため、先導車両70を表示すると称して説明する。
図8では、位置更新部235により先導車両70の左側(図7に示す矢印A3方向)に空きスペースが抽出された場合の例を示す。この場合には、運転支援制御部236は、車両10のフロントガラス11に表示されている先導車両70を左側に移動させるための運転支援情報を車両10の情報処理装置100に送信する。この運転支援情報を受信した情報処理装置100のコントローラ130は、フロントガラス11に表示されている先導車両70を左側に移動させる。この場合に、コントローラ130は、受信した運転支援情報に基づいて、先導車両70を左側に移動させることを運転者5に通知するための通知画像(矢印91)をフロントガラス11に表示させる。また、コントローラ130は、受信した運転支援情報に基づいて、先導車両70を左側に移動させることを運転者5に通知するための音声301を音声出力部142から出力させる。なお、フロントガラス11に表示されている先導車両70を左側に移動させる場合には、その移動を運転者5が把握し易いように、通知画像(矢印91)の表示後に移動させることが好ましい。また、フロントガラス11において先導車両70を左側に移動させる場合には、移動前後の先導車両70の遷移を運転者5が把握し易いように、移動前の先導車両70から移動後の先導車両70までの画像遷移をアニメーションのように表示してもよい。また、通知画像(矢印91)の表示後に瞬間的に移動後の先導車両70を表示させてもよい。また、通知画像(矢印91)を表示する代わりに文字情報を表示したり、通知画像(矢印91)を点滅させたりする等により通知を行うようにしてもよい。
図9では、位置更新部235により先導車両70の上空に空きスペースが抽出された場合の例を示す。この場合には、運転支援制御部236は、車両10のフロントガラス11に表示されている先導車両70を上空に移動させるための運転支援情報を車両10の情報処理装置100に送信する。この運転支援情報を受信した情報処理装置100のコントローラ130は、フロントガラス11に表示されている先導車両70を上空に移動させる。この場合に、コントローラ130は、先導車両70を上空に移動させることを運転者5に通知するための通知画像92をフロントガラス11に表示させる。また、コントローラ130は、先導車両70を上空に移動させることを運転者5に通知するための音声302を音声出力部142から出力させる。ここで、先導車両70を上空に移動させる場合には、少なくとも先導車両70の後部に設置されているステアリングランプ(方向指示灯)、ブレーキランプを運転者5が見える位置を上限として移動させることが好ましい。なお、フロントガラス11に表示されている先導車両70を上空に移動させる場合の表示遷移例については、図8に示す例と同様である。
なお、先導車両70の周囲に空きスペースが存在しない場合であって、先導車両70の前に存在する他の物体の前に空きスペースが存在し、かつ、その物体の前に先導車両70を配置しても先導車両70を運転者5が見ることが可能なことも想定される。例えば、先導車両70の前に存在する車両39の前に空きスペースが存在し、かつ、車両39の前に先導車両70を配置しても先導車両70を運転者5が見ることが可能なこともある。この場合には、その物体の前の空きスペースに先導車両70を配置してもよい。これにより、先導車両70の表示を継続することができ、運転支援を継続することができる。
図10、図11は、位置更新部235により空きスペースが抽出されなかった場合に先導車両70を車両10の内部に移動する場合の表示例を示す図である。
図10では、位置更新部235により空きスペースが抽出されなかったため、先導車両70を車両10の内部(例えばダッシュボード14の上側)に仮想的に表示する場合の例を示す。この場合には、運転支援制御部236は、車両10のフロントガラス11に表示されている先導車両70をダッシュボード14の上側に移動させるための運転支援情報を車両10の情報処理装置100に送信する。この運転支援情報を受信した情報処理装置100のコントローラ130は、フロントガラス11に表示されている先導車両70をダッシュボード14の上側に移動させる。即ち、コントローラ130は、先導車両70がダッシュボード14の上側に存在するように、表示サイズを小さく調整した先導車両70の画像をフロントガラス11に表示させる。言い換えると、先導車両70の模型がダッシュボード14の上に配置されたような画像がフロントガラス11に表示される。この場合に、コントローラ130は、先導車両70をダッシュボード14の上側に移動させることを運転者5に通知するための通知画像93をフロントガラス11に表示させる。また、コントローラ130は、先導車両70をダッシュボード14の上側に移動させることを運転者5に通知するための音声303を音声出力部142から出力させる。なお、フロントガラス11に表示されている先導車両70をダッシュボード14の上側に移動させる場合の表示遷移例については、図8に示す例と同様である。
なお、先導車両70を車両10の内部に仮想的に表示する場合には、車両10の内部に設置されている各種表示パネルに先導車両70を表示させてもよい。例えば、カーナビゲーション装置の表示パネルに先導車両70を表示させてもよい。この場合には、カーナビゲーション装置の表示パネルに先導車両70を表示させる旨をフロントガラス11に表示させた後に、カーナビゲーション装置の表示パネルに先導車両70を表示させるようにする。
図11は、図10の変形例であり、フロントガラス11の右側に車両10、先導車両70、車両37乃至39の関係を俯瞰画像95で表示する例を示す。俯瞰画像95には、車両10の車両画像96と、先導車両70の所定位置を示す車両画像97と、その所定位置の前の各車両とが表示される。この俯瞰画像95は、運転支援制御部236から送信された運転支援情報に基づいて、コントローラ130によりフロントガラス11に表示される。この俯瞰画像95を運転者5が見ることにより、先導車両70が移動したことと、先導車両70を戻すための運転操作を容易に把握することができる。
図12は、位置更新部235により抽出された空きスペースに先導車両70を移動するとともに先導車両70を元の所定位置に戻すための通知情報を出力する場合の例を示す図である。
なお、図12は、図8の変形例であり、先導車両70を元の所定位置に戻すための通知情報を出力する点が図8とは異なる。即ち、コントローラ130は、運転支援制御部236から送信された運転支援情報に基づいて、先導車両70を元の所定位置に戻すための案内を運転者5に通知する音声305を音声出力部142から出力させる。この音声305を運転者5が聞くことにより、先導車両70が移動したことと、先導車両70を戻すための運転操作を容易に把握することができる。なお、図12では、先導車両70を元の所定位置に戻すための案内を音声305により出力する例を示すが、その案内に相当する画像(通知情報)をフロントガラス11に表示するようにしてもよい。また、図12では、スピードを落とす案内をする例を示すが、車線を変更する等の他の案内をすることも可能である。また、先導車両70を元の所定位置に戻すための案内については、オペレータ6に対しても通知する。すなわち、運転支援制御部236は、音声305に相当する音声を音声出力部242から出力させ、音声305に相当する画像を表示部241に表示させる。
図13は、先導車両70を空きスペースに一時的に移動させた後に、先導車両70を元の所定位置に戻す場合の表示例を示す図である。この表示例では、図8で示したように、フロントガラス11に表示されている先導車両70を左側に一時的に移動させた後に、先導車両70を元の所定位置に戻す場合の例を示す。
即ち、図13では、判定部234により先導車両70に進入する物体が検出されなくなった場合の例を示す。この場合には、運転支援制御部236は、車両10のフロントガラス11に表示されている先導車両70を元の所定位置に移動させるための運転支援情報を車両10の情報処理装置100に送信する。この運転支援情報を受信した情報処理装置100のコントローラ130は、フロントガラス11において所定位置よりも左側に表示されていた先導車両70を元の所定位置に移動させる。この場合に、コントローラ130は、先導車両70を元の所定位置に移動させることを運転者5に通知するための通知画像99をフロントガラス11に表示させる。また、コントローラ130は、先導車両70を元の所定位置に移動させることを運転者5に通知するための音声306を音声出力部142から出力させる。なお、フロントガラス11に表示されている先導車両70を元の所定位置に移動させる場合の表示遷移例については、図8に示す例と同様である。
[運転支援装置の動作例]
図14は、運転支援装置200における先導車両配置設定処理の一例を示すフローチャートである。この処理例では、運転支援装置200が情報処理装置100や他の機器から環境情報を受信して用いる例を示す。また、この処理例は、記憶部250に記憶されているプログラムに基づいてコントローラ230により実行される。図14では、図2に示す構成を参照して説明する。
図14は、運転支援装置200における先導車両配置設定処理の一例を示すフローチャートである。この処理例では、運転支援装置200が情報処理装置100や他の機器から環境情報を受信して用いる例を示す。また、この処理例は、記憶部250に記憶されているプログラムに基づいてコントローラ230により実行される。図14では、図2に示す構成を参照して説明する。
最初に、遠隔地空間20のオペレータ6と、車両10の運転者5とが運転支援システム1の利用を開始するための操作を行うことにより動作が開始される。
ステップS301において、環境情報取得部231は、情報処理装置100や他の機器から送信された環境情報を通信部210を介して取得する。
ステップS302において、判定部234は、先導車両70が進行する領域に進入する他の物体が検出されたか否かを判定する。先導車両70が進行する領域に進入する他の物体が検出された場合には、ステップS303に進む。一方、先導車両が進行する領域に進入する他の物体が検出されなかった場合には、ステップS306に進む。
ステップS303において、位置更新部235は、先導車両70を配置可能な空きスペースが存在するか否かを判定する。空きスペースは、例えば、車両10及び先導車両70の周囲のスペースのうち、他の物体が進入しないと推定されるスペースである。例えば、先導車両70の周囲のスペースのうち、矢印A1乃至A7方向(図7参照)の何れかに、他の物体が進入しないと推定されるスペースが存在する場合には、そのスペースを先導車両70を一時的に配置する空きスペースとする。また、例えば、先導車両70の周囲のスペースに空きスペースが存在しない場合には、先導車両70の上空に空いている空間が存在するか否かを判定する。そして、先導車両70の上空に空いている空間が存在する場合には、その空間を先導車両70を一時的に配置する空きスペースとする。先導車両70を配置可能な空きスペースが存在する場合には、ステップS304に進む。一方、先導車両70を配置可能な空きスペースが存在しない場合には、ステップS305に進む。
ステップS304において、位置更新部235は、先導車両70の配置を所定位置から、ステップS303で抽出された空きスペースに変更する。
ステップS305において、位置更新部235は、先導車両70の配置を所定位置から車両10の内部の所定部分に変更する。車両10の内部の所定部分は、例えば図10に示すようにダッシュボード14の上側とすることができる。
ステップS306において、位置更新部235は、先導車両70が所定位置以外に配置されているか否かを判定する。例えば、ステップS302で先導車両70が進行する領域に進入する他の物体が検出され、ステップS304またはS305で先導車両70の配置が変更された後に、その配置を戻す処理が実行されていない場合には、先導車両70が所定位置以外に配置されていると判定される。先導車両70が所定位置以外に配置されている場合には、ステップS307に進む。一方、先導車両70が所定位置に配置されている場合には、先導車両配置設定処理の動作を終了する。
ステップS307において、判定部234は、所定位置を基準として先導車両70が進行する領域に進入する他の物体が検出されたか否かを判定する。即ち、先導車両70を所定位置に戻した後に、先導車両70が進行する領域に進入する他の物体が存在するか否かが判定される。所定位置を基準として先導車両70が進行する領域に進入する他の物体が検出された場合には、先導車両70を所定位置に戻すことができないため、先導車両配置設定処理の動作を終了する。一方、所定位置を基準として先導車両70が進行する領域に進入する他の物体が検出されなかった場合には、ステップS308に進む。
ステップS308において、位置更新部235は、先導車両70の配置を他の位置から所定位置に戻す設定をする。
[運転支援装置の動作例]
図15は、運転支援装置200における運転支援処理の一例を示すフローチャートである。この処理例では、運転支援装置200が情報処理装置100や他の機器から環境情報を受信して用いる例を示す。また、この処理例は、記憶部250に記憶されているプログラムに基づいてコントローラ230により実行される。図15では、図2に示す構成を参照して説明する。
図15は、運転支援装置200における運転支援処理の一例を示すフローチャートである。この処理例では、運転支援装置200が情報処理装置100や他の機器から環境情報を受信して用いる例を示す。また、この処理例は、記憶部250に記憶されているプログラムに基づいてコントローラ230により実行される。図15では、図2に示す構成を参照して説明する。
図14に示す例と同様に、遠隔地空間20のオペレータ6と、車両10の運転者5とが運転支援システム1の利用を開始するための操作を行うことにより動作が開始される。
ステップS311において、環境情報取得部231は、情報処理装置100や他の機器から送信された環境情報を通信部210を介して取得する。
ステップS312において、運転支援制御部236は、ステップS311で取得された環境情報に基づいて、先導車両70における先導車両視点画像及び先導車両音声を生成する。
ステップS313において、運転支援制御部236は、ステップS312で生成された先導車両視点画像及び先導車両音声を出力させる。即ち、運転支援制御部236は、ステップS312で生成された先導車両視点画像を表示部241に表示させる。また、運転支援制御部236は、ステップS312で生成された先導車両音声を音声出力部242から出力させる。これにより、遠隔地空間20のオペレータ6は、先導車両70の位置を走行している車両と同じ風景を見ることができ、その車両と同じ音声を聞くことができる。また、オペレータ6は、表示部241に表示された先導車両視点画像と、音声出力部242から出力された先導車両音声とに基づいて、運転操作部220のステアリングホイル221やペダル222を用いて先導車両70の運転操作を行うことができる。
ステップS314において、走行データ生成部232は、遠隔地空間20のオペレータ6による運転操作に基づいて、先導車両70の走行データを生成する。即ち、走行データ生成部232は、オペレータ6によりステアリングホイル221が操作された場合には、その操作に応じて先導車両70の進行方向に関する走行データを生成する。また、走行データ生成部232は、オペレータ6によりペダル222が操作された場合には、その操作に応じて先導車両70の加減速に関する走行データを生成する。
ステップS315において、運転支援制御部236は、ステップS314で生成された走行データに基づいて、先導車両70における景色画像及び音声を更新する。即ち、運転支援制御部236は、オペレータ6によるステアリングホイル221やペダル222の操作に応じて先導車両70を走行させた後の景色画像を表示部241に表示させる。また、運転支援制御部236は、その操作に応じて先導車両70を走行させた後の音声を音声出力部242から出力させる。これにより、遠隔地空間20のオペレータ6は、自己の運転操作により先導車両70が走行しているように風景を見ることができ、その走行に応じた音声を聞くことができる。
ステップS316において、運転支援制御部236は、位置更新部235により先導車両70の配置を変更する設定または所定位置に戻す設定がされたか否かを判定する。先導車両70の配置を変更する設定と所定位置に戻す設定との何れもされていない場合には、ステップS317に進む。一方、先導車両70の配置を変更する設定または所定位置に戻す設定がされた場合には、ステップS318に進む。
ステップS317において、運転支援制御部236は、位置更新部235により設定された位置(所定位置または変更後の位置)に、先導車両70を表示させるための運転支援情報を情報処理装置100に送信する。この運転支援情報を受信した情報処理装置100のコントローラ130は、受信した運転支援情報に基づいて表示部141に先導車両70を表示させる。即ち、走行データ生成部232により生成された走行データに従って走行する先導車両70がフロントガラス11に表示される。これにより、車両10の運転者5は、先導車両70を見ながら、車両10の運転操作を行うことができる。
ステップS318において、運転支援制御部236は、先導車両70の配置が変更された旨を遠隔地空間20のオペレータ6及び車両10の運転者5の双方に通知する処理を実行する。オペレータ6に対しては、運転支援制御部236は、出力部240においてその旨の通知を行う。また、運転者5に対しては、先導車両70の配置が変更された旨の通知情報を含めた運転支援情報を情報処理装置100に送信する。この通知情報を受信した情報処理装置100のコントローラ130は、受信した通知情報に基づいて、その旨の通知を運転者5に対して行う。例えば、コントローラ130は、受信した通知情報に基づいて、先導車両70の配置が変更された旨の標識(例えば、図8乃至図13に示す矢印91乃至94、99)を表示部141に表示させる。また、例えば、コントローラ130は、受信した通知情報に基づいて、先導車両70の配置が変更された旨の音声(例えば、図8乃至図13に示す各音声)を音声出力部142から出力させる。
ステップS319において、運転支援制御部236は、位置更新部235により設定された変更後の位置に、先導車両70を表示させるための運転支援情報を情報処理装置100に送信する。この運転支援情報を受信した情報処理装置100のコントローラ130は、受信した運転支援情報に基づいて、位置が変更された先導車両70を表示部141に表示させる。
ステップS320において、コントローラ230は、遠隔地空間20のオペレータ6と、車両10の運転者5との少なくとも一方が運転支援システム1の利用を終了するための終了操作をしたか否かを判定する。その終了操作がされた場合には、先導車両表示処理の動作を終了する。一方、その終了操作がされていない場合には、ステップS311に戻る。
このように、本実施形態では、車両10及び先導車両70の挙動とともに、車両10及び先導車両70の周囲に存在する他の物体(他車両など)の挙動をリアルタイムに推定し、現在および直近の先導車両70の周囲で配置可能な空間を自動的に検出する。そして、先導車両70の存在する空間に他の物体が進入することが事前に推定された場合には、運転者5及びオペレータ6の双方に通知した上で、先導車両70を配置可能な空間に自動的に移動させる。また、先導車両70を元の位置に再配置可能になった場合には、その元の位置に先導車両70を戻すようにする。これにより、他の物体の進入により先導車両70を見ることのできない交通環境下でも、車両10の運転者5は、中断されることなく運転支援を受けることができる。
なお、本実施形態では、運転支援装置200を遠隔地空間20に設置する例を示すが、車両10に搭載してもよい。この場合、運転支援装置200は、オペレータ6の操作に依らず、車両10から取得し得る信号及び情報等を用いた演算(例えばシミュレーション)等によって機械的に先導車両70を表示させる。
また、先導車両70を表示するための運転支援情報を作成するための各処理の全部または一部を情報処理装置100において実行してもよい。この場合には、情報処理装置100のコントローラ130は、運転支援装置200のコントローラ230が備える各処理部のうちの全部または一部の処理を実行する。
なお、本実施形態では、先導車両70を表示する際に用いられる運転支援情報を作成するための各処理を運転支援装置200において実行する例を示したが、その運転支援情報を作成するための各処理の全部または一部を他の機器において実行してもよい。この場合には、その運転支援情報を作成するための各処理の一部を実行する各機器により運転支援システムが構成される。
また、運転支援装置200の機能を含む運転支援システム1の一部(または全部)については、ネットワーク2を介して提供可能なアプリケーションにより提供されてもよい。このアプリケーションは、例えばSaaS(Software as a Service)である。
なお、本実施形態で示した各処理は、各処理手順をコンピュータに実行させるためのプログラムに基づいて実行されるものである。このため、本実施形態は、それらの各処理を実行する機能を実現するプログラム、そのプログラムを記憶する記録媒体の実施形態としても把握することができる。例えば、情報処理装置に新機能を追加するためのアップデート処理により、そのプログラムを情報処理装置の記憶装置に記憶させることができる。これにより、そのアップデートされた情報処理装置に本実施形態で示した各処理を実施させることが可能となる。
[本実施形態の構成及び効果]
本実施形態に係る運転支援装置200は、車両10の運転者5から見える実景における車両10の前方の所定位置に先導車両70が配置されたように運転者5に見せるため、虚像である先導車両画像を当該実景に重ねて配置して車両10の運転を支援する運転支援装置である。運転支援装置200は、車両10の走行情報と所定位置の周囲に存在する物体(例えば車両30、35、自転車40、電子機器50、環境情報取得装置61、62)に関する物体情報(例えばそれらの各機器により取得される環境情報)とを含む車両10の周囲の環境に関する環境情報を取得する環境情報取得部231と、環境情報を用いて先導車両70の走行データを生成する走行データ生成部232と、環境情報に基づいて所定位置に仮想的に配置される先導車両70に対応する先導車両領域に進入する物体が存在するか否かを判定する判定部234と、先導車両領域に進入する物体が存在する場合には、先導車両70を仮想的に配置する位置を、所定位置から他の位置に変更する位置更新部235と、先導車両70を仮想的に配置する位置が変更されていない場合には、先導車両70を仮想的に配置する位置を所定位置とする走行データに基づく先導車両画像を運転者5に見せるための表示処理を行い、先導車両70を仮想的に配置する位置が変更された場合には、先導車両70を仮想的に配置する位置を他の位置とする走行データに基づく先導車両画像を運転者5に見せるための表示処理を行う運転支援制御部236(出力処理部の一例)とを備える。ここで、運転支援制御部236により実行される表示処理は、先導車両70を表示するための運転支援情報を情報処理装置100に送信して、情報処理装置100の表示部141に先導車両70を表示させるための処理である。なお、本実施形態に係る運転支援装置200は、情報処理装置100により実現してもよく、運転支援システム1を構成する各機器により実現してもよい。
本実施形態に係る運転支援装置200は、車両10の運転者5から見える実景における車両10の前方の所定位置に先導車両70が配置されたように運転者5に見せるため、虚像である先導車両画像を当該実景に重ねて配置して車両10の運転を支援する運転支援装置である。運転支援装置200は、車両10の走行情報と所定位置の周囲に存在する物体(例えば車両30、35、自転車40、電子機器50、環境情報取得装置61、62)に関する物体情報(例えばそれらの各機器により取得される環境情報)とを含む車両10の周囲の環境に関する環境情報を取得する環境情報取得部231と、環境情報を用いて先導車両70の走行データを生成する走行データ生成部232と、環境情報に基づいて所定位置に仮想的に配置される先導車両70に対応する先導車両領域に進入する物体が存在するか否かを判定する判定部234と、先導車両領域に進入する物体が存在する場合には、先導車両70を仮想的に配置する位置を、所定位置から他の位置に変更する位置更新部235と、先導車両70を仮想的に配置する位置が変更されていない場合には、先導車両70を仮想的に配置する位置を所定位置とする走行データに基づく先導車両画像を運転者5に見せるための表示処理を行い、先導車両70を仮想的に配置する位置が変更された場合には、先導車両70を仮想的に配置する位置を他の位置とする走行データに基づく先導車両画像を運転者5に見せるための表示処理を行う運転支援制御部236(出力処理部の一例)とを備える。ここで、運転支援制御部236により実行される表示処理は、先導車両70を表示するための運転支援情報を情報処理装置100に送信して、情報処理装置100の表示部141に先導車両70を表示させるための処理である。なお、本実施形態に係る運転支援装置200は、情報処理装置100により実現してもよく、運転支援システム1を構成する各機器により実現してもよい。
このような運転支援装置200によれば、車両10の運転者5は、実景を重ねて表示される虚像である先導車両70により、運転支援を受けることができる。そして、移動物体が先導車両70の領域に進入することが推定された場合には、空きスペースに先導車両70の表示位置を変更する。このため、移動物体の進入により先導車両70を見ることができない交通環境下でも、車両10の運転者5は中断されることなく運転支援を受けることができる。
また、本実施形態に係る運転支援装置200では、位置更新部235は、環境情報に基づいて、所定位置の周囲に存在するスペースのうちから先導車両70を仮想的に配置するための空きスペースを他の位置として抽出する。
このような運転支援装置200によれば、他の物体の進入により車両10の前のスペースに先導車両70を表示できないような場合でも、空いているスペースに先導車両70を変更することができる。このため、先導車両70の表示を継続することができ、運転支援を継続することができる。
また、本実施形態に係る運転支援装置200では、位置更新部235は、所定位置の左右方向に存在するスペースのうちから空きスペースを抽出する。
このような運転支援装置200によれば、他の物体の進入により車両10の前のスペースに先導車両70を表示できないような場合でも、空いている左右の位置に先導車両70を変更することができる。このため、先導車両70の表示を継続することができ、運転支援を継続することができる。
また、本実施形態に係る運転支援装置200では、判定部234は、環境情報に基づいて先導車両70の移動状況を推定するとともに、環境情報に基づいて所定位置から所定範囲内に存在する他の物体の移動状況を推定し、所定時間内における先導車両70の移動状況と他の物体の移動状況とに基づいて、先導車両領域に他の物体が進入するか否かを判定する。
このような運転支援装置200によれば、先導車両70の走行状況および所定範囲内の他の物体の移動状況を推定するため、リアルタイムに変化する先導車両70の移動状況および交通状況の関係を元に事前に進入に対処することができる。
また、本実施形態に係る運転支援装置200では、運転支援制御部236(出力処理部の一例)は、先導車両70を仮想的に配置する位置が変更された場合には、その位置を変更することを運転者5に通知する通知処理(例えば、図8乃至図13に示す矢印91乃至94、99を表示させる処理)を行う。
このような運転支援装置200によれば、少なくとも所定位置から変更後の先導車両70の表示位置への変更方向を含む変更位置の案内を通知することができる。これにより、先導車両70の表示位置の変更を事前に案内することにより、唐突なことなく変更するので、運転者5の操作を妨げないようにする。
また、本実施形態に係る運転支援装置200は、車両10とは異なる遠隔地空間20に設置される。また、走行データ生成部232は、車両10及び車両10の周囲に存在する機器から送信された環境情報と、遠隔地空間20に存在するオペレータ6による運転操作とに基づいて、走行データを生成する。運転支援制御部236(出力処理部の一例)は、先導車両70を仮想的に配置する位置が変更された場合には、その位置を他の位置に変更したことをオペレータ6に通知するための通知処理を行う。また、走行データ生成部232は、先導車両70を仮想的に配置する位置が変更された場合には、その変更後の位置を基準として走行データを生成する。
このような運転支援装置200によれば、走行データを生成するオペレータ6が遠隔地空間20に存在するため、オペレータ6に適切な情報を提供し、人間によるその場に即した高度で咄嗟の判断を要するような運転支援を実現する。
ができる。
ができる。
また、本実施形態に係る運転支援装置200では、位置更新部235は、所定位置の周囲に存在するスペースにおいて、先導車両70を仮想的に配置するための空きスペースが存在しない場合には、先導車両70を仮想的に配置する位置を車両10内に変更する。そして、運転支援制御部(出力処理部の一例)は、先導車両70を仮想的に配置する位置が車両10内に変更された場合には、先導車両70が車両10内の所定部分(例えばダッシュボード14の上側)に配置されたように見せるように先導車両画像を運転者5に見せるための表示処理を行う。
このような運転支援装置200によれば、車両10の周辺に空きスペースがない場合でも、先導車両70を車両10内に表示することで、先導車両70の表示を継続することができ、運転支援を継続することができる。
また、本実施形態に係る運転支援装置200では、運転支援制御部236(出力処理部の一例)は、先導車両70を仮想的に配置する位置が変更された場合には、先導車両領域に他の物体を進入させないための案内をオペレータ6に通知する通知処理を行う。
このような運転支援装置200によれば、先導車両70を操作するオペレータ6に対して車両10の前のスペースを空けるように案内することで、先導車両70の表示スペースを作り出すことができる。
また、本実施形態に係る運転支援装置200では、運転支援制御部236(出力処理部の一例)は、先導車両70を仮想的に配置する位置が変更された場合には、先導車両領域に他の物体を進入させないための案内(例えば図12に示す音声305)を運転者5に通知する通知処理を行う。
このような運転支援装置200によれば、運転支援として車両10の前のスペースを空けるように案内することで、先導車両70の表示スペースを作り出すことができる。
また、本実施形態に係る運転支援装置200では、位置更新部235は、先導車両70を仮想的に配置する位置の変更後に、先導車両領域に進入する物体が存在しなくなった場合には、先導車両70を仮想的に配置する位置を所定位置に戻す処理を実行する。
このような運転支援装置200によれば、車両10の前方の所定位置のスペースが空きスペースとなった場合、先導車両70の表示位置をそのスペースに戻すため、最も効果的な運転案内ができる位置に先導車両70を移動させることができる。
また、本実施形態に係る運転支援方法は、車両10の運転者5から見える実景における車両10の前方の所定位置に先導車両70が配置されたように運転者5に見せるため、虚像である先導車両画像を当該実景に重ねて配置して車両10の運転を支援する運転支援方法である。この運転支援方法は、車両10の走行情報と所定位置の周囲に存在する物体に関する物体情報とを含む車両10の周囲の環境に関する環境情報を取得する環境情報取得ステップ(ステップS301、S311)と、環境情報を用いて先導車両70の走行データを生成する走行データ生成ステップ(ステップS314)と、環境情報に基づいて所定位置に仮想的に配置される先導車両70に対応する先導車両領域に進入する物体が存在するか否かを判定する判定ステップ(ステップS302)と、先導車両領域に進入する物体が存在する場合には、先導車両70を仮想的に配置する位置を、所定位置から他の位置に変更する位置更新ステップ(ステップS303乃至S305)と、先導車両70を仮想的に配置する位置が変更されていない場合には、先導車両70を仮想的に配置する位置を所定位置とする走行データに基づく先導車両画像を運転者5に見せるための表示処理を行い、先導車両70を仮想的に配置する位置が変更された場合には、先導車両70を仮想的に配置する位置を他の位置とする走行データに基づく先導車両画像を運転者5に見せるための表示処理を行う出力処理ステップ(ステップS317、S319)とを備える。また、本実施形態に係るプログラムは、そのような運転支援方法を実現するための運転支援機能をコンピュータに実現させるためのプログラムであり、それらの各処理手順(ステップS301乃至S305、S311、S314、S317、S319)をコンピュータに実行させるためのプログラムである。
このような運転支援方法及びプログラムによれば、移動物体が先導車両70の位置するところに進入することが推定された場合には、空きスペースに先導車両70の表示位置を変更可能である。このため、移動物体の進入により先導車両70を見ることができない交通環境下でも車両10の運転者5は中断されることなく運転支援を受けることができる。
以上、本発明の実施形態について説明したが、上記実施形態は本発明の適用例の一部を示したに過ぎず、本発明の技術的範囲を上記実施形態の具体的構成に限定する趣旨ではない。
2 ネットワーク 、100 情報処理装置 、110 環境情報取得部 、111 地図情報取得部 、112 位置情報取得部 、113 撮像画像取得部 、114 外部音声取得部 、120 通信部 、130 コントローラ 、140 出力部 、141 表示部 、142 音声出力部 、150 記憶部 、200 運転支援装置 、210 通信部 、220 運転操作部、221 ステアリングホイル 、222 ペダル 、230 コントローラ 、231 環境情報取得部 、232 走行データ生成部 、233 先導車両画像生成部 、234 判定部 、235 位置更新部 、236 運転支援制御部236 、240 出力部、241 表示部 、242 音声出力部 、250 記憶部
Claims (12)
- 車両の運転者から見える実景における前記車両の前方の所定位置に先導車両が配置されたように前記運転者に見せるため、虚像である先導車両画像を当該実景に重ねて配置して前記車両の運転を支援する運転支援装置であって、
前記車両の走行情報と前記所定位置の周囲に存在する物体に関する物体情報とを含む前記車両の周囲の環境に関する環境情報を取得する環境情報取得部と、
前記環境情報を用いて前記先導車両の走行データを生成する走行データ生成部と、
前記環境情報に基づいて前記所定位置に仮想的に配置される前記先導車両に対応する先導車両領域に進入する物体が存在するか否かを判定する判定部と、
前記先導車両領域に進入する物体が存在する場合には、前記先導車両を仮想的に配置する位置を、前記所定位置から他の位置に変更する位置更新部と、
前記先導車両を仮想的に配置する位置が変更されていない場合には、前記先導車両を仮想的に配置する位置を前記所定位置とする前記走行データに基づく前記先導車両画像を前記運転者に見せるための表示処理を行い、前記先導車両を仮想的に配置する位置が変更された場合には、前記先導車両を仮想的に配置する位置を前記他の位置とする前記走行データに基づく前記先導車両画像を前記運転者に見せるための表示処理を行う出力処理部と、
を備える運転支援装置。 - 請求項1に記載の運転支援装置であって、
前記位置更新部は、前記環境情報に基づいて、前記所定位置の周囲に存在するスペースのうちから前記先導車両を仮想的に配置するための空きスペースを前記他の位置として抽出する、
運転支援装置。 - 請求項2に記載の運転支援装置であって、
前記位置更新部は、前記所定位置の左右方向に存在するスペースのうちから前記空きスペースを抽出する、
運転支援装置。 - 請求項1から3の何れかに記載の運転支援装置であって、
前記判定部は、前記環境情報に基づいて前記先導車両の移動状況を推定するとともに、前記環境情報に基づいて前記所定位置から所定範囲内に存在する他の物体の移動状況を推定し、所定時間内における前記先導車両の移動状況と前記他の物体の移動状況とに基づいて、前記先導車両領域に前記他の物体が進入するか否かを判定する、
運転支援装置。 - 請求項1から4の何れかに記載の運転支援装置であって、
前記出力処理部は、前記先導車両を仮想的に配置する位置が変更された場合には、当該位置を変更することを前記運転者に通知する通知処理を行う、
運転支援装置。 - 請求項1から5の何れかに記載の運転支援装置であって、
前記運転支援装置は、前記車両とは異なる遠隔地空間に設置され、
前記走行データ生成部は、前記車両及び前記車両の周囲に存在する機器から送信された前記環境情報と、前記遠隔地空間に存在するオペレータによる運転操作とに基づいて、前記走行データを生成し、
前記出力処理部は、前記先導車両を仮想的に配置する位置が変更された場合には、当該位置を前記他の位置に変更したことを前記オペレータに通知するための通知処理を行い、
前記走行データ生成部は、前記先導車両を仮想的に配置する位置が変更された場合には、当該変更後の位置を基準として前記走行データを生成する、
運転支援装置。 - 請求項1から6の何れかに記載の運転支援装置であって、
前記位置更新部は、前記所定位置の周囲に存在するスペースにおいて、前記先導車両を仮想的に配置するための空きスペースが存在しない場合には、前記先導車両を仮想的に配置する位置を前記車両内に変更し、
前記出力処理部は、前記先導車両を仮想的に配置する位置が前記車両内に変更された場合には、前記先導車両が前記車両内の所定部分に配置されたように見せるように前記先導車両画像を前記運転者に見せるための表示処理を行う、
運転支援装置。 - 請求項6に記載の運転支援装置であって、
前記出力処理部は、前記先導車両を仮想的に配置する位置が変更された場合には、前記先導車両領域に他の物体を進入させないための案内を前記オペレータに通知する通知処理を行う、
運転支援装置。 - 請求項1から8の何れかに記載の運転支援装置であって、
前記出力処理部は、前記先導車両を仮想的に配置する位置が変更された場合には、前記先導車両領域に他の物体を進入させないための案内を前記運転者に通知する通知処理を行う、
運転支援装置。 - 請求項1から9の何れかに記載の運転支援装置であって、
前記位置更新部は、前記先導車両を仮想的に配置する位置の変更後に、前記先導車両領域に進入する物体が存在しなくなった場合には、前記先導車両を仮想的に配置する位置を前記所定位置に戻す処理を実行する、
運転支援装置。 - 車両の運転者から見える実景における前記車両の前方の所定位置に先導車両が配置されたように前記運転者に見せるため、虚像である先導車両画像を当該実景に重ねて配置して前記車両の運転を支援する運転支援方法であって、
前記車両の走行情報と前記所定位置の周囲に存在する物体に関する物体情報とを含む前記車両の周囲の環境に関する環境情報を取得する環境情報取得ステップと、
前記環境情報を用いて前記先導車両の走行データを生成する走行データ生成ステップと、
前記環境情報に基づいて前記所定位置に仮想的に配置される前記先導車両に対応する先導車両領域に進入する物体が存在するか否かを判定する判定ステップと、
前記先導車両領域に進入する物体が存在する場合には、前記先導車両を仮想的に配置する位置を、前記所定位置から他の位置に変更する位置更新ステップと、
前記先導車両を仮想的に配置する位置が変更されていない場合には、前記先導車両を仮想的に配置する位置を前記所定位置とする前記走行データに基づく前記先導車両画像を前記運転者に見せるための表示処理を行い、前記先導車両を仮想的に配置する位置が変更された場合には、前記先導車両を仮想的に配置する位置を前記他の位置とする前記走行データに基づく前記先導車両画像を前記運転者に見せるための表示処理を行う出力処理ステップと、
を備える運転支援方法。 - 車両の運転者から見える実景における前記車両の前方の所定位置に先導車両が配置されたように前記運転者に見せるため、虚像である先導車両画像を当該実景に重ねて配置して前記車両の運転を支援する運転支援機能をコンピュータに実現させるためのプログラムであって、
前記車両の走行情報と前記所定位置の周囲に存在する物体に関する物体情報とを含む前記車両の周囲の環境に関する環境情報を取得する環境情報取得ステップと、
前記環境情報を用いて前記先導車両の走行データを生成する走行データ生成ステップと、
前記環境情報に基づいて前記所定位置に仮想的に配置される前記先導車両に対応する先導車両領域に進入する物体が存在するか否かを判定する判定ステップと、
前記先導車両領域に進入する物体が存在する場合には、前記先導車両を仮想的に配置する位置を、前記所定位置から他の位置に変更する位置更新ステップと、
前記先導車両を仮想的に配置する位置が変更されていない場合には、前記先導車両を仮想的に配置する位置を前記所定位置とする前記走行データに基づく前記先導車両画像を前記運転者に見せるための表示処理を行い、前記先導車両を仮想的に配置する位置が変更された場合には、前記先導車両を仮想的に配置する位置を前記他の位置とする前記走行データに基づく前記先導車両画像を前記運転者に見せるための表示処理を行う出力処理ステップと、
をコンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021069327A JP2022164079A (ja) | 2021-04-15 | 2021-04-15 | 運転支援装置、運転支援方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021069327A JP2022164079A (ja) | 2021-04-15 | 2021-04-15 | 運転支援装置、運転支援方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022164079A true JP2022164079A (ja) | 2022-10-27 |
Family
ID=83742781
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021069327A Pending JP2022164079A (ja) | 2021-04-15 | 2021-04-15 | 運転支援装置、運転支援方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022164079A (ja) |
-
2021
- 2021-04-15 JP JP2021069327A patent/JP2022164079A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10303257B2 (en) | Communication between autonomous vehicle and external observers | |
JP7331696B2 (ja) | 情報処理装置、情報処理方法、プログラム、および移動体 | |
JP7192772B2 (ja) | 画像処理装置および画像処理方法 | |
WO2019097763A1 (ja) | 重畳画像表示装置及びコンピュータプログラム | |
CN114641668A (zh) | 拼车应用程序中的增强现实寻路 | |
US11525694B2 (en) | Superimposed-image display device and computer program | |
CN113479195A (zh) | 用于自动代客泊车的方法和用于执行所述方法的系统 | |
WO2021241189A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
EP3825958B1 (en) | A new way to generate tight 2d bounding boxes for autonomous driving labeling | |
EP4372663A1 (en) | Mr service platform providing mixed reality automotive meta service, and method for controlling same | |
JP2019109707A (ja) | 表示制御装置、表示制御方法および車両 | |
JP2022098397A (ja) | 情報処理装置、および情報処理方法、並びにプログラム | |
CN114935334B (zh) | 车道拓扑关系的构建方法、装置、车辆、介质及芯片 | |
CN115330923A (zh) | 点云数据渲染方法、装置、车辆、可读存储介质及芯片 | |
US20210279477A1 (en) | Image processing apparatus, image processing method, and image processing system | |
CN115164910B (zh) | 行驶路径生成方法、装置、车辆、存储介质及芯片 | |
WO2022145286A1 (ja) | 情報処理装置、情報処理方法、プログラム、移動装置、及び、情報処理システム | |
JP2022164079A (ja) | 運転支援装置、運転支援方法及びプログラム | |
JP2019117435A (ja) | 画像生成装置 | |
CN114207685B (zh) | 自主车辆交互系统 | |
CN115221260B (zh) | 数据处理方法、装置、车辆及存储介质 | |
US11645038B1 (en) | Augmented reality head-up display for audio event awareness | |
JP7571829B2 (ja) | 情報処理装置、情報処理方法、プログラム、および移動体 | |
JP7333445B2 (ja) | 画像生成装置 | |
WO2022014327A1 (ja) | 情報処理装置、情報処理方法、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240829 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240910 |