JP2022174921A - 車両遠隔指示システム - Google Patents
車両遠隔指示システム Download PDFInfo
- Publication number
- JP2022174921A JP2022174921A JP2021080967A JP2021080967A JP2022174921A JP 2022174921 A JP2022174921 A JP 2022174921A JP 2021080967 A JP2021080967 A JP 2021080967A JP 2021080967 A JP2021080967 A JP 2021080967A JP 2022174921 A JP2022174921 A JP 2022174921A
- Authority
- JP
- Japan
- Prior art keywords
- remote
- route
- automatic driving
- driving vehicle
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000005540 biological transmission Effects 0.000 claims description 14
- 230000004044 response Effects 0.000 claims description 5
- 230000002093 peripheral effect Effects 0.000 abstract 1
- 238000004891 communication Methods 0.000 description 24
- 238000000034 method Methods 0.000 description 16
- 230000001133 acceleration Effects 0.000 description 14
- 230000008569 process Effects 0.000 description 11
- 238000012545 processing Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 7
- 238000013459 approach Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 6
- 238000010276 construction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000004807 localization Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Navigation (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】自動運転から遠隔運転に切り替わる際、遠隔コマンダが遠隔指示の判断を行うための遠隔自動運転車両の経路の情報を、遠隔コマンダに対して適切に提供する。【解決手段】車両遠隔指示システムは、自動運転と、遠隔コマンダからの遠隔指示に基づいて走行する遠隔運転とを実行可能な遠隔自動運転車両と、遠隔自動運転車両の前方画像を出力する出力部を有し、前方画像を用いて遠隔コマンダが遠隔運転に関する遠隔指示を行う遠隔指示装置と、を備える。遠隔指示装置は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両の周辺状況に基づいて、遠隔自動運転車両の経路を遠隔コマンダに認識させるための経路認識補助画像が重畳された前方画像である重畳画像を生成する重畳画像生成部と、重畳画像を出力部に表示させて遠隔コマンダに対して情報提供を行う情報提供部と、を有する。【選択図】図14
Description
本発明は、遠隔コマンダからの遠隔指示に基づいて遠隔自動運転車両を走行させる車両遠隔指示システムに関する。
例えば、特許文献1には、自律走行が可能な移動体を遠隔操作するときに、自律走行軌道を遠隔操作画面に重畳描画する移動体遠隔操作システムが記載されている。
遠隔自動運転車両は、自動運転と、遠隔コマンダからの遠隔指示に基づいて走行する遠隔運転とを実行可能である。遠隔自動運転車両から遠隔指示が要求されていない場合、遠隔コマンダは、通常、遠隔指示の判断を行うための遠隔自動運転車両の経路などの情報を認識していない状態にある。そのため、自動運転から遠隔運転に切り替わる際に、遠隔自動運転車両の周辺状況によっては例えば道路上の標示が視認できないなどの状況となる可能性があり、遠隔コマンダが遠隔自動運転車両の経路を直ちに把握することが難しいという問題が生じ得る。そこで、本技術分野では、自動運転から遠隔運転に切り替わる際、遠隔コマンダが遠隔指示の判断を行うための遠隔自動運転車両の経路の情報を、遠隔コマンダに対して適切に提供することが求められている。
本発明の一側面は、自動運転と、遠隔コマンダからの遠隔指示に基づいて走行する遠隔運転とを実行可能な遠隔自動運転車両と、遠隔自動運転車両の前方画像を出力する出力部を有し、前方画像を用いて遠隔コマンダが遠隔運転に関する遠隔指示を行う遠隔指示装置と、を備える車両遠隔指示システムであって、遠隔指示装置は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両の周辺状況に基づいて、遠隔自動運転車両の経路を遠隔コマンダに認識させるための経路認識補助画像が重畳された前方画像である重畳画像を生成する重畳画像生成部と、重畳画像を出力部に表示させて遠隔コマンダに対して情報提供を行う情報提供部と、を有する。
本発明の一側面に係る車両遠隔指示システムによれば、遠隔指示装置は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両の周辺状況に基づいて、重畳画像を生成する重畳画像生成部を有する。重畳画像は、遠隔自動運転車両の経路を遠隔コマンダに認識させるための経路認識補助画像が重畳された前方画像である。情報提供部は、重畳画像を出力部に表示させて遠隔コマンダに対して情報提供を行う。これにより、遠隔コマンダは、自動運転から遠隔運転に切り替わる際、前方画像に重畳された経路認識補助画像を参照することで、遠隔自動運転車両の周辺状況に応じた遠隔自動運転車両の経路を認識することが容易となる。したがって、車両遠隔指示システムによれば、自動運転から遠隔運転に切り替わる際、遠隔コマンダが遠隔指示の判断を行うための遠隔自動運転車両の経路の情報を、遠隔コマンダに対して適切に提供することが可能となる。
一実施形態では、重畳画像生成部は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両の周辺状況に基づいて、経路認識補助画像の前方画像への重畳表示の要否を判定し、情報提供部は、重畳画像生成部によって重畳表示が不要と判定された場合、経路認識補助画像が重畳されない前方画像を出力部に表示させて遠隔コマンダに対して情報提供を行ってもよい。この場合、例えば前方画像中において経路認識補助画像と交通情報物体とが干渉することが抑制されるため、遠隔コマンダによる交通情報物体の認識を経路認識補助画像が妨げることを抑制できる。
一実施形態では、遠隔指示装置は、経路認識補助画像の表示のために用いる遠隔自動運転車両の位置及び目的地の情報を含む表示用情報を遠隔自動運転車両からの送信に応じて取得すると共に、取得した表示用情報に基づいて遠隔自動運転車両の進路を取得する進路取得部を有してもよい。この場合、遠隔自動運転車両側で生成した進路を用いずに経路認識補助画像を生成することができるため、遠隔自動運転車両側で生成した進路の情報を送信することが通信負担となる場合に通信負担の増大を抑制することができる。
本発明によれば、自動運転から遠隔運転に切り替わる際、遠隔コマンダが遠隔指示の判断を行うための遠隔自動運転車両の経路の情報を、遠隔コマンダに対して適切に提供することが可能となる。
以下、本発明の実施形態について図面を参照しながら説明する。なお、以下の説明において、同一又は相当する要素同士には同一符号を付し、重複する説明を省略する。
図1は、実施形態に係る車両遠隔指示システムの全体像の一例を示す図である。図1に示される車両遠隔指示システム100は、遠隔自動運転車両2の外部環境を検出する外部センサ22の検出情報に基づいて、遠隔コマンダRが遠隔自動運転車両2の走行に関する遠隔指示を行うシステムである。遠隔指示とは、遠隔自動運転車両2の走行に関する遠隔コマンダRの指示である。
遠隔指示には、遠隔自動運転車両2の進行の指示及び遠隔自動運転車両2の停止の指示が含まれる。遠隔指示には、遠隔自動運転車両2の車線変更の指示が含まれていてもよい。また、遠隔指示には、前方の障害物に対するオフセット回避の指示、先行車の追い越しの指示、緊急退避の指示等が含まれていてもよい。
[車両遠隔指示システムの構成]
図1に示されるように、車両遠隔指示システム100は、遠隔コマンダRが遠隔指示を入力する遠隔指示装置1を備えている。遠隔指示装置1は、ネットワークNを介して複数台の遠隔自動運転車両2と通信可能に接続されている。ネットワークNは無線通信ネットワークである。遠隔指示装置1には、遠隔自動運転車両2から各種の情報が送られる。
図1に示されるように、車両遠隔指示システム100は、遠隔コマンダRが遠隔指示を入力する遠隔指示装置1を備えている。遠隔指示装置1は、ネットワークNを介して複数台の遠隔自動運転車両2と通信可能に接続されている。ネットワークNは無線通信ネットワークである。遠隔指示装置1には、遠隔自動運転車両2から各種の情報が送られる。
車両遠隔指示システム100では、例えば遠隔自動運転車両2からの遠隔指示要求に応じて、遠隔コマンダRに遠隔指示の入力が要求される。遠隔コマンダRは、遠隔自動運転車両2の前方の撮像画像を参照しながら(前方画像を用いて)、遠隔指示装置1のコマンダインターフェース3に遠隔指示を入力する。遠隔指示装置1は、ネットワークNを通じて遠隔自動運転車両2に遠隔指示を送信する。遠隔自動運転車両2は、遠隔指示に従って自動で走行する。
なお、車両遠隔指示システム100において遠隔コマンダRの人数は一人であってもよく、二人以上であってもよい。車両遠隔指示システム100と通信可能な遠隔自動運転車両2の台数も特に限定されない。複数人の遠隔コマンダRが交替して一台の遠隔自動運転車両2に対する遠隔指示を行う態様であってもよく、一人の遠隔コマンダRが二台以上の遠隔自動運転車両2に対して遠隔指示を行う態様であってもよい。
[自動運転車両の構成]
まず、遠隔自動運転車両2の構成の一例について説明する。図2は、遠隔自動運転車両2の構成の一例を示すブロック図である。図2に示すように、遠隔自動運転車両2は、一例として、自動運転ECU20を有している。自動運転ECU20は、CPU[Central Processing Unit]、ROM[Read Only Memory]、RAM[Random Access Memory]等を有する電子制御ユニットである。自動運転ECU20では、例えば、ROMに記録されているプログラムをRAMにロードし、RAMにロードされたプログラムをCPUで実行することにより各種の機能を実現する。自動運転ECU20は、複数の電子ユニットから構成されていてもよい。
まず、遠隔自動運転車両2の構成の一例について説明する。図2は、遠隔自動運転車両2の構成の一例を示すブロック図である。図2に示すように、遠隔自動運転車両2は、一例として、自動運転ECU20を有している。自動運転ECU20は、CPU[Central Processing Unit]、ROM[Read Only Memory]、RAM[Random Access Memory]等を有する電子制御ユニットである。自動運転ECU20では、例えば、ROMに記録されているプログラムをRAMにロードし、RAMにロードされたプログラムをCPUで実行することにより各種の機能を実現する。自動運転ECU20は、複数の電子ユニットから構成されていてもよい。
自動運転ECU20は、GPS[Global Positioning System]受信部21、外部センサ22、内部センサ23、地図データベース24、通信部25、及び、アクチュエータ26と接続されている。
GPS受信部21は、3個以上のGPS衛星から信号を受信することにより、遠隔自動運転車両2の位置(例えば遠隔自動運転車両2の緯度及び経度)を測定する。GPS受信部21は、測定した遠隔自動運転車両2の位置情報を自動運転ECU20へ送信する。
外部センサ22は、遠隔自動運転車両2の周囲の外部環境を検出する車載センサである。外部センサ22は、検出した検出情報(センサ情報)を自動運転ECU20へ送信する。
具体的に、外部センサ22は、カメラを少なくとも含む。カメラは、遠隔自動運転車両2の外部環境を撮像する撮像機器である。カメラは、例えば遠隔自動運転車両2のフロントガラスの裏側に設けられ、車両前方を撮像する。カメラは、遠隔自動運転車両2の外部環境に関する画像情報を自動運転ECU20へ送信する。カメラは、単眼カメラであってもよく、ステレオカメラであってもよい。また、カメラは、可視光を用いたカメラであってもよく、赤外線カメラであってもよい。
外部センサ22は、レーダセンサを含んでもよい。レーダセンサは、電波(例えばミリ波)又は光を利用して遠隔自動運転車両2の周辺の物体を検出する検出機器である。レーダセンサには、例えば、レーダ(ミリ波レーダ)又はライダー[LiDAR:Light Detection and Ranging]が含まれる。レーダセンサは、電波又は光を遠隔自動運転車両2の周辺に送信し、物体で反射された電波又は光を受信することで物体を検出する。レーダセンサは、検出した物体情報を自動運転ECU20へ送信する。物体には、ガードレール、建物等の固定物体の他、歩行者、自転車、他車両等の移動物体が含まれる。
内部センサ23は、遠隔自動運転車両2の走行状態を検出する車載センサである。内部センサ23は、車速センサ、加速度センサ、及びヨーレートセンサを含んでいる。車速センサは、遠隔自動運転車両2の速度を検出する検出器である。車速センサとしては、遠隔自動運転車両2の車輪又は車輪と一体に回転するドライブシャフト等に対して設けられ、各車輪の回転速度を検出する車輪速センサを用いることができる。車速センサは、検出した車速情報(車輪速情報)を自動運転ECU20に送信する。
加速度センサは、遠隔自動運転車両2の加速度を検出する検出器である。加速度センサは、例えば、遠隔自動運転車両2の前後方向の加速度を検出する前後加速度センサを含んでいる.加速度センサは、遠隔自動運転車両2の横加速度を検出する横加速度センサを含んでいてもよい。加速度センサは、例えば、遠隔自動運転車両2の加速度情報を自動運転ECU20に送信する。ヨーレートセンサは、遠隔自動運転車両2の重心の鉛直軸周りのヨーレート(回転角速度)を検出する検出器である。ヨーレートセンサとしては、例えばジャイロセンサを用いることができる。ヨーレートセンサは、検出した遠隔自動運転車両2のヨーレート情報を自動運転ECU20へ送信する。
地図データベース24は、地図情報を記録するデータベースである。地図データベース24は、例えば、遠隔自動運転車両2に搭載されたHDD[Hard Disk Drive]等の記録装置内に形成されている。地図情報には、道路の位置情報、道路形状の情報(例えば曲率情報)、交差点及び分岐点の位置情報等が含まれる。地図情報には、位置情報と関連付けられた法定最高速度等の交通規制情報が含まれていてもよい。地図情報には、遠隔自動運転車両2の位置情報の取得に用いられる物標情報が含まれていてもよい。物標としては、道路標識、路面標示、信号機、電柱等を用いることができる。地図データベース24は、遠隔自動運転車両2と通信可能なサーバに構成されていてもよい。
通信部25は、遠隔自動運転車両2の外部との無線通信を制御する通信デバイスである。通信部25は、ネットワークNを介して遠隔指示装置1(遠隔指示サーバ10)と各種情報の送信及び受信を行う。
アクチュエータ26は、遠隔自動運転車両2の制御に用いられる機器である。アクチュエータ26は、駆動アクチュエータ、ブレーキアクチュエータ、及び操舵アクチュエータを少なくとも含む。駆動アクチュエータは、例えば、自動運転ECU20からの制御信号に応じてエンジンに対する空気の供給量(スロットル開度)を制御し、遠隔自動運転車両2の駆動力を制御する。なお、遠隔自動運転車両2がハイブリッド車である場合には、エンジンに対する空気の供給量の他に、動力源としてのモータに自動運転ECU20からの制御信号が入力されて当該駆動力が制御される。遠隔自動運転車両2が電気自動車である場合には、動力源としてのモータに自動運転ECU20からの制御信号が入力されて当該駆動力が制御される。これらの場合における動力源としてのモータは、アクチュエータ26を構成する。
ブレーキアクチュエータは、自動運転ECU20からの制御信号に応じてブレーキシステムを制御し、遠隔自動運転車両2の車輪へ付与する制動力を制御する。ブレーキシステムとしては、例えば、液圧ブレーキシステムを用いることができる。操舵アクチュエータは、電動パワーステアリングシステムのうち操舵トルクを制御するアシストモータの駆動を自動運転ECU20からの制御信号に応じて制御する。これにより、操舵アクチュエータは、遠隔自動運転車両2の操舵トルクを制御する。
次に、自動運転ECU20の機能的構成の一例について説明する。自動運転ECU20は、車両位置取得部31、外部環境認識部32、走行状態認識部33、遠隔指示判定部34、表示用情報取得部35、表示用情報送信部36、進路生成部37、及び自動運転制御部38を有している。
車両位置取得部31は、GPS受信部21の位置情報及び地図データベース24の地図情報に基づいて、遠隔自動運転車両2の位置情報(地図上の位置)を取得する。車両位置取得部31は、地図データベース24の地図情報に含まれた物標情報及び外部センサ22の検出結果を利用して、SLAM[Simultaneous Localization and Mapping]技術により遠隔自動運転車両2の位置情報を取得してもよい。車両位置取得部31は、車線の区画線と遠隔自動運転車両2の位置関係から、車線に対する遠隔自動運転車両2の横位置(車線幅方向における遠隔自動運転車両2の位置)を認識して位置情報に含めてもよい。車両位置取得部31は、その他、周知の手法により遠隔自動運転車両2の位置情報を取得してもよい。
外部環境認識部32は、外部センサ22の検出結果に基づいて、遠隔自動運転車両2の外部環境を認識する。外部環境には、遠隔自動運転車両2に対する周囲の物体の相対位置が含まれる。外部環境には、遠隔自動運転車両2に対する周囲の物体の相対速度及び移動方向が含まれていてもよい。外部環境には、他車両、歩行者、自転車等の物体の種類が含まれてもよい。物体の種類は、パターンマッチング等の周知の手法により識別することができる。外部環境には、遠隔自動運転車両2の周囲の区画線認識(白線認識)の結果が含まれていてもよい。外部環境には、信号機の点灯状態の認識結果が含まれていてもよい。外部環境認識部32は、例えば、外部センサ22のカメラの画像に基づいて、遠隔自動運転車両2の前方の信号機の点灯状態(通過可能な点灯状態であるか、通過禁止の点灯状態であるか等)を認識できる。
走行状態認識部33は、内部センサ23の検出結果に基づいて、遠隔自動運転車両2の走行状態を認識する。走行状態には、遠隔自動運転車両2の車速、遠隔自動運転車両2の加速度、遠隔自動運転車両2のヨーレートが含まれる。具体的に、走行状態認識部33は、車速センサの車速情報に基づいて、遠隔自動運転車両2の車速を認識する。走行状態認識部33は、加速度センサの車速情報に基づいて、遠隔自動運転車両2の加速度を認識する。走行状態認識部33は、ヨーレートセンサのヨーレート情報に基づいて、遠隔自動運転車両2の向きを認識する。
遠隔指示判定部34は、遠隔自動運転車両2が遠隔コマンダR(遠隔指示装置1)に遠隔指示を要求すべきか否かを判定する。遠隔指示判定部34は、車両位置取得部31の取得した遠隔自動運転車両2の位置情報及び地図データベース24の地図情報と、外部環境認識部32の認識した外部環境と、後述する進路生成部37の生成した進路とのうち少なくとも一つに基づいて、遠隔指示を要求すべきか否かを判定する。
遠隔指示判定部34は、例えば遠隔自動運転車両2が遠隔指示対象状況になった場合に、遠隔指示を要求すべきと判定する。遠隔指示対象状況とは、自動運転車両が遠隔指示装置1に遠隔指示を要求すべき状況として予め設定された状況である。
遠隔指示対象状況には、例えば、遠隔自動運転車両2が交差点を右折又は左折する状況、信号機付き又は信号機無しの交差点に進入する状況、合流箇所に差し掛かる状況、ラウンドアバウトに進入する状況、横断歩道を通過する状況、前方の停止車両又は障害物が存在する状況、工事区間の回避のために車線変更する状況、前方の障害物に対するオフセット回避の判断が求められる状況、停止していた自動運転車両が発進する状況、自動運転車両が乗車地点又は目的地に停車する状況のうち少なくとも一つの状況が含まれていてもよい。なお、車両が右側通行の国又は地域の場合には、交差点を右折する状況に代えて交差点を左折する状況とすることができる。
遠隔指示判定部34は、例えば、遠隔自動運転車両2が交差点に進入する状況又は交差点を右折する状況になった場合、遠隔指示を要求すべきと判定する。遠隔指示判定部34は、遠隔自動運転車両2の前方にオフセット回避すべき障害物が存在する場合に、遠隔指示を要求すべきと判定してもよい。
遠隔指示判定部34は、例えば、遠隔自動運転車両2の位置情報、地図情報、及び目標ルートから、遠隔自動運転車両2が交差点を右折する状況になったこと、遠隔自動運転車両2が信号機付き交差点に進入する状況になったこと、又は遠隔自動運転車両2が車線変更を開始する状況になったこと、などを認識できる。
遠隔指示判定部34は、遠隔指示を要求すべきと判定した場合、遠隔指示サーバ10に対して遠隔コマンダRによる遠隔指示を要求する。遠隔指示の要求には、例えば遠隔自動運転車両2の識別情報が含まれる。なお、遠隔指示判定部34は、予め余裕をもって遠隔指示を要求してもよい。遠隔指示判定部34は、遠隔指示の対象となる交差点等と遠隔自動運転車両2との距離が一定距離以下になった場合に、遠隔指示を要求すべきと判定してもよい。距離ではなく到達までの残り時間を用いてもよい。
表示用情報取得部35は、自動運転ECU20の演算結果に基づいて、表示用情報を取得する。表示用情報は、遠隔自動運転車両2の経路を遠隔コマンダRに認識させる画像(経路認識補助画像)の表示のために遠隔指示装置1で用いられる情報である。
表示用情報には、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の位置、目的地、及び、走行状態(例えば車速)の情報が含まれる。表示用情報としての遠隔自動運転車両2の位置、目的地、及び、走行状態は、自動運転システムの動作範囲[ODD:operation design domain]の範囲外の情報であってもよい。ODDとは、自動運転システムが設計どおりに動作する範囲である。
表示用情報には、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の周辺状況が含まれる。遠隔自動運転車両2の周辺状況には、遠隔自動運転車両2の外部センサ22で検出された遠隔自動運転車両2の外部環境が含まれる。遠隔自動運転車両2の周辺状況には、遠隔自動運転車両2の外部センサ22(カメラ)で撮像された遠隔自動運転車両2の前方画像が含まれる。前方画像は、遠隔自動運転車両2のカメラが撮像した遠隔自動運転車両2の前方の画像である。前方画像は、例えば、前方の景色の画像、遠隔自動運転車両2の俯瞰画像などである。
表示用情報には、車両側経路の情報が含まれてもよい。車両側経路は、後述の進路生成部37によって生成された経路であって、自動運転から遠隔運転に切り替わる際の経路である。
表示用情報取得部35は、例えば、表示用情報のデータ容量等に基づいて、公知の手法により、遠隔自動運転車両2と遠隔指示装置1との間の通信への負荷の情報を表示用情報として取得してもよい。
表示用情報取得部35は、例えば、遠隔自動運転車両2の自動運転情報の信頼度を表示用情報として取得してもよい。自動運転情報の信頼度とは、遠隔指示装置1が遠隔コマンダRに遠隔自動運転車両2の経路を提供するために用いる遠隔自動運転車両2から送信された情報の信頼度を意味する。自動運転情報の信頼度が低下する状況としては、例えば、遠隔自動運転車両2の周辺に存在する他車両によって進路生成部37で生成される経路が制限(例えば経路の延在長の制限)される状況、遠隔自動運転車両2の周辺の交通環境が混雑しており短時間のうちに遠隔自動運転車両2の経路が変更となる状況、遠隔自動運転車両2の周辺の道路環境が複雑であり経路生成の精度が低下する状況、車両位置取得部31の位置情報(例えばローカライズ)が不安定となる状況、外部センサ22の一部が故障している状況、及び、遠隔自動運転車両2が自動運転システムの動作範囲を走行している状況、などが挙げられる。
表示用情報送信部36は、表示用情報取得部35で取得した表示用情報を遠隔指示装置1に送信する。表示用情報送信部36は、例えば、遠隔指示判定部34によって遠隔指示を要求すべきと判定された場合、遠隔自動運転車両2の位置、目的地、走行状態(車速)及び周辺状況(外部環境、前方画像)を、表示用情報として遠隔指示装置1に送信する。表示用情報送信部36は、通信の負荷の情報及び自動運転情報の信頼度を、表示用情報として遠隔指示装置1に送信してもよい。
なお、表示用情報送信部36は、進路生成部37で生成された車両側経路の情報のデータ容量等に基づいて、遠隔自動運転車両2と遠隔指示装置1との間の通信への負荷が所定負荷未満であることを条件に、車両側経路の情報を遠隔指示装置1に送信するようにしてもよい。この場合、通信負荷が所定負荷よりも大きい場合に車両側経路の情報の送信を省くことで、通信負荷の増大を抑制でき、遠隔指示装置1における遠隔コマンダRへの情報の提示の応答性の低下を抑制できる。
進路生成部37は、遠隔自動運転車両2の自動運転に利用される進路[trajectory]を生成する。進路生成部37は、予め設定された目標ルート、地図情報、遠隔自動運転車両2の位置情報、遠隔自動運転車両2の外部環境、及び遠隔自動運転車両2の走行状態に基づいて、自動運転の進路を生成する。進路は自動運転の走行計画に相当する。
進路には、自動運転で車両が走行する経路[path]と自動運転における車速計画とが含まれる。経路は、目標ルート上において自動運転中の車両が走行する予定の軌跡である。経路は、例えば目標ルート上の位置に応じた遠隔自動運転車両2の操舵角変化のデータ(操舵角計画)とすることができる。目標ルート上の位置とは、例えば目標ルートの進行方向において所定間隔(例えば1m)毎に設定された設定縦位置である。操舵角プロファイルとは、設定縦位置毎に目標操舵角が関連付けられたデータとなる。
目標ルートは、例えば目的地、地図情報、及び遠隔自動運転車両2の位置情報に基づいて設定される。目標ルートは、さらに渋滞等の交通情報を考慮して設定されてもよい。目標ルートは、周知のナビゲーションシステムによって設定されてもよい。目的地は遠隔自動運転車両2の乗員によって設定されてもよく、自動運転ECU20又はナビゲーションシステムが自動的に提案してもよい。
進路生成部37は、例えば目標ルート、地図情報、遠隔自動運転車両2の外部環境、及び遠隔自動運転車両2の走行状態に基づいて、遠隔自動運転車両2が走行する経路を生成する。進路生成部37は、例えば遠隔自動運転車両2が目標ルートに含まれる車線の中央(車線幅方向における中央)を通るように経路を生成する。
車速計画は、例えば設定縦位置毎に目標車速が関連付けられたデータである。なお、設定縦位置は、距離ではなく遠隔自動運転車両2の走行時間を基準として設定されてもよい。設定縦位置は、例えば車両の1秒後の到達位置、車両の2秒後の到達位置として設定されていてもよい。この場合には、車速計画も走行時間に応じたデータとして表現できる。
進路生成部37は、例えば経路と地図情報に含まれる法定最高速度等の交通規制情報に基づいて車速計画を生成する。法定最高速度に代えて、地図上の位置又は区間に対して予め設定された速度を用いてもよい。進路生成部37は、経路及び車速計画から自動運転の進路を生成する。なお、進路生成部37における進路の生成方法は上述した内容に限定されず、自動運転に関する周知の手法を採用することができる。進路の内容についても同様である。
自動運転制御部38は、遠隔自動運転車両2の自動運転を実行する。自動運転制御部38は、例えば遠隔自動運転車両2の外部環境、遠隔自動運転車両2の走行状態、及び進路生成部37の生成した進路に基づいて、遠隔自動運転車両2の自動運転を実行する。自動運転制御部38は、アクチュエータ26に制御信号を送信することで、遠隔自動運転車両2の自動運転を行う。
自動運転制御部38は、遠隔指示判定部34により遠隔指示サーバ10に対して遠隔指示が要求された場合、遠隔指示サーバ10からの遠隔指示の受信を待つ。自動運転制御部38は、遠隔自動運転車両2が停車してから遠隔指示を要求した場合、遠隔指示を受信するまで停車状態を維持する。
[遠隔指示装置の構成]
以下、遠隔指示装置1の構成について図面を参照して説明する。図1に示されるように、遠隔指示装置1は、遠隔指示サーバ10、及びコマンダインターフェース3を有している。
以下、遠隔指示装置1の構成について図面を参照して説明する。図1に示されるように、遠隔指示装置1は、遠隔指示サーバ10、及びコマンダインターフェース3を有している。
まず、遠隔指示サーバ10のハードウェア構成について説明する。図3は、遠隔指示サーバ10のハードウェア構成の一例を示すブロック図である。図3に示されるように、遠隔指示サーバ10は、プロセッサ10a、記憶部10b、通信部10c及びユーザインターフェース10dを備えた一般的なコンピュータとして構成されている。この場合のユーザは遠隔指示サーバ10のユーザ(管理者等)を意味している。
プロセッサ10aは、各種オペレーティングシステムを動作させて遠隔指示サーバ10を制御する。プロセッサ10aは、制御装置、演算装置、レジスタ等を含むCPU等の演算器である。プロセッサ10aは、記憶部10b、通信部10c及びユーザインターフェース10dを統括する。記憶部10bは、メモリ及びストレージのうち少なくとも一方を含んで構成されている。メモリは、ROM、RAM等の記録媒体である。ストレージは、HDD等の記録媒体である。
通信部10cは、ネットワークNを介した通信を行うための通信機器である。通信部10cには、ネットワークデバイス、ネットワークコントローラ、ネットワークカード等を用いることができる。ユーザインターフェース10dは、管理者等のユーザに対する遠隔指示サーバ10の入出力部である。ユーザインターフェース10dは、ディスプレイ、スピーカ等の出力器、及び、タッチパネル等の入力器を含む。なお、遠隔指示サーバ10は、必ずしも施設に設けられている必要はなく、車両等の移動体に搭載されていてもよい。
図4は、遠隔指示装置1の構成の一例を示すブロック図である。図4に示されるように、コマンダインターフェース3は、遠隔コマンダRに対する遠隔指示装置1の入出力部である。コマンダインターフェース3は、出力部3a及び指示入力部3bを有している。
出力部3aは、遠隔コマンダRに対して遠隔自動運転車両2の遠隔指示に用いる情報を出力する機器である。出力部3aは、画像を出力するディスプレイと音を出力するスピーカとを含む。
ディスプレイには、一例として、遠隔自動運転車両2のカメラが撮像した遠隔自動運転車両2の前方画像(前方の景色の画像)が表示される。また、後述するように、ディスプレイには、遠隔自動運転車両2のカメラが撮像した遠隔自動運転車両2の前方画像に経路認識補助画像を重ね合わせた重畳画像を表示させることができる。ディスプレイは、複数の表示画面を有していてもよく、遠隔自動運転車両2の側方及び/又は後方の画像が表示されてもよい。ディスプレイは、遠隔コマンダRに視覚情報を提供できる構成であれば特に限定されない。ディスプレイは、遠隔コマンダRの目を覆うように装着されるウェアラブルデバイスであってもよい。
スピーカは、例えば遠隔コマンダRの頭に装着されるヘッドセットスピーカである。スピーカは、例えば、遠隔自動運転車両2の状況(例えば交差点の右折時である等の状況)を音声により遠隔コマンダRに伝える。スピーカは、必ずしもヘッドセットである必要はなく、設置型であってもよい。
出力部3aは、振動によって遠隔コマンダRに情報を提供してもよい。出力部3aは、例えば遠隔コマンダRのシートに設けられた振動アクチュエータを有してもよい。出力部3aは、遠隔自動運転車両2に対する他車両の接近等を振動によって遠隔コマンダRに注意喚起してもよい。出力部3aは、シートの左右それぞれに振動アクチュエータを有しており、他車両の接近方向等に応じた位置の振動アクチュエータを振動させてもよい。なお、出力部3aは、遠隔コマンダRの体に装着するウェアラブル型の振動アクチュエータを有していてもよい。出力部3aは、体の各位置に装着された振動アクチュエータを他車両の接近方向等に応じて振動させることで遠隔コマンダRに情報提供を行うことができる。
指示入力部3bは、遠隔コマンダRにより遠隔指示が入力される機器である。指示入力部3bは、例えば操作レバーを有している。指示入力部3bでは、例えば、操作レバーを遠隔コマンダRの前後方向の奥側に倒すことで遠隔自動運転車両2を進行させる遠隔指示が入力され、操作レバーを遠隔コマンダRの前後方向の手前側に倒すことで遠隔自動運転車両2の減速又は停車の遠隔指示が入力される。
指示入力部3bは、ボタンを有していてもよく、遠隔コマンダRがボタンを押しながら操作レバーを倒すことで遠隔指示が入力されてもよい。指示入力部3bは、タッチパネルを有していてもよい。タッチパネルは出力部3aのディスプレイと共通であってもよい。指示入力部3bは、操作ペダルを有していてもよい。
指示入力部3bは、音声認識の機能を有していてもよく、ジェスチャー認識の機能を有していてもよい。遠隔コマンダRのジェスチャーは、コマンダインターフェース3に搭載されたカメラ及び/又はレーダセンサ等によって認識できる。指示入力部3bでは、操作レバーの操作、ボタンの操作、タッチパネルの操作、操作ペダルの操作、音声入力、ジェスチャーのうち二つ以上を組み合わせることで遠隔指示を入力可能としてもよい。
次に、遠隔指示サーバ10の機能的構成について説明する。図4に示されるように、遠隔指示サーバ10は、遠隔指示要求受信部11、進路取得部12、重畳画像生成部13、情報提供部14、及び遠隔指示送信部15を有している。
遠隔指示要求受信部11は、遠隔自動運転車両2が遠隔指示サーバ10に遠隔指示を要求した場合に、遠隔指示の要求を受信する。
進路取得部12は、遠隔自動運転車両2からの送信に応じて、遠隔指示を要求した遠隔自動運転車両2の表示用情報を取得する。進路取得部12は、取得した表示用情報に基づいて、遠隔指示を要求した遠隔自動運転車両2の進路を取得する。進路取得部12は、例えば、遠隔指示要求受信部11で受信した遠隔自動運転車両2の表示用情報に基づいて、遠隔指示を要求した遠隔自動運転車両2の位置から目的地までの当該遠隔自動運転車両2の経路を生成する。このような進路取得部12による経路の生成により、進路生成部37で生成された経路を遠隔指示要求受信部11が受信する場合と比べて、通信量の低減を図ることができる。また、進路生成部37で生成された経路とは異なる態様での経路の生成が可能であるため、以下で述べる重畳画像の内容について大きい自由度が期待できる。
なお、進路取得部12は、進路取得部12が生成した経路と、遠隔指示を要求した遠隔自動運転車両2の進路生成部37で生成した経路との照合を行ってもよい。進路取得部12は、進路取得部12による経路の生成をした後、遠隔指示を要求した遠隔自動運転車両2の位置又は目的地の変化に基づく遠隔自動運転車両2の経路の変化がない場合には、進路取得部12による経路の再生成(進路の再取得)を省いてもよい。
あるいは、進路取得部12は、例えば遠隔自動運転車両2と遠隔指示装置1との間の通信への負荷が所定負荷未満であって表示用情報送信部36によって車両側経路の情報が送信された場合には、遠隔自動運転車両2の位置及び目的地に基づいて進路取得部12で経路を生成することに代えて、車両側経路を用いて(流用して)、車両側経路のうち自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の経路に相当する重畳経路を取得してもよい。
重畳画像生成部13は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の周辺状況に基づいて、重畳画像を生成する。重畳画像は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の経路を遠隔コマンダRに認識させるための画像である。重畳画像には、前方画像に経路認識補助画像が重畳され得る。経路認識補助画像は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の経路を遠隔コマンダRに認識させるために、前方画像の補助として用いる画像である。重畳画像生成部13は、例えば、進路取得部12で取得した経路を用いて、経路認識補助画像及び重畳画像を生成する。
重畳画像生成部13は、例えば進路取得部12で取得した経路のうち自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の経路に相当する重畳経路に基づいて、重畳経路を表す画像を経路認識補助画像として生成する。重畳経路は、自動運転から遠隔運転に切り替わる際に前方画像に重畳させるための遠隔自動運転車両2の経路である。
続いて、重畳画像の具体例について説明する。図5は、経路認識補助画像を例示する重畳画像例である。図5(a)は、遠隔自動運転車両2が走行している車線から右隣の車線へと車線変更をする際の重畳経路を示す経路認識補助画像の一例を示している。図5(b)は、遠隔自動運転車両2が車線変更をせずそのままの車線を進行する際の重畳経路を示す経路認識補助画像の一例を示している。図5(c)は、遠隔自動運転車両2が走行している車線から右隣の車線へと車線変更をする際の重畳経路を示す経路認識補助画像の他の例を示している。図5(d)は、遠隔自動運転車両2が車線変更をせずそのままの車線を進行する際の重畳経路を示す経路認識補助画像の他の例を示している。
図5(a)及び図5(b)に示されるように、重畳経路を示す経路認識補助画像は、前方画像40中の車線上に直接重畳され、遠隔自動運転車両2の経路に沿って延びる矢印付きの線50,51の画像であってもよい。図5(c)及び図5(d)に示されるように、重畳経路を示す経路認識補助画像は、前方画像40中の車線上に直接重畳され、遠隔自動運転車両2の経路に沿って延びる網掛け領域52,53の画像であってもよい。
重畳画像生成部13は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の周辺状況に基づいて、遠隔自動運転車両2の周囲の他車両によって前方画像中での路面上の標示の視認が困難となっている場合、経路認識補助画像の種類を変更してもよい。
図6は、経路認識補助画像を例示する重畳画像例である。図6(a)には、遠隔自動運転車両2の周囲の他車両200によって前方画像41中において路面上の標示の視認が困難となっている状況が示されている。図6(a)の例では、重畳画像生成部13は、遠隔自動運転車両2が進入する交差点への複数の入口車線を表す模式図54と共に、遠隔自動運転車両2が走行している車線に指定された進行方向を強調する目印54aを伏した経路認識補助画像を前方画像41中の左上部分に重畳させた重畳画像を生成する。この場合、強調する目印54aが重畳経路に相当する。
重畳画像生成部13は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の周辺状況に基づいて、遠隔自動運転車両2の取り得る進路が複数存在する場合、遠隔自動運転車両2が進行する予定の進路を経路認識補助画像を前方画像に重畳してもよい。
図6(b)には、遠隔自動運転車両2の取り得る進路R1~R3が複数存在する状況が示されている。図6(b)の例では、重畳画像生成部13は、重畳経路を示す経路認識補助画像である破線矢印55を、前方画像42中の車線上に直接重畳させた重畳画像を生成する。破線矢印55は、遠隔自動運転車両2が走行している車線から左隣の車線への車線変更と、左隣の車線からの左折とを含む進路R3に対応する重畳経路を示す。
重畳画像生成部13は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の周辺状況に基づいて、経路認識補助画像の前方画像への重畳表示の要否を判定してもよい。重畳表示とは、ある種類の経路認識補助画像を前方画像に重畳させて表示することを意味する。
重畳画像生成部13は、例えば、ある種類の経路認識補助画像について、自動運転から遠隔運転に切り替わる際の前方画像に経路認識補助画像を重畳させて標示させたと仮定したときに、前方画像中において経路認識補助画像と交通情報物体とが干渉しないと判定される場合に、重畳表示が要と判定してもよい。交通情報物体とは、遠隔自動運転車両2の経路を遠隔コマンダRに認識させる際に、交通上の情報として遠隔コマンダRが併せて認識することが必要な前方画像中の物体である。交通情報物体としては、例えば、信号機、横断歩道、路面上の標示、道路標識、踏切(遮断機)などが挙げられる。なお、重畳画像生成部13は、上述の仮定をしたときに、前方画像中において経路認識補助画像と交通情報物体とが干渉すると判定される場合には、遠隔コマンダRが交通情報物体を認識することの妨げとなるため、重畳表示が不要と判定してもよい。
図7は、重畳表示が不要となる経路認識補助画像を例示する重畳画像の仮想例である。図7では、遠隔自動運転車両2の前方に信号機SG及び横断歩道CR(交通情報物体)が存在しており、遠隔自動運転車両2が横断歩道CRを通過するように進行しようとする場面が示されている。重畳経路を示す経路認識補助画像として太矢印56が示されている。太矢印56は、遠隔自動運転車両2がそのままの車線を進行することを表す複数種類の経路認識補助画像のうちの一種である。
図7は、重畳画像生成部13が、太矢印56について、自動運転から遠隔運転に切り替わる際の前方画像43に太矢印56を重畳させて標示させたと仮定した場合の重畳画像に相当する。重畳画像生成部13は、この仮定において、前方画像43上に座標変換した遠隔自動運転車両2の周辺状況に基づいて、太矢印56と信号機SG及び横断歩道CRとが図7の前方画像43中で干渉していると判定する。よって、重畳画像生成部13は、図7の太矢印56の重畳表示が不要と判定する。その結果、出力部3aのディスプレイには、例えば、図7から太矢印56を省いた前方画像43が表示されることとなり、太矢印56によって遠隔コマンダRの信号機SG及び横断歩道CRの認識が妨げられることを抑制できる。
図8は、重畳表示が不要となる経路認識補助画像を例示する重畳画像の仮想例である。図8では、遠隔自動運転車両2が片側1車線の直線道路を走行中であり、重畳経路を示す経路認識補助画像として二点鎖線矢印57が示されている。二点鎖線矢印57は、遠隔自動運転車両2が車線変更をせずそのままの車線を進行することを表す複数種類の経路認識補助画像のうちの一種である。
図8では、単に遠隔自動運転車両2が片側1車線の直線道路を走行中であることから、遠隔自動運転車両2の経路は自明であり、経路認識補助画像を省略できるといえる。そこで、重畳画像生成部13は、遠隔自動運転車両2の位置情報及び地図情報に基づいて、図8の二点鎖線矢印57の重畳表示が不要と判定する。その結果、図8では二点鎖線矢印57が示されているが、出力部3aのディスプレイには、図8から二点鎖線矢印57を省いた前方画像44が表示されることとなる。
図9は、重畳表示が不要となる経路認識補助画像を例示する重畳画像の仮想例である。図9では、遠隔自動運転車両2の前方で左方から合流する合流車線が存在する片側1車線の直線道路を遠隔自動運転車両2が走行中であり、図8と同種の経路認識補助画像として二点鎖線矢印58が示されている。
図9では、図8と同様、遠隔自動運転車両2が片側1車線の直線道路を走行中であり、左方のような合流車線は一般的に一方通行であることから、遠隔自動運転車両2の経路は自明であり、経路認識補助画像を省略できるといえる。そこで、重畳画像生成部13は、遠隔自動運転車両2の位置情報及び地図情報に基づいて、図9の二点鎖線矢印58の重畳表示が不要と判定する。その結果、図9では二点鎖線矢印58が示されているが、出力部3aのディスプレイには、図9から二点鎖線矢印58を省いた前方画像45が表示されることとなる。
なお、図8及び図9のような直進路のほか、2車線のうち工事中で一方の車線が走行できない場合、当該工事中ではない車線を遠隔自動運転車両2が走行するときには、遠隔自動運転車両2の経路は自明であるといえる。反対に、交差点及び分岐など遠隔自動運転車両2の経路が複数存在し得る場合、遠隔自動運転車両2の経路は自明ではないといえる。
図10は、重畳表示が不要となる経路認識補助画像を例示する重畳画像の仮想例である。図10では、片側2車線の道路を走行する遠隔自動運転車両2の前方において、左折レーンは終端となり直進レーンのみが引き続き延在する交差点が存在している。遠隔自動運転車両2が直進レーンを走行中であるにもかかわらず、図8と同種の経路認識補助画像として二点鎖線矢印59が前方画像46上で左折レーン上に延びている。
図10では、本来、二点鎖線矢印59が直進レーン上に延びているべきである。しかしながら、例えば遠隔自動運転車両2のローカライズの不安定などにより、二点鎖線矢印59の起点となる遠隔自動運転車両2の位置情報の精度が落ちている場合がある。このような場合、二点鎖線矢印59を表示することは却って遠隔コマンダRが遠隔自動運転車両2の経路を認識することの妨げとなるおそれがあるため、経路認識補助画像を省略することが一つの対応といえる。そこで、重畳画像生成部13は、表示用情報(遠隔自動運転車両2の自動運転情報の信頼度)に基づいて、図10の二点鎖線矢印59の重畳表示が不要と判定する。その結果、図10では二点鎖線矢印59が前方画像46上に示されているが、出力部3aのディスプレイには、図10から二点鎖線矢印59を省いた前方画像46が表示されてもよい。
ちなみに、重畳経路を示す経路認識補助画像として、矢印のような起点を必要とする画像で視覚的に情報を伝達するのではなく、単に情報としての経路を示す画像で伝達する対応も考えられる。この場合、重畳画像生成部13は、図10のように経路認識補助画像を省略することに代えて、種類を異ならせた経路認識補助画像を前方画像46に重畳させて出力部3aのディスプレイに表示されてもよい。
例えば、図11は、重畳表示が要となる経路認識補助画像を例示する重畳画像例である。図11では、図10の状況において、図10とは異なる種類の経路認識補助画像として、「直進」の文字列が枠で囲まれた画像60が前方画像46の上部に重畳表示されている。この場合、遠隔コマンダRが遠隔自動運転車両2の経路を正しく認識することができるといえる。そこで、重畳画像生成部13は、表示用情報(遠隔自動運転車両2の自動運転情報の信頼度)に基づいて、「直進」の文字列が枠で囲まれた画像60のように起点を要しない種類の経路認識補助画像の重畳表示が要と判定してもよい。その結果、図11では二点鎖線矢印59が示されているが、出力部3aのディスプレイには、図11から二点鎖線矢印59が省かれて、「直進」の文字列が枠で囲まれた画像60が前方画像46の上部に重畳表示されることとなる。
また例えば、図12は、重畳表示が要となる経路認識補助画像を例示する重畳画像例である。図12では、図10及び図11の状況において、図11とは異なる種類の経路認識補助画像として、「直進」を表す大型矢印の画像61が前方画像46の上部に重畳表示されている。大型矢印の画像61は、単に「直進」との経路の向きを表すものであるため、起点を要せず、遠隔自動運転車両2の位置情報によらず前方画像46の上部に重畳表示される。この場合、遠隔コマンダRが遠隔自動運転車両2の経路を正しく認識することができるといえる。そこで、重畳画像生成部13は、表示用情報(遠隔自動運転車両2の自動運転情報の信頼度)に基づいて、大型矢印の画像61のように起点を要しない種類の経路認識補助画像の重畳表示が要と判定してもよい。その結果、図12では二点鎖線矢印59が示されているが、出力部3aのディスプレイには、図11から二点鎖線矢印59が省かれて、大型矢印の画像61が前方画像46の上部に重畳表示されることとなる。
情報提供部14は、遠隔コマンダRに対する各種の情報提供を行う。情報提供部14は、遠隔指示要求受信部11が遠隔指示の要求を受信した場合、コマンダインターフェース3を介して担当する遠隔コマンダRに遠隔指示の入力を要求する。
また、情報提供部14は、遠隔指示要求受信部11の取得した遠隔自動運転車両2の表示用情報に基づいて、遠隔コマンダRに遠隔自動運転車両2の情報を提供する。情報提供部14は、例えばコマンダインターフェース3の出力部3aのディスプレイに遠隔自動運転車両2の前方画像を表示する。
情報提供部14は、例えば、重畳画像生成部13によって重畳表示が要と判定された場合、遠隔自動運転車両2のカメラが撮像した遠隔自動運転車両2の前方画像に経路認識補助画像を重ね合わせた重畳画像を、出力部3aのディスプレイに表示させる。
情報提供部14は、視点変換により遠隔自動運転車両2の運転席付近から見た画像を表示してもよい。情報提供部14は、遠隔自動運転車両2の側方及び後方の画像を表示してもよい。情報提供部14は、遠隔自動運転車両2の周囲を撮像した画像を合成したパノラマ画像を表示してもよく、画像合成及び視点変換により遠隔自動運転車両2を見下ろすように生成された俯瞰画像を表示してもよい。情報提供部14は、画像中の物体の強調表示(例えば他車両等を枠で囲む表示)を行ってもよい。情報提供部14は、画像中に信号機が含まれる場合には、信号機の点灯状態の認識結果をディスプレイに表示してもよい。情報提供部14は、遠隔コマンダRが選択できる遠隔指示の種類(進行、待機等)をディスプレイに表示してもよい。
情報提供部14は、例えば、重畳画像生成部13によって重畳表示が不要と判定された場合、遠隔自動運転車両2のカメラが撮像した遠隔自動運転車両2の前方画像(経路認識補助画像が重畳されない前方画像)を、出力部3aのディスプレイに表示する。
情報提供部14は、コマンダインターフェース3の出力部3aのスピーカにより音情報を遠隔コマンダRに提供する。情報提供部14は、遠隔自動運転車両2の状況(交差点の右折時、障害物のオフセット回避時等)を音声としてスピーカから出力してもよい。情報提供部14は、遠隔自動運転車両2の周囲の他車両等の接近を音又は音声としてスピーカから出力してもよい。情報提供部14は、遠隔自動運転車両2の周囲の音(雑音)をそのままスピーカから出力してもよい。情報提供部14は、必要に応じて車室内の乗員の音声をスピーカから出力してもよい。なお、スピーカによる情報提供は必須ではない。
その他、情報提供部14は、出力部3aが振動アクチュエータを有している場合、振動により遠隔コマンダRに情報提供を行ってもよい。この場合、情報提供部14は、例えば、遠隔自動運転車両2に対する他車両の接近方向、歩行者の存在する方向等の注意すべき方向に応じた位置の振動アクチュエータを振動させることで遠隔コマンダRに情報提供(注意喚起)を行うことができる。
遠隔指示送信部15は、遠隔コマンダRがコマンダインターフェース3の指示入力部3bに遠隔指示を入力した場合、入力された遠隔指示を遠隔自動運転車両2に送信する。情報提供部14は、遠隔コマンダRが入力した遠隔指示を遠隔自動運転車両2に送信した場合、遠隔自動運転車両2の情報を続けて遠隔コマンダRに伝えてもよく、遠隔指示を要求する別の遠隔自動運転車両2の情報に切り換えてもよい。
[自動運転ECU及び遠隔指示装置の処理]
次に、自動運転ECU20及び遠隔指示装置1の処理例について、図13及び図14のフローチャートを参照して説明する。図13は、自動運転ECU20の処理例を示すフローチャートである。図13に示される処理は、例えば、遠隔自動運転車両2の自動運転中に実行される。
次に、自動運転ECU20及び遠隔指示装置1の処理例について、図13及び図14のフローチャートを参照して説明する。図13は、自動運転ECU20の処理例を示すフローチャートである。図13に示される処理は、例えば、遠隔自動運転車両2の自動運転中に実行される。
図13に示されるように、自動運転ECU20は、S01において、遠隔指示判定部34により、遠隔指示を要求すべきであるか否かを判定する。遠隔指示判定部34は、例えば、遠隔自動運転車両2が遠隔指示対象状況になった場合に、遠隔指示を要求すべきであると判定する。自動運転ECU20は、遠隔指示を要求すべきであると判定した場合(S01:YES)、S02の処理に移行する。
自動運転ECU20は、S02において、表示用情報取得部35により、車両側の表示用情報の取得を行う。表示用情報取得部35は、例えば、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の位置、目的地、走行状態(例えば車速)の情報、遠隔自動運転車両2の周辺状況、及び、遠隔自動運転車両2の自動運転情報の信頼度の情報を、遠隔自動運転車両2側の表示用情報として取得する。表示用情報取得部35は、遠隔自動運転車両2の車両側経路の情報を、遠隔自動運転車両2側の表示用情報として取得してもよい。
自動運転ECU20は、S03において、表示用情報送信部36により、車両側の表示用情報の送信を行う。表示用情報送信部36は、例えば、S02で取得した表示用情報を、遠隔自動運転車両2側の表示用情報として遠隔指示装置1に送信する。表示用情報送信部36は、表示用情報と併せて、遠隔指示の要求を遠隔指示装置1に送信する。なお、表示用情報送信部36は、遠隔自動運転車両2と遠隔指示装置1との間の通信への負荷が所定負荷未満である場合には、車両側経路の情報を遠隔自動運転車両2側の表示用情報として遠隔指示装置1に送信もよい。その後、自動運転ECU20は、図13の処理を終了する。
一方、自動運転ECU20は、遠隔指示を要求すべきではないと判定した場合(S01:NO)、そのまま図13の処理を終了する。
図14は、遠隔指示装置1の処理例を示すフローチャートである。図14に示される処理は、例えば、自動運転ECU20から送信された遠隔指示の要求が遠隔指示装置1の遠隔指示要求受信部11により受信された場合に実行される。
図14に示されるように、遠隔指示装置1は、S11において、進路取得部12により、車両側の表示用情報の受信を行う。進路取得部12は、例えば、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の位置、目的地、走行状態(例えば車速)の情報、遠隔自動運転車両2の周辺状況、及び、遠隔自動運転車両2の自動運転情報の信頼度の情報を、遠隔自動運転車両2側の表示用情報として受信する。進路取得部12は、例えば遠隔自動運転車両2と遠隔指示装置1との間の通信への負荷が所定負荷未満であって表示用情報送信部36によって車両側経路の情報が送信された場合には、遠隔自動運転車両2側の車両側経路を表示用情報として受信してもよい。
遠隔指示装置1は、S12において、重畳画像生成部13により、重畳表示の要否を判定する。重畳画像生成部13は、例えば、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の周辺状況と遠隔自動運転車両2の自動運転情報の信頼度の情報とに基づいて、経路認識補助画像の前方画像への重畳表示の要否を判定する。遠隔指示装置1は、重畳表示が要と判定した場合(S12:YES)、S13の処理に移行する。一方、遠隔指示装置1は、重畳表示が不要と判定した場合(S12:NO)、S18の処理に移行する。
遠隔指示装置1は、S13において、進路取得部12により、重畳経路の生成が必要であるか否かを判定する。進路取得部12は、例えば車両側経路の情報が送信されなかった場合に、重畳経路の生成が必要であると判定する。遠隔指示装置1は、重畳経路の生成が必要であると判定した場合(S13:YES)、S14の処理に移行する。
遠隔指示装置1は、S14において、進路取得部12により、重畳経路の生成を行う。進路取得部12は、例えば、遠隔指示を要求した遠隔自動運転車両2の位置から目的地までの当該遠隔自動運転車両2の経路を生成する。進路取得部12は、生成した経路のうち自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の経路に相当する重畳経路として、例えば、図5,図6,図11,図12のような重畳経路を生成する。その後、S16の処理に移行する。なお、進路取得部12による遠隔自動運転車両2の経路の生成は、一旦生成された後、遠隔指示を要求した遠隔自動運転車両2の位置又は目的地の変化に基づいて経路に変化がない場合には、省かれてもよい。
一方、遠隔指示装置1は、重畳経路の生成が必要ではないと判定した場合(S13:NO)、S15の処理に移行する。遠隔指示装置1は、S15において、進路取得部12により、遠隔自動運転車両2側の経路の取得を行う。進路取得部12は、例えば、S11で受信した車両側経路を用いて(流用して)、車両側経路のうち自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の経路に相当する重畳経路を取得する。その後、S16の処理に移行する。
遠隔指示装置1は、S16において、重畳画像生成部13により、重畳画像の生成を行う。重畳画像生成部13は、例えば、図5,図6,図11,図12のようにして、経路認識補助画像を生成し、経路認識補助画像を含む重畳画像を生成する。遠隔指示装置1は、S17において、情報提供部14により、重畳画像の表示を行う。情報提供部14は、例えば、S16で生成した重畳画像を出力部3aのディスプレイに表示する。その後、図14の処理を終了する。
一方、遠隔指示装置1は、S18において、情報提供部14により、前方画像の表示を行う。情報提供部14は、例えば、図7~図10のようにして、遠隔自動運転車両2のカメラが撮像した遠隔自動運転車両2の前方画像(経路認識補助画像を含まない前方の景色の画像)を、出力部3aのディスプレイに表示する。その後、図14の処理を終了する。
以上のように、車両遠隔指示システム100では、遠隔指示装置1は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の周辺状況に基づいて、重畳画像を生成する重畳画像生成部13を有する。重畳画像は、遠隔自動運転車両2の経路を遠隔コマンダRに認識させるための経路認識補助画像が重畳された前方画像である。情報提供部14は、重畳画像を出力部3aのディスプレイに表示させて遠隔コマンダRに対して情報提供を行う。これにより、遠隔コマンダRは、自動運転から遠隔運転に切り替わる際、前方画像に重畳された経路認識補助画像を参照することで、遠隔自動運転車両2の周辺状況に応じた遠隔自動運転車両2の経路を認識することが容易となる。したがって、車両遠隔指示システム100によれば、自動運転から遠隔運転に切り替わる際、遠隔コマンダRが遠隔指示の判断を行うための遠隔自動運転車両2の経路の情報を、遠隔コマンダRに対して適切に提供することが可能となる。
車両遠隔指示システム100では、重畳画像生成部13は、自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の周辺状況に基づいて、経路認識補助画像の前方画像への重畳表示の要否を判定し、情報提供部14は、重畳画像生成部13によって重畳表示が不要と判定された場合、経路認識補助画像が重畳されない前方画像を出力部に表示させて遠隔コマンダRに対して情報提供を行う。これにより、例えば前方画像中において経路認識補助画像と交通情報物体とが干渉することが抑制されるため、遠隔コマンダRによる交通情報物体の認識を経路認識補助画像が妨げることを抑制できる。
車両遠隔指示システム100では、遠隔指示装置1は、経路認識補助画像の表示のために用いる遠隔自動運転車両2の位置及び目的地の情報を含む表示用情報を遠隔自動運転車両2からの送信に応じて取得すると共に、取得した表示用情報に基づいて遠隔自動運転車両2の経路を生成する進路取得部12を有する。これにより、遠隔自動運転車両2側で生成した経路を用いずに経路認識補助画像を生成することができるため、遠隔自動運転車両2側で生成した経路の情報を送信することが通信負担となる場合に通信負担の増大を抑制することができる。
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されるものではない。
上記実施形態では、図14において、S12の重畳表示の要否の判断をしたが、この判断は必須ではなく、省略されてもよい。例えば、情報提供部14は、重畳表示の要否の判定が省かれる場合には、自動運転から遠隔運転に切り替わる際にその都度、遠隔自動運転車両2のカメラが撮像した遠隔自動運転車両2の前方画像に経路認識補助画像を重ね合わせた重畳画像を、出力部3aのディスプレイに表示させてもよい。
上記実施形態では、図14において、S13の重畳経路の生成の要否の判断をしたが、この判断は必須ではなく、省略されてもよい。例えば、S13の判断を省き、S14又はS15のいずれかを行うようにしてもよい。例えば、進路取得部12は、自動運転から遠隔運転に切り替わる際にその都度、遠隔指示を要求した遠隔自動運転車両2の位置から目的地までの当該遠隔自動運転車両2の経路を生成してもよい。あるいは、進路取得部12は、自動運転から遠隔運転に切り替わる際にその都度、進路生成部37で生成された車両側経路を用いて(流用して)、車両側経路のうち自動運転から遠隔運転に切り替わる際の遠隔自動運転車両2の経路に相当する重畳経路を取得してもよい。
要は、図14において、少なくとも、S11,S14,S16,S17の処理を実行することで、自動運転から遠隔運転に切り替わる際、遠隔コマンダRが遠隔指示の判断を行うための遠隔自動運転車両2の経路の情報を、遠隔コマンダRに対して適切に提供することが可能となるという車両遠隔指示システム100の上記作用効果を奏することができる。
なお、遠隔指示装置1は、遠隔自動運転車両2に搭載されていてもよい。この場合、遠隔コマンダRも遠隔自動運転車両2に乗車している。遠隔指示サーバ10は、複数台の遠隔自動運転車両2のECUから構成されたクラウドサーバであってもよい。
1…遠隔指示装置、2…遠隔自動運転車両、3a…出力部、12…進路取得部、13…重畳画像生成部、14…情報提供部、100…車両遠隔指示システム、R…遠隔コマンダ。
Claims (3)
- 自動運転と、遠隔コマンダからの遠隔指示に基づいて走行する遠隔運転とを実行可能な遠隔自動運転車両と、
前記遠隔自動運転車両の前方画像を出力する出力部を有し、前記前方画像を用いて前記遠隔コマンダが前記遠隔運転に関する遠隔指示を行う遠隔指示装置と、を備える車両遠隔指示システムであって、
前記遠隔指示装置は、
前記自動運転から前記遠隔運転に切り替わる際の前記遠隔自動運転車両の周辺状況に基づいて、前記遠隔自動運転車両の経路を前記遠隔コマンダに認識させるための経路認識補助画像が重畳された前記前方画像である重畳画像を生成する重畳画像生成部と、
前記重畳画像を前記出力部に表示させて前記遠隔コマンダに対して情報提供を行う情報提供部と、
を有する、車両遠隔指示システム。 - 前記重畳画像生成部は、前記自動運転から前記遠隔運転に切り替わる際の前記遠隔自動運転車両の周辺状況に基づいて、前記経路認識補助画像の前記前方画像への重畳表示の要否を判定し、
前記情報提供部は、前記重畳画像生成部によって前記重畳表示が不要と判定された場合、前記経路認識補助画像が重畳されない前記前方画像を前記出力部に表示させて前記遠隔コマンダに対して情報提供を行う、請求項1に記載の車両遠隔指示システム。 - 前記遠隔指示装置は、前記経路認識補助画像の表示のために用いる前記遠隔自動運転車両の位置及び目的地の情報を含む表示用情報を前記遠隔自動運転車両からの送信に応じて取得すると共に、取得した前記表示用情報に基づいて前記遠隔自動運転車両の進路を取得する進路取得部を有する、請求項1又は2に記載の車両遠隔指示システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021080967A JP2022174921A (ja) | 2021-05-12 | 2021-05-12 | 車両遠隔指示システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021080967A JP2022174921A (ja) | 2021-05-12 | 2021-05-12 | 車両遠隔指示システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022174921A true JP2022174921A (ja) | 2022-11-25 |
Family
ID=84144957
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021080967A Pending JP2022174921A (ja) | 2021-05-12 | 2021-05-12 | 車両遠隔指示システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022174921A (ja) |
-
2021
- 2021-05-12 JP JP2021080967A patent/JP2022174921A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7234872B2 (ja) | 車両遠隔指示システム | |
JP7276023B2 (ja) | 車両遠隔指示システム、及び自動運転車両 | |
JP7156217B2 (ja) | 車両遠隔指示システム | |
JP6729220B2 (ja) | 車両用運転支援装置 | |
JP7310524B2 (ja) | 遠隔自動運転車両、及び車両遠隔指示システム | |
JP7222332B2 (ja) | 車両遠隔指示システム | |
JP7140037B2 (ja) | 車両遠隔指示システム | |
JP7238670B2 (ja) | 画像表示装置 | |
JP7327344B2 (ja) | 車両遠隔支援システム、車両遠隔支援サーバ、及び車両遠隔支援方法 | |
JP7293949B2 (ja) | 車両走行システム | |
JP2021018636A (ja) | 車両遠隔指示システム | |
JP2021022033A (ja) | 車両遠隔指示システム | |
JP2022174921A (ja) | 車両遠隔指示システム | |
JP7478285B2 (ja) | 車両、車両制御方法及び車両制御プログラム | |
JP7548085B2 (ja) | 遠隔機能選択装置 | |
JP2024097783A (ja) | 車両制御装置、車両制御方法及び車両制御プログラム | |
JP2021018743A (ja) | 画像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240212 |