JP2024001846A - 遠隔支援装置、遠隔支援方法、及び遠隔支援プログラム - Google Patents
遠隔支援装置、遠隔支援方法、及び遠隔支援プログラム Download PDFInfo
- Publication number
- JP2024001846A JP2024001846A JP2023005386A JP2023005386A JP2024001846A JP 2024001846 A JP2024001846 A JP 2024001846A JP 2023005386 A JP2023005386 A JP 2023005386A JP 2023005386 A JP2023005386 A JP 2023005386A JP 2024001846 A JP2024001846 A JP 2024001846A
- Authority
- JP
- Japan
- Prior art keywords
- remote
- vehicle
- driving vehicle
- support
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 24
- 230000005540 biological transmission Effects 0.000 claims abstract description 8
- 238000012545 processing Methods 0.000 claims description 10
- 230000008859 change Effects 0.000 claims description 7
- 230000008054 signal transmission Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 22
- 238000004891 communication Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 7
- 238000011156 evaluation Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 240000004050 Pentaglottis sempervirens Species 0.000 description 2
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】自動運転車両の走行を支援するための遠隔操作に関与するスタッフの状況判断能力の向上を支援することができる。【解決手段】遠隔支援装置は、 自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信する前方画像送信部と、前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信する受信部と、受信した前記操作信号を前記自動運転車両へ送信する操作信号送信部と、前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する後方画像送信部と、を備える。【選択図】図1
Description
本開示は、遠隔支援装置、遠隔支援方法、及び遠隔支援プログラムに関する。
特許文献1には、記憶部(35)に記憶された最新の評価結果により操作能力が肯定される複数のオペレータの中から選択されたオペレータに車両(10)を遠隔操作するタスクを割り当てるタスク割当部(40)と、オペレータの遠隔操作により車両を走行させる遠隔操作部(41)を用いて、選択されたオペレータが前記タスク割当部により割り当てられた前記タスクを遂行した際の、選択されたオペレータの操作能力の評価結果を取得する評価取得部(42)と、前記評価取得部で取得された最新の評価結果を前記記憶部に記憶するように制御する記憶制御部(43)と、を備えた遠隔支援装置が開示されている。
自動運転車両の走行を支援するために遠隔操作を行うオペレータ及びオペレータを監督する監督者等の遠隔操作に関与する遠隔操作者には、正確且つ速やかな状況判断能力が求められる。
上記特許文献1に記載された技術は、オペレータの遠隔操作の能力を担保するために、オペレータが遂行したタスクを評価した評価結果を提示する。
しかしながら、同じ支援地点でも交通状況は毎回異なるため、その都度評価が変わる可能性がある。従って、遠隔操作を行う際に、どのように改善すればよいか判断しにくい。このため、上記特許文献1記載の技術では、オペレータの状況判断能力の向上を支援することが困難である、という問題があった。
本開示は、自動運転車両の走行を支援するための遠隔操作に関与するスタッフの状況判断能力の向上を支援することができる遠隔支援装置、遠隔支援方法、及び遠隔支援プログラムを提供することを目的とする。
本開示の第1態様に係る遠隔支援装置は、自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信する前方画像送信部と、前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信する受信部と、受信した前記操作信号を前記自動運転車両へ送信する操作信号送信部と、前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する後方画像送信部と、を備える。
第2態様に係る遠隔支援装置は、第1態様に係る遠隔支援装置において、前記後方画像送信部は、前記遠隔操作の内容に応じて定められた撮影範囲の後方画像を送信する。
第3態様に係る遠隔支援装置は、第1態様又は第2態様に係る遠隔支援装置において、前記受信部は、前記遠隔操作装置に表示された前方画像における前記遠隔操作装置のオペレータの視線位置に関する視線位置情報を受信し、前記後方画像送信部は、前記視線位置情報に基づいて特定した前記オペレータの注視範囲を含む後方画像を前記遠隔操作装置へ送信する。
第4態様に係る遠隔支援装置は、第3態様に係る遠隔支援装置において、前記後方画像送信部は、前記注視範囲が複数存在する場合は、複数の前記注視範囲のうち最も注視時間が長い注視範囲を含む後方画像を前記遠隔操作装置へ送信する。
第5態様に係る遠隔支援装置は、第3態様に係る遠隔支援装置において、前記後方画像送信部は、前記注視範囲が複数存在する場合は、複数の前記注視範囲を全て含む後方画像を前記遠隔操作装置へ送信する。
第6態様に係る遠隔支援装置は、第1態様~第5態様の何れかの態様に係る遠隔支援装置において、前記後方画像送信部は、前記遠隔操作装置のオペレータの見落とし対象のオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する。
第7態様に係る遠隔支援装置は、第3態様~第5態様の何れかの態様に係る遠隔支援装置において、前記後方画像送信部は、前記注視範囲に基づいて特定した前記オペレータの見落とし対象のオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する。
第8態様に係る遠隔支援装置は、第1態様に係る遠隔支援装置において、前記後方画像送信部は、前記後方画像において新たに検知されたオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する。
第9態様に係る遠隔支援装置は、第1態様に係る遠隔支援装置において、前記後方画像送信部は、前記自動運転車両で検知された対向車の速度変化に関する速度情報が表示された後方画像を前記遠隔操作装置へ送信する
第10態様に係る遠隔支援装置は、第1態様に係る遠隔支援装置において、前記後方画像送信部は、前記切替地点を含む範囲を俯瞰で撮影した俯瞰画像を取得して前記遠隔操作装置へ送信する。
第11態様に係る遠隔支援装置は、第1態様に係る遠隔支援装置において、前記後方画像は、前記自動運転車両の前方を表示する表示領域よりも前記自動運転車両の後方を表示する表示領域の方が大きい画像である。
第12態様に係る遠隔支援方法は、少なくとも1つのプロセッサが、自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信し、前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信し、受信した前記操作信号を前記自動運転車両へ送信し、前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信することを含む処理を実行する。
第13態様に係る遠隔支援プログラムは、少なくとも1つのプロセッサに、自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信し、前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信し、受信した前記操作信号を前記自動運転車両へ送信し、前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信することを含む処理を実行させる。
本開示によれば、自動運転車両の走行を支援するための遠隔操作に関与するスタッフの
状況判断能力の向上を支援することができる、という効果を有する。
状況判断能力の向上を支援することができる、という効果を有する。
以下、図面を参照して、本発明を実施するための形態を詳細に説明する。
<第1実施形態>
図1に示すように、本実施形態の自動運転システム100は、車両10、自動運転センターに配置された遠隔支援装置50、及びオペレータによって操作される遠隔操作装置の一例としてのオペレータ端末80を備える。本実施形態における車両10は、自動的に運行される自動運転車両である。自動運転システム100は、支援地点に車両10(自動運転車両)が到着した際に、遠隔地にいるオペレータが車両10の遠隔支援を行うためのシステムである。
本実施形態において、遠隔支援とは、オペレータが遠隔地から車両10を操作すること、又は、オペレータが遠隔地から車両10を用いて監視を行うことをいう。支援地点とは、車両10が自律的に運転を行うことが困難な地点、又は、オペレータが車両を遠隔支援可能な地点をいう。支援地点としては、例えば、交差点、工事現場、駐車場、高速道路、自動車専用道路、サービスエリア、パーキングエリア、荷物集積所、料金所、及びインターチェンジ等が挙げられるが、これらに限られるものではない。
本実施形態の自動運転システム100は、一又は複数の車両10を含む。各車両10は、車両側通信機12、カメラ14、測位装置16、及び車両側制御部18を備える。
車両側通信機12は、遠隔支援装置50との間で無線通信を行う。
カメラ14は、図2に示すように、車両10の前方範囲30F、右側方範囲30RS、左側方範囲30LS、及び後方範囲30Rを撮影する。カメラ14は、各範囲を個別に撮影する4個のカメラを備えた構成としてもよいし、全範囲を撮影可能な360度カメラを備えた構成としてもよい。本実施形態では、各範囲を撮影する4個のカメラを備えた場合について説明する。なお、以下では、便宜上、少なくとも前方範囲30Fを含む範囲を撮影するカメラをカメラ14F、少なくとも右側方範囲30RSを含む範囲を撮影するカメラをカメラ14RS、少なくとも左側方範囲30LSを含む範囲を撮影するカメラをカメラ14LS、少なくとも後方範囲30Rを含む範囲を撮影するカメラをカメラ14Rと称する。また、各カメラを区別しない場合はカメラ14と称する。
図2に示すように、前方範囲30Fは、車両10を平面視した場合に、車両10の前方向(進行方向)Fを中心とした右45度及び左45度の合計90度の範囲である。右側方範囲30RSは、車両10を平面視した場合に車両10の右方向RSを中心とした右45度及び左45度の合計90度の範囲である。左側方範囲30LSは、車両10を平面視した場合に車両10の左方向LSを中心とした右45度及び左45度の合計90度の範囲である。後方範囲30Rは、車両10を平面視した場合に車両10の後方向(後退方向)Rを中心とした右45度及び左45度の合計90度の範囲である。
測位装置16は、GPS(Global Positioning System)受信機又はGNSS(Global Navigation Satellite System)受信機を備え、車両10の現在位置を測位する。
車両側制御部18は、車両側通信機12、カメラ14、及び測位装置16の制御を行う。また、車両側制御部18は、CPUおよびメモリを備えるコンピュータとして構成されており、CPUがメモリに記憶されたプログラムを実行することにより動作制御部20として機能する。
動作制御部20は、オペレータによる遠隔操作に基づき、車両の動作(加速、減速、制動、操舵)を制御する。また、動作制御部20は、車両10の識別情報(車両ID)及び現在位置情報を含む車両情報を、車両側通信機12を通じて、所定の周期で繰り返し遠隔支援装置50に送信する。車両情報には、車両10の車種及び乗員を識別するための情報、目的地の位置を表す情報が含まれてもよい。また、動作制御部20は、オペレータによって車両10の遠隔支援が行われる場合には、カメラ14によって撮影された撮影画像を、車両側通信機12を通じて、遠隔支援装置50に送信する。撮影画像は、本実施形態では一例として動画像(映像)である。
遠隔支援装置50は、通信部52、制御部60、及び記憶装置70を備える。
通信部52は、車両10との間で無線通信を行う。また、通信部52は、オペレータ端末80との間で有線又は無線による通信を行う。
記憶装置70は、地図データベース72、オペレータ情報データベース74、及び遠隔支援プログラム76を記憶している。
地図データベース72には、支援地点の位置が登録されている。また、地図データベース72には、交差点及び道路の接続状態を示す道路データ、渋滞情報、交通規制情報、及び支援地点毎の交通量を含む交通情報等が記録されている。交通情報は、例えば、通信部52を通じて、他のサーバから取得されて記憶される。
オペレータ情報データベース74には、例えば、車両の遠隔支援を行う各オペレータのスケジュール、現在空いているオペレータの数、遠隔支援の内容、支援地点毎の交通量の履歴、遠隔支援した際の所要時間の履歴等が記録される。
制御部60は、通信部52及び記憶装置70の制御を行う。制御部60は、機能的には、経路計画部62、遠隔支援部64、予測部66、記録部68、及び割当部69を備える。
経路計画部62は、各車両10が走行する経路を特定する。より具体的には、経路計画部62は、各車両10が支援地点を経由しつつ出発地から目的地に至る経路を、地図データベース72に記録された道路データ、交通情報、及び支援地点の位置に基づき特定する。出発地、目的地、及び経由する支援地点は、例えば、オペレータ又はその管理者により設定されたり、車両10からの要求に応じて設定されたりする。経路計画部62は、特定した経路を、通信部52を通じて各車両10に配信する。なお、経路の特定は、各車両10の車両側制御部18において行われてもよい。また、経路の特定は、各車両10からの要求に応じて行われてもよい。
遠隔支援部64は、オペレータによる遠隔操作に基づき支援地点における車両10の遠隔支援を行う。遠隔支援部64は、図3に示すように、前方画像送信部40、受信部42、操作信号送信部44、及び後方画像送信部46を備える。
前方画像送信部40は、車両10から支援地点における遠隔支援が要求された場合に、車両10により撮影された少なくとも車両10の前方を含む前方画像として、例えば前方範囲30Fを含む前方画像を、車両10に対して遠隔操作を行うオペレータ端末80へ送信する。
受信部42は、オペレータ端末80から支援地点における遠隔操作に対応した操作信号を受信する。
操作信号送信部44は、オペレータ端末80から受信した操作信号を車両10へ送信する。
後方画像送信部46は、車両10が支援地点に基づいてオペレータ端末80での表示を切り替えるように設定した切替地点を通過した後に、車両10により少なくとも車両10の後方を含むように撮影されて後方を強調した後方画像として、例えば後方範囲30Rを含む後方画像を、オペレータ端末80へ送信する。
予測部66は、経路計画部62によって特定された経路に含まれる支援地点に車両10が到着する予定時刻に基づいて、オペレータによって車両10の遠隔支援が開始されるタイミングを予測するとともに、遠隔支援が行われる時間(以下、「所要時間」という)を予測する。予測部66は、例えば、支援地点毎に過去の所要時間と交通量の関係を学習し、その学習結果と現在の交通量とから所要時間を予測することができる。本実施形態の予測部66は、車両10毎に特定された経路に含まれる支援地点に到着する予定時刻に基づいて、複数の車両を同時に支援するためのオペレータの人数を予測する機能を備える。
記録部68は、遠隔支援を行ったオペレータの人数の時間帯毎の履歴を、オペレータ情報データベース74に記録する。また、記録部68は、各オペレータが支援地点において車両10を遠隔支援した所要時間の履歴を、支援地点毎にオペレータ情報データベース74に記録する。また、記録部68は、支援地点ごとに交通量の履歴をオペレータ情報データベース74に記録する。また、記録部68は、支援内容をオペレータ情報データベース74に記録する。支援内容は、例えば交差点での右折支援及び左折支援、バス停でのドア開閉支援及び発進支援、障害物回避、横断歩行者対応等である。
割当部69は、予測部66によって予測された遠隔支援の開始タイミング又は車両10から遠隔支援要求を受信したタイミングにおいて、各車両10の経路に含まれる支援地点に対してオペレータの割り当てを行い、オペレータ毎にスケジュールを決定する。割当部69は決定したスケジュールをオペレータ情報データベース74に記録する。スケジュールには、例えば、オペレータ毎に、遠隔支援を行う時刻、支援地点、および車両が登録される。なお、本実施形態では、車両10から遠隔支援要求を受信した場合にオペレータを割り当てる場合について説明する。
図4は、制御部60ハードウェアの構成図である。制御部60は、一般的なコンピュータを含む装置で構成される。
図4に示すように、制御部60は、CPU(Central Processing Unit)60A、ROM(Read Only Memory)60B、RAM(Random Access Memory)60C、不揮発性メモリ60D、及び入出力インターフェース(I/O)60Eを備える。そして、CPU60A、ROM60B、RAM60C、不揮発性メモリ60D、及びI/O60Eがバス60Fを介して各々接続されている。I/O60Eには、通信部52及び記憶装置70が接続されている。
CPU60Aは、コンピュータの一例である。ここでいうコンピュータとは、広義的なプロセッサを指し、汎用的なプロセッサ(例えば、CPU)や、専用のプロセッサ(例えば、GPU:Graphics Processing Unit、ASIC:Application Specific Integrated Circuit、FPGA:Field Programmable Gate Array、プログラマブル論理デバイス、等)を含むものである。
記憶装置70は、ハードディスク等の不揮発性の記憶装置で構成される。CPU60Aは、記憶装置70に記憶された遠隔支援プログラム76を読み込んで実行する。これにより、CPU60Aは、前述した制御部60を構成する各機能部として機能する。なお、遠隔支援プログラム76は、不揮発性の非遷移的(non-transitory)記録媒体に記憶して、又はネットワークを介して配布して、遠隔支援装置50に適宜インストールすることで実現してもよい。
不揮発性の非遷移的記録媒体の例としては、CD-ROM(Compact Disc Read Only Memory)、光磁気ディスク、HDD(ハードディスクドライブ)、DVD-ROM(Digital Versatile Disc Read Only Memory)、フラッシュメモリ、メモリカード等が想定される。
オペレータ端末80は、CPU及びメモリを備えたコンピュータ又は移動端末として構成されている。本実施形態における自動運転システム100は、一又は複数のオペレータ端末80を含む。各オペレータ端末80は、操作部82と表示部84とを備える。操作部82は、オペレータから車両10を遠隔支援するための操作を受け付ける。受け付けられた操作は、操作信号として、遠隔支援装置50を通じて車両10に送信される。表示部84は、オペレータの操作に供されるユーザインタフェースを表示する。また、表示部84には、車両10から送信されたカメラ14の映像が表示される。
図5を用いて自動運転システム100の制御部60のCPU60Aで実行される遠隔支援処理について説明する。図5に示した遠隔支援処理は、自動運転システム100が稼働している間、遠隔支援装置50において所定の周期で繰り返し実行される処理である。なお、以下では、経路計画部62によって各車両10の経路が特定されているものとして説明する。
車両10は、設定された経路に従って自動運転を行っている際に、支援地点に到達しオペレータによる遠隔支援が必要と判断すると、遠隔支援要求を遠隔支援装置50に送信する。
このため、ステップS100では、CPU60Aが、車両10から遠隔支援要求を受信したか否かを判定する。そして、遠隔支援要求を受信した場合はステップS102へ移行する。一方、車両10から遠隔支援要求を受信していない場合は、遠隔支援要求を受信するまで待機する。
ステップS102では、CPU60Aが、オペレータの割り当て処理を実行する。具体的には、例えばオペレータ情報データベース74に記録されたスケジュールに基づき、遠隔支援要求を受信した車両10に対してオペレータを割り当てる。
ステップS104では、CPU60Aが、車両10から送信された車両情報及び撮影画像を受信する。撮影画像は、カメラ14F、14RS、14LS、14Rにより撮影された各範囲の4個の撮影画像(動画像)である。車両情報及び撮影画像は、車両10から周期的に送信され、ステップS104以降、本ルーチンを終了するまで逐次受信される。
ステップS106では、CPU60Aが、遠隔支援が終了した後に、オペレータ端末80へ送信する撮影画像の種類を切り替える切替地点の位置を算出する。具体的には、ステップS104で受信した車両情報に含まれる車両10の現在位置、すなわち遠隔支援を要求した支援地点の位置と、車両10の経路と、に基づいて、切替地点の位置を算出する。具体的には、切替地点の位置は、車両10が切替地点を通過した場合に遠隔操作に対応する動作を終了したとみなすことができる地点の位置である。
例えば図6Aに示すように、車両10が、経路Rtに従って交差点Crを右折する状況において、交差点Crにおいて遠隔支援を要求し、遠隔操作として右折が指示された場合を想定する。この場合は、車両10が右折する地点を切替地点Cgとして設定する。
また、例えば図7Aに示すように、車両10が、経路Rtに従って非優先車線S1を走行し、交差点Crを左折して優先道路S2を走行する状況において、交差点Crの手前で遠隔支援を要求し、遠隔操作として左折が指示された場合を想定する。この場合は、車両10が左折する地点を切替地点Cgとして設定する。
また、例えば図8Aに示すように、車両10が、経路Rtに従ってバス停BSに停車し、その後発車して車線S1を走行する状況において、バス停BSで遠隔支援を要求し、遠隔操作として道路S1への合流が指示された場合を想定する。この場合は、車両10が車線S1に合流した地点を切替地点Cgとして設定する。
また、例えば図9Aに示すように、車両10が、経路Rtに従って片側2車線のうち左側の車線S1を走行中に障害物OBに遭遇した状況において、障害物OBの手前で遠隔支援を要求し、遠隔操作として右隣の車線S2を走行するように指示された場合を想定する。この場合は、車両10が車線S2に車線変更した地点を切替地点Cgとして設定する。
また、例えば図10Aに示すように、車両10が、経路Rtに従って車線S1を走行し、横断歩道PCの手前で停止して遠隔支援を要求し、歩行者PDが横断歩道PCを横断した後に遠隔操作として発進を指示された場合を想定する。この場合は、車両10が横断歩道の中心を通過した地点を切替地点Cgとして設定する。
ステップS108では、CPU60Aが、ステップS104で受信した各範囲の撮影画像のうち、例えば図6Aに示すように、前方範囲30Fを撮影した撮影画像32Fと、右側方範囲30RSを撮影した撮影画像32RSと、左側方範囲30LSを撮影した撮影画像32LSと、を含む画像を前方画像としてオペレータ端末80へ送信する。これにより、オペレータ端末80の表示部84には、図11に示すように、中央に撮影画像32Fが表示され、右側に撮影画像32RSが表示され、左側に撮影画像32LSが表示される。
図6A、図7A、図10Aの例では、前方画像が、前方範囲30F、右側方範囲30RS、及び左側方範囲30LSを含む範囲30の撮影画像となっているが、例えば図8A、9Aに示すように、車両10が右斜め前方向に進行するような場面においては、前方範囲30F、右側方範囲30RS、及び後方範囲30Rを含む範囲30の撮影画像を前方画像としてオペレータ端末80へ送信するようにしてもよい。なお、ステップS108の処理は、車両10から撮影画像を受信する毎に本ルーチンを終了するまで繰り返し実行される。
オペレータ端末80のオペレータは、表示部84に表示された撮影画像を確認し、操作部82を操作することにより車両10に対して遠隔操作を行う。例えば図6Aに示すように、車両10が交差点Crを右折する状況であれば、対向車及び歩行者等を確認し、右折しても良いと判断したタイミングで右折の指示を行う。オペレータが操作部82を操作して車両10に対する遠隔操作を行うと、遠隔操作に応じた操作信号が遠隔支援装置50に送信される。
そこで、ステップS110では、CPU60Aが、オペレータ端末80から操作信号を受信したか否かを判定する。そして、操作信号を受信した場合はステップS112へ移行する。一方、操作信号を受信していない場合は操作信号を受信するまで待機する。
ステップS112では、CPU60Aが、ステップS110で受信した操作信号を車両10に対して送信する。これにより、車両10は、操作信号に応じた動作を行う。例えば図6Aの例のように、操作信号が右折の指示を示す操作信号であった場合は、車両10は右折する動作を行う。これにより、図6Bに示すように、車両10は交差点Crを右折する。
ステップS114では、車両10がステップS106で設定した切替地点Cgを通過したか否かを判定する。具体的には、車両10から逐次受信した車両情報に含まれる車両10の現在位置の履歴及び経路に基づいて、車両10が切替地点Cgを通過したか否かを判定する。
そして、車両10が切替地点Cgを通過した場合はステップS116へ移行する。一方、車両10が切替地点Cgを通過していない場合は、車両10が切替地点Cgを通過するまで待機する。
ステップS116では、CPU60Aが、車両10から受信した各範囲の撮影画像のうち、後方範囲30Rを撮影した撮影画像32Rと、右側方範囲30RSを撮影した撮影画像32RSと、左側方範囲30LSを撮影した撮影画像32LSと、を含む画像を後方画像としてオペレータ端末80へ送信する。これにより、オペレータ端末80の表示部84には、図12に示すように、中央に撮影画像32Rが表示され、右側に撮影画像32RSが表示され、左側に撮影画像32LSが表示される。すなわち、車両10が切替地点Cgを通過すると、それまでは表示部84の中央に表示されていた撮影画像32Fが撮影画像32Rに切り替わる。これにより、オペレータは、遠隔支援後の車両10の後方を確認することができる。なお、ステップS116の処理は、車両10から撮影画像を受信する毎に本ルーチンを終了するまで繰り返し実行される。
また、後方画像に加えて前方範囲30Fの撮影画像32Fをオペレータ端末80へ送信するようにしてもよい。これにより、図13に示すように、表示部84の上方に撮影画像32Fが表示され、オペレータは、後方だけでなく前方も確認することができる。さらに、撮影画像32R、撮影画像32RS、及び撮影画像32LSを合成した1枚の撮影画像を後方画像として生成してオペレータ端末80へ送信するようにしてもよい。これにより、図14に示すように、オペレータ端末80の表示部84には、後方画像が1枚のパノラマ画像のような撮影画像32Pとして表示される。
図6Aの例では、車両10が右折する地点である切替地点Cgを通過するまでは、前方範囲30F、右側方範囲30RS、左側方範囲30LSを含む範囲30を撮影した前方画像がオペレータ端末80へ送信され、表示部84に表示される。
そして、車両10が切替地点Cgを通過すると、図6Bに示すように、後方範囲30R、右側方範囲30RS、左側方範囲30LSを含む範囲30を撮影した後方画像がオペレータ端末80へ送信され、表示部84に表示される。なお、図7B、図8B、図9B、図10Bの場合も同様である。
このように、切替地点Cgを通過するとオペレータ端末80の表示部84に表示される画像が前方画像から後方画像へ切り替わる。これにより、オペレータは、自身が車両10に対して指示した遠隔操作が適切であったか否かを容易に自己評価することができる。例えば、図6A、6Bの例では、車両10が交差点Crを右折して切替地点Cgを通過した場合にオペレータは後方画像を確認することになるが、後方画像に歩行者が横断歩道を横断している姿が確認できた場合は、歩行者が横断歩道PCを横断しようとしているにもかかわらず、歩行者を見落としていた可能性があると認識することできる。従って、次回からは横断歩道を横断しようとしている歩行者がいるか否かを特に注意することが促されるため、オペレータの状況判断能力の向上を支援することができる。
なお、図6Bの例では、後方画像が、後方範囲30R、右側方範囲30RS、及び左側方範囲30LSを含む範囲30を撮影した画像としているが、遠隔操作の内容に応じて定められた撮影範囲の後方画像をオペレータ端末80へ送信するようにしてもよい。例えば図6Bの例において、車両10の右折後にオペレータが確認すべき重要な範囲が後方範囲30R及び左側方範囲30LSである場合は、後方範囲30R及び左側方範囲30LSを含む範囲30の撮影画像をオペレータ端末80へ送信するようにしてもよい。このように、遠隔操作の内容に応じてオペレータ端末80へ送信する後方画像の撮影範囲を予め定めておいてもよい。
ステップS118では、CPU60Aが、車両10が自動走行を再開したか否かを判定する。車両10は、例えば車両10が操作信号に対応する動作を行った後に遠隔支援要求を取り下げる取り下げ要求を遠隔支援装置50に送信し、自動運転を再開する。このため、自動走行を再開したか否かは、例えば車両10から遠隔支援要求を取り下げる取り下げ要求を受信したか否かにより判定することができる。
車両10が自動走行を再開した場合はステップS120へ移行する。一方、車両10が自動走行を再開していない場合は、自動走行を再開するまで待機する。
ステップS120では、CPU60Aが、オペレータ端末80への撮影画像の送信を停止すると共に、車両10の遠隔支援に対するオペレータの割り当てを解除する。
このように、本実施形態では、車両10が切替地点Cgを通過するまでは、少なくとも車両10の前方を含む前方画像として、例えば前方範囲30Fを含む前方画像をオペレータ端末80の表示部84に表示させ、車両10が切替地点Cgを通過した後は、少なくとも車両10の後方を含む後方画像として、例えば後方範囲30Rを含む後方画像をオペレータ端末80の表示部84に表示させる。
これにより、オペレータは、自身が行った車両10に対する遠隔操作が適切であったか否かを容易且つ速やかに自己評価することができるため、オペレータの状況判断能力の向上を支援することができる。
<第2実施形態>
第2実施形態について説明する。第2実施形態では、オペレータの視線位置に基づいて注視範囲を検出し、検出した注視範囲を含む後方画像をオペレータ端末80の表示部84に表示させる場合について説明する。
本実施形態に係るオペレータ端末80は、図15に示すように、操作部82及び表示部84に加えてカメラ86及び視線検出部88を備える。
カメラ86は、オペレータの目を撮影可能な位置に設けられ、オペレータの目を撮影する。
視線検出部88は、カメラ86により撮影されたオペレータの目を含む撮影画像に基づいて、表示部84に表示されている前方画像のどの位置を見ているかを示す視線位置を検出し、検出した視線位置を示す視線位置情報を逐次遠隔支援装置50に送信する。
遠隔支援装置50の受信部42は、オペレータ端末80から送信された視線位置情報を受信し、後方画像送信部46は、車両10が切替地点Cgを通過して後方画像をオペレータ端末80へ送信する際には、オペレータ端末80から受信した視線位置情報に基づいて注視範囲を特定し、特定した注視範囲を含む後方画像をオペレータ端末80へ送信する。ここで、注視範囲とは、視線位置が予め定めた時間(例えば2秒)以上留まっている範囲をいう。
複数の注視範囲が存在する場合、例えば図16に示すように、3つの注視範囲M1、M2、M3が存在する場合には、遠隔支援装置50は、注視範囲M1、M2、M3を全て含む後方画像をオペレータ端末80へ送信する。
なお、複数の注視範囲のうち最も注視時間が長い注視範囲を含む後方画像をオペレータ端末80へ送信するようにしてもよい。例えば、注視範囲M1、M2、M3のうち、最も注視時間が長い注視範囲が注視範囲M1の場合は、少なくとも注視範囲M1を含む後方画像をオペレータ端末80へ送信するようにしてもよい。
また、後方画像送信部46は、注視範囲に基づいて特定したオペレータの見落とし対象のオブジェクトを強調した後方画像をオペレータ端末80へ送信するようにしてもよい。例えば、後方画像に対して公知のオブジェクト抽出処理を実行し、オブジェクトを抽出する。ここで、オブジェクトとは人及び車両等の移動する物体である。そして、後方画像から抽出されたオブジェクトのうち、注視範囲以外のオブジェクトをオペレータの見落とし対象のオブジェクトとする。そして、見落とし対象のオブジェクトを強調した後方画像をオペレータ端末80へ送信する。例えば図17に示すように、後方範囲30Rの撮影画像32Rに対して見落とし対象のオブジェクトを枠Wで囲むことによって強調し、オペレータ端末80へ送信する。これにより、オペレータは、自身が見落とした可能性のあるオブジェクトを容易に認識することができる。
また、後方画像送信部46は、前方画像では検知されておらず、後方画像において新たに検知されたオブジェクトを強調した後方画像をオペレータ端末80へ送信するようにしてもよい。これにより、例えば前方画像では死角にいてオペレータが認識できなかった車両及び歩行者等を後方画像において容易に確認することができる。この場合も図17に示すように、後方画像において新たに検知されたオブジェクトを例えば枠Wで囲むことによって強調し、オペレータ端末80へ送信する。これにより、オペレータは、死角にいて気付かなかったオブジェクトを容易に認識することができる。
また、後方画像送信部46は、車両10で検知された対向車の速度変化に関する速度情報が表示された後方画像をオペレータ端末80へ送信するようにしてもよい。この場合、車両10は、レーダ装置を備えた構成とする。そして、車両10は、対向車の速度変化に関する速度情報を検出して遠隔支援装置50へ送信する。後方画像送信部46は、対向車の速度情報が表示された後方画像をオペレータ端末80へ送信する。例えば図18に示すように、車両10から受信した速度情報が、対向車が10km/h減速したことを示す情報であった場合は、対向車を枠Wで囲むと共に、「10km/h減速」の文字を表示した後方画像をオペレータ端末80へ送信する。これにより、オペレータは、自身の遠隔操作によって対向車が10km/h減速したことを認識することができ、遠隔操作が適切ではなかった可能性があることを容易に認識することができる。
また、図19に示すように、切替地点Cgを含む範囲を俯瞰で撮影するインフラカメラ34が設置されている場合には、後方画像送信部46は、インフラカメラ34から俯瞰画像を取得してオペレータ端末80へ送信するようにしてもよい。これにより、オペレータ端末80の表示部84には、図20に示すような俯瞰画像36が表示されるため、車両10の周辺の状況を容易に確認することができる。
<第3実施形態>
第3実施形態について説明する。なお、上記各実施形態と同一部分については同一符号を付し、詳細な説明を省略する。
第3実施形態では、図5のステップS108でオペレータ端末80に送信する前方画像の変形例及び図5のステップS116でオペレータ端末80に送信する後方画像の変形例について説明する。
第3実施形態では、図21に示すように、図2に示す右側方範囲30RSが、右前方範囲30FRSと右後方範囲30RRSとに分割されている。また、図2に示す左側方範囲30LSが、左前方範囲30FLSと左後方範囲30RLSとに2分割されている。
そして、第3実施形態では、図5のステップS108において、CPU60Aが、前方範囲30Fを撮影した撮影画像32Fと、右前方範囲30FRSを撮影した撮影画像32FRSと、左前方範囲30FLSを撮影した撮影画像32FLSと、後方範囲30Rを撮影した撮影画像32Rと、右後方範囲30RRSを撮影した撮影画像32RRSと、左後方範囲30RLSを撮影した撮影画像32RLSと、を含む画像を前方画像としてオペレータ端末80へ送信する。
これにより、オペレータ端末80の表示部84には、図22に示すように、中央に撮影画像32F、32Rが表示され、右側に撮影画像32FRS、32RRSが表示され、左側に撮影画像32FLS、32RLSが表示される。なお、図21の例では、撮影画像32Fの方が撮影画像32Rよりも表示領域が大きく、撮影画像32FRSの方が撮影画像32RRSよりも表示領域が大きく、撮影画像32FLSの方が撮影画像32RLSよりも表示領域が大きい。すなわち、表示部84には、車両10の後方よりも前方が強調して表示される。
また、図5のステップS116において、CPU60Aが、図23に示すように、後方を強調した画像を後方画像としてオペレータ端末80へ送信する。図23に示す後方画像は、図22に示す前方画像と比較して、撮影画像32Rの方が撮影画像32Fよりも表示領域が大きく、撮影画像32RRSの方が撮影画像32FRSよりも表示領域が大きく、撮影画像32RLSの方が撮影画像32FLSよりも表示領域が大きい。すなわち、表示部84には、車両10の前方よりも後方が強調して表示される。
<第4実施形態>
第4実施形態について説明する。なお、上記各実施形態と同一部分については同一符号を付し、詳細な説明を省略する。
第4実施形態では、オペレータの見落とし対象のオブジェクトを強調した後方画像をオペレータ端末80へ送信する場合の変形例について説明する。
図24には、図5のステップS108において、CPU60Aが、オペレータ端末80へ送信する前方画像の一例を示した。図24の例では、前方画像は、前方範囲30Fを撮影した撮影画像32Fと、右前方範囲30FRSを撮影した撮影画像32FRSと、左前方範囲30FLSを撮影した撮影画像32FLSと、後方範囲30Rを撮影した撮影画像32Rと、右後方範囲30RRSを撮影した撮影画像32RRSと、左後方範囲30RLSを撮影した撮影画像32RLSと、を含む画像である。なお、図24の例では、撮影画像32F、32Rの表示領域のサイズは同一であり、撮影画像32FRS、32RRSの表示領域のサイズは同一であり、撮影画像32FLS、RLSの表示領域のサイズは同一である。
また、図25には、図5のステップS116において、CPU60Aが、オペレータ端末80へ送信する後方画像の一例を示した。図25の例では、後方画像は、図24に示した前方画像に、オペレータの見落とし対象のオブジェクトを枠W1、W2で囲むことによって強調した画像である。
オペレータの見落とし対象のオブジェクトの抽出方法は、第2実施形態で説明したのと同様の方法であり、例えば、前方画像及び後方画像に対して公知のオブジェクト抽出処理を実行し、オブジェクトを抽出する。そして、後方画像から抽出されたオブジェクトのうち、前方画像に含まれていなかったオブジェクトをオペレータの見落とし対象のオブジェクトとする。そして、見落とし対象のオブジェクトを枠W1、W2で囲むことによって強調し、オペレータ端末80へ送信する。これにより、オペレータは、自身が見落とした可能性のあるオブジェクトを容易に認識することができる。
なお、本開示は、上述した各実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
例えば、上記実施形態では、オペレータがオペレータ端末80を操作することで車両10を遠隔操作する場合について説明したが、ステアリング、アクセルペダル、及びブレーキペダルを備えた遠隔操縦装置を操縦することで車両10を遠隔操作する場合にも開示の技術を適用可能である。
また、上記実施形態では、オペレータの状況判断能力の向上を支援する場合について説明したが、オペレータを監督する監督者の状況判断能力の向上を支援する場合にも開示の技術を適用可能である。また、監督者によるオペレータへの遠隔支援の評価や改善点をオペレータにフィードバックする場合にも開示の技術を適用可能である。また、他のオペレータに遠隔支援の結果を提示することにより他のオペレータの状況判断能力の向上を支援する場合にも開示の技術を適用可能である。例えば、新人研修やオペレータ間のレベル合わせを行いたい場合にも開示の技術を適用可能である。
その他、上記実施の形態で説明した自動運転システム100の構成(図1参照)は一例であり、本発明の主旨を逸脱しない範囲内において不要な部分を削除したり、新たな部分を追加したりしてもよいことは言うまでもない。
また、上記実施の形態で説明した遠隔支援プログラム76の処理の流れ(図5参照)も一例であり、本発明の主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。
本開示に記載の制御部及びその手法は、コンピュータプログラムにより具体化された一つ乃至は複数の機能を実行するようにプログラムされたプロセッサを構成する専用コンピュータにより、実現されてもよい。あるいは、本開示に記載の装置及びその手法は、専用ハードウエア論理回路によってプロセッサを構成する専用コンピュータにより、実現されてもよい。もしくは、本開示に記載の装置及びその手法は、コンピュータプログラムを実行するプロセッサと一つ以上のハードウエア論理回路との組み合わせにより構成された一つ以上の専用コンピュータにより、実現されてもよい。また、コンピュータプログラムは、コンピュータにより実行されるインストラクションとして、コンピュータ読み取り可能な非遷移有形記録媒体に記憶されていてもよい。
本開示の技術に関して、以下の付記を開示する。
<付記>
(付記1)
自動運転車両(10)から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置(80)へ送信する前方画像送信部(40)と、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信する受信部(42)と、
受信した前記操作信号を前記自動運転車両へ送信する操作信号送信部(44)と、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する後方画像送信部(46)と、
を備えた遠隔支援装置(50)。
(付記2)
前記後方画像送信部は、前記遠隔操作の内容に応じて定められた撮影範囲の後方画像を送信する
付記1記載の遠隔支援装置。
(付記3)
前記受信部は、前記遠隔操作装置に表示された前方画像における前記遠隔操作装置のオペレータの視線位置に関する視線位置情報を受信し、
前記後方画像送信部は、前記視線位置情報に基づいて特定した前記オペレータの注視範囲を含む後方画像を前記遠隔操作装置へ送信する
付記1又は付記2記載の遠隔支援装置。
(付記4)
前記後方画像送信部は、前記注視範囲が複数存在する場合は、複数の前記注視範囲のうち最も注視時間が長い注視範囲を含む後方画像を前記遠隔操作装置へ送信する
付記3記載の遠隔支援装置。
(付記5)
前記後方画像送信部は、前記注視範囲が複数存在する場合は、複数の前記注視範囲を全て含む後方画像を前記遠隔操作装置へ送信する
付記3記載の遠隔支援装置。
(付記6)
前記後方画像送信部は、前記遠隔操作装置のオペレータの見落とし対象のオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
付記1~5の何れかに記載の遠隔支援装置。
(付記7)
前記後方画像送信部は、前記注視範囲に基づいて特定した前記オペレータの見落とし対象のオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
付記3~5の何れかに記載の遠隔支援装置。
(付記8)
前記後方画像送信部は、前記後方画像において新たに検知されたオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
付記1~7の何れかに記載の遠隔支援装置。
(付記9)
前記後方画像送信部は、前記自動運転車両で検知された対向車の速度変化に関する速度情報が表示された後方画像を前記遠隔操作装置へ送信する
付記1~8の何れかに記載の遠隔支援装置。
(付記10)
前記後方画像送信部は、前記切替地点を含む範囲を俯瞰で撮影した俯瞰画像を取得して前記遠隔操作装置へ送信する
付記1~9の何れかに記載の遠隔支援装置。
(付記11)
前記後方画像は、前記自動運転車両の前方を表示する表示領域よりも前記自動運転車両の後方を表示する表示領域の方が大きい画像である
請求項1記載の遠隔支援装置。
付記1~10の何れかに記載の遠隔支援装置。
(付記12)
少なくとも1つのプロセッサ(60A)が、
自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両に
より撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信し、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信し、
受信した前記操作信号を前記自動運転車両へ送信し、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する
ことを含む処理を実行する遠隔支援方法。
(付記13)
少なくとも1つのプロセッサに、
自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信し、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信し、
受信した前記操作信号を前記自動運転車両へ送信し、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する
ことを含む処理を実行させるための遠隔支援プログラム(76)。
<付記>
(付記1)
自動運転車両(10)から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置(80)へ送信する前方画像送信部(40)と、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信する受信部(42)と、
受信した前記操作信号を前記自動運転車両へ送信する操作信号送信部(44)と、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する後方画像送信部(46)と、
を備えた遠隔支援装置(50)。
(付記2)
前記後方画像送信部は、前記遠隔操作の内容に応じて定められた撮影範囲の後方画像を送信する
付記1記載の遠隔支援装置。
(付記3)
前記受信部は、前記遠隔操作装置に表示された前方画像における前記遠隔操作装置のオペレータの視線位置に関する視線位置情報を受信し、
前記後方画像送信部は、前記視線位置情報に基づいて特定した前記オペレータの注視範囲を含む後方画像を前記遠隔操作装置へ送信する
付記1又は付記2記載の遠隔支援装置。
(付記4)
前記後方画像送信部は、前記注視範囲が複数存在する場合は、複数の前記注視範囲のうち最も注視時間が長い注視範囲を含む後方画像を前記遠隔操作装置へ送信する
付記3記載の遠隔支援装置。
(付記5)
前記後方画像送信部は、前記注視範囲が複数存在する場合は、複数の前記注視範囲を全て含む後方画像を前記遠隔操作装置へ送信する
付記3記載の遠隔支援装置。
(付記6)
前記後方画像送信部は、前記遠隔操作装置のオペレータの見落とし対象のオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
付記1~5の何れかに記載の遠隔支援装置。
(付記7)
前記後方画像送信部は、前記注視範囲に基づいて特定した前記オペレータの見落とし対象のオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
付記3~5の何れかに記載の遠隔支援装置。
(付記8)
前記後方画像送信部は、前記後方画像において新たに検知されたオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
付記1~7の何れかに記載の遠隔支援装置。
(付記9)
前記後方画像送信部は、前記自動運転車両で検知された対向車の速度変化に関する速度情報が表示された後方画像を前記遠隔操作装置へ送信する
付記1~8の何れかに記載の遠隔支援装置。
(付記10)
前記後方画像送信部は、前記切替地点を含む範囲を俯瞰で撮影した俯瞰画像を取得して前記遠隔操作装置へ送信する
付記1~9の何れかに記載の遠隔支援装置。
(付記11)
前記後方画像は、前記自動運転車両の前方を表示する表示領域よりも前記自動運転車両の後方を表示する表示領域の方が大きい画像である
請求項1記載の遠隔支援装置。
付記1~10の何れかに記載の遠隔支援装置。
(付記12)
少なくとも1つのプロセッサ(60A)が、
自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両に
より撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信し、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信し、
受信した前記操作信号を前記自動運転車両へ送信し、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する
ことを含む処理を実行する遠隔支援方法。
(付記13)
少なくとも1つのプロセッサに、
自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信し、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信し、
受信した前記操作信号を前記自動運転車両へ送信し、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する
ことを含む処理を実行させるための遠隔支援プログラム(76)。
10 車両、40 前方画像送信部、42 受信部、44 操作信号送信部、46 後方画像送信部、50 遠隔支援装置、52 通信部、60 制御部、62 経路計画部、64 遠隔支援部、66 予測部、68 記録部、69 割当部、70 記憶装置、72 地図データベース、74 オペレータ情報データベース、76 遠隔支援プログラム、80 オペレータ端末、100 自動運転システム
Claims (13)
- 自動運転車両(10)から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置(80)へ送信する前方画像送信部(40)と、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信する受信部(42)と、
受信した前記操作信号を前記自動運転車両へ送信する操作信号送信部(44)と、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する後方画像送信部(46)と、
を備えた遠隔支援装置(50)。 - 前記後方画像送信部は、前記遠隔操作の内容に応じて定められた撮影範囲の後方画像を送信する
請求項1記載の遠隔支援装置。 - 前記受信部は、前記遠隔操作装置に表示された前方画像における前記遠隔操作装置のオペレータの視線位置に関する視線位置情報を受信し、
前記後方画像送信部は、前記視線位置情報に基づいて特定した前記オペレータの注視範囲を含む後方画像を前記遠隔操作装置へ送信する
請求項1記載の遠隔支援装置。 - 前記後方画像送信部は、前記注視範囲が複数存在する場合は、複数の前記注視範囲のうち最も注視時間が長い注視範囲を含む後方画像を前記遠隔操作装置へ送信する
請求項3記載の遠隔支援装置。 - 前記後方画像送信部は、前記注視範囲が複数存在する場合は、複数の前記注視範囲を全て含む後方画像を前記遠隔操作装置へ送信する
請求項3記載の遠隔支援装置。 - 前記後方画像送信部は、前記遠隔操作装置のオペレータの見落とし対象のオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
請求項1~5の何れか1項に記載の遠隔支援装置。 - 前記後方画像送信部は、前記注視範囲に基づいて特定した前記オペレータの見落とし対象のオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
請求項3~5の何れか1項に記載の遠隔支援装置。 - 前記後方画像送信部は、前記後方画像において新たに検知されたオブジェクトを強調した後方画像を前記遠隔操作装置へ送信する
請求項1記載の遠隔支援装置。 - 前記後方画像送信部は、前記自動運転車両で検知された対向車の速度変化に関する速度情報が表示された後方画像を前記遠隔操作装置へ送信する
請求項1記載の遠隔支援装置。 - 前記後方画像送信部は、前記切替地点を含む範囲を俯瞰で撮影した俯瞰画像を取得して前記遠隔操作装置へ送信する
請求項1記載の遠隔支援装置。 - 前記後方画像は、前記自動運転車両の前方を表示する表示領域よりも前記自動運転車両の後方を表示する表示領域の方が大きい画像である
請求項1記載の遠隔支援装置。 - 少なくとも1つのプロセッサ(60A)が、
自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両に
より撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信し、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信し、
受信した前記操作信号を前記自動運転車両へ送信し、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する
ことを含む処理を実行する遠隔支援方法。 - 少なくとも1つのプロセッサに、
自動運転車両から支援地点における遠隔支援が要求された場合に、前記自動運転車両により撮影された少なくとも前記自動運転車両の前方を含む前方画像を、前記自動運転車両に対して遠隔操作を行う遠隔操作装置へ送信し、
前記遠隔操作装置から前記支援地点における遠隔操作に対応する操作信号を受信し、
受信した前記操作信号を前記自動運転車両へ送信し、
前記自動運転車両が前記支援地点に基づいて前記遠隔操作装置での表示を切り替えるように設定した切替地点を通過した後に、少なくとも前記自動運転車両の後方を含むように撮影されて前記後方を強調した後方画像を、前記遠隔操作装置へ送信する
ことを含む処理を実行させるための遠隔支援プログラム(76)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2023/020885 WO2023248776A1 (ja) | 2022-06-22 | 2023-06-05 | 遠隔支援装置、遠隔支援方法、及び遠隔支援プログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022100595 | 2022-06-22 | ||
JP2022100595 | 2022-06-22 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024001846A true JP2024001846A (ja) | 2024-01-10 |
Family
ID=89454944
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023005386A Pending JP2024001846A (ja) | 2022-06-22 | 2023-01-17 | 遠隔支援装置、遠隔支援方法、及び遠隔支援プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2024001846A (ja) |
-
2023
- 2023-01-17 JP JP2023005386A patent/JP2024001846A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7386299B2 (ja) | 車両運転支援システム | |
US11958504B2 (en) | Method and apparatus for controlling a vehicle's driving operation using advance information | |
US10269250B2 (en) | Method for coordinating the traffic of motor vehicles in a parking environment | |
JP4367353B2 (ja) | 交通情報提供システム、交通情報提供センタ、車載用情報収集装置 | |
US11747828B2 (en) | Vehicle remote instruction system and remote instruction device | |
KR101893532B1 (ko) | 요청된 차량 획득 교통 상황 영상 다운로드 | |
US20210191394A1 (en) | Systems and methods for presenting curated autonomy-system information of a vehicle | |
JP2006327314A (ja) | 配光制御システム及び配光制御方法 | |
US11367357B2 (en) | Traffic control apparatus, traffic control system, traffic control method, and non-transitory computer recording medium | |
CN110858452A (zh) | 停车管理系统和方法 | |
US11395208B2 (en) | Mobility information provision system for mobile bodies, server, and vehicle | |
JP2004139284A (ja) | 車両用情報処理装置 | |
JP7165827B2 (ja) | 自動車の支援方法 | |
EP4057253B1 (en) | System, management method, automated driving vehicle, and program | |
WO2023248776A1 (ja) | 遠隔支援装置、遠隔支援方法、及び遠隔支援プログラム | |
JP2020166665A (ja) | 車両経路管理方法、車両経路管理装置、及び車両経路管理システム | |
JP2024001846A (ja) | 遠隔支援装置、遠隔支援方法、及び遠隔支援プログラム | |
EP4083957A1 (en) | Navigation system with traffic state detection mechanism and method of operation thereof | |
JP6997006B2 (ja) | 車載装置、サーバ、情報システム | |
JP2007271345A (ja) | 車両案内システム及び車両案内方法 | |
KR102498001B1 (ko) | 교통 신호등의 제어 방법 및 장치 | |
WO2024116239A1 (ja) | 駐車場予約システム、情報処理装置、情報処理方法、および記録媒体 | |
JP7344072B2 (ja) | 車載装置、配信システムおよび映像受信方法 | |
WO2022195798A1 (ja) | 避難経路案内システム、避難経路作成方法及びプログラム記録媒体 | |
US20230343106A1 (en) | Information processing apparatus, image transmission system, and information processing method |