JP7224998B2 - 情報処理方法、情報処理装置、及び情報処理システム - Google Patents

情報処理方法、情報処理装置、及び情報処理システム Download PDF

Info

Publication number
JP7224998B2
JP7224998B2 JP2019064571A JP2019064571A JP7224998B2 JP 7224998 B2 JP7224998 B2 JP 7224998B2 JP 2019064571 A JP2019064571 A JP 2019064571A JP 2019064571 A JP2019064571 A JP 2019064571A JP 7224998 B2 JP7224998 B2 JP 7224998B2
Authority
JP
Japan
Prior art keywords
travel route
vehicle
display
screen
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019064571A
Other languages
English (en)
Other versions
JP2020165709A (ja
Inventor
真樹 渡邉
政康 鈴木
俊助 望月
大介 斎藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renault SAS
Original Assignee
Renault SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renault SAS filed Critical Renault SAS
Priority to JP2019064571A priority Critical patent/JP7224998B2/ja
Publication of JP2020165709A publication Critical patent/JP2020165709A/ja
Application granted granted Critical
Publication of JP7224998B2 publication Critical patent/JP7224998B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Navigation (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、情報処理方法、情報処理装置、及び情報処理システムに関するものである。
携帯情報端末から送信される所定の操作信号に基づいて、車両機器を遠隔操作する遠隔操作システムであって、携帯情報端末から送信される所定の操作信号に基づいて、車両機器を遠隔操作する遠隔操作システムが知られている(特許文献1)。携帯情報端末は、車両から通信網を介して取得された車両の状態情報、車両の現在位置を含む地図情報、及び車両の遠隔操作を行うための操作項目を画面に表示させる画面表示手段を備えている。携帯情報端末の画面には車両の位置が表示された地図が表示されるため、ユーザは地図上の車両の位置を確認して車両の遠隔操作を実行する。
特開2006-352759号公報
しかしながら、上記従来技術では、何らかの理由により地図上の車両の位置が実際の車両の位置と異なった場合、実際の状況に合わせて車両を走行させることができない、という問題がある。
本発明が解決しようとする課題は、遠隔操作により実際の状況に合わせて車両を走行させることが可能な情報処理方法、情報処理装置、及び情報処理システムを提供することである。
本発明は、車両の俯瞰画像を含む第1画面に表示するための車両の走行経路を、表示用走行経路として生成し、車両に搭載された撮像装置により撮像された撮像画像を含む第2画面に表示用走行経路を反映させるための走行経路を反映走行経路として生成し、表示用走行経路を第1画面の俯瞰画像に重畳させて表示するよう制御し、反映走行経路を第2画面の撮像画像に重畳させて表示するように制御し、第1画面に表示される表示用走行経路のうち第2画面に表示される反映走行経路に対応する部分と、その他の表示用走行経路とを識別可能な形式で表示するよう制御することにより、上記課題を解決する。
本発明によれば、上記第1画面及び第2画面のそれぞれに表示される車両の走行経路を確認することで、遠隔操作により実際の状況に合わせて車両を走行させることができる。
図1は、本実施形態に係る情報処理システムの一例を示す構成図である。 図2は、遠隔操作モードに移行してからオペレータが遠隔操作を実行するまでのタイムチャートの一例である。 図3は、オペレータによる走行経路の設定に際して情報処理装置が実行する処理の一例である。 図4は、図2に示すステップにおいて、端末機に表示される画面の一例である。 図5は、図2に示すステップにおいて、端末機に表示される画面の一例である。 図6Aは、図2に示すステップにおいて、端末機に表示される画面の一例である。 図6Bは、図2に示すステップにおいて、端末機に表示される画面の一例である。 変形例に係る情報処理装置が実行する走行経路の表示制御の一例である。
以下、本発明に係る情報処理装置、及び情報処理システムの一実施の形態を図面に基づいて説明する。本実施形態では、端末機に搭載された情報処理装置を例示して説明する。
図1は、本発明に係る情報処理装置15を含む情報処理システム100の一例を示すブロック図である。図1に示すように、本実施形態における情報処理システム100は、端末機1と、車両2と、電気通信回線網を構成するネットワーク3とを含む。本実施形態では、本発明に係る情報処理システムを、ユーザによる車両2の遠隔操作を支援するためのシステムに適用した場合を例に挙げて説明する。また、本実施形態のシステムでは、端末機1を操作する主体はユーザ(人間)である。以降では、端末機1を操作するユーザをオペレータ(操作者)と称して説明する。
特に限定されるものではないが、本実施形態のシステムが適用される場面としては、例えば、いわゆる自動運転機能を有する車両2が当該自動運転機能では走行できない場面において、オペレータに車両2の遠隔操作を要求する場面が挙げられる。なお、本実施形態のシステムは、自動運転機能を有する自動車を対象としたシステムに限られず、例えば、運転者(ドライバ)の運転を支援する運転支援機能を有する自動車であっても適用することができる。また、端末機1を操作する主体は、オペレータに限られず、例えば、人工知能(artificial intelligence, AI)を有するコンピュータであってもよい。
本実施形態のシステムの前提として、端末機1は車両2の外部に設けられており、オペレータは車両2の外部から端末機1を介して車両2を遠隔操作する。端末機1が設けられている場所としては、複数の車両2を遠隔操作するための管制センターなどが例示できる。すなわち、本実施形態では、車両2がオペレータの目視しうる範囲には位置しておらず、オペレータは、車両2からの情報に基づいて、端末機1を操作して車両2の遠隔操作を実行する。この種の端末機1としては、スマートフォン、携帯電話機、可搬コンピュータなどを用いることができる。端末機1については、後述する。
次に、車両2について説明する。車両2は、自律走行が可能な車両である。車両2は、ナビゲーション装置が搭載されているとともに走行制御(速度制御と操舵制御)を自動制御する機能を備える自動車であって人間が運転する自動車、又はナビゲーション装置が搭載されているとともに走行制御を自動制御する自動車であって無人で運転する自動車のいずれかを用いることができる。以下の実施形態では、車両2をナビゲーション装置が搭載されているとともに走行制御を自動制御する自動車であって無人で運転する自動車として説明する。
車両2は、図1に示すように、撮像装置21と、レーダー22と、位置検出装置23と、走行制御装置24と、駆動装置25と、車載通信装置26と、データベース27とを備える。車両2を構成する各装置は、相互に情報の授受を行うためにCAN(Controller Area Network)その他の車載LANによって接続されている。
撮像装置21は、車両2の周辺を撮像する装置である。撮像装置21としては、例えば、CCD、CMOS等の撮像素子を備えるカメラが挙げられる。カメラの種別や大きさ等の仕様は特に限定されないが、本実施形態に係る撮像装置21は、少なくとも動画の撮影ができる装置である。撮像装置21は、例えば、車両2の前方を撮像する前方カメラ、車両2の後方を撮像する後方カメラ、車両2の側方を撮像する側方カメラで構成される。撮像装置21は、車両2の周辺の様子を撮影し続ける。撮像装置21により撮像された画像は、車両2の周辺の様子が映るライブ映像として、走行制御装置24及び車載通信装置26に出力される。このようなライブ映像は、ストリーミング画像とも称される。
レーダー22は、車両2の周辺に存在する障害物を検出する。レーダー22は、例えば、レーザレンジファインダ、超音波センサ、光センサ、赤外センサ等の各種装置の組み合わせで構成される。また、例えば、レーダー22は、車両2の前方に存在する障害物を検出する前方レーダー、車両2の後方に存在する障害物を検出する後方レーダー、車両2の側方に存在する障害物を検出する側方レーダーで構成される。レーダー22は、車両2から障害物までの距離及び車両2の位置に対して障害物が存在する方向を検出することができる。すなわち、レーダー22は、車両2の位置に対する障害物の位置を検出する。レーダー22が検出する障害物としては、例えば、歩行者、自転車、バイク、自動車、路上障害物(中央分離帯、交通信号機、商業施設、住宅施設、草木等)、路面標示、横断歩道などが挙げられる。レーダー22が検出する障害物の状態は特に限定されず、レーダー22は、移動している障害物及び固定された障害物のいずれも検出することができる。レーダー22が障害物を検出すると、検出された障害物の情報は点群データとして取り込まれる。後述する情報処理装置15において、点群データは車両2の俯瞰画像上でポイントクラウドとして表示される。レーダー22により検出された障害物の情報(点群データ)は、走行制御装置24及び車載通信装置26に出力される。
位置検出装置23は、車両2の現在位置を検出する。位置検出装置23としては、GPS(Global Positioning System)が挙げられる。また、位置検出装置23には、車両2の進行方向を検出する装置が付随していてもよい。車両2の進行方向は、車両2が前進する場合には車両2の前端が向いている方向、車両2が後進する場合には車両2の後端が向いている方向を示す。このような機能を有する装置としては、例えば、ジャイロセンサが挙げられる。位置検出装置23により検出された車両2の現在位置及び車両2の進行方向の情報は、走行制御装置24及び車載通信装置26に出力される。
走行制御装置24は、自動的な運転(いわゆる自動運転ともいう)により車両2の走行を制御する。走行制御装置24としては、例えば、ECU(Electronic Control Unit)等の電子回路を用いて制御するユニットが挙げられる。
本実施形態に係る走行制御装置24は、車両2の自動運転に関する2つの走行モードを有している。具体的には、走行制御装置24は、ナビゲーション装置(図示しない)から出力される走行経路に沿って車両2を走行させる通常モードと、端末機1から送信される走行経路に沿って車両2を走行させる遠隔操作モードとを有する。2つの走行モードは、車両2を走行経路に沿って走行させるよう駆動装置25を制御する点では共通している。一方、2つの走行モードは、走行経路を設定する主体が異なっている。通常モードにおける走行経路は、車両2の乗員が入力した目的地に基づいてナビゲーション装置が設定した走行経路である。これに対して、遠隔操作モードにおける走行経路は、オペレータが端末機1を介して設定した走行経路である。次に、2つの走行モードに共通する走行制御装置24の機能について説明する。
走行制御装置24は、撮像装置21、レーダー22、位置検出装置23から入力される各種情報を用いて、交通法規に従いつつ、車両2の周辺状況に合わせて車両2を走行させる。例えば、車両2の前方に障害物が発見された場面では、走行制御装置24は、ブレーキをかけるよう駆動装置25を制御する。また、例えば、車両2の前方の信号機が青色から赤色に変わった場面では、走行制御装置24は、ブレーキをかけるよう駆動装置25を制御する。また、例えば、車両2が左折する場面では、走行制御装置24は、左折する前に左側方向指示器を点滅させるよう駆動装置25を制御する。なお、上述の説明では、運転操作のうちブレーキ操作及び方向指示器の操作を例に挙げて説明したが、走行制御装置24は、駆動装置25を制御することで、その他の運転操作(例えば、アクセル操作、ステアリング操作、シフトレバー操作など)も実行することができる。また、上記の周辺状況に合わせた車両2の走行は、一例であって特に限定されるものではない。さらに、本実施形態において、走行制御装置24が備える自動運転の機能は、特に限定されるものではなく、本願出願時における技術を適宜援用できる。
また、本実施形態に係る走行制御装置24では、デフォルトとして通常モードが設定されている。車両2が通常モードでは走行できない場面で、走行制御装置24は走行モードを通常モードから遠隔操作モードへと切り替える。車両2が通常モードでは走行できない場面とは、何らかの理由により通常モードにおける車両2の走行が妨げられてしまった場面である。通常モードにおける車両2の走行が妨げられた状態とは、走行制御装置24による自立走行ができなくなり、車両2が停止した状態である。
このような場面が起こる要因としては、障害物の存在が挙げられる。例えば、走行経路上の道路で人が立ち往生していたため、車両2が走行できず停止した場面が挙げられる。またその他の要因としては、環境の変化が挙げられる。例えば、走行経路上の道路で道路工事が行われていたことにより、車両2が走行できず停止した場面が挙げられる。また、例えば、限られた時間帯のみ開くゲートが走行経路上にあるものの、当該時間帯外にゲートを通過しようとしたため、車両2が走行できず停止した場面が挙げられる。
通常モードにおける車両2の走行が妨げられると、走行制御装置24は、通常モードから遠隔操作モードへと走行モードを切り替える。そして、走行制御装置24は、車載通信装置26を介して、オペレータによる遠隔操作を要求するための要求信号を、端末機1に送信する。この要求信号には、車両2が通常モードから遠隔操作モードに切り替わった情報が含まれている。
車両2の走行モードが通常モードから遠隔操作モードに切り替わると、走行制御装置24は、車両2を停止させて、端末機1から遠隔操作を開始する旨の信号を受信するまで車両2を待機させる。この際に、走行制御装置24は、ハザードランプを点灯させるよう駆動装置25を制御してもよい。端末機1から遠隔操作を開始する旨の信号を受信すると、走行制御装置24は、オペレータにより設定された走行経路に沿った車両2の走行を開始させる。なお、遠隔操作モードにより車両2を走行させる開始のきっかけ(トリガ)は、遠隔操作を開始する旨の信号を受信したことに限られず、例えば、車両2の乗員がブレーキ操作を解除したことであってもよい。
遠隔操作モードにより車両2の走行が開始されると、走行制御装置24は、オペレータにより設定された走行経路に沿って車両2を走行させる。そして、走行制御装置24は、所定の要件を満たした場合、遠隔操作モードを終了し、通常モードに切り替える。所定の要件としては、例えば、車両2がオペレータにより設定された走行経路の最終地点を通過した場合、車両2がナビゲーション装置により設定された走行経路を走行している場合、端末機1から遠隔操作モードを終了する旨の信号を受信した場合、などが挙げられる。このように、本実施形態では、走行制御装置24は、原則として通常モードによる車両2の自動運転の実行し、通常モードによる自動運転では車両2が走行できない場面において、遠隔操作モードによる車両2の自動運転を実行する。そして、走行制御装置24は、遠隔操作モードによる車両2の自動運転をする必要がなくなった後、再び通常モードによる車両2の自動運転を実行する。
駆動装置25は、車両2の駆動機構を備える。駆動機構には、車両2の走行駆動源である電動モータ及び/又は内燃機関、これら走行駆動源からの出力を駆動輪に伝達するドライブシャフトや自動変速機を含む動力伝達装置、及び車輪を制動する制動装置(図示しない)などが含まれる。駆動装置25は、走行制御装置24から入力される制御信号に基づいて、これら駆動機構の各制御信号を生成し、車両の加減速を含む走行制御を実行する。駆動装置25に指令情報を送出することにより、車両の加減速を含む走行制御を自動的に行うことができる。また、駆動装置25は、車両2の駆動機構に加えて、ヘッドライト、方向指示器、ハザードランプ、ワイパーなど車両2の走行に必要なその他の機器が含まれていてもよい。
車載通信装置26は、ネットワーク3を介して、端末機1と通信可能な機器である。車載通信装置26は、端末機1からの情報を受信して、走行制御装置24へ出力するとともに、撮像装置21、レーダー22、位置検出装置23、走行制御装置24、及びデータベース27から出力された各種の情報を端末機1へ送信する。車載通信装置26としては、4G LTEのモバイル通信機能を備えたデバイス、Wifi通信機能を備えたデバイス等が例示できる。
データベース27は、地図情報及び道路情報を記憶する。地図情報及び道路情報は、ナビゲーション装置(図示しない)が車両2の走行経路を生成するための情報である。地図情報及び道路情報は、リンクとノードの組み合わせにより表現される情報である。車載通信装置26は、所定の周期毎に、ネットワーク3から最新の地図情報及び道路情報をダウンロードして、データベース27に記憶させる。これにより、データベース27に記憶された地図情報及び道路情報は、所定の周期毎に更新される。また、本実施形態では、走行制御装置24により、データベース27に記憶されている地図情報は、車載通信装置26に出力される。
次に、端末機1の各構成について説明する。端末機1は、図1に示すように、入力装置11と、出力装置12と、通信装置13と、情報処理装置14を備える。
入力装置11は、オペレータにより操作される機器であり、遠隔操作モードにおける車両2の走行経路の生成などの各種操作を行うために用いられる。入力装置11としては、例えば、ディスプレイ上に配置されるタッチパネル、キーボード上に配置されるボタン、又はジョイスティックなどのオペレータの手操作による入力が可能な装置であってもよい。オペレータが入力装置11を介して入力した入力情報は、情報処理装置15に出力される。
出力装置12は、オペレータに対して各種情報を提示する機器である。出力装置12としては、例えば、ディスプレイなどのオペレータの視覚へ作用する画像又は映像を出力可能な装置が挙げられる。ディスプレイの種別や数量は特に限定されるものではない。本実施形態では、出力装置12を、後述する第1画面及び第2画面を表示するディスプレイとして説明する。
通信装置13は、ネットワーク3を介して、車両2と通信する機器である。通信装置13には、情報処理装置14から遠隔操作モードにおける車両2の走行経路の情報が入力される。遠隔操作モードにおける車両2の走行経路については後述する。通信装置13は、情報処理装置14から入力される情報を車両2に送信する。また、通信装置13は、車両2から撮像装置21により撮像された撮像画像等の各種情報を受信し、受信した情報を情報処理装置14に出力する。
本実施形態の情報処理装置14は、ハードウェア及びソフトウェアを備えたコンピュータにより構成され、プログラムを格納したROM(Read Only Memory)と、このROMに格納されたプログラムを実行するCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)とから構成されている。なお、動作回路としては、CPUに代えて又はこれとともに、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などを用いることができる。図1に示す制御装置140はCPUに相当し、また図1に示す記憶装置149はROM及びRAMに相当する。
図1に示すように、制御装置140には、遠隔操作要求受付部141と、第1画面生成部142と、第2画面生成部143と、表示用走行経路生成部144と、表示用走行経路表示制御部145と、反映走行経路生成部146と、反映走行経路表示制御部147と、走行経路送信部148が含まれ、これらのブロックは、ROMに確立されたソフトウェアによって、後述する各機能を実現する。
遠隔操作要求受付部141は、車両2から遠隔操作の要求を受け付ける。既述のとおり、通常モードによる車両2の走行が妨げられた場合、車両2からは遠隔操作を要求する信号が端末機1に対して送信される。遠隔操作要求受付部141には、当該要求信号が入力される。これにより、遠隔操作要求受付部141は、車両2の走行が妨げられたこを検知する。
次に、第1画面生成部142の機能について説明する。第1画面生成部142は、車両2の俯瞰画像を含む画面を第1画面として生成する。車両2の俯瞰画像としては、例えば、地図の静止画に車両2を重畳した画像が挙げられる。第1画面生成部142は、車両2から送信された、地図情報、車両2の現在位置の情報、及び障害物の情報に基づいて、第1画面を生成する。そして、第1画面生成部142は、生成した第1画面を出力装置12に出力し、出力装置12に第1画面を表示させる。
第1画面生成部142は、地図の静止画に車両2を重畳させるために、例えば、マッピング変換技術等を用いて、位置検出装置23が取得した車両2の現在位置の情報を、地図における座標情報に変換する。そして、第1画面生成部142は、変換した座標情報に基づいて、地図の静止画に車両2の画像を重畳させる。
また、第1画面生成部142は、地図の静止画に車両2を重畳させるだけでなく、地図の静止画にレーダー22により検出された障害物の情報(点群データ)を重畳させる。第1画面生成部142は、地図の静止画に点群データを重畳させるために、例えば、マッピング変換技術等を用いて、レーダー22が検出した障害物の情報を、地図における座標情報に変換する。そして、第1画面生成部142は、変換した座標情報に基づいて、地図の静止画に点群データを重畳させる。なお、地図の静止画に重畳された点群データは、ポイントクラウドとも称される。
第1画面生成部142により生成された第1画面は、地図情報をベースとした画面となる。第1画面において、車両2の画像及び点群データが重畳される位置は地図情報に基づいて設定された位置になる。このため、仮に第1画面を生成するために利用した地図が古く、例えば、建物が存在しない場所であっても、地図の静止画における当該場所にはレーダー22で取得された点群データが重畳される。
なお、本実施形態では、車両2の俯瞰画像として、車両2の真上に位置する視点から車両2を俯瞰した2次元の画像(地図の静止画に車両2の画像を重畳させた画像)を例に挙げて説明するが、車両2の俯瞰画像は2次元の画像に限られない。例えば、車両2の俯瞰画像は、いわゆるバードビューのような車両2に対して斜め上方に位置する視点から車両2を俯瞰した3次元の画像であってもよい。なお、当該視点と車両2との間の角度は特に限定されない。
また、本実施形態では、車両2の画像を重畳する対象の画像は、地図の静止画であるが、地図に関するその他の画像であってもよい。例えば、上述した車両2の俯瞰画像が3次元の画像の場合、車両2の画像を重畳する対象の画像は、地図情報に基づいて生成された立体地図になる。
また、車両2の俯瞰画像として表示される、車両2の周辺範囲の大きさは特に限定さない。例えば、オペレータは、入力装置11を介して、第1画面に表示される地図の静止画の拡大又は縮小操作をすることができる。第1画面生成部142は、地図の静止画の大きさの変更に対応するように、車両2の画像の位置及び点群データを重畳させる位置を変更させる。
次に、第2画面生成部143の機能について説明する。第2画面生成部143は、撮像画像に基づいて、撮像装置21により撮像された撮像画像(動画)を含む画面を第2画面として生成する。本実施形態に係る第2画面は、撮像装置21により撮像された車両2の前方の様子が映る動画で構成されている。第2画面生成部143は、生成した第2画面を出力装置12に出力し、出力装置12に第2画面を表示させる。
第2画面生成部143により生成された第2画面は、撮像画像の情報をベースとした画面となる。第2画面において、障害物が写る位置は実際に車両2の撮像装置21からの位置になる。このため、第2画面に写る障害物の情報は、実際の状況を反映した情報となる。
なお、第2画面には、車両2の前方の様子が写る動画に代えて又はこれとともに、車両2の側方又は後方の様子が写る動画が含まれていてもよい。第2画面に複数の撮像画像が含まれている場合、第2画面生成部143は、第2画面を縦方向に2分割、横方向に2分割し、分割した各画面に複数の撮像画像をはめ込んでもよい。これにより、第2画面には、車両2の前方、側方、及び後方の各撮像画像が同時に表示される。
次に、表示用走行経路生成部144の機能について説明する。表示用走行経路生成部144は、第1画面又は第2画面に表示するための車両2の走行経路を表示用走行経路として生成する。車両2の走行経路とは、遠隔操作モードにおける車両2の走行経路である。
第1画面に表示するための表示用走行経路について説明する。例えば、出力装置12から第1画面及び第2画面が出力されており、オペレータが当該第1画面に基づいて遠隔操作モードにおける車両2の走行経路を設定しようとした場合、まず、オペレータは、入力装置11に対して、第1画面及び第2画面から第1画面を選択する操作を実行する。そして、オペレータは、第1画面上に車両2が通過するための複数のポイントを指定する。出力装置12がタッチパネルの場合、例えば、オペレータは、第1画面上の複数の場所をタッチすることで、複数のポイントを指定する。表示用走行経路生成部144には、第1画面に指定された複数のポイントに関する情報が入力され、表示用走行経路生成部144は、複数のポイントを通過するような走行経路を表示用走行経路として生成する。生成された表示用走行経路は、地図情報に基づく走行経路となる。
次に、第2画面に表示するための表示用走行経路について説明する。例えば、オペレータが出力装置12から出力されている第2画面に基づいて遠隔操作モードにおける車両2の走行経路を設定しようとした場合、まず、オペレータは、入力装置11に対して、第1画面及び第2画面から第2画面を選択する操作を実行する。そして、オペレータは、第2画面上に車両2が通過するための複数のポイントを指定する。出力装置12がタッチパネルの場合、例えば、オペレータは、第2画面に複数のポイントをタッチする。表示用走行経路生成部144には、第2画面に指定された複数のポイントに関する情報が入力される。表示用走行経路生成部144は、複数のポイントを通過するような走行経路を表示用走行経路として生成する。生成された表示用走行経路は、撮像画像の情報に基づく走行経路となる。
次に、表示用走行経路表示制御部145の機能について説明する。表示用走行経路表示制御部145は、表示用走行経路生成部144により生成された表示用走行経路を、対応する画面に表示するよう出力装置12を制御する。
第1画面を対象とした表示用走行経路が生成された場合、表示用走行経路表示制御部145は、表示用走行経路を第1画面に表示するよう出力装置12を制御する。例えば、表示用走行経路表示制御部145は、表示用走行経路を車両2の俯瞰画像に重畳させて表示させる。これにより、オペレータは、出力装置12を介して、車両2の俯瞰画像に対して、車両2の画像、点群データ、及び表示用走行経路が重畳された第1画面を確認することができる。また、この場合、オペレータは、第2画面に表示されない障害物(例えば、後方車両)と表示用走行経路との間の距離関係を確認することができる。例えば、撮像装置21の撮像範囲がレーダー22の検出範囲よりも狭い場合、オペレータは、撮像装置21の撮像範囲外に位置する障害物と表示用走行経路との間の距離関係を確認することができる。なお、上記のオペレータが確認可能な事項は例示であって特に限定されるものではない。
反対に、第2画面に対する表示用走行経路が生成された場合、表示用走行経路表示制御部145は、表示用走行経路を第2画面に表示するよう出力装置12を制御する。例えば、表示用走行経路表示制御部145は、表示用走行経路を撮像画像に重畳させて表示させる。これにより、オペレータは、出力装置12を介して、撮像画像に対して表示用走行経路が重畳された第2画面を確認することができる。例えば、第2画面に車両2の前方の撮像画像が表示されている場合、オペレータは、前方車両の大きさ、形状、車体の向き等を確認しながら前方車両と表示用走行経路との間の距離関係を確認することができる。なお、上記のオペレータが確認可能な事項は例示であって特に限定されるものではない。
次に、反映走行経路生成部146の機能について説明する。反映走行経路生成部146は、第1画面及び第2画面のうち、表示用走行経路の表示対象ではない画面に表示するための車両2の走行経路を、反映走行経路として生成する。言い換えると、反映走行経路生成部146は、第1画面及び第2画面のうち、表示用走行経路が表示されていない画面に表示用走行経路を反映させるための走行経路として、反映走行経路を生成する。車両2の走行経路とは、遠隔操作モードにおける車両2の走行経路である。
例えば、第1画面に表示用走行経路が表示される場合、反映走行経路生成部146は、地図情報で構成される表示用走行経路の情報に基づいて、第2画面に表示するための車両2の走行経路を反映走行経路として生成する。反映走行経路生成部146は、表示用走行経路を撮像画像に反映させるために、例えば、マッピング変換技術等を用いて、表示用走行経路を構成する地図情報(例えば、XY座標の情報)を、撮像画像における位置情報に変換する、いわゆるデータ変換を実行する。この際に、反映走行経路生成部146は、例えば、車両2の車体の高さ、タイヤの高さ、撮像装置21の設置されている位置、撮像装置21の視野角、撮像装置21の解像度、レーダー22の検出範囲の情報を用いてデータ変換を実行する。すなわち、反映走行経路生成部146は、地図情報をベースにした表示用走行経路を、実際に撮像された撮像画像をベースにした反映走行経路へ変換する処理を実行する。
反対に、例えば、第2画面に表示用走行経路が表示される場合、反映走行経路生成部146は、撮像画像の情報で構成される表示用走行経路の情報に基づいて、第1画面に表示するための車両2の走行経路を反映走行経路として生成する。反映走行経路生成部146は、地図の静止画に表示用走行経路を反映させるために、例えば、マッピング変換技術等を用いて、表示用走行経路を構成する撮像画像の情報を、地図の静止画における位置情報に変換する、いわゆるデータ変換を実行する。すなわち、反映走行経路生成部146は、実際に撮像された撮像画像をベースにした表示用走行経路を、地図情報をベースにした反映走行経路へ変換する処理を実行する。
なお、反映走行経路生成部146は、表示用走行経路が変更された場合、変更後の表示用走行経路に対応した反映走行経路を自動的に生成する。すなわち、反映走行経路生成部146は、表示用走行経路生成部144による表示用走行経路の生成に連動して反映走行経路を生成する。例えば、オペレータが第1画面に表示された表示用走行経路の微修正をしようと、車両2の走行経路の修正操作を実行した場合、表示用走行経路生成部144は、修正内容を反映した表示用走行経路を生成する。反映走行経路生成部146は、表示用走行経路の修正に連動して、修正された表示用走行経路を反映する映走行経路を生成する。
次に、反映走行経路表示制御部147の機能について説明する。反映走行経路表示制御部147は、反映走行経路生成部146により生成された反映走行経路を、対応する画面に表示するよう出力装置12を制御する。
第1画面に対応する反映走行経路が生成された場合(第2画面に対応する表示用走行経路が生成された場合)、反映走行経路表示制御部147は、反映走行経路を第1画面に表示するよう出力装置12を制御する。例えば、反映走行経路表示制御部147は、反映走行経路を車両2の俯瞰画像に重畳させて表示させる。
反対に、第2画面に対応する表示用走行経路が生成された場合(第1画面に対応する表示用走行経路が生成された場合)、反映走行経路表示制御部147は、反映走行経路を第1画面に表示するよう出力装置12を制御する。例えば、反映走行経路表示制御部147は、反映走行経路を撮像画像に重畳させて表示させる。
ここで、表示用走行経路表示制御部145と反映走行経路表示制御部147との関係性について説明する。本実施形態では、表示用走行経路表示制御部145は、表示用走行経路が車両2の進行方向に対して垂直方向、すなわち、車両2の車幅方向に所定の長さを有するように、表示用走行経路を第1画面又第2画面に表示させる。また、反映走行経路表示制御部147は、反映走行経路が車両2の進行方向に対して垂直方向、すなわち、車両2の車幅方向に所定の長さを有するように、反映走行経路を第1画面又は第2画面に表示させる。走行経路の幅の長さは特に限定されるものではないが、車両2の車幅以上であることが好ましい。表示用走行経路表示制御部145又は反映走行経路表示制御部147は、予め設定された車両2の車幅又は車両2から送信された車両2の車幅の情報に基づいて、幅を有する表示用走行経路又は反映走行経路を、第1画面又は第2画面に表示させる。想定される車両2の走行軌跡がより実際の状況に近くなるため、オペレータによる確認作業が軽減され、車両2の走行経路の設定操作を短時間で行うことが可能になる。
また、本実施形態では、表示用走行経路表示制御部145及び反映走行経路表示制御部147は、第1画面に表示させる走行経路の幅が第2画面に表示させる走行経路の幅よりも広くなるように第1画面及び第2画面への表示制御を実行する。例えば、第1画面に表示用走行経路、及び第2画面に反映走行経路を表示させる場合、表示用走行経路表示制御部145は、第2画面に表示される反映走行経路の幅よりも広くなるように、表示用走行経路を第1画面に表示させる。反対に、例えば、第1画面に反映走行経路、及び第2画面に表示用走行経路を表示させる場合、反映走行経路表示制御部147は、第2画面に表示される表示用走行経路の幅よりも広くなるように、反映走行経路を第1画面に表示させる。
一般的に、車両2の周辺範囲の広さの観点で考えると、撮像装置21の撮像範囲には制限があるため、第1画面に表示される車両2の周辺範囲は、第2画面に表示される車両2の周辺範囲よりも広くなる傾向にある。このため、オペレータは、より広い範囲の情報が得られる第1画面に対して車両2の走行経路を設定する傾向が高い。一方で、車両2の周辺状況の精度の観点で考えると、撮像装置21の撮像画像は実際の状況を映し出すのに対して、車両2の俯瞰画像は利用する地図の精度などに依存するため、第1画面から得られる情報の精度は、第2画面から得られる情報の精度よりも低い傾向にある。本実施形態では、第1画面に表示される車両2の走行経路の幅が、第2画面に表示される車両2の走行経路よりも広いため、地図の精度が比較的低い場合であっても、車両2に対して遠隔操作を行った際に、第1画面に表示される車両2の走行経路の範囲内で走行させることができる。その結果、オペレータが想定する範囲外で車両2が走行することを防ぐことができる。
次に、走行経路送信部148の機能について説明する。走行経路送信部148は、通信装置13を介して、オペレータにより設定された、遠隔操作モードにおける車両2の走行経路を車両2に送信する。例えば、オペレータが車両2の走行経路を確定する操作を行うと、当該操作に起因して、走行経路送信部148は、オペレータにより設定された車両2の走行経路を車両2に送信する。
次に、図2を用いて、情報処理システムにより、遠隔操作モードに移行してからオペレータが遠隔操作を実行するまでのタイムチャートの一例を説明する。また、図3を用いて、オペレータによる走行経路の設定に際して情報処理装置14が実行する処理の一例について説明する。加えて、図4、図5、図6A、及び図6Bを用いて、図2及び図3に示すステップにおいて、端末機1に表示される画面の一例を説明する。
ステップS101では、通常モードでの自運転による車両2の走行が停止する。例えば、車両2の前方に駐車車両が存在した場合などが挙げられる。車両2の走行制御装置24は、車両2の走行モードを通常モードから遠隔操作モードに切り替えて、車両2を待機させる。
ステップS102では、車両2の走行制御装置24により、遠隔操作を要求する旨の信号が端末機1に送信される。
ステップS103では、端末機1の通信装置13は、ステップS102で送信された遠隔操作を要求する旨の信号を受信する。
ステップS104では、車両2の車載通信装置26は、撮像装置21により撮像された撮像画像、レーダー22により取得された障害物の情報(点群データ)、位置検出装置23により検出された車両2の現在位置の情報、データベース27に記憶されている地図情報を端末機1に送信する。
ステップS105では、端末機1の通信装置13は、ステップS104で送信された各種情報を受信する。
ステップS106では、端末機1の情報処理装置14は、ステップS105で受信した各種情報に基づいて、車両2の俯瞰画像を含む第1画面を生成する。例えば、情報処理装置14は、地図上の車両2が位置する場所に車両2の画像を重畳させるとともに、障害物を示す点群データも合わせて重畳させることで、第1画面を生成する。
ステップS107では、情報処理装置14は、ステップS105で受信した各種情報に基づいて、撮像装置21により撮像された撮像画像を含む第2画面を生成する。例えば、情報処理装置14は、撮像画像そのものを第2画面とする。
ステップS108では、情報処理装置14は、ステップS106で生成した第1画面、及びステップS107で生成した第2画面を出力装置12から表示させる。
図4(A)は、端末機1のディスプレイ(出力装置12に相当)に表示される第1画面の一例を示し、図4(B)は、端末機1のディスプレイに表示される第1画面の一例を示す。図4(A)に示す第1画面D及び図4(B)に示す第2画面Dは、同じ時刻における画面とする。また、端末機1には2つの画面が同時に表示されており、オペレータは2つの画面を同時に確認できるものとする。
図4(B)に示すように、第2画面Dには車両2の前方に停車する他車両(障害物OB)が映し出されている。オペレータは、第2画面Dを確認することで、車両2の通常モードによる走行が停止した要因が当該他車両であることを認識することができる。また、第2画面Dには、停車中の他車両を追い越し、当該他車両の右斜め前方を走行する別の他車両(障害物OB)が映し出されている。
一方、図4(A)に示すように、第1画面Dは、図4(B)の第2画面Dに映し出されている状況を別の視点で映し出している。第1画面Dは、地図の静止画Mと、車両2を真上から見た画像(画像V)と、障害物を示す点群データ(ポイントクラウドデータ)PCDで構成されている。具体的には、画像Vと点群データPCDは、地図の静止画Mに重畳して表示されている。
また、図4(A)に示すように、第1画面Dでは、車両2の前方に停車中の他車両(図4(B)に示す障害物OB)は、点群データPCD1で表示される。また、車両2の右斜め前を走行中の他車両(図4(B)に示す障害物OB)は、点群データPCD2で表示される。なお、障害物OBは移動しているため、第1画面Dでは、点群データは連続して表示されている。
再び図2に戻り、タイムチャートの一例について説明する。ステップS109では、オペレータによる遠隔操作モードにおける車両2の走行経路の設定が行われる。このステップの詳細については、図3を用いて後述する。ステップS109において車両2の走行経路の設定が終了すると、ステップS110に進む。
ステップS110では、遠隔操作を開始するための信号及びオペレータにより設定された走行経路は、情報処理装置14により、車両2に送信される。例えば、オペレータは、遠隔操作モードによる走行を開始するための操作を行うと、情報処理装置14は、通信装置13を介して、遠隔操作開始信号及び走行経路を車両2に送信する。
ステップS111では、車両2の車載通信装置26は、ステップS110にて端末機1から送信された遠隔操作開始信号及び走行経路を受信する。
ステップS112では、車両2は遠隔操作モードにおける自動運転を開始する。例えば、車両2の運転席に乗員がいる場合、当該乗員のブレーキ解除操作により、車両2の走行制御装置24は、遠隔操作モードにおける走行を開始させる。この際に、走行制御装置24は、ステップS111で受信した走行経路に沿って車両2を走行させる。
ステップS113では、車両2において、遠隔操作モードが終了したか否かの判定が行われる。例えば、走行制御装置24は、車両2がステップS111で受信した走行経路の終点を通過した場合、遠隔操作モードが終了したと判定する。遠隔操作モードが終了した場合、ステップS114に進み、オペレータによる遠隔操作が終了する。遠隔操作モードが終了していない場合、ステップS113で待機する。
次に、図3を用いて、図2に示すステップS109の詳細について説明する。図3は、オペレータによる走行経路の設定に際して情報処理装置14が実行する処理を示すフローチャートである。
ステップS201では、車両2の走行経路を設定するにあたり使用する画面の選択が行われる。例えば、オペレータは、図2のステップS108にて表示される第1画面及び第2画面を確認し、どちらの画面に基づいて、遠隔操作モードにおける車両2の走行経路を設定するかを考える。そして、オペレータは、端末機1の入力装置11に対して、第1画面及び第2画面のうち何れかの画面を選択する操作を行う。第1画面が選択された場合、ステップS202に進み、第2画面が選択された場合、ステップS207に進む。
ステップS201にて第1画面が選択された場合、ステップS202に進む。ステップS202では、情報処理装置14は、第1画面に表示するための車両2の走行経路を、表示用走行経路として生成する。例えば、オペレータが第1画面上に車両2が通過するための複数のポイントを指定すると、情報処理装置14は、指定された全てのポイントを通過するような走行経路を、表示用走行経路として生成する。
ステップS202では、情報処理装置14は、ステップS120で生成した表示用走行経路を第1画面に表示するよう出力装置12を制御する。
図5(A)は、情報処理装置14により表示される表示用走行経路の一例を示す図である。図5(A)に示す第1画面Dは、図4(A)に示す第1画面Dから所定の時間が経過した後の画面であるため、同一の構成については同一の符号を付している。また、同一の符号の説明については、既述の説明を適宜援用する。
図5(A)に示すように、オペレータが前方に停車する他車両を追い越すように複数のポイントP~ポイントPを指定すると、情報処理装置14は、指定された全てのポイントを通過するような走行経路を表示用走行経路DRとして生成し、第1画面に表示させる。なお、表示用走行経路DRは、車両2の車幅以上の幅を有している。また、表示用走行経路DRは、車両2の前端部を開始点とする走行経路である。オペレータは、図5(A)に示す表示用走行経路DRを確認することで、車両2の真上に位置する視点から見た車両2の走行軌跡を予測することができる。例えば、図5(A)の例では、前方の他車両を追い越せることを確認できるとともに、現時点では車両2の走行車線と反対車線に障害物がないことも確認することができる。
再び図3に戻り、フローチャートについて説明する。ステップS204では、情報処理装置14は、ステップS202で生成した表示用走行経路に基づいて、第2画面に表示させるための車両2の走行経路を反映走行経路として生成する。例えば、情報処理装置14は、地図情報に基づく表示用走行経路に対して、マッピング変換処理を行い、撮像画像に対応した走行経路を生成する。
ステップS205では、情報処理装置14は、ステップS204で生成した反映走行経路を第2画面に表示するよう出力装置12を制御する。
図6Aは、情報処理装置14により表示される反映走行経路の一例を示す図である。図6Aの第1画面Dは、図5(A)に示す第1画面Dに対応している。図6Aに示すように、第1画面Dに表示される表示用走行経路DRは、情報処理装置14により第2画面Dに反映されて、反映走行経路RRとして表示される。すなわち、図6Aの例では、第1画面Dに表示される表示用走行経路DRのうち撮像画像に表示した際に対応する部分(第2画面Dにおける反映走行経路PR)は、表示用走行経路PP に対応する。
このように、表示用走行経路DRの全てを第2画面Dに表示することができない場合、情報処理装置14は、表示用走行経路DRのうち表示可能な範囲を抽出して第2画面Dに反映させる。この際に、情報処理装置14は、表示用走行経路DRのうち反映走行経路PRに対応する部分と、その他の部分とを識別可能な形式で表示するよう出力装置12を制御する。なお、識別可能な表示方法は特に限定されず、情報処理装置14は、例えば、色、模様などを変えて表示するよう出力装置12を制御する。これにより、オペレータは、図6Aの例に示すように、第1画面Dに表示される表示用走行経路DRのうち、第2画面に表示される反映走行経路RRに相当する部分を把握することができる。その結果、オペレータは、自身が設定した車両2の走行経路が撮像画像上ではどのように映し出されるかを把握することができるため、第1画面に表示される表示用走行経路DRのみを確認して車両2の遠隔操作を実行するよりも、より実際の状況に合わせて車両2の遠隔操作を実行することができる。
また、図6Aに示すように、反映走行経路RRも、表示用走行経路DRと同様に、所定の幅を有した形式で表示される。表示用走行経路DRの幅Wと、反映走行経路RRの幅Wは、情報処理装置14により、車両2の車幅よりも広く設定されている。また、表示用走行経路DRの幅Wは、情報処理装置14により、反映走行経路RRの幅Wよりも広く設定されている。
再び図3に戻り、フローチャートについて説明する。ステップS206では、オペレータにより走行経路の確認が行われる。例えば、オペレータは、ステップS203で表示される第1画面及びステップS204で表示される第2画面を確認し、遠隔操作モードにおける車両2の走行経路に問題があるか否かを判断する。走行経路に問題がないと判断した場合、図3に示す処理が終了し、図2に示すステップS110に進む。反対に、走行経路に問題があると判断した場合、ステップS201に戻る。
ステップS201にて第2画面が選択された場合、ステップS207に進む。ステップS207では、情報処理装置14は、第2画面に表示するための車両2の走行経路を表示用走行経路として生成する。例えば、オペレータが第2画面上に車両2が通過するための複数のポイントを指定すると、情報処理装置14は、指定された全てのポイントを通過するような走行経路を表示用走行経路として生成する。
ステップS208では、情報処理装置14は、ステップS120で生成した表示用走行経路を第2画面に表示するよう出力装置12を制御する。
図5(B)は、情報処理装置14により表示される表示用走行経路の一例を示す図である。図5(B)に示す第2画面Dは、図4(B)に示す第2画面Dから所定の時間が経過した後の画面であるため、同一の構成については同一の符号を付している。また、同一の符号の説明については、既述の説明を適宜援用する。
図5(B)に示すように、オペレータが前方に停車する他車両を追い越すように複数のポイントP11~ポイントP14を指定すると、情報処理装置14は、指定された全てのポイントを通過するような走行経路を表示用走行経路DRとして生成し、第2画面に表示させる。なお、表示用走行経路DRは、車両2の車幅以上の幅を有している。また、表示用走行経路DRは、車両2の前端部を開始点とする走行経路である。オペレータは、図5(B)に示す表示用走行経路DRを確認することで、車両2に設定された撮像装置21の視点から車両2の走行軌跡を予測することができる。例えば、図5(B)の例では、前方の他車両に対してどの程度間隔を開けて追い越すことができるかを感覚的に認識できる。
再び図3に戻り、フローチャートについて説明する。ステップS209では、情報処理装置14は、ステップS207で生成した表示用走行経路に基づいて、第1画面に表示させるための車両2の走行経路を反映走行経路として生成する。例えば、情報処理装置14は、撮像画像の情報に基づく表示用走行経路に対して、マッピング変換処理を行い、地図情報に対応した走行経路を生成する。
ステップS210では、情報処理装置14は、ステップS209で生成した反映走行経路を第1画面に表示するよう出力装置12を制御する。
図6Bは、情報処理装置14により表示される反映走行経路の一例を示す図である。図6Bの第2画面Dは、図5(B)に示す第2画面Dに対応している。図6Bに示すように、第2画面Dに表示される表示用走行経路DRは、情報処理装置14により第1画面Dに反映されて、反映走行経路RRとして表示される。
図6Bの例では、図6Aの異なり、表示用走行経路DRの全てを第1画面Dに表示することができるため、情報処理装置14は、表示用走行経路DRの全てを第1画面Dに反映させる。なお、図6Aの例と同様に、反映走行経路RRも、表示用走行経路DRと同様に、所定の幅を有した形式で表示される。表示用走行経路DRの幅Wと、反映走行経路RRの幅Wは、情報処理装置14により、車両2の車幅よりも広く設定されている。また、表示用走行経路DRの幅Wは、情報処理装置14により、反映走行経路RRの幅Wよりも広く設定されている。
再び図3に戻り、フローチャートについて説明する。ステップS210の処理が終了すると、ステップS206に進む。ステップS206では、オペレータにより走行経路の確認が行われる。例えば、オペレータは、ステップS208で表示される第2画面及びステップS210で表示される第1画面を確認し、遠隔操作モードにおける車両2の走行経路に問題があるか否かを判断する。走行経路に問題がないと判断した場合、図3に示す処理が終了し、図2に示すステップS110に進む。反対に、走行経路に問題があると判断した場合、ステップS201に戻る。
このように、情報処理装置14が図3に示すフローチャートの処理を実行することで、オペレータは、遠隔操作モードにおける車両2の走行経路を適切に設定することができる。例えば、オペレータは、第1画面に基づいて車両2の走行経路を設定しても、ステップS206にて走行経路に問題があると判断した場合には、ステップS201に戻り、車両2の走行経路の設定を再度行うことができる。例えば、オペレータは、一度第1画面に表示された表示用走行経路に基づいて、車両2の走行経路を調整することができる。この場合、例えば、オペレータは、表示用走行経路を構成するポイントの位置を調整することができる。オペレータがポイントの位置を修正すると、情報処理装置14は、修正されたポイントを通過するような走行経路を表示用走行経路として生成し、第1画面に表示する。これにより、オペレータは遠隔操作モードにおける車両の走行経路の調整をすることができる。
以上のように、本実施形態に係る情報処理装置14は、車両2の俯瞰画像を含む第1画面及び車両2に搭載された撮像装置21により撮像された撮像画像を含む第2画面のうち一方の画面に表示するための車両2の走行経路を表示用走行経路として生成し、表示用走行経路を一方の画面に表示するよう出力装置12を制御し、表示用走行経路を第1画面及び第2画面のうち他方の画面に反映させる。これにより、オペレータは、第1画面及び第2画面に表示される2つの走行経路(表示経路及び反映走行経路)を確認することができる。少なくとも第2画面には、撮像装置21により撮像された撮像画像に重畳させて表示された走行経路が表示されるため、オペレータは、実際の状況に合わせて走行経路を設定することができる。その結果、オペレータは遠隔操作により実際の状況に合わせて車両を走行させることができる。
また、本実施形態では、車両2は自律走行が可能な車両であり、情報処理装置14は、自律走行による車両2の走行が妨げられた場合、表示用走行経路を生成する。これにより、自律走行による車両2の走行が妨げられた際に、オペレータは遠隔操作により車両2を走行させることができる。
さらに、本実施形態では、情報処理装置14は、表示用走行経路を車両2の俯瞰画像又は撮像装置21により撮像された撮像画像に重畳させて表示するよう出力装置12を制御する。これにより、オペレータは、車両2の走行経路と車両2の周辺の状況との関係性(例えば、走行経路と障害物との間の距離など)を俯瞰的に捉えることができる。その結果、例えば、撮像装置21の画角では捉えきれないような障害物と走行距離との関係性を把握することができ、オペレータは遠隔操作により実際の状況に合わせて車両を走行させることができる。
加えて、本実施形態では、情報処理装置14は、表示用走行経路が表示されていない第1画面又は第2画面に表示用走行経路を反映させるための走行経路を反映走行経路として生成し、反映走行経路を車両2の俯瞰画像又は撮像装置21により撮像された撮像画像に重畳させて表示するよう出力装置12を制御する。これにより、オペレータは視点が異なる2つの画面を通じて、想定される車両2の走行軌跡を確認することができるため、1つの画面に走行経路が表示される場合と比べて、より実際の状況に合わせて車両を走行させることができる。その結果、走行経路の設定に要する時間の短縮を図ることができ、オペレータの作業負荷を軽減することができる。
また、本実施形態では、車両2の俯瞰画像に重畳させて表示された表示用走行経路の幅は、撮像画像に重畳させて表示された反映走行経路の幅よりも広い。これにより、仮に地図上における車両2の位置と実際の車両2の位置が相違しているため、地図上において車両2と障害物との距離関係が実際の当該距離関係と一致していなくても、オペレータは幅方向において許容範囲がある走行経路に基づいて、車両2の走行経路に問題があるか否かを判断することができる。
さらに、本実施形態では、情報処理装置14は、第1画面に表示される表示用走行経路のうち第2画面に表示される反映走行経路に対応する部分と、その他の表示用走行経路とを識別可能な形式で表示するよう出力装置12を制御する。これにより、オペレータは、第2画面に表示されている走行経路が、第1画面に表示されている走行経路のどの部分に対応しているかを認識することができ、第1画面及び第2画面に表示される走行経路を見比べるために要する時間を削減することができる。その結果、走行経路の確認に要するオペレータの負荷を低減することができる。
なお、以上に説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
例えば、上記の実施形態では、情報処理装置14は、表示用走行経路又は反映走行経路が、車両2の車幅方向に所定の長さを有するように、第1画面又第2画面に表示させる構成を例に挙げて説明したが、走行経路の表示方法は、これに限られない。変形例に係る情報処理装置14が実行する走行経路の表示制御について、図7を用いて説明する。
図7(A)は、変形例に係る情報処理装置14が実行する表示用走行経路又は反映走行経路の表示制御の一例である。第1画面に表示される表示用走行経路DRを例に挙げて説明すると、図7(A)に示すように、情報処理装置14は、表示用走行経路DRの幅Wを車両2の車幅Wよりも広くなるように、表示用走行経路を第1画面に表示させる。この際に、情報処理装置14は、車両2の側端部からの距離に応じて予め設定された色彩を用いて、表示用走行経路の幅方向を表示するよう出力装置12を制御する。例えば、情報処理装置14は、表示用走行経路の幅Wを、車両2の側端部からの距離に応じた3つに区分けする。そして、情報処理装置14は、車両2の側端部から最も近い距離の順に、走行経路の色を赤色(黒塗り部(i))、オレンジ色(右上から左下向きの斜線部(ii))、黄色(左上から右下向きの斜線部(iii))で表示させる。
このように、変形例に係る情報処理装置14は、車両2の車幅よりも広くなるように、表示用走行経路及び反映走行経路を生成し、車両2の側端部からの距離に応じて設定された色彩を用いて、表示用走行経路の幅方向を表示するよう制御する。これにより、車両2の側端部からの距離が視覚的に把握しやすくなるため、例えば、走行経路上に障害物が存在した場合、オペレータは、当該障害物が車両2の側端部に対してどの程度の距離に位置するかを容易に把握することができる。その結果、確認に要する時間の短縮を図ることができ、オペレータの作業負荷を軽減することができる。
なお、走行経路の幅方向を区分けする数、走行経路の色の種別は、図7(A)に示す例に限定されるものではない。例えば、情報処理装置14は、車両2の側端部からの距離に応じて設定された色彩の濃淡又は明度の度合いを用いて、表示用走行経路の幅方向を表示するよう制御してもよい。また、走行経路の幅方向を表示するための色彩等は予め設定されていることに限られず、例えば、オペレータによる設定や変更が可能であってもよい。
また、情報処理装置14は、表示用走行経路に限られず、反映走行経路においても、図7(A)に示すような走行経路の表示制御を実行することができる。さらに、第1画面に表示される走行経路を例に挙げて説明したが、情報処理装置14は、第2画面に表示される表示用走行経路又は反映走行経路においても、同様の走行経路の表示制御を実行することができる。
図7(B)は、変形例に係る情報処理装置14が実行する表示用走行経路又は反映走行経路の表示制御の他の例である。第2画面に表示される表示用走行経路DRを例に挙げて説明すると、図7(B)に示すように、情報処理装置14は、表示用走行経路DRの幅Wを車両2の車幅Wよりも広くなるように、表示用走行経路を第2画面に表示させるとともに、走行経路を3次元化して第2画面に表示させる。例えば、情報処理装置14は、記憶装置149に記憶されている、又は車両2から取得した車両2の車両情報(車幅及び車高の情報)に基づいて、幅W及び高さHを有する表示用走行経路DRを生成する。走行経路の高さHは特に限定されないが、一例として、情報処理装置14は、車両2の車高に合わせて走行経路の高さHを設定する。また、情報処理装置14は、図7(A)を用いて説明したように、走行経路Rの幅を車両2の側端部からの距離に応じた3つに区分けして、それぞれ色を付して、走行経路を表示する。
図7(B)に示すような3次元化された走行経路は、車両2が実際に走行する際に通過する空間として表されるため、オペレータは、車両2の幅方向だけでなく、車両2の高さ方向においてもどのように車両2が走行するかを予め確認することができる。その結果、車両2と障害物との距離関係をより正確に把握することができ、遠隔操作モードにおける車両2の走行経路をより精度良く設定することができる。
なお、情報処理装置14は、表示用走行経路に限られず、反映走行経路においても、図7(B)に示すような走行経路の表示制御を実行することができる。さらに、第2画面に表示される走行経路を例に挙げて説明したが、情報処理装置14は、第1画面に表示される表示用走行経路又は反映走行経路においても、同様の走行経路の表示制御を実行することができる。例えば、情報処理装置14は、車両2の俯瞰図として立体地図が用いられた場合、図7(B)に示すように、走行経路を立体的に表示させることができる。
また、上述した実施形態では、情報処理装置14が表示させる画面として、第1画面及び第2画面の2種類を例に挙げて説明したが、情報処理装置14が表示さえる画面は、少なくとも第1画面及び第2画面が含まれていればよく、2種類であることに限定されない。例えば、情報処理装置14は、第1画面及び第2画面に加えて、第1画面に含まれる車両2の俯瞰図とは別の視点の車両2の俯瞰図を生成する。そして、情報処理装置14は、生成した全ての画面を表示するよう出力装置12を制御する。
また、第1画面及び第2画面に加えて複数の画面が表示される場合、情報処理装置14は、反映走行経路を第1画面又は第2画面に加えて、その他の複数の画面に表示するよう出力装置12を制御してもよい。例えば、第1画面及び第2画面に加えて、第2画面に含まれる撮像画像とは別の撮像画像(例えば、車両2の側方又は後方に設置された撮像装置21により撮像された撮像画像)を含む画面がある場合、情報処理装置14は、これらの全ての画面を表示するよう出力装置12を制御する。そして、オペレータにより走行経路が設定されると、情報処理装置14は、表示用走行経路が表示されていない第1画面又は第2画面だけでなく、その他の画面にも反映走行経路を表示させてもよい。これにより、オペレータは、視点が異なる複数の画面に表示される走行経路を確認することができるため、より実際の状況に合わせて車両を走行させることができる。
本明細書では、本発明に係る情報処理装置の一態様として、情報処理装置14を例にして説明するが、本発明はこれに限定されるものではない。また、本明細書では、本発明に係る情報処理装置の表示用走行経路反映部の一態様として、反映走行経路生成部146及び反映走行経路表示制御部147の構成を例にして説明するが、本発明はこれに限定されるものではない。
1…端末機
11…入力装置
12…出力装置
13…通信装置
14…情報処理装置
140…制御装置
141…遠隔操作要求受付部
142…第1画面生成部
143…第2画面生成部
144…表示用走行経路生成部
145…表示用走行経路表示制御部
146…反映走行経路生成部
147…反映走行経路表示制御部
148…走行経路送信部
149…記憶装置
2…車両
21…撮像装置
22…レーダー
23…位置検出装置
24…走行制御装置
25…駆動装置
26…車載通信装置
27…データベース
3…ネットワーク
100…情報処理システム

Claims (6)

  1. コンピュータを備える情報処理装置が、遠隔操作による走行が可能な車両を対象にして実行する情報処理方法であって、
    前記車両の俯瞰画像を含む第1画面に表示するための前記車両の走行経路を、表示用走行経路として生成し、
    前記車両に搭載された撮像装置により撮像された撮像画像を含む第2画面に前記表示用走行経路を反映させるための前記走行経路を反映走行経路として生成し、
    前記表示用走行経路を前記第1画面の前記俯瞰画像重畳させて表示するよう制御し、
    前記反映走行経路を前記第2画面の前記撮像画像に重畳させて表示するように制御し、
    前記第1画面に表示される前記表示用走行経路のうち前記第2画面に表示される前記反映走行経路に対応する部分と、その他の前記表示用走行経路とを識別可能な形式で表示するよう制御する情報処理方法。
  2. 前記車両は自律走行が可能な車両であり、
    前記自律走行による前記車両の走行が妨げられた場合、前記表示用走行経路を生成する請求項1に記載の情報処理方法。
  3. 前記俯瞰画像に重畳させて表示された前記表示用走行経路の幅は、前記撮像画像に重畳させて表示された前記反映走行経路の幅よりも広い
    請求項1又は2に記載の情報処理方法。
  4. 前記車両の車幅よりも広くなるように、前記表示用走行経路及び前記反映走行経路を生成し、
    前記車両の側端部からの距離に応じて設定された色彩を用いて、前記表示用走行経路及び前記反映走行経路のうち少なくとも何れか一方の走行経路の幅方向を表示するよう制御する
    請求項1~3の何れか一項に記載の情報処理方法。
  5. 遠隔操作による走行が可能な車両を対象にして情報処理を実行する情報処理装置であって、
    前記車両の俯瞰画像を含む第1画面に表示するための前記車両の走行経路を、表示用走行経路として生成する表示用走行経路生成部と、
    前記車両に搭載された撮像装置により撮像された撮像画像を含む第2画面に前記表示用走行経路を反映させるための前記走行経路を反映走行経路として生成する反映走行経路生成部と、
    前記表示用走行経路を前記第1画面の前記俯瞰画像に表示するよう制御する表示用走行経路表示制御部と、
    前記反映走行経路を前記第2画面の前記撮像画像に重畳させて表示するように制御する反映走行経路表示制御部と、を備え
    前記表示用走行経路表示制御部は、前記第1画面に表示される前記表示用走行経路のうち前記第2画面に表示される前記反映走行経路に対応する部分と、その他の前記表示用走行経路とを識別可能な形式で表示するよう制御する情報処理装置。
  6. 遠隔操作による走行が可能な車両と、
    前記車両の俯瞰画像を含む第1画面に表示するための前記車両の走行経路を、表示用走行経路として生成する表示用走行経路生成部と、
    前記車両に搭載された撮像装置により撮像された撮像画像を含む第2画面に前記表示用走行経路を反映させるための前記走行経路を反映走行経路として生成する反映走行経路生成部と、
    前記表示用走行経路を前記第1画面の前記俯瞰画像に表示するよう制御する表示用走行経路表示制御部と、
    前記反映走行経路を前記第2画面の前記撮像画像に重畳させて表示するように制御する反映走行経路表示制御部と、を備え
    前記表示用走行経路表示制御部は、前記第1画面に表示される前記表示用走行経路のうち前記第2画面に表示される前記反映走行経路に対応する部分と、その他の前記表示用走行経路とを識別可能な形式で表示するよう制御する情報処理装置と、を含む情報処理システム。
JP2019064571A 2019-03-28 2019-03-28 情報処理方法、情報処理装置、及び情報処理システム Active JP7224998B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019064571A JP7224998B2 (ja) 2019-03-28 2019-03-28 情報処理方法、情報処理装置、及び情報処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019064571A JP7224998B2 (ja) 2019-03-28 2019-03-28 情報処理方法、情報処理装置、及び情報処理システム

Publications (2)

Publication Number Publication Date
JP2020165709A JP2020165709A (ja) 2020-10-08
JP7224998B2 true JP7224998B2 (ja) 2023-02-20

Family

ID=72717250

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019064571A Active JP7224998B2 (ja) 2019-03-28 2019-03-28 情報処理方法、情報処理装置、及び情報処理システム

Country Status (1)

Country Link
JP (1) JP7224998B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7293945B2 (ja) * 2019-07-23 2023-06-20 トヨタ自動車株式会社 車両位置検知システム
WO2022071029A1 (ja) 2020-09-30 2022-04-07 日本電産株式会社 ステータおよびモータ
CN116805184B (zh) * 2023-08-22 2023-11-03 交通运输部科学研究院 一种船舶过闸时间预测方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110181441A1 (en) 2010-01-26 2011-07-28 Delphi Technologies, Inc. Parking guidance system
WO2018155159A1 (ja) 2017-02-24 2018-08-30 パナソニックIpマネジメント株式会社 遠隔映像出力システム、及び遠隔映像出力装置
JP2019016825A (ja) 2017-07-03 2019-01-31 トヨタ自動車株式会社 車両周辺表示装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110181441A1 (en) 2010-01-26 2011-07-28 Delphi Technologies, Inc. Parking guidance system
WO2018155159A1 (ja) 2017-02-24 2018-08-30 パナソニックIpマネジメント株式会社 遠隔映像出力システム、及び遠隔映像出力装置
JP2019016825A (ja) 2017-07-03 2019-01-31 トヨタ自動車株式会社 車両周辺表示装置

Also Published As

Publication number Publication date
JP2020165709A (ja) 2020-10-08

Similar Documents

Publication Publication Date Title
JP7077083B2 (ja) 表示システム、表示方法、およびプログラム
JP6630976B2 (ja) 表示システム、表示方法、およびプログラム
JP7043450B2 (ja) 車両制御装置、車両制御方法、及びプログラム
JP7086798B2 (ja) 車両制御装置、車両制御方法、およびプログラム
JP6254554B2 (ja) 情報提示システム
US20170337810A1 (en) Traffic condition estimation apparatus, vehicle control system, route guidance apparatus, traffic condition estimation method, and traffic condition estimation program
KR101884159B1 (ko) 주행 제어 방법 및 주행 제어 장치
CA3069114C (en) Parking assistance method and parking assistance device
KR101886019B1 (ko) 주행 제어 방법 및 주행 제어 장치
JP4807263B2 (ja) 車両用表示装置
US11016497B2 (en) Vehicle control system, vehicle control method, and vehicle control program
WO2016147547A1 (ja) 画像生成装置
JP7224998B2 (ja) 情報処理方法、情報処理装置、及び情報処理システム
JPWO2017068694A1 (ja) 駐車支援方法及び駐車支援装置
JP2020163900A (ja) 車両制御装置、車両制御方法、及びプログラム
US10564000B2 (en) Information display device, information display method, and information display program
WO2019038914A1 (ja) 表示制御装置、表示制御方法およびプログラム
JP2020052559A (ja) 車両制御装置、車両制御方法、及びプログラム
JP6840035B2 (ja) 車両制御システム
US20210276551A1 (en) Information processing system for movable objects and information processing method for movable objects
US20220364874A1 (en) Method of providing image by vehicle navigation device
JP7018854B2 (ja) 通知システム、通知制御方法、およびプログラム
JP2018081623A (ja) 車両制御システム、車両制御方法、および車両制御プログラム
JP7242386B2 (ja) 車両遠隔監視システム、車両遠隔監視装置、及び車両遠隔監視方法
JP7423388B2 (ja) 情報提供装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230208

R150 Certificate of patent or registration of utility model

Ref document number: 7224998

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150