JP2020167551A - 制御装置、制御方法及びプログラム - Google Patents

制御装置、制御方法及びプログラム Download PDF

Info

Publication number
JP2020167551A
JP2020167551A JP2019067125A JP2019067125A JP2020167551A JP 2020167551 A JP2020167551 A JP 2020167551A JP 2019067125 A JP2019067125 A JP 2019067125A JP 2019067125 A JP2019067125 A JP 2019067125A JP 2020167551 A JP2020167551 A JP 2020167551A
Authority
JP
Japan
Prior art keywords
control device
display
vehicle
information
display mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019067125A
Other languages
English (en)
Other versions
JP7256668B2 (ja
Inventor
松永 英樹
Hideki Matsunaga
英樹 松永
成光 土屋
Narimitsu Tsuchiya
成光 土屋
聡明 鷹野
Toshiaki Takano
聡明 鷹野
聖 小野寺
Satoshi Onodera
聖 小野寺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2019067125A priority Critical patent/JP7256668B2/ja
Priority to CN202010192068.XA priority patent/CN111752267A/zh
Priority to US16/828,455 priority patent/US11733694B2/en
Publication of JP2020167551A publication Critical patent/JP2020167551A/ja
Application granted granted Critical
Publication of JP7256668B2 publication Critical patent/JP7256668B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0044Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by providing the operator with a computer generated representation of the environment of the vehicle, e.g. virtual reality, maps
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0022Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement characterised by the communication link
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0038Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by providing the operator with simple or augmented images from one or more cameras located onboard the vehicle, e.g. tele-operation
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/0278Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using satellite positioning signals, e.g. GPS
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Selective Calling Equipment (AREA)

Abstract

【課題】遠隔操作における通信量を低減するための技術を提供する。【解決手段】操作対象物を遠隔から操作するための制御装置は、操作対象物の周囲に存在し、制御装置の操作対象ではないオブジェクトに関する情報を、制御装置の外部の情報提供部から取得する取得部と、オブジェクトに関する情報に基づいて、オブジェクトを表すための仮想オブジェクトを決定する決定部と、オブジェクトの地理的位置に対応する表示位置に仮想オブジェクトを表示する表示制御部と、を備える。【選択図】図8

Description

本発明は、制御装置、制御方法及びプログラムに関する。
車両を遠隔地に存在するオペレータが操作する遠隔運転技術が知られている。遠隔運転では、遠隔運転を実行するオペレータ用のオペレータ装置と、車両に搭載されているユーザ端末との間の通信遅延が十分に抑制されることが、要求される要素の1つとして挙げられる。特許文献1では、車両の周囲の環境の3次元マップデータの差分情報を送信することによって、通信量を低減する。
特開2013−115803号公報
差分情報を利用したとしても、通信量の低減にはさらに改善の余地がある。本発明は、遠隔操作における通信量を低減するための技術を提供することを目的とする。
上記課題に鑑みて、操作対象物を遠隔から操作するための制御装置であって、前記操作対象物の周囲に存在し、前記制御装置の操作対象ではないオブジェクトに関する情報を、前記制御装置の外部の情報提供手段から取得する取得手段と、前記オブジェクトに関する情報に基づいて、前記オブジェクトを表すための仮想オブジェクトを決定する決定手段と、前記オブジェクトの地理的位置に対応する表示位置に前記仮想オブジェクトを表示する表示制御手段と、を備える制御装置が提供される。
上記手段により、遠隔操作における通信量が低減する。
実施形態に係る車両の構成例を説明するブロック図。 実施形態に係る遠隔運転装置の構成例を説明するブロック図。 実施形態に係る遠隔運転のコンソール例を説明する模式図。 実施形態に係る車両周辺の実環境を説明する模式図。 実施形態に係る遠隔制御システムの構成例を説明するブロック図。 実施形態に係る車両の制御方法例を説明するフロー図。 実施形態に係る遠隔運転装置の制御方法例を説明するフロー図。 実施形態に係る遠隔運転装置の表示画像例を説明する図。 実施形態に係る遠隔運転装置の表示画像例を説明する図。 実施形態に係る遅延を考慮する方法を説明する模式図。 実施形態に係る遠隔運転装置の制御方法例を説明するフロー図。 実施形態に係る遠隔運転装置の制御方法例を説明するフロー図。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでなく、また実施形態で説明されている特徴の組み合わせの全てが発明に必須のものとは限らない。実施形態で説明されている複数の特徴のうち二つ以上の特徴が任意に組み合わされてもよい。また、同一若しくは同様の構成には同一の参照番号を付し、重複した説明は省略する。
車両1は、車両1を制御する車両用制御装置2(以下、単に制御装置2と呼ぶ)を含む。制御装置2は車内ネットワークにより通信可能に接続された複数のECU20〜29を含む。各ECUは、CPUに代表されるプロセッサ、半導体メモリ等のメモリ、外部デバイスとのインタフェース等を含む。メモリにはプロセッサが実行するプログラムやプロセッサが処理に使用するデータ等が格納される。各ECUはプロセッサ、メモリおよびインタフェース等を複数備えていてもよい。例えば、ECU20は、プロセッサ20aとメモリ20bとを備える。メモリ20bに格納されたプログラムが含む命令をプロセッサ20aが実行することによって、ECU20による処理が実行される。これに代えて、ECU20は、ECU20による処理を実行するためのASIC等の専用の集積回路を備えてもよい。他のECUについても同様である。
以下、各ECU20〜29が担当する機能等について説明する。なお、ECUの数や、担当する機能については適宜設計可能であり、本実施形態よりも細分化したり、統合したりすることが可能である。
ECU20は、車両1の自動運転機能及び遠隔運転機能に関わる走行制御を実行する。この走行制御において、ECU20は、車両1の操舵及び/又は加減速を自動制御する。自動運転機能とは、ECU20が車両1の走行経路を計画し、この走行経路に基づいて車両1の操舵及び/又は加減速を制御する機能のことである。遠隔運転機能とは、ECU20が車両1の外部のオペレータからの指示に従って車両1の操舵及び/又は加減速を制御する機能のことである。外部のオペレータは人間であってもよいし、AI(人工知能)であってもよい。ECU20は、自動運転機能と遠隔運転機能とを組み合わせて実行することも可能である。例えば、ECU20は、オペレータからの指示がない間に走行経路を計画して走行制御を行い、オペレータからの指示があった場合にその指示に従って走行制御を行ってもよい。
ECU21は、電動パワーステアリング装置3を制御する。電動パワーステアリング装置3は、ステアリングホイール31に対する運転者の運転操作(操舵操作)に応じて前輪を操舵する機構を含む。また、電動パワーステアリング装置3は操舵操作をアシストしたり、前輪を自動操舵したりするための駆動力を発揮するモータや、操舵角を検知するセンサ等を含む。車両1の運転状態が自動運転状態の場合、ECU21は、ECU20からの指示に対応して電動パワーステアリング装置3を自動制御し、車両1の進行方向を制御する。
ECU22および23は、車両の外界の状況を検知する検知ユニット41〜43の制御および検知結果の情報処理を行う。検知ユニット41は、車両1の前方を撮影するカメラであり(以下、カメラ41と表記する場合がある。)、本実施形態の場合、車両1のルーフ前部でフロントウィンドウの車室内側に取り付けられる。カメラ41が撮影した画像の解析により、物標の輪郭抽出や、道路上の車線の区画線(白線等)を抽出可能である。
検知ユニット42は、ライダ(Light Detection and Ranging)であり(以下、ライダ42と表記する場合がある)、車両1の周囲の物標を検知したり、物標との距離を測距したりする。本実施形態の場合、ライダ42は5つ設けられており、車両1の前部の各隅部に1つずつ、後部中央に1つ、後部各側方に1つずつ設けられている。検知ユニット43は、ミリ波レーダであり(以下、レーダ43と表記する場合がある)、車両1の周囲の物標を検知したり、物標との距離を測距したりする。本実施形態の場合、レーダ43は5つ設けられており、車両1の前部中央に1つ、前部各隅部に1つずつ、後部各隅部に一つずつ設けられている。
ECU22は、一方のカメラ41と、各ライダ42の制御および検知結果の情報処理を行う。ECU23は、他方のカメラ41と、各レーダ43の制御および検知結果の情報処理を行う。車両の周囲状況を検知する装置を二組備えたことで、検知結果の信頼性を向上でき、また、カメラ、ライダ、レーダといった種類の異なる検知ユニットを備えたことで、車両の周辺環境の解析を多面的に行うことができる。
ECU24は、ジャイロセンサ5、GPSセンサ24b、通信装置24cの制御および検知結果あるいは通信結果の情報処理を行う。ジャイロセンサ5は車両1の回転運動を検知する。ジャイロセンサ5の検知結果や、車輪速等により車両1の進路を判定することができる。GPSセンサ24bは、車両1の現在位置を検知する。通信装置24cは、地図情報や交通情報を提供するサーバと無線通信を行い、これらの情報を取得する。ECU24は、メモリに構築された地図情報のデータベース24aにアクセス可能であり、ECU24は現在地から目的地へのルート探索等を行う。ECU24、地図データベース24a、GPSセンサ24bは、いわゆるナビゲーション装置を構成している。
ECU25は、車車間通信用の通信装置25aを備える。通信装置25aは、周辺の他車両と無線通信を行い、車両間での情報交換を行う。通信装置25aは、車両1の外部のオペレータとの通信にも使用される。
ECU26は、パワープラント6を制御する。パワープラント6は車両1の駆動輪を回転させる駆動力を出力する機構であり、例えば、エンジンと変速機とを含む。ECU26は、例えば、アクセルペダル7Aに設けた操作検知センサ7aにより検知した運転者の運転操作(アクセル操作あるいは加速操作)に対応してエンジンの出力を制御したり、車速センサ7cが検知した車速等の情報に基づいて変速機の変速段を切り替えたりする。車両1の運転状態が自動運転状態の場合、ECU26は、ECU20からの指示に対応してパワープラント6を自動制御し、車両1の加減速を制御する。
ECU27は、方向指示器(ウィンカー)を含む照明装置8(ヘッドライト、テールライト等の灯火器)を制御する。図1の例の場合、照明装置8は車両1の前部、ドアミラーおよび後部に設けられている。ECU27はさらに、クラクションのホーンを含む、車外に向けた音響装置11を制御する。照明装置8、音響装置11又はその組み合わせは、車両1の外界に対して情報を提供する機能を有する。
ECU28は、入出力装置9の制御を行う。入出力装置9は運転者に対する情報の出力と、運転者からの情報の入力の受け付けを行う。音出力装置91は運転者に対して音声により情報を報知する。表示装置92は運転者に対して画像の表示により情報を報知する。表示装置92は例えば運転席表面に配置され、インストルメントパネル等を構成する。なお、ここでは、音声と表示を例示したが振動や光により情報を報知してもよい。また、音声、表示、振動または光のうちの複数を組み合わせて情報を報知してもよい。更に、報知すべき情報のレベル(例えば緊急度)に応じて、組み合わせを異ならせたり、報知態様を異ならせたりしてもよい。入力装置93は運転者が操作可能な位置に配置され、車両1に対する指示を行うスイッチ群であるが、音入力装置も含まれてもよい。ECU28は、ECU20の走行制御に関する案内を実施可能である。案内の詳細については後述する。入力装置93は、ECU20による走行制御の動作を制御するために用いられるスイッチを含んでもよい。入力装置93は、運転者の視線方向を検知するためのカメラを含んでもよい。
ECU29は、ブレーキ装置10やパーキングブレーキ(不図示)を制御する。ブレーキ装置10は例えばディスクブレーキ装置であり、車両1の各車輪に設けられ、車輪の回転に抵抗を加えることで車両1を減速あるいは停止させる。ECU29は、例えば、ブレーキペダル7Bに設けた操作検知センサ7bにより検知した運転者の運転操作(ブレーキ操作)に対応してブレーキ装置10の作動を制御する。車両1の運転状態が自動運転状態の場合、ECU29は、ECU20からの指示に対応してブレーキ装置10を自動制御し、車両1の減速および停止を制御する。ブレーキ装置10やパーキングブレーキは車両1の停止状態を維持するために作動することもできる。また、パワープラント6の変速機がパーキングロック機構を備える場合、これを車両1の停止状態を維持するために作動することもできる。
図2のブロック図を参照して、本発明の一部の実施形態に係る遠隔運転装置200の構成について説明する。遠隔運転装置200は、遠隔運転機能を有する車両に対して遠隔運転サービスを提供するための装置である。遠隔運転装置200は、サービス提供対象の車両から遠隔に位置する。
遠隔運転装置200は、複数の動作モードで遠隔運転サービスを提供可能であってもよい。遠隔運転サービスの複数の動作モードは、主導モードと支援モードとを含んでもよい。主導モードとは、遠隔運転装置200のオペレータが車両の制御量(例えば、操舵角やアクセルペダル開度、ブレーキペダル開度、ウィンカーレバーの位置、ライトのオン・オフなど)を指定する動作モードのことである。支援モードとは、遠隔運転装置200のオペレータが指定した経路計画に従って車両(具体的にはECU20)が車両の制御量を決定する動作モードのことである。支援モードにおいて、遠隔運転装置200のオペレータは、自ら経路計画を生成して指定してもよいし、車両から提案された経路計画を採用することによって経路計画を指定してもよい。
遠隔運転装置200は、図2に示す各構成要素を有する。プロセッサ201は、遠隔運転装置200全体の動作を制御する。プロセッサ201は、例えばCPUとして機能する。メモリ202は、遠隔運転装置200の動作に用いられるプログラムや一時データなどを記憶する。メモリ202は、例えばROMやRAMなどにより実現される。入力部203は、遠隔運転装置200の使用者が遠隔運転装置200への入力を行うために用いられる。遠隔運転装置200の使用者とは、人間が操作主体である場合にこの人間であり、AIが操作主体である場合にAIの動作を監視する人間(監視者)である。出力部204は、遠隔運転装置200から使用者に向けて情報を出力するために用いられる。記憶部205は、遠隔運転装置200の動作に用いられるデータを記憶する。記憶部205は、ディスクドライブ(例えば、HDDやSDD)などの記憶装置で実現される。通信部206は、遠隔運転装置200が他の装置(例えば、遠隔運転対象の車両)と通信する機能を提供し、例えばネットワークカードやアンテナなどで実現される。
図3の概略図を参照して、遠隔運転装置200の入力部203及び出力部204の構成例について説明する。この構成例では、表示装置310及び音響装置320によって出力部204が構成され、ステアリングホイール330、アクセルペダル340、ブレーキペダル350、マイク360及び複数のスイッチ370によって入力部203が構成される。
表示装置310は、遠隔運転サービスを提供するための視覚情報を出力する装置である。音響装置320は、遠隔運転サービスを提供するための聴覚情報を出力する装置である。表示装置310に表示される画面は、1つのメイン領域311と、複数のサブ領域312とを含む。メイン領域311には、遠隔運転サービスの提供対象の複数の車両のうちの制御対象車両に関する情報が表示される。制御対象車両とは、遠隔運転装置200からの指示が送信される車両のことである。各サブ領域312には、遠隔運転サービスの提供対象の複数の車両のうちの制御対象車両以外の車両に関する情報が表示される。制御対象車両以外の車両は、監視対象車両と呼ばれることもある。1台の遠隔運転装置200によって複数台の車両に遠隔運転サービスを提供する場合に、オペレータは、メイン領域311に表示する車両(すなわち、制御対象車両)を適宜切り替える。メイン領域311及びサブ領域312に表示される情報は、車両の周囲の交通状況、車両の速度などを含む。
ステアリングホイール330は、主導モードにおいて制御対象車両の操舵量を制御するために用いられる。アクセルペダル340は、主導モードにおいて制御対象車両のアクセルペダル開度を制御するために用いられる。ブレーキペダル350は、主導モードにおいて制御対象車両のブレーキペダル開度を制御するために用いられる。マイク360は、音声情報を入力するために用いられる。マイク360に入力された音声情報は、制御対象車両へ送信され、その車内で再生されてもよい。
複数のスイッチ370は、遠隔運転サービスを提供するための様々な入力を行うために用いられる。例えば、複数のスイッチ370は、制御対象車両を切り替えるためのスイッチ、支援モードにおけるオペレータの判断結果を指示するためのスイッチ、複数の動作モードを切り替えるためのスイッチなどを含む。
図2及び図3で説明した遠隔運転装置200は、主導モードと支援モードとの両方を提供可能である。これに代えて、遠隔運転装置200は、主導モードと支援モードと一方のみを提供可能であってもよい。主導モードを提供しない場合に、ステアリングホイール330、アクセルペダル340及びブレーキペダル350は省略可能である。また、複数の遠隔運転装置200が協働して遠隔運転サービスを提供してもよい。この場合に、遠隔運転装置200は、サービス提供対象の車両を別の遠隔運転装置200に引継ぎ可能であってもよい。
図4を参照して、遠隔運転対象の車両1の周囲の実環境400(実世界の環境)の一例について説明する。車両1は、遠隔運転装置200からの操作指示に従って車線404を走行中であるとする。車線404の反対車線405を対向車両402が走行中である。対向車両402は、運転者による手動運転中であってもよいし、自動運転機能で走行中であってもよいし、遠隔運転装置200によるものとは別の遠隔運転サービスを利用して走行中であってもよい。ただし、対向車両402は、遠隔運転装置200による操作対象ではないとする。
車線404に隣接する歩道406を歩行者403が歩いている。車線404及び反対車線405を撮影するように道路管理カメラ401が設置されている。対向車両402及び歩行者403は、車両1の周囲に存在し、遠隔運転装置200の操作対象ではないオブジェクトの一例である。以下、遠隔運転装置200の操作対象ではないオブジェクトを単にオブジェクトと呼ぶ。オブジェクトは、移動可能であってもよいし、移動可能でなくてもよい。例えば、歩行者や他の車両は移動可能なオブジェクトである。ガードレールや建物、信号機などは移動可能でないオブジェクトである。さらに、移動可能なオブジェクトは、自律的に移動可能なオブジェクトであってもよい。自律的に移動可能とは、オブジェクト自体の判断によって移動可能であることである。例えば、人間や手動運転中の車両、自動運転中の車両は自律的に移動可能なオブジェクトである。一方、遠隔運転中の車両は、車両自体の判断によって移動していないため、自律的に移動可能なオブジェクトではない。車両1の周囲とは、車両1の検知ユニット41〜43によって検知可能な範囲であってもよいし、遠隔運転装置200の表示装置310に車両1の周囲として表示される範囲であってもよい。
図5を参照して、遠隔制御システムの構成例について説明する。この例において、遠隔制御システムは、車両1と、道路管理カメラ401と、遠隔運転装置200とによって構成される。道路管理カメラ401は省略されてもよい。以下、遠隔制御システムの各装置のうち、以下に説明する実施形態に関連する機能ブロックについて説明する。
車両1は、自車情報提供部501と、オブジェクト情報提供部502とを備える。これらはいずれもECU20によって実現されてもよい。自車情報提供部501は、車両1に関する情報を遠隔運転装置200へ提供(例えば送信)する。車両1に関する情報は、例えば車両1の現在の地理的位置、車両1の現在の速度及び加速度、遠隔運転サービスにおける車両1の識別情報、自動運転機能によって推奨される将来の軌道などを含んでもよい。車両1の地理的位置とは、車両1を表す代表的な1点についての地理的位置であってもよいし、車両1が3次元空間内を占める領域についての地理的位置であってもよい。
オブジェクト情報提供部502は、車両1の周囲のオブジェクトに関する情報を遠隔運転装置200へ提供(例えば送信)する。オブジェクトに関する情報は、例えばオブジェクトの種類、オブジェクトの現在の地理的位置、オブジェクトの速度及び加速度、オブジェクトの将来の予測軌道などを含んでもよい。オブジェクト情報提供部502は、検知ユニット41〜43によって得られたオブジェクトのセンサ・データに基づいて、オブジェクトの種類及び地理的位置を決定する。オブジェクトの種類は、例えば普通車両、大型車両、二輪車、大人の歩行者、子どもの歩行者、自転車乗員などである。オブジェクトの地理的位置は、1点についての地理的位置であってもよいし、オブジェクトが3次元空間を占める領域についての地理的位置であってもよい。また、オブジェクト情報提供部502は、オブジェクトの地理的位置の時間変化に基づいて、オブジェクトの速度、加速度を算出してもよい。さらに、オブジェクト情報提供部502は、オブジェクトの地理的位置、速度及び加速度に基づいてオブジェクトの将来の予測軌道を生成してもよい。オブジェクト情報提供部502は、オブジェクトが車両であれば方向指示器や運転者の視線などにさらに基づいて、オブジェクトが歩行者や自転車乗員であればその視線などにさらに基づいて、オブジェクトの将来の予測軌道を生成してもよい。オブジェクトに関する情報のデータ量は、検知ユニット41〜43によるオブジェクトのセンサ・データ(例えば、可視光画像、レーダ画像、ライダ画像)のデータ量よりも少ない。車両1は、オブジェクトとの通信(例えば、車車間通信)が可能な場合に、オブジェクトに関する情報をオブジェクトから受信してもよい。
道路管理カメラ401は、操作対象の車両1以外にオブジェクトの情報を取得する装置の一例である。道路管理カメラ401は、オブジェクト情報提供部511を備える。オブジェクト情報提供部511は、オブジェクト情報提供部502と同様であるため、説明を省略する。
遠隔運転装置200は、表示制御部521と、通信状態取得部522と、モデル・データ記憶部523と、背景データ記憶部524とを備える。表示制御部521及び通信状態取得部522は例えばプロセッサ201によって実現される。モデル・データ記憶部523及び背景データ記憶部524は例えばメモリ202によって実現される。
表示制御部521は、車両1に関する表示制御を行う。この表示制御の詳細については後述する。通信状態取得部522は、車両1と遠隔運転装置200との通信及び道路管理カメラ401と遠隔運転装置200との通信の状態を取得する。通信状態は、例えば通信品質(遅延など)を含む。通信状態は、車両1や道路管理カメラ401から直接に取得されてもよいし、これらの装置に通信サービスを提供する通信システムから取得されてもよい。
モデル・データ記憶部523は、車両1及びオブジェクトのモデルに関するデータを記憶する。例えば、モデル・データ記憶部523は、上述のオブジェクトの種類ごとの3次元モデル・データを記憶する。背景データ記憶部524は、車両1が存在する可能性がある環境の固定物(道路、建物など)に関するデータ(例えば、地図データ)を記憶する。後述するように、車両1の地理的位置の周囲に存在する固定物が背景として表示される。背景データは、各固定物の地理的位置及び3次元モデル・データを含む。移動可能なオブジェクトの情報は、背景データ記憶部524に記憶されていないため、遠隔運転装置200は、車両1などから取得する。一方、遠隔運転装置200は、移動可能でないオブジェクトの情報を、背景データ記憶部524から読み出してもよいし、車両1などから取得してもよい。
図6を参照して、遠隔制御システムにおける車両1の制御方法例について説明する。この方法は、車両1のプロセッサ20aなどがメモリ20bなどに格納されたプログラムを実行することによって行われてもよい。これに代えて、方法の一部又は全部の工程が、ASIC(特定用途向け集積回路)のような専用回路で実行されてもよい。前者の場合に、プロセッサが特定の動作のための構成要素となり、後者の場合に、専用回路が特定の動作のための構成要素となる。図6の制御方法は、車両1が遠隔運転機能を実行中に反復して実行される。
ステップS601で、車両1(具体的に、自車情報提供部501)は、車両1に関する情報を取得し、遠隔運転装置200に提供する。ステップS602で、車両1(具体的に、オブジェクト情報提供部502)は、車両1の周囲のオブジェクトに関する情報を生成する。
ステップS603で、車両1(具体的に、オブジェクト情報提供部502)は、生成した情報が所定の正確性を満たすかどうかを判定する。情報が所定の正確性を満たす場合(ステップS603で「YES」)に、車両1は処理をステップS604に遷移し、それ以外の場合(ステップS603で「NO」)に、車両1は処理をステップS605に遷移する。所定の正確性とは、例えば遠隔運転サービスでオペレータによる操作に支障を与えない程度の正確性である。
ステップ604で、車両1(具体的に、オブジェクト情報提供部502)は、オブジェクトに関する情報を遠隔運転装置200に提供する。ステップ605で、車両1(具体的に、オブジェクト情報提供部502)は、オブジェクトに関する情報を生成するための元データを遠隔運転装置200に提供する。このように、車両1は、正確な情報を遠隔運転装置200に提供できない場合に、元データを遠隔運転装置200に提供する。遠隔運転装置200は、車両1よりも高い処理能力を有しうるため、車両1よりも正確な情報を生成可能である。
ステップ606で、車両1(具体的に、オブジェクト情報提供部502)は、遠隔運転に関する操作指示を遠隔運転装置200から受信する。ステップS607で、車両1(具体的に、ECU20)は、操作指示に従って車両1の挙動を制御する。ステップS606及びS607の動作は従来の遠隔運転と同様であってもよいため、詳細な説明を省略する。
道路管理カメラ401(具体的に、オブジェクト情報提供部511)は、図6のステップS602〜S605と同様の動作を行う。
図7を参照して、遠隔制御システムにおける遠隔運転装置200の制御方法例について説明する。この方法は、遠隔運転装置200のプロセッサ201がメモリ202に格納されたプログラムを実行することによって行われてもよい。これに代えて、方法の一部又は全部の工程が、ASIC(特定用途向け集積回路)のような専用回路で実行されてもよい。前者の場合に、プロセッサが特定の動作のための構成要素となり、後者の場合に、専用回路が特定の動作のための構成要素となる。図7の制御方法は、遠隔運転装置200が遠隔運転サービスを提供中に反復して実行される。
ステップS701で、遠隔運転装置200は、ステップS601で送信された遠隔運転対象の車両1に関する情報を受信する。この情報に含まれる情報は上述したとおりである。ステップS702で、遠隔運転装置200は、ステップS604で送信されたオブジェクトに関する情報又はステップS605で送信された元データを受信する。これらは車両1から受信されてもよいし、道路管理カメラ401から受信されてもよい。
ステップS703で、遠隔運転装置200は、ステップS702で元データを受信したかどうかを判定する。元データを受信した場合(ステップS703で「YES」)に、遠隔運転装置200は、ステップS704を実行してからステップS705に遷移し、それ以外の場合(ステップS703で「NO」)に、遠隔運転装置200は、直接にステップS705に遷移する。
ステップS704で、遠隔運転装置200は、元データからオブジェクトに関する情報を生成する。オブジェクトに関する情報の生成方法は、上述のステップS602と同様であってもよい。遠隔運転装置200は車両1及び道路管理カメラ401よりも高性能であるため、より精度の高い情報を生成できる。
ステップS705で、遠隔運転装置200(具体的に、通信状態取得部522)は、車両1と遠隔運転装置200との通信の通信品質及び道路管理カメラ401と遠隔運転装置200との通信の通信品質を取得する。
ステップS706で、遠隔運転装置200(具体的に、表示制御部521)は、車両1の地理的位置及びその周囲の固定物に関するデータ(例えば、地図データ)を背景データ記憶部524から読み出す。例えば、遠隔運転装置200は、車両1の運転者視点における地図データを背景データ記憶部524から読み出す。
ステップS707で、遠隔運転装置200(具体的に、表示制御部521)は、オブジェクトに関する情報に含まれるオブジェクトの種類に基づいて、このオブジェクトを表すための仮想オブジェクトを決定する。例えば、オブジェクトの種類が普通車両の場合に、遠隔運転装置200は、このオブジェクトを表すために普通車両の仮想オブジェクトを使用することを決定する。さらに、遠隔運転装置200は、オブジェクトの地理的位置(すなわち、3次元空間において占める領域)に基づいて仮想オブジェクトの表示サイズを決定してもよい。
ステップS708で、遠隔運転装置200(具体的に、表示制御部521)は、車両1の周囲の実環境を表す画像を生成し、表示装置310(例えば、メイン領域311)に表示する。具体的に、遠隔運転装置200は、ステップS706で読み出した背景データのうちオブジェクトの地理的位置に対応する表示位置に、ステップS700で決定した仮想オブジェクトを表示する。この仮想オブジェクトは、モデル・データ記憶部523に記憶された複数のモデルのうちオブジェクトの種類に対応するモデルであってもよい。画像の具体例は後述する。
ステップS709で、遠隔運転装置200は、オペレータから操作入力を受け取る。ステップS710で、遠隔運転装置200は、受け取った操作入力に基づいて車両1への操作指示を生成し、この操作指示を車両1へ送信する。
図8を参照して、ステップS708で生成される画像800の一例について説明する。画像800は、図4の実環境400を仮想的に表現したものである。仮想オブジェクト810は、対向車両402を表す仮想オブジェクトである。車両の3次元モデルが仮想オブジェクトとして使用される。仮想オブジェクト820は、歩行者403を表す仮想オブジェクトである。大人の3次元モデルが仮想オブジェクトとして使用される。これらの仮想オブジェクトは、車両1の運転者視点の地図上に、それぞれのオブジェクトの地理的位置に対応する表示位置に表示される。図8の例では、車両1の運転者視点の地図を表示するが、これに代えて車両1を後方から見た視点の地図を表示してもよい。この場合に、遠隔運転装置200は、画像800に車両1を表す仮想オブジェクトを表示してもよい。
画像800では、対向車両402の過去の軌道が実線811で示され、対向車両402の将来の予測軌道が破線812で示される。遠隔運転装置200は、対向車両402の過去の地理的位置に基づいて対向車両402の過去の軌道を生成する。過去の軌道を生成するために、遠隔運転装置200は、対向車両402の直近の地理的位置を一定期間分(例えば、5秒分)記憶しておいてもよい。対向車両402の将来の予測軌道は、ステップS702で受信するか、ステップS704で生成することによって取得される。同様に、画像800では、歩行者403の過去の軌道が実線821で示され、歩行者403の将来の予測軌道が破線822で示される。
画像800は、車両1の将来の予測軌道を破線831L、831Rで示す。破線831Lは、車両1の左端の予測軌道を示し、破線831Rは、車両1の右端の予測軌道を示す。このように両端の予測軌道を示すことによって、遠隔運転装置200のオペレータは、車両1の車幅を認識しやすくなる。また、画像800には、車両1の自動運転機能が生成した車両1の推奨の軌道832も表示される。
遠隔運転装置200は、図8の画像800に代えて又はこれと同時に、図9の画像900を表示してもよい。画像900は、車両1の地理的位置及びその周囲の俯瞰図である。図8と同様に、地図上に仮想オブジェクト810、820が表示されている。画像900では、車両1を表す仮想オブジェクト830と、車両1の過去の軌道を表す実線833とがさらに表示されている。仮想オブジェクト830の表示サイズは、車両1の大きさに応じて決定される。車両1の大きさは、ステップS701で車両1から受信されてもよいし、事前にメモリ202に格納されていてもよい。遠隔運転装置200は、過去又は将来の軌道を表す実線811、821、832及び破線812、822、831L、832Rをすべて非表示としてもよいし、一部のみを表示してもよい。
上述の画像800、900における仮想オブジェクトは、車両1及びオブジェクトに関する情報が取得された時点の地理的位置に対応する表示位置に配置されてもよい。しかし、車両1及び道路管理カメラ401と遠隔運転装置200との通信の遅延が大きくなると、車両1の実環境と遠隔運転装置200での表示内容とのギャップが大きくなる。さらに、遠隔運転装置200から送信された操作指示が車両1に到達するまでの遅延も考慮する必要がある。
そこで、一部の実施形態で、遠隔運転装置200は、車両1又は道路管理カメラ401から情報を取得する際に生じる遅延を考慮して仮想オブジェクトの表示位置を決定してもよい。さらに、遠隔運転装置200は、遠隔運転装置200からから車両1へ操作指示を提供する際に生じる遅延を更に考慮して仮想オブジェクトの表示位置を決定してもよい。
図10を参照して、遠隔運転装置200が遅延を考慮する方法について説明する。実環境1000〜1004はそれぞれ、時刻t0〜t4における車両1の周囲の実環境を示す。画像1010〜1014はそれぞれ、時刻t0〜t4において遠隔運転装置200の表示装置310に表示される仮想オブジェクト810、830の位置を示す。時刻t0〜t4は等間隔である。車両1、対向車両402及び仮想オブジェクト810、830の位置関係を把握しやすいように、車線の幅方向に破線を付す。以下、説明を簡単にするために、車両1から遠隔運転装置200への情報の送信にかかる時間と、遠隔運転装置200から車両1への操作指示の送信に係る時間とが互いに等しい(時刻t0と時刻t1の間隔に等しい時間)であるとする。また、オペレータからの指示は操舵に関する指示であるとする。加減速や他の挙動に関する指示についても、以下の方法で対応可能である。
時刻t0の車両1及び対向車両402の地理的位置を含む情報は、時刻t1で遠隔運転装置200によって受信される。この情報に基づいて遠隔運転装置200が車両1及び対向車両402を表す仮想オブジェクト810、830の表示位置を決定してしまうと、遠隔運転装置200の使用者は過去の実環境を参照することになってしまう。また、時刻t0と時刻t1との間に遠隔運転装置200から送信された操作指示は、時刻t1と時刻t2との間に車両1によって受信され、車両1の挙動に反映される。そのため、車両1の挙動がオペレータの意図したタイミングで行われない。
そこで、遠隔運転装置200は、車両1及び対向車両402の将来の地理的位置を予測してこれらを表す仮想オブジェクト810、830の表示位置を決定する。具体的に、時刻t2において遠隔運転装置200が生成する画像1012について説明する。まず、対向車両402を表す仮想オブジェクト810の表示位置について説明する。時刻t2で、遠隔運転装置200は、時刻t1の対向車両402の地理的位置及びこの時点における対向車両402の予測軌道を取得する。また、時刻t2で遠隔運転装置200が送信した指示は、時刻t3で車両1によって処理される。そこで、遠隔運転装置200は、時刻t1において送信された対向車両402の予測軌道が示す時刻t3における対向車両402の地理的位置に対応するように、画像1012における仮想オブジェクト810の表示位置を決定する。
続いて、車両1を表す仮想オブジェクト830の表示位置について説明する。時刻t2で、遠隔運転装置200は、時刻t1の車両1の地理的位置を取得している。また、時刻t1の車両1の地理的位置には、時刻t0までにオペレータによって入力された操作指示が反映されている。そこで、遠隔運転装置200は、時刻t1の車両1の地理的位置に対して、時刻t0〜t2までに遠隔運転装置200に入力されたオペレータの操作指示を施すことによって得られる地理的位置に対応するように、画像1012における仮想オブジェクト830の表示位置を決定する。このようにして生成された画像1012における仮想オブジェクト810及び830の表示位置は、時刻t3の実環境1003における対向車両402及び車両1の地理的位置に対応する。このような方法によれば、遅延があったとしても、遠隔運転装置200のオペレータは車両1を直接運転するのと同様の操作感覚で車両1を遠隔運転できる。
図11を参照して、遠隔制御システムにおける遠隔運転装置200の表示モード選択動作について説明する。この動作は、遠隔運転装置200のプロセッサ201がメモリ202に格納されたプログラムを実行することによって行われてもよい。これに代えて、方法の一部又は全部の工程が、ASIC(特定用途向け集積回路)のような専用回路で実行されてもよい。前者の場合に、プロセッサが特定の動作のための構成要素となり、後者の場合に、専用回路が特定の動作のための構成要素となる。図11の制御方法は、遠隔運転装置200が遠隔運転サービスを提供中に反復して実行される。
一部の実施形態で、遠隔運転装置200は、複数の表示モードから1つのモードを選択して、車両1の遠隔操作のための画像を生成できる。複数の表示モードは、上述のように仮想オブジェクトを用いてオブジェクトに関する表示を行う仮想表示モードと、車両1によって得られた画像を用いてオブジェクトに関する表示を行う画像表示モードとを含んでもよい。仮想表示モードで必要な通信量は画像表示モードで必要な通信量よりも少ない。そこで、遠隔運転装置200は、通信状態が悪い場合に、画像表示モードを選択できなくして、仮想表示モードで表示制御を行う。以下、具体的な動作について説明する。
ステップS1101で、遠隔運転装置200は、車両1と遠隔運転装置200との通信の品質を取得する。通信状態は、車両1や道路管理カメラ401から直接に取得されてもよいし、これらの装置に通信サービスを提供する通信システムから取得されてもよい。
ステップS1102で、遠隔運転装置200は、通信状態に基づいて閾値以上の遅延が予想されるかどうかを判定する。遅延が予想される場合(ステップS1102で「YES」)に、遠隔運転装置200は処理をステップS1103に遷移し、それ以外の場合(ステップS1102で「NO」)に、遠隔運転装置200は、処理をステップS1104に遷移する。
ステップS1103で、遠隔運転装置200は、画像表示モードの実行を禁止し、仮想表示モードでの表示制御を行う。ステップS1104で、遠隔運転装置200は、画像表示モードと、仮想表示モードとのどちらも選択可能とする。遠隔運転装置200は、オペレータにより選択に従って、いずれかのモードで車両1を遠隔運転するための画像を表示する。
図12を参照して、遠隔制御システムにおける遠隔運転装置200の表示モード変更動作について説明する。この動作は、遠隔運転装置200のプロセッサ201がメモリ202に格納されたプログラムを実行することによって行われてもよい。これに代えて、方法の一部又は全部の工程が、ASIC(特定用途向け集積回路)のような専用回路で実行されてもよい。前者の場合に、プロセッサが特定の動作のための構成要素となり、後者の場合に、専用回路が特定の動作のための構成要素となる。図12の制御方法は、遠隔運転装置200が遠隔運転サービスを提供中に反復して実行される。
ステップS1201で、遠隔運転装置200は、表示モードを変更すべきかどうかを判定する。表示モードを変更すべきである場合(ステップS1201で「YES」)に、遠隔運転装置200は処理をS1202に遷移し、それ以外の場合(ステップS1201で「NO」)に、遠隔運転装置200はステップS1201を繰り返す。遠隔運転装置200は、使用者からの指示に応じて、表示モードを変更すべきであるかどうかを判定してもよい。また、遠隔運転装置200は、例えば通信品質の変化に応じて、表示モードを変更すべきであるかどうかを判定してもよい。図11で説明したように、遠隔運転装置200は、画像表示モードを選択中に通信品質が低下した場合に、表示モードを仮想表示モードに変更すべきであると判定する。さらに、遠隔運転装置200は、仮想表示モードを選択中に通信品質が改善した場合に、表示モードを画像表示モードに変更すべきであると判定してもよい。
ステップS1202で、遠隔運転装置200は、遠隔運転が可能かどうかを判定する。遠隔運転が可能である場合(ステップS1202で「YES」)に、遠隔運転装置200は、処理をステップS1203に遷移し、それ以外の場合に遠隔運転装置200は処理を終了する。図11で説明したように、表示モードの変更は、通信品質の低下により引き起こされる場合がある。そこで、このステップで、遠隔運転装置200は、遠隔運転がなおも実行可能か、すなわち遠隔運転装置200から車両1へ操作指示を提供可能な状態かどうかを判定する。遠隔運転を実行できない場合に、遠隔運転装置200は、その旨を遠隔運転装置200の使用者に通知してもよい。
ステップS1203で、遠隔運転装置200は、表示モードを変更することを遠隔運転装置200の使用者に通知する。表示モードの変更が使用者の指示によって行われる場合に、この通知は変更指示を受け付けたことの通知であってもよい。表示モードの変更が遠隔運転装置200の判断によって行われる場合に、この通知は遠隔運転装置200の判断で表示モードを変更することの通知であってもよい。さらに、以降のステップで説明するように、遠隔運転装置200は、車両1の速度を必要に応じて低下させることを遠隔運転装置200の使用者に通知してもよい。
ステップS1204で、遠隔運転装置200は、車両1の速度が閾値速度よりも大きいかどうかを判定する。閾値速度よりも大きい場合(ステップS1204で「YES」)に、遠隔運転装置200は処理をステップS1205に遷移し、それ以外の場合に、遠隔運転装置200は処理をステップS1206に遷移する。閾値速度は、車両1の状況に応じて個別に設定されてもよい。例えば、車両1が高速道を走行中に、閾値速度は時速80kmであってもよい。車両1が一般道を走行中に、閾値速度は時速30kmであってもよい。
ステップS1205で、遠隔運転装置200は、車両1の速度が閾値速度以下となるように低下させる。表示モードの変更にはタイムラグが発生する場合がある。また、表示モードの変更により、遠隔運転装置200の使用者に戸惑いが生じる可能性がある。そこで、遠隔運転装置200は、このような遅延や戸惑いを考慮して、車両1の速度を閾値速度以下まで低下させることによって、いっそう安全な状態で表示モードを変更する。言い換えると、遠隔運転装置200は、表示モードを変更する前に、車両1の速度を低下させる。さらに言い換えると、遠隔運転装置200は、車両1の速度が閾値速度以下であることを条件として、表示モードを変更する。ステップS1206で、遠隔運転装置200は、表示モードを変更する。
上述の実施形態では、遠隔運転装置200の操作対象物が車両1である場合について説明した。本発明の操作対象物は車両1に限られない。例えば、操作対象物は、車両以外の移動体、例えば牧草地において牧草犬の代わりに羊や牛などの家畜を誘導するロボットであってもよい。操作対象物が家畜誘導ロボットの場合に、オブジェクトは家畜である。さらに、操作対象物は、移動体以外の装置、例えば固定位置で使用される交通誘導ロボットであってもよい。操作対象物が交通誘導ロボットの場合に、オブジェクトは車両である。操作対象物が車両以外の場合に、遠隔運転装置200は一般的に遠隔制御装置と呼ばれうる。
<実施形態のまとめ>
<構成1>
操作対象物(1)を遠隔から操作するための制御装置(200)であって、
前記操作対象物の周囲に存在し、前記制御装置の操作対象ではないオブジェクト(402、403)に関する情報を、前記制御装置の外部の情報提供手段(502、511)から取得する取得手段(S702)と、
前記オブジェクトに関する情報に基づいて、前記オブジェクトを表すための仮想オブジェクト(810、820)を決定する決定手段(S707)と、
前記オブジェクトの地理的位置に対応する表示位置に前記仮想オブジェクトを表示する表示制御手段(S708)と、
を備える制御装置。
この構成によれば、オブジェクトの情報に基づいて遠隔操作のための画像を生成できるため、オブジェクトの画像自体を受信する必要がなくなり、通信量が低減する。
<構成2>
前記取得手段は、前記オブジェクトに関する情報として、前記情報提供手段が決定した前記オブジェクトの種類及び地理的位置を取得する、構成1に記載の制御装置。
この構成によれば、オブジェクトの種類及び地理的位置に基づいて仮想オブジェクトを決定できる。
<構成3>
前記表示制御手段は、複数のモデルのうち前記オブジェクトの種類に対応するモデル(810、820)を前記仮想オブジェクトとして表示する、構成2に記載の制御装置。
この構成によれば、モデルを用いて仮想オブジェクトを表示できる。
<構成4>
前記操作対象物は、移動体(1)である、構成1乃至3の何れか1つに記載の制御装置。
この構成によれば、移動体の操作を制御できる。
<構成5>
前記表示制御手段は、前記操作対象物の過去の軌道(832)と、前記操作対象物の将来の予測軌道(831L、831R)と、前記オブジェクトの過去の軌道(811、821)と、前記オブジェクトの将来の予測軌道(812、822)とのうちの少なくとも1つをさらに表示する、構成1乃至4の何れか1つに記載の制御装置。
この構成によれば、制御装置の使用者が操作対象物及びオブジェクトの挙動を把握しやすくなる。
<構成6>
前記情報提供手段は、前記オブジェクトの地理的位置、速度及び加速度に基づいて前記オブジェクトの将来の予測軌道(812、822)を生成し、前記予測軌道を前記制御装置に提供する、構成5に記載の制御装置。
この構成によれば、外部の装置が予測軌道を生成するため、制御装置が元データを取得する必要がなくなる。
<構成7>
前記情報提供手段は、所定の正確性を満たすように前記オブジェクトに関する情報を提供できない場合に、前記情報を生成するための元データを前記制御装置に提供する(S605)、構成6に記載の制御装置。
この構成によれば、必要に応じて制御装置が元データを参照できる。
<構成8>
前記情報提供手段は、前記操作対象物に含まれる(502)、構成6又は7に記載の制御装置。
この構成によれば、操作対象物によって生成されたオブジェクトの情報を取得できる。
<構成9>
前記表示制御手段は、前記情報提供手段から前記情報を取得する際に生じる遅延を考慮して前記仮想オブジェクトの表示位置を決定する、構成1乃至8の何れか1つに記載の制御装置。
この構成によれば、実環境での操作と同様の操作感覚で遠隔から操作対象物を操作できる。
<構成10>
前記制御装置は、前記操作対象物へ操作指示を提供する提供手段(S710)を更に備え、
前記表示制御手段は、前記提供手段から前記操作対象物へ前記操作指示を提供する際に生じる遅延を更に考慮して前記仮想オブジェクトの表示位置を決定する、構成9に記載の制御装置。
この構成によれば、制御装置での操作を適切な時点で操作対象物に反映できる。
<構成11>
前記表示制御手段は、前記仮想オブジェクトを用いて前記オブジェクトに関する表示を行う第1表示モードと、前記操作対象物によって得られた画像を用いて前記オブジェクトに関する表示を行う第2表示モードとを含む複数の表示モードから表示モードを選択可能である(S1104)、構成1乃至10の何れか1つに記載の制御装置。
この構成によれば、通信状態に応じて表示モードを選択可能になる。
<構成12>

前記表示制御手段は、前記表示モードを変更する場合(S1201)に、前記制御装置の使用者に前記表示モードの変更を通知する(S1203)、構成11に記載の制御装置。
この構成によれば、遠隔操作装置の使用者が表示モードの変更を事前に把握できる。
<構成13>
前記表示制御手段は、前記表示モードを変更する前に、前記操作対象物の移動速度を低下させる(S1205)、構成11又は12に記載の制御装置。
この構成によれば、表示モード変更により発生しうるタイムラグによる影響を抑制できる。
<構成14>
前記表示制御手段は、前記操作対象物の移動速度が閾値速度以下であることを条件として(S1204)、前記表示モードを変更する(S1206)、構成11乃至13の何れか1つに記載の制御装置。
この構成によれば、表示モード変更により発生しうるタイムラグによる影響を抑制できる。
<構成15>
前記表示制御手段は、前記情報提供手段と前記制御装置との間の通信状態に基づいて表示モードを選択する(S1101〜S1104)、構成11乃至14の何れか1つに記載の制御装置。
この構成によれば、通信状態に応じて表示モードを選択可能になる。
<構成16>
前記表示制御手段は、前記通信状態に基づいて閾値以上の遅延が予想される場合に、前記第1表示モードを選択する(S1103)、構成15に記載の制御装置。
この構成によれば、遅延に応じて適切な表示モードを選択できる。
<構成17>
前記表示制御手段は、前記操作対象物を表す仮想オブジェクト(830)をさらに表示する、構成1乃至16の何れか1つに記載の制御装置。
この構成によれば、操作対象物と他のオブジェクトとの位置関係を把握しやすくなる。
<構成18>
前記表示制御手段は、前記操作対象物の大きさに応じて前記操作対象物を表す仮想オブジェクトの表示サイズを決定する、構成17に記載の制御装置。
この構成によれば、操作対象物と周囲の環境との位置関係を把握しやすくなる。
<構成19>
コンピュータを構成1乃至18の何れか1つに記載の制御装置の各手段として機能させるためのプログラム。
この構成によれば、プログラムの形態で上記構成を実現できる。
<構成20>
操作対象物(1)を遠隔から操作するための制御方法であって、
前記操作対象物の周囲に存在し、前記制御方法を実行する制御装置の操作対象ではないオブジェクト(402、403)に関する情報を、前記制御装置の外部の情報提供手段(502、511)から取得する取得工程(S702)と、
前記オブジェクトに関する情報に基づいて、前記オブジェクトを表すための仮想オブジェクト(810、820)を決定する決定工程(S707)と、
前記オブジェクトの地理的位置に対応する表示位置に前記仮想オブジェクトを表示する表示制御工程(S708)と、
を有する制御方法。
この構成によれば、オブジェクトの情報に基づいて遠隔操作のための画像を生成できるため、オブジェクトの画像自体を受信する必要がなくなり、通信量が低減する。
発明は上記の実施形態に制限されるものではなく、発明の要旨の範囲内で、種々の変形・変更が可能である。
1 車両、402 対向車両、403 歩行者、810、820、830、仮想オブジェクト

Claims (20)

  1. 操作対象物を遠隔から操作するための制御装置であって、
    前記操作対象物の周囲に存在し、前記制御装置の操作対象ではないオブジェクトに関する情報を、前記制御装置の外部の情報提供手段から取得する取得手段と、
    前記オブジェクトに関する情報に基づいて、前記オブジェクトを表すための仮想オブジェクトを決定する決定手段と、
    前記オブジェクトの地理的位置に対応する表示位置に前記仮想オブジェクトを表示する表示制御手段と、
    を備える制御装置。
  2. 前記取得手段は、前記オブジェクトに関する情報として、前記情報提供手段が決定した前記オブジェクトの種類及び地理的位置を取得する、請求項1に記載の制御装置。
  3. 前記表示制御手段は、複数のモデルのうち前記オブジェクトの種類に対応するモデルを前記仮想オブジェクトとして表示する、請求項2に記載の制御装置。
  4. 前記操作対象物は、移動体である、請求項1乃至3の何れか1項に記載の制御装置。
  5. 前記表示制御手段は、前記操作対象物の過去の軌道と、前記操作対象物の将来の予測軌道と、前記オブジェクトの過去の軌道と、前記オブジェクトの将来の予測軌道とのうちの少なくとも1つをさらに表示する、請求項1乃至4の何れか1項に記載の制御装置。
  6. 前記情報提供手段は、前記オブジェクトの地理的位置、速度及び加速度に基づいて前記オブジェクトの将来の予測軌道を生成し、前記予測軌道を前記制御装置に提供する、請求項5に記載の制御装置。
  7. 前記情報提供手段は、所定の正確性を満たすように前記オブジェクトに関する情報を提供できない場合に、前記情報を生成するための元データを前記制御装置に提供する、請求項6に記載の制御装置。
  8. 前記情報提供手段は、前記操作対象物に含まれる、請求項6又は7に記載の制御装置。
  9. 前記表示制御手段は、前記情報提供手段から前記情報を取得する際に生じる遅延を考慮して前記仮想オブジェクトの表示位置を決定する、請求項1乃至8の何れか1項に記載の制御装置。
  10. 前記制御装置は、前記操作対象物へ操作指示を提供する提供手段を更に備え、
    前記表示制御手段は、前記提供手段から前記操作対象物へ前記操作指示を提供する際に生じる遅延を更に考慮して前記仮想オブジェクトの表示位置を決定する、請求項9に記載の制御装置。
  11. 前記表示制御手段は、前記仮想オブジェクトを用いて前記オブジェクトに関する表示を行う第1表示モードと、前記操作対象物によって得られた画像を用いて前記オブジェクトに関する表示を行う第2表示モードとを含む複数の表示モードから表示モードを選択可能である、請求項1乃至10の何れか1項に記載の制御装置。
  12. 前記表示制御手段は、前記表示モードを変更する場合に、前記制御装置の使用者に前記表示モードの変更を通知する、請求項11に記載の制御装置。
  13. 前記表示制御手段は、前記表示モードを変更する前に、前記操作対象物の移動速度を低下させる、請求項11又は12に記載の制御装置。
  14. 前記表示制御手段は、前記操作対象物の移動速度が閾値速度以下であることを条件として、前記表示モードを変更する、請求項11乃至13の何れか1項に記載の制御装置。
  15. 前記表示制御手段は、前記情報提供手段と前記制御装置との間の通信状態に基づいて表示モードを選択する、請求項11乃至14の何れか1項に記載の制御装置。
  16. 前記表示制御手段は、前記通信状態に基づいて閾値以上の遅延が予想される場合に、前記第1表示モードを選択する、請求項15に記載の制御装置。
  17. 前記表示制御手段は、前記操作対象物を表す仮想オブジェクトをさらに表示する、請求項1乃至16の何れか1項に記載の制御装置。
  18. 前記表示制御手段は、前記操作対象物の大きさに応じて前記操作対象物を表す仮想オブジェクトの表示サイズを決定する、請求項17に記載の制御装置。
  19. コンピュータを請求項1乃至18の何れか1項に記載の制御装置の各手段として機能させるためのプログラム。
  20. 操作対象物を遠隔から操作するための制御方法であって、
    前記操作対象物の周囲に存在し、前記制御方法を実行する制御装置の操作対象ではないオブジェクトに関する情報を、前記制御装置の外部の情報提供手段から取得する取得工程と、
    前記オブジェクトに関する情報に基づいて、前記オブジェクトを表すための仮想オブジェクトを決定する決定工程と、
    前記オブジェクトの地理的位置に対応する表示位置に前記仮想オブジェクトを表示する表示制御工程と、
    を有する制御方法。
JP2019067125A 2019-03-29 2019-03-29 制御装置、制御方法及びプログラム Active JP7256668B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019067125A JP7256668B2 (ja) 2019-03-29 2019-03-29 制御装置、制御方法及びプログラム
CN202010192068.XA CN111752267A (zh) 2019-03-29 2020-03-18 控制装置、控制方法以及存储介质
US16/828,455 US11733694B2 (en) 2019-03-29 2020-03-24 Control apparatus, control method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019067125A JP7256668B2 (ja) 2019-03-29 2019-03-29 制御装置、制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2020167551A true JP2020167551A (ja) 2020-10-08
JP7256668B2 JP7256668B2 (ja) 2023-04-12

Family

ID=72605835

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019067125A Active JP7256668B2 (ja) 2019-03-29 2019-03-29 制御装置、制御方法及びプログラム

Country Status (3)

Country Link
US (1) US11733694B2 (ja)
JP (1) JP7256668B2 (ja)
CN (1) CN111752267A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021018744A (ja) * 2019-07-23 2021-02-15 トヨタ自動車株式会社 画像表示装置
WO2022123831A1 (ja) * 2020-12-10 2022-06-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理方法、及び、情報処理システム
WO2023277012A1 (ja) * 2021-06-28 2023-01-05 ソニーセミコンダクタソリューションズ株式会社 情報処理システム及び情報処理装置
JP7513043B2 (ja) 2022-02-15 2024-07-09 トヨタ自動車株式会社 遠隔支援方法、遠隔支援システム、及びプログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4348375A4 (en) * 2021-06-03 2024-04-10 Elbit Systems Ltd. SYSTEM AND METHOD FOR PROVIDING SCENE INFORMATION
US12056797B2 (en) * 2021-12-20 2024-08-06 Gm Cruise Holdings Llc Synthetic scene generation using spline representations of entity trajectories
US20240018746A1 (en) * 2022-07-12 2024-01-18 Caterpillar Inc. Industrial machine remote operation systems, and associated devices and methods

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170108877A1 (en) * 2014-07-30 2017-04-20 SZ DJI Technology Co., Ltd. Systems and methods for target tracking
US20180032071A1 (en) * 2016-08-01 2018-02-01 The United States of America as represented by the Secretary of the Nevy Remote information collection, situational awareness, and adaptive response system (ricsaars) for improving advance threat awareness and hazardous risk avoidance with respect to a mobile platform or entity along a path of travel including systems and methods for identifying combinations of elements of interest including hazardous combinations of detected signals and other elements with respect to the mobile platform or entity along the path or expected path of the mobile platform or entity
JP2018106676A (ja) * 2016-12-22 2018-07-05 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 情報処理装置、被操作車両、情報処理方法及びプログラム
WO2018155159A1 (ja) * 2017-02-24 2018-08-30 パナソニックIpマネジメント株式会社 遠隔映像出力システム、及び遠隔映像出力装置
JP2018142921A (ja) * 2017-02-28 2018-09-13 パナソニックIpマネジメント株式会社 自動運転制御装置、自動運転制御方法、自動運転制御プログラム、自動運転車両、遠隔制御装置、遠隔制御方法、及び遠隔制御プログラム
US20180314247A1 (en) * 2017-04-26 2018-11-01 The Charles Stark Draper Laboratory, Inc. Enhancing Autonomous Vehicle Perception wth Off-Vehicle Collected Data

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4438100B2 (ja) * 2008-05-19 2010-03-24 トヨタ自動車株式会社 表示切替装置
JP5868681B2 (ja) 2011-12-01 2016-02-24 三菱重工業株式会社 遠隔操縦車両システム
JP6131385B2 (ja) * 2014-07-30 2017-05-17 ヤンマー株式会社 遠隔操作装置
CN106791617B (zh) * 2016-12-02 2019-11-05 湖南农业大学 农用机械无线视频驾驶系统及其视频切换方法
EP3339999B1 (en) 2016-12-22 2021-10-27 Panasonic Intellectual Property Corporation of America Information processing apparatus, information processing method, and recording medium storing programm
EP3392801A1 (en) * 2017-04-21 2018-10-24 Harman International Industries, Incorporated Systems and methods for driver assistance

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170108877A1 (en) * 2014-07-30 2017-04-20 SZ DJI Technology Co., Ltd. Systems and methods for target tracking
US20180032071A1 (en) * 2016-08-01 2018-02-01 The United States of America as represented by the Secretary of the Nevy Remote information collection, situational awareness, and adaptive response system (ricsaars) for improving advance threat awareness and hazardous risk avoidance with respect to a mobile platform or entity along a path of travel including systems and methods for identifying combinations of elements of interest including hazardous combinations of detected signals and other elements with respect to the mobile platform or entity along the path or expected path of the mobile platform or entity
JP2018106676A (ja) * 2016-12-22 2018-07-05 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 情報処理装置、被操作車両、情報処理方法及びプログラム
WO2018155159A1 (ja) * 2017-02-24 2018-08-30 パナソニックIpマネジメント株式会社 遠隔映像出力システム、及び遠隔映像出力装置
JP2018142921A (ja) * 2017-02-28 2018-09-13 パナソニックIpマネジメント株式会社 自動運転制御装置、自動運転制御方法、自動運転制御プログラム、自動運転車両、遠隔制御装置、遠隔制御方法、及び遠隔制御プログラム
US20180314247A1 (en) * 2017-04-26 2018-11-01 The Charles Stark Draper Laboratory, Inc. Enhancing Autonomous Vehicle Perception wth Off-Vehicle Collected Data

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021018744A (ja) * 2019-07-23 2021-02-15 トヨタ自動車株式会社 画像表示装置
JP7238670B2 (ja) 2019-07-23 2023-03-14 トヨタ自動車株式会社 画像表示装置
WO2022123831A1 (ja) * 2020-12-10 2022-06-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理方法、及び、情報処理システム
WO2023277012A1 (ja) * 2021-06-28 2023-01-05 ソニーセミコンダクタソリューションズ株式会社 情報処理システム及び情報処理装置
WO2023276207A1 (ja) * 2021-06-28 2023-01-05 ソニーセミコンダクタソリューションズ株式会社 情報処理システム及び情報処理装置
JP7513043B2 (ja) 2022-02-15 2024-07-09 トヨタ自動車株式会社 遠隔支援方法、遠隔支援システム、及びプログラム

Also Published As

Publication number Publication date
US11733694B2 (en) 2023-08-22
US20200310416A1 (en) 2020-10-01
JP7256668B2 (ja) 2023-04-12
CN111752267A (zh) 2020-10-09

Similar Documents

Publication Publication Date Title
JP7256668B2 (ja) 制御装置、制御方法及びプログラム
CN112466140B (zh) 车辆远程指示系统
CN111775945B (zh) 用于自动驾驶的用于检测最接近的路径内对象的方法和装置
US11679764B2 (en) Method for autonomously driving a vehicle based on moving trails of obstacles surrounding the vehicle
JP7067067B2 (ja) 信号機認識装置、及び自動運転システム
CN113495560B (zh) 基于场景的自动驾驶车辆控制
JP2020165832A (ja) 経路設定装置、経路設定方法及びプログラム
JP2020164056A (ja) 制御装置、制御方法及びプログラム
JP7152339B2 (ja) 走行制御装置、走行制御方法、およびプログラム
CN111830859A (zh) 车辆远程指示系统
US11662730B2 (en) Hierarchical path decision system for planning a path for an autonomous driving vehicle
CN111399495B (zh) 具有灵活主机和客户端配置的自动驾驶计算与存储扩展装置
CN113815640B (zh) 用于具有不同速度限制的车道的车道变更系统
JP2020157830A (ja) 走行制御装置、走行制御方法、およびプログラム
KR102359497B1 (ko) 단일 차량 동작용으로 설계된 자율 주행 시스템에 따른 차량 플래툰 구현
CN112825127A (zh) 生成用于自动驾驶标记的紧密2d边界框的新方法
JP7311295B2 (ja) 制御装置、制御方法及びプログラム
WO2020202379A1 (ja) 表示制御装置、表示制御方法及びプログラム
CN112183175B (zh) 用于自动驾驶的基于当前帧的对象检测自动标记先前帧中的对象的方法
JP7256867B2 (ja) 制御装置、制御方法及びプログラム
CN113658443A (zh) 用于确定即将到来的交通灯的状态的方法、装置和系统
JP2021196744A (ja) 画像処理装置
CN111835818A (zh) 通信装置、通信方法以及存储介质
WO2023228781A1 (ja) 処理システム及び情報提示装置
JP7425911B2 (ja) 制御装置、制御方法及びプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210125

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230313

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230331

R150 Certificate of patent or registration of utility model

Ref document number: 7256668

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150