JP2014071655A - 遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法 - Google Patents

遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法 Download PDF

Info

Publication number
JP2014071655A
JP2014071655A JP2012217108A JP2012217108A JP2014071655A JP 2014071655 A JP2014071655 A JP 2014071655A JP 2012217108 A JP2012217108 A JP 2012217108A JP 2012217108 A JP2012217108 A JP 2012217108A JP 2014071655 A JP2014071655 A JP 2014071655A
Authority
JP
Japan
Prior art keywords
dimensional
detection
remote control
target
dimensional coordinates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012217108A
Other languages
English (en)
Other versions
JP5968178B2 (ja
Inventor
Shigetoshi Kameo
成寿 亀尾
Tetsuya Tomonaka
哲也 塘中
Atsushi Kuroda
淳 黒田
Shinichi Hayashi
真一 林
Hiroshi Matsuura
宏 松浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Heavy Industries Ltd
Original Assignee
Mitsubishi Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Heavy Industries Ltd filed Critical Mitsubishi Heavy Industries Ltd
Priority to JP2012217108A priority Critical patent/JP5968178B2/ja
Publication of JP2014071655A publication Critical patent/JP2014071655A/ja
Application granted granted Critical
Publication of JP5968178B2 publication Critical patent/JP5968178B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Traffic Control Systems (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

【課題】操縦対象の周囲を遠隔地に配置される表示手段に正確に表示する、ことを目的とする。
【解決手段】車両を遠隔操縦するための画像をモニタ22に表示させる遠隔操縦用画像処理装置26は、車両に設置され、検知対象の位置を3次元で検知するレーザレーダ14と、ボクセルを当てはめてモニタ22の画面に表示させる座標として、レーザレーダ14によって検知された検知対象毎の3次元座標を記憶する車両用記憶部38と、レーザレーダ14によって検知された検知対象毎の3次元座標のうち、車両用記憶部38に記憶されていない3次元座標を抽出して車両用記憶部38に追加して記憶させる追加ボクセル抽出部32と、3次元座標の時間変化に基づいて検知対象が移動したか否かを判定し、移動したと判定した検知対象に対応する3次元座標を車両用記憶部38からの削除対象として抽出する削除ボクセル抽出部36と、を備える。
【選択図】図2

Description

本発明は、遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法に関するものである。
例えば車両等の操縦対象の遠隔操縦を行う場合、車両が走行する地形や障害物等を検知する検知手段として3次元で物体を検知可能な例えばレーザレーダ等が車両に設置されている。そして、車両を遠隔操縦する操縦者は、検知手段による検知結果に基づいた画像で構成される3次元マップをモニタで確認しながら車両を遠隔操縦する。具体的には、検知手段で検知された物体の3次元座標に応じた3次元マップがモニタに表示される。
このような遠隔監視装置の一例として特許文献1には、車両に設置された赤外線カメラにより車両前方の特定範囲の赤外線画像を撮影し、車両に設置された3次元形状測定装置により特定範囲の3次元形状を検知し、演算処理装置により3次元形状から車両が通りやすい路面領域を検出し、赤外線画像上において路面領域が滑らかに見えるように画像処理した補正赤外線画像を形成し、表示装置により補正赤外線画像を表示する装置が開示されている。
特開2011−39727号公報
図11は、車両100に設置されたレーザレーダ102によって検知対象が検知され、遠隔操縦装置104のモニタ106に表示される画面の例を示している。図11に示される画面Aは、遠隔操縦を行う操縦者に表示させるべき正確な画面を示しており、検知対象を示すボクセル108が一つ表示されている。しかし、検知対象が人や車両等の移動体である場合、レーザレーダ102は検知対象の3次元座標を取得する毎に、その時刻での検知対象の位置情報が蓄積され、図11に示される画面Bのように検知対象の移動履歴が複数のボクセル108として、そのままモニタ106に表示されることとなる。
上記画面Bのような表示がモニタ106にされると、操縦者による車両100の操縦に支障をきたす恐れがある。
本発明は、このような事情に鑑みてなされたものであって、操縦対象の周囲を遠隔地に配置される表示手段に正確に表示できる、遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法を提供することを目的とする。
上記課題を解決するために、本発明の遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法は以下の手段を採用する。
本発明の第一態様に係る遠隔操縦用画像処理装置は、操縦対象を遠隔操縦するための画像を表示手段に表示させる遠隔操縦用画像処理装置であって、前記操縦対象に設置され、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段と、所定形状の画像を当てはめて前記表示手段の画面に表示させる座標として、前記3次元検知手段によって検知された前記検知対象毎の3次元座標を記憶する記憶手段と、前記3次元検知手段によって検知された前記検知対象毎の前記3次元座標のうち、前記記憶手段に記憶されていない前記3次元座標を抽出して前記記憶手段に追加して記憶させる追加座標抽出手段と、前記3次元座標の時間変化に基づいて前記検知対象が移動したか否かを判定し、移動したと判定した前記検知対象に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する削除座標抽出手段と、を備える。
本構成に係る遠隔操縦用画像処理装置は、操縦対象を遠隔操縦するための画像を表示手段に表示させる装置であって、操縦対象に設置された3次元検知手段によって、検知対象の位置を縦、横、及び深さの3次元で検知する。3次元検知手段は、例えばレーザレーダである。操縦対象は、例えば車両である。検知対象は、操縦対象が移動する地形や障害物等である。
遠隔操縦用画像処理装置は、所定形状の画像を当てはめて表示手段の画面に表示させる座標として、3次元検知手段によって検知された検知対象毎の3次元座標を記憶手段に記憶する。所定形状の画像は、例えば立方体(ボクセル)である。すなわち、記憶手段に記憶された3次元座標に対応する表示手段の画面上の位置に立方体が表示されることによって、操縦者は操縦対象の周囲を遠隔地で把握することができる。
そして、3次元検知手段によって検知された検知対象毎の3次元座標のうち、記憶手段に記憶されていない3次元座標が、追加座標抽出手段によって抽出されて記憶手段に追加して記憶される。
しかし、記憶手段に3次元座標を逐次追加して記憶させるだけでは、検知対象の位置を示す立方体が時々刻々と検知対象の移動と共に追加して表示手段に表示されることとなる。すなわち、存在しない検知対象が表示手段に表示されるので、操縦対象の周囲が表示手段に正確に表示されることとならない。
そこで、削除座標抽出手段によって、3次元座標の時間変化に基づいて検知対象が移動したか否かが判定され、移動したと判定された検知対象に対応する3次元座標が記憶手段からの削除対象として抽出される。
これにより、削除対象として抽出された3次元座標が記憶手段から削除され、存在しない検知対象が表示手段に表示されることが防止されるので、本構成は、操縦対象の周囲を遠隔地に配置される表示手段に正確に表示することができる。
上記第一態様では、前記削除座標抽出手段が、前記3次元検知手段によって検知される範囲を分割して得られた領域毎に、前記3次元座標により示される深さを求め、前記深さが過去に求めた深さよりも深い前記領域に対応する前記3次元座標を前記記憶手段からの削除対象として抽出することが好ましい。
本構成は、3次元検知手段によって検知される範囲を分割して得られた領域毎に、3次元座標により示される深さを求める。この深さは、操縦対象から検知対象までの距離のことであり、深さが過去に求めた深さよりも深い場合は、検知対象が移動したことを示す。なぜなら、3次元検知手段によって過去に検知された検知対象が移動し、該検知対象の背後に位置するものをその後3次元検知手段が検知したこととなるためである。すなわち、深さが過去に求めた深さよりも深い場合、換言すると検知対象を検知した位置がより奥に移動した場合、対応する領域の検知対象は、移動したと判定される。
そして、深さが過去に求めた深さよりも深い領域に対応する3次元座標が、記憶手段からの削除対象として抽出される。
従って、本構成は、簡易に削除対象を抽出することができる。
上記第一態様では、前記削除座標抽出手段が、前記3次元検知手段と前記検知対象を示す前記3次元座標とを結ぶ直線上に位置する過去に検知された前記3次元座標を、前記記憶手段からの削除対象として抽出することが好ましい。
本構成は、3次元検知手段と検知対象を示す3次元座標とを結ぶ直線上、すなわち新たに検知された3次元座標を向くベクトル上であって過去に検知された3次元座標を、すでに移動した検知対象と判定し、記憶手段からの削除対象として抽出する。
従って、本構成は、簡易に削除対象を抽出することができる。
上記第一態様では、前記削除座標抽出手段が、前記3次元検知手段と前記検知対象を示す前記3次元座標とを結ぶ直線上に位置する過去に検知された前記3次元座標であって、前記3次元検知手段による検知誤差に基づく削除範囲に位置する過去に検知された前記3次元座標を前記削除対象として抽出することが好ましい。
本構成は、3次元検知手段による検知には誤差が含まれているため、3次元検知手段の検知誤差の影響を受ける範囲に位置する3次元座標を削除対象としないので、削除する必要のない3次元座標を削除することを防止できる。
上記第一態様では、前記操縦対象に設置され、前記検知対象を撮像して2次元の画像情報を取得する撮像手段を備え、前記削除座標抽出手段が、前記撮像手段で取得された前記画像情報により示される色の変化に基づいて、移動したと判定された前記検知対象に対応する前記3次元座標も前記記憶手段からの削除対象として抽出することが好ましい。
本構成は、3次元検知手段では検知され難い移動する検知対象、例えば、操縦対象からの距離が略同一であって一方が移動せずに他方が移動する検知対象(壁に沿って移動している人等)があっても、色の変化を撮像手段によって検知できる。
このように本構成は、撮像手段で取得された画像情報により示される色の変化からも移動した検知対象を抽出して削除するので、より確実に削除対象とする3次元座標を抽出することができる。
本発明の第二態様に係る遠隔操縦用画像処理装置は、操縦対象を遠隔操縦するための画像を表示手段に表示させる遠隔操縦用画像処理装置であって、前記操縦対象に設置され、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段と、前記操縦対象に設置され、前記検知対象を撮像して2次元の画像情報を取得する撮像手段と、所定形状の画像を当てはめて前記表示手段の画面に表示させる座標として、前記3次元検知手段によって検知された前記検知対象毎の3次元座標を記憶する記憶手段と、前記3次元検知手段によって検知された前記検知対象毎の前記3次元座標のうち、前記記憶手段に記憶されていない前記3次元座標を抽出して前記記憶手段に追加して記憶させる追加座標抽出手段と、前記撮像手段で取得された前記画像情報に基づいて、移動した前記検知対象を抽出する抽出手段と、前記抽出手段によって抽出された前記検知対象に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する削除座標抽出手段と、を備える。
本構成に係る遠隔操縦用画像処理装置は、操縦対象を遠隔操縦するための画像を表示手段に表示させる装置であって、操縦対象に設置された3次元検知手段によって、検知対象の位置を縦、横、及び深さの3次元で検知し、撮像手段によって、検知対象を撮像して2次元の画像情報を取得する。3次元検知手段は、例えばレーザレーダである。操縦対象は、例えば車両である。検知対象は、操縦対象が移動する地形や障害物等である。
遠隔操縦用画像処理装置は、所定形状の画像を当てはめて表示手段の画面に表示させる座標として、3次元検知手段によって検知された検知対象毎の3次元座標を記憶手段に記憶する。所定形状の画像は、例えば立方体(ボクセル)ある。すなわち、記憶手段に記憶された3次元座標に対応する表示手段の画面上の位置に立方体が表示されることによって、操縦者は操縦対象の周囲を遠隔地で把握することができる。
そして、3次元検知手段によって検知された検知対象毎の3次元座標のうち、記憶手段に記憶されていない3次元座標が、追加座標抽出手段によって抽出されて記憶手段に追加して記憶される。
しかし、記憶手段に3次元座標を逐次追加して記憶させるだけでは、検知対象を示す立方体が時々刻々と検知対象の移動と共に追加して表示手段に表示されることとなる。すなわち、存在しない検知対象が表示手段に表示されるので、操縦対象の周囲が表示手段に正確に表示されることとならない。
そこで、抽出手段によって、撮像手段で取得された前記画像情報に基づいて、移動した検知対象が抽出され、抽出された検知対象に対応する3次元座標が削除座標抽出手段によって記憶手段からの削除対象として抽出される。
これにより、記憶手段から削除対象として抽出された3次元座標が削除され、存在しない検知対象が表示手段に表示されることが防止されるので、本構成は、操縦対象の周囲を遠隔地に配置される表示手段に正確に表示することができる。
本発明の第三態様に係る遠隔操縦システムは、操縦対象、及び遠隔操縦装置を備える遠隔操縦システムであって、前記操縦対象が、請求項1から請求項6の何れか1項に記載の遠隔操縦用画像処理装置と、前記追加座標抽出手段によって前記記憶手段に追加して記憶される前記3次元座標である追加座標、及び前記削除座標抽出手段によって抽出された前記3次元座標である削除座標を前記遠隔操縦装置へ送信する送信手段と、を備え、前記遠隔操縦装置が、前記操縦対象を遠隔操作するための画像を表示する表示手段と、前記送信手段からの前記追加座標及び前記削除座標を受信する受信手段と、前記受信手段によって受信された前記追加座標を記憶すると共に、前記受信手段によって受信された前記削除座標が削除される表示用記憶手段と、前記表示用記憶手段に記憶されている前記三次元座標に前記所定形状の画像を当てはめて前記表示手段に表示させる表示画面作成手段と、を備える。
本構成に係る遠隔操縦システムは、操縦対象及び遠隔操縦装置を備える。操縦対象と遠隔操縦装置は、例えば無線により遠隔操作に必要な種々の情報を送受信する。
上記記載の遠隔操縦用画像処理装置を備える操縦対象は、追加座標抽出手段によって記憶手段に追加して記憶される3次元座標である追加座標、及び削除座標抽出手段によって抽出された3次元座標である削除座標を遠隔操縦装置へ送信手段から送信する。このように、表示手段の画面に所定形状の画像を更新して表示させるための情報として、操縦対象からは追加座標及び削除座標のみが更新情報として送信される。これにより、操縦対象から遠隔操縦装置へ送信される情報量が少なくて済む。
一方、遠隔操縦装置は、操縦対象が備える送信手段からの追加座標及び削除座標を、受信手段によって受信する。そして、表示用記憶手段が、受信手段によって受信された追加座標を記憶すると共に、受信手段によって受信された削除座標が表示用記憶手段から削除される。これにより、操作対象が備える記憶手段と遠隔操縦装置が備える表示用記憶手段とに記憶される三次元座標は同一となるので、遠隔操縦装置による操縦対象の操縦がより正確に行える。
そして、表示画面作成手段によって、表示用記憶手段に記憶されている三次元座標に所定形状の画像が当てはめられて表示手段に表示される。
以上のことから、削除対象として抽出された3次元座標が記憶手段から削除され、存在しない検知対象が表示手段に表示されることが防止されるので、本構成は、操縦対象の周囲を遠隔地に配置される表示手段に正確に表示することができる。
本発明の第四態様に係る遠隔操縦用画像処理方法は、前記操縦対象に設置され、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段と、所定形状の画像を当てはめて前記表示手段の画面に表示させる座標として、前記3次元検知手段によって検知された前記検知対象毎の3次元座標を記憶する記憶手段と、を備え、操縦対象を遠隔操縦するための画像を表示手段に表示させる遠隔操縦用画像処理装置による遠隔操縦用画像処理方法であって、前記3次元検知手段によって検知された前記検知対象毎の前記3次元座標のうち、前記記憶手段に記憶されていない前記3次元座標を抽出して前記記憶手段に追加して記憶させる第1工程と、前記3次元座標の時間変化に基づいて前記検知対象が移動したか否かを判定し、移動したと判定した前記検知対象に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する第2工程と、を含む。
本発明の第五態様に係る遠隔操縦用画像処理方法は、前記操縦対象に設置され、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段と、前記操縦対象に設置され、検知対象を撮像して2次元の画像情報を取得する撮像手段と、所定形状の画像を当てはめて前記表示手段の画面に表示させる座標として、前記3次元検知手段によって検知された前記検知対象毎の3次元座標を記憶する記憶手段と、を備え、操縦対象を遠隔操縦するための画像を表示手段に表示させる遠隔操縦用画像処理装置による遠隔操縦用画像処理方法であって、前記3次元検知手段によって検知された前記検知対象毎の前記3次元座標のうち、前記記憶手段に記憶されていない前記3次元座標を抽出して前記記憶手段に追加して記憶させる第1工程と、前記撮像手段で取得された前記画像情報に基づいて、移動した前記検知対象を抽出する第2工程と、前記第2工程によって抽出した前記検知対象に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する第3工程と、を含む。
本発明によれば、操縦対象の周囲を遠隔地に配置される表示手段に正確に表示できる、という優れた効果を有する。
本発明の第1実施形態に係る遠隔操縦される車両を示す図である。 本発明の第1実施形態に係る遠隔操縦システムの構成を示すブロック図である。 本発明の第1実施形態に係るモニタに表示される画面の一例を示す模式図である。 本発明の第1実施形態に係るレーザレーダで検知される範囲の分割領域を示す模式図である。 本発明の第2実施形態に係る遠隔操縦システムの構成を示すブロック図である。 本発明の第2実施形態に係る削除対象となるボクセルを示す模式図である。 誤って削除されるボクセルの例を示す模式図である。 本発明の第2実施形態に係る削除範囲を示す模式図である。 本発明の第3実施形態に係る遠隔操縦システムの構成を示すブロック図である。 本発明の第4実施形態に係る遠隔操縦システムの構成を示すブロック図である。 従来の遠隔監視装置のモニタに表示される画像を示す模式図である。
以下に、本発明に係る遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法の一実施形態について、図面を参照して説明する。
〔第1実施形態〕
以下、本発明の第1実施形態について説明する。
図1は、本第1実施形態に係る遠隔操縦システム10の操縦対象である車両12を示す図である。
車両12は、無人で走行可能とされており、遠隔操縦システム10の遠隔操縦装置20(図2も参照)によって遠隔操縦される。
そして、車両12は、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段としてレーザレーダ14が設置されている。検知対象は、車両12が移動する地形や人を含む障害物等である。なお、レーザレーダ14の設置位置は、一例として車両12の屋根であるが、これに限らず、他の設置位置でもよい。
レーザレーダ14は所定数のレーザを照射し、各レーザの反射点の位置(x,y,z)が検知対象の位置とされる。レーザレーダ14の検知範囲は、図1に示されるように車両12の周方向(ヨー方向)と車両12の高さ方向(ピッチ方向)であり、レーザレーダ14そのものが車両12の周方向に角度θn(例えば360度)で回転し、高さ方向に角度φnで回動することで、車両12の周囲を検知する。これにより、車両12の周囲の検知対象が検知される。
図2は、第1実施形態に係る遠隔操縦システム10の構成を示すブロック図である。なお、図2に示されるブロック図は、遠隔操縦装置20が備えるモニタ22に車両12の周囲を表示させるために用いられる構成を主に示したものである。モニタ22は、遠隔操縦装置20によって車両12の周囲を操縦者が把握するためのものである。
車両12は、レーザレーダ14の他に、車両位置情報取得部24、遠隔操縦用画像処理装置26、及び送信部28を備える。
車両位置情報取得部24は、GPS(Global Positioning System)であり、車両12の位置を緯度及び経度によって特定する。
遠隔操縦用画像処理装置26は、ボクセル作成部30、追加ボクセル抽出部32、深さマップ作成部34、削除ボクセル抽出部36、及び車両用記憶部38を備える。
ボクセル作成部30は、レーザレーダ14による検知結果(x,y,z)と車両位置情報取得部24による車両12の位置情報に基づいて、レーザレーダ14によって検知された検知対象の位置を示す3次元座標を世界座標系に変換し、変換した3次元座標を所定形状の画像を当てはめて遠隔操縦装置20が備えるモニタ22の画面に表示させる座標とする。所定形状の画像は、例えば立方体あり、これを以下ボクセルという。
すなわち、3次元座標に対応するモニタ22の画面上の位置にボクセルが表示されることによって、操縦者は車両12の周囲を遠隔地で把握することができる。
より具体的には、レーザレーダ14から照射される複数本のレーザが、例えば建物に反射した場合、その反射点の位置毎に3次元座標が得られる。そして、得られた複数の3次元座標を中心としたボクセル40が、モニタ22の画面上で配置されることで、図3に示されるように建物が表わされる。図3の例では、建物のみをボクセル40で表示しているが、地面等も含むレーザレーダ14の検知対象は、全てボクセル40で表わされる。このようにして、車両12の周囲がモニタ22に表示されることとなる。なお、説明を容易にするために図3では、モニタ22の画面上にボクセル40の中心(黒点)が表示されているが、実際にはボクセル40の中心は表示されなくてもよい。
追加ボクセル抽出部32は、レーザレーダ14によって検知された検知対象毎の3次元座標のうち、車両用記憶部38に記憶されていない3次元座標を抽出して車両用記憶部38に追加して記憶させる。抽出した3次元座標は、車両用記憶部38と共に送信部28に出力される。
追加ボクセル抽出部32による3次元座標の抽出及び車両用記憶部38への記憶によって、車両用記憶部38には世界座標系でボクセル40を配置する位置を示したボクセルマップが構築されることとなる。
深さマップ作成部34は、レーザレーダ14による検知結果(x,y,z)と車両位置情報取得部24による車両12の位置情報に基づいて、レーザレーダ14によって検知された検知対象の位置を示す3次元座標を世界座標系に変換する。そして、深さマップ作成部34は、レーザレーダ14によって検知される範囲を分割して得られた領域(以下、「分割領域」という。)毎に、3次元座標により示される深さを求める。この深さは、車両12から検知対象までの距離のことである。
例えば、図4に示されるようにレーザレーダ14の検知範囲が、例えば、車両12の周方向に360度及び高さ方向にN度から−N度までであり、分割領域として周方向に8分割し、高さ方向に3分割することによって、24の分割領域が得られる。
そして、分割領域毎に深さD(θn,φn)が求められたマップが深さマップである。
削除ボクセル抽出部36は、深さマップにより示される深さD(θn,φn)が過去に求めた深さD(θn,φn)よりも深い分割領域を求め、該分割領域に対応する3次元座標を車両用記憶部38からの削除対象として抽出する。
送信部28は、追加ボクセル抽出部32によって車両用記憶部38に追加して記憶される3次元座標である追加座標、及び削除ボクセル抽出部36によって抽出された3次元座標である削除座標を遠隔操縦装置20へ送信する。
遠隔操縦装置20は、モニタ22の他に受信部42、表示用記憶部44、及び表示画面作成部46を備える。
受信部42は、送信部28からの追加座標及び削除座標を受信する。
表示用記憶部44は、受信部42によって受信された追加座標を記憶すると共に、受信部42によって受信された削除座標が削除される。
表示画面作成部46は、表示用記憶部44に記憶されている三次元座標にボクセル40を当てはめてモニタ22に表示させる。
なお、遠隔操縦用画像処理装置26及び遠隔操縦装置20は、例えば、CPU(Central Processing Unit)、RAM(Random Access Memory)、及びコンピュータ読み取り可能な記録媒体等から構成されている。そして、各種機能を実現するための一連の処理は、一例として、プログラムの形式で記録媒体等に記録されており、このプログラムをCPUがRAM等に読み出して、情報の加工・演算処理を実行することにより、各種機能が実現される。
次に、本第1実施形態に係る遠隔操縦システム10の作用を説明する。
遠隔操縦用画像処理装置26によって車両用記憶部38に3次元座標を逐次追加して記憶させるだけでは、検知対象の位置を示すボクセル40が時々刻々と検知対象の移動と共に追加してモニタ22に表示されることとなる。すなわち、存在しない検知対象がモニタ22に表示されるので、車両12の周囲がモニタ22に正確に表示されることとならない。
そこで、削除ボクセル抽出部36によって、3次元座標の時間変化に基づいて検知対象が移動したか否かが判定され、移動したと判定された検知対象に対応する3次元座標が車両用記憶部38からの削除対象として抽出される。なお、以下の説明において、3次元座標の削除とボクセル40の削除は、同義である。
本第1実施形態に係る削除ボクセル抽出部36は、上述したように深さマップにより示される深さが過去に求めた深さよりも深い分割領域に対応する3次元座標を車両用記憶部38からの削除対象として抽出する。深さが過去に求めた深さよりも深い場合は、検知対象が移動したことを示す。なぜなら、過去に検知された検知対象が移動し、該検知対象の背後に位置するものをその後レーザレーダ14が検知したこととなるためである。すなわち、深さが過去に求めた深さよりも深い場合、換言すると検知対象を検知した位置(レーザの反射点)がより奥に移動した場合、対応する分割領域の検知対象は、移動したと判定される。
これにより、本第2実施形態に係る削除ボクセル抽出部36は、簡易に削除対象を抽出することができる。
そして、車両12は、追加ボクセル抽出部32によって車両用記憶部38に追加して記憶される3次元座標である追加座標、及び削除ボクセル抽出部36によって抽出された3次元座標である削除座標を遠隔操縦装置20へ送信部28から送信する。このように、モニタ22の画面にボクセル40を更新して表示させるための情報として、車両12からは追加座標及び削除座標のみが更新情報として送信される。これにより、車両12から遠隔操縦装置20へ送信される情報量が少なくて済む。
一方、遠隔操縦装置20は、車両12が備える送信部28からの追加座標及び削除座標を受信部42によって受信する。そして、表示用記憶部44が、受信部42によって受信された追加座標を記憶すると共に、受信部42によって受信された削除座標が表示用記憶部44から削除される。これにより、車両12が備える車両用記憶部38と遠隔操縦装置20が備える表示用記憶部44とに記憶される三次元座標は同一となるので、遠隔操縦装置20による操縦対象の操縦がより正確に行える。
そして、表示画面作成部46によって、表示用記憶部44に記憶されている三次元座標にボクセル40が当てはめられてモニタ22に表示される。
以上説明したように、本第1実施形態に係る遠隔操縦システム10は、削除対象として抽出した3次元座標を車両用記憶部38及び表示用記憶部44から削除することで、存在しない検知対象がモニタ22に表示されることが防止され、車両12の周囲を遠隔地に配置されるモニタ22に正確に表示することができる。
〔第2実施形態〕
以下、本発明の第2実施形態について説明する。
図5は、本第2実施形態に係る遠隔操縦システム10の構成を示す。なお、図5における図2と同一の構成部分については図2と同一の符号を付して、その説明を省略する。
上述した第1実施形態に係る遠隔操縦システム10は、深さマップ作成部34を備えていたが、本第2実施形態に係る遠隔操縦システム10は、深さマップ作成部34を備えず、かつ削除ボクセル抽出部36の機能が第1実施形態に係る削除ボクセル抽出部36と異なる。
本第2実施形態に係る削除ボクセル抽出部36は、レーザレーダ14と検知対象を示す3次元座標とを結ぶ直線上に位置する過去に検知された3次元座標を、車両用記憶部38及び表示用記憶部44からの削除対象として抽出する。
これにより、レーザレーダ14と検知対象を示す3次元座標とを結ぶ直線上、すなわち新たに検知された3次元座標を向くベクトル上に位置する過去に検知された3次元座標が、すでに移動した検知対象であると削除ボクセル抽出部36によって判定され、削除対象として抽出される。従って、本第2実施形態に係る削除ボクセル抽出部36は、簡易に削除対象を抽出することができる。
図6は、本第2実施形態に係る削除ボクセル抽出部36によって削除対象として抽出されるボクセル40(三次元座標)を示す模式図である。図6に示されるように、新たに作成されたボクセル40Aと車両12との間に位置し、過去に作成されたボクセル40Bが削除対象となる。
また、レーザレーダ14が、例えば64本のレーザを照射して、x度の間隔で周方向に360度で回転している場合、(360/x)×64箇所において上記判定を行うこととなる。
ここで、レーザレーダ14による検知には誤差が含まれている。このため、図7の例に示されるように、新たな検知により得られたボクセル40C(3次元座標)に誤差が含まれると、ボクセル40Cとレーザレーダ14(車両12)との間に位置するボクセル40であって、本来削除対象とならないボクセル40D,40Eが削除対象となる場合がある。
そこで、本第2実施形態に係る削除ボクセル抽出部36は、レーザレーダ14と検知対象を示す3次元座標とを結ぶ直線上に位置する過去に検知された3次元座標であって、図8に示されるようにレーザレーダ14の検知誤差に基づく削除範囲L’に位置する過去に検知された3次元座標を削除対象として抽出する。これにより、本第2実施形態に係る削除ボクセル抽出部36は、レーザレーダ14の検知誤差の影響を受ける範囲に位置する3次元座標(ボクセル40)を削除対象としないので、削除する必要のない3次元座標を削除することを防止できる。
削除範囲L’は、下記(1)式に示されるようにレーザレーダ14と新たに検知した3次元座標との間の距離Lから算出される。
Figure 2014071655
Vはボクセル40の一辺のサイズ(以下、「ボクセルサイズ」という。)であり、σは距離Lでの誤差標準偏差である。
ここで、削除範囲L’にボクセルサイズVが含まれている理由は以下の通りである。
削除範囲L’での誤差標準偏差σ’は、下記(2)式に示される。
Figure 2014071655
誤差標準偏差σ’がボクセルサイズVよりも大きければ誤って削除される可能性がある。そのため、σ’≦Vを削除の条件とし、一例として(2)式においてσ’=Vとすることで、(1)式が得られる。
以上説明したように、本第2実施形態に係る遠隔操縦システム10は、レーザレーダ14と検知対象を示す3次元座標とを結ぶ直線上に位置する過去に検知された3次元座標を、車両用記憶部38からの削除対象として抽出するので、簡易に削除対象を抽出することができる。
〔第3実施形態〕
以下、本発明の第3実施形態について説明する。
図9は、本第3実施形態に係る遠隔操縦システム10の構成を示す。なお、図9における図2と同一の構成部分については図2と同一の符号を付して、その説明を省略する。
本第3実施形態に係る車両12は、検知対象を撮像して2次元の画像情報を取得するカメラ50が設置されている。なお、カメラ50による撮像範囲の座標とレーザレーダ14による検知範囲の座標は、一致するように校正(キャリブレーション)されている。
カメラ50は、レーザレーダ14では検知され難い移動する検知対象、例えば、車両12からの距離が略同一であって一方が移動せずに他方が移動する検知対象(例えば壁に沿って移動している人等)があっても、これらを色の変化によって検知できる。
そこで、遠隔操縦用画像処理装置26は、色変化判定部52を備える。
色変化判定部52は、カメラ50によって取得された画像情報の時間変化から、色が変化した領域を判定する。色変化判定部52は、例えば、色の変化が閾値K以上であれば、色が変化した領域として判定する。
本第3実施形態に係る削除ボクセル抽出部36は、第1実施形態と同様に深さマップにより示される深さが過去に求めた深さよりも深い分割領域に対応する3次元座標を車両用記憶部38からの削除対象として抽出する。そして、これに加え、本第3実施形態に係る削除ボクセル抽出部36は、色変化判定部52によって判定された領域に対応する3次元座標も車両用記憶部38からの削除対象として抽出する。
すなわち、本第3実施形態に係る削除ボクセル抽出部36は、カメラ50で取得された画像情報により示される色の変化に基づいて、移動したと判定された検知対象に対応する3次元座標も車両用記憶部38からの削除対象として抽出する。
従って、移動した検知対象であっても、レーザレーダ14による検知結果からは削除対象とされなかった3次元座標であっても、カメラ50によって取得された画像情報により、削除対象と判定される。これにより、本第2実施形態に係る遠隔操縦システム10は、より確実に削除対象とする3次元座標を抽出することができる。
〔第4実施形態〕
以下、本発明の第4実施形態について説明する。
図10は、本第4実施形態に係る遠隔操縦システム10の構成を示す。なお、図10における図2と同一の構成部分については図2と同一の符号を付して、その説明を省略する。
本第4実施形態に係る遠隔操縦用画像処理装置26は、深さマップ作成部34を備えていない一方、車両12にはカメラ50が設置され、遠隔操縦用画像処理装置26には移動体抽出部60が備えられている。
カメラ50は、検知対象を撮像して2次元の画像情報を取得する。なお、カメラ50による撮像範囲の座標とレーザレーダ14による検知範囲の座標は、一致するように校正(キャリブレーション)されている。
移動体抽出部60は、カメラ50で取得された画像情報に基づいて、移動した検知対象を抽出する。なお、画像情報に基づいて移動した検知対象を抽出する方法は、従来既知の方法で良い。
そして、削除ボクセル抽出部36は、移動体抽出部60によって抽出された検知対象に対応する3次元座標を車両用記憶部38からの削除対象として抽出する。
これにより、本第4実施形態に係る遠隔操縦システム10は、削除対象として抽出された3次元座標が車両用記憶部38及び表示用記憶部44から削除され、存在しない検知対象がモニタ22に表示されることが防止される。従って、本第1実施形態に係る遠隔操縦システム10は、車両12の周囲を遠隔地に配置されるモニタ22に正確に表示することができる。
以上、本発明を、上記各実施形態を用いて説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されない。発明の要旨を逸脱しない範囲で上記各実施形態に多様な変更又は改良を加えることができ、該変更又は改良を加えた形態も本発明の技術的範囲に含まれる。
例えば、上記各実施形態では、遠隔操縦システム10による操縦対象を車両12とする形態について説明したが、本発明は、これに限定されるものではなく、操縦対象を例えば航空機やロボット等とする形態としてもよい。
また、上記各実施形態では、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段としてレーザレーダを用いる形態について説明したが、本発明は、これに限定されるものではなく、3次元検知手段としてステレオカメラ等を用いる形態としてもよい。
また、上記各実施形態では、レーザレーダ14を周方向に360度で回転させる形態について説明したが、本発明は、これに限定されるものではなく、レーザレーダ14を360度未満の所定範囲で回動させる形態としてもよい。
10 遠隔操縦システム
12 車両
14 レーザレーダ
20 遠隔操縦装置
26 遠隔操縦用画像処理装置
28 送信部
32 追加ボクセル抽出部
36 削除ボクセル抽出部
38 車両用記憶部
42 受信部
44 表示用記憶部
46 表示画面作成部
50 カメラ
60 移動体抽出部

Claims (9)

  1. 操縦対象を遠隔操縦するための画像を表示手段に表示させる遠隔操縦用画像処理装置であって、
    前記操縦対象に設置され、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段と、
    所定形状の画像を当てはめて前記表示手段の画面に表示させる座標として、前記3次元検知手段によって検知された前記検知対象毎の3次元座標を記憶する記憶手段と、
    前記3次元検知手段によって検知された前記検知対象毎の前記3次元座標のうち、前記記憶手段に記憶されていない前記3次元座標を抽出して前記記憶手段に追加して記憶させる追加座標抽出手段と、
    前記3次元座標の時間変化に基づいて前記検知対象が移動したか否かを判定し、移動したと判定した前記検知対象に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する削除座標抽出手段と、
    を備える遠隔操縦用画像処理装置。
  2. 前記削除座標抽出手段は、前記3次元検知手段によって検知される範囲を分割して得られた領域毎に、前記3次元座標により示される深さを求め、前記深さが過去に求めた深さよりも深い前記領域に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する請求項1記載の遠隔操縦用画像処理装置。
  3. 前記削除座標抽出手段は、前記3次元検知手段と前記検知対象を示す前記3次元座標とを結ぶ直線上に位置する過去に検知された前記3次元座標を、前記記憶手段からの削除対象として抽出する請求項1記載の遠隔操縦用画像処理装置。
  4. 前記削除座標抽出手段は、前記3次元検知手段と前記検知対象を示す前記3次元座標とを結ぶ直線上に位置する過去に検知された前記3次元座標であって、前記3次元検知手段による検知誤差に基づく削除範囲に位置する過去に検知された前記3次元座標を前記削除対象として抽出する請求項3記載の遠隔操縦用画像処理装置。
  5. 前記操縦対象に設置され、前記検知対象を撮像して2次元の画像情報を取得する撮像手段を備え、
    前記削除座標抽出手段は、前記撮像手段で取得された前記画像情報により示される色の変化に基づいて、移動したと判定された前記検知対象に対応する前記3次元座標も前記記憶手段からの削除対象として抽出する請求項1から請求項4何れか1項記載の遠隔操縦用画像処理装置。
  6. 操縦対象を遠隔操縦するための画像を表示手段に表示させる遠隔操縦用画像処理装置であって、
    前記操縦対象に設置され、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段と、
    前記操縦対象に設置され、前記検知対象を撮像して2次元の画像情報を取得する撮像手段と、
    所定形状の画像を当てはめて前記表示手段の画面に表示させる座標として、前記3次元検知手段によって検知された前記検知対象毎の3次元座標を記憶する記憶手段と、
    前記3次元検知手段によって検知された前記検知対象毎の前記3次元座標のうち、前記記憶手段に記憶されていない前記3次元座標を抽出して前記記憶手段に追加して記憶させる追加座標抽出手段と、
    前記撮像手段で取得された前記画像情報に基づいて、移動した前記検知対象を抽出する抽出手段と、
    前記抽出手段によって抽出された前記検知対象に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する削除座標抽出手段と、
    を備える遠隔操縦用画像処理装置。
  7. 操縦対象、及び遠隔操縦装置を備える遠隔操縦システムであって、
    前記操縦対象は、
    請求項1から請求項6の何れか1項に記載の遠隔操縦用画像処理装置と、
    前記追加座標抽出手段によって前記記憶手段に追加して記憶される前記3次元座標である追加座標、及び前記削除座標抽出手段によって抽出された前記3次元座標である削除座標を前記遠隔操縦装置へ送信する送信手段と、
    を備え、
    前記遠隔操縦装置は、
    前記操縦対象を遠隔操作するための画像を表示する表示手段と、
    前記送信手段からの前記追加座標及び前記削除座標を受信する受信手段と、
    前記受信手段によって受信された前記追加座標を記憶すると共に、前記受信手段によって受信された前記削除座標が削除される表示用記憶手段と、
    前記表示用記憶手段に記憶されている前記三次元座標に前記所定形状の画像を当てはめて前記表示手段に表示させる表示画面作成手段と、
    を備える遠隔操縦システム。
  8. 前記操縦対象に設置され、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段と、所定形状の画像を当てはめて前記表示手段の画面に表示させる座標として、前記3次元検知手段によって検知された前記検知対象毎の3次元座標を記憶する記憶手段と、を備え、操縦対象を遠隔操縦するための画像を表示手段に表示させる遠隔操縦用画像処理装置による遠隔操縦用画像処理方法であって、
    前記3次元検知手段によって検知された前記検知対象毎の前記3次元座標のうち、前記記憶手段に記憶されていない前記3次元座標を抽出して前記記憶手段に追加して記憶させる第1工程と、
    前記3次元座標の時間変化に基づいて前記検知対象が移動したか否かを判定し、移動したと判定した前記検知対象に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する第2工程と、
    を含む遠隔操縦用画像処理方法。
  9. 前記操縦対象に設置され、検知対象の位置を縦、横、及び深さの3次元で検知する3次元検知手段と、前記操縦対象に設置され、検知対象を撮像して2次元の画像情報を取得する撮像手段と、所定形状の画像を当てはめて前記表示手段の画面に表示させる座標として、前記3次元検知手段によって検知された前記検知対象毎の3次元座標を記憶する記憶手段と、を備え、操縦対象を遠隔操縦するための画像を表示手段に表示させる遠隔操縦用画像処理装置による遠隔操縦用画像処理方法であって、
    前記3次元検知手段によって検知された前記検知対象毎の前記3次元座標のうち、前記記憶手段に記憶されていない前記3次元座標を抽出して前記記憶手段に追加して記憶させる第1工程と、
    前記撮像手段で取得された前記画像情報に基づいて、移動した前記検知対象を抽出する第2工程と、
    前記第2工程によって抽出した前記検知対象に対応する前記3次元座標を前記記憶手段からの削除対象として抽出する第3工程と、
    を含む遠隔操縦用画像処理方法。
JP2012217108A 2012-09-28 2012-09-28 遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法 Active JP5968178B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012217108A JP5968178B2 (ja) 2012-09-28 2012-09-28 遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012217108A JP5968178B2 (ja) 2012-09-28 2012-09-28 遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法

Publications (2)

Publication Number Publication Date
JP2014071655A true JP2014071655A (ja) 2014-04-21
JP5968178B2 JP5968178B2 (ja) 2016-08-10

Family

ID=50746803

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012217108A Active JP5968178B2 (ja) 2012-09-28 2012-09-28 遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法

Country Status (1)

Country Link
JP (1) JP5968178B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017021517A (ja) * 2015-07-09 2017-01-26 株式会社Ihiエアロスペース 遠隔操縦システムと方法
JP2017162081A (ja) * 2016-03-08 2017-09-14 トヨタ自動車株式会社 カーシェアリングシステム
US10101737B2 (en) 2016-03-04 2018-10-16 Toyota Jidosha Kabushiki Kaisha Remote operation system, vehicle, and remote operation apparatus
US20190179302A1 (en) 2017-12-08 2019-06-13 Toyota Jidosha Kabushiki Kaisha Vehicle remote operation system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010510559A (ja) * 2006-10-30 2010-04-02 テレ アトラス ベスローテン フエンノートシャップ 地上モバイルマッピングデータからオブジェクトを検出する方法及び装置
JP2010134499A (ja) * 2008-12-02 2010-06-17 Mitsubishi Electric Corp 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム
JP2011039727A (ja) * 2009-08-10 2011-02-24 Ihi Corp 車両操縦用画像表示装置および方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010510559A (ja) * 2006-10-30 2010-04-02 テレ アトラス ベスローテン フエンノートシャップ 地上モバイルマッピングデータからオブジェクトを検出する方法及び装置
JP2010134499A (ja) * 2008-12-02 2010-06-17 Mitsubishi Electric Corp 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム
JP2011039727A (ja) * 2009-08-10 2011-02-24 Ihi Corp 車両操縦用画像表示装置および方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017021517A (ja) * 2015-07-09 2017-01-26 株式会社Ihiエアロスペース 遠隔操縦システムと方法
US10101737B2 (en) 2016-03-04 2018-10-16 Toyota Jidosha Kabushiki Kaisha Remote operation system, vehicle, and remote operation apparatus
JP2017162081A (ja) * 2016-03-08 2017-09-14 トヨタ自動車株式会社 カーシェアリングシステム
US20190179302A1 (en) 2017-12-08 2019-06-13 Toyota Jidosha Kabushiki Kaisha Vehicle remote operation system
US10437242B2 (en) 2017-12-08 2019-10-08 Toyota Jidosha Kabushiki Kaisha Vehicle remote operation system

Also Published As

Publication number Publication date
JP5968178B2 (ja) 2016-08-10

Similar Documents

Publication Publication Date Title
JP7297017B2 (ja) オンボードセンサの外部パラメータを較正する方法及び装置、並びに関連する車両
CN109017570B (zh) 车辆周围场景呈现方法和装置、车辆
KR101928689B1 (ko) 점군 화상 생성 장치 및 표시 시스템
US10024965B2 (en) Generating 3-dimensional maps of a scene using passive and active measurements
EP3164769B1 (en) Machine safety dome
EP2481637B1 (en) Parking Assistance System and Method
US20170269613A1 (en) Inspection system and method for performing inspections in a storage facility
EP3346237B1 (en) Information processing apparatus, information processing method, and computer-readable medium for obstacle detection
KR20190132404A (ko) 신경망 이미지 프로세싱을 사용하는 3d 경계 박스들로서의 직접 차량 검출
JP6445808B2 (ja) 画像表示システム
WO2016125332A1 (ja) 車体外部移動物体検知システム
KR102056147B1 (ko) 자율주행차량을 위한 거리 데이터와 3차원 스캔 데이터의 정합 방법 및 그 장치
JP2017215939A (ja) 情報処理装置、車両、情報処理方法およびプログラム
US10885353B2 (en) Information processing apparatus, moving object, information processing method, and computer program product
US20140232871A1 (en) Method for manually calibrating a camera mounted on vehicle
US11257369B2 (en) Off road route selection and presentation in a drive assistance system equipped vehicle
US20200183009A1 (en) Information output device, terminal device, control method, program and storage medium
JP5968178B2 (ja) 遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法
US20210263533A1 (en) Mobile object and method for controlling mobile object
JP5473383B2 (ja) 断面計測装置、断面計測方法および断面計測プログラム
CN112824997A (zh) 用于局部行进车道感知的方法和系统
KR20200038140A (ko) 정밀 지도 업데이트 장치 및 방법
JP2022012369A (ja) 産業車両
JP7146271B2 (ja) 埋設物計測装置、方法、及びプログラム
EP3416094B1 (en) Information processing apparatus, information processing method, and computer readable medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150729

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160705

R151 Written notification of patent or utility model registration

Ref document number: 5968178

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151