JP2017030688A - 作業機械の周囲監視装置 - Google Patents
作業機械の周囲監視装置 Download PDFInfo
- Publication number
- JP2017030688A JP2017030688A JP2015155690A JP2015155690A JP2017030688A JP 2017030688 A JP2017030688 A JP 2017030688A JP 2015155690 A JP2015155690 A JP 2015155690A JP 2015155690 A JP2015155690 A JP 2015155690A JP 2017030688 A JP2017030688 A JP 2017030688A
- Authority
- JP
- Japan
- Prior art keywords
- detection
- unit
- stationary
- moving body
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012806 monitoring device Methods 0.000 title claims abstract description 19
- 238000001514 detection method Methods 0.000 claims abstract description 260
- 239000003550 marker Substances 0.000 claims abstract description 94
- 238000003384 imaging method Methods 0.000 claims description 9
- 238000012544 monitoring process Methods 0.000 claims description 8
- 240000004050 Pentaglottis sempervirens Species 0.000 abstract description 8
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 abstract description 8
- 238000000034 method Methods 0.000 description 41
- 238000010586 diagram Methods 0.000 description 14
- 230000003287 optical effect Effects 0.000 description 4
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
Images
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/24—Safety devices, e.g. for preventing overload
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Mining & Mineral Resources (AREA)
- Civil Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Structural Engineering (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Component Parts Of Construction Machinery (AREA)
Abstract
【課題】障害物認識性能の向上を図ることができる周囲監視装置の提供。【解決手段】周囲監視装置100は、カメラ105〜120から撮像情報を取得する映像獲得部125と、取得された撮像情報に基づいて俯瞰画像を生成する俯瞰画像生成部155と、移動体を検知する移動体検知部160と、検知された移動体が静止すると、その移動体の静止を検知する静止位置算出部170と、検知された移動体の位置を示す第1検知マーカまたは静止位置算出部170により検知された移動体の位置を示す第2検知マーカの少なくとも一方が、俯瞰画像に重畳表示された表示画像を生成する表示画像生成部135と、を備える。表示画像生成部135は、移動体検知部160により移動体が検知されると、移動体の位置を示す第1検知マーカを俯瞰画像に重畳表示し、移動体の静止が検知されると、静止位置を示す第2検知マーカを俯瞰画像に重畳表示する。【選択図】図2
Description
本発明は、作業機械の周囲監視装置に関する。
建設機械、鉱山機械などの大型作業機械は、車両が大きいことから運転者から周囲を見たときに死角が多い。そのため、車両周囲にカメラを搭載し、周囲状況を映像で監視する周囲監視装置が知られている。例えば、非特許文献1に記載の装置では、カメラで車両周囲の映像を取得し、その映像内の移動体を検知して移動体の存在を示すマーカを表示部に表示し警告音を発生するようにしている。
"移動物検知"、[online]、日産自動車株式会社、[平成27年6月5日検索]、インターネット<URL:http://www.nissan- global.com/JP/TECHNOLOGY/OVERVIEW/mod.html>
しかしながら、移動体に対してはマーカ表示や警告音発生が行われるが、移動体が静止するとそれらが停止する。そのため、静止した移動体が表示部に表示されているにも拘わらずマーカ表示や警告音が停止するので、運転者は装置の故障と勘違いするおそれがあった。
本発明に係る作業機械の周囲監視装置は、作業機械周囲を撮像する撮像装置から撮像情報を取得する取得部と、前記取得部で取得された撮像情報に基づいて俯瞰画像を生成する俯瞰画像生成部と、作業機械周囲の移動体を検知する第1検知部と、前記第1検知部により検知された移動体が静止したことを検知する第2検知部と、前記第1検知部により検知された移動体の位置を示す第1検知マーカまたは前記第2検知部により検知された移動体の位置を示す第2検知マーカの少なくとも一方が、前記俯瞰画像に重畳表示された表示画像を生成する表示画像生成部と、を備え、前記表示画像生成部は、前記第1検知部により移動体が検知されると、移動体の位置を示す第1検知マーカを前記俯瞰画像に重畳表示し、前記第2検知部により移動体の静止が検知されると、静止位置を示す第2検知マーカを前記俯瞰画像に重畳表示する。
本発明によれば、移動体が静止した場合には第2検知マーカが表示されるので、運転者は装置の故障と勘違いするのを防止でき、障害物認識性能の向上を図ることができる。
以下、図面を参照して本発明の一実施の形態による作業機械の周囲監視装置について詳細に説明する。本実施の形態では、作業機械の一例として、鉱山での作業等に用いられる鉱山ダンプを例に説明する。なお、以下において、「左方」とは鉱山ダンプの運転室から見た左方向であり、「右方」とは鉱山ダンプの運転室から見た右方向である。
図1は、本発明の一実施の形態による周囲監視装置を搭載する鉱山ダンプ200を示す図である。鉱山ダンプ200の運転室210の前方には、鉱山ダンプ200の前方を撮影する前方カメラ105が設けられている。鉱山ダンプ200の左側面には、例えば、前輪205の上方には、鉱山ダンプ200の左方を撮影する左方カメラ120が設けられている。また、図1は鉱山ダンプ200を左方から見た図であるため、図1では示されていないが、鉱山ダンプ200の右側面には、鉱山ダンプ200の右方を撮影する右方カメラ115(後述する図2参照)が設けられている。鉱山ダンプ200の後部であって、荷台215の下には、鉱山ダンプ200の後方を撮影する後方カメラ110が設けられている。鉱山ダンプ200の運転室内に設けられた周囲監視装置が設けられている。
前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120は、それぞれ魚眼レンズのような広画角のレンズを有し、地表面を主に撮影するために所定の俯角をつけて設置されている。前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120から出力された映像データは、運転室210内に設けられた周囲監視装置に入力される。なお、本実施形態では4つのカメラを用いて鉱山ダンプ200の周囲の画像を撮影するようにしたが4つに限らず、作業機械に応じてカメラの数を適宜設定する。
図2は、作業機械周囲の障害物を検知する検知システムの全体構成を示すブロック図である。検知システムは、前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120と、周囲監視装置100と、表示装置145とから構成される。周囲監視装置100は、映像獲得部125、映像バッファ130、表示画像生成部135、入出力インタフェース140、制御部150、俯瞰画像生成部155、移動体検知部160、静止物検知部165、静止位置算出部170、静止物移動検知部175、停止時間検知部180および静止物検知解除部185を備えている。表示装置145は、表示部1451および入力部1452を備えている。表示装置145には、例えば、液晶表示装置が用いられる。
各カメラ105,110,115,120からは、それぞれ原画像のNTSCなどのコンポジット信号が映像獲得部125に入力される。映像獲得部125は、これら各コンポジット信号をA/D変換してRGB信号にデコードする。映像獲得部125で処理された映像データは、映像バッファ130に一時的に記憶される。
俯瞰画像生成部155は、映像バッファ130に一時的に記憶された映像データに基づいて、カメラの映像を鉱山ダンプの上方の視点から見た画像に変換し、俯瞰画像を生成する。移動体検知部160は、映像データの映像の中からオプティカルフロー等を利用して移動している物体を検知する。このオプティカルフローは、連続する映像のフレームを用いて映像内の動きベクトルを計算する手法である。本実施の形態では、この映像内の動きベクトルの中から、障害物らしい大きさや速度を持つ対象を抽出し、それを移動する障害物として検知する。
静止物検知部165は、検知対象の形状、輝度、色合い、エッジ数およびノード数等の画像特徴量に基づきマッチングを行うことで、映像データの映像中の静止している物体を検知する。静止位置算出部170は、移動体検知部160で検知した移動体が静止したか否かを判定し、移動体が静止した場合の静止位置や、その静止位置を含む所定領域を算出する。以下では、この所定領域を静止物検知領域と呼ぶことにする。移動体が静止すると、オプティカルフローの動きベクトルがゼロまたは微小になるため、移動体検知部160は移動体として検知できなくなる。その場合に、静止位置算出部170は静止と判定する。
表示画像生成部135は、表示装置145の表示部1451に表示するための表示画像を生成する。表示画像は、俯瞰画像生成部155で形成された俯瞰画像に、移動体検知部160で検知された移動体の位置に表示される検知マーカ(移動体マーカ)や、静止位置算出部170で検知された静止位置に表示される検知マーカ(静止物マーカ)を重畳表示した画像である。もちろん、移動体や静止物体が検知されなかった場合には、検知マーカは表示されない。
静止物移動検知部175は、静止物検知部165で検知された静止している移動体が、再び移動したか否かを検知する。静止物検知部165が検知している移動物が移動しているか否かは、フレーム間の差分を取ることにより判別する。静止物移動検知部175により静止した移動体の再移動が検知されると、静止物検知部165による静止物体の検知は停止する。
停止時間検知部180は、静止物検知部165で検知された静止物体の静止状態が一定時間以上継続しているか否かを判定する。静止物検知解除部185は、オペレータが入力部1452を操作することにより、入力部1452から静止物体の検知を解除する解除指令が入力されると、後述する静止物検知解除処理を行う。
表示部1451は、表示画像生成部135で生成された表示画像を表示する。制御部150は、周囲監視装置100の全体を制御する。
次に、周囲監視装置100における障害物検知処理の一例を、図3および4のフローチャートを用いて説明する。図3および4に示す処理は、鉱山トラックのイグニッションキー操作により、周囲監視装置100に通電されるとスタートする。ステップS300では、周囲監視装置100、前方カメラ105、後方カメラ110、右方カメラ115、左方カメラ120等の起動状態を核にする初期設定処理を行う。
ステップS305では、映像獲得部125において、前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120からの映像データを獲得する。そして、獲得された映像データを映像バッファ130に一時的に記憶する。ステップS310では、移動体検知部160において移動体を検知する。移動体の検知では、上述したように、映像バッファ130に一時的に記憶されている映像データに基づいて、オプティカルフローなどを利用して移動している物体を検知する。
ステップS315では、表示画像生成部135は、俯瞰画像に移動体検知位置を示す検知マーカを重畳表示した表示画像を生成する。すなわち、俯瞰画像の移動体の画像上に検知マーカが重畳表示される。なお、表示部1451に表示される俯瞰画像の表示処理については後述する。
ステップS320では、ステップS310で検知された移動体が静止したか否かを判定する。この判定は、上述したように図2の静止位置算出部170において行われる。ステップS320において移動体が静止したと判定されるとステップS325へ進み、静止と判定されない場合にはステップS330へ進む。
ステップS325では、図4に示す静止物検知処理を開始する。図4の処理は、図3の処理と並行して行われる。なお、静止物検知処理の詳細は後述する。ステップS330では、制御部150において、終了要求が有るか否かを判定する。終了要求が無い場合にはステップS330からステップS305へ進み、終了要求があった場合には、ステップS335へ進んで、周囲監視装置100における障害物検知処理を終了する。終了要求としては、例えば、入力部1452を介したオペレータによる終了指令や、鉱山ダンプ200のエンジン停止に伴う終了処理などがある。
なお、ステップS310で移動体が検知されない場合には、ステップS315における検知マーカの表示処理が行われず、ステップS320で非静止と判定されてステップS330へ進む。
図5は、自車周囲の検知エリア内に車両などの移動体が侵入した場合の表示部1451に表示される表示画像500の一例を示したものである。表示画像500の中央には、自車両(鉱山ダンプ200)を示す自車両アイコン530が表示されている。自車両アイコン530の周囲には俯瞰画像501が表示されている。図5に示す例では、表示された俯瞰画像501の領域と検知エリアとが同一に設定されている。
移動体は左斜め上方向から検知エリアに侵入しており、検知エリア内に侵入した移動体を示す移動体画像505が俯瞰画像501に描画されている。矢印502は俯瞰画像上における移動体の移動方向を示している。移動体の検知位置には検知マーカ515が表示されている。移動体画像505が表示画像500内を移動すると、検知マーカ515も同様に移動表示される。
図4は、上述したステップS325で開始される静止物検知処理の一例を示すフローチャートである。ステップS500では、静止した移動体の検知マーカを消去する。図6は、図5の移動体画像505で示す移動体が検知エリア内で静止した場合の表示画像500を示す。移動体画像505は自車両アイコンの上方近傍(自車両の前方近傍)に表示されている。静止直前まで表示されていた検知マーカ515は、移動体の静止とともに消去される。図6では、消去された検知マーカ515を点線で示し、実際には表示されていないことを表している。
図4のステップS505では、静止位置算出部170において、移動体が静止した静止位置、および、その静止位置を含む所定領域を上述した静止物検知領域として算出する。ここで、所定領域とは、移動体画像505の領域に対応する領域である。移動体検知では、必ずしも移動体画像505と同一の領域を移動体と認識できるわけではなく、映像の状態に応じて誤差が生じる。そのため、所定領域は、移動体を含む領域となるように、移動体検知で認識された移動体の領域ほぼ同程度(若干大きめ)に設定される。図6では、一点鎖線で示す矩形領域が静止物検知領域517である。
ステップS510では、映像獲得部125において、前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120からの映像データを獲得する。そして、獲得された映像データを映像バッファ130に一時的に記憶する。ステップS515では、映像バッファ130に一時的に記憶された映像データから、ステップS505で算出した静止物検知領域内517の映像を抽出する。そして、抽出した映像の中から画像特徴量に基づきマッチングを行い、静止物検知領域517内の静止物を検知する。映像の抽出および静止物の検知は、図2の静止物検知部165において行われる。
前述したように、画像特徴量とは、検知対象の形状、輝度、色合い、エッジ数およびノード数等の検知対象が有する画像上での特徴のことである。例えば、車両を検知する場合には、車両の構造上、エンジンやノードが多く含まれるため、その性質を利用して映像の中から車両を検知する。
ステップS520では、表示画像生成部135は、静止位置算出部170で算出された静止位置に検知マーカを重畳表示する。なお、検知マーカの表示とともに警告音を発生するようにしても良い。図7に示す例では、静止状態の移動体(図7の移動体画像505が対応する)が、ステップS515において静止物として検知され、三角形の検知マーカ520が表示されている。静止位置に表示する検知マーカの表示形態については、移動体の検知位置に表示される検知マーカと異なっていても良いし、同一であっても良い。例えば、移動体の検知マーカと判別ができるように、検知マーカの色を異ならせても良い。
ステップS525では、静止物移動検知部175において、ステップS515で検知した静止物が移動したか否かを判定する。ステップS525において静止物が移動したと判定された場合にはステップS545に進み、移動と判定されない場合(非移動)にはステップS530に進む。
ステップS530では、表示画像生成部135において、静止物検知結果の解除の判断をオペレータに促す解除入力提示を行う。例えば、解除入力表示を表示部1451に表示する。ここで、静止物検知結果の解除とは、ステップS520の処理で静止位置に表示された検知マーカを消去することである。
ステップS535では、静止物検知解除部185は、オペレータの入力操作によって入力部1452からの解除信号を受信するまではステップS540へ進み、解除信号を受信するとステップS545に進む。ステップS540では、停止時間検知部180において、ステップS515で検知した静止物の静止状態が所定継続時間以上となったか否かを判定する。ステップS540において静止状態が所定継続時間以上と判定されると、ステップS545へ進む。一方、ステップS540で静止状態が所定継続時間未満と判定されると、ステップS510へ戻る。
ステップS545では、静止物検知解除部185による静止物検知を解除する処理が行われる。すなわち、静止物検知解除部185は、ステップS520において表示された静止位置の検知マーカを消去する指令を表示画像生成部135に出力する。表示画像生成部135は、静止物検知解除部185からの指令を受信すると、静止位置の検知マーカの表示を消去する。ステップS545の処理により、静止物検知処理は終了する。
図3,4に示す障害物検知処理では、移動体が静止したときに図4に示す静止物検知処理を行う点に特徴がある。例えば、移動体が検知エリア内に侵入し、静止→移動→検知エリアからの脱出までの表示形態の変化を、図を用いて説明すると以下のようになる。
まず、検知エリア内に移動体が侵入すると、図5のように移動体画像505に検知マーカ515が表示される(S315)。そして、移動体画像505で示す移動体が検知エリア内で静止すると、図6のように検知マーカ515は消去される(S500)。その後、図7に示すように静止した移動体の位置(すなわち移動体画像505の位置)に、静止物の位置を示す検知マーカ520が表示される(S520)。
次いで、表示された検知マーカ520を消去するか否かを促す表示522が、図7のように表示部1451に表示される(S530)。ここで、オペレータが入力部1452を操作して静止物検知結果の解除、すなわち検知マーカ520の消去を指令すると、検知マーカ520が消去され(S535→S545)、図6に示すように静止状態の移動体を示す移動体画像505のみが表示された状態となる。オペレータによる静止物検知結果の解除の具体的操作例としては、例えば、表示部1451の表示画面がタッチパネル式の表示画面であれば、表示されている検知マーカ520をタッチ操作することで、検知マーカ520が消去され、静止物検知処理が中断される。また、一回の操作で、複数の検知マーカ520の全てを消去するようにしても良い。
一方、オペレータが静止物検知結果の解除操作を行わないと、所定継続時間が経過するまでは検知マーカ520が表示された状態となる(S535→S540→S510→S515→S520)。そして、静止物検知結果の解除操作を行わないまま所定継続時間が経過すると、検知マーカ520は消去される(S545)。
ただし、解除操作を行わない場合であっても、所定継続時間が経過する前に静止していた移動体が再び動き出すと、図8のように検知マーカ520は消去される(S525→S545)。図9は、移動を再開した移動体が検知エリアから脱出している状態を示す表示画像である。移動体画像505上には検知マーカ515が表示されている。
以上のように、本実施の形態では、移動体が静止すると、移動体を示す検知マーカ515に代えて、移動体が静止していることを示す検知マーカ520を表示するようにした。このように移動体に付けられていた検知マーカが静止と共に突然消えることが無いので、オペレータは違和感を覚えることがなく、従来のように装置が故障したのではないかと勘違いすることもない。
ところで、移動体が検知領域に侵入して停止した場合、静止障害物が一つ増加することになる。しかし、そのような移動体の侵入および停止が、オペレータが表示部1451から視線を外した際に発生した場合、従来のように移動体に付いていた検知マーカを停止と共に消去する装置構成では、表示部1451に視線を戻したときに、新たに静止障害物が増えたことに気づかないおそれがある。
一方、本実施の形態の場合には、静止している移動体の位置に検知マーカ520を表示するので、オペレータが表示部1451に視線を戻したときに、視線を外す前には無かった静止障害物が新たに増えたことを容易に認識することができる。また、検知マーカ520が新たに表示されたことにより、新たな障害物に対する目視による確認を促す効果がある。
また、静止した移動体が再び移動すると検知マーカ520を消去すると共に、静止した移動体を含むように設定された静止物検知領域517内での静止物検知が中断されるので、検知マーカ520が不用意に残ることがない。
なお、静止物検知領域517の大きさが静止した移動体に対して大き過ぎると、静止物検知領域517内での静止物検知において、静止している移動体以外のものを静止物として誤検知するおそれがある。そのような場合には、移動体が再び移動して静止物検知領域517から出て行った後でも、静止物と誤検知したものに検知マーカ520が表示されたままとなってしまう。
例えば、図13に示すように移動体が水たまり700の領域に停車した場合、移動体を示す移動体画像505に対して大き過ぎる静止物検知領域517aを設定すると、水たまり700を静止物と誤検知する可能性がある。特に、水たまり700の画像特徴が移動体の画像特徴と似ている場合には、誤検知の可能性が高くなる。そのような場合、この水たまり700の映像に基づいて静止した移動体の再移動検知が行われてしまい、実際の移動体が静止物検知領域517aの領域外に移動した場合でも、水たまり700が静止物として検知され続ける。その結果、検知マーカ520が表示されたままとなってしまう。
それに対して、本実施の形態では、図7の静止物検知領域517のように、検知領域を移動体とほぼ同程度の大きさと同程度の大きさとすることで、このような誤検知の発生が低減される。
また、ステップS535の処理を設けたので、仮に、図13の場合のように静止した移動体以外のものが静止物と誤検知された場合でも、手動で静止物検知を解除することができる。オペレータは、実際に目視確認することで、検知マーカ520が表示された静止障害物が実際に静止した移動体か、単なる誤検知かを確認することができる。そして、誤検知であると分かったならば、手動にて検知マーカ520を消去すればよい。そうすることで、表示画面上に誤検知された検知マーカ520が表示され続けることを、防止することができる。
さらに、ステップS540の処理を設けることによって、オペレータによる解除操作が無かった場合でも、静止物検知による検知マーカ520の表示が所定継続時間続いたならば、自動的に検知マーカ520が消去される。この処理により、表示画像500上に検知マーカ520が表示され続けてしまうのを防止できる。車両発進時の障害物検知を想定した場合、所定継続時間としては、例えば、2分程度が考えられる。
図10は、俯瞰画像表示処理フローの一例を示す図である。俯瞰画像表示処理は、前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120の映像を鉱山ダンプの上方の視点から見た画像に変換し、俯瞰画像を生成する処理である。俯瞰画像表示処理は障害物検知処理と並列に処理が行われる。
図10のステップS400では、周囲監視装置100、前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120などの起動状態を確認する初期設定処理を行う。ステップS405では、映像獲得部125において、前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120からの映像データを獲得する。そして、獲得された映像データを映像バッファ130に一時的に記憶する。
ステップS410では、俯瞰画像生成部155において、映像バッファ130に一時的に記憶された前方カメラ105、後方カメラ110、右方カメラ115および左方カメラ120の映像を、鉱山ダンプの上方の視点から見た上方視点画像にそれぞれ変換し、それらの画像を繋ぎ合わせることで、俯瞰画像を生成する。図11に示すように、自車両アイコン530の周囲に表示された俯瞰画像501は、前方カメラ105の映像に基づく上方視点画像501aと、後方カメラ110の映像に基づく上方視点画像501bと、右方カメラ115の映像に基づく上方視点画像501cと、左方カメラ120の映像に基づく上方視点画像501dとを繋ぎ合わせたものである。
ステップS415では、表示画像生成部135において、俯瞰画像501に自車両アイコン530を重畳表示した表示画像を生成し、その表示画像を表示部1451に表示させる。ステップS420では、制御部150において終了判定、すなわち終了要求の有無の判定を行い、終了(終了要求有り)と判定されるとステップS425に進み、非終了(終了要求無し)と判定されるとステップS405に戻る。終了判定における終了要求としては、例えば、入力部1452を介したオペレータによる終了指令や、鉱山ダンプ200のエンジン停止に伴う終了処理などがある。ステップS425では、制御部150において終了処理を行う。この終了処理により、一連の処理を終了する。
(検知マーカの他の例)
上述した実施の形態では、検知マーカの表示形態として、丸(図5や図11)や三角(図7)の検知マーカを重畳表示した。このように移動体や静止物の画像上に検知マーカを重畳表示する表示形態の他に、図12に示すように表示形態でも良い。図12に示す検知マーカの表示形態では、上方視点画像501a〜501dのそれぞれの領域毎に検知エリアを設定する。そして、検知された移動体や静止物が存在する検知エリアを示す、検知エリア枠を表示する。検知エリア枠の形状は、上方視点画像501a〜501dの縁の形状と同一である。図12に示す例では、移動体画像505で示す移動体が上方視点画像501aの検知エリアに存在するので、上方視点画像501aの縁を彩色表示した検知エリア枠605が彩色表示されている。
上述した実施の形態では、検知マーカの表示形態として、丸(図5や図11)や三角(図7)の検知マーカを重畳表示した。このように移動体や静止物の画像上に検知マーカを重畳表示する表示形態の他に、図12に示すように表示形態でも良い。図12に示す検知マーカの表示形態では、上方視点画像501a〜501dのそれぞれの領域毎に検知エリアを設定する。そして、検知された移動体や静止物が存在する検知エリアを示す、検知エリア枠を表示する。検知エリア枠の形状は、上方視点画像501a〜501dの縁の形状と同一である。図12に示す例では、移動体画像505で示す移動体が上方視点画像501aの検知エリアに存在するので、上方視点画像501aの縁を彩色表示した検知エリア枠605が彩色表示されている。
このように検知エリア枠605を表示することで、表示画像500内に存在する検知対象と自車両との位置関係を容易に把握することができる。一方、図11のように検知マーカ515を移動体画像505に重畳表示する形態では、検知対象の正確な位置を把握することができる。なお、検知エリア枠605を表示する形態では、検知マーカを消去する処理においては、静止と判定された移動体が存在する検知エリアに他の移動体が存在しない場合にのみ、検知エリア枠を消去する。
以上説明したように、本実施の形態の周囲監視装置は以下のような作用効果を奏する。
(1)周囲監視装置100が備える表示画像生成部135は、第1検知部である移動体検知部160により移動体が検知されると、移動体の位置を示す検知マーカ515を俯瞰画像501に重畳表示し、第2検知部である静止位置算出部170により移動体の静止が検知されると、静止位置を示す検知マーカ520を俯瞰画像501に重畳表示する。
(1)周囲監視装置100が備える表示画像生成部135は、第1検知部である移動体検知部160により移動体が検知されると、移動体の位置を示す検知マーカ515を俯瞰画像501に重畳表示し、第2検知部である静止位置算出部170により移動体の静止が検知されると、静止位置を示す検知マーカ520を俯瞰画像501に重畳表示する。
これにより、移動体が静止した場合でも移動体に検知マーカ520が表示されるので、オペレータは表示状況に違和感を覚えず、装置故障と勘違いするおそれがない。また、オペレータが表示部1451から視線を外している間に、移動体が検知エリアに侵入して静止した場合でも、静止した移動体に対して検知マーカ520が表示されているので、静止した移動体をオペレータが見逃すのを防止することができる。
(2)さらに、移動体検知部160(第1検知部)で静止を検知したときの移動体の位置を含む静止物検知領域517において静止物を検知する第3検知部である静止物検知部165と、静止物検知部165(第3検知部)で検知された静止物が移動したことを検知する第4検知部である静止物移動検知部175と、を備え、静止物移動検知部175(第4検知部)により移動が検知されると、検知マーカ520を消去して検知マーカ515を俯瞰画像501に重畳表示するのが好ましい。静止物検知部165(第3検知部)に誤検知が生じた場合には、静止した移動体が移動した後も検知マーカ520の表示が継続されてしまうことになるが、上述のように静止していた移動体の移動が検知されると検知マーカ520を消去することで、そのような問題が生じない。
(3)さらに、静止位置算出部170(第2検知部)の検知から所定時間経過しても静止物移動検知部175(第4検知部)による検知が行われなかった場合には、静止物検知部165(第3検知部)は静止物の検知を中断し、表示画像生成部135は検知マーカ520を消去するのが好ましい。このようにすることにより、静止物誤検知によって検知マーカ520が表示され続けてしまうのを、確実に防止することができる。
(4)また、検知マーカ520の消去指令を手動入力するための入力部1452を備え、入力部1452に消去指令が手動入力されると、静止物検知部165(第3検知部)は静止物の検知を中断し、表示画像生成部135は検知マーカ520を消去するようにしても良い。これにより、目視により静止物誤検知であることを確認した場合に、直ちに検知マーカ520を消去することができる。
なお、以上の説明はあくまでも一例であり、本発明の特徴を損なわない限り、本発明は上記実施の形態に何ら限定されるものではない。例えば、上述した実施形態では、カメラ105〜120で撮影した映像を利用して移動体や静止物の検知を行ったが、レーザレンジファインダやミリレーダにより得られる車両周辺情報(三次元点群データ)を利用して移動体や静止物の検知を行っても良い。
100…周囲監視装置、105…前方カメラ、110…後方カメラ(撮像装置)、115…右方カメラ(撮像装置)、120…左方カメラ(撮像装置)、125…映像獲得部(取得部)、135…表示画像生成部、145…表示装置、150…制御部、155…俯瞰画像生成部、160…移動体検知部(第1検知部)、165…静止物検知部(第3検知部)、170…静止位置算出部(第2検知部)、175…静止物移動検知部(第4検知部)、180…停止時間検知部、185…静止物検知解除部、200…鉱山ダンプ(作業機械)、501…俯瞰画像、505…移動体画像、515…検知マーカ(第1検知マーカ)、517…静止物検知領域(所定領域)、520…検知マーカ(第2検知マーカ)、1451…表示部、1452…入力部
Claims (4)
- 作業機械周囲を撮像する撮像装置から撮像情報を取得する取得部と、
前記取得部で取得された撮像情報に基づいて俯瞰画像を生成する俯瞰画像生成部と、
作業機械周囲の移動体を検知する第1検知部と、
前記第1検知部により検知された移動体が静止したことを検知する第2検知部と、
前記第1検知部により検知された移動体の位置を示す第1検知マーカまたは前記第2検知部により検知された移動体の位置を示す第2検知マーカの少なくとも一方が、前記俯瞰画像に重畳表示された表示画像を生成する表示画像生成部と、を備え、
前記表示画像生成部は、前記第1検知部により移動体が検知されると、移動体の位置を示す第1検知マーカを前記俯瞰画像に重畳表示し、前記第2検知部により移動体の静止が検知されると、静止位置を示す第2検知マーカを前記俯瞰画像に重畳表示する、作業機械の周囲監視装置。 - 請求項1に記載の作業機械の周囲監視装置において、
前記第1検知部で静止を検知したときの移動体の位置を含む所定領域において静止物を検知する第3検知部と、
前記第3検知部で検知された静止物が移動したことを検知する第4検知部と、を備え、
前記表示画像生成部は、前記第4検知部により移動が検知されると、前記第2検知マーカを消去して前記第1検知マーカを前記俯瞰画像に重畳表示する、作業機械の周囲監視装置。 - 請求項2に記載の作業機械の周囲監視装置において、
前記第2検知部の検知から所定時間経過しても前記第4検知部による検知が行われなかった場合には、
前記第3検知部は静止物の検知を中断し、
前記表示画像生成部は前記第2検知マーカを消去する、作業機械の周囲監視装置。 - 請求項2または3に記載の作業機械の周囲監視装置において、
前記第2検知マーカの消去指令を手動入力するための入力部を備え、
前記入力部に前記消去指令が手動入力されると、前記第3検知部は静止物の検知を中断し、前記表示画像生成部は前記第2検知マーカを消去する、作業機械の周囲監視装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015155690A JP2017030688A (ja) | 2015-08-06 | 2015-08-06 | 作業機械の周囲監視装置 |
PCT/JP2016/057145 WO2017022262A1 (ja) | 2015-08-06 | 2016-03-08 | 作業機械の周囲監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015155690A JP2017030688A (ja) | 2015-08-06 | 2015-08-06 | 作業機械の周囲監視装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017030688A true JP2017030688A (ja) | 2017-02-09 |
Family
ID=57942629
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015155690A Pending JP2017030688A (ja) | 2015-08-06 | 2015-08-06 | 作業機械の周囲監視装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2017030688A (ja) |
WO (1) | WO2017022262A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019188015A1 (ja) * | 2018-03-30 | 2019-10-03 | 日立建機株式会社 | 作業機械の後退支援装置 |
JP7399836B2 (ja) | 2020-10-12 | 2023-12-18 | ヤンマーホールディングス株式会社 | 作業車両 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102669902B1 (ko) * | 2017-02-20 | 2024-05-28 | 에이치디현대인프라코어 주식회사 | 건설 장비의 화면 표시 시스템 및 화면 표시 방법 |
US11320830B2 (en) | 2019-10-28 | 2022-05-03 | Deere & Company | Probabilistic decision support for obstacle detection and classification in a working area |
CN111050136A (zh) * | 2019-12-24 | 2020-04-21 | 天地科技股份有限公司 | 一种综采工作面设备视觉监视测量装置及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000177513A (ja) * | 1998-12-16 | 2000-06-27 | Toyota Autom Loom Works Ltd | 車両における後退支援装置及び車両 |
JP2009040107A (ja) * | 2007-08-06 | 2009-02-26 | Denso Corp | 画像表示制御装置及び画像表示制御システム |
JP2012256113A (ja) * | 2011-06-07 | 2012-12-27 | Komatsu Ltd | 作業車両の周辺監視装置 |
WO2014073571A1 (ja) * | 2012-11-08 | 2014-05-15 | 日立建機株式会社 | 自走式産業機械の画像処理装置および自走式産業機械の画像処理方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5546427B2 (ja) * | 2010-11-22 | 2014-07-09 | 日立建機株式会社 | 作業機械の周囲監視装置 |
JP5814187B2 (ja) * | 2012-06-07 | 2015-11-17 | 日立建機株式会社 | 自走式産業機械の表示装置 |
-
2015
- 2015-08-06 JP JP2015155690A patent/JP2017030688A/ja active Pending
-
2016
- 2016-03-08 WO PCT/JP2016/057145 patent/WO2017022262A1/ja active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000177513A (ja) * | 1998-12-16 | 2000-06-27 | Toyota Autom Loom Works Ltd | 車両における後退支援装置及び車両 |
JP2009040107A (ja) * | 2007-08-06 | 2009-02-26 | Denso Corp | 画像表示制御装置及び画像表示制御システム |
JP2012256113A (ja) * | 2011-06-07 | 2012-12-27 | Komatsu Ltd | 作業車両の周辺監視装置 |
WO2014073571A1 (ja) * | 2012-11-08 | 2014-05-15 | 日立建機株式会社 | 自走式産業機械の画像処理装置および自走式産業機械の画像処理方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019188015A1 (ja) * | 2018-03-30 | 2019-10-03 | 日立建機株式会社 | 作業機械の後退支援装置 |
JP2019178972A (ja) * | 2018-03-30 | 2019-10-17 | 日立建機株式会社 | 作業機械の後退支援装置 |
JP7399836B2 (ja) | 2020-10-12 | 2023-12-18 | ヤンマーホールディングス株式会社 | 作業車両 |
Also Published As
Publication number | Publication date |
---|---|
WO2017022262A1 (ja) | 2017-02-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5124351B2 (ja) | 車両操作システム | |
WO2017022262A1 (ja) | 作業機械の周囲監視装置 | |
JP4412380B2 (ja) | 運転支援装置、運転支援方法及びコンピュータプログラム | |
JP5505702B2 (ja) | 車両周辺監視装置 | |
US10974735B2 (en) | Parking assistance device | |
JP4687411B2 (ja) | 車両周辺画像処理装置及びプログラム | |
WO2011043006A1 (ja) | 制御装置および車両周囲監視装置 | |
JP2008227646A (ja) | 障害物検知装置 | |
JP2015055999A (ja) | 情報処理装置、ジェスチャー検出方法、およびジェスチャー検出プログラム | |
JPWO2014109016A1 (ja) | 車両周辺表示装置 | |
WO2012091476A2 (ko) | 사각 지대 표시 장치 및 방법 | |
CN110831818B (zh) | 泊车辅助方法以及泊车辅助装置 | |
US10609337B2 (en) | Image processing apparatus | |
JP2012040883A (ja) | 車両周囲画像生成装置 | |
JP2013005233A (ja) | 車両周辺監視装置 | |
US20190236343A1 (en) | Gesture detection device | |
JP2017046277A (ja) | 作業機械の周囲監視装置 | |
JPWO2019216087A1 (ja) | 画像処理装置、移動装置、および方法、並びにプログラム | |
JP5500392B2 (ja) | 車両周辺監視装置 | |
JP2015171106A (ja) | 車両周辺画像表示装置、車両周辺画像表示方法 | |
JP4857159B2 (ja) | 車両運転支援装置 | |
JP2007249814A (ja) | 画像処理装置及び画像処理プログラム | |
KR101295618B1 (ko) | 사각 지대 표시 장치 및 방법 | |
KR101566963B1 (ko) | 작업 차량 상태를 고려하여 개체를 인식할 수 있는 어라운드 뷰 모니터링 방법, 이를 수행하는 어라운드 뷰 모니터링 장치 및 이를 저장하는 기록매체 | |
JP2011175405A (ja) | 表示装置および表示装置における操作可能範囲表示方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161130 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170411 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180227 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20181002 |