JP6802196B2 - 運搬車両 - Google Patents
運搬車両 Download PDFInfo
- Publication number
- JP6802196B2 JP6802196B2 JP2018001483A JP2018001483A JP6802196B2 JP 6802196 B2 JP6802196 B2 JP 6802196B2 JP 2018001483 A JP2018001483 A JP 2018001483A JP 2018001483 A JP2018001483 A JP 2018001483A JP 6802196 B2 JP6802196 B2 JP 6802196B2
- Authority
- JP
- Japan
- Prior art keywords
- obstacle
- region
- unit
- coordinate value
- transport vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
本発明は、運搬車両の周囲を監視する技術に関する。
車両近傍に存在する物体との接触を回避するため、カメラを車両周囲に配置して映像を運転者に提示し、また近傍に物体が存在する場合は通知する技術がある。この技術を、鉱山で作業を行う大型ダンプトラックなどの運搬車両に適用させ、車両上方に視点を設けた俯瞰画像に変換して運転者に提示する車両周囲検知システムが知られている。
俯瞰画像を運転者に提示するシステムでは、俯瞰画像に変換する際に、映像の一部を除去することから、除去した箇所が死角となり安全性が低下する。これに対し、俯瞰映像として表示されない箇所においても物体の検知を行うとともに、その結果を運転者に報知するシステムが考案されている(例えば特許文献1)。
大型の運搬車両では、タイヤのサイズ(直径2m以上)に応じて車体下に広い空間が形成される。したがって大型の運搬車両では、安全な作業を確保するために、車体下の空間に物体が潜り込んでいないことを確認することが重要となる。上記特許文献1の技術では、運搬車両の車体で遮られることにより車体下部を撮像することができず、車体下に存在する物体に関して報知することができない。
また、車体の底面下部にカメラなどの撮像部を別途設け、この撮像部からの映像を監視することで、車体下の領域についても、物体が存在する場合に報知する態様も考えられる。しかしながら、舗装されていない路面を走行する運搬車両では、跳ね返りなどによって石や土砂が撮像部に接触し、損傷、破損する可能性が非常に高いため、頻繁に撮像部を交換することになる。
本発明は、このような課題に鑑みてなされたものであり、運搬車両の車体下に物体が存在する場合でも適切に報知を行うことができる技術を提供することを目的とする。
上記課題を解決するために、代表的な本発明の運搬車両は、運搬車両の周囲を撮像するカメラと、警報器と、コンピュータにより構成され、前記カメラと前記警報器とに接続されており、前記カメラにより撮像される周囲画像を、前記カメラのフレームレートに基づき時系列に沿って連続して取得する周囲監視装置とを備える運搬車両であって、前記周囲監視装置は、各フレームを構成する周囲画像から、障害物が撮像された障害物領域を抽出する障害物領域抽出部と、前記障害物領域を構成する画素の座標値から、代表となる座標値である障害物座標値を設定する座標設定部と、前記周囲画像において、前記運搬車両が撮像された車両領域の外郭形状に基づき設定される第1領域の境界を示す第1境界座標値を記憶する境界座標記憶部と、前記障害物座標値と、前記第1境界座標値とを比較し、前記第1領域内に前記障害物座標値が含まれている否かの比較結果を出力する座標比較部と、前記座標比較部による比較結果を一時的に記憶する一時記憶部と、前記一時記憶部から今回および前回のフレームに対する比較結果をそれぞれ取得し、これら比較結果の時系列変化に基づき、前記運搬車両の車体下に前記障害物が潜り込んだかを判定する潜り込み判定部と、前記障害物が潜り込んだと判定される場合、前記警報器に対して報知指示を出力する警報出力部と、を備えることを特徴とする。
本発明によれば、運搬車両の車体下に物体が存在する場合でも、適切に報知を行うことができるため、安全性の向上を図ることができる。
上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
以下、本実施形態の態様を図面を参照しながら説明する。以下の説明では、鉱山などで採掘した砕石や鉱物を運搬する、大型の運搬車両に適用した場合を例にしている。尚、大型の運搬車両に限定されるものではなく、他の建設機械や一般車両などにも、本実施形態の態様を適用させることができる。
(第1実施形態)
<運搬車両構成概要>
図1は、実施形態の運搬車両を例示する側面図である。図1に示す運搬車両1は、大型ダンプトラックであり、頑丈なフレーム構造で形成された車体フレーム2(vehicle frame)と、車体フレーム2上に起伏可能に搭載されたベッセル(vessel:荷台)3とを備える。また運搬車両1は、車体フレーム2に装着された、前方を照らすライト4C、左右一対の前輪4A、および後輪4Bを主に備えている。また車体フレーム2には、後輪4Bを駆動するエンジン(図示せず)が配設されている。エンジンは、例えば、エンジン制御装置(以下ECUという)を備え、ECUからの指令信号に基づき、供給される燃料流量が制御されることで、その回転数が制御されている。
<運搬車両構成概要>
図1は、実施形態の運搬車両を例示する側面図である。図1に示す運搬車両1は、大型ダンプトラックであり、頑丈なフレーム構造で形成された車体フレーム2(vehicle frame)と、車体フレーム2上に起伏可能に搭載されたベッセル(vessel:荷台)3とを備える。また運搬車両1は、車体フレーム2に装着された、前方を照らすライト4C、左右一対の前輪4A、および後輪4Bを主に備えている。また車体フレーム2には、後輪4Bを駆動するエンジン(図示せず)が配設されている。エンジンは、例えば、エンジン制御装置(以下ECUという)を備え、ECUからの指令信号に基づき、供給される燃料流量が制御されることで、その回転数が制御されている。
ベッセル3は、砕石物などの荷物を積載するために設けられた容器であり、ピン結合部5などを介して車体フレーム2に対して起伏可能に連結されている。ベッセル3の下部には、車両の幅方向に所定の間隔を介して2つのホイストシリンダ6が設けられている。ホイストシリンダ6に圧油が供給/排出されると、ホイストシリンダ6が伸長/縮短してベッセル3が起伏される。
ベッセル3の前部には庇部7が設けられている。庇部7は、その下側(すなわち車体フレーム2の前部)に設けられた運転室8を岩石等の飛散物から保護するとともに、車両転倒時などに運転室8を保護する機能を備えている。運転室8の内部には、周囲監視装置100と、警報器10とが設けられている。また運転室8の内部には、操作装置である操舵用のハンドル(図示せず)、アクセルペダルおよびブレーキペダルなど(図示せず)とが設けられている。
周囲監視装置100は、カメラ(図1のカメラ302など)および警報器10と接続しているコンピュータであり、その詳細構成については後述する。警報器10は、本実施形態では、平面のディスプレイにタッチパネルの入力部が積層配置されたタッチパネルディスプレイとする。警報器10は、カメラ(図1のカメラ302など)が撮像したフレームを、連続して運搬車両1の運転者に表示したり、タッチパネル上での接触を検出し、その位置を特定して周囲監視装置100に出力する。また警報器10には、スピーカが内蔵されており、音声による操作案内を出力したり、注意喚起を促すためのアラーム報知を行う。警報器10は、ディスプレイに映像を映し出すことによる報知やスピーカによる音声報知を行う報知部として機能する。
以下、参考までに、大型ダンプトラックの仕様寸法などを例示する。ダンプ種別によってサイズが異なるが、いずれにしても、通常の一般車両よりも規模の大きな構成となっており、運搬車両1の下部の空間である車体下9には、地表面から車体フレーム2の底部まで高さ1m程度の、人などが容易に立ち入ることができる広めの空間が形成される。
・車両総質量・・・320tons〜500tons
・ボディ容量(山積状態時)・・・120m3〜200m3
・全長・・・13.0m〜15.0m
・全幅・・・9.0m〜9.6m
・全高・・・7.0m〜7.5m
・車両総質量・・・320tons〜500tons
・ボディ容量(山積状態時)・・・120m3〜200m3
・全長・・・13.0m〜15.0m
・全幅・・・9.0m〜9.6m
・全高・・・7.0m〜7.5m
<カメラ映像概要>
図2は、本実施形態のカメラの配置を示す図である。図2において、運搬車両1の車体フレーム2の前側面と後側面とには、運搬車両1の前方を広角レンズで撮影する前方カメラ301と、後方を広角レンズで撮影する後方カメラ303とが設けられている。また、車体フレーム2の左側面と右側面とには、運搬車両1の左方向を広角レンズで撮影する左方向カメラ302と、右方向を広角レンズで撮影する右方向カメラ304とが設けられている。カメラ301〜304は、広角レンズを介して得られた像の明暗を、電荷量に変換し、電気信号として画像を出力するCCD(Charge Coupled Device)デバイスを備える撮像部である。上記のとおりカメラ301〜304が配置されることで、本実施形態では、運搬車両1の四方周囲を、カメラ301〜304のフレームレートに従い撮像し、その連続したフレーム画像を運転者に提示したり、後述の俯瞰画像などを提示したりすることができる。尚、夜間作業や明りの少ない坑道を走行する際にも、好適な光量を得て周囲状況を撮像するため、撮像方向を照らすライトなどが備えられてもよい。
図2は、本実施形態のカメラの配置を示す図である。図2において、運搬車両1の車体フレーム2の前側面と後側面とには、運搬車両1の前方を広角レンズで撮影する前方カメラ301と、後方を広角レンズで撮影する後方カメラ303とが設けられている。また、車体フレーム2の左側面と右側面とには、運搬車両1の左方向を広角レンズで撮影する左方向カメラ302と、右方向を広角レンズで撮影する右方向カメラ304とが設けられている。カメラ301〜304は、広角レンズを介して得られた像の明暗を、電荷量に変換し、電気信号として画像を出力するCCD(Charge Coupled Device)デバイスを備える撮像部である。上記のとおりカメラ301〜304が配置されることで、本実施形態では、運搬車両1の四方周囲を、カメラ301〜304のフレームレートに従い撮像し、その連続したフレーム画像を運転者に提示したり、後述の俯瞰画像などを提示したりすることができる。尚、夜間作業や明りの少ない坑道を走行する際にも、好適な光量を得て周囲状況を撮像するため、撮像方向を照らすライトなどが備えられてもよい。
図2には、各カメラ301〜304がそれぞれ撮影した周囲画像401〜404も示されている。周囲画像401は前方カメラ301が撮影した前方映像であり、周囲画像402は左方向カメラ302が撮影した左方向映像である。周囲画像403は後方カメラ303が撮影した後方映像であり、周囲画像404は右方向カメラ304が撮影した右方向映像である。
周囲画像401〜404は、それぞれ広角レンズで撮影されるため、各画像の上方に位置する遠方の地平線が湾曲状態に映し出される。また各映像の下方には、カメラ301〜304のそれぞれの位置に応じて、車体フレーム2の右側ライト4C(R)、左側ライト4C(L)、右側前輪4A(R)、左側前輪4A(L)、右側後輪4B(R)、左側後輪4B(L)が映し出される。
<周囲監視装置のシステム構成>
図3は、周囲監視装置100のハードウェア構成例を示す図である。周囲監視装置100は、上記のとおりコンピュータシステムであり、カメラ301〜304、警報器10などの周辺機器を統括的に制御する機能を備える。周囲監視装置100は、以下の構成を備えている。
図3は、周囲監視装置100のハードウェア構成例を示す図である。周囲監視装置100は、上記のとおりコンピュータシステムであり、カメラ301〜304、警報器10などの周辺機器を統括的に制御する機能を備える。周囲監視装置100は、以下の構成を備えている。
CPU151(CPU:Central Processing Unit)は、ROM153やストレージ154に記憶されているプログラムを、RAM152に展開して演算実行する処理装置である。CPU151は、プログラムを演算実行することで、周囲監視装置100の内部の各ハードウェアを統括的に制御する。RAM152は揮発性メモリであり、CPU151との間で直接的にデータの入出力を行うワークメモリである。RAM152は、CPU151がプログラムを演算実行している間、必要なデータを一時的に記憶する。
ROM153は不揮発性メモリであり、CPU151で実行されるファームウェアを記憶している。ストレージ154は、フラッシュメモリ、SSD(Solid State Drive)、ハードディスクドライブなどの補助記憶装置である。ストレージ154は、CPU151が演算実行するプログラムや、パラメータなどの制御データを不揮発的に記憶する。ストレージ154は、カメラ301〜304で撮像された画像などを蓄積してもよい。
映像入力I/F155は、カメラ301〜304のそれぞれに撮像指示信号を出力し、またカメラ301〜304で撮像された映像を入力するインターフェイスである。映像入力I/F155は、本実施形態では、例えばUSB(Universal Serial Bus)規格に準拠したシリアルバス端子を備え、この規格に準拠したデータの送受信を行うものとする。モニタI/F156は、表示用の画像や音声データを警報器10に出力し、また警報器10から運転者がタッチした接触位置を示した信号を入力するためのインターフェイスである。
周囲監視装置100は、上記のような構成を備えているが、構成の一部もしくは全てを、例えばASIC(application specific integrated circuit)などの集積回路で実装してもよい。尚、一部もしくは全てが集積回路などで実装されている場合においても、当該構成はコンピュータの一形態とみなされる。
図4は、周囲監視装置100の機能ブロックの構成例を示す図である。周囲監視装置100は、障害物領域抽出部101、座標設定部102、障害物情報記憶部103、識別情報付加部104を有する。また周囲監視装置100は、座標比較部105、境界座標記憶部106、潜り込み判定部107、一時記憶部171、上方視点変換部108、画像合成部109、俯瞰合成画像構築部110、警報出力部111を備える。図4の周囲監視装置100内の各ユニットは、図2に示すCPU151が、ROM153やストレージ154に記憶されているプログラムおよびデータを、RAM152に展開して演算実行し、プログラムコードに従い各種ハードウェアと協働することで実現される。また各ユニットは、カメラ301〜304のフレームレートに基づき、フレームごとに連続して処理を行う。
障害物領域抽出部101は、カメラ301〜304が撮像したフレームを構成する周囲画像401〜404を取得し、画像内に物体が映し出されている場合に、当該物体が撮像された障害物領域を抽出する。障害物領域抽出部101は、障害物領域の形状などを判別するための特徴点(画像内の座標値)を、座標設定部102に出力する。尚、複数の障害物が検知される場合、障害物領域それぞれの特徴点を座標設定部102に出力する。
座標設定部102は、障害物領域を構成する画素の座標値から、代表値となる障害物座標値を設定する。本実施形態では、障害物とみなされた領域を構成する各特徴点の重心位置の座標を、障害物座標値とする。座標設定部102は、障害物領域の特徴点、および障害物座標値を、識別情報付加部104に出力する。
識別情報付加部104は、障害物領域の特徴点、および障害物座標値を入力し、これらに対応付けて一意となる識別情報を付加する。この識別情報を、障害物IDと称する。識別情報付加部104は、障害物ID、特徴点、障害物座標値とを対応付けて、障害物情報記憶部103に記憶する。そして識別情報付加部104は、障害物ID、障害物座標値を対応付けて、座標比較部105および俯瞰合成画像構築部110に出力する。
障害物情報記憶部103は、障害物ID、特徴点、障害物座標値を対応付けて、これらを規定のフレーム数分、時系列に記憶する記憶部である。障害物情報記憶部103に記憶されている情報は、過去のフレーム内の障害物と今回のフレーム内の障害物とが同じであるかを判別するために用いられる。
識別情報付加部104は、今回得た特徴点が、障害物情報記憶部103に既に記憶されている特徴点と一致もしくは近似している場合、すなわち、双方で同じ障害物と認められる場合は、過去に割り振った障害物IDと同じIDを付加するものとする。
座標比較部105は、境界座標記憶部106に記憶されている、車体近傍の領域(後述の第1領域416、第2領域417)の境界を示す境界座標値を取得する。座標比較部105は、障害物IDごとに、取得した境界座標値と識別情報付加部104から入力する障害物座標値とを比較し、当該領域内に障害物座標値が含まれているか否かを比較する。座標比較部105は、比較結果を、障害物IDに対応付けて潜り込み判定部107に出力する。
境界座標記憶部106は、上記のとおり車体近傍の領域の境界を示している境界座標値を記憶しており、座標比較部105からの要求に従い、境界座標値を座標比較部105に出力する。
上記の障害物領域抽出部101、座標設定部102、識別情報付加部104、座標比較部105の動作は、カメラ301〜304のフレームレートに基づき連続して行われ、また割り振られる障害物IDごとに行われる。
潜り込み判定部107は、フレームレートに基づき、時系列に沿って連続して障害物IDと比較結果とを座標比較部105から入力する。潜り込み判定部107は、今回の処理対象フレームに関する障害物IDと比較結果とのセットを、座標比較部105から取得し、今回の処理対象フレームの一つ前のフレームの障害物IDと比較結果とのセットを、一時記憶部171から取得する。潜り込み判定部107は、このようにして得られる連続したフレームの時系列変化に基づき、障害物が車体下9に潜り込んだか否かを、障害物IDごとに判定する。潜り込んだと判定する場合、潜り込み判定部107は、このことを示す情報(以下、潜り込み情報と称する)を、俯瞰合成画像構築部110に出力する。また今回処理対象のフレームに関する障害物IDと比較結果とのセットを、次回の処理のため一時記憶部171に記憶する。
一時記憶部171は、前回処理したフレームに対しての座標比較部105による比較結果を、一時的に記憶するバッファ記憶領域である。一時記憶部171は、今回の処理対象の一つ前のフレームに関する障害物IDと比較結果とを記憶する。
上方視点変換部108は、カメラ301〜304が撮像した画像データを、上方視点となる画像、すなわち運搬車両1を上方から視認したとする画像となるように、ピクセルごとに座標変換を行う。上方視点変換部108は、カメラ301〜304の前後左右の各位置に応じた変換パラメータを用いて、各カメラ301〜304より得られた撮像画像を、上方視点となる画像にそれぞれ変換する。
画像合成部109は、上方視点変換部108によって座標変換された前後左右の各画像をつなぎ合わせて、運搬車両1を中心とした1つの俯瞰画像を作成する。画像合成部109は、上方視点変換部108によって座標変換された画像から、ひずみの大きい端部領域などを除去し、これらを繋ぎ合わせて俯瞰画像を作成する。尚、上方視点変換部108や画像合成部109の各機能については、既存の技術を用いてもよい。
俯瞰合成画像構築部110は、画像合成部109が作成した俯瞰画像、座標設定部102が設定した、障害物IDごとの障害物座標値、および潜り込み判定部107が出力した潜り込み情報を入力とする。俯瞰合成画像構築部110は、障害物座標値に基づき、検知された障害物を強調するため、マークなどを俯瞰映像に重畳させる。また、俯瞰合成画像構築部110は、潜り込み情報を入力すると、車体下9に障害物が潜り込んだことを強調するためのマークなどを俯瞰映像に重畳させる。このように俯瞰合成画像構築部110が生成された画像を、俯瞰合成画像と称する。
警報出力部111は、俯瞰合成画像構築部110が生成した俯瞰合成画像を、警報器10に対して出力する。警報器10は、俯瞰合成画像を表示することで、運転者に報知する。潜り込み判定部107によって障害物が潜り込んだと判定される場合、潜り込みを示すマークなどが俯瞰合成画像に重畳されるため、運転者は、これを確認することができる。また警報出力部111は、潜り込み判定部107によって障害物が潜り込んだと判定される場合、警報器10に対して報知指示を出力し、警報器10は、これを受けて音声メッセージやアラーム報知を行う。
図4に示す各ブロックは、上記のとおり、カメラ301〜304からの入力フレームごとに、同期をとりながら繰り返し処理を行う。このように繰り返し行われることで、俯瞰合成画像は連続した映像(動画)となって警報器10に映し出される。
<処理内容詳細>
次に、車体下9に潜り込んだ障害物の検知と表示の具体的な処理内容について説明する。
次に、車体下9に潜り込んだ障害物の検知と表示の具体的な処理内容について説明する。
図5は、周囲監視装置100の動作例を示すフローチャートである。ステップS010において、障害物領域抽出部101、上方視点変換部108は、カメラ301〜304により撮影された周囲画像401〜404を取得する。
ステップS020において、障害物領域抽出部101は、周囲画像401〜404に映り込んでいる障害物領域の抽出処理を行う。抽出処理は、周囲画像401〜404を用いた処理であれば特に制限を設けない。障害物領域抽出部101は、パターンマッチングなどの画像処理技術を用いて障害物領域を抽出する。
またステップS020において、座標設定部102は、障害物が存在すると判定された領域の障害物座標値を設定する。尚、障害物座標値は、上記のとおり障害物領域の重心座標とするが、障害物が存在すると判定された領域内に含まれているものであれば、例えば障害物領域の端などに設定してもよい。
障害物領域が抽出された場合、識別情報付加部104は、上記のとおり一意となる障害物IDを付与して、障害物ID、特徴点、障害物座標値を、障害物情報記憶部103に記憶する。識別情報付加部104は、障害物IDと障害物座標値とを対応付けて、俯瞰合成画像構築部110および座標比較部105に出力する。
ステップS030において、座標比較部105は、境界座標記憶部106から車体近傍領域の境界座標値を取得し、境界座標値と障害物座標値とを比較する。
ステップS040において、潜り込み判定部107は、座標比較部105および一時記憶部171から取得した比較結果を用いて、車体下9に障害物の潜り込みが発生したか否かの判定を行う。潜り込みが発生したと判定する場合、潜り込み判定部107は、潜り込み情報を俯瞰合成画像構築部110に出力する。
ここで、潜り込み判定について説明する。図6は、潜り込み判定に用いられる車体近傍領域を例示する図である。ここでは、後方カメラ303が撮影した周囲画像403を用いて説明する。
車体近傍領域として、本実施形態では、第1領域416と第2領域417の2つの領域を設ける。第1領域416は、周囲画像403において、運搬車両1が撮像された車両領域の外郭形状と接するように設けられる。第1領域416は、車体下9への潜り込み経路である左右後輪4Bの間451を含むように設けられている。また第1領域416の横幅450の長さは、左右後輪4Bの間451の長さ以上となっている。
第2領域417は、第1領域416を挟んで運搬車両1の領域とは反対側において第1領域416を取り囲んで設定される。尚、第1領域416と第2領域417は、運搬車両1が映り込む範囲を含まないように設定される。
本実施形態の第1領域416は、車体、前輪、後輪を含んだ運搬車両の外郭に対し、隣接するように設けられるが、運搬車両の外郭に基づき設定されていれば、態様はこれに限定されない。例えば、運搬車両1の外郭と接しない程度に、且つ運搬車両1の外郭に沿うように第1領域416を設けてもよい。
図7は、車体近傍の障害物が車体フレーム2に潜り込んだ場合について説明する図である。図7(A)は、任意時間における周囲画像403のフレーム画像を示しており、第1領域416、第2領域417も図示している。障害物411が車体近傍に存在するとき、その障害物座標値412が第1領域416に含まれるため、第1領域416での障害物411の検知状態は、検知(領域内に障害物座標値が含まれている状態、以下同様)である。また、第2領域417での障害物411の検知状態は、非検知(領域内に障害物座標値が含まれていない状態、以下同様)である。
図7(B)は、図7(A)に示すフレームの次のフレームを示している。障害物411が車体の下に潜り込んだとき、図7(B)に示すフレームにおいて、第1領域416での障害物411の検知状態は、検知から非検知に遷移する。一方で、第2領域417での障害物411の検知状態は、非検知のままである。
このように、2つの連続したフレームにおいて、第1領域416では障害物411の検知状態が検知から非検知に遷移し、第2領域417での検知状態は非検知のままのとき、潜り込み判定部107は、障害物411が車体下9に潜り込んだと判定する。そして潜り込み判定部107は、潜り込みが発生したことを示す潜り込み情報を、俯瞰合成画像構築部110に出力する。
図8は、車体近傍の障害物411が車体に潜り込まない場合について説明する図である。図8(A)は、任意時間における周囲画像403のフレーム(図7(A)と同じ画像)である。障害物411が車体近傍に存在するとき、障害物座標値412が第1領域416に含まれるため、第1領域416での障害物411の検知状態は、検知である。一方、第2領域417での障害物411の検知状態は、非検知である。
図8(B)は、図8(A)に示すフレームの次のフレームを示している。次フレームにおいて、障害物411が車体フレーム2から離れる方向に移動する場合、第1領域416での障害物411の検知状態は、検知から非検知に遷移する。また第2領域417にでの障害物411の検知状態は、非検知から検知に遷移する。この場合、潜り込み判定部107は、障害物411が車体フレーム2から離れる方向に移動したと判定し、潜り込み情報を俯瞰合成画像構築部110に出力しない。
尚、第1領域416に障害物411が存在するかについての判定手法については以下のとおりである。まずは座標比較部105が、第1領域416の境界を示す各頂点座標である第1境界座標値と、障害物411の障害物座標値412との比較を行い、比較結果(領域内での検知または非検知の結果)を、潜り込み判定部107に出力する。そして潜り込み判定部107が、この比較結果を今回の比較結果として入力し、また前回の比較結果を一時記憶部171から取得して、潜り込みの判定を行う。障害物411が第2領域417内に存在するかの判定も同様に、第2領域417の境界を示す各頂点座標である第2境界座標値と障害物411の障害物座標値412との比較により行われる。
図9は、潜り込み判定の動作例を示すフローチャートである。図9に示す判定処理は、障害物IDごとに行われるものとする。
潜り込み判定部107は、処理対象のフレームとその一つ前のフレームの比較結果を、それぞれ座標比較部105および一時記憶部171から入力し、第1領域416における検知状態が検知から非検知に遷移したかを判定する(S100)。検知から非検知に遷移した場合(S100:Yes)、ステップS110に進む。遷移しなかった場合(S100:No)、潜り込み判定部107は、当該フレームについての処理を終了し、次のフレームの処理へと進める(S100に戻る)。尚、潜り込み判定部107は、次フレームの処理のため、処理終了の際に、今回処理対象としたフレームに関する障害物IDおよび比較結果を、一時的に一時記憶部171に記憶しておく。
ステップS110において、潜り込み判定部107は、第2領域417における検知状態が非検知から検知に遷移したかを判定する(S110)。非検知から検知に遷移した場合(S110:Yes)、潜り込み判定部107は、第1領域416から第2領域417に障害物411が移動したものとし、当該フレームについての処理を終了して次フレーム画像の処理へと進める。遷移せずに非検知のままである場合(S110:No)、潜り込み判定部107は、潜り込みが発生したと判定し、潜り込み情報を障害物IDに対応付けて俯瞰合成画像構築部110に出力する(S120)。その後、当該フレーム画像についての処理を終了して次フレーム画像の処理へと進める。
図5のフローチャートの説明に戻る。ステップS050において、上方視点変換部108は、カメラ301〜304より取得した周囲画像401〜404の画像が上方視点となるように変換する。そして画像合成部109が、座標変換された前後左右の各画像をつなぎ合わせて、運搬車両1を中心とした1つの俯瞰画像を作成する。
次いでステップS060において、俯瞰合成画像構築部110は、入力した障害物座標値412を俯瞰画像に合致するように座標変換することで、俯瞰画像内に映し出された障害物411の領域に、強調表示マーク(後述)を重畳させる。また俯瞰合成画像構築部110は、潜り込み判定部107から入力した潜り込み情報を基に、障害物411の潜り込みが発生したことを示す車体下情報表示マーク(後述)を俯瞰画像に重畳させて、俯瞰合成画像を生成する。
ステップS070において、警報出力部111は、このようにして生成された俯瞰合成画像を警報器10に出力する。警報器10は、俯瞰合成画像を映像出力することで、車体周囲の情報を運転者に提供する。また障害物411が車体下9に潜り込んでいる場合、車体下情報表示マークを提示することで、これを報知する。
図10は、最終的に生成される俯瞰合成画像の一例を示した模式図である。上方視点変換部108は、入力した周囲画像401〜404のそれぞれに対し、必要な範囲の切り出しと座標変換を行い、俯瞰前方画像406、俯瞰左方向画像407、俯瞰後方画像408、俯瞰右方向画像409を生成する。その後画像合成部109は、俯瞰前方画像406、俯瞰左方向画像407、俯瞰後方画像408、俯瞰右方向画像409を運搬車両1の方向に応じた位置に配置する。そして俯瞰合成画像構築部110は、中央に車体アイコン410を重畳することで俯瞰合成画像405を生成する。
また俯瞰合成画像構築部110は、入力した障害物座標値412を基に、障害物411を囲む矩形状の強調表示マーク413を付加する。俯瞰合成画像構築部110は、入力された潜り込み情報を基に、潜り込みが発生したことを示す車体下情報表示マーク414を、俯瞰合成画像405に重畳させる。尚、本実施形態では、車体下情報表示マーク414としてエクスクラメーションマークを示しているが、車体アイコン410の色を変更したり、文章を表示したり、音声によるメッセージ出力により報知を行ってもよい。また、潜り込みが発生した方向を矢印で示したり、経過時間に応じて車体下情報表示マーク414の表示形態を切り替えてもよい。
俯瞰合成画像構築部110は、切り出し処理の都合で俯瞰合成画像405には映らないが周囲画像401〜404には映っている障害物411がある場合、これらの存在も運転者に報知する。本実施形態では、車体近傍情報通知マーク421として三角形状のマークを付すものとする。
本実施形態により、障害物が車体下に潜り込んだ場合でも、潜り込みが発生したことを運転者に報知することができ、運転者は、車体下に障害物が存在していることを認識することができる。これにより、作業上の安全を確保するための確認作業を効率的に行うことができ、作業全体の運用効率を向上させることができる。
(第2実施形態)
第2実施形態では、車体下に今現在潜り込んでいる障害物の数をカウントし、運転者にこの数を報知する実装例について説明する。
第2実施形態では、車体下に今現在潜り込んでいる障害物の数をカウントし、運転者にこの数を報知する実装例について説明する。
図11は、第2実施形態の周囲監視装置100の機能ブロックの構成例を示す図である。第2実施形態の周囲監視装置100は、離脱判定部120、潜り込み数算出部121をさらに備える。これら以外の機能ブロックについては、第1実施形態で説明した機能ブロックを流用して説明する。
座標比較部105は、第1実施形態の機能に加え、障害物IDと比較結果とを離脱判定部120に出力する。潜り込み判定部107は、第1実施形態の機能を備えるが、潜り込み情報の出力先が潜り込み数算出部121となる。
離脱判定部120は、座標比較部105の比較結果に基づき、車体下9に潜り込んでいた障害物411が車体下9から離脱したか否かを判定する。離脱したと判定する場合、離脱判定部120は、このことを示す離脱情報を、潜り込み数算出部121に出力する。
潜り込み数算出部121は、潜り込み判定部107から入力した潜り込み情報と、離脱判定部120から入力した離脱情報とから、車体下9に今現在潜り込んでいる障害物の数を算出する。その後、算出した障害物の数を俯瞰合成画像構築部110に出力する。
俯瞰合成画像構築部110は、第1実施形態の機能に加え、潜り込み数算出部121から障害物の数を入力し、障害物の数を俯瞰合成画像に重畳し、この画像を警報器10に出力する。
図12は、第2実施形態における処理内容を示すフローチャートである。ステップS010、S020の周囲画像の入力、検知処理については、第1実施形態と同様である。ステップS030については、座標比較部105は、比較結果(第1領域416、第2領域417それぞれでの検知または非検知の結果)を、障害物IDに対応付けて潜り込み判定部107および離脱判定部120に出力する。
ステップS040において、潜り込み判定部107は、第1実施形態と同様に座標比較部105から入力する比較結果を基に、潜り込みの有無を判定する。そして潜り込み判定部107は、潜り込み情報を潜り込み数算出部121に出力する。
ステップS041において、離脱判定部120は、座標比較部105から入力する比較結果を基に、車体下9から障害物411が離脱したか否かを判定し、離脱したと判定する場合、離脱情報を潜り込み数算出部121に出力する。
離脱したか否かの判定方法について、図13および図14を用いて説明する。図13は、車体外部から障害物411が接近してくる場合の例を示す図である。また図13(A)は、任意時間における周囲画像403のフレームであり、図13(B)は、図13(A)の次のフレームである。
障害物411が車体フレーム2に接近してくるとき、まずは第2領域417に障害物座標値412が含まれるようになる(図13(A)参照)。このときの第2領域417における障害物411の検知状態は、検知となる。次に、障害物411が車体フレーム2にさらに接近したとき、図13(B)に示すように、第1領域416に障害物座標値412が含まれるようになるため、第1領域416における障害物411の検知状態は、非検知から検知に遷移する。一方、第2領域417における障害物411の検知状態は、検知から非検知に遷移する。
図14は、車体下9に存在していた障害物411が車体下9から離脱した場合について示している。また図14(A)は、任意時間における周囲画像403のフレーム画像であり、図14(B)は、図14(A)の次のフレーム画像である。
障害物411が車体下9に存在するとき(図14(A)参照)、障害物座標値412は、第1領域416および第2領域417に含まれない。よって、第1領域416および第2領域417における検知状態は、いずれも非検知である。次に、障害物411が車体下9から離脱したとき(図14(B)参照)、第1領域416における障害物411の検知状態は、非検知から検知に遷移する。また第2領域417における障害物411の検知状態は、非検知のままである。
以上のことから、第1領域416の検知状態が非検知から検知に遷移した場合において、第2領域417の検知状態が非検知のままであるかを判定することで、障害物411が車体下9から離脱したか否かを判別することができる。
図15は、第2実施形態の離脱判定の動作例を示すフローチャートである。尚、このフローチャートに示す判定処理は、障害物IDごとに行われるものとする。
離脱判定部120は、座標比較部105および一時記憶部171から、第1領域416に対する今回および前回のフレームそれぞれの比較結果を取得する。そしてこれらに基づき、離脱判定部120は、第1領域416において検知状態が非検知から検知に遷移したかどうかを判定する(S200)。非検知から検知に遷移した場合(S200:Yes)、離脱判定部120はステップS210に処理を進める。遷移しなかった場合(S200:No)、処理は終了となる。
離脱判定部120は、座標比較部105、一時記憶部171から、第2領域417に対する今回および前回のフレームの比較結果を、それぞれ取得する。そして離脱判定部120は、これら比較結果に基づき、第2領域417において検知状態が検知から非検知に遷移したかを判定する(S210)。検知から非検知に遷移した場合(S210:Yes)、離脱判定部120は、第2領域417から第1領域416に障害物411が移動したと判定し、処理を終了する。遷移しなかった場合(S210:No)、離脱判定部120は、障害物411が車体下9から第1領域416へ離脱したものと判定し、離脱情報を障害物IDに対応付けて潜り込み数算出部121に出力し(S220)、処理を終了する。離脱判定部120は、次回処理のため、今回の処理対象フレームでの比較結果などを、必要に応じて一時記憶部171に記憶する。
図12のフローチャートの説明に戻る。次いでステップS042において、潜り込み数算出部121は、潜り込み判定部107および離脱判定部120の判定結果(潜り込み情報、離脱情報)を基に、車体下9に存在する障害物411の数を算出し、俯瞰合成画像構築部110に出力する。
図16は、潜り込み数算出部121による、車体下9に存在する障害物411の数を算出する動作例を示したフローチャートである。潜り込み数算出部121は、潜り込み判定部107からの潜り込み情報を入力したかを判定すことで、新たに潜り込みが発生したか否かを判定する(S300)。潜り込みが発生していない場合(S300:No)、潜り込み数算出部121は、処理をステップS320に進める。新たに潜り込みが発生した場合(S300:Yes)、潜り込み数算出部121は、車体下障害物数のカウントを1つ追加して(S310)、処理をステップS320に進める。尚、車体下障害物数は、車体下9に存在する障害物411の数を数えるための変数である。
次いで潜り込み数算出部121は、離脱判定部120からの離脱情報を入力したかを判定することで、新たに離脱が発生したか否かを判定する(S320)。離脱が発生していない場合(S320:No)、潜り込み数算出部121は、処理をステップS340に進める。新たに離脱が発生した場合(S320:Yes)、潜り込み数算出部121は、車体下障害物数のカウントを1つ減らして(S330)、処理をステップS340に進める。尚、システムが起動する以前に、既に車体下9に潜り込んでいる障害物411については検出できないため、車体下障害物数は負の値を取らないこととする。
潜り込み数算出部121は、車体下障害物数が1以上かどうかを判定する(S340)。車体下障害物数がゼロの場合(S340:No)、処理はこのまま終了する(S300に戻る)。車体下障害物数が1以上である場合(S340:Yes)、潜り込み数算出部121は、車体下障害物数に設定されている数値を、俯瞰合成画像構築部110に出力し(S350)、処理を終了する(S300に戻る)。尚、車体下障害物数419がゼロのときにも、車体下障害物数がゼロであることを示す情報を俯瞰合成画像構築部110に出力しても構わない。
図12の説明に戻る。ステップS050では、上方視点変換部108および画像合成部109が第1実施形態と同様処理により俯瞰画像を生成する。またステップS060では、俯瞰合成画像構築部110が、第1実施形態と同様処理により俯瞰合成画像を生成するが、第2実施形態では、さらに潜り込み数算出部121から入力された車体下障害物数も、俯瞰合成画像に付与する。ステップS070では、警報出力部111は、車体下障害物数の値が含まれている俯瞰合成画像を、警報器10へ出力する。警報器10は、この俯瞰合成画像を映像出力することで、運転者に報知する。
図17は、第2実施形態の俯瞰合成画像405の一例を示す模式図である。第2実施形態の俯瞰合成画像405には、車体下障害物数を表示する欄418が付与されている。また、車体下障害物数がゼロのとき、もしくは離脱判定によりゼロになったとき、警報器10は、欄418を表示しない。車体下障害物数が1以上の場合、欄418に車体下障害物数が表示され、運転者に報知される。
尚、第2実施形態では、俯瞰合成画像構築部110は、潜り込み情報を取得しない代わりに、車体下障害物数の値に基づき、潜り込みが発生していることを示す車体下情報表示マーク414を重畳する。
第2実施形態により、今現在車体下に潜り込んでいる障害物の数を運転者に報知することが可能となり、運転者は、より詳細な状況を把握することができる。
(第3実施形態)
第3実施形態では、第1、第2実施形態で説明した潜り込み判定および離脱判定の別形態について説明する。第3実施形態では、過去の障害物座標値(t−1)と現在の障害物座標値(t)とを結んだ移動経路を用いる方法により、潜り込み判定および離脱判定を行う。尚、第3実施形態では、第1、第2実施形態で説明した機能ブロックをそのまま流用して説明する。
第3実施形態では、第1、第2実施形態で説明した潜り込み判定および離脱判定の別形態について説明する。第3実施形態では、過去の障害物座標値(t−1)と現在の障害物座標値(t)とを結んだ移動経路を用いる方法により、潜り込み判定および離脱判定を行う。尚、第3実施形態では、第1、第2実施形態で説明した機能ブロックをそのまま流用して説明する。
まずは第3実施形態の潜り込み判定について説明する。図18は、障害物411が車体下9に潜り込んだときの状況を説明する図である。また図18(A)は過去(t−1)のフレーム画像の模式図とし、図18(B)は現在(t)のフレーム画像(図18(A)の次のフレーム画像)の模式図とする。
図18(A)において、障害物411が車体近傍に存在するとき、過去(t−1)の障害物座標値422は第1領域416に含まれるため、第1領域416での検知状態は、検知である。
次のフレーム画像である図18(B)において、障害物411(実線で示される障害物411)が車体から離れていったとき、障害物座標値422は第1領域416に含まれなくなるため、第1領域416での検知状態は、検知から非検知に遷移する。このとき、過去(t−1)の障害物座標値422と現在(t)の障害物座標値423Aを結んだ移動経路424は、第1領域416の境界と交差する。
一方、障害物411が車体下9に潜り込んだときは、障害物閾値(破線で示される障害物411)は第1領域416に含まれなくなるため、第1領域416における検知状態は、検知から非検知に遷移する。また、障害物411が完全に潜り込む場合は、カメラ303と障害物411との間に車体フレーム2が入り込むため、障害物411に対する撮像が遮られ、周囲画像403には障害物411が映らなくなる。よって、障害物411の現在(t)の障害物座標値を設けることができないため、移動経路が形成されず、第1領域416の境界とは交差しないこととなる。
尚、カメラ303による撮像タイミングが車体フレーム2により遮られる直前であっても、図18(B)に示すように、障害物411の障害物座標値は、検知状態が検知から非検知に遷移する直前の障害物座標値423Bとなる。この場合においても、過去(t−1)の障害物座標値422と現在(t)の障害物座標値423を結んだ移動経路424は、第1領域416の境界と交差しない。
以上のことから、過去(t−1)の障害物座標値422と現在(t)の障害物座標値423とを結んだ移動経路424が、第1領域416の境界と交差するかを判定することで、障害物411が車体下9に潜り込んだかの判定を行うことができる。
図19は、第3実施形態の潜り込み判定のフローチャートである。尚、ここでの説明では、潜り込み判定部107は、障害物ID、比較結果に加え、障害物座標値も座標比較部105から入力し、前回フレームにおける障害物ID、比較結果、障害物座標値を一時記憶部171から取得する。また図19の処理後、潜り込み判定部107は、次回処理のために一時記憶部171に今回の処理対象フレームでの障害物ID、比較結果、障害物座標値を記憶する。これらの動作は、後述の図22でも同様である。
第3実施形態の潜り込み判定部107は、座標比較部105の比較結果を受けて、第1領域416における検知状態が検知から非検知に遷移したかを判定する(S400)。検知状態が検知から非検知に遷移していない場合(S400:No)、潜り込み判定部107は、障害物411が第1領域416から移動していないと判定し、処理を終了する。
第1領域416における検知状態が検知から非検知に遷移した場合(S400:Yes)、潜り込み判定部107は、過去(t−1)および現在(t)の各障害物座標値を結んだ移動経路424が、第1領域416の境界と交差するかを判定する(S410)。交差している場合(S410:Yes)、潜り込み判定部107は、障害物411の潜り込みが発生していないと判定し、処理を終了する。一方、第1領域416の境界と障害物411の移動経路424とが交差していない場合(S410:No)、潜り込み判定部107は、障害物411の潜り込みが発生したと判定し、潜り込み情報を出力して(S420)、処理を終了する。
次に、第3実施形態の離脱判定について説明する。図20は、障害物411が車体下9から離脱したときを示す図である。また図20(A)は過去(t−1)のフレーム画像の模式図とし、図20(B)は現在(t)のフレーム画像(図20(A)の次のフレーム画像)の模式図とする。
図20(A)において、障害物411が車体下9に存在するとき、障害物閾値は第1領域416に含まれないため、第1領域416における検知状態は、非検知である。
次に図20(B)において、障害物411が車体下9から離脱したとき、障害物座標値423は第1領域416に含まれるため、第1領域416における障害物411の検知状態は、非検知から検知に遷移する。このとき、過去(t−1)の障害物座標値422と現在(t)の障害物座標値423を結んだ移動経路424は、図18(B)を用いた上記の説明と同様の理由で、第1領域416の境界と交差しない。
図21は、障害物411が離れた位置から車体下9に接近するときを示す図である。また図21(A)は過去(t−1)のフレーム画像の模式図とし、図21(B)は現在(t)のフレーム画像(図21(A)の次のフレーム画像)の模式図とする。
図21(A)において、障害物411が第1領域416より車体下9から離れた位置に存在するとき、第1領域416における検知状態は、非検知である。次に障害物411が車体下9に接近したとき(図21(B)参照)、現在(t)の障害物座標値423は、第1領域416に含まれるため、第1領域416における検知状態は、非検知から検知に遷移する。このとき、過去(t−1)の障害物座標値422と現在(t)の障害物座標値423を結んだ移動経路424は、第1領域416の境界と交差する。
図22は、第3実施形態における離脱判定のフローチャートである。第3実施形態の離脱判定部120は、座標比較部105の比較結果を受けて、第1領域416における検知状態が非検知から検知に遷移したかを判定する(S500)。検知状態が非検知から検知に遷移していない場合(S500:No)、離脱判定部120は、車体下9からの離脱または離れた位置からの第1領域416への進入が発生していないと判定し、処理を終了する。
第1領域416における検知状態が非検知から検知に遷移した場合(S500:Yes)、離脱判定部120は、過去(t−1)および現在(t)の各障害物座標値を結んだ移動経路424が、第1領域416の境界線と交差するかを判定する(S510)。交差している場合(S510:Yes)、離脱判定部120は、離脱が発生していないと判定し、処理を終了する。第1領域416の境界と障害物411の移動経路424とが交差していない場合(S510:No)、離脱判定部120は、障害物411の離脱が発生したと判定し、離脱情報を出力して(S520)、処理を終了する。
第3実施形態の運搬車両1は、第1領域416で検知状態が遷移し、且つ、障害物411のフレーム前後の座標値を結ぶ移動経路と、第1領域416の境界線とが交差するか否かについて判定した。そして運搬車両1は、この判定結果に基づき、障害物411が潜り込んだか、離脱したかを判定した。このような態様でも、潜り込みまたは離脱を判定することができる。
(その他の実装例)
上記各実施形態では、障害物座標値を用いて、車体下への潜り込みまたは車体下からの離脱を判定しているが、障害物座標値以外を用いて判定を行ってもよい。例えば、パターンマッチングを用いる際に障害物の一部のみが検知されていると判定した場合、車体下9に障害物が潜り込みかけている、もしくは離脱しかけていると判定することができる。
上記各実施形態では、障害物座標値を用いて、車体下への潜り込みまたは車体下からの離脱を判定しているが、障害物座標値以外を用いて判定を行ってもよい。例えば、パターンマッチングを用いる際に障害物の一部のみが検知されていると判定した場合、車体下9に障害物が潜り込みかけている、もしくは離脱しかけていると判定することができる。
上記各実施形態では、カメラから得られた周囲画像を用いて、第1領域、第2領域の車体近傍領域の設定や、潜り込み判定などを行っている。これに限らず、例えば俯瞰合成画像405を用いて車体近傍領域の設定および潜り込み判定を行ってもよい。図23は、カメラ301〜304により取得された映像を座標変換した後、運搬車両1の位置に車体アイコン410を重畳した俯瞰合成画像405である。この俯瞰合成画像405における、車体アイコン410と接する領域を第1領域416とし、第1領域416の外周を囲んだ領域を第2領域417として設定することが考えられる。この場合、上記各実施形態の境界座標記憶部106は、第1領域416、第2領域417の各領域の頂点座標を記憶しておく。そして座標比較部105、潜り込み判定部107、離脱判定部120は、図23に示す第1領域416、第2領域417に基づき、潜り込み判定や離脱判定を行う。
上記各実施形態では、車体近傍領域である第1領域416、第2領域417を1つずつ設定したが、この態様に限定されない。第1領域416および第2領域417の範囲および個数は本システムの用途や車体の形状に応じて適宜設定してよい。例えば車体近傍領域を1つの周囲画像401〜404に対し複数設定してもよい。また、複数のカメラ301〜304により構成されている場合において、1つもしくは複数の周囲画像401〜404に対し、車体近傍領域を1つも設定しなくてもよい。
また、車体近傍領域を用いた潜り込みの判定のみでは高い精度とならない場合、他の手法と組み合わせても構わない。一例として、いずれか1つのカメラ301〜304からでは車体に隠れているが、隣接する他のカメラからは検知できているケースが考えられる。図24は、障害物411が自車両の運搬車両1の左後方に存在する状態を示した図である。周囲画像403において、障害物411の一部が自車両に重なっている一方で、周囲画像402においては障害物411は自車両と重なっていない。このとき、周囲画像403では障害物411が車体フレーム2に重なっているため潜り込み状態と判定する可能性がある。これに対し周囲画像402では、障害物411が車体フレーム2に重なっていないため、潜り込み判定とはならない。周囲監視装置100全体としてみれば、障害物411はカメラ映像に映っているため、潜り込み判定を行う必要がない。この様なケースでは、複数のカメラに映る障害物411に対し、障害物座標値412もしくは移動方向情報などから、同一の障害物か否かを判定する。そして、同一の障害物である場合には、障害物411が映るカメラ全てで潜り込みの条件を満たしている時に限り、潜り込み状態と判定する。これにより、潜り込み判定をより正確に行うことが可能になる。
上記各実施形態では、カメラの数を4台としたが、台数はこれに限らない。検知を要する範囲や目的に応じて、適宜台数を変更することができる。
上記各実施形態の第1領域416は、画像内に映り込んだ運搬車両の外郭形状と接するように、もしくは運搬車両の外郭形状に沿うように設定されるものとして説明した。また第1領域416は、運搬車両が映り込む範囲を含まないように設定されるものとして説明した。これらのように、第1領域416は、各カメラ301〜303に映り込まれる、運搬車両の外郭形状に基づき規定される。
上記各実施形態の第1領域416、第2領域417は、映像のフレームレートやカメラ301〜304の向き、運搬車両1の走行速度などに応じて、適宜設定される。第1領域416、第2領域417は、連続したフレーム画像の中の少なくとも1フレームに、障害物411が入り込む程度の大きさに設定されていればよい。
上記各実施形態の説明において、潜り込み判定部107や離脱判定部120は、今回の処理対象フレームに関する比較結果、障害物IDなどを、座標比較部105から直接取得し、前回のフレームに関する比較結果などを、一時記憶部171から取得するものとして説明した。これに対し、今回のフレームに関する比較結果なども、一時記憶部171を介して取得しても構わない。この場合、座標比較部105は、今回の処理対象フレームに関する比較結果や障害物IDを含んだセットを、一時記憶部171に記憶する。そして潜り込み判定部107や離脱判定部120は、今回および前回のフレームに関する比較結果と障害物IDとのセットを、一時記憶部171から取得して、各判定処理を行う。尚、上記各実施形態の説明においても、潜り込み判定部107や離脱判定部120が処理する際、自らが管理している記憶領域(自らで領域を割り当て、確保した記憶領域)に、今回のフレームに関する比較結果などを記憶している。一時記憶部に今回のフレームに関する比較結果などを記憶するとは、このように、潜り込み判定部や離脱判定部が自らで管理している記憶領域に記憶する動作も含まれる。
以上に詳説したように、本実施形態によって、運搬車両の車体下に物体が存在する場合でも、適切に報知を行うことができるため、安全性の向上を図ることができる。
尚、本発明は上記した実施形態に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。また、上記の各構成、機能、処理部、処理手段等は、それらの一部または全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
1:運搬車両
10:警報器
100:周囲監視装置
101:障害物領域抽出部
102:座標設定部
103:障害物情報記憶部
104:識別情報付加部
105:座標比較部
106:境界座標記憶部
107:潜り込み判定部
108:上方視点変換部
109:画像合成部
110:俯瞰合成画像構築部
111:警報出力部
120:離脱判定部
121:込み数算出部
171:一時記憶部
301〜304:カメラ
416:第1領域
417:第2領域
10:警報器
100:周囲監視装置
101:障害物領域抽出部
102:座標設定部
103:障害物情報記憶部
104:識別情報付加部
105:座標比較部
106:境界座標記憶部
107:潜り込み判定部
108:上方視点変換部
109:画像合成部
110:俯瞰合成画像構築部
111:警報出力部
120:離脱判定部
121:込み数算出部
171:一時記憶部
301〜304:カメラ
416:第1領域
417:第2領域
Claims (7)
- 運搬車両の周囲を撮像するカメラと、
警報器と、
コンピュータにより構成され、前記カメラと前記警報器とに接続されており、前記カメラにより撮像される周囲画像を、前記カメラのフレームレートに基づき時系列に沿って連続して取得する周囲監視装置とを備える運搬車両であって、
前記周囲監視装置は、
各フレームを構成する周囲画像から、障害物が撮像された障害物領域を抽出する障害物領域抽出部と、
前記障害物領域を構成する画素の座標値から、代表となる座標値である障害物座標値を設定する座標設定部と、
前記周囲画像において、前記運搬車両が撮像された車両領域の外郭形状に基づき設定される第1領域の境界を示す第1境界座標値を記憶する境界座標記憶部と、
前記障害物座標値と、前記第1境界座標値とを比較し、前記第1領域内に前記障害物座標値が含まれている否かの比較結果を出力する座標比較部と、
前記座標比較部による比較結果を一時的に記憶する一時記憶部と、
前記一時記憶部から今回および前回のフレームに対する比較結果をそれぞれ取得し、これら比較結果の時系列変化に基づき、前記運搬車両の車体下に前記障害物が潜り込んだかを判定する潜り込み判定部と、
前記障害物が潜り込んだと判定される場合、前記警報器に対して報知指示を出力する警報出力部と、を備えることを特徴とする運搬車両。 - 請求項1に記載の運搬車両において、
前記境界座標記憶部は、さらに、前記第1領域を挟んで前記車両領域とは反対側において前記第1領域を取り囲んで設定される第2領域の境界を示す第2境界座標値を記憶し、
前記座標比較部は、さらに、前記第2境界座標値と、前記障害物座標値とを比較し、前記第2領域内に前記障害物座標値が含まれているか否かの比較結果を出力し、
前記潜り込み判定部は、前記第1領域、前記第2領域それぞれに関する今回および前回のフレームに対する比較結果を、前記一時記憶部から取得し、これらの比較結果が、前記障害物座標値が前記第1領域内に含まれる状態から含まれない状態へ遷移するものであり、且つ、前記障害物座標値が前記第2領域内に含まれない状態のまま遷移しないものである場合、前記障害物が潜り込んだと判定することを特徴とする運搬車両。 - 請求項1に記載の運搬車両において、
前記潜り込み判定部は、今回および前回のフレームに対する前記比較結果を、前記一時記憶部から取得し、これらの比較結果が、前記障害物座標値が前記第1領域内に含まれる状態から含まれない状態へ遷移するものであり、且つ、前回の障害物座標値と今回の障害物座標値とを結ぶ移動経路と、前記第1領域の境界線とが交差しない場合、前記障害物が潜り込んだと判定することを特徴とする運搬車両。 - 請求項1に記載の運搬車両において、
さらに、前記一時記憶部から今回および前回のフレームに対する比較結果をそれぞれ取得し、これら比較結果の時系列変化に基づき、前記運搬車両の車体下から前記障害物が離脱したかを判定する離脱判定部を備えることを特徴とする運搬車両。 - 請求項4に記載の運搬車両において、
前記境界座標記憶部は、さらに、前記第1領域を挟んで前記車両領域とは反対側において前記第1領域を取り囲んで設定される第2領域の境界を示す第2境界座標値を記憶し、
前記座標比較部は、さらに、前記第2境界座標値と、前記障害物座標値とを比較し、前記第2領域内に前記障害物座標値が含まれているか否かの比較結果を出力し、
前記離脱判定部は、前記第1領域、前記第2領域それぞれに関する今回および前回のフレームに対する前記比較結果を、前記一時記憶部から取得し、これらの比較結果が、前記障害物座標値が前記第1領域内に含まれない状態から含まれる状態へ遷移するものであり、且つ、前記障害物座標値が前記第2領域内に含まれた状態から含まれない状態に遷移しないものである場合、前記障害物が離脱したと判定することを特徴とする運搬車両。 - 請求項4に記載の運搬車両において、
前記離脱判定部は、今回および前回のフレームに対する前記比較結果を、前記一時記憶部から取得し、これらの比較結果が、前記障害物座標値が前記第1領域内に含まれない状態から含まれる状態へ遷移するものであり、且つ、前回の障害物座標値と今回の障害物座標値とを結ぶ移動経路と、前記第1領域の境界線とが交差しない場合、前記障害物が離脱したものと判定することを特徴とする運搬車両。 - 請求項4に記載の運搬車両において、
前記潜り込み判定部による判定結果、および前記離脱判定部による判定結果に基づき、前記運搬車両の車体下に潜り込んでいる障害物の数を算出する潜り込み数算出部を備え、
前記警報出力部は、前記警報器に対して前記障害物の数を出力することを特徴とする運搬車両。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018001483A JP6802196B2 (ja) | 2018-01-09 | 2018-01-09 | 運搬車両 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018001483A JP6802196B2 (ja) | 2018-01-09 | 2018-01-09 | 運搬車両 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019121250A JP2019121250A (ja) | 2019-07-22 |
JP6802196B2 true JP6802196B2 (ja) | 2020-12-16 |
Family
ID=67306391
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018001483A Active JP6802196B2 (ja) | 2018-01-09 | 2018-01-09 | 運搬車両 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6802196B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022014975A (ja) | 2020-07-08 | 2022-01-21 | トヨタ自動車株式会社 | 車両周辺監視装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6014664B2 (ja) * | 2012-06-08 | 2016-10-25 | 日立建機株式会社 | 自走式産業機械の表示装置 |
JP6339337B2 (ja) * | 2013-09-24 | 2018-06-06 | 日立建機株式会社 | 車両周囲移動物体検知システム |
JP6134668B2 (ja) * | 2014-02-18 | 2017-05-24 | 日立建機株式会社 | 作業車両の障害物検知装置 |
JP6262068B2 (ja) * | 2014-04-25 | 2018-01-17 | 日立建機株式会社 | 車体近傍障害物報知システム |
-
2018
- 2018-01-09 JP JP2018001483A patent/JP6802196B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019121250A (ja) | 2019-07-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6262068B2 (ja) | 車体近傍障害物報知システム | |
US9990543B2 (en) | Vehicle exterior moving object detection system | |
WO2016002163A1 (ja) | 画像表示装置、画像表示方法 | |
JP6339337B2 (ja) | 車両周囲移動物体検知システム | |
JP5902990B2 (ja) | 自走式産業機械の画像処理装置 | |
EP2848475A1 (en) | Overhead view image display device | |
JP6601506B2 (ja) | 画像処理装置、物体認識装置、機器制御システム、画像処理方法、画像処理プログラム及び車両 | |
JP6352797B2 (ja) | 作業機械の周囲監視装置 | |
JP6802196B2 (ja) | 運搬車両 | |
JP6327115B2 (ja) | 車両周辺画像表示装置、車両周辺画像表示方法 | |
US11458892B2 (en) | Image generation device and image generation method for generating a composite image | |
CN110945866B (zh) | 车辆周边图像显示装置及车辆周边图像显示方法 | |
JP6796518B2 (ja) | 移動物体検知システム | |
JP6886929B2 (ja) | 運搬車両 | |
US11173785B2 (en) | Operator assistance vision system | |
JP2017182139A (ja) | 判定装置、判定方法、および判定プログラム | |
WO2021010467A1 (ja) | 作業車両の表示システムおよび作業車両の表示方法 | |
JP6607163B2 (ja) | 画像処理装置 | |
JP4995555B2 (ja) | 画像処理装置 | |
JP2005217482A (ja) | 車両周辺監視方法および装置 | |
CN111163988B (zh) | 使用相机辅助车队中的前行车辆 | |
JP2022035746A (ja) | 作業機械の障害物報知システムおよび作業機械の障害物報知方法 | |
WO2018143285A1 (ja) | 画像表示装置 | |
CN115280765A (zh) | 车辆用显示装置以及车辆用显示方法 | |
CN114074612A (zh) | 车辆用图像记录装置以及车辆用图像记录方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201110 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201126 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6802196 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |