本発明の実施の形態を説明する前に、まず、本発明の実施の形態に係る作業機械の周囲監視装置に含まれる主な特徴について説明する。
後述する本実施の形態に係る作業機械の周囲監視装置は、作業機械に搭載され当該作業機械の周囲の画像を撮影する単眼カメラ(例えば、後述のカメラ6)と、当該画像の特徴量に基づいて当該画像中の特徴パターン(例えば、当該画像中のコーナーやエッジ)を抽出する特徴パターン抽出部(例えば、後述の特徴パターン抽出部170)と、前記画像中で前記作業機械の影とみなし得る領域の輪郭を当該画像の特徴量に基づいて抽出する影輪郭抽出部(例えば、後述の影輪郭抽出部40)と、前記特徴パターン抽出部で抽出された前記特徴パターンから、前記影輪郭抽出部で抽出された輪郭上に位置する特徴パターンを除外した残りの特徴パターンに基づいて、前記作業機械の周囲に存在する障害物を検知する物体検知部(例えば、後述の物体検知部180)とを備えることを特徴とする。
このように構成された周囲監視装置では、前記作業機械の影(自車影)の形状の複雑さに関わらず当該影の輪郭(影輪郭)がサンプリング間隔ごとに抽出され、当該影輪郭上に位置する特徴パターンが障害物検知対象から除外されるので、当該自車影が誤って障害物として認識されることを防止できる。さらに、当該影輪郭上に存在しない特徴パターンは依然として前記物体検知部による障害物検知対象となるので、例えば前記影輪郭上に自動車等の障害物が存在しており、当該障害物に係る特徴パターンのうち当該影輪郭上に存在するものが除去されても、残りの特徴パターン(例えば、自車影の内部に存在する特徴パターン)は依然として障害物検知対象として残るので、当該残りの特徴パターンに基づいて障害物検知を行えば当該障害物を即座に検知できる。
なお、上記の周囲監視装置では、作業機械の自車影の輪郭上に当該自車影の内外に渡って黒い障害物(例えば、黒色の乗用車)が存在する場合には、当該黒い障害物の輪郭を影輪郭とみなす場合があるが、その場合にも当該障害物に係る特徴パターンは、当該自車影の外部および内部に残留するので、当該残留した特徴パターンに基づいて当該障害物の検知が可能である。つまり、上記の周囲監視装置の構成であれば、前記作業機械の影境界を正確に認識する必要がなく、誤って影境界を認識した場合にも障害物の検知が速やかに可能である。
したがって、本実施の形態によれば、作業機械の周囲を撮影した画像内に時間変化する複雑な形状の自車影が存在しても、当該自車影の輪郭とみなされた部分が障害物検知対象から適切に除外されるので、自車影の誤認識の防止と障害物検知精度の向上が可能となる。
ところで、一般的に、作業機械が鉱山で利用される場合には、鉱物に由来する色(例えば、鉄鉱石採掘現場では、鉄鉱石特有の赤茶色)が地表に表れることもある。そのため、前記単眼カメラの撮影画像から自車影を抽出する場合の特徴量として、画像中の色を選択すると、自車影および影輪郭の抽出性能が低下するおそれが高まる。さらに、色は光の変化によっても変化するため、この観点からも色を特徴量として選択することは適切ではない。これに対して、本発明では、画像の色を自車影を抽出する際の特徴量として用いないため、鉱山などの地面に不規則な色の変化が現れる場所で利用しても、作業機械の周囲の障害物検知に支障をきたすことがない。また、本発明は、単眼カメラによって撮影した1枚の画像(静止画)から作業機械の周囲に存在する物体の検知が可能である点もメリットとなる。
なお、上記における「特徴パターン」とは、特徴量に基づいて画像の特徴を抽出することで検出される当該特徴の形状を示し、例えば、点(コーナー)、線・輪郭線(エッジ)、領域などが該当する。
以下、本発明を用いた作業機械の周囲監視装置の例を、図面を用いて説明する。ここでは作業機械としてダンプトラックを適用した例について説明するが、作業機械はダンプトラックのみに限定されない。つまり、本発明は、油圧ショベルを含む、所定の作業(運搬や掘削等)を行う任意の作業機械に適用することができる。
図1は、本実施の形態に係るダンプトラックの上面図を示している。この図に示すダンプトラック1は、車体フレーム2と、車体フレーム2に対して回転可能に取り付けられた前輪3(3 L及び3R)と後輪4(4L及び4R)と、車体フレーム2の上方に起伏可能に取り付けられたベッセル5と、シャーシや車体フレーム2等に固定された単眼カメラ6(6a及び6b及び6c及び6d)と、車体フレーム2の前方上部に設けられた運転室7と、車体フレーム2上の任意の場所(例えば運転室7の内部)に搭載された画像処理装置10と、運転室7の内部に設けられた表示装置100とを備えている。車体フレーム2はダンプトラック1の本体を形成するものであり、車体フレーム2の前方に前輪3、後方に後輪4を設けている。なお、前輪3Rは車両右側の前輪であり、前輪3Lは車両左側の前輪である。また、後輪4Rは車両右側の2つの後輪であり、後輪4Lは車両左側の2つの後輪である。ベッセル5はいわゆる荷台であり、土砂や鉱物等を積載するために利用される。なお、図示した前輪3および後輪4の配置および数は一例に過ぎない。
撮像装置である単眼カメラ6は、ダンプトラック1の任意の位置に設置することができる。本実施の形態では、合計4台のカメラ6a,6b,6c,6dが搭載されており、カメラ6aは、その視野範囲11(図1の破線11の範囲)に車両前方15aが含まれるように、ダンプトラック1の前方上部に斜め下方を俯瞰する格好で設置されている。これと同様に、カメラ6bは、視野範囲12に車両右側方15bが含まれるように車両右側方上部に設置されており、カメラ6cは、視野範囲13に車両後方15cが含まれるように車両後方上部に設置されており、カメラ6dは、視野範囲14に車両左側方15dが含まれるように車両左側方上部に設置されている。
図1の例では、太陽0がダンプトラック1の左側後方上空に位置しているため、ダンプトラック1の影(自車影)は前方90aと右側方90bに発生している。なお、図1上では模式的にダンプトラック1の前方と右側方に表れる影90a,90bを分割して表示しているが、実際には2つの影90a,90bは繋がっている(後の図も同様とする)。
図2は図1に示したダンプトラック1の側面図を示している。
前方視野範囲11(図2の破線11の範囲)を有するカメラ6aは運転室7から見て右斜め前方の位置に取り付けられ、右側方視野範囲12(図2の破線12の範囲)を有するカメラ6bは運転室7から見ての右斜め後方の位置に取り付けられ、後方視野範囲13(図2の破線13の範囲)を有するカメラ6cは車体フレーム2の後方に取り付けられている。右側方視野範囲12(図2に示していない)カメラ6dは運転室7から見て左斜め後方の位置に取り付けられているが、図2には示されていない。カメラ6a及びカメラ6b及びカメラ6c及びカメラ6dが撮影した映像は画像データとして画像処理装置10に出力される。
運転室7はオペレータが搭乗してダンプトラック1を操作するためのステアリングハンドル、アクセルペダルおよびブレーキペダルを含む各種の操作手段が設けられている。その他の操作手段としては、例えば、ダンプトラック1を前進または後進させるシフトレバーがある。運転室7には画像処理装置10と表示装置100とが設けられており、カメラ6a及びカメラ6b及びカメラ6c及びカメラ6dにより撮影・生成される画像データは画像処理装置10で所定の画像処理が行なわれる。画像処理が行なわれた画像データは表示装置100に表示される。基本的に表示装置100にはカメラ6a及びカメラ6b及びカメラ6c及びカメラ6dが撮影する映像が表示されている。
ここで、図2においては、前方視野範囲11はダンプトラック1の前方の斜め下方の領域となっている。前方視野範囲11には、作業員、他の作業機械、サービスカー等が含まれることもある。右側方視野範囲12、後方視野範囲13、左側方視野範囲14も同様である。
図3は本発明の第1の実施の形態に係る画像処理装置10の全体構成図である。この図に示す画像処理装置10は、画像入力部20と、画像記憶部30と、画像合成部35と、基準処理対象領域設定部80と、特徴パターン抽出部170と、影輪郭抽出部40と、影輪郭特徴パターン抽出部50と、影輪郭特徴パターン領域マスク部60と、物体検知部180を備えている。
4台のカメラ6a,6b,6c,6dで撮影されたカメラ画像は、それぞれ所定のサンプリング間隔で画像入力部20に入力され、画像記憶部30に記憶される。
画像記憶部30は、画像入力部20からの入力画像を異なる間隔でサンプリングして記憶し、例えば、停止時はサンプリング間隔を長く、移動時はサンプリング間隔を短くして記憶するため、必要最低限の入力画像による画像処理でよく、時間短縮が図れて処理の適正化を図ることが可能になる。
画像合成部35は、4台のカメラ6a,6b,6c,6dから出力され画像記憶部30に記憶された複数のカメラ画像を1画像に合成する。
本発明の作業機械の周囲監視装置の画像合成部35で実行される処理手順の一例を図4に示す。まず、ステップ35aで、画像合成部35は、4台のカメラ6a,6b,6c,6dのうちどのカメラの画像であるか判定する。そして、前方カメラ6aの場合には画像処理画面の左上に配置する処理を行ない(ステップ35b)、右側方カメラ6bの場合には画像処理画面の右上に配置する処理を行ない(ステップ35c)、後方カメラ6cの場合には画像処理画面の右下に配置する処理を行ない(ステップ35d)、左側方カメラ6dの場合には画像処理画面の左下に配置する処理を行う(ステップ35e)。この手順により4台のカメラ6a、6b、6c、6dの画像を1フレームとする合成画像が生成される(ステップ35f)。
本発明の作業機械の周囲監視装置のカメラ6aの入力画像20aと、カメラ6bの入力画像20bと、カメラ6cの入力画像20cと、カメラ6dの入力画像20dとを画像合成部35で合成した画像の一例を図5に示す。図5には、入力画像20aにおいて自車影90aが、入力画像20bにおいて自車影90bが発生している。また、入力画像20aには、自車影90aと同様の暗い領域として、黒い車110及び非自車影111が存在している(例えば、黒い車が作業機械の下方に潜っている場合には当該黒い車は当該作業機械の影(自車影)とはならない)。
本実施の形態では、作業機械本体の一部15a,15bに接触する暗い領域が存在し、かつ当該暗い領域の面積が所定値(当該所定値は、作業機械の大きさと太陽0の位置に依存する値とする)以上の場合に、当該暗い領域を自車影(自車影90a,90b)と判定するものとする。一方、面積が所定値未満の暗い領域については、たとえ作業機本体の一部15a,15bと接触していても非自車影111とする。
このように自車影と非自車影を区別する理由は、後述する影輪郭画像作成部46で影の輪郭画像を作成する場合、影輪郭特徴パターン領域マスク部60が非自車影の輪郭画像を処理対象領域から除外してマスク領域とするので、マスク領域が広がることで障害物検知性能が低下することを防ぐためである。また、面積が所定値未満の暗い領域は、非自車影111と判定されるが、作業機械は車体が大きいため、自車影の面積も検知対象物体(例えば、サービスカー)より大きくなることが多く、自車影の面積が非自車影より小さくなることは稀である。
なお、4台のカメラ6a、6b、6c、6dの画像を1枚の画像にした例として図5のものを挙げて説明したが、これは一例に過ぎず、当該1枚の画像における各画像の配置は図5に示したもの以外のものでも良い。また、ここで説明する例では、4台のカメラ画像を利用して障害物検知を行うが、障害物検知に利用するカメラの台数(すなわち、障害物検知に利用する画像の枚数)はいくつでも良い。
図3に戻り、基準処理対象領域設定部80は、予め設定された処理対象領域に基づいて、画像合成部35で合成された各画像20a,20b,20c,20d上で後続の各種処理(例えば物体検知部180による障害物検知を含む)が行われる領域を特定する部分である。
基準処理対象領域設定部80による領域特定を行う前に予め行っておく処理対象領域の設定手順を図6に示す。ここではカメラ6aで撮影した入力画像20aに対して処理対象領域を設定する場合について説明する。入力画像20aに対して、オペレータが予め手動によりマウス等で基準点を順次指示して閉領域81aを指定すると、当該閉領域81aに基づいて処理対象領域82aが生成される。
なお、図6では基準処理対象領域設定部80を手動で設定する場合について説明したが、輪郭情報を利用する等して画像処理により処理対象領域を自動で設定しても良いし、他のツール(例えば、画像から自動的に抽出した路面等を処理対象領域として設定するツール等)で設定しても良く、処理対象領域82aが生成されれば特に手法を限定する必要はない。また、処理対象領域の設定は、例えば、地面全体が含まれるように囲んだ閉領域や、地面の一部を囲むような閉領域でも良い。さらに、ここでは、画像20aのみに処理対象領域を設定したが、他の画像20b,20c,20dにも設定しても良いことは言うまでも無い。
影輪郭抽出部40は、基準処理対象領域設定部80により決定設定された処理対象領域内においてダンプトラック1の影とみなし得る領域の輪郭(影輪郭)を当該画像の特徴量に基づいて抽出する部分である。なお、ここで「ダンプトラック1の影とみなし得る領域」とは、ダンプトラック1の実際の影領域と一致する必要は無く、画像処理の関係上ダンプトラック1の影と認識される領域も含むものとし、例えばダンプトラック1の影の輪郭上に黒い車両が存在する場合には、当該黒い車両の輪郭がダンプトラック1の影とみなされることもある。影輪郭抽出部40は、画像合成部35によって合成された1画像を、1個のフレームとして影輪郭抽出を行なう。
ここで本実施の形態に係る影輪郭抽出部40が備える具体的な機能を図7に示す。この図に示すように影輪郭抽出部40は、処理対象領域画像作成部41、影有無判定部42、影領域抽出部43、影領域のアウトライン画像作成部44、膨張画像作成部45、影輪郭画像作成部46として機能する。
まず、処理対象領域画像作成部41aは、画像記憶部30に記憶された画像中に、基準処理対象領域設定部80で処理対象領域として設定された閉領域を作成する。これにより以降の処理は該閉領域内に限定して行われることになる。
影有無判定部42は、処理対象領域内の影の有無を判定し、影が有ると判定した場合、影領域抽出部43で影の領域を抽出する。ここで影有無判定部42の詳細について図8を用いて詳述する。
図8は本発明の作業機械の周囲監視装置に係る影有無判定部42及び影領域抽出部43で実行される処理のフローチャートである。まず、ステップ42aにおいて、影有無判定部42は、各画像20a,20b,20c,20dの処理対象領域内に対して平滑化処理を行うことでノイズを低減し、ステップ42bでは、各画像20a,20b,20c,20dの処理対象領域内において輝度分布図を作成する。次に、ステップ42cでは、影有無判定部42は、ステップ42bで作成した輝度分布図をチェックし、輝度分布が所定の閾値以上の部分の面積を算出する。ステップ42dでは当該算出面積が所定値未満か否かを判定し、当該所定値未満の場合(面積がゼロの場合も含む)には、ステップ42eで影候補ありと判定する。一方、ステップ42dで算出面積が所定値以上と判定された場合には、ステップ42kで自車影無しと判定して処理を終了する。
ステップ42fでは、影領域抽出部43は、影候補領域を抽出するための2値化閾値を決定して2値画像を作成し、ステップ42gで当該2値画像に対して膨張及び収縮等の整形処理を行う。ステップ42hでは、当該2値画像における暗い部分の面積が所定値以上の領域を影候補領域とする 。最後に、ステップ42iでは、影領域抽出部43が、当該影候補領域が自車領域付近か否か判定し、自車領域付近の場合にはステップ42jで自車影有りと判定し、当該影候補領域を影領域として抽出して処理を終了する。
一方、ステップ42iで影候補領域が自車領域付近に無い場合には、ステップ42kで自車影無しと判定して処理を終了する。
なお、ステップ42iにおいて、影候補領域が自車領域付近に位置するとは、図5の説明で記述したように、自車影となる暗い領域90aが作業機械本体の一部15aに接触していることを意味するものとする。
図9は、図8中のステップ42bの輝度分布図を説明図である。図9において、度数75は、輝度が存在する画素数を示している。この図の例では、各カメラ6a,6b,6c,6dの画像20a,20b,20c,20dについて輝度分布図70a,70b,70c,70dが作成されている。
ステップ42cでは、例えば、カメラ6aの入力画像20aの輝度分布図70aに関して、基準処理対象領域内において影を抽出するための所定の2値化閾値71以上の部分の面積を算出するが、当該閾値以上の部分には面積が存在しないため、ステップ42eにおいて「影候補あり」と判定される。このように影候補が存在する場合には、明るい地面の輝度と暗い影の輝度に分散するため、2値化閾値71を突出しない輝度分布図70aとなる。
また、カメラ6bの入力画像20bの輝度分布図70bに関しても同様に、基準処理対象領域内における2値化閾値71以上の部分には面積が存在しないため、「影候補あり」と判定される。
一方、カメラ6cの入力画像20cの輝度分布図70cは、基準処理対象領域内における2値化閾値71以上の部分72cには面積が存在し、当該部分72cの面積が閾値以上となるため、「自車影なし」と判定される。このように影候補が存在しない場合には、地面の輝度が大部分であり、これにより2値化閾値71を突出した輝度分布図70cとなる。
更に、カメラ6dの入力画像20dの輝度分布図70dに関しても同様に、基準処理対象領域内における2値化閾値71以上の部分72dの面積が閾値以上となるため「自車影なし」と判定される。
図10はアウトライン画像作成部44(図7参照)により作成される自車影90a及び自車影90bのアウトラインを示す図である。この図に示すように、アウトライン画像作成部44は、図8の一連の処理で抽出した自車影90aの領域における外郭線(輪郭線)を自車影90aのアウトライン73aとする。同様に、自車影90bの領域における外郭線(輪郭線)を自車影90bのアウトライン73bとする。 影領域のアウトライン画像の膨張画像作成部45は、アウトライン画像作成部44により作成されたアウトライン画像のアウトライン(影輪郭)に対して膨張処理を行う。この膨張画像作成部45による膨張処理は、アウトライン画像中のアウトラインに対して所定の幅を与える処理であり、例えば、膨張回数を指定することで間接的に幅を指定しても良い。膨張回数は、必要最低限でよく、1〜3回程度である。
影輪郭画像作成部46は、膨張画像作成部45により膨張処理が加えられたアウトライン画像を影の輪郭画像とする。これにより画像記憶部30の画像に影が発生している場合には、影輪郭抽出部40により当該影の輪郭が抽出される。
図3に戻り、特徴パターン抽出部170は、画像20a,20b,20c,20d中の特徴量に基づいて当該各画像20a,20b,20c,20d中の特徴パターンを抽出する部分である。本実施の形態では基準処理対象領域設定部80の機能により、処理対象領域内の特徴パターンのみが抽出されることになる。
図11は、図3から特徴パターン抽出部170及び影輪郭特徴パターン抽出部50の周辺を抽出した図を示しており、ここでは特徴パターン抽出部170により抽出される特徴パターンとしてコーナー点を利用する場合を例に挙げて説明する。図11において、特徴パターン抽出部170は、コーナー点抽出部51、コーナー点群の特徴パターン抽出部52として機能する。なお、特徴パターン抽出部170で抽出する特徴パターンとしては、特徴量に基づいて画像の特徴を抽出することで検出される当該特徴の形状を示すものであれば良く、例えば、コーナー点に代えてまたは加えて、線・輪郭線(エッジ)や領域を利用しても良い。
コーナー点抽出部51は、画像中のコーナー点をHarrisのコーナー検出等で抽出する。コーナー点群の特徴パターン抽出部52は、複数のコーナー点から成るコーナー点群の特徴パターンを抽出する。図12及び図13はコーナー点抽出部51及び特徴パターン抽出部52による処理の説明図である。図12に示した自車影のアウトライン73aの例では、アウトライン73aのコーナー部に存在するコーナー点51a及びコーナー点51b(コーナー点群)が特徴パターンとして抽出される。また、図13にした車の例では、コーナー点は当該車の輪郭上のコーナーに存在するため、複数のコーナー点51A,51B,51C,51D,51E,51F,51G,51H,51I,51J,51K,51L,51M,51N、51Pが抽出される。つまり、これらのコーナー点群51A〜51Pが、車の特徴パターンとして生成される。
影輪郭特徴パターン抽出部50は、影輪郭に重畳している特徴パターン(例えばコーナー点))を抽出する。具体的には、影輪郭特徴パターン抽出部50は、影輪郭抽出部40で抽出した影輪郭画像(影のアウトラインを膨張した画像)に重畳している特徴パターンを抽出して、影輪郭特徴パターンとする。本実施の形態で特徴パターンとしてコーナー点を用いる理由の1つは、影に存在するコーナー点の数は、検知対象物体に存在するコーナー点の数より比較的少ない傾向があり、影輪郭特徴パターンが抽出しやすいためである。
図14は影輪郭特徴パターン抽出部50で実行される処理のフローチャートである。まず、ステップ53eにおいて、影輪郭特徴パターン抽出部50は、影輪郭抽出部40で作成された影輪郭画像に重畳している特徴パターン(コーナー点(特徴点))が存在するか否か判定する。ステップ53eにおいて影輪郭に重畳する特徴パターンが存在すると判定された場合には、ステップ53fで当該重畳している特徴パターンを抽出して、これを影輪郭特徴パターンと決定する(ステップ53g)。
一方、ステップ53eにおいて影輪郭に重畳する特徴パターンが存在しない場合、影輪郭特徴パターンが存在しないと決定する(ステップ53h)。
図15は、図14のステップ53fで抽出される特徴パターンの一例を示す図である。この図の影輪郭画像53aaは、自車影90aを膨張処理したものである。コーナー点51a及びコーナー点51bは、影輪郭画像53aaに重畳しているので、コーナー点51a及びコーナー点51bは、ステップ53gで影輪郭特徴パターンとして決定される。
図16は、図14のステップ53fで抽出される特徴パターンの他の一例を示す図である。この図の影輪郭画像53bbは、自車影90bを膨張したものである。コーナー点51e及びコーナー点51f及びコーナー点51g及びコーナー点51hは、影輪郭画像53bbに重畳しているので、コーナー点51e及びコーナー点51f及びコーナー点51g及びコーナー点51hは、影輪郭特徴パターンとして決定される。
図17は、図14のステップ53fで抽出される特徴パターンのさらに他の一例を示す図である。この図の例では、自車影90bに黒い車が進入した場合について説明する。黒い車の場合、車も影とみなされて、影領域のアウトライン画像作成部44(図7参照)で作成した影領域のアウトライン画像S53aに対して、膨張画像作成部45(図7参照)が膨張処理を設定回数行なった画像53ddが作成される。そして、画像53ddに重畳したコーナー点(特徴パターン)として、影の輪郭上のコーナー点51eに加えて、車の輪郭上のコーナー点51A、51B、51C、51D、51E、51F、51G、51H、51Pが抽出され、これらが影輪郭特徴パターンとして抽出される。
影輪郭特徴パターンマスク部60は、影輪郭に重畳している特徴パターン(影輪郭特徴パターン)を膨張した領域を作成し、当該領域(マスク領域)を処理対象領域から除外する。また、影輪郭特徴パターンを抽出して除外するため、影の誤報が低減できるだけでなく、画像処理における処理領域の適正化が可能となる。影輪郭特徴パターンマスク部60のマスク領域を表示装置100に表示すると、作業機械の運転者は、作業機械の停止時及び移動時でも、影の誤報に影響されないで作業機械の周囲を監視することが可能となる。
図18は、影輪郭特徴パターンマスク部60で実行される処理のフローチャートである。まず、影輪郭特徴パターンマスク部60は、ステップ60aにおいて、影輪郭上に重畳している特徴パターンが存在するか否か判定を行う。
ステップ60aで影輪郭上に重畳している特徴パターンが存在すると判定された場合には、ステップ60bにおいて、抽出した特徴パターンを所定回数(数回程度)膨張する処理を行なう。膨張処理は、特徴パターンを数回程度膨張することで行われるが、Harrisのコーナー検出を用いると特徴パターンは1画素で抽出されるため、直径5〜10画素程度の塊になるように膨張すればよい。
次に、ステップ60cでは、膨張した領域をマスク領域として決定し、ステップ60dで、マスク領域をマスク部として、処理対象領域から除外する処理を行なう。
一方、ステップ60aで影輪郭上に重畳している特徴パターンが存在しないと判定された場合には、ステップ60eでマスク領域なしと判定する。
これにより、特徴パターンを抽出して影輪郭の特徴パターン領域部のみを除外するため、画像処理における処理領域の適正化が可能となる。
図19は、図15のコーナー点51a及びコーナー点51bを影輪郭特徴パターンマスク部60がステップ60bで所定回数(数回程度)膨張した画像例を示す図である。影輪郭上の特徴パターンであるコーナー点51a及びコーナー点51bに対して、8方向又は4方向に数回程度膨張処理が施されると、コーナー点51aが膨張した点51aaが生成され、コーナー点51bが膨張した点51bbが生成される。該領域51aa及び51bbは、ステップ60dにおいて、マスク部として、処理対象領域(物体検知部180により障害物検知が行われる領域)から除外される。このように構成された周囲監視装置によれば、自車影の形状の複雑さに関わらず当該影の輪郭(影輪郭)がサンプリング間隔ごとに抽出され、当該影輪郭上に位置する特徴パターン(領域51aa及び51bb)が影輪郭特徴パターンマスク部60により障害物検知対象から除外されるので、当該自車影が誤って障害物として認識されること(影の誤報)を防止できる。
図20は、図16のコーナー点51e及びコーナー点51f及びコーナー点51g及びコーナー点51hを影輪郭特徴パターンマスク部60がステップ60bで所定回数(数回程度)膨張した画像例を示す図である。影輪郭上の特徴パターンであるコーナー点51eに対して、8方向又は4方向に数回程度膨張処理が施されると、膨張した点51eeが生成される。コーナー点51ff、51gg及び51hhも同様に膨張処理を行なって、該コーナー点51ee及び51ff及び51gg及び51hhをマスク部として、処理対象領域から除外する。
図21は、図17のコーナー点51e、コーナー点51A、51B、51C、51D、51E、51F、51G、51H、51Pを影輪郭特徴パターンマスク部60がステップ60bで所定回数(数回程度)膨張した画像例を示す図である。影輪郭上の特徴パターンであるコーナー点51Aに対して、8方向又は4方向に数回程度膨張処理が施されると、膨張した点51AAが生成される。コーナー点51e、コーナー点51B、51C、51D、51E、51F、51G、51H、51Pも同様に膨張処理を行なって、該コーナー点51ee、51AA、コーナー点51BB、51CC、51DD、51EE、51FF、51GG、51HH、51PPをマスク部として、処理対象領域から除外する。
これにより、図17のように自車影の中に車が存在した場合には、図17のコーナー点51I、コーナー点51J、コーナー点51K、コーナー点51L、コーナー点51M、コーナー点51Nはマスク部とされないため、処理対象領域から除外されないで残存する。従って、物体検知部180は、コーナー点51I、コーナー点51J、コーナー点51K、コーナー点51L、コーナー点51M、コーナー点51Nを用いて自車影内の障害物(図17の例では車)を即座に検知することができる。なお、図示した物体は例示に過ぎず、車の他の障害物(例えば人)でも同様に検知できることは言うまでも無い。
したがって、本実施の形態によれば、ダンプトラック1自身の周囲を撮影した画像が複雑だったり当該画像に色成分が存在しても、先行技術のように予め記憶しておいた影境界パターンを参照することなく、更に色成分も用いることもなく、カメラ6により撮影した少なくとも1枚の画像から当該画像に写っている自車影を抽出することができるので、自車影の誤認識が低減して処理速度と作業効率が向上する。
図22は、画像合成部35で合成されたシーンに影輪郭特徴パターンマスク部60がマスクした領域を表示装置100に表示した画面例を示す図である。この図では、カメラ6aの入力画像20a、カメラ6bの入力画像20b、カメラ6cの入力画像20c、およびカメラ6dの入力画像20dを画像合成部35で合成したシーンが表示装置100に表示されており、入力画像20a上には処理対象から除外された特徴パターンとしてコーナー点51aa,51bbが表示され、入力画像20b上にはコーナー点51ee、51ff、51gg、51hhが表示されている。このように処理対象領域から除外する領域(影輪郭特徴パターン)が表示装置100に表示されると、影輪郭特徴パターンが除外された処理対象領域(障害物検知対象領域)が一目瞭然となり、運転員は処理対象領域をリアルタイムに確認することが可能になる。
また、図23及び図24に示すように、ダンプトラック1の周囲に俯瞰表示で表示すると、運転員は運転室7からの方向感覚と違和感のない感覚で前後左右の状況を把握することが可能であり、物体検知対象から除外された領域(特徴パターン)を瞬時に判断できる。ここで、図23及び図24は、ダンプトラック1の前部を上側に表示した例であり、運転室7はダンプトラック1の左上の位置に表示される。
図23は、影輪郭特徴パターン領域マスク部60でマスクされる領域を表示装置100に俯瞰画像110で表示した画面の一例を示す図である。この図の例では、ダンプトラック1の周囲から遠方の距離(約12m程度)まで表示領域に広げて表示装置100に表示している。この図では、入力画像20aの俯瞰画像20aa、入力画像20bの俯瞰画像20bb、入力画像20cの俯瞰画像20ccおよび入力画像20dの俯瞰画像20ddが処理対象領域であり、俯瞰画像20aaの処理対象から除外されるコーナー点51aa、51bbが表示されているとともに、俯瞰画像20bbの処理対象から除外されるコーナー点51ee、51ff、51gg、51hhが表示されている。なお、表示装置100の中央部に表示した図形は、ダンプトラック1を示しており、図示したもの以外にもダンプトラック1を示すものであれば他の図形を表示しても良い。
図24は、影輪郭特徴パターン領域マスク部60でマスクされる領域を表示装置100に俯瞰画像110で表示した画面の一例を示す図である。この図の例では、ダンプトラック1の周囲から比較的近距離(約5m程度)の範囲に表示領域を限定して表示装置100に表示している。この図では、入力画像6bbの俯瞰画像20bb内の自車影90bに黒い車が進入しており、俯瞰画像20bbの処理対象から除外されるコーナー点51ee、51AA、51BB、51CC、51DD、51EE、51FF、51GG、51HHが表示されている。これにより、黒い車の残りの特徴パターンに基づいて物体検知部180が当該黒い車を障害物として検出し、ダンプトラック1に障害物が接近していることを示す警告表示190が表示画面110上に表示される。
図示した警告表示190は、障害物の特徴パターンの外形に略接するように規定された矩形であり、表示装置100の画面上に表示された警告表示190により運転員は障害物の接近を容易に認知できる。警告表示190の形状は、矩形以外の図形でも良く、図形に色を付しても良いし、時間とともに形状や色を変化させても良い。なお、本実施の形態では、物体検知部180によって障害物が検知されたことを報知する報知装置の役割を表示装置100が果たしているが、障害物報知の方法としては音声を発生する音声装置や警告灯を利用しても良い。
図25は表示装置100の表示画面の一例を示す図である。この図の例は、画像合成部35で合成された俯瞰画像110と、後方カメラ6cで撮影されたそのままの画像(スルー画像)111とを並列して表示した例であり、俯瞰画像110ではダンプトラック1の前部が上側に表示されており、運転室7がダンプトラック1の左上に表示されている。後方カメラ6cによるスルー画像111を表示することにより、運転員は見慣れたカメラ画像に基づいて違和感なく後方の障害物(車両105)を判別できる。図示した例では俯瞰画像110とスルー画像111の双方に警告表示190が表示されており、運転員は車両105の接近を容易に把握できる。
図26は表示装置100の表示画面の一例を示す図である。この図の例は、画像合成部35で合成した俯瞰画像112に関して、ダンプトラック1の周囲から比較的近距離(約5m程度)の範囲を表示装置100に表示している。ダンプトラック1を示す図形1aは、表示範囲に追随して図25の場合よりも大きく表示されており、ダンプトラック1aの前部は画像中の右側に表示され、運転室7は表示画面の右上に表示されている。表示範囲をダンプトラック1の近くに限定しており、ダンプトラック1の近くに存在する障害物(車両105)が大きく表示されるので、運転員はダンプトラック1の近くに存在する最も危険な障害物を明瞭に判別できる。
図27は表示装置100の表示画面の一例を示す図である。この図の例は、画像合成部35で合成した俯瞰画像113に関して、ダンプトラック1の周囲から中距離(約8m程度)の範囲を表示装置100に表示している。ダンプトラック1を示す図形1bは、表示範囲に追随して図26の場合よりも小さく表示されている。表示範囲を中距離に設定すると、運転員はダンプトラック1から中距離の位置に存在する障害物(車両105)まで判別できる。
図28は表示装置100の表示画面の一例を示す図である。この図の例は、画像合成部35で合成した俯瞰画像114に関して、ダンプトラック1の周囲から遠距離(約12m程度)の範囲を表示装置100に表示している。ダンプトラック1を示す図形1cは、表示範囲に追随して図27の場合よりも小さく表示されている。表示範囲を遠距離に設定すると、運転員はダンプトラック1から遠距離の位置に存在する障害物(車両105)まで判別できる。
図29は表示装置100の表示画面の一例を示す図である。この図の例は、右側方カメラ6bのスルー画像116と左側方カメラ6dのスルー画像115を並列に表示している。このように左右のスルー画像116,115を表示すると、ダンプトラック1の左右に存在する障害物の判別が容易になるので、ダンプトラック1が左右旋回する場合等の障害物発見が容易になる。
図30は表示装置100の表示画面の一例を示す図である。この図の例は、後方カメラ6cのスルー画像117を表示している。このように後方のスルー画像117を表示すると、ダンプトラック1の後方に存在する最も発見の難しい障害物の発見が容易になる。
図31は本発明の作業機械の周囲監視装置の全体構成のその他の例である。図3と同じ部分については同じ符号を付して説明を省略する。図31において、作業機械形状データ定義部201は、作業機械の仕様に基づいて当該作業機械の形状データが定義されている部分である。特徴パターン記憶部200は、作業機械形状データ定義部201で定義されている形状データ(外観形状)を当該作業機械の仕様に基づいて抽出し、その抽出した形状データを当該作業機械の外形を示す特徴パターンとして記憶する。ここでの外観形状(形状データ)は、作業機械の全長、全幅、全高、外観凹凸状態等を含んでおり、自車影の形状に関連する情報であればこれ以外の情報でもよい。
影輪郭特徴パターン抽出部50は、影輪郭抽出部40で得られる影輪郭画像と、特徴パターン記憶部200に記憶された形状データとを参照しながら影輪郭画像に重畳している特徴パターンを影輪郭特徴パターンとして決定する。なお、影輪郭特徴パターン抽出部50において、特徴パターン抽出部170で抽出されたコーナー点群と、特徴パターン記憶部200に記憶された形状データとのパターンマッチングを行ない、両者のマッチング率が所定値以上で両者が類似している場合には、当該コーナー点群を影輪郭の特徴パターンとして抽出しても良い。
また、画像記憶部30は、作業機械の起動時に画像入力部20からの画像を一旦入力したら、これ以降は作業機械稼働データ202に基づいて得られる作業機械の稼働状況をチェックし、作業機械が停止中でない場合(稼働中の場合)には画像入力部20から画像を入力し、作業機械が停止中の場合には画像入力部20からの画像の入力を中断する。これにより、作業機械の稼働状況に応じて異なるサンプリング間隔で画像入力部20から画像をサンプリングすることが可能になる。これにより、必要最低限の入力画像に基づいて画像処理を行えばよく、時間短縮が図れて処理の適正化が図れる。
なお、画像記憶部30による作業機械稼働データ202に基づいた上記処理を行わない場合には、一定のサンプリング間隔で画像入力部20からの画像をサンプリングすれば良い。
図32は本発明の作業機械の周囲監視装置に係る影有無判定部42及び影領域抽出部43で実行される処理の他のフローチャートである。図8に示したフローチャートと同じ処理については同じ符号を付して説明は省略する。この図のフローチャートにおけるステップ42bbでは、ステップ42aで平滑化処理した画像の基準処理対象領域内に対して色成分を抽出する処理を行なう。そして、ステップ42ccで基準処理対象領域が色成分が存在する領域のみから構成されているか否かを判定する。
ステップ42ccで色成分が存在しない領域が有ると判定されたら、ステップ42ddに進んで当該色成分が存在しない領域を抽出する。そして、ステップ42eeにおいて、影候補領域を抽出するための、2値化閾値を決定して2値画像を作成し、ステップ42g以降の処理を行なう。
一方、ステップ42ccで、色成分が存在する領域のみと判定された場合には、テップ42kの処理を行なう。このように影の判定に色成分を用いることが可能な場合には、影か否かを判定する精度を向上できる。
ところで、既述のように本発明の適用対象はダンプトラックに限定されず、他の作業機械にも適用可能である。図33は、本発明の適用対象である作業機械の1つであるいわゆるローダタイプの大型油圧ショベルの側面図である。この油圧ショベルは、下部走行体155と、この下部走行体155の上部に旋回台軸受け157を介して旋回可能に設けた上部旋回体156と、この上部旋回体156に俯仰動可能に連結された多関節型のフロント作業機158とを備えている。多関節型のフロント作業機158に備えられたバケット152が接地状態で開口部が前方側へ向くように配置され、バケット開閉シリンダ164がバケット152に図示するように装設されている。また、ブームシリンダ161、バケットシリンダ162、アームシリンダ163、及びバケット開閉シリンダ164がそれぞれ伸縮動作によりブーム上げ/下げ、アーム押し/引き、バケットクラウド/ダンプ、バケット閉止/開放を行うようになっている。このように構成された油圧ショベルに複数台のカメラ(例えば図中のカメラ6a,6c,6d)及び画像処理装置10をはじめとした上記の各構成を搭載すれば、上記のダンプトラック1の場合と同様に周囲監視装置を構成することができる。
なお、本発明は、上記の各実施の形態に限定されるものではなく、その要旨を逸脱しない範囲内の様々な変形例が含まれる。例えば、本発明は、上記の各実施の形態で説明した全ての構成を備えるものに限定されず、その構成の一部を削除したものも含まれる。また、ある実施の形態に係る構成の一部を、他の実施の形態に係る構成に追加又は置換することが可能である。
また、上記の画像処理装置に係る各構成や当該各構成の機能及び実行処理等は、それらの一部又は全部をハードウェア(例えば各機能を実行するロジックを集積回路で設計する等)で実現しても良い。また、上記の画像処理装置に係る構成は、演算処理装置(例えばCPU)によって読み出し・実行されることで当該画像処理装置の構成に係る各機能が実現されるプログラム(ソフトウェア)としてもよい。当該プログラムに係る情報は、例えば、半導体メモリ(フラッシュメモリ、SSD等)、磁気記憶装置(ハードディスクドライブ等)及び記録媒体(磁気ディスク、光ディスク等)等に記憶することができる。