JP6700644B2 - 放土状態監視装置 - Google Patents
放土状態監視装置 Download PDFInfo
- Publication number
- JP6700644B2 JP6700644B2 JP2017064950A JP2017064950A JP6700644B2 JP 6700644 B2 JP6700644 B2 JP 6700644B2 JP 2017064950 A JP2017064950 A JP 2017064950A JP 2017064950 A JP2017064950 A JP 2017064950A JP 6700644 B2 JP6700644 B2 JP 6700644B2
- Authority
- JP
- Japan
- Prior art keywords
- vessel
- soil
- unit
- image
- discharge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
Description
本発明は放土状態監視装置に関する。
運搬作業を目的とした建設機械として、車輪やクローラ等を有する車体フレーム部と、車体フレーム部に載積されたコックピットおよび土砂を運搬するための上下に起伏可能な荷台(以下、ベッセルという)とを備えた、鉱山用大型ダンプトラック(以下、ダンプトラックという)がある。このようなダンプトラックの主な作業内容は、他の建設機械から積み込まれた土砂を目的地まで運搬する運搬作業と、目的地に到達した後に、ベッセルを起立傾斜させてベッセル内の積載物である土砂を排出する放土作業とがあり、鉱山においては、これらの作業が繰り返し行なわれる。
このような鉱山現場において、ダンプトラックの放土作業は、オペレータがベッセル内の土砂の状況を直接確認できないため、放土作業の終了の判断がオペレータ毎に異なる。このことにより、放土作業に要する時間のばらつきが発生する。積載物の運搬と放土の繰り返し作業を行なうダンプトラックにおいて、放土作業に要する時間のばらつきは、鉱山現場における全体の運用効率を大幅に低減する。
このような運搬車両の作業効率の向上を図るために、起伏可能なベッセル内及びベッセルの後方を監視する監視カメラ装置を備え、この監視カメラ装置はベッセル監視カメラと、後方監視カメラと、これら監視カメラにより撮影した映像を映し出し可能な運転室内のモニタと、ベッセルの後部扉の開閉状態を検出するセンサと、このセンサからの信号に基づき、後部扉が開状態にあると判定したとき、ベッセル監視カメラにより撮影した映像をモニタに写し出させる制御部とを有する運搬車両がある(例えば、特許文献1参照)。
上述した特許文献1に記載された運搬車両は、ベッセル監視カメラをベッセルの前方壁上部に設置し、この映像を後方カメラの映像と共にコックピット内のオペレータに提示する。これにより、オペレータは放土作業時にベッセル内の土砂落下状況を認識可能となる。そして、最終的に放土が終了したか否かはオペレータ自身がモニタ上の土砂を確認して判断する。一方、放土終了間際にベッセルから落下する土砂の量やその落下傾向は、積載されている土砂の質や放土環境等に大きく依存する。このため、放土作業の終了の判断はオペレータによって異なる。したがって、この運搬車両を用いても、放土終了の判断に要するオペレータごとの時間のばらつきは完全には解消されない。
また、上述した運搬車両は、ベッセル下部に設置する後方カメラに加え、ベッセルの前方壁上部にベッセルカメラを別途設置している。このベッセル監視カメラは、ベッセル自身の移動による上下振動やベッセルに積載される土砂から巻き上がる粉塵の影響により、故障やレンズ汚れが頻繁に起こる可能性があり、設置や管理にコストがかかるという問題がある。
したがって、特許文献1に記載された運搬車両をダンプトラックに適用した場合、ベッセル内の様子が確認可能となり、作業効率向上が期待されるものの、その効果はオペレータごとに異なり、放土終了の判断に要するオペレータごとの時間のばらつきは解消されない。また、ベッセル監視カメラの設置および管理に多くの費用と時間を要することから、鉱山全体の運用効率の向上には繋がらない。
本発明は上述の事柄に基づいてなされたもので、その目的は、ベッセル下部に設置した車体後方を撮影する後方カメラを有し、ベッセル内の土砂が地面に落ちきった放土終了状態か否かを判定する放土状態監視装置を提供するものである。
上記課題を解決するために、例えば特許請求の範囲に記載の構成を採用する。本願は、上記課題を解決する手段を複数含んでいるが、その一例を挙げるならば、前輪及び後輪を支持するフレームを有する車体と、積荷を積載するベッセルと、前記車体の後方を撮影する後方カメラとを備えたダンプトラックの前記後方カメラが撮影した後方映像を取得する後方映像入力部を有する放土状態監視装置において、前記後方カメラが撮影した後方映像を逐次記録する記憶部と、前記後方映像入力部が取得した現在の後方映像内及び前記記憶部が記憶した過去の後方映像内の上側の一部領域に、ベッセル起立判定領域を設定し、前記記憶部が記録した前記過去の後方映像と前記後方映像入力部が取得した前記現在の後方映像を用いて、前記ベッセル起立判定領域内の画素値の時間変化を演算することで、前記ベッセルの起立を判定するベッセル起立判定部と、前記車体の形状情報を記憶した自車形状情報保持部と、前記現在および過去の後方映像内に設定された前記ベッセル起立判定領域の底辺を上辺とし、前記自車形状情報保持部に記憶された前記車体の形状情報から算出される自車構造物領域を底辺とする矩形領域に、放土終了判定領域を設定し、前記記憶部が記録した前記過去の後方映像と前記後方映像入力部が取得した前記現在の後方映像を用いて、前記放土終了判定領域内の画素値の時間変化を算出することで放土終了を判定する放土終了判定部とを備える。
本発明によれば、後方カメラより取得した映像に対し時間差分を算出する画像処理を施すことで、人手を介することなく自動で放土終了を検出可能となる。このことにより、放土作業に要する時間のばらつきが抑制される。この結果、鉱山現場における全体の運用効率が大幅に向上する。
以下、本発明の実施の形態を図面を用いて説明する。
本発明の実施の形態は、鉱山等で採掘した砕石や鉱物等を運搬する大型の作業車両であるダンプトラック向けの放土状態監視システムに係るものであり、後方カメラより取得した映像に対して時間差分の算出処理を行うベッセル起立判定部および放土終了判定部を用いることで、ダンプトラックがベッセルより土砂を放土する際の放土の開始や終了などの状態(すなわち放土状態)を自動で検出するものである。
本発明の実施の形態は、鉱山等で採掘した砕石や鉱物等を運搬する大型の作業車両であるダンプトラック向けの放土状態監視システムに係るものであり、後方カメラより取得した映像に対して時間差分の算出処理を行うベッセル起立判定部および放土終了判定部を用いることで、ダンプトラックがベッセルより土砂を放土する際の放土の開始や終了などの状態(すなわち放土状態)を自動で検出するものである。
<第1の実施の形態>
本発明の第1の実施の形態について図面を参照しつつ詳細に説明する。
図1Aは、本実施の形態に係るダンプトラックの全体構成を概略的に示す側面図、図1Bは第1の実施の形態が備えた放土状態監視システムの制御装置を示す概念図である。
図1Aに示すダンプトラック200は、前後方向に延在して支持構造体を形成するフレーム201と、フレーム201の上部に前後方向に延在するように配置され、その後端をピン結合部205を介してフレーム201に傾動可能に設けられたベッセル202と、フレーム201に装着された左前輪203A(L)及び左後輪203B(L)と、フレーム201の前側に構成された運転室コックピット208とを主に備えている。フレーム201と運転室コックピット208は車体を構成する。
本発明の第1の実施の形態について図面を参照しつつ詳細に説明する。
図1Aは、本実施の形態に係るダンプトラックの全体構成を概略的に示す側面図、図1Bは第1の実施の形態が備えた放土状態監視システムの制御装置を示す概念図である。
図1Aに示すダンプトラック200は、前後方向に延在して支持構造体を形成するフレーム201と、フレーム201の上部に前後方向に延在するように配置され、その後端をピン結合部205を介してフレーム201に傾動可能に設けられたベッセル202と、フレーム201に装着された左前輪203A(L)及び左後輪203B(L)と、フレーム201の前側に構成された運転室コックピット208とを主に備えている。フレーム201と運転室コックピット208は車体を構成する。
ベッセル202は、土砂等の荷物を積載するために設けられた容器であり、ピン結合部205を支点としてフレーム201に対して前方側を立ち上げ可能に、すなわち起伏可能に連結されている。ベッセル202の下部には、車体の幅方向に所定の間隔を介して2つの起伏シリンダ206が設置されている。起伏シリンダ206の一端はベッセル202に、他端はフレーム201にそれぞれ接続されており、起伏シリンダ206に圧油が供給・排出されると、起伏シリンダ206が伸長・縮短してベッセル202が起伏される。また、ベッセル202の前側上部には運転室コックピット208の上方を覆うように配置された庇部207が設けられている。
庇部207は、その下側(すなわちフレーム201の前部)に設置された運転室コックピット208を岩石等の飛散物から保護するとともに、車両転倒時等に運転室コックピット208を保護する機能を有している。運転室コックピット208の内部には、操舵用のハンドル(図示せず)と、アクセルペダル及びブレーキペダル等(図示せず)とが設置されている。加えて、図1Bに示す通り、後述する放土状態監視システムを構成する放土状態判定端末210(図3参照)と、出力部103(図3参照)の一例を示すディスプレイ211とが設置されている。また、フレーム201の後端部には、後述する後方カメラ100が取付けられている。
図2Aは、本実施の形態に係るダンプトラックに設置した後方カメラの撮影範囲を概念的に説明するダンプトラックの側面図、図2Bは後方カメラの映像の一例を示す概念図、図2Cは後方カメラの映像を蓄積した状態の一例を示す概念図である。
図2Aは、上述した起伏シリンダ206を伸長させてベッセル202を立ち上げているダンプトラック200の側面を示している。図2Aに示すように後方カメラ100は、ダンプトラック200の後方を撮影するものであって、ベッセル202と地表面の間を主に撮影するために、フレーム201の後端部の幅方向中央部に俯角(下向きの角度)を付けて取り付けられている。このような後方カメラ100の撮影範囲300の一例を図2A中に示す。
次に、後方カメラの撮影映像について図2B及び図2Cを用いて説明する。
図2B及び図2Cは、後方カメラで撮影される映像の例を示す図であり、図2Bは最新の映像を、図2Cは最新の映像より前の複数の映像の映像群を示す図である。ここで、後方カメラ100で得られる映像は1フレーム単位で取り扱うもとし、最新の1フレーム分の映像を後方カメラ映像301、最新の映像(後方カメラ映像301)より前に得られた映像を後方カメラ過去映像303と称する。後方カメラ100で得られる最新の映像は現在の映像(現在映像)と言うことができ、最新の映像より前に得られた映像は現在の映像に対して過去の映像(過去映像)と言うことができる。図2Bではベッセル起立後の状態(例えば、図2Aの状態)を例示した後方カメラ映像301を示しており、図2Cではベッセル起立前の状態(例えば、図1Aの状態)を例示した複数の後方カメラ過去映像303が蓄積された後方カメラ過去映像群302を示している。上述したように、後方カメラ100は俯角をつけてフレーム201の後端部に取り付けられており、後方カメラ映像301と後方カメラ過去映像303において(すなわち、ベッセル202の起立前後の状態において)映像上部にベッセル202が、映像下部に自車(ダンプトラック)200のフレーム201の後端部である自車構造物が映るように配置されている。
図2B及び図2Cは、後方カメラで撮影される映像の例を示す図であり、図2Bは最新の映像を、図2Cは最新の映像より前の複数の映像の映像群を示す図である。ここで、後方カメラ100で得られる映像は1フレーム単位で取り扱うもとし、最新の1フレーム分の映像を後方カメラ映像301、最新の映像(後方カメラ映像301)より前に得られた映像を後方カメラ過去映像303と称する。後方カメラ100で得られる最新の映像は現在の映像(現在映像)と言うことができ、最新の映像より前に得られた映像は現在の映像に対して過去の映像(過去映像)と言うことができる。図2Bではベッセル起立後の状態(例えば、図2Aの状態)を例示した後方カメラ映像301を示しており、図2Cではベッセル起立前の状態(例えば、図1Aの状態)を例示した複数の後方カメラ過去映像303が蓄積された後方カメラ過去映像群302を示している。上述したように、後方カメラ100は俯角をつけてフレーム201の後端部に取り付けられており、後方カメラ映像301と後方カメラ過去映像303において(すなわち、ベッセル202の起立前後の状態において)映像上部にベッセル202が、映像下部に自車(ダンプトラック)200のフレーム201の後端部である自車構造物が映るように配置されている。
ここで、ベッセル起立後の状態を示す図2Bの後方カメラ映像301の上部のベッセル202が映る領域の面積は、ベッセル起立前の状態を示す図2Cの後方カメラ過去映像303の上部のベッセル202が映る領域の面積より大きい。したがって、映像上部のベッセル202が映る領域の面積を、予め設定した設定値と比較することで、ベッセル202が起立状態か否かを判断できる。
図3は放土状態監視システムの構成を示す機能ブロック図である。
図3において、放土状態監視システムは、後方カメラ100と、放土状態判定端末210(コントローラ)と、出力部103と、ダンプトラック200の移動速度(車速)を検出する車速センサ109とを備えている。
図3において、放土状態監視システムは、後方カメラ100と、放土状態判定端末210(コントローラ)と、出力部103と、ダンプトラック200の移動速度(車速)を検出する車速センサ109とを備えている。
後方カメラ100は、ダンプトラック200の車体後方を撮影し、撮影した映像を放土状態判定端末210の映像入力部101へ送出する。
放土状態判定端末210は、映像入力部101と、合成映像構築部102と、放土状態判定部104とを備えている。
映像入力部101は、後方カメラ100で撮影された後方カメラ映像301を取得し、後方カメラ映像301を放土状態判定部104及び合成映像構築部102に送出する。
映像入力部101は、後方カメラ100で撮影された後方カメラ映像301を取得し、後方カメラ映像301を放土状態判定部104及び合成映像構築部102に送出する。
放土状態判定部104は、自車情報取得部105と、ベッセル起立判定部106と、放土終了判定部107と、放土状態判定結果取得部108と、記憶部110と、自車形状情報保持部111とを備えている。放土状態判定部104の各処理の機能については、後で詳細に説明する。
本実施の形態においては、数フレーム分の後方カメラ過去映像303を後方カメラ過去映像群302として保存し蓄積する。複数の後方カメラ過去映像303からなる後方カメラ過去映像群302は映像入力部101に備えた記憶部110に記憶する。なお、記憶部110は映像入力部101に備える必要はなく、後方カメラ100の内部に設ける構成としてもよい。なお、放土状態監視システムの起動時(または起動直後)は、記憶部110には後方カメラ過去映像303は蓄積されていない。
また、本実施の形態では、ダンプトラック200の車体の形状情報、後方カメラ100の設置位置や焦点距離、画角といったカメラの内部パラメータなどを保持する自車形状情報保持部111をベッセル起立判定部106に備えている。また、車速センサ109が検出したダンプトラック200の車体の移動速度(車速)は、自車情報取得部105に入力される。
合成映像構築部102は、放土状態判定部104内の放土状態判定結果取得部108より取得した放土状態の判定結果を後方カメラ映像301中に重畳表示するように合成映像を構築し、得られた合成映像を出力部103に送出する。出力部103は、例えば、運転室コックピット208の内部に設置されたディスプレイ211等の映像表示機器であり、合成映像構築部102から入力した合成映像をオペレータに対して提示する。
次に、放土状態監視システムにおいて放土の開始及び終了などの放土状態を判定し、判定結果を出力部に送出するまでの放土状態監視処理の流れを図4乃至図5Cを用いて説明する。
図4は放土状態監視システムにおける処理全体の流れを示すフローチャートであり、図5Aは放土状態監視システムの合成映像のうち放土前状態を示す概念図、図5Bは放土状態監視システムの合成映像のうち放土中状態を示す概念図、図5Cは放土状態監視システムの合成映像のうち放土終了状態を示す概念図である。
図4は放土状態監視システムにおける処理全体の流れを示すフローチャートであり、図5Aは放土状態監視システムの合成映像のうち放土前状態を示す概念図、図5Bは放土状態監視システムの合成映像のうち放土中状態を示す概念図、図5Cは放土状態監視システムの合成映像のうち放土終了状態を示す概念図である。
図4において、放土状態監視システムの放土状態判定部104は、例えば、自車(ダンプトラック)200のシフトレバーがニュートラルになったことを検知し、放土状態の判定動作(つまり、放土状態監視処理)を開始する。
まず、映像入力部101は、後方カメラ映像301の取得を行なう(ステップS400)。後方カメラ100の映像は例えば、図2Bに例示したベッセル起立後の状態や図2Cに例示したベッセル起立前の状態のものが考えられる。また、映像入力部101は、後方カメラ過去映像303の蓄積である後方カメラ過去映像群302を記憶部110から取得した後、後方カメラ100から取得した後方カメラ映像301を後方カメラ過去映像群302に加えて記憶部110に保存することで、後方カメラ過去映像群302を刷新する。なお、放土状態監視システムの起動直後など、記憶部110に後方カメラ過去映像群302が記憶されていない場合のステップS400の処理では、最新の後方カメラ映像301が後方カメラ過去映像群302として記憶部110に記憶される。
次に、放土状態判定部104は、ベッセル202における放土状態を判定する放土状態判定処理を実行する(ステップS401)。具体的には、後方カメラ映像301および後方カメラ過去映像群302を入力とし、放土状態判定部104における自車情報取得部105、ベッセル起立判定部106、放土終了判定部107、および放土状態判定結果取得部108を用いて放土状態を判定する。なお、本実施の形態では、放土状態として「放土前」、「放土中」、「放土終了」の3種類を定義し、放土状態判定部104において自車がいずれの放土状態であるのかを判定し、その判定結果を出力する。ここで、「放土前」の示す放土状態は、自車が放土作業以外を行っている全ての状態であり、「放土中」の示す放土状態は、ベッセル202から土砂が落下している最中の状態であり、「放土終了」の示す放土状態は、ベッセル202の内部の土砂が全て地面に落下した状態である。
次に、放土状態判定部104の放土状態判定結果取得部108は、放土状態の判定結果を取得する(ステップS402)。具体的には、放土状態判定結果取得部108は、放土終了判定部107から得た放土状態の判定結果(「放土前」、「放土中」または「放土終了」)を取得し、その情報を合成映像構築部102に出力する。放土状態判定部104から出力される判定結果は放土状態を示す情報であり、本実施の形態では、例えば、放土状態の判定結果に対応する「放土前」、「放土中」、又は「放土終了」といった文字列情報に変換して出力する。
合成映像構築部102は、放土状態判定部104から得られた放土状態の判定結果(ここでは、判定結果に対応する文字列情報)に基づいて放土状態を示す合成映像の構築を行なう(ステップS403)。具体的には、合成映像構築部102は、ステップS402にて取得した放土状態の判定結果を示す文字列情報を後方カメラ映像301に重畳表示するようにして合成映像を構築する。
ここで、本実施の形態における合成映像例を説明する。
図5A乃至図5Cは、出力部の一例であるディスプレイに表示される合成映像例を示す図であり、図5Aは放土状態の判定結果が「放土前」である場合の合成映像例を、図5Bは放土状態の判定結果が「放土中」である場合の合成映像例を、図5Cは放土状態の判定結果が「放土終了」である場合の合成映像例をそれぞれ示している。
ここで、本実施の形態における合成映像例を説明する。
図5A乃至図5Cは、出力部の一例であるディスプレイに表示される合成映像例を示す図であり、図5Aは放土状態の判定結果が「放土前」である場合の合成映像例を、図5Bは放土状態の判定結果が「放土中」である場合の合成映像例を、図5Cは放土状態の判定結果が「放土終了」である場合の合成映像例をそれぞれ示している。
例えば、ステップS402で取得した自車の放土状態の判定結果が「放土前」の場合は図5Aに示したように文字列情報を重畳表示しない合成映像500を表示し、自車の放土状態の判定結果が「放土中」の場合は対応する文字列情報を重畳表示した合成映像501を表示し、自車の放土状態の判定結果が「放土終了」の場合は対応する文字列情報を重畳表示した合成映像502を表示する。ここでは例として、自車の放土状態が「放土中」または「放土終了」の場合は、合成映像501、合成映像502の下部にオペレータにこれら状況を告知するための文字列情報を合成した場合を示している。
図4に戻り、合成映像構築部102は、ステップS403にて構築した合成映像を出力部103へ出力する(ステップS404)。
次に、放土状態判定部104は、システム終了要求があるか否かを判定する(ステップS405)。例えば、放土状態判定部104は、ダンプトラック200のベッセル202の着座を検知する着座センサ118から得られる着座信号がベッセル202が未着座状態から着座状態になったことを示す信号である場合にシステム終了要求有りと判断する。ステップS405での判定結果がYESの場合、すなわち、システム終了要求がある場合は放土状態監視処理を終了し、判定結果がNOの場合には判定結果がYESになるまでステップS400〜S404の処理を繰り返す。なお、着座センサ118から得られる着座信号に代えて、起伏シリンダ206の根元に搭載される角度センサ(図示せず)からの角度信号をCAN通信等を介して取得することでベッセル202が着座状態となったことを検知するように構成してもよい。
次に、本実施の形態における放土状態監視システムの放土状態監視処理における放土状態判定処理(図4のステップS401)の詳細を図6乃至図8Cを用いて説明する。
図6は放土状態判定処理の流れを示すフローチャートである。また、図7A〜図7Cはベッセルの起立判定方法の概念の説明に用いる映像例を示す図であり、図7Aはベッセル起立前の映像例を示す概念図、図7Bはベッセル起立時の映像例を示す概念図、図7Cはベッセル起立判定領域の映像例を示す概念図である。また、図8A〜図8Cは放土状態の判定方法の概念の説明に用いる図であり、図8Aは放土終了判定領域を説明するための現在の映像例を示す概念図、図8Bは放土終了判定領域を説明するための過去の映像例を示す概念図、図8Cは放土終了判定領域における差分ピクセルを説明するための概念図である。なお、図6乃至図8Cにおいて、図1乃至図5に示す符号と同符号のものは同一部分であるので、その詳細な説明は省略する。
図6は放土状態判定処理の流れを示すフローチャートである。また、図7A〜図7Cはベッセルの起立判定方法の概念の説明に用いる映像例を示す図であり、図7Aはベッセル起立前の映像例を示す概念図、図7Bはベッセル起立時の映像例を示す概念図、図7Cはベッセル起立判定領域の映像例を示す概念図である。また、図8A〜図8Cは放土状態の判定方法の概念の説明に用いる図であり、図8Aは放土終了判定領域を説明するための現在の映像例を示す概念図、図8Bは放土終了判定領域を説明するための過去の映像例を示す概念図、図8Cは放土終了判定領域における差分ピクセルを説明するための概念図である。なお、図6乃至図8Cにおいて、図1乃至図5に示す符号と同符号のものは同一部分であるので、その詳細な説明は省略する。
本実施の形態においては、後方カメラ映像301(現在の映像)及び後方カメラ過去映像303(過去の映像)における映像内に以下に示す領域を定義する。
ベッセル起立判定領域700:後方カメラ映像301内において、自車形状情報保持部111から取得した自車形状情報に基づいた演算によってベッセル202下部が描画されると推定される矩形領域をベッセル起立判定領域700と定義する。ベッセル起立判定領域700は、ベッセル202が起立した場合に必ず画素値が変化する領域を含むよう定義するものであり、ここではその一例として、後方カメラ映像301の上部3分の1の矩形領域をベッセル起立判定領域700としている(図7A参照)。
ベッセル起立判定領域700:後方カメラ映像301内において、自車形状情報保持部111から取得した自車形状情報に基づいた演算によってベッセル202下部が描画されると推定される矩形領域をベッセル起立判定領域700と定義する。ベッセル起立判定領域700は、ベッセル202が起立した場合に必ず画素値が変化する領域を含むよう定義するものであり、ここではその一例として、後方カメラ映像301の上部3分の1の矩形領域をベッセル起立判定領域700としている(図7A参照)。
放土終了判定領域800:ベッセル起立判定領域700の底辺を上辺とし、後方カメラ映像301内に映し出されるフレーム201との境界付近を底辺とする矩形領域を放土終了判定領域800と定義する(図8A参照)。
本実施の形態における放土状態判定部104は、後方カメラ映像301のベッセル起立判定領域700および放土終了判定領域800内において映像を構成する各ピクセルが有する画素値の時間変化を算出することで、自車の放土状態を検出する。
図6において、放土状態監視システムの放土状態判定部104は、例えば、自車(ダンプトラック)200の走行方向を指示するためのシフトレバーがニュートラルになったことをシフトレバーセンサ119で検知した場合に処理動作を開始する。
放土状態判定部104の映像入力部101は、映像取得を行なう(ステップS600)。具体的には映像入力部101及び記憶部110から判定対象映像を取得する。判定対象映像は、上述したように、映像入力部101から入力された後方カメラ映像301および過去の判定処理に使用した後方カメラ過去映像群302である。
放土状態判定部104の映像入力部101は、後方カメラ過去映像303が予め定めた枚数(例えば10枚)以上あるか否かを判定する(ステップS601)。放土状態監視システムの起動直後は、以降説明する映像の時間差分を算出するために必要な入力映像が十分蓄積できていない。そのため、ステップS601の処理では、ステップS600にて取得した後方カメラ過去映像群302に含まれる後方カメラ過去映像303が予め定めたフレーム数(例えば10フレーム)以上存在しない場合は、システムの起動直後であって入力映像の蓄積が時間差分の算出には不十分であると判断し、処理をステップS615に移す。一方、過去映像が予め定めたフレーム数(例えば10フレーム)以上存在する場合は、処理をステップS602に移す。
放土状態判定部104の自車情報取得部105は、自車情報を取得する(ステップS602)。ここでは、自車(ダンプトラック200)の車体の現在の移動速度(車速)を取得する。移動速度は自車の車体に備えられた車速センサ109から自車情報取得部105に入力される。
放土状態判定部104の自車情報取得部105は、自車速度が0kmか否かを判定する(ステップS603)。ステップS602にて得られた自車速度が0kmでない場合、すなわち車体が停止以外の場合は自車走行中のため放土作業は行わないとして処理をステップS615に移す。一方、自車速度が0km、すなわち車体が停止している場合は、ベッセル202を起立させ放土作業を行う可能性があるとして、処理をステップS604に移す。
放土状態判定部104において、前回の放土状態判定処理において「放土中」と判定されているか否かを判定する(ステップS604)。前回の放土状態判定処理において「放土中」と判定されている場合は、既にベッセル202が起立し土砂が落下している状態であるとし、ベッセル起立判定部106の処理内容は実行せず処理をステップS608に移す。一方、前回の放土状態判定処理が「放土前」の場合は処理をステップS605に移行する。なお、初回の放土判定処理のように記憶部110に前回の放土状態判定処理における判定結果が記録されていない場合は、前回の放土状態判定処理において「放土中」と判定されていないと仮定して判定を行い、処理をステップS605に移行する。
ベッセル起立判定部106は、自車形状情報を設定する(ステップS605)。具体的には、自車形状情報保持部111から取得した自車形状情報、後方カメラの設置位置、および焦点距離や画角といったカメラの内部パラメータを取得する。
ベッセル起立判定部106は、ベッセル起立判定領域700を設定する(ステップS606)。具体的には、ステップS605にて得られた自車形状情報から、後方カメラ映像内部にてベッセル202が描画される領域を算出し、ベッセル202が描画される領域下部の矩形領域をベッセル起立判定領域700と設定する。
ベッセル起立判定部106は、時間差分(背景差分)を算出する(ステップS607)。具体的には、後方カメラ映像301のベッセル起立判定領域700内部のピクセルが持つ画素値を対象とし、ベッセル202の移動によって発生する画素値の時間差分を算出することで、映像情報のみからベッセル202の起立動作を判定する。
ここで、ベッセル起立判定部106は実時間で結果を出力するため、比較的高速に時間差分を算出可能な画像処理手法を用いる必要がある。ここではその一例として、背景差分法を利用することで映像中のベッセル起立動作を検知する。なお、背景差分法とは、現在映像(後方カメラ映像301)と事前に取得した過去映像群(後方カメラ過去映像群302)から生成した背景モデル画像701とを比較することで、背景モデル画像701には存在しない領域を抽出する処理である。
より具体的には、ベッセル起立判定部106は、記憶部110から取得した後方カメラ過去映像群302を用いて、ベッセル起立前の映像を示す背景モデル画像701を生成し(図7A参照)、この背景モデル画像701の内部のベッセル起立判定領域700内のピクセル(画素)と、現在の後方カメラ映像301の内部のベッセル起立判定領域700内のピクセルとを対象に比較を行う。そして、図7Cに示すように、画素値の時間変化があったピクセル702と時間変化がなかったピクセル703とに判別する。その後、画素値の時間変化があったピクセル703として判定されたピクセル数を算出することで、ステップS607の時間差分(背景差分)が算出される。
ベッセル起立判定部106は画素値の差分がベッセル起立判定領域700の画素の半分以上に発生したか否かを判定する(ステップS608)。ベッセル202が起立を開始すると、ベッセル起立判定領域700では、領域の上部から下部に向けて徐々にベッセル全体が映し出され、最終的にベッセル202に埋め尽くされる(図7B参照)。そこで、ステップS608の処理は、ベッセル起立判定領域700において画素値の時間変化があったピクセルが十分発生しているか否かを確認する。ここでは一例として、ベッセル起立判定領域700内にて画素値の時間変化があったピクセルとして判定されたピクセル数の和が、ベッセル起立判定領域700の面積(総画素数)の予め定めた割合(例えば半分)以上存在する場合はベッセル202が起立したと判定し、処理をステップS608Aに移す。ステップS608Aではベッセル起立判定部106実行の結果、ベッセル起立中と判定し処理をステップ609に移行する。一方、画素値の時間差分が発生したピクセルの数の和がベッセル起立判定領域700の面積(総画素数)の半分に満たない場合は、ベッセル202は起立していない、もしくは起立動作開始直後であるとして処理をステップS615に移す。
放土終了判定部107は、放土終了判定領域800を設定する(ステップS609)。具体的には、自車形状情報保持部111から取得した自車形状情報を用いて、後方カメラ映像301内にてフレーム201の一部が描画される領域を算出した後、現状のベッセル起立判定領域700の設定位置にもとづき、図8Aに示すように、放土終了判定領域800を設定する。放土終了判定領域800の定義は、例えば、ベッセル起立判定領域700の底辺を上辺とし、後方カメラ映像内に映し出されるフレーム201との境界付近を底辺とする矩形領域である。
放土終了判定部107は、時間差分(オプティカルフロー)を算出する(ステップS610)。具体的には、放土終了判定部107は、後方カメラ映像301の放土終了判定領域800内において、ベッセル202から落下する土砂によって発生する画素値の時間差分を算出することで、映像情報のみから現在の放土状態を判定する。
放土終了判定部107もベッセル起立判定部106と同様に、リアルタイムで処理を遂行する必要がある。そこで一例として、ブロックマッチング法を用いたオプティカルフロー算出処理を用いて時間差分を算出する。このオプティカルフローは、連続する画像(映像)においてフレーム間の輝度変化を算出することで、対象ピクセルの動きベクトルを概算する手法である。本実施の形態では、この映像内における画素の動きベクトルの中から、ベッセル202から落ちる土砂によって発生するものと同等の動きベクトルを有する画素を抽出し、この結果から得られた画素が占める領域を落下している土砂が描画されている領域(差分発生領域)とみなす。
より具体的には、放土終了判定部107は、図4に示すステップS400にて取得した後方カメラ映像301(図8A参照)と、後方カメラ過去映像群302のうち直近のフレームを示す後方カメラ過去映像303(図8B参照)との差分を算出して、フレーム間で輝度変化があったピクセルとその動きベクトル805(図8C参照)を抽出する。ここでは、ステップS610のオプティカルフロー算出処理において、オプティカルフローが算出され、かつその動きベクトル805の方向が鉛直下方向と判別されたピクセル数のみを算出している。なお、本実施の形態で示す鉛直下方向の定義としては、図8Cに示す通り、注目ピクセル802を中心とした画像座標系804において、移動後ピクセル803が第3または第4象限にある場合、この動きベクトル805を鉛直下方向として扱う。
図6に戻り、放土終了判定部107は、差分発生領域が放土終了判定領域800の面積の5%以上で発生したか否かを判定する(ステップS611)。ベッセル202内の土砂が完全に地面に落下し放土が完了するまで、放土終了判定領域800の内部では、領域上部から下部に向けて移動する土砂による画素値の時間差分が発生し続ける。したがって、放土終了判定領域800内部において領域上部から下部に向けて落下する土砂が微量でも存在するか否かを判定する。具体的には、例えば、ステップS610にて取得したピクセル数の和が、放土終了判定領域800の面積の予め定めた割合(例えば5%)以上存在する場合は、放土中であると判定して、ステップS614に処理を移す。一方、差分発生領域が5%未満の場合は、この後方カメラ映像301ではベッセル202から落下する土砂が存在しないと判定し、ステップS612に処理を移す。
放土終了判定部107は、ステップS611にて差分発生領域が5%未満と判定された場合に、さらに、この状態(差分発生領域が5%未満)が予め定めた時間(例えば10秒)以上連続しているか否かを判定する(ステップS612)。ここで、設定している10秒とは、ベッセル202から落下する土砂が存在しない時間の一例であり、これと同等な検知回数で設定しても良い。10秒以上連続して差分発生領域が5%未満の場合は、放土終了と判定してステップS613に処理を移す。一方、10秒未満の場合は、放土中の可能性があると判定してステップS614に処理を移す。
放土終了判定部107は、ステップS612にて差分発生領域の5%未満が10秒以上連続していると判定された場合に、放土状態が「放土終了」であると判定する(ステップS613)。放土終了判定部107は、放土状態の判定結果(すなわち「放土終了」の情報)を放土状態判定結果取得部108へ出力し、処理を終了する。
放土終了判定部107は、ステップS611にて差分発生領域が5%以上と判定された場合、またはステップS612にて差分発生領域の5%未満が10秒以上連続しないと判定された場合に、放土状態が「放土中」であると判定する(ステップS614)。放土終了判定部107は、放土状態の判定結果(すなわち「放土中」の情報)を放土状態判定結果取得部108へ出力し、ステップS600に処理を移す。
放土終了判定部107は、ステップS601にて後方カメラ過去映像303が10フレーム以上存在しないと判定された場合、または、ステップS603にて自車速度が0kmでないと判定された場合、またはステップS608にて画素値の差分が発生したピクセル数の和がベッセル起立判定領域700の面積の半分に満たないと判定された場合に「放土前」と判定する(ステップS615)。放土終了判定部107は、「放土前」を設定して放土状態判定結果取得部108へ出力し、ステップS600に処理を移す。
なお、ステップS613、ステップS614、ステップS615の処理の実行後に、放土状態判定部104は、全体処理として図4のステップS402に処理を移す。
上述したように、本実施の形態においては、後方カメラ100より取得した映像に対し、ベッセル起立判定部106と放土終了判定部107とを用いることで、人手を介することなく自動で放土状態(「放土前」、「放土中」、及び「放土終了」を検出可能としている。
上述した第1の実施の形態によれば、後方カメラ100より取得した映像に対し時間差分を算出する画像処理を施すことで、人手を介することなく自動で放土状態検出可能となる。このことにより、放土作業に要する時間のばらつきが抑制される。この結果、鉱山現場における全体の運用効率が大幅に向上する。
なお、本実施の形態においては、放土状態監視システムを構成する放土状態判定端末210が、ダンプトラックの運転室コックピット208の内部に配置されている場合を例に説明したが、これに限定されるものではない。例えば、放土状態判定端末210と同様の構成を基地局に配置し、ダンプトラックの後方カメラ100からの映像を通信手段によって基地局に配置した放土状態判定端末210の映像入力部101に送信する様にすれば本実施の形態と同様の放土状態監視システムを構成するもできる。
<第2の実施の形態>
本発明の第2の実施の形態を図面を参照しつつ詳細に説明する。
鉱山現場では、ベッセル202内の土砂の粘土が高い場合や、放土によって地面に盛土が生成される場合が多々ある。このような状況では、土砂がベッセル202内に滞留してしまい、一度のベッセル起立でベッセル202内の土砂を全て地面に排出できるとは限らない。そのため、オペレータは一度ベッセル202を起立させ、ある程度土砂を放土した後に、自車を前進させることでベッセル202内に滞留した残りの土砂をふるい落とすといった動作を行う。
本発明の第2の実施の形態を図面を参照しつつ詳細に説明する。
鉱山現場では、ベッセル202内の土砂の粘土が高い場合や、放土によって地面に盛土が生成される場合が多々ある。このような状況では、土砂がベッセル202内に滞留してしまい、一度のベッセル起立でベッセル202内の土砂を全て地面に排出できるとは限らない。そのため、オペレータは一度ベッセル202を起立させ、ある程度土砂を放土した後に、自車を前進させることでベッセル202内に滞留した残りの土砂をふるい落とすといった動作を行う。
本実施の形態は、以上のような、放土の際に発生するベッセル202内の土砂滞留を示す放土状態を「土砂残留状態(放土中)」と定義し、この「土砂残留状態(放土中)」を後方カメラ映像301により自動で検出する放土状態監視システムに係るものである。
以下、本実施の形態に係る放土状態監視システムを図面を用いて説明する。
図9は、本発明のダンプトラックの第2の実施の形態が備えた放土状態監視システムの構成を示すブロック図、図10は本実施の形態に係るダンプトラックが備えた放土状態監視システムにおける放土状態判定処理の流れを示すフローチャートである。また、図11は本実施の形態における各状態のダンプトラックを示す側面図および各状態に対応する後方カメラ映像を示す概念図であり、図11A1は放土開始前のダンプトラックの側面を示す概念図、図11A2は放土開始前の後方カメラ映像を示す概念図、図11B1は放土開始中のダンプトラックの側面を示す概念図、図11B2は放土開始中の後方カメラ映像を示す概念図、図11C1は放土終了(ベッセル内土砂滞留なし)のダンプトラックの側面を示す概念図、図11C2は放土終了(ベッセル内土砂滞留なし)の後方カメラ映像を示す概念図、図11D1は放土終了(ベッセル内土砂滞留有り)のダンプトラックの側面を示す概念図、図11D2は放土終了(ベッセル内土砂滞留有り)の後方カメラ映像を示す概念図である。また、図12は本実施の形態における放土状態監視システムの合成映像を示す概念図であり、図12Aは放土前状態を示す概念図、図12Bは放土中状態を示す概念図、図12Cは放土終了状態を示す概念図、図12Dは土砂残留状態を示す概念図である。なお、図9乃至図12Dにおいて、第1の実施の形態で示した図1乃至図8Cに示す符号と同符号のものは同一部分であるので、その詳細な説明は省略する。
図9は、本発明のダンプトラックの第2の実施の形態が備えた放土状態監視システムの構成を示すブロック図、図10は本実施の形態に係るダンプトラックが備えた放土状態監視システムにおける放土状態判定処理の流れを示すフローチャートである。また、図11は本実施の形態における各状態のダンプトラックを示す側面図および各状態に対応する後方カメラ映像を示す概念図であり、図11A1は放土開始前のダンプトラックの側面を示す概念図、図11A2は放土開始前の後方カメラ映像を示す概念図、図11B1は放土開始中のダンプトラックの側面を示す概念図、図11B2は放土開始中の後方カメラ映像を示す概念図、図11C1は放土終了(ベッセル内土砂滞留なし)のダンプトラックの側面を示す概念図、図11C2は放土終了(ベッセル内土砂滞留なし)の後方カメラ映像を示す概念図、図11D1は放土終了(ベッセル内土砂滞留有り)のダンプトラックの側面を示す概念図、図11D2は放土終了(ベッセル内土砂滞留有り)の後方カメラ映像を示す概念図である。また、図12は本実施の形態における放土状態監視システムの合成映像を示す概念図であり、図12Aは放土前状態を示す概念図、図12Bは放土中状態を示す概念図、図12Cは放土終了状態を示す概念図、図12Dは土砂残留状態を示す概念図である。なお、図9乃至図12Dにおいて、第1の実施の形態で示した図1乃至図8Cに示す符号と同符号のものは同一部分であるので、その詳細な説明は省略する。
本実施の形態におけるダンプトラックが備えた放土状態監視システムの構成および処理の流れは第1の実施の形態と概ね同等であるが、ベッセル202内の土砂滞留を検出する処理を行なう点が第1の実施の形態と異なる。本実施の形態における放土状態監視システムの構成は、図9に示すように、第1の実施の形態と概ね同等であるが、ベッセル202内の土砂滞留の検出処理が追加された放土終了判定部107Aを備えている。
本実施の形態における放土状態判定部104の全体処理の流れは第1の実施の形態と同様である。放土状態監視システムにおける放土状態判定処理が図6で説明した第1の実施の形態と異なる。この変更を反映した放土状態判定部104の処理の流れを図10を用いて説明する。図10に示すように、第1の実施の形態で説明した放土状態判定部104の処理内容と概ね同等であるが、ステップS1000、ステップS1001、ステップS1002、ステップS1003、ステップS1004の処理が追加されている。
図10において、放土終了判定部107Aは、自車(車体)移動に伴うオプティカルフローの減算を行なう(ステップS1000)。ステップS610にて時間差分(オプティカルフロー)を算出した後に、自車(車体)が再度走行した場合、すなわち、上述した自車を前進させることでベッセル202内に滞留した残りの土砂をふるい落とすといった動作がされた場合、まず、自車速度情報を基に、自車移動により映像上で見かけ上発生しているオプティカルフローの算出を行なう。次に、ステップS610にて算出したオプティカルフローから自車移動に伴うオプティカルフローを減算する。このことにより、自車移動によって発生するオプティカルフローを除外し、土砂の落下によるオプティカルフローのみを取得することができる。
このステップS1000により、後述する土砂残留状態における自車(車体)前進に伴い発生する時間差分(オプティカルフロー)が除外できるので、自車(車体)前進中であっても正確に放土状態判定部104の処理が実行可能になる。
本実施の形態ので得られる放土状態の判定結果の一つである「土砂残留状態(放土中)」を後方カメラ映像301により自動で検出する際に行う処理内容を説明する。
放土終了判定部107Aが、ステップS615にて、「放土前」と判定する以下の条件(ステップS601にて過去映像が10フレーム以上存在しないと判定された場合、または、ステップS603にて自車速度が0kmでないと判定された場合、またはステップS608にて差分発生ピクセル数の和がベッセル起立判定領域700の面積の半分に満たないと判定された場合)が成立した場合、本実施の形態においては、放土終了判定領域内の輝度平均値を算出する(ステップS1001)。具体的には、ベッセル202が起立していない状態での後方カメラ映像301の放土終了判定領域800の輝度値平均値を算出する。この平均輝度値に関しては、図9における記憶部110に記録され、ステップS1001の処理が実行される度に値が刷新される。
放土終了判定部107Aが、ステップS615にて、「放土前」と判定する以下の条件(ステップS601にて過去映像が10フレーム以上存在しないと判定された場合、または、ステップS603にて自車速度が0kmでないと判定された場合、またはステップS608にて差分発生ピクセル数の和がベッセル起立判定領域700の面積の半分に満たないと判定された場合)が成立した場合、本実施の形態においては、放土終了判定領域内の輝度平均値を算出する(ステップS1001)。具体的には、ベッセル202が起立していない状態での後方カメラ映像301の放土終了判定領域800の輝度値平均値を算出する。この平均輝度値に関しては、図9における記憶部110に記録され、ステップS1001の処理が実行される度に値が刷新される。
第1の実施の形態と同様にステップS609〜S612が実行されて、土砂の落下による時間差分が第1の実施の形態で述べた閾値以上発生せず、かつステップS612にて10秒以上連続して時間差分が発生しなかった場合は、本実施の形態にて新規追加されたステップS1002に処理を移す。
放土終了判定部107Aは、放土終了判定領域800内の輝度平均値を算出する(ステップS1002)。具体的には、ベッセル202の起立後の状態での放土終了判定領域800の輝度値平均値を算出する。
放土終了判定部107Aは、時間差分(輝度変化)を算出する(ステップS1003)。具体的には、ステップS1002にて算出した輝度平均値と、記憶部110に記録されているステップS1001にて算出した輝度平均値との差分を算出する。ここで、放土開始後のダンプの様子およびその際の後方カメラ映像301に映し出される映像例を図11A1乃至図11D2に示している。土砂が完全にベッセル202から落下した場合(図11C1および図11C2参照)は、放土終了判定領域800にはベッセル202が起立し土砂が落下する以前の情報が映し出されている可能性が高い。
一方で、本実施の形態の冒頭にて述べた通り、地面に生成された盛土により、土砂が完全に落ちきらずベッセル202内に滞留してしまう状況の場合(図11D1および図11D2参照)は、放土終了判定領域800には盛土が映し出されている可能性が高い。撮影環境により一概には言えないものの、例えば日中の場合、地面に生成された盛土は太陽光をさえぎる働きをするため、土砂滞留時の後方カメラ映像301内の放土終了判定領域800は全体的に暗い傾向にある(図11D2参照)。したがって、算出した時間差分(輝度変化)から放土状態が「放土終了」であるか「土砂残留状態(放土中)」(後述)であるかを判定できる。
図10に戻り、放土終了判定部107Aは、時間差分(輝度変化)が閾値以上発生したか否かを判定する(ステップS1004)。これは、上述した輝度平均値の差分を基に、放土動作前後で、後方カメラ映像301内の放土終了判定領域800において明暗差が十分発生している状態であるか否かを確認するものである。閾値としては、例えば、255階調の明るさの程度を示す指標の中で、30階調以上の差分が発生しているか否かに設定しても良い。したがって、時間差分が閾値以上発生している場合は、地面に盛土が生成されベッセル202内に土砂が滞留している放土状態(つまり「土砂残留状態(放土中)」)であると判定して、ステップS1005に処理を移す。一方、時間差分が閾値以上発生していない場合は、放土状態を「放土終了」であると判定してステップS613に処理を移す。
放土終了判定部107Aは、ステップS1004にて時間差分(輝度変化)が閾値以上発生したと判定された場合に、「土砂残留状態(放土中)」と判定する(ステップS1005)。放土終了判定部107Aは、放土状態の判定結果として「土砂残留状態(放土中)」を放土状態判定結果取得部108へ出力し、ステップS600に処理を移す。
ここで、本実施の形態における合成映像例を説明する。図12A乃至図12Dにおいて、符号500乃至502と1200は、出力部103に備え付けられているディスプレイ等に写し出された映像を示している。
第1の実施の形態と同様に、図12A乃至図12Cにおいて、自車の放土状態が「放土前」の場合は合成映像500、自車の放土状態が「放土中」の場合は合成映像501、自車の放土状態が「放土終了」の場合は合成映像502としている。図12Dの合成映像1200は、本実施の形態で新規追加された放土状態の「土砂残留状態(放土中)」を示すものである。また、各映像の下部にオペレータにこれら状況を告知するための文字表示を合成している。
第1の実施の形態と同様に、図12A乃至図12Cにおいて、自車の放土状態が「放土前」の場合は合成映像500、自車の放土状態が「放土中」の場合は合成映像501、自車の放土状態が「放土終了」の場合は合成映像502としている。図12Dの合成映像1200は、本実施の形態で新規追加された放土状態の「土砂残留状態(放土中)」を示すものである。また、各映像の下部にオペレータにこれら状況を告知するための文字表示を合成している。
上述したように、本実施の形態においては、ベッセル202起立動作前後の後方カメラ映像301内における放土終了判定領域800の輝度変化を算出し、時間差分と閾値とを比較することで、放土の際に発生するベッセル202内の土砂滞留を「土砂残留状態(放土中)」として自動で検出することが可能となる。このことにより、オペレータの作業効率を向上できる。
上述した本実施の形態によれば、上述した第1の実施の形態と同様の効果を得ることができる。
また、上述した本実施の形態によれば、ベッセル202起立動作前後の後方カメラ映像301内における放土終了判定領域800の輝度変化演算から、ベッセル202内の土砂滞留を自動で検出できるので、オペレータの作業効率を向上できる。
なお、上述した各実施の形態では、放土状態の判定結果をオペレータの操作性向上を目的とし出力したが、これに限るものではない。例えば、放土状態の判定結果を鉱山全体の運用を管理する管制システムに対し出力してもよい。また、例えば、放土状態の判定結果を無人走行システム(AHS:Autonomous Haulage System) 等に利用しても良い。
なお、本発明は上述した各実施の形態に限定されるものではなく、様々な変形例が含まれる。例えば、上述した各実施の形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも全ての構成を備えるものに限定されるものではない。また、ある実施の形態の構成の一部を他の実施の形態の構成に置き換えることが可能であり、また、ある実施の形態の構成に他の実施の形態の構成を加えることも可能である。また、各実施の形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
100:後方カメラ、101:映像入力部、102:合成映像構築部、103:出力部、104:放土状態判定部、105:自車情報取得部、106:ベッセル起立判定部、107:放土終了判定部、108:放土状態判定結果取得部、109:車速センサ、110:記憶部、111:自車形状情報保持部、118:着座センサ、119:シフトレバーセンサ、200:ダンプトラック(自車)、201:フレーム、202:ベッセル、203A(L):左前輪203A、203B(L):左後輪203B、205:ピン結合部、206:起伏シリンダ、207:庇部、208:運転室コックピット、210:放土状態判定端末、211:出力結果表示用ディスプレイ、301:後方カメラ映像、302:後方カメラ過去映像群、303:後方カメラ過去映像、500:放土前の合成映像、501:放土中の合成映像、502:放土終了の合成映像、1200:土砂残留状態の合成映像
Claims (5)
- 前輪及び後輪を支持するフレームを有する車体と、積荷を積載するベッセルと、前記車体の後方を撮影する後方カメラとを備えたダンプトラックの前記後方カメラが撮影した後方映像を取得する後方映像入力部を有する放土状態監視装置において、
前記後方カメラが撮影した後方映像を逐次記録する記憶部と、
前記後方映像入力部が取得した現在の後方映像内及び前記記憶部が記憶した過去の後方映像内の上側の一部領域に、ベッセル起立判定領域を設定し、前記記憶部が記録した前記過去の後方映像と前記後方映像入力部が取得した前記現在の後方映像を用いて、前記ベッセル起立判定領域内の画素値の時間変化を演算することで、前記ベッセルの起立を判定するベッセル起立判定部と、
前記車体の形状情報を記憶した自車形状情報保持部と、
前記現在および過去の後方映像内に設定された前記ベッセル起立判定領域の底辺を上辺とし、前記自車形状情報保持部に記憶された前記車体の形状情報から算出される自車構造物領域を底辺とする矩形領域に、放土終了判定領域を設定し、前記記憶部が記録した前記過去の後方映像と前記後方映像入力部が取得した前記現在の後方映像を用いて、前記放土終了判定領域内の画素値の時間変化を算出することで放土終了を判定する放土終了判定部と
を備えたことを特徴とする放土状態監視装置。 - 請求項1に記載の放土状態監視装置において、
前記放土終了判定部は、前記記憶部が記録した前記過去の後方映像と前記後方映像入力部が取得した前記現在の後方映像を用いて、前記放土終了判定領域内の各ピクセルが持つ画素値の時間変化を算出することで、前記放土終了判定領域内にて画素値の時間変化があったピクセルの位置や個数の時間差分を算出し、前記時間差分が予め定めた一定時間以上発生しなくなった場合には放土終了と判定することを特徴とする放土状態監視装置。 - 請求項2に記載の放土状態監視装置において、
前記放土終了判定部は、前記放土終了判定領域内の画素値の時間変化が一定時間発生しない場合に、前記現在の後方映像の放土終了判定領域の輝度平均と、前記ベッセル起立判定部にて前記ベッセルが起立したと判定される以前の前記過去の後方映像の放土終了判定領域の輝度平均とを比較して、前記ベッセル内の土砂が地面に落ちきった放土終了状態か、もしくは前記ベッセル内に滞留している放土中を示す状態かを判断し、放土中と判定したときは、オペレータに前進を促す情報を出力することを特徴とする放土状態監視装置。 - 請求項2に記載の放土状態監視装置において、
前記車体の速度を取得する自車情報取得部を備え、
前記放土終了判定部は、前記自車情報取得部において前記車体の移動が検知された場合に、前記放土終了判定領域において算出した前記時間差分から、前記自車情報取得部が検知した前記車体の移動により発生する前記放土終了判定領域内の画素値の時間変化があったピクセルの位置や個数の時間差分を減算し、前記ベッセル内の土砂が地面に落ちる際に発生する、前記放土終了判定領域内の画素値の時間差分のみを取得することを特徴とする放土状態監視装置。 - 請求項1に記載の放土状態監視装置において、
前記ベッセル起立判定部は、前記現在および過去の後方映像内の上側の一部領域に、前記自車形状情報保持部に保持される前記車体の形状情報から算出されるベッセル起立判定領域を設定するとともに、前記記憶部が記録した過去の後方映像と前記後方映像入力部が取得した現在の後方映像を用いて、前記ベッセル起立判定領域内の各ピクセルが持つ画素値の時間変化を算出することで、前記ベッセル起立判定領域内にて画素値の時間変化があったピクセルの位置や個数の時間差分を算出して、前記時間差分が予め定めた閾値以上発生した場合には前記ベッセルが起立し放土中または放土終了となったことを判定することを特徴とする放土状態監視装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017064950A JP6700644B2 (ja) | 2017-03-29 | 2017-03-29 | 放土状態監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017064950A JP6700644B2 (ja) | 2017-03-29 | 2017-03-29 | 放土状態監視装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018167642A JP2018167642A (ja) | 2018-11-01 |
JP6700644B2 true JP6700644B2 (ja) | 2020-05-27 |
Family
ID=64019774
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017064950A Active JP6700644B2 (ja) | 2017-03-29 | 2017-03-29 | 放土状態監視装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6700644B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6601930B1 (ja) * | 2019-06-04 | 2019-11-06 | 新明和工業株式会社 | 荷受台昇降装置、および荷受台昇降装置が備えられた車両 |
DE102019212893A1 (de) * | 2019-08-28 | 2021-03-04 | Franz Xaver Meiller Fahrzeug- Und Maschinenfabrik - Gmbh & Co Kg | Vorrichtung und Verfahren zum Darstellen eines Entladebereichs eines Nutzfahrzeugs |
JP2021165616A (ja) * | 2020-04-08 | 2021-10-14 | 荏原環境プラント株式会社 | 流動床式焼却装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5261832B2 (ja) * | 2010-03-17 | 2013-08-14 | 株式会社小松製作所 | 運搬車両の後方視界表示システム |
JP5938292B2 (ja) * | 2012-08-03 | 2016-06-22 | 日立建機株式会社 | 運搬車両の監視装置 |
JP6339337B2 (ja) * | 2013-09-24 | 2018-06-06 | 日立建機株式会社 | 車両周囲移動物体検知システム |
JP2014222877A (ja) * | 2014-06-04 | 2014-11-27 | 株式会社小松製作所 | 作業車両の周辺監視装置 |
JP6385745B2 (ja) * | 2014-07-22 | 2018-09-05 | 日立建機株式会社 | 鉱山用作業車両 |
-
2017
- 2017-03-29 JP JP2017064950A patent/JP6700644B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018167642A (ja) | 2018-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6700644B2 (ja) | 放土状態監視装置 | |
AU2016216347B2 (en) | Evaluation device and evaluation method | |
JP7204366B2 (ja) | 作業機械を制御するためのシステム及び方法 | |
US20210292998A1 (en) | Image processing system, display device, image processing method, method for generating trained model, and dataset for learning | |
JP7450083B2 (ja) | 周辺監視システム及び周辺監視方法 | |
JP7199865B2 (ja) | 作業機械を制御するためのシステム及び方法 | |
US11959255B2 (en) | Work machine control device, excavating machine control device, and work machine control method | |
CN103362172A (zh) | 用于挖掘机的碰撞探测和减缓系统及其方法 | |
KR20210110671A (ko) | 화상 처리 시스템, 화상 처리 방법, 미리 학습된 모델의 생성 방법, 및 학습용 데이터 세트 | |
CN111954739B (zh) | 装载机械的控制装置及装载机械的控制方法 | |
EP3733981B1 (en) | Control device of working machine and control method of working machine | |
WO2013153863A1 (ja) | 自走式産業機械の画像処理装置および自走式産業機械の画像処理方法 | |
EP4023822A1 (en) | Container measurement system | |
CN111065781A (zh) | 作业机械 | |
JP7265323B2 (ja) | 作業機械を制御するためのシステム及び方法 | |
CN111757961B (zh) | 用于控制作业机械的系统以及方法 | |
US11001991B2 (en) | Optimizing loading of a payload carrier of a machine | |
JP2021079762A (ja) | 合成距離画像の作成方法、土砂採取モニター用画像の作成方法、及び、合成距離画像の作成装置 | |
JP2019121250A (ja) | 運搬車両 | |
US20240015374A1 (en) | Display system and display method | |
WO2024058017A1 (ja) | 画像生成装置、操作支援システム | |
CN117043419A (zh) | 作业机械的异常判断系统及作业机械的异常判断方法 | |
WO2023150421A1 (en) | System and method for measuring material swell of material loaded in a dump vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190828 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200421 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200428 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6700644 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |