JP6646135B2 - 周辺監視システム及び周辺監視装置 - Google Patents

周辺監視システム及び周辺監視装置 Download PDF

Info

Publication number
JP6646135B2
JP6646135B2 JP2018506448A JP2018506448A JP6646135B2 JP 6646135 B2 JP6646135 B2 JP 6646135B2 JP 2018506448 A JP2018506448 A JP 2018506448A JP 2018506448 A JP2018506448 A JP 2018506448A JP 6646135 B2 JP6646135 B2 JP 6646135B2
Authority
JP
Japan
Prior art keywords
vehicle
image
detection area
obstacle
shift lever
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018506448A
Other languages
English (en)
Other versions
JPWO2018042567A1 (ja
Inventor
古渡 陽一
陽一 古渡
守飛 太田
守飛 太田
真一 笹▲崎▼
真一 笹▲崎▼
舜 辻村
舜 辻村
優一朗 勝山
優一朗 勝山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Construction Machinery Co Ltd
Original Assignee
Hitachi Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Construction Machinery Co Ltd filed Critical Hitachi Construction Machinery Co Ltd
Publication of JPWO2018042567A1 publication Critical patent/JPWO2018042567A1/ja
Application granted granted Critical
Publication of JP6646135B2 publication Critical patent/JP6646135B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は周辺監視システム及び周辺監視装置に関し、特に大型の作業機械に適した周辺監視システムに関する。
特許文献1には、不要な警告を抑制可能な周辺監視装置を提供することを課題として、「ダンプトラックの走行状態に応じて、障害物の存在を運転者に警告する必要のある警告領域を設定する(要約抜粋)」作業車両の周辺監視装置が開示されている。
特開2012−259113号公報
特許文献1に開示された周辺監視装置では、「走行方向が前進で車速が0より大きい場合には“前進中”と規定され、走行方向が後進で車速が0より大きい場合には“後進中”と規定され、車速が0である場合には走行方向に関わらず“停車中”と規定」されており(特許文献1の段落0041参照)、「ダンプトラック1の走行状態が“停車中”である場合には、図5(c)に示すように、全領域ARを警告領域として設定する。本実施形態において、全領域ARは、前方領域FRと後方領域RRとを合わせた領域である。」と開示されている(同文献段落0043参照)。すなわち、作業車両が停車中の場合、作業車両の前方及び後方を含む全領域が監視対象とされている。
そのため、例えばこれから前進しようとする際には、後方領域の障害物との干渉は生じないので前進した際に干渉する障害物に運転手の注意を集中したいという要望があるにも関らず、特許文献1の周辺監視装置では後方領域の障害物も警告対象となってしまい、不要な警告を発生させてしまうという課題が残る。
本発明は上記課題を解決するためになされたものであり、作業機械が停車から走行開始に遷移する際において、障害物に関する不要な警告を抑制し、走行を開始すると干渉する可能性がある障害物に対して必要な警告を行える技術を提供することを目的とする。
上記課題を解決するために、本発明は、左前輪、右前輪、左後輪、及び右後輪と、前進又は後進に走行方向を切替えるシフトレバーと、車速を検出する車速センサと、を搭載した車両の周辺監視システムであって、前記車両の前後左右にある被計測体を検出して出力信号を生成する外界認識センサと、前記出力信号を基に障害物を検知すると共に、障害物があることを知らせる警報を発報する検知エリアを設定し、前記障害物が前記検知エリア内にある場合に警報を発報させるための制御信号を出力する周辺監視装置と、前記周辺監視装置からの制御に従って警報を発報するモニタ及びブザーと、を備え、前記周辺監視装置は、前記シフトレバーが前進位置又は後進位置にあるかを示すシフトレバー情報を取得し、前記シフトレバーが前進位置にある場合は、前記車両の後輪車軸よりも前方領域を前記検知エリアとして設定し、前記シフトレバーが後進位置にある場合は、前記車両の前輪車軸よりも後方領域を前記検知エリアとして設定する検知エリア設定部と、前記車速センサから車速情報を取得し、当該車速情報に基づいて前記車両が停止しているかを判定し、前記車両が停止していると判定した場合に前記外界認識センサの出力信号を基に障害物を検知し、検知した障害物が動体であるか否かを検知する動体検知処理を行い、動体として検知された障害物のうち、動き続けている障害物を検知する障害物検知部と、前記動体として検知された障害物のうち、動き続けている障害物に対して前記モニタにマーカを重畳して表示させるマーカ重畳部と、前記動体として検知された障害物のうち、動き続けている障害物が前記検知エリア内に含まれる場合は、前記ブザーに対して警告音の出力指示信号を送信するブザー制御部と、を含む、ことを特徴とする。
本発明によれば、作業機械が停車から走行開始に遷移する際において、障害物に関する不要な警告を抑制し、走行を開始すると干渉する可能性がある障害物に対して必要な警告を行える技術を提供することができる。なお、上記した以外の課題、構成、効果は以下の実施形態において明らかにされる。
第一実施形態に係るダンプトラックの左側面図 第一実施形態に係るダンプトラックの平面図 キャブ内を示す説明図 周辺監視システムの概略構成を示すブロック図 第一実施形態に係る周辺監視システムの前半処理の流れを示すフローチャート 第一実施形態に係る周辺監視システムの後半処理の流れを示すフローチャート 俯瞰画像生成処理の流れを示すフローチャート 俯瞰画像生成処理の内容を示す説明図 仮想上方視点変換処理の内容を示す説明図 第一実施形態で設定される検知エリアの説明図であって、(a)はシフトレバーが前進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(b)はシフトレバーが前進位置にあってマーカMのみによる警報出力がされる状態を示し、(c)はシフトレバーが後進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(d)はシフトレバーが後進位置にあってマーカMのみによる警報出力がされる状態を示す。 第二実施形態で設定される検知エリアの説明図であって、(a)はシフトレバーが前進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(b)はシフトレバーが前進位置にあってマーカMのみによる警報出力がされる状態を示し、(c)はシフトレバーが後進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(d)はシフトレバーが後進位置にあってマーカMのみによる警報出力がされる状態を示す。 操舵時の最小回転半径の計算式の説明図 第三実施形態で設定される検知エリアの説明図であって、(a)はシフトレバーが前進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(b)はシフトレバーが前進位置にあってマーカMのみによる警報出力がされる状態を示し、(c)はシフトレバーが後進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(d)はシフトレバーが後進位置にあってマーカMのみによる警報出力がされる状態を示す。 周辺監視システムの処理を他の表現で示したフローチャート
以下、図面等を用いて、本発明の実施形態について説明する。以下、本発明の実施形態を説明するための全図において同一の機能を有するものは同一の符号を付け、その繰り返しの説明は省略する場合がある。
<第一実施形態>
第一実施形態は、周辺監視システムを搭載する作業機械の一例として鉱山用のダンプトラックを用い、周辺障害物を検知する障害物センサとしてカメラを用いた実施形態を例に挙げて説明する。なお、作業機械はタイヤが接地するダンプトラックやホイールローダのような車両に限らず、金属板を連結して構成した履体で車輪の回りを巻いて無限軌道を形成した走行体を有する油圧ショベルやドーザであっても、履体内の車輪を下記説明で用いる前後左右車輪に読み替えることで、本実施形態に係る周辺監視システムを適用することができる。
図1は、第一実施形態に係るダンプトラックの左側面図である。図2は、第一実施形態に係るダンプトラックの平面図である。図1、図2に示すように、ダンプトラック1は、左前輪2FL、右前輪2FR、左後輪2RL、右後輪2RR上に車体フレーム3を搭載する。更に車体フレーム3上に、ホイストシリンダ4を介して起伏自在に搭載されたベッセル5、及びキャブ6を搭載して構成される。ダンプトラック1の左右側面及び前後面にはそれぞれダンプトラック1から左方を撮像する左カメラ10L、右方を撮像する右カメラ10R、前方を撮像する前カメラ10F、後方を撮像する後カメラ10B(4台のカメラを区別しない場合はカメラ10という)が設置される。左カメラ10L、右カメラ10R、前カメラ10F、後カメラ10Bの其々が撮像して生成する画像を左画像、右画像、前画像、及び後画像という。これらの画像はスルー画像(動画像)でもよいし、静止画像でもよいが、本実施形態ではスルー画像であるとして説明する。
各カメラ10は斜め下方を光軸方向として車体フレーム3に設置される。本実施形態ではダンプトラック1の外界認識センサとしてカメラ10を用いるが、外界認識センサの種類はミリ波レーダやLIDARでもよく、これらのセンサの出力信号から障害物を検知できるセンサは種類を問わず本実施形態に用いることができる。ミリ波レーダやLIDARを用いる際もダンプトラック1の前後左右に設置するが、左側面及び右側面はミリ波レーダやLIDARを複数台設置し、検知範囲に不連続領域(盲点)が生じないように設置する。
図3は、キャブ内を示す説明図である。キャブ6内のピラー7にモニタ130及びブザー132が設置される。モニタ130は4台のカメラ10が撮像した画像を基に合成された俯瞰画像250を表示すると共に、その俯瞰画像に障害物が撮影されている場合にはマーカを重畳して表示する。
次に図4を参照してダンプトラックに適用される周辺監視システムの構成について説明する。図4は、周辺監視システムの概略構成を示すブロック図である。
図4に示すように、周辺監視システム100は、周辺監視装置110の入力端に車体情報の取得先となるECU(Engine Control Unit)190、右カメラ10R、左カメラ10L、前カメラ10F、後カメラ10Bを接続すると共に、出力端にモニタ130及びブザー132を接続して構成される。モニタ130及びブザー132は警報装置に相当する。
ECU190には、前進又は後進に走行方向を切替えるシフトレバー9が接続され、シフトレバー9がF(前進)、R(後進)、N(ニュートラル)のいずれの位置にあるかを示すシフトレバー情報がECU190に入力される。周辺監視装置110は、ECU190を介してシフトレバー情報を取得する。
ダンプトラック1は車速センサ11を備える。車速センサ11は、例えば従動輪(左前輪2FL、右前輪2FR)の車輪回転数を検出しこれを基に車速を出力するセンサを用いてもよい。車速情報はECU190に入力される。周辺監視装置110は、ECU190を介して車速情報を取得する。
更に後述する第三実施形態では、ダンプトラック1には操舵角センサ12が設置され、ハンドルを切ったときの操舵角を検出してECU190に検出された操舵角を示す操舵角情報が出力される。この操舵角情報は、ECU190を介して周辺監視装置110に入力され、検知エリアの設定処理に用いられる。第一実施形態及び第二実施形態では操舵角センサ12は必須ではない。
周辺監視装置110は、大きくは俯瞰画像生成部120と警報処理部140とを含む。俯瞰画像生成部120は、画像補正部121、視点変換部122、画像合成部123、及びアイコン記憶部124を含む。また警報処理部140は、障害物検知部141、検知エリア設定部142、及び警報判定部143を含む。更に第二実施形態では周辺監視システム100が搭載される作業機械や車両に応じた最大操舵角を示す最大操舵角情報を記憶した最大操舵角情報記憶部144を備えるが、第一実施形態及び第三実施形態では必須ではない。
本実施形態では、警報判定部143としてマーカ重畳部143a及びブザー制御部143bを含み、モニタ130上に障害物を示すマーカを重畳した警報出力態様と、ブザー132の発報による警報出力態様とを併用する。
また本実施形態では、俯瞰画像生成部120が生成した俯瞰画像から動体を検知し、この動体を障害物として抽出する。そこで、障害物検知部141として動体検知部141aを用いる。なお、障害物の抽出条件は動体であるか否かに限らない。例えば、人や鉱山内を走行する車両や作業機械の既知の画像を参照画像として記憶する参照画像記憶部141cと、俯瞰画像に撮像された被写体とのパターンマッチング処理を行うパターンマッチング処理部141bとを備え、参照画像とのマッチング度が同一物であると判定するためのマッチング閾値以上であるものを障害物として抽出してもよい。
次に図5〜図10を参照して本実施形態に係る周辺監視システムの処理について説明する。図5は、第一実施形態に係る周辺監視システムの前半処理の流れを示すフローチャートである。図6は、第一実施形態に係る周辺監視システムの後半処理の流れを示すフローチャートである。図7は、俯瞰画像生成処理の流れを示すフローチャートである。図8は、俯瞰画像生成処理の内容を示す説明図である。図9は、上方視点変換処理の内容を示す説明図である。図10は、第一実施形態で設定される検知エリアの説明図であって、(a)はシフトレバーが前進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(b)はシフトレバーが前進位置にあってマーカMのみによる警報出力がされる状態を示し、(c)はシフトレバーが後進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(d)はシフトレバーが後進位置にあってマーカMのみによる警報出力がされる状態を示す。
周辺監視システム100の電源がONになると、俯瞰画像を生成するための処理(S01〜S02)及び検知エリア設定処理(S11〜S15)が並列して開始される。そして生成された俯瞰画像及び設定された検知エリアに基づいて、障害物検知処理(S21〜S30)が実行される。そして、障害物と検知エリアとの比較結果に基づいて警報出力処理の一態様としてブザー報知処理(S51〜S52)が実行される。更にこれと並行してマーカ重畳処理(S40)も実行される。以下、各処理の内容を詳述する。
俯瞰画像を生成するための処理として、前カメラ10F、後カメラ10B、右カメラ10R、左カメラ10Lの各カメラは映像信号(スルー画像)を撮像して前画像、後画像、右画像、及び左画像を生成し(S01)、画像補正部121に出力する。
画像補正部121は各カメラ10から入力された前画像、後画像、右画像、及び左画像に対して収差補正やコントラスト補正、色調補正等の各種の画像補正を行う。なお、画像補正部121による補正処理は俯瞰画像生成処理にとっては必須ではないが、本処理により入力した映像信号の画質を向上させたスルー画像を生成し、視点変換部122に出力することができる。その結果俯瞰画像の画質も向上させることができる。
視点変換部122は、画像補正部121から入力した各スルー画像に基づいて俯瞰画像生成処理を実行する(S02)。以下、図7、図8、図9を参照して右画像を例に挙げて俯瞰画像の生成処理について説明する。
視点変換部122は、右カメラ10Rの補正後のスルー画像に含まれる各フレーム601(図8参照)から視点変換処理を施す領域602を切り出す(S021)。
次に視点変換部122は、切り出した領域602に対し、右カメラ10Rの斜め下方に向いた光軸が、上方からの仮想的な視点に変換となるように座標変換処理を行う(S022、図8の符号603参照)。
図9に示すように、右カメラ10R(前カメラ10F、後カメラ10B、左カメラ10Lも同様である)の対物レンズの光軸Aは、地表Lに対して所定角度θを有している。視点変換部122は、光軸方向が垂直方向となるような仮想カメラ10Vを高さHに仮想的に設定する。そして視点変換部122は、切り出した領域602の画像データを、仮想カメラ10V(仮想上方視点)からみた画像となるように座標変換する。このように上方からの視点に変換した画像は仮想的な平面画像となる。右カメラ10Rのスルー画像を用いて生成した俯瞰画像を右俯瞰画像604という。
視点変換部122は、前画像、後画像、及び左画像に対しても上記と同様に視点変換処理を行い、右俯瞰画像、前俯瞰画像、後俯瞰画像、左俯瞰画像を生成し、画像合成部123に出力する(S023)。
画像合成部123はダンプトラック1を上面視(仮想視点と同じ視点)で図形化したアイコンの周囲に4つの俯瞰画像を配置した合成俯瞰画像を生成する。具体的には、周辺監視装置110内のグラフィックメモリ内に俯瞰画像生成処理用のワークエリア610を確保する(S024)。
次に画像合成部123は、アイコン記憶部124からアイコン612を読み出し、ワークエリア610の中央にアイコン612を配置する(S025)。
そして、画像合成部123は、アイコン612における車体右側に、右俯瞰画像604を配置する。同様にアイコン612における車両前側に前俯瞰画像、車両後ろ側に後俯瞰画像、車両左側に左俯瞰画像を配置する(S026)。これにより、合成俯瞰画像250(以下、俯瞰画像という)が生成される。生成された俯瞰画像250は、警報処理部140の障害物検知部141に出力される。
一方、検知エリア設定部142は、ECU190経由でシフトレバー9のレバーポジション情報を取得する(S11)。そして、検知エリア設定部142は、シフトレバーが前進位置(F)にある場合(S12/YES)、後輪車軸(RS:図10(a)参照)よりも前方領域を前検知エリアFE1(図10(a)参照)に設定する(S13)。また検知エリア設定部142は、シフトレバーが後進位置(R)にある場合(S12/NO、S14/YES)、前輪車軸(FS:図10(c)参照)よりも後方領域を後検知エリアRE1(図10(c)参照)に設定する(S15)。設定した前検知エリアFE1、又は後検知エリアRE1は警報判定部143に出力される。警報判定部143のブザー制御部143bは、前検知エリアFE1、又は後検知エリアRE1をブザー132から警告音を発生させるか否かの判定に用いるブザー用の検知エリアとして採用する。
シフトレバーが中立位置(N)の場合は(S14/NO)、ブザー用の検知エリアを設定することなく処理開始点Aに戻る。
本実施形態では、ブザー用の検知エリアとマーカ用の検知エリアとは異なる領域に設定する。マーカ用の検知エリアはダンプトラック1のシフトレバーの位置に関らず全周囲領域として決定しておく。そのため、図5では特にマーカ用の検知エリアを設定するステップを図示していないが、S13、S15のそれぞれにおいてマーカ用の検知エリアを全周囲と決定してもよい。一方、上述のごとく、ブザー用に用いる前検知エリアFE1と後検知エリアRE1は、全周囲よりも狭い領域、かつこれからダンプトラック1が走行する方向に限定する。このように、マーカ用の検知エリアは全周囲とすることでモニタ130にはダンプトラック1の全周囲にある障害物にマーカを重畳して表示すると共に、前進直前また後進直前には全周囲よりも狭いエリアに限定してブザーを発報させることができる。そのため、モニタ130から視線を外した運転手にも障害物が走行方向に重なる可能性があることについて注意喚起をすることができる。
障害物検知部141の動体検知部141aは、ECU190から車速情報を取得し(S21)、車速=0、即ち停車していると判定した場合は(S22/YES)、俯瞰画像に対して動体検知処理を実行する(S24)。なお停止判定に用いる速度閾値はV=0に限定されず、停止していると見做せる速度閾値を設定しておき、これ未満の場合は停止していると見做してもよい。この速度閾値は、動体検知処理において背景と被計測体(他車両等)が分離できる程度の閾値を用いてもよい。
車速が0でない、即ち走行中であると判定した場合(S22/NO)、電源OFFでなければ(S23/NO)、処理開始点Aに戻り、俯瞰画像生成処理及び検知エリア設定処理を再開する。
俯瞰画像生成部120は予め決められたフレームレート、例えば30fpsで合成俯瞰映像を生成して動体検知部141aに出力する。
動体検知部141aは、連続するフレームの比較処理、例えば差分処理等による動体検知処理を実行し(S24)、フレーム間で差分がある被写体は動体として検知する。ここでフレーム間の差分の有無は、差分量が動体と検知するために設定した閾値(異なる画素数で定義されてもよい)以上であれば差分ありと判定し、未満であれば差分なしと判定してもよく、差分量が0の場合のみを差分なしと判定しなくてもよい。
動体検知部141aが動体を検知すると(S25/YES)、タイマーを0に設定して経過時間の計測を開始する(S26)。動体検知部141aは、規定時間(規定フレーム数と言い換えてもよい)の経過をカウントし(S27/NO)、規定時間経過後(S27/YES)、動体が動き続けている場合(S28/Yes)、動体検知部141aは動体を障害物と判定し(S29)、判定結果を警報判定部143に出力する。
一方、動体検知部141aがフレーム間で差分がないと判定した場合(S25/No)、及び動体を検知したものの規定時間経過後は動いていない場合(S28/No)、電源OFFであれば(S30/YES)処理を終了し、電源OFFでなければ処理開始点Aへ戻る。
警報判定部143のマーカ重畳部143aは、シフトレバーがF又はR位置にあり、かつ停車中はダンプトラック1の全周囲にある障害物に対してマーカを重畳してモニタ130に表示する(S41)。
またブザー制御部143bは、動体検知部141aから取得した俯瞰画像内の障害物が、前検知エリアFE1内、又は後検知エリアRE1内にある場合(S51/YES)、ブザー132から警告音を発生させるための出力指示信号をブザー132に送信する(S52)。
上記処理によれば、シフトレバーがFにあり、かつ障害物が前検知エリアFE1内にある場合は、マーカM及びブザーの双方による警報出力がされる(図10(a)参照)。シフトレバーがFにあり、かつ障害物が前検知エリアFE1外にある場合は、マーカMのみによる警報出力がされ(図10(b)参照)、ブザーは鳴らない。
一方、シフトレバーがRにあり、かつ障害物が後検知エリアRE1内にある場合は、マーカ及びブザーの双方による警報出力がされる(図10(c)参照)。シフトレバーがRにあり、かつ障害物が後検知エリアRE1外にある場合は、マーカMのみによる警報出力がされ(図10(d)参照)、ブザーは鳴らない。
本実施形態によれば、周辺監視装置がシフトポジションと車速とを併用してブザーによる警告の有無を判断するための検知エリアを設定する。これにより、作業機械が停止中から前進、又は後進へ遷移する直前に、作業機械が前進又は後進すると干渉する障害物が存在する場合に限りブザーを動作させることができる。そのため、ブザーを干渉回避に必要なタイミングに限って動作させることができ、不必要に頻回に動作することで運転手のブザーに対する注意力が低下することを抑制できる。
また、本実施形態ではマーカとブザーとを併用するものの、マーカを重畳するための検知エリアは全周囲とし、ブザーを鳴らすための検知エリアはそれよりも狭い領域となるように異ならせる。これにより、運転手がモニタを見ている場合には、全周囲にある障害物の存在及び動く方向を確認できる。そして、シフトレバーをF又はRに入れて作業機械の移動を開始しようとする際は、一般に運転手が走行方向を確認するためにモニタから視線を外すことが多いが、この間は、聴覚を用いた警告を行うことで障害物と干渉する危険性を通知することができる。
<第二実施形態>
第二実施形態は、ダンプトラック、ホイールローダ等の各作業機械の機種毎に最大操舵角を設定し、最大操舵角を検知エリアの設定条件に更に加えることで第一実施形態よりも検知エリアを狭く限定する実施形態である。第二実施形態では図4に示すブロック図において最大操舵角情報記憶部144を備える。
第二実施形態における検知エリア設定部142の処理内容について図11を用いて説明する。図11は、第二実施形態で設定される検知エリアの説明図であって、(a)はシフトレバーが前進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(b)はシフトレバーが前進位置にあってマーカMのみによる警報出力がされる状態を示し、(c)はシフトレバーが後進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(d)はシフトレバーが後進位置にあってマーカMのみによる警報出力がされる状態を示す。
本実施形態では図5のステップS13、即ちシフトレバーが前進位置にある場合に、検知エリア設定部142は、ダンプトラック1が最大操舵角で左に旋回しながら前進走行した場合の左後輪2RLの軌跡RL_TRと、ダンプトラック1が最大操舵角で右に旋回しながら前進走行した場合の右後輪2RRの軌跡RR_TRとの間を前検知エリアFE2として設定する(図11(a)、図11(b)参照)。この前検知エリアFE2をブザー用の検知エリアとして用いることで、前進時に左前輪2FL、右前輪2FR、左後輪2RL、右後輪2RRの軌跡内に障害物が位置する場合にのみブザーを動作させることができる(図11(a)参照)。前検知エリアFE2外にある場合はマーカを付けるだけの警報出力とする(図11(b)参照)。
またステップS15、即ちシフトレバーがRのときは、ダンプトラック1が最大操舵角で左に旋回しながら後進走行した場合の左前輪の2FLの軌跡FL_TR、最大操舵角で右に旋回しながら後進走行した場合の右前輪2FRの軌跡FR_TRとの間を後検知エリアRE2として設定する(図11(c)、図11(d)参照)。この後検知エリアRE2をブザー用の検知エリアとして用いることで、後進時に左前輪2FL、右前輪2FR、左後輪2RL、右後輪2RRの軌跡内に障害物が位置する場合にのみブザーを動作させることができる。(図11(c)参照)。後検知エリアRE2外にある場合はマーカを付けるだけの警報出力とする(図11(d)参照)。
本実施形態によれば、前進時、また後進時の車輪の軌跡となる可能性がある領域内に限ってブザーを動作させることで、より検知エリアを狭くすることができる。これにより、障害物を踏みつぶす危険性が更に高い場合に限ってブザーが鳴るので、ブザーに対する運転手の注意力を増すことができる。
<第三実施形態>
第三実施形態は検知エリア設定部142がECU190経由で操舵角センサ12が出力した操舵角情報を取得し、これらを用いて操舵角に応じた検知エリアを随時設定する態様である。
検知エリア設定部142は下式(1)に示す関数情報を記憶しておき、操舵角情報を基にその操舵角における最小回転半径Rを計算する。図12は、下式(1)に用いる各パラメータを示す。

ただし
R:最小回転半径
L:軸距(ホイールベース)
Tf:舵取り車輪の輪距(トレッド)
α:外側車輪のかじ取角度
β:内側車輪のかじ取角度
図13は、第三実施形態で設定される検知エリアの説明図であって、(a)はシフトレバーが前進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(b)はシフトレバーが前進位置にあってマーカMのみによる警報出力がされる状態を示し、(c)はシフトレバーが後進位置にあってマーカM及びブザーの双方による警報出力される状態を示し、(d)はシフトレバーが後進位置にあってマーカMのみによる警報出力がされる状態を示す。
操舵角に応じた回転半径Rを算出し、図13に示すように前進時には左後輪2RLの軌跡RL_TRと右後輪2RRの軌跡RR_TRとの間を前検知エリアFE3に設定する。前検知エリアFE3にある場合にのみブザー及びマーカを付けて警報を出力し(図13(a))、前検知エリアFE3外にある場合はマーカのみの警報を出力する(図13(b))。同様に後進時には左前輪2FLの軌跡FL_TRと右前輪2FRの軌跡FR_TRとの間を後検知エリアRE3に設定する。そして、後検知エリアRE3にある場合にのみブザー及びマーカを付けて警報を出力し(図13(c))、後検知エリアRE3外にある場合はマーカのみの警報を出力する(図13(d))。
本実施形態によれば、操舵角に応じて更に検知エリアを限定することで、不要なブザー報知を減らすことができる。
上記実施形態は本発明を限定するものではなく、本発明の趣旨を逸脱しない様々な変更例は本発明に含まれるものである。例えば、警報出力態様としてブザーだけを用いてもよいし、俯瞰画像に対するマーカのみを用いてもよい。その場合、マーカ用の検知エリアは全周囲ではなく、検知エリア設定部が設定した前検知エリア、及び後検知エリアを用い、前検知エリア、及び後検知エリアに含まれる障害物にのみマーカを重畳してもよい。
更に、ブザー用の検知エリア及びマーカ用の検知エリアは同一のエリアを用いてもよい。この場合、図11(b)、図11(d)、図13(b)、及び図13(d)において、障害物が前検知エリアFE1〜FE3、又は後検知エリアRE1〜RE3外にある場合はマーカを重畳しないでモニタに表示してもよい。
更に俯瞰画像から動体を検知したが、右画像、左画像、前画像、及び後画像の其々から動体を検知し、右画像、左画像、前画像、及び後画像をモニタに表示し、各画像から検知した動体に対してマーカを重畳してもよい。
また、上述の図5に示す処理フローは一例にであって、図14に示す他例であってもよい。以下、図14に従って、他例に係る処理フローについて説明する。図14では、画像生成タスクと障害物検知タスクとを並列処理で行う例について説明する。
画像生成タスクでは、各カメラが撮像して映像信号を出力し(S101)、俯瞰画像生成処理が実行される(S102)。生成された俯瞰画像は障害物検知タスクに引き渡される。
画像生成タスクでは生成された俯瞰画像を周辺監視装置のハードウェアを構成するグラフィックメモリに配置する(S103)。ここで車速=0であり(S104/Yes)、障害物検知タスクから障害物座標を取得すると、グラフィックメモリに障害物座標を強調して配置し(S105)、グラフィックメモリの映像がモニタに表示され(S106)、画像生成タスクを終了する。車速=0でない場合(S104/No)、グラフィックメモリの映像がモニタに表示される(S106)。
障害物検知タスクでは、シフトレバーの状態を確認し(S111)、シフトレバーが前進であれば(S112/YES)、検知エリアを後輪車軸よりも前に設定する(S113)。
ここで車速=0であれば(S114/Yes)、俯瞰画像生成処理(S102)から俯瞰画像を取得し、俯瞰画像に基づく動体検知処理が実行される(S115)。動体を検知すると(S116/Yes)、動体を検知してからの経過時間Tを計測し、それが規定時間以上の場合(S117/Yes)、障害物座標を算出し(S118)、画像生成タスクに障害物座標を受け渡す。そしてブザーを発報し(S119)、障害物検知タスクを終了する。
動体を検知しない場合は(S116/No)、経過時間T=0であり(S120)、障害物検知タスクを終了する。また、経過時間Tが規定時間未満の場合(S117/No)、経過時間の計測を続行し(S121)、障害物検知タスクを終了する。
シフトレバーが後進の場合(S112/No、S122/Yes)、検知エリアを前輪車軸よりも後ろに設定し(S123)、ステップS114へ進む。
シフトレバーが中立(N)の場合(S124/Yes)、検知エリアを設定することなく(S125)、ステップS114へ進む。シフトレバーが中立(N)にもない場合は(S124/No)、異常終了する(S126)。上記のように、本実施形態と同様の作業効果を、別のフローで説明することも可能である。
1:ダンプトラック、10:カメラ、100:周辺監視システム、110:周辺監視装置

Claims (6)

  1. 左前輪、右前輪、左後輪、及び右後輪と、前進又は後進に走行方向を切替えるシフトレバーと、車速を検出する車速センサと、を搭載した車両の周辺監視システムであって、
    前記車両の前後左右にある被計測体を検出して出力信号を生成する外界認識センサと、
    前記出力信号を基に障害物を検知すると共に、障害物があることを知らせる警報を発報する検知エリアを設定し、前記障害物が前記検知エリア内にある場合に警報を発報させるための制御信号を出力する周辺監視装置と、
    前記周辺監視装置からの制御に従って警報を発報するモニタ及びブザーと、
    を備え、
    前記周辺監視装置は、
    前記シフトレバーが前進位置又は後進位置にあるかを示すシフトレバー情報を取得し、前記シフトレバーが前進位置にある場合は、前記車両の後輪車軸よりも前方領域を前記検知エリアとして設定し、前記シフトレバーが後進位置にある場合は、前記車両の前輪車軸よりも後方領域を前記検知エリアとして設定する検知エリア設定部と、
    前記車速センサから車速情報を取得し、当該車速情報に基づいて前記車両が停止しているかを判定し、前記車両が停止していると判定した場合に前記外界認識センサの出力信号を基に障害物を検知し、検知した障害物が動体であるか否かを検知する動体検知処理を行い、動体として検知された障害物のうち、動き続けている障害物を検知する障害物検知部と、
    前記動体として検知された障害物のうち、動き続けている障害物に対して前記モニタにマーカを重畳して表示させるマーカ重畳部と、
    前記動体として検知された障害物のうち、動き続けている障害物が前記検知エリア内に含まれる場合は、前記ブザーに対して警告音の出力指示信号を送信するブザー制御部と、を含む、
    ことを特徴とする周辺監視システム。
  2. 請求項1に記載の周辺監視システムにおいて、
    前記車両の最大操舵角を示す最大操舵角情報を記憶する最大操舵角情報記憶部を更に備え、
    前記検知エリア設定部は、
    前記シフトレバーが前進位置にある場合は、前記車両が最大操舵角で左に旋回しながら前進走行した場合の前記左後輪の軌跡と前記車両が最大操舵角で右に旋回しながら前進走行した場合の前記右後輪の軌跡との間を検知エリアとして設定し、
    前記シフトレバーが後進位置にある場合は、前記車両が最大操舵角で左に旋回しながら後進走行した場合の前記左前輪の軌跡と前記車両が最大操舵角で右に旋回しながら後進走行した場合の前記右前輪の軌跡との間を検知エリアとして設定する、
    ことを特徴とする周辺監視システム。
  3. 請求項1に記載の周辺監視システムにおいて、
    前記車両の操舵角を検出し、その操舵角を示す操舵角情報を出力する操舵角センサを更に備え、
    前記検知エリア設定部は、
    前記シフトレバーが前進位置にある場合は、前記車両が前記操舵角に従って旋回しながら前進走行したと想定した場合の前記左後輪の軌跡と前記右後輪の軌跡との間を検知エリアとして設定し、
    前記シフトレバーが後進位置にある場合は、前記車両が前記操舵角に従って旋回しながら後進走行したと想定した場合の前記左前輪の軌跡と前記右前輪の軌跡との間を検知エリアとして設定する、
    ことを特徴とする周辺監視システム。
  4. 請求項1、2、3のいずれか一つに記載の周辺監視システムにおいて、
    前記外界認識センサは前記車両の前方を撮像して前画像を生成する前カメラ、前記車両の右方を撮像して右画像を生成する右カメラ、前記車両の左方を撮像して左画像を生成する左カメラ、及び前記車両の後方を撮像して後画像を生成する後カメラを含み、
    前記モニタは、前記前カメラ、前記右カメラ、前記左カメラ、及び前記後カメラが撮像した画像データに基づく画像を表示するモニタであり、
    前記マーカ重畳部は、前記モニタに表示される画像において、前記検知エリア内にある障害物が撮像された領域にマーカを重畳する、
    ことを特徴とする周辺監視システム。
  5. 請求項に記載の周辺監視システムにおいて、
    前記前画像、前記右画像、前記左画像、及び前記後画像を仮想上方視点からみた画像に座標変換し、前記車両を前記仮想上方視点からみた俯瞰画像を生成する俯瞰画像生成部を更に備え、
    前記障害物検知部は、前記俯瞰画像に撮像された動体を検知する、
    ことを特徴とする周辺監視システム。
  6. 左前輪、右前輪、左後輪、及び右後輪と、前進又は後進に走行方向を切替えるシフトレバーと、車速を検出する車速センサと、車両の前後左右にある被計測体を検出して出力信号を生成する外界認識センサと、モニタと、ブザーと、を備えた車両に搭載される周辺監視装置であって、
    前記シフトレバーが前進位置又は後進位置にあるかを示すシフトレバー情報を取得し、前記シフトレバーが前進位置にある場合は、前記車両の後輪車軸よりも前方領域を検知エリアとして設定し、前記シフトレバーが後進位置にある場合は、前記車両の前輪車軸よりも後方領域を前記検知エリアとして設定する検知エリア設定部と、
    記車速センサから車速情報を取得し、当該車速情報に基づいて前記車両が停止しているかを判定し、前記車両が停止していると判定した場合に前記外界認識センサの出力信号を基に障害物を検知し、検知した障害物が動体であるか否かを検知する動体検知処理を行い、動体として検知された障害物のうち、動き続けている障害物を検知する障害物検知部と、
    前記動体として検知された障害物のうち、動き続けている障害物に対して前記モニタにマーカを重畳して表示させるマーカ重畳部と、
    前記動体として検知された障害物のうち、動き続けている障害物が前記検知エリア内に含まれる場合は、前記ブザーに対して警告音の出力指示信号を送信するブザー制御部と、
    を含むことを特徴とする周辺監視装置。
JP2018506448A 2016-08-31 2016-08-31 周辺監視システム及び周辺監視装置 Active JP6646135B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/075542 WO2018042567A1 (ja) 2016-08-31 2016-08-31 周辺監視システム及び周辺監視装置

Publications (2)

Publication Number Publication Date
JPWO2018042567A1 JPWO2018042567A1 (ja) 2018-08-30
JP6646135B2 true JP6646135B2 (ja) 2020-02-14

Family

ID=61301799

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018506448A Active JP6646135B2 (ja) 2016-08-31 2016-08-31 周辺監視システム及び周辺監視装置

Country Status (2)

Country Link
JP (1) JP6646135B2 (ja)
WO (1) WO2018042567A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7239291B2 (ja) * 2018-09-28 2023-03-14 株式会社小松製作所 作業車両の周辺監視システム及び作業車両の周辺監視方法
JP7312555B2 (ja) * 2019-01-23 2023-07-21 酒井重工業株式会社 建設車両の障害物検知装置
JP7374602B2 (ja) 2019-03-29 2023-11-07 日立建機株式会社 作業車両
JP7308089B2 (ja) * 2019-07-18 2023-07-13 株式会社小松製作所 作業車両の表示システムおよび作業車両の表示方法
US11320830B2 (en) 2019-10-28 2022-05-03 Deere & Company Probabilistic decision support for obstacle detection and classification in a working area

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5044204B2 (ja) * 2006-12-18 2012-10-10 クラリオン株式会社 運転支援装置
JP2010148058A (ja) * 2008-12-22 2010-07-01 Denso It Laboratory Inc 運転支援装置及び運転支援方法
JP2010218058A (ja) * 2009-03-13 2010-09-30 Denso It Laboratory Inc 運転支援装置及び運転支援方法
JP5867273B2 (ja) * 2012-04-27 2016-02-24 富士通株式会社 接近物体検知装置、接近物体検知方法及び接近物体検知用コンピュータプログラム
JP2015079299A (ja) * 2013-10-15 2015-04-23 株式会社デンソー 運転支援装置
JP6548900B2 (ja) * 2015-01-20 2019-07-24 株式会社デンソーテン 画像生成装置、画像生成方法及びプログラム

Also Published As

Publication number Publication date
WO2018042567A1 (ja) 2018-03-08
JPWO2018042567A1 (ja) 2018-08-30

Similar Documents

Publication Publication Date Title
JP6646135B2 (ja) 周辺監視システム及び周辺監視装置
JP6267972B2 (ja) 作業機械の周囲監視装置
JP5421072B2 (ja) 接近物体検知システム
US11321911B2 (en) Method for representing the surroundings of a vehicle
JP6385745B2 (ja) 鉱山用作業車両
US20180061102A1 (en) Drive assist device and drive assist method
JP2010184607A (ja) 車両周辺表示装置
JP2012071635A5 (ja)
JP2011118482A (ja) 車載装置および認知支援システム
JP6352797B2 (ja) 作業機械の周囲監視装置
JP2008222153A (ja) 合流支援装置
JP2005135025A (ja) 衝突可能性判定装置
JP5169912B2 (ja) 駐車支援装置
US20170368993A1 (en) Image generating device and image generating method
JP6401141B2 (ja) 車両周囲障害物検出装置
JP5617396B2 (ja) 運転支援装置
JP2005276057A (ja) ノーズビューモニタ装置
JP6363393B2 (ja) 車両周辺監視装置
JP2007142765A (ja) 車両周辺監視装置
JP2013161440A (ja) 車両周辺監視装置
JP2000016181A (ja) カメラ付ドアミラー及び車両周辺認識システム
JP2011211432A (ja) 車載用撮像装置
JP2006268224A (ja) 車両用運転支援装置
JP2007251880A (ja) 車両用画像表示装置および画像合成方法
JP2007213164A (ja) 脇見運転防止装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190507

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200109

R150 Certificate of patent or registration of utility model

Ref document number: 6646135

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150