JP2019089636A - 安全装置 - Google Patents

安全装置 Download PDF

Info

Publication number
JP2019089636A
JP2019089636A JP2017220194A JP2017220194A JP2019089636A JP 2019089636 A JP2019089636 A JP 2019089636A JP 2017220194 A JP2017220194 A JP 2017220194A JP 2017220194 A JP2017220194 A JP 2017220194A JP 2019089636 A JP2019089636 A JP 2019089636A
Authority
JP
Japan
Prior art keywords
obstacle
forklift
image processing
moving
imaged
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017220194A
Other languages
English (en)
Other versions
JP6844508B2 (ja
Inventor
将崇 石▲崎▼
Masataka Ishizaki
将崇 石▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Industries Corp
Original Assignee
Toyota Industries Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Industries Corp filed Critical Toyota Industries Corp
Priority to JP2017220194A priority Critical patent/JP6844508B2/ja
Publication of JP2019089636A publication Critical patent/JP2019089636A/ja
Application granted granted Critical
Publication of JP6844508B2 publication Critical patent/JP6844508B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

【課題】移動体と障害物との位置関係が把握不能になることを抑止すること。【解決手段】フォークリフトには、安全装置が搭載されている。安全装置は、2つの撮像装置と、画像処理装置と、を備える。各撮像装置はステレオカメラである。撮像装置は、垂直画角の最も上側が水平面よりも上となるように配置されている。画像処理装置は、撮像装置によって撮像された画像から、障害物の位置を算出する。画像処理装置は、撮像装置によって障害物が撮像されなくなった場合、障害物の位置を推定する。【選択図】図3

Description

本発明は、安全装置に関する。
移動体が上方の障害物に衝突することを抑止するため、移動体には上方の障害物を検知するための安全装置が設けられる。
特許文献1の安全装置は、障害物までの距離を検出する距離検出装置を備える。距離検出装置は、上方を向くように配置されている。距離検出装置は、超音波やレーザなどの照射波を照射することで、障害物までの距離を検出する。距離検出装置によって検出される距離から安全装置は、障害物を検知することができる。
特許文献2の安全装置は、ステレオカメラを備える。安全装置は、ステレオカメラによって撮像される画像から、移動体が衝突する障害物を検知することができる。
特開2004−91118号公報 特開2013−114610号公報
ところで、特許文献1の安全装置では、移動体の移動に伴い、照射波が障害物に当たらなくなる場合がある。この場合、安全装置は、障害物を検知することができなくなる。また、特許文献2の安全装置についても、移動体の移動に伴い障害物がステレオカメラの垂直画角から外れると、障害物を検知することができない。すると、安全装置は、移動体と障害物との位置関係を把握することができず、移動体と障害物とが衝突するおそれがある。
本発明の目的は、移動体と障害物との位置関係が把握不能になることを抑止できる安全装置を提供することにある。
上記課題を解決する安全装置は、移動体に搭載される安全装置であって、垂直画角の最も上側が水平面よりも上となるように配置されたステレオカメラと、前記ステレオカメラによって撮像された画像から、障害物の位置を算出する算出手段と、前記障害物の位置情報を記憶する記憶手段と、前記移動体の移動に伴い、前記障害物が前記ステレオカメラによって撮像されなくなった場合、前記記憶手段によって記憶された前記位置情報に基づき、前記障害物の位置を推定する推定手段と、を備える。
これによれば、ステレオカメラの垂直画角の最も上側が水平面よりも上となることで、ステレオカメラは移動体の上方を撮像可能である。算出手段によって算出された障害物の位置は位置情報として記憶手段によって記憶される。ステレオカメラによって障害物が撮像されなくなると、障害物の位置が推定手段によって推定される。これにより、障害物がステレオカメラによって撮像されなくなった場合であっても、安全装置は移動体と障害物との位置関係を把握できる。したがって、移動体と障害物との位置関係が把握不能になることを抑止できる。
上記安全装置について、前記推定手段は、前記移動体の速度、及び、前記移動体の進行方向から前記障害物の位置を推定してもよい。
これによれば、推定手段は、ステレオカメラによって障害物が撮像されなくなった場合であっても、移動体の速度、及び、進行方向から障害物の位置を推定することができる。
上記安全装置について、前記推定手段は、前記障害物が前記ステレオカメラによって撮像されているときに前記障害物とともに撮像されており、かつ、前記移動体の移動に伴い前記障害物が撮像されなくなった場合にも撮像されているものを基準物とし、前記移動体の移動に伴う前記基準物と前記移動体との相対位置の変化から前記障害物の位置を推定してもよい。
これによれば、推定手段は、ステレオカメラによって障害物と基準物とが撮像されている際に障害物と基準物との位置関係を把握することで、基準物と移動体との相対位置の変化から障害物の位置を推定できる。
上記安全装置について、前記障害物の上下方向への移動速度を検出し、前記移動速度で前記障害物が移動し続けた場合に前記障害物と前記移動体とが衝突するか否かを判定する衝突判定手段を備えていてもよい。
これによれば、障害物の移動速度を加味した上で、障害物と移動体とが衝突するか否かを判定することができる。
本発明によれば、移動体と障害物との位置関係が把握不能になることを抑止できる。
安全装置が搭載されるフォークリフトの側面図。 フォークリフト、及び、安全装置の概略構成図。 第1実施形態における障害物を検知するための処理を示すフローチャート。 相対位置算出処理を示すフローチャート。 フォークリフトと、撮像装置に撮像される障害物とを示す模式図。 ワールド座標系に対象物をプロットした図。 フォークリフトと、撮像装置によって撮像されなくなった障害物とを示す模式図。 撮像装置によって障害物が撮像されなくなった場合のワールド座標系を示す図。 第2実施形態における障害物を検知するための処理を示すフローチャート。 第2実施形態における障害物の移動推定をするための処理を示すフローチャート。 変形例における障害物の検知手段を説明するための図。
(第1実施形態)
以下、安全装置の第1実施形態について説明する。
図1及び図2に示すように、移動体としてのフォークリフト10は、車体11と、車体11の前部に設けられた荷役装置12と、を備える。フォークリフト10は、駆動輪13と、操舵輪14と、駆動輪13を駆動させる走行用モータM1と、を備える。なお、フォークリフト10は、自動で走行動作及び荷役動作が行われるものであってもよいし、搭乗者(オペレータ)による操作によって走行動作及び荷役動作が行われるものであってもよい。
荷役装置12は、マスト15を備える。マスト15は、車体11に対して前後に傾動可能に支持されたアウタマスト16と、アウタマスト16に対して昇降可能なインナマスト17と、を備える。フォークリフト10は、マスト15を傾動させるティルトシリンダ18と、インナマスト17を昇降させるリフトシリンダ19と、を備える。ティルトシリンダ18及びリフトシリンダ19は油圧シリンダである。荷役装置12は、インナマスト17とともに昇降する荷役具(例えば、フォークや、ロールクランプ装置などのアタッチメント)Lを備える。
フォークリフト10は、メインコントローラ20と、走行用モータM1を制御する走行制御装置23と、車速センサ24と、揚高センサ25と、ハンドル角センサ26と、を備える。メインコントローラ20は、走行動作、及び、荷役動作に関する制御を行う。メインコントローラ20は、CPU(演算部)21と、種々の制御を行うためのプログラムなどが記憶されたメモリ22と、を備える。
メインコントローラ20のCPU21は、フォークリフト10の車速が目標速度となるように走行制御装置23に走行用モータM1の回転数の指令を与える。メインコントローラ20は、走行制御装置23に走行用モータM1を回転させる方向の指令を与えることで、フォークリフト10を進行させる方向(前進又は後進)を制御する。
本実施形態の走行制御装置23は、モータドライバである。本実施形態の車速センサ24は、走行用モータM1の回転数を検出する回転数センサである。車速センサ24は、走行用モータM1の回転数を走行制御装置23に出力する。走行制御装置23は、メインコントローラ20からの指令に基づき、走行用モータM1の回転数が指令と一致するように走行用モータM1を制御する。走行制御装置23は、走行用モータM1の回転方向がメインコントローラ20からの指令と一致するように走行用モータM1を制御する。
揚高センサ25は、例えば、リール式の揚高センサである。揚高センサ25は、一端が荷役具Lに接続された図示しないワイヤと、そのワイヤが巻き掛けられる図示しないリールと、リールの回転量を検出するための回転検出器(ロータリーエンコーダ)と、を備える。揚高センサ25は、検出結果をメインコントローラ20に出力する。
ハンドル角センサ26は、ハンドルに配設されており、ハンドルの操作量(角度)を検出する。ハンドル角センサ26は、検出結果をメインコントローラ20に出力する。メインコントローラ20は、ハンドルの操作量(角度)に応じた舵角となるように操舵輪14の向きを制御する。
フォークリフト10には、安全装置30が搭載されている。安全装置30は、2つの撮像装置31,41を備える。2つの撮像装置31,41のうちの一方は、前方撮像装置31であり、他方は後方撮像装置41である。前方撮像装置31は、フォークリフト10の前方を撮像するステレオカメラである。後方撮像装置41は、フォークリフト10の後方を撮影するステレオカメラである。
各撮像装置31,41は、車体11の上部に配置されている。前方撮像装置31は、2つのカメラ32,33を備える。2つのカメラ32,33のうち一方を第1カメラ32、他方を第2カメラ33とする。カメラ32,33としては、例えば、CCDイメージセンサや、CMOSイメージセンサが用いられる。各カメラ32,33は、互いの光軸が平行となるように配置されている。なお、各カメラ32,33の光軸は、水平であってもよいし、水平でなくてもよい。後方撮像装置41は、前方撮像装置31と同一構成であり、第1カメラ42と、第2カメラ43と、を備える。以下の説明において、第1カメラ32,42によって撮像された画像を第1画像、第2カメラ33,43によって撮像された画像を第2画像として説明を行う。
前方撮像装置31(第1カメラ32及び第2カメラ33)の垂直画角θ1の最も上側U1、即ち、前方撮像装置31の撮像範囲の最も上側は水平面よりも上となっている。同様に、後方撮像装置41(第1カメラ42及び第2カメラ43)の垂直画角θ2の最も上側U2は、水平面よりも上となっている。これにより、各撮像装置31,41は、取り付け位置よりも上方を撮像可能である。
安全装置30は、各撮像装置31,41によって撮像された画像から障害物を検知する画像処理装置50を備える。画像処理装置50は、CPU、RAM、ROM等から構成されている。画像処理装置50は、上方の障害物を検知する。なお、上方の障害物とは、フォークリフト10が走行する床よりも上方に位置しており、フォークリフト10の上部が衝突するおそれのある障害物である。上方の障害物としては、例えば、梁や、シャッターが挙げられる。
画像処理装置50は、図3に示す処理を所定の制御周期毎に繰り返し行う。以下、画像処理装置50の行う処理について安全装置30の作用とともに説明する。
図3に示すように、画像処理装置50は、撮像装置31,41によって撮像された画像から、視差を算出する(ステップS10)。視差は、撮像装置31,41のそれぞれについて第1画像と、第2画像とを比較し、各画像に写る同一の対象物について第1画像と第2画像の画像位置(ピクセル)の差を算出することで得られる。画像位置の差は、第1画像に写る対象物と、第2画像に写る対象物との画素(ピクセル)数の差[px]である。本実施形態において、視差は視差画像として得られる。視差画像とは、撮像装置31,41によって撮像された画像に写る対象物と、当該対象物の視差とを対応付けた画像である。視差画像には、画素毎に視差が対応付けられている。視差画像の画素数は、第1画像(第2画像)の画素数と同一である。なお、視差画像とは、必ずしも表示を要するものではなく、視差画像における各画素(視差画像におけるX座標及びY座標)に視差が対応付けられたデータのことを示す。
なお、対象物とは、各画像に含まれる特徴部分であり、例えば、物体のエッジなど、境目として認識可能な部分である。対象物は、輝度情報などから検出することができ、画像処理装置50は、対象物から視差を算出することができる。
画像処理装置50は、視差からフォークリフト10の周囲に存在する対象物の位置を算出する(ステップS11)。まず、画像処理装置50は、各撮像装置31,41によって得られた視差画像からカメラ座標系における対象物の位置を算出する。カメラ座標系は、光軸をZ軸とし、光軸に直交する2つの軸のそれぞれをX軸、Y軸とする3軸直交座標系である。カメラ座標系における対象物の位置は、カメラ座標系におけるZ座標Zc、X座標Xc、Y座標Ycで表わすことができる。Z座標Zc、X座標Xc、及び、Y座標Ycは、それぞれ、以下の(1)式〜(3)式を用いて算出することができる。
ここで、Bは各撮像装置31,41の眼間距離[m]、fは焦点距離[m]、dは視差[px]である。xpは視差画像中の任意のX座標(任意の画素の横ピクセル)、x’は視差画像中の中心X座標である。ypは視差画像中の任意のY座標(任意の画素の縦ピクセル)、y’は視差画像中の中心Y座標である。視差画像中の全ての対象物について、上記した(1)式〜(3)式の計算は行われる。
ここで、フォークリフト10の前後方向に延びる軸を第1の軸としてのY軸、鉛直方向に延びる軸を第2の軸としてのZ軸、Y軸及びZ軸に直交する軸を第3の軸としてのX軸とする3軸直交座標系(ワールド座標系)での座標を実空間上での座標(ワールド座標)とする。実空間上での対象物の位置は、実空間上におけるX座標Xw、Y座標Yw、Z座標Zwで表わすことができる。
各カメラ32,33,42,43の光軸が水平(鉛直方向と直交)となるように撮像装置31,41が設置されている場合、Xc=Xw、Yc=Zw、Zc=Ywとなる。即ち、カメラ座標系における対象物の位置が実空間上での対象物の位置となる。
一方で、各カメラ32,33、42,43の光軸が水平(鉛直方向と直交)ではない場合、画像処理装置50は、以下の(4)式を用いて座標変換(ワールド座標変換)を行う。
ここで、Hはワールド座標系における撮像装置31,41の取り付け高さであり、θはカメラ32,33、42,43の光軸と、水平面とがなす角+90°の角度である。本実施形態において、画像処理装置50は、算出手段として機能する。
次に、画像処理装置50は、進行方向に障害物があるか否かの判定を行う(ステップS12)。なお、進行方向は、例えば、車速センサ24によって検出される走行用モータM1の回転方向、及び、ハンドル角センサ26によって検出される角度から把握することができる。障害物の有無の判定は、ワールド座標系に対象物をプロットすることで行われる。
一例として、図5に示すように、フォークリフト10が後進している場合で、フォークリフト10の後方にマスト15に衝突する高さの障害物(シャッター)Bが存在している場合の障害物検知について説明する。
図6に示すように、フォークリフト10の後方の領域について、ワールド座標系に対象物の位置をプロットする。ワールド座標系にプロットされた対象物の位置を特徴点Pとする。特徴点Pとは、ワールド座標系において、視差(対象物の位置)を得られた座標といえる。なお、図6では、障害物の下端を対象物としてプロットしている。
画像処理装置50は、対象物のうちフォークリフト10に衝突するおそれのあるものを障害物と判断する。なお、障害物か否かの判定は、対象物のZ座標Zwから判定することができる。画像処理装置50は、フォークリフト10の高さ(例えば、インナマスト17の最高到達点)と、対象物の高さとを比較することで、対象物が障害物か否かを判定する。
図3に示すように、ステップS12の判定結果が肯定の場合、画像処理装置50はステップS13の処理を行う。一方で、ステップS12の判定結果が否定の場合、画像処理装置50はステップS14の処理を行う。まず、ステップS12の判定結果が肯定の場合について説明する。
画像処理装置50は、障害物をクラスタ化し、クラスタ化した障害物の位置情報(座標)を保存(記憶)する(ステップS13)。クラスタ化とは、障害物となる対象物をプロットした複数の特徴点Pの集合体を1つの障害物Bとみなすことである。例えば、図6のように、X軸上に密集する特徴点Pは、1つの障害物Bとして扱う。障害物Bの位置情報(ワールド座標)は、RAMや、EEPROMなどの書き換え可能なメモリに一時的に保存(記憶)される。なお、障害物Bの位置情報は、クラスタ化された障害物Bの座標に基づいて定められる。例えば、クラスタ化された複数の特徴点Pのうちから任意の特徴点Pの座標を障害物Bの位置情報としてもよいし、クラスタ化された障害物Bの中心座標を位置情報としてもよい。画像処理装置50は、記憶手段として機能している。
図3に示すように、画像処理装置50は、相対位置算出処理を行う(ステップS20)。
図4に示すように、相対位置算出処理において、画像処理装置50は、フォークリフト10と、障害物Bとの相対位置を算出する(ステップS21)。相対位置は、障害物BのY座標Ywから算出することができる。画像処理装置50は、算出した相対位置をメインコントローラ20に出力する。
メインコントローラ20は、フォークリフト10と障害物Bとの相対距離が所定値以下か否かを判定する(ステップS22)。所定値とは、例えば、フォークリフト10の最高速度や、制動性能などに基づき定められる値である。
ステップS22の判定結果が否定の場合、メインコントローラ20は処理を終了する。ステップS22の判定結果が肯定の場合、メインコントローラ20は減速処理を行う(ステップS23)。減速処理としては、フォークリフト10を停止させる処理、フォークリフト10の速度を現在速度から段階的に低下させる処理、フォークリフト10の速度に制限を課し、制限速度を上回る速度での走行を規制する処理など、様々な処理が挙げられる。
次に、ステップS12において、障害物Bが検知されなかった場合の処理について説明する。
図3に示すように、ステップS12の判定結果が否定の場合、画像処理装置50はステップS14の処理を行う。画像処理装置50は、1周期前の処理で、障害物Bが検知されていたか否かを判定する(ステップS14)。
図7、及び、図8に示すように、図5の状態からフォークリフト10が障害物Bに近付くと、後方撮像装置41の垂直画角θ2から障害物Bが外れる。すると、後方撮像装置41によって障害物Bが撮像されなくなる。後方撮像装置41によって障害物Bが撮像されなくなると、障害物Bが撮像されていたときにプロットされていた特徴点Pはプロットされなくなる。即ち、一度検知した障害物Bが検知されなくなる(検知ロストする)。ステップS14の判定結果が肯定の場合、フォークリフト10が移動したことで、障害物Bが撮像装置31,41の垂直画角θ1,θ2から外れたと判断できる。
図3に示すように、ステップS14の判定結果が肯定の場合、画像処理装置50は、ステップS15の処理を行う。画像処理装置50は、位置推定フラグをオンにする(ステップS15)。次に、画像処理装置50は、相対位置算出処理を行う(ステップS20)。この際の相対位置算出処理では、ステップS21における相対位置の算出の際に、ステップS13で記憶された位置情報、フォークリフト10の進行方向、及び、フォークリフト10の速度に基づいて相対位置が算出される。フォークリフト10の進行方向は、走行用モータM1の回転方向及びハンドル角から把握できる。フォークリフト10の進行方向と、速度とを把握できると、障害物Bを最後に検知した位置からフォークリフト10が移動した方向と、移動した距離とを把握できる。このため、ステップS13で記憶された障害物Bの位置にフォークリフト10の移動した方向と移動した距離とを加味した上で、障害物Bとフォークリフト10との相対位置を算出することができる。なお、1回の制御周期の間にフォークリフト10が進む距離が僅かであることを考慮すれば、フォークリフト10と障害物Bとの相対位置は、1回前の制御周期で算出されたものと同一とみなしてもよい。なお、以下の説明において、フォークリフト10の進行方向と、フォークリフト10の速度とを車両情報として説明を行う。
ステップS14の判定結果が否定の場合、画像処理装置50は、ステップS16の処理を行う。画像処理装置50は、位置推定フラグがオンか否かを判定する(ステップS16)。ステップS16の判定結果が肯定の場合、一度検出された障害物Bが、フォークリフト10が移動したことで検出されなくなったと判断できる。一方で、ステップS16の判定結果が否定の場合、障害物Bの検出が行われていないと判断できる。画像処理装置50は、ステップS16の判定結果が否定の場合、フォークリフト10が衝突する障害物Bは存在しないと判断し、処理を終了する。画像処理装置50は、ステップS16の判定結果が肯定の場合、ステップS17の処理を行う。
画像処理装置50は、障害物Bの位置推定を行う(ステップS17)。画像処理装置50は、ステップS13で記憶された障害物Bの位置情報、及び、車両情報から障害物Bの位置を推定する。
画像処理装置50は、車両情報から、障害物Bを最後に検出した制御周期から、今回の制御周期までに、フォークリフト10が移動した方向と、移動した距離を算出する。フォークリフト10が移動すると、障害物Bの位置(ワールド座標)も変化する。画像処理装置50は、ステップS13で記憶された位置情報に車両情報によって得られたフォークリフト10の移動方向と、移動した距離とを加味して、障害物Bの現在の位置(ワールド座標)を推定する。これにより、撮像装置31,41によって障害物Bが撮像されなくなっていても、障害物Bの位置が推定される。画像処理装置50は、推定手段として機能する。
次に、画像処理装置50は、相対位置算出処理を行う(ステップS20)。この際の相対位置算出処理では、ステップS21における相対位置の算出の際に、ステップS17で推定された障害物Bの位置から、フォークリフト10と障害物Bとの相対位置が算出される。
なお、本実施形態において、位置推定フラグは、検出された障害物Bをフォークリフト10が通過したと推定されたとき、減速処理が行われたとき、ステップS12の判定結果が肯定となったときなどにオフされる。
したがって、上記実施形態によれば以下の効果を得ることができる。
(1)画像処理装置50は、フォークリフト10の移動に伴い、障害物Bが撮像装置31,41によって撮像されなくなった場合、障害物Bの位置を推定する。このため、障害物Bが撮像装置31,41によって撮像されなくなった場合であっても、フォークリフト10と障害物Bとの相対位置を把握できる。したがって、フォークリフト10と障害物Bとの位置関係が把握不能になることが抑止される。
(2)画像処理装置50は、車両情報から、障害物Bを最後に検知した位置からフォークリフト10が移動した方向と、移動した距離とを把握できる。これを利用することで、画像処理装置50は、障害物Bの位置を推定することができる。
(3)撮像装置31,41は、垂直画角θ1,θ2の範囲に写る障害物Bを撮像する。このため、超音波や、レーザなどで距離を計測する距離計によって障害物までの距離を検出し、これにより障害物を検知する場合に比べて、障害物を検知できる範囲が広い。
また、距離計によって障害物を検知する場合、超音波やレーザを障害物に照射するため、フォークリフト10の上部に距離計を配置する必要がある。これに対し、撮像装置31,41により障害物を検知する場合、障害物を検知できる範囲が広いため、フォークリフト10の上部以外に撮像装置31,41を配置できる。即ち、配置上の制約が少ない。
(第2実施形態)
以下、安全装置の第2実施形態について説明する。なお、第2実施形態の安全装置は、障害物の検知に関する処理が第1実施形態とは異なる。以下の説明において、第1実施形態と同様な記載については、同一符号を付すことで説明を省略、あるいは、簡略する。
図9に示すように、画像処理装置50は、第1実施形態と同様に、視差を算出し(ステップS10)、視差を用いて対象物の位置を算出する(ステップS11)。次に、画像処理装置50は、マスト15(インナマスト17)の高さを取得する(ステップS31)。マスト15の高さは、揚高センサ25の検出結果を取得することで、把握できる。なお、揚高センサ25の検出結果は、揚高センサ25から取得するようにしてもよいし、メインコントローラ20を介して取得するようにしてもよい。
次に、画像処理装置50は、進行方向に障害物Bがあるか否かを判定し(ステップS12)、障害物Bがある場合には、クラスタ化・保存を行う(ステップS13)。
次に、画像処理装置50は、障害物Bの移動推定を行う(ステップS40)。障害物Bの移動推定は、障害物Bが移動(上下動)しているか否かを判定し、障害物Bが移動している場合には移動速度を算出する処理である。フォークリフト10などの接近を検知して、自動で開閉するシャッターなど、障害物Bによっては、上下方向の位置が変動するものがある。この場合、障害物Bの上下方向の位置によって、フォークリフト10に衝突するか否かが異なるため、障害物Bが移動しているか否かを判定する。
図10に示すように、障害物Bの移動推定において、画像処理装置50は、障害物Bが動いているか否かを判定する(ステップS41)。なお、障害物Bの移動推定において判定される動きは、上下方向の動きの有無であり、水平方向の動きの有無は判定されない。ステップS41の判定結果が否定の場合、画像処理装置50は障害物Bの移動推定の処理を終了する。
ステップS41の判定結果が肯定の場合、画像処理装置50は、障害物Bの移動速度と、障害物Bの移動方向(上又は下)とを算出する(ステップS42)。障害物Bが移動しているか否かの判定、障害物Bの移動方向及び移動速度の算出は、所謂オプティカルフローによって行われる。
図9に示すように、障害物Bの移動推定が終了すると、画像処理装置50は、相対位置算出処理を行う(ステップS20)。相対位置算出処理は、第1実施形態と同様の処理である。
ステップS12の判定結果が否定の場合、画像処理装置50は、1周期前の処理で、障害物Bが検知されていたか否かを判定する(ステップS14)。ステップS14の判定結果が否定の場合、画像処理装置50は、位置推定フラグがオンか否かを判定する(ステップS16)。ステップS16の判定結果が肯定の場合、画像処理装置50はステップS32の処理を行う。
ステップS32において、画像処理装置50は、障害物Bの高さを推定する。障害物Bの高さは、ステップS40で算出された移動速度から推定できる。画像処理装置50は、障害物Bが検知されなくなってから経過した時間と、ステップS40算出された移動速度及び移動方向から、障害物Bが撮像されなくなってからの障害物Bの移動量を算出する。この移動量をステップS13にて記憶された障害物Bの高さに加えることで、障害物Bの高さを推定することができる。なお、ステップS41の判定結果が否定だった場合、即ち、障害物Bが移動していないと判定されていた場合、障害物Bの高さは、ステップS13にて記憶された高さと同一と推定される。
次に、画像処理装置50は、障害物Bの位置を推定する(ステップS17)。次に、画像処理装置50は、ステップS32で推定された障害物Bの高さが、マスト15の高さ以下か否かを判定する(ステップS34)。
ステップS34の判定結果が否定の場合、障害物Bが上昇することで、障害物Bがマスト15に衝突しなくなったと判断できる。一方で、ステップS34の判定結果が肯定の場合、障害物Bとマスト15とが衝突すると判断できる。画像処理装置50は、ステップS34の判定結果が否定の場合、位置推定フラグをオフにし(ステップS35)、処理を終了する。一方で、ステップS34の判定結果が肯定の場合、画像処理装置50は、相対位置算出処理(ステップS20)を行う。画像処理装置50は、衝突判定手段として機能している。
したがって、上記実施形態によれば、第1実施形態の各効果に加えて、以下の効果を得ることができる。
(2−1)障害物Bが上下方向に移動するか否かを判定し、移動する場合には移動速度を検出している。障害物Bが撮像装置31,41によって撮像されなくなった場合には、障害物Bの移動速度から障害物Bの高さを推定できる。
障害物Bが上下方向に移動する動体の場合、撮像装置31,41によって撮像されている間はフォークリフト10に衝突しない位置にあった下降途中の障害物Bが、撮像装置31,41によって撮像されなくなった後に、フォークリフト10に衝突する位置まで下降している場合がある。この場合、障害物Bの位置を推定したにも関わらず、フォークリフト10と障害物Bとが衝突するおそれがある。更に、撮像装置31,41によって撮像されている間はフォークリフト10に衝突する位置にあった上昇途中の障害物Bが、撮像装置31,41によって撮像されなくなった後に、フォークリフト10に衝突しない位置まで上昇している場合がある。この場合、フォークリフト10が障害物Bに衝突しないにも関わらず減速処理が行われ、作業効率が低下する場合がある。
これに対して、障害物Bの移動速度を加味して障害物Bの高さを推定することで、フォークリフト10と障害物Bが衝突することを抑制でき、障害物Bと衝突しないにも関わらず減速処理が行われることも抑制できる。
なお、実施形態は以下のように変更してもよい。
○図11に示すように、画像処理装置50は、基準物Nと障害物Bとの相関関係から障害物Bの位置を推定してもよい。基準物Nは、撮像装置31,41によって障害物Bが撮像されているときに障害物Bとともに撮像されており、かつ、フォークリフト10の移動に伴い障害物Bが撮像されなくなった場合にも撮像されているものである。基準物Nは、白線や標識などの移動しないもの、即ち、障害物Bとの位置関係が変化しないものが好ましい。
画像処理装置50は、障害物B及び基準物Nが撮像されているときに、両者の位置を算出する。そして、障害物Bの位置と、基準物Nの位置とを対応付ける。撮像装置31,41によって障害物Bが撮像されなくなった場合も、画像処理装置50は、基準物Nの位置(フォークリフト10との相対位置)を算出し続ける。また、画像処理装置50は、基準物Nの位置と、障害物Bとの位置関係から障害物Bの位置を推定する。障害物Bが撮像されなくなった場合であっても、フォークリフト10と基準物Nとの相対位置の変化を監視し続けることで、障害物Bの位置を推定することができる。
なお、基準物Nによる障害物Bの位置推定と、車両情報による障害物Bの位置推定とを組み合わせて障害物Bの位置を推定してもよい。例えば、基準物Nによる障害物Bの位置推定と、車両情報による位置推定の両方を行い、両者の一致性などを確認してもよい。
○各実施形態において、フォークリフト10と障害物Bとの相対距離が所定値以下となった場合、メインコントローラ20は、その旨を表示部に表示したり、ブザー音を鳴らすことで報知を行ってもよい。
○各実施形態において、撮像装置31,41として、3つ以上のカメラを備えるものを用いてもよい。
○各実施形態において、移動体としては、乗用車、建設機械、自動搬送車、トラックなどの車両や、二足歩行式のロボットであってもよい。なお、移動体としては、屋内を移動するものであることが好ましい。
○各実施形態において、前方撮像装置31と、後方撮像装置41とは同一構成でなくてもよい。
○各実施形態において、フォークリフト10の進行方向は、車速センサ24の検出結果、及び、操舵輪14の操舵角などから判定されてもよい。
○各実施形態において、撮像装置31,41によって撮像された画像の画像処理を行う装置として、画像処理装置50を設けたが、画像処理をメインコントローラ20などに行わせてもよい。即ち、走行動作や荷役動作に関する制御を行いメインコントローラ20の1つの機能として画像処理が行われるようにしてもよい。
○各実施形態において、画像処理装置50が算出手段、記憶手段、推定手段、及び、衝突判定手段として機能するようにしたが、それぞれの手段として機能する個別の装置を設けてもよい。
○各実施形態において、走行駆動装置として、エンジンが用いられてもよい。すなわち、フォークリフト10は、エンジンの駆動によって走行してもよい。この場合、走行制御装置は、エンジンへの燃料噴射量などを制御する装置となる。
○各実施形態において、前進のみしか行えない移動体の場合、後方撮像装置41を設けなくてもよい。
○各実施形態において、搭乗者が搭乗可能な移動体に安全装置30が搭載される場合、搭乗者による視認が行われにくい後方の障害物のみを検出してもよい。この場合、前方撮像装置31を設けなくてもよい。
○各実施形態において、前方撮像装置31は、フォークリフト10の前方を撮像できれば、どのような位置に配置されていてもよい。後方撮像装置41は、フォークリフト10の後方を撮像できれば、どのような位置に配置されていてもよい。例えば、前方撮像装置31は、マスト15に配置されていてもよいし、後方撮像装置41は、車体11の後方に設けられるカウンタウェイトに配置されていてもよい。前方撮像装置31がマスト15に配置される場合、マスト15が最も前傾した状態で、前方撮像装置31の垂直画角θ1の上側が水平面よりも上側となるようにする。
○各実施形態において、座標変換は、(4)式に代えて、テーブルデータによって行われてもよい。テーブルデータは、Y座標YcとZ座標Zcの組み合わせにY座標Ywを対応させたテーブルデータと、Y座標YcとZ座標Zcとの組み合わせにZ座標Zwを対応させたテーブルデータである。これらのテーブルデータを画像処理装置50のROMなどに記憶しておくことで、カメラ座標系におけるY座標YcとZ座標Zcから、ワールド座標系におけるY座標Yw及びZ座標Zwを求めることができる。なお、実施形態では、カメラ座標系におけるX座標Xcと、ワールド座標系におけるX座標Xwとは一致するため、X座標Xwを求めるためのテーブルデータは記憶されない。
N…基準物、θ1,θ2…垂直画角、10…フォークリフト(移動体)、30…安全装置、31,41…撮像装置(ステレオカメラ)、50…画像処理装置(算出手段、記憶手段、推定手段、及び、衝突判定手段)。

Claims (4)

  1. 移動体に搭載される安全装置であって、
    垂直画角の最も上側が水平面よりも上となるように配置されたステレオカメラと、
    前記ステレオカメラによって撮像された画像から、障害物の位置を算出する算出手段と、
    前記障害物の位置情報を記憶する記憶手段と、
    前記移動体の移動に伴い、前記障害物が前記ステレオカメラによって撮像されなくなった場合、前記記憶手段によって記憶された前記位置情報に基づき、前記障害物の位置を推定する推定手段と、を備える安全装置。
  2. 前記推定手段は、前記移動体の速度、及び、前記移動体の進行方向から前記障害物の位置を推定する請求項1に記載の安全装置。
  3. 前記推定手段は、前記障害物が前記ステレオカメラによって撮像されているときに前記障害物とともに撮像されており、かつ、前記移動体の移動に伴い前記障害物が撮像されなくなった場合にも撮像されているものを基準物とし、
    前記移動体の移動に伴う前記基準物と前記移動体との相対位置の変化から前記障害物の位置を推定する請求項1又は請求項2に記載の安全装置。
  4. 前記障害物の上下方向への移動速度を検出し、前記移動速度で前記障害物が移動し続けた場合に前記障害物と前記移動体とが衝突するか否かを判定する衝突判定手段を備える請求項1〜請求項3のうちいずれか一項に記載の安全装置。
JP2017220194A 2017-11-15 2017-11-15 安全装置 Active JP6844508B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017220194A JP6844508B2 (ja) 2017-11-15 2017-11-15 安全装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017220194A JP6844508B2 (ja) 2017-11-15 2017-11-15 安全装置

Publications (2)

Publication Number Publication Date
JP2019089636A true JP2019089636A (ja) 2019-06-13
JP6844508B2 JP6844508B2 (ja) 2021-03-17

Family

ID=66835861

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017220194A Active JP6844508B2 (ja) 2017-11-15 2017-11-15 安全装置

Country Status (1)

Country Link
JP (1) JP6844508B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022038581A (ja) * 2020-08-27 2022-03-10 株式会社豊田自動織機 産業車両
US11420855B2 (en) 2019-10-04 2022-08-23 Kabushiki Kaisha Toyota Jidoshokki Object detection device, vehicle, and object detection process
EP4177694A4 (en) * 2020-07-02 2023-12-20 Kabushiki Kaisha Toyota Jidoshokki OBSTACLE DETECTION DEVICE AND OBSTACLE DETECTION METHOD

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0990026A (ja) * 1995-09-27 1997-04-04 Honda Motor Co Ltd 物体検出装置およびその方法
JPH10283462A (ja) * 1997-04-04 1998-10-23 Fuji Heavy Ind Ltd 車外監視装置
JP2004091118A (ja) * 2002-08-30 2004-03-25 Nippon Yusoki Co Ltd フォークリフト
JP2004171165A (ja) * 2002-11-19 2004-06-17 Honda Motor Co Ltd 移動装置
JP2006279752A (ja) * 2005-03-30 2006-10-12 Denso Corp 車両直下画像表示制御装置および車両直下画像表示制御プログラム
JP2008021269A (ja) * 2006-07-14 2008-01-31 Denso It Laboratory Inc 衝突危険度判定装置、衝突危険度判定方法及び歩行者識別方法
JP2008276731A (ja) * 2007-04-06 2008-11-13 Honda Motor Co Ltd 自律移動体の経路設定装置
JP2013114610A (ja) * 2011-11-30 2013-06-10 Sharp Corp 画像処理装置、運転支援装置、画像処理方法及び画像処理プログラム
US20150120125A1 (en) * 2013-10-31 2015-04-30 Crown Equipment Limited Systems, methods, and industrial vehicles for determining the visibility of features

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0990026A (ja) * 1995-09-27 1997-04-04 Honda Motor Co Ltd 物体検出装置およびその方法
JPH10283462A (ja) * 1997-04-04 1998-10-23 Fuji Heavy Ind Ltd 車外監視装置
JP2004091118A (ja) * 2002-08-30 2004-03-25 Nippon Yusoki Co Ltd フォークリフト
JP2004171165A (ja) * 2002-11-19 2004-06-17 Honda Motor Co Ltd 移動装置
JP2006279752A (ja) * 2005-03-30 2006-10-12 Denso Corp 車両直下画像表示制御装置および車両直下画像表示制御プログラム
JP2008021269A (ja) * 2006-07-14 2008-01-31 Denso It Laboratory Inc 衝突危険度判定装置、衝突危険度判定方法及び歩行者識別方法
JP2008276731A (ja) * 2007-04-06 2008-11-13 Honda Motor Co Ltd 自律移動体の経路設定装置
JP2013114610A (ja) * 2011-11-30 2013-06-10 Sharp Corp 画像処理装置、運転支援装置、画像処理方法及び画像処理プログラム
US20150120125A1 (en) * 2013-10-31 2015-04-30 Crown Equipment Limited Systems, methods, and industrial vehicles for determining the visibility of features

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11420855B2 (en) 2019-10-04 2022-08-23 Kabushiki Kaisha Toyota Jidoshokki Object detection device, vehicle, and object detection process
EP4177694A4 (en) * 2020-07-02 2023-12-20 Kabushiki Kaisha Toyota Jidoshokki OBSTACLE DETECTION DEVICE AND OBSTACLE DETECTION METHOD
JP2022038581A (ja) * 2020-08-27 2022-03-10 株式会社豊田自動織機 産業車両
JP7420014B2 (ja) 2020-08-27 2024-01-23 株式会社豊田自動織機 産業車両

Also Published As

Publication number Publication date
JP6844508B2 (ja) 2021-03-17

Similar Documents

Publication Publication Date Title
JP5389002B2 (ja) 走行環境認識装置
KR101137817B1 (ko) 주차 지원장치
CN109131067B (zh) 三角架自走车及其避障方法
JP6342705B2 (ja) 作業機用ブーム衝突回避装置
JP6800166B2 (ja) 車両が走行できる空間を割り出すための装置、それに基づいた走行、並びに、車両
US11046307B2 (en) Parking control method and parking control device
JP6844508B2 (ja) 安全装置
KR20130069912A (ko) 건설기계의 작업 가이드 정보 표시 장치 및 방법
JP2018090108A (ja) 駐車支援装置及び駐車支援方法
JP2021187248A (ja) 駐車支援装置、及び駐車支援装置の制御方法
JP2010076660A (ja) 車両用ミラー角調整装置
KR20170015106A (ko) 자동 주행 차량
US20200344448A1 (en) Image processing device and image processing method
JP6450530B2 (ja) 車載カメラの取付角度調整処理、取付角度検出装置
US10902632B2 (en) Position detection apparatus and position detection method
JP6044084B2 (ja) 移動物体位置姿勢推定装置及び方法
JP7009945B2 (ja) 画像処理装置及び車両
JP6943004B2 (ja) 産業車両
JP7020290B2 (ja) 自律移動体
CN116100547A (zh) 车道机器人系统及其控制方法
JP2017037398A (ja) 自動走行車両
JP7396227B2 (ja) フォークリフトの通知装置
JP4768499B2 (ja) 車載周辺他車検出装置
KR20230015429A (ko) 장해물 검출 장치 및 장해물 검출 방법
JP2021189575A (ja) 駐車支援装置、及び駐車支援装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210208

R151 Written notification of patent or utility model registration

Ref document number: 6844508

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151