WO2014189009A1 - カメラ姿勢検出装置と作業領域線表示装置 - Google Patents
カメラ姿勢検出装置と作業領域線表示装置 Download PDFInfo
- Publication number
- WO2014189009A1 WO2014189009A1 PCT/JP2014/063229 JP2014063229W WO2014189009A1 WO 2014189009 A1 WO2014189009 A1 WO 2014189009A1 JP 2014063229 W JP2014063229 W JP 2014063229W WO 2014189009 A1 WO2014189009 A1 WO 2014189009A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- hook
- camera
- work area
- image
- monitor
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66C—CRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
- B66C13/00—Other constructional features or details
- B66C13/16—Applications of indicating, registering, or weighing devices
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66C—CRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
- B66C13/00—Other constructional features or details
- B66C13/18—Control systems or devices
- B66C13/46—Position indicators for suspended loads or for crane elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0412—Digitisers structurally integrated in a display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1407—General aspects irrespective of display type, e.g. determination of decimal point position, display with fixed or driving decimal point, suppression of non-significant zeros
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
Abstract
ブームの先端部の監視カメラ(32)と、ブームの先端部から吊るされたフックを撮像した画像を表示するモニタ(70)とを備え、モニタ(70)に表示されている画面上のフック画像位置情報と、実空間におけるフック位置情報とに基づいてカメラの姿勢角を求める姿勢角演算装置(68)を設け、姿勢角演算装置(68)は、実際に表示されているモニタ(70)の画面上のフック位置を求めるフック位置演算部(63)と、フック位置演算部(63)が求めたフック位置と、カメラが真下に向けられたと仮定した場合にそのモニタ(70)に表示される画面上のフックの基準フック位置との差を求めるずれ量演算部(64)と、その差と監視カメラ(32)の光軸中心位置からフックまでの高さ方向の距離とに基づいて監視カメラ(32)の傾斜角を求めるカメラ傾斜角演算部(65)とを有する。
Description
この発明は、傾斜角検出センサを使用せずにカメラの姿勢角を求めるカメラ姿勢検出装置と作業領域線表示装置とに関する。
従来から、ブームの先端部にカメラを設けた吊荷位置検出装置が知られている(特許文献1参照)。
係る吊荷位置検出装置は、ブームの先端部にカメラを設け、このカメラで吊りロープとフックを上方から撮影し、画像処理により、撮影した画像における複数の走査線上の色分布によって、この走査線ごとに吊りロープの色が存在するロープ点を求め、この各ロープ点を直線で結び、この吊りロープに対応する複数の直線の交点を吊荷位置として求めるものである。
ところで、この吊荷位置検出装置では、カメラの傾斜角を検出する傾斜角検出センサを設けていないので、カメラを傾斜させた場合、吊荷の正しい位置を求めることができなくなってしまい、その傾斜角検出センサを設けると高価なものになってしまう問題がある。
この発明の目的は、傾斜角検出センサを設けなくても、カメラの姿勢角を検出することのできるカメラ姿勢検出装置と、このカメラ姿勢検出装置を用いた作業領域線表示装置とを提供することにある。
請求項1の発明は、作業機のブームの先端部に設けられたカメラと、ブームの先端部から吊るされたフックを前記カメラで撮像した画像を表示するモニタとを備えたカメラ姿勢検出装置であって、
前記モニタに表示されている画面上のフック画像位置情報と、実空間における前記フック位置情報とに基づいてカメラの姿勢角を求める姿勢角演算手段を設けたことを特徴とする。
前記モニタに表示されている画面上のフック画像位置情報と、実空間における前記フック位置情報とに基づいてカメラの姿勢角を求める姿勢角演算手段を設けたことを特徴とする。
この発明によれば、傾斜角検出センサを設けなくても、カメラの姿勢角を検出することができる。
以下、この発明に係るカメラ姿勢検出装置と作業領域線表示装置の実施の形態である実施例を図面に基づいて説明する。
[第1実施例]
図1にカメラ姿勢検出装置を備える作業領域線表示装置を搭載した作業機であるクレーン(作業車)としてラフテレーンクレーン10を示す。このラフテレーンクレーン10(以下クレーンとして記載する)は、走行機能を有する車両の本体部分となるキャリア11と、このキャリア11の前側に設けられた左右一対の前側アウトリガ12と、キャリア11の後側に設けられた左右一対の後側アウトリガ13と、キャリア11の上部に水平旋回可能に取り付けられた旋回台14と、旋回台14に設けたキャビン20と、旋回台14に固定されたブラケット15に取り付けられた伸縮ブーム16等とを備えている。
伸縮ブーム16は、その基端部が支持軸17を介して取り付けられており、支持軸17を中心に起伏可能となっている。ブラケット15と伸縮ブーム16との間には起伏用シリンダ18が介装され、この起伏用シリンダ18の伸縮により伸縮ブーム16が起伏される。
伸縮ブーム16は、ベースブーム16Aと中間ブーム16Bと先端ブーム16Cとを有し、この順序でベースブーム16A内に外側から内側に入れ子式に組み合わされて構成されている。また、伸縮ブーム16は伸縮シリンダ(図示せず)によって伸縮するようになっている。
先端ブーム16Cの先端部にはシーブ23(図5参照)が設けられており、このシーブ23にワイヤロープ25(以下ワイヤと表記する)が掛けられ、このワイヤ25によってフックブロック19が吊されている。フックブロック19にはフック21が取り付けられている。
ワイヤ25は、図示しないウインチによって巻き取られたり、送り出されたりする。
先端ブーム16Cの先端部には、カメラユニット30が取り付けられている。
カメラユニット30は、自重によって常に下方に向くようにダンパを介して先端ブーム16Cの先端部に取り付けられた筺体31と、この筺体31内にパン方向及びチルト方向に傾斜可能に設けられたTVカメラなどである監視カメラ(カメラ)32と、監視カメラ32をパン方向に傾動させるパンモータ33(図2参照)と、監視カメラ32をチルト方向に傾動させるチルトモータ34などとを有している。
なお、カメラユニット30は、自重によって下方に向く様に構成されているが、ダンパの抵抗や可動部の摩擦抵抗等により、光軸が正しく常に真下に向くことはない。また、この実施例においては、必ずしもパンモータ33,チルトモータ34やズーム機能等は必要ではない。
なお、カメラユニット30は、自重によって下方に向く様に構成されているが、ダンパの抵抗や可動部の摩擦抵抗等により、光軸が正しく常に真下に向くことはない。また、この実施例においては、必ずしもパンモータ33,チルトモータ34やズーム機能等は必要ではない。
監視カメラ32の傾斜(向き)の調整は、キャビン20内に設けた操作部(図示せず)のパンスイッチ(姿勢操作手段)SW1(図2参照)とチルトスイッチSW2(姿勢操作手段)の操作によって行われる。また、監視カメラ32はズームスイッチSW3の操作によってズームを行うようになっている。
[作業領域線表示装置]
[作業領域線表示装置]
図2は、作業領域線表示装置120の構成を示すブロック図である。
作業領域線表示装置120は、コントローラ60の作業領域演算部66とカメラ姿勢検出装置100とを備えている。
[カメラ姿勢検出装置]
[カメラ姿勢検出装置]
カメラ姿勢検出装置100は、伸縮ブーム16の先端部に設けられたカメラユニット30と、伸縮ブーム16の姿勢を検出するブーム姿勢検出センサ50と、ブーム姿勢検出センサ50が検出した検出信号などに基づいて監視カメラ32の姿勢角や作業領域線を求めたりするコントローラ60(作業領域演算部66を除く)と、監視カメラ32で撮像した画像などを表示するモニタ70と、モニタ70の画面(図示せず)に貼られたタッチパネル71とを備えている。
ブーム姿勢検出センサ50は、フック21の繰り出し量や伸縮ブーム16の長さや起伏角や伸縮ブーム16の旋回角などを検出するものであり、それぞれを検出する各センサ(図示せず)を有し、実空間におけるフック位置情報を出力するものである。
[コントローラ]
[コントローラ]
コントローラ60は、図2に示すように、パンスイッチSW1やチルトスイッチSW2の操作に基づいてパンモータ33やチルトモータ34を駆動制御するモータ制御部61と、視点変換演算部(基準フック位置演算手段)62と、作業領域演算部66と、画像合成部67と、姿勢角演算装置68とを有している。
姿勢角演算装置68は、フック位置演算部63と、ずれ量演算部64と、カメラ傾斜角演算部(カメラ姿勢角演算手段)65とを有している。
[視点変換演算部]
[視点変換演算部]
視点変換演算部62は、先ず伸縮ブーム16の先端部の傾斜角とフック21の繰り出し量とに基づいて、ブーム先端部(図6に示すシーブ23の中心)を原点としたX,Y,Z座標系のフック21の位置を求める。
さらに、視点変換演算部62は、実空間におけるフック21の位置(X,Y,Z座標系の位置)を、監視カメラ32を真下に向けていると仮定して、監視カメラ32の光学中心位置と撮像面の中心位置とを一致させた点を原点としたx3,y3,z3座標系(図6参照)の位置に変換するとともに、x3,y3,z3座標系のフック21の位置をモニタ70の画面の座標系(スクリーン座標系)の位置に変換して、モニタ70の画面上の基準位置(基準フック位置)として求める。
すなわち、監視カメラ32を真下に向けていると仮定した場合、モニタ70の画面に表示されるフック21の位置である基準位置をその画面上の座標位置として求めるものである。
また、視点変換演算部62は、ブーム姿勢検出センサ50が検出する検出信号に基づいて監視カメラ32の光学中心位置からフック21までの高さ方向の高さ(フック位置情報)を求める高さ検出手段の機能を有している。
[フック位置演算部]
[フック位置演算部]
フック位置演算部63は、モニタ70の画面に表示されているフック画像上のタッチパネル71がタッチされることにより、任意の向きに向いている監視カメラ32で撮像した画像におけるスクリーン座標系上(モニタ70の画面上)のフック位置を算出する。
[ずれ量演算部]
[ずれ量演算部]
ずれ量演算部64は、フック位置演算部63が算出したフック位置に基づいて視点変換演算部62が求めた基準位置に対するフック位置のずれ量、すなわち、基準位置とフック位置との差(フック画像位置情報)であるずれ量を求める。
[カメラ傾斜角演算部]
[カメラ傾斜角演算部]
カメラ傾斜角演算部65は、ずれ量演算部64が求めたずれ量と、視点変換演算部62が求めた監視カメラ32の光学中心位置Q1(図5参照)からフック21までの高さh1とに基づいて監視カメラ32の傾斜角(垂直線に対する傾き)を求める。すなわち、カメラ傾斜角演算部65は、フック画像位置情報と実空間のフック位置情報とに基づいて監視カメラ32の姿勢角を求める。
[作業領域演算部]
[作業領域演算部]
作業領域演算部66は、吊荷の荷重に基づいて伸縮ブーム16の旋回中心を中心にした吊荷の移動可能な領域を示す作業領域線を求め、さらに、監視カメラ32の傾斜角に基づいてモニタ70の画像上における作業領域線の正しい位置を求める。
吊荷の荷重は、起伏用シリンダ18の圧力センサ(図示せず)によって検出されるシリンダ圧力と伸縮ブーム16の起伏角度及び伸縮ブーム16の長さとに基づいてコントローラ60の図示しない演算部が演算して求める。
ここで、監視カメラ32が傾斜している場合の画面上の作業領域線の位置の求め方を簡単に説明する。
図3に示すように、監視カメラ32の地上からの高さをhとし、監視カメラ32の真下の地上の位置をP1とし、伸縮ブーム16の旋回中心位置をOとし、この旋回中心位置Oを中心にした作業領域線をS1とする。旋回中心位置Oから作業領域線S1までの距離をSaとする。高さhは、ブーム16の長さと起伏角とにより求めることができる。
監視カメラ32が真下に向けられているとき、このときの監視カメラ32の光軸を32aとし、この光軸32aと地上の交点である位置P1は、モニタ70の画面の中心位置に表示される。
監視カメラ32が角度θだけ傾斜されている場合、このときの監視カメラ32の光軸32bと地上の交点である位置P2がモニタ70の画面の中心位置に表示されることになる。なお、監視カメラ32の回動中心位置と光学中心位置Q1(図5参照)とは一致されている。
位置P1と位置P2との間の距離をΔR1とすると、角度θが分かればΔR1はh・tanθで求めることができ、位置P2から位置P1を求めることができる。また、伸縮ブーム16の旋回中心位置Oからの伸縮ブーム16の作業半径をR1とすると、位置P1から旋回中心位置Oを求めることができる。なお、作業半径R1は伸縮ブーム16の長さと起伏角とから求める。
そして、旋回中心位置Oを中心にして、荷重に基づいた地上の作業領域線S1の位置を求めることができる。地上の位置P2はモニタ70の画面の中心位置であり、この位置P2は、旋回中心位置Oから作業半径R1+ΔR1の位置である。
また、位置P2から作領域線S1までの距離ΔR2は、ΔR2=Sa-(R1+ΔR1)として求める。
ここで、監視カメラ32が角度θだけ傾斜した場合のモニタ70の画像の中心位置が地上の位置P2を示しており、また、高さhが分かっているので、地上の座標位置と画像上の座標位置とを対応させることができる。すなわち、伸縮ブーム16の旋回中心位置Oを原点として、撮像された画像上の各位置にクレーン座標系の座標位置を対応させることができる。
これにより、地上の作業領域線S1の位置に対応したモニタ70の画像上の位置を求めることができる。
[画像合成部]
[画像合成部]
画像合成部67は、作業領域演算部66が求めた作業領域線S1の位置に対応した画像上の位置に、その作業領域線S1を合成してモニタ70の画面に表示する。
[動 作]
[動 作]
次に、上記のように構成されるカメラ姿勢検出装置100及び作業領域線表示装置120の動作について説明する。
いま、監視カメラ32によりフックブロック19が撮像されて、例えば、図4に示すようにモニタ70の画面70Gaにフックブロック像19Sが表示されているとする。なお、ここでは、フック21の位置とは、フックブロック19に設けてあるシーブ(図示せず)の軸19J(図1参照)の位置とし、また、説明の便宜上フックブロック像19Sを含めたフック画像を21Gと表記して説明する。監視カメラ32はチルト方向及びパン方向に傾斜しているとする。
オペレータは、その画面70Gaに表示されているフック画像21G上のタッチパネル71の部位をタッチする。フック位置演算部63は、そのタッチパネル71のタッチ位置であるフック位置Cを画像座標系(画面の左端の上端部を原点とする座標系)の位置として座標値Ch tltを算出する。この座標値C htltは、画像処理によって求めてもよい。
一方、視点変換演算部62は、監視カメラ32を真下に向けていると仮定した場合、この真下に向けた監視カメラ32で撮像した場合のフック21のモニタ70の画面上の位置(基準位置)Bを求める。
ここで、監視カメラ32を真下に向けていると仮定した場合の画面上のフック21の位置Bの求め方を簡単に説明する。
いま、例えば図5に示すように、伸縮ブーム16の先端部のシーブ23の軸23J(シーブ23の中心位置)からフック21までの距離をH1とし、監視カメラ32の光学中心位置Q1からフック21までの高さ方向の距離をh1とすると、h1=H1-W2である。距離H1は、フック21の繰出量から求まり、シーブ23と監視カメラ32の上下方向のオフセット量W2は、監視カメラ32の取付位置や伸縮ブーム16の起伏角などとによって求めることができる。
そして、光学中心位置Q1と点Q2,Q3を結んで形成される三角形Fの底辺F1と監視カメラ32の光軸32aとの交点をE1とする。なお、底辺F1はフック21の高さ位置を示す水平方向の線であり、光学中心位置Q1と点Q2とを結ぶ線F2と、光学中心位置Q1と点Q3とを結ぶ線F3との間の範囲が監視カメラ32の撮像範囲を示す。この撮像範囲は監視カメラ32が真下に向けられている場合の範囲である。また、底辺F1上の位置F1aをフック21の位置とする。
交点E1は、光軸32a上にあるのでモニタ70の画面70Gの中心位置G0となる。この交点E1からフック21までの距離をL1とすると、L1=W1であり、W1はシーブ23と監視カメラ32の水平方向のオフセット量である。このオフセット量W1は、監視カメラ32の取付位置や伸縮ブーム16の起伏角などによって求めることができる。また、高さh1は、フック21の繰出量と、シーブ23と監視カメラ32の垂直方向のオフセット量W2とから求めることができる。
これにより、監視カメラ32が真下に向けられていると仮定したときの、画面70G上のフック21の位置Aを求めることができる。なお、図5の70Gは監視カメラ32が真下を向いている場合のモニタ70の画面を示す。
監視カメラ32が角度θtilt傾斜している場合、この監視カメラ32が撮像した画像がモニタ70の画面を70Gaとし、フック21はこの画面70Gaの位置Aに実画像として映し出されることになる。なお、G1を画面70Gaの中心位置とする。
画面70Gの中心位置G0(光軸32aの交点E1)からL1だけ離れた位置Aがフック21の位置であるから、画面70Gaの中心位置G1からL1だけ離れた位置が監視カメラ32を真下に向けたと仮定した場合のフック21の位置(基準フック位置)Bとなる。すなわち、画面70G上の位置Aと画面70Ga上の位置Bとは画面上で同じ位置である。
この画面70Ga上の位置Bを視点変換演算部62が透視変換行列式などを用いて求める。
これを簡単に説明すると、視点変換演算部62は、距離H1,h1やオフセット量W1を基にして、図6に示すようにシーブ23の中心を原点とするX,Y,Z座標系におけるフックブロック19の位置P hを求める。さらに、視点変換演算部62は、監視カメラ32の光学中心位置Q1とその撮像面の中心を一致させ、この撮像面の中心を原点にした(x3,y3,z3)座標系の位置としてフックブロック19の位置C hを求め、この(x3,y3,z3)座標系のフックブロック19の位置C hを基にして、モニタ70の画面70Gaの画像座標系の位置Bとして求める。この位置Bの画面上の座標値をCh ver(図4参照)とする。
また、視点変換演算部62は、監視カメラ32が真下を向いていると仮定した場合、フックブロック19を上下動させたときの画面70Ga上のフックブロック19の移動軌跡Tを求める。この移動軌跡Tと位置Bとを監視カメラ32が撮像した画像上に画像合成部67が合成してモニタ70に表示させる。
ずれ量演算部64は、図4に示すように、フック位置演算部63が算出したフック画像の座標値C h tltと、視点変換演算部62が求めたフックブロック19の画面上の位置Bの座標値C h verとの差を求める。すなわち、ずれ量演算部64は、その差のx方向とy方向のずれ量Δx,Δyとして求める。
カメラ傾斜角演算部65は、ずれ量演算部64が求めたずれ量から下記の式に基づいて監視カメラ32の傾斜角を求める。
チルト角=tan-1(Δy/h1)…(1)
パン角=tan-1(Δx/h1)…(2)
ここで、監視カメラ32の傾斜角の求め方を図5に基づいて簡単に説明する。
真下に向けられている監視カメラ32がチルト方向に角度θtiltだけ傾斜したとする。角度θtiltだけ傾斜した監視カメラ32の光軸を32cとし、三角形Fを角度θtiltだけ傾斜させた位置に形成される三角形をMとする。この三角形Mの底辺M1と光軸32cの交点をP3とし、光学中心位置Q1と位置F1aとを結ぶ直線を32dとする。この直線32dと光軸32aとのなす角度をθhとし、直線32dと光軸32cとのなす角度をθthとする。
そして、光軸32cとなす角度がθhとなる直線32eと底辺M1との交点の位置P4とすると、三角形Mの底辺M1の交点の位置P4は、傾斜する前の三角形Fの底辺F1の位置F1aとなる。つまり、真下に向けられた監視カメラ32の光軸32a上の交点E1から距離L1だけ離れた位置F1aがフック21の位置であるから、角度θtiltだけ傾斜した監視カメラ32の光軸32C上の交点P3から距離L1だけ離れた位置P4が、真下に向けられた監視カメラ32が撮像するフック21の位置となる。
また、監視カメラ32が角度θtiltだけ傾斜している場合の光軸32c上の交点P3はモニタ70の画面70Gaの中心位置G1と一致する。また、交点P3から距離L1だけ離れた位置P4は画面70Gaの位置Bとなる。位置F1aと位置P4との間の離間距離をΔyとすると、画面70Gaの位置A,B間の距離はΔyとなる。
そして、θtilt=θh+θthであるから、
θtilt=tan-1(L1/h1)+tan-1((Δy-L1)/h1)…(3)
となる。Δyは、画面70Gaの位置A,Bから求めることができ、L1は既知であり、h1はフック21の繰出量と伸縮ブーム16の起伏角などから求めることができる。
したがって、図5に示す画面70Gaの位置A(図4において位置C)をタッチして、フック位置演算部63が画面70Gaの位置Aを求めれば、この位置Aと視点変換演算部62が求めた位置Bとの差からずれ量演算部64が位置A,B間の距離Δyを求める。そして、カメラ傾斜角演算部65が距離Δyから(3)式により監視カメラ32の傾斜角度θtiltを求める。パン角も同様に求めることができるので、ここではその説明は省略する。
(3)式により、傾斜角度θtiltを正しく求めることができるが、この実施例では、計算を簡単にするため、(1)式でチルト角を求め、(2)式でパン角を求めている。
ここで、Δy=3m、L1=0.5m、h1=10mの場合、(3)式で角度θtiltを求めると、0.29494radとなり、(1)式で求めると、0.29146radとなる。このように、(1)式でも十分に正確なチルト角を求めることができる。パン角も同様である。
このように、モニタ70の画面70Gaのフック画像21G(図4参照)上のタッチパネル71の部位をタッチすれば、距離Δy,Δxが求められて、(1),(2)式によりカメラ傾斜角演算部65がチルト角とパン角を求めるので、監視カメラ32の傾斜角を検出する傾斜角検出センサが不要となる。
作業領域演算部66は、吊荷の荷重に基づいて吊荷の移動可能な領域を示す作業領域線を求めるとともに、カメラ傾斜角演算部65が求めた監視カメラ32の傾斜角(チルト角及びパン角)に基づいて、その作業領域線に対応したモニタ70の画像上の作業領域線の位置を求める。画像合成部67は、作業領域演算部66が求めた作業領域線の位置に対応した監視カメラ32の撮像した画像上の位置に、図4に示すように作業領域線UIを合成してモニタ70の画面70Gaに表示する。
この第1実施例によれば、監視カメラ32の姿勢を検出する姿勢角検出センサが不要となり、しかもカメラ傾斜角演算部65で求めた監視カメラ32の傾斜角に応じて正しい作業領域線UIをモニタ70に表示することができ、安価なカメラ姿勢検出装置100及び作業領域線表示装置120を提供することができる。
また、フック21が揺れて図7に示すようにモニタ70の画面70Gaにフック画像21Gが移動して表示される場合には、フック画像21Gの移動軌跡Iが形成する図形の中心位置をフック画像21Gの位置とし、その図形の中心位置をタッチする。あるいは、複数のフック画像21Gの中心位置を画像処理によって求めてもよい。
図8は画像処理部130によって高さh1を求めるようにしたカメラ姿勢検出装置100の他の例を示す。
画像処理部130は、図9に示すように、監視カメラ32が撮像した画像からフック画像を抽出するフック画像抽出部131と、フック画像抽出部131が抽出したフック画像の面積を求める面積算出部132と、この面積算出部132が求めた面積(大きさ)から高さh1を求める高さ算出部133とを有する。
これは、フック画像の面積は高さh1が高くなるにつれて小さくなるので、この関係を利用して高さh1を求めるものである。
ズームされている場合には、フック画像の大きさと、モニタ70に表示されるワイヤ画像の長さとからズーム倍率を求め、このズーム倍率とフック画像の面積とから高さh1を求める。ズーム倍率は、モニタ70に映し出されるワイヤ25の長さをパラメータとしたフック面積の比率を図示しないメモリに予め記憶させておき、映し出されているワイヤ25の長さを求め、この長さに対応するズーム倍率から求めるものである。
図10は画像処理部150によってフック位置を求めるようにした別の他の例のカメラ姿勢検出装置160を示す。
画像処理部150は、図11に示すように、監視カメラ32で撮像された画像からフック画像を抽出するフック画像抽出部151と、このフック画像抽出部151が抽出したフック画像の中心位置をフック位置として算出する中心位置算出部152とを有する。他の構成は図2に示すカメラ姿勢検出装置100と同様なのでその説明は省略する。
フック画像抽出部151は、領域拡張法やパターンマッチングなどの画像処理によって求める。
領域拡張法は、モニタ70の画面をタッチしたフックの位置から明度差が異なる線をフックの境界として算出し、この境界で囲まれる図形の図心をフックの位置とするものである。
パターンマッチングは、予めズームの倍率ごとにフックのパターンを記憶させておき、このパターンと、画面をスキャン処理して得られる実際のフックの画像とが一致する位置を求め、この位置をフックの位置とするものである。
パターンマッチング等の画像処理方法でフック画像を抽出する場合には、必ずしもタッチパネル71は必要としない。
[第2実施例]
フック画像抽出部151は、領域拡張法やパターンマッチングなどの画像処理によって求める。
領域拡張法は、モニタ70の画面をタッチしたフックの位置から明度差が異なる線をフックの境界として算出し、この境界で囲まれる図形の図心をフックの位置とするものである。
パターンマッチングは、予めズームの倍率ごとにフックのパターンを記憶させておき、このパターンと、画面をスキャン処理して得られる実際のフックの画像とが一致する位置を求め、この位置をフックの位置とするものである。
パターンマッチング等の画像処理方法でフック画像を抽出する場合には、必ずしもタッチパネル71は必要としない。
[第2実施例]
図12は第2実施例の作業領域線表示装置200の構成を示すブロック図である。
作業領域線表示装置200は、コントローラ260の作業領域演算部66とカメラ姿勢検出装置210とを備えている。
[カメラ姿勢検出装置]
[カメラ姿勢検出装置]
カメラ姿勢検出装置210は、カメラユニット30と、ブーム姿勢検出センサ50と、コントローラ260(作業領域演算部66を除く)と、モニタ70と、タッチパネル71とを備えている。
[コントローラ]
[コントローラ]
コントローラ260は、伸縮ブーム16の起伏角と監視カメラ32のズーム倍率とに対応してフック21の移動軌跡を記憶したメモリ201と、メモリ201に記憶された移動軌跡を伸縮ブーム16の起伏角と監視カメラ32のズーム倍率とに基づいて読み出す読出手段202と、読み出された移動軌跡K1(図13参照)と半径方向ラインN1との交点V1を求める交点演算部203と、フック位置演算部63と、ずれ量演算部264と、カメラ傾斜角演算部265と、モータ制御部61と、画像合成部67とを有している。
[メモリ]
[メモリ]
メモリ201には、監視カメラ32を真下に向けている場合、フック21を上下動させたときのモニタ70の画面に表示されるフック21の移動軌跡が伸縮ブーム16の起伏角と監視カメラ32のズーム倍率とに対応して記憶されている。
[交点演算部]
[交点演算部]
交点演算部203は、図13に示すように、フック画像21Gを通る半径方向ラインN1と移動軌跡K1との交点V1を求める。半径方向ラインN1は、フック21の中心位置を通る水平面上に、伸縮ブーム16の伸長方向に投影した線に平行であって且つフック21の中心位置を通る線である。すなわち、伸縮ブーム16の伸長方向がモニタ70の画面70Gaの上下方向であれば、フック画像21Gを通る上下方向に延びた線が半径方向ラインN1となる。
[ずれ量演算部]
[ずれ量演算部]
ずれ量演算部264は、フック画像21Gの位置と交点V1との間の離間距離ΔDを求める。
[カメラ傾斜角演算部]
[カメラ傾斜角演算部]
カメラ傾斜角演算部265は、離間距離ΔDと、監視カメラ32の光学中心からフック位置までの高さ方向の距離h1(図5参照)とから下記の(4)式に基づいて監視カメラ32の傾斜角θ(半径方向の傾斜角)を求める。
θ=tan-1(ΔD/h1)…(4)
これは、(1)式と同じであり、図5に示すように、画面70Gaの位置Bが図13に示す移動軌跡K1上の位置(交点V1)であり、画面70Gaの位置Aがフック画像21Gの位置である。また、位置Aと位置Bとを結ぶ方向が伸縮ブーム16の伸長方向であり、位置A,B間の距離Δyが図13に示すΔDである。したがって、(4)式で監視カメラ32の傾斜角θを求めることができる。
この実施例は、伸縮ブーム16の起伏動作に対してチルト方向のみ下向きに追従する監視カメラ32に有効な方法である。
これは、(1)式と同じであり、図5に示すように、画面70Gaの位置Bが図13に示す移動軌跡K1上の位置(交点V1)であり、画面70Gaの位置Aがフック画像21Gの位置である。また、位置Aと位置Bとを結ぶ方向が伸縮ブーム16の伸長方向であり、位置A,B間の距離Δyが図13に示すΔDである。したがって、(4)式で監視カメラ32の傾斜角θを求めることができる。
この実施例は、伸縮ブーム16の起伏動作に対してチルト方向のみ下向きに追従する監視カメラ32に有効な方法である。
他の構成は、第1実施例と同様なのでその説明は省略する。
[第3実施例]
第3実施例は、伸縮ブーム16の先端部に設けた監視カメラ32で撮像した画像をモニタ370(図16参照)に表示し、パンとチルト操作で監視カメラ32の向きを操作して、モニタ370の画面370Gの所定位置にフック21を位置させることで、監視カメラ32の姿勢角を検出しようとするものである。
[第3実施例]
第3実施例は、伸縮ブーム16の先端部に設けた監視カメラ32で撮像した画像をモニタ370(図16参照)に表示し、パンとチルト操作で監視カメラ32の向きを操作して、モニタ370の画面370Gの所定位置にフック21を位置させることで、監視カメラ32の姿勢角を検出しようとするものである。
図14及び図15は第3実施例の作業領域線表示装置300の構成を示すブロック図である。図15は図14に示すコントローラ360内の構成を詳しく示すとともに、作業領域線表示装置300を、カメラ姿勢検出装置310と、座標位置演算部364及び作業領域演算部365及び画像合成部366の4つの構成に分類して示したものである。
カメラ姿勢検出装置310は、カメラユニット30と、ブーム姿勢検出センサ50と、コントローラ360と、監視カメラ32で撮像した画像などを表示するモニタ370と、パンスイッチSW1及びチルトスイッチSW2とを有する。
モニタ370の画面370Gには、図16に示すように、画面の中央部に四角い枠Maが表示されるようになっている。
[コントローラ]
[コントローラ]
コントローラ360は、図15に示すように、モータ制御部61、姿勢角演算部(演算手段)363、座標位置演算部(座標位置演算手段)364、作業領域演算部(作業領域演算手段)365、画像合成部366を有している。
モータ制御部61は、パンスイッチSW1,チルトスイッチSW2からの信号によりパンモータ33,チルトモータ34を制御する。
姿勢角演算部363は、ブーム姿勢検出センサ50から出力されるウインチの繰り出し量と伸縮ブーム16の長さと後述するオフセット量W1とに基づいて監視カメラ32の姿勢角を演算する。
座標位置演算部364は、姿勢角演算部363が演算した姿勢角とブーム姿勢検出センサ50から出力される伸縮ブーム16の各種の検出信号とに基づいて、伸縮ブーム16の旋回中心位置を原点とする撮像された画像上の各位置におけるクレーン座標系の座標位置を求める。
作業領域演算部365は、吊荷の荷重に基づいて吊荷の移動可能な領域を示す作業領域線を求める。
画像合成部366は、作業領域演算部365が求めた作業領域線を座標位置演算部364が演算した座標位置に対応させて監視カメラ32が撮像した画像上に合成してモニタ370に表示する。
モータ制御部61は、パンスイッチSW1,チルトスイッチSW2からの信号によりパンモータ33,チルトモータ34を制御する。
姿勢角演算部363は、ブーム姿勢検出センサ50から出力されるウインチの繰り出し量と伸縮ブーム16の長さと後述するオフセット量W1とに基づいて監視カメラ32の姿勢角を演算する。
座標位置演算部364は、姿勢角演算部363が演算した姿勢角とブーム姿勢検出センサ50から出力される伸縮ブーム16の各種の検出信号とに基づいて、伸縮ブーム16の旋回中心位置を原点とする撮像された画像上の各位置におけるクレーン座標系の座標位置を求める。
作業領域演算部365は、吊荷の荷重に基づいて吊荷の移動可能な領域を示す作業領域線を求める。
画像合成部366は、作業領域演算部365が求めた作業領域線を座標位置演算部364が演算した座標位置に対応させて監視カメラ32が撮像した画像上に合成してモニタ370に表示する。
そして、座標位置演算部364と作業領域演算部365とで画像上の作業領域線の正しい位置を求める作業領域演算装置380が構成される。
[原 理]
[原 理]
図17に示すように、監視カメラ32の回転軸32Jとシーブ23の中心D1とは左右方向にW1のオフセット量があるとする(上下方向のオフセット量W2が無視できる場合)。また、地上からシーブの中心D1までの高さをH2、シーブの中心D1からフックブロック19までの長さをLa、監視カメラ32の光軸をフック21に向けたときの監視カメラ32の傾き、すなわち監視カメラ32の光軸をフック21に向けた際の垂直線に対する監視カメラ32の傾斜角度をθとする。そして、伸縮ブーム16の旋回中心位置Oからのその伸縮ブーム16の作業半径をRa、監視カメラ32をチルトさせたときの画像中心となる地面上の位置Paと作業半径Raとの間の距離をΔRaとし、監視カメラ32の回転軸32Jと光学中心位置Q1とを結んだ長さは、高さH2に対して無視できるほど小さいとすると、距離ΔRaは次式で求めることができる。
ΔRa=H2tanθ-W1
監視カメラ32の傾きθは、長さLaとオフセット量W1から求めることができる。長さLaはワイヤ25の繰り出し量から求める。パン方向の監視カメラ32の傾きも同様にして求める。
高さH2は伸縮ブーム16の長さと起伏角から求めることができる。なお、オフセット量W1は、伸縮ブーム16に対するカメラ回転軸32Jとシーブの中心D1の位置とが既知であるので、伸縮ブーム16の起伏角に応じて求めることができる。
高さH2は伸縮ブーム16の長さと起伏角から求めることができる。なお、オフセット量W1は、伸縮ブーム16に対するカメラ回転軸32Jとシーブの中心D1の位置とが既知であるので、伸縮ブーム16の起伏角に応じて求めることができる。
モニタ370の画像の中心位置に対応する地上の位置はPaであり、誤差ΔRaと作業半径Raとにより位置Paから伸縮ブーム16の旋回中心位置Oを求めることができる。同様に、パン方向に対して旋回中心位置Oを求める。
そして、旋回中心位置Oを中心にして距離Rb(作業領域範囲を示す距離)の位置に作業領域線を描くことができる。
ここで、画像の中心位置が地上の位置Paを示しており、また、高さH2が分かっているので、地上の座標位置と画像上の座標位置とを対応させることができる。すなわち、伸縮ブーム16の旋回中心位置を原点にして、撮像された画像上の各位置にクレーン座標系の座標位置を対応させる。
これにより、画像上の正しい位置に作業領域線を重畳させてモニタ70に表示することができる。
なお、図17Aに示すように、伸縮ブーム16の起伏角によって上下方向にもオフセット量W2が生じるが、このオフセット量W2も起伏角から求めることができるので、監視カメラ32の傾きを幾何学で求めることができる。
なお、図17Aに示すように、伸縮ブーム16の起伏角によって上下方向にもオフセット量W2が生じるが、このオフセット量W2も起伏角から求めることができるので、監視カメラ32の傾きを幾何学で求めることができる。
すなわち、ΔRa=H1′tanθ-W1、H1′=H2-W2の式が成立する。
ただし、H1′は地上からカメラ回転軸32Jまでの高さである。
ただし、H1′は地上からカメラ回転軸32Jまでの高さである。
この式により、監視カメラ32の傾きθは、長さL1とオフセット量W1,W2から求めることができる。パン方向の監視カメラ32の傾きも同様にして求める。
また、図17Bに示すように、シーブの回動軸と同軸に監視カメラ32の回動軸を設けた場合、オフセット量W1,W2は生じないので、オフセット量を考慮する必要がない。
[動 作]
次に、上記のように構成される作業領域線表示装置300の動作について説明する。
図16に示すように、フック画像21Gがモニタ370の画面370Gの中心部枠Ma内に常に入るようにパンスイッチSW1やチルトスイッチSW2をオペレータが操作して監視カメラ32を傾動させる。
コントローラ360によって吊荷の実荷重が求められると、またはオペレータにより荷重が入力されると、その実荷重や入力された荷重に基づいて作業領域演算部365(図15参照)が作業領域線を求める。
他方、姿勢角演算部363は、ブーム姿勢検出センサ50から出力される検出信号、すなわちウインチによって繰り出されたワイヤ25(図1参照)の送り出し量と伸縮ブーム16の長さとから図17に示すフック21の吊るされた長さLaを求め、この長さLaとオフセット量W1とから監視カメラ32の垂直線に対する傾斜角度θ(パンやチルト方向の角度)を求める。
すなわち、姿勢角演算部363は、伸縮ブーム16の先端位置情報(伸縮ブーム16の長さと起伏角から求める位置)とフック21の位置情報(オフセット量W1と長さLa)とから監視カメラ32の傾斜角度θを求める。
座標位置演算部364は、ブーム姿勢検出センサ50から出力される検出信号、すなわち、伸縮ブーム16の長さと起伏角とに基づいて図17に示す高さH2を求め、さらに、この高さH2と監視カメラ32の傾斜角度θとから、撮像された画像上の各位置に対応した伸縮ブーム16の旋回中心位置を原点にしたクレーン座標系の座標位置を求める。
画像合成部366は、座標位置演算部364が演算したクレーン座標系の座標位置に対応した画像上に、図18に示すように、作業領域演算部365が演算した作業領域線U2を合成(重畳)させてモニタ370に表示させる。
この第3実施例も監視カメラ32の姿勢を検出する姿勢角検出センサが不要となるので、第1実施例と同様な効果を得ることができる。
この第3実施例では、作業によって伸縮ブーム16の起伏や吊荷の上下動などによりフック画像21Gがモニタ370の画面370Gの枠Ma内からずれていくが、そのフック画像21Gがモニタ370の画面370Gの枠Ma内に常に入るようにパンスイッチSW1やチルトスイッチSW2をオペレータが操作していくものとする。そして、姿勢角演算部363及び座標位置演算部364は、ブーム姿勢検出センサ50から出力される検出信号を逐一に読み込んでいき、傾斜角度θと撮像された画像上の各位置に対応したクレーン座標系の座標位置を求めていき、作業領域線U2をリアルタイムで書き換えていく。
このため、吊荷の移動中であってもフック画像21Gがモニタ370の画面370Gの枠Ma内に入っている間は、作業領域線U2を正確にモニタ370の画面370G上に表示することができることになる。
[第4実施例]
[第4実施例]
図19は第4実施例の作業領域線表示装置1200の構成を示す。この第4実施例では、基準出し用のスイッチ(設定手段)SW4とメモリ1201とを設けたものである。
オペレータがパンスイッチSW1やチルトスイッチSW2を操作してフック画像21Gがモニタ370の画面370Gの枠Ma内(図18参照)に入ったら、オペレータがスイッチSW4をオンにし、このスイッチSW4がオンになったとき、ブーム姿勢検出センサ50が検出する検出信号に基づいて第3実施例と同様にして、図20に示すコントローラ1260の姿勢角演算部363が監視カメラ32の傾斜角度(パン及びチルト方向の角度)を求める。
オペレータがパンスイッチSW1やチルトスイッチSW2を操作してフック画像21Gがモニタ370の画面370Gの枠Ma内(図18参照)に入ったら、オペレータがスイッチSW4をオンにし、このスイッチSW4がオンになったとき、ブーム姿勢検出センサ50が検出する検出信号に基づいて第3実施例と同様にして、図20に示すコントローラ1260の姿勢角演算部363が監視カメラ32の傾斜角度(パン及びチルト方向の角度)を求める。
また、スイッチSW4がオンされると、ブーム姿勢検出センサ50が検出する検出信号であるフック21の送り出し量と伸縮ブーム16の姿勢(伸縮ブーム16の長さ、起伏角、旋回角)と、このときに姿勢角演算部363が求めた監視カメラ32の傾斜角度(パン及びチルト方向の角度)とが基準値としてメモリ1201に記憶される。
また、スイッチSW4のオンにより、コントローラ1260の図示しない演算部が第3実施例と同様にして実荷重を求め、この実荷重とメモリ1201に記憶された監視カメラ32の傾斜角度θ及び伸縮ブーム16の姿勢とに基づいて、図20に示す作業領域演算部365が作業領域線U2(図18参照)を求める。
一方、座標位置演算部364は、第3実施例と同様にして、撮像された画像上の各位置のクレーン座標系の座標位置を求める。また、画像合成部366は、座標位置演算部364が演算したクレーン座標系の座標位置に対応させて、作業領域演算部365が演算した作業領域線U2を合成させてモニタ370に表示させる(図18参照)。
すなわち、第4実施例では、スイッチSW4がオンされた後、フック画像21Gがモニタ370の画面370Gの枠Ma内に入っているものとして、作業領域線U2を表示し続けるものである。この第4実施例では、パンスイッチSW1やチルトスイッチSW2を操作しない。
伸縮ブーム16の姿勢の変化とウインチによるフック21の上下移動とによって、そのフック画像21Gがモニタ370の画面370Gの枠Ma内から所定量以上外れると、すなわち、ブーム姿勢検出センサ50が検出するフック21の送り出し量と伸縮ブーム16の姿勢データ(伸縮ブーム16の長さ、起伏角)とがメモリ1201に記憶された基準値から所定値以上ずれると、作業領域線U2が表示されている画像に対して位置ズレの誤差が大きいと判断してエラー表示する。このエラー表示は、例えばモニタ370に文字で表示したり、枠Maの色を変えたり、作業領域線U2を点滅や消したりすることにより行う。
このエラー表示することによって、オペレータは表示されている作業領域線が間違っていることを認識することができる。
第4実施例によれば、オペレータがフック画像21Gを画面370Gの枠Ma内に位置させた後、伸縮ブーム16とウインチを操作したときにフック画像21Gが画面370Gの枠Ma内、すなわち画面370Gの所定位置に位置しているかがコントローラ1260側で分かることになる。また、第3実施例と同様な効果を得ることができる。
[第5実施例]
[第5実施例]
第5実施例の作業領域線表示装置(図示せず)は、第4実施例の作業領域線表示装置1200と同様な構成を有しているのでその説明は省略する。
この後、オペレータがパンスイッチSW1やチルトスイッチSW2を操作すれると、作業領域線U2の誤差が大きくなるのでエラー表示を行う。
この第5実施例の作業領域線表示装置は、オペレータがパンスイッチSW1やチルトスイッチSW2を操作すると、作業領域線U2の誤差が大きくなるのでエラー表示を行うようにしたものである。また、スイッチSW4をオンした後は、パンスイッチSW1やチルトスイッチSW2を操作しないように、オペレータに予め知らせておく。
また、スイッチSW4をオンした後、ウインチのみを駆動させた場合、フック21のみが上下動して、フック画像21Gがモニタ370の画面370Gの枠Ma内から外れていくことになるが、パンスイッチSW1やチルトスイッチSW2を操作しない限り、作業領域線U2はモニタ370の画面370Gの正しい位置に表示され続けることになる。
パンスイッチSW1やチルトスイッチSW2がオンになってエラー表示さない限り、オペレータは正しい作業領域線表示の下、クレーン操作をすることができる。
第5実施例によれば、オペレータがフック画像21Gを画面370Gの枠Ma内に位置させた後、伸縮ブーム16とウインチを操作したときにフック画像21Gが画面370Gの枠Ma内、すなわち画面370Gの所定位置に位置しているかがコントローラ1260側で分かることになる。また、第3実施例と同様な効果を得ることができる。
[第6実施例]
[第6実施例]
第6実施例の作業領域線表示装置(図示せず)は、第4実施例の作業領域線表示装置1200と同様な構成を有しているのでその説明は省略する。
第6実施例の作業領域線表示装置は、スイッチSW4がオンされた後、パンスイッチSW1やチルトスイッチSW2が操作された場合、モニタ370(図19参照)のフック画像21G(図18参照)が枠Ma内に入れられる操作とみなして、第4実施例と同様にして作業領域線U2を順次求めていき、モニタ370に表示されている作業領域線U2をリアルタイムで書き換えていく。
この第6実施例では、スイッチSW4をオンした後は、パンスイッチSW1やチルトスイッチSW2を操作して、フック画像21Gを枠Ma内に入れるように、オペレータに予め知らせておく。
第6実施例の作業領域線表示装置は、スイッチSW4がオンされた後、パンスイッチSW1やチルトスイッチSW2が操作された場合、モニタ370(図19参照)のフック画像21G(図18参照)が枠Ma内に入れられる操作とみなして、第4実施例と同様にして作業領域線U2を順次求めていき、モニタ370に表示されている作業領域線U2をリアルタイムで書き換えていく。
この第6実施例では、スイッチSW4をオンした後は、パンスイッチSW1やチルトスイッチSW2を操作して、フック画像21Gを枠Ma内に入れるように、オペレータに予め知らせておく。
オペレータは、カメラのパン・チルト以外の操作またはフック21が枠Ma内に収まるパン・チルト操作をすれば正しい作業領域線を表示していると認識することができる。
上記の第3実施例ないし第6実施例のいずれも、監視カメラ32の傾斜角度θを図17に示す長さLaとオフセット量W1から求めているが、画像処理によりフック画像21Gの画像上の位置と、長さLaとから監視カメラ32の傾斜角を求めるようにしてもよい。この場合、フック画像21Gを枠Ma内に入れる必要はない。また、枠Maを表示する必要もない。
また、画像処理により、フック画像21Gを枠Ma内に自動的に入るようにパンモータ33及びチルトモータ34を制御するようにしてもよい。
この第6実施例も第3実施例と同様な効果を得ることができる。
[第7実施例]
[第7実施例]
図21は第7実施例の作業領域線表示装置1500の構成を示す。この作業領域線表示装置1500は、パン・チルト機能を有しない監視カメラ1532を備えたものである。監視カメラ1532は筺体31(図1参照)に設けられており、この筺体31はダンパ(図示せず)を介して先端ブーム16Cの先端部に取り付けられていることにより、監視カメラ1532は自重によって真下に向くようになっている。
監視カメラ1532が真下に向いているとき、フック21を上下動させた際のフック画像21Gの軌跡FEを図22に示すようにモニタ370の画面370Gに合成表示する。
ダンパの作用によって、監視カメラ1532が真下に向いていないとき、フック画像21Gが軌跡FEから外れることになり、表示されている作業領域線U2は不正確であることが分かる。
監視カメラ1532の回転軸32Jとシーブの中心D1とが図17に示すようにオフセットしている場合、伸縮ブーム16の起伏角によって軌跡FEの位置が変わるので、図23に示すように、その起伏角に応じて軌跡FEの位置をFEaに変更するようにしてもよい。この場合、その起伏角に応じて作業領域線U2も正しい作業領域線Uaに変更する。
なお、本実施例では、パン・チルト機能を持たないことを前提として説明したが、監視カメラ1532にパン・チルト機能を設けた場合、上記軌跡FE,FEaの線上にフック画像21Gが位置するように、監視カメラ1532をパン・チルトさせれば、監視カメラ1532を真下に向けることができ、モニタ370に表示される作業領域線U2,Uaも正しい作業領域線となる。
このようにすることにより、モニタ370のフック画像21Gを枠Ma内に入れる操作は不要となり、監視カメラ1532を軌跡FEに合わせるように操作するだけでよく、このためその操作が簡単なものとなる。
上記の第3実施例ないし第7実施例では、いずれもモニタ370の画面370Gの中央部に枠Maを表示させているが、必ずしも画面370Gの中央部である必要はなく、また、枠Maでなくてもよい。例えば、×マークなどでもよい。
この発明は、上記実施例に限られるものではなく、請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計の変更や追加等は許容される。
本出願は、2013年5月21日に日本国特許庁に出願された特願2013-107027及び2014年5月16日に日本国特許庁に出願された特願2014-102874に基づいて優先権を主張し、その全ての開示は完全に本明細書で参照により組み込まれる。
Claims (16)
- 作業機のブームの先端部に設けられたカメラと、ブームの先端部から吊るされたフックを前記カメラで撮像した画像を表示するモニタとを備えたカメラ姿勢検出装置であって、
前記モニタに表示されている画面上のフック画像位置情報と、実空間におけるフック位置情報とに基づいてカメラの姿勢角を求める姿勢角演算装置を設けたことを特徴とするカメラ姿勢検出装置。 - 前記フック画像位置情報は、実際に表示されている前記モニタの画面上のフック位置と、前記カメラが真下に向けられたと仮定した場合にそのモニタに表示されるフックの画面上の基準フック位置とであり、
前記実空間における前記フック位置情報は、カメラとフックとの間の高さ方向の距離であり、
前記基準フック位置を求める基準フック位置演算手段を有し、
前記姿勢角演算装置は、前記モニタの画面上のフック位置を求めるフック位置演算部と、このフック位置演算部が求めた画面上のフック位置と前記基準フック位置演算手段が求めた基準フック位置とのずれ量を求めるずれ量演算部と、前記ずれ量演算部が求めたずれ量と前記カメラとフックとの間の高さ方向の距離とに基づいてカメラの姿勢角を求めるカメラ姿勢角演算手段とを有していることを特徴とする請求項1に記載のカメラ姿勢検出装置。 - 前記高さ方向の距離は、ブームの姿勢角とフックの繰出し量とから求めることを特徴とする請求項2に記載のカメラ姿勢検出装置。
- 前記モニタに表示されているフック画像を抽出するとともに、この抽出したフック画像の大きさを求める画像認識部を有し、
この画像認識部が求めたフック画像の大きさに基づいて前記高さ方向の距離を求めることを特徴とする請求項2に記載のカメラ姿勢検出装置。 - 前記モニタの画面に貼られたタッチパネルを有し、
前記フック位置演算部は、前記モニタに表示されているフック画像を前記タッチパネルを介してタッチすることにより、前記モニタの画面上のフック位置を求めることを特徴とする請求項2に記載のカメラ姿勢検出装置。 - 前記モニタの画面上のフック位置は、モニタに表示されているフック画像を画像処理により認識し、この認識したフック画像の中心位置として求めることを特徴とする請求項2に記載のカメラ姿勢検出装置。
- 前記フック画像位置情報は、カメラを傾動させてフック画像が予め設定した画面の設定位置に位置していることを示すものであり、
フック位置情報は、フック画像が設定位置に位置しているときのフックの繰出し量と、ブーム先端部に設けられたシーブの中心とカメラの回動支点との間のオフセット量と、ブームの起伏角とであり、
前記姿勢角演算装置は、前記フックの繰出し量とカメラのオフセット量とブームの起伏角とに基づいてカメラの姿勢角を求めることを特徴とする請求項1に記載のカメラ姿勢検出装置。 - 前記フックに吊るされる吊荷の荷重に基づいて吊荷の移動可能な領域を示す作業領域線を求める作業領域演算装置と、該作業領域演算装置が求めた作業領域線を前記カメラで撮像した画像上に合成する画像合成部とを備え、該画像合成部で合成した画像を前記モニタに表示する作業領域線表示装置であって、
請求項1ないし請求項7のいずれか1項に記載のカメラ姿勢検出装置を備え、
前記作業領域演算装置は、前記カメラ姿勢検出装置が検出したカメラの姿勢角に基づいて前記画像上の作業領域線の正しい位置を求め、
前記画像合成部は、前記作業領域演算装置が求めた正しい位置に作業領域線を合成して前記モニタに表示することを特徴とする作業領域線表示装置。 - 前記モニタに表示されているフックを画面上の所定位置に位置させるようにカメラの姿勢を操作する姿勢操作手段を備え、
前記姿勢角演算装置は、前記フックが画面上の所定位置に位置されたときの該フックの位置情報とブーム先端の位置情報とに基づいて前記カメラの姿勢角を求める演算手段を有することを特徴とする請求項1に記載のカメラ姿勢検出装置。 - 請求項9に記載のカメラ姿勢検出装置を備えた作業領域線表示装置であって、
前記フックに吊るされる吊荷の荷重に基づいて該吊荷の移動可能な領域を示す作業領域線を求める作業領域演算装置と、
該作業領域演算装置が求めた作業領域線を前記カメラで撮像した画像上に合成する画像合成部とを備え、
前記作業領域演算装置は、前記カメラ姿勢検出装置が検出したカメラの姿勢角に基づいて前記画像上の作業領域線の正しい位置を求め、
前記画像合成部は、前記作業領域演算装置が求めた正しい位置に作業領域線を合成して前記モニタに表示することを特徴とする作業領域線表示装置。 - 前記姿勢操作手段を操作して前記フックがモニタの画面の所定位置に位置したとき、このときのフックの位置とカメラの姿勢角とを基準値として設定する設定手段を設け、
この設定手段によって基準値を設定した後、ブームの姿勢と前記フックの送り出し引き戻しを行うウインチの操作に基づいてフックの位置がモニタ画面の所定位置から所定距離以上ずれた判定したとき、エラーにすることを特徴とする請求項10に記載の作業領域線表示装置。 - 前記姿勢操作手段を操作して前記フックがモニタの画面の所定位置に位置したとき、このときのフックの位置とカメラの姿勢角とを基準値として設定する設定手段を設け、
前記作業領域演算装置は、前記設定手段によって設定された基準値から前記画像上の作業領域線の正しい位置を求め、
前記カメラが前記姿勢操作手段により操作されたとき、エラーにすることを特徴とする請求項10に記載の作業領域線表示装置。 - 前記モニタの画面の所定位置を示す枠を表示し、この枠内にフックが位置するように前記姿勢操作手段を操作することを特徴とする請求項10ないし請求項12のいずれか1項に記載の作業領域線表示装置。
- 前記作業領域線を表示した後、前記姿勢操作手段によりカメラが操作されとき、フックが枠内に入る操作がなされたものとして、前記カメラ姿勢検出装置は、フックの位置情報とブーム先端の位置情報とに基づいて前記カメラの姿勢角を求め、前記作業領域演算装置は、前記カメラ姿勢検出装置が求めたカメラの姿勢角に応じて前記画像上の作業領域線の正しい位置を求め直し、この求め直した位置に作業領域線を書き換えていくことを特徴とする請求項13に記載の作業領域線表示装置。
- 前記所定位置は、モニタの画面の中央位置であることを特徴とする請求項10ないし請求項12のいずれか1つに記載の作業領域線表示装置。
- 前記フックの位置情報は、フックの繰り出し量及びブームの姿勢情報であることを特徴とする請求項10ないし請求項12のいずれか1項に記載の作業領域線表示装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/892,833 US9667923B2 (en) | 2013-05-21 | 2014-05-19 | Camera attitude detection device and work region line display device |
EP14800648.9A EP3000761B1 (en) | 2013-05-21 | 2014-05-19 | Crane with camera orientation detecting device |
CN201480027752.5A CN105228941B (zh) | 2013-05-21 | 2014-05-19 | 摄像机姿态检测装置和作业区域线显示装置 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013-107027 | 2013-05-21 | ||
JP2013107027A JP6162481B2 (ja) | 2013-05-21 | 2013-05-21 | 作業領域線表示装置 |
JP2014-102874 | 2014-05-16 | ||
JP2014102874A JP6421451B2 (ja) | 2014-05-16 | 2014-05-16 | カメラ姿勢検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2014189009A1 true WO2014189009A1 (ja) | 2014-11-27 |
Family
ID=51933562
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2014/063229 WO2014189009A1 (ja) | 2013-05-21 | 2014-05-19 | カメラ姿勢検出装置と作業領域線表示装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9667923B2 (ja) |
EP (1) | EP3000761B1 (ja) |
CN (1) | CN105228941B (ja) |
WO (1) | WO2014189009A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6177400B1 (ja) * | 2016-08-25 | 2017-08-09 | 株式会社タダノ | クレーン車 |
CN108473286A (zh) * | 2015-11-23 | 2018-08-31 | Abb瑞士股份有限公司 | 集装箱起重机控制系统 |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FI128054B (fi) * | 2014-12-31 | 2019-08-30 | Konecranes Oyj | Laite, menetelmät, tietokoneohjelma ja kokoelma kuvatiedon muodostamiseksi kuormapinosta |
JP7180966B2 (ja) | 2016-01-29 | 2022-11-30 | マニタウォック クレイン カンパニーズ, エルエルシー | 視覚的アウトリガー監視システム |
US11124392B2 (en) | 2016-11-22 | 2021-09-21 | Manitowoc Crane Companies, Llc | Optical detection and analysis for boom angles on a crane |
EP3333114B1 (en) * | 2016-12-07 | 2022-03-02 | Hiab AB | A vehicle and a method for a vehicle, with presentation of maximal load range limitation |
FI127422B (fi) * | 2016-12-20 | 2018-05-31 | Konecranes Global Oy | Menetelmä, tietokoneohjelma ja laitteisto nosturin ohjaamiseksi ja menetelmä nosturin päivittämiseksi |
JP6794879B2 (ja) * | 2017-03-10 | 2020-12-02 | 株式会社タダノ | 作業車両用の人物検知システムおよびこれを備える作業車両 |
CN109923488A (zh) * | 2017-04-27 | 2019-06-21 | 深圳市大疆创新科技有限公司 | 使用可移动物体生成实时地图的系统和方法 |
JP6838782B2 (ja) * | 2017-05-30 | 2021-03-03 | 株式会社三井E&Sマシナリー | コンテナクレーンの制御システム及びコンテナクレーンの制御方法 |
DE202017104706U1 (de) | 2017-08-07 | 2017-09-27 | Liebherr-Werk Ehingen Gmbh | Raupenkran |
JP6828650B2 (ja) * | 2017-10-04 | 2021-02-10 | 株式会社タダノ | クレーンの制御方法及びクレーン |
FR3074761B1 (fr) * | 2017-12-11 | 2020-11-13 | Manitou Bf | Dispositif d'assistance a la manutention de charge pour vehicule et vehicule correspondant |
JP7024514B2 (ja) * | 2018-03-09 | 2022-02-24 | 株式会社タダノ | クレーン及び情報表示方法 |
JP7069888B2 (ja) * | 2018-03-15 | 2022-05-18 | 株式会社タダノ | クレーンおよびクレーンの制御方法 |
CN108985184B (zh) * | 2018-06-26 | 2022-04-29 | 齐霄强 | 一种多用途飞机外挂物自动挂载系统及挂载方法 |
JP7119674B2 (ja) * | 2018-07-11 | 2022-08-17 | 株式会社タダノ | クレーン |
EP3594166B1 (de) * | 2018-07-13 | 2024-01-24 | EPSILON Kran GmbH. | Kransteuerung mit visualisierungsvorrichtung |
CN112912332B (zh) * | 2018-10-16 | 2023-08-01 | 株式会社多田野 | 起重机装置 |
JP7084347B2 (ja) * | 2019-03-29 | 2022-06-14 | グローブライド株式会社 | ウインチ制御システム |
JP7241611B2 (ja) * | 2019-06-06 | 2023-03-17 | 東京エレクトロン株式会社 | パターン測定装置、パターン測定装置における傾き算出方法およびパターン測定方法 |
EP4036045A4 (en) * | 2019-09-25 | 2023-11-08 | Tadano Ltd. | CONTROL SYSTEM AND WORK MACHINE |
DE102020120699A1 (de) | 2020-08-05 | 2022-02-10 | Konecranes Global Corporation | Auslegerdrehkran mit einer Kamera sowie Verfahren zur Reduzierung von Lastpendelungen im Kranbetrieb |
JP2022143232A (ja) * | 2021-03-17 | 2022-10-03 | 住友重機械建機クレーン株式会社 | クレーン |
WO2022221311A1 (en) | 2021-04-12 | 2022-10-20 | Structural Services, Inc. | Systems and methods for assisting a crane operator |
WO2023081982A1 (en) * | 2021-11-12 | 2023-05-19 | Buildai Pty Ltd | Device for monitoring a construction site |
CN114785961B (zh) * | 2022-06-21 | 2022-09-20 | 山东信通电子股份有限公司 | 一种基于云台相机的巡视路线生成方法、设备及介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3440598B2 (ja) | 1995-01-09 | 2003-08-25 | コベルコ建機株式会社 | クレーンの吊荷位置検出方法および同装置 |
JP2011207571A (ja) * | 2010-03-30 | 2011-10-20 | Tadano Ltd | クレーンの制御装置及びクレーン |
JP2013018580A (ja) * | 2011-07-08 | 2013-01-31 | Tadano Ltd | 性能線表示装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4141771B2 (ja) * | 2002-09-05 | 2008-08-27 | 松下電器産業株式会社 | 監視カメラ装置 |
CN1648029A (zh) * | 2005-01-19 | 2005-08-03 | 深圳市拓发实业有限公司 | 塔式起重机的监视系统 |
JP5215564B2 (ja) * | 2007-01-24 | 2013-06-19 | 篠田重機株式会社 | クレーン用カメラ取付装置 |
CN201125129Y (zh) * | 2007-09-21 | 2008-10-01 | 上海明路绳网索具有限公司 | 一种桥吊下集卡的图像对位装置 |
US8073190B2 (en) * | 2007-11-16 | 2011-12-06 | Sportvision, Inc. | 3D textured objects for virtual viewpoint animations |
CN202156880U (zh) * | 2011-07-06 | 2012-03-07 | 李晓光 | 高空跟随式光电监控系统 |
-
2014
- 2014-05-19 US US14/892,833 patent/US9667923B2/en active Active
- 2014-05-19 WO PCT/JP2014/063229 patent/WO2014189009A1/ja active Application Filing
- 2014-05-19 CN CN201480027752.5A patent/CN105228941B/zh active Active
- 2014-05-19 EP EP14800648.9A patent/EP3000761B1/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3440598B2 (ja) | 1995-01-09 | 2003-08-25 | コベルコ建機株式会社 | クレーンの吊荷位置検出方法および同装置 |
JP2011207571A (ja) * | 2010-03-30 | 2011-10-20 | Tadano Ltd | クレーンの制御装置及びクレーン |
JP2013018580A (ja) * | 2011-07-08 | 2013-01-31 | Tadano Ltd | 性能線表示装置 |
Non-Patent Citations (1)
Title |
---|
See also references of EP3000761A4 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108473286A (zh) * | 2015-11-23 | 2018-08-31 | Abb瑞士股份有限公司 | 集装箱起重机控制系统 |
JP6177400B1 (ja) * | 2016-08-25 | 2017-08-09 | 株式会社タダノ | クレーン車 |
JP2018030692A (ja) * | 2016-08-25 | 2018-03-01 | 株式会社タダノ | クレーン車 |
Also Published As
Publication number | Publication date |
---|---|
US20160119589A1 (en) | 2016-04-28 |
EP3000761B1 (en) | 2019-03-27 |
US9667923B2 (en) | 2017-05-30 |
CN105228941B (zh) | 2017-03-22 |
EP3000761A1 (en) | 2016-03-30 |
EP3000761A4 (en) | 2017-03-08 |
CN105228941A (zh) | 2016-01-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2014189009A1 (ja) | カメラ姿勢検出装置と作業領域線表示装置 | |
JP5876679B2 (ja) | 性能線表示装置 | |
JP5971994B2 (ja) | クレーン作業監視装置 | |
JP5642409B2 (ja) | クレーンの制御装置及びクレーン | |
JP5091447B2 (ja) | 作業機搭載車両の周辺監視支援装置 | |
JP6421451B2 (ja) | カメラ姿勢検出装置 | |
JP2016153335A (ja) | 吊荷監視装置 | |
JP6871097B2 (ja) | ガイド情報表示装置およびこれを備えた作業機およびガイド情報表示方法 | |
JP6402497B2 (ja) | 高さ検出装置 | |
JP6162481B2 (ja) | 作業領域線表示装置 | |
JP5917178B2 (ja) | 視覚補助装置 | |
JP6146994B2 (ja) | クレーンの監視カメラ | |
JP6080450B2 (ja) | 監視カメラ装置 | |
JP6097063B2 (ja) | 高さ測定装置及び高さ測定方法 | |
JP6257947B2 (ja) | 作業車の周囲情報取得装置 | |
JP6766516B2 (ja) | 障害物検出装置 | |
JP6528474B2 (ja) | 画像表示装置 | |
JP2012030950A (ja) | 画像生成システム | |
JP7253740B2 (ja) | カメラの制御システム | |
JP2013159482A (ja) | クレーンシステム | |
JP5575572B2 (ja) | 画像生成システム | |
JP4829592B2 (ja) | 作業車の遠隔操作装置 | |
US11590892B2 (en) | Work vehicle display systems and methods for generating visually-manipulated context views | |
JP2021098587A (ja) | クレーンの性能線表示装置 | |
JP2020158300A (ja) | 揚重作業支援システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
WWE | Wipo information: entry into national phase |
Ref document number: 201480027752.5 Country of ref document: CN |
|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 14800648 Country of ref document: EP Kind code of ref document: A1 |
|
WWE | Wipo information: entry into national phase |
Ref document number: 14892833 Country of ref document: US Ref document number: 2014800648 Country of ref document: EP |
|
NENP | Non-entry into the national phase |
Ref country code: DE |