JP3827480B2 - Calibration method for automatic operation construction machine and its position measuring means - Google Patents
Calibration method for automatic operation construction machine and its position measuring means Download PDFInfo
- Publication number
- JP3827480B2 JP3827480B2 JP22936999A JP22936999A JP3827480B2 JP 3827480 B2 JP3827480 B2 JP 3827480B2 JP 22936999 A JP22936999 A JP 22936999A JP 22936999 A JP22936999 A JP 22936999A JP 3827480 B2 JP3827480 B2 JP 3827480B2
- Authority
- JP
- Japan
- Prior art keywords
- construction machine
- measuring means
- coordinate system
- automatic operation
- position measuring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【0001】
【発明の属する技術分野】
本発明は、自動運転を行う建設機械に係わり、特に、ダンプトラックやクラッシャ等の作業機械へ自動積み込み作業を行う自動運転建設機械およびその位置計測装置の校正方法に関する。
【0002】
【従来の技術】
通常、砕石現場等において、油圧ショベル等の建設機械によるダンプトラックやクラッシャ等への積み込み作業は、ある決まった場所から土石を掘削し、ダンプトラックのベッセルやクラッシャのホッパ等の決まった場所へ放土するという単調な繰り返し作業である。このような単調な繰り返し作業は、オペレータにとって苦痛であり、人手を介在せずに自動的に行わせるという欲求が高まっている。
【0003】
従来、このような積み込み作業の自動化の一つの方法としては、掘削位置と放土位置とを教示して、これらの位置間で、油圧ショベルを走行させずに旋回作業を主とする繰り返し作業を行わせている。例えば、特開平9−195321号公報には、教示された動作を繰り返して、油圧ショベルの掘削から放土までの一連の作業を自動的に行わせる技術が開示されている。
【0004】
しかし、この従来技術では、掘削によるジャッキアップや旋回の慣性力等の原因により、自動運転ショベル自体が位置ずれしてしまうという可能性がある。また、ダンプトラックが毎回、同じ場所に停車するとは限らず、ダンプトラック上の放土すべき適切な位置に積み込むことが出来ない可能性がある。そこで、この問題を解決するために、自動運転ショベルにビデオカメラ等の撮像手段を設置し、撮像データからダンプトラック等の目標物としての作業機械の所定の放土位置を算出して放土することが考えられる。例えば、特開平10−88625号公報には、ホイールローダーにステレオビジョンシステムを塔載して、掘削目標場所までの距離を測定して掘削を行い、また、放土目標場所までの位置を測定して放土を行わせる技術が開示されている。
【0005】
【発明が解決しようとする課題】
ところで、このような作業目標までの距離を測定して作業を行わせる場合、距離センサをどこに設置してもその測定結果を自動運転建設機械の制御系に反映させるためには、自動運転建設機械上における距離センサの位置を校正しておく必要がある。通常、この校正は建設機械の寸法からその位置を求めたり、外部に設けた校正装置によって校正を行ったりする必要がある。
【0006】
しかし、距離センサの位置を動かしたり、付け替えた時には校正を行わなければならない。この校正に手間がかかると建設機械の稼働率の低下につながるので、作業現場ではこの校正を平易にかつ迅速に行う必要がある。
【0007】
また、建設機械の寸法から校正を行う場合は、取り付ける建設機械の大きさが変わるとその校正値も変わるので、そのたびにシステムの変更を行う必要があり、この場合も稼働率の低下をきたすので、どのような建設機械の機種にも迅速に対応できる校正方法が必要となる。
【0008】
本発明の目的は、上記の間題点を鑑みてなされたものであり、自動運転建設機械本体上に校正のための基準点を設けることにより稼働現場での校正と建設機械の機種が変わることによる影響を受けない校正方法を可能にした自動運転建設機械およびその位置計測装置の校正方法を提供することにある。
【0009】
【課題を解決するための手段】
本発明では上記の課題を解決するために次のような手段を採用した。
【0010】
第1の手段は、教示して記憶された教示データを順次読み出して、油圧ショベルの掘削から放土までの一巡する作業を繰り返し行う自動運転建設機械において、前記自動運転建設機械本体上に設置される位置を計測する位置計測手段と、該位置計測手段によって掘削位置を計測し、計測された掘削位置によって教示された掘削位置を補正するとともに、前記位置計測手段によって放土位置を計測し、計測された放土位置によって教示された放土位置を補正する手段と、前記自動運転建設機械本体上または前記自動運転建設機械本体に取り付け可能に設けられ、前記自動運転建設機械本体上での互いの位置が既知である複数の基準点を備える手段とを備え、前記位置計測手段により前記基準点の位置を計測することにより、前記位置計測手段の前記自動運転建設機械に対する位置を校正可能にしたことを特徴とする。
【0011】
第2の手段は、第1の手段において、前記基準点を備える手段は、前記油圧ショベルのフロント部に設けられることを特徴とする。
【0012】
第3の手段は、第2の手段において、前記基準点を備える手段は、前記フロント部に取り付けられる校正用治具であることを特徴とする。
【0013】
第4の手段は、第1の手段ないし第3の手段のいずれか1つの手段おいて、前記位置計測手段は、少なくとも1台のカメラにより構成される視覚センサを備えることを特徴とする。
【0014】
第5の手段は、前記自動運転建設機械本体上に設置される位置を計測する位置計測手段と、該位置計測手段によって掘削位置を計測し、計測された掘削位置によって教示された掘削位置を補正するとともに、前記位置計測手段によって放土位置を計測し、計測された放土位置によって教示された放土位置を補正する手段と、前記自動運転建設機械本体上に設けられ、前記自動運転建設機械本体上での互いの位置が既知である複数の基準点とを備え、教示して記憶された教示データを順次読み出して、油圧ショベルの掘削から放土までの一巡する作業を繰り返し行う自動運転建設機械に設けられる位置計測手段の校正方法において、前記位置計測手段により前記基準点の位置を計測することにより、前記位置計測手段の前記自動運転建設機械に対する位置を校正することを特徴とする。
【0015】
第6の手段は、教示して記憶された教示データを順次読み出して、油圧ショベルの掘削から放土までの一巡する作業を繰り返し行う自動運転建設機械に設けられる位置計測手段の校正方法において、前記油圧ショベルを校正のための所定の姿勢にするステップと、前記油圧ショベルのフロントの各関節における角度を検出して自動運転建設機械本体の制御座標系から前記自動運転建設機械本体上での互いの位置が既知である複数の基準点を備える基準点座標系への第1の変換行列を求めるステップと、前記自動運転建設機械本体に設けられる撮影手段により前記基準点を撮像して前記基準点座標系から撮像座標系への第2の変換行列を求めるステップと、前記第1の変換行列と前記第2の変換行列から前記制御座標系から前記撮像座標系への第3の変換行列を求めるステップと、前記第3の変換行列の逆変換行列を求めるステップとからなることを特徴とする。
【0016】
第7の手段は、第5の手段または第6の手段のいずれか1つの手段において、前記位置計測手段の校正は、前記油圧ショベルのフロント部の姿勢を複数回変更して実施することを特徴とする。
【0017】
【発明の実施の形態】
以下に、本発明の一実施形態を図1から図9を用いて説明する。
【0018】
図2は、本実施形態に係わる自動運転建設機械およびその作業形態の一例を示す図である。
【0019】
同図において、1は後述する土石貯留所4に貯留された土石41を掘削して後述するダンプトラック3に放土する自動運転建設機械の一例としての自動運転ショベル、2は自動運転ショベル1から遠隔の位置に配置され自動運転ショベル1を遠隔操作する遠隔操作装置、3は土石41が積み込まれるベッセル31を備え、自動運転ショベル1から放土された土石を積み込み運搬するダンプトラック、4は土石貯留所、42は土石貯留所4の範囲を示すために設け た目印である。
ここで、自動運転ショベル1は、さらに走行体11と、走行体11上に旋回可能に設けた旋回体12と、旋回体12に俯仰動可能に設けたブーム14と、ブーム14の先端に回動可能に設けたアーム15と、アーム15の先端に回動可能に設けたバケット16と、旋回体12とブーム14との俯仰角を検出する角度センサ17と、ブーム14とアーム15との回動角を検出する角度センサ18と、アーム15とバケット16との回動角を検出する角度センサ19と、旋回体12の旋回角を検出する角度センサ60と、旋回体12に設けた運転台13と、運転台13の屋上に設けたダンプトラック3の積み込み場所と土石貯留所4を撮像するために設けたビデオカメラ61と、ビデオカメラ61を水平方向及び垂直方向に旋回可能にする雲台62と、自動運転ショベル1と遠隔操作装置2との間で各種のデータの送受信を行う無線機63とから構成されている。
【0020】
なお、本実施形態では、ビデオカメラ61を運転台13の屋上に設置したが、撮像に適した場所であるならば自動運転ショベル1のどこに設置してもよい。
【0021】
図1は、本実施形態に係る自動運転建設機械の主として再生動作時の制御機構を示すブロック図である。
【0022】
なお、同図において図2に示す同一符号の箇所は同一箇所を示す。
【0023】
同図において、10は自動運転ショベル1に搭載される装置の範囲を示し、100は主としてコンピュータで構成される自動運転を行うための各種の制御を行う自動運転コントローラ、101は後述するサーボ制御部1006から出力する駆動信号によって駆動される補助制御弁、102は補助制御弁101から出力される油圧信号によって制御され、後述するアクチュエータ103に流入する油量を制御する主制御弁、103は自動運転ショベル1の旋回体12、ブーム14、アーム15およびバケット16の各シリンダおよび旋回モータを作動するためのアクチュエータ、104は後述するサーボ前処理部1005へ補正値を出力する補正値計算部、1044は後述する位置計測部1041で取り込まれる画像等を確認するモニタ、64は雲台62の俯仰角度と旋回角度を検出して、これらを制御する雲台制御部、65は雲台制御部64を介してオペレーターが雲台の俯仰角度と旋回角度を操作する雲台操作部、66は再生動作時の作業位置の教示時に、後述する教示位置格納部1001に教示位置データおよび教示コマンド格納部1002に教示コマンドをそれぞれ格納させる教示操作部である。
【0024】
さらに、自動運転コントローラ100は、教示時に教示操作部66による教示操作に従って作成された教示位置データと各教示位置での雲台62の教示位置データを記憶する教示位置格納部1001と、教示時に作成された教示コマンドを記憶する教示コマンド格納部1002と、教示コマンド格納部1002からの教示コマンドをシーケンシャルに読み出し、教示位置出力部1004に教示位置データを出力させるための指令信号を出力すると共に、教示位置データ間の移動速度等の指令信号を出力するコマンドインタプリタ部1003と、コマンドインタプリタ部1003からの指令に従って教示位置格納部1001に格納されている教示位置データを出力する教示位置出力部1004と、教示位置出力部1004から出力される教示位置データを補間処理して補間された位置データに後述する補正値算出部1043から出力される補正値を加算して目標位置データを出力するサーボ前処理部1005と、サーボ前処理部1005からの入力値と現在位置演算部1007からの帰還値とを比較してその偏差を補正する駆動信号を補助制御弁101に出力するサーボ制御部1006と、角度センサ17〜19,60からの検出信号に基づいて自動運転ショベル1の現在位置を演算する現在位置演算部1007と、から構成される。
【0025】
また、補正位置計算部104は、ビデオカメラ61により撮像した画像信号を取り込み、コマンドインタプリタ部1003や教示操作部66からの指令により目標位置を計測する位置計測部1041と、自動運転ショベル1とダンプトラック3との教示時の位置関係および自動運転ショベル1と土石貯留所4との教示時の位置関係を記憶する基準教示位置格納部1042と、コマンドインタプリタ部1003からの指令による位置計測部1041の計算結果と基準教示位置格納部1042に格納されているの基準位置とにより目標位置の補正値を算出する補正値算出部1043と、から構成される。
【0026】
また、遠隔操作装置2は、再生動作時に、後述するコマンドインタプリタ部1003に自動運転ショベル1の再生動作の起動指令または停止指令を出力する再生操作部21と、前記指令を車載装置10に送信する無線機22とから構成される。
【0027】
ここで、教示時は、オペレーターは、教示操作部66によって自動運転ショベル1の姿勢を教示すると共に、自動運転ショベルが掘削動作に入る前には放土位置がモニタ1044に映し出されるように、また、放土動作に入る前には掘削位置がモニタ1044に映し出されるように、雲台操作部65により雲台62の姿勢を操作する。この時の姿勢は雲台の教示位置として教示位置格納部1001に記憶される。
【0028】
次に、図1に示す位置計測部1041における位置計測の処理手順を図3に示すフローチャートを用いて説明する。
【0029】
再生動作時、ビデオカメラ61によって撮像された画像信号は、位置計測部1041に入力される。位置計測部1041に取り込まれた画像信号は、ステップ301において、フィルタでノイズ除去され、ステップ302でエッジ抽出のオペレータを用いてエッジの抽出が行われる。次に、ステップ303では抽出したエッジからハフ変換等の手法を用いて直線の抽出を行う。ステップ304においてはステップ303で抽出した直線とステップ302で抽出したエッジとから、画像内の線分の端点と交点を検出する。次に、ステップ305において、あらかじめ登録してある対象物のモデルとステップ304で得られた線分の情報とから対象物の形状の認識を行う。形状の認識が出来ると、ステップ306において、ベッセル41上の特徴点の位置を算出する。
【0030】
ここで、位置計測部1041が認識したベッセル41の形状および特徴点S1,S2,S3,S4の例を図4に示す。
【0031】
また、特徴点抽出を簡略化するためにダンプトラック3のベッセル31に特徴点を明確にするための目印として光源等を取り付けて、明るさの違いによって特徴点を抽出するようにしてもよい。
【0032】
ここで、上記の特徴点の算出は、図5に示すように、一般に、少なくともベッセル31等の対象物の3点の特徴点間の距離が既知であって、ビデオカメラ61で撮像した画面内でのこれらの点の位置s1〜s4が解れば、後述する公知の計算方法によって各点の空間での位置を求めることが出来る。
【0033】
同図において、70に示すXo,Yo,Zoはベッセル41の目標物に設定した目標物座標系であり、この座標系70は特徴点の座標を表わすことが出来れば空間中のどこにとってもよいが、ここでは特徴点S1〜S4のうちの1つである点s1を目標物座標系の原点としている。71に示すXc,Yc,Zcはカメラ61のレンズ中心を原点としたカメラ座標系である。72に示すXw,Yw,Zwは自動運転ショベル1を自動制御するための基準となる制御座標系である。
【0034】
なお、前述の公知の計算方法としては、大村等によって発表された電子情報通信学会論文誌D−IIVo1.J72−D−IINo.9pp1441−1447が知られている。
【0035】
一般的に、座標系同士の位置関係は4行4列の同次変換行列で表すことができる。以下に、本実施形態に係る座標系同士の位置関係を表わす4行4列の同次変換行列について説明する。
【0036】
図5において、目標物座標系70からカメラ座標系71への変換行列をcHo、カメラ座標系71から制御座標系72への変換行列をwHc、目標物座標系70から制御座標系72への変換行列をwHoとすると、各変換行列間の関係は、
wHo=wHc×cHo …(1)
で表わすことが出来る。
【0037】
この変換行列は、例えば、目標物座標系70での任意の点の座標を(xo,yo,zo)とし、同じ点が制御座標系72で(xw,yw,zw)という座標で表わせる時、
【数1】
という関係が成り立つ。
【0038】
前述した公知の計算方法を用いれば、目標物座標系70上の配置が既知である基準点とカメラで撮像した基準点の画像から3次元空間上での基準点の座標が求まるので、(1)式における目標物座標系70からカメラ座標系71への変換行列cHoを求めることが出来る。また、カメラ座標系71から制御座標系72への変換行列wHcは、カメラの車体上の設置場所によって求まるが後述する方法によって校正を行う。このようにして変換行列cHoと変換行列wHcが求まると、(1)式により、目標物座標系70から制御座標系72への変換行列wHoが求まり、その結果、目標物と制御座標系の位置関係を求めることが出来る。
【0039】
次いで、ステップ307において、算出された特徴点の位置情報からカメラ座標系71における目標位置を算出する。次いで、ステップ308において前述した方法で算出した校正値を基にカメラ座標系71から制御座標系72への変換を行って制御座標系72における目標位置を算出する。
【0040】
掘削位置の抽出については、図6に示すように、土石貯留所4の左右にその範囲を示すための4つの特徴点S1’,S2’,S3’,S4’をもった目印42を設置する。ここでも目印42の位置関係は既知とすることが出来るので、目印42をビデオカメラ61により撮像し、前記と同様の方法により土石貯留所4の位置を算出することができる。
【0041】
自動運転を行う際には、以上のようにして計測した目標位置と基準教示位置格納部1042に格納している基準位置とを補正値算出部1043で比較して補正値を算出する。算出した補正値をサーボ前処理部1005に補正値として与えることにより位置補正をしながら作業を行う。
【0042】
次に、(1)式における変換行列wHoを求める方法、即ち、ビデオカメラ61の位置を校正する方法について図7から図9を用いて説明する。
【0043】
図7はバケット16に校正用治具を取り付けた自動運転ショベルを示す図であり、図8は図7に示すバケット16付近の拡大図である。
【0044】
これらの図において、161は校正時にバケット16に取り付けられる校正用の治具、1613は治具161上に原点を持つ治具座標系(Xs,Ys,Zs)、1611,1612は両者が交差する点を治具座標系の原点として示すための線、1614は治具161の表面に施され、それぞれの配置が既知であるマークである。
【0045】
なお、図7の各座標系は座標軸が2本しか記載されていないが、残りの軸は右手系でとると考える。
【0046】
また、マーク1614には十字の図形が用いられているが、このマーク1614は画像処理により検出することができ、また、各マーク1614の配置が分かるようなものであればどのような形状でもよい。治具座標系(Xs,Ys,Zs)が設定されると、各マーク1614の原点からの配置を確定することができる。
【0047】
治具161はバケット16に固定してあり、バケット16に対する取り付け位置は既知であり、また、この治具161は校正の時にだけ取り付け、通常の作業を行っている時は外ずしておく。
【0048】
この治具161上のマーク1614の位置は、バケット16への取り付け位置が既知であるので、フロント部の各関節に取り付けてある角度計17〜19の出力から、ショベル本体に対するそれぞれの位置、即ち、制御座標系72における治具161上のマーク1614の位置が既知となる。即ち、制御座標系72から治具座標系1613への変換行列sHwは治具161の取り付け位置とフロントの角度より求まる。
【0049】
一方、治具161を本実施形態に係る位置計測装置のカメラ61で撮影し、前述の方法にて位置計測を行うと治具座標系1613からカメラ座標系71への変換行列cHsを求めることが出来る。
【0050】
従って、上記の2つの変換行列sHw,cHsから以下の式により制御座標系72からカメラ座標系71への変換行列cHwを求めることができる。
【0051】
cHw=cHs×sHw …(3)
ここで、wHc=cHw−1 …(4)
であるので、(3)式と(4)式により変換行列wHcが求まり、(1)式において、変換行列wHcおよび変換行列cHoが求まることにより、制御座標系72とカメラ座標系71の位置関係を表わす変換行列wHoを求めることができる。
【0052】
ここで、上記の変換行列wHcを求める、即ち、制御座標系72に対するカメラ座標系71の校正に係わる処理手順を図9に示すフローチャートを用いて説明する。
【0053】
まず、ステップ901において、フロントを校正の姿勢に移動させる。校正の姿勢は治具161上のマークがカメラ61で撮影した画面内に入っていればどのような姿勢でも良いが、出来るだけ光軸と治具161が垂直になるように、即ち、画面と治具161の面が平行となるような姿勢が望ましい。次に、ステップ902において、校正の姿勢の状態のフロントの姿勢を、各関節に取り付けてある角度計から検出する。次に、ステップ903において、ステップ902で検出したフロントの姿勢より制御座標系72から治具座標系1613への変換行列であるsHwを算出する。次にステップ904において、治具161の画像を取り込む。次にステップ905において撮像した治具161の画像から線分を抽出し交差する線分であるマーク1614の画面上の座標を抽出する。次にステップ906において、既知である治具座標系1613上のマーク1614の座標とステップ905で抽出した画面上のマークの座標から前述の公知の計算方法によって空間上のマーク1614の座標を求め、その結果から治具座標系1613からカメラ座標系71への変換行列cHsを算出する。次にステップ907において、ステップ903で算出した制御座標系72から治具座標系1613への変換行列sHwとステップ906で算出した治具座標系1613からカメラ座標系71への変換行列cHsを(3)式へ代入して制御座標系72からカメラ座標系71への変換行列cHwを算出する。次にステップ908において、ステップ907で算出した制御座標系72からカメラ座標系71への変換行列cHwを(4)式へ代入して、カメラ座標系71から制御座標系72への変換行列wHcを算出する。
【0054】
次にステップ909においてその計算結果を保存する。保存した変換行列wHcは、図3に示す再生動作時のフローチャートのステップ308における(1)式による演算に使用する。
【0055】
以上のような手順により、実際の取り付け位置から校正した位置関係を求めることが出来る。
【0056】
本実施形態では、校正のために取る姿勢を一つにしているが、図9に示すフローチャートのステップ905の抽出が終わったところでフロントの姿勢を変更し、処理を繰り返しサンプルする点数を増やすことにより結果の冗長性を増すことが出来る。
【0057】
また、本実施形態では、校正用の治具161をバケット16に取り付けているが、油圧ショベル1上のその他の部位に治具を取り付けて校正を行うことも出来る。
【0058】
さらに、本実施形態では、バケット16に治具161を取り付けて校正を行っているが、治具を取り付けずにバケット16そのものの特徴点、例えば、爪の先やバケットの縁を抽出して算出することにより、校正を行うこともできる。
【0059】
【発明の効果】
本発明によれば、位置計測手段により自動運転建設機械本体に設けた基準点の位置を計測することにより、位置計測手段の自動運転建設機械に対する位置を校正することができるので、平易な手段で位置計測手段の校正を行うことができ、自動運転建設機械の稼働率を低下させずにメンテナンスを行うことができる。
【0060】
また、制御対象となるフロント部に基準点を設けたので、制御座標系に対する基準点の位置を校正するために別途計測する必要がなく、建設機械の機種によって計測方法を変更する必要がなくなり、機種や取り付け位置を変更しても迅速に校正を行うことができる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係る自動運転建設機械の主として再生動作時の制御機構を示すブロック図である。
【図2】本実施形態に係わる自動運転建設機械およびその作業形態の一例を示す図である。
【図3】図1に示す位置計測部1041における位置計測の処理手順を示すフローチャートである。
【図4】図1に示す位置計測部1041が認識したベッセル41の形状および特徴点S1,S2,S3,S4を示す図である。
【図5】図2に示すベッセル31等の目標物に設定した目標物座標系70、テレビカメラ61のレンズ中心を原点にしたカメラ座標系71、および自動運転ショベルを自動運転するための基準となる制御座標系72を示す図である。
【図6】図1に示す位置計測部1041が土石貯留所4の特徴点S1’,S2’,S3’,S4’として認識する目印42を示す図である。
【図7】本実施形態に係る治具161がバケット16に取り付けられた自動運転ショベル1を示す図である。
【図8】図7に示す治具161が取り付けられたバケット16付近の拡大図である。
【図9】本実施形態に係る位置計測装置の制御座標系72に対するカメラ座標系71の校正に係る処理手順を示すフローチャートである。
【符号の説明】
1 自動運転建設機械本体
10 車載装置
1001 教示位置格納部
1002 教示コマンド格納部
1003 コマンドインタプリタ部
1004 教示位置出力処理部
1005 サーボ前処理部
1006 サーボ制御部
1007 現在位置演算部
101 補助制御弁
102 主制御弁
103 アクチュエータ
104 補正位置計算部
1041 位置計測部
1042 基準位置格納部
1043 補正値算出部
1044 モニタ
16 バケット
161 校正用治具
2 遠隔操作装置
21 再生操作部
22,63 無線機
3 ダンプトラック
31 ベッセル
4 土石貯留所
41 土石
42 土石貯留範囲目印
61 ビデオカメラ
62 雲台
64 雲台制御部
65 雲台操作部
66 教示操作部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a construction machine that performs automatic operation, and more particularly, to an automatic operation construction machine that performs automatic loading work on a work machine such as a dump truck and a crusher, and a calibration method for the position measuring device thereof.
[0002]
[Prior art]
Normally, loading work on a dump truck or crusher by a construction machine such as a hydraulic excavator is performed at a crushed stone site by excavating debris from a certain place and releasing it to a fixed place such as a dump truck vessel or crusher hopper. It is a monotonous repetitive task of soiling. Such a monotonous repetitive operation is painful for the operator, and there is an increasing desire to be automatically performed without human intervention.
[0003]
Conventionally, one method for automating such loading work is to teach the excavation position and the earthing position, and repeat the main work of turning without moving the excavator between these positions. It is done. For example, Japanese Patent Laid-Open No. 9-195321 discloses a technique for automatically performing a series of operations from excavation to earth release of a hydraulic excavator by repeating the taught operation.
[0004]
However, in this conventional technique, there is a possibility that the automatic driving excavator itself is displaced due to jack-up due to excavation, inertial force of turning, and the like. In addition, the dump truck does not always stop at the same place, and there is a possibility that the dump truck cannot be loaded at an appropriate position on the dump truck to be dumped. Therefore, in order to solve this problem, an imaging means such as a video camera is installed in the automatic driving excavator, and a predetermined earthing position of the work machine as a target such as a dump truck is calculated from the imaging data and released. It is possible. For example, in Japanese Patent Laid-Open No. 10-88625, a stereo vision system is mounted on a wheel loader, the distance to the excavation target location is measured and excavation is performed, and the position to the discharge target location is measured. A technique for releasing earth is disclosed.
[0005]
[Problems to be solved by the invention]
By the way, when measuring the distance to such a work target and performing the work, in order to reflect the measurement result in the control system of the automatic driving construction machine regardless of where the distance sensor is installed, the automatic driving construction machine It is necessary to calibrate the position of the distance sensor above. Usually, this calibration requires the position to be determined from the dimensions of the construction machine or the calibration by an external calibration device.
[0006]
However, calibration must be performed when the position of the distance sensor is moved or replaced. If this calibration takes time, it will lead to a decrease in the operating rate of the construction machine. Therefore, it is necessary to carry out this calibration easily and quickly at the work site.
[0007]
In addition, when calibrating from the size of the construction machine, the calibration value changes as the size of the installed construction machine changes, so it is necessary to change the system each time, which also reduces the operating rate. Therefore, a calibration method that can respond quickly to any construction machine model is required.
[0008]
The object of the present invention has been made in view of the above-mentioned problems, and the calibration at the operation site and the model of the construction machine are changed by providing a reference point for calibration on the automatic operation construction machine body. It is an object of the present invention to provide a self-driving construction machine and a position measuring device calibration method that enable a calibration method that is not affected by the above.
[0009]
[Means for Solving the Problems]
In the present invention, the following means are adopted in order to solve the above problems.
[0010]
The first means is an automatic operation construction machine that sequentially reads out the teaching data stored by teaching and repeats a round of excavation to excavation of the excavator, and is installed on the automatic operation construction machine main body. A position measuring means for measuring the position to be measured, a digging position is measured by the position measuring means, the digging position taught by the measured digging position is corrected, and the earthing position is measured by the position measuring means to measure Means for correcting the earthing position taught by the released earthing position, and provided on the automatic driving construction machine main body or the automatic driving construction machine main body so as to be attachable to each other on the automatic driving construction machine main body. Means for providing a plurality of reference points whose positions are known, and by measuring the position of the reference point by the position measurement means, Characterized in that allowed calibrated position relative serial automatic operation of construction machines.
[0011]
The second means is characterized in that in the first means, the means having the reference point is provided in a front portion of the excavator.
[0012]
The third means is characterized in that, in the second means, the means having the reference point is a calibration jig attached to the front portion.
[0013]
According to a fourth means, in any one of the first means to the third means, the position measuring means includes a visual sensor constituted by at least one camera.
[0014]
The fifth means is a position measuring means for measuring a position installed on the main body of the automatic operation construction machine, a digging position is measured by the position measuring means, and a digging position taught by the measured digging position is corrected. And means for measuring the earthing position by the position measuring means and correcting the earthing position taught by the measured earthing position, and the automatic driving construction machine provided on the automatic driving construction machine main body. Automatic operation construction that includes a plurality of reference points whose positions on the main body are known, sequentially reads the teaching data stored by teaching, and repeats the work from excavation of the excavator to earth release In the calibration method of the position measuring means provided in the machine, by measuring the position of the reference point by the position measuring means, the automatic measuring construction machine of the position measuring means And wherein the calibrating the position.
[0015]
The sixth means is a calibration method of a position measuring means provided in an automatic operation construction machine that sequentially reads teaching data stored by teaching and repeats one round from excavation to earthing of a hydraulic excavator. A step of bringing the excavator into a predetermined posture for calibration, and detecting an angle at each joint of the front of the excavator to control each other on the automatic operation construction machine main body from the control coordinate system of the automatic operation construction machine main body. Obtaining a first transformation matrix into a reference point coordinate system having a plurality of reference points whose positions are known; and imaging the reference point by an imaging means provided in the automatic operation construction machine body, and the reference point coordinates Obtaining a second transformation matrix from the system to the imaging coordinate system; from the first transformation matrix and the second transformation matrix to the imaging coordinate system from the control coordinate system; Determining a third transformation matrix, characterized by comprising the step of obtaining the inverse transform matrix of the third transformation matrix.
[0016]
The seventh means is any one of the fifth means and the sixth means, wherein the calibration of the position measuring means is performed by changing the posture of the front portion of the excavator a plurality of times. And
[0017]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, an embodiment of the present invention will be described with reference to FIGS.
[0018]
FIG. 2 is a diagram illustrating an example of an automatic operation construction machine and its working mode according to the present embodiment.
[0019]
In the figure,
Here, the
[0020]
In the present embodiment, the
[0021]
FIG. 1 is a block diagram showing a control mechanism mainly during a regenerating operation of the automatic operation construction machine according to the present embodiment.
[0022]
In addition, in the figure, the location of the same code | symbol shown in FIG. 2 shows the same location.
[0023]
In the figure, 10 indicates a range of devices mounted on the
[0024]
Further, the automatic operation controller 100 includes a teaching
[0025]
In addition, the correction
[0026]
Further, the
[0027]
Here, at the time of teaching, the operator teaches the posture of the
[0028]
Next, the position measurement processing procedure in the
[0029]
During the reproduction operation, an image signal captured by the
[0030]
Here, FIG. 4 shows an example of the shape of the
[0031]
Further, in order to simplify the feature point extraction, a light source or the like may be attached to the
[0032]
Here, as shown in FIG. 5, the calculation of the above feature points is generally performed within the screen imaged by the
[0033]
In the same figure, Xo, Yo, and Zo shown in 70 are target coordinate systems set for the target of the
[0034]
As the above-mentioned known calculation method, the IEICE Transactions D-IIVo1. J72-D-IINo. 9pp 1441-1447 is known.
[0035]
In general, the positional relationship between coordinate systems can be expressed by a 4 × 4 homogeneous transformation matrix. Hereinafter, a 4 × 4 homogeneous transformation matrix representing the positional relationship between coordinate systems according to the present embodiment will be described.
[0036]
In FIG. 5, the conversion matrix from the target coordinate
wHo = wHc × cHo (1)
It can be expressed as
[0037]
For example, when the coordinates of an arbitrary point in the target coordinate
[Expression 1]
This relationship holds.
[0038]
If the known calculation method described above is used, the coordinates of the reference point in the three-dimensional space can be obtained from the reference point whose arrangement on the target coordinate
[0039]
Next, in
[0040]
As for the extraction of the excavation position, as shown in FIG. 6, a
[0041]
When performing automatic operation, the correction value calculation unit 1043 compares the target position measured as described above and the reference position stored in the reference teaching
[0042]
Next, a method for obtaining the transformation matrix wHo in the equation (1), that is, a method for calibrating the position of the
[0043]
FIG. 7 is a view showing an automatic driving excavator in which a calibration jig is attached to the
[0044]
In these drawings, 161 is a calibration jig attached to the
[0045]
Note that each coordinate system in FIG. 7 has only two coordinate axes, but the remaining axes are assumed to be a right-handed system.
[0046]
Further, although a cross shape is used for the
[0047]
The
[0048]
Since the position of the
[0049]
On the other hand, when the
[0050]
Therefore, the conversion matrix cHw from the control coordinate
[0051]
cHw = cHs × sHw (3)
Where wHc = cHw -1 (4)
Therefore, the transformation matrix wHc is obtained from the expressions (3) and (4), and the positional relationship between the control coordinate
[0052]
Here, a processing procedure for obtaining the transformation matrix wHc, that is, the calibration of the camera coordinate
[0053]
First, in step 901, the front is moved to a calibration posture. The calibration posture may be any posture as long as the mark on the
[0054]
In
[0055]
The positional relationship calibrated from the actual attachment position can be obtained by the above procedure.
[0056]
In this embodiment, one posture is taken for calibration, but when the extraction of step 905 in the flowchart shown in FIG. 9 is completed, the front posture is changed, and the number of points to be repeatedly sampled is increased. The resulting redundancy can be increased.
[0057]
In the present embodiment, the
[0058]
Furthermore, in this embodiment, the
[0059]
【The invention's effect】
According to the present invention, by measuring the position of the reference point provided on the automatic driving construction machine main body by the position measuring means, the position of the position measuring means with respect to the automatic driving construction machine can be calibrated. Calibration of the position measuring means can be performed, and maintenance can be performed without reducing the operating rate of the automatic operation construction machine.
[0060]
In addition, since a reference point is provided on the front part to be controlled, there is no need to separately measure to calibrate the position of the reference point with respect to the control coordinate system, and there is no need to change the measurement method depending on the type of construction machine, Calibration can be performed quickly even if the model or mounting position is changed.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a control mechanism mainly during a regenerating operation of an autonomous driving construction machine according to an embodiment of the present invention.
FIG. 2 is a diagram showing an example of an autonomous driving construction machine and its working mode according to the present embodiment.
FIG. 3 is a flowchart showing a position measurement processing procedure in the
4 is a diagram showing the shape of a
5 is a target coordinate
6 is a diagram showing a
FIG. 7 is a diagram showing an
8 is an enlarged view of the vicinity of the
FIG. 9 is a flowchart showing a processing procedure related to calibration of the camera coordinate
[Explanation of symbols]
1 Autonomous construction machinery
10 In-vehicle device
1001 Teaching position storage
1002 Teaching command storage
1003 Command interpreter section
1004 Teaching position output processing unit
1005 Servo pre-processing unit
1006 Servo controller
1007 Current position calculator
101 Auxiliary control valve
102 Main control valve
103 Actuator
104 Correction position calculator
1041 Position measurement unit
1042 Reference position storage unit
1043 Correction value calculation unit
1044 monitor
16 buckets
161 Calibration jig
2 Remote control device
21 Playback operation section
22,63 radio
3 Dump truck
31 Vessel
4 Debris Reservoir
41 earth and stone
42 Debris storage range landmark
61 video camera
62 pan head
64 pan head controller
65 pan head control unit
66 Teaching operation unit
Claims (7)
自動運転建設機械本体上に設置される位置を計測する位置計測手段と、該位置計測手段によって掘削位置を計測し、計測された掘削位置によって教示された掘削位置を補正するとともに、前記位置計測手段によって放土位置を計測し、計測された放土位置によって教示された放土位置を補正する手段と、前記自動運転建設機械本体上または前記自動運転建設機械本体に取り付け可能に設けられ、前記自動運転建設機械本体上での互いの位置が既知である複数の基準点を備える手段とを備え、前記位置計測手段により前記基準点の位置を計測することにより、前記位置計測手段の自動運転建設機械に対する位置を校正可能にしたことを特徴とする自動運転建設機械。In the automatic operation construction machine that reads out the taught data stored in order and repeats the work from excavation of the excavator to the earthing,
Position measuring means for measuring the position installed on the automatic operation construction machine main body, the excavation position is measured by the position measuring means, the excavation position taught by the measured excavation position is corrected, and the position measurement means Means for measuring the earthing position and correcting the earthing position taught by the measured earthing position, and is provided on the automatic driving construction machine body or attachable to the automatic driving construction machine body. Means for providing a plurality of reference points whose positions are known on the main body of the driving construction machine, and measuring the position of the reference point by the position measuring means, whereby the automatic driving construction machine of the position measuring means A self-driving construction machine characterized in that the position relative to can be calibrated.
前記基準点を備える手段は、前記油圧ショベルのフロント部に設けられることを特徴とする自動運転建設機械。In claim 1,
The automatic operation construction machine, wherein the means having the reference point is provided in a front portion of the hydraulic excavator.
前記基準点を備える手段は、前記フロント部に取り付けられる校正用治具であることを特徴とする自動運転建設機械。In claim 2,
The automatic operation construction machine, wherein the means having the reference point is a calibration jig attached to the front portion.
前記位置計測手段は、少なくとも1台のカメラにより構成される視覚センサを備えることを特徴とする自動運転建設機械。In any one of claims 1 to 3,
The automatic operation construction machine, wherein the position measuring means includes a visual sensor constituted by at least one camera.
前記位置計測手段により前記基準点の位置を計測することにより、前記位置計測手段の前記自動運転建設機械に対する位置を校正することを特徴とする自動運転建設機械に設けられる位置計測手段の校正方法。Position measuring means for measuring the position installed on the automatic operation construction machine main body, the excavation position is measured by the position measuring means, the excavation position taught by the measured excavation position is corrected, and the position measurement means Means for measuring the earthing position by means of, and correcting the earthing position taught by the measured earthing position, and the mutual positions on the automatic driving construction machine main body provided on the automatic driving construction machine main body Position measuring means provided in an automatic operation construction machine comprising a plurality of reference points known to each other, sequentially reading teaching data stored by teaching, and repeatedly performing a round of work from excavation to earth release of a hydraulic excavator In the calibration method of
A position measuring means calibration method provided in an automatic driving construction machine, wherein the position measuring means measures the position of the reference point to calibrate the position of the position measuring means with respect to the automatic driving construction machine.
前記油圧ショベルを校正のための所定の姿勢にするステップと、前記油圧ショベルのフロントの各関節における角度を検出して自動運転建設機械本体の制御座標系から前記自動運転建設機械本体上での互いの位置が既知である複数の基準点を備える基準点座標系への第1の変換行列を求めるステップと、前記自動運転建設機械本体に設けられる撮影手段により前記基準点を撮像して前記基準点座標系から撮像座標系への第2の変換行列を求めるステップと、前記第1の変換行列と前記第2の変換行列から前記制御座標系から前記撮像座標系への第3の変換行列を求めるステップと、前記第3の変換行列の逆変換行列を求めるステップとからなることを特徴とする自動運転建設機械に設けられる位置計測手段の校正方法。In the calibration method of the position measuring means provided in the automatic operation construction machine that sequentially reads the teaching data stored by teaching and repeats the work from excavation of the excavator to the earthing,
The hydraulic excavator is placed in a predetermined posture for calibration, and the angle at each joint of the front of the hydraulic excavator is detected to detect each other on the automatic driving construction machine main body from the control coordinate system of the automatic driving construction machine main body. Obtaining a first transformation matrix into a reference point coordinate system having a plurality of reference points whose positions are known, and imaging the reference point by an imaging means provided in the automatic operation construction machine body, the reference point Obtaining a second transformation matrix from the coordinate system to the imaging coordinate system; and obtaining a third transformation matrix from the control coordinate system to the imaging coordinate system from the first transformation matrix and the second transformation matrix. And a step of obtaining an inverse transformation matrix of the third transformation matrix, wherein the position measuring means is calibrated in a self-driving construction machine.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP22936999A JP3827480B2 (en) | 1999-08-13 | 1999-08-13 | Calibration method for automatic operation construction machine and its position measuring means |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP22936999A JP3827480B2 (en) | 1999-08-13 | 1999-08-13 | Calibration method for automatic operation construction machine and its position measuring means |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001055762A JP2001055762A (en) | 2001-02-27 |
JP3827480B2 true JP3827480B2 (en) | 2006-09-27 |
Family
ID=16891101
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP22936999A Expired - Fee Related JP3827480B2 (en) | 1999-08-13 | 1999-08-13 | Calibration method for automatic operation construction machine and its position measuring means |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3827480B2 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019187937A1 (en) | 2018-03-29 | 2019-10-03 | ヤンマー株式会社 | Obstacle detection system and work vehicle |
WO2021140864A1 (en) * | 2020-01-10 | 2021-07-15 | 株式会社デンソー | System for detecting orientation/position of detector and method for detecting orientation/position of detector |
JP2021182001A (en) * | 2018-03-29 | 2021-11-25 | ヤンマーパワーテクノロジー株式会社 | Work vehicle |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005194825A (en) * | 2004-01-09 | 2005-07-21 | Shin Caterpillar Mitsubishi Ltd | Work unit controller in construction machine |
JP5271758B2 (en) * | 2009-03-11 | 2013-08-21 | 日立建機株式会社 | Hydraulic drive device for work machine |
JP5248377B2 (en) * | 2009-03-16 | 2013-07-31 | 日立建機株式会社 | Hydraulic drive device for work machine |
JP6407663B2 (en) * | 2014-10-30 | 2018-10-17 | 日立建機株式会社 | Work support image generation apparatus and work machine control system including the same |
WO2015137526A1 (en) * | 2015-03-27 | 2015-09-17 | 株式会社小松製作所 | Device for calibrating work machine and method for calibrating work machine parameters of work machine |
JP6480830B2 (en) * | 2015-08-24 | 2019-03-13 | 株式会社小松製作所 | Wheel loader control system, control method therefor, and wheel loader control method |
CN106817905A (en) * | 2015-09-30 | 2017-06-09 | 株式会社小松制作所 | Correction system, Work machine and bearing calibration |
JP6229097B2 (en) * | 2016-03-29 | 2017-11-08 | 株式会社小松製作所 | Calibration system, work machine and calibration method |
JP6925816B2 (en) * | 2017-02-09 | 2021-08-25 | 株式会社小松製作所 | Position measurement system, work machine, and position measurement method |
JP2017193958A (en) * | 2017-07-25 | 2017-10-26 | 株式会社小松製作所 | Calibration system, work machine, and calibration method |
JP6860460B2 (en) * | 2017-09-21 | 2021-04-14 | 日立建機株式会社 | Construction machinery |
JP7073232B2 (en) | 2018-09-06 | 2022-05-23 | 住友重機械工業株式会社 | Excavator and how to update excavator information |
JP7301514B2 (en) * | 2018-09-21 | 2023-07-03 | 日立建機株式会社 | Coordinate transformation system and working machine |
JP2021155980A (en) * | 2020-03-26 | 2021-10-07 | 株式会社小松製作所 | Work machine and control method of work machine |
JP7452473B2 (en) | 2021-03-08 | 2024-03-19 | コベルコ建機株式会社 | Container measuring system |
WO2023063219A1 (en) * | 2021-10-15 | 2023-04-20 | 住友重機械工業株式会社 | Surroundings monitoring system for work machine, information processing device, and surroundings monitoring method |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5809658A (en) * | 1993-09-29 | 1998-09-22 | Snap-On Technologies, Inc. | Method and apparatus for calibrating cameras used in the alignment of motor vehicle wheels |
JPH1088625A (en) * | 1996-09-13 | 1998-04-07 | Komatsu Ltd | Automatic excavation machine and method, and automatic loading method |
JP3789218B2 (en) * | 1997-10-22 | 2006-06-21 | 日立建機株式会社 | Automatic operation construction machine and operation method thereof |
-
1999
- 1999-08-13 JP JP22936999A patent/JP3827480B2/en not_active Expired - Fee Related
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019187937A1 (en) | 2018-03-29 | 2019-10-03 | ヤンマー株式会社 | Obstacle detection system and work vehicle |
KR20200139125A (en) | 2018-03-29 | 2020-12-11 | 얀마 파워 테크놀로지 가부시키가이샤 | Obstacle detection system, and work vehicle |
JP2021182001A (en) * | 2018-03-29 | 2021-11-25 | ヤンマーパワーテクノロジー株式会社 | Work vehicle |
WO2021140864A1 (en) * | 2020-01-10 | 2021-07-15 | 株式会社デンソー | System for detecting orientation/position of detector and method for detecting orientation/position of detector |
Also Published As
Publication number | Publication date |
---|---|
JP2001055762A (en) | 2001-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3827480B2 (en) | Calibration method for automatic operation construction machine and its position measuring means | |
JP2000192514A (en) | Automatically operating construction machine and operating method thereof | |
JP2844040B2 (en) | 3D display device | |
JP5108350B2 (en) | Work amount measuring method and work amount measuring apparatus for hydraulic excavator | |
JPWO2018043104A1 (en) | Wheel loader and control method of wheel loader | |
WO2015182455A1 (en) | Work state detection system of work vehicle, and work vehicle | |
JP5052463B2 (en) | Stereo image processing device for work machines | |
JP7420733B2 (en) | Display control system and display control method | |
CN111032962B (en) | Construction machine | |
JP6848039B2 (en) | Excavator | |
JP3609164B2 (en) | Excavation area setting device for area limited excavation control of construction machinery | |
JP7023813B2 (en) | Work machine | |
EP3907336A1 (en) | Monitoring device and construction machine | |
US10648160B2 (en) | Work machine with bucket monitoring | |
JP4196826B2 (en) | Rear view display device for turning work vehicle | |
JP2007061042A (en) | Automatic control system of farm working machine | |
JP7276046B2 (en) | Operation teaching system for work machines | |
JP3789218B2 (en) | Automatic operation construction machine and operation method thereof | |
JP2000064359A (en) | Automatic-operation construction machine | |
US20230358014A1 (en) | Work machine | |
JPH11293708A (en) | Automatic operating construction machinery | |
JP3926464B2 (en) | Automatic driving excavator | |
US20240117604A1 (en) | Automatic mode for object detection range setting | |
US11680387B1 (en) | Work vehicle having multi-purpose camera for selective monitoring of an area of interest | |
US20230340759A1 (en) | Work vehicle having controlled transitions between different display modes for a moveable area of interest |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040916 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060616 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060627 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060704 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |