JP6598552B2 - 位置計測システム - Google Patents

位置計測システム Download PDF

Info

Publication number
JP6598552B2
JP6598552B2 JP2015148935A JP2015148935A JP6598552B2 JP 6598552 B2 JP6598552 B2 JP 6598552B2 JP 2015148935 A JP2015148935 A JP 2015148935A JP 2015148935 A JP2015148935 A JP 2015148935A JP 6598552 B2 JP6598552 B2 JP 6598552B2
Authority
JP
Japan
Prior art keywords
point
measurement
unit
stereo
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015148935A
Other languages
English (en)
Other versions
JP2017032276A (ja
Inventor
浩章 青木
三郎 片山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taisei Corp
Original Assignee
Taisei Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taisei Corp filed Critical Taisei Corp
Priority to JP2015148935A priority Critical patent/JP6598552B2/ja
Publication of JP2017032276A publication Critical patent/JP2017032276A/ja
Application granted granted Critical
Publication of JP6598552B2 publication Critical patent/JP6598552B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Operation Control Of Excavators (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、位置計測システムに関する。
作業員の立ち入れない作業区域では、遠隔操作による無人化施工が採用される場合がある。無人化施工では、例えば、作業現場から送られてくる映像を複数のモニタに表示し、オペレータがこのモニタを確認しながら無線通信を用いた遠隔操作により建設機械を制御する(例えば、特許文献1参照)。
ここで、建設機械に設置したカメラにより撮影した作業映像および作業現場に設置した建設機械の側面映像の二つの映像をモニタに表示すると、オペレータは側面映像を確認することで建設機械と作業対象物との距離感を把握すると共に作業映像を見ながら正確に遠隔操作を行うことができる。
しかし、建設機械が移動しながら作業を行う場合や、側面映像を撮影するカメラの設置が困難な場合においては、作業映像だけを見てオペレータが遠隔操作を行うことがあった。この場合、作業映像だけでは遠近感に乏しいので、オペレータは今までの経験を頼りに建設機械と作業対象物との距離感を把握しなければならない。その為、オペレータの熟練度により作業効率が変わるだけでなく、建設機械の接触事故等のおそれもあった。
そこで、従来、建設機械にスキャニングレーザ手段を搭載する技術が提案されている。スキャニングレーザ手段は、作業する対象地形領域にレーザ光線を照射し、その反射光を受光するものである。これにより、オペレータは、側面映像がなくても建設機械と作業対象物との距離感を把握することが可能である。
特開平8−74296号公報 特開2004−294067号公報
しかしながら、建設機械が作業する環境について十分に考慮されていないので、特許文献2に記載される技術を実際の無人化施工に用いることは難しかった。つまり、建設機械に搭載する機器類は、種々の耐久性(防水・防塵・耐振動・耐衝撃等)を備えていなければならないが、レーザ距離計や3Dスキャナ等の計測器類は、一般的にこれらの耐久性を備えていない。その為、計測器類を建設機械に搭載することは、容易でなかった。
計測器の設置台として非常に優れた雲台等を設置し、また屋外の使用に耐え得るように計器類をカバーで覆うことも考えられるが、装置が大がかりになると共に費用が余計にかかるので望ましくない。なお、計器類をカバーで覆う場合は、カバーの材料(例えば、ガラスやアクリル等)が計測に悪影響を及ぼす可能性があるため、耐久性が上がっても計測精度が落ちることも懸念される。
このような観点から、本発明は、計測器類を用いることなく作業対象物の位置を計測することができる位置計測システムを提供する。
前記課題を解決するため、本発明に係る位置計測システムは、ステレオカメラを有する建設機械に搭載される位置計測システムである。建設機械は、クローラ式のものである。この位置計測システムは、前記ステレオカメラを設置するカメラ設置台と、水平面に対する前記ステレオカメラの傾きを検出する傾きセンサと、前記ステレオカメラで撮影されたステレオ画像から計測点の位置を算出するステレオ画像解析部とを備える。このカメラ設置台は、前記建設機械に接続される下部架台と、前記ステレオカメラを固定する上部架台と、前記下部架台と前記上部架台との間に介設される防振部材とを有する。前記下部架台および前記上部架台は、底板および背板を備えた断面形状がL形の部材からなり、前記防振部材は、前記下部架台の前記底板と前記上部架台の前記底板との間、および前記下部架台の前記背板と前記上部架台の前記背板との間に設けられている。ステレオ画像解析部は、前記傾きセンサが検出する傾きから前記計測点の位置を補正することを特徴とする。
本発明に係る位置計測システムにおいては、傾きセンサによって水平面に対するステレオカメラの傾きを検出できるので、計測点の位置を補正することが可能である。したがって、地面が平らに整備されていない作業現場などにおいても、計測点の位置を正確に計測することができる。その為、本発明に係る位置計測システムによれば、操縦者は、建設機械を遠隔操作する場合においても距離感を把握することが容易である。また、建設機械の振動がステレオカメラに伝わるのを防振部材で防止することができる。
本発明によれば、計測器類を用いることなく作業対象物の位置を計測することができる。
本発明の実施形態に係る位置計測システムを搭載した建設機械の外観斜視図である。 ステレオカメラの外観斜視図である。 実施形態に係る建設機械の機能構成図である。 ステレオカメラ法を用いた画像解析における射影変換のイメージ図である。 作業現場における建設機械の状態を示す図であり、(a)は平坦な場所に建設機械が存在する場合を示し、(b)は起伏のある場所に建設機械が存在する場合を示す。 ステレオ画像解析部の処理を示すフローチャートの例示である。 実施例に係る建設機械の機能構成図である。 物体追跡部の処理を説明するための図である。 物体追跡部におけるモニタへの表示画面の例示である。 物体追跡部の処理を示すフローチャートの例示である。 二点間計測部の処理を説明するための図である。 二点間計測部におけるモニタへの表示画面の例示である。 二点間計測部の処理を示すフローチャートの例示である。 形状計測部の処理を説明するための図である。 形状計測部におけるモニタへの表示画面の例示である。 形状計測部の処理を示すフローチャートの例示である。
以下、本発明の実施をするための形態を、適宜図面を参照しながら詳細に説明する。
各図は、本発明を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本発明は、図示例のみに限定されるものではない。また、参照する図面において、本発明を構成する部材の寸法は、説明を明確にするために誇張して表現されている場合がある。なお、各図において、共通する構成要素や同様な構成要素については、同一の符号を付し、それらの重複する説明を省略する。
≪実施形態に係る建設機械の構成について≫
図1を参照して、実施形態に係る建設機械1について説明する。建設機械1は、遠隔操作による無人化施工に用いられるものである。操縦者は、建設機械1に搭乗しておらず、作業現場から離れた場所に存在する遠隔操作室で操縦を行っている。この遠隔操作室には、例えば、モニタとコントローラとを備えるPC(Personal Computer)が設置されており、操縦者は、モニタを見ながらコントローラの操作を行う。
建設機械1は、上部機構2と、上部機構2の前方に取り付けられた作業部機構3と、上部機構2の下部に取り付けられた下部機構4と、通信装置5と、遠隔操作に用いる画像を撮影するステレオカメラ6と、位置計測システム10とで構成されている。
上部機構2は、操縦席2aと、駆動源収容部2bとからなる。本実施形態では、無人化施工システムを行うことを想定しているので、操縦者は、操縦席2aに搭乗していない。駆動源収容部2bには、エンジン、エンジンで発生した回転力を油圧に変換する油圧ポンプ、油圧ポンプから送られた油の圧力、流量、方向等を調整・制御するコントロールバルブ等が収容されている。上部機構2は、旋回体2cによって、水平方向の回転が可能である。
作業部機構3は、上部機構2に取り付けられたブーム3aと、ブーム3aの先端に取り付けられたアーム3bと、アーム3bの先端に取り付けられたアタッチメント3cと、これらの間に一つずつ介設された合計で三つの油圧シリンダ3d,・・,3dとからなる。作業部機構3は、油圧シリンダ3dをコントロールバルブから送られる油を用いて伸縮することにより作動し、作業部機構3を直線状や内側に屈曲した状態にする。アタッチメント3cは、作業対象物に接触して実際に作業を行うものであり、作業の内容に応じて取り替え可能である。アタッチメント3cは、図1に示す以外にも、例えば、バケットや把持装置等であってもよい。
下部機構4は、車輪4aと、車輪4aを取り囲むクローラ4bとからなる。なお、下部機構4は、実施形態に示すクローラ式のものでなく、ホイール式のものであってもよい。
通信装置5は、無線通信を用いて、建設機械1の遠隔操作に必要な情報等を送受信する。通信装置5は、例えば、アンテナや通信制御部からなる。通信装置5は、例えば、建設機械1の制御信号を遠隔操作室のコントローラから受信し、また、ステレオカメラ6で撮影した画像を遠隔操作室のモニタに送信する。
ステレオカメラ6は、操縦席2aの屋根に設置され、操縦席2aの前方を撮影する。撮影された画像は、遠隔操作室内のモニタに表示されるため、操縦者は、遠隔操作室にいながらにして操縦席2aに搭乗しているような感覚で操縦を行うことができる。図2を参照して、ステレオカメラ6の詳細な構成について説明する。
ステレオカメラ6は、右側のカメラ6rと、左側のカメラ6lと、右側のカメラ6rおよび左側のカメラ6lが固定されるシャフト6aとからなる。右側のカメラ6rおよび左側のカメラ6lは、例えば、耐振機能を備えたCCD(Charged Coupled Device)カメラであり、所定のフレームレートの画像(例えば、毎秒10枚の画像)を撮影することができる。カメラ6rで撮影された画像(以下では「右画像」と称する)およびカメラ6lで撮影された画像(以下では「左画像」と称する)の少なくとも何れか一方は、建設機械1を遠隔操作するために、遠隔操作室のモニタに表示される。なお、左側のカメラ6lに比べて右側のカメラ6rは作業部機構3に近い位置に存在するので、モニタに右画像を表示した方が操縦を行いやすい。
また、ステレオカメラ6で撮影した右画像および左画像は、建設機械1の遠隔操作による操縦を補助する情報を作成するために用いられる。遠隔操作を補助する情報として、ここでは、作業対象物の位置に関する情報を想定しており、ステレオカメラ法を用いた画像解析により算出される。画像解析の詳細については後記する。
図2に示すように、ステレオカメラ6は、カメラ設置台7を介して建設機械1に設置される。カメラ設置台7は、シャフト6aを支持する一対の支持部材7a,7aと、上部架台7bと、下部架台7cと、上部架台7bと下部架台7cとの間に介設さる4つの防振部材7d,・・,7dとからなる。なお、カメラ設置台7は、図示していないが、アクリル製の防護板をステレオカメラ6の前面に設置してもよい。この場合、防護板によって飛石等を防護することが可能である。
上部架台7bおよび下部架台7cは、いずれも底板および背板を備えた断面形状がL形の部材(山形鋼)からなる。上部架台7bの底板および背板には、支持部材7a,7aが固設されている。また、下部架台7cの底板の下部には、磁石等の接合手段7eが設けられている。ステレオカメラ6は、磁石等を使った接合手段7eにより、操縦席2aの屋根の上部に簡単に着脱可能である。
防振部材7dは、建設機械1の振動がステレオカメラ6に伝わるのを防止するためのものである。防振部材7dは、振動を抑えられるものであれば種類や構成は特に限定されず、例えば、ゴムを材料とするものであってよい。
次に、建設機械1に搭載される位置計測システム10の構成について、図3を参照して説明する。図3は、建設機械1の機能構成図である。
建設機械1は、図1で説明した構成以外に主制御部8を備えている。主制御部8は、通信装置5を介して遠隔操作室から受信した制御信号に基づいて上部機構2、作業部機構3および下部機構4を作動させる。主制御部8は、CPU(Central Processing Unit)によるプログラム実行処理や、専用回路等により実現される。主制御部8がプログラム実行処理により実現する場合、主制御部8の機能を実現するためのプログラムが建設機械1内の図示しない記憶手段に格納される。
位置計測システム10は、ジャイロセンサ11と、ステレオ画像解析部12とからなる。ジャイロセンサ11は、水平面に対するステレオカメラ6の傾きを検出する。なお、ここでは、ステレオカメラ6の傾きを検出する傾きセンサとしてジャイロセンサ11を想定して説明するが、水平面に対するステレオカメラ6の傾きを検出することが可能であればセンサの種類は特に限定されない。ジャイロセンサ11は、ステレオカメラ6の傾きを精度よく検出可能な場所に設置されるのが望ましい。
ステレオ画像解析部12は、ステレオカメラ6から右画像および左画像を取得し、ステレオカメラ法を用いた画像解析を行う。ステレオ画像解析部12は、CPU(Central Processing Unit)によるプログラム実行処理や、専用回路等により実現される。ステレオ画像解析部12がプログラム実行処理により実現する場合、ステレオ画像解析部12の機能を実現するためのプログラムが建設機械1内の図示しない記憶手段に格納される。
ステレオ画像解析部12に用いられるステレオカメラ法の基本原理は、三角測量の原理と同様である。つまり、計測を行う計測点と、左側のカメラ6lと、右側のカメラ6rとを結んで測量区域を三角形で表し、この三角形の内角・辺長を用いて計測点を算出する。ここで、ステレオカメラ法を用いた画像解析を行うためには、実際の空間に設定した三次元座標と、右画像および左画像に設定した二次元座標との間で射影変換を行う必要がある。射影変換のイメージを図4に示す。そして、射影変換を行うためには、ステレオカメラ6の位置や姿勢と、その位置や姿勢で空間中の点を撮影した場合におけるステレオカメラ6の右画像,左画像に写し出される計測点の位置との関係を示す情報(以下、「射影変換情報」と称す)を予め作成しておく必要がある。射影変換情報は、例えば、射影変換の式やこの式の係数などである。
操縦者は、例えば、図5(a)で示すように、建設機械1が平坦な場所に存在する状態における射影変換情報を予め作成しておく。ステレオ画像解析部12は、この射影変換情報を用いることで、建設機械1が平坦な場所に存在する状態でステレオカメラ6により撮影された画像に写し出される計測点の位置を計測することができる。
一方、建設機械1が作業する作業現場は、平坦な場所だけでなく起伏がある場所も多く存在する。例えば、図5(b)に示すように、建設機械1が起伏のある場所に存在する状態では、ステレオカメラ6が水平面に対して傾くことになる。この場合、ステレオ画像解析部12は、射影変換情報を作成する際に想定していたステレオカメラ6の位置や姿勢と、傾いた建設機械1におけるステレオカメラ6の位置や姿勢との差を考慮して画像解析を行う必要がある。
本実施形態では、ジャイロセンサ11を用いて建設機械1の傾きθを検出し、この傾きθをステレオカメラ6の傾きθとして計測点の位置を補正する。つまり、ステレオ画像解析部12は、ジャイロセンサ11から検出した傾きθを取得し、取得した傾きθを用いて計測点の位置を補正する。ここで、計測点の位置の補正方法は、特に限定されるものではなく種々の方法が考えられる。例えば、ステレオ画像解析部12は、計測点の位置を算出する前にカメラ6l,6rの位置や姿勢を補正してもよいし、算出した計測点の位置を直接的に補正してもよい。
次に、図6を参照して、ステレオ画像解析部12における処理について説明する。図6は、ステレオ画像解析部12の処理を示すフローチャートの例示である。ここで、ステレオ画像解析部12は、建設機械1が平坦な場所に存在する状態におけるステレオカメラ6の位置や姿勢と、右画像、左画像に写し出される計測点の位置との関係を示す射影変換情報を有しているものとする。この射影変換情報は、例えば、操縦者により予め作成される。
最初に、ステレオ画像解析部12は、ステレオカメラ6の右画像および左画像、並びに撮影時のステレオカメラ6の傾きθを取得する(ステップS1)。続いて、ステレオ画像解析部12は、通信装置5を介して、ステレオカメラ6の右画像を遠隔操作室に送信する(ステップS2)。なお、ステレオ画像解析部12は、ステレオカメラ6の右画像に加えて、または右画像に替えて左画像を送信してもよい。続いて、ステレオ画像解析部12は、右画像に写し出される計測点の位置(二次元座標値)を取得する(ステップS3)。計測点の位置を取得する方法は、特に限定されずに種々の方法であってよい。例えば、操縦者が、モニタ9bに表示される右画面に写し出される計測点を選択し、ステレオ画像解析部12が選択された計測点の位置の座標情報を取得する。
次に、ステレオ画像解析部12は、左画像に写し出される計測点の位置(二次元座標値)を算出する(ステップS4)。ステレオ画像解析部12は、例えば、ステレオ相関法を用いて右画像に写し出される計測点の位置から左画像に写し出される計測点の位置を算出する。ステレオ相関法は、右画像および左画像の部分毎の輝度分布の相関関係から右画像と左画像との対応付けを行うものである。なお、ステップS2で左画像を遠隔操作室に送信した場合には、モニタ9bに表示される左画面に写し出される計測点を操縦者が選択し、選択された計測点の位置の座標情報をステレオ画像解析部12が取得するようにしてもよい。
次に、ステレオ画像解析部12は、右画像における計測点の位置と左画像における計測点の位置と予め作成された射影変換情報とから、射影変換を行って実際の空間に設定した三次元座標における計測点の位置(三次元座標値)を算出する(ステップS5)。続いて、ステレオ画像解析部12は、ジャイロセンサ11で検出したステレオカメラ6の傾きθに基づいて、ステップS5で算出した計測点の位置を補正する(ステップS6)。そして、ステレオ画像解析部12は、補正した計測点の位置を遠隔操作室に送信し、ステレオカメラ6で撮影した画像と共にモニタ9bに表示する(ステップS7)。
以上のように、実施形態に係る位置計測システム10においては、ジャイロセンサ11によって水平面に対するステレオカメラ6の傾きを検出できるので、計測点の位置を補正することが可能である。したがって、地面が平らに整備されていない作業現場などにおいても、計測点の位置を正確に計測することができる。その為、実施形態に係る位置計測システム10によれば、操縦者は、建設機械1を遠隔操作する場合においても距離感を把握することが容易である。
図7を参照して、実施例に係る建設機械1Aについて説明する。実施例に係る建設機械1Aの位置計測システム10Aは、実施形態で説明したステレオ画像解析部12を用いて、物体追跡部13、二点間計測部14および形状計測部15の三つの機能を実現している。これらの機能は、CPU(Central Processing Unit)によるプログラム実行処理や、専用回路等により実現される。物体追跡部13、二点間計測部14および形状計測部15がプログラム実行処理により実現する場合、これらの機能を実現するためのプログラムが建設機械1内の図示しない記憶手段に格納される。以下では、これらの機能について順番に説明する。
<物体追跡機能>
物体追跡部13は、追跡対象物までの距離を時間の経過と共に計測する。操縦者は、例えば、油圧シャベルで土砂をダンプに積み込む作業を遠隔操作で行う場合に、ダンプを追跡対象物に指定すると、物体追跡部13によりダンプとの距離を常に把握しながら作業を行うことが可能である。
図8を参照して、物体追跡部13について説明する。図8は、物体追跡部13の処理の内容を説明するための図である。物体追跡部13は、時刻t1での計測点P3D_t1および時刻t2での計測点P3D_t2のように、時間の経過と共に変化する計測点P3D_t1,P3D_t2の位置を算出する。ここで、物体追跡部13は、各時刻における計測点の位置を算出する際に、実施形態で説明したステレオ画像解析部12を用いてステレオカメラ6の傾きθに基づき計測点P3D_t1,P3D_t2の位置を補正する。その為、物体追跡部13は、各時刻において正確な計測点P3D_t1,P3D_t2の位置を算出することが可能である。
図9を参照して、物体追跡部13による追跡結果のモニタ9bへの表示方法について説明する。図9は、物体追跡部13におけるモニタ9bへの表示画面の例示である。物体追跡画面101は、撮影画像表示欄102、距離表示欄103、追跡結果情報表示欄104からなる。
撮影画像表示欄102には、ステレオカメラ6により撮影された右画像および左画像の何れか一方が表示される。図9では、説明の便宜上、時刻t1における追跡対象物(実線)および時刻t2における追跡対象物(破線)を一つの画面上に表しているが、実際には現時点における追跡対象物のみが画面上に表示される。
距離表示欄103には、追跡対象物までの現在の距離が表示される。例えば、建設機械1Aが追跡対象物に徐々に近づく場合を想定する。この場合、時刻t1における追跡対象物までの距離が「11.3m」であったとすると、時間の経過とともに距離表示欄103に表示される数値が「11.3m」から徐々に減少していく。なお、追跡対象物までの距離が予め設定した距離よりも近くなった場合に、物体追跡部13は、距離表示欄103に接近を警告する表示を行うようにしてもよい。
追跡結果情報表示欄104には、追跡を開始してから現在までの横移動量や速度等が表示される。これらの値は、例えば、ステレオカメラ6に設定した座標系の原点から見たものであってよい。
図10を参照して、物体追跡部13の具体的な処理を説明する。図10は、物体追跡部13の処理を示すフォローチャートの例示である。
物体追跡部13は、まず、撮影画像表示欄102の中から追跡を行いたい追跡対象物の一点(以下、「追跡点」と称す)の指定を受け付ける(ステップS21)。続いて、物体追跡部13は、追跡点の右画像上の位置を求め(ステップS22)、追跡点の三次元座標値を求める(ステップS23)。続いて、物体追跡部13は、追跡点までの距離から、追跡点の周囲50cm四方の画像上のピクセル(pixel)数を求め(ステップS24)、求めた範囲を初期テンプレートとする(ステップS25)。
次に、物体追跡部13は、ステレオカメラ6による撮影を開始させ(ステップS26)、撮影中にステップS27〜S33の処理を繰り返し行う(ステップS27)。続いて、物体追跡部13は、追跡する対象の最大移動速度から最大移動量をpixelで算出し(ステップS28)、前回の追跡点の位置を中心として、最大移動量を範囲とした領域内で順にテンプレートとのパターンマッチングを行う(ステップS29)。この処理は、左右の画像それぞれにおいて行う。続いて、物体追跡部13は、左右の画像それぞれで、テンプレートと画像の差が最小の位置を対象が移動した位置(新たな追跡点)とする(ステップS30)。物体追跡部13は、左右の画像における新しい追跡点から、三次元座標値を求める(ステップS31)。
次に、物体追跡部13は、新たな追跡点の三次元座標値から、50cm四方の画像上のpixel数を計算し、新しいテンプレート領域を求める(ステップS32)。そして、物体追跡部13は、距離表示欄103および追跡結果情報表示欄104に追跡結果の表示を行う(ステップS33)。物体追跡部13は、操縦者により撮影を終了されるまでの間、ステップS27〜S33の処理を繰り返し行う(ステップS27)。
<二点間計測機能>
二点間計測部14は、計測対象物の寸法を測定する。操縦者は、例えば、遠隔操作で作業を行う場合に、作業を行うもの(例えば、岩等)の二点を指定すると、二点間計測部14により岩の寸法を把握しながら作業を行うことが可能である。
図11を参照して、二点間計測部14について説明する。図11は、二点間計測部14の処理の内容を説明するための図である。二点間計測部14は、計測点P3D_1,P3D_2のように、1つの画像内における二点間の距離を算出する。ここで、二点間計測部14は、各計測点の位置を算出する際に、実施形態で説明したステレオ画像解析部12を用いてステレオカメラ6の傾きθに基づき計測点P3D_1,P3D_2の位置を補正する。その為、二点間計測部14は、正確な計測点P3D_1,P3D_2の位置を算出することが可能である。
図12を参照して、二点間計測部14による計測結果のモニタ9bへの表示方法について説明する。図12は、二点間計測部14におけるモニタ9bへの表示画面の例示である。二点間計測画面201は、撮影画像表示欄202および計測結果情報表示欄203からなる。
撮影画像表示欄202には、ステレオカメラ6により撮影された右画像および左画像の何れか一方が表示される。図12では、撮影画像表示欄202に計測対象物としての直方体が表示されており、この直方体の1辺の距離を計測した状態が表示されている。
計測結果情報表示欄203には、計測点に関する情報が表示される。
図13を参照して、二点間計測部14の具体的な処理を説明する。図13は、二点間計測部14の処理を示すフォローチャートの例示である。
二点間計測部14は、まず、ステレオカメラ6による撮影を停止させ(ステップS41)、撮影画像表示欄202に右側のカメラ6rで撮影した静止画像を表示させる。続いて、二点間計測部14は、撮影画像表示欄202の中から計測を行いたい部分の一点(以下、「計測点」と称す)の指定を受け付け(ステップS42)、ステレオ相関法により左画像上の計測点の位置を求める(ステップS43)。
次に、二点間計測部14は、左右の画像における計測点の位置から、ステレオカメラ法で計測点の三次元位置(三次元座標値)を求め(ステップS44)、求めた計測点の三次元座標値を登録する(ステップS45)。続いて、二点間計測部14は、2点の三次元座標値の登録を行ったか否かを判定する(ステップS46)。計測点の三次元座標値の登録を1点でしか行っていない場合には、二点間計測部14は、処理をステップS42に戻して2点目の登録を行う。一方、2点の三次元座標値の登録を行っている場合には、二点間計測部14は、登録した2点の計測点の二点間距離を計算する(ステップS47)。そして、二点間計測部14は、ステップS47で計算した二点間距離を、撮影画像表示欄202の計測対象物に重ねて表示する(ステップS48)。
<形状計測機能>
形状計測部15は、計測対象物の形状や重心を測定する。操縦者は、例えば、ブレーカー付油圧シャベルで割岩作業を遠隔操作で行う場合に、割岩するものを指定すると、形状計測部15により割岩するものの形状や重心を把握しながら作業を行うことが可能である。
図14を参照して、形状計測部15について説明する。図14は、形状計測部15の処理の内容を説明するための図である。形状計測部15は、操縦者により計測対象物を選択されると、指定した点を含む物体を点群として抽出し、抽出した点群の各々の点を計測点として位置を算出する。また、形状計測部15は、抽出した点群の重心点および重心点から鉛直方向にある点群表面上の点(以下、「作業点」と称す)を求める。
地面に置かれたものの形状や重心を測定する場合を想定した場合、形状計測部15は、地面となる平面の方程式を求め、物体の点群の抽出を行う際に平面の方程式によって点群を抽出する範囲を決定する。形状計測部15は、例えば、平面の方程式を求める際に、実施形態で説明したステレオ画像解析部12を用いてステレオカメラ6の傾きθに基づき地面の位置を補正する。具体的には、カメラ座標系でXZ平面上に決め打ちした4点の座標値を、ジャイロセンサ11で検出した傾きθ分だけX軸周りに回転し、ステレオカメラ6が設置されている高さ分だけ−Y軸方向に移動して平面の方程式を求める。その為、形状計測部15は、地面を正確に算出することが可能であり、これによって計測対象物を正確に特定できる。
また、形状計測部15は、点群の位置を算出する際や重心点および作業点を求める際に、実施形態で説明したステレオ画像解析部12を用いてステレオカメラ6の傾きθに基づき点群の位置、重心点の位置および作業点の位置を補正する。その為、形状計測部15は、正確にこれらの位置を計測することが可能である。
図15を参照して、形状計測部15による計測結果のモニタ9bへの表示方法について説明する。図15は、形状計測部15におけるモニタ9bへの表示画面の例示である。形状計測画面301は、撮影画像表示欄302、計測結果情報表示欄303からなる。
撮影画像表示欄302には、ステレオカメラ6により撮影された右画像および左画像の何れか一方が表示される。図15では、撮影画像表示欄302に計測対象物として直方体が表示されており、この直方体を計測した状態が表示されている。撮影画像表示欄302には、計測対象物の形状が点群として表示されており、また、作業点が二重丸で表示されている。
計測結果情報表示欄303には、計測した重心点の位置が表示される。これらの値は、例えば、ステレオカメラ6に設定した座標系の原点から見たものであってよい。
図16を参照して、形状計測部15の具体的な処理を説明する。図16は、形状計測部15の処理を示すフォローチャートの例示である。
形状計測部15は、まず、ステレオカメラ6による撮影を停止させ(ステップS61)、撮影画像表示欄302に右側のカメラ6rで撮影した静止画像を表示させる。続いて、形状計測部15は、撮影画像表示欄302の中から形状等の計測を行いたい計測対象物の指定を受け付ける(ステップS62)。続いて、形状計測部15は、ステレオ相関法で右画像と左画像との相関関係を計算することにより三次元点群を求める(ステップS63)。ステップS63で相関関係を計算する範囲は、画面全体であってもよいし、ステップS62で指定を受けた位置の周囲のように画面の特定の範囲であってもよい。
次に、形状計測部15は、相関計算の結果から、地面となる平面の方程式を求める(ステップS64)。続いて、形状計測部15は、三次元点群から地面と一定距離以内にある点群を除外する(ステップS65)。続いて、形状計測部15は、指定された計測点の周囲の平均座標値を求め(ステップS66)、求めた平均座標値を中心とした最大計測サイズを直径とする範囲の外に存在する点を除外する(ステップS67)。形状計測部15は、残った点を二次元画像である撮影画像表示欄302上に投影し、指定点を含む領域を重心の検出対象範囲とする(ステップS68)。
次に、形状計測部15は、対象点群の平均座標値を求め、計測対象物の重心とする(ステップS69)。形状計測部15は、重心から鉛直方向に延びる直線の方程式を求め(ステップS70)、求めた直線に一番近い点の座標値を求める(ステップS71)。続いて、形状計測部15は、重心点と直線に一番近い点の鉛直方向の距離を求め(ステップS72)、重心点から求めた距離だけ離れた直線上の点を物体表面上の点(作業点)とする(ステップS73)。そして、形状計測部15は、検出結果をカメラ座標系から車両座標系への変換を行い(ステップS74)、検出結果を撮影画像表示欄302および計測結果情報表示欄303に表示する(ステップS75)。形状計測部15は、例えば、抽出した点群や作業点を目立つ色の点として、撮影画像表示欄302の計測対象物に重ねて表示する。
[変形例]
以上、本発明の実施形態について説明したが、本発明はこれに限定されるものではなく、特許請求の範囲の趣旨を変えない範囲で実施することができる。実施形態の変形例を以下に示す。
実施形態では、ステレオカメラ6は、二台のカメラ6r,6lからなっていたが、三台以上のカメラから構成されていてもよい。その場合、すべてのカメラが撮影した画像から計測点を算出してもよいし、選択した二台以上のカメラが撮影した画像から計測点を算出することもできる。
また、実施形態では、建設機械1がステレオ画像解析部12を備える構成であったが、外部の装置(例えば、遠隔操作室内のPC)がステレオ画像解析部12を備える構成であってもよい。その場合、ジャイロセンサ11によって計測された傾きθやステレオカメラ6が撮影した画像は、通信装置5を介してステレオ画像解析部12を備える当該外部の装置に送信されるようにする。なお、物体追跡部13、二点間計測部14および形状計測部15についても同様に、外部の装置(例えば、遠隔操作室内のPC)が備える構成であってもよい。
1,1A 建設機械
2 上部機構
3 作業部機構
4 下部機構
5 通信装置
6 ステレオカメラ
6r,6l カメラ
7 カメラ設置台
10,10A 位置計測システム
11 ジャイロセンサ
12 ステレオ画像解析部
13 物体追跡部
14 二点間計測部
15 形状計測部

Claims (1)

  1. ステレオカメラを有する建設機械に搭載される位置計測システムであって、
    前記建設機械は、クローラ式のものであり、
    前記ステレオカメラを設置するカメラ設置台と、
    水平面に対する前記ステレオカメラの傾きを検出する傾きセンサと、
    前記ステレオカメラで撮影されたステレオ画像から計測点の位置を算出するステレオ画像解析部と、を備え、
    前記カメラ設置台は、前記建設機械に接続される下部架台と、前記ステレオカメラを固定する上部架台と、前記下部架台と前記上部架台との間に介設される防振部材と、を有し、
    前記下部架台および前記上部架台は、底板および背板を備えた断面形状がL形の部材からなり、
    前記防振部材は、前記下部架台の前記底板と前記上部架台の前記底板との間、および前記下部架台の前記背板と前記上部架台の前記背板との間に設けられており、
    前記ステレオ画像解析部は、前記傾きセンサが検出する傾きから前記計測点の位置を補正する、
    ことを特徴とする位置計測システム。
JP2015148935A 2015-07-28 2015-07-28 位置計測システム Active JP6598552B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015148935A JP6598552B2 (ja) 2015-07-28 2015-07-28 位置計測システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015148935A JP6598552B2 (ja) 2015-07-28 2015-07-28 位置計測システム

Publications (2)

Publication Number Publication Date
JP2017032276A JP2017032276A (ja) 2017-02-09
JP6598552B2 true JP6598552B2 (ja) 2019-10-30

Family

ID=57988337

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015148935A Active JP6598552B2 (ja) 2015-07-28 2015-07-28 位置計測システム

Country Status (1)

Country Link
JP (1) JP6598552B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11361463B2 (en) 2017-09-28 2022-06-14 Optim Corporation Position estimation system and method, and non-transitory storage medium
JP7021502B2 (ja) * 2017-10-27 2022-02-17 コベルコ建機株式会社 建設機械の視覚拡張システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2937003B2 (ja) * 1994-03-10 1999-08-23 日立建機株式会社 産業機械の安全装置
JPH0974515A (ja) * 1995-09-04 1997-03-18 Fuji Photo Optical Co Ltd テレビカメラの防振装置
JP3720972B2 (ja) * 1998-01-22 2005-11-30 株式会社小松製作所 地形形状計測装置
JP2005345341A (ja) * 2004-06-04 2005-12-15 Pentax Corp デジタルデータを取り扱う写真測量システム
JP4273336B2 (ja) * 2004-07-30 2009-06-03 日立建機株式会社 建設機械の監視カメラシステム
JP4575334B2 (ja) * 2006-06-28 2010-11-04 日立建機株式会社 建設機械
JP3169716U (ja) * 2011-06-02 2011-08-11 株式会社N K L ビデオカメラ又はフィルムカメラ用防振装置
US8924096B2 (en) * 2012-10-31 2014-12-30 Caterpillar Inc. Implement controller having angular rate correction
CN202966068U (zh) * 2012-11-26 2013-06-05 徐州海伦哲专用车辆股份有限公司 带有视频监控系统的抢修工程车

Also Published As

Publication number Publication date
JP2017032276A (ja) 2017-02-09

Similar Documents

Publication Publication Date Title
KR101885704B1 (ko) 교정 시스템, 작업 기계 및 교정 방법
KR101815269B1 (ko) 위치 계측 시스템 및 위치 계측 방법
JP2020159192A (ja) 表示システム、建設機械、及び表示方法
EP2187166B1 (en) Industrial Machine
JP5390813B2 (ja) 空間情報表示装置及び支援装置
WO2017061518A1 (ja) 施工管理システム、施工管理方法、及び管理装置
US20150009329A1 (en) Device for monitoring surroundings of machinery
JP6867132B2 (ja) 作業機械の検出処理装置及び作業機械の検出処理方法
JP6322612B2 (ja) 施工管理システム及び形状計測方法
WO2015089403A1 (en) Estimating three-dimensional position and orientation of articulated machine using one or more image-capturing devices and one or more markers
JP2008144379A (ja) 遠隔操縦作業機の画像処理システム
JP6585697B2 (ja) 施工管理システム
JP7071203B2 (ja) 作業機械
KR20170039612A (ko) 교정 시스템, 작업 기계 및 교정 방법
WO2021019948A1 (ja) 建設機械の位置特定システム
KR102509346B1 (ko) 교정 작업 지원 시스템
JPWO2020003497A1 (ja) 撮像装置の校正装置、監視装置、作業機械および校正方法
KR101944816B1 (ko) 굴삭 작업 검측 자동화 시스템
JP7386592B2 (ja) 建設機械の操作補助システム
CN111386369A (zh) 工程机械
JP6598552B2 (ja) 位置計測システム
JP7366702B2 (ja) 合成距離画像の作成方法、土砂採取モニター用画像の作成方法、及び、合成距離画像の作成装置
JP6616149B2 (ja) 施工方法、作業機械の制御システム及び作業機械
KR101944817B1 (ko) 휴대단말기를 이용한 굴삭 작업 검측 자동화 시스템
KR102011386B1 (ko) 굴삭기 작업반경 표시 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180515

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190319

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190702

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191001

R150 Certificate of patent or registration of utility model

Ref document number: 6598552

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150