JP5802476B2 - 建設機械制御システム - Google Patents

建設機械制御システム Download PDF

Info

Publication number
JP5802476B2
JP5802476B2 JP2011173558A JP2011173558A JP5802476B2 JP 5802476 B2 JP5802476 B2 JP 5802476B2 JP 2011173558 A JP2011173558 A JP 2011173558A JP 2011173558 A JP2011173558 A JP 2011173558A JP 5802476 B2 JP5802476 B2 JP 5802476B2
Authority
JP
Japan
Prior art keywords
stereo camera
image data
unit
imaging
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011173558A
Other languages
English (en)
Other versions
JP2013036243A (ja
Inventor
大友 文夫
文夫 大友
大佛 一毅
一毅 大佛
大谷 仁志
仁志 大谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Topcon Corp
Original Assignee
Topcon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Topcon Corp filed Critical Topcon Corp
Priority to JP2011173558A priority Critical patent/JP5802476B2/ja
Publication of JP2013036243A publication Critical patent/JP2013036243A/ja
Application granted granted Critical
Publication of JP5802476B2 publication Critical patent/JP5802476B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、建設機械で土木作業を行う場合の、作業状況の把握を容易にし、作業性を向上させると共に、土木作業の精度を向上させる建設機械制御システムに関するものである。
建設機械を用いて土木作業を実行する場合、例えば掘削機により掘削、或は法面の形成等の土木作業を実行する場合、作業者が施工計画データを把握し、概略作業を完了させ、その後実測しつつ掘削、法面を形成し、施工計画データに合致させることが行われている。然し乍ら、作業者自体が土木作業、例えば掘削作業の現況を把握することは難しく、掘削作業をする際の掘削量の大小等、何処の部分をどの程度掘削するか等は、作業者の勘に頼ることが多く、施工精度は作業者の熟練度に左右され、又作業が非能率的であった。
尚、特許文献1には、建設機械に搭載されたステレオカメラにて取得された対象物の一対の画像を、画像処理部によりステレオ処理することで3次元画像を構築し、該3次元画像と記憶部に記憶された目標データ画像を比較演算し、実像/仮想画像表示部に3次元画像と目標データ画像とを重合せて表示する構成が開示されている。
然し乍ら、特許文献1の場合、ステレオカメラにより取得された画像をステレオ処理し、3次元画像として構築した後に実像/仮想画像表示部に立体感を持って表示することを行っている。従って、ステレオ処理する際の演算処理にミスが発生する場合があり、演算処理のミスにより3次元画像を形成できなかったり、演算そのものに時間を要し、3次元画像をリアルタイムで表示できない場合があった。
特開2002−352224号公報
本発明は斯かる実情に鑑み、施工計画に対する現況の作業状態や、作業部位に対する作業具の位置関係を容易に把握可能な建設機械制御システムを提供するものである。
本発明は、建設機械が作業具と、該作業具を支持し、該作業具に所要の作動をさせる作業アームと、第1の撮像部及び第2の撮像部を有するステレオカメラと、施工計画データを記憶する記憶部と、前記ステレオカメラの位置情報を取得する位置測定部と、3次元表示装置と、制御装置とを具備し、該制御装置は前記施工計画データと前記ステレオカメラの位置情報に基づき施工計画画像データを作成し、該施工計画画像データと前記ステレオカメラで撮像された現況画像データを重合せ、重合せた合成画像を前記3次元表示装置に3次元表示させる建設機械制御システムに係るものである。
又本発明は、前記合成画像は、前記現況画像データと前記施工計画画像データのいずれか一方が半透明となっている建設機械制御システムに係るものである。
又本発明は、前記3次元表示装置は前記ステレオカメラにて撮像された2つの現況画像データを基に前記合成画像の3次元表示が可能な3次元ディスプレイである建設機械制御システムに係るものである。
又本発明は、前記ステレオカメラの撮像位置を変更可能な撮像位置変更手段を更に有する建設機械制御システムに係るものである。
又本発明は、前記ステレオカメラの撮像方向を変更可能な撮像方向変更手段を更に有する建設機械制御システムに係るものである。
更に又本発明は、前記ステレオカメラにより撮像される前記現況画像データの表示範囲を変更する表示範囲変更手段を更に有する建設機械制御システムに係るものである。
本発明によれば、建設機械が作業具と、該作業具を支持し、該作業具に所要の作動をさせる作業アームと、第1の撮像部及び第2の撮像部を有するステレオカメラと、施工計画データを記憶する記憶部と、前記ステレオカメラの位置情報を取得する位置測定部と、3次元表示装置と、制御装置とを具備し、該制御装置は前記施工計画データと前記ステレオカメラの位置情報に基づき施工計画画像データを作成し、該施工計画画像データと前記ステレオカメラで撮像された現況画像データを重合せ、重合せた合成画像を前記3次元表示装置に3次元表示させるので、前記制御装置内で3次元画像を構築する必要がなく、演算処理の軽量化を図りステレオ演算処理のミスを防止できると共に、施工計画に対する現況の作業状態や進捗状態、作業部位に対する前記作業具の位置関係等を直感的に把握することができ、作業性を向上させることができる。
又本発明によれば、前記合成画像は、前記現況画像データと前記施工計画画像データのいずれか一方が半透明となっているので、施工計画に対する現況の作業状態、進捗状態を直感的に把握できる。
又本発明によれば、前記3次元表示装置は前記ステレオカメラにて撮像された2つの現況画像データを基に前記合成画像の3次元表示が可能な3次元ディスプレイであるので、前記制御装置内で画像処理を行い3次元画像を構築する必要がなく、演算処理の軽量化を図ることで前記制御装置の負担を軽減でき、ステレオ演算処理のミスを防止することができる。
又本発明によれば、前記ステレオカメラの撮像位置を変更可能な撮像位置変更手段を更に有するので、作業者からは死角となっている位置でも前記ステレオカメラにて撮像することができ、より作業性を向上させることができる。
又本発明によれば、前記ステレオカメラの撮像方向を変更可能な撮像方向変更手段を更に有するので、作業者からは死角となっている位置でも前記ステレオカメラにて撮像することができ、より作業性を向上させることができる。
更に又本発明によれば、前記ステレオカメラにより撮像される前記現況画像データの表示範囲を変更する表示範囲変更手段を更に有するので、カメラの撮像方向を変更する機構を設けることなく該機構を設けた場合と同様の効果を得ることができ、作業性が向上すると共にコストの低減を図ることができるという優れた効果を発揮する。
本発明が掘削機に適用された実施例を示す斜視図である。 本実施例の掘削機の運転室の内部を示す説明図である。 本実施例のステレオカメラが基準位置と変更位置にある場合を示す概略側面図である。 本実施例の制御装置とカメラ部とを示すブロック図である。 本実施例の合成画像の一例を示す図である。 本実施例の作用を説明する説明図である。
以下、図面を参照しつつ本発明の実施例を説明する。
図1は、本発明が建設機械である掘削機に実施された場合を示している。
走行駆動体1に機体2が設けられ、該機体2は前記走行駆動体1に対して鉛直軸心を中心に旋回可能となっている。前記機体2は運転室3を有し、該運転室3は前記機体2の旋回中心からオフセットされており、前記機体2の旋回中心にはブーム4が起伏可能に設けられている。該ブーム4の起伏中心(回転中心)は、前記鉛直軸心上にあると共に、該鉛直軸心と直交する水平軸心を中心に回転可能となっている。前記ブーム4の先端にはアーム5が軸6を中心に回転可能に設けられ、該アーム5の先端には作業具であるバケット7が軸(図示せず)を中心に回転自在に設けられている。
前記ブーム4、前記アーム5、前記バケット7は同一平面(以下回転平面と称す)内で回転する様になっており、前記ブーム4はブームシリンダ9によって起伏され、前記アーム5はアームシリンダ11によって回転され、前記バケット7はバケットシリンダ12によって回転される様になっている。従って、前記ブーム4の前記機体2に対する回転、前記アーム5の前記ブーム4に対する回転、前記バケット7の前記アーム5に対する回転の協働で、前記バケット7は前後動、上下動、掬上げ等種々の動作が可能であるが、前記バケット7の動作は前記回転平面内で行われる。
ここで、前記ブーム4、前記アーム5は屈曲可能に連結され、作業アームを構成し、該作業アームは前記バケット7を支持し、該バケット7に所要の動作をさせる。尚、上記掘削機では前記作業アームは前記ブーム4、前記アーム5の2節を屈曲可能に連結した構成となっているが、更に3節で屈曲可能に構成されてもよい。
前記機体2には第1GPS装置13、第2GPS装置14が所定の位置、好ましくは前記機体2の旋回中心を通過する直線に沿って設けられる。尚、GPS装置は3以上設けられてもよい。前記第1GPS装置13、前記第2GPS装置14が設けられることで、前記機体2の絶対座標及び該機体2の向き(方位)が測定される。
又、前記機体2には水平2方向の傾斜を検知する2軸傾斜センサ15(図4参照)が設けられ、前記ブーム4にブーム傾斜センサ16(図4参照)、前記アーム5にアーム傾斜センサ17(図4参照)、前記バケット7にバケット傾斜センサ18(図4参照)がそれぞれ設けられている。又、図示しないが、前記機体2の旋回角を検出する旋回角検出器が設けられる。尚、前記ブーム傾斜センサ16、前記アーム傾斜センサ17、前記バケット傾斜センサ18は、それぞれ回転角を検出する回転角検出器としてもよい。
前記第1GPS装置13、前記第2GPS装置14は前記機体2の機械中心に対して既知の位置に設けられている。機械中心としては、例えば前記ブーム4の回転中心が採用される。又、前記ブーム4の長さ、前記アーム5の長さ、前記バケット7の回転中心から先端迄の長さ及び該バケット7の回転中心から該バケット7の中心位置迄の距離はそれぞれ既知となっている。
前記バケット7に対向する様、図1では前記運転室3の上面の所定位置に上方に向って延出し、前方に向って湾曲するレール20が設けられ、該レール20に基準光軸が前記回転平面と平行なステレオカメラ19が設けられる。該ステレオカメラ19はスライダ(図示せず)を介して前記レール20に摺動自在に設けられ、スライダ駆動モータ(図示せず)によって前記レール20に沿って移動可能であり、前記ステレオカメラ19を移動させることで該ステレオカメラ19により撮像位置(視点)を変更できる様になっている。尚、前記レール20、前記スライダ、前記スライダ駆動モータ等により撮像位置変更手段が構成される。
又、前記ステレオカメラ19は、ピッチ(PITCH)、ロール(ROLL)、ヨウ(YAW)の3軸について、前記スライダに回転自在に支持されており、各軸に対して前記ステレオカメラ19を回転させる為のモータ、例えばサーボモータやステッピングモータ等のピッチモータ(図示せず)、ロールモータ(図示せず)、ヨウモータ(図示せず)が設けられ、前記ピッチモータ、前記ロールモータ、前記ヨウモータにより前記ステレオカメラ19の撮像方向(視野の方向)を変更する撮像方向変更手段が構成される。
尚、前記ステレオカメラ19が前記レール20の基端部に位置する場合を前記ステレオカメラ19の基準位置とし、前記レール20の先端部に位置する場合を前記ステレオカメラ19の変更位置とし、該ステレオカメラ19が基準位置にある場合の該ステレオカメラ19と前記機体2の機体中心迄の距離、前記ステレオカメラ19が変更位置にある場合の該ステレオカメラ19と前記機体2の機体中心迄の距離は、それぞれ既知となっている。又、前記ステレオカメラ19の基準位置、変更位置での撮像方向(水平に対する角度)も既知となっている。尚、変更後の位置をリニアエンコーダ等で検出してもよい。
前記ステレオカメラ19は、左右に配置された第1撮像部21、第2撮像部22を有している。前記第1撮像部21及び前記第2撮像部22は、デジタル画像を取得し、それぞれ多数の画素の集合体であるCCD、CMOSセンサ等の撮像素子を有するデジタルカメラであり、前記撮像素子にはそれぞれ座標系が設定され、各画素毎に位置が特定できる様になっており、前記座標系の原点は、それぞれ前記第1撮像部21、前記第2撮像部22の光軸に合致する様に設定されている。
前記第1撮像部21と前記第2撮像部22との距離(両光軸間の距離)は既知であり、前記第1撮像部21又は前記第2撮像部22のいずれかの光軸が基準光軸と設定され、例えば前記第1撮像部21の光軸が基準光軸と設定される。該基準光軸は前記回転平面と平行であると共に該回転平面との距離は既知となっている。
前記ブームシリンダ9の伸縮、前記アームシリンダ11の伸縮、前記バケットシリンダ12の伸縮の協働により、前記バケット7を上下移動、前後移動、更に回転させ、所望の掘削作業が行える。
図2は、前記機体2の前記運転室3内に於ける作業者の視界を示している。
該運転室3は前記機体2の旋回中心からオフセットされており、作業者は前記バケット7を後方斜めから目視する様になっている。又、作業者の視界を遮らない位置、例えば前記運転室3の前面に設けられた窓部23の下部には、肉眼で、或は専用の3Dメガネによりステレオ画像を立体視させることが可能な3次元ディスプレイ等の3次元表示装置25が設けられている。
又、図3は前記ステレオカメラ19が基準位置(図中、実線で示される)、変更位置(図中、2点鎖線で示される)にある場合の該ステレオカメラ19の撮像範囲を示しており、該ステレオカメラ19を前記レール20に沿って変更位置迄移動させることで、基準位置からは撮像できなかった死角部24の撮像を行うことができる。
次に、図4を参照して、建設機械制御システムに於ける制御装置26及びカメラ部27について説明する。
前記制御装置26は、主に機体姿勢センサ部28、主演算部(主CPU)29、記憶部31、画像合成部32、操作部33、前記3次元表示装置25及び第1通信部34から構成される。
更に、前記機体姿勢センサ部28は前記第1GPS装置13、前記第2GPS装置14、前記2軸傾斜センサ15、前記ブーム傾斜センサ16、前記アーム傾斜センサ17、前記バケット傾斜センサ18とを有し、前記機体姿勢センサ部28は前記ステレオカメラ19の位置情報を取得する位置測定部を構成している。
前記記憶部31は、データ格納部36とプログラム格納部37を有し、前記データ格納部36には土木作業を行う為の施工計画の数値データ、3次元画像化した施工計画画像データ、前記第1撮像部21、前記第2撮像部22で取得した現況画像データ、施工計画画像データとの比較により施工計画データと土木作業後の施工状態の差異を確認する為の土木作業後の画像データ等のデータが格納される。
又、前記プログラム格納部37には前記ステレオカメラ19の作動、前記機体姿勢センサ部28からの信号の取得、前記3次元表示装置25への画像の表示を制御するシーケンスプログラム、前記レール20に沿って移動し、3軸に対して回転する前記ステレオカメラ19の駆動を制御する駆動制御プログラム、前記第1撮像部21と前記第2撮像部22とで取得した画像と施工計画画像データとを合成する画像合成プログラム、合成された画像データを前記3次元表示装置25に3次元表示させる画像表示プログラム、前記カメラ部27へのカメラ駆動制御コマンドの送信及び該カメラ部27から画像データの受信を行う通信プログラム等のプログラムが格納される。
前記画像合成部32は、施工計画の数値データから、前記ステレオカメラ19の位置、光軸の方向に基づき、該ステレオカメラ19で撮像した現況画像データと同等の施工計画画像データを作成し、作成した施工計画画像データに現況画像データを半透明な状態で重合せる画像合成処理の制御を行う。尚、画像合成処理は、前記現況画像データに前記施工計画画像データを半透明な状態で重合せてもよいのは言う迄もない。
前記画像合成部32により合成された合成画像は、前記3次元表示装置25に例えば図5に示される様な合成画像38として3次元表示される。図5中では、ハッチング部分が半透明の現況画像データ39であり、白抜き部分が施工計画画像データ41となっており、該施工計画画像データ41には、作業状態の把握が容易になる様、所定の間隔で格子状に基準線42が形成されている。
又、前記操作部33は前記ステレオカメラ19の撮像開始、停止指示を入力する為の作動スイッチ(図示せず)と、前記ステレオカメラ19の撮像位置を変更する為の位置変更スイッチ(図示せず)と、ピッチ、ロール、ヨウの3軸に対して前記ステレオカメラ19を回転させる為のジョイスティック(図示せず)を有し、前記作動スイッチ、前記位置変更スイッチ、前記ジョイスティックを操作し、前記ステレオカメラ19への駆動指示を入力することでカメラ駆動制御コマンドが生成される様になっている。尚、ジョイスティックに位置変更スイッチを設けてもよい。
前記第1通信部34は、第1情報通信部43と第1コマンド通信部44とを有し、前記第1情報通信部43は前記ステレオカメラ19にて撮像された現況画像データ39を受信し、前記第1コマンド通信部44は前記操作部33より入力された指示により前記主演算部29にて生成されたカメラ駆動制御コマンドを前記カメラ部27へ送信する様になっている。
又、前記3次元表示装置25は第1表示部25aと第2表示部25bとを有しており、前記第1撮像部21と前記第2撮像部22で撮像された2つの画像を前記第1表示部25aと前記第2表示部25bとにそれぞれ個別に表示することで、肉眼或は3Dメガネ等を介して前記現況画像データ39が立体視できる様になっている。
前記カメラ部27は、主に前記ステレオカメラ19、副演算部(副CPU)45、カメラ駆動部46、第2通信部47から構成される。
前記カメラ駆動部46は、移動駆動部48と首振り駆動部49とを有している。前記移動駆動部48は、前記操作部33の位置変更スイッチの入力により生成されたカメラ駆動制御コマンドに基づき、前記ステレオカメラ19を前記レール20に沿って移動させる。前記首振り駆動部49は、前記操作部33のジョイスティックの操作により生成されたカメラ駆動制御コマンドに基づき、3軸に対して前記ステレオカメラ19を回転させる。
又、前記第2通信部47は、第2情報通信部51と第2コマンド通信部52とを有し、前記第2情報通信部51は前記ステレオカメラ19により撮像された前記現況画像データ39を前記制御装置26へ送信し、前記第2コマンド通信部52は、前記第1コマンド通信部44より送信されたカメラ駆動制御コマンドを受信する様になっており、カメラ駆動制御コマンドに基づいて前記ステレオカメラ19が所定の動作を行う。
次に、図6を参照して本発明の実施例に係る作用について説明する。
前記操作部33により、前記制御装置26に撮像の開始指示が入力されると、前記第1コマンド通信部44を介して前記第2コマンド通信部52へとカメラ駆動制御コマンドが送信される。該第2コマンド通信部52に受信されたカメラ駆動制御コマンドに基づき、前記ステレオカメラ19から画像がリアルタイムで取得され、取得された画像が前記現況画像データ39として前記第2情報通信部51を介して前記第1情報通信部43に送信され、該第1情報通信部43に受信された前記現況画像データ39が前記データ格納部36に格納される。
又、前記第1GPS装置13、前記第2GPS装置14の2つのGPS装置から前記機体2の絶対座標及び該機体2の向き(方位)が得られ、該機体2の絶対座標及び向きを基に前記ステレオカメラ19の位置情報が取得される。更に、前記2軸傾斜センサ15により前記機体2の傾斜及び傾斜の向きが検出され、該機体2の傾斜及び傾斜の向きに基づき前記ステレオカメラ19の傾斜及び傾斜の向きが取得される。
前記データ格納部36には、前記施工計画画像データ41、例えば作業で得るべき最終の状態が3次元画像のデータとして格納されており、又該3次元画像のデータは位置情報を含んでいる。得られた前記ステレオカメラ19の位置情報に基づき、該ステレオカメラ19の視点、視方向が決定され、該視点、視方向に基づき、該ステレオカメラ19に撮像された前記現況画像データ39と同等の前記施工計画画像データ41が作成される。
次に、前記画像合成部32により前記現況画像データ39を半透明化し、半透明化した該現況画像データ39を作成された前記施工計画画像データ41に重合せ、前記3次元表示装置25に3次元表示することで、前記施工計画画像データ41に対する作業の進捗状態を目視にて容易に判断することができる。
又、前記バケット7の姿勢、位置も、前記アーム傾斜センサ17、前記バケット傾斜センサ18の検出結果に基づき演算により求めることができるので、前記バケット7を示す像も併せて表示することで、現況に対する該バケット7の位置、姿勢、或は前記施工計画画像データ41に対する前記バケット7の位置、姿勢が目視で判断できる。
上記処理中、前記操作部33より位置変更スイッチを入力することで、カメラ駆動制御コマンドが生成され、該カメラ駆動制御コマンドに基づいて前記移動駆動部48が前記ステレオカメラ19を前記レール20に沿って基準位置から変更位置へと移動させることができ、前記ステレオカメラ19の撮像範囲を前記機体2の前方から手前へと移動させることができる。即ち、図5に於ける前記現況画像データ39の位置を紙面に対して下方に移動させることができ、作業者が前記運転席3中から見ることのできない前記死角部24であっても、変更位置からの撮像により前記死角部24の前記現況画像データ39を取得でき、前記合成画像38を介して前記死角部24に於ける前記施工計画画像データ41に対する作業状態、進捗状態を目視で判断できる。
又、上記処理中、前記ステレオカメラ19の撮像方向を変更する為、作業者が前記操作部33のジョイスティックを操作した際には、ジョイスティックの操作に応じて前記主演算部29にて前記ステレオカメラ19の回転量及び回転方向が演算され、演算結果がカメラ駆動制御コマンドとして前記第1コマンド通信部44から送信され、前記第2コマンド通信部52を介して前記首振り駆動部49へと送られる。
該首振り駆動部49は、カメラ駆動制御コマンドに基づき前記ステレオカメラ19をピッチ、ロール、ヨウの3軸に対して回転させ、所定の方向に設定する。該ステレオカメラ19が3軸に対して回転することで、該ステレオカメラ19の撮像範囲が上下方向、左右方向の任意な方向に移動し、画像合成処理等所定の処理が行われた後、新たな撮像方向での前記合成画像38が前記3次元表示装置25に表示される。
而して、作業者は、前記施工計画画像データ41に対する作業の現況及び現況に対する前記バケット7の位置、姿勢を目視することで、盛土するか、切土するかを把握し、該バケット7の動かすべき方向、量を的確に判断でき、前記現況画像データ39が前記施工計画画像データ41に合致することで、前記バケット7の制御、該バケット7による施工が終了する。
尚、本実施例では、撮像位置変更手段として前記運転室3の上面に前記レール20を設け、該レール20に沿って前記ステレオカメラ19を移動させることで、前記死角部24を撮像可能としているが、該運転室3の上面に撮像位置変更手段として伸縮可能なアームを設け、該アームに前記ステレオカメラ19を固定的に設け、前記アームの伸縮により前記ステレオカメラ19を移動させ、前記死角部24を撮像できる様にしてもよい。尚、前記ステレオカメラ19を移動させなくても十分な視界が得られる場合は、前記撮像位置変更手段は省略することができる。
又、前記ステレオカメラ19に倍率調整機能を設け、該倍率調整機能により前記ステレオカメラ19により撮像される範囲の拡大、縮小を行える様にしてもよい。
上述の様に、本実施例では、前記第1撮像部21と前記第2撮像部22を有する前記ステレオカメラ19により撮像した画像を、3次元ディスプレイである前記3次元表示装置25を用いて3次元表示する様にしているので、前記制御装置26内で画像処理を行い、3次元画像を構築する必要がなく、演算処理の軽量化が図れ、前記制御装置26の負担を軽減でき、ステレオ演算処理のミスを防止することができる。
又、前記現況画像データ39と前記施工計画画像データ41とをそれぞれ3次元画像にて立体視可能とし、前記現況画像データ39と前記施工計画画像データ41とを重合せた状態で表示することで、作業者が直感的に作業を行うことができ、又施工計画に対する作業状態を容易に把握でき、作業性を向上させることができる。
又、前記ステレオカメラ19の前記第1撮像部21と前記第2撮像部22により取得された2つの画像に基づき写真測量を行い、3次元データ付きの画像とし、前記施工計画画像データ41との具体的な差、例えば画像中の任意の部位についての具体的な差を求めることができる。
又、本実施例では、前記ステレオカメラ19を3軸に対して回転させることで撮像方向を変更していたが、該ステレオカメラ19で広画角の画像を取得し、前記3次元表示装置25は撮像範囲の一部を表示する様にし、ジョイスティックの動きに同期して前記3次元表示装置25に表示される前記現況画像データ39の表示範囲を移動させることで、前記ステレオカメラ19を回転させることなく同様の効果を得ることができる。この場合に於いては、前記操作部33、前記主演算部29により表示範囲変更手段が構成される。
又、前記機体姿勢センサ部28の検出結果に基づき前記3次元表示装置25の表示範囲、中心、撮像方向を決定しているが、前記操作部33に作業者の視線の基準方向を設定するリセットボタンを設け、該リセットボタンにより撮像方向と視線の方向とを合致させてもよい。尚、第1通信部と第2通信部との間の通信は、有線通信であっても無線通信であってもよい。
更に、本実施例では、建設機械として掘削機を説明したが、建設機械としては作業アームとしてブーム、作業具としてフックを有するクレーンであっても、作業アームとして排土板アーム、作業具として排土板を有するブルドーザであってもよい。
1 走行駆動体
2 機体
3 運転室
4 ブーム
5 アーム
7 バケット
13 第1GPS装置
14 第2GPS装置
15 2軸傾斜センサ
16 ブーム傾斜センサ
17 アーム傾斜センサ
18 バケット傾斜センサ
19 ステレオカメラ
20 レール
21 第1撮像部
22 第2撮像部
25 3次元表示装置
26 制御装置
31 記憶部
32 画像合成部
33 操作部
38 合成画像
39 現況画像データ
41 施工計画画像データ
46 カメラ駆動部

Claims (5)

  1. 建設機械が作業具と、該作業具を支持し、該作業具に所要の作動をさせる作業アームと、第1の撮像部及び第2の撮像部を有し、レールに沿って移動可能なステレオカメラと、該ステレオカメラを前記レールに沿って移動させ撮像位置を変更可能な撮像位置変更手段と、施工計画の数値データを記憶する記憶部と、前記ステレオカメラの位置情報を取得する位置測定部と、3次元表示装置と、制御装置とを具備し、該制御装置は前記施工計画の数値データと前記ステレオカメラの位置情報に基づき3次元画像の施工計画画像データを作成し、該施工計画画像データと前記ステレオカメラで撮像された2次元画像の現況画像データを重合せ、2次元画像と3次元画像を重合せた合成画像を前記3次元表示装置に3次元表示させることを特徴とする建設機械制御システム。
  2. 前記合成画像は、前記現況画像データと前記施工計画画像データのいずれか一方が半透明となっている請求項1の建設機械制御システム。
  3. 前記3次元表示装置は前記ステレオカメラにて撮像された2つの現況画像データを基に前記合成画像の3次元表示が可能な3次元ディスプレイである請求項1又は請求項2の建設機械制御システム。
  4. 前記ステレオカメラの撮像方向を変更可能な撮像方向変更手段を更に有する請求項1〜請求項3のうちいずれかの建設機械制御システム。
  5. 前記ステレオカメラにより撮像される前記現況画像データの表示範囲を変更する表示範囲変更手段を更に有する請求項1〜請求項3のうちいずれかの建設機械制御システム。
JP2011173558A 2011-08-09 2011-08-09 建設機械制御システム Active JP5802476B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011173558A JP5802476B2 (ja) 2011-08-09 2011-08-09 建設機械制御システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011173558A JP5802476B2 (ja) 2011-08-09 2011-08-09 建設機械制御システム

Publications (2)

Publication Number Publication Date
JP2013036243A JP2013036243A (ja) 2013-02-21
JP5802476B2 true JP5802476B2 (ja) 2015-10-28

Family

ID=47886096

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011173558A Active JP5802476B2 (ja) 2011-08-09 2011-08-09 建設機械制御システム

Country Status (1)

Country Link
JP (1) JP5802476B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170105627A (ko) * 2015-09-30 2017-09-19 가부시키가이샤 고마쓰 세이사쿠쇼 촬상 장치

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5941663B2 (ja) * 2011-11-30 2016-06-29 住友建機株式会社 建設機械用モニタシステム
JP6324665B2 (ja) * 2013-05-16 2018-05-16 住友建機株式会社 作業機械用周辺監視装置
JP6232494B2 (ja) * 2014-04-23 2017-11-15 株式会社日立製作所 掘削装置
WO2015194601A1 (ja) 2014-06-20 2015-12-23 住友重機械工業株式会社 ショベル及びその制御方法
EP3351689B1 (en) * 2015-09-16 2020-01-15 Sumitomo Heavy Industries, Ltd. Shovel
WO2017056269A1 (ja) * 2015-09-30 2017-04-06 株式会社小松製作所 画像データ生成方法
US20180080199A1 (en) * 2015-09-30 2018-03-22 Komatsu Ltd. Work vehicle
US11008735B2 (en) 2015-09-30 2021-05-18 Komatsu Ltd. Image pick-up apparatus
WO2017061515A1 (ja) 2015-10-05 2017-04-13 株式会社小松製作所 建設機械及び施工管理システム
JP6322612B2 (ja) 2015-10-05 2018-05-09 株式会社小松製作所 施工管理システム及び形状計測方法
JP6925775B2 (ja) 2015-10-05 2021-08-25 株式会社小松製作所 施工管理システム
WO2016013691A1 (ja) 2015-10-15 2016-01-28 株式会社小松製作所 位置計測システム及び位置計測方法
JP6096980B2 (ja) * 2015-12-18 2017-03-15 株式会社小松製作所 施工情報表示装置および施工情報の表示方法
EP3399110B1 (en) * 2015-12-28 2021-02-17 Sumitomo (S.H.I.) Construction Machinery Co., Ltd. Excavator
DE202016100093U1 (de) 2016-01-12 2017-04-20 Joseph Vögele AG Straßenfertiger mit Projektor als Navigationshilfe
JP6813268B2 (ja) * 2016-02-16 2021-01-13 株式会社小松製作所 作業車両
JP6767241B2 (ja) * 2016-03-30 2020-10-14 株式会社小松製作所 端末装置、制御装置、データ統合装置、作業車両、撮像システム、および撮像方法
WO2017169598A1 (ja) * 2016-03-30 2017-10-05 株式会社小松製作所 端末装置、制御装置、データ統合装置、作業車両、撮像システム、および撮像方法
JP6546558B2 (ja) * 2016-03-31 2019-07-17 日立建機株式会社 建設機械及び建設機械の較正方法
EP3438356B1 (en) * 2016-03-31 2022-05-11 Sumitomo (S.H.I.) Construction Machinery Co., Ltd. Shovel
JP6764590B2 (ja) * 2016-06-07 2020-10-07 清水建設株式会社 施工管理装置および施工管理方法
JP2018017028A (ja) * 2016-07-28 2018-02-01 株式会社タグチ工業 建設機械のカメラ装置
JP7122802B2 (ja) * 2016-08-05 2022-08-22 株式会社小松製作所 作業車両の制御システム、制御方法、及び作業車両
AU2017305113B2 (en) 2016-08-05 2020-01-16 Komatsu Ltd. Management system
JP2018021651A (ja) 2016-08-05 2018-02-08 トヨタ自動車株式会社 ガス充填システム
JP6887229B2 (ja) 2016-08-05 2021-06-16 株式会社小松製作所 施工管理システム
JP2018031153A (ja) * 2016-08-23 2018-03-01 清水建設株式会社 建設機械用センサ格納装置
JP6867132B2 (ja) * 2016-09-30 2021-04-28 株式会社小松製作所 作業機械の検出処理装置及び作業機械の検出処理方法
WO2018079789A1 (ja) 2016-10-31 2018-05-03 株式会社小松製作所 計測システム、作業機械及び計測方法
JP6689763B2 (ja) * 2017-02-06 2020-04-28 住友建機株式会社 ショベル
CN110520890B (zh) 2017-07-14 2023-12-22 株式会社小松制作所 工作信息发送装置、施工管理系统、工作信息发送方法及计算机可读记录介质
DE112018001447T5 (de) 2017-07-14 2019-12-12 Komatsu Ltd. Topographische informationsübertragungsvorrichtung, bauverwaltungssystem und topographisches informationsübertragungsverfahren
JP6840645B2 (ja) * 2017-09-08 2021-03-10 株式会社小松製作所 施工管理装置および施工管理方法
CN107587534A (zh) * 2017-09-15 2018-01-16 安徽合矿环境科技股份有限公司 一种带有视频系统的挖掘机的挖掘装置
CN107882102A (zh) * 2017-11-09 2018-04-06 南京工业大学 一种基于负流量泵功率阀电流的节能控制方法
JP7232437B2 (ja) * 2018-02-19 2023-03-03 国立大学法人 東京大学 作業車両の表示システム及び生成方法
JP7087545B2 (ja) * 2018-03-28 2022-06-21 コベルコ建機株式会社 建設機械
JP6994427B2 (ja) * 2018-04-20 2022-01-14 株式会社安藤・間 建設機械の姿勢認識システム
EP3812517A4 (en) 2018-06-19 2021-09-15 Sumitomo (S.H.I.) Construction Machinery Co., Ltd. EXCAVATOR AND INFORMATION PROCESSING DEVICE
JP7080750B2 (ja) * 2018-06-29 2022-06-06 株式会社小松製作所 表示制御システム、遠隔操作システム、表示制御装置、および表示制御方法
US11195324B1 (en) 2018-08-14 2021-12-07 Certainteed Llc Systems and methods for visualization of building structures
JP7169130B2 (ja) 2018-09-03 2022-11-10 川崎重工業株式会社 ロボットシステム
JP7073232B2 (ja) * 2018-09-06 2022-05-23 住友重機械工業株式会社 ショベル及びショベルの情報更新方法
JP7117273B2 (ja) * 2019-07-01 2022-08-12 Jx金属株式会社 破砕片検出方法、破砕片小割方法、破砕片検出装置および破砕片小割装置
JP6815462B2 (ja) * 2019-10-17 2021-01-20 株式会社小松製作所 形状計測システム及び形状計測方法
KR102415420B1 (ko) * 2019-11-29 2022-07-04 한국생산기술연구원 굴삭기의 버켓 위치 확인 시스템 이를 이용한 버켓 위치 확인 방법
JP2021134482A (ja) * 2020-02-21 2021-09-13 株式会社小松製作所 作業機械及び作業機械の遠隔操作システム
JP7333551B2 (ja) * 2020-09-29 2023-08-25 株式会社小松製作所 作業機械の画像表示システム
JP7128497B2 (ja) * 2020-09-29 2022-08-31 株式会社小松製作所 作業機械の画像表示システム
JP7131779B2 (ja) * 2020-10-08 2022-09-06 株式会社小松製作所 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の画像表示方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2520230Y2 (ja) * 1990-06-18 1996-12-11 株式会社アイチコーポレーション カメラの遠隔操作装置
JP2844040B2 (ja) * 1993-05-07 1999-01-06 東急建設株式会社 3次元表示装置
JP4727068B2 (ja) * 2001-05-29 2011-07-20 株式会社トプコン 施工監視システム、施工管理方法
JP4740890B2 (ja) * 2007-03-27 2011-08-03 株式会社小松製作所 建設機械および建設機械の後進移動ガイダンス方法
JP2009203676A (ja) * 2008-02-27 2009-09-10 Caterpillar Japan Ltd モニタ装置を備えた作業用機械

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170105627A (ko) * 2015-09-30 2017-09-19 가부시키가이샤 고마쓰 세이사쿠쇼 촬상 장치

Also Published As

Publication number Publication date
JP2013036243A (ja) 2013-02-21

Similar Documents

Publication Publication Date Title
JP5802476B2 (ja) 建設機械制御システム
JP5759798B2 (ja) 建設機械制御システム
JP7133562B2 (ja) 材料移動機械のための拡張現実ディスプレイ
JP6777375B2 (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械
JP6147037B2 (ja) 建設機械制御システム
JP6474905B2 (ja) 遠隔操作システムおよび操作支援システム
WO2020003631A1 (ja) 表示制御装置、および表示制御方法
JP2844040B2 (ja) 3次元表示装置
JP6616837B2 (ja) 作業車両
JP6595609B2 (ja) 画像データ生成方法
JP7420733B2 (ja) 表示制御システムおよび表示制御方法
KR102065477B1 (ko) 촬상 장치
JP7080750B2 (ja) 表示制御システム、遠隔操作システム、表示制御装置、および表示制御方法
AU2019292457B2 (en) Display control device, display control system, and display control method
JP6174199B1 (ja) 誘導方法及び画像表示システム
JP2008121280A (ja) 掘削状況表示装置付き掘削機械
AU2021201940A1 (en) Construction method, work machine control system, and work machine
CN111386369A (zh) 工程机械
JP7386592B2 (ja) 建設機械の操作補助システム
JP2021038649A (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の画像表示方法
WO2021020567A1 (ja) 表示システム、遠隔操作システム、及び表示方法
JPWO2017056267A1 (ja) 撮像装置
JP2017032276A (ja) 位置計測システム
WO2020241640A1 (ja) 表示システムおよび表示方法
JP2022173478A (ja) 建設機械の自動制御システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140801

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150710

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150804

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150831

R150 Certificate of patent or registration of utility model

Ref document number: 5802476

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250