JP6674846B2 - 形状計測システム、作業機械及び形状計測方法 - Google Patents

形状計測システム、作業機械及び形状計測方法 Download PDF

Info

Publication number
JP6674846B2
JP6674846B2 JP2016109578A JP2016109578A JP6674846B2 JP 6674846 B2 JP6674846 B2 JP 6674846B2 JP 2016109578 A JP2016109578 A JP 2016109578A JP 2016109578 A JP2016109578 A JP 2016109578A JP 6674846 B2 JP6674846 B2 JP 6674846B2
Authority
JP
Japan
Prior art keywords
information
shape
range
target
measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016109578A
Other languages
English (en)
Other versions
JP2017214776A (ja
Inventor
厚 永戸
厚 永戸
大樹 菅原
大樹 菅原
博義 山口
博義 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2016109578A priority Critical patent/JP6674846B2/ja
Priority to KR1020187027165A priority patent/KR20180115756A/ko
Priority to DE112017001523.5T priority patent/DE112017001523T5/de
Priority to CN201780017856.1A priority patent/CN108885102B/zh
Priority to US16/084,740 priority patent/US20190078294A1/en
Priority to PCT/JP2017/019717 priority patent/WO2017208997A1/ja
Publication of JP2017214776A publication Critical patent/JP2017214776A/ja
Application granted granted Critical
Publication of JP6674846B2 publication Critical patent/JP6674846B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2004Control mechanisms, e.g. control levers
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • E02F9/262Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area

Landscapes

  • Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Operation Control Of Excavators (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、対象の位置を計測する形状計測システム、この形状計測システムを有する作業機械及び対象の位置を計測する形状計測方法に関する。
撮像装置を有する作業機械がある。特許文献1には、記憶部に記憶された施工計画データと、ステレオカメラの位置情報に基づき施工計画画像データを作成し、施工計画画像データとステレオカメラで撮像された現況画像データとを重合わせ、重合わせた合成画像を三次元表示装置に三次元表示させる技術が記載されている。
特開2013−036243号公報
ステレオカメラの撮像範囲を変更したり、ステレオカメラによって撮像されたデータの解像度を変更したりするといったような、ステレオ方式による画像処理が実行される際に用いられる計測条件を変更したいという要請がある。特許文献1には、前述した計測条件を変更することについては記載も示唆もなく、改善の余地がある。
本発明は、ステレオ方式による画像処理が実行される際に用いられる計測条件を変更することを目的とする。
本発明の第1の態様によれば、作業機械に取り付けられ、前記作業機械の周囲の対象を検出する対象検出部と、前記対象検出部によって検出された検出結果を用いて、前記対象の三次元形状を表す形状情報を求める演算部と、を備え、前記演算部は、前記形状情報を求める範囲を変更できる、形状計測システムが提供される。
本発明の第2の態様によれば、第1の態様において、前記形状情報には、位置の精度に関する属性情報が付加される形状計測システムが提供される。
本発明の第3の態様によれば、第1の態様において、前記演算部は、前記形状情報を求める範囲を変更するための信号を、管理装置、携帯端末装置又は前記作業機械の入力装置から受け取る形状計測システムが提供される。
本発明の第4の態様によれば、第2の態様において、前記形状情報には、前記対象の形状情報が求められる範囲である第1の計測範囲の場合には、前記第1の計測範囲内の計測結果に、前記位置の精度が高いことを示す情報が付加される形状計測システムが提供される。
本発明の第5の態様によれば、第4の態様において、前記形状情報には、前記対象の形状情報が求められ、かつ前記第1の計測範囲よりも広い範囲である第2の計測範囲から前記第1の計測範囲を除いた領域には、前記領域内の計測結果に、前記位置の精度が低いことを示す情報が付加される形状計測システムが提供される。
本発明の第6の態様によれば、第2の態様において、計測された位置に付加される前記位置の精度に関する属性情報は、計測された位置における前記対象検出部からの距離に応じて変更される形状計測システムが提供される。
本発明の第7の態様によれば、第2の態様において、前記位置の精度に関する属性情報を前記形状情報とともに表示する表示装置を有する形状計測システムが提供される。
本発明の第8の態様によれば、第2の態様において、前記形状情報は、複数のメッシュで分けられており、各メッシュは、前記対象の位置情報及び位置の精度に関する属性情報を有する形状計測システムが提供される。
本発明の第9の態様によれば、第2の態様において、前記形状情報は、複数のメッシュで分けられており、前記演算部は、前記対象の位置情報を有する少なくとも2つの前記メッシュを用いて、前記対象の位置情報を有さないメッシュの前記位置情報を求める形状計測システムが提供される。
本発明の第10の態様によれば、第2の態様において、前記形状情報は、複数のメッシュで分けられており、前記対象検出部の位置からの距離が大きくなるにしたがって、メッシュの大きさが大きく設定される形状計測システムが提供される。
本発明の第11の態様によれば、第1の態様から第10の態様のいずれか1つに係る形状計測システムを有する作業機械が提供される。
本発明の第12の態様によれば、作業機械によって前記作業機械の周囲の対象を検出する工程と、前記検出された結果を用いて、前記対象の三次元形状を表す形状情報を求めて出力する工程と、を含み、前記形状情報を求める範囲を変更できる形状計測方法が提供される。
本発明の態様によれば、ステレオ方式による画像処理が実行される際に用いられる計測条件を変更することができる。
実施形態に係る油圧ショベルを示す斜視図である。 実施形態に係る油圧ショベルの運転席付近の斜視図である。 実施形態に係る形状計測システム、作業機械の制御システム及び施工管理システムを示す図である。 形状計測システムの検出処理装置、作業機械の制御システムが有する各種の機器類、及び管理装置のハードウェア構成例を示す図である。 実施形態に係る作業機械の形状計測システムが求める形状情報について説明するための図である。 対象の形状情報を計測する範囲Aを示す図である。 形状情報に含まれるメッシュを示す図である。 表示装置が、計測された位置の精度に関する属性情報を判別できるような形態で表示する例を示す図である。 位置情報を有するメッシュ及び位置情報を有さないメッシュを示す図である。 形状情報に含まれるノイズ及び作業機を示す図である。
本発明を実施するための形態(実施形態)につき、図面を参照しつつ詳細に説明する。
<油圧ショベルの全体構成>
図1は、実施形態に係る油圧ショベル1を示す斜視図である。図2は、実施形態に係る油圧ショベル1の運転席付近の斜視図である。作業機械である油圧ショベル1は、車体1B及び作業機2を有する。車体1Bは、旋回体3、運転室4及び走行体5を有する。旋回体3は、旋回中心軸Zrを中心として走行体5に旋回可能に取り付けられている。旋回体3は、油圧ポンプ及びエンジン等の装置を収容している。
旋回体3は、作業機2が取り付けられて旋回する。旋回体3の上部には手すり9が取り付けられている。手すり9には、アンテナ21,22が取り付けられる。アンテナ21,22は、GNSS(Global Navigation Satellite Systems、GNSSは全地球航法衛星システムをいう)用のアンテナである。アンテナ21,22は、車体座標系(Xm,Ym,Zm)のYm軸と平行な方向に沿って、一定距離だけ離れて配置されている。アンテナ21,22は、GNSS電波を受信し、受信したGNSS電波に応じた信号を出力する。アンテナ21,22は、GPS(Global Positioning System)用のアンテナであってもよい。
運転室4は旋回体3の前部に載置されている。運転室4の屋根には、通信用のアンテナ25Aが取り付けられている。走行体5は、履帯5a,5bを有している。履帯5a,5bが回転することにより油圧ショベル1が走行する。
作業機2は、車体1Bの前部に取り付けられている。作業機2は、ブーム6、アーム7、作業具としてのバケット8、ブームシリンダ10、アームシリンダ11及びバケットシリンダ12を有する。実施形態において、車体1Bの前方は、図2に示される運転席4Sの背もたれ4SSから操作装置35に向かう方向側である。車体1Bの後方は、操作装置35から運転席4Sの背もたれ4SSに向かう方向側である。車体1Bの前部は、車体1Bの前方側の部分であり、車体1BのカウンタウエイトWTとは反対側の部分である。操作装置35は、作業機2及び旋回体3を操作するための装置であり、右側レバー35R及び左側レバー35Lを有する。
ブーム6の基端部は、ブームピン13を介して車体1Bの前部に回動可能に取り付けられている。アーム7の基端部は、アームピン14を介してブーム6の先端部に回動可能に取り付けられている。アーム7の先端部には、バケットピン15を介してバケット8が回動可能に取り付けられている。
図1に示されるブームシリンダ10、アームシリンダ11及びバケットシリンダ12は、それぞれ作動油の圧力、すなわち油圧によって駆動される油圧シリンダである。ブームシリンダ10は、油圧によって伸縮することによって、ブーム6を駆動する。アームシリンダ11は、油圧によって伸縮することによって、アーム7を駆動する。バケットシリンダ12は、油圧によって伸縮することによって、バケット8を駆動する。
バケット8は、複数の刃8Bを有する。複数の刃8Bは、バケット8の幅方向に沿って一列に並んでいる。刃8Bの先端は、刃先8BTである。バケット8は、作業具の一例である。作業具は、バケット8に限定されない。
旋回体3は、位置検出装置23と、姿勢検出装置の一例であるIMU(Inertial Measurement Unit:慣性計測装置)24とを有する。位置検出装置23は、アンテナ21,22から取得した信号を用いて、グローバル座標系(Xg,Yg,Zg)におけるアンテナ21,22の現在位置及び旋回体3の方位を検出して、出力する。旋回体3の方位は、グローバル座標系における旋回体3の向きを表す。旋回体3の向きは、例えば、グローバル座標系のZg軸周りにおける旋回体3の前後方向の向きで表すことができる。方位角は、旋回体3の前後方向における基準軸の、グローバル座標系のZg軸周りにおける回転角である。方位角によって旋回体3の方位が表される。
<撮像装置>
図2に示されるように、油圧ショベル1は、運転室4内に複数の撮像装置30a,30b,30c,30dを有する。複数の撮像装置30a,30b,30c,30dは、対象の形状を検出する検出装置の一例である。以下において、複数の撮像装置30a,30b,30c,30dを区別しない場合は適宜、撮像装置30と称する。複数の撮像装置30のうち撮像装置30a及び撮像装置30cは、作業機2側に配置される。撮像装置30の種類は限定されないが、実施形態では、例えば、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを備えた撮像装置が用いられる。
図2に示されるように、撮像装置30aと撮像装置30bとは所定の間隔をおいて同じ方向又は異なる方向を向いて運転室4内に配置される。撮像装置30cと撮像装置30dとは所定の間隔をおいて同じ方向又は異なる方向を向いて運転室4内に配置される。複数の撮像装置30a,30b,30c,30dは、これらのうち2個が組み合わされてステレオカメラを構成する。実施形態では、撮像装置30a,30bの組合せのステレオカメラ、及び撮像装置30c,30dの組合せのステレオカメラが構成される。
実施形態において、撮像装置30a及び撮像装置30bは上方を向いており、撮像装置30c及び撮像装置30dは下方を向いている。少なくとも撮像装置30a及び撮像装置30cは、油圧ショベル1、実施形態では旋回体3の正面を向いている。撮像装置30b及び撮像装置30dは、作業機2の方に若干向けられて、すなわち、撮像装置30a及び撮像装置30c側の方に若干向けられて配置されることもある。
実施形態において、油圧ショベル1は、4個の撮像装置30を有するが、油圧ショベル1が有する撮像装置30の数は少なくとも2個であればよく、4個に限定されない。油圧ショベル1は、少なくとも一対の撮像装置30でステレオカメラを構成して、対象をステレオ撮影するからである。
複数の撮像装置30a,30b,30c,30dは、運転室4内の前方かつ上方に配置される。上方とは、油圧ショベル1が有する履帯5a,5bの接地面と直交し、かつ接地面から離れる方向側である。履帯5a,5bの接地面は、履帯5a,5bのうち少なくとも一方が接地する部分の、同一直線上には存在しない少なくとも3点で規定される平面である。下方は、上方とは反対方向側、すなわち履帯5a,5bの接地面と直交し、かつ接地面に向かう方向側である。
複数の撮像装置30a,30b,30c,30dは、油圧ショベル1の車体1Bの前方に存在する対象をステレオ撮影する。対象は、例えば、油圧ショベル1が施工する対象、すなわち施工対象、油圧ショベル1以外の作業機械の施工対象及び施工現場で作業する作業者の施工対象のうち少なくとも1つである。複数の撮像装置30a,30b,30c,30dは、油圧ショベル1の所定の位置、実施形態では運転室4内の前方かつ上方から対象を検出する。実施形態においては、少なくとも一対の撮像装置30によるステレオ撮影の結果を用いて、対象が三次元計測される。複数の撮像装置30a,30b,30c,30dが配置される場所は、運転室4内の前方かつ上方に限定されるものではない。
複数の撮像装置30a,30b,30c,30dのうち、例えば、撮像装置30cをこれらの基準とする。4個の複数の撮像装置30a,30b,30c,30dは、それぞれ座標系を有する。これらの座標系を適宜、撮像装置座標系と称する。図2では、基準となる撮像装置30cの座標系(xs,ys,zs)のみを示している。撮像装置座標系の原点は、例えば、各撮像装置30a,30b,30c,30dの中心である。
実施形態において、各撮像装置30a,30b,30c,30dの撮像範囲は、油圧ショベル1の作業機2が施工できる範囲よりも大きい。このようにすることで、各撮像装置30a,30b,30c,30dは、作業機2が掘削できる範囲の対象を確実にステレオ撮影することができる。
前述した車体座標系(Xm,Ym,Zm)は、車体1B、実施形態では旋回体3に固定された原点を基準とする座標系である。実施形態において、車体座標系(Xm,Ym,Zm)の原点は、例えば、旋回体3のスイングサークルの中心である。スイングサークルの中心は、旋回体3の旋回中心軸Zr上に存在する。車体座標系(Xm,Ym,Zm)のZm軸は旋回体3の旋回中心軸Zrとなる軸であり、Xm軸は旋回体3の前後方向に延び、かつZm軸と直交する軸である。Xm軸は、旋回体3の前後方向における基準軸である。Ym軸は、Zm軸及びXm軸と直交する、旋回体3の幅方向に延びる軸である。前述したグローバル座標系(Xg,Yg,Zg)は、GNSSによって計測される座標系であり、地球に固定された原点を基準とした座標系である。
車体座標系は、実施形態の例には限定されない。車体座標系は、例えば、ブームピン13の中心を車体座標系の原点としてもよい。ブームピン13の中心とは、ブームピン13が延びる方向と直交する平面でブームピン13を切ったときの断面の中心、かつブームピン13が延びる方向における中心である。
<形状計測システム、作業機械の制御システム及び施工管理システム>
図3は、実施形態に係る形状計測システム1S、作業機械の制御システム50及び施工管理システム100を示す図である。図3に示される形状計測システム1S、作業機械の制御システム50及び施工管理システム100の装置構成は一例であり、実施形態の装置構成例には限定されない。例えば、制御システム50に含まれる各種の装置はそれぞれ独立していなくてもよい。すなわち、複数の装置の機能が1つの装置によって実現されてもよい。
形状計測システム1Sは、複数の撮像装置30a,30b,30c,30dと、検出処理装置51とを含む。作業機械の制御システム50(以下、適宜、制御システム50と称する)は、形状計測システム1Sと、油圧ショベル1を制御するための各種の制御装置とを含む。形状計測システム1S及び各種の制御装置は、図1に示される油圧ショベル1の車体1B、実施形態では旋回体3に備えられている。
制御システム50が有する各種の制御装置は、図3に示される入力装置52、センサ制御装置53、機関制御装置54、ポンプ制御装置55及び作業機制御装置56を含む。この他に、制御システム50は、油圧ショベル1の状態及び油圧ショベル1による施工の状況を管理する施工管理装置57を有する。また、制御システム50は、油圧ショベル1の情報を表示したり施工のガイダンス画像を画面58Dに表示したりする表示装置58と、油圧ショベル1の外部に存在する管理施設60の管理装置61、他の作業機械70、携帯端末装置64及び管理施設60の管理装置61以外の装置のうち少なくとも1つと通信する通信装置25とを有する。さらに、制御システム50は、油圧ショベル1の制御に必要な情報を取得するための位置検出装置23及び姿勢検出装置の一例であるIMU24を有する。
実施形態において、検出処理装置51、入力装置52、センサ制御装置53、機関制御装置54、ポンプ制御装置55、作業機制御装置56、施工管理装置57、表示装置58、位置検出装置23及び通信装置25は、信号線59に接続されて、相互に通信する。実施形態において、信号線59を用いた通信の規格はCAN(Controller Area Network)であるが、これに限定されない。以下において、油圧ショベル1というときには、油圧ショベル1が有する検出処理装置51及び入力装置52等の各種の電子装置を指すこともある。
図4は、形状計測システム1Sの検出処理装置51、作業機械の制御システム50が有する各種の機器類、及び管理装置61のハードウェア構成例を示す図である。実施形態において、油圧ショベル1が有する検出処理装置51、センサ制御装置53、機関制御装置54、ポンプ制御装置55、作業機制御装置56、施工管理装置57、表示装置58、位置検出装置23及び通信装置25及び管理装置61は、図4に示されるように、処理部PR、記憶部MR及び入出力部IOを有する。処理部PRは、例えば、CPU(Central Processing Unit)のようなプロセッサとメモリとによって実現される。
記憶部MRは、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)等の不揮発性又は揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク及び光磁気ディスクのうち少なくとも1つが用いられる。
入出力部IOは、油圧ショベル1又は管理装置61が、他の機器及び内部の装置とデータ及び信号等を送受信するためのインターフェース回路である。内部の装置には、油圧ショベル1内の信号線59も含まれる。
油圧ショベル1と管理装置61とは、それぞれの機能を処理部PRに実現させるためのコンピュータプログラムを記憶部MRに記憶している。油圧ショベル1の処理部PRと管理装置61の処理部PRとは、記憶部MRから前述したコンピュータプログラムを読み出して実行することにより、それぞれの装置の機能を実現する。油圧ショベル1が有する各種の電子装置、機器及び管理装置61は、専用のハードウェアで実現されてもよいし、複数の処理回路が連携してそれぞれの機能を実現するものであってもよい。次に、油圧ショベル1が有する各種の電子装置及び機器について説明する。
検出処理装置51は、一対の撮像装置30によって撮像された対象の一対の画像に、ステレオ方式における画像処理を施すことにより、対象の位置、具体的には三次元座標系における対象の座標を求める。このように、検出処理装置51は、同一の対象を少なくとも一対の撮像装置30で撮像することによって得られた一対の画像を用いて、対象を三次元計測する。すなわち、少なくとも一対の撮像装置30及び検出処理装置51は、ステレオ方式により対象を三次元計測するものである。ステレオ方式における画像処理とは、同一の対象を2つの異なる撮像装置30から観測して得られる2つの画像から、その対象までの距離を得る手法である。対象までの距離は、例えば、対象までの距離情報を濃淡により可視化した距離画像として表現される。距離画像は、対象の三次元形状を表す形状情報に相当する。
検出処理装置51は、少なくとも一対の撮像装置30によって検出、すなわち撮像された対象の情報を取得し、取得した対象の情報から対象の三次元形状を示す形状情報を求める。実施形態では、少なくとも一対の撮像装置30が対象を撮像することにより対象の情報を生成して出力する。対象の情報は、少なくとも一対の撮像装置30によって撮像された対象の画像である。検出処理装置51は、対象の画像にステレオ方式による画像処理を施すことにより、形状情報を求め、出力する。実施形態において、少なくとも一対の撮像装置30を有する油圧ショベル1の施工対象又は施工後の対象が少なくとも一対の撮像装置30によって撮像されるが、他の作業機械70の施工対象又は施工後の対象が、少なくとも一対の撮像装置30によって撮像されてもよい。
実施形態において、施工対象及び施工後の対象は、撮像装置30を有する油圧ショベル1、他の作業機械70、油圧ショベル以外の作業機械及び作業者のうち少なくとも1つの施工対象及び施工後の対象であればよい。
検出処理装置51は、演算部51A及び変更部51Bを有する。演算部51Aは、対象検出部である少なくとも一対の撮像装置30によって検出された対象の情報を用いて、対象の三次元形状を表す形状情報を求めて出力する。詳細には、演算部51Aは、少なくとも一対の撮像装置30によって撮像された一対の画像に、ステレオ方式における画像処理を施して形状情報を求めて出力する。
変更部51Bは、演算部51Aが形状情報を求める際に用いる計測条件を変更する。演算部51A及び変更部51Bの機能は、図4に示される処理部PRが実現する。前述した計測条件は、演算部51Aが形状情報を求める際の条件を決定するための計測条件であり、詳細については後述する。
実施形態において、少なくとも一対の撮像装置30は、油圧ショベル1に取り付けられて、油圧ショベル100の周囲の対象を検出して対象の情報を出力する対象検出部に相当する。検出処理装置51は、少なくとも一対の撮像装置30によって検出された対象の情報を用いて、対象の三次元形状を表す形状情報を出力する形状検出部に相当する。
検出処理装置51には、ハブ31及び撮像スイッチ32が接続される。ハブ31は、複数の撮像装置30a,30b,30c,30dが接続されている。ハブ31を用いずに、撮像装置30a,30b,30c,30dと検出処理装置51とが接続されてもよい。撮像装置30a,30b,30c,30dが対象を検出した結果、すなわち対象を撮像した結果は、ハブ31を介して検出処理装置51に入力される。検出処理装置51は、ハブ31を介して、撮像装置30a,30b,30c,30dが撮像した結果、実施形態では対象の画像を取得する。実施形態において、撮像スイッチ32が操作されると、少なくとも一対の撮像装置30は対象を撮像する。撮像スイッチ32は、図2に示される運転室4内の操作装置35の近傍に設置される。撮像スイッチ32の設置場所はこれに限定されない。
入力装置52は、形状計測システム1S及び制御システム50へ命令を入力したり、情報を入力したり、設定を変更したりするための装置である。入力装置52は、例えば、キー、ポインティングデバイス及びタッチパネルであるが、これらに限定されない。後述する表示装置58の画面58Dにタッチパネルを設けることにより、表示装置58に入力機能を持たせてもよい。この場合、制御システム50は入力装置52を有さなくてもよい。
センサ制御装置53は、油圧ショベル1の状態の情報及び油圧ショベル1の周囲の状態の情報を検出するためのセンサ類が接続される。センサ制御装置53は、センサ類から取得した情報を、他の電子装置及び機器が取り扱うことのできるフォーマットに変換して出力する。油圧ショベル1の状態の情報は、例えば、油圧ショベル1の姿勢の情報及び作業機2の姿勢の情報等である。図3に示される例では、油圧ショベル1の状態の情報を検出するセンサとして、IMU24、第1角度検出部18A、第2角度検出部18B及び第3角度検出部18Cがセンサ制御装置53に接続されているが、センサ類はこれらに限定されない。
IMU24は、自身に作用する加速度及び角速度、すなわち油圧ショベル1に作用する加速度及び角速度を検出して出力する。油圧ショベル1に作用する加速度及び角速度から、油圧ショベル1の姿勢が分かる。油圧ショベル1の姿勢を検出できれば、IMU24以外の装置であってもよい。実施形態において、第1角度検出部18A、第2角度検出部18B及び第3角度検出部18Cは、例えばストロークセンサである。これらは、それぞれが、ブームシリンダ10、アームシリンダ11及びバケットシリンダ12のストローク長さを検出することにより、車体1Bに対するブーム6の回動角と、ブーム6に対するアーム7の回動角と、アーム7に対するバケット8の回動角とを間接的に検出する。第1角度検出部18A、第2角度検出部18B及び第3角度検出部18Cによって検出された車体1Bに対するブーム6の回動角、ブーム6に対するアーム7の回動角及びアーム7に対するバケット8の回動角と、作業機2の寸法とから、車体座標系における作業機2の部分の位置が分かる。例えば、作業機2の部分の位置としては、例えば、バケット8の刃先8BTの位置である。第1角度検出部18A、第2角度検出部18B及び第3角度検出部18Cは、ストロークセンサに代えてポテンショメータ又は傾斜計であってもよい。
機関制御装置54は、油圧ショベル1の動力発生装置である内燃機関27を制御する。内燃機関27は、例えばディーゼルエンジンであるが、これに限定されない。また、油圧ショベル1の動力発生装置は、内燃機関27と発電電動機とを組み合わせたハイブリッド方式の装置であってもよい。内燃機関27は、油圧ポンプ28を駆動する。
ポンプ制御装置55は、油圧ポンプ28から吐出される作動油の流量を制御する。実施形態において、ポンプ制御装置55は、油圧ポンプ28から吐出される作動油の流量を調整するための制御指令の信号を生成する。ポンプ制御装置55は、生成した制御信号を用いて油圧ポンプ28の斜板角を変更することにより、油圧ポンプ28から吐出される作動油の流量を変更する。油圧ポンプ28から吐出された作動油は、コントロールバルブ29に供給される。コントロールバルブ29は、油圧ポンプ28から供給された作動油を、ブームシリンダ10、アームシリンダ11、バケットシリンダ12及び油圧モータ5M等の油圧機器に供給して、これらを駆動する。
作業機制御装置56は、例えば、バケット8の刃先8BTを目標とする施工面に沿って移動させる制御を実行する。作業機制御装置56は、作業機制御部に相当する。この制御を、以下においては適宜、作業機制御と称する。作業機制御装置56は、作業機制御を実行するにあたって、例えば、施工時に目標とする情報である目標施工情報に含まれる目標施工面にバケット8の刃先8BTが沿うようにコントロールバルブ29を制御して作業機2を制御する。
施工管理装置57は、例えば、検出処理装置51が求めた形状情報のうち、油圧ショベル1が施工対象を施工した施工結果の形状情報、及び油圧ショベル1がこれから施工しようとする対象の現況地形を示す形状情報の少なくとも一方を収集し、記憶部57Mに記憶させる。施工管理装置57は、記憶部57Mに記憶させた形状情報を、通信装置25を介して管理装置61又は携帯端末装置64に送信する。施工管理装置57は、記憶部57Mに記憶させた施工結果の形状情報を、通信装置25を介して管理装置61又は携帯端末装置64に送信する。施工管理装置57は、検出処理装置51が求めた形状情報及び目標施工情報の少なくとも一方を収集し、記憶部57Mに記憶せずに管理装置61又は携帯端末装置64に送信してもよい。記憶部57Mは、図4に示される記憶部MRに相当する。以下において、油圧ショベル1が施工対象を施工した施工結果の形状情報を適宜、施工結果と称することがある。
施工管理装置57は、油圧ショベル1の外部に設けられた、例えば管理装置61に設けられてもよい。この場合、施工管理装置57は、油圧ショベル1から通信装置25を介して施工結果の形状情報、及び油圧ショベル1がこれから施工しようとする対象の現況地形を示す形状情報の少なくとも一方を取得する。
施工結果は、例えば、少なくとも一対の撮像装置30が施工後の対象を撮像し、検出処理装置51が撮像結果にステレオ方式による画像処理を施すことによって求められた形状情報である。以下、施工しようとする対象の現況地形を示す形状情報を、適宜、現況地形情報と称する。また、形状情報は、施工結果を示す形状情報である場合と、現況地形を示す形状情報である場合とがある。現況地形情報とは、例えば、油圧ショベル1、他の作業機械70又は作業者等が施工しようとする対象が少なくとも一対の撮像装置30によって撮像され、検出処理装置51によって求められた形状情報である。
施工管理装置57は、例えば、一日の作業が終了した後に施工結果を収集して管理装置61及び携帯端末装置64の少なくとも一方に送信したり、一日の作業のうち複数回施工結果を収集して管理装置61及び携帯端末装置64の少なくとも一方に送信したりする。施工管理装置57は、例えば朝の作業前に、施工前の形状情報を管理装置61又は携帯端末装置64に送信してもよい。
実施形態では、施工管理装置57は、例えば一日の作業のうち、正午と作業終了時との2回の施工結果を収集し、管理装置61又は携帯端末装置64に送信する。施工結果は、施工現場全体のうち、施工が行われた範囲が撮像されることによって得られた施工結果であってもよいし、施工現場全体が撮像されることによって得られた施工結果であってもよい。管理装置61又は携帯端末装置64に送信される施工結果を施工が行われた範囲のものとすることにより、撮像時間、画像処理時間及び施工結果の送信時間の増加を抑制できるので好ましい。
表示装置58は、液晶表示パネルのようなディスプレイの画面58Dに、油圧ショベル1の情報を表示したり施工のガイダンス画像を画面58Dに表示したりする他、実施形態においては、前述した作業機制御が実行される場合に作業機2の位置を求める。表示装置58が求める刃先8BTの位置は、実施形態はバケット8の刃先8BTの位置である。表示装置58は、位置検出装置23が検出したアンテナ21,22の現在位置と、第1角度検出部18A、第2角度検出部18B及び第3角度検出部18Cによって検出された回動角と、記憶部MRに記憶された作業機2の寸法と、IMU24の出力データとを取得し、これらを用いてバケット8の刃先8BTの位置を求める。実施形態では、表示装置58がバケット8の刃先8BTの位置を求めているが、バケット8の刃先8BTの位置は表示装置58以外の装置が求めてもよい。
通信装置25は、実施形態における通信部である。通信装置25は、管理施設60の管理装置61、他の作業機械70及び携帯端末装置64の少なくとも1つと通信回線NTWを介して通信して、互いに情報をやり取りする。通信装置25がやり取りする情報のうち、制御システム50から管理装置61、他の作業機械70及び携帯端末装置64の少なくとも1つに送信する情報は、施工に関する情報がある。施工に関する情報は、前述した形状情報及び形状情報から得られた情報の少なくとも一方を含む。形状情報から得られた情報は、例えば、前述した目標施工情報及び形状情報でも形状情報を加工して得られた情報を含むが、これらに限定されるものではない。施工に関する情報は、検出処理装置51の記憶部、入力装置52の記憶部及び施工管理装置57の記憶部57Mに記憶されてから通信装置25によって送信されてもよいし、記憶されずに送信されてもよい。
実施形態において、通信装置25は無線通信によって通信する。このため、通信装置25は、無線通信用のアンテナ25Aを有する。携帯端末装置64は、例えば、油圧ショベル1の作業を管理する管理者が所持しているものであるが、これに限定されない。他の作業機械70は、制御システム50を有する油圧ショベル1及び管理装置61の少なくとも一方と通信する機能を有している。他の作業機械70は、制御システム50を有する油圧ショベル1であってもよいし、制御システム50を有さない油圧ショベルであってもよいし、油圧ショベル以外の作業機械であってもよい。通信装置25は、管理施設60の管理装置61、他の作業機械70及び携帯端末装置64の少なくとも1つと有線通信を介して通信して、互いに情報をやり取りするようにしてもよい。
施工管理システム100は、管理施設60の管理装置61と、形状計測システム1Sと、制御システム50と、制御システム50を有する油圧ショベル1とを含む。施工管理システム100は、さらに携帯端末装置64を含んでいてもよい。施工管理システム100に含まれる、制御システム50を有する油圧ショベル1は単数でもよいし、複数でもよい。管理施設60は、管理装置61と、通信装置62とを有する。管理装置61は、通信装置62及び通信回線NTWを介して、少なくとも油圧ショベル1と通信する。管理装置61は、携帯端末装置64と通信したり、他の作業機械70と通信したりしてもよい。油圧ショベル1と他の作業機械70とは、直接、無線通信できるように無線通信機器を搭載してもよい。そして、油圧ショベル1及び他の作業機械70の少なくとも一方は、管理施設60の管理装置61等で実行される処理を実行できるような機器又は電子装置を搭載してもよい。
管理装置61は、油圧ショベル1から施工結果及び現況地形情報の少なくとも一方を受け取り、施工の進捗状況を管理する。
<対象の施工>
実施形態において、制御システム50は、図2に示される複数の撮像装置30のうち少なくとも2つを用いて施工する対象を撮像することによって、施工対象の形状を示す情報である形状情報を得る。制御システム50は、例えば、通信装置25を介して形状情報を管理装置61に送信する。管理装置61は、油圧ショベル1から送信された形状情報を受け取り、施工管理に用いる。
<対象の撮像及び形状情報の生成>
図5は、実施形態に係る作業機械の形状計測システム1Sが求める形状情報について説明するための図である。実施形態において、油圧ショベル1がこれから施工しようとする部分である施工対象OBPは、油圧ショベル1の前方にある。形状情報は、施工対象OBPから求められる。形状計測システム1Sは、施工対象OBPから形状情報を生成する場合、少なくとも一対の撮像装置30に施工対象OBPを撮像させる。実施形態では、油圧ショベル1のオペレータが、図3に示される撮像スイッチ32を操作して撮像指令を検出処理装置51に入力すると、検出処理装置51は少なくとも一対の撮像装置30に施工対象OBPを撮像させる。
形状計測システム1Sの検出処理装置51は、少なくとも一対の撮像装置30が撮像した施工対象OBPの画像にステレオ方式による画像処理を施して、施工対象OBPの位置情報、実施形態では三次元位置情報を求める。検出処理装置51が求めた施工対象OBPの位置情報は、撮像装置30の座標系における情報なので、グローバル座標系における位置情報に変換される。グローバル座標系における対象、例えば施工対象OBPの位置情報が形状情報である。実施形態において、形状情報は、グローバル座標系における施工対象OBPの表面の位置Pr(Xg,Yg,Zg)を少なくとも1つ含む情報である。位置Pr(Xg,Yg,Zg)は、グローバル座標系における座標であり、三次元位置情報である。検出処理装置51は、少なくとも一対の撮像装置30によって撮像された画像から得られた施工対象OBPの位置を、グローバル座標系における位置に変換する。施工対象OBPの表面の位置は、施工後及び施工途中における施工対象OBPの表面の位置を含む。
検出処理装置51は、少なくとも一対の撮像装置30によって撮像された施工対象OBPの領域全体にわたって、施工対象OBPの表面の位置Pr(Xg,Yg,Zg)を求め、出力する。実施形態において、検出処理装置51は、求めた位置Pr(Xg,Yg,Zg)のデータファイルを生成する。データファイルは、n個(nは1以上の整数)の位置Pr(Xg,Yg,Zg)の集合である。データファイルも、実施形態における形状情報に該当する。
実施形態において、検出処理装置51はデータファイルを生成したら、自身の記憶部に記憶させる。施工管理装置57は、検出処理装置51が生成したデータファイルを、通信装置25から図3に示される管理装置61、携帯端末装置64及び他の作業機械70の少なくとも一つに送信してもよい。
実施形態において、図3に示される撮像スイッチ32が操作されると、少なくとも一対の撮像装置30が対象を撮像する。検出処理装置51の演算部51Aは撮像装置30によって撮像された画像にステレオ方式による画像処理を施して形状情報を生成する。検出処理装置51の演算部51Aは、データファイルを出力する。データファイルは、施工管理装置57及び通信装置25を介して、又は通信装置25を介して管理装置61及び携帯端末装置64の少なくとも一方に送信する。
検出処理装置51は、油圧ショベル1の周辺を監視するため、所定の時間毎、例えば10分毎に少なくとも一対の撮像装置30に対象を撮像させる。少なくとも一対の撮像装置30によって撮像された三次元画像は、検出処理装置51の記憶部に記憶されて、ある程度の情報が蓄積されたら通信装置25を介して管理装置61に送信される。前述した三次元画像は、データファイルが管理装置61に送信されるタイミングで送信されてもよいし、撮像されたら速やかに管理装置61へ送信されてもよい。
実施形態において、検出処理装置51が、例えば複数の撮像装置30が起動していることを認識していること、信号線59が断線していないこと、IMU24の出力が安定していること、及びGNSSによる測位がFIX(正常)であることを条件(許可条件)に、検出処理装置51は、撮像装置30を用いた三次元計測を許可するようにしてもよい。許可条件が1つでも成立していない場合、撮像スイッチ32が操作されても、検出処理装置51は撮像装置30を用いた三次元計測を許可しない。IMU24の出力が安定しているとは、油圧ショベル1が静止している状態であることを意味する。撮像装置30による三次元計測に、前述した条件を設けることで、対象の計測精度の低下が抑制される。制御システム50は、許可条件のいずれか一つを用いてもよいし、許可条件を用いなくてもよい。
油圧ショベル1から送信されたデータファイルは、管理装置61の記憶部に記憶される。データファイルが携帯端末装置64に送信される場合、データファイルは携帯端末装置64の記憶部に記憶されてもよい。管理装置61は、複数の異なる場所のデータファイルを統合することにより、施工現場の地形を得ることができる。管理装置61は、複数の異なる場所のデータファイルから得られた施工現場の地形を用いて施工管理を行うことができる。管理装置61は、複数のデータファイルを統合する場合、x座標及びy座標が同一の位置のデータが複数存在する場合には、予め定められたルールに基づいていずれかのデータを優先してもよい。予め定められたルールは、時間が最新の位置データを優先するものが例示される。
このように、形状情報であるデータファイルにより、施工現場の施工に関する様々な情報が得られる。データファイルを用いて現況情報を生成したり、盛土量又は除去された土の量を求めたりする処理は、管理装置61、携帯端末装置64及び油圧ショベル1の施工管理装置57のいずれが実行してもよい。また、管理装置61、携帯端末装置64又は油圧ショベル1の施工管理装置57のいずれかが前述した処理を実行し、通信回線NTWを介して他の機器に結果を送信してもよい。前述した処理の結果は、通信だけでなく、ストレージデバイスに記憶されて、他の機器に受け渡されてもよい。
<計測条件の変更>
形状計測システム1Sの検出処理装置51が有する変更部51Bは、前述したように、形状情報を求める際に用いられる計測条件を変更する。この場合、変更部51Bは、信号線59を介して計測条件を変更する指令(以下において適宜、変更指令と称する)を受け付けると、計測条件を変更する。変更指令は、例えば管理装置61又は携帯端末装置64から送信され、通信装置25及び信号線59を介して変更部51Bに与えられる。この他にも、変更指令は、油圧ショベル1の入力装置52から変更部51Bに与えられてもよい。変更指令が管理装置61から送信される場合、入力装置68を介して変更指令が管理装置61に与えられる。
計測条件は、例えば検出処理装置51の演算部51Aにより計測される対象の形状情報を求める範囲とすることができる。詳細には、検出処理装置51の演算部51Aは、変更部51Bからの変更指令を受け取ると、一対の撮像装置30によって撮影された対象の情報、すなわち一対の撮影画像の重複領域の中から実際に形状情報を計測する対象の範囲を変更することができる。実施形態において、対象とは現況地形である。対象の情報とは少なくとも一対の撮像装置30によって検出、すなわち撮像された画像である。対象の形状情報とは対象の情報である対象の画像にステレオ方式による画像処理を施すことによって生成される現況地形の三次元形状の情報である。
図6は、対象の形状情報を計測する範囲Aを示す図である。図6に示される範囲Aは、演算部51Aが形状情報を求める範囲であり、一対の撮像装置30の撮像範囲の重複領域の一部又は全領域である。一対の撮像装置30によって対象を撮像した場合、対象の情報とは、それぞれの撮像装置から出力された2つの画像を示す。
一対の撮像装置30が対象の形状情報を計測する範囲Aが大きくなると、一対の撮像装置30による一回の撮像で、広い範囲の形状情報を得ることができる。実施形態において、図3に示される検出処理装置51の変更部51Bは、一対の撮像装置30によって計測される対象の計測範囲Aを計測条件として、携帯端末装置64、管理装置61又は油圧ショベル1の入力装置52からの変更指令に基づいて、対象の計測範囲Aを変更する。
実施形態において、変更部51Bは、変更指令に応じて、計測条件である対象の計測範囲Aを、第1の範囲A1と、第1の範囲A1よりも広い範囲である第2の範囲A2とに変更する。第1の範囲A1は、撮像装置30の位置PTからの距離がD1までの範囲であり、第2の範囲A1は、撮像装置30の位置PTからの距離が、距離D1よりも大きい距離D2までの範囲である。
このように、検出処理装置51の変更部51Bは、一対の撮像装置30によって撮像された対象の計測範囲Aを、変更指令に基づいて変更する。このため、検出処理装置51は、対象の計測範囲Aを相対的に大きい範囲とすることにより、少なくとも一対の撮像装置30の撮像回数を相対的に少なくできる。このため、検出処理装置51は、効率よく形状情報を計測できる。検出処理装置51が対象の計測範囲Aを相対的に大きくして形状情報を計測することは、広い施工現場において特に有効である。
一方で、検出処理装置51が対象の計測範囲Aを相対的に大きくして形状情報を計測すると、特に一対の撮像装置30から遠くの領域(図6における計測範囲A2から計測範囲A1を除いた領域)における形状情報の計測精度が、一対の撮像装置30から近くの領域(図6における計測範囲A1)よりも相対的に低下することになる。そこで、形状情報の高い計測精度が要求される場合、検出処理装置51は、対象の計測範囲Aを相対的に小さい範囲とすることにより、形状情報の精度を向上させることができる。
実施形態において、演算部51Aは、変更部51Bからの変更指令を受け取ると、一対の撮像装置30によって撮影された対象の情報から対象の形状情報を計測する範囲を変更するものとしたが、これに限定されない。例えば、演算部51Aは、変更部51Bを介さずに、管理装置61、携帯端末装置64又は油圧ショベル1の入力装置52から変更指令を受け取ることができるようにしてもよい。
例えば変更指令を出力できる装置を管理装置61からのみに限定すると、油圧ショベル1のオペレータが自由に計測範囲を切り替えることができなくなるため、形状情報の計測精度が不用意に低下してしまうことを防止できる。すなわち、例えば現場監督者のみが計測範囲を切り替えることができるようにすれば、想定した計測精度で対象の形状情報を計測できるようになる。また、携帯端末装置64又は油圧ショベル1の入力装置52から変更指令を出力できるようにしたとしても、変更指令を出力するために、例えば現場監督者のみが知り得るパスワード等を必要とすることで、上記と同様に想定した計測精度で対象の形状情報を計測できるようになる。
実施形態において、形状情報は、グローバル座標系の各x座標及びy座標に配置される予め定められた大きさの複数のメッシュで分けられている。各メッシュ位置における対象のz座標位置は、メッシュにおける対象の位置情報と定義される。メッシュの大きさは変更されてもよく、メッシュの大きさを計測条件の一つとしてもよい。
図7は、形状情報に含まれる複数のメッシュMSを示す図である。図7に示されるように、検出処理装置51から出力される形状情報は、各メッシュMSが配置される位置における対象の位置情報(z座標位置)を含む。ステレオ方式による画像処理によって対象の位置が得られない部分のメッシュは、対象の位置情報を有さない。
メッシュMSの形状は、矩形である。メッシュMSは、1つの辺の長さがX1、長さX1の辺と直交する辺の長さがX2である。長さX1と長さX2とは等しくてもよいし、異なっていてもよい。メッシュMSが有する位置情報(x座標、y座標、z座標)は、メッシュMSの位置の代表値であり、例えば、メッシュMSの4つの角の平均値又はメッシュMSの中心における位置としてもよい。なお、メッシュの形状は矩形に限定されず、例えば、三角形又は五角形等の多角形でもよい。
検出処理装置51の変更部51Bは、メッシュMSの大きさを変更する変更指令に基づいて、形状情報のメッシュMSの大きさを変更することができる。例えば、変更部51BがメッシュMSの辺の長さX1,X2を大きく変更することにより、メッシュMSの大きさを変更する場合、形状情報に含まれる位置情報が少なくなる(位置情報の密度が小さくなる)。その結果、形状情報の情報量は低減されるが、形状情報の計測精度は低下する。メッシュMSの大きさが相対的に小さくされる場合、形状情報に含まれる位置情報が多くなるので、形状情報から対象の細かい位置情報を得ることができる一方、形状情報の情報量が増加する。
実施形態において、一対の撮像装置30の位置PTからの距離が大きくなるにしたがって、メッシュMSの大きさは大きくされてもよい。例えば、第2の範囲A2から第1の範囲A1を除いた領域におけるメッシュMSの大きさが、第1の範囲A1の領域におけるメッシュMSよりも大きくされてもよい。一対の撮像装置30からの距離が遠くなるほど、地形のうねり等の影響により、メッシュMSにおける位置情報が計測されなくなるが、一対の撮像装置30から離れたメッシュMSを大きくすることにより、そのメッシュMSの領域内における位置情報が計測されやすくなる。
メッシュMSは、位置情報に加え、位置の精度に関する属性情報を有してもよい。位置の精度に関する属性情報として、例えば、計測した位置における計測精度の情報である精度情報であってもよいし、計測した位置における一対の撮像装置30からの距離データであってもよいし、複数の計測範囲や計測手法を切り替えることができる場合は、いずれの計測範囲や計測手法を用いて計測した位置情報であるかを示すデータであってもよい。対象の形状情報が計測される(求められる)範囲Aを、一対の撮像装置30からより遠くの領域まで計測するようにすると、ステレオカメラによる地形計測の性質上、特に遠くの領域における位置の計測精度が低下する。そこで、例えば、検出処理装置51の演算部51Aは、計測された位置の計測結果(x,y,z座標)に、位置の精度に関する属性情報を加えることができる。すなわち、形状情報は、位置情報に加え、各計測された位置における位置の精度に関する属性情報を有する。
詳細には、計測範囲を図6に示される第1の範囲A1として計測した場合、演算部51Aは、第1の範囲A1の計測結果に、一律して計測した位置精度が高いことを示す情報を付加してもよい。また、対象の形状情報が計測される(求められる)範囲を第2の範囲A2として計測した場合、演算部51Aは、第2の範囲A2の計測結果に、一律して計測した位置精度が低いことを示す情報を付加してもよい。
さらに、演算部51Aは、計測範囲をどちらするかにかかわらず、第1の範囲A1における計測結果、すなわちメッシュの位置情報にその位置精度が高いことを示す情報を付加し、第2の範囲A2から第1の範囲A1を除いた領域における計測結果、すなわちメッシュの位置情報にその位置精度が低いことを示す情報を付加してもよい。演算部51Aは、第1の範囲A1及び第2の範囲A2という領域にかかわらず、一対の撮像装置30から近い位置にあるメッシュにはその位置精度が高いことを示す情報を付加し、一対の撮像装置30から遠い位置にあるメッシュにはその位置精度が低いことを示す情報を付加し、その精度に関する属性情報は距離に応じて段階的に設定されるようにしてもよい。つまり、演算部51Aは、形状情報の定められた範囲であるメッシュ毎に位置の精度に関する属性情報を付加するとともに、メッシュに付加され位置の精度に関する属性情報を、対象検出部である一対の撮像装置30からの距離に応じて変更してもよい。
位置精度が高いという情報及び位置精度が低いという情報は、例えば、予め定められた基準の位置精度と比較して高低が定められる。また、位置精度の高低は、例えば、第1の範囲A1は位置精度が高く、第1の範囲A1からの距離が大きくなるにしたがって、段階的に又は連続的に位置精度が低くなるようにしてもよい。
このようにすることで、形状情報であるデータファイルを取得した管理装置61は、複数のデータファイルを統合する際に、精度に関する属性情報に基づき、相対的に高い精度の位置情報を採用することも可能である。その結果、統合によって得られた施工現場の地形の位置精度を高めることができる。
図8は、表示装置が、計測された位置の精度に関する属性情報を判別できるような形態で表示する例を示す図である。表示装置、実施形態においては管理装置61の表示装置67、携帯端末装置64及び油圧ショベル1内の表示装置58の少なくとも1つは、一対の撮像装置30によって計測された、施工の対象となる現況地形データを表示する際に、計測された位置の精度に関する属性情報が判別できるような形態で表示してもよい。例えば、表示装置は、位置の精度に関する属性情報を形状情報とともに表示する。このとき、表示装置は、位置の精度に関する属性情報に応じて形状情報の表示形態を変更して表示する。すなわち、位置の精度に関する属性情報は、形状情報の表示形態によって表される。図8に示される例では、位置の精度が高い領域AHと低い領域ALとで、表示形態が変更されている。このようにすることで、位置の計測精度が低い領域を容易に判別できるため、必要に応じて制度の高い計測方法により再計測を効率的に行うことができる。
あるメッシュの領域内において、検出処理装置51の演算部51Aにより対象の位置情報(z座標位置)を計測できた場合は、そのメッシュにおける位置情報が記憶されるが、そのメッシュの領域内において位置情報を計測できなかった場合は、そのメッシュにおける位置情報は記憶されない。そのような場合であっても、当該メッシュの近傍にある位置情報が記憶されている複数のメッシュを用いて、位置情報が計測されなかったメッシュの位置情報を推測することができる。計測条件の一つとして、位置情報が計測されなかったメッシュの位置情報を推測するか否かを選択できるようにしてもよい。
図9は、位置情報を有するメッシュMSxp,MSxm,MSyp,MSym及び位置情報を有さないメッシュMStを示す図である。検出処理装置51の演算部51Aは、対象の位置情報を有する少なくとも2つのメッシュを用いて、対象の位置情報を有さないメッシュMStの位置情報を求めることができる。変更部51Bは、変更指令によって、対象の位置情報を有さないメッシュMStの位置情報を求めるか否かを選択する。
演算部51Aは、メッシュMStの位置情報を求めるにあたって、形状情報からメッシュMStを探索する。演算部51Aは、位置情報を有さないメッシュMStを発見した場合、例えばメッシュMStを基準に、第1の方向であるX方向及びY方向の+方向と−方向との両方に沿って、位置情報を有するメッシュを探索する。探索の結果、位置情報を有するメッシュが存在した場合、演算部51Aは、それぞれの方向における最近傍に存在する少なくとも2つのメッシュMSxp,MSxm、MSyp,MSymの位置情報を用いて、補間によってメッシュMStの位置情報を求める。探索する方向はX方向及びY方向に限られず、斜め方向に探索してもよい。補間の方法は既知の方法でよく、例えばバイリニア補間でもよい。
検出処理装置51は、対象の位置情報を有する少なくとも2つのメッシュを用いて、対象の位置情報を有さないメッシュMStの位置情報を求めるので、ステレオ方式による画像処理によって形状情報が求められなかった部分の位置情報も得ることができる。また、対象の位置情報を有さないメッシュの位置情報を求めるか否かを選択できるので、例えば、位置情報が不要な場合は、対象の位置情報を有さないメッシュの位置情報を求めないようにすることも可能である。このようにすれば、形状情報の情報量を低減することもできる。
図10は、形状情報に含まれるノイズ及び作業機を示す図である。実施形態において、演算部51Aは、形状情報から電線、木及び家屋等のノイズを除去するようにしてもよい。この場合、演算部51Aがノイズを除去するか否かを計測条件としてもよい。ノイズを除去するとは、次の場合が想定される。例えば、検出処理装置51が対象における所定の位置(あるx座標及びy座標に位置するメッシュ)において電線を検出した場合、検出処理装置51は、対象における同一の位置(同一のメッシュ)に存在する現況地形も同時に検出してしまう可能性がある。その場合、一つの位置(一つのメッシュ)に2つの高さ(z座標)に位置情報が存在することになる。そのような場合に、その位置(メッシュ)における位置情報を計測しないようにすることで、不確実なデータ、すなわちノイズを除去することができる。
実施形態において、計測条件は、演算部51Aがノイズを除去するか否かを選択するもの及び演算部51Aによって除去されるノイズの大きさの少なくとも一方とすることができる。演算部51Aがノイズを除去するか否かを選択するものが計測条件である場合、変更部51Bは、変更指令に基づき、演算部51Aに形状情報中のノイズを除去させるか、除去させないかを判定する。演算部51Aは、変更部51Bの判定結果に基づいて、形状情報中のノイズを除去したり、そのままにしたりする。このような処理により、ノイズの除去が不要な場合は演算部51Aの処理の負荷が低減される。
演算部51Aによって除去されるノイズの大きさが計測条件である場合、変更部51Bは、変更指令に基づき、演算部51Aが除去するノイズの大きさを変更する。演算部51Aは、変更部51Bによって変更された後の大きさのノイズよりも大きいものを除去する。このような処理により、演算部51Aは、除去する必要がない程度の大きさのノイズは除去しないので、演算部51Aの処理の負荷が低減される。
形状計測システム1Sは、少なくとも一対の撮像装置30と、少なくとも一対の撮像装置30によって検出された対象の情報を用いて、対象の三次元形状を表す形状情報を求めて出力する演算部51Aと、演算部51Aが形状情報を求める際に用いる計測条件を変更する変更部51Bとを有する。計測条件は、演算部51Aが、少なくとも一対の撮像装置30によって得られた対象の情報にステレオ方式による画像処理を施して形状情報を求める際に用いられる。このため、形状計測システム1Sは、変更部51Bにより、ステレオ方式による画像処理が実行される際に用いられる計測条件を変更することができる。
実施形態に係る形状計測方法は、作業機械によって施工された対象を検出して、前記対象の情報を出力する工程と、出力された前記対象の情報を用いて、前記対象の三次元形状を表す形状情報を求めて出力する工程と、を含み、前記形状情報を求める際に用いる計測条件を変更できる。このため、形状計測方法は、ステレオ方式による画像処理が実行される際に用いられる計測条件を変更することができる。
作業機械は、施工対象を施工、例えば掘削及び運搬等を行うことができれば油圧ショベルに限定されず、例えば、ホイールローダー及びブルドーザーのような作業機械であってもよい。
実施形態では、形状情報は予め定められた大きさの複数のメッシュで分けられているが、それに限られず、例えば、メッシュを用いずステレオカメラにより計測できたポイント(xy座標を基準)に基づいて現況の形状が計測され、管理されるようにしてもよい。
実施形態では、対象検出部として、少なくとも一対の撮像装置30を用いて説明したが、対象検出部はこれに限られない。例えば一対の撮像装置30の代わりにレーザスキャナのような3Dスキャナが対象検出部として用いられてもよい。3Dスキャナは、対象の情報を検出し、3Dスキャナによって検出された対象の情報に基づいて、演算部51Aは対象の形状情報を演算することができる。
実施形態では、検出処理装置51において、複数のカメラ画像に基づいてステレオ処理して三次元計測処理をしたが、検出処理装置51はカメラ画像を外部に送信して、ステレオ方式による画像処理を管理施設60の管理装置61で行ってもよいし、携帯端末装置64で行ってもよい。
以上、実施形態を説明したが、前述した内容により実施形態が限定されるものではない。また、前述した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。前述した構成要素は適宜組み合わせることが可能である。実施形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換及び変更のうち少なくとも1つを行うことができる。
1 油圧ショベル
1B 車体
1S 形状計測システム
2 作業機
3 旋回体
4 運転室
5 走行体
23 位置検出装置
25 通信装置
30,30a,30b,30c,30d 撮像装置(対象検出部)
50 作業機械の制御システム
51 検出処理装置
51A 演算部
51B 変更部
52 入力装置
57 施工管理装置
57M 記憶部
60 管理施設
61 管理装置
64 携帯端末装置
100 施工管理システム

Claims (14)

  1. 作業機械に取り付けられ、前記作業機械の周囲の対象を検出する対象検出部と、
    前記対象検出部によって検出された検出結果を用いて、前記対象の三次元形状を表す形状情報を求める演算部と、を備え、
    前記演算部は、ステレオ方式による画像処理を施す範囲である前記形状情報を求める範囲を変更する変更指令に基づいて、前記形状情報を求める範囲を変更する、形状計測システム。
  2. 前記形状情報には、
    位置の精度に関する属性情報が付加される、請求項1に記載の形状計測システム。
  3. 前記演算部は、前記変更指令を、管理装置、携帯端末装置又は前記作業機械の入力装置から受け取る、請求項1に記載の形状計測システム。
  4. 前記形状情報には、
    前記対象の形状情報が求められる範囲が、少なくとも第1の計測範囲と、前記第1の計測範囲よりも広い、かつ前記対象検出部から遠い範囲である第2の計測範囲とがある場合において、前記対象の形状情報が求められる範囲が前記第1の計測範囲の場合には、前記第1の計測範囲内の計測結果に、前記位置の精度が高いことを示す情報が付加される、請求項2に記載の形状計測システム。
  5. 前記形状情報には、
    前記対象の形状情報が求められ、かつ前記第2の計測範囲から前記第1の計測範囲を除いた領域には、前記領域内の計測結果に、前記位置の精度が低いことを示す情報が付加される、請求項4に記載の形状計測システム。
  6. 計測された位置に付加される前記位置の精度に関する属性情報は、計測された位置における前記対象検出部からの距離に応じて変更される、請求項2に記載の形状計測システム。
  7. 前記位置の精度に関する属性情報を前記形状情報とともに表示する表示装置を有する、請求項2に記載の形状計測システム。
  8. 前記形状情報は、複数のメッシュで分けられており、
    各メッシュは、前記対象の位置情報及び位置の精度に関する属性情報を有する、請求項2に記載の形状計測システム。
  9. 前記形状情報は、複数のメッシュで分けられており、
    前記演算部は、前記対象の位置情報を有する少なくとも2つの前記メッシュを用いて、前記対象の位置情報を有さないメッシュの前記位置情報を求める、請求項2に記載の形状計測システム。
  10. 前記形状情報は、複数のメッシュで分けられており、
    前記対象検出部の位置からの距離が大きくなるにしたがって、メッシュの大きさが大きく設定される、
    請求項2に記載の形状計測システム。
  11. 前記変更指令は、前記形状情報を求める範囲を、第1の計測範囲から、前記第1の計測範囲よりも広い範囲である第2の計測範囲に変更する指令である、請求項1に記載の形状計測システム。
  12. 前記変更指令は、前記形状情報を求める範囲を、第2の計測範囲から、前記第2の計測範囲よりも狭い範囲である第1の計測範囲に変更する指令である、請求項1に記載の形状計測システム。
  13. 請求項1から請求項12のいずれか1項に記載の形状計測システムを有する、作業機械。
  14. 作業機械によって前記作業機械の周囲の対象を検出する工程と、
    前記検出された結果を用いて、前記対象の三次元形状を表す形状情報を求めて出力する工程と、を含み、
    前記形状情報を求める範囲を変更する変更指令に基づいて、ステレオ方式による画像処理を施す範囲である前記形状情報を求める範囲を変更する、形状計測方法。
JP2016109578A 2016-05-31 2016-05-31 形状計測システム、作業機械及び形状計測方法 Active JP6674846B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2016109578A JP6674846B2 (ja) 2016-05-31 2016-05-31 形状計測システム、作業機械及び形状計測方法
KR1020187027165A KR20180115756A (ko) 2016-05-31 2017-05-26 형상 계측 시스템, 작업 기계 및 형상 계측 방법
DE112017001523.5T DE112017001523T5 (de) 2016-05-31 2017-05-26 Formmesssystem, Arbeitsmaschine und Formmessverfahren
CN201780017856.1A CN108885102B (zh) 2016-05-31 2017-05-26 形状测量系统、作业机械及形状测量方法
US16/084,740 US20190078294A1 (en) 2016-05-31 2017-05-26 Shape measurement system, work machine, and shape measurement method
PCT/JP2017/019717 WO2017208997A1 (ja) 2016-05-31 2017-05-26 形状計測システム、作業機械及び形状計測方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016109578A JP6674846B2 (ja) 2016-05-31 2016-05-31 形状計測システム、作業機械及び形状計測方法

Publications (2)

Publication Number Publication Date
JP2017214776A JP2017214776A (ja) 2017-12-07
JP6674846B2 true JP6674846B2 (ja) 2020-04-01

Family

ID=60478582

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016109578A Active JP6674846B2 (ja) 2016-05-31 2016-05-31 形状計測システム、作業機械及び形状計測方法

Country Status (6)

Country Link
US (1) US20190078294A1 (ja)
JP (1) JP6674846B2 (ja)
KR (1) KR20180115756A (ja)
CN (1) CN108885102B (ja)
DE (1) DE112017001523T5 (ja)
WO (1) WO2017208997A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102189225B1 (ko) * 2016-09-16 2020-12-09 히다찌 겐끼 가부시키가이샤 작업 기계
JP6960802B2 (ja) * 2017-08-24 2021-11-05 日立建機株式会社 作業機械の周囲監視装置
JP7311250B2 (ja) * 2018-08-31 2023-07-19 株式会社小松製作所 作業機械の運搬物特定装置、作業機械、作業機械の運搬物特定方法、補完モデルの生産方法、および学習用データセット
CN111226009B (zh) * 2018-09-25 2022-03-04 日立建机株式会社 作业机的外形形状测定系统、作业机的外形形状显示系统、作业机的控制系统以及作业机械
JP7203616B2 (ja) * 2019-01-28 2023-01-13 日立建機株式会社 作業機械
WO2020175645A1 (ja) * 2019-02-28 2020-09-03 住友重機械工業株式会社 表示装置、ショベル、情報処理装置
KR20210139297A (ko) * 2019-03-27 2021-11-22 스미토모 겐키 가부시키가이샤 건설기계, 지원시스템
WO2021060533A1 (ja) * 2019-09-26 2021-04-01 日立建機株式会社 作業機械
KR102415420B1 (ko) * 2019-11-29 2022-07-04 한국생산기술연구원 굴삭기의 버켓 위치 확인 시스템 이를 이용한 버켓 위치 확인 방법
DE102020201394A1 (de) 2020-02-05 2021-08-05 Zf Friedrichshafen Ag Halbautomatische Steuerung eines Baggers
US20240309613A1 (en) * 2021-02-26 2024-09-19 Nec Corporation Object identification method, object identification system, and object identification device

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02195202A (ja) * 1989-01-24 1990-08-01 Oki Electric Ind Co Ltd 土量計測方法
JP2002032744A (ja) * 2000-07-14 2002-01-31 Komatsu Ltd 3次元モデリング及び3次元画像作成のための装置及び方法
US20020024517A1 (en) * 2000-07-14 2002-02-28 Komatsu Ltd. Apparatus and method for three-dimensional image production and presenting real objects in virtual three-dimensional space
JP4727068B2 (ja) * 2001-05-29 2011-07-20 株式会社トプコン 施工監視システム、施工管理方法
JP4233932B2 (ja) * 2003-06-19 2009-03-04 日立建機株式会社 作業機械の作業支援・管理システム
JP5390813B2 (ja) * 2008-09-02 2014-01-15 東急建設株式会社 空間情報表示装置及び支援装置
US9881419B1 (en) * 2012-02-02 2018-01-30 Bentley Systems, Incorporated Technique for providing an initial pose for a 3-D model
DE102013200387A1 (de) * 2013-01-14 2014-07-17 Robert Bosch Gmbh Erstellung einer Hinderniskarte
US9715008B1 (en) * 2013-03-20 2017-07-25 Bentley Systems, Incorporated Visualization of 3-D GPR data in augmented reality
US10030358B2 (en) * 2014-02-13 2018-07-24 Trimble Inc. Non-contact location and orientation determination of an implement coupled with a mobile machine
KR102118464B1 (ko) * 2014-03-26 2020-06-03 얀마 가부시키가이샤 자율 주행 작업 차량
JP2016065422A (ja) * 2014-09-26 2016-04-28 株式会社日立製作所 外界認識装置および外界認識装置を用いた掘削機械
US9796390B2 (en) * 2016-02-29 2017-10-24 Faraday&Future Inc. Vehicle sensing grid having dynamic sensing cell size

Also Published As

Publication number Publication date
DE112017001523T5 (de) 2018-12-13
CN108885102B (zh) 2021-07-20
CN108885102A (zh) 2018-11-23
JP2017214776A (ja) 2017-12-07
US20190078294A1 (en) 2019-03-14
WO2017208997A1 (ja) 2017-12-07
KR20180115756A (ko) 2018-10-23

Similar Documents

Publication Publication Date Title
JP6674846B2 (ja) 形状計測システム、作業機械及び形状計測方法
US10385543B2 (en) Construction management system, construction management method, and management device
AU2021201894B2 (en) Shape measuring system and shape measuring method
JP6050525B2 (ja) 位置計測システム、作業機械及び位置計測方法
JP6585697B2 (ja) 施工管理システム
JP2016160741A (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械
CN109073379B (zh) 管理系统
JP7203616B2 (ja) 作業機械
AU2021201940A1 (en) Construction method, work machine control system, and work machine
JP6606230B2 (ja) 形状計測システム
JP6815462B2 (ja) 形状計測システム及び形状計測方法
JP2018178711A (ja) 施工現場の形状情報の生成方法及び作業機械の制御システム
JP7166326B2 (ja) 施工管理システム
JP7263287B2 (ja) 作業機械
CN115164764A (zh) 测量系统、测量方法以及存储有测量程序的存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200309

R150 Certificate of patent or registration of utility model

Ref document number: 6674846

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150