JP6995767B2 - 計測システム、作業機械及び計測方法 - Google Patents

計測システム、作業機械及び計測方法 Download PDF

Info

Publication number
JP6995767B2
JP6995767B2 JP2018547835A JP2018547835A JP6995767B2 JP 6995767 B2 JP6995767 B2 JP 6995767B2 JP 2018547835 A JP2018547835 A JP 2018547835A JP 2018547835 A JP2018547835 A JP 2018547835A JP 6995767 B2 JP6995767 B2 JP 6995767B2
Authority
JP
Japan
Prior art keywords
image pickup
turning
hydraulic excavator
swivel body
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018547835A
Other languages
English (en)
Other versions
JPWO2018079789A1 (ja
Inventor
駿 川本
博義 山口
大樹 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Publication of JPWO2018079789A1 publication Critical patent/JPWO2018079789A1/ja
Application granted granted Critical
Publication of JP6995767B2 publication Critical patent/JP6995767B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/01Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/13Receivers
    • G01S19/14Receivers specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/42Determining position
    • G01S19/48Determining position by combining or switching between position solutions derived from the satellite radio beacon positioning system and position solutions derived from a further system
    • G01S19/485Determining position by combining or switching between position solutions derived from the satellite radio beacon positioning system and position solutions derived from a further system whereby the further system is an optical system or imaging system
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/16Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using electromagnetic waves other than radio waves
    • G01S5/163Determination of attitude
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/77Determining position or orientation of objects or cameras using statistical methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Electromagnetism (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Operation Control Of Excavators (AREA)

Description

本発明は、作業機械の周囲を計測する計測システム、作業機械及び計測方法に関する。
撮像装置を有する作業機械がある。特許文献1には、記憶部に記憶された施工計画データと、ステレオカメラの位置情報に基づき施工計画画像データを作成し、施工計画画像データとステレオカメラで撮像された現況画像データとを重合わせ、重合わせた合成画像を三次元表示装置に三次元表示させる技術が記載されている。
特開2013-036243号公報
作業機械の周囲の形状を広範囲に計測したいという要望がある。作業機械の周囲の形状を広範囲に計測することについて、特許文献1には記載も示唆もされておらず、改善の余地がある。
本発明は、作業機械の周囲の形状を広範囲に計測することを目的とする。
本発明の第1の態様によれば、作業機械の旋回体に取り付けられて、前記作業機械の周囲の形状を撮像する撮像部と、前記旋回体の位置を求める位置検出部と、前記旋回体の旋回動作中の、前記撮像部の撮像時における前記撮像部の位置を演算する撮像部位置演算部と、前記撮像部位置演算部によって演算された前記撮像部の位置に基づいて、前記撮像時における前記作業機械の周囲の三次元位置を求める三次元位置演算部と、を備える計測システムが提供される。
本発明の第2の態様によれば、第1の態様において、前記作業機械の旋回動作中に前記撮像部によって撮像された複数の二次元画像における共通の部分を求める共通部分抽出部を有し、撮像部位置演算部は、前記撮像部の撮像時における前記撮像部の位置を演算する計測システムが提供される。
本発明の第3の態様によれば、第1の態様又は第2の態様において、前記撮像部位置演算部は、撮像時における前記撮像部の位置を演算するために、撮像時における前記旋回体の旋回角度を演算し、前記撮像部の位置を演算する計測システムが提供される。
本発明の第4の態様によれば、第1の態様から第3の態様のいずれか1つにおいて、前記撮像部位置演算部は、前記旋回体の旋回動作前における前記旋回体の位置、又は前記旋回体の旋回動作後における前記旋回体の位置を用いて、前記撮像部の撮像時における前記撮像部の位置を補正する計測システムが提供される。
本発明の第5の態様によれば、第3の態様又は第4の態様において、前記撮像部位置演算部は、前記旋回体の旋回動作前における前記旋回体の旋回角度と、前記旋回体の旋回動作後における前記旋回体の旋回角度とを用いて、前記旋回体の旋回動作中における旋回角度を補正する計測システムが提供される。
本発明の第6の態様によれば、第2の態様から第5の態様のいずれか1つにおいて、前記撮像部位置演算部は、複数の共通の部分を用いて最小二乗法を用いて前記撮像部の位置を演算する計測システムが提供される。
本発明の第7の態様によれば、第1の態様から第6の態様のいずれか1つにおいて、前記三次元位置演算部は、前記旋回体の旋回動作中に得られた複数の前記作業機械の周囲の三次元位置を結合する計測システムが提供される。
本発明の第8の態様によれば、第1の態様から第7の態様のいずれか1つに係る計測システムを備える作業機械が提供される。
本発明の第9の態様によれば、作業機械に取り付けられる旋回体の旋回動作中の、前記旋回体に取り付けられた撮像部の撮像時における前記撮像部の位置を演算し、演算された前記撮像部の位置に基づいて、前記撮像時における前記作業機械の周囲の三次元位置を求める計測方法が提供される。
本発明の態様によれば、作業機械の周囲の形状を広範囲に計測できる。
実施形態に係る油圧ショベルを示す斜視図である。 実施形態に係る油圧ショベルの運転席付近の斜視図である。 実施形態に係る計測システムを示す図である。 油圧ショベルの周囲を連続して計測する例を説明する平面図である。 実施形態に係る計測システムが旋回体の旋回動作中に油圧ショベルの周囲を三次元計測することを説明するための図である。 旋回体が旋回動作することにより撮像装置座標系が移動することを説明するための図である。 旋回体の旋回動作中に撮像された画像の一例を示す図である。 旋回体の旋回動作中に撮像され、三次元位置が求められた複数の画像を結合することを説明するための図である。 旋回角度を補正することを説明するための図である。 実施形態に係る計測方法の手順の一例を示すフローチャートである。 旋回体の旋回動作中及び旋回動作の前後に得られた複数の距離画像を結合する例を示す図である。 実施形態に係る計測システムが油圧ショベルの走行動作中に油圧ショベルの周囲を三次元計測することを説明するための図である。
本発明を実施するための形態(実施形態)につき、図面を参照しつつ詳細に説明する。
<油圧ショベルの全体構成>
図1は、実施形態に係る油圧ショベル1を示す斜視図である。図2は、実施形態に係る油圧ショベル1の運転席付近の斜視図である。作業機械の一例である油圧ショベル1は、車体1B及び作業機2を有する。車体1Bは、旋回体3、運転室4及び走行体5を有する。旋回体3は、旋回中心軸Zrを中心として走行体5に旋回可能に取り付けられている。旋回体3は、油圧ポンプ及びエンジン等の装置を収容している。
旋回体3は、作業機2が取り付けられて旋回動作する。旋回体3の上部には手すり9が取り付けられている。手すり9には、アンテナ25F,25Sが取り付けられる。アンテナ25F,25Sは、GNSS(Global Navigation Satellite Systems、GNSSは全地球航法衛星システムをいう)用のアンテナである。アンテナ25F,25Sは、車体座標系(Xm,Ym,Zm)のYm軸と平行な方向に沿って、一定距離だけ離れて配置されている。アンテナ25F,25Sは、GNSS電波を受信し、受信したGNSS電波に応じた信号を出力する。アンテナ25F,25Sは、GPS(Global Positioning System)用のアンテナであってもよい。
運転室4は旋回体3の前部に載置されている。運転室4の屋根には、通信用のアンテナ25Aが取り付けられている。走行体5は、履帯5a,5bを有する。履帯5a,5bが回転することにより油圧ショベル1が走行する。
作業機2は、車体1Bの前部に取り付けられている。作業機2は、ブーム6、アーム7、作業具としてのバケット8、ブームシリンダ10、アームシリンダ11及びバケットシリンダ12を有する。実施形態において、車体1Bの前方は、図2に示される運転席4Sの背もたれ4SSから操作装置35に向かう方向側である。車体1Bの後方は、操作装置35から運転席4Sの背もたれ4SSに向かう方向側である。車体1Bの前部は、車体1Bの前方側の部分であり、車体1BのカウンタウエイトWTとは反対側の部分である。操作装置35は、作業機2及び旋回体3を操作するための装置であり、右側レバー35R及び左側レバー35Lを有する。
旋回体3は、位置検出部の一例である位置検出装置23と、姿勢検出部の一例であるIMU(Inertial Measurement Unit:慣性計測装置)24とを有する。位置検出装置23は、油圧ショベル1の位置、本実施形態では旋回体3の位置を求める。詳細には、位置検出装置23は、アンテナ25F,25Sから取得した信号を用いて、グローバル座標系(Xg,Yg,Zg)におけるアンテナ25F,25Sの現在位置及び旋回体3の方位を検出して、出力する。旋回体3の方位は、グローバル座標系における旋回体3の向きを表す。旋回体3の向きは、例えば、グローバル座標系のZg軸周りにおける旋回体3の前後方向の向きで表すことができる。方位角は、旋回体3の前後方向における基準軸の、グローバル座標系のZg軸周りにおける回転角である。方位角によって旋回体3の方位が表される。前述した通り、油圧ショベル1の方位角θdは、位置検出装置23又はIMU24のいずれか一方によりが求められるが、どちらを用いてもよい。
IMU24は、油圧ショベル1の姿勢、本実施形態では旋回体3の姿勢を求める。油圧ショベル1の姿勢は、ロール角θr、ピッチ角θp及び方位角θdで表される。油圧ショベル1に作用する加速度及び角速度から、油圧ショベル1のロール角θr、ピッチ角θp及び方位角θdが得られる。IMU24は、自身に作用する加速度及び角速度、すなわち油圧ショベル1に作用する加速度及び角速度を検出し、油圧ショベル1のロール角θr、ピッチ角θp及び方位角θdを求めて出力する。このように、IMU24は、油圧ショベル1の姿勢を求める。IMU24が検出した加速度及び角速度を用いて、演算装置が油圧ショベル1のロール角θr、ピッチ角θp及び方位角θdを求めてもよい。この場合、IMU24と、前述した演算装置とが姿勢検出装置になる。油圧ショベル1のロール角θr、ピッチ角θp及び方位角θdは、IMU24以外の装置、例えばジャイロ等によって求められてもよい。
<撮像部(装置)>
図2に示されるように、油圧ショベル1は、運転室4内に撮像部である撮像装置30a,30b,30c,30dを複数有する。以下において、複数の撮像装置30a,30b,30c,30dを区別しない場合は適宜、撮像装置30と称する。複数の撮像装置30は、旋回体3に取り付けられて、油圧ショベル1の周囲の形状を撮像して、形状の情報である形状情報を出力する。
複数の撮像装置30のうち撮像装置30a及び撮像装置30cは、作業機2側に配置される。撮像装置30の種類は限定されないが、実施形態では、例えば、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを備えた撮像装置が用いられる。
図2に示されるように、撮像装置30aと撮像装置30bとは所定の間隔をおいて同じ方向又は異なる方向を向いて運転室4内に配置される。撮像装置30cと撮像装置30dとは所定の間隔をおいて同じ方向又は異なる方向を向いて運転室4内に配置される。複数の撮像装置30a,30b,30c,30dは、これらのうち2個が組み合わされてステレオカメラを構成する。実施形態では、撮像装置30a,30bの組合せのステレオカメラ、及び撮像装置30c,30dの組合せのステレオカメラが構成される。
実施形態において、撮像装置30a及び撮像装置30bは上方を向いており、撮像装置30c及び撮像装置30dは下方を向いている。少なくとも撮像装置30a及び撮像装置30cは、油圧ショベル1、実施形態では旋回体3の正面を向いている。撮像装置30b及び撮像装置30dは、作業機2の方に、すなわち、撮像装置30a及び撮像装置30c側の方に若干向けられて配置されることもある。
実施形態において、油圧ショベル1は、4個の撮像装置30を有するが、油圧ショベル1が有する撮像装置30の数は少なくとも2個、すなわち少なくとも一対であればよく、4個に限定されない。油圧ショベル1は、少なくとも一対の撮像装置30でステレオカメラを構成して、施工対象をステレオ撮影するからである。
複数の撮像装置30a,30b,30c,30dは、運転室4内の前方かつ上方に配置される。上方とは、油圧ショベル1が有する履帯5a,5bの接地面と直交し、かつ接地面から離れる方向側である。履帯5a,5bの接地面は、履帯5a,5bのうち少なくとも一方が接地する部分の、同一直線上には存在しない少なくとも3点で規定される平面である。下方は、上方とは反対方向側、すなわち履帯5a,5bの接地面と直交し、かつ接地面に向かう方向側である。
複数の撮像装置30a,30b,30c,30dは、油圧ショベル1の周囲、詳細には車体1Bの前方に存在する施工対象をステレオ撮影する。施工対象は、例えば、油圧ショベル1がこれから施工する部分、施工中の部分及び施工後の部分が含まれる。
複数の撮像装置30a,30b,30c,30dは、油圧ショベル1の所定の位置、実施形態では運転室4内の前方かつ上方から施工対象を検出する。実施形態においては、少なくとも一対の撮像装置30によるステレオ撮影の結果を用いて、施工対象が三次元計測される。複数の撮像装置30a,30b,30c,30dが配置される場所は、運転室4内の前方かつ上方に限定されるものではない。
複数の撮像装置30a,30b,30c,30dのうち、例えば、撮像装置30cをこれらの基準とする。4個の複数の撮像装置30a,30b,30c,30dは、それぞれ座標系を有する。これらの座標系を適宜、撮像装置座標系と称する。図2では、基準となる撮像装置30cの撮像装置座標系(Xs,Ys,Zs)のみを示している。撮像装置座標系の原点は、例えば、各撮像装置30a,30b,30c,30dの中心である。
実施形態において、各撮像装置30a,30b,30c,30dの撮像範囲は、油圧ショベル1の作業機2が施工できる範囲よりも大きい。このようにすることで、各撮像装置30a,30b,30c,30dは、作業機2が掘削できる範囲の施工対象を確実にステレオ撮影することができる。
前述した車体座標系(Xm,Ym,Zm)は、車体1B、実施形態では旋回体3に固定された原点を基準とする座標系である。実施形態において、車体座標系(Xm,Ym,Zm)の原点は、例えば、旋回体3のスイングサークルの中心である。スイングサークルの中心は、旋回体3の旋回中心軸Zr上に存在する。車体座標系(Xm,Ym,Zm)のZm軸は旋回体3の旋回中心軸Zrとなる軸であり、Xm軸は旋回体3の前後方向に延び、かつZm軸と直交する軸である。Xm軸は、旋回体3の前後方向における基準軸である。Ym軸は、Zm軸及びXm軸と直交する、旋回体3の幅方向に延びる軸である。車体座標系は、実施形態の例には限定されない。前述したグローバル座標系(Xg,Yg,Zg)は、GNSSによって計測される座標系であり、地球に固定された原点を基準とした座標系である。
<計測システム>
図3は、実施形態に係る計測システム50を示す図である。図3に示される計測システム50の装置構成は一例であり、実施形態の装置構成には限定されない。計測システム50は、図1に示される油圧ショベル1の車体1B、実施形態では旋回体3に備えられている。計測システム50は、検出装置である複数の撮像装置30a,30b,30c,30dと、処理装置40とを含む。実施形態において、計測システム50は、さらに位置検出装置23、IMU24及び入力装置32を有するが、少なくとも複数の撮像装置30a,30b,30c,30dと、処理装置40とを有していればよい。
処理装置40は、処理部41と、記憶部42と、入出力部43とを有する。処理部41は、例えば、CPU(Central Processing Unit)のようなプロセッサとメモリとの組合せによって実現される。処理装置40は、実施形態に係る計測方法を実現する。この場合、処理部41は、記憶部42に記憶されたコンピュータプログラムを読み込んで実行する。このコンピュータプログラムは、実施形態に係る計測方法を処理部41に実行させるためものである。
処理部41は、共通部分抽出部41Aと、移動量演算部41Bと、車体状態演算部41Cと、三次元位置演算部41Dとを有する。共通部分抽出部41Aは、油圧ショベル1の動作中、本実施形態では旋回体3の旋回動作中に、撮像装置30によって複数回撮像された場合に、撮像装置30によって得られた複数の二次元画像における共通の部分を求める。油圧ショベル1の動作中には、油圧ショベル1の旋回体3の旋回動作(旋回)が含まれる。旋回体3の旋回動作中において、共通部分抽出部41Aは、旋回体3が旋回する方向の異なる位置において、少なくとも1つの撮像装置30によって撮像された複数の二次元画像から共通の部分を求める。
移動量演算部41Bは、得られた共通の部分に基づいて旋回体3の旋回角度を求める。車体状態演算部41Cは、得られた旋回角度と、旋回体3が旋回する前に静止している状態で位置検出装置23によって求められた油圧ショベル1の位置と、旋回体3が旋回する前に静止している状態でIMU24によって求められた油圧ショベル1の姿勢と、に基づいて旋回体3の旋回動作中における油圧ショベル1の位置及び姿勢を求める。三次元位置演算部41Dは、得られた油圧ショベル1の位置及び姿勢と、旋回体3が旋回する方向の複数の位置において、少なくとも一対の撮像装置30によって撮像された画像とを用いて油圧ショベル1の周囲の三次元位置を求める。移動量演算部41Bと車体状態演算部41Cとは、撮像部位置演算部41Eを構成する。撮像部位置演算部41Eは、共通部分抽出部41Aによって求められた共通の部分に基づいて、撮像時における撮像装置30の位置を演算する。旋回体3の旋回動作中において、撮像部位置演算部41Eは、撮像時における撮像装置30の位置を演算するために、撮像時における旋回体3の旋回角度を演算し、撮像装置30の位置を演算する。
記憶部42は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)等の不揮発性又は揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク及び光磁気ディスクのうち少なくとも1つが用いられる。
記憶部42は、実施形態に係る計測方法を処理部41に実行させるためのコンピュータプログラムを記憶している。記憶部42は、処理部41が実施形態に係る計測方法を実行する際に使用される情報を記憶する。この情報は、例えば、各撮像装置30の内部校正データ、各撮像装置30の姿勢、撮像装置30同士の位置関係、作業機2等の既知の寸法、車体座標系の原点から各撮像装置30又はいずれかの撮像装置30までの位置関係を示す既知の寸法、及び作業機2の姿勢から作業機2の一部の位置を求めるために必要な情報を含む。
入出力部43は、処理装置40と機器類とを接続するためのインターフェース回路である。入出力部43には、位置検出装置23、IMU24、入力装置32及びハブ51が接続される。位置検出装置23及びIMU24は、通信線を介して入出力部43に接続されていてもよい。通信線を用いた場合、通信の規格はCAN(Controller Area Network)が例示されるが、これに限定されない。
ハブ51には、複数の撮像装置30a,30b,30c,30d、入力装置32及びライト33が接続されている。ハブ51を用いずに、撮像装置30と処理装置40とが接続されてもよい。撮像装置30a,30b,30c,30dの撮像した結果である形状情報SIは、ハブ51を介して入出力部43に入力される。処理部41は、ハブ51及び入出力部43を介して、撮像装置30a,30b,30c,30dの撮像した結果を取得する。入力装置32は、処理部41が実施形態に係る計測方法を実行する際に必要な情報を入力するために用いられる。ライト33は、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力すると点灯する。
入力装置32は、例えば、スイッチ及びタッチパネルが例示されるが、これらに限定されるものではない。実施形態において、入力装置32は、図2に示される運転室4内、詳細には運転席4Sの近傍に設けられる。入力装置32は、操作装置35の右側レバー35R及び左側レバー35Lの少なくとも一方に取り付けられていてもよいし、運転室4内のモニタパネルに設けられていてもよい。また、入力装置32は、入出力部43に対して取り外し可能であってもよいし、電波又は赤外線を用いた無線通信により入出力部43に情報を入力してもよい。入力装置32は、携帯端末装置に備えられていてもよい。
計測システム50の処理装置40は、少なくとも一対の撮像装置30によって撮像された施工対象の一対の画像に、ステレオ方式における画像処理を施すことにより、施工対象の三次元位置、詳細には三次元座標系における施工対象の座標を求める。このように、処理装置40は、同一の施工対象を少なくとも一対の撮像装置30で撮像することによって得られた一対の画像を用いて、施工対象を三次元計測する。すなわち、少なくとも一対の撮像装置30及び処理装置40は、ステレオ方式により施工対象を三次元計測するものである。ステレオ方式における画像処理とは、同一の施工対象を2つの異なる撮像装置30から観測して得られる2つの画像から、その施工対象までの距離を得る手法である。施工対象までの距離は、例えば、施工対象までの距離情報を濃淡により可視化した距離画像として表現される。距離画像は、施工対象の三次元形状又は三次元位置を表す情報である。距離画像に含まれる各画素は、施工対象の三次元位置の情報を有する。
実施形態において、処理装置40が有する処理部41の三次元位置演算部41Dは、ステレオ方式による画像処理を実行する。処理装置40は、少なくとも一対の撮像装置30によって検出、すなわち撮像された施工対象の形状情報SIを取得し、取得した形状情報SIに基づいて施工対象の三次元位置を求める。形状情報SIは、少なくとも一対の撮像装置30によって撮像された施工対象の画像である。処理装置40は、施工対象の画像にステレオ方式による画像処理を施すことにより施工対象の三次元位置を求め、出力する。このように、処理装置40は、同一の施工対象を少なくとも一対の撮像装置30で撮像することによって得られた一対の画像を用いて、施工対象を三次元計測する。このように、少なくとも一対の撮像装置30及び処理装置40は、ステレオ方式により施工対象、実施形態では油圧ショベル1の周囲を三次元計測する。
ステレオ方式による画像処理が実行されると、距離画像が得られる。距離画像の各画素が有する施工対象の三次元位置は、撮像装置座標系における三次元位置である。計測システム50によって三次元計測される油圧ショベル1の周囲の位置は、グローバル座標系における三次元位置である。このため、計測システム50、詳細には処理装置40は、ステレオ方式による画像処理を実行することによって得られた三次元位置を、撮像装置座標系における位置からグローバル座標系における位置に変換する。この変換は、処理部41の三次元位置演算部41Dが実行する。
三次元位置演算部41Dは、位置検出装置23によって求められたグローバル座標系における油圧ショベル1の位置と、IMU24によって求められた油圧ショベル1の姿勢とを取得する。油圧ショベル1の位置は、アンテナ25F,25Sの少なくとも一方の位置である。油圧ショベル1の姿勢は、ロール角θr、ピッチ角θp及び方位角θdである。三次元位置演算部41Dは、油圧ショベル1の位置及び姿勢用いて、少なくとも一対の撮像装置30によって検出された形状情報SIから得られた距離画像に含まれる三次元位置を、撮像装置座標系からグローバル座標系へ座標変換し、出力する。
<連続した三次元計測>
図4は、油圧ショベル1の周囲を連続して計測する例を説明する平面図である。計測システム50の撮像装置30は、油圧ショベル1の旋回体3に取り付けられているため、旋回体3の旋回動作中に少なくとも一対の撮像装置30が油圧ショベル1の周囲CRを撮像することで、油圧ショベル1の周囲CRの全体の三次元位置を計測できる。計測システム50の処理装置40は、ステレオ方式による画像処理を実行することにより得られた撮像装置座標系の三次元位置を、グローバル座標系における三次元位置に座標変換する。この座標変換において、位置検出装置23及びIMU24の情報が必要になる。
位置検出装置23は、所定の周期毎に位置を出力する。そのため、位置検出装置23から得られた情報に基づいて、処理装置40が旋回体3の旋回動作中における周囲CRの三次元位置を求めると、撮像装置30による撮像タイミングと、位置検出装置23による油圧ショベル1の位置及び方位の取得タイミングとが異なる場合、油圧ショベル1の位置及び方位の精度が低下する。その結果、三次元位置の精度が低下する可能性がある。またIMU24は、自身が動いている場合における姿勢及び加速度の検出精度が低下するものがある。このようなIMU24から得られた情報に基づいて、処理装置40が旋回体3の旋回動作中における周囲CRの三次元位置を求めると、IMU24によって検出された油圧ショベル1の姿勢及び加速度の精度が低下するため、三次元位置の精度が低下する可能性がある。
旋回体3を旋回させながら油圧ショベル1の周囲CRを計測する場合、位置検出装置23及びIMU24が油圧ショベル1の位置及び姿勢を安定して検出するようになってから撮像装置30が撮像する方法が考えられる。この場合、旋回体3は間欠的に旋回することになる。また、位置検出装置23及びIMU24が油圧ショベル1の位置及び姿勢を安定して検出するまで、撮像装置30による撮像を待つ必要がある。このため、位置検出装置23及びIMU24が安定するまで撮像を待つ方法では、計測に時間を要する。
実施形態において、計測システム50は、油圧ショベル1の旋回体3の間欠的な旋回ではなく連続した旋回動作中に、油圧ショベル1の周囲CRの形状情報SIを検出し、検出された形状情報SIに基づいて油圧ショベル1の周囲CRの三次元位置を求める。このような処理により、計測システム50は、油圧ショベル1の周囲CRの形状情報SIを検出する時間を短縮できる。
図5は、実施形態に係る計測システム50が旋回体3の旋回動作中に油圧ショベル1の周囲CRを三次元計測することを説明するための図である。図6は、旋回体3が旋回動作することにより撮像装置座標系(Xs,Ys,Zs)が移動することを説明するための図である。図7は、旋回体3の旋回動作中に撮像された画像PTf,PTsの一例を示す図である。
実施形態において、計測システム50は、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力している状態で、位置検出装置23から油圧ショベル1の位置を取得し、IMU24から油圧ショベル1の姿勢を取得する。詳細には、計測システム50は、旋回体3が旋回動作を開始する前に、旋回体3が静止している状態で、位置検出装置23から油圧ショベル1の位置を取得し、IMU24から油圧ショベル1の姿勢を取得する。この場合、旋回体3が静止しているとともに、油圧ショベル1も走行していない状態である。位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力している状態とするためである。処理部41は、例えば、旋回体3が停止してから予め定められた時間が経過したら、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力している状態になったと判定する。
旋回体3が計測の施工対象に向けられてから静止した後に、計測システム50の処理装置40、詳細には処理部41は、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力するようになったと判定すると、例えばその旨を報知する。実施形態では、処理部41は、図3に示されるライト33を点灯させることにより、前述した報知を行う。
処理部41は、ライト33を点灯させた後、入力装置32から撮像装置30の撮像開始指令を受け付けると、位置検出装置23及びIMU24から、それぞれ油圧ショベル1の位置及び姿勢を取得する。記憶部42は、旋回体3の旋回動作前に取得された油圧ショベル1の位置及び姿勢を一時的に記憶する。処理部41は、油圧ショベル1の位置及び姿勢を取得すると、撮像装置30a,30b,30c,30dによる撮像を開始させるとともに、旋回体3を旋回させる。旋回体3は、油圧ショベル1のオペレータの操作によって旋回してもよい。
撮像装置30a,30b,30c,30dのそれぞれは、旋回体3の旋回動作中に所定周期毎に複数回撮像することにより、旋回体3が旋回する方向(例えば、図5の矢印Rで示される方向)における複数の位置で、油圧ショベル1の周囲CRの画像を複数得る。記憶部42は、得られた画像を一時的に記憶する。旋回体3が所定の角度、例えば360度旋回すると、処理部41は旋回体3を停止させる。このとき、油圧ショベル1は停止している。旋回体3が停止した後、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力するようになったら、処理部41は、位置検出装置23及びIMU24から、それぞれ油圧ショベル1の位置及び姿勢を取得する。記憶部42は、旋回体3の旋回動作後であって位置検出装置23及びIMU24が油圧ショベル1の位置及び姿勢を安定して出力するようになってから取得された油圧ショベル1の位置及び姿勢を一時的に記憶する。撮像装置30a,30b,30c,30dは、旋回体3の旋回動作後であって位置検出装置23及びIMU24が油圧ショベル1の位置及び姿勢を安定して出力するようになってから、施工対象を撮像する。
旋回体3が油圧ショベル1のオペレータの操作によって旋回する場合、撮像装置30a,30b,30c,30dのそれぞれは、入力装置32から撮像開始指令を受け付けた後から、所定周期毎に複数回撮像するようにしてもよい。また、撮像装置30a,30b,30c,30dのそれぞれは、旋回体3が旋回を開始したことを位置検出装置23又はIMU24が検知してから、所定周期毎に複数回撮像するようにしてもよい。油圧ショベル1のオペレータの操作によって旋回体3の旋回が停止した場合、撮像装置30a,30b,30c,30dのそれぞれは、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力するようになったら、所定周期毎の撮影を停止するようにしてもよい。撮像装置30a,30b,30c,30dが複数回撮像した場合において、最初の1回の撮像及び最後の1回の撮像のうち少なくとも一方は、旋回体3の静止中に行われる。油圧ショベル1の動作中に行われた、撮像装置30a,30b,30c,30dによる撮像には、油圧ショベル1の静止中に行われた撮像が少なくとも一つ含まれる。
処理部41は、油圧ショベル1の周囲CRの三次元位置を求めるにあたって、旋回体3が旋回する前に旋回体3及び油圧ショベル1が静止している状態で得られた油圧ショベル1の位置及び姿勢と、旋回体3の旋回角度θとに基づいて、旋回体3の旋回中における油圧ショベル1の位置及び姿勢求める。このため、処理部41は、旋回体3の旋回角度θを求める。
図7に示されるように、処理部41の共通部分抽出部41Aは、旋回体3の旋回動作中における第1位置で、例えば撮像装置30cに撮像された画像PTfと、旋回体3の旋回動作中における第2位置で撮像装置30cに撮像された画像PTsとから、両者の共通の部分PCMを求める。第1位置PFから第2位置PSに至るまで、撮像装置30c,30dは、旋回体3の旋回中心軸Zr、実施形態では車体座標系のZm軸を中心に、旋回角度Δθだけ旋回する。
共通の部分PCMは、旋回体3が旋回する方向の異なる位置において、複数の撮像装置30のうち少なくとも1つによって撮像された複数の画像PTf,PTsから求められる。画像PTfは、図5に示される第1位置PFで、撮像装置30cによって撮像された第1範囲FMFに対応する。画像PTsは、図5に示される第2位置PSで、撮像装置30cによって撮像された第2範囲FMSに対応する。
第1範囲FMFと第2範囲FMSとが重なる部分には、特徴部分FPが存在する。特徴部分FPは、画像PTf中では一部分PCMfであり、画像PTs中では一部分PCMsである。一部分PCMf,PCMsは、画像PTfと画像PTsとの共通の部分PCMである。共通部分抽出部41Aが画像PTfと画像PTsとの共通の特徴部分FPを抽出するにあたっては、共通部分抽出部41Aは、まずそれぞれの画像PTf及び画像PTsから特徴部分FPを抽出し、その中で類似する特徴部分を発見する方法が例示される。共通部分抽出部41Aは、画像PTf及び画像PTsを記憶部42から取得し、共通の部分PCMを抽出する。共通部分抽出部41Aは、例えば、Harrisオペレータのような、複数の画像の特徴点を検出するアルゴリズムを用いて、画像PTf及び画像PTsから共通の部分PCMを抽出する。共通部分抽出部41Aは、Harrisオペレータ以外のアルゴリズムを用いて、画像PTf及び画像PTsから共通の部分PCMを抽出してもよい。
共通の部分PCMが抽出されたら、処理部41の移動量演算部41Bは、共通の部分PCMに基づいて、旋回角度Δθを求める。画像PTfと画像PTsとの間に共通の部分PCMが存在する場合、両者の間で共通の部分PCMが写っている位置が変化する。この変化量dが、旋回角度Δθに対応する。
旋回体3が旋回中心軸Zrを中心に旋回角度Δθだけ旋回すると、撮像装置座標系(Xs,Ys,Zs)が、図6に示されるように旋回体3が旋回中心軸Zrを中心に、第1位置PFから第2位置PSまで、旋回角度θだけ移動する。旋回体3は旋回中心軸Zr、実施形態では車体座標系のZr軸を中心に旋回するので、第1位置PFと第2位置PSとの間で、撮像装置座標系(Xs,Ys,Zs)がZs軸の周りに回転した角度が、旋回角度θになる。図6に記載されているように、旋回中心軸Zrから撮像装置30c,30dに向かって延びる1点鎖線と、撮像装置座標系(Xs,Ys,Zs)のXs軸とは、必ずしも一致している必要はない。
この場合、旋回角度Δθは、例えば8点アルゴリズム法、3D(dimension)-3D(dimension)変換法及びバンドル法の少なくとも1つによって求められる。旋回角度Δθを求めるにあたり、旋回体3が旋回中心軸Zrを中心に旋回角度θだけ旋回するという条件、すなわち旋回の中心で拘束されるという条件があるため、例えば8点アルゴリズム法が用いられる場合、画像PTfと画像PTsとの間に共通の部分PCMが1個存在すれば、8点アルゴリズム法により旋回角度Δθを解くことができる。
処理部41の移動量演算部41Bは、画像PTfと画像PTsとの間の共通の部分PCMを用い、8点アルゴリズム法等に基づき旋回角度Δθを求める。旋回角度θは、旋回体3の旋回開始時から旋回終了時までの全体にわたり、共通の部分PCMが得られた一組の画像同士について、それぞれ求められる。
8点アルゴリズム法に基づいて旋回角度Δθを求める場合、旋回動作前の画像中に存在する共通の部分PCMは、旋回動作後においては旋回角度Δθの大きさに応じて画像上を移動することを利用する。実際には、共通の部分PCMの三次元位置によっても、共通の部分PCMの移動先は変わる。共通の部分PCMの三次元位置が不明であっても、画像中に1点以上の共通の部分PCMがあれば、共通の部分PCMの三次元位置によらず、変数が旋回角度θだけに限定されるので、旋回角度Δθを求めることができる。このように、1点あれば旋回角度Δθは求まるが、誤差が大きい可能性があるため、複数点の共通の部分PCMから最小二乗法を用いて精度よく旋回角度θが算出される。8点アルゴリズム法に基づいて旋回角度Δθを求める場合は、旋回の前後において、ステレオカメラによる施工対象の計測は不要である。変数を旋回角度Δθだけに限定せず、撮像装置30の位置におけるXs方向変数、Ys方向変数、Zs方向変数と、撮像装置の姿勢の3変数、すなわちXs軸、Ys軸,Zs軸それぞれに対する回転方向変数との計6個の変数を8点アルゴリズム法により求める場合は、旋回前後の画像中に8点以上の共通の部分PCMが必要となる。
3D-3D変換法に基づいて旋回角度Δθを求める場合、旋回動作前の画像中に存在する共通の部分PCMの三次元位置(ステレオカメラによる計測で算出)は、旋回動作後に旋回角度Δθの大きさに応じて撮像装置30から見た三次元位置が変化することを利用する。例えば、旋回動作前におけるステレオカメラによる計測で車体座標系の(1,0,0)の位置だった共通の部分PCMが、旋回動作後のステレオ計測で車体座標系の(0,1,0)の位置になっていれば、旋回体3が車体座標系のZm軸周りに90度旋回した、といえる。このように、1点あれば旋回角度Δθは求まるが、誤差が大きい可能性があるため、複数点の共通の部分PCMから最小二乗法を用いて精度よく旋回角度Δθを算出する。3D-3D変換法に基づいて旋回角度Δθを求める場合は、旋回の前後において、ステレオカメラによる施工対象の計測が必要である。変数を旋回角度Δθだけに限定せず、撮像装置30の位置におけるXs方向変数、Ys方向変数、Zs方向変数と、撮像装置の姿勢の3変数、すなわちXs軸、Ys軸,Zs軸それぞれに対する回転方向変数との計6個の変数を3D-3D変換法により求める場合は、旋回前後の画像中に3点以上の共通の部分PCMが必要となる。
バンドル法に基づいて旋回角度θを求める場合、旋回動作前の画像中に存在する共通の部分PCMの三次元位置(ステレオカメラによる計測で算出)は、旋回動作後に旋回角度θの大きさに応じた画像上の位置にあること、又は旋回動作前の画像中に存在する共通の部分PCMの位置は、旋回角度Δθの大きさに応じて、旋回動作後に撮像装置30から見た三次元位置が変化することを利用する。バンドル法においても、1点以上の共通の部分PCMがあれば、変数が旋回角度Δθだけに限定されていれば、旋回角度Δθを求めることができる。このように、1点あれば旋回角度Δθは求まるが、誤差が大きい可能性があるため、複数点の共通の部分PCMから最小二乗法を用いて精度よく旋回角度Δθを算出する。
バンドル法に基づいて旋回角度Δθを求める場合は、旋回の前におけるステレオカメラによる施工対象の計測、又は旋回の後におけるステレオカメラによる施工対象の計測が必要である。変数を旋回角度Δθだけに限定せず、撮像装置30の位置におけるXs方向変数、Ys方向変数、Zs方向変数と、撮像装置の姿勢の3変数、すなわちXs軸、Ys軸,Zs軸それぞれに対する回転方向変数との計6個の変数をバンドル法により求める場合は、旋回前後の画像中に6点以上の共通の部分PCMが必要となる。
旋回角度Δθが得られたら、処理部41の車体状態演算部41Cは、得られた旋回角度Δθと、旋回体3の旋回動作前に静止している状態で位置検出装置23によって求められた油圧ショベル1の位置と、旋回体3の旋回動作前に静止している状態でIMU24によって求められた油圧ショベル1の姿勢とに基づき、旋回動作中における油圧ショベル1の位置及び姿勢を求める。旋回体3が静止状態から旋回角度Δθだけ旋回した場合、車体状態演算部41Cは、車体座標系(Xm,Ym,Zm)のXm-Ym平面において、旋回中心軸Zr(実施形態ではZm軸)周りを旋回角度θだけ旋回したという条件を用いて、旋回動作前の静止状態における油圧ショベル1の位置及び姿勢に基づき、旋回角度Δθだけ旋回した状態における油圧ショベル1の位置及び姿勢を求める。
図5に示される例において、第1位置PF(静止中、旋回動作前)、第2位置PS(旋回動作中)、第3位置PT(旋回動作中)において撮像装置30で撮影をしたとする。第1位置PF(静止中)において油圧ショベル1の位置及び姿勢が計測可能であり、第1位置PFから第2位置PSまでの旋回角Δθ1を特徴点により求めると、第2位置PS(旋回動作中)における油圧ショベル1の位置及び姿勢がわかる。そして、第2位置PSから第3位置PTまでの旋回角Δθ2を特徴点により求めることができれば、第3位置PT(旋回動作中)における油圧ショベル1の位置及び姿勢がわかる。このように、旋回動作中に撮像装置30によって撮影された箇所における油圧ショベル1の位置及び姿勢が段階的に判明する。
例えば、車体状態演算部41Cは、旋回動作前の静止状態における油圧ショベル1の位置及び姿勢を、車体座標系(Xm,Ym,Zm)のZm軸を中心に旋回角度Δθだけ回転変換させることにより、旋回動作中又は旋回動作後における油圧ショベル1の位置及び姿勢を求める。旋回動作中又は旋回動作後における油圧ショベル1の位置及び姿勢は、例えば、旋回動作前の静止状態における車体座標系(Xm,Ym,Zm)における位置及び姿勢とすることができる。実施形態において、旋回動作中又は旋回動作後における油圧ショベル1の位置及び姿勢は、旋回動作前の車体座標系(Xm,Ym,Zm)における旋回動作中又は旋回動作後における撮像装置30の位置及び姿勢としているが、これには限定されない。
前述の旋回角度Δθは、旋回体3の各位置における1つ前の位置との旋回角度差である。以下において旋回角度差をΔθとし、Δθを積算したものを旋回角度θとする。旋回動作中の油圧ショベル1の位置及び姿勢、すなわち旋回体3が旋回する方向における異なる位置での旋回開始後から旋回終了前までの油圧ショベル1の位置及び姿勢は、旋回体3の周方向における各位置での旋回角度θを用いて、旋回動作前の静止状態における油圧ショベル1の位置及び姿勢から求められる。旋回動作後の油圧ショベル1の位置及び姿勢は、旋回動作後における旋回体3の周方向における位置の旋回角度θを用いて、旋回動作前の静止状態における油圧ショベル1の位置及び姿勢から求められる。旋回体3の周方向における各位置の旋回角度θは、旋回動作前の静止状態における旋回角度を基準としたものである。旋回体3の周方向における各位置の旋回角度θは、旋回動作前の静止状態における旋回角度を基準としたものである。
旋回動作前における撮像装置30の位置をPs1(Xs1,Ys1,Zs1)とし、旋回動作中又は旋回動作後における撮像装置30の位置をPs2(Xs2,Ys2,Zs2)とする。位置Ps1及び位置Ps2は、いずれも撮像装置座標系の位置である。位置Ps1及び位置Ps2を車体座標系に変換した後の位置を、それぞれ位置Pm1(Xm1,Ym1,Zm1)、位置Pm2(Xm2,Ym2,Zm2)とする。位置Ps1は式(1)によって位置Pm1に変換され、位置Ps2は式(2)によって位置Pm2に変換される。処理部41の三次元位置演算部41Dは、式(2)を用いて、旋回動作中の油圧ショベル1の位置である旋回動作中における撮像装置30の位置Ps2を、旋回動作前の静止状態における車体座標系(Xm,Ym,Zm)での位置Pm2に変換する。旋回動作中の油圧ショベル1の姿勢である旋回動作中における撮像装置30の姿勢も、旋回動作中における撮像装置30の位置Ps2と同様に、式(2)によって旋回動作前の静止状態における車体座標系(Xm,Ym,Zm)の姿勢に変換される。
Figure 0006995767000001
Figure 0006995767000002
Figure 0006995767000003
式(2)中のRは、式(3)で表される。式(1)及び式(2)中のαは撮像装置座標系のXs軸周りの回転角度、βは撮像装置座標系のYs軸周りの回転角度、γは撮像装置座標系のZs軸周りの回転角度変位である。Xt,Yt,Ztは、車体座標系(Xm,Ym,Zm)における、撮像装置座標系(Xs,Ys,Zs)と車体座標系(Xm,Ym,Zm)とのXm軸方向、Ym軸方向、Zm軸方向の変位である。
旋回動作中における油圧ショベル1の位置及び姿勢が得られたら、三次元位置演算部41Dは、旋回動作中における油圧ショベル1の位置及び姿勢と、旋回体3が旋回する方向の複数の位置において、少なくとも一対の撮像装置30によって撮像された結果とを用いて、油圧ショベル1の周囲CRの三次元位置を求める。例えば、旋回体3が静止状態から旋回角度θだけ旋回した位置において、グローバル座標系における油圧ショベル1の位置及び姿勢が得られている。このため、三次元位置演算部41Dは、この位置及び姿勢を用いて、距離画像中の画素に含まれる三次元位置を、撮像装置座標系からグローバル座標系に座標変換することができる。このようにして、三次元位置演算部41Dは、グローバル座標系における、油圧ショベル1の周囲CRの三次元位置を求めることができる。
三次元位置演算部41Dは、旋回動作中における油圧ショベル1の位置及び姿勢を用いずに、油圧ショベル1の周囲CRの三次元位置を求めてもよい。この場合、式(1)及び式(2)において、旋回動作前において撮像装置30によって撮像された施工対象の位置をPs1(Xs1,Ys1,Zs1)とし、旋回動作中又は旋回動作後において撮像装置30によって撮像された施工対象の位置をPs2(Xs2,Ys2,Zs2)とする。三次元位置演算部41Dは、式(2)を用いて、旋回動作中における撮像装置30によって撮像された施工対象の、撮像装置座標系(Xs,Ys,Zs)での位置Ps2を、旋回動作前の静止状態における車体座標系(Xm,Ym,Zm)での位置Pm2に変換する。このようにして、三次元位置演算部41Dは、旋回角度θを用いて、旋回動作中又は旋回動作後に得られた距離画像中の画素に含まれる三次元位置を求めることができる。三次元位置演算部41Dは、旋回動作前の静止状態における油圧ショベル1の位置及び姿勢を用いて、旋回動作前の静止状態における車体座標系(Xm,Ym,Zm)における位置Pm2をグローバル座標系の位置に変換する。
このように、三次元位置演算部41Dは、旋回角度θと、旋回体3が旋回する前に静止している状態で位置検出装置23によって求められた油圧ショベル1の位置と、旋回体3が旋回する前に静止している状態でIMU24によって求められた油圧ショベル1の姿勢と、旋回体3が旋回する方向の複数の位置において少なくとも一対の撮像装置30によって撮像された結果とを用いて、油圧ショベル1の周囲CRの三次元位置を求める。
図8は、旋回体3の旋回動作中に撮像され、三次元位置が求められた複数の画像PT1-PTnを結合することを説明するための図である。三次元位置演算部41Dは、少なくとも一対の撮像装置30によって撮像され、前述した処理によって求められた、旋回体3の旋回方向における各位置の三次元位置を結合する。図8に示される画像PT1-PTn(nは3以上の整数)は、三次元位置演算部41Dによって、グローバル座標系における三次元位置に変換された距離画像である。距離画像PT1-PTnを区別しない場合、距離画像PTと表記する。距離画像PT1は、旋回開始前の静止時において得られたものであり、距離画像PTnは、旋回終了後の静止時において得られたものである。
実施形態において、複数の距離画像PT1、PT2,PT3,PT4,・・・PTn-2,PTn-1,及びPTnが結合されるが、これらは互いに重複する部分OLTを有している。このようにすることで、油圧ショベル1の周囲CRが計測された場合において、旋回体3が旋回する方向における計測の抜けが抑制される。
隣接する距離画像PTの旋回角度Δθ1,Δθ2,・・・Δθn-1は、撮像装置30の撮像範囲に基づき、隣接する距離画像PT同士が重複する部分OLPを有する大きさに設定される。旋回角度Δθ1,Δθ2,・・・Δθn-1は、旋回体3の周方向における位置によって異なってもよいし、同じ値であってもよい。三次元位置演算部41Dは、設定された旋回角度Δθ1,Δθ2,・・・Δθn-1毎に距離画像PTDを取得してこれらを結合することにより、油圧ショベル1の周囲CRの三次元位置を表す情報を生成する。三次元位置演算部41Dは、複数の距離画像PTDを結合するにあたって、重複する部分OLPをいずれか一方の距離画像PTDの三次元位置としてもよいし、両方の三次元位置の平均値としてもよい。
図9は、旋回角度θを補正することを説明するための図である。図9の縦軸は旋回角度θ、横軸は時間tである。時間は、旋回開始時をtsとし、旋回終了時をteとする。旋回角度θに付された符号tは位置検出装置23及びIMU24の検出値によって求められた旋回角度であることを意味し、符号gは旋回動作中に得られた複数の画像から得られた旋回角度であることを意味する。複数の画像から得られた旋回角度θgは、複数の画像間で共通する部分PCMを抽出する際の精度及び旋回角度θを計算する際の誤差等により、真の旋回角度θtとのずれdθが発生する。
このため、実施形態において、移動量演算部41Bは、旋回体3が旋回を開始する前に静止している状態の旋回体3の旋回角度θtsと、旋回体3が旋回を終了した後に静止している状態の旋回体3の旋回角度θteとを用いて、旋回体3が旋回している状態における旋回角度θgを補正する。このようにすることで、旋回体3の旋回時における油圧ショベル1の位置及び姿勢の精度低下が抑制されるので、旋回体3の旋回時に得られた油圧ショベル1の周囲CRの三次元位置の精度低下が抑制される。
旋回角度θを補正する別の方法について説明する。移動量演算部41Bによって求められた旋回角度θが、実際に旋回体3が旋回した旋回角度θ'とは異なる場合、その誤差の変化率(傾き)は一定となる。その場合、移動量演算部41Bは、式(4)を用いて求めた旋回角度θを補正する。旋回角度θ'は、実際に旋回体3が旋回した旋回角度θ'であり、補正後の旋回角度である。旋回角度θ'は、旋回体3が旋回を開始する前に静止している状態の旋回体3の旋回角度θtsと、旋回体3が旋回を終了した後に静止している状態の旋回体3の旋回角度θteとを用いて求める。
θ'=(θte-θts)/(θge-θgs)×(θ-θgs)+θgs・・・(4)
<実施形態に係る計測方法>
図10は、実施形態に係る計測方法の手順の一例を示すフローチャートである。実施形態に係る計測方法は、図3に示される計測システム50によって実現される。油圧ショベル1の周囲CRを三次元計測するにあたって、油圧ショベル1のオペレータは、計測を開始する位置に旋回体3を向ける。旋回体3が停止後、所定の時間が経過したら、処理装置40の処理部41は、旋回体3の旋回時に撮像装置30による連続撮影が可能であることを報知する。一例として、処理部41は、連続撮影が可能であることを、ライト33を点灯させることにより報知する。ライト33が点灯したら、オペレータは、図3に示される入力装置32を操作して、撮像装置30の撮像開始指令を処理装置40に与える。
処理装置40の処理部41は、撮像開始指令を受け付けると、ステップS101において、旋回体3が静止している状態で、位置検出装置23から油圧ショベル1の位置を取得し、IMU24及び姿勢を取得する。ステップS102において、処理部41は、旋回体3の旋回を開始させるとともに、旋回体3が旋回している最中に少なくとも一対の撮像装置30に油圧ショベル1の周囲CRを撮像させる。ステップS102において、旋回体3の旋回動作中に油圧ショベル1の周囲CRの形状情報SIが検出される。ステップS102において、少なくとも一対の撮像装置30は、撮像した形状情報SIである画像を、処理部41に出力する。
所定の角度だけ旋回体3が旋回したら、ステップS103において、処理部41は旋回体3を停止させる。停止後、所定の時間が経過したら、ステップS104において、処理部41は、旋回体3が静止している状態で、位置検出装置23から油圧ショベル1の位置を取得し、IMU24及び姿勢を取得する。
ステップS105において、共通部分抽出部41Aは、旋回体3の旋回動作中に撮像装置30によって撮像された少なくとも2つの画像から、両者の共通の部分PCMを求める。共通の部分PCMは、旋回体3が旋回する方向に沿って、旋回体3が旋回を開始してから停止するまでの全範囲にわたって求められる。すなわち、旋回動作開始前の撮影結果を1、旋回動作終了後の撮影結果をnとした場合に、1と2との共通部分、2と3との共通部分、・・・n―1とnとの共通部分をそれぞれ抽出する。ステップS106において、移動量演算部41Bは、ステップS105で求められた共通の部分PCMに基づき、少なくとも一対の撮像装置30が撮影したタイミングにおける旋回角度θを求める。この場合、移動量演算部41Bは、旋回開始の前後に旋回体3が静止している状態で得られた旋回角度θts及びθteを用いて、旋回体3が旋回している状態における旋回角度θgを補正してもよい。
ステップS107において、車体状態演算部41Cは、ステップS106で得られた旋回角度θと、旋回体3の旋回動作前に静止している状態で位置検出装置23によって求められた油圧ショベルの位置と、旋回体3の旋回動作前に静止している状態でIMU24によって求められた油圧ショベルの姿勢と、旋回動作中に複数の異なる位置で少なくとも一対の撮像装置30によって撮像された画像とを用いて、油圧ショベル1の周囲CRの三次元位置を求める。ステップS107において、少なくとも一対の撮像装置30によって撮像された画像である形状情報SIに基づいて、油圧ショベル1の周囲CRの三次元位置が求められる。その後、三次元位置演算部41Dは、得られた三次元位置を含む複数の距離画像PTDを結合し、結合された複数の距離画像PTDを記憶部42に保存したり、外部のサーバに出力したりする。
図11は、旋回体3の旋回動作中及び旋回動作の前後に得られた複数の距離画像PTDs,PTDm,PTDeを結合する例を示す図である。実施形態においては、旋回体3の旋回動作中及び旋回動作の前後に、複数の距離画像PTDs,PTDm,PTDeが得られる。距離画像PTDsは、旋回体3が旋回を開始する前に得られたものであり、距離画像PTDmは、旋回体3の旋回動作中に得られたものであり、距離画像PTDeは、旋回体3が旋回を終了した後に得られたものである。距離画像PTDmは、単数でもよいし、複数でもよい。
距離画像PTDsは、旋回体3が旋回動作を開始する前に得られた油圧ショベルの周囲の三次元位置を含む。距離画像PTDmは、旋回体3の旋回動作中に得られた油圧ショベルの周囲の三次元位置を含む。距離画像PTDeは、旋回体3が旋回を終了した後に得られた油圧ショベルの周囲の三次元位置を含む。
図3に示される三次元位置演算部41Dは、旋回体3の旋回動作中及び旋回動作の前後に得られた、複数の距離画像PTDs,PTDm及びPTDeを結合する。具体的には、三次元位置演算部41Dは、それぞれの三次元位置データにおけるグローバル座標系(Xg,Yg,Zg)のXg座標及びYg座標が一致するように、高さのデータ、すなわちZg座標を結合する。例えば、三次元位置演算部41Dは、それぞれの距離画像PTDs,PTDm,PTDeの共通する位置で、これらを結合する。この処理によって、旋回体3が旋回を開始する前に得られた油圧ショベルの周囲の三次元位置と、旋回体3の旋回動作中に得られた油圧ショベルの周囲の三次元位置と、旋回体3が旋回を終了した後に得られた油圧ショベルの周囲の三次元位置とが結合される。
複数の距離画像PTDs,PTDm,PTDeが結合されることにより、油圧ショベル1の周囲において旋回体3が旋回した範囲の三次元形状を表す距離画像PTDaが得られる。結合された距離画像PTDaが得られることにより、旋回体3の旋回動作中に撮像された一部の位置において撮像装置30の位置が測定できなかったために三次元位置の演算ができなかった領域を把握することができる。また、結合された距離画像PTDaが得られることにより、油圧ショベル1の周囲における地形の状況が把握される。三次元位置演算部41Dは、旋回体3の旋回動作中に得られた複数の距離画像PTDmを結合するようにしてもよい。
<油圧ショベル1の動作中における連続した三次元計測>
図12は、実施形態に係る計測システムが油圧ショベル1の走行動作中に油圧ショベル1の周囲CRを三次元計測することを説明するための図である。実施形態においては、旋回体3の旋回動作中に油圧ショベル1の周囲を三次元計測したが、変形例は、油圧ショベル1の動作中、例えば走行体5の走行動作中(走行中)に、油圧ショベル1の周囲を三次元計測する。
走行動作を開始する前の油圧ショベル1は静止している。このとき、旋回体3および走行体5も静止している。この状態で、計測システム50は、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力している状態で、位置検出装置23から油圧ショベル1の位置を取得し、IMU24から油圧ショベル1の姿勢を取得する。位置検出装置23及びIMU24が、それぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力している状態とするためである。
詳細には、図3に示される計測システム50は、油圧ショベル1が走行動作を開始する前に、旋回体3および走行体5が静止している状態で、位置検出装置23から油圧ショベル1の位置を取得し、IMU24から油圧ショベル1の姿勢を取得する。図3に示される処理部41は、例えば、油圧ショベル1及び旋回体3が静止してから予め定められた時間が経過したら、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力している状態になったと判定する。
油圧ショベル1が静止し、かつ旋回体3が計測の施工対象に向けられてから静止した後に、計測システム50の処理装置40、詳細には処理部41は、位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力するようになったと判定すると、例えばその旨を報知する。報知については前述した通りである。
処理部41は、例えばライト33を点灯させた後、入力装置32から撮像装置30の撮像開始指令を受け付けると、位置検出装置23及びIMU24から、それぞれ油圧ショベル1の位置及び姿勢を取得する。記憶部42は、油圧ショベル1が走行動作を開始する前に取得された油圧ショベル1の位置及び姿勢を一時的に記憶する。処理部41は、油圧ショベル1の位置及び姿勢を取得すると、撮像装置30a,30b,30c,30dによる撮像を開始させる。図示しない走行レバーがオペレータによって操作されると、油圧ショベル1が走行動作を開始する。油圧ショベル1は、処理部41から撮像装置30a,30b,30c,30dに撮像開始指令が発信されたら、自動的に走行動作を開始してもよい。
図3に示される撮像装置30a,30b,30c,30dのそれぞれは、例えば図1に示される油圧ショベル1の走行体5による走行動作中に所定周期毎に複数回撮像することにより、油圧ショベル1が走行する方向(例えば、図12の矢印MDで示される方向)における複数の位置で、油圧ショベル1の周囲CRの画像を複数得る。図3に示される記憶部42は、得られた画像を一時的に記憶する。オペレータによる図示しない走行レバーの操作が終了されると、油圧ショベル1の走行動作は停止する。このとき、旋回体3も停止している。油圧ショベル1が走行動作する方向は直線方向でなくてもよい。
油圧ショベル1が停止した後、図3に示される位置検出装置23及びIMU24がそれぞれ油圧ショベル1の位置及び姿勢を安定して検出し、出力するようになったら、処理部41は、位置検出装置23及びIMU24から、それぞれ油圧ショベル1の位置及び姿勢を取得する。記憶部42は、処理部41によって取得された油圧ショベル1の位置及び姿勢を一時的に記憶する。撮像装置30a,30b,30c,30dは、油圧ショベル1の走行開始後であって位置検出装置23及びIMU24が油圧ショベル1の位置及び姿勢を安定して出力するようになってから、施工対象を撮像する。
図3に示される処理部41の共通部分抽出部41Aは、油圧ショベル1の走行中及び走行の前後に得られた複数の画像から、共通の部分を求める。共通部分抽出部41Aは、例えば第1位置PFで撮像装置30cに撮像された画像と、油圧ショベル1の走行中における第2位置PSで撮像装置30cに撮像された画像とから、両者の共通の部分を求める。また、共通部分抽出部41Aは、例えば第2位置PFで撮像装置30cに撮像された画像と、油圧ショベル1の走行中における第3位置PTで撮像装置30cに撮像された画像とから、両者の共通の部分を求める。
第1位置PFで撮像された画像と第2位置PSで撮像された画像との共通の部分は、第1範囲FMFと第2範囲FMSとが重なる部分に存在する特徴部分FPに対応する。第2位置PSで撮像された画像と第3位置PTで撮像された画像との共通の部分は、第2範囲FMSと第3範囲FMTとが重なる部分に存在する特徴部分FPに対応する。
共通部分抽出部41Aは、例えば、Harrisオペレータのような、複数の画像の特徴点を検出するアルゴリズムを用いて、油圧ショベル1の走行中及び走行の前後に得られた複数の画像から共通の部分を抽出する。共通の部分が抽出されたら、処理部41の移動量演算部41Bは、共通の部分PCMに基づいて、撮像装置30の移動量ΔD(ΔD1,ΔD2)を求める。2つの異なる画像に共通の部分が存在する場合、両者の間で共通の部分が写っている位置が変化する。この変化量が、撮像装置30の移動量ΔDに対応する。移動量ΔDは、図12に示されるように一方向の移動量に限らず、6変数(撮像装置30の位置におけるXs方向変数、Ys方向変数、Zs方向変数と、撮像装置の姿勢の3変数、すなわちXs軸、Ys軸,Zs軸それぞれに対する回転方向変数との計6個の変数)における移動量であってもよい。
移動量Dは、前述したように、例えば8点アルゴリズム法、3D(dimension)-3D変換法及びバンドル法の少なくとも1つによって求められる。移動量ΔDを求める場合、旋回の中心で拘束されるという条件はない。このため、移動量ΔDを求める場合、撮像装置30の位置におけるXs方向変数、Ys方向変数、Zs方向変数と、撮像装置の姿勢の3変数、すなわちXs軸、Ys軸,Zs軸それぞれに対する回転方向変数との計6個の変数が必要になる。8点アルゴリズム法、3D(dimension)-3D変換法及びバンドル法の少なくとも1つによって前述した6個の変数が求められる場合、複数の画像中には、旋回角度Δθを求める場合よりも多くの共通の部分が必要になる。
移動量ΔDが得られると、移動量ΔDを求める場合に求めた、撮像装置30の位置におけるXs方向変数、Ys方向変数、Zs方向変数と、Xs軸、Ys軸,Zs軸それぞれに対する回転方向変数との計6個の変数が得られる。これらの6個の変数が得られると、撮像装置30の位置及び姿勢も得られる。油圧ショベル1が走行動作する場合は、移動量演算部41Bのみによって撮像装置30の移動量ΔD、撮像装置30の位置及び姿勢が得られる。すなわち、油圧ショベル1が走行動作する場合、図3に示される撮像装置演算部41Eは、移動量演算部41Bのみで構成される。
油圧ショベル1の走行中における撮像装置30の位置及び姿勢が得られたら、三次元位置演算部41Dは、油圧ショベル1が走行動作中である複数の位置において、走行動作中における撮像装置30の位置及び姿勢と、少なくとも一対の撮像装置30によって撮像された結果とを用いて、油圧ショベル1の周囲CRの三次元位置を求める。例えば、油圧ショベル1が静止状態から所定の距離だけ走行した位置において、グローバル座標系における撮像装置30の位置及び姿勢が得られている。このため、三次元位置演算部41Dは、この位置及び姿勢を用いて、距離画像中の画素に含まれる三次元位置を、撮像装置座標系からグローバル座標系に座標変換することができる。このようにして、三次元位置演算部41Dは、グローバル座標系における、油圧ショベル1の周囲CRの三次元位置を求めることができる。
油圧ショベル1が走行動作をしている場合の三次元計測において記載していない部分は、旋回時の連続計測で説明した方法が用いられてもよい。
実施形態では、処理装置40が少なくとも一対の撮像装置30によって撮像された画像にステレオ方式による画像処理を施して三次元計測を実現したが、このようなものには限定されない。例えば、少なくとも一対の撮像装置30によって撮像された油圧ショベル1の周囲CRの画像と、位置検出装置23及びIMU24によって求められた油圧ショベル1の静止時における位置及び姿勢とが、例えば油圧ショベル1の外部の管理装置に送信される。そして、外部の管理装置が油圧ショベル1の周囲CRの画像にステレオ方式による画像処理を実行するとともに、旋回体3の旋回時における旋回角度θ、油圧ショベル1の位置及び姿勢を求め、得られた結果を用いて旋回時における油圧ショベル1の周囲CRの三次元位置を求めてもよい。この場合、油圧ショベル1の外部の管理装置が、処理装置40に相当する。
実施形態において、作業機械は、少なくとも一対の撮像装置30が備えられた旋回体3を有していればよく、油圧ショベル1には限定されない。また、実施形態において、処理装置40は、旋回体3の旋回動作中は、位置検出装置23及びIMU24によって求められた油圧ショベル1の位置及び姿勢は用いない。しかし、位置検出装置23及びIMU24の精度によっては、処理装置40は、位置検出装置23及びIMU24のうちの少なくとも一方によって求められた油圧ショベル1の位置及び姿勢の少なくとも一方を用いて、油圧ショベル1の周囲CRの三次元位置を求めてもよい。
実施形態において、旋回角度θは、少なくとも1つの撮像装置30によって撮像された画像に基づいて求められたが、旋回角度θはこれ以外の方法で求められてもよい。例えば、旋回体3の旋回角度を検出するロータリーエンコーダのような角度検出センサによって旋回角度θが求められてもよい。この場合、処理部41は、角度検出センサの検出値である旋回角度θを角度検出センサから取得するタイミングと、少なくとも一対の撮像装置30が施工対象を撮像するタイミングとを同期させる。このようにして、少なくとも一対の撮像装置30によって画像が撮像されたタイミングと、そのタイミングにおける旋回体3の旋回角度θとが対応付けられる。
実施形態において、検出装置は少なくとも一対の撮像装置30を含むステレオカメラである。ステレオカメラで撮影する際には、各カメラの撮影タイミングを同期させる。検出装置はステレオカメラに限定されない。検出装置は、例えば、TOF(Time Of Flight)カメラのような、画像と三次元データを表す距離画像との両方が得られるセンサであってもよい。検出装置は一つのカメラにより距離画像が得られる撮像装置であってもよい。検出装置は、レーザスキャナであってもよい。
実施形態では、撮像装置30が、旋回体3の旋回動作中に所定周期毎に複数回撮像し、その各撮影タイミングにおける旋回角θが求められるが、その例に限られない。例えば、図5に示される第1位置PF(停止中)から旋回体3が旋回を開始した際に、処理装置40は、第1位置PFにおいて撮像装置30によって撮像された画像と、旋回開始後に所定周期毎に撮像された各画像との共通点の数を計測し、特徴点の数の変動に基づいて、第1位置PFからの撮像装置30の位置を求める第2位置PSを決定するようにしてもよい。例えば、第2位置PSを決定する方法として、第1位置PFにおいて撮像された第1画像PFと、その後に順次撮影された画像との共通点の数をそれぞれ計測し、共通点の数が所定値以下になった時点の画像を、第2位置PSで撮像した第2画像と決定するようにしてもよい。
実施形態では、8点アルゴリズム法、3D-3D変換法及びバンドル法の少なくとも1つによって旋回角度Δθ及び撮像装置30の移動量Dが求められるが、その例に限られない。例えば、バンドル調整法及びV-SLAM(Visual-Simultaneous Localization and Mapping)の少なくとも1つによって油圧ショベル1の旋回角度Δθ及び撮像装置30の移動量ΔDが求められてもよい。
以上、実施形態は、検出装置が取り付けられた旋回体を旋回させながら、検出装置によって作業機械の周囲の形状を検出し、検出された形状の情報に基づいて、作業機械の周囲の三次元位置を求める。このように、実施形態は、旋回体とともに検出装置を旋回させながら作業機械の周囲の形状を取得し、得られた形状情報に基づいて作業機械の周囲を計測するので、作業機械の周囲を広範囲に計測できる。
実施形態は、少なくとも一対の撮像装置によって撮像された複数の画像から共通の部分を求め、得られた前記共通の部分に基づいて旋回体の旋回角度を求め、得られた旋回角度と、旋回体が旋回動作前に静止している状態で求められた作業機械の位置及び姿勢と、に基づいて旋回体の旋回動作中における作業機械の位置及び姿勢を求める。そして、得られた作業機械の位置及び姿勢と、旋回体が旋回する方向の複数の位置において、少なくとも一対の撮像装置によって撮像された結果とを用いて作業機械の周囲の三次元位置が求められる。このため、作業機械の位置及び姿勢を検出する装置が、安定して位置及び姿勢を出力するまでに時間を要するものであったり、位置及び姿勢を出力する周期が遅いものであったりしても、旋回動作中における位置及び姿勢は、検出装置の検出結果から得られる。その結果、旋回体を間欠的に旋回させず、連続して旋回させても作業機械の周囲の形状を検出し、その結果から作業機械の周囲を計測できるので、作業機械の周囲の形状を検出することに要する時間を短縮できる。また、旋回体を旋回させながら作業機械の周囲の形状を検出し、その結果に基づいて作業機械の周囲を計測するので、作業機械の周囲を広範囲に計測できる。
実施形態では、油圧ショベル1に限定して説明したが、計測システム50及び計測方法の適用対象は油圧ショベル1には限定されない。特に、作業機械の走行動作中における連続撮影による三次元位置計測は、ブルドーザー、ホイールローダー、ダンプトラック、モーターグレーダー、その他作業機械において用いられてもよい。
以上、実施形態を説明したが、前述した内容により実施形態が限定されるものではない。前述した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。前述した構成要素は適宜組み合わせることが可能である。実施形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換及び変更のうち少なくとも1つを行うことができる。
1 油圧ショベル
2 作業機
3 旋回体
5 走行体
23 位置検出装置(位置検出部)
24 IMU(姿勢検出部)
30,30a,30b,30c,30d 撮像装置(撮像部)
32 入力装置
33 ライト
40 処理装置
41 処理部
41A 共通部分抽出部
41B 移動量演算部
41C 車体状態演算部
41D 三次元位置演算部
41E 撮像部位置演算部
42 記憶部
43 入出力部
50 計測システム
51 ハブ
CR 周囲
FP 特徴部分
PT 距離画像
SI 形状情報
θ 旋回角度

Claims (9)

  1. 作業機械の旋回体に取り付けられて、前記作業機械の周囲の形状を撮像する撮像部と、
    前記旋回体の位置を求める位置検出部と、
    前記旋回体の旋回動作中に前記撮像部によって撮像された複数の画像における共通の部分に基づいて、前記撮像部の撮像時における前記撮像部の位置を演算する撮像部位置演算部と、
    前記撮像部位置演算部によって演算された前記撮像部の位置に基づいて、前記撮像時における前記作業機械の周囲の三次元位置を求める三次元位置演算部と、
    を備える計測システム。
  2. 前記作業機械の旋回動作中に前記撮像部によって撮像された複数の二次元画像における共通の部分を求める共通部分抽出部を有し、
    撮像部位置演算部は、前記撮像部の撮像時における前記撮像部の位置を演算する、請求項1に記載の計測システム。
  3. 前記撮像部位置演算部は、
    撮像時における前記撮像部の位置を演算するために、撮像時における前記旋回体の旋回角度を演算し、前記撮像部の位置を演算する、請求項1又は請求項2に記載の計測システム。
  4. 前記撮像部位置演算部は、
    前記旋回体の旋回動作前における前記旋回体の位置、又は前記旋回体の旋回動作後における前記旋回体の位置を用いて、前記撮像部の撮像時における前記撮像部の位置を補正する、請求項1から請求項3のいずれか1項に記載の計測システム。
  5. 前記撮像部位置演算部は、
    前記旋回体の旋回動作前における前記旋回体の旋回角度と、前記旋回体の旋回動作後における前記旋回体の旋回角度とを用いて、前記旋回体の旋回動作中における旋回角度を補正する、請求項3又は請求項4に記載の計測システム。
  6. 前記撮像部位置演算部は、
    複数の共通の部分を用いて最小二乗法を用いて前記撮像部の位置を演算する、請求項2から請求項5のいずれか1項に記載の計測システム。
  7. 前記三次元位置演算部は、
    前記旋回体の旋回動作中に得られた複数の前記作業機械の周囲の三次元位置を結合する、請求項1から請求項6のいずれか1項に記載の計測システム。
  8. 請求項1から請求項7のいずれか1項に記載の計測システムを備える、作業機械。
  9. 作業機械に取り付けられる旋回体の旋回動作中前記旋回体に取り付けられた撮像部によって撮像された複数の画像における共通の部分に基づいて、前記撮像部の撮像時における前記撮像部の位置を演算し、
    演算された前記撮像部の位置に基づいて、前記撮像時における前記作業機械の周囲の三次元位置を求める、
    計測方法。
JP2018547835A 2016-10-31 2017-10-30 計測システム、作業機械及び計測方法 Active JP6995767B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016213700 2016-10-31
JP2016213700 2016-10-31
PCT/JP2017/039193 WO2018079789A1 (ja) 2016-10-31 2017-10-30 計測システム、作業機械及び計測方法

Publications (2)

Publication Number Publication Date
JPWO2018079789A1 JPWO2018079789A1 (ja) 2019-09-19
JP6995767B2 true JP6995767B2 (ja) 2022-01-17

Family

ID=62025082

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018547835A Active JP6995767B2 (ja) 2016-10-31 2017-10-30 計測システム、作業機械及び計測方法

Country Status (6)

Country Link
US (1) US11441294B2 (ja)
JP (1) JP6995767B2 (ja)
KR (1) KR102089454B1 (ja)
CN (1) CN109716058B (ja)
DE (1) DE112017004688B4 (ja)
WO (1) WO2018079789A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7301514B2 (ja) * 2018-09-21 2023-07-03 日立建機株式会社 座標変換システム及び作業機械
JP7178854B2 (ja) * 2018-09-28 2022-11-28 株式会社小松製作所 作業機械のためのシステム及び方法
CN109816778B (zh) 2019-01-25 2023-04-07 北京百度网讯科技有限公司 物料堆三维重建方法、装置、电子设备和计算机可读介质
JP6923574B2 (ja) * 2019-02-01 2021-08-18 ファナック株式会社 3次元形状計測システムおよび3次元形状計測方法
JP2020197044A (ja) * 2019-05-31 2020-12-10 株式会社小松製作所 マップ生成システム及びマップ生成方法
JP7229109B2 (ja) * 2019-06-19 2023-02-27 株式会社小松製作所 作業機械および作業機械の制御方法
JP7165638B2 (ja) 2019-09-25 2022-11-04 日立建機株式会社 作業機械
KR102553590B1 (ko) * 2019-09-26 2023-07-11 히다찌 겐끼 가부시키가이샤 작업 기계
CN111895931B (zh) * 2020-07-17 2021-11-26 嘉兴泊令科技有限公司 一种基于计算机视觉的煤矿作业区标定方法
CN112081165A (zh) * 2020-10-14 2020-12-15 江苏徐工工程机械研究院有限公司 平地机及其刮坡控制方法、装置
US11834813B2 (en) * 2021-07-09 2023-12-05 Topcon Positioning Systems, Inc. IMU based system for vertical axis joint angle estimation for swing boom excavators
DE102021214441A1 (de) 2021-12-15 2023-06-15 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Korrektur einer Orientierungswinkel-Ermittlung eines Sensorsystems einer Arbeitsmaschine

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004163139A (ja) 2002-11-11 2004-06-10 Fuji Photo Film Co Ltd 回転量算出装置、移動量算出装置、回転量算出方法、及び移動量算出方法
WO2015198410A1 (ja) 2014-06-25 2015-12-30 株式会社日立製作所 外界認識装置
WO2016148309A1 (ja) 2016-03-29 2016-09-22 株式会社小松製作所 校正システム、作業機械及び校正方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4767578B2 (ja) * 2005-02-14 2011-09-07 株式会社岩根研究所 高精度cv演算装置と、この高精度cv演算装置を備えたcv方式三次元地図生成装置及びcv方式航法装置
JP2008312004A (ja) * 2007-06-15 2008-12-25 Sanyo Electric Co Ltd カメラシステム及び機械装置
US9030332B2 (en) * 2011-06-27 2015-05-12 Motion Metrics International Corp. Method and apparatus for generating an indication of an object within an operating ambit of heavy loading equipment
JP5802476B2 (ja) 2011-08-09 2015-10-28 株式会社トプコン 建設機械制御システム
EP3235773B8 (en) 2012-09-21 2023-09-20 Tadano Ltd. Surrounding information-obtaining device for working vehicle
US9501831B2 (en) 2012-10-02 2016-11-22 Google Inc. Identification of relative distance of objects in images
CN103528571B (zh) * 2013-10-12 2016-04-06 上海新跃仪表厂 单目立体视觉相对位姿测量方法
WO2015089403A1 (en) 2013-12-12 2015-06-18 The Regents Of The University Of Michigan Estimating three-dimensional position and orientation of articulated machine using one or more image-capturing devices and one or more markers
WO2015162710A1 (ja) 2014-04-23 2015-10-29 株式会社日立製作所 掘削装置
CN104048607A (zh) 2014-06-27 2014-09-17 上海朗煜电子科技有限公司 机械手臂的视觉识别抓取方法
JP6777375B2 (ja) * 2015-03-05 2020-10-28 株式会社小松製作所 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械
CN105121753B (zh) * 2015-03-27 2017-05-03 株式会社小松制作所 作业机械的校正装置及作业机械的作业装置参数的校正方法
EP3086196B1 (en) * 2015-04-21 2017-04-05 Hexagon Technology Center GmbH Method and control system for surveying and mapping a terrain while operating a bulldozer
US10145088B2 (en) * 2015-05-29 2018-12-04 Komatsu Ltd. Control system of work machine and work machine
US20170061689A1 (en) * 2015-08-24 2017-03-02 Caterpillar Inc. System for improving operator visibility of machine surroundings
CN108139211B (zh) * 2015-09-29 2021-01-15 索尼公司 用于测量的装置和方法以及程序
JP6050525B2 (ja) 2015-10-15 2016-12-21 株式会社小松製作所 位置計測システム、作業機械及び位置計測方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004163139A (ja) 2002-11-11 2004-06-10 Fuji Photo Film Co Ltd 回転量算出装置、移動量算出装置、回転量算出方法、及び移動量算出方法
WO2015198410A1 (ja) 2014-06-25 2015-12-30 株式会社日立製作所 外界認識装置
WO2016148309A1 (ja) 2016-03-29 2016-09-22 株式会社小松製作所 校正システム、作業機械及び校正方法

Also Published As

Publication number Publication date
KR20190034340A (ko) 2019-04-01
CN109716058A (zh) 2019-05-03
WO2018079789A1 (ja) 2018-05-03
KR102089454B1 (ko) 2020-03-16
US11441294B2 (en) 2022-09-13
US20190360174A1 (en) 2019-11-28
CN109716058B (zh) 2021-05-14
DE112017004688B4 (de) 2022-10-27
DE112017004688T5 (de) 2019-07-04
JPWO2018079789A1 (ja) 2019-09-19

Similar Documents

Publication Publication Date Title
JP6995767B2 (ja) 計測システム、作業機械及び計測方法
JP6794193B2 (ja) 作業機械の画像表示システム
JP5227139B2 (ja) 建設機械
CN108700402B (zh) 位置测量系统、作业机械及位置测量方法
KR101815269B1 (ko) 위치 계측 시스템 및 위치 계측 방법
JP6777375B2 (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械
JP6316568B2 (ja) 測量システム
US10527413B2 (en) Outside recognition device
JP4783620B2 (ja) 3次元データ作成方法及び3次元データ作成装置
WO2016047807A1 (ja) 校正システム、作業機械及び校正方法
JP7386592B2 (ja) 建設機械の操作補助システム
WO2019225133A1 (ja) 油圧ショベル、およびシステム
JP2017193958A (ja) 校正システム、作業機械及び校正方法
JP7128497B2 (ja) 作業機械の画像表示システム
WO2019049515A1 (ja) 作業機械の計測システム、作業機械、及び作業機械の計測方法
CN115698434A (zh) 信息取得系统及信息取得方法
JP6923144B2 (ja) 作業機械の画像表示システム
JP7333551B2 (ja) 作業機械の画像表示システム
WO2019049527A1 (ja) 作業機械の計測システム、作業機械、及び作業機械の計測方法
JP2022173478A (ja) 建設機械の自動制御システム
JP2023005582A (ja) 侵入検出システム
JP2020197045A (ja) 表示システムおよび表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210330

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211215

R150 Certificate of patent or registration of utility model

Ref document number: 6995767

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150