JP2022001879A - 作業機械の計測システム、作業機械、及び作業機械の計測方法 - Google Patents

作業機械の計測システム、作業機械、及び作業機械の計測方法 Download PDF

Info

Publication number
JP2022001879A
JP2022001879A JP2021159022A JP2021159022A JP2022001879A JP 2022001879 A JP2022001879 A JP 2022001879A JP 2021159022 A JP2021159022 A JP 2021159022A JP 2021159022 A JP2021159022 A JP 2021159022A JP 2022001879 A JP2022001879 A JP 2022001879A
Authority
JP
Japan
Prior art keywords
turning
image
image pickup
shooting
swivel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021159022A
Other languages
English (en)
Other versions
JP7135191B2 (ja
Inventor
駿 川本
Shun Kawamoto
博義 山口
Hiroyoshi Yamaguchi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2021159022A priority Critical patent/JP7135191B2/ja
Publication of JP2022001879A publication Critical patent/JP2022001879A/ja
Application granted granted Critical
Publication of JP7135191B2 publication Critical patent/JP7135191B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/30Interpretation of pictures by triangulation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Electromagnetism (AREA)
  • Multimedia (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】施工対象の三次元形状を円滑に取得すること。【解決手段】作業機械の計測システムは、作業機械の旋回体に搭載された撮像装置によって旋回体の旋回中に撮影された施工対象の画像を取得する画像取得部と、操作装置のデータ、または旋回体の旋回データに基づいて、撮影の停止条件を満足するか否かを判定する判定部と、判定部の判定結果に基づいて、撮影停止指令信号を出力する出力部と、を備える。【選択図】図1

Description

本発明は、作業機械の計測システム、作業機械、及び作業機械の計測方法に関する。
作業機械に係る技術分野において、特許文献1に開示されているような、撮像装置が搭載された作業機械が知られている。一対の撮像装置で撮影された一対の画像がステレオ処理されることにより、作業機械の周辺の施工対象の三次元形状が計測される。特許文献1には、旋回体の旋回中にステレオ処理のための画像を撮影することが開示されている。
国際公開第2017/033991号
特許文献1には、撮影の開始時点については開示されているものの、停止時点を決定する方法については開示されていない。そのため、例えば、撮影の開始時点から予め定められた経過時間に基づいて撮影の停止時点が決定される場合、オペレータがステレオ計測しようとしているすべての領域の撮影が完了する前に撮影が停止してしまう可能性がある。そのような場合、残りの領域について再度オペレータがステレオ計測を行う必要があり、作業が煩雑となってしまう。
本発明の態様は、施工対象の三次元形状を円滑に取得することを目的とする。
本発明の態様に従えば、作業機械の旋回体に搭載された撮像装置によって前記旋回体の旋回中に撮影された施工対象の画像を取得する画像取得部と、操作装置の操作データ、または前記旋回体の旋回データに基づいて、前記撮影の停止条件を満足するか否かを判定する判定部と、前記判定部の判定結果に基づいて、撮影停止指令信号を出力する出力部と、を備える作業機械の計測システムが提供される。
本発明の態様によれば、施工対象の三次元形状を円滑に取得することができる。
図1は、本実施形態に係る作業機械の一例を示す斜視図である。 図2は、本実施形態に係る作業機械の一部を示す斜視図である。 図3は、本実施形態に係る計測システムの一例を示す機能ブロック図である。 図4は、本実施形態に係る作業機械の動作の一例を模式的に示す図である。 図5は、本実施形態に係る計測システムの動作の一例を模式的に示す図である。 図6は、本実施形態に係る計測システムの処理の一例を説明するための模式図である。 図7は、本実施形態に係る計測システムの処理の一例を説明するための模式図である。 図8は、本実施形態に係る計測システムの処理の一例を説明するための模式図である。 図9は、本実施形態に係る入力装置の一例を模式的に示す斜視図である。 図10は、本実施形態に係る計測方法の一例を示すフローチャートである。 図11は、本実施形態に係る計測方法のタイミングチャートである。
以下、本発明に係る実施形態について図面を参照しながら説明するが、本発明はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
以下の説明においては、三次元の現場座標系(Xg,Yg,Zg)、三次元の車体座標系(Xm,Ym,Zm)、及び三次元の撮像装置座標系(Xs,Ys,Zs)を規定して、各部の位置関係について説明する。
現場座標系は、地球に固定された原点を基準とする座標系である。現場座標系は、GNSS(Global Navigation Satellite System)によって規定される座標系である。GNSSとは、全地球航法衛星システムをいう。全地球航法衛星システムの一例として、GPS(Global Positioning System)が挙げられる。
現場座標系は、水平面のXg軸と、Xg軸と直交する水平面のYg軸と、Xg軸及びYg軸と直交するZg軸とによって規定される。Xg軸を中心とする回転又は傾斜方向をθXg方向とし、Yg軸を中心とする回転又は傾斜方向をθYg方向とし、Zg軸を中心とする回転又は傾斜方向をθZg方向とする。Zg軸方向は鉛直方向である。
車体座標系は、作業機械の車体に規定された原点を基準とする第1所定面のXm軸と、Xm軸と直交する第1所定面のYm軸と、Xm軸及びYm軸と直交するZm軸とによって規定される。Xm軸を中心とする回転又は傾斜方向をθXm方向とし、Ym軸を中心とする回転又は傾斜方向をθYm方向とし、Zm軸を中心とする回転又は傾斜方向をθZm方向とする。Xm軸方向は作業機械の前後方向であり、Ym軸方向は作業機械の車幅方向であり、Zm軸方向は作業機械の上下方向である。
撮像装置座標系は、撮像装置に規定された原点を基準とする第2所定面のXs軸と、Xs軸と直交する第2所定面のYs軸と、Xs軸及びYs軸と直交するZs軸とによって規定される。Xs軸を中心とする回転又は傾斜方向をθXs方向とし、Ys軸を中心とする回転又は傾斜方向をθYs方向とし、Zs軸を中心とする回転又は傾斜方向をθZs方向とする。Xs軸方向は撮像装置の上下方向であり、Ys軸方向は撮像装置の幅方向であり、Zs軸方向は撮像装置の前後方向である。Zs軸方向は撮像装置の光学系の光軸と平行である。
現場座標系における位置と、車体座標系における位置と、撮像装置座標系における位置とは、相互に変換可能である。
第1実施形態.
[作業機械]
図1は、本実施形態に係る作業機械1の一例を示す斜視図である。本実施形態においては、作業機械1が油圧ショベルである例について説明する。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
図1に示すように、油圧ショベル1は、車体1Bと、作業機2とを有する。車体1Bは、旋回体3と、旋回体3を旋回可能に支持する走行体5とを有する。
旋回体3は、運転室4を有する。油圧ポンプ及び内燃機関が旋回体3に配置される。旋回体3は、旋回軸Zrを中心に旋回可能である。旋回軸Zrは、車体座標系のZm軸と平行である。車体座標系の原点は、例えば旋回体3のスイングサークルの中心に規定される。スイングサークルの中心は、旋回体3の旋回軸Zrに位置する。
走行体5は、履帯5A,5Bを有する。履帯5A,5Bが回転することにより、油圧ショベル1が走行する。車体座標系のZm軸は、履帯5A,5Bの接地面と直交する。車体座標系の上方(+Zm方向)は、履帯5A,5Bの接地面から離れる方向であり、車体座標系の下方(−Zm方向)は、車体座標系の上方とは反対の方向である。
作業機2は、旋回体3に連結される。車体座標系において、作業機2の少なくとも一部は、旋回体3よりも前方に配置される。車体座標系の前方(+Xm方向)は、旋回体3を基準として作業機2が存在する方向であり、車体座標系の後方(−Xm方向)は、車体座標系の前方とは反対の方向である。
作業機2は、旋回体3に連結されるブーム6と、ブーム6に連結されるアーム7と、アーム7に連結されるバケット8と、ブーム6を駆動するブームシリンダ10と、アーム7を駆動するアームシリンダ11と、バケット8を駆動するバケットシリンダ12とを有する。ブームシリンダ10、アームシリンダ11、及びバケットシリンダ12はそれぞれ、油圧によって駆動される油圧シリンダである。
また、油圧ショベル1は、旋回体3の位置を検出する位置検出装置23と、旋回体3の姿勢を検出する姿勢検出装置24と、制御装置40とを有する。
位置検出装置23は、現場座標系における旋回体3の位置を検出する。旋回体3の位置は、Xg軸方向の座標、Yg軸方向の座標、及びZg軸方向の座標を含む。位置検出装置23は、GPS受信機を含む。位置検出装置23は、旋回体3に設けられる。
GPSアンテナ21が旋回体3に設けられる。GPSアンテナ21は、例えば車体座標系のYm軸方向に2つ配置される。GPSアンテナ21は、GPS衛星から電波を受信して、受信した電波に基づいて生成した信号を位置検出装置23に出力する。位置検出装置23は、GPSアンテナ21からの信号に基づいて、現場座標系におけるGPSアンテナ21の位置を検出する。
位置検出装置23は、2つのGPSアンテナ21の位置の少なくとも一方に基づいて演算処理を実施して、旋回体3の位置を算出する。旋回体3の位置は、一方のGPSアンテナ21の位置でもよいし、一方のGPSアンテナ21の位置と他方のGPSアンテナ21の位置との間の位置でもよい。
姿勢検出装置24は、現場座標系における旋回体3の姿勢を検出する。旋回体3の姿勢は、Xm軸を中心とする回転方向における旋回体3の傾斜角度を示すロール角と、Ym軸を中心とする回転方向における旋回体3の傾斜角度を示すピッチ角と、Zm軸と中心とする回転方向における旋回体3の傾斜角度を示す方位角とを含む。姿勢検出装置24は、慣性計測装置(IMU:Inertial Measurement Unit)を含む。姿勢検出装置24は、旋回体3に設けられる。なお、姿勢検出装置24としてジャイロセンサが旋回体3に搭載されてもよい。
姿勢検出装置24は、姿勢検出装置24に作用する加速度及び角速度を検出する。姿勢検出装置24に作用する加速度及び角速度が検出されることにより、旋回体3に作用する加速度及び角速度が検出される。姿勢検出装置24は、旋回体3に作用する加速度及び角速度に基づいて演算処理を実施して、ロール角、ピッチ角、及び方位角を含む旋回体3の姿勢を算出する。
なお、位置検出装置23の検出データに基づいて方位角が算出されてもよい。位置検出装置23は、一方のGPSアンテナ21の位置と他方のGPSアンテナ21の位置とに基づいて、現場座標系における基準方位に対する旋回体3の方位角を算出することができる。基準方位は、例えば北である。位置検出装置23は、一方のGPSアンテナ21の位置と他方のGPSアンテナ21の位置とを結ぶ直線を算出し、算出した直線と基準方位とがなす角度に基づいて、基準方位に対する旋回体3の方位角を算出することができる。
次に、本実施形態に係るステレオカメラ300について説明する。図2は、本実施形態に係る油圧ショベル1の一部を示す斜視図である。図2に示すように、油圧ショベル1は、ステレオカメラ300を有する。ステレオカメラ300とは、施工対象SBを複数の方向から同時に撮影して視差データを生成することにより、施工対象SBまでの距離を計測可能なカメラをいう。
ステレオカメラ300は、油圧ショベル1の周辺の施工対象SBを撮影する。施工対象は、油圧ショベル1の作業機2で掘削される掘削施工対象を含む。なお、施工対象SBは、油圧ショベル1とは別の作業機械によって施工される施工対象でもよいし、作業者によって施工される施工対象でもよい。また、施工対象SBは、施工前の施工対象、施工中の施工対象、及び施工後の施工対象を含む概念である。
ステレオカメラ300は、旋回体3に搭載される。ステレオカメラ300は、運転室4に設けられる。ステレオカメラ300は、運転室4の前方(+Xm方向)かつ上方(+Zm方向)に配置される。ステレオカメラ300は、油圧ショベル1の前方の撮影対象SBを撮影する。
ステレオカメラ300は、複数の撮像装置30を有する。撮像装置30は、旋回体3に搭載される。撮像装置30は、光学系と、イメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。本実施形態において、撮像装置30は、4つの撮像装置30A,30B,30C,30Dを含む。
一対の撮像装置30によってステレオカメラ300が構成される。ステレオカメラ300は、一対の撮像装置30A,30Bによって構成される第1ステレオカメラ301と、一対の撮像装置30C,30Dによって構成される第2ステレオカメラ302とを含む。
撮像装置30A,30Cは、撮像装置30B,30Dよりも+Ym側(作業機2側)に配置される。撮像装置30Aと撮像装置30Bとは、Ym軸方向に間隔をあけて配置される。撮像装置30Cと撮像装置30Dとは、Ym軸方向に間隔をあけて配置される。撮像装置30A,30Bは、撮像装置30C,30Dよりも+Zm側に配置される。Zm軸方向において、撮像装置30Aと撮像装置30Bとは、実質的に同一の位置に配置される。Zm軸方向において、撮像装置30Cと撮像装置30Dとは、実質的に同一の位置に配置される。
撮像装置30A,30Bは、上方(+Zm方向)を向く。撮像装置30C,30Dは、下方(−Zm方向)を向く。また、撮像装置30A,30Cは、前方(+Xm方向)を向く。撮像装置30B,30Dは、前方よりも僅かに+Ym側(作業機2側)を向く。すなわち、撮像装置30A,30Cは、旋回体3の正面を向き、撮像装置30B,30Dは、撮像装置30A,30C側を向く。なお、撮像装置30B,30Dが旋回体3の正面を向き、撮像装置30A,30Cが撮像装置30B,30D側を向いてもよい。
撮像装置30は、旋回体3の前方に存在する施工対象SBを撮影する。一対の撮像装置30が撮影した一対の画像が制御装置40においてステレオ処理されることにより、施工対象SBの三次元形状を示す三次元データが算出される。制御装置40は、撮像装置座標系における施工対象SBの三次元データを現場座標系における施工対象SBの三次元データに変換する。三次元データは、施工対象SBの三次元位置を示す。施工対象SBの三次元位置は、施工対象SBの表面の複数の部位のそれぞれの三次元座標を含む。
複数の撮像装置30のそれぞれに撮像装置座標系が規定される。撮像装置座標系は、撮像装置30に固定された原点を基準とする座標系である。撮像装置座標系のZs軸は、撮像装置30の光学系の光軸と一致する。
なお、本実施形態においては、旋回体3に2組のステレオカメラ(第1ステレオカメラ301及び第2ステレオカメラ302)が搭載されることとするが、1組のステレオカメラが搭載されてもよいし、3組以上のステレオカメラが搭載されてもよい。
また、図2に示すように、油圧ショベル1は、運転席4Sと、入力装置32と、操作装置35とを有する。運転席4S、入力装置32、及び操作装置35は、運転室4に配置される。油圧ショベル1の運転者は、運転席4Sに着座する。
入力装置32は、撮像装置30による撮影の開始又は停止のために運転者に操作される。入力装置32は、運転席4Sの近傍に設けられる。入力装置32が操作されることにより、撮像装置30による撮影が開始又は停止する。撮影の開始とは、撮像装置30が後述する撮影開始指令信号を取得した時点から撮影を開始すること、信号取得部411が撮影開始指令信号を取得した時点から撮影された画像を記憶装置42へ記憶すること、および信号取得部411が撮影開始指令信号を取得した時点から撮影された画像に基づいてステレオ処理を実行すること、を含む。
同様に撮影の停止とは、撮像装置30が撮影停止指令信号を取得した時点で撮影を停止すること、信号取得部411が撮影停止指令信号を取得した時点から撮影された画像の記憶装置42への記憶を停止すること、および信号取得部411が撮影停止指令信号を取得した時点から撮影された画像に基づいたステレオ処理の実行を停止すること、を含む。
操作装置35は、作業機2の駆動又は駆動停止、旋回体3の旋回又は旋回停止すなわち旋回動作、及び走行体5の走行又は走行停止すなわち走行動作のために運転者に操作される。操作装置35は、作業機2及び旋回体3を操作するための右操作レバー35R及び左操作レバー35Lを含む。また、操作装置35は、走行体5を操作するための右走行レバー及び左走行レバー(不図示)を含む。操作装置35が操作されることにより、作業機2の駆動又は駆動停止、旋回体3の旋回動作、及び走行体5の走行動作が実施される。
[計測システム]
次に、本実施形態に係る計測システム50について説明する。図3は、本実施形態に係る計測システム50の一例を示す機能ブロック図である。計測システム50は、油圧ショベル1に設けられる。
計測システム50は、制御装置40と、第1ステレオカメラ301及び第2ステレオカメラ302を含むステレオカメラ300と、位置検出装置23と、姿勢検出装置24と、操作装置35の操作データを検出する操作量センサ36と、入力装置32とを備える。
制御装置40は、油圧ショベル1の旋回体3に設けられる。制御装置40は、コンピュータシステムを含む。制御装置40は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置41と、RAM(Random Access Memory)のような揮発性メモリ及びROM(Read Only Memory)のような不揮発性メモリを含む記憶装置42と、入出力インターフェース43とを有する。
演算処理装置41は、画像取得部410と、信号取得部411と、共通部分抽出部413と、旋回データ取得部415と、撮像位置算出部416と、三次元位置算出部417と、判定部418とを有する。
画像取得部410は、油圧ショベル1が旋回中において撮像装置30によって撮影された施工対象SBの複数の画像PCを取得する。また、画像取得部410は、油圧ショベル1が動作停止状態、すなわち走行も旋回も停止した状態において撮像装置30によって撮影された施工対象SBの画像PCを取得する。
信号取得部411は、入力装置32が操作されることにより生成された指令信号を取得する。入力装置32は、撮像装置30による撮影の開始又は停止のために操作される。指令信号は、撮影開始指令信号及び撮影停止指令信号を含む。信号取得部411は、取得した撮影開始指令信号及び撮影停止指令信号を撮像装置30に出力する。
なお、信号取得部411が撮影開始指令信号を取得した時点と撮影停止指令信号を取得した時点との期間に撮影された画像PCが記憶装置42に記憶され、その記憶装置42に記憶されている画像PCがステレオ処理に使用されてもよい。
共通部分抽出部413は、油圧ショベル1が旋回中において撮像装置30によって撮影された複数の画像PCの共通部分KSを抽出する。共通部分KSについては後述する。
旋回データ取得部415は、旋回中の旋回体3の旋回データを取得する。旋回データとは、旋回体3の旋回状態を示すデータであり、旋回体3の旋回速度V、旋回角度θ、及び旋回方向RDの少なくとも一つを含む。後述するように、本実施形態において、旋回データは、撮像位置算出部416によって算出される。旋回データ取得部415は、撮像位置算出部416から旋回データを取得する。
撮像位置算出部416は、撮影時の撮像装置30の位置P及び姿勢を算出する。旋回体3が旋回中である場合、撮影時の撮像装置30の位置Pは、旋回方向RDの撮像装置30の位置を含む。走行体5が走行状態である場合、撮影時の撮像装置30の位置Pは、走行方向MDの撮像装置30の位置を含む。また、撮像位置算出部416は、旋回体3の旋回データを算出する。旋回体3の旋回データは、旋回体3の旋回速度V、旋回角度θ、及び旋回方向RDの少なくとも一つを含む。
三次元位置算出部417は、一対の撮像装置30によって撮影された一対の画像PCをステレオ処理することにより、撮像装置座標系における施工対象SBの三次元位置を算出する。三次元位置算出部417は、撮像位置算出部416に算出された撮像装置30の位置Pに基づいて、撮像装置座標系における施工対象SBの三次元位置を現場座標系における施工対象SBの三次元位置に変換する。
判定部418は、旋回データに基づいて、ステレオ処理に使用される画像PCの撮影の停止条件を満足するか否かを判定する。停止条件を満足しない場合、ステレオ処理のための画像PCの撮影は継続される。停止条件は、記憶装置42の停止条件記憶部422に記憶されている。停止条件については後述する。
出力部419は、判定部418の判定結果に基づいて、撮影停止指令信号を出力する。出力部419は、判定部418によって画像PCの撮影の停止条件が満足したと判定された場合、信号取得部411または撮像装置30に撮影停止指令信号を出力する。出力部419は、その他装置に撮影停止指令信号を出力してもよい。判定結果は、画像PCの撮影の停止条件を満足したという結果、画像PCの撮影の停止条件を満足しないという結果を含む。
記憶装置42は、停止条件記憶部422と、画像記憶部423とを有する。
入出力インターフェース43は、演算処理装置41及び記憶装置42と外部機器とを接続するインターフェース回路を含む。入出力インターフェース43には、ハブ31、位置検出装置23、姿勢検出装置24、操作量センサ36、及び入力装置32が接続される。
複数の撮像装置30(30A,30B,30C,30D)は、ハブ31を介して演算処理装置41と接続される。撮像装置30は、信号取得部411からの撮影開始指令信号に基づいて、施工対象SBの画像PCを撮影する。撮像装置30が撮影した施工対象SBの画像PCは、ハブ31及び入出力インターフェース43を介して演算処理装置41及び記憶装置42のそれぞれに入力される。画像取得部410及び画像記憶部423のそれぞれは、撮像装置30が撮影した施工対象SBの画像PCを、ハブ31及び入出力インターフェース43を介して取得する。なお、ハブ31は省略されてもよい。
操作量センサ36は、上述のとおり操作装置35の操作データを検出する。操作量センサ36は、検出した操作データに基づき操作装置35が操作された操作状態と、操作装置35が操作されていない中立状態とを検出してもよい。操作データには、操作装置35の操作量、および操作状態と中立状態との検出結果が含まれる。操作量センサ36は、操作レバーの操作位置に基づいて操作データを検出してもよいし、操作レバーを操作したことによって生成されるパイロット油圧、すなわちPPC(Pressure Proportional Control)圧によって操作データを検出してもよいし、その他の方法によって操作データを検出してもよい。
入力装置32は、撮像装置30による撮影の開始又は停止のために操作される。入力装置32が操作されることにより、撮影開始指令信号又は撮影停止指令信号が生成される。入力装置32として、操作スイッチ、操作ボタン、タッチパネル、音声入力、及びキーボードの少なくとも一つが例示される。入力装置32の操作には、音声による入力が含まれる。
[旋回地形計測]
次に、本実施形態に係る油圧ショベル1の動作の一例について説明する。図4は、本実施形態に係る油圧ショベル1の動作の一例を模式的に示す図である。計測システム50は、旋回体3が旋回中において撮像装置30によって油圧ショベル1の周辺の施工対象SBの画像PCを連続撮影する。撮像装置30は、旋回体3が旋回中において、所定の周期で施工対象SBの画像PCを順次撮影する。
撮像装置30は、旋回体3に搭載されている。旋回体3が旋回することにより、撮像装置30の撮影領域FMは、旋回方向RDに移動する。旋回体3が旋回中において撮像装置30が施工対象SBの画像PCを連続撮影することによって、撮像装置30は、施工対象SBの複数の領域のそれぞれの画像PCを取得することができる。三次元位置算出部417は、一対の撮像装置30で撮影された一対の画像PCをステレオ処理することにより、油圧ショベル1の周辺の施工対象SBの三次元位置を算出することができる。
ステレオ処理により算出された施工対象SBの三次元位置は、撮像装置座標系において規定される。三次元位置算出部417は、撮像装置座標系における三次元位置を現場座標系における三次元位置に変換する。撮像装置座標系における三次元位置を現場座標系における三次元位置に変換するため、現場座標系における旋回体3の位置及び姿勢が必要となる。現場座標系における旋回体3の位置及び姿勢は、位置検出装置23及び姿勢検出装置24によって検出可能である。
油圧ショベル1が旋回中において、油圧ショベル1に搭載されている位置検出装置23及び姿勢検出装置24のそれぞれは変位する。動いている状態の位置検出装置23及び姿勢検出装置24のそれぞれから出力される検出データは、不安定であったり検出精度が低下したりする可能性がある。
位置検出装置23は、所定の周期で検出データを出力する。そのため、油圧ショベル1が旋回中において位置検出装置23による位置の検出と撮像装置30による撮影とが並行して実施される場合、位置検出装置23が動いていると、撮像装置30が画像を撮影するタイミングと位置検出装置23が位置を検出するタイミングとが同期しない可能性がある。撮影のタイミングとは異なるタイミングで検出された位置検出装置23の検出データに基づいて施工対象SBの三次元位置が座標変換されると、三次元位置の計測精度が低下する可能性がある。
本実施形態において、計測システム50は、後述する方法に基づいて、旋回体3が旋回中において撮像装置30によって画像PCが撮影された時点における旋回体3の位置及び姿勢を高精度に算出する。これにより、計測システム50は、現場座標系における施工対象SBの三次元位置を高精度に算出することができる。
撮像位置算出部416は、油圧ショベル1が動作停止状態において検出された位置検出装置23及び姿勢検出装置24のそれぞれの検出データを取得する。油圧ショベル1が動作停止状態において位置検出装置23及び姿勢検出装置24によって検出された検出データは安定している可能性が高い。撮像位置算出部416は、旋回体3の旋回開始前及び旋回停止後のそれぞれの動作停止状態において検出された検出データを取得する。撮像装置30は、旋回体3の旋回開始前及び旋回停止後のそれぞれの動作停止状態において施工対象SBの画像PCを撮影する。撮像位置算出部416は、油圧ショベル1が動作停止状態において取得された位置検出装置23及び姿勢検出装置24のそれぞれの検出データに基づいて、油圧ショベル1が動作停止状態において撮影された画像PCから算出された撮像装置座標系における施工対象SBの三次元位置を現場座標系における三次元位置に変換する。
一方、撮像位置算出部416は、旋回体3が旋回中において撮像装置30によって施工対象SBの画像PCが撮影された場合、後述する方法に基づいて、旋回体3が旋回中において撮像装置30によって画像PCが撮影した時点における旋回体3の位置及び姿勢を算出する。撮像位置算出部416は、算出された旋回体3の位置及び姿勢に基づいて、撮影された画像PCから算出された撮像装置座標系における三次元位置を現場座標系における三次元位置に変換する。
図5は、本実施形態に係る計測システム50の動作の一例を模式的に示す図である。図5は、旋回体3が旋回中において撮像装置30が施工対象SBを撮影することを説明するための模式図である。
以下の説明においては、走行体5が走行停止状態であることとする。図5に示すように、旋回体3が旋回することにより、旋回体3に搭載されている撮像装置30及び撮像装置30の撮影領域FMは、旋回方向RDに移動する。撮像装置30の撮影領域FMは、撮像装置30の光学系の視野に基づいて規定される。撮像装置30は、撮影領域FMに配置される施工対象SBの画像PCを取得する。旋回体3の旋回により、撮像装置30の撮影領域FMは、旋回体3の旋回方向RDに移動する。撮像装置30は、移動する撮影領域FMに順次配置される施工対象SBの画像PCを撮影する。
図5は、旋回体3の旋回により、撮影領域FMが旋回方向RDに、撮影領域FM1、撮影領域FM2、及び撮影領域FM3の順に移動する例を示す。撮影領域FM1は、旋回方向RDにおける第1位置PJ1に規定される。撮影領域FM2は、旋回方向RDにおける第2位置PJ2に規定される。撮影領域FM3は、旋回方向RDにおける第3位置PJ3に規定される。第2位置PJ2は、第1位置PJ1から旋回角度Δθ1だけ旋回した位置である。第3位置PJ3は、第2位置PJ2から旋回角度Δθ2だけ旋回した位置である。撮像装置30は、撮影領域FM1に配置された施工対象SBの画像PC1、撮影領域FM2に配置された施工対象SBの画像PC2、及び撮影領域FM3に配置された施工対象SBの画像PC3のそれぞれを撮影する。画像PC1、画像PC2、画像PC3は、同一の撮像装置30(図5に示す例では撮像装置30C)により撮像された画像である。
撮像装置30は、隣り合う撮影領域FMに重複領域OBが設けられるように、所定のタイミングで撮影する。図5は、撮影領域FM1と撮影領域FM2とに重複領域OB1が設けられ、撮影領域FM2と撮影領域FM3との間に重複領域OB2が設けられる例を示す。重複領域OB1は、画像PC1と画像PC2の一部とが重複する重複領域OBである。重複領域OB2は、画像PC2と画像PC3の一部とが重複する重複領域OBである。
重複領域OBに画像PCの共通部分KSが存在する。重複領域OB1に存在する共通部分KS1は、画像PC1と画像PC2との共通部分KSである。重複領域OB2に存在する共通部分KS2は、画像PC2と画像PC3との共通部分KSである。共通部分抽出部413は、撮像装置30によって撮影された複数の二次元の画像PCの共通部分KSを抽出する。
図6は、本実施形態に係る計測システム50の処理の一例を説明するための模式図である。図6は、旋回体3が旋回中において撮影された画像PC(PC1,PC2)の一例を示す図である。共通部分抽出部413は、画像PCから共通部分KSを抽出する。
図6に示すように、共通部分抽出部413は、撮影領域FM1に配置された施工対象SBの画像PC1と、撮影領域FM2に配置された施工対象SBの画像PC2とから、画像PC1と画像PC2との共通部分KS1を抽出する。撮像位置算出部416は、共通部分抽出部413で抽出された共通部分KS1に基づいて、旋回体3の推定角度θs(図5においてはΔθ1)を算出する。また、撮像位置算出部416は、推定角度θsに基づいて、撮影時の撮像装置30の推定位置Ps(図5においてはPJ2)を算出する。
共通部分KSは、画像PCにおける特徴点である。共通部分抽出部413は、例えばORB(Oriented FAST and Rotated BRIEF)又はHarrisコーナー検出のような既知の特徴点検出アルゴリズムに基づいて、共通部分KSを抽出する。共通部分抽出部413は、複数の画像PCのそれぞれから複数の特徴点を抽出し、抽出した複数の特徴点から類似する特徴点を探索することによって、共通部分KSを抽出する。共通部分抽出部413は、共通部分KSを複数点抽出してもよい。共通部分抽出部413は、例えば画像PCにおける施工対象SBの角部を特徴点として抽出する。
旋回体3の旋回により撮像装置30の撮影領域FMが旋回方向RDに移動し、撮影領域FMの移動により、画像PCにおける共通部分KSが変位する。図6に示す例では、共通部分KSは、画像PC1においては画素位置PX1に存在し、画像PC2においては画素位置PX2に存在する。画像PC1と画像PC2とにおいて、共通部分KSが存在する位置が異なる。すなわち、共通部分KS1は、画像PC1と画像PC2との間において変位したことになる。撮像位置算出部416は、複数の画像PCにおける共通部分KSの位置に基づいて、位置PJ1から位置PJ2までの旋回角度Δθ1を算出することができる。
図7は、本実施形態に係る計測システム50の処理の一例を説明するための模式図である。図7は、旋回体3が旋回することにより撮像装置座標系(Xs,Ys,Zs)が移動することを説明する図である。図7に示すように、旋回体3は、車体座標系のXm−Ym平面内において旋回軸Zrを中心に旋回する。旋回体3が旋回軸Zrを中心に旋回角度Δθだけ旋回すると、撮像装置座標系(Xs,Ys,Zs)が旋回軸Zrを中心に旋回角度Δθだけ移動する。撮像位置算出部416は、旋回体3が旋回軸Zrを中心に旋回することを拘束条件として、旋回前角度θraから旋回角度Δθだけ旋回したときの旋回体3の推定角度θs及び撮像装置30の推定位置Psを算出することができる。
[推定角度の算出]
図8は、本実施形態に係る計測システム50の処理の一例を説明するための模式図である。図8は、旋回体3の旋回角度θ及び撮像装置30の位置Pを算出する例を示す模式図である。図8は、車体座標系における旋回体3の旋回角度θ及び撮像装置30の位置Pを示す。
図8に示す例において、旋回体3は、旋回前角度θra、第1推定角度θs1、第2推定角度θs2、第3推定角度θs3、及び旋回後角度θrbの順に、旋回方向RDに旋回する。撮像装置30は、旋回体3の旋回により、旋回前位置Pra、第1推定位置Ps1、第2推定位置Ps2、第3推定位置Ps3、及び旋回後位置Prbの順に移動する。撮像装置30の撮影領域FMは、旋回方向RDの撮像装置30の移動により、撮影領域FMra、撮影領域FMs1、撮影領域FMs2、撮影領域FMs3、及び撮影領域FMrbの順に移動する。
旋回前角度θra及び旋回後角度θrbのとき、旋回体3は旋回停止状態である。旋回前角度θraにおいて旋回停止状態の旋回体3は、第1推定角度θs1、第2推定角度θs2、及び第3推定角度θs3を経由して、旋回後角度θrbに到達するように、旋回前角度θraから旋回後角度θrbまで旋回する。
撮像装置30は、旋回前位置Praに配置されている状態で、撮影領域FMraに配置される施工対象SBの画像PCraを取得する。撮像装置30は、第1推定位置Ps1に配置されている状態で、撮影領域FMs1に配置される施工対象SBの画像PCs1を取得する。撮像装置30は、第2推定位置Ps2に配置されている状態で、撮影領域FMs2に配置される施工対象SBの画像PCs2を取得する。撮像装置30は、第3推定位置Ps3に配置されている状態で、撮影領域FMs3に配置される施工対象SBの画像PCs3を取得する。撮像装置30は、旋回後位置Prbに配置されている状態で、撮影領域FMrbに配置される施工対象SBの画像PCrbを取得する。
上述のように、撮像位置算出部416は、旋回体3が旋回開始前の旋回停止状態において位置検出装置23及び姿勢検出装置24によって検出された旋回体3の位置及び姿勢に基づいて、旋回前角度θraを算出する。また、撮像位置算出部416は、旋回体3が旋回停止後の旋回停止状態において位置検出装置23及び姿勢検出装置24によって検出された旋回体3の位置及び姿勢に基づいて、旋回後角度θrbを算出する。また、撮像位置算出部416は、旋回前角度θraに基づいて、旋回前位置Praを算出する。また、撮像位置算出部416は、旋回後角度θrbに基づいて、旋回後位置Prbを算出する。
旋回前角度θra、旋回後角度θrb、旋回前位置Pra、及び旋回後位置Prbは、位置検出装置23の検出データ及び姿勢検出装置24の検出データに基づいて、高精度に算出される。
上述のように、撮像位置算出部416は、旋回体3が旋回中において撮影された複数の画像PCの共通部分KSに基づいて、推定角度θs(第1推定角度θs1、第2推定角度θs2、及び第3推定角度θs3)を算出する。また、撮像位置算出部416は、推定角度θsに基づいて、推定位置Ps(第1推定位置Ps1、第2推定位置Ps2、及び第3推定位置Ps3)を算出する。
共通部分抽出部413は、画像PCraと画像PCs1との共通部分KS1を抽出する。撮像位置算出部416は、旋回体3が旋回軸Zrを中心に旋回することを拘束条件として、旋回体3の旋回前角度θraと、画像PCraと画像PCs1との共通部分KS1に基づいて、旋回角度Δθ1を算出する。第1推定角度θs1は、旋回前正解角度θraと旋回角度Δθ1との和である(θs1=θra+Δθ1)。
同様に、共通部分抽出部413は、旋回角度Δθ2、旋回角度Δθ3、及び旋回角度Δθ4を算出することができ、撮像位置算出部416は、第2推定角度θs2(θs2=θra+Δθ1+Δθ2)、第3推定角度θs3(θs3=θra+Δθ1+Δθ2+Δθ3)、第4推定角度θs4(θs4=θra+Δθ1+Δθ2+Δθ3+Δθ4)を算出することができる。
このように、撮像位置算出部416は、旋回体3が旋回中において撮像装置30が撮影時の旋回体3の推定角度θs(θs1、θs2、θs3、θs4)を段階的に算出することができる。また、旋回体3の推定角度θsが算出されることにより、撮像位置算出部416は、推定角度θsに基づいて、旋回体3が旋回中における撮像装置30の推定位置Ps(Ps1,Ps2,Ps3,Ps4)を算出することができる。
また、撮像位置算出部416は、複数の画像PC(PCra,PCs1,PCs2,PCs3,PCs4,PCrb)のそれぞれが撮影された時点を示す時点データを撮像装置30から取得する。撮像装置416は、複数の画像PCのそれぞれが撮影された時点と、旋回角度Δθ(Δθ1,Δθ2,Δθ3,Δθ4)とに基づいて、旋回速度Vを算出することができる。例えば、画像PCs1が撮影された時点から画像PCs2が撮影された時点までの時間と、画像PCs1が撮影されたときの推定角度θs1から推定角度θs2までの移動量とに基づいて、旋回体3が推定角度θs1から推定角度θs2まで旋回するときの旋回角度Vを算出することができる。また、撮像装置416は、複数の画像PCのそれぞれが撮影された時点と旋回角度Δθとに基づいて、旋回方向Rを算出することができる。
このように、本実施形態においては、撮像位置算出部416は、複数の画像PCの共通部分KSに基づいて、旋回角度θ、旋回速度V、及び旋回方向Rを含む旋回体3の旋回データを算出することができる。
[推定角度の補正]
旋回後角度θrbは、位置検出装置23の検出データ及び姿勢検出装置24の検出データに基づいて高精度に算出される。一方、推定角度θs4は、共通部分KSの変位量に基づいて算出される。共通部分KSを使って算出された推定角度θs4及び推定位置Ps4が正確であれば、推定角度θs4と旋回後角度θrbとの差は小さく、推定位置Ps4と旋回後位置Prbとの差は小さい。
一方、例えば共通部分KSの変位量の累積誤差などに起因して、共通部分KSを使って算出された推定角度θs4及び推定位置Ps4の誤差が大きくなる可能性がある。推定角度θs4及び推定位置Ps4の誤差が大きいと、推定角度θs4と旋回後角度θrbとの差は大きくなり、推定位置Ps4と旋回後位置Prbとの差は大きくなる。
撮像位置算出部416は、推定角度θs4と旋回後角度θrbとに差があるとき、旋回停止状態における旋回角度θである角度θr(旋回前角度θra及び旋回後角度θrb)に基づいて、旋回中における旋回角度θである推定角度θs(第1推定角度θs1、第2推定角度θs2、第3推定角度θs3、及び第4推定角度θs4)を補正する。また、撮像位置算出部416は、補正後の推定角度θsに基づいて、推定位置Psを補正する。
撮像位置算出部416は、補正後の推定角度θs1’に基づいて、画像PCs1を撮影時の撮像装置30の推定位置Ps1を精度良く算出することができる。同様に、撮像位置算出部416は、補正後の推定角度θs2’に基づいて、画像PCs2を撮影時の撮像装置30の推定位置Ps2を精度良く算出することができ、補正後の推定角度θs3’に基づいて、画像PCs3を撮影時の撮像装置30の推定位置Ps3を高精度に算出することができる。したがって、三次元位置算出部417は、高精度に算出された撮影時の撮像装置30の推定位置Psとその撮像装置30に撮影された画像PCsとに基づいて、現場座標系の施工対象SBの三次元位置を高精度に算出することができる。
三次元位置算出部417は、一対の撮像装置30によって撮影された一対の画像PCをステレオ処理して、施工対象SBの三次元位置を算出する。
三次元位置算出部417は、旋回体3が旋回開始前の旋回停止状態において、旋回前位置Praに配置される一対の撮像装置30で撮影された一対の画像PCraをステレオ処理して、撮影領域FMraに配置された施工対象SBの三次元位置を算出する。
また、三次元位置算出部417は、旋回体3が旋回中において、推定位置Psに配置される一対の撮像装置30で撮影された一対の画像PCsをステレオ処理して、撮影領域FMsに配置された施工対象SBの三次元位置を算出する。三次元位置算出部417は、走行体5が走行停止状態であり旋回体3が旋回中において、推定位置Psに配置される一対の撮像装置30で撮影された一対の画像PCsをステレオ処理して、撮影領域FMsに配置された施工対象SBの三次元位置を算出する。
また、三次元位置算出部417は、旋回体3が旋回停止後の旋回停止状態において、旋回後位置Prbに配置される一対の撮像装置30で撮影された一対の画像PCrbをステレオ処理して、撮影領域FMrbに配置された施工対象SBの三次元位置を算出する。
また、三次元位置算出部417は、旋回体3が旋回中及び旋回停止状態のそれぞれにおいて撮影された複数の画像PCに基づいて、施工対象SBの三次元位置を算出した後、複数の施工対象SBの三次元位置を統合する。
[撮影の停止条件]
次に、撮影の停止条件について説明する。撮影の停止条件とは、ステレオ処理に使用される画像PCの撮影を停止するための条件をいう。停止条件は、予め定められており、記憶装置42の停止条件記憶部422に記憶されている。判定部418は、旋回データ取得部415に取得された旋回データに基づいて、撮影の停止条件を満足するか否かを判定する。また、判定部418は、操作量センサ36により検出された操作装置35の操作データに基づいて撮影の停止条件を満足するか否かを判定する。停止条件を満足すると判定されたとき、ステレオ処理のための画像PCの撮影が停止する。
本実施形態において、停止条件記憶部422には、第1の停止条件として、旋回体3が旋回停止したことを示す停止条件が記憶されている。判定部418は、操作データまたは旋回データに基づいて、旋回体3が旋回停止したか否かを判定する。旋回体3の旋回停止時点において、ステレオ処理のための画像PCの撮影が停止する。
例えば、油圧ショベル1の運転者が操作装置35を中立状態にして旋回を停止させたとき、旋回体3の旋回が停止し、旋回体3の旋回体停止時点において、画像PCの撮影が停止する。三次元位置算出部417は、旋回体3が旋回停止したと判定部418に判定されたとき、旋回体3の旋回停止時点よりも前に撮影された画像PCに基づいて、ステレオ処理を実施して、施工対象SBの三次元位置を算出する。
運転者が操作装置35を中立状態にして旋回体3の旋回を停止させるということは、ステレオ処理のための画像PCの撮影を停止させたい意図があることを意味する。そのため、旋回体3の旋回停止時点で画像PCの撮影を停止させることにより、運転者は操作装置35を中立状態にするだけで、簡単に撮影を停止させることができる。
判定部418は、操作装置35の操作データまたは旋回体3の旋回データが第1の停止条件を満足するか否かを判定する。旋回体3が旋回停止と判定されたとき、操作データまたは旋回データは第1の停止条件を満足していると判定される。一方、旋回体3が旋回を継続していると判定されたとき、操作データまたは旋回データは第1の停止条件を満足していないと判定される。
また、停止条件記憶部422には、第2の停止条件として、旋回体3の旋回停止から所定時間経過したことを示す停止条件が記憶されている。判定部418は、操作データまたは旋回データに基づいて、旋回体3が旋回停止してから所定時間経過したか否かを判定する。旋回体3の旋回停止から所定時間経過時点において、ステレオ処理のための画像PCの撮影が停止する。
例えば、油圧ショベル1の運転者が操作装置35を中立状態にして旋回体3の旋回が停止した後、旋回停止時点から所定時間経過後の所定時間経過時点において、画像PCの撮影が停止する。三次元位置算出部417は、旋回体3の旋回が停止してからの旋回停止時間が所定時間を超えたと判定部418に判定されたとき、所定時間経過時点よりも前に撮影された画像PCに基づいてステレオ処理を実施して、施工対象SBの三次元位置を算出する。
運転者が操作装置35を中立状態にして旋回体3の旋回を停止したとき、旋回体3の旋回量が十分でなく施工対象SBのうち撮影すべき領域が残っている場合がある。また、何らかの原因で、旋回体3の旋回中に意図せずに旋回体3の旋回が停止してしまう場合にも、施工対象SBのうち撮影すべき領域が残ってしまう。このような場合、旋回体3の旋回停止時点で撮影が直ぐに停止してしまうと、再度残りの領域について撮影を実施しなければならならず手間がかかる。運転者が操作装置35を中立状態にして旋回体3の旋回停止した後、直ぐに撮影を停止させずに、所定時間経過後に撮影を停止させることにより、旋回体3の旋回停止後、施工対象SBのうち撮影すべき領域が残っている場合でも、運転者は、所定時間が経過する前に旋回体3の旋回を再開することにより、撮影を継続することができる。これにより、もう一度はじめから撮影を実施しなければならない手間が省ける。
また、運転者が旋回体3を旋回させてある領域を撮影した後に操作装置35を中立状態にして旋回体3の旋回を停止したとき、撮影した領域において何らかの原因により撮影ができなかったと運転者が判断した場合、旋回の停止後、所定時間が経過する前に逆方向に旋回を再開し撮影を継続することで、当該領域を再度撮影することができる。
判定部418は、操作装置35の操作データまたは旋回体3の旋回データが第2の停止条件を満足するか否かを判定する。旋回体3の旋回停止から所定時間経過したと判定されたとき、操作データまたは旋回データは第2の停止条件を満足していると判定される。一方、旋回体3の旋回停止から所定時間経過していないと判定されたとき、操作データまたは旋回データは第2の停止条件を満足していないと判定される。
旋回体3の旋回停止時点から所定時間が経過までは、撮影は継続される。また、旋回体3の旋回停止から旋回再開までの旋回停止時間が所定時間未満である場合においても、撮影は継続される。旋回再開後の旋回方向は、旋回停止前の旋回方向(順方向)と同じでもよいし、逆方向でもよい。三次元位置算出部417は、旋回停止時間が所定時間未満であると判定部418に判定されたとき、旋回停止前及び旋回再開後のそれぞれで撮影された画像PCに基づいてステレオ処理を実施して、施工対象SBの三次元位置を算出する。
また、停止条件記憶部422には、第3の停止条件として、入力装置32が操作されることにより生成された撮影停止指令信号が信号取得部411に取得されたことを示す停止条件が記憶されている。判定部418は、信号取得部411に取得された指令信号が撮影停止指令信号であるか否かを判定する。撮影停止指令信号が取得された時点において、ステレオ処理のための画像PCの撮影が停止する。
例えば、油圧ショベル1の運転者が撮影停止指令信号を生成するために入力装置32を操作したとき、画像PCの撮影が停止する。三次元位置算出部417は、撮影停止指令信号が信号取得部411に取得されたと判定部418に判定されたとき、撮影停止指令信号の取得時点よりも前に撮影された画像PCに基づいてステレオ処理を実施して、施工対象SBの三次元位置を算出する。
運転者は、ステレオ処理のための画像PCの撮影を停止させるという意図を持って入力装置32を操作する。そのため、入力装置32が操作されることにより生成された撮影停止指令信号が信号取得部411に所得された時点で画像PCの撮影を停止させることにより、運転者は入力装置32を操作するだけで、任意のタイミングで簡単に撮影を停止させることができる。例えば、撮影の停止条件が上記第1の停止条件や第2の停止条件であった時には、運転者が旋回体3を旋回させながら旋回途中にある一部の領域のみを撮影したい場合、運転者は当該一部の領域の撮影が停止した時点で旋回を停止する必要がある。撮影の停止条件が第3の停止条件であれば、運転者は旋回操作を途中で停止することなく当該一部の領域を撮影することができる。
判定部413は、信号取得部411に取得された指令信号が第3の停止条件を満足するか否かを判定する。指令信号が撮影停止指令信号であると判定されたとき、第3の停止条件を満足していると判定される。一方、指令信号が撮影停止指令信号でないと判定されたとき、第3の停止条件を満足していないと判定される。
本実施形態において、判定部418は、信号取得部411に取得された指令信号に基づいて、撮影の開始条件を満足するか否かを判定する。指令信号は、撮影開始指令信号を含む。三次元位置算出部417は、信号取得部411が撮影開始指令信号を取得したと判定部418に判定されたとき、撮影開始指令信号の取得時点よりも後に撮影された画像PCに基づいてステレオ処理を実施して、施工対象SBの三次元位置を算出する。
撮影の開始時点及び停止時点が入力装置32の操作によって決定されることにより、例えば施工対象SBの一部の領域のみを撮影したい場合、運転者は、入力装置32の操作のタイミングを調整することによって、撮影したい領域のみを撮影することができ、不要な領域の撮影を抑制することができる。
本実施形態において、判定部418は、上記第1の停止条件から第3の停止条件以外の停止条件を撮影の停止条件としてもよい。また判定部418は、上記第1の停止条件から第3の停止条件を組み合わせて撮影の停止条件としてもよい。例えば、第2の停止条件と第3の停止条件とを組み合わせ、旋回体3の旋回停止から所定時間経過しかつ入力装置32の操作によって撮影停止指令信号が信号取得部411に取得されたことをもって、撮影の停止条件としてもよい。
[入力装置]
図9は、本実施形態に係る入力装置32の一例を模式的に示す斜視図である。本実施形態において、計測システム50は、旋回体3が旋回中において撮像装置30によって施工対象SBを連続的に撮影する旋回連続撮影モードと、旋回体3が旋回停止状態において撮像装置30によって施工対象SBを撮影する単画像撮影モードとを実施可能である。入力装置32は、旋回連続撮影モードの開始を指令する撮影開始指令信号及び旋回連続撮影モードの停止を指令する撮影停止指令信号を生成可能な旋回連続撮影スイッチ32Aと、単画像撮影モードの撮影を指令する単画像撮影指令信号を生成可能な単画像撮影スイッチ32Bとを有する。また、旋回連続撮影スイッチ32Aの一部に第1発光部34Aが設けられ、単画像撮影スイッチ32Bの一部に第2発光部34Bが設けられる。第1発光部34A及び第2発光部34Bのそれぞれは、発光ダイオードを含む。旋回連続撮影スイッチ32Aの操作状態に基づいて、第1発光部34Aが点灯、点滅、又は消灯する。単画像撮影スイッチ32Bの操作状態に基づいて、第2発光部34Bが点灯、点滅、又は消灯する。
[計測方法]
図10は、本実施形態に係る計測方法の一例を示すフローチャートである。図11は、本実施形態に係る計測方法のタイミングチャートである。以下の説明においては、上述の第1,第2,第3の停止条件のうち、第2の停止条件に基づく計測方法について説明する。
油圧ショベル1の運転者は、撮像装置30が施工対象SBの計測開始位置を向くように、操作装置35を操作して旋回体3を旋回させる。旋回体3の旋回を含む油圧ショベル1の作動が停止した時点t0から予め規定された時間が経過して時点t1になったとき、判定部418は、位置検出装置23及び姿勢検出装置24のそれぞれが検出データを安定して出力できる静定状態であると判定する。
油圧ショベル1が動作停止状態であり、位置検出装置32及び姿勢検出装置24が静定状態において、撮影開始指令信号を取得すると、撮像位置算出部416は、位置検出装置23から旋回体3の位置を示す検出データを取得し、姿勢検出装置24から旋回体3の姿勢を示す検出データを取得する(ステップS10)。
撮像位置算出部416は、旋回前角度θra、及び旋回前位置Praを取得する。
位置検出装置23の検出データ及び姿勢検出装置24の検出データは、一時的に記憶装置42に記憶される。
旋回連続撮影モードを開始する場合、油圧ショベル1の運転者は、旋回連続撮影スイッチ32Aを操作(押下)する。図11に示す例では、時点t2において旋回連続撮影スイッチ32Aが操作される。旋回連続撮影スイッチ32Aが操作されることにより生成された撮影開始指令信号は、演算処理装置41に出力される。信号取得部411は、撮影開始指令信号を取得する(ステップS20)。
また、旋回連続撮影スイッチ32Aが操作され、撮影開始指令信号を取得すると、演算処理装置41は、撮像装置30の撮像を開始する(ステップS30)。画像取得部410は、油圧ショベル1が動作開始前の動作停止状態において撮像装置30によって撮影された施工対象SBの画像PCraを取得する。また、画像記憶部423は、画像PCraを記憶する。
運転者は、操作装置35を操作して、走行体5の走行を停止した状態で、旋回体3の旋回を開始する(ステップS40)。運転者は、撮像装置30が施工対象SBの計測開始位置を向いている旋回開始位置から、撮像装置30が施工対象SBの計測停止位置を踏む旋回停止位置まで旋回するように、操作装置35を操作して、旋回体3の旋回を開始する。
以下の説明においては、旋回開始位置から旋回停止位置に向かって旋回するときの旋回方向RDを適宜、順方向、と称する。また、旋回方向RDにおいて順方向とは逆の方向を適宜、逆方向、と称する。
図11に示す例では、時点t3において操作装置35が操作され、旋回体3の旋回が開始される。複数の撮像装置30(30A,30B,30C,30D)のそれぞれは、旋回体3が旋回中において間隔をあけて施工対象SBの画像PCsを複数回撮影する。
画像取得部410は、旋回体3が旋回中において撮像装置30によって撮影された施工対象SBの複数の画像PCsを順次取得する。また、画像記憶部423は、複数の画像PCsを順次記憶する。
本実施形態において、撮像装置30は、旋回連続撮影スイッチ32Aが操作され撮影開始指令信号が信号取得部411に取得された後においては、撮影の停止条件が満足されるまで、撮像装置30は、施工対象SBの画像PCを撮影し続ける。すなわち、撮影開始指令信号が取得された時点と撮影の停止条件が満足する時点との間の期間において、撮像装置30は、旋回体3が旋回中においても、旋回体3が旋回停止中においても、施工対象SBを撮影し続ける。
旋回体3が旋回停止位置に到達すると、運転者は、操作装置35の操作を解除し、旋回体3の旋回を停止する(ステップS60)。図11に示す例では、時点t4において操作装置35の操作が解除され、旋回体3の旋回が停止される。
旋回体3の旋回が停止した時点t4から予め規定された時間が経過して時点t5になったとき、判定部418は、位置検出装置23及び姿勢検出装置24のそれぞれが検出データを安定して出力できる静定状態であると判定する。
油圧ショベル1が動作停止状態であり、位置検出装置32及び姿勢検出装置24が静定状態において、撮影位置算出部416は、位置検出装置23から旋回体3の位置を示す検出データを取得し、姿勢検出装置24から旋回体3の姿勢を示す検出データを取得する(ステップS70)。
撮像位置算出部416は、旋回後角度θrb、及び旋回後位置Prbを取得する。
位置検出装置23の検出データ及び姿勢検出装置24の検出データは、一時的に記憶装置42に記憶される。
また、画像取得部410は、油圧ショベル1が動作停止後の動作停止状態において撮像装置30によって撮影された施工対象SBの画像PCrbを取得する。また、画像記憶部423は、画像PCrbを記憶する。
旋回体3の旋回が停止した時点t4から所定時間経過後の時点t6までの間において、判定部418は、操作装置35の操作データまたは旋回データが撮影の停止条件を満足するか否かを判定する(ステップS80)。
ステップS80においては、撮影の停止条件として、旋回体3の旋回停止から所定時間経過した条件を満足するか否かが判定される(第2の停止条件)。旋回体3の旋回停止から所定時間経過したと判定されたとき、操作データまたは旋回データは撮影の停止条件を満足していると判定される。
上述のように、操作データまたは旋回データが撮影の停止条件を満足していないことは、旋回体3の旋回が停止した後に再び旋回を開始した場合において、旋回停止から旋回再開までの旋回停止時間が所定時間未満であることを含む。旋回体3の旋回が再開された後の旋回体3の旋回方向RDは、順方向でもよいし、逆方向でもよい。判定部418は、旋回体3の旋回停止から所定時間を経過したと判定したとき、操作データまたは旋回データは撮影の停止条件を満足すると判定する。一方、判定部418は、旋回体3の旋回停止から所定時間を経過していないとき、又は、旋回体3が旋回を停止後に旋回を再開した場合において、旋回の停止から再開までの旋回停止時間が規定時間未満であるとき、操作データまたは旋回データは撮影の停止条件を満足していないと判定する。
ステップS80において、操作データまたは旋回データは撮影の停止条件を満足していると判定されたとき、すなわち、旋回体3の旋回停止から所定時間経過していないと判定されたとき(ステップS80:No)、停止条件が満足されるまで、ステップS80の処理が実施される。
ステップS80において、操作データまたは旋回データは撮影の停止条件を満足すると判定されたとき、すなわち、旋回体3の旋回停止から所定時間経過したと判定されたとき(ステップS80:Yes)、撮像装置30の撮影が停止する(ステップS90)。撮像装置30は、撮影不可状態に遷移する。
共通部分抽出部413は、画像記憶部423に記憶されている複数の画像PCのそれぞれから共通部分KSを抽出する(ステップS120)。
共通部分抽出部413は、旋回体3が旋回停止中及び旋回中において撮像装置30によって撮影された少なくとも2つの画像PCからそれら2つの画像PCの共通部分KSを抽出する。共通部分KSの抽出は、旋回体3の旋回方向Rにおいて、旋回体3の旋回が開始されてから停止するまでに取得された全ての画像PCについて実施される。
上述のように、旋回開始位置から旋回停止位置に向かって旋回体3が旋回する途中において、旋回体3の旋回が停止する場合がある。撮像装置30は、旋回体3の旋回が停止してから再開されるまでの旋回停止時間においても、画像PCを撮影し続ける。共通部分抽出部413は、旋回停止時間において撮像装置30によって撮影された画像PCと、旋回が停止する直前に撮像装置30によって撮像された画像PCとの共通部分KSを抽出する。また、共通部分抽出部413は、旋回停止時間において撮像装置30によって撮影された画像PCと、旋回が再開した直後に撮像装置30によって撮像された画像PCとの共通部分KSを抽出する。上述のように、旋回が再開された後の旋回体3の旋回方向RDは、順方向でもよいし、逆方向でもよい。
共通部分抽出部413は、旋回の停止から再開までが規定時間以下である旋回停止時間において撮影された画像PCの共通部分KSを抽出する。すなわち、旋回開始位置から旋回停止位置に向かって旋回体3が旋回する途中において旋回体3が停止したとき、規定時間以下の旋回停止時間において撮影された画像PCについては、共通部分KSが抽出され、規定時間を超えた旋回停止時間において撮影された画像PCについては、共通部分KSは抽出されない。
次に、撮像位置算出部416は、複数の画像PCの共通部分KSに基づいて、旋回体3の推定角度θsを推定する(ステップS140)。撮像位置算出部416は、複数の画像PCにおける共通部分KSの位置に基づいて、旋回角度Δθを算出して、推定角度θsを推定することができる。
撮像位置算出部416は、旋回停止後の推定角度θsと旋回後角度θrbとの差が規定値未満であるとき、角度θr(旋回前角度θra、旋回後角度θrb)に基づいて、旋回中における推定角度θsを補正する。また、撮像位置算出部416は、補正後の推定角度θsに基づいて、旋回中における撮像装置30の推定位置Psを補正する。撮像位置算出部416は、上述した手順に基づいて、推定角度θsの補正を実施することができる。
三次元位置算出部417は、撮影時の画像PCをステレオ処理して、複数の施工対象SBの撮像装置座標系における三次元位置を算出する(ステップS160)。また、三次元位置算出部417は、撮像装置座標系における三次元位置を現場座標系における三次元位置に変換する。
上述のように、旋回体3が旋回開始位置から旋回停止位置に向かって旋回している途中で旋回を停止したとき、旋回の停止前に撮影された画像PC、規定時間以下の旋回停止時間において撮影された画像PC、及び旋回の再開後に撮影された画像PCが撮像装置30によって撮影される。三次元位置算出部417は、旋回の停止前、旋回の停止中、及び旋回の再開後のそれぞれで撮影された画像PCをステレオ処理して、施工対象SBの三次元位置を算出することができる。
[効果]
以上説明したように、本実施形態によれば、操作装置35の操作データまたは旋回体3の旋回データに基づいて、ステレオ処理に使用される画像PCの撮影を停止する停止時点が決定される。これにより、ステレオ処理により地形を計測したい施工対象SBの領域を効率良く撮影することができ、施工対象SBの三次元形状を円滑に取得することができる。
また、本実施形態においては、旋回体3が旋回開始位置から旋回停止位置まで旋回する途中において旋回が停止された場合、旋回の停止から再開までの旋回停止時間が所定時間以下であるか否かが判定される。旋回停止時間が所定時間以下であると判定されたとき、旋回の停止前及び再開後のそれぞれで撮影された画像PCと撮像装置30の位置とに基づいて、施工対象SBの三次元位置が算出される。また、本実施形態においては、旋回体3が旋回開始位置から旋回停止位置まで旋回する途中において旋回が停止された場合においても、旋回連続撮影スイッチ32Aの操作により撮影開始指令信号が取得されてから撮影の停止条件が満足されるまでの期間において、旋回体3が旋回を停止しても撮像装置30は施工対象SBを撮影し続ける。これにより、旋回体3の旋回が停止する度に撮影が停止してしたり、旋回体3の旋回が所定時間未満だけ停止したときに、撮影が停止することが抑制される。したがって、施工対象SBの三次元形状を計測するときの処理効率の低下が抑制される。
油圧ショベル1の運転者は、操作装置30を操作して、意図的に旋回体3の旋回を停止させる可能性がある。また、運転者が意図せずに旋回体3の旋回が停止する場合もある。このような場合において、旋回体3の旋回が停止する度に、撮影が停止されたり、旋回停止中に撮影された画像PCがステレオ処理に使用されなかったりすると、運転者は、再度、撮影を実施しなければならない。本実施形態においては、旋回体3の旋回が停止しても、所定時間以内に旋回を再開させれば、撮影が継続される。したがって、施工対象SBの三次元形状を計測するときの処理効率の低下が抑制される。
また、旋回体3を旋回させながら撮影を実施するとき、油圧ショベル1の運転者は、旋回体3の旋回を停止した後、旋回体3を逆方向に旋回させ、既に撮影が停止した施工対象SBをもう一度撮影する場合がある。このような場合において、旋回体3が逆方向に旋回する度に、撮影が停止されたり、逆方向に旋回中に撮影された画像PCがステレオ処理に使用されなかったりすると、施工対象SBの三次元形状を計測するときの処理効率が低下する。本実施形態においては、順方向に旋回していた旋回体3を例えば撮影のやり直しのために逆方向に旋回させる場合においても、旋回停止時間が所定時間未満であれば、旋回連続撮影が継続される。したがって、施工対象SBの三次元形状を計測するときの処理効率の低下が抑制される。
また、第3の停止条件のように、入力装置32が操作されることにより生成された撮影停止指令信号に基づいて、ステレオ処理に使用される画像PCの撮影を停止する停止時点が決定されてもよい。この場合においても、ステレオ処理により地形を計測したい施工対象SBの領域を効率良く撮影することができ、施工対象SBの三次元形状を円滑に取得することができる。
なお、上述の実施形態においては、旋回が停止した時点t4から静定判定の時点t5までの期間は、時点t4から所定時間経過後の時点t6よりも短いが、時点t4から時点5までの期間は、時点t4から時点t6までの期間よりも長くてもよいし、同じでもよい。
なお、上述の実施形態においては、油圧ショベル1が旋回中においては、撮像装置30の位置が共通部分KSに基づいて算出されることとしたが、その実施形態に限られない。例えば、油圧ショベル1が旋回中における撮像装置30の位置が、位置検出装置23の検出データ及び姿勢検出装置24の検出データに基づいて算出されてもよい。
なお、上述の実施形態において、撮像位置算出部416は、旋回軸Zrを拘束条件として、変数を旋回角度θのみとして撮影位置を算出したが、旋回軸Zrを拘束条件とすることなく、撮像装置30の位置及び姿勢を、X軸方向の位置、Y軸方向の位置、Z軸方向の位置、ロール角、ピッチ角、及びヨー角の6変数に基づいて算出してもよい。
他の実施形態においては、操作装置35の操作により、撮像装置30による撮影が開始又は停止してもよい。旋回体3の旋回を開始するために操作装置35が操作状態になったとき、操作状態を検出した操作データに基づいて撮像装置30による撮影が開始され、旋回体3の旋回を停止するために操作装置35が中立状態になったとき、中立状態を検出した操作データに基づいて撮像装置30による撮影が停止してもよい。また、入力装置32の操作により撮影が開始され、操作装置35が中立状態になったときに撮影が停止してもよい。また、旋回体3が旋回中か否かの判定は、操作量センサ36により検出された操作データに基づかずに、任意の旋回検出方法によって実施されてもよい。
また、入力装置32が操作されることにより、自動的に撮像装置30による撮影及び旋回体3の旋回が開始され、規定の旋回停止位置まで旋回した後、自動的に撮像装置30による撮影及び旋回体3の旋回が停止するようにしてもよい。
なお、上述の実施形態において、入力装置32は、例えば操作装置35の右操作レバー35R及び左操作レバー35Lの少なくとも一方に取り付けられていてもよいし、運転室4に配置されるモニタパネルに設けられていてもよいし、携帯端末装置に設けられてもよい。また、入力装置32が油圧ショベル1の外部に設けられ、撮像装置30の撮影の開始又は停止が遠隔操作されてもよい。
なお、撮像装置30で撮影された画像PCが画像記憶部423に蓄積される場合、撮影の停止条件として、規定の容量の画像PCのデータが蓄積されたという条件(メモリオーバー条件)、又は画像PCのデータが蓄積される時間が規定時間を超えたという条件(タイムオーバー条件)が設定されてもよい。
なお、上述の実施形態においては、撮像位置算出部416が共通部分KSに基づいて旋回データを算出し、旋回データ取得部415は、撮像位置算出部416から旋回データを取得することとした。旋回データ取得部415は、旋回データを算出するための検出装置の検出データに基づいて旋回データを算出してもよい。例えば、旋回データ取得部415は、位置検出装置23の検出データまたは姿勢検出装置24の検出データに基づいて、旋回体3の旋回角度θ、旋回速度V、及び旋回方向Rを含む旋回データを算出してもよいし、操作量センサ36により検出された操作装置35の操作データに基づいて旋回データを算出してもよいし、旋回体3の旋回データを検出可能な角度センサ、例えばロータリーエンコーダの検出データに基づいて旋回データを算出してもよい。この場合、演算処理装置41は、角度検出センサの検出値である旋回角度θを角度検出センサから取得するタイミングと、少なくとも一対の撮像装置30が施工対象SBを撮影するタイミングとを同期させる。このようにして、少なくとも一対の撮像装置30によって画像PCが撮影されたタイミングと、そのタイミングにおける旋回体3の旋回角度θとが対応付けられる。
なお、上述の実施形態においては、演算処理装置41が少なくとも一対の撮像装置30によって撮像された画像PCをステレオ処理して三次元計測を実現したが、このようなものには限定されない。例えば、少なくとも一対の撮像装置30によって撮像された油圧ショベル1の周囲の掘削対象SBの画像PCと、位置検出装置23及び姿勢検出装置24によって求められた油圧ショベル1の静止時における位置及び姿勢とが、例えば油圧ショベル1の外部の管理装置(携帯端末、サーバ装置等)に送信される。そして、外部の管理装置が油圧ショベル1の周囲の掘削対象SBの画像PCをステレオ処理するとともに、旋回体3の旋回時における旋回角度θ、油圧ショベル1の位置及び姿勢を求め、得られた結果を用いて旋回時における油圧ショベル1の周囲の掘削対象SBの三次元位置を求めてもよい。この場合、油圧ショベル1の外部の管理装置が、演算処理装置41に相当する。すなわち、他の実施形態において、計測システム50は、油圧ショベル1のみにおいてすべての機能を実現する必要はなく、外部の管理装置が一部の機能、例えば演算処理装置41の機能を備えていてもよい。
上述の実施形態において、撮像装置は少なくとも一対の撮像装置30を含むステレオカメラである。ステレオカメラで撮影する際には、各カメラの撮影タイミングを同期させる。撮像装置は1つのカメラによりステレオ撮影可能なものであってもよい。すなわち、1つのカメラにより撮影タイミングの異なる2つの画像に基づいてステレオ処理可能な撮像装置であってもよい。撮像装置はステレオカメラに限定されない。撮像装置は、例えば、TOF(Time Of Flight)カメラのような、画像と三次元データとの両方が得られるセンサであってもよい。撮像装置は一つのカメラにより三次元データが得られる撮像装置であってもよい。撮像装置は、レーザスキャナであってもよい。
なお、上述の実施形態においては、作業機械1が旋回体3を有する油圧ショベル1であることとした。作業機械1は、旋回体を有しない作業機械でもよい。例えば、作業機械は、ブルドーザ、ホイールローダ、ダンプトラック、及びモーターグレーダの少なくとも一つでもよい。
1…油圧ショベル(作業機械)、1B…車体、2…作業機、3…旋回体、4…運転室、4S…運転席、5…走行体、5A,5B…履帯、6…ブーム、7…アーム、8…バケット、9…カウンタウエイト、10…ブームシリンダ、11…アームシリンダ、12…バケットシリンダ、21…GPSアンテナ、23…位置検出装置、24…姿勢検出装置、30…撮像装置、30A,30B,30C,30D…撮像装置、31…ハブ、32…入力装置、32A…旋回連続撮影スイッチ、32B…単画像撮影スイッチ、35…操作装置、35L…左操作レバー、35R…右操作レバー、36…操作量センサ、37…旋回センサ、40…制御装置、41…演算処理装置、42…記憶装置、43…入出力インターフェース、50…計測システム、300…ステレオカメラ、301…第1ステレオカメラ、302…第2ステレオカメラ、410…画像取得部、411…信号取得部、413…共通部分抽出部、415…旋回データ取得部、416…撮像位置算出部、417…三次元位置算出部、418…判定部、419…出力部、422…停止条件記憶部、423…画像記憶部、FM…撮影領域、KS…共通部分、MD…走行方向、PC…画像、PK…演算用画像、Pr…旋回位置、Pra…旋回前位置、Prb…旋回後位置、Ps…推定位置、RD…旋回方向、SB…施工対象、WD…抽出施工対象領域、WD1,WD2,WD3,WD4…分割領域、WE…非施工対象領域、Zr…旋回軸、θr…旋回角度、θra…旋回前角度、θrb…旋回後角度、θs…推定角度。

Claims (5)

  1. 作業機械の旋回体に搭載された撮像装置によって前記旋回体の旋回中に撮影された施工対象の画像を取得する画像取得部と、
    前記旋回体を操作する操作装置の操作データ、または前記旋回体の旋回データに基づいて、前記撮影の停止条件を満足するか否かを判定する判定部と、
    前記判定部の判定結果に基づいて、撮影停止指令信号を出力する出力部と、
    前記画像取得部によって取得された前記画像に基づいて、前記施工対象の三次元位置を算出する三次元位置算出部と、を備え、
    前記三次元位置算出部は、前記旋回体が旋回停止してから所定時間経過するまでに前記旋回体が再旋回されたとき、旋回停止前及び旋回再開後のそれぞれに撮影された前記画像に基づいて、前記三次元位置を算出する、
    作業機械の計測システム。
  2. 前記再旋回の旋回方向は、前記旋回停止の前の旋回方向とは逆方向である、
    請求項1に記載の作業機械の計測システム。
  3. 前記撮像装置による撮影の停止のために操作される入力装置をさらに備え、
    前記判定部は、前記入力装置が操作されることに基づいて、前記撮影の停止条件を満足するか否かを判定する、
    請求項1又は請求項2に記載の作業機械の計測システム。
  4. 請求項1から請求項3のいずれか一項に記載の作業機械の計測システムを備える作業機械。
  5. 作業機械の旋回体に搭載された撮像装置によって前記旋回体の旋回中に撮影された施工対象の画像を取得することと、
    前記旋回体を操作する操作装置の操作データ、または前記旋回体の旋回データに基づいて、前記撮像装置による撮影の停止条件を満足するか否かを判定することと、
    前記判定の結果に基づいて、撮影停止指令信号を出力することと、
    取得された前記画像に基づいて、前記施工対象の三次元位置を算出することと、を含み、
    前記旋回体が旋回停止してから所定時間経過するまでに前記旋回体が再旋回されたとき、旋回停止前及び旋回再開後のそれぞれに撮影された前記画像に基づいて、前記三次元位置を算出する、
    作業機械の計測方法。
JP2021159022A 2017-09-08 2021-09-29 作業機械の計測システム、作業機械、及び作業機械の計測方法 Active JP7135191B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021159022A JP7135191B2 (ja) 2017-09-08 2021-09-29 作業機械の計測システム、作業機械、及び作業機械の計測方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017173565A JP7092476B2 (ja) 2017-09-08 2017-09-08 作業機械の計測システム、作業機械、及び作業機械の計測方法
JP2021159022A JP7135191B2 (ja) 2017-09-08 2021-09-29 作業機械の計測システム、作業機械、及び作業機械の計測方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017173565A Division JP7092476B2 (ja) 2017-09-08 2017-09-08 作業機械の計測システム、作業機械、及び作業機械の計測方法

Publications (2)

Publication Number Publication Date
JP2022001879A true JP2022001879A (ja) 2022-01-06
JP7135191B2 JP7135191B2 (ja) 2022-09-12

Family

ID=65633911

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017173565A Active JP7092476B2 (ja) 2017-09-08 2017-09-08 作業機械の計測システム、作業機械、及び作業機械の計測方法
JP2021159022A Active JP7135191B2 (ja) 2017-09-08 2021-09-29 作業機械の計測システム、作業機械、及び作業機械の計測方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2017173565A Active JP7092476B2 (ja) 2017-09-08 2017-09-08 作業機械の計測システム、作業機械、及び作業機械の計測方法

Country Status (2)

Country Link
JP (2) JP7092476B2 (ja)
WO (1) WO2019049527A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7463158B2 (ja) * 2020-03-26 2024-04-08 住友重機械工業株式会社 作業管理システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012122327A (ja) * 2004-05-13 2012-06-28 Komatsu Ltd 旋回制御装置、旋回制御方法、および建設機械
JP2013113600A (ja) * 2011-11-25 2013-06-10 Sharp Corp ステレオ3次元計測装置
US20130211658A1 (en) * 2012-02-10 2013-08-15 Deare & Company Method and stereo vision system for facilitating the unloading of agricultural material from a vehicle
WO2013191205A1 (ja) * 2012-06-22 2013-12-27 日立建機株式会社 建設機械
JP2017071915A (ja) * 2015-10-05 2017-04-13 株式会社小松製作所 施工管理システム及び施工管理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012122327A (ja) * 2004-05-13 2012-06-28 Komatsu Ltd 旋回制御装置、旋回制御方法、および建設機械
JP2013113600A (ja) * 2011-11-25 2013-06-10 Sharp Corp ステレオ3次元計測装置
US20130211658A1 (en) * 2012-02-10 2013-08-15 Deare & Company Method and stereo vision system for facilitating the unloading of agricultural material from a vehicle
WO2013191205A1 (ja) * 2012-06-22 2013-12-27 日立建機株式会社 建設機械
JP2017071915A (ja) * 2015-10-05 2017-04-13 株式会社小松製作所 施工管理システム及び施工管理方法

Also Published As

Publication number Publication date
WO2019049527A1 (ja) 2019-03-14
JP2019049461A (ja) 2019-03-28
JP7135191B2 (ja) 2022-09-12
JP7092476B2 (ja) 2022-06-28

Similar Documents

Publication Publication Date Title
JP7104050B2 (ja) 作業機械の計測システム、作業機械、及び作業機械の計測方法
CN108700402B (zh) 位置测量系统、作业机械及位置测量方法
JP6898816B2 (ja) 表示システム、表示方法、及び表示装置
JP6777375B2 (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械
US9251587B2 (en) Motion estimation utilizing range detection-enhanced visual odometry
JP5227139B2 (ja) 建設機械
CN109716058B (zh) 测量系统、作业机械及测量方法
JP6927821B2 (ja) 表示システム、及び表示装置
AU2015238768B2 (en) Motion estimation in real-time visual odometry system
WO2018062523A1 (ja) 作業機械の検出処理装置及び作業機械の検出処理方法
JP7135191B2 (ja) 作業機械の計測システム、作業機械、及び作業機械の計測方法
JP6895350B2 (ja) 作業機械の計測システム及び作業機械
JP2022164713A (ja) 作業機械の画像表示システム及び作業機械の画像表示方法
KR20230171035A (ko) 작업 기계의 제어 시스템, 작업 기계, 및 작업 기계의 제어 방법
KR20240009502A (ko) 작업 기계의 제어 시스템, 작업 기계, 및 작업 기계의 제어 방법
JP2020197045A (ja) 表示システムおよび表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210929

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220831

R150 Certificate of patent or registration of utility model

Ref document number: 7135191

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150