JP2018128397A - 位置計測システム、作業機械、及び位置計測方法 - Google Patents

位置計測システム、作業機械、及び位置計測方法 Download PDF

Info

Publication number
JP2018128397A
JP2018128397A JP2017022570A JP2017022570A JP2018128397A JP 2018128397 A JP2018128397 A JP 2018128397A JP 2017022570 A JP2017022570 A JP 2017022570A JP 2017022570 A JP2017022570 A JP 2017022570A JP 2018128397 A JP2018128397 A JP 2018128397A
Authority
JP
Japan
Prior art keywords
camera
image data
stereo
data
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017022570A
Other languages
English (en)
Other versions
JP6925816B2 (ja
Inventor
大樹 菅原
Daiki Sugawara
大樹 菅原
博義 山口
Hiroyoshi Yamaguchi
博義 山口
彰吾 厚見
Shogo Atsumi
彰吾 厚見
保雄 金光
Yasuo Kanemitsu
保雄 金光
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2017022570A priority Critical patent/JP6925816B2/ja
Priority to CN201880000776.XA priority patent/CN108700402B/zh
Priority to DE112018000007.9T priority patent/DE112018000007T5/de
Priority to PCT/JP2018/004257 priority patent/WO2018147340A1/ja
Priority to KR1020187018968A priority patent/KR102076631B1/ko
Priority to US16/069,560 priority patent/US11120577B2/en
Publication of JP2018128397A publication Critical patent/JP2018128397A/ja
Application granted granted Critical
Publication of JP6925816B2 publication Critical patent/JP6925816B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • G01C11/08Interpretation of pictures by comparison of two or more pictures of the same area the pictures not being supported in the same relative position as when they were taken
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/10Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument
    • G01C3/14Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument with binocular observation at a single point, e.g. stereoscopic type
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Structural Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Civil Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Operation Control Of Excavators (AREA)
  • Component Parts Of Construction Machinery (AREA)

Abstract

【課題】再較正処理を円滑に実施でき、作業効率の低下を抑制できることを目的とする。【解決手段】位置計測システムは、作業機械に設けられた第1ステレオカメラの第1カメラで撮影された第1画像データ及び第1ステレオカメラの第2カメラで撮影された第2画像データを取得する画像データ取得部と、第1画像データと、第2画像データと、第1カメラ及び第2カメラに関するパラメータとに基づいて、ステレオ計測を実施するステレオ計測部と、パラメータの少なくとも一部を変更して、ステレオ計測された第1視差画像データのステレオ率を調整する第1調整部と、パラメータの少なくとも一部を変更して、第1視差画像データから求められる第1の3次元データのスケールを調整する第2調整部と、を備える。【選択図】図4

Description

本発明は、位置計測システム、作業機械、及び位置計測方法に関する。
作業機械に係る技術分野において、特許文献1に開示されているような、ステレオカメラを有する油圧ショベルが知られている。
特開2012−233353号公報
ステレオカメラは、第1カメラ及び第2カメラを有し、三角測量の原理に基づいて3次元計測する。ステレオカメラにおいては、第1カメラと第2カメラとの相対位置を調整する較正処理が実施される。ステレオカメラの較正処理は、第1カメラ及び第2カメラでキャリブレーションターゲットを撮影する処理を含む。ステレオカメラの較正処理後、第1カメラと第2カメラとの相対位置が変動してしまった場合、ステレオカメラを再較正処理する必要が生じる。再較正処理の度にキャリブレーションターゲットを撮影しなければならない場合、再較正処理の作業が煩雑となり、作業機械の作業効率が低下する。
本発明の態様は、再較正処理を円滑に実施して、作業効率の低下を抑制することを目的とする。
本発明の態様に従えば、作業機械に設けられた第1ステレオカメラの第1カメラで撮影された第1画像データ及び前記第1ステレオカメラの第2カメラで撮影された第2画像データを取得する画像データ取得部と、前記第1画像データと、前記第2画像データと、前記第1カメラ及び前記第2カメラに関するパラメータとに基づいて、ステレオ計測を実施するステレオ計測部と、前記パラメータの少なくとも一部を変更して、ステレオ計測された第1視差画像データのステレオ率を調整する第1調整部と、前記パラメータの少なくとも一部を変更して、前記第1視差画像データから求められる第1の3次元データのスケールを調整する第2調整部と、を備える位置計測システムが提供される。
本発明の態様によれば、再較正処理を円滑に実施でき、作業効率の低下を抑制できる。
図1は、第1実施形態に係る作業機械の一例を示す斜視図である。 図2は、第1実施形態に係るステレオカメラの一例を示す斜視図である。 図3は、第1実施形態に係る検出システムの一例を模式的に示す図である。 図4は、第1実施形態に係る位置計測システムの一例を示す機能ブロック図である。 図5は、第1実施形態に係るステレオ計測方法の一例を説明するための模式図である。 図6は、第1実施形態に係るステレオカメラの一例を模式的に示す図である。 図7は、第1実施形態に係る第1カメラによって撮影された第1画像データ及び第2カメラによって撮影された第2画像データの一例を模式的に示す図である。 図8は、第1実施形態に係る第1カメラによって撮影された第1画像データ及び第2カメラによって撮影された第2画像データの一例を模式的に示す図である。 図9は、第1実施形態に係る第1カメラと第2カメラとの相対位置を説明するための模式図である。 図10は、第1実施形態に係る探索失敗したときの視差画像データの一例を模式的に示す図である。 図11は、第1実施形態に係る第1調整部によるステレオ率の調整処理の一例を説明するための模式図である。 図12は、第1実施形態に係る第1調整部によるステレオ率の調整方法の一例を説明するための模式図である。 図13は、第1実施形態に係る探索成功したときの視差画像データの一例を模式的に示す図である。 図14は、第1実施形態に係る第2調整部によるスケールの調整処理の一例を説明するための模式図である。 図15は、第1実施形態に係る第2調整部によるスケールの調整方法の一例を説明するための模式図である。 図16は、第1実施形態に係る位置計測方法の一例を示すフローチャートである。 図17は、第1実施形態に係る撮影対象の一例を模式的に示す図である。 図18は、第1実施形態に係る第1ステレオカメラで取得された第1画像データ及び第2画像データに基づいて生成された視差画像データの一例を模式的に示す図である。 図19は、第1実施形態に係る第1視差画像データ及び第2視差画像データの一例を示す図である。 図20は、第2実施形態に係る位置計測方法の一例を説明するための模式図である。 図21は、第3実施形態に係る位置計測方法の一例を説明するための模式図である。 図22は、第3実施形態に係る第2調整部によるスケールの調整方法の一例を説明するための模式図である。 図23は、第5実施形態に係る位置計測システムの一例を模式的に示す図である。 図24は、第6実施形態に係る位置計測方法の一例を説明するための模式図である。
以下、本発明に係る実施形態について図面を参照しながら説明するが、本発明はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
以下の説明においては、3次元のグローバル座標系(Xg,Yg,Zg)、3次元の車体座標系(Xm,Ym,Zm)、及び3次元のカメラ座標系(Xs,Ys,Zs)を規定して、各部の位置関係について説明する。
グローバル座標系は、地球に固定された原点を基準とする座標系である。グローバル座標系は、GNSS(Global Navigation Satellite System)によって規定される座標系である。GNSSとは、全地球航法衛星システムをいう。全地球航法衛星システムの一例として、GPS(Global Positioning System)が挙げられる。
グローバル座標系は、水平面のXg軸と、Xg軸と直交する水平面のYg軸と、Xg軸及びYg軸と直交するZg軸とによって規定される。Xg軸を中心とする回転又は傾斜方向をθXg方向とし、Yg軸を中心とする回転又は傾斜方向をθYg方向とし、Zg軸を中心とする回転又は傾斜方向をθZg方向とする。Zg軸方向は鉛直方向である。
車体座標系は、作業機械の車体に規定された原点を基準とする第1所定面のXm軸と、Xm軸と直交する第1所定面のYm軸と、Xm軸及びYm軸と直交するZm軸とによって規定される。Xm軸を中心とする回転又は傾斜方向をθXm方向とし、Ym軸を中心とする回転又は傾斜方向をθYm方向とし、Zm軸を中心とする回転又は傾斜方向をθZm方向とする。Xm軸方向は作業機械の前後方向であり、Ym軸方向は作業機械の車幅方向であり、Zm軸方向は作業機械の上下方向である。
カメラ座標系は、カメラに規定された原点を基準とする第2所定面のXs軸と、Xs軸と直交する第2所定面のYs軸と、Xs軸及びYs軸と直交するZs軸とによって規定される。Xs軸を中心とする回転又は傾斜方向をθXs方向とし、Ys軸を中心とする回転又は傾斜方向をθYs方向とし、Zs軸を中心とする回転又は傾斜方向をθZs方向とする。Xs軸方向はカメラの上下方向であり、Ys軸方向はカメラの幅方向であり、Zs軸方向はカメラの前後方向である。Zs軸方向はカメラの光学系の光軸と平行である。
第1実施形態.
[作業機械]
図1は、本実施形態に係る作業機械1の一例を示す斜視図である。本実施形態においては、作業機械1が油圧ショベルである例について説明する。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
図1に示すように、油圧ショベル1は、車体1Bと、作業機2とを有する。車体1Bは、旋回体3と、旋回体3を旋回可能に支持する走行体5とを有する。
旋回体3は、運転室4を有する。油圧ポンプ及び内燃機関が旋回体3に配置される。旋回体3は、旋回軸Zrを中心に旋回可能である。旋回軸Zrは、車体座標系のZm軸と平行である。本実施形態において、車体座標系の原点は、旋回体3のスイングサークルの中心に規定される。スイングサークルの中心は、旋回体3の旋回軸Zrに位置する。
走行体5は、履帯5A,5Bを有する。履帯5A,5Bが回転することにより、油圧ショベル1が走行する。本実施形態において、車体座標系のZm軸は、履帯5A,5Bの接地面と直交する。車体座標系の上方(+Zm方向)は、履帯5A,5Bの接地面から離れる方向であり、車体座標系の下方(−Zm方向)は、車体座標系の上方とは反対の方向である。
作業機2は、旋回体3に連結される。車体座標系において、作業機2の少なくとも一部は、旋回体3よりも前方に配置される。車体座標系の前方(+Xm方向)は、旋回体3を基準として作業機2が存在する方向であり、車体座標系の後方(−Xm方向)は、車体座標系の前方とは反対の方向である。
作業機2は、旋回体3に連結されるブーム6と、ブーム6に連結されるアーム7と、アーム7に連結されるバケット8と、ブーム6を駆動するブームシリンダ10と、アーム7を駆動するアームシリンダ11と、バケット8を駆動するバケットシリンダ12とを有する。ブームシリンダ10、アームシリンダ11、及びバケットシリンダ12はそれぞれ、油圧によって駆動される油圧シリンダである。
ブーム6は、ブームピン13を介して旋回体3に回転可能に連結される。アーム7は、アームピン14を介してブーム6の先端部に回転可能に連結される。バケット8は、バケットピン15を介してアーム7の先端部に回転可能に連結される。ブームピン13は、旋回体3に対するブーム6の回転軸AX1を含む。アームピン14は、ブーム6に対するアーム7の回転軸AX2を含む。バケットピン15は、アーム7に対するバケット8の回転軸AX3を含む。ブーム6の回転軸AX1、アーム7の回転軸AX2、及びバケット8の回転軸AX3は、車体座標系のYm軸と平行である。
[ステレオカメラ]
次に、本実施形態に係るステレオカメラ300について説明する。図2は、本実施形態に係るステレオカメラ300の一例を示す斜視図である。図2に示すように、油圧ショベル1は、ステレオカメラ300を有する。ステレオカメラ300とは、撮影対象SBを複数の異なる方向から同時に撮影することにより、撮影対象SBの奥行き方向のデータも取得可能なカメラをいう。
本実施形態において、撮影対象SBは、施工現場において施工される施工対象を含む。施工対象は、油圧ショベル1の作業機2で掘削される掘削対象を含む。なお、施工対象は、油圧ショベル1とは別の作業機械によって施工される施工対象でもよいし、作業者によって施工される施工対象でもよい。また、施工対象は、施工前の施工対象、施工中の施工対象、及び施工後の施工対象を含む概念である。
ステレオカメラ300は、旋回体3に設けられる。本実施形態において、ステレオカメラ300は、運転室4の内側に設けられる。ステレオカメラ300は、例えば運転室4の前方(+Xm方向)かつ上方(+Zm方向)に配置される。ステレオカメラ300は、油圧ショベル1の前方の撮影対象SBを撮影する。
ステレオカメラ300は、複数のカメラ30を有する。カメラ30は、光学系と、イメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。本実施形態において、カメラ30は、4つのカメラ30A,30B,30C,30Dを含む。なお、ステレオカメラ300は、4つのカメラ30を有さなくてもよく、少なくとも一対のカメラ30を有すればよい。
複数のカメラ30のうち2つのカメラ30の組合せによりステレオカメラ300が構成される。本実施形態において、ステレオカメラ300は、カメラ30A,30Bの組合せにより構成される第1ステレオカメラ301と、カメラ30C,30Dの組合せにより構成される第2ステレオカメラ302とを含む。
カメラ30A,30Cは、カメラ30B,30Dよりも+Ym側(作業機2側)に配置される。カメラ30Aとカメラ30Bとは、Ym軸方向に間隔をあけて配置される。カメラ30Cとカメラ30Dとは、Ym軸方向に間隔をあけて配置される。カメラ30A,30Bは、カメラ30C,30Dよりも+Zm側に配置される。Zm軸方向において、カメラ30Aとカメラ30Bとは、実質的に同一の位置に配置される。Zm軸方向において、カメラ30Cとカメラ30Dとは、実質的に同一の位置に配置される。
本実施形態において、カメラ30A,30Bは、上方(+Zm方向)を向く。カメラ30C,30Dは、下方(−Zm方向)を向く。また、カメラ30A,30Cは、前方(+Xm方向)を向く。カメラ30B,30Dは、前方よりも僅かに+Ym側(作業機2側)を向く。すなわち、カメラ30A,30Cは、旋回体3の正面を向き、カメラ30B,30Dは、カメラ30A,30C側を向く。なお、カメラ30B,30Dが旋回体3の正面を向き、カメラ30A,30Cがカメラ30B,30D側を向いてもよい。
カメラ30は、旋回体3の前方に存在する撮影対象SBをステレオ撮影する。一対のカメラ30によるステレオ画像データを用いて撮影対象SBが3次元計測され、撮影対象SBの3次元データDGが算出される。撮影対象SBの3次元データDGは、施工対象の表面である地表の3次元データDGである。撮影対象SBの3次元データDGは、グローバル座標系における撮影対象SBの3次元形状データを含む。
複数のカメラ30のそれぞれについてカメラ座標系が規定される。カメラ座標系は、カメラ30に固定された原点を基準とする座標系である。カメラ座標系のZs軸は、カメラ30の光学系の光軸と一致する。
以下の説明においては、第1ステレオカメラ301のうち一方のカメラ30Aを適宜、第1カメラ30A、と称し、他方のカメラ30Bを適宜、第2カメラ30B、と称する。また、第2ステレオカメラ302のうち一方のカメラ30Cを適宜、第3カメラ30C、と称し、他方のカメラ30Dを適宜、第4カメラ30D、と称する。
図2に示すように、運転席4S及び操作装置35が運転室4に配置される。操作装置35は、作業機2及び旋回体3の操作のために運転者に操作される。操作装置35は、右操作レバー35R及び左操作レバー35Lを含む。運転室4に搭乗した運転者は、操作装置35を操作して、作業機2の駆動及び旋回体3の旋回を実施する。
[検出システム]
次に、本実施形態に係る油圧ショベル1の検出システム20について説明する。図3は、本実施形態に係る検出システム20の一例を模式的に示す図である。図3に示すように、検出システム20は、作業機2の角度を検出する作業機角度検出器22と、旋回体3の位置を検出する位置検出器23と、旋回体3の姿勢を検出する姿勢検出器24と、旋回体3の方位を検出する方位検出器25とを有する。
位置検出器23は、GPS受信機を含む。位置検出器23は、旋回体3に設けられる。位置検出器23は、グローバル座標系で規定される旋回体3の位置である絶対位置を検出する。旋回体3の絶対位置は、Xg軸方向の座標データ、Yg軸方向の座標データ、及びZg軸方向の座標データを含む。
GPSアンテナ21が旋回体3に設けられる。GPSアンテナ21は、例えば車体座標系のYm軸方向に2つ配置される。GPSアンテナ21は、GPS衛星から電波を受信して、受信した電波に基づいて生成した信号を位置検出器23に出力する。位置検出器23は、GPSアンテナ21から供給された信号に基づいて、グローバル座標系で規定されるGPSアンテナ21の位置である絶対位置を検出する。
位置検出器23は、2つのGPSアンテナ21の絶対位置の少なくとも一方に基づいて演算処理を実施して、旋回体3の絶対位置を算出する。旋回体3の絶対位置は、一方のGPSアンテナ21の絶対位置でもよいし、一方のGPSアンテナ21の絶対位置と他方のGPSアンテナ21の絶対位置との間の位置でもよい。
姿勢検出器24は、慣性計測装置(IMU:Inertial Measurement Unit)を含む。姿勢検出器24は、旋回体3に設けられる。姿勢検出器24は、グローバル座標系で規定される水平面(XgYg平面)に対する旋回体3の傾斜角度を算出する。水平面に対する旋回体3の傾斜角度は、Ym軸を中心とする回転方向における旋回体3の傾斜角度と、Xm軸を中心とする回転方向における旋回体3の傾斜角度とを含む。
姿勢検出器24は、姿勢検出器24に作用する加速度及び角速度を検出する。姿勢検出器24に作用する加速度及び角速度が検出されることにより、旋回体3に作用する加速度及び角速度が検出される。旋回体3に作用する加速度及び角速度に基づいて、旋回体3の姿勢が導出される。
方位検出器25は、一方のGPSアンテナ21の絶対位置と他方のGPSアンテナ21の絶対位置とに基づいて、グローバル座標系で規定される基準方位に対する旋回体3の方位を算出する。基準方位は、例えば北である。方位検出器25は、一方のGPSアンテナ21の絶対位置と他方のGPSアンテナ21の絶対位置とを結ぶ直線を算出し、算出した直線と基準方位とがなす角度に基づいて、基準方位に対する旋回体3の方位を算出する。基準方位に対する旋回体3の方位は、基準方位と旋回体3の方位とがなす角度を示す方位角を含む。
作業機2は、ブームシリンダ10に配置されブームシリンダ10の駆動量を示すブームストロークを検出するブームストロークセンサ16と、アームシリンダ11に配置されアームシリンダ11の駆動量を示すアームストロークを検出するアームストロークセンサ17と、バケットシリンダ12に配置されバケットシリンダ12の駆動量を示すバケットストロークを検出するバケットストロークセンサ18とを有する。
作業機角度検出器22は、ブーム6の角度、アーム7の角度、及びバケット8の角度を検出する。作業機角度検出器22は、ブームストロークセンサ16で検出されたブームストロークに基づいて、車体座標系のZm軸に対するブーム6の傾斜角度を示すブーム角度を算出する。作業機角度検出器22は、アームストロークセンサ17で検出されたアームストロークに基づいて、ブーム6に対するアーム7の傾斜角度を示すアーム角度を算出する。作業機角度検出器22は、バケットストロークセンサ18で検出されたバケットストロークに基づいて、アーム7に対するバケット8の刃先8BTの傾斜角度を示すバケット角度を算出する。
なお、ブーム角度、アーム角度、及びバケット角度は、ストロークセンサを用いずに、例えば、作業機2に設けられた角度センサにより検出されてもよい。
[位置計測システム]
次に、本実施形態に係る位置計測システム50について説明する。図4は、本実施形態に係る位置計測システム50の一例を示す機能ブロック図である。本実施形態において、位置計測システム50は、油圧ショベル1に設けられる。
位置計測システム50は、第1ステレオカメラ301及び第2ステレオカメラ302を含むステレオカメラ300と、作業機角度検出器22と、位置検出器23と、姿勢検出器24と、方位検出器25と、表示装置26と、制御装置100とを備える。制御装置100は、油圧ショベル1の旋回体3に設けられる。
表示装置26は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。
制御装置100は、コンピュータシステムを含む。制御装置100は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置と、RAM(Random Access Memory)のような揮発性メモリ及びROM(Read Only Memory)のような不揮発性メモリを含む記憶装置と、入出力インターフェースとを有する。
制御装置100は、画像データ取得部101と、ステレオ計測部102と、第1調整部103と、第2調整部104と、位置データ算出部105と、作業機位置データ算出部106と、マップデータ作成部107と、表示制御部108と、記憶部109と、入出力部110とを有する。
演算処理装置は、画像データ取得部101、ステレオ計測部102、第1調整部103、第2調整部104、位置データ算出部105、作業機位置データ算出部106、マップデータ作成部107、及び表示制御部108それぞれの機能を有する。記憶装置は、記憶部109の機能を有する。入出力インターフェースは、入出力部110の機能を有する。
ステレオカメラ300、作業機角度検出器22、位置検出器23、姿勢検出器24、方位検出器25、及び表示装置26は、入出力部110と接続される。画像データ取得部101と、ステレオ計測部102と、第1調整部103と、第2調整部104と、位置データ算出部105と、作業機位置データ算出部106と、マップデータ作成部107と、表示制御部108と、記憶部109と、ステレオカメラ300と、作業機角度検出器22と、位置検出器23と、姿勢検出器24と、方位検出器25と、表示装置26とは、入出力部110を介してデータ通信可能である。
画像データ取得部101は、油圧ショベル1に設けられた第1カメラ30Aで撮影された撮影対象SBの第1画像データMR1、第2カメラ30Bで撮影された撮影対象SBの第2画像データML1、第3カメラ30Cで撮影された撮影対象の第3画像データMR2、及び第4カメラ30Dで撮影された撮影対象の第4画像データML2を取得する。すなわち、画像データ取得部101は、ステレオカメラ300の少なくとも一対のカメラ30で撮影されたステレオ画像データを取得する。
記憶部109は、第1ステレオカメラ301の第1カメラ30A及び第2カメラ30Bに関する複数のパラメータ、及び第2ステレオカメラ302の第3カメラ30C及び第4カメラ30Dに関する複数のパラメータを記憶する。パラメータは、所定の較正作業によって求めることができる。
パラメータは、第1ステレオカメラ301の第1カメラ30Aと第2カメラ30Bとの相対位置を規定する複数の外部パラメータ、及び第2ステレオカメラ302の第3カメラ30Cと第4カメラ30Dとの相対位置を規定する複数の外部パラメータを含む。
外部パラメータは、Xs軸方向、Ys軸方向、Zs軸方向、θXs軸方向、θYs軸方向、及びθZs軸方向の6つの方向に関するステレオカメラ300の一対のカメラ30の相対位置を示すパラメータを含む。
また、パラメータは、第1カメラ30A、第2カメラ30B、第3カメラ30C、及び第4カメラ30Dそれぞれの内部パラメータを含む。内部パラメータは、複数のカメラ30それぞれの固有データを規定する。内部パラメータは、例えば、カメラ30の光学系の焦点距離、及びカメラ30の光学系の光軸とイメージセンサの撮像面との交点とイメージセンサにおける画像中心との位置ずれ量を含む。
ステレオ計測部102は、画像データ取得部101で取得された第1画像データMR1と第2画像データML1とをステレオ方式で画像処理して、カメラ座標系における撮影対象SBの3次元データDGを算出する。また、ステレオ計測部102は、画像データ取得部101で取得された第3画像データMR2と第4画像データML2とをステレオ方式で画像処理して、カメラ座標系における撮影対象SBの3次元データDGを算出する。
また、ステレオ計測部102は、カメラ座標系における撮影対象SBの3次元データDGを座標変換して、車体座標系における撮影対象SBの3次元データDGを算出する。また、ステレオ計測部102は、車体座標系における撮影対象SBの3次元データDGを座標変換して、グローバル座標系における撮影対象SBの3次元データDGを算出する。
撮影対象SBの3次元データDGは、撮影対象SB内の複数の点における座標データを含む。ステレオ計測部102は、異なる2つのカメラ30で撮影された撮影対象SBの2つの画像データMR(MR1,MR2),ML(ML1,ML2)をステレオ方式で画像処理して視差画像データSGを生成して、演算処理によって3次元データDGを求める。
本実施形態において、ステレオ計測部102は、画像データ取得部101で取得された第1画像データMR1と、画像データ取得部101で取得された第2画像データML1と、記憶部109に記憶されているパラメータとに基づいて、ステレオ計測を実施する。また、ステレオ計測部102は、画像データ取得部101で取得された第3画像データMR2と、画像データ取得部101で取得された第4画像データML2と、記憶部109に記憶されているパラメータとに基づいて、ステレオ計測を実施する。
第1調整部103は、記憶部109に記憶されている複数のパラメータの少なくとも一部を変更して、ステレオ率を調整する。ステレオ率は、ステレオ計測される視差画像データSGの複数の画素のうちステレオ計測が成功した画素の割合を示す。本実施形態において、第1調整部103は、例えばステレオカメラ300の一方のカメラ30の位置がずれてステレオ率が低下してしまった場合、ステレオ率が向上するように、記憶部109に記憶されているパラメータを変更する。
第2調整部104は、記憶部109に記憶されている複数のパラメータの少なくとも一部を変更して、ステレオ計測部102で生成された3次元データDGのスケールを調整する。本実施形態において、第2調整部104は、基準スケールと3次元データDGのスケールとの差が小さくなるように、記憶部109に記憶されているパラメータを変更する。
位置データ算出部105は、旋回体3の位置データと、旋回体3の姿勢データと、旋回体3の方位データと、車体座標系におけるカメラ30の位置データとに基づいて、グローバル座標系におけるカメラ30の位置データを算出する。
位置データ算出部105は、位置検出器23から旋回体3の位置データを取得し、姿勢検出器24から旋回体3の姿勢データを取得し、方位検出器25から旋回体3の方位データを取得する。旋回体3の位置データは、グローバル座標系における旋回体3の絶対位置を示す。旋回体3の姿勢データは、グローバル座標系における旋回体3の姿勢を示す。旋回体3の方位データは、グローバル座標系における旋回体3の方位を示す。
記憶部109は、車体座標系におけるカメラ30の位置データを記憶する。車体座標系におけるカメラ30の位置データは、油圧ショベル1及びカメラ30の設計データ又は諸元データから導出される既知データであり、記憶部109に記憶される。位置データ算出部105は、旋回体3の位置データと、旋回体3の姿勢データと、旋回体3の方位データとに基づいて、グローバル座標系における車体座標系の原点の位置を算出する。位置データ算出部105は、旋回体3の位置データと、旋回体3の姿勢データと、旋回体3の方位データと、記憶部109に記憶されている車体座標系におけるカメラ30の位置データとに基づいて、グローバル座標系におけるカメラ30の位置データを算出する。
作業機位置データ算出部106は、作業機2の角度を示す作業機角度データを作業機角度検出器22から取得する。作業機角度データは、ブーム角度、アーム角度、及びバケット角度を含む。作業機位置データ算出部106は、作業機角度検出器22から取得した作業機角度データと、記憶部109に記憶されている作業機データとに基づいて、車体座標系におけるブーム6の位置データ、アーム7の位置データ、及びバケット8の位置データを算出する。ブーム6、アーム7、及びバケット8のそれぞれの位置データは、ブーム6の複数の部位、アーム7の複数の部位、及びバケット8の複数の部位のそれぞれの座標データを含む。
また、作業機位置データ算出部106は、旋回体3の位置データと、旋回体3の姿勢データと、旋回体3の方位データと、作業機角度データと、記憶部109に記憶されている作業機データとに基づいて、グローバル座標系におけるブーム6、アーム7、及びバケット8のそれぞれの位置データを算出する。
作業機データは、作業機2の設計データ又は諸元データを含む。作業機2の設計データは、作業機2の3次元CADデータを含む。作業機データは、作業機2の外形データ及び作業機2の寸法データの少なくとも一方を含む。作業機データは、ブーム長さ、アーム長さ、及びバケット長さを含む。ブーム長さは、回転軸AX1と回転軸AX2との距離である。アーム長さは、回転軸AX2と回転軸AX3との距離である。バケット長さは、回転軸AX3とバケット8の刃先8BTとの距離である。
マップデータ作成部107は、視差画像データSGに基づいて、3次元データDGを作成する。3次元データDGは、視差画像データSG、車体座標系等の3次元データ、及び後述する3次元マップデータ(エレベーションマップデータ)を含む。
表示制御部108は、画像データ取得部101で取得された第1画像データMR1、第2画像データML1、第3画像データMR2、及び第4画像データML2を表示装置26に表示させる。また、表示制御部108は、ステレオ計測部102で生成された視差画像データSGを表示装置26に表示させる。また、表示制御部108は、マップデータ作成部107で作成された3次元データDGを表示装置26に表示させる。
[ステレオ計測]
次に、ステレオ計測について説明する。図5は、本実施形態に係るステレオ計測方法の一例を説明するための模式図である。ステレオ計測は、画像データ取得部101で取得された画像データMR(MR1,MR2)と画像データML(ML1,ML2)とをステレオ方式で画像処理して、撮影対象の3次元データDGを算出する処理である。
以下の説明においては、ステレオカメラ300を構成する一方のカメラ30を適宜、第1カメラ30R(30A,30C)と称し、他方のカメラ30を適宜、第2カメラ30L(30B,30D)と称する。また、以下の説明においては、第1カメラ30R(30A,30C)で撮影された画像データMRを適宜、第1画像データMR(MR1,MR2)、と称し、第2カメラ30L(30B,30D)で撮影された画像データMLを適宜、第2画像データ(ML1,ML2)、と称する。第1ステレオカメラ301の第1カメラ30A及び第2カメラ30Bによって3次元データDGが算出される方法と、第2ステレオカメラ302の第3カメラ30C及び第4カメラ30Dによって3次元データDGが算出される方法とは、同様である。
なお、本実施形態においては、右側のカメラ30が第1カメラ30Rであり、左側のカメラ30が第2カメラ30Lであるが、左側のカメラ30が第1カメラ30Rであり、右側のカメラ30が第2カメラ30Lでもよい。
第1カメラ30Rの位置データ及び第2カメラ30Lの位置データが記憶部109に記憶されている。第1カメラ30Rの位置データは、第1カメラ30Rの光学中心ORの位置及び第1カメラ30Rの光学系の光軸の向きを含む。第2カメラ30Lの位置データは、第2カメラ30Lの光学中心OLの位置及び第2カメラ30Lの光学系の光軸の向きを含む。
また、第1カメラ30Rと第2カメラ30Lとの相対位置データが記憶部109に記憶されている。第1カメラ30Rと第2カメラ30Lとの相対位置データは、第1カメラ30Rの光学中心ORと第2カメラ30Lの光学中心OLとを結ぶベースラインBLの寸法を含む。
図5において、3次元空間に存在する撮影対象SBの計測点Pの像が、第1カメラ30Rの投影面及び第2カメラ30Lの投影面のそれぞれに投影される。また、第1カメラ30Rの投影面に計測点Pの像及び第2カメラ30Lの投影面の点ELの像が投影され、エピポーラ線が規定される。同様に、第2カメラ30Lの投影面に計測点Pの像及び第1カメラ30Rの投影面の点ERの像が投影され、エピポーラ線が規定される。また、計測点Pと点ERと点ELとによりエピポーラ平面が規定される。
第1カメラ30Rの投影面は、第1カメラ30Rのイメージセンサの撮像面を含む。第2カメラ30Lの投影面は、第2カメラ30Lのイメージセンサの撮像面を含む。
画像データ取得部101は、第1カメラ30Rで撮影された第1画像データMRと、第2カメラ30Lで撮影された第2画像データMLとを取得する。第1カメラ30Rで撮影された第1画像データMR及び第2カメラ30Bで撮影された第2画像データMLはそれぞれ、投影面に投影された2次元画像データである。
画像データ取得部101で取得された第1画像データMR及び第2画像データMLは、ステレオ計測部102に出力される。ステレオ計測部102は、カメラ座標系において規定される第1画像データMRにおける計測点Pの像の座標データと、第2画像データMLにおける計測点Pの像の座標データと、エピポーラ平面とに基づいて、カメラ座標系における計測点Pの3次元座標データを算出する。
ステレオ計測部102は、第1画像データMR及び第2画像データMLに基づいて、撮影対象SBの複数の計測点Pのそれぞれの3次元座標データを算出する。これにより、撮影対象SBの3次元データDGが算出される。
本実施形態において、ステレオ計測部102は、ステレオ計測によりカメラ座標系における複数の計測点Pの3次元座標データを算出した後、座標変換することによって、車体座標系における複数の計測点Pの3次元座標データ、及びグローバル座標系における複数の計測点Pの3次元座標データを算出する。
[計測点までの距離の算出]
ステレオ計測部102は、第1画像データMR及び第2画像データMLをステレオ方式で画像処理して、撮影対象SBの3次元データDGを算出する。ステレオ計測部102は、三角測量の原理に基づいて、ステレオカメラ300のベースラインBLから撮影対象SBの計測点Pまでの距離ZPを算出する。
図6は、本実施形態に係るステレオカメラ300の一例を模式的に示す図である。図6に示すように、例えばステレオカメラ300の第1カメラ30Rと第2カメラ30Lとは、カメラ座標系のYs軸と平行な方向に配置することができる。その場合、第1カメラ30Rのカメラ座標系のYs軸と、第2カメラ30Lのカメラ座標系のYs軸とは、同一直線上に配置され、同一方向を向く。
第1カメラ30Rは、イメージセンサ31Rを有する。カメラ座標系における第1カメラ30Rの原点は、光学中心ORに規定される。第1カメラ30Rの光学系の光軸は、Zs軸と平行であり、光学中心ORを通る。撮影対象SBを含む第1画像データMRが第1カメラ30Rによって取得される。
第2カメラ30Lは、イメージセンサ31Lを有する。カメラ座標系における第2カメラ30Lの原点は、光学中心OLに規定される。第2カメラ30Lの光学系の光軸は、Zs軸と平行であり、光学中心OLを通る。撮影対象SBを含む第2画像データMLが第2カメラ30Lによって取得される。
図6において、第2カメラ30Lの光学中心OLを原点とする3次元座標系(X,Y,Z)が設定される。X軸とXs軸とは実質的に平行である。Y軸とYs軸とは実質的に平行である。Z軸とZs軸とは実質的に平行である。
図6において、イメージセンサ31Rの撮像面に規定される第1カメラ30Rの投影面と、イメージセンサ31Lの撮像面に規定される第2カメラ30Lの投影面とは、同一平面内に配置される。また、Z軸方向において、第1カメラ30Rの投影面と、第2カメラ30Lの投影面とは、同一位置に配置される。
第1画像データMRは、第1カメラ30Rの投影面に形成される撮影対象SBの投影画像を含む。第2画像データMLは、第2カメラ30Lの投影面に形成される撮影対象SBの投影画像を含む。
ベースラインBLの寸法はbである。第1カメラ30Rによって撮影された第1画像データMRのうち計測点Pを含む画素PXrのY軸方向の位置はYRである。第2カメラ30Bによって撮影された第2画像データMLのうち計測点Pを含む画素PXlのY軸方向の位置はYLである。第2カメラ30Lの投影面とベースラインBLとのZ軸方向の距離はfである。なお、距離fは第2カメラ30Lの光学系の焦点距離と等しい。
第1画像データMRにおける計測点Pの投影点と第2画像データMLにおける計測点Pの投影点との距離を示す視差は、dである。視差dは、計測点Pを含む画素PXrと計測点Pを含む画素PXlとのずれ量(単位:pixel)でもよいし、計測点Pを含む画素PXrと計測点Pを含む画素PXlと画素PXrとの距離でもよい。
ステレオカメラ300のベースラインBLから撮影対象SBの計測点Pまでの距離ZPは、(1)式に基づいて算出される。
[視差画像データ]
図7及び図8は、本実施形態に係る第1カメラ30Rによって撮影された第1画像データMR及び第2カメラ30Lによって撮影された第2画像データMLの一例を模式的に示す図である。
図7及び図8に示すように、第1画像データMRにおける計測点Pの投影点と第2画像データMLにおける計測点Pの投影点との距離を示す視差dに起因して、第1画像データMRにおける計測点Pの位置と、第2画像データMLにおける計測点Pの位置とは、Ys軸方向において異なる。図7に示すように、視差dとは、第1画像データMRにおける計測点Pの投影点(画素)と第2画像データMLにおける計測点Pの投影点(画素)とのYs軸方向のずれ量をいう。
ステレオ計測部102は、第1画像データMRと第2画像データMLとをステレオ方式で画像処理して、撮影対象SBの視差画像データSGを生成する。具体的には、ステレオ計測部102は、第1画像データMR及び第2画像データMLについて、ステレオ対応点探索を実施する。ステレオ対応点探索とは、第1画像データMR及び第2画像データMLのそれぞれにおいて、同一の計測点Pが投影された画素PXr及び画素PXlを探索する処理をいう。
ステレオ計測部102は、第1画像データMRを基準画像データとし、第2画像データMLを参照画像データとする。図8に示すように、ステレオ計測部102は、計測点Pの投影点を含む第1画像データMRの画素PXrに対して、同一の計測点Pの投影点を含む画素PXlを第2画像データMLの中から探索する。本実施形態において、ステレオ計測部102は、第2画像データMLのエピポーラ線上に存在する複数の画素PXlの中から、計測点Pの投影点を含む画素PMlを探索する。
なお、ステレオ対応点探索に用いる画素PXr,PXlは、イメージセンサの1つの画素でもよいし、複数の画素の集合体でもよい。
以下の説明においては、第1画像データMRのうち計測点Pの投影点を含む画素PXrを適宜、注目画素PXr、と称し、第2画像データMLのうち同一の計測点Pの投影点を含む画素PXlを適宜、対応画素PXl、と称する。
また、以下の説明においては、注目画素PXrについて対応画素PXlを探索した結果、対応画素PXlの探索に成功した状態を適宜、探索成功、と称する。また、注目画素PXrについて対応画素PXlを探索した結果、対応画素PXlの探索に失敗した状態を適宜、探索失敗、と称する。
探索成功したとき、ステレオ計測部102は、注目画素PXrと対応画素PXlとの距離に基づいて、視差d(例えば、ずれている画素の数)を求めることができる。(1)式において、ベースラインBLの寸法b及び焦点距離fは、カメラ30の設計データ又は諸元データから導出される既知データであり、記憶部109に記憶されている。したがって、探索成功し、視差dが算出されたとき、ステレオ計測部102は、記憶部109に記憶されている寸法b及び焦点距離fと、算出した視差dとに基づいて、計測点Pまでの距離ZPを算出することができる。
一方、探索失敗したとき、ステレオ計測部102は、視差dを算出することができず、計測点Pまでの距離ZPを算出することができない。
探索成功したとき、ステレオ計測部102は、探索成功した注目画素PXr及び対応画素PXlに基づいて、画素PXsを生成する。一方、探索失敗したとき、ステレオ計測部102は、探索失敗した注目画素PXr及び対応画素PXlに基づいて、画素PXsを生成する。
ステレオ計測部102は、第1画像データMRの複数の画素PXrのそれぞれについて、ステレオ対応点探索を実施する。これにより、複数の画素PXsが生成され、複数の画素PXsが2次元配列された視差画像データSGが生成される。視差画像データSGとは、ステレオ計測部102によって算出された、各画素PXsにおける視差の大きさを可視化した画像データであり、例えば図8のように視差の大きさに応じて各画素をグレーの濃淡(視差が大きい場合は白く、視差が小さい場合は黒く表示)により表現したものである。視差画像は、濃淡以外の表現でもよく、例えば視差の大きさに応じて変化する色彩により表現されてもよい。
ステレオ計測部102は、探索成功した注目画素PXr及び対応画素PXlに基づいて生成された画素PXsに探索成功したことを示す成功データを付与し、探索失敗した注目画素PXr及び対応画素PXlに基づいて生成された画素PXsに探索失敗したことを示す失敗データを付与してもよい。画素PXsに失敗データが付与されることにより、画素PXsは例えば黒く表示される。
以下の説明においては、探索成功した注目画素PXr及び対応画素PXlに基づいて生成された画素PXsを単に、探索成功した画素PXs、と称し、探索失敗した注目画素PXr及び対応画素PXlに基づいて生成された画素PXsを単に、探索失敗した画素PXs、と称する。
ステレオ計測部102は、探索成功した複数の画素PXsのそれぞれを視差dに基づいて表現して、視差画像を生成することができる。また、ステレオ計測部102は、探索成功した複数の画素PXsのそれぞれを距離ZPに基づいて表現して、距離画像を生成することができる。距離画像とは、画像データにおける各画素PXsのそれぞれに、何らかの形でカメラ30から対象点Pまでの距離ZPを格納した画像データであってもよいし、各画素PXsのカメラ30から対象点Pまでの距離ZPを可視的に表現した画像でもよい。視差画像データは、距離画像データを含む。
[ステレオ率]
次に、ステレオ率について説明する。ステレオ率とは、例えばステレオ計測部102で生成された視差画像データSGの複数の画素PXsのうちステレオ計測が成功した画素PXsの割合をいう。ステレオ計測が成功した画素PXsとは、注目画素PXrについてステレオ対応点検索した結果、対応画素PXlの探索に成功し、その注目画素PXrと探索成功した対応画素PXlとに基づいて生成された画素PXsをいう。
ステレオ率STRは、以下の(2)式で示される。
(2)式において、PXAは、視差画像データSGの画素PXsの総数である。PXSは、視差画像データSGのうちステレオ計測が成功した画素PXsの総数である。
なお、視差画像データSGの全ての画素PXsから模様が存在しない領域に相当する画素PXsを除いた画素PXsを(2)式の分母としてもよい。
なお、ステレオ率STRは、視差画像データSGのうちステレオ計測が成功した画素PXsの総数でもよい。
[パラメータ]
次に、記憶部109に記憶される第1カメラ30Rと第2カメラ30Lとの相対位置を規定するパラメータについて説明する。以下の説明においては、第1カメラ30Rが基準カメラであり、第2カメラ30Lが参照カメラであることとする。
図9は、本実施形態に係るステレオカメラ300の第1カメラ30Rと第2カメラ30Lとの相対位置を説明するための模式図である。図9に示すように、第1カメラ30Rと第2カメラ30Lとは、例えばYs軸と平行な方向に配置されてもよい。
本実施形態においては、第1カメラ30R及び第2カメラ30Lに関する複数のパラメータが予め求められ、記憶部109に記憶されている。本実施形態において、記憶部109は、第1カメラ30Rと第2カメラ30Lとの相対位置を規定する複数の外部パラメータを記憶する。
外部パラメータは、第1カメラ30Rに対する第2カメラ30Lの回転方向のパラメータα,β,γと、第1カメラ30Rに対する第2カメラ30Lの並進方向のパラメータTx,Ty,Tzとを含む。
パラメータαは、第1カメラ30Rに対するθXs方向の第2カメラ30Lの光学系の光軸の相対角度を示す。パラメータβは、第1カメラ30Rに対するθYs方向の第2カメラ30Lの光学系の光軸の相対角度を示す。パラメータγは、第1カメラ30Rに対するθZs方向の第2カメラ30Lの光学系の光軸の相対角度を示す。
以下の説明においては、パラメータαを適宜、ヨー角α、と称し、パラメータβを適宜、ピッチ角β、と称し、パラメータγを適宜、ロール角γ、と称する。
パラメータTxは、第1カメラ30Rに対するXs軸方向の第2カメラ30Lの相対位置を示す。パラメータTyは、第1カメラ30Rに対するYs軸方向の第2カメラ30Lの相対位置を示す。パラメータTzは、第1カメラ30Rに対するZs軸方向の第2カメラ30Lの相対位置を示す。
以下の説明においては、パラメータTxを適宜、シフト量Tx、と称し、パラメータTyを適宜、シフト量Ty、と称し、パラメータTzを適宜、シフト量Tz、と称する。
本実施形態において、記憶部109は、外部パラメータとして、ヨー角α、ピッチ角β、ロール角γ、シフト量Tx、シフト量Ty、及びシフト量Tzを記憶する。
第1カメラ30Rと第2カメラ30Lとの相対位置は、上述の複数の外部パラメータを含む下記の(3)式で規定される。
(3)式において、(x,y,z)は、第1カメラ30Rのカメラ座標系における第1カメラ30Rの座標を示す。(x,y,z)は、第2カメラ30Lのカメラ座標系における第2カメラ30Lの座標を示す。
(3)式は、ヨー角α、ピッチ角β、及びロール角γのそれぞれによって規定される3つの回転行列と、シフト量Tx、シフト量Ty、及びシフト量Tzによって規定される平行移動ベクトルとを含む。(3)式は、第2カメラ30Lのカメラ座標系における第2カメラ30Lの位置を、第1カメラ30Rのカメラ座標系における位置に変換する変換式である。
本実施形態においては、(3)式に基づいて、第1カメラ30Rと第2カメラ30Lとの相対位置が規定される。第1調整部103及び第2調整部104は、ヨー角α、ピッチ角β、ロール角γ、シフト量Tx、シフト量Ty、及びシフト量Tzの少なくとも一つを調整することにより、第1カメラ30Rのカメラ座標系において、第1カメラ30Rと第2カメラ30Lとの相対位置を調整することができる。
油圧ショベル1の工場出荷時においては、ステレオ率がステレオ閾値以上になるように、第1カメラ30Rに対する第2カメラ30Lのヨー角α、ピッチ角β、ロール角γ、シフト量Tx、シフト量Ty、及びシフト量Tzが調整されている。ステレオ閾値は、ステレオ率について規定された閾値である。以下の説明においては、ステレオ率がステレオ閾値以上になるように第1カメラ30Rと第2カメラ30Lとの相対位置を調整することを適宜、外部較正処理、と称する。
外部較正処理において導出されたヨー角α、ピッチ角β、ロール角γ、シフト量Tx、シフト量Ty、及びシフト量Tzを含む変換式は、油圧ショベル1の工場出荷時において記憶部109に記憶される。
ステレオ計測部102は、記憶部109に記憶されているパラメータを用いて、第1画像データMRと第2画像データMLとをステレオ方式で画像処理して、視差画像データSGを生成する。
外部較正処理が実施されたステレオカメラ300が搭載された油圧ショベル1の工場出荷後、例えば振動、衝撃、又は熱のような外的要因により、カメラ30が物理的に動いてしまう可能性がある。外的要因により、例えば第1カメラ30R及び第2カメラ30Lの一方のカメラ30に対して他方のカメラ30のXs軸方向、Ys軸方向、Zs軸方向、θXs方向、θYs方向、及びθZs方向の少なくとも1つの方向の位置がずれてしまう可能性がある。
第1カメラ30Rと第2カメラ30Lとの相対位置が物理的に変動した場合、工場出荷時において記憶部109に記憶されている外部パラメータによって規定される第1カメラ30Rと第2カメラ30Lとの相対位置と、カメラ30が動いてしまった後の実際の第1カメラ30Rと第2カメラ30Lとの相対位置とに差異が生じる。その場合、第1画像データMRと第2画像データMLとをステレオ計測により対応点を探索しても、探索失敗する可能性が高い。その結果、ステレオ率が低下し、撮影対象SBのステレオ計測を正確に実施することが困難となる。
本実施形態において、第1調整部103は、第1カメラ30R及び第2カメラ30Lの少なくとも一方のカメラ30の位置がずれてしまいステレオ率が低下した場合において、ステレオ率が再度向上するように、(3)式に含まれる複数の外部パラメータの少なくとも一部を変更する。また、第2調整部104は、第1カメラ30R及び第2カメラ30Lの少なくとも一方のカメラ30の位置がずれてしまいステレオカメラ300による計測結果の縮尺(カメラ30から計測点Pまでの距離又はスケール)が不正確になった場合において、(3)式に含まれる複数の外部パラメータの少なくとも一部を変更して、3次元データDGのスケールを調整する。
すなわち、本実施形態において、制御装置100は、カメラ30の位置が物理的に動いてしまった場合、記憶部109に記憶されている外部パラメータを変更して、第1カメラ30Rと第2カメラ30Lとの相対位置の変動を演算処理によって自動修正する。
[ステレオ率の調整]
次に、本実施形態に係るステレオ率の調整について説明する。第1調整部103は、外部パラメータを調整して、ステレオ率の調整処理を実施する。
表示制御部108は、ステレオ計測部102で生成された視差画像データSGを表示装置26に表示させる。ステレオ計測部102は、グレー表示させるための成功データを探索成功した画素PXsに付与し、黒表示させるための失敗データを探索失敗した画素PXsに付与する。
図10は、本実施形態に係る探索失敗したときの視差画像データSGの一例を模式的に示す図である。ステレオカメラ300の第1カメラ30Rと第2カメラ30Lとの相対位置が物理的に変動した場合、第1画像データMRと第2画像データMLとをステレオ対応点探索しても、探索失敗する可能性が高い。その結果、図10に示すように、ステレオ率が低下し、視差画像データSGの大部分の画素PXsが黒表示される。
図11は、本実施形態に係る第1調整部103によるステレオ率の調整処理の一例を説明するための模式図である。ステレオ率が低下したとき、第1調整部103は、記憶部109に記憶されている複数の外部パラメータのうち、例えばピッチ角βを変更する。図11に示すように、外部パラメータのピッチ角βが調整されることにより、第2カメラ30Lは、疑似的にθYs方向に回転する。
上述のように、ステレオ対応点探索においては、ステレオ計測部102は、第2画像データMLのエピポーラ線上に存在する複数の画素PXlの中から、計測点Pの投影点を含む画素PXlを探索する。本実施形態において、第1カメラ30Rと第2カメラ30Lとは、Ys軸方向に配置され、エピポーラ線は、Ys軸方向に延在する。第1カメラ30Rと第2カメラ30LとがYs軸方向に配置された場合、ステレオ処理における探索の成否は、ピッチ角βのずれによって大きく影響される。そのため、第1調整部103は、外部パラメータのピッチ角βを変更することにより、計測点Pの投影点を含む対応画素PXlが存在する可能性が高いエピポーラ線上の複数の画素PXlを探索することができる。
第1調整部103は、視差画像データSGのステレオ率が向上するように、ピッチ角βを調整する。本実施形態において、記憶部109は、基準ピッチ角βを記憶する。基準ピッチ角βは、工場出荷時の外部較正処理において、ステレオ率が最大又はステレオ閾値以上になるように調整されたピッチ角βである。第1調整部103は、基準ピッチ角βを含む所定範囲において第2カメラ30Lのピッチ角βを変更して、例えばステレオ率の最大値を算出する。
図12は、本実施形態に係る第1調整部103によるステレオ率の調整方法の一例を説明するための模式図である。図12に示すグラフにおいて、横軸は、外部パラメータのピッチ角βを示し、縦軸は、ステレオ率を示す。
第1調整部103は、基準ピッチ角βを基準として、プラス方向及びマイナス方向の所定範囲において、ピッチ角βを所定角度ずつ変更する。ステレオ計測部102は、ピッチ角βを変更する毎に、ステレオ率を算出する。図12に示すように、ステレオ率は、ピッチ角βの変更に応じて変化する。第1調整部103は、例えば所定範囲においてステレオ率の最大値が得られたときのピッチ角βを正解ピッチ角βrに決定する。
なお、正解ピッチ角βrを決定する方法は、上述の方法でなくてもよい。ステレオ率がステレオ閾値以上であるピッチ角βであれば、任意のピッチ角βを正解ピッチ角βrとしてもよい。
図13は、本実施形態に係る探索成功したときの視差画像データSGの一例を模式的に示す図である。第1調整部103は、記憶部109に記憶されているピッチ角β(基準ピッチ角β)を正解ピッチ角βrに変更する。すなわち、(3)式の回転行列のピッチ角βが、基準ピッチ角βから正解ピッチ角βrに変更される。ステレオ計測部102は、第1画像データMRと、第2画像データMLと、正解ピッチ角βrを含む外部パラメータとに基づいて、ステレオ計測を実施して、視差画像データSGを生成する。ピッチ角βが基準ピッチ角βから正解ピッチ角βrに変更されることにより、記憶部109に記憶されている外部パラメータは、相対位置が物理的に変動した後の第1カメラ30R及び第2カメラ30Lに最適化されている。そのため、ステレオカメラ300の第1カメラ30Rと第2カメラ30Lとの相対位置が物理的に変動した後において、ステレオ計測部102が第1画像データMRと第2画像データMLとを用いてステレオ対応点探索したとき、探索成功する可能性が高くなる。これにより、図13に示すように、ステレオ率は向上し、視差画像データSGの大部分の画素PXsがグレー表示される。
[スケールの調整]
次に、本実施形態に係るステレオ率の調整について説明する。第2調整部104は、外部パラメータを調整して、3次元データDGのスケールの調整処理を実施する。
ステレオ率の調整は、外部パラメータを変更することにより、物理的に位置が変動したカメラ30の位置を疑似的に調整することによってステレオ率を向上させる処理である。しかし、ステレオ率を向上させただけでは、実際の現況地形とステレオカメラ300によって計測された3次元データDGとのスケールの差が大きく、十分な計測精度が得られない。そのため、本実施形態においては、上述の方法によりステレオ率が向上された3次元データDGのスケールの調整が実施される。スケールの調整は、3次元データDGがステレオカメラ300からどれくらいの距離だけ離れたところに存在するのかを把握し、実際の現況地形と整合するように調整する処理である。スケールの調整により、実際の現況地形と整合する、精度の高い又は誤差の小さい3次元データDGが得られる。
図14は、本実施形態に係る第2調整部104によるスケールの調整処理の一例を説明するための模式図である。3次元データDGのスケールを調整するとき、第2調整部104は、記憶部109に記憶されている複数の外部パラメータのうち、例えばヨー角αを変更する。図14に示すように、外部パラメータのヨー角αが調整されることにより、第2カメラ30Lは、疑似的にθXs方向に回転する。
本実施形態において、第1カメラ30Rと第2カメラ30LとがYs軸方向に配置され、三角測量の原理に基づいて計測点Pまでの距離ZPが算出される。そのため、第2調整部104は、第2カメラ30Lの外部パラメータのヨー角αを変更することにより、視差画像データSGにおける計測点Pが投影される画素の視差を調整することができる。視差画像データSGにおける視差が調整されることによって、間接的に3次元データDGのスケールが調整される。
第2調整部104は、後述する基準スケールと視差画像データSGにより求められる3次元データDGのスケールとの差が小さくなるように、ステレオカメラ300について規定されている外部パラメータのヨー角αを変更する。基準スケールとは、視差画像データSGから求められる3次元データDGが実際の現況地形と整合するように、カメラ30から計測点Pまでの縮尺(距離又はスケール)を調整するときに用いる基準となるスケールである。第2調整部104は、基準スケールと3次元データDGのスケールとの差が最小又は閾値以下となる正解ヨー角αrを決定する。
本実施形態において、記憶部109は、基準ヨー角αを記憶する。基準ヨー角αは、工場出荷時の外部較正処理において視差画像データを調整されたヨー角αである。第2調整部104は、基準ヨー角αを含む所定範囲において第2カメラ30Lのヨー角αを変更して、基準スケールと3次元データDGのスケールとの差の最小値を算出する。
第2調整部104は、記憶部109に記憶されているヨー角α(基準ヨー角α)を正解ヨー角αrに変更する。すなわち、(3)式の回転行列のヨー角αが、基準ヨー角αから正解ヨー角αrに変更される。ステレオ計測部102は、第1画像データMRと、第2画像データMLと、正解ヨー角αrを含む外部パラメータとに基づいて、ステレオ計測を実施して、視差画像データSGを生成する。ヨー角αが基準ヨー角αから正解ヨー角αrに変更されることにより、第1カメラ30Rと第2カメラ30Lとの相対位置が物理的に変動した後において、記憶部109に記憶されている外部パラメータは、相対位置が物理的に変動した後の第1カメラ30R及び第2カメラ30Lに最適化されている。そのため、ステレオカメラ300の第1カメラ30Rと第2カメラ30Lとの相対位置が物理的に変動した後において、3次元データDGのスケールは、実際の施工現場と同様のスケールとなる。すなわち、3次元データDGの形状は、実際の施工現場の形状と同様の形状となる。
[形状計測方法]
次に、本実施形態に係る位置計測方法について説明する。図15は、本実施形態に係る位置計測方法の一例を示すフローチャートである。
油圧ショベル1に設けられた第1ステレオカメラ301は、撮影対象SBの第1領域である遠景領域を撮影する。油圧ショベル1に設けられた第2ステレオカメラ302は、撮影対象SBの第2領域である近景領域を撮影する。
画像データ取得部101は、第1ステレオカメラ301の第1カメラ30A及び第2カメラ30Bで撮影された第1画像データMR1及び第2画像データML1と、第2ステレオカメラ302の第3カメラ30C及び第4カメラ30Dで撮影された第3画像データMR2及び第4画像データML2を取得する(ステップSP10)。
第1ステレオカメラ301で撮影された第1画像データMR1及び第2画像データML1は、撮影対象SBの遠景領域を含む。第2ステレオカメラ302で撮影された第3画像データMR2及び第4画像データML2は、撮影対象SBの近景領域を含む。
ステレオ計測部102は、第1ステレオカメラ301で撮影された第1画像データMR1及び第2画像データML1と、記憶部109に記憶されている複数のパラメータとに基づいて、ステレオ計測を実施する。ステレオ計測部102は、ステレオ計測を実施して、撮影対象SBの遠景領域を示す第1視差画像データSG1を生成する。
また、ステレオ計測部102は、第2ステレオカメラ302で撮影された第3画像データMR2及び第4画像データML2と、記憶部109に記憶されている複数のパラメータとに基づいて、ステレオ計測を実施する。ステレオ計測部102は、ステレオ計測を実施して、撮影対象SBの近景領域を示す第2視差画像データSG2を生成する(ステップSP20)。
図16は、本実施形態に係る撮影対象SBを第1カメラ30Aにより撮影した第1画像データMR1を模式的に示す図である。図16に示すように、第1ステレオカメラ301は、撮影対象SBの遠景領域を撮影する。撮影対象SBの遠景領域は、施工対象である地面のみならず、例えば空又は空に浮かぶ雲のような、第1ステレオカメラ301に対して無限遠点に配置されている物体を含む。
図17は、本実施形態に係る第1ステレオカメラ301で取得された第1画像データMR1及び第2画像データML1に基づいて生成された第1視差画像データSG1の一例を模式的に示す図である。なお、図17において、撮影対象SBのうち第1ステレオカメラ301に対して無限遠点に存在する物体の第1画像データMR1と第2画像データML1との視差dはゼロとなる。そのため、第1視差画像データSG1のうち、空及び雲に相当する部分は、黒表示される。
本実施形態においては、例えば工場出荷時に第1ステレオカメラ301及び第2ステレオカメラ302の外部較正処理が実施される。以下の説明においては、第2ステレオカメラ302については、第2ステレオカメラ302で取得された第3画像データMR2及び第4画像データML2に関するステレオ対応点探索が成功し、第2視差画像データSG2のステレオ率はステレオ閾値以上であることとする。一方、第1ステレオカメラ301については、外部較正処理後に第1カメラ30A及び第2カメラ30Bの少なくとも一方にずれが生じてしまい、第1ステレオカメラ301で取得された第1画像データMR1及び第2画像データML1に関するステレオ対応点探索が失敗し、第1視差画像データSG1のステレオ率はステレオ閾値よりも小さいこととする。第1視差画像データSG1の画素の大部分においてステレオ対応点探索が失敗しているとき、例えば図10に示すように、視差画像の大部分が黒い領域となる。
第1調整部103は、第1ステレオカメラ301について規定されている複数のパラメータのうち少なくとも一部のパラメータを変更して、第1視差画像データSG1のステレオ率を調整して、ステレオ率を向上させる(ステップSP30)。
本実施形態において、ステレオ率を調整することは、ピッチ角βを変更することを含む。第1調整部103は、大部分において探索が失敗した第1視差画像データSG1のステレオ率が向上するように、上述の方法により、第1ステレオカメラ301について規定されている外部パラメータのピッチ角βを変更する。第1調整部103は、ステレオ率が最大又はステレオ閾値以上となる正解ピッチ角βrを決定する。
ステレオ計測部102は、正解ピッチ角βrを用いて、第1画像データMR1及び第2画像データML1をステレオ計測する。これにより、例えば図13に示す視差画像のように、ステレオ率が向上した第1視差画像データSG1が生成される。
次に、第2調整部104は、第1ステレオカメラ301について正解ピッチ角βrを用いてステレオ率が最大又は閾値以上となった第1視差画像データSG1により求められる第1の3次元データDG1のスケールを調整する(ステップSP40)。
本実施形態において、スケールを調整することは、ヨー角αを調整することを含む。第2調整部104は、基準スケールと第1の3次元データDG1のスケールとの差が小さくなるように、第1ステレオカメラ301について規定されている外部パラメータのヨー角αを変更する。第2調整部104は、基準スケールと第1の3次元データDG1のスケールとの差が最小又は閾値以下となる正解ヨー角αrを決定する。
本実施形態において、基準スケールは、第2ステレオカメラ302から取得された第3画像データMR2及び第4画像データML2に基づいて生成された第2視差画像データSG2により求められる第2の3次元データDG2のスケールを含む。第2調整部104は、第2ステレオカメラ302で撮影された第3画像データMR2及び第4画像データML2に基づいて生成された第2の3次元データDG2のスケールと、第1ステレオカメラ301で撮影された第1画像データMR1及び第2画像データML1に基づいて生成された第1の3次元データDG1のスケールとの差が小さくなるように、記憶部109に記憶されている外部パラメータのヨー角α(基準ヨー角α)を変更する。
上述のように、本実施形態において、第2視差画像データSG2のステレオ率は、ステレオ閾値以上である。したがって、工場出荷時から、第2ステレオカメラ302の第3カメラ30Cと第4カメラ30Dとの相対位置は変動していないとみなすことができる。工場出荷時における外部較正処理においては、ステレオ率の調整のみならずスケールの調整も実施される。すなわち、外部較正処理においては、ステレオ率がステレオ閾値以上となり、かつ3次元データDGのスケールが正解値となるように、ステレオカメラ300の一対のカメラ30の相対位置の調整が実施されている。そのため、第2視差画像データSG2のステレオ率がステレオ閾値以上であるとき、第2ステレオカメラ302の第3カメラ30Cと第4カメラ30Dとの相対位置は変動していないとみなすことができる。つまり、第2の3次元データDG2のスケールは正解値であると推定することができる。そのため、本実施形態においては、第2調整部104は、基準スケールとして、第2の3次元データDG2のスケールを使用する。
上述のように、第1ステレオカメラ301は、撮影対象SBの遠景領域を撮影する。第2ステレオカメラ302は、撮影対象SBの近景領域を撮影する。本実施形態において、第1ステレオカメラ301と第2ステレオカメラ302とは、遠景領域と近景領域の一部とが重複するように、撮影対象SBを撮影する。
第2調整部104は、撮影対象SBの遠景領域と近景領域との重複領域において、第1の3次元データDG1のスケールと第2の3次元データDG2のスケールとの差が小さくなるように、外部パラメータのヨー角αを変更する。
図19は、本実施形態に係る第1の3次元データDG1及び第2の3次元データDG2の一例を示す図である。図19に示すように、表示制御部108は、ステレオ計測部102で生成された第1の3次元データDG1及び第2の3次元データDG2を表示させる。
第1の3次元データDG1は、第1ステレオカメラ301から撮影対象SBの複数の部位までのそれぞれとの距離ZPを示すデータである。距離ZPは、(1)式に基づいて第1視差画像データSG1の複数の画素PXs毎に算出される。マップデータ作成部107は、複数の画素PXs毎に算出された距離ZPに基づいて、カメラ座標系における3次元マップデータを作成する。カメラ座標系における3次元データDGが座標変換されることにより、車体座標系における3次元データDG、及びグローバル座標系における3次元データDGが作成される。また、グローバル座標系における3次元データDGを用いて、所定間隔(x、y)で設けられたメッシュ毎の高さが算出されることにより、第1の3次元マップデータ(エレベーションマップデータ)DG1が作成される。グローバル座標系における3次元データDGは、画素の数だけ3次元データが存在するが、3次元マップデータは、予め規定されたメッシュ毎にしか3次元データが存在しない。
また、マップデータ作成部107は、第1視差画像データSG1の3次元マップデータの作成方法と同様の作成方法で、第2視差画像データSG2に基づいて第2の3次元マップデータDG2を作成する。3次元データDGは、視差画像データSG、車体座標系等の3次元データ、及び3次元マップデータ(エレベーションマップデータ)を含む。
図18に示すように、マップデータ作成部107は、撮影対象SBの遠景領域と近景領域との重複領域、すなわち第1の3次元マップデータDG1と第2の3次元マップデータDG2との重複領域におけるデータである重複領域データDAを作成する。
重複領域データDAは、第1の3次元マップデータDG1と第2の3次元マップデータDG2において、グローバル座標系におけるXY平面内の各同一の位置(メッシュ)又は各対応する位置における、Z軸方向の差分データを含む。本実施形態においては、マップデータ作成部107は、重複領域内の各位置における第1の3次元マップデータDG1の高さデータ(z)と第2の3次元マップデータDG2の高さデータ(z)との差分を算出し、各差分の重複領域全体の総和が最小又は閾値以下となるようにスケールを調整する。
第1の3次元データDG1のスケールと第2の3次元データDG2のスケールとの差が大きい場合、重複領域内の各位置における第1の3次元マップデータDG1の高さデータと第2の3次元マップデータDG2の高さデータとの差分は大きくなり、すなわち各差分の重複領域全体の総和も大きくなる。
本実施形態においては、上述のように第2の3次元データDG2のスケールが正解値(基準スケール)であるため、第2調整部104は、第1の3次元データDG1のスケールが第2の3次元データDG2のスケールに一致するように、外部パラメータのヨー角αを調整する。具体的には、第2調整部104は、撮影対象SBの遠景領域を撮影した第1の3次元データDG1と撮影対象SBの近景領域を撮影した第2の3次元データDG2との重複領域全体における、第1の3次元データDG1の高さデータと第2の3次元データDG2の高さデータとの差分の総和が小さくなるように、外部パラメータのヨー角αを変更する。
図19は、本実施形態に係る第2調整部104によるスケールの調整方法の一例を説明するための模式図である。図19に示すグラフにおいて、横軸は、外部パラメータのヨー角αを示し、縦軸は、第1の3次元データDG1の高さデータと第2の3次元データDG2の高さデータとの差分の総和との差を示す。
第2調整部104は、基準ヨー角αを基準として、プラス方向及びマイナス方向の所定範囲において、ヨー角αを所定角度ずつ変更する。ステレオ計測部102は、ヨー角αを変更する毎に、第1の3次元データDG1の高さデータと第2の3次元データDG2の高さデータとの差分の総和との差を算出する。図19に示すように、第1の3次元データDG1の高さデータと第2の3次元データDG2の高さデータとの差分の総和との差は、ヨー角αの変更に応じて変化する。第2調整部104は、所定範囲において第1の3次元データDG1の高さデータと第2の3次元データDG2の高さデータとの差分の総和との差の最小値が得られたときのヨー角αを正解ヨー角αrに決定する。
なお、正解ヨー角αrを決定する方法は、上述の方法でなくてもよい。第1の3次元データDG1の高さデータと第2の3次元データDG2の高さデータとの差分の総和との差が閾値以下であるヨー角αであれば、任意のヨー角αを正解ヨー角αrとしてもよい。
ステップSP30において正解ピッチ角βrが決定され、ステップSP40において正解ヨー角αrが決定された後、ステレオ計測部102は、正解ピッチ角βr及び正解ヨー角αrを含む外部パラメータを用いて、第1ステレオカメラ301で撮影された第1画像データMR1及び第2画像データML1のステレオ計測を実施する。これにより、ステレオ率がステレオ閾値以上であり、かつスケールが正解値である第1視差画像データSG1および第1の3次元データDG1が生成される(ステップSP50)。
本実施形態において、上述のステップSP10からステップSP50の処理は、所定のサンプリング周期で実施される。何らかの外的要因によりカメラ30が物理的に動いてしまったとき、ステレオ率が向上しスケールが正解値になるように、ステレオカメラ300の自動較正処理が実施される。
[作用及び効果]
以上説明したように、本実施形態によれば、制御装置100は、第1カメラ30R及び第2カメラ30Lについて規定されているパラメータを変更し、変更されたパラメータに基づいて演算処理を実施して、ステレオ率及びスケールを調整することができる。ステレオ率を向上させることにより、ステレオカメラ300によって広範囲に現況地形を計測することができる。また、スケールを調整することにより、ステレオカメラ300によって計測された3次元データDGは、実際の現況地形との差分または誤差が少ない高精度なデータになる。これにより、外部較正処理の後、第1カメラ30Rと第2カメラ30Lとの相対位置が変動してしまっても、制御装置100は、記憶部109に記憶されているパラメータを変更するだけで、煩雑な再較正処理を実施することなく、ステレオ率及びスケールが調整された3次元データDG及び視差画像データSGを計測することができる。第1カメラ30Rと第2カメラ30Lとの相対位置が変動してしまっても、自動較正処理が実施されることにより、油圧ショベル1の作業効率の低下が抑制される。
また、本実施形態においては、第2調整部104は、基準スケールとして第2の3次元データDG2を利用し、遠景領域と近景領域との重複領域において、第1の3次元データDG1のスケールと第2の3次元データDG2のスケールとの差が小さくなるように、パラメータを変更する。これにより、第1の3次元データDG1のスケールを効率良く調整することができる。
なお、本実施形態においては、外部パラメータのピッチ角βを変更することによりステレオ率を向上させることとしたが、(3)式におけるヨー角α又はロール角γ、シフト量Tx、シフト量Ty、シフト量Tzを変更してステレオ率を向上させてもよいし、それら複数の外部パラメータを同時に変更してもよい。
なお、本実施形態においては、外部パラメータのヨー角αを変更することによりスケールを調整することとしたが、(3)式におけるピッチ角β又はロール角γ、シフト量Tx、シフト量Ty、シフト量Tzを変更してスケールを調整してもよいし、それら複数の外部パラメータを同時に変更してもよい。
第2実施形態.
第2実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その説明を簡略又は省略する。
上述の実施形態においては、第2ステレオカメラ302に基づいて生成された第2の3次元データDG2を基準スケールとして、第1ステレオカメラ301に基づいて生成された第1の3次元データDG1のスケールを調整することとした。本実施形態においては、基準スケールとして基準物体を用いて、3次元データDGのスケールを調整する例について説明する。なお、本実施形態においても、上述の実施形態に従って、事前にステレオ率を向上する処理が実施されていてもよい。
図20は、本実施形態に係る位置計測方法の一例を説明するための模式図である。本実施形態においては、基準物体であるターゲットTGがステレオカメラ300の撮影領域に配置される。ターゲットTGは、例えば白色の表面を有する板部材と、板部材の白色の表面に黒色で描かれた基準マークとを含む。基準マークは、1つでもよいし、複数でもよい。本実施形態において、基準マークは、円形マークである。なお、ターゲットTGは、基準マークを有しなくてもよい。
ターゲットTGは、グローバル座標系における位置が既知である所定位置に配置される。すなわち、本実施形態において、グローバル座標系におけるターゲットTGの位置を示す位置データは、既知データである。ターゲットTGの位置データは、位置データ算出部105に入力される。
上述のように、位置データ算出部105は、グローバル座標系におけるカメラ30の位置データを算出可能である。
位置データ算出部105は、グローバル座標系におけるステレオカメラ300とターゲットTGとの相対位置データを算出する。位置データ算出部105は、グローバル座標系におけるステレオカメラ300とターゲットTGとの相対位置データから、基準距離ZFを演算する。
第2調整部104は、基準スケールと3次元データDGのスケールとの差が小さくなるように、外部パラメータのヨー角αを変更する。本実施形態において、基準スケールは、ステレオカメラ300とターゲットTGとの距離である基準距離ZFを含む。
ステレオカメラ300は、ターゲットTGを含む撮影対象SBを撮影する。ステレオ計測部102は、上述の実施形態に従って、視差画像データSGを生成する。視差画像データSGの生成において、ステレオ率がステレオ閾値未満のとき、上述の実施形態に従って、第1調整部103によりステレオ率の調整が実施される。ステレオ計測部102は、視差画像データSGに基づいて、3次元データDGを求める。
本実施形態において、視差画像データSG又は3次元データDGは、ターゲットTGを含む。ステレオ計測部102は、視差画像データSG又は3次元データDGに基づいて、ステレオカメラ300からターゲットTGまでの距離ZPを算出する。
視差画像データSG又は3次元データDGにおけるどの画素がターゲットTGに該当するか否かの判別は、例えば画像処理により基準マークの中心を判別することによって実施される。なお、ターゲットTGに該当する画素を判別することができれば、任意の方法を用いてもよい。例えば基準マークを用いなくてもターゲットTGの形状から判別してもよいし、所定の入力装置を用いてターゲットTGに該当する画素等のデータを指定してもよい。
第2調整部104は、位置データ算出部105で算出された基準距離ZFと、視差画像データSG又は3次元データDGにおけるステレオカメラ300とターゲットTGとの距離ZPとの差が小さくなるように、外部パラメータのヨー角αを変更する。
以上説明したように、本実施形態においては、絶対位置が既知であるターゲットTGを使って、3次元データDGのスケールを調整することができる。本実施形態によれば、第1ステレオカメラ301の第1カメラ30Aと第2カメラ30Bとの相対位置、及び第2ステレオカメラ302の第3カメラ30Cと第4カメラ30Dとの相対位置が共に変動してしまった場合でも、第1ステレオカメラ301の自動較正処理、及び第2ステレオカメラ302の自動較正処理を個別に実施することができる。
例えば、第1ステレオカメラ301の第1カメラ30Aと第2カメラ30Bとの相対位置が変動し、第1視差画像データSG1のステレオ率が低下した場合、第1調整部103は、上述の実施形態に従って、ステレオ率を向上させる調整処理を実施することができる。ステレオ率が向上された後、そのステレオ率が向上された第1ステレオカメラ301でターゲットTGを撮影することにより、第2調整部104は、本実施形態に係るスケールの調整方法に従って、第1の3次元データDG1のスケールを調整することができる。第2ステレオカメラ302についても同様である。
なお、本実施形態に係る位置計測方法は、油圧ショベル1が第1ステレオカメラ301しか有していない場合にも適用できる。
なお、本実施形態において、第1調整部103を用いてステレオ率を向上する処理を実施せずに、本実施形態に係る位置計測方法を用いて、第2調整部104がスケールを調整する処理を実施してもよい。
なお、本実施形態においては、ステレオカメラ300の代わりにレーザースキャナを使用する場合、スケールが不正確になった場合でもスケールを調整できる。
第3実施形態.
第3実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その説明を簡略又は省略する。
本実施形態においては、基準スケールとしてステレオカメラ300の無限遠点に配置された基準物体を用いて、3次元データDGのスケールを調整する例について説明する。なお、本実施形態においても、上述の実施形態に従って、ステレオ率を向上する処理が実施される。
ステレオカメラ300は、図17に示した空に浮かぶ雲のような、ステレオカメラ300の無限遠点に配置された基準物体を撮影する。第1カメラ30Rで撮影された第1画像データMR及び第2カメラ30Lで撮影された第2画像データMLのそれぞれは、ステレオカメラ300の無限遠点に配置された基準物体の画像データを含む。
外部較正処理によりスケールが正解値に調整されているステレオカメラ300で無限遠点の基準物体の計測点Pを撮影した場合、視差dはゼロになる。一方、スケールが正解値ではないステレオカメラ300で無限遠点の基準物体の計測点Pを撮影した場合、視差dはゼロにならない。
本実施形態において、基準スケールは、スケールが正解値に調整されているステレオカメラ300においてステレオ計測された無限遠点の基準物体までの距離であり、すなわち無限遠を含む。
図21は、本実施形態に係る位置計測方法の一例を説明するための模式図である。図21は、例えばステレオカメラ300によって、図17に示したような無限遠点に存在する物体が占める割合が大きい撮影対象SBを撮影したときの、撮影対象SBの各計測点Pが投影された画素において生じた視差dと、視差画像データSG全体における各画素において生じた視差dを積み上げた結果である頻度との関係を示すヒストグラム図である。図21に示すグラフにおいて、横軸は、視差dを示し、縦軸は、視差dの頻度を示す。
撮影対象SBにおいて、雲のような無限遠点に存在する物体の割合が大きい場合、図21に示すように、無限遠点に対応する視差dにおいて、その頻度のピーク値Δdが発生する。外部較正処理によりスケールが正解値に調整されているステレオカメラ300で無限遠点の物体を撮影した場合、視差dの頻度は、視差dがゼロのときにピーク値Δdを示す。一方、スケールが正解値でないステレオカメラ300で無限遠点の物体を撮影した場合、視差dの頻度は、視差dがゼロでないときにピーク値Δdを示す。
第2調整部104は、第1画像データMRにおける基準物体(本実施形態においては無限遠点)の画像データと第2画像データMLにおける基準物体の画像データとの視差dが、基準視差d(本実施形態ではゼロ)と一致するように、外部パラメータのヨー角αを変更する。すなわち、第2調整部104は、無限遠点の基準物体を撮影したときの視差dのピークがゼロでない場合、その視差dのピークがゼロになるように、外部パラメータのヨー角αを変更する。
図22は、本実施形態に係る第2調整部104によるスケールの調整方法の一例を説明するための模式図である。図22に示すグラフにおいて、横軸は、外部パラメータのヨー角αを示し、縦軸は、無限遠点に存在する物体の計測点Pを撮影したときの視差dのピーク値Δd、すなわち図17に示したような無限遠点に存在する物体が占める割合が大きい撮影対象SBを撮影したときの視差dの頻度がピークを示している視差dのピーク値Δdを示す。
第2調整部104は、基準ヨー角αを基準として、所定範囲において、ヨー角αを所定角度ずつ変更する。ステレオ計測部102は、変更されたヨー角αのそれぞれにおいて、視差dの頻度におけるピーク値を算出する。図22に示すように、視差画像データSGの各画素における視差dは、ヨー角αの変更に基づいて変化する。第2調整部104は、所定範囲において基準視差dと視差dとの差の最小値が得られたときのヨー角αを正解ヨー角αrに決定する。すなわち、第2調整部104は、変更したヨー角αにおける視差dの頻度のピーク値が最もゼロに近いヨー角αを正解ヨー角αrに決定する。なお、第2調整部104は、所定範囲において基準視差dと視差dとの差が視差閾値以下になったときのヨー角αを正解ヨー角αrに決定してもよい。視差閾値は、基準視差dと視差dとの差について規定された閾値である。
以上説明したように、本実施形態においては、無限遠点に存在する物体を使って、3次元データDGのスケールを調整することができる。本実施形態においても、第1ステレオカメラ301の第1カメラ30Aと第2カメラ30Bとの相対位置、及び第2ステレオカメラ302の第3カメラ30Cと第4カメラ30Dとの相対位置の両方が変動してしまった場合でも、第1ステレオカメラ301の自動較正処理、及び第2ステレオカメラ302の自動較正処理を個別に実施することができる。
なお、本実施形態に係る位置計測方法は、油圧ショベル1が第1ステレオカメラ301しか有していない場合にも適用できる。
なお、本実施形態において、第1調整部103を用いてステレオ率を向上する処理を実施せずに、本実施形態に係る位置計測方法を用いて、第2調整部104がスケールを調整する処理を実施してもよい。
なお、本実施形態においては、ステレオカメラ300の代わりにレーザースキャナを使用する場合、スケールが不正確になった場合でもスケールを調整できる。
第4実施形態.
第4実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その説明を簡略又は省略する。
上述の実施形態においては、第1調整部103及び第2調整部104によって変更されるパラメータが、第1カメラMRと第2カメラMLとの相対位置を規定する外部パラメータであることとした。
本実施形態においては、第1調整部103及び第2調整部104によって変更されるパラメータが、第1カメラ30R及び第2カメラ30Lそれぞれの内部パラメータである例について説明する。
内部パラメータは、第1カメラ30R及び第2カメラ30Lそれぞれの固有データを規定する。内部パラメータは、例えば、カメラ30の光学系の焦点距離、及びカメラ30の光学系の光学中心とイメージセンサの撮像面との交点と、イメージセンサにおける画像中心との位置ずれ量を含む。
本実施形態において、内部パラメータは、Xs軸及びYs軸と平行な方向の第2カメラ30Lの光学系の光軸に対する第2カメラ30Lのイメージセンサ31Lの位置を含む。すなわち、本実施形態において、内部パラメータは、Xs軸方向及びYs軸方向における画像中心の位置を含む。
例えば外的要因により、カメラ30の内部においてイメージセンサが動いてしまう可能性がある。例えば熱の影響により、イメージセンサの位置が変動する可能性がある。イメージセンサの位置が変動すると、カメラ30の光学系の光軸とイメージセンサの撮像面との交点を示す画像中心の位置が変動する。画像中心の位置が変動すると、視差画像データSGのステレオ率が低下したり、3次元データDGのスケールとスケールの正解値との差が大きくなったりする可能性がある。
本実施形態において、第1調整部103は、ステレオ率を調整するために、内部パラメータとして、Xs軸方向のイメージセンサ31Lの位置を変更して、Xs軸方向における画像中心の位置を調整する。
本実施形態において、第2調整部104は、スケールを調整するために、内部パラメータとして、Ys軸方向のイメージセンサ31Lの位置を変更して、Ys軸方向における画像中心の位置を調整する。
カメラ30の固有データは、上述の複数の内部パラメータを含む下記の(4)式で規定される。
(4)式において、(X,Y,Z)は、グローバル座標系における第2カメラ30Lの画像中心の位置を示す。sは、カメラ座標系におけるZs軸方向の距離又はスケールを示す。uは、カメラ座標系におけるXs軸方向の位置を示す。fは、焦点距離を示す。suは、Xs軸方向の画素比率(Ys軸方向に対する比)を示す。svは、カメラ座標系におけるYs軸方向の画素比率(Xs軸方向に対する比)を示す。uは、カメラ座標系におけるXs軸方向の第2カメラ30Lの画像中心の位置を示す。vは、カメラ座標系におけるYs軸方向の第2カメラ30Lの画像中心の位置を示す。
(4)式は、第2カメラ30Lに関するヨー角α、ピッチ角β、ロール角γ、位置u、及び位置vによって規定されるカメラ内部行列と、第2カメラ30Lの位置及び姿勢を示す複数のパラメータによって規定されるカメラ外部行列と、グローバル座標系における位置X、位置Y、及び位置Zのそれぞれによって規定される平行移動ベクトルとを含む。(4)式は、第2カメラ30Lのカメラ座標系におけるXs軸方向の画像中心の位置u及びYs軸方向の画像中心の位置vを第1カメラ30Rのカメラ座標系におけるXs軸方向の画像中心の位置u及びYs軸方向の画像中心の位置vに変換する変換式である。
第1調整部103は、ステレオ率が大きくなるように、位置uを変更する。位置uを変更することは、上述の実施形態で説明した、ピッチ角βを変更することと近似する。
本実施形態において、記憶部109は、Xs軸方向のイメージセンサ31Lの基準位置を記憶する。Xs軸方向のイメージセンサ31Lの基準位置は、Xs軸方向の第2カメラ30Lの画像中心の基準位置を含む。Xs軸方向の基準位置は、工場出荷時の外部較正処理において、ステレオ率がステレオ閾値以上になるように調整された画像中心の位置である。第1調整部103は、Xs軸方向の基準位置を含む所定範囲においてイメージセンサ31Lの位置を変更して、ステレオ率の最大値を算出する。
第2調整部104は、基準スケールと3次元データDGのスケールとの差が小さくなるように、位置vを変更する。位置vを変更することは、上述の実施形態で説明した、ヨー角αを変更することと近似する。
本実施形態において、記憶部109は、Ys軸方向のイメージセンサ31Lの基準位置を記憶する。Ys軸方向のイメージセンサ31Lの基準位置は、Ys軸方向の第2カメラ30Lの画像中心の基準位置を含む。Ys軸方向の基準位置は、工場出荷時の外部較正処理において、基準スケールと3次元データDGのスケールとの差がスケール閾値以下になるように調整された画像中心の位置である。第2調整部104は、Ys軸方向の基準位置を含む所定範囲においてイメージセンサ31Lの位置を変更して、基準スケールと3次元データDGのスケールとの差の最小値を算出する。
以上説明したように、第1調整部103及び第2調整部104は、カメラ30の内部パラメータを調整することによって、視差画像データSGのステレオ率を向上させ、3次元データDGのスケールを正解値に近付けることができる。
第5実施形態.
第5実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その説明を簡略又は省略する。
図23は、本実施形態に係る位置計測システム500の一例を模式的に示す図である。本実施形態において、油圧ショベル1の制御装置100は、通信回線502を介して、油圧ショベル1の遠隔地に設けられているサーバ501及び端末装置503とデータ通信可能である。サーバ501は、コンピュータシステムを含む。端末装置503は、パーソナルコンピュータ又は携帯端末を含む。通信回線502は、インターネット(internet)、ローカルエリアネットワーク(LAN:Local Area Network)、携帯電話通信網、及び衛星通信網の少なくとも一つを含む。
本実施形態において、サーバ501は、制御装置100の一部又は全部の機能を有する。すなわち、サーバ501は、画像データ取得部101、ステレオ計測部102、第1調整部103、第2調整部104、位置データ算出部105、作業機位置データ算出部106、マップデータ作成部107、表示制御部108、記憶部109、及び入出力部110の少なくとも一つを有する。
油圧ショベル1のカメラ30で撮像された画像データ、位置検出器23で検出された旋回体3の位置データ、姿勢検出器24で検出された旋回体3の姿勢データ、及び方位検出器25で検出された旋回体3の方位データが、通信回線502を介して、サーバ501に供給される。
例えば、サーバ501が、ステレオ計測部102、第1調整部103、第2調整部104、及び記憶部109を有する場合、サーバ501は、カメラ30で撮影され通信回線502を介して供給された画像データに基づいて、ステレオ計測を実施したり、ステレオ率が大きくなるようにパラメータを変更したり、スケールが正解値になるようにパラメータを変更したりすることができる。
なお、本実施形態において、端末装置503が、制御装置100の一部または全部の機能を有してもよい。すなわち、端末装置503が、画像データ取得部101、ステレオ計測部102、第1調整部103、第2調整部104、位置データ算出部105、作業機位置データ算出部106、マップデータ作成部107、表示制御部108、記憶部109、及び入出力部110の少なくとも一つを有してもよい。
なお、本実施形態において、表示制御部108に制御される表示装置26は、油圧ショベル1に設けられてもよいし、サーバ501に接続されてもよいし、端末装置503に接続されてもよい。
第6実施形態.
第6実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その説明を簡略又は省略する。
上述の第2実施形態においては、ターゲットTGを用いて3次元データDGのスケールを調整することとした。本実施形態においては、基準スケールとして作業機2を用いて、3次元データDGのスケールを調整する例について説明する。なお、本実施形態においても、上述の実施形態に従って、ステレオ率を向上する処理が実施される。
図24は、本実施形態に係る位置計測方法の一例を説明するための模式図である。本実施形態においては、基準物体であるバケット8の刃先8BTがステレオカメラ300の撮影領域に配置される。例えば、Xm軸方向におけるステレオカメラ300と刃先8BTとの距離が最も長くなるように作業機2の姿勢が調整された状態で、刃先8BTがステレオカメラ300の撮影領域に配置される。
作業機位置データ算出部106は、グローバル座標系におけるバケット8の刃先8BTの位置を算出可能である。また、位置データ算出部105は、グローバル座標系におけるカメラ30の位置データを算出可能である。
位置データ算出部105は、グローバル座標系におけるステレオカメラ300と刃先8BTとの相対位置データを算出する。
第2調整部104は、基準スケールと3次元データDGのスケールとの差が小さくなるように、外部パラメータのヨー角αを変更する。本実施形態において、基準スケールは、ステレオカメラ300と刃先8BTとの距離である基準距離ZFを含む。
以上説明したように、本実施形態においては、作業機2を使って、3次元データDGのスケールを調整することができる。
なお、本本実施形態において、油圧ショベル1とは別の油圧ショベルの作業機が基準スケールとして利用されてもよい。別の油圧ショベルが、本実施形態に係る油圧ショベル1と同様に、作業機角度検出器22、位置検出器23、姿勢検出器24、方位検出器25、及び制御装置100を有していれば、別の油圧ショベルは、別の油圧ショベルの作業機のバケットの刃先の絶対位置を取得することができる。その別の油圧ショベルの刃先の絶対位置を示す絶対位置データが、通信装置を介して本実施形態に係る油圧ショベル1に送信されることにより、油圧ショベル1は、ステレオカメラ300と別の油圧ショベルの刃先との相対位置データを取得することができる。
なお、上述の各実施形態においては、油圧ショベル1にカメラ30が4つ、及びステレオカメラ300が2つ設けられる例について説明した。カメラ30は、油圧ショベル1に少なくとも2つ設けられていればよい。また、上述の第2実施形態及び第3実施形態においては、ステレオカメラ300は少なくとも1つ設けられていればよい。
なお、上述の各実施形態においては、ステレオ率は、ステレオ計測される視差画像データSGの複数の画素のうちステレオ計測が成功した画素の割合を示すこととした。ステレオ率は、他の定義でもよい。例えば、ステレオ率は、ステレオ計測される視差画像データの複数の画素のうちステレオ計測が成功した画素の総数を示すこととしてもよい。
なお、上述の各実施形態においては、3次元データのスケール調整として、ヨー角などを調整、つまり視差dを調整することによりスケールを変更するようにしたが、その実施形態に限られず、その他の調整、例えば数1におけるb(カメラ間距離)やf(焦点距離)を調整することによりスケールを変更することとしてもよい。
なお、上述の各実施形態においては、作業機械1が油圧ショベルであることとした。作業機械1は、施工対象を施工可能な作業機械であればよく、施工対象を掘削可能な掘削機械及び土砂を運搬可能な運搬機械でもよい。作業機械1は、例えばホイールローダでもよいし、ブルドーザでもよいし、ダンプトラックでもよい。
1…油圧ショベル(作業機械)、1B…車体、2…作業機、3…旋回体、4…運転室、4S…運転席、5…走行体、5A…履帯、5B…履帯、6…ブーム、7…アーム、8…バケット、8BT…刃先、10…ブームシリンダ、11…アームシリンダ、12…バケットシリンダ、13…ブームピン、14…アームピン、15…バケットピン、16…ブームストロークセンサ、17…アームストロークセンサ、18…バケットストロークセンサ、20…検出システム、21…GPSアンテナ、22…作業機角度検出器、23…位置検出器、24…姿勢検出器、25…方位検出器、26…表示装置、30…カメラ、30A…第1カメラ、30B…第2カメラ、30C…第1カメラ、30D…第2カメラ、30L…第2カメラ、30R…第1カメラ、31L…イメージセンサ、31R…イメージセンサ、35…操作装置、35L…左操作レバー、35R…右操作レバー、50…位置計測システム、100…制御装置、101…画像データ取得部、102…ステレオ計測部、103…第1調整部、104…第2調整部、105…位置データ算出部、106…作業機位置データ算出部、107…マップデータ作成部、108…表示制御部、109…記憶部、110…入出力部、300…ステレオカメラ、301…第1ステレオカメラ、302…第2ステレオカメラ、500…位置計測システム、501…サーバ、502…通信回線、AX1…回転軸、AX2…回転軸、AX3…回転軸、DG…3次元データ、ER…点、EL…点、BL…ベースライン、MR…第1画像データ、ML…第2画像データ、OR…光学中心、OL…光学中心、P…計測点、SB…撮影対象、SG…視差画像データ、Zr…旋回軸。

Claims (11)

  1. 作業機械に設けられた第1ステレオカメラの第1カメラで撮影された第1画像データ及び前記第1ステレオカメラの第2カメラで撮影された第2画像データを取得する画像データ取得部と、
    前記第1画像データと、前記第2画像データと、前記第1カメラ及び前記第2カメラに関するパラメータとに基づいて、ステレオ計測を実施するステレオ計測部と、
    前記パラメータの少なくとも一部を変更して、ステレオ計測された第1視差画像データのステレオ率を調整する第1調整部と、
    前記パラメータの少なくとも一部を変更して、前記第1視差画像データから求められる第1の3次元データのスケールを調整する第2調整部と、
    を備える位置計測システム。
  2. 前記第2調整部は、前記第1視差画像データの視差を調整して、前記第1の3次元データのスケールを調整する、
    請求項1に記載の位置計測システム。
  3. 前記パラメータは、前記第1カメラと前記第2カメラとの相対位置を規定する外部パラメータを含み、
    前記外部パラメータは、前記第2カメラのピッチ角を含み、
    前記第1調整部は、前記ピッチ角を変更する、
    請求項1又は請求項2に記載の位置計測システム。
  4. 前記パラメータは、前記第1カメラと前記第2カメラとの相対位置を規定する外部パラメータを含み、
    前記外部パラメータは、前記第2カメラのヨー角を含み、
    前記第2調整部は、前記ヨー角を変更する、
    請求項1から請求項3のいずれか一項に記載の位置計測システム。
  5. 第3カメラ及び第4カメラからなる第2ステレオカメラをさらに備え、
    前記第2調整部は、前記第3カメラから取得された第3画像データ及び前記第4カメラから取得された第4画像データに基づいて生成された第2の3次元データのスケールと前記第1の3次元データのスケールとの差が小さくなるように、前記第1の3次元データのスケールを調整する、
    請求項1から請求項4のいずれか一項に記載の位置計測システム。
  6. 前記第2調整部は、前記第1ステレオカメラの位置データと基準物体の位置データとに基づいて算出される前記第1ステレオカメラと基準物体との基準距離と、前記第1の3次元データにおける前記第1ステレオカメラと前記基準物体との距離との差が小さくなるように、前記パラメータを変更する、
    請求項1から請求項4のいずれか一項に記載の位置計測システム。
  7. 前記第1画像データ及び前記第2画像データのそれぞれは、前記第1ステレオカメラの無限遠点に配置された基準物体の画像データを含み、
    前記第2調整部は、前記第1画像データ及び前記第2画像データに基づき計測された第1視差画像データにおける視差のピークがゼロとなるように、前記パラメータを変更する、
    請求項1から請求項4のいずれか一項に記載の位置計測システム。
  8. 作業機械に設けられたステレオカメラの第1カメラで撮影された第1画像データ及び前記ステレオカメラの第2カメラで撮影された第2画像データを取得する画像データ取得部と、
    前記第1画像データと、前記第2画像データと、前記第1カメラ及び前記第2カメラに関するパラメータとに基づいて、ステレオ計測を実施するステレオ計測部と、
    前記ステレオカメラの絶対位置データと基準物体の絶対位置データとに基づいて算出される前記ステレオカメラと前記基準物体との基準距離と、前記ステレオ計測部で生成された視差画像データにおける前記ステレオカメラと前記基準物体との距離との差が小さくなるように、前記パラメータの少なくとも一部を変更する第2調整部と、
    を備える位置計測システム。
  9. 作業機械に設けられたステレオカメラの第1カメラで撮影された前記ステレオカメラの無限遠点に配置された基準物体を含む第1画像データ及び前記ステレオカメラの第2カメラで撮影された前記基準物体を含む第2画像データを取得する画像データ取得部と、
    前記第1画像データと、前記第2画像データと、前記第1カメラ及び前記第2カメラに関するパラメータとに基づいて、ステレオ計測を実施するステレオ計測部と、
    前記第1画像データ及び前記第2画像データに基づき計測された第1視差画像データにおける視差のピークがゼロとなるように、前記パラメータの少なくとも一部を変更する第2調整部と、
    を備える位置計測システム。
  10. 請求項1から請求項9のいずれか一項に記載の位置計測システムを備える作業機械。
  11. 作業機械に設けられた第1ステレオカメラの第1カメラで撮影された第1画像データ及び前記第1ステレオカメラの第2カメラで撮影された第2画像データを取得することと、
    前記第1画像データと、前記第2画像データと、前記第1カメラ及び前記第2カメラに関するパラメータとに基づいて、ステレオ計測を実施することと、
    前記パラメータの少なくとも一部を変更して、ステレオ計測された第1視差画像データのステレオ率を調整することと、
    前記パラメータの少なくとも一部を変更して、前記第1視差画像データから求められる3次元データのスケールを調整することと、
    を含む位置計測方法。
JP2017022570A 2017-02-09 2017-02-09 位置計測システム、作業機械、及び位置計測方法 Active JP6925816B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2017022570A JP6925816B2 (ja) 2017-02-09 2017-02-09 位置計測システム、作業機械、及び位置計測方法
CN201880000776.XA CN108700402B (zh) 2017-02-09 2018-02-07 位置测量系统、作业机械及位置测量方法
DE112018000007.9T DE112018000007T5 (de) 2017-02-09 2018-02-07 Positionsmesssystem, Arbeitsmaschine und Positionsmessverfahren
PCT/JP2018/004257 WO2018147340A1 (ja) 2017-02-09 2018-02-07 位置計測システム、作業機械、及び位置計測方法
KR1020187018968A KR102076631B1 (ko) 2017-02-09 2018-02-07 위치 계측 시스템, 작업 기계, 및 위치 계측 방법
US16/069,560 US11120577B2 (en) 2017-02-09 2018-02-07 Position measurement system, work machine, and position measurement method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017022570A JP6925816B2 (ja) 2017-02-09 2017-02-09 位置計測システム、作業機械、及び位置計測方法

Publications (2)

Publication Number Publication Date
JP2018128397A true JP2018128397A (ja) 2018-08-16
JP6925816B2 JP6925816B2 (ja) 2021-08-25

Family

ID=63107538

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017022570A Active JP6925816B2 (ja) 2017-02-09 2017-02-09 位置計測システム、作業機械、及び位置計測方法

Country Status (6)

Country Link
US (1) US11120577B2 (ja)
JP (1) JP6925816B2 (ja)
KR (1) KR102076631B1 (ja)
CN (1) CN108700402B (ja)
DE (1) DE112018000007T5 (ja)
WO (1) WO2018147340A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020051029A (ja) * 2018-09-21 2020-04-02 日立建機株式会社 座標変換システム及び作業機械
JP2020190411A (ja) * 2019-05-17 2020-11-26 キヤノン株式会社 撮像装置、画像処理装置、画像処理方法、撮像装置の校正方法、ロボット装置、ロボット装置を用いた物品の製造方法、制御プログラムおよび記録媒体

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7108985B2 (ja) * 2018-08-24 2022-07-29 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
KR102596053B1 (ko) * 2018-08-27 2023-11-01 엘지이노텍 주식회사 영상 처리 장치 및 영상 처리 방법
JP6697150B1 (ja) * 2019-10-30 2020-05-20 株式会社Qoncept 軌道算出装置、軌道算出方法、軌道算出プログラム
JP2021134482A (ja) * 2020-02-21 2021-09-13 株式会社小松製作所 作業機械及び作業機械の遠隔操作システム
US20220292801A1 (en) * 2021-03-15 2022-09-15 Plantronics, Inc. Formatting Views of Whiteboards in Conjunction with Presenters
KR20220139031A (ko) * 2021-04-07 2022-10-14 현대두산인프라코어(주) 건설기계의 제어 시스템 및 작업 가이드 라인 제공 방법
US11669956B2 (en) * 2021-06-01 2023-06-06 Caterpillar Inc. Ground engaging tool wear and loss detection system and method
CN113280736B (zh) * 2021-06-10 2022-07-22 雷沃工程机械集团有限公司 一种装载机铲斗位置检测方法及设备
CN114363805B (zh) * 2021-12-29 2024-04-30 北京红山信息科技研究院有限公司 一种纠正背向点的三角定位改进方法
JP2024070512A (ja) * 2022-11-11 2024-05-23 株式会社小松製作所 作業機械の校正システム及び作業機械の校正方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09133525A (ja) * 1995-11-10 1997-05-20 Nippon Soken Inc 距離計測装置
JPH10341458A (ja) * 1997-06-10 1998-12-22 Toyota Motor Corp 車載ステレオカメラの校正方法、および、その方法を適用した車載ステレオカメラ
JP2008045983A (ja) * 2006-08-15 2008-02-28 Fujifilm Corp ステレオカメラの調整装置
US20080162004A1 (en) * 2006-12-27 2008-07-03 Price Robert J Machine control system and method
WO2009119229A1 (ja) * 2008-03-26 2009-10-01 コニカミノルタホールディングス株式会社 3次元撮像装置及び3次元撮像装置の校正方法
JP2014215039A (ja) * 2013-04-22 2014-11-17 日立建機株式会社 建設機械
WO2016013691A1 (ja) * 2015-10-15 2016-01-28 株式会社小松製作所 位置計測システム及び位置計測方法
WO2016047808A1 (ja) * 2015-09-30 2016-03-31 株式会社小松製作所 撮像装置の校正システム、作業機械及び撮像装置の校正方法
JP2016118400A (ja) * 2014-12-18 2016-06-30 京セラ株式会社 ステレオカメラ装置、移動体、制御方法及び較正装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05288516A (ja) 1992-04-07 1993-11-02 Honda Motor Co Ltd 非接触式位置検出装置
JP3827480B2 (ja) 1999-08-13 2006-09-27 日立建機株式会社 自動運転建設機械およびその位置計測手段の校正方法
CN101577795A (zh) * 2009-06-17 2009-11-11 深圳华为通信技术有限公司 一种实现全景图像的实时预览的方法和装置
JP2011223482A (ja) * 2010-04-14 2011-11-04 Sony Corp 画像処理装置、画像処理方法、およびプログラム
JP2012233353A (ja) 2011-05-02 2012-11-29 Komatsu Ltd 油圧ショベルの較正システム及び油圧ショベルの較正方法
JP6060525B2 (ja) 2012-05-31 2017-01-18 株式会社ニデック 眼底検査装置
US9142063B2 (en) * 2013-02-15 2015-09-22 Caterpillar Inc. Positioning system utilizing enhanced perception-based localization
DE102014208068A1 (de) * 2014-04-29 2015-10-29 Deere & Company Erntemaschine mit sensorbasierter Einstellung eines Arbeitsparameters
CN104093013B (zh) 2014-06-25 2016-05-11 中国科学院遥感与数字地球研究所 一种立体视觉三维可视化系统中自动调节图像视差的方法
US20160137125A1 (en) * 2014-11-17 2016-05-19 Caterpillar Inc. Imaging system using virtual projection geometry
JP6515650B2 (ja) 2015-04-14 2019-05-22 国立大学法人東京工業大学 校正装置、距離計測装置及び校正方法
US9790666B2 (en) 2015-09-30 2017-10-17 Komatsu Ltd. Calibration system, work machine, and calibration method

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09133525A (ja) * 1995-11-10 1997-05-20 Nippon Soken Inc 距離計測装置
JPH10341458A (ja) * 1997-06-10 1998-12-22 Toyota Motor Corp 車載ステレオカメラの校正方法、および、その方法を適用した車載ステレオカメラ
JP2008045983A (ja) * 2006-08-15 2008-02-28 Fujifilm Corp ステレオカメラの調整装置
US20080162004A1 (en) * 2006-12-27 2008-07-03 Price Robert J Machine control system and method
WO2009119229A1 (ja) * 2008-03-26 2009-10-01 コニカミノルタホールディングス株式会社 3次元撮像装置及び3次元撮像装置の校正方法
JP2014215039A (ja) * 2013-04-22 2014-11-17 日立建機株式会社 建設機械
JP2016118400A (ja) * 2014-12-18 2016-06-30 京セラ株式会社 ステレオカメラ装置、移動体、制御方法及び較正装置
WO2016047808A1 (ja) * 2015-09-30 2016-03-31 株式会社小松製作所 撮像装置の校正システム、作業機械及び撮像装置の校正方法
WO2016013691A1 (ja) * 2015-10-15 2016-01-28 株式会社小松製作所 位置計測システム及び位置計測方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020051029A (ja) * 2018-09-21 2020-04-02 日立建機株式会社 座標変換システム及び作業機械
JP7301514B2 (ja) 2018-09-21 2023-07-03 日立建機株式会社 座標変換システム及び作業機械
JP2020190411A (ja) * 2019-05-17 2020-11-26 キヤノン株式会社 撮像装置、画像処理装置、画像処理方法、撮像装置の校正方法、ロボット装置、ロボット装置を用いた物品の製造方法、制御プログラムおよび記録媒体
US11637948B2 (en) 2019-05-17 2023-04-25 Canon Kabushiki Kaisha Image capturing apparatus, image processing apparatus, image processing method, image capturing apparatus calibration method, robot apparatus, method for manufacturing article using robot apparatus, and recording medium
JP7427370B2 (ja) 2019-05-17 2024-02-05 キヤノン株式会社 撮像装置、画像処理装置、画像処理方法、撮像装置の校正方法、ロボット装置、ロボット装置を用いた物品の製造方法、制御プログラムおよび記録媒体

Also Published As

Publication number Publication date
KR20180103868A (ko) 2018-09-19
US11120577B2 (en) 2021-09-14
KR102076631B1 (ko) 2020-02-12
JP6925816B2 (ja) 2021-08-25
CN108700402B (zh) 2021-10-15
WO2018147340A1 (ja) 2018-08-16
CN108700402A (zh) 2018-10-23
DE112018000007T5 (de) 2018-09-27
US20210209799A1 (en) 2021-07-08

Similar Documents

Publication Publication Date Title
JP6925816B2 (ja) 位置計測システム、作業機械、及び位置計測方法
KR101815269B1 (ko) 위치 계측 시스템 및 위치 계측 방법
JP6777375B2 (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械
CN109661494B (zh) 作业机械的检测处理装置及作业机械的检测处理方法
KR102089454B1 (ko) 계측 시스템, 작업 기계 및 계측 방법
JP6898816B2 (ja) 表示システム、表示方法、及び表示装置
JP2020197431A (ja) マップ生成システム及びマップ生成方法
CN110249203B (zh) 作业机械的测量系统、作业机械以及作业机械的测量方法
JPWO2017119517A1 (ja) 作業機械の制御システム、作業機械、作業機械の制御方法、及びナビゲーションコントローラ
JP2022164713A (ja) 作業機械の画像表示システム及び作業機械の画像表示方法
WO2018026019A1 (ja) 施工管理システム
JP6895350B2 (ja) 作業機械の計測システム及び作業機械
US20220316188A1 (en) Display system, remote operation system, and display method
JP2018112051A (ja) 作業機械の制御システム、作業機械、作業機械の制御方法及びナビゲーションコントローラ
JP2019183636A (ja) 作業機械の制御システム、作業機械、作業機械の制御方法及びナビゲーションコントローラ
WO2019049527A1 (ja) 作業機械の計測システム、作業機械、及び作業機械の計測方法
WO2023282203A1 (ja) 作業機械の制御システム、作業機械、及び作業機械の制御方法
WO2023282204A1 (ja) 作業機械の制御システム、作業機械、及び作業機械の制御方法
JP7065002B2 (ja) 作業機械

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210720

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210804

R150 Certificate of patent or registration of utility model

Ref document number: 6925816

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150