JP2019049121A - 施工管理装置および施工管理方法 - Google Patents

施工管理装置および施工管理方法 Download PDF

Info

Publication number
JP2019049121A
JP2019049121A JP2017173237A JP2017173237A JP2019049121A JP 2019049121 A JP2019049121 A JP 2019049121A JP 2017173237 A JP2017173237 A JP 2017173237A JP 2017173237 A JP2017173237 A JP 2017173237A JP 2019049121 A JP2019049121 A JP 2019049121A
Authority
JP
Japan
Prior art keywords
unit
image pair
camera
construction management
storage unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017173237A
Other languages
English (en)
Other versions
JP6840645B2 (ja
Inventor
雄一 根本
Yuichi Nemoto
雄一 根本
充広 青木
Mitsuhiro Aoki
充広 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2017173237A priority Critical patent/JP6840645B2/ja
Priority to DE112018001834.2T priority patent/DE112018001834T5/de
Priority to PCT/JP2018/024382 priority patent/WO2019049475A1/ja
Priority to US16/606,816 priority patent/US11100663B2/en
Priority to AU2018327449A priority patent/AU2018327449B9/en
Priority to CN201880027693.XA priority patent/CN110573834B/zh
Publication of JP2019049121A publication Critical patent/JP2019049121A/ja
Application granted granted Critical
Publication of JP6840645B2 publication Critical patent/JP6840645B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/56Particle system, point based geometry or rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Remote Sensing (AREA)
  • Mining & Mineral Resources (AREA)
  • Signal Processing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Structural Engineering (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Operation Control Of Excavators (AREA)
  • Image Processing (AREA)

Abstract

【課題】任意の時点または地点における地形の三次元データを計算する。【解決手段】選択部は、作業機械に設けられた撮像装置によって撮像された複数の画像対の中から、処理対象となる対象画像対を選択する。ステレオ計測部は、選択された前記対象画像対を撮像した前記撮像装置に係るカメラパラメータを用いて、選択された前記対象画像対から地形を表す三次元データを生成する。【選択図】図3

Description

本発明は、施工管理装置および施工管理方法に関する。
特許文献1に開示されているように、作業機械に取り付けられた撮像装置が一対の画像を撮像し、当該作業機械が備える計算機がこれに基づいて地形を表す三次元データを生成する技術が知られている。
特開2017−071915号公報
撮像装置が撮像した画像に基づいて、所定の期間内(例えば、施工開始時点からある過去の時点まで)に施工した土工量を算出したいという要望がある。土工量を算出するためには、過去に撮影された複数の画像の対から、計測対象となる時点および地点における地形の三次元データを計算する必要がある。
本発明の態様は、任意の時点または地点における地形の三次元データを計算できる施工管理装置および施工管理方法を提供することを目的とする。
本発明の第1の態様によれば、施工管理装置は、作業機械に設けられた少なくとも1つの撮像装置対によって撮像された複数の画像対の中から、処理対象となる少なくとも1つの対象画像対を選択する選択部と、選択された前記対象画像対を撮像した前記撮像装置対に係るカメラパラメータを用いて、選択された前記対象画像対から地形を表す三次元データを計算するステレオ計測部とを備える。
上記態様によれば、施工管理装置は、任意の時点または地点における地形の三次元データを計算できる。
第1の実施形態に係る施工管理システムの構成図である。 第1の実施形態に係る油圧ショベルの外観を示す斜視図である。 第1の実施形態に係る油圧ショベルの制御装置の構成を示す概略図である。 第1の実施形態に係る施工管理装置の構成を示す概略図である。 画像記憶部による画像対の管理方式を表す例である。 第1の実施形態に係る施工管理装置の動作を示すフローチャートである。 第2の実施形態に係る施工管理装置の動作を示すフローチャートである。 第3の実施形態に係る施工管理装置の構成を示す概略図である。 第4の実施形態に係る施工管理装置の構成を示す概略図である。
〈第1の実施形態〉
《施工管理システムの構成》
図1は、第1の実施形態に係る施工管理システムの構成図である。
施工管理システム1は、複数の油圧ショベル100と、施工管理装置200とを備える。施工管理システム1は、油圧ショベル100による施工現場の施工状態を管理するシステムである。油圧ショベル100と施工管理装置200とは、ネットワークを介して接続されている。
油圧ショベル100は、施工現場において掘削や盛土などの作業を行う。また油圧ショベル100は、少なくとも1つの撮像装置対によって構成されるステレオカメラを備え、視差を有する少なくとも1対の画像を撮像する。以下、ステレオカメラが撮像する画像の対を画像対ともいう。画像対は、施工管理装置200に送信される。油圧ショベル100は、作業機械の一例である。他の実施形態においては、油圧ショベル100でない作業機械がステレオカメラを備えてもよい。
施工管理装置200は、油圧ショベル100から施工現場が写る画像対を受信し、油圧ショベル100のIDと、撮像時刻とに関連付けて画像対を管理する。施工管理装置200は、画像対をステレオ計測することで、施工現場の地形を表す点群データを生成する。施工管理装置200は、点群データを用いて施工現場の土工量(出来高)を算出する。点群データは、三次元データの一例である。他の実施形態においては、三次元データとしてTIN(Triangulated Irregular Network:不等三角網)データ、DEM(Digital Elevation Model:数値標高モデル)データ、ポリゴンデータ、ボクセルデータを生成してもよい。
《油圧ショベルの構成》
図2は、第1の実施形態に係る油圧ショベルの外観を示す斜視図である。
作業機械である油圧ショベル100は、油圧により作動する作業機110と、作業機110を支持する旋回体120と、旋回体120を支持する走行体130とを備える。
《油圧ショベルの車体》
旋回体120には、オペレータが搭乗する運転室121が備えられる。運転室121の上部には、ステレオカメラ122が設けられる。ステレオカメラ122は、運転室121内の前方かつ上方に設置される。ステレオカメラ122は、運転室121前面のフロントガラスを通して、運転室121の前方を撮像する。ステレオカメラ122は、少なくとも1対のカメラを備える。第1の実施形態においては、ステレオカメラ122は、2対の撮像装置を備える。すなわち、ステレオカメラ122は、4個の撮像装置を備える。具体的には、ステレオカメラ122は、右側から順に、第1カメラ1221、第2カメラ1222、第3カメラ1223、および第4カメラ1224を備える。各撮像装置の例としては、例えばCCD(Charge Coupled Device)センサ、およびCMOS(Complementary Metal Oxide Semiconductor)センサを用いた撮像装置が挙げられる。
第1カメラ1221と第3カメラ1223は、撮像装置対である。第1カメラ1221と第3カメラ1223は、それぞれ光軸が運転室121の床面に対して略平行となるように、左右方向に間隔を空けて設置される。
第2カメラ1222と第4カメラ1224は、撮像装置対である。第2カメラ1222と第4カメラ1224は、それぞれ光軸が略平行となるように、かつその光軸が運転室121の床面に対して運転室121前方より下方向に傾くように、左右方向に間隔を空けて設置される。
ステレオカメラ122のうち少なくとも1つの撮像装置対が撮像した1対の画像(画像対)を用いることで、ステレオカメラ122と撮像対象との距離を算出することができる。なお、他の実施形態においては、ステレオカメラ122は、1対のカメラによって構成されてもよいし、3対以上のカメラによって構成されてもよい。
《油圧ショベルの制御系》
油圧ショベル100は、ステレオカメラ122、位置方位演算器123、傾斜検出器124、制御装置125を備える。
位置方位演算器123は、旋回体120の位置および旋回体120が向く方位を演算する。位置方位演算器123は、GNSS(Global Navigation Satellite System)を構成する人工衛星から測位信号を受信する第1受信器1231および第2受信器1232を備える。第1受信器1231および第2受信器1232は、それぞれ旋回体120の異なる位置に設置される。位置方位演算器123は、第1受信器1231が受信した測位信号に基づいて、現場座標系における旋回体120の代表点(車体座標系の原点)の位置を検出する。GNSSの例としては、GPS(Global Positioning System)が挙げられる。
位置方位演算器123は、第1受信器1231が受信した測位信号と、第2受信器1232が受信した測位信号とを用いて、検出された第1受信器1231の設置位置に対する第2受信器1232の設置位置の関係として、旋回体120の向く方位を演算する。
傾斜検出器124は、旋回体120の加速度および角速度を計測し、計測結果に基づいて旋回体120の姿勢(例えば、ロール角、ピッチ角、ヨー角)を検出する。傾斜検出器124は、例えば運転室121の下面に設置される。傾斜検出器124は、例えば、慣性計測装置(IMU:Inertial Measurement Unit)を用いることができる。
図3は、第1の実施形態に係る油圧ショベルの制御装置の構成を示す概略図である。
制御装置125は、プロセッサ310、メインメモリ320、ストレージ330、インタフェース340を備えるコンピュータである。ストレージ330は、プログラムを記憶する。プロセッサ310は、プログラムをストレージ330から読み出してメインメモリ320に展開し、プログラムに従った処理を実行する。制御装置125は、インタフェース340を介してネットワークに接続される。
ストレージ330は、カメラパラメータ記憶部331としての記憶領域を有する。ストレージ330の例としては、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気ディスク、光磁気ディスク、CD−ROM(Compact Disc Read Only Memory)、DVD−ROM(Digital Versatile Disc Read Only Memory)、半導体メモリ等が挙げられる。ストレージ330は、制御装置125のバスに直接接続された内部メディアであってもよいし、インタフェース340を介して制御装置125に接続される外部メディアであってもよい。ストレージ330は、一時的でない有形の記憶媒体である。
カメラパラメータ記憶部331は、ステレオカメラ122のカメラパラメータを記憶する。カメラパラメータは、画像対によるステレオ計測に用いられるパラメータである。カメラパラメータは、例えば内部パラメータ、外部パラメータおよび車体パラメータを含む。内部パラメータは、各撮像装置の特性を示すパラメータである。内部パラメータの例としては、撮像装置の光学系の焦点距離、撮像装置の光学系の光軸とイメージセンサの撮像面との交点の位置、撮像装置レンズの半径方向の歪係数等が挙げられる。外部パラメータは、一対の撮像装置間の位置関係を示すパラメータである。外部パラメータの例としては、一対の撮像装置間の相対位置、相対姿勢(ロール角、ピッチ角、ヨー角)が挙げられる。車体パラメータは、車体座標系におけるカメラ位置を含む。車体パラメータは、車体座標系とカメラ座標系とを変換するパラメータである。
プロセッサ310は、プログラムの実行により、画像取得部311、画像送信部312、カメラパラメータ更新部313、カメラパラメータ送信部314を備える。
画像取得部311は、ステレオカメラ122が撮像した画像対、位置方位演算器123が計測した旋回体120の位置および方位、ならびに傾斜検出器124が計測した旋回体120の姿勢を取得する。
画像送信部312は、油圧ショベル100のID、ステレオカメラ122が撮像した画像対、画像対の撮像時刻、位置方位演算器123が計測した旋回体120の位置および方位、ならびに傾斜検出器124が計測した旋回体120の姿勢を、関連付けて施工管理装置200に送信する。
カメラパラメータ更新部313は、カメラパラメータ記憶部331が記憶するカメラパラメータを、ステレオカメラ122の校正がなされるたびに更新する。
カメラパラメータ送信部314は、カメラパラメータ記憶部331が記憶するカメラパラメータをカメラパラメータ更新部313が更新するたびに、油圧ショベルのID、当該カメラパラメータおよびその更新時刻を施工管理装置200に送信する。
なお、制御装置125は、施工管理装置200と独立して、ステレオカメラ122が撮像した画像対とカメラパラメータ記憶部331が記憶するカメラパラメータとを用いたステレオ計測を行ってもよい。
《施工管理装置200》
図4は、第1の実施形態に係る施工管理装置の構成を示す概略図である。
施工管理装置200は、プロセッサ210、メインメモリ220、ストレージ230、インタフェース240を備えるコンピュータである。ストレージ230は、施工管理プログラムPを記憶する。プロセッサ210は、施工管理プログラムPをストレージ230から読み出してメインメモリ220に展開し、施工管理プログラムPに従った処理を実行する。施工管理装置200は、インタフェース240を介してネットワークに接続される。また施工管理装置200は、インタフェース240を介して図示しない入出力装置に接続される。
ストレージ230は、カメラパラメータ記憶部231、機種データ記憶部232、および画像記憶部233としての記憶領域を有する。ストレージ230の例としては、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気ディスク、光磁気ディスク、CD−ROM(Compact Disc Read Only Memory)、DVD−ROM(Digital Versatile Disc Read Only Memory)、半導体メモリ等が挙げられる。ストレージ230は、施工管理装置200のバスに直接接続された内部メディアであってもよいし、インタフェース240を介して施工管理装置200に接続される外部メディアであってもよい。ストレージ230は、一時的でない有形の記憶媒体である。
カメラパラメータ記憶部231は、油圧ショベル100のIDと、当該油圧ショベル100が備えるステレオカメラ122のカメラパラメータの更新時刻とに関連付けて、カメラパラメータを記憶する。つまり、カメラパラメータ記憶部231は、複数の時刻のそれぞれに関連付けて、当該時刻における撮像装置対に係るカメラパラメータを記憶する。カメラパラメータは、各油圧ショベル100に設けられたステレオカメラ122毎に異なる。また同一のステレオカメラ122であっても校正作業を実施するたびにカメラパラメータは更新される。カメラパラメータ記憶部331は、油圧ショベル100のID毎に、また校正作業の実施毎(更新時刻毎)に、それぞれカメラパラメータを記憶する。カメラパラメータ記憶部331は、ディレクトリ構造を有するファイルシステムによってカメラパラメータを記憶することができる。例えば、カメラパラメータ記憶部331は、施工現場ごとに分けられた現場ディレクトリを記憶する。カメラパラメータ記憶部331は、各現場ディレクトリの配下に当該施工現場に配備される油圧ショベル100ごとに分けられた機械ディレクトリを記憶する。カメラパラメータ記憶部331は、各機械ディレクトリの配下に更新時刻別に当該油圧ショベル100のカメラパラメータを記憶する。
機種データ記憶部232は、油圧ショベル100の機種に関連付けて、当該機種における第1受信器1231および第2受信器1232の設置位置などの機種固有データを記憶する。上述したとおり、第1受信器1231の位置は、現場座標系における旋回体120の代表点(車体座標系の原点)である。つまり、機種固有データは、現場座標系と車体座標系とを変換するためのパラメータとすることができる。これにより、施工管理装置200は、油圧ショベル100の機種によってGNSSの受信アンテナの設置位置が異なるなどの機種ごとの相違を補償することができる。
画像記憶部233は、油圧ショベル100のIDと撮像時刻とに関連付けて、当該油圧ショベル100が備えるステレオカメラ122が当該撮像時刻に撮像した画像対を記憶する。また画像対は、当該撮像時刻における油圧ショベル100の位置方位演算器123が計測した旋回体120の位置および方位、ならびに傾斜検出器124が計測した旋回体120の姿勢を、関連付けて格納する。
図5は、画像記憶部による画像対の管理方式を表す例である。
画像記憶部233は、図5に示すように、ディレクトリ構造を有するファイルシステムによって画像対を記憶することができる。例えば、画像記憶部233は施工現場ごとに分けられた現場ディレクトリを記憶する。画像記憶部233は、各現場ディレクトリの配下に当該施工現場に配備される作業機械ごとに分けられた機械ディレクトリを記憶する。画像記憶部233は、各機械ディレクトリの配下に当該作業機械が撮像した画像対を記憶する。各画像対は、属性情報として、時刻、位置、方位、および姿勢を格納する。他方、画像記憶部233は、データベースによって画像対を記憶してもよい。この場合、画像記憶部233は、施工現場のID、油圧ショベル100のID、撮像時刻、画像対、位置、方位、および姿勢を、関連付けて格納する。
プロセッサ210は、施工管理プログラムPの実行により、作業前データ入力部211、リスト指示部212、選択部213、カメラパラメータ取得部214、ステレオ計測部215、統合部216、土工量算出部217を備える。
作業前データ入力部211は、利用者から作業前の施工現場の形状を表す三次元データである作業前データの入力を受け付ける。作業前データの例としては、起工時にドローンによる写真測量によって生成された施工現場の形状を表す点群データや、起工時にレーザスキャナによって生成された施工現場の形状を表す点群データが挙げられる。作業前データは、点群データに限られず、例えばTINデータなどの面データであってもよい。作業前データは、予めストレージ230に記憶しておいてもよいし、他のコンピュータからネットワークを介して転送されてもよい。作業前とは、施工現場における施工を開始する前の時点(起工時)であってもよいし、施工途中のある時点であってもよい。
リスト指示部212は、利用者から土工量の算出に用いられる画像対の選択指示を受け付ける。利用者は、例えば、インタフェース240を介して接続される入力装置や、ネットワークを介して接続される他のコンピュータを用いて指示を入力する。リスト指示部212は、画像記憶部233が記憶する複数の画像対のリストを利用者に提示する。このとき、リスト指示部212は、利用者から土工量の算出対象となる期間の終了日の入力を受け付け、起工日から入力された終了日までに撮像された複数の画像対のリストを、利用者に提示してもよい。利用者は、提示されたリストの中から、土工量の算出に用いる画像対を特定する。例えば、利用者は、画像記憶部233が記憶する複数の画像対の中から、作業後の施工現場が写る複数の画像対を選択する。リスト指示部212は、利用者から特定された画像対の選択指示を受け付ける。作業後とは、施工途中のある時点であってもよいし、施工現場における施工が設計データと同様の形状になるまで施工された時点(完工時)であってもよい。
選択部213は、リスト指示部212が受け付けた選択指示に従って、画像記憶部233が記憶する複数の画像対の中から、土工量の算出に用いられる画像対を選択する。以下、選択部213が選択した画像対を対象画像対、または1つの対象画像対という。また、作業後の施工現場が写る対象画像対を、作業後画像対という。
つまり、選択部213は、油圧ショベル100に設けられたステレオカメラ122によって撮像された複数の画像対の中から、処理対象となる少なくとも1つの対象画像対を選択する。処理対象とは、ステレオ計測に用いられる画像対をいう。対象画像対とは、処理対象として選択された画像対をいう。
カメラパラメータ取得部214は、選択された対象画像対を撮像した油圧ショベル100を特定し、当該油圧ショベル100に係る最新のカメラパラメータを、カメラパラメータ記憶部231から取得する。カメラパラメータ取得部214は、各対象画像対に関連付けられた油圧ショベル100のIDを画像記憶部233から読み出し、当該IDに関連付けられ、かつ最も新しい更新時刻に関連付けられたカメラパラメータを、カメラパラメータ記憶部231から取得する。
つまり、カメラパラメータ取得部214はカメラパラメータ記憶部231から、対象画像対に関連するカメラパラメータを取得する。なお、「取得する」とは、新たに値を得ることである。例えば、「取得する」は、値を受信すること、値の入力を受け付けること、テーブルから値を読み出すこと、ある値から他の値を算出することを含む。
ステレオ計測部215は、選択部213が選択した対象画像対について、カメラパラメータ取得部214が取得したカメラパラメータを用いてステレオ計測を行うことで、地形を表す点群データを算出する。点群データは、例えば現場座標系の三次元位置を示す複数の点からなる三次元データである。つまり、ステレオ計測部215は、選択された対象画像対を撮像したステレオカメラ122に係るカメラパラメータを用いて、選択された対象画像対から地形を表す三次元データを計算する。
ステレオ計測部215は、選択部213が選択した作業後画像対についてステレオ計測を行うことで、点群データを算出する。以下、作業後画像対から求められた点群データを、作業後点群データという。
統合部216は、選択部213が複数の対象画像対を選択した場合に、ステレオ計測部215が生成した複数の点群データを1つの点群データに統合する。以下、統合部216が統合した点群データを、統合点群データという。統合点群データは、統合三次元データの一例である。つまり、統合部216は、複数の三次元データに基づいて統合三次元データを計算する。統合部216は、複数の作業後点群データを統合し、作業後統合点群データを生成する。
統合部216は、統合点群データの密度を所定密度まで減らす。例えば、統合部216は、二次元平面を所定幅で分割した複数の区間それぞれについて、当該区間に存在する複数の点のうち高さの中央値に相当する点を代表点として抽出することで、統合点群データの密度を減らす。なお、他の実施形態に係る統合部216は、複数の区間それぞれについて、当該区間に存在する複数の点のうち最下点を代表点として抽出する等、その他の手法を用いて代表点を抽出してもよい。
統合部216は、例えば統合点群データにTIN(Triangulated Irregular Network:不等三角網)を配置することで、地形を表す面データを生成する。面データは、統合三次元データの一例である。統合部216は、作業後統合点群データにTINを配置し、作業後データを生成する。
土工量算出部217は、作業前データ入力部211によって入力された作業前データと、統合部216によって生成された作業後データとの差分を土工量として算出する。このとき、土工量算出部217は、作業後データが作業前データより上に位置する部分の体積を盛土量として算出する。土工量算出部217は、作業後データが作業前データより下に位置する部分の体積を掘削量として算出する。土工量の算出方法の例としては、メッシュ法、三角柱法、プリズモイダル法、平均断面法などが挙げられる。
《施工管理方法》
図6は、第1の実施形態に係る施工管理装置の動作を示すフローチャートである。
作業前データ入力部211は、利用者から作業前の施工現場の形状を表す三次元データである作業前データの入力を受け付ける(ステップS1)。例えば、利用者は、ドローンによる写真測量により予め作業前データを取得しておき、当該作業前データを他のコンピュータから施工管理装置200にアップロードする。作業前データがTINデータでない場合(例えば、点群データである場合)、作業前データ入力部211は、入力された作業前データにTINを配置してもよい。
また、リスト指示部212は、利用者から土工量の算出対象となる期間の入力を受け付ける(ステップS2)。次に、リスト指示部212は、画像記憶部233が記憶する複数の画像対のうち、算出対象となる期間内の時刻に関連付けられた画像対のリスト(例えば、サムネイルリスト)を生成し、当該リストを利用者に提示する(ステップS3)。次に、リスト指示部212は、利用者に提示したリストの中から作業後の施工現場が写る1つもしくは複数の画像対の指定を受け付ける(ステップS4)。選択部213は、利用者からの指定に基づいて、画像記憶部233が記憶する複数の画像対の中から、1つもしくは複数の作業後画像対を選択する(ステップS5)。
カメラパラメータ取得部214は、選択された作業後画像対に関連付けられた油圧ショベル100のIDを、画像記憶部233から取得する(ステップS6)。カメラパラメータ取得部214は、読み出した各IDに関連付けられ、かつ最も新しい更新時刻に作成されたカメラパラメータを、それぞれカメラパラメータ記憶部231から取得する(ステップS7)。
ステレオ計測部215は、選択部213が選択した作業後画像対について、当該作業後画像対に関連するカメラパラメータと、当該作業後画像対に関連付けて画像記憶部233に記憶された油圧ショベル100の位置、方位および姿勢と、当該油圧ショベル100の機種に係る機種固有データとを用いてステレオ計測を行うことで、作業後点群データを算出する(ステップS8)。
選択部213によって複数の作業後画像対が選択された場合、統合部216は、複数の作業後点群データを統合し、複数の作業後点群データを構成する複数の点からなる作業後統合点群データを生成する(ステップS9)。統合部216は、二次元平面を所定幅で分割した複数の区間それぞれについて、作業後統合点群データを構成する点であって、当該区間に存在する複数の点のうち高さの中央値に相当する点を、代表点として抽出することで、作業後統合点群データの密度を減らす(ステップS10)。統合部216は、密度を減らした作業後統合点群データにTINを配置し、作業後データを生成する(ステップS11)。
そして、土工量算出部217は、作業前データと作業後データとの差分を土工量として算出する(ステップS12)。
《活用例》
ここで、第1の実施形態に係る施工管理装置200の利用場面について説明する。施工管理装置200による土工量の計算は、例えば施工現場の施工途中の段階において、起工時からの施工の進捗を判断するために実行される。以下、施工の形態別に施工管理装置200の利用方法を説明する。
(施工形態A)
施工現場の施工において、段階的に掘削や盛土がなされる場合、施工現場の地形は日々変化する、すなわち掘削であれば地形が切り下がっていき、盛土であれば地形が盛り上がっていく。この施工形態の場合、油圧ショベル100のオペレータが定期的に(例えば毎日)施工現場の現況地形をステレオカメラ122にて撮像することで、画像記憶部233には一定期間ごとに最新の現況地形を表す画像対が記憶される。このとき、施工管理装置200が一定期間ごとに撮像された画像対をそれぞれステレオ計測することで、一定期間ごとの現況地形の三次元データ(作業後データ)が、例えばストレージ230内に記憶される。この施工形態においては、管理者が、ステップS4において、リストのうち算出対象の期間の終了日に係る画像対を指定することで、施工管理装置200は、算出対象の期間の終了日の地形を特定することができる。
(施工形態B)
施工現場の施工が、施工現場の領域ごとに逐次的に完了されていく場合、例えば所定距離の法面成形において、施工対象領域の一端から順に法面を成形していく場合には、日を追うごとに完了された領域が広がっていく。この施工形態の場合、オペレータは、対象の領域の施工が完了するたびに、その領域をステレオカメラ122で撮像する。それにより、画像記憶部233には、領域ごとに最新の現況地形を表す画像対記憶される。このとき、各画像対の撮像日は異なることとなる。この施工形態においては、管理者が、ステップS4において、リストのうち算出対象の期間内の画像対から土工量を算出する領域に対応する画像対のみを指定することで、施工管理装置200は、算出対象の期間の終了日の地形を特定することができる。
《作用・効果》
このように、第1の実施形態に係る施工管理装置200は、ステレオカメラ122によって撮像された複数の画像対の中から、処理対象となる対象画像対を選択し、選択された対象画像対を撮像したステレオカメラ122に係るカメラパラメータを用いて、地形を表す三次元データを計算する。これにより、施工管理装置200は、任意の時点または地点における地形の三次元データを計算できる。
また、第1の実施形態に係る施工管理装置200は、複数の画像対のリストを利用者に提示し、当該リストから処理対象となる対象画像対の選択を受け付ける。これにより、上記タイプBに係る利用場面において、施工対象を完成させた時点の画像対のみを選択することができる。したがって、第1の実施形態に係る施工管理装置200は、適切な計測結果に基づいて土工量を算出することができる。
また、第1の実施形態に係る施工管理装置200は、複数の対象画像対から計算された複数の点群データに基づいて統合点群データを生成する。これにより、施工管理装置200は、1台のステレオカメラ122の撮像範囲より広い範囲の地形を表す点群データを生成することができる。このとき、施工管理装置200は、複数の点群データに基づいて、二次元平面を分割した複数の区画それぞれの代表点を抽出することで、統合点群データの密度を減らすことができる。特に、第1の実施形態に係る施工管理装置200は、各区画について、複数の点群データを構成する複数の点であってその区画に存在する点のうち、高さの中央値に相当する点を前記代表点として抽出することで、統合点群データを計算する。これにより、施工管理装置200は、統合点群データを構成する点の座標値を変更することなく、適切に統合点群データの密度を減らすことができる。
また、第1の実施形態に係る施工管理装置200は、統合点群データから面データを生成し、異なる時刻に係る面データの差に基づいて土工量を算出する。これにより、施工管理装置200は、任意の期間における任意の地点の土工量を計算できる。なお、他の実施形態においては、統合点群データ同士の差や、統合点群データから生成された他の統合三次元データ(例えば、DEM、ポリゴンデータ、ボクセルデータ)同士の差に基づいて土工量を算出してもよい。
《変形例》
なお、第1の実施形態に係るカメラパラメータ記憶部231は、油圧ショベル100のIDと更新時刻とに関連付けて、当該油圧ショベル100が備えるステレオカメラ122の当該更新時刻におけるカメラパラメータを記憶するが、これに限られない。例えば、他の実施形態に係るカメラパラメータ記憶部231は、複数の油圧ショベル100について最新のカメラパラメータだけを記憶してもよい。
また、第1の実施形態に係るリスト指示部212は、画像対のリストを提示し、当該リストから画像対の選択指示を受け付けるが、これに限られない。例えば、他の実施形態に係るリスト指示部212は、位置情報または時刻情報のリストを提示し、当該リストから位置情報または時刻情報の指示を受け付けることで、位置情報または時刻情報に関連付けられた画像対の選択指示を受け付けてもよい。
また、第1の実施形態に係るリスト指示部212は、土工量の算出対象の期間の入力を受け付け、当該期間に係る画像対のリストを提示するが、これに限られない。例えば、他の実施形態に係るリスト指示部212は、土工量の算出対象の期間の入力を受け付けず、画像記憶部233が記憶するすべての画像対のリストを提示してもよい。
〈第2の実施形態〉
第1の実施形態に係る施工管理装置200は、カメラパラメータ記憶部231に記憶された油圧ショベル100のステレオカメラ122に係る複数のカメラパラメータの内、最新のカメラパラメータを用いてステレオ計測を行う。例えば定期的にカメラパラメータを更新することとした場合、画像対の撮像後にカメラパラメータの校正がなされたとすると、校正後のパラメータを用いて点群データを生成することができるので、計測誤差の小さい計測結果を用いて土工量を計算することができる。一方、画像対の撮像後にステレオカメラ122が何らかの理由により動いてしまい、そのずれに対応するためにカメラパラメータの校正がなされる可能性がある。この場合には、最新のカメラパラメータを用いてステレオ計測すると、ステレオカメラがずれた後のカメラパラメータに基づいて、ステレオカメラがずれる前に撮像した画像対を用いてステレオ計測することになるため、適切に点群データを求められない可能性がある。そこで、第2の実施形態に係る施工管理装置200は、画像対の撮像時点におけるカメラパラメータを用いてステレオ計測を行う。
第2の実施形態に係る施工管理装置200は、第1の実施形態とカメラパラメータ取得部214の動作が異なる。第2の実施形態に係るカメラパラメータ取得部214は、選択された対象画像対を撮像した油圧ショベル100を特定し、当該油圧ショベル100に係る対象画像対の撮像時点のカメラパラメータを、カメラパラメータ記憶部231から取得する。カメラパラメータ取得部214は、各対象画像対に関連付けられた油圧ショベル100のIDと撮像時刻とを画像記憶部233から読み出し、当該IDに関連付けられ、かつ当該撮像時刻の直前の更新時刻に関連付けられたカメラパラメータを、カメラパラメータ記憶部231から取得する。
《施工管理方法》
図7は、第2の実施形態に係る施工管理装置の動作を示すフローチャートである。
作業前データ入力部211は、利用者から作業前の施工現場の形状を表す三次元データである作業前データの入力を受け付ける(ステップS21)。また、リスト指示部212は、利用者から土工量の算出対象となる期間の入力を受け付ける(ステップS22)。次に、リスト指示部212は、画像記憶部233が記憶する複数の画像対のうち、算出対象となる期間内の時刻に関連付けられた画像対のリストを生成し、当該リストを利用者に提示する(ステップS23)。次に、リスト指示部212は、利用者から作業後の施工現場が写る1つもしくは複数の画像対の指定を受け付ける(ステップS24)。選択部213は、利用者からの指定に基づいて、画像記憶部233が記憶する複数の画像対の中から、1つもしくは複数の作業後画像対を選択する(ステップS25)。
カメラパラメータ取得部214は、各作業後画像対に関連付けられた油圧ショベル100のIDおよび撮像時刻を、それぞれ画像記憶部233から読み出す(ステップS26
)。カメラパラメータ取得部214は、読み出した各IDに関連付けられ、かつ読み出した撮像時刻の直前の更新時刻に関連付けられたカメラパラメータを、それぞれカメラパラメータ記憶部231から取得する(ステップS27)。
そして、施工管理装置は、ステップS28からステップS32の処理を実行する。ステップS28からステップS32の処理は、それぞれ第1の実施形態のステップS18からステップS32の処理と同じである。
《作用・効果》
このように、第2の実施形態に係る施工管理装置200は、カメラパラメータ記憶部231から、対象画像対の撮像時刻の直前の更新時刻に係るカメラパラメータ、すなわち撮像時刻時点におけるカメラパラメータを取得し、これに基づいて点群データを求める。これにより、施工管理装置200は、例えば画像対の撮像後にステレオカメラ122が動かされた場合にも、適切に点群データを求めることができる。
《変形例》
なお、他の実施形態に係る施工管理装置200は、撮像時刻に最も近い更新時刻に係るカメラパラメータを取得し、これに基づいて点群データを求めてもよい。例えば、更新時刻が1月1日のカメラパラメータAと、更新時刻が2月1日のカメラパラメータBとがカメラパラメータ記憶部231に記憶されており、画像対の撮像時刻が1月31日である場合、施工管理装置200は、カメラパラメータBに基づいて点群データを求めてもよい。また他の実施形態に係る施工管理装置200は、撮像時刻の前後の更新時刻に係る複数のカメラパラメータによって求められるカメラパラメータに基づいて点群データを求めてもよい。また他の実施形態に係る施工管理装置200は、撮像時刻の直後の更新時刻に係るカメラパラメータに基づいて点群データを求めてもよい。
撮像時刻の直前の更新時刻に係るカメラパラメータ、撮像時刻の直後の更新時刻に係るカメラパラメータ、撮像時刻に最も近い更新時刻に係るカメラパラメータ、および撮像時刻の前後の更新時刻に係る複数のカメラパラメータによって求められるカメラパラメータは、いずれも対象画像対の撮像時刻に関連するカメラパラメータの一例である。
〈他の実施形態〉
以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。
上述した実施形態においては、油圧ショベル100の制御装置125が画像対を施工管理装置200に送信し、施工管理装置200が受信した画像対に基づいて点群データを算出するが、これに限られない。例えば、他の実施形態においては、油圧ショベル100の制御装置125が、ステレオカメラ122が撮像した画像対とカメラパラメータ記憶部331が記憶するカメラパラメータを用いて点群データを算出し、制御装置125が当該点群データを施工管理装置200に送信してもよい。その場合、ストレージ230が画像記憶部233と同様の役割を果たす記憶部を備え、カメラパラメータ記憶部331は、カメラパラメータの更新ごとに更新日時とともにカメラパラメータを複数記憶する。ただし、画像対は、点群データと比較してデータ量が小さいため、上述した実施形態のように画像対を施工管理装置200に送信することで、通信負荷および記憶容量を低減することができる。
また、上述した実施形態に係る施工管理装置200は、統合点群データの密度を減らしたうえで土工量を算出するが、これに限られない。例えば、施工管理装置200は、統合点群データの密度を減らさずに統合点群データのすべての点を用いて土工量を算出してもよい。
また、上述した実施形態に係る施工管理装置200は、油圧ショベル100と別個のコンピュータであるが、これに限られない。例えば、他の実施形態に係る施工管理装置200は、油圧ショベル100の制御装置125に実装されるものであってもよい。つまり、他の実施形態においては、油圧ショベル100の制御装置125が点群データの統合や土工量の算出を行ってもよい。
また、上述した実施形態に係る施工管理装置は、画像対に基づいて生成された複数の点群データのみを利用して統合点群データを生成するが、これに限られない。例えば、他の実施形態に係る施工管理装置200は、画像対に基づいて生成された点群データに加えて、無人航空機(ドローン)を用いた空中写真測量、レーザスキャナによる測量、および作業機110の刃先位置の測定結果、作業機械の履帯位置の測定結果等の他の手段に基づいて生成された点群データも利用して統合点群データを生成してもよい。
また、上述した実施形態に係る施工管理装置200は、作業前データと作業後データという異なる時点に係る2つの三次元データ(統合三次元データ)を用意し、当該2つの三次元データの差に基づいて土工量を算出するが、これに限られない。例えば、作業前データは、画像対をステレオ計測することによって算出された三次元データであってもよい。つまり2つの三次元データの両方が、画像対によって算出されたものであってもよい。また、作業後データは、作業後画像対によらずに算出されたものであってもよい。例えば、作業後データは、CAD(Computer Aided Design)によって生成された三次元データや、空中写真測量、レーザスキャナによる測量、および作業機110の刃先位置の測定結果、作業機械の履帯位置の測定結果等の他の手段に基づいて生成された三次元データであってもよい。
図8は、第3の実施形態に係る施工管理装置の構成を示す概略図である。
上述した実施形態に係る施工管理装置200は、複数の画像対のリストを利用者に提示し、当該リストから処理対象となる対象画像対の選択を受け付けるようにしたが、この実施形態に限られない。例えば、第3の実施形態に係る施工管理装置200は、図8に示すように、リスト指示部212に代えてまたはリスト指示部212に加えて、日時指示部218を備えてもよい。また第3の実施形態に係る施工管理装置200は、三次元データ記憶部234の記憶領域をストレージ230上に確保する。
第3の実施形態に係るステレオ計測部215は、上記の施工形態Aのように一定期間毎(例えば毎日)に撮像された画像対から点群データを生成し、統合部216は生成された点群データを統合して三次元データを生成する。統合部216は、生成した三次元データを日時に関連付けて三次元データ記憶部234に記憶させる。
日時指示部218は、利用者から日時の入力を受け付け、入力された日時に関連付けられた三次元データを三次元データ記憶部234から読み出す。例えば、日時指示部218は、作業前の日時と作業後の日時の入力を受け付け、作業前の三次元データと作業後の三次元データとを読み出す。日時指示部218は、利用者から日付の入力を受け付けてもよい。その場合、日付は日時の一例である。
土工量算出部217は、日時指示部218が読み出した作業前の三次元データと作業後の三次元データとに基づいて土工量を計算する。
第3の実施形態に係る施工管理装置200によれば、上述した施工形態Aのような場合に、容易に土工量計算を行うことができる。
図9は、第4の実施形態に係る施工管理装置の構成を示す概略図である。他の実施形態に係る施工管理装置200は、図9に示すように、リスト指示部212に代えてまたはリスト指示部212に加えて、領域指示部219を備えてもよい。
領域指示部219は、利用者から施工対象の領域の入力を受け付ける。例えば、領域指示部219は、施工現場において複数の座標の入力により当該座標で閉じた領域の入力を受け付ける。
この場合、選択部213は、画像記憶部233が記憶する複数の画像対のうち、領域指示部219が指定した領域に関連する位置に関連付けられた画像対を選択することができる。指定した領域に関連する位置の例としては、指定した領域に含まれる位置が挙げられる。第4の実施形態に係る施工管理装置200によれば、上述した施工形態Bのような場合に、各法面の完成した際に撮像した画像対を利用者が1つずつ選択することなく、画像対の位置情報に基づいて法面の画像対を選択することができる。
また、他の実施形態においては、施工管理装置200は、リスト指示部212、日時指示部218、および領域指示部219の少なくとも1つを備えてもよい。この場合、選択部213は、指示されたすべての条件を満たす画像対、または指示された条件のうち少なくとも1つを満たす画像対を選択することができる。
上述した実施形態に係る土工量算出部217は、TINデータである作業前データと作業後データとの差分を土工量として算出するが、これに限られない。例えば、他の実施形態に係る土工量算出部217は、点群データどうしの比較により、土工量を算出してもよい。
上述した実施形態に係る油圧ショベル100は、撮像装置対を備えるステレオカメラ122を用いて画像対を撮像するが、これに限られない。例えば、他の実施形態に係るステレオカメラ122は、1つのステレオ撮影可能な撮像装置からなるものであってもよい。この場合、ステレオカメラ122は、1つの撮像装置で、異なる2つの位置から異なるタイミングで対象を撮像することで、画像対を撮像することができる。すなわち、油圧ショベル100は、撮像装置対を用いて画像対を撮像してもよいし、1つの撮像装置を用いて画像対を撮像してもよい。つまり、画像対は、1対の撮像装置によって同時に撮像された画像対であってもよいし、1つの撮像装置によって異なるタイミングでステレオ撮像された画像対であってもよい。なお、ステレオカメラ122が1つのステレオ撮影可能な撮像装置からなる場合、カメラパラメータは、内部パラメータと車体パラメータを含み、外部パラメータを含まない。つまり、「撮像装置」は、撮像装置対および1つのステレオ撮影可能な撮像装置を含む。
上述した実施形態に係る施工管理装置200においては、施工管理プログラムPがストレージ230に格納される場合について説明したが、これに限られない。例えば、他の実施形態においては、施工管理プログラムPが通信回線によって施工管理装置200に配信されるものであってもよい。この場合、配信を受けた施工管理装置200が当該施工管理プログラムPをメインメモリ220に展開し、上記処理を実行する。
また、施工管理プログラムPは、上述した機能の一部を実現するためのものであってもよい。例えば、施工管理プログラムPは、上述した機能をストレージ230に既に記憶されている他の施工管理プログラムPとの組み合わせ、または他の装置に実装された他の施工管理プログラムPとの組み合わせで実現するものであってもよい。
また、施工管理装置200は、上記構成に加えて、または上記構成に代えてPLD(Programmable Logic Device)を備えてもよい。PLDの例としては、PAL(Programmable Array Logic)、GAL(Generic Array Logic)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)が挙げられる。この場合、プロセッサ210によって実現される機能の一部または全部が当該PLDによって実現されてよい。
1…施工管理システム 100…油圧ショベル 122…ステレオカメラ 123…位置方位演算器 124…傾斜検出器 125…制御装置 200…施工管理装置 210…プロセッサ 220…メインメモリ 230…ストレージ 240…インタフェース 211…作業前データ入力部 212…リスト指示部 213…選択部 214…カメラパラメータ取得部 215…ステレオ計測部 216…統合部 217…土工量算出部 日時指示部218 領域指示部219 231…カメラパラメータ記憶部 232…機種データ記憶部 233…画像記憶部 234…三次元データ記憶部
本発明の第1の態様によれば、施工管理装置は、施工現場に配置される撮像装置を備えた複数の作業機械を用いて前記施工現場の三次元データを生成する施工管理装置であって、前記複数の作業機械における各撮像装置に関連付けられた複数のカメラパラメータを記憶するカメラパラメータ記憶部と、前記複数の作業機械に設けられた撮像装置によって撮像された複数の画像対の中から、利用者からの入力に基づいて、処理対象となる対象画像対を選択する選択部と、前記カメラパラメータ記憶部が記憶する複数のカメラパラメータのうち、選択された前記対象画像対を撮像した作業機械における前記撮像装置に係るカメラパラメータを用いて、選択された前記対象画像対から前記対象画像対を撮像した作業機械の周辺の地形を表す三次元データを生成するステレオ計測部とを備える。

Claims (7)

  1. 作業機械に設けられた撮像装置によって撮像された画像対の中から、処理対象となる対象画像対を選択する選択部と、
    選択された前記対象画像対を撮像した前記撮像装置に係るカメラパラメータを用いて、選択された前記対象画像対から作業機械の周辺の地形を表す三次元データを生成するステレオ計測部と
    を備える施工管理装置。
  2. 複数の時刻のそれぞれに関連付けて、当該時刻における前記撮像装置に係るカメラパラメータを記憶するカメラパラメータ記憶部と、
    前記カメラパラメータ記憶部から、前記対象画像対の撮像時刻に関連する前記カメラパラメータを取得するカメラパラメータ取得部と
    を備え、
    前記ステレオ計測部は、取得された前記カメラパラメータを用いて、選択された前記対象画像対から前記三次元データを生成する
    請求項1に記載の施工管理装置。
  3. 前記画像対に関連付けて、前記撮像装置と撮像時刻とを記憶する画像記憶部を備え、
    前記選択部は、前記画像記憶部が記憶する前記画像対の中から、前記対象画像対を選択する
    請求項1または請求項2に記載の施工管理装置。
  4. 日時の入力を受け付ける日時指定部と、
    複数の日時に関連付けて三次元データを記憶する三次元データ記憶部と
    を備え、
    前記選択部は、前記三次元データ記憶部が記憶する複数の三次元データの中から、前記日時指定部に入力された日時に関連付けられた前記三次元データを選択する
    請求項1から請求項3のいずれか1項に記載の施工管理装置。
  5. 施工対象の領域の入力を受け付ける領域指示部を備え、
    前記選択部は、前記画像対の中から、前記領域指示部に入力された領域に関連する位置で撮像された前記対象画像を選択する
    請求項1から請求項4のいずれか1項に記載の施工管理装置。
  6. 作業機械に設けられた撮像装置に係るカメラパラメータであって、複数の時刻における前記撮像装置に係る複数のカメラパラメータを記憶するカメラパラメータ記憶部と、
    前記複数のカメラパラメータの中から、前記撮像装置によって撮像された画像対の撮像時刻に関連するカメラパラメータを取得するカメラパラメータ取得部と、
    前記画像対と、取得した前記カメラパラメータを用いて、作業機械の周辺の地形を表す三次元データを生成するステレオ計測部と、
    を備える施工管理装置。
  7. 作業機械に設けられた撮像装置によって撮像された画像対の中から、処理対象となる対象画像対を選択するステップと、
    選択された前記対象画像対を撮像した前記撮像装置に係るカメラパラメータを用いて、選択された前記対象画像対から作業機械の周辺の地形を表す三次元データを生成するステップと
    を有する施工管理方法。
JP2017173237A 2017-09-08 2017-09-08 施工管理装置および施工管理方法 Active JP6840645B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2017173237A JP6840645B2 (ja) 2017-09-08 2017-09-08 施工管理装置および施工管理方法
DE112018001834.2T DE112018001834T5 (de) 2017-09-08 2018-06-27 Bau-Leitungs-Vorrichtung und Bau-Leitungs-Verfahren
PCT/JP2018/024382 WO2019049475A1 (ja) 2017-09-08 2018-06-27 施工管理装置および施工管理方法
US16/606,816 US11100663B2 (en) 2017-09-08 2018-06-27 Construction management device and construction management method
AU2018327449A AU2018327449B9 (en) 2017-09-08 2018-06-27 Construction management device and construction management method
CN201880027693.XA CN110573834B (zh) 2017-09-08 2018-06-27 施工管理装置及施工管理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017173237A JP6840645B2 (ja) 2017-09-08 2017-09-08 施工管理装置および施工管理方法

Publications (2)

Publication Number Publication Date
JP2019049121A true JP2019049121A (ja) 2019-03-28
JP6840645B2 JP6840645B2 (ja) 2021-03-10

Family

ID=65633910

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017173237A Active JP6840645B2 (ja) 2017-09-08 2017-09-08 施工管理装置および施工管理方法

Country Status (6)

Country Link
US (1) US11100663B2 (ja)
JP (1) JP6840645B2 (ja)
CN (1) CN110573834B (ja)
AU (1) AU2018327449B9 (ja)
DE (1) DE112018001834T5 (ja)
WO (1) WO2019049475A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024053315A1 (ja) * 2022-09-08 2024-03-14 日立建機株式会社 施工履歴演算システム及び地形データ生成システム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6974217B2 (ja) * 2018-02-28 2021-12-01 株式会社小松製作所 施工管理装置
JP2021021245A (ja) * 2019-07-29 2021-02-18 コベルコ建機株式会社 建設機械の作業内容判定システム及び作業判定方法
JP6996012B1 (ja) * 2021-01-14 2022-01-17 オリエンタル白石株式会社 三次元形状推定システム
US11531943B1 (en) * 2021-11-18 2022-12-20 Slate Technologies Inc. Intelligence driven method and system for multi-factor optimization of schedules and resource recommendations for smart construction
US11906981B2 (en) 2022-02-08 2024-02-20 Caterpillar Inc. System and method for updating virtual worksite
US11907885B1 (en) 2022-03-29 2024-02-20 Slate Technologies Inc. System and method for computational simulation and augmented/virtual reality in a construction environment
US11461716B1 (en) 2022-04-14 2022-10-04 Haul Hub Inc. Construction source record and project reconciliation system with life cycle chain of custody capability
US11748675B1 (en) * 2022-04-14 2023-09-05 Haul Hub Inc. Construction site automatic telematic data to project specification requirements reconciliation system

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0816783A (ja) * 1994-06-24 1996-01-19 Canon Inc 画像処理装置及び方法
JPH11211473A (ja) * 1998-01-22 1999-08-06 Komatsu Ltd 地形形状計測装置
JP2003075148A (ja) * 2001-09-03 2003-03-12 Techno Vanguard:Kk デジタルスチルカメラを用いた変位計測装置
JP2009058359A (ja) * 2007-08-31 2009-03-19 Omron Corp 画像処理装置
JP2012255286A (ja) * 2011-06-08 2012-12-27 Topcon Corp 建設機械制御システム
JP2015203680A (ja) * 2014-04-16 2015-11-16 キヤノン株式会社 情報処理装置、方法、プログラム
WO2017061515A1 (ja) * 2015-10-05 2017-04-13 株式会社小松製作所 建設機械及び施工管理システム

Family Cites Families (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1314623C (en) 1988-09-20 1993-03-16 Naoshi Suzuki Image pickup system capable of obtaining a plurality of stereo images with different base height ratios
US6333749B1 (en) * 1998-04-17 2001-12-25 Adobe Systems, Inc. Method and apparatus for image assisted modeling of three-dimensional scenes
US6789039B1 (en) * 2000-04-05 2004-09-07 Microsoft Corporation Relative range camera calibration
EP1796039B1 (en) 2005-12-08 2018-11-28 Topcon Corporation Device and method for image processing
JP2008204318A (ja) * 2007-02-22 2008-09-04 Advanced Telecommunication Research Institute International 画像処理装置、画像処理方法及び画像処理プログラム
JP2010166302A (ja) * 2009-01-15 2010-07-29 Konica Minolta Holdings Inc 画像記録装置
CN101576382B (zh) 2009-02-27 2010-12-08 泰瑞数创科技(北京)有限公司 一种基于三维展示平台的水利监测方法
JP2011147067A (ja) * 2010-01-18 2011-07-28 Sony Corp 画像処理装置及び方法、並びにプログラム
CN101915569B (zh) 2010-07-07 2012-09-26 南京信息工程大学 风浪要素数值实景监测系统及其监测方法
US9401178B2 (en) * 2010-08-26 2016-07-26 Blast Motion Inc. Event analysis system
US8817067B1 (en) * 2011-07-29 2014-08-26 Google Inc. Interface for applying a photogrammetry algorithm to panoramic photographic images
JP5802476B2 (ja) * 2011-08-09 2015-10-28 株式会社トプコン 建設機械制御システム
WO2013062557A1 (en) 2011-10-27 2013-05-02 The Boeing Company Stereo video movies
US9070216B2 (en) * 2011-12-14 2015-06-30 The Board Of Trustees Of The University Of Illinois Four-dimensional augmented reality models for interactive visualization and automated construction progress monitoring
JP5735455B2 (ja) * 2012-05-22 2015-06-17 日本電信電話株式会社 移動物体ポーズ算出装置、移動物体ポーズ算出方法、及びプログラム
EP3235773B8 (en) * 2012-09-21 2023-09-20 Tadano Ltd. Surrounding information-obtaining device for working vehicle
US9659237B2 (en) * 2012-10-05 2017-05-23 Micro Usa, Inc. Imaging through aerosol obscurants
US20150094953A1 (en) * 2013-10-02 2015-04-02 Deere & Company System for locating and characterizing a topographic feature from a work vehicle
CN104580920B (zh) * 2013-10-21 2018-03-13 华为技术有限公司 一种成像处理的方法及用户终端
CN105225265B (zh) 2014-05-28 2019-08-06 深圳超多维科技有限公司 三维图像自动合成方法及装置
EP3154025B1 (en) 2014-06-03 2021-10-13 Sumitomo Heavy Industries, Ltd. Human detection system for construction machine
JP6433200B2 (ja) * 2014-08-28 2018-12-05 株式会社トプコン 演算装置、演算方法、およびプログラム
US9378554B2 (en) * 2014-10-09 2016-06-28 Caterpillar Inc. Real-time range map generation
JP6552192B2 (ja) * 2014-12-18 2019-07-31 京セラ株式会社 ステレオカメラ装置、移動体、制御方法及び較正装置
US10007998B2 (en) * 2015-03-20 2018-06-26 Ricoh Company, Ltd. Image processor, apparatus, and control system for correction of stereo images
CN104778740A (zh) 2015-04-16 2015-07-15 成都中科合迅科技有限公司 一种大坝施工进度三维仿真方法
EP3086196B1 (en) 2015-04-21 2017-04-05 Hexagon Technology Center GmbH Method and control system for surveying and mapping a terrain while operating a bulldozer
US20160312432A1 (en) * 2015-04-23 2016-10-27 Caterpillar Inc. Computer Vision Assisted Work Tool Recognition and Installation
WO2016203988A1 (ja) * 2015-06-17 2016-12-22 ソニー株式会社 画像処理装置および画像処理方法
CN105046426B (zh) 2015-07-08 2018-08-31 安徽立卓智能电网科技有限公司 一种基于数据库多张历史数据表的工况信息断面重现方法
JP2017049052A (ja) * 2015-08-31 2017-03-09 日本ユニシス株式会社 対象物の3次元画像データを生成するためのシステム、方法、プログラム
CN105518221A (zh) * 2015-09-30 2016-04-20 株式会社小松制作所 拍摄装置的校正系统、作业机械和拍摄装置的校正方法
JP6925775B2 (ja) 2015-10-05 2021-08-25 株式会社小松製作所 施工管理システム
JP6558289B2 (ja) 2016-03-25 2019-08-14 セイコーエプソン株式会社 電子時計および電子時計の制御方法
WO2016148309A1 (ja) 2016-03-29 2016-09-22 株式会社小松製作所 校正システム、作業機械及び校正方法
CN105867404A (zh) * 2016-05-20 2016-08-17 张爱军 一种无人机测量土石方的设备及方法
CN106354869A (zh) 2016-09-13 2017-01-25 四川研宝科技有限公司 基于位置信息与时间段的实景图像处理方法及其服务器
US10399325B2 (en) * 2016-12-13 2019-09-03 Caterpillar Inc. Systems and methods for preparing a worksite for additive construction
JP6581139B2 (ja) * 2017-03-31 2019-09-25 日立建機株式会社 作業機械の周囲監視装置
US10733752B2 (en) * 2017-07-24 2020-08-04 Deere & Company Estimating a volume of contents in a container of a work vehicle
JP7365122B2 (ja) * 2019-02-01 2023-10-19 株式会社小松製作所 画像処理システムおよび画像処理方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0816783A (ja) * 1994-06-24 1996-01-19 Canon Inc 画像処理装置及び方法
JPH11211473A (ja) * 1998-01-22 1999-08-06 Komatsu Ltd 地形形状計測装置
JP2003075148A (ja) * 2001-09-03 2003-03-12 Techno Vanguard:Kk デジタルスチルカメラを用いた変位計測装置
JP2009058359A (ja) * 2007-08-31 2009-03-19 Omron Corp 画像処理装置
JP2012255286A (ja) * 2011-06-08 2012-12-27 Topcon Corp 建設機械制御システム
JP2015203680A (ja) * 2014-04-16 2015-11-16 キヤノン株式会社 情報処理装置、方法、プログラム
WO2017061515A1 (ja) * 2015-10-05 2017-04-13 株式会社小松製作所 建設機械及び施工管理システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024053315A1 (ja) * 2022-09-08 2024-03-14 日立建機株式会社 施工履歴演算システム及び地形データ生成システム

Also Published As

Publication number Publication date
CN110573834A (zh) 2019-12-13
AU2018327449A1 (en) 2019-12-05
AU2018327449B2 (en) 2021-06-10
US20200388043A1 (en) 2020-12-10
CN110573834B (zh) 2022-05-17
AU2018327449B9 (en) 2021-10-21
WO2019049475A1 (ja) 2019-03-14
US11100663B2 (en) 2021-08-24
DE112018001834T5 (de) 2020-01-16
JP6840645B2 (ja) 2021-03-10

Similar Documents

Publication Publication Date Title
JP6840645B2 (ja) 施工管理装置および施工管理方法
US11934192B2 (en) Obstacle detection and manipulation by a vehicle within a dig site
AU2022209235B2 (en) Display control device and display control method
JP7365122B2 (ja) 画像処理システムおよび画像処理方法
EP1584895B1 (en) Survey data processing system
CN109661494B (zh) 作业机械的检测处理装置及作业机械的检测处理方法
JP6322612B2 (ja) 施工管理システム及び形状計測方法
CN112469869A (zh) 图像处理系统、显示装置、图像处理方法、学习完毕模型的生成方法以及学习用数据集
JP6585697B2 (ja) 施工管理システム
KR20180115756A (ko) 형상 계측 시스템, 작업 기계 및 형상 계측 방법
AU2019292457B2 (en) Display control device, display control system, and display control method
AU2019292458B2 (en) Display control system, display control device, and display control method
JP2020117982A (ja) 作業機械
JP7215742B2 (ja) 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
JP2022164713A (ja) 作業機械の画像表示システム及び作業機械の画像表示方法
JP6606230B2 (ja) 形状計測システム
CN108779985B (zh) 施工管理系统
JP6815462B2 (ja) 形状計測システム及び形状計測方法
JP2022547608A (ja) 画像ベースの生産性追跡システム
JP2017071914A (ja) 施工方法、作業機械の制御システム及び作業機械
JP7107792B2 (ja) 建設機械
JP2021103840A (ja) 作業支援サーバ、撮像装置の選択方法
WO2022209052A1 (ja) 出来形情報処理システム
JP2022150641A (ja) 物体認識システム
JP2024062809A (ja) 建設機械の作業管理システム及び作業管理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180627

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190507

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200117

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200117

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200127

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200128

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200403

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200407

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200721

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200915

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20201006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201207

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210105

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210209

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210217

R150 Certificate of patent or registration of utility model

Ref document number: 6840645

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150