JP2018021885A - 施工管理システム - Google Patents

施工管理システム Download PDF

Info

Publication number
JP2018021885A
JP2018021885A JP2016155103A JP2016155103A JP2018021885A JP 2018021885 A JP2018021885 A JP 2018021885A JP 2016155103 A JP2016155103 A JP 2016155103A JP 2016155103 A JP2016155103 A JP 2016155103A JP 2018021885 A JP2018021885 A JP 2018021885A
Authority
JP
Japan
Prior art keywords
data
geological
dimensional
image data
acquisition unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016155103A
Other languages
English (en)
Other versions
JP6887229B2 (ja
Inventor
中野 一郎
Ichiro Nakano
一郎 中野
豊久 松田
Toyohisa Matsuda
豊久 松田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2016155103A priority Critical patent/JP6887229B2/ja
Priority to DE112017001522.7T priority patent/DE112017001522T5/de
Priority to CN201780016276.0A priority patent/CN108779985B/zh
Priority to AU2017305111A priority patent/AU2017305111B2/en
Priority to PCT/JP2017/028494 priority patent/WO2018026019A1/ja
Priority to US16/090,326 priority patent/US11966990B2/en
Publication of JP2018021885A publication Critical patent/JP2018021885A/ja
Application granted granted Critical
Publication of JP6887229B2 publication Critical patent/JP6887229B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/08Construction
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/2054Fleet management
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • E02F9/262Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C15/00Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
    • G01C15/02Means for marking measuring points
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Structural Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Civil Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Human Resources & Organizations (AREA)
  • General Business, Economics & Management (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Multimedia (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】地質データを含む施工対象の3次元データを効率良く取得できる施工管理システムを提供する。【解決手段】施工管理システムは、施工対象の地質データを取得する地質データ取得部と、施工対象の3次元データを取得する3次元データ取得部と、を備え、3次元データ取得部は、地質データに基づいて、施工対象の地質の境界を含む3次元データを取得する。【選択図】図4

Description

本発明は、施工管理システムに関する。
撮像装置を搭載した作業機械が知られている。特許文献1には、施工計画データとステレオカメラの位置情報に基づき施工計画2次元画像データを作成し、施工計画2次元画像データとステレオカメラで撮像された現況2次元画像データとを重合わせ、重合わせた合成画像を3次元表示装置に3次元表示させる技術が開示されている。
特開2013−036243号公報
施工対象の地質によって単位時間当たりに実施可能な施工量又は工期が変動する可能性がある。施工し易い地質の場合、施工量が増大し工期が短期化する。施工し難い地質の場合、施工量が低減し工期が長期化する。このように、施工対象の地質は、単位時間当たりに実施可能な施工量又は工期に影響を及ぼす可能性がある。そのため、施工計画の段階において施工対象の地質の調査が実施され、地質についてのデータが取得される。
施工計画の段階において調査された地質と施工実施の段階において認識される地質とが異なる場合、施工実施の段階において地質の調査を再度実施する必要がある。施工対象において地質が変化する場合、地質データを含む施工対象の3次元データを効率良く取得できる技術が要望される。
本発明の態様は、地質データを含む施工対象の3次元データを効率良く取得できる施工管理システムを提供することを目的とする。
本発明の第1の態様に従えば、作業機械に設けられた撮像装置で撮影された対象の2次元画像データを取得する2次元画像データ取得部と、前記作業機械に取り付けられ、前記対象の3次元データを取得する3次元データ取得部と、前記2次元画像データに地質データを入力する入力部と、入力された前記地質データを、前記3次元データに付与する地質データ取得部と、を備える、施工管理システムが提供される。
本発明の第2の態様に従えば、作業機械に設けられた撮像装置で撮影された対象の2次元画像データを取得する2次元画像データ取得部と、前記撮像装置によって前記2次元画像データが撮影された時点の位置データを取得する位置データ取得部と、前記2次元画像データ内に含まれる地面の地質に関する地質データを取得する地質データ取得部と、前記2次元画像データに、前記2次元画像データが取得された時点の前記作業機械の前記位置データ、前記2次元画像データ内に含まれる地面の地質データ、及び前記2次元画像データが取得された時点の時点データを付加して記憶する記憶部と、を備える施工管理システムが提供される。
本発明の第3の態様に従えば、作業機械に取り付けられ、施工対象の3次元データを取得する3次元データ取得部と、前記施工対象において発生した事象の位置を示す事象位置データを取得する事象位置データ取得部と、を備え、前記3次元データ取得部は、前記3次元データ取得部により得られた3次元データに、前記事象に関する情報及び前記事象位置データを付与する、施工管理システムが提供される。
本発明の態様によれば、地質データを含む施工対象の3次元データを効率良く取得できる施工管理システムが提供される。
図1は、本実施形態に係る作業機械の一例を示す斜視図である。 図2は、本実施形態に係る撮像装置の一例を示す斜視図である。 図3は、本実施形態に係る作業機械の制御システム及び施工管理システムの一例を模式的に示す図である。 図4は、本実施形態に係る検出処理装置の一例を示す機能ブロック図である。 図5は、本実施形態に係る撮像装置及び検出処理装置の処理の一例を示す模式図である。 図6は、地質が均一である施工対象を模式的に示す図である。 図7は、地質が変化する施工対象を模式的に示す図である。 図8は、本実施形態に係る2次元画像データ取得部に取得された2次元画像データの一例を模式的に示す図である。 図9は、本実施形態に係る地質エリアデータを表示する表示装置の一例を模式的に示す図である。 図10は、本実施形態に係る施工管理方法の一例を示すフローチャートである。
以下、本発明に係る実施形態について図面を参照しながら説明するが、本発明はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
以下の説明においては、3次元のグローバル座標系(Xg,Yg,Zg)、3次元の車体座標系(Xm,Ym,Zm)、及び3次元のカメラ座標系(Xs,Ys,Zs)を規定して、各部の位置関係について説明する。
グローバル座標系は、水平面内のXg軸と、水平面内においてXg軸と直交するYg軸と、Xg軸及びYg軸と直交するZg軸とによって規定される。Xg軸と平行な方向をXg軸方向とし、Yg軸と平行な方向をYg軸方向とし、Zg軸と平行な方向をZg軸方向とする。また、Xg軸を中心とする回転又は傾斜方向をθXg方向とし、Yg軸を中心とする回転又は傾斜方向をθYg方向とし、Zg軸を中心とする回転又は傾斜方向をθZg方向とする。Zg軸方向は鉛直方向である。
車体座標系は、作業機械の車体に規定された原点を基準として一方向に延在するXm軸と、Xm軸と直交するYm軸と、Xm軸及びYm軸と直交するZm軸とによって規定される。Xm軸と平行な方向をXm軸方向とし、Ym軸と平行な方向をYm軸方向とし、Zm軸と平行な方向をZm軸方向とする。Xm軸方向は作業機械の前後方向であり、Ym軸方向は作業機械の車幅方向であり、Zm軸方向は作業機械の上下方向である。
カメラ座標系は、撮像装置に規定された原点を基準として一方向に延在するXs軸と、Xs軸と直交するYs軸と、Xs軸及びYs軸と直交するZs軸とによって規定される。Xs軸と平行な方向をXs軸方向とし、Ys軸と平行な方向をYs軸方向とし、Zs軸と平行な方向をZs軸方向とする。Xs軸方向は撮像装置の上下方向であり、Ys軸方向は撮像装置の幅方向であり、Zs軸方向は撮像装置の前後方向である。Zs軸方向は撮像装置の光学系の光軸と平行である。
[作業機械]
図1は、本実施形態に係る作業機械1の一例を示す斜視図である。本実施形態においては、作業機械1が油圧ショベルである例について説明する。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
図1に示すように、油圧ショベル1は、車体1Bと、作業機2とを有する。車体1Bは、旋回体3と、旋回体3を旋回可能に支持する走行体5とを有する。
旋回体3は、旋回軸Zrを中心に旋回可能である。旋回軸ZrとZm軸とは平行である。旋回体3は、運転室4を有する。油圧ポンプ及び内燃機関が旋回体3に配置される。走行体5は、履帯5a,5bを有する。履帯5a,5bが回転することにより、油圧ショベル1が走行する。
作業機2は、旋回体3に連結される。作業機2は、旋回体3に連結されるブーム6と、ブーム6に連結されるアーム7と、アーム7に連結されるバケット8と、ブーム6を駆動するブームシリンダ10と、アーム7を駆動するアームシリンダ11と、バケット8を駆動するバケットシリンダ12とを有する。ブームシリンダ10、アームシリンダ11、及びバケットシリンダ12はそれぞれ、油圧によって駆動される油圧シリンダである。
バケット8は、複数の刃8Bを有する。複数の刃8Bは、車体座標系のYm軸方向に配置される。刃8Bは、刃先8BTを有する。刃先8BTは、刃8Bの先端部に設けられる。バケット8は、作業具の一種である。なお、アーム7に連結される作業具は、バケット8に限定されない。作業具は、アーム7に連結される作業具は、例えばチルトバケットでもよいし、法面バケット又は削岩用のチップを備えた削岩用のアタッチメントでもよい。
本実施形態において、グローバル座標系(Xg,Yg,Zg)で規定される旋回体3の位置が検出される。グローバル座標系は、地球に固定された原点を基準とする座標系である。グローバル座標系は、GNSS(Global Navigation Satellite System)によって規定される座標系である。GNSSとは、全地球航法衛星システムをいう。全地球航法衛星システムの一例として、GPS(Global Positioning System)が挙げられる。GNSSは、複数の測位衛星を有する。GNSSは、緯度、経度、及び高度の座標データで規定される位置を検出する。
車体座標系(Xm,Ym,Zm)は、旋回体3に固定された原点を基準とする座標系である。車体座標系の原点は、例えば旋回体3のスイングサークルの中心である。スイングサークルの中心は、旋回体3の旋回軸Zrに存在する。車体座標系のZm軸は、旋回体3の旋回軸Zrと一致する。Xm軸方向は、旋回体3の前後方向である。Ym軸方向は、旋回体3の車幅方向である。Zm軸方向は、旋回体3の上下方向である。
油圧ショベル1は、旋回体3の位置を検出する位置検出器23と、旋回体3の姿勢を検出する姿勢検出器24と、旋回体3の方位を検出する方位検出器25とを有する。
位置検出器23は、GPS受信機を含む。位置検出器23は、旋回体3に設けられる。位置検出器23は、グローバル座標系で規定される旋回体3の位置である絶対位置を検出する。旋回体3の絶対位置は、Xg軸方向の座標データ、Yg軸方向の座標データ、及びZg軸方向の座標データを含む。
旋回体3に一対のGPSアンテナ21,22が設けられる。本実施形態において、GPSアンテナ21,22は、旋回体3の上部に設けられた手すり9に設けられる。GPSアンテナ21,22は、車体座標系のYm軸方向に配置される。GPSアンテナ21,22は、一定距離だけ離れている。GPSアンテナ21,22は、GPS衛星から電波を受信して、受信した電波に基づいて生成した信号を位置検出器23に出力する。位置検出器23は、GPSアンテナ21,22から供給された信号に基づいて、グローバル座標系で規定されるGPSアンテナ21,22の位置である絶対位置を検出する。位置検出器23は、GPSアンテナ21,22の絶対位置に基づいて、旋回体3の絶対位置を検出する。
位置検出器23は、一方のGPSアンテナ21の絶対位置及び他方のGPSアンテナ22の絶対位置のそれぞれを検出する。位置検出器23は、GPSアンテナ21の絶対位置及びGPSアンテナ22の絶対位置の少なくとも一方に基づいて演算処理を実施して、旋回体3の絶対位置を算出する。
姿勢検出器24は、慣性計測装置(IMU:Inertial Measurement Unit)を含む。姿勢検出器24は、旋回体3に設けられる。姿勢検出器24は、グローバル座標系で規定される水平面(XgYg平面)に対する旋回体3の傾斜角度を算出する。水平面に対する旋回体3の傾斜角度は、Ym軸方向(車幅方向)における旋回体3の傾斜角度を示すロール角θrと、Xm軸方向(前後方向)における旋回体3の傾斜角度を示すピッチ角θpとを含む。
姿勢検出器24は、姿勢検出器24に作用する加速度及び角速度を検出する。姿勢検出器24に作用する加速度及び角速度が検出されることにより、旋回体3に作用する加速度及び角速度が検出される。旋回体3に作用する加速度及び角速度に基づいて、旋回体3の姿勢が算出される。
方位検出器25は、一方のGPSアンテナ21の絶対位置と他方のGPSアンテナ22の絶対位置とに基づいて、グローバル座標系で規定される基準方位に対する旋回体3の方位を算出する。基準方位は、例えば北である。方位検出器25は、GPSアンテナ21の絶対位置とGPSアンテナ22の絶対位置とに基づいて演算処理を実施して、基準方位に対する旋回体3の方位を算出する。方位検出器25は、GPSアンテナ21の絶対位置とGPSアンテナ22の絶対位置とを結ぶ直線を算出し、算出した直線と基準方位とがなす角度に基づいて、基準方位に対する旋回体3の方位を算出する。基準方位に対する旋回体3の方位は、基準方位と旋回体3の方位とがなす角度を示すヨー角(方位角)θyを含む。
[撮像装置]
図2は、本実施形態に係る撮像装置30の一例を示す斜視図である。図2は、油圧ショベル1の運転室4の近傍を示す斜視図である。
図2に示すように、油圧ショベル1は、撮像装置30を有する。撮像装置30は、運転室4の内側に設けられる。撮像装置30は、運転室4の前方(+Xm方向)かつ上方(+Zm方向)に配置される。
撮像装置30は、旋回体3の前方に存在する撮影対象を撮影する。本実施形態において、撮影対象は、施工現場において施工される施工対象を含む。施工対象は、油圧ショベル1の作業機2で掘削される掘削対象を含む。なお、施工対象は、他の油圧ショベル1otの作業機2で掘削される掘削対象でもよいし、撮像装置30を有する油圧ショベル1とは別の作業機械によって施工される施工対象でもよい。なお、施工対象は、作業者によって施工される施工対象でもよい。
また、施工対象は、施工前の施工対象、施工中の施工対象、及び施工後の施工対象を含む概念である。
撮像装置30は、光学系と、イメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。撮像装置30は、少なくとも施工対象の地質を目視で判断できるレベルの画質の2次元画像データを取得可能である。例えば、施工対象が異なる複数の地質で形成されている場合、撮像装置30は、異なる地質の境界を目視で判断できるレベルの画質の2次元画像データを取得可能である。
本実施形態において、撮像装置30は、複数の撮像装置30a,30b,30c,30dを含む。撮像装置30a,30cは、撮像装置30b,30dよりも+Ym側(作業機2側)に配置される。撮像装置30aと撮像装置30bとはYm軸方向に間隔をあけて配置される。撮像装置30cと撮像装置30dとはYm軸方向に間隔をあけて配置される。撮像装置30a,30bは、撮像装置30c,30dよりも+Zm側に配置される。Zm軸方向において、撮像装置30aと撮像装置30bとは実質的に同一の位置に配置される。Zm軸方向において、撮像装置30cと撮像装置30dとは実質的に同一の位置に配置される。
4つの撮像装置30(30a,30b,30c,30d)のうち2つの撮像装置30の組合せによりステレオカメラが構成される。ステレオカメラとは、撮影対象を複数の異なる方向から同時に撮影することにより、撮影対象の奥行き方向についてのデータも取得できるカメラをいう。本実施形態においては、撮像装置30a,30bの組合せにより第1のステレオカメラが構成され、撮像装置30c,30dの組合せにより第2のステレオカメラが構成される。
本実施形態において、撮像装置30a,30bは上方(+Zm方向)を向く。撮像装置30c,30dは下方(−Zm方向)を向く。また、撮像装置30a,30cは、前方(+Xm方向)を向く。撮像装置30b,30dは、前方よりも僅かに+Ym側(作業機2側)を向く。すなわち、撮像装置30a,30cは、旋回体3の正面を向き、撮像装置30b,30dは、撮像装置30a,30b側を向く。なお、撮像装置30b,30dが旋回体3の正面を向き、撮像装置30a,30cが撮像装置30b,30d側を向いてもよい。
撮像装置30は、旋回体3の前方に存在する撮影対象をステレオ撮影する。本実施形態においては、少なくとも一対の撮像装置30によるステレオ2次元画像データを用いて施工対象が3次元計測され、施工対象の3次元データが算出される。施工対象の3次元データは、施工対象の表面(地表)の3次元データである。施工対象の3次元データは、グローバル座標系における施工対象の3次元位置データ及び3次元形状データを含む。
複数の撮像装置30(30a,30b,30c,30d)のそれぞれについてカメラ座標系(Xs,Ys,Zs)が規定される。カメラ座標系は、撮像装置30に固定された原点を基準とする座標系である。カメラ座標系のZs軸は撮像装置30の光学系の光軸と一致する。Xs軸方向は撮像装置30の上下方向である。Ys軸方向は撮像装置30の幅方向である。Zs軸方向は撮像装置30の前後方向である。また、本実施形態においては、複数の撮像装置30a,30b,30c,30dのうち、撮像装置30cが基準撮像装置に設定される。
[施工管理システム]
図3は、本実施形態に係る油圧ショベル1の制御システム50及びサーバ61を含む施工管理システム100の一例を模式的に示す図である。
制御システム50は、油圧ショベル1に配置される。サーバ61は、油圧ショベル1の遠隔地に設けられる。制御システム50とサーバ61とは、通信回線NTWを介してデータ通信可能である。また、通信回線NTWには、制御システム50及びサーバ61のみならず、携帯端末装置64及び他の油圧ショベル1otの制御システム50otが接続される。油圧ショベル1の制御システム50と、サーバ61と、携帯端末装置64と、他の油圧ショベル1otの制御システム50otとは、通信回線NTWを介してデータ通信可能である。通信回線NTWは、携帯電話網及びインターネットの少なくとも一方を含む。なお、通信回線NTWが無線LAN(Local Area Network)を含んでもよい。
制御システム50は、複数の撮像装置30(30a,30b,30c,30d)と、検出処理装置51と、施工データ生成装置52と、施工管理装置57と、表示装置58と、通信装置26とを有する。
また、制御システム50は、位置検出器23と、姿勢検出器24と、方位検出器25とを有する。
検出処理装置51、施工データ生成装置52、施工管理装置57、表示装置58、通信装置26、位置検出器23、姿勢検出器24、及び方位検出器25は、信号線59に接続され相互にデータ通信可能である。信号線59に適用される通信規格は、例えばCAN(Controller Area Network)である。
制御システム50は、コンピュータシステムを含む。制御システム50は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置と、RAM(Random Access Memory)のような不揮発性メモリ及びROM(Random Access Memory)のような揮発性メモリを含む記憶装置とを有する。通信用アンテナ26Aが通信装置26と接続される。通信装置26は、サーバ61、携帯端末装置64、及び他の油圧ショベル1otの制御システム50otの少なくとも1つと通信回線NTWを介してデータ通信可能である。
検出処理装置51は、少なくとも一対の撮像装置30によって撮像された施工対象の一対の2次元画像データに基づいて、施工対象の3次元データを算出する。検出処理装置51は、施工対象の一対の2次元画像データをステレオ方式で画像処理することにより、3次元座標系における施工対象の複数の部位の座標を示す3次元データを算出する。ステレオ方式の画像処理とは、同一の撮影対象を2つの異なる撮像装置30から観測して得られる2つの画像から、その撮影対象までの距離を得る手法をいう。撮影対象までの距離は、例えば撮影対象までの距離データを濃淡により可視化した距離画像として表現される。
ハブ31、撮像スイッチ32、識別子付与スイッチ33、及び入力部34が検出処理装置51に接続される。ハブ31は、複数の撮像装置30a,30b,30c,30dと接続される。撮像装置30a,30b,30c,30dで取得された2次元画像データは、ハブ31を介して検出処理装置51に供給される。なお、ハブ31は省略されてもよい。
撮像スイッチ32は、運転室4に設置される。本実施形態においては、運転室4のオペレータによって撮像スイッチ32が操作されたとき、撮像装置30による施工対象の撮像が実施される。
識別子付与スイッチ33は、運転室4に設置される。本実施形態においては、運転室4のオペレータによって識別子付与スイッチ33が操作されたとき、撮像装置30によって取得された2次元画像データに識別子が付与される。識別子とは、後述するが、撮像装置により撮像した2次元画像データ内に地質の境界が含まれているか否かを示す情報である。
入力部34は、例えばコンピュータ用のキーボード又はタッチパネルを含む。
施工データ生成装置52は、施工対象の目標形状を示す目標地形データを生成する。本実施形態において、施工データ生成装置52は、検出処理装置51で算出された施工対象の3次元データに基づいて、目標地形データを生成する。検出処理装置51で算出された施工対象の3次元データは、施工対象の現況形状を示す現況地形データである。施工データ生成装置52は、施工対象の現況地形データに基づいて、目標地形データを生成する。本実施形態において、目標地形データは、グローバル座標系において規定される。
施工管理装置57は、油圧ショベル1の状態及び油圧ショベル1による施工の状況を管理する。施工管理装置57は、例えば1日の作業の終了段階における施工の結果を示す完了施工データを取得して、サーバ61及び携帯端末装置64の少なくとも一方に送信する。また、施工管理装置57は、1日の作業の途中段階における施工の結果を示す中間施工データを取得して、サーバ61及び携帯端末装置64の少なくとも一方に送信する。
完了施工データ及び中間施工データは、撮像装置30で取得された2次元画像データに基づいて検出処理装置51で算出された施工対象の3次元データを含む。すなわち、1日の作業の途中段階及び終了段階における施工対象の現況地形データがサーバ61及び携帯端末装置64の少なくとも一方に送信される。
表示装置58は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。
携帯端末装置64は、例えば油圧ショベル1の作業を管理する管理者に所持される。
サーバ61は、コンピュータシステムを含む。サーバ61は、CPUのようなプロセッサを含む演算処理装置と、RAMのような不揮発性メモリ及びROMのような揮発性メモリを含む記憶装置とを含む。通信装置62及び表示装置65がサーバ61と接続される。通信装置62は、通信用アンテナ63と接続される。通信装置62は、油圧ショベル1の制御システム50、携帯端末装置64、及び他の油圧ショベル1otの制御システム50otの少なくとも1つと通信回線NTWを介してデータ通信可能である。
図4は、本実施形態に係る検出処理装置51の一例を示す機能ブロック図である。検出処理装置51は、プロセッサを含む演算処理装置と、不揮発性メモリ及び揮発性メモリを含む記憶装置と、入出力インターフェースとを有するコンピュータシステムを含む。
検出処理装置51は、2次元画像データ取得部101と、3次元データ取得部102と、位置データ取得部103と、姿勢データ取得部104と、方位データ取得部105と、地質データ取得部106と、識別子付与部107と、表示制御部108と、記憶部109と、入出力部110と、を有する。
2次元画像データ取得部101、3次元データ取得部102、位置データ取得部103、姿勢データ取得部104、方位データ取得部105、地質データ取得部106、識別子付与部107、及び表示制御部108の機能は、演算処理装置によって発揮される。記憶部109の機能は、記憶装置によって発揮される。入出力部110の機能は、入出力インターフェースによって発揮される。
図4に記載された各構成は、入出力部110を介してデータ通信可能である。
2次元画像データ取得部101は、油圧ショベル1に設けられた少なくとも一対の撮像装置30で撮影された施工対象の2次元画像データを一対の撮像装置30から取得する。すなわち、2次元画像データ取得部101は、少なくとも一対の撮像装置30によるステレオ2次元画像データを取得する。
3次元データ取得部102は、2次元画像データ取得部101で取得された2次元画像データに基づいて、施工対象の3次元データを取得する。3次元データ取得部102は、2次元画像データ取得部101で取得された2次元画像データに基づいて、カメラ座標系における施工対象の3次元位置データを取得する。
位置データ取得部103は、油圧ショベル1の位置データを位置検出器23から取得する。油圧ショベル1の位置データは、位置検出器23で検出されたグローバル座標系における旋回体3の位置を示す位置データを含む。
姿勢データ取得部104は、油圧ショベル1の姿勢データを姿勢検出器24から取得する。油圧ショベル1の姿勢データは、姿勢検出器24で検出されたグローバル座標系における旋回体3の姿勢を示す姿勢データを含む。
方位データ取得部105は、油圧ショベル1の方位データを方位検出器25から取得する。油圧ショベル1の方位データは、方位検出器25で検出されたグローバル座標系における旋回体3の方位を示す方位データを含む。
3次元データ取得部102は、位置データ取得部103で取得された旋回体3の位置データ、姿勢データ取得部104で取得された旋回体3の姿勢データ、方位データ取得部105で取得された旋回体3の方位データ、及び2次元画像データ取得部101で取得された施工対象の2次元画像データに基づいて、グローバル座標系における施工対象の3次元データを算出する。グローバル座標系における施工対象の3次元データは、グローバル座標系における施工対象の3次元位置データを含む。3次元データ取得部102は、旋回体3の位置データ、旋回体3の姿勢データ、及び旋回体3の方位データに基づいて、カメラ座標系における施工対象の3次元データを座標変換して、グローバル座標系における施工対象の3次元データを算出する。
地質データ取得部106は、施工対象の地質データを取得する。施工対象の地質データは、施工対象の地質、土質(粘土質、真砂土等)、岩質、及び地盤の堅さのような地質についての種々のデータを含む。また、地質データは、施工対象の地質の境界に関する情報、具体的には境界の位置を含む。施工対象の地質の境界は、第1の地質エリアと、第1の地質エリアの地質とは異なる第2の地質エリアとの境界を含む。
地質データ取得部106は、入力部34の操作により生成された入力データを取得する。入力部34は、例えば運転室4のオペレータに操作される。オペレータにより入力部34が操作されると、施工対象の地質データを特定するための入力データが生成される。地質データ取得部106は、入力部34から地質データを取得する。
本実施形態において、オペレータは、2次元画像データ取得部101に取得され表示装置58に表示された施工対象の2次元画像データを見て、施工対象の地質の境界の位置を特定し、入力部34を操作して、施工対象の2次元画像データ内の地質の境界位置に、境界があることを示す境界データを入力する。そうすることにより、施工対象の3次元データ上に地質の境界位置情報を反映させるとともに記憶させることができる。
また、オペレータは、入力部34を操作して、地質の境界に基づいて規定される地質領域、すなわち同一の地質からなる地面の領域に対して、地質データ(地質、土質、岩質等)を入力する。そうすることにより、施工対象の3次元データ上におけるある地質領域に対して、入力した地質データを記憶させることができる。なお、オペレータは、境界の一方側と他方側に、異なる地質データを入力する。
3次元データは、メッシュのように所定間隔毎に設けられる要素により構成される。地質データを3次元データに記憶する方法として、地質の境界に基づいて規定される地質領域単位で地質データを記憶してもよいし、各要素単位(一部領域)で地質データを記憶してもよい。
地質データとして、地盤の堅さ情報を3次元データに記憶させることができる。例えば、ある地質領域に記憶させた地質データに併せて地盤の堅さ情報も記憶できるようにしてもよい。
識別子付与部107は、識別子付与スイッチ33の操作により生成された入力データに基づいて、施工対象の土質の境界を含む2次元画像データに識別子を付与する。オペレータは、2次元画像データ取得部101で取得され表示装置58に表示された施工対象の2次元画像データに施工対象の地質の境界が含まれていると判定した場合、識別子付与スイッチ33を操作し、施工対象の地質の境界を含む2次元画像データに識別子を付与することができる。
以下の説明においては、識別子が付与された2次元画像データを適宜、特定2次元画像データ、と称する。
3次元データ取得部102は、識別子が付与された特定2次元画像データと、更にステレオ処理するためのペアの2次元画像データとに基づいて、施工対象の地質の境界の3次元データを取得する。
また、3次元データ取得部102は、複数の特定2次元画像データからなる3次元データを合成して、特定の地質により形成される領域の3次元データを取得する。
表示制御部108は、3次元データ取得部102で算出された施工対象の3次元データを表示装置58に表示させる。また、表示制御部108は、3次元データ取得部102で取得された地質の境界データを含む3次元データを表示装置58に表示させる。また、表示制御部108は、3次元データ取得部102で取得された地質エリアデータを表示装置58に表示させる。表示制御部108は、3次元データ取得部102で取得された施工対象の3次元データ、及び地質エリアデータを表示装置58が表示可能な表示形式の表示データに変換して、その表示データを表示装置58に表示させる。
[施工対象の撮像及び形状データの生成]
図5は、本実施形態に係る撮像装置30及び検出処理装置51の処理の一例を示す模式図である。以下の説明においては、施工対象OBPが油圧ショベル1の作業機2によって施工される施工現場の一部分であることとする。なお、上述のように、施工対象OBPは、他の油圧ショベル1ot、油圧ショベル1とは別の作業機械、及び作業者の少なくとも一つによって施工される施工対象でもよい。また、施工対象OBPは、施工前の施工対象のみならず、施工中の施工対象、及び施工後の施工対象でもよい。
施工対象OBPは、旋回体3の前方に存在する。少なくとも一対の撮像装置30によって施工対象OBPが撮像される。本実施形態においては、運転室4に搭乗している油圧ショベル1のオペレータが撮像スイッチ32を操作したとき、撮像装置30による撮像が実施される。撮像スイッチ32が操作されることにより生成された撮影の指令を示す入力データが検出処理装置51に供給される。検出処理装置51は、撮像スイッチ32から供給された入力データに基づいて、撮像装置30に施工対象OBPを撮像させる。
少なくとも一対の撮像装置30で撮像された施工対象OBPの2次元画像データは、検出処理装置51の2次元画像データ取得部101に取得される。3次元データ取得部102は、2次元画像データ取得部101に取得された少なくとも一対の撮像装置30で撮像された施工対象OBPの2次元画像データをステレオ方式で画像処理して、施工対象OBPの3次元データを取得する。2次元画像データ取得部101に取得された2次元画像データに基づいて取得された3次元データは、カメラ座標系における3次元データである。カメラ座標系における3次元データがグローバル座標系における3次元データに変換される。3次元データ取得部102は、姿勢データ取得部104に取得された油圧ショベル1の姿勢データに基づいて、カメラ座標系における3次元データをグローバル座標系における3次元データに変換する。
3次元データ取得部102は、少なくとも一対の撮像装置30によって撮像された2次元画像データに基づいてカメラ座標系における施工対象OBPの位置Ps(xs,ys,zs)を取得し、グローバル座標系における位置Pg(xg,yg,zg)に変換する。
このように、3次元データ取得部102は、2次元画像データ取得部101に取得された2次元画像データに基づいて取得されたカメラ座標系における施工対象OBPの3次元データを、位置データ取得部103に取得された油圧ショベル1の位置データ、姿勢データ取得部104に取得された油圧ショベル1の姿勢データ、及び方位データ取得部105に取得された油圧ショベル1の方位データを使って座標変換して、グローバル座標系における施工対象OBPの3次元データを取得することができる。
3次元データ取得部102は、少なくとも一対の撮像装置30によって撮像された施工対象OBPの領域の全部において、施工対象OBPの表面の位置Pr(Xg,Yg,Zg)を取得する。
[地質データを含む3次元データ]
図6は、地質が均一である施工対象OBPfを模式的に示す図である。図7は、地質が変化する施工対象OBPdを模式的に示す図である。図6及び図7に示すように、施工現場によっては、地質が均一である施工対象OBPfと、地質が変化する施工対象OBPdとが存在する場合がある。
本実施形態において、3次元データ取得部102は、地質が変化する施工対象OBPdにおける地質の境界を含む領域の3次元データを取得する。例えば図7に示すように、施工対象OBPdが第1の地質と第2の地質とを含む場合、3次元データ取得部102は、第1の地質と第2の地質との境界を含む領域の3次元データを取得する。地質の境界は、施工対象OBPdの表面(地表)における地質の境界である。地質の境界を含む領域の3次元データは、施工対象OBPdの表面(地表)における地質の境界を含む領域の3次元データである。
図8は、本実施形態に係る2次元画像データ取得部101に取得された2次元画像データの一例を模式的に示す図である。オペレータは、旋回体3の旋回及び走行体5の走行の少なくとも一方を実施して撮像装置30の位置又は向きを変え、施工現場における複数の施工対象OBPのそれぞれを撮像装置30で撮像する。これにより、施工現場における複数の施工対象OBPのそれぞれについての2次元画像データが取得される。上述のように、撮像スイッチ32がオペレータに操作されることにより、施工対象OBPの2次元画像データが撮像装置30によって取得される。
2次元画像データ取得部101は、複数の施工対象OBPのそれぞれについての複数の2次元画像データを取得する。図8は、2次元画像データ取得部101がN数の2次元画像データを取得した例を示す。
図8に示す例において、2次元画像データ1は、地質の境界を含まない2次元画像データである。2次元画像データ2は、地質の境界を含む2次元画像データである。2次元画像データ3は、地質の境界を含まない2次元画像データである。2次元画像データ4は、地質の境界を含む2次元画像データである。2次元画像データ5は、地質の境界を含まない2次元画像データである。2次元画像データ6は、地質の境界を含まない2次元画像データである。2次元画像データ7は、地質の境界を含む2次元画像データである。2次元画像データNは、地質の境界を含まない2次元画像データである。
識別子付与部107は、運転室4のオペレータによる識別子付与スイッチ33の操作に基づいて、施工対象の地質の境界を含む2次元画像データに識別子を付与する。図8に示す例では、画質データ2、画質データ4、及び画質データ7に識別子が付与される。一方、画質データ1、画質データ3、画質データ5、画質データ6、及び画質データNには識別子が付与されない。
2次元画像データ取得部101に取得された2次元画像データ1から2次元画像データNは、表示装置58に表示される。オペレータは、表示装置58を目視して、表示装置58に表示されている2次元画像データに地質の境界が含まれているか否かを判定する。
上述のように、本実施形態において、撮像装置30は、異なる地質の境界を目視で判断できるレベルの画質の2次元画像データを取得可能である。したがって、オペレータは、2次元画像データを目視することにより、その2次元画像データに地質の境界が含まれているか否かを判定することができる。
なお、目視による判定が困難な場合、撮影前に予め地質を詳細に調査して地質の境界線を決定した上で、施工対象OBPの地質の境界にマークが設けられた状態で、撮像装置30による撮像が実施されてもよい。マークは、例えば地質の境界に沿って噴霧された有色粉末でもよいし、地質の境界に沿って一定の間隔で配置された棒部材でもよいし、地質の境界に沿って一定の間隔で配置されたプリズムのような反射部材でもよい。地質の境界にマークが設けられた状態で、撮像装置30により施工対象OBPの2次元画像データが取得されることにより、オペレータは、2次元画像データに含まれているマークを目視して、2次元画像データに地質の境界が含まれているか否かを容易に判定することができる。
オペレータは、表示装置58に表示されている2次元画像データを目視して、その2次元画像データに地質の境界が含まれていると判定したとき、識別子付与スイッチ33を操作する。識別子付与スイッチ33が操作されることにより生成された入力データは、識別子付与部107に供給される。識別子付与部107は、識別子付与スイッチ33において生成された入力データに基づいて、施工対象の地質の境界を含む2次元画像データに識別子を付与する。
図8に示す例では、例えば2次元画像データ2が表示装置58に表示されたとき、オペレータは、表示装置58を目視して、表示装置58に表示されている2次元画像データ2に地質の境界が含まれていると判定し、識別子付与スイッチ33を操作する。これにより、2次元画像データ2に識別子が付与される。同様に、2次元画像データ4が表示装置58に表示されたとき、オペレータにより識別子付与スイッチ33が操作され、2次元画像データ4に識別子が付与される。2次元画像データ7が表示装置58に表示されたとき、オペレータにより識別子付与スイッチ33が操作され、2次元画像データ7に識別子が付与される。
例えば2次元画像データ1が表示装置58に表示されたとき、オペレータは、表示装置58を目視して、表示装置58に表示されている2次元画像データ2に地質の境界が含まれていないと判定し、識別子付与スイッチ33を操作しない。これにより、2次元画像データ1には識別子が付与されない。2次元画像データ3,5,6,Nについても同様である。
識別子が付与された2次元画像データである特定2次元画像データは、記憶部109に記憶される。図8に示す例においては、説明を簡素化するため、特定2次元画像データが2次元画像データ2,4,7の3つであることとした。実際には多数の特定2次元画像データが記憶部109に記憶される。また、識別子が付与されていない2次元画像データも、記憶部109に記憶される。
また、識別子が付与された特定2次元画像データは、通信回線NTWを介してサーバ61に送信される。また、識別子が付与されていない2次元画像データも、通信回線NTWを介してサーバ61に送信される。
また、オペレータは、表示装置58に表示された特定2次元画像データ2,4,7を見て、特定2次元画像データ2,4,7における地質の境界の位置を判定し、入力部34を操作して、特定2次元画像データ2,4,7における地質の境界の位置を示す境界データを入力する。また、オペレータは、表示装置58に表示された特定2次元画像データ2,4,7を見て、境界を形成する第1の地質を示す第1の地質データと第2の地質を示す第2の地質データとを、入力部34を介して入力する。また、オペレータは、表示装置58に表示された2次元画像データ1,3,5,6、Nを見て、表示装置58に表示されている地質データを、入力部34を介して入力する。
3次元データ取得部102は、特定2次元画像データに基づいて、カメラ座標系における地質の境界を含む3次元データを取得する。境界データを含む特定2次元画像データに基づいてステレオ処理が実施されることにより、取得された3次元データにおいては、第1の地質エリアと第2の地質エリアとの境界が反映され、第1の地質エリアと第2の地質エリアとが特定される。
すなわち、本実施形態において、施工対象の3次元データは、第1の地質データを含む第1の地質エリアの3次元データと、第2の地質データを含む第2の地質エリアの3次元データと、第1の地質エリアと第2の地質エリアとの境界を示す境界データとを含む。
また、3次元データ取得部102は、位置データ取得部103に取得された油圧ショベル1の位置データと、姿勢データ取得部104に取得された油圧ショベル1の姿勢データと、方位データ取得部105に取得された油圧ショベル1の方位データとに基づいて、カメラ座標系における地質の境界の3次元データを座標変換して、グローバル座標系における地質の境界の3次元データを取得する。グローバル座標系における地質の境界の3次元データも、記憶部109に記憶されている。
また、3次元データ取得部102で取得されたグローバル座標系における地質の境界を示す3次元データは、通信回線NTWを介してサーバ61に送信される。また、地質の境界を含まないグローバル座標系における施工対象OBPの3次元データも、通信回線NTWを介してサーバ61に送信される。
また、3次元データ取得部102は、記憶部109に記憶されている地質の境界を含む3次元データを合成して、特定の地質エリアデータを取得する。グローバル座標系で規定されている地質の境界の3次元データが複数存在する場合、3次元データ取得部102は、複数の地質の境界の3次元データを繋ぎ合わせて、特定の地質エリアデータを取得することができる。例えば図8に示した例においては、3次元データ取得部102は、第1の地質と第2の地質とを含む複数の特定2次元画像データを繋ぎ合わせることにより、第1の地質エリアデータ又は第2の地質エリアデータを取得することができる。
表示制御部108は、取得された地質エリアデータを表示装置58に表示させる。図9は、本実施形態に係る地質エリアデータを表示する表示装置58の一例を模式的に示す図である。3次元データ取得部102は、例えば特定2次元画像データ2,4,7及び特定2次元画像データ2,4,7に近似する第1の地質及び第2の地質を含む複数の特定2次元画像データによって地質エリアデータを取得する。図9に示すように、表示制御部108は、3次元データ取得部102で取得された地質エリアデータを表示装置58に表示させる。なお、表示制御部108は、3次元算出部102で取得された地質の境界の3次元データを表示装置58に表示させてもよい。
[施工管理方法]
次に、本実施形態に係る施工管理方法の一例について説明する。図10は、本実施形態に係る施工管理方法の一例を示すフローチャートである。
施工現場の複数の施工対象OBPが撮像装置30によって撮像される。2次元画像データ取得部101は、複数の施工対象OBPについての2次元画像データを撮像装置30から取得する(ステップSP1)。
2次元画像データ取得部101に取得された施工対象OBPの2次元画像データが表示装置58に表示される。油圧ショベル1のオペレータは、表示装置58に表示された2次元画像データを目視して、その2次元画像データに施工対象の地質の境界が含まれているか否かを判定する。オペレータは、2次元画像データに施工対象の地質の境界が含まれていると判定した場合、識別子付与スイッチ33を操作する。
識別子付与スイッチ33が操作されることにより、識別子付与部107は、2次元画像データに識別子を付与する(ステップSP2)。
また、油圧ショベル1のオペレータは、表示装置58に表示された2次元画像データを目視して、その2次元画像データにおける施工対象の地質を特定する。オペレータは、2次元画像データにおける施工対象の地質を特定した後、入力部34を操作して、施工対象の地質データを入力する。
地質データは、地質の境界の位置を示す境界データを含む。オペレータは、2次元画像データにおける施工対象の地質の境界の位置を特定する。オペレータは、地質の境界の位置を特定した後、入力部34を操作して、データの境界の位置を示す境界データを入力する。
入力部34の操作により生成された、地質の境界データを含む地質データは、地質データ取得部106に取得される(ステップSP3)。
3次元データ取得部102は、撮像装置によって撮像された複数の画像をステレオ処理することによって、カメラ座標系における地質データを含む3次元データを取得する(ステップSP4)。
旋回体3の位置データが位置データ取得部103に取得される。旋回体3の姿勢データが姿勢データ取得部104に取得される。旋回体3の方位データが方位データ取得部105に取得される。3次元データ取得部102は、旋回体3の位置データ、姿勢データ、及び方位データに基づいて、カメラ座標系における施工対象の3次元データを座標変換して、グローバル座標系における施工対象の3次元データを取得する(ステップSP5)。
また、3次元データ取得部102は、複数の特定2次元画像データを合成して、特定の地質エリアデータを取得する(ステップSP6)。
表示制御部108は、取得された地質エリアデータを表示装置58に表示させる(ステップSP7)。
また、ステップSP4で取得されたグローバル座標系における施工対象の3次元データが、通信回線NTWを介して、油圧ショベル1の制御システム50からサーバ61に送信される(ステップSP8)。
また、ステップSP6で取得された地質エリアデータも、通信回線NTWを介して、油圧ショベル1の制御システム50からサーバ61に送信される。
また、グローバル座標系における地質の境界を含む特定2次元画像データ、及びグローバル座標系における地質の境界を含まない2次元画像データも、通信回線NTWを介して、油圧ショベル1の制御システム50からサーバ61に送信される。グローバル座標系における地質の境界を含む特定2次元画像データは、例えば図8を参照して説明した2次元画像データ2,4,7のような特定2次元画像データを座標変換して取得された2次元画像データである。グローバル座標系における地質の境界を含まない2次元画像データは、例えば図8を参照して説明した2次元画像データ1,3,5,6、Nのような特定2次元画像データを座標変換して取得された2次元画像データである。
サーバ61には、油圧ショベル1のみならず、複数の他の油圧ショベル1otからも、グローバル座標系における地質の境界の3次元データ、地質エリアデータ、グローバル座標系における地質の境界を含む特定2次元画像データ、及びグローバル座標系における地質の境界を含まない2次元画像データが送信される。
サーバ61は、油圧ショベル1及び他の油圧ショベル1otから供給されたグローバル座標系における施工対象の3次元データのデータベースを作成する。上述のように、サーバ61は、演算処理装置及び記憶装置を有する。油圧ショベル1及び他の油圧ショベル1otから供給された施工対象の3次元データは、データベース化され、サーバ61の記憶装置に記憶される。
同様に、油圧ショベル1及び他の油圧ショベル1otから供給された地質エリアデータ、グローバル座標系における地質の境界を含む特定2次元画像データ、及びグローバル座標系における地質の境界を含まない2次元画像データも、データベース化され、サーバ61の記憶装置に記憶される。
サーバ61の演算処理装置は、油圧ショベル1及び他の油圧ショベル1otから供給されたグローバル座標系における施工対象の3次元データを統合する(ステップSP9)。これにより、施工現場全体における地質データを含む施工対象の3次元データが取得される。サーバ61は、取得した施工現場全体における地質データを含む施工対象の3次元データを表示装置65に表示させる。これにより、管理者は、施工現場全体における地質及び地質の境界を認識することができる。施工現場全体における地質データを含む施工対象の3次元データが表示装置65に表示されるため、管理者は、施工現場全体における地質の境界を直感的に認識することができる。
同様に、サーバ61の演算処理装置は、油圧ショベル1及び他の油圧ショベル1otから供給された地質エリアデータの統合、グローバル座標系における地質の境界を含む特定2次元画像データの統合、及びグローバル座標系における地質の境界を含まない2次元画像データの統合を実施することができる。統合された地質エリアデータ、統合されたグローバル座標系における地質の境界を含む特定2次元画像データ、及び統合されたグローバル座標系における地質の境界を含まない2次元画像データは、表示装置65に表示される。これにより、管理者は、施工現場全体の地質分布及び施工の進捗状況を直感的に認識することができる。
上述のように、本実施形態においては、1日の作業の終了段階における施工の結果を示す完了施工データ、及び1日の作業の途中段階における施工の結果を示す中間施工データとして、撮像装置30で取得された2次元画像データに基づいて検出処理装置51で取得された施工対象の3次元データである現況地形データがサーバ61に送信される。したがって、管理者は、サーバ61に接続された表示装置65に表示された3次元データである現況地形データに基づいて、施工の進捗状況を直感的に認識することができる。
[作用及び効果]
以上説明したように、本実施形態によれば、地質の境界データを含む地質データが取得され、地質データに基づいて、施工対象の地質の境界を含む3次元データが取得される。したがって、地質データを含む施工対象の3次元データが効率良く取得される。
施工現場においては、礫質土、砂質土、及び粘性土など、様々な地質の領域が存在する。施工対象の地質によって単位時間当たりに実施可能な施工量又は工期が変動する可能性がある。例えば軟らかい地質のような施工し易い地質の場合、施工量は増大し工期は短期化する。硬い地質のような施工し難い地質の場合、施工量は低減し工期は長期化する。このように、施工対象の地質は、単位時間当たりに実施可能な施工量又は工期に影響を及ぼす。そのため、施工対象の地質を調査し、地質についてのデータを取得することが重要である。本実施形態によれば、施工対象OBPの2次元画像データに基づいて、施工対象OBPの地質の種類のみならず、地質の境界を効率良く認識することができる。したがって、地質の種類及び地質の境界を含む地質についてのデータに基づいて、良好な作業効率で施工を実施することができる。
また、本実施形態においては、土質の境界を含む2次元画像データに識別子が付与される。したがって、識別子が付与された特定2次元画像データに基づいて、施工対象OBPの地質の境界データを含む3次元データが効率良く取得される。
地質の境界データを取得したい場合において、撮像装置30によって取得される2次元画像データの数が膨大であり、地質の境界を含む2次元画像データと地質の境界を含まない2次元画像データとが混在している場合、地質の境界の3次元データを取得するために煩雑な処理が必要となったり、地質の境界の3次元データを取得するまでに長時間を要したりする可能性がある。本実施形態においては、撮像装置30によって2次元画像データが取得されたとき、地質の境界を含む2次元画像データに識別子付与部107により識別子が付与される。したがって、地質の境界の3次元データを取得したいときには、識別子が付与された特定2次元画像データのみを抽出して、画像処理を実施すれば、施工対象OBPの地質の境界の3次元データを効率良く取得することができる。
また、本実施形態においては、撮像装置30が搭載されている旋回体3の位置データ、旋回体3の姿勢データ、及び旋回体3の方位データに基づいて、カメラ座標系で規定される地質の境界の2次元画像データが座標変換され、グローバル座標系における地質の境界の3次元データが取得される。これにより、例えば測量機を使った地形測量が実施されなくても、撮像装置30で取得された2次元画像データに基づいて、グローバル座標系における施工対象の3次元データを取得することができる。
また、本実施形態においては、地質の境界の3次元データが合成されることにより、特定の地質エリアデータが取得される。したがって、施工現場における地質分布を把握することができる。
また、本実施形態においては、施工対象の3次元データ及び地質エリアデータが表示装置58又は表示装置65に表示される。これにより、オペレータ又は管理者は、表示装置65を見て、地質の境界又は地質分布を直感的に認識することができる。
また、本実施形態においては、撮像装置30で取得された2次元画像データに地質の境界が含まれているか否かがオペレータによって判定され、2次元画像データに地質の境界が含まれていると判定された場合、識別子付与スイッチ33が操作される。これにより、撮像装置30で取得された2次元画像データに対して高度な画像処理を実施しなくても、地質の境界を含む2次元画像データに識別子を付与することができる。
また、本実施形態においては、油圧ショベル1で取得された3次元データがサーバ61に供給される。サーバ61には、油圧ショベル1のみならず他の油圧ショベル1otからも3次元データが供給される。したがって、サーバ61は、供給された複数の3次元データに基づいて、施工現場全体の3次元データを構築することができる。
なお、上述の実施形態においては、オペレータが識別子付与スイッチ33を操作して、2次元画像データに識別子を付与することとした。制御システム50が、撮像装置30で取得された2次元画像データを画像処理し、その画像処理の結果に基づいて、2次元画像データに地質の境界が含まれているか否かを判定してもよい。例えば、制御システム50は、2次元画像データをエッジ検出したり、2次元画像データを2値化したりすることによって、2次元画像データに地質の境界が含まれているか否かを判定することができる。
なお、上述の本実施形態においては、油圧ショベル1に撮像装置30が4つ設けられる例について説明した。撮像装置30は、油圧ショベル1に少なくとも2つ設けられていればよい。
なお、上述の実施形態において、サーバ61が検出処理装置51の一部又は全部の機能を有してもよい。すなわち、サーバ61が、2次元画像データ取得部101、3次元データ取得部102、位置データ取得部103、姿勢データ取得部104、方位データ取得部105、地質データ取得部106、識別子付与部107、表示制御部108、記憶部109、及び入出力部110の少なくとも一つを有してもよい。例えば、油圧ショベル1の撮像装置30で撮像された2次元画像データ、位置検出器23で検出された旋回体3の位置データ、姿勢検出器24で検出された旋回体3の姿勢データ、方位検出器25で検出された旋回体3の方位データ、及び識別子付与スイッチ33で生成された入力データが、通信装置26及び通信回線NTWを介して、サーバ61に供給されてもよい。サーバ61の識別子付与部107は、通信装置26及び通信回線NTWを介して供給された2次元画像データ及び入力データに基づいて、施工対象の地質の境界を含む2次元画像データに識別子を付与することができる。サーバ61の3次元データ取得部102は、識別子が付与された特定2次元画像データに基づいて、地質の境界データを含む3次元データを取得することができる。また、サーバ61の3次元データ取得部102は、通信装置26及び通信回線NTWを介して供給された旋回体3の位置データ、姿勢データ、及び方位データに基づいて、グローバル座標系における地質の境界の3次元データを取得することができる。また、サーバ61の3次元データ取得部102は、複数の特定2次元画像データを合成して、特定の地質エリアデータを取得することができる。
サーバ61には、油圧ショベル1及び複数の他の油圧ショベル1otから、地質の境界を含む2次元画像データ及び地質の境界を含まない2次元画像データの両方が供給される。油圧ショベル1及び複数の他の油圧ショベル1otからサーバ61には膨大な数の2次元画像データが送信される。地質の境界を含む2次元画像データに識別子が付与されることにより、地質の境界の3次元データを取得したいときには、サーバ61は、識別子が付与された特定2次元画像データのみを抽出して、画像処理を実施すれば、施工対象OBPの地質の境界の3次元データを効率良く取得することができる。
また、上述のように、3次元データは、地質データを含む。第1の地質エリアについての第1の地質データ、第2の地質エリアについての第2の地質データ、及び第1の地質エリアと第2の地質エリアとの境界データの少なくとも一つが、サーバ61の記憶部109に記憶されてもよい。
なお、上述の実施形態においては、オペレータが地質の境界を特定し、入力部34を操作して境界データを入力し、入力部34の操作により入力された地質データに基づいて、第1の地質エリア及び第2の地質エリアが特定されることとした。2次元画像データ取得部101で取得された2次元画像データがコンピュータシステムにおいて画像処理され、コンピュータシステムによって地質の境界が特定されてもよい。
なお、上述の実施形態においては、境界を含む2次元画像データに識別子が付与されることとした。境界を含む2次元画像データに識別子が付与されなくてもよい。
なお、上述の実施形態においては、ステレオカメラによって3次元データが取得されることとした。1つのカメラとレーザスキャナのような三次元計測装置とによって3次元データが取得されてもよい。
なお、上述の実施形態において、3次元データは取得されなくてもよい。油圧ショベル1に設けられた撮像装置30で撮影された施工対象の地質の境界を含む2次元画像データが2次元画像データ取得部101に取得され、油圧ショベル1の位置データが位置データ取得部103に取得され、油圧ショベル1の姿勢データが姿勢データ取得部104に取得された場合において、サーバ61に設けられている記憶部109が、2次元画像データに、2次元画像データが取得された時点の油圧ショベル1の位置データ、姿勢データ、及び2次元画像データが取得された時点データを付加して記憶してもよい。また、記憶部109は、2次元画像データに、油圧ショベル1の位置データ、姿勢データ、及び時点データのみならず、施工対象の地質データを付加して、記憶してもよい。
なお、施工対象の3次元データに、施工対象において発生した事象の位置を示す事象位置データが関連付けられてもよい。例えば、施工対象の地質データが地質データ取得部106に取得され、施工対象において発生した事象の位置を示す事象位置データが事象位置データ取得部として機能する位置データ取得部103に取得された場合、施工対象の3次元データを取得する3次元データ取得部102は、地質データ、どのような事象が発生したかという情報(事象に関する情報)及び事象位置データを含む3次元データを取得してもよい。施工対象において発生した事象は、例えば施工対象の施工において水が発生すること、作業機の負荷が急激に増大すること、などを含む。例えば水が発生した位置に刃先8BTが位置付けられることにより、位置データ取得部103は、刃先8BTの位置データに基づいて、水が発生した位置を示す事象位置データを特定することができる。記憶部109は、3次元データに、事象位置データを付与して、記憶してもよい。
なお、上述の実施形態においては、作業機械1が油圧ショベルであることとした。作業機械1は、施工対象を施工可能な作業機械であればよく、施工対象を掘削可能な掘削機械及び土砂を運搬可能な運搬機械でもよい。作業機械1は、例えばホイールローダでもよいし、ブルドーザでもよいし、ダンプトラックでもよい。
1 油圧ショベル(作業機械)、1B 車体、2 作業機、3 旋回体、4 運転室、4S 運転席、4SS 背もたれ、5 走行体、6 ブーム、7 アーム、8 バケット、8B 刃、8BT 刃先、10 ブームシリンダ、10a ブームシリンダフートピン、10b ブームシリンダトップピン、11 アームシリンダ、11a アームシリンダフートピン、11b アームシリンダトップピン、12 バケットシリンダ、12a バケットシリンダフートピン、12b バケットシリンダトップピン、13 ブームピン、14 アームピン、15 バケットピン、21,22 GPSアンテナ、23 位置検出器、24 姿勢検出器、25 方位検出器、26 通信装置、26A 通信用アンテナ、30(30a,30b,30c,30d) 撮像装置、31 ハブ、32 撮像スイッチ、33 識別子付与スイッチ、34 入力部、51 検出処理装置、52 施工データ生成装置、57 施工管理装置、58 表示装置、61 サーバ、62 通信装置、63 通信用アンテナ、64 携帯端末装置、65 表示装置、100 施工管理システム、101 2次元画像データ取得部、102 3次元データ取得部、103 位置データ取得部、104 姿勢データ取得部、105 方位データ取得部、106 地質データ取得部、107 識別子付与部、108 表示制御部、109 記憶部、110 入出力部、NTW 通信回線。

Claims (8)

  1. 作業機械に設けられた撮像装置で撮影された対象の2次元画像データを取得する2次元画像データ取得部と、
    前記作業機械に取り付けられ、前記対象の3次元データを取得する3次元データ取得部と、
    前記2次元画像データに地質データを入力する入力部と、
    入力された前記地質データを、前記3次元データに付与する地質データ取得部と、を備える、
    施工管理システム。
  2. 前記地質データは、少なくとも地質の境界を含み、
    前記地質データ取得部は、前記地質の境界の一方側に対応する3次元データに対して第1の地質データを付与し、前記地質の境界の他方側に対応する3次元データに対して第2の地質データを付与する、
    請求項1に記載の施工管理システム。
  3. 前記地質データ取得部は、前記地質の境界に基づいて規定される地質領域に対して地質データを付与する、又は前記3次元データの一部領域に対して地質データを付与する、
    請求項1又は請求項2に記載の施工管理システム。
  4. 前記地質データは、地質、土質、岩質、地盤の堅さ、地質の境界の位置、を含む、
    請求項1から請求項3のいずれか一項に記載の施工管理システム。
  5. 前記対象において発生した事象の位置を示す事象位置データを取得する事象位置データ取得部と、を備え、
    前記3次元データ取得部は、前記3次元データに、前記事象に関する情報、及び前記事象位置データを付与する、
    請求項1から請求項4のいずれか一項に記載の施工管理システム。
  6. 前記事象は、地盤からの水の発生、又は作業負荷の増大が含まれる、
    請求項5に記載の施工管理システム。
  7. 作業機械に設けられた撮像装置で撮影された対象の2次元画像データを取得する2次元画像データ取得部と、
    前記撮像装置によって前記2次元画像データが撮影された時点の位置データを取得する位置データ取得部と、
    前記2次元画像データ内に含まれる地面の地質に関する地質データを取得する地質データ取得部と、
    前記2次元画像データに、前記2次元画像データが取得された時点の前記作業機械の前記位置データ、前記2次元画像データ内に含まれる地面の地質データ、及び前記2次元画像データが取得された時点の時点データを付加して記憶する記憶部と、
    を備える施工管理システム。
  8. 作業機械に取り付けられ、施工対象の3次元データを取得する3次元データ取得部と、
    前記施工対象において発生した事象の位置を示す事象位置データを取得する事象位置データ取得部と、
    を備え、
    前記3次元データ取得部は、前記3次元データ取得部により得られた3次元データに、前記事象に関する情報及び前記事象位置データを付与する、
    施工管理システム。
JP2016155103A 2016-08-05 2016-08-05 施工管理システム Active JP6887229B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2016155103A JP6887229B2 (ja) 2016-08-05 2016-08-05 施工管理システム
DE112017001522.7T DE112017001522T5 (de) 2016-08-05 2017-08-04 Bauverwaltungssystem
CN201780016276.0A CN108779985B (zh) 2016-08-05 2017-08-04 施工管理系统
AU2017305111A AU2017305111B2 (en) 2016-08-05 2017-08-04 Construction management system
PCT/JP2017/028494 WO2018026019A1 (ja) 2016-08-05 2017-08-04 施工管理システム
US16/090,326 US11966990B2 (en) 2016-08-05 2017-08-04 Construction management system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016155103A JP6887229B2 (ja) 2016-08-05 2016-08-05 施工管理システム

Publications (2)

Publication Number Publication Date
JP2018021885A true JP2018021885A (ja) 2018-02-08
JP6887229B2 JP6887229B2 (ja) 2021-06-16

Family

ID=61073552

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016155103A Active JP6887229B2 (ja) 2016-08-05 2016-08-05 施工管理システム

Country Status (6)

Country Link
US (1) US11966990B2 (ja)
JP (1) JP6887229B2 (ja)
CN (1) CN108779985B (ja)
AU (1) AU2017305111B2 (ja)
DE (1) DE112017001522T5 (ja)
WO (1) WO2018026019A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020084702A (ja) * 2018-11-30 2020-06-04 コベルコ建機株式会社 建設機械の遠隔操作装置
WO2022254826A1 (ja) * 2021-06-03 2022-12-08 コベルコ建機株式会社 土質情報取得システムおよびこれを備える作業機械

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7301514B2 (ja) * 2018-09-21 2023-07-03 日立建機株式会社 座標変換システム及び作業機械

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH063145A (ja) * 1992-06-18 1994-01-11 Shimizu Corp トンネル切羽画像収録処理システム
JPH07190767A (ja) * 1993-12-27 1995-07-28 Mitsui Constr Co Ltd 三次元形状測量装置及び、三次元形状測量方法
JPH11211473A (ja) * 1998-01-22 1999-08-06 Komatsu Ltd 地形形状計測装置
JP2000034890A (ja) * 1998-07-16 2000-02-02 Kajima Corp Tbm切羽及び周辺地質のリアルタイム評価方法及び装置
JP2006064585A (ja) * 2004-08-27 2006-03-09 Canon Inc 画像処理方法、画像処理装置
US20060265914A1 (en) * 2005-05-31 2006-11-30 Caterpillar Inc. Work machine having boundary tracking system
JP2008267843A (ja) * 2007-04-17 2008-11-06 Tobishima Corp トンネル切羽面の測量システム
US20160163088A1 (en) * 2014-12-05 2016-06-09 Caterpillar Inc. Terrain mapping system using moved material estimation

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5553407A (en) * 1995-06-19 1996-09-10 Vermeer Manufacturing Company Excavator data acquisition and control system and method of use
JPH1010690A (ja) 1996-06-19 1998-01-16 Konica Corp ハロゲン化銀カラー写真感光材料
AUPR678401A0 (en) 2001-08-02 2001-08-23 Singfield, Christian Network image server
CN100450152C (zh) * 2005-10-28 2009-01-07 中国水电顾问集团中南勘测设计研究院 地质数码影像编录系统及其使用方法
CA2659020C (en) * 2006-06-21 2018-08-07 Terraspark Geosciences, L.P. Extraction of depositional systems
US8184159B2 (en) * 2007-03-26 2012-05-22 Trw Automotive U.S. Llc Forward looking sensor system
US8768667B2 (en) * 2010-10-25 2014-07-01 Trimble Navigation Limited Water erosion management incorporating topography, soil type, and weather statistics
JP5802476B2 (ja) 2011-08-09 2015-10-28 株式会社トプコン 建設機械制御システム
JP6029306B2 (ja) * 2012-03-29 2016-11-24 住友建機株式会社 作業機械用周辺監視装置
CN102707332A (zh) * 2012-05-11 2012-10-03 北京科技大学 一种水库区工程地质调查的解译与评价方法
WO2013170348A1 (en) * 2012-05-15 2013-11-21 Tesman Inc. Mapping of mining excavations
US9639978B2 (en) * 2013-12-04 2017-05-02 Verizon Telematics Inc. Method and system for avatar replay based on mobile sensor information
US9489576B2 (en) * 2014-03-26 2016-11-08 F12 Solutions, LLC. Crop stand analysis
US9401030B2 (en) * 2014-04-25 2016-07-26 Tazco Soil Service Co. Image processing system for soil characterization
CN104183017A (zh) * 2014-07-29 2014-12-03 浙江大学 基于地面三维激光点云实现地质体产状自动提取的方法
CN104331931B (zh) * 2014-10-10 2017-05-17 北京航空航天大学 一种面向油藏数值模拟的地质断裂层面pebi网格处理方法
CN204331743U (zh) * 2014-11-13 2015-05-13 中国矿业大学(北京) 一种基于图像频域特征提取及分类识别的煤岩分界系统
US10013509B2 (en) * 2015-03-19 2018-07-03 Trimble Inc. Agricultural drainage design based on soil modeling
JP6496182B2 (ja) * 2015-04-28 2019-04-03 株式会社小松製作所 施工計画システム
WO2017024254A1 (en) * 2015-08-05 2017-02-09 Iteris, Inc. Customized land surface modeling for irrigation decision support in a crop and agronomic advisory service in precision agriculture
KR101581037B1 (ko) * 2015-10-20 2015-12-29 한국지질자원연구원 드론을 이용한 지질 경계 탐색 시스템 및 방법

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH063145A (ja) * 1992-06-18 1994-01-11 Shimizu Corp トンネル切羽画像収録処理システム
JPH07190767A (ja) * 1993-12-27 1995-07-28 Mitsui Constr Co Ltd 三次元形状測量装置及び、三次元形状測量方法
JPH11211473A (ja) * 1998-01-22 1999-08-06 Komatsu Ltd 地形形状計測装置
JP2000034890A (ja) * 1998-07-16 2000-02-02 Kajima Corp Tbm切羽及び周辺地質のリアルタイム評価方法及び装置
JP2006064585A (ja) * 2004-08-27 2006-03-09 Canon Inc 画像処理方法、画像処理装置
US20060265914A1 (en) * 2005-05-31 2006-11-30 Caterpillar Inc. Work machine having boundary tracking system
JP2008267843A (ja) * 2007-04-17 2008-11-06 Tobishima Corp トンネル切羽面の測量システム
US20160163088A1 (en) * 2014-12-05 2016-06-09 Caterpillar Inc. Terrain mapping system using moved material estimation

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020084702A (ja) * 2018-11-30 2020-06-04 コベルコ建機株式会社 建設機械の遠隔操作装置
WO2022254826A1 (ja) * 2021-06-03 2022-12-08 コベルコ建機株式会社 土質情報取得システムおよびこれを備える作業機械

Also Published As

Publication number Publication date
US11966990B2 (en) 2024-04-23
CN108779985A (zh) 2018-11-09
AU2017305111A1 (en) 2018-10-25
WO2018026019A1 (ja) 2018-02-08
DE112017001522T5 (de) 2018-12-06
CN108779985B (zh) 2021-04-06
AU2017305111B2 (en) 2019-11-14
US20200394726A1 (en) 2020-12-17
JP6887229B2 (ja) 2021-06-16

Similar Documents

Publication Publication Date Title
US11585490B2 (en) Management system
KR101695914B1 (ko) 토공공사 수행시 굴삭기의 형상정보를 실시간 제공하는 굴삭기 3d 토공 bim 시스템
WO2017061518A1 (ja) 施工管理システム、施工管理方法、及び管理装置
JP6867132B2 (ja) 作業機械の検出処理装置及び作業機械の検出処理方法
JP6322612B2 (ja) 施工管理システム及び形状計測方法
JP6925816B2 (ja) 位置計測システム、作業機械、及び位置計測方法
US11873948B2 (en) Management system
WO2019054003A1 (ja) 表示システム、表示方法、及び表示装置
JP6585697B2 (ja) 施工管理システム
JP6918716B2 (ja) 建設機械
WO2018026019A1 (ja) 施工管理システム
JP2022164713A (ja) 作業機械の画像表示システム及び作業機械の画像表示方法
JP2018146594A (ja) 形状計測システム
JP6616149B2 (ja) 施工方法、作業機械の制御システム及び作業機械
WO2020121933A1 (ja) 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
JP6684004B1 (ja) 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
JP7065002B2 (ja) 作業機械

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190701

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200923

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210511

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210518

R150 Certificate of patent or registration of utility model

Ref document number: 6887229

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250