JP7235631B2 - 建設機械向け稼働記録分析システム - Google Patents

建設機械向け稼働記録分析システム Download PDF

Info

Publication number
JP7235631B2
JP7235631B2 JP2019174920A JP2019174920A JP7235631B2 JP 7235631 B2 JP7235631 B2 JP 7235631B2 JP 2019174920 A JP2019174920 A JP 2019174920A JP 2019174920 A JP2019174920 A JP 2019174920A JP 7235631 B2 JP7235631 B2 JP 7235631B2
Authority
JP
Japan
Prior art keywords
vehicle body
information
construction machinery
detection device
record analysis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019174920A
Other languages
English (en)
Other versions
JP2021050559A (ja
Inventor
善文 福田
拓久哉 中
雅嗣 荒井
浩太郎 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Construction Machinery Co Ltd
Original Assignee
Hitachi Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Construction Machinery Co Ltd filed Critical Hitachi Construction Machinery Co Ltd
Priority to JP2019174920A priority Critical patent/JP7235631B2/ja
Priority to US17/760,887 priority patent/US20220349154A1/en
Priority to CN202080062632.4A priority patent/CN114342361A/zh
Priority to KR1020227007890A priority patent/KR20220044339A/ko
Priority to PCT/JP2020/033071 priority patent/WO2021059892A1/ja
Priority to EP20867825.0A priority patent/EP4015715A4/en
Publication of JP2021050559A publication Critical patent/JP2021050559A/ja
Application granted granted Critical
Publication of JP7235631B2 publication Critical patent/JP7235631B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/36Component parts
    • E02F3/42Drives for dippers, buckets, dipper-arms or bucket-arms
    • E02F3/43Control of dipper or bucket position; Control of sequence of drive operations
    • E02F3/435Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Mining & Mineral Resources (AREA)
  • Structural Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Civil Engineering (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Operation Control Of Excavators (AREA)

Description

本発明は、鉱山等で作業を行うショベルなどの建設機械において、建設機械の作業状況を効率的に把握するために、建設機械の稼働記録を分析するシステムに関するものである。
本技術分野の背景技術として、特許文献1がある。特許文献1には、「作業現場におけるショベルのより詳細な管理を可能にするショベル、ショベル管理システム、及び携帯通信端末を提供することができる」と記載されている。
従来の稼働記録分析システムでは、動作状態情報取得部が出力する動作状態情報をもとに、作業内容推定部が作業内容を推定する。作業内容とは、ショベルにおける掘削中、排土中、走行中といった作業の種類を示す。これら作業内容と、ショベルの位置を示す作業位置情報やショベルが掘削している高さを示す作業高さ情報を関連付け、一定時間間隔で記録装置に記録したり、通信装置を通じて外部のサーバに記録したり、表示装置に表示したりする。これにより、どの時刻においてショベルがどのような内容の作業を行っていたかを把握し、作業現場におけるショベルのより詳細な管理を可能としている。
特許第6144373号公報
ショベルを用いた作業では、ショベルのアームの稼働範囲や、上部旋回体の旋回範囲付近に他の作業員が立ち入ることで、ショベルの一部が他の作業員に接触する可能性がある。仮にそのような事象が発生した場合、他の建設機械による作業も含めた施工全体を停止させて、原因の解明や対策の立案、適用、確認などを行わなければならないため、ショベルの稼働率が低下することとなる。従って、作業の管理者は、稼働率低下につながる事象が発生しないように、作業全体を管理する必要がある。従来の稼動記録分析システムを用いる場合、記録装置や外部のサーバなどに、作業内容を記録することが可能である。しかしながら、記録されるデータには、稼働率低下の要因となり得る作業内容とそれ以外の作業内容とが含まれていて、一般的に前者の発生確率は極めて低い。さらに、作業全体における稼働時間の長さや使用する建設機械の台数などに応じて、記録されるデータの量は膨大になる。このような膨大な量のデータの中から、稼働率低下の要因となり得る作業内容のみをシステム利用者が検出し抽出するには、多くの時間を要し、また見落としが発生する場合がある。
本発明は、上記課題に鑑みてなされたものであり、その目的は、建設機械の稼働時に記録された稼働情報の中から、稼働率低下の要因となり得る作業内容を効率的に抽出することが可能な建設機械向け稼働記録分析システムを提供することにある。
上記目的を達成するために、本発明は、車体の位置を検出する車体位置検出装置と、前記車体の姿勢を検出する車体姿勢検出装置と、前記車体の動作状態を検出する動作状態検出装置と、前記車体位置検出装置および前記車体姿勢検出装置からの情報に基づいて前記車体の作業位置を算出し、前記作業位置および前記動作状態に基づいて前記車体の作業内容を推定し、前記作業位置および前記作業内容を含む稼働情報を出力するコントローラとを備えた建設機械向け稼働記録分析システムにおいて、前記車体の周囲に存在する物体を検出する物体検出装置を備え、前記コントローラは、前記物体検出装置からの情報に基づいて前記物体の位置を算出し、前記車体位置検出装置および前記車体姿勢検出装置からの情報と前記物体の位置とに基づいて前記車体と前記物体とが近接しているか否かを判定し、その判定結果を前記稼働情報に含めて出力するものとする。
以上のように構成した本発明によれば、車体と周囲に存在する物体とが近接しているか否かの判定結果が稼働情報に含まれるため、システム利用者は、膨大な量の稼働情報の中から、車体と周囲に存在する物体とが近接したときの作業内容を速やかに抽出することができる。これにより、建設機械の作業状況の検証効率を向上させることが可能となる。
本発明に係る建設機械向け稼働記録分析システムによれば、稼働時に記録された稼働情報の中から、稼働率低下の要因となり得る作業内容を効率的に抽出することが可能となる。
建設機械向け稼働記録分析システムの構成図である。 建設機械向け稼働記録分析システムにおける処理の流れを説明する図である。 ショベルの状態を示す図である。 ショベルの作業位置と動作状態の例を示す図である。 ショベルにおけるカメラの搭載状態とカメラ映像を示す図である。 カメラ映像を用いて差分領域を算出する処理を説明する図である。 カメラ映像内の差分領域を射影変換する処理を説明する図である。 重複領域を算出する処理を説明する図である。 稼働情報の例を示す図である。 本発明の第1の実施例における表示装置の表示内容を示す図である。 本発明の第2の実施例における表示装置の表示内容を示す図である。 本発明の第3の実施例における表示装置の表示内容を示す図である。 本発明の第4の実施例におけるLiDARによる検知処理を説明する図である。 本発明の第5の実施例におけるLiDARによる検知処理を説明する図である。 本発明の第5の実施例における表示装置の表示内容を示す図である。
以下、本発明の実施の形態を図面を参照して説明する。なお、各図中、同等の部材には同一の符号を付し、重複した説明は適宜省略する。
本実施例では、稼働記録の中から条件に適合する内容を抽出して優先的に表示させる建設機械向け稼働記録分析システムの例を説明する。
図1は、本実施例の建設機械向け稼働記録分析システムの構成図である。ここではショベルを対象建設機械として説明する。
車体位置検出装置101は、例えばGPSまたはGNSSで構成され、ショベルの位置を検出し、結果を送出する。
車体姿勢検出装置102は、ブーム、アーム、バケットの角度を検出する角度センサ、上部旋回体の旋回角度を検出する角度センサ等で構成され、ショベルの下部走行体と上部旋回体の位置関係や、ブーム、アーム、バケット等の位置関係を検出し、結果を送出する。
動作状態検出装置103は、エンジン回転数を検出する回転数センサ、アクチュエータの負荷圧を検出する圧力センサ等で構成され、エンジンの出力や可動部油圧などショベルの動作に関わる状態を取得し、結果を送出する。
作業位置取得部104は、車体位置検出装置101や車体姿勢検出装置102から受信した情報をもとに、ショベルが作業を行っている場所及びショベルの各可動部の位置関係や状態を取得し、結果を送出する。
動作状態取得部105は、動作状態検出装置103から受信した情報をもとに、エンジンの状態、油圧系統の状態を取得し、結果を送出する。
作業内容推定部106は、作業位置取得部104と動作状態取得部105から受信した情報をもとに、現在ショベルが行っている作業が、例えば掘削中、排土中、走行中のいずれであるかといった推定を行い、結果として推定した作業内容を送出する。
稼働情報算出部107は、作業内容推定部106が出力する作業内容と、ショベル周囲に存在する物体とショベルが近接しているか否かを表す情報とを統合し、近接していると判定している場合は優先的に表示を行うような設定を追加して稼働情報とし、結果を送出する。
通信装置108は、例えば携帯通信機で無線LAN端末で構成され、稼働情報算出部107が作成した稼働情報を、通信回線を通じてシステム外部の機器に送出する。
記録装置109は、例えばメモリやディスクで構成され、稼働情報算出部107が出力した稼働情報を記録しておき、稼働情報算出部107や通信装置108の要求にもとづいてこの情報を出力する。
表示装置110は、例えばコンソールおよびディスプレイで構成され、コンソールの操作に応じて稼働情報算出部107が出力する稼働情報をディスプレイに表示する。
物体検出装置111は、車体に取り付けられたカメラ501,502(図3に示す)であり、ショベル周囲の状態を撮影し、結果のカメラ映像を出力する。
物体検出部113は、物体検出装置111が出力した映像を入力し、この中からショベルの周囲に存在する物体を検出し、検出結果を送出する。
形状情報保持部114は、ショベルの3次元形状を保持し、配置算出部112の要求に応じてこの3次元形状を出力する。
配置状態判定部115は、配置算出部112が出力するショベルの各部品の現在における3次元配置と、物体検出部113が出力するカメラ映像内での物体検出結果を2次元から3次元へ射影させた結果とを比較し、物体検出部113により検出された物体が、現在のショベルの車体が存在する位置の近傍に存在するか否かを判定し、判定結果を稼働情報算出部107に送出する。
上述の建設機械向け稼働記録分析システムにおいて、稼働率低下の要因となり得る事象が発生した時点における稼働情報を表示する例を図2~図10を用いて示す。
図2には、本発明における稼働記録分析システムの処理の流れを示す。処理の流れは大きく二つに分けている。稼働情報記録時の処理は、ショベルが稼働している際に実行するものである。稼働情報検証時の処理は、記録装置109が記録するショベルの稼働情報を、表示装置110を用いて検証する際に実行するものである。
本発明における建設機械向け稼働記録分析システムにおいて、稼働情報記録時の動作を開始すると、最初にステップ201の処理を行う。
ステップ201では、作業位置取得部104が、車体位置検出装置101及び車体姿勢検出装置102から入力した情報をもとに、作業位置を取得する。この例におけるショベルの状態を図3に示す。ショベル301は、下部走行体302と、下部走行体302上に旋回可能に設けられた上部旋回体303と、上部旋回体303上に設けられたブーム304、アーム305、バケット306から成るフロント作業機とを少なくとも備えている。ショベル301は、斜面を備えた地表面上に存在している。車体にはカメラ501,502が取り付けられていて、車体の周囲を撮影している。車体位置検出装置101は、例えばGPS(Global Positioning System)を用いて地球上での緯度経度を取得するといった手法が考えられる。また他には、トータルステーションなどを利用して、施工計画の対象領域内での相対的な位置を取得するといった手法も考えられる。車体姿勢検出装置102では、ショベル301に搭載した角度センサ等を用いて、車体の姿勢を検出する。この場合の姿勢とは、下部走行体302の方向、下部走行体302と上部旋回体303との旋回角度の差、並びに、上部旋回体303、ブーム304、アーム305、バケット306の各部分間の配置角度の差をまとめた情報である。この後、処理をステップ202に移す。
ステップ202では、動作状態取得部105において、動作状態検出装置103から出力した情報をもとに動作状態を取得する。動作状態検出装置103では、例えばエンジン出力センサや油圧センサ、速度計、異常検出センサなどのセンサ類から得られる情報を、動作状態取得部105に出力している。この後、処理をステップ203に移す。
ステップ203では、作業位置取得部104及び動作状態取得部105の出力する情報にもとづいて、作業内容推定部106にてショベルの現在の作業内容を推定する。作業位置取得部104の出力する作業位置及び動作状態取得部105の出力する動作状態の例を図4に示す。ここでの作業位置とは、ショベル旋回中心の底面が存在している位置の3次元座標である。また動作状態とは、ショベルの各部が相対的に形成する角度θ1,θ2,θ3,θ4である。作業内容の推定では、例えば車体姿勢検出装置102の出力する車体の姿勢の情報をもとに、バケット306の位置が地表面よりも高く、かつ速度計の値が一定値以上である場合に、作業内容が走行中であると推定する。またはバケット306の角度が変化を継続していて、かつ油圧ポンプの吐出圧が一定値以上である場合に、作業内容が掘削中であると推定する。作業内容推定部106は、このようにして推定した作業内容を、稼働情報算出部107に出力する。この後、処理をステップ204に移す。
ステップ204では、稼働情報算出部107において、作業内容推定部106から入力した作業内容と、作業内容に関連する位置や速度、角度といった数値情報を統合する。例えば、作業内容として走行中と推定した場合、走行速度を作業内容に統合する。または作業内容として掘削中と推定した場合、姿勢として示される角度情報を統合する。この結果を稼働情報算出部107の内部に保持しておく。この後、処理をステップ205に移す。
ステップ205では、配置算出部112において、ショベル301の現在の姿勢にもとづく3次元形状を構築する。形状情報保持部114が保持するショベル301の3次元の基本形状を入力し、これに対して作業位置取得部104から入力した作業位置及び動作状態取得部105から入力した動作状態を適用する。例えば、姿勢の情報をもとに、下部走行体302の方向、下部走行体302と上部旋回体303との旋回角度の差、並びに、上部旋回体303、ブーム304、アーム305、バケット306の各部分間の配置角度の差に合わせて、3次元形状における下部走行体302や上部旋回体303、ブーム304、アーム305、バケット306といった各部品間の角度の差が同等になるように形状を更新する。この結果を配置状態判定部115に出力する。この後、処理をステップ206に移す。
ステップ206では、カメラ501,502が撮影しているショベル周囲の映像を用いて、物体検出部113において物体検出処理を行う。物体検出処理の例を図5に示す。この例では、上部旋回体303に前方カメラ501と後方カメラ502を搭載している。カメラ501,502が撮影している映像は、前方カメラ映像503、後方カメラ映像504のようになっている。ショベル301の後方には物体が存在していないため、後方カメラ映像504には地表面と空のみが映っている。ショベル301の前方には人物505が存在しているため、この人物505が前方カメラ映像503に映っている。また車体の姿勢の状態により、前方カメラ映像503にはアーム305とバケット306が映っている。
前方カメラ映像503における周囲物体検出の例を図6に示す。前方カメラ映像503において、時刻ti-1での様子を図の左上に示し、そのあとの時刻tiでの様子を図の左下に示す。ここでは、人物505がショベルに接近していて、人物505の映像が時間経過に伴って前方カメラ映像503内を下方向に向かって移動している。これら時刻ti-1,tiにおける前方カメラ映像503の差分を取得すると、図の右側に示したような結果となる。映像内では人物505が移動している箇所のみに映像の差分が発生している。これを映像上の差分領域601とする。このように、差分が発生した場合は、映像上の差分領域601を配置状態判定部115に出力する。この後、処理をステップ207に移す。
ステップ207では、配置状態判定部115において、カメラ映像の座標系と、ショベル301の形状を表す座標系との間で射影変換を行う。カメラ映像は2次元の座標系で表現されていて、ショベル301の形状は3次元の座標系で表現されている。これらの間で射影変換を行い。カメラ映像内で検出した差分領域601が、ショベルとの間でどのような相対位置にいるかを算出する。ショベル301の形状は、ステップ205での処理により、ショベル301の現在の姿勢と同等になるように形状を更新している。ショベル301の形状は、前方カメラ501の設置位置と撮影方向も同時に保持している。さらに、作業位置の情報をもとに、地表面と前方カメラ501との間の相対的位置関係も判明している。人物505は地表面上に存在していることから、前方カメラ映像503内において検出した差分領域601が、3次元空間内の地表面上でどの位置に存在しているかを、射影変換により求めることが可能となる。この模様を図7に示す。射影変換により、時刻tiにおける人物701が3次元空間内で存在する位置を取得する。この後、処理をステップ208に移す。
ステップ208では、ショベル301の構成要素と、時刻tiにおける人物701との重複領域を算出する。例えば、図7の状態からさらに時間が経過し、人物701がさらに移動している状態を想定する。この模様を図8に示す。時刻tiにおける人物701は移動により位置を変え、時刻ti+1における人物801に示すようにバケット306の近辺へ移動している。この場合における重複領域は、次のように求める。時刻ti+1における人物801が、この後移動する可能性のある範囲を人物移動範囲803として3次元領域の形式で算出する。人物移動範囲803は、人物がとり得る移動速度で、ti+2の時間までに移動する可能性のある範囲を示す。同様に、時刻ti+1におけるショベル301のアーム305とバケット306が、この後移動する可能性のある範囲をショベル移動範囲804として3次元領域の形式で算出する。ショベル移動範囲804は、時刻ti+1におけるアーム305及びバケット306の移動速度から、最大限の加速を行いながら移動した場合に、時刻ti+2の時間までに移動する可能性のある範囲を示す。重複領域802は、人物移動範囲803とショベル移動範囲804とが重なった領域(図中斜線で示す)として算出する。この後、処理をステップ209に移す。
ステップ209では、ステップ208での処理によって重複領域802が発生したか否かを判定する。発生した場合は、処理をステップ210に移し、それ以外の場合は処理をステップ211に移す。
ステップ210では、稼働情報算出部107により、発生した重複領域802をステップ204で算出した稼働情報に追加して新たな稼働情報とする。この後、処理をステップ211に移す。
ステップ211では、稼働情報算出部107により、稼働情報を記録装置109に記録する。または、通信装置108を通じて外部の記録装置に記録する。この後、処理をステップ212に移す。
ステップ212では、稼働情報の記録が終了したか否かを判定する。ショベル301の停止などにより稼働情報の記録が終了した場合は、図2の左側に示した稼働情報記録時の処理を終了し、それ以外の場合は処理をステップ201に移す。稼働情報記録時には、上述のような処理を行う。
続いて、記録装置109に記録した稼働情報を検証する際の処理について述べる。この処理の流れは、図2の右側にある稼働情報検証時の部分に記載している。
本実施例における建設機械向け稼働記録分析システムにおいて、稼働情報検証時の動作を開始すると、最初にステップ213の処理を行う。
ステップ213では、稼働情報算出部107により、記録装置109に記録しておいて稼働情報を取得する。どの時点の稼働情報を取得するかは表示装置110を用いたシステム利用者からの入力により設定する。なお、取得する稼働情報はある一時点の稼働情報である場合や、複数の連続する時点の稼働情報を範囲として指定する場合などがある。範囲として指定した場合は、稼働情報検証時の処理を範囲の中で連続して実行する。この後、処理をステップ214に移す。
ステップ214では、取得した稼働情報に付加されている追加情報を検出する。追加情報が付加されていない場合は何も検出しない。この後、処理をステップ215に移す。
ステップ215では、取得した稼働情報に追加情報が付加されているか否かを判定する。付加されている場合は処理をステップ216に移し、それ以外の場合は処理をステップ217に移す。
ステップ216では、取得した稼働情報を抽出候補に追加する。この後、処理をステップ217に移す。
ステップ217では、表示装置110より指定した稼働情報の内、まだ上述の処理を適用していない稼働情報が残っているか否かを判定する。残っている場合は処理をステップ213に移し、それ以外の場合は処理をステップ218に移す。
ステップ218では、取得した稼働情報を表示装置110に表示する。この後、処理をステップ219に移す。
ステップ219では、抽出候補に追加された稼働情報を強調表示する。その後処理を終了する。
ここで、稼働情報の例を図9に示す。ここでは、時刻tiにおける稼働情報と、時刻ti+1における稼働情報を示している。時刻tiにおいてショベル301の作業内容は“掘削中”であり、ショベル301の位置と姿勢を稼働情報に記録している。この時点では重複領域802は発生していないため、追加情報は“無”としている。時刻ti+1においてショベル301の作業内容は“掘削中”であり、ショベル301の位置と姿勢を稼働情報として記録している。この時点で、人物701が移動して、時刻ti+1における人物801に示すような位置に存在し、重複領域算出処理の結果、重複領域802が算出されている。この結果にもとづき、追加情報は“有”とし、重複領域802を追加情報として稼働情報に追加している。
次に、ステップ218における強調表示の例を図10に示す。この例では、表示装置110の表示画面において、図に示すようなグラフを表示する。グラフは、時刻の推移を横軸に示している。作業内容の行には時刻の推移に伴う作業内容の変化を示す。作業位置の行には、同様に作業位置の変化を示す。ここで、この図では便宜的に1本の線によるグラフ表示をしているが、実際には、3次元座標の変化や、緯度経度の変化などを示すグラフを表示するものとする。姿勢の行には、ショベル301の姿勢の変化を示す。ここでも、便宜的に1本の線によるグラフ表示をしているが、実際には、θ1,θ2,θ3,θ4といった角度の変化をグラフ表示するものとする。稼働情報に付加された重複領域802が存在する時刻においては、重複領域802が存在することを、帯の表示(図中斜線で示す)と“重複領域発生”の文字で示している。これにより、ショベル301の稼働率低下の要因となり得るショベル301と人物801との接近状態を、複数の時刻における稼働情報の表示の中において明示している。
本実施例では、少なくともアーム305、バケット306を有するフロント作業機を備えた車体301と、車体301の位置を検出する車体位置検出装置101と、車体301の姿勢を検出する車体姿勢検出装置102と、車体301の動作状態を検出する動作状態検出装置103と、車体位置検出装置101および車体姿勢検出装置102からの情報に基づいて車体301の作業位置を算出し、前記作業位置および前記動作状態に基づいて車体301の作業内容を推定し、前記作業位置および前記作業内容を含む稼働情報を出力するコントローラ100とを備えた建設機械向け稼働記録分析システムにおいて、車体301の周囲に存在する物体505,701,801を検出する物体検出装置111を備え、コントローラ100は、物体検出装置111からの情報に基づいて物体505,701,801の位置を算出し、車体位置検出装置101および車体姿勢検出装置102からの情報と物体505,701,801の位置とに基づいて車体301と物体505,701,801とが近接しているか否かを判定し、その判定結果を前記稼働情報に含めて出力する。
以上のように構成した本実施例によれば、車体301と周囲に存在する物体505,701,801とが近接しているか否かの判定結果が稼働情報に含まれるため、システム利用者は、膨大な量の稼働情報の中から、車体と周囲に存在する物体とが近接したときの作業内容を速やかに抽出することができる。これにより、ショベル301の作業状況の検証効率を向上させることが可能となる。
また、物体検出装置111は、車体301の周囲を撮影するカメラ501,502であり、コントローラ100は、車体301がカメラ501,502の撮像間隔内に移動する可能性のある車体移動範囲804の少なくとも一部と物体801が前記撮像間隔内に移動する可能性のある物体移動範囲803の少なくとも一部とが重複した場合に、車体301と物体801とが近接していると判定する。これにより、車体301および物体801の移動速度に基づいて、車体301と物体801とが近接するか否かを判定することが可能となる。
また、本実施例における建設機械向け稼働記録分析システムは、稼働情報を送信する通信装置108、前記稼働情報を記録する記録装置109、および稼働情報を表示する表示装置110を更に備える。これにより、稼働情報を確認する場所の自由度が向上する。
本実施例では、重複領域802が発生した場合に、重複領域802を発生させた要因を表示する例を説明する。
本実施例における時刻ti+1での前方カメラ映像503の例を図11の左上に示す。ここでは、時刻ti+1における人物801の動きにより、時刻ti+1における差分領域1101が発生している。この後の処理にて、重複領域802が発生したと判定された場合、この時刻ti+1における差分領域1101を記録装置109に記録する。重複領域802が発生する場合は必ず差分領域1101も存在するため、このような状況では記録装置109に必ず差分領域1101が記録される。
この例における表示装置110の画面への表示の例を図11の右側に示す。重複領域802が存在する時刻において、記録装置109に記録した差分領域1101を、重複領域発生の強調表示と併せて表示する。
本実施例では、コントローラ100は、車体301と物体801とが近接していると判定した場合に、カメラ501,502がその判定時に撮影した映像のうち、物体801がカメラ501,502の撮像間隔内に移動した範囲を示す差分領域1101を稼働情報に含めて出力する。
以上のように構成した本実施例によれば、重複領域802が発生した際に、発生の判定基準となった差分領域1101を映像として表示することが可能となり、システム利用者は、どのような物体が重複領域802を発生させたかを視認することが可能となる。システム利用者は、視認した内容をもとに、重複領域802の分析の重要度を把握し、以後の対応を迅速に実行することが可能となる。
本実施例では、重複領域802が発生した場合に、重複領域802を発生させた要因を、その他の状態も含めて表示する例を説明する。
本実施例における時刻ti+1での前方カメラ映像503の例を図12の左上に示す。ここでは、時刻ti+1における人物801の動きにより、時刻ti+1における差分領域1101が発生している。この後の処理にて、重複領域802が発生したと判定された場合、この時刻ti+1における差分領域1101と、時刻ti+1におけるカメラ映像1201とを記録装置109に記録する。重複領域802や差分領域1101の算出にはカメラ映像を用いるため、このような状況では記録装置109に必ずカメラ映像1201並びに差分領域1101が記録される。
この例における表示装置110の画面への表示の例を図12の右側に示す。重複領域802が存在する時刻において、記録装置109に記録したカメラ映像1201と差分領域1101を、重複領域発生の強調表示と併せて表示する。
本実施例では、コントローラ100は、車体301と物体801とが近接していると判定した場合に、カメラ501,502がその判定時に撮影した映像において物体801がカメラ501,502の撮像間隔内に移動した範囲を示す差分領域1101の情報と、カメラ501,502がその判定時に撮影した映像とを稼働情報に含めて出力する。
以上のように構成した本実施例によれば、重複領域802が発生した際に、発生の判定基準となった差分領域1101とともに、その周囲の状況を映像として表示することが可能となり、システム利用者は、どのような状況下で重複領域802が発生しているかを視認することが可能となる。システム利用者は、視認した内容をもとに、重複領域802の分析の重要度を把握し、以後の対応を迅速に実行することが可能となる。
本実施例では、LiDAR(Light Detection and Ranging)を用いて物体検出を行う例を説明する。
本実施例におけるショベル301の構成を図13に示す。この構成では、第1の実施例におけるカメラ501,502がLiDARに置き換えられる。この例では、ショベル301の前方を検出対象とする前方LiDAR1301と、ショベル301の後方を検出対象とする後方LiDAR1302を搭載している。
前方LiDAR出力1303及び後方LiDAR出力1304を図13の右側に示す。前方LiDAR1301の検出範囲内には、人物505とアーム305及びバケット306が存在していて、これらにより前方LiDAR出力1303のグラフに波形が生じている。左側の波形が人物505によって発生したもので、右側の波形はアーム305及びバケット306によって発生したものである。なお、後方LiDAR1302の検出範囲には地表面以外の対象が存在せず、これを除いて後方LiDAR出力1304には特徴的な波形は存在しない。
物体検出部113は、これらのLiDAR出力を利用して、物体検出を行う。その結果、人物505とアーム305及びバケット306を検出する。この結果をもとに、配置状態判定部115では、配置算出部112の出力するショベル301の3次元形状との比較から、アーム305及びバケット306によって生じる波形を除外し、人物505によって生じる波形を取得する。この結果を用いて、重複領域802の算出を行う。
本実施例では、物体検出装置111は、対象物との距離情報を取得するLiDAR1301,1302であり、コントローラ100は、LiDAR1301,1302で取得した前記対象物の距離情報から車体301の距離情報を除外することにより物体505の距離情報を取得する。
以上のように構成した本実施例によれば、物体検出装置111をLiDAR1301,1302で構成した場合でも、第1の実施例と同様に、車体301と周囲に存在する物体505とが近接しているか否かの判定結果が稼働情報とともに記録されるため、システム利用者は、膨大な量の稼働情報の中から、車体301と周囲に存在する物体505とが近接したときの作業内容を速やかに抽出することができる。これにより、ショベル301の作業状況の検証効率を向上させることが可能となる。
本実施例では、LiDARを用いて物体検出を行い、物体検出時のカメラ映像を表示する例を説明する。
本実施例におけるショベル301の構成を図14に示す。この構成では、カメラ501,502に加えて、LiDARを設置し、その出力を物体検出部113への入力とする。前方LiDAR1301及び後方LiDAR1302を用いた検知処理は第4の実施例と同等である。本実施例ではさらに、前方カメラ501及び後方カメラ502にてショベル301の周囲を撮影している。この撮影内容に、LiDAR出力を利用した物体検出結果を重ね、結果を記録装置109に記録する。この場合における表示装置110の表示は、図15のようになる。重複領域802の発生を検出した時刻において、記録装置109に記録した映像を併せて表示する。
本実施例では、物体検出装置111は、対象物との距離情報を取得するLiDAR1301,1302であり、コントローラ100は、LiDAR1301,1302で取得した前記対象物の距離情報から車体301の距離情報を除外することにより物体505の距離情報を取得する。また、本実施例に係る建設機械向け稼働記録分析システムは、車体301の周囲を撮影するカメラ501,502を更に備え、コントローラ100は、車体301と物体505とが近接していると判定した場合に、カメラ501,502がその判定時に撮影した映像を稼働情報に含めて出力する。
以上のように構成した本実施例によれば、重複領域802が発生した際に、発生の判定基準となった物体検出結果とともに、その周囲の状況を映像として表示することが可能となり、システム利用者は、どのような状況下で重複領域802が発生しているかを視認することが可能となる。システム利用者は、視認した内容をもとに、重複領域802の分析の重要度を把握し、以後の対応を迅速に実行することが可能となる。
以上、本発明の実施例について詳述したが、本発明は、上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は、本発明を分かり易く説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成に他の実施例の構成の一部を加えることも可能であり、ある実施例の構成の一部を削除し、あるいは、他の実施例の一部と置き換えることも可能である。
100…コントローラ、101…車体位置検出装置、102…車体姿勢検出装置、103…動作状態検出装置、104…作業位置取得部、105…動作状態取得部、106…作業内容推定部、107…稼働情報算出部、108…通信装置、109…記録装置、110…表示装置、111…物体検出装置、112…配置算出部、113…物体検出部、114…形状情報保持部、115…配置状態判定部、201~219…ステップ、301…ショベル(車体)、302…下部走行体、303…上部旋回体、304…ブーム、305…アーム、306…バケット、501…前方カメラ(物体検出装置)、502…後方カメラ(物体検出装置)、503…前方カメラ映像、504…後方カメラ映像、505…人物(物体)、601…差分領域、701…時刻tiにおける人物(物体)、801…時刻ti+1における人物(物体)、802…重複領域、803…人物移動範囲(物体移動範囲)、804…ショベル移動範囲(車体移動範囲)、1101…時刻ti+1における差分領域、1201…時刻ti+1におけるカメラ映像、1301…前方LiDAR(物体検出装置)、1302…後方LiDAR(物体検出装置)、1303…前方LiDAR出力、1304…後方LiDAR出力。

Claims (7)

  1. 少なくともアーム、バケットを有するフロント作業機を備えた車体と、
    前記車体の位置を検出する車体位置検出装置と、
    前記車体の姿勢を検出する車体姿勢検出装置と、
    前記車体の動作状態を検出する動作状態検出装置と、
    前記車体位置検出装置および前記車体姿勢検出装置からの情報に基づいて前記車体の作業位置を算出し、前記作業位置および前記動作状態に基づいて前記車体の作業内容を推定し、前記作業位置および前記作業内容を含む稼働情報を算出するコントローラとを備えた建設機械向け稼働記録分析システムにおいて、
    前記車体の周囲に存在する物体を検出する物体検出装置を備え、
    前記コントローラは、
    前記物体検出装置からの情報に基づいて前記物体の位置を算出し、
    前記車体位置検出装置および前記車体姿勢検出装置からの情報と前記物体の位置とに基づいて前記車体と前記物体とが近接しているか否かを判定し、その判定結果を前記稼働情報に追加する
    ことを特徴とする建設機械向け稼働記録分析システム。
  2. 請求項1に記載の建設機械向け稼働記録分析システムにおいて、
    前記物体検出装置は、前記車体の周囲を撮影するカメラであり、
    前記コントローラは、前記車体が前記カメラの撮像間隔内に移動する可能性のある車体移動範囲の少なくとも一部と前記物体が前記撮像間隔内に移動する可能性のある物体移動範囲の少なくとも一部とが重複した場合に、前記車体と前記物体とが近接していると判定する
    ことを特徴とする建設機械向け稼働記録分析システム。
  3. 請求項2に記載の建設機械向け稼働記録分析システムにおいて、
    前記コントローラは、前記車体と前記物体とが近接していると判定した場合に、前記カメラがその判定時に撮影した映像において前記物体が前記撮像間隔内に移動した範囲を示す差分領域の情報を前記稼働情報に含めて出力する
    ことを特徴とする建設機械向け稼働記録分析システム。
  4. 請求項2に記載の建設機械向け稼働記録分析システムにおいて、
    前記コントローラは、前記車体と前記物体とが近接していると判定した場合に、前記カメラがその判定時に撮影した映像を前記稼働情報に含めて出力する
    ことを特徴とする建設機械向け稼働記録分析システム。
  5. 請求項1に記載の建設機械向け稼働記録分析システムにおいて、
    前記物体検出装置は、対象物との距離情報を取得するLiDARであり、
    前記コントローラは、前記LiDARで取得した前記対象物の距離情報から前記車体の距離情報を除外することにより前記物体の距離情報を取得する
    ことを特徴とする建設機械向け稼働記録分析システム。
  6. 請求項5に記載の建設機械向け稼働記録分析システムにおいて、
    前記車体の周囲を撮影するカメラを更に備え、
    前記コントローラは、前記車体と前記物体とが近接していると判定した場合に、前記カメラがその判定時に撮影した映像を前記稼働情報に含めて算出する
    ことを特徴とする建設機械向け稼働記録分析システム。
  7. 請求項1に記載の建設機械向け稼働記録分析システムにおいて、
    前記稼働情報を送信する通信装置、前記稼働情報を記録する記録装置、および前記稼働情報を表示する表示装置を更に備えた
    ことを特徴とする建設機械向け稼働記録分析システム。
JP2019174920A 2019-09-26 2019-09-26 建設機械向け稼働記録分析システム Active JP7235631B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2019174920A JP7235631B2 (ja) 2019-09-26 2019-09-26 建設機械向け稼働記録分析システム
US17/760,887 US20220349154A1 (en) 2019-09-26 2020-09-01 Operation record analysis system for construction machine
CN202080062632.4A CN114342361A (zh) 2019-09-26 2020-09-01 面向工程机械的运行记录分析系统
KR1020227007890A KR20220044339A (ko) 2019-09-26 2020-09-01 건설 기계용 가동 기록 분석 시스템
PCT/JP2020/033071 WO2021059892A1 (ja) 2019-09-26 2020-09-01 建設機械向け稼働記録分析システム
EP20867825.0A EP4015715A4 (en) 2019-09-26 2020-09-01 OPERATION RECORDING AND ANALYSIS SYSTEM FOR CONSTRUCTION MACHINERY

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019174920A JP7235631B2 (ja) 2019-09-26 2019-09-26 建設機械向け稼働記録分析システム

Publications (2)

Publication Number Publication Date
JP2021050559A JP2021050559A (ja) 2021-04-01
JP7235631B2 true JP7235631B2 (ja) 2023-03-08

Family

ID=75157323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019174920A Active JP7235631B2 (ja) 2019-09-26 2019-09-26 建設機械向け稼働記録分析システム

Country Status (6)

Country Link
US (1) US20220349154A1 (ja)
EP (1) EP4015715A4 (ja)
JP (1) JP7235631B2 (ja)
KR (1) KR20220044339A (ja)
CN (1) CN114342361A (ja)
WO (1) WO2021059892A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021192219A1 (ja) * 2020-03-27 2021-09-30 住友重機械工業株式会社 作業機械用画像取得装置、情報管理システム、情報端末、作業機械用画像取得プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010198519A (ja) 2009-02-27 2010-09-09 Hitachi Constr Mach Co Ltd 周囲監視装置
JP2011028729A (ja) 2009-07-03 2011-02-10 Takenaka Komuten Co Ltd 接触防止システム、建設機械およびプログラム
JP2016003462A (ja) 2014-06-16 2016-01-12 住友重機械工業株式会社 ショベル支援装置
JP2018112065A (ja) 2018-04-25 2018-07-19 住友重機械工業株式会社 ショベル支援装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS55166829A (en) 1979-06-14 1980-12-26 Omron Tateisi Electronics Co Method of manufacturing sealed relay
US8139109B2 (en) * 2006-06-19 2012-03-20 Oshkosh Corporation Vision system for an autonomous vehicle
US9342074B2 (en) * 2013-04-05 2016-05-17 Google Inc. Systems and methods for transitioning control of an autonomous vehicle to a driver
US9517771B2 (en) * 2013-11-22 2016-12-13 Ford Global Technologies, Llc Autonomous vehicle modes
US9646428B1 (en) * 2014-05-20 2017-05-09 State Farm Mutual Automobile Insurance Company Accident response using autonomous vehicle monitoring
JP2015224875A (ja) * 2014-05-26 2015-12-14 Kyb株式会社 作業機の作動状態検出システム及び作業機
US9457718B2 (en) * 2014-12-19 2016-10-04 Caterpillar Inc. Obstacle detection system
JP6144373B2 (ja) * 2016-02-17 2017-06-07 住友建機株式会社 ショベル、ショベル管理システム、及び携帯通信端末
US20170297581A1 (en) * 2016-04-19 2017-10-19 Caterpillar Inc. System and method for controlling operation of machine
JP6468444B2 (ja) * 2016-04-28 2019-02-13 コベルコ建機株式会社 建設機械
JP6581139B2 (ja) * 2017-03-31 2019-09-25 日立建機株式会社 作業機械の周囲監視装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010198519A (ja) 2009-02-27 2010-09-09 Hitachi Constr Mach Co Ltd 周囲監視装置
JP2011028729A (ja) 2009-07-03 2011-02-10 Takenaka Komuten Co Ltd 接触防止システム、建設機械およびプログラム
JP2016003462A (ja) 2014-06-16 2016-01-12 住友重機械工業株式会社 ショベル支援装置
JP2018112065A (ja) 2018-04-25 2018-07-19 住友重機械工業株式会社 ショベル支援装置

Also Published As

Publication number Publication date
EP4015715A1 (en) 2022-06-22
CN114342361A (zh) 2022-04-12
US20220349154A1 (en) 2022-11-03
JP2021050559A (ja) 2021-04-01
KR20220044339A (ko) 2022-04-07
WO2021059892A1 (ja) 2021-04-01
EP4015715A4 (en) 2023-08-30

Similar Documents

Publication Publication Date Title
AU2022209235B2 (en) Display control device and display control method
JP6674846B2 (ja) 形状計測システム、作業機械及び形状計測方法
WO2017061518A1 (ja) 施工管理システム、施工管理方法、及び管理装置
JP6322612B2 (ja) 施工管理システム及び形状計測方法
AU2019292458B2 (en) Display control system, display control device, and display control method
US12088968B2 (en) Display control device, display control system, and display control method
JP6585697B2 (ja) 施工管理システム
CN109073379B (zh) 管理系统
JP7071203B2 (ja) 作業機械
US20140293047A1 (en) System for generating overhead view of machine
CN110132255B (zh) 控制方法、装置、显示终端、机械设备及人机交互系统
US20200327336A1 (en) Information presenting device and information presenting method
JP2020033704A (ja) 作業機械
JP7235631B2 (ja) 建設機械向け稼働記録分析システム
US20230291989A1 (en) Display control device and display method
JP6606230B2 (ja) 形状計測システム
JP6616149B2 (ja) 施工方法、作業機械の制御システム及び作業機械
JP6815462B2 (ja) 形状計測システム及び形状計測方法
US20230267895A1 (en) Display control device and display control method
JP7166326B2 (ja) 施工管理システム
CN112446281A (zh) 具有改进的移动感测的挖掘机
KR20240144438A (ko) 작업 지원 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230224

R150 Certificate of patent or registration of utility model

Ref document number: 7235631

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150