JP2021022179A - 建設機械のデータ処理システム - Google Patents

建設機械のデータ処理システム Download PDF

Info

Publication number
JP2021022179A
JP2021022179A JP2019138434A JP2019138434A JP2021022179A JP 2021022179 A JP2021022179 A JP 2021022179A JP 2019138434 A JP2019138434 A JP 2019138434A JP 2019138434 A JP2019138434 A JP 2019138434A JP 2021022179 A JP2021022179 A JP 2021022179A
Authority
JP
Japan
Prior art keywords
data
work
time
series
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019138434A
Other languages
English (en)
Inventor
進軍 邱
Shingun Kyu
進軍 邱
翔 藤原
Sho Fujiwara
翔 藤原
細 幸広
Yukihiro Sai
幸広 細
山▲崎▼ 洋一郎
Yoichiro Yamazaki
洋一郎 山▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kobelco Construction Machinery Co Ltd
Original Assignee
Kobelco Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kobelco Construction Machinery Co Ltd filed Critical Kobelco Construction Machinery Co Ltd
Priority to JP2019138434A priority Critical patent/JP2021022179A/ja
Priority to US17/626,450 priority patent/US20220237534A1/en
Priority to PCT/JP2020/024283 priority patent/WO2021019950A1/ja
Priority to EP20846813.2A priority patent/EP3985584A1/en
Priority to CN202080053078.3A priority patent/CN114127703A/zh
Publication of JP2021022179A publication Critical patent/JP2021022179A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • G06F16/219Managing data history or versioning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/17Details of further file system functions
    • G06F16/1737Details of further file system functions for reducing power consumption or coping with limited storage space, e.g. in mobile devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • G06F16/215Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2455Query execution
    • G06F16/24564Applying rules; Deductive queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/08Construction

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Databases & Information Systems (AREA)
  • Marketing (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Primary Health Care (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Educational Administration (AREA)
  • Game Theory and Decision Science (AREA)
  • Operations Research (AREA)
  • Development Economics (AREA)
  • Computational Linguistics (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Operation Control Of Excavators (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】作業現場における建設機械の画像の時系列データを含む作業データのデータ量を、当該建設機械の作業内容に応じて適切に削減することができる建設機械のデータ処理システムを提供する。【解決手段】建設機械のデータ処理システム10のデータ量削減部66は、データ記憶部62に記憶された時系列画像データのうち予め設定された第1の特定作業に対応する部分である第1の画像データのデータ量を、予め設定された第1の削減ルールに基づいて削減し、前記データ記憶部62に記憶された前記時系列画像データのうち予め設定された第2の特定作業に対応する部分である第2の画像データのデータ量を、予め設定された第2の削減ルールに基づいて削減するように構成される。【選択図】図2

Description

本発明は、作業現場における建設機械の作業に関する作業データのデータ量を削減するための建設機械のデータ処理システムに関するものである。
従来、作業現場において行われる建設機械の作業に関する作業データは、記憶部(記憶装置)に記憶され、例えば前記建設機械の作業を管理するためのデータとして利用される。前記記憶部の記憶容量は有限であるため、記憶される前記作業データのデータ量を削減するための技術が提案されている。
特許文献1は、作業機械に装着された複数のセンサの計測データを稼働データとして受信して稼働データ記憶部に記録する稼働データ収集装置を開示している。この稼働データ収集装置は、ダウンロード状況と、稼働データ記憶部の空き容量と、稼働データの情報鮮度とに応じて、収集する稼働データの記録範囲と記録間隔とを調整する。具体的に、この稼働データ収集装置では、稼働データ記録部に記録されているレコードの中で未だダウンロードされていないレコードについて、データ記録日からの経過日数に応じて記録レベルを変更し、また、稼働データ記録部の全体容量に対する空き容量の割合に応じて記録レベルを変更する。前記記録レベルは、記録条件であり、数値が高いほど記録情報量が多いことを示す(特許文献1の段落0050,0051)。
特開2015−095069号公報
ところで、実際の作業現場では、通常、作業内容の異なる複数の作業が建設機械によって行われる。
しかしながら、特許文献1の装置では、前記作業内容にかかわらず、前記ダウンロード状況と前記稼働データ記憶部の空き容量と前記稼働データの情報鮮度とに基づいて前記稼働データの前記記録レベルが一律に変更される。このため、特許文献1の装置は、本来保存されるべき作業内容のデータを適切に保存することができない場合がある。
また、特許文献1の装置のように前記センサの計測データを記憶部に記憶するだけではなく、作業現場において建設機械の画像データを時系列で記憶部に記憶することが考えられる。これにより、作業現場の作業を管理する管理者、作業現場の作業を行うオペレータなどの作業関係者は、前記記憶部に記憶された前記画像データを前記建設機械の作業を管理するために利用することができる。しかし、前記時系列の画像データは、前記センサの計測データに比べて、前記記憶部において大きな容量を必要とする。従って、前記時系列の画像データを記憶して当該画像データを前記建設機械の作業の管理に利用するためには、前記画像データのデータ量を削減することが特に重要となる。
本発明は、上記課題を解決するためになされたもので、作業現場における建設機械の画像の時系列データを含む作業データのデータ量を、当該建設機械の作業内容に応じて適切に削減することができる建設機械のデータ処理システムを提供することを目的とするものである。
提供されるのは、建設機械の作業に関する作業データのデータ量を削減するための建設機械のデータ処理システムであって、作業現場における前記建設機械を含む画像の時系列データである時系列画像データを取得する撮像装置と、前記時系列画像データを記憶するデータ記憶部と、前記時系列画像データに基づいて前記建設機械の少なくとも一つの作業内容を判定する作業内容判定部と、データ量削減部と、を備え、前記データ量削減部は、前記作業内容判定部により判定された前記少なくとも一つの作業内容が予め設定された第1の特定作業を含む場合に、前記データ記憶部に記憶された前記時系列画像データのうち前記第1の特定作業に対応する部分である第1の画像データのデータ量を、予め設定された第1の削減ルールに基づいて削減し、前記作業内容判定部により判定された前記少なくとも一つの作業内容が予め設定された特定作業であって前記第1の特定作業とは異なる第2の特定作業を含む場合に、前記データ記憶部に記憶された前記時系列画像データのうち前記第2の特定作業に対応する部分である第2の画像データのデータ量を、予め設定された削減ルールであって前記第1の削減ルールとは異なる第2の削減ルールに基づいて削減するように構成される。
このデータ処理システムでは、前記第1の特定作業に対応する前記第1の画像データの前記データ量を削減するための前記第1の削減ルールと、前記第2の特定作業に対応する前記第2の画像データの前記データ量を削減するための前記第2の削減ルールとが、前記作業関係者によって予め設定され、前記時系列画像データのうち、前記第1の画像データの前記データ量が前記第1の削減ルールに基づいて削減され、前記第2の画像データの前記データ量が前記第2の削減ルールに基づいて削減される。すなわち、前記作業関係者は、互いに異なる前記第1の削減ルールと前記第2の削減ルールを設定することにより、前記データ量の削減という観点で、前記第1の特定作業と前記第2の特定作業に優劣を付けることができる。このことは、保存されるべき作業内容の画像データを優先的に残す一方で、当該画像データよりも優先度(重要度)の劣る画像データのデータ量を相対的に多く削減することを可能にする。これにより、作業現場における建設機械の画像の時系列データを含む作業データのデータ量を、当該建設機械の作業内容に応じて適切に削減することができる。
具体例を挙げると、前記データ処理システムにおいて、前記第1の削減ルールは、前記第1の画像データの前記データ量を予め設定された第1の削減率で削減するように設定され、前記第2の削減ルールは、前記第2の画像データの前記データ量を予め設定された削減率であって前記第1の削減率とは異なる第2の削減率で削減するように設定されていてもよい。
この態様では、前記第1の特定作業及び前記第2の特定作業のうち、重要度の高い一方の作業の削減率が他方の作業の削減率よりも小さくなるように設定される。これにより、前記作業データの前記データ量を作業内容の重要度に応じて削減することができる。
前記データ処理システムは、前記建設機械の動作に対応して変化する動作パラメータの時系列データである時系列動作データを取得する少なくとも一つのセンサと、前記時系列画像データ及び前記時系列動作データのそれぞれに時刻情報を付与するタイムスタンプ処理部と、をさらに備え、前記データ記憶部は、前記時系列動作データをさらに記憶するように構成され、前記時系列画像データの前記時刻情報は、前記第1の画像データに対応する第1の時刻情報と、前記第2の画像データに対応する第2の時刻情報と、を含み、前記データ量削減部は、前記作業内容判定部により判定された前記少なくとも一つの作業内容が前記第1の特定作業を含む場合に、前記データ記憶部に記憶された前記時系列動作データのうち、前記第1の時刻情報に対応する時刻情報を有する部分である第1の動作データのデータ量を削減し、前記作業内容判定部により判定された前記少なくとも一つの作業内容が前記第2の特定作業を含む場合に、前記データ記憶部に記憶された前記時系列動作データのうち、前記第2の時刻情報に対応する時刻情報を有する部分である第2の動作データのデータ量を削減するように構成されることが好ましい。
この態様では、前記少なくとも一つのセンサにより取得される前記時系列動作データは、前記タイムスタンプ処理部が前記時系列画像データ及び前記時系列動作データのそれぞれに付与する前記時刻情報によって前記時系列画像データと関連づけられる。そして、前記データ量削減部は、前記少なくとも一つの作業内容が前記第1の特定作業を含む場合には、前記第1の画像データの前記データ量を削減するだけでなく、当該第1の画像データに関連づけられた前記第1の動作データの前記データ量も削減し、前記少なくとも一つの作業内容が前記第2の特定作業を含む場合には、前記第2の画像データの前記データ量を削減するだけでなく、当該第2の画像データに関連づけられた前記第2の動作データの前記データ量も削減する。これにより、前記撮像装置により取得される前記時系列画像データの前記データ量と、前記センサにより取得される前記時系列動作データの前記データ量とを、当該建設機械の作業内容に応じて削減することができる。
前記データ処理システムにおいて、前記作業内容判定部は、前記少なくとも一つの作業内容が予め設定された複数の第3の特定作業により構成される繰り返し作業を含む場合に、前記複数の第3の特定作業のそれぞれの判定の精度を示すスコアを出力するように構成され、前記データ量削減部は、前記データ記憶部に記憶された前記時系列画像データのうち前記複数の第3の特定作業に対応する部分である複数の第3の画像データの少なくとも一つのデータ量を、前記スコアに基づいて削減するように構成されていてもよい。
この態様では、前記複数の第3の画像データのうちの少なくとも一つの第3の画像データの前記データ量が前記スコアに基づいて削減される。この態様の具体例を挙げると次の通りである。この態様では、例えば、前記複数の第3の特定作業のうち低スコアの前記第3の特定作業に対応する前記第3の画像データの前記データ量が削減される一方で、前記複数の第3の特定作業のうち高スコアの前記第3の特定作業に対応する前記第3の画像データの前記データ量は削減されないように前記データ量削減部が構成されていてもよい。また、前記複数の第3の特定作業のうち、低スコアの前記第3の特定作業に対応する前記第3の画像データの前記データ量が高スコアの前記第3の特定作業に対応する前記第3の画像データの前記データ量よりも多く削減されるように前記データ量削減部が構成されていてもよい。なお、前記第3の特定作業は、前記第1の特定作業又は前記第2の特定作業と同じ作業であってもよく、前記第1の特定作業及び前記第2の特定作業と異なる作業であってもよい。
前記データ処理システムにおいて、前記データ記憶部は、前記作業内容判定部により判定された前記少なくとも一つの作業内容を作業履歴として記憶するように構成され、前記データ処理システムは、検索条件の入力を受ける検索部をさらに備え、前記検索部は、前記検索条件が入力された場合に前記データ記憶部に記憶された前記作業履歴から前記検索条件に対応する情報を検索し、検索された前記情報を出力するように構成されていてもよい。
この態様では、前記作業関係者は、前記検索条件を入力することにより、前記データ記憶部に記憶された前記作業履歴から所望の作業内容に関する作業データを入手することができる。
前記データ処理システムは、前記時系列画像データを構成する前記画像に基づいて前記建設機械の姿勢を推定する姿勢推定部をさらに備え、前記作業内容判定部は、前記姿勢推定部により推定される前記姿勢の時系列データである時系列姿勢データに基づいて前記作業内容を判定するように構成されていてもよい。
この態様では、前記建設機械の前記作業内容を前記建設機械の姿勢の動的な変化に基づいて判定することができる。具体的に、前記建設機械の作業は、例えば、掘削作業、整地作業、法面整形作業、積み込み作業などを含み、これらの作業のそれぞれは、当該建設機械の姿勢の点において、特有の時系列の変化を伴いながら行われる。従って、前記建設機械の姿勢の時系列の変化は、前記建設機械の前記作業内容との関連性があり、当該作業内容の判定の指標となる。
本発明によれば、作業現場における建設機械の画像の時系列データを含む作業データのデータ量を、当該建設機械の作業内容に応じて適切に削減することができる。
実施形態に係るデータ処理システムの構成を示す概略図である。 実施形態に係るデータ処理システムの構成を示すブロック図である。 建設機械の一例を示す側面図である。 前記建設機械の複数の特徴点の一例を示す斜視図である。 前記データ処理システムにおいて前記建設機械の姿勢を推定する処理について説明するための図である。 前記データ処理システムにおいて前記建設機械の時系列姿勢データを示す図である。 前記データ処理システムにおいて前記建設機械の前記時系列姿勢データから作業内容を判定する処理について説明するための図である。 前記データ処理システムの作業内容判定部により判定された建設機械による作業内容の時系列の変化の一例を示す図である。 前記データ処理システムにおいて、作業現場毎に設定された削減ルールの一例を示す図である。 前記データ処理システムの前記作業内容判定部により判定された建設機械による作業内容の時系列の変化の他の例を示す図である。 前記データ処理システムにおけるHMIの一例である表示装置の画面を示す図である。 前記データ処理システムにおけるHMIの一例である表示装置の画面を示す図である。 前記データ処理システムにおけるHMIの一例である表示装置の画面を示す図である。 前記データ処理システムにおいて取得される情報に基づいて生成される作業日報の一例を示す図である。 前記データ処理システムの演算処理を示すフローチャートである。
以下、図面を参照しながら、本発明の実施形態について説明する。なお、以下の実施形態は、本発明を具体化した一例であって、本発明の技術的範囲を限定するものではない。
図1は、実施形態に係るデータ処理システム10の構成を示す概略図である。図2は、前記データ処理システム10の構成を示すブロック図である。図3は、建設機械100の一例を示す側面図である。本実施形態に係るデータ処理システム10は、作業現場における前記建設機械100の作業に関する作業データのデータ量を削減するためのシステムである。
図1に示す具体例は、前記作業現場において、複数の建設機械100が作業を行う場合を示している。図1に示すように、前記複数の建設機械100は、第1の建設機械100Aと、第2の建設機械100Bと、を含む。前記複数の建設機械100のそれぞれは、油圧ショベルにより構成される。これらの油圧ショベルは、同様の基本的な構成を備えるので、以下では、前記複数の建設機械100のうちの一方の建設機械100について説明し、他方の建設機械100についての説明は省略する。
前記建設機械100は、クローラ式の下部走行体101と、その走行面に対して垂直な旋回中心軸まわりに旋回可能となるように下部走行体101の上に搭載される上部旋回体102と、この上部旋回体102に起伏可能に搭載されるアタッチメント103と、を備える。
前記上部旋回体102は、当該上部旋回体102の前部(本体前部)を構成するキャブ102Aと、前記上部旋回体102の後部(本体後部)を構成するカウンタウエイト102Bと、を有する。当該アタッチメント103は、前記上部旋回体102に起伏可能に支持されるブーム104と、当該ブーム104の先端に回動可能に連結されるアーム105と、当該アーム105の先端に回動可能に連結されるバケット106(先端アタッチメント)と、を含む。
前記建設機械100は、前記上部旋回体102に対して前記ブーム104を起伏動作させるように作動するブームシリンダ107と、当該ブーム104に対して前記アーム105を回動動作させるように作動するアームシリンダ108と、当該アーム105に対して前記先端アタッチメント106を回動動作させるように作動する先端アタッチメントシリンダ109と、を含む。
図1及び図2に示すように、前記データ処理システム10は、複数のセンサと、機械コントローラ50と、撮像装置30と、カメラコントローラ40と、メインコントローラ60と、クラウドサーバ70と、を備える。前記機械コントローラ50、前記カメラコントローラ40、前記メインコントローラ60、及び前記クラウドサーバ70のそれぞれは、例えば、CPU等のプロセッサとメモリとを備えるコンピュータにより構成される。
前記複数のセンサ及び前記機械コントローラ50は、前記建設機械100に設けられる。前記複数のセンサは、前記建設機械100の動作に対応して変化する動作パラメータの時系列データである時系列動作データを取得する。前記複数のセンサにより取得される前記動作パラメータは、前記機械コントローラ50に入力される。
図3に示すように、前記複数のセンサは、ブーム角度センサ21と、アーム角度センサ22と、バケット角度センサ23と、旋回角度センサ24と、車体傾斜角度センサ25と、測位センサ26と、回転数センサ27と、を含む。従って、前記動作パラメータは、これらのセンサ21〜27によりそれぞれ検出される検出値を含む。具体的には次の通りである。
前記ブーム角度センサ21は、前記上部旋回体102に対する前記ブーム104の角度であるブーム角度を特定するためのパラメータを検出するセンサである。前記ブーム角度は、例えば、前記上部旋回体102の旋回中心に直交する平面と、前記ブーム104の長手方向に沿って延びる直線とのなす角度である。前記ブーム104の前記長手方向に沿って延びる前記直線は、例えば、前記上部旋回体102と前記ブーム104の基端部との連結部分の回動中心(連結ピンの中心)と、前記ブーム104の先端部と前記アーム105の基端部との連結部分の回動中心(連結ピンの中心)とを結ぶ直線である。
前記アーム角度センサ22は、前記ブーム104に対する前記アーム105の角度であるアーム角度を特定するためのパラメータを検出するセンサである。前記アーム角度は、例えば、前記ブーム104の前記長手方向に沿って延びる前記直線と、前記アーム105の長手方向に沿って延びる直線とのなす角度である。前記アーム105の長手方向に沿って延びる前記直線は、例えば、前記ブーム104の先端部と前記アーム105の基端部との前記連結部分の回動中心(連結ピンの中心)と、前記アーム105の先端部と前記バケット106の基端部との連結部分の回動中心(連結ピンの中心)とを結ぶ直線である。
前記バケット角度センサ23は、前記アーム105に対する前記バケット106の角度であるバケット角度を特定するためのパラメータを検出するセンサである。前記バケット角度は、例えば、前記アーム105の長手方向に沿って延びる前記直線と、前記バケット106の方向を規定する予め設定された直線とのなす角度である。前記バケット106の方向を規定する前記直線は、例えば、前記アーム105の先端部と前記バケットの基端部との前記連結部分の回動中心(連結ピンの中心)と、前記バケットの先端部(例えば前記バケットの爪先部分)とを結ぶ直線である。
前記ブーム角度センサ21、前記アーム角度センサ22、及び前記バケット角度センサ23は、例えば、前記ブーム104の傾斜角度、前記アーム105の傾斜角度、及び前記バケット106の傾斜角度をそれぞれ検出する傾斜角度センサ(例えば加速度センサ)によって構成されていてもよい。また、前記ブーム角度センサ21、前記アーム角度センサ22、及び前記バケット角度センサ23は、例えば、前記上部旋回体102と前記ブーム104の基端部との連結部分(連結ピン)の回転角度、前記ブーム104の先端部と前記アーム105の基端部との前記連結部分(連結ピン)の回転角度、及び前記アーム105の先端部と前記バケットの基端部との前記連結部分(連結ピン)の回転角度をそれぞれ検出する回転角度センサによって構成されていてもよい。また、前記ブーム角度センサ21、前記アーム角度センサ22、及び前記バケット角度センサ23は、例えば、前記ブームシリンダ107のストローク量、前記アームシリンダ108のストローク量、及び前記バケットシリンダ109のストローク量をそれぞれ検出するストロークセンサによって構成されていてもよい。
前記旋回角度センサ24は、前記下部走行体101に対する前記上部旋回体102の角度である旋回角度を特定するためのパラメータを検出するセンサである。前記旋回角度は、例えば、前記下部走行体101の前進方向と、前記上部旋回体102の前方(前記アタッチメント103が延びる方向)とが一致する位置(位相)を基準として規定される。前記旋回角度センサ24としては、例えば、ジャイロセンサ、ロータリーエンコーダなどを挙げることができる。
前記車体傾斜角度センサ25は、水平面に対する前記下部走行体101又は前記上部旋回体102の角度である車体傾斜角度を特定するためのパラメータを検出するセンサである。前記車体傾斜角度センサ25としては、例えば、前記下部走行体101又は前記上部旋回体102のX軸回りの傾斜角度と、前記下部走行体101又は前記上部旋回体102のY軸回りの傾斜角度とを取得可能な2軸傾斜センサ(加速度センサ)を挙げることができる。前記X軸と前記Y軸は互いに直交する水平な軸である。
前記ブーム角度センサ21、前記アーム角度センサ22、前記バケット角度センサ23、前記旋回角度センサ24、及び前記車体傾斜角度センサ25のそれぞれは、対応するパラメータを所定の時間間隔で周期的に検出し、検出された検出結果(検出信号)は、前記機械コントローラ50に逐次入力される。角度センサ21〜25の検出タイミングは、同期されていることが好ましい。
前記測位センサ26は、例えば、GPS(Global Positioning System)に関するデータを受信可能なGPSセンサ、GNSS(Global Navigation Satellite System)に関するデータを受信可能なGNSSセンサなどを備え、衛星測位システムの測位データ(GPSデータ、GNSSデータなど)を受信する。前記測位センサ26は、例えば、建設機械100に取り付けられている。
前記回転数センサ27は、建設機械100の油圧回路における油圧ポンプの駆動源である図略のエンジンに設けられ、当該エンジンの回転数を検出する。
前記機械コントローラ50は、センサデータ記憶部51と、姿勢情報生成部52と、タイムスタンプ処理部53と、機械通信部54と、を備える。
前記センサデータ記憶部51は、前記複数のセンサ21〜27から入力される前記動作パラメータを記憶する。
前記姿勢情報生成部52は、前記センサデータ記憶部51に記憶される前記動作パラメータに基づいて前記建設機械100の姿勢に関する姿勢情報を生成する。具体的に、前記姿勢情報生成部52は、前記ブーム角度センサ21、前記アーム角度センサ22、前記バケット角度センサ23、前記旋回角度センサ24及び前記車体傾斜角度センサ25のそれぞれから入力される前記パラメータに基づいて、前記ブーム角度、前記アーム角度、前記バケット角度、前記旋回角度及び前記車体傾斜角度をそれぞれ演算する。
前記タイムスタンプ処理部53は、前記複数のセンサ21〜27により取得される前記時系列動作データに時刻情報を付与する。具体的には次の通りである。
前記タイムスタンプ処理部53は、例えば、前記ブーム角度センサ21による前記検出結果が前記機械コントローラ50に入力された時刻又は前記姿勢情報生成部52により前記ブーム角度が演算された時刻を、演算された前記ブーム角度(姿勢情報)と対応付けて記憶する。同様に、前記タイムスタンプ処理部53は、前記アーム角度センサ22、前記バケット角度センサ23、前記旋回角度センサ24、及び前記車体傾斜角度センサ25のそれぞれによる前記検出結果が前記機械コントローラ50に入力された時刻又は前記姿勢情報生成部52により前記アーム角度、前記バケット角度、前記旋回角度及び前記車体傾斜角度のそれぞれが演算された時刻を、演算された角度(姿勢情報)と対応付けて記憶する。
前記タイムスタンプ処理部53は、前記測位センサ26による検出結果が前記機械コントローラ50に入力された時刻を、前記検出結果と対応付けて記憶する。また、前記タイムスタンプ処理部53は、前記回転数センサ27による検出結果が前記機械コントローラ50に入力された時刻を、前記検出結果と対応付けて記憶する。
前記機械通信部54は、ネットワークを介して前記メインコントローラ60(具体的には後述の通信部61)との間でデータを送受信可能なように構成されている。前記機械通信部54は、前記時刻情報が付与された前記時系列動作データ、前記時刻情報が付与された前記姿勢情報などを送信する。送信された前記時系列動作データ、前記姿勢情報などの情報は、前記メインコントローラ60に入力される。
前記ネットワークは、例えば、インターネット、携帯電話通信網等の長距離情報通信網により構成されていてもよい。また、前記ネットワークは、例えば、特定省電力無線、ブルーツース(登録商標)、無線LAN(Wireless Local Area Network)などのように、前記機械通信部54と前記通信部61とを数十m〜数百m程度の距離で無線通信させることが可能な通信網により構成されていてもよい。また、前記ネットワークは、例えば有線通信網であってもよい。
前記撮像装置30は、前記作業現場における少なくとも一つの建設機械100を含む画像の時系列データである時系列画像データを取得する。すなわち、前記撮像装置30は、前記画像を所定の時間間隔で周期的に撮像する。前記撮像装置30により撮像された前記画像は、前記カメラコントローラ40に逐次入力される。各カメラによる撮像の時間間隔は、例えば1/60秒、1/30秒、1/10秒、1秒などに設定される。
図1に示すように、本実施形態では、前記撮像装置30は、第1のカメラ30Aと、第2のカメラ30Bとを含む。前記第1のカメラ30Aは、前記作業現場において、前記第1の建設機械100Aを含む画像の時系列データである時系列画像データを取得することが可能な位置に配置される。前記第2のカメラ30Bは、前記作業現場において、前記第2の建設機械100Bを含む画像の時系列データである時系列画像データを取得することが可能な位置に配置される。
前記カメラコントローラ40は、撮像データ記憶部41と、タイムスタンプ処理部42と、カメラ通信部43と、を備える。
前記撮像データ記憶部41は、前記第1のカメラ30A及び前記第2のカメラ30Bのそれぞれから入力される前記時系列画像データを記憶する。
前記タイムスタンプ処理部42は、前記時系列画像データに時刻情報を付与する。具体的には次の通りである。前記タイムスタンプ処理部42は、前記第1のカメラ30A及び前記第2のカメラ30Bのそれぞれにより撮像された前記画像が前記カメラコントローラ40に入力された時刻を、前記画像と対応付けて記憶する。
前記カメラ通信部43は、前記ネットワークを介して前記メインコントローラ60(具体的には後述の通信部61)との間でデータを送受信可能なように構成されている。前記カメラ通信部43は、前記画像と、当該画像に付与された前記時刻情報と、を対応付けて送信する。送信された前記画像及び前記時刻情報は、前記メインコントローラ60に入力される。
前記メインコントローラ60は、通信部61と、データ記憶部62と、姿勢推定部63と、作業内容判定部64と、データ同期部65と、データ量削減部66と、検索部67と、HMI68,69(Human Machine Interface)と、を備える。
前記通信部61は、前記ネットワークを介して前記機械コントローラ50及び前記カメラコントローラ40のそれぞれとの間でデータを送受信可能なように構成されている。また、前記通信部61は、前記ネットワークを介して前記クラウドサーバ70(具体的には後述のサーバ通信部71)との間でデータを送受信可能なように構成されている。
前記データ記憶部62は、前記機械コントローラ50から入力される前記時系列動作データを記憶するとともに、前記カメラコントローラ40から入力される前記時系列画像データを記憶する。
前記姿勢推定部63は、前記時系列画像データを構成する前記画像に基づいて前記建設機械100の姿勢を推定し、推定された前記姿勢に関する姿勢推定情報を生成する。本実施形態では、前記姿勢推定情報は、前記ブーム104の姿勢、前記アーム105の姿勢、前記バケット106の姿勢、前記下部走行体101に対する前記上部旋回体102の姿勢、及び水平面に対する前記下部走行体101又は前記上部旋回体102の姿勢を含む。より具体的には、前記姿勢推定情報は、前記ブーム角度(ブーム推定角度)、前記アーム角度(アーム推定角度)、前記バケット角度(バケット推定角度)、前記旋回角度(旋回推定角度)、及び前記車体傾斜角度(車体傾斜推定角度)を含む。
具体的に、前記姿勢推定部63は、前記第1のカメラ30Aにより取得される前記第1の建設機械100Aの画像に基づいて前記第1の建設機械100Aの姿勢を推定する。同様に、前記姿勢推定部63は、前記第2のカメラ30Bにより取得される前記第2の建設機械100Bの画像に基づいて前記第2の建設機械100Bの姿勢を推定する。前記姿勢推定部63により推定された前記姿勢推定情報は、前記作業内容判定部64に入力される。
具体的に、前記姿勢推定部63は、例えば、ディープラーニングにより機械学習した多層構造のニューラルネットワーク(例えば、畳み込みニューラルネットワーク)に前記画像を入力することにより、当該画像に含まれる建設機械100の複数の特徴点を抽出する。すなわち、前記ニューラルネットワークは、建設機械100の特徴点に関するデータを用いて予め学習した姿勢推定アルゴリズムである。前記姿勢推定部63が参照する前記ニューラルネットワークは、例えば、前記建設機械100(油圧ショベル)の画像と、当該画像中における前記特徴点の座標との対応関係を示す教師データによる学習処理により学習する。
図4は、当該建設機械100の複数の特徴点の一例を示している。本実施形態における前記ニューラルネットワークでは、前記建設機械100(油圧ショベル)の複数の特徴点は、アタッチ先端(1)、アタッチ底(2)、アタッチ関節(3)、アーム関節(4)、ブーム関節1(5)、ブーム関節2(6)、本体前部(7)、本体右側部(8)、本体後部(9)、本体左側部(10)、クローラ右前(11)、クローラ右後(12)、クローラ左前(13)、及びクローラ左後(14)を含む。なお、前記アタッチ先端(1)、前記アタッチ底(2)、及び前記アタッチ関節(3)は、前記バケット106の先端、前記バケット106の底、及び前記バケット106の関節をそれぞれ示す。また、図4において、前記本体左側部(10)は図示されていない。
図5は、前記データ処理システム10において前記建設機械100の姿勢を推定する処理について説明するための図である。図5に示すように、前記ニューラルネットワーク(姿勢推定アルゴリズム)は、入力される前記建設機械100の画像に基づいて、上記の複数の特徴点のそれぞれの座標を抽出して出力する。そして、前記姿勢推定部63は、前記ニューラルネットワークから出力された前記複数の特徴点の座標に基づいて、前記建設機械100の姿勢、具体的には、前記ブーム104の姿勢、前記アーム105の姿勢、前記先端アタッチメント106の姿勢、前記下部走行体101の姿勢、及び前記上部旋回体102の姿勢を推定する。
前記ブーム104の姿勢は、例えば、前記上部旋回体102に対する前記ブーム104の角度(ブーム角度)により特定される。前記アーム105の姿勢は、例えば、前記ブーム104に対する前記アーム105の角度(アーム角度)により特定される。前記先端アタッチメント106の姿勢は、例えば、前記アーム105に対する前記バケット106の角度(バケット角度)により特定される。前記下部走行体101の姿勢及び前記上部旋回体102の姿勢は、例えば前記下部走行体101に対する前記上部旋回体102の角度(旋回角度)により特定される。前記姿勢推定部63により推定された姿勢に関するデータ(姿勢推定情報)は、前記作業内容判定部64に入力される。
なお、前記姿勢推定部63は、例えばOpenpose(登録商標)などの技術を用い、前記撮像装置により取得される前記画像に基づいて前記建設機械の姿勢を推定してもよい。
前記作業内容判定部64は、前記姿勢推定部63により推定される前記第1の建設機械100Aの前記姿勢の時系列データである時系列姿勢データに基づいて、当該第1の建設機械100Aにより行われた作業内容を判定する。同様に、前記作業内容判定部64は、前記姿勢推定部63により推定される前記第2の建設機械100Bの前記姿勢の時系列データである時系列姿勢データに基づいて、当該第2の建設機械100Bにより行われた作業内容を判定する。
具体的に、前記作業内容判定部64は、例えば、ディープラーニングにより機械学習した多層構造のニューラルネットワーク(例えば、リカレントニューラルネットワーク)に前記姿勢の時系列データを入力することにより、当該姿勢の時系列データに含まれる特徴を抽出する。すなわち、前記ニューラルネットワークは、前記建設機械100の特徴点の動きに関する時系列データを用いて予め学習した作業分類アルゴリズムである。前記作業内容判定部64が参照する前記ニューラルネットワークは、例えば、予め定義された複数の作業内容候補と、前記建設機械100のタグ付けされた前記姿勢の時系列データとの対応関係を示す教師データによる学習処理により学習する。前記予め定義された前記複数の作業内容候補は、例えば、掘削作業、整地作業、法面整形作業、積み込み作業、休車、走行作業などを含む(図7参照)。
前記掘削作業は、前記バケット106により地面の土砂を掘削するための作業である。前記整地作業は、前記バケット106により地面を整地するための作業である。前記法面整形作業は、切土又は盛土により作られる人工的な斜面である法面を整形するための作業である。前記積み込み作業は、前記バケット106に保持された土砂等の保持対象物を別の場所に積み込むための作業である。前記走行作業は、前記作業現場において、前記建設機械100を次の作業場所に移動させるための作業である。前記休車は、前記積み込み作業、前記持ち上げ作業、前記掘削作業、前記整地作業、前記法面整形作業、前記走行作業などの実際の作業が行われずに、前記建設機械100を停止させた状態のことをいう。
図6は、前記データ処理システム10において前記建設機械100の前記時系列姿勢データを示す図である。図6に示す具体例では、ブーム角度、アーム角度、バケット角度及び旋回角度に関する時系列姿勢データが示されている。
図6に示す具体例は、前記掘削作業が行われているときの前記建設機械100の姿勢の時系列の変化(前記姿勢の時系列データ)と、この掘削作業の後に行われる積み込み作業が行われているときの建設機械100の姿勢の時系列の変化(前記姿勢の時系列データ)と、を示している。これらの作業のそれぞれは、当該建設機械100の姿勢の点において、特有の時系列の変化を伴いながら行われる。従って、前記建設機械100の姿勢の時系列の変化は、前記建設機械100の前記作業内容との関連性があり、当該作業内容の判定の指標となる。具体的には次の通りである。
前記掘削作業は旋回動作を伴わないので、前記掘削作業では、図6に示すように旋回角度は一定である。前記ブーム角度及び前記アーム角度は、当該掘削作業の序盤から終盤にかけて次第に増加する。前記バケット角度は、当該掘削作業の序盤から中盤にかけて次第に増加し、終盤において大きく増加する。
前記積み込み作業は旋回動作を伴うので、前記掘削作業から前記積み込み作業に切り換わるときに、前記旋回角度が増加し始める。前記旋回角度及び前記ブーム角度は、当該積み込み作業の序盤から中盤にかけて次第に増加し、前記アーム角度及び前記バケット角度は、当該積み込み作業の序盤から中盤にかけて一定である。一方、前記旋回角度及び前記ブーム角度は、当該積み込み作業の終盤において一定であり、前記アーム角度及び前記バケット角度は、当該積み込み作業の終盤において次第に減少する。
図7は、前記データ処理システム10において前記建設機械100の前記時系列姿勢データから前記作業内容を判定する処理について説明するための図である。図7に示すように、前記ニューラルネットワーク(作業分類アルゴリズム)の出力層は、例えばソフトマックス関数による演算を実行し、前記複数の作業内容候補ごとのスコアを出力する。前記作業内容判定部64は、前記ニューラルネットワークの出力層から出力された前記複数の作業内容候補ごとのスコアに基づいて、スコアの最も高い前記作業内容候補を前記作業内容として決定する。図7の具体例では、前記作業内容判定部64は、前記複数の作業内容候補のうち、スコアの最も高い「掘削作業」を前記作業内容として判定する。図7に示す前記スコアは、前記作業内容判定部64による判定の精度を示すものである。
前記データ同期部65は、前記時系列画像データ及び前記時系列動作データのそれぞれ付与された前記時刻情報に基づいて、前記時系列画像データと前記時系列動作データとを対応付け、その対応関係を記憶する。具体的には次の通りである。
図8は、前記作業内容判定部64により判定された建設機械100による作業内容の時系列の変化の一例を示す図である。図8に示すように、前記作業内容判定部64により判定された前記建設機械100による複数の作業内容は、掘削作業W11、積み込み作業W12、掘削作業W13、積み込み作業W14、走行作業W15及び整地作業W16により構成され、図8は、これらの作業がこの順に行われたことを示している。前記データ記憶部62は、前記作業内容判定部64により判定された前記複数の作業内容を作業履歴として記憶するように構成される。
前記撮像装置30の前記第1のカメラ30Aにより撮像された前記第1の建設機械100Aの前記時系列画像データは、前記掘削作業W11に対応する第1の画像データと、前記積み込み作業W12に対応する第2の画像データと、前記掘削作業W13に対応する第3の画像データと、前記積み込み作業W14に対応する第4の画像データと、前記走行作業W15に対応する第5の画像データと、前記整地作業W16に対応する第6の画像データと、を含む。
前記タイムスタンプ処理部42により付与された前記時系列画像データの前記時刻情報は、前記第1の画像データに対応する第1の時刻情報と、前記第2の画像データに対応する第2の時刻情報と、前記第3の画像データに対応する第3の時刻情報と、前記第4の画像データに対応する第4の時刻情報と、前記第5の画像データに対応する第5の時刻情報と、前記第6の画像データに対応する第6の時刻情報と、を含む。
前記データ同期部65は、前記データ記憶部62に記憶される前記時系列動作データのうち、前記第1の時刻情報に対応する時刻情報を有する部分である第1の動作データと、前記第1の画像データと、を対応付けて記憶する。前記データ同期部65は、前記データ記憶部62に記憶される前記時系列動作データのうち、前記第2の時刻情報に対応する時刻情報を有する部分である第2の動作データと、前記第2の画像データと、を対応付けて記憶する。前記データ同期部65は、前記データ記憶部62に記憶される前記時系列動作データのうち、前記第3の時刻情報に対応する時刻情報を有する部分である第3の動作データと、前記第3の画像データと、を対応付けて記憶する。以下同様に、前記データ同期部65は、前記データ記憶部62に記憶される前記時系列動作データのうち、前記第4〜第6の時刻情報にそれぞれ対応する時刻情報を有する部分である第4〜第6の動作データのそれぞれと、前記第4〜第6の画像データのそれぞれと、を対応付けて記憶する。
図9は、前記データ処理システム10において、作業現場毎に設定された削減ルールの一例を示す図である。図9に示すように、作業現場Aについての前記削減ルールは、前記データ記憶部62に記憶される前記時系列画像データのうち、前記掘削作業に対応する部分である掘削画像データのデータ量を20%の削減率(間引き率)で削減するという削減ルールと、前記積み込み作業に対応する部分である積み込み画像データのデータ量を30%の削減率で削減するという削減ルールと、前記整地作業に対応する部分である整地画像データのデータ量を40%の削減率で削減するという削減ルールと、前記法面整形作業に対応する部分である法面整形画像データのデータ量を50%の削減率で削減するという削減ルールと、前記走行作業に対応する部分である走行画像データのデータ量を60%の削減率で削減するという削減ルールと、前記建設機械100が停止している状態(停止作業)に対応する部分である停止画像データのデータ量を99%の削減率で削減するという削減ルールと、を含む。
また、図9に示すように、作業現場Aについての前記削減ルールは、前記データ記憶部62に記憶される前記時系列画像データのうち、異常が発生した作業に対応する部分である異常画像データのデータ量を0%の削減率で削減するという削減ルールをさらに含む。すなわち、「データ量を0%の削減率で削減する」とは、当該異常画像データの全てを残存させることを意味する。前記異常が発生した作業には、例えば、建設機械100の故障が発生した作業、予め設定された禁止操作が行われた作業などを含む。前記禁止操作としては、例えば、前記掘削作業と前記走行作業とを同時に行う操作が設定されている。前記異常が発生した作業に該当するとともに、上述した他の作業にも該当する場合には、前記異常が発生した作業に関する削減ルールが優先される。
また、図9に示すように、作業現場Bについての削減ルールは、作業現場Aについての前記削減ルールとは異なる内容を含む。
前記作業現場A及び前記作業現場Bの何れの現場においても、前記異常が発生した作業の重要度が高いため、当該作業に関する作業データの削減率が小さくなるように(データ残存割合が大きくなるように)、前記削減ルールが設定されている。また、前記作業現場Aでは、前記掘削作業の重要度が高いため、当該掘削作業に関する作業データの削減率が小さくなるように前記削減ルールが設定されている。一方、前記作業現場Bでは、前記整地作業及び前記法面整形作業の重要度が高いため、これらの作業に関する作業データの削減率が小さくなるように前記削減ルールが設定されている。
例えば作業現場Aに関し、前記データ量削減部66は、前記データ記憶部62に記憶された前記時系列画像データのうち、図8に示す掘削作業W11に対応する部分である掘削画像データのデータ量を、図9に示す前記削減ルールに基づいて、20%の削減率で削減する。同様に、前記データ量削減部66は、前記データ記憶部62に記憶された前記時系列画像データのうち、図8に示す積み込み作業W12に対応する部分である積み込み画像データのデータ量を、図9に示す前記削減ルールに基づいて、30%の削減率で削減する。図8に示すその他の作業についても同様にデータ量が削減される。
前記画像データのデータ量の削減方法は、特に限定されない。例えば、削減対象の画像データのデータ量は、フレームレートを前記削減ルールで設定された削減率に基づいて小さくすることにより削減されてもよい。この場合、例えば図8に示す掘削作業W11に対応する部分である掘削画像データのデータ量は、削減後のフレームレートが削減前のフレームレートに0.8をかけた値となるように削減される。
また、本実施形態では、前記データ量削減部66は、前記データ記憶部62に記憶された前記時系列動作データのうち、図8に示す前記掘削作業W11の時刻情報に対応する時刻情報を有する部分である掘削動作データのデータ量を削減する。同様に、前記データ量削減部66は、前記データ記憶部62に記憶された前記時系列動作データのうち、図8に示す前記積み込み作業W12の時刻情報に対応する時刻情報を有する部分である積み込み動作データのデータ量を削減する。図8に示すその他の作業についても同様に動作データのデータ量が削減される。
前記動作データのデータ量の削減ルールは、例えば、図9に示す画像データのデータ量の削減ルールと同じであってもよい。この場合、例えば、図8に示す前記掘削作業W11の時刻情報に対応する時刻情報を有する部分である掘削動作データのデータ量は、20%の削減率で削減される。また、前記動作データのデータ量の削減ルールは、例えば、図9に示す画像データのデータ量の削減ルールと異なっていてもよい。具体的に、例えば、削減される画像データに対応する動作データは全て消去されてもよい。
図10は、前記作業内容判定部により判定された建設機械による作業内容の時系列の変化の他の例を示す図である。図10に示すように、前記作業内容判定部64により判定された前記建設機械100による複数の作業内容は、複数の掘削作業と複数の積み込み作業とにより構成される繰り返し作業を含む。図10に示す具体例では、前記掘削作業と前記積み込み作業の組み合わせが複数回(図10では5回)連続して行われる。前記データ記憶部62は、前記作業内容判定部64により判定された前記複数の作業内容を作業履歴として記憶するように構成される。
前記作業内容判定部64は、図10に示す複数の作業W21〜W30のそれぞれの作業内容を判定するときに、上述した図7に示すようにスコアを出力する。
前記データ量削減部66は、前記データ記憶部62に記憶された前記時系列画像データのうち前記複数の掘削作業及び前記複数の積み込み作業に対応する部分である複数の掘削画像データ及び複数の積み込み画像データの少なくとも一つのデータ量を、前記スコアに基づいて削減する。
具体的に、前記データ量削減部66は、例えば、前記複数の掘削作業W21,W23,W25,W27,W29のうち、前記スコアの最も低い掘削作業に対応する前記画像データを削減してもよい。この場合、前記データ量削減部66は、前記スコアの最も低い掘削作業と組み合わせられている前記積み込み作業に対応する前記画像データも削減してもよい。
また、前記データ量削減部66は、例えば、前記複数の掘削作業W21,W23,W25,W27,W29のうち、前記スコアの最も低い掘削作業に対応する前記画像データと、前記スコアの最も高い掘削作業に対応する前記画像データとを削減してもよい。この場合、前記データ量削減部66は、前記スコアの最も低い掘削作業と組み合わせられている前記積み込み作業に対応する前記画像データと、前記スコアの最も高い掘削作業と組み合わせられている前記積み込み作業に対応する前記画像データも削減してもよい。
前記検索部67は、検索条件が入力された場合に前記データ記憶部62に記憶された前記作業履歴から前記検索条件に対応する情報を検索し、検索された前記情報を出力する。上述したように、前記データ記憶部62は、前記作業内容判定部64により判定された前記複数の作業内容を作業履歴として記憶するように構成される。また、前記データ記憶部62は、前記複数のセンサにより取得される前記時系列動作データをさらに記憶していてもよい。
図1及び図2に示すように、前記HMI68,69は、オペレータが前記検索条件を入力することができるキーボードなどの入力部68と、前記検索部67により検索された前記情報が出力される表示装置などの表示部69と、を含む。
図11は、前記オペレータが前記検索条件を入力するときの前記表示部69の画面の一例を示す図である。前記オペレータは、当該画面において、例えば、作業種類(作業内容)、日付、車両ID、センサ条件などを入力することができる。
図12は、前記検索部67により検索された前記情報が出力された前記表示部69の画面の一例を示す図である。図12に示す具体例では、検索結果として、車両IDと、作業開始時間と、作業時間と、建設機械100の画像とが前記表示部69に表示される。
図13は、前記検索部67により検索された前記情報が出力された前記表示部69の画面の他の例を示す図である。図13に示す具体例では、検索結果として、日付と、建設機械100の画像と、作業内容と、センサにより検出される動作パラメータとが前記表示部69に表示される。
図14は、前記データ処理システム10において取得される情報に基づいて生成される作業日報の一例を示す図である。
図2に示すように、前記クラウドサーバ70は、サーバ通信部71と、データ記憶部72と、検索部73と、を備える。
前記サーバ通信部71は、前記ネットワークを介して前記メインコントローラ60の通信部61との間でデータを送受信可能なように構成されている。
前記データ記憶部72は、前記通信部61及び前記サーバ通信部71を介して前記メインコントローラ60の前記データ記憶部62に記憶されているデータが入力され、当該データを記憶する。前記データ記憶部72は、前記データ量削減部66により削減された前記時系列画像データを記憶する。また、前記データ記憶部72は、前記作業内容判定部64により判定された前記複数の作業内容を作業履歴として記憶してもよい。また、前記データ記憶部72は、前記複数のセンサにより取得される前記時系列動作データをさらに記憶していてもよい。
前記検索部73は、検索条件が入力された場合に前記データ記憶部72に記憶された前記作業履歴から前記検索条件に対応する情報を検索し、検索された前記情報を出力する。前記クラウドサーバ70は、前記ネットワークを介して例えば端末80との間でデータを送受信可能に構成されていてもよい。当該端末80は、作業現場の作業を管理する管理者、作業現場の作業を行うオペレータなどの作業関係者が使用する携帯端末機などのコンピュータにより構成される。作業関係者は、前記端末80の入力部に前記検索条件を入力する。
前記検索部73は、検索条件が入力された場合に前記データ記憶部72に記憶された前記作業履歴から前記検索条件に対応する情報を検索し、検索された前記情報を出力する。出力された前記情報は、前記端末80に入力される。これにより、前記作業関係者は、前記端末80の表示部に表示される前記情報を確認することができる。
図15は、前記データ処理システム10の演算処理を示すフローチャートである。図15に示すように、前記メインコントローラ60の前記通信部61は、前記撮像装置30により取得される前記画像の前記時系列画像データを受信する(ステップS1)。また、前記通信部61は、前記複数のセンサにより取得される前記動作パラメータの時系列動作データを受信する(ステップS2)。前記通信部61は、前記時系列画像データを複数回に分けて受信してもよく、前記時系列画像データを一括で受信してもよい。同様に、前記通信部61は、前記時系列動作データを複数回に分けて受信してもよく、前記時系列動作データを一括で受信してもよい。
次に、前記データ記憶部62は、前記時系列画像データ及び前記時系列動作データを記憶する(ステップS3)。
次に、前記姿勢推定部63及び前記作業内容判定部64は、前記時系列画像データに基づいて、複数の作業内容を判定する(ステップS4)。
次に、前記データ同期部65は、前記時系列画像データと前記時系列動作データを同期可能であるか否かを判定する(ステップS5)。
前記時系列画像データに前記時刻情報が付与され、前記時系列動作データに前記時刻情報が付与されている場合(ステップS5においてYES)、前記データ同期部65は、これらの時刻情報に基づいて、前記時系列画像データと前記時系列動作データとを対応付けることにより、これらのデータを同期する(ステップS6)。
次に、前記データ量削減部66は、前記作業内容判定部64により判定された前記複数の作業内容が予め設定された第1の特定作業を含む場合に、前記データ記憶部62に記憶された前記時系列画像データのうち前記第1の特定作業に対応する部分である第1の画像データのデータ量を、予め設定された第1の削減ルールに基づいて削減する。前記データ量削減部66は、前記作業内容判定部64により判定された前記複数の作業内容が予め設定された特定作業であって前記第1の特定作業とは異なる第2の特定作業を含む場合に、前記データ記憶部62に記憶された前記時系列画像データのうち前記第2の特定作業に対応する部分である第2の画像データのデータ量を、予め設定された削減ルールであって前記第1の削減ルールとは異なる第2の削減ルールに基づいて削減する(ステップS7)。
次に、前記通信部61は、前記データ記憶部62に記憶されているデータの一部又は全部を前記クラウドサーバ70に送信する(ステップS8)。
なお、前記時系列動作データに時刻情報が適切に付与されていない場合などにように、前記ステップS5において、前記時系列画像データと前記時系列動作データを同期できない場合(ステップS5においてNO)、前記メインコントローラ60は、前記姿勢情報生成部52により生成された前記姿勢情報と、前記姿勢推定部63により推定された前記姿勢推定情報とを比較し、前記時系列画像データに対応する前記時系列動作データを検索する(ステップS9)。前記データ同期部65は、検索された前記時系列動作データと前記時系列画像データとを同期する(ステップS6)。
以上説明したように、前記データ処理システム10では、作業現場における建設機械100の画像の時系列データを含む作業データのデータ量を、当該建設機械100の作業内容に応じて削減することができる。これにより、データ量が削減された前記時系列画像データを前記データ記憶部62に記憶させることができる。また、前記通信部を介したデータの送受信において通信量を削減することもできる。
[変形例]
本発明は、以上説明した実施形態に限定されない。本発明は、例えば次のような態様を含むことが可能である。
(A)データ量削減部について
前記実施形態では、前記データ量削減部66は、前記時系列画像データの前記データ量及び前記時系列動作データの前記データ量の両方を削減するように構成されるが、前記データ処理システムは、この態様に限られない。前記データ処理システムでは、前記データ量削減部が少なくとも前記時系列画像データの前記データ量を削減するように構成されていればよい。この場合、前記複数のセンサ21〜27の一部又は全部は省略可能であり、前記データ同期部65は省略可能である。
(B)撮像装置について
前記撮像装置30は、例えばステレオカメラにより構成されていてもよい。
(C)クラウドサーバについて
前記実施形態では、前記データ処理システム10は、前記クラウドサーバ70を備えるが、前記クラウドサーバ70は省略可能である。
(D)タイムスタンプ処理部について
前記実施形態では、前記カメラコントローラ40及び前記機械コントローラ50のそれぞれがタイムスタンプ処理部を備えるが、前記データ処理システムは、この態様に限られない。前記データ処理システムでは、例えば、前記メインコントローラ60がタイムスタンプ処理部を備え、このタイムスタンプ処理部が前記時系列画像データ及び前記時系列動作データのそれぞれに時刻情報を付与してもよい。この場合、前記カメラコントローラ40及び前記機械コントローラ50のそれぞれのタイムスタンプ処理部を省略することができる。
(E)建設機械について
前記先端アタッチメントは、バケットに限られず、例えばグラップル、圧砕機、ブレーカ、フォークなどの他の先端アタッチメントであってもよい。また、前記建設機械は、前記油圧ショベルに限られず、他の建設機械であってもよい。また、前記実施形態では、前記建設機械は、走行可能な下部走行体101を備えるが、本発明はこれに限られない。本発明では、前記建設機械は、特定の場所に設置された基台に上部旋回体102が支持される構造を有するものであってもよい。
(F)画像に基づく建設機械の姿勢の推定について
前記実施形態では、前記姿勢推定部63による前記画像に基づく前記建設機械100の姿勢の推定が、予め機械学習したニューラルネットワーク(姿勢推定アルゴリズム)を用いて行われるが、前記データ処理システムは、この態様に限られない。前記データ処理システムでは、前記建設機械の姿勢の推定は、前記ニューラルネットワークを用いた手法以外の他の手法により行われるものであってもよい。前記他の手法としては、例えば、前記ニューラルネットワークを用いた手法以外の機械学習を用いた手法、時系列アルゴリズムなどを例示できる。
(G)その他
前記実施形態に係るデータ処理システム20は、検索部67,73を備えるが、これらの一方又は両方は省略可能である。また、前記実施形態に係るデータ処理システム20の機械コントローラ50は、姿勢情報生成部52を備えるが、当該姿勢情報生成部52は省略可能である。
10 データ処理システム
21〜25 角度センサ
26 測位センサ
27 回転数センサ
30 撮像装置
30A 第1のカメラ
30B 第2のカメラ
40 カメラコントローラ
42 タイムスタンプ処理部
50 機械コントローラ
53 タイムスタンプ処理部
60 メインコントローラ
61 通信部
62 データ記憶部
63 姿勢推定部
64 作業内容判定部
65 データ同期部
66 データ量削減部
67 検索部
70 クラウドサーバ
72 データ記憶部
73 検索部
80 端末
100 建設機械

Claims (6)

  1. 建設機械の作業に関する作業データのデータ量を削減するためのデータ処理システムであって、
    作業現場における前記建設機械を含む画像の時系列データである時系列画像データを取得する撮像装置と、
    前記時系列画像データを記憶するデータ記憶部と、
    前記時系列画像データに基づいて前記建設機械の少なくとも一つの作業内容を判定する作業内容判定部と、
    データ量削減部と、を備え、
    前記データ量削減部は、
    前記作業内容判定部により判定された前記少なくとも一つの作業内容が予め設定された第1の特定作業を含む場合に、前記データ記憶部に記憶された前記時系列画像データのうち前記第1の特定作業に対応する部分である第1の画像データのデータ量を、予め設定された第1の削減ルールに基づいて削減し、
    前記作業内容判定部により判定された前記少なくとも一つの作業内容が予め設定された特定作業であって前記第1の特定作業とは異なる第2の特定作業を含む場合に、前記データ記憶部に記憶された前記時系列画像データのうち前記第2の特定作業に対応する部分である第2の画像データのデータ量を、予め設定された削減ルールであって前記第1の削減ルールとは異なる第2の削減ルールに基づいて削減するように構成される、建設機械のデータ処理システム。
  2. 請求項1に記載の建設機械のデータ処理システムであって、
    前記第1の削減ルールは、前記第1の画像データの前記データ量を予め設定された第1の削減率で削減するように設定され、
    前記第2の削減ルールは、前記第2の画像データの前記データ量を予め設定された削減率であって前記第1の削減率とは異なる第2の削減率で削減するように設定される、建設機械のデータ処理システム。
  3. 請求項1又は2に記載の建設機械のデータ処理システムであって、
    前記建設機械の動作に対応して変化する動作パラメータの時系列データである時系列動作データを取得する少なくとも一つのセンサと、
    前記時系列画像データ及び前記時系列動作データのそれぞれに時刻情報を付与するタイムスタンプ処理部と、をさらに備え、
    前記データ記憶部は、前記時系列動作データをさらに記憶するように構成され、
    前記時系列画像データの前記時刻情報は、前記第1の画像データに対応する第1の時刻情報と、前記第2の画像データに対応する第2の時刻情報と、を含み、
    前記データ量削減部は、
    前記作業内容判定部により判定された前記少なくとも一つの作業内容が前記第1の特定作業を含む場合に、前記データ記憶部に記憶された前記時系列動作データのうち、前記第1の時刻情報に対応する時刻情報を有する部分である第1の動作データのデータ量を削減し、
    前記作業内容判定部により判定された前記少なくとも一つの作業内容が前記第2の特定作業を含む場合に、前記データ記憶部に記憶された前記時系列動作データのうち、前記第2の時刻情報に対応する時刻情報を有する部分である第2の動作データのデータ量を削減するように構成される、建設機械のデータ処理システム。
  4. 請求項1〜3の何れか1項に記載の建設機械のデータ処理システムであって、
    前記作業内容判定部は、前記少なくとも一つの作業内容が予め設定された複数の第3の特定作業により構成される繰り返し作業を含む場合に、前記複数の第3の特定作業のそれぞれの判定の精度を示すスコアを出力するように構成され、
    前記データ量削減部は、前記データ記憶部に記憶された前記時系列画像データのうち前記複数の第3の特定作業に対応する部分である複数の第3の画像データの少なくとも一つのデータ量を、前記スコアに基づいて削減するように構成される、建設機械のデータ処理システム。
  5. 請求項1〜4の何れか1項に記載の建設機械のデータ処理システムであって、
    前記データ記憶部は、前記作業内容判定部により判定された前記少なくとも一つの作業内容を作業履歴として記憶するように構成され、
    前記データ処理システムは、検索条件の入力を受ける検索部をさらに備え、
    前記検索部は、前記検索条件が入力された場合に前記データ記憶部に記憶された前記作業履歴から前記検索条件に対応する情報を検索し、検索された前記情報を出力するように構成される、建設機械のデータ処理システム。
  6. 請求項1〜5の何れか1項に記載の建設機械のデータ処理システムであって、
    前記時系列画像データを構成する前記画像に基づいて前記建設機械の姿勢を推定する姿勢推定部をさらに備え、
    前記作業内容判定部は、前記姿勢推定部により推定される前記姿勢の時系列データである時系列姿勢データに基づいて前記作業内容を判定する、建設機械のデータ処理システム。
JP2019138434A 2019-07-29 2019-07-29 建設機械のデータ処理システム Pending JP2021022179A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019138434A JP2021022179A (ja) 2019-07-29 2019-07-29 建設機械のデータ処理システム
US17/626,450 US20220237534A1 (en) 2019-07-29 2020-06-22 Data processing system for construction machine
PCT/JP2020/024283 WO2021019950A1 (ja) 2019-07-29 2020-06-22 建設機械のデータ処理システム
EP20846813.2A EP3985584A1 (en) 2019-07-29 2020-06-22 Data processing system for construction machine
CN202080053078.3A CN114127703A (zh) 2019-07-29 2020-06-22 工程机械的数据处理系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019138434A JP2021022179A (ja) 2019-07-29 2019-07-29 建設機械のデータ処理システム

Publications (1)

Publication Number Publication Date
JP2021022179A true JP2021022179A (ja) 2021-02-18

Family

ID=74230281

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019138434A Pending JP2021022179A (ja) 2019-07-29 2019-07-29 建設機械のデータ処理システム

Country Status (5)

Country Link
US (1) US20220237534A1 (ja)
EP (1) EP3985584A1 (ja)
JP (1) JP2021022179A (ja)
CN (1) CN114127703A (ja)
WO (1) WO2021019950A1 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5190968B2 (ja) * 2009-09-01 2013-04-24 独立行政法人産業技術総合研究所 動画像の圧縮方法及び圧縮装置
JP6302645B2 (ja) 2013-11-12 2018-03-28 日立建機株式会社 作業機械の稼働データ収集装置
JP2017183837A (ja) * 2016-03-28 2017-10-05 大日本印刷株式会社 撮像装置、撮像システム、撮像方法及び撮像装置用プログラム
US10936895B2 (en) * 2017-07-26 2021-03-02 Vmware, Inc. Managing camera actions
JP6988394B2 (ja) * 2017-11-15 2022-01-05 住友電気工業株式会社 映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラム
US11350053B2 (en) * 2017-11-30 2022-05-31 Sony Corporation Imaging device, method thereof, and imaging element

Also Published As

Publication number Publication date
CN114127703A (zh) 2022-03-01
WO2021019950A1 (ja) 2021-02-04
EP3985584A1 (en) 2022-04-20
US20220237534A1 (en) 2022-07-28

Similar Documents

Publication Publication Date Title
WO2021019948A1 (ja) 建設機械の位置特定システム
JP6782270B2 (ja) 施工管理システムおよび作業機械
JP2016212469A (ja) 施工計画システム
WO2017061511A1 (ja) 形状計測システム及び形状計測方法
EP3985183A1 (en) Construction machine work information generation system and work information generation method
JP2020117982A (ja) 作業機械
JP2019190193A (ja) 作業機械
WO2021019950A1 (ja) 建設機械のデータ処理システム
JP2018146594A (ja) 形状計測システム
WO2021019949A1 (ja) 建設機械の作業内容判定システム及び作業判定方法
US20210230828A1 (en) Control device and control method
JP2020016147A (ja) 形状計測システム及び形状計測方法
JP7401696B2 (ja) 作業機械の状態管理装置
JP2018112051A (ja) 作業機械の制御システム、作業機械、作業機械の制御方法及びナビゲーションコントローラ
JP2021155995A (ja) ショベルの支援装置、ショベルの管理装置
JP7065002B2 (ja) 作業機械
JP7489344B2 (ja) 地形情報管理システムおよび作業機械
JP7301937B2 (ja) ショベル及びショベル用地形検知システム
JP7377391B1 (ja) 推定装置、推定方法及びプログラム
JP7349956B2 (ja) 施工方法及び施工システム
US20220391811A1 (en) Work assist server, work assist method, and work assist system
JP2021156000A (ja) 作業機械
JP2021158465A (ja) 遠隔操作用のデータ表示システム
CN113944207A (zh) 电子围墙设置方法、装置及作业机械
CN117248593A (zh) 一种装载机数字孪生体的驱动方法、装置及系统