JP2023151642A - ショベル、ショベルの支援システム - Google Patents
ショベル、ショベルの支援システム Download PDFInfo
- Publication number
- JP2023151642A JP2023151642A JP2022061369A JP2022061369A JP2023151642A JP 2023151642 A JP2023151642 A JP 2023151642A JP 2022061369 A JP2022061369 A JP 2022061369A JP 2022061369 A JP2022061369 A JP 2022061369A JP 2023151642 A JP2023151642 A JP 2023151642A
- Authority
- JP
- Japan
- Prior art keywords
- excavator
- image data
- shovel
- support device
- determination model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 claims abstract description 89
- 238000003384 imaging method Methods 0.000 claims description 41
- 230000002093 peripheral effect Effects 0.000 claims description 18
- 238000007726 management method Methods 0.000 description 66
- 238000013528 artificial neural network Methods 0.000 description 20
- 230000006870 function Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 14
- 238000000034 method Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 11
- 239000000446 fuel Substances 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 238000013500 data storage Methods 0.000 description 8
- 238000013480 data collection Methods 0.000 description 7
- 239000003921 oil Substances 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 5
- 210000002569 neuron Anatomy 0.000 description 5
- 238000009412 basement excavation Methods 0.000 description 4
- 238000010276 construction Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- WTHDKMILWLGDKL-UHFFFAOYSA-N urea;hydrate Chemical compound O.NC(N)=O WTHDKMILWLGDKL-UHFFFAOYSA-N 0.000 description 4
- 239000000498 cooling water Substances 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 210000004027 cell Anatomy 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003990 capacitor Substances 0.000 description 1
- 239000004927 clay Substances 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000002828 fuel tank Substances 0.000 description 1
- 239000010720 hydraulic oil Substances 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 239000012528 membrane Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 241000894007 species Species 0.000 description 1
Images
Landscapes
- Operation Control Of Excavators (AREA)
Abstract
【課題】作業内容や作業現場に応じて、適切な検知対象物をショベルに検知させて、安全性を向上させることができるショベルを提供する。【解決手段】ショベル100と、ショベルを支援する支援装置300と、ショベルを管理する管理装置200とを含むショベルの支援システムであって、ショベルは、下部走行体1と、下部走行体に旋回自在に搭載される上部旋回体3と、エンドアタッチメントとしてのバケット6と、支援装置において選択された対象物を、検知対象物として設定するコントローラ30とを有する。【選択図】図1
Description
本発明は、ショベル、ショベルの支援システムに関する。
従来では、ショベルに対して仮想壁を設定し、仮想壁とショベルとの位置関係に基づいて、ショベルの動きを制限する技術が知られている。
ショベルが接触を回避すべき対象物は、作業内容や作業現場によって異なり、仮想壁の内側に障害物等が配置される場合もあり得る。しかしながら、上述した従来の技術では、仮想壁の内側に配置された障害物等については考慮されていない。
そこで、上記課題に鑑み、安全性を向上させることを目的とする。
本発明の実施形態に係るショベルは、下部走行体と、前記下部走行体に旋回自在に搭載される上部旋回体と、エンドアタッチメントと、支援装置において選択された対象物を検知対象物として設定する制御部と、を有するショベルである。
本発明の実施形態に係るショベルの支援システムは、ショベルと、ショベルを支援する支援装置と、ショベルを管理する管理装置とを含むショベルの支援システムであって、前記ショベルは、下部走行体と、前記下部走行体に旋回自在に搭載される上部旋回体と、エンドアタッチメントと、前記支援装置において選択された対象物を、検知対象物として設定する制御部と、を有する、ショベルの支援システムである。
安全性を向上させることができる。
以下に、図面を参照して実施形態について説明する。図1は、ショベルの支援システムのシステム構成の一例を示す図である。
本実施形態のショベルの支援システムSYSは、ショベル100と、管理装置200と、支援装置300とを含む。以下の説明では、ショベルの支援システムSYSを、単に支援システムSYSと表現する。
本実施形態の支援システムSYSにおいて、ショベル100と、管理装置200と、支援装置300とは、ネットワーク等を介して接続される。
本実施形態のショベル100は、自機の稼働状況を示す稼働情報を取得し、管理装置200に送信し、管理装置200から各種の情報を受信する。
ショベル100の稼働情報とは、具体的には、自機の現在位置を示す位置情報、自機の向きを示す向き情報、自機の姿勢を示す姿勢情報、作業内容を示す作業内容情報、負荷率を記す負荷率情報、稼働時間の累積時間を示す累積時間情報、燃料噴射量を含む燃料情報、CO2排出量、作業量等を含む。
管理装置200は、ショベル100から、稼働情報を受信し、稼働情報に含まれる状態情報が示すショベル100の作業内容毎に、稼働情報を集計する。そして、管理装置200は、ショベル100に関する各種の情報をショベル100の表示装置40に表示させてもよい。
また、本実施形態の管理装置200は、支援装置300が有する撮像装置や、ショベル100が有するカメラ等によって撮像された画像データを収集する。そして、管理装置200は、収集した画像データを用いた機械学習等によって、ショベル100が回避すべき対象物の有無を判定する判定モデルを生成してもよい。生成された判定モデルは、ショベル100に出力されてもよい。
本実施形態の支援装置300は、主に、作業現場に存在する作業者や、ショベル100を操作するオペレータ等によって利用される可搬型の端末装置であって、例えば、スマートフォン等である。
本実施形態の支援装置300は、作業者等によってショベル100に検知させる対象物の画像が撮像されると、この画像を示す画像データをショベル100や管理装置200に送信する。
なお、図1の例では、支援装置300は、支援システムSYSに含まれるものとしたが、これに限定されない。支援装置300は、支援システムSYSに含まれなくても良い。
また、図1の例では、管理装置200は1台の情報処理装置により実現されるものとしたが、これに限定されない。管理装置200は、複数の情報処理装置により実現されてもよい。言い換えれば、管理装置200により実現される機能は、複数の情報処理装置により実現されてもよい。
次に、本実施形態のショベル100について説明する。図1では、ショベル100の側面図を示す。
ショベル100は、下部走行体1、旋回機構2、上部旋回体3を有する。ショベル100において、下部走行体1には旋回機構2を介して上部旋回体3が旋回可能に搭載されている。上部旋回体3にはブーム4が取り付けられている。ブーム4の先端にはアーム5が取り付けられ、アーム5の先端にはエンドアタッチメントとしてのバケット6が取り付けられている。
ブーム4、アーム5、バケット6は、アタッチメントの一例としての掘削アタッチメントを構成している。そして、ブーム4は、ブームシリンダ7により駆動され、アーム5は、アームシリンダ8により駆動され、バケット6は、バケットシリンダ9により駆動される。ブーム4にはブーム角度センサS1が取り付けられ、アーム5にはアーム角度センサS2が取り付けられ、バケット6にはバケット角度センサS3が取り付けられている。
ブーム角度センサS1はブーム4の回動角度を検出するように構成されている。本実施形態では、ブーム角度センサS1は加速度センサであり、上部旋回体3に対するブーム4の回動角度(以下、「ブーム角度」とする。)を検出できる。ブーム角度は、例えば、ブーム4を最も下げたときに最小角度となり、ブーム4を上げるにつれて大きくなる。
アーム角度センサS2はアーム5の回動角度を検出するように構成されている。本実施形態では、アーム角度センサS2は加速度センサであり、ブーム4に対するアーム5の回動角度(以下、「アーム角度」とする。)を検出できる。アーム角度は、例えば、アーム5を最も閉じたときに最小角度となり、アーム5を開くにつれて大きくなる。
バケット角度センサS3はバケット6の回動角度を検出するように構成されている。本実施形態では、バケット角度センサS3は加速度センサであり、アーム5に対するバケット6の回動角度(以下、「バケット角度」とする。)を検出できる。バケット角度は、例えば、バケット6を最も閉じたときに最小角度となり、バケット6を開くにつれて大きくなる。
ブーム角度センサS1、アーム角度センサS2、及び、バケット角度センサS3はそれぞれ、可変抵抗器を利用したポテンショメータ、対応する油圧シリンダのストローク量を検出するストロークセンサ、連結ピン回りの回動角度を検出するロータリエンコーダ、ジャイロセンサ、又は、加速度センサとジャイロセンサの組み合わせ等であってもよい。
ブームシリンダ7にはブームロッド圧センサS7R及びブームボトム圧センサS7Bが取り付けられている。アームシリンダ8にはアームロッド圧センサS8R及びアームボトム圧センサS8Bが取り付けられている。
バケットシリンダ9にはバケットロッド圧センサS9R及びバケットボトム圧センサS9Bが取り付けられている。ブームロッド圧センサS7R、ブームボトム圧センサS7B、アームロッド圧センサS8R、アームボトム圧センサS8B、バケットロッド圧センサS9R及びバケットボトム圧センサS9Bは、集合的に「シリンダ圧センサ」とも称される。
ブームロッド圧センサS7Rはブームシリンダ7のロッド側油室の圧力(以下、「ブームロッド圧」とする。)を検出し、ブームボトム圧センサS7Bはブームシリンダ7のボトム側油室の圧力(以下、「ブームボトム圧」とする。)を検出する。アームロッド圧センサS8Rはアームシリンダ8のロッド側油室の圧力(以下、「アームロッド圧」とする。)を検出し、アームボトム圧センサS8Bはアームシリンダ8のボトム側油室の圧力(以下、「アームボトム圧」とする。)を検出する。
バケットロッド圧センサS9Rはバケットシリンダ9のロッド側油室の圧力(以下、「バケットロッド圧」とする。)を検出し、バケットボトム圧センサS9Bはバケットシリンダ9のボトム側油室の圧力(以下、「バケットボトム圧」とする。)を検出する。
上部旋回体3には運転室であるキャビン10が設けられ且つエンジン11等の動力源が搭載されている。また、エンジン11の排出機構の近傍には、CO2排出量を検出するためのセンサが設けられていてもよい。
さらに、上部旋回体3には、コントローラ30、表示装置40、入力装置42、音声出力装置43、記憶装置47、測位装置P1、機体傾斜センサS4、旋回角速度センサS5、撮像装置S6及び通信装置T1が取り付けられている。
上部旋回体3には、電力を供給する蓄電部、及び、エンジン11の回転駆動力を用いて発電する電動発電機等が搭載されていてもよい。蓄電部は、例えば、キャパシタ、又は、リチウムイオン電池等である。電動発電機は、電動機として機能して機械負荷を駆動してもよく、発電機として機能して電気負荷に電力を供給してもよい。
コントローラ30は、ショベル100の駆動制御を行う主制御部として機能する。本実施形態では、コントローラ30は、CPU、RAM及びROM等を含むコンピュータで構成されている。コントローラ30の各種機能は、例えば、ROMに格納されたプログラムをCPUが実行することで実現される。各種機能は、例えば、オペレータによるショベル100の手動操作をガイド(案内)するマシンガイダンス機能、及び、オペレータによるショベル100の手動操作を自動的に支援するマシンコントロール機能の少なくとも1つを含んでいてもよい。
表示装置40は、各種情報を表示するように構成されている。表示装置40は、CAN等の通信ネットワークを介してコントローラ30に接続されていてもよく、専用線を介してコントローラ30に接続されていてもよい。
入力装置42は、オペレータが各種情報をコントローラ30に入力できるように構成されている。入力装置42は、キャビン10内に設置されたタッチパネル、ノブスイッチ及びメンブレンスイッチ等の少なくとも1つを含む。
音声出力装置43は、音声を出力するように構成されている。音声出力装置43は、例えば、コントローラ30に接続される車載スピーカであってもよく、ブザー等の警報器であってもよい。本実施形態では、音声出力装置43は、コントローラ30からの音声出力指令に応じて各種情報を音声出力するように構成されている。
記憶装置47は、各種情報を記憶するように構成されている。記憶装置47は、例えば、半導体メモリ等の不揮発性記憶媒体である。記憶装置47は、ショベル100の動作中に各種機器が出力する情報を記憶してもよく、ショベル100の動作が開始される前に各種機器を介して取得する情報を記憶してもよい。
記憶装置47は、例えば、通信装置T1等を介して取得される目標施工面に関するデータを記憶していてもよい。目標施工面は、ショベル100のオペレータが設定したものであってもよく、施工管理者等が設定したものであってもよい。
測位装置P1は、上部旋回体3の位置を測定するように構成されている。測位装置P1は、上部旋回体3の向きを測定できるように構成されていてもよい。本実施形態では、測位装置P1は、例えばGNSSコンパスであり、上部旋回体3の位置及び向きを検出し、検出値をコントローラ30に対して出力する。そのため、測位装置P1は、上部旋回体3の向きを検出する向き検出装置としても機能し得る。向き検出装置は、上部旋回体3に取り付けられた方位センサであってもよい。
機体傾斜センサS4は上部旋回体3の傾斜を検出するように構成されている。本実施形態では、機体傾斜センサS4は仮想水平面に対する上部旋回体3の前後軸回りの前後傾斜角及び左右軸回りの左右傾斜角を検出する加速度センサである。上部旋回体3の前後軸及び左右軸は、例えば、ショベル100の旋回軸上の一点であるショベル中心点で互いに直交する。
旋回角速度センサS5は、上部旋回体3の旋回角速度を検出するように構成されている。旋回角速度センサS5は、上部旋回体3の旋回角度を検出或いは算出するように構成されていてもよい。本実施形態では、旋回角速度センサS5は、ジャイロセンサである。旋回角速度センサS5は、レゾルバ、ロータリエンコーダ等であってもよい。
撮像装置S6は、空間認識装置の一例であり、ショベル100の周辺の画像を取得するように構成されている。本実施形態では、撮像装置S6は、ショベル100の前方の空間を撮像する前カメラS6F、ショベル100の左方の空間を撮像する左カメラS6L、ショベル100の右方の空間を撮像する右カメラS6R、及び、ショベル100の後方の空間を撮像する後カメラS6Bを含む。また、撮像装置S6は、キャビン10内に配置されたカメラを含む。
撮像装置S6は、例えば、CCD又はCMOS等の撮像素子を有する単眼カメラであり、撮像した画像を表示装置40に出力する。撮像装置S6は、ステレオカメラ、距離画像カメラ等であってもよい。また、撮像装置S6は、3次元距離画像センサ、超音波センサ、ミリ波レーダ、LIDAR又は赤外線センサ等の他の空間認識装置で置き換えられてもよく、他の空間認識装置とカメラとの組み合わせで置き換えられてもよい。
前カメラS6Fは、例えば、キャビン10の天井、すなわちキャビン10の内部に取り付けられている。但し、前カメラS6Fは、キャビン10の屋根、ブーム4の側面等、キャビン10の外部に取り付けられていてもよい。左カメラS6Lは、上部旋回体3の上面左端に取り付けられ、右カメラS6Rは、上部旋回体3の上面右端に取り付けられ、後カメラS6Bは、上部旋回体3の上面後端に取り付けられている。
通信装置T1は、ショベル100の外部にある外部機器との通信を制御するように構成されている。本実施形態では、通信装置T1は、衛星通信網、携帯電話通信網又はインターネット網等を介した外部機器との通信を制御する。外部機器は、例えば、外部施設に設置されたサーバ等の管理装置200であってもよく、ショベル100の周囲の作業者が携帯しているスマートフォン等の支援装置300であってもよい。
次に、本実施形態の管理装置200について説明する。図2は、管理装置のハードウェア構成の一例を示す図である。
本実施形態の管理装置200は、それぞれバスBで相互に接続されている入力装置201、出力装置202、ドライブ装置203、補助記憶装置204、メモリ装置205、演算処理装置206及びインターフェース装置207を含むコンピュータである。
入力装置201は、各種の情報の入力を行うための装置であり、例えばタッチパネル等により実現される。出力装置202は、各種の情報の出力を行うためものであり、例えばディスプレイ等により実現される。インターフェース装置207は、ネットワークに接続する為に用いられる。
後述する各部により実現される管理プログラムは、管理装置200を制御する各種プログラムの少なくとも一部である。管理プログラムは、例えば、記憶媒体208の配布やネットワークからのダウンロード等によって提供される。管理プログラムを記録した記憶媒体208は、情報を光学的、電気的或いは磁気的に記録する記憶媒体、ROM、フラッシュメモリ等の様に情報を電気的に記録する半導体メモリ等、様々なタイプの記憶媒体を用いてもよい。
また、管理プログラムは、管理プログラムを記録した記憶媒体208がドライブ装置203にセットされると、記憶媒体208からドライブ装置203を介して補助記憶装置204にインストールされる。ネットワークからダウンロードされた管理プログラムは、インターフェース装置207を介して補助記憶装置204にインストールされる。
補助記憶装置204は、管理装置200にインストールされた管理プログラムを格納すると共に、管理装置200による各種の必要なファイル、データ等を格納する。メモリ装置205は、管理装置200の起動時に補助記憶装置204から管理プログラムを読み出して格納する。そして、演算処理装置206はメモリ装置205に格納された管理プログラムに従って、後述するような各種処理を実現している。
なお、本実施形態の支援装置300は、管理装置200と同様に演算処理装置とメモリ装置とを有するコンピュータであるから、説明を省略する。なお、支援装置300は、演算処理装置とメモリ装置以外に、撮像装置を有する。また、支援装置300は入力装置として、タッチパネル等を有してもよい。
(第一の実施形態)
以下に、図面を参照して、第一の実施形態について説明する。第一の実施形態では、支援装置300において、作業者により撮像された対象物の画像データをショベル100へ送信し、ショベル100の撮像装置S6によって撮像された画像データと照合することで、ショベル100に対象物を検知させる。
以下に、図面を参照して、第一の実施形態について説明する。第一の実施形態では、支援装置300において、作業者により撮像された対象物の画像データをショベル100へ送信し、ショベル100の撮像装置S6によって撮像された画像データと照合することで、ショベル100に対象物を検知させる。
次に、図3を参照して、本実施形態の支援装置300とショベル100の機能構成について説明する。図3は、第一の実施形態の支援装置とショベルの機能構成を説明する図である。
はじめに、支援装置300の機能について説明する。後述する支援装置300の各部は、支援装置300の演算処理装置が、メモリ装置に格納された支援プログラムを読み出して実行することで実現される。
本実施形態の支援装置300は、入力受付部310、撮像制御部320、通信制御部330を有する。入力受付部310は、支援装置300に対する各種の入力を受け付ける。具体的には、例えば、入力受付部310は、支援装置300に対する画像データの撮像指示や、画像データの送信指示を受け付ける。
撮像制御部320は、入力受付部310が受け付けた画像データの撮像指示に応じて、撮像装置に画像データを撮像させる。
ここで、本実施形態の支援装置300では、ショベル100による検知の対象物の画像データが撮像されるものとする。ショベル100による検知の対象物とは、言い換えれば、ショベル100が回避すべき障害物である。以下の説明では、ショベル100による検知の対象物を検知対象物と呼ぶ。
具体的には、例えば、検知対象物とは、ロードコーンや土管等のように、作業現場に配置された物体であってよい。以下の説明では、支援装置300により撮像される画像データを、対象物画像データと呼ぶ。
また、本実施形態では、支援装置300を所持している作業者等によって、回避すべき障害物と判断された対象物の画像データが、対象物画像データとして撮像される。したがって、本実施形態における対象物画像データは、支援装置300において、回避すべき障害物として選択された対象物の画像データと言える。
さらに、本実施形態では、支援装置300において撮像された作業現場の画像データの一部が対象物画像データとして切り出され、ショベル100に送信されてもよい。
通信制御部330は、入力受付部310が受け付けた画像データの送信指示に応じて、対象物画像データをショベル100に送信する。
次に、ショベル100の機能について説明する。後述するショベル100の各部は、コントローラ30が記憶装置47等に格納されたプログラムを読み出して実行することで実現される。
本実施形態のショベル100は、画像取得部31、検知対象物設定部32、照合部33、対象物検知部34、動作制御部35を有する。
画像取得部31は、支援装置300から送信される、対象物画像データを取得する。また、画像取得部31は、撮像装置S6によって撮像された画像データを取得する。
ここで、撮像装置S6によって撮像された画像データとは、ショベル100の周辺を撮像した画像データである。言い換えれば、撮像装置S6によって撮像された画像データとは、ショベル100が作業を行っている作業現場を撮像した画像データである。以下の説明では、撮像装置S6によって撮像された画像データを、周辺画像データと呼ぶ。
検知対象物設定部32は、支援装置300から対象物画像データを取得すると、この対象物画像データを、検知すべき対象物を示す画像データとして、コントローラ30に保持させる。言い換えれば、検知対象物設定部32は、支援装置300において撮像された対象物画像データが示す対象物を、検知対象物としてコントローラ30に設定する。
照合部33は、対象物画像データと、周辺画像データとを照合する。具体的には、照合部33は、対象物画像データが示す画像の特徴量と、周辺画像データが示す画像の特徴量とを比較してもよい。
対象物検知部34は、照合部33による照合結果に応じて、対象物検知部34は、対象物画像データを検知する。言い換えれば、対象物検知部34は、周辺画像データが示す画像中に、対象物画像データが示す対象物画像と対応する画像が含まれるか否かを判定する。
ここで、対象物検知部34は、例えば、周辺画像データが示す周辺画像に含まれる様々な形状の画像のうち、対象物画像データが示す対象物画像と形状が類似する画像が含まれる場合に、周辺画像に、対象物画像と対応する画像が含まれるものとしてもよい。
動作制御部35は、対象物検知部34により検知された対象物が、ショベル100から所定の範囲内に検知された場合に、その旨を示す通知を出力する。
なお、本実施形態では、ショベル100は、支援装置300から対象物画像データを取得すると、この対象物画像データを、検知対象物の一覧を示す情報として保持する。
以下に、図4を参照して、本実施形態のショベル100の動作について説明する。図4は、第一の実施形態のショベルの動作を説明するフローチャートである。
本実施形態のショベル100は、画像取得部31により、支援装置300から対象物画像データを取得する(ステップS401)。
つづいて、画像取得部31は、対象物画像データを、検知すべき対象物を示す画像データとしてコントローラ30に設定する(ステップS402)。なお、このとき取得した対象物画像データは、ショベル100の記憶装置47やコントローラ30内に設けられたメモリ等に格納されてよい。
続いて、ショベル100は、画像取得部31により、周辺画像データを取得し、照合部33により、周辺画像データと、対象物画像データとを照合する(ステップS403)。
具体的には、照合部33は、ショベル100の有する複数の撮像装置S6のそれぞれが取得した周辺画像データと、対象物画像データとを照合する。複数の撮像装置S6とは、ショベル100の前方の空間を撮像する前カメラS6F、ショベル100の左方の空間を撮像する左カメラS6L、ショベル100の右方の空間を撮像する右カメラS6R、及び、ショベル100の後方の空間を撮像する後カメラS6Bを含む。
次に、ショベル100は、照合部33により、複数の撮像装置S6のそれぞれが取得した全ての周辺画像データについて、対象物画像データとの照合を行ったか否かを判定する(ステップS404)。
ステップS404において、全ての周辺画像データについて、照合が行われていない場合は、ステップS403に戻る。
ステップS404において、全ての周辺画像データについて、照合が行われた場合、ショベル100は、対象物検知部34により、周辺画像データが示す周辺画像から、対象物画像データが示す対象物画像と対応する画像が検知されたか否かを判定する(ステップS405)。
ステップS405において、対象物画像と対応する画像が検知されない場合、ショベル100は、処理を終了する。
ステップS405において、対象物画像と対応する画像が検知された場合、ショベル100は、動作制御部35により、検知対象物がショベル100から所定範囲内で検知されたか否かを判定する(ステップS406)。
なお、本実施形態では、周辺画像から検知対象物の画像が検知された場合、表示装置40において、検知対象物の画像を特定するためのマーカ等を表示させてもよい。表示例の詳細は後述する。
ステップS406において、検知対象物が所定範囲内で検知されていない場合、ショベル100は、処理を終了する。
ステップS406において、検知対象物が所定範囲内で検知された場合、ショベル100は、動作制御部35により、検知対象物が所定範囲内で検知されたことを示す通知を出力し(ステップS407)、処理を終了する。
なお、ステップS407で出力される通知は、表示装置40に表示されるものであってもよいし、音声等によってショベル100の周辺の作業者等に通知するものであってもよい。
また、本実施形態では、ショベル100は、支援装置300から取得した対象物画像データが、ショベル100に保持されていない場合には、その旨を示す通知を表示装置40や支援装置300に対して出力してもよい。このような通知を出力することで、新たな検知対象物が設定されることを、作業者やオペレータに認識させることができる。
次に、図5を参照して、本実施形態のショベル100の表示装置40における表示例について説明する。図5は、ショベルにおける表示例を示す図である。
ここでは、支援装置300において、検知対象物をロードコーンと、トラックの2種類が選択され、対象物画像データとして、ロードコーンの画像データと、トラックの画像データとが撮像された場合について説明する。
この場合、ショベル100は、支援装置300から、対象物画像データとして、ロードコーンの画像データと、トラックの画像データとを取得し、ロードコーンとトラックとを検知対象物に設定する。そして、ショベル100は、撮像装置S6によって撮像された周辺画像データと、2種類の対象物画像データとをそれぞれ照合し、周辺画像において、ロードコーンと対応する形状の画像と、トラックと対応する形状の画像の有無を検知する。
図5では、撮像装置S6に含まれる後カメラS6Bにより撮像された周辺画像データと、対象物画像データとの照合において、ロードコーンと対応する画像と、トラックと対応する画像と、が検知されたものとする。
図5では、表示装置40にメイン画面41Vが表示された場合の一例を示す。メイン画面41Vの中のカメラ画像表示領域41mには、撮像装置S6により撮像された撮像画像が表示されている。ここで、カメラ画像表示領域41mに表示される撮像画像は、例えば、ショベル100の周辺画像データが示す周辺画像である。
また、メイン画面41Vには、カメラ画像表示領域41mの他、日時表示領域41a、走行モード表示領域41b、アタッチメント表示領域41c、平均燃費表示領域41d、エンジン制御状態表示領域41e、エンジン作動時間表示領域41f、冷却水温表示領域41g、燃料残量表示領域41h、回転数モード表示領域41i、尿素水残量表示領域41j、作動油温表示領域41kが含まれる。
日時表示領域41aは、メイン画面41Vの中で、現在の日時を表示する領域である。
走行モード表示領域41bは、メイン画面41Vの中で、ショベル100の現在の走行モードを表す図形を表示する領域である。
アタッチメント表示領域41cは、メイン画面41Vの中で、ショベル100に現在装着されているアタッチメントの種類を模擬的に表す図形を表示する領域である。
平均燃費表示領域41dは、メイン画面41Vの中で、ショベル100の現在の平均燃費を表示する領域である。平均燃費は、例えば、所定時間における燃料消費量である。
エンジン制御状態表示領域41eは、メイン画面41Vの中で、エンジン11の制御状態を模擬的に表す図形を表示する領域である。
エンジン作動時間表示領域41fは、メイン画面41Vの中で、所定のタイミングからのエンジン11の総作動時間を表示する領域である。
冷却水温表示領域41gは、メイン画面41Vの中で、現在のエンジン11の冷却水の温度状態を表示する領域である。
燃料残量表示領域41hは、メイン画面41Vの中で、ショベル100の燃料タンクに貯蔵されている燃料の残量状態を表示する領域である。
回転数モード表示領域41iは、現在のエンジン11の設定回転数に関するモード(回転数モード)を表示する領域である。
尿素水残量表示領域41jは、メイン画面41Vの中で、尿素水タンクに貯蔵されている尿素水の残量状態を表示する領域である。
本実施形態では、カメラ画像表示領域41mに、撮像装置S6のうちの後カメラS6Bの撮像画像が表示されており、この撮像画像には、ショベル100の後方に配置されたロードコーンRCと、ショベル100の後方に駐車されたトラックTKが映っている。
本実施形態のショベル100では、対象物検知部34により、ロードコーンRCが検知されると、ロードコーンRCを取り囲む態様のボックスアイコン501と、検知対象物がロードコーンであることを表す文字情報アイコン502とを撮像画像に重畳して表示させる。
また、本実施形態のショベル100では、対象物検知部34により、トラックTKが検知されると、トラックTKを取り囲む態様のボックスアイコン503と、検知対象物がトラックであることを表す文字情報アイコン504とを撮像画像に重畳して表示させる。
本実施形態では、このようにボックスアイコンを撮像画像(周辺画像)に重畳させて表示させることで、オペレータ等に対し、検知対象物の存在を容易に認識させることができる。また、本実施形態では、検知対象物の種類を示す文字表示アイコンを撮像画像(周辺画像)に重畳させて表示させることで、オペレータ等に対し、検知対象物の種類を把握させることができる。
なお、図5の例では、カメラ画像表示領域41mには、後カメラS6Bにより撮像された画像データが表示されるものとしたが、これに限定されない。表示装置40のカメラ画像表示領域41mには、例えば、撮像装置S6に含まれる複数のカメラによって撮像された画像データを合成した俯瞰画像が、後カメラS6Bにより撮像されたショベル100の後方画像と共に表示されてもよい。
さらに、本実施形態では、カメラ画像表示領域41mに、撮像装置S6の位置と上部旋回体3のアタッチメントの向きとの相対的関係を表すアイコン画像が表示されてもよい。
このアイコン画像は、ショベル100のアイコン画像と、ショベル100の前方を示すアイコン画像、ショベル100の後方を示すアイコン画像を含む。また、このアイコン画像は、ショベル100の左側を示すアイコン画像、ショベル100の右側を示すアイコン画像、キャビン10内を示すアイコン画像を含む。
言い換えれば、撮像装置S6の位置と上部旋回体3のアタッチメントの向きとの相対的関係を表すアイコン画像は、撮像装置S6に含まれる複数のカメラのそれぞれが配置された位置と対応するアイコン画像を含む。
具体的には、複数のカメラのそれぞれが配置された位置と対応するアイコン画像は、それぞれが、ショベル100の前方を撮像する前カメラS6F、ショベル100の後方を撮像する後カメラS6B、ショベル100の左方を撮像する左カメラS6L、ショベル100の右方を撮像する右カメラS6R、キャビン10内部のカメラに対応している。
本実施形態では、撮像装置S6の位置と上部旋回体3のアタッチメントの向きとの相対的関係を表すアイコン画像において、各カメラと対応付けられた画像が選択されると、選択された画像と対応するカメラによって撮像された画像データがカメラ画像表示領域41mに表示されてよい。
また、撮像装置S6の位置と上部旋回体3のアタッチメントの向きとの相対的関係を表すアイコン画像では、カメラ画像表示領域41mに撮像した画像データが表示されているカメラと対応するアイコン画像の表示態様を、他のカメラと対応するアイコン画像の表示態様と異ならせてもよい。このように、各アイコン画像を表示させることで、カメラ画像表示領域41mに表示されている画像が、とのカメラで撮像した画像であるかを、オペレータに容易に把握させることができる。
このように、本実施形態では、作業現場の状態を把握している作業者によって選択された検知対象物を、ショベル100が回避すべき対象物を検知対象物に設定することができる。したがって、本実施形態によれば、作業内容や作業現場に応じて、適切な検知対象物をショベル100に検知させることができ、安全性を向上させることができる。
(第二の実施形態)
以下に第二の実施形態について説明する。第二の実施形態では、管理装置200において、周辺画像に検知対象物の画像が含まれるか否かを判定する判定モデルを生成し、生成された判定モデルをショベル100に保持させる点が、第一の実施形態と相違する。
以下に第二の実施形態について説明する。第二の実施形態では、管理装置200において、周辺画像に検知対象物の画像が含まれるか否かを判定する判定モデルを生成し、生成された判定モデルをショベル100に保持させる点が、第一の実施形態と相違する。
以下の第二の実施形態の説明では、第一の実施形態との相違点について説明し、第一の実施形態と同様の機能構成を有するものには、第一の実施形態の説明で用いた符号と同様の符号を付与し、その説明を省略する。
図6は、第二の実施形態の支援システムの有する各装置の機能を説明する図である。本実施形態の支援システムSYSにおいて、支援装置300は、ショベル100の作業内容と作業地域の入力を受け付けると、管理装置200に対して、作業内容と作業地域とを示す情報を送信する。
管理装置200は、この情報を受け付けて、作業内容と作業地域に対応した判定モデルを特定し、特定した判定モデルをショベル100に出力(送信)する。ショベル100は、管理装置200から出力された判定モデルを用いて、周辺画像に検知対象物が含まれるか否かを判定する。
このように、本実施形態では、支援装置300において、作業内容と作業地域を入力する操作によって、ショベル100において検知される検知対象物が特定される。言い換えれば、本実施形態では、ショベル100において検知される検知対象物は、支援装置300において選択される。
はじめに、管理装置200の機能について説明する。本実施形態の管理装置200の有する各記憶部は、メモリ装置205や補助記憶装置204によって実現されてよい。また、管理装置200の有する各機能部は、演算処理装置206が、メモリ装置205や補助記憶装置204に格納された管理プログラムを読み出して実行することで実現される。
本実施形態の管理装置200は、判定モデル記憶部210、対応付け記憶部220、画像データ記憶部230を有する。また、管理装置200は、モデル特定部240、モデル出力部250、画像データ収集部260、教師データ生成部270、学習部280を有する。
判定モデル記憶部210は、学習部280による機械学習等によって生成された、判定モデルが格納される。判定モデル記憶部210に格納される判定モデルは、学習済みモデルであって、ショベル100の周辺画像データを入力とし、周辺画像データに、ある検知対象物が含まれるか否かを判定した結果を出力とするモデルである。したがって、判定モデルは、検知対象物の種類毎に存在してよい。判定モデルの詳細は後述する。
対応付け記憶部220は、作業内容及び作業地域と、判定モデルとを対応付けた対応付け情報が格納される。対応付け情報の詳細は後述する。
画像データ記憶部230は、画像データ収集部260により、支援装置300から収集された対象物画像データが格納される。画像データ記憶部230に格納された対象物画像データは、判定モデルを学習させるための教師データを生成する際に用いられる。
モデル特定部240は、対応付け記憶部220を参照し、支援装置300において入力された作業内容と作業地域と対応する判定モデルを特定する。
モデル出力部250は、モデル特定部240により特定された判定モデルをショベル100に送信する。
画像データ収集部260は、支援装置300から対象物画像データを収集し、画像データ記憶部230に格納する。また、画像データ収集部260は、ショベル100から、ショベル100の撮像装置S6により撮像された周辺画像データを取得してもよい。
教師データ生成部270は、画像データ記憶部230に格納された対象物画像データを用いて、判定モデルの学習に用いる教師データを生成する。学習部280は、教師データ生成部270により生成された教師データに基づく機械学習を行い、判定モデルを生成する。生成された判定モデルは、判定モデル記憶部210に格納される。
次に、ショベル100の機能について説明する。本実施形態のショベル100は、画像取得部31、対象物検知部34A、動作制御部35、モデル取得部36を有する。
本実施形態の対象物検知部34Aは、管理装置200から送信された判定モデル37を保持しており、この判定モデル37に対して、画像取得部31が取得した周辺画像データを入力して、検知対象物の有無を判定する。
モデル取得部36は、管理装置200から判定モデル37を取得し、対象物検知部34Aに保持させる。
次に、図7を参照して、本実施形態の管理装置200の対応付け記憶部220について説明する。図7は、対応付け記憶部の一例を示す図である。
本実施形態の対応付け記憶部220では、作業内容と判定モデルとが対応付けられた対応付け情報220-1と、作業地域と判定モデルとを対応付けた対応付け情報220-2とが含まれる。
対応付け情報220-1では、作業内容「掘削作業」と対応する判定モデルとして、ロードコーン判定モデルが対応付けられている。この対応付けは、掘削作業を行う際には、多くの場合は作業現場にロードコーンが設置されることを示す。なお、ロードコーン判定モデルとは、ロードコーンを検知対象物とした判定モデルである。
また、対応付け情報220-1では、作業内容「積み込み作業」と対応する判定モデルとして、トラック判定モデルが対応付けられている。この対応付けは、積み込み作業を行う際には、多くの場合は作業現場にトラックが配置されることを示す。なお、トラック判定モデルは、トラックを検知対象物とした判定モデルである。
また、対応付け情報220-2では、作業地域「都市部」と対応する判定モデルとして、電柱判定モデルが対応付けられている。電柱判定モデルとは、電柱を検知対象物とした判定モデルである。この対応付けは、都市部で作業を行う際には、多くの場合は電柱が存在して、電柱を回避する必要があることを示す。
これらの対応付け情報は、例えば、管理装置200を管理する施工管理者等によって、予め管理装置200の対応付け記憶部220に格納されていてよい。
また、本実施形態では、検知対象物毎の判定モデルが、作業内容と、作業地域とに対応付けられるものとしたが、これに限定されない。本実施形態の検知対象物毎の判定モデルは、作業現場毎に対応付けられていてもよい。この場合には、支援装置300において、ショベル100の作業現場を特定する情報が入力されると、管理装置200から、作業現場と対応した判定モデルがショベル100に送信される。このため、例えば、支援装置300を操作する作業者が、ショベル100の作業内容等を把握していない場合であっても、作業現場の環境に適した検知対象物をショベル100に検知させることができる。
次に、図8を参照して、本実施形態の支援システムSYSの動作について説明する。図8は、第二の実施形態の支援システムの動作を説明するシーケンス図である。
本実施形態の支援システムSYSにおいて、支援装置300は、検知対象物を選択する操作を受け付ける(ステップS801)。具体的には、支援装置300は、ショベル100の作業内容と、ショベル100の作業現場の地域(作業地域)との入力を受け付ける。
続いて、支援装置300は、入力された作業内容と作業地域とを管理装置200へ送信する(ステップS802)。
管理装置200は、作業内容と作業地域との入力を受け付けると、対応付け記憶部220を参照し、モデル特定部240により、作業内容と作業地域に対応した判定モデルを特定する(ステップS803)。
続いて、管理装置200は、モデル出力部250により、ステップS803で特定された判定モデルを判定モデル記憶部210から取得し(ステップS804)、ショベル100に送信する(ステップS805)。
ショベル100は、モデル取得部36により、管理装置200から送信された判定モデル37を取得する(ステップS806)。言い換えれば、ショベル100は、対象物検知部34Aに判定モデル37を保持させる。
続いて、ショベル100は、対象物検知部34により、周辺画像データを入力として、判定モデル37を用いた対象物の検知を行う(ステップS807)。
以下に、図9を参照して、本実施形態のショベル100により対象物の検知について説明する。図9は、第二の実施形態のショベルの動作を示すフローチャートである。なお、図9では、図8のステップS807の処理の詳細を示している。
ショベル100は、画像取得部31により、周辺画像データを取得する(ステップS901)。続いて、ショベル100は、対象物検知部34Aが保持する判定モデル37に対して、周辺画像データを入力する(ステップS902)。言い換えれば、ショベル100は、対象物検知部34Aにより、周辺画像データから検知対象物を検知する。
続いて、対象物検知部34Aは、周辺画像データから検知対象物が検知されたか否かを判定する(ステップS903)。具体的には、対象物検知部34Aは、判定モデル37の出力が、検知対象物を検知したことを示す出力であるか否かを判定する。
ステップS903において、検知対象物が検知されない場合、ショベル100は、処理を終了する。
ステップS904において、検知対象物が検知された場合、ショベル100は、ステップS904へ進む。図9のステップS904とステップS905の処理は、図4のステップS406とステップS407の処理と同様であるから、説明を省略する。
ここで、例えば、支援装置300において、作業内容「掘削作業」と作業地域「都市部」が入力された場合について説明する。
この場合、管理装置200は、対応付け記憶部220において、作業内容「掘削作業」と対応付けられている判定モデルは、ロードコーン判定モデルである。また、対応付け記憶部220において、作業地域「都市部」と対応付けている判定モデルは、電柱判定モデルである。
したがって、管理装置200は、ロードコーン判定モデルと、電柱判定モデルとを判定モデル記憶部210から読み出して、ショベル100に送信する。
ショベル100は、ロードコーン判定モデルと、電柱判定モデルとを、判定モデル37として対象物検知部34Aに保持する。
そして、ショベル100は、周辺画像データを取得すると、ロードコーン判定モデルと、電柱判定モデルとのそれぞれに対し、取得した周辺画像データを入力し、各判定モデルの判定結果を取得する。
ここで、例えば、ロードコーン判定モデルによる判定結果が、「検知対象物なし」であり、電柱判定モデルによる判定結果が、「検知対象物あり」であったとする。
この場合、ショベル100は、電柱判定モデルにおいて検知対象物とされた「電柱」が、ショベル100から所定範囲内に存在するか否かを判定する。そして、ショベル100が、電柱が所定範囲内である場合には、その旨をショベル100のオペレータや支援装置300の利用者である作業者等に通知する。このとき、ショベル100は、ショベル100の動作を停止させる、等の動作制御を行ってもよい。
また、ショベル100は、電柱は検知されたが、所定範囲内ではない場合には、何もしない。言い換えれば、ショベル100は、検知対象物が、ショベル100の動作に影響しないと想定される位置で検知された場合には、動作制限等を行わない。
このように、本実施形態によれば、ショベル100の作業内容や作業地域に応じて、個別に検知対象物を設定することができる。したがって、本実施形態によれば、安全性を向上させることができる。
また、本実施形態では、ショベル100は、作業現場が変わる度に、対象物検知部34Aにおいて保持された判定モデル37を削除してもよい。また、本実施形態のショベル100は、一日の作業が終了すると、判定モデル37を削除してもよい。
この場合、支援装置300では、ショベル100が一日の作業を開始する前に、その日のショベル100の作業内容と作業地域が入力され、管理装置200に対して入力された作業内容と作業地域を示す情報を送信する。管理装置200は、支援装置300において入力された作業内容と作業地域とに対応した判定モデルを特定し、特定された判定モデルをショベル100に送信する。
このようにすれば、作業を行う日毎に、ショベル100に対して適切な検知対象物を検知させることができる。
また、本実施形態のショベル100は、例えば、管理装置200から受信した判定モデル37が既に保持されている場合には、その旨を示す通知を管理装置200や支援装置300に対して出力してもよい。
次に、図10及び図11を参照して、本実施形態の判定モデル37について説明する。図10は、判定モデルについて説明する図である。
本実施形態の判定モデル37は、管理装置200の学習部280によって学習された学習済みモデルである。
判定モデル37は、例えば、ニューラルネットワーク(Neural Network)401を中心に構成される。
本実施形態では、ニューラルネットワーク401は、入力層及び出力層の間に一層以上の中間層(隠れ層)を有する、いわゆるディープニューラルネットワークである。ニューラルネットワーク401では、それぞれの中間層を構成する複数のニューロンごとに、下位層との間の接続強度を表す重みづけパラメータが規定されている。そして、各層のニューロンは、上位層の複数のニューロンからの入力値のそれぞれに上位層のニューロンごとに規定される重み付けパラメータを乗じた値の総和を、閾値関数を通じて、下位層のニューロンに出力する態様で、ニューラルネットワーク401が構成される。
管理装置200では、ニューラルネットワーク401を対象とし、学習部280により機械学習、具体的には、深層学習(ディープラーニング:Deep Learning)が行われ、上述の重み付けパラメータの最適化が図られる。
これにより、例えば、図10に示すように、ニューラルネットワーク401は、入力信号xとして、撮像装置S6により撮像された撮像画像を示す周辺画像データが入力され、出力信号yとして、周辺画像において、予め規定される検知対象物に対応する物体が存在する確率(予測確率)を出力することができる。なお、図10に示す撮像画像(入力信号x)は、検知対象物に対応する物体が存在するか否かを判定する前の画像である。図10の例では、予め規定された検知対象物をロードコーン(RC)としている。
なお、本実施形態の判定モデル37は、検知対象物の種類毎に学習されるものとしたが、これに限定されない。判定モデル37は、例えば、予め規定される複数の検知対象物の種名に対応する物体が存在する確率を個々に出力してもよい。
具体的には、例えば、判定モデル37において、予め規定される複数の検知対象物が、ロードコーンとトラックであったとする。この場合、判定モデル37は、周辺画像において、ロードコーンとトラックと対応する物体が存在する確率を個々に出力してよい。
ニューラルネットワーク401は、例えば、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)である。CNNは、既存の画像処理技術(畳み込み処理及びプーリング処理)を適用したニューラルネットワークである。具体的には、CNNは、撮像装置S6の撮像画像に対する畳み込み処理及びプーリング処理の組み合わせを繰り返すことにより撮像画像よりもサイズの小さい特徴量データ(特徴マップ)を取り出す。そして、取り出した特徴マップの各画素の画素値が複数の全結合層により構成されるニューラルネットワークに入力され、ニューラルネットワークの出力層は、例えば、物体の種類ごとの物体が存在する予測確率を出力することができる。
また、ニューラルネットワーク401は、入力信号xとして撮像装置S6の撮像画像が入力され、撮像画像における物体の位置及び大きさ(つまり、撮像画像上の物体の占有領域)及びその物体の種類を出力信号yとして出力可能な構成であってもよい。
つまり、ニューラルネットワーク401は、撮像画像上の物体の検出(撮像画像上で物体の占有領域部分の判定)と、その物体の分類の判定とを行う構成であってもよい。また、この場合、出力信号yは、入力信号としての撮像画像に対して物体の占有領域及びその分類に関する情報が重畳的に付加された画像データ形式で構成されていてもよい。
これにより、対象物検知部34Aは、判定モデル37から出力される、撮像装置S6の撮像画像の中の物体の占有領域の位置及び大きさに基づき、当該物体のショベル100からの相対位置(距離や方向)を特定することができる。
また、ショベル100では、複数の撮像装置S6を有するため、判定モデル37により検出された物体の位置が所定範囲(監視領域)内であり、且つ、検知対象物に規定された物体に分類されている場合、監視領域内で、監視対象の物体が検出されたと判定できる。
また、例えば、ニューラルネットワーク401は、撮像画像の中の物体が存在する占有領域(ウィンドウ)を抽出する処理、及び、抽出された領域の物体の種類を特定する処理のそれぞれに相当するニューラルネットワークを有する構成であってよい。つまり、ニューラルネットワーク401は、検知対象物の検出と、検知対象物の分類とを段階的に行う構成であってよい。
また、例えば、ニューラルネットワーク401は、撮像画像の全領域が所定数の部分領域に区分されたグリッドセルごとに物体の分類と物体の占有領域(バウンディングボックス:Bounding box)を規定する処理と、グリッドセルごとの物体の分類に基づき、種類ごとの物体の占有領域を結合し、最終的な物体の占有領域を確定させる処理とのそれぞれに対応するニューラルネットワークを有する構成であってもよい。つまり、ニューラルネットワーク401は、物体の検出と、物体の分類とを並列的に行う構成であってもよい。
次に、図11を参照して、本実施形態の管理装置200の学習部280による判定モデルの学習について説明する。
本実施形態の管理装置200では、画像データ収集部260により、支援装置300によって撮像された対象物画像データを収集して画像データ記憶部230に格納し、判定モデルに学習させるための教師データとする。
図11は、管理装置による判定モデルの学習について説明するシーケンス図である。
本実施形態の支援システムSYSにおいて、支援装置300は、検知対象物を撮像した画像データ(対象物画像データ)を管理装置200に送信する(ステップS1101)。
ここで、支援装置300により撮像される対象物画像データは、様々な角度から検知対象物を撮像した画像データ、様々な時間帯(日中、夜間等)において検知対象物を撮像した画像データ、様々な気象条件(晴天、雨天等)において検知対象物を撮像した画像データ等が含まれてよい。また、対象物画像データを管理装置200に送信する支援装置300は、複数あってよい。
続いて、管理装置200は、画像データ収集部260により、ショベル100の撮像装置S6によって撮像された周辺画像データを取得する(ステップS1102)。
なお、図11の例では、管理装置200は、ショベル100から周辺画像データを受信するものとしたが、これに限定されない。管理装置200は、ショベル100から定期的に収集されるショベル100の稼働情報を格納している。ステップS1102で取得される周辺画像データは、ショベル100の稼働情報として、予め管理装置200に格納された画像データであってもよい。
続いて、管理装置200は、ステップS1102で取得した周辺画像データを、学習対象の判定モデルに入力し、検知対象物の有無を判定させる(ステップS1103)。ここでは、例えば、検知対象物がロードコーンに規定されたロードコーン判定モデルに対し、周辺画像データを入力したものとする。
次に、管理装置200では、管理装置200の管理者や作業者等により、判定モデルによる判定結果を検証が行われ、判定結果の正誤が入力される(ステップS1104)。
管理装置200は、判定結果の正誤が入力されると、教師データ生成部270により、判定モデルに入力された周辺画像データと、画像データ記憶部230に格納された対象物画像データと、判定結果の正誤を示す情報とを、含む教師データセットを生成する(ステップS1105)。
具体的には、例えば、教師データ生成部270は、ロードコーン判定モデルに入力された周辺画像データと、画像データ記憶部230に格納されたロードコーンの画像データと、判定結果の正誤を示す情報とを、教師データセットとする。
続いて、管理装置200は、学習部280により、教師データセットを用いて判定モデルを追加学習させ、判定モデルを更新する(ステップS1106)。
このように、本実施形態によれば、ショベル100の作業現場等において、支援装置300により実際に撮像された検知対象物の画像データを用いて、判定モデルを更新することができる。したがって、本実施形態によれば、判定モデルによる検知対象物の有無の判定精度を向上させることができる。
なお、本実施形態では、検知対象物の画像データは、支援装置300により撮像されるものとしたが、これに限定されない。教師データとして利用される検知対象物の画像データは、支援装置300以外の撮像装置によって撮像された画像データであってもよい。具体的には、例えば、ショベル100の撮像装置S6によって撮像された画像データであってもよい。また、本実施形態において、教師データとされる検知対象物の画像データは、例えば、インターネット上にアップロードされている検知対象物の画像データ等であってもよい。
以上、本発明を実施するための形態について説明したが、上記内容は、発明の内容を限定するものではなく、本発明の範囲内で種々の変形及び改良が可能である。
1 下部走行体
2 旋回機構
3 上部旋回体
30 コントローラ
31 画像取得部
32 検知対象物設定部
33 照合部
34 対象物検知部
35 動作制御部
36 モデル取得部
37 判定モデル
100 ショベル
200 管理装置
300 支援装置
2 旋回機構
3 上部旋回体
30 コントローラ
31 画像取得部
32 検知対象物設定部
33 照合部
34 対象物検知部
35 動作制御部
36 モデル取得部
37 判定モデル
100 ショベル
200 管理装置
300 支援装置
Claims (10)
- 下部走行体と、
前記下部走行体に旋回自在に搭載される上部旋回体と、
エンドアタッチメントと、
支援装置において選択された対象物を検知対象物として設定する制御部と、を有するショベル。 - 前記対象物は、
前記支援装置において前記対象物の画像データを撮像することで選択され、
前記制御部は、
前記支援装置から受信した前記対象物の画像データに基づき、前記検知対象物を設定する、請求項1記載のショベル。 - 前記制御部は、
前記支援装置において選択された検知対象物毎の判定モデルを取得して、前記検知対象物を特定する、請求項1又は2記載のショベル。 - 前記検知対象物毎の判定モデルは、前記支援装置において、前記ショベルの作業内容、若しくは、作業地域を入力することにより、選択される、請求項3記載のショベル。
- 前記検知対象物毎の判定モデルは、前記支援装置において撮像された前記対象物の画像データを用いて更新される、請求項2乃至4の何れか一項に記載のショベル。
- 前記制御部は、
前記検知対象物が所定範囲内において検知された場合に、前記検知対象物が前記所定範囲内に存在することを示す通知を出力する、請求項1乃至5の何れか一項に記載のショベル。 - ショベルと、ショベルを支援する支援装置と、ショベルを管理する管理装置とを含むショベルの支援システムであって、
前記ショベルは、
下部走行体と、
前記下部走行体に旋回自在に搭載される上部旋回体と、
エンドアタッチメントと、
前記支援装置において選択された対象物を、検知対象物として設定する制御部と、を有する、ショベルの支援システム。 - 前記支援装置は、
前記対象物を撮像した画像データを前記ショベルに送信し、
前記制御部は、
前記支援装置から受信した前記対象物の画像データに基づき、前記検知対象物を設定する、請求項7記載のショベルの支援システム。 - 前記管理装置は、
前記ショベルの作業内容、若しくは、作業地域と対応付けられた、前記検知対象物毎の判定モデルを記憶する記憶部と、
前記支援装置において、前記ショベルの作業内容、若しくは、作業地域が入力されると、入力された前記作業内容、若しくは、作業地域と対応する、前記検知対象物毎の判定モデルを前記ショベルに出力する、モデル出力部と、を有する、請求項7又は8記載のショベルの支援システム。 - 前記管理装置は、
前記ショベルの有する撮像装置により撮像された前記ショベルの周辺画像データと、前記支援装置において撮像された前記対象物の画像データと、を用いて、前記検知対象物毎の判定モデルを学習させる学習部を有する、請求項7乃至9の何れか一項に記載のショベルの支援システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022061369A JP2023151642A (ja) | 2022-03-31 | 2022-03-31 | ショベル、ショベルの支援システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022061369A JP2023151642A (ja) | 2022-03-31 | 2022-03-31 | ショベル、ショベルの支援システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023151642A true JP2023151642A (ja) | 2023-10-16 |
Family
ID=88326341
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022061369A Pending JP2023151642A (ja) | 2022-03-31 | 2022-03-31 | ショベル、ショベルの支援システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023151642A (ja) |
-
2022
- 2022-03-31 JP JP2022061369A patent/JP2023151642A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220018096A1 (en) | Shovel and construction system | |
WO2019189260A1 (ja) | ショベル | |
US11414837B2 (en) | Image processing system, display device, image processing method, method for generating trained model, and dataset for learning | |
CN106598039B (zh) | 一种基于激光雷达的变电站巡检机器人避障方法 | |
CN112996963B (zh) | 挖土机、挖土机支援系统 | |
WO2020196874A1 (ja) | 建設機械、支援システム | |
US20220412048A1 (en) | Work assist server, work assist method, and work assist system | |
JP2023151642A (ja) | ショベル、ショベルの支援システム | |
US20230009234A1 (en) | Information communications system for construction machine and machine learning apparatus | |
US11746501B1 (en) | Autonomous control of operations of powered earth-moving vehicles using data from on-vehicle perception systems | |
WO2022210980A1 (ja) | 建設機械、建設機械の支援システム | |
US20220002970A1 (en) | Excavator | |
US20220389683A1 (en) | Work assist server, work assist method, and work assist system | |
JP2021155998A (ja) | 作業機械の管理システム | |
JP2023151682A (ja) | ショベル及びショベル支援システム | |
US20220391811A1 (en) | Work assist server, work assist method, and work assist system | |
JP2022153103A (ja) | 作業現場の監視システム | |
JP2024004763A (ja) | ショベルの管理システム | |
JP2023006464A (ja) | 情報処理装置、情報処理装置の制御プログラム | |
CN113781663A (zh) | Pavp的处理方法、装置、电子设备与存储介质 | |
JP2023006459A (ja) | 情報処理装置、情報処理装置の制御プログラム | |
JP2023093109A (ja) | 建設機械、及び情報処理装置 | |
WO2024049813A1 (en) | Autonomous control of operations of powered earth-moving vehicles using data from on-vehicle perception systems | |
DE102021208677A1 (de) | Planiermaschinen mit verbesserter steuerung | |
CN116721394A (zh) | 单目三维目标检测方法、模型训练方法及对应装置 |