JP2024011049A - 作業機械の監視システム及び作業機械の監視方法 - Google Patents

作業機械の監視システム及び作業機械の監視方法 Download PDF

Info

Publication number
JP2024011049A
JP2024011049A JP2022112728A JP2022112728A JP2024011049A JP 2024011049 A JP2024011049 A JP 2024011049A JP 2022112728 A JP2022112728 A JP 2022112728A JP 2022112728 A JP2022112728 A JP 2022112728A JP 2024011049 A JP2024011049 A JP 2024011049A
Authority
JP
Japan
Prior art keywords
bucket
working machine
algorithm
imaging device
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022112728A
Other languages
English (en)
Inventor
雅明 今泉
Masaaki Imaizumi
友哉 村上
Tomoya Murakami
駿 川本
Shun Kawamoto
遼平 江本
Ryohei Emoto
昌司 園山
Shoji Sonoyama
翔大 平間
Shota Hirama
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2022112728A priority Critical patent/JP2024011049A/ja
Priority to PCT/JP2023/018531 priority patent/WO2024014115A1/ja
Publication of JP2024011049A publication Critical patent/JP2024011049A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Component Parts Of Construction Machinery (AREA)

Abstract

【課題】複数の対象を効率良く監視すること。【解決手段】作業機械の監視システムは、作業機械に搭載され対象を計測する計測装置の計測データを取得する計測データ取得部と、作業機械の状態を示す車体データを取得する車体データ取得部と、車体データに基づいて、作業機械の状態を判別する状態判別部と、状態判別部により判別された作業機械の状態に基づいて、計測データを処理する特定のアルゴリズムを選択するアルゴリズム選択部と、アルゴリズム選択部により選択された特定のアルゴリズムに基づいて計測データを処理して、対象を認識する処理部と、を備える。【選択図】図13

Description

本開示は、作業機械の監視システム及び作業機械の監視方法に関する。
作業機械に係る技術分野において、特許文献1に開示されているような作業車両が知られている。
特開2021-080790号公報
作業機械は、作業中において作業機械の状況及び作業環境を監視することにより、作業を円滑に実施できる可能性がある。一方、作業機械の状況及び作業環境の両方を常時監視すると、監視に要する負担が大きくなる。そのため、複数の対象を効率良く監視できる技術が要望される。
本開示は、複数の対象を効率良く監視することを目的とする。
本開示に従えば、作業機械に搭載され対象を計測する計測装置の計測データを取得する計測データ取得部と、作業機械の状態を示す車体データを取得する車体データ取得部と、車体データに基づいて、作業機械の状態を判別する状態判別部と、状態判別部により判別された作業機械の状態に基づいて、計測データを処理する特定のアルゴリズムを選択するアルゴリズム選択部と、アルゴリズム選択部により選択された特定のアルゴリズムに基づいて計測データを処理して、対象を認識する処理部と、を備える、作業機械の監視システムが提供される。
本開示によれば、複数の対象を効率良く監視することができる。
図1は、実施形態に係る作業機械を示す側面図である。 図2は、実施形態に係る作業機械を示す上面図である。 図3は、実施形態に係る作業機械を示す正面図である。 図4は、実施形態に係る運転台の運転室を示す図である。 図5は、実施形態に係る作業機械の一部を拡大した正面図である。 図6は、実施形態に係る作業機械の駆動システムを示す図である。 図7は、実施形態に係る作業機の動作を説明する図である。 図8は、実施形態に係る作業機械の動作を説明する図である。 図9は、実施形態に係る積込作業を実施する作業機械を示す側面図である。 図10は、実施形態に係る積込作業を実施する作業機械を示す上面図である。 図11は、実施形態に係る左側の第1撮像装置により撮像された画像データの一例を示す図である。 図12は、実施形態に係る左側の第2撮像装置により撮像された画像データの一例を示す図である。 図13は、実施形態に係る監視システムを示す機能ブロック図である。 図14は、実施形態に係る作業機の欠損判定方法を説明する図である。 図15は、実施形態に係る作業機の欠損判定方法を説明する図である。 図16は、実施形態に係る作業機の欠損判定方法を説明する図である。 図17は、実施形態に係る作業機の欠損判定方法を説明する図である。 図18は、実施形態に係る作業機の欠損判定方法を説明する図である。 図19は、実施形態に係る健全判定フレームの一例を示す図である。 図20は、実施形態に係る欠損判定フレームの一例を示す図である。 図21は、実施形態に係る表示装置に表示されるバケットツースを示すシンボルの一例を示す図である。 図22は、実施形態に係る欠損判定フレームと警告の形態との関係を示す図である。 図23は、実施形態に係る判定基準を説明する図である。 図24は、実施形態に係る警告基準を説明する図である。 図25は、実施形態に係る判定基準及び警告基準の設定画面の一例を示す図である。 図26は、実施形態に係る監視方法を示すフローチャートである。 図27は、実施形態に係る出力装置の一例を示す図である。 図28は、実施形態に係る出力装置の一例を示す図である。 図29は、実施形態に係るコンピュータシステムを示すブロック図である。 図30は、別の実施形態に係る作業機械の動作を説明する図である。 図31は、別の実施形態に係る監視システムを示す図である。
以下、本開示に係る実施形態について図面を参照しながら説明するが、本開示は実施形態に限定されない。以下で説明する実施形態の構成要素は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
[作業機械]
図1は、実施形態に係る作業機械1を示す側面図である。図2は、実施形態に係る作業機械1を示す上面図である。図3は、実施形態に係る作業機械1を示す正面図である。
作業機械1は、作業現場において作業する。実施形態において、作業機械1は、アーティキュレート作業機械の一種であるホイールローダである。作業機械1は、掘削対象を掘削する掘削作業、及び掘削作業により掘削した掘削物を積込対象に積み込む積込作業を実施する。
図1、図2、及び図3に示すように、作業機械1は、車体2と、運転台3と、走行装置4と、フロントフェンダ7と、支持部材8と、ハウジング9と、作業機10と、角度センサ90とを備える。
車体2は、前部車体2Fと、後部車体2Rとを含む。前部車体2Fと後部車体2Rとは、関節機構2Aを介して連結される。
運転台3は、車体2に支持される。運転台3に運転室が設けられる。運転室に運転席が設けられる。作業機械1は、運転台3に搭乗した運転者に操作される。
走行装置4は、車体2を支持して作業現場の地面200を走行する。走行装置4は、車輪5と、タイヤ6とを有する。タイヤ6は、車輪5に装着される。車輪5は、前部車体2Fに支持される前輪5Fと、後部車体2Rに支持される後輪5Rとを含む。タイヤ6は、前輪5Fに装着される前タイヤ6Fと、後輪5Rに装着される後タイヤ6Rとを含む。
前輪5F及び前タイヤ6Fは、回転軸FXを中心に回転可能である。後輪5R及び後タイヤ6Rは、回転軸RXを中心に回転可能である。
実施形態において、前輪5Fの回転軸FXに平行な方向を適宜、車幅方向、と称する。地面200に接触する前タイヤ6Fの接地面に直交する方向を適宜、上下方向、と称する。車幅方向及び上下方向の両方に直交する方向を適宜、前後方向、と称する。作業機械1の車体2が直進状態で走行するとき、回転軸FXと回転軸RXとは平行である。
また、実施形態において、作業機械1の車幅方向において作業機械1の中心CLに近い位置又は方向を適宜、車幅方向の内側、と称し、中心CLから遠い位置又は方向を適宜、車幅方向の外側、と称する。
車幅方向において作業機械1の中心CLよりも一方側は、左であり、左の逆側は、右である。前後方向において運転台3の運転席を基準として作業機10に近い位置又は方向は、前であり、前の逆側は、後である。上下方向において前タイヤ6Fの接地面に近い位置又は方向は、下であり、下の逆側は、上である。
後部車体2Rは、前部車体2Fよりも後側に配置される。前部車体2Fは、後部車体2Rに対して左側及び右側のそれぞれに屈曲する。後輪5Rは、前輪5Fよりも後側に配置される。後タイヤ6Rは、前タイヤ6Fよりも後側に配置される。前輪5F及び前タイヤ6Fは、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。後輪5R及び後タイヤ6Rは、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。
タイヤ6は、地面200に接触した状態で回転する回転部材である。タイヤ6の回転により、作業機械1が地面200を走行する。前タイヤ6Fは、地面200に接触した状態で回転する前側回転部材である。後タイヤ6Rは、前タイヤ6Fよりも後側に配置され、地面200に接触した状態で回転する後側回転部材である。
フロントフェンダ7は、作業機械1の走行において地面200から飛散した土砂が車体2及び運転台3に当たることを抑制する。フロントフェンダ7の一部は、前タイヤ6Fの上側に配置される。フロントフェンダ7の一部は、前タイヤ6Fの後側に配置される。フロントフェンダ7は、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。フロントフェンダ7は、中心CLよりも左側に配置されるフロントフェンダ7Lと、中心CLよりも右側に配置されるフロントフェンダ7Rとを含む。左側のフロントフェンダ7Lは、前部車体2Fの左部に取り付けられる。右側のフロントフェンダ7Rは、前部車体2Fの右部に取り付けられる。
支持部材8は、棒状の部材である。支持部材8の下端部は、前部車体2Fに固定される。支持部材8は、上方に向かって前側且つ車幅方向の外側に傾斜する。支持部材8は、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。支持部材8は、中心CLよりも左側に配置される支持部材8Lと、中心CLよりも右側に配置される支持部材8Rとを含む。左側の支持部材8Lの下端部は、前部車体2Fの左部に固定される。左側の支持部材8Lは、上方に向かって前側且つ左側に傾斜する。右側の支持部材8Rの下端部は、前部車体2Fの右部に固定される。右側の支持部材8Rは、上方に向かって前側且つ右側に傾斜する。
ハウジング9は、支持部材8の上端部に固定される。ハウジング9は、支持部材8を介して前部車体2Fに支持される。前後方向において、ハウジング9は、関節機構2Aと前部車体2Fの前端部との間に配置される。上下方向において、ハウジング9は、運転台3の上端部と前部車体2Fの上端部との間に配置される。ハウジング9は、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。ハウジング9は、中心CLよりも左側に配置されるハウジング9Lと、中心CLよりも右側に配置されるハウジング9Rとを含む。左側のハウジング9Lは、左側の支持部材8Lの上端部に固定される。右側のハウジング9Rは、右側の支持部材8Rの上端部に固定される。左側のハウジング9Lは、左側のフロントフェンダ7Lの上側に配置される。右側のハウジング9Rは、右側のフロントフェンダ7Rの上側に配置される。
作業機10は、掘削作業及び積込作業において動作する。作業機10は、前部車体2Fに連結される。作業機10の少なくとも一部は、前輪5Fよりも前側に配置される。作業機10は、ブーム11と、バケット12と、ベルクランク15と、バケットリンク16とを有する。
ブーム11は、前部車体2Fに回動可能に連結される。ブーム11は、前部車体2Fとバケット12とを連結する。ブーム11は、ブームシリンダ13が発生する駆動力により動作する。ブームシリンダ13は、油圧シリンダである。ブームシリンダ13の一端部は、前部車体2Fに連結される。ブームシリンダ13の他端部は、ブーム11に連結される。ブームシリンダ13は、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。
バケット12は、掘削対象を掘削する。バケット12は、ブーム11の先端部に回動可能に連結される。バケット12は、前輪5Fよりも前側に配置される。バケット12は、バケットシリンダ14が発生する駆動力により動作する。バケットシリンダ14は、油圧シリンダである。ベルクランク15の中央部がブーム11に回転可能に連結される。バケットシリンダ14の一端部は、前部車体2Fに連結される。バケットシリンダ14の他端部は、ベルクランク15の一端部に連結される。ベルクランク15の他端部は、バケットリンク16を介してバケット12に連結される。バケットシリンダ14は、車幅方向の中央部に1つ配置される。
バケット12は、バケット本体17と、バケットツース18と、ツース間プロテクタ19とを有する。
バケット本体17は、掘削物を保持する。バケット本体17は、底板部17Aと、上板部17Bと、左板部17Cと、右板部17Dとを含む。底板部17Aと上板部17Bと左板部17Cと右板部17Dとにより、掘削物が収容される保持空間が形成される。底板部17Aの先端部及び上板部17Bの先端部のそれぞれは、車幅方向に延伸する。左板部17Cの先端部及び右板部17Dの先端部のそれぞれは、上下方向又は前後方向に延伸する。底板部17Aの先端部と上板部17Bの先端部と左板部17Cの先端部と右板部17Dの先端部とにより、バケット12の開口部12Mが規定される。掘削物は、開口部12Mを介してバケット12の保持空間に入ることができる。
図2及び図3に示すように、バケット本体17の車幅方向の両側の端部12Eは、タイヤ6よりも車幅方向の外側に配置される。左側の端部12Eと右側の端部12Eとの車幅方向の距離は、左側のタイヤ6の左側面と右側のタイヤ6の右側面との車幅方向の距離よりも大きい。
バケットツース18は、バケット12の刃先を構成する。バケットツース18は、バケット本体17に取り付けられる。バケットツース18は、底板部17Aの先端部に取り付けられる。バケットツース18は、バケット本体17に複数取り付けられる。複数のバケットツース18は、車幅方向に間隔をあけて配置される。
バケットツース18は、バケット本体17に交換可能に取り付けられる交換部材である。バケットツース18は、例えばボルトによりバケット本体17に固定される。ボルトによる固定が解除されることにより、バケットツース18は、バケット本体17から離れることができる。
実施形態において、バケットツース18は、車幅方向に間隔をあけて8個配置される。バケットツース18は、最も左側に配置されるバケットツース181と、バケットツース181に次いで左側に配置されるバケットツース182と、バケットツース182に次いで左側に配置されるバケットツース183と、バケットツース183に次いで左側に配置されるバケットツース184と、バケットツース184に次いで左側に配置されるバケットツース185と、バケットツース185に次いで左側に配置されるバケットツース186と、バケットツース186に次いで左側に配置されるバケットツース187と、最も右側に配置されるバケットツース188と、を含む。
ツース間プロテクタ19は、底板部17Aの先端部を保護する。ツース間プロテクタ19は、バケット本体17に取り付けられる。ツース間プロテクタ19は、相互に隣り合う一対のバケットツース18の間に配置される。ツース間プロテクタ19は、底板部17Aの先端部に取り付けられる。ツース間プロテクタ19は、バケット本体17に複数取り付けられる。複数のツース間プロテクタ19は、車幅方向に間隔をあけて配置される。
ツース間プロテクタ19は、バケット本体17に交換可能に取り付けられる交換部材である。ツース間プロテクタ19は、例えばボルトによりバケット本体17に固定される。ボルトによる固定が解除されることにより、ツース間プロテクタ19は、バケット本体17から離れることができる。
実施形態において、ツース間プロテクタ19は、車幅方向に間隔をあけて7個配置される。ツース間プロテクタ19は、最も左側に配置されるツース間プロテクタ191と、ツース間プロテクタ191に次いで左側に配置されるツース間プロテクタ192と、ツース間プロテクタ192に次いで左側に配置されるツース間プロテクタ193と、ツース間プロテクタ193に次いで左側に配置されるツース間プロテクタ194と、ツース間プロテクタ194に次いで左側に配置されるツース間プロテクタ195と、ツース間プロテクタ195に次いで左側に配置されるツース間プロテクタ196と、最も右側に配置されるツース間プロテクタ197と、を含む。
角度センサ90は、作業機10の姿勢を検出する姿勢センサである。作業機10の姿勢は、作業機10の角度を含む。角度センサ90は、作業機10に設けられる。角度センサ90は、ブーム11の角度を検出するブーム角度センサ91と、バケット12の角度を検出するバケット角度センサ92とを含む。ブーム角度センサ91は、例えば前部車体2Fに規定された車体座標系の基準軸に対するブーム11の角度を検出する。バケット角度センサ92は、ブーム11に対するバケット12の角度を検出する。角度センサ90として、ポテンショメータが例示される。なお、作業機10の姿勢を検出する姿勢センサは、油圧シリンダ(ブームシリンダ13、バケットシリンダ14)のストロークを検出するストロークセンサでもよい。
[運転室]
図4は、実施形態に係る運転台3の運転室を示す図である。図4は、運転室の運転席に着座した運転者から見た景色を模式的に示す図である。
運転室には、運転操作装置20、操作パネル21、モニタ装置22、リアビューモニタ装置23、出力装置24、及び入力装置25が配置される。運転操作装置20は、運転者に操作される。運転操作装置20は、アクセルペダル20A及び一対のブレーキペダル20Bを含む。また、不図示であるが、運転操作装置20は、ステアリングレバー、シフトレバー、前後進切換レバー、及び作業レバーを含む。アクセルペダル20Aが操作されることにより、作業機械1の走行速度が上昇する。ブレーキペダル20Bが操作されることにより、作業機械1の走行速度が低下したり作業機械1の走行が停止したりする。ステアリングレバーが操作されることにより、作業機械1が旋回する。シフトレバーが操作されることにより、作業機械1の速度段が変更される。前後進切換レバーが操作されることにより、作業機械1の進行方向が前進方向と後進方向とに切り換えられる。作業レバーが操作されることにより、作業機10が動作する。
出力装置24は、運転者に出力データを提供する。出力データは、警告を含む。出力装置24は、表示装置24Aと、発音装置24Bとを含む。
表示装置24Aは、出力データとして運転者に表示データを提供する。表示装置24Aとして、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイが例示される。
発音装置24Bは、出力データとして運転者に音声データを提供する。発音装置24Bとして、ブザー又はスピーカが例示される。
入力装置25は、運転者に操作されることにより入力データを生成する。入力装置25として、ボタン又はキーボードが例示される。なお、入力装置25は、例えばタッチパネルを含んでもよい。
運転室の前部にフロントガラスが設けられる。フロントガラスは、運転室のピラー27に取り付けられる。実施形態において、出力装置24は、ピラー27に支持される。
[計測装置]
図5は、実施形態に係る作業機械1の一部を拡大した正面図である。図3及び図5に示すように、作業機械1は、前照灯28と、ウインカーランプ29と、第1計測装置31と、第2計測装置32とを有する。
前照灯28は、照明光を前方に射出して、前部車体2Fよりも前方の照明範囲を照明する。前照灯28は、ハウジング9に保持される。前照灯28は、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。前照灯28は、中心CLよりも左側に配置される前照灯28Lと、中心CLよりも右側に配置される前照灯28Rとを含む。左側の前照灯28Lは、左側のハウジング9Lに保持される。右側の前照灯28Rは、右側のハウジング9Rに保持される。
ウインカーランプ29は、点灯又は点滅することにより、作業機械1の旋回方向を表示する。ウインカーランプ29は、ハウジング9に保持される。ウインカーランプ29は、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。ウインカーランプ29は、中心CLよりも左側に配置されるウインカーランプ29Lと、中心CLよりも右側に配置されるウインカーランプ29Rとを含む。左側のウインカーランプ29Lは、左側のハウジング9Lに保持される。右側のウインカーランプ29Rは、右側のハウジング9Rに保持される。作業機械1の車幅方向において、ウインカーランプ29は、前照灯28よりも外側に配置される。
第1計測装置31は、所定の対象を計測する。第1計測装置31が計測する対象は、作業機10を含む。第1計測装置31は、作業機10を計測する。第1計測装置31は、作業機10の計測データを取得する。実施形態において、第1計測装置31は、作業機10を撮像する撮像装置である。作業機10の計測データは、作業機10の画像データを含む。以下の説明において、第1計測装置31を適宜、第1撮像装置31、と称する。
第2計測装置32は、所定の対象を計測する。第2計測装置32が計測する対象は、走行装置4が走行する地面200を含む。第2計測装置32は、作業機械1が走行する地面200を計測する。第2計測装置32は、地面200の計測データを取得する。実施形態において、第2計測装置32は、地面200を撮像する撮像装置である。地面200の計測データは、地面200の画像データを含む。以下の説明において、第2計測装置32を適宜、第2撮像装置32、と称する。
第1撮像装置31及び第2撮像装置32のそれぞれは、光学系と、光学系を通過した光が入射するイメージセンサとを有する。イメージセンサとして、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサが例示される。
第1撮像装置31及び第2撮像装置32のそれぞれは、ハウジング9に配置される。作業機械1の車幅方向において、第1撮像装置31及び第2撮像装置32のそれぞれは、前照灯28よりも外側に配置される。ハウジング9において、第2撮像装置32は、第1撮像装置31よりも上方に配置される。
第1撮像装置31は、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。第1撮像装置31は、左側のハウジング9及び右側のハウジング9のそれぞれに配置される。第1撮像装置31は、中心CLよりも左側に配置される第1撮像装置31Lと、中心CLよりも右側に配置される第1撮像装置31Rとを含む。
第2撮像装置32は、作業機械1の車幅方向において作業機械1の中心CLよりも左側及び右側のそれぞれに配置される。第2撮像装置32は、左側のハウジング9及び右側のハウジング9のそれぞれに配置される。第2撮像装置32は、中心CLよりも左側に配置される第2撮像装置32Lと、中心CLよりも右側に配置される第2撮像装置32Rとを含む。
[駆動システム]
図6は、実施形態に係る作業機械1の駆動システム40を示す図である。駆動システム40は、エンジン41と、燃料噴射装置42と、パワーテイクオフ43(PTO:Power Take Off)と、トランスミッション44と、フロントアクスル45Fと、リヤアクスル45Rと、油圧ポンプ46と、制御弁47と、駆動コントローラ48とを有する。
エンジン41は、例えばディーゼルエンジンである。燃料噴射装置42は、エンジン41のシリンダに燃料を噴射する。燃料噴射装置42からエンジン41に噴射される燃料量が調整されることにより、エンジン41の駆動力が調整される。
パワーテイクオフ43は、エンジン41の駆動力をトランスミッション44と油圧ポンプ46とに分配する。エンジン41の駆動力は、パワーテイクオフ43を介してトランスミッション44及び油圧ポンプ46のそれぞれに伝達される。
トランスミッション44は、エンジン41の駆動力が入力される入力軸と、入力軸に入力された駆動力を変速して出力する出力軸とを有する。トランスミッション44の入力軸は、パワーテイクオフ43に接続される。トランスミッション44の出力軸は、フロントアクスル45F及びリヤアクスル45Rのそれぞれに接続される。エンジン41の駆動力は、パワーテイクオフ43及びトランスミッション44を介してフロントアクスル45F及びリヤアクスル45Rのそれぞれに伝達される。
トランスミッション44は、作業機械1の進行方向を前進方向と後進方向とに切り換える。トランスミッション44は、前進ギヤ44Fと、後進ギヤ44Rとを有する。前進ギヤ44Fが入ることにより、作業機械1の進行方向が前進方向に決定される。後進ギヤ44Rが入ることにより、作業機械1の進行方向が後進方向に決定される。
フロントアクスル45Fは、トランスミッション44から伝達された駆動力を前輪5Fに伝達する。前輪5Fは、フロントアクスル45Fから伝達された駆動力に基づいて回転する。
リヤアクスル45Rは、トランスミッション44から伝達された駆動力を後輪5Rに伝達する。後輪5Rは、リヤアクスル45Rから伝達された駆動力に基づいて回転する。
前進ギヤ44Fが入ることにより、作業機械1は、前進可能な状態になる。前進ギヤ44Fが入った状態で、アクセルペダル20Aが操作され、エンジン41の駆動力がトランスミッション44を介してフロントアクスル45F及びリヤアクスル45Rのそれぞれに伝達されることにより、作業機械1が前進する。なお、前進ギヤ44Fが入った状態においても、例えばブレーキペダル20Bが操作されている状態においては、作業機械1は前進しない。
後進ギヤ44Rが入ることにより、作業機械1は、後進可能な状態になる。後進ギヤ44Rが入った状態で、アクセルペダル20Aが操作され、エンジン41の駆動力がトランスミッション44を介してフロントアクスル45F及びリヤアクスル45Rのそれぞれに伝達されることにより、作業機械1が後進する。なお、後進ギヤ44Rが入った状態においても、例えばブレーキペダル20Bが操作されている状態においては、作業機械1は後進しない。
油圧ポンプ46は、作動油を吐出する。油圧ポンプ46は、可変容量型油圧ポンプである。油圧ポンプ46は、エンジン41の駆動力に基づいて駆動する。油圧ポンプ46から吐出された作動油は、制御弁47を介してブームシリンダ13及びバケットシリンダ14の少なくとも一方に供給される。
制御弁47は、ブームシリンダ13及びバケットシリンダ14それぞれに供給される作動油の流量及び方向を制御する。作業機10は、制御弁47を介して油圧ポンプ46から供給される作動油により動作する。
駆動コントローラ48は、運転操作装置20から出力された操作信号に基づいて、作業機械1を制御する。駆動コントローラ48は、コンピュータシステムを含む。
[作業機の動作]
図7は、実施形態に係る作業機10の動作を説明する図である。実施形態において、作業機10は、掘削作業においてバケット12の開口部12Mが前方を向くフロントローディング方式の作業機である。
ブームシリンダ13が伸縮することにより、ブーム11が上げ動作又は下げ動作する。
ブーム11の上げ動作とは、ブーム11の先端部が地面200から離隔するようにブーム11が回動する動作をいう。ブームシリンダ13が伸びることにより、ブーム11が上げ動作する。
ブーム11の下げ動作とは、ブーム11の先端部が地面200に接近するようにブーム11が回動する動作をいう。ブームシリンダ13が縮むことにより、ブーム11が下げ動作する。
バケットシリンダ14が伸縮することにより、バケット12がチルト動作又はダンプ動作する。
バケット12のチルト動作とは、バケット12の開口部12Mが上方を向いた状態でバケット12の先端部が地面200から離隔するようにバケット12が回動する動作をいう。バケットシリンダ14が伸びることにより、ベルクランク15の上端部が前方に移動し、ベルクランク15の下端部が後方に移動するように、ベルクランク15が回動する。ベルクランク15の下端部が後方に移動すると、バケット12は、バケットリンク16により後方に引かれ、チルト動作する。バケット12がチルト動作することにより、掘削対象がバケット12によって掬い取られ、掘削物がバケット12に保持される。
バケット12のダンプ動作とは、バケット12の開口部12Mが下方を向いた状態でバケット12の先端部が地面200に接近するようにバケット12が回動する動作をいう。バケットシリンダ14が縮むことにより、ベルクランク15の上端部が後方に移動し、ベルクランク15の下端部が前方に移動するように、ベルクランク15が回動する。ベルクランク15の下端部が前方に移動すると、バケット12は、バケットリンク16により前方に押され、ダンプ動作する。バケット12がダンプ動作することにより、バケット12に保持されている掘削物がバケット12から排出される。
[作業機械の動作]
図8は、実施形態に係る作業機械1の動作を説明する図である。作業機械1は、作業現場において掘削作業及び積込作業を実施する。
掘削作業は、掘削対象を掘削する作業である。掘削対象として、地山又は岩山が例示される。地山は、地面200に置かれた土砂により構成される山である。岩山は、地面200に置かれた岩又は石により構成される山である。実施形態において、掘削対象は、地山210である。掘削物は、バケット12に掘削され保持された地山210の一部である。
積込作業は、掘削作業により掘削した掘削物を積込対象に積み込む作業である。積込対象として、運搬車両、ホッパ、又はベルトコンベヤが例示される。実施形態において、積込対象は、運搬車両の一種であるダンプトラック220のダンプボディ230である。
作業機械1は、一連の作業モードを繰り返すサイクル作業を実施するように運転者に操作される。サイクル作業は、相互に関連する複数の作業モードにより構成される。サイクル作業は、走行装置4の走行及び作業機10の動作を含む。
実施形態において、サイクル作業は、6つの作業モードにより構成される。実施形態において、作業機械1の一連の作業モードは、空荷前進モードと、掘削モードと、積荷後進モードと、積荷前進モードと、積込モードと、空荷後進モードとを含む。
一連の作業モードの順序は、決められている。空荷前進モードが実施された後に、掘削モードが実施される。掘削モードが実施された後に、積荷後進モードが実施される。積荷後進モードが実施された後に、積荷前進モードが実施される。積荷前進モードが実施された後に、積込モードが実施される。積込モードが実施された後に、空荷後進モードが実施される。
空荷前進モードは、バケット12に掘削物が保持されていない状態で作業機械1が掘削対象に接近するように前進する作業モードである。空荷前進モードにおいて、作業機械1は、バケット12に掘削物が保持されていない状態で、図8の矢印M1で示すように、地山210に接近するように前進する。
掘削モードは、作業機10のバケット12で掘削対象を掘削する作業モードである。掘削モードにおいて、掘削作業が実施される。バケット12の少なくとも一部が地山210に挿入された状態で、バケット12がチルト動作することにより、地山210がバケット12により掘削され、バケット12に掘削物が保持される。
積荷後進モードは、バケット12に掘削物が保持されている状態で作業機械1が掘削対象から離隔するように後進する作業モードである。積荷後進モードにおいて、作業機械1は、バケット12に掘削物が保持されている状態で、図8の矢印M2で示すように、地山210から離隔するように後進する。
積荷前進モードは、バケット12に掘削物が保持されている状態で作業機械1が積込対象に接近するように前進する作業モードである。積荷前進モードにおいて、作業機械1は、バケット12に掘削物が保持されている状態で、図8の矢印M3で示すように、ダンプトラック220に向かって旋回しながら前進する。作業機械1がダンプトラック220に向かって前進している状態において、バケット12がダンプボディ230の上方に配置されるようにブーム11が上げ動作する。
積込モードは、作業機10のバケット12に保持されている掘削物を積込対象に積み込む作業モードである。積込モードにおいて、積込作業が実施される。バケット12がダンプボディ230の上方に配置された後、バケット12がダンプ動作することにより、バケット12に保持されている掘削物がバケット12から排出され、ダンプボディ230に積み込まれる。
空荷後進モードは、バケット12に掘削物が保持されていない状態で作業機械1が積込対象から離隔するように後進する作業モードである。作業機械1は、バケット12に掘削物が保持されていない状態で、図8の矢印M4で示すように、ダンプトラック220から離隔するように旋回しながら後進する。
作業機械1は、掘削物がダンプボディ230に目標積載量で積み込まれるまで、空荷前進モード、掘削モード、積荷後進モード、積荷前進モード、積込モード、及び空荷後進モードを含むサイクル作業を繰り返す。
[計測範囲]
図9は、実施形態に係る積込作業を実施する作業機械1を示す側面図である。図10は、実施形態に係る積込作業を実施する作業機械1を示す上面図である。
図9及び図10に示すように、ダンプトラック220のダンプボディ230に掘削物を積み込む場合、作業機械1は、バケット12がダンプボディ230の上方に配置されるようにブーム11の上げ動作を実施する。ブーム11が上げ動作し、バケット12がダンプボディ230の上方に配置された後、作業機械1は、バケット12をダンプ動作させる。バケット12は、ブーム11が上げ動作した状態で、バケット12に保持された掘削物がダンプトラック220のダンプボディ230に排出されるようにダンプ動作する。第1撮像装置31は、少なくとも掘削物をダンプボディ230に排出するためにダンプ動作するバケット12を撮像する。バケット12のダンプ動作により、バケット12に保持されている掘削物がバケット12から排出され、ダンプボディ230に積み込まれる。
第1撮像装置31の計測範囲Raは、第1撮像装置31の撮像範囲を含む。計測範囲Raは、第1撮像装置31の光学系の画角を示す第1画角αに基づいて定められる。第1撮像装置31は、掘削物をダンプボディ230に排出するためにダンプ動作するバケット12を撮像する。第1撮像装置31は、ブーム11が上げ動作し、且つ、バケット12がダンプ動作したときに、バケットツース18を含むバケット12が計測範囲Raに配置されるように、ハウジング9に固定される。
第2撮像装置32の計測範囲Rbは、第2撮像装置32の撮像範囲を含む。計測範囲Rbは、第2撮像装置32の光学系の画角を示す第2画角βに基づいて定められる。第2撮像装置32は、少なくともタイヤ6の進行方向の地面200を撮像する。実施形態において、第2撮像装置32は、作業機械1が前進するとき、前タイヤ6Fの前方の地面200を撮像する。第2撮像装置32は、作業機械1が前進するとき、少なくとも前タイヤ6Fの前方の地面200が計測範囲Rbに配置されるように、ハウジング9に固定される。実施形態において、第2撮像装置32は、前タイヤ6Fの前端部、前タイヤ6Fの前方の地面200、及び前タイヤ6Fよりも車幅方向の外側の地面200のそれぞれが計測範囲Rbに配置されるように、ハウジング9に固定される。前タイヤ6Fの前方の地面200は、前後方向において、前タイヤ6Fの前端部とバケット12の後端部との間の地面200を含む。
実施形態において、第2撮像装置32の第2画角βは、第1撮像装置31の第1画角αよりも広い。
図10に示すように、中心CLよりも左側の第1撮像装置31Lは、作業機10のバケット12の少なくとも左部分を撮像する。中心CLよりも右側の第1撮像装置31Rは、作業機10のバケット12の少なくとも右部分を撮像する。バケット12の左部分は、バケット12の左側の端部12Eと中心CLとの間のバケット12の一部分である。バケット12の右部分は、バケット12の右側の端部12Eと中心CLとの間のバケット12の一部分である。
図10に示す例において、中心CLよりも左側の第1撮像装置31Lは、ブーム11が上げ動作し、且つ、バケット12がダンプ動作したときに、バケットツース181,182,183,184,185が計測範囲Raに配置されるように、左側のハウジング9に固定される。中心CLよりも右側の第1撮像装置31Rは、ブーム11が上げ動作し、且つ、バケット12がダンプ動作したときに、バケットツース184,185,186,187,188が計測範囲Raに配置されるように、右側のハウジング9に固定される。
図10に示すように、中心CLよりも左側の第2撮像装置32Lは、中心CLよりも左側の前タイヤ6Fの前方の地面200を撮像する。中心CLよりも右側の第2撮像装置32Rは、中心CLよりも右側の前タイヤ6Fの前方の地面200を撮像する。
図10に示す例において、中心CLよりも左側の第2撮像装置32Lは、左側の前タイヤ6Fの前端部と、左側の前タイヤ6Fの前方の地面200と、左側の前タイヤ6Fの左方の地面200とが計測範囲Rbに配置されるように、左側のハウジング9に固定される。中心CLよりも右側の第2撮像装置32Rは、右側の前タイヤ6Fの前端部と、右側の前タイヤ6Fの前方の地面200と、右側の前タイヤ6Fの右方の地面200とが計測範囲Rbに配置されるように、右側のハウジング9に固定される。
図11は、実施形態に係る左側の第1撮像装置31Lにより撮像された画像データの一例を示す図である。図12は、実施形態に係る左側の第2撮像装置32Rにより撮像された画像データの一例を示す図である。
図11に示すように、第1撮像装置31Lは、掘削物がダンプボディ230に排出されるようにダンプ動作するバケット12を下から見上げるように撮像する。これにより、図11に示すように、第1撮像装置31Lは、複数のバケットツース18を同時に撮像することができる。図11に示す例においては、第1撮像装置31の計測範囲Raに、バケットツース181,182,183,184,185,186が配置される。
図12に示すように、第2撮像装置32Lは、前タイヤ6Fの前方の地面200及び左方の地面200を上から見下ろすように撮像する。これにより、第2撮像装置32Lは、前タイヤ6Fの周囲の地面200を撮像することができる。例えば、前タイヤ6Fの周囲の地面200に転石240が存在する場合、第2撮像装置32Lは、地面200の転石240を撮像することができる。
[監視システム]
図13は、実施形態に係る監視システム30を示す機能ブロック図である。作業機械1は、監視システム30を有する。監視システム30は、作業機10及び作業機械1が走行する地面200を監視する。
監視システム30は、第1撮像装置31と、第2撮像装置32と、運転操作装置20と、角度センサ90と、出力装置24と、入力装置25と、監視コントローラ33とを有する。第1撮像装置31は、中心CLよりも左側に配置される第1撮像装置31Lと、中心CLよりも右側に配置される第1撮像装置31Rとを含む。第2撮像装置32は、中心CLよりも左側に配置される第2撮像装置32Lと、中心CLよりも右側に配置される第2撮像装置32Rとを含む。
第1撮像装置31、第2撮像装置32、運転操作装置20、角度センサ90、出力装置24、及び入力装置25のそれぞれは、監視コントローラ33に接続される。第1撮像装置31により撮像された画像データは、監視コントローラ33に入力される。第2撮像装置32により撮像された画像データは、監視コントローラ33に入力される。運転操作装置20の操作データは、監視コントローラ33に入力される。角度センサ90の検出データは、監視コントローラ33に入力される。入力装置25により生成された入力データは、監視コントローラ33に入力される。
実施形態において、第1撮像装置31及び第2撮像装置32のそれぞれは、所定のサンプリングレート(SPS:samples per second)で計測データを取得する。計測データは、画像データを含む。サンプリングレートは、フレームレート(FPS:frames per second)を含む。第1撮像装置31及び第2撮像装置32のそれぞれは、所定のフレームレートで画像データを撮像する。第1撮像装置31が所定のフレームレートで画像データを撮像することにより、動画が撮影される。第2撮像装置32が所定のフレームレートで画像データを撮像することにより、動画が撮影される。
監視コントローラ33は、第1撮像装置31により撮像された画像データに基づいて、作業機10の欠損の有無を認識する。作業機10の欠損を認識した場合、監視コントローラ33は、作業機10に欠損が有ることを示す警告を出力装置24から出力させる。作業機10の欠損は、バケット12の欠損を含む。バケット12の欠損は、交換部材であるバケットツース18の欠損を含む。バケットツース18の欠損は、バケット本体17からのバケットツース18の脱落を含む。
監視コントローラ33は、第2撮像装置32により撮像された画像データに基づいて、作業機械1が走行する地面200の転石240の有無を認識する。地面200の転石240を認識した場合、監視コントローラ33は、地面200に転石240が有ることを示す警告を出力装置24から出力させる。地面200の転石240は、前タイヤ6Fの進行方向の地面200の転石240を含む。前タイヤ6Fの進行方向の地面200の転石240は、作業機械1が前進するときの前タイヤ6Fの前方の地面200の転石240を含む。
監視コントローラ33は、図8を参照して説明したサイクル作業において、作業機10の欠損の有無を認識したり、転石240の有無を認識したりする。なお、監視コントローラ33は、サイクル作業とは別の作業において、作業機10の欠損の有無を認識したり、転石240の有無を認識したりしてもよい。また、監視コントローラ33は、作業機械1が作業を開始する前の始業点検において、作業機10の欠損の有無を認識してもよい。
また、監視コントローラ33は、第1撮像装置31により撮像された画像データに基づいて、第1撮像装置31の受信面の汚染の有無を判定する。第1撮像装置31の汚染が有ると判定した場合、監視コントローラ33は、第1撮像装置31の受信面に汚染が有ることを示す警告を出力装置24から出力させる。監視コントローラ33は、第1撮像装置31の受信面に汚染が有ると判定した場合、表示装置24Aに警告を示す表示データを表示させたり、発音装置24Bから警告音を出力させたりすることができる。第1撮像装置31の受信面は、第1撮像装置31の光学系の入射面を含む。
監視コントローラ33は、図8を参照して説明したサイクル作業において、第1撮像装置31の汚染の有無を判定する。なお、監視コントローラ33は、サイクル作業とは別の作業において、第1撮像装置31の光学系の入射面の汚染の有無を判定してもよい。また、監視コントローラ33は、作業機械1が作業を開始する前の始業点検において、第1撮像装置31の光学系の入射面の汚染の有無を判定してもよい。
監視コントローラ33は、計測データ取得部331と、車体データ取得部332と、状態判別部333と、アルゴリズム選択部334と、処理部335と、汚染判定部336と、出力部337と、アルゴリズム記憶部338とを有する。
計測データ取得部331は、第1撮像装置31の計測データ及び第2撮像装置32の計測データを取得する。計測データ取得部331は、第1撮像装置31により計測された作業機10の計測データを所定のサンプリングレートで第1撮像装置31から取得する。作業機10の計測データは、第1撮像装置31により撮像された作業機10の画像データを含む。サンプリングレートは、フレームレートを含む。計測データ取得部331は、作業機10の画像データを所定のフレームレートで第1撮像装置31から取得する。また、計測データ取得部331は、第2撮像装置32により計測された地面200の計測データを所定のサンプリングレートで第2撮像装置32から取得する。地面200の計測データは、第2撮像装置32により撮像された地面200の画像データを含む。サンプリングレートは、フレームレートを含む。計測データ取得部331は、地面200の画像データを所定のフレームレートで第2撮像装置32から取得する。計測データ取得部331は、前タイヤ6Fの前方の地面200の画像データを取得する。
車体データ取得部332は、作業機械1の状態を示す車体データを取得する。作業機械1の状態は、作業機械1の作業状態を含む。作業機械1の状態は、作業機10の状態及び走行装置4の状態を含む。作業機10の状態は、作業機10の姿勢を含む。走行装置4の状態は、走行装置4の前進及び後進を含む。車体データは、作業機10の姿勢を示す姿勢データと、走行装置4の前進又は後進を示す前後進データとを含む。
作業機10の姿勢データは、作業機10の角度を含む。作業機10の角度は、角度センサ90により検出される。作業機10の姿勢データは、角度センサ90の検出データを含む。車体データ取得部332は、作業機10の姿勢データとして、角度センサ90の検出データを取得する。
走行装置4の前進と後進とは、運転操作装置20の前後進レバー20Cにより切り換えられる。走行装置4の前後進データは、前後進レバー20Cの操作データを含む。車体データ取得部332は、走行装置4の前後進データとして、前後進レバー20Cの操作データを取得する。
なお、例えば車輪5の回転を検出する回転センサが設けられている場合、回転センサは、車輪5の回転方向を検出することにより、走行装置4の前進又は後進を検出することができる。車体データ取得部332は、走行装置4の前後進データとして、回転センサの検出データを取得してもよい。
なお、車体データ取得部332は、走行装置4の前後進データとして、駆動システム40の状態を示す状態データを取得してもよい。駆動コントローラ48は、駆動システム40の状態を示す状態データを監視コントローラ33に入力する。車体データ取得部332は、駆動コントローラ48からの状態データに基づいて、駆動システム40の状態を判定する。駆動システム40の状態は、トランスミッション44の作動状態を含む。トランスミッション44は、作業機械1の進行方向を前進方向と後進方向とに切り換える。トランスミッション44は、作業機械1を前進させるために作動する前進ギヤ44Fと、作業機械1を後進させるために作動する後進ギヤ44Rとを含む。車体データ取得部332は、走行装置4の前後進データとして、トランスミッション44の状態を示す状態データを取得してもよい。
状態判別部333は、車体データ取得部332により取得された車体データに基づいて、作業機械1の状態を判別する。状態判別部333は、車体データ取得部332により取得された作業機10の姿勢データに基づいて、ブーム11が上げ動作又は下げ動作しているか否かを判別することができる。状態判別部333は、車体データ取得部332により取得された作業機10の姿勢データに基づいて、バケット12がチルト動作又はダンプ動作しているか否かを判別することができる。状態判別部333は、車体データ取得部332により取得された走行装置4の前後進データに基づいて、作業機械1が前進又は後進しているか否かを判別することができる。
状態判別部333は、作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raに作業機10のバケット12が配置されたか否かを判定することができる。上述のように、第1撮像装置31は、ブーム11が上げ動作し、且つ、バケット12がダンプ動作したときに、バケット12が計測範囲Raに配置されるように、ハウジング9に固定される。状態判別部333は、作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raにバケットツース18が配置されたか否かを判定することができる。状態判別部333は、作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raにツース間プロテクタ19が配置されたか否かを判定することができる。
作業機械1の状態は、作業機械1の作業モードを含んでもよい。バケット12に掘削物が保持されているか否かを検出する重量センサが設けられている場合、状態判別部333は、作業機10の姿勢データと、走行装置4の前後進データと、重量センサの検出データとに基づいて、作業機械1の作業モードが、空荷前進モード、掘削モード、積荷後進モード、積荷前進モード、積込モード、及び空荷後進モードのいずれであるかを判別することができる。バケット12に掘削物が保持されているか否かを検出する重量センサとして、ブームシリンダ13のボトム室の圧力を検出する圧力センサが例示される。
アルゴリズム選択部334は、状態判別部333により判別された作業機械1の状態に基づいて、計測データ取得部331により取得された計測データを処理する特定のアルゴリズムを選択する。アルゴリズム記憶部338は、相互に異なる複数のアルゴリズムを予め記憶する。アルゴリズム選択部334は、状態判別部333により判別された作業機械1の状態に基づいて、アルゴリズム記憶部338に記憶されている複数のアルゴリズムから特定のアルゴリズムを選択する。
アルゴリズム記憶部338に記憶されているアルゴリズムは、第1撮像装置31により撮像された画像データを処理する第1アルゴリズムと、第2撮像装置32により撮像された画像データを処理する第2アルゴリズムとを含む。第1アルゴリズムは、第1撮像装置31により撮像された画像データから作業機10を識別するアルゴリズムを含む。実施形態において、第1アルゴリズムは、第1撮像装置31により撮像された画像データからバケットツース18を識別するアルゴリズムを含む。第2アルゴリズムは、第2撮像装置32により撮像された画像データから地面200の転石240を識別するアルゴリズムを含む。
アルゴリズムは、人工知能(AI:Artificial Intelligence)アルゴリズムを含む。第1アルゴリズムと第2アルゴリズムとは、異なる。第1アルゴリズムは、第1のAIアルゴリズムを含む。第2アルゴリズムは、第2のAIアルゴリズムを含む。第1のAIアルゴリズムは、バケットツース18の特徴量を学習することにより生成された第1の学習モデルに基づいて、第1撮像装置31により撮像された画像データからバケットツース18を認識する。第1の学習モデルは、物体の特徴量を入力とし、バケットツース18を出力とする学習モデルである。第2のAIアルゴリズムは、転石240の特徴量を学習することにより生成された第2の学習モデルに基づいて、第2撮像装置32により撮像された画像データから転石240を特定する学習モデルである。第2の学習モデルは、物体の特徴量を入力とし、転石240を出力とする学習モデルである。
作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raに作業機10のバケット12が配置されたと状態判別部333が判定した場合、アルゴリズム選択部334は、アルゴリズム記憶部338に記憶されている第1アルゴリズム及び第2アルゴリズムから、特定のアルゴリズムとして第1アルゴリズムを選択する。作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raに作業機10のバケット12が配置されていないと状態判別部333が判定した場合、アルゴリズム選択部334は、第1アルゴリズムを選択しない。
走行装置4の前後進データに基づいて、走行装置4が前進していると状態判別部333が判定した場合、アルゴリズム選択部334は、アルゴリズム記憶部338に記憶されている第1アルゴリズム及び第2アルゴリズムから、特定のアルゴリズムとして第2アルゴリズムを選択する。走行装置4の前後進データに基づいて、走行装置4が前進していないと状態判別部333が判定した場合、アルゴリズム選択部334は、第2アルゴリズムを選択しない。
処理部335は、計測データ取得部331により取得された画像データを処理して、対象を認識する。処理部335は、アルゴリズム選択部334により選択された特定のアルゴリズムに基づいて画像データを処理して、対象を認識する。
アルゴリズム選択部334により第1アルゴリズムが選択された場合、処理部335は、第1アルゴリズムに基づいて第1撮像装置31の画像データを処理して、作業機10を認識する。実施形態において、処理部335は、第1アルゴリズムに基づいて第1撮像装置31の画像データを処理して、作業機10の欠損の有無を判定する。実施形態において、処理部335は、第1撮像装置31の画像データにおいてバケット本体17からのバケットツース18の脱落の有無を判定する。
アルゴリズム選択部334により第2アルゴリズムが選択された場合、処理部335は、第2アルゴリズムに基づいて第2計測装置32の画像データを処理して、地面200を認識する。実施形態において、処理部335は、第2アルゴリズムに基づいて第2撮像装置32の画像データを処理して、地面200の転石240の有無を判定する。実施形態において、処理部335は、第2撮像装置32の画像データにおいて前タイヤ6Fの前方の地面200の転石240の有無を判定する。
作業機械1の状態に基づいて、画像データを処理する特定のアルゴリズムが選択されるので、処理部335は、複数の対象を効率良く認識することができる。第1撮像装置31の計測範囲Raにバケット12が配置されている状況においては、処理部335は、バケットツース18を認識するために第1撮像装置31により撮像された画像データを第1アルゴリズムに基づいて処理する。第1撮像装置31の計測範囲Raにバケット12が配置されていない状況においては、処理部335は、バケットツース18を認識するための処理を実施しない。作業機械1が前進して前タイヤ6Fの前方の地面200の転石240を前タイヤ6Fが踏む可能性が高い状況においては、処理部335は、前タイヤ6Fの前方の地面200の転石240を認識するために第2撮像装置32により撮像された画像データを第2アルゴリズムに基づいて処理する。作業機械1が後進又は停止して前タイヤ6Fの前方の地面200の転石240を前タイヤ6Fが踏む可能性が低い状況においては、処理部335は、転石240を認識するための処理を実施しない。このように、監視コントローラ33は、バケットツース18及び転石240の両方を認識するための処理を常時実施しなくても済む。そのため、バケットツース18及び転石240の監視に要する監視コントローラ33の負担が軽減される。したがって、監視コントローラ33は、バケットツース18及び転石240のそれぞれを効率良く監視することができる。
汚染判定部336は、状態判別部333により判別された作業機械1の状態と、処理部335による作業機10の認識結果とに基づいて、第1撮像装置31の光学系の入射面の汚染の有無を判定する。作業機械1の作業現場においては土砂又は粉塵が飛散する可能性が高く、その結果、第1撮像装置31の光学系の入射面に異物が付着する可能性がある。異物の付着により第1撮像装置31の光学系の入射面が汚染される可能性がある。
作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raに作業機10のバケット12が配置されたと状態判別部333が判定し、且つ、処理部335が作業機10のバケット12を認識した場合、汚染判定部336は、第1撮像装置31の光学系の入射面が汚染されていないと判定する。実施形態において、作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raにバケットツース18が配置されたと状態判別部333が判定し、且つ、処理部335がバケットツース18を認識した場合、汚染判定部336は、第1撮像装置31の光学系の入射面が汚染されていないと判定する。
作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raに作業機10のバケット12が配置されたと状態判別部333が判定し、且つ、処理部335が作業機10のバケット12を認識しない場合、汚染判定部336は、第1撮像装置31の光学系の入射面が汚染されていると判定する。実施形態において、作業機10の姿勢データに基づいて、第1撮像装置31の計測範囲Raにバケットツース18が配置されたと状態判別部333が判定し、且つ、処理部335がバケットツース18を認識しない場合、汚染判定部336は、第1撮像装置31の光学系の入射面が汚染されていると判定する。
第1撮像装置31の光学系の入射面が汚染されていない場合、第1撮像装置31の計測範囲Raにバケットツース18が配置されることにより、第1撮像装置31は、バケットツース18を正しく撮像することができる。そのため、処理部335は、バケットツース18を正しく識別することができる。一方、第1撮像装置31の光学系の入射面が汚染されている場合、第1撮像装置31の計測範囲Raにバケットツース18が配置されても、第1撮像装置31は、バケットツース18を正しく撮像することができない可能性が高い。そのため、処理部335は、バケットツース18を識別することができない可能性が高い。このように、実施形態において、汚染判定部336は、識別できるはずのバケットツース18が識別できれば、第1撮像装置31の光学系の入射面が汚染されていないと判定する。汚染判定部336は、識別できるはずのバケットツース18が識別できなければ、第1撮像装置31の光学系の入射面が汚染されていると判定する。
なお、処理部335が第2撮像装置32により撮像された画像データを処理して転石240を認識した場合、汚染判定部336は、処理部335による転石240の認識結果に基づいて、第2撮像装置32の光学系の入射面の汚染の有無を判定してもよい。第2撮像装置32の光学系の入射面が汚染されていない場合、第2撮像装置32の計測範囲Rbに転石240が配置されることにより、第2撮像装置32は、転石240を正しく撮像することができる。そのため、処理部335は、転石240を正しく識別することができる。一方、第2撮像装置32の光学系の入射面が汚染されている場合、第2撮像装置32の計測範囲Rbに転石240が配置されても、第2撮像装置32は、転石240を正しく撮像することができない可能性が高い。そのため、処理部335は、転石240を識別することができない可能性が高い。このように、実施形態において、汚染判定部336は、識別できるはずの転石240が識別できれば、第2撮像装置32の光学系の入射面が汚染されていないと判定する。汚染判定部336は、識別できるはずの転石240が識別できなければ、第2撮像装置32の光学系の入射面が汚染されていると判定する。
出力部337は、処理部335により認識された対象の認識結果を出力装置24に出力させる。出力部337は、汚染判定部336により判定された汚染の有無の判定結果を出力装置24に出力させる。
[作業機の欠損の判定]
図14、図15、図16、図17、及び図18のそれぞれは、実施形態に係る作業機10の欠損判定方法を説明する図である。以下、一例として、中心CLよりも左側の第1撮像装置31Lにより撮像された画像データに基づいて、バケットツース18の欠損の有無を判定する方法について説明する。
図14に示すように、第1撮像装置31Lの計測範囲Raにバケットツース18が配置されるようにブーム11が上げ動作し且つバケット12がダンプ動作した場合、アルゴリズム選択部334は、車体データ取得部332により取得された角度センサ90の検出データに基づいて、第1アルゴリズムを選択する。
第1撮像装置31Lは、掘削物をダンプボディ230に排出するためにダンプ動作するバケット12を撮像する。計測データ取得部331は、第1撮像装置31Lからバケット12の画像データを取得する。画像データの認識範囲50に、複数のバケットツース18(181,182,183,184,185)が配置される。複数のバケットツース18のそれぞれは、バケット本体17から突出するようにバケット本体17に取り付けられる。
処理部335は、第1アルゴリズムに基づいて計測データ取得部331により取得された画像データを処理して、画像データの認識範囲50において複数のバケットツース18のそれぞれを認識する。
複数のバケットツース18を認識した後、図15に示すように、処理部335は、複数のバケットツース18のそれぞれの根本51の位置及び刃先52の位置を推定する。根本51は、バケットツース18の基端部である。根本51は、バケットツース18とバケット本体17との境界を含む。刃先52は、バケットツース18の先端部である。処理部335は、入力データを解析して出力データを出力する第1のAIアルゴリズムを利用して、根本51及び刃先52を推定する。処理部335は、入力データに基づいて根本51及び刃先52の確からしさの確率を出力する第1のAIアルゴリズムを利用し、確率が所定の閾値以上の中心を根本51の位置及び刃先52の位置と推定してもよい。また、処理部335は、入力データに基づいて根本51の位置及び刃先52の位置を直接推定する第1のAIアルゴリズムを利用してもよい。
少なくとも4個のバケットツース181,182,183,184のそれぞれの根本51の位置及び刃先52の位置を推定した後、図16に示すように、処理部335は、バケットツース181の根本51とバケットツース182の根本51との距離G1、バケットツース182の根本51とバケットツース183の根本51との距離G2、及びバケットツース183の根本51とバケットツース184の根本51との距離G3を算出する。距離G1,G2,G3を算出した後、処理部335は、距離G1,G2,G3に基づいて、基準ツース間距離Gを算出する。実施形態において、基準ツース間距離Gは、距離G1,G2,G3の中央値である。
基準ツース間距離Gを算出した後、図17に示すように、処理部335は、根本51に対応する刃先52を探索する。根本51と根本51に対応する刃先52とは、1個のバケットツース18の基端部と先端部とを構成する。実施形態において、処理部335は、根本51を基準として探索範囲53を設定し、探索範囲53において刃先52を探索する。探索範囲53は、画像データにおいて四角形状に設定される。図17に示すように、画像データにおける縦方向の探索範囲53の寸法が[γ×G]に定められ、画像データにおける横方向の探索範囲53の寸法が[δ×G]に定められる。γ及びδは、予め定められた固定値である。
なお、第1撮像装置31Lとバケット12との距離が短いときに第1撮像装置31Lにより撮像された画像データにおいて、バケット12は、大きく映る。第1撮像装置31Lとバケット12との距離が長いときに第1撮像装置31Lにより撮像された画像データにおいて、バケット12は、小さく映る。画像データにおいてバケット12の大きさが異なると、処理部335は、根本51に対応する刃先52を探索できない可能性がある。実施形態においては、基準ツース間距離Gに基づいて探索範囲53が設定される。これにより、処理部335は、第1撮像装置31Lとバケット12との距離によらず、根本51に対応する刃先52を探索することができる。
複数の根本51のそれぞれに対応する刃先52を探索した後、図18に示すように、処理部335は、バケットツース181の根本51と刃先52との距離L1、バケットツース182の根本51と刃先52との距離L2、バケットツース183の根本51と刃先52との距離L3、及びバケットツース184の根本51と刃先52との距離L4を算出する。距離L1は、バケット本体17からのバケットツース181の突出量に相当する。距離L2は、バケット本体17からのバケットツース182の突出量に相当する。距離L3は、バケット本体17からのバケットツース183の突出量に相当する。距離L4は、バケット本体17からのバケットツース184の突出量に相当する。距離L1,L2,L3,L4を算出した後、処理部335は、距離L1,L2,L3,L4に基づいて、基準ツース長Lを算出する。実施形態において、基準ツース長Lは、距離L1,L2,L3,L4の中央値である。なお、処理部335は、中心CLよりも右側の第1撮像装置31Rにより撮像された画像データに基づいて、4本のバケットツース185,186,187,188のそれぞれに対応する距離L5,L6,L7,L8を同様の方法により算出し、距離L1,L2,L3,L4,L5,L6,L7,L8に基づいて、基準ツース長Lを算出してもよい。
基準ツース長Lを算出した後、処理部335は、基準ツース長Lに基づいて、バケット本体17からのバケットツース18の突出量に係る寸法閾値を定める。実施形態において、寸法閾値は、[ε×L]に定められる。εは、予め定められた固定値である。このように、実施形態において、処理部335は、バケット本体17からの複数のバケットツース18(181,182,183,184)の突出量(L1,L2,L3,L4)に基づいて、寸法閾値を定める。
処理部335は、寸法閾値に基づいて、バケットツース18(181,182,183,184)に欠損が有るか否かを判定する。処理部335は、バケット本体17からのバケットツース18の突出量が寸法閾値未満である場合、バケットツース18に欠損が有ると判定する。処理部335は、バケット本体17からのバケットツース18の突出量が寸法閾値以上である場合、バケットツース18に欠損が無いと判定する。実施形態において、処理部335は、バケットツース18の突出量が寸法閾値未満である場合、バケット本体17からバケットツース18が脱落していると判定し、バケットツース18の突出量が寸法閾値以上である場合、バケット本体17からバケットツース18が脱落していないと判定する。
なお、第1撮像装置31Lとバケット12との距離が短いときに第1撮像装置31Lにより撮像された画像データにおいて、バケット12は、大きく映る。第1撮像装置31Lとバケット12との距離が長いときに第1撮像装置31Lにより撮像された画像データにおいては、バケット12は、小さく映る。画像データにおいてバケット12の大きさが異なると、処理部335は、バケットツース18に欠損が有るか否かを正しく判定できない可能性がある。実施形態においては、基準ツース長Lに基づいて寸法閾値が定められる。これにより、処理部335は、第1撮像装置31Lとバケット12との距離によらず、バケットツース18に欠損が有るか否かを判定することができる。
処理部335は、バケットツース18に欠損が有るか否かの判定結果に基づいて、計測データを複数のサンプルに分類する。処理部335は、欠損が無いと判定された計測データを健全判定サンプルに分類する。処理部335は、欠損が有ると判定された計測データを欠損判定サンプルに分類する。処理部335は、バケットツース18を認識できなかった計測データを未判定サンプルに分類する。処理部335は、欠損が無いと判定された計測データを示す健全判定サンプルの数をカウントする。処理部335は、欠損が有ると判定された計測データを示す欠損判定サンプルの数をカウントする。処理部335は、バケットツース18を認識できなかった計測データを示す未判定サンプルの数をカウントする。実施形態において、計測データは、画像データであり、処理部335に分類されるサンプルは、フレームである。以下の説明において、健全判定サンプルを適宜、健全判定フレーム、と称し、欠損判定サンプルを適宜、欠損判定フレーム、と称し、未判定サンプルを適宜、未判定フレーム、と称する。
図19は、実施形態に係る健全判定フレームの一例を示す図である。図19に示すように、バケットツース181の突出量を示す距離L1、バケットツース182の突出量を示す距離L2、バケットツース183の突出量を示す距離L3、及びバケットツース184の突出量を示す距離L4のそれぞれが、寸法閾値以上である。この場合、処理部335は、バケットツース18が欠損していないと判定する。処理部335は、欠損が無いと判定された画像データを健全判定フレームに分類する。
図20は、実施形態に係る欠損判定フレームの一例を示す図である。図20に示す例において、バケットツース182の突出量を示す距離L2が、寸法閾値未満である。この場合、処理部335は、バケットツース182が欠損していると判定する。処理部335は、欠損が有ると判定された画像データを欠損判定フレームに分類する。
以上、中心CLよりも左側の第1撮像装置31Lにより撮像された画像データに基づいて、バケットツース18の脱落の有無を判定する方法について説明した。中心CLよりも右側の第1撮像装置31Rにより撮像された画像データに基づいて、バケットツース18の脱落の有無を判定する方法も同様である。処理部335は、計測データ取得部331が第1撮像装置31Rから取得した画像データに基づいて、4本のバケットツース185,186,187,188の脱落の有無を判定する。
出力部337は、バケットツース18を示すシンボル60を表示装置24Aに表示させる。出力部337は、バケットツース18の欠損の有無に基づいて、シンボル60の表示形態を変更する。
図21は、実施形態に係る表示装置24Aに表示されるバケットツース18を示すシンボル60の一例を示す図である。図21に示すように、処理部335が画像データにおいてバケットツース18を認識できない場合、出力部337は、認識できないバケットツース18を示すシンボル60を第1表示形態で表示装置24Aに表示させる。画像データにおいてバケットツース18の欠損が無いと処理部335により判定された場合、出力部337は、欠損が無いと判定されたバケットツース18を示すシンボル60を第2表示形態で表示装置24Aに表示させる。画像データにおいてバケットツース18の欠損が有ると処理部335により判定された場合、出力部337は、欠損が有ると判定されたバケットツース18を示すシンボル60を第3表示形態で表示装置24Aに表示させる。
実施形態において、出力部337は、処理部335が認識できないバケットツース18を示すシンボル60を第1色彩で表示する。第1色彩は、例えば灰色である。出力部337は、欠損が無いと判定されたバケットツース18を示すシンボル60を第2色彩で表示する。第2色彩は、例えば緑色である。出力部337は、欠損が有ると判定されたバケットツース18を示すシンボルを第3色彩で表示する。第3色彩は、例えば赤色である。
出力部337は、欠損判定フレームが存在する場合、欠損判定フレームが存在することを示す警告を出力装置24から出力させる。また、出力部337は、処理部335によりカウントされた欠損判定フレームの数に基づいて、出力装置24から出力させる警告の形態を変更する。
出力部337は、欠損判定フレームの数がサンプル閾値未満である場合、出力装置24から第1形態で警告を出力させ、欠損判定フレームの数がサンプル閾値以上である場合、出力装置24から第2形態で警告を出力させる。サンプル閾値は、予め定められた値である。
出力装置24は、バケットツース18を示すシンボル60を表示する表示装置24Aと、警告音を発生する発音装置24Bとを含む。出力部337は、欠損判定フレームの数がサンプル閾値未満である場合、表示装置24Aに第1形態で表示データを表示させ、欠損判定フレームの数がサンプル閾値以上である場合、表示装置24Aに第2形態で表示データを表示させてもよい。出力部337は、欠損判定フレームの数がサンプル閾値未満である場合、発音装置24Bに第1形態で警告音を発生させ、欠損判定フレームの数がサンプル閾値以上である場合、発音装置24Bに第2形態で警告音を発生させてもよい。
図22は、実施形態に係る欠損判定フレームと警告の形態との関係を示す図である。欠損判定フレームの有無の判定は、所定のフレームレートで実施される。図22に示す例において、欠損判定フレームの有無の判定は、0.2[sec.]間隔で実施される。図22において、「通常」フレームは、健全判定フレーム又は未判定フレームを示す。図22において、「欠損」フレームは、欠損判定フレームを含む。図22に示す例において、サンプル閾値は、2である。
図22に示すように、第1撮像装置31により撮影された動画が未判定フレーム及び健全判定フレームの一方又は両方で構成される場合、発音装置24Bから警告音は出力されない。第1撮像装置31により撮影された動画が未判定フレームのみで構成される場合、表示装置24Aには、認識できないバケットツース18を示すシンボル60が第1表示形態で表示される。第1撮像装置31により撮影された動画が健全判定フレームのみで構成される場合、表示装置24Aには、欠損が無いと判定されたバケットツース18を示すシンボル60が第2表示形態で表示される。
バケットツース18は、バケット本体17に複数取り付けられる。実施形態において、バケットツース18は、車幅方向に間隔をあけて8個配置される。表示装置24Aは、複数のバケットツース18のそれぞれの位置に基づいて、複数のシンボル60を表示する。表示装置24Aには、複数のバケットツース181,182,183,184,185,186,187,188の位置に合わせて、8個のシンボル60が間隔をあけて表示される。動画が未判定フレームのみで構成される場合、8個のシンボル60の全部が第1表示形態で表示される。動画が健全判定フレームのみで構成される場合、8個のシンボル60の全部が第2表示形態で表示される。
図22に示すように、動画に欠損判定フレームが1つ存在する場合、出力部337は、発音装置24Bから第1警告音を出力させる。第1撮像装置31により撮影された動画に欠損判定フレームが2つ存在する場合、出力部337は、発音装置24Bから第2警告音を出力させる。
実施形態において、出力部337は、計測データ取得部331に連続して取得されたサンプル閾値未満の数の画像データのそれぞれが欠損判定フレームであると判定された場合、出力装置24から第1形態で警告を出力させ、計測データ取得部331に連続して取得されたサンプル閾値以上の数の画像データのそれぞれが欠損判定フレームであると判定された場合、出力装置24から第2形態で警告を出力させる。
例えばサンプル閾値が2である場合、計測データ取得部331に連続して取得された2未満の数の画像データのそれぞれが欠損判定フレームであると判定された場合、出力部337は、発音装置24Bから第1警告音を出力させる。つまり、欠損判定フレームの前後に取得された画像データが健全判定フレーム又は未判定フレームである場合、出力部337は、発音装置24Bから第1警告音を出力させる。計測データ取得部331に連続して取得された2以上の数の画像データのそれぞれが欠損判定フレームであると判定された場合、出力部337は、発音装置24Bから第2警告音を出力させる。つまり、欠損判定フレームが少なくとも2回連続する場合、出力部337は、発音装置24Bから第2警告音を出力させる。
なお、欠損判定フレームが2回連続しなくても、第1撮像装置31により撮影された単位時間当たりの動画に欠損判定フレームが少なくとも2つ存在する場合、出力部337は、発音装置24Bから第2警告音を出力させてもよい。
なお、サンプル閾値は、任意である。サンプル閾値は、例えば3以上の任意の数でもよい。
警告の形態は、警告音の音量を含む。第1形態で警告を出力させることは、発音装置24Bから第1音量で警告音を発生させることを含む。第2形態で警告を出力させることは、発音装置24Bから第1音量よりも大きい第2音量で警告音を発生させることを含む。図22に示す例において、第2警告音の音量は、第1警告音の音量よりも大きい。
また、第1撮像装置31により撮影された動画に欠損判定フレームが有る場合、表示装置24Aには、欠損が有ると判定されたバケットツース18を示すシンボル60が第3表示形態で表示される。出力部337は、欠損が有ると判定されたバケットツース18を示すシンボル60と、欠損が無いと判定されたバケットツース18を示すシンボル60とを、異なる表示形態で表示する。図22に示す例において、バケットツース184に欠損が有ると判定され、バケットツース181,182,183,185,186,187,188に欠損が無いと判定された場合、出力部337は、欠損が有ると判定されたバケットツース184を示すシンボルを第3表示形態で表示させ、欠損が無いと判定されたバケットツース181,182,183,185,186,187,188を示すシンボルを第2表示形態で表示させる。
[転石の判定]
次に、転石240の有無を判定する方法について説明する。作業機械1が前進するように前後進レバー20Cが操作された場合、アルゴリズム選択部334は、車体データ取得部332により取得された前後進レバー20Cの操作データに基づいて、第2アルゴリズムを選択する。実施形態において、処理部335は、画像データにおいて地面200の転石240の有無を判定するときの判定基準を設定する。また、処理部335は、出力装置24から警告を出力させるときの警告基準を設定する。
図23は、実施形態に係る判定基準を説明する図である。実施形態において、判定基準は、画像データの転石240の寸法を含む。転石240の寸法は、画像データにおける転石240のピクセル数を含む。画像データにおいて転石240の寸法に係る閾値が設定される。転石240の寸法に係る閾値は、横方向の転石240の寸法に係る閾値Pxと、縦方向の転石240の寸法に係る閾値Pyとを含む。アルゴリズム記憶部338には、判定基準に係る標準値(初期値)が記憶されている。標準値は、転石240の寸法に係る閾値に係る推奨値である。処理部335は、標準値に基づいて、判定基準を設定する。実施形態において、処理部335は、標準値に基づいて、転石240の寸法に係る閾値を設定する。閾値は、標準値である。
図24は、実施形態に係る警告基準を説明する図である。実施形態において、警告基準は、地面200の少なくとも一部に設定される警告エリア36を含む。
警告基準の設定は、警告エリア36の寸法の設定を含む。警告エリア36の寸法は、画像データにおける警告エリアのピクセル数を含む。図24に示すように、画像データにおいて横方向の警告エリア36の寸法Qxと、縦方向の警告エリア36の寸法Qyとが設定される。
また、警告エリア36の設定は、警告エリア36の位置の設定を含む。警告エリア36の位置の設定は、画像データにおける警告エリア36の位置の設定を含む。処理部335は、前タイヤ6Fの前方の地面200の一部に警告エリア36を設定する。アルゴリズム記憶部338には、警告基準に係る標準値(初期値)が記憶されている。標準値は、警告エリア36の寸法及び位置に係る推奨値である。処理部335は、標準値に基づいて、警告基準を設定する。実施形態において、処理部335は、標準値に基づいて、画像データにおける警告エリア36の寸法及び位置を設定する。
処理部335は、入力装置25からの入力データを取得する。運転者は、入力装置25を操作して、判定基準の設定を変更したり、警告基準の設定を変更したりすることができる。処理部335は、入力データに基づいて、判定基準を設定する。処理部335は、入力データに基づいて、警告基準を設定する。
図25は、実施形態に係る判定基準及び警告基準の設定画面の一例を示す図である。図25に示すように、処理部335は、判定基準の設定画面を表示装置24Aに表示させる。処理部335は、警告基準の設定画面を表示装置24Aに表示させる。運転者は、設定画面を視認しながら、入力装置25を操作して、判定基準の設定の変更、及び警告基準の設定の変更の少なくとも一方を実施することができる。
計測データ取得部331は、地面200の計測データを所定のサンプリングレートで第2撮像装置32から取得する。上述のように、地面200の計測データは、第2撮像装置32により撮像された地面200の画像データを含む。サンプリングレートは、フレームレートを含む。計測データ取得部331は、地面200の画像データを所定のフレームレートで第2撮像装置32から取得する。計測データ取得部331は、前タイヤ6Fの前方の地面200の画像データを取得する。
処理部335は、計測データ取得部331により取得された画像データに基づいて、地面200の転石240の有無を判定する。処理部335は、画像データにおいて地面200の転石240の有無を判定する。実施形態において、処理部335は、画像データにおいて前タイヤ6Fの前方の地面200の転石240の有無を判定する。
処理部335は、入力データを解析して出力データを出力する第2のAIアルゴリズムを利用して、転石240の有無を判定する。
処理部335は、判定基準に基づいて、画像データにおいて地面200の転石240の有無を判定する。処理部335は、転石240の寸法が閾値(Px,Py)を上回る場合、転石240が有ると判定し、転石240の寸法が閾値(Px,Py)以下である場合、転石240が無いと判定する。処理部335は、転石240の寸法が閾値Px及び閾値Pyの一方を上回る場合、転石240が有ると判定してもよい。処理部335は、転石240の寸法が閾値Px及び閾値Pyの両方を上回る場合、転石240が有ると判定してもよい。
出力部337は、前タイヤ6Fの前方の地面200の転石240の有無に基づいて、出力装置24から警告を出力させる。出力部337は、処理部335による転石240の有無の判定と、転石240と警告基準との関係とに基づいて、出力装置24から警告を出力させる。警告基準は、地面200の少なくとも一部に設定される警告エリア36を含む。警告エリア36は、前タイヤ6Fの前方の地面200の一部に設定される。出力部337は、転石240が有ると判定された場合、転石240と警告エリア36との位置関係に基づいて、出力装置24から警告を出力させる。出力部337は、警告エリア36に転石240が有ると判定された場合、警告エリア36に転石240が存在することを示す警告を出力装置24から出力させる。
[監視方法]
図26は、実施形態に係る監視方法を示すフローチャートである。
計測データ取得部331は、第1撮像装置31及び第2撮像装置32のそれぞれから画像データを取得する(ステップS1)。
車体データ取得部332は、作業機械1の状態を示す車体データを取得する。実施形態において、車体データ取得部332は、車体データとして、角度センサ90の検出データ及び前後進レバー20Cの操作データを取得する(ステップS2)。
状態判別部333は、ステップS2において取得された角度センサ90の検出データに基づいて、第1計測装置31の計測範囲Raに作業機10のバケット12が配置されているか否かを判定する(ステップS3)。
ステップS3において、第1計測装置31の計測範囲Raに作業機10のバケット12が配置されていると判定された場合(ステップS3:Yes)、状態判別部333は、ステップS2において取得された前後進レバー20Cの操作データに基づいて、作業機械1が前進しているか否かを判定する(ステップS4)。
ステップS4において、作業機械1が前進していると判定された場合(ステップS4:Yes)、アルゴリズム選択部334は、第1アルゴリズム及び第2アルゴリズムを選択する(ステップS5)。
ステップS4において、作業機械1が前進していないと判定された場合(ステップS4:No)、アルゴリズム選択部334は、第1アルゴリズムを選択する(ステップS6)。
ステップS3において、第1計測装置31の計測範囲Raに作業機10のバケット12が配置されていないと判定された場合(ステップS3:No)、状態判別部333は、ステップS2において取得された前後進レバー20Cの操作データに基づいて、作業機械1が前進しているか否かを判定する(ステップS7)。
ステップS7において、作業機械1が前進していると判定された場合(ステップS7:Yes)、アルゴリズム選択部334は、第2アルゴリズムを選択する(ステップS8)。
ステップS5又はステップS6において第1アルゴリズムが選択された後、処理部335は、第1撮像装置31により撮像された画像データを第1アルゴリズムに基づいて処理して、作業機10のバケット12を認識する(ステップS9)。
汚染判定部336は、ステップS9において処理部335によりバケットツース18が認識されているか否かを判定する(ステップS10)。
ステップS10において、バケットツース18が認識されていると判定された場合(ステップS10:Yes)、処理部335は、バケットツース18が欠損しているか否かを判定する(ステップS11)。
ステップS11において、バケットツース18が欠損していると判定された場合(ステップS11:Yes)、出力部337は、バケットツース18が欠損していることを示す警告を出力装置24に出力させる(ステップS12)。
ステップS11において、バケットツース18が欠損していないと判定された場合(ステップS11:No)、出力装置24から警告は出力されない(ステップS13)。
図22を参照して説明したように、第1撮像装置31により撮影された動画が未判定フレーム及び健全判定フレームの一方又は両方で構成される場合、発音装置24Bから警告音は出力されない。第1撮像装置31により撮影された動画が未判定フレームのみで構成される場合、表示装置24Aには、認識できないバケットツース18を示すシンボル60が第1表示形態で表示される。第1撮像装置31により撮影された動画が健全判定フレームのみで構成される場合、表示装置24Aには、欠損が無いと判定されたバケットツース18を示すシンボル60が第2表示形態で表示される。また、動画に欠損判定フレームが1つ存在する場合、発音装置24Bから第1警告音が出力される。第1撮像装置31により撮影された動画に欠損判定フレームが2つ存在する場合、発音装置24Bから第2警告音が出力される。
ステップS10において、バケットツース18が認識されていないと判定された場合(ステップS10:No)、汚染判定部336は、第1撮像装置31の光学系の入射面が汚染されていると判定する。第1撮像装置31の光学系の入射面が汚染されていると判定された場合、出力部337は、第1撮像装置31の光学系の入射面が汚染されていることを示す警告を出力装置24に出力させる(ステップS14)。
ステップS5又はステップS8において第2アルゴリズムが選択された後、処理部335は、第2撮像装置32により撮像された画像データを第2アルゴリズムに基づいて処理して、地面200を認識する(ステップS15)。
地面200が認識された後、処理部335は、前タイヤ6Fの前方の地面200に転石240が有るか否かを判定する(ステップS16)。
ステップS16において、前タイヤ6Fの前方の地面200に転石240が有ると判定された場合(ステップS16:Yes)、出力部337は、転石240が有ることを示す警告を出力装置24に出力させる(ステップS17)。
ステップS16において、転石240が無いと判定された場合(ステップS16:No)、出力装置24から警告は出力されない(ステップS13)。
ステップS12、ステップS13、ステップS14、及びステップS17のいずれかの処理が実施された後、又はステップS7において作業機械1が前進していないと判定された場合、処理部335は、監視処理を終了するか否かを判定する(ステップS18)。
ステップS18において、監視処理を継続すると判定された場合(ステップS18:No)、ステップS1及びステップS2の処理に戻る。
ステップS18において、監視処理を終了と判定された場合(ステップS18:Yes)、監視処理が終了する。
[表示装置]
図27は、実施形態に係る表示装置24Aの一例を示す図である。図27に示すように、出力部337は、計測データ取得部331により取得された画像データに基づいて生成された地面200を示す対象画像37を表示装置24Aに表示させる。対象画像37は、左側の第2撮像装置32Lにより撮像された画像データを示す対象画像37Lと、右側の第2撮像装置32Rにより撮像された画像データを示す対象画像37Rとを含む。対象画像37Lと対象画像37Rとは、表示装置24Aの表示画面に並べて表示される。対象画像37Lと対象画像37Rとは、表示装置24Aの表示画面に同時に表示される。対象画像37Lは、表示装置24Aの表示画面の左領域に表示される。対象画像37Rは、表示装置24Aの表示画面の右領域に表示される。
出力部337は、警告エリア36を示すエリア画像360を表示装置24Aに表示させる。出力部337は、対象画像37にエリア画像360を重畳させて表示装置24Aに表示させる。左側の前タイヤ6Fの前方の地面200を含むように設定された警告エリア36を示すエリア画像360は、対象画像37Lに重畳した状態で表示装置24Aに表示される。右側の前タイヤ6Fの前方の地面200を含むように設定された警告エリア36を示すエリア画像360は、対象画像37Rに重畳した状態で表示装置24Aに表示される。
出力部337は、前タイヤ6Fを示すシンボル70を表示装置24Aに表示させる。シンボル70は、左側の前タイヤ6Fを示すシンボル70Lと、右側の前タイヤ6Fを示すシンボル70Rとを含む。
出力部337は、前タイヤ6Fの前方の地面200に転石240が有ることを示す警告を出力装置24に出力させる。出力装置24に警告を出力させることは、前タイヤ6Fの前方の地面200に転石240が有ることを示す警告画像を表示装置24Aに表示させることを含む。出力装置24に警告を出力させることは、前タイヤ6Fの前方の地面200に転石240が有ることを示す警告音を発音装置24Bから発生させることを含む。
実施形態において、警告画像は、対象画像37において転石240を囲むように表示されるフレーム画像80と、対象画像37の周縁部に表示されるフレーム画像81と、シンボル70の背景画像82とを含む。
出力部337は、転石240が強調されるようにフレーム画像80を表示装置24Aに表示させる。
図27に示す例において、対象画像37Lの転石240は、警告エリア36の外側に配置される。出力部337は、転石240が警告エリア36の外側に存在すると処理部335により判定された場合、第1形態のフレーム画像80Lを表示装置24Aに表示させる。
図27に示す例において、対象画像37Rの転石240の少なくとも一部は、警告エリア36の内側に配置される。出力部337は、転石240が警告エリア36の内側に存在すると処理部335により判定された場合、第1形態とは異なる第2形態のフレーム画像80Rを表示装置24Aに表示させる。
出力部337は、警告エリア36の内側に配置される転石240が警告エリア36の外側に配置される転石240よりも強調されるように、フレーム画像80L及びフレーム画像80Rのそれぞれを表示装置24Aに表示させる。図27に示す例において、フレーム画像80Rが実線で表示され、フレーム画像80Lが点線で表示させる。なお、フレーム画像80Rが第1色彩で表示され、フレーム画像80Lが第2色彩で表示されてもよい。第1色彩として、赤色が例示される。第2色彩として、緑色が例示される。
出力部337は、転石240の少なくとも一部が警告エリア36の内側に存在する対象画像37が強調されるようにフレーム画像81を表示装置24Aに表示させる。
図27に示す例において、対象画像37Rに表示される転石240の少なくとも一部は、警告エリア36の内側に存在する。対象画像37Lに表示される転石240は、警告エリア36の外側に存在する。出力部337は、対象画像37Rが対象画像37Lよりも強調されるように、フレーム画像81を表示装置24Aに表示させる。
出力部337は、転石240の上を通過する可能性が高い前タイヤ6Fが強調されるように背景画像82を表示装置24Aに表示させる。
図27に示す例において、右側の前タイヤ6Fは、転石240の上を通過する可能性が高い。すなわち、作業機械1の前進により、右側の前タイヤ6Fは、転石240を踏む可能性が高い。出力部337は、転石240の上を通過する可能性が高い右側の前タイヤ6Fが強調されるように、シンボル70Rの背景画像82を表示装置24Aに表示させる。
なお、図27に示す例において、左側の前タイヤ6Fが転石240の上を通過する可能性が高い場合、出力部337は、転石240の上を通過する可能性が高い左側の前タイヤ6Fが強調されるように、シンボル70Lの背景画像82を表示装置24Aに表示させることができる。
出力部337は、バケットツース18を示すシンボル60を表示装置24Aに表示させる。出力部337は、複数のバケットツース18のそれぞれの位置に基づいて、複数のシンボル60を表示する。シンボル60は、バケットツース181を示すシンボル61と、バケットツース182を示すシンボル62と、バケットツース183を示すシンボル63と、バケットツース184を示すシンボル64と、バケットツース185を示すシンボル65と、バケットツース186を示すシンボル66と、バケットツース187を示すシンボル67と、バケットツース188を示すシンボル68と、を含む。
複数のシンボル60は、表示装置24Aの表示画面の上領域に表示される。複数のシンボル60のうち、シンボル61は、最も左側に表示され、シンボル62は、シンボル61に次いで左側に配置され、シンボル63は、シンボル62に次いで左側に配置され、シンボル64は、シンボル63に次いで左側に配置され、シンボル65は、シンボル64に次いで左側に配置され、シンボル66は、シンボル65に次いで左側に配置され、シンボル67は、シンボル66に次いで左側に配置され、シンボル68は、最も右側に配置される。
図27は、処理部335が8個のバケットツース18を認識できず、8個のシンボル60が第1表示形態で表示されている例を示す。第1撮像装置31の光学系の入射面が汚染され、8個のバケットツース18が認識されない場合、出力部337は、図27に示すように、8個のシンボル60を第1表示形態で表示させる。
図28は、実施形態に係る表示装置24Aの一例を示す図である。なお、図28は、表示装置24Aの上領域を抽出した図である。
図28は、処理部335が8個のバケットツース18のそれぞれの欠損の有無を判定したときのシンボル60の一例を示す。図28に示すように、出力部337は、バケットツース18の欠損の有無に基づいて、シンボル60の表示形態を変更する。出力部337は、欠損が有ると判定されたバケットツース18を示すシンボル60と、欠損が無いと判定されたバケットツース18を示すシンボル60とを、異なる表示形態で表示する。図28に示すように、バケットツース184に欠損が有ると判定され、バケットツース181,182,183,185,186,187,188に欠損が無いと判定された場合、出力部337は、欠損が有ると判定されたバケットツース184を示すシンボル64を第3表示形態で表示させ、欠損が無いと判定されたバケットツース181,182,183,185,186,187,188を示すシンボル61,62,63,65,66,67,68を第2表示形態で表示させる。出力部337は、シンボル64を第3色彩で表示装置24Aに表示させ、シンボル61,62,63,65,66,67,68を第2色彩で表示装置24Aに表示させる。第3色彩は、例えば赤色である。第2色彩は、例えば緑色である。
[コンピュータシステム]
図29は、実施形態に係るコンピュータシステム1000を示すブロック図である。上述の監視コントローラ33及び駆動コントローラ48のそれぞれは、コンピュータシステム1000を含む。コンピュータシステム1000は、CPU(Central Processing Unit)のようなプロセッサ1001と、ROM(Read Only Memory)のような不揮発性メモリ及びRAM(Random Access Memory)のような揮発性メモリを含むメインメモリ1002と、ストレージ1003と、入出力回路を含むインターフェース1004とを有する。上述の監視コントローラ33及び駆動コントローラ48のそれぞれの機能は、コンピュータプログラムとしてストレージ1003に記憶されている。プロセッサ1001は、コンピュータプログラムをストレージ1003から読み出してメインメモリ1002に展開し、プログラムに従って上述の処理を実行する。なお、コンピュータプログラムは、ネットワークを介してコンピュータシステム1000に配信されてもよい。
コンピュータプログラム又はコンピュータシステム1000は、上述の実施形態に従って、作業機械1に搭載され対象を計測する第1計測装置31及び第2計測装置32の計測データを取得することと、作業機械1の状態を示す車体データを取得することと、車体データに基づいて、作業機械1の状態を判別することと、判別された作業機械1の状態に基づいて、計測データを処理する特定のアルゴリズムを選択することと、選択された特定のアルゴリズムに基づいて計測データを処理して、対象を認識することと、対象の認識結果を出力装置に出力させることと、を実行することができる。
[効果]
以上説明したように、作業機械1の監視システム30は、作業機械1に搭載され対象を計測する第1撮像装置31及び第2撮像装置32の画像データを取得する計測データ取得部331と、作業機械1の状態を示す車体データを取得する車体データ取得部332と、車体データに基づいて、作業機械1の状態を判別する状態判別部333と、状態判別部333により判別された作業機械1の状態に基づいて、画像データを処理する特定のアルゴリズムを選択するアルゴリズム選択部334と、アルゴリズム選択部334により選択された特定のアルゴリズムに基づいて画像データを処理して、対象を認識する処理部335と、処理部335により認識された対象の認識結果を出力装置24に出力させる出力部337と、を備える。
実施形態によれば、作業機械1の状態に基づいて、画像データを処理する特定のアルゴリズムが選択されるので、処理部335は、複数の対象を効率良く認識することができる。第1撮像装置31の計測範囲Raにバケット12が配置されている状況においては、処理部335は、バケットツース18を認識するために第1撮像装置31により撮像された画像データを第1アルゴリズムに基づいて処理する。第1撮像装置31の計測範囲Raにバケット12が配置されていない状況においては、処理部335は、バケットツース18を認識するための処理を実施しない。作業機械1が前進して前タイヤ6Fの前方の地面200の転石240を前タイヤ6Fが踏む可能性が高い状況においては、処理部335は、前タイヤ6Fの前方の地面200の転石240を認識するために第2撮像装置32により撮像された画像データを第2アルゴリズムに基づいて処理する。作業機械1が後進又は停止して前タイヤ6Fの前方の地面200の転石240を前タイヤ6Fが踏む可能性が低い状況においては、処理部335は、転石240を認識するための処理を実施しない。このように、監視コントローラ33は、バケットツース18及び転石240の両方を認識するための処理を常時実施しなくても済む。そのため、バケットツース18及び転石240の監視に要する監視コントローラ33の負担が軽減される。したがって、監視コントローラ33は、バケットツース18及び転石240のそれぞれを効率良く監視することができる。
[別の実施形態]
上述の実施形態において、第1撮像装置31及び第2撮像装置32のそれぞれが、前照灯28を保持するハウジング9に配置されることとした。第1撮像装置31及び第2撮像装置32の少なくとも一方は、ハウジング9とは異なる作業機械1の部位に配置されてもよい。
上述の実施形態において、第2撮像装置32は、第1撮像装置31よりも上方に配置されることとした。上下方向において、第2撮像装置32の少なくとも一部は、第1撮像装置31と同じ位置に配置されてもよい。第2撮像装置32は、第1撮像装置31よりも下方に配置されてもよい。
上述の実施形態において、バケットツース18の欠損は、バケット本体17からのバケットツース18の脱落であることとした。バケットツース18の欠損は、バケットツース18の摩耗でもよいし、バケットツース18の折損でもよい。
上述の実施形態において、処理部335は、交換部材としてバケットツース18の欠損を監視することとした。処理部335は、交換部材としてツース間プロテクタ19の欠損を監視してもよい。ツース間プロテクタ19の欠損は、バケット本体17からのツース間プロテクタ19の脱落、ツース間プロテクタ19の摩耗、及びツース間プロテクタ19の折損を含む。
上述の実施形態において、警告基準の設定は、警告エリア36の寸法の設定と警告エリア36の位置の設定とを含むこととした。警告基準の設定は、警告エリア36の寸法の設定及び警告エリア36の位置の設定のいずれか一方の設定でもよい。例えば、警告エリア36の位置が予め定められた固定値であり、警告エリア36の寸法のみが設定されてもよい。また、警告エリア36の寸法が予め定められた固定値であり、警告エリア36の位置のみが設定されてもよい。
上述の実施形態において、処理部335は、判定基準に基づいて、地面200の転石240の有無を判定し、転石240と警告基準との関係とに基づいて、出力装置24から警告を出力させることとした。処理部335は、判定基準及び警告基準の両方を満たした場合に、転石240が有ると判定してもよい。この場合、処理部335は、警告基準を判定基準として用いてもよい。また、処理部335は、判定基準によらず、地面200の転石240の有無を判定し、判定基準及び警告基準の両方を満たした場合に、警告を出力させるようにしてもよい。この場合、処理部335は、判定基準を警告基準として用いてもよい。
上述の実施形態において、出力部337は、警告エリア36を示すエリア画像360を表示装置24Aに表示することとした。出力部337は、警告エリア36を示すエリア画像360を表示装置24Aに表示しなくてもよい。出力部337は、転石240が有ると判定された場合に、警告エリア36を示すエリア画像360を表示装置24Aに表示するようにしてもよい。出力部337は、警告エリア36内に転石240が有ると判定された場合に、警告エリア36を示すエリア画像360を表示装置24Aに表示するようにしてもよい。
上述の実施形態においては、作業機械1が前進可能な状態又は前進している状態において第2アルゴリズムが選択され、第2アルゴリズムに基づいて、前タイヤ6Fの前方の地面200に転石240が有るか否かが判定されることとした。作業機械1が後進可能な状態又は後進している状態において第2アルゴリズムが選択され、後タイヤ6Rの後方の地面200に転石240が有るか否かが判定されてもよい。
図30は、別の実施形態に係る作業機械1の動作を示す図である。図30に示すように、作業機械1は、後タイヤ6Rの後方の地面200を撮像する第2撮像装置32を有する。計測データ取得部331は、後タイヤ6Rの後方の地面200の画像データを第2撮像装置32から取得する。アルゴリズム選択部334は、作業機械1が後進するときに第2アルゴリズムを選択し、処理部335は、作業機械1が後進するときに第2アルゴリズムに基づいて後タイヤ6Rの後方の地面200に転石240が有るか否かを判定してもよい。
上述の実施形態において、出力装置24は、作業機械1の運転室に配置されることとした。出力装置24は、作業機械1の外部に配置されてもよい。
図31は、別の実施形態に係る監視システム300を示す図である。図31に示す例において、作業機械1は、作業機械1の遠隔地に設けられている運転操作装置20Fによって遠隔操作される。
上述の実施形態と同様、第1撮像装置31及び第2撮像装置32のそれぞれが作業機械1に設けられる。また、作業機械1の前方を撮像する遠隔操作用撮像装置(不図示)が作業機械1に設けられる。遠隔操作用撮像装置は、図4に示したような、運転室の運転席に着座した運転者がフロントガラスを介して見る景色と同様の作業機械1の前方の景色の画像データを撮像する。
作業機械1の遠隔地に設けられている遠隔操作施設に、出力装置24F、入力装置25F、監視コントローラ33F、及び運転操作装置20Fの一部又は全部が配置される。出力装置24F、入力装置25F、監視コントローラ33F、及び運転操作装置20Fのそれぞれは、作業機械1とは別体で設けられる。また、遠隔操作施設に、遠隔操作用撮像装置が撮像した画像データを表示する遠隔操作用表示装置が設けられる。
作業機械1と監視コントローラ33Fとは、無線通信システムを介して無線通信する。作業機械1には無線通信システムの無線通信機301が設けられ、監視コントローラ33Fには無線通信システムの無線通信機302が接続される。なお、作業機械1の無線通信機301と監視コントローラ33Fの無線通信機302とは、他の機器を経由して通信してもよい。
遠隔操作用撮像装置により撮像された画像データは、無線通信システムを介して遠隔操作用表示装置に送信される。遠隔操作施設の運転者は、遠隔操作用表示装置に表示された画像データを見ながら、運転操作装置20Fを操作することができる。運転操作装置20Fが操作されることにより生成された操作信号は、無線通信システムを介して作業機械1に送信される。これにより、作業機械1が遠隔操作される。
監視コントローラ33Fは、図13を参照して説明したような、計測データ取得部331、車体データ取得部332、状態判別部333、アルゴリズム選択部334、処理部335、汚染判定部336、出力部337、及びアルゴリズム記憶部338を有する。
第1撮像装置31及び第2撮像装置32により撮像された画像データは、無線通信システムを介して作業機械1から監視コントローラ33Fに送信される。監視コントローラ33Fの処理部335は、第1撮像装置31により撮像された画像データに基づいて、バケットツース18の欠損の有無を判定することができる。また、監視コントローラ33Fの出力部337は、バケットツース18の欠損が有ることを示す警告を出力装置24Fに出力させることができる。監視コントローラ33Fの処理部335は、第2撮像装置32により撮像された画像データに基づいて、地面200の転石240の有無を判定することができる。また、監視コントローラ33Fの出力部337は、地面200の転石240が有ることを示す警告を出力装置24Fに出力させることができる。
上述の実施形態において、第1計測装置31及び第2計測装置32のそれぞれが撮像装置であることとした。第1計測装置31及び第2計測装置32の少なくとも一方は、レーザ装置でもよい。第1計測装置31及び第2計測装置32の少なくとも一方は、レーダ装置でもよい。レーザ装置は、計測対象にレーザ光を照射して、計測対象の計測データを取得する。レーダ装置は、計測対象に音波を照射して、計測対象の計測データを取得する。レーザ装置は、作業機10にレーザ光を照射して、所定のサンプリングレートで作業機10の計測データを取得することができる。レーダ装置は、作業機10に音波を照射して、所定のサンプリングレートで作業機10の計測データを取得することができる。出力部337は、作業機10に欠損が有ると判定された計測データを示す欠損判定サンプルの数に基づいて、出力装置24から出力させる警告の形態を変更することができる。
上述の実施形態において、第1計測装置31及び第2計測装置32の受信面が光学系の入射面であることとした。第1計測装置31及び第2計測装置32の少なくとも一方がレーザ装置である場合、レーザ装置の受信面は、レーザ光の受光面を含む。汚染判定部336は、上述の実施形態に従って、レーザ装置の受光面の汚染の有無を判定することができる。第1計測装置31及び第2計測装置32の少なくとも一方がレーダ装置である場合、レーザ装置の受信面は、レーダ装置の電波受信面を含む。汚染判定部336は、上述の実施形態に従って、レーダ装置の電波受信面の汚染の有無を判定することができる。
上述の実施形態において、作業機械1は、ホイールローダであることとした。作業機械1は、ブルドーザ及び油圧ショベル等の他の作業機械でもよい。ブルドーザ及び油圧ショベルのそれぞれは、作業機と、地面200に接触した状態で回転する履帯とを有する。履帯は、地面200に接触した状態で回転する回転部材である。履帯が回転することにより、作業機械が走行する。
1…作業機械、2…車体、2A…関節機構、2F…前部車体、2R…後部車体、3…運転台、4…走行装置、5…車輪、5F…前輪、5R…後輪、6…タイヤ、6F…前タイヤ、6R…後タイヤ、7…フロントフェンダ、7L…フロントフェンダ、7R…フロントフェンダ、8…支持部材、8L…支持部材、8R…支持部材、9…ハウジング、9L…ハウジング、9R…ハウジング、10…作業機、11…ブーム、12…バケット、12E…端部、12M…開口部、13…ブームシリンダ、14…バケットシリンダ、15…ベルクランク、16…バケットリンク、17…バケット本体、17A…底板部、17B…上板部、17C…左板部、17D…右板部、18…バケットツース、19…ツース間プロテクタ、20…運転操作装置、20A…アクセルペダル、20B…ブレーキペダル、20C…前後進レバー、20F…運転操作装置、21…操作パネル、22…モニタ装置、23…リアビューモニタ装置、24…出力装置、24A…表示装置、24B…発音装置、24F…出力装置、25…入力装置、25F…入力装置、27…ピラー、28…前照灯、28L…前照灯、28R…前照灯、29…ウインカーランプ、29L…ウインカーランプ、29R…ウインカーランプ、30…監視システム、31…第1撮像装置(第1計測装置)、31L…第1撮像装置、31R…第1撮像装置、32…第2撮像装置(第2計測装置)、32L…第2撮像装置、32R…第2撮像装置、33…監視コントローラ、33F…監視コントローラ、36…警告エリア、37…対象画像、37L…対象画像、37R…対象画像、40…駆動システム、41…エンジン、42…燃料噴射装置、43…パワーテイクオフ、44…トランスミッション、44F…前進ギヤ、44R…後進ギヤ、45F…フロントアクスル、45R…リヤアクスル、46…油圧ポンプ、47…制御弁、48…駆動コントローラ、50…認識範囲、51…根本、52…刃先、53…探索範囲、60…シンボル、61…シンボル、62…シンボル、63…シンボル、64…シンボル、65…シンボル、66…シンボル、67…シンボル、68…シンボル、70…シンボル、70L…シンボル、70R…シンボル、80…フレーム画像、80L…フレーム画像、80R…フレーム画像、81…フレーム画像、82…背景画像、90…角度センサ、91…ブーム角度センサ、92…バケット角度センサ、181…バケットツース、182…バケットツース、183…バケットツース、184…バケットツース、185…バケットツース、186…バケットツース、187…バケットツース、188…バケットツース、191…ツース間プロテクタ、192…ツース間プロテクタ、193…ツース間プロテクタ、194…ツース間プロテクタ、195…ツース間プロテクタ、196…ツース間プロテクタ、197…ツース間プロテクタ、200…地面、210…地山、220…ダンプトラック、230…ダンプボディ、240…転石、300…監視システム、301…無線通信機、302…無線通信機、331…計測データ取得部、332…車体データ取得部、333…状態判別部、334…アルゴリズム選択部、335…処理部、336…汚染判定部、337…出力部、338…アルゴリズム記憶部、360…エリア画像、1000…コンピュータシステム、1001…プロセッサ、1002…メインメモリ、1003…ストレージ、1004…インターフェース、CL…中心、FX…回転軸、G…基準ツース間距離、G1…距離、G2…距離、G3…距離、L…基準ツース長、L1…距離、L2…距離、L3…距離、L4…距離、M1…矢印、M2…矢印、M3…矢印、M4…矢印、Px…閾値、Py…閾値、Qx…寸法、Qy…寸法、Ra…計測範囲、Rb…計測範囲、RX…回転軸、α…第1画角、β…第2画角。

Claims (10)

  1. 作業機械に搭載され対象を計測する計測装置の計測データを取得する計測データ取得部と、
    前記作業機械の状態を示す車体データを取得する車体データ取得部と、
    前記車体データに基づいて、前記作業機械の状態を判別する状態判別部と、
    前記状態判別部により判別された前記作業機械の状態に基づいて、前記計測データを処理する特定のアルゴリズムを選択するアルゴリズム選択部と、
    前記アルゴリズム選択部により選択された特定のアルゴリズムに基づいて前記計測データを処理して、前記対象を認識する処理部と、を備える、
    作業機械の監視システム。
  2. 前記作業機械は、作業機と、走行装置と、を有し、
    前記車体データは、前記作業機の姿勢を示す姿勢データと、前記走行装置の前進又は後進を示す前後進データと、を含む、
    請求項1に記載の作業機械の監視システム。
  3. 相互に異なる複数のアルゴリズムを記憶するアルゴリズム記憶部を備え、
    前記アルゴリズム選択部は、前記作業機械の状態に基づいて、前記アルゴリズム記憶部に記憶されている複数のアルゴリズムから特定のアルゴリズムを選択する、
    請求項1に記載の作業機械の監視システム。
  4. 前記計測装置は、第1計測装置と、第2計測装置と、を含み、
    前記アルゴリズム記憶部に記憶されているアルゴリズムは、前記第1計測装置の計測データを処理する第1アルゴリズムと、前記第2計測装置の計測データを処理する第2アルゴリズムと、を含む、
    請求項3に記載の作業機械の監視システム。
  5. 前記作業機械は、作業機と、走行装置と、を有し、
    前記第1計測装置が計測する対象は、前記作業機を含み、
    前記第2計測装置が計測する対象は、前記走行装置が走行する地面を含む、
    請求項4に記載の作業機械の監視システム。
  6. 前記作業機械は、作業機と、走行装置と、を有し、
    前記車体データは、前記作業機の姿勢を示す姿勢データと、前記走行装置の前進又は後進を示す前後進データと、を含み、
    前記姿勢データに基づいて前記第1計測装置の計測範囲に前記作業機が配置されたと前記状態判別部が判定した場合、前記アルゴリズム選択部は、前記第1アルゴリズムを選択し、
    前記姿勢データに基づいて前記第1計測装置の計測範囲に前記作業機が配置されていないと前記状態判別部が判定した場合、前記アルゴリズム選択部は、前記第1アルゴリズムを選択せず、
    前記前後進データに基づいて前記走行装置が前進していると前記状態判別部が判定した場合、前記アルゴリズム選択部は、前記第2アルゴリズムを選択し、
    前記前後進データに基づいて前記走行装置が前進していないと前記状態判別部が判定した場合、前記アルゴリズム選択部は、前記第2アルゴリズムを選択しない、
    請求項4に記載の作業機械の監視システム。
  7. 前記処理部は、前記第1アルゴリズムに基づいて前記第1計測装置の計測データを処理して、前記作業機の欠損の有無を判定する、
    請求項5に記載の作業機械の監視システム。
  8. 前記処理部は、前記第2アルゴリズムに基づいて前記第2計測装置の計測データを処理して、前記地面の転石の有無を判定する、
    請求項5に記載の作業機械の監視システム。
  9. 前記処理部により認識された前記対象の認識結果を出力装置に出力させる出力部を備える、
    請求項1から請求項8のいずれか一項に記載の作業機械の監視システム。
  10. 作業機械に搭載され対象を計測する計測装置の計測データを取得することと、
    前記作業機械の状態を示す車体データを取得することと、
    前記車体データに基づいて、前記作業機械の状態を判別することと、
    判別された前記作業機械の状態に基づいて、前記計測データを処理する特定のアルゴリズムを選択することと、
    選択された特定のアルゴリズムに基づいて前記計測データを処理して、前記対象を認識することと、を含む、
    作業機械の監視方法。
JP2022112728A 2022-07-13 2022-07-13 作業機械の監視システム及び作業機械の監視方法 Pending JP2024011049A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022112728A JP2024011049A (ja) 2022-07-13 2022-07-13 作業機械の監視システム及び作業機械の監視方法
PCT/JP2023/018531 WO2024014115A1 (ja) 2022-07-13 2023-05-18 作業機械の監視システム及び作業機械の監視方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022112728A JP2024011049A (ja) 2022-07-13 2022-07-13 作業機械の監視システム及び作業機械の監視方法

Publications (1)

Publication Number Publication Date
JP2024011049A true JP2024011049A (ja) 2024-01-25

Family

ID=89536471

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022112728A Pending JP2024011049A (ja) 2022-07-13 2022-07-13 作業機械の監視システム及び作業機械の監視方法

Country Status (2)

Country Link
JP (1) JP2024011049A (ja)
WO (1) WO2024014115A1 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170103506A1 (en) * 2015-10-09 2017-04-13 Caterpillar Inc. Component health monitoring system using computer vision
US11447931B2 (en) * 2019-05-15 2022-09-20 Caterpillar Inc. Ground engaging tool monitoring system
JP7295785B2 (ja) * 2019-11-21 2023-06-21 株式会社小松製作所 路面状況監視システム、作業車両、路面状況監視方法およびプログラム
JP2022042425A (ja) * 2020-09-02 2022-03-14 株式会社小松製作所 作業機械の障害物報知システムおよび作業機械の障害物報知方法

Also Published As

Publication number Publication date
WO2024014115A1 (ja) 2024-01-18

Similar Documents

Publication Publication Date Title
JP6251453B1 (ja) 作業車両の周辺監視システム、作業車両、及び作業車両の周辺監視方法
JP6346375B1 (ja) 作業車両及び表示装置
JP7450083B2 (ja) 周辺監視システム及び周辺監視方法
JP7103796B2 (ja) 作業機械
JP7154026B2 (ja) 作業機械の制御装置、掘削機械の制御装置、及び作業機械の制御方法
JP7295785B2 (ja) 路面状況監視システム、作業車両、路面状況監視方法およびプログラム
EP3751058B1 (en) Loading machine control device and loading machine control method
JP2019190238A (ja) 積込機械の制御装置及び積込機械の制御方法
WO2024014115A1 (ja) 作業機械の監視システム及び作業機械の監視方法
WO2024014116A1 (ja) 作業機械の監視システム及び作業機械の監視方法
WO2023149530A1 (ja) 作業機械の監視システム及び作業機械の監視方法
WO2023149544A1 (ja) 作業機械の監視システム及び作業機械の監視方法
WO2023149543A1 (ja) 作業機械の監視システム及び作業機械の監視方法
WO2023149531A1 (ja) 作業機械の監視システム及び作業機械の監視方法
WO2022196639A1 (ja) 作業機械の異常判定システム及び作業機械の異常判定方法
WO2022196641A1 (ja) 作業機械の制御システム及び作業機械の制御方法
JP2022157015A (ja) 建設機械