本開示は、一般に、1つ以上のセンサを使用して、作業現場などの環境における作業機械のコンポーネントの摩耗を検出するためのシステム及び方法を対象とする。1つ以上のセンサは、コンポーネントに関連する撮像データを撮像することができる(立体カメラ又は「ステレオカメラ」の一部とすることができる)撮像センサ、LiDARセンサ、赤外線(IR)センサ、ソナーセンサ、温度センサ、又はレーダーセンサを含むことができる。撮像データは、ビデオ、画像、LiDAR撮像データ、IR撮像データ、音声ベースの撮像データ、又はレーダーデータを含むことができるが、これらに限定されない。撮像データは、作業機械に関連する摩耗検出コンピュータシステムによって分析されて、この態様は、コンポーネントの摩耗を検出するために、作業機械上、ステレオカメラ内、作業機械の1つ以上のセンサ内、またはそれらの外部もしくは作業機械の外部に配置され得る。例えば、このコンポーネントは、作業機械のバケットの1つ以上のGETであってもよい。作業機械の1つ以上のセンサは、それぞれ異なる視野を有してもよく、コンポーネントに対してわずかに異なる撮像データを生成してもよい。異なる視野は、コンポーネントの撮像に悪影響を与え得る悪い照明条件、影、又は破片に関連する誤差を低減し得る。摩耗検出システムは、撮像された撮像データから、GETのマーカー点(例えば、エッジ、角部、又はコンポーネント上の視覚的指標)に関連する画像点を判定し、その画像点を使用して、コンポーネントの測定値を判定することができる。摩耗検出システムは、判定された測定値、及び/又は、過去の又はベースラインの測定値に基づいて、コンポーネントの摩耗レベル又は損失を判定し得る。摩耗検出システムは、作業機械の掘削-ダンプサイクルの様々な時点で、1つ以上のセンサから撮像データを受信し、掘削-ダンプサイクル内の時点の配置に基づいて、警告を生成するか追加の撮像データを撮像するかを判定してもよい。
図1は、例示的な摩耗検出コンピュータシステム110を含む例示的な作業機械100の概略的に示すブロック図である。図1において、作業機械100は、油圧採掘ショベルとして描かれているが、他の例では、作業機械100は、土壌、岩石、又は鉱物などの材料を移動、彫刻、掘削、又は除去する任意の機械を含むことができる。図1に示すように、作業機械100は、アーム122に取り付けられたバケット120を含むことができる。バケット120は、作業機械100が材料を緩めるのを助ける歯のような1つ以上の地面係合ツール(GET)125を含むことができる。本開示で提供される例では、GET125を一般に歯と呼ぶが、他の種類のGETも、本開示によって提供される実施形態の範囲内にあると考えられる。例えば、GETは、リップシュラウド、エッジガード、アダプター、リッパープロテクター、刃先、サイドバープロテクター、チップ、又は作業現場の材料との摩擦により時間の経過とともに摩耗する作業機械に関連するその他のツールを含むことができる。
作業機械100はまた、視野127を有するセンサ126及び視野129を有するステレオカメラ128のような、それぞれの視野を有する1つ以上のセンサを含む。視野127と視野129は両方ともバケット120とGET125に向けられている。図1に示すように、視野127と視野129は、重なってはいるが、異なる。センサ126は、単なるいくつかの例として、画像センサ、LiDARセンサ、IRセンサ、ソナーセンサ、又はレーダーセンサを含むことができる。
本開示において使用される場合、「撮像データ」という用語は、センサ126又はステレオカメラ128によって生成され、GET125のサイズ、形状、又は外観を反映するように解読又は処理可能な、摩耗検出コンピュータシステム110によって受信されるデータを指す。本開示は、単数のセンサ126を参照しているが、いくつかの実施形態において、作業機械100は、ステレオカメラ128に加えて、通常、それぞれがそれ自体の視野127を有する2つ以上のセンサ126を含む。例えば、作業機械100は、視野129を有するカメラ128、LiDARセンサ、追加の撮像センサ、及びIRセンサを含んでもよく、これらすべては、本開示の実施形態による摩耗検出コンピュータシステムによって処理される撮像データを生成してもよい。
いくつかの実施形態において、センサ126は、適応スキャンLiDARセンサ、すなわち、その解像度および視野が命令され、制御され、構成され得るLiDARセンサを含む。例えば、センサ126は、AEYE 4Sight M(商標)を含むことができる。いくつかの実施形態では、視野127は、60度×30度のベースラインから開始し(「低」解像度範囲スキャンを表す)、その後、0.025度にわたる高精細関心領域まで0.1度ずつ調整されてもよいが、他の実施形態では、他の視野及び角度解像度が存在してもよい。センサ126は、100Hzの周波数で1平方度当たり最大1600個の点を収集するように構成することができる。センサ126の精度は、視野127の角度解像度と、センサ126とGET125との間の距離との関数である。例えば、GET125がセンサ126から約6メートル離れており、視野127が60度×30度に構成されている場合、1平方度当たり1600個の点のスキャンは、約7.2メートル×3.2メートルの撮像矩形内にLiDARヒットを生成する。視野の焦点を再調整することにより、LiDARヒットは水平方向と垂直方向に2.6ミリメートルを記録できる。センサ126の一例を上述したが、適応スキャンが可能な異なるLiDARセンサを様々な実施形態で使用することができる。
センサ126は、赤外線センサ又はGET125の熱署名を検出することができるセンサも含むことができる。例えば、センサ126は、640×512の解像度、9Hzのリフレッシュレート、75度の視野を備えた長波FLIR(登録商標)赤外線カメラを含むことができる。赤外線センサ126は、光が少ない環境、または動作中に破片がGET125に付着する可能性がある環境において、カメラ128を補完することができる。センサ126の他の例として、ソナー又はレーダーセンサを含むことができる。
ステレオカメラ128は、バケット120及びGET125のような視野129内の物体のステレオ画像を撮像するために、間隔を置いて配置された左画像センサ及び右画像センサを含む。いくつかの実施形態では、左画像センサ及び右画像センサは、モノクロ画像を撮像する。ステレオカメラ128は、視野129内の物体のカラー画像を撮像するためのカラー画像センサをさらに含むことができる。いくつかの実施形態では、カメラ128はデジタル画像を出力し、又は作業機械100は、カメラ128と摩耗検出コンピュータシステム110との間に配置され、摩耗検出コンピュータシステム110がアナログ画像を受信する前にデジタル画像に変換するアナログデジタル変換器を含んでもよい。本開示は、議論を容易にするために、単一の視野129を有するステレオカメラ128を参照しているが、当業者は、カメラ128の各画像センサ(例えば、左、右、カラー)が、本開示の実施形態に従ってGET125が測定され得る立体画像を生成するために、それぞれの視野を有することを理解するであろう。
いくつかの実施形態では、センサ126及びカメラ128のような作業機械100の1つ以上のセンサは、1つ以上のセンサのレンズの表面(又はスクリーン)から破片、霧、又は他の障害物を除去するためのレンズクリーニング装置を含むことができる。レンズクリーニング装置は、例えば、圧縮空気、洗浄溶剤、又は洗浄不凍液を噴出するノズルを含むことができる。レンズクリーニング装置は、レンズの表面に接触して拭き取り、破片又は他の障害物をレンズ表面から押し出すように構成された可動ワイパーをさらに含むことができる。いくつかの実施形態では、1つ以上のセンサのレンズのカバーは、レンズスクリーンを(円筒形レンズスクリーンの場合)回転させるか、又はレンズスクリーンを(平面レンズスクリーンの場合)スライドさせて、1つ以上のワイパーに接触させてスクリーンから破片を取り除くアクチュエータを含んでもよい。
作業機械100が作業現場内で動作するとき、掘削-ダンプサイクルの一部として作業現場内で材料を移動又は掘削するためにアーム122を動かしてバケット120を位置決めすることができる。作業機械100は、掘削-ダンプサイクルによりバケット120を位置決めする際に、バケット120を視野127及び視野129に出し入れすることができる。センサ126及びカメラ128は、掘削-ダンプサイクル中にGET125を遮るものなく見えるように配置されてもよい。例えば、センサ126及びカメラ128は、掘削-ダンプサイクル内でバケット120が材料を空にする瞬間にバケット120及びGET125が見えるように、作業機械100上に配置されてもよい。別の例として、センサ126及びカメラ128は、掘削-ダンプサイクル中にアーム122が完全に伸張又は収縮したときにバケット120が視野に入るように配置されてもよい。図2~4に関して以下に説明するように、センサ126及びカメラ128の位置(及びそれぞれの視野127及び視野129)は、作業機械100の種類及び作業現場に関する詳細に応じて変化してもよい。
いくつかの実施形態において、視野127及び視野129は、掘削-ダンプサイクルの異なるポイントにおいて、バケット120及びGET125の画像データを撮像してもよい。例えば、センサ126は、掘削-ダンプサイクルの早い段階(例えば、サイクルの終わりよりもサイクルの開始に近い)でGET125の画像データを撮像してもよく、カメラ128は、掘削-ダンプサイクルの遅い段階(例えば、サイクルの開始よりもサイクルの終わりに近い)でGET125の画像データを撮像してもよい。いくつかの実施形態では、センサ126及び/又はカメラ128は、掘削-ダンプサイクルの異なるポイントでGET125の画像データを収集するために、それぞれの視野127、129を調整してもよい。例えば、いくつかの実施形態において、センサ126及びカメラ128の両方は、掘削-ダンプサイクルの早い段階でGET125の画像データを撮像した後、視野127、129を調整して、掘削-ダンプサイクルの遅い段階でGET125の画像データを撮像してもよい。
いくつかの実施形態によれば、作業機械100は、操作者制御パネル130を含む。操作者制御パネル130は、作業機械100の操作者のための出力を生成するディスプレイ133を含むことができ、これにより、操作者は、摩耗検出コンピュータシステム110に関する状態又は警報を受信することができる。ディスプレイ133は、液晶ディスプレイ(LCD)、発光ダイオードディスプレイ(LED)、陰極線管(CRT)ディスプレイ、又は当技術分野で知られている他の種別のディスプレイを含むことができる。いくつかの例では、ディスプレイ133は、スピーカ又はヘッドホン又は周辺スピーカ用のポート等、音声出力を含む。ディスプレイ133は、マイクや周辺マイクのためのポートなどの音声入力デバイスを含むこともできる。いくつかの実施形態では、ディスプレイ133は、入力デバイスとしても機能するタッチ感知ディスプレイ画面を含む。
ディスプレイ133は、摩耗コンピュータ検出システム110によってレンダリングされたGET125の摩耗レベル又は損失に関する情報を表示することができる。例えば、ディスプレイ133は、計算されたGET125の測定値を表示してもよい。計算された測定値は、いくつかの実施形態において、GET125の健康状態を反映するようにカラーコード化されてもよい。例えば、計算された測定値は、GET125が許容可能な摩耗レベルを有すると見なされる場合は緑の背景で表示されてもよく、GET125の交換が必要に近づいている場合は黄色の背景で表示されてもよく、GET125が破損又は摩耗して交換が必要になるまでに達した場合は赤で表示されてもよい。ディスプレイ133は、バケット120の画像、GET125の画像、又は摩耗コンピュータ検出システム110によってレンダリングされたGET125に関連する視野127、129内の関心領域の画像を表示することもできる。
いくつかの実施形態では、操作者制御パネル130はまた、キーボード137を含む。キーボード137は、摩耗検出コンピュータシステム110のための入力能力を提供する。キーボード137は、作業機械100の操作者が摩耗検出コンピュータシステム110に入力を提供することを可能にする複数のキーを含む。例えば、本開示の例によれば、操作者は、キーボード137のキーを押下して作業機械100、バケット120、及び/又はGET125の種類を選択又は入力することができる。キーボード137は、非仮想であってもよく(例えば、物理的にキーを押すことができるものを含む)、又は、キーボード137は、ディスプレイ133のタッチ感知式の実施形態上に表示される仮想キーボードであってもよい。
図1に示すように、摩耗検出コンピュータシステム110は、1つ以上のプロセッサ140を含む。プロセッサ140は、中央処理ユニット(CPU)、グラフィックス処理ユニット(GPU)、フィールドプログラマブルゲートアレイ(FPGA)、CPU、GPU又はFPGAのある組み合わせ、又は任意の他の種類の処理ユニットのうちの1つ以上を含むことができる。プロセッサ140は、算術演算及び論理演算を実行する複数の算術論理ユニット(ALU)と、プロセッサキャッシュメモリから命令及び記憶内容を抽出した後、プログラム実行中に必要に応じてALUを呼び出して命令を実行する1つ以上の制御ユニット(CU)とを有することができる。プロセッサ140は、一般的な種類の揮発性(RAM)及び/又は不揮発性(ROM)メモリに関連付けられ得る、メモリ143に記憶されたアプリケーション、ルーチン又はプロセスのドライバ及び他のコンピュータが実行可能な命令を実行する役割も負ってもよい。
摩耗検出コンピュータシステム110は、メモリ143をさらに含む。メモリ143は、揮発性(例えば、RAM)、不揮発性(例えば、ROM、フラッシュメモリなど)、又はこれらのいずれかの組み合わせとすることができるシステムメモリを含むことができる。メモリ143は、コンピュータ可読命令、データ構造、プログラムモジュール、又は他のデータなどの情報を記憶するための任意の方法又は技術によって実現される、揮発性及び不揮発性、取り外し可能及び取り外し不可媒体などの非一時的なコンピュータ可読媒体を含むこともできる。システムメモリ、取り外し可能ストレージ、及び取り外し不可ストレージは、非一時的なコンピュータ可読媒体の例である。非一時的なコンピュータ可読媒体の例としては、RAM、ROM、EEPROM、フラッシュメモリ又は他のメモリ技術、CD-ROM、デジタル多機能ディスク(DVD)又は他の光記憶装置、カセットテープ、磁気テープ、磁気ディスク記憶装置又は他の磁気記憶装置、又は必要な情報を記憶するために使用され、摩耗検出コンピュータシステム110によってアクセスされ得る他の非一時的媒体が挙げられるが、これらに限定されない。
メモリ143は、本明細書で説明されるように、摩耗検出コンピュータシステム110のためのコンピュータ実行可能命令を含むデータを記憶する。例えば、メモリ143は、物理パラメータライブラリ145、画像アナライザ150、摩耗アナライザ153、警告マネージャ155、及びGET摩耗レベルストレージ157のような摩耗検出コンピュータシステム110の1つ以上のコンポーネントを記憶することができる。メモリ143は、摩耗検出コンピュータシステム110の動作を可能にするために、プロセッサ140によって実行可能な追加のコンポーネント、モジュール、又は他のコードを記憶することもできる。例えば、メモリ143は、入出力機能、ソフトウェアドライバ、オペレーティングシステム、又は他のコンポーネントに関するコードを含むことができる。
いくつかの実施形態によれば、摩耗検出コンピュータシステム110の様々な態様は、カメラ128内に配置されてもよい。例えば、カメラ128は、プロセッサ140及び/又はメモリ143のうちの1つ以上を含んでもよい。同様に、摩耗検出コンピュータシステム110の様々な態様は、センサ126内に配置されてもよい。加えて、又は代替的に、摩耗検出コンピュータシステム110の様々な態様は、作業機械100上に配置され、センサ126又はカメラ128の外部に配置されてもよい。
物理パラメータライブラリ145は、作業機械100、バケット120、GET125、センサ126、及び/又はカメラ128に関する物理パラメータセットを含む。例えば、物理パラメータライブラリ145は、いくつかの例として、バケット120のサイズ、バケット120の形状、GET125のサイズ、GET125の形状、及びGET125とバケット120との間の空間的関係、及び/又はセンサ126とカメラ128との間の空間的関係に関する測定データを含むことができる。物理パラメータライブラリ145は、新しい状態又は摩耗していない状態でのGET125のサイズ及び形状に関するパラメータ、及び最大摩耗に達したときのGET125のサイズ及び形状に関するパラメータをさらに含むことができる。
物理パラメータライブラリ145は、いくつかの実施形態において、バケット120又はGET125のマーカー点に関連する幾何学的パラメータを含むことができる。マーカー点は、摩耗アナライザ153によって使用され得る、GET125の摩耗又は損失を測定するためのバケット120及びGET125の態様又は参照点に関連する。例えば、マーカー点には、GET125の角部、GET125がバケット120と係合するバケット120のエッジ、バケット120のエッジとGET125との間の角部、又は溶接、塗料、溝、反射テープ、又はバーコードなどのGET125に適用された物理的マーカが含まれ得る。物理パラメータライブラリ145は、マーカー点のGET125又はバケット120に対する相対位置に関する情報を有する物理パラメータセットを含むことができる。例えば、物理パラメータセットには、GET125の角部の角度、GET125のエッジ又はバケット120のエッジに対するGET125上の物理的マーカの相対的位置が含まれ得る。摩耗検出コンピュータシステム110の実施形態は、本明細書に記載の特定の例を超えた物理パラメータセットを含んでもよく、当業者は、バケット120又はGET125上のマーカー点を検出する他の方法が使用され得ること、及び物理パラメータライブラリ145が、センサ126及び/又はカメラ128によって収集された画像データにおいてマーカー点を特定するために摩耗アナライザ153によって使用され得る物理パラメータセットを含むことができることを理解するであろう。
物理パラメータライブラリ145は、バケット120とGET125との組み合わせに関するテンプレート又は参照画像(例えば、バケットツールテンプレート)も含むことができる。例えば、作業機械100の場合、物理パラメータライブラリ145に記憶されたテンプレートのうちの1つは、バケット120が視野127及び/又は視野129内に位置することが予想されるので、GET125を有するバケット120の画像を含むことができる。バケットツールテンプレートは、摩耗していないGET125(例えば、摩耗していない、又は予期されるエッジ)、又は最大摩耗に達したGET125(例えば、閾値エッジ)を表すことができる。物理パラメータライブラリ145は、GETが交換を必要とするほど摩耗したときを摩耗アナライザ153が判定するのを助けるために、GET125の摩耗に関する他の情報も含むことができる。GET125に関する摩耗データは、いくつかの例として、実際に測定された形式(例えば、メートル法又はインチ法のサイズ)又は画素値の形式であり得る。
別の例として、物理パラメータライブラリ145は、GET125のCADベースのモデルを含むことができる。CADベースのモデルには、AutoCAD(登録商標)、Autodesk(登録商標)、SolidWorks(登録商標)、又は他のよく知られたCADプログラムなどのコンピュータ支援設計プログラムを用いて開発されたリファレンスGET125モデルを使用してもよい。摩耗検出コンピュータシステム110は、観察されたGET125のサイズ及び形状を、CADベースのモデルを基準点として、同じ種類のモデル、標準的な、又は摩耗していないGETと比較して、GET125の摩耗又は損失を判定してもよい。いくつかの実施形態において、CADベースのモデルは、GET125上の点の位置、向き、及び/又は相対的な位置決めを含むことができる。
物理パラメータライブラリ145は、複数の物理パラメータセットを含むことができ、各物理パラメータセットは、作業機械、バケット、GET、又はこれらの組み合わせに対応する。動作中、操作者は、操作者制御パネル130を使用して、バケット120及びGET125、又は作業機械100に適合する物理パラメータライブラリ145から物理パラメータセットを選択することができる。例えば、作業機械100がモデル番号「6015B」を有する油圧採掘ショベルである場合、操作者は操作者制御パネル130を用いてモデル番号「6015B」を入力することができ、摩耗検出コンピュータシステム110は、モデル「6015B」の油圧採掘ショベルに対応する物理パラメータセットを物理パラメータライブラリ145からメモリ143にロードすることができる。いくつかの例では、摩耗検出コンピュータシステム110の電源投入又はリセット動作時に、物理パラメータライブラリ145で利用可能なテンプレートのリストをディスプレイ133に表示することができ、操作者は、作業機械100のモデル番号、バケット120のバケット種類又はGET125の種類に応じて、リストから1つの物理パラメータセットを選択して動作させることができる。
いくつかの実施形態では、操作者は、作業シフトの開始時に、カメラ128の視野129内にバケット120及びGET125を配置し、摩耗検出コンピュータシステム110に、操作者制御パネル130上の入力を用いてバケット120及びGET125の画像を撮像することができる。次いで、摩耗検出コンピュータシステム110は、バケット120及びGET125を物理パラメータセットと照合する画像照合処理を実行し、一致する物理パラメータセットに基づいて、本明細書に開示される摩耗検出及び画像処理プロセスのためにそれ自体を構成することができる。いくつかの実施形態では、摩耗検出コンピュータシステム110は、カメラ128及び視野129の代わりに、センサ126及び視野127を構成処理に使用することができる。
画像アナライザ150は、視野127及び視野129内のGET125を特定するために、センサ126又はカメラ128のいずれかによって撮像された撮像データを分析し、その撮像データの処理に基づいてGET125の摩耗を測定するように構成することができる。例えば、画像アナライザ150は、(カメラ128の左画像センサによって撮像された)左修正画像及び(カメラ128の右画像センサによって撮像された)右修正画像の形態で立体画像をカメラ128から受信することができる。画像アナライザ150は、GET125に対応する関心領域を特定又は判定するために、左修正画像及び右修正画像に対して様々なコンピュータビジョン技術を実行することができる。別の例として、画像アナライザ150は、GET125に対応する関心領域を特定するために使用することができるセンサ126によって撮像された撮像データを受信することができる。開示された実施形態では、画像アナライザ150は、以下により詳細に説明するように、センサ126からデータを受信して、GET125の摩耗又は損失を判定する。
いくつかの実施形態において、画像アナライザ150は、GET125の摩耗又は損失が検出された場合に、2セットの撮像データを処理する。撮像データの第1のセットは、視野127又は視野129内の関心領域を特定するために撮像される。関心領域は、視野127又は視野129内のGET125の相対位置に対応する。関心領域を検出するための撮像データの第1のセットは、GET125の一般的な関心領域の位置を特定するように設計された、広く低解像度の撮像データの撮像であり、「粗スキャン」と呼ばれることがある。いくつかの実施形態では、撮像データの第1のセットはカメラ128を用いて撮像されてもよく、画像アナライザ150は、コンピュータビジョン又は機械学習技術を用いて関心領域を判定する。他の実施形態では、撮像データの第1のセットは、センサ126を用いて、比較的広い第1低解像度(例えば、センサ126のLiDAR実施形態では60度×30度)で撮像されてもよい。いくつかの実施形態では、画像アナライザ150は、センサ126及びカメラ128から撮像データの第1のセットを受信する。
画像アナライザ150は、GET125に対応する関心領域を特定すると、センサ126を制御して、関心領域に焦点を合わせ、より高解像度のスキャン又はいくつかの実施形態では「微細スキャン」を行ってもよい。例えば、画像アナライザ150は、特定された関心領域に焦点を合わせて視野127を狭めるように変更するようにセンサ126のアプリケーション・プログラミング・インターフェース(API)と通信することができる。次に、センサ126は、GET125をもう1回スキャンして、撮像データの第2のセットを収集する。狭い視野127を有するセンサ126によって撮像された撮像データの第2のセットは、センサ126(広い視野に設定されている場合)又はカメラ128のいずれかによって撮像された第1の撮像データよりも高い解像度を有する。
いくつかの実施形態において、粗スキャンは、センサ126又はカメラ128のいずれかによって実行されることができ、微細スキャンは、カメラ128又はセンサ126のうちの他方によって実行されることができる。或いは、センサ126及びカメラ128の両方が、粗スキャン及び微細スキャンの両方を実行してもよい。
一実施形態において、画像アナライザ150は、カメラ128から受信した左修正画像及び右修正画像に基づいて、高密度ステレオ視差マップを作成する。画像アナライザは、関心領域を特定するために、高密度ステレオ視差マップを分割することができる。加えて、画像アナライザ150は、高密度ステレオ視差マップに基づいて3次元点群を作成することもでき、また、3次元点群を分割して関心領域を特定することもできる。
コンピュータビジョン技術に加えて、又はコンピュータビジョン技術を使用する代わりに、画像アナライザ150は、深層学習又は機械学習技術を用いて、カメラ128によって撮像された左修正画像及び/又は右修正画像内の関心領域を特定することができる。例えば、画像アナライザ150は、個々のGET、GETグループ、又はGETとバケットの組み合わせがラベル付けされた画像コーパスに基づいて関心領域を特定するように訓練されたニューラルネットワークを使用する深層学習GET検出アルゴリズムを使用することができる。画像アナライザ150はまた、画像内のGETの位置を特定するように訓練されたニューラルネットワークを採用する深層学習GET位置アルゴリズムを使用することもできる。GET位置アルゴリズムは、個々のGETがラベル付けされた画像のコーパスを用いて訓練することができる。GET位置アルゴリズムは、画像内の個々のGETを特定すると、GETの対応する位置を出力する。例えば、GET位置アルゴリズムは、GET位置に関する画素位置又はバウンディングボックス出力を出力することができる。
いくつかの実施形態において、深層学習GET検出アルゴリズムは、視差マップに基づいて関心領域を特定するように訓練されたニューラルネットワークを含む。例えば、深層学習GET検出アルゴリズムの訓練データのコーパスは、個々のGET、GETグループ、又はGET及びバケットの組み合わせがラベル付けされている左修正及び右修正画像間の視差画像を含むことができる。
上記のように、画像アナライザ150がGET125を含む関心領域を特定すると、画像アナライザ150は、センサ126に、視野127に焦点を合わせるように命令及び制御してもよく、又はカメラ128に、関心領域における視野129に焦点を合わせるように命令及び制御してもよい。いくつかの実施形態では、画像アナライザ150は、センサ126とカメラ128との間の空間的関係データを用いて、センサ126に関心領域上の視野127を変更するように命令する。例えば、LiDARの実施形態では、センサ126は、その視野を変更する命令を受信すると、そのMEMS(微小電気機械システム)ミラーの構成を狭い視野127に変更して、GET125に関するより高解像度の撮像データを撮像することができる。
画像アナライザ150は、撮像されたより高解像度の撮像データから、GET125に対応する3次元点群を作成することができる。3次元点群中の各点は、LiDARヒット又は赤外線熱署名などのセンサ126によって撮像された「ヒット」又は検出点に対応する。いくつかの実施形態では、点間の実際の距離は1mm程度に小さくてもよい。十分に高い解像度を有する実施形態(すなわち、実際の点間距離が約2.5mm未満である場合)では、画像アナライザ150は、摩耗検出分析のために3次元点群データを摩耗アナライザ153に送る。他の実施形態では、画像アナライザ150は、摩耗分析のために3次元点群データをさらに洗練するための追加処理を実行してもよい。
例えば、いくつかの実施形態では、画像アナライザ150は、3次元点群を密なメッシュ表面に変換することができる。画像アナライザ150はさらに、GET撮像データを摩耗アナライザ153に通信する前に、密なメッシュ表面を疎なメッシュ表面に変換することができる。センサ126によって撮像された撮像データをCADベースのGETモデルと比較するときに、3次元点群から密なメッシュ表面、次いで疎なメッシュ表面への変換は、計算コストを削減するために望ましい場合がある。3次元点群から密なメッシュ表面、そして疎なメッシュ表面への変換でも、オーバーサンプリングにより撮像データに存在する可能性のあるノイズを除去できる。
いくつかの実施形態では、摩耗アナライザ153は、カメラ128からのより低い解像度の第1の受信撮像データを、センサ126からのより高い解像度の第2の受信撮像データと融合させて、GET125の観測測定に対する信頼性を得る。このような実施形態では、画像アナライザ150は、カメラ128によって撮像された左画像及び右画像に対して追加の処理を実行する。例えば、画像アナライザ150は、関心領域を特定すると、さらにそれらを処理して、左修正画像に対応する左エッジデジタル画像と、右修正画像に対応する右エッジデジタル画像とを作成することができる。画像アナライザ150は、勾配大きさ検索ベースのエッジ検出を採用してもよいが、コンピュータビジョンの分野で採用されている他のエッジ検出技術(例えば、ゼロクロスに基づくエッジ検出技術)を他の実施形態で採用して、左エッジデジタル画像及び右エッジデジタル画像を作成してもよい。
いくつかの例では、画像アナライザ150は、GET125のエッジ推定を洗練し、及び/又は、撮像された画像内のGET125の予想される位置を使用することによって、個々のGET125を特定することができる。例えば、画像アナライザ150は、使用中のバケット120とGET125の種類に対応する物理パラメータライブラリ145に記憶された物理パラメータセットに基づいて、バケット120に対するGET125の予想される位置を知ることができる。この情報を用いて、画像アナライザ150は、選択された画像内の予想される位置に到達し、歯に最も近い画素領域を撮像することができる。次に、畳み込みフィルタ、セグメンテーション分析、エッジ検出、又は画素領域内の画素強度/暗さ分析を適用するなどのコンピュータビジョン技術に基づいて、画素領域を使用して歯をさらに特定することができる。いくつかの実施形態では、画像アナライザ150は、個々の歯テンプレートを用いて画素領域に適用し、コンピュータビジョン技術を用いて歯の位置をさらに洗練することができる。画像アナライザ150は、動的プログラミング技術を用いてエッジをさらに洗練してもよい。動的プログラミング技術は、エッジの強度に基づく平滑化、エッジが高密度ステレオ視差マップ内の穴や不確実な領域に近いかどうか、又は他のエッジ検出最適化手法を含むことができる。画像アナライザ150は、GET位置アルゴリズムの出力を使用して、GETの位置を判定する際の信頼性を得て、GET位置アルゴリズムの出力に基づいてエッジ推定をさらに洗練することもできる。
画像アナライザ150はまた、GET125における摩耗又は損失を判定するために、センサ126によって撮像されたより高解像度の撮像データと共に使用され得る摩耗アナライザ153である摩耗アナライザ153に提供される疎なステレオ視差を作成することができる。いくつかの実施形態では、画像アナライザ150は、(左修正画像に関連付けられた)左エッジデジタル画像と(右修正画像に関連付けられた)右エッジデジタル画像との間に疎なステレオ視差を作成し、この視差は、摩耗アナライザ153によって使用される。代替的に、画像アナライザ150は、(左修正画像に関連付けられた)第1の関心領域画像と(右修正画像に関連付けられた)第2の関心領域画像とから疎なステレオ視差を計算し、疎なステレオ視差画像からエッジを検出してもよい。
摩耗アナライザ153は、画像アナライザ150によって生成された疎なステレオ視差を摩耗のために分析するように構成することができる。例えば、バケット120及びGET125に関連付けられた物理パラメータセットは、摩耗していないGET125又はカメラ128の予期される画像取得に基づいて較正された摩耗していないGET125のセットに関連する予期されるデータを含むことができる。いくつかの例として、予期されるデータは、画素、実測値、GET125のCADベースのモデル、又は摩耗していないGETに関するエッジ画像の形式であり得る。摩耗アナライザ153は、疎なステレオ視差を受信すると、疎なステレオ視差を、センサ126によって撮像されたより高解像度の撮像データ(又は、いくつかの実施形態では、3次元点群に基づいて判定された密なメッシュ表面又は疎なメッシュ表面)の3次元点群と融合し、相関させ、GET125に関する測定データを判定することができる。次に、GET125の摩耗レベル又は損失を判定するために、判定された測定データを、GET125の摩耗していないバージョンに対応する予想データと比較することができる。
いくつかの実施形態において、画像アナライザ150は、センサ126及び/又はカメラ128から収集された画像データにおけるマーカー点を特定する。上記の通り、マーカー点は、GET125の角部、GET125に適合するバケット120のエッジを参照することができ、又はバケット120又はGET125上の物理的又は視覚的マーカを参照することができる。例えば、画像アナライザ150がマーカー点としてGET125の角部を特定している場合、画像アナライザ150は、いくつかの例としての、Moravec、Harris&Stephens、Shi-Tomasi、Forstner、マルチスケールHarris、ガウスのラプラシアン、Wang及びBrady、SUSAN(核を同化する最小単一値セグメント)、Trajkovic、Hedleyなどのコンピュータビジョンの分野で知られている角部検出技術、及び/又は、ヘシアン技術などを実行してもよい。セグメンテーション、パターンマッチング、又はテンプレートマッチング分析を実行することに加えて、センサ126及び/又はカメラ128によって収集された画像データに基づいて、マーカー点を特定するために、他の角部検出方法が使用され得る。
いくつかの実施形態において、画像アナライザ150は、コンピュータビジョン技術に加えて、又は代替として、深層学習又は機械学習技術を使用して、関心領域内のマーカー点を特定してもよい。例えば、画像アナライザ150は、GET125のマーカー点(例えば、角部、エッジ、マーカ)がラベル付けされているデータコーパスを使用して訓練されたマーカー点検出アルゴリズムを展開してもよい。マーカー点検出アルゴリズムは、いくつかの例として、正規化されたモノクローム画像(例えば、カメラ128の左画像センサ及び右画像センサによって提供される撮像データと同様)、カラー画像(例えば、カメラ128のカラー画像センサによって提供される撮像データと同様)、視差マップ(例えば、カメラ128の左画像センサ及び右画像センサによって提供される撮像データに基づいて生成された視差と同様)、LiDAR点群撮像データ及び/又は赤外線撮像データを使用して訓練され得る。マーカー点検出アルゴリズムの訓練データは、作業機械100の実施形態に配置されたセンサ126及びカメラ128の実施形態と変動し、対応し得る。
画像アナライザ150はまた、画像データソースにわたって撮像データ内の画像点をマッピングする。例えば、画像アナライザ150は、センサ126によって撮像された撮像データ及び128によって撮像された撮像データに関連するGET125の端部先端に関連する画像点を判定してもよい。画像アナライザ150は、これを行って、破片又は悪い照明条件によって引き起こされ得る撮像データの誤差を判定してもよい。例えば、画像アナライザ150は、カメラ128の撮像データによって撮像された別の1セットの撮像データの画像点データと比較して、センサ126によって撮像された1組の撮像データからの画像点データが外れ値であるように見える場合、これを無視してもよく、その逆の場合もまた同様である。いくつかの実施形態において、画像アナライザ150は、最近に撮像された撮像データから判定された画像点データを過去の画像点データと比較し、過去の画像点データと一致しない画像点データを無視してもよい。
いくつかの実施形態では、疎なステレオ視差に関連する画素数を用いて、GETの摩耗又は損失を測定することができる。画素数には、領域(例えば、GETの総画素)、画素単位のGETの高さ、画素単位のGETの幅、GETの高さと幅の合計が含まれるが、これはいくつかの例にすぎない。画素数の判定方法は、GETの形状やスタイルによって変化することができる。例えば、長さが幅よりもはるかに大きいGETには、高さ画素数を使用することができ、幅が長さよりもはるかに大きいGETには、幅画素数を使用することができる。本開示の精神及び範囲を逸脱することなく、画素数を判定するための様々な方法を使用することができる。
いくつかの実施形態において、摩耗アナライザ153は、判定された測定データと、摩耗していないGET125に対応する予想データとの間の類似性スコアを計算することができる。類似性スコアは、GET125の判定された測定データが物理パラメータセットの予想データとどの程度一致するかの尺度を反映することができる。例えば、類似性スコアは、類似性を検出する和集合交点又はJaccardインデックス法を使用することを含むことができる。いくつかの実施形態では、類似性スコアは、類似性を検出するためのダイス係数又はF1スコア法を用いて判定されてもよい。類似性スコアはまた、疎なステレオ視差の画素が予想されるエッジ画像と重なる割合を反映する値も含むことができる。いくつかの実施形態では、類似性スコアは、0から100までスケール化又は正規化されてもよい。
類似性スコアは、GET125の摩耗の指標を提供することができる。例えば、低いスコア(例えば、0から20の範囲)は、GET125の1つが壊れているか、又は歯の損失を示す欠損を示している可能性がある。高いスコア(例えば、80~100の範囲)は、歯の健康状態が良好であり、交換する必要がないことを示している可能性がある。低いスコアと高いスコアの間のスコアは、歯の摩耗レベルを示すことができ、より高いスコアは、より低いスコアよりも歯の交換のリードタイムが長いことを示すことができる。
いくつかの実施形態では、摩耗アナライザ153は、GET125に関する測定データを経時的に収集し、収集された測定データを用いて、GET125の摩耗レベル及びGET125の摩耗傾向を判定することができる。摩耗アナライザ153は、収集された測定データをGET摩耗レベルストレージ157に記憶してもよい。例えば、作業機械100は、ジョブのために数日間にわたって作業現場で動作し続けることができる。作業機械100がジョブ中に材料を移動させると、カメラ128は、ステレオ画像バケット120とGET125とを摩耗検出コンピュータシステム110に提供し、画像アナライザ150は、GET125のために疎なステレオ視差を作成する。摩耗アナライザ153は、ジョブの期間にわたるいくつかの時点でのGET125に関連する測定データ(例えば、画素数、メートル法測定、インチ法測定)をマッピングすることができる。バケット120及びGET125が作業現場で材料と係合するにつれて、GET125は摩耗によりサイズが減少することが予想される。したがって、GET125に関連する測定データも時間とともに減少し、時間の経過に伴う画素数は摩耗傾向を反映することにある。摩耗アナライザ153は、特定の時点における摩耗傾向を用いて、特定の時点におけるGET125の摩耗レベルを判定することができる。GET125の摩耗レベルは、GET125の交換が必要であることを示している場合もあれば、GET125の1つ以上の損失を示している場合もある。いくつかの実施形態では、GET125に関連する測定データはメモリ143に記憶されることができ、複数のジョブ及び複数の作業現場に適用されることができ、摩耗傾向はGET125の寿命に適用することができる。このような実施形態では、バケット120又はGET125が交換されると、摩耗アナライザ153によって撮像されたGET125に関連する画素数をリセットすることができ、摩耗アナライザ153は、ゼロ時点からGET125の画素数の収集を再開することができる。
摩耗アナライザ153は、GET125によって経時的に測定された測定データに基づいて摩耗傾向を判定するので、摩耗アナライザ153は、GET125の交換が必要になる可能性がある場合の予測も作成することができる。例えば、摩耗アナライザ153は、GET125に関連する測定データが、GET125が10作業時間ごとに1%の寿命を失うことを示しており(測定データは10作業時間ごとに1%減少するため)、GET125が800作業時間使用されていると判定した場合、摩耗アナライザ153は、200時間以内にGET125を交換する必要があると判定することができる。
いくつかの実施形態では、摩耗検出コンピュータシステム110は、警告マネージャ155を含むことができる。警告マネージャ155は、摩耗アナライザ153と通信することができ、摩耗アナライザ153によって特定された摩耗傾向及び摩耗レベルを監視することができる。警告マネージャ155は、摩耗アナライザ153によって特定された情報に基づいて操作者制御パネル130にメッセージ警告を提供することができる。例えば、摩耗レベルが摩耗閾値に達した場合、警告マネージャ155は、操作者制御パネル130のディスプレイ133に示された警告を生成することができる。閾値は、極端なGET摩耗、又は場合によっては完全なGET損失を示す値に対応することができる。警告は、作業機械100の操作者に、1つ以上のGET125が交換を必要としていることを示すことができる。摩耗閾値は、実施形態によって異なる可能性があり、GET125の種類及びGET125が係合する作業現場の材料に依存し得る。
警告マネージャ155はまた、GET125が2週間以内に交換する必要があるなど、将来のある時点でGET125の交換が必要になる可能性があるという警告を提供することができる。交換警告は、GET125の摩耗傾向予測に関する情報を含むことができる。例えば、交換警告は、摩耗傾向の定量化(例えば、GET125が1日当たり2%摩耗している)、歯が使用された時間、又は使用データに基づいてGET125が摩耗閾値に達すると予想される日付又は時間を含むことができる。
いくつかの実施形態では、警告マネージャ155は、摩耗アナライザ153によって特定された摩耗傾向を監視し、作業機械100の操作者に現在の摩耗レベルを通知するように摩耗レベル値をディスプレイ133に提供することができる。例えば、摩耗傾向がGET125が60%摩耗していることを示している場合、警告マネージャ155は、摩耗傾向に基づいて、交換が必要になる前にGET125の寿命が40%残っていることを示す表示を提供することができる。ディスプレイ133は、また、歯が破損したこと、歯の損失を示すこと(例えば、GET125の1つ以上の寿命が20%未満であるとき)を操作者に知らせることもできる。
いくつかの実施形態において、警告マネージャ155は、摩耗レベル又はGET125の測定値を示すディスプレイ133上に摩耗レベルをレンダリングするようにする命令を生成することができる。例えば、摩耗アナライザ153が、処理された撮像データに基づいて、GET125のうちの1つが現在325mmであると判定した場合、警告マネージャ155は、プロセッサによって実行されると、ディスプレイ133に、その1つのGETが現在325mmであることを示すようにする命令を生成してもよい。
いくつかの実施形態において、摩耗検出コンピュータシステム110は、遠隔監視コンピュータシステム160と通信することができる。遠隔監視コンピュータシステム160は、遠隔ディスプレイ163、1つ以上の遠隔プロセッサ165、及び遠隔メモリ170を含むことができる。遠隔監視コンピュータシステム160は、1つ以上の作業機械100が動作する作業現場に配置されることができ、作業現場における摩耗検出コンピュータシステム110の関連の時点と通信してもよい。遠隔監視コンピュータシステム160は、複数の作業機械100のためにGET摩耗レベルを表示し、作業現場全体でのGETの健康状態の監視を容易にするために、GET摩耗情報を記憶するように構成することができる。例えば、遠隔ディスプレイ163は、1つの場所に各GET125の摩耗レベルを表示して、監視を容易にするために、1つ以上の作業機械100に対応するユーザインターフェースを表示するように構成されてもよい。遠隔監視コンピュータシステム160は、ノートパソコン、デスクトップコンピュータシステム、又はモバイルデバイスとして実装されてもよい。
遠隔監視コンピュータシステム160は、1つ以上の遠隔プロセッサ165を含む。遠隔プロセッサ165は、中央処理ユニット(CPU)、グラフィックス処理ユニット(GPU)、フィールドプログラマブルゲートアレイ(FPGA)、CPU、GPU又はFPGAのある組み合わせ、又は任意の他の種類の処理ユニットのうちの1つ以上を含むことができる。遠隔プロセッサ165は、算術演算及び論理演算を実行する複数の算術論理ユニット(ALU)と、プロセッサキャッシュメモリから命令及び記憶内容を抽出した後、プログラム実行中に必要に応じてALUを呼び出して命令を実行する1つ以上の制御ユニット(CU)とを有することができる。遠隔プロセッサ165は、一般的な種類の揮発性(RAM)及び/又は不揮発性(ROM)メモリに関連付けられ得る、遠隔メモリ170に記憶されたアプリケーション、ルーチン又はプロセスのドライバ及び他のコンピュータ実行可能命令を実行する役割も負ってもよい。
遠隔監視コンピュータシステム160はまた、遠隔メモリ170を含む。遠隔メモリ170は、揮発性(例えば、RAM)、不揮発性(例えば、ROM、フラッシュメモリなど)、又はこれらのいずれかの組み合わせとすることができるシステムメモリを含むことができる。遠隔メモリ170は、コンピュータ可読命令、データ構造、プログラムモジュール、又は他のデータなどの情報を記憶するための任意の方法又は技術によって実現される、揮発性及び不揮発性、取り外し可能及び取り外し不可媒体などの非一時的なコンピュータ可読媒体を含むこともできる。システムメモリ、取り外し可能ストレージ、及び取り外し不可ストレージは、非一時的なコンピュータ可読媒体の例である。非一時的なコンピュータ可読媒体の例としては、RAM、ROM、EEPROM、フラッシュメモリ又は他のメモリ技術、CD-ROM、デジタル多機能ディスク(DVD)又は他の光記憶装置、カセットテープ、磁気テープ、磁気ディスク記憶装置又は他の磁気記憶装置、又は必要な情報を記憶するために使用され、遠隔監視コンピュータシステムによってアクセスされ得る他の非一時的媒体が挙げられるが、これらに限定されない。
遠隔メモリ170は、遠隔ディスプレイ163を命令及び制御し、遠隔ログマネージャ175を実装するための、コンピュータが実行可能な命令を含むデータを、遠隔監視コンピュータシステム160に格納する。遠隔メモリ170は、遠隔監視コンピュータシステム160の動作を可能にするために、遠隔プロセッサ165によって実行可能な追加のコンポーネント、モジュール、又は他のコードを記憶することもできる。例えば、遠隔メモリ170は、入出力機能、ソフトウェアドライバ、オペレーティングシステム、又は他のコンポーネントに関するコードを含むことができる。
遠隔監視コンピュータシステム160は、GETの健康状態に関連する作業現場のマネージャのための監視出力を生成し、作業現場における1つ以上の作業機械100のGET摩耗レベルに関連する警告及び警報を受信する遠隔ディスプレイ163を含む。遠隔ディスプレイ163は、液晶ディスプレイ(LCD)、発光ダイオードディスプレイ(LED)、陰極線管(CRT)ディスプレイ、又は当技術分野で知られている他の種別のディスプレイを含むことができる。いくつかの例では、遠隔ディスプレイ163は、スピーカ又はヘッドホン又は周辺スピーカ用のポート等、音声出力を含む。遠隔ディスプレイ133は、マイクや周辺マイクのためのポートなどの音声入力デバイスを含むこともできる。いくつかの実施形態では、遠隔ディスプレイ133は、入力デバイスとしても機能するタッチ感知ディスプレイを含む。
ディスプレイ133(作業機械100上)と同様に、遠隔監視コンピュータシステム160の遠隔ディスプレイ163は、作業現場で摩耗コンピュータ検出システム110によってレンダリングされたGET125の摩耗レベル又は損失に関する情報を表示することができる。例えば、遠隔ディスプレイ163は、1つ以上の作業機械100のGET125の算出した測定値を表示してもよい。計算された測定値は、いくつかの実施形態において、GET125の健康状態を反映するようにカラーコード化されてもよい。例えば、計算された測定値は、GET125が許容可能な摩耗レベルを有すると見なされる場合は緑の背景で表示されてもよく、GET125の交換が必要に近づいている場合は黄色の背景で表示されてもよく、GET125が破損又は摩耗して交換が必要になるまでに達した場合は赤で表示されてもよい。ディスプレイ133は、作業現場における作業機械100の各摩耗コンピュータ検出システム110によってレンダリングされた、バケット120、GET125、又はGET125に関連する視野127、129内の関心領域の画像を示すこともできる。
摩耗検出コンピュータシステム110は、GET125が広範囲の摩耗により交換が必要になった場合、又は破損した場合に、作業機械100の操作者に通知することを可能にする。摩耗検出コンピュータシステム110によって採用され、以下により詳細に説明される処理は、5mm未満のスケールでのGET摩耗の高精度かつ正確な測定を提供し、これにより、操作者は、極端なGET摩耗又はGET損失の場合に作業機械100の動作を停止することができる。摩耗検出コンピュータシステム110によって展開される処理及び技術は、様々な作業機械に使用することができる。
例えば、図2は、ホイールローダ作業機械201が動作する例示的な環境200の概略側面図を示す図である。ホイールローダ作業機械201は、バケット220と1つ以上のバケット225とを含むことができる。図2に示されるように、GET225及びバケット220は、掘削-ダンプサイクルのダンプ終了中に(センサ226の)視野227及び(カメラ228の)視野229内にあるように、センサ226及びカメラ228が配置される。その結果、このような実施形態では、LiDARセンサ226及びカメラ228は、バケット220が掘削-ダンプサイクルのダンプ終了時に停止しているときに撮像データを撮像するように構成され得る。
別の例として、図3は、油圧採掘ショベル作業機械301が動作している例示的な環境300の概略側面図を示す図である。油圧採掘ショベル作業機械301は、バケット320と、1つ以上のバケット325とを含むことができる。ホイールローダ作業機械201のセンサ226及びカメラ228の位置とは対照的に、センサ326及びカメラ328は、掘削-ダンプサイクルの掘削終了中にGET325が(センサ326の)視野327及び(カメラ328の)視野329内にあるように配置される。このような実施形態では、センサ326及びカメラ328は、バケット320が掘削-ダンプサイクルの掘削端で停止している間に撮像データを撮像するように構成されてもよい。
さらに別の例では、図4は、電動ロープショベル作業機械401が動作している環境400の例の概略側面図を示す図である。電動ロープショベル作業機械401は、バケット420と、1つ以上のGET425と、センサ426と、カメラ428とを含むことができる。図4に示すように、GET425は、掘削-ダンプサイクルの中間点において(センサ426の)視野427及び(カメラ428の)視野429内に位置することができるが、バケット420がセンサ426及びカメラ428に相対的に近いときに位置する。このような実施形態では、センサ426及びカメラ428は、バケット420が視野427及び視野429に関連する位置範囲に入ったときに撮像データを撮像するように構成することができる。
図2~4は、特定の作業機械及びセンサ/カメラの位置の例を示しているに過ぎないが、センサ226、326、426及びカメラ228、328、428は、それぞれの視野227、327、427、229、329、429が作業機械201、301、401の掘削-ダンプサイクルの任意の時点で画像データを撮像するように配置され得ることに留意されたい。さらに、センサ226、326、426及びカメラ228、328、428の記載された位置決めは、いくつかの実施形態において組み合わせることができる。例えば、本開示は、掘削-ダンプサイクルの開始、中間、及び/又は終了に向けられた視野を有するセンサ及びカメラを有する、ホイールローダ作業機械201、油圧採掘ショベル作業機械301、及び電動ロープショベル作業機械401の実施形態を考慮する。
図5は、コンピュータビジョン技術を使用した関心領域検出処理の撮像データの流れの一例を示す画像データフロー図500を示す。画像データフロー図500は、GET125に関してカメラ128によって撮像された撮像データ中の関心領域が検出されたときに、画像アナライザ150によって受信され、処理され、生成された画像を含む。画像データフロー図500は、カメラ128によって撮像された左画像510及び右画像520を含む。左画像510は、カメラ128の左画像センサによって撮像された修正画像であってもよい。右画像520は、カメラ128の右画像センサによって撮像された修正画像であってもよい。左画像510及び右画像520の両方は、バケット120及びGET125の画像を含む。
画像アナライザ150は、視差マップ530を作成するために左画像510及び右画像520を処理することができる。視差マップ530は、左画像510の各画素と右画像520の各画素との間の視差を示す高密度ステレオ視差マップであってもよい。視差マップ530と、物理パラメータライブラリ145から得られ、バケット120、GET125、及び/又は作業機械100に関連付けられた物理パラメータセット535とを用いて、画像アナライザ150は、3次元点群540を構築することができる。3次元点群540は、左画像510と右画像520との間の視差を3次元的に示す。次に、画像アナライザ150は、左画像510、右画像520、又はその両方においてGET125を含む関心領域550を特定するために、3次元点群540に対してセグメンテーション分析を実行することができる。いくつかの実施形態において、画像アナライザ150は、関心領域550を用いて、GET125のためのより高解像度の撮像データを撮像するようにセンサ126を命令し制御することができる。
図6は、深層学習技術を使用した関心領域検出処理のための撮像データの流れの例を示す画像データフロー図600を示す。上述の画像データフロー図500と同様に、関心領域検出処理の出力は、画像アナライザ150が画像データをさらに解析するために使用するGET125に対応する関心領域550となる。しかし、画像アナライザ150は、画像データフロー図500とは異なり、深層学習技術を利用して画像データフロー図600における関心領域550を検出する。
画像データフロー図600は、カメラ128によって撮像された画像610を含む。画像610は、カメラ128の左画像センサ又は右画像センサのいずれかによって撮像された修正画像であり得る、又はセンサ126から撮像された画像データであり得る。画像アナライザ150は、深層学習GET検出アルゴリズムを画像610に適用することができる。深層学習GET検出アルゴリズムは、GETが個別に特定され、ラベル付けされ、及び/又はGETグループが個別に特定され、ラベル付けされた画像データコーパスで訓練されたニューラルネットワークを採用することができる。画像アナライザ150は、深層学習GET検出アルゴリズムを画像610に適用すると、個々のGET125を含む画像の複数の個別GETバウンディングボックス620を特定することができる。いくつかの実施形態では、画像アナライザ150は、個々のGETバウンディングボックス620を含むGETグループバウンディングボックス630を特定することもできる。画像アナライザ150がGETグループバウンディングボックス630を特定すると、画像アナライザ150は、その中の画素を関心領域550として抽出することができる。図6は、画像610からの関心領域550の検出を示しているが、これは、カメラ128の左画像センサ、カメラ128の右画像センサ、カメラ128のカラー画像センサ、又はセンサ126によって撮像された画像データを表してもよく、いくつかの実施形態において、画像データフロー図600は、特定の時点においてこれらのうちの2つ以上に適用されてもよい。例えば、画像アナライザ150は、カメラ128の左画像センサ、カメラ128の右画像センサ、カメラ128のカラー画像センサ、及び/又は、特定の時間においてセンサ126によって撮像された画像データのうちの2つ以上から撮像データの関心領域を検出してもよい。
図7は、深層学習技術を使用した関心領域検出処理のための撮像データの流れの例を示す画像データフロー図700を示す。上述の画像データフロー図600と同様に、関心領域検出処理の出力は、画像アナライザ150が画像データをさらに解析するために使用するGET125に対応する関心領域550となる。しかし、画像データフロー図500とは異なり、図7に関して説明した深層学習GET検出アルゴリズムは、視差マップを含むデータのコーパスを使用して訓練され、2つ以上の画像センサ(例えば、カメラ128の左画像センサ及び右画像センサ)から生成された視差マップを使用して関心領域が検出される。
画像データフロー図700は、カメラ128又はセンサ126によって撮像された第1の画像710及び第2の画像720を含む。1つの単なる例として、第1の画像710は、カメラ128の左画像センサによって撮像された修正画像であり得、第2の画像720は、カメラ128の右画像センサによって撮像された修正画像であり得るが、第1の画像710及び第2の画像720は、必ずしもカメラ128から受信される必要はない。別の例として、第1の画像710又は第2の画像720のいずれか1つは、センサ126から撮像された赤外線画像データであり得る。さらに他の例として、第1の画像710は、センサ126によって撮像され得るが、第2の画像720は、カメラ128によって撮像され得る、又はその逆であり得る。第1の画像710と第2の画像720の両方は、バケット120とGET125の画像が含む。画像アナライザ150は、第1の画像710および第2の画像720を処理して、視差マップ730を作成してもよい。視差マップ730は、第1の画像710の各画素と第2の画像720の各画素との間の視差を示す高密度ステレオ視差マップであり得る。
画像アナライザ150は、深層学習GET検出アルゴリズムを視差マップ730に適用することができる。深層学習GET検出アルゴリズムは、GETが個別に特定及びラベル付けされている画像データのコーパス、及び/又は、第1の画像710及び第2の画像720内で撮像されたバケット120及びGET125の種類に対応する視差マップ内で個別に特定及びラベル付けされたGETグループで訓練されたニューラルネットワークを採用してもよい。画像アナライザ150は、深層学習GET検出アルゴリズムを視差マップ730に適用すると、個々のGET125を含む画像の複数の個別GETバウンディングボックス740を特定することができる。いくつかの実施形態では、画像アナライザ150は、個々のGETバウンディングボックス740を含むGETグループバウンディングボックス750を特定することもできる。画像アナライザ150がGETグループバウンディングボックス750を特定すると、画像アナライザ150は、その中の画素を関心領域550として抽出することができる。
図8は、センサ126によって撮像された撮像データの関心領域検出処理のための撮像データの流れの一例を示す画像データフロー図800を示す。以下の図8の説明は、センサ126のLiDAR実施形態を例として使用するが、他の例も考えられる。センサ126によって画像データフロー図800に従って撮像された撮像データは、画像810に示される視野に実質的に対応する。図示のように、視野にはバケット120とGET125が含まれている。
センサ126が、例えばバケット120やGET125のいずれかに対応する表面などの物体表面を検出した場合に、センサ126は、複数のLiDAR「ヒット」を含むLiDARデータ撮像を行う。LiDARヒットは、3次元点群820として表すことができ、3次元点群820の各点はLiDARヒットに対応する。画像アナライザ150は、セグメンテーション分析又は他の物体認識分析技術を実行することにより、3次元点群820に基づいて関心領域510を判定する。いくつかの実施形態では、画像アナライザ150は、物理パラメータセット535を用いて、関心領域550を特定することができる。例えば、画像アナライザ150は、バケット歯テンプレート、GET125のCADベースのモデル、又はパターンマッチング技術を使用して、3次元点群820内の関心領域550を特定することができる。
図9は、マーカー点特定を使用する摩耗検出処理のための撮像データの流れの一例を示す画像データフロー図900を示す。上記のように、GET125の特徴は、マーカー点とみなすことができ、摩耗検出コンピュータシステム110は、画像データ内のマーカー点、又はGET125に対応する画像データ内の関心領域の特定に基づいて、GET125の測定値を判定してもよい。マーカー点は、例えば、GET125のエッジ、角部、又は特定の角度を含むことができる。データフロー図900は、1つの関心領域(例えば、関心領域910)を使用したマーカー点の特定のためのデータの流れを示しているが、動作において、摩耗検出コンピュータシステム110は、センサ126及び/又はカメラ128から受信した複数の画像データのセットに対して、時点毎に、データフロー図900に従って撮像データを処理してもよい。
画像アナライザ150が関心領域910を特定すると、関心領域910におけるマーカー点920を特定するのを補助するために、物理パラメータセット535を参照し、GET125に対応する関心領域910内のマーカー点920を特定する。例えば、物理パラメータセット535は、関心領域910に対して角部検出分析を実行する際に画像アナライザが使用し得るGET125の各角部の角度のサイズ又は形状を含むことができる。別の例として、物理パラメータセット535は、関心領域910へのセグメンテーション解析で画像アナライザ150が適用するGET125内のマーカー点(例えば、角部、マーク、溶接、又は他の識別子の画像)に一致するテンプレートを含むことができる。関心領域910がIRカメラによって撮像された画像データに対応する実施形態において、物理パラメータセット535は、GET125の予想温度値及びGET125が使用される作業環境に関連する温度情報を含むことができる。
画像アナライザ150がマーカー点920を判定すると、GET端部930を特定及び/又は他の方法で判定することができる。GET端部930は、GET125の長さに対応し、一方の端部は、GET125のバケット側エッジ(例えば、GET125がバケット120と接触する場所)に対応し、他方の端部は、GET125の前エッジ又は係合エッジ(例えば、GET125が地面と係合する場所)に対応する。GET端部930の判定に基づいて、摩耗アナライザ153は、関心領域910内にあるGET125についてのGET測定値940を判定することができる。例えば、摩耗アナライザ153は、特定のGET125について、GET端部930間の画素数を判定し、次いで、画素数を距離測定(例えば、メートル法又はヤードポンド法の実世界距離測定)に変換してもよい。
図10は、GET125の摩耗を検出するための例示的な摩耗検出処理1000を表すフローチャートを示す。いくつかの実施形態では、処理1000は、画像アナライザ150及び摩耗アナライザ153によって実行されてもよい。処理1000は、図5~図9の画像データフローに一般的に従い、これらの図の説明、及び図1に関して上述した画像アナライザ150及び摩耗アナライザ153の説明と一致するように解釈されるべきである。以下の議論では、画像アナライザ150または摩耗アナライザ153によって実行される処理1000の態様について説明するが、摩耗検出コンピュータシステム110の他のコンポーネントは、本開示の精神および範囲から逸脱することなく、処理1000の1つまたは複数のブロックを実行することができる。
処理1000は、ステップ1010で始まり、画像アナライザ150が作業機械100に関連付けられた複数のセンサから撮像データを受信する。複数のセンサは、例えば、センサ126及びカメラ128の左モノクロ、右モノクロ、又はカラー画像センサを含むことができる。いくつかの実施形態において、複数のセンサのそれぞれは、異なる視野を有する。例えば、カメラ128の左モノクロ画像センサとカメラ128の右モノクロ画像センサは、ステレオ撮像に必要な視差を作成するために、わずかに異なる視野を有し得る。別の例として、センサ126及びカメラ128は、異なる角度からGET125に関連する画像データを撮像するために、作業機械100上で異なる向きを有してもよい。画像アナライザ150は、作業機械の掘削-ダンプサイクル中に複数のセンサの各々から撮像データを受信し、画像アナライザ150は、分析目的で複数のセンサの各々の撮像データを相関させてもよい。例えば、処理1000の1回の反復について、画像アナライザ150は、複数のセンサのうちの1つから第1の画像データを受信し、複数のセンサのうちの別のセンサから第2の画像データを受信し、それらを一緒に処理して、1つの掘削-ダンプサイクルのGET摩耗測定値を判定してもよい。
ステップ1020において、画像アナライザ150は、ステップ1010において複数のセンサから受信した画像データ内のそれぞれの関心領域を特定する。例えば、画像アナライザ150は、複数のセンサのうちの第1のセンサから受信した第1の画像データ内の第1の関心領域と、複数のセンサのうちの第2のセンサから受信した第2の画像データ内の第2の関心領域とを特定するために、コンピュータビジョン技術を使用してもよい(例えば、図5を参照)。画像アナライザ150は、複数のセンサのうちの第1のセンサから受信した第1の画像データ内の第1の関心領域と、複数のセンサのうちの第2のセンサから受信した第2の画像データ内の第2の関心領域とを特定するために、深層学習技術を使用してもよい(例えば、図6、図7を参照)。複数のセンサのうちの1つがLiDARセンサである場合、画像アナライザ150は、画像データ内の関心領域を判定するために、点群分析方法を使用してもよい(例えば、図8を参照)。
ステップ1030において、画像アナライザ150は、関心領域内の1つ以上の画像点も特定してもよい(例えば、図9を参照)。いくつかの例では、ステップ1030において画像アナライザ150によって特定された画像点は、図1及び図9に関して上述したように、GET125のエッジに関連付けられる。いくつかの実施形態において、画像アナライザ150は、GET125を説明する幾何学的パラメータを使用して、画像点を判定する。幾何学的パラメータは、GET125の角部(例えば、前エッジの側エッジに対する相対長さ、角部の角度、角部の形状)を記述してもよく、又はGET125の全体的なサイズ、形状、又は厚さなどの他の物理的側面を記述してもよい。
ステップ1040において、摩耗アナライザ153は、ステップ1030で特定された画像点に基づいてGET測定値を判定する。摩耗アナライザ153は、画像点間の画素数と距離測定値とを相関付けて(例えば、図9を参照)、GET測定値を判定してもよい。いくつかの実施形態において、摩耗アナライザ153は、画素におけるGET測定値を追跡及び記録してもよい。ステップ1040で判定されたGET測定値に基づき、摩耗アナライザ153は、ステップ1050で、GETの摩耗レベル又は損失を判定する。摩耗レベル又は損失は、現実世界の測定(例えば、ミリメートル)、画素単位、又は予想されるサイズのパーセンテージ単位で定量化できる(例えば、GET125ベースのCADベースのモデル)。上述したように、摩耗アナライザ153は、摩耗していない状態のGET125のCADベースモデルを使用し、これを観察されたGET125測定値と比較して、GET摩耗レベル又は損失を判定することができる。摩耗アナライザ153はまた、GETの過去の測定データを用いて、経時的な摩耗レベルを判定するか、又は摩耗レベル傾向を判定して、GET125の交換が必要な時期を予測することができる。いくつかの実施形態では、摩耗アナライザ153は、摩耗が閾値を超えたときに損失を判定するように構成されてもよい。例えば、そのサイズが50%以上減少した場合、又は一定の測定量(例えば、長さが5cm)が減少した場合、摩耗アナライザはGETの損失を判定することができる。摩耗アナライザ153は、GETの摩耗が閾値に達したとき又はそれを超えたときに警告を発することができる。
いくつかの実施形態では、画像アナライザ150及び摩耗アナライザ153は、1つの掘削-ダンプサイクル内で、処理1000を数回実行する。このような実施形態において、摩耗アナライザ153は、現在の掘削-ダンプサイクルにおいて判定された(ステップ1040)GET測定値を、同じ掘削-ダンプサイクル内で以前に(又は後に)判定された1つ以上のGET測定値、又は履歴的測定値と比較し、現在判定されたGET測定値が一致しているかどうかを判定してもよい。測定値が不一致である場合(例えば、いくつかの閾値によって同一の掘削-ダンプサイクル内の他のGET測定値と異なる場合)、摩耗アナライザ153は、現在の測定をノイズ又は誤ったデータとして破棄することができる。閾値は、環境、作業機械、又はGETの種類に基づいて構成することができる。例えば、長いGETで柔らかい材料を掘削する作業機械に対しては、閾値を低い値(例えば、10%未満)に設定してもよく、短いGETで硬い材料を掘削する作業機械に対しては、閾値をより高い値(例えば、20%超)に設定してもよい。また、いくつかの実施形態において、画像アナライザ150及び摩耗アナライザ153は、判定されたGET測定値がノイズであるかどうかを判定するために処理1000を実行する際の掘削-ダンプサイクル内の時点も考慮し得る。
図11は、GET125の摩耗を検出するための例示的な摩耗検出処理1100を表すフローチャートを示す。いくつかの実施形態では、処理1100は、画像アナライザ150及び摩耗アナライザ153によって実行されてもよい。処理1100は、図5~図9の画像データフローに一般的に従い、これらの図の説明、及び図1に関して上述した画像アナライザ150及び摩耗アナライザ153の説明と、摩耗検出処理1000の説明と一致するように解釈されるべきである。以下の議論では、画像アナライザ150または摩耗アナライザ153によって実行される処理1100の態様について説明するが、摩耗検出コンピュータシステム110の他のコンポーネントは、本開示の精神および範囲から逸脱することなく、処理1100の1つまたは複数のブロックを実行することができる。
処理1100は、作業機械100の1つの掘削-ダンプサイクル内、又は作業機械100の複数の掘削-ダンプサイクル内/を超えて実行することができる。いくつかの実施形態では、画像アナライザ150及び摩耗アナライザ153は、単一の掘削-ダンプサイクル内で処理1100を数回実行する。
掘削-ダンプサイクルの開始後(ブロック1105)、ステップ1110において、画像アナライザ150は、センサ126又はカメラ128から第1の画像データを受信する。撮像された第1の画像データを処理した後(単なる1つの非限定的な例としての処理1000を使用する)、摩耗アナライザ153は、ブロック1115においてGET125に対する第1の摩耗測定値を判定し、それからGET125に対する第1の摩耗レベルを判定する。摩耗アナライザ153は、図1、9、及び10に関して上述した技術を単なるいくつかの例として使用して、第1の摩耗測定値及び第1の摩耗レベルを判定してもよい。
摩耗アナライザ153がGET125の第1の摩耗レベルを判定した後、摩耗アナライザ153が、第1の摩耗レベルがGET交換条件を示すかどうか、例えば、摩耗アナライザ153が作業機械100の操作者にGETの交換が必要であることを通知する警告を生成すべきかどうかを判定する。第1の摩耗レベルがGET交換条件を示すかどうかの判定は、いくつかの実施形態において2つの判定を含むことができる。判定の一つは、摩耗レベルが警告の必要性を示すかどうかである(ステップ1127)。摩耗レベルが警告の必要性を示していない場合(ステップ1127:NO)、処理1100は終了し、本開示の実施形態と一致する同じ掘削-ダンプサイクル内の別の時点で繰り返されてもよい(ブロック1195)。しかしながら、摩耗レベルが警告の必要性を示している場合(ステップ1127:YES)、処理は他の判定(ステップ1129)に進み、第1の画像データが掘削-ダンプサイクルの後半で撮像されたかどうかを判定する。いくつかの実施形態において、他の判定は、掘削-ダンプサイクル内の「遅延点」に基づいてもよい。第1の画像データが遅延点の後に受信された場合、摩耗アナライザ153は、掘削-ダンプサイクルが遅れていると判定してもよく(ステップ1129:YES)、処理1100はステップ1135に進み、摩耗アナライザ153は、警告を生成する。第1の画像データが遅延点の前に受信された場合、摩耗アナライザ153は、掘削-ダンプサイクルが遅いものでないと判定してもよく(ステップ1129:NO)、処理1100はステップ1140に進む。いくつかの実施形態において、遅延点は、作業機械100の操作者によって設定されてもよく、遅延点は、デフォルト設定を有してもよい。例えば、デフォルト設定は、掘削-ダンプサイクルの中間点又は50%点である。掘削-ダンプサイクルの終了に近い時に撮像された画像データは、サイクルの後半に撮像されるが、掘削-ダンプサイクルの開始に近い時に撮像された画像データは、掘削-ダンプサイクルの前半に撮像される(遅くない)。
摩耗アナライザ153が、第1のGET摩耗レベルが警告の必要性を示しており、掘削-ダンプサイクルの後半で第1の画像データを受信しなかったと判定した場合、警告の必要性を確認するために、GET125の画像データの第2のセットが収集される。ステップ1140において、画像アナライザ150は、センサ126又はカメラ128から第2の画像データを受信する。第2の画像データを処理した後(単なる1つの非限定的な例としての処理1000を使用する)、摩耗アナライザ153は、ブロック1145においてGET125に対する第2の摩耗測定値を判定し、それから、上述のGET125に対する第1の摩耗レベルを判定したのと同様の方法で、GET125に対する第2の摩耗レベルを判定する(ステップ1150)。摩耗アナライザ153は、次いで、GET交換条件が満たされているかを判定する。第1の摩耗レベル及び第2の摩耗レベルの両方が警告の必要性を示す場合(ステップ1155:YES」)、摩耗アナライザはステップ1135において警告を生成する。しかしながら、第2の摩耗レベルが警告の必要性を示さない場合(ステップ1155:NO)、GET交換条件は満たされず、処理1100は、現在の掘削-ダンプサイクルについて終了する(ブロック1195)。
いくつかの実施形態では、摩耗アナライザ153は、処理1100の各反復について、第1のGET摩耗レベル又は第2のGET摩耗レベル(計算された場合)を記録してもよい。ロギングには、GET摩耗測定値、GET摩耗レベルを記憶すること、及び/又は、撮像画像データを記憶することが含まれていてもよい。摩耗アナライザ153は、この情報を、摩耗検出コンピュータシステム110においてGET摩耗レベルストレージ157に記録するか、又は遠隔ログマネージャ175に記憶するために遠隔監視コンピュータシステムに提供することができる。
図12は、ディスプレイ133又は遠隔ディスプレイ163上にレンダリングされ得る例としての摩耗検出ユーザインターフェース1200を示している。ユーザインターフェース1200は、バケット120及びGET125の撮像画像1210を含むことができる。撮像画像1210は、いくつかの実施形態において、バケット120及びGET125の静止画像又はリアルタイムビデオ画像であり得る。ユーザインターフェース1200は、GET125の現在の状態を表示するGET125の状態ユーザインターフェース要素1220も含むことができる。状態ユーザインターフェース要素1220は、例えば、GET125の現在の測定値(図12に示すように)、GET125の摩耗率、又はその両方を表示することができる。いくつかの実施形態において、状態ユーザインターフェースは、作業機械100の操作者に情報を提供するためのカラーコーディング等、GET摩耗の指標を含むことができる。例えば、GET125が著しい摩耗を伴うことなく良好な状態にある場合、状態ユーザインターフェース要素1220は、健康インジケータ1230を用いてレンダリングされ得る。健康インジケータ1230は、アクションをとる必要がないことを示すために、カラーコード化(例えば、緑)され得る。別の例として、GET125が部分的に摩耗して交換が必要に近づいた場合、状態ユーザインターフェース要素1220は、部分摩耗インジケータ1240を用いてレンダリングし得る。部分摩耗インジケータ1240は、ユーザインターフェース1200内で、カラーコード化(例えば、黄色)、特殊なフォント、又はハイライト表示されてもよい。別の例として、GET125が交換が必要な段階まで摩耗された場合、又は破損した場合、状態ユーザインターフェース要素1220は、完全摩耗インジケータ1250でレンダリングし得る。完全摩耗インジケータ1250は、ユーザインターフェース1200内でハイライト表示されるか、又は一貫して点滅して操作者に警告するために、特別なフォントでカラーコード化(例えば、赤)され得る。
ユーザインターフェース1200は、GET125のクローズアップビュー1260も含むことができる。クローズアップビュー1260は、例えば、画像データ内の特定された関心領域に対応し得る。いくつかの実施形態において、完全摩耗インジケータ1250に加えて、ユーザインターフェース1200は、GET交換条件を操作者に警告するための注意通知1270を含むことができる。部分摩耗インジケータ1240、完全摩耗インジケータ1250、及び/又は注意通知1270にも、音声暗示又は警報が同行し得る。
上記の説明全体を通して、摩耗検出コンピュータシステム110のいくつかのコンポーネントは、いくつかの動作を実行するものとして説明されている。しかし、摩耗検出コンピュータシステム110のいくつかの実施形態では、上記以外のコンポーネントがこれらの動作を実行することができる。さらに、摩耗検出コンピュータシステム110は、実施形態例において上述したものよりも追加的なコンポーネント、又はより少ないコンポーネントを含むことができる。摩耗検出コンピュータシステム110は、上記に開示された特定の実施形態に限定される必要はないことを、当業者は理解するであろう。