JP2016502216A - 物的資産の改良された自動外観検査のための方法およびシステム - Google Patents

物的資産の改良された自動外観検査のための方法およびシステム Download PDF

Info

Publication number
JP2016502216A
JP2016502216A JP2015550447A JP2015550447A JP2016502216A JP 2016502216 A JP2016502216 A JP 2016502216A JP 2015550447 A JP2015550447 A JP 2015550447A JP 2015550447 A JP2015550447 A JP 2015550447A JP 2016502216 A JP2016502216 A JP 2016502216A
Authority
JP
Japan
Prior art keywords
current image
computer
matching
image
visual inspection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015550447A
Other languages
English (en)
Other versions
JP6405320B2 (ja
JP2016502216A5 (ja
Inventor
リム,サー・ナム
ラフレン,ジョン・ブランドン
グアン,リー
リウ,シュバオ
ヤン,シンウェイ
ドンケ,マイケル・クリストファー
ラムディン,トーマス・エルドレッド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
General Electric Co
Original Assignee
General Electric Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by General Electric Co filed Critical General Electric Co
Publication of JP2016502216A publication Critical patent/JP2016502216A/ja
Publication of JP2016502216A5 publication Critical patent/JP2016502216A5/ja
Application granted granted Critical
Publication of JP6405320B2 publication Critical patent/JP6405320B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Abstract

物的資産の改良された自動外観検査のためのコンピュータにより実行されるシステムは、物的資産の画像を生成することができる外観検査装置と、プロセッサおよびプロセッサに結合されたメモリ装置を含む計算装置と、を含む。計算装置は、メモリ装置に結合され、プロセッサに結合される記憶装置を含む。記憶装置は、物的資産の少なくとも1つの過去の画像と、物的資産を実質的に表す少なくとも1つのエンジニアリングモデルと、を含む。計算装置は、現在の画像ソースから、外観検査装置によって取り込まれた物的資産の少なくとも1つの現在の画像を受信するように構成される。計算装置は、少なくとも1つの現在の画像に対応する少なくとも1つのマッチする過去の画像を識別するように構成される。計算装置は、少なくとも1つの現在の画像に対応する少なくとも1つのマッチするエンジニアリングモデルを識別するように構成される。【選択図】図1

Description

本発明の分野は、一般的にはコンピュータにより実行されるプログラムに関し、より具体的には、物的資産の改良された自動外観検査のためのコンピュータにより実行されるシステムに関する。
物的資産を外観検査する公知の方法は、人間が入ることなく、このような物的資産内に挿入された光学装置を用いることが含まれる。このような公知の方法は、分解または他の補修なしに人間の技術者がアクセス不可能であり得る複雑な物的資産の迅速な目視解析を可能にすることによって利点を提供する。いくつかのこのような公知の場合では、複雑な物的資産の分解または補修を行うのに時間がかかることがあり得る。このような分解または補修の間に、多くのそのような複雑な物的資産を一時的に動作不能にしなければならない。したがって、外観検査の公知の方法は、複雑な物的資産の内部状態の解析を迅速に促進させ、分解または補修によるダウンタイムを低減する。
物的資産の外観検査の公知の方法およびシステムは、複雑な物的資産の状態を診断することができる人間の技術者に視覚データを送ることを含む。人間の技術者は、モニター、コンピュータ、または他のディスプレイを用いて、そのような視覚データを精査することができる。外観検査の多くの公知の方法およびシステムでは、人間の技術者は、収集された視覚データを3次元エンジニアリングモデルに重ね合わせて、収集された視覚データと3次元モデルとの間で特徴を手動でマッチングする。このような重ね合わせ、比較、およびマッチングは、非常に時間がかかることがある。また外観検査の公知の方法およびシステムは、人間の技術者が視覚データを受け取る時には、前もってフィールドエンジニアにより収集されていない新たな物理的な測定値を得るためには遅すぎることがしばしばあるという複雑さに直面する場合がある。このような場合には、新たな物理的測定は、物的資産の次の検査で収集することしかできない。
光学装置を用いた物的資産の外観検査のこのような公知の方法およびシステムは、光学装置から人間の技術者に送られてきた視覚データに対応する構成要素の効率的かつ効果的な識別を容易にするものではない。多くの公知の複雑な物的資産には、極めて多くの構成要素および下位構成要素がある。各構成要素および各下位構成要素のアーキテクチャの詳細を精査することは、外観検査の公知の方法を用いる際の必要で時間のかかる態様であることが多い。しかし、このような精査は、人間の技術者が視覚データに関係する正確な構成要素または下位構成要素を理解していることを確実にするために必要である。誤判定は、ロジスティック的にも金銭的にもコストがかかる。
米国特許出願公開第2012/141010号明細書
一態様では、物的資産の改良された自動外観検査のためのコンピュータにより実行されるシステムが提供される。システムは、物的資産の画像を生成することができる外観検査装置を含む。またシステムは、計算装置を含む。計算装置は、プロセッサを含む。また計算装置は、プロセッサに結合されるメモリ装置を含む。また計算装置は、メモリ装置に結合され、さらにプロセッサに結合される記憶装置を含む。記憶装置は、物的資産の少なくとも1つの過去の画像と、物的資産を実質的に表す少なくとも1つのエンジニアリングモデルと、を含む。計算装置は、現在の画像ソースから、外観検査装置によって取り込まれた物的資産の少なくとも1つの現在の画像を受信するように構成される。また、計算装置は、少なくとも1つの現在の画像に対応する少なくとも1つのマッチする過去の画像を識別するように構成される。さらに、計算装置は、少なくとも1つの現在の画像に対応する少なくとも1つのマッチするエンジニアリングモデルを識別するように構成される。
さらなる態様では、物的資産の改良された自動外観検査のためのコンピュータに基づく方法が提供される。コンピュータに基づく方法は、計算装置によって実行される。計算装置は、プロセッサを含む。また計算装置は、プロセッサに結合されるメモリ装置を含む。計算装置は、メモリ装置に結合され、さらにプロセッサに結合される記憶装置をさらに含む。記憶装置は、物的資産の少なくとも1つの過去の画像と、物的資産を実質的に表す少なくとも1つのエンジニアリングモデルと、を含む。コンピュータに基づく方法は、現在の画像ソースから、外観検査装置によって取り込まれた物的資産の少なくとも1つの現在の画像を受信するステップを含む。またコンピュータに基づく方法は、少なくとも1つの現在の画像に対応する少なくとも1つのマッチする過去の画像を識別するステップを含む。コンピュータに基づく方法は、少なくとも1つの現在の画像に対応する少なくとも1つのマッチするエンジニアリングモデルを識別するステップをさらに含む。
別の態様では、物的資産の改良された自動外観検査のためのコンピュータが提供される。コンピュータは、プロセッサを含む。またコンピュータは、プロセッサに結合されるメモリ装置を含む。コンピュータは、メモリ装置に結合され、またプロセッサに結合される記憶装置をさらに含む。記憶装置は、物的資産の少なくとも1つの過去の画像と、物的資産を実質的に表す少なくとも1つのエンジニアリングモデルと、を含む。コンピュータは、現在の画像ソースから、外観検査装置によって取り込まれた物的資産の少なくとも1つの現在の画像を受信するように構成される。またコンピュータは、少なくとも1つの現在の画像に対応する少なくとも1つのマッチする過去の画像を識別するように構成される。コンピュータは、少なくとも1つの現在の画像に対応する少なくとも1つのマッチするエンジニアリングモデルを識別するようにさらに構成される。
これらの、ならびに他の特徴、実施態様および利点は、添付の図面を参照しつつ以下の詳細な説明を読めば、よりよく理解されよう。添付の図面では、図面の全体にわたって、類似する符号は類似する部分を表す。
物的資産の改良された自動外観検査のための例示的な高レベルのコンピュータにより実行されるシステムの概略図である。 図1に示したコンピュータにより実行されるシステムと共に用いることができる例示的な計算装置のブロック図である。 図1に示したコンピュータにより実行されるシステムを用いた物的資産の改良された自動外観検査のための例示的な処理のフローチャートである。 図3に示した改良された外観検査処理を容易にするために、図1に示したコンピュータにより実行されるシステムを用いた、物的資産の改良された自動外観検査のための全体的な方法の簡略化したフローチャートである。
特に明記しない限り、本明細書において提供される図面は、本発明の主要な発明の特徴を図示するものである。これらの主要な発明の特徴は、本発明の1つまたは複数の実施形態を含む多種多様なシステムで適用できると考えられる。したがって、図面は、本発明の実施のために必要とされる当業者に知られているすべての従来の特徴を含むわけではない。
以下の明細書および特許請求の範囲において、いくつかの用語に言及するが、それらは以下の意味を有すると規定する。
単数形「a」、「an」、および「the」は、文脈が特に明確に指示しない限り、複数の言及を含む。
「任意の」または「任意に」は、続いて記載された事象または状況が生じてもよいし、また生じなくてもよいことを意味し、かつ、その説明が、事象が起こる場合と、それが起こらない場合と、を含むことを意味する。
本明細書で用いられる「非一時的コンピュータ可読媒体」という用語は、コンピュータ可読命令、データ構造、プログラムモジュールおよびサブモジュール、あるいは任意の装置の他のデータなどの情報の短期的および長期的記憶のための任意の方法または技術で実施される、任意の有形のコンピュータに基づく装置を表すことを意図している。したがって、本明細書に記載する方法は、これらに限らないが、記憶装置および/またはメモリ装置を含む、有形の非一時的コンピュータ可読媒体で具現化された実行可能命令として符号化することができる。このような命令は、プロセッサによって実行された場合に、本明細書に記載する方法の少なくとも一部をプロセッサに実行させる。さらに、本明細書に用いられる「非一時的コンピュータ可読媒体」という用語は、全ての有形のコンピュータ可読媒体を含み、これらは非一時的コンピュータ記憶装置を含むが、これに限定されるものではなく、揮発性および不揮発性媒体、ならびにファームウェア、物理および仮想記憶装置、CD−ROM、DVDなどの取外し可能および取り外し不可能な媒体、ならびにネットワークもしくはインターネットなどの他の任意のデジタルソース、ならびにこれまでに開発されたデジタル手段を含むが、これらに限定されるものではなく、一時的な伝播する信号がその唯一の例外である。
本明細書で用いられる「ソフトウェア」および「ファームウェア」という用語は、交換可能であり、モバイル装置、クラスタ、パーソナルコンピュータ、ワークステーション、クライアント、およびサーバを含むがこれらに限定されない装置によって、実行するためにメモリに記憶された任意のコンピュータプログラムを含む。
本明細書で用いられる「リアルタイム」という用語は、関連する事象が発生する時、所定のデータを測定および収集する時、データを処理する時、ならびに事象および環境に対するシステム応答の時のうちの少なくとも1つを意味する。本明細書に記載する実施形態では、これらの動作および事象は、実質的に同時に起こる。
本明細書で用いられる「コンピュータ」という用語および関連する用語、例えば「計算装置」は、従来技術においてコンピュータと呼ばれている集積回路に限定されず、広く、マイクロコントローラ、マイクロコンピュータ、プログラマブル論理コントローラ(PLC)、特定用途向け集積回路、およびその他のプログラム可能な回路を意味し、これらの用語は、本明細書において互換的に用いられる。
本明細書中で用いられる「自動化」および関連する用語、例えば「自動的」は、いかなる付加的な入力もなしにタスクを実行する能力を意味する。また、本明細書では、参照画像がシステムに供給され、その参照画像が3次元モデル上に重ね合わされるという点で、物的資産の外観検査が自動化される。
本明細書で用いられる「外観検査装置」および関連する用語、例えば「外観検査装置(複数)」は、物的資産に挿入され、物的資産内を移動し、物的資産に関する視覚データを取り込み、視覚データを他のシステムへ送信することができる任意の光学装置を意味する。このような外観検査装置は、これらに限らないが、ボアスコープ、ファイバスコープ、ビデオボアスコープ、リジッドボアスコープ、または物的資産内に挿入され操作可能な任意のデジタルカメラを含むことができる。また、本明細書では、外観検査装置は、物的資産から現在の画像を提供することによって、物的資産の改良された検査を容易にする。
本明細書で用いられる「物的資産」という用語および関連する用語、例えば「資産」は、外観検査装置を用いて検査することができる任意の物理的な対象物をいう。このような資産は、これらに限定されないが、ガスタービン、蒸気タービン、航空機エンジン、ディーゼルエンジン、自動車エンジン、トラックエンジン、圧力容器、外観検査装置が入り込むことができる任意の単純なもしくは複雑な機械装置を含むことができる。また、本明細書では、物的資産は、改良された外観検査を受けるために用いられる。
本明細書で用いられる「エンジニアリングモデル」という用語および関連する用語、例えば「エンジニアリングモデルデータ」は、物的資産を実質的に表す任意の3次元グラフィカルモデルを指す。このようなエンジニアリングモデルは、これらに限らないが、コンピュータ支援製図(CAD)、コンピュータ支援工業デザイン、写真の写実的レンダリング、および物的資産を実質的に表し、3次元の典型的な物的資産を表現するために用いられ得る他の任意のモデルを含んでもよい。また、本明細書では、エンジニアリングモデルは、物的資産の予想される通常の3次元設計を記述するために用いられる。
本明細書で用いられる「キーポイント特徴検出」という用語および関連する用語は、画像の局所的な特徴を検出し記述する技術である。キーポイント特徴検出は、典型的には、対象物上の関心点を識別し、これらの点を特徴として抽出し、特徴を記述する方法を含む。このような方法としては、これらに限らないが、スケール不変特徴変換(SIFT)、スピードアップロバスト特徴(SURF)、最大安定極値領域(MSER)、アフィンSIFT(ASIFT)が挙げられる。アルゴリズムが進化するにつれて、いくつかの方法は、変更、追加、または削除することができる。また、本明細書では、キーポイント特徴検出は、現在の画像を過去の画像データと比較することを可能にする。
本明細書で用いられる「キーポイントマッチング」という用語および関連する用語は、第1の画像からの第1の特徴を、第2の画像の第2の特徴として物的資産の同じ物理的位置を指すために見つけることができる、キーポイント特徴検出後に行われる処理である。したがって、キーポイントマッチングは、2つの異なる画像間のキーポイント特徴識別において決定された特徴の相関を可能にする。また、本明細書では、キーポイントマッチングは、現在の画像と過去の画像データとの比較を容易にする。
本明細書で用いられる「ポイントクラウド(点群)」という用語および関連する用語、例えば「2D−3Dポイントクラウド」は、3次元モデルと2次元の過去の画像との間の特徴マッチのマッピングを意味する。また、本明細書では、ポイントクラウドは、オフライン処理で作成され、画像検索が現在の画像に対応する過去の画像を識別した後に、2次元の過去の画像と共に3次元エンジニアリングモデルを提供するために用いられる。
本明細書中で用いられる「画像検索部」という用語および関連する用語、例えば、「画像検索システム」は、第1の画像に最も関連する(すなわち、最も密接に対応する)第2の画像を見いだす方法を意味する。画像検索の方法は数多く存在し、それに応じて画像検索部は、任意のこのような方法を適用することができる。画像検索部は、これらに限らないが、K最近接(K−NN)を用いる方法、語彙ツリーおよびクラスタに基づく検索を実現する方法、あるいは過去の画像を編成して、現在の画像に対応する過去の画像を効率的に識別することができる任意の他の方法を含むことができる。また、本明細書では、画像検索部は、過去の画像および現在の画像に対応するポイントクラウドを識別するために使用される。
本明細書で用いられる「エピポーラ拘束」という用語および関連する用語、例えば「エピポーラライン」は、異なる位置から得られた同じ3次元物体の2つの2次元画像の照合を可能にするコンピュータビジョンおよび幾何学上の概念を意味する。エピポーララインは、第1画像における点として認識される線、および第2画像における線を意味する。発散する認識は、第1および第2の画像の異なる基準位置によって生じる。本明細書では、エピポーララインは、2つの画像間のマッチング点を制約するために用いられる。エピポーラ拘束は、1つの画像で観察される点ごとに、同一点が既知のエピポーラライン上の他の画像で観察されなければならないことを要求するために、エピポーララインを用いることである。エピポーラ拘束を満たさない(すなわち、第1の画像が第2の画像において提案される対応点が対応するエピポーラライン上にはない点を示す)場合には、マッチはエラーと記載され、他のマッチに対して不利になり、あるいは信用されない。
近似する文言は、本明細書および特許請求の範囲の全体にわたってここで用いられるように、それが関連する基本的機能の変更をもたらすことなく許容範囲で変化することができる定量的表現を修飾するために適用することができる。したがって、「約」および「実質的に」などの用語で修飾された値は、明記された厳密な値に限定されるものではない。少なくともいくつかの例では、近似する文言は、値を測定するための機器の精度に対応することができる。ここで、ならびに明細書および特許請求の範囲の全体を通じて、範囲の限定は組み合わせおよび/または置き換えが可能であり、文脈および文言が特に指示しない限り、このような範囲は識別され、それに包含されるすべての部分範囲を含む。
図1は、物的資産105の改良された外観検査のための例示的な高レベルのコンピュータにより実行されるシステム100の概略図である。例示的な実施形態では、物的資産105は、蒸気タービンである。代替的な実施形態では、物的資産105は、これらに限らないが、ガスタービン、航空機エンジン、ディーゼルエンジン、自動車エンジン、トラックエンジン、圧力容器、配管系、発電機、減速機、変圧器、および任意の単純または複雑な機械装置を含む任意の物理的対象物であってもよい。また、コンピュータにより実行されるシステム100は、外観検査装置110を含む。例示的な実施形態では、外観検査装置110はボアスコープである。代替的な実施形態では、外観検査装置110は、これらに限らないが、ファイバスコープ、ビデオボアスコープ、リジッドボアスコープ、または物的資産105内に挿入され、操作可能な任意のデジタルカメラ装置を含んでもよい。
またコンピュータにより実行されるシステム100は、計算装置120を含む。計算装置120は、プロセッサ125およびメモリ装置130を含む。プロセッサ125およびメモリ装置130は、互いに結合される。例示的な実施形態では、計算装置120は、1つのプロセッサ125および1つのメモリ装置130を含む。代替的な実施形態では、計算装置120は、複数のプロセッサ125および/または複数のメモリ装置130を含んでもよい。
また計算装置120は、記憶装置135を含む。記憶装置135は、プロセッサ125に結合され、またメモリ装置130に結合される。例示的な実施形態では、記憶装置135は、ハードディスクドライブである。代替的な実施形態では、記憶装置135は、これらに限らないが、光学記憶装置、磁気記憶装置、ネットワーク記憶装置、フラッシュ記憶装置、大容量記憶装置、およびコンピュータにより実行されるシステム100のためのデータを記憶することができる任意の他の記憶装置を含む任意の記憶装置であってもよい。少なくともいくつかの実施形態では、計算装置120は、外部記憶装置160と関係する。このような実施形態では、外部記憶装置160は、記憶装置135に書き込まれるか、または計算装置120が直接用いるデータを記憶する。
例示的な実施形態では、記憶装置135は、過去の画像データ140およびエンジニアリングモデルデータ145を含む。過去の画像データ140は、物的資産105を検査する外観検査装置110の先行使用によって取り込まれたデータを表す。例示的な実施形態では、少なくともいくつかの過去の画像データ140は、物的資産105を製造した直後に作成される。代替的な実施形態では、過去の画像データ140は、現在の検査の前の任意の時点で生成されてもよい。他の実施形態では、過去の画像データ140は、物的資産105の複数の検査からの画像データを含んでもよい。エンジニアリングモデルデータ145は、物的資産105の製造前の設計のデータを表す。例示的な実施形態では、エンジニアリングモデルデータ145は、コンピュータ支援製図(CAD)を含む。代替的な実施形態では、エンジニアリングモデルデータ145は、これらに限らないが、コンピュータ支援工業デザイン、写真の写実的レンダリング、および物的資産を実質的に表し、典型的な物的資産105を表現するために用いられ得る他の任意のモデルを含んでもよい。
動作について説明すると、外観検査装置110は、物的資産105内に挿入され、少なくとも1つの現在の画像115を計算装置120に送信する。計算装置120は、外観検査装置110から少なくとも1つの現在の画像115を受信する。代替的な実施形態では、計算装置120は、外観検査装置110により生成されて、メモリ装置130、記憶装置135、または外部記憶装置160に記憶された少なくとも1つの現在の画像115を受信してもよい。これらの実施形態では、現在の画像データ115は、便宜上、代替的なソースによって受信されてもよい。例えば、外観検査装置110を用いる技術者は、物的資産105の完全な検査を行い、すべての関連する画像データ115を取り込むことができるが、もはや現在の画像データ115をライブストリーミングで利用できなくなる。このような例では、データ記憶装置から現在の画像データ115にアクセスすることは、価値の高いものである。
また、計算装置120は、少なくとも1つの現在の画像115に対応する過去の画像データ140から少なくとも1つのマッチする過去の画像(図1には示していない)を識別する。さらに、計算装置120は、少なくとも1つの現在の画像115に対応するエンジニアリングモデルデータ145から少なくとも1つのマッチするエンジニアリングモデル(図1には示していない)を識別する。例示的な実施形態では、現在の画像115に対応する過去の画像データ140は、2次元の過去の画像データ140と3次元エンジニアリングモデルデータ145との間の特徴をマッチさせるポイントクラウドを用いることにより、エンジニアリングモデルデータ145と共に画像検索処理によって検索される。ポイントクラウドおよび2次元の過去の画像データ140と3次元エンジニアリングモデルデータ145との間の関係は、本開示で説明されるものとは別の処理で生成される。例示的な実施形態では、画像検索処理は、エントロピーに基づいて領域間および領域内の特性を取り込む空間エントロピー特徴量の使用を含む。空間エントロピー特徴量は、外観検査装置110の具体的な姿勢およびスケール類似度を示している。空間エントロピー特徴量は、所与の画素およびその近接画素(すなわち、その画素に直接に隣接する画素)に関する情報を用いるエントロピー特徴ベクトルを構築するために用いられる。画像の空間的性質は、画像を空間セルに分割し、各セルにエントロピーの値を割り当て、全セルのエントロピー値を特徴ベクトルに連結することよって表される。
いくつかの実施形態では、計算装置120は、現在の画像115およびエンジニアリングモデルデータ145から特徴量を測定して比較し、物的資産105とエンジニアリングモデルデータ145との間の変化を決定することができる。変化は、例えば、物的資産105の表面上のクラック、物的資産105の構成要素の反り、または現在の画像115とエンジニアリングモデルデータ145との間の変化を引き起こす可能性がある任意の他の条件を含んでもよい計算装置120は、物的資産105に診断、交換、および/または保守サービスを提供することができるサービサー155に何らかの変化を送信する。このような実施形態では、サービサー155は、計算装置120から物的資産105に関する情報を受信することができる。
図2は、コンピュータにより実行されるシステム100(図1に示す)で用いることができる例示的な計算装置120のブロック図である。計算装置120は、命令を実行するために、メモリ装置130と、メモリ装置130に動作可能に結合されるプロセッサ125と、を含む。例示的な実施形態では、計算装置120は、単一のプロセッサ125と単一のメモリ装置130を含む。代替的な実施形態では、計算装置120は、複数のプロセッサ125および/または複数のメモリ装置130を含んでもよい。いくつかの実施形態では、実行可能な命令は、メモリ装置130に記憶される。計算装置120は、プロセッサ125をプログラムすることによって、本明細書に記載した1つまたは複数の動作を実行するように構成可能である。例えば、プロセッサ125は、1つまたは複数の実行可能な命令として動作を符号化し、メモリ装置130に実行可能な命令を提供することによって、プログラムすることができる。
例示的な実施形態では、メモリ装置130は、実行可能な命令および/または他のデータなどの情報の記憶および検索を可能にする1つまたは複数の装置である。メモリ装置130は、1つまたは複数の有形の非一時的コンピュータ可読媒体であって、これらに限らないが、ランダムアクセスメモリ(RAM)、ダイナミックランダムアクセスメモリ(DRAM)、スタティックランダムアクセスメモリ(SRAM)、ソリッドステートディスク、ハードディスク、読み出し専用メモリ(ROM)、消去可能プログラマブルROM(EPROM)、電気的消去可能プログラマブルROM(EEPROM)、および/または不揮発性RAM(NVRAM)メモリを含んでもよい。上記のメモリのタイプは単なる例示に過ぎず、したがってコンピュータプログラムの記憶のために使用可能なメモリのタイプを限定するものではない。
メモリ装置130は、これらに限らないが、少なくとも1つの現在の画像115(図1に示す)、および/または任意の他のタイプのデータを含む動作データを記憶するように構成することができる。いくつかの実施形態では、プロセッサ125は、データの存在時間に基づいて、メモリ装置130からデータを除去または「パージ」する。例えば、プロセッサ125は、次の時間および/または事象に関係する以前に記録され記憶されたデータを上書きすることができる。それに加えて、またはその代わりに、プロセッサ125は、所定の時間間隔を超えたデータを除去してもよい。また、メモリ装置130は、これらに限らないが、コンピュータにより実行されるシステム100の動作を容易にするために十分なデータ、アルゴリズム、およびコマンドを含む。
いくつかの実施形態では、計算装置120は、ユーザ入力インターフェース230を含む。例示的実施形態において、ユーザ入力インターフェース230は、プロセッサ125に結合され、ユーザ225からの入力を受信する。ユーザ入力インターフェース230は、これらに限らないが、キーボード、ポインティングデバイス、マウス、スタイラス、タッチパネル、接触感知パネル、例えば、これらに限らないが、タッチパッドもしくはタッチスクリーン、および/または音声入力インターフェース、例えば、これに限らないが、マイクロフォンを含んでもよい。タッチスクリーンなどの単一の構成要素は、提示インターフェース220のディスプレイ装置およびユーザ入力インターフェース230の両方として機能することができる。
通信インターフェース235は、プロセッサ125に結合され、センサーまたは別の計算装置120などの1つもしくは複数の他の装置と通信するように結合され、かつ、このような装置に対して入出力動作を実行するように構成される。例えば、通信インターフェース235は、これらに限らないが、有線ネットワークアダプタ、無線ネットワークアダプタ、移動遠隔通信アダプタ、シリアル通信アダプタ、および/またはパラレル通信アダプタを含んでもよい。通信インターフェース235は、1つまたは複数の遠隔装置からデータを受信し、および/またはそれにデータを送信してもよい。例えば、1つの計算装置120の通信インターフェース235は、別の計算装置120の通信インターフェース235に警告を送信することができる。通信インターフェース235は、機器間通信を容易にする、すなわち機器間インターフェースとして機能する。
提示インターフェース220および/または通信インターフェース235はともに、本明細書に記載した方法に用いるのに適した情報を、例えばユーザ225または別の装置に提供することができる。したがって、提示インターフェース220および通信インターフェース235は、出力装置と呼ぶことができる。同様に、ユーザ入力インターフェース230および通信インターフェース235は、本明細書に記載した方法に用いるのに適した情報を受信することができ、入力装置と呼ぶことができる。例示的な実施形態では、提示インターフェース220は、エンジニアリングモデルデータ145への現在の画像115の自動オーバーレイを視覚化して表示するために用いられる。可視化されると、ユーザ225は、ユーザ入力インターフェース230を用いて、これに限らないが、エンジニアリングモデルデータ145に対する現在の画像115の変化の測定および判定を含むタスクを実行することができる。測定のタスクは、変化のそのような測定および判定を行う測定アプリケーションを提供するソフトウェアの使用を含んでもよい。
例示的な実施形態では、ユーザ225は、提示インターフェース220を介して、少なくとも1つの現在の画像115と、少なくとも1つのマッチする過去の画像(図示せず)と、少なくとも1つのマッチするエンジニアリングモデル(図示せず)と、の情報を受信することによって、計算装置120を用いることができる。ユーザ225は、提示された情報に従って、計算装置120を用いて、物的資産105の状態を更新し、サービサー155にサービス(図示せず)を要求し、または物的資産105の検査を続行することができる。ユーザ225は、ユーザ入力インターフェース230を介してこのような動作を開始することができ、プロセッサ125でユーザコマンドを処理し、通信インターフェース235を用いて他の装置と通信する。
例示的な実施形態では、計算装置120は、計算装置120の例示的な実施形態である。少なくともいくつかの他の実施形態では、計算装置120はまた、物的資産105の改良された外観検査に使用される他の装置(図示せず)の例示的な実施形態でもある。ほとんどの実施形態では、計算装置120は、このような他の装置の主な設計を少なくとも例示している。
図3は、コンピュータにより実行されるシステム100(両方とも図1に示す)を用いた、物的資産105の外観検査を改良するための例示的な処理300のフローチャートである。処理300は、現在の外観検査装置データを受信するステップ305を含む。現在の外観検査装置データを受信するステップ305は、物的資産105から画像を取り込む外観検査装置110(図1に示す)からの現在の画像115(図1に示す)を計算装置120(図1に示す)において受信することを表す。
処理300は、ポイントクラウドを検索するために画像検索部をさらに用いる(ステップ315)。例示的な実施形態では、画像検索部は、K最近接検索を用いて、過去の画像データ140を含むkdツリー構造を通して検索する。代替的な実施形態では、画像検索部は、異なる方法を用いて、対応する過去の画像140を検索する。ポイントクラウドは、2次元の過去の画像データ140への3次元エンジニアリングモデルデータ145のマッピングを表す。したがって、画像検索部が対応する過去の画像140を特定すると、過去の画像140およびエンジニアリングモデルデータ145の両方を含むポイントクラウドが検索される。
また処理300は、現在の画像115を、マッチする過去の画像140と比較するキーポイントマッチング320を含む。キーポイントマッチング320は、画像に関係する特定の特徴の抽出を組み込んでおり、特徴を用いて複数の画像を比較する。例示的な実施形態では、現在の画像115の特徴(図示せず)は、検索された過去の画像140の特徴(図示せず)と比較されて、物的資産105上の同じ物理的位置においてマッチする特徴の対が得られる。現在の画像115および過去の画像140の特徴は、画像検索部を用いてポイントクラウドを受信した際(ステップ315)に用いられたものと同じ特徴であってもよいし、あるいは異なる特徴であってもよい。例示的な実施形態では、キーポイントマッチング320は、3つのステップを含む。
第1に、キーポイントマッチング320は、局所的な外観および局所的な幾何学的パターンについて画像を比較する。局所的な外観の比較は、様々な画像の特徴の比較を表す。局所的な幾何学的パターンの比較は、構成要素の幾何学的特徴にブレークダウンして画像を比較することを表す。この比較は、過去の画像140に形状境界情報の注釈を付けること、および現在の画像115に同じ境界を配置することをさらに含む。またこの比較は、過去の画像140および現在の画像115の各特徴位置を変換することを含む。特徴位置の変換は、例えば、各画像の特徴についてスケール不変特徴変換(SIFT)を生成することによって達成することができる。推定方法はまた、変換された特徴を比較することを含む。例示的な実施形態では、変換された特徴を比較することは、各特徴の外観および位置を補償する値の適用を含み、それによって、変換された特徴に位置情報を付加する。
第2に、キーポイントマッチング320は、画像間のマッチする点の最良の集合を見つけるために、推定方法の使用を組み込んでいる。変換された特徴が比較されると、特徴間のマッチが得られる。推定方法は、複数の反復によりマッチの異常値を除去するために、ランダムサンプルコンセンサス(RANSAC)を用いる2つのステップを適用することをさらに含む。RANSACを適用する第1のステップでは、マッチング点がエピポーラ拘束を満たさなければならないように、マッチングが制約される。分りやすく言えば、エピポーラ拘束は、1つの画像で観察される点ごとに、対応する点が既知のエピポーラライン上の他の画像で観察されなければならないことを要求する。したがって、エピポーララインは、現在の画像115と過去の画像140の両方について決定され、マッチを制約するために用いられるエピポーラ拘束を生成するために用いられる。少なくともいくつかの実施形態では、エピポーラ拘束はエピポーララインを表す基礎行列を作成することによって決定される。多数のマッチが与えられると、RANSAC手法は、マッチの完全集合からランダムに選択される初期マッチの部分集合を用いることを含む。初期マッチのこの部分集合のメリットは、エピポーラ拘束と不一致のレベルであると計算された誤差値によって決定される。完全集合のマッチ数に応じて、適切な数の部分集合がエピポーラ拘束に関して評価されるまで処理を繰り返す。最も低いエラーレートを有する部分集合に関係するエピポーラ幾何は、定義された閾値を越えてこの幾何学的形状からずれたマッチを除去するために用いられる。
RANSACを適用する第2のステップでは、マッチは射影行列を満たすように制約される。射影行列は、検索されたポイントクラウドを用いて計算される。射影行列は、2次元ポイントクラウドを現在の画像115に転送された3次元ポイントクラウドに関係づける数学的行列を表す。第1のステップと同様に、初期マッチの部分集合は、マッチの集合からランダムに選択される(ここではエピポーラ拘束の適用によって制約される)。この部分集合から算出された投影行列は、算出された投影行列とこの部分集合のマッチとが一致することに応じて、メリット値が割り当てられる。マッチの全体集合のサイズに応じて処理が反復され、終了時に最小エラーレートを有する仮定された射影行列が用いられる。
第3に、キーポイントマッチング320は、過去の画像データ140に対応する検索されたポイントクラウドを用いて、現在の画像データ115に対応する過去の画像データ140と共に検索されたエンジニアリングモデルデータ145を関係づけることを可能にする。このステップでは、2次元の過去の画像データ140と3次元エンジニアリングモデルデータ145との関係づけまたは登録は、現在の画像データ115に転送される。したがって、現在の画像データ115のマッチが検出された各点は、ここでエンジニアリングモデルデータ145の3次元の点に関係づけられる。
処理300は、カメラ姿勢推定325をさらに含む。カメラ姿勢推定325は、物的資産105に対する外観検査装置110の具体的な位置および方向を決定することを表す。カメラ姿勢推定325は、過去の画像データ140と現在の画像115に関係するエンジニアリングモデルデータ145に基づいて、可能なカメラ位置の射影を決定することを含む。言い換えれば、ここでエンジニアリングモデルデータ145がポイントクラウド(上述した)の適用に基づいて現在の画像115に関係づけられまたは登録され、そして射影行列を作成して、2次元の現在の画像115を3次元エンジニアリングモデルデータ145にマッピングすることに適用することにより、現在の画像115についてカメラ姿勢を決定することができる。例示的な実施形態では、射影を決定することは、可能なカメラ姿勢の射影行列を表す連立一次方程式を解くことを含む。
処理300は、推定されたカメラ姿勢に対するモデルを描画するステップ330をさらに含む。推定されたカメラ姿勢に対するモデルを描画するステップ330は、関係するエンジニアリングモデルデータ145にカメラ姿勢推定325を用いて、外観検査装置110と同一のカメラ位置からのエンジニアリングモデルを表す描画されたモデルを作成することを表す。
さらに、処理300は、物理測定335を含む。物理測定335は、描画されたエンジニアリングモデルの物理的特徴を現在の画像115と比較することを表す。例示的な実施形態では、物理測定335は、タービンブレードのエンジニアリングモデルデータ145の投影からの画像データを、クラックなどの変化を有するマッチする実タービンブレードの現在の画像115と比較すること、およびクラックを測定することを含む。
図4は、図3に示した改良された外観検査処理300を容易にするために、コンピュータにより実行されるシステム100を用いた、物的資産105(両方とも図1に示す)の改良された外観検査のための全体的な方法400の簡略化されたフローチャートである。計算装置120(図1に示す)は、物的資産105の少なくとも1つの現在の画像を受信する(ステップ415)。物的資産105の少なくとも1つの現在の画像を受信するステップ415は、現在の外観検査装置データを受信するステップ305(図3に示す)を表し、より具体的には、現在の画像ソースから現在の画像115を受信することを表す。例示的な実施形態では、現在の画像ソースは、外観検査装置110(図1に示す)である。代替的な実施形態では、現在の画像ソースは、メモリ装置130、記憶装置135、または外部記憶装置160であってもよい。
計算装置120はまた、少なくとも1つの現在の画像に対応する少なくとも1つのマッチする過去の画像を識別する(ステップ420)。少なくとも1つの現在の画像に対応する少なくとも1つのマッチする過去の画像を識別するステップ420は、画像検索部を用いるステップ315(図3に示す)を表す。より具体的には、少なくとも1つの現在の画像に対応する少なくとも1つのマッチする過去の画像を識別するステップ420は、現在の画像115に対応する過去の画像データ140(図1に示す)を選択することを表す。
計算装置120は、少なくとも1つの現在の画像に対応する少なくとも1つのマッチするエンジニアリングモデルをさらに識別する(ステップ425)。少なくとも1つのマッチするエンジニアリングモデルを識別するステップ425は、過去の画像データ140に関係するエンジニアリングモデルデータ145(図1に示す)を含むポイントクラウドを受信するために画像検索部を用いるステップ315を表す。上述したように、画像検索部は、現在の画像115について決定された特徴を用いて、その特徴を過去の画像データ140と比較し、現在の画像115に最も対応する過去の画像データ140を決定する。本明細書に記載のコンピュータにより実行されるシステムおよび方法は、外観検査装置を用いて物的資産を検査するための自動化された手法を提供する。本明細書に記載した実施形態は、手動の介入または外部入力を必要とすることなく、エンジニアリングモデルデータと外観検査装置からの画像データとの自動化された比較を容易にする。過去の画像の自動検索、および現在の画像へのポイントクラウドの転送を達成する、現在の画像特徴と過去の画像特徴との間の自動マッチングにより、モデルと現在の画像との間で、手動で特徴マッチを取り上げる面倒な作業が回避される。また、本明細書に記載した方法およびシステムは、物的資産の迅速な検査および解析を容易にする。さらに、本明細書に記載した方法およびシステムは、検査に用いられる時間および人的資源を低減することによって検査のコストを低減する。加えて、これらの方法およびシステムは、検査のために資産を分解する必要性を低減することにより、物的資産の稼働時間を高めることができる。その上、本明細書に記載した方法およびシステムは、効率的な解析およびモデル比較により、物的資産の検査に関係する動作の、物流の、および財務のコストを低減する。
本明細書に記載した方法およびコンピュータにより実行されるシステムの例示的な技術的効果は、(a)物的資産についての外観検査装置からの視覚データの解析速度の増加、(b)正確な視覚データの比較による、物的資産の改良されたモニタリング、および(c)資産を分解する必要性を低減することによる、物的資産のより長い稼働時間のうちの少なくとも1つを含む。
物的資産に関する改良された外観検査のための例示的な実施形態について、以上のように詳細に説明した。コンピュータにより実行されるシステムおよびこのようなシステムを動作させる方法は、本明細書に記載した特定の実施形態に限定されるものではなく、むしろ、システムの構成要素および/または方法のステップは、本明細書に記載した他の構成要素および/またはステップから独立してかつ別個に利用することができる。例えば、本方法は、他の企業システムおよび方法と組み合わせて用いることも可能であり、本明細書に記載した外観検査システムおよび方法のみを用いて実施することに限定されない。そうではなく、例示的な実施形態は、他の多くの企業アプリケーションと関連して実現および利用することができる。
本発明の様々な実施形態の具体的な特徴がいくつかの図面には示されており、他の図面には示されていないが、これは単に便宜上のものである。本発明の原理によれば、図面の任意の特徴は、他の任意の図面の任意の特徴と組み合わせて参照および/または請求することができる。
この明細書は、本発明を開示するために実施例を用いており、最良の形態を含んでいる。また、いかなる当業者も本発明を実施することができるように実施例を用いており、任意のデバイスまたはシステムを製作し使用し、任意の組み込まれた方法を実行することを含んでいる。本発明の特許され得る範囲は、請求項によって定義され、当業者が想到する他の実施例を含むことができる。このような他の実施例が請求項の字義通りの文言と異ならない構造要素を有する場合、または、それらが請求項の字義通りの文言と実質的な差異がない等価な構造要素を含む場合には、このような他の実施例は特許請求の範囲内であることを意図している。
100 コンピュータにより実行されるシステム
105 物的資産
110 外観検査装置
115 現在の画像データ、現在の画像
120 計算装置
125 プロセッサ
130 メモリ装置
135 記憶装置
140 過去の画像データ、過去の画像
145 エンジニアリングモデルデータ
155 サービサー
160 外部記憶装置
220 提示インターフェース
225 ユーザ
230 ユーザ入力インターフェース
235 通信インターフェース
300 処理
305 ステップ
315 ステップ
320 キーポイントマッチング
325 カメラ姿勢推定
330 ステップ
335 物理測定
400 方法
415 ステップ
420 ステップ
425 ステップ

Claims (20)

  1. 物的資産(105)の改良された自動外観検査のためのコンピュータにより実行されるシステム(100)であって、
    前記物的資産(105)の画像を生成することができる外観検査装置(110)と、
    プロセッサ(125)と、前記プロセッサ(125)に結合されるメモリ装置(130)と、前記メモリ装置(130)および前記プロセッサ(125)に結合される記憶装置(135)と、を含む計算装置(120)と、を備え、前記記憶装置(135)は、前記物的資産(105)の少なくとも1つの過去の画像(140)と、前記物的資産(105)を実質的に表す少なくとも1つのエンジニアリングモデル(145)と、を含み、前記計算装置(120)は、
    現在の画像ソースから、前記外観検査装置(110)によって取り込まれた前記物的資産(105)の少なくとも1つの現在の画像(115)を受信し、
    前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチする過去の画像(140)を識別し、
    前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチするエンジニアリングモデル(145)を識別するように構成される、コンピュータにより実行されるシステム(100)。
  2. 前記現在の画像ソースは、
    前記外観検査装置(110)と、
    前記記憶装置(135)と、
    前記メモリ装置(130)と、
    外部記憶装置(160)と、のうちの少なくとも1つである、請求項1に記載のコンピュータにより実行されるシステム(100)。
  3. 前記少なくとも1つの現在の画像(115)に対応する前記少なくとも1つのマッチする過去の画像(140)を識別するように構成される前記コンピュータにより実行されるシステム(100)は、
    前記少なくとも1つの過去の画像(140)から、過去の顕著な特徴の集合を決定し、
    前記少なくとも1つの現在の画像(115)から、現在の顕著な特徴の集合を決定し、
    少なくとも1つの画像検索方法を用いて、前記少なくとも1つの現在の画像(115)に対応する前記少なくとも1つの過去の画像(140)を決定するようにさらに構成される、請求項1に記載のコンピュータにより実行されるシステム(100)。
  4. 前記少なくとも1つの過去の画像(140)と前記少なくとも1つの現在の画像(115)との間のマッチング点の最良の集合を識別するためにキーポイントマッチングを用いるようにさらに構成される、請求項3に記載のコンピュータにより実行されるシステム(100)。
  5. 前記少なくとも1つの現在の画像(115)に対応する前記少なくとも1つのマッチするエンジニアリングモデル(145)を識別するように構成される前記コンピュータにより実行されるシステム(100)は、前記物的資産(105)に対する前記外観検査装置(110)の物理的姿勢を決定するようにさらに構成される、請求項1に記載のコンピュータにより実行されるシステム(100)。
  6. 前記少なくとも1つのマッチする過去の画像(140)の2次元の画素位置を決定し、
    前記2次元の画素位置から、前記マッチするエンジニアリングモデル(145)の3次元の点位置を決定し、
    前記3次元の点位置から、前記マッチするエンジニアリングモデル(145)の投影の数学的モデルであって、前記外観検査装置(110)の特性、前記外観検査装置(110)の回転、および前記外観検査装置(110)の並進の機能を表す数学的モデルを生成し、
    前記マッチするエンジニアリングモデル(145)の投影の前記数学的モデルおよび前記少なくとも1つの現在の画像(115)から、前記物的資産(105)に対する前記外観検査装置(110)の位置を決定するようにさらに構成される、請求項5に記載のコンピュータにより実行されるシステム(100)。
  7. 前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチするエンジニアリングモデル(145)を識別するように構成される前記コンピュータにより実行されるシステム(100)は、
    前記外観検査装置(110)の前記位置を用いて、前記マッチするエンジニアリングモデル(145)の投影を作成し、
    前記マッチするエンジニアリングモデル(145)の上に、前記少なくとも1つの現在の画像(115)の前記投影を重ね合わせ、
    前記投影と前記少なくとも1つの現在の画像(115)との差を測定するようにさらに構成される、請求項6に記載のコンピュータにより実行されるシステム(100)。
  8. 物的資産(105)の改良された自動外観検査のためのコンピュータに基づく方法(400)であって、前記方法(400)は、計算装置(120)によって実行され、前記計算装置(120)は、プロセッサ(125)と、前記プロセッサ(125)に結合されるメモリ装置(130)と、前記メモリ装置(130)および前記プロセッサ(125)に結合される記憶装置(135)と、を含み、前記記憶装置(135)は、前記物的資産(105)の少なくとも1つの過去の画像(140)と、前記物的資産(105)を実質的に表す少なくとも1つのエンジニアリングモデル(145)と、を含み、前記方法は、
    現在の画像ソースから、前記外観検査装置(110)によって取り込まれた前記物的資産(105)の少なくとも1つの現在の画像(115)を受信するステップ(415)と、
    前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチする過去の画像(140)を識別するステップ(420)と、
    前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチするエンジニアリングモデル(145)を識別するステップ(425)と、を含む、コンピュータに基づく方法(400)。
  9. 前記現在の画像ソースは、
    前記外観検査装置(110)と、
    前記記憶装置(135)と、
    前記メモリ装置(130)と、
    外部記憶装置(160)と、のうちの少なくとも1つである、請求項8に記載のコンピュータに基づく方法(400)。
  10. 前記少なくとも1つの現在の画像(115)に対応する前記少なくとも1つのマッチする過去の画像(140)を識別するステップ(420)は、
    前記少なくとも1つの過去の画像(140)から、過去の顕著な特徴の集合を決定するステップと、
    前記少なくとも1つの現在の画像(115)から、現在の顕著な特徴の集合を決定するステップと、
    少なくとも1つの画像検索方法を用いて、前記少なくとも1つの現在の画像(115)に対応する前記少なくとも1つの過去の画像(140)を決定するステップと、を含む、請求項8に記載のコンピュータに基づく方法(400)。
  11. 前記少なくとも1つの過去の画像(140)と前記少なくとも1つの現在の画像(115)との間のマッチング点の最良の集合を識別するためにキーポイントマッチングを用いるステップ(320)をさらに含む、請求項10に記載のコンピュータに基づく方法(400)。
  12. 前記少なくとも1つの現在の画像(115)に対応する前記少なくとも1つのマッチするエンジニアリングモデル(145)を識別するステップ(425)は、前記物的資産(105)に対する前記外観検査装置(110)の物理的姿勢を決定するステップ(325)をさらに含む、請求項8に記載のコンピュータに基づく方法(400)。
  13. 前記少なくとも1つのマッチする過去の画像(140)の2次元の画素位置を決定するステップと、
    前記2次元の画素位置から、前記マッチするエンジニアリングモデル(145)の3次元の点位置を決定するステップと、
    前記3次元の点位置から、前記マッチするエンジニアリングモデル(145)の投影の数学的モデルであって、前記外観検査装置(110)の特性、前記外観検査装置(110)の回転、および前記外観検査装置(110)の並進の機能を表す数学的モデルを生成するステップと、
    前記マッチするエンジニアリングモデル(145)の投影の前記数学的モデルおよび前記少なくとも1つの現在の画像(115)から、前記物的資産(105)に対する前記外観検査装置(110)の位置を決定するステップと、をさらに含む、請求項12に記載のコンピュータに基づく方法(400)。
  14. 前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチするエンジニアリングモデル(145)を識別するステップ(425)は、
    前記外観検査装置(110)の前記位置を用いて、前記エンジニアリングモデル(145)の投影を作成するステップと、
    前記エンジニアリングモデル(145)の上に、前記少なくとも1つの現在の画像(115)を重ね合わせるステップと、
    前記投影と前記少なくとも1つの現在の画像(115)との差を測定するステップと、をさらに含む、請求項13に記載のコンピュータに基づく方法(400)。
  15. 物的資産(105)の改良された自動外観検査のためのコンピュータであって、前記コンピュータは、プロセッサ(125)と、前記プロセッサ(125)に結合されるメモリ装置(130)と、前記メモリ装置(130)および前記プロセッサ(125)に結合される記憶装置(135)と、を含み、前記記憶装置(135)は、前記物的資産(105)の少なくとも1つの過去の画像(140)と、前記物的資産(105)を実質的に表す少なくとも1つのエンジニアリングモデル(145)と、を含み、前記コンピュータは、
    現在の画像ソースから、前記外観検査装置(110)によって取り込まれた前記物的資産(105)の少なくとも1つの現在の画像(115)を受信し、
    前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチする過去の画像(140)を識別し、
    前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチするエンジニアリングモデル(145)を識別するように構成される、コンピュータ。
  16. 前記現在の画像ソースは、
    前記外観検査装置(110)と、
    前記記憶装置(135)と、
    前記メモリ装置(130)と、
    外部記憶装置(160)と、のうちの少なくとも1つである、請求項15に記載のコンピュータ。
  17. 前記少なくとも1つの過去の画像(140)と前記少なくとも1つの現在の画像(115)との間のマッチング点の最良の集合を識別するためにキーポイントマッチングを用いるようにさらに構成される、請求項16に記載のコンピュータ。
  18. 前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチするエンジニアリングモデル(145)を識別するように構成される前記コンピュータは、前記物的資産(105)に対する前記外観検査装置(110)の物理的姿勢を決定するようにさらに構成される、請求項15に記載のコンピュータ。
  19. 前記少なくとも1つのマッチする過去の画像(140)の2次元の画素位置を決定し、
    前記2次元の画素位置から、前記マッチするエンジニアリングモデル(145)の3次元の点位置を決定し、
    前記3次元の点位置から、前記マッチするエンジニアリングモデル(145)の投影の数学的モデルであって、前記外観検査装置(110)の特性、前記外観検査装置(110)の回転、および前記外観検査装置(110)の並進の機能を表す数学的モデルを生成し、
    前記マッチするエンジニアリングモデル(145)の投影の前記数学的モデルおよび前記少なくとも1つの現在の画像(115)から、前記物的資産(105)に対する前記外観検査装置(110)の位置を決定するようにさらに構成される、請求項18に記載のコンピュータ。
  20. 前記少なくとも1つの現在の画像(115)に対応する少なくとも1つのマッチするエンジニアリングモデル(145)を識別するように構成される前記コンピュータは、
    前記外観検査装置(110)の前記位置を用いて、前記エンジニアリングモデル(145)の投影を作成し、
    前記エンジニアリングモデル(145)の上に、前記少なくとも1つの現在の画像(115)を重ね合わせ、
    前記投影と前記少なくとも1つの現在の画像(115)との差を測定するようにさらに構成される、請求項19に記載のコンピュータ。
JP2015550447A 2012-12-31 2013-12-13 物的資産の改良された自動外観検査のための方法およびシステム Active JP6405320B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/731,209 2012-12-31
US13/731,209 US9251582B2 (en) 2012-12-31 2012-12-31 Methods and systems for enhanced automated visual inspection of a physical asset
PCT/US2013/075020 WO2014105463A2 (en) 2012-12-31 2013-12-13 Methods and systems for enhanced automated visual inspection of a physical asset

Publications (3)

Publication Number Publication Date
JP2016502216A true JP2016502216A (ja) 2016-01-21
JP2016502216A5 JP2016502216A5 (ja) 2017-01-26
JP6405320B2 JP6405320B2 (ja) 2018-10-17

Family

ID=49920634

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015550447A Active JP6405320B2 (ja) 2012-12-31 2013-12-13 物的資産の改良された自動外観検査のための方法およびシステム

Country Status (5)

Country Link
US (1) US9251582B2 (ja)
JP (1) JP6405320B2 (ja)
CH (1) CH709322B1 (ja)
DE (1) DE112013006312T5 (ja)
WO (1) WO2014105463A2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019049951A (ja) * 2017-09-12 2019-03-28 西日本旅客鉄道株式会社 構造物管理装置、構造物管理方法、及び構造物管理プログラム
WO2020252574A1 (en) * 2019-06-17 2020-12-24 RecognAIse Technologies Inc. Artificial intelligence-based process and system for visual inspection of infrastructure

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9251582B2 (en) * 2012-12-31 2016-02-02 General Electric Company Methods and systems for enhanced automated visual inspection of a physical asset
US9607370B2 (en) * 2014-01-15 2017-03-28 The Boeing Company System and methods of inspecting an object
US10102675B2 (en) * 2014-06-27 2018-10-16 Nokia Technologies Oy Method and technical equipment for determining a pose of a device
EP3224806A4 (en) 2014-11-24 2018-07-18 Kitov Systems Ltd. Automated inspection
US10018465B2 (en) * 2015-09-25 2018-07-10 General Electric Company Inspection path display
BE1024192B1 (fr) * 2016-05-09 2017-12-12 Safran Aero Boosters S.A. Procede et banc d'essai de turbomachine a realite augmentee
WO2018005882A1 (en) * 2016-06-30 2018-01-04 Unmanned Innovation, Inc. Unmanned aerial vehicle wind turbine inspection systems and methods
US9950815B2 (en) * 2016-07-01 2018-04-24 United Technologies Corporation Systems and methods for detecting damage
US10866927B2 (en) 2017-05-10 2020-12-15 General Electric Company Intelligent and automated review of industrial asset integrity data
US11410298B2 (en) 2017-12-05 2022-08-09 Raytheon Technologies Corporation System and method for determining part damage
US10878556B2 (en) 2018-01-19 2020-12-29 United Technologies Corporation Interactive semi-automated borescope video analysis and damage assessment system and method of use
EP3756135A4 (en) * 2018-02-21 2021-12-01 Genscape Intangible Holding, Inc. PROCESS AND SYSTEM FOR ASSESSING THE OPERATING STATUS OF A PLANT BY IMAGING ELECTROMAGNETIC RADIATION
US10958843B2 (en) 2018-05-04 2021-03-23 Raytheon Technologies Corporation Multi-camera system for simultaneous registration and zoomed imagery
US10928362B2 (en) 2018-05-04 2021-02-23 Raytheon Technologies Corporation Nondestructive inspection using dual pulse-echo ultrasonics and method therefor
US10473593B1 (en) 2018-05-04 2019-11-12 United Technologies Corporation System and method for damage detection by cast shadows
US10902664B2 (en) 2018-05-04 2021-01-26 Raytheon Technologies Corporation System and method for detecting damage using two-dimensional imagery and three-dimensional model
US10914191B2 (en) * 2018-05-04 2021-02-09 Raytheon Technologies Corporation System and method for in situ airfoil inspection
US10488371B1 (en) 2018-05-04 2019-11-26 United Technologies Corporation Nondestructive inspection using thermoacoustic imagery and method therefor
US10685433B2 (en) 2018-05-04 2020-06-16 Raytheon Technologies Corporation Nondestructive coating imperfection detection system and method therefor
US11268881B2 (en) 2018-05-04 2022-03-08 Raytheon Technologies Corporation System and method for fan blade rotor disk and gear inspection
US11079285B2 (en) 2018-05-04 2021-08-03 Raytheon Technologies Corporation Automated analysis of thermally-sensitive coating and method therefor
US10943320B2 (en) 2018-05-04 2021-03-09 Raytheon Technologies Corporation System and method for robotic inspection
EP3857027A1 (en) * 2018-09-28 2021-08-04 General Electric Company Automated identification of cooling holes and toolpath generation
DE102019100820A1 (de) * 2019-01-14 2020-07-16 Lufthansa Technik Aktiengesellschaft Verfahren und Vorrichtung zur Inspektion schwer erreichbarer Komponenten
EP3852059A1 (en) * 2020-01-15 2021-07-21 General Electric Company System and method for assessing the health of an asset
US20230016982A1 (en) * 2021-07-13 2023-01-19 General Electric Company Method for inspecting an object
US11933690B2 (en) 2021-10-08 2024-03-19 Pratt & Whitney Canada Corp. Inspecting an interior of a gas turbine engine apparatus

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007219765A (ja) * 2006-02-15 2007-08-30 Toyota Motor Corp 画像処理装置、その方法、および画像処理用プログラム
JP2010079452A (ja) * 2008-09-24 2010-04-08 Canon Inc 位置姿勢計測装置及び方法

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5699444A (en) 1995-03-31 1997-12-16 Synthonics Incorporated Methods and apparatus for using image data to determine camera location and orientation
US5850469A (en) 1996-07-09 1998-12-15 General Electric Company Real time tracking of camera pose
US6751343B1 (en) 1999-09-20 2004-06-15 Ut-Battelle, Llc Method for indexing and retrieving manufacturing-specific digital imagery based on image content
AU2001250802A1 (en) 2000-03-07 2001-09-17 Sarnoff Corporation Camera pose estimation
US6825856B1 (en) * 2000-07-26 2004-11-30 Agilent Technologies, Inc. Method and apparatus for extracting measurement information and setting specifications using three dimensional visualization
US20050131657A1 (en) * 2003-12-16 2005-06-16 Sean Mei Hsaio L. Systems and methods for 3D modeling and creation of a digital asset library
US20050131659A1 (en) * 2003-12-16 2005-06-16 Mei Hsaio L.S. Systems and methods for 3D modeling and asset management
US6992315B2 (en) 2004-03-10 2006-01-31 Siemens Westinghouse Power Corporation In situ combustion turbine engine airfoil inspection
US8477154B2 (en) * 2006-03-20 2013-07-02 Siemens Energy, Inc. Method and system for interactive virtual inspection of modeled objects
US8244025B2 (en) * 2006-03-20 2012-08-14 Siemens Energy, Inc. Method of coalescing information about inspected objects
US7432505B2 (en) 2006-05-04 2008-10-07 Siemens Power Generation, Inc. Infrared-based method and apparatus for online detection of cracks in steam turbine components
US7520176B1 (en) 2006-12-05 2009-04-21 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration Method for real-time structure shape-sensing
US7983487B2 (en) * 2007-11-07 2011-07-19 Mitsubishi Electric Research Laboratories, Inc. Method and system for locating and picking objects using active illumination
US8485038B2 (en) 2007-12-18 2013-07-16 General Electric Company System and method for augmented reality inspection and data visualization
US7720322B2 (en) 2008-06-30 2010-05-18 Intuitive Surgical, Inc. Fiber optic shape sensor
US7715994B1 (en) 2008-08-14 2010-05-11 The United States Of America As Represented By The National Aeronautics And Space Administration Process for using surface strain measurements to obtain operational loads for complex structures
US8184152B2 (en) 2008-12-01 2012-05-22 The Boeing Company Camera-holding apparatus for evaluating parts
US20100140936A1 (en) 2008-12-23 2010-06-10 General Electric Company Wind turbine with gps load control
US8125529B2 (en) 2009-02-09 2012-02-28 Trimble Navigation Limited Camera aiming using an electronic positioning system for the target
US8108168B2 (en) * 2009-03-12 2012-01-31 Etegent Technologies, Ltd. Managing non-destructive evaluation data
US8521480B2 (en) * 2009-03-12 2013-08-27 Etegent Technologies, Ltd. Managing non-destructive evaluation data
US20100275574A1 (en) 2009-04-30 2010-11-04 General Electric Company Borescope plug with bristles
US9533418B2 (en) * 2009-05-29 2017-01-03 Cognex Corporation Methods and apparatus for practical 3D vision system
FR2949220B1 (fr) 2009-08-21 2011-09-09 Snecma Procede et systeme de detection de l'ingestion d'un objet par un turboreacteur d'avion au cours d'une mission
US8290830B2 (en) * 2010-04-07 2012-10-16 Siemens Product Lifecycle Management Software Inc. System and method for visualization and comparison of physical assets using engineering design data
US8171809B2 (en) 2010-06-25 2012-05-08 General Electric Company System and method for wind turbine inspection
CN102486829B (zh) 2010-12-01 2016-05-04 罗普特(厦门)科技集团有限公司 图像分析系统及方法
US8984402B2 (en) * 2010-12-20 2015-03-17 Xerox Corporation Visual indication of document size in a virtual rendering
US20120224049A1 (en) 2011-03-04 2012-09-06 General Electric Company Clearance inspection apparatus for a machine
US9605952B2 (en) * 2012-03-08 2017-03-28 Quality Manufacturing Inc. Touch sensitive robotic gripper
US9552567B2 (en) * 2012-12-27 2017-01-24 General Electric Company Computer-implemented methods and systems for determining fleet conditions and operational management thereof
US20140188772A1 (en) * 2012-12-27 2014-07-03 General Electric Company Computer-implemented methods and systems for detecting a change in state of a physical asset
US9251582B2 (en) * 2012-12-31 2016-02-02 General Electric Company Methods and systems for enhanced automated visual inspection of a physical asset
US9612211B2 (en) * 2013-03-14 2017-04-04 General Electric Company Methods and systems for enhanced tip-tracking and navigation of visual inspection devices
US10437203B2 (en) * 2013-10-08 2019-10-08 General Electric Company Methods and systems for dynamic workflow prioritization and tasking

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007219765A (ja) * 2006-02-15 2007-08-30 Toyota Motor Corp 画像処理装置、その方法、および画像処理用プログラム
JP2010079452A (ja) * 2008-09-24 2010-04-08 Canon Inc 位置姿勢計測装置及び方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019049951A (ja) * 2017-09-12 2019-03-28 西日本旅客鉄道株式会社 構造物管理装置、構造物管理方法、及び構造物管理プログラム
WO2020252574A1 (en) * 2019-06-17 2020-12-24 RecognAIse Technologies Inc. Artificial intelligence-based process and system for visual inspection of infrastructure
US11361423B2 (en) 2019-06-17 2022-06-14 RecognAIse Technologies Inc. Artificial intelligence-based process and system for visual inspection of infrastructure

Also Published As

Publication number Publication date
JP6405320B2 (ja) 2018-10-17
WO2014105463A3 (en) 2014-10-16
WO2014105463A2 (en) 2014-07-03
DE112013006312T5 (de) 2015-09-24
US20140185912A1 (en) 2014-07-03
CH709322B1 (de) 2017-09-15
US9251582B2 (en) 2016-02-02

Similar Documents

Publication Publication Date Title
JP6405320B2 (ja) 物的資産の改良された自動外観検査のための方法およびシステム
GB2556976A (en) Methods circuits assemblies devices systems platforms and fuctionally associated machine executable code for computer vision assisted construction site
EP3514525B1 (en) Interactive semi-automated borescope video analysis and damage assessment system and method of use
US10902664B2 (en) System and method for detecting damage using two-dimensional imagery and three-dimensional model
US20190066283A1 (en) Three-dimensional modeling of an object
Kim et al. Improvement of realism of 4D objects using augmented reality objects and actual images of a construction site
JP2020520012A (ja) 産業資産完全性データのインテリジェントな自動化されたレビュー
JP2016090547A (ja) ひび割れ情報収集装置及びひび割れ情報を収集するためのサーバ装置
Son et al. Fully automated as-built 3D pipeline segmentation based on curvature computation from laser-scanned data
Al-Sabbag et al. Enabling human–machine collaboration in infrastructure inspections through mixed reality
WO2021046726A1 (zh) 用于检测机械设备零部件的方法和装置
US11501030B2 (en) Computer-implemented method and apparatus for automatically generating identified image data and analysis apparatus for checking a component
US11663815B2 (en) System and method for inspection of heat recovery steam generator
JP7188798B2 (ja) 座標算出装置、座標算出方法、及びプログラム
EP4352634A1 (en) Method and system for surface deformation detection
JP7478000B2 (ja) 3d画像データ解析装置
JPWO2020174613A1 (ja) データ処理装置、データ処理システム、データ処理方法、およびデータ処理プログラム
JP7332068B1 (ja) 自動演算システム、自動演算方法、機械学習モデル、及び、機械学習モデルの生成方法
JP7443303B2 (ja) 計測装置、計測方法及びプログラム
Sánchez et al. Dimensional inspection of manufactured parts with web-based 3D visualization
Пащенко et al. Сonceptual Foundations оf Applying Innovative 3d Scanning Technologies іn the Context of Maintaining Airworthiness of State Aviation Equipment
JP2023019684A (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP2021149372A (ja) 3d画像データ解析装置
Ivaschenko et al. Intelligent Machine Vision Implementation for Production Quality Control
Alabassy Automated Approach for Building Information Modelling of Crack Damages via Image Segmentation and Image-based 3D Reconstruction

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180821

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180914

R150 Certificate of patent or registration of utility model

Ref document number: 6405320

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350