JP2016080674A - 異常の表面上の関心点を自動的に識別するための方法およびデバイス - Google Patents

異常の表面上の関心点を自動的に識別するための方法およびデバイス Download PDF

Info

Publication number
JP2016080674A
JP2016080674A JP2014249471A JP2014249471A JP2016080674A JP 2016080674 A JP2016080674 A JP 2016080674A JP 2014249471 A JP2014249471 A JP 2014249471A JP 2014249471 A JP2014249471 A JP 2014249471A JP 2016080674 A JP2016080674 A JP 2016080674A
Authority
JP
Japan
Prior art keywords
reference line
points
interest
point
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014249471A
Other languages
English (en)
Other versions
JP6446251B2 (ja
Inventor
クラーク・アレキサンダー・ベンダール
Alexander Bendall Clark
メリッサ・ローズ・スタンカート
Rose Stancato Melissa
マイケル・メルヴィン・ボール
Melvin Ball Michael
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
General Electric Co
Original Assignee
General Electric Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US14/512,835 external-priority patent/US9600928B2/en
Application filed by General Electric Co filed Critical General Electric Co
Publication of JP2016080674A publication Critical patent/JP2016080674A/ja
Application granted granted Critical
Publication of JP6446251B2 publication Critical patent/JP6446251B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/8861Determining coordinates of flaws

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】ビデオ検査デバイスを使用して表示対象物上の異常の表面上の関心点(例えば、最深または最高点)を自動的に識別するための方法およびデバイス提供する。【解決手段】ビデオ検査デバイス100は表示対象物202の表面の画像を取得し、その対象表面の処理画像をビデオモニタ170,172に表示する。基準表面は異常の表面上の複数の点を含む関心領域に沿って決定される。ビデオ検査デバイスは関心領域内の異常の表面上の複数の点のそれぞれの深さまたは高さを決定する。異常の表面上の点(例えば、最大深さまたは高さを有する)は関心点として識別される。関心点における対象表面のプロファイルが決定される。【選択図】図1

Description

本明細書で開示される主題はビデオ検査デバイスを使用して表示対象物上の異常の表面上の最深点を自動的に識別するための方法およびデバイスに関する。
本明細書で開示される主題はビデオ検査デバイスを使用して表示対象物上の異常の表面上の関心点(例えば、最深または最高点)を自動的に識別するための方法およびデバイスに関する。
ビデオ内視鏡またはボアスコープなどのようなビデオ検査デバイスは、例えば損傷、摩耗、腐食、または不適切な設置などから生じた可能性のある対象物上の異常(例えば、ピットまたは凹み)を識別するおよび分析するため対象物の表面を検査するために使用することができる。多くの例では、対象物の表面はアクセスすることができずおよびビデオ検査デバイスを使用せずに表示することができない。例えば、ビデオ検査デバイスは、航空機または発電機のタービンエンジンのブレードの表面で任意の修理またはさらなるメンテナンスが必要であるかどうかを判断するため、表面上に形成された可能性のある任意の異常を識別するために検査するように使用することができる。その評価を行うためには、異常がその対象物にとっての動作制限または要求仕様を超えていないまたは外れていないことを確認するために、表面および異常の高精度な寸法測定を得ることがしばしば必要である。
ビデオ検査デバイスは表面上の異常の寸法を判断するために異常を示す表示対象物の表面の2次元画像を取得して表示するために使用することができる。この表面の2次元画像は異常に近接したものを含む表面上の複数の点の3次元座標(例えば、(x、y、z))を提供する表面上の3次元データを生成するために使用することができる。いくつかのビデオ検査デバイスでは、ユーザは異常の幾何学的寸法を決定するためにユーザが2次元画像上にカーソルを配置する測定画面を入力する測定モードでビデオ検査デバイスを操作することができる。多くの例では、表示特徴の輪郭を2次元画像から評価することは困難であり、異常に近接してカーソルの高度に正確な配置を行うことは困難である。例えば、異常の深さを測定しようとする際には、2次元画像から異常の表面上の最深点の位置を決定し、その上にカーソルを配置することは困難である可能性がある。
いくつかのビデオ検査デバイスでは、異常の深さは基準表面を確立するために異常の周りに一つずつ3つのカーソルを配置し、その後基準表面および第4の点の表面との間の垂直距離を決定するために基準表面上ではない点に第4のカーソルを配置することにより決定される。この深さ測定は異常の表面上の最深点を測定しようとするために最も頻繁に使用される。各カーソルがジョイスティックを使用して配置された後、新しいカーソルが画面の中央に適宜最初に配置された後に、ユーザはそのカーソルの配置が行われ次の準備ができていることを示すためにボタンを押す。依って、深さ測定の第4のカーソルのために、ユーザはカーソルを画面の中央から異常の位置に移動しなければならず、および次に異常の表面上の最深点を手動で探すためカーソルを動き回さなければならない。このプロセスは時間がかかり得るものであり、常に最深点が識別される結果とはならないことがある。
上記の考察は単に一般的な背景情報のために提供され、請求される主題の範囲を決定する助けとして使用されるものではない。
米国特許出願公開第2013/0287288号明細書
ビデオ検査デバイスを使用して表示対象物上の異常の表面上の関心点(例えば、最深または最高点)を自動的に識別するための方法およびデバイスが開示される。ビデオ検査デバイスは表示対象物の表面の画像を取得するおよび表示する。基準表面は異常の表面上の複数の点を含む関心領域に沿って決定される。ビデオ検査デバイスは関心領域内の異常の表面上の複数の点のそれぞれの深さまたは高さを決定する。異常の表面上の点(例えば、最大深さまたは高さを有する)は関心点として識別される。関心点における対象表面のプロファイルが次に決定される。
異常の表面上の関心点を自動的に識別するための方法およびデバイスのいくつかの開示された実施形態の実施で実現される可能性のある利点は、ユーザが手動で関心点を特定する必要がないので測定を実行するための時間が短縮され、および測定精度が改善されることである。加えて、関心点を示す結果表示(プロファイル、点群等)は関心点のより正確な描写を提供する。
一実施形態では、表示対象物の対象表面上の異常の表面上の関心点を自動的に識別する方法が開示される。この方法は対象表面の画像をモニタ上に表示するステップ、中央処理ユニットを使用して対象表面上の複数の点の3次元座標を決定するステップ、ポインティングデバイスを使用して画像の第1の画素上の第1の基準線の終点を選択するステップ、ポインティングデバイスを使用して画像の第2の画素上の第2の基準線の終点を選択するステップ、中央処理ユニットを使用して第1の基準線の終点および第2の基準線の終点との間に延びる第1の基準線上の複数の点の3次元座標を決定するステップ、ポインティングデバイスを使用して画像の第3の画素上の第3の基準線の終点を選択するステップ、ポインティングデバイスを使用して画像の第4の画素上の第4の基準線の終点を選択するステップ、中央処理ユニットを使用して第3の基準線の終点および第4の基準線の終点との間に延びる第2の基準線上の複数の点の3次元座標を決定するステップ、中央処理ユニットを使用して少なくとも2つの第1の基準線上の複数の点および少なくとも1つの第2の基準線上の複数の点の3次元座標に基づいて基準表面を決定するステップ、中央処理ユニットを使用して異常の表面上の複数の点を備える基準表面のための関心領域を決定するステップ、中央処理ユニットを使用して基準表面および関心領域内の異常の表面上の複数の点との間の距離を決定するステップ、中央処理ユニットを使用して基準表面からの最大距離を有する関心領域内の異常の表面上の関心点の3次元座標を決定するステップ、中央処理ユニットを使用して異常の表面上の関心点を含む第1の基準線および第2の基準線との間の対象表面上のプロファイル表面輪郭線の複数の点の3次元座標を決定するステップ、中央処理ユニットを使用して基準表面から対象表面上のプロファイル表面輪郭線の複数の点への距離を決定することにより対象表面のプロファイルを決定するステップを含む。
別の実施形態では、表示対象物の対象表面上の異常の表面上の関心点を自動的に識別するためのデバイスが開示される。デバイスは対象表面の画像を表示するためのモニタ、画像の第1の画素上の第1の基準線の終点を選択するための、画像の第2の画素上の第2の基準線の終点を選択するための、画像の第3の画素上の第3の基準線の終点を選択するための、および画像の第4の画素上の第4の基準線の終点を選択するためのポインティングデバイス、および対象表面上の複数の点の3次元座標を決定するための、第1の基準線の終点および第2の基準線の終点との間に延びる第1の基準線上の複数の点の3次元座標を決定するための、第3の基準線の終点および第4の基準線の終点との間に延びる第2の基準線上の複数の点の3次元座標を決定するための、少なくとも2つの第1の基準線上の複数の点および少なくとも1つの第2の基準線上の複数の点の3次元座標に基づいて基準表面を決定するための、異常の表面上の複数の点を備える基準表面のための関心領域を決定するための、基準表面および関心領域内の異常の表面上の複数の点との間の距離を決定するための、基準表面からの最大距離を有する関心領域内の異常の表面上の関心点の3次元座標を決定するための、異常の表面上の関心点を含む第1の基準線および第2の基準線との間の対象表面上のプロファイル表面輪郭線の複数の点の3次元座標を決定するための、および基準表面から対象表面上のプロファイル表面輪郭線の複数の点への距離を決定することにより対象表面のプロファイルを決定するための中央処理ユニットを備える。
本発明のこの簡単な説明は1つ以上の例示的実施形態により本明細書で開示される主題の概要を提供するだけのものであり、請求項を解釈するまたは添付の特許請求の範囲によってのみ定義される本発明範囲を定義するまたは制限するガイドとして機能しないことを意図している。この簡単な説明は以下の詳細な説明でさらに説明される簡略化された形式の概念の例示的な選択を紹介するために提供される。この簡単な説明は特許請求される主題の主要な特徴または本質的な特徴を特定することを意図するものではなく、また特許請求される主題の範囲を決定する助けとして使用されることを意図するものでもない。特許請求される主題は背景で述べたいずれかまたはすべての欠点を解決する実装に限定されるものではない。
本発明の特徴内の方法を理解できるようにするために、本発明の詳細な説明は特定の実施形態を参照することにより行われてもよく、それらのいくつかは添付の図面に示されている。しかしながら、図面は本発明の特定の実施形態のみを示し、したがって本発明の範囲は他の等しく有効な実施形態を包含するため、その範囲を限定するものとみなされるべきではないことに留意すべきである。図面は一般的に本発明の特定の実施形態の特徴を説明することに重点が置かれ、必ずしも一定の縮尺、強調はされていない。図面において、様々な図を通して同様の番号は同様の部品を示すために使用される。このように、本発明のさらなる理解のために、図面に関連して読まれる以下の詳細な説明に参照が行われ得る。
図1は、例示的なビデオ検査デバイスのブロック図である。 図2は、本発明の例示的な実施形態の異常を有する表示対象物の対象表面のビデオ検査デバイスにより得られた例示的な画像である。 図3は、本発明の例示的な実施形態の図2の画像に示されている表示対象物上の異常の表面上の最深点を自動的に識別するための例示的な方法およびデバイスのフロー図である。 図4は、ビデオ検査デバイスにより決定される例示的な基準表面を示す。 図5は、ビデオ検査デバイスにより決定される例示的な関心領域を示す。 図6は、ビデオ検査デバイスにより決定される別の例示的な関心領域を示す。 図7は、本発明の例示的な実施形態における図1の画像に示される表示対象物の対象表面の例示的なプロファイルのグラフ表示である。 図8は、本発明の別の例示的な実施形態における異常を有する表示対象物の対象表面のビデオ検査デバイスにより得られる別の例示的な画像である。 図9は、異常の表面上の関心点を含む第1の基準線および第2の基準線との間の対象表面上の例示的なプロファイル表面輪郭線の決定を示す。 図10は、本発明の例示的な実施形態における図8の画像に示される表示対象物の対象表面の別の例示的なプロファイルのグラフ表示である。 図11は、本発明の例示的な実施形態における図8の画像に示される表示対象物の対象表面上の異常の表面上の関心点を自動的に識別するための別の例示的な方法のフロー図である。
図1は例示的なビデオ検査デバイス100のブロック図である。図1に示されるビデオ検査デバイス100は例示的なものであり、および発明の範囲は任意の特定のビデオ検査デバイス100またはビデオ検査デバイス100内の構成要素の任意の特定の構成に限定されるものではないことが理解されるであろう。
ビデオ検査デバイス100は挿入チューブ110を備える細長いプローブ102および挿入チューブ110の遠位端に配置されたヘッドアセンブリ120を含むことができる。挿入チューブ110はヘッドアセンブリ120およびプローブ電子回路140との間のすべての相互接続が通過する可撓性管状部分で有り得る。ヘッドアセンブリ120は表示対象物202からの光をイメージャ124上に導光して集束させるためのプローブ光学系122を含むことができる。プローブ光学系122は、例えばレンズシングレット(単レンズ)または複数の構成要素を有するレンズを備えることができる。イメージャ124は表示対象物202の画像を得るためのソリッドステートCCDまたはCMOSイメージセンサで有り得る。
取り外し可能な先端部またはアダプタ130はヘッドアセンブリ120の遠位端上に配置することができる。取り外し可能な先端部130は表示対象物202からの光をイメージャ124上に導光して集束させるプローブ光学系122と組み合わせて機能する先端視野光学系132(例えば、レンズ、窓、または開口)を含むことができる。取り外し可能な先端部130はまたビデオ検査デバイス100用の光源が先端部130から発光する場合に照明用LED(図示せず)を、またはプローブ102からの光を表示対象物202に通過させる光通過素子(図示せず)を含むことができる。先端部130はまた側面へのカメラビューおよび光出力をオンにする導波路(例えば、プリズム)を含むことにより側視用の機能を提供することができる。先端部130はまた表示表面の3次元データの決定に使用するための立体光学素子または構造化光投射素子を設けてもよい。先端部130に含めることができる素子はまたプローブ102自体に含めることができる。
イメージャ124は複数行複数列で形成された複数の画素を含むことができ、およびイメージャ124の各画素に入射する光のアナログ電圧を表す形式の画像信号を生成することができる。画像信号は信号バッファリングおよび調整のための電子機器を提供するイメージャハイブリッド126を介して、イメージャハイブリッド126およびイメージャインタフェース電子回路142との間で制御信号およびビデオ信号のための配線を提供するイメージャハーネス112に伝播することができる。イメージャインタフェース電子回路142は電源、イメージャクロック信号を生成するためのタイミングジェネレータ、イメージャ映像出力信号をデジタル化するためのアナログフロントエンド、およびデジタル化されたイメージャ映像データをより有用なビデオフォーマットに処理するためのデジタル信号プロセッサを含むことができる。
イメージャインタフェース電子回路142はビデオ検査デバイス100を操作するための機能の収集を提供するプローブ電子回路140の一部である。プローブ電子回路140はまたプローブ102および/または先端部130のキャリブレーションデータを格納するキャリブレーションメモリ144を含むことができる。マイクロコントローラ146はまたゲインおよび露出設定値を決定するおよび設定するためにイメージャインタフェース電子回路142と通信するために、キャリブレーションメモリ144にキャリブレーションデータを格納しおよび読み取るために、表示対象物202に送達される光を制御するために、およびビデオ検査デバイス100の中央処理ユニット(CPU)150と通信するためにプローブ電子回路140に含まれることができる。
マイクロコントローラ146と通信することに加えて、イメージャインタフェース電子回路142はまた1つ以上のビデオプロセッサ160と通信することができる。ビデオプロセッサ160はイメージャインタフェース電子回路142からビデオ信号を受信することができ、および一体型ディスプレイ170または外部モニタ172を含む様々なモニタ170、172に信号を出力することができる。一体型ディスプレイ170は検査者に様々な画像またはデータ(例えば、表示対象物202の画像、メニュー、カーソル、測定結果)を表示するためのビデオ検査デバイス100に内蔵された液晶画面で有り得る。外部モニタ172は様々な画像またはデータを表示するためのビデオ検査デバイス100に接続されたビデオモニタまたはコンピュータ型モニタで有り得る。
ビデオプロセッサ160はCPU150に/からコマンド、ステータス情報、ストリーミングビデオ、スチルビデオ画像、およびグラフィカルオーバーレイを提供/受信することができ、および画像取り込み、画像強調、グラフィカルオーバーレイマージ、歪み補正、フレーム平均化、スケーリング、デジタルズーム、オーバーレイ、マージ、フリッピング、動き検出、ビデオフォーマット変換および圧縮などのような機能を提供するFPGA、DSP、または他の処理素子から構成されてもよい。
CPU150は画像、ビデオ、およびオーディオ記憶部およびリコール機能、システム制御、測定処理などを含む他の機能をホストに提供することに加えて、ジョイスティック180、ボタン182、キーパッド184、および/またはマイクロフォン186を介して入力を受信することにより、ユーザインタフェースを管理するために使用することができる。ジョイスティック180はメニュー選択、カーソル移動、スライダの調整、およびプローブ102の関節制御などの操作を実行するためにユーザにより操作することができ、およびプッシュボタンの機能を含んでもよい。ボタン182および/またはキーパッド184はまたメニュー選択およびCPU150にユーザコマンド(例えば、スチル画像をフリーズするまたは保存する)を提供することのために使用することができる。マイクロフォン186はスチル画像をフリーズするまたは保存するための音声指示を提供するために検査者により使用することができる。
ビデオプロセッサ160はまたフレームバッファリングおよび処理中のデータを一時的に保持するためにビデオプロセッサ160により使用されるビデオメモリ162と通信することができる。CPU150はまたCPU150により実行されるプログラムを記憶するためのCPUプログラムメモリ152と通信することができる。加えて、CPU150は揮発性メモリ154(例えば、RAM)、および不揮発性メモリ156(例えば、フラッシュメモリデバイス、ハードドライブ、DVD、またはEPROMメモリデバイス)と通信することができる。不揮発性メモリ156はストリーミングビデオおよびスチル画像のための一次記憶である。
CPU150はまたUSB、ファイヤワイヤ、イーサネット(登録商標)、オーディオI/O、および無線トランシーバなどの周辺装置およびネットワークへの様々なインタフェースを提供するコンピュータI/Oインタフェース158と通信することができる。このコンピュータI/Oインタフェース158はスチル画像、ストリーミングビデオ、またはオーディオを保存、リコール、送信、および/または受信するために使用することができる。例えば、USB「サムドライブ」またはコンパクトフラッシュ(登録商標)メモリカードはコンピュータI/Oインタフェース158にプラグインすることができる。加えて、ビデオ検査デバイス100は画像データまたはストリーミングビデオデータのフレームを外部コンピュータまたはサーバに送信するように構成することができる。ビデオ検査デバイス100はTCP/IP通信プロトコルスイートを組み込むことができ、および各々のコンピュータはまたTCP/IP通信プロトコルスイートを組み込む複数のローカルおよびリモートコンピュータを含む広域ネットワークに組み入れることができる。TCP/IPプロトコルスイートの組み込みと合わせて、ビデオ検査デバイス100はTCPおよびUDPを含むいくつかのトランスポート層プロトコルおよびHTTPおよびFTPを含むいくつかの異なる層プロトコルを組み込んでいる。
図1において特定のコンポーネントは単一のコンポーネント(例えば、CPU150)として示されているが、複数の別個のコンポーネントがコンポーネントの機能を実行するために使用することができることが理解されるであろう。
図2は本発明の例示的な実施形態の異常204を有する表示対象物202の対象表面210のビデオ検査デバイス100により得られる例示的な画像200である。この例では、異常204は材料が損傷または摩耗により異常204内で表示対象物202の対象表面210から除去された凹みとして示されている。この例示的な実施形態で示した異常204は単に一例であり、および本発明の方法は他のタイプの凹凸(例えば、亀裂、腐食孔、コーティングロス、表面付着物等)に適用されることが理解されるであろう。一旦画像200が得られ、および異常204が識別されると、画像200は異常204の寸法(例えば、高さまたは深さ、長さ、幅、面積、体積、線へのポイント、プロファイルスライス等)を決定するために使用することができる。一実施形態では、使用される画像200は異常204を含む表示対象物202の対象表面210の2次元画像200で有り得る。
図3は本発明の例示的な実施形態での図2の画像200に示す表示対象物202上の異常204の対象表面210上の最深点を自動的に識別するための例示的な方法300のフロー図である。図3のフロー図で説明するステップはフロー図に示すものとは異なる順序で実行することができ、および特定の実施形態のためにすべてのステップが必要ではないことが理解されるであろう。
例示的な方法300(図3)のステップ310において、および図2に示すように、ユーザは異常204を有する表示対象物202の対象表面210の少なくとも1つの画像200を取得し、およびそれをビデオモニタ(例えば、一体型ディスプレイ170または外部モニタ172)上に表示するためにビデオ検査デバイス100(例えば、イメージャ124)を使用することができる。
例示的な方法300(図3)のステップ320において、ビデオ検査デバイス100(例えば、CPU150)は異常204の表面点を含む表示対象物202の対象表面210上の複数の表面点の3次元座標(例えば、(x、y、z))を決定することができる。一実施形態では、ビデオ検査デバイスは3次元座標を決定するために画像200から3次元データを生成することができる。いくつかの異なる既存の技術は対象表面210の画像200内(図2)の表面点の3次元座標を提供するために(例えば、ステレオ、走査システム、ステレオ三角測量、位相シフト解析、位相シフトモアレのような構造光法、レーザードットプロジェクション等)使用することができる。
大部分のこのような技術は、そうでなければ光学的歪みにより誘起されるであろう3次元座標の誤差を低減するために使用される光学的特性データをとりわけ含むキャリブレーションデータの使用を備える。いくつかの技術で、3次元座標は投射されたパターンと同様のものを含んでいてもよい近接した時間内で取得された1つ以上の画像を使用して決定されてもよい。画像200を使用して決定された3次元座標への参照はまた近接した時間内に取得された対象表面210の1つまたは複数の画像200を使用して決定された3次元座標を備えること、および説明された動作中であるユーザに表示される画像200は実際には3次元座標の決定に使用してもまたはしなくてもよいことが理解されるべきである。
例示的な方法300(図3)のステップ330において、および図4に示すように、ビデオ検査デバイス100(例えば、CPU150)は基準表面250を決定することができる。他の実施形態では、基準表面250は湾曲させることができる一方、いくつかの実施形態では、基準表面250は平坦とすることができる。同様に、他の実施形態では、基準表面250は異なる形状の形態(例えば、円筒、球等)とすることができる一方、一実施形態では、基準表面250は平面の形態とすることができる。例えば、ユーザは基準表面を決定するため異常204に近接する表示対象物202の対象表面210上の1つ以上の基準表面点を選択するためにビデオ検査デバイス100のジョイスティック180(または他のポインティングデバイス(例えば、マウス、タッチスクリーン))を使用することができる。
一実施形態では、および図4に示すように、3つの基準表面点221、222、223の合計は異常204に近接する対象表面210上で選択される3つの基準表面点221、222、223で、異常204の深さ測定を行うために異常204に近接する表示対象物202の対象表面210上で選択される。一実施形態では、表示対象物202の対象表面210上の複数の基準表面点221、222、223は基準表面カーソル231、232、233(または他のポインティングデバイス)を対象表面210上の複数の基準表面点221、222、223に対応する画像200の各画素241、242、243上に配置することにより選択することができる。例示的な深さ測定では、ビデオ検査デバイス100(例えば、CPU150)は複数の基準表面点221、222、223それぞれの3次元座標を決定することができる。
異常204に近接する対象表面210上で選択される3つの基準表面点221、222、223の1つ以上に近接する3つ以上の表面点の3次元座標は基準表面250(例えば、平面)を決定するために使用することができる。一実施形態では、ビデオ検査デバイス100(例えば、CPU150)は以下の形式を有する基準表面250(例えば、面)の方程式を決定するために、3つの基準表面点221、222、223の3次元座標のカーブフィッティングを実行することができる。
0RS+k1RS1・xiRS+k2RS・yiRS1=ziRS (1)
ここで、(xiRS、yiRS、ziRS)は定義された基準表面250上の任意の3次元点の座標であり、およびk0RS、k1RS、およびk2RSは3次元座標のカーブフィッティングにより得られた係数である。
複数の基準表面点(すなわち、少なくともk個の係数の数と同じ数の点)はカーブフィッティングを実行するために使用されることに留意すべきである。カーブフィッティングは使用される点(例えば、最小二乗近似)にベストフィットを与えるk個の係数を求める。k個の係数は次に使用される3次元点に近接する平面または他の基準表面250を定義する。しかしながら、カーブフィッティングでk個の係数の数より多くの点が使用されている場合、平面方程式(数1)内で使用される点のxおよびy座標を挿入する際、zの結果はノイズおよび実際に存在する可能性がある平面からの任意の偏差に起因して点のz座標と一般的に正確には一致しなくなるであろう。このように、xiRS1およびyiRS1は任意の値とすることができ、および結果としてziRSはxiRS、yiRSで定義された平面のzを言い表している。依って、これらの式に示す座標は定義された表面上で正確に任意の点に対するものであることができ、必ずしもk個の係数を決定するためのフィッティング内で使用される点ではない。
他の実施形態では、3点がk0RS、k1RS、およびk2RSを決定するのに必要とされているので、それらの基準表面点の3次元座標のみに基づいてフィッティングカーブの使用を禁止する、1つまたは2つだけの選択された基準表面点がある。その場合、ビデオ検査デバイス100(例えば、CPU150)は基準表面点(複数可)に近接する対象表面210上の複数の点に対応する画像の各画素に近接する複数の画素を識別することができ、および基準表面250を決定するためにカーブフィッティングを可能にする、近接点(複数可)の3次元座標を決定することができる。
例示的な基準表面250は基準表面カーソル231、232、233により選択された基準表面点221、222、223に基づいて決定されるものとして説明してきたが、他の実施形態では、基準表面250は異常204に近接する基準表面形状260(例えば、円形、正方形、長方形、三角形等)を配置するためのポインティングデバイスを使用すること、および基準表面250を決定するための形状260の基準表面点261、262、263、264を使用することにより形成することができる。形状260の基準表面点261、262、263、264はポインティングデバイスにより選択された点とすることができる、または異常204を囲むような大きさにすることができる形状の周囲の上にまたはこれに近接する他の点とすることができることが理解されるであろう。
例示的な方法300(図3)のステップ340において、および図5に示すように、ビデオ検査デバイス100(例えば、CPU150)は基準表面250の基準表面点に基づいて異常204に近接する関心領域270を決定する。関心領域270は異常204の複数の表面点を含む。一実施形態では、関心領域270は2つ以上の基準表面点221、222、223に基づいて関心領域形状271(例えば、円形)を形成することにより形成される。別の実施形態では、関心領域270は基準表面260に垂直な円筒を形成すること、およびそれを2つ以上の基準表面点221、222、223に通す、または近接することにより決定することができる。再度図4を参照すると、関心領域は基準表面形状260および基準表面点261、262、263、264内に形成することができる。
図5の例示的な関心領域形状271は基準表面点221、222、223を通過させることにより形成されるが、別の実施形態では、より小さい直径の基準表面の形状は基準表面点に近接するのみで通過することにより形成することができる。例えば、図6に示すように、関心領域280は、円形281の直径が2つの基準表面点221、222間の距離よりも小さい2つの基準表面点221、222に近接する関心領域形状281(例えば、円形)を通過させることにより形成される。関心領域形状271、281および関心領域270、280は画像200上に表示されてもまたはされなくてもよいことが理解されるであろう。
例示的な方法300(図3)のステップ350において、関心領域270、280が決定された後、ビデオ検査デバイス100(例えば、CPU150)は関心領域内の複数の表面点それぞれから基準表面250への距離(すなわち、深さ)を決定する。一実施形態では、ビデオ検査デバイス100(例えば、CPU150)は基準表面250および関心領域270、280内の複数の表面点それぞれとの間に延びる線の距離を決定し、線は基準表面250と垂直に交差する。
例示的な方法300(図3)のステップ360において、ビデオ検査デバイスは基準表面250から最も遠い表面点を決定することにより関心領域270、280内の最深表面点224の位置を決定する(例えば、基準表面250まで延びる最も長い線で表面点を選択する)。本明細書で使用される「最深点」または「最深表面点」は基準表面250に対して凹んでいる最も遠い点(すなわち、最高点)、または基準表面250から突出している最も遠い点とすることができることが理解されるであろう。ビデオ検査デバイス100は、最深表面点224上に、例えばカーソル234(図5)またはその他のグラフィック識別子282(図6)を表示することにより画像上の関心領域270、280内の最深表面点224を識別することができる。加えてそして図5および図6に示すように、ビデオ検査デバイス100は画像200上の関心領域270、280内の最深表面点224の深さ290(インチまたはミリメートル)(すなわち、最深表面点224から基準表面250に延びる垂直線の長さ)を表示することができる。関心領域270、280内の最深表面点224におけるカーソル234またはその他のグラフィック識別子282(図6)を自動的に表示することにより、ユーザが異常204内の最深表面点224を手動で識別する必要がないので、ビデオ検査デバイス100は深さ測定に必要な時間を短縮し、および深さ測定の精度を改善する。
一旦カーソル234が関心領域270、280内の最深表面点224で表示されると、ユーザは深さ測定を取得しおよび保存するためにその点を選択することができる。ユーザはまた関心領域270、280内の他の表面点の深さを決定するために関心領域270、280の中でカーソル234を移動させることができる。一実施形態では、ビデオ検査デバイス100(例えば、CPU150)はカーソル234の動きを監視することができ、およびカーソル234が動きを停止した際に検出することができる。カーソル234が所定時間(例えば1秒)の間動きを停止する際に、ビデオ検査デバイス100(例えば、CPU150)はカーソル234に近接する最深表面点を決定することができ(例えば、カーソル234を中心とする所定の円形)、およびカーソル234をその位置に自動的に移動することができる。
図7は図1の画像200に示す表示対象物202の対象表面210の例示的なプロファイル400のグラフ表示である。この例示的なプロファイル400において、基準表面250は2つの基準表面点221、222およびそれぞれの基準表面カーソル231、232との間に延びているように示される。関心領域内の最深表面点224の位置および深さ290もまたグラフ表示に示されている。別の実施形態では、点群表示もまた最深表面点224を表示するために使用することができる。
図8は本発明の別の例示的な実施形態での異常204を有する表示対象物202の対象表面210のビデオ検査デバイス100により得られる別の例示的な画像500である。再度、この例では、異常204は材料が損傷または摩耗により異常204内の表示対象物202の対象表面210から除去された凹みとして示されている。この例示的な実施形態で示す異常204は一例であること、および本発明の方法は凹凸の他のタイプ(例えば、亀裂、腐食孔、コーティングロス、表面付着物等)に適用されることが理解されるであろう。一旦画像500が得られ、異常204が識別されると、画像500は異常204の寸法を決定するために使用することができる(例えば、高さまたは深さ、長さ、幅、面積、体積、線へのポイント、プロファイルスライス等)。一実施形態では、使用される画像500は異常204を含む表示対象物202の対象表面210の2次元画像500とすることができる。別の実施形態では、画像500は異常204を含む表示対象物202の対象表面210の点群または他の3次元表示とすることができる。
図11は本発明の例示的な実施形態における図8の画像500に示す表示対象物202の対象表面210上の異常204の表面上の関心点502を自動的に識別するための別の例示的な方法700のフロー図である。図11のフロー図に記載されているステップはフロー図に示すものとは異なる順序で実行することができ、およびすべてのステップが特定の実施形態に必要とされるものではないことが理解されるであろう。
例示的な方法700(図11)のステップ710において、および図8に示すように、ユーザは異常204を有する表示対象物202の対象表面210の少なくとも1つの画像500を取得するためにビデオ検査デバイス100(例えば、イメージャ124)を使用することができ、およびそれをビデオモニタ(例えば、一体型ディスプレイ170または外部モニタ172)上に表示することができる。一実施形態では、画像500はビデオ検査デバイス100の測定モードで表示することができる。
例示的な方法700(図11)のステップ720において、ビデオ検査デバイス100(例えば、CPU150)は異常204の表面点501、502、503を含む表示対象物202の対象表面210上の複数の表面点の3次元座標(例えば、(x、y、z))を決定する。一実施形態では、ビデオ検査デバイスは3次元座標を決定するために画像500から3次元データを生成することができる。いくつかの異なる既存の技術は対象表面210の画像500(図8)内の表面点の3次元座標を提供するために使用することができる(例えば、ステレオ、走査システム、ステレオ三角測量、位相シフト分析、位相シフトモアレのような構造光法、レーザードットプロジェクション等)。
再度、ほとんどのこのような技術はそうでなければ光学的歪みにより誘起される3次元座標の誤差を低減するために使用される光学特性データをとりわけ含むキャリブレーションデータの使用を備える。いくつかの技術を用いて、3次元座標は投射されたパターンおよび同様のものを含んでいてもよい近接した時間内で取り込まれた1つ以上の画像を使用して決定されてもよい。画像500を使用して決定された3次元座標への参照はまた近接した時間内で取り込まれた対象表面210の1つまたは複数の画像500を使用して決定される3次元座標を備えていてもよい、および説明された動作中にユーザに表示される画像500は3次元座標の決定には実際には使用されてもまたはされなくてもよいことが理解されるべきである。
例示的な方法700(図11)のステップ730において、および図8に示すように、ユーザは画像500上にカーソルを配置するためにポインティングデバイス(例えば、ジョイスティック、マウス、タッチスクリーン)を使用して、画像500の第1の画素561上の第1の基準線の終点511を選択することにより、および画像500の第2の画素562上の第2の基準線の終点512を選択することにより第1の基準線510を確立する。第1の基準線の終点511および第2の基準線の終点512は異常204の第1の側に近接するおよび存するように選択することができる。例示的な方法700(図11)のステップ732において、ビデオ検査デバイス100(例えば、CPU150)は第1の基準線の終点511および第2の基準線の終点512との間に延びる第1の基準線510上の複数の点の3次元座標を決定することができる。
同様に、例示的な方法700(図11)のステップ734において、および図8に示すように、ユーザは画像500上にカーソルを配置するためにポインティングデバイスを使用して画像500の第3の画素563上の第3の基準線の終点521を選択することにより、および画像500の第4の画素564の第4の基準線の終点522を選択することにより第2の基準線520を確立する。第3の基準線の終点521および第4の基準線の終点522は異常204の第2の側に近接するおよび存するように選択することができる。例示的な方法700(図11)のステップ736において、ビデオ検査デバイス100(例えば、CPU150)は第3の基準線の終点521および第4の基準線の終点522との間に延びる第2の基準線520上の複数の点の3次元座標を決定することができる。図8に見ることができるように、第1の基準線510および第2の基準線520は異常204を跨ぐまたは囲むように配置することができる。
一実施形態では、ビデオ検査デバイス100(例えば、CPU150)は、第1の基準線510のための以下の式を決定するために第1の基準線の終点511および第2の基準線の終点512との間の画素の3次元座標上で最小二乗回帰を(ノイズの影響を低減するために)使用することができる。
x(d1)=kx0+kx1*d1+kx2*d1 2 (2)
y(d1)=ky0+ky1*d1+ky2*d1 2 (3)
z(d1)=kz0+kz1*d1+kz2*d1 2 (4)
ここでd1は、例えば0.0から1.0の範囲の第1の基準線510に沿った端数である。例えば、図8に示すように、第1の基準線510は10個のセグメントに分割されている(d1=0.0、0.10、0.20、...0.90、1.00)。定数(k)の項の一組のセグメントは第1の基準線510に対して決定される。同じプロセスが、同数のセグメントで、第2の基準線520に対して実行される(すなわち、d2=0.0、0.10、0.20、...0.90、1.00)。例示的な実施形態ではあるが、第1の基準線510および第2の基準線520は同数のセグメントで同じ長さとして示され、他の実施形態では、基準線510および520は異なる長さおよび/または異なるセグメント数とすることができる。
図8に示す実施形態では、第1の基準線510および第2の基準線520は直線である。一実施形態では、ビデオ検査デバイス100(例えば、CPU150)は第1の画素561および第2の画素562との間の直線に近接する画像500の画素に対応する対象表面210上の点の3次元座標上で回帰を実行する。別の実施形態では、ビデオ検査デバイス100(例えば、CPU150)は第1の画素561および第2の画素562との間の直線に近接する画像500の画素に対応する対象表面210上の点の3次元座標でローパスフィルタリングを実行する。
別の実施形態では(例えば、対象表面210がより複雑なまたは湾曲である)、第1の基準線510上の複数の点の3次元座標を決定するステップに関して、ビデオ検査デバイス100(例えば、CPU150)は対象表面210と交差する(例えば、垂直に)、および第1の基準線の終点511および第2の基準線の終点512を通過する第1の基準線平面581を決定する。ビデオ検査デバイス100は次に第1の基準線平面581に近接する(例えば、第1の基準線平面581上に、または所定の距離内に)対象表面210上の第1の表面輪郭線591の複数の点の3次元座標を決定する。同様に、第2の基準線520上の複数の点の3次元座標を決定するステップに関して、ビデオ検査デバイス100(例えば、CPU150)は対象表面210と交差する(例えば、垂直に)、および第3の基準線の終点521および第4の基準線の終点522を通過する第2の基準線平面582を決定する。ビデオ検査デバイス100は次に第2の基準線平面582に近接する(例えば、第2の基準線平面582上に、または所定の距離内に)対象表面210上の第2の表面輪郭線592の複数の点の3次元座標を決定する。基準線を湾曲させることができるこの本実施形態では、定数(k)の異なる組は基準線に沿って方程式およびdの値について決定されるであろう。
例示的な方法700(図11)のステップ740において、および図8に示すように、ビデオ検査デバイス100(例えば、CPU150)は第1の基準線510上の少なくとも2つの複数の点(例えば、514、515、516)、および第2の基準線520上の少なくとも1つの点(例えば、524、525、526)の3次元座標を使用して基準表面550を決定する。明確にするために、図8は第1の基準線510および第2の基準線520に沿った点の1つのグループのための単一の基準表面550の決定のみを示す。しかしながら、例示的な方法では、複数の基準表面は第1の基準線510および第2の基準線520に沿った点の異なるグループのために作成されるであろう。例えば、図示の基準表面550はd1=d2=0.50に近接するポイントに基づいて決定することができる一方、他の基準表面はd1=d2=0.00、0.10、0.20、0.30、0.40、0.60、0.70、0.80、0.90、1.00に近接する点に基づいて決定することができる。
他の実施形態では、基準表面550は湾曲したまたは異なる形状の形態(例えば、円柱、球等)とすることができる一方、いくつかの実施形態では、基準表面550は平坦(例えば、平面)にすることができる。第1の基準線510および/または第2の基準線520が湾曲している実施形態では、第1の基準線510および/または第2の基準線520のそれぞれに沿って基準表面550は少なくとも2つのものが平行ではない基準表面を含むことができる。
図8に戻ると、例示的な基準表面550はd1=d2=0.50である第1の基準線510および第2の基準線520上の位置に対応し、第1の基準線510上の2点514、516(d1=0.50±0.05)のセットの、および第2の基準線520上の2点524、526(d2=0.50±0.05)のセットの3次元座標は基準平面として基準表面550を決定するために使用される。一実施形態では、ビデオ検査デバイス100(例えば、CPU150)は以下の形式を有する基準表面550のための方程式を決定するために4点514、516、524、526のうちの少なくとも3つの3次元座標のフィッティングを実行することができる。
z(x,y)=a0+a1*x+a2*y (5)
ここで(x、y、z)は定義された基準表面550上の任意の3次元点の座標であり、およびa0、a1、およびa2は3次元座標のフィッティングにより得られた係数である。例示的な実施形態では、基準表面550は基準線510、520(すなわち、d1=d2)の2つの対応するセグメントからの点に基づいて決定される一方、他の実施形態では、基準表面550は対応していない(すなわち、d1≠d2)2つのセグメントに基づいて決定されることができる。
例示的な方法700(図11)のステップ750において、および図8に示すように、ビデオ検査デバイス100(例えば、CPU150)は異常204の表面上の複数の点501、502、503を備える基準表面550それぞれのための関心領域570を決定する。一実施形態では、関心領域570は第1の基準線510上の少なくとも2つの複数の点514、516に、および第2の基準線520上の少なくとも1つの複数の点524、526に基づいて頂点で基準表面550上にポリゴン571を決定することにより作成される。関心領域570は基準表面550に対する法線上に位置し、およびポリゴン571内で基準表面550と交差する異常204の表面上の複数の点501、502、503を含む。
別の実施形態では、関心領域570は基準表面550と交差する(例えば、垂直に)、および第1の基準線510上の少なくとも2つの複数の点514、516との間の第1の基準線510を通過する関心領域平面580を決定することにより作成される。関心領域570は関心領域平面580の所定の距離572、573内に位置する異常204の表面上の複数の点501、502、503を備える。
例示的な方法700(図11)のステップ760において、および図8に示すように、ビデオ検査デバイス100(例えば、CPU150)は関心領域570のそれぞれ内で基準表面550および異常204の表面上の複数の点501、502、503との間の距離を決定する。例示的な方法700(図11)のステップ770において、および図8に示すように、ビデオ検査デバイス100(例えば、CPU150)は基準表面からの最大距離を有する関心領域570内の異常204の表面上の関心点502の3次元座標を決定する(例えば、窪み内の最深点または突起上の最高点)。一旦関心点502が識別されると、ビデオ検査デバイス100(例えば、CPU150)は関心点502を通過するプロファイル(またはプロファイルスライス)を見つけ出そうとする。
例示的な方法700(図11)のステップ780において、および図9に示すように、ビデオ検査デバイス100(例えば、CPU150)は図9に示すように異常204の表面上の関心点502を含む第1の基準線510および第2の基準線520との間の対象表面210上のプロファイル表面輪郭線594を決定する。一実施形態において、プロファイル表面輪郭線594は図9に示すように第1の基準線510上に存するまたは近接する第1の点518、第2の基準線520上に存するまたは近接する第2の点528、および異常204の表面上の関心点502を備える。一実施形態では、関心点502(最深または最高点)を通過するプロファイル表面輪郭線594を決定するために、ビデオ検査デバイス100(例えば、CPU150)は関心点502が見つけ出された第1の基準線510および第2の基準線520の特定のセグメント内で反復プロセスを実行することができる。例えば、および図9に示すように、関心点502がd1=d2=0.50に対応するセグメント内で発見されたので、ビデオ検査デバイス100は基準表面550と交差する(例えば、垂直に)、および基準線510、520(例えば、ここでd1=d2)上の対応する点を通過する複数の基準表面平面583、584を決定することができる。例示的な実施形態では、複数の基準表面平面583、584は基準線510、520(すなわち、d1=d2)の2つの対応するセグメントからの点に基づいて決定される一方、他の実施形態では、基準表面平面583、584は対応していない2つのセグメント(すなわち、d1≠d2)に基づいて決定することができる。
例えば、ビデオ検査デバイス100(例えば、CPU150)はd1=d2=0.50で関心点502および関心領域平面580との間の距離を決定することができる。図9に見ることができるように、関心点502は関心領域平面580で取られたプロファイル(またはプロファイルスライス)が関心点502を含まないように関心領域平面580から距離574離れて配置される。
次に、ビデオ検査デバイス100(例えば、CPU150)は原の(オリジナルの)基準表面550または新たな基準表面(d1=d2=0.52近傍の基準線510、520上の点を使用して生成された)と交差する(例えば、垂直に)、およびd1=d2=0.52で第1の基準線510上の基準線点517および第2の基準線520上の対応する基準線点527を通過する基準表面平面583を決定することができる。ビデオ検査デバイス100は次にd1=d2=0.52で関心点502および基準表面平面583との間の距離を決定することができる。図9に見ることができるように、関心点502は基準表面平面583で取られたプロファイル(またはプロファイルスライス)が関心点502を含まないように基準表面平面583から距離575離れて位置する。
反復するために続けると、ビデオ検査デバイス100(例えば、CPU150)は基準表面550または新たな基準表面(d1=d2=0.53近傍の基準線510、520上の点を使用して生成された)と交差する(例えば、垂直に)、およびd1=d2=0.53で第1の基準線510上に存するまたは近接する基準線点518および第2の基準線520上に存するまたは近接する対応する基準線点528を通過する基準表面平面584を決定することができる。ビデオ検査デバイス100は次にd1=d2=0.53で関心点502および基準表面平面584との間の距離を決定することができる。図9に見ることができるように、関心点502は基準表面平面584で取られたプロファイル(またはプロファイルスライス)が関心点502を含むように基準表面平面584上に位置する。ビデオ検査デバイス100は次に基準表面平面584に近接する(例えば、基準表面平面584上に、または所定の距離内に)対象表面210上のプロファイル表面輪郭線594の複数の点の3次元座標を決定することができる。プロファイル表面輪郭線594は図9に示すように第1の基準線510上に存するまたは近接する点518、第2の基準線520上に存するまたは近接する点528、および異常204の表面上の関心点502を備える。
例示的な方法700(図11)のステップ790において、ビデオ検査デバイス100(例えば、CPU150)は基準表面550から対象表面210上のプロファイル表面輪郭線594の複数の点への距離を決定することにより関心点502を含む対象表面210のプロファイルを決定する。図10は図8の画像500に示す表示対象物202の対象表面210のプロファイルのグラフ表示の画像600である。プロファイル表面輪郭線594での表示対象物202の断面を示すプロファイルのグラフ表示はビデオモニタ(例えば、一体型ディスプレイ170または外部モニタ172)上に表示することができる。プロファイルは第1の基準線510上に存するまたは近接する点518、第2の基準線520上に存するまたは近接する点528、および異常204の表面上の関心点502を含む。プロファイルのグラフィカル表示はまた基準表面550および表面上の関心点502との間の距離602を表示する。別の実施形態では、例えば基準表面550の3次元表示およびプロファイル表面輪郭線594を備える、第1の基準線510上に存するまたは近接する点518、第2の基準線520上に存するまたは近接する点528、および異常204の表面上の関心点502を含む点群画像はビデオモニタ(例えば、一体型ディスプレイ170または外部モニタ172)上に表示することができる。
上記に鑑み、本発明の実施形態は表面上の異常上の点の深さまたは高さを自動的に決定する。技術的効果はユーザが手動で関心点(最深または最高点)を識別する必要がないので、測定を実行するために必要な時間を低減することおよび測定の精度を改善することである。
当業者により理解されるであろうように、本発明の態様はシステム、方法、またはコンピュータプログラム製品として具現化されてもよい。依って、本発明の態様は完全にハードウェアの実施形態、完全にソフトウェアの実施形態(ファームウェア、常駐ソフトウェア、マイクロコードなどを含む)、または本明細書で「サービス」、「回路」、「回路構成」、「モジュール」および/または「システム」としてすべて一般的に参照されてもよいソフトウェアおよびハードウェアの態様を組み合わせた実施形態の形態をとってもよい。さらに、本発明の態様はその上に具現化されたコンピュータ読み取り可能なプログラムコードを有する1つ以上のコンピュータ読み取り可能な媒体(複数可)内に具現化されたコンピュータプログラム製品の形態をとることができる。
1つ以上のコンピュータ読み取り可能な媒体(複数可)の任意の組み合わせを利用してもよい。コンピュータ読み取り可能な媒体はコンピュータ読み取り可能な信号媒体またはコンピュータ読み取り可能な記憶媒体であってもよい。コンピュータ読み取り可能な記憶媒体は、例えば、これらに限定されないが、電子、磁気、光学、電磁気、赤外線、または半導体システム、装置、またはデバイス、または前述の任意の適切な組み合わせであってもよい。コンピュータ読み取り可能な記憶媒体のより具体的な例(非網羅的リスト)は以下のものを含むであろう:1つ以上のワイヤを有する電気的接続、ポータブルコンピュータディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、消去可能プログラマブル読み出し専用メモリ(EPROMまたはフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスク読み出し専用メモリ(CD−ROM)、光記憶デバイス、磁気記憶デバイス、または前述のものの任意の適切な組み合わせ。この文書の文脈では、コンピュータ読み取り可能な記憶媒体は命令実行システム、装置、またはデバイスにより使用される、または関連してプログラムを含む、または格納することができる任意の有形媒体であってもよい。
コンピュータ読み取り可能な媒体上に具現化されたプログラムコードおよび/または実行可能な命令は無線、有線、光ファイバケーブル、RFなど、または前述のものの任意の適切な組み合わせを含むがこれらに限定されない任意の適切な媒体を使用して伝送されてもよい。
本発明の態様のための動作を実行するためのコンピュータプログラムコードは、Java(登録商標)、Smalltalk、C++などのようなオブジェクト指向プログラミング言語、および「C」プログラミング言語または類似のプログラミング言語などのような従来の手続き型プログラミング言語を含む、1つ以上のプログラミング言語の任意の組み合わせで記述されてもよい。プログラムコードは完全にユーザのコンピュータ(デバイス)上で、部分的にユーザのコンピュータ上で、スタンドアロンソフトウェアパッケージとして、部分的にユーザのコンピュータ上でおよび部分的にリモートコンピュータ上でまたは完全にリモートコンピュータまたはサーバ上で実行されてもよい。後者のシナリオでは、リモートコンピュータはローカルエリアネットワーク(LAN)またはワイドエリアネットワーク(WAN)を含む任意のタイプのネットワークを介してユーザのコンピュータに接続されてもよく、または接続は外部コンピュータに対して行われてもよい(例えば、インターネットサービスプロバイダを使用してインターネットを介して)。
本発明の態様は、本発明の実施形態による方法、装置(システム)およびコンピュータプログラム製品のフローチャート図解および/またはブロック図を参照して本明細書に記載される。フローチャート図解および/またはブロック図の各ブロック、およびフローチャート図解および/またはブロック図のブロックの組み合わせはコンピュータプログラム命令により実施することができることが理解されるであろう。これらのコンピュータプログラム命令は、コンピュータまたは他のプログラム可能なデータ処理装置のプロセッサを介して実行される命令が、フローチャートおよび/またはブロック図のブロックまたは複数ブロック内で指定された機能/行為を実施するための手段を作成するように、マシンを生成するために汎用コンピュータ、専用コンピュータ、または他のプログラム可能なデータ処理装置のプロセッサに提供されてもよい。
これらのコンピュータプログラム命令はまた、コンピュータ読み取り可能な媒体に格納された命令がフローチャートおよび/またはブロック図のブロックまたは複数ブロックで指定された機能/動作を実施する命令を含む製造物品を生成するように、コンピュータ、他のプログラム可能なデータ処理装置、または他のデバイスに特定の方法で機能するように指示することができるコンピュータ読み取り可能な媒体に格納されてもよい。
コンピュータプログラム命令はまた、コンピュータまたはその他のプログラム可能な装置上で実行される命令がフローチャートおよび/またはブロック図のブロックまたは複数ブロックで指定された機能/行為を実施するためのプロセスを提供するように、コンピュータ実装プロセスを生成するためにコンピュータ、他のプログラム可能なデータ処理装置、または他のデバイス上で実行される一連の動作ステップを引き起こすようにコンピュータ、他のプログラム可能な装置または他のデバイスにロードされてもよい。
本明細書は最良の形態を含む本発明を開示するとともに、あらゆる装置またはシステムを製作しかつ使用しまたあらゆる組込み方法を実行することを含む本発明の当業者による実施を可能にするために例を使用している。本発明の特許可能な範囲は特許請求の範囲により定義され、当業者が想到するその他の実施例を含んでいてもよい。このような他の実施例は、それらが特許請求の範囲の文言と異ならない構造要素を有する場合、またはそれらが特許請求の範囲の文言から実質的でない相違を有する等価な構造要素を含む場合、特許請求の範囲内にあることが意図される。
100 ビデオ検査デバイス
102 プローブ
110 挿入チューブ
112 イメージャハーネス
120 ヘッドアセンブリ
122 プローブ光学系
124 イメージャ
126 イメージャハイブリッド
130 取り外し可能な先端部
132 先端視野光学系
140 プローブ電子回路
142 イメージャインタフェース電子回路
144 キャリブレーションメモリ
146 マイクロコントローラ
150 CPU
152 CPUプログラムメモリ
154 揮発性メモリ
156 不揮発性メモリ
158 コンピュータI/Oインタフェース
160 ビデオプロセッサ
162 ビデオメモリ
170 一体型ディスプレイ
172 外付けモニタ
180 ジョイスティック
182 ボタン
184 キーパッド
186 マイクロフォン
200 画像
202 表示対象物
204 異常
210 対象表面
221 基準表面点
222 基準表面点
223 基準表面点
224 最深表面点
231 基準表面カーソル
232 基準表面カーソル
233 基準表面カーソル
234 最深点カーソル
241 画素
242 画素
243 画素
250 基準表面
260 基準表面形状
261 基準表面点
262 基準表面点
263 基準表面点
264 基準表面点
270 関心領域
271 関心領域形状
280 関心領域
281 関心領域形状
282 最深点グラフィックインジケータ
290 深さ
300 方法
310 表面の画像(ステップ)
320 表面点の3D(ステップ)
330 基準表面(ステップ)
340 関心領域(ステップ)
350 関心領域内の表面点の深さ(ステップ)
360 最深表面点の位置および深さ(ステップ)
400 プロファイル
500 画像
501 対象表面点
502 対象表面点(関心点)
503 対象表面点
510 第1の基準線
511 第1の基準線の終点(第1の基準線)
512 第2の基準線の終点(第1の基準線)
514 基準線点(第1の基準線)
515 基準線点(第1の基準線)
516 基準線点(第1の基準線)
517 基準線点(第1の基準線)
518 基準線点(第1の基準線)
520 第2の基準線
521 第3の基準線の終点(第2の基準線)
522 第4の基準線の終点(第2の基準線)
524 基準線点(第2の基準線)
525 基準線点(第2の基準線)
526 基準線点(第2の基準線)
527 基準線点(第2の基準線)
528 基準線点(第2の基準線)
550 基準表面
561 第1の画素(第1の基準カーソル)
562 第2の画素(第2の基準カーソル)
563 第3の画素(第3の基準カーソル)
564 第4の画素(第4の基準カーソル)
570 関心領域
571 関心領域形状
572 第1の関心領域距離
573 第2の関心領域距離
574 表面点から平面への距離
575 表面点から平面への距離
580 関心領域平面(基準表面に対する平面)
581 第1の基準線平面(対象表面に対する平面)
582 第2の基準線平面(対象表面に対する平面)
583 基準表面に対する平面
584 基準表面に対する平面
591 第1の表面輪郭線
592 第2の表面輪郭線
594 プロファイル表面輪郭線
600 プロファイル
602 深さ測定
604 深さ測定表示
700 方法
710 対象表面の画像(ステップ)
720 対象表面点の3−D(ステップ)
730 第1の基準線(ステップ)
732 第1の基準線点の3−D(ステップ)
734 第2の基準線(ステップ)
736 第2の基準線点の3−D(ステップ)
740 基準表面(複数可)(ステップ)
750 関心領域(複数可)(ステップ)
760 異常表面点の距離(ステップ)
770 関心点の3−D(ステップ)
780 プロファイル表面輪郭線の3−D(ステップ)
790 対象表面のプロファイル(ステップ)

Claims (15)

  1. 表示対象物(202)の対象表面上の異常(204)の表面上の関心点を自動的に識別する方法であって、
    前記対象表面の画像をモニタ(170、172)上に表示するステップと、
    中央処理ユニット(150)を使用して前記対象表面上の複数の点の3次元座標を決定するステップと、
    ポインティングデバイスを使用して前記画像の第1の画素上の第1の基準線(510)の終点(511)を選択するステップと、
    前記ポインティングデバイスを使用して前記画像の第2の画素上の第2の基準線(520)の終点(512)を選択するステップと、
    前記中央処理ユニット(150)を使用して前記第1の基準線(510)の終点(511)および前記第2の基準線(520)の終点(512)との間に延びる第1の基準線(510)上の複数の点の3次元座標を決定するステップと、
    前記ポインティングデバイスを使用して前記画像の第3の画素上の第3の基準線の終点(521)を選択するステップと、
    前記ポインティングデバイスを使用して前記画像の第4の画素上の第4の基準線の終点(522)を選択するステップと、
    前記中央処理ユニット(150)を使用して前記第3の基準線の終点(521)および前記第4の基準線の終点(522)との間に延びる第2の基準線(520)上の複数の点の3次元座標を決定するステップと、
    前記中央処理ユニット(150)を使用して前記第1の基準線(510)上の少なくとも2つの前記複数の点および前記第2の基準線(520)上の少なくとも1つの前記点の前記3次元座標に基づいて基準表面(250、550)を決定するステップと、
    前記中央処理ユニット(150)を使用して前記異常(204)の前記表面上の複数の点を備える前記基準表面(250、550)のための関心領域(270、280、570)を決定するステップと、
    前記中央処理ユニット(150)を使用して前記基準表面(250、550)および前記関心領域(270、280、570)内の前記異常(204)の前記表面上の前記複数の点との間の距離を決定するステップと、
    前記中央処理ユニット(150)を使用して前記基準表面(250、550)からの最大距離を有する前記関心領域(270、280、570)内の前記異常(204)の前記表面上の前記関心点の3次元座標を決定するステップと、
    前記中央処理ユニット(150)を使用して前記異常(204)の前記表面上の前記関心点を含む前記第1の基準線(510)および前記第2の基準線(520)との間の前記対象表面上のプロファイル表面輪郭線の複数の点の3次元座標を決定するステップと、
    前記中央処理ユニット(150)を使用して前記基準表面(250、550)から前記対象表面上の前記プロファイル表面輪郭線の前記複数の点への距離を決定することにより前記対象表面のプロファイルを決定するステップと、
    を備える方法。
  2. 前記第1の基準線(510)上の前記複数の点の前記3次元座標を決定する前記ステップは、
    前記対象表面と交差し、および前記第1の基準線(510)の終点(511)および前記第2の基準線(520)の終点(512)を通る第1の基準線平面(581)を決定するステップと、
    前記第1の基準線平面(581)に近接する前記対象表面上の第1の表面輪郭線の複数の点の3次元座標を決定するステップと、
    を備える請求項1に記載の方法。
  3. 前記第1の基準線(510)は直線状である請求項1に記載の方法。
  4. 前記基準表面(250、550)は基準平面である請求項1に記載の方法。
  5. 前記基準表面(250、550)のための前記関心領域(270、280、570)を決定する前記ステップは前記第1の基準線(510)上の少なくとも2つの前記複数の点および前記第2の基準線(520)上の少なくとも1つの前記複数の点に基づいて頂点で前記基準表面(250、550)上のポリゴンを決定するステップであって、前記関心領域(270、280、570)は前記基準表面(250、550)の法線上に位置し、および前記ポリゴン内で前記基準表面(250、550)と交差する前記異常(204)の前記表面上の複数の点を備える、決定するステップを備える請求項1に記載の方法。
  6. 前記基準表面(250、550)のための前記関心領域(270、280、570)を決定する前記ステップは前記基準表面(250、550)と交差し、および前記第1の基準線(510)上の少なくとも2つの前記複数の点の間で前記第1の基準線(510)を通る関心領域平面(580)を決定するステップであって、前記関心領域(270、280、570)は前記関心領域平面(580)の所定距離内に位置する前記異常(204)の前記表面上の複数の点を備える、決定するステップを備える請求項1に記載の方法。
  7. 前記プロファイル表面輪郭線での前記表示対象物(202)の断面を備えた前記対象表面の前記プロファイルのグラフィカル表示を前記モニタ(170、172)上に表示するステップをさらに備える請求項1に記載の方法。
  8. 前記基準表面(250、550)および前記異常(204)の前記表面上の前記関心点との間の距離を前記モニタ(170、172)上に表示するステップをさらに備える請求項1に記載の方法。
  9. 前記プロファイル表面輪郭線の3次元表示を備える点群画像を前記モニタ(170、172)上に表示するステップをさらに備える請求項1に記載の方法。
  10. 前記画像は2次元画像である請求項1に記載の方法。
  11. 前記第1の基準線(510)上の前記複数の点の前記3次元座標を決定する前記ステップは前記第1の画素および前記第2の画素との間の直線に近接する前記画像の画素に対応する前記対象表面上の前記複数の点の前記3次元座標上で回帰を実行するステップを備える請求項1に記載の方法。
  12. 前記第1の基準線(510)上の前記複数の点の前記3次元座標を決定する前記ステップは前記第1の画素および前記第2の画素との間の直線に近接する前記画像の画素に対応する前記対象表面上の前記複数の点の前記3次元座標上でローパスフィルタリングを実行するステップを備える請求項1に記載の方法。
  13. 前記対象表面上の前記プロファイル表面輪郭線は前記第1の基準線(510)上に存するまたは近接する第1の点、および前記第2の基準線(520)上に存するまたは近接する第2の点を備える請求項1に記載の方法。
  14. 前記関心領域平面(580)は前記基準表面(250、550)に垂直な前記基準表面(250、550)に交差する請求項6に記載の方法。
  15. 表示対象物(202)の対象表面上の異常(204)の表面上の関心点を自動的に識別するためのデバイスであって、
    前記対象表面の画像を表示するモニタ(170、172)と、
    ポインティングデバイスであって、
    前記画像の第1の画素上の第1の基準線(510)の終点(511)を選択することと、
    前記画像の第2の画素上の第2の基準線(520)の終点(512)を選択することと、
    前記画像の第3の画素上の第3の基準線の終点(521)を選択することと、
    前記画像の第4の画素上の第4の基準線の終点(522)を選択することと、
    のためのポインティングデバイスと、
    中央処理ユニット(150)であって、
    前記対象表面上の複数の点の3次元座標を決定することと、
    前記第1の基準線(510)の終点(511)および前記第2の基準線(520)の終点(512)との間に延びる第1の基準線(510)上の複数の点の3次元座標を決定することと、
    前記第3の基準線の終点(521)および前記第4の基準線の終点(522)との間に延びる第2の基準線(520)上の複数の点の3次元座標を決定することと、
    前記第1の基準線(510)上の少なくとも2つの前記複数の点および前記第2の基準線(520)上の少なくとも1つの前記複数の点の前記3次元座標に基づいて基準表面(250、550)を決定することと、
    前記異常(204)の前記表面上の複数の点を備える前記基準表面(250、550)のための関心領域(270、280、570)を決定することと、
    前記基準表面(250、550)および前記関心領域(270、280、570)内の前記異常(204)の前記表面上の前記複数の点との間の距離を決定することと、
    前記基準表面(250、550)からの最大距離を有する前記関心領域(270、280、570)内の前記異常(204)の前記表面上の前記関心点の3次元座標を決定することと、
    前記異常(204)の前記表面上の前記関心点を含む前記第1の基準線(510)および前記第2の基準線(520)との間の前記対象表面上のプロファイル表面輪郭線の複数の点の3次元座標を決定することと、
    前記基準表面(250、550)から前記対象表面上の前記プロファイル表面輪郭線の前記複数の点への距離を決定することにより前記対象表面のプロファイルを決定することと、
    のための中央処理ユニット(150)と、
    を備えるデバイス。
JP2014249471A 2014-10-13 2014-12-10 異常の表面上の関心点を自動的に識別するための方法およびデバイス Active JP6446251B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/512,835 2014-10-13
US14/512,835 US9600928B2 (en) 2013-12-17 2014-10-13 Method and device for automatically identifying a point of interest on the surface of an anomaly

Publications (2)

Publication Number Publication Date
JP2016080674A true JP2016080674A (ja) 2016-05-16
JP6446251B2 JP6446251B2 (ja) 2018-12-26

Family

ID=55643973

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014249471A Active JP6446251B2 (ja) 2014-10-13 2014-12-10 異常の表面上の関心点を自動的に識別するための方法およびデバイス

Country Status (3)

Country Link
JP (1) JP6446251B2 (ja)
CN (1) CN105759662A (ja)
DE (1) DE102014118424A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017162452A (ja) * 2016-02-08 2017-09-14 ゼネラル・エレクトリック・カンパニイ 視認物体上の関心点を自動的に識別する方法および装置
US10942134B2 (en) 2017-09-26 2021-03-09 Olympus Corporation Measurement device, method of operating measurement device, and recording medium
US11430114B2 (en) 2018-06-22 2022-08-30 Olympus Corporation Landmark estimating method, processor, and storage medium

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7143057B2 (ja) * 2016-12-28 2022-09-28 株式会社キーエンス 三次元測定装置
CN106908453A (zh) * 2017-03-24 2017-06-30 中国科学技术大学 一种印刷线路板的检测方法及检测装置
JP2019074476A (ja) * 2017-10-18 2019-05-16 株式会社キーエンス 形状測定装置
CN109141274B (zh) * 2018-08-01 2019-05-03 昆山市建设工程质量检测中心 一种检测半灌浆套筒钢筋接头中连接钢筋插入深度的方法
CN108663006B (zh) * 2018-08-01 2019-03-19 昆山市建设工程质量检测中心 一种检测全灌浆套筒钢筋接头中连接钢筋插入深度的方法
CN109632825A (zh) * 2019-01-18 2019-04-16 创新奇智(重庆)科技有限公司 一种钢卷表面异常突起的自动检测方法
CN116485893B (zh) * 2023-04-23 2024-02-23 创新奇智(上海)科技有限公司 一种测量物品放置位置的方法、系统、设备及介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001141441A (ja) * 1999-11-18 2001-05-25 Honda Motor Co Ltd 筒形状加工物の評価方法および評価装置
JP2009511163A (ja) * 2005-10-14 2009-03-19 アプライド リサーチ アソシエイツ エヌゼット リミテッド 表面特徴を観察する方法とその装置
US20110115791A1 (en) * 2008-07-18 2011-05-19 Vorum Research Corporation Method, apparatus, signals, and media for producing a computer representation of a three-dimensional surface of an appliance for a living body
US20110210961A1 (en) * 2010-02-26 2011-09-01 Clark Alexander Bendall Method of determining the profile of a surface of an object
JP2011182977A (ja) * 2010-03-09 2011-09-22 Olympus Corp 内視鏡装置およびプログラム
US20120069012A1 (en) * 2009-05-28 2012-03-22 Aldo Facchin Point cloud assisted photogrammetric rendering method and apparatus
JP2012185160A (ja) * 2011-03-04 2012-09-27 General Electric Co <Ge> 観察対象物の表面の3次元ビューを表示するための方法および装置
US20130287288A1 (en) * 2012-04-25 2013-10-31 General Electric Company Method and device for determining the offset distance between two surfaces

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001141441A (ja) * 1999-11-18 2001-05-25 Honda Motor Co Ltd 筒形状加工物の評価方法および評価装置
JP2009511163A (ja) * 2005-10-14 2009-03-19 アプライド リサーチ アソシエイツ エヌゼット リミテッド 表面特徴を観察する方法とその装置
US20110115791A1 (en) * 2008-07-18 2011-05-19 Vorum Research Corporation Method, apparatus, signals, and media for producing a computer representation of a three-dimensional surface of an appliance for a living body
US20120069012A1 (en) * 2009-05-28 2012-03-22 Aldo Facchin Point cloud assisted photogrammetric rendering method and apparatus
US20110210961A1 (en) * 2010-02-26 2011-09-01 Clark Alexander Bendall Method of determining the profile of a surface of an object
US8760447B2 (en) * 2010-02-26 2014-06-24 Ge Inspection Technologies, Lp Method of determining the profile of a surface of an object
JP2011182977A (ja) * 2010-03-09 2011-09-22 Olympus Corp 内視鏡装置およびプログラム
JP2012185160A (ja) * 2011-03-04 2012-09-27 General Electric Co <Ge> 観察対象物の表面の3次元ビューを表示するための方法および装置
US20130287288A1 (en) * 2012-04-25 2013-10-31 General Electric Company Method and device for determining the offset distance between two surfaces

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017162452A (ja) * 2016-02-08 2017-09-14 ゼネラル・エレクトリック・カンパニイ 視認物体上の関心点を自動的に識別する方法および装置
US10942134B2 (en) 2017-09-26 2021-03-09 Olympus Corporation Measurement device, method of operating measurement device, and recording medium
US11430114B2 (en) 2018-06-22 2022-08-30 Olympus Corporation Landmark estimating method, processor, and storage medium

Also Published As

Publication number Publication date
JP6446251B2 (ja) 2018-12-26
CN105759662A (zh) 2016-07-13
DE102014118424A1 (de) 2016-04-14

Similar Documents

Publication Publication Date Title
JP6446251B2 (ja) 異常の表面上の関心点を自動的に識別するための方法およびデバイス
JP6537814B2 (ja) 異常の表面上の最深点を自動的に識別するための方法およびデバイス
US9600928B2 (en) Method and device for automatically identifying a point of interest on the surface of an anomaly
US11514643B2 (en) Method and device for displaying a two-dimensional image of a viewed object simultaneously with an image depicting the three-dimensional geometry of the viewed object
US9842430B2 (en) Method and device for automatically identifying a point of interest on a viewed object
JP6030837B2 (ja) 観察対象物の表面の3次元ビューを表示するための方法および装置
US11308343B2 (en) Method and device for automatically identifying a point of interest in a depth measurement on a viewed object
US9984474B2 (en) Method and device for measuring features on or near an object
JP6865046B2 (ja) 視認物体の深度測定において関心点を自動的に識別する方法および装置
JP6895382B2 (ja) 観視対象の3次元形状を描画する画像と同時に観視対象の2次元画像を表示するための方法および機器
US20200202543A1 (en) Method and device for measuring features on or near an object
JP2012220496A (ja) 目視される物体の表面に関する3次元データの品質の指示を表示するための方法およびデバイス
US20130287288A1 (en) Method and device for determining the offset distance between two surfaces
JP6966997B2 (ja) 対象上または対象の近くの特徴を測定するための方法および機器
JP2019053721A (ja) 映像検査機器を使用して特徴の寸法を測定するためのグラフィックオーバーレイ
JP7098271B2 (ja) 視認物体上の関心点を自動的に識別する方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171204

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181031

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181203

R150 Certificate of patent or registration of utility model

Ref document number: 6446251

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250