JP4553437B2 - 画像検査システム及び制御方法 - Google Patents

画像検査システム及び制御方法 Download PDF

Info

Publication number
JP4553437B2
JP4553437B2 JP2000026420A JP2000026420A JP4553437B2 JP 4553437 B2 JP4553437 B2 JP 4553437B2 JP 2000026420 A JP2000026420 A JP 2000026420A JP 2000026420 A JP2000026420 A JP 2000026420A JP 4553437 B2 JP4553437 B2 JP 4553437B2
Authority
JP
Japan
Prior art keywords
image
virtual
inspection
image inspection
control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000026420A
Other languages
English (en)
Other versions
JP2000235596A (ja
Inventor
エム ワッサーマン リチャード
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitutoyo Corp
Original Assignee
Mitutoyo Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitutoyo Corp filed Critical Mitutoyo Corp
Publication of JP2000235596A publication Critical patent/JP2000235596A/ja
Application granted granted Critical
Publication of JP4553437B2 publication Critical patent/JP4553437B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像システムにより生成された画像をシミュレートする方法およびシステムに関し、特に、自動化画像検査システムにより生成された画像を正確に近似する合成画像を生成する方法およびシステムに関する。
【0002】
【従来の技術】
製造環境下で部品または材質の基本的な特徴を認識または測定する多種の非接触コンピュータ画像系システムがある。これらのシステムの多くは、「トレーニング」または「プログラミング」モードを有する。プログラミングモードにおいては、システムは、部品を認識または測定する方法に関する命令を受ける。このプログラミングモードは、システムによって自動的に繰り返される命令組をもたらす。これらの命令は、汎用記述言語でのプログラムとしてまたはマクロシーケンスとして構成することができる。記述またはマクロ言語のいずれかの格納されたプログラム命令シーケンスは、パートプログラムとして知られている。パートプログラムを学習またはつくり込みのシーケンスは、パートプログラミングとして知られている。
【0003】
【発明が解決しようとする課題】
オフラインプログラミングソフトウェアツールが、伝統的な非画像式座標測定機械およびロボット用として普及している。オフラインプログラミングツールは、プログラマが非画像式座標測定機械およびロボット用プログラムに含める機械命令を選択する際の助けとなる。しかしながら、これらのオフラインプログラミングソフトウェアツールは、物理的レンズ系を介して光学像を形成するときに経験する問題を考慮していない。なぜならこのような事柄が伝統的な非画像式座標測定機械およびロボットに存在しないためである。従って、これら公知のオフラインプログラミングソフトウェアツールは、機械画像システムを含む機械に対して不適当であり、現代の画像式検査および/または運転システムには全く適さない。
【0004】
本発明の目的は、迅速で且つ直感的なオフラインプログラミングを容易にすることができる画像システムハードウェア構成要素シミュレーションシステムを備えた画像検査システムおよびその制御方法を提供することにある。
【0005】
【課題を解決するための手段】
本発明に係る画像検査システムは、検査対象物の画像を検査することによって前記検査対象物を検査する画像検査システムであって、前記検査対象物の画像を検査するためのハードウェア構成要素を制御する画像検査制御システムと、前記ハードウェア構成要素に代えて前記ハードウェア構成要素のエミュレーションシステムとして前記画像検査制御システムと通信可能に接続されるシミュレーションシステムとを備え、前記シミュレーションシステムは、前記ハードウェア構成要素に対応するように設定された仮想ステージ、仮想光学系及び仮想照明系を用い、前記検査対象物に対応する仮想ワークを前記仮想ステージに載置して前記仮想ワークをシミュレートすることにより前記検査対象物についてシミュレートされた合成画像データを生成する画像生成手段と、前記合成画像データ又は前記合成画像データの生成条件から前記画像検査制御システムが前記ハードウェア構成要素を制御するための制御命令を生成する制御命令生成手段と、前記制御命令を前記画像検査制御システムに送信する通信手段と、を備え、前記画像生成手段は、前記仮想ワーク、前記仮想光学系及び前記仮想照明系の相対的な位置及び方向を関連付けて前記合成画像データを生成することを特徴とする。
【0015】
本発明は、ワークの三次元(3D)グラフィックモデルを使用して画像検査システムの物理的ハードウェアにより生成される画像をシミュレートする。本発明に係る一実施の形態は、実際の画像計測システムでの画像のリアルタイム生成に近似する速度でこれら合成画像を供給する。本発明は、画像検査システムにおいてレンズを通してワークを見るカメラにより捕らえられた像に匹敵する合成映像を生成する。
【0016】
本発明は、機械画像システムを含む機械からのユーザインタフェース、特に画像検査システムからのユーザインタフェースと一体化されて、オフラインプログラミング環境を提供することが可能である。「オフラインプログラミング」とは、物理的画像検査システムの進行中の作業を妨げないでパートプログラムを生成することをいう。
【0017】
本発明は、画像システム設計者が画像検査システムのソフトウェアのみのバージョンを開発することを可能にする画像シミュレーションシステムを別個に提供する。このようなソフトウェアのみの実現は、対応する物理的画像検査ステーションによって与えられるであろうものと同じユーザインタフェースをオペレータに与える。本発明は、カメラ、照明、レンズ、運動コントロールプラットフォームなどの画像検査ステーションの物理的構成要素をシミュレートする。本発明は、画像システムの状態モデルと測定すべきワークのコンピュータ支援設計モデルに基づき合成画像を生成する。ワークのコンピュータ支援設計モデルは、Parametric Technology Corporation のpro/ENGINEER,Waltham,MA02453などの通常の商業CADパッケージによって提供することができ、実際の画像検査ステーション下に最終的に置かれるであろう実際のワークの製造を制御するCADデータファイルに一致したものにすることができる。
【0018】
本発明によって生成される合成画像は、ハードウェア画像システムにおけるカメラによって捕らえられた映像の代わりに使用することができる。本発明により、設計者が、ハードウェア式ソフトウェアサブシステムを画像シミュレーションエンジンの仮想構成要素と通信するサブシステムと置き換えることによって、検査システムのオフラインバージョンを容易に開発することが可能になる。オペレータは、仮想検査システムにおけるパラメータを変更することができ、その結果を合成画像における変化として即座に見ることができる。本発明は現存する画像検査システムユーザインタフェースに使用可能であるので、ユーザは実際の物理的画像検査システムと対話する前にユーザインタフェースに精通することが可能である。
【0019】
本発明によれば、新たな検査パートプログラムを生成することに起因するシステムのダウンタイムが減少する。本発明のシステムおよび方法は、オペレータトレーニングを改良するとともに、画像検査システムのオフサイト販売およびマーケティング用の改良されたツールを供給することもできる。
【0020】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照しながら説明する。
【0021】
図1は、物理的画像検査システム10の一例を示すブロック図である。画像検査システム10は、画像検査制御システム12を含む。この画像検査制御システム12は、ユーザインタフェースサブシステム14、データ処理サブシステム16およびハードウェアインタフェース20を含む。ハードウェアインタフェース20は、照明制御サブシステム22、フレームグラバ制御サブシステム24、レンズ制御サブシステム26および運動制御サブシステム28を含む。ハードウェアインタフェース20は、画像システムハードウェア構成要素30と通信する。
特に、画像システムハードウェア構成要素30は、照明ハードウェア32、フレームグラバ34、レンズハードウェア36および運動制御ハードウェア38を含む。フレームグラバ34は、モノクロまたはカラーカメラによって見た光景のスチルまたはリアルタイムデジタル表示を生成する内部または外部のフレームグラバ機構を含んでもよい。ここで述べたカメラとフレームグラバ34の組合せは、アナログおよびデジタルカメラ構成の両方を含むものとする。例えば、デジタルカメラに一体にフレームグラバを含んでもよい。
【0022】
画像システムハードウェア構成要素30の各物理的ハードウェア32〜38は、一般的な機械画像検査システムの1つ以上の物理的構成要素を表す。本発明のシステムおよび方法は、これらの構成要素の全てを画像システムハードウェア構成要素30の仮想モデルに置き換えるためにグラフィカルで物理的なモデルリング技術を用いる。
【0023】
図1の画像検査システムは、一般市販されている。図1の画像検査制御システム12およびユーザインタフェース14に相当するユーザインタフェースサブシステムを含む画像検査制御システムも一般市販されている。
【0024】
図2は、本発明の一実施の形態に係る画像シミュレーションシステム100を示し、画像検査制御システム110と本発明の一実施の形態に係る画像システムハードウェア構成要素シミュレーションシステム140とを備える。画像検査制御システム110は、図1の画像検査制御システム12と同じであり、ユーザインタフェースサブシステム114、データ処理サブシステム116およびハードウェアインタフェース120を含む。ハードウェアインタフェース120は、照明制御サブシステム122、フレームグラバ制御サブシステム124、レンズ制御サブシステム126および運動制御サブシステム128を含む。
【0025】
画像システムハードウェア構成要素シミュレーションシステム140は、好ましくはプログラム化された汎用コンピュータ上で実現される。しかしながら、画像システムハードウェア構成要素シミュレーションシステム140を、専用コンピュータ、プログラム式マクロプロセッサまたはマイクロコントローラおよび周辺集積回路素子、ASICまたは他の集積回路、デジタル信号プロセッサ、ディスクリート素子回路のようなハード結線された電子または論理回路、PLD,PLA,FPGAまたはPALなどのようなプログラム可能な論理装置で実現することもできる。一般に、図4(a)および図4(b)に示すフローチャートを実行可能な有限状態機械を実現することができるものであれば、如何なる装置でも画像システムハードウェア構成要素シミュレーションシステム140を実現するために用いることができる。
【0026】
ハードウェアインタフェース120は、リンク142および144を通して画像システムハードウェア構成要素シミュレーションシステム140と通信する。
画像システムハードウェア構成要素シミュレーションシステム140は、構成サブシステム148と通信する画像検査システムシミュレーション処理サブシステム146、および外部ビュー150を含む。
【0027】
画像システムハードウェア構成要素シミュレーションシステム140をハードウェアでまたは画像検査制御システム110から遠隔的に実現する場合、リンク142および144は、画像検査制御システム110を画像システムハードウェア構成要素シミュレーションシステム140に接続するための現在公知のまたは後に開発される装置またはシステムとすることができ、該装置またはシステムは、直接ケーブル接続、広域ネットワークまたはローカルエリアネットワークを経由した接続、イントラネットを経由した接続、インターネットを経由した接続、または他の分散処理ネットワークまたはシステムを経由した接続を含む。一般に、リンク142および144は、画像検査制御システム110を画像システムハードウェア構成要素シミュレーションシステム140に接続するのに使用することが可能なものであれば如何なる公知のまたは後に開発される接続システムまたは構成とすることができる。
【0028】
画像システムハードウェア構成要素シミュレーションシステム140を、ソフトウェアアプリケーションプログラムによるように、画像検査制御システム110の近くで実現する場合、リンク142および144は、画像検査制御システム110と画像システムハードウェア構成要素シミュレーションシステム140との間でデータおよび制御信号を送るソフトウェア構成とされる。画像システムハードウェア構成シミュレーションシステム140は、画像検査制御システム110からリンク142を介して制御データを受け取り、画像検査制御システム110にリンク144を介して合成画像データを送る。
【0029】
構成サブシステム148は、仮想世界のモデルを格納するとともに、スチルおよび/またはリアルタイム合成画像を生成するために処理サブシステム146によって使用されるシステム照明モデル、運動制御モデル、ワークモデル、並びにレンズおよびカメラ構成データを含む。
【0030】
図2に示すように、画像システムハードウェア構成要素シミュレーションシステム140は、画像検査制御システム110と一体化され、物理的画像システムハードウェア構成要素30を駆動することを目的とする。画像システムハードウェア構成要素シミュレーションシステム140は、図1に示す物理的画像システムハードウェア構成要素30の物理的カメラ、レンズ、照明、ステージなどに取って代わるハードウェアまたはソフトウェアによるエミュレーションシステムである。
【0031】
画像システムハードウェア構成要素シミュレーションシステム140は、仮想光学システムおよびカメラに関して異なる高さでシミュレートされた画像検査対象物の画像を生成することができる。これらの合成画像は、焦点を外れた画像および照明効果を含むことがあり、迅速でかつ直感的なオフラインプログラミングを容易にする。
【0032】
画像システムハードウェア構成要素シミュレーションシステム140は、全体のシミュレートされた画像検査システムの三次元の外部ビュー150を生成することもできる。外部ビューは、物理的画像検査システムを物理的に見るときにユーザによって見られるものに近似する。このような外部ビューは、多くの重要な空間的手がかりをシステムオペレータに与えて、迅速でかつ直感的なオフラインプログラミングをさらに容易にする。
【0033】
本発明のシステムおよび方法のユーザは、コンピュータ支援設計(CAD)モデルを導入し、構成サブシステム148に保存することによって画像システムハードウェア構成要素シミュレーションシステム140の仮想ステージ上にワークのCADモデルを導入し、据え付けることができる。次いで、該ステージおよびワークのリアルタイムな合成デジタル画像が生成され、画像システムハードウェア構成要素シミュレーションシステム140によって画像検査制御システム110に与えられる。次いで、ユーザは、画像システムハードウェア構成要素シミュレーションシステム140によりシミュレートされた仮想画像検査機械上のシミュレートされたワークを検査し、画像システムハードウェア構成要素シミュレーションシステム140によりシミュレートされる物理的画像検査システム上で、物理的システムで実行されるパートプログラムに対する命令を選択することができる。
【0034】
処理サブシステム146は、次の要因の少なくとも1つを考慮することによって合成画像を生成する:カメラ位置およびビュー;光源の位置決め;ワークのステージに対する方向;カメラに対するステージの現在位置および方向;レンズサブシステムパラメータ、例えば焦点距離;モデル化されたレンズ系の形状(geometry);レンズおよび照明系によって生成された光学的効果;ワークの光学的特性;およびワークの物理的特性。
【0035】
図3は、本発明に係る画像シミュレーションシステム100の画像システムハードウェア構成要素シミュレーションシステム140の他の実施の形態を示す。
図3に示すように、本実施の形態においては、画像システムハードウェア構成要素シミュレーションシステム140は入出力インタフェース200およびレンダリングエンジン202を含む。このインタフェース200は、仮想ステージの位置、仮想レンズ系用パラメータおよび照明系用パラメータを格納するサブシステムを含む。仮想照明系のパラメータは、当該系における各仮想光源の大きさ、色、方向および種類を含む。仮想レンズ系のパラメータは、シミュレートされたレンズ系の倍率、視野、焦点距離および被写体深度を含む。
【0036】
画像システムハードウェア構成要素シミュレーションシステム140は、各仮想光源から放射される光をモデル化する照明モデル206をも含む。照明モデル206は、各仮想光源からの光を記述するとともに、各光源からの光の位置、方向、大きさ、色、種類に関する情報を含む。
【0037】
画像システムハードウェア構成要素シミュレーションシステム140は、仮想世界モデル208、静的環境モデル210、仮想ステージモデル212および構成要素モデル214をも含む。モデル208〜214は、仮想ステージおよび仮想ワークの幾何学的および物理的なモデル記述を記録し、更新する。各構成要素は、最新のグラフィカルな表面モデリング技術と一致するシーン階層として対応するモデル208〜218で記述される。各モデルは、共通ノードの集合部で接続された1組の多面体である。各ノードは、位置、色、材質情報およびテクスチャ座標のような情報を含む。各オブジェクトは、表面の面に適用される1つ以上のテクスチャマップを含む。
【0038】
仮想世界モデル208は、仮想ステージテーブル、仮想可動ステージ構成要素および仮想ステージ上の全ての仮想ワークの完全な最新の3Dモデルを格納する。この仮想世界モデル208は、静的環境モデル210、仮想ステージモデル212および構成要素モデル214を含む構成要素の階層から構成され、ステージ上のワークの位置および方向を含む。仮想ステージが仮想ステージテーブルに対して動くとき、ステージ上のワークはこれに応じて全体座標系において移動する。
【0039】
画像システムハードウェア構成要素シミュレーションシステム140は、また、視野および遠近関係のような仮想レンズ系データを格納するレンズ系モデル216をも含む。レンズ系モデル216は、レンズ系データをレンダリングエンジン202に伝送する。
【0040】
上記の記述は、多くの機械画像システムの一般的な場合についてのものであり、この場合は、カメラが全体座標系に固定され、ワークが可動ステージ構成要素例えばX−Yテーブル、コンベヤベルトなどの手段によってカメラに相対的に移動される。他の場合、即ち、カメラおよび光学系が移動台またはロボットアームの端部に装着されている場合には、カメラおよび光学系は全体座標系に相対的に移動し、ワークは全体座標系に対して固定された状態にある。後者の場合、照明モデル206はワークおよびレンズ系に相対的な照明位置および方向を含む必要があり、レンズ系モデル216はワーク、ステージ、静的モデルおよび世界モデルに相対的なレンズ系の位置および方向を含む必要がある。後者の場合、ステージモデル212は運動的特徴を持たず、静的モデルに含めてもよい。いずれの場合でも、画像シミュレーションにとって非常に重要なデータは光学系、ワークおよび照明系の相対的な位置および方向であり、当業者は、一組の局部的および全体座標系上のオブジェクトを関連付けるための十分に確立された方法に従って、これらの要素の相対位置データを適当なモデルに割り当てることができる。
【0041】
また、画像システムハードウェア構成要素シミュレーションシステム140は、二次元画像を格納するメモリ218を含む。
【0042】
また、画像システムハードウェア構成要素シミュレーションシステム140は、レンダリングエンジン202を含む。このようなレンダリングエンジンの例としては、OpenGLまたはDirect3Dがある。OpenGLは、OpenGLリファレンスマニュアル(OpenGL Architecture Review Board, Addison-Wesley Developers Press Reading, MA, 1996)に記述された3D描画の公開されたスタンダードである。Direct3Dは、Windows(登録商標)オペレーティングシステムに対してマイクロソフト社(Microsoft Corporation)によって配布されたツールのDirectXシステムの構成要素である。レンダリングエンジン202は、仮想世界モデル208、レンズモデル216および照明モデル206に格納された3Dポリゴンモデルを入力として受け取る。レンダリングエンジン202は、グーラウド(Gouraud)シェーディング、レイトレーシングなどを用いて、二次元画像と三次元モデルが与えられた深さマップとを生成するシステムとしてもよい。レンダリングエンジン202は、データ3Dポリゴンモデルおよび照明データを世界モデル208および照明モデル206からそれぞれ受け取る。
【0043】
レンダリングエンジン202は、理想ピンホールレンズ系を介して見たような2次元画像データを生成する。この2D画像データは、仮想カメラからの画像マップにおける各画素の距離を格納する二次元マッピングを含む。また、レンダリングエンジン202は、仮想世界の三次元の外部ビューを生成する(図2に示す)。上述したように、三次元外部ビュー150は、画像検査システムのオペレータによって見られるであろうシステムのビューをエミュレートする。
【0044】
二次元カメラ画像データは、実世界カメラ情報をシミュレートするものではない。二次元カメラ画像データは、完全ピンホールカメラを用いて生成されたかのような無限焦点深度を有する。これは、非常に浅い被写界深度を有することがしばしばである実際の機械画像検査システムのビューを正確にシミュレートしない。従って、画像システムハードウェア構成要素シミュレーションシステム140は、レンズ効果処理エンジン204をも含む。レンズ効果処理エンジン204は、レンダリングエンジン202から、画素当りの深度を含む二次元カメラ画像データを受け取る。レンズ効果処理エンジン204は、仮想レンズパラメータに従ってカメラ画像を修正する。レンズ効果処理エンジン204は、二次元画像を出力する。この二次元画像は、システムの仮想光学的形状(geometry)を考慮している。レンズ効果処理エンジンの一例は、A Lens and Aperture Camera Model for Synthetic Image Generation, Computer Graphics, vol.15, no.3, pp.297-305, August 1981に記述されている。
【0045】
レンズ効果エンジン204およびレンダリングエンジン202は単一のプロセッサの一部として構成してもよく、または別個のプロセッサとして構成してもよい。さらに、レンダリングエンジン202およびレンズ効果エンジン204は、互いに結合して単一のレンダリングおよびレンズ効果エンジンとすることができる。このような結合したレンダリングおよびレンズ効果エンジンは、例えば、光学系を介した各光線を追跡するレイトレーシングレンダリングと共に用いることができる。
【0046】
以上のようにして仮想世界の二次元画像が生成されると、この画像あるいはこの画像の生成条件を元にして、図示しない制御命令生成システムにより制御命令を生成することができる。例えば、ワークがカメラの焦点深度内にない場合は、焦点合わせ命令を生成することができる。また、ワークがカメラの焦点深度内にある場合、測定命令を生成することができる。さらに、この測定命令を実行して得た結果が、公差内であるか否かの検査プログラムを生成することもできる。ここで、例えばこの公差はユーザから入力されたデータを使用するものであってもよい。また、測定や検査終了後にカメラを原点位置へ復帰させる移動命令を生成させることも可能である。さらに、この制御命令生成システムによって生成された制御命令は、制御命令生成システムを含む機械画像システム(画像シミュレーションシステム100)とは異なる他の機械画像システム(例えば物理的画像検査システム10)で実行可能である。この場合、画像シミュレーションシステム100では、物理的画像検査システム10の画像システムハードウェア構成要素30をシミュレートする。
【0047】
図3に示す各モデルは適切にプログラム化された汎用コンピュータの一部として実現可能である。これに代えて、図3に示す各モデルは、ASIC内の物理的に別個のハードウェア回路として、またはFPGA,PDL またはPAL を用いて、またはデイスクリート論理素子またはデイスクリート論理回路素子を用いて実現してもよい。図3に示す各モデルがとる特定の形状は、設計上の選択事項であって、当業者にとっては自明で且つ予測可能なものである。
【0048】
図4(a)および(b)は、本発明による画像検査システムの画像シミュレーションをレンダリングする方法の一例の概要を示すフローチャートである。図4(a)に示すように、ステップS100で本制御ルーチンを開始し、ステップS102に進む。ステップS102においては、テーブル、カメラ、照明などの仮想世界の構成要素を初期化する。次いで、ステップS104で、ワークのモデルを仮想世界に付加する。次に、ステップS106において、ステージ位置を決定する。そしてステップS108に進む。
【0049】
ステップS108においては、仮想ステージおよび仮想ステージ上の全てのワークの位置を更新する。次いで、ステップS110において、仮想世界モデルを、照明、レンズなどの他のシステムパラメータに基づき更新する。次いで、ステップS112で、仮想世界を描画して、二次元カメラ画像および対応する画素深度データマップを生成する。そして、図4(b)に示すステップS114に進む。ステップS114においては、レンズ効果が必要か否かを判定する。レンズ効果が必要な場合は、ステップS116に進む。これに代えて、レンズ効果が必要でないときには、ステップS118に直接ジャンプする。ステップS116においては、仮想レンズ効果をシミュレートされた画像に付与する。次いで、ステップS118で、仮想カメラのビューを画像検査コントロールシステムに与える。
そしてステップS120に進む。
【0050】
ステップS120においては、仮想外部ビューが必要か否かを判定する。仮想外部ビューが必要である場合は、ステップS122に進む。仮想外部ビューが必要でないときには、ステップS124に直接ジャンプする。ステップS122においては、システムの仮想外部ビューを描画する。そして、ステップS124において、画像シミュレーションエンジンを停止すべきか否かを判定する。画像シミュレーションエンジンを停止すべきときには、ステップS126に進む。画像シミュレーションエンジンを停止すべきでないときには、ステップS106に戻る。ステップS126においては、画像シミュレーションエンジンを停止する。
【0051】
ステップS112〜S116を単一のステップに結合して画像を描画するとともに同時に画像にレンズ効果を付与するようにしてもよい。例えば、レイトレーシングシステムにおいては、各光線が画像の一部を描画するのに用いられるときに、その光線の経路を辿ることによりレンズ効果を付与する。
【0052】
さらに、図4(a)および(b)で概述したフローチャートは、機械画像システムからのシミュレートされた画像を描画するためのより一般的な方法の一例である。機械画像システムは、ロボットのような他のシステムに付加された画像検査システムまたは画像システムとすることができる。シミュレートされた合成画像を描画するこの方法は、仮想世界における少なくとも1つのオブジェクトを特徴付けるまたは表す第1のモデルと光学系を特徴付けるまたは表す第2のモデルとに基づき仮想世界のシミュレートされた画像を生成することと、該シミュレートされた画像を機械画像制御システムに供給することを含む。機械画像制御システムは、上述した画像検査システム用パートプログラムを生成するためのシステムのような検査プログラム生成システム、または機械検査システムを有するロボットに対して運動指令を生成するためのシステムのような運動指令生成システムとすることができる。
【0053】
オペレータは、機械画像システムにおけるパラメータを変更することができるとともに、その結果を合成されたまたはシミュレートされた画像における変化として即座に見ることができる。本発明の機械画像シミュレーションシステムおよび方法が、画像検査システムユーザインタフェースのような既存の機械画像システムのユーザインタフェースに使用することが可能であるので、ユーザは実際の物理的画像検査システムと対話する前に機械画像ユーザインタフェースに精通することが可能である。
【0054】
一方、本発明を上述した実施の形態について説明したが、多くの代替、変更、変形が当業者にとって自明である。従って、上述した好ましい実施の形態は例示的なものであり、これに限定されることはない。種々の変更が本発明の精神および範囲を逸脱しない限り可能である。
【0055】
【発明の効果】
以上説明したように、本発明によれば、迅速で且つ直感的なオフラインプログラミングを容易にすることができる。また、実際の画像計測システムで得られる画像に高い精度で類似する画像を生成することが可能になる。更に、実際の画像計測システムで得られる画像にさらに高い精度で類似する画像を生成することが可能になる。更に、パラメータの変更に伴う生成された画像の変化を即座に見ることができる。
【0061】
に、像検査システムの少なくとも1つの構成要素と独立した該画像検査システムの少なくとも1つの操作をシミュレートすることにより、ユーザが実際の画像検査システムと対話する前に、ユーザは実際の画像検査システムのユーザインタフェースに精通することが可能である。また、迅速で且つ直感的なオフラインプログラミングを容易にすることができる。
【図面の簡単な説明】
【図1】ハードウェア画像検査システムの一例を示すブロック図である。
【図2】本発明に係る一実施の形態の画像システムハードウェア構成要素シミュレーションシステムを備える画像シミュレーションシステムを示すブロック図である。
【図3】本発明に係る一実施の形態の画像シミュレーションエンジンをさらに詳細に示すブロック図である。
【図4】本発明の一実施の形態に係る合成画像を描画する方法の概要を示すフローチャートである。
【符号の説明】
100 画像シミュレーションシステム
114 ユーザインタフェース
120 ハードウェアインタフェース
140 画像システムハードウェア構成要素シミュレーションシステム
142,144 リンク
146 画像検査システムシミュレーション処理サブシステム
148 構成サブシステム
150 外部ビュー
200 入出力インタフェース
202 レンダリングエンジン
204 レンズ効果エンジン
206 照明モデル
208 世界モデル
210 静的モデル
212 ステージモデル
214 構成要素モデル
216 レンズ系モデル
218 メモリ

Claims (7)

  1. 検査対象物の画像を検査することによって前記検査対象物を検査する画像検査システムであって、
    前記検査対象物の画像を検査するためのハードウェア構成要素を制御する画像検査制御システムと、前記ハードウェア構成要素に代えて前記ハードウェア構成要素のエミュレーションシステムとして前記画像検査制御システムと通信可能に接続されるシミュレーションシステムとを備え、
    前記シミュレーションシステムは、
    前記ハードウェア構成要素に対応するように設定された仮想ステージ、仮想光学系及び仮想照明系を用い、前記検査対象物に対応する仮想ワークを前記仮想ステージに載置して前記仮想ワークをシミュレートすることにより前記検査対象物についてシミュレートされた合成画像データを生成する画像生成手段と、
    前記合成画像データ又は前記合成画像データの生成条件から前記画像検査制御システムが前記ハードウェア構成要素を制御するための制御命令を生成する制御命令生成手段と、
    前記制御命令を前記画像検査制御システムに送信する通信手段と、を備え、
    前記画像生成手段は、前記仮想ワーク、前記仮想光学系及び前記仮想照明系の相対的な位置及び方向を関連付けて前記合成画像データを生成することを特徴とする画像検査システム。
  2. 前記仮想光学系は前記仮想ワークを見る仮想レンズ系パラメータを有し、前記仮想レンズ系パラメータは、シミュレートされたレンズ系の倍率、視野、焦点距離及び被写体深度を含むことを特徴とする請求項1記載の画像検査システム。
  3. 前記照明系は前記仮想ワークに対して照明を行う仮想照明系パラメータを有し、前記仮想照明系パラメータは、仮想光源の大きさ、前記仮想光源の前記仮想ワークに対する位置、前記仮想光源の色、前記仮想光源の種類を含むことを特徴とする請求項1又は2記載の画像検査システム。
  4. 前記シミュレーションシステムは、前記仮想レンズ系パラメータを変更する変更手段を更に備えることを特徴とする請求項2記載の画像検査システム。
  5. 前記シミュレーションシステムは、前記照明系パラメータを変更する変更手段を更に備えることを特徴とする請求項3記載の画像検査システム。
  6. 前記通信手段は、前記画像検査制御システムとは異なる別の画像検査制御システムと前記シミュレーションシステムとを通信可能に接続可能であり、
    前記シミュレーションシステムは、前記別の画像検査制御システムと接続された場合に、前記別の画像検査制御システムが制御するハードウェア構成要素を制御するための制御信号を生成することを特徴とする請求項1乃至5のいずれか1項に記載の画像検査システム。
  7. 検査対象物の画像を検査するためのハードウェア構成要素を制御する画像検査制御システムと、前記ハードウェア構成要素に代えて前記ハードウェア構成要素のエミュレーションシステムとして前記画像検査制御システムと通信可能に接続されるシミュレーションシステムとを備えた画像検査システムの制御方法であって、
    前記シミュレーションシステムが、前記ハードウェア構成要素に対応するように設定された仮想ステージ、仮想光学系及び仮想照明系を用い、前記検査対象物に対応する仮想ワークを前記仮想ステージに載置して前記仮想ワークをシミュレートすることにより前記検査対象物についてシミュレートされた合成画像データを生成する画像生成ステップと、
    前記シミュレーションシステムが、前記合成画像データ又は前記合成画像データの生成条件から、前記画像検査制御システムが前記ハードウェア構成要素を制御するための制御命令を生成する制御命令生成ステップと、
    前記制御命令を前記シミュレーションシステムから前記画像検査制御システムに送信する通信ステップと、
    前記画像検査制御システムが前記制御命令によって前記ハードウェア構成要素を制御する制御ステップと、を有し、
    前記画像生成ステップにおいて、前記シミュレーションシステムは、前記仮想ワーク、前記仮想光学系及び前記仮想照明系の相対的な位置及び方向を関連付けて前記合成画像データを生成することを特徴とする画像検査システムの制御方法。
JP2000026420A 1999-02-03 2000-02-03 画像検査システム及び制御方法 Expired - Fee Related JP4553437B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/243,689 US7092860B1 (en) 1999-02-03 1999-02-03 Hardware simulation systems and methods for vision inspection systems
US09/243.689 1999-02-03

Publications (2)

Publication Number Publication Date
JP2000235596A JP2000235596A (ja) 2000-08-29
JP4553437B2 true JP4553437B2 (ja) 2010-09-29

Family

ID=22919732

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000026420A Expired - Fee Related JP4553437B2 (ja) 1999-02-03 2000-02-03 画像検査システム及び制御方法

Country Status (3)

Country Link
US (1) US7092860B1 (ja)
EP (1) EP1026637A3 (ja)
JP (1) JP4553437B2 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020065637A1 (en) * 2000-11-30 2002-05-30 Thompson John S. Method and apparatus for simulating the measurement of a part without using a physical measurement system
US7961201B1 (en) 2000-12-21 2011-06-14 Cognex Corporation Method and apparatus for producing graphical machine vision content for distribution via a network
US7962898B1 (en) * 2000-12-29 2011-06-14 Cognex Corporation Optimized distribution of machine vision processing
DK1636104T3 (da) * 2002-12-10 2010-10-11 Chep Technology Pty Ltd Automatiseret palleinspektion og -reparation
JP2004299010A (ja) * 2003-03-31 2004-10-28 Fanuc Ltd ロボットのたわみ補正装置及びたわみ補正方法
JP3732494B2 (ja) * 2003-10-31 2006-01-05 ファナック株式会社 シミュレーション装置
US7725206B2 (en) * 2003-11-12 2010-05-25 The Boeing Company System and method for manufacturing and after-market support using as-built data
JP4238256B2 (ja) * 2006-06-06 2009-03-18 ファナック株式会社 ロボットシミュレーション装置
JP2008021092A (ja) 2006-07-12 2008-01-31 Fanuc Ltd ロボットシステムのシミュレーション装置
US20080320408A1 (en) * 2007-06-21 2008-12-25 Dziezanowski Joseph J Devices, Systems, and Methods Regarding Machine Vision User Interfaces
JP4302160B2 (ja) * 2007-09-12 2009-07-22 ファナック株式会社 ロボットによるパレタイジング作業のためのロボットプログラミング装置
JP4347386B2 (ja) * 2008-01-23 2009-10-21 ファナック株式会社 加工用ロボットプラグラムの作成装置
US8239177B2 (en) * 2008-08-01 2012-08-07 National Instruments Corporation Simulation of a motion system including a mechanical modeler with interpolation
DE102009034244A1 (de) * 2009-07-22 2011-01-27 Kuka Roboter Gmbh Verfahren und Vorrichtung zur Vermessung eines Bauteils
US8542297B2 (en) 2011-08-05 2013-09-24 Quality Vision International, Inc. Method for automatically adjusting the levels of illumination sources in an optical measurement machine
DE102013209770B4 (de) * 2013-05-27 2015-02-05 Carl Zeiss Industrielle Messtechnik Gmbh Verfahren zur Bestimmung von einstellbaren Parametern mehrerer Koordinatenmessgeräte sowie Verfahren und Vorrichtung zur Erzeugung mindestens eines virtuellen Abbilds eines Messobjekts
CN106415198B (zh) * 2014-01-20 2019-12-10 卡尔蔡司工业测量技术有限公司 图像记录方法和执行该方法的坐标测量机
US10796426B2 (en) * 2018-11-15 2020-10-06 The Gillette Company Llc Optimizing a computer vision inspection station
US20240029407A1 (en) * 2022-07-22 2024-01-25 General Electric Company Machine learning model training corpus apparatus and method

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6317953B1 (en) * 1981-05-11 2001-11-20 Lmi-Diffracto Vision target based assembly
US4471448A (en) * 1981-09-08 1984-09-11 Hughes Aircraft Company Method and apparatus for aligning an optical system
JPS6053913A (ja) * 1983-09-05 1985-03-28 Canon Inc 自動合焦装置
US5220398A (en) * 1990-09-28 1993-06-15 Massachusetts Institute Of Technology Analog VLSI microchip for object position and orientation
US5137450A (en) * 1990-11-05 1992-08-11 The United States Of America As Represented By The Secretry Of The Air Force Display for advanced research and training (DART) for use in a flight simulator and the like
US5481712A (en) * 1993-04-06 1996-01-02 Cognex Corporation Method and apparatus for interactively generating a computer program for machine vision analysis of an object
WO1996005477A1 (en) * 1994-08-11 1996-02-22 Cyberoptics Corporation High precision semiconductor component alignment systems
US5940296A (en) * 1995-11-06 1999-08-17 Medar Inc. Method and system for interactively developing a graphical control-flow structure and associated application software for use in a machine vision system
US6298284B1 (en) * 1995-12-28 2001-10-02 Hunter Engineering Company Apparatus and method with improved field of view for determining vehicle wheel alignment measurements from three dimensional wheel positions and orientations
US5988862A (en) * 1996-04-24 1999-11-23 Cyra Technologies, Inc. Integrated system for quickly and accurately imaging and modeling three dimensional objects
US6064759A (en) * 1996-11-08 2000-05-16 Buckley; B. Shawn Computer aided inspection machine
US6124864A (en) 1997-04-07 2000-09-26 Synapix, Inc. Adaptive modeling and segmentation of visual image streams
US6084590A (en) 1997-04-07 2000-07-04 Synapix, Inc. Media production with correlation of image stream and abstract objects in a three-dimensional virtual stage
US6160907A (en) 1997-04-07 2000-12-12 Synapix, Inc. Iterative three-dimensional process for creating finished media content
US6496190B1 (en) * 1997-07-02 2002-12-17 Mental Images Gmbh & Co Kg. System and method for generating and using systems of cooperating and encapsulated shaders and shader DAGs for use in a computer graphics system
US6173070B1 (en) * 1997-12-30 2001-01-09 Cognex Corporation Machine vision method using search models to find features in three dimensional images
US6196845B1 (en) * 1998-06-29 2001-03-06 Harold R. Streid System and method for stimulating night vision goggles
US6137303A (en) * 1998-12-14 2000-10-24 Sony Corporation Integrated testing method and apparatus for semiconductor test operations processing
US6577757B1 (en) * 1999-07-28 2003-06-10 Intelligent Reasoning Systems, Inc. System and method for dynamic image recognition

Also Published As

Publication number Publication date
EP1026637A3 (en) 2001-08-29
EP1026637A2 (en) 2000-08-09
JP2000235596A (ja) 2000-08-29
US7092860B1 (en) 2006-08-15

Similar Documents

Publication Publication Date Title
JP4553437B2 (ja) 画像検査システム及び制御方法
JP6551184B2 (ja) シミュレーション装置、シミュレーション方法、およびシミュレーションプログラム
Tarabanis et al. The MVP sensor planning system for robotic vision tasks
US7236854B2 (en) Method and a system for programming an industrial robot
CN104385282B (zh) 一种视觉智能数控系统及其视觉计测方法
EP1435280B1 (en) A method and a system for programming an industrial robot
EP3948782A1 (en) Robotic control based on 3d bounding shape, for an object, generated using edge-depth values for the object
JP2005521123A (ja) 光学顕微鏡検出3次元画像の生成方法及び生成装置
CN108627515B (zh) 计算成为检查系统的检查对象外的图像区域的装置及方法
Kohn et al. Towards a real-time environment reconstruction for VR-based teleoperation through model segmentation
Marchand Control camera and light source positions using image gradient information
CN210361314U (zh) 一种基于增强现实技术的机器人示教装置
Rastogi et al. Telerobotic control with stereoscopic augmented reality
CN112698632B (zh) 一种全自动化生产线数字孪生系统、方法及设备
Costa et al. Modeling of video projectors in OpenGL for implementing a spatial augmented reality teaching system for assembly operations
Braun et al. A customizable, multi-host simulation and visualization framework for robot applications
Larsson et al. An industrial robot and a laser scanner as a flexible solution towards an automatic system for reverse engineering of unknown objects
CN106200958B (zh) 一种动态调整用户认知负荷的智能空间增强现实方法
Schaub et al. Simulation of artificial intelligence agents using Modelica and the DLR visualization library
Zaki et al. Trajectory planning of collaborative robotic contact-based applications
JP7383349B2 (ja) 画像測定装置のティーチングプログラム
CN113126568B (zh) 一种基于增强现实技术的工业机器人操作和演示系统
Borangiu et al. Modeling and simulation of short range 3D triangulation-based laser scanning system
KR20020012070A (ko) 자동 페인팅 장치 및 방법
Švec Robotic Object Manipulation in Virtual and Physical Environment

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20060426

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100126

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100706

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100713

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130723

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4553437

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees