JP5254612B2 - グラフィック再検査ユーザ設定インタフェース - Google Patents

グラフィック再検査ユーザ設定インタフェース Download PDF

Info

Publication number
JP5254612B2
JP5254612B2 JP2007527462A JP2007527462A JP5254612B2 JP 5254612 B2 JP5254612 B2 JP 5254612B2 JP 2007527462 A JP2007527462 A JP 2007527462A JP 2007527462 A JP2007527462 A JP 2007527462A JP 5254612 B2 JP5254612 B2 JP 5254612B2
Authority
JP
Japan
Prior art keywords
user interface
visualization
inspection
data
graphical user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007527462A
Other languages
English (en)
Other versions
JP2008509502A (ja
Inventor
ダブリュー. コクラン,ドン,
フレドリック,エフ.,Ii アウィグ,
イー. バッティ,ケビン,
ジェス ブーハー,
ダブリュー. コクラン,デービッド,
ジリランド,パトリック
イー. モーガン,ノエル,
エイチ. パロンボ,トーマス,
サールイス,ティモシー
ヨダー,マイケル,エル.
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pressco Technology Inc
Original Assignee
Pressco Technology Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pressco Technology Inc filed Critical Pressco Technology Inc
Publication of JP2008509502A publication Critical patent/JP2008509502A/ja
Application granted granted Critical
Publication of JP5254612B2 publication Critical patent/JP5254612B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/41875Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by quality surveillance of production
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/31From computer integrated manufacturing till monitoring
    • G05B2219/31472Graphical display of process
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/80Management or planning

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Theoretical Computer Science (AREA)
  • Educational Administration (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • General Engineering & Computer Science (AREA)
  • Manufacturing & Machinery (AREA)
  • Automation & Control Theory (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • General Factory Administration (AREA)
  • Image Processing (AREA)
  • Digital Computer Display Output (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Description

本発明は、自動化された工業用画像検査又は他のタイプの検査又はプロセス監視システムを設定し最適化する方法に関する。
本出願は、2004年5月21日に出願された米国仮出願番号60/573、496号に対する優先権と利益を請求するものであり、この仮出願の全体を、本明細書の一部を構成するものとしてここに援用する。
自動化された工業用検査技術及びプロセス監視技術では、設定及び最適化が非常に面倒な場合が多かった。自動化又は半自動化された高生産性工場環境では、広範囲の製品属性又はプロセス属性を監視するために、自動化された検査技術が利用される。寸法、穴の数と位置、形状、ねじピッチなどの多数の条件を高度に定義することができる。そのような定量的値は、生産前に事前の知識によって容易に設定できる。他のタイプの製品属性又はプロセス属性は、もっと主観的であり、生産を始める前に定量化し、測定し又は指定することが容易にできない場合が多い。そのような属性は、原料又は生産プロセス自体のばらつきと関連する傾向がある。幾つかの例は、シーラント化合物のくぼみの大きさ、子ども用おしゃべり玩具の音質、マット表面のしみ、画像のぼやけである。製造環境において継続的に監視しなければならない主観的属性の例は無数にある。実験室ではそのような各属性を量子化することができるが、オンライン監視システムは、あまり高感度でない場合が多く、実時間のオンライン速度で働くようにより実際的に設計されている。通常、何らかの仕様書はあるが、一般に工場での仕様の解釈において判断が主観的になる場合が多い。特定のロットの製品を出荷する適否について工場長と品質管理責任者の意見が大きく食い違うことはよくあることである。
収益性の高い出荷を増やすという現実が、より完全な製品を出荷するという理想主義的な要求に勝る場合がある。しばしば、品質期待値のレベルは精神的なもので、特定の領域における品質期待値に直接的な影響を与える。また、これは、買い手の品質標準及び期待値によって決定されることもある。更に、製品の最終消費者が、市場がその製品に支払おうとする代価の関数として品質の最終レベルを決定することもある。これらの様々な全ての品質期待値に加え、特定のプロセス又は原料の固有の品質問題もあり、そのため、自動化された検査レベル又はプロセス監視レベルを現状のニーズに従って決定することが必要になる。
プロセス監視レベル又は検査品質レベルの調整が必要な理由はたくさんあるが、この必要性は世界中の何十万もの加工設備及び製造設備に存在することが十分に立証されている。本発明は、そのようなパラメータを理解し変更するより、ユーザフレンドリーでより直感的な方法を可能にするグラフィックな方法である。
検査又は監視パラメータを変更するとき、「その変更の収益効果はどうか」という質問がすぐに出ることが多い。品質しきい値を変更すると、別の量の製品が、廃棄されるか、あるいは再加工又は再利用に送られることになる。従って、品質レベルを変更するこの決定は直接、財務的影響を及ぼす。そのような変更を行う責任者は誰でも、通常、そのような変更がどのような収益又は財務的影響をもたらすかについての可能な最も直接的なフィードバックを得たいと考える。本発明は、迅速な理解を容易し、或いはそのような変更の財務的影響及び他の影響を素早く理解できるようにするデータを提供することができる。
純粋主義者は、品質レベルを高めることはいずれ採算に合うと主張することがある。これが真実である場合もあるので、その限りにおいて、本発明は、設定を変更するこのとの微妙さについてより深く理解できるようにし、また製品のわずかな数の個々の標本ではなく製品の大きい母集団に基づいて設定を行う。
また、本発明を使用して、広範囲の様々なプロセスループを、手動、半自動又は自動的な方法で閉じることもできる。本発明を別の装置と相互に関連付けて、それにより特定の製品を製造する際に、指標値を特定のマシンデータと関連付けることができる。各部品の完全なレコードを合わせることにより、密に結合されたマシンのループを閉じることが容易になり、その結果プロセスを常に最適化することができる。グラフィックユーザインタフェースによって検査プロセスの相互関係が理解しやすくなるため、制御ループを高い信頼レベルで閉じることが容易になる。
本発明は、広範囲の様々な工業用検査システム及びプロセス監視システムに適応可能である。概略的には以下のリストの通りである。
*グレースケールマシンビジョン検査又はプロセス監視システム
*カラーベースマシンビジョン検査又はプロセス監視システム
*X線ベースマシンビジョン検査又はプロセス監視システム
*熱赤外線ビジョン検査又はプロセス監視システム
*一体型質量検査又はプロセス監視システム
*音響シグナチャ検査又はプロセス監視システム
*力又は圧力シグナチャ検査又は監視システム
*分光光度検査又は監視システム
*超音波画像検査又はプロセス監視システム
*超音波シグナチャ検査又はプロセス監視システム
*プロフィルメータ検査又はプロセス監視システム
*表面仕上げ検査又はプロセス監視システム
*グロソメータ(Glossometer)検査又はプロセス監視システム
*レーザ干渉(interferrometric)検査又はプロセス監視システム
*寸法検査又はプロセス監視システム
*走査型レーザ検査又はプロセス監視システム
*濃度計検査又はプロセス監視システム
*熱シグナチャ検査又はプロセス監視システム
*パターン検査又はプロセス監視システム
上記のリストは部分的なものであり、システムタイプは例として引用してある。本発明が、調整可能なパラメータ又はしきい値を有し、そのパラメータ又はしきい値を変更する際に調整の結果をかなりの量の過去の標本に基づいて動的に理解しなければならない殆んど全てのシステムのユーザインタフェースの「フロントエンド」として機能することができることが分かる。
グラフィックユーザインタフェースを提供する。
本発明の一様相において、このインタフェースは、検査又は監視プロセスの結果についての選択された過去のデータ(historical data)の視覚化を提供するように動作するグラフィックディスプレイと、少なくとも1つの制御又はしきい値設定(setting)を含み、設定を調整した場合、設定の調整を反映するように結果の視覚化が変更される。
本発明の別の様相において、調整は、グラフィックディスプレイ上の図式的なしきい値線の操作を含み、この操作は、選択された過去のデータの再検査又は再計算及びその対応する再視覚化をトリガする。
本発明の別の様相において、調整は、グラフィックディスプレイ上の図形要素の操作の操作を含み、この操作は、選択された過去のデータの再検査又は再計算及びその対応する再視覚化をトリガする。
本発明の別の様相において、視覚化は、ポインタ又はグラフィックアクチュエータの操作に応じての追加の選択された画像又はデータの表示をトリガするように動作する。
本発明の別の様相において、追加の選択されたデータは、時間、温度情報、色情報、製造パス情報、質量情報、測定情報、識別情報、バッチ情報、圧力情報、機械設定情報、及び保守履歴情報の内の少なくとも1つを含む。
本発明の別の様相において、操作は、標本に関連する少なくとも1つの画像を表示するために棒グラフのバー要素を選択することを含む。
本発明の別の様相において、視覚化は、図形要素を指し示すか選択することにより選択された過去のデータのサブセット又はスーパーセットを表示するように動作する。
本発明の別の様相において、選択された過去のデータは、検査又は監視プロセスの間に得られた画像群を表わし、グラフィックユーザインタフェースが、選択された画像群についての検査結果を同時に見ながらのマシンビジョン検査パラメータの調整を容易にする。
本発明の別の様相において、視覚化は、表示装置上の単一の視覚化画面である。
本発明の別の様相において、調整は、スライダ、マウスクリック、つまみ、又はタッチスクリーンの使用を含む。
本発明の別の様相において、視覚化の変更は、しきい値の調整を考慮するために対応する検査又はプロセス監視イベントのそれぞれについての再計算を含み、更に再計算はその後の視覚化で示される。
本発明の別の様相において、再計算は、画像の再検査及び/又は選択された過去のデータの再分析を含む。
本発明の別の様相において、検査又は監視プロセスは、工業用オンラインプロセスである。
本発明の別の様相において、過去のデータの視覚化は、監視中の測定した製品又はプロセスパラメータに関する関連指標の視覚化である。
本発明の別の様相において、視覚化は、更に、少なくとも1つの選択された管理限界設定値(control limit setting)を視覚化することを含む。
本発明の別の様相において、視覚化は、更に、複数の選択された管理限界設定値を同時に視覚化することを含む。
本発明の別の様相において、過去のデータの視覚化は、それぞれの過去の標本(historical sample)に関連する又は相互に関連する情報の視覚化である。
本発明の別の様相において、相互関連情報は、プロセスを達成するプロセス制御機械部品、型、取付具又はプロセス要素の少なくとも1つを含む。
本発明の別の様相において、再検査は、グラフィックユーザインタフェース上における少なくとも1つの設定変更に基づく即時の再検査を含む。
本発明の別の様相において、過去のデータは、固体デジタルメモリ、回転メモリ、光メモリ、又は他のコンピュータ記憶媒体の少なくとも1つに記憶された保存データを含む。
本発明の別の様相において、過去のデータは、視覚化によって示された測定済み製品又はプロセスパラメータの指標値に関する画像を含む。
本発明の別の様相において、過去のデータは、視覚化によって示された測定済み製品又はプロセスパラメータの指標値に関する非画像形態の生のセンサデータを含む。
本発明の別の様相において、図形視覚化によって容易にされた変更が、オンライン検査又はプロセス監視システムの変更を引き起こす。
本発明の別の様相において、オンライン検査又はプロセス監視システムは、複数のチャネルを含む。
本発明の別の様相において、複数のチャネルは、接続された独立した検査又はプロセス監視ステーション又はノードを含む。
本発明の別の様相において、図形視覚化は、1)評価、2)更なる調整、又は3)検査又はプロセス監視システムの変更の実行の内の少なくとも1つに使用される。
本発明の別の様相において、変更の実行を受け入れるために更なるに操作が行われる。
本発明の別の様相において、検査又はプロセス監視システムにおける変更の最終的な承認は機密保護されている。
本発明の別の様相において、視覚化は、選択された過去の標本群を表わす棒グラフを含む。
本発明の別の様相において、それぞれのバーの高さは、それぞれの標本についてシステムが計算した悪さ又は良さを示す指標値である。
本発明の別の様相において、棒グラフは、選択された特徴を表す色のバー要素又は、バー要素に関する情報の表示を含む。
本発明の別の様相において、選択された過去のデータは、検査又は監視している部品又はイベントに対応する所定の標本抽出のデータを表わす。
本発明の別の様相において、所定の標本抽出は、時間ベースの標本抽出、カウントベースの標本抽出、周期的標本抽出、イベントベースの標本抽出、標本抽出計画理論ベースの標本抽出、シフトベースの標本抽出、ランダムベースの標本抽出、アルゴリズムベースの標本抽出、ミリタリベースの標本抽出、周波数ベースの標本抽出、パーセントベースの標本抽出、場所ベースの標本抽出、ステーションベースの標本抽出、及び製造パスベースの標本抽出の内の少なくとも1つを含む。
本発明の別の様相において、視覚化は、生産からの選択された混合標本を示し、この生産からの選択された混合標本は、第1のタイプの選択された標本の少なくとも第2のタイプの選択された標本との比較を表す。
本発明の別の様相において、第1のタイプは、特定の特徴を有する標本を含む。
本発明の別の様相において、第2のタイプは、時間ベースの標本抽出、カウントベースの標本抽出、周期的な標本抽出、イベントベースの標本抽出、標本抽出計画理論ベースの標本抽出、シフトベースの標本抽出、ランダムベースの標本抽出、アルゴリズムベースの標本抽出、ミリタリベースの標本抽出、周波数ベースの標本抽出、パーセントベースの標本抽出、場所ベースの標本抽出、ステーションベースの標本抽出、及び製造パスベースの標本抽出の内の少なくとも1つを使用して得られる標本を含む。
本発明の別の様相において、第2のタイプは、所定の特徴を有する標本を含む。
本発明の別の様相において、視覚化結果は、ユーザにとって特に有用な用語で表現される。
本発明の別の様相において、用語は、寸法、質量、パーセント、金銭的影響、測定、視覚的属性、及び部品の数の内の少なくとも1つとして定義される。
本発明の別の様相において、グラフィックユーザインタフェースは、検査又は監視プロセスの結果についての過去のデータの視覚化を提供するように動作するグラフィックディスプレイと、少なくとも1つのしきい値設定を含み、設定を調整した場合、その調整を反映するように視覚化が変更される。
本発明の別の様相において、少なくとも1つのしきい値設定は、感度レベル及び欠陥スケールを含む。
本発明の別の様相において、方法は、検査又は監視プロセスの結果を視覚化するためにグラフィックユーザインタフェースに過去のデータを表示すること、及び少なくとも1つのしきい値設定の調整を反映するように視覚化を変更することを含む。
本発明の別の様相において、方法は、検査又は監視プロセスの結果を視覚化するためにグラフィックユーザインタフェースに選択された過去のデータを表示し、少なくとも1つのしきい値設定の調整を反映させるために結果の視覚化を変更することを含む。
本発明の別の様相において、グラフィックユーザインタフェースは、オンラインマシンビジョン検査プロセスの結果に関する選択された過去のデータの単一画面視覚化を提供するように動作するデイスプレイであって、選択された過去のデータが、検査された部品の母集団を表わし、選択された過去のデータが、検査した部品の選択された関心領域の画像と選択された非画像データを含み、グラフィックユーザインタフェースは更に少なくとも1つのしきい値設定を含み、その調整により、調整を反映するように単一の画面視覚化が変更される。
本発明の別の様相において、単一の画面視覚化は、検査した部品の選択された画像の選択された関心領域のアンラップ表示を含む。
本発明の別の様相において、画像は、複数のサムネイル画像を含む。
本発明の別の様相において、視覚化は、ホログラフィ画像表示を含む。
本発明の別の様相において、特定の欠陥タイプの視覚化は、ホログラフィ表示の形態である。
本発明の適用可能性についての更なる範囲は、後に示す詳細な説明から明らかになるであろう。しかしながら、詳細な説明及び特定の例は、本発明の好ましい実施形態を示すものであるが、例示のためのものであることを理解されたい。何故なら、本発明の精神及び範囲内の様々な変更及び修正は当業者に明らかであるためである。
本発明は、装置の様々な部品の構造、配置、組み合わせ、並びに方法の段階で存在し、意図された目的は、後でより詳しく説明され、特許請求の範囲で具体的に記載され、添付図面に示されるようにして達成される。
本発明は、例えば、一形態において工業オンラインプロセス等のオンラインプロセスの検査プロセスや監視プロセス等の様々なプロセスにおいて、単一又は複数の監視しきい値を変更するきわめて単純且つ直感的な方法を提供するグラフィックユーザインタフェースを提供する。グラフィックディスプレイは、設定された変更が、最後の「N」個の部品、イベント又はターゲットの検査中に行われた場合に生じるであろう監視又は検査結果を迅速に示す。部品又はターゲットは、様々な形態をとることができる。この遡及的グラフィック「見直し(look-back)」機能は、将来の生産が最近の過去の生産と類似しているように見える場合に、将来の検査又はプロセス監視結果がどうなるかを容易に推定できるようにする。この将来の検査結果の推定は、プロセスが適切に制御されている場合と、過去の生産に将来の生産と類似した不規則性があるプロセスの場合には正確になる。従って、この種のセッティングは、広範囲の高生産性工業生産に最適な技法である。
優れた洞察力を有する見直しグラフィックインタフェース機能は、2個〜「N」個の部品としてプログラム可能である。理想的には、「N」が、適切な生産結果期間を表すのに実質的に十分な数となるように設定されなければならない。「N」の大きさは、通常の定常状態の生産を表現し、プロセスにおける通常のばらつきの代表的標本抽出をするのに十分な長さの生産期間を表すように選択されなければならない。異常を検出するソフトウェアアルゴリズムで製品の品質を監視する生産システムの場合、生産プロセスに生じる通常のばらつき及び不規則性の代表的範囲を知ることは重要である。
本発明の見直し的遡及によって、設定パラメータを、単一の生産部品又は小数の生産部品の標本ではなく大きい母集団に基づいて変更することが容易になる。例えば、ほとんどのマシンビジョン検査システムは、ある程度試行錯誤の方法を使用して設定される。一般に、ターゲット要素から1つ又は幾つかの画像が得られ、アルゴリズム設定を検証するか関心領域(ROI)を定義するためにその標本又は小さな標本セットが使用される。ROIは手動で決定されも自動で決定されてもよく、これを行う技法は当該技術分野において周知である。長い間、円形部品に「似た濃淡の同心リング」のような技法が使用されてきた。次に、選択した関心領域に「判定パラメータ(judging parameter)」が設定される。初期調整を行った後で、さらに製品画像をスナップ撮影し、オペレータは、検査システムが現在の設定に基づいて適正な判定を行っているかどうか判定する。欠陥がユーザの要望に従って識別されているかどうかが1つの因子である。
設定が適正な判定レベルで機能していない思われる場合、オペレータは、一般に、判断設定を厳しくするか又は緩めて、結果をさらに別の画像標本で確認する。このプロセスは、設定パラメータが、例えば製品の相対的な善し悪しを区別できるような、悪い製品を除外し良い製品を合格にすることができる適切なレベルであることを、ユーザが納得するまで繰り返される。
一般に使用されるこの手動設定ループの大きな問題は、もっとかなり大きい標本セットで見られるであろう通常範囲のプロセス変動を考慮しないことである。通常の部品の母集団の一般的な単色領域は、図1に曲線500で表わされたグレースケール分布を有しているであろう。このグラフは、X軸(502)がグレースケールで、Y軸(501)が、生産部品の母集団の同じ領域内にある特定の濃淡値での画素数であると仮定する。生産部品の大きな母集団では、曲線500より下のグレースケール範囲全体が見られるであろうが、小さな母集団では、(503)のもっと限定された範囲だけが観察されるであろう。母集団が小さい場合は、しばしばオペレータのより高いレベルの経験と訓練が必要になる。経験を積んだ設定者が、パラメータをこの方法を使って調整するときでも、設定者は、標本セットに表われていない通常のプロセス変動の真の範囲を推測しなければならない。要するに、システムは、手動で何度も微調整されるまで最適レベルよりも低く設定される可能性が高い。
また、小さな標本セットには代表的範囲の欠陥がめったに存在しないということも重要である。オペレータが、小さい欠陥と中くらいの欠陥を区別するためにシステムを設定しようとする場合、適正な区別を確認できるように標本セット内に欠陥が見える方が望ましい。本発明によれば、きわめて大きい標本セットを以前に遡って容易に試験することができ、「N」個全部の過去の標本セットの母集団に基づいてシステムを設定することができる。即時にパラメータを変更した結果を、「N」個全部の母集団の自動再検査によって素早く確認することができる。これにより、設定又は設定に対する変更を高い信頼レベルで行うことが容易になり、そのレベルは、結果が希望通りになり、また将来の生産でそうなる可能性が高いレベルである。
母集団の標本の大きさの唯一の制限は、検査又はプロセス監視システムが利用することができる何らかの形態の記憶の量即ち記憶容量である。記憶装置は、実際のシステムになくてもよいが、高速アクセスによってシステムが利用可能でなければならない。標本の大きさが大きくなるほど、システムがグラフ結果で応答するのが遅くなることは確かである。本発明は、また、大きい標本セットを調べるのに必要な時間を短縮するためのオプションのデータ削減方法を含む。データセットの削減は、処理速度とアクセス速度の面からも重要である。実際に、特定の用途で必要とされる所望のグラフ再作成/再検査速度が容易に得られるようにするために、実施化において、複数のポイントでデータ削減が行われる。例えば、図4と図5のフローチャート(後でより詳細に示す)は、405、408および419に3つの異なるデータ削減ポイントを示している。
本発明は、基本的に、製品又はプロセスに関するパラメータベースの判断をするのに必要な重要情報(critical information)(例えば、履歴情報)を記憶する。少なくとも一形態において、このデータは、検査又は監視の対象である製品又はプロセスの指標値に関連する。このデータは、生のセンサデータ、画像データ、又は非画像データを含むがこれらに限定されない様々な形態をとることができる。この情報は、システムが利用可能であったオリジナル情報の全てのセットのとして記憶されてもよく、知能的に削減したサブセットとして記憶されてもよい。履歴情報セット全体が記憶され、それをシステムが利用できる場合は、特別のデータ削減は不要である。例えば、マシンビジョンシステムの場合は、最大「N」個まですべての画像を保存することができる。しかし、オリジナルデータのサブセットを保存したい場合は、どのようにオリジナルデータセットを選択されたセットの過去のデータに削減し、さらに見直し機能が起動されたときに完全な調査(review)又は再検査を容易にするかについて決定しなければならない。
オリジナル情報の重要なサブセットだけを保存したい場合は、データセットを削減する方法はいくつもある。データ削減を適正に行うと、メモリ空間要件を低減させることができるだけでなく、データをソートしアクセスするためのアクセス時間と能力を改善することができる。
例えば、画像ベース検査システム用に削減したデータセットを維持するように選択した場合は、以下のようにデータセットを削減することができる。ターゲット要素の画像が円形の場合は、本質的に、実際のターゲット要素の一部分を画像化していない多数の無駄な画素がある。図2は、そのような円形のターゲット要素を示し、このターゲット要素は、4:3の縦横比を有するビデオフレームに重ねられている。この場合、斜線部分(101)は、ターゲット要素(102)を評価する重要情報を表わしていない。領域(101)によって表わされた画素は、ターゲット要素(102)情報を後で利用するために維持しなくてもよい。当該技術分野で周知のデータ削減技術は多数ある。その広範な技術は、当該技術分野において周知であるため、それらの技術を検討することは本特許の範囲外である。簡単に言うと、そのようなデータ削減又は圧縮技術を使ってメモリ要件を低減させるか又はシステム性能を高めることによって、本発明を実施する方法論の範囲内で対応することができる。
本特許の任意の特定の用途のために、特化したデータ削減技術を考案することができる。例えば、図2のマシンビジョンの例において、領域103が、システムによって評価される関心領域を表わす場合は、領域103に関連するきわめて重要なパラメータだけを保存することが可能である。システムが欠陥の大きさを監視している場合は、削減したデータセットが「疑わしい」欠陥に関する情報だけでよい。その場合、システムは、その情報を調べて、変更した感度レベルで、欠陥のどれを本当の欠陥として宣言すべきかを決定する。図示したように、関心領域103は、可能性のある欠陥104、105及び106を示す。
関心領域(ROI)(103)全体を保存することは、十分に有益なデータセットの削減であり、より粗いデータセットよりも完全な見直し調査を可能にする。経験を積んだマシンビジョンエンジニアにとっては、特定の部品の一部又は関心領域について調べるために使用されるアルゴリズムを評価して、完全な見直し検査を更に容易にするためにデータセット削減の本質が何であるかを決定することは簡単なはずである。
本発明の別の特徴は、関連情報のサムネイルの表示を容易にすることである。図2の画像を利用した例において、関心領域(103)をグラフィック表示に近い形で表示することができる。この表示は、環状部分又はドーナツ型部分が図形による結果表示の下の細長い長方形部分になるようにアンラップモードで行うか固有アスペクトモードで行うことができる。
さらに拡張した大きさの母集団に基づいてシステムを設定したいときは、時間的に離間された標本抽出を利用するようにシステムをプログラムすることが適切である。統計的プロセス制御において周知の様々な方式を使用して、標本が代表的なものになるように十分にランダムにすることができる。例えば、本発明のグラフィックユーザインタフェース最適化に使用するためのシステムが保存する「N」個の部分の母集団は、時間「T」にわたって時間的にランダムに離間された250の40個の異なる標本である。これにより、更に、母集団の標本の大きさが10、000個になるが、将来の生産の見直し予測を乱す短期の傾向を覆うことになるであろう。これにより、実質的に、生産のより長期の平均化が可能になり、将来の生産のためのより適切な長期設定が容易になる。当業者であれば、この概念に多くの変形を加えることができる。時間の長さと不規則性の設定は、設定メニューでユーザが選択できる項目でもよく、平均的ユーザの視野から隠して見えなくして、混乱を招いたり、システムの使い易さに悪影響を与えないようにすることもできる。
また、システムの変動の周期性を学習して、最良の結果のために母集団データをいつ取得すべきかを自動的に決定することは有用である。そのような自動的な手法は、標本抽出を長期間にわたって行うが、最近の生産ほど大きい重みを加える。
本発明は、過去の母集団の検査の結果をグラフィックで示す概念を含む。そのようなグラフィック表示を具体化することができる方法は多数ある。例えば、図4と図5に関連して説明したような方法が使用される。グラフィック表示がコンピュータ表示装置の一部として示される場合は、グラフィック表示は、従来のCRTコンピュータモニタ又はLCDモニタ、プラズマ又はLEDモニタ、有機LEDモニタ上に示されてもよく、透過投影スクリーン又は反射投影スクリーンに投影されてもよく、或いは任意の他の種類のコンピュータ駆動モニタ、スクリーン又は表示装置で視聴者に表示されてもよい。また、情報のグラフィック表示をシートプリンタと連続ロール型プリンタのどちらでも適切に印刷することができる。連続型プリンタ又はストリップチャートレコーダ型プリンタで情報を表示すると、きわめて大きい母集団セットをより詳細にグラフィック表示することができる。
実際のマンマシンインタフェースの観点から、グラフィックインタフェースを幾つかの異なる方法で設定することができる。選択し操作するための最初の方法はポインティング装置であるが、同様に他の技法を利用することも容易である。これに関して、グラフィックな機能は、マウス操作に応答するスライダ、ボタン、ノブ、領域等のグラフィックアクチュエータ又は図形要素(並びに同様の機械的実装)によって実現することができる。タッチスクリーンは、直感的インタフェースを可能にし、使用することができるが、間違った動作を引き起こさないように十分に大きな「タッチスポット」を必要とするという制限を有する。指に対しては粗さが十分でない。左利きと右利きの人に対応しなければならず、また画面の前に手があると視認度が大幅に低下する可能性がある。「ドラッグ」機能は、タッチスクリーンの方が困難であり、最終的にモニタ画面に摩耗が生じることがある。また、汚れた手、脂じみた手、又は手袋をはめた手は、画面視認性、保守及び寿命の観点から大きなマイナス要因となる可能性がある。それにもかかわらず、タッチスクリーンは、インタフェースの一般的な形態であり、本発明を実施するために容易に利用することができる。
マンマシンインタフェースの他の形態も十分に本発明の範囲内である。グラフィックインタフェースからの入出力手段として、PDA、携帯電話、腕時計、及び任意の形態の無線装置を使用できる。本発明を実施する有力な手段と予想されるマンマシンインタフェースの一形態がまさに出現しつつある。その形態はインテリジェント画像ベースシステムを含み、このシステムは、オペレータを「見て(look at)」高性能アルゴリズムを使って、オペレータが見ているか又は「指し示している(point)」場所を決定し且つ/又は動作と解釈できるオペレータが行っている動きを決定する。グラフィック表示は、最も望ましいフォーマットで画像化又は投影され、次にインタフェースを提供するためにそのようなシステムが配置される。このことは、当該技術分野において詳しく述べられているので、更に詳しく説明することは本発明の範囲外であるが、本発明を実施するために選択する有効な技法であることだけは理解されたい。同様に、本発明を実施するために、主入出力手段又は補助入出力手段として音声コマンドを使用することができる。
グラフィック表現を表示するさらにコンパクトな形態として、全データから小さな要約したサブセットのデータまでの何れのデータも表示する様々なグラフィック表示技術を適切に使用できる。例えば、棒グラフを利用して各バーが選択されたサブセット(或いはスーパーセット)のデータを表わすことができる。更に他の例として、各バーの高さは、それぞれの標本ごとにシステムが計算した悪さ又は良さを示す指標値である。棒グラフは、また、バー要素に関する情報の選択された特徴又は表示を示す色を有するバー要素を含んでもよい。データを調べるのに望ましい具体的な方法は、データが使用される具体的な用途に依存する。
図3(後でより詳細に説明する)は、食品及び飲料産業用の容器の自動化した映像検査に有利な一具体例を示す。缶内部検査プロセスには、感度設定を単純に調整し、感度設定が缶のすぐ前の母集団にどんな影響を及ぼしたであろうかを確認できることが有用である。アルミニウム缶又はスチール缶の内側に、視覚的人工物として著しい「ドローライン(draw line)」がある場合があるため、缶が視覚的に合格かどうかを誰かが主観的に判断して、その判断をビジョンシステムの設定に反映させる必要がある。これはコストと密接な関係するので、製造業者は、変更の影響をよく理解できるほど適切な決定をすることができる。現在、缶は、最先端技術の工場では約50缶/秒製造するので、小さな変更が大きな数に反映するのに長くかからない。本発明は、検査の設定を最適化しプロセスを理解するためのきわめて直感的で強力な方法を可能にする。
データの種類によっては、各選択時間期間におけるデータの平均と標準偏差だけを振り返ることで十分な場合がある。他の応用例では、特定の時間期間に行われれた「アウト層(out-layer)」即ち最もひどい測定値又は検査値を知るほうがはるかに役立つ。更に他のデータセットの場合は、特定の時間期間中にプロセスが動いている方向と速度を知ることが望ましく、これにより関連するイベントと時間的に関連付けることができる。グラフィック表現は、一次元、二次元、三次元、又はそれ以上のグラフの様式でよい。通常、次元の内の1つが、シーケンスか時間の表現であることが最も望ましい。また、統計的プロセス制御(SPC)の学問分野において周知のグラフのフォームファクタを選択することもできる。
統計的プロセス制御は、一般に、標本の大きさが生産の100%より少ないときに利用される。本発明は、生産の100%未満に使用することができるが一般に生産ストリームの100%の部品又は出力のリアルタイムオンライン検査又はプロセス監視に利用されるシステムのために考えられている。しかしながら、過去のデータを再計算するか見直してパラメータが変更された状況で結果がどのようになるかを判断するために、測定パラメータ又は判定パラメータの変更を教示するか容易にする既知のSPCソフトウェアパッケージはない。まさしくSPCの本質によって、通常、移動平均(平均)と移動標準偏差を求める標本データセットがあるが、通常、変更された判断パラメータに基づく詳細レベルの再評価を容易にするのに十分な情報は保存されていない。
この場合も、過去に入手可能であったシステムと本発明の違いを理解することが重要である。従来、マシンビジョンシステムは、固定された1組の設定に基づいてターゲット要素を評価してきた。各検査が行われるとき、そのような設定を使って評価が行われ、製品は、その数に基づいて合格にされるか不合格にされ、統計が収集される。設定が不適正で調整する必要があると判断された場合は、それまで得ていた現行の結果に基づいて設定を緩めるか厳しくするかを選択することができる。最近の「N」個の製品の生産中おいて、或いは任意の大きさの過去の標本に対して、新しい設定が行われていたとしたら、その新しい設定がどのような影響を与えたかを知ることができる手掛かりはない。新しい設定を行うとき、システムをどの程度厳しく又は緩く設定すべきかを知能的に設定することは経験を必要とする精神的なプロセスである。従って、調整を行うたびに、試行錯誤や観察の手順がある。本発明は、最も経験の少ないオペレータが、変更の結果が将来の欠陥にどのような影響を与えるかを視覚的に簡単に見ることができるようにすることによって、システムの設定プロセスを大幅に単純化することができる。特定のタイプのグリース付着を確実に検出できなかったことが観察された場合、オペレータは、最近の生産で常に合格していたグリース付着を適切に検出するようにするためにはどのように変更すればよいかを知る手掛かりはない。本発明により、オペレータは、システムの正確な評価と再設定を行うためのきわめて直感的なツールセットを得ることができる。システムに適正なソフトウェアがロードされている場合は、オペレータが関心を持つタイプの欠陥の幾つかの画像を簡単に見直すことができる。次に、オペレータは、システムを調整して、欠陥を検出するようにし、また重要なことには欠陥のない製品を間違って不合格にする状況を作り出さないようにする。次に、オペレータは、変更をきわめて大きい標本セットと照合して検証し、それが自分の望みと合致しているかを確認することができる。
統計的プロセス制御は、製品又はプロセスに関する測定値を収集し、次にそれらの測定値を数学的に処理し、製品又はプロセスが適切に制御されているかどうかを評価する科学である。測定値は、各製品に関して取得される場合があるが、より一般的にはより大きい母集団からランダムに標本抽出した製品に関して取得され、後で数学的に使用するための一定の測定値として扱われる。オリジナル部分は、将来の時点で再測定できるような様式で維持されない。これは、定義測定(definitive measurement)を容易にするプロセスで良い傾向がある。統計的プロセス制御(SPC)には、測定可能な長さ、直径又は高さがあるプロセスが適している。統計的プロセス制御は、一般に、製品の主観的評価を行わなければならない場合はうまくいかない。主観的評価には、より定義的な測定を行う場合のように平均又は標準偏差を求める式に入れることができる数値がない。缶の内側の抜き取り線、変形端のアルミニウム粒子の視認度、又はカーペット標本のしみに関する一定の測定値を得ることはきわめて難しい。ほとんどの統計学者は、主観的測定に苛立ちを覚え、試みたときに、そのような主観的なタイプの欠陥を生じるプロセスを制御するのに不満足なシステムを作り出すことが多かった。多くの場合、統計学者は、主観的指標を直接評価しようとするのではなく、より決定的測定に向いたプロセス変数を測定しようとする。これは、事実上、青写真で示し次にきわめて客観的に測定することができる公差を取り扱う傾向がある。
一方、本発明は、特に、そのような主観的判定システムを設定する技術の大幅な改良としてなされた。本発明の利点は、検査及び監視システムの設定を行う際の固有の使い易さと直観性である。本発明の基本的な利点は、「what−if」見直し評価(例えば、画像の部分又は画像全体を含む画像に関する記憶データ及び他のデータの再計算と再分析)を行って、変更された設定に基づいて検査結果がどのように変化するかを知ることができることである。これを行うと共に、製品の大きい母集団に対する見直し能力に基づいて設定を行う機能によって、検査システムを設定する技術の大幅な改良が可能になる。これにより、本質的に、実際に部品やターゲットをシステムに再び通すことなく、異なる(又は同じ)パラメータを使用して部品の再検査(例えば、即時再検査)が可能になる。
本発明は、検査又はプロセス監視システムの過去の結果を図式的に表わす方法を実施する。更に、パラメータが変更された場合に、新しいパラメータ又はパラメータの変更に基づいて結果グラフを容易に作成し直すことができる。これにより、データの「what−if」評価が容易になり、ユーザがその瞬間以降全ての検査又は監視のための新しい設定を受け入れることができるようになる。必要に応じて、「what−if」設定に基づくか実際の検査監視時に存在した実際の設定に基づいて「N」個の大きさの母集団標本の過去の結果を表示することができる。
本発明が取り組む特定の用途に従ってそのような特徴の様々な組み合わせと順列に対応できるようにグラフィックインタフェースソフトウェアを作成することができる。本発明は、主に、一形態においてデータのグラフィック表現であるように意図されるが、実際の数を様々な方法で調べることも可能にする。例えば、特定のマシンビジョン検査システムからの結果データを、それぞれ500の検査値を単一の指標バーに圧縮した棒グラフとして示すことができる。バーの大きさを見ることによって個々の測定値を知ることができないので、マウス又はトラックボールのポインタをバーの上に置くか、バーをクリックすることによって、所望の量の実際の数値データが示されるようにソフトウェアを作成することができる。更に、バーで表わされたデータを拡張してそのデータをより詳しく表示できるようになる。500の検査値を表わす単一のバーの上に置くことによって、そのような検査値の平均と任意の1つの個々の検査の最もひどいもの(最大指示値)を示すことが最も望ましいであろう。所望の重要情報を創造的且つ直感的に表示するために、ほとんど限りない様々な類似の方式を設計することができる。本発明の価値の1つは、データを有用且つ迅速に吸収される情報に直感的に変換できることである。次に、この情報を武器にしてユーザは「what−if」設定を試すことができ、そのような設定を更に最適化するか、受け入れて推奨(go forward)設定パラメータとして広めることができる。
また、本発明は暗黙的に、正常状態の設定から「外れる」製品の数を予測する能力を含む。意志決定者が、品質設定に変更を加えるコストを決定するため、システムは、例えば不合格にしなければならない製品の数を予測することができる。予測した情報を使用することによって、システムは、様々なユーザ入力された標準コストや他の情報を使用し、検査の直接出力としてコスト値を計算することができる。この直接コスト値は、より大きな原価管理システムによって利用できるようにコンピュータネットワークを介して通信される。従って、システムは、最近の過去のものを使用して、コスト、生産速度、破棄、又は任意の他の直接又は導出推定値の内の少なくとも1つに関して将来を予測する。
システムがそのようにプログラムされている場合は、ツーリング器具、ツーリング管理、予防保全、スケジューリング、及び他の製造設備管理の値に有用な多数のものを予測したり予測を支援したりすることができる。ツーリングおよびプロセス機械部品との相関関係を示す指標をグラフ描写に組み込んで、設備の効率と有効性を大幅に改善することができる。また、関連した数値を適切な図形要素の近くに組み込んで、製造プロセスを理解し問題解決する機能を高めることができる。
例えば、図3等の表示において、瓶を形成する際に使用された予備吹込圧が、型番号と共に棒グラフに沿って各バー202に重ねられている。このように組み込むことによって、選択した任意の関連データと関連した指標データだけが表示されるように棒グラフをソートすることもできる。従って、特に機械部分又はプロセスパラメータと関連して起きている欠陥又はプロセス異常のタイプに基づいて判断設定を素早く変更することができる。
米国特許第5,591,462号は、特定の金型、搬送アーム、又は他の機械部分と欠陥の相関関係を教示している。この特許は、検査設定を変更又は最適化する方法を教示しておらず、また新しい設定パラメータに基づいて再評価するための見直し又は「what−if」技術を何も教示していない。本発明は、基本的に異なるが、実際に’462特許を実質的に改良するように実施することができる。
いかなる変更も図式的に示すことができるので、生産ラインに携わる平均的オペレータが理解できる形で伝わるように本発明のソフトウェアを設計することができる。適正に設計された場合、オペレータは、直観的に理解するために教示される形で情報が表示されるので、図式的に要約される特定の監視技術を詳しく理解しなくてもよい。システムは、オペレータが容易に理解することができる幾つかの方法で説明を更に容易にすることができる。ソフトウェアは、ユーザがインタフェース画面上の様々な特徴形状をクリック又はなぞり、これによって、結果のグラフィック表現を更に詳しく説明するいくつかの形態を提供することができるように作成されてもよい。これは、文字説明の形でもよく、或いは必要に応じてオペレータが選択した言語の口頭の説明の形でもよい。また、オペレータが理解しやすければ絵や図表でもよい。
オペレータに説明するメカニズムは、図形表現の理解を含むだけでなく、推奨する修正ステップをオペレータに指示することもできる。そのようにプログラムされている場合、そのような説明は、プロセスを元に戻すための修正ステップの単純な推奨から、修正又は予防保全の詳しい段階的説明までいかなるものでもよい。そのような詳細な情報ステップは、様々なプロセス修正ステップの知識が豊富な人によってシステムに導入されなければならない。
本発明の有用性と使い易さを実質的に高める別の様相は、オペレータの側のシングルクリック又は1回の動作によってグラフィック表現の変更を行えることである。例えば、図3において、感度しきい値線203をクリックし、次にもっと高いか又は低い感度設定値にドラッグすることができる。そのようにプログラムされている場合、システムは、そのような用途のために記憶したデータ(202)に基づいて結果のグラフィック描画をすぐに計算しなおす。
非常に強力な本発明の別の様相は、システムがどのような種類の欠陥を検出するように調整されているかをユーザが理解しやすくする情報を図式的に表わす機能である。グラフィックインタフェースは、システムがどのような種類の欠陥を検出するように調整されているかをユーザが視覚的に理解しやすいようにする部分説明パレット(part description pallet)で設計することができる。欠陥を記述する単純な1つの形態は、欠陥スケールを示すことである。図3は、小さく狭い欠陥から大きく幅広い欠陥のスケールの他端まで連続的に設定することができるスライダの欠陥スケールを示す。次世代の製品は、オペレータがシステムを調整する対象の欠陥の外観を選択できるように二次元又は三次元視覚化機能を持つことが予想される。その場合、オペレータは感度レベルを設定し、新しい変更に基づいて見直し遡及的検査が行われることになる。1つの関心領域に複数のアルゴリズム調整を行うことができ、従って、オペレータは、検出したい欠陥の種類の絵を実際にクリックして、システムを過去の標本セットに基づいて調整し、次に検出したい欠陥の次の種類を選択し、システムをその欠陥の外観に基づいて調整し、以後同様にこれを続けることができる。オペレータが、システムを調整したい対象の欠陥の番号を選択し、感度レベルをその欠陥の各タイプに合わせたとき、システムは、視覚化マップを描画し、調整のために選択した欠陥と感度レベルを示す。これを描写する方法は多数あるが、方法は、三次元グラフの類のものでもよく、ボックス内の様々な位置に欠陥を含む三次元半透明ボックスとして視覚化されてもよいことが予想される。将来の世代の製品は、システムを調整する対象となる欠陥タイプの三次元描写セットを作成するためにホログラムを使用する可能性が高いと予想される。この機能によって、本発明は、システムを適切に設定することができる見直し再検査機能の優れた利点と組み合わせて、等級分けとカテゴリ分類を実現することができる。このシステムによってオペレータが特定の種類の欠陥とを直観的に容易に調整できるようになるほど本発明の効果は大きくなる。
図2は、システムが図形的に即ち視覚化して描写することができる様々なタイプの欠陥104、105、106を示す。小さい高コントラストのドット106を見つけたいがそれより長くて細い欠陥105は無視したい場合、このシステムは、理解しやすく且つ訓練がほとんど必要ない直感的方法でこれを容易する。また、欠陥106が大きい表面積を有するがコントラストがきわめて低い場合に、その視覚的属性をグラフィックインタフェースによって指定するのが容易になる。欠陥タイプが異なる場合、検査システムは、検査ソフトウェアが探すように設定された、まさにその属性が見つかったときに最も高い比例指標値を出力する。そのようなマシンビジョンアルゴリズムは、当技術分野では周知であり、マシンビジョンソフトウェアエンジニアに一任される。
類似の機能をシグナチャベースのシステムに呼び出すことができ、このシステムでは、シグナチャ又は波形の特徴部分が部品の特徴を表わす。そのようなシグナチャは、システムの探索を調整するために識別することができる特徴的な形状、勾配、数学的関係、及びその他の固有の情報を有する。そのようなシグナチャを図式的に表わして、設定を分かり易くし且つ見直し再検査を容易にすることができる。
グラフィック表示およびインタフェースは、クリック、クリックアンドドラッグ、ダブルクリック、ダイアログボックス内への文字又は数字の入力、上矢印キーと下矢印キーのクリック、「ラジオつまみ」、「スライダ」調整などの任意の形の操作を使用することができる。本発明を実施するために、Microsoft Windows、Apple Macintosh、Visual Basic、又は他のビジュアルインタフェース画面ソフトウェア全般を利用することができる。現在最も優れた実施ソフトウェアおよびユーザインタフェース技術を、アプリケーションを実施するのに最も望ましい任意の組み合わせ又は順列で利用することができる。
業界が長期間取り組んできた問題の1つは、これまで製造されてきた製品のトレーサビリティとトラッカビリティである。本発明は、関連するデータ及び情報をそれぞれ個々の検査に結びつけることができるので、検査した生産ラインによって製造される部品ひとつひとつに関するきわめて完全なファイルを有することができる。部品レコードに、シリアル番号、RFID(無線周波数識別タグ)、又は他の明確な部品識別(positive part identification)が利用できるという点で、後日に部品を再検査し、どの部品が本当に心配にあるものかを確認することができる。例えば、最初にエアバッグ又はクラスター爆弾点火装置、或いは他のきわめて重要な部品を検査したが、システムが、現在関心のある特定の種類の欠陥を見つけるように調整されていなかった場合は、システムを適切に再設定することによって、過去の部品が全て素早く再検査され、回収すべき特定の部品が識別される。このタイプの見直し機能は、再検査が行われる日付、生産ロット、シリアル番号範囲などでソートし易いようにプログラムすることができる。また、見直し遡及機能は、保険費の削減や責任関連問題の軽減を容易にすることができる。また、見直し再検査機能は、過去の製品を調査する新しいアルゴリズムを実施して従来のアルゴリズムが捜し出せなかった欠陥を捜し出すことができる。
本発明は、検査に関連する画像、検査指標又は他のデータのきわめて大きい標本セットを記憶しようとするものであり、長期間にわたって全生産の100%を容易に維持することができる。これにより、一部の製造業者にとってきわめて有効な幾つかの見直し再検査機能が強化される。これにより、実際に、過去のそれまでの生産が完全に100%デジタルドキュメト化され、同時に製品の迅速な再検査又は再調査が可能になる。次に、このシステムは、訴訟に従う再検査で製造時の製品の実際の状態を検証することを可能にする。
また、容易に再現できないか又は決して再現できない多くの状況が設備内で起こる。例えば、後で乾くか又は蒸発する製品上の水分、後で硬化して透明になるコーティング、及び生産担当者に知られずに同時に起こる様々な状況又は状況の組み合わせがある。後でシステムを再調整し再検査を実行することによって、問題の原因を容易に識別することができる。
本発明は、また、新しい開発中の検査アルゴリズム又は実験的検査のアルゴリズムの検証を更に容易にしようとするものである。新しいアルゴリズムできわめて大きい母集団データベースを再検査できるので、アルゴリズムの全機能を検証し、新しいアルゴリズムを実際の生産時に使用した元のアルゴリズムと比較することが簡単になる。
更に、単一のグラフィック見直しインタフェースを呼び出して、相互接続したカメラシステム又は検査システム全体を通して再検査を実行できるようにシステムを相互接続することができると考えられる。そのような接続(hook up)によって、任意の数のスマートカメラ、ビジョンシステム、他の検査システム、又はプロセス監視システムを結合することができ、その結果それぞれの装置又は装置間のノードあるいは中央レポジトリに大きな過去のデータベース母集団を蓄積することができる。より集中された位置に全てのデータを送る場合には相応な帯域幅が必要になるが、リモート位置又はサテライト位置に大規模なメモリを持つ必要がなくなる。見直し検査インタフェース機能を相互接続することにより、その機能で生産ライン全体又は工場全体を監視することができる。その場合、この機能は、用途と性能ニーズによって、工場全体の生産監視システムと関連して働くこともでき、そのようなシステムの代りに使用することもできる。
2つ以上のシステムを相互結合した場合は、それらのシステムは、相互接続された幾つかの類似のシステム間の較正、標準化および類似の作業を容易にすることができる。ますます多くの会社がきわめて高い品質レベルを求めるようになっているので、これは、そのような目標の達成を容易にする有益なツールである。
見直し遡及検査システムを製造分野全体にわたって使用することができる更に多くの方法があることを理解されたい。本発明は、上記の様々な機能をそのすべての組み合わせと順列で、任意の特定の応用例に適したシステムに組み込む様々な能力と用途を意図している。自動化された検査及びグラフィックユーザインタフェースの技術分野の当業者であれば、この技術を特定の用途に利用することができまた本明細書に引用した特定の例に決して限定されるべきではない多くの方法が容易に分かるであろう。
次に、前述の食品及び飲料容器のオンライン検査の応用例について詳細に説明する。飲料容器の内側に関する種々の品質項目についての判断が主観的になされる場合が多いので、図3のグラフィックユーザインタフェースは、検査又は監視プロセスの結果に関する選択された過去のデータを視覚化する働きをするグラフィック表示を提供すると共に、少なくとも1つの制御又はしきい値の設定(setting)を提供し、設定が調整された場合、それが反映されるように結果の視覚化が変更される。1つの例において、少なくとも1つのしきい値設定は、感度レベルと欠陥スケールを含む。このシステムは、現在利用可能なシステムを上回る視覚検査システムの実質的な改良を提供する。
棒グラフ200は、検査結果を複数のモードの内の1つのモードで示す。詳細には、それはシングル部品モードを示し、このモードは、特定の種類の欠陥又は個々の部品について内在アルゴリズムがどのように検査を行うかを理解する強力な方法を提供する。本発明は、ユーザがシングル部品モード、最終100部品モード、又は最終「N」モードを選択できるようにするプルダウンメニュー219によって起動される。「N」の値は、任意の数に設定することができるが、この例示的な用途では10,000が使用される。最終100部品モードにおいて、各バーは、最終100個の個々の部品の視覚検査から得られた最も有力な指標値を表わす。バーの縦方向の大きさが大きいほど、指標値は、現在の設定に基づいて個々の部品がより悪いものであると判断する。しきい値線203の位置を超えるバーを有する部品は、バー/部品205のように不良であると判断される。215がしきい値線より低く、現在示されているスキャンでは合格品質と考えられることに注意されたい。このバージョンのグラフィックユーザインタフェースでは、システムがグラフィックユーザインタフェースレベルで判断するのに2つの設定を用いる。それは、欠陥スケール212と感度レベル203である。オペレータはこの2つの設定を容易に変更することができ、変更が行われるとすぐに再視覚化され、その結果をグラフの視覚的様相によって理解することができる。そのような調整は、表示上の図形要素の操作或いはしきい値線203等のしきい値線の操作によって実現することができる。205のような線203を超える垂直バーは、線203を超えないバー202の通常の緑色(図示せず)ではなく赤に変更される(図示せず)。グラフの「Y」軸即ち縦軸204は感度を表わす。一形態において、例えば、感度はグレースケールデータに関連する。「X」軸201は、個々の部品を、時間が206の方向に過ぎる時系列で表わす。使い易さを最大にするためにこのグラフィック表示には2つの変数を選択されているが、用途が必要とする場合にはもっと多くの変数が使用されることがある。このグラフィックインタフェース上のユーザ調整可能なパラメータ設定は、欠陥スケール212と感度バー203である。当然ながら、もっと多くの調整可能なパラメータが必要な場合は、例えば表示又は画面に追加のスケールを組み込むことができる。感度調整203を変更するために、ユーザは、ポインティング装置を線203上でクリックしたまま、感度調整を行いたい方向に上か下にドラッグすることになる。線を下げることにより、ユーザは、203の高さ位置を超えるバーの数を増やし、それにより検査の感度を高める。線203を上方にドラッグすると、高さしきい値を超えるバーの数が減り、それによりシステムの感度が低くなる。例えば、しきい値線203はバー215より高く、従ってバー215によって表わされた部品は合格すると考えられる。このバーは緑で描かれその状況を表わす。第2の調整は、欠陥スケール調整212である(例えば、一形態においてこれは欠陥の大きさ表わす)。図3で図式的に表わされているアルゴリズムは、複数のスケール設定を有する機能を有し、それぞれのスケール設定自体の感度バー203と欠陥スケール設定213は、欠陥スケール線212に沿ってその位置で示される。単一の関心領域(ROI)を基づく複数の欠陥スケール設定212があるので、真ん中の欠陥スケール指標214は、どのアルゴリズムが現在表示されているかを視覚的に強調表示するために二重に取り囲まれている。関心のある欠陥スケール指標213をクリックすることによって、その欠陥スケール指標213は、214と同じように強調表示され、クリックした欠陥スケール指標213に従った検査結果を反映するようにグラフィック表示200が直ちに変化する。次に、ユーザは、所望の設定が決定されるまで強調表示された欠陥スケール指標214をクリックしドラッグする。次に、ユーザは、選択した新しい欠陥スケールに適合するように感度レベル線203を再調整することを選択できる。2つ設定調整が変更されたとき、グラフィックインタフェースは、新しい設定を反映するように素早く変化する。新しいバーが表示されるので、数値出力217も表示される。数値出力217の「Y」軸位置204は、感度しきい値線203が、数値による不良予測が書き込まれているボックス217の中心に移動された場合に得られる不良数の予想である。従って、ユーザが、しきい値感度線203を、165個の不良を示している現在のボックス218の中心から、375個の不良を示している次の下のボックス217の中心の位置まで下げた場合は、ボックス217、218、216を参照することによって、オペレータは、感度しきい値線203を各ボックスの中心の近くに設定することにより生じる欠陥数を予測することができる。数値表示は、欠陥スケール212が変更されたとき或いは感度しきい値線203が変更されたときに素早く再計算される。
また、グラフィックユーザインタフェースの一部は、標本画像又は複数のサムネイル型画像を含む「サムネイル」ビデオ画像ボックス208である。これは、グラフィック表示200等のグラフィック表示の一部と考えることもできる。標本画像207は、棒グラフ200のバー202の内の1つに対応する検査結果の画像である。ユーザが、バー215によって表わされる実際の画像を見たい場合、ユーザは、バー215をクリックすることができ、これに対応する画像が、画像207としてボックス208内に表示される。従って、オペレータは、バー202のどれかをクリック又は選択して、バーで表わされた特定の画像を表示させることができる。また、バー202のどれかをクリックしたままにするとき、これは、画像又はデータ等の追加情報、関係情報、又は相互関連情報を表示するトリガとして働く。例えば、特定の部品に関する更なる詳細及びその部品に対応する他の所望の直接関連する情報を含むダイアログボックスがポップアップする。このダイアログボックスは、例えば、検査中に見つかった実際の数値を示し、それがどの本体部作成装置によるものかを関連付けることができる。それは、機械部品、金型、取り付け具、又はプロセスに影響を与えるプロセス要素に関連してもよく、関心のある過去のデータの一部に関連してもよい。さらに、情報を整理し保存するソフトウェアを作成する場合に、詳しい時刻、形成に必要な圧力、更には部品シリアル番号を詳述することができる。更に他の例として、追加の選択データは、温度情報、色情報、製造パス情報、質量情報、測定情報、識別情報、バッチ情報、他の圧力情報、機械設定情報、及び保守履歴情報の内の少なくとも1つを含む。画像をスクロールする代替の方法は、様々な画像を連続的に表示し、同時にその画像に対応するグラフバー202を強調表示する次(next)ボタン210と前(previous)ボタン209を使用することである。ボックス208内に標本画像207として表示された各画像ごとに、ビデオサムネイルボックス218’内にアンラップされた関心領域ストライプ(ROI)が現われる。ビデオサムネイルアンラップ部分218は、プルダウンメニュー219においてシングル部分モード又はマルチ部分見直しモードに設定されたときに極めて有用である。また、これは、最終100部品モード又は最終「N」モードにおいて、本発明の多くの利点による分析を理解しやすくするのに役立つ。
過去の検査によって将来の検査結果をより正確に予測するために、オペレータは、プルダウンメニュー219から最終「N」個部品の選択肢を選択することができる。典型的な缶産業用途では、「N」を少なくとも10,000部品に設定することが望ましい。これは、システムを設定するには大きい母集団のように見えるが、速度がきわめて早いため、これは、実際の生産の約3〜6分に過ぎない。
図3の表示は例示であるが、この表示は、異なる特性を有する選択された混合データを(例えば、分割スクリーンで)視覚化できるように変更されてもよい。あるタイプのデータは、生産によって得られる標本に基づくものであり、別のタイプのデータは、欠陥部品の標本抽出に基づくものである。いかなる場合も、視覚化は、少なくとも一形態において、ユーザに特に有用な用語(term)で表現される。これに関して、例えば、視覚化は、寸法、質量、割合、金銭的影響、測定、視覚的属性、又は部品の数の用語で表現される。
これらのパラメータは例示であるが、ソフトウェアは、より多くの関連データがそれぞれ個々の標本のレコードに結合されたより大きな過去の見直し用標本セットを支援するように作成されることが考えられる。当然ながら、特定の用途にはもっと少ない標本セットが望ましいことがある。
システムの重要な利益は、間違いなく、多すぎる破棄と不合格の品質レベルの間で適切な妥協を実現する設定を容易にする高速見直しを行う機能である。このグラフィックユーザインタフェース(一形態において表示装置上の単一の視覚化画面を含む)の機能を利用することによって、初心者ユーザでも、システムの設定において、従来から使用可能な設定方式を利用する他のシステムのもっと有能な習熟したユーザよりも早く熟練することができる。更に、必要であれば、マシンビジョンシステムの調整を実質的に同時に実現することができる。更に、本発明は、複数のチャネルが使用される場合或いはシステムの複数のノード又はステーションが実施される場合に実施できる。
更に本発明のシステム及び方法をさらに詳しく説明するために、図4と図5を参照する。図4と図5に示した方法が、例えばマシンビジョン物品検査環境における本発明の実施様相の一例に過ぎないことを理解されたい。本明細書で述べるように、他の実施様相も実現できることを理解されたい。更に、これらの方法を様々な方式で実施できることを理解されたい。例えば、方法は、マシンビジョンシステムのコントローラやプロセッサ等の制御システム内に適切に記憶されアクセスされるソフトウェアルーチン又はモジュールに組み込まれる。ソフトウェアは、適切な読み出し専用メモリ等に常駐してもよく、システムおよびその構成要素全体にわたって適切に分散されてもよい。本発明が使用される環境において、様々なソフトウェア技術及び対応するハードウェア構成を使用することができる。これらは、本出願を読むことにより当業者に明らかになるであろう。
次に図4を参照すると、本発明の実施様相を支援する検査プロセスが示される。図示したように、検査プロセスは、当該技術分野で既知のように開始される(400)。次に、画像データが、画像検査(405)から取得される(401)。画像は、既知のように、検査する部品に関するものである。これは、カメラや他の適切な検出装置を使用して実現されることがある。領域103(図2)等の部品の関心領域が識別される(402)。場合によっては、当業者に明らかな理由のために、関心領域は、画像の一部分であるが、画像全体でもよい。関心領域の探し出しは、マシンビジョン検査の技術分野において周知の技術によって実現される。次に、永続型バッファに関心領域のデータの要求が出される(403)。永続型バッファは、様々な形態をとることができるが、一形態において、停電やシステム障害などに耐えるバッファである。これに関して、永続型バッファは、不揮発性メモリモジュールの形をとることがある。この点で永続型データマネージャが使用される(406)。永続型データバッファは、適切に永続型バッファを探し出し利用可能にする。また、中のデータを管理するように動作することができる。永続型データバッファが利用可能な場合は、それが使用される(407)。永続型データバッファが利用可能でない場合、非持続ローカルバッファが使用される(404)。いずれの場合も、関心領域データが、選択されたバッファにロードされる(408)。
次に、関心領域内の欠陥を検出する基準を選択する(409)。この場合も、このプロセスは、マシンビジョン分野において周知である。そのような基準は、図示したように記憶され、アクセスすることができる(427)。次に、一般に、この基準に従ってアルゴリズムが実行され欠陥が検出される(410)。このアルゴリズム又はルーチンは、マシンビジョン又はプロセス制御分野において典型的な方式で検査中の部品に対して実行される。1つのマシンビジョン用途において、アルゴリズム又はルーチンは、欠陥のある部品を識別するために実行される。特に、結果は適切な記憶装置に記憶される(412)。以下の説明から明らかなように、この記憶装置は、本明細書において意図されたグラフィックユーザインタフェースを実施する際にアクセスされる。検査(又は監視)プロセスの結果を表わす画像及び非画像データを含むデータの記憶は、本質的に、データ記憶用ハードウェア及びソフトウェアについての現状の実際的な制限の結果として選択的に行われることは理解されよう。従って、全てのデータが記憶される場合もあれば、標本抽出したデータ又は削減したデータだけを記憶することが望ましい場合もある。これに関して、時間ベースの標本抽出、カウントベースの標本抽出、周期的標本抽出、イベントベースの標本抽出、標本抽出計画理論ベースの標本抽出、シフトベースの標本抽出、ランダムベースの標本抽出、アルゴリズムベースの標本抽出、ミリタリベースの標本抽出、周波数ベースの標本抽出、パーセントベースの標本抽出、場所ベースの標本抽出、ステーションベースの標本抽出、及び製造パスベースの標本抽出の内の少なくとも1つを使用することができる。前述のように、SPCを使用してもよい。前述のように、データセットを削減することは、画像の関心領域だけを記憶するか画像の一部を記憶することを意味する。また、当然ながら、データの記憶に対応するために、従来のマシンビジョンシステムと比較して、補足的なデータ記憶技術及びハードウェアが実装されてもよいことを理解されたい。そのような線に沿って、例えば、固体デジタルメモリ、回転メモリ、光メモリ、又は他のコンピュータ記憶装置が使用される。次に、最後の基準が使用されたかどうかが判定される(411)。最後の基準を使用した場合は、関心領域が不良基準に適合するかどうかが判定される(413)。不良基準に適合する場合は、関心領域(例えば、部品)は不良と判定される(415)。次に、関心領域が、検査する最後の関心領域かどうかが判定される(428)。最後の関心領域でない場合は、新しい関心領域を探し(402)、処理ステップが繰り返される。最後の関心領域を検査し終わった場合は、最後の部品が検査されたかどうかが判断される(429)。最後の部品の検査が行われていない場合は、別の画像を取得し(401)、ステップが繰り返される。プロセスの最後の部品が検査し終わった場合、検査は終了する(414)。
部品の所定のバッチに対して検査プロセスが実行されるとき、関心領域の検査結果に関するデータが前述のように記憶されることを理解されよう。当然ながら、これは、記憶された関心領域データと合致する。検査してデータを得るプロセスを完了するのに要する時間は変化することが理解されよう。使用される時間期間は、ユーザの目的、プロセスの効率などに依存する。
次に図5を参照することにより、関心領域の検査結果の使い方が明らかになる。これに関して、本発明による視覚化プロセスが開始される(416)。次に、関心領域データがロードされる(417)。これに関して、永続型データマネージャが使用される(406)。例えば、前述のように、データマネージャは、検査中にデータが記憶された記憶場所から関連データを取り出す。次に、視覚化しかつ/又は修正する基準が選択される(418)。そのような基準は、本明細書で考察されているような様々な形をとることができる。例えば、基準は、グレースケール特性及び/又は欠陥の大きさである。マシンビジョン又はプロセス制御分野で使用される任意の基準又は他の基準で十分である。この場合も、それらの基準は記憶される(427)。次に、基準を満たすデータを示す統計値が計算される(419)。これは、実際に部品をシステムに戻すことなく、前に検査した部品の画像を再検査することになる。これを達成するルーチンは、当技術分野で周知のルーチンである。前述のように、部品に関する前の検査の生データが記憶されているので、部品を「再検査」することができる。データは単純に再分析され、結果が、選択された基準又は設定の変化に関して再計算される。当然ながら、この計算は、基準の感度要素と関係なく行われてもよく、様々な周知の方式で行われてもよい。計算した統計値のグラフィック表現が提示される(420)。これは、感度を検討するデータの再計算を含むことがある。419と420のステップは、図示したような別のステップとして実施されてもよく、再計算及び視覚化の一ステップとして実施されてもよいことを理解されたい。例えばグラフィック表示上のしきい値線を調整することによって、ユーザが感度を修正しているかどうかが判定される(421)。感度を修正している場合、グラフィック表現はそのように修正される(420)。当然ながら、データの再計算と再視覚化が行われる。修正が必要ない場合、別のパラメータを修正するかどうかが判定される(422)。別のパラメータを修正する場合は、そのパラメータを使用して統計値を再計算し(419)、ステップが繰り返される。パラメータを修正したくない場合は、視覚化又は修正のために別の基準を選択すべきかどうかが判定される(423)。そのような場合は、別の基準が選択され(418)、ステップが繰り返される。そうでない場合は、別のデータセットを視覚化するかどうかが判定される(430)。別のデータセットを視覚化する場合、追加の関心領域データがロードされ(417)、ステップが繰り返される。しかしながら、他のデータセットを望まない場合は、検査プロセスで使用される基準に変更を加えるべきかどかが判定される(424)。変更を加えない場合、視覚化プロセスは終了する(425)。しかしながら、検査基準に変更を行うように判定された場合は、そのような変更が行なわれる(426)。当然ながら、そのような基準データは更新される(427)。
図4と図5のフローチャートとこの開示から、本明細書で考察するグラフィックユーザインタフェースのユーザは、このプロセスを使用する際に柔軟性を有することは明らかである。例えば、ユーザが、前述のようにシステムによって作成された視覚化を見てそれを修正することができた後で、ユーザは、視覚化と基礎データを評価し更なる視覚化(及び、結果的に更なる再計算と再分析)を行うために更に調整を行うか、或いは視覚化に対して行った調整に基づく検査又は監視システムに対する変更を行うことができる。一形態において、システムは、検査又は監視システムに行われる可能性のある中間ステップと任意の変更についての最終的な承認を必要とする場合がある。任意のそのような最終的な承認は、セキュリティーで可能とされるか又は保護される。基礎的な検査又は監視システムに対する変更を行うのに必要な技術は、当業者に明らかであろう。
以上の具体化は、本発明を実施することができる1つの方法を詳述する。自動検査及びグラフィックユーザインタフェースの技術分野の当業者であれば、開示した教示を、自動検査又は自動プロセス監視システムの様々な形態及び用途を含む広い範囲を対象として含む多数の様々な方法で適用することができるであろう。
以上の説明は、単に本発明の特定の実施形態の開示を提供するだけのものであり、本発明をそれらに限定するものではない。従って、本発明は前述の実施形態だけに限定されない。より正確に言うと、当業者であれば、本発明の範囲内にある代替の実施形態を想起することができることを理解されたい。
部品群を示すグラフである。 検査した部品の画像のグラフィック表示である。 本発明によるグラフィックユーザインタフェースの実施例である。 本発明による方法を表わすフローチャートである。 本発明による方法を表わすフローチャートである。
符号の説明
200:棒グラフ、202:バー、203:感度しきい値線、204:Y軸、206:時間、207:標本画像。

Claims (39)

  1. 検査又は監視システムのためのグラフィックユーザインタフェースであって、
    検査又は監視プロセスの結果についての選択された過去のデータの視覚化を提供するように動作すると共に、該選択された過去のデータが貯蔵装置に貯蔵され、前記検査又は監視プロセス中に得られたセンサーデータ、視覚化データ又は非視覚化データを含み、かつ、前記視覚化は、選択された過去のデータ標本群を表わす棒グラフで表わされ、それぞれの棒グラフのバーの高さは、それぞれの標本について計算された悪さ又は良さを示す指標値であるグラフィックディスプレイ装置と、
    少なくとも1つの制御又はしきい値設定を有する検査又は監視プロセスの調整装置とを含み、前記設定を調整した場合、その調整は、グラフィックディスプレイ上の図式的なしきい値線の操作と、前記選択された過去のデータの画像の再検査をトリガする操作とを含み、前記選択された過去のデータ内の画像の再検査をトリガすると共に、前記設定の調整を反映して、検査又は監視プロセスの異なる結果を示すように結果の視覚化が変更されるグラフィックユーザインタフェース。
  2. 記調整は、グラフィックディスプレイ上の図形要素の操作を含む、請求項1に記載のグラフィックユーザインタフェース。
  3. 視覚化は、ポインタ又はグラフィックアクチュエータの操作に応じての追加の選択された画像又はデータの表示をトリガするように動作する、請求項1に記載のグラフィックユーザインタフェース。
  4. 追加の選択されたデータは、時間、温度情報、色情報、製造パス情報、質量情報、測定情報、識別情報、バッチ情報、圧力情報、機械設定情報、及び保守履歴情報の内の少なくとも1つを含む、請求項に記載のグラフィックユーザインタフェース。
  5. 操作は、標本に関連する少なくとも1つの画像を表示するために棒グラフのバー要素を選択することを含む、請求項に記載のグラフィックユーザインタフェース。
  6. 視覚化は、図形要素を指し示すか選択することにより選択された過去のデータのサブセット又はスーパーセットを表示するように動作する、請求項1に記載のグラフィックユーザインタフェース。
  7. 選択された過去のデータは、検査又は監視プロセスの間に得られた画像群を表わし、グラフィックユーザインタフェースが、選択された画像群についての検査結果を同時に見ながらのマシンビジョン検査パラメータの調整を容易にする、請求項1に記載のグラフィックユーザインタフェース。
  8. 視覚化は、表示装置上の単一の視覚化画面である、請求項に記載のグラフィックユーザインタフェース。
  9. 調整は、スライダ、マウスクリック、つまみ、又はタッチスクリーンの使用を含む、請求項1に記載のグラフィックユーザインタフェース。
  10. 視覚化の変更は、しきい値の調整を考慮するために対応する検査又はプロセス監視イベントのそれぞれについての再検査を含み、更に再検査はその後の視覚化で示される、請求項1に記載のグラフィックユーザインタフェース。
  11. 再検査は、センサーデータ及び非視覚化データならびに画像データの再検査の少なくとも1つを含む、請求項10に記載のグラフィックユーザインタフェース。
  12. 検査又は監視プロセスは、工業用オンラインプロセスである、請求項1に記載のグラフィックユーザインタフェース。
  13. 過去のデータの視覚化は、監視中の測定した製品又はプロセスパラメータに関する関連指標の視覚化である、請求項12に記載のグラフィックユーザインタフェース。
  14. 視覚化は、更に、少なくとも1つの選択された管理限界設定値を視覚化することを含む、請求項13に記載のグラフィックユーザインタフェース。
  15. 視覚化は、更に、複数の選択された管理限界設定値を同時に視覚化することを含む、請求項13に記載のグラフィックユーザインタフェース。
  16. 過去のデータの視覚化は、それぞれの過去の標本に関連する又は相互に関連する情報の視覚化である、請求項13に記載のグラフィックユーザインタフェース。
  17. 相互関連情報は、プロセスを達成するプロセス制御機械部品、型、取付具又はプロセス要素の少なくとも1つを含む、請求項16に記載のグラフィックユーザインタフェース。
  18. 再検査は、グラフィックユーザインタフェース上における少なくとも1つの設定変更に基づく即時の再検査を含む、請求項11に記載のグラフィックユーザインタフェース。
  19. 過去のデータは、固体デジタルメモリ、回転メモリ、光メモリ、又は他のコンピュータ記憶媒体の少なくとも1つに記憶された保存データを含む、請求項1に記載のグラフィックユーザインタフェース。
  20. 過去のデータは、視覚化によって示された測定済み製品又はプロセスパラメータの指標値に関する画像を含む、請求項19に記載のグラフィックユーザインタフェース。
  21. 過去のデータは、視覚化によって示された測定済み製品又はプロセスパラメータの指標値に関する非画像形態の生のセンサーデータを含む、請求項19に記載のグラフィックユーザインタフェース。
  22. 図形視覚化によって容易にされた変更が、オンライン検査又はプロセス監視システムの変更を引き起こす、請求項12に記載のグラフィックユーザインタフェース。
  23. オンライン検査又はプロセス監視システムは、複数のチャネルを含む、請求項22に記載のグラフィックユーザインタフェース。
  24. 複数のチャネルは、接続された独立した検査又はプロセス監視ステーション又はノードを含む、請求項23に記載のグラフィックユーザインタフェース。
  25. 図形視覚化は、1)評価、2)更なる調整、又は3)検査又はプロセス監視システムの変更の実行の内の少なくとも1つに使用される、請求項12に記載のグラフィックユーザインタフェース。
  26. 変更の実行を受け入れるために更なるに操作が行われる、請求項25に記載のグラフィックユーザインタフェース。
  27. 検査又はプロセス監視システムにおける変更の最終的な承認は機密保護されている、請求項26に記載のグラフィックユーザインタフェース。
  28. 棒グラフは、選択された特徴を表す色のバー要素又は、バー要素に関する情報の表示を含む、請求項に記載のグラフィックユーザインタフェース。
  29. 選択された過去のデータは、検査又は監視している部品又はイベントに対応する所定の標本抽出のデータを表わす、請求項1に記載のグラフィックユーザインタフェース。
  30. 所定の標本抽出は、時間ベースの標本抽出、カウントベースの標本抽出、周期的標本抽出、イベントベースの標本抽出、標本抽出計画理論ベースの標本抽出、シフトベースの標本抽出、ランダムベースの標本抽出、アルゴリズムベースの標本抽出、ミリタリベースの標本抽出、周波数ベースの標本抽出、パーセントベースの標本抽出、場所ベースの標本抽出、ステーションベースの標本抽出、及び製造パスベースの標本抽出の内の少なくとも1つを含む、請求項29に記載のグラフィックユーザインタフェース。
  31. 視覚化は、生産からの選択された混合標本を示し、この生産からの選択された混合標本は、第1のタイプの選択された標本の少なくとも第2のタイプの選択された標本との比較を表す、請求項1に記載のグラフィックユーザインタフェース。
  32. 第1のタイプは、特定の特徴を有する標本を含む、請求項31に記載のグラフィックユーザインタフェース。
  33. 第2のタイプは、時間ベースの標本抽出、カウントベースの標本抽出、周期的な標本抽出、イベントベースの標本抽出、標本抽出計画理論ベースの標本抽出、シフトベースの標本抽出、ランダムベースの標本抽出、アルゴリズムベースの標本抽出、ミリタリベースの標本抽出、周波数ベースの標本抽出、パーセントベースの標本抽出、場所ベースの標本抽出、ステーションベースの標本抽出、及び製造パスベースの標本抽出の内の少なくとも1つを使用して得られる標本を含む、請求項31に記載のグラフィックユーザインタフェース。
  34. 第2のタイプは、所定の特徴を有する標本を含む、請求項31に記載のグラフィックユーザインタフェース。
  35. 視覚化結果は、ユーザにとって特に有用な用語で表現される、請求項1に記載のグラフィックユーザインタフェース。
  36. 用語は、寸法、質量、パーセント、金銭的影響、測定、視覚的属性、及び部品の数の内の少なくとも1つとして定義される、請求項35に記載のグラフィックユーザインタフェース。
  37. グラフィックユーザインタフェースであって、
    検査又は監視プロセスの結果についての選択された過去のデータの視覚化を提供するように動作すると共に、該選択された過去のデータが貯蔵装置に貯蔵され、前記検査又は監視プロセス中に得られたセンサーデータ、視覚化データ又は非視覚化データを含み、かつ、前記視覚化は、選択された過去のデータ標本群を表わす棒グラフで表わされ、それぞれの棒グラフのバーの高さは、それぞれの標本について計算された悪さ又は良さを示す指標値であるグラフィックディスプレイと、
    少なくとも1つの制御又はしきい値設定を有する検査又は監視プロセスの調整装置とを含み、前記設定を調整した場合、前記調整装置の調整は、グラフィックディスプレイ上の図形上のしきい値線の操作と、前記選択された過去のデータの画像の再検査をトリガする操作とを含み、前記選択された過去のデータ内の画像の再検査をトリガすると共に、前記設定の調整を反映して、検査又は監視プロセスの異なる結果を示すように結果の視覚化が変更され、かつ検査又は監視システムのパラメータを選択的に変化させるグラフィックユーザインタフェース。
  38. 少なくとも1つのしきい値設定は、感度レベル及び欠陥スケールを含む、請求項1に記載のグラフィックユーザインタフェース。
  39. 検査又は監視プロセスの結果を視覚化するためにグラフィックユーザインタフェースに過去のデータを表示し、該過去のデータは、貯蔵装置に貯蔵され、前記検査又は監視プロセス中に得られたセンサーデータ、視覚化データ又は非視覚化データを含み、かつ、前記視覚化は、選択された過去のデータ標本群を表わす棒グラフで表わされ、それぞれの棒グラフのバーの高さは、それぞれの標本について計算された悪さ又は良さを示す指標値であること、及び
    前記プロセスの少なくとも1つのしきい値設定の調整によってトリガされると共に、前記調整は、グラフィックディスプレイ上の図式的なしきい値線の操作と、前記選択された過去のデータの画像の再検査をトリガする操作とを含み、該プロセスの少なくとも1つのしきい値設定の調整を反映して、検査又は監視プロセスの異なる結果を示すように視覚化を変更することを含む方法。
JP2007527462A 2004-05-21 2005-05-20 グラフィック再検査ユーザ設定インタフェース Active JP5254612B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US57349604P 2004-05-21 2004-05-21
US60/573,496 2004-05-21
PCT/US2005/017672 WO2005114422A2 (en) 2004-05-21 2005-05-20 Graphical re-inspection user setup interface

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012253410A Division JP2013101622A (ja) 2004-05-21 2012-11-19 グラフィック再検査ユーザ設定インタフェース

Publications (2)

Publication Number Publication Date
JP2008509502A JP2008509502A (ja) 2008-03-27
JP5254612B2 true JP5254612B2 (ja) 2013-08-07

Family

ID=35429030

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2007527462A Active JP5254612B2 (ja) 2004-05-21 2005-05-20 グラフィック再検査ユーザ設定インタフェース
JP2012253410A Pending JP2013101622A (ja) 2004-05-21 2012-11-19 グラフィック再検査ユーザ設定インタフェース

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2012253410A Pending JP2013101622A (ja) 2004-05-21 2012-11-19 グラフィック再検査ユーザ設定インタフェース

Country Status (8)

Country Link
US (1) US10074057B2 (ja)
EP (1) EP1763756A4 (ja)
JP (2) JP5254612B2 (ja)
CN (2) CN104392292B (ja)
BR (1) BRPI0511299A (ja)
CA (1) CA2567280A1 (ja)
MX (1) MXPA06013286A (ja)
WO (1) WO2005114422A2 (ja)

Families Citing this family (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4232113B2 (ja) * 2006-02-17 2009-03-04 ソニー株式会社 データ処理装置およびデータ処理方法、並びにプログラム
US10410161B2 (en) * 2007-06-14 2019-09-10 The Boeing Company Method and apparatus for a receiving, inspection, and supplier quality system
GB2471886A (en) 2009-07-16 2011-01-19 Buhler Sortex Ltd Inspection apparatus
GB2471885A (en) 2009-07-16 2011-01-19 Buhler Sortex Ltd Sorting apparatus
US8830454B2 (en) 2010-04-15 2014-09-09 Kla-Tencor Corporation Apparatus and methods for setting up optical inspection parameters
GB2481804A (en) 2010-07-05 2012-01-11 Buhler Sortex Ltd Dual sensitivity browser for optical sorting machines
US9041716B2 (en) * 2012-02-24 2015-05-26 General Electric Company Multivalue bar graph displays and methods of implementing same
CN103376184B (zh) * 2012-04-24 2016-11-23 上海北玻镀膜技术工业有限公司 一种基于真空环境下的趋势图监控系统及其应用方法
WO2013169865A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for moving a user interface object based on an intensity of a press input
DE112013002387T5 (de) 2012-05-09 2015-02-12 Apple Inc. Vorrichtung, Verfahren und grafische Benutzeroberfläche für die Bereitstellung taktiler Rückkopplung für Operationen in einer Benutzerschnittstelle
CN104487928B (zh) 2012-05-09 2018-07-06 苹果公司 用于响应于手势而在显示状态之间进行过渡的设备、方法和图形用户界面
WO2013169849A2 (en) 2012-05-09 2013-11-14 Industries Llc Yknots Device, method, and graphical user interface for displaying user interface objects corresponding to an application
WO2013169843A1 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for manipulating framed graphical objects
EP3264252B1 (en) 2012-05-09 2019-11-27 Apple Inc. Device, method, and graphical user interface for performing an operation in accordance with a selected mode of operation
WO2013169842A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for selecting object within a group of objects
CN109298789B (zh) 2012-05-09 2021-12-31 苹果公司 用于针对激活状态提供反馈的设备、方法和图形用户界面
EP3410287B1 (en) 2012-05-09 2022-08-17 Apple Inc. Device, method, and graphical user interface for selecting user interface objects
WO2013169851A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for facilitating user interaction with controls in a user interface
EP2847657B1 (en) 2012-05-09 2016-08-10 Apple Inc. Device, method, and graphical user interface for displaying additional information in response to a user contact
WO2014105275A1 (en) 2012-12-29 2014-07-03 Yknots Industries Llc Device, method, and graphical user interface for forgoing generation of tactile output for a multi-contact gesture
WO2014105277A2 (en) 2012-12-29 2014-07-03 Yknots Industries Llc Device, method, and graphical user interface for moving a cursor according to a change in an appearance of a control icon with simulated three-dimensional characteristics
EP3564806B1 (en) 2012-12-29 2024-02-21 Apple Inc. Device, method and graphical user interface for determining whether to scroll or select contents
USD766976S1 (en) * 2014-08-18 2016-09-20 Rockwell Collins, Inc. Display panel with icon
US9645732B2 (en) 2015-03-08 2017-05-09 Apple Inc. Devices, methods, and graphical user interfaces for displaying and using menus
US10048757B2 (en) 2015-03-08 2018-08-14 Apple Inc. Devices and methods for controlling media presentation
US10095396B2 (en) 2015-03-08 2018-10-09 Apple Inc. Devices, methods, and graphical user interfaces for interacting with a control object while dragging another object
US9632664B2 (en) 2015-03-08 2017-04-25 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US9639184B2 (en) 2015-03-19 2017-05-02 Apple Inc. Touch input cursor manipulation
US20170045981A1 (en) 2015-08-10 2017-02-16 Apple Inc. Devices and Methods for Processing Touch Inputs Based on Their Intensities
US10200598B2 (en) 2015-06-07 2019-02-05 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9860451B2 (en) 2015-06-07 2018-01-02 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9830048B2 (en) 2015-06-07 2017-11-28 Apple Inc. Devices and methods for processing touch inputs with instructions in a web page
US9891811B2 (en) 2015-06-07 2018-02-13 Apple Inc. Devices and methods for navigating between user interfaces
US10346030B2 (en) 2015-06-07 2019-07-09 Apple Inc. Devices and methods for navigating between user interfaces
US9880735B2 (en) 2015-08-10 2018-01-30 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10235035B2 (en) 2015-08-10 2019-03-19 Apple Inc. Devices, methods, and graphical user interfaces for content navigation and manipulation
US10416800B2 (en) 2015-08-10 2019-09-17 Apple Inc. Devices, methods, and graphical user interfaces for adjusting user interface objects
US10248308B2 (en) 2015-08-10 2019-04-02 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interfaces with physical gestures
US10223645B2 (en) * 2015-10-06 2019-03-05 International Business Machines Corporation Trading goods based on image processing for interest, emotion and affinity detection
US11366068B2 (en) * 2016-11-14 2022-06-21 Koh Young Technology Inc. Inspection apparatus and operating method thereof
KR20180054063A (ko) * 2016-11-14 2018-05-24 주식회사 고영테크놀러지 검사체에 대한 양부 판정 조건을 조정하는 방법 및 장치
AU2016277672A1 (en) * 2016-12-22 2018-07-12 Canon Kabushiki Kaisha Method of selecting an ordered image subset for structure assessment
CN106682432A (zh) * 2016-12-30 2017-05-17 深圳金域医学检验所有限公司 一种定量检测智能化审核用动态监控系统和方法
US11003911B2 (en) * 2017-02-28 2021-05-11 Nec Corporation Inspection assistance device, inspection assistance method, and recording medium
US10963894B2 (en) * 2017-04-11 2021-03-30 Siemens Product Lifecycle Management Software Inc. Facilitating an error analysis of a product deficiency system and method
US20180307384A1 (en) * 2017-04-24 2018-10-25 Cisco Technology, Inc. Workflow policy interface
US10958407B2 (en) * 2017-06-09 2021-03-23 Qualcomm Incorporated Frequency division duplexing hybrid automatic repeat request with mini-slots
JP6895411B2 (ja) * 2018-06-27 2021-06-30 株式会社人総研 視覚アプローチ適性検査方法
JP7181033B2 (ja) * 2018-09-20 2022-11-30 株式会社Screenホールディングス データ処理方法、データ処理装置、および、データ処理プログラム
TWI682318B (zh) * 2018-12-05 2020-01-11 英業達股份有限公司 依據特徵區域判斷監測區域以進行監控之系統及方法
CN113096076B (zh) * 2021-03-26 2024-05-17 北京国尚信科技有限公司 一种基于机器视觉的西林瓶计数对数系统及方法

Family Cites Families (189)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3309553A (en) 1963-08-16 1967-03-14 Varian Associates Solid state radiation emitters
US4502121A (en) * 1971-02-02 1985-02-26 Schlumberger Technology Corporation Machine method for determining the presence and location of hydrocarbon deposits within a subsurface earth formation
US4163238A (en) 1978-06-09 1979-07-31 The United States Of America As Represented By The Secretary Of The Army Infrared semiconductor device with superlattice region
US4374459A (en) * 1980-03-25 1983-02-22 Compair, Inc. Classification instrument
US4467350A (en) * 1980-11-07 1984-08-21 Owens-Illinois, Inc. Method and apparatus for rapidly extracting significant data from a sparse object
US4378495A (en) * 1980-11-07 1983-03-29 Owens-Illinois, Inc. Method and apparatus for setup of inspection devices for glass bottles
US4378494A (en) * 1980-11-07 1983-03-29 Owens-Illinois, Inc. Apparatus and method for detecting defects in glass bottles using event proximity
US4421978A (en) 1981-08-20 1983-12-20 International Business Machines Corporation Decoding method for multicharacter labels
US4527241A (en) * 1982-08-30 1985-07-02 Sperry Corporation Automatic combine harvester adjustment system
US4607705A (en) * 1983-12-27 1986-08-26 Tebben John A Row crop cultivator including disk and setting indicator therefor
US4650005A (en) * 1983-12-27 1987-03-17 Tebben John A Row crop cultivator with setting indicator
US4553853A (en) 1984-02-27 1985-11-19 International Business Machines Corporation End point detector for a tin lead evaporator
US4567670A (en) * 1984-07-16 1986-02-04 Roulstone James E Guage and method for measuring tapered internal and external threads
US4841318A (en) * 1984-11-14 1989-06-20 Minolta Camera Kabushiki Kaisha Camera system with mode selecting device
US4689810A (en) * 1985-02-15 1987-08-25 General Electric Company Composite rotary anode for X-ray tube and process for preparing the composite
IT1202165B (it) * 1985-07-10 1989-02-02 Cima Costruzioni Italiane Macc Metodo per il cambio automatico dell'attrezzo porta-pezzo in macchine dentatrici a creatore e mezzi per l'attuazione di tale metodo
US4754200A (en) * 1985-09-09 1988-06-28 Applied Materials, Inc. Systems and methods for ion source control in ion implanters
US4788569A (en) 1986-05-07 1988-11-29 Canon Kabushiki Kaisha Display device for use in a photographic camera
NL8601844A (nl) * 1986-07-15 1988-02-01 Philips Nv Demodulatorschakeling.
GB2193125B (en) * 1986-08-01 1990-07-18 Rolls Royce Plc Gas turbine engine rotor assembly
US4848159A (en) * 1987-05-22 1989-07-18 The Boeing Company Ultrasonic inspection probe for laminated structures
US4868750A (en) * 1987-10-07 1989-09-19 Houghton Mifflin Company Collocational grammar system
EP0314622B1 (de) * 1987-10-29 1992-12-16 Bernd Wengmann Sport- oder Spielplatzfläche
US4829380A (en) * 1987-12-09 1989-05-09 General Motors Corporation Video processor
US4988540A (en) * 1988-05-25 1991-01-29 E. I. Du Pont De Nemours And Company Method of making fluoropolymer laminates
US4877683A (en) * 1988-05-25 1989-10-31 E. I. Du Pont De Nemours And Company Fluoropolymer laminates
US5205178A (en) * 1988-05-28 1993-04-27 Bruker-Franzen Analytik Gmbh Method for non-intrusive continuous and automatic taking of samples, storing and supplying of samples and data for a possible evaluation
DE3818210C1 (ja) * 1988-05-28 1989-11-23 Bundesrepublik Deutschland, Vertreten Durch Den Bundesminister Der Verteidigung, Dieser Vertreten Durch Den Praesidenten Des Bundesamtes Fuer Wehrtechnik Und Beschaffung, 5400 Koblenz, De
US5086385A (en) * 1989-01-31 1992-02-04 Custom Command Systems Expandable home automation system
US4963036A (en) * 1989-03-22 1990-10-16 Westinghouse Electric Corp. Vision system with adjustment for variations in imaged surface reflectivity
WO1991010881A1 (en) * 1990-01-11 1991-07-25 Kabushiki Kaisha Toshiba Apparatus for supporting inspection of plant
US5270764A (en) 1990-02-20 1993-12-14 Canon Kabushiki Kaisha Remote controlled camera system providing indication of flash capability
US5113869A (en) * 1990-08-21 1992-05-19 Telectronics Pacing Systems, Inc. Implantable ambulatory electrocardiogram monitor
JPH04169849A (ja) 1990-10-19 1992-06-17 Hitachi Ltd データ判別用しきい値設定方式
US5226118A (en) 1991-01-29 1993-07-06 Prometrix Corporation Data analysis system and method for industrial process control systems
US5166902A (en) 1991-03-18 1992-11-24 United Technologies Corporation SRAM memory cell
JPH0833293B2 (ja) * 1991-04-15 1996-03-29 松下電器産業株式会社 半田の形状検査方法
US5479259A (en) 1991-05-20 1995-12-26 Hitachi, Ltd. Method and apparatus for detecting photoacoustic signal
JP3208807B2 (ja) 1991-11-15 2001-09-17 株式会社日立製作所 電子デバイス検査システムおよび電子デバイスの製造方法
US5781294A (en) 1991-12-24 1998-07-14 Hitachi, Ltd. Method and apparatus for detecting photoacoustic signal to detect surface and subsurface information of the specimen
US5365292A (en) 1992-02-05 1994-11-15 Nikon Corporation Indicator device for camera
JP3487436B2 (ja) 1992-09-28 2004-01-19 ソニー株式会社 ビデオカメラシステム
US5353401A (en) * 1992-11-06 1994-10-04 Ricoh Company, Ltd. Automatic interface layout generator for database systems
US5815411A (en) * 1993-09-10 1998-09-29 Criticom Corporation Electro-optic vision system which exploits position and attitude
US5481712A (en) * 1993-04-06 1996-01-02 Cognex Corporation Method and apparatus for interactively generating a computer program for machine vision analysis of an object
US5454049A (en) * 1993-06-21 1995-09-26 Sony Electronics, Inc. Automatic threshold function for machine vision
JP2914847B2 (ja) 1993-07-09 1999-07-05 株式会社東芝 半導体レーザ装置
US6037936A (en) * 1993-09-10 2000-03-14 Criticom Corp. Computer vision system with a graphic user interface and remote camera control
JPH07191274A (ja) * 1993-12-27 1995-07-28 Canon Inc 画像表示装置
US5550763A (en) * 1994-05-02 1996-08-27 Michael; David J. Using cone shaped search models to locate ball bonds on wire bonded devices
US5581632A (en) 1994-05-02 1996-12-03 Cognex Corporation Method and apparatus for ball bond inspection system
US6061467A (en) * 1994-05-02 2000-05-09 Cognex Corporation Automated optical inspection apparatus using nearest neighbor interpolation
US5642158A (en) * 1994-05-02 1997-06-24 Cognex Corporation Method and apparatus to detect capillary indentations
US5602606A (en) * 1994-09-02 1997-02-11 Asahi Kogaku Kogyo Kabushiki Kaisha Frame masking mechanism
US5680305A (en) 1995-02-16 1997-10-21 Apgar, Iv; Mahlon System and method for evaluating real estate
US5781243A (en) * 1995-05-08 1998-07-14 Hughes Electronics Display optimization for night vision enhancement systems
US5676302A (en) 1995-06-02 1997-10-14 Cognex Corporation Method and apparatus for crescent boundary thresholding on wire-bonded leads
US6229515B1 (en) * 1995-06-15 2001-05-08 Kabushiki Kaisha Toshiba Liquid crystal display device and driving method therefor
US5659624A (en) * 1995-09-01 1997-08-19 Fazzari; Rodney J. High speed mass flow food sorting appartus for optically inspecting and sorting bulk food products
US5761064A (en) * 1995-10-06 1998-06-02 Advanced Micro Devices, Inc. Defect management system for productivity and yield improvement
US5940296A (en) * 1995-11-06 1999-08-17 Medar Inc. Method and system for interactively developing a graphical control-flow structure and associated application software for use in a machine vision system
US5742504A (en) * 1995-11-06 1998-04-21 Medar, Inc. Method and system for quickly developing application software for use in a machine vision system
US5796868A (en) * 1995-12-28 1998-08-18 Cognex Corporation Object edge point filtering system for machine vision
JPH09199551A (ja) * 1996-01-12 1997-07-31 Mitsubishi Electric Corp インライン検査用検査データ解析処理装置
EP0822439A4 (en) 1996-02-21 2007-01-31 Seiko Epson Corp MULTIFOCALE CONTACT LENS
US5831638A (en) 1996-03-08 1998-11-03 International Business Machines Corporation Graphics display system and method for providing internally timed time-varying properties of display attributes
US5987517A (en) 1996-03-27 1999-11-16 Microsoft Corporation System having a library of protocol independent reentrant network interface functions for providing common calling interface for communication and application protocols
US5978502A (en) * 1996-04-01 1999-11-02 Cognex Corporation Machine vision methods for determining characteristics of three-dimensional objects
US5781284A (en) * 1996-04-24 1998-07-14 Infante; David A. System for detecting impurities contained in a fluid medium
US5920483A (en) * 1996-06-06 1999-07-06 The Boeing Company Scaling machine media for thermal effects to improve machine accuracy
US6681145B1 (en) * 1996-06-06 2004-01-20 The Boeing Company Method for improving the accuracy of machines
US5909372A (en) * 1996-06-07 1999-06-01 Danfoss A/S User interface for programming a motor controller
US5884229A (en) * 1996-06-10 1999-03-16 Exxon Production Research Company Method for measuring lateral continuity at a specified subsurface location from seismic data
US5806080A (en) * 1996-06-14 1998-09-08 International Business Machines Corporation System and method for implemeting canvas objects on windowing computer systems
DE19624302A1 (de) * 1996-06-18 1998-01-02 Siemens Ag Aufdatverfahren
DE69732392T8 (de) * 1996-06-24 2006-04-27 Interuniversitair Microelectronica Centrum Vzw Vorrichtung und Verfahren zur Nassreinigung oder zum Ätzen eines flachen Substrats
US6522939B1 (en) 1996-07-01 2003-02-18 Robert D. Strauch Computer system for quality control correlation
GB2315450B (en) 1996-07-20 2000-10-11 Mckechnie Plastics Ltd Improved method and apparatus for shaping thermoplastic tubes
US6008945A (en) 1996-09-19 1999-12-28 Fergason; James L. Display system using conjugate optics and accommodation features and method of displaying and viewing an image
FR2754367B1 (fr) * 1996-10-09 1999-01-22 Bull Sa Procede d'analyse de structures complexes et systeme permettant de mettre en oeuvre un tel procede
US5963918A (en) 1996-10-29 1999-10-05 Morgan Construction Company System and method of optimizing rolling mill roll inventory
US5728168A (en) * 1996-10-29 1998-03-17 Alps South Corporation Elastomer reinforcement of an elastomer interface membr for residual limb of an amputee
US6064759A (en) * 1996-11-08 2000-05-16 Buckley; B. Shawn Computer aided inspection machine
US5841434A (en) 1996-11-19 1998-11-24 International Business Machines Corporation System and method for multi-platform implementation of objects on windowing computer systems
US6012088A (en) * 1996-12-10 2000-01-04 International Business Machines Corporation Automatic configuration for internet access device
CN1060908C (zh) 1997-02-18 2001-01-17 北京侨讯科技有限公司 移动通信基站集中监控系统及该系统监控方法
US6123605A (en) * 1997-02-20 2000-09-26 Koyo Machine Industries Company Ltd. Dressing device for centerless grinding machine and dressing method for centerless grinding machine
US5936553A (en) * 1997-02-28 1999-08-10 Garmin Corporation Navigation device and method for displaying navigation information in a visual perspective view
GB2324892B (en) * 1997-03-14 1999-12-01 Interactuality Limited Process monitoring system
US5949685A (en) * 1997-06-03 1999-09-07 The Boeing Company Real-time orientation of machine media to improve machine accuracy
EP0991986B8 (de) * 1997-06-23 2004-08-04 Micro-Epsilon Messtechnik GmbH & Co. KG Verfahren zur prozessüberwachung, steuerung und regelung
US6141009A (en) * 1997-07-16 2000-10-31 Cognex Corporation Interface for model definition
US6397131B1 (en) * 1997-08-08 2002-05-28 Management Systems Data Service, Inc. Method and system for facilitating vehicle inspection to detect previous damage and repairs
US6052631A (en) * 1997-08-08 2000-04-18 Management Systems Data Service, Inc. ("Msds, Inc.") Method and system for facilitating vehicle inspection to detect previous damage and repairs
US6041269A (en) * 1997-08-11 2000-03-21 Advanced Micro Devices, Inc. Integrated circuit package verification
US6757645B2 (en) * 1997-09-17 2004-06-29 Numerical Technologies, Inc. Visual inspection and verification system
US5953356A (en) 1997-11-04 1999-09-14 Wisconsin Alumni Research Foundation Intersubband quantum box semiconductor laser
US6072511A (en) * 1997-12-12 2000-06-06 Presstek, Inc. Method and apparatus for diode-laser imaging with compensation for output variations
ZA992256B (en) * 1998-03-24 2000-01-13 Wms Gaming Inc Bonus Game for a gaming machine.
US6112172A (en) * 1998-03-31 2000-08-29 Dragon Systems, Inc. Interactive searching
US6175644B1 (en) * 1998-05-01 2001-01-16 Cognex Corporation Machine vision system for object feature analysis and validation based on multiple object images
CN1063898C (zh) * 1998-05-13 2001-03-28 广东省邮电科学技术研究院 模拟移动通信网的集中操作维护方法
US7342665B2 (en) * 1998-06-30 2008-03-11 Drake Jr Thomas E System and method for control of paint thickness
US6366690B1 (en) * 1998-07-07 2002-04-02 Applied Materials, Inc. Pixel based machine for patterned wafers
WO2000014790A1 (fr) * 1998-09-03 2000-03-16 Hitachi, Ltd. Systeme d'inspection et procede de production d'un dispositif electronique l'utilisant
US6341291B1 (en) * 1998-09-28 2002-01-22 Bentley Systems, Inc. System for collaborative engineering using component and file-oriented tools
US6221592B1 (en) * 1998-10-20 2001-04-24 Wisconsin Alumi Research Foundation Computer-based methods and systems for sequencing of individual nucleic acid molecules
US6607888B2 (en) * 1998-10-20 2003-08-19 Wisconsin Alumni Research Foundation Method for analyzing nucleic acid reactions
US6477266B1 (en) * 1998-12-11 2002-11-05 Lucent Technologies Inc. Vision comparison inspection system graphical user interface
US6507042B1 (en) 1998-12-25 2003-01-14 Fujitsu Limited Semiconductor device and method of manufacturing the same
US7562135B2 (en) 2000-05-23 2009-07-14 Fisher-Rosemount Systems, Inc. Enhanced fieldbus device alerts in a process control system
US6081670A (en) * 1999-03-05 2000-06-27 Lifetouch National School Studies Inc. Depth-of-field indicator for a camera
DE29904864U1 (de) 1999-03-17 2000-08-03 Braun Melsungen Ag Injektionsvorrichtung mit einem Pen
US6151452A (en) 1999-04-14 2000-11-21 Concord Camera Corp. Camera, such as an APS camera, having a single-piece, rotatable viewfinder and light-pipe mask for format selection
US6224549B1 (en) * 1999-04-20 2001-05-01 Nicolet Biomedical, Inc. Medical signal monitoring and display
US6298474B1 (en) * 1999-04-30 2001-10-02 Intergral Vision, Inc. Method and system for interactively developing a graphical control-flow structure and associated application software for use in a machine vision system and computer-readable storage medium having a program for executing the method
JP3619063B2 (ja) * 1999-07-08 2005-02-09 キヤノン株式会社 立体画像処理装置、その方法、立体視パラメータ設定装置、その方法そしてコンピュータプログラム記憶媒体
US6273420B1 (en) * 1999-07-13 2001-08-14 Kenneth P. Brooks Electronic maze game
US6597381B1 (en) * 1999-07-24 2003-07-22 Intelligent Reasoning Systems, Inc. User interface for automated optical inspection systems
US6264591B1 (en) * 1999-07-27 2001-07-24 Philip Morris Incorporated Plug combiner inspection system and method
US6490600B1 (en) 1999-08-09 2002-12-03 Cognex Technology And Investment Corporation Processing continuous data streams in electronic spreadsheets
US6636818B1 (en) 1999-09-15 2003-10-21 Becton, Dickinson And Company Systems, methods and computer program products for constructing sampling plans for items that are manufactured
KR100374046B1 (ko) * 1999-09-30 2003-03-03 오므론 가부시키가이샤 화상처리장치, 화상처리방법 및 시각검사 시스템
US6651034B1 (en) 1999-10-28 2003-11-18 General Electric Company Apparatus and method for performance and fault data analysis
US6334165B1 (en) 1999-11-08 2001-12-25 International Business Machines Corporation Address type determination for an I2C EEPROM
KR20010101697A (ko) 1999-11-29 2001-11-14 기시모토 마사도시 결함검사시스템
US6445199B1 (en) * 1999-12-14 2002-09-03 Kla-Tencor Corporation Methods and apparatus for generating spatially resolved voltage contrast maps of semiconductor test structures
US6593856B1 (en) * 2000-01-06 2003-07-15 Visteon Global Technologies Inc. Homebound/outbound feature for automotive applications
US6536553B1 (en) * 2000-04-25 2003-03-25 The United States Of America As Represented By The Secretary Of The Army Method and apparatus using acoustic sensor for sub-surface object detection and visualization
US6373618B1 (en) * 2000-05-04 2002-04-16 Schott-Donnelly, Llc Chromogenic glazing for automobiles and display filters
JP3627914B2 (ja) * 2000-05-23 2005-03-09 シャープ株式会社 車両の周囲監視システム
SG94851A1 (en) * 2000-07-12 2003-03-18 Tokyo Electron Ltd Substrate processing apparatus and substrate processing method
US6744266B2 (en) * 2000-10-02 2004-06-01 Applied Materials, Inc. Defect knowledge library
US6763148B1 (en) * 2000-11-13 2004-07-13 Visual Key, Inc. Image recognition methods
US6531675B2 (en) * 2001-01-31 2003-03-11 Unova Ip Corp. Laser welding method and apparatus
KR100389135B1 (ko) * 2001-02-20 2003-06-25 삼성전자주식회사 웨이퍼 디펙트 소스의 성분별 불량칩수 표시 방법
US6795798B2 (en) 2001-03-01 2004-09-21 Fisher-Rosemount Systems, Inc. Remote analysis of process control plant data
US20020131633A1 (en) * 2001-03-13 2002-09-19 Zwick Robert Leonard System and method for machine vision inspection through platen
US7171033B2 (en) * 2001-03-28 2007-01-30 The Boeing Company System and method for identifying defects in a composite structure
JP4357134B2 (ja) * 2001-03-29 2009-11-04 株式会社日立製作所 検査システムと検査装置と半導体デバイスの製造方法及び検査プログラム
JP4038356B2 (ja) * 2001-04-10 2008-01-23 株式会社日立製作所 欠陥データ解析方法及びその装置並びにレビューシステム
US7051317B2 (en) * 2001-06-29 2006-05-23 National Instruments Corporation System and method for specifying a computer-implemented process using different programming methodologies
US6772098B1 (en) * 2001-07-11 2004-08-03 General Electric Company Systems and methods for managing inspections
JP2003042967A (ja) * 2001-07-27 2003-02-13 Hitachi Ltd パターン欠陥検査装置
US20030036866A1 (en) * 2001-08-14 2003-02-20 Dinesh Nair System and method for creating a test executive sequence to perform display inspection
DE10141051A1 (de) * 2001-08-22 2003-03-06 Leica Microsystems Anordnung und Verfahren zur Inspektion von unstruktuierten Wafern
US7079141B2 (en) * 2001-08-27 2006-07-18 National Instruments Corporation System and method for specifying a machine vision process using different programming methodologies
JP4936094B2 (ja) 2001-09-28 2012-05-23 株式会社エクォス・リサーチ エージェント装置
JP3674568B2 (ja) * 2001-10-02 2005-07-20 ソニー株式会社 強度変調方法及びシステム並びに光量変調装置
CN100388698C (zh) 2001-10-19 2008-05-14 上海贝尔有限公司 用于数字数据网接入模块的管理指配控件及其控制方法
US6823272B2 (en) * 2001-10-23 2004-11-23 Agilent Technologies, Inc. Test executive system with progress window
US7162073B1 (en) * 2001-11-30 2007-01-09 Cognex Technology And Investment Corporation Methods and apparatuses for detecting classifying and measuring spot defects in an image of an object
US6791545B2 (en) * 2001-12-11 2004-09-14 Lecroy Corporation Measurement icons for digital oscilloscopes
US6792366B2 (en) * 2001-12-11 2004-09-14 Hitachi, Ltd. Method and apparatus for inspecting defects in a semiconductor wafer
US7380213B2 (en) * 2001-12-28 2008-05-27 Kimberly-Clark Worldwide, Inc. User interface for reporting event-based production information in product manufacturing
US20040015381A1 (en) 2002-01-09 2004-01-22 Johnson Christopher D. Digital cockpit
US9092841B2 (en) * 2004-06-09 2015-07-28 Cognex Technology And Investment Llc Method and apparatus for visual detection and inspection of objects
CN1452212A (zh) 2002-04-12 2003-10-29 华邦电子股份有限公司 集成电路制造的机台监控方法与系统
US6664499B1 (en) 2002-07-11 2003-12-16 The Boeing Company Tube and duct trim machine
JP3721147B2 (ja) * 2002-07-29 2005-11-30 株式会社東芝 パターン検査装置
US6959251B2 (en) * 2002-08-23 2005-10-25 Kla-Tencor Technologies, Corporation Inspection system setup techniques
US7039632B2 (en) * 2002-09-13 2006-05-02 Kimberly-Clark Worldwide, Inc. System and method for managing a manufacturing process operation
US7738693B2 (en) * 2002-12-24 2010-06-15 Lam Research Corporation User interface for wafer data analysis and visualization
US7239737B2 (en) * 2002-09-26 2007-07-03 Lam Research Corporation User interface for quantifying wafer non-uniformities and graphically explore significance
US6975963B2 (en) * 2002-09-30 2005-12-13 Mcdata Corporation Method and system for storing and reporting network performance metrics using histograms
JP4233397B2 (ja) * 2002-10-01 2009-03-04 株式会社東京精密 画像欠陥検査方法、画像欠陥検査装置及び外観検査装置
WO2004034204A2 (en) * 2002-10-08 2004-04-22 Invensys Systems, Inc. Services portal
US7660440B2 (en) * 2002-11-07 2010-02-09 Frito-Lay North America, Inc. Method for on-line machine vision measurement, monitoring and control of organoleptic properties of products for on-line manufacturing processes
CN100458712C (zh) * 2002-11-12 2009-02-04 Fei公司 缺陷表征系统及方法以及缺陷分析系统
JP4227395B2 (ja) * 2002-11-14 2009-02-18 キヤノン株式会社 液滴吐出状態判定方法及び装置とインクジェットプリンタ及びそのプログラムと記憶媒体
US7095893B2 (en) * 2003-01-06 2006-08-22 Banner Engineering Corporation System and method for determining an image decimation range for use in a machine vision system
US20040138934A1 (en) * 2003-01-09 2004-07-15 General Electric Company Controlling a business using a business information and decisioning control system
US7359544B2 (en) * 2003-02-12 2008-04-15 Kla-Tencor Technologies Corporation Automatic supervised classifier setup tool for semiconductor defects
US7602962B2 (en) * 2003-02-25 2009-10-13 Hitachi High-Technologies Corporation Method of classifying defects using multiple inspection machines
US7212208B2 (en) * 2003-02-25 2007-05-01 Bahram Khozai System and method to present and display multiple data using enhanced box charts
US7508973B2 (en) * 2003-03-28 2009-03-24 Hitachi High-Technologies Corporation Method of inspecting defects
US6952653B2 (en) * 2003-04-29 2005-10-04 Kla-Tencor Technologies Corporation Single tool defect classification solution
US20040252128A1 (en) * 2003-06-16 2004-12-16 Hao Ming C. Information visualization methods, information visualization systems, and articles of manufacture
US6876898B1 (en) * 2003-07-03 2005-04-05 Honda Giken Kogyo Kabushiki Kaisha Method of identifying workstations that performed work on a workpiece
ATE423341T1 (de) * 2003-07-24 2009-03-15 Cognitens Ltd System und verfahren zur überwachung und visualisierung der ausgabe eines produktionsprozesses
US7236625B2 (en) * 2003-07-28 2007-06-26 The Boeing Company Systems and method for identifying foreign objects and debris (FOD) and defects during fabrication of a composite structure
US6985220B1 (en) * 2003-08-20 2006-01-10 Kla-Tencor Technologies Corporation Interactive threshold tuning
US7334195B2 (en) * 2003-10-14 2008-02-19 Microsoft Corporation System and process for presenting search results in a histogram/cluster format
US7289862B2 (en) * 2004-01-07 2007-10-30 Britton David R Methods to support process quality and maintenance during control of an industrial process such as welding
US7324682B2 (en) * 2004-03-25 2008-01-29 Mitutoyo Corporation System and method for excluding extraneous features from inspection operations performed by a machine vision inspection system
US7739216B2 (en) * 2004-04-22 2010-06-15 General Electric Company Methods and systems for monitoring and diagnosing machinery by incremently testing a rule
KR100909474B1 (ko) * 2005-08-10 2009-07-28 삼성전자주식회사 웨이퍼 결함지수를 사용하여 국부성 불량 모드를 갖는결함성 반도체 웨이퍼의 검출 방법들 및 이에 사용되는장비들
US7633307B2 (en) * 2005-12-16 2009-12-15 Freescale Semiconductor, Inc. Method for determining temperature profile in semiconductor manufacturing test
US7979362B2 (en) * 2007-08-10 2011-07-12 Motorola Solutions, Inc. Interactive data mining system

Also Published As

Publication number Publication date
EP1763756A4 (en) 2009-05-06
CA2567280A1 (en) 2005-12-01
MXPA06013286A (es) 2007-07-19
CN104392292A (zh) 2015-03-04
US10074057B2 (en) 2018-09-11
BRPI0511299A (pt) 2007-12-04
CN104392292B (zh) 2019-07-26
WO2005114422A3 (en) 2008-01-17
WO2005114422A2 (en) 2005-12-01
CN101297294A (zh) 2008-10-29
EP1763756A2 (en) 2007-03-21
JP2008509502A (ja) 2008-03-27
US20050273720A1 (en) 2005-12-08
JP2013101622A (ja) 2013-05-23

Similar Documents

Publication Publication Date Title
JP5254612B2 (ja) グラフィック再検査ユーザ設定インタフェース
US7113628B1 (en) Defect image classifying method and apparatus and a semiconductor device manufacturing process based on the method and apparatus
US8041443B2 (en) Surface defect data display and management system and a method of displaying and managing a surface defect data
US8428336B2 (en) Inspecting method, inspecting system, and method for manufacturing electronic devices
US8275189B2 (en) Defect inspection system
US9129237B2 (en) Integrated interfacing system and method for intelligent defect yield solutions
US6825856B1 (en) Method and apparatus for extracting measurement information and setting specifications using three dimensional visualization
JP2013534310A5 (ja)
KR20060128979A (ko) 웹 기반 제품의 수율을 최대화하는 방법 및 시스템
JP6287248B2 (ja) 外観検査装置、外観検査方法、及び、プログラム
JP5008525B2 (ja) 不良要因抽出装置および工程安定化支援システム
CN111402236A (zh) 一种基于图像灰度值的热轧带钢表面缺陷分级方法
TW202138791A (zh) 誤差因子的推定裝置及推定方法
JP4712607B2 (ja) 感度ファイル自動設定装置及びそれを備えた物品の外観検査装置
KR102048377B1 (ko) 스프레드 시트 타입의 공정 데이터를 이용하여 공정을 관리하는 방법, 이를 이용한 공정 관리 서버 및 특정 작업자 단말
US20070084921A1 (en) Method for preprocessing surface data, method for quality assessment and for quality management of strip material and apparatus for controlling the processing of strip material
US7957932B1 (en) Data analysis systems and related methods
JP2011232302A (ja) 画像検査方法及び画像検査装置
WO2023049792A1 (en) Systems, methods, and interfaces for tracking defects
CN113256156A (zh) 一种基于三维模型的船舶建造工程管控方法及装置
Von Busch Analysis of casting surface anomalies captured through spatial mapping
GB2581139A (en) Interactive user interface for time series planning, evaluation and prediction system
JP2019086954A (ja) 作業要素リードタイム算出装置および工程設計支援システム
JP2005134282A (ja) 物体検査結果表示装置、及び物体検査結果表示用コンピュータプログラム
JPH11175629A (ja) 製造管理装置、製造管理方法及び製造管理プログラムが記録された記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101026

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110125

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110202

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110224

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110303

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110325

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111018

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120117

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120124

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120216

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120223

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120307

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120418

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120717

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20121221

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130219

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130321

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130418

R150 Certificate of patent or registration of utility model

Ref document number: 5254612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160426

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250