JP5017605B2 - 目視検査支援装置、目視検査支援システム並びに目視検査支援方法 - Google Patents

目視検査支援装置、目視検査支援システム並びに目視検査支援方法 Download PDF

Info

Publication number
JP5017605B2
JP5017605B2 JP2006286053A JP2006286053A JP5017605B2 JP 5017605 B2 JP5017605 B2 JP 5017605B2 JP 2006286053 A JP2006286053 A JP 2006286053A JP 2006286053 A JP2006286053 A JP 2006286053A JP 5017605 B2 JP5017605 B2 JP 5017605B2
Authority
JP
Japan
Prior art keywords
visual inspection
inspection
visual
image
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006286053A
Other languages
English (en)
Other versions
JP2008102075A (ja
Inventor
学 鈴木
Original Assignee
株式会社 日立技研
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社 日立技研 filed Critical 株式会社 日立技研
Priority to JP2006286053A priority Critical patent/JP5017605B2/ja
Publication of JP2008102075A publication Critical patent/JP2008102075A/ja
Application granted granted Critical
Publication of JP5017605B2 publication Critical patent/JP5017605B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Supply And Installment Of Electrical Components (AREA)

Description

本発明は、基板についての目視検査支援装置、この目視検査支援装置を用いた目視検査支援システム並びにこれらの装置、システムによる目視検査支援方法に関する。
実装密度の高くなった電気・電子回路基板又はその他の工業製品の検査を、全ての要検査部位について、脱落なく、かつ正面からの観察だけでは分からない不良をも見逃すことなく、更に型番等の見間違いもなく、確実な検査を疲れを生じさせずに行えるように支援する工業製品の目視検査支援装置が提供されるようになってきた。
特許文献1には、検査対象を保持する保持手段と、上記検査対象を正面から撮影する、ズーム機能及び絞り機能を備えた正面用ビデオカメラ、上記検査対象を斜め方向から撮影する、ズーム機能及び絞り機能を備えた斜め用ビデオカメラ及び該斜め用ビデオカメラと反対側に配したバランサを一体に組み合わせたカメラユニットであって、正面用ビデオカメラを中心に回転させる回転手段を備えたカメラユニットと、前記検査対象を、必要に応じて、上記カメラユニットに対して相対的にX、Y、Zの三次元方向の全部又は一部の方向に移動させ得るように、該検査対象及び前記カメラユニットの双方又は一方に備えさせた移動手段と、前記カメラユニットの正面用ビデオカメラ及び斜め用ビデオカメラの撮影した画像信号を選択的に再生し得る画像モニタと、前記保持手段及び前記カメラユニットをそれぞれ移動させる移動手段、前記カメラユニットを回転させる回転手段、前記カメラユニットに於ける正面用ビデオカメラ及び斜め用ビデオカメラ並びに前記画像モニタのそれぞれを、検査対象の要検査部位を順次予め設定した順序と撮影態様で撮影して前記画像モニタで再生すべく制御する制御装置と、上記制御装置に撮影の進行の指示を与える指示装置と、で構成した工業製品の目視検査支援装置が記載されている。
特許文献2には、目視検査装置の集中管理システムが記載されており、この目視検査装置の集中管理システムは、各目視検査装置よりの画像信号を制御装置からの切替信号により切り替える切替器と、切り替えられた画像信号により画像を表示するモニタを備え、不良と判定された箇所の検査を前記モニタの表示画像により行うようにして良否判定を集中して一人の人間が行えるようにしている。
特許文献3には複数の同一計測ユニットが複数の半導体素子に一対一に接続されてなる電気的特性検査装置を用いて、複数の半導体素子を検査する際に、同時に複数の第1の検査項目について半導体素子を検査し、第2の検査項目については、全ての半導体素子を同時には検査しないようにしたことを特徴とする半導体素子の並列検査方法が記載されている。
特許文献4には、複数検査ラインについての優先選択方法が記載されている。
特許第3542114号公報 特開平10−153556号公報 特許第3305632号公報 特開平10−81273号公報
一般的な目視検査では、当該装置1台に対して1名の検査員が必要になる。そのような場合、下記のような問題が発生する。
・検査員の人件費の削減
品質を向上させるために目視検査支援装置を導入・増設する場合、目視検査支援装置の装置導入費用以外に導入・増設する台数分の検査員が必要となる。検査員の人件費は運用を続ける期間は継続して発生する費用であり、生産コストに大きく影響する。
したがって、検査員による検査効率を向上させ、検査員の数を減らすことが望ましい。
・検査員の違いによる検査品質のばらつき
複数台の目視検査支援装置を運用する場合、複数の検査員が必要となる。通常は検査員の教育等を実施して目視検査の品質を安定させるように努めるが、体調不良や退職等の事由によって経験の浅い検査員によって検査を行わなければならないこともある。運用する台数が増えれば増えるほどそのようなリスクが増える傾向にある。また、検査員に対して適切な教育を行った場合でも、作業員ごとの目視検査の品質を完全に一致させることは困難である。
したがって、1名の検査員で複数の目視検査支援装置を運用し、同一の観点で検査を行うことが望ましい。
・作業中の待ち時間の削減
上述した検査機の人件費の削減あるいは検査員の違いによる検査品のばらつきを低減し、品質の均一化を図る場合に目視検査装置についての集中管理システムが採用されることになる。この場合に、集中管理に伴なって待ち時間が増大するおそれがあり、待ち時間を極力削減することが求められることになる。
これらの課題を解決すれば、目視検査支援装置を導入した場合の検査コストを低減し、目視検査の品質も安定させ、待ち時間を削減させることが可能である。
本発明は、かかる点に鑑みて複数の目視検査装置を採用し、目視検査支援装置を導入して作業の集中化を図った場合に、検査コストを低減し、目視検査の品質を安定させ、待ち時間を削除することのできる目視検査支援装置、目視検査支援システム並びに目視検査支援方法を提供することを目的とする。
本発明は、基板の検査部位を撮影して得られた撮影画像を画像モニタ手段で再生し、検査部位についての目視検査結果を入力、格納する目視検査集中管理装置において、
前記基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の目視検査装置にそれぞれ通信手段を介して接続されて目視検査撮影画像を入力する入力手段と、該目視検査撮画像に基づいて検査部位を画面に表示する前記画像モニタ手段と、画面に表示された検査部位について目視判定結果を次々に格納する格納手段と、各目視検査装置に備えたカメラを検査部位に前記通信手段を介して移動制御する制御手段と、を有し、
前記モニタ手段は、複数の目視検査装置から送信された検査部位についての目視検査撮影画像をスケジュールに従って順次画面に表示し、前記制御手段は、画面に表示された、スケジュール化された目視検査撮影画像についてカメラの角度を変えた目視検査撮影画像の要求があると、カメラの角度を変えて当該検査部位について目視検査撮影画像を取得させて前記スケジュール化された目視検査撮影画像と共に、またはこれに代えて前記モニタ手段に表示させることを特徴とする目視検査集中管理装置を提供する。
上記目視検査集中管理装置において、前記モニタ手段は、前記カメラの角度を変えての当該検査部位についての目視検査撮影画像を連続した画像もしくは動画として画面に表示することを特徴とする。
上記目視検査集中管理装置において、前記制御手段は、目視判定結果を入力させ、この画面表示、目視判定結果を入力させる間に、他の目視検査装置のカメラを所定の検査部位の撮影のために移動設定する制御を行うことを特徴とする。
本発明は、基板の検査部位を撮影して得られた撮影画像を画像モニタ手段で再生し、検査部位についての目視検査結果を入力、格納する目視検査集中管理システムにおいて、
前記基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の目視検査装置と、
これらの目視検査装置にそれぞれ通信手段を介して格納されて目視検査撮影画像を入力する入力手段と、該目視検査撮影画像に基づいて検査部位を画面に表示する前記画像モニタ手段と、画面に表示された検査部位について目視判定結果を次々に格納する格納手段と、各目視検査装置に備えたカメラを検査部位に前記通信手段を介して移動制御する制御手段と、を備えた目視検査集中管理装置を有し、
該目視検査集中管理装置は、複数の目視検査装置から送信された検査部位についての目視検査撮影画像を前記画像モニタ手段の画面に表示し、前記制御手段は、画面に表示された、スケジュール化された目視検査撮影画像についてカメラの角度を変えた目視検査撮影画像の要求があると、カメラの角度を変えて当該検査部位について目視検査撮影画像を取得させて前記スケジュール化された目視検査撮影画像と共に、またはこれに代えて前記モニタ手段に表示し、目視判定結果を入力し、この画像表示、目視判定結果を入力する間に、他の目視検査装置のカメラを所定の検査部位の撮影のために移動設定させることを行うことを特徴とする目視検査集中管理システムを提供する。
上記目視検査システムにおいて、目視検査装置が前記目視検査装置と該検査部位について自動目視検査を行う自動目視検査装置から構成され、前記格納手段には各検査部位について自動目視検査装置による目視検査結果と前記目視検査集中管理装置による目視判定結果が格納され、前記モニタ手段は、前記カメラの角度を変えての当該検査部位についての目視検査撮影画像を連続した画像もしくは動画として画像に表示すると共に、同一画面に前記自動外観検査装置が撮像した当該検査部位についての検査画像およびこの検査画像についての静止参照画像を表示することを特徴とする。
本発明は、基板の検査部位を撮影して得られた撮影画像を画像モニタ手段で再生し、検査部位についての目視検査結果を入力、格納する目視検査集中管理装置による目視検査集中管理方法において、
入力手段によって、前記基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の目視検査装置にそれぞれ通信手段を介して接続されて目視検査撮影画像を入力し、格納手段に、該目視検査撮像画像に基づいて検査部位を画面に表示された検査部位について目視判定結果を次々に格納し、制御手段によって、各目視検査装置に備えたカメラを検査部位に前記通信手段を介して移動制御し、
前記画像モニタ手段は、複数の目視検査装置から送信された検査部位についての目視検査撮影画像を予め定めたスケジュールに従って順次画面に表示し、かつ画面に表示されたスケジュール化された目視検査撮影画像についてカメラの態様を変えての当該検査部位についての目視検査撮影画像を前記スケジュール化された目視検査撮影画像と共に、またはこれに代えて画面に表示することを特徴とする目視検査集中管理方法を提供する。
上記目視検査集中管理方法において、前記制御手段によって目視判定結果を入力させ、この画面表示、目視判定結果を入力させる間に、他の目視検査装置のカメラを所定の検査部位の撮影のために移動設定する制御を行うことを特徴とする。
上記目視検査集中管理方法において、前記モニタ手段に、前記カメラの態様を変えての当該検査部位についての目視検査撮影画像を連続した画像もしくは動画として画面に表示することを特徴とする。
上記目視検査集中管理方法において、前記目視検査集中管理装置は、備えた判定手段によって、どの目視検査装置が目視検査状態にあるか、またどの目視検査装置のカメラが移動状態であるかを判定し、カメラの移動完了を示す信号に基づいていずれかの目視検査装置に優先順位を付与し、目視検査が完了すると、優先順位の上位にある目視検査装置によって撮影された目視検査撮影画像を優先して画面に表示することを特徴とする。
本発明によれば、複数の外観検査装置を採用し、目視検査支援装置を導入して作業の集中化を図ることが出来、この場合に、検査コストを低減し、目視検査の品質を安定させ、待ち時間を削除することのできる目視検査支援装置、目視検査支援システム並びに目視検査支援方法を提供することが出来る。
以下、本発明の実施例を図面に基づいて説明する。
図1は、本発明の1つの実施例である目視検査支援システムをブロック図で示す。図1において、目視検査集中管理システム(目視検査支援システム)100は、目視検査集中管理装置(例えば、1台もしくは複数のパソコン)90および外観検査装置(外部検査手段ともいう。以下、同じ。)80を備え、両者間は通信手段70によって接続される。
図1にあっては、外検査装置80として3台の外検査装置A,B,C(それぞれ80A,80B,80C)が表示してあるが、これに限定されず、4台以上であってもよいし、2台であってもよい。いずれにしても複数台の外観検査装置80が設けられ、それぞれ通信手段70に接続される。
各外観検査装置80は、自動外観検査装置11および基板の目視検査支援装置12を備える。各外観検査装置80を構成する自動外観検査装置,目視検査支援装置にはA,B,Cを付けてそれぞれ区別している。従って、各外観検査装置80の構成は実質的に同一とされ、自動外観検査装置11および目視検査支援装置12自体は公知の各装置を採用することができる。ここで目視検査支援装置として「目視」を使用するが、目視のための画像情報を取る機能を有し、目視検査支援装置として機能するという意味で使用する。
自動外観検査装置11は、ビデオカメラなど(以下、カメラという。)により電子部品を実装した基板(例えば、プリント基板)の撮影、すなわち基板の検査部位を撮影して得られる画像を取り込み、基板上の部品やはんだ付けの有無などの良否を自動的に、すなわち機械的電子的に判定することを行う。
自動外観検査装置11は、検査部位について不良を検出すると、不良が発生したことを通信手段70経由で目視検査集中管理装置90である集中管理装置に連絡する。目視検査集中管理装置90の検査員は、モニタ画面に映った画像を見、自動外観検査装置11が不良と判定した検査部位の良否を判定し、再確認する。モニタ画面に検査部位の画像を表示し、再確認するために外観検査装置80は検査部位撮影装置である目視検査支援装置12を備える。
この場合に、目視検査集中管理システム100は、通信手段70に接続されたサーバ60を備えることができ、自動外観検査装置11による自動的に撮影された撮像画像はサーバ60に蓄積し、格納することができる。従って、目視検査集中管理装置90への画像提供はサーバ60を検索することによってなし得る。また、サーバ60に代えて、もしくはサーバ60と共に自動外観検査装置11A,11B,11Cにそれぞれサーバ60A,60B,60Cを付属させて設けて、これらのサーバを検索することによって撮像画像を取得することができる。
従って、自動外観検査装置11は目視検査支援装置12の上流側に配置され、再確認すべき検査部位を特定し、目視検査支援装置12は特定された検査部位について撮影する。自動外観検査装置11と目視検査支援装置12を一体的なものとして構成してもよい。
また、自動外観検査装置11が撮影する検査部位は予めプログラムによって定めており、この検査部位についての正常状態での参照画像がサーバ60あるいはサーバ60A,60B,60Cに格納されている。格納手段は他の手段によって行ってもよい。
検査員が検査部位について不良と判定した場合、検査員は特定された基板、検査部位と共に検査判定結果を後述するように格納する。検査員はその検査部位が良品である場合には、検査データを変更する必要があるかどうかを確認し、必要に応じて検査データの変更を行う。この変更した検査データは、目視検査支援装置12から通信手段70を介して自動外観検査装置11に転送され、以後の検査に生かされることになる。
目視検査支援装置12には、以下の2種類がある。
・オフライン型
検査対象物の取り付けと取り外しを手動で行う方式のもの。検査開始前に検査対象物を手動で目視検査支援装置に取り付ける必要があり、検査後もその検査対象物を手動で取り外すことを要する。
・インライン型
検査対象物の取り付けと取り外しは検査装置によって自動的に行われる方式のもの。他の検査装置、検査対象物を収納するラック、コンベア等と接続して使用し、検査対象物の移動、取り付け、取り外し等は各装置によって自動的に行われる。そのため、検査員が検査対象物に触れる必要はない。
これらの構成を持つ目視検査支援装置において、オフライン型目視検査支援装置の場合は検査対象物を手動で取り付けたり取り外したりする必要があるため、検査員の人数を減らすことには限りがある。そのため、上記の課題を解決するための手段としてインライン型の目視検査支援装置を使用することが望ましく、以下、インライン型の目視検査支援装置を使用した実施例について説明する。
目視検査集中管理装置90は、入力部(入力手段)31、格納部(格納手段)32、画像モニタ部(画像モニタ手段)33、目視判定結果入力部(目視判定結果入力手段)34および制御部(制御手段)35を備える。画像モニタ部33は、スケジュール化された検査部位についての画像表示機能38、この画像の参照画像表示機能39および検査部位についての一連の画像もしくは動画を表示する機能40を備える。格納部32はサーバ60を使用することができ、その場合、サーバ60を格納部32と読み替えることとする。制御部35は画面表示指示手段41、目視判定結果入力指示手段42、目視検査状態検出、判定並びにカメラ移動状態検出、移動完了を判定する判定手段43、表示すべき画像についてカメラ移動指示手段45を備える。
目視検査集中管理装置90は、各目視検査支援装置12のモニタ手段を有し、操作機能としての操作盤を備える。この場合に、各目視検査支援装置12と各モニタ手段、各操作盤とは対応形式として配線を延長して接続し、集中した目視検査支援を行うことができる。各目視検査支援装置12に対応してモニタ手段および操作盤を個別に設け、運用するモニタ手段および操作盤を選択する方式とした一箇所集中型とすることができ(一箇所集中選択型)、また一箇所集中型とすることは同一であるが、前者と異なり、複数のモニタ手段、操作盤に対して切替器を使用して各目視検査支援装置12に対応したモニタ手段、操作盤を切り替えて運用することができる(一箇所集中切替え型)。この場合に、目視検査支援装置12からの切替え信号を受け取って自動的に切替えることを行うことができる。切替器としては市販の切替器を採用することができる。配線の延長方法は一般的な延長ケーブルに限らず、光通信やネットワーク通信に変換しての延長も可能である。
これらの場合、図1に示す目視検査管理集中手段としての目視検査管理集中装置90は、目視検査支援方式において使用されるパソコン目視検査管理集中機能を備えることとなり、他のパソコンとの通信を行う。この例の場合、特定のパソコンに当該目視検査管理集中機能を設けることを要しない。
図2は、目視検査集中管理装置90が備える目視検査支援機能を示す。入力部51は、検査部位についての自動外観検査画像(AOI)91および目視検査支援装置12によって取得された検査部位撮影画像および動画撮影画像92を入力する機能を有する。前述したように、この場合、サーバ60もしくはサーバ60A,60B,60Cに格納、蓄積された検査部位撮影画像を入力することができる。画像モニタ部33は、自動外観検査画像すなわち検査部位撮影画像および検査部位動画撮影画像もしくは検査部位連続一連撮影画像を画像モニタ表示する機能52を有する。
目視判定結果入力部34は、画像モニタ部33に表示された画像について検査員の目視検査による不良判定結果を入力する目視検査結果入力機能58を有する。制御部35は、複数の自動外観検査装置11によって取得された目視検査撮影画像について正常な参照画像との照合を行って検査部位についての検査の要旨を判定し、複数の目視検査装置12について、格納されたプログラムによって検査順位についてスケジュール化を行う。
制御部35は、スケジュール化された検査順位に従って目視検査支援装置12に検査部位を撮影させ、入力させ、画像モニタ部33に画像モニタ表示させる。これによって、画像モニタ部33は、複数の目視検査装置12から送信された検査部位についての目視検査撮影画像を予め定められたスケジュールに従って順次画面に表示することができる。自動外観検査装置11によって取得された目視検査撮影画像を参照画像と照合した時に、目視検査を要しない程に明瞭な欠陥(NG)と判断された場合には、スケジュール化から除外して直ちにNGであることを格納部32に格納することができる。勿論スケジュールに入れて目視による確認を行うようにしてもよい。
制御部35の画面表示指示手段41は、画像モニタ部33に画像を表示させる機能を有する。制御部35の目視判定結果入力指示手段42は、目視判定結果を格納部32に入力させる機能を有する。
また、制御部35は、次の目視検査撮影画像の表示に行く前に、スケジュールされ、画面に表示された目視検査撮影画像について検査員の入力に従って、検査部位についての詳細確認指示を目視検査支援装置12に送信する。この指示が与えられた目視検査支援装置12A,12Bまたは12Cは、画面に表示されたスケジュール化された目視検査撮影画像について、カメラの角度あるいは/および拡大度(ズーム度)、すなわちカメラの態様を変えての当該検査部位についての目視検査撮影画像を取得する。
この場合に、目視検査支援装置12は、プログラムによって一連の連続した目視検査撮影画像、あるいは一連の連続した目視検査撮影画像によって動画として撮影し、直ちに入力部31を介して目視検査集中管理装置100に送信することを行う。画像モニタ部33に一連の連続した目視検査撮影画像についての表示がなされ、検査員による判定結果が入力されると、スケジュール化された次の検査部位についての画面へと移行する。従って、一連の連続した目視検査撮影画像はスケジュール化された検査部位についての目視検査撮影画像表示中に割込んだ形で画面表示されることになる。そして、この場合に、割込んだ形の目視検査撮影画像はプログラムによって一連の連続した画像としてあり、検査員に負担を掛けることなく迅速に表示されることになる。一連の連続した画像によって動画とすることによって更に検査員の負担は軽減することになる。
制御部35の判定手段43は、上述した判定機能に加えて、検査部位が指定されると、目視検査状態にあるかを検出する機能を有する。この検出は検査員の操作動作あるいは機械(パソコン)による自動検出、例えばスケジュール化された画面の切替えを検出して行うことができる。更に、この判定手段43は、目視検査結果が入力指示されたことによって目視検査が終了したかを判定する機能および検査部位へのカメラ移動状態を検出し、カメラ移動が完了したかを判定する機能54を有する。
制御部35のカメラ移動指示手段45は、目視検査中に、すなわち目視検査状態検出中に他のいずれかの外観検査装置80、目視検査支援装置12のカメラを検査部位に移動制御する制御機能55を有する。これによって、目視検査状態検出とカメラ移動制御とを並列作業させる制御を行うことができる。ここでカメラを検査部位に移動するとは、カメラ操作のためのロボットを移動し、カメラによって検査部位を撮影する位置にセットすることを意味する。
格納部32は、目視検査装置毎、検査部位毎に自動検出画像、撮影画像および目視判定結果を格納する格納機能56を有する。
以上のように、これらの実施例による目視検査管理集中装置90は、基板の検査部位の撮影を行うカメラをそれぞれ備えたそれぞれ目視検査支援装置12を含めた複数の外観検査装置80にそれぞれ通信手段70を介して接続されて目視検査撮影画像を入力する入力部31と、目視検査撮像画像に基づいて再生された検査部位を画面に表示する複数の画像モニタ部33と、画面に表示された検査部位について目視判定結果を次々に格納する複数の格納部32と、各外観検査装置に備えたカメラを検査部位に通信手段70を介して移動制御する分散配置の制御部35と、を有する。
そして、制御部35は、複数の内の一つの外観検査装置80から送信された検査部位についての目視検査撮影画像をスケジュールに従って順次いずれかの画像モニタ部の画面に表示させ、目視判定結果を入力させ、この画面表示、目視判定結果を入力させる間に、他の外観検査装置のカメラを所定の検査部位の撮影のために移動設定する制御を次々に行うことになる。
この場合における「スケジュール化」に予め定めたスケジュール化が含まれ、「予め定めたスケジュール化」には、後述するように、いずれかの目視検査支援装置12のカメラの移動完了を示す信号に基づいて目視検査を行う優先順位を付与するようにプログラム化してある場合を含めるものとする。要は、検査員の指示によって優先順位が定まるのではなく、予め組み込んだプログラムに従って優先順位が定まる方法が採用され、検査員の負担が軽減される。
画像モニタ部33は、画面に表示されたスケジュール化された目視検査撮影画像についてカメラの態様を変えての当該検査部位についての目視検査撮影画像をスケジュール化された目視検査撮影画像と共に、またはこれに代えて画面に表示することができる。
また、制御部35は、どの外観検査装置80A,80Bまたは80Cが目視検査状態にあるか、またどの目視検査装置のカメラが移動状態にあるかを判定する判定手段43を備えることになる。
更に、システムとして見た場合、目視検査管理集中システム100は、基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の外観検査装置80と、これらの外観検査装置80にそれぞれ通信手段70を介して格納されて目視検査撮影画像を入力する入力部31と、目視検査撮影画像に基づいて再生された検査部位を画面に表示する画像モニタ部33と、画面に表示された検査部位について目視判定結果を次々に格納する格納部32と、各外観検査装置に備えたカメラを検査部位に通信手段70を介して移動制御する制御部35と、を備えた目視検査集中管理装置90を有することになる。
この目視検査集中管理装置90は、複数の内の一つの外観検査装置から送信された検査部位についての目視検査撮影画像並びに一連の連続した画像(動画を含めて)を画像モニタ部33の画面に表示し、目視判定結果を入力し、この画像表示、目視判定結果を入力する間に、他の外観検査装置のカメラを所定の検査部位の撮影のために移動設定させることを次々に行うことになる。
この場合、外観検査装置80は、基板の検査部位を撮影する目視検査支援装置12と該検査部位について自動外観検査を行う自動外観検査装置11から構成され、格納部32には各検査部位について自動外観検査装置11による外観検査結果と目視検査集中管理装置90による目視判定結果が格納されることになる。
また、各目視検査支援方式に備えられた一箇所に集中して配置されたパソコンは全体として目視検査集中管理装置90を構成し、いずれかのパソコンが使用されて目視判定、カメラ移動を行うかのために各パソコンに備えた選択機能によっていずれかのパソコンが選択され、あるいは切替器による切り替えが行われることになる。
図3は画像モニタ部33の画面に表示される画像を示す。画像モニタ部33の画面33Aには、自動外観検査画像である検査部位撮影画像を静止画像として表示する画面33B、この検査部位撮影画像に対応し、正常な検査部位の撮像画像である静止した参照画像を表示する画面33C、検査員が指示入力を行う指示入力画面33Dおよび指示入力があったときに当該検査部位についての撮影のために採用されたカメラ態様に基づいて撮影された一連の連続画像(動画を含めて)を表示する画面33Eが構成される。
この画面では、3つの画像を表示しているが、一連の連続画像表示を全体の1つの画像として表示するように切り替えることができる。また、一連の連続画像と静止画像あるいは一連の連続画像と静止参照画像を表示するようにしてもよい。
指示入力画面33Dは、現状の目視状況情報を示す表示部33D1および指示入力表示部33D2を備え、コンソールボックスやマウス操作で指示入力がなされる。
および図に実施例2を示す。図に実施例1の図1に、そして図は図2に相当する。図1および図2と同一の構成には同一の番号を付してあり、図1および図2について行った説明を援用し、図1および図にない機能を中心にして説明することにする。
実施例2は第三の方法を示す。
第三の方法は、全目視検査支援装置12を含めた全外観検査装置80に対して一台のモニタ手段、操作盤を備えたパソコンを使用して集中管理を行って運用する方法である(一括機能集中管理型)。
において、一台の目視検査集中管理装置90は、入力部(入力手段)31、格納部(格納手段)32、画像モニタ部(画像モニタ手段)33、目視判定結果入力部(目視判定結果入力手段)34および操作盤に内蔵させた制御部(制御手段)35を備える。制御部35は画面表示指示手段41、目視判定結果入力指示手段42、目視検査状態検出、判定ならびにカメラ移動状態検出、移動完了を判定する判定手段43、表示すべき画像について優先順位付与を行う優先順位付与手段44およびカメラ移動指示手段45を備える。
この実施例は、1人の検査員に対して一台のパソコンに内蔵させた目視検査集中管理装置90を使用し、この目視検査集中管理装置90は、制御部35に優先順位付与手段44を備えることを特徴とする。
において、制御部35の優先順位付与手段44は、各外観検査装置80、目視検査支援装置12の備えるカメラの移動完了順に優先順位を付与する機能57を有する。移動完了順に加えて割り込み制御による順位付与としてもよい。
この実施例の場合には、モニタ手段機能および操作盤機能を備えたパソコンを使用し、イーサネット(登録商標)等のネットワークを介して各目視検査支援装置12に接続することになる。この方式によれば、遠隔にあるパソコンで目視検査集中管理装置90を構成し、通信手段としてネットワークを経由して複数の目視検査支援装置12に接続し、運用することを行う。ネットワーク経由で操作するために、TCP/IP等の一般的なプロトコルに沿って運用する形態とすれば、海外にある外観検査装置80、目視検査支援装置12を国内で運用することが可能となる。
複数の目視検査支援装置12についてそれぞれ目視検査を行うに必要な全機能を含むソフトウェアを遠隔にあるパソコンに、すなわち目視検査集中管理装置90に搭載し、管理用ソフトウェアと通信を行わせる方法(目視検査支援装置における集中管理方式)と、複数の目視検査支援装置12についてそれぞれに目視検査を行うために必要な最小限の機能を含むソフトウェアを搭載し、遠隔にあるパソコンの集中管理ソフトウェアと通信させる。
この実施例によれば、画像モニタ部33が、複数の目視検査装置12A,12B,12Cから送信された検査部位についての目視検査撮影画像を予め定めたスケジュールに従って順次画面に表示するに当って、目視検査集中管理装置100は、備えた判定手段43によって、どの目視検査装置12が目視検査状態にあるか、またどの目視検査装置12のカメラが移動状態であるかを判定し、カメラの移動完了を示す信号に基づいていずれかの目視検査装置に優先順位を付与し、目視検査が完了すると、優先順位の上位にある目視検査装置によって撮影された目視検査撮影画像を優先して画面モニタ部33に画面に表示させることができるようにプログラム化しておくことができる。
この場合に、検査員が目視検査を行うために必要な情報は、検査対象物の特定や検査箇所の情報など、検査対象物に関する情報が多い。それに対して、どの目視検査支援装置で検査を行っている箇所であるかを意識しなければならないことは少なく、どの目視検査支援装置で検査を行っているかを積極的に意識させながら検査を行わせる必要は少ないと考えられる。
そこで、複数の目視検査支援装置において、どの装置が検査可能状態であるか移動状態であるか等を集中管理ソフトウェアに制御させ、目視検査が可能である目視検査支援装置の制御を優先的に行うように進行させることは有効である。具体的には、検査箇所への移動が終わって検査が開始できる状況とあった時点で移動完了を示す信号を目視検査支援装置が集中管理ソフトウェアに通知し、その通知を集中管理ソフトウェアが優先順位をつけて管理を行う。これにより、検査員が目視検査後に良否判定を行った時点で集中管理ソフトウェアが次の検査情報を画面に表示することができ、検査員は連続的に目視検査を行うことができるようになり、目視検査の効率が向上する。
・ネットワーク経由による画像の送信方法
複数の目視検査支援装置を運用する際に技術的に解決すべき課題として、ネットワークを経由した場合の画像の送信方法がある。目視検査時には検査員の操作に併せた動画での画像表示が必要であるが、現在の技術では動画でのネットワーク送信には画質的に限界がある恐れがある。現時点でそれを解決する手段としては、検査員が目視検査支援装置のロボット部を操作するような場合には動画を使用し、操作を終了した時点で精細な静止画に切り替える手法が有効であると考えられる。また、今後の技術の進歩によって全画像を動画で表示できるようになる可能性も高い。
以上のように、基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の外観検査装置80にそれぞれ通信手段70を介して接続されて目視検査撮影画像を入力する入力部31と、目視検査撮像画像に基づいて再生された検査部位を画面に表示する1台の画像モニタ部33と、画面に表示された検査部位について目視判定結果を次々に格納する格納部32と、各目視検査装置に備えたカメラを検査部位に通信手段70を介して移動制御する制御部35と、を有する。
そして、制御部35は、一つの外観検査装置80から送信された検査部位についての目視検査撮影画像を1台の画像モニタ部33の画面に表示させ、目視判定結果を入力させ、この画面表示、目視判定結果を入力させる間に、他の外観検査装置のカメラを所定の検査部位の撮影のために移動設定する制御を次々に行うことになる。
また、この制御部35は、どの外観検査装置80A、80Bまたは80Cが目視検査状態にあるか、またどの外観検査装置のカメラが移動状態にあるかを判定する判定手段43を備えることになる。
更に、システムとして見た場合、目視検査集中管理システム100は、基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の外観検査装置80と、これらの目視検査装置にそれぞれ通信手段70を介して格納されて目視検査撮影画像を入力する入力部31と、該目視検査撮影画像に基づいて再生された検査部位を画面に表示する画像モニタ部33と、画面に表示された検査部位について目視判定結果を次々に格納する格納部32と、各外観検査装置に備えたカメラを検査部位に通信手段を介して移動制御する制御部35と、を備えた1つの目視検査集中管理装置90を有することになる。
この目視検査集中管理装置90は、一つの外観検査装置から送信された検査部位についての目視検査撮影画像を画像モニタ部33の画面に表示し、目視判定結果を入力し、この画像表示、目視判定結果を入力する間に、他の外観検査手装置のカメラを所定の検査部位の撮影のために移動設定させることを次々に行うことになる。
によって、実施例1あるいは実施例2に関連して外部検査装置A(80A)および外部検査装置B(80B)の2台を使用した場合の動作概要について説明する。3台以上使用した場合は、類推するものとし、プログラムによって判定された優先順位が採用されるものとする。
まず、外部検査手段Aに基板が搬入され、カメラが検査部位へと移動され、判定待ちとなる(S1)。判定待ちの状態になり、次に画像モニタ部の画面に検査部位のビデオ映像と目視検査支援装置12の上流に設置された自動外観検査装置11の判定結果が表示される(S2)。
検査員は、目視検査集中管理装置90が備えるコンソールボックスやマウス操作で起動する。すると、目視検査支援装置12Aで取得された撮影画像が画像モニタ部に表示される。検査員は、自動外観検査装置の判定結果によって定められた検査部位である不良ポイントについて目視による不良判定を行う。目視判定結果を入力し、格納する。そして、この間に制御部35によって目視検査支援装置12Bのカメラの移動指示がなされる(S3)。この判定状態、入力、格納する間にスケジュールに沿って目視検査支援装置12Bに基板が搬入され、カメラが検査部位へと移動され、判定待ちとなる(S4)。判定待ちの状態になり、次に画像モニタ部の画面に検査部位のビデオ映像と目視検査支援装置12Bの上流に設置された自動外観検査装置11の判定結果が表示される(S5)。これが検査部位撮像画像となる。
検査員は、目視検査集中管理装置90に接続された目視検査支援装置12Bで取得された撮像画面を見て、自動外観検査装置の判定結果によって定められた検査部位である不良ポイントについて目視による不良判定を行う。目視判定結果を入力し、格納する。そして、この間に制御部35によって目視検査支援装置12Aのカメラの移動指示がなされる(S6)。この判定状態、入力、格納する間に、該カメラが検査部位へと移動され、判定待ちとなる(S7)。判定待ちの状態になり、次にスケジュールに沿って画像モニタ部の画面に検査部位のビデオ映像と目視検査支援装置12の上流に設置された自動外観検査装置11の判定結果が表示される(S8)。
目視による不良判定等がS3に示すと同じくなされている時に、目視検査支援装置12Bについてはカメラが移動され、判定待ちとなる(S9)。
以下、同様にして動作が繰り返されて検査部位について検査が行われて検査完了、(S10、S11)、基板が搬入される(S12、S13)。
以上の実施例によれば、入力部31によって、基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の目視検査支援装置12にそれぞれ通信手段70を介して接続されて目視検査撮影画像を入力し、格納部32に、目視検査撮画像に基づいて再生された検査部位を画面に表示された検査部位について目視判定結果を次々に格納し、制御部35によって、各目視検査装置に備えたカメラを検査部位に通信手段70を介して移動制御すること、
制御部35は、複数の内の一つの目視検査支援装置12から送信された検査部位についての目視検査撮影画像を画像モニタ部33の画面に表示させ、目視判定結果を入力させ、この画面表示、目視判定結果を入力させる間に、他の外観検査装置のカメラを所定の検査部位の撮影のために移動設定する制御を行い、画面に表示された目視検査撮影画像についてのカメラの態様を変えての当該検査部位についての目視検査撮影画像を上述した目視検査撮影画像と共にまたはこれに代えた形で画面に表示し、あるいは/および目視検査集中管理装置90は、備えた判定手段によって、どの外観検査装置が目視検査状態にあるか、またどの外観検査装置のカメラが移動状態であるかを判定し、カメラの移動完了を示す信号に基づいていずれかの目視検査支援装置12A,12B,12Cに予め格納した優先順位を定めるプログラムによって優先順位を付与し、目視検査が完了すると、優先順位の上位にある目視検査支援装置12A,12B,12Cによって撮影された目視検査撮影画像を優先して画面に表示することを特徴とする目視検査集中管理方法が提供される。
本発明の実施例(実施例1)の構成を示すブロック図。 本発明の実施例の機能を示す図。 画面構成の一例を示す図。 本発明の他の実施例の構成を示すブロック図。 本発明の他の実施例(実施例2)の機能を示す図。 実施例1および2についての動作を説明する図。
符号の説明
11…自動外観検査装置、12…目視検査支援装置、31…入力部(入力手段)、32…格納部(格納手段)、33…画像モニタ部(画像モニタ手段)、34…目視判定結果入力部(目視判定結果入力手段)、35…制御部(制御手段)、41…画面表示指示手段、42…目視判定結果入力指示手段、43…判定手段、44…優先順位付与手段、45…カメラ移動指示手段、70…通信手段、80,80A,80B,80C…外観検査装置(外観検査手段)、90…目視検査集中管理装置(目視検査集中管理手段)、100…目視検査集中管理システム(目視検査支援システム)。

Claims (9)

  1. 基板の検査部位を撮影して得られた撮影画像を画像モニタ手段で再生し、検査部位についての目視検査結果を入力、格納する目視検査集中管理装置において、
    前記基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の目視検査装置にそれぞれ通信手段を介して接続されて目視検査撮影画像を入力する入力手段と、該目視検査撮画像に基づいて検査部位を画面に表示する前記画像モニタ手段と、画面に表示された検査部位について目視判定結果を次々に格納する格納手段と、各目視検査装置に備えたカメラを検査部位に前記通信手段を介して移動制御する制御手段と、を有し、
    前記モニタ手段は、複数の目視検査装置から送信された検査部位についての目視検査撮影画像をスケジュールに従って順次画面に表示し、前記制御手段は、画面に表示された、スケジュール化された目視検査撮影画像についてカメラの角度を変えた目視検査撮影画像の要求があると、カメラの角度を変えて当該検査部位について目視検査撮影画像を取得させて前記スケジュール化された目視検査撮影画像と共に、またはこれに代えて前記モニタ手段に表示させることを特徴とする目視検査集中管理装置。
  2. 請求項1において、前記モニタ手段は、前記カメラの角度を変えての当該検査部位についての目視検査撮影画像を連続した画像もしくは動画として画面に表示することを特徴とする目視検査集中管理装置。
  3. 請求項1において、前記制御手段は、目視判定結果を入力させ、この画面表示、目視判定結果を入力させる間に、他の目視検査装置のカメラを所定の検査部位の撮影のために移動設定する制御を行うことを特徴とする目視検査集中管理装置。
  4. 基板の検査部位を撮影して得られた撮影画像を画像モニタ手段で再生し、検査部位についての目視検査結果を入力、格納する目視検査集中管理システムにおいて、
    前記基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の目視検査装置と、
    これらの目視検査装置にそれぞれ通信手段を介して格納されて目視検査撮影画像を入力する入力手段と、該目視検査撮影画像に基づいて検査部位を画面に表示する前記画像モニタ手段と、画面に表示された検査部位について目視判定結果を次々に格納する格納手段と、各目視検査装置に備えたカメラを検査部位に前記通信手段を介して移動制御する制御手段と、を備えた目視検査集中管理装置を有し、
    該目視検査集中管理装置は、複数の目視検査装置から送信された検査部位についての目視検査撮影画像を前記画像モニタ手段の画面に表示し、前記制御手段は、画面に表示された、スケジュール化された目視検査撮影画像についてカメラの角度を変えた目視検査撮影画像の要求があると、カメラの角度を変えて当該検査部位について目視検査撮影画像を取得させて前記スケジュール化された目視検査撮影画像と共に、またはこれに代えて前記モニタ手段に表示し、目視判定結果を入力し、この画像表示、目視判定結果を入力する間に、他の目視検査装置のカメラを所定の検査部位の撮影のために移動設定させることを行うことを特徴とする目視検査集中管理システム。
  5. 請求項4において、目視検査装置が前記目視検査装置と該検査部位について自動目視検査を行う自動目視検査装置から構成され、前記格納手段には各検査部位について自動目視検査装置による目視検査結果と前記目視検査集中管理装置による目視判定結果が格納され、前記モニタ手段は、前記カメラの角度を変えての当該検査部位についての目視検査撮影画像を連続した画像もしくは動画として画像に表示すると共に、同一画面に前記自動外観検査装置が撮像した当該検査部位についての検査画像およびこの検査画像についての静止参照画像を表示することを特徴とする目視検査システム。
  6. 基板の検査部位を撮影して得られた撮影画像を画像モニタ手段で再生し、検査部位についての目視検査結果を入力、格納する目視検査集中管理装置による目視検査集中管理方法において、
    入力手段によって、前記基板の検査部位の撮影を行うカメラをそれぞれ備えた複数の目視検査装置にそれぞれ通信手段を介して接続されて目視検査撮影画像を入力し、格納手段に、該目視検査撮画像に基づいて検査部位を画面に表示された検査部位について目視判定結果を次々に格納し、制御手段によって、各目視検査装置に備えたカメラを検査部位に前記通信手段を介して移動制御し、
    前記画像モニタ手段は、複数の目視検査装置から送信された検査部位についての目視検査撮影画像を予め定めたスケジュールに従って順次画面に表示し、かつ画面に表示されたスケジュール化された目視検査撮影画像についてカメラの態様を変えての当該検査部位についての目視検査撮影画像を前記スケジュール化された目視検査撮影画像と共に、またはこれに代えて画面に表示することを特徴とする目視検査集中管理方法。
  7. 請求項6において、前記制御手段によって目視判定結果を入力させ、この画面表示、目視判定結果を入力させる間に、他の目視検査装置のカメラを所定の検査部位の撮影のために移動設定する制御を行うことを特徴とする目視検査集中管理方法。
  8. 請求項6において、前記モニタ手段に、前記カメラの態様を変えての当該検査部位についての目視検査撮影画像を連続した画像もしくは動画として画面に表示することを特徴とする目視検査集中管理方法。
  9. 請求項6において、前記目視検査集中管理装置は、備えた判定手段によって、どの目視検査装置が目視検査状態にあるか、またどの目視検査装置のカメラが移動状態であるかを判定し、カメラの移動完了を示す信号に基づいていずれかの目視検査装置に優先順位を付与し、目視検査が完了すると、優先順位の上位にある目視検査装置によって撮影された目視検査撮影画像を優先して画面に表示することを特徴とする目視検査集中管理方法。
JP2006286053A 2006-10-20 2006-10-20 目視検査支援装置、目視検査支援システム並びに目視検査支援方法 Active JP5017605B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006286053A JP5017605B2 (ja) 2006-10-20 2006-10-20 目視検査支援装置、目視検査支援システム並びに目視検査支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006286053A JP5017605B2 (ja) 2006-10-20 2006-10-20 目視検査支援装置、目視検査支援システム並びに目視検査支援方法

Publications (2)

Publication Number Publication Date
JP2008102075A JP2008102075A (ja) 2008-05-01
JP5017605B2 true JP5017605B2 (ja) 2012-09-05

Family

ID=39436501

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006286053A Active JP5017605B2 (ja) 2006-10-20 2006-10-20 目視検査支援装置、目視検査支援システム並びに目視検査支援方法

Country Status (1)

Country Link
JP (1) JP5017605B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3988926A1 (en) * 2020-10-21 2022-04-27 Wit Co., Ltd. Inspection system

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5274136B2 (ja) * 2008-07-24 2013-08-28 株式会社東芝 検査員の支援システム及び支援プログラム
JP6903736B2 (ja) * 2017-03-09 2021-07-14 株式会社Fuji 供給部品検査装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001141601A (ja) * 1999-11-11 2001-05-25 Sony Corp 表示装置または撮像装置の評価選別方法及び装置
JP3542114B2 (ja) * 2000-03-08 2004-07-14 株式会社 日立技研 工業製品の目視検査支援装置
JP2002277845A (ja) * 2001-03-16 2002-09-25 Sharp Corp 液晶パネル欠陥箇所表示システム
JP2004085436A (ja) * 2002-08-28 2004-03-18 Hitachi Giken Co Ltd 工業製品の目視検査支援装置
JP4243500B2 (ja) * 2003-03-12 2009-03-25 日本Cmo株式会社 ディスプレイパネルの欠陥検査システム
JP2006170622A (ja) * 2004-12-10 2006-06-29 Olympus Corp 外観検査装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3988926A1 (en) * 2020-10-21 2022-04-27 Wit Co., Ltd. Inspection system

Also Published As

Publication number Publication date
JP2008102075A (ja) 2008-05-01

Similar Documents

Publication Publication Date Title
JP4417400B2 (ja) はんだ検査ライン集中管理システム、及びそれに用いられる管理装置
US20200202505A1 (en) Display panel detection method, apparatus and system
JP5960644B2 (ja) 監視システム
CN109725247B (zh) 一种电路板远程维护保障方法及系统
KR20090026937A (ko) 복수의 이벤트 영상을 표시하는 통합 감시 시스템 및 이를이용한 복수의 이벤트 영상 표시 방법
JP5017605B2 (ja) 目視検査支援装置、目視検査支援システム並びに目視検査支援方法
JP4649051B2 (ja) 検査画面の表示方法及び基板検査システム
WO2014030256A1 (ja) 電気回路製造ライン支援システム
JP2004279037A (ja) ディスプレイパネル欠陥検査システム及び方法
TWI697665B (zh) 用於測試片材之機械加工結果之品質的方法及測試裝置
CN102100135A (zh) 组件安装系统
JP4813071B2 (ja) マクロ画像表示システム及びマクロ画像表示方法
CN108873777B (zh) 一种地面测试发射控制系统监控平台及监控方法
KR20190108044A (ko) 결함 확인 장치, 결함 확인 방법 및 컴퓨터로 판독 가능한 기억 매체
WO2022085135A1 (ja) 検査システム
JP2002268721A (ja) 保守診断方法及びそのシステム
JP2007103696A (ja) 基板の欠陥検査システム及び基板の欠陥検出方法
KR20140042147A (ko) 운전원의 행위 표시 방법
JPWO2022085135A5 (ja)
KR101523512B1 (ko) 자동 광학 검사 시스템, 장치 및 방법
JP2008175764A (ja) 外観検査装置
CN111678429B (zh) 一种显微测量系统及显微测量方法
JP3514087B2 (ja) 実装基板の外観検査装置および外観検査システムならびに外観検査方法
WO2022162961A1 (ja) 管理装置及び管理システム
JP2005252831A (ja) 設備監視支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091014

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091015

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110812

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120424

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120510

R150 Certificate of patent or registration of utility model

Ref document number: 5017605

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150622

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250