JP2004110703A - Environmental load evaluation system and environmental load evaluation method - Google Patents
Environmental load evaluation system and environmental load evaluation method Download PDFInfo
- Publication number
- JP2004110703A JP2004110703A JP2002275576A JP2002275576A JP2004110703A JP 2004110703 A JP2004110703 A JP 2004110703A JP 2002275576 A JP2002275576 A JP 2002275576A JP 2002275576 A JP2002275576 A JP 2002275576A JP 2004110703 A JP2004110703 A JP 2004110703A
- Authority
- JP
- Japan
- Prior art keywords
- data
- component
- environmental load
- matching
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000007613 environmental effect Effects 0.000 title claims abstract description 174
- 238000011156 evaluation Methods 0.000 title claims abstract description 76
- 238000004364 calculation method Methods 0.000 claims abstract description 12
- 238000003860 storage Methods 0.000 claims description 26
- 238000003384 imaging method Methods 0.000 claims description 5
- 239000000758 substrate Substances 0.000 abstract description 42
- 238000000034 method Methods 0.000 abstract description 35
- 238000010586 diagram Methods 0.000 description 42
- 238000005520 cutting process Methods 0.000 description 8
- 238000005286 illumination Methods 0.000 description 7
- 238000004519 manufacturing process Methods 0.000 description 5
- 238000003909 pattern recognition Methods 0.000 description 5
- 239000004065 semiconductor Substances 0.000 description 5
- 239000003990 capacitor Substances 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000005304 joining Methods 0.000 description 4
- 102100029860 Suppressor of tumorigenicity 20 protein Human genes 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 101001139126 Homo sapiens Krueppel-like factor 6 Proteins 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 101000911772 Homo sapiens Hsc70-interacting protein Proteins 0.000 description 1
- 101000710013 Homo sapiens Reversion-inducing cysteine-rich protein with Kazal motifs Proteins 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 239000002994 raw material Substances 0.000 description 1
- 238000004064 recycling Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
【0001】
【発明の属する技術分野】
本発明は、電子部品を搭載した基板(以下、部品搭載基板と記す)の環境負荷評価システムおよび環境負荷評価方法に関する。
【0002】
【従来の技術】
従来、製品の製造から廃棄処分に至るライフサイクルを原料の採取・輸送、材料の製造、部品の製造、製品の製造・輸送、使用、リサイクル、廃棄の各段階に分け、各段階におけるエネルギや資源等の消費量、排出物の種類・発生量を求め、それらを総合して環境に与える負荷を定量的に評価することをライフサイクルアセスメントと言う。ライフサイクルアセスメントに関する従来技術としては、例えば特開平7−311760号公報および特開2000−553号公報に、環境負荷評価方法および装置が開示されている。
【0003】
また、特開平10−311760号公報に開示された環境負荷評価方法および装置は、部品の種類・寸法と環境負荷の関係とを予め調査してデータベース化しておくことにより、部品搭載基板の環境負荷の評価にかかる手間と時間を少なくしようとする試みがなされているが、実際の部品搭載基板においては、その設計段階での回路構成についての情報が分っていても、上記調査後に設計変更されたり設計された部品が調達されずに代替部品が使用されたりすることから、実際に回路基板を製造した際にどのような部品を基板に実装したのか分らない場合が通常である。したがって、各基板に搭載される部品の特定を目視や書類検査等により行い、このようにして手作業で特定した部品の種類および個数を環境負荷の計算に用いることになる。
【0004】
そのような手作業においては、場合によっては基板上の部品の種類や寸法等の情報を評価するために、基板からハンダ付けされた部品を取外して検査したり、大きさを計測したりする作業が必要になる場合もある。電気製品においては回路が複雑になるに伴い、基板に搭載される部品点数が加速度的に増大している。そのため、膨大な数の部品についてその製造段階まで遡って手作業で環境負荷を評価することは、手間がかかりまた長時間を要するという問題があった。
【0005】
この問題を解決するため、本願出願人は、平成14年6月21日に、部品搭載基板の環境負荷を短時間で自動的に評価可能にする「環境負荷評価システムおよび環境負荷評価方法」と題する発明の特許出願を行った(特願2002−181744参照)。
【0006】
この環境負荷評価システムは、評価対象の部品搭載基板を撮像した画像データを取込む画像取得ユニットと、複数の部品について照合用データおよび環境負荷データを含む部品データベースと、画像データと部品データベースの照合用データとを照合することで評価対象の部品搭載基板の各部品を特定し、特定された部品の環境負荷データを部品データベースから抽出することにより評価対象の部品搭載基板の環境負荷データを求める認証照合ユニットと、を含んで構成される。
【0007】
また、上記システムは、評価対象の部品搭載基板の重量を計測した重量データを取込む重量データユニットと、複数の部品搭載基板について照合用データおよび環境負荷データを含む基板判定データベースとを含み、認証照合ユニットは、画像データおよび重量データと基板判定データベースの照合用データとを照合することで評価対象の部品搭載基板を全体として評価する第1の照合処理を実行し、第1の照合処理が特定に失敗した場合に評価対象の部品搭載基板の各部品を特定する第2照合処理を実行する。
【0008】
この環境負荷評価システムによれば、カメラにより撮像した画像データおよび計測した重量データを基に、基板判定データベースあるいは部品データベースを参照することで、部品搭載基板あるいは基板上の部品を認識して特定し、部品搭載基板の環境負荷量を求めることができる。したがって、従来、手作業で長時間かけて行っていた電気製品の部品搭載基板の環境負荷評価を、人手によらずかつ短時間で正確に行うことが可能になり、ライフサイクルアセスメントの省力化とコストダウンを実現することができる。
【0009】
【特許文献1】
特願2002−181744(明細書の[特許請求の範囲]、[発明の詳細な説明]における段落番号[0020]〜[0045]および
図面の図4〜図8参照)。
【0010】
【発明が解決しようとする課題】
しかしながら、上記特願2002−181744で提案した環境負荷評価システムは、部品搭載基板の環境負荷を短時間で自動的に評価できるものの、システムが保有する部品データ数が少ないと認識率が低くなり、また基板上の部品で部品データにマッチングしない部品については全てアロケーションを行うこと、すなわちマッチングしない部品の環境負荷量をマッチングした部品に分散して割当てるから、アロケーションする部品点数が多くなり、正確な環境負荷の評価が困難であるという問題がある。
【0011】
それゆえ、本発明は、上記問題を解決し、すなわち環境負荷の評価を正確に行う環境負荷評価システムおよび環境負荷評価方法を提供することを目的とする。
【0012】
【課題を解決するための手段】
上記目的を達成する本発明の第一形態に係る環境負荷評価システム(方法)は、評価対象の部品搭載基板を撮像した画像データを取込む画像取得ユニットと、複数の部品について照合用データおよび環境負荷データを含む部品データベースと、前記画像データと前記部品データベースの照合用データとを照合する照合ユニットと、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、評価対象の部品搭載基板の部品の画像データに対する予め用意した部品の画像パターンとのマッチング率を計算するマッチング率ユニットと、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記予め用意した部品の中から前記マッチング率ユニットにより計算されたマッチング率の最も高い部品を前記評価対象の部品と特定し、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致したとき、評価対象の部品搭載基板の各部品を特定し、それぞれ特定された部品の環境負荷データを環境負荷データベースから抽出することにより評価対象の部品搭載基板の環境負荷データを求める環境負荷計算ユニットと、を備えることを特徴とする。
【0013】
上記第一形態に係る環境負荷評価システム(方法)において、前記マッチング率ユニットにより計算されたマッチング率が所定の閾値より大のとき、マッチング率の最も高い部品を前記評価対象の部品と特定し、前記計算されたマッチング率が所定の閾値以下のとき、前記評価対象の部品を特定せずにその環境負荷量を特定された部品の環境負荷量にアロケーションする割振りユニットを備える。
【0014】
上記第一形態に係る環境負荷評価システム(方法)において、評価対象の部品搭載基板の重量を測定する重量測定ユニットを備え、前記部品データベースにおける前記照合用データは部品の重量データを有し、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致せず特定されなかった部品の環境負荷量を、前記部品搭載基板の重量と前記部品データベースに格納された部品の重量データとに基づき、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致して特定された部品の環境負荷量にアロケーションする。
【0015】
上記目的を達成する本発明の第二形態に係る環境負荷評価システム(方法)は、評価対象の部品搭載基板を撮像した画像データを取込む画像取得ユニットと、複数の部品について照合用データおよび環境負荷データを含む部品データベースと、前記画像データと前記部品データベースの照合用データとを照合する照合ユニットと、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記評価対象の部品の画像データを基に他の情報源から類似した部品を抽出し、抽出した部品の環境負荷データを格納する格納ユニットと、を備えることを特徴とする。
【0016】
上記第二形態に係る環境負荷評価システム(方法)において、前記格納ユニットに格納される部品の環境負荷データが、インターネットを介して獲得される。
【0017】
【発明の実施の形態】
以下、添付図面を参照しつつ本発明の実施の形態を説明する。
【0018】
図1は本発明の第一実施形態に係る部品搭載基板の環境負荷評価システムの構成図である。図1全体に示す本発明による環境負荷評価システム10は、評価対象の部品搭載基板(以下、単に基板と記す)1上に固定され基板1を撮像した画像データを取込むカメラ(画像取得ユニット)2と、基板1上に固定され基板1を照明する照明装置3と、基板1の重量を計測する秤4と、基板1を載せた秤4を載せるステージ5と、カメラ2、照明装置3、秤4およびステージ5に接続された制御装置6を有する。
【0019】
制御装置6には、外部記憶装置7、例えば磁気ディスクが接続されており、外部記憶装置7には、基板1上の複数の部品および部品搭載基板についての照合用データを記録した照合データベース(DB)71と、複数の部品および部品搭載基板についての環境負荷データを記録した環境負荷データベース(DB)72とが格納されている。
【0020】
図2は図1に示す制御装置6の詳細図である。制御装置6は、コンピュータ本体60、キーボード611やマウス612等の入力装置61、ディスプレイ621やプリンタ622等の出力装置62およびコンピュータ本体60とLANやインターネットを介した外部のコンピュータとの間でプログラムやデータを送受信する通信装置63を有する。
【0021】
コンピュータ本体60は、CPU601、CPU601が実行するプログラムやデータの一時記憶エリアおよびCPU601のワークエリアに用いられる主記憶装置としてのRAM602、固定のプログラムやデータを記憶するROM603、必要に応じてRAM602に書込まれるプログラムやデータを格納する磁気ディスク等からなる補助記憶装置604、フレキシブルディスクFDやコンパクトディスクCD等のようなプログラムやデータの記録媒体Mの読取装置605およびCPU601と入力装置61、出力装置62または通信装置63との間を通信可能に接続するインタフェース606を有する。CPU601、RAM602、ROM603、補助記憶装置604、読取装置605およびインタフェース606はバスライン607を介して互いに通信可能に接続されている。
【0022】
制御装置6は、ステージ5を3次元方向に移動させかつ各次元の方向の周りに回転させるステージ駆動装置を有する。本実施形態では、カメラ2を固定し、ステージ5を3次元方向に移動したり各移動方向の周りに回転させたりするが、ステージ5を固定し、ステージ5の代わりにカメラ2を3次元方向に移動したり各移動方向の周りに回転させたりする他の形態としてもよい。
【0023】
照明装置3は、基板1上の部品のコントラストをできるだけ大きく取れるように、照明光の色や照明光の基板1に対する照射角度を選択できる構成となっている。制御装置6から照明装置3に切換信号を送ることにより、照明光の色は、W(白)、R(赤)、G(緑)またはB(青)から選択され、照射角度は、基板1の真上、左上、右上、前上または後上から照明光を照射するよう選択される。
【0024】
図3は照合データベースの具体例を示す図であり、(A)は部品照合データベースを示す図であり、(B)は基板照合データベースを示す図である。図3の(A)に示すように、照合DB71には、基板1に搭載される部品、すなわち電子素子の素子名、素子番号(No.)およびパターンを記したテーブルが格納される。図3の(A)に示すように、素子名として、ロジックIC、メモリ、抵抗器、コンデンサ等が、各素子名に対しNo.が、各No.に対しパターンが記されている。このパターンは照合対象の部品の画像データと照合するための画像データである。図3の(B)に示すように、照合DB71には、基板1の機能を示す基板名、基板番号(No.)および各No.に対応する基板のパターンを記したテーブルが格納される。このパターンは照合対象の基板の画像データと照合するための画像データである。
【0025】
まず、カメラ2により基板1の画像データを獲得した後は、この獲得した画像データを基板の照合DB71に基づいて、基板1を特定する。また、特定不可能の場合には基板1上の各部品を認識して部品の照合DB71に基づいて基板1を特定する。特定した基板1のデータに基づいて、環境負荷DB72から基板1に対応する環境負荷データが計算される。この場合、特定できない部品については、部品DB71内に格納された図3の(A)に示す一般的な部品形状パターンとのマッチングを行い、照合対象の部品の画像データとそれぞれのDB71内の画像データとのマッチング率を算出し、照合対象の部品は最もマッチング率の高い画像データの部品であるとみなす。また、ここで、マッチング率が一定値(60%)を満たさない部品については、アロケーションを行う。ここで、アロケーションとは、特定できない照合対象の部品の環境負荷量を特定できた部品の画像データの面積に応じてその環境負荷量を割振る処理を言う。
【0026】
また、部品特定のための形状認識は、ステージを2次元(平面)方向に移動して行うが、ステージの2次元方向移動では不十分のときは3次元方向および各方向の周りに回転させて行うことにより、よりコントラストのよい画像データあるいは部品上に記された文字の認識ができる。
【0027】
図4は環境負荷評価方法のプログラムの機能モジュールを示す図である。本発明による環境負荷評価方法のプログラムは、画像認識モジュール401、カメラ制御モジュール402、スキャニングモジュール403、マッチングモジュール404、集計・帳票モジュール405、アロケーションモジュール406、グラフ化モジュール407および重量データ獲得モジュール408を含む。
【0028】
画像認識モジュール401は、カメラ2から取込まれた画像データを解析する。
【0029】
カメラ制御モジュール402は、カメラ2を制御してズーム、フォーカス、撮像位置等を調整し基板1を撮像させる。
【0030】
スキャニングモジュール403は、カメラ2が取込んだ画像データをコンピュータ本体60内のRAM602に取込む。
【0031】
マッチングモジュール404は、画像認識の結果に基づいて照合DBの基板DBと部品DBにおけるデータと画像データとを照合することにより基板1あるいは基板1上の部品を特定する。
【0032】
集計・帳票モジュール405は、画像認識・対象特定の結果に基づいて、特定された各部品の環境負荷評価データを纏めて表にする。
【0033】
アロケーションモジュール406は、評価対象である基板1上の部品の内で、認識・特定できなかったものについては、認識・特定できた部品データを参考に環境負荷量を割当てる。
【0034】
グラフ化モジュール407は、基板1に対して求められた環境負荷量についてのデータをグラフにして表示する。
【0035】
重量データ獲得モジュール408は、秤4からの重量データをコンピュータ本体60内のRAM602に取込む。
【0036】
上述のモジュールはコンピュータ本体60内のCPU601が実行するプログラムの機能モジュールであり、実行時には制御装置6の機能ユニットとして動作する。カメラ制御モジュール402とスキャニングモジュール403とで、画像データ取得のための機能ユニットを構成してもよい。また、画像認識モジュール401とマッチングモジュール404とで、認識照合のための機能ユニットを構成してもよい。
【0037】
次に、本発明による環境負荷評価方法を説明する。
【0038】
図5は本発明の第一実施形態に係る部品搭載基板の第1環境負荷評価方法の処理のフローチャートである。装置の構成は、図1に示す形態と同一であり、カメラ2が動き、ステージ5が固定となる。
【0039】
ステップST1では、画像認識精度の初期値を設定することで、環境負荷評価におけるマッチング処理の精度を設定する。これは、取込んだ画像データを基板データあるいは部品データとマッチング(照合)する際に、照合するパラメータ数や一致と判断するパラメータ範囲を設定することで、一致判定とする条件を設定するものである。
【0040】
ステップST2では、制御装置6により基板1の計測を開始させる。カメラ制御モジュール402からカメラ2に測定指示を送りスキャニングモジュール403により基板1全体のレイアウトを把握可能な画像データを取込む。
【0041】
ステップST3では、基板1全体の画像データを取り込み、基板1の面積を測定する。基板1全体の画像データに対し、画像認識モジュール401により画像認識処理を実行する。
【0042】
ステップST4では、重量データ獲得モジュール408により秤4で基板1の重量を測定し、重量データを獲得する。
【0043】
ステップST5では、基板1全体の画像データから、既に測定したことのある基板かどうかを判断する。具体的には、マッチングモジュール404により基板1の画像解析結果および重量データと基板DBのデータとを照合することで、基板1が基板DBの基板データと一致するか否かを判断する。その判断結果がYESの場合は、ステップST15に進み、ST15で結果を表示して本ルーチンを終了する。その判断結果がNOの場合は、ステップST6に進み、ST6でカメラ2を作動し、ステップST7に進む。本実施形態では、カメラ2のみ設けているが、他にX線カメラを設ければ、可視像の画像データだけでなく隠れた部分についての画像データを獲得することもできる。
【0044】
ステップST7、ST8、ST9、ST10、ST21、ST22では、基板1上の個々の部品についてのスキャニングを開始し、カメラ2が基板1上の座標終点を検知したらデータの集計、環境負荷の帳票化の作業を行う(処理A)。ここで、処理Aについて以下に説明する。
【0045】
制御装置6に外部記憶装置7から、基板や部品の種類・大きさなどの画像データと環境負荷量を関係づける情報を取得する(ステップST20)。次に、部品について認識すべき項目を列挙し(a:形状、b:色、c:銘板など)、ステップST7のスキャニングで得た画像データを用いて全ての項目について認識可能かどうか調べる。つまり、制御装置6の演算装置を用いて、2つの情報(関係付けの情報と画像データ)をマッチングさせてパターン認識により基板1に搭載されている個々の部品の種類(LSI、抵抗、コンデンサ等)を認識する(パターンマッチング:ステップST6、ST7、ST8)。
【0046】
認識したデータからその部品の環境負荷量を計算する(パターンマッチング:ステップST6、ST7、ST8)。
【0047】
ステップST21では、認識不可能な画像データについては、一般的な部品画像とのマッチングを行い、マッチング率を計算する。
【0048】
ステップST22では、マッチング率が60%以上の部品については、その部品種であるとみなし、面積を計算する。それ以外の部品については、認識不可能部品データとして、面積を計算し、制御装置6の外部記憶装置7に保存する(ステップST23)。座標がENDになるまで(ステップST8)、スキャニングして(ステップST7)、以上の作業を繰返す(基板1の座標終点を検出するまで)。
【0049】
ステップST10で集計、帳票化が終わったら、処理Aを終了し、ステップST11で、集計結果より認識率(基板や認識できた部品の質量の和、および基板全体の質量の比)を計算し、その結果、認識率の値が0.9未満であれば、画像認識精度を下げて(認識必要項目の数を減らす:3個から2個)、前述のパターン認識の作業にフィードバックする(ステップST12、ST13)。
【0050】
フィードバックを2回繰返し、ステップST11で、認識率が0.9以上になったら、認識できなかったデータをアロケーション(ステップST14)して、最終的な環境負荷評価結果を制御装置6に接続したディスプレイ621により図表化された形式で表示する(ステップST15)。
【0051】
図6は図5に示す処理A内のマッチング率計算処理の詳細フローチャートであり、図7はマッチング率計算の説明図であり、(A)はピクセル単位で画像データの一致/不一致を調べマッチング率を計算する例を示す図であり、(B)は輪郭の一致/不一致を調べマッチング率を計算する例を示す図である。
【0052】
ステップST1では、マッチング率を計算する部品の選別を行う。この選別は、照合DB71内の図3の(A)に示す部品DBに格納されているパターンと類似する素子のカテゴリがロジックIC、メモリ、抵抗器、コンデンサ等の何れかを決定する。
【0053】
ステップST2では、同一カテゴリ内の各No.の部品に対するマッチング率を計算する。ここで、マッチング率の計算例を説明する。
【0054】
図7の(A)はピクセル単位で画像データの一致/不一致を調べマッチング率を計算する例を示している。画像データの所定範囲内で一致するピクセル数と一致しないピクセル数とをカウントし、下式でマッチング率を計算する。
【0055】
マッチング率=(一致ピクセル数/(一致ピクセル数+不一致ピクセル数))*100
図7の(B)は輪郭の一致/不一致を調べマッチング率を計算する例を示している。特徴形状の一致している割合から、具体的には全周長TL(=L1+L2)において輪郭が一致した周長L1と不一致した周長L2を計算し、下式でマッチング率を計算する。
【0056】
マッチング率=(L1/(L1+L2))*100
ステップST3では、マッチング率を計算した部品は、マッチング率の最も高い部品と同一カテゴリの部品であると判定する。
【0057】
ステップST4では、切出し、個数カウントし、面積計算をする。ここで、切出しとは、部品の特定が終了した部品であることを示すチェックを入れることを意味する。
【0058】
ステップST5では、集計し、帳票を出力する。
【0059】
次に、一般的に使用する部品の切出し作業について説明する。
【0060】
図8は部品の切出し作業の説明図であり、(A)は作業対象の部品搭載基板を示す図であり、(B)は部品の切出し作業結果を示す図である。図8を参照して、図1に示す環境負荷評価システムの画像処理機能について以下に説明する。
【0061】
A:パターン認識で、照合対象の部品の画像データと照合DB内に存在する画像データとのマッチングを行い、同じ部品であると判定されたときは、切出し、同様に判定された照合対象の部品の個数をカウントする。B:文字認識も同様に行う。
【0062】
また、同一基板上に同じ部品が違った角度で実装されている場合には、C:角度認識により、切出し、個数をカウントする。ここで、認識された部品については、切出しや塗りつぶし処理により、同時に面積が計算される。次に、カメラ2で基板1全体の画像を取込めない場合の処理方法の一実施例について説明する。
【0063】
図9は(A)はカメラにより実装回路基板全体を4分割して撮った画像を示す図であり、(B)は繋ぎ合わせ処理した実装回路基板の全体画像を示す図である。マザーボードのように30cmほどの大きさがある基板1は一度に処理できないことが多々ある。こういう場合には、画像つなぎ合せ処理により、4枚の画像を1枚に繋ぎ合わせる等の処理を行う。
【0064】
図10は本発明の第一実施形態に係る部品搭載基板の第2環境負荷評価方法の処理のフローチャートである。これは、2次元の画像データのみを使用した、簡易的な環境負荷評価装置である。装置構成は、図1に示す形態と、ステージ5が動き、カメラ2は固定となる点で異なる。また、図10において図5に示すフローチャートと同一ステップ番号のものは同一処理を行うので説明を省略する。
【0065】
ステップST30では、基板1全体の画像データから、既に測定したことのある基板かどうかを判断し、その判断結果がYESの場合は、ステップST15で結果表示をして終了する。その判断結果がNOの場合は、ステップST20で取得した全体画像データを元に基板1上の個々の部品について、照合DB71に格納されている画像データとのパターンマッチング作業(形状、文字、角度等)を行う(ステップST9)。ステップST9で、マッチングできた部品は、基板1上の同じ部品のカウントを行い、カウント作業が終了すると、部品の基板1上での占有面積を算出する(ステップST33)。
【0066】
この一連のデータを制御装置6の外部記憶装置7に記録し、外部記憶装置7から、部品の画像データと環境負荷量を関係づける情報を取得し、集計し、帳票を作成する(ステップST10)。ステップST9で認識不可能な画像データについては、照合DB71に予め格納されている一般的な部品画像データとのマッチングを行い、マッチング率を計算する(ステップST32)。
【0067】
ステップST34でマッチング率が60%以上のものについては、その部品種であるとみなし、個数カウント、面積を計算する(ステップST35)。また、外部記憶装置7から、部品種の画像データと環境負荷量を関係づける情報を取得し、集計し、帳票を作成する(ステップST10)。それ以外の部品については、認識不可能の部品データとして、面積を計算し制御装置6の外部記憶装置7に保存する(ステップST36)。
【0068】
ステップST11では、集計結果より認識率(認識できた部品の面積の和と認識できなかった部品の面積の和の比)を計算し、その結果、認識率の値が0.9未満であれば、画像認識精度を下げて(認識必要項目の数を減らす:3個から2個)、前述のパターン認識の作業にフィードバックする(ステップST12、ST37)。
【0069】
フィードバックを2回繰返したところ認識率が0.9以上になれば、認識できなかったデータをアロケーション(ステップST14)して、最終的な環境負荷評価結果を制御装置6に接続したディスプレイ621により図表化した形式で表示する(ステップST15)。
【0070】
図11は本発明の第二実施形態に係る第1実施例の部品搭載基板の環境負荷評価システムの構成図である。図1に示す実施形態と略同一構成をしており、異なる所は、外部照合データベースDB71’および外部環境負荷データベースDB72’が設けられた点である。
【0071】
まず、カメラ2により基板1の画像データを獲得した後は、この獲得した画像データを基板の照合DB71に基づいて、基板1を特定する。また、特定不可能の場合には基板1上の各部品を認識して部品の照合DB71に基づいて基板1を特定する。特定した基板1のデータに基づいて、環境負荷DB72から基板1に対応する環境負荷データが計算される。この場合、特定できない未認識の部品については、部品の画像データを基に、外部データベース上、すなわち外部照合データベースDB71’および外部環境負荷データベースDB72’を検索し、類似した部品を抽出する。
【0072】
図12は本発明の第二実施形態に係る第2実施例の部品搭載基板の環境負荷評価システムの構成図である。図12に示す例は、外部データベース(外部照合データベースDB71’および外部環境負荷データベースDB72’)として、文献・カタログの電子データが格納される場合である。ここで、文献およびカタログデータは、例えばスキャナで読取った後に磁気ディスク等のハードディスクHD上に保管したもの、またはCD等の媒体上に記録したもの、または紙ベースの情報をPDF(Portable Document Format)等で電子ファイル化したものでもよい。ここで、PDFとは、異なるOSを有するコンピュータ間で文書ファイルをやり取りするための文字フォントや画像形式に関するフォーマットを意味する。
【0073】
図13は本発明の第二実施形態に係る第3実施例の部品搭載基板の環境負荷評価システムの構成図である。インターネットを介して外部データベース(外部照合データベースDB71’および外部環境負荷データベースDB72’)を検索する場合である。
【0074】
図14は文字情報から画像情報を検索した例を示す図であり、(A)は入力文字データを示す図であり、(B)は出力画像データを示す図である。図14は、検索エンジンgoogle(http://images.google.com/)による画像検索の一例を模式的に示す。入力キーワードとして「半導体」と入力し検索すると、当該サイトにおいて各種半導体の画像情報が検索でき、目的の半導体画像およびこれに関する情報が得られる。
【0075】
図15は画像情報から画像情報を検索した例を示す図であり、(A)は入力画像データを示す図であり、(B)は出力画像データを示す図である。図15は、検索エンジンeVision(http://www.evisionglobal.com/#)による画像検索の一例を模式的に示す。カメラより入力した画像を基に検索すると、当該サイトにおいて各種半導体の画像情報が検索でき、目的の半導体画像およびこれに関する情報を得られる。
【0076】
図16は本発明の第二実施形態に係る部品搭載基板の環境負荷評価方法の処理のフローチャートである。装置構成は、図1に示す形態と、ステージ5が動き、カメラ2は固定となる点で異なる。また、図10において図5に示すフローチャートと同一ステップ番号のものは同一処理を行うので説明を省略する。
【0077】
ステップST40では、基板1全体の画像から、既に測定したことのある基板かどうかを判断し、その判断結果がYESの場合は、ステップST15で結果表示をして終了する。その判断結果がNOの場合は、ステップST41に進む。
【0078】
ステップST41では、ステップST20で取得した全体画像を元に基板上の個々の部品について、照合DB71に格納されている画像データとのパターンマッチング作業(形状、文字、角度等)を行う。マッチングできた部品は、一連のデータを制御装置6の外部記憶装置7に記録し(ステップST45)、外部記憶装置7から、部品の画像データと環境負荷量とを関係づける情報を取得集計し(ステップST10)、帳票を作成する(ステップST10)。マッチングにより認識不可能な画像データについては、外部記憶装置7検索を行い、再度マッチングを行う。
【0079】
集計、帳票化が終わったら、ステップST10の集計結果より認識率(基板や認識できた部品の質量の和、および基板全体の質量の比)を計算し、ステップST11でその計算結果の値が0.9未満の場合には画像認識精度を下げてステップST41のパターンマッチング作業にフィードバックさせる(ステップST12、ST44)。
【0080】
フィードバックを3回繰返したところ認識率が0.9以上になったので、認識できなかったデータをアロケーション(ステップST14)して、最終的な環境負荷評価結果を制御装置6に接続したディスプレイ621により図表化した形式で表示する(ステップST15)。
【0081】
他の実施例として、図16のステップST3の基板全体画像認識において、取込む画像を3次元画像とし、パターンマッチングで判定する際の画像情報量を増加すると、2次元画像のみと比べ、認識率を向上させることができる。さらに他の実施例として、図16の認識不可能データを外部記憶装置により検索した情報を内部データベースとして取込む(追加登録する)と、さらに認識率を向上させることができる。
【0082】
また、他の実施例として、図16のパターンマッチングの際、検索用データベースを、通常プリント実装基板に搭載される部品の機能別カテゴリ(LSI、抵抗器、コンデンサ)別に予め区分しておくと、部品機能が類似した画像データの中から検索を行うことが可能であり、さらに認識率を向上させることができる。
【0083】
(付記1)評価対象の部品搭載基板を撮像した画像データを取込む画像取得ユニットと、複数の部品について照合用データおよび環境負荷データを含む部品データベースと、前記画像データと前記部品データベースの照合用データとを照合する照合ユニットと、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、評価対象の部品搭載基板の部品の画像データに対する予め用意した部品の画像パターンとのマッチング率を計算するマッチング率ユニットと、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記予め用意した部品の中から前記マッチング率ユニットにより計算されたマッチング率の最も高い部品を前記評価対象の部品と特定し、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致したとき、評価対象の部品搭載基板の各部品を特定し、それぞれ特定された部品の環境負荷データを環境負荷データベースから抽出することにより評価対象の部品搭載基板の環境負荷データを求める環境負荷計算ユニットと、
を備えることを特徴とする環境負荷評価システム。
【0084】
(付記2)前記マッチング率ユニットにより計算されたマッチング率が所定の閾値より大のとき、マッチング率の最も高い部品を前記評価対象の部品と特定し、前記計算されたマッチング率が所定の閾値以下のとき、前記評価対象の部品を特定せずにその環境負荷量を特定された部品の環境負荷量にアロケーションする割振りユニットを備える付記1に記載の環境負荷評価システム。
【0085】
(付記3)評価対象の部品搭載基板の重量を測定する重量測定ユニットを備え、前記部品データベースにおける前記照合用データは部品の重量データを有し、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致せず特定されなかった部品の環境負荷量を、前記部品搭載基板の重量と前記部品データベースに格納された部品の重量データとに基づき、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致して特定された部品の環境負荷量にアロケーションする、付記1または2に記載の環境負荷評価システム。
【0086】
(付記4)評価対象の部品の画像データから面積を計算する面積計算ユニットを備え、前記部品データベースにおける前記照合用データは部品の面積データを有し、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致せず特定されなかった部品の環境負荷量を、前記画像データの面積と前記部品データベースに格納された部品の面積データとに基づき、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致して特定された環境負荷量にアロケーションする、付記1乃至3の何れか一つに記載の環境負荷評価システム。
【0087】
(付記5)前記照合ユニットの照合結果、特定された同一部品を計数する計数ユニットを備えた、付記1乃至4の何れか一つに記載の環境負荷評価システム。
【0088】
(付記6)評価対象の部品搭載基板を撮像した画像データを取込む画像取得ユニットと、複数の部品について照合用データおよび環境負荷データを含む部品データベースと、前記画像データと前記部品データベースの照合用データとを照合する照合ユニットと、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記評価対象の部品の画像データを基に他の情報源から類似した部品を抽出し、抽出した部品の環境負荷データを格納する格納ユニットと、を備えることを特徴とする環境負荷評価システム。
【0089】
(付記7)前記格納ユニットに格納される部品の環境負荷データが、インターネットを介して獲得される、付記6に記載の環境負荷評価システム。
【0090】
(付記8)前記格納ユニットに格納される部品の環境負荷データが、電子媒体から獲得される、付記6に記載の環境負荷評価システム。
【0091】
(付記9)前記格納ユニットに格納される部品の環境負荷データが、カタログ等の画像データをスキャナで読取って獲得される、付記6に記載の環境負荷評価システム。
【0092】
(付記10)前記格納ユニットに格納される部品の環境負荷データが、該部品に刻印された文字情報を読取り、読取った文字情報を基に獲得される、付記6に記載の環境負荷評価システム。
【0093】
(付記11)前記画像データは、前記評価対象の部品を3次元画像データである、付記6に記載の環境負荷評価システム。
【0094】
(付記12)前記部品データベースに格納される部品は、機能別に分類されている、付記6に記載の環境負荷評価システム。
【0095】
(付記13)前記評価対象の部品は、該部品の画像データのパターンに類似する機能分類の部品から特定される、付記6に記載の環境負荷評価システム。
【0096】
(付記14)複数の部品について照合用データおよび環境負荷データを含む部品データベースを予め設け、評価対象の部品搭載基板を撮像した画像データを取込み、前記画像データと前記部品データベースの照合用データとを照合し、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、評価対象の部品搭載基板の部品の画像データに対する予め用意した部品の画像パターンとのマッチング率を計算し、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記予め用意した部品の中から計算されたマッチング率の最も高い部品を前記評価対象の部品と特定し、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致したとき、評価対象の部品搭載基板の各部品を特定し、それぞれ特定された部品の環境保護データを環境負荷データベースから抽出することにより評価対象の部品搭載基板の環境負荷データを求める、
各ステップを備えることを特徴とする環境負荷評価方法。
【0097】
(付記15)前記計算されたマッチング率が所定の閾値より大のとき、マッチング率の最も高い部品を前記評価対象の部品と特定し、前記計算されたマッチング率が所定の閾値以下のとき、前記評価対象の部品を特定せずにその環境負荷量を特定された部品の環境負荷量にアロケーションする、付記14に記載の環境負荷評価方法。
【0098】
(付記16)予め前記部品データベースにおける前記照合用データに部品の重量データを格納し、評価対象の部品搭載基板の重量を測定し、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致せず特定されなかった部品の環境負荷量を、前記部品搭載基板の重量と前記部品データベースに格納された部品の重量データとに基づき、前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致して特定された環境負荷量にアロケーションする、付記14または15に記載の環境負荷評価方法。
【0099】
(付記17)予め複数の部品について照合用データおよび環境負荷データを部品データベースに格納し、評価対象の部品搭載基板を撮像した画像データを取込み、前記画像データと前記部品データベースの照合用データとを照合し、その照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記評価対象の部品の画像データを基に他の情報源から類似した部品を抽出し、抽出した部品の環境負荷データを格納する、
各ステップを備えることを特徴とする環境負荷評価方法。
【0100】
(付記18)前記部品データベースに格納される部品の環境負荷データが、インターネットを介して獲得される、付記17に記載の環境負荷評価方法。
【0101】
【発明の効果】
以上説明したように、発明によれば、環境負荷の評価を正確に行う環境負荷評価システムと方法を提供できる。
【図面の簡単な説明】
【図1】本発明の第一実施形態に係る部品搭載基板の環境負荷評価システムの構成図である。
【図2】図1に示す制御装置の詳細図である。
【図3】部品データベースの具体例を示す図である。
【図4】環境負荷評価方法のプログラムの機能モジュールを示す図である。
【図5】本発明の第一実施形態に係る部品搭載基板の第1環境負荷評価方法の処理のフローチャートである。
【図6】図5に示す処理A内のマッチング率計算処理の詳細フローチャートである。
【図7】マッチング率計算の説明図であり、(A)はピクセル単位で画像データの一致/不一致を調べマッチング率を計算する例を示す図であり、(B)は輪郭の一致/不一致を調べマッチング率を計算する例を示す図である。
【図8】部品の切出し作業の説明図であり、(A)は作業対象の部品搭載基板を示す図であり、(B)は部品の切出し作業結果を示す図である。
【図9】(A)はカメラにより実装回路基板全体を4分割して撮った画像を示す図であり、(B)はつなぎ合わせ処理した実装回路基板全体画像を示す図である。
【図10】本発明の第一実施形態に係る部品搭載基板の第2環境負荷評価方法の処理のフローチャートである。
【図11】本発明の第二実施形態に係る第1実施例の部品搭載基板の環境負荷評価システムの構成図である。
【図12】本発明の第二実施形態に係る第2実施例の部品搭載基板の環境負荷評価システムの構成図である。
【図13】本発明の第二実施形態に係る第3実施例の部品搭載基板の環境負荷評価システムの構成図である。
【図14】文字情報から画像情報を検索した例を示す図であり、(A)は入力文字データを示す図であり、(B)は出力画像データを示す図である。
【図15】画像情報から画像情報を検索した例を示す図であり、(A)は入力画像データを示す図であり、(B)は出力画像データを示す図である。
【図16】本発明の第二実施形態に係る部品搭載基板の環境負荷評価方法の処理のフローチャートである。
【符号の説明】
1…部品搭載基板
2…カメラ
3…照明装置
4…秤
5…ステージ
6…制御装置
7…外部記憶装置
71…照合データベースDB
72…環境負荷データベースDB[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an environmental load evaluation system and an environmental load evaluation method for a substrate on which electronic components are mounted (hereinafter, referred to as a component mounting substrate).
[0002]
[Prior art]
Conventionally, the life cycle from product manufacturing to disposal is divided into raw material collection and transportation, material production, parts production, product production and transportation, use, recycling, and disposal. Life cycle assessment refers to determining the amount of consumption and the type and amount of emissions, and quantitatively evaluating the impact on the environment by integrating them. As a prior art relating to life cycle assessment, for example, Japanese Patent Application Laid-Open Nos. 7-31760 and 2000-553 disclose an environmental load evaluation method and apparatus.
[0003]
Further, the environmental load evaluation method and apparatus disclosed in Japanese Patent Application Laid-Open No. H10-31760 investigates the relationship between the types and dimensions of components and the environmental load in advance and creates a database to reduce the environmental load of the component mounting board. Attempts have been made to reduce the labor and time required for the evaluation of the components.However, even if information on the circuit configuration at the design stage is known for the actual component mounting board, Or, because a designed part is not procured and a substitute part is used, it is usual that when a circuit board is actually manufactured, it is not known what kind of part is mounted on the board. Therefore, the components mounted on each board are specified by visual inspection, document inspection, or the like, and the type and number of the components manually specified in this manner are used for calculating the environmental load.
[0004]
In such manual work, in some cases, the work of removing and inspecting the soldered parts from the board or measuring the size to evaluate information such as the type and dimensions of the parts on the board May be required. In electrical products, as the circuit becomes more complicated, the number of components mounted on a substrate is increasing at an accelerating rate. Therefore, it is troublesome and time-consuming to manually evaluate the environmental load of a huge number of parts by going back to the manufacturing stage.
[0005]
In order to solve this problem, the applicant of the present application has proposed, on June 21, 2002, an “environmental load evaluation system and an environmental load evaluation method” that can automatically evaluate the environmental load of a component mounting board in a short time. A patent application for the subject invention was filed (see Japanese Patent Application No. 2002-181744).
[0006]
The environmental load evaluation system includes an image acquisition unit that captures image data obtained by capturing an image of a component mounting board to be evaluated, a component database including collation data and environmental load data for a plurality of components, and a collation of the image data with the component database. Identifies each component of the component mounting board to be evaluated by comparing it with the application data, and extracts environmental load data of the specified component from the component database to obtain the environmental load data of the component mounting board to be evaluated. And a collating unit.
[0007]
The system also includes a weight data unit that captures weight data obtained by measuring the weight of the component mounting board to be evaluated, and a board determination database that includes collation data and environmental load data for a plurality of component mounting boards. The collation unit executes a first collation process for evaluating the component mounting board to be evaluated as a whole by collating the image data and the weight data with the collation data in the board determination database, and the first collation process specifies If the process fails, a second matching process for specifying each component of the component mounting board to be evaluated is executed.
[0008]
According to this environmental load evaluation system, based on the image data captured by the camera and the measured weight data, the board determination database or the component database is referred to recognize and specify the component mounting board or the component on the board. In addition, the environmental load of the component mounting board can be obtained. Therefore, it is now possible to accurately evaluate the environmental impact of component mounting boards for electrical products, which has been done manually for a long time, in a short time without manual labor, and to save labor in the life cycle assessment. Cost reduction can be realized.
[0009]
[Patent Document 1]
Japanese Patent Application No. 2002-181744 (paragraphs [0020] to [0045] in [Claims], [Detailed Description of the Invention] and
4 to 8 in the drawings).
[0010]
[Problems to be solved by the invention]
However, although the environmental load evaluation system proposed in the above-mentioned Japanese Patent Application No. 2002-181744 can automatically evaluate the environmental load of the component mounting board in a short time, the recognition rate becomes low when the number of component data held by the system is small, All components on the board that do not match the component data are allocated, that is, the environmental load of the unmatched components is distributed and assigned to the matched components. There is a problem that it is difficult to evaluate the load.
[0011]
Therefore, an object of the present invention is to solve the above-mentioned problem, that is, to provide an environmental load evaluation system and an environmental load evaluation method for accurately evaluating an environmental load.
[0012]
[Means for Solving the Problems]
To achieve the above object, an environmental load evaluation system (method) according to a first embodiment of the present invention includes: an image acquisition unit that captures image data obtained by capturing an image of a component mounting board to be evaluated; A parts database including load data, a matching unit that matches the image data with matching data of the parts database, and when the image data and the matching data do not match according to the matching result of the matching unit, A matching ratio unit that calculates a matching ratio between the image data of the component on the component mounting board to be evaluated and the image pattern of the component prepared in advance, and the image data and the matching data match according to the matching result of the matching unit. If not, the matching rate unit is used to calculate from the previously prepared parts. Identify the component with the highest matching rate as the component to be evaluated, and when the image data and the data for collation match by the collation result of the collation unit, identify each component of the component mounting board to be evaluated, An environmental load calculation unit for extracting environmental load data of the component mounting board to be evaluated by extracting environmental load data of each specified component from the environmental load database.
[0013]
In the environmental load evaluation system (method) according to the first aspect, when a matching rate calculated by the matching rate unit is larger than a predetermined threshold, a component having a highest matching rate is specified as the component to be evaluated, When the calculated matching ratio is equal to or less than a predetermined threshold value, an allocation unit is provided for allocating the environmental load to the environmental load of the specified component without specifying the component to be evaluated.
[0014]
The environmental load evaluation system (method) according to the first aspect, further comprising a weight measurement unit that measures the weight of the component mounting board to be evaluated, wherein the comparison data in the component database includes component weight data, The environmental load amount of the component that is not specified because the image data and the data for collation do not match according to the collation result of the collation unit is converted into the weight of the component mounting board and the weight data of the component stored in the component database. Based on the collation result of the collation unit, the image data and the collation data are matched and allocated to the environmental load amount of the specified component.
[0015]
An environmental load evaluation system (method) according to a second embodiment of the present invention that achieves the above object includes an image acquisition unit that captures image data obtained by capturing an image of a component mounting board to be evaluated, collation data and an environment for a plurality of components. A parts database including load data, a matching unit that matches the image data with matching data of the parts database, and when the image data and the matching data do not match according to the matching result of the matching unit, A storage unit that extracts a similar component from another information source based on the image data of the component to be evaluated, and stores environmental load data of the extracted component.
[0016]
In the environmental load evaluation system (method) according to the second aspect, environmental load data of components stored in the storage unit is obtained via the Internet.
[0017]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings.
[0018]
FIG. 1 is a configuration diagram of an environmental load evaluation system for a component mounting board according to a first embodiment of the present invention. An environmental load evaluation system 10 according to the present invention shown in FIG. 1 is a camera (image acquisition unit) that is fixed on a component mounting board (hereinafter simply referred to as a board) 1 to be evaluated and captures image data of the
[0019]
An
[0020]
FIG. 2 is a detailed view of the
[0021]
The computer
[0022]
The
[0023]
The
[0024]
3A and 3B are diagrams illustrating a specific example of a collation database, wherein FIG. 3A is a diagram illustrating a component collation database, and FIG. 3B is a diagram illustrating a board collation database. As shown in FIG. 3A, the
[0025]
First, after the
[0026]
Shape recognition for component identification is performed by moving the stage in a two-dimensional (planar) direction. When the movement of the stage in the two-dimensional direction is insufficient, the stage is rotated in three-dimensional directions and around each direction. By doing so, it is possible to recognize image data with higher contrast or characters written on components.
[0027]
FIG. 4 is a diagram showing functional modules of a program of the environmental load evaluation method. The program of the environmental load evaluation method according to the present invention includes an
[0028]
The
[0029]
The
[0030]
The
[0031]
The
[0032]
The tabulation /
[0033]
The
[0034]
The
[0035]
The weight
[0036]
The above-described module is a functional module of a program executed by the
[0037]
Next, an environmental load evaluation method according to the present invention will be described.
[0038]
FIG. 5 is a flowchart of a process of the first environmental load evaluation method for the component mounting board according to the first embodiment of the present invention. The configuration of the device is the same as that shown in FIG. 1, in which the
[0039]
In step ST1, the accuracy of the matching process in the environmental load evaluation is set by setting an initial value of the image recognition accuracy. This is to set conditions for matching determination by setting the number of parameters to be matched and the parameter range for determining matching when matching (collating) captured image data with board data or component data. is there.
[0040]
In step ST2, the measurement of the
[0041]
In step ST3, image data of the
[0042]
In step ST4, the weight of the
[0043]
In step ST5, it is determined from the image data of the
[0044]
In steps ST7, ST8, ST9, ST10, ST21, and ST22, the scanning of each component on the
[0045]
The
[0046]
The environmental load of the component is calculated from the recognized data (pattern matching: steps ST6, ST7, ST8).
[0047]
In step ST21, for unrecognizable image data, matching is performed with a general component image, and a matching ratio is calculated.
[0048]
In step ST22, a part having a matching rate of 60% or more is regarded as the part type, and the area is calculated. For other components, the area is calculated as unrecognizable component data and stored in the
[0049]
When the tabulation and reporting are completed in step ST10, the process A is terminated. In step ST11, the recognition rate (the sum of the masses of the board and the recognized components and the ratio of the mass of the entire board) is calculated from the tabulation result. As a result, if the value of the recognition rate is less than 0.9, the image recognition accuracy is reduced (the number of items required for recognition is reduced: three to two), and the result is fed back to the above-described pattern recognition work (step ST12). , ST13).
[0050]
The feedback is repeated twice. When the recognition rate becomes 0.9 or more in step ST11, the unrecognized data is allocated (step ST14), and the final environmental load evaluation result is displayed on the display connected to the
[0051]
FIG. 6 is a detailed flowchart of the matching rate calculation processing in the processing A shown in FIG. 5, and FIG. 7 is an explanatory diagram of the matching rate calculation. FIG. FIG. 7B is a diagram illustrating an example of calculating the matching ratio, and FIG. 8B is a diagram illustrating an example of calculating the matching ratio by checking the match / mismatch of the contours.
[0052]
In step ST1, components for which a matching ratio is to be calculated are selected. In this selection, the category of the element similar to the pattern stored in the part DB shown in FIG. 3A in the
[0053]
In step ST2, each No. in the same category is selected. Calculate the matching rate for the part. Here, a calculation example of the matching ratio will be described.
[0054]
FIG. 7A shows an example in which matching / mismatching of image data is checked in pixel units and a matching ratio is calculated. The number of pixels that match and the number of pixels that do not match within a predetermined range of the image data are counted, and a matching ratio is calculated by the following equation.
[0055]
Matching rate = (number of matched pixels / (number of matched pixels + number of mismatched pixels)) * 100
FIG. 7B shows an example in which matching / mismatching of contours is checked and a matching ratio is calculated. Specifically, a perimeter L1 whose contour is coincident with a perimeter L2 whose contour does not coincide with the entire perimeter TL (= L1 + L2) is calculated from the ratio of the coincidence of the characteristic shapes, and a matching ratio is calculated by the following equation.
[0056]
Matching rate = (L1 / (L1 + L2)) * 100
In step ST3, it is determined that the component for which the matching ratio has been calculated is a component in the same category as the component having the highest matching ratio.
[0057]
In step ST4, cutting out, counting, and area calculation are performed. Here, “cutting out” means to insert a check indicating that the component has been specified.
[0058]
In step ST5, the data is totaled and a form is output.
[0059]
Next, an operation of cutting out commonly used parts will be described.
[0060]
FIGS. 8A and 8B are explanatory diagrams of a component cutting operation, in which FIG. 8A is a diagram illustrating a component mounting board to be worked, and FIG. 8B is a diagram illustrating a result of the component cutting operation. The image processing function of the environmental load evaluation system shown in FIG. 1 will be described below with reference to FIG.
[0061]
A: In the pattern recognition, matching is performed between the image data of the part to be matched and the image data existing in the matching DB. If it is determined that the parts are the same, the parts are cut out and the parts to be matched determined in the same manner. Is counted. B: Character recognition is performed in the same manner.
[0062]
If the same component is mounted on the same substrate at a different angle, the cutout and the number are counted by C: angle recognition. Here, the area of the recognized component is calculated at the same time by cutting and filling. Next, an embodiment of a processing method in a case where the image of the
[0063]
9A is a diagram illustrating an image obtained by dividing the entire mounted circuit board into four parts by a camera, and FIG. 9B is a diagram illustrating an entire image of the mounted circuit board subjected to a joining process. A
[0064]
FIG. 10 is a flowchart of a process of the second environmental load evaluation method for the component mounting board according to the first embodiment of the present invention. This is a simple environmental load evaluation device using only two-dimensional image data. The device configuration is different from the embodiment shown in FIG. 1 in that the
[0065]
In step ST30, it is determined from the image data of the
[0066]
This series of data is recorded in the
[0067]
If the matching ratio is 60% or more in step ST34, it is regarded as the part type, and the number count and the area are calculated (step ST35). In addition, information relating the image data of the component type and the amount of environmental load is acquired from the
[0068]
In step ST11, the recognition rate (the ratio of the sum of the areas of the recognized components to the sum of the areas of the unrecognized components) is calculated from the total result. As a result, if the value of the recognition rate is less than 0.9, Then, the image recognition accuracy is reduced (the number of items required for recognition is reduced: from three to two), and the result is fed back to the above-described pattern recognition work (steps ST12 and ST37).
[0069]
If the recognition rate becomes 0.9 or more after repeating the feedback twice, the unrecognized data is allocated (step ST14), and the final environmental load evaluation result is displayed on the display 621 connected to the
[0070]
FIG. 11 is a configuration diagram of an environmental load evaluation system for a component mounting board according to a first example of the second embodiment of the present invention. It has substantially the same configuration as the embodiment shown in FIG. 1, and differs from the embodiment shown in FIG. 1 in that an external collation database DB71 ′ and an external environmental load database DB72 ′ are provided.
[0071]
First, after the
[0072]
FIG. 12 is a configuration diagram of an environmental load evaluation system for a component mounting board according to a second example of the second embodiment of the present invention. The example shown in FIG. 12 is a case where electronic data of documents and catalogs is stored as external databases (external collation database DB71 ′ and external environmental load database DB72 ′). Here, the document and catalog data are, for example, data stored on a hard disk HD such as a magnetic disk after being read by a scanner, data recorded on a medium such as a CD, or paper-based information in a PDF (Portable Document Format). For example, the file may be an electronic file. Here, the PDF means a format related to a character font and an image format for exchanging document files between computers having different OSs.
[0073]
FIG. 13 is a configuration diagram of an environmental load evaluation system for a component mounting board according to a third example of the second embodiment of the present invention. This is a case where external databases (external collation database DB71 ′ and external environmental load database DB72 ′) are searched through the Internet.
[0074]
FIGS. 14A and 14B are diagrams illustrating an example of searching for image information from character information, wherein FIG. 14A is a diagram illustrating input character data, and FIG. 14B is a diagram illustrating output image data. FIG. 14 schematically shows an example of an image search by the search engine Google (http://images.google.com/). When "semiconductor" is input and searched as an input keyword, image information of various semiconductors can be searched on the site, and a target semiconductor image and information related thereto can be obtained.
[0075]
FIGS. 15A and 15B are diagrams illustrating an example of searching for image information from image information, in which FIG. 15A is a diagram illustrating input image data, and FIG. 15B is a diagram illustrating output image data. FIG. 15 schematically shows an example of an image search by the search engine eVision (http://www.evisionglobal.com/#). When a search is performed based on the image input from the camera, image information of various semiconductors can be searched at the site, and a target semiconductor image and information relating thereto can be obtained.
[0076]
FIG. 16 is a flowchart of a process of an environmental load evaluation method for a component mounting board according to the second embodiment of the present invention. The device configuration is different from the embodiment shown in FIG. 1 in that the
[0077]
In step ST40, it is determined from the image of the
[0078]
In step ST41, a pattern matching operation (shape, character, angle, etc.) with the image data stored in the
[0079]
After the tabulation and report formation, the recognition rate (the sum of the mass of the board and the recognized parts and the ratio of the mass of the entire board) is calculated from the tabulation result in step ST10, and the value of the calculation result is set to 0 in step ST11. If the value is less than 0.9, the image recognition accuracy is lowered and the pattern matching operation of step ST41 is fed back (steps ST12 and ST44).
[0080]
When the feedback was repeated three times, the recognition rate became 0.9 or more. Therefore, data that could not be recognized was allocated (step ST14), and the final environmental load evaluation result was displayed on the display 621 connected to the
[0081]
As another embodiment, in the whole board image recognition in step ST3 of FIG. 16, when the captured image is a three-dimensional image and the amount of image information used for determination by pattern matching is increased, the recognition rate is higher than that of only the two-dimensional image. Can be improved. As still another embodiment, if the information obtained by searching the external storage device for the unrecognizable data shown in FIG. 16 is taken in (additionally registered) as an internal database, the recognition rate can be further improved.
[0082]
Further, as another embodiment, at the time of the pattern matching shown in FIG. 16, if the search database is classified in advance according to the functional category (LSI, resistor, capacitor) of the component normally mounted on the printed circuit board, A search can be performed from image data having similar part functions, and the recognition rate can be further improved.
[0083]
(Supplementary Note 1) An image acquisition unit that captures image data obtained by imaging the component mounting board to be evaluated, a component database including collation data and environmental load data for a plurality of components, and a collation between the image data and the component database. A collation unit for collating the data,
When the matching result of the matching unit does not match the image data and the matching data, matching is performed to calculate a matching rate between the image data of the component on the component mounting board to be evaluated and the image pattern of the component prepared in advance. Rate unit,
When the image data and the matching data do not match according to the matching result of the matching unit, the part having the highest matching rate calculated by the matching rate unit among the parts prepared in advance is set as the evaluation target. Parts and
When the image data and the matching data match according to the matching result of the matching unit, each component of the component mounting board to be evaluated is specified, and environmental load data of each specified component is extracted from the environmental load database. An environmental load calculation unit that obtains environmental load data of the component mounting board to be evaluated,
An environmental load evaluation system comprising:
[0084]
(Supplementary Note 2) When the matching ratio calculated by the matching ratio unit is larger than a predetermined threshold, a component having the highest matching ratio is specified as the component to be evaluated, and the calculated matching ratio is equal to or smaller than a predetermined threshold. 2. The environmental load evaluation system according to
[0085]
(Supplementary Note 3) A weight measuring unit for measuring the weight of the component mounting board to be evaluated is provided, wherein the collation data in the component database includes weight data of the component, and the image data and the image data are obtained by the collation result of the collation unit. Based on the weight of the component mounting board and the weight data of the component stored in the component database, the environmental load amount of the component that is not identified because the matching data does not match is determined by the matching result of the matching unit. 3. The environmental load evaluation system according to
[0086]
(Supplementary Note 4) An area calculation unit that calculates an area from image data of the component to be evaluated is provided. The collation data in the component database includes area data of the component. Based on the area of the image data and the area data of the parts stored in the parts database, the environmental load amount of the part that is not specified because the data for matching does not match is determined by the matching result of the matching unit. 4. The environmental load evaluation system according to any one of
[0087]
(Supplementary note 5) The environmental load evaluation system according to any one of
[0088]
(Supplementary Note 6) An image acquisition unit that captures image data obtained by capturing an image of a component mounting board to be evaluated, a component database including collation data and environmental load data for a plurality of components, and a collation between the image data and the component database. A collation unit for collating the data,
When the image data and the matching data do not match according to the matching result of the matching unit, a similar component is extracted from another information source based on the image data of the component to be evaluated, and the extracted component is And a storage unit for storing environmental load data.
[0089]
(Supplementary note 7) The environmental load evaluation system according to
[0090]
(Supplementary note 8) The environmental load evaluation system according to
[0091]
(Supplementary note 9) The environmental load evaluation system according to
[0092]
(Supplementary note 10) The environmental load evaluation system according to
[0093]
(Supplementary note 11) The environmental load evaluation system according to
[0094]
(Supplementary Note 12) The environmental load evaluation system according to
[0095]
(Supplementary Note 13) The environmental load evaluation system according to
[0096]
(Supplementary Note 14) A component database including collation data and environmental load data for a plurality of components is provided in advance, image data obtained by imaging the component mounting board to be evaluated is fetched, and the image data and the collation data of the component database are compared. Collate,
When the image data and the data for collation do not match according to the collation result of the collation unit, calculate a matching ratio between the image data of the component on the component mounting board to be evaluated and the image pattern of the component prepared in advance,
When the image data and the matching data do not match according to the matching result of the matching unit, the part having the highest matching ratio calculated from the parts prepared in advance is specified as the part to be evaluated,
When the image data and the matching data match according to the matching result of the matching unit, each component of the component mounting board to be evaluated is specified, and environmental protection data of each specified component is extracted from the environmental load database. To obtain environmental load data of the component mounting board to be evaluated.
An environmental load evaluation method comprising the steps of:
[0097]
(Supplementary Note 15) When the calculated matching ratio is larger than a predetermined threshold, the component having the highest matching ratio is specified as the component to be evaluated, and when the calculated matching ratio is equal to or smaller than a predetermined threshold, 15. The environmental load evaluation method according to
[0098]
(Supplementary Note 16) The weight data of the component is stored in advance in the matching data in the component database, the weight of the component mounting board to be evaluated is measured, and the image data and the matching data are determined based on the matching result of the matching unit. The amount of environmental load of a component that does not match and is not identified is determined based on the weight of the component mounting board and the weight data of the component stored in the component database based on the matching result of the matching unit. 16. The environmental load evaluation method according to
[0099]
(Supplementary Note 17) Matching data and environmental load data for a plurality of components are stored in the component database in advance, image data obtained by imaging the component mounting board to be evaluated is fetched, and the image data and the matching data in the component database are compared. When the image data and the matching data do not match according to the matching result, a similar component is extracted from another information source based on the image data of the component to be evaluated, and the extracted component is Store environmental load data,
An environmental load evaluation method comprising the steps of:
[0100]
(Supplementary note 18) The environmental load evaluation method according to supplementary note 17, wherein the environmental load data of the component stored in the component database is obtained via the Internet.
[0101]
【The invention's effect】
As described above, according to the present invention, it is possible to provide an environmental load evaluation system and method for accurately evaluating an environmental load.
[Brief description of the drawings]
FIG. 1 is a configuration diagram of an environmental load evaluation system for a component mounting board according to a first embodiment of the present invention.
FIG. 2 is a detailed view of the control device shown in FIG.
FIG. 3 is a diagram showing a specific example of a component database.
FIG. 4 is a diagram showing functional modules of a program of an environmental load evaluation method.
FIG. 5 is a flowchart of a process of a first environmental load evaluation method for a component mounting board according to the first embodiment of the present invention.
FIG. 6 is a detailed flowchart of a matching ratio calculation process in process A shown in FIG. 5;
FIGS. 7A and 7B are explanatory diagrams of a matching ratio calculation. FIG. 7A is a diagram showing an example of checking matching / mismatching of image data in pixel units and calculating a matching ratio. FIG. 7B is a diagram showing matching / mismatching of contours. It is a figure showing the example which calculates a check matching rate.
FIGS. 8A and 8B are explanatory diagrams of a component cutting operation, in which FIG. 8A is a diagram illustrating a component mounting board to be worked, and FIG. 8B is a diagram illustrating a result of the component cutting operation.
9A is a diagram illustrating an image obtained by dividing the entire mounted circuit board into four parts by a camera, and FIG. 9B is a diagram illustrating an entire mounted circuit board image obtained by performing a joining process;
FIG. 10 is a flowchart of a process of a second environmental load evaluation method for a component mounting board according to the first embodiment of the present invention.
FIG. 11 is a configuration diagram of an environmental load evaluation system for a component mounting board according to a first example of the second embodiment of the present invention.
FIG. 12 is a configuration diagram of an environmental load evaluation system for a component mounting board according to a second example of the second embodiment of the present invention.
FIG. 13 is a configuration diagram of an environmental load evaluation system for a component mounting board according to a third example of the second embodiment of the present invention.
14A and 14B are diagrams illustrating an example in which image information is retrieved from character information, wherein FIG. 14A is a diagram illustrating input character data, and FIG. 14B is a diagram illustrating output image data.
15A and 15B are diagrams illustrating an example in which image information is retrieved from image information, wherein FIG. 15A is a diagram illustrating input image data, and FIG. 15B is a diagram illustrating output image data.
FIG. 16 is a flowchart of a process of an environmental load evaluation method for a component mounting board according to a second embodiment of the present invention.
[Explanation of symbols]
1. Component mounting board
2. Camera
3. Lighting device
4: Scale
5 ... stage
6 ... Control device
7 External storage device
71 ... collation database DB
72… Environmental impact database DB
Claims (10)
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、評価対象の部品搭載基板の部品の画像データに対する予め用意した部品の画像パターンとのマッチング率を計算するマッチング率ユニットと、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記予め用意した部品の中から前記マッチング率ユニットにより計算されたマッチング率の最も高い部品を前記評価対象の部品と特定し、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致したとき、評価対象の部品搭載基板の各部品を特定し、それぞれ特定された部品の環境負荷データを環境負荷データベースから抽出することにより評価対象の部品搭載基板の環境負荷データを求める環境負荷計算ユニットと、
を備えることを特徴とする環境負荷評価システム。An image acquisition unit that captures image data of the component mounting board to be evaluated; a component database including collation data and environmental load data for a plurality of components; collating the image data with collation data in the component database A matching unit to be
When the matching result of the matching unit does not match the image data and the matching data, matching is performed to calculate a matching rate between the image data of the component on the component mounting board to be evaluated and the image pattern of the component prepared in advance. Rate unit,
When the image data and the matching data do not match according to the matching result of the matching unit, the part having the highest matching rate calculated by the matching rate unit among the parts prepared in advance is set as the evaluation target. Parts and
When the image data and the matching data match according to the matching result of the matching unit, each component of the component mounting board to be evaluated is specified, and environmental load data of each specified component is extracted from the environmental load database. An environmental load calculation unit that obtains environmental load data of the component mounting board to be evaluated,
An environmental load evaluation system comprising:
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記評価対象の部品の画像データを基に他の情報源から類似した部品を抽出し、抽出した部品の環境負荷データを格納する格納ユニットと、を備えることを特徴とする環境負荷評価システム。An image acquisition unit that captures image data of the component mounting board to be evaluated; a component database including collation data and environmental load data for a plurality of components; collating the image data with collation data in the component database A matching unit to be
When the image data and the matching data do not match according to the matching result of the matching unit, a similar component is extracted from another information source based on the image data of the component to be evaluated, and the extracted component is And a storage unit for storing environmental load data.
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、評価対象の部品搭載基板の部品の画像データに対する予め用意した部品の画像パターンとのマッチング率を計算し、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致しなかったとき、前記予め用意した部品の中から計算されたマッチング率の最も高い部品を前記評価対象の部品と特定し、
前記照合ユニットの照合結果により前記画像データと前記照合用データとが一致したとき、評価対象の部品搭載基板の各部品を特定し、それぞれ特定された部品の環境保護データを環境負荷データベースから抽出することにより評価対象の部品搭載基板の環境負荷データを求める、
各ステップを備えることを特徴とする環境負荷評価方法。A component database including data for collation and environmental load data is provided in advance for a plurality of components, image data obtained by capturing an image of the component mounting board to be evaluated is captured, and the image data is collated with collation data in the component database.
When the image data and the data for collation do not match according to the collation result of the collation unit, calculate a matching ratio between the image data of the component on the component mounting board to be evaluated and the image pattern of the component prepared in advance,
When the image data and the matching data do not match according to the matching result of the matching unit, the part having the highest matching ratio calculated from the parts prepared in advance is specified as the part to be evaluated,
When the image data and the matching data match according to the matching result of the matching unit, each component of the component mounting board to be evaluated is specified, and environmental protection data of each specified component is extracted from the environmental load database. To obtain environmental load data of the component mounting board to be evaluated.
An environmental load evaluation method comprising the steps of:
各ステップを備えることを特徴とする環境負荷評価方法。The data for collation and the environmental load data for a plurality of components are stored in advance in the component database, the image data obtained by imaging the component mounting board to be evaluated is fetched, and the image data is compared with the collation data in the component database. When the image data does not match the collation data according to the collation result, a similar component is extracted from another information source based on the image data of the component to be evaluated, and environmental load data of the extracted component is extracted. Store,
An environmental load evaluation method comprising the steps of:
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002275576A JP4790199B2 (en) | 2002-09-20 | 2002-09-20 | Environmental load evaluation apparatus and environmental load evaluation method |
US10/463,850 US6889163B2 (en) | 2002-06-21 | 2003-06-18 | System and method for assessing environmental load |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002275576A JP4790199B2 (en) | 2002-09-20 | 2002-09-20 | Environmental load evaluation apparatus and environmental load evaluation method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004110703A true JP2004110703A (en) | 2004-04-08 |
JP4790199B2 JP4790199B2 (en) | 2011-10-12 |
Family
ID=32271736
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002275576A Expired - Fee Related JP4790199B2 (en) | 2002-06-21 | 2002-09-20 | Environmental load evaluation apparatus and environmental load evaluation method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4790199B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017041088A (en) * | 2015-08-19 | 2017-02-23 | 富士通株式会社 | Program, information processing apparatus, and information processing method |
-
2002
- 2002-09-20 JP JP2002275576A patent/JP4790199B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017041088A (en) * | 2015-08-19 | 2017-02-23 | 富士通株式会社 | Program, information processing apparatus, and information processing method |
Also Published As
Publication number | Publication date |
---|---|
JP4790199B2 (en) | 2011-10-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8792715B2 (en) | System and method for forms classification by line-art alignment | |
US8675974B2 (en) | Image processing apparatus and image processing method | |
JP6354589B2 (en) | Object identification device, method and program | |
US9135518B2 (en) | Robust and efficient image identification | |
JP6143111B2 (en) | Object identification device, object identification method, and program | |
CN109886928B (en) | Target cell marking method, device, storage medium and terminal equipment | |
US20100092093A1 (en) | Feature matching method | |
CN104217201A (en) | Method for evaluating the quality of an image, method for producing a document computer program product, user interface, data file and electronic device | |
EP2106599A2 (en) | Feature matching method | |
CN111144372A (en) | Vehicle detection method, device, computer equipment and storage medium | |
US20230049798A1 (en) | Individual object identification system, individual object identification program, and recording medium | |
JP2013109773A (en) | Feature matching method and article recognition system | |
JP2011070408A (en) | Method of acquiring sample image, sample image acquisition device, and image classification device | |
Maaten et al. | Computer vision and machine learning for archaeology | |
GB2432029A (en) | Imprint identification system using image scanner calibration | |
Singh et al. | Ensemble visual content based search and retrieval for natural scene images | |
US6889163B2 (en) | System and method for assessing environmental load | |
KR20100108778A (en) | Image information classification method and apparatus | |
JP4790199B2 (en) | Environmental load evaluation apparatus and environmental load evaluation method | |
CN108369647A (en) | Image-based quality control | |
WO2021220828A1 (en) | Individual object identification system | |
Long et al. | Perceptual texture space improves perceptual consistency of computational features | |
CN113780116A (en) | Invoice classification method and device, computer equipment and storage medium | |
JP6175904B2 (en) | Verification target extraction system, verification target extraction method, verification target extraction program | |
JP2004031429A (en) | Environmental-load evaluation system and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050708 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080311 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080512 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080701 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080901 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20081015 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20081107 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110616 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110720 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140729 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |