JP2004354111A - 物体検査方法及びその装置 - Google Patents

物体検査方法及びその装置 Download PDF

Info

Publication number
JP2004354111A
JP2004354111A JP2003149762A JP2003149762A JP2004354111A JP 2004354111 A JP2004354111 A JP 2004354111A JP 2003149762 A JP2003149762 A JP 2003149762A JP 2003149762 A JP2003149762 A JP 2003149762A JP 2004354111 A JP2004354111 A JP 2004354111A
Authority
JP
Japan
Prior art keywords
data
category
map
measurement signal
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003149762A
Other languages
English (en)
Other versions
JP3778177B2 (ja
Inventor
Yoshihito Hashimoto
良仁 橋本
Kazutaka Ikeda
和隆 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Electric Works Co Ltd
Original Assignee
Matsushita Electric Works Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Works Ltd filed Critical Matsushita Electric Works Ltd
Priority to JP2003149762A priority Critical patent/JP3778177B2/ja
Publication of JP2004354111A publication Critical patent/JP2004354111A/ja
Application granted granted Critical
Publication of JP3778177B2 publication Critical patent/JP3778177B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

【課題】検査対象がどのカテゴリに属するかを視覚的に容易に把握できる物体検査方法及びその装置を提供する。
【解決手段】特徴抽出部2は、信号入力部1の測定信号から検査対象の特徴量を抽出したデータを作成する。マップ作成部3aは、特徴抽出部2によって特徴量が抽出された複数のデータからなる学習用データセットを教師なし競合型ニューラルネットワークに入力してカテゴリ毎に分類し、クラスタリングマップを作成する。そして、マップ作成後に信号入力部1及び特徴抽出部2を介して新たな測定信号のデータが入力されると、クラスタ判定部3bが新規のデータを学習後の競合型ニューラルネットワークに入力して、新規データのマップ上での位置を取得するとともに、取得した位置から新規のデータが何れのカテゴリに属するかを判定して、判定結果を表示部7にマップ表示する。
【選択図】 図1

Description

【0001】
【発明の属する技術分野】
本発明は、対象物体の物理的、化学的性質を測定し、その測定結果を基準となるデータと比較することで対象物体の良否を検査する物体検査方法及びその装置に関するものである。
【0002】
【従来の技術】
この種の物体検査装置としては、例えば検査対象の製品の振動を振動センサにより測定し、その測定データをバックプロパゲーションニューラルネットワークに入力して、比較対象の製品と比較することで、検査対象の製品の良、不良を判定するものがあった(例えば特許文献1参照)。
【0003】
【特許文献1】
特開平6−96047号公報
【0004】
【発明が解決しようとする課題】
上述の物体検査装置では、バックプロパゲーションニューラルネットワークを使用しているので、検査対象の出力ニューロンと、複数の比較対象の出力ニューロンとの一致度合いがそれぞれ出力されるだけで、出力ニューロンの位置関係が2次元マップで表示されないため、出力ニューロンの位置関係を視覚的に把握することができなかった。そのため、検査対象が不良のカテゴリに分類されたとしても、その検査対象が良品に近いものなのか、それとも典型的な不良品であるのかといったことを、容易に把握することができなかった。
【0005】
本発明は上記問題点に鑑みて為されたものであり、その目的とするところは、検査対象がどのカテゴリに属するかを視覚的に容易に把握できる物体検査方法及びその装置を提供することにある。
【0006】
【課題を解決するための手段】
上記目的を達成するために、請求項1の発明は、検査対象の物理的、化学的性質に関わる測定信号を入力して、入力された測定信号から検査対象の特徴量を抽出したデータを作成した後に、複数の前記データからなる学習用データセットを教師なし競合型ニューラルネットワークに入力してカテゴリ毎に分類して、クラスタリングマップを作成し、前記クラスタリングマップの作成後に新たな測定信号を学習後の前記競合型ニューラルネットワークに入力して、前記新たな測定信号の前記クラスタリングマップ上での位置を取得するとともに、取得した位置から前記新たな測定信号が何れのカテゴリに属するかを判定して判定結果を出力することを特徴とする。
【0007】
この発明によれば、競合型ニューラルネットワークを用いて検査対象を複数のカテゴリに分類して、クラスタリングマップを作成した後に、新たな検査対象の測定信号を競争型ニューラルネットワークに入力して、この測定信号が属するカテゴリを判定しているので、新たな検査対象がどのカテゴリに属するかを精度良く検出でき、且つ、新たな測定信号のクラスタリングマップ上での位置を取得して出力しているので、検査対象がどのカテゴリに属するかを視覚的に容易に把握できる。
【0008】
請求項2の発明は、請求項1の発明において、前記測定信号は、人間の五感の内の少なくとも何れか1つの感覚に関わる信号であることを特徴とする。
【0009】
この発明によれば、人間の五感の内の少なくとも何れか1つの感覚に関わる信号を競争型ニューラルネットワークに入力して、カテゴリ毎に分類しているので、人間の感覚を基準として検査対象の良否を判定できる。
【0010】
請求項3の発明は、請求項1又は2の発明において、前記学習用データセットのデータを収集する際に、各々のデータが何れのカテゴリに属するかをユーザによる登録操作にしたがって記憶装置に登録し、前記クラスタリングマップを前記記憶装置に登録されたカテゴリ毎に異なる色で色分けして表示装置に表示させることを特徴とする。
【0011】
この発明によれば、カテゴリ毎に色分けしてクラスタリングマップを表示しているので、カテゴリ毎の位置関係を視覚的に容易に判別できる。
【0012】
請求項4の発明は、請求項3の発明において、前記クラスタリングマップを前記記憶装置に登録されたカテゴリ毎に異なる色で色分けして表示する背景画像を作成し、該背景画像をメモリに記憶させた後、前記新たな測定信号の前記クラスタリングマップ上での位置データを別のメモリに記憶させ、別々のメモリに記憶された前記背景画像と前記新たな測定信号の位置データとを用いて、前記背景画像上に新たな測定信号の位置を重ねて表示装置に表示させることを特徴とする。
【0013】
この発明によれば、クラスタリングマップをカテゴリ毎に異なる色で色分けして表示する背景画像をメモリに記憶させておき、このメモリに記憶された背景画像の上に、別のメモリに記憶された新たな測定信号を重ねて表示させているので、判定結果の正誤を容易に判断でき、そのうえ新たな測定信号の位置を表示する度に背景画像を描画する必要がないから、描画を高速に行えることができる。
【0014】
請求項5の発明は、請求項3の発明において、前記クラスタリングマップの作成後に前記学習用データセットのデータを学習後の前記競合型ニューラルネットワークに再度入力して、当該データの属するカテゴリを出力させ、出力されたカテゴリがユーザの登録したカテゴリと異なる場合には、前記クラスタリングマップ上で前記データの位置を登録されたカテゴリの色と異なる色で表示装置に表示させることを特徴とする。
【0015】
この発明によれば、学習用データセットのデータが属するカテゴリを誤って登録した場合は、そのデータの位置がカテゴリの色と異なる色で表示されるので、表示装置の表示からカテゴリの登録が誤っていることを容易に判別できる。
【0016】
請求項6の発明は、請求項3の発明において、前記クラスタリングマップの作成後に前記学習用データセットのデータを学習後の前記競合型ニューラルネットワークに再度入力して、当該データの属するカテゴリを出力させ、前記クラスタリングマップ上の各々の位置に出力される前記データのリストを作成した後、ユーザによる前記クラスタリングマップ上の所望の位置の選択操作に応じて、選択された位置にマッピングされているデータのリストを表示し、当該リスト上のデータから所望のデータを選択する操作にしたがって、選択されたデータに対応する測定信号を出力することを特徴とする。
【0017】
この発明によれば、クラスタリングマップ上の各々の位置に出力されるデータのリストから、所望のデータを選択すると、そのデータに対応した測定信号が出力されるので、生の測定信号をもとにカテゴリの登録が誤っているか否かをユーザ側で判断することができる。
【0018】
請求項7の発明は、請求項1乃至6の何れか1つの発明において、前記クラスタリングマップの作成後に新たな測定信号から特徴量を抽出したデータを作成して前記学習用データセットに追加し、データが追加された前記学習用データセットを前記教師なし競合型ニューラルネットワークに入力して個々のカテゴリのデータに分類し、前記クラスタリングマップを更新することを特徴とする。
【0019】
この発明によれば、学習用データセットに、新たな測定信号から特徴量を抽出したデータを追加することで、競合型ニューラルネットワークの精度を高めることができる。
【0020】
請求項8の発明は、請求項1乃至6の何れか1つの発明において、複数のカテゴリの内、一部のカテゴリに属するデータからなる学習用データセットを前記教師なし競合型ニューラルネットワークに入力して前記クラスタリングマップを作成した後に、検査対象の物体の検査を行うことで、新たな測定信号を学習後の競合型ニューラルネットワークに入力して、該測定信号の前記クラスタリングマップ上での位置を取得し、取得した位置が前記カテゴリの境界付近であればユーザに警報を発するとともに、該警報を受けてユーザが行った新たなカテゴリの登録操作にしたがって前記クラスタリングマップを更新することを特徴とする。
【0021】
この発明によれば、当初は一部のカテゴリに属するデータからなる学習データセットを用いて、クラスタリングマップを作成し、その後実際の検査を行う際に、異なるカテゴリのデータが入力されると、そのデータの属するカテゴリを追加させているので、一部のカテゴリに属するデータのみで検査を開始することができ、さらに検査を進めるにつれて競合型ニューラルネットワークの精度を高めることができる。
【0022】
請求項9の発明は、検査対象の物理的、化学的性質に関わる測定信号を入力する信号入力手段と、入力された測定信号から検査対象の特徴量を抽出したデータを作成する特徴量抽出手段と、複数の前記データからなる学習用データセットを教師なし競合型ニューラルネットワークに入力してカテゴリ毎に分類し、クラスタリングマップを作成するマップ作成手段と、新たな測定信号を学習後の前記競合型ニューラルネットワークに入力して、前記新たな測定信号の前記クラスタリングマップ上での位置を取得するとともに、取得した位置から前記新たな測定信号が何れのカテゴリに属するかを判定するクラスタ判定手段を備えることを特徴とする。
【0023】
この発明によれば、競合型ニューラルネットワークを用いて検査対象を複数のカテゴリに分類して、クラスタリングマップを作成した後に、新たな検査対象の測定信号を競争型ニューラルネットワークに入力して、この測定信号が属するカテゴリを判定しているので、新たな検査対象がどのカテゴリに属するかを精度良く検出することが可能な物体検査装置を実現できる。そのうえ、新たな測定信号のクラスタリングマップ上での位置を取得して出力しているので、検査対象がどのカテゴリに属するかを視覚的に容易に把握できる物体検査装置を実現できる。
【0024】
請求項10の発明は、請求項9の発明において、前記測定信号は、人間の五感の内の少なくとも何れか1つの感覚に関わる信号であることを特徴とする。
【0025】
この発明によれば、人間の五感の内の少なくとも何れか1つの感覚に関わる信号を競争型ニューラルネットワークに入力して、カテゴリ毎に分類しているので、人間の感覚を基準として検査対象の良否を判定可能な物体検査装置を実現できる。
【0026】
請求項11の発明は、請求項9又は10の発明において、前記学習用データセットのデータを収集する際に、各々のデータが何れのカテゴリに属するかをユーザによる登録操作にしたがって記憶装置に登録するカテゴリ登録手段と、前記クラスタリングマップを前記記憶装置に登録されたカテゴリ毎に異なる色で色分けして表示する表示手段とを備えることを特徴とする。
【0027】
この発明によれば、カテゴリ毎に色分けしてクラスタリングマップを表示しているので、カテゴリ毎の位置関係を視覚的に容易に判別可能な物体検査装置を実現できる。
【0028】
請求項12の発明は、請求項11の発明において、前記表示手段は、前記クラスタリングマップを前記記憶装置に登録されたカテゴリ毎に異なる色で色分けして表示する背景画像を作成し、該背景画像をメモリに記憶させるとともに、前記新たな測定信号の前記クラスタリングマップ上での位置データを別のメモリに記憶させ、別々のメモリに記憶された前記背景画像と前記新たな測定信号の位置データとを用いて、前記背景画像上に新たな測定信号の位置を重ねて表示することを特徴とする。
【0029】
この発明によれば、クラスタリングマップをカテゴリ毎に異なる色で色分けして表示する背景画像をメモリに記憶させておき、このメモリに記憶された背景画像の上に、別のメモリに記憶された新たな測定信号を重ねて表示させているので、判定結果の正誤を容易に判断でき、そのうえ新たな測定信号の位置を表示する度に背景画像を描画する必要がないから、描画を高速に行える物体検査装置を実現できる。
【0030】
請求項13の発明は、請求項11の発明において、前記学習用データセットのデータを学習後の前記競合型ニューラルネットワークに再度入力して、当該データの属するカテゴリを出力させるカテゴリ出力手段と、当該カテゴリ出力手段より出力されたカテゴリがユーザの登録したカテゴリと異なる場合に、前記クラスタリングマップ上で前記データの位置を登録されたカテゴリの色と異なる色で前記表示手段に表示させるクラスタ登録確認手段を備えることを特徴とする。
【0031】
この発明によれば、学習用データセットのデータが属するカテゴリを誤って登録した場合は、そのデータの位置がカテゴリの色と異なる色で表示されるので、表示装置の表示からカテゴリの登録が誤っていることを容易に判別可能な物体検査装置を実現できる。
【0032】
請求項14の発明は、請求項11の発明において、前記学習用データセットのデータを学習後の前記競合型ニューラルネットワークに再度入力して、当該データの属するカテゴリを出力させるカテゴリ出力手段と、カテゴリ出力手段の出力をもとに、前記クラスタリングマップ上の各々の位置に出力される前記データのリストを作成するリスト作成手段と、ユーザによる前記クラスタリングマップ上の所望の位置の選択操作に応じて、選択された位置にマッピングされているデータのリストを前記リスト作成手段の作成したリストから読み出して表示装置に表示させるとともに、当該リスト上のデータから所望のデータを選択する操作にしたがって、選択されたデータに対応する測定信号を出力するデータ出力手段を備えることを特徴とする。
【0033】
この発明によれば、クラスタリングマップ上の各々の位置に出力されるデータのリストから、所望のデータを選択すると、そのデータに対応した測定信号が出力されるので、生の測定信号をもとにカテゴリの登録が誤っているか否かをユーザ側で判断可能な物体検査装置を実現できる。
【0034】
請求項15の発明は、請求項9乃至14の何れか1つの発明において、新たな測定信号から特徴量を抽出したデータを作成して前記学習用データセットに追加する追加データ登録手段と、データが追加された前記学習用データセットを前記教師なし競合型ニューラルネットワークに入力して個々のカテゴリのデータに分類し、前記クラスタリングマップを更新するマップ更新手段を備えることを特徴とする。
【0035】
この発明によれば、学習用データセットに、新たな測定信号から特徴量を抽出したデータを追加することで、競合型ニューラルネットワークの精度を高めることが可能な物体検査装置を実現できる。
【0036】
請求項16の発明は、請求項9乃至14の何れか1つの発明において、前記マップ作成手段は、複数のカテゴリの内、一部のカテゴリに属するデータからなる学習用データセットを前記教師なし競合型ニューラルネットワークに入力して前記クラスタリングマップを作成するとともに、検査対象の検査を行う際にクラスタ判定手段が求めた測定信号の前記クラスタリングマップ上での位置が前記カテゴリの境界付近であればユーザに対して警報を発する警報手段と、警報手段による警報を受けてユーザが行った新たなカテゴリの登録操作にしたがって前記クラスタリングマップを更新するマップ更新手段を備えることを特徴とする。
【0037】
この発明によれば、当初は一部のカテゴリに属するデータからなる学習データセットを用いて、クラスタリングマップを作成し、その後実際の検査を行う際に、異なるカテゴリのデータが入力されると、そのデータの属するカテゴリを追加させているので、一部のカテゴリに属するデータのみで検査を開始することができ、さらに検査を進めるにつれて競合型ニューラルネットワークの精度を高めることが可能な物体検査装置を実現できる。
【0038】
【発明の実施の形態】
(実施形態1)
本発明に係る物体検査方法を用いて官能検査を行う物体検査装置の一実施形態を図面に基づいて説明する。物体検査装置は、図1に示すように、信号入力部1と、特徴抽出部2と、演算処理部3と、学習データ記憶部4と、マップ記憶部5と、判定位置記憶部6と、表示部7と、音声出力部8と、入力部9とで構成され、予め検査対象の製品の物理的、化学的性質の測定結果を収集して、それらの測定結果を複数のカテゴリ(同種の測定結果の群)に分類しておき、実際の検査時には予め収集した測定結果と検査対象の製品についての測定結果とを比較し、最も類似したカテゴリを判定することで、検査対象の良、不良の判定や、不良の場合にはどのような内容の不良かを判定するものである。
【0039】
信号入力部1は、検査対象の物理的、化学的性質に関わる測定量、特に人間の五感に関わる測定量を電気信号に変換して出力するセンサ(例えば振動センサ、マイク、TVカメラ、臭いセンサなど)からなり、本実施形態では振動及び可聴音をそれぞれ検出する振動センサ1a及びマイク1bにより構成される。
【0040】
特徴抽出部2は、信号入力部1より入力された測定信号から検査対象の特徴量を抽出したデータを作成するものであり、信号入力部1が振動センサ1aやマイク1b或いはTVカメラからなる場合には、信号入力部1からの信号にフーリエ変換などを施して周波数成分の分布を特徴量として抽出する。
【0041】
学習データ記憶部4には実際の検査で測定される全てのカテゴリの測定データ(良品および複数種類の不良品の測定結果)が予め登録されており、特徴抽出部2では、学習データ記憶部4に登録されている複数の測定結果を用いて、全てのカテゴリの測定結果について特徴量を抽出し、複数の特徴量のデータからなる学習用データセットを作成する。
【0042】
演算処理部3は例えばマイクロコンピュータからなり、マップ作成部3aとクラスタ判定部3bとを備える。マップ作成部3aでは、上述の学習用データセットを、図2に示すような教師なし競合型ニューラルネットワークに入力して、複数のカテゴリに分類することで、二次元のクラスタリングマップを作成する。図2のニューラルネットワークは、複数個の入力層ニューロンN1と、入力層ニューロンN1に完全結合で結ばれた複数個の出力層ニューロンN2との2層で構成され、学習によって入力層と出力層との間の接続重みが決定される。なお、学習時にはどのデータがどのカテゴリに属しているのかを、キーボードやマウスなどの入力部9を用いてユーザに登録させており、教師なし競合型ニューラルネットワークにより作成されたクラスタリングマップを出力側から入力側に逆向きに動作させて、クラスタリングマップ上の各カテゴリの位置に対応する入力データを推定する。
【0043】
ここで、図3のフロー図を参照してクラスタリングマップの作成過程を説明する。出力層ニューロンN2に接続されている入力層ニューロンN1の接続重みを推定入力データとし、出力層ニューロンN2を選択して(S1)、入力データを推定した後(S2)、推定入力データと学習用データセットの登録データとの誤差二乗和を計算することによって両者の一致度を評価する(S3)。そして、一致度の計算を全ての登録データについて実施したか否かを判定し(S4)、全ての登録データについて一致度の計算が終了していなければ、S2に戻って一致度の計算を継続する。そして、全ての登録データについて一致度の計算が終了すると、一致度が最も高い(誤差二乗和が最大の)登録データを選択し(S5)、選択された登録データに対してユーザが登録したカテゴリを出力層ニューロンに割り当て、マップ上の対応する位置のカテゴリとする(S6)。その後、全ての出力層ニューロンについて上記の処理を実行したか否かを判定し(S7)、全ての出力層ニューロンについて処理が終了していなければ、S1に戻り、残りの出力層ニューロンについて上記の処理を繰り返して行う。そして、全ての出力層ニューロンについて処理が終了すれば、出力層ニューロンを縦横に並べた二次元のクラスタリングマップを作成し(S8)、作成したクラスタリングマップのデータをマップ記憶部5に記憶させる。
【0044】
クラスタ判定部3bは、実際の検査時に特徴抽出部2から入力された特徴量のデータを学習後の競合型ニューラルネットワークに入力して、新たな測定信号がクラスタリングマップ上でどのカテゴリ(クラスタ)に属するかを判定し、新たな測定結果のマップ上での位置データを判定位置記憶部6に記憶させる。
【0045】
表示部7は、マップ記憶部5及び判定位置記憶部6にそれぞれ記憶されたクラスタリングマップのデータと新たな測定信号のマップ上での位置データを用いて、クラスタリングマップを背景として新たな測定信号を表示するとともに、新たな測定信号のデータのマップ上での位置を重ね書きする。図4はクラスタリングマップの一例であり、この例図ではマップ上の領域が4つのカテゴリA1〜A4に分類され、各々のカテゴリA1〜A4毎に異なる色で色分けして表示してあり、カテゴリA1は良品を、カテゴリA2はビビリ音を、カテゴリA3はややビビリ音を、カテゴリA4はこもり音をそれぞれ示している
このように、表示部7では、クラスタリングマップをカテゴリ毎に異なる色で色分けして表示しているので、カテゴリ毎の位置関係を視覚的に明確に判別することができる。また、図5(a)〜(c)に示すように、実際の検査時には表示部7がクラスタリングマップMAP上に新たな測定信号の位置P1〜P3を重ねて表示しており、例えば図5(a)は検査対象がビビリ音不良、同図(b)は検査対象がこもり音に近い良品、同図(c)は検査対象がビビリ音に近い良品の場合の表示例であり、測定信号の位置から検査対象の良否や判定結果の正当性を視覚的に容易に確認することができる。
【0046】
また、表示部7では、新たな測定結果のマップ上での位置を表示する際に、マップ記憶部5に記憶されたクラスタリングマップMAPのデータと、判定位置記憶部6に記憶された新たな測定結果の位置データとを用い、図6(a)〜(e)に示すように、背景となるクラスタリングマップMAP(図6(a)参照)に、測定結果の位置P1又はP2(図6(b)(c)参照)を重ね合わせることで、判定結果のマップ表示を行っているので(図6(d)(e)参照)、測定結果の位置P1又はP2を書き換えるのみで、判定結果のマップ表示を行える。ここで、測定結果の位置のみの描画は、クラスタリングマップMAPの描画に比べて遙かに短い時間(数十分の一程度の時間)で済むので、毎回クラスタリングマップMAPを描画する場合に比べて判定結果の表示を高速に行うことができる。
【0047】
以上の動作をまとめると、学習時には特徴抽出部2が学習データ記憶部4に記憶されている複数のデータから特徴量を抽出して学習データセットを作成した後、マップ作成部3aが学習データセットのデータを教師なし競合型ニューラルネットワークに入力して、複数のカテゴリに分類することで、クラスタリングマップを作成し、クラスタリングマップのデータをマップ記憶部5に記憶させる。そして、実際の検査時には信号入力部1が検査対象の物理的、化学的性質に関わる測定量を電気信号に変換して特徴抽出部2に出力し、特徴抽出部2が信号入力部1より入力された測定信号から特徴量を抽出しており、クラスタ判定部3bが、特徴抽出部2から入力されたデータを学習後の競合型ニューラルネットワークに入力して、新たな測定信号がクラスタリングマップ上でどのカテゴリに属するかを判定し、新たな測定結果のマップ上での位置データを判定位置記憶部6に記憶させる。その後、表示部7が、マップ記憶部5及び判定位置記憶部6に記憶されたマップのデータと新たな測定信号の位置データとを用い、クラスタリングマップ上で新たな測定信号の位置を表示しており、表示部7の表示から検査対象の測定結果がどのカテゴリに属しているか、すなわち良品であるか不良であるか、不良の場合はどのような内容の不良かを視覚的に把握することができる。
【0048】
なお、本実施形態においてクラスタリングマップの作成後に、演算処理部3が、学習に用いた全てのデータを学習後のニューラルネットワークに再度入力して、各々のデータが属するカテゴリを出力させ、出力されたカテゴリとユーザにより登録された各々のデータのカテゴリとが異なる場合には、マップ上の対応する位置を、登録されたカテゴリと異なる色で色づけして表示するようにしても良い。図7はその表示例であり、学習時に登録されたカテゴリと再入力時の判定結果とが異なるデータの出力位置A5〜A7を、登録されたカテゴリとは異なる色で表示している。このように、ユーザにより登録された各々のデータのカテゴリと、学習後のニューラルネットワークにデータを再入力してカテゴリを判定した結果とが異なる場合には、ユーザによるカテゴリの登録誤りと考えられるので、マップ上で色を変えて表示することで、カテゴリの登録誤りをユーザに知らしめて、カテゴリの登録内容の変更をユーザに促すことができる。
【0049】
また、クラスタリングマップの作成後に、演算処理部3が、学習に用いた全てのデータを学習後のニューラルネットワークに再度入力して、各々のデータが属するカテゴリを出力させ、マップ上の各々の位置に出力される入力データのリスト(発火リスト)を作成するとともに、出力されたカテゴリとユーザにより登録された各々のデータのカテゴリとが異なる場合には、マップ上の対応する位置を、登録されたカテゴリと異なる色で色づけして表示し、ユーザが入力部9を用いてクラスタリングマップMAP上の所望の位置を選択すると、入力部9による選択操作に応じて演算処理部3がその位置にマッピングされている学習データのリストを表示部7に表示させるようにしても良い。
【0050】
図8(a)はクラスタリングマップMAPの一例であり、マップ上の位置P3,P4を選択すると、その位置P3,P4にマッピングされた学習データのリストT1,T2(図8(b)(c)参照)が表示部7に表示される。ここで、位置P3,P4は何れも良品のカテゴリA1に属しているが、位置P4はカテゴリA1の色と異なる色で表示されており、ユーザによるカテゴリの登録が誤っていることを示している。図8(a)のマップMAPを見てカテゴリの登録誤りに気付いたユーザが位置P4を選択すると、位置P4にマッピングされている学習データのリストT2が表示され、このリストT2から学習データにこもり音のデータ3が含まれていることが判る。そして、表示部7に表示されたリストT2から入力部9を用いてデータ3を選択すると、入力部9による選択操作にしたがって、演算処理部3がデータ3の原音をスピーカよりなる音声出力部8から出力させるので、原音を聞いてカテゴリの登録が誤っているか否かをユーザに判断させることができる。
【0051】
このように、マップ上の各々の位置にマッピングされている学習データのリストを表示させることによって、ユーザは各カテゴリに分類されているデータを直接確認して、カテゴリの登録誤りの有無を判断することができ、またカテゴリの境界の精度を高めるためにはどのデータを増やせば良いかといった指針を得ることができる。また、学習データのリストから1乃至複数のデータを選択すると、音検査の場合は選択されたデータ(音)がスピーカから再生され、画像検査の場合は選択されたデータ(画像)が表示部7に表示されるので、各々のデータのカテゴリ登録が誤っているか否かを容易に確認することができる。
【0052】
また、本実施形態においてデータ登録部4aを用いて学習データ記憶部4に新規のデータを追加登録することによって、学習用データセットのデータを追加するようにしても良く、学習に用いるデータを追加して、教師なし競合型ニューラルネットワークが追加学習を行うことで、カテゴリの登録誤りの修正やカテゴリ境界の精度の向上を効率良く行うことができる。
【0053】
(実施形態2)
本発明の実施形態2を図面に基づいて説明する。尚、物体検査装置の基本的な構成は実施形態1と同様であるので、共通する構成要素には同一の符号を付してその説明は省略し、以下では本実施形態の特徴部分のみを説明する。
【0054】
上述した実施形態1では、実際の検査で測定される全てのカテゴリの測定データを学習データ記憶部4に記憶させておき、それらの測定データで競合型ニューラルネットワークを学習させて、クラスタリングマップを作成しているが、本実施形態では、初期学習時にある1つのカテゴリに属する測定データのみを学習データ記憶部4に記憶させておき、1つのカテゴリに属する測定データのみで競合型ニューラルネットワークを学習させて、クラスタリングマップを作成させている。
【0055】
競合型ニューラルネットワークで単一のカテゴリ(例えば良品のカテゴリ)に属する測定データのみを用いて学習させた場合、作成されたクラスタリングマップMAPは図9(a)に示すように単一のカテゴリA1のみからなり、マップMAPの中央には学習に用いたデータの中で最も標準的なデータが配置され、標準的なデータとの相違が大きくなるほど、データの出力位置がマップMAPの中心から離れていく。従って、初期学習時に用いた測定データのカテゴリ(良品のカテゴリ)と異なるカテゴリのデータが新規に入力されると、新規の入力データはマップの縁に出力されると考えられる。
【0056】
そこで、学習後に実際の検査を行う過程で、マップMAPの縁に沿って設定した枠状の警告エリアA10(図9(a)中の斜線部)に測定結果が出力された場合、演算処理部3はその入力データを学習データ記憶部4に記憶させるとともに、表示部7或いは音声出力部8を用いて警報を出力させることで、ユーザに報知している。そして、警報を受けたユーザが入力データを確認し、良品以外のカテゴリに属する入力データであれば、この入力データに新たなカテゴリを割り当てて、競合型ニューラルネットワークに追加学習を行わせ、クラスタリングマップを更新させる。図9(b)(c)に示す例では、新規の入力データが警告エリアA10に出力されるので、演算処理部3は表示部7或いは音声出力部8を用いて警報を出力しており、この警報を受けたユーザが入力データを確認する。そして、ユーザは、図9(b)の例では新規の入力データを新たなカテゴリとして登録し、図9(c)の例では良品として登録しており、競合型ニューラルネットワークに追加学習を行わせることで、クラスタリングマップMAPが更新される。一方、図9(d)に示す例では、新規の入力データが警告エリアA10以外の良品の領域に出力されるので、演算処理部3はそのまま処理を続行する。図9(e)は最終的なクラスタリングマップMAPの例図であり、3つのカテゴリA1〜A3に分類され、各カテゴリA1〜A3毎に異なる色で色分けして表示してある。
【0057】
このように、新規の入力データが警告エリアA10に出力された場合は警報動作を行って、ユーザに入力データを確認させ、新たなカテゴリの場合はユーザがそのカテゴリを登録することで、競合型ニューラルネットワークに追加学習させて、クラスタリングマップを更新しているので、初期学習時には単一のカテゴリに属するデータのみで学習を開始させることができ、その後検査が進行してカテゴリの登録数が増えるにつれて、クラスタリングマップの精度が向上し、それによって検査の精度も向上する。
【0058】
なお、本実施形態では初期学習時に単一のカテゴリに属するデータのみで学習を行わせているが、全てのカテゴリの内の一部(複数)のカテゴリに属する測定データを学習データ記憶部4に記憶させておき、一部のカテゴリに属する測定データのみで競合型ニューラルネットワークを学習させて、クラスタリングマップを作成させ、検査を行う過程で競合型ニューラルネットワークを追加学習させて、クラスタリングマップを更新するようにしても良い。この場合は初期学習時にクラスタリングマップが複数のカテゴリに分割されているので、カテゴリの境界に警告エリアを設定しておき、新規の入力データが警告エリアに出力された場合は警報動作を行って、ユーザに入力データを確認させ、新たなカテゴリの場合はユーザがそのカテゴリを登録することで、競合型ニューラルネットワークに追加学習させれば良い。
【0059】
【発明の効果】
以上説明したように、請求項1の発明では、競合型ニューラルネットワークを用いて検査対象を複数のカテゴリに分類して、クラスタリングマップを作成した後に、新たな検査対象の測定信号を競争型ニューラルネットワークに入力して、この測定信号が属するカテゴリを判定しているので、新たな検査対象がどのカテゴリに属するかを精度良く検出することができ、且つ、新たな測定信号のクラスタリングマップ上での位置を取得して出力しているので、検査対象がどのカテゴリに属するかを視覚的に容易に把握できる。
【0060】
また請求項9の発明では、競合型ニューラルネットワークを用いて検査対象を複数のカテゴリに分類して、クラスタリングマップを作成した後に、新たな検査対象の測定信号を競争型ニューラルネットワークに入力して、この測定信号が属するカテゴリを判定しているので、新たな検査対象がどのカテゴリに属するかを精度良く検出することが可能な物体検査装置を実現できる。
【図面の簡単な説明】
【図1】実施形態1の物体検査装置のブロック図である。
【図2】同上の物体検査装置が用いる競合型ニューラルネットワークの説明図である。
【図3】同上の物体検査装置の動作を説明するフローチャートである。
【図4】同上の物体検査装置により作成されたクラスタリングマップの例図である。
【図5】(a)〜(c)は同上の物体検査装置による出力結果の例図である。
【図6】(a)〜(e)は同上の物体検査装置による出力結果の作成手順の説明図である。
【図7】同上の物体検査装置による別の出力結果の例図である。
【図8】(a)は同上の物体検査装置による別の出力結果の例図、(b)(c)はマップ上の所定の出力ニューロンの発火リストである。
【図9】(a)〜(e)は実施形態2の物体検査装置によるクラスタリングマップの作成手順の説明図である。
【符号の説明】
1 信号入力部
2 特徴抽出部
3a マップ作成部
3b クラスタ判定部
7 表示部

Claims (16)

  1. 検査対象の物理的、化学的性質に関わる測定信号を入力して、入力された測定信号から検査対象の特徴量を抽出したデータを作成した後に、複数の前記データからなる学習用データセットを教師なし競合型ニューラルネットワークに入力してカテゴリ毎に分類して、クラスタリングマップを作成し、前記クラスタリングマップの作成後に新たな測定信号を学習後の前記競合型ニューラルネットワークに入力して、前記新たな測定信号の前記クラスタリングマップ上での位置を取得するとともに、取得した位置から前記新たな測定信号が何れのカテゴリに属するかを判定して判定結果を出力することを特徴とする物体検査方法。
  2. 前記測定信号は、人間の五感の内の少なくとも何れか1つの感覚に関わる信号であることを特徴とする請求項1記載の物体検査方法。
  3. 前記学習用データセットのデータを収集する際に、各々のデータが何れのカテゴリに属するかをユーザによる登録操作にしたがって記憶装置に登録し、前記クラスタリングマップを前記記憶装置に登録されたカテゴリ毎に異なる色で色分けして表示装置に表示させることを特徴とする請求項1又は2記載の物体検査方法。
  4. 前記クラスタリングマップを前記記憶装置に登録されたカテゴリ毎に異なる色で色分けして表示する背景画像を作成し、該背景画像をメモリに記憶させた後、前記新たな測定信号の前記クラスタリングマップ上での位置データを別のメモリに記憶させ、別々のメモリに記憶された前記背景画像と前記新たな測定信号の位置データとを用いて、前記背景画像上に新たな測定信号の位置を重ねて表示装置に表示させることを特徴とする請求項3記載の物体検査方法。
  5. 前記クラスタリングマップの作成後に前記学習用データセットのデータを学習後の前記競合型ニューラルネットワークに再度入力して、当該データの属するカテゴリを出力させ、出力されたカテゴリがユーザの登録したカテゴリと異なる場合には、前記クラスタリングマップ上で前記データの位置を登録されたカテゴリの色と異なる色で表示装置に表示させることを特徴とする請求項3記載の物体検査方法。
  6. 前記クラスタリングマップの作成後に前記学習用データセットのデータを学習後の前記競合型ニューラルネットワークに再度入力して、当該データの属するカテゴリを出力させ、前記クラスタリングマップ上の各々の位置に出力される前記データのリストを作成した後、ユーザによる前記クラスタリングマップ上の所望の位置の選択操作に応じて、選択された位置にマッピングされているデータのリストを表示し、当該リスト上のデータから所望のデータを選択する操作にしたがって、選択されたデータに対応する測定信号を出力することを特徴とする請求項3記載の物体検査方法。
  7. 前記クラスタリングマップの作成後に新たな測定信号から特徴量を抽出したデータを作成して前記学習用データセットに追加し、データが追加された前記学習用データセットを前記教師なし競合型ニューラルネットワークに入力して個々のカテゴリのデータに分類し、前記クラスタリングマップを更新することを特徴とする請求項1乃至6の何れか1つに記載の物体検査方法。
  8. 複数のカテゴリの内、一部のカテゴリに属するデータからなる学習用データセットを前記教師なし競合型ニューラルネットワークに入力して前記クラスタリングマップを作成した後に、検査対象の物体の検査を行うことで、新たな測定信号を学習後の競合型ニューラルネットワークに入力して、該測定信号の前記クラスタリングマップ上での位置を取得し、取得した位置が前記カテゴリの境界付近であればユーザに警報を発するとともに、該警報を受けてユーザが行った新たなカテゴリの登録操作にしたがって前記クラスタリングマップを更新することを特徴とする請求項1乃至6の何れか1つに記載の物体検査方法。
  9. 検査対象の物理的、化学的性質に関わる測定信号を入力する信号入力手段と、入力された測定信号から検査対象の特徴量を抽出したデータを作成する特徴量抽出手段と、複数の前記データからなる学習用データセットを教師なし競合型ニューラルネットワークに入力してカテゴリ毎に分類し、クラスタリングマップを作成するマップ作成手段と、新たな測定信号を学習後の前記競合型ニューラルネットワークに入力して、前記新たな測定信号の前記クラスタリングマップ上での位置を取得するとともに、取得した位置から前記新たな測定信号が何れのカテゴリに属するかを判定するクラスタ判定手段を備えることを特徴とする物体検査装置。
  10. 前記測定信号は、人間の五感の内の少なくとも何れか1つの感覚に関わる信号であることを特徴とする請求項9記載の物体検査装置。
  11. 前記学習用データセットのデータを収集する際に、各々のデータが何れのカテゴリに属するかをユーザによる登録操作にしたがって記憶装置に登録するカテゴリ登録手段と、前記クラスタリングマップを前記記憶装置に登録されたカテゴリ毎に異なる色で色分けして表示する表示手段とを備えることを特徴とする請求項9又は10記載の物体検査装置。
  12. 前記表示手段は、前記クラスタリングマップを前記記憶装置に登録されたカテゴリ毎に異なる色で色分けして表示する背景画像を作成し、該背景画像をメモリに記憶させるとともに、前記新たな測定信号の前記クラスタリングマップ上での位置データを別のメモリに記憶させ、別々のメモリに記憶された前記背景画像と前記新たな測定信号の位置データとを用いて、前記背景画像上に新たな測定信号の位置を重ねて表示することを特徴とする請求項11記載の物体検査装置。
  13. 前記学習用データセットのデータを学習後の前記競合型ニューラルネットワークに再度入力して、当該データの属するカテゴリを出力させるカテゴリ出力手段と、当該カテゴリ出力手段より出力されたカテゴリがユーザの登録したカテゴリと異なる場合に、前記クラスタリングマップ上で前記データの位置を登録されたカテゴリの色と異なる色で前記表示手段に表示させるクラスタ登録確認手段を備えることを特徴とする請求項11記載の物体検査装置。
  14. 前記学習用データセットのデータを学習後の前記競合型ニューラルネットワークに再度入力して、当該データの属するカテゴリを出力させるカテゴリ出力手段と、カテゴリ出力手段の出力をもとに、前記クラスタリングマップ上の各々の位置に出力される前記データのリストを作成するリスト作成手段と、ユーザによる前記クラスタリングマップ上の所望の位置の選択操作に応じて、選択された位置にマッピングされているデータのリストを前記リスト作成手段の作成したリストから読み出して表示装置に表示させるとともに、当該リスト上のデータから所望のデータを選択する操作にしたがって、選択されたデータに対応する測定信号を出力するデータ出力手段を備えることを特徴とする請求項11記載の物体検査装置。
  15. 新たな測定信号から特徴量を抽出したデータを作成して前記学習用データセットに追加する追加データ登録手段と、データが追加された前記学習用データセットを前記教師なし競合型ニューラルネットワークに入力して個々のカテゴリのデータに分類し、前記クラスタリングマップを更新するマップ更新手段を備えることを特徴とする請求項9乃至14の何れか1つに記載の物体検査装置。
  16. 前記マップ作成手段は、複数のカテゴリの内、一部のカテゴリに属するデータからなる学習用データセットを前記教師なし競合型ニューラルネットワークに入力して前記クラスタリングマップを作成するとともに、検査対象の検査を行う際にクラスタ判定手段が求めた測定信号の前記クラスタリングマップ上での位置が前記カテゴリの境界付近であればユーザに対して警報を発する警報手段と、警報手段による警報を受けてユーザが行った新たなカテゴリの登録操作にしたがって前記クラスタリングマップを更新するマップ更新手段を備えることを特徴とする請求項9乃至14の何れか1つに記載の物体検査装置。
JP2003149762A 2003-05-27 2003-05-27 物体検査装置 Expired - Fee Related JP3778177B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003149762A JP3778177B2 (ja) 2003-05-27 2003-05-27 物体検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003149762A JP3778177B2 (ja) 2003-05-27 2003-05-27 物体検査装置

Publications (2)

Publication Number Publication Date
JP2004354111A true JP2004354111A (ja) 2004-12-16
JP3778177B2 JP3778177B2 (ja) 2006-05-24

Family

ID=34045773

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003149762A Expired - Fee Related JP3778177B2 (ja) 2003-05-27 2003-05-27 物体検査装置

Country Status (1)

Country Link
JP (1) JP3778177B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006300895A (ja) * 2005-04-25 2006-11-02 Matsushita Electric Works Ltd 設備監視方法および設備監視装置
JP2007200044A (ja) * 2006-01-26 2007-08-09 Matsushita Electric Works Ltd 異常検出方法及び異常検出装置
JP2007198918A (ja) * 2006-01-26 2007-08-09 Matsushita Electric Works Ltd 異常監視方法、および異常監視装置
JP2007299059A (ja) * 2006-04-27 2007-11-15 Matsushita Electric Works Ltd 信号識別方法
WO2008016109A1 (fr) 2006-08-03 2008-02-07 Panasonic Electric Works Co., Ltd. Procédé d'optimisation de jeu de données d'apprentissage pour dispositif d'identification du signal et dispositif d'identification du signal capable d'optimiser le jeu de données d'apprentissage
JP2008046678A (ja) * 2006-08-10 2008-02-28 Matsushita Electric Works Ltd 異常監視装置
JP2008058030A (ja) * 2006-08-29 2008-03-13 Matsushita Electric Works Ltd 異常監視装置、異常監視方法
JP2008071255A (ja) * 2006-09-15 2008-03-27 Saga Univ 自己組織化マップを用いたパターン生成方法、そのプログラム及び装置
JP2008096305A (ja) * 2006-10-12 2008-04-24 Matsushita Electric Works Ltd 異常監視装置
EP1906282A3 (en) * 2006-09-29 2008-10-01 Matsushita Electric Works, Ltd. Device for estimating machining dimension of machine tool
WO2009022529A1 (ja) * 2007-08-10 2009-02-19 Olympus Corporation 判別装置および判別方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04310102A (ja) * 1991-04-09 1992-11-02 Hitachi Ltd 制御方法及びその装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04310102A (ja) * 1991-04-09 1992-11-02 Hitachi Ltd 制御方法及びその装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
呉君錫: "「自己組織化特徴マップに基づいた類似画像検索システムの設計」", 電子情報通信学会技術研究報告, vol. 100, no. 31, CSNG200100301002, 2 May 2000 (2000-05-02), JP, pages 9 - 16, ISSN: 0000712799 *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006300895A (ja) * 2005-04-25 2006-11-02 Matsushita Electric Works Ltd 設備監視方法および設備監視装置
JP2007200044A (ja) * 2006-01-26 2007-08-09 Matsushita Electric Works Ltd 異常検出方法及び異常検出装置
JP2007198918A (ja) * 2006-01-26 2007-08-09 Matsushita Electric Works Ltd 異常監視方法、および異常監視装置
JP4670662B2 (ja) * 2006-01-26 2011-04-13 パナソニック電工株式会社 異常検出装置
JP2007299059A (ja) * 2006-04-27 2007-11-15 Matsushita Electric Works Ltd 信号識別方法
WO2008016109A1 (fr) 2006-08-03 2008-02-07 Panasonic Electric Works Co., Ltd. Procédé d'optimisation de jeu de données d'apprentissage pour dispositif d'identification du signal et dispositif d'identification du signal capable d'optimiser le jeu de données d'apprentissage
US7831530B2 (en) 2006-08-03 2010-11-09 Panasonic Electric Works Co., Ltd. Optimizing method of learning data set for signal discrimination apparatus and signal discrimination apparatus capable of optimizing learning data set by using a neural network
JP2008046678A (ja) * 2006-08-10 2008-02-28 Matsushita Electric Works Ltd 異常監視装置
JP2008058030A (ja) * 2006-08-29 2008-03-13 Matsushita Electric Works Ltd 異常監視装置、異常監視方法
JP2008071255A (ja) * 2006-09-15 2008-03-27 Saga Univ 自己組織化マップを用いたパターン生成方法、そのプログラム及び装置
US7778724B2 (en) 2006-09-29 2010-08-17 Panasonic Electric Works Co., Ltd. Device for estimating machining dimension of machine tool
EP1906282A3 (en) * 2006-09-29 2008-10-01 Matsushita Electric Works, Ltd. Device for estimating machining dimension of machine tool
JP2008096305A (ja) * 2006-10-12 2008-04-24 Matsushita Electric Works Ltd 異常監視装置
JP4513796B2 (ja) * 2006-10-12 2010-07-28 パナソニック電工株式会社 異常監視装置
JP2009043197A (ja) * 2007-08-10 2009-02-26 Olympus Corp 判別装置
WO2009022529A1 (ja) * 2007-08-10 2009-02-19 Olympus Corporation 判別装置および判別方法
US9031882B2 (en) 2007-08-10 2015-05-12 Olympus Corporation Category determination device and method comprising a feature space containing a closed region used to determine the category of a target based on the position of the target within the feature space with reference to the closed region

Also Published As

Publication number Publication date
JP3778177B2 (ja) 2006-05-24

Similar Documents

Publication Publication Date Title
CN109961421B (zh) 数据生成装置、数据生成方法以及数据生成记录介质
JP6573226B2 (ja) データ生成装置、データ生成方法及びデータ生成プログラム
CN109977191B (zh) 问题地图检测方法、装置、电子设备和介质
KR20190098262A (ko) 심층적으로 적층된 층들을 갖는 웨이퍼들에서 결함 분류기를 트레이닝하고 적용하기 위한 시스템, 방법
JP7380019B2 (ja) データ生成システム、学習装置、データ生成装置、データ生成方法及びデータ生成プログラム
JP2004354111A (ja) 物体検査方法及びその装置
CN107203467A (zh) 一种分布式环境下监督学习算法的基准测试方法和装置
JP5718781B2 (ja) 画像分類装置および画像分類方法
CN109415057B (zh) 用于通过驾驶员辅助系统更好的识别对象的方法
CN113435314A (zh) 一种滚动轴承声信号早期故障敏感特征筛选方法和系统
CN114509266A (zh) 一种基于故障特征融合的轴承健康监测方法
CN114616573A (zh) 学习辅助装置、学习装置、学习辅助方法和学习辅助程序
CN109724680A (zh) 市场内称重防作弊方法
JP2011013720A (ja) カテゴリ判定ルールの作成方法、装置およびコンピュータプログラム
CN113554645B (zh) 基于wgan的工业异常检测方法和装置
WO2019176988A1 (ja) 検査システム、識別システム、及び識別器評価装置
JP2005115569A (ja) 信号識別装置および信号識別方法
JP3736465B2 (ja) におい識別装置
TW202345103A (zh) 使用機器學習的超音波缺陷檢測和分類系統
CN115249316A (zh) 工业缺陷检测方法和装置
US20220253735A1 (en) Method for simulation assisted data generation and deep learning intelligence creation in non-destructive evaluation systems
CN113420772A (zh) 基于多分类器与svdd协同算法的缺陷检测方法和装置
CN107886615A (zh) 边缘检测方法及验钞设备
Zhu et al. Rapid freshness prediction of crab based on a portable electronic nose system
JP2011065545A (ja) 信号識別装置および信号識別方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060220

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090310

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090310

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100310

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100310

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110310

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120310

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120310

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120310

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120310

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140310

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees