JPH10302049A - 画像識別装置および方法および画像識別装置を備えた画像検出識別装置ならびに画像識別用プログラムを記録した媒体 - Google Patents

画像識別装置および方法および画像識別装置を備えた画像検出識別装置ならびに画像識別用プログラムを記録した媒体

Info

Publication number
JPH10302049A
JPH10302049A JP9111533A JP11153397A JPH10302049A JP H10302049 A JPH10302049 A JP H10302049A JP 9111533 A JP9111533 A JP 9111533A JP 11153397 A JP11153397 A JP 11153397A JP H10302049 A JPH10302049 A JP H10302049A
Authority
JP
Japan
Prior art keywords
image
identification
unit
feature amount
defect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9111533A
Other languages
English (en)
Other versions
JP3982646B2 (ja
Inventor
Yoshifumi Koyama
善文 小山
Kenji Ogino
健次 荻野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KUMAMOTO TECHNO PORISU ZAIDAN
KUMAMOTO TECHNOPOLIS FOUND
Omron Corp
Original Assignee
KUMAMOTO TECHNO PORISU ZAIDAN
KUMAMOTO TECHNOPOLIS FOUND
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KUMAMOTO TECHNO PORISU ZAIDAN, KUMAMOTO TECHNOPOLIS FOUND, Omron Corp, Omron Tateisi Electronics Co filed Critical KUMAMOTO TECHNO PORISU ZAIDAN
Priority to JP11153397A priority Critical patent/JP3982646B2/ja
Publication of JPH10302049A publication Critical patent/JPH10302049A/ja
Application granted granted Critical
Publication of JP3982646B2 publication Critical patent/JP3982646B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Collating Specific Patterns (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 簡単に高精度の画像識別を実現する。 【解決手段】 画像取り込み部10により欠点画像を取
り込む。例外検出部22により欠点画像について例外処
理信号(白黒信号i221,無欠点信号i222,密集
信号i223)を検出する。特徴量抽出部23により欠
点画像について特徴量を抽出する。特徴量に基づき識別
部により欠点画像の識別を行い、この識別結果を判定部
により判定する。すなわち、識別結果が白黒信号i22
1の内容と一致していない場合、無欠点信号i222ま
たは密集信号i223が入力された場合には、識別不能
として識別部による識別結果を出力しない。よって、例
外処理信号を用いた判定部により識別が補助され、識別
精度が簡単に向上する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、種々の画像を識別
する画像識別装置および方法および画像識別装置を備え
た画像検出識別装置ならびに画像識別用プログラムを記
録した媒体に関する。
【0002】
【従来の技術】布や紙などの各種製造工程、あるいは印
刷工程などにおいては、品質を保持するために異物付着
やきずや印刷漏れなどの欠点の有無について検査を行っ
ている。従来、この検査では、被対象物の反射光や透過
光などにより得られた画像情報を予め用意した標準画像
と比較するなどして欠点の有無を検出し、検査の省力化
および自動化が図られていた。
【0003】また、欠点の有無を検出するのみでなく、
欠点の種類をも識別することにより、それを直ちに製造
工程などにフィードバックし、その欠点の発生原因に応
じた対応を取ることができるようにした画像識別手段も
提案されている。例えば、標準画像と比較して得た欠点
画像から特徴量を抽出し、その特徴量に基づいてファジ
ィ推論およびニーラルネットワークを用い欠点の種類を
識別するようにしたものである(特開平7−33317
0参照)。
【0004】
【発明が解決しようとする課題】しかしながら、この画
像識別手段では欠点画像から抽出した特徴量に基づいて
ファジィ推論を行うので、“大きい”“細い”などの言
語表現をもって作業者が設定を行う必要があり、作業が
煩雑であるという問題があった。また、ファジィ推論と
ニーラルネットワークのみで欠点の種類を識別している
ので、データベースに無い欠点が入力された場合や欠点
を誤検出した場合に登録済みの欠点の種類のうちの1つ
として出力してしまう可能性が高いという問題もあっ
た。
【0005】また、他の画像識別手段としては、画像の
輝度情報に関する平均を算出し、ファジィ推論とハイブ
リット・ニューラルネットワーク(すなわち階層型ネッ
トワークと対向伝搬ネットワークとを組み合わせたも
の)を用いて牛肉の肉色と脂肪色とを識別するものが提
案されている(特開平6−318244参照)。しか
し、この画像識別手段は、構造が複雑であり簡単に識別
することができないという問題があった。
【0006】本発明はかかる問題点に鑑みてなされたも
ので、その第1の目的は、簡単に高精度の識別をするこ
とができる画像識別装置および方法および画像識別装置
を備えた画像検出識別装置ならびに画像識別用プログラ
ムを記録した媒体を提供することにある。
【0007】第2の目的は、容易に効率良く識別するこ
とができる画像識別装置および方法および画像識別装置
を備えた画像検出識別装置ならびに画像識別用プログラ
ムを記録した媒体を提供することにある。
【0008】第3の目的は、画像の識別に必要なデータ
の設定などを容易に行うことができる画像識別装置およ
び方法および画像識別装置を備えた画像検出識別装置な
らびに画像識別用プログラムを記録した媒体を提供する
ことにある。
【0009】
【課題を解決するための手段】請求項1記載の画像識別
装置は、画像を取り込む画像取り込み手段と、この画像
取り込み手段により取り込んだ画像について特徴量を抽
出し特徴量信号として出力する特徴量抽出手段と、前記
画像取り込み手段により取り込んだ画像について識別を
補助するための例外処理信号を検出し出力する例外検出
手段と、前記特徴量抽出手段から出力された特徴量信号
と、前記例外検出手段から出力された例外処理信号とに
基づき画像を識別する判断処理手段とを備えるようにし
たものである。
【0010】この画像識別装置では、画像取り込み手段
により画像を取り込み、その画像について特徴量抽出手
段により特徴量を抽出し、例外検出手段により例外処理
信号を検出する。この特徴量と例外処理信号とに基づき
判断処理手段により画像を識別する。すなわち、例外処
理信号により識別を補助する。
【0011】この画像識別装置は、また、前記特徴量抽
出手段が識別対象画像に基づいて特徴量を抽出する画像
内特徴量抽出手段を有するようにしてもよい。更に、識
別対象画像と背景画像とを含む画像に基づいて特徴量を
抽出する背景含有画像特徴量抽出手段を更に有するよう
にすれば、より多くの異なった性質の情報を抽出するこ
とができるので好ましい。
【0012】請求項4記載の画像識別装置は、請求項1
乃至3のいずれか1に記載のものにおいて、前記判断処
理手段が、前記特徴量抽出手段から出力された特徴量信
号に基づき画像を識別する識別手段と、この識別手段に
より識別した結果を前記例外検出手段から出力された例
外処理信号に基づき判定する判定手段とを備えるように
したものである。
【0013】この画像識別装置では、特徴量信号に基づ
いて識別手段により画像を識別し、判定手段によりこの
識別結果を例外処理信号に基づいて判定する。すなわ
ち、判定手段により識別手段の識別を補助する。よっ
て、識別手段において扱う情報を削減することができ
る。
【0014】請求項6記載の画像識別装置は、請求項3
記載のものにおいて、前記判断処理手段が、前記画像内
特徴量抽出手段から出力された特徴量信号に基づき画像
を識別する1次識別手段と、この1次識別手段により識
別した結果を前記例外検出手段から出力された例外処理
信号に基づき判定する判定手段と、この判定手段の判定
結果に応じて、前記背景含有画像特徴量抽出手段から出
力された特徴量信号に基づき画像を識別する2次識別手
段とを備えるようにしたものである。
【0015】この画像識別装置では、1次識別手段によ
り画像を識別し、判定手段によりこの識別結果を判定す
る。また、その判定結果に応じて、2次識別手段により
画像を識別する。すなわち、判定手段および必要に応じ
て2次識別手段により1次識別手段の識別を補助する。
よって、1次識別手段において扱う情報が少なくても高
精度の識別を行うことができる。
【0016】この画像識別装置は、また、前記判断処理
手段が、前記1次識別手段としての機能と前記2次識別
手段としての機能とを有する識別手段を備えると共に、
前記識別手段について1次識別手段としての機能と2次
識別手段としての機能との切り替えを行う識別切り替え
手段を備えるようにしてもよい。
【0017】この画像識別装置では、1次識別手段とし
ての識別手段により画像を識別し、判定手段によりこの
識別結果を判定する。また、その判定結果に応じて、切
り替え手段により識別手段の機能を2次識別手段に切り
替え、2次識別手段としての識別手段により画像を識別
する。
【0018】請求項10記載の画像識別装置は、請求項
1乃至9のいずれか1に記載のものにおいて、更に、画
像の識別において基準となるデータを保持するデータ保
持手段を備えており、前記判断処理手段は特徴量信号と
例外処理信号と前記データ保持手段に保持されたデータ
とに基づいて画像を判断するようにしたものである。
【0019】この画像識別装置では、データ保持手段に
より画像の識別において基準となるデータを保持する。
判断処理手段では、特徴量信号と例外処理信号とデータ
保持手段に保持されたデータとに基づいて画像を判断す
る。
【0020】請求項11記載の画像識別装置は、請求項
10記載のものにおいて、更に、画像の識別において基
準となるデータを学習して前記データ保持手段に保持さ
せる学習手段を備えるようにしたものである。
【0021】この画像識別装置では、学習手段により画
像の識別において基準となるデータを学習してデータ保
持手段に保持させることができる。
【0022】請求項12記載の画像識別装置は、請求項
1乃至11のいずれか1に記載のものにおいて、更に、
入力手段と表示手段とを有し画像の識別において必要と
なるデータの設定を手動で行うためのマンマシンインタ
ーフェース部を備えるようにしたものである。
【0023】この画像識別装置では、画像の識別におい
て必要となるデータの設定をマンマシンインターフェー
ス部を介して手動で行うことができる。
【0024】請求項13記載の画像識別方法は、画像を
取り込む画像取り込み工程と、この画像取り込み工程に
より取り込んだ画像について特徴量を抽出する特徴量抽
出工程と、前記画像取り込み工程により取り込んだ画像
について識別を補助するための例外処理信号を検出する
例外処理信号検出工程と、前記特徴量抽出工程により抽
出した特徴量と、前記例外処理信号検出工程により検出
した例外処理信号とに基づき画像を識別する判断処理工
程とを含むようにしたものである。
【0025】この画像識別方法では、画像取り込み工程
により画像を取り込んだのち、特徴量抽出工程により画
像について特徴量を抽出すると共に、例外処理信号検出
工程により画像について例外処理信号を検出する。その
のち、この特徴量と例外処理信号とに基づき判断処理工
程により画像を識別する。
【0026】請求項18記載の画像検出識別装置は、撮
像画像から特定の画像を検出し識別する画像検出識別装
置であって、請求項1乃至12のいずれか1に記載の画
像識別装置を備えるようにしたものである。
【0027】この画像検出識別装置では、撮像画像から
特定の画像が検出され、これを本発明に係る画像識別装
置により識別する。
【0028】請求項19記載の画像識別用プログラムを
記録した媒体は、コンピュータによって画像を識別する
ためのものであって、画像識別用プログラムが、コンピ
ュータに画像を取り込む画像取り込み手順と、この画像
取り込み手順により取り込んだ画像について特徴量を抽
出する特徴量抽出手順と、前記画像取り込み手順により
取り込んだ画像について識別を補助するための例外処理
信号を検出する例外処理信号検出手順と、前記特徴量抽
出手順により抽出した特徴量と、前記例外処理信号検出
手順により検出した例外処理信号とに基づき画像を識別
する判断処理手順とを含むようにしたものである。
【0029】この画像識別用プログラムを記録した媒体
では、この媒体に記録された画像識別用プログラムによ
り実行される画像取り込み手順によってコンピュータに
画像が取り込まれ、媒体に記録された画像識別用プログ
ラムにより実行される特徴量抽出手順によって特徴量が
抽出され、媒体に記録された画像識別用プログラムによ
り実行される例外処理信号検出手順によって例外処理信
号が検出される。また、媒体に記録された画像識別用プ
ログラムにより実行される判断処理手順によって抽出さ
れた特徴量と検出された例外処理信号とに基づき画像が
識別される。
【0030】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照して詳細に説明する。
【0031】図1は、本発明の第1の実施の形態に係る
画像識別装置の概略構成を表すものである。この画像識
別装置は各種画像の識別に用いられるものであるが、こ
こでは、紙や布などの製造工程において被対象物に虫な
どの異物付着や穴や油じみなどの欠点が有るか否かを検
査する際に、被対象物の撮像画像から検出した欠点画像
を識別する場合について説明する。なお、この欠点画像
は撮像画像から欠点があると思われる部分を抽出したも
のであり、階調を持つ濃淡画像で、識別対象画像である
欠点部分と共にその背景も有するものである。
【0032】この画像識別装置は、欠点画像などの画像
を取り込む画像取り込み部10と、この画像取り込み部
10により取り込んだ欠点画像などの画像を処理する画
像処理部20と、この画像処理部20により処理した結
果に基づき欠点画像を識別する判断処理部30とを備え
ている。この判断処理部30には、メモリ素子などの適
宜な記憶媒体よりなるデータ保持部40が接続されてい
る。このデータ保持部40には、識別において基準とな
るデータが保持されており、識別に際し参照されるよう
になっている。
【0033】なお、判断処理部30は、欠点画像を識別
する判断処理手段としての機能に加えて、識別において
基準となるデータを学習してデータ保持部40に保持さ
せる学習手段としての機能も有している。判断処理部3
0が学習手段として機能する場合には、予め判明してい
る欠点を撮像した画像(基準画像)を画像取り込み部1
0により取り込み、それを画像処理部20により処理し
て、その結果に基づき判断処理部30により学習を行う
ようになっている。また、画像取り込み部10,画像処
理部20および判断処理部30は、マウスやキーボード
などの適宜な入力部61およびモニタなどの表示部62
を備えたマンマシンインターフェース部60にそれぞれ
接続されている。
【0034】図2は、画像処理部20の構成を表すもの
である。画像処理部20は、画像取り込み部10から入
力された画像について適宜な前処理を行う画像前処理部
21と、画像の識別を補助するための例外処理信号を検
出し出力する例外検出部22と、画像を識別するための
特徴量を抽出し特徴量信号として出力する特徴量抽出部
23とにより構成されている。
【0035】画像前処理部21は、濃度ヒストグラム作
成部211と平均濃度算出部212とにより構成されて
おり、濃度ヒストグラム作成部211により画像の濃度
ヒストグラムを作成すると共に、平均濃度算出部212
により濃度ヒストグラムにおける平均濃度を算出するよ
うになっている。
【0036】例外検出部22は、画像について白黒判定
を行い例外処理信号として白黒信号i221を出力する
白黒判定部221と、画像中に含まれる欠点を検出し検
出できない場合に例外処理信号として無欠点信号i22
2を出力する無欠点判定部222と、画像から欠点部分
のみを表す欠点内画像を作成する欠点内画像作成部22
3と、画像中に含まれる欠点の個数を計測し欠点の個数
が2個以上の場合には例外処理信号として密集信号i2
23を出力する個数計測部224とにより構成されてい
る。この例外検出部22から出力される例外処理信号
は、特徴量抽出部23により抽出された特徴量に基づき
識別された欠点画像の識別結果を判定するために用いら
れるものである。
【0037】白黒判定部221は、濃度ヒストグラム作
成部211により作成された濃度ヒストグラムの黒側平
均値(重心値)および白側平均値(重心値)を平均濃度
算出部212により算出された平均濃度値とそれぞれ比
較し、どちらの方が平均濃度値との濃度差(すなわち距
離)が大きいかに基づいて白黒判定を行うものである。
具体的には、黒側平均値の方が平均濃度値との濃度差が
大きい場合には平均濃度値よりも濃度が高いと判断し黒
欠点信号を白黒信号i221として判断処理部30に出
力し、白側平均値の方が大きい場合には平均濃度値より
も濃度が低いと判断し白欠点信号を白黒信号i221と
して判断処理部30に出力するようになっている。
【0038】無欠点判定部222は、画像取り込み部1
0により取り込んだ画像を2値化して2値画像を作成す
ると共に、この2値画像について孤立点を除去したのち
欠点に接して囲み込む矩形状の外接ウインドウを設定し
て、外接ウインドウが正しく設定できない場合には欠点
が無いと判断し、設定できた場合には欠点が有ると判断
するものである。
【0039】欠点内画像作成部223は、無欠点判定部
222により外接ウインドウが正しく設定された場合
に、欠点部分を黒で表した外接ウインドウと同じ大きさ
の欠点内白黒画像と、欠点部分を濃淡で表した外接ウイ
ンドウと同じ大きさの欠点内濃淡画像とを欠点内画像と
して作成するものである。例えば、図3に示したような
虫が付着した欠点画像Xaが取り込まれた場合には、欠
点内画像として、図4に示したような欠点内白黒画像X
bと図5に示したような欠点内濃淡画像Xcを作成する
ようになっている。すなわち、欠点画像Xaは欠点部分
の画像と背景画像とを有するものであるのに対し、欠点
内白黒画像Xbおよび欠点内濃淡画像Xcは欠点部分の
みの画像である。
【0040】個数計測部224は、欠点内画像作成部2
23により作成された欠点内白黒画像Xbに基いて欠点
の個数を計測し、それに応じて密集信号i223を出力
するものである。なお、この密集信号i223は、欠点
が複数ある場合の判断処理部30における処理順序を設
定する際に用いるようにしてもよい。
【0041】特徴量抽出部23は、欠点内画像作成部2
23により作成された欠点内白黒画像Xbに基づいて欠
点の幾何形状に関する特徴量を抽出する幾何形状特徴量
抽出部231と、欠点内濃淡画像Xcに基づいて欠点部
分の濃度パターンヒストグラムを作成する欠点内濃度パ
ターンヒストグラム作成部232と、作成した欠点内濃
度パターンヒストグラムから欠点部分の濃度パターンに
関する特徴量を抽出する欠点内濃度パターン特徴量抽出
部233とにより構成されている。すなわち、この特徴
量抽出部23は、欠点内画像に基づいて(識別対象画像
である欠点部分の画像に基づいて)特徴量を抽出する画
像内特徴量抽出手段により構成されている。
【0042】幾何形状特徴量抽出部231は、欠点内白
黒画像Xbから欠点の幾何形状を特定するための項目を
抽出し、それに基づいて欠点の幾何形状特徴量を算出し
て、それを特徴量信号の幾何形状信号i231として出
力するようになっている。抽出する項目は、例えば表1
に示したように、面積S,周囲長L,外接長方形(O
x,Oy),図形重心位置(Gx,Gy),最大径MA
XPである。なお、外接長方形(Ox,Oy)というの
は、図5に示したように、欠点に各辺が接して囲み込む
長方形のX軸方向の長さとY軸方向の長さである。図形
重心位置(Gx,Gy)というのは、図5に示したよう
に、欠点の重心位置をXY座標で表したものである。最
大径MAXPというのは、図5に示したように、欠点に
接する最大円の直径である。
【0043】
【表1】
【0044】また、幾何形状特徴量は、例えば表2に示
したように、面積S,面積比SR,円形度CR,フェレ
比FR,丸さ度合rough_R,伸長度length
である。これらの各幾何形状特徴量は、表2に示した計
算式によりそれぞれ算出される。なお、伸長度leng
thは、適宜設定される。
【0045】
【表2】
【0046】欠点内濃度パターンヒストグラム作成部2
32により作成する欠点内濃度パターンヒストグラムと
いうのは、例えば図6に示したように、欠点部分の濃度
頻度をグラフ化したものである。欠点内濃度パターン特
徴量抽出部233により抽出する欠点内濃度パターン特
徴量は、例えば表3に示したように、白/黒の別(W/
B),濃度(I),濃度分散(σ),濃度パターン
(P)である。これらの各欠点内濃度パターン特徴量
は、表3に示した計算式によりそれぞれ算出される。な
お、hmax は最大濃度頻度値であり、Iwidth は濃度値
の広がり幅であり、gmax は複数濃度パターン間のギャ
ップの幅である。欠点内濃度パターン特徴量抽出部23
3は、これらの欠点内濃度パターン特徴量を特徴量信号
の欠点内濃度パターン信号i233として出力するよう
になっている。
【0047】
【表3】
【0048】図7は判断処理部30の構成を表すもので
ある。判断処理部30は、特徴量抽出部23から出力さ
れた特徴量信号i231,i233に基づき欠点を識別
する識別部31と、この識別部31により識別した結果
が正しいか否かを判定する判定部32とにより構成され
ている。なお、識別部31は、欠点を識別する識別手段
としての機能に加えて、学習手段としての機能も有して
いる。
【0049】識別部31は、特徴量信号i231,i2
33をデータ保持部40に予め学習により記憶させてお
いた識別用データ41と単純に比較する比較回路や、フ
ァジィ回路などの計算回路により構成される。ファジィ
回路としては、例えば、ニューラルネットワークによる
入力の重みとしきい値を用いた回路や、ニューラルネッ
ト・プロセッサ(NNP)素子とメモリとにより重みと
履歴値とを用い重み付けを経験に応じて変化させること
ができる回路など、種々の回路を用いることができる。
識別部31に入力される特徴量信号i231,i233
の信号形式は、識別部31の構成に応じて適宜に選択さ
れ、アナログ信号でもデジタル信号でもよい。
【0050】また、識別用データ41というのは、例え
ば表4に示したように、識別のための重みとしきい値,
欠点名と出力番号および特徴量名と入力番号がそれぞれ
関連づけられたものである。すなわち、識別部31は、
識別手段として機能する場合には、識別用データ41の
特徴量名と入力番号およびそれに対応した重みとしきい
値とを参照して欠点を識別し、その結果を欠点名がそれ
ぞれ対応されたいずれかの出力端子から識別信号i31
1〜i31nとして出力するようになっている。この識
別信号i311〜i31nは、出力番号により欠点名を
表し、信号の大きさにより可能性の度合いを表してい
る。よって、1つの欠点名に特定できた場合には、対応
する出力番号の出力端子から1つの識別信号i311を
出力し、1つに特定できず2以上の欠点名を選択した場
合には、対応する各出力番号の各出力端子から各々任意
の大きさの識別信号i311〜i31nを出力するよう
になっている。
【0051】
【表4】
【0052】識別部31は、また、学習手段として機能
する場合には、特徴量抽出部23から出力された特徴量
信号i231,i233に基づき所定の学習動作を行っ
ていずれかの出力端子から識別信号i311〜i31n
を出力するようになっている。この出力端子の出力番号
は、入力部61から入力される欠点名や、その他必要な
データと共にデータ保持部40に記憶され、識別用デー
タ41を構成する。なお、識別用データ41は、その一
部もしくは全部をデータ保持部40にではなく識別部3
1内に必要に応じて保持させるようにしてもよい。
【0053】判定部32は、識別部31から出力された
各識別信号i311〜i31nの入力先をそれぞれ切り
替える切り替え部321と、各識別信号i311〜i3
1nの入力に応じて識別結果の確信度を計算する確信度
計算部322と、確信度計算部322からの出力に基づ
き識別部31で識別した結果を判定する判定結果出力部
323とにより構成されている。
【0054】切り替え部321は、識別部31の出力端
子の数に対応した複数のスイッチ回路3211〜321
nと、各スイッチ回路3211〜321nの切り替え動
作をそれぞれ制御する切り替え制御部321Aとを有し
ている。切り替え制御部321Aは、マンマシンインタ
ーフェース部60からの指示に応じて、識別部31が識
別手段として機能する時と学習手段として機能する時と
で異なった制御をするようになっている。
【0055】すなわち、識別部31が識別手段として機
能する時には、画像処理部20から出力された例外処理
信号である白黒信号i221,無欠点信号i222およ
び密集信号i223と、データ保持部40に予め学習に
より記憶させておいた例外制御用データ42とに基づき
各スイッチ回路3211〜321nをそれぞれ制御する
ようになっている。一方、識別部31が学習手段として
機能する時には、各スイッチ回路3211〜321nを
動作させずに“open”の状態とすると共に、必要に
応じて例外処理信号を例外制御用データ42としてデー
タ保持部40に記憶させるようになっている。なお、例
外制御用データ42というのは、表5に示したように、
全欠点の白黒信号値である。
【0056】
【表5】
【0057】また、識別部31が識別手段として機能す
る時の各スイッチ回路3211〜321nの制御条件
は、例えば表6に示したように設定されている。すなわ
ち、無欠点信号i222が入力された(例えば“1”が
入力された)場合には、欠点画像にはもともと欠点が含
まれていなかった誤検出として、各スイッチ回路321
1〜321nを接点aにも接点bにも接続せず“ope
n”の状態とするように設定されている。また、無欠点
信号i222が入力されない(例えば“0”が入力され
た)場合には、例外処理信号の白黒信号i221と例外
制御用データ42の白黒信号値が共に“白”の時に接点
aを閉じ、共に“黒”の時に接点bを閉じ、それ以外の
時(すなわち一致しない時)に“open”の状態とす
るように設定されている。なお、密集信号i223が入
力された場合には、欠点が複数あるとして判定動作を繰
り返し行うか、判定不能として処理するか、あるいは密
集欠点として処理するように制御されている。
【0058】
【表6】
【0059】確信度計算部322は、各スイッチ回路3
211〜321nの接点aにそれぞれ接続された白欠点
確信度計算部3221と、接点bにそれぞれ接続された
黒欠点確信度計算部3222とにより構成されている。
すなわち、確信度計算部322では、各スイッチ回路3
211〜321nの動作に応じて各識別信号i311〜
i31nが白欠点確信度計算部3221にそれぞれ入力
されるか、黒欠点確信度計算部3222にそれぞれ入力
されるか、またはどちらにも入力されないようになって
いる。また、白欠点確信度計算部3221および黒欠点
確信度計算部3222は、入力された識別信号i311
〜i31nに基づいて適宜の計算を行い、識別部31に
よる識別結果の確からしさを表す確信度を算出するもの
である。この確信度は、例えば、識別部31からの出力
全体に対する1つの出力(すなわち1つの欠点名に関す
る出力)の割合で表される。
【0060】判定結果出力部323における判定の条件
は、白欠点確信度計算部3221または黒欠点確信度計
算部3222により計算された各欠点名の確信度と、そ
れらを評価するための2つの基準(評価値1,評価値
2)との関係に応じて、例えば表7に示したように設定
されている。すなわち、1つの欠点名の確信度1のみが
高い場合(パターンA)は“欠点有り”と判定し、高い
確信度のものがなくやや高いものが複数ある場合、ある
いは高い確信度のものが複数ある場合(パターンB)は
“未確定”と判定し、その他の場合(パターンC)は
“未登録”と判定するように設定されている。判定結果
出力部323は、判定が“欠点有り”の場合にはその確
信度が高かった欠点名およびその他必要な情報を出力
し、“未確定”および“未登録”の場合には識別不能と
して出力するようになっている。
【0061】
【表7】
【0062】また、図1に示したこのマンマシンインタ
ーフェース部60は、データ設定機能と動作設定・結果
表示機能とを有している。データ設定機能としては、表
8に示したように、(イ)予め学習によりデータ保持部
40に識別用データ41を記憶させるに際し欠点名など
を手動で設定する機能、(ロ)画像処理部20で画像を
処理する際などの各種パラメータを変更調整する機能、
(ハ)統計処理などにおける評価表示のためのデータシ
ートを作成する機能がある。なお、これらのデータ設定
は、モニタ62の画面を見ながら入力手段61によって
行うことができるようになっている。
【0063】
【表8】
【0064】動作設定・結果表示機能としては、表9に
示したように、(イ)学習・識別などのモード切り替え
およびスタートの設定機能、(ロ)判断処理部30にお
いて判定した結果とその関連データを表示する機能があ
る。例えば、この学習・識別切り替えにより学習モード
に設定すれば、判断処理部30(すなわち識別部31お
よび判定部32)における動作結果および関連の情報が
データ保持部40に記憶され、識別モードに設定すれ
ば、判定結果などが表示され必要な情報が記録されるよ
うになっている。
【0065】
【表9】
【0066】このような構成を有する画像識別装置は、
次のようにして動作する。なお、本発明の画像識別方法
は、この画像識別装置が動作することにより実行され
る。よって、ここでは、画像識別装置の動作を説明する
ことにより本発明の画像識別方法の説明に代える。
【0067】図8はこの画像識別装置の全体動作(すな
わち本実施の形態に係る画像識別方法における各工程)
を表す概略流れ図である。この画像識別装置および方法
においては、まず、学習・識別切り替えにより学習モー
ド(学習ステップA)あるいは識別モード(識別ステッ
プB)のどちらかが選択される(ステップS101)。
ここでは、欠点画像の識別動作に先立ち、欠点を識別す
る際に識別の基準となるデータをデータ保持部40に記
憶させる必要があるので、まずは、マンマシンインター
フェース部60を介して手動により学習モードを選択す
る。
【0068】(学習モード)学習モードに切り替えられ
たのち、画像取り込み部10により、基準画像(予め判
明している欠点を例えばCCDカメラなどで撮像した画
像;例えば図3に示したような虫が付着した画像)を取
り込む(ステップS102A)。次いで、この基準画像
について画像前処理部21により前処理を行う(ステッ
プS103A)。すなわち、濃度ヒストグラム作成部2
11により濃度ヒストグラムを作成し、平均濃度算出部
212により平均濃度を算出する。
【0069】続いて、例外検出部22により例外処理信
号の検出と欠点内画像の作成を行う(ステップS104
A)。図9に例外検出部22における動作の流れ図を示
す。例外検出部22では、まず、白黒判定部221にお
いて濃度ヒストグラム作成部211により作成した濃度
ヒストグラムの黒側平均値および白側平均値を平均濃度
算出部212により算出した平均濃度とそれぞれ比較し
て、黒側平均値の方が白側平均値よりも平均濃度値との
差が大きい場合には黒と判定し、白側平均値の方が差が
大きい場合には白と判断する(ステップS1041
A)。これにより、黒と判断した場合には例外処理信号
の白黒信号i221として黒欠点信号を切り替え部32
1に出力し、白と判断した場合には例外処理信号の白黒
信号i221として白欠点信号を切り替え部321に出
力する(ステップS1042A)。
【0070】次いで、無欠点判定部222において画像
取り込み部10により取り込んだ基準画像の2値化を行
い2値画像を作成する(ステップS1043A)。続い
て、この2値画像について孤立点の除去を行い(ステッ
プS1044A)、欠点を囲む外接ウインドウを設定す
る(ステップS1045A)。ここで、外接ウインドウ
を正しく設定できなかった場合には(ステップS104
6A;N)、例外処理信号として無欠点信号i222を
切り替え部321に出力する(ステップS1042
A)。一方、外接ウインドウを正しく設定できた場合に
は(ステップS1046A;Y)、欠点内画像作成部2
23において欠点内白黒画像Xb(図4参照)と欠点内
濃淡画像Xc(図5参照)を作成する(ステップS10
47A)。
【0071】そののち、個数計測部224においてこの
欠点内白黒画像Xbに基づき欠点の個数を計測する(ス
テップS1048A)。欠点の個数が2個以上であった
場合には(ステップS1049A;Y)、例外処理信号
として密集信号i223を切り替え部321に出力する
(ステップS1042A)。一方、欠点の個数が1個で
あった場合には(ステップS1049A;N)、例外検
出部22における動作を終了する。
【0072】このように例外検出部22により欠点内画
像の作成がされたのち、この欠点内画像に基づいて特徴
量抽出部23により欠点の特徴量を抽出する(ステップ
S105A)。すなわち、幾何形状特徴量抽出部231
により表1に示した項目を抽出し、それに基づき表2に
示した幾何形状特徴量を算出する。また、欠点内濃度パ
ターンヒストグラム作成部232により欠点内濃度パタ
ーンヒストグラム(図6参照)を作成し、これに基づき
欠点内濃度パターン特徴量抽出部233により表3に示
した欠点内濃度パターン特徴量を抽出する。そののち、
これら抽出した幾何形状特徴量および欠点内濃度パター
ン特徴量を、特徴量信号の幾何形状信号i231および
欠点内濃度パターン信号i233として識別部31にそ
れぞれ出力する。
【0073】識別部31では、特徴量信号が入力される
と、この特徴量に基づいて適宜の学習動作を行い、いず
れかの出力端子から識別信号i311〜i31nを出力
する。この出力端子の出力番号は、基準画像の欠点名
(例えば虫)を対応させてデータ保持部40に識別用デ
ータ41として登録し記憶させる(ステップS106
A)。なお、特徴量の選択や欠点名の設定などは入力手
段61を介して手動により行う。
【0074】一方、切り替え部321では、切り替え制
御部321Aにより各スイッチ回路3211〜321n
を制御して動作させずに“open”の状態とする。ま
た、識別部31における動作と並行してまたはそれと前
後して、入力された例外処理信号(ここでは白黒信号i
221)を必要に応じてデータ保持部40に例外制御用
データ42として登録し記憶させる(ステップS107
A)。
【0075】以上の動作を繰り返すことにより、種々の
基準画像に関するデータをデータ保持部40に記憶させ
る。このようにして学習モードが終了したら、マンマシ
ンインターフェース部60を介して手動により識別モー
ド(識別ステップB)に切り替える(ステップS10
1)。
【0076】(識別モード)識別モードに切り替えられ
たのち、画像取り込み部10により識別対象を含む欠点
画像(例えば図3に示したような虫が付着した画像)を
取り込む(ステップS102B;画像取り込み工程)。
次いで、学習モードと同様にして、この欠点画像につい
て画像前処理部21により前処理(濃度ヒストグラムの
作成,平均濃度の算出)を行う(ステップS103
B)。
【0077】続いて、学習モードと同様にして、例外検
出部22により例外処理信号の検出と欠点内画像の作成
を行う(ステップS104B(図9参照);例外処理信
号検出工程)。すなわち、白・黒欠点判断を行い白黒信
号i221を出力すると共に、欠点画像の2値化を行い
孤立点を除去したのち、外接ウインドウの設定を行う。
この外接ウインドウが正しく設定できた場合には欠点内
画像(欠点内白黒画像Xb(図4参照),欠点内濃淡画
像Xc(図5参照))を作成し、設定できなかった場合
には無欠点信号i222を出力する。そののち、欠点内
画像に基づいて欠点の個数を計測し、欠点の個数が2個
以上であった場合には密集信号i223を出力する。
【0078】例外検出部22により欠点内画像の作成が
されたのち、学習モードと同様にして、この欠点内画像
に基づいて特徴量抽出部23により欠点の特徴量(幾何
形状特徴量,欠点内濃度パターン特徴量)を抽出する
(ステップS105B;特徴量抽出工程)。そののち、
抽出した特徴量(幾何形状特徴量,欠点内濃度パターン
特徴量)を、特徴量信号(幾何形状信号i231,欠点
内濃度パターン信号i233)として識別部31に出力
する。
【0079】識別部31では、特徴量信号が入力される
と、この特徴量に基づいて識別用データ41を参照し欠
点の識別を行う(ステップS106B;識別工程)。す
なわち、特徴量と識別用データ41とを単純に比較し、
あるいは適宜な計算処理をして、欠点画像の欠点が識別
用データ41に記憶されているいずれかの欠点(例えば
虫)あるいはそれに類似した欠点であると識別する。こ
の識別結果は、識別信号i311〜i31nとして欠点
名が対応された1つあるいは複数の出力端子から切り替
え部321に出力される。
【0080】一方、切り替え部321では、識別部31
における動作と並行してまたはそれと前後して、入力さ
れた例外処理信号に基づいて例外制御用データ42を参
照し、表6に示したように各スイッチ回路3211〜3
21nの設定を行う(ステップS107B)。すなわ
ち、無欠点信号i222が入力された場合には“ope
n”の状態とし、入力されない場合には例外処理信号の
白黒信号i221と例外制御用データ42の白黒信号値
が共に“白”の時に接点aを閉じ、共に“黒”の時に接
点bを閉じる。ここで、切り替え部321が“ope
n”の状態である場合には、判定不能の信号を確信度計
算部322を介して判定結果出力部323に出力する。
接点aまたは接点bが閉じられた場合には、識別信号i
311〜i31nを白欠点確信度計算部3221または
黒欠点確信度計算部3222のいずれかに出力する。ま
た、密集信号i223が入力された場合には、判定動作
を繰り返し行うか判定不能の信号あるいは密集欠点の信
号を判定結果出力部323に出力する。
【0081】識別信号i311〜i31nが確信度計算
部322に入力された場合には(ステップS107B;
接続)、白欠点確信度計算部3221または黒欠点確信
度計算部3222のいずれかにより確信度を算出し判定
結果出力部323に出力する(ステップS108B)。
そののち、判定結果出力部323により確信度を所定の
評価値と比較して表7に示したように判断を行う(ステ
ップS109B;S107Bから以上判定工程)。
【0082】ここで、“欠点有り”と判定した場合には
(ステップS109B;有)、識別信号i311〜i3
1nが出力された出力端子の出力番号に対応する欠点名
(例えば虫)をその他必要な情報と共に出力する(ステ
ップS110B)。一方、“未登録”または“未確定”
と判定した場合には(ステップS109B;未)、識別
不能として出力する(ステップS110B)。また、切
り替え部321より判定不能の信号が入力された場合に
は識別不能と出力し、密集欠点の信号が入力された場合
には欠点名と共に密集欠点であることを出力する(ステ
ップS110B)。この出力結果はモニタ62により表
示されると共に、必要に応じて記録される。これによ
り、欠点画像の識別が終了する。
【0083】このように本実施の形態に係る識別装置お
よび方法によれば、画像処理部20において特徴量とし
ての幾何形状特徴量および欠点内濃度パターン特徴量を
抽出するに加え、例外処理信号(白黒信号i221,無
欠点信号i222,密集信号i223)を検出するよう
にしたので、例外処理信号により識別を補助することが
できる。よって、特徴量に基づいて行った識別が誤って
いても例外処理信号によりそれを検出することができ、
識別精度を向上させることができる。
【0084】また、識別部31により特徴量に基づいて
画像の識別を行うと共に、判定部32により例外処理信
号に基づいて識別部31による識別結果の判定を行うよ
うにしたので、判定部32による判定により識別を補助
することができる。よって、例えば画像の白黒判定が容
易となり、識別部31において扱う特徴量および識別部
31の処理内容を削減することができる。すなわち、識
別を容易に効率よく行うことができる。
【0085】更に、識別に必要なデータの設定などを手
動により行うためのマンマシンインターフェース部60
を備えるようにしたので、学習モードにおける各種設定
を容易に行うことができる。
【0086】(第2の実施の形態)図10は、本発明の
第2の実施の形態に係る画像識別装置における識別部1
031の構成を表すものである。この画像識別装置は、
識別部1031および識別用データ1041の構成が異
なっていることを除き、他は第1の実施の形態に係る画
像識別装置と同一の構成を有している。よって、ここで
は、第1の実施の形態と同一の構成要素には同一の符号
を付し、その詳細な説明を省略する。
【0087】識別部1031は、入力層10311と中
間層10312と出力層10313の3層構造よりなる
ニューラルネットワークにより構成されている。入力層
10311,中間層10312および出力層10313
の各層内部における各ニューロン間の結合は無く、下位
層の各ニューロンは上位層の全てのニューロンと結合し
ている。各ニューロンの出力値Oiは数1に示した式で
表される。
【0088】
【数1】Oi=f(ΣWij×Iij−θ) Wij ; 下位層のj番目のニューロンとの結合重み Iij ; j番目のニューロンからの入力値 θ ; しきい値 f ; 非線形関数(いわゆるシグモイド関数)
【0089】このニューラルネットワークの学習則は、
教師有りのバックプロパゲーション学習則となってい
る。バックプロパゲーション学習というのは、誤差逆伝
搬法とも呼ばれ、各教師信号値とそれに対応する出力ニ
ューロンの出力値の誤差の総和が最小となるように各ニ
ューロンの重みとしきい値を繰り返し演算により決定す
るものである。学習した重みおよびしきい値は、データ
保持部1040に識別用データ1041として記憶され
る。この識別用データ1041は、表10に示したよう
に、ニューロンの重みとしきい値,欠点名と出力番号お
よび特徴量名と入力番号がそれぞれ関連づけられたもの
である。
【0090】
【表10】
【0091】すなわち、この識別部1031は、特徴量
抽出部23から入力層10311に特徴量信号が入力さ
れると、各ニューロンにおいて式1に示した計算を行
い、出力層10313の1つあるいは複数のニューロン
から識別結果としての識別信号i311〜i31nを判
定部32に出力するようになっている。この識別信号i
311〜i31nは、出力番号(すなわち出力したニュ
ーロンの番号)により欠点名を表し、信号の大きさによ
り可能性の度合いを表している。
【0092】このような構成を有する画像識別装置は、
識別部1031における具体的な識別動作が異なること
を除き、第1の実施の形態と同様にして動作する。
【0093】このように本実施の形態に係る画像識別装
置および方法によれば、識別部1031をニューラルネ
ットワークにより構成しニューラルネットワークを用い
て識別を行うようにしたので、多くの入力ポートによっ
て多くの特徴量を容易に扱うことができる。また、重み
としきい値を学習により最適化することができる。よっ
て、精度良い識別を容易に行うことができる。
【0094】(第3の実施の形態)図11は、本発明の
第3の実施の形態に係る画像識別装置における画像処理
部2020の構成を表すものである。この画像識別装置
は、第1の実施の形態に加えて例外検出部2022が背
景含有画像作成部225を備えると共に、特徴量抽出部
2023が背景含有濃度パターンヒストグラム作成部2
34および背景含有濃度パターン特徴量抽出部235を
備えたことを除き、他は第1の実施の形態に係る画像識
別装置と同一の構成を有している。すなわち、この画像
識別装置は、第1の実施の形態に加えて、背景含有画像
に基づく特徴量を抽出し用いるようにしたものである。
よって、ここでは、第1の実施の形態と同一の構成要素
には同一の符号を付し、その詳細な説明を省略する。
【0095】例外検出部2022は、白黒判定部22
1,無欠点判定部222,欠点内画像作成部223およ
び個数計測部224に加えて、欠点部分の画像と背景画
像とを含む背景含有画像を作成する背景含有画像作成部
225を備えている。この背景含有画像作成部225
は、無欠点判定部222により外接ウインドウが正しく
設定された場合に、欠点部分および背景を濃淡で表した
外接ウインドウと同じ大きさの背景含有濃淡画像を作成
するものである。例えば、図3に示したような虫が付着
した欠点画像Xaが取り込まれた場合には、図12に示
したような背景含有濃淡画像Xdを作成するようになっ
ている。すなわち、背景含有濃淡画像Xdは欠点部分と
外接ウインドウで囲まれた部分の背景とを有する画像で
ある。
【0096】特徴量抽出部2023は、幾何形状特徴量
抽出部231,欠点内濃度パターンヒストグラム作成部
232および欠点内濃度パターン特徴量抽出部233に
加えて、背景含有濃淡画像Xdに基づいて背景も含めた
欠点に関する濃度パターンヒストグラムを作成する背景
含有濃度パターンヒストグラム作成部234と、作成し
た背景含有濃度パターンヒストグラムから濃度パターン
に関する特徴量を抽出する背景含有濃度パターン特徴量
抽出部235とを備えている。
【0097】すなわち、この特徴量抽出部2023は、
幾何形状特徴量抽出部231と欠点内濃度パターンヒス
トグラム作成部232と欠点内濃度パターン特徴量抽出
部233とからなり欠点内画像(識別対象画像である欠
点部分の画像)に基づいて特徴量を抽出する画像内特徴
量抽出部2023Aと、背景含有濃度パターンヒストグ
ラム作成部234と背景含有濃度パターン特徴量抽出部
235とからなり背景含有画像(識別対象である欠点部
分の画像と背景画像とを含む画像)に基づいて特徴量を
抽出する背景含有特徴量抽出部2023Bとにより構成
されている。
【0098】背景含有濃度パターンヒストグラム作成部
234により作成する背景含有濃度パターンヒストグラ
ムというのは、例えば図13に示したように、欠点部分
と外接ウインドウで囲まれた背景部分における濃度と頻
度とをグラフ化したものである。この背景含有濃度パタ
ーンヒストグラムは背景部分の情報を含んでいるので、
欠点内濃度パターンヒストグラム(図6参照)とは異な
った形状となる。
【0099】背景含有濃度パターン特徴量抽出部235
により抽出する背景含有濃度パターン特徴量は、欠点内
濃度パターン特徴量と同じように、白/黒の別(W/
B),濃度(I),濃度分散(σ),濃度パターン
(P)である(表3参照)。但し、欠点内濃度パターン
特徴量とは異なった値が抽出される。背景含有濃度パタ
ーン特徴量抽出部235は、この背景含有濃度パターン
特徴量を特徴量信号の背景含有濃度パターン信号i22
5として識別部31に出力するようになっている。すな
わち、本実施の形態に係る画像識別装置は、識別に関す
る情報を第1の実施の形態に係る画像識別装置よりも多
く識別部31に与え、性質の異なった特徴量としての情
報に基づき識別を行うようになっている。
【0100】このような構成を有する画像識別装置は、
次のようにして動作する。
【0101】図14はこの画像識別装置の全体動作(す
なわち本実施の形態に係る画像識別方法の各工程)を表
す概略流れ図である。ここでは、まず、マンマシンイン
ターフェース部60を介して手動により学習モード(学
習ステップA)に切り替える(ステップS101)。
【0102】(学習モード)学習モードに切り替えられ
たのち、第1の実施の形態と同様にして、画像取り込み
部10により基準画像を取り込み(ステップS102
A)、画像前処理部21により前処理を行う(ステップ
S103A)。次いで、第1の実施の形態と同様にし
て、例外検出部22により例外処理信号の検出と欠点内
画像の作成を行う(ステップS104A)。但し、無欠
点判定部222において外接ウインドウを設定できた場
合には、欠点内画像の作成と並行してあるいはそれと前
後して、背景含有画像作成部225により背景含有画像
Xdも作成する(ステップS201A)。
【0103】続いて、第1の実施の形態と同様にして、
特徴量抽出部23(幾何形状特徴量抽出部231,欠点
内濃度パターンヒストグラム作成部232,欠点内濃度
パターン特徴量抽出部233)により欠点内画像に基づ
く特徴量(幾何形状特徴量,欠点内濃度パターン特徴
量)を抽出し、特徴量信号の幾何形状信号i231およ
び欠点内濃度パターン信号i233として識別部31に
それぞれ入力する(ステップS105A)。
【0104】また、欠点内画像に基づく特徴量の抽出と
並行してあるいはそれと前後して、特徴量抽出部23
(背景含有濃度パターンヒストグラム作成部234,背
景含有濃度パターン特徴量抽出部235)により、背景
含有画像に基づく特徴量を抽出する(ステップS202
A)。すなわち、背景含有濃度パターンヒストグラム作
成部234により背景含有濃度パターンヒストグラム
(図13参照)を作成し、これに基づき背景含有濃度パ
ターン特徴量抽出部235により表3に示した背景含有
濃度パターン特徴量を抽出する。そののち、この背景含
有濃度パターン特徴量を特徴量信号の背景含有濃度パタ
ーン信号i235として識別部31に出力する。
【0105】識別部31では、特徴量信号(幾何形状信
号i231,欠点内濃度パターン信号i233,背景含
有濃度パターン信号i235)が入力されると、第1の
実施の形態と同様にこの特徴量に基づいて適宜の学習動
作を行い、その結果を1つの出力端もしくは複数の出力
端から識別信号i311〜i31nとして出力する。そ
の出力端子の出力番号は欠点名を対応させてデータ保持
部40に識別用データ41として登録し記憶させる(ス
テップS203A)。
【0106】一方、切り替え部321では、第1の実施
の形態と同様にして、各スイッチ回路3211〜321
nを動作させずに“open”の状態とすると共に、入
力された例外処理信号を必要に応じてデータ保持部40
に例外制御用データ42として登録し記憶させる(ステ
ップS107A)。
【0107】このようにして学習モードが終了したら、
マンマシンインターフェース部60を介して手動により
識別モード(識別ステップB)に切り替える(ステップ
S101)。
【0108】(識別モード)識別モードに切り替えられ
たのち、第1の実施の形態と同様にして、画像取り込み
部10により識別対象を含む欠点画像(例えば図3参
照)を取り込み(ステップS102B;画像取り込み工
程)、画像前処理部21により前処理を行う(ステップ
S103B)。次いで、第1の実施の形態と同様にして
例外検出部22により例外処理信号の検出と欠点内画像
の作成を行うと共に(ステップS104B;例外処理信
号検出工程)、学習モードと同様にして背景含有画像X
dを作成する(ステップS201B)。
【0109】続いて、第1の実施の形態と同様にして、
特徴量抽出部23(幾何形状特徴量抽出部231,欠点
内濃度パターンヒストグラム作成部232,欠点内濃度
パターン特徴量抽出部233)により欠点内画像に基づ
く特徴量(幾何形状特徴量,欠点内濃度パターン特徴
量)を抽出し、特徴量信号(幾何形状信号i231,欠
点内濃度パターン信号i233)として識別部31に出
力する(ステップS105B;画像内特徴量抽出工
程)。また、学習モードと同様にして、特徴量抽出部2
3(背景含有濃度パターンヒストグラム作成部234,
背景含有濃度パターン特徴量抽出部235)により背景
含有画像に基づく特徴量を抽出し、特徴量信号の背景含
有濃度パターン信号i235として識別部31に出力す
る(ステップS202B;背景含有画像特徴量抽出工
程)。
【0110】識別部31では、特徴量信号(幾何形状信
号i231,欠点内濃度パターン信号i233,背景含
有濃度パターン信号i235)が入力されると、この特
徴量に基づいて識別用データ41を参照し欠点の識別を
行う(ステップS203B;識別工程)。この識別結果
は、1つもしくは複数の出力端から識別信号i311〜
i31nとして切り替え部321に出力される。
【0111】一方、切り替え部321では、第1の実施
の形態と同様にして、各スイッチ回路3211〜321
nの設定をする(ステップS107B)。これにより、
スイッチ回路3211〜321nが動作し、確信度計算
部322に識別信号i311〜i31nが入力された場
合には(ステップS107B;接続)、第1の実施の形
態と同様にして、確信度計算部322により確信度を算
出し(ステップS108B)、判定結果出力部323に
より比較判定を行う(ステップS109B;S107B
から以上判定工程)。判定結果出力部323は、その判
定結果および切り替え部321からの出力に基づいて所
定の出力を行う(ステップS110B)。これにより、
欠点画像の識別が終了する。
【0112】このように本実施の形態に係る画像識別装
置および方法によれば、幾何形状特徴量および欠点内濃
度パターン特徴量に加えてそれらとは性質の異なった背
景含有濃度パターン特徴量を抽出し、それらに基づき識
別を行うようにしたので、多くの情報に基づいて識別を
することができ、識別精度を向上させることができる。
【0113】なお、第3の実施の形態においては、第1
の実施の形態と同様に、識別部31の構成を特に限定し
ないで説明したが、第2の実施の形態のようにニューラ
ルネットワークにより構成するようにしてもよい。この
ように、識別部31をニューラルネットワークにより構
成するようにすれば、多くの入力ポートを持つことがで
き、多くの特徴量信号を容易に扱うことができる。よっ
て、第1の実施の形態に比べて特徴量信号が多くても、
容易に識別処理をすることができる。すなわち、精度良
い識別を容易に行うことができる。
【0114】(第4の実施の形態)図15は本発明の第
4の実施の形態に係る画像識別装置における判断処理部
3030の構成を表すものである。図16は判断処理部
3030の2次識別部33の構成を表すものである。こ
の画像識別装置は、第3の実施の形態に加えて、判断処
理部3030が2次識別部33および総合判定出力部3
4を備え、データ保持部3040が2次識別用データ4
3を備えたことを除き、他は第3の実施の形態に係る画
像識別装置と同一の構成を有している。なお、第3の実
施の形態は、第1の実施の形態に加えて、背景含有画像
に基づく特徴量を抽出するようにしたものである(図1
1参照)。よって、ここでは、第1および第3の実施の
形態と同一の構成要素には同一の符号を付し、その詳細
な説明を省略する。
【0115】判断処理部3030は、1次識別部として
の識別部31,切り替え部321,確信度計算部322
および判定結果出力部323に加えて、特徴量信号の背
景含有濃度パターン信号i235に基づき欠点を識別す
る2次識別部33と、判定結果出力部323からの出力
および2次識別部33からの出力に基づいて識別結果を
総合的に判定する総合判定出力部34とを備えている。
【0116】なお、識別部31には、第3の実施の形態
とは異なり、特徴量信号のうち欠点内画像に基づく幾何
形状信号i231と欠点内濃度パターン信号i233の
みが入力され、背景含有画像に基づく背景含有濃度パタ
ーン信号i235は入力されないようになっている。判
定結果出力部323は、“欠点有り”および“未登録”
と判定した場合には識別結果などを総合判定出力部34
に出力し、“未確定”と判定した場合には2次識別部3
3に識別を行うように指示を与えると共に、無欠点信号
i222の入力による判定不能の信号あるいは密集信号
i223の入力による判定不能および密集欠点の信号が
入力された場合にはその旨を総合判定出力部34に出力
するようになっている。
【0117】2次識別部33は、入力層331と出力層
332の2層構造よりなるニューラルネットワークによ
り構成されている。入力層331には、背景含有濃度パ
ターンヒストグラムの各濃度値における頻度値が背景含
有濃度パターン信号i235として各ニューロンに入力
されるようになっている。また、出力層332には、識
別部31による識別で確信度が比較的高かった複数の欠
点が1つのニューロンに対して1つづつ割り当てられ
る。出力層332の各ニューロンの重みには、対応する
欠点の濃度パターンヒストグラムにおける各頻度値が用
いられる。なお、この重みは、表11に示したように、
予め学習によりデータ保持部40に2次識別用データ4
3として欠点名と関連づけて記憶されている。
【0118】
【表11】
【0119】また、出力層332の各ニューロンの出力
値Toは数2に示した式で表される。すなわち、この2
次識別部33は、入力された背景含有濃度パターンヒス
トグラムと2次識別用データ43の重み(すなわち学習
しておいた濃度パターンヒストグラム)との相関度を調
べ、相関度が最も高い(すなわち出力値Toが最小の)
ニューロンの欠点名を出力するようになっている。
【0120】
【数2】
【0121】総合判定出力部34における判定の条件
は、表12に示したように設定されている。すなわち、
判定結果出力部323から欠点名が入力された場合には
確実な欠点種別と判定してその旨と欠点名を出力し、識
別不能の入力がされた場合には学習されていない欠点種
別と判定してその旨出力し、無欠点信号i222の入力
が有った旨の入力がされた場合には欠点無しと判定して
その旨出力し、密集信号i223の入力が有った旨の入
力がされた場合には密集欠点と判定してその旨出力し、
2次識別部33から欠点名が入力された場合にはやや確
信度が下がる欠点種別と判定してその旨と欠点名を出力
するようになっている。
【0122】
【表12】
【0123】このような構成を有する画像識別装置は、
次のようにして動作する。
【0124】図17はこの画像識別装置の全体動作(す
なわち本実施の形態に係る画像識別方法の各工程)を表
す概略流れ図である。ここでは、まず、マンマシンイン
ターフェース部60を介して手動により学習モード(学
習ステップA)に切り替える(ステップS101)。
【0125】(学習モード)学習モードに切り替えられ
たのち、第1の実施の形態と同様にして、画像取り込み
部10により基準画像を取り込み(ステップS102
A)、画像前処理部21により前処理を行う(ステップ
S103A)。次いで、第1の実施の形態と同様にし
て、例外検出部22により例外処理信号の検出と欠点内
画像の作成を行う(ステップS104A)と共に、第3
の実施の形態と同様に用いて、背景含有画像Xdの作成
を行う(ステップS201A)。
【0126】続いて、第1の実施の形態と同様にして、
特徴量抽出部23(幾何形状特徴量抽出部231,欠点
内濃度パターンヒストグラム作成部232,欠点内濃度
パターン特徴量抽出部233)により欠点内画像に基づ
く特徴量(幾何形状特徴量,欠点内濃度パターン特徴
量)を抽出し、特徴量信号の幾何形状信号i231およ
び欠点内濃度パターン信号i233として識別部31に
それぞれ出力する(ステップS105A)。
【0127】識別部31では、欠点内画像に基づく特徴
量信号(幾何形状信号i231,欠点内濃度パターン信
号i233)が入力されると、第1の実施の形態と同様
にして、この特徴量に基づいて適宜の学習動作を行い、
その結果を1つの出力端もしくは複数の出力端から識別
信号i311〜i31nとして出力する。その出力端子
の出力番号は欠点名を対応させてデータ保持部40に識
別用データ41として登録し記憶させる(ステップS1
06A)。
【0128】一方、切り替え部321では、第1の実施
の形態と同様にして、各スイッチ回路3211〜321
nを動作させずに“open”の状態とすると共に、入
力された例外処理信号を必要に応じてデータ保持部40
に例外制御用データ42として登録し記憶させる(ステ
ップS107A)。
【0129】2次識別部33では、背景含有画像に基づ
く特徴量信号(背景含有濃度パターン信号i235)が
入力されると、その背景含有濃度パターンヒストグラム
の各濃度値に対する頻度値を出力層332の1つのニュ
ーロンの重みとして欠点名と共に設定する。そののち、
設定した欠点名と出力ニューロンの重みを関連づけて2
次識別用データ43としてデータ保持部40に登録し記
憶させる(ステップS301A)。
【0130】このようにして学習モードが終了したら、
マンマシンインターフェース部60を介して手動により
識別モード(識別ステップB)に切り替える(ステップ
S101)。
【0131】(識別モード)識別モードに切り替えられ
たのち、第1の実施の形態と同様にして、画像取り込み
部10により識別対象を含む欠点画像を取り込み(ステ
ップS102B;画像取り込み工程)、画像前処理部2
1により前処理を行う(ステップS103B)。次い
で、第1の実施の形態と同様にして、例外検出部22に
より例外処理信号の検出と欠点内画像の作成を行う(ス
テップS104B;例外処理信号検出工程)と共に、第
3の実施の形態と同様にして、背景含有画像Xdを作成
する(ステップS201B)。
【0132】続いて、第1の実施の形態と同様にして、
特徴量抽出部23(幾何形状特徴量抽出部231,欠点
内濃度パターンヒストグラム作成部232,欠点内濃度
パターン特徴量抽出部233)により欠点内画像に基づ
く特徴量(幾何形状特徴量,欠点内濃度パターン特徴
量)を抽出し、特徴量信号の幾何形状信号i231およ
び欠点内濃度パターン信号i233として識別部31に
それぞれ出力する(ステップS105B;画像内特徴量
抽出工程)。
【0133】識別部31では、欠点内画像に基づく特徴
量信号(幾何形状信号i231,欠点内濃度パターン信
号i233)が入力されると、第1の実施の形態と同様
にして欠点の識別を行い、識別結果を切り替え部321
に出力する(ステップS106B;1次識別工程)。
【0134】一方、切り替え部321では、第1の実施
の形態と同様にして、各スイッチ回路3211〜321
nの設定をする(ステップS107B)。これにより、
スイッチ回路3211〜321nが動作し、確信度計算
部322に識別信号i311〜i31nが入力された場
合には(ステップS107B;接続)、第1の実施の形
態と同様にして、確信度計算部322により確信度を算
出し(ステップS108B)、判定結果出力部323に
より比較判定を行う(ステップS109B;S107B
から以上判定工程)。
【0135】ここで、“欠点有り”と判定した場合には
(ステップS109B;有)、総合判定出力部34に欠
点名などを出力する。“未登録”と判定した場合には
(ステップS109B;未登)、総合判定出力部34に
識別不能と出力する。“未確定”と判定した場合には
(ステップS109B;未確)、特徴量抽出部23(背
景含有濃度パターンヒストグラム作成部234,背景含
有濃度パターン特徴量抽出部235)により背景含有画
像に基づく特徴量を抽出し、背景含有濃度パターン信号
i235を2次識別部33に出力する(ステップS20
2B;背景含有特徴量抽出工程)。
【0136】2次識別部33では、背景含有画像に基づ
く特徴量信号(背景含有濃度パターン信号i235)が
入力されると、その背景含有濃度パターンヒストグラム
の各濃度値に対する頻度値を入力層331の入力とし、
2次識別用データ43を参照して所定の計算を行い、相
関度が最も高い欠点名を総合判定出力部34に出力する
(ステップS301B;2次識別工程)。
【0137】総合判定出力部34では、判定結果出力部
323,切り替え部321および2次識別部33からの
出力に基づき判定を行い(表12参照)、所定の出力を
行う(ステップS302A)。これにより、欠点画像の
識別が終了する。
【0138】このように本実施の形態に係る画像識別装
置および方法によれば、欠点内画像に基づく特徴量によ
り識別を行う1次識別部31と、背景含有画像に基づく
特徴量により識別を行う2次識別部33とを備えると共
に、1次識別部31による識別結果を確定することがで
きない場合に2次識別部33による識別を行うようにし
たので、2次識別部33により1次識別を補助すること
ができる。よって、1次識別部31において用いる特徴
量が少なくても精度良く識別することができる。すなわ
ち、識別の時間を短縮することができ、迅速に効率良く
識別することができる。
【0139】なお、第4の実施の形態においては、第1
の実施の形態と同様に、識別部31の構成を特に限定し
ないで説明したが、第2の実施の形態のようにニューラ
ルネットワークにより構成するようにしてもよい。
【0140】また、この画像識別装置の効果を確認する
ために、この画像識別装置により数種類の欠点画像につ
いて識別実験を行った。ちなみに、識別部31には、第
2の実施の形態において説明したニューラルネットワー
クよりなる識別部1031を用いた。また、識別に先立
ち、同一の欠点画像を用いて学習を行った。
【0141】その結果を図18に示す。このように、1
次識別部31のみによる識別では虫の識別精度が低いの
に対し、1次識別部31と2次識別部33による識別で
は改善されている。すなわち、虫のように複雑な欠点に
ついては、1次識別部31のみの識別では十分な識別精
度を得ることができず、2次識別部33により改善でき
ることが分かる。
【0142】(第5の実施の形態)図19は本発明の第
5の実施の形態に係る画像識別装置における判断処理部
4030の構成を表すものである。この画像識別装置
は、第4の実施の形態に加えて、判断処理部3030が
識別切り替え部35を備え、識別部31が1次識別部と
しての機能と2次識別部としての機能とを有するように
したことを除き、他は第4の実施の形態に係る画像識別
装置と同一の構成を有している。よって、ここでは、第
4の実施の形態と同一の構成要素には同一の符号を付
し、その詳細な説明を省略する。
【0143】判断処理部4030は、1次識別部および
2次識別部としての識別部31,切り替え部321,確
信度計算部322,判定結果出力部323および総合判
定出力部34に加えて、識別部31について1次識別部
としての機能と2次識別部としての機能との切り替えを
行う識別切り替え部35を備えている。
【0144】識別切り替え部35は、特徴量抽出部23
と識別部31との接続を切り替える特徴量切り替え部3
51と、データ保持部3040と識別部31との接続を
切り替えるデータ切り替え部352とを有している。特
徴量切り替え部351は、特徴量抽出部23の幾何形状
特徴量抽出部231,欠点内濃度パターン特徴量抽出部
233および背景含有濃度パターン特徴量抽出部235
を識別部31にそれぞれ接続するものである。また、デ
ータ切り替え部352は、1次識別用データとしての識
別用データ41と2次識別用データ43を識別部31に
それぞれ接続するものである。
【0145】特徴量切り替え部351とデータ切り替え
部352は、判定結果出力部323からの指示により連
動して制御されている。判定結果出力部323から切り
替えの指示が入力されない時は、特徴量切り替え部35
1により欠点内画像に基づく特徴量を抽出する幾何形状
特徴量抽出部231と欠点内濃度パターン特徴量抽出部
233とを識別部31に接続し、データ切り替え部35
2により識別用データ41を識別部31に接続して、識
別部31を1次識別部として機能させるようになってい
る。一方、判定結果出力部323から切り替えの指示が
入力された時は、特徴量切り替え部351により背景含
有画像に基づく特徴量を抽出する背景含有濃度パターン
特徴量抽出部235を識別部31に接続し、データ切り
替え部352により2次識別用データ43を識別部31
に接続して、識別部31を2次識別部として機能させる
ようになっている。
【0146】このような構成を有する画像識別装置は、
判定結果出力部323からの指示により識別切り替え部
35が切り替わり、識別部31の機能が1次識別部と2
次識別部とで切り替わることを除き、第4の実施の形態
と同様にして動作する。
【0147】このように本実施の形態に係る画像識別装
置によれば、識別切り替え部35により識別部31を1
次識別部と2次識別部とで共用するようにしたので、装
置を小型化および簡素化することができる。
【0148】(第6の実施の形態)図20は本発明の第
6の実施の形態に係る画像検出識別装置の構成を表すも
のである。この画像検出識別装置は、例えば、布や紙の
製造工程などにおいて被対象物に虫などの異物付着や穴
や油じみなどの欠点があるかを検査する際に、被対象物
を撮像した画像からそれらの欠点画像を検出しその識別
を行うものであって、欠点画像を識別する画像識別装置
1を備えている。この画像識別装置1には、第1乃至第
5の実施の形態において説明した画像識別装置を適用す
ることができる。
【0149】この画像検出識別装置は、また、被対処物
を撮像するCCDビデオカメラやラインセンサなどから
なる撮像装置2と、この撮像装置2により撮像した撮像
画像から異物付着や穴などの欠点画像を検出する画像検
出装置3とを備えている。この画像検出装置3は、例え
ば、撮像装置2により撮像された撮像画像を欠点の無い
標準画像と比較することにより標準画像に無い画像を欠
点画像として検出するようになっている。撮像装置2と
画像検出装置3および画像検出装置3と画像識別装置1
の画像取り込み部10とはそれぞれオンラインで接続さ
れている。この画像検出識別装置は、更に、画像検出装
置3および画像識別装置1の画像取り込み部10にそれ
ぞれ接続されており、画像検出装置3により検出された
欠点画像および画像識別装置1により識別された欠点画
像を画像格納ディスクなどの記録装置5に記録させる画
像記録システム装置4を備えている。
【0150】この画像検出識別装置では、撮像装置2に
より被対象物を撮像し、撮像画像を画像検出装置3に出
力する。画像検出装置3は、この撮像画像について欠点
画像を検出し、画像識別装置1に出力する。画像識別装
置1は、画像取り込み部10を介してこの欠点画像を取
り込み、識別を行って、欠点であると識別された欠点画
像など特定の欠点画像とその識別結果を画像取り込み部
10を介して画像録画システム装置4に出力する。画像
録画システム装置4は、画像識別装置1から出力された
欠点画像を識別結果などと共に記録装置5に記録させ
る。
【0151】この画像検出識別装置では、また、画像検
出装置3によって検出した欠点画像を画像識別装置1に
よってリアルタイムで識別処理できない場合、欠点画像
を画像検出装置3から画像録画システム装置4に出力す
る。画像録画システム装置4は、画像検出装置3から出
力された欠点画像を記録装置5に記録させる。一方、画
像識別装置1は、画像記録システム装置4を介して記録
装置5から欠点画像を読み出し、識別を行って、特定の
欠点画像とその識別結果を画像録画システム装置4に出
力する。画像録画システム装置4は、それらを記録装置
5に記録させる。
【0152】このように本実施の形態に係る画像検出識
別装置によれば、本発明に係る画像識別装置1を備える
ようにしたので、迅速に高精度の識別をすることがで
き、識別した特定の欠点画像のみを必要に応じて記録さ
せることができる。よって、リアルタイム処理する場合
など特に画像の記録量を削減することができ、データ管
理が容易となる。すなわち、この画像検出識別装置を用
いた生産工程の生産管理を容易とすることができる。
【0153】(第7の実施の形態)上記画像識別装置
は、具体的にはコンピュータにより実現することができ
る。図21はその構成を表すものである。すなわち、こ
のコンピュータは、CPU(中央処理装置)71と、キ
ーボードやマウスなどの入力装置とCRT(陰極線管)
やプリンタなどの出力装置からなる入出力装置72と、
記憶装置73と、これらが接続されたバス74とを備え
ている。記憶装置73は、例えば、プログラムを記録す
る媒体73aであるハードディスクや、プログラムを記
録する媒体73bであるCD(コンパクトディスク)−
ROM,フロッピィディスク,光磁気ディスク,相変化
型光ディスクなどとそれらを駆動するディスクドライブ
とにより構成される。この記憶装置73には、本発明に
係る画像識別装置および方法を実現するための手順を含
む画像識別用プログラムが格納されている。
【0154】このコンピュータでは、入出力装置72か
らの指示により、記憶装置73から画像識別用プログラ
ムが読み出され、この画像識別用プログラムに従ってC
PU71により前述のような画像の識別動作が実行され
る。
【0155】以上、実施の形態を挙げて本発明を説明し
たが、本発明は上記実施の形態に限定されるものではな
く、種々の変形が可能である。例えば、上記各実施の形
態では、画像識別装置を、紙や布などの製造工程におい
て被対象物に虫などの異物付着や穴や油じみなどの欠点
が有るか否かを検査する際に用いて、被対象物の撮像画
像から検出した欠点画像を識別する場合について説明し
たが、その他の種々の画像を識別する場合についても同
様にして用いることができる。
【0156】また、上記各実施の形態では、被対象物の
撮像画像から抽出された欠点が含まれると思われる欠点
画像について識別を行う場合について説明したが、撮像
画像について識別を行うようにしてもよい。更に、本発
明に係る画像識別装置は、オンラインにより画像を取り
込むようにしてもよく、記録装置に録画された画像を取
り込むようにしてもよい。
【0157】加えて、本発明に係る画像識別装置は、生
産工程において発生する欠点の判別をオフラインでシミ
ュレートし、その判別能力を予め確認し検証するシミュ
ーレーション装置の一部としても用いることができる。
【0158】更にまた、上記各実施の形態では、判断処
理部30,3030が学習手段としての機能を有し、識
別用データ41,1041などを学習によりデータ保持
部40,1040,3040に記憶させる場合について
説明したが、本発明に係る画像識別装置は、学習手段を
備えないものも含んでいる。この場合、例えば、シミュ
レーション装置などにより検証して得られた識別用デー
タ41,1041などをROMなどの記録媒体に記憶さ
せ、それをデータ保持部40,1040,3040とし
て利用したり、その記録媒体からデータ保持部40,1
040,3040にデータ取り込み手段によりデータを
取り込んだりすればよい。
【0159】加えてまた、上記各実施の形態では、判断
処理部30,3030が判断処理手段としての機能に加
えて学習手段としての機能も有する場合について説明し
たが、本発明に係る画像識別装置は、判断処理部30,
3030とは別に学習手段を備えるようにしてもよい。
【0160】
【発明の効果】以上説明したように請求項1乃至12の
いずれか1に記載の画像識別装置,請求項13乃至17
のいずれか1に記載の画像識別方法または請求項19乃
至23のいずれか1に記載の画像識別用プログラムを記
録した媒体によれば、画像について特徴量を抽出すると
共に例外処理信号検出するようにしたので、例外処理信
号により識別を補助することができる。よって、特徴量
に基づいて行った識別が誤っていても例外処理信号によ
りそれを検出することができ、識別精度を向上させるこ
とができるという効果を奏する。
【0161】また、請求項4乃至12のいずれか1に記
載の画像識別装置,請求項16または17に記載の画像
識別方法または請求項22または23に記載の画像識別
用プログラムを記録した媒体によれば、特徴量に基づい
て画像の識別を行うと共に、例外処理信号に基づいてそ
の識別結果の判定を行うようにしたので、判定により識
別を補助することができ、識別において用いる特徴量お
よび識別における処理内容を削減することができる。す
なわち、識別を容易に効率よく行うことができるという
効果を奏する。
【0162】更に、請求項6乃至12のいずれか1に記
載の画像識別装置,請求項17記載の画像識別方法また
は請求項23記載の画像識別用プログラムを記録した媒
体によれば、1次識別の結果を判定すると共に、この判
定結果に応じて2次識別を行うようにしたので、判定お
よび必要に応じて2次識別により1次識別を補助するこ
とができる。よって、1次識別において用いる特徴量が
少なくても精度良く識別することができる。すなわち、
識別の時間を短縮することができ、迅速に効率良く識別
することができるという効果を奏する。
【0163】加えて、請求項12に記載の画像識別装置
によれば、画像の識別において必要となるデータの設定
を手動で行うためのマンマシンインターフェース部を備
えるようにしたので、データの設定を容易に行うことが
できる。すなわち、画像の識別を容易に行うことができ
るという効果を奏する。
【0164】更にまた、請求項18に記載の画像検出識
別装置によれば、本発明に係る画像識別装置を備えるよ
うにしたので、迅速に高精度の識別をすることができ、
識別した特定の欠点画像のみを必要に応じて記録させる
ことができる。よって、リアルタイム処理する場合など
特に画像の記録量を削減することができ、データ管理を
容易とすることができるという効果を奏する。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係る画像識別装置
を表す概略構成図である。
【図2】図1に示した画像識別装置における画像処理部
の構成図である。
【図3】画像識別装置により識別する欠点画像の一例を
表す図である。
【図4】図3に示した欠点画像に関する欠点内白黒画像
を表す図である。
【図5】図3に示した欠点画像に関する欠点内濃淡画像
を表す図である。
【図6】図5に示した欠点内濃淡画像に関する欠点内濃
度パターンヒストグラムを表す図である。
【図7】図1に示した画像識別装置における判断処理部
の構成図である。
【図8】図1に示した画像識別装置の全体動作を表す流
れ図である。
【図9】図1に示した画像識別装置における例外検出部
の動作を表す流れ図である。
【図10】本発明の第2の実施の形態に係る画像識別装
置における識別部の構成図である。
【図11】本発明の第3の実施の形態に係る画像識別装
置における画像処理部の構成図である。
【図12】図3に示した欠点画像に関する背景含有濃淡
画像を表す図である。
【図13】図12に示した背景含有濃淡画像に関する背
景含有濃度パターンヒストグラムを表す図である。
【図14】図11に示した画像識別装置の全体動作を表
す流れ図である。
【図15】本発明の第4の実施の形態に係る画像識別装
置における判断処理部の構成図である。
【図16】図15に示した画像識別装置における2次識
別部の構成図である。
【図17】図15に示した画像識別装置の全体動作を表
す流れ図である。
【図18】図15に示した画像識別装置による識別実験
結果を表す図である。
【図19】本発明の第5の実施の形態に係る画像識別装
置における判断処理部の構成図である。
【図20】本発明の第6の実施の形態に係る画像検出識
別装置の構成図である。
【図21】本発明の第7の実施の形態に係る画像識別用
プログラムを記録した媒体を用いて画像の識別を実行す
るコンピュータの構成図である。
【符号の説明】
1 画像識別装置 10 画像取り込み部 20,2020 画像処理部 21 画像前処理部 211 濃度ヒストグラム作成部 212 平均濃度算出部 22,2022 例外検出部 221 白黒判定部 222 無欠点判定部 223 欠点内画像作成部 224 個数計測部 225 背景含有画像作成部 23,2023 特徴量抽出部 2023A 画像内特徴量抽出部 2023B 背景含有特徴量抽出部 231 幾何形状特徴量抽出部 232 欠点内濃度パターンヒストグラム作成部 233 欠点内濃度パターン特徴量抽出部 234 背景含有濃度パターンヒストグラム作成部 235 背景含有濃度パターン特徴量抽出部 30,3030 判断処理部 31,1031 識別部(1次識別部) 32 判定部 321 切り替え部 321A 切り替え制御部 3211〜321n スイッチ回路 322 確信度計算部 3221 白欠点確信度計算部 3222 黒欠点確信度計算部 323 判定結果出力部 33 2次識別部 34 総合判定出力部 35 識別切り替え部 351 特徴量切り替え部 352 データ切り替え部 40,1040,3040 データ保持部 41,1041 識別用データ 42 例外制御用データ 43 2次識別用データ 60 マンマシンインターフェース部 61 入力部 62 表示部 71 CPU 72 入出力装置 73 記憶装置

Claims (23)

    【特許請求の範囲】
  1. 【請求項1】 画像を取り込む画像取り込み手段と、 この画像取り込み手段により取り込んだ画像について特
    徴量を抽出し特徴量信号として出力する特徴量抽出手段
    と、 前記画像取り込み手段により取り込んだ画像について識
    別を補助するための例外処理信号を検出し出力する例外
    検出手段と、 前記特徴量抽出手段から出力された特徴量信号と、前記
    例外検出手段から出力された例外処理信号とに基づき画
    像を識別する判断処理手段とを備えたことを特徴とする
    画像識別装置。
  2. 【請求項2】 前記特徴量抽出手段は、識別対象画像に
    基づいて特徴量を抽出する画像内特徴量抽出手段を有し
    ていることを特徴とする請求項1記載の画像識別装置。
  3. 【請求項3】 前記特徴量抽出手段は、更に、識別対象
    画像と背景画像と含む画像に基づいて特徴量を抽出する
    背景含有画像特徴量抽出手段を有していることを特徴と
    する請求項2記載の画像識別装置。
  4. 【請求項4】 前記判断処理手段は、 前記特徴量抽出手段から出力された特徴量信号に基づき
    画像を識別する識別手段と、 この識別手段により識別した結果を前記例外検出手段か
    ら出力された例外処理信号に基づき判定する判定手段と
    を備えたことを特徴とする請求項1乃至3のいずれか1
    に記載の画像識別装置。
  5. 【請求項5】 前記識別手段は、ニューラルネットワー
    クにより構成されたことを特徴とする請求項4記載の画
    像識別装置。
  6. 【請求項6】 前記判断処理手段は、 前記画像内特徴量抽出手段から出力された特徴量信号に
    基づき画像を識別する1次識別手段と、 この1次識別手段により識別した結果を前記例外検出手
    段から出力された例外処理信号に基づき判定する判定手
    段と、 この判定手段の判定結果に応じて、前記背景含有画像特
    徴量抽出手段から出力された特徴量信号に基づき画像を
    識別する2次識別手段とを備えたことを特徴とする請求
    項3記載の画像識別装置。
  7. 【請求項7】 前記判断処理手段は、前記1次識別手段
    としての機能と前記2次識別手段としての機能とを有す
    る識別手段を備えると共に、更に、前記識別手段につい
    て1次識別手段としての機能と2次識別手段としての機
    能との切り替えを行う識別切り替え手段を備えたことを
    特徴とする請求項6記載の画像識別装置。
  8. 【請求項8】 前記1次識別手段は、ニューラルネット
    ワークにより構成されたことを特徴とする請求項6また
    は7に記載の画像識別装置。
  9. 【請求項9】 前記2次識別手段は、ニューラルネット
    ワークにより構成されたことを特徴とする請求項6乃至
    8のいずれか1に記載の画像識別装置。
  10. 【請求項10】 更に、画像の識別において基準となる
    データを保持するデータ保持手段を備えており、前記判
    断処理手段は特徴量信号と例外処理信号と前記データ保
    持手段に保持されたデータとに基づいて画像を判断する
    ことを特徴とする請求項1乃至9のいずれか1に記載の
    画像識別装置。
  11. 【請求項11】 更に、画像の識別において基準となる
    データを学習して前記データ保持手段に保持させる学習
    手段を備えたことを特徴とする請求項10記載の画像識
    別装置。
  12. 【請求項12】 更に、入力手段と表示手段とを有し画
    像の識別において必要となるデータの設定を手動で行う
    ためのマンマシンインターフェース部を備えたことを特
    徴とする請求項1乃至11のいずれか1に記載の画像識
    別装置。
  13. 【請求項13】 画像を取り込む画像取り込み工程と、 この画像取り込み工程により取り込んだ画像について特
    徴量を抽出する特徴量抽出工程と、 前記画像取り込み工程により取り込んだ画像について識
    別を補助するための例外処理信号を検出する例外処理信
    号検出工程と、 前記特徴量抽出工程により抽出した特徴量と、前記例外
    処理信号検出工程により検出した例外処理信号とに基づ
    き画像を識別する判断処理工程とを含むことを特徴とす
    る画像識別方法。
  14. 【請求項14】 前記特徴量抽出工程は、識別対象画像
    に基づいて特徴量を抽出する画像内特徴量抽出工程を含
    むことを特徴とする請求項13記載の画像識別方法。
  15. 【請求項15】 前記特徴量抽出工程は、更に、識別対
    象画像と背景画像とを含む画像に基づいて特徴量を抽出
    する背景含有画像特徴量抽出工程を含むことを特徴とす
    る請求項14記載の画像識別方法。
  16. 【請求項16】 前記判断処理工程は、 前記特徴量抽出工程により抽出した特徴量に基づき画像
    を識別する識別工程と、 この識別工程により識別した結果を前記例外処理信号検
    出工程により検出した例外処理信号に基づき判定する判
    定工程とを含むことを特徴とする請求項13乃至15の
    いずれか1に記載の画像識別方法。
  17. 【請求項17】 前記判断処理工程は、 前記画像内特徴量抽出工程により抽出した特徴量に基づ
    き画像を識別する1次識別工程と、 この1次識別工程により識別した結果を前記例外処理信
    号検出工程により検出した例外処理信号に基づき判定す
    る判定手段と、 この判定工程の判定結果に応じて、前記背景含有画像特
    徴量抽出工程により抽出した特徴量に基づき画像を識別
    する2次識別工程とを含むことを特徴とする請求項15
    記載の画像識別方法。
  18. 【請求項18】 撮像画像から特定の画像を検出し識別
    する画像検出識別装置であって、 請求項1乃至12のいずれか1に記載の画像識別装置を
    備えたことを特徴とする画像検出識別装置。
  19. 【請求項19】 コンピュータによって画像を識別する
    ための画像識別用プログラムを記録した媒体であって、 画像識別用プログラムは、コンピュータに画像を取り込
    む画像取り込み手順と、この画像取り込み手順により取
    り込んだ画像について特徴量を抽出する特徴量抽出手順
    と、前記画像取り込み手順により取り込んだ画像につい
    て識別を補助するための例外処理信号を検出する例外処
    理信号検出手順と、前記特徴量抽出手順により抽出した
    特徴量と、前記例外処理信号検出手順により検出した例
    外処理信号とに基づき画像を識別する判断処理手順とを
    含むことを特徴とする画像識別用プログラムを記録した
    媒体。
  20. 【請求項20】 前記特徴量抽出手順は、識別対象画像
    に基づいて特徴量を抽出する画像内特徴量抽出手順を含
    むことを特徴とする請求項19記載の画像識別用プログ
    ラムを記録した媒体。
  21. 【請求項21】 前記特徴量抽出手順は、更に、識別対
    象画像と背景画像とを含む画像に基づいて特徴量を抽出
    する背景含有画像特徴量抽出手順を含むことを特徴とす
    る請求項20記載の画像識別用プログラムを記録した媒
    体。
  22. 【請求項22】 前記判断処理手順は、 前記特徴量抽出手順により抽出した特徴量に基づき画像
    を識別する識別手順と、 この識別手順により識別した結果を前記例外処理信号検
    出手順により検出した例外処理信号に基づき判定する判
    定工程とを含むことを特徴とする請求項19乃至21の
    いずれか1に記載の画像識別用プログラムを記録した媒
    体。
  23. 【請求項23】 前記判断処理手順は、 前記画像内特徴量抽出手順により抽出した特徴量に基づ
    き画像を識別する1次識別手順と、 この1次識別手順により識別した結果を前記例外処理信
    号検出手順により検出した例外処理信号に基づき判定す
    る判定手順と、 この判定手順の判定結果に応じて、前記背景含有画像特
    徴量抽出手順により抽出した特徴量に基づき画像を識別
    する2次識別手順とを含むことを特徴とする請求項21
    記載の画像識別用プログラムを記録した媒体。
JP11153397A 1997-04-28 1997-04-28 画像識別装置および方法および画像識別装置を備えた画像検出識別装置ならびに画像識別用プログラムを記録した媒体 Expired - Lifetime JP3982646B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11153397A JP3982646B2 (ja) 1997-04-28 1997-04-28 画像識別装置および方法および画像識別装置を備えた画像検出識別装置ならびに画像識別用プログラムを記録した媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11153397A JP3982646B2 (ja) 1997-04-28 1997-04-28 画像識別装置および方法および画像識別装置を備えた画像検出識別装置ならびに画像識別用プログラムを記録した媒体

Publications (2)

Publication Number Publication Date
JPH10302049A true JPH10302049A (ja) 1998-11-13
JP3982646B2 JP3982646B2 (ja) 2007-09-26

Family

ID=14563767

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11153397A Expired - Lifetime JP3982646B2 (ja) 1997-04-28 1997-04-28 画像識別装置および方法および画像識別装置を備えた画像検出識別装置ならびに画像識別用プログラムを記録した媒体

Country Status (1)

Country Link
JP (1) JP3982646B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003098098A (ja) * 2001-09-21 2003-04-03 Matsushita Electric Works Ltd 画像処理装置および画像処理システム
JP2010102736A (ja) * 2010-01-13 2010-05-06 Panasonic Electric Works Co Ltd 画像処理装置および画像処理システム
CN109804388A (zh) * 2016-10-12 2019-05-24 欧姆龙株式会社 识别信息分配系统、识别信息分配方法及其程序
JP2021120816A (ja) * 2020-01-30 2021-08-19 富士通株式会社 情報処理プログラム、情報処理方法、及び情報処理装置
JPWO2023038017A1 (ja) * 2021-09-07 2023-03-16

Citations (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62140009A (ja) * 1985-12-13 1987-06-23 Dainippon Screen Mfg Co Ltd パタ−ン欠陥検出方法およびその装置
JPS6488140A (en) * 1987-09-30 1989-04-03 Toshiba Corp Surface inspecting device
JPH02287241A (ja) * 1989-04-28 1990-11-27 Hitachi Ltd 外観検査方法及びその装置並びに製品の製造工程中における異常原因除去方法
JPH0438454A (ja) * 1990-06-01 1992-02-07 Sekisui Chem Co Ltd 表面状態検査装置
JPH04142412A (ja) * 1990-10-04 1992-05-15 Toshiba Corp 欠陥検査装置
JPH04203916A (ja) * 1990-11-29 1992-07-24 Matsushita Electric Ind Co Ltd 外観検査方法
JPH04286082A (ja) * 1991-03-15 1992-10-12 Toshiba Corp 印刷物の検査装置
JPH05264240A (ja) * 1992-03-19 1993-10-12 Fujitsu Ltd 外観検査装置
JPH05280960A (ja) * 1992-03-30 1993-10-29 Fuji Photo Film Co Ltd 欠陥検査装置
JPH05302897A (ja) * 1992-04-27 1993-11-16 Toshiba Corp 表面検査装置
JPH05340888A (ja) * 1992-06-04 1993-12-24 Matsushita Electric Ind Co Ltd 欠陥検出方法
JPH0643112A (ja) * 1992-07-23 1994-02-18 Matsushita Electric Ind Co Ltd 画像検査装置のティーチング方法とティーチング装置
JPH06162191A (ja) * 1992-11-18 1994-06-10 Matsushita Electric Ind Co Ltd 図形判別方法
JPH06207909A (ja) * 1993-01-12 1994-07-26 Ricoh Co Ltd 表面欠陥検査装置
JPH06229941A (ja) * 1993-01-29 1994-08-19 Ricoh Co Ltd 画像検査装置
JPH06308045A (ja) * 1993-04-21 1994-11-04 Toshiba Corp 表面検査装置
JPH07181025A (ja) * 1993-12-24 1995-07-18 Ykk Kk 製品の形状不良検出方法
JPH07333170A (ja) * 1994-06-08 1995-12-22 Hewtec:Kk 欠陥パターン種別判定方法およびその装置
JPH0843050A (ja) * 1994-07-26 1996-02-16 Nikon Corp パターン検査方法
JPH0855218A (ja) * 1994-08-09 1996-02-27 Fujitsu Ltd パターン検査方法及びパターン検査装置
JPH0869533A (ja) * 1994-06-14 1996-03-12 Nippon Telegr & Teleph Corp <Ntt> 画像検査/認識方法、これに用いる参照データ作成方法およびこれらの装置
JPH0896136A (ja) * 1994-09-26 1996-04-12 Kawasaki Heavy Ind Ltd 溶接欠陥の評価システム
JPH08105842A (ja) * 1994-08-12 1996-04-23 Toshiba Corp 表面検査装置
JPH08110966A (ja) * 1994-10-11 1996-04-30 Toshiba Corp 汚れ具合識別装置
JPH08189904A (ja) * 1995-01-06 1996-07-23 Kawasaki Steel Corp 表面欠陥検出装置
JPH08313453A (ja) * 1995-05-16 1996-11-29 Toshiba Corp 印刷物の汚れ識別装置

Patent Citations (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62140009A (ja) * 1985-12-13 1987-06-23 Dainippon Screen Mfg Co Ltd パタ−ン欠陥検出方法およびその装置
JPS6488140A (en) * 1987-09-30 1989-04-03 Toshiba Corp Surface inspecting device
JPH02287241A (ja) * 1989-04-28 1990-11-27 Hitachi Ltd 外観検査方法及びその装置並びに製品の製造工程中における異常原因除去方法
JPH0438454A (ja) * 1990-06-01 1992-02-07 Sekisui Chem Co Ltd 表面状態検査装置
JPH04142412A (ja) * 1990-10-04 1992-05-15 Toshiba Corp 欠陥検査装置
JPH04203916A (ja) * 1990-11-29 1992-07-24 Matsushita Electric Ind Co Ltd 外観検査方法
JPH04286082A (ja) * 1991-03-15 1992-10-12 Toshiba Corp 印刷物の検査装置
JPH05264240A (ja) * 1992-03-19 1993-10-12 Fujitsu Ltd 外観検査装置
JPH05280960A (ja) * 1992-03-30 1993-10-29 Fuji Photo Film Co Ltd 欠陥検査装置
JPH05302897A (ja) * 1992-04-27 1993-11-16 Toshiba Corp 表面検査装置
JPH05340888A (ja) * 1992-06-04 1993-12-24 Matsushita Electric Ind Co Ltd 欠陥検出方法
JPH0643112A (ja) * 1992-07-23 1994-02-18 Matsushita Electric Ind Co Ltd 画像検査装置のティーチング方法とティーチング装置
JPH06162191A (ja) * 1992-11-18 1994-06-10 Matsushita Electric Ind Co Ltd 図形判別方法
JPH06207909A (ja) * 1993-01-12 1994-07-26 Ricoh Co Ltd 表面欠陥検査装置
JPH06229941A (ja) * 1993-01-29 1994-08-19 Ricoh Co Ltd 画像検査装置
JPH06308045A (ja) * 1993-04-21 1994-11-04 Toshiba Corp 表面検査装置
JPH07181025A (ja) * 1993-12-24 1995-07-18 Ykk Kk 製品の形状不良検出方法
JPH07333170A (ja) * 1994-06-08 1995-12-22 Hewtec:Kk 欠陥パターン種別判定方法およびその装置
JPH0869533A (ja) * 1994-06-14 1996-03-12 Nippon Telegr & Teleph Corp <Ntt> 画像検査/認識方法、これに用いる参照データ作成方法およびこれらの装置
JPH0843050A (ja) * 1994-07-26 1996-02-16 Nikon Corp パターン検査方法
JPH0855218A (ja) * 1994-08-09 1996-02-27 Fujitsu Ltd パターン検査方法及びパターン検査装置
JPH08105842A (ja) * 1994-08-12 1996-04-23 Toshiba Corp 表面検査装置
JPH0896136A (ja) * 1994-09-26 1996-04-12 Kawasaki Heavy Ind Ltd 溶接欠陥の評価システム
JPH08110966A (ja) * 1994-10-11 1996-04-30 Toshiba Corp 汚れ具合識別装置
JPH08189904A (ja) * 1995-01-06 1996-07-23 Kawasaki Steel Corp 表面欠陥検出装置
JPH08313453A (ja) * 1995-05-16 1996-11-29 Toshiba Corp 印刷物の汚れ識別装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003098098A (ja) * 2001-09-21 2003-04-03 Matsushita Electric Works Ltd 画像処理装置および画像処理システム
JP2010102736A (ja) * 2010-01-13 2010-05-06 Panasonic Electric Works Co Ltd 画像処理装置および画像処理システム
CN109804388A (zh) * 2016-10-12 2019-05-24 欧姆龙株式会社 识别信息分配系统、识别信息分配方法及其程序
CN109804388B (zh) * 2016-10-12 2023-06-30 欧姆龙株式会社 识别信息分配系统、识别信息分配方法及其程序
JP2021120816A (ja) * 2020-01-30 2021-08-19 富士通株式会社 情報処理プログラム、情報処理方法、及び情報処理装置
JPWO2023038017A1 (ja) * 2021-09-07 2023-03-16
WO2023038017A1 (ja) * 2021-09-07 2023-03-16 株式会社メンテック 欠点分類システム

Also Published As

Publication number Publication date
JP3982646B2 (ja) 2007-09-26

Similar Documents

Publication Publication Date Title
US10885618B2 (en) Inspection apparatus, data generation apparatus, data generation method, and data generation program
JP7015001B2 (ja) 欠陥検査装置、欠陥検査方法、及びそのプログラム
JP6869490B2 (ja) 欠陥検査装置、欠陥検査方法、及びそのプログラム
JP5546317B2 (ja) 外観検査装置、外観検査用識別器の生成装置及び外観検査用識別器生成方法ならびに外観検査用識別器生成用コンピュータプログラム
JP7004145B2 (ja) 欠陥検査装置、欠陥検査方法、及びそのプログラム
JP3834041B2 (ja) 学習型分類装置及び学習型分類方法
JPH11344450A (ja) 教示用データ作成方法並びに欠陥分類方法およびその装置
JP2000057349A (ja) 欠陥の分類方法およびその装置並びに教示用データ作成方法
JP2013167596A (ja) 欠陥検査装置、欠陥検査方法及びプログラム
JP2021086379A (ja) 情報処理装置、情報処理方法、プログラム及び学習モデルの生成方法
TWI822968B (zh) 濾色器檢查裝置、檢查裝置、濾色器檢查方法及檢查方法
JP7298176B2 (ja) 欠点検査装置および学習済みモデル
WO2019176988A1 (ja) 検査システム、識別システム、及び識別器評価装置
JP3982646B2 (ja) 画像識別装置および方法および画像識別装置を備えた画像検出識別装置ならびに画像識別用プログラムを記録した媒体
CN113554645A (zh) 基于wgan的工业异常检测方法和装置
CN115552462A (zh) 显微镜中的图像分析方法
JPH07333170A (ja) 欠陥パターン種別判定方法およびその装置
CN114226262A (zh) 瑕疵检测方法、瑕疵分类方法及其系统
Kirthiga et al. A survey on crack detection in concrete surface using image processing and machine learning
CN114782431B (zh) 一种印刷电路板缺陷检测模型训练方法及缺陷检测方法
CN111738991A (zh) 一种焊缝缺陷的数字射线检测模型的创建方法
WO2022190636A1 (ja) 支援装置および方法
JP2021015437A (ja) プログラム、情報処理方法及び情報処理装置
CN117593301B (zh) 基于机器视觉的内存条损伤快速检测方法及系统
KR20240102068A (ko) 인공지능을 이용한 인쇄 회로 기판 검사의 검증 장치 및 방법 그리고 이를 구현하기 위한 프로그램을 기록한 기록매체

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070613

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070628

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100713

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100713

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110713

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110713

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120713

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130713

Year of fee payment: 6

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term