JP5037166B2 - 表面疵検査システム、表面疵検査方法、及びコンピュータプログラム - Google Patents

表面疵検査システム、表面疵検査方法、及びコンピュータプログラム Download PDF

Info

Publication number
JP5037166B2
JP5037166B2 JP2007042461A JP2007042461A JP5037166B2 JP 5037166 B2 JP5037166 B2 JP 5037166B2 JP 2007042461 A JP2007042461 A JP 2007042461A JP 2007042461 A JP2007042461 A JP 2007042461A JP 5037166 B2 JP5037166 B2 JP 5037166B2
Authority
JP
Japan
Prior art keywords
image signal
binarization
shading correction
expansion
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007042461A
Other languages
English (en)
Other versions
JP2008203198A (ja
Inventor
純 梅村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Steel Corp
Original Assignee
Nippon Steel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Steel Corp filed Critical Nippon Steel Corp
Priority to JP2007042461A priority Critical patent/JP5037166B2/ja
Publication of JP2008203198A publication Critical patent/JP2008203198A/ja
Application granted granted Critical
Publication of JP5037166B2 publication Critical patent/JP5037166B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、表面疵検査システム、表面疵検査方法、及びコンピュータプログラムに関し、特に、疵測定対象物を画像化して疵検査を行うために用いて好適なものである。
例えば鋼板等の帯状体を疵検査対象物して、当該疵検査対象物の表面を照明して得られる反射光を画像化して、疵検査対象物の疵検査を行うことが行われている。
特許文献1には、鋼板を撮像したときに得られる信号を所定の閾値で2値化処理して、鋼板の表面に発生している疵を抽出する技術が開示されている。
具体的に説明すると、まず、ハロゲンランプにより照明された鋼板をカメラで撮像したときに得られる画像を用いて、鋼板の無疵部における受光信号のレベルの平均値を演算すると共に、無疵部における画像信号のレベルの標準偏差を演算する。そして、標準偏差に一定のゲインを乗じた値を、無疵部における画像信号のレベルの平均値に加算又は減算して閾値を設定し、設定した閾値に基づいて、画像信号を2値化処理し、疵部を抽出する。
このような疵検査対象物の疵検査の分野において、近年は、疵検査対象物の表面に形成されている微細な疵を検出するために、高精細な画像(高分解能の画像)を撮像する傾向にある。
特開平8−189905号公報
しかしながら、高精細な画像を撮像すると、微細な疵を画像化でき、ひいては微細な疵を検出する能力が向上するが、比較的大きな疵を1つの疵として検出することが困難な場合があるという問題点がある。すなわち、大きな疵の中には、疵検査対象物の地合に近い部分が存在するため、高精細な画像を撮像すると、大きな疵がその地合に近い部分で複数の小さな疵に分断された画像となってしまうことがある。つまり複数の部位で構成された大きな疵がある。そうすると、本来は大きな1つの疵であるのにも関わらず、その大きな1つの疵を複数の細かな疵として検出してしまうことになる。
このような問題点に対し、疵部であるか否かを判定するための閾値を調整(例えば低くする)して、地合いに近い疵部が検出され易くなるようにすることが考えられる。しかしながら、このようにすると、撮像された画像に含まれるノイズも疵部として検出してしまう虞があり、疵部を高精度に検出することができない。一方、疵部であるか否かを判定するための閾値を調整して、疵部が検出され難くなるようにすると、前述したように、大きな1つの疵を複数の細かな疵として検出してしまう。
以上のように、従来の技術では、微細な疵を検出しようとすると、複数の部位で構成された大きな疵を1つの疵として検出することが困難であり、微細な疵と大きな疵との双方を精度良く検出することが困難であるという問題点があった。
本発明はこのような問題点に鑑みてなされたものであり、微細な疵と大きな疵との双方を従来よりも精度良く検出できるようにすることを目的とする。
本発明の表面疵検査システムは、疵検査対象物を照明する照明手段と、前記照明手段により照明された疵検査対象物を撮像する撮像手段と、前記撮像手段により得られた画像信号に対してシェーディング補正を行うシェーディング補正手段と、前記シェーディング補正手段により得られた画像信号を2値化する第1の2値化手段と、前記シェーディング補正手段により得られた画像信号を低分解能化する低分解能化手段と、前記低分解能化手段により画素が間引かれた画像信号を2値化する第2の2値化手段と、前記第1の2値化手段により2値化された画像信号、及び前記第2の2値化手段により2値化された画像信号に対して膨張処理を行う膨張手段と、前記第2の2値化手段により2値化され前記膨張手段により膨張処理された画像信号を伸張する伸張手段と、前記シェーディング補正手段により得られた画像信号を2値化する第3の2値化手段と、前記第3の2値化手段により2値化された画像信号に対して孤立している画素を除去する孤立点除去手段と、前記第1の2値化手段により2値化され前記膨張手段により膨張処理された画像信号と、前記伸張手段により伸張された画像信号との互いに対応する画素の値について論理和を演算する領域合成手段と、前記領域合成手段により生成された画像信号に対してラベリング処理を行い、ラベル画像信号を生成するラベル画像生成手段と、前記孤立点除去手段により孤立している画素が除去された画像信号と、前記ラベル画像生成手段により生成されたラベル画像信号との互いに対応する画素値について論理積を演算するラベル画像調整手段と、疵の特徴量を求める特徴量導出手段とを有し、前記特徴量導出手段は、疵の形状に関わる特徴量を、前記ラベル画像生成手段により生成されたラベル画像信号を用いて求め、疵の輝度に関わる特徴量を、前記シェーディング補正手段により得られた画像信号に於いて、前記ラベル画像調整手段により得られた画像信号に基づくブロブに対応する画素の輝度情報を抽出することにより求めることを特徴とする。
本発明の表面疵検査方法は、疵検査対象物を照明する照明ステップと、前記照明ステップにより照明された疵検査対象物を撮像する撮像ステップと、前記撮像ステップにより得られた画像信号に対してシェーディング補正を行うシェーディング補正ステップと、前記シェーディング補正ステップにより得られた画像信号を2値化する第1の2値化ステップと、前記シェーディング補正ステップにより得られた画像信号を低分解能化する低分解能化ステップと、前記低分解能化ステップにより画素が間引かれた画像信号を2値化する第2の2値化ステップと、前記第1の2値化ステップにより2値化された画像信号、及び前記第2の2値化ステップにより2値化された画像信号に対して膨張処理を行う膨張ステップと、前記第2の2値化ステップにより2値化され前記膨張ステップにより膨張処理された画像信号を伸張する伸張ステップと、前記シェーディング補正ステップにより得られた画像信号を2値化する第3の2値化ステップと、前記第3の2値化ステップにより2値化された画像信号に対して孤立している画素を除去する孤立点除去ステップと、前記第1の2値化ステップにより2値化され前記膨張ステップにより膨張処理された画像信号と、前記伸張ステップにより伸張された画像信号との互いに対応する画素の値について論理和を演算する領域合成ステップと、前記領域合成ステップにより生成された画像信号に対してラベリング処理を行い、ラベル画像信号を生成するラベル画像生成ステップと、前記孤立点除去ステップにより孤立している画素が除去された画像信号と、前記ラベル画像生成ステップにより生成されたラベル画像信号との互いに対応する画素値について論理積を演算するラベル画像調整ステップと、疵の特徴量を求める特徴量導出ステップとを有し、前記特徴量導出ステップは、疵の形状に関わる特徴量を、前記ラベル画像生成ステップにより生成されたラベル画像信号を用いて求め、疵の輝度に関わる特徴量を、前記シェーディング補正ステップにより得られた画像信号に於いて、前記ラベル画像調整ステップにより得られた画像信号に基づくブロブに対応する画素の輝度情報を抽出することにより求めることを特徴とする。
本発明のコンピュータプログラムは、疵検査対象物を撮像する撮像手段により得られた画像信号に対してシェーディング補正を行うシェーディング補正ステップと、前記シェーディング補正ステップにより得られた画像信号を2値化する第1の2値化ステップと、前記シェーディング補正ステップにより得られた画像信号を低分解能化する低分解能化ステップと、前記低分解能化ステップにより画素が間引かれた画像信号を2値化する第2の2値化ステップと、前記第1の2値化ステップにより2値化された画像信号、及び前記第2の2値化ステップにより2値化された画像信号に対して膨張処理を行う膨張ステップと、前記第2の2値化ステップにより2値化され前記膨張ステップにより膨張処理された画像信号を伸張する伸張ステップと、前記シェーディング補正ステップにより得られた画像信号を2値化する第3の2値化ステップと、前記第3の2値化ステップにより2値化された画像信号に対して孤立している画素を除去する孤立点除去ステップと、前記第1の2値化ステップにより2値化され前記膨張ステップにより膨張処理された画像信号と、前記伸張ステップにより伸張された画像信号との互いに対応する画素の値について論理和を演算する領域合成ステップと、前記領域合成ステップにより生成された画像信号に対してラベリング処理を行い、ラベル画像信号を生成するラベル画像生成ステップと、前記孤立点除去ステップにより孤立している画素が除去された画像信号と、前記ラベル画像生成ステップにより生成されたラベル画像信号との互いに対応する画素値について論理積を演算するラベル画像調整ステップと、疵の特徴量を求める特徴量導出ステップとをコンピュータに実行させ、前記特徴量導出ステップは、疵の形状に関わる特徴量を、前記ラベル画像生成ステップにより生成されたラベル画像信号を用いて求め、疵の輝度に関わる特徴量を、前記シェーディング補正ステップにより得られた画像信号に於いて、前記ラベル画像調整ステップにより得られた画像信号に基づくブロブに対応する画素の輝度情報を抽出することにより求めることを特徴とする。
本発明によれば、小さな疵と大きな疵との双方を従来よりも精度良く検出でき、疵検査対象物の疵の特徴量を正確に求めることができる。
以下、図面を参照しながら、本発明の一実施形態を説明する。
図1は、本実施形態における表面疵検査システムの概略構成の一例を示した図である。尚、本実施形態では、図1に示すように、疵検査を行う疵検査対象物として、鉄鋼業の圧延鋼板製造ラインで製造された鋼板1を例に挙げて説明する。
図1において、鋼板1は、ロール2a、2bによって、長手方向(図1のY方向)に搬送される。また、ロール2a、2bの回転は、ロータリーエンコーダ3a、3bにより検出されるようにしている。
このような圧延鋼板製造ラインに設置される表面疵検査システムは、鋼板1を照明するための照明装置4と、照明装置4により鋼板1を照明することによって得られる反射光に基づく画像信号を撮像する撮像装置5と、撮像装置5で撮像された画像信号を処理して、鋼板1の表面に発生している疵を検出するためのPC(Personal Computer)6とを有している。
照明装置4は、例えばハロゲンランプ等、好ましくは高い輝度を有する光を発光する発光部と、集光レンズ等の集光部とを有する。ハロゲンランプ等から出射される光が集光部で線状に集光されることにより、鋼板1の表面がその幅方向(図1のX方向)で線状に照明される。尚、本実施形態では、図1に示すように、鋼板1の幅方向の全てが確実に線状に照明されるように、鋼板1の幅方向の長さよりも長い線状の光を照明装置4が照射するようにしている。
撮像装置5は、照明装置4により照明された鋼板1の疵検査範囲を撮像して画像信号を生成する機能を有し、図1に示すように、照明装置4から照射され、鋼板1に当たって反射される光の光路上に配置される。この撮像装置5は、例えばCCDラインスキャンカメラである。また、撮像装置5は、例えば、幅方向に4096画素を有し、ラインスキャン周波数を36KHzとして、検査幅400mm、搬送速度毎分216mの生産ラインで撮像した場合、鋼板1の幅方向および搬送方向の分解能が画素あたりそれぞれ0.1mmという、高精細な画像信号(高分解能の画像信号)を生成することができる。尚、検査幅の拡大、あるいは幅方向の分解能をさらに上げる目的で、撮像装置5を幅方向に複数台のCCDカメラで構成してもよい。
PC6は、コンピュータ本体6aと、ディスプレイ6bとを有している。コンピュータ本体6aは、CPU、ROM、RAM、ハードディスク、及びユーザインターフェース等を有している。コンピュータ本体6aのハードディスクには、後述するようにして疵検査を行うための疵検用アプリケーションプログラムがインストールされている。
CPUは、ユーザインターフェースのユーザによる操作等に基づいて、疵検用アプリケーションプログラムを起動する。そして、CPUは、疵検用アプリケーションプログラムを実行して、撮像装置5で撮像された画像信号や、ロータリーエンコーダ3a、3bで検出されたロール2a、2bの回転を示すパルス信号を入力し、疵検査を行うための処理を実行する。このとき、CPUは、ROMやRAMに格納されているデータを用いたり、RAMをワークエリアとして用いたりして、疵検用アプリケーションプログラムを実行する。
ディスプレイ6bは、コンピュータ本体6aで実行された疵検査の結果を示す画像を表示するためのものであり、所謂コンピュータディスプレイ(例えばLCD(Liquid Crystal Display)である。
図2は、表面疵検査システムに設けられたコンピュータ本体6aが有する機能構成の一例を示すブロック図である。尚、図2に示すコンピュータ本体6a内の各部は、コンピュータ本体6aに設けられたCPUが、例えばハードディスクに記憶されているアプリケーションプログラムを実行することにより実現することができる。
搬送状況検出部21は、ロール2a、2bの回転を示すパルス信号を、ロータリーエンコーダ3a、3bから受信し、受信したパルス信号に基づいて、生産ライン方向(図1のY方向)に移動する鋼板1の搬送状況を検出し、検出した搬送状況を示す搬送状況検出信号を生成する。
撮像制御部22は、搬送状況検出部21から受信した搬送状況検出信号に基づいて、鋼板1の疵検査の開始及び終了を判断し、判断した結果に応じて照明装置4及び撮像装置5の動作を制御する。
シェーディング補正部23は、撮像装置5から受信した高精細な画像信号に対して、シェーディング補正を行う。そして、シェーディング補正部23は、シェーディング補正を行った画像信号と、その画像信号が表す鋼板1の領域とを対応付けて、例えばRAMに一時的に記憶する。
第3の2値化部24では、シェーディング補正部23によってシェーディング補正が行われた高精細な画像信号を、輝度閾値を用いて2値化する。具体的に第3の2値化部24は、例えば、シェーディング補正部23によってシェーディング補正が行われた高精細な画像信号の輝度値が、予め設定された上限閾値以上、あるいは下限閾値以下である場合には、その輝度値を有する画素を「1」に設定し、それ以外である場合には、その輝度値を有する画素を「0」に設定する。尚、鋼板1の表面に形成された疵の形状を、2値化された画像信号によって、可及的に正確に(きれいに)抽出できるようにするための値が、第3の2値化部24で使用される閾値として設定される。
図3(a)に、第3の2値化部24により2値化された画像の一例を示す。尚、図3(a)では、鋼板1の領域のうち、1つの疵が形成されている領域の画像を抜き出して示している。図3(a)に示す画像では、多数の白色の部分が点在し、本来1つの疵として検出されるべき疵が、多数の小さな疵として検出されてしまう。
孤立点除去部25は、第3の2値化部24で2値化された画像信号において、「1」が設定されている画素が孤立している場合、その「1」が設定されている画素の設定値を「1」から「0」に変更する。孤立点除去部25は、例えば、第3の2値化部24で2値化された画像信号において、「1」が設定されている画素の周囲の全ての画素に「0」が設定されている場合、その「1」が設定されている画素の設定値を「1」から「0」に変更する。尚、孤立点除去部25は、必ずしもこのようにして孤立している画素を除去する必要はない。例えば、連続して「1」が設定されている画素の数が予め定められた数以下である場合に、それらの画素の設定値を「1」から「0」に変更するようにしてもよい。
第1の2値化部26では、シェーディング補正部23によってシェーディング補正が行われた高精細な画像信号を2値化する。第1の2値化部26の目的は、前記第3の2値化部24のように鋼板1の表面に形成された疵の形状を可及的に正確に抽出することではなく、1つの疵を分断することのないよう、疵の正確な形態抽出を多少犠牲にしても、1つの疵に対応する各画素がなるべく漏れなく「1」になることである。よって、疵部以外の地合部分などが若干紛れて「1」になっても許容することができる。
第1の2値化部26において、輝度値に関する上下限閾値を用いた前記第3の2値化部24と同じ2値化方法を用いることがもちろん可能である。しかしながら、本実施形態の目的を実現するために、これらの閾値は第1の2値化部26よりも緩和された閾値が必要である。
このような緩和された閾値による前記第3の2値化部24と同じ2値化方法を第1の2値化部26に用いた場合、疵部以外の地合部分などが若干紛れて「1」となる可能性があるのは前記の通りであるが、疵検出性能の観点からは、このような現象は当然望ましくないことがある。よって本実施形態では、前記の第1の2値化部26の2値化方法として、輝度値に関する閾値に加え、画素数の閾値を併せて考慮することのできる2値化手段を用いる。特開2005−69887号公報にはこの2値化方法に関する技術が開示されているが、その概要を以下で図4を参照しながら説明する。
図4において、まず、A×B(A、Bは画像信号の画素数に対応する自然数)画素の画像信号に対して、C×D(C、Dは2以上の自然数、図4では3×3)画素の第1の検出領域42aを設定する。そして、予め設定した輝度閾値以上の輝度値を有する画素の数が、第1の検出領域42aに、予め設定した画素数閾値以上あるか否かを判定する。
この判定の結果、輝度閾値以上の輝度値を有する画素の数が、第1の検出領域42aに、画素数閾値以上ある場合、第1の検出領域42aの各画素に対してON(「1」)を設定する。
一方、輝度閾値以上の輝度値を有する画素の数が、第1の検出領域42aに、画素数閾値以上ない場合、第1の検出領域42aの各画素に対してOFF(「0」)を設定する。
次に、第1の検出領域42aを横方向に、例えば1画素ずらした第2の検出領域42bを設定する。そして、輝度閾値以上の輝度値を有する画素の数が、第2の検出領域42bに、画素数閾値以上あるか否かを判定する。この判定の結果、輝度閾値以上の輝度値を有する画素の数が、第2の検出領域42bに、画素数閾値以上ある場合、第2の検出領域42bの各画素に対してON(「1」)を設定する。このとき、第2の検出領域42bの画素に対して既にOFF(「0」)が設定されている場合、その画素に対する設定をOFF(「0」)からON(「1」)に変更する。
一方、輝度閾値以上の輝度値を有する画素の数が、第2の検出領域42aに、画素数閾値以上ない場合、第2の検出領域42bの各画素に対してOFF(「0」)を設定する。但し、第2の検出領域42bの画素に対して既にON(「1」)が設定されている場合、その画素に対する設定をOFF(「0」)にせず、ON(「1」)のままとする。
検出領域を、例えば1画素ずつずらして以上のような処理を、2値化する対象の画像信号(A×B画素の画像信号)の全ての領域について行い、その画像信号の全ての画素に対して、ON(「1」)又はOFF(「0」)を設定する。
本実施形態では、以上のようにして2値化を行うことにより、シェーディング補正が行われた画像信号に含まれるノイズを可及的に拾わずに、そのシェーディング補正が行われた画像信号を2値化することができると共に、1つの疵領域を可及的に確実に1つの領域として検出すること可能になる。
膨張部27は、第1の2値化部26で2値化された画像信号に対して膨張処理を行う。これにより、例えば、OFF(「0」)が設定されている画素が、ON(「1」)が設定されている画素に囲まれている場合、そのOFF(「0」)が設定されている画素の設定が、OFF(「0」)からON(「1」)に変更される。
以上のように、第1の2値化部26及び膨張部27の処理によって、鋼板1の表面に形成されている疵のうち、相対的に小さな疵領域を可及的に1つの疵領域として検出することができる。
低分解能化部28は、シェーディング補正部23によってシェーディング補正が行われた高精細な画像信号を低分解能化する。本実施形態では、低分解能化部28は、鋼板1の長手方向(図1のY方向)に長い疵を検出するために、シェーディング補正が行われた高精細な画像信号の幅方向(図1のX方向)の画素を、E(Eは自然数、例えば7)ライン分間引くことにより、幅方向が1/Eの大きさの低分解能の画像を生成する。但し、画素を間引く方法は、このようなものに限定されず、例えば、鋼板1の長手方向及び幅方向の双方に亘る広範囲の疵を検出する場合には、幅方向(図1のX方向)の画素に加えて、長手方向(図1のY方向)の画素を間引くようにしてもよい。また、前記のようにラインを間引く前に、高周波除去フィルタ(ローパスフィルタ)などを事前に適用しないと、エイリアシングと呼ばれる現象により画像が劣化する場合がある。このような場合は事前に適切なフィルタを適用することが必要であり、適用先に応じて判断が必要となる。さらに、低分解能化部28は、画像信号を間引く代わりに、決められた領域(例えば横3画素、縦3画素)の平均輝度、あるいは最大輝度、最小輝度を計算し、それらを低分解能画像(縦1/3、横1/3となる)の画素値として画像信号を低分解能化しても良い。
第2の2値化部29では、低分解能化部28で低分解能化された画像信号を2値化する。第2の2値化部29の目的は、第1の2値化部26と同じであり、2値化する対象が低分解能画像であることが異なる。よって、その方法や閾値の選択基準も第1の2値化部26と同様である。本実施の形態では、第2の2値化部29においても、図4で説明した2値化方法を用いるため、詳細な説明を省略する。
伸張部31は、膨張部30で膨張処理が行われた画像信号を、低分解能化部28で行われた低分解能化の量に応じて、元の大きさに伸張する。図3(b)に、伸張部31により伸張された画像の一例を示す。尚、図3(b)に示す画像と、図3(a)に示した画像は、撮像装置5により撮像された同一の画像信号から得られたものである。図3(a)に示した画像では、多数の白色の部分が点在し、多数の小さな疵として検出されてしまうのに対し、図3(b)に示した画像では、1つの大きな疵として検出できることが分かる。
以上のように、低分解能化部28、第2の2値化部29、膨張部30、及び伸張部31の処理によって、撮像装置5で撮像された高精細な画像信号の解像度を低解像度化することができる。従って、鋼板1の表面に形成されている疵のうち、相対的に大きな疵領域を可及的に1つの疵領域として抽出することができる。
領域合成部32は、膨張部27により膨張処理が行われた画像信号(相対的に小さな疵領域に「1」が設定されている2値化画像信号)と、伸張部31により伸張された画像信号(相対的に大きな疵領域に「1」が設定されている2値化画像信号)との互いに対応する画素の値について論理和(OR)を演算する。これにより、相対的に大きな疵領域と、相対的に小さな疵領域との双方に「1」が設定された画像信号が生成される。
ラベル画像生成部33は、領域合成部32で生成された画像信号に対してラベリングを行い、ラベル画像信号を生成する。これにより、同一の疵領域(隣接して「1」が設定されている領域)の各画素には、画素値として、同一のラベル番号が与えられる。
ラベル画像調整部34は、ラベル画像生成部33により生成されたラベル画像信号と、孤立点除去部25により孤立している画素が除去された画像信号との互いに対応する画素の値について論理積(AND)を演算する。これにより、第3の2値化部24で2値化された画像信号で「0」が設定されている画素に対応するラベル画像信号の画素の設定が、無効化される(ラベル画像信号の画素に対して設定されているラベル番号を消去する)。
特徴量計算部35は、鋼板1の表面に生じている疵の特徴量を計算する。本実施形態では、特徴量計算部35は、鋼板1の表面に生じている疵の長さや幅等、鋼板1の表面に生じている疵の形状については、ラベル画像生成部33により生成されたラベル画像信号を用いて算出する。また、鋼板1の表面に生じている疵の数についても、ラベル画像生成部33により生成されたラベル画像信号を用いて算出する。
以上のように本実施形態では、ラベル画像信号は、第1の2値化部26、第2の2値化部29で2値化が行われた画像信号を用いて生成される。よって、本実施形態では、第1の2値化部26により第1の2値化手段が実現され、第2の2値化部29により第2の2値化手段が実現される。
一方、鋼板1の輝度分布等、輝度に関する特徴量を求める場合、特徴量計算部35は、まず、ラベル画像調整部34により設定が変更されたラベル画像信号に基づくブロブ(blob)を求める。そして、特徴量計算部35は、シェーディング補正部23によってシェーディング補正が行われた高精細な画像信号から、求めたブロブに対応する画素を走査することにより輝度情報を抽出し、抽出した輝度情報に基づいて、ブロブ内の最大輝度、最小輝度、輝度平均、輝度分散、ヒストグラムなどの輝度に関する特徴量を求める。
そして、特徴量計算部35は、以上のようにして求めた特徴量に基づいて、疵の種類や、疵のグレードを求める。
以上のように本実施形態の孤立点除去部25は、第3の2値化部24で2値化された画像信号から、孤立している画素を除去する。よって、本実施形態では、第3の2値化部24により第3の2値化手段が実現される。
画像生成部36は、特徴量計算部35で求められた特徴量、疵の種類、及び疵のグレードを示す疵検出画像データを生成し、ディスプレイ6bに表示させる。本実施形態では、画像生成部36は、特徴量計算部35で求められた特徴量等に基づいて、鋼板1を模した画像の上に、疵を模した画像を重ね合わせた疵検出画像データ(マップ)を生成する。これにより、鋼板1のどの場所にどのような疵が生じているのかを視覚的にユーザに認識させることができる。
次に、図5及び図6のフローチャートを参照しながら、表面疵検査システムの処理動作の一例を説明する。尚、ここでは、前述した疵検用アプリケーションプログラムが起動されているものとして説明を行う。
まず、ステップS1において、撮像制御部22は、搬送状況検出部21から受信した搬送状況検出信号に基づいて、鋼板1を検出するまで待機する。そして、鋼板1を検出すると、ステップS2に進み、撮像制御部22は、照明装置4を制御して、照明装置4に設けられている発光部(例えばハロゲンランプ)を発光させるとともに、撮像装置5を制御して撮像装置5を作動させる。
次に、ステップS3において、照明装置4は、光を照射して鋼板1を照明する。
次に、ステップS4において、撮像装置5は、生産ライン方向(図1のY方向)に搬送されている鋼板1を撮像する。
次に、ステップS5において、シェーディング補正部23は、撮像装置5から画像信号が入力されるまで待機する。
そして、撮像装置5から画像信号が入力されると、ステップS6に進み、シェーディング補正部23は、ステップS5で撮像装置5から受信した画像信号に対して、シェーディング補正を行う。このとき、シェーディング補正部23は、搬送状況検出部21から受信した搬送状況検出信号に基づいて、シェーディング補正を行った画像信号と、その画像信号が表す鋼板1の領域とを対応付けて、例えばRAMに一時的に記憶する。
次に、ステップS7において、第3の2値化部24は、ステップS6でシェーディング補正が行われた画像信号を、輝度閾値を用いて2値化する。
次に、ステップS8において、孤立点除去部25は、ステップS7で2値化された画像信号において、「1」が設定されている画素が孤立している場合、その「1」が設定されている画素の設定値を「1」から「0」に変更し、孤立している画素を除去する。そして、孤立点除去部25は、孤立している画素を除去した画像信号を、例えばRAMに一時的に記憶する。
次に、ステップS9において、第1の2値化部26は、ステップS6でシェーディング補正が行われた画像信号を、輝度閾値と画素数閾値とを用いて2値化する。このステップS9の処理の詳細については、図6を用いて後述する。
次に、ステップS10において、膨張部27は、ステップS9で2値化された画像信号に対して膨張処理を行う。そして、膨張部27は、膨張処理を行った画像信号を、例えばRAMに一時的に記憶する。
次に、図5−2のステップS11において、低分解能化部28は、ステップS6でシェーディング補正が行われた画像信号を低分解能化する。
次に、ステップS12において、第2の2値化部29は、ステップS11で画素が低分解能化された画像信号を、輝度閾値と画素数閾値とを用いて2値化する。このステップS12の処理の詳細については、図6を用いて後述する。
次に、ステップS13において、膨張部30は、ステップS12で2値化された画像信号に対して膨張処理を行う。
次に、ステップS14において、伸張部31は、ステップS13で膨張処理が行われた画像信号を、ステップS11で行われた低分解能化の量に応じて、元の大きさに伸張する。そして、伸張部31は、伸張した画像信号を、例えばRAMに一時的に記憶する。
次に、ステップS15において、領域合成部32は、ステップS10で膨張処理が行われた画像信号(相対的に小さな疵領域に「1」が設定されている2値化画像信号)と、ステップS14で伸張された画像信号(相対的に大きな疵領域に「1」が設定されている2値化画像信号)との互いに対応する画素の値について論理和(OR)を演算し、相対的に大きな疵領域と、相対的に小さな疵領域との双方に「1」が設定された画像信号を生成する。
次に、ステップS16において、ラベル画像生成部33は、ステップS15で生成された画像信号に対してラベリングを行い、ラベル画像信号を生成する。そして、ラベル画像生成部33は、生成したラベル画像信号を、例えばRAMに一時的に記憶する。
次に、ステップS17において、ラベル画像調整部34は、ステップS16で生成されたラベル画像信号と、ステップS8で孤立している画素が除去された画像信号との互いに対応する画素の値について論理積(AND)を演算し、ステップS7で2値化された画像信号で「0」が設定されている画素に対応するラベル画像信号の画素の設定を無効化する。
次に、ステップS18において、特徴量計算部35は、鋼板1の表面に生じている疵の特徴量を求め、それら特徴量からルールなどの様々な判別器を用いて、疵の種類と、疵のグレードとを求める。
次に、ステップS19において、画像生成部36は、ステップS18で求められた特徴量、疵の種類、及び疵のグレードを示す疵検出画像データを生成し、ディスプレイ6bに表示させる。
次に、ステップS20において、シェーディング補正部23は、搬送状況検出部21から受信した搬送状況検出信号に基づいて、鋼板1の疵検査が完了したか否かを判定する。この判定の結果、疵検査が完了していれば、ステップS21に進み、撮像制御部22は、照明装置4に設けられている発光部の発光動作と、撮像装置5の動作とを停止させる。
一方、疵検査が完了していない場合は、ステップS5に戻り、疵検査が完了するまでステップS5からステップS20までの処理を繰り返す。
次に、図6のフローチャートを参照しながら、図5−1のステップS9及び図5−2のステップS12で第1及び第2の2値化を行う際の処理の詳細を説明する。
まず、ステップS31において、第1及び第2の2値化部26、29は、変数nを1に設定する。
次に、ステップS32において、第1および第2の2値化部26、29は、画像信号に対して、第nの検出領域42を設定する。尚、ステップS9では、ステップS6でシェーディング補正が行われた画像信号に対して、第nの検出領域42を設定する。一方、ステップS12では、ステップS11で画素が低分解能化された画像信号に対して、第nの検出領域42を設定する。
次に、ステップS33において、第1及び第2の2値化部26、29は、輝度閾値以上の輝度値を有する画素の数が、ステップS32で設定した第nの検出領域42に、画素数閾値以上あるか否かを判定する。この判定の結果、輝度閾値以上の輝度値を有する画素の数が、ステップS32で設定した第nの検出領域42に、画素数閾値以上ない場合には、後述するステップS37に進む。一方、輝度閾値以上の輝度値を有する画素の数が、ステップS32で設定した第nの検出領域42に、画素数閾値以上ある場合には、ステップS34に進む。
そして、ステップS34において、第1及び第2の2値化部26、29は、ステップS32で設定した第nの検出領域42の各画素に対してON(「1」)を設定する。
次に、ステップS35において、第1及び第2の2値化部26、29は、画像信号の全ての画素に対して、ON(「1」)又はOFF(「0」)を設定したか否かを判定する。この判定の結果、画像信号の全ての画素に対して、ON(「1」)又はOFF(「0」)を設定した場合には、図5に示したメインフローチャートに戻る。
一方、画像信号の全ての画素に対して、ON(「1」)又はOFF(「0」)を設定していない場合には、ステップS36に進み、第1及び第2の2値化部26、29は、変数nに1を加算して、ステップS32に戻る。そして、ステップS32において、第1及び第2の2値化部26、29は、前回設定した第nの検出領域42を1画素ずらした領域を第(n+1)の検出領域42として設定する。
前記ステップS33において、輝度閾値以上の輝度値を有する画素の数が、ステップS32で設定した第nの検出領域42に、画素数閾値以上ないと判定された場合には、ステップS37に進む。そして、ステップS37において、第1及び第2の2値化部26、29は、ステップS32で設定した第nの検出領域42に、ON(「1」)が設定されている画素があるか否かを判定する。この判定の結果、ステップS32で設定した第nの検出領域42に、ON(「1」)が設定されている画素がある場合には、ステップS38に進む。そして、ステップS38において、第1及び第2の2値化部26、29は、ON(「1」)が設定されている画素を除き、ステップS32で設定した第nの検出領域42の各画素に対してOFF(「0」)を設定する。そして、前述したステップS35に進む。
一方、ステップS32で設定した第nの検出領域42に、ON(「1」)が設定されている画素がない場合には、ステップS39に進む。そして、ステップS39において、第1及び第2の2値化部26、29は、ステップS32で設定した第nの検出領域42の各画素に対してOFF(「0」)を設定する。そして、前述したステップS35に進む。
以上のように本実施形態では、鋼板1の表面に形成された疵の形状を可及的に正確に表す画像信号を第3の2値化部24及び孤立点除去部25で生成する。そして、相対的に小さな1つの疵領域を可及的に確実に1つの領域として表す画像信号を、第1の2値化部26及び膨張部27で生成する。更に、相対的に大きな1つの疵領域を可及的に確実に1つの領域として表す画像信号を、低分解能化部28、第2の2値化部29、膨張部30、及び伸張部31で生成する。従って、第1の2値化部26、膨張部27、低分解能化部28、第2の2値化部29、膨張部30、及び伸張部31で1つの疵領域を可及的に正確に検出すると共に、第3の2値化部24及び孤立点除去部25で疵の形状を正確に検出することによって、鋼板1の表面に形成されている疵の特徴量を可及的に正確に求めることができる。これにより、例えば、本来1つの疵領域であるべきものが、第3の2値化部24及び孤立点除去部25で、複数の疵として検出されても、それら複数の疵が1つの疵領域に属するものであることを、第1の2値化部26、膨張部27、低分解能化部28、第2の2値化部29、膨張部30、及び伸張部31における検出結果によって認識することができる。よって、微細な疵と大きな疵との双方を従来よりも精度良く検出でき、鋼板1の表面に形成されている疵の特徴量を従来よりも正確に求めることができる。
尚、本実施形態では、膨張部27により膨張処理が行われた画像信号(相対的に小さな疵領域に「1」が設定されている2値化画像信号)と、伸張部31により伸張された画像信号(相対的に大きな疵領域に「1」が設定されている2値化画像信号)との互いに対応する画素の値について、領域合成部32が論理和(OR)を演算するようにした。しかしながら、必ずしも領域合成部32を用いる必要はない。
例えば、ラベル画像調整部34は、膨張部27により膨張処理が行われた画像信号と、伸張部31により伸張された画像信号との夫々に対してラベリングを行い、第1及び第2のラベル画像信号を生成する。そして、ラベル画像調整部34は、第1のラベル画像信号と、孤立点除去部25で孤立している画素が除去された画像信号との互いに対応する画素の値について、論理積(AND)を演算すると共に、第2のラベル画像信号と、孤立点除去部25で孤立している画素が除去された画像信号との互いに対応する画素の値についても、論理積(AND)を演算する。
尚、以上説明した本発明の実施形態は、コンピュータがプログラムを実行することによって実現することができる。また、プログラムをコンピュータに供給するための手段、例えばかかるプログラムを記録したCD−ROM等のコンピュータ読み取り可能な記録媒体、又はかかるプログラムを伝送する伝送媒体も本発明の実施の形態として適用することができる。また、前記プログラムを記録したコンピュータ読み取り可能な記録媒体などのプログラムプロダクトも本発明の実施の形態として適用することができる。前記のプログラム、コンピュータ読み取り可能な記録媒体、伝送媒体及びプログラムプロダクトは、本発明の範疇に含まれる。
また、前述した実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
本発明の実施形態を示し、表面疵検査システムの概略構成の一例を示した図である。 本発明の実施形態を示し、表面疵検査システムに設けられたコンピュータ本体が有する機能構成の一例を示すブロック図である。 本発明の実施形態を示し、2値化された画像の一例を示す図である。 本発明の実施形態を示し、輝度と画素数に関する閾値を用いる2値化の方法の一例を説明する図である。 本発明の実施形態を示し、表面疵検査システムの処理動作の一例を説明するフローチャートである。 本発明の実施形態を示し、図5−1に続くフローチャートである。 本発明の実施形態を示し、図5−1のステップS9及び図5−2のステップS12で、図4に示す2値化を行う際の処理の詳細を説明するフローチャートである。
符号の説明
1 鋼板
2 ロール
3 ロータリーエンコーダ
4 照明装置
5 撮像装置
6 PC

Claims (3)

  1. 疵検査対象物を照明する照明手段と、
    前記照明手段により照明された疵検査対象物を撮像する撮像手段と、
    前記撮像手段により得られた画像信号に対してシェーディング補正を行うシェーディング補正手段と、
    前記シェーディング補正手段により得られた画像信号を2値化する第1の2値化手段と、
    前記シェーディング補正手段により得られた画像信号を低分解能化する低分解能化手段と、
    前記低分解能化手段により画素が間引かれた画像信号を2値化する第2の2値化手段と、
    前記第1の2値化手段により2値化された画像信号、及び前記第2の2値化手段により2値化された画像信号に対して膨張処理を行う膨張手段と、
    前記第2の2値化手段により2値化され前記膨張手段により膨張処理された画像信号を伸張する伸張手段と、
    前記シェーディング補正手段により得られた画像信号を2値化する第3の2値化手段と、
    前記第3の2値化手段により2値化された画像信号に対して孤立している画素を除去する孤立点除去手段と、
    前記第1の2値化手段により2値化され前記膨張手段により膨張処理された画像信号と、前記伸張手段により伸張された画像信号との互いに対応する画素の値について論理和を演算する領域合成手段と、
    前記領域合成手段により生成された画像信号に対してラベリング処理を行い、ラベル画像信号を生成するラベル画像生成手段と、
    前記孤立点除去手段により孤立している画素が除去された画像信号と、前記ラベル画像生成手段により生成されたラベル画像信号との互いに対応する画素値について論理積を演算するラベル画像調整手段と、
    の特徴量を求める特徴量導出手段とを有し、
    前記特徴量導出手段は、疵の形状に関わる特徴量を、前記ラベル画像生成手段により生成されたラベル画像信号を用いて求め、疵の輝度に関わる特徴量を、前記シェーディング補正手段により得られた画像信号に於いて、前記ラベル画像調整手段により得られた画像信号に基づくブロブに対応する画素の輝度情報を抽出することにより求めることを特徴とする表面疵検査システム。
  2. 疵検査対象物を照明する照明ステップと、
    前記照明ステップにより照明された疵検査対象物を撮像する撮像ステップと、
    前記撮像ステップにより得られた画像信号に対してシェーディング補正を行うシェーディング補正ステップと、
    前記シェーディング補正ステップにより得られた画像信号を2値化する第1の2値化ステップと、
    前記シェーディング補正ステップにより得られた画像信号を低分解能化する低分解能化ステップと、
    前記低分解能化ステップにより画素が間引かれた画像信号を2値化する第2の2値化ステップと、
    前記第1の2値化ステップにより2値化された画像信号、及び前記第2の2値化ステップにより2値化された画像信号に対して膨張処理を行う膨張ステップと、
    前記第2の2値化ステップにより2値化され前記膨張ステップにより膨張処理された画像信号を伸張する伸張ステップと、
    前記シェーディング補正ステップにより得られた画像信号を2値化する第3の2値化ステップと、
    前記第3の2値化ステップにより2値化された画像信号に対して孤立している画素を除去する孤立点除去ステップと、
    前記第1の2値化ステップにより2値化され前記膨張ステップにより膨張処理された画像信号と、前記伸張ステップにより伸張された画像信号との互いに対応する画素の値について論理和を演算する領域合成ステップと、
    前記領域合成ステップにより生成された画像信号に対してラベリング処理を行い、ラベル画像信号を生成するラベル画像生成ステップと、
    前記孤立点除去ステップにより孤立している画素が除去された画像信号と、前記ラベル画像生成ステップにより生成されたラベル画像信号との互いに対応する画素値について論理積を演算するラベル画像調整ステップと、
    の特徴量を求める特徴量導出ステップとを有し、
    前記特徴量導出ステップは、疵の形状に関わる特徴量を、前記ラベル画像生成ステップにより生成されたラベル画像信号を用いて求め、疵の輝度に関わる特徴量を、前記シェーディング補正ステップにより得られた画像信号に於いて、前記ラベル画像調整ステップにより得られた画像信号に基づくブロブに対応する画素の輝度情報を抽出することにより求めることを特徴とする表面疵検査方法。
  3. 疵検査対象物を撮像する撮像手段により得られた画像信号に対してシェーディング補正を行うシェーディング補正ステップと、
    前記シェーディング補正ステップにより得られた画像信号を2値化する第1の2値化ステップと、
    前記シェーディング補正ステップにより得られた画像信号を低分解能化する低分解能化ステップと、
    前記低分解能化ステップにより画素が間引かれた画像信号を2値化する第2の2値化ステップと、
    前記第1の2値化ステップにより2値化された画像信号、及び前記第2の2値化ステップにより2値化された画像信号に対して膨張処理を行う膨張ステップと、
    前記第2の2値化ステップにより2値化され前記膨張ステップにより膨張処理された画像信号を伸張する伸張ステップと、
    前記シェーディング補正ステップにより得られた画像信号を2値化する第3の2値化ステップと、
    前記第3の2値化ステップにより2値化された画像信号に対して孤立している画素を除去する孤立点除去ステップと、
    前記第1の2値化ステップにより2値化され前記膨張ステップにより膨張処理された画像信号と、前記伸張ステップにより伸張された画像信号との互いに対応する画素の値について論理和を演算する領域合成ステップと、
    前記領域合成ステップにより生成された画像信号に対してラベリング処理を行い、ラベル画像信号を生成するラベル画像生成ステップと、
    前記孤立点除去ステップにより孤立している画素が除去された画像信号と、前記ラベル画像生成ステップにより生成されたラベル画像信号との互いに対応する画素値について論理積を演算するラベル画像調整ステップと、
    の特徴量を求める特徴量導出ステップとをコンピュータに実行させ、
    前記特徴量導出ステップは、疵の形状に関わる特徴量を、前記ラベル画像生成ステップにより生成されたラベル画像信号を用いて求め、疵の輝度に関わる特徴量を、前記シェーディング補正ステップにより得られた画像信号に於いて、前記ラベル画像調整ステップにより得られた画像信号に基づくブロブに対応する画素の輝度情報を抽出することにより求めることを特徴とするコンピュータプログラム。
JP2007042461A 2007-02-22 2007-02-22 表面疵検査システム、表面疵検査方法、及びコンピュータプログラム Active JP5037166B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007042461A JP5037166B2 (ja) 2007-02-22 2007-02-22 表面疵検査システム、表面疵検査方法、及びコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007042461A JP5037166B2 (ja) 2007-02-22 2007-02-22 表面疵検査システム、表面疵検査方法、及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2008203198A JP2008203198A (ja) 2008-09-04
JP5037166B2 true JP5037166B2 (ja) 2012-09-26

Family

ID=39780855

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007042461A Active JP5037166B2 (ja) 2007-02-22 2007-02-22 表面疵検査システム、表面疵検査方法、及びコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP5037166B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014167430A (ja) * 2013-02-28 2014-09-11 Shin Nippon Koki Co Ltd 欠陥検査システム、欠陥検査プログラムおよび欠陥検査方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5488953B2 (ja) * 2008-09-17 2014-05-14 新日鐵住金株式会社 凹凸疵検査方法及び装置
JP5387319B2 (ja) * 2009-10-15 2014-01-15 東レ株式会社 シート状の連続体の検査方法
CN102759530B (zh) * 2012-07-03 2016-05-04 湖南镭目科技有限公司 一种表面质量图像在线检测装置
CN111366586B (zh) * 2020-04-28 2022-11-18 杭州华纺布艺有限公司 一种布料瑕疵检测方法、系统、存储介质及验布机
CN113533372B (zh) * 2021-07-12 2024-02-23 浙江理工大学 一种纸张缺陷检测方法、系统、装置及计算机存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4012366B2 (ja) * 2000-12-26 2007-11-21 新日本製鐵株式会社 表面疵検出装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014167430A (ja) * 2013-02-28 2014-09-11 Shin Nippon Koki Co Ltd 欠陥検査システム、欠陥検査プログラムおよび欠陥検査方法

Also Published As

Publication number Publication date
JP2008203198A (ja) 2008-09-04

Similar Documents

Publication Publication Date Title
JP5037166B2 (ja) 表面疵検査システム、表面疵検査方法、及びコンピュータプログラム
EP1330111A2 (en) Automatic image quality evaluation and correction technique
WO1998015919A1 (fr) Procede et appareil de detection de defauts de raies sur des documents imprimes
JP2005172559A (ja) パネルの線欠陥検出方法及び装置
JP2009010890A (ja) 撮像装置および方法
JP6643301B2 (ja) 欠陥検査装置及び欠陥検査方法
JP2010225047A (ja) ノイズ成分除去装置、ノイズ成分除去プログラムを記録した媒体
JP2008233107A (ja) 外観検査方法及び外観検査装置
JP4978215B2 (ja) 加工面欠陥判定方法
JP4276608B2 (ja) 帯状体や柱状体の周期性疵検出方法およびその装置
JP2006035505A (ja) 印刷物の検査方法及び装置
JP4395057B2 (ja) 帯状体や柱状体の周期疵検出方法およびその装置
JPH1148457A (ja) 筋状欠陥検査方法及び装置
JP2009236550A (ja) 欠陥検出方法
JP2020003452A (ja) 検査装置、検査方法、および、検査装置用のプログラム
JP2009074828A (ja) 欠陥検出方法および欠陥検出装置
JP3753234B2 (ja) 欠陥検出方法
JP6665549B2 (ja) タイヤ接地面解析装置、タイヤ接地面解析システム及びタイヤ接地面解析方法
JP4238074B2 (ja) 表面疵検査方法
JP2009295028A (ja) 画像処理方法及び画像処理装置
WO2024070101A1 (ja) 表面欠陥検出方法及び表面欠陥検出装置
JP2002140695A (ja) 検査方法およびその装置
JP2011153874A (ja) 外観検査装置、外観検査システムおよび外観検査方法
JP2004276476A (ja) 印刷物検査装置、印刷物検査方法、印刷物検査処理プログラム及び当該プログラムが記録された記録媒体
JPH09288037A (ja) Lcdパネルの検査方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110426

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110809

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120626

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120704

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150713

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5037166

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150713

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150713

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150713

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350