JP4164620B2 - 画像検出プログラムを記録した媒体 - Google Patents
画像検出プログラムを記録した媒体 Download PDFInfo
- Publication number
- JP4164620B2 JP4164620B2 JP2000296568A JP2000296568A JP4164620B2 JP 4164620 B2 JP4164620 B2 JP 4164620B2 JP 2000296568 A JP2000296568 A JP 2000296568A JP 2000296568 A JP2000296568 A JP 2000296568A JP 4164620 B2 JP4164620 B2 JP 4164620B2
- Authority
- JP
- Japan
- Prior art keywords
- template
- matching
- template matching
- image
- initial position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、画像検出プログラムを記録した媒体に関する。
【0002】
【従来の技術】
従来、この種の画像検出装置では、検出すべき図形をそのまま利用していた。例えば、スキャナで画像データを取り込み、予め取り込んでおいた図形の画像データを利用してテンプレートマッチングを行う。そして、テンプレートマッチングで得られるスコアをしきい値と比較し、スコアがしきい値よりも大きい場合にヒットしたと判断している。
【0003】
【発明が解決しようとする課題】
上述した従来の画像検出装置においては、図形全体の画像データを利用するので、図形が大きくなるとハードウェア回路やソフトウェア処理で必要な資源が大きくなる。特に、処理速度を向上させると資源の増加は指数的に増加してしまう。
本発明は、上記課題にかんがみてなされたもので、より簡易な構成で処理速度も速めることが可能な画像検出プログラムを記録した媒体の提供を目的とする。
【0004】
【課題を解決するための手段】
上記目的を達成するため、請求項1にかかる発明は、所定の画像を表すディジタル画像データに基づいて同画像内に特定の図形が存在するか否かをコンピュータにて検出する画像検出プログラムを記録した媒体であって、上記図形に部分的に合致する複数のテンプレートデータと、各テンプレートの相対位置情報とを有し、一のテンプレートデータを利用して上記画像データ内で移動させながらテンプレートマッチングを行う第一のテンプレートマッチング機能と、この第一のテンプレートマッチング機能でヒットした場合にその位置情報と上記相対位置情報に基づいて上記複数のテンプレートデータにおける互いに離れた他のテンプレートデータの初期位置を設定しつつ所定範囲内で順次テンプレートマッチングを行い、そのテンプレートマッチングの結果に基づいて上記図形の有無を判断する第二のテンプレートマッチング機能と、上記初期位置の設定にあたりそれまでのテンプレートデータの検出位置と初期位置とのずれに基づいて当該初期位置を修正するものであり、当該初期位置を修正するにあたりテンプレートデータの検出位置と初期位置とのずれに対してテンプレートデータごとに反映される際の重み付けを相対位置情報におけるテンプレート間の相対距離が離れているほど大きく設定する初期位置調整機能とをコンピュータに実行させる構成としてある。また、この初期位置調整機能は第二のテンプレートマッチング機能の一部として機能させても良い。
【0005】
上記のように構成した請求項1にかかる発明においては、上記図形に部分的に合致する複数のテンプレートデータと、各テンプレートの相対位置情報とを有し、一のテンプレートデータを利用して上記画像データ内で移動させながらテンプレートマッチングを行うとともに、ヒットした場合にその位置情報と上記相対位置情報に基づいて上記複数のテンプレートデータにおける互いに離れた他のテンプレートデータの初期位置を設定しつつ所定範囲内で順次テンプレートマッチングを行い、そのテンプレートマッチングの結果に基づいて上記図形の有無を判断する。この際、上記初期位置の設定にあたりそれまでのテンプレートデータの検出位置と初期位置とのずれに基づいて当該初期位置を修正する。
図形の一部でテンプレートマッチングを行うと、自ずからその一部形状だけを含む他の画像であっても、ヒットすることが起こりやすくなる。むろん、他の部位についてもテンプレートマッチングを行うので、最終的には図形と一致しないものを区別できる。この場合、上記のように構成した請求項1にかかる発明においては、第一のテンプレートマッチングでたまたま図形以外のものでヒットした場合でも、互いに離れたテンプレートについて順次テンプレートマッチングに利用することによって早期に誤りを検出できるようになる。
例えば、画像データに半円が含まれるとして円弧のテンプレートを利用すれば第一のテンプレートマッチング機能でヒットするが、ここで正反対の位置にあるテンプレートを利用するとヒットしないのですぐに判別できる。もし、隣接するテンプレートを利用するとすると、2〜3回ヒットした後で初めてヒットしなくなり、判別できるまで時間がかかることになる。
また、それまでのテンプレートデータの検出位置と初期位置とのずれを利用して初期位置を設定することにより、以降のテンプレートマッチングで早期にヒットさせることができるようになる。
また、各テンプレートの相対位置などに応じて初期位置を修正する際の重み付けを変えることができ、修正をより正確に行えるようになる。
【0006】
また、好適には、上記テンプレートデータは円弧を表すものである構成としても良い。
上記のように構成した発明においては、図形が円であることを前提にテンプレートを円弧の形状としてあり、このようにすると入力画像の回転角度が不明な場合でも、その回転角度と無関係に検出を行えることができる。
【0009】
また、好適には、上記第二のテンプレートマッチング機能では、設定された初期位置を中心として所定範囲でテンプレートを移動させ、各場所においてテンプレートマッチングを行う構成としても良い。
上記のように構成した発明においては、画像データの中に図形の一部を発見できたときに、本来の正確な相対位置情報に基づく位置でテンプレートを利用したテンプレートマッチングをしても、当該画像データの取り込み特性によってはヒットしないことがある。このため、設定された初期位置を中心として所定範囲でずらしながらテンプレートマッチングを行うことにより、正しく検出することができるようになる。
【0012】
また、好適には、上記図形は、略円形であり、上記第一のテンプレートマッチング機能では、同図形をマスク可能な幅を有する円弧形状のマスキングテンプレートでテンプレートマッチングを行い、ヒットした場合に当該円弧形状のマスキングプレートでマスクされた円弧形状部分内において上記図形を異なる角度に回転させた形状の複数のテンプレートデータでテンプレートマッチングを行い、いずれかがヒットするか否かを判断する構成としても良い。
【0013】
略円形であっても、縁が波打っているというように真円ではない図形もある。この場合、上記のように構成した発明においては、同図形をマスク可能な幅を有する円弧形状のマスキングテンプレートを使用して第一段階のテンプレートマッチングを行う。このマスキングテンプレートはマスキングされている部分以外のテンプレートマッチングを行う。このようにすれば、波打っている形状であっても、略円形部分以外ではヒットする。そして、図形が回転しているとしても検出できる。ヒットした場合には、円弧形状部分のテンプレートデータでテンプレートマッチングする。このテンプレートは上記図形を異なる角度に回転させた形状に対応して複数用意してあるため、図形の回転角度に関わらず検出できる。また、円弧状部分に限っており、面積が小さいのでテンプレートマッチングの負荷は小さい。
【0014】
また、好適には、上記第一のテンプレートマッチング機能と上記第二のテンプレートマッチング機能のいずれかまたは両方では、上記テンプレートデータの一部についてテンプレートマッチングを行い、ヒットした場合に残りの部分のテンプレートデータを合わせてテンプレートマッチングを行う構成としても良い。
【0015】
上記のように構成した発明においては、テンプレートマッチングを二段階で行う。すなわち、テンプレートデータの一部についてテンプレートマッチングを行い、ヒットした場合に残りの部分のテンプレートデータを合わせてテンプレートマッチングを行なう。二段階とすることによりテンプレートマッチングのハードウェア回路やソフトウェア負荷を多く必要としない。
むろん、このような記録媒体は、磁気記録媒体であってもよいし光磁気記録媒体であってもよいし、今後開発されるいかなる記録媒体においても全く同様に考えることができる。また、一次複製品、二次複製品などの複製段階については全く問う余地無く同等である。
【0016】
さらに、一部がソフトウェアであって、一部がハードウェアで実現されている場合においても発明の思想において全く異なるものではなく、一部を記録媒体上に記憶しておいて必要に応じて適宜読み込まれるような形態のものとしてあってもよい。むろん、このプログラム自体に発明の思想が反映されていることはいうまでもない。
このように、図形に部分的に合致する複数のテンプレートデータを利用して順次テンプレートマッチングする手法は実体のあるコンピュータにおいて実現され、その意味で本発明をそのようなコンピュータを含んだ実体のある装置としても適用可能であることは容易に理解できる。このため、好適には、所定の画像を表すディジタル画像データに基づいて同画像内に特定の図形が存在するか否かを検出する画像検出装置であって、上記図形に部分的に合致する複数のテンプレートデータと、各テンプレートの相対位置情報とを有し、一のテンプレートデータを利用して上記画像データ内で移動させながらテンプレートマッチングを行う第一のテンプレートマッチング手段と、この第一のテンプレートマッチング手段でヒットした場合にその位置情報と上記相対位置情報に基づいて上記複数のテンプレートデータにおける互いに離れた他のテンプレートデータの初期位置を設定しつつ所定範囲内で順次テンプレートマッチングを行い、そのテンプレートマッチングの結果に基づいて上記図形の有無を判断する第二のテンプレートマッチング手段と、上記初期位置の設定にあたりそれまでのテンプレートデータの検出位置と初期位置とのずれに基づいて当該初期位置を修正するものであり、当該初期位置を修正するにあたりテンプレートデータの検出位置と初期位置とのずれに対してテンプレートデータごとに反映される際の重み付けを相対位置情報におけるテンプレート間の相対距離が離れているほど大きく設定する初期位置調整手段とを具備する構成としても良い。
【0017】
すなわち、コンピュータで制御される実体のある装置としても有効であることに相違はない。むろん、このような画像検出装置は単独で実施される場合もあるし、ある機器に組み込まれた状態で他の方法とともに実施されることもあるなど、発明の思想としてはこれに限らず、各種の態様を含むものであって、適宜、変更可能である。
また、このような画像検出プログラムを記録した媒体はかかる制御に従って処理を進めていく上で、その根底にはその手順に発明が存在するということは当然であり、方法としても適用可能であることは容易に理解できる。このため、、好適には、所定の画像を表すディジタル画像データに基づいて同画像内に特定の図形が存在するか否かを検出する画像検出方法であって、上記図形に部分的に合致する複数のテンプレートデータと、各テンプレートの相対位置情報とを有し、一のテンプレートデータを利用して上記画像データ内で移動させながらテンプレートマッチングを行う第一のテンプレートマッチング工程と、この第一のテンプレートマッチング工程でヒットした場合にその位置情報と上記相対位置情報に基づいて上記複数のテンプレートデータにおける互いに離れた他のテンプレートデータの初期位置を設定しつつ所定範囲内で順次テンプレートマッチングを行い、そのテンプレートマッチングの結果に基づいて上記図形の有無を判断する第二のテンプレートマッチング工程と、上記初期位置の設定にあたりそれまでのテンプレートデータの検出位置と初期位置とのずれに基づいて当該初期位置を修正するものであり、当該初期位置を修正するにあたりテンプレートデータの検出位置と初期位置とのずれに対してテンプレートデータごとに反映される際の重み付けを相対位置情報におけるテンプレート間の相対距離が離れているほど大きく設定する初期位置調整工程とを具備する構成としても良い。
【0018】
すなわち、必ずしも実体のある媒体などに限らず、その方法としても有効であることに相違はない。
【0019】
【発明の効果】
以上説明したように本発明は、図形に部分的に合致する複数のテンプレートデータと、各テンプレートの相対位置情報とを利用して、順次部分的なテンプレートマッチングを繰り返すことにより、使用する資源を少なくしたまま正確なテンプレートマッチングを行うことが可能な画像検出プログラムを記録した媒体を提供することができる。
また、図形以外のものを誤認識しそうになった場合でも早期に誤りを判別できるようになる。
また、テンプレートマッチングの結果を次のテンプレートの初期位置にフィードバックすることにより、早期にヒットしやすくなる。
また、位置修正のフィードバックをより細やかに行うことができ、早期にヒットしやすくなる。
【0020】
さらに、本発明によれば、円弧を探すため、図形の回転角度にかかわらず検出が可能となる。
さらに、本発明によれば、テンプレートを微動させることによって読み取り誤差などがあっても正しくテンプレートマッチングを行うことができる。
【0021】
さらに、本発明によれば、略円形の図形について大きな資源を要することなく比較的簡易に検出することができる。
【0022】
さらに、本発明によれば、より省資源で図形の検出を行なうことができる。
さらに、本発明によれば、同様の効果を奏する画像検出装置を提供することができる。
さらに、本発明によれば、同様の効果を奏する画像検出方法を提供することができる。
【0023】
【発明の実施の形態】
以下、図面にもとづいて本発明の実施形態を説明する。
図1は、本発明の一実施形態にかかる画像認識プログラムを実行するコピーシステムを概略ブロック図により示している。
【0024】
本コピーシステム10は、画像をスキャンしてディジタル画像データに変換するスキャナ11と、このディジタル画像データを取得して印刷用ディジタル画像データに変換するコピーサーバ12と、この印刷用ディジタル画像データを入力して印刷するプリンタ13とを備えている。
コピーサーバ12は、スキャナ11から出力されるディジタル画像データを一時的に蓄える画像バッファ12aと、この画像バッファ12aに蓄えられたディジタル画像データに基づいて印刷に適した画像となるような所定の画像処理を実行するとともに、色変換と解像度変換とを行ってプリンタ13を駆動可能な印刷用ディジタル画像データに変換するための画像処理部12bを備えている。この画像処理部12bは、コピーサーバ12内の特定ロゴマーク検出部12cからの実行制御信号を入力して上記処理を実施する。
【0025】
特定ロゴマーク検出部12cは、上記画像バッファ12aに一時的に蓄えられたディジタル画像データを処理対象として当該画像の中に所定のロゴマーク(図形)が存在するか否かを判断ものである。そして、所定のロゴマークがないと検出された場合に上記実行制御信号を出力する。
なお、本実施形態においては、所定のロゴマークを検出した場合にコピーをしない構成としているが、用途に応じて適宜変更可能であり、所定のロゴマークを検出した場合にだけコピーしたり、検出したロゴマークに応じてコピーの機能を変化させるというような用途とすることも当然に可能である。むろん、コピーの制御に利用するだけでなく、一般的な画像認識として利用することも可能である。
【0026】
図2は、コピーサーバ12のハードウェア構成を概略ブロック図により示している。演算処理を実行するCPU12dと、ワークエリアやバッファとして利用されるRAM12eと、テンプレートやテーブルやプログラムなどが記録されたROM12fと、外部との信号処理を実行するI/O12gと、所定の操作を入力させるための操作パネル12hと、各種の表示を実行する表示器12jとを備えている。
【0027】
すなわち、画像バッファ12aはRAM12e内にて構成され、画像処理部12bや特定ロゴマーク検出部12cはCPU12dがROM12fに記憶された所定のテンプレートやテーブルを参照してプログラムを実行することにより構成される。なお、本実施形態ではソフトウェア処理で実現するようにしているが、ASICなどのハードウェアロジック回路で実現することも可能である。むろん、テンプレートやテーブルなどはハードディスクやRAMなどに記憶するようにしても良い。
【0028】
図3はCPU12dが実行する画像認識プログラムの概略をフローチャートにより示している。なお、本実施形態においては、特定ロゴマーク検出部12cの機能について主に説明する。
ステップ100では画像データ取り込み・変換処理を実行する。スキャナ11が出力するディジタル画像データは画像をドットマトリクス状の画素に分割しつつ、RGB三原色について各8ビットを割り当てた各色256階調で各画素を表現するものとなっており、本実施形態のようなロゴマークの有無の検出については利用しずらい。このため、同所定のロゴマークの色を基準として二値化することにより処理の単純化を図ることにする。
【0029】
図4はこの画像データ取り込み・変換処理の内容をより詳しく示している。スキャナ11に対して画像の読み取りを制御する処理を実行しても構わないが、本実施形態においては画像バッファ12a内に既に蓄えられている画像データを読み込み、二値化する処理を当該画像データ取り込み・変換処理と呼ぶことにする。
ステップ200では、各画素毎に所定の色空間内に入っているか否かで二値化する。図5はRGB表色空間を模式的に示しており、RGBの三軸を各256階調で座標化したとき、特定のロゴマークは図中の卵状の空間13aで表現されるとする。この場合、具体的に同卵状の空間13aに入るか否かを判断することも可能であるが、処理が複雑になる。このため、簡易的に上記空間13aの外郭に接する直方体13bに含まれるか否かで二値化することにする。具体的には、対象画素の画素データが(Rt,Gt,Bt)と表されるときに、
R1<Rt<R2
G1<Gt<G2
B1<Bt<B2
なる条件が成立すれば含まれることにする。この場合、含まれれば”1”となり、含まれなければ”0”となる。むろん、この二値化の処理が二値化処理機能に相当する。また、精度を上げるために本来の卵状の空間13aで判断するようにしても良い。
【0030】
本実施形態においては、RGBで表現される色に基づいて判定しているが、色度を演算して求め、この色度で判断するようにしても良い。色度の場合は明度の影響を受けにくいため、判定の精度を向上させることができる。この他にも各種の色空間を利用するようにしても良い。
次のステップ202では後述するテンプレートマッチングで利用するテンプレートの解像度とスキャナ11が出力する画像データの解像度とが一致するか否かを判断する。むろん、スキャナ11に読み取りを指示する時点でテンプレートの解像度に一致させることが可能であればかかる解像度で読み取りを実行させておいても良い。
【0031】
解像度が一致しない場合はステップ204にて解像度変換を行う。図6は解像度変換の処理をフローチャートにより示している。ステップ300では変換後の画像サイズを決定する。変換式は、テンプレートの解像度をKt、スキャナ11の解像度をKs、画像ファイルの横画素数をNxと縦画素数をNyとすると、生成する画像の横画素数Txと縦画素数Tyは、
Tx=Nx*(Kt/Ks)
Ty=Ny*(Kt/Ks)
となる。例えば、スキャナ11の解像度が300ドット/インチで、テンプレートの解像度が150ドット/インチであるとし、元の画像サイズが1200ドット×600ドットであるとすると、
Tx=1200*(150/300)=600
Ty=600*(150/300) =300
となる。
【0032】
ステップ302以下では、生成する画像サイズに合わせて各画素を示すポインタを設定し、ループ処理で各画素の値を判定していく。ステップ302ではポインタを初期化する。ここでは、横方向を主走査方向とし、縦方向を副走査方向としてポインタを更新していくものとする。
ステップ304ではポインタで指定される画素と、元の画像サイズの画素との対応範囲を特定する。図7は1/4に縮小する例を示しているが、ポインタで示される画素は元の画像サイズでは斜線の升目が該当範囲になる。
【0033】
この場合、ステップ306で該当範囲に一つでも”1”の画素があればステップ308に示すように変換画素として”1”をセットし、一つも”1”の画素がない場合には変換画素として”1”をセットしない。すなわち、画像を縮小するとしてもできるだけ”1”の画素が残るようにしている。これに対して、図8は4倍に拡大する例を示しており、白丸と黒丸が新たに生成される画素を示し、太線で区分けされる升目が元の画像サイズの画素を示している。この場合、新たに生成される複数画素の該当範囲が大きなサイズの元の画像サイズの一画素に含まれる。従って、元の画像サイズの画素として”1”を設定されていれば、この画素に含まれるいずれの画素についても”1”が設定されることになる。以上のような処理により、できるだけ”1”と設定した画素の情報が消えてしまわないようにし、認識率の向上を図っている。
【0034】
ステップ310ではポインタを主走査方向と副走査方向に更新していき、ステップ312にて全画素が終了したと判断されるまでループ処理を繰り返す。なお、この解像度変換の処理が解像度一致化機能に相当する。
解像度が一致していた場合、あるいは、解像度を一致させた場合、二値化されたワーク用画像データをステップ206にてRAM12eのワーク領域へ出力し、画像データ取り込み・変換処理を終了する。
【0035】
次に、このワーク用画像データを利用して特定のロゴマークが含まれているか否かを判断する。ここで、図9はロゴマークの認識の概略を示している。認識しようとしているのは図中の円である。この円の直径はある解像度で約100ドットであるとする。従来であれば、100×100ドットのテンプレートを用意しておき、テンプレートマッチングをすることになるであろう。
しかしながら、本実施例では、図中に示すようにより小さなサイズのテンプレート(No.1〜No.5)Pt1〜Pt5を利用する。各テンプレートPt1〜Pt5の基本的な大きさは32ドット×32ドットである。すなわち、テンプレートPt1でテンプレートマッチングを行い、マッチングしたらその位置を基準とした相対位置関係を利用してテンプレートPt2〜Pt5のテンプレートマッチングを行う。
【0036】
本実施形態では、認識しようとする円のロゴマークについて、左上角部と、上端中央、下端中央、左端中央、右端中央に配置される5つのテンプレートを利用しているが、図10に示すように左上角部、右上角部、左下角部、右下角部という4箇所にテンプレートPt1’〜Pt4’を配置することも可能であるなど、適宜変更可能である。ただし、左上角部のテンプレートは主走査方向と副走査方向との関係からも最初にロゴマークを発見できる可能性が高い。
【0037】
一方、32×32ドットというサイズも適宜変更可能である。図9に示すような円のロゴマークに対して100×100ドットのエリアを基準として単純に左上角部にテンプレートを配置しようとすると、図11に示すテンプレートPt1となるが、32×32ドットを有効に利用しようとすればテンプレート位置を中心側へずらしてテンプレートPt1aに示すようにしても良い。すなわち、テンプレートマッチング自体は矩形の領域としておくのが演算の上で都合がよいが、”1”の画素が対角領域を有効に使いきる配置が効果的だからである。一方、32×32ドットというテンプレートのサイズを縮小することも可能であり、テンプレートPt1bに示すように最初のサイズの範囲で有効に利用された対角領域だけを使用してテンプレートを縮小する。テンプレートが小さくなればそれに比して演算速度を小さくできたり、演算回路を小面積で構成するということが可能になってくる。また、薄い円弧のテンプレートPt2に対して両側を省略した細幅のテンプレートPt2aにすることも可能である。
【0038】
図12はワーク画像データに対してテンプレートPt1を初期位置にセットした状態を模式的に示している。
ステップ102にてテンプレートPt1の位置を表すポインタに所定値をセットし、ステップ104にて同位置にあるワーク画像データのデータを読み込んでテンプレートマッチングを行う。テンプレートマッチングでは、テンプレートを構成する各画素の値とワーク画像データから読み込んだ画素の値とが一致するか否かによってスコア計算を行う。
【0039】
図13はスコア計算の例を5×5ドットの簡素化した例で示している。テンプレートPtを挟んで左右に画像データを示している。左側の画像データD1はテンプレートPtと全く関連性を持たない例として全画素が”1”の場合を示しており、右側の画像データD2はテンプレートPtと一画素分ずれた場合の例を示している。画像データの各画素とテンプレートの各画素とがそれぞれ一致すればスコアテーブルS1,S2に「1」を代入し、一致しなければ「0」を代入する。スコアは「1」を代入した総数となる。
【0040】
全く関連性のない左のスコアS1で「13/25」であり、ややずれた右のスコアS2で「18/25」となっている。情報の一致度は「25/25」が最大であるが、関連性のなさは「12.5/25」が最小となる。
上述した32×32ドットのテンプレートの場合、最大値は「1024/1024」であり、ステップ106にて所定のしきい値、例えば「982/1024}を越えているか否かを判断する。越えていればヒットとなるが、マッチするまではヒットとならず、ステップ108にてテンプレートPt1の位置をずらし、ステップ110にて最終位置まで移動させたか否かの判断を行ない、最終位置に移動させるまでステップ104以下を繰り返す。この一連の処理が第一のテンプレートマッチング機能に相当する。
【0041】
なお、画像データの側にロゴマークの色領域に属する画素が全くないにもかかわらずテンプレートマッチングを行ったとしてもマッチングするはずがない。すなわち、明らかにテンプレートマッチングを行う必要がない場合もある。従って、図14に示すように画像データの側で明らかに”1”の画素が大半を占めている(ステップ106aにて「最大しきい値maxを越えている」か判断)か、”1”の画素が殆どない(ステップ106bにて「最小しきい値min未満となっている」か判断)というような場合にはスコア計算(ステップ106c)を実施しないようにすることも可能である。
【0042】
ところで、特定のロゴマークとして円を検出するようにした場合には特別なメリットがある。それは円であればどのような角度で置かれたとしても円あるいは円弧のテンプレートとは必ず一致するからである。従って、円に特定することで他のロゴマークの一部の領域を検出する場合に比べて顕著なメリットが存在する。
一方、円の特性を活かし、真円以外の物に適用する余地もある。図15は非真円の場合のスコア計算をフローチャートにより示しており、図16は該当するロゴマークとテンプレートとを示している。
【0043】
非真円のロゴマークでも、図16に示すように波形の線のロゴマークM1であるとか、破線などは、所定幅のマスキングテンプレートPtmを使用して線の部分以外でテンプレートマッチングすることが可能である。マスキングテンプレートPtmの斜線表示部分だけでスコアを計算し、一定のスコア以上であれば内部のスコア計算を行うことにする。この場合、異なる回転角度に応じた複数のテンプレートPtm1,Ptm2…を用意しておき、いずれかにおいてスコアがしきい値以上であればマッチングしたと判断すればよい。
【0044】
具体的には、ステップ400にてマスキングテンプレートPtmを使用して斜線領域である非円弧部のスコアを計算し、ステップ402にて同スコアとしきい値とを比較してヒットしたかを判定する。ヒットしなければステップ404にてヒットしない旨である「ノーヒット」を上位プログラムに告知して当該処理を終了する。一方、ヒットしたら、ステップ406で円弧部内での”1”の画素数を計算し、ステップ408にてこの画素数と、本来の円弧内の画素数との誤差がしきい値以内か否かを判断する。単純な例として真っ白な領域と上記マスキングテンプレートPtmを利用してテンプレートマッチングをした場合、スコアは満点となるが、実際はロゴマークがあるわけではなく、次に複数のテンプレートPtm1,Ptm2…を使用した計算を行うとすると負荷が大きい。このため、まず、画素数だけで円弧部内がロゴマークに近そうなものかを判定する。破線であれば円弧部で”1”の画素数は全画素数のほぼ半分となるが、真っ白な領域であればほとんど”0”となり、一次的なフィルタとしては簡易かつ有効なフィルタとなる。
【0045】
このフィルタをパスした場合、ステップ410にて異角度に対応した上記複数のテンプレートPtm1,Ptm2…を使用してスコア計算し、ステップ412にていずれか一つでも所定のしきい値より高いスコアが得られたと判断されれば、ステップ414にて「ヒット」を上位プログラムに告知して当該処理を終了する。また、いずれのスコアもしきい値を下回っていればステップ404にて「ノーヒット」を上位プログラムに告知して当該処理を終了する。なお、この場合は複数のテンプレートPtm1,Ptm2…を使用してスコア計算するが、テンプレートPtm1,Ptm2…のサイズが小さくなっているので、演算の負荷が特に大きくなるわけではない。むろん、スコア計算の際には曲線状のままでなく、演算に適した矩形などの形状に変化させればよい。
【0046】
次に、テンプレートマッチングの際の演算時間を短縮する方法としてテンプレートを少しずつ移動させ、重なる領域について演算結果を保持することも可能である。図17は領域を半分重ね合わせて移動させていく際のテンプレートの移動状況を示している。同図に示すように最初に32×32ドットのテンプレートPts1を使用したテンプレートマッチングでヒットしたと判断した場合、次には16ドットだけスライドさせた場所での32×32ドットのテンプレートPts2を使用してテンプレートマッチングを行うことにする。この場合、実質的には左半分の領域と右半分の領域とを分けてスコア計算することにし、ヒットして移動する際には前のテンプレートPts1での右半分の領域のスコアを残しておき、後のテンプレートPts2では新たな右半分の領域のスコアを計算して合算することによって演算負荷を半減させる。
【0047】
以上のようにしてテンプレートPt1についてスコア計算をし、同スコアがしきい値を越えてテンプレートPt1についてヒットしたと判断されると、以下、テンプレートPt2〜Pt5を利用してテンプレートマッチングをおこなうべく、ステップ112ではポインタとしての変数nに「2」を代入する。すなわち、テンプレートPt(n)を利用してテンプレートマッチングを行い、マッチしたらテンプレートPt(n+1)へと順次切り換えてテンプレートマッチングを行うことになる。
【0048】
各テンプレートPt2〜Pt5については、最初のテンプレートPt1の発見位置との相対位置を図18に示すテンプレート情報テーブルに記録してあり、図19はその関係を模式的に示している。
テンプレート情報テーブルは、第一項目として各テンプレートの番号、第二、第三項目として横方向と縦方向の相対位置ズレ量を表すオフセット量、第四、第五項目は位置修正についてフィードバックさせる際の重み付けパラメータである。
【0049】
テンプレートPt2について具体的に説明すると、テンプレート番号は「2」であり、横方向のオフセット量は「33」ドット、縦方向のオフセット量は「67」ドットである。すなわち、テンプレートPt1についてヒットしたと判断した場合、その時点でのテンプレートPt1の位置を表すポインタに対してこれらのオフセット(33,67)を加えた位置をテンプレートPt2についての初期位置とする。フローチャートではステップ114にてこの初期位置をセットすることになる。
【0050】
次のステップ116では新たにポインタで指定された位置でテンプレートPt2を利用してスコア計算し、テンプレートマッチングを行う。ここで、テンプレートPt2〜Pt5が必ずしも上記オフセット量で示される初期位置でヒットするとは限らない。スキャニングの状況や解像度による誤差が加わるので、テンプレート自体を上下左右に±10ドットの範囲で微動させてみる。すなわち、ステップ118にてヒットしないときにはステップ120にて位置を微修正し、ステップ122にて微修正の範囲を超えたと判断されるまではステップ116以下を繰り返す。なお、この一連のループ処理が第二のテンプレートマッチング機能に相当する。
【0051】
図20はこの微修正する範囲での微動動作方向の一例を示している。斜線で示す初期位置を起点として右回りに渦巻き状に移動させていくことにする。むろん、このような渦巻き状の移動に限られるものではなく、適宜移動方向については変更可能である。
ところで、このように微動させる場合には図21に示すように最大で一点鎖線で示す52×52ドットの範囲の画像データと比較することになる。このような場合、1ドットずつ移動させるたびに画像バッファ12aのワーク画像データから該当する32×32ドットの画像データを読み込んできても良いが、画像データの画素を一部切り出し、その部分について先にテンプレートマッチングを行ない、ヒットすれば残りの部分についてテンプレートマッチングを行うというようにしても良い。図21には中心位置が最外周の対角位置に到達した二つの状態を破線で示しているが、中央の12×12ドットの画素については重なっている。従って、画像データのうちのこの部分についてテンプレートを移動させながらスコア計算をし、画素数に見合ったしきい値を越えていれば残りの画素についてもスコア計算をする。
【0052】
図22はこのような二段階のスコア計算をフローチャートにより示している。ステップ500で12×12ドットの画素についてテンプレートの位置に応じた部分的なスコア計算を行い、ステップ502にてスコアがしきい値を越えたか判断する。しきい値を越えていればヒットとなり、ステップ504にて残り部分のスコア計算を含めて全体のスコアを計算する。そして、ステップ506にてしきい値を越えたか否かを判断し、越えていれば「ヒット」を上位プログラムに告知して当該処理を終了する。
【0053】
このようにすれば、12×12画素のスコア計算だけを行った時点でステップ502にて第一段階目の判定を行ってしまうため、ヒットしそうにない位置で無駄なスコア計算をすることがなくなり、微修正の際の演算負荷を低減させることが可能となる。また、このように二段階にすれば、CPU12dが有するキャッシュや内部メモリ内に32×32ドットのテンプレートと12×12ドットの画像データを取り込むことも可能であり、CPU12dは一切外部とのデータのやりとり行うことなく処理を進めることができるとともに、CPU12d内での非常に高速な演算を利用できるので、全体的に処理速度を向上させることができる。
【0054】
位置を微修正しながらテンプレートPt2を利用してテンプレートマッチングを行った結果、ステップ118にてある位置でヒットしたと判断すると、ステップ124にてテンプレートの番号を表すポインタとしての変数nの値を「1」だけ加える。そして、ステップ126では変数nの値が5を越えたか判断する。
テンプレートマッチングは上述したように5つのテンプレートPt1〜Pt5について行うようにしており、順次ヒットして変数nが5を越えれば全てのテンプレートについてマッチングしたといえるので、ステップ128にて特定のロゴマークを検出したと報知する。報知によって別の処理を実行するために本プログラムを終了しても良いし、報知をして他のプログラムの処理を起動させつつ最初のテンプレートPt1を次の位置へと移動させて上述した処理を繰り返すようにしても良い。図3のフローチャートは後者のようにするべくステップ128を実行後、ステップ108にてテンプレートPt1の位置を更新させるようにしている。
【0055】
ところで、ステップ114にてテンプレートPt2〜Pt5について初期位置を決定するときにはそれまでのテンプレートの発見位置に応じて修正を図ることも可能である。
上述したように、図18のテンプレート情報テーブルには位置修正についてフィードバックさせる際の重み付けパラメータkx,kyを備えている。各テンプレートPtn(1<n<5)についてテンプレートPt1の検出位置を基準としてオフセット量を加えた位置と実際の各テンプレートPtnの検出位置とのズレをxdn,ydnとすると、位置ズレフィードバック量xfb,yfbは、
【数1】
【数2】
とする。すなわち、テンプレートPtnがオフセット量を加えただけの初期位置からx方向に+4ドット、y方向に+2ドットずれた位置で発見されたとすると、
xfb=(4)/2=2
yfb=(2)/2=1
というフィードバック量が得られる。従って、ステップ114にてテンプレートPt3についての初期位置をセットするときには図18に示すオフセット(33,0)に対してさらにこの(xfb,yfb)=(2,1)を加える。重み付けを変えているのは、図19に示すようにテンプレートPt2,Pt4のテンプレートPt1からの距離と、テンプレートPt5,Pt5のテンプレートPt1からの距離とが異なるため、その影響度合いを調整するためである。むろん、この値は適宜調整可能であるし、上述したフィードバック量を求める演算についても適宜変更可能である。このようにフィードバック量を算出して初期位置へ反映させることにより、以降のテンプレートPt3〜Pt5において初期位置の近辺でヒットする可能性が高くなり、演算量を減らすことができるようになる。このフィードバックの処理が位置ずれ修正機能に相当する。
【0056】
なお、上述した実施形態においては、様々な回転角度に対応できるように円のロゴマークを検出している。この場合、円の内部に模様がある場合でも、外周の円の色領域で二値化しておくことにより円だけを探し、円を見つけたら二値化する色領域を変えて再度二値化し、内部のマークを相対的に回転させてテンプレートマッチングを行えばよい。
一方、円であれば様々な回転角度であっても問題なく検出できるが、特定のロゴマークを分割して検出する手法は円以外にも利用可能である。図23は一例として四角のロゴマークを判定する際の分割したテンプレートの作成状況を示している。実線の四角のロゴマークに対して四隅の角部の形状をテンプレートPtq1〜Ptq4にする。
【0057】
この場合もテンプレートPtq1を使用してテンプレートマッチングを行い、ヒットすれば図24に示すテンプレート情報テーブルを参照してオフセット量を読み出す。各テンプレートPtq2〜Ptq4を利用するにあたっては同オフセット量を求めて初期位置を設定し、微動させながらテンプレートマッチングを行う。そして、微動してヒットした場合には上述したようにフィードバック量を算出して初期位置にフィードバックさせることにより初期位置の近辺でヒットする可能性が高くなり、演算量を減らすことが可能となる。
【0058】
また、ロゴマークは必ずしも図形とは限らず、所定の寸法で統一された文字などからなるものにおいても分割してテンプレートマッチングを行うのは可能である。
次に、上記構成からなる本実施形態の動作を説明する。
操作者がスキャナ11に読み取り原稿をセットし、図示しない操作パネル12hでコピーを指示する操作を行うと、CPU12dはI/O12gを介してスキャナ11に対して解像度を指示しつつ所定の読み取り範囲についての読み取り指示を出力する。すると、スキャナ11は当該指定された解像度で、かつ、指示された読み取り範囲で原稿を操作し、RGB各256階調の画像データを出力する。CPU12dはこの画像データをRAM12eの画像バッファ12aに保存する。そして、保存した画像データに基づいて図3に示すフローチャートに従いロゴマークの検出を実行する。
【0059】
まず、ステップ100,200にて読み取った画像データを二値化する。二値化は色空間を利用して行うため、単に明るさだけで二値化する場合と比較して精度を向上させることが可能となる。また、テンプレートPt1の解像度とスキャナ1解像度とが一致できていれば解像度変換は不要であるが、一致できなかった場合はステップ202,204にて解像度変換を行って解像度を一致させる必要がある。
【0060】
このようにして二値化され、解像度を一致させた画像データは、ステップ206にて画像バッファ12aのワーク領域へ出力される。
次に、ステップ102〜ステップ110にてレンプレートPt1を利用してテンプレートマッチングを行う。テンプレートPt1は円弧の一部であり、上記ワーク領域内の画像データに当該円弧の一部と一致する画像が含まれているか判断する。円のロゴマークに対して円弧のテンプレートでテンプレートマッチングを行うため、ロゴマークの回転角度に関わらず、一致するか否かを判断できる。また、主走査方向が横方向であり、副走査方向が縦方向であるので、左上角部の形状にあたるテンプレートPt1は早期にロゴマークを検出することができる。
【0061】
テンプレートPt1でヒットすると、ロゴマークにおける他の部分の形状に一致するテンプレートPt2〜Pt5を利用してテンプレートマッチングを行う。各テンプレートPt2〜Pt5を利用したテンプレートマッチングでは一つのテンプレートがヒットしないと次のテンプレートでのテンプレートマッチングを行わないため、全てのテンプレートPt1〜Pt5が全てヒットしたときにだけステップ128にてロゴマークを検出した報知を行うことになる。
【0062】
テンプレートPt2〜Pt5はテンプレートPt1との相対位置が分かっているため、同テンプレートPt1の発見位置を基準として初期位置がセットされ、当該位置を基準として上下方向に±10ドット、左右方向に10ドットの範囲で微動させてテンプレートマッチングを行う。このようにテンプレートPt1の発見位置を基準として初期位置がセットされ、本来のロゴマークであれば比較的早期に発見することができる。
【0063】
また、初期位置自体も次々に検出されるテンプレートPt2〜Pt4の発見位置をフィードバックしているため、初期位置を設定していく際の精度が向上し、早期に発見することができる。テンプレートPt1〜Pt5を使用して順次テンプレートマッチングを行う場合、なるべく隣接するものを連続して使用せず、比較的遠い位置に存在するテンプレートを使用するようにしている。たまたまロゴマークの一部に似た形状が存在してヒットしたような場合でも、離れた位置で一致する可能性は低いだろうと想像でき、全体的にみれば誤認識を早く検知できるようになる。また、発見位置のずれのフィードバックも良好となる。
【0064】
一方で、このように分割しつつ、順番にテンプレートマッチングを行うことにより、ロゴマークを発見できない場合はすぐにテンプレートPt1を移動させることができ、無駄な演算処理を実行しないという側面も持つ。
このように、あくまでもロゴマークの一部の形状に一致するテンプレートPt1〜Pt5を利用するのでそれぞれのテンプレートマッチングで必要とする演算負荷や回路規模を小さくできるし、この一部が一致しない場合というのは全体のテンプレートを利用しても一致しない場合であるから、その意味では無駄な演算を実施しなくて済み、演算負荷を低減させることができる。また、最初のテンプレートPt1が見つかったときに初めて以降のテンプレートPt2〜Pt5を利用するのであるから、効率的なテンプレートマッチングを行うことができる。
【図面の簡単な説明】
【図1】本発明の一実施形態にかかる画像認識プログラムを実行するコピーシステムの概略ブロック図である。
【図2】コピーサーバのハードウェア構成を示す概略ブロック図である。
【図3】CPUが実行する画像認識プログラムの概略フローチャートである。
【図4】画像データ取り込み・変換処理の内容を示すフローチャートである。
【図5】RGB表色空間とロゴマークが属する領域を示す図である。
【図6】解像度変換処理の内容を示すフローチャートである。
【図7】縮小の過程を示す模式図である。
【図8】拡大の過程を示す模式図である。
【図9】ロゴマークとテンプレートの概略状況を示す図である。
【図10】ロゴマークとテンプレートの他の構成例を示す図である。
【図11】テンプレートの有効化のための変形例を示す図である。
【図12】テンプレートマッチングの概略を示す模式図である。
【図13】テンプレートマッチングにおけるスコア計算を示す模式図である。
【図14】スコア計算の簡略化を図る変形例を示すフローチャートである。
【図15】真円でない場合のスコア計算を示すフローチャートである。
【図16】真円でない場合のテンプレートマッチングのテンプレートを示す図である。
【図17】テンプレートマッチングの変形例を示す模式図である。
【図18】テンプレート情報テーブルを示す図である。
【図19】テンプレート情報テーブルの内容に相当するテンプレートの配置を示す図である。
【図20】テンプレートの微動状況の一例を示す図である。
【図21】テンプレートの一部でテンプレートマッチングを行う状況を示す図である。
【図22】二段階でスコア計算する処理を示すフローチャートである。
【図23】円以外のロゴマークの検出例を示す模式図である。
【図24】テンプレート情報テーブルを示す図である。
【符号の説明】
10…コピーシステム
11…スキャナ
12…コピーサーバ
12a…画像バッファ
12b…画像処理部
12c…特定ロゴマーク検出部
12d…CPU
12e…RAM
12f…ROM
12g…I/ O
12h…操作パネル
12j…表示器
13…プリンタ
Claims (3)
- 所定の画像を表すディジタル画像データに基づいて同画像内に特定の図形が存在するか否かをコンピュータにて検出する画像検出プログラムを記録した媒体であって、
上記図形に部分的に合致する複数のテンプレートデータと、各テンプレートの相対位置情報とを有し、一のテンプレートデータを利用して上記画像データ内で移動させながらテンプレートマッチングを行う第一のテンプレートマッチング機能と、
この第一のテンプレートマッチング機能でヒットした場合にその位置情報と上記相対位置情報に基づいて上記複数のテンプレートデータにおける互いに離れた他のテンプレートデータの初期位置を設定しつつ所定範囲内で順次テンプレートマッチングを行い、そのテンプレートマッチングの結果に基づいて上記図形の有無を判断する第二のテンプレートマッチング機能と、
上記初期位置の設定にあたりそれまでのテンプレートデータの検出位置と初期位置とのずれに基づいて当該初期位置を修正するものであり、当該初期位置を修正するにあたりテンプレートデータの検出位置と初期位置とのずれに対してテンプレートデータごとに反映される際の重み付けを相対位置情報におけるテンプレート間の相対距離が離れているほど大きく設定する初期位置調整機能とをコンピュータに実行させることを特徴とする画像検出プログラムを記録した媒体。 - 上記請求項1に記載の画像検出プログラムを記録した媒体において、上記図形は、略円形であり、上記第一のテンプレートマッチング機能では、同図形をマスク可能な幅を有する円弧形状のマスキングテンプレートでテンプレートマッチングを行い、ヒットした場合に当該円弧形状のマスキングプレートでマスクされた円弧形状部分内において上記図形を異なる角度に回転させた形状の複数のテンプレートデータでテンプレートマッチングを行い、いずれかがヒットするか否かを判断することを特徴とする画像検出プログラムを記録した媒体。
- 上記請求項1または請求項2のいずれかに記載の画像検出プログラムを記録した媒体において、上記第二のテンプレートマッチング機能では、設定された初期位置を中心として所定範囲でテンプレートを移動させ、各場所においてテンプレートマッチングを行うことを特徴とする画像検出プログラムを記録した媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000296568A JP4164620B2 (ja) | 2000-09-28 | 2000-09-28 | 画像検出プログラムを記録した媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000296568A JP4164620B2 (ja) | 2000-09-28 | 2000-09-28 | 画像検出プログラムを記録した媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002109537A JP2002109537A (ja) | 2002-04-12 |
JP4164620B2 true JP4164620B2 (ja) | 2008-10-15 |
Family
ID=18778826
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000296568A Expired - Fee Related JP4164620B2 (ja) | 2000-09-28 | 2000-09-28 | 画像検出プログラムを記録した媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4164620B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4251005B2 (ja) * | 2003-04-25 | 2009-04-08 | 澁谷工業株式会社 | 画像処理方法及びその装置 |
JP5545564B2 (ja) * | 2009-12-11 | 2014-07-09 | セブン ドリーマーズ ラボラトリーズ,インコーポレイテッド | 布製品把持システム |
-
2000
- 2000-09-28 JP JP2000296568A patent/JP4164620B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002109537A (ja) | 2002-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4919028B2 (ja) | 画像処理装置および画像処理プログラム | |
JP5060404B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2010034683A (ja) | 画像処理装置及びプログラム | |
JP4164620B2 (ja) | 画像検出プログラムを記録した媒体 | |
JPH06325162A (ja) | 画像処理装置 | |
JP2022086454A (ja) | 画像検査装置、及び画像検査プログラム | |
US20020176616A1 (en) | Image recognition apparatus, image recognition method and image recognition program for specific pattern | |
JP3443016B2 (ja) | 印刷制御装置、印刷制御方法および記録媒体 | |
JP2006235785A (ja) | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム | |
JP2005184685A (ja) | 画像処理装置、プログラムおよび記録媒体 | |
JPH09147109A (ja) | 特定マーク検出方法及び特定マーク検出装置 | |
JP4910635B2 (ja) | 画像処理装置及び画像処理プログラム | |
JP4270035B2 (ja) | 画像処理装置 | |
JP2006235786A (ja) | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム | |
JP3552196B2 (ja) | 印刷制御装置、印刷制御方法および記録媒体 | |
JP2006203710A (ja) | 画像処理装置 | |
JP5056063B2 (ja) | 画像処理装置及び画像処理プログラム | |
JP2002171395A (ja) | 画像処理装置及びその方法並びに記憶媒体 | |
JPH09186850A (ja) | スタンプ印字装置 | |
JP2006121329A (ja) | 画像合成装置、画像合成方法、画像合成プログラムおよび記録媒体 | |
JP2006013803A (ja) | 画像処理装置 | |
JP3244041B2 (ja) | 画像認識方法および画像認識装置ならびに記録媒体 | |
JPH10191026A (ja) | 画像処理装置及びその方法 | |
JP2005196659A (ja) | 画像処理装置、プログラムおよび記録媒体 | |
JP4725463B2 (ja) | 画像処理装置、画像処理方法およびそのコンピュータ・プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050105 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070914 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070926 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071122 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080109 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080306 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20080318 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080702 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080715 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110808 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120808 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130808 Year of fee payment: 5 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |