JP3580670B2 - 入力画像を基準画像に対応付ける方法、そのための装置、及びその方法を実現するプログラムを記憶した記憶媒体 - Google Patents

入力画像を基準画像に対応付ける方法、そのための装置、及びその方法を実現するプログラムを記憶した記憶媒体 Download PDF

Info

Publication number
JP3580670B2
JP3580670B2 JP15244997A JP15244997A JP3580670B2 JP 3580670 B2 JP3580670 B2 JP 3580670B2 JP 15244997 A JP15244997 A JP 15244997A JP 15244997 A JP15244997 A JP 15244997A JP 3580670 B2 JP3580670 B2 JP 3580670B2
Authority
JP
Japan
Prior art keywords
image
input
edge
determining
small
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP15244997A
Other languages
English (en)
Other versions
JPH113430A (ja
Inventor
克夫 深沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP15244997A priority Critical patent/JP3580670B2/ja
Priority to US09/009,936 priority patent/US6111984A/en
Publication of JPH113430A publication Critical patent/JPH113430A/ja
Application granted granted Critical
Publication of JP3580670B2 publication Critical patent/JP3580670B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/754Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching

Description

【0001】
【発明の属する技術分野】
本発明は、基準画像に対して追加または削除された可能性があり位置ずれ、伸縮及び傾きの変形を受けた可能性がある入力画像を基準画像に対応付ける方法、これを利用した文字認識方法、相違個所検出方法、印刷方法、これらの方法を実現するための装置、及びこれらの方法を実現するプログラムを格納した記憶媒体に関する。
【0002】
【従来の技術】
手書き文字を読み取るOCR装置(光学的文字読取装置)においては、あらかじめ帳票上の読み取り領域の座標を定規等で計っておき、これを帳票定義体として記憶することが行われている。帳票が入力された時には、この定義体を参照し、同じ位置を切り出して文字認識を行う。この方式では帳票の印刷ずれがごく微量であり、かつイメージスキャナー入力時のずれや傾きが0かあるいは計測できることを必要とする。そうでないと、正しい場所の文字を読み取ることはできない。そのため1)用紙の印刷精度や裁断精度を厳密に規定することで印刷ずれや裁断誤差の影響を無くし、2)入力するスキャナーの搬送精度を高めることで用紙の傾きや伸縮、蛇行を無くす、ということが行われる。これらは帳票の制限やシステムのコストアップなどのさまざまな制限を生む。
【0003】
近年これらの制限の緩和が強く要求されており、この問題を解決する方法として、用紙にあらかじめ印刷されたマークや枠線などのプレ印刷をもとに、位置決めを行う方法が用いられている。
マークをあらかじめ印刷する方法では、たとえばOCRでは帳票の隅に+やL字型などのマークを印刷しておき、入力された画像からマークを検出することで対応づけるものである。しかしこの方法では既存の帳票がそのまま使用できず、マークの仕様に合わせて新規に帳票を作成する必要があるため、コストが上昇し、また帳票修正のために手間ひまがかかるという問題がある。また、マークの近傍は精度が高いが、マークから離れた領域は位置精度が低くなる。これは入力画像の変形パラメータ(位置ずれ、回転、伸縮)が一定ではなく、画像上で変化するためである。そのため精度を上げるためにはマークを沢山設ける必要があるが、これはレイアウト上許されないことが多い。
【0004】
この問題に鑑み、近年、画像上に本来存在する要素、たとえば帳票上に印刷されている表の線分を対応づける方法が考案されている(例えば特開平7−249099号、特開平7−282193号、及び特開平8−77294号参照)。帳票上の線分1本1本を対応づけることは、前述の方式でマークの数を増やしたと同一の効果があるため、画像の変形に対して有利である。
【0005】
しかしながら、これらの方法では原理的に線分で構成される帳票しか処理できないという欠点がある。たとえばアンケート用紙では文書中に括弧でくくって文字記入される箇所や、“年月日”の印刷文字の前に日付を記入するもの等があるが、このような場所ではこの方法は使用できない。一般の帳票・伝票類には○の中に文字記入させるものなど線分を用いないレイアウトが沢山存在するため、線分に基づき対応付けする方式では対応できない。
【0006】
【発明が解決しようとする課題】
上記に鑑みれば、線分に限らない任意の図形要素又は文字からなる画像について、基準画像に追加/削除が行なわれ、位置ずれ、伸縮及び傾斜の変形を受けた入力画像を基準画像の各部分に対応付けることができれば、線分を含まないかまたは線分を多く含まない書式用紙に記入された文字を、位置ずれ、伸縮及び傾きの変形を受けていても読み取ることができる。
【0007】
したがって本発明の目的は、線分に限定されない任意の図形要素及び/又は文字からなる画像について、基準画像に対して追加または削除された可能性があり全体が位置ずれ、伸縮及び傾きの変形を受けた可能性がある入力画像を基準画像に対応付ける方法及びこの方法を実現するための装置を提供することにある。
本発明の他の目的は、上記の対応付け方法を利用した文字認識方法、相違個所検出方法、印刷方法及びこれらを実現するための装置を提供することにある。
【0008】
本発明のさらに他の目的は、上記の方法を実現するプログラムを格納した記憶媒体を提供することにある。
【0009】
【課題を解決するための手段】
本発明によれば、基準画像の各部分に対応する入力画像の部分の入力画像における位置を決定することによって、入力画像と基準画像を対応付ける方法であって、基準画像を予め複数の小ブロックに分割し、各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定し、小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶し、小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定するステップを具備する方法が提供される。
【0010】
前記の探索するステップは、基準画像のエッジを抽出して基準エッジ画像を予め生成し、入力画像のエッジを抽出して入力エッジ画像を生成し、入力エッジ画像の推定対応位置に基準エッジ画像を重ねたときの入力エッジ画像のエッジを構成する各画素と基準エッジ画像のエッジを構成する各画素との間の距離の頻度を計算し、計算された頻度が所定の閾値を超えているものを入力画像と基準画像の距離と決定することによって、対応位置を決定するサブステップを含むことが好適である。
【0011】
本発明によれば、文字が記入された書式用紙から得られた入力画像から記入された文字を認識する方法であって、文字が記入されていない書式用紙から得られた基準画像を予め複数の小ブロックに分割し、各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定し、小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶し、小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定し、予め記憶されている記入領域に対応する入力画像における文字の記入領域を、決定された対応位置に従って決定し、決定された入力画像における文字の記入領域内の画像について文字認識を行なうステップを具備する方法もまた提供される。
【0012】
本発明によれば、文字が記入された書式用紙から得られた入力画像から記入された文字を認識する方法であって、文字が記入されていない書式用紙から得られた基準画像を予め複数の小ブロックに分割し、各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定し、小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶し、小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定し、決定された各小ブロックの対応位置に従って入力画像から基準画像に対応するものを除去し、基準画像が除去された入力画像について文字認識を行なうステップを具備する方法もまた提供される。
【0013】
本発明によれば、第1の画像と第2の画像の間の相違個所を検出する方法であって、第1の画像を予め複数の小ブロックに分割し、各小ブロックについて、第2の画像において対応部分を探索すべき範囲を決定し、小ブロックに分割された第1の画像及び各小ブロックの探索範囲を記憶し、小ブロックに分割された第1の画像に対応する画像を第2の画像について探索範囲内で探索して、小ブロックに分割された第1の画像に対応する画像の第2の画像内における位置を決定し、決定された各小ブロックの対応位置に従って第2の画像から第1の画像に対応するものを除去し、第1の画像が除去された第2の画像に残る画素をグループ化し、グループ化された画素の数が所定値以上の画素グループを相違個所と決定するステップを具備する方法もまた提供される。
【0014】
本発明によれば書式用紙に文字を印刷する方法であって、基準となる書式用紙から得られた基準画像を予め複数の小ブロックに分割し、各小ブロックについて、文字を印刷すべき書式用紙から得られた入力画像において対応部分を探索すべき範囲を決定し、小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶し、小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定し、予め記憶されている印刷位置に対応する入力画像における印刷位置を、決定された対応位置に従って決定し、決定された印刷位置に従って、文字を印刷すべき書式用紙に文字を印刷するステップを具備する方法もまた提供される。
【0015】
本発明によれば、基準画像の各部分に対応する入力画像の部分の入力画像における位置を決定することによって、入力画像と基準画像を対応付けるための装置であって、複数の小ブロックに分割された基準画像の各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定する探索範囲決定手段と、小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶する記憶手段と、小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定する探索手段とを具備する装置もまた提供される。
【0016】
前記の探索手段は、基準画像のエッジを抽出して基準エッジ画像を予め生成する基準エッジ画像生成手段と、入力画像のエッジを抽出して入力エッジ画像を生成する入力エッジ画像生成手段と、入力エッジ画像の推定対応位置に基準エッジ画像を重ねたときの入力エッジ画像のエッジを構成する各画素と基準エッジ画像のエッジを構成する各画素との間の距離の頻度を計算する頻度計算手段と、計算された頻度が所定の閾値を超えているものを入力画像と基準画像の距離と決定することによって、対応位置を決定する距離決定手段とを含むことが好適である。
【0017】
本発明によれば、文字が記入された書式用紙から得られた入力画像から記入された文字を認識するための装置であって、文字が記入されていない書式用紙から得られた基準画像を予め複数の小ブロックに分割する分割手段と、各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定する探索範囲決定手段と、小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶する記憶手段と、小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定する探索手段と、予め記憶されている記入領域に対応する入力画像における文字の記入領域を、探索手段が決定した対応位置に従って決定する記入領域決定手段と、記入領域決定手段が決定した、入力画像における文字の記入領域内の画像について文字認識を行なう手段とを具備する装置もまた提供される。
【0018】
本発明によれば、文字が記入された書式用紙から得られた入力画像から記入された文字を認識するための装置であって、文字が記入されていない書式用紙から得られた基準画像を予め複数の小ブロックに分割する分割手段と、各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定する探索範囲決定手段と、小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶する記憶手段と、小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定する探索手段と、決定された各小ブロックの対応位置に従って入力画像から基準画像に対応するものを除去する手段と、基準画像が除去された入力画像について文字認識を行なう手段とを具備する装置もまた提供される。
【0019】
本発明によれば、第1の画像と第2の画像の間の相違個所を検出するための装置であって、複数の小ブロックに分割された第1の画像の各小ブロックについて、第2の画像において対応部分を探索すべき範囲を予め決定する探索範囲決定手段と、小ブロックに分割された第1の画像及び各小ブロックの探索範囲を記憶する記憶手段と、小ブロックに分割された第1の画像に対応する画像を第2の画像について探索範囲内で探索して、小ブロックに分割された第1の画像に対応する画像の第2の画像内における位置を決定する探索手段と、決定された各小ブロックの対応位置に従って第2の画像から第1の画像に対応するものを除去する手段と、第1の画像が除去された第2の画像に残る画素をグループ化する手段と、グループ化された画素の数が所定値以上の画素グループを相違個所と決定する手段とを具備する装置もまた提供される。
本発明によれば、書式用紙に文字を印刷するための装置であって、基準となる書式用紙から得られた基準画像を予め複数の小ブロックに分割する分割手段と、各小ブロックについて、文字を印刷すべき書式用紙から得られた入力画像において対応部分を探索すべき範囲を決定する探索範囲決定手段と、小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶する記憶手段と、小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定する探索手段と、予め記憶されている印刷位置に対応する入力画像における印刷位置を、探索手段が決定した対応位置に従って決定する印刷位置決定手段と、印刷位置決定手段が決定した印刷位置に従って、文字を印刷すべき書式用紙に文字を印刷する手段とを具備する装置もまた提供される。
【0020】
本発明によれば、コンピュータに接続されたときに上記の方法を実現するプログラムを格納したコンピュータによる読み出し可能な記憶媒体もまた提供される。
【0021】
【発明の実施の形態】
本発明に係る基準画像と入力画像の対応づけにおいては、線分や表などの特定の要素に依存しないで対応付けを可能にするために、基準画像として、例えば未記入の帳票又はアンケート用紙等の書式用紙の画像をあらかじめ入力しておき、これを入力された画像と比較して合わせ込む方法を取る。具体的には、基準画像または基準画像から明るさの変化する場所だけを取り出した基準エッジ画像を小領域のブロックに分割して保存しておく。対応づけ処理のために画像が入力されると、保存したブロックのうち当てはめやすいものから、入力画像またはそれから生成した入力エッジ画像の中で基準画像または基準エッジ画像のブロックと一致する箇所を求める。もし一致する場所が見つかった場合、他のブロックに対応する場所を探す範囲を見つかった場所を元に絞り込む。これを繰り返すことで画像の対応づけを行う。
【0022】
図1は本発明の実施例に係る装置のハードウェアの構成を示す。図1において、パーソナルコンピュータ10には帳票またはアンケート用紙等の書式用紙の読み取り装置11が接続される。パーソナルコンピュータ10はCD−ROMドライブ12を備え、また、回線モデムを内蔵している。本発明の実施例に係る方法を実現するためのプログラムは、パーソナルコンピュータに備え付けのハードディスクに格納しても良いし、CD−ROM 13に記憶させて必要に応じてCD−ROM 13をCD−ROMドライブ12へ挿入することにより、CD−ROM 13に格納されたプログラムをパーソナルコンピュータ10内のメモリへ読み込ませても良いし、回線モデムを介して回線に接続されたデータベースから必要に応じてパーソナルコンピュータ10内のメモリへ読み込ませても良い。それによって、本発明の方法及び装置が実現される。
【0023】
図2は読み取り装置11の内部構造の詳細を示す。図2において、ホッパ14に積まれた帳票またはアンケート用紙等はピックローラ15によって上から1枚ずつピックされ、搬送ローラ16で図2中の一点鎖線に沿って搬送される。ホッパ14は用紙の積み上げ高さに応じて上下する。搬送中の用紙に光源17から光が照射され、その反射光が反射鏡18に反射され、レンズ19を経て一次元のCCD素子20へ入射する。これによって搬送中の帳票又はアンケート用紙の画像が電気信号の形で得られる。CCD素子20で得られた画像信号は画像インターフェース(図示せず)を介してパーソナルコンピュータ10へ入力される。印字ユニット21はパーソナルコンピュータ10からの指令により、搬送中の用紙に所望の文字を印字する。画像が読み取られ、印字された帳票またはアンケート用紙はスタッカ22または23に送られ、そこに積み上げられる。パーソナルコンピュータ10からの指示により、文字認識結果に異常があるものは正常なものと分けてスタッカ22または23の一方に積み上げられる。
【0024】
図3は図1のパーソナルコンピュータ10及びCD−ROM 13に格納されたソフトウェアプログラムの協働により実現される、本発明の一実施例に係る画像対応付け装置の機能ブロック図である。図3において、エッジ生成部30は、図4にその一部を例示するような2値画像からなる基準画像から、図5に示す上下エッジ画像及び図6に示す左右エッジ画像を生成する。エッジ画像、例えば左エッジ画像は次式によって生成する。
【0025】
((A>>1)*A)AND A
式中、Aは図48に示すように水平な1ライン上の画素の値を表わし>>1は1ラインの画素値Aを右方向へ1画素分シフトする演算を表わし、*は排他的論理和演算子、ANDは論理積演算子である。図48からわかるように、上記の演算を各ラインについて実施することにより、左エッジ画像が得られる。右エッジ画像及び上下エッジ画像についても同様である。エッジ画像ではなく2値画像そのものを用いる場合にはこの処理は不要である。また、後に詳述するように、図5及び図6の上下エッジ画像及び左右エッジ画像の代わりに、図7〜図10に示す上エッジ画像、下エッジ画像、左エッジ画像及び右エッジ画像を別々に用いる場合もある。
【0026】
図3に戻って、ブロック分割部32は、基準画像(2値画像またはエッジ画像)を例えば1辺が250画素程度の大きさの矩形の中ブロックに分割し、さらに、各中ブロックを、図11〜図13に示すように、例えば32画素×32画素の正方形の小ブロックに分割する。なお、400dpi (ドット/インチ)の場合、32画素の長さは約2mmである。
【0027】
図3の探索範囲/優先度決定部34は、小ブロックに分割された基準画像(2値画像またはエッジ画像)のそれぞれについて、入力画像(2値画像またはエッジ画像)中で探索すべき範囲と探索の優先度の初期値を決定する。探索範囲の初期値は基準画像のサイズ、入力画像のサイズ、入力画像の最大伸縮率と最大スキュー角度から決定される。例えば、図14(a)に示す基準画像36内の或る小ブロック38内の点(x,y)の探索範囲については、まず許容する伸縮率の最大まで基準画像36を縮小し、これを図14(b)〜(e)に示すように入力画像40の4隅に置いたときの座標(x,y)に対応する入力側の座標(x1,y1),(x2,y2),(x3,y3),(x4,y4)を求める。次にこれを入力画像の隅を中心として、最大スキュー角度分回転しおのおのの座標の移動範囲を求める。同様の処理を基準画像を伸縮率の最大まで拡大したものについても行う。小ブロック38内の各点について得られた座標範囲を囲む外接長方形42(図14(f))は最大伸縮率と最大スキュー角度内で小ブロック38内の各点が取りうる範囲を示すので、これを初期探索範囲とする。
【0028】
各小ブロックの探索優先度は、小ブロック内の黒画素数及び探索範囲の広さから計算された得点により決定する。小ブロック(x0,y0)の得点Score(x0,y0)は例えば次式により計算される。
Score (x0, y0)= K×(P(x0, y0)+ P(x0, y0)) + L×Σ(P(x, y)+ P
(x, y)) …(1)
if(P(x0, y0)>= P Threshold && P(x0, y0)>= P Threshold)…(2)
Score (x0, y0)+=Bonus ;
if(SearchSize (x0, y0)<= S Threshold) …(3)
Score (x0, y0)=Score (x0, y0)×M ×(S Threshold −SearchSize (x0, y0))
上式中、&&はその左右の式の結果が共に真であるときのみ結果を真とする論理演算子、+=はその左辺に右辺を加算した後、左辺に代入する演算子である。P(x0,y0)はエッジ画像を用いる場合の小ブロック(x0,y0)における上下エッジ黒画素数、P(x0,y0)は左右エッジ黒画素数である。Kは(x0,y0)のブロックに対する重みづけ係数、右側のL×Σ(P(x,y)+P(x,y))は(x0,y0)の周囲ブロックのエッジ黒画素数の総和に重みづけ係数Lを掛けたものである。エッジの黒画素数が大きいほど輪郭線が長く入力側に対応づけ易いため、(1)式においてエッジ画素数に比例して得点を付けている。また得点の高いブロックが集まっている箇所の方が対応付けが容易であるので、周囲のブロックのエッジ黒画素数に係数をかけて足し合わせている。また、もし左右エッジと上下エッジの両方の黒画素数がある程度以上ならX方向とY方向の両方の位置決めが容易になる。そのため(2)式によって既定値P Thresholdより大きければ得点を上げる。さらに、探索範囲が小さいほど誤りにくいため、(3)式により、もし探索範囲SearchSizeがある値以下なら、得点を上乗せしている。ここで、探索範囲が小さいほど得点を上げるために、M×(S Threshold−SearchSize(x0,y0))を掛けている(Mは係数)。なお、エッジ画像を生成する代わりに2値画像そのものを用いる場合、(1)式中のP(x0,y0)+P(x0,y0)及びP(x,y)+P(x,y)は2値画像における黒画素数P(x0,y0)及びP(x,y)に置き換えられ、(2)式による加点は行なわれない。
【0029】
図3に戻って、探索範囲/優先度決定部34が決定した各小ブロックの探索範囲及び探索優先順位はブロックに分割された基準画像とともに記憶部37に格納される。ここまでの処理は、読み取り装置11に未記入の帳票またはアンケート用紙がセットされ、その画像が基準画像としてパーソナルコンピュータ10へ読み込まれるときにのみ1回だけ実行される。
【0030】
エッジ生成部44は、読み取り装置11に記入済の帳票またはアンケート用紙がセットされて読み込まれた入力画像についてエッジ生成部30と同じ処理を行なって入力エッジ画像を生成する。2値画像そのものを使って対応付け処理を行なう場合にはこの処理は不要である。
ブロック選択部46は記憶部37に格納されている、一致判定が終っていない小ブロックの中で最も優先度の高い小ブロックとその探索範囲のデータを取り出す。一致判定部48はブロック選択部46が取り出した小ブロックについて、それと一致する部分を入力画像内で探索する。
【0031】
一致判定において、例えば図15に示すように2値画像の小ブロック38を入力画像40の全領域にわたって動かして画素値の一致するものの数が閾値以上で最も高い位置を探すことで一致判定を行なっても良いが、この方法では計算量が膨大になる。図16の破線52で示すように探索範囲を絞ったとしても、探索範囲の面積に比例した計算量が必要である。しかし、小ブロックの大きさが充分に小さく、かつ、その探索範囲が充分に絞り込めていれば図16中に矢印54で示すように、上下方向と左右方向をそれぞれ独立に探索することにより、計算量を著しく削減することができる。さらに、2値画像を使う代わりに、上下方向の探索には図5の上下エッジを使い、左右方向の探索には図6の左右エッジ画像を使えば計算量をさらに削減できるとともに、黒ベタ部分の色ヌケの影響を低減することができる。
【0032】
さらに、本発明では、エッジ画像を実際に上下及び左右に動かして一致判定を行なうのでなく、図17及び図18に示すように上下エッジ画像56及び左右エッジ画像58を入力上下エッジ画像及び入力左右エッジ画像の探索範囲60,62の中央(推定位置)に重ね、両者のエッジの上下方向及び左右方向の距離dxまたはdyを算出し(図19)、図20に示す距離のヒストグラムにおいて出現頻度が所定の閾値を超えているものを一致点の推定位置からのずれdx,dyとすることにより、対応位置を決定する。なお、図20のヒストグラムでは、左右の2点を含む3点で移動平均をとることにより、エッジのがたつきによる分布のばらつきを吸収することが望ましい。
【0033】
上述の上下エッジ画像及び左右エッジ画像を用いる手法では、印刷の濃淡又は画像の明るさの違いにより線の太さに違いがある場合に閾値を超えるピークを有するヒストグラムを得ることが困難である。そこで、他の手法として、図7〜図10に示した、上、下、左及び右エッジ画像についてそれぞれ別々にdxまたはdyの分布を図21に示すように求め、上エッジと下エッジの間で所定の誤差範囲内で一致するピークの位置の平均を上下のずれ量とし、左エッジと右エッジの間で所定の誤差範囲内で一致するピークの位置の平均を左右のずれ量とする。図22はこの手法により推定位置からのずれ量を算出する部分の機能ブロック図である。エッジ生成部64は基準画像から上、下、左及び右のエッジ画像を生成し、エッジ生成部66は入力画像から上、下、左及び右のエッジ画像を生成する。左エッジヒストグラム生成部68は、図21(a)に示す、左エッジ画像についての基準画像と入力画像のx方向における距離dxのヒストグラムを生成し、右エッジヒストグラム生成部70は、図21(b)に示す、右エッジ画像についての基準画像と入力画像のx方向の距離dxのヒストグラムを生成する。同様に、上エッジヒストグラム生成部72及び下エッジヒストグラム生成部74は、上エッジ画像及び下エッジ画像についての距離dyのヒストグラムをそれぞれ生成する。dx決定部76は左エッジのヒストグラムと右エッジのヒストグラムの間で所定の誤差範囲内で一致しかつ閾値を超えているピークの位置の平均を左右のずれ量dxと決定し(図21参照)、dy決定部78は同様に上エッジのヒストグラムと下エッジのヒストグラムの間で所定の誤差範囲内で一致しかつ閾値を超えているピークの位置の平均を上下のずれ量とする。
【0034】
図3に戻って、一致判定部48が処理した小ブロックの推定位置からのずれ量dx,dyが決定されたら、その小ブロックについては対応付けが成功したものとして、対応位置決定部50は推定対応位置及びずれ量dx,dyから対応位置を決定し記憶部37に格納する。探索範囲/優先度更新部80は、決定された小ブロックの対応位置に基づいて対応付けが未決定の小ブロックの探索範囲及び優先度を更新して記憶部37に格納する。探索範囲/優先度更新部80の動作の詳細については後述する。
【0035】
この様な、ブロック46,48,50及び80の動作を繰り返すことによって、全小ブロックの対応付けを行なう。
図23は読み取り装置11のホッパ14に未記入の帳票またはアンケート用紙がセットされて、基準画像が読み込まれた際の画像対応付け装置の動作のフローチャートである。図23において、基準画像の2値画像が入力されたら、ステップ1000において、エッジ生成部30が入力された2値画像からエッジ画像を生成する。前述したように、2値画像を対応位置決定に用いる場合にはこの処理は省略される。次にステップ1002において、ブロック分割部32が中ブロック及び小ブロックの分割を行ない、ステップ1004において、探索範囲/優先度決定部34が各小ブロックの探索範囲及び優先度の初期値を決定し、ステップ1006において、ブロックに分割された基準画像(2値画像またはエッジ画像)が探索範囲及び優先度とともに記憶部37に格納される。
【0036】
図24は読み取り装置11のホッパ14に記入済の帳票またはアンケート用紙が積まれ、入力画像が読み込まれたときの画像対応付け装置の動作のフローチャートである。図24において、入力画像の2値画像が入力されたら、ステップ1100において、エッジ生成部44が入力された2値画像からエッジ画像を生成する。前述したように、2値画像を対応位置決定に用いる場合にはこの処理は省略される。次に、ステップ1102においてすべての小ブロックについて一致判定が終了したか否かが判定され、終了していなければステップ1104においてブロック選択部46が一致判定が終っていない小ブロックのうち最も優先度が高い小ブロックとその探索範囲のデータを取り出す。ステップ1106において一致判定部48が探索範囲内で基準画像の小ブロックと入力画像の一致判定を行ない、一致判定が成功したらステップ1110において対応位置決定部50がずれ量dx,dyから対応位置を決定して記憶部37に格納する。ステップ1112において探索範囲/優先度更新部80が決定された小ブロックの対応位置に基いて対応付けが未決定の小ブロックの探索範囲と優先度を更新して記憶部37へ格納し、ステップ1102の処理へ戻る。
【0037】
探索範囲/優先度更新部80における、対応付けが未決定の小ブロックの探索範囲の絞り込みの手法としては次の3つを採用する。
(1)対応位置が決定された小ブロックの近傍の小ブロックについて、決定済の対応位置に基づいてその近傍の小ブロックの探索範囲を決定し、それらを優先的に判定する。
【0038】
(2)対応位置が決定された3つの小ブロックを頂点とする3角形の内側の小ブロックの探索範囲を頂点の小ブロックの対応位置から直線補間で決定する。
(3)対応位置が決定された複数の小ブロックの対応位置から、中ブロック(前述)の変形パラメータの値を最小2乗法で決定し、決定された変形パラメータの値から逆に未決定の小ブロックの探索範囲を決定する。
【0039】
上記(1)の手法においては、例えば図25に示すように、対応位置が決定された小ブロック(x0,y0)の周囲のハッチングが付された8個の小ブロックについては、小ブロック(x0,y0)の対応位置からブロックサイズWIDを用いて小ブロックに変形がないものとして幾何学的に決定される推定位置を中心とする±dの範囲を探索範囲とし、そのさらに周囲の2重ハッチングが付された16個の小ブロックについては、幾何学的に決定される推定位置を中心とする±2dの範囲を探索範囲とする。例えば小ブロック(x0,y0)の左上の小ブロックの中心は、((x0−WID±d),(y0−WID±d))にあるものとする。ただし、dは
d=dM×WID
で決定され、dMは許容する最大伸縮率と最大スキュー角度を考慮して決める定数である。例えばdMを1/8、WIDを32画素の長さとすると、dは4画素の長さである。
【0040】
上記(2)の手法においては、図26において、二重ハッチングで示す3つの小ブロックの対応位置が決定済であるとすると、図27にハッチングで示す小ブロックの推定対応位置が、頂点の3つの小ブロックの対応位置から、内挿により決定される。この手法をあまり大きい3角形に適用すると誤差が大きくなるので中ブロックサイズ程度までに制限することが望ましい。この場合に、1つの中ブロック内で形成される3角形のみに限定すれば処理が簡単である。この手法は(1)の手法よりも精度が低いので探索範囲は例えば推定対応位置±2d程度にするのが望ましい。
【0041】
上記(3)の手法においては、図28に示すように、基準画像36の1つの中ブロック82内でハッチングで示す所定個以上の小ブロックについて対応位置が決定済であれば、それらのデータから当該中ブロック全体の上下方向(y方向)及び左右方向(x方向)の伸縮率、傾き、及び位置ずれからなる中ブロックの変形パラメータの値を最小2乗法により決定し、決定された値から逆に当該中ブロック内の対応位置が未決定の小ブロックの推定対応位置を計算する。また、対応位置が決定できた小ブロックを所定個以上含まないために変形パラメータが計算できない中ブロックについては、図29に示すように、それに隣接し変形パラメータが計算できた中ブロックの値を使用してその中ブロック内の未決定の小ブロックの推定対応位置を決定する。図30に示すように、隣接する複数の中ブロックで変形パラメータの値が計算されている場合には、例えばそれらの平均をとる。(3)の手法によれば、画像中に大きい空白がある場合でも網羅的に推定対応位置が得られる。
【0042】
最小2乗法による中ブロックの変形パラメータの計算及びそれからの小ブロックの推定対応位置の逆算の方法を以下に説明する。
基準側の小ブロックの例えば中心の座標がp=(px,py)であり、これに対応する入力側の座標がq=(qx,qy)とする。これらの組がn個(i=1〜n)あるとする。
【0043】
まず、以下の式を計算する。
A=Σ (qx・px) −(Σqx・Σpx) /n
B=Σ (px・px) −(Σpx・Σpx) /n
C=Σ (px・py) −(Σpx・Σpy) /n
D=Σ (qx・py) −(Σqx・Σpy) /n
E=Σ (py・py) −(Σpy・Σpy) /n
F=Σ (qy・py) −(Σqy・Σpy) /n
G=Σ (qy・px) −(Σqy・Σpx) /n
ここでΣ(qx・px)=qx1・px1+qx2・px2+…qxn・pxn(1〜n点分の総和)となる。他も同様。
【0044】
上のA〜Gまでを用いて、以下の値を計算する。ただし、DD,D1,D2のどれかが0なら、以降の計算はできない(点が一直線上に並んでいる等、計算不能な並びである)。
DD=B・E−C・C
D1=A・E−D・C
D2=B・F−C・G
これにより以下の値を求める。
【0045】
kx=(A・E−D・C)/DD:X方向の伸縮率
ky=(B・F−C・G)/DD:Y方向の伸縮率
上記kx,kyをもとに以下の計算を行って傾きθを計算する。
DL1 =kx・kx・E+ky・ky・B
DL2 =kx・D−ky・G−(kx・kx−ky・ky)・C
θ=−DL2 /DL1 (ラジアン)
DL1=0の場合には傾きは求められない。縮小率が0などの特殊な場合である。
【0046】
位置ずれ量は、以下のように傾きθを使って求める。
dx=(Σqx−kx・(Σpx−θ・Σpy))/n:X方向の位置ずれ量
dy=(Σqy−ky・(Σpy+θ・Σpx))/n:Y方向の位置ずれ量
以上により中ブロックの変形パラメータ(kx,ky)(dx,dy),θの値が計算される。これらから対応位置が未決定の小ブロックの推定対応位置は次式
qxi =kx (pxicosθ−pyisinθ) +dx
qyi =ky (pxisinθ+pyicosθ) +dy
により計算される。なお前述の最小二乗法の計算式はこれらの式から導かれたものである。
【0047】
(3)の手法における探索範囲は例えば推定対応位置±2dとする。
上記(1)〜(3)の手法のうち、(1)の手法が最も精度が高いが探索範囲を絞り込める範囲が狭い、一方、(3)の手法は中ブロック内を網羅的に絞り込むことができるが精度が低い。(2)の手法は(1)と(3)の中間の性質がある。そこで、優先度の初期値の順に対応付けを行ないながら、対応付けに成功するごとにその周辺の小ブロックに(1)の手法をそれが行き詰まるまで繰り返し適用する。全部の小ブロックについて対応付けの試みが終ったら、各中ブロックについて対応付けに成功した小ブロックの例えば中心点のすべてを囲む凸型閉包をつくり、この凸型閉包を3角形で分割して(2)の手法を適用する。このとき対応付けに成功した小ブロックがあればその周辺の小ブロックについて行き詰まるまで(1)の手法を繰り返し適用する。最後に(3)の手法を適用し、対応付けに成功した小ブロックがあれば再度その周辺の小ブロックに行き詰まるまで(1)の手法を繰り返し適用する。
【0048】
図3に示す本発明に係る画像対応付け装置では、従来のように線分や表などの特定の要素に依存することなく、対応づけが可能である。また基準画像を小ブロックに分割しておき、これを順に入力画像に当てはめていくことで対応づけを行う。このため図31のように入力画像の歪みに応じてブロックがずれて対応づくため、入力画像の伸縮・傾き・局所的な歪みが吸収できる。
【0049】
図32は図3に示した対応付け装置の一変形の機能ブロック図である。図3と同一の構成要素には同一の参照番号を付してその説明を省略する。
図32において、水平垂直エッジ検出部84は2値画像から画面の左右方向に平行な直線の画像及び上下方向に平行な直線の画像を検出することによって、水平なエッジ及びそれに垂直なエッジの位置をy軸の切片の値及びx軸の切片の値として決定する。置換部86は検出された左右方向の直線に対応する上下エッジのデータ及び上下方向の直線に対応する左右エッジのデータを上記のy軸の切片の値及びx軸の切片の値で置換してデータ量を削減する。一致判定部88では、検出された左右方向の直線の上下エッジについてはy軸の切片の値を用い、検出された上下方向の直線の左右エッジについてはx軸の切片の値を用いるので、処理量が著しく削減される。
【0050】
図33〜図36を参照して上記の過程を詳細に説明する。図33及び図34に示すように、基準画像の2値画像を小ブロックの幅で上下方向及び左右方向に短冊状に切ったものを想定する。上下方向に切った短冊については、図35の左側に示す短冊状の2値画像の黒画素数の上下方向の分布を図35の右側に示すように計算し、矢印で示す、黒画素数の変化が急峻な場所を上エッジ又は下エッジとする。そして、図36に示すように、各小ブロック内の上下エッジをy軸の切片の値y0,y1,y2で置き換える。左右方向に切った短冊についても同様にしてx軸の切片を決定し、左右エッジをx軸の切片の値で置き換える。
【0051】
図36からわかるように、エッジが多少斜めであってもブロックが小さいのでこの傾きを無視することができる。逆にエッジに多少の凹凸があっても精度良く対応付けすることができる。
図37は図3の対応付け装置の他の変形の機能ブロック図である。図3と同一の構成要素には同一の参照番号を付してその説明を省略する。
【0052】
図38に示すように、基準側と入力側の傾きが異なっている場合に正しい対応付けができない可能性がある。傾き補正部90は前述の(3)の手法で決定された中ブロックの傾き角θに基づきその中ブロック内の小ブロックについて式
dy′=dy・X・θ
により(Xは図38参照)一致判定部48の一致判定におけるずれ量dyを補正することによって、傾きが異なっている場合でも対応付けを可能にする。
【0053】
図39はこれまでに説明した画像対応付け方法を利用した文字認識装置の機能ブロック図である。画像対応付け部92はこれまでに説明した画像対応付け装置に相当する。位置変換部94は画像対応付け部92の対応付け結果に基づき、予め設定された基準画像における文字読み取り位置を入力画像における文字読み取り位置に変換する。画像切り出し部96は位置変換部94が出力する文字読み取り位置に従って、入力画像から入力文字の領域を切り出す。文字認識部98は画像切り出し部96が切り出した入力文字の画像から文字を認識する。
【0054】
画像対応付け部92における対応づけにより図40に示すように基準側の各小ブロックに対して、対応する入力側の座標を得ることができる。例えば小ブロックの大きさが32×32画素とし、画像の画素密度が400dpi であれば基準側の約2mmごとに入力側の座標が求められる。この対応付け結果から基準側の任意の座標について、2mmおきに求めた座標を線形補完して入力側の座標を求めることができる。たとえば図41のように四隅の座標が(x0,y0),(x1,y1),(x2,y2),(x3,y3)である小ブロック中の(xp,yp)なる座標を変換するには、
変換後X座標 xp′=Fx(x0, y0)+(Fx(x2, y2) −Fx(x0, y0)) × (xp−x0) / (x2−x0)
変換後Y座標 yp′=Fy(x0, y0)+(Fy(x2, y2) −Fy(x0, y0)) × (yp−y0) / (y2−y0)
とすればよい。ただし、Fx(x,y)は基準側の座標(x,y)を入力側の座標に変換したときのx座標、Fy(x,y)はy座標である。位置変換部94は文字を読み取る領域を上式に基いて図42のように変換し画像切り出し部96は入力画像から読み取り領域を切り出し、さらに、読取り領域内の画像を1文字分づつ切り出す。これは最も簡単には、図43に示すように位置決めされた読取り領域に対し、上下に黒画素を投影するようにして黒画素数の分布を算出し、黒画素のない場所(文字と文字とのすきま)を検出する方法で行うことができる。画像が傾いているときは、傾き量に合わせて投影する方向を変えれば、切り出し精度を向上させることができる。
【0055】
最後に、切り出した1文字づつの画像を先頭から順番に文字認識処理部98に渡して、文字認識することで、記入された文字の文字コードを得ることができる。文字認識処理部98における文字認識処理は当業者に周知であるから説明を省略する。
図44は本発明の文字認識装置の他の例の機能ブロック図である。図39と同一の構成要素には同一の参照番号を付してその説明を省略する。画像変形部100は画像対応付け部92の対応付け結果に基づき、基準画像を図45に示すように変形する。この場合に各小ブロック間の距離に応じて小ブロック内の画像を伸縮する。小ブロックが小さいので傾斜は考慮する必要はないが中ブロックの傾斜パラメータθにより傾斜の変形を加えても良い。減算部102は変形した基準画像を入力画像に重ね、基準側の画素と入力側の画素が等しい場所を白く塗りつぶす。これにより入力画像から文字枠や説明文等の文字認識には不要な部分が消去され、記入された文字だけが残る。この画像を画像切り出し部96に渡して切り出した後、文字認識部98で文字認識を行う。
【0056】
本発明の文字認識装置は、線分やマーク等の特定の要素に依存せずに帳票の位置決めが可能であり、入力帳票に、位置ずれや伸縮・回転があっても文字を読み取ることが可能である。
さらにまた、基準側に存在する印刷を入力側から削除することが可能であるため、読み取りに不要な文字枠などの印刷を削除して読み取ることが可能であり、この際特定の枠の形に依存しない利点を持つ。
【0057】
図46は本発明の画像対応付け方法を利用した相違個所検出装置の機能ブロック図である。図44と同一の構成要素には同一の参照番号を付してその説明を省略する。比較部104は画像変形部100において変形された基準画像を入力画像に重ね合わせて比較し、両者が不一致である部分を検出する。グループ化部106は比較部104において検出された不一致の画素について互いに接近しているものどうしをグループ化して所定の面積以上の画素グループのみを表示出力する。
【0058】
グループ化の方法は、たとえば互いに接している画素どうしをまとめて孤立領域とし、孤立領域をラベリングした後、異なるラベル領域で輪郭間の距離がある閾値以下のものをひとつにまとめる処理を行う。求めた領域の面積がある閾値以上ある箇所を、入力側のイメージに重畳して表示することで、相違点の表示を行う。
【0059】
本発明の相違箇所検出装置は、基準画像と入力画像に位置ずれや伸縮・回転が存在しても、2枚の画像を対応づけて相違箇所を示すことが可能である。
図47は本発明の画像対応付け方法を利用した印刷装置の機能ブロック図である。図39と同一の構成要素には同一の参照番号を付す。20は図2を参照して既に説明した一次元CCD素子であり、21は印字ユニットである。画像対応付け部92は予め格納されている基準画像と、搬送中の帳票等から一次元CCD素子20で得られる入力画像との間で既に説明した手法により、対応付けを行なう。位置変換部94は予め格納されている、基準画像における印刷位置を画像対応付け部92の対応付け結果に基いて入力画像における位置に変換する。印刷画像生成部108は与えられた文字コード及び位置変換部94から与えられる印刷位置に従って印刷画像を生成し、印字ユニット21へ印字を指令する。これにより搬送中の帳票等への印刷が行なわれる。
【0060】
本発明の印刷装置は、帳票にマークを印刷する必要がなく、また帳票のプレ印刷に歪みが存在しても、正確に位置決めを行って印刷することが可能である。
本発明の画像対応付けにおいては、以下のことを行うことが望ましいが、いずれも当業者にとっては自明なことであるため、詳細な説明は省略する。
1)エッジ画像を求める際、ノイズを消去するためにゴミ取りやフィルタリングを行う。
【0061】
2)網掛けや濃淡の抽出によってエッジが不安定となる領域を抽出し、この箇所は対応づけから除外する。
3)線分やマークによる対応づけ方式と本方式を併用し、計算量の削減と精度の向上を得る。
4)対応づけの履歴を記憶しておき、ある時点で対応づけ誤りを検出したとき、以前の状態に後戻りしてやり直す。
【0062】
5)エッジ画像を求める際、線幅の細い箇所はエッジを求めないようにすることで、濃度が薄い場合に影響が出る箇所を除外する。
6)あらかじめ基準画像から直線を検出し、断線結合処理によりかすれた部分を接続して画像に書き戻すことで、線分のかすれ部分を精度よく対応づける。
【0063】
【発明の効果】
本発明では基準側と入力側のエッジ画像を求め、それらを重ね合わせたときのエッジ間の距離の頻度を求めることで対応づけを行う。そのため、従来のように線分や表などの特定の要素に依存することなく、対応づけが可能である。また本発明では基準側エッジ画像を小ブロックに分割しておき、これを順に入力側エッジ画像に当てはめていくことで対応づけを行う。このため入力画像の歪みに応じてブロックがずれて対応づくため、入力画像の伸縮・傾き・局所的な歪みが吸収できる。
【0064】
また、本発明では基準側と入力側のエッジ間の距離の頻度を求める際、上下方向及び左右方向のみについて距離の頻度を求めることにより、大幅な計算量の削減が可能である。
また、画像を入力する際、濃度設定の違いや、対象の個体差からサンプル側画像に対して若干のつぶれや細まりが存在するが、エッジ画像を上下左右の4種類作成し、上下左右のエッジに対して左と右、上と下のエッジを別々に処理することにより、入力時の濃度設定の違いなどで基準画像と入力画像の太さが変わってしまう場合にも正しい対応づけが可能になる。
【0065】
また、垂直線・水平線をなすエッジに対して、これを切片のパラメータに近似して距離の頻度を求めることにより、水平・垂直をなすエッジ箇所が多少凸凹している場合にも精度良く対応づけられると同時に、入力側の画像を切片の値だけで表すことができるので、計算に要する時間を節約できる。対応付けの精度を向上させると同時に計算量の削減が可能である。
【0066】
また、対応付けの計算の際に、基準側と入力した画像との傾きが異なっている場合、正しい対応が取れなくなる可能性があるが、本発明では対応付けする際に、今までの対応結果から傾き推定値を求めて、距離の頻度の計算を補正することにより、精度よく対応づけすることが可能である。
また、本発明では対応づいた基準側ブロックをまとめた中ブロックを構成し、この中ブロックの入力側イメージとの位置ずれ・伸縮・傾きのパラメータを計算し、これを元にまだ対応づいていない箇所の対応位置を推定する。これにより、たとえば画像中に大きい空白があるときなどにも対応づけを行うことが可能になる。
【0067】
また、本発明により構成した文字認識装置は、線分やマーク等の特定の要素に依存せずに帳票の位置決めが可能であり、入力帳票に、位置ずれや伸縮・回転があっても文字を読み取ることが可能である。
さらにまた、基準側に存在する印刷を入力側から削除することが可能であるため、読み取りに不要な文字枠などの印刷を削除して読み取ることが可能であり、この際特定の枠の形に依存しない利点を持つ。
【0068】
また、本発明により構成した相違箇所検出装置は、基準側と入力側に位置ずれや伸縮・回転が存在しても、2枚の画像を対応づけて相違箇所を示すことが可能である。
また、本発明により構成した印刷装置は、帳票にマークを印刷する必要がなく、また帳票のプレ印刷に歪みが存在しても、正確に位置決めを行って印刷することが可能である。
【0069】
以上説明したように、本発明によればレイアウトに依存しない画像の対応づけを得ることができ、なおかつ伸縮・スキュー・局所的な歪みが存在しても対応づけることが可能である。従って、OCR装置の読み取り位置の位置決めや、印刷装置の位置決め、および2枚の画像の相違箇所の検出などの性能向上に寄与するところが大きい。
【図面の簡単な説明】
【図1】本発明に係る装置のハードウェアの構成を示す図である。
【図2】図1の読み取り装置11の内部構造を示す図である。
【図3】本発明の一実施例に係る画像対応付け装置の機能ブロック図である。
【図4】2値画像としての基準画像の一部を示す図である。
【図5】上下エッジ画像を示す図である。
【図6】左右エッジ画像を示す図である。
【図7】上エッジ画像を示す図である。
【図8】下エッジ画像を示す図である。
【図9】左エッジ画像を示す図である。
【図10】右エッジ画像を示す図である。
【図11】2値画像の小ブロックを示す図である。
【図12】上下エッジ画像の小ブロックを示す図である。
【図13】左右エッジ画像の小ブロックを示す図である。
【図14】探索範囲の初期値の決定方法を説明する図である。
【図15】一致判定の第1の方法を説明する図である。
【図16】一致判定の第2の方法を説明する図である。
【図17】一致判定の第3の方法を説明する図である。
【図18】一致判定の第3の方法を説明する図である。
【図19】一致判定の第3の方法を説明する図である。
【図20】一致判定の第3の方法を説明する図である。
【図21】一致判定の第4の方法を説明する図である。
【図22】一致判定の第4の方法を説明する機能ブロック図である。
【図23】画像対応付け装置の動作のフローチャートである。
【図24】画像対応付け装置の動作のフローチャートである。
【図25】探索範囲の絞り込みの第1の手法を説明する図である。
【図26】探索範囲の絞り込みの第2の手法を説明する図である。
【図27】探索範囲の絞り込みの第2の手法を説明する図である。
【図28】探索範囲の絞り込みの第3の手法を説明する図である。
【図29】探索範囲の絞り込みの第3の手法を説明する図である。
【図30】探索範囲の絞り込みの第3の手法を説明する図である。
【図31】画像対応付け装置による対応付け結果を説明する図である。
【図32】画像対応付け装置の第1の変形の機能ブロック図である。
【図33】図32の装置の動作を説明する図である。
【図34】図32の装置の動作を説明する図である。
【図35】図32の装置の動作を説明する図である。
【図36】図32の装置の動作を説明する図である。
【図37】画像対応付け装置の第2の変形の機能ブロック図である。
【図38】図37の装置の動作を説明する図である。
【図39】本発明の他の実施例に係る文字認識装置の機能ブロック図である。
【図40】図39の装置の動作を説明する図である。
【図41】図39の装置の動作を説明する図である。
【図42】図39の装置の動作を説明する図である。
【図43】図39の装置の動作を説明する図である。
【図44】本発明のさらに他の実施例に係る文字認識装置の機能ブロック図である。
【図45】図44の装置の動作を説明する図である。
【図46】本発明のさらに他の実施例に係る相異個所検出装置の機能ブロック図である。
【図47】本発明のさらに他の実施例に係る印刷装置の機能ブロック図である。
【図48】エッジ画像の生成方法を説明する図である。
【符号の説明】
10…パーソナルコンピュータ
11…読み取り装置
12…CD−ROMドライブ
13…CD−ROM
14…ホッパ
15…ピックローラ
16…搬送ローラ
17…光源
18…反射鏡
19…レンズ
20…1次元CCD素子
21…印字ユニット
22,23…スタッカ
36…基準画像
38…小ブロック
40…入力画像
52,60,62…探索範囲
54…探索方向
56…上下エッジ画像
58…左右エッジ画像

Claims (8)

  1. 基準画像の各部分に対応する入力画像の部分の入力画像における位置を決定することによって、入力画像と基準画像を対応付ける方法であって、
    (a)基準画像を予め複数の小ブロックに分割し、
    (b)各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定し、さらに小ブロック内に含まれる対応付けに有益な画素の数に基づき各小ブロックの探索優先度を決定し、
    (c)小ブロックに分割された基準画像及び各小ブロックの探索範囲および探索優先度を記憶し、
    (d)小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定し、
    (e)ステップ(d)の実行中において、既に決定された小ブロックの入力画像内における対応位置に基づき、入力画像における対応位置が未だ決定されていない小ブロックの探索優先度及び探索範囲を修正するステップを具備し、
    ステップ(a)において基準画像はそれぞれが複数の小ブロックを含む複数の中ブロックに分割され、
    ステップ(e)は、
    (i)対応位置が決定済の小ブロックを所定個以上有する中ブロックについて、該中ブロック内の小ブロックの決定済の対応位置から中ブロック全体の変形パラメータの値を算出し、
    ii )算出された変形パラメータの値から、該中ブロック内で対応位置が未決定の小ブロックの探索範囲を決定し、
    iii) 対応位置が決定済の小ブロックを前記所定個以上有しない中ブロックの変形パラメータの値を、サブステップ(i)で算出された変形パラメータの値から推定し、
    iv )推定された変形パラメータの値から、前記対応位置が決定済の小ブロックを所定個以上有しない中ブロック内の小ブロックの探索範囲を決定するサブステップを含む方法。
  2. ステップ(d)において、対応位置が決定済の小ブロックに基づき基準画像に対する入力画像の傾き程度を推定し、推定された傾き程度の値から小ブロックに分割された基準画像に対する画像の入力画像内における位置の決定が補正される請求項1記載の方法。
  3. 基準画像の各部分に対応する入力画像の部分の入力画像における位置を決定することによって、入力画像と基準画像を対応付ける方法であって、
    (a)基準画像を予め複数の小ブロックに分割し、
    (b)各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定し、
    (c)小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶し、
    (d)小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定するステップを具備し、
    ステップ(d)は、
    (i)基準画像のエッジを抽出して基準エッジ画像を予め生成し、
    ii )入力画像のエッジを抽出して入力エッジ画像を生成し、
    iii) 入力エッジ画像の推定対応位置に基準エッジ画像を重ねたときの入力エッジ画像のエッジを構成する各画素と基準エッジ画像のエッジを構成する各画素との間の距離の頻度を計算し、
    iv )計算された頻度が所定の閾値を超えているものを入力画像と基準画像の距離と決することによって、対応位置を決定するサブステップを含み、
    サブステップ(i)は、
    基準画像の上、下、左及び右のエッジを抽出して基準上エッジ画像、基準下エッジ画像 、基準左エッジ画像及び基準右エッジ画像をそれぞれ生成するサブステップを含み、
    サブステップ( ii )は、
    入力画像の上、下、左及び右のエッジを抽出して入力上エッジ画像、入力下エッジ画像、入力左エッジ画像及び入力右エッジ画像をそれぞれ生成するサブステップを含み、
    サブステップ( iii) は、入力上エッジ画像、入力下エッジ画像、入力左エッジ画像及び入力右エッジ画像に基準上エッジ画像、基準下エッジ画像、基準左エッジ画像及び基準右エッジ画像をそれぞれ重ねたときの、両者を構成する各画素の上下方向、上下方向、左右方向及び左右方向における距離の頻度をそれぞれ計算するサブステップを含み、
    サブステップ( iv )は、
    上エッジ及び下エッジに関して計算された距離の頻度が所定の閾値を超え、かつ、両者が所定の誤差範囲内で一致するものを入力画像と基準画像の上下方向における距離と決定し、
    左エッジ及び右エッジに関して計算された距離の頻度が所定の閾値を超え、かつ、両者が所定の誤差範囲内で一致するものを入力画像と基準画像の左右方向における距離と決定するサブステップを含む方法。
  4. ステップ(d)は、
    (v)基準画像内で上下方向及び左右方向の直線を検出し、
    (vi)サブステップ(iii)の前に、基準エッジ画像内で、サブステップ(v)で検出された直線に対応するエッジを該直線の切片で置き換えるサブステップをさらに含む請求項記載の方法。
  5. 基準画像の各部分に対応する入力画像の部分の入力画像における位置を決定することによって、入力画像と基準画像を対応付けるための装置であって、
    複数の小ブロックに分割された基準画像の各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定し、さらに小ブロック内に含まれる対応付けに有益な画素の数に基づき各小ブロックの探索優先度を決定する探索範囲および優先度決定手段と、
    小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶する記憶手段と、
    小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定する探索手段と
    探索手段の探索の実行中において、既に決定された小ブロックの入力画像内における対応位置に基づき、入力画像における対応位置が未だ決定されていない小ブロックの探索優先度及び探索範囲を修正する修正手段を具備し、
    基準画像はそれぞれが複数の小ブロックを含む複数の中ブロックに分割され、
    修正手段は、
    対応位置が決定済の小ブロックを所定個以上有する中ブロックについて、該中ブロック内の小ブロックの決定済の対応位置から中ブロック全体の変形パラメータの値を算出する手段と、
    算出された変形パラメータの値から、該中ブロック内で対応位置が未決定の小ブロックの探索範囲を決定する手段と、
    対応位置が決定済の小ブロックを前記所定個以上有しない中ブロックの変形パラメータの値を、算出された変形パラメータの値から推定する手段と、
    推定された変形パラメータの値から、前記対応位置が未決定の小ブロックを所定個以上有しない中ブロック内の小ブロックの探索範囲を決定する手段とを含む装置。
  6. 探索手段は、対応位置が決定済の小ブロックに基づき基準画像に対応する入力画像の傾き程度を推定し、推定された傾き程度の値から小ブロックに分割された基準画像に対する画像の入力画像における位置の決定を補正する請求項記載の装置。
  7. 基準画像の各部分に対応する入力画像の部分の入力画像における位置を決定することによって、入力画像と基準画像を対応付けるための装置であって、
    複数の小ブロックに分割された基準画像の各小ブロックについて、入力画像において対応部分を探索すべき範囲を決定する探索範囲決定手段と、
    小ブロックに分割された基準画像及び各小ブロックの探索範囲を記憶する記憶手段と、
    小ブロックに分割された基準画像に対応する画像を入力画像について探索範囲内で探索して、小ブロックに分割された基準画像に対応する画像の入力画像内における位置を決定する探索手段とを具備し、
    探索手段は、
    基準画像のエッジを抽出して基準エッジ画像を予め生成する基準エッジ画像生成手段と、
    入力画像のエッジを抽出して入力エッジ画像を生成する入力エッジ画像生成手段と、
    入力エッジ画像の推定対応位置に基準エッジ画像を重ねたときの入力エッジ画像のエッジを構成する各画素と基準エッジ画像のエッジを構成する各画素との間の距離の頻度を計算する頻度計算手段と、
    計算された頻度が所定の閾値を超えているものを入力画像と基準画像の距離と決定することによって、対応位置を決定する距離決定手段とを含み
    基準エッジ画像生成手段は、
    基準画像の上、下、左及び右のエッジを抽出して基準上エッジ画像、基準下エッジ画像、基準左エッジ画像及び基準右エッジ画像をそれぞれ生成する手段を含み、
    入力エッジ画像生成手段は、
    入力画像の上、下、左及び右のエッジを抽出して入力上エッジ画像、入力下エッジ画像、入力左エッジ画像及び入力右エッジ画像をそれぞれ生成する手段を含み、
    頻度計算手段は、入力上エッジ画像、入力下エッジ画像、入力左エッジ画像及び入力右エッジ画像に基準上エッジ画像、基準下エッジ画像、基準左エッジ画像及び基準右エッジ画像をそれぞれ重ねたときの、両者を構成する各画素の上下方向、上下方向、左右方向及び左右方向における距離の頻度をそれぞれ計算する手段を含み、
    距離決定手段は、
    上エッジ及び下エッジに関して計算された距離の頻度が所定の閾値を超え、かつ、両者が所定の誤差範囲内で一致するものを入力画像と基準画像の上下方向における距離と決定する手段と、
    左エッジ及び右エッジに関して計算された距離の頻度が所定の閾値を超え、かつ、両者が所定の誤差範囲内で一致するものを入力画像と基準画像の左右方向における距離と決定する手段とを含む装置。
  8. 探索手段は、
    基準画像内で上下方向及び左右方向の直線を検出する手段と、
    頻度計算手段による頻度の計算の前に、基準エッジ画像内で、検出された直線に対応するエッジを該直線の切片で置き換える手段とをさらに含む請求項記載の装置。
JP15244997A 1997-06-10 1997-06-10 入力画像を基準画像に対応付ける方法、そのための装置、及びその方法を実現するプログラムを記憶した記憶媒体 Expired - Lifetime JP3580670B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP15244997A JP3580670B2 (ja) 1997-06-10 1997-06-10 入力画像を基準画像に対応付ける方法、そのための装置、及びその方法を実現するプログラムを記憶した記憶媒体
US09/009,936 US6111984A (en) 1997-06-10 1998-01-21 Method for matching input image with reference image, apparatus for the same, and storage medium storing program for implementing the method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP15244997A JP3580670B2 (ja) 1997-06-10 1997-06-10 入力画像を基準画像に対応付ける方法、そのための装置、及びその方法を実現するプログラムを記憶した記憶媒体

Publications (2)

Publication Number Publication Date
JPH113430A JPH113430A (ja) 1999-01-06
JP3580670B2 true JP3580670B2 (ja) 2004-10-27

Family

ID=15540773

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15244997A Expired - Lifetime JP3580670B2 (ja) 1997-06-10 1997-06-10 入力画像を基準画像に対応付ける方法、そのための装置、及びその方法を実現するプログラムを記憶した記憶媒体

Country Status (2)

Country Link
US (1) US6111984A (ja)
JP (1) JP3580670B2 (ja)

Families Citing this family (49)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3606430B2 (ja) * 1998-04-14 2005-01-05 松下電器産業株式会社 画像整合性判定装置
US7016539B1 (en) 1998-07-13 2006-03-21 Cognex Corporation Method for fast, robust, multi-dimensional pattern recognition
JP2000341501A (ja) * 1999-03-23 2000-12-08 Minolta Co Ltd 画像処理装置および画像処理方法、ならびに画像処理プログラムを記録した記録媒体
US6690840B1 (en) * 2000-02-08 2004-02-10 Tektronix, Inc. Image alignment with global translation and linear stretch
AU2001232029A1 (en) * 2000-02-17 2001-08-27 British Telecommunications Public Limited Company Visual attention system
US7035445B2 (en) * 2000-03-06 2006-04-25 Fuji Photo Film Co., Ltd. Image position matching method, apparatus and storage medium
GB2363020B (en) * 2000-04-07 2004-08-18 Discreet Logic Inc Processing image data
US7411593B2 (en) 2001-03-28 2008-08-12 International Business Machines Corporation Image rotation with substantially no aliasing error
JP2002324236A (ja) * 2001-04-25 2002-11-08 Hitachi Ltd 帳票識別方法及び帳票登録方法
JP3970102B2 (ja) * 2001-06-28 2007-09-05 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US20030103673A1 (en) * 2001-11-30 2003-06-05 Nainesh Rathod Shape searcher
EP1488413B1 (en) * 2002-03-22 2012-02-29 BRITISH TELECOMMUNICATIONS public limited company Anomaly recognition method for data streams
AU2003215755A1 (en) * 2002-03-22 2003-10-08 British Telecommunications Public Limited Company Comparing patterns
US7020328B2 (en) * 2002-09-04 2006-03-28 Eastman Kodak Company Electronic color dropout utilizing spatial context to enhance accuracy
US7133572B2 (en) * 2002-10-02 2006-11-07 Siemens Corporate Research, Inc. Fast two dimensional object localization based on oriented edges
GB0229625D0 (en) 2002-12-19 2003-01-22 British Telecomm Searching images
US8081820B2 (en) 2003-07-22 2011-12-20 Cognex Technology And Investment Corporation Method for partitioning a pattern into optimized sub-patterns
US7190834B2 (en) 2003-07-22 2007-03-13 Cognex Technology And Investment Corporation Methods for finding and characterizing a deformed pattern in an image
GB0328326D0 (en) 2003-12-05 2004-01-07 British Telecomm Image processing
US7596701B2 (en) * 2004-07-07 2009-09-29 Oracle International Corporation Online data encryption and decryption
US7616764B2 (en) * 2004-07-07 2009-11-10 Oracle International Corporation Online data encryption and decryption
JP3935499B2 (ja) * 2004-07-26 2007-06-20 松下電器産業株式会社 画像処理方法、画像処理装置および画像処理プログラム
US7620249B2 (en) 2004-09-17 2009-11-17 British Telecommunications Public Limited Company Analysis of patterns
US8437502B1 (en) 2004-09-25 2013-05-07 Cognex Technology And Investment Corporation General pose refinement and tracking tool
JP4230980B2 (ja) * 2004-10-21 2009-02-25 株式会社東芝 パターンマッチング方法およびプログラム
JP3996630B2 (ja) * 2005-01-19 2007-10-24 松下電器産業株式会社 画像変換方法、テクスチャマッピング方法、画像変換装置、サーバークライアントシステム、画像変換プログラム、影認識方法および影認識装置
EP1849307A1 (en) * 2005-01-27 2007-10-31 Thomson Licensing Edge based cmy automatic picture registration
US7908645B2 (en) * 2005-04-29 2011-03-15 Oracle International Corporation System and method for fraud monitoring, detection, and tiered user authentication
EP1732030A1 (en) * 2005-06-10 2006-12-13 BRITISH TELECOMMUNICATIONS public limited company Comparison of patterns
WO2007012798A1 (en) * 2005-07-28 2007-02-01 British Telecommunications Public Limited Company Image analysis
EP1798961A1 (en) * 2005-12-19 2007-06-20 BRITISH TELECOMMUNICATIONS public limited company Method for focus control
JP4919028B2 (ja) * 2006-03-03 2012-04-18 富士ゼロックス株式会社 画像処理装置および画像処理プログラム
US8739278B2 (en) * 2006-04-28 2014-05-27 Oracle International Corporation Techniques for fraud monitoring and detection using application fingerprinting
US9106422B2 (en) * 2006-12-11 2015-08-11 Oracle International Corporation System and method for personalized security signature
WO2009067022A1 (en) * 2007-11-20 2009-05-28 Lumex A/S A method for resolving contradicting output data from an optical character recognition (ocr) system, wherein the output data comprises more than one recognition alternative for an image of a character
WO2009070033A1 (en) * 2007-11-30 2009-06-04 Lumex A/S A method for processing optical character recognition (ocr) output data, wherein the output data comprises double printed character images
JP5287272B2 (ja) * 2009-01-13 2013-09-11 株式会社リコー 画像検査装置、画像検査方法及びプログラム
US8433142B2 (en) 2010-04-05 2013-04-30 The Nielsen Company (Us), Llc Methods and apparatus to detect differences between images
WO2011138035A1 (de) * 2010-05-05 2011-11-10 Gisela Toussaint Verfahren zum ermitteln von kraftfahrzeugnah beparkbarem parkraum und hierfür geeignetes fahrzeug-assistenzsystem
US20140267426A1 (en) * 2013-03-13 2014-09-18 Nvidia Corporation System, method, and computer program product for automatically extending a lasso region in two-dimensional image editors
US9679224B2 (en) 2013-06-28 2017-06-13 Cognex Corporation Semi-supervised method for training multiple pattern recognition and registration tool models
JP6244805B2 (ja) * 2013-10-16 2017-12-13 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
JP6468415B2 (ja) * 2013-10-16 2019-02-13 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
JP6252091B2 (ja) * 2013-10-16 2017-12-27 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
US10366404B2 (en) 2015-09-10 2019-07-30 The Nielsen Company (Us), Llc Methods and apparatus to group advertisements by advertisement campaign
CN108932692B (zh) * 2017-05-26 2021-12-31 杭州海康机器人技术有限公司 面单信息的获取方法及装置
CN109948653B (zh) * 2019-02-15 2023-08-25 广东智媒云图科技股份有限公司 一种图像相似度判断方法、电子设备及存储介质
US10922811B2 (en) * 2019-05-06 2021-02-16 Ford Global Technologies, Llc Object differentiation and identification
CN113592931B (zh) * 2021-09-30 2022-03-01 深圳市汇图技术有限公司 一种应用于工业图像的快速配准方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5955574A (ja) * 1982-09-17 1984-03-30 インタ−ナショナル ビジネス マシ−ンズ コ−ポレ−ション マ−ク・シ−ト読取装置
JPH0642268B2 (ja) * 1986-10-31 1994-06-01 日本電気株式会社 文字認識装置
KR930009639B1 (ko) * 1989-07-09 1993-10-08 가부시끼가이샤 히다찌세이사꾸쇼 화상데이타를 이용하는 문서데이타 처리방법 및 장치
US5054098A (en) * 1990-05-21 1991-10-01 Eastman Kodak Company Method of detecting the skew angle of a printed business form
GB9019538D0 (en) * 1990-09-07 1990-10-24 Philips Electronic Associated Tracking a moving object
EP0497586A3 (en) * 1991-01-31 1994-05-18 Sony Corp Motion detection circuit
JPH07129720A (ja) * 1993-11-04 1995-05-19 Matsushita Electric Ind Co Ltd 文字認識装置
JPH07249099A (ja) * 1994-03-14 1995-09-26 Fujitsu Ltd 帳票識別装置
JPH07256214A (ja) * 1994-03-22 1995-10-09 Toshiba Corp 郵便物の宛名読取装置および郵便物の宛名領域判別装置および郵便物の宛名印刷装置
JP3179280B2 (ja) * 1994-04-15 2001-06-25 三菱電機株式会社 表を含む帳票処理装置
JPH0877294A (ja) * 1994-09-06 1996-03-22 Toshiba Corp 文書画像処理装置
KR0154739B1 (ko) * 1995-04-19 1998-11-16 김광호 프랙탈 영상 압축 장치 및 방법
JPH08305778A (ja) * 1995-04-21 1996-11-22 Xerox Corp ユーザの作成したマークの存在を調査するための方法
JPH09138471A (ja) * 1995-09-13 1997-05-27 Fuji Photo Film Co Ltd 特定形状領域の抽出方法、特定領域の抽出方法及び複写条件決定方法
US5764798A (en) * 1996-03-18 1998-06-09 Intermec Corporation Prioritized searching methods for finding a coded symbol in a digitized image
US5838820A (en) * 1997-04-30 1998-11-17 Bergman; Anthony J. Pattern recognition apparatus and method

Also Published As

Publication number Publication date
US6111984A (en) 2000-08-29
JPH113430A (ja) 1999-01-06

Similar Documents

Publication Publication Date Title
JP3580670B2 (ja) 入力画像を基準画像に対応付ける方法、そのための装置、及びその方法を実現するプログラムを記憶した記憶媒体
EP1093084B1 (en) Image correction device
JP2930612B2 (ja) 画像形成装置
JPH03144863A (ja) 画像の傾き検出方法および補正方法ならびに画像情報処理装置
JPH01297770A (ja) 画像ファイリング装置のタイトル情報入力用帳票作成方法及び画像ファイリング方法
JP5861503B2 (ja) 画像検査装置及び方法
JP3636809B2 (ja) 画像処理方法
JP4395188B2 (ja) 文書画像認識装置および文書画像認識プログラムの記憶媒体
JP2761467B2 (ja) 画像切り出し装置及び文字認識装置
US7120316B2 (en) Image processing method and apparatus and storage medium
JP2003018393A (ja) 画像処理システム
JP3733310B2 (ja) 文書書式識別装置および識別方法
JP3600380B2 (ja) 画像処理方法及びファクス文字認識装置
JP3558493B2 (ja) 用紙位置合わせ装置、用紙位置合わせ方法及び用紙位置合わせプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2003271942A (ja) バーコード記録方法、画像補正方法および画像補正装置
JP4281236B2 (ja) 画像認識装置、画像認識方法、および、画像認識プログラムを記憶したコンピュータ読取り可能な記録媒体
JPH07220023A (ja) 表認識方法及びその装置
JP4070486B2 (ja) 画像処理装置、画像処理方法及び同方法の実行に用いるプログラム
JPH03263282A (ja) 文字読取装置の文字切出し方法
JP7310151B2 (ja) マーク選定装置および画像処理装置
JP2000187705A (ja) 文書読取装置および方法および記憶媒体
JP2000339407A (ja) 画像処理装置及び画像処理方法及びコンピュータ読み取り可能な記憶媒体
JPH10208040A (ja) 画像処理方法及び記録媒体
JP2786044B2 (ja) 光学的文字読み取り装置
JP3756309B2 (ja) 文字認識装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20031217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040106

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040330

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040528

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040622

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040720

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080730

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090730

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090730

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090730

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100730

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100730

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130730

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140730

Year of fee payment: 10

EXPY Cancellation because of completion of term