JP4443133B2 - Program for realizing slip processing apparatus and slip processing method - Google Patents

Program for realizing slip processing apparatus and slip processing method Download PDF

Info

Publication number
JP4443133B2
JP4443133B2 JP2003084098A JP2003084098A JP4443133B2 JP 4443133 B2 JP4443133 B2 JP 4443133B2 JP 2003084098 A JP2003084098 A JP 2003084098A JP 2003084098 A JP2003084098 A JP 2003084098A JP 4443133 B2 JP4443133 B2 JP 4443133B2
Authority
JP
Japan
Prior art keywords
slip
image
determination
mesh
partial areas
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003084098A
Other languages
Japanese (ja)
Other versions
JP2004295275A (en
Inventor
和樹 中島
広 新庄
和美 鈴木
文彦 折笠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Hitachi Information and Telecommunication Engineering Ltd
Original Assignee
Hitachi Computer Peripherals Co Ltd
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Computer Peripherals Co Ltd, Hitachi Ltd filed Critical Hitachi Computer Peripherals Co Ltd
Priority to JP2003084098A priority Critical patent/JP4443133B2/en
Publication of JP2004295275A publication Critical patent/JP2004295275A/en
Application granted granted Critical
Publication of JP4443133B2 publication Critical patent/JP4443133B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
伝票等の画像イメージが正常であるか異常であるかを判定し、画像が正しく入力されているかどうかを画像処理により判定するイメージ入力システムに関する。
【0002】
【従来の技術】
処理した伝票等を将来見直す時等のために、の画像をデータとして保存しておくことが求められている。しかし、画像イメージを入力する際にはノイズや伝票の切れ・破れ等による異常と、表画像が入力されているべきなのに裏画像が入力されている異常の2種類が存在する。どちらも伝票の画像が正しくイメージ入力されていないため問題である。特に、裏画像を判定する方法は、言い換えれば、表画像を判定する方法であってもよいし、表裏のどちらかを判定する方法であってもよい。裏画像を判定する従来の方法としては、あらかじめ決められた位置に印刷されるバーコード等を用いる方法や(例えば、特許文献1参照)、紙葉類の全面に対して単に画素数をカウントし、あらかじめ設定された閾値によって裏面であるか否かを判定する方法がある(例えば、特許文献2参照)。
【特許文献1】
特開平9−50482号公報
【特許文献2】
特開平4−223657号公報
【発明が解決しようとする課題】
上記バーコードを用いる表裏判定方法では、多種類の実際の伝票、言わば、非定型伝票には対応できない。つまり、例えば物流システムにおいては、各社でまちまちな非定型伝票をイメージ入力する必要があり、また、表の画像も裏の画像も非常に多様である。さらに、伝票の向きや傾きに依存しない方法が望まれている。上記特許文献2の方法では、黒画素の数をカウントするので図10に示すような白い裏面にしか適用できない。さらに、全体に一様な画素密度であるか否かを判定し、一様な場合に裏面を判定できるあるが、一様に色がついているような場合の判定にしか適用できない。
【0003】
【課題を解決するための手段】
上記課題を解決するために、本願で開示する発明の概要を説明すれば以下の通りである。
帳票等も含む伝票の画像取得する画像取得部と、該伝票画像の記録部と、上記伝票画像が異常であるか判定する判定部と、その判定手段の結果を表示する表示部とを有する処理装置であって、上記判定部は、上記伝票画像中の部分領域毎の画素密度の分布に基づいて該判定を行うことを特徴とする伝票処理装置。
【0004】
【発明の実施の形態】
図1は本発明のシステム構成図である。図1において入力部109は伝票や帳票等の画像を入力する装置であり、OCRやイメージ入力システム等におけるイメージスキャナ、またはデジカメ等の画像イメージの入力デバイスである。入力制御部102はその画像入力を制御する装置である。表示部110は画像やその認識結果等を表示する装置であり、表示制御部103はそれらを制御する装置である。記憶装置106は画像を記憶する装置である。尚、この表示部は音声出力等であってユーザに異常伝票が検知されたことを通知手段であってもよい。スタッカ111は、伝票等の紙様類をシステムの外部にはきだす際のスタッカである。スタッカは通常複数用意されており、例えば、正常伝票と異常伝票の2種類に分類することが可能である。スタッカ制御部104は上述のスタッカの動作を制御する。異常帳票判定部105は、伝票の表裏を判定したり、破れやノイズ等による異常伝票を判定することが可能である。
【0005】
以降、伝票または帳票とは、OCRやイメージ入力システムの入力となる画像のことであり、伝票や帳票や申込書等の紙様類一般をを指す言葉とする。
次に、伝票の説明をする。図4は伝票の表画像の一例である。画像は複数色のドロップアウト画像を用いる。ドロップアウトとはOCRの分野において一般に使用されている言葉であり、例えば、赤色の枠線であれば、赤色のドロップアウトによって、その枠線が除去され、読取り対象のパターン(この場合は文字)のみが残った画像となる。近年においては、伝票や帳票のデザインが多様となっており、使用されている色も多様である。このような伝票は、単色ではなく複数色のドロップアウトをする必要がある。複数色のドロップアウトをした画像が図4である。文字402、407、405、404等は残されており、バーコード406も残されている。また、パンチ穴403も残されている。複数色のドロップアウトが完璧でない場合には、罫線408が若干残る場合がある。図5は裏画像501の一例である。カーボンによる黒色502が比較的面積の大きい場合の一例である。図6も裏画像601の一例であり、カーボン602による黒色の面積が少ない場合の一例である。図7も裏画像701の一例であり、通常は図10に示す裏画像1001のように真っ白となるが、図7の例では黒カーボンによるノイズ702が比較的大きな面積で残っている。ちなみに、伝票の縁401、501、601、701、1001は、黒い線として実際の画像中には現れない。つまり図として提示するための便宜的な線である。実際の画像は、これらの伝票の縁の線はない状態であるか、あるいは、図8に示すように背景が黒い場合も想定可能である。本願では、特に図5から7に開示するようなイメージの表裏判定を目的とし、上記背景の有無どちらの画像においても処理可能である。
【0006】
図2は入力された伝票を異常伝票と判定した場合のシステムフローの一例である。異常伝票判定201は、後に詳細を説明するが、伝票の傾きが大きかったり、破れた伝票であったり、破れた微小紙片によって画像が正常に取れていない伝票であったりした場合に、異常伝票であると判定する処理である。また、後に説明するが、表裏判定におけるパラメータがある範囲の時にリジェクトと設定することも可能であり、このようなリジェクト伝票も異常伝票の一つである。ここで異常伝票判定は、表画像を取るべき時に、裏画像を取ってしまった場合なども含むものとする。当然のことながら、システムによっては裏画像を取ることを目的とする場合もありうる。異常伝票判定201の判定分岐部202によって異常伝票と判定されなかった場合(図中の「N」)、伝票終了判定209へフローが流れ、伝票終了判定209によって、入力される伝票が無くなるまで、異常伝票判定201からの処理を繰り返す。
【0007】
異常伝票判定201で異常伝票と判定された場合(図中「Y」)、カウント処理203によって、異常伝票の枚数等を記録する。異常伝票の枚数が、あらかじめ設定された規定枚数に達した場合は、システム停止処理205、達していない場合は先頭の処理を繰り返す。この規定枚数は任意であり、ゼロに設定した場合は、異常伝票が発生したら直ちにシステムを停止することになる。有る程度の枚数を許容するとする場合にはあらかじめその枚数を設定しておけばよい。システムを停止するとは、この場合、伝票の画像入力を中止するということである。画像入力を中止するとは、具体的には、単にシステムを動かさない状態、つまり、伝票がスキャナ内部にそのまま残されている状態であってもよいし、必要によっては、伝票を戻したり、送ったりしても良い。システム停止処理205によってシステムを停止した後、例えば表示部110を利用して、ユーザに異常伝票によりシステムが停止したという警告表示を行う。この警告は、ブザー等の音や音声等であったり、スキャナやスキャナ内部にあるLEDやフラッシュ等の光の情報であっても良い。更に、警告表示206の後、ユーザは真のシステム停止要求を出すか出さないかを選択できるようにすることもできる。真のシステム停止要求とは、スキャナ等の内部に残っている伝票を排出する処理のことである。この場合、異常伝票排出208によって異常伝票は排出されることになる。既に排出された伝票に関しては、その伝票番号等のリストを表示部110等に表示することも可能である。伝票を排出する場所は、正常な伝票と同じ場所であっても良いし、区別をするため別の場所であってもよい。ここでの場所とは、OCRの場合、スタッカと呼ばれている。スタッカは複数あるのが普通であり、異常の度合いに応じて、排出するスタッカを変えても良い。ユーザ停止要求207は無くても良い。この場合は、警告表示206の後、直ちに異常伝票排出208となる。これら一連の処理を伝票が無くなるまで繰り返す。異常伝票の種類に応じてカウンタを設け、規定数を分けておいても良い。例えば、リジェクト伝票は比較的多くてもよく、ある程度の枚数を別スタッカに排出しておいても良いが、破れ等の異常伝票はただちにシステムを停止させる必要のある場合があるからである。
【0008】
図3は、表裏伝票判定に伴うシステムフローの一例である。図2とほぼ同様の処理であるが、異常判定の処理を表裏判定301の処理としている点に違いがある。表裏判定301は、後に詳細を説明するが、表判定であってもよく、裏判定であってもよい。もちろん、表か裏かを同時に判定してもよい。表裏判定301によって裏と判定された場合は、カウント処理303を行う。このシステムは表画像を入力すべきシステムにおける場合であり、逆に裏画像を入力するべきシステムにおいては、裏判定302は表判定となるのは言うまでもない。以下、裏と書くが上述の考えはすべてにおいてあてはまる。カウント処理303の後、伝票排出処理304を行う。これは異常伝票排出208と同様の処理である。カウント処理303のみで、伝票排出処理304は無くてもよい。システムによっては、枚数のみを数えればよい場合もあるからである。これら一連の処理を、伝票がなくなるまで繰り返す。カウント処理303によってカウントが加算されている場合は、すべての伝票の画像をとり終えた最後に、システム停止処理308を行い警告表示309を行う。これらの処理は、それぞれ、警告表示206、システム停止処理205と同様の処理である。これら警告表示とシステム停止処理は逆の順序であってもよい。
【0009】
表裏判定の詳細を図12に示す。まず、伝票の画像を任意の大きさのメッシュに分割する(1200)。言い換えると、縦横それぞれ等分割する。それぞれのメッシュは、例えば、縦16画素、横16画素の正方形である。画像の大きさや解像度によって、これらの大きさはもちろん異なる。以下、このメッシュサイズの場合について説明を行う。画像のすべてのメッシュについて、メッシュ毎にメッシュ内の画素数をカウントする(1201)。最小は0で最大は256となる。前述したように、裏画像は真っ黒か真っ白のメッシュが多く、表画像は、文字やバーコード、パンチ穴等といった中間的な数値のメッシュが多くなる。表裏判定は、このようにメッシュ内の画素数を3種類に分けて(1202)、画像内にそれぞれいくつのメッシュがあるかによって行う。画素数を3種類に分けるとは、例えば、0〜16、17〜240、241〜256というように分けることを意味する。それぞれ順に、裏画像に頻繁に現れる白メッシュ、表画像に頻繁に現れる中間メッシュ、裏画像に頻繁に現れる黒メッシュとなる。これらのメッシュの種類をカウントし、もちろん画像全体の面積、あるいは総メッシュ数で正規化し、規定の範囲の個数の裏メッシュが存在すれば裏画像、そうでなければ表画像と判定できる。例えば、図6のような黒カーボンは黒メッシュがカウントされるので、図6は正確な裏判定が可能となる。一方、図7のようなノイズは中間メッシュがカウントされ、表に誤判定される可能性があり、さらに詳細な判定が必要となる。そこで中間メッシュにおいては、ノイズの個数をカウントし、多ければノイズメッシュと判定し(1203)、表裏判定から除外、あるいは、ノイズメッシュの個数が多ければ異常伝票として伝票そのものをリジェクトすることができる。上述のノイズの判定方法であるが、孤立点ノイズ(ある1つの黒画素に対し、周辺8箇所の画素がすべて白画素であるもの)を基本的なパタンとして登録し、判定を行う。さらに、伝票画像の大きさによっては数画素分でもノイズに相当する場合があり、伝票画像の大きさに応じて変化する値であるため、上述のノイズは、必ずしも孤立点ノイズでなくてよく、数画素の塊であっても良い。ちなみに、メッシュは上述のように画像全体に渡ってももちろん良いが、伝票の端は、傾きや破れやゆがみ、さらに黒背景などにより不安定な場合が多い。そのような不安定な画像に対するメッシュは判定には有効でない場合が多く、そのため、メッシュの採取を画像の中心付近に限定する、あるいは、画像の周辺を除くなどをしておくのが実際の判定においては有効である。
【0010】
ここまで本願の表裏判定において、メッシュに分割しての方法を開示してきたが、メッシュに分割する方法は一例であって、画像中のある程度の領域毎の黒画素(若しくは白い画素)の分布を解析することができれば良い。例えば、あらかじめ定めておいた複数のサンプリングポイントにおいて、そのポイントの周辺の画素を加味した画素密度を測定し、それらの分布を解析する方法であっても良い。
【0011】
例えば、真っ白の裏画像や黒カーボンの面積の多い図5のような裏伝票しか存在しないような場合においては、単に黒画素数をカウントしてどの数で判定する方法も有効である。しかし、本願の構成によれば上記の方法に比較して、例えば従来方法では一様な裏画像しか判定できなかったのに対し、部分的にカーボンの黒が存在するような多様な裏画像についても判定することができる。
【0012】
実際のイメージ入力システムとして動かす想定での図9のフローを説明する。伝票取込処理900は、図2、図3では記述しなかったが、同様に含まれている処理であり、伝票イメージ入力の際に実際に伝票を装置内に取り込む処理である。ここでは、例えば図4のようにバーコードが表面に記載されている伝票の処理を想定する。バーコード判定901は、伝票の表画像からバーコードを検出する判定処理であり、特開2001−43308に記載の方法等を用いることができる。バーコード判定901によってバーコード有(902)と判定された場合は、表画像であるから、イメージ登録906によって表画像をシステムに登録する。バーコードが無いと判定された場合には、表裏判定903を行う。表裏判定903は後述の本発明内容である。表裏判定903によって、表と判定(904)された場合には、イメージ登録906を実行する。裏と判定された場合には、伝票排出処理905を実行する。伝票排出処理905は、前述した通りであり、別のスタッカに伝票を排出する。伝票が終了するまで(907)これら一連の処理を繰り返す。これら一連の処理は、必ずしも必要なく、一回のみで終了であっても良い。つまり、スタンド型スキャナや、フラットベッドスキャナ、デジカメ、コピー機等の手差しで一枚ずつ伝票イメージを入力するシステムの場合を想定している。
【0013】
表画像を採取するイメージ入力システムにおいて、裏画像を表と誤判定するミスが最も問題である。判定が難しい場合はリジェクトを設定するのも一つの方法である。例えば、上述の黒メッシュと中間メッシュと白メッシュの個数の分布を表画像と裏画像のそれぞれで取った時に分布の重なる領域、つまり表と裏の両方でありうる可能性が高い分布を有するものについてはリジェクトする等である(図13参照)。リジェクトあるいは表画像を積極的に前段階で判定し、残りの画像をすべて裏画像と判定する方法が良い。なぜなら、伝票の画像サンプルは有限であり、これらの画像から、上述のようなリジェクトのパラメータを設定しても、誤判定が出ることは避けられない。それは、表画像は比較的中間メッシュの個数が安定して存在するのに対し、裏画像は黒カーボンの種類、あるいはノイズによって、その分布が不安定となるからである。つまり、分布が安定している表画像でパラメータをチューニングし、それに外れる画像をすべて裏と判定しておけば、未知の表画像、あるいは未知の裏画像が入力として入ってきたときにも、どちらも裏画像と判定できるために警告が可能であり、ユーザは逐次確かめながら、表であればそのままシステムに流し、裏であればひっくり返して表画像を入力しなおすことが可能となる。これがもし逆であれば、登録しておくべき表画像が入力されないことになり大変な問題であるため、上述の方法を取るのは非常に有効である。図13がその具体例である。中間メッシュと黒メッシュを軸に取れば、残りの白メッシュの分布は必要ないことを利用している。なぜなら3種類のメッシュの総和は不変であるから、そのうちの2種類をパラメータとすればよいからである。「裏」とある領域が裏伝票の分布をあらわし、「表」とある領域が表伝票の分布を表している。「表」と「裏」の重なる領域に加えて、右上の領域もリジェクト領域として設定している。先に説明したように、不安定な領域であるから、リジェクト領域として設定するのが正しいと言える。
【0014】
図8は表裏判定以外に異常なものとして排除することが望まれる表画像の例である。図8に示すように、黒背景の存在する画像に対して、伝票の破れた小紙片がスキャナの内部に残ったままであるときに、このような白帯801が発生してしまう。このような表画像を例えイメージ登録したとしても、ユーザからの問合せに答えられないので、このような白帯801の発生を異常として検出する必要がある。黒背景が存在する画像の場合は、白帯801は、黒背景にまで侵出しているので、本願の構成によれば黒メッシュと白メッシュの位置関係の分布を詳細に見ることによって、検出は容易である。具体的には、黒背景の分布の中にある一定幅の白メッシュが存在することを検知することによって、容易に白帯の検出が可能である(1204)。
図11は、伝票の端が切れている画像であって、異常な表画像の別の例である。黒背景であれば、伝票の端である1101および1105の検出は容易であり、それらの長さ、すなわち伝票の横幅1102の検出も容易である。また黒背景であることを利用すれば伝票の切れている箇所1103およびその長さ1104の検出も容易である。縦方向についても同様に、1106〜1110の検出は容易であり、1102に対して1104、また1109に対して1107の長さがあらかじめ決められた値より大きいような場合には、伝票の縁が破れていると判定可能である。
【0015】
別スタッカに排出された裏判定伝票は、実際に裏であれば問題ないが、表であるのに裏判定されている伝票も存在する。このような伝票を、再度、本システムに何度入力しても、別スタッカに排出される可能性が高い。したがって、このような別スタッカに排出された裏判定伝票は、人間の目で表裏をそろえた後、表画像であることを明示的に指定して、画像入力するのが実際のシステムにおいては有効である。つまり、表裏判定無しのモードをユーザ要求によって切り替え可能としておく必要がある。具体的には、図3では、301,302、303、304、307、308、309をスキップするフローとなる。この指示のためのキー等を装置に設けておけばよい。このような処理を加えることにより、異常イメージを検出する精度を高めることができる。
表裏判定をさらに正確にするには、ロゴ、文字等のキーワード、色情報を積極的に登録し、該情報も用いるようにすればよい。また、一般に伝票は裏表がペアの画像となるため、そのペアの情報を登録しておくとよい。そのような情報は、上述のロゴ、キーワード、色情報があり、また、上述の黒、白、中間メッシュの画像に対する配置情報であってもよい。これらの情報を予め表・裏の情報と対応づけて記憶装置に記憶しておけば良けば、異常判定の際に用いることができ、判定の精度を高めることができる。
【0016】
本表裏判定、ならびに異常伝票判定は、画像処理であり、コピー機やFAXやATM等にも搭載可能である。異常伝票や裏伝票を判定できることによってユーザメリットが生じるため、料金収受の仕組みを構成することが可能である。例えば、伝票一枚ごとに料金を収受する方法である。これは、末端のユーザから取る必要はなく、装置の購入者から収受してもよい。あるいは、装置を売るときにオプションとして別料金を請求してもよい。
【0017】
【発明の効果】
以上説明したように、本発明によれば、文書や伝票中の文字の字種を安定して高精度に判定することが可能であり、信頼度の高い文字認識結果を出力することが可能となる。特に、本方法によれば一様に白い裏面だけでなく、部分的にカーボンの黒が存在するような多様な裏面に対しても、また、紙葉類の傾きや方向に依存することなく、簡単に適用することができる。
【0018】
【図面の簡単な説明】
【図1】本発明のシステム構成図。
【図2】異常伝票判定に伴うシステムフロー。
【図3】表裏伝票判定に伴うシステムフロー。
【図4】表画像の例(その1)。
【図5】裏画像の例(その1)。
【図6】裏画像の例(その2)。
【図7】裏画像の例(その3)。
【図8】表画像の例(その2)。
【図9】バーコード認識を伴う表裏判定システムフロ。
【図10】裏画像の例(その4)。
【図11】表画像の例(その3)。
【図12】表裏判定の詳細。
【図13】伝票表裏判定のためのパラメータの一例。
【符号の説明】
101:中央制御部
102:入力制御部
103:表示制御部
104:スタッカ制御部
105:異常帳票判定部
106:記憶装置
109:入力部
110:表示部
111:スタッカ
201:異常伝票判定
202:「異常?」判定
203:カウント処理
204:「規定数到達?」判定
205:システム停止処理
206:警告表示
207:「ユーザ停止要求?」判定
208:異常伝票排出
209:「伝票終了?」判定
301:表裏判定
302:「裏?」判定
303:カウント処理
304:伝票排出処理
305:「伝票終了?」判定
307:「カウント有?」判定
308:システム停止処理
309:警告表示
401、501、601、701、1001:伝票の縁
402、403、404、405、406、407:表画像を構成する部品
502、602:カーボンによる黒部
702:カーボンによるノイズ
801:破れ小紙片による白帯ノイズ
900:伝票取込処理
901:バーコード判定
902:「バーコード有?」判定
903:表裏判定
904:「表?」判定
905:伝票排出処理
906:イメージ登録
907:「伝票終了?」判定。
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image input system that determines whether an image such as a slip is normal or abnormal and determines whether an image is correctly input by image processing.
[0002]
[Prior art]
It is required to store the image as data in order to review the processed slip and the like in the future. However, when inputting an image image, there are two types: an abnormality caused by noise, slipping and tearing of the slip, and an abnormality in which a back image is input even though a front image should be input. Both are problematic because the image of the slip is not correctly input. In particular, the method for determining the back image may be, in other words, a method for determining the front image or a method for determining either the front or back. Conventional methods for determining the back image include a method using a bar code printed at a predetermined position (for example, refer to Patent Document 1), or simply counting the number of pixels on the entire surface of the paper sheet. There is a method of determining whether or not the back surface is based on a preset threshold (see, for example, Patent Document 2).
[Patent Document 1]
Japanese Patent Laid-Open No. 9-50482 [Patent Document 2]
JP-A-4-223657 [Problems to be Solved by the Invention]
The front / back determination method using the bar code cannot cope with many kinds of actual slips, that is, atypical slips. In other words, in a distribution system, for example, it is necessary to input images of various non-standard slips at each company, and the front and back images are very diverse. Furthermore, a method that does not depend on the direction or inclination of the slip is desired. The method of Patent Document 2 counts the number of black pixels, and therefore can be applied only to the white back surface as shown in FIG. Further, it is determined whether or not the pixel density is uniform throughout, and the back surface can be determined when it is uniform, but it can be applied only to the determination when it is uniformly colored.
[0003]
[Means for Solving the Problems]
In order to solve the above problems, the outline of the invention disclosed in the present application will be described as follows.
Processing including an image acquisition unit that acquires an image of a slip including a form, a recording unit for the slip image, a determination unit that determines whether the slip image is abnormal, and a display unit that displays a result of the determination unit The slip processing device, wherein the determination unit performs the determination based on a distribution of pixel density for each partial area in the slip image.
[0004]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 is a system configuration diagram of the present invention. In FIG. 1, an input unit 109 is a device for inputting images such as slips and forms, and is an image scanner such as an OCR or an image input system, or an image image input device such as a digital camera. The input control unit 102 is a device that controls the image input. The display unit 110 is a device that displays images and their recognition results, and the display control unit 103 is a device that controls them. The storage device 106 is a device that stores images. The display unit may be a voice output or the like, and may be a notification means that an abnormal slip has been detected by the user. The stacker 111 is a stacker used when a paper-like material such as a slip is ejected outside the system. A plurality of stackers are usually prepared, and can be classified into two types, for example, normal slips and abnormal slips. The stacker control unit 104 controls the operation of the stacker described above. The abnormal form determination unit 105 can determine the front and back of the slip, or can determine an abnormal slip due to tears, noise, or the like.
[0005]
Hereinafter, a slip or a form is an image that is input to an OCR or an image input system, and is a term indicating a general paper-like form such as a slip, a form, or an application form.
Next, the slip will be explained. FIG. 4 is an example of a table image of a slip. The image is a multi-color dropout image. Dropout is a word commonly used in the field of OCR. For example, if it is a red border, the border is removed by the red dropout, and the pattern to be read (in this case, a character) Only the remaining image becomes. In recent years, the design of slips and forms has been diversified, and the colors used are also varied. Such a voucher needs to be dropped out of multiple colors instead of a single color. FIG. 4 shows an image with multiple color dropouts. The characters 402, 407, 405, 404, etc. are left, and the barcode 406 is also left. A punch hole 403 is also left. If the dropout of multiple colors is not perfect, some ruled lines 408 may remain. FIG. 5 is an example of the back image 501. This is an example of the case where black 502 of carbon has a relatively large area. FIG. 6 is also an example of the back image 601 and is an example of a case where the black area due to the carbon 602 is small. FIG. 7 is also an example of the back image 701, which is usually white as in the back image 1001 shown in FIG. 10, but in the example of FIG. 7, noise 702 due to black carbon remains in a relatively large area. Incidentally, the edges 401, 501, 601, 701, 1001 of the slip do not appear in the actual image as black lines. In other words, this is a convenient line for presentation as a diagram. It is possible to assume that the actual image has no line at the edge of these slips, or the background is black as shown in FIG. In the present application, in particular, for the purpose of determining the front and back of the image as disclosed in FIGS. 5 to 7, it is possible to process the image with or without the background.
[0006]
FIG. 2 shows an example of a system flow when the input slip is determined as an abnormal slip. The abnormal slip determination 201 will be described in detail later. If the slip of the slip is large, it is a torn slip, or a slip in which an image is not normally taken due to a torn small piece of paper, This is a process of determining that there is. Further, as will be described later, it is possible to set a reject when the parameters in the front / back determination are within a certain range, and such a reject slip is one of the abnormal slips. Here, the abnormal slip determination includes a case where the back image is taken when the front image should be taken. Of course, some systems may aim to take a back image. When the determination branching unit 202 of the abnormal slip determination 201 does not determine that it is an abnormal slip (“N” in the figure), the flow flows to the slip end determination 209 until the slip input determination 209 eliminates the input slip. The processing from the abnormal slip determination 201 is repeated.
[0007]
When the abnormal slip determination 201 determines that the slip is abnormal (“Y” in the figure), the count processing 203 records the number of abnormal slips. If the number of abnormal slips reaches a predetermined number set in advance, the system stop process 205 is repeated, and if not, the top process is repeated. The prescribed number is arbitrary, and when set to zero, the system is immediately stopped when an abnormal slip occurs. If a certain number of sheets is allowed, the number may be set in advance. In this case, to stop the system means to stop the image input of the slip. Specifically, canceling the image input may be a state in which the system is simply not moved, that is, a state in which the slip remains in the scanner, or the slip may be returned or sent depending on necessity. You may do it. After the system is stopped by the system stop process 205, for example, the display unit 110 is used to display a warning to the user that the system has been stopped due to an abnormal slip. This warning may be a sound such as a buzzer or sound, or information on light such as a scanner or an LED or a flash inside the scanner. Further, after the warning display 206, the user can select whether or not to issue a true system stop request. A true system stop request is a process for discharging a slip remaining inside a scanner or the like. In this case, the abnormal slip is discharged by the abnormal slip discharge 208. With respect to slips that have already been ejected, a list of slip numbers or the like can be displayed on the display unit 110 or the like. The place where the slip is discharged may be the same place as a normal slip, or may be another place for distinction. The place here is called a stacker in the case of OCR. Usually, there are a plurality of stackers, and the stacker to be discharged may be changed according to the degree of abnormality. The user stop request 207 may not be present. In this case, the abnormal slip discharge 208 is immediately after the warning display 206. This series of processing is repeated until there are no more slips. A counter may be provided according to the type of abnormal slip, and the prescribed number may be divided. For example, the number of reject slips may be relatively large, and a certain number of sheets may be discharged to another stacker. However, an abnormal slip such as a tear may need to be immediately stopped.
[0008]
FIG. 3 is an example of a system flow associated with front / back slip determination. Although the processing is almost the same as that in FIG. 2, there is a difference in that the abnormality determination processing is the front / back determination 301 processing. Although details will be described later, the front / back determination 301 may be front / back determination or back determination. Of course, the front or back may be determined at the same time. When the front / back determination 301 determines that the back side, the count process 303 is performed. This system is a system in which a front image is to be input. In contrast, in a system in which a back image is to be input, it goes without saying that the back determination 302 is a front determination. In the following, the above idea applies in all cases. After the count process 303, a slip discharge process 304 is performed. This is the same process as the abnormal slip discharge 208. The slip discharge process 304 may be omitted only by the count process 303. This is because, depending on the system, only the number of sheets may be counted. These series of processes are repeated until there are no slips. When the count is added by the count process 303, the system stop process 308 is performed and the warning display 309 is performed at the end of taking all the slip images. These processes are the same as the warning display 206 and the system stop process 205, respectively. These warning display and system stop processing may be performed in reverse order.
[0009]
Details of the front / back determination are shown in FIG. First, the slip image is divided into meshes of an arbitrary size (1200). In other words, it divides equally vertically and horizontally. Each mesh is, for example, a square of 16 pixels vertically and 16 pixels horizontally. Of course, these sizes vary depending on the size and resolution of the image. Hereinafter, the case of this mesh size will be described. For all meshes in the image, the number of pixels in the mesh is counted for each mesh (1201). The minimum is 0 and the maximum is 256. As described above, the back image has many black or white meshes, and the front image has many intermediate numerical meshes such as characters, barcodes, punch holes, and the like. The front / back determination is performed by dividing the number of pixels in the mesh into three types in this way (1202) and determining how many meshes are in the image. Dividing the number of pixels into three types means, for example, dividing into 0 to 16, 17 to 240, and 241 to 256. The white mesh frequently appears in the back image, the intermediate mesh frequently appearing in the front image, and the black mesh frequently appearing in the back image, respectively. These types of meshes are counted and, of course, normalized by the area of the entire image or the total number of meshes. If there are a number of back meshes within a specified range, it can be determined that the back image, otherwise the front image. For example, since black carbon as shown in FIG. 6 counts black meshes, FIG. 6 enables accurate back determination. On the other hand, for the noise as shown in FIG. 7, the intermediate mesh is counted and may be erroneously determined in the table, and further detailed determination is required. Therefore, in the intermediate mesh, the number of noises is counted, and if it is large, it is determined as a noise mesh (1203) and excluded from the front / back determination, or if the number of noise meshes is large, the slip itself can be rejected as an abnormal slip. In the noise determination method described above, isolated point noise (one pixel in which eight neighboring pixels are all white pixels) is registered as a basic pattern for determination. Furthermore, depending on the size of the slip image, it may correspond to noise even for several pixels, and since it is a value that changes according to the size of the slip image, the above-mentioned noise is not necessarily isolated point noise, It may be a cluster of several pixels. Incidentally, the mesh may of course cover the entire image as described above, but the edge of the slip is often unstable due to inclination, tearing, distortion, and a black background. In many cases, the mesh for such unstable images is not effective for the judgment. Therefore, it is practical to limit the sampling of the mesh to the vicinity of the center of the image or to exclude the periphery of the image. Is effective.
[0010]
So far, in the front / back determination of the present application, the method of dividing into meshes has been disclosed, but the method of dividing into meshes is an example, and the distribution of black pixels (or white pixels) for a certain area in the image is shown. It only needs to be able to analyze. For example, a method may be used in which a plurality of predetermined sampling points measure the pixel density taking into account pixels around the point and analyze their distribution.
[0011]
For example, in the case where there is only a back image as shown in FIG. 5 where there is a pure white back image or a large area of black carbon, a method of simply counting the number of black pixels and determining by any number is effective. However, according to the configuration of the present application, compared to the above method, for example, the conventional method can determine only a uniform back image, but various back images in which carbon black is partially present. Can also be determined.
[0012]
The flow of FIG. 9 on the assumption that it is operated as an actual image input system will be described. The slip take-in process 900, which is not described in FIGS. 2 and 3, is included in the same manner, and is a process for actually taking a slip into the apparatus when inputting the slip image. Here, for example, as shown in FIG. 4, processing of a slip having a barcode on the surface is assumed. Barcode determination 901 is determination processing for detecting a barcode from a front image of a slip, and the method described in JP-A-2001-43308 can be used. If the barcode determination 901 determines that the barcode is present (902), the table image is registered in the system by the image registration 906 because it is a table image. If it is determined that there is no barcode, a front / back determination 903 is performed. The front / back determination 903 is the content of the present invention described later. If the front / back determination 903 determines that the front side is the front side (904), the image registration 906 is executed. If it is determined to be the reverse side, a slip discharge process 905 is executed. The slip discharge process 905 is as described above, and discharges the slip to another stacker. These series of processes are repeated until the slip is completed (907). These series of processes are not necessarily required and may be completed only once. In other words, a system is assumed in which a slip image is input manually by a stand type scanner, a flatbed scanner, a digital camera, a copier, or the like.
[0013]
In an image input system that collects a front image, a mistake that mistakenly determines that the back image is a front surface is the most problematic. One method is to set a reject when it is difficult to determine. For example, when the distribution of the number of black meshes, intermediate meshes, and white meshes described above is taken for each of the front image and the back image, it has a distribution that is highly likely to be both the front and back sides. Is rejected (see FIG. 13). A method of positively determining rejects or front images in the previous stage and determining all remaining images as back images is preferable. This is because the slip image samples are finite, and even if the rejection parameters as described above are set from these images, it is inevitable that erroneous determination will occur. This is because the front image has a relatively stable number of intermediate meshes, whereas the back image has an unstable distribution due to the type of black carbon or noise. In other words, if parameters are tuned with a front image with a stable distribution and all images that deviate from it are determined to be back, either an unknown front image or an unknown back image comes in as input. Since the image can be determined to be the back image, a warning is possible, and the user can check the information sequentially and send it to the system as it is if it is on the front, and flip it over if it is the back and input the front image again. If this is the other way around, the table image to be registered is not input, which is a serious problem. Therefore, the above method is very effective. FIG. 13 shows a specific example. If the intermediate mesh and the black mesh are taken as axes, the distribution of the remaining white mesh is not necessary. This is because the sum of the three types of meshes is invariant, and two of them should be used as parameters. An area “back” represents the distribution of the back slip, and an area “table” represents the distribution of the front slip. In addition to the area where “front” and “back” overlap, the upper right area is also set as the reject area. As described above, since it is an unstable region, it can be said that it is correct to set it as a reject region.
[0014]
FIG. 8 is an example of a front image that is desired to be excluded as abnormal except for front / back determination. As shown in FIG. 8, such a white band 801 is generated when a small paper piece with a torn slip remains in the scanner for an image with a black background. Even if such a table image is registered, for example, an inquiry from the user cannot be answered, so it is necessary to detect the occurrence of such a white band 801 as an abnormality. In the case of an image with a black background, the white band 801 has penetrated to the black background, and according to the configuration of the present application, the detection is performed by looking at the distribution of the positional relationship between the black mesh and the white mesh in detail. Easy. Specifically, a white band can be easily detected by detecting the presence of a white mesh having a certain width in the black background distribution (1204).
FIG. 11 shows another example of an abnormal table image that is an image in which the edge of a slip is cut. If it is a black background, it is easy to detect the ends 1101 and 1105 of the slip, and it is also easy to detect their length, that is, the width 1102 of the slip. If the black background is used, it is easy to detect the portion 1103 where the slip is cut and the length 1104 thereof. Similarly in the vertical direction, detection of 1106 to 1110 is easy. When the length of 1104 for 1102 and 1107 for 1109 is larger than a predetermined value, the edge of the slip is It can be determined that it is torn.
[0015]
There is no problem if the back determination slip discharged to another stacker is actually back, but there is also a slip that is back determined even though it is a front. Even if such a voucher is input again to the system again, there is a high possibility that it will be discharged to another stacker. Therefore, in the actual system, it is effective to input the image by specifying explicitly that the back judgment slip discharged to such another stacker is a front image after aligning the front and back with human eyes. It is. That is, it is necessary to be able to switch the mode without front / back determination according to a user request. Specifically, in FIG. 3, the flow skips 301, 302, 303, 304, 307, 308, and 309. A key or the like for this instruction may be provided in the apparatus. By adding such processing, the accuracy of detecting an abnormal image can be increased.
In order to make the front / back determination more accurate, keywords such as logos and characters, and color information are positively registered, and the information may be used. In general, slips have a pair of images on the front and back, so that information on the pair should be registered. Such information includes the above-described logo, keyword, and color information, and may be arrangement information for the above-described black, white, and intermediate mesh images. If these pieces of information are stored in the storage device in association with the front and back information in advance, they can be used for abnormality determination, and the determination accuracy can be improved.
[0016]
This front / back determination and abnormal slip determination are image processing, and can be mounted on a copier, FAX, ATM, or the like. Since it is possible to determine an abnormal slip or a back slip, a user merit is generated, and thus it is possible to configure a fee collection mechanism. For example, it is a method of collecting a fee for each slip. This need not be taken from the end user and may be received from the purchaser of the device. Alternatively, an additional fee may be charged as an option when selling the device.
[0017]
【The invention's effect】
As described above, according to the present invention, it is possible to stably determine the character type of a character in a document or slip, and to output a highly reliable character recognition result. Become. In particular, according to this method, not only on the uniformly white back surface, but also on various back surfaces where carbon black is partially present, and without depending on the inclination and direction of the paper sheets, Easy to apply.
[0018]
[Brief description of the drawings]
FIG. 1 is a system configuration diagram of the present invention.
FIG. 2 is a system flow associated with abnormal slip determination.
FIG. 3 is a system flow associated with front / back slip determination.
FIG. 4 shows an example of a front image (No. 1).
FIG. 5 shows an example of a back image (part 1).
FIG. 6 is an example of a back image (part 2).
FIG. 7 illustrates an example of a back image (part 3).
FIG. 8 shows an example (part 2) of a front image.
FIG. 9 is a front / back determination system flow with barcode recognition.
FIG. 10 is an example of a back image (part 4).
FIG. 11 shows an example of a front image (No. 3).
FIG. 12 shows details of front / back determination.
FIG. 13 shows an example of parameters for slip front / back determination.
[Explanation of symbols]
101: Central control unit 102: Input control unit 103: Display control unit 104: Stacker control unit 105: Abnormal form determination unit 106: Storage device 109: Input unit 110: Display unit 111: Stacker 201: Abnormal slip determination 202: “Abnormal "?" 203: Count processing 204: "Are the specified number reached?" Determination 205: System stop processing 206: Warning display 207: "User stop request?" Determination 208: Abnormal slip discharge 209: "Slip end?" Judgment 302: “Back?” Judgment 303: Counting process 304: Voucher discharge process 305: “Voucher end?” Judgment 307: “Counting?” Judgment 308: System stop process 309: Warning display 401, 501, 601, 701, 1001: Edges 402, 403, 404, 405, 406, 407 of a slip: Parts 502, 60 constituting a table image : Black portion 702 by carbon 702: Noise 801 by carbon 801: White band noise by torn piece of paper 900: Voucher fetching process 901: Bar code determination 902: “Bar code present?” Determination 903: Front / back determination 904: “Front?” Determination 905 : Slip discharge processing 906: image registration 907: “slip end?” Determination.

Claims (10)

伝票画像取得部と、
該伝票画像の記録部と、
上記伝票画像が表または裏であるかを判定する判定部と、
上記判定手段の結果を表示する表示部とを有し、
上記判定部は、上記伝票画像を複数の部分領域に分割し、該部分領域毎の画素数に基づいて当該部分領域を3種類に分類し、当該3種類の部分領域の出現頻度に基づいて該判定を行うことを特徴とする伝票処理装置。
A slip image acquisition unit;
A recording unit for the slip image;
A determination unit for determining whether the slip image is front or back;
A display unit for displaying the result of the determination means,
The determination unit divides the slip image into a plurality of partial areas, classifies the partial areas into three types based on the number of pixels for each partial area, and based on the appearance frequency of the three types of partial areas. A slip processing apparatus that performs determination.
上記3種類の部分領域は、画素数の多い順に黒メッシュ、中間メッシュ、および白メッシュに分類されることを特徴とする請求項1記載の伝票処理装置。  The slip processing apparatus according to claim 1, wherein the three types of partial areas are classified into a black mesh, an intermediate mesh, and a white mesh in descending order of the number of pixels. 記号又はマークを記録する記録装置をさらに有し、
上記判定部は、上記記号又はマークの有無を判定し、該判定結果も用いて上記判定を行うことを特徴とする請求項1又は2に記載の伝票処理装置。
A recording device for recording the symbol or mark;
The slip processing apparatus according to claim 1 or 2, wherein the determination unit determines the presence or absence of the symbol or mark, and performs the determination using the determination result.
上記判定手段は、上記マークの有無を判定した後に、上記判定を行うことを特徴とする請求項3記載の伝票処理装置。  4. The slip processing apparatus according to claim 3, wherein the determination unit performs the determination after determining the presence or absence of the mark. 上記判定部は、上記中間メッシュについて含まれるノイズの個数をカウントすることにより、ノイズメッシュか否かを判定し、ノイズメッシュの場合は上記判定から除外することを特徴とする請求項2記載の伝票処理装置。  3. The slip according to claim 2, wherein the determination unit determines whether the noise mesh is included by counting the number of noises included in the intermediate mesh, and excludes the noise mesh from the determination. Processing equipment. 上記画像取得部に挿入された伝票を排出するスタッカをさらに有し、
上記裏面であると判定された伝票は、他の伝票と異なる上記スタッカに出力することを特徴とする請求項1乃至5の何れかに記載の伝票処理装置。
A stacker for discharging the slip inserted in the image acquisition unit;
6. The slip processing apparatus according to claim 1, wherein the slip determined to be the back surface is output to the stacker different from other slips.
上記判定部は、上記部分領域の分類結果の位置関係も解析し、黒メッシュの中に帯状に白メッシュが存在する場合には異常伝票として判定することを特徴とする請求項2記載の伝票処理装置。  3. The slip processing according to claim 2, wherein the determination unit also analyzes a positional relationship of the classification results of the partial areas, and determines that the slip is an abnormal slip when a white mesh is present in a black mesh. apparatus. 上記裏面が検出された旨の警告を出力する手段をさらに有することを特徴とする請求項1乃至7の何れかに記載の伝票処理装置。  8. The slip processing apparatus according to claim 1, further comprising means for outputting a warning that the back surface has been detected. 伝票画像を取得し、
上記伝票画像を複数の部分領域に分割し、
該部分領域毎の画素数に基づいて当該部分領域を3種類に分類し、
当該3種類の部分領域の出現頻度に基づいて上記帳票画像が表であるか裏であるかを判定することを特徴とする伝票処理方法をコンピュータに実行させるためのプログラム。
Get the slip image,
The above slip image is divided into a plurality of partial areas,
Based on the number of pixels for each partial area , the partial area is classified into three types,
A program for causing a computer to execute a slip processing method that determines whether the form image is front or back based on the appearance frequency of the three types of partial areas.
上記3種類の部分領域は、画素数の多い順に黒メッシュ、中間メッシュ、および白メッシュに分類されることを特徴とする請求項9記載のプログラム。  10. The program according to claim 9, wherein the three types of partial areas are classified into a black mesh, an intermediate mesh, and a white mesh in descending order of the number of pixels.
JP2003084098A 2003-03-26 2003-03-26 Program for realizing slip processing apparatus and slip processing method Expired - Fee Related JP4443133B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003084098A JP4443133B2 (en) 2003-03-26 2003-03-26 Program for realizing slip processing apparatus and slip processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003084098A JP4443133B2 (en) 2003-03-26 2003-03-26 Program for realizing slip processing apparatus and slip processing method

Publications (2)

Publication Number Publication Date
JP2004295275A JP2004295275A (en) 2004-10-21
JP4443133B2 true JP4443133B2 (en) 2010-03-31

Family

ID=33399331

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003084098A Expired - Fee Related JP4443133B2 (en) 2003-03-26 2003-03-26 Program for realizing slip processing apparatus and slip processing method

Country Status (1)

Country Link
JP (1) JP4443133B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010204907A (en) * 2009-03-03 2010-09-16 Oki Electric Ind Co Ltd Device and method for reading form
JP6421355B2 (en) * 2015-02-13 2018-11-14 住友電工システムソリューション株式会社 Travel information acquisition system, communication terminal device, server device, computer program, travel information acquisition method, and meter panel

Also Published As

Publication number Publication date
JP2004295275A (en) 2004-10-21

Similar Documents

Publication Publication Date Title
JP5133348B2 (en) Paper sheet processing equipment
EP2058770B1 (en) Paper sheet identification device and paper sheet identification method
US8783554B2 (en) Information reading apparatus, commodity sales information processing apparatus, and pasted object
EP3046050A1 (en) Information processing apparatus, pos system and information processing method
WO2014173012A1 (en) Ash deposition detection method and system in financial paper recognition module
JP2010225013A (en) Serial number recognition device, paper sheet processor, automatic transaction processor, and serial number recognition method
WO2014064776A1 (en) Sheet sorting device and sheet management system
KR100999346B1 (en) Ballot paper counter and method
JP5865316B2 (en) Product registration device and program
AU3937000A (en) Automatic recognition of characters on structured background by combination of the models of the background and of the characters
JP4443133B2 (en) Program for realizing slip processing apparatus and slip processing method
CN102271212A (en) Background pattern image combining apparatus, background pattern image combining method, and computer program
JPH0950487A (en) Character reader and method therefor
JP2007072885A (en) Device for discriminating thickness of paper sheets
JP2003288627A (en) Sheet discriminating method and device
WO2019116542A1 (en) Paper sheet contamination assessment device and paper sheet contamination assessment method
JP2019144603A (en) Paper sheet identification device and paper sheet identification method
JP2003087562A (en) Image processor and image processing method
JP2007079792A (en) Paper sheet processor and header card used therefor
JP4153727B2 (en) Status confirmation method and apparatus for ballot paper classification device
JP2006201876A (en) Paper sheet processor
JP3607054B2 (en) Tally paper counting and sorting machine and voting paper counting and sorting machine
JP4253959B2 (en) Media handling device
KR102371479B1 (en) Security management system through image analysis
JP4172447B2 (en) Document image processing device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060308

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20060512

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090623

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090810

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20091029

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091222

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100112

R150 Certificate of patent or registration of utility model

Ref document number: 4443133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130122

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140122

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140122

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140122

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140122

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees