JP4148441B2 - イメージスキャナおよびこれを用いた光学的文字認識装置 - Google Patents

イメージスキャナおよびこれを用いた光学的文字認識装置 Download PDF

Info

Publication number
JP4148441B2
JP4148441B2 JP2000580157A JP2000580157A JP4148441B2 JP 4148441 B2 JP4148441 B2 JP 4148441B2 JP 2000580157 A JP2000580157 A JP 2000580157A JP 2000580157 A JP2000580157 A JP 2000580157A JP 4148441 B2 JP4148441 B2 JP 4148441B2
Authority
JP
Japan
Prior art keywords
personal computer
code information
image
character recognition
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000580157A
Other languages
English (en)
Inventor
光雄 中山
Original Assignee
光雄 中山
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 光雄 中山 filed Critical 光雄 中山
Application granted granted Critical
Publication of JP4148441B2 publication Critical patent/JP4148441B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/142Image acquisition using hand-held instruments; Constructional details of the instruments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/1444Selective acquisition, locating or processing of specific regions, e.g. highlighted text, fiducial marks or predetermined fields
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Character Discrimination (AREA)
  • Character Input (AREA)

Description

本発明はイメージスキャナおよびこれを用いた光学的文字認識装置、より具体的には書類上の任意の領域の文字を光学的に文字認識を行ってパーソナルコンピュータのアプリケーションソフトに文字コードデータとしてデータ入力することを可能としたイメージスキャナおよびこれを用いた光学的文字認識装置に関する。
なお、本明細書で使用する用語「書類」は、本、雑誌、新聞またはパンフレット、名刺等の文字や文章が記述された印刷原稿を意味する。また、本明細書で使用する用語「文字認識」とは、「かな」、「片仮名」、「漢字」、「英数字」等の一般的な文字の認識を意味するだけではなく、例えばバーコード等のような符号であっても、コンピュータで認識してキャラクタデータに変換可能なイメージデータであれば範疇に含むものとする。
背景技術
現在のパーソナルコンピュータとフラット・ベッドあるいはシート・フィード・スキャナ(以下スキャナと称す)とを用いた印刷書類(以下、単に書類と称す)の文字認識装置では、印刷文字の認識作業において以下のような操作を必要とする。
(操作1)…書類スキャン
先ず、スキャナへ書類をセットし、書類をスキャンする。
(操作2)…文字認識
スキャナから送られてきた書類全体のイメージ画像は、パーソナルコンピュータのCRTディスプレイ上に展開され、文字認識ソフトで表示される。文字認識ソフト上で“文字認識させたい範囲”(以下、“意図する領域”と称す)をマウスで指定してから、文字認識ソフトを操作して、“意図する領域゛のイメージ画像データをテキストデータ(文字コードデータ)に変換し、再度CRTディスプレイ上に表示する。
(操作3)…修正
文字認識ソフトの認識結果は、文字認識ソフトに表示された書類のイメージ画像と認識結果であるテキストデータとを突き合わせて、キーボードを用いて修正をする。
(操作4)…アプリケーションへのコピーまたはベースト
次に、この修正されたテキストデータを、マウスを用いてコピーし、ワープロや表計算機能をもつアプリケーションソフトにペーストする。
(反復操作)
認識させたい書類が複数ある場合は、前記操作1から操作4を繰り返す。
書類内に“意図する領域”が複数箇所ある場合は、操作2から操作4までを繰り返す。
このような従来の文字認識装置では、変換した文字コードデータであるテキストデータを他のワープロや表計算機能をもつアプリケーションソフトで利用する場合、文字認識ソフトから利用する部分をカットまたはコピーし、アプリケーションソフトの方にペーストしなければならなかった。すなわち、このような従来技術では、イメージデータから認識した文字コードデータを、文書編集や表計算等で任意の処理中に必要な個所ですぐに利用できないという問題があった。
このような問題を解決するため、例えば特開平7−28801号公報には、イメージデータ中の所要部分の文字認識結果を、他のアプリケーションプログラムによる処理で直接利用できるようにした従来技術が開示されている。すなわち、この従来技術では、文字を含むイメージデータを表示し、その表示したイメージデータの指定された部分を切り出し、その切り出したイメージデータ中の文字を認識して文字コードデータに変換し、その文字コードデータを文書編集または情報処理を行うアプリケーションプログラムに転送する。
一方、現在市販のスキャナの文字認識対象書類の用紙サイズは、大半がA4版(一部A3版)であり、かつ、スキャンは1枚づつ全文を対象に行われる。
しかし、現実の“入力対象の原紙サイズ”は、名刺、書籍から新聞まで種々であり、さらに、“文字認識対象の文字”は、スキャンした書類用紙の全文ではなく、書類の一部または複数箇所に分散している場合が多い。
従来の文字認識方法、つまり特開平7−28801号公報の場合、先ず、文字を含むイメージデータを例えばコンピュータのCRTディスプレイ等に表示する。そして、この表示したイメージデータの中から切り出す個所を指定し、その切り出したイメージデータ中の文字を認識して文字コードデータに変換してから、アプリケーションに転送しなければならなかった。
したがって、“入力対象の文字”が数箇所に別々に点在する場合には、所望の文字以外の部分を大量にスキャニングすることになり、非常に効率が悪かった。また、例えば書類を読みながら必要な部分のみを適宜スキャニングして文字認識を行い、その結果をワープロソフトに転送してデータ入力していくという使い方はできなかった。
さらに、従来技術では文字認識ソフトに取り込まれたイメージデータを例えばCRT上に表示し、操作者がマウス等のポインティングデバイスを用いて認識箇所を範囲指定することでアプリケーションへの直接入力を可能としていた。したがって、アプリケーションへの直接入力までの作業が多くなるという問題もあった。また、文字コードデータに変換された結果は文字認識ソフト上でしか確認することができず、変換した結果を手元で確認してその場で修正または変更を行うことができないという問題もあった。
本発明はこのような従来技術の課題を解決し、書類上の“意図する領域”のみをスキャニングして文字認識を実行できるようにするとともに、文字認識をアプリケーションの背後で行い、その認識結果をアプリケーションへ直接入力可能なイメージスキャナおよびこれを用いた光学的文字認識装置を提供することを目的とする。
発明の開示
本発明は上記目的を達成するために、書類上で取り込み位置決めと確認ができ、文字認識はアプリケーションの背後で行い、その認識結果をアプリケーションへ直接入力できるようにしたものである。
本発明によるイメージスキャナは、書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込むイメージセンサと、このイメージセンサによりスキャニングしたイメージ情報を外部に出力する出力部と、この出力部により外部に出力されたイメージ情報の文字認識結果を入力する入力部と、この入力部で入力した文字認識結果を表示する表示部とを有する。このイメージスキャナは、書類上の文字情報の中から文字認識を行う領域を任意に指定できるように書類上を移動可能であり、指定した領域の文字認識結果を表示部に表示することにより、スキャニングした書類上の文字イメージの変換結果を手元で確認できる。
また、本発明による光学的文字認識装置はイメージスキャナとパーソナルコンピュータとにより構成される。イメージスキャナは、書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込むイメージセンサと、このイメージセンサによりスキャニングしたイメージ情報をパーソナルコンピュータに出力する出力部と、この出力部によりパーソナルコンピュータに出力されたイメージ情報の文字認識結果をパーソナルコンピュータから入力する入力部と、この入力部で入力した文字認識結果を表示する表示部と、この表示部で表示した文字認識結果の確定の有無を行う操作部とを有する。このイメージスキャナは、書類上の文字情報の中から文字認識を行う領域を任意に指定できるように書類上を移動可能である。また、指定した領域の文字認識結果を表示部に表示することによりスキャニングした書類上の文字情報の変換結果を手元で確認できるとともに、操作部により変換結果の確定が行われるとその旨をパーソナルコンピュータに通知する。パーソナルコンピュータは、少なくとも1つのアプリケーションソフトウェアと、イメージスキャナの出力部より出力されたイメージ情報の文字認識を行う文字認識ソフトウェアとを搭載する。そして、イメージセンサによりスキャニングしたイメージ情報を入力すると、文字認識ソフトウェアにより解析した文字認識結果をイメージスキャナに送信する。イメージスキャナより変換結果の確定の通知を入力すると、アプリケーションソフトウェアの指定された位置に確定された文字データが入力される。
さらに、本発明によるデータ入力方法、すなわちパーソナルコンピュータで動作するワープロソフトや表計算ソフトまたはデータベースソフト等のアプリケーションソフトにおけるデータ入力方法の処理シーケンスを以下に説明する。書類上の文字情報の中から文字認識を行う領域を任意に指定できるように書類上を移動可能なイメージスキャナによりスキャニングすると、スキャニングしたイメージデータがパーソナルコンピュータに送信される。パーソナルコンピュータがこのイメージデータを受信すると、データ入力を行うアプリケーションソフトの背後で動作している、文字認識ソフトによりイメージデータの文字認識を行って該当する文字コードデータをビットマップ形式でイメージスキャナに送信する。イメージスキャナが文字コードデータを受信すると、この文字を表示部に表示し、この表示された文字コードデータの確定操作が行われると、パーソナルコンピュータに文字コードデータの確定を通知する。パーソナルコンピュータが文字コードデータの確定の通知を受信すると、アプリケーションソフトにこの文字コードデータが入力される。
発明を実施するための最良の形態
次に添付図面を参照して本発明によるイメージスキャナおよびこれを用いた光学的文字認識装置の実施の形態を詳細に説明する。
図2を参照すると、本発明によるイメージスキャナをスキャナマウスとしたときの光学的文字認識装置の実施の形態を示すシステム構成図が示されている。図2において、パーソナルコンピュータ10は、高速双方向通信パスであるユニバーサルシリアルバス(Universal Serial Bus,以下USBと称す)に対応した、例えばマイクロソフトのオペレーションシステムであるWindows98等が動作する一般的なコンピュータである。
パーソナルコンピュータ10は、ワープロソフト、表計算ソフトまたはデータベースソフト等のアプリケーションソフトが動作するとともに、文字認識ソフトがアプリケーションソフトの背後(バックグラウンド)で動作する。すなわち、本実施の形態において、パーソナルコンピュータ10で文字認識ソフトが動作している状態でも、使用者にはアプリケーションソフトしか動作していないように見え、文字認識ソフトで認識された文字コードデータは恰もキーボードから入力されたのと同様にアプリケーションソフトに入力される。
また、パーソナルコンピュータ10は、本体にCRTディスプレイまたはLCD(Liquid Crystal Display)等の表示部およびキーボードが接続されている。さらに、パーソナルコンピュータ10の本体にはUSBのコネクタが搭載され、USBケーブル50を介してスキャナマウス20に接続されている。このように、パーソナルコンピュータ10とスキャナマウス20とをUSBにより接続することで、この間での高速双方向通信が可能になるとともに、スキャナマウス20に対してパーソナルコンピュータ10より電源を供給することが可能となる。
スキャナマウス20は、パーソナルコンピュータ10のポインティングデバイスとして機能するマウスと、書類を光学的にスキャンしてそのイメージデータを出力するスキャナとが一体化された装置である。スキャナマウス20は、底面に書類を光学的にスキャンするイメージセンサを備えており、書類上の所望の位置に移動することが可能である。したがって、スキャナマウス20を文字認識を行いたい書類上の“意図する領域”に移動することで、必要な個所の文字等をスキャニングすることができる。
スキャナマウス20は、スキャニングした書類上の“意図する領域”のイメージデータを、USBケーブル50を介してパーソナルコンピュータ10に送信する。パーソナルコンピュータ10は、イメージデータを受信すると、文字認識ソフトで文字認識を行い、その文字認識結果である文字コードをUSBケーブル50を介してスキャナマウス20に送信する。スキャナマウス20は文字コードを受信すると、該当する文字をLCD26に表示する。
このように、スキャニングした領域の文字認識結果はLCD26にほぼリアルタイムで表示されるので、認識結果の良否をスキャニングと同時に確認することが可能となる。したがって、文字認識を行う“意図する領域”の位置決め(開始箇所や終了箇所)を含め、スキャニング時点で“意図する領域”の位置の変更やイメージデータを取り込み際の設定値(2値化のしきい値等)の変更を行うことができる。
すなわち、本実施の形態ではパーソナルコンピュータの性能向上による文字認識の高速化とUSBのデータ転送速度の高速性を利用して、“意図する領域”を指定する際、スキャナを僅かに動かして文字認識の開始箇所と終了箇所の位置決め等を表示部26で確認できるので、“意図する領域”が指定されていなければこの時点でやり直すことが可能である。また、パーソナルコンピュータ10が、音声合成を行うアプリケーションを搭載していれば、文字認識結果を音声出力することで使用者は表示部26を確認すること無く認識結果を知ることができる。
なお、“意図する領域”が指定されていることが確認でき、認識結果を確定する確定処理がスキャナマウス20で行なわれると、パーソナルコンピュータ10上で動作しているワープロソフトや表計算ソフト等のアプリケーションソフトのカーソルの位置に、この認識結果が直接入力される。このとき、本実施の形態ではアプリケーションソフトウェアの誤認識箇所の修正をやりやすくするため、アプリケーションソフトウェアに送った文字認識結果の元のイメージデータをパーソナルコンピュータ10上に表示する。したがって、例えば認識結果の中に“誤認識箇所”があっても、このイメージデータを参照しながらアプリケーションソフト上でキーボード等により容易にその箇所の修正を行うことが可能である。
また、パーソナルコンピュータ10に、例えば特公平7−82353号公報に記載されているような音声認識を行うアプリケーションを搭載し、アプリケーションソフト上で“誤認識箇所”を音声にて修正できるようにすれば、コンピュータ10の操作に不慣れな使用者でも簡単に修正を加えることが可能となる。
図1は図2に示したパーソナルコンピュータ10とスキャナマウス20の機能ブロック図を示したものである。図1において、スキャナマウス20は、マウスおよびイメージセンサ回路22、インタフェース回路24、LCD26およびUSBマイクロコントローラ28により構成されている。なお、本実施の形態において、スキャナマウス20はスキャニングしたイメージデータを蓄積することも出来るが、通常はPCと接続してスキャニングしたイメージデータを蓄積することもなくリアルタイムでパーソナルコンピュータ10に高速出力する。
マウスおよびイメージセンサ回路22は、パーソナルコンピュータのポインティングデバイスとして機能するマウスと、書類の画像をイメージデータとして認識するイメージセンサとを含んだ回路である。マウスおよびイメージセンサ回路22はまた、マウスの位置信号をスキャナの位置信号として利用する位置センサ回路を備えている。マウスおよびイメージセンサ回路22は、インタフェース回路24と接続され、マウスにより検出した位置情報やイメージセンサにより取り込んだイメージデータを、シリアルデータ(Serial Data)としてインタフェース回路24に出力する。マウスおよびイメージセンサ回路22はまた、インタフェース回路24と制御信号(Control)の送受信も行う。
インタフェース回路24は、マウスおよびイメージセンサ回路22およびLCD26とUSBマイクロコントローラ28とのインタフェースをとる回路である。すなわち、インタフェース回路24はマウスにより検出した位置情報をリアルタイムでUSBマイクロコントローラ28に通知するとともに、このコントローラ28よりスキャニング開始、終了、確定等の命令を受けると、マウスおよびイメージセンサ回路22にこれを通知する。また、インタフェース回路24は、USBマイクロコントローラ28を介して、LCD26に文字表示を行う制御データを受信すると、LCD26にこの制御データ(FFC)を出力する。この制御データによりLCD26には該当する文字が表示される。
USBマイクロコントローラ28は、スキャナマウス20の全体を制御する制御部とUSBによりデータの送受信を行うためのUSBコントローラとを備えた制御回路である。USBマイクロコントローラ28は、USBケーブル50を介してパーソナルコンピュータ10のUSBドライバ12に接続され、イメージセンサにより取り込んだイメージデータをパーソナルコンピュータ10に送信する。また、USBマイクロコントローラ28は、パーソナルコンピュータ10より文字コードデータを受信すると、LCD26の文字表示を行うための制御データをインタフェース回路24に出力する。
パーソナルコンピュータ10は、OS(Operating System)レベルで制御されるカーネル層(Kernel Layer)のUSBドライバ12と、アプリケーションレベルで制御されるユーザ層(User Layer)のユーザインタフェース14とにより構成されている。なお、同図においてユーザインタフェース14には、イメージデータにおける文字認識処理の流れが示されている。すなわち、ユーザインターフェース14では、USBドライバを介してスキャナマウス20より受信したイメージデータを取り込むと(140)、このデータをリアルタイムで例えばビットマップ(BMP)等の画像データに変換し(142)、日本語文字認識処理を行う(144)。
この処理144でスキャナマウス20より受信したイメージデータは日本語文字の文字コードデータに逐次変換され、ファイルに保存される(146)。そして、ファイルに保存された文字コードデータはビットマップ形式でほぼリアルタイムでLCDデータの送信処理が行われ(148)、USBドライバ12を介してスキャナマウス20に送られる。この結果、スキャナマウス20でスキャニングしたイメージデータは、パーソナルコンピュータ10によりリアルタイムでキャラクタデータに変換され、スキャニングした変換結果がほとんどスキャニングと同時にLCD26に表示される。
図3および図4は図1および図2に示したスキャナマウス20の上面図および側面図である。図3に示すように、スキャナマウス20は、内部にイメージセンサを備えたスキャナ30、ローラ32、マウスボール34およびスキャナマウス20の全体を制御する制御回路36が配設されている。図3におけるスキャナ30、ローラ32およびボール34が図1におけるマウスおよびイメージセンサ回路22に、図3における制御回路36がインタフェース回路24およびUSBマイクロコントローラ28にそれぞれ相当する。なお、スキャナ30は、「光源」と「イメージセンサ」を一体化した接触型イメージ画像センサであり、複雑な漢字が認識可能なように400dpi以上の高感度イメージセンサが用いられている。
スキャナマウス20はまた、上面の上部にLCD26が配置されるとともに、さらに2つないし3つのマウスボタン44が上面に配設され左ボタンはスキャニングをスタートするスタートボタン40が、右ボタンはLCD26に表示された文字を確定する確定ボタン42として、それぞれ配設されている。スキャナマウス20はまた、本体表面の左右両側にスキャンエリアを示すスキャンエリア表示46aと46bとがプリントされている。このように、スキャナマウス20の左側と右側にスキャンエリアを示す目印を付けることにより、スキャニングを行う書類上の位置合わせを容易に行うことが可能となる。
図4はスキャナマウス20の左側面を示した構造図である。図4に示すように、スキャナマウス20は、LCD26の視認性が向上するように前部に傾斜面が形成されているとともに、マウスを把持しやすいように後部には丸みが形成されている。また、スキャナマウス20がポインティングデバイスであるマウスとして機能する場合には、ローラ32はボール34の動作に影響を与えないようにボール34よりやや上部に配置されている。
なお、特に記載はしなかったが、スキャニングの日本語/英語の選択、文字/画像入力の選択等の調整は、パーソナルコンピュータ10で行うか、スキャナマウス20にこれらの調整を行う操作ボタンを設けるか、または両方できるようにしてもよい。また、文字認識を行う“意図する領域”の位置決めを容易にするため、スキャンエリア表示46a,46bの代わりに、上部から書類を覗く窓をスキャナ30の幅で設けてもよい。
以下、図3および図4を用いてスキャナマウス20のスキャニング時の動作を説明する。スキャニング処理はスキャニングボタン40が押下されている状態のときに行われる。すなわち、スキャニングスタートボタン40が押下されると、スキャナマウス20は光源(図示せず)より照射光を書類に照射し、スキャナ用センサ30による画像のスキャニングを開始する。
スキャナ30は書類に対して垂直になるように配置されているので、図2の矢印100に示す方向にスキャナマウス20を移動することでイメージデータの取り込みが行われる。取り込んだイメージデータは制御回路36に出力され、USBプロトコルによってUSBケーブル50を介してパーソナルコンピュータ10に送信される。制御回路36はまた、パーソナルコンピュータ10より文字コードデータを受信すると、これに該当する文字を内蔵するメモリより呼出してLCD26に表示する。
このとき、LCD26上には“認識したテキスト”の“最初と最後の線”を表示する。LCD26上の文字の表示は、スキャナ30の動作方向に関係させる。具体的には、スキャナ30を左から右に移動させた場合、LCD26上の文字、すなわち認識結果を示す文字は先ず右端に現れる。そして、認識文字数が増えるにしたがって、右端から左端に向けて移動しながら文字の表示数が増えていく。これにより、認識された最初の文字が表示されてから消えるまでの時間がある程度あるので、位置決め確認を容易に行うことが可能となる。この結果、“意図する領域”の指定と確認、すなわち入力開始箇所と終了位置を決める作業が、操作者の手元で、原稿に注意を集中させながら行うことが可能となる。
このようにLCD26上に表示された文字が確認された後、これを確定するスキャニング確定ボタン42の押下を制御回路36が検出すると、文字コードデータの確定処理が行われたことを、USBケーブル50を介してパーソナルコンピュータ10に通知する。この通知をパーソナルコンピュータ10が受信すると、現在動作中のアプリケーションソフトにこの文字コードデータが直接入力される。
なお、上記のスキャニングの動作説明では、スキャニングスタートボタン40を押下している間スキャニングが行われるとしたが、例えばスキャニングスタートボタン40を一度押すとスキャニングモードになり、もう一度押すとスキャニングモードが解除されるようにしていもよい。この場合には、スキャニングスタートボタン40の最初の押下でローラ32が書類面に接する位置まで下がり、次の押下でローラ32が元の位置に引っ込む。また、上記のようなスキャニングスタートボタン40やスキャニング確定ボタン42を用いずにマウスボタン44でこれらの代わりをするようにしてもよい。
図5はパーソナルコンピュータ10とスキャナマウス20における処理の流れを示した処理シーケンスを示したものである。なお、同図において、処理200、202、204、206および210は上記した説明と重複するので、ここではイメージファイルの文字認識処理を行った後に(206)、アプリケーションソフトに文字認識したテキストファイルを出力する処理208の一具体例を説明する。
アプリケーションソフトに文字認識したテキストファイルを出力する場合、Windows関数である“WinExec()”を用いて、MS−Word型アプリケーションに入力する。このWinExec()関数のシンタックスは以下の通りである。
Figure 0004148441
なお、LPCSTR IpCmdLineは、“WinWord(MS−WORD)”アプリケーションの実行ファイルのパス名であり、この部分を変えることで任意のアプリケーションファイルを指定することが可能となる。
本実施の形態では、日本語文字認識処理からの文字コードデータであるテキストコードデータは、形式を変えずにアプリケーションソフトに入力される。キーボードを用いた通常の入力との相違は、キーボード入力では入力データをオペレーティングシステムが受け取ってアプリケーションに適したコード形式にするのに対して、本実施の形態では上記のようにWindows関数を幾つか使用することにある。本実施の形態ではまた、アプリケーションに単文字入力は行わず、一度に文字ブロックまたは文字列をアプリケーションソフトにテキスト入力する。このような処理を行うことにより、キーボード入力を含む他の方法よりも高速にアプリケーションに対してテキスト入力を行うことが可能となる。
なお、上記実施の形態の場合にはアプリケーションが変更なると実行ファイルのパス名を切り換える必要がある。このため、操作者はアプリケーションを意識しなければならない。図6はこの点を改善した実施の形態を示したものであり、パーソナルコンピュータ10における処理の流れを示している。
オペレーティングシステム600は、ハードウェアとソフトウェアの動作を総合的に管理・判断する基本ソフトウェアである。
すなわち、オペレーティングシステム600は、スキャナマウス20より送られてきたイメージデータを入力すると、バックグランウンドで動作している文字認識ソフトウェア610にこのイメージデータを出力する。また、オペレーティングシステム600は、キーボード17から入力されたスキャンコードをIMM(Input Method Manager)630に渡し、そこで文字コードに変換して、ディスプレイ15に画面表示が行われるように制御する。
オペレーティングシステム600で、IME(Input Method Editor)620はIMM630に呼び出されて、キーボードから入力されたスキャンコードを日本語等の2バイト系のアジア言語の文字コードに変換するプログラムである。英語の場合は、キーボードから入力されたスキャンコードはIMM630により文字コードに変換される。
したがって、Windows98では、文字コードをアプリケーションに入力する場合、IMM630がオペレーティングシステム600、文字認識ソフトウェア610、日本語かな漢字変換ソフトウェアIME620とアプリケーションプログラム640間に介在する。
したがって、IMM630を用いれば、文字認識ソフトウェア610のテキストファイルの文字コードをアプリケーションに直接出力することができる。その場合、一度に文字ブロックまたは文字列を運ぶWN_ME_REPORTメッセージや1文字ずつに分解して運ぶWN_CHARやWN_IME_CHARメッセージを利用する。このようにIMM630を用いれば、アプリケーションによって使用する実行ファイルの切り換えが不要となる。
なお、IMMはIMM32DLL又はWINNLS.DLLという名前でWindowsのシステムフォルダに入っている。
なお、上記実施例では本発明によるイメージスキャナをスキャナマウスに適用した場合を説明したが、本発明は特にスキャナマウスに限定されるものではない。図7はイメージスキャナの他の実施の形態を示した斜視図である。図7に示したイメージスキャナ70は書類上の“意図する領域”に載せるだけでその部分の文字認識が行える面タイプのイメージスキャナである。なお、この実施の形態においても図1に示した機能ブロックはそのまま適用することができる。
図7(a)はイメージスキャナ70を上から見たときの上面図である。図7(a)に示すように、イメージスキャナ70は、大きさが例えば葉書程度の矩形状の大きさであり、上面は認識結果を表示するフィルム液晶日本語表示パネル72になっている。また、フィルム液晶日本語表示パネル72の左下にはスキャニングを開始するボタン73が配設されている。
コンタクトイメージセンサ74は、「光源」と「イメージセンサ」を一体化したイメージセンサであり、滑動部75a,75bに取り付けられている。滑動部75a,75bはレール76a,76bに摺動可能なように嵌合されている。コンタクトイメージセンサ74はまた、駆動プーリ80と従動プーリ82間に張設されたベルト78に固定部材84により固定されている。したがって、コンタクトイメージセンサ74は、駆動プーリ80が時計方向または反時計方向に回転することによって、矢印700a,700bに示す方向に動くことができる。
すなわち、ボタン73が押下されると、左端に位置していたコンタクトイメージセンサ74は、駆動プーリ80の時計方向の回転によって矢印700aの方向の移動を開始して真下に置かれた原稿のスキャニングを開始する。このイメージセンサ74の移動距離は、センサの横に配設されたエンコーダ(図示せず)によりデジタル信号化される。また、縦方向のスキャニングはセンサ内の電気信号によって行われる。縦方向および横方向のデジタル信号はともにイメージセンサ回路20(図1参照)に送られる。
このイーメージスキャナ70の場合もUSBケーブルによりパーソナルコンピュータ10に接続され、以下の処理は実質的にスキャナマウス20の場合と同じである。なお、イメージスキャナ70では、スキャナマウス20のように手でスキャンする範囲を移動させるのではなく、イメージセンサを書類に置いてコンタクトイメージセンサ74が移動する。したがって、“意図する領域”のイメージのスキャニングを安定して行うことができる。
なお、本実施の形態では、本発明が有利に適用されるWindows98を例に説明したが、本発明に適用可能なオペレーティングシステムは特にWindows98に限定されることなく、Windows CE,Apple Machintosh等のオペレーティングシステムにも、本発明による技術的思想はそのまま適用可能である。
産業上の利用可能性
このように本発明によれば、使用者は手元でペン等を扱うのと同じように、手元の書類上で必要個所のみの文字認識を行うことができる。また、文字認識を行うソフトウェアをアプリケーションソフトウェアの背後で動作させることで、認識した文字の文字コードデータをこのアプリケーションソフトウェアに直接データ入力することができる。したがって、本発明を用いれば、書類を見ながらキーボード等で文字データの入力を行うのと同じ感覚で、書類内の所望の文字を文字データ化することができるので、使用者の文字入力の作業を大幅に軽減することが可能となる。
【図面の簡単な説明】
図1は、本発明による光学的文字認識装置の実施の形態を示す機能ブロック図である。
図2は、図1に示した光学的文字認識装置のシステム構成図である。
図3は、図1に示したスキャナマウスの構造を示す上面図である。
図4は、図1に示したスキャナマウスの構造を示す左側面図である。
図5は、図1に示した光学的文字認識装置の処理の流れを示すシーケンス図である。
図6は、文字認識結果のテキストデータをアプリケーションに直接入力する処理の他の実施の形態を示す説明図である。
図7は、本発明によるイメージスキャナの他の実施の形態を示す斜視図である。

Claims (11)

  1. 少なくとも1つのアプリケーションソフトウェアとその背後で動作する文字認識ソフトウェアとを搭載したパーソナルコンピュータとの間で情報の授受を行うイメージスキャナであって、
    任意に指定された領域の書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込むイメージセンサ部と、
    取り込んだイメージ情報をコード情報として認識することなく前記パーソナルコンピュータに出力する出力部と、
    前記文字認識ソフトウェアにより前記イメージ情報をコード情報として認識し、認識されたコード情報を前記パーソナルコンピュータから入力する入力部と、
    前記入力部に入力されたコード情報を表示する表示部と、
    前記表示部に表示されたコード情報の確定操作を行う操作部と、
    前記パーソナルコンピュータに搭載されたアプリケーションソフトウェア上でカーソル位置を指定するポインティングデバイス機能を備え、
    前記確定操作に応答して、現在動作中のアプリケーションソフトウェアによって表示された表示画面における前記ポインティングデバイス機能により指定されたカーソル位置に、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報に基づく文字情報を表示する旨の通知を、前記出力部を介して前記パーソナルコンピュータに出力することを特徴とするイメージスキャナ。
  2. 請求項1に記載のイメージスキャナにおいて、このイメージスキャナは、前記ポインティングデバイス機能をマウスとしたスキャナマウスであることを特徴とするイメージスキャナ。
  3. 請求項2に記載のイメージスキャナにおいて、前記マウスの位置信号又はイメージセンサの位置信号をスキャナの位置信号として利用するセンサ回路を有することを特徴とするイメージスキャナ。
  4. 請求項1に記載のイメージスキャナにおいて、このイメージスキャナは、高速双方向通信バスにより前記パーソナルコンピュータと接続されることを特徴とするイメージスキャナ。
  5. 請求項1に記載のイメージスキャナにおいて、
    前記コード情報は前記表示部にリアルタイムで表示され、
    前記確定操作が行なわれるまでは前記コード情報の修正を可能とすることを特徴とするイメージスキャナ。
  6. 文字認識ソフトウェアと少なくとも1つのアプリケーションソフトウェアとを搭載したパーソナルコンピュータと、このパーソナルコンピュータとの間で情報の授受を行うイメージスキャナとにより構成される光学的文字認識装置において、
    前記イメージスキャナは、
    任意に指定された領域の書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込むイメージセンサ部と、
    取り込んだイメージ情報をコード情報として認識することなく前記パーソナルコンピュータに出力する出力部と、
    前記文字認識ソフトウェアにより前記イメージ情報をコード情報として認識し、認識されたコード情報を前記パーソナルコンピュータから入力する入力部と、
    前記入力部に入力されたコード情報を表示する表示部と、
    前記表示部に表示されたコード情報の確定操作を行う操作部と、
    前記パーソナルコンピュータに搭載されたアプリケーションソフトウェア上でカーソル位置を指定するポインティングデバイス機能を備え、
    前記確定操作に応答して、現在動作中の前記アプリケーションソフトウェア上で前記ポインティングデバイス機能により指定されたカーソル位置に、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報を挿入する旨の通知を、前記出力部を介して前記パーソナルコンピュータに出力するものであり、
    前記パーソナルコンピュータは、
    前記イメージスキャナのポインティングデバイス機能により、パーソナルコンピュータ上で動作するアプリケーションソフトウェア上にカーソル位置を設定し、
    前記イメージスキャナから受信したイメージ情報を前記文字認識ソフトウェアによりコード情報として認識し、このコード情報をパーソナルコンピュータ内に保存するとともに、前記イメージスキャナに対して出力し、
    前記イメージスキャナの確定操作に伴いイメージスキャナから受信したコード情報の挿入通知に従い、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報に基づく文字情報を、現在動作中のアプリケーションソフトウェアによって表示された表示画面における前記ポインティングデバイス機能により指定されたカーソル位置に表示することを特徴とする光学的文字認識装置。
  7. 請求項6に記載の光学的文字認識装置において、
    前記少なくとも1つのアプリケーションソフトウェアは音声合成ソフトウェアを含み、前記コード情報を該当する音声情報に変換して出力することを特徴とする光学的文字認識装置。
  8. 請求項6に記載の光学的文字認識装置において、
    前記少なくとも一つのアプリケーションソフトウェアは音声認識ソフトウェアを含み、音声による修正命令に応答して前記コード情報の修正を行うことを特徴とする光学的文字認識装置。
  9. 請求項6に記載の光学的文字認識装置を使用したパーソナルコンピュータに搭載されたアプリケーションソフトウェアに対するデータ入力方法であって、
    前記イメージスキャナのポインティングデバイス機能により、パーソナルコンピュータ上で動作するアプリケーションソフトウェア上でカーソル位置を設定し、
    前記イメージスキャナにより、任意に指定された領域の書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込んでコード情報として認識することなく前記パーソナルコンピュータに送信し、
    前記文字認識ソフトウェアを現在動作中の前記少なくとも1つのアプリケーションソフトウェアの背後で動作させ、受信した前記イメージ情報の文字認識を行ってコード情報に変換して、このコード情報を前記パーソナルコンピュータに保存するとともに、前記パーソナルコンピュータから前記イメージスキャナに送信し、
    前記イメージスキャナは受信した前記コード情報を表示し、
    前記イメージスキャナに設けられた操作部に対する確定操作に応答して、現在動作中の前記アプリケーションソフトウェア上で前記ポインティングデバイス機能により指定されたカーソル位置に、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報を挿入する旨の通知を、前記出力部を介して前記パーソナルコンピュータに出力し、
    前記イメージスキャナから受信したコード情報の挿入通知に従い、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報に基づく文字情報を、現在動作中のアプリケーションソフトウェアによって表示された表示画面における前記ポインティングデバイス機能により指定されたカーソル位置に表示することを特徴とすることを特徴とするデータ入力方法。
  10. 請求項9に記載のデータ入力方法において、
    前記少なくとも1つのアプリケーションソフトウェアは、前記コード情報をオペレーションシステムで2バイト系のアジア言語を使用可能とさせるプログラムソフトウェアを含み、前記コード情報を前記プログラムソフトウェアを介して現在動作中の前記少なくとも1つのアプリケーションソフトウェアに入力することを特徴とするデータ入力方法。
  11. 請求項9に記載のデータ入力方法において、
    前記コード情報と前記イメージ情報とが共に前記パーソナルコンピュータの表示画面に表示され、表示された前記イメージ情報を参照しつつ前記コード情報の修正を行うことを特徴とするデータ入力方法。
JP2000580157A 1998-10-29 1999-10-27 イメージスキャナおよびこれを用いた光学的文字認識装置 Expired - Fee Related JP4148441B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP30894598 1998-10-29
PCT/JP1999/005945 WO2000026851A1 (fr) 1998-10-29 1999-10-27 Scanner d'image et dispositif de reconnaissance optique de caracteres mettant en oeuvre ledit scanner

Publications (1)

Publication Number Publication Date
JP4148441B2 true JP4148441B2 (ja) 2008-09-10

Family

ID=17987155

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000580157A Expired - Fee Related JP4148441B2 (ja) 1998-10-29 1999-10-27 イメージスキャナおよびこれを用いた光学的文字認識装置

Country Status (6)

Country Link
US (2) US6901166B1 (ja)
EP (1) EP1126404B1 (ja)
JP (1) JP4148441B2 (ja)
DE (1) DE69938395T2 (ja)
TW (1) TW452746B (ja)
WO (1) WO2000026851A1 (ja)

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4278918B2 (ja) * 2002-04-19 2009-06-17 富士通株式会社 画像データ処理装置とその方法
CN100419785C (zh) * 2004-04-08 2008-09-17 佳能株式会社 基于网络服务应用的光学字符识别系统和方法
US20060092290A1 (en) * 2004-10-28 2006-05-04 Demeo Dana C Device and method for acquiring data from non-camera type acquisition device using a camera port
JP2007180789A (ja) * 2005-12-27 2007-07-12 Brother Ind Ltd 複写機能付画像形成装置
JP2008252553A (ja) * 2007-03-30 2008-10-16 Brother Ind Ltd 画像処理装置
JP4906685B2 (ja) * 2007-11-14 2012-03-28 キヤノン株式会社 撮像装置、その制御方法及びプログラム
JP2010154088A (ja) * 2008-12-24 2010-07-08 Seiko Epson Corp 位置と画像とを対応付ける画像処理
JP2011029832A (ja) 2009-01-06 2011-02-10 Seiko Epson Corp 原稿読み取り装置
US8441695B2 (en) 2009-05-20 2013-05-14 Dacuda Ag Handheld scanner with high image quality
US8582182B2 (en) * 2009-05-20 2013-11-12 Dacuda Ag Automatic sizing of images acquired by a handheld scanner
US8441696B2 (en) 2009-05-20 2013-05-14 Dacuda Ag Continuous scanning with a handheld scanner
US8339467B2 (en) 2010-03-25 2012-12-25 Dacuda Ag Synchronization of navigation and image information for handheld scanner
US9300834B2 (en) * 2009-05-20 2016-03-29 Dacuda Ag Image processing for handheld scanner
US20100296133A1 (en) * 2009-05-20 2010-11-25 Dacuda Ag Mode switching in a handheld scanner
KR101052933B1 (ko) * 2009-07-27 2011-08-01 미루데이타시스템 주식회사 우편물 자동 처리장치
US8531401B2 (en) * 2009-08-13 2013-09-10 Hewlett-Packard Development Company, L.P. Computer accessory device
US8243985B2 (en) * 2010-02-05 2012-08-14 Seiko Epson Corporation Bit pattern design for visible watermarking
US8300882B2 (en) * 2010-02-05 2012-10-30 Seiko Epson Corporation Data adaptive message embedding for visible watermarking
US8194918B2 (en) * 2010-02-05 2012-06-05 Seiko Epson Corporation Embedded message extraction for visible watermarking
US8497840B2 (en) 2010-03-25 2013-07-30 Dacuda Ag Computer peripheral for scanning
US8682075B2 (en) 2010-12-28 2014-03-25 Hewlett-Packard Development Company, L.P. Removing character from text in non-image form where location of character in image of text falls outside of valid content boundary
TWI415008B (zh) 2011-01-25 2013-11-11 Pixart Imaging Inc 影像感測模組與光學感測系統
JP5697148B2 (ja) * 2011-04-19 2015-04-08 光雄 中山 マウススキャナシステム
KR101809750B1 (ko) * 2011-06-22 2018-01-18 엘지전자 주식회사 스캔 이미지 편집 방법, 이의 표시기기
KR101830870B1 (ko) * 2011-06-22 2018-02-21 엘지전자 주식회사 스캔 이미지 표시 방법, 이의 표시기기 및 스캔 영역 지정 방법 및 이의 입력 기기
TW201400969A (zh) * 2012-06-27 2014-01-01 Univ Ming Chuan 視覺輔助方法及裝置
US8873892B2 (en) * 2012-08-21 2014-10-28 Cognex Corporation Trainable handheld optical character recognition systems and methods
US10068153B2 (en) 2012-08-21 2018-09-04 Cognex Corporation Trainable handheld optical character recognition systems and methods
US10402661B2 (en) 2013-07-22 2019-09-03 Opengate Development, Llc Shape/object recognition using still/scan/moving image optical digital media processing
EP3039617B1 (en) 2013-08-31 2020-05-20 ML Netherlands C.V. User feedback for real-time checking and improving quality of scanned image
EP3089101A1 (en) 2013-12-03 2016-11-02 Dacuda AG User feedback for real-time checking and improving quality of scanned image
US10410321B2 (en) 2014-01-07 2019-09-10 MN Netherlands C.V. Dynamic updating of a composite image
EP3092790B1 (en) 2014-01-07 2020-07-29 ML Netherlands C.V. Adaptive camera control for reducing motion blur during real-time image capture
US10484561B2 (en) 2014-05-12 2019-11-19 Ml Netherlands C.V. Method and apparatus for scanning and printing a 3D object
JP7176272B2 (ja) * 2018-07-26 2022-11-22 富士フイルムビジネスイノベーション株式会社 情報処理装置およびプログラム
CN113128484A (zh) * 2020-01-14 2021-07-16 鸿富锦精密电子(郑州)有限公司 字符识别装置及其设备

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56166586A (en) * 1980-05-28 1981-12-21 Toshiba Corp Optical character reader
DE3101543A1 (de) * 1981-01-20 1982-08-26 Licentia Patent-Verwaltungs-Gmbh, 6000 Frankfurt "buerokommunikationssystem"
JPS60246429A (ja) * 1984-05-22 1985-12-06 Nec Corp 相対的磁場安定化磁歪板
JPS63146188A (ja) * 1986-12-09 1988-06-18 Sumitomo Electric Ind Ltd 光学文字読取装置
JPS63229584A (ja) * 1987-03-19 1988-09-26 Matsushita Electric Ind Co Ltd 文字認識装置
JPS63273185A (ja) * 1987-04-30 1988-11-10 Fujitsu Ltd 読取り不能文字イメ−ジ管理処理方式
US4906843A (en) * 1987-12-31 1990-03-06 Marq Technolgies Combination mouse, optical scanner and digitizer puck
US5438436A (en) * 1989-05-02 1995-08-01 Harris; Scott C. Facsimile machine apparatus
JPH03214378A (ja) * 1990-01-19 1991-09-19 Sony Corp 文字認識装置
JP2979109B2 (ja) * 1992-12-03 1999-11-15 日本アイ・ビー・エム 株式会社 認識文字の情報作成方法及び装置
JPH08139840A (ja) * 1994-11-08 1996-05-31 Matsushita Graphic Commun Syst Inc ファクシミリ装置
EP0750270B1 (en) * 1995-06-19 2000-05-03 Canon Kabushiki Kaisha An apparatus for recognising characters and a method therefor
JPH09282084A (ja) * 1996-04-12 1997-10-31 Hitachi Ltd ポインティングデバイス及びこれを利用する情報処理システム

Also Published As

Publication number Publication date
EP1126404A4 (en) 2005-10-26
US7218780B2 (en) 2007-05-15
US6901166B1 (en) 2005-05-31
WO2000026851A1 (fr) 2000-05-11
DE69938395D1 (de) 2008-04-30
US20050286765A1 (en) 2005-12-29
EP1126404B1 (en) 2008-03-19
TW452746B (en) 2001-09-01
EP1126404A1 (en) 2001-08-22
DE69938395T2 (de) 2008-06-26

Similar Documents

Publication Publication Date Title
JP4148441B2 (ja) イメージスキャナおよびこれを用いた光学的文字認識装置
US9307109B2 (en) Image processing apparatus, image processing system, and image processing method
US8131081B2 (en) Image processing apparatus, and computer program product
JP2006339770A (ja) 画像処理システムおよびその制御方法
US7586654B2 (en) System and method of adding messages to a scanned image
US11341733B2 (en) Method and system for training and using a neural network for image-processing
US20060092480A1 (en) Method and device for converting a scanned image to an audio signal
EP1441501B1 (en) Image forming apparatus and image forming method for making image output setting easily
US10498921B2 (en) Electronic imprinting device that affixes imprint data to document data
JP2006196976A (ja) Ocrによる自動清書機能を持つ複写システム
JP2017004455A (ja) 画像処理装置、画像処理システム、画像処理方法及びプログラム
US7446896B2 (en) Method and apparatus for printing information on a page containing preprinted objects
US20240129416A1 (en) Method of producing image data and image reading system
US11012584B2 (en) Image forming apparatus, method of processing image, and recording medium storing image processing program
JP3386280B2 (ja) ブック原稿の画像読み取り装置
JP2011051291A (ja) 電子黒板装置
JP2024014051A (ja) 画像形成装置および文字認識方法
JP2006107124A (ja) タブレット及び情報読み取り方法
JP2024067738A (ja) 情報処理装置、システム、方法およびプログラム
JP2001127974A (ja) 画像読取装置及びシステム
JP2013114447A (ja) 操作装置及び画像形成装置
JPH0612403A (ja) 入力装置
KR20030047333A (ko) 편집 기능을 갖는 데이타 처리 장치 및 그를 위한 데이타편집방법
JPH0628519A (ja) 入力装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080110

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080110

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080318

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080515

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080610

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080620

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130704

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees