JP4148441B2 - イメージスキャナおよびこれを用いた光学的文字認識装置 - Google Patents
イメージスキャナおよびこれを用いた光学的文字認識装置 Download PDFInfo
- Publication number
- JP4148441B2 JP4148441B2 JP2000580157A JP2000580157A JP4148441B2 JP 4148441 B2 JP4148441 B2 JP 4148441B2 JP 2000580157 A JP2000580157 A JP 2000580157A JP 2000580157 A JP2000580157 A JP 2000580157A JP 4148441 B2 JP4148441 B2 JP 4148441B2
- Authority
- JP
- Japan
- Prior art keywords
- personal computer
- code information
- image
- character recognition
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/142—Image acquisition using hand-held instruments; Constructional details of the instruments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/1444—Selective acquisition, locating or processing of specific regions, e.g. highlighted text, fiducial marks or predetermined fields
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Character Discrimination (AREA)
- Character Input (AREA)
Description
なお、本明細書で使用する用語「書類」は、本、雑誌、新聞またはパンフレット、名刺等の文字や文章が記述された印刷原稿を意味する。また、本明細書で使用する用語「文字認識」とは、「かな」、「片仮名」、「漢字」、「英数字」等の一般的な文字の認識を意味するだけではなく、例えばバーコード等のような符号であっても、コンピュータで認識してキャラクタデータに変換可能なイメージデータであれば範疇に含むものとする。
背景技術
現在のパーソナルコンピュータとフラット・ベッドあるいはシート・フィード・スキャナ(以下スキャナと称す)とを用いた印刷書類(以下、単に書類と称す)の文字認識装置では、印刷文字の認識作業において以下のような操作を必要とする。
(操作1)…書類スキャン
先ず、スキャナへ書類をセットし、書類をスキャンする。
(操作2)…文字認識
スキャナから送られてきた書類全体のイメージ画像は、パーソナルコンピュータのCRTディスプレイ上に展開され、文字認識ソフトで表示される。文字認識ソフト上で“文字認識させたい範囲”(以下、“意図する領域”と称す)をマウスで指定してから、文字認識ソフトを操作して、“意図する領域゛のイメージ画像データをテキストデータ(文字コードデータ)に変換し、再度CRTディスプレイ上に表示する。
(操作3)…修正
文字認識ソフトの認識結果は、文字認識ソフトに表示された書類のイメージ画像と認識結果であるテキストデータとを突き合わせて、キーボードを用いて修正をする。
(操作4)…アプリケーションへのコピーまたはベースト
次に、この修正されたテキストデータを、マウスを用いてコピーし、ワープロや表計算機能をもつアプリケーションソフトにペーストする。
(反復操作)
認識させたい書類が複数ある場合は、前記操作1から操作4を繰り返す。
書類内に“意図する領域”が複数箇所ある場合は、操作2から操作4までを繰り返す。
このような従来の文字認識装置では、変換した文字コードデータであるテキストデータを他のワープロや表計算機能をもつアプリケーションソフトで利用する場合、文字認識ソフトから利用する部分をカットまたはコピーし、アプリケーションソフトの方にペーストしなければならなかった。すなわち、このような従来技術では、イメージデータから認識した文字コードデータを、文書編集や表計算等で任意の処理中に必要な個所ですぐに利用できないという問題があった。
このような問題を解決するため、例えば特開平7−28801号公報には、イメージデータ中の所要部分の文字認識結果を、他のアプリケーションプログラムによる処理で直接利用できるようにした従来技術が開示されている。すなわち、この従来技術では、文字を含むイメージデータを表示し、その表示したイメージデータの指定された部分を切り出し、その切り出したイメージデータ中の文字を認識して文字コードデータに変換し、その文字コードデータを文書編集または情報処理を行うアプリケーションプログラムに転送する。
一方、現在市販のスキャナの文字認識対象書類の用紙サイズは、大半がA4版(一部A3版)であり、かつ、スキャンは1枚づつ全文を対象に行われる。
しかし、現実の“入力対象の原紙サイズ”は、名刺、書籍から新聞まで種々であり、さらに、“文字認識対象の文字”は、スキャンした書類用紙の全文ではなく、書類の一部または複数箇所に分散している場合が多い。
従来の文字認識方法、つまり特開平7−28801号公報の場合、先ず、文字を含むイメージデータを例えばコンピュータのCRTディスプレイ等に表示する。そして、この表示したイメージデータの中から切り出す個所を指定し、その切り出したイメージデータ中の文字を認識して文字コードデータに変換してから、アプリケーションに転送しなければならなかった。
したがって、“入力対象の文字”が数箇所に別々に点在する場合には、所望の文字以外の部分を大量にスキャニングすることになり、非常に効率が悪かった。また、例えば書類を読みながら必要な部分のみを適宜スキャニングして文字認識を行い、その結果をワープロソフトに転送してデータ入力していくという使い方はできなかった。
さらに、従来技術では文字認識ソフトに取り込まれたイメージデータを例えばCRT上に表示し、操作者がマウス等のポインティングデバイスを用いて認識箇所を範囲指定することでアプリケーションへの直接入力を可能としていた。したがって、アプリケーションへの直接入力までの作業が多くなるという問題もあった。また、文字コードデータに変換された結果は文字認識ソフト上でしか確認することができず、変換した結果を手元で確認してその場で修正または変更を行うことができないという問題もあった。
本発明はこのような従来技術の課題を解決し、書類上の“意図する領域”のみをスキャニングして文字認識を実行できるようにするとともに、文字認識をアプリケーションの背後で行い、その認識結果をアプリケーションへ直接入力可能なイメージスキャナおよびこれを用いた光学的文字認識装置を提供することを目的とする。
発明の開示
本発明は上記目的を達成するために、書類上で取り込み位置決めと確認ができ、文字認識はアプリケーションの背後で行い、その認識結果をアプリケーションへ直接入力できるようにしたものである。
本発明によるイメージスキャナは、書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込むイメージセンサと、このイメージセンサによりスキャニングしたイメージ情報を外部に出力する出力部と、この出力部により外部に出力されたイメージ情報の文字認識結果を入力する入力部と、この入力部で入力した文字認識結果を表示する表示部とを有する。このイメージスキャナは、書類上の文字情報の中から文字認識を行う領域を任意に指定できるように書類上を移動可能であり、指定した領域の文字認識結果を表示部に表示することにより、スキャニングした書類上の文字イメージの変換結果を手元で確認できる。
また、本発明による光学的文字認識装置はイメージスキャナとパーソナルコンピュータとにより構成される。イメージスキャナは、書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込むイメージセンサと、このイメージセンサによりスキャニングしたイメージ情報をパーソナルコンピュータに出力する出力部と、この出力部によりパーソナルコンピュータに出力されたイメージ情報の文字認識結果をパーソナルコンピュータから入力する入力部と、この入力部で入力した文字認識結果を表示する表示部と、この表示部で表示した文字認識結果の確定の有無を行う操作部とを有する。このイメージスキャナは、書類上の文字情報の中から文字認識を行う領域を任意に指定できるように書類上を移動可能である。また、指定した領域の文字認識結果を表示部に表示することによりスキャニングした書類上の文字情報の変換結果を手元で確認できるとともに、操作部により変換結果の確定が行われるとその旨をパーソナルコンピュータに通知する。パーソナルコンピュータは、少なくとも1つのアプリケーションソフトウェアと、イメージスキャナの出力部より出力されたイメージ情報の文字認識を行う文字認識ソフトウェアとを搭載する。そして、イメージセンサによりスキャニングしたイメージ情報を入力すると、文字認識ソフトウェアにより解析した文字認識結果をイメージスキャナに送信する。イメージスキャナより変換結果の確定の通知を入力すると、アプリケーションソフトウェアの指定された位置に確定された文字データが入力される。
さらに、本発明によるデータ入力方法、すなわちパーソナルコンピュータで動作するワープロソフトや表計算ソフトまたはデータベースソフト等のアプリケーションソフトにおけるデータ入力方法の処理シーケンスを以下に説明する。書類上の文字情報の中から文字認識を行う領域を任意に指定できるように書類上を移動可能なイメージスキャナによりスキャニングすると、スキャニングしたイメージデータがパーソナルコンピュータに送信される。パーソナルコンピュータがこのイメージデータを受信すると、データ入力を行うアプリケーションソフトの背後で動作している、文字認識ソフトによりイメージデータの文字認識を行って該当する文字コードデータをビットマップ形式でイメージスキャナに送信する。イメージスキャナが文字コードデータを受信すると、この文字を表示部に表示し、この表示された文字コードデータの確定操作が行われると、パーソナルコンピュータに文字コードデータの確定を通知する。パーソナルコンピュータが文字コードデータの確定の通知を受信すると、アプリケーションソフトにこの文字コードデータが入力される。
発明を実施するための最良の形態
次に添付図面を参照して本発明によるイメージスキャナおよびこれを用いた光学的文字認識装置の実施の形態を詳細に説明する。
図2を参照すると、本発明によるイメージスキャナをスキャナマウスとしたときの光学的文字認識装置の実施の形態を示すシステム構成図が示されている。図2において、パーソナルコンピュータ10は、高速双方向通信パスであるユニバーサルシリアルバス(Universal Serial Bus,以下USBと称す)に対応した、例えばマイクロソフトのオペレーションシステムであるWindows98等が動作する一般的なコンピュータである。
パーソナルコンピュータ10は、ワープロソフト、表計算ソフトまたはデータベースソフト等のアプリケーションソフトが動作するとともに、文字認識ソフトがアプリケーションソフトの背後(バックグラウンド)で動作する。すなわち、本実施の形態において、パーソナルコンピュータ10で文字認識ソフトが動作している状態でも、使用者にはアプリケーションソフトしか動作していないように見え、文字認識ソフトで認識された文字コードデータは恰もキーボードから入力されたのと同様にアプリケーションソフトに入力される。
また、パーソナルコンピュータ10は、本体にCRTディスプレイまたはLCD(Liquid Crystal Display)等の表示部およびキーボードが接続されている。さらに、パーソナルコンピュータ10の本体にはUSBのコネクタが搭載され、USBケーブル50を介してスキャナマウス20に接続されている。このように、パーソナルコンピュータ10とスキャナマウス20とをUSBにより接続することで、この間での高速双方向通信が可能になるとともに、スキャナマウス20に対してパーソナルコンピュータ10より電源を供給することが可能となる。
スキャナマウス20は、パーソナルコンピュータ10のポインティングデバイスとして機能するマウスと、書類を光学的にスキャンしてそのイメージデータを出力するスキャナとが一体化された装置である。スキャナマウス20は、底面に書類を光学的にスキャンするイメージセンサを備えており、書類上の所望の位置に移動することが可能である。したがって、スキャナマウス20を文字認識を行いたい書類上の“意図する領域”に移動することで、必要な個所の文字等をスキャニングすることができる。
スキャナマウス20は、スキャニングした書類上の“意図する領域”のイメージデータを、USBケーブル50を介してパーソナルコンピュータ10に送信する。パーソナルコンピュータ10は、イメージデータを受信すると、文字認識ソフトで文字認識を行い、その文字認識結果である文字コードをUSBケーブル50を介してスキャナマウス20に送信する。スキャナマウス20は文字コードを受信すると、該当する文字をLCD26に表示する。
このように、スキャニングした領域の文字認識結果はLCD26にほぼリアルタイムで表示されるので、認識結果の良否をスキャニングと同時に確認することが可能となる。したがって、文字認識を行う“意図する領域”の位置決め(開始箇所や終了箇所)を含め、スキャニング時点で“意図する領域”の位置の変更やイメージデータを取り込み際の設定値(2値化のしきい値等)の変更を行うことができる。
すなわち、本実施の形態ではパーソナルコンピュータの性能向上による文字認識の高速化とUSBのデータ転送速度の高速性を利用して、“意図する領域”を指定する際、スキャナを僅かに動かして文字認識の開始箇所と終了箇所の位置決め等を表示部26で確認できるので、“意図する領域”が指定されていなければこの時点でやり直すことが可能である。また、パーソナルコンピュータ10が、音声合成を行うアプリケーションを搭載していれば、文字認識結果を音声出力することで使用者は表示部26を確認すること無く認識結果を知ることができる。
なお、“意図する領域”が指定されていることが確認でき、認識結果を確定する確定処理がスキャナマウス20で行なわれると、パーソナルコンピュータ10上で動作しているワープロソフトや表計算ソフト等のアプリケーションソフトのカーソルの位置に、この認識結果が直接入力される。このとき、本実施の形態ではアプリケーションソフトウェアの誤認識箇所の修正をやりやすくするため、アプリケーションソフトウェアに送った文字認識結果の元のイメージデータをパーソナルコンピュータ10上に表示する。したがって、例えば認識結果の中に“誤認識箇所”があっても、このイメージデータを参照しながらアプリケーションソフト上でキーボード等により容易にその箇所の修正を行うことが可能である。
また、パーソナルコンピュータ10に、例えば特公平7−82353号公報に記載されているような音声認識を行うアプリケーションを搭載し、アプリケーションソフト上で“誤認識箇所”を音声にて修正できるようにすれば、コンピュータ10の操作に不慣れな使用者でも簡単に修正を加えることが可能となる。
図1は図2に示したパーソナルコンピュータ10とスキャナマウス20の機能ブロック図を示したものである。図1において、スキャナマウス20は、マウスおよびイメージセンサ回路22、インタフェース回路24、LCD26およびUSBマイクロコントローラ28により構成されている。なお、本実施の形態において、スキャナマウス20はスキャニングしたイメージデータを蓄積することも出来るが、通常はPCと接続してスキャニングしたイメージデータを蓄積することもなくリアルタイムでパーソナルコンピュータ10に高速出力する。
マウスおよびイメージセンサ回路22は、パーソナルコンピュータのポインティングデバイスとして機能するマウスと、書類の画像をイメージデータとして認識するイメージセンサとを含んだ回路である。マウスおよびイメージセンサ回路22はまた、マウスの位置信号をスキャナの位置信号として利用する位置センサ回路を備えている。マウスおよびイメージセンサ回路22は、インタフェース回路24と接続され、マウスにより検出した位置情報やイメージセンサにより取り込んだイメージデータを、シリアルデータ(Serial Data)としてインタフェース回路24に出力する。マウスおよびイメージセンサ回路22はまた、インタフェース回路24と制御信号(Control)の送受信も行う。
インタフェース回路24は、マウスおよびイメージセンサ回路22およびLCD26とUSBマイクロコントローラ28とのインタフェースをとる回路である。すなわち、インタフェース回路24はマウスにより検出した位置情報をリアルタイムでUSBマイクロコントローラ28に通知するとともに、このコントローラ28よりスキャニング開始、終了、確定等の命令を受けると、マウスおよびイメージセンサ回路22にこれを通知する。また、インタフェース回路24は、USBマイクロコントローラ28を介して、LCD26に文字表示を行う制御データを受信すると、LCD26にこの制御データ(FFC)を出力する。この制御データによりLCD26には該当する文字が表示される。
USBマイクロコントローラ28は、スキャナマウス20の全体を制御する制御部とUSBによりデータの送受信を行うためのUSBコントローラとを備えた制御回路である。USBマイクロコントローラ28は、USBケーブル50を介してパーソナルコンピュータ10のUSBドライバ12に接続され、イメージセンサにより取り込んだイメージデータをパーソナルコンピュータ10に送信する。また、USBマイクロコントローラ28は、パーソナルコンピュータ10より文字コードデータを受信すると、LCD26の文字表示を行うための制御データをインタフェース回路24に出力する。
パーソナルコンピュータ10は、OS(Operating System)レベルで制御されるカーネル層(Kernel Layer)のUSBドライバ12と、アプリケーションレベルで制御されるユーザ層(User Layer)のユーザインタフェース14とにより構成されている。なお、同図においてユーザインタフェース14には、イメージデータにおける文字認識処理の流れが示されている。すなわち、ユーザインターフェース14では、USBドライバを介してスキャナマウス20より受信したイメージデータを取り込むと(140)、このデータをリアルタイムで例えばビットマップ(BMP)等の画像データに変換し(142)、日本語文字認識処理を行う(144)。
この処理144でスキャナマウス20より受信したイメージデータは日本語文字の文字コードデータに逐次変換され、ファイルに保存される(146)。そして、ファイルに保存された文字コードデータはビットマップ形式でほぼリアルタイムでLCDデータの送信処理が行われ(148)、USBドライバ12を介してスキャナマウス20に送られる。この結果、スキャナマウス20でスキャニングしたイメージデータは、パーソナルコンピュータ10によりリアルタイムでキャラクタデータに変換され、スキャニングした変換結果がほとんどスキャニングと同時にLCD26に表示される。
図3および図4は図1および図2に示したスキャナマウス20の上面図および側面図である。図3に示すように、スキャナマウス20は、内部にイメージセンサを備えたスキャナ30、ローラ32、マウスボール34およびスキャナマウス20の全体を制御する制御回路36が配設されている。図3におけるスキャナ30、ローラ32およびボール34が図1におけるマウスおよびイメージセンサ回路22に、図3における制御回路36がインタフェース回路24およびUSBマイクロコントローラ28にそれぞれ相当する。なお、スキャナ30は、「光源」と「イメージセンサ」を一体化した接触型イメージ画像センサであり、複雑な漢字が認識可能なように400dpi以上の高感度イメージセンサが用いられている。
スキャナマウス20はまた、上面の上部にLCD26が配置されるとともに、さらに2つないし3つのマウスボタン44が上面に配設され左ボタンはスキャニングをスタートするスタートボタン40が、右ボタンはLCD26に表示された文字を確定する確定ボタン42として、それぞれ配設されている。スキャナマウス20はまた、本体表面の左右両側にスキャンエリアを示すスキャンエリア表示46aと46bとがプリントされている。このように、スキャナマウス20の左側と右側にスキャンエリアを示す目印を付けることにより、スキャニングを行う書類上の位置合わせを容易に行うことが可能となる。
図4はスキャナマウス20の左側面を示した構造図である。図4に示すように、スキャナマウス20は、LCD26の視認性が向上するように前部に傾斜面が形成されているとともに、マウスを把持しやすいように後部には丸みが形成されている。また、スキャナマウス20がポインティングデバイスであるマウスとして機能する場合には、ローラ32はボール34の動作に影響を与えないようにボール34よりやや上部に配置されている。
なお、特に記載はしなかったが、スキャニングの日本語/英語の選択、文字/画像入力の選択等の調整は、パーソナルコンピュータ10で行うか、スキャナマウス20にこれらの調整を行う操作ボタンを設けるか、または両方できるようにしてもよい。また、文字認識を行う“意図する領域”の位置決めを容易にするため、スキャンエリア表示46a,46bの代わりに、上部から書類を覗く窓をスキャナ30の幅で設けてもよい。
以下、図3および図4を用いてスキャナマウス20のスキャニング時の動作を説明する。スキャニング処理はスキャニングボタン40が押下されている状態のときに行われる。すなわち、スキャニングスタートボタン40が押下されると、スキャナマウス20は光源(図示せず)より照射光を書類に照射し、スキャナ用センサ30による画像のスキャニングを開始する。
スキャナ30は書類に対して垂直になるように配置されているので、図2の矢印100に示す方向にスキャナマウス20を移動することでイメージデータの取り込みが行われる。取り込んだイメージデータは制御回路36に出力され、USBプロトコルによってUSBケーブル50を介してパーソナルコンピュータ10に送信される。制御回路36はまた、パーソナルコンピュータ10より文字コードデータを受信すると、これに該当する文字を内蔵するメモリより呼出してLCD26に表示する。
このとき、LCD26上には“認識したテキスト”の“最初と最後の線”を表示する。LCD26上の文字の表示は、スキャナ30の動作方向に関係させる。具体的には、スキャナ30を左から右に移動させた場合、LCD26上の文字、すなわち認識結果を示す文字は先ず右端に現れる。そして、認識文字数が増えるにしたがって、右端から左端に向けて移動しながら文字の表示数が増えていく。これにより、認識された最初の文字が表示されてから消えるまでの時間がある程度あるので、位置決め確認を容易に行うことが可能となる。この結果、“意図する領域”の指定と確認、すなわち入力開始箇所と終了位置を決める作業が、操作者の手元で、原稿に注意を集中させながら行うことが可能となる。
このようにLCD26上に表示された文字が確認された後、これを確定するスキャニング確定ボタン42の押下を制御回路36が検出すると、文字コードデータの確定処理が行われたことを、USBケーブル50を介してパーソナルコンピュータ10に通知する。この通知をパーソナルコンピュータ10が受信すると、現在動作中のアプリケーションソフトにこの文字コードデータが直接入力される。
なお、上記のスキャニングの動作説明では、スキャニングスタートボタン40を押下している間スキャニングが行われるとしたが、例えばスキャニングスタートボタン40を一度押すとスキャニングモードになり、もう一度押すとスキャニングモードが解除されるようにしていもよい。この場合には、スキャニングスタートボタン40の最初の押下でローラ32が書類面に接する位置まで下がり、次の押下でローラ32が元の位置に引っ込む。また、上記のようなスキャニングスタートボタン40やスキャニング確定ボタン42を用いずにマウスボタン44でこれらの代わりをするようにしてもよい。
図5はパーソナルコンピュータ10とスキャナマウス20における処理の流れを示した処理シーケンスを示したものである。なお、同図において、処理200、202、204、206および210は上記した説明と重複するので、ここではイメージファイルの文字認識処理を行った後に(206)、アプリケーションソフトに文字認識したテキストファイルを出力する処理208の一具体例を説明する。
アプリケーションソフトに文字認識したテキストファイルを出力する場合、Windows関数である“WinExec()”を用いて、MS−Word型アプリケーションに入力する。このWinExec()関数のシンタックスは以下の通りである。
なお、LPCSTR IpCmdLineは、“WinWord(MS−WORD)”アプリケーションの実行ファイルのパス名であり、この部分を変えることで任意のアプリケーションファイルを指定することが可能となる。
本実施の形態では、日本語文字認識処理からの文字コードデータであるテキストコードデータは、形式を変えずにアプリケーションソフトに入力される。キーボードを用いた通常の入力との相違は、キーボード入力では入力データをオペレーティングシステムが受け取ってアプリケーションに適したコード形式にするのに対して、本実施の形態では上記のようにWindows関数を幾つか使用することにある。本実施の形態ではまた、アプリケーションに単文字入力は行わず、一度に文字ブロックまたは文字列をアプリケーションソフトにテキスト入力する。このような処理を行うことにより、キーボード入力を含む他の方法よりも高速にアプリケーションに対してテキスト入力を行うことが可能となる。
なお、上記実施の形態の場合にはアプリケーションが変更なると実行ファイルのパス名を切り換える必要がある。このため、操作者はアプリケーションを意識しなければならない。図6はこの点を改善した実施の形態を示したものであり、パーソナルコンピュータ10における処理の流れを示している。
オペレーティングシステム600は、ハードウェアとソフトウェアの動作を総合的に管理・判断する基本ソフトウェアである。
すなわち、オペレーティングシステム600は、スキャナマウス20より送られてきたイメージデータを入力すると、バックグランウンドで動作している文字認識ソフトウェア610にこのイメージデータを出力する。また、オペレーティングシステム600は、キーボード17から入力されたスキャンコードをIMM(Input Method Manager)630に渡し、そこで文字コードに変換して、ディスプレイ15に画面表示が行われるように制御する。
オペレーティングシステム600で、IME(Input Method Editor)620はIMM630に呼び出されて、キーボードから入力されたスキャンコードを日本語等の2バイト系のアジア言語の文字コードに変換するプログラムである。英語の場合は、キーボードから入力されたスキャンコードはIMM630により文字コードに変換される。
したがって、Windows98では、文字コードをアプリケーションに入力する場合、IMM630がオペレーティングシステム600、文字認識ソフトウェア610、日本語かな漢字変換ソフトウェアIME620とアプリケーションプログラム640間に介在する。
したがって、IMM630を用いれば、文字認識ソフトウェア610のテキストファイルの文字コードをアプリケーションに直接出力することができる。その場合、一度に文字ブロックまたは文字列を運ぶWN_ME_REPORTメッセージや1文字ずつに分解して運ぶWN_CHARやWN_IME_CHARメッセージを利用する。このようにIMM630を用いれば、アプリケーションによって使用する実行ファイルの切り換えが不要となる。
なお、IMMはIMM32DLL又はWINNLS.DLLという名前でWindowsのシステムフォルダに入っている。
なお、上記実施例では本発明によるイメージスキャナをスキャナマウスに適用した場合を説明したが、本発明は特にスキャナマウスに限定されるものではない。図7はイメージスキャナの他の実施の形態を示した斜視図である。図7に示したイメージスキャナ70は書類上の“意図する領域”に載せるだけでその部分の文字認識が行える面タイプのイメージスキャナである。なお、この実施の形態においても図1に示した機能ブロックはそのまま適用することができる。
図7(a)はイメージスキャナ70を上から見たときの上面図である。図7(a)に示すように、イメージスキャナ70は、大きさが例えば葉書程度の矩形状の大きさであり、上面は認識結果を表示するフィルム液晶日本語表示パネル72になっている。また、フィルム液晶日本語表示パネル72の左下にはスキャニングを開始するボタン73が配設されている。
コンタクトイメージセンサ74は、「光源」と「イメージセンサ」を一体化したイメージセンサであり、滑動部75a,75bに取り付けられている。滑動部75a,75bはレール76a,76bに摺動可能なように嵌合されている。コンタクトイメージセンサ74はまた、駆動プーリ80と従動プーリ82間に張設されたベルト78に固定部材84により固定されている。したがって、コンタクトイメージセンサ74は、駆動プーリ80が時計方向または反時計方向に回転することによって、矢印700a,700bに示す方向に動くことができる。
すなわち、ボタン73が押下されると、左端に位置していたコンタクトイメージセンサ74は、駆動プーリ80の時計方向の回転によって矢印700aの方向の移動を開始して真下に置かれた原稿のスキャニングを開始する。このイメージセンサ74の移動距離は、センサの横に配設されたエンコーダ(図示せず)によりデジタル信号化される。また、縦方向のスキャニングはセンサ内の電気信号によって行われる。縦方向および横方向のデジタル信号はともにイメージセンサ回路20(図1参照)に送られる。
このイーメージスキャナ70の場合もUSBケーブルによりパーソナルコンピュータ10に接続され、以下の処理は実質的にスキャナマウス20の場合と同じである。なお、イメージスキャナ70では、スキャナマウス20のように手でスキャンする範囲を移動させるのではなく、イメージセンサを書類に置いてコンタクトイメージセンサ74が移動する。したがって、“意図する領域”のイメージのスキャニングを安定して行うことができる。
なお、本実施の形態では、本発明が有利に適用されるWindows98を例に説明したが、本発明に適用可能なオペレーティングシステムは特にWindows98に限定されることなく、Windows CE,Apple Machintosh等のオペレーティングシステムにも、本発明による技術的思想はそのまま適用可能である。
産業上の利用可能性
このように本発明によれば、使用者は手元でペン等を扱うのと同じように、手元の書類上で必要個所のみの文字認識を行うことができる。また、文字認識を行うソフトウェアをアプリケーションソフトウェアの背後で動作させることで、認識した文字の文字コードデータをこのアプリケーションソフトウェアに直接データ入力することができる。したがって、本発明を用いれば、書類を見ながらキーボード等で文字データの入力を行うのと同じ感覚で、書類内の所望の文字を文字データ化することができるので、使用者の文字入力の作業を大幅に軽減することが可能となる。
【図面の簡単な説明】
図1は、本発明による光学的文字認識装置の実施の形態を示す機能ブロック図である。
図2は、図1に示した光学的文字認識装置のシステム構成図である。
図3は、図1に示したスキャナマウスの構造を示す上面図である。
図4は、図1に示したスキャナマウスの構造を示す左側面図である。
図5は、図1に示した光学的文字認識装置の処理の流れを示すシーケンス図である。
図6は、文字認識結果のテキストデータをアプリケーションに直接入力する処理の他の実施の形態を示す説明図である。
図7は、本発明によるイメージスキャナの他の実施の形態を示す斜視図である。
Claims (11)
- 少なくとも1つのアプリケーションソフトウェアとその背後で動作する文字認識ソフトウェアとを搭載したパーソナルコンピュータとの間で情報の授受を行うイメージスキャナであって、
任意に指定された領域の書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込むイメージセンサ部と、
取り込んだイメージ情報をコード情報として認識することなく前記パーソナルコンピュータに出力する出力部と、
前記文字認識ソフトウェアにより前記イメージ情報をコード情報として認識し、認識されたコード情報を前記パーソナルコンピュータから入力する入力部と、
前記入力部に入力されたコード情報を表示する表示部と、
前記表示部に表示されたコード情報の確定操作を行う操作部と、
前記パーソナルコンピュータに搭載されたアプリケーションソフトウェア上でカーソル位置を指定するポインティングデバイス機能を備え、
前記確定操作に応答して、現在動作中のアプリケーションソフトウェアによって表示された表示画面における前記ポインティングデバイス機能により指定されたカーソル位置に、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報に基づく文字情報を表示する旨の通知を、前記出力部を介して前記パーソナルコンピュータに出力することを特徴とするイメージスキャナ。 - 請求項1に記載のイメージスキャナにおいて、このイメージスキャナは、前記ポインティングデバイス機能をマウスとしたスキャナマウスであることを特徴とするイメージスキャナ。
- 請求項2に記載のイメージスキャナにおいて、前記マウスの位置信号又はイメージセンサの位置信号をスキャナの位置信号として利用するセンサ回路を有することを特徴とするイメージスキャナ。
- 請求項1に記載のイメージスキャナにおいて、このイメージスキャナは、高速双方向通信バスにより前記パーソナルコンピュータと接続されることを特徴とするイメージスキャナ。
- 請求項1に記載のイメージスキャナにおいて、
前記コード情報は前記表示部にリアルタイムで表示され、
前記確定操作が行なわれるまでは前記コード情報の修正を可能とすることを特徴とするイメージスキャナ。 - 文字認識ソフトウェアと少なくとも1つのアプリケーションソフトウェアとを搭載したパーソナルコンピュータと、このパーソナルコンピュータとの間で情報の授受を行うイメージスキャナとにより構成される光学的文字認識装置において、
前記イメージスキャナは、
任意に指定された領域の書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込むイメージセンサ部と、
取り込んだイメージ情報をコード情報として認識することなく前記パーソナルコンピュータに出力する出力部と、
前記文字認識ソフトウェアにより前記イメージ情報をコード情報として認識し、認識されたコード情報を前記パーソナルコンピュータから入力する入力部と、
前記入力部に入力されたコード情報を表示する表示部と、
前記表示部に表示されたコード情報の確定操作を行う操作部と、
前記パーソナルコンピュータに搭載されたアプリケーションソフトウェア上でカーソル位置を指定するポインティングデバイス機能を備え、
前記確定操作に応答して、現在動作中の前記アプリケーションソフトウェア上で前記ポインティングデバイス機能により指定されたカーソル位置に、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報を挿入する旨の通知を、前記出力部を介して前記パーソナルコンピュータに出力するものであり、
前記パーソナルコンピュータは、
前記イメージスキャナのポインティングデバイス機能により、パーソナルコンピュータ上で動作するアプリケーションソフトウェア上にカーソル位置を設定し、
前記イメージスキャナから受信したイメージ情報を前記文字認識ソフトウェアによりコード情報として認識し、このコード情報をパーソナルコンピュータ内に保存するとともに、前記イメージスキャナに対して出力し、
前記イメージスキャナの確定操作に伴いイメージスキャナから受信したコード情報の挿入通知に従い、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報に基づく文字情報を、現在動作中のアプリケーションソフトウェアによって表示された表示画面における前記ポインティングデバイス機能により指定されたカーソル位置に表示することを特徴とする光学的文字認識装置。 - 請求項6に記載の光学的文字認識装置において、
前記少なくとも1つのアプリケーションソフトウェアは音声合成ソフトウェアを含み、前記コード情報を該当する音声情報に変換して出力することを特徴とする光学的文字認識装置。 - 請求項6に記載の光学的文字認識装置において、
前記少なくとも一つのアプリケーションソフトウェアは音声認識ソフトウェアを含み、音声による修正命令に応答して前記コード情報の修正を行うことを特徴とする光学的文字認識装置。 - 請求項6に記載の光学的文字認識装置を使用したパーソナルコンピュータに搭載されたアプリケーションソフトウェアに対するデータ入力方法であって、
前記イメージスキャナのポインティングデバイス機能により、パーソナルコンピュータ上で動作するアプリケーションソフトウェア上でカーソル位置を設定し、
前記イメージスキャナにより、任意に指定された領域の書類上の文字情報を光学的にスキャニングしてイメージ情報として取り込んでコード情報として認識することなく前記パーソナルコンピュータに送信し、
前記文字認識ソフトウェアを現在動作中の前記少なくとも1つのアプリケーションソフトウェアの背後で動作させ、受信した前記イメージ情報の文字認識を行ってコード情報に変換して、このコード情報を前記パーソナルコンピュータに保存するとともに、前記パーソナルコンピュータから前記イメージスキャナに送信し、
前記イメージスキャナは受信した前記コード情報を表示し、
前記イメージスキャナに設けられた操作部に対する確定操作に応答して、現在動作中の前記アプリケーションソフトウェア上で前記ポインティングデバイス機能により指定されたカーソル位置に、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報を挿入する旨の通知を、前記出力部を介して前記パーソナルコンピュータに出力し、
前記イメージスキャナから受信したコード情報の挿入通知に従い、前記文字認識ソフトウェアで認識されてパーソナルコンピュータ内に保存されているコード情報に基づく文字情報を、現在動作中のアプリケーションソフトウェアによって表示された表示画面における前記ポインティングデバイス機能により指定されたカーソル位置に表示することを特徴とすることを特徴とするデータ入力方法。 - 請求項9に記載のデータ入力方法において、
前記少なくとも1つのアプリケーションソフトウェアは、前記コード情報をオペレーションシステムで2バイト系のアジア言語を使用可能とさせるプログラムソフトウェアを含み、前記コード情報を前記プログラムソフトウェアを介して現在動作中の前記少なくとも1つのアプリケーションソフトウェアに入力することを特徴とするデータ入力方法。 - 請求項9に記載のデータ入力方法において、
前記コード情報と前記イメージ情報とが共に前記パーソナルコンピュータの表示画面に表示され、表示された前記イメージ情報を参照しつつ前記コード情報の修正を行うことを特徴とするデータ入力方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP30894598 | 1998-10-29 | ||
PCT/JP1999/005945 WO2000026851A1 (fr) | 1998-10-29 | 1999-10-27 | Scanner d'image et dispositif de reconnaissance optique de caracteres mettant en oeuvre ledit scanner |
Publications (1)
Publication Number | Publication Date |
---|---|
JP4148441B2 true JP4148441B2 (ja) | 2008-09-10 |
Family
ID=17987155
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000580157A Expired - Fee Related JP4148441B2 (ja) | 1998-10-29 | 1999-10-27 | イメージスキャナおよびこれを用いた光学的文字認識装置 |
Country Status (6)
Country | Link |
---|---|
US (2) | US6901166B1 (ja) |
EP (1) | EP1126404B1 (ja) |
JP (1) | JP4148441B2 (ja) |
DE (1) | DE69938395T2 (ja) |
TW (1) | TW452746B (ja) |
WO (1) | WO2000026851A1 (ja) |
Families Citing this family (36)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4278918B2 (ja) * | 2002-04-19 | 2009-06-17 | 富士通株式会社 | 画像データ処理装置とその方法 |
CN100419785C (zh) * | 2004-04-08 | 2008-09-17 | 佳能株式会社 | 基于网络服务应用的光学字符识别系统和方法 |
US20060092290A1 (en) * | 2004-10-28 | 2006-05-04 | Demeo Dana C | Device and method for acquiring data from non-camera type acquisition device using a camera port |
JP2007180789A (ja) * | 2005-12-27 | 2007-07-12 | Brother Ind Ltd | 複写機能付画像形成装置 |
JP2008252553A (ja) * | 2007-03-30 | 2008-10-16 | Brother Ind Ltd | 画像処理装置 |
JP4906685B2 (ja) * | 2007-11-14 | 2012-03-28 | キヤノン株式会社 | 撮像装置、その制御方法及びプログラム |
JP2010154088A (ja) * | 2008-12-24 | 2010-07-08 | Seiko Epson Corp | 位置と画像とを対応付ける画像処理 |
JP2011029832A (ja) | 2009-01-06 | 2011-02-10 | Seiko Epson Corp | 原稿読み取り装置 |
US8441695B2 (en) | 2009-05-20 | 2013-05-14 | Dacuda Ag | Handheld scanner with high image quality |
US8582182B2 (en) * | 2009-05-20 | 2013-11-12 | Dacuda Ag | Automatic sizing of images acquired by a handheld scanner |
US8441696B2 (en) | 2009-05-20 | 2013-05-14 | Dacuda Ag | Continuous scanning with a handheld scanner |
US8339467B2 (en) | 2010-03-25 | 2012-12-25 | Dacuda Ag | Synchronization of navigation and image information for handheld scanner |
US9300834B2 (en) * | 2009-05-20 | 2016-03-29 | Dacuda Ag | Image processing for handheld scanner |
US20100296133A1 (en) * | 2009-05-20 | 2010-11-25 | Dacuda Ag | Mode switching in a handheld scanner |
KR101052933B1 (ko) * | 2009-07-27 | 2011-08-01 | 미루데이타시스템 주식회사 | 우편물 자동 처리장치 |
US8531401B2 (en) * | 2009-08-13 | 2013-09-10 | Hewlett-Packard Development Company, L.P. | Computer accessory device |
US8243985B2 (en) * | 2010-02-05 | 2012-08-14 | Seiko Epson Corporation | Bit pattern design for visible watermarking |
US8300882B2 (en) * | 2010-02-05 | 2012-10-30 | Seiko Epson Corporation | Data adaptive message embedding for visible watermarking |
US8194918B2 (en) * | 2010-02-05 | 2012-06-05 | Seiko Epson Corporation | Embedded message extraction for visible watermarking |
US8497840B2 (en) | 2010-03-25 | 2013-07-30 | Dacuda Ag | Computer peripheral for scanning |
US8682075B2 (en) | 2010-12-28 | 2014-03-25 | Hewlett-Packard Development Company, L.P. | Removing character from text in non-image form where location of character in image of text falls outside of valid content boundary |
TWI415008B (zh) | 2011-01-25 | 2013-11-11 | Pixart Imaging Inc | 影像感測模組與光學感測系統 |
JP5697148B2 (ja) * | 2011-04-19 | 2015-04-08 | 光雄 中山 | マウススキャナシステム |
KR101809750B1 (ko) * | 2011-06-22 | 2018-01-18 | 엘지전자 주식회사 | 스캔 이미지 편집 방법, 이의 표시기기 |
KR101830870B1 (ko) * | 2011-06-22 | 2018-02-21 | 엘지전자 주식회사 | 스캔 이미지 표시 방법, 이의 표시기기 및 스캔 영역 지정 방법 및 이의 입력 기기 |
TW201400969A (zh) * | 2012-06-27 | 2014-01-01 | Univ Ming Chuan | 視覺輔助方法及裝置 |
US8873892B2 (en) * | 2012-08-21 | 2014-10-28 | Cognex Corporation | Trainable handheld optical character recognition systems and methods |
US10068153B2 (en) | 2012-08-21 | 2018-09-04 | Cognex Corporation | Trainable handheld optical character recognition systems and methods |
US10402661B2 (en) | 2013-07-22 | 2019-09-03 | Opengate Development, Llc | Shape/object recognition using still/scan/moving image optical digital media processing |
EP3039617B1 (en) | 2013-08-31 | 2020-05-20 | ML Netherlands C.V. | User feedback for real-time checking and improving quality of scanned image |
EP3089101A1 (en) | 2013-12-03 | 2016-11-02 | Dacuda AG | User feedback for real-time checking and improving quality of scanned image |
US10410321B2 (en) | 2014-01-07 | 2019-09-10 | MN Netherlands C.V. | Dynamic updating of a composite image |
EP3092790B1 (en) | 2014-01-07 | 2020-07-29 | ML Netherlands C.V. | Adaptive camera control for reducing motion blur during real-time image capture |
US10484561B2 (en) | 2014-05-12 | 2019-11-19 | Ml Netherlands C.V. | Method and apparatus for scanning and printing a 3D object |
JP7176272B2 (ja) * | 2018-07-26 | 2022-11-22 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置およびプログラム |
CN113128484A (zh) * | 2020-01-14 | 2021-07-16 | 鸿富锦精密电子(郑州)有限公司 | 字符识别装置及其设备 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS56166586A (en) * | 1980-05-28 | 1981-12-21 | Toshiba Corp | Optical character reader |
DE3101543A1 (de) * | 1981-01-20 | 1982-08-26 | Licentia Patent-Verwaltungs-Gmbh, 6000 Frankfurt | "buerokommunikationssystem" |
JPS60246429A (ja) * | 1984-05-22 | 1985-12-06 | Nec Corp | 相対的磁場安定化磁歪板 |
JPS63146188A (ja) * | 1986-12-09 | 1988-06-18 | Sumitomo Electric Ind Ltd | 光学文字読取装置 |
JPS63229584A (ja) * | 1987-03-19 | 1988-09-26 | Matsushita Electric Ind Co Ltd | 文字認識装置 |
JPS63273185A (ja) * | 1987-04-30 | 1988-11-10 | Fujitsu Ltd | 読取り不能文字イメ−ジ管理処理方式 |
US4906843A (en) * | 1987-12-31 | 1990-03-06 | Marq Technolgies | Combination mouse, optical scanner and digitizer puck |
US5438436A (en) * | 1989-05-02 | 1995-08-01 | Harris; Scott C. | Facsimile machine apparatus |
JPH03214378A (ja) * | 1990-01-19 | 1991-09-19 | Sony Corp | 文字認識装置 |
JP2979109B2 (ja) * | 1992-12-03 | 1999-11-15 | 日本アイ・ビー・エム 株式会社 | 認識文字の情報作成方法及び装置 |
JPH08139840A (ja) * | 1994-11-08 | 1996-05-31 | Matsushita Graphic Commun Syst Inc | ファクシミリ装置 |
EP0750270B1 (en) * | 1995-06-19 | 2000-05-03 | Canon Kabushiki Kaisha | An apparatus for recognising characters and a method therefor |
JPH09282084A (ja) * | 1996-04-12 | 1997-10-31 | Hitachi Ltd | ポインティングデバイス及びこれを利用する情報処理システム |
-
1999
- 1999-10-27 US US09/830,639 patent/US6901166B1/en not_active Expired - Fee Related
- 1999-10-27 EP EP99951098A patent/EP1126404B1/en not_active Expired - Lifetime
- 1999-10-27 JP JP2000580157A patent/JP4148441B2/ja not_active Expired - Fee Related
- 1999-10-27 WO PCT/JP1999/005945 patent/WO2000026851A1/ja active IP Right Grant
- 1999-10-27 DE DE69938395T patent/DE69938395T2/de not_active Expired - Lifetime
- 1999-10-28 TW TW088118643A patent/TW452746B/zh not_active IP Right Cessation
-
2005
- 2005-05-27 US US11/140,626 patent/US7218780B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
EP1126404A4 (en) | 2005-10-26 |
US7218780B2 (en) | 2007-05-15 |
US6901166B1 (en) | 2005-05-31 |
WO2000026851A1 (fr) | 2000-05-11 |
DE69938395D1 (de) | 2008-04-30 |
US20050286765A1 (en) | 2005-12-29 |
EP1126404B1 (en) | 2008-03-19 |
TW452746B (en) | 2001-09-01 |
EP1126404A1 (en) | 2001-08-22 |
DE69938395T2 (de) | 2008-06-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4148441B2 (ja) | イメージスキャナおよびこれを用いた光学的文字認識装置 | |
US9307109B2 (en) | Image processing apparatus, image processing system, and image processing method | |
US8131081B2 (en) | Image processing apparatus, and computer program product | |
JP2006339770A (ja) | 画像処理システムおよびその制御方法 | |
US7586654B2 (en) | System and method of adding messages to a scanned image | |
US11341733B2 (en) | Method and system for training and using a neural network for image-processing | |
US20060092480A1 (en) | Method and device for converting a scanned image to an audio signal | |
EP1441501B1 (en) | Image forming apparatus and image forming method for making image output setting easily | |
US10498921B2 (en) | Electronic imprinting device that affixes imprint data to document data | |
JP2006196976A (ja) | Ocrによる自動清書機能を持つ複写システム | |
JP2017004455A (ja) | 画像処理装置、画像処理システム、画像処理方法及びプログラム | |
US7446896B2 (en) | Method and apparatus for printing information on a page containing preprinted objects | |
US20240129416A1 (en) | Method of producing image data and image reading system | |
US11012584B2 (en) | Image forming apparatus, method of processing image, and recording medium storing image processing program | |
JP3386280B2 (ja) | ブック原稿の画像読み取り装置 | |
JP2011051291A (ja) | 電子黒板装置 | |
JP2024014051A (ja) | 画像形成装置および文字認識方法 | |
JP2006107124A (ja) | タブレット及び情報読み取り方法 | |
JP2024067738A (ja) | 情報処理装置、システム、方法およびプログラム | |
JP2001127974A (ja) | 画像読取装置及びシステム | |
JP2013114447A (ja) | 操作装置及び画像形成装置 | |
JPH0612403A (ja) | 入力装置 | |
KR20030047333A (ko) | 편집 기능을 갖는 데이타 처리 장치 및 그를 위한 데이타편집방법 | |
JPH0628519A (ja) | 入力装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050805 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070724 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070921 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080110 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20080110 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20080110 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080318 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080515 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080610 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080620 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110704 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120704 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120704 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130704 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |