JP6255929B2 - Information processing apparatus, information processing apparatus control method, and program - Google Patents

Information processing apparatus, information processing apparatus control method, and program Download PDF

Info

Publication number
JP6255929B2
JP6255929B2 JP2013237454A JP2013237454A JP6255929B2 JP 6255929 B2 JP6255929 B2 JP 6255929B2 JP 2013237454 A JP2013237454 A JP 2013237454A JP 2013237454 A JP2013237454 A JP 2013237454A JP 6255929 B2 JP6255929 B2 JP 6255929B2
Authority
JP
Japan
Prior art keywords
character
predetermined
read
characters
entry
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013237454A
Other languages
Japanese (ja)
Other versions
JP2015097067A (en
JP2015097067A5 (en
Inventor
真一 鷲田
真一 鷲田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Marketing Japan Inc
Original Assignee
Canon Marketing Japan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Marketing Japan Inc filed Critical Canon Marketing Japan Inc
Priority to JP2013237454A priority Critical patent/JP6255929B2/en
Publication of JP2015097067A publication Critical patent/JP2015097067A/en
Publication of JP2015097067A5 publication Critical patent/JP2015097067A5/ja
Application granted granted Critical
Publication of JP6255929B2 publication Critical patent/JP6255929B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Character Input (AREA)

Description

本発明は、情報処理装置、情報処理装置の制御方法、およびプログラムに関し、特に、ユーザにより記入された文字が記入枠に重なることに起因して発生する画像データから文字を読み取る際の文字の誤認識を補正する精度を向上させることが可能な仕組みに関する。 The present invention relates to an information processing apparatus, a control method for the information processing apparatus, and a program, and in particular, an error in characters when reading characters from image data generated due to characters entered by a user overlapping an entry frame. the recognition relates capable of improving the accuracy of correcting mechanism.

従来、画像化された文字をテキストコードに変換する文字認識技術がある。また特に、申込用紙や帳票など記入枠があるものに手書きで書かれた文字を認識する技術も存在する。   Conventionally, there is a character recognition technique that converts an imaged character into a text code. In particular, there is also a technology for recognizing handwritten characters on an application form or a form with an entry frame.

また、更に枠を認識し枠部分の内部を文字認識するだけでなく、枠を削除することによって文字認識を実施する(文字と枠とを分離する)技術も存在する。   In addition, there is a technology that not only recognizes the frame and recognizes the character inside the frame part, but also performs character recognition (separates the character and the frame) by deleting the frame.

特許文献1には、文字と枠、もしくは背景色とを分離する為に多値画像の明度等を利用した文字と枠との分離方法を提案している。   Patent Document 1 proposes a method for separating a character and a frame using the brightness of a multi-value image in order to separate the character from the frame or the background color.

特許文献2には、文字領域と非文字領域との濃度差に着目し、同一濃度と判断される画素をラベリングして構造物を判断する(文字領域を分離する)手法を提案している。   Japanese Patent Application Laid-Open No. H10-228867 proposes a method of judging a structure (separating a character area) by labeling pixels judged to have the same density, paying attention to a density difference between a character area and a non-character area.

特開2001−076096号公報Japanese Patent Application Laid-Open No. 2001-076096 特開平09−016713号公報Japanese Patent Application Laid-Open No. 09-016713

しかしながら、記入文字が記入枠と接触している場合、特にボールペーンなどの筆記具で記入された文字は筆圧やインク量などにより記入文字上でも濃淡が発生し、特許文献1と特許文献2の技術を用いたとしても正確に文字と枠を分離することが難しく、分離できたとしてもOCR(Optical Character Recognition)の認識性能を満たすレベルの二値画像を作成することが困難なケースが存在していた。   However, when the entered characters are in contact with the entry frame, the characters entered with a writing instrument such as a ball pennage are also shaded on the entered characters due to the writing pressure, the ink amount, etc. Even if technology is used, it is difficult to accurately separate characters and frames, and even if they can be separated, there are cases in which it is difficult to create a binary image at a level that satisfies the recognition performance of OCR (Optical Character Recognition). It was.

本発明はユーザにより記入された文字が記入枠に重なることに起因して発生する画像データから文字を読み取る際の文字の誤認識を補正する精度を向上させることが可能な仕組みを提供することを目的とする。 This onset Ming, provides a misrecognition of characters when reading a character from the image data characters entered by the user is caused to overlap the input frames, a capable of improving the accuracy of correcting mechanism It shall be the object of the present invention to.

本発明は、所定の文字と、他の文字とを対応付けて管理する管理手段と、文字を記入する記入枠を備えた文書媒体をデータ化した画像データから、前記記入枠にユーザにより記入された文字を読み取る読取手段と、記読取手段で読み取られた文字が所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっているかを判定する判定手段と、前記判定手段により、前記読取手段で読み取られた文字が前記所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっていると判定されたことに応じて、前記読取手段により読み取られた前記所定の文字を、前記所定の文字に対応付けて前記管理手段により管理されている前記他の文字に置き換えると決定する決定手段とを備えることを特徴とする。 The present invention is filled, a predetermined character, and management means for managing in association with the other characters, the document medium with mark frames to fill the character from the data of the image data, by a user to the entry box determining a reading means for reading a character which is a pre-SL read characters read by means of a predetermined character, and, if the predetermined character read are overlapped in the entry box and place The determination means and the determination means determine that the character read by the reading means is the predetermined character and that the read predetermined character overlaps the entry frame at a predetermined position. and in response to, and determination means for said predetermined character read by said reading means, determines that replacing the predetermined in association with the character the other which is managed by said management means characters Characterized in that it obtain.

また、本発明は、定の文字と、他の文字とを対応付けて管理す管理手段を備える情報処理装置の制御方法であって、前記情報処理装置の読取手段が、文字を記入する記入枠を備えた文書媒体をデータ化した画像データから、前記記入枠にユーザにより記入された文字を読み取る読取工程と、前記情報処理装置の判定手段、前記読取工程で読み取られた文字が所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位で重なっているかを判定する判定工程と、前記情報処理装置の決定手段が、前記判定工程で、前記読取工程で読み取られた文字が前記所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっていると判定されたことに応じて、前記読取工程で読み取られた前記所定の文字を前記所定の文字に対応付けて前管理手段により管理されている前記他の文字に置き換えると決定する決定工程とを備えることを特徴とする。 Further, the present invention includes a Jo Tokoro character, a method of controlling an information processing apparatus including a management unit to manage in association with other characters, reading means of the information processing apparatus, to fill the character a document medium example Bei mark frames from the data of the image data, the reading process reads the characters entered by the user in the entry boxes, determining means of the information processing apparatus, the character read by said reading step predetermined of a character, and a not Luke determining step of determining overlap in the said predetermined character is the entry frame and a predetermined position read, the determining unit of the information processing apparatus, in the determination step, In response to determining that the character read in the reading step is the predetermined character and that the read predetermined character overlaps the entry frame at a predetermined position. Read in Said predetermined character, characterized in that it comprises a determination step of replacing a decision to the other characters that are more manageable before Symbol management means in association with the predetermined character.

本発明は、所定の文字と、他の文字とを対応付けて管理す管理手段を備える情報処理装置で読み取り実行可能なプログラムであって、前記情報処理装置を、文字を記入する記入枠を備えた文書媒体をデータ化した画像データから、前記記入枠にユーザにより記入された文字を読み取る読取手段と、前記読取手段で読み取られた文字が所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位で重なっているかを判定する判定手段と、前記判定手段により、前記読取手段で読み取られた文字が前記所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっていると判定されたことに応じて、前記読取手段により読み取られた前記所定の文字を前記所定の文字に対応付けて前管理手段により管理されている前記他の文字に置き換えると決定する決定手段として機能させることを特徴とする。 The present invention includes a predetermined character, a read program executable by an information processing apparatus including a management unit to manage in association with the other characters, the information processing apparatus, an entry box to enter text Reading means for reading characters entered by the user in the entry frame from image data obtained by converting the provided document medium into data, and the characters read by the reading means are predetermined characters, and the read determination means for determining a predetermined character Luke not overlap in the entry box and a predetermined position, by the determination unit, a character read is predetermined by the reading means, and the read and in response to said predetermined character is determined to overlap in the entry box and place, the predetermined character read by said reading means, before in association with the predetermined character Characterized in that to function as a determining means for replacing a decision to the other characters that are more manageable to the management unit.

本発明によれば、ユーザにより記入された文字が記入枠に重なることに起因して発生する画像データから文字を読み取る際の文字の誤認識を補正する精度を向上させることが可能な仕組みを提供することができる。 According to the present invention, erroneous recognition of a character when reading a character from the image data character entered by the user is caused to overlap the input frames, a capable of improving the accuracy of correcting mechanism Can be provided.

本発明の実施形態に係わるシステム構成の一例を示す図である。It is a figure which shows an example of the system configuration | structure concerning embodiment of this invention. 本発明の実施形態に係わる装置のハードウェア構成の一例を示すブロック図である。It is a block diagram which shows an example of the hardware constitutions of the apparatus concerning embodiment of this invention. 本発明の第1の実施形態に係る全体の流れを示すメインのフローチャートの一例である。It is an example of the main flowchart which shows the whole flow which concerns on the 1st Embodiment of this invention. 本発明の実施形態に係わるOCR修正情報テーブルのデータ構成を示す一例である。It is an example which shows the data structure of the OCR correction information table concerning embodiment of this invention. 本発明の第1の実施形態に係るクライアント端末101で実行される接触文字の有無判定のフローチャートの一例である。It is an example of the flowchart of the presence determination of the contact character performed with the client terminal 101 which concerns on the 1st Embodiment of this invention. 本発明の実施形態に係わる記入枠情報テーブルのデータ構成を示す一例である。It is an example which shows the data structure of the entry frame information table concerning embodiment of this invention. 本発明の実施形態に係わる記入枠と記入文字の二値画像を示す一例である。It is an example which shows the binary image of the entry frame and entry character concerning embodiment of this invention. 本発明の実施形態に係わる記入枠をノイズ除去処理した際の二値画像を示す一例である。It is an example which shows the binary image at the time of carrying out the noise removal process of the entry frame concerning embodiment of this invention. 本発明の実施形態に係わる記入枠をノイズ除去処理した際の除去された側の二値画像を示す一例である。It is an example which shows the binary image of the side removed when the entry frame concerning embodiment of this invention performed the noise removal process. 本発明の実施形態に係わる接触情報テーブルのデータ構成を示す一例である。It is an example which shows the data structure of the contact information table concerning embodiment of this invention. 本発明の第1の実施形態に係るクライアント端末101で実行されるグレー枠消し処理のフローチャートの一例である。It is an example of the flowchart of the gray frame deletion process performed with the client terminal 101 which concerns on the 1st Embodiment of this invention. 本発明の実施形態に係わる記入枠と記入文字のそれぞれのグレー値頻度分布を示す一例である。It is an example which shows each gray value frequency distribution of the entry frame and the entry character concerning embodiment of this invention. 本発明の実施形態に係わる記入枠を消し記入文字だけを残すよう二値化処理した際の画像を示す一例である。It is an example which shows the image at the time of binarization processing which erases the entry frame concerning embodiment of this invention, and leaves only an entry character. 本発明の第1の実施形態に係るクライアント端末101で実行される枠接触部分判定処理のフローチャートの一例である。It is an example of the flowchart of the frame contact part determination process performed with the client terminal 101 which concerns on the 1st Embodiment of this invention. 本発明の第1および第2の実施形態に係るクライアント端末101で実行されるOCR修正判定処理のフローチャートの一例である。It is an example of the flowchart of the OCR correction determination process performed with the client terminal 101 which concerns on the 1st and 2nd embodiment of this invention. 本発明の第2の実施形態に係るクライアント端末101で実行される枠接触部分判定処理のフローチャートの一例である。It is an example of the flowchart of the frame contact part determination process performed with the client terminal 101 which concerns on the 2nd Embodiment of this invention. 本発明の第2の実施形態に係る全体の流れを示すメインのフローチャートの一例である。It is an example of the main flowchart which shows the whole flow which concerns on the 2nd Embodiment of this invention. 図3のステップS301における、記入枠に記入文字が接触している場合と、記入枠に接していない場合の文字の矩形の取得方法の一例を示す図ある。It is a figure which shows an example of the acquisition method of the rectangle of a character when the entry character is contacting the entry frame in step S301 of FIG. 3, and when not contacting the entry frame.

以下、本発明の実施の形態を、図面を参照して詳細に説明する。
<図1の説明>
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
<Description of FIG. 1>

図1は、本発明の実施形態に係わるシステム構成の一例を示す図である。   FIG. 1 is a diagram illustrating an example of a system configuration according to an embodiment of the present invention.

本発明のクライアント端末101(情報処理装置)は、例えば、パーソナルコンピュータであり、ネットワーク通信機能を備え、ネットワーク1(LAN、WANなど)を介してサーバ102とデータ通信が可能(接続可能)である。
<図2の説明>
The client terminal 101 (information processing apparatus) of the present invention is, for example, a personal computer, has a network communication function, and can communicate (connect) with the server 102 via the network 1 (LAN, WAN, etc.). .
<Description of FIG. 2>

図2は、クライアント端末101、サーバ102のハードウェア構成例を示すブロック図である。   FIG. 2 is a block diagram illustrating a hardware configuration example of the client terminal 101 and the server 102.

図2に示すように、クライアント端末101サーバ102は、システムバス204を介してCPU(Central Processing Unit)201、RAM(Random Access Memory)203、ROM(Read Only Memory)202、入力コントローラ205、ビデオコントローラ206、メモリコントローラ207、通信I/Fコントローラ208等が接続された構成を採る。   As shown in FIG. 2, the client terminal 101 server 102 includes a CPU (Central Processing Unit) 201, a RAM (Random Access Memory) 203, a ROM (Read Only Memory) 202, an input controller 205, and a video controller via a system bus 204. 206, a memory controller 207, a communication I / F controller 208, and the like are connected.

CPU201は、システムバス204に接続される各デバイスやコントローラを統括的に制御する。   The CPU 201 comprehensively controls each device and controller connected to the system bus 204.

また、ROM202あるいは外部メモリ211には、CPU201の制御プログラムであるBIOS(Basic Input/Output System)やOS(Operating System)や、各サーバあるいは各PCが実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。また、本発明を実施するために必要な情報が記憶されている。なお外部メモリはデータベースであってもよい。   Further, the ROM 202 or the external memory 211 will be described later, which is necessary for realizing the functions executed by each server or each PC, such as BIOS (Basic Input / Output System) and OS (Operating System) which are control programs of the CPU 201. Various programs are stored. Further, information necessary for carrying out the present invention is stored. The external memory may be a database.

RAM203は、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をROM202あるいは外部メモリ211からRAM203にロードし、ロードしたプログラムを実行することで各種動作を実現する。   The RAM 203 functions as a main memory, work area, and the like for the CPU 201. The CPU 201 implements various operations by loading a program or the like necessary for executing the processing from the ROM 202 or the external memory 211 to the RAM 203 and executing the loaded program.

また、入力コントローラ205は、キーボード(KB)209や不図示のマウス等のポインティングデバイス等からの入力を制御する。   The input controller 205 controls input from a keyboard (KB) 209 or a pointing device such as a mouse (not shown).

ビデオコントローラ206は、ディスプレイ210等の表示器への表示を制御する。尚、表示器は液晶ディスプレイ等の表示器でもよい。これらは、必要に応じて管理者が使用する。   The video controller 206 controls display on a display device such as the display 210. The display device may be a display device such as a liquid crystal display. These are used by the administrator as needed.

メモリコントローラ207は、ブートプログラム、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ等を記憶する外部記憶装置(ハードディスク(HD))や、フレキシブルディスク(FD)、あるいは、PCMCIA(Personal Computer Memory Card International Association)カードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等の外部メモリ211へのアクセスを制御する。   The memory controller 207 is an external storage device (hard disk (HD)), flexible disk (FD), or PCMCIA (Personal Computer) that stores a boot program, various applications, font data, user files, editing files, various data, and the like. Controls access to an external memory 211 such as a Compact Flash (registered trademark) memory connected to a Memory Card International Association (Card Memory) card slot via an adapter.

通信I/Fコントローラ208は、ネットワーク104を介して外部機器と接続・通信し、ネットワークでの通信制御処理を実行する。例えば、TCP/IP(Transmission Control Protocol/Internet Protocol)を用いた通信等が可能である。   The communication I / F controller 208 is connected to and communicates with an external device via the network 104, and executes communication control processing in the network. For example, communication using TCP / IP (Transmission Control Protocol / Internet Protocol) is possible.

尚、CPU201は、例えばRAM203内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、ディスプレイ210上に表示することが可能である。また、CPU201は、ディスプレイ210上のマウスカーソル(図示しない)等によるユーザ指示を可能とする。   The CPU 201 can display on the display 210 by executing an outline font rasterization process on a display information area in the RAM 203, for example. Further, the CPU 201 enables a user instruction using a mouse cursor (not shown) on the display 210.

本発明を実現するための後述する各種プログラムは、外部メモリ211に記録されており、必要に応じてRAM203にロードされることによりCPU201によって実行されるものである。さらに、上記プログラムの実行時に用いられる定義ファイルおよび各種情報テーブル等も、外部メモリ211に格納されており、これらについての詳細な説明についても後述する。
<第1の実施形態の説明>
<図3の説明>
Various programs to be described later for realizing the present invention are recorded in the external memory 211 and executed by the CPU 201 by being loaded into the RAM 203 as necessary. Furthermore, definition files and various information tables used when executing the program are also stored in the external memory 211, and a detailed description thereof will be described later.
<Description of First Embodiment>
<Description of FIG. 3>

図3は、本発明の第1の実施形態に係るクライアント端末101で実行されるOCR処理の全体の流れを示すメインのフローチャートの一例である。図3のフローチャートの各ステップは、クライアント端末101のCPU201で実行される。なお、本実施例では、記入枠にユーザにより手書きされた文書媒体(申込書や帳票等)をスキャナ等で読み取った電子データ(画像データともいう)が、あらかじめクライアント端末101の外部メモリ211に保存(文字を記入する記入枠内にユーザにより文字が記入された文書媒体をデータ化した画像データを記憶)されており、図3の処理はその電子データをOCR処理するものとする。   FIG. 3 is an example of a main flowchart showing an overall flow of the OCR process executed by the client terminal 101 according to the first embodiment of the present invention. Each step of the flowchart of FIG. 3 is executed by the CPU 201 of the client terminal 101. In this embodiment, electronic data (also referred to as image data) obtained by reading a document medium (application form, form, etc.) handwritten by the user in the entry frame with a scanner or the like is stored in the external memory 211 of the client terminal 101 in advance. (Image data obtained by converting a document medium in which characters are entered by a user into data in an entry box for entering characters is stored), and the processing in FIG. 3 is performed by OCR processing the electronic data.

ステップS301においては、通常のOCR処理を行う。本実施例では記入枠に記入された手書きの数字をOCRする場合を想定する。プログラムによるOCR処理がCPU201で実行され、手書きで記入された数字のOCR結果をRAM203内に記憶する。本実施例では、図10接触情報テーブルのOCR結果1003に記憶させる。   In step S301, normal OCR processing is performed. In the present embodiment, it is assumed that the handwritten numbers entered in the entry frame are OCRed. OCR processing by a program is executed by the CPU 201, and the OCR result of a number entered by handwriting is stored in the RAM 203. In this embodiment, the OCR result 1003 in the contact information table in FIG. 10 is stored.

なお、ステップS301は、本発明における文字を記入する記入枠を備えたフォームにユーザにより文字が記入された文書媒体をデータ化した画像データから、前記ユーザにより記入された文字を読み取る読取手段の一例である。
<図10の説明>
Note that step S301 is an example of reading means for reading characters entered by the user from image data obtained by converting a document medium in which characters are entered by a user into a form having an entry frame for entering characters in the present invention. It is.
<Description of FIG. 10>

図10は、本発明の実施形態に係わる接触情報テーブルのデータ構成を示す一例である。この情報テーブルは、記入枠(矩形枠)に記入された文字が枠のどこにどれだけ接触(本実施例における「接触」という表現は「重なり」ともいう)していたかを記憶する情報テーブルである。なお、図4・6・10の各種データテーブルは、クライアント端末101の外部メモリ211に記憶されていても良い。その場合、外部メモリ211は、本発明における、文字が矩形枠と所定の位置で重なっている場合に、他の文字に置き換えるべき文字の情報を記憶している記憶手段の一例となる。また、RAM203に記憶する場合には、RAM203が記憶手段の一例となる。   FIG. 10 shows an example of the data structure of the contact information table according to the embodiment of the present invention. This information table is an information table for storing how much and how much the characters entered in the entry frame (rectangular frame) are in contact with the frame (the expression “contact” in this embodiment is also referred to as “overlap”). . 4, 6, and 10 may be stored in the external memory 211 of the client terminal 101. In this case, the external memory 211 is an example of a storage unit that stores information on characters to be replaced with other characters when the characters overlap the rectangular frame at a predetermined position in the present invention. In the case of storing in the RAM 203, the RAM 203 is an example of a storage unit.

具体的には、枠番号1001、桁数1002、OCR結果1003、接触有無1004、接触個所1005、接触割合1006からなる。接触個所1005は、本実施例では記入枠の上下左右としたが、左辺上部、左辺下部など細分化しても構わない。また接触割合1006は、本実施例では枠に対する記入文字黒画素の割合としたが、接触個所によって重み付けをして点数化するなどしてもよい。   Specifically, it consists of a frame number 1001, the number of digits 1002, an OCR result 1003, contact presence / absence 1004, a contact location 1005, and a contact ratio 1006. In the present embodiment, the contact portion 1005 is the upper, lower, left, and right sides of the entry frame. However, the contact portion 1005 may be subdivided such as an upper left portion and a lower left portion. In the present embodiment, the contact ratio 1006 is the ratio of black text pixels to the frame. However, the contact ratio 1006 may be scored by weighting according to the contact location.

図3の説明に戻る。   Returning to the description of FIG.

ステップS302においては、OCR結果に指定された文字が含まれるかどうかの判定処理を行う。判定には図4に示すOCR修正情報テーブルを使用する。この情報テーブルのOCR結果文字(401)に記載される文字(図4の例では、「1」・「5」・「7」)が存在する場合はステップS303に進む。存在しない場合は処理を終了する。
<図4の説明>
In step S302, it is determined whether or not the designated character is included in the OCR result. For the determination, an OCR correction information table shown in FIG. 4 is used. If there is a character (“1”, “5”, “7” in the example of FIG. 4) described in the OCR result character (401) of this information table, the process proceeds to step S303. If it does not exist, the process ends.
<Description of FIG. 4>

図4は、本発明の実施形態に係わるOCR修正情報テーブルのデータ構成を示す一例である。この情報テーブルは、手書き記入文字が枠のどの個所にどの程度接触すると、OCR結果がどの文字として誤認識しやすいかの情報(文字が矩形枠と所定の位置で重なっている場合に、他の文字に置き換えるべき文字の情報)を記憶する情報テーブルである。   FIG. 4 shows an example of the data structure of the OCR correction information table according to the embodiment of the present invention. This information table shows information on how much the handwritten text is in contact with which part of the frame, and what character the OCR result is likely to be erroneously recognized as (if the character overlaps the rectangular frame at a predetermined position, This is an information table for storing character information to be replaced with characters.

具体的には、OCR結果文字401、接触個所(記入枠と記入文字の接触個所)402、接触割合(文字の情報として置き換えを行うように判定する重なり状態)403、認識修正文字(誤認識した場合に変換する文字)404からなる。   Specifically, OCR result character 401, contact location (contact location between entry frame and entry character) 402, contact ratio (overlapping state determined to be replaced as character information) 403, recognition correction character (misrecognized) Character to be converted in this case) 404.

なお、本実施例では、接触個所402は記入枠の上下左右としたが、左辺上部、左辺下部など細分化しても構わない。また接触割合403は、本実施例では枠に対する記入文字黒画素の割合としたが、接触個所によって重み付けをして点数化するなどしてもよい。   In the present embodiment, the contact location 402 is the top, bottom, left, and right of the entry frame, but it may be subdivided such as an upper left side and a lower left side. In the present embodiment, the contact ratio 403 is the ratio of black text pixels to the frame. However, the contact ratio 403 may be scored by weighting according to the contact location.

本情報テーブルは事前にユーザが予め手動で作成しておいてもよいし、別途OCRを実行し人為的に誤認識を修正する過程で情報を収集し、自動で作成することも可能である。   This information table may be manually created in advance by the user in advance, or may be automatically created by collecting information in the process of performing OCR separately and correcting erroneous recognition artificially.

図3の説明に戻る。   Returning to the description of FIG.

ステップS303においては、接触文字の有無を判定する処理を行う。この処理の詳細は図5のフローチャートで説明する。   In step S303, a process for determining the presence or absence of a contact character is performed. Details of this processing will be described with reference to the flowchart of FIG.

ステップS304においては、接触文字の有無を判定する処理を行う。この処理では図10に示す接触情報テーブルの情報の1004をもとに、当該枠の文字に接触個所が存在しているかを判定する。接触している個所が存在する場合はステップS305に進む。存在しない場合は処理を終了する。   In step S304, a process for determining the presence or absence of a contact character is performed. In this processing, based on the information 1004 in the contact information table shown in FIG. 10, it is determined whether a contact location exists in the character of the frame. If there is a touching part, the process proceeds to step S305. If it does not exist, the process ends.

ステップS305においては、図10に示す接触情報テーブルで接触文字部分とされた個所のOCR結果が、図4に示すOCR修正情報テーブルで指定された修正対象文字と一致するかどうかを判定する処理を行う。一致する箇所が存在する場合はステップS306に進む。存在しない場合は処理を終了する。   In step S305, a process is performed for determining whether or not the OCR result of the portion designated as the contact character portion in the contact information table shown in FIG. 10 matches the correction target character specified in the OCR correction information table shown in FIG. Do. If there is a matching part, the process proceeds to step S306. If it does not exist, the process ends.

ステップS306においては、グレー枠消し処理を行う。この処理の詳細は図11のフローチャートで説明する。   In step S306, a gray frame erasing process is performed. Details of this processing will be described with reference to the flowchart of FIG.

ステップS307においては、枠接触部分判定処理を行う。この処理の詳細は図14のフローチャートで説明する。   In step S307, a frame contact portion determination process is performed. Details of this processing will be described with reference to the flowchart of FIG.

ステップS308においては、OCR修正判定処理を行う。この処理の詳細は図15のフローチャートで説明する。
<図5の説明>
In step S308, an OCR correction determination process is performed. Details of this processing will be described with reference to the flowchart of FIG.
<Description of FIG. 5>

図5は、本発明の第1の実施形態に係るクライアント端末101で実行される接触文字の有無判定のフローチャートの一例である。図5のフローチャートの各ステップは、クライアント端末101のCPU201で実行される。   FIG. 5 is an example of a flowchart of the presence / absence determination of a contact character executed by the client terminal 101 according to the first embodiment of the present invention. Each step of the flowchart of FIG. 5 is executed by the CPU 201 of the client terminal 101.

ステップS501においては、枠サイズ情報の取得処理を行う。具体的には図6に示す枠情報テーブルの情報を取得しRAM203内に記憶する。
<図6の説明>
In step S501, frame size information acquisition processing is performed. Specifically, the information in the frame information table shown in FIG. 6 is acquired and stored in the RAM 203.
<Description of FIG. 6>

図6は、本発明の実施形態に係わる記入枠情報テーブルのデータ構成を示す一例である。この情報テーブルは、各記入枠に対して、その画像上の記入枠の位置情報を記憶する情報テーブルである。   FIG. 6 shows an example of the data structure of the entry frame information table according to the embodiment of the present invention. This information table is an information table for storing the position information of the entry frame on the image for each entry frame.

具体的には、枠番号601、桁数602、枠座標603、枠幅(枠線幅)604、枠消し閾値605からなる。
枠座標603の「上」「下」については、枠番号601全体の上側の面(線)と下側の面(線)のy座標を表し、枠座標603の「左」「右」については、枠番号601全体の一番左側の面(線)と一番右側の面(線)のx座標を表している。
Specifically, it consists of a frame number 601, a digit number 602, a frame coordinate 603, a frame width (frame line width) 604, and a frame erase threshold 605.
“Up” and “Down” of the frame coordinates 603 represent the y coordinates of the upper surface (line) and the lower surface (line) of the entire frame number 601, and “left” and “right” of the frame coordinates 603 are , The x coordinate of the leftmost surface (line) and the rightmost surface (line) of the entire frame number 601 is represented.

枠座標603や枠線幅604は、本実施例では記入枠(枠番号601全体)の上下左右としたが、ひと枠ごとに情報を記憶(それぞれの前記記入枠の座標を記憶)するなど細分化しても構わない。   In this embodiment, the frame coordinates 603 and the frame line width 604 are the upper, lower, left, and right sides of the entry frame (the entire frame number 601). However, the information is stored for each frame (the coordinates of the entry frames are stored). It does not matter.

なお、記入枠のサイズ等が決まっている場合は、事前に決定しておき与えることも可能である。   If the size of the entry frame is determined, it can be determined and given in advance.

図5の説明に戻る。   Returning to the description of FIG.

ステップS502においては、ステップS501で得た図6に示す枠情報テーブルの情報に基づきノイズ除去パラメータ算出の処理を行う。具体的には、各記入枠の内接矩形にあたるサイズ(記入枠に内接しない程度の矩形の範囲)を計算にて求める。なお、記入枠のサイズが決まっている場合は、事前に決定しておき与えることも可能である。なお、ここでいうノイズとは、記入枠に接触せずに記入された手書き文字のことである。   In step S502, a noise removal parameter calculation process is performed based on the information in the frame information table shown in FIG. 6 obtained in step S501. Specifically, the size corresponding to the inscribed rectangle of each entry frame (the range of the rectangle not inscribed in the entry frame) is obtained by calculation. In addition, when the size of the entry frame is determined, it can be determined and given in advance. In addition, the noise here is a handwritten character entered without touching the entry frame.

ステップS503においては、ステップS502で得たノイズ除去パラメータに基づき、ノイズ除去の処理を行う。この処理により、記入枠に接触せずに記入された手書き文字はノイズとして除去され、枠に接触した文字のみが画像内に残る。   In step S503, noise removal processing is performed based on the noise removal parameter obtained in step S502. By this processing, handwritten characters entered without touching the entry frame are removed as noise, and only the characters in contact with the frame remain in the image.

具体例としては、ノイズ除去の処理を実行すると図7の701に示す8ケタの記入枠に文字が記入された画像から、図8に示すような画像が作成される。なお、同時にノイズとして削除された側の画像として、図9に示す画像も生成し、RAM203内に記憶する。なお、本実施例では、図7の701にノイズ除去の処理を実行しているが、実際には701以外の記入枠についても本処理を実行する。   As a specific example, when the noise removal processing is executed, an image as shown in FIG. 8 is created from an image in which characters are entered in an 8-digit entry box shown at 701 in FIG. At the same time, the image shown in FIG. 9 is also generated as the image on the side deleted as noise and stored in the RAM 203. In this embodiment, the noise removal process is executed in 701 in FIG. 7, but this process is actually executed for entry boxes other than 701.

ステップS504においては、ノイズ除去後画像のOCR処理を行う。この処理結果は一時的にRAM203内に記憶する。   In step S504, OCR processing is performed on the image after noise removal. The processing result is temporarily stored in the RAM 203.

ステップS505においては、ステップS504におけるOCR処理の結果を参照し、OCR結果がスペース文字となったかどうかを判定する処理を行う。ステップS505は、本発明における、記憶手段に記憶されている文字の情報と、前記ユーザから記入された文字の記入枠との重なり状態とに基づいて、前記読取手段で読み取られた文字を置き換えるか否かを判定する判定手段の一例である。   In step S505, the result of the OCR process in step S504 is referred to and a process for determining whether the OCR result is a space character is performed. Step S505 replaces the character read by the reading unit based on the character information stored in the storage unit and the overlapping state of the character entry box entered by the user in the present invention. It is an example of the determination means which determines whether or not.

図10接触情報テーブルのOCR結果1003にスペース文字以外の認識結果があるのにスペース文字になった場合、記入枠に接触しない文字が記入されていてノイズ除去されたと判断する。ステップS505、ステップS506の処理は当該枠の1文字目から桁数(図6の602)分繰り返し処理を実行する。スペース文字になった場合はステップS507へ進む。それ以外の場合はステップS506へ進む。   When there is a recognition result other than a space character in the OCR result 1003 of the contact information table, it becomes a space character, and it is determined that a character that does not touch the entry frame is entered and noise is removed. In the processes in steps S505 and S506, the process is repeated for the number of digits (602 in FIG. 6) from the first character of the frame. If it becomes a space character, the process proceeds to step S507. Otherwise, the process proceeds to step S506.

ステップS506においては、図10接触情報テーブルの接触有無1004に接触有のフラグを立てる。この際、無条件にフラグを立ててもよいし、ステップS504における認識結果が図10接触情報テーブルのOCR結果1003と一致することを条件にフラグを立ててもよい。   In step S506, a contact presence flag is set in the contact presence / absence 1004 of the contact information table in FIG. At this time, a flag may be set unconditionally, or a flag may be set on the condition that the recognition result in step S504 matches the OCR result 1003 of the contact information table in FIG.

ステップS507においては、当該記入枠の残りの枠があるかどうかを判断する処理を行う。まだ記入枠が存在する場合はステップS505へ進む。存在しない場合は、接触文字有無判定処理を終了する。   In step S507, processing for determining whether there is a remaining frame of the entry frame is performed. If there is still an entry frame, the process proceeds to step S505. If it does not exist, the contact character presence determination process is terminated.

図7は、本発明の実施形態に係わる記入枠と記入文字の二値画像を示す一例である。また、701は、本実施例における図6、図10の情報テーブルの枠番号(601、1001)1にあたり、702が、図6の602、図10の1002の桁数に該当する。なお、本実施例の図8、図9の説明においては、701の枠番号を例にして説明する。   FIG. 7 is an example showing a binary image of an entry frame and entry characters according to the embodiment of the present invention. Further, 701 corresponds to the frame number (601, 1001) 1 of the information table in FIGS. 6 and 10 in this embodiment, and 702 corresponds to the number of digits of 602 in FIG. 6 and 1002 in FIG. In the description of FIG. 8 and FIG. 9 of the present embodiment, description will be made by taking the frame number 701 as an example.

図8は、本発明の実施形態に係わる記入枠をノイズ除去処理した際の二値画像を示す一例である。図5のステップS503の実行結果の一例にあたる。   FIG. 8 is an example showing a binary image when the entry frame according to the embodiment of the present invention is subjected to noise removal processing. This corresponds to an example of the execution result of step S503 in FIG.

図9は、本発明の実施形態に係わる記入枠をノイズ除去処理した際の除去された側の二値画像を示す一例である。図5のステップS503の実行結果の一例にあたる。図9に示す画像は、記入された文字のみが残っている特徴を有する。
<図11の説明>
FIG. 9 shows an example of a binary image on the removed side when the entry frame according to the embodiment of the present invention is subjected to noise removal processing. This corresponds to an example of the execution result of step S503 in FIG. The image shown in FIG. 9 has a feature that only the entered characters remain.
<Description of FIG. 11>

図11は、本発明の第1の実施形態に係るクライアント端末101で実行されるグレー枠消し処理のフローチャートの一例である。図11のフローチャートの各ステップは、クライアント端末101のCPU201で実行される。   FIG. 11 is an example of a flowchart of a gray frame erasing process executed by the client terminal 101 according to the first embodiment of the present invention. Each step of the flowchart of FIG. 11 is executed by the CPU 201 of the client terminal 101.

ステップS1101においては、ノイズ除去画像のグレー値分布取得処理を行う。具体的には、図8に示す二値画像で黒画素が存在する部分について、二値化前のグレー画像からそのグレー値を取得していく処理を行う。この処理結果は一時的にRAM203内に記憶する。   In step S1101, a gray value distribution acquisition process of the noise-removed image is performed. Specifically, for the portion of the binary image shown in FIG. 8 where black pixels are present, a process of acquiring the gray value from the gray image before binarization is performed. The processing result is temporarily stored in the RAM 203.

最終的には、図12aに示すグレー値頻度グラフの上段部のグラフに当たるデータが取得される。これにより、一部接触した記入文字のグレー値が残るものの、記入枠のグレー値頻度分布が取得可能となる。   Finally, data corresponding to the upper graph of the gray value frequency graph shown in FIG. 12A is acquired. As a result, the gray value frequency distribution of the entry frame can be acquired although the gray value of the partially touched entry character remains.

ステップS1102においては、ノイズ除去された側の画像のグレー値分布取得処理を行う。   In step S1102, gray value distribution acquisition processing is performed on the noise-removed image.

具体的には、図9に示す二値画像で黒画素が存在する部分について、二値化前のグレー画像からそのグレー値を取得していく処理を行う。この処理結果は一時的にRAM203内に記憶する。   Specifically, for the portion of the binary image shown in FIG. 9 where black pixels exist, processing for acquiring the gray value from the gray image before binarization is performed. The processing result is temporarily stored in the RAM 203.

最終的には、図12bに示すグレー値頻度グラフの下段部のグラフに当たるデータが取得される。これにより、記入文字のグレー値頻度分布が取得可能となる。
ステップS1101とステップS1102の処理は、本発明における、読取手段で読み取られた情報から、前記記入枠と重なっていないと判定された文字の濃度と、前記記入枠と重なっていると判定された前記文字を含む前記記入枠の濃度とをそれぞれ取得する取得手段の一例である。
Finally, data corresponding to the lower graph of the gray value frequency graph shown in FIG. 12B is acquired. Thereby, the gray value frequency distribution of the entered characters can be acquired.
In the processing of step S1101 and step S1102, in the present invention, from the information read by the reading means, the density of the character determined not to overlap the entry frame and the character determined to overlap the entry frame are determined. It is an example of the acquisition means which acquires the density | concentration of the said entry frame containing a character, respectively.

ステップS1103においては、後段のステップS1104で使用する二値化閾値の計算処理を行う。ステップS1101及びステップS1102で得られたグレー値分布の頻度ピーク値の間を閾値として採用する。ステップS1103は、本発明における、取得手段で取得した前記記入枠と重なっていないと判定された文字の濃度と、当該文字の記入された記入枠の濃度との濃度差に基づいて、前記画像データを二値化し、前記文字のみを黒画素にするための閾値を決定する閾値決定手段の一例である。   In step S1103, the binarization threshold value used in the subsequent step S1104 is calculated. The frequency peak value of the gray value distribution obtained in step S1101 and step S1102 is adopted as a threshold value. In step S1103, based on the density difference between the density of the character determined not to overlap the entry frame acquired by the acquisition unit and the density of the entry frame in which the character is entered in the present invention, the image data Is a threshold value determining unit that determines a threshold value for binarizing and setting only the character to a black pixel.

具体的には、両者のピーク(1201と1202)の中間値(1203)や、図12aのグラフの2つの頻度ピークの間で一番低い頻度、あるいは図12a・bの頻度合計が一番少ない値を採用するなど、その閾値の決定方法は、対象となるサンプル毎に変更可能である。   Specifically, the intermediate value (1203) of both peaks (1201 and 1202), the lowest frequency between the two frequency peaks in the graph of FIG. 12a, or the total frequency of FIG. The method for determining the threshold, such as adopting a value, can be changed for each target sample.

ステップS1104においては、枠消し画像作成の処理を行う。具体的には、ステップS1103で決定された閾値(例えば、1203)に従い、OCR対象のグレー画像を二値化する。これにより、記入枠が消え、手書き文字が残る画像を得ることが可能となる。図13は本処理を実施後の画像の一例である。なお、ステップS1104は、閾値決定手段で決定された閾値を用いて、前記画像データを二値化して前記文字のみの黒画素とする二値化手段の一例である。   In step S1104, a frame erase image creation process is performed. More specifically, the OCR target gray image is binarized according to the threshold value (eg, 1203) determined in step S1103. This makes it possible to obtain an image in which the entry frame disappears and the handwritten characters remain. FIG. 13 is an example of an image after this processing is performed. Note that step S1104 is an example of binarization means that binarizes the image data using the threshold value determined by the threshold value determination means so that only the characters are black pixels.

図12は、本発明の実施形態に係わる記入枠と記入文字のそれぞれのグレー値頻度分布を示す一例である。   FIG. 12 is an example showing the gray value frequency distribution of the entry frame and the entry character according to the embodiment of the present invention.

本実施例ではグラフとして表現したが、図11のステップS1103の処理が容易になる様、例えば分布を関数化して記憶することも可能である。   In this embodiment, the graph is expressed as a graph. However, for example, the distribution can be stored as a function so that the processing in step S1103 in FIG. 11 is facilitated.

図13は、本発明の実施形態に係わる記入枠を消し、記入文字だけを残すよう二値化処理した際の画像を示す一例である。図11のステップS1104の実行結果の実施例にあたる。   FIG. 13 is an example showing an image when binarization processing is performed so that the entry frame according to the embodiment of the present invention is erased and only the entered characters are left. This corresponds to an example of the execution result of step S1104 in FIG.

図11の処理を実行することにより、図14の処理で、記入文字と記入枠とがどの位置でどれくらいの割合で接触しているかの判定が容易になる。   By executing the processing of FIG. 11, it becomes easy to determine at what position and at what rate the entered character and the entry frame are in contact with each other in the processing of FIG.

なお、本実施例では、図11の処理の後に図14の処理を実行するとしたが、他の実施例として、図11の処理で得られた画像(例えば図13)を、再びOCR処理する(二値化手段で二値化された前記画像データから前記ユーザにより記入された文字を読み取る)ことで取得した文字の情報をOCR結果としても良い。
<図14の説明>
In this embodiment, the processing of FIG. 14 is executed after the processing of FIG. 11. However, as another embodiment, the image (for example, FIG. 13) obtained by the processing of FIG. Character information acquired by reading characters entered by the user from the image data binarized by the binarization means may be used as the OCR result.
<Description of FIG. 14>

図14は、本発明の第1の実施形態に係るクライアント端末101で実行される枠接触部分判定処理のフローチャートの一例である。図14のフローチャートの各ステップは、クライアント端末101のCPU201で実行される。   FIG. 14 is an example of a flowchart of a frame contact portion determination process executed by the client terminal 101 according to the first embodiment of the present invention. Each step of the flowchart of FIG. 14 is executed by the CPU 201 of the client terminal 101.

ステップS1401においては、当該記入枠の1桁毎に枠消し画像による接触個所特定処理を行う。   In step S1401, a contact location specifying process using a frame erased image is performed for each digit of the entry frame.

具体的には、図13に示したような枠消し画像と図6記入枠情報テーブルの情報を元に、記入枠座標上のどこに記入文字の黒画素が存在するかを計算する。その計算結果は図10の接触情報テーブルの接触個所1005に記憶する。   Specifically, based on the frame erased image as shown in FIG. 13 and the information in the entry frame information table in FIG. 6, it is calculated where the black pixel of the entry character exists on the entry frame coordinates. The calculation result is stored in the contact location 1005 of the contact information table in FIG.

ステップS1402においては、当該記入枠の1桁毎に枠消し画像による接触状況特定処理を行う。具体的には、図13に示したような枠消し画像と図6記入枠情報テーブルの情報(603・604)を元に、記入枠座標上にどれだけの記入文字の黒画素が存在するかを計算する。その計算結果は図10接触情報テーブルの接触割合1006に記憶する。   In step S1402, a contact status specifying process using a frame erased image is performed for each digit of the entry frame. Specifically, based on the frame erased image as shown in FIG. 13 and the information (603 and 604) in the FIG. 6 entry frame information table, how many black characters of entry characters exist on the entry frame coordinates. Calculate The calculation result is stored in the contact ratio 1006 of the contact information table in FIG.

ステップS1403においては、当該記入枠にまだ接触部分判定処理を実行していない桁が残っているかを判定する処理を行う。まだ接触部分判定処理を実行していない桁が存在すればステップS1401に進む。存在しなければ、接触部分判定処理を終了する。
<図15の説明>
In step S1403, a process is performed to determine whether there is a digit that has not yet been subjected to the contact portion determination process in the entry frame. If there is a digit for which the contact portion determination processing has not yet been performed, the process proceeds to step S1401. If it does not exist, the contact portion determination process ends.
<Description of FIG. 15>

図15は、本発明の第1および後述する第2の実施形態に係るクライアント端末101で実行されるOCR修正判定処理のフローチャートの一例である。図15のフローチャートの各ステップは、CPU201で実行される。   FIG. 15 is an example of a flowchart of an OCR correction determination process executed by the client terminal 101 according to the first and second embodiments of the present invention. Each step of the flowchart of FIG. 15 is executed by the CPU 201.

ステップS1501においては、当該記入枠の1桁毎にOCR修正条件と一致するかの判定処理を行う。   In step S1501, a determination process is performed as to whether or not the OCR correction condition matches for each digit of the entry box.

具体的には、図10の枠接触情報テーブルのそれぞれの桁(1002)について、図4と比較し、OCR結果1003とOCR結果文字401が一致し(所定の文字であり)、接触有無1004が有で、接触個所1005が接触個所402と一致(記入枠と所定の位置で接触)し、接触割合1006が接触割合403を上回っているか(所定の割合以上重なっているか)を判定する。判定結果が一致している場合はステップS1502に進む。一致しない場合はステップS1503へ進む。   Specifically, with respect to each digit (1002) of the frame contact information table of FIG. 10, the OCR result 1003 and the OCR result character 401 match (predetermined character) and the presence / absence of contact 1004 is compared with FIG. Yes, it is determined whether the contact location 1005 matches the contact location 402 (contacts the entry frame at a predetermined position), and the contact rate 1006 exceeds the contact rate 403 (overlaps a predetermined rate). If the determination results match, the process proceeds to step S1502. If not, the process proceeds to step S1503.

ステップS1502においては、当該記入枠の1桁毎に図3のステップS301で実行したOCR結果の置き換え処理を行う。   In step S1502, the OCR result replacement process executed in step S301 in FIG. 3 is performed for each digit of the entry box.

ステップS1502は、本発明における、判定手段で置き換えると判定されるべき文字と判定された場合に、前記読取手段で読み取られた当該文字を前記記憶手段に記憶された他の文字に置き換える置換え手段の一例である。   Step S1502 is a replacement unit that replaces the character read by the reading unit with another character stored in the storage unit when it is determined that the character should be determined to be replaced by the determination unit in the present invention. It is an example.

具体的には、該当箇所のOCR結果を、図4OCR修正情報テーブルの認識修正文字404に記載の文字に置き換える処理を実施する。   Specifically, a process of replacing the OCR result of the corresponding part with the character described in the recognized corrected character 404 of the OCR correction information table in FIG. 4 is performed.

ステップS1503においては、当該記入枠にまだOCR修正判定処理を行っていない桁が残っているかを判定する処理を行う。まだOCR修正判定処理を行っていない桁が存在すればステップS1501に進む。存在しなければ、OCR修正判定処理を終了する。   In step S1503, a process is performed to determine whether there are any digits that have not yet been subjected to the OCR correction determination process in the entry frame. If there is a digit for which OCR correction determination processing has not yet been performed, the process proceeds to step S1501. If not, the OCR correction determination process is terminated.

以上の本実施例は、二値画像とともにグレー画像を使用した場合としたが、例えば後述する図16のフローチャートを実施することで、二値画像のみで行うことも可能である。
<第2の実施形態の説明>
<図17の説明>
In the above-described embodiment, a gray image is used together with a binary image. However, for example, by performing a flowchart of FIG.
<Description of Second Embodiment>
<Description of FIG. 17>

図17は、本発明の第2の実施形態に係るクライアント端末101で実行されるOCR処理の全体の流れを示すメインのフローチャートの一例である。図17のフローチャートの各ステップは、クライアント端末101のCPU201で実行される。なお、本実施例では、記入枠にユーザにより手書きされた文書媒体(申込書や帳票等)をスキャナ等で読み取った電子データが、あらかじめクライアント端末101の外部メモリ211に保存されており、図17の処理はその電子データをOCR処理するものとする。なお、図3と同様の処理については、図3と同様のステップ番号を振り、詳細な説明は省略する。   FIG. 17 is an example of a main flowchart showing an overall flow of the OCR process executed by the client terminal 101 according to the second embodiment of the present invention. Each step of the flowchart of FIG. 17 is executed by the CPU 201 of the client terminal 101. In this embodiment, electronic data obtained by reading a document medium (application form, form, or the like) handwritten by the user in the entry frame with a scanner or the like is stored in advance in the external memory 211 of the client terminal 101. FIG. In this process, the electronic data is subjected to OCR processing. Note that the same processing as in FIG. 3 is assigned the same step number as in FIG.

ステップS301においては、通常のOCR処理を行う。   In step S301, normal OCR processing is performed.

ステップS302においては、OCR結果に指定された文字が含まれるかどうかの判定処理を行う。判定には図4に示すOCR修正情報テーブルを使用する。この情報テーブルのOCR結果文字(401)に記載される文字(図4の例では、「1」・「5」・「7」)が存在する場合はステップS1701に進む。存在しない場合は処理を終了する。   In step S302, it is determined whether or not the designated character is included in the OCR result. For the determination, an OCR correction information table shown in FIG. 4 is used. If there is a character (“1”, “5”, “7” in the example of FIG. 4) described in the OCR result character (401) of this information table, the process proceeds to step S1701. If it does not exist, the process ends.

ステップS1701においては、枠接触部分判定処理を行う。この処理の詳細は、後述する図16のフローチャートで説明する。   In step S1701, frame contact portion determination processing is performed. Details of this processing will be described with reference to the flowchart of FIG.

ステップS308においては、OCR修正判定処理を行う。この処理の詳細は図15のフローチャートで説明する。ステップS308の処理が終了すると、図17の処理を終了する。
<図16の説明>
In step S308, an OCR correction determination process is performed. Details of this processing will be described with reference to the flowchart of FIG. When the process of step S308 ends, the process of FIG. 17 ends.
<Description of FIG. 16>

図16は、本発明の第2の実施形態に係るクライアント端末101で実行される枠接触部分判定処理のフローチャートの一例である。図16のフローチャートの各ステップは、クライアント端末101のCPU201で実行される。   FIG. 16 is an example of a flowchart of a frame contact portion determination process executed by the client terminal 101 according to the second embodiment of the present invention. Each step of the flowchart of FIG. 16 is executed by the CPU 201 of the client terminal 101.

ステップS1601においては、図3のステップS301で実施したOCR結果について、記入枠の1桁毎にその認識の際に使用した画像の矩形情報(矩形座標ともいう)を取得する(文字と外接する矩形の座標を読み取る)。   In step S1601, for the OCR result performed in step S301 in FIG. 3, rectangle information (also referred to as rectangular coordinates) of the image used for recognition for each digit of the entry box is acquired (a rectangle circumscribing the character). Read the coordinates).

具体的には、図3のステップS301におけるOCR処理では、記入枠に記入文字が接触していなければ、記入された文字の外接矩形が取得できる(図18b)。一方で、記入枠に記入文字が接触している場合、図3のステップS301におけるOCR処理では、記入枠の位置を認識した上で、記入枠との接触位置に関しては記入枠の内側になるような矩形座標にて文字の矩形座標を取得する(図18a)。   Specifically, in the OCR process in step S301 in FIG. 3, if the entry character is not in contact with the entry frame, the circumscribed rectangle of the entered character can be acquired (FIG. 18b). On the other hand, when the entry character is in contact with the entry frame, the OCR process in step S301 in FIG. 3 recognizes the position of the entry frame, and the contact position with the entry frame is inside the entry frame. The rectangular coordinates of the character are acquired with the rectangular coordinates (FIG. 18a).

ステップS1602においては、当該記入枠の1桁毎にステップS1601で取得した矩形座標の周囲ドットに黒画素が存在するか探索処理を行う。   In step S1602, a search process is performed to determine whether a black pixel exists in the surrounding dots of the rectangular coordinates acquired in step S1601 for each digit of the entry frame.

そして、ステップS1602の処理の結果を、図10の接触情報テーブルに記録する。
なお、ステップS1602の結果、黒画像が存在した場合には、図10の接触有無1004が有(記入枠と記入文字が接触している)となる(読取手段で読み取った文字と外接する矩形の座標が、隣接する座標に黒画素が存在する場合に、前記読取手段で読み取られた文字を置き換えると判定する)。また、その場合には、どの方向にどれだけの黒画素が存在したかを図10の接触有無1004、接触個所1005、接触割合1006に記録する。
And the result of the process of step S1602 is recorded on the contact information table of FIG.
If the result of step S1602 is that a black image is present, the presence / absence of contact 1004 in FIG. 10 is present (the entry frame and the entry character are in contact) (a rectangle circumscribing the character read by the reading means). If the coordinates are adjacent to the black pixel, it is determined that the character read by the reading means is replaced). In that case, the number of black pixels in which direction is recorded in the contact presence / absence 1004, the contact location 1005, and the contact ratio 1006 in FIG.

ステップS1602は、本発明における、記憶手段に記憶されている文字の情報と、前記ユーザから記入された文字の記入枠との重なり状態とに基づいて、前記読取手段で読み取られた文字を置き換えるか否かを判定する判定手段の一例である。   In step S1602, whether or not to replace the character read by the reading unit based on the character information stored in the storage unit and the overlapping state of the character entry box entered by the user in the present invention. It is an example of the determination means which determines whether or not.

なお、この実施例の場合の接触割合は、図6記入枠情報テーブルにおける枠線上と隣り合う画素にどれだけの黒画素が存在するかの割合等を利用することができる。   As the contact ratio in this embodiment, the ratio of how many black pixels exist in the pixels adjacent to the frame line in the entry frame information table in FIG. 6 can be used.

ステップS1603においては、当該記入枠にまだ探索処理を行っていない桁(枠)が残っているかを判定する処理を行う。まだ探索処理を行っていない桁が存在すればステップS1601に進む。存在しなければ、枠接触部分判定処理を終了する。   In step S1603, a process is performed to determine whether a digit (frame) that has not yet been searched for remains in the entry box. If there is a digit that has not yet been searched, the process advances to step S1601. If it does not exist, the frame contact portion determination process is terminated.

以上のように、グレー画像を使用しなくとも枠接触部分判定の処理を実行することも可能である。   As described above, it is also possible to execute the frame contact portion determination process without using a gray image.

以上で、接触文字のOCR結果修正処理の説明を完了する。   This completes the description of the OCR result correction process for contact characters.

なお、本実施例では、ステップS1701の後にステップS308の処理を実行するとしたが、他の実施例として、ステップS1701の処理を実行した後に、ステップS1601で取得した矩形座標の中の文字を再度OCR処理し、その結果認識した文字に置き換えても良い。   In this embodiment, the process of step S308 is executed after step S1701, but as another embodiment, after the process of step S1701 is executed, the characters in the rectangular coordinates acquired in step S1601 are again OCRed. It may be processed and replaced with the recognized character.

また、上述した二つの実施形態では、図3・5・11・14〜17の処理をクライアント端末101のCPU201が実行するとしたが、他の実施例として、サーバ102のCPU201が各処理を実行しても良い。   In the above-described two embodiments, the CPU 201 of the client terminal 101 executes the processes of FIGS. 3, 5, 11, and 14-17. However, as another embodiment, the CPU 201 of the server 102 executes each process. May be.

以上、本発明によると、記入文字が記入枠に重なることによるOCRの誤認識をより正確に補正する仕組みを提供することができる。   As described above, according to the present invention, it is possible to provide a mechanism that more accurately corrects OCR misrecognition caused by an entry character overlapping an entry frame.

また、本発明によると、記入文字と記入枠を効率よく分離することができる。   Further, according to the present invention, it is possible to efficiently separate the entry characters and the entry frame.

なお、上述した各種データの構成及びその内容はこれに限定されるものではなく、用途や目的に応じて、様々な構成や内容で構成されることは言うまでもない。   It should be noted that the configuration and contents of the various data described above are not limited to this, and it goes without saying that the various data and configurations are configured according to the application and purpose.

以上、本発明の実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能であり、具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。   The embodiment of the present invention has been described in detail above. However, the present invention can take an embodiment as a system, apparatus, method, program, storage medium, or the like, specifically, a plurality of devices. The present invention may be applied to a system configured from the above, or may be applied to an apparatus including a single device.

また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。   Another object of the present invention is to supply a storage medium storing software program codes for realizing the functions of the above-described embodiments to a system or apparatus, and the computer (or CPU or MPU) of the system or apparatus stores the storage medium. Needless to say, this can also be achieved by reading and executing the program code stored in.

この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、プログラムコード自体及びそのプログラムコードを記憶した記憶媒体は本発明を構成することになる。   In this case, the program code itself read from the storage medium realizes the functions of the above-described embodiments, and the program code itself and the storage medium storing the program code constitute the present invention.

プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。   As a storage medium for supplying the program code, for example, a flexible disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a CD-R, a magnetic tape, a nonvolatile memory card, a ROM, or the like can be used.

また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(基本システム或いはオペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Further, by executing the program code read by the computer, not only the functions of the above-described embodiments are realized, but also an OS (basic system or operating system) running on the computer based on the instruction of the program code. Needless to say, a case where the function of the above-described embodiment is realized by performing part or all of the actual processing and the processing is included.

さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Further, after the program code read from the storage medium is written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer, the function is determined based on the instruction of the program code. It goes without saying that the CPU or the like provided in the expansion board or function expansion unit performs part or all of the actual processing and the functions of the above-described embodiments are realized by the processing.

なお、上述した各実施形態およびその変形例を組み合わせた構成も全て本発明に含まれるものである。   In addition, all the structures which combined each embodiment mentioned above and its modification are also included in this invention.

ネットワーク 1
クライアント端末 101
サーバ 102
Network 1
Client terminal 101
Server 102

Claims (9)

所定の文字と、他の文字とを対応付けて管理する管理手段と、
文字を記入する記入枠を備えた文書媒体をデータ化した画像データから、前記記入枠にユーザにより記入された文字を読み取る読取手段と、
記読取手段で読み取られた文字が所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっているかを判定する判定手段と、
前記判定手段により、前記読取手段で読み取られた文字が前記所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっていると判定されたことに応じて、前記読取手段により読み取られた前記所定の文字を、前記所定の文字に対応付けて前記管理手段により管理されている前記他の文字に置き換えると決定する決定手段と
を備えることを特徴とする情報処理装置。
Management means for managing predetermined characters in association with other characters;
The document medium with mark frames to fill the character from the data of the image data, reading means for reading the characters entered by the user in the entry boxes,
A character is in a predetermined read in the previous SL reading means, and determining means for determining the said predetermined character read are overlapped with the input frames and a predetermined position,
The determination means determines that the character read by the reading means is the predetermined character, and that the read predetermined character overlaps the entry frame at a predetermined position. And a determining unit that determines to replace the predetermined character read by the reading unit with the other character managed by the managing unit in association with the predetermined character. Information processing device.
前記読取手段により読み取られた文字を出力する出力手段を備え、Output means for outputting the character read by the reading means,
前記出力手段は、前記決定手段で決定された前記他の文字に置き換えて出力することを特徴とする請求項1に記載の情報処理装置。The information processing apparatus according to claim 1, wherein the output unit performs output by replacing the other character determined by the determination unit.
前記画像データに含まれる前記記入枠を除去する除去手段を備え、A removal means for removing the entry frame included in the image data;
前記読取手段は、前記除去手段により前記記入枠を除去した前記画像データから、前記記入枠に前記ユーザにより記入された文字を再度読み取り、The reading means reads again the characters entered by the user in the entry frame from the image data from which the entry frame has been removed by the removing means,
前記決定手段は、前記判定手段により、前記読取手段で読み取られた文字が前記所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっていると判定された後、前記除去手段により記入枠を除去した前記画像データから前記読取手段により前記所定の文字を再度読み取ることで得られる文字であって、前記所定の文字に対応付けて前記管理手段により管理されている前記他の文字に置き換えると決定することThe determining means determines by the determining means that the character read by the reading means is the predetermined character, and the read predetermined character overlaps the entry frame at a predetermined position. After that, the character obtained by re-reading the predetermined character by the reading unit from the image data from which the entry frame is removed by the removing unit, and managed by the management unit in association with the predetermined character Deciding to replace with the other characters that are
を特徴とする請求項1または2に記載の情報処理装置。The information processing apparatus according to claim 1, wherein:
前記所定の文字とは、1、5、7であり、前記所定の文字が1の場合、前記他の文字は、7であり、前記所定の文字が5の場合、前記他の文字は6であり、前記所定の文字が7の場合、前記他の文字は、0または2であることを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。The predetermined characters are 1, 5, and 7. When the predetermined character is 1, the other character is 7, and when the predetermined character is 5, the other character is 6. 4. The information processing apparatus according to claim 1, wherein when the predetermined character is 7, the other character is 0 or 2. 5. 前記所定の文字が1の場合、前記所定の位置は前記記入枠の上部であり、前記所定の文字が5の場合、前記所定の位置は前記記入枠の左側部であり、前記所定の文字が7の場合、前記所定の位置は、前記記入枠の左側部または前記記入枠の下部であることを特徴とする請求項4に記載の情報処理装置。When the predetermined character is 1, the predetermined position is an upper portion of the entry frame, and when the predetermined character is 5, the predetermined position is a left side portion of the entry frame, and the predetermined character is The information processing apparatus according to claim 4, wherein the predetermined position is a left side of the entry frame or a lower part of the entry frame. 前記所定の文字が7の場合であって、前記所定の位置が前記記入枠の左側部である場合、前記他の文字は0であり、前記所定の文字が7の場合であって、前記所定の位置が前記記入枠の下部である場合、前記他の文字は2であることを特徴とする請求項5に記載の情報処理装置。If the predetermined character is 7 and the predetermined position is the left side of the entry frame, the other character is 0, and the predetermined character is 7, and the predetermined character is The information processing apparatus according to claim 5, wherein the other character is 2 when the position of the character is at a lower part of the entry frame. 前記画像データから、前記ユーザにより記入された文字の濃度と、前記記入枠の濃度とを取得する取得手段と、
前記取得手段で取得した前記ユーザにより記入された文字の濃度と、前記記入枠の濃度との濃度差に基づいて、前記画像データを二値化し、前記文字のみを黒画素にするための閾値を決定する閾値決定手段と
を備え、
前記除去手段は、前記閾値決定手段で決定された閾値を用いて、前記画像データを二値化して前記文字のみの黒画素とすることで、前記記入枠を除去することを特徴とする請求項3乃至6のいずれか1項に記載の情報処理装置。
From the image data, and the density of characters entered by the user, an acquisition unit before acquire the concentration of Kiki Nyuwaku,
And density of characters entered by the user acquired by the acquisition unit, based on the density difference between the density of the input frame, the image data is binarized, a threshold value for only the character to a black pixel Threshold determining means for determining;
With
The removing means uses a threshold determined by the threshold determination means, wherein the image data by the black pixels in only the character by binarizing, wherein characterized that you remove the entry frame Item 7. The information processing device according to any one of Items 3 to 6 .
定の文字と、他の文字とを対応付けて管理す管理手段を備える情報処理装置の制御方法であって、
前記情報処理装置の読取手段が、文字を記入する記入枠を備えた文書媒体をデータ化した画像データから、前記記入枠にユーザにより記入された文字を読み取る読取工程と、
前記情報処理装置の判定手段、前記読取工程で読み取られた文字が所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位で重なっているかを判定する判定工程と、
前記情報処理装置の決定手段が、前記判定工程で、前記読取工程で読み取られた文字が前記所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっていると判定されたことに応じて、前記読取工程で読み取られた前記所定の文字を前記所定の文字に対応付けて前管理手段により管理されている前記他の文字に置き換えると決定する決定工程と
を備えることを特徴とする情報処理装置の制御方法。
And Jo Tokoro character, a method of controlling an information processing apparatus including a management unit to manage in association with other characters,
Reading means of the information processing apparatus, a document medium example Bei mark frames to fill the character from the data of the image data, the reading step reads a character entered by the user in the entry boxes,
Judging means of the information processing apparatus, wherein a character is a predetermined character read by the reading step, and determining the said predetermined character read Luca not overlap in the entry box and the predetermined position A determination step to
The determining means of the information processing apparatus, in the determination step, the character read in the reading step is the predetermined character, and the read predetermined character overlaps the entry frame at a predetermined position. in response to which has to have been determined, and replacing the predetermined character read by said reading step, and more to the other characters are managed before Symbol management means in association with the predetermined character decision A control method for an information processing apparatus, comprising: a determining step.
所定の文字と、他の文字とを対応付けて管理す管理手段を備える情報処理装置で読み取り実行可能なプログラムであって、
前記情報処理装置を、
文字を記入する記入枠を備えた文書媒体をデータ化した画像データから、前記記入枠にユーザにより記入された文字を読み取る読取手段と、
前記読取手段で読み取られた文字が所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位で重なっているかを判定する判定手段と、
前記判定手段により、前記読取手段で読み取られた文字が前記所定の文字であり、かつ、当該読み取られた前記所定の文字が前記記入枠と所定の位置で重なっていると判定されたことに応じて、前記読取手段により読み取られた前記所定の文字を前記所定の文字に対応付けて前管理手段により管理されている前記他の文字に置き換えると決定する決定手段と
して機能させることを特徴とするプログラム。
A predetermined character, a read program executable by an information processing apparatus including a management unit to manage in association with other characters,
The information processing apparatus;
Reading means for reading characters entered by the user in the entry frame from image data obtained by converting a document medium having an entry frame for entering characters into data;
Wherein a character is in a predetermined read by the reading means, and determination means for determining the predetermined character to which the read is Luke not overlap in the entry box and a predetermined position,
Wherein the determining means, wherein a character which is read by the reading means said predetermined character, and, depending on said predetermined character to which the read is determined to be overlapped with the input frames and place Te, the predetermined character read by said reading means, be made to function as a determining means for replacing a decision to the other characters that are more manageable before Symbol management means in association with the predetermined character A program characterized by
JP2013237454A 2013-11-15 2013-11-15 Information processing apparatus, information processing apparatus control method, and program Active JP6255929B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013237454A JP6255929B2 (en) 2013-11-15 2013-11-15 Information processing apparatus, information processing apparatus control method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013237454A JP6255929B2 (en) 2013-11-15 2013-11-15 Information processing apparatus, information processing apparatus control method, and program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017234746A Division JP6471796B2 (en) 2017-12-07 2017-12-07 Information processing apparatus, information processing apparatus control method, and program

Publications (3)

Publication Number Publication Date
JP2015097067A JP2015097067A (en) 2015-05-21
JP2015097067A5 JP2015097067A5 (en) 2017-08-24
JP6255929B2 true JP6255929B2 (en) 2018-01-10

Family

ID=53374323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013237454A Active JP6255929B2 (en) 2013-11-15 2013-11-15 Information processing apparatus, information processing apparatus control method, and program

Country Status (1)

Country Link
JP (1) JP6255929B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6903966B2 (en) * 2017-03-16 2021-07-14 富士フイルムビジネスイノベーション株式会社 Information processing equipment, information processing systems and programs

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3345224B2 (en) * 1995-03-06 2002-11-18 富士通株式会社 Pattern extraction device, pattern re-recognition table creation device, and pattern recognition device
JP4704601B2 (en) * 2000-11-01 2011-06-15 富士通株式会社 Character recognition method, program, and recording medium
JP3794285B2 (en) * 2001-06-12 2006-07-05 日本電気株式会社 Optical character reader

Also Published As

Publication number Publication date
JP2015097067A (en) 2015-05-21

Similar Documents

Publication Publication Date Title
CN109933756B (en) Image file transferring method, device and equipment based on OCR (optical character recognition), and readable storage medium
JP4676225B2 (en) Method and apparatus for capturing electronic forms from scanned documents
US11106891B2 (en) Automated signature extraction and verification
JP5357612B2 (en) Underline removal device
KR102576276B1 (en) Processing of text handwriting input in free handwriting mode
US20170004122A1 (en) Handwritten character correction apparatus, handwritten character correction method, and non-transitory computer-readable recording medium
US20130136360A1 (en) Image processing apparatus, image processing method, and computer readable medium
US20160349968A1 (en) Methods of Content-Based Image Area Selection
US10067926B2 (en) Image processing system and methods for identifying table captions for an electronic fillable form
US11080472B2 (en) Input processing method and input processing device
CN111651971A (en) Form information transcription method, system, electronic equipment and storage medium
JP7328797B2 (en) Terminal device, character recognition system and character recognition method
CN113936187A (en) Text image synthesis method and device, storage medium and electronic equipment
JP2009251872A (en) Information processing device and information processing program
JP6255929B2 (en) Information processing apparatus, information processing apparatus control method, and program
KR102598210B1 (en) Drawing information recognition method of engineering drawings, drawing information recognition system, computer program therefor
JP6471796B2 (en) Information processing apparatus, information processing apparatus control method, and program
CN111476090A (en) Watermark identification method and device
US9342739B2 (en) Character recognition apparatus, non-transitory computer readable medium, and character recognition method
US10424051B2 (en) Image analyzing apparatus and non-transitory storage medium storing instructions executable by the image analyzing apparatus
JP6201838B2 (en) Information processing apparatus and information processing program
JP2003046746A (en) Method and apparatus for processing image
CN111860315A (en) Method, device and equipment for detecting form line and storage medium
JP7231844B2 (en) Information processing device, information processing method, program
JP6241311B2 (en) Image processing apparatus and image processing program

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20161101

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20161101

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170710

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170908

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171120

R150 Certificate of patent or registration of utility model

Ref document number: 6255929

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250