JP2010283665A - Image reading method and image reading system - Google Patents

Image reading method and image reading system Download PDF

Info

Publication number
JP2010283665A
JP2010283665A JP2009136293A JP2009136293A JP2010283665A JP 2010283665 A JP2010283665 A JP 2010283665A JP 2009136293 A JP2009136293 A JP 2009136293A JP 2009136293 A JP2009136293 A JP 2009136293A JP 2010283665 A JP2010283665 A JP 2010283665A
Authority
JP
Japan
Prior art keywords
image
white balance
blank sheet
document
image reading
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009136293A
Other languages
Japanese (ja)
Other versions
JP5222795B2 (en
Inventor
Takehiro Urano
雄大 浦野
Minenobu Seki
峰伸 関
Hiroshi Shinjo
広 新庄
Shingo Fujimura
真吾 藤村
Takahisa Murase
隆久 村瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Omron Terminal Solutions Corp
Original Assignee
Hitachi Omron Terminal Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Omron Terminal Solutions Corp filed Critical Hitachi Omron Terminal Solutions Corp
Priority to JP2009136293A priority Critical patent/JP5222795B2/en
Publication of JP2010283665A publication Critical patent/JP2010283665A/en
Application granted granted Critical
Publication of JP5222795B2 publication Critical patent/JP5222795B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image reading method and image reading system for correcting uneven luminance of a captured image and a change in color tone without using blank paper. <P>SOLUTION: A non-contact type image reading system includes: a document platen for placing an object to capture an image thereon; an image sensor for outputting a signal corresponding to the quantity of incident light; and a camera for imaging, in color, the document platen and a document placed on the document platen using the image sensor. A document platen image 14 and a blank paper image 13, which are imaged under the same condition, are used to calculate a blank paper luminance value with respect to a document platen luminance value, and hold it as a blank paper inference table 107. The document platen image 14 obtained by imaging the document platen and the blank paper inference table 107 are used for white balance data calculation 105 and shading data generation 106. The white balance data 108 are used for white balance control 110. The shading data 109 are used for shading correction 111. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、オフィスや家庭の文書、もしくは伝票や郵便物、紙幣などの帳票類、その他の立体物を、エリアイメージセンサを用いたカメラで読取り、補正、加工する画像読取方法および画像読取システムに関する。   The present invention relates to an image reading method and an image reading system for reading, correcting, and processing office or home documents, forms such as slips, postal items, banknotes, and other three-dimensional objects with a camera using an area image sensor. .

上向きに置かれたドキュメントを支柱に固定されたイメージセンサで真上から読み取る非接触型のスキャナ装置は、フラットベッドスキャナと比べると、多様なサイズや厚さの用紙が混在している場合にスキャンする手間を少なくできるため、多様な帳票を扱う金融機関の窓口業務などで活用されている。
非接触型のスキャナ装置は、照明条件や文書の位置・形状などによって読み取った画像データには不要な歪みや影などの輝度ムラ(Shade:シェード)が発生する。また、環境光の色の違いにより、読取った画像データの色合いが変化する。そのため、キャリブレーションを行うことで環境光の影響を取り除く必要がある。一般的なキャリブレーション方法としては、原稿台に白紙を置き読み込ませることでホワイトバランスデータやシェーディングデータの取得を行い、該ホワイトバランスデータを用いて原稿画像のホワイトバランスデータ補正を行い、該シェーディングデータを用いて原稿画像のシェーディング補正を行っている。しかし、照明環境が変化するたびに白紙を置くのは手間がかかることや、白紙は汚れや紛失の問題があるため、不要にしたいとのニーズがある。
従来技術としては、特許文献1のように、原稿台の反射率を用いて原稿台の読取画像データから白紙のシェードを推定し、シェーディングデータを生成するものがある。
また、特許文献2や特許文献3のように、読取台上に表示部を設け、キャリブレーション時は白を表示しこれを読み取って補正データを求めるものがある。
Non-contact scanners that read documents placed upward from an image sensor fixed to a column from above are scanned when papers of various sizes and thicknesses are mixed compared to a flatbed scanner. Since it can reduce the time and effort required to do so, it is used in the window of financial institutions that handle a variety of forms.
In the non-contact type scanner device, brightness unevenness (Shade) such as unnecessary distortion or shadow is generated in the image data read according to the illumination condition or the position / shape of the document. Also, the color of the read image data changes due to the difference in the color of the ambient light. Therefore, it is necessary to remove the influence of ambient light by performing calibration. As a general calibration method, white balance data and shading data are acquired by placing a blank sheet on a platen and reading it. The white balance data is corrected using the white balance data, and the shading data is read. Is used to perform shading correction of the document image. However, it is time-consuming to put a blank paper every time the lighting environment changes, and there is a need to make it unnecessary because the blank paper has a problem of dirt and loss.
As a conventional technique, as disclosed in Patent Document 1, a shade of blank paper is estimated from read image data of a document table using the reflectivity of the document table to generate shading data.
In addition, as disclosed in Patent Document 2 and Patent Document 3, there is a device in which a display unit is provided on a reading table, white is displayed during calibration, and this is read to obtain correction data.

特開2008−199556号公報JP 2008-199556 A 特開2008−61170号公報JP 2008-61170 A 特開2004−200842号公報Japanese Patent Laid-Open No. 2004-200842

白紙を用いずに原稿台のみでホワイトバランスデータを取得する場合、原稿台の輝度値ではホワイトバランスが取れるが、白紙のような高輝度領域ではホワイトバランスが取得できないという課題がある。
また、シェーディングデータに関しては、白紙に発生する影に対して原稿台に発生する影は輝度値が低いため、白紙のシェーディング補正に直接用いることができないという課題がある。
そして、上記特許文献1の方法では、原稿台輝度値に対して一律の計数を乗算するため、イメージセンサの出力値が非線形の場合には適用できない、という課題がある。
また、特許文献2や特許文献3の方法では、表示部が必要になりコストがかかるとともに、表示部で白を表示させる際、高精細カメラで読み取って一様になるレベルで均一に表示させることは難しいという問題がある。
When white balance data is acquired using only the document table without using blank paper, white balance can be obtained with the luminance value of the document table, but white balance cannot be acquired in a high-luminance region such as blank paper.
Further, the shading data has a problem that the shadow generated on the document table has a lower luminance value than the shadow generated on the blank paper, and cannot be directly used for the shading correction of the blank paper.
The method of Patent Document 1 has a problem that it cannot be applied when the output value of the image sensor is nonlinear because the document table luminance value is multiplied by a uniform count.
In addition, the methods disclosed in Patent Document 2 and Patent Document 3 require a display unit and are costly, and when displaying white on the display unit, display it uniformly at a level that is read and uniform by a high-definition camera. There is a problem that is difficult.

本発明は、これらの課題を解決するために、白紙無しでホワイトバランス調整およびシェーディングデータ取得を行う画像読取方法、および画像読取システムを提供することを目的とする。   In order to solve these problems, an object of the present invention is to provide an image reading method and an image reading system that perform white balance adjustment and shading data acquisition without blank paper.

上記課題を解決するために、本発明の画像読取方法は、撮像対象物を置く原稿台と、入射光量に対応する信号を出力するイメージセンサと、該イメージセンサで原稿台及び原稿台に置かれた原稿をカラー撮影するカメラを用いる画像読取方法において、原稿台輝度値のそれぞれの値に対応する白紙輝度値を白紙推定テーブルとして保持しておき、原稿台を撮影して原稿台画像を取得し、前記白紙推定テーブルを用いて該原稿台画像を変換した白紙相当画像を生成し、該白紙相当画像と前記撮影した原稿台画像とを用いてホワイトバランスデータを生成するものである。
そして、例えば、前記白紙推定テーブルは、同一の撮影条件で撮影した原稿台画像と白紙画像とを用いて計算することにより生成するものである。
また、例えば、前記ホワイトバランスデータは、無彩色を撮影した際のRレベル、Gレベル、Bレベル各信号レベルを、基準信号レベルに合わせるための係数を算出することで生成するものである。
本発明の画像読取方法においては、前記撮像対象物を置く原稿台は、原稿の読取り領域の外側に、枠外黒色部および基準マークを備えており、前記白紙相当画像および前記撮影した原稿台画像に加えて、前記枠外黒色部の輝度値および前記基準マークの輝度値を用いてホワイトバランスデータを生成してもよい。
本発明の画像読取方法においては、さらに、前記ホワイトバランスデータと、前記白紙推定テーブルを用いて前記撮影した原稿台画像を変換した白紙相当画像とを用いてシェーディングデータを生成するものである。
さらに、原稿台に置かれた原稿を撮影して原稿画像を取得し、前記ホワイトバランスデータを用いて該撮影した原稿画像のホワイトバランス補正を行い、前記シェーディングデータを用いて該撮影した原稿画像のシェーディング補正を行うものである。
In order to solve the above problems, an image reading method according to the present invention includes a document table on which an imaging target is placed, an image sensor that outputs a signal corresponding to the amount of incident light, and the image sensor placed on the document table and the document table. In an image reading method using a camera for color photographing of a document, a blank sheet brightness value corresponding to each value of the document table brightness value is stored as a blank sheet estimation table, and the document table is captured to obtain a document table image. A blank sheet equivalent image obtained by converting the original table image using the blank sheet estimation table is generated, and white balance data is generated using the blank sheet equivalent image and the photographed original table image.
For example, the blank sheet estimation table is generated by calculating using a document table image and a blank sheet image captured under the same shooting conditions.
Further, for example, the white balance data is generated by calculating a coefficient for matching each of the R level, G level, and B level signal levels when shooting an achromatic color with a reference signal level.
In the image reading method of the present invention, the document table on which the object to be imaged is provided is provided with an out-of-frame black portion and a reference mark outside the document reading area, so that the blank sheet equivalent image and the photographed document table image are displayed. In addition, white balance data may be generated using the luminance value of the black portion outside the frame and the luminance value of the reference mark.
In the image reading method of the present invention, shading data is further generated using the white balance data and a blank sheet equivalent image obtained by converting the photographed document table image using the blank sheet estimation table.
Further, a document placed on the document table is photographed to obtain a document image, white balance correction is performed on the photographed document image using the white balance data, and the photographed document image is captured using the shading data. Shading correction is performed.

本発明の画像読取システムは、撮像対象物を置く原稿台と、入射光量に対応する信号を出力するイメージセンサと、該イメージセンサで原稿台及び原稿台に置かれた原稿をカラー撮影するカメラを備える画像読取システムにおいて、原稿台輝度値のそれぞれの値に対応する白紙輝度値を記憶する白紙推定テーブルと、原稿台を撮影した原稿台画像を前記白紙推定テーブルを用いて変換して白紙相当画像を生成し、該白紙相当画像と前記原稿台画像とを用いてホワイトバランスデータ生成するホワイトバランスデータ生成部と、該ホワイトバランスデータを用いて原稿台に置かれた原稿を撮影した原稿画像のホワイトバランス補正を行うホワイトバランス補正部とを備えるものである。
本発明の画像読取システムは、さらに、同一の撮影条件で撮影した原稿台画像と白紙画像とを用いて原稿台輝度値のそれぞれの値に対応する白紙輝度値を計算することにより白紙推定テーブルを生成する白紙推定テーブル生成部を備えてもよい。
本発明の画像読取システムにおいては、さらに、前記ホワイトバランスデータと、前記白紙推定テーブルを用いて前記撮影した原稿台画像を変換した白紙相当画像とを用いてシェーディングデータを生成するシェーディングデータ生成部と、該シェーディングデータを用いて前記原稿画像のシェーディング補正を行うシェーディング補正部とを備えるものである。
また、本発明の画像読取システムにおいては、さらに、前記撮像対象物を置く原稿台は、原稿の読取り領域の外側に、枠外黒色部および基準マークを備えるものであり、前記ホワイトバランスデータ生成部は、前記白紙相当画像および前記撮影した原稿台画像に加えて、前記枠外黒色部の輝度値および前記基準マークの輝度値を用いてホワイトバランスデータを生成してもよい。
An image reading system according to the present invention includes an original platen on which an object to be imaged is placed, an image sensor that outputs a signal corresponding to the amount of incident light, and a camera that performs color photographing of the original platen placed on the original platen and the original platen by the image sensor. In the image reading system, a blank sheet estimation table that stores blank sheet brightness values corresponding to respective values of the document table brightness values, and a document sheet image obtained by photographing the document table using the blank sheet estimation table is converted into a blank sheet equivalent image. A white balance data generation unit for generating white balance data using the blank sheet equivalent image and the document table image, and a white of the document image obtained by photographing the document placed on the document table using the white balance data A white balance correction unit for performing balance correction.
In the image reading system of the present invention, the blank sheet estimation table is further calculated by calculating a blank sheet brightness value corresponding to each value of the document table brightness value using the document table image and the blank sheet image captured under the same shooting conditions. You may provide the blank paper estimation table production | generation part to produce | generate.
In the image reading system of the present invention, a shading data generating unit that generates shading data using the white balance data and a blank sheet equivalent image obtained by converting the photographed document table image using the blank sheet estimation table; And a shading correction unit that performs shading correction of the document image using the shading data.
In the image reading system of the present invention, the document table on which the imaging object is placed includes an out-of-frame black portion and a reference mark outside the document reading area, and the white balance data generation unit The white balance data may be generated using the luminance value of the black portion outside the frame and the luminance value of the reference mark in addition to the blank sheet equivalent image and the photographed original table image.

本発明によれば、原稿台画像を白紙の画像になるよう演算を行うことで、白紙読取り画像データを用いたシェーディングデータに近似させることができるため、このように生成したシェーディングデータで補正することで白紙読取り画像データを用いたシェーディング補正と同等の出力を得ることができる。その結果、校正時に白紙を置く手間を省くことができ、使い勝手の向上が図れる。 According to the present invention, it is possible to approximate the shading data using the blank read image data by performing the calculation so that the document table image becomes a blank image, and thus the shading data generated in this way is used for correction. Thus, an output equivalent to the shading correction using the blank paper read image data can be obtained. As a result, it is possible to save the trouble of placing a blank sheet at the time of proofreading and to improve the usability.

本発明の画像読取システムの機能ブロック図Functional block diagram of the image reading system of the present invention 画像読取装置の模式図Schematic diagram of image reading device 画像処理装置のハードウェアブロック図Hardware block diagram of image processing device 本発明の白紙推定テーブル生成部の機能ブロック図Functional block diagram of the blank sheet estimation table generation unit of the present invention 白紙推定テーブルのデータ保持形式を示す図Diagram showing data retention format of blank sheet estimation table 白紙推定テーブル生成のフローチャートBlank sheet estimation table generation flowchart 本発明のホワイトバランスデータ生成部の機能ブロック図Functional block diagram of the white balance data generation unit of the present invention ホワイトバランスデータのデータ保持形式を示す図Diagram showing the data retention format of white balance data 白紙相当画像の生成フローチャートBlank paper equivalent image generation flowchart ホワイトバランスデータ算出のフローチャートWhite balance data calculation flowchart ホワイトバランス補正のフローチャートWhite balance correction flowchart 無彩色撮影時のホワイトバランス調整前後の出力値を示す図The figure which shows the output value before and after white balance adjustment at the time of achromatic photography 本発明のシェーディングデータ生成部の機能ブロック図Functional block diagram of the shading data generation unit of the present invention シェーディングデータ生成のフローチャートShading data generation flowchart シェーディング補正のフローチャートShading correction flowchart シェーディング補正前後の出力値を示す図Diagram showing output values before and after shading correction

以下、本発明の実施の形態を添付図面に基づいて説明する。
図1は画像読取システムの機能を表す図である。画像読取システムは、画像読取装置11と画像処理装置12で構成される。
画像読取装置11は、画像取得部101、画像取得命令発行部102、および通信部103から成る。画像取得部101は、カメラを用いて画像の取得を行う。画像取得命令発行部102は、画像処理装置12からの命令を受け画像取得部101に対して画像取得命令を発行する。通信部103は、画像処理装置12から画像取得命令を受信したり、画像を画像処理装置12へと配送したりする。
画像処理装置12は、通信部302、白紙推定テーブル生成部104、ホワイトバランスデータ生成部105、シェーディングデータ生成部106、ホワイトバランス補正部110、シェーディング補正部111から成る。
画像処理装置12における処理段階としては、初回登録時に1度行う処理、環境光が変化する度に行う処理17、原稿が読み込まれる度に行う処理18がある。初回登録時に1度行う処理には、白紙推定テーブルの生成がある。環境光が変化する度に行う処理17には、ホワイトバランスデータ生成とシェーディングデータ生成がある。原稿が読み込まれる度に行う処理18には、ホワイトバランス補正とシェーディング補正がある。
通信部302は、画像読取装置11へと画像取得命令の発行を行ったり、画像読取装置11が撮像した画像を取得したりする。白紙推定テーブル生成部104は、通信部302を通じて得られた白紙画像13と原稿台画像14を用いて、白紙推定テーブル107の生成を行う。白紙推定テーブル生成部104の詳細説明に関しては、図4から図6にて説明する。ホワイトバランスデータ生成部105は、白紙推定テーブル107と原稿台画像14を用いて、ホワイトバランスデータ108の生成を行う。ホワイトバランスデータ生成部の詳細な説明に関しては図7から図10にて説明する。シェーディングデータ生成部106は、原稿台画像14と、白紙推定テーブル107と、ホワイトバランスデータ108を用いてシェーディングデータ109を生成する。シェーディングデータ生成部106の詳細な説明は、図13から図14にて行う。ホワイトバランス補正部110は、ホワイトバランスデータ108を用いて原稿画像15のホワイトバランス補正を行う。ホワイトバランス補正部110の詳細な説明は図11にて行う。シェーディング補正部111は、シェーディングデータ109を用いてホワイトバランス補正後の原稿画像15のシェーディング補正を行う。シェーディング補正部111の詳細な説明は、図15にて行う。原稿画像15は、ホワイトバランス補正部110においてホワイトバランス補正が行われ、シェーディング補正部111においてシェーディング補正を行うことで、輝度ムラが無く色合いの変化がない補正済画像16となる。
Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings.
FIG. 1 is a diagram illustrating functions of the image reading system. The image reading system includes an image reading device 11 and an image processing device 12.
The image reading device 11 includes an image acquisition unit 101, an image acquisition command issue unit 102, and a communication unit 103. The image acquisition unit 101 acquires an image using a camera. The image acquisition command issuing unit 102 receives an instruction from the image processing device 12 and issues an image acquisition command to the image acquisition unit 101. The communication unit 103 receives an image acquisition command from the image processing apparatus 12 and delivers an image to the image processing apparatus 12.
The image processing apparatus 12 includes a communication unit 302, a blank sheet estimation table generation unit 104, a white balance data generation unit 105, a shading data generation unit 106, a white balance correction unit 110, and a shading correction unit 111.
Processing stages in the image processing apparatus 12 include a process performed once at the time of initial registration, a process 17 performed every time ambient light changes, and a process 18 performed every time a document is read. One process performed at the time of initial registration includes generation of a blank sheet estimation table. Processing 17 performed every time ambient light changes includes white balance data generation and shading data generation. Processing 18 performed each time a document is read includes white balance correction and shading correction.
The communication unit 302 issues an image acquisition command to the image reading device 11, and acquires an image captured by the image reading device 11. The blank sheet estimation table generation unit 104 generates a blank sheet estimation table 107 using the blank sheet image 13 and the document table image 14 obtained through the communication unit 302. Details of the blank sheet estimation table generation unit 104 will be described with reference to FIGS. The white balance data generation unit 105 generates white balance data 108 using the blank sheet estimation table 107 and the document table image 14. The detailed description of the white balance data generation unit will be described with reference to FIGS. The shading data generation unit 106 generates shading data 109 using the document table image 14, the blank sheet estimation table 107, and the white balance data 108. A detailed description of the shading data generation unit 106 will be given with reference to FIGS. The white balance correction unit 110 performs white balance correction on the document image 15 using the white balance data 108. A detailed description of the white balance correction unit 110 will be given with reference to FIG. The shading correction unit 111 uses the shading data 109 to perform shading correction of the original image 15 after white balance correction. Details of the shading correction unit 111 will be described with reference to FIG. The document image 15 is subjected to white balance correction in the white balance correction unit 110 and is subjected to shading correction in the shading correction unit 111, whereby a corrected image 16 having no luminance unevenness and no change in hue is obtained.

図2は画像読取システムの画像読取装置11の模式図である。画像読取装置11はカメラ部201とそれを固定する支柱202と撮像物を置く原稿台203、原稿台上のカメラ撮像範囲204の内にある読取り領域205と、基準マーク206とで構成される。原稿は読取り領域205に置いて撮影する。読取り画像データにはカメラ撮像範囲の画像が収まっている。つまり、画像を読み取ると読取り領域205だけでなく、その外側の基準マーク206の画像データも取得することができる。
原稿台203は原稿との区別が容易な色が望ましく、黒色(反射率Rは0.05以下)が望ましい。基準マーク206はホワイトバランスデータを算出する際の基準として用いる。ここでは説明を簡単にするために、基準マーク206を白色(反射率1.0)とするが、反射率が既知であればその反射率を基に白に変換して計算できる。
従来、白紙を読取った画像データをシェーディングデータとして使用していたが、シェーディングという照明ムラ等の歪みは、白でない色でも同様に発生する。つまり、白でない色で発生したシェーディングを用いても、照明ムラ等の歪みを除去できる。
但し、反射率が低いとSN比が悪くノイズばかりとなる。そのため、原稿台の読取り領域205の反射率Rは0.05(5%)以上で行うことが考えられる。また、原稿台反射率Rを1.0にすると、原稿と原稿台の境界を見つけにくい。原稿の反射率は実際には1.0(100%)にはならず、90〜75%程度と考えられるので、原稿台の読取り領域205の反射率Rは75%以下にすることが考えられる。
白でない(反射率5%以上75%以下の)原稿台読取り領域205をシェーディング読取り媒体と兼ねることで、白紙を不要にできる。
FIG. 2 is a schematic diagram of the image reading apparatus 11 of the image reading system. The image reading apparatus 11 includes a camera unit 201, a column 202 that fixes the camera unit 201, a document table 203 on which an object to be imaged is placed, a reading region 205 within a camera imaging range 204 on the document table, and a reference mark 206. The document is placed in the reading area 205 and photographed. The read image data includes an image in the camera imaging range. That is, when the image is read, not only the reading area 205 but also the image data of the reference mark 206 outside thereof can be acquired.
The document table 203 is preferably a color that can be easily distinguished from the document, and is preferably black (reflectance R is 0.05 or less). The reference mark 206 is used as a reference when calculating white balance data. Here, for simplicity of explanation, the reference mark 206 is white (reflectance 1.0). However, if the reflectance is known, the reference mark 206 can be calculated by converting it to white based on the reflectance.
Conventionally, image data obtained by reading a blank sheet has been used as shading data. However, distortion such as unevenness of illumination such as shading also occurs in a non-white color. That is, distortion such as illumination unevenness can be removed even by using shading generated in a non-white color.
However, if the reflectance is low, the SN ratio is poor and only noise is generated. Therefore, it is conceivable that the reflectance R of the reading area 205 of the document table is 0.05 (5%) or more. If the platen reflectance R is 1.0, it is difficult to find the boundary between the document and the platen. Since the reflectivity of the original is not actually 1.0 (100%) and is considered to be about 90 to 75%, the reflectivity R of the reading area 205 of the original table is considered to be 75% or less.
By using the non-white (reflectance 5% or more and 75% or less) platen reading area 205 as a shading reading medium, blank paper can be eliminated.

図3は画像読取システムの画像処理装置12のハードウェア構成を表す図である。画像処理装置は、演算装置CPU301、通信部302、電源303、ハードディスクドライブ等の外部記憶装置304、キーボード305、ディスプレイ306、およびメモリ307からなる。
画像処理装置12は、通信部302を通じて画像読取装置11への読取り命令発行や、画像の取得を行う。CPU301はキーボード305を通じて入力されたユーザからの画像取得要求を解釈し、通信部302を通じて画像読取装置11へと発行する。画像取得要求の発行は、グラフィカルインタフェース(GUI)を用いてマウスで発行することもできるし、画像読取装置に画像取得スイッチを設けてスイッチを押下することで発行することもできる。また、CPUは外部記憶装置304に格納されているプログラムをメモリ307に格納して実行することによって、プログラムの指示に従って通信部302を通じて取得した画像の補正を行い、補正済画像16を外部記憶装置306へ蓄積したり、ディスプレイ306に表示したりする。
FIG. 3 is a diagram illustrating a hardware configuration of the image processing apparatus 12 of the image reading system. The image processing apparatus includes an arithmetic device CPU 301, a communication unit 302, a power source 303, an external storage device 304 such as a hard disk drive, a keyboard 305, a display 306, and a memory 307.
The image processing device 12 issues a read command to the image reading device 11 and acquires an image through the communication unit 302. The CPU 301 interprets an image acquisition request from the user input through the keyboard 305 and issues it to the image reading apparatus 11 through the communication unit 302. The image acquisition request can be issued with a mouse using a graphical interface (GUI), or can be issued by providing an image acquisition switch in the image reading apparatus and pressing the switch. Further, the CPU stores the program stored in the external storage device 304 in the memory 307 and executes it, thereby correcting the image acquired through the communication unit 302 in accordance with the instruction of the program, and the corrected image 16 is stored in the external storage device. The information is stored in 306 or displayed on the display 306.

図4は、原稿台画像14を白紙相当の画像に変換するための白紙推定テーブル107を算出する、白紙推定テーブル生成部104の機能を表すブロック図である。
白紙推定テーブル生成部104は、原稿台画像取得部401、読取り領域画像抽出部402、白紙画像取得部403、白紙領域画像抽出部404、白紙推定テーブル算出部407、白紙推定テーブル書出し部408からなる。原稿台画像取得部401は、通信部302を通じて画像読取装置11から原稿台画像14を取得する。白紙画像取得部403は、通信部302を通じて画像読取装置11から白紙画像13を取得する。読取り領域画像抽出部402は、原稿台画像14に含まれているカメラ撮像範囲204の画像から、読取り領域205の領域のみを読取り領域画像405として抽出する。白紙領域画像抽出部404は、白紙画像13に含まれているカメラ撮像範囲204の画像から、白紙の領域のみを白紙領域画像406として抽出する。なお、白紙は読取り領域全面に置くことが望ましいが、読取り領域の半分など一部にのみ置いても良い。白紙を一部に置く場合は、白紙画像13から白紙領域画像406として抽出した範囲と同一の範囲を、原稿台画像14から読取り領域画像405として抽出する必要がある。白紙推定テーブル算出部407は、読取り領域画像405と白紙領域画像406から、白紙推定テーブル107の算出を行い、メモリ307上へと保存する。白紙推定テーブル書き出し部408は、メモリ307上の白紙推定テーブル107を、外部記憶装置304へと保存する。
FIG. 4 is a block diagram showing the function of the blank sheet estimation table generation unit 104 that calculates a blank sheet estimation table 107 for converting the document table image 14 into an image equivalent to a blank sheet.
The blank sheet estimation table generation unit 104 includes a document table image acquisition unit 401, a reading area image extraction unit 402, a blank page image acquisition unit 403, a blank page area image extraction unit 404, a blank page estimation table calculation unit 407, and a blank page estimation table writing unit 408. . The document table image acquisition unit 401 acquires the document table image 14 from the image reading device 11 through the communication unit 302. A blank image acquisition unit 403 acquires the blank image 13 from the image reading device 11 through the communication unit 302. The reading area image extraction unit 402 extracts only the area of the reading area 205 as the reading area image 405 from the image of the camera imaging range 204 included in the document table image 14. The blank area image extraction unit 404 extracts only a blank area as a blank area image 406 from the image of the camera imaging range 204 included in the blank image 13. Although it is desirable to place the blank paper on the entire reading area, it may be placed on only a part of the reading area. When a blank sheet is placed in part, it is necessary to extract the same area as the blank area image 406 extracted from the blank image 13 as the reading area image 405 from the document table image 14. The blank page estimation table calculation unit 407 calculates the blank page estimation table 107 from the reading area image 405 and the blank page area image 406 and stores it in the memory 307. The blank sheet estimation table writing unit 408 stores the blank sheet estimation table 107 on the memory 307 in the external storage device 304.

図5は、白紙推定テーブル107の保持形式を表す図であり、数値は一例を表す。白紙推定テーブルは、原稿台輝度値Ig501、原稿台輝度値に対応する白紙輝度値Iw502、および原稿台輝度値が同一であるデータのデータ数Dg503が保持されている。   FIG. 5 is a diagram illustrating a holding format of the blank sheet estimation table 107, and the numerical values represent an example. The blank sheet estimation table holds the document table luminance value Ig501, the blank sheet luminance value Iw502 corresponding to the document table luminance value, and the data number Dg503 of data having the same document table luminance value.

次に、図6を用いて、白紙推定テーブル算出部407における白紙推定テーブル107の生成手順を、説明する。白紙推定テーブル107は、画像読取装置11の入出力特性を示すテーブルであり、機器固有である。従って、白紙推定テーブルの算出は、工場出荷時や初回校正時に1度行えば良い。以下の説明では簡単のため白紙推定テーブルを輝度により求める例を示すが、画像読取装置11の出力各色(R,G,BやCMY、R,Gr,Gb,Bなど)毎に算出しても良い。
白紙推定テーブル算出部407は、プログラムを開始601すると、読取り領域画像抽出部402から読取り領域画像405を取得602し、白紙領域画像抽出部404から白紙領域画像406を取得603する。次に、画像の左上を原点とし、主走査方向をx、副走査方向をyとする座標を取り、読取り領域画像上の位置(x,y)の輝度値Igを取得する604。位置(x,y)は、初期値として原点(0,0)が代入されており、以下の説明でも断りがない限り初期値として(0,0)が代入されているものとする。次に、白紙推定テーブル407を参照し、Igに対応する白紙輝度値Iw502とデータ数Dg503を取得する。例えば図5の例では、原稿台輝度値Igが2である場合、白紙輝度値Iwは6でありデータ数Dgは25である。取得した白紙輝度値Iwと、データ数Dgを乗算し、結果をIwTempとして保持する606。次に、白紙領域画像406において、位置(x,y)の輝度値IwNewを取得し607、IwTempに加算608し、データ数Dgに1を加算609する。そして、IwTempをDgで除算し、結果をIwに格納610し、白紙推定テーブル107の白紙輝度値502にIwを、データ数503にDgを、それぞれ登録611する。xに1を加算612し、xが画像幅を超えていないかを判定613し、超えていない場合は604から612の手順を繰り返す。xが画像の主走査方向幅(画像幅)を超えた場合、xに0を代入し、yに1を加算615する。yが画像の副走査方向の幅(画像縦幅)を超えていないかを判定し、超えていない場合は604から615を繰り返す。yが画像縦幅を超えた時点で、プログラムを終了617する。
Next, a procedure for generating the blank sheet estimation table 107 in the blank sheet estimation table calculation unit 407 will be described with reference to FIG. The blank sheet estimation table 107 is a table indicating input / output characteristics of the image reading apparatus 11, and is device-specific. Accordingly, the blank sheet estimation table may be calculated once at the time of factory shipment or at the time of initial calibration. In the following explanation, an example of obtaining the blank sheet estimation table by luminance is shown for the sake of simplicity, but it may be calculated for each output color (R, G, B, CMY, R, Gr, Gb, B, etc.) of the image reading device 11. good.
When starting the program 601, the blank sheet estimation table calculation unit 407 acquires 602 the reading area image 405 from the reading area image extraction unit 402, and acquires 603 the blank area image 406 from the blank area image extraction unit 404. Next, taking the coordinates where the upper left corner of the image is the origin, the main scanning direction is x, and the sub scanning direction is y, the luminance value Ig at the position (x, y) on the reading area image is acquired 604. As for the position (x, y), the origin (0, 0) is assigned as the initial value, and (0, 0) is assumed to be assigned as the initial value unless otherwise specified in the following description. Next, with reference to the blank sheet estimation table 407, a blank sheet brightness value Iw502 and the number of data Dg503 corresponding to Ig are acquired. For example, in the example of FIG. 5, when the document table luminance value Ig is 2, the blank paper luminance value Iw is 6 and the data number Dg is 25. The obtained blank sheet brightness value Iw is multiplied by the number of data Dg, and the result is held 606 as IwTemp. Next, in the blank area image 406, the brightness value IwNew at the position (x, y) is acquired 607, added to IwTemp 608, and 1 is added 609 to the number of data Dg. Then, IwTemp is divided by Dg, the result is stored in Iw 610, Iw is registered in the blank sheet brightness value 502 of the blank sheet estimation table 107, and Dg is registered 611 in the number of data 503, respectively. 1 is added to x 612, and it is determined whether x does not exceed the image width 613, and if not, steps 604 to 612 are repeated. When x exceeds the main scanning direction width (image width) of the image, 0 is substituted for x, and 1 is added 615 to y. It is determined whether y does not exceed the width of the image in the sub-scanning direction (image vertical width), and if not, steps 604 to 615 are repeated. When y exceeds the image height, the program ends 617.

次に、白紙推定テーブル107を用いたホワイトバランス調整およびシェーディング補正について、説明する。ホワイトバランス調整、およびシェーディングデータ生成は、環境光が変化する度に行う必要がある。例えば、画像読取装置11の周囲にモノが置かれた時や、新たに照明を設置した時などに行う必要がある。
ホワイトバランス調整は無彩色箇所における各色(R,G,B)の出力が同一となるように調整する処理である。原稿台画像のみを用いてホワイトバランス調整を行うと、原稿台の反射率(0.05から0.75までにおけるホワイトバランスを取ることは可能であるが、白紙の反射率(0.75以上)のホワイトバランスを取ることができない。この問題を解決するため、白紙相当の画像を用いることで白紙領域のホワイトバランス調整を可能とする。
Next, white balance adjustment and shading correction using the blank paper estimation table 107 will be described. White balance adjustment and shading data generation must be performed each time the ambient light changes. For example, it needs to be performed when an object is placed around the image reading device 11 or when a new illumination is installed.
White balance adjustment is a process of adjusting the output of each color (R, G, B) at the achromatic color portion to be the same. If white balance adjustment is performed using only the image on the platen, it is possible to achieve white balance at the platen's reflectivity (0.05 to 0.75), but to achieve white balance at the white plate's reflectivity (0.75 or more). In order to solve this problem, it is possible to adjust the white balance of the blank area by using an image equivalent to a blank sheet.

図7は、ホワイトバランスデータを生成するホワイトバランスデータ生成部105の機能を示すブロック図である。ホワイトバランスデータ生成部105は、原稿台画像取得部801、白紙推定テーブル取得部802、黒色部輝度値取得部803、白紙相当画像生成部804、基準マーク輝度値取得部805、読取り領域輝度値取得部806、補間部807、ホワイトバランスデータ書込部808からなる。
原稿台画像取得部801は、通信部302を通じて画像読取装置11から原稿台画像14を取得する。白紙推定テーブル取得部802は、外部記憶装置304に格納されている白紙推定テーブル107を取得する。白紙相当画像生成部804において、原稿台画像14と白紙推定テーブル107を使用して、白紙相当画像19を生成する。黒色輝度値取得部803は、カメラ撮像範囲204内の、読取り領域205および基準マーク206を除いた外周部の各色輝度値を取得する。基準マーク輝度値取得部805は、基準マーク206の各色輝度値を取得する。基準マーク206が複数設置されている場合は、基準マーク毎に各色輝度値を扱っても良く、平均値としても良い。読取り領域輝度値取得部806は、原稿台画像14および白紙相当画像19の読取り領域205の各色輝度値を取得する。読取り領域の輝度値は、4角や最大値、最小値を取得し使用しても良く、輝度ムラがあり輝度値が変化している場合は基準色(例えば緑)の輝度値毎に他の色(例えば赤、青)の輝度値を取得することでデータ数を増やすことが可能となる。補間部807は、黒色部輝度値取得部803と基準マーク輝度値取得部805と読取り領域輝度値取得部806で取得した輝度値で取得できなかった輝度値を補間する。補間方法は、3次スプライン補間や、線形補間、ニュートン補間などがあり、センサの特性に合わせた任意の補間方法を選択することができる。ホワイトバランスデータ書き込み部808は、生成したホワイトバランスデータ108を外部記憶装置304へと書き出す。
FIG. 7 is a block diagram illustrating functions of the white balance data generation unit 105 that generates white balance data. The white balance data generation unit 105 includes a platen image acquisition unit 801, a blank page estimation table acquisition unit 802, a black portion luminance value acquisition unit 803, a blank page equivalent image generation unit 804, a reference mark luminance value acquisition unit 805, and a reading area luminance value acquisition. A unit 806, an interpolation unit 807, and a white balance data writing unit 808.
The document table image acquisition unit 801 acquires the document table image 14 from the image reading device 11 through the communication unit 302. The blank sheet estimation table acquisition unit 802 acquires the blank sheet estimation table 107 stored in the external storage device 304. The blank sheet equivalent image generation unit 804 generates a blank sheet equivalent image 19 using the document table image 14 and the blank sheet estimation table 107. A black luminance value acquisition unit 803 acquires each color luminance value of the outer peripheral portion excluding the reading area 205 and the reference mark 206 in the camera imaging range 204. A reference mark luminance value acquisition unit 805 acquires each color luminance value of the reference mark 206. When a plurality of reference marks 206 are installed, each color luminance value may be handled for each reference mark or may be an average value. The reading area luminance value acquisition unit 806 acquires the color luminance values of the reading area 205 of the document table image 14 and the blank sheet equivalent image 19. The brightness value of the reading area may be obtained by using four corners, maximum value, minimum value, and if there is uneven brightness and the brightness value is changing, other brightness values for the reference color (for example, green) The number of data can be increased by acquiring luminance values of colors (for example, red and blue). The interpolation unit 807 interpolates the luminance values that could not be acquired with the luminance values acquired by the black portion luminance value acquisition unit 803, the reference mark luminance value acquisition unit 805, and the reading area luminance value acquisition unit 806. Interpolation methods include cubic spline interpolation, linear interpolation, Newton interpolation, and the like, and an arbitrary interpolation method can be selected in accordance with sensor characteristics. The white balance data writing unit 808 writes the generated white balance data 108 to the external storage device 304.

図8に、ホワイトバランスデータ108のメモリ307および外部記憶装置304上での保持形式を示す。ホワイトバランスデータ108は各色で入力値と出力値をそれぞれ保持する。色の表現は3原色(R,G,B)やベイヤー型(R,Gr,Gb,B)、減色混合(CMY)などがあるが、表現方法は同様である。ここでは3原色(R,G,B)の場合について述べる。ホワイトバランスデータ108は、Rのホワイトバランスデータ92、Gのホワイトバランスデータ93、Bのホワイトバランスデータ94をそれぞれ保持し、Rの入力値921と入力値に対応する出力値922、Gの入力値931と入力値に対応する出力値932、Bの入力値941と入力値に対応する出力値942をそれぞれ保持する。   FIG. 8 shows how the white balance data 108 is stored on the memory 307 and the external storage device 304. The white balance data 108 holds an input value and an output value for each color. There are three primary colors (R, G, B), Bayer type (R, Gr, Gb, B), subtractive color mixing (CMY), etc., but the expression method is the same. Here, the case of three primary colors (R, G, B) will be described. The white balance data 108 holds R white balance data 92, G white balance data 93, and B white balance data 94, respectively. The R input value 921 and the output values 922 and G corresponding to the input values are input. 931 and the output value 932 corresponding to the input value, the B input value 941 and the output value 942 corresponding to the input value, respectively.

先ず、図9を用いて、白紙相当画像生成部804の処理の流れを、説明する。白紙相当画像生成部804における処理は、白紙推定テーブル107を用いて、原稿台画像14を白紙相当画像へと変換するものである。
白紙相当画像生成部804はプログラムを開始701すると、原稿台画像取得部801を通じて原稿台画像14を取得702し、白紙推定テーブル取得部802を通じて白紙推定テーブル107を取得703する。次に、原稿台画像14の位置(x,y)での輝度値Igを取得704し、白紙推定テーブル107のIgに対応する白紙輝度値Iwを取得705し、位置(x,y)の輝度値にIwを代入706する。例えば図5の白紙推定テーブルの例では、原稿台輝度値Igが「2」である場合、白紙輝度値Iwとして「6」を取得し、位置(x,y)の輝度値に「6」を代入する。次にxに1を加算707し、xが画像幅を超えていないかを判定708し、超えていない場合は704から707を繰り返す。xが画像幅を超えた場合、xに0を代入709し、yに1を加算710し、yが画像縦幅を超えていないかを判定711する。yが画像縦幅を超えていない場合、704から710を繰り返す。yが画像縦幅を超えた時点でプログラムを終了712する。
以上により、原稿台画像14を白紙相当画像19へと変換することができる。
First, the flow of processing performed by the blank paper equivalent image generation unit 804 will be described with reference to FIG. The processing in the blank page equivalent image generation unit 804 converts the document table image 14 into a blank page equivalent image using the blank page estimation table 107.
When the blank page equivalent image generation unit 804 starts 701, the original table image 14 is acquired 702 through the original table image acquisition unit 801, and the blank page estimation table 107 is acquired 703 through the blank page estimation table acquisition unit 802. Next, the brightness value Ig at the position (x, y) of the platen image 14 is acquired 704, the blank sheet brightness value Iw corresponding to Ig of the blank sheet estimation table 107 is acquired 705, and the brightness at the position (x, y) is acquired. Substitute 706 for Iw. For example, in the example of the blank page estimation table in FIG. 5, when the document table brightness value Ig is “2”, “6” is acquired as the blank page brightness value Iw, and “6” is set as the brightness value at the position (x, y). substitute. Next, 1 is added to x707, and it is determined 708 whether x does not exceed the image width, and if not, steps 704 to 707 are repeated. When x exceeds the image width, 0 is substituted 709 for x, 1 is added 710 to y, and it is determined 711 whether y does not exceed the image vertical width. If y does not exceed the image height, 704 to 710 are repeated. When y exceeds the image height, the program ends 712.
As described above, the document table image 14 can be converted into the blank sheet equivalent image 19.

次に、図10に、白紙推定テーブル107を使用したホワイトバランスデータ生成部105の処理の流れを示す。ホワイトバランスは、無彩色を撮影した際の各色出力値を同一にする処理であり、基準色(例えば緑)に他の色(赤と青)を合わせる方法や、輝度Yに対して出力を同一にする方法がある。ここでは、緑に他の色を合わせる方法について述べる。ホワイトバランスデータ生成部105は、プログラムを開始1001すると、原稿台画像取得部801を通じて原稿台画像14を取得1002する。次に、黒色部輝度値取得部803において枠外の黒色部の各色輝度値(Rb,Gb,Bb)を取得1003し、基準マーク輝度値取得部805において基準マーク206の各色輝度値(Rw,Gw,Bw)を取得1004し、読取り領域輝度値取得部806にて読取り領域の輝度値(Rg,Gg,Bg)を取得1005する。次に、白紙推定テーブル取得部802を通じて白紙推定テーブル107を取得703し、原稿台画像を白紙相当画像19へと変換1007する。そして、読取り領域輝度値取得部806にて白紙相当画像19の読取り領域の輝度値(Rwe,Gwe,Bwe)を取得1008する。次に、X軸に赤の輝度値(0,Rb,Rg,Rw,Rwe,255)を、Y軸に緑の輝度値(0,Gb,Gg,Gw,Gwe,255)をプロットしたグラフを生成1009し、補間部807にてプロット間の補間を行うことで赤の0から255までの入力値921に対する出力値922を取得1010する。青に関しても同様に、X軸に青の輝度値(0,Bb,Bg,Bw,Bwe,255)を、Y軸に緑の輝度値(0,Gb,Gg,Gw,Gwe,255)をプロットしたグラフを生成1011し、補完部807にてプロット間の補間を行うことで、青の0から255までの入力値941に対する出力値942を取得1012する。緑は基準信号であるため、0から255までの入力値931に対して、線形に0から255までの出力値932が取得1013される。
この実施例では、枠外黒色部の各色輝度値(Rb,Gb,Bb)、および基準マークの各色輝度値(Rw,Gw,Bw)を含めてプロット間の補間を行っているが、本発明は、原稿台画像14の読取り領域の輝度値(Rg,Gg,Bg)、および白紙相当画像19の読取り領域の輝度値(Rwe,Gwe,Bwe)を用いてプロット間の補間を行うことに特徴があるものである。枠外黒色部の各色輝度値(Rb,Gb,Bb)、および基準マークの各色輝度値(Rw,Gw,Bw)を併せて用いることにより、より正確な補間を行うことができる。
Next, FIG. 10 shows a processing flow of the white balance data generation unit 105 using the blank sheet estimation table 107. White balance is a process that makes the output value of each color the same when shooting an achromatic color, and the same output for luminance Y and the method of matching other colors (red and blue) to the reference color (for example, green) There is a way to make it. Here, a method of matching other colors with green will be described. When starting the program 1001, the white balance data generation unit 105 acquires 1002 the document table image 14 through the document table image acquisition unit 801. Next, each black color luminance value (Rb, Gb, Bb) outside the frame is acquired 1003 in the black portion luminance value acquisition unit 803, and each color luminance value (Rw, Gw) of the reference mark 206 is acquired in the reference mark luminance value acquisition unit 805. , Bw) is acquired 1004, and the reading area luminance value acquisition unit 806 acquires the luminance value (Rg, Gg, Bg) of the reading area 1005. Next, the blank sheet estimation table 107 is acquired 703 through the blank sheet estimation table acquisition unit 802 to convert 1007 the original table image into a blank sheet equivalent image 19. Then, the reading area luminance value acquisition unit 806 acquires 1008 the luminance values (Rwe, Gwe, Bwe) of the reading area of the blank paper equivalent image 19. Next, a graph plotting red luminance values (0, Rb, Rg, Rw, Rwe, 255) on the X-axis and green luminance values (0, Gb, Gg, Gw, Gwe, 255) on the Y-axis. Generate 1009 and interpolate between plots by the interpolation unit 807 to obtain 1010 the output value 922 for the red input value 921 from 0 to 255. Similarly for blue, the blue brightness values (0, Bb, Bg, Bw, Bwe, 255) are plotted on the X axis, and the green brightness values (0, Gb, Gg, Gw, Gwe, 255) are plotted on the Y axis. The generated graph 1011 is generated, and the interpolation unit 807 performs interpolation between plots, thereby obtaining 1012 an output value 942 for an input value 941 of blue from 0 to 255. Since green is a reference signal, an output value 932 from 0 to 255 is obtained 1013 linearly with respect to an input value 931 from 0 to 255.
In this embodiment, interpolation is performed between plots including each color luminance value (Rb, Gb, Bb) of the black portion outside the frame and each color luminance value (Rw, Gw, Bw) of the reference mark. Further, it is characterized in that interpolation is performed between plots using the luminance value (Rg, Gg, Bg) of the reading area of the platen image 14 and the luminance value (Rwe, Gwe, Bwe) of the reading area of the blank sheet equivalent image 19. There is something. By using each color luminance value (Rb, Gb, Bb) of the black part outside the frame and each color luminance value (Rw, Gw, Bw) of the reference mark, more accurate interpolation can be performed.

図10は、基準信号を緑とした場合についての処理の流れを示しているが、基準信号を赤にすることも可能である。その場合、1009においてX軸に緑の輝度値を、Y軸に赤の輝度値を取ってプロットし補間することで緑の入力値931に対する出力値932の算出が可能であり、1011においてX軸に青の輝度値を、Y軸に赤の輝度値を取ってプロットし補間することで青の入力値941に対する出力値942を算出することが可能である。また、基準信号を青とした場合も同様の手順にて各色の入力値に対する出力値を得ることが可能である。   FIG. 10 shows the flow of processing when the reference signal is green, but the reference signal can be red. In that case, it is possible to calculate the output value 932 with respect to the green input value 931 by plotting and interpolating the green luminance value on the X axis in 1009 and the red luminance value on the Y axis, and in 1011 the X axis It is possible to calculate the output value 942 with respect to the blue input value 941 by plotting and interpolating the blue luminance value on the Y axis and the red luminance value on the Y axis. Even when the reference signal is blue, it is possible to obtain output values for the input values of the respective colors in the same procedure.

図11に、ホワイトバランス補正部110におけるホワイトバランス補正の処理の流れを示す。ホワイトバランス補正は、画像が読み込まれる度に行う必要がある。ホワイトバランス補正部110は、プログラムを開始1101すると通信部302を通じて任意の画像15を取得1102し、ホワイトバランスデータ108を取得1103する。次に、画像上の位置(x,y)の各色輝度値(Rin,Gin,Bin)を取得1104し、ホワイトバランスデータ108の入力値(Rin,Gin,Bin)に対応する出力値(Rout,Gout,Bout)を取得1105する。例えば図8の例では、各色の入力値がそれぞれ(1,3,2)であった場合、出力値は(3,3,3)が得られる。その後、位置(x,y)の輝度値として(Rout,Gout,Bout)を代入1106する。次にxに1を加算1107し、xが画像幅を超えていないかを判定1108し、超えていない場合は1104から1107を繰り返す。xが画像幅を超えた場合、xに0を代入1109し、yに1を加算1110し、yが画像縦幅を超えていないかを判定1111する。yが画像縦幅を超えていない場合、1104から1110を繰り返す。yが画像縦幅を超えた時点でプログラムを終了1112する。   FIG. 11 shows a flow of white balance correction processing in the white balance correction unit 110. White balance correction must be performed each time an image is read. When starting the program 1101, the white balance correction unit 110 acquires 1102 an arbitrary image 15 through the communication unit 302 and acquires 1103 the white balance data 108. Next, obtain 1104 each color luminance value (Rin, Gin, Bin) of the position (x, y) on the image, and output values (Rout, Gin, Bin) corresponding to the input values (Rin, Gin, Bin) of the white balance data 108 Gout, Bout) is acquired 1105. For example, in the example of FIG. 8, when the input value of each color is (1, 3, 2), the output value is (3, 3, 3). Thereafter, (Rout, Gout, Bout) is substituted 1106 as the luminance value at the position (x, y). Next, 1 is added to x 1107, and it is determined 1108 whether x does not exceed the image width. If not, 1104 to 1107 are repeated. When x exceeds the image width, 0 is substituted 1109 for x, 1 is added 1110, and it is determined 1111 whether y exceeds the image vertical width. If y does not exceed the image height, 1104 to 1110 are repeated. When y exceeds the image height, the program ends 1112.

以上により、画像上の各々の点においてホワイトバランスの取れた画像を得ることができる。ホワイトバランス補正の概念を図12に示す。図12は、白紙を撮影した際の副走査方向中心の各色輝度値を、主走査方向に沿って出力したグラフを表す。ホワイトバランス調整前の各色出力1201では、各色R,G,B毎に異なる出力であったのに対し、ホワイトバランス調整後の各色出力1202は全て同じ値を得ることができる。   As described above, an image with white balance at each point on the image can be obtained. The concept of white balance correction is shown in FIG. FIG. 12 shows a graph in which each color luminance value at the center in the sub-scanning direction when a blank sheet is photographed is output along the main scanning direction. Each color output 1201 before white balance adjustment is different for each color R, G, and B, whereas each color output 1202 after white balance adjustment can obtain the same value.

次に、白紙推定テーブル107を用いたシェーディングデータ生成およびシェーディング補正に関して、図13から図16を用いて説明する。
図13は、シェーディングデータ生成部106の機能を表すブロック図である。シェーディングデータ生成部106は、原稿台画像取得部801、白紙推定テーブル取得部802、白紙相当画像生成部804、ホワイトバランス補正部110、ホワイトバランスデータ取得部1301、除算部1302、シェーディングデータ書き込み部1303からなる。ホワイトバランスデータ取得部1301は、外部記憶装置304内に保存されているホワイトバランスデータ108を取得する。除算部1302は、ホワイトバランス補正後の白紙相当画像を、画素毎に基準値から輝度値を除算する。シェーディングデータ書き込み部1303は、生成したシェーディングデータ109を外部記憶装置304へと書き込みを行う。
Next, shading data generation and shading correction using the blank sheet estimation table 107 will be described with reference to FIGS.
FIG. 13 is a block diagram illustrating functions of the shading data generation unit 106. The shading data generation unit 106 includes a platen image acquisition unit 801, a blank page estimation table acquisition unit 802, a blank page equivalent image generation unit 804, a white balance correction unit 110, a white balance data acquisition unit 1301, a division unit 1302, and a shading data writing unit 1303. Consists of. The white balance data acquisition unit 1301 acquires the white balance data 108 stored in the external storage device 304. The dividing unit 1302 divides the luminance value from the reference value for each pixel of the white paper after the white balance correction. The shading data writing unit 1303 writes the generated shading data 109 to the external storage device 304.

図14を用いて、シェーディングデータ生成部106の処理の流れについて、説明する。シェーディングデータ生成部106は、プログラムを開始1401すると原稿台画像取得部801を通じて原稿台画像14を読取り1402、白紙推定テーブル取得部802を通じて白紙推定テーブル107を取得703する。原稿台画像14は白紙相当画像生成部804にて白紙相当画像19へと変換1007された後、ホワイトバランス補正部110にてホワイトバランスの補正1403が行われる。ホワイトバランス補正の手順は、図11と同様である。その後、白紙相当画像19は除算部1302において基準値(例えば255)から輝度値を除算1404する。全画素において、各色に関して基準値から除算した値を画素毎に算出し、結果画像をシェーディングデータ109として保存し、プログラムを終了1405する。シェーディングデータ109は、各色において生成しても良く、輝度Yに関して生成しても良い。   The processing flow of the shading data generation unit 106 will be described with reference to FIG. When the program is started 1401, the shading data generation unit 106 reads the document table image 14 through the document table image acquisition unit 801 1402, and acquires 703 the blank sheet estimation table 107 through the blank page estimation table acquisition unit 802. The document table image 14 is converted 1007 into a blank paper equivalent image 19 by the blank paper equivalent image generation unit 804, and then the white balance correction unit 110 performs white balance correction 1403. The procedure for white balance correction is the same as in FIG. Thereafter, the blank equivalent image 19 divides 1404 the luminance value from the reference value (for example, 255) in the division unit 1302. For all pixels, a value divided from the reference value for each color is calculated for each pixel, the result image is saved as shading data 109, and the program ends 1405. The shading data 109 may be generated for each color or for the luminance Y.

次に、図15を用いて、原稿画像15の補正処理に関して、説明する。原稿画像15は、ホワイトバランス補正110、およびシェーディング補正111を行うことにより、照明環境の影響を廃した輝度ムラのない画像を得ることができる。前記補正処理は、原稿画像15を取得する度に行う必要がある。
通信部302を通じて得られた原稿画像15は、ホワイトバランス補正部110にて図11に示す処理によりホワイトバランスの補正が行われる。ホワイトバランス補正後の原稿画像15は、シェーディングデータ109と画素毎に乗算することによりシェーディング補正1501される。これにより、輝度ムラの無い補正済画像16を得ることができる。
Next, the correction processing of the document image 15 will be described with reference to FIG. By performing the white balance correction 110 and the shading correction 111, the original image 15 can be obtained an image having no luminance unevenness without the influence of the illumination environment. The correction process needs to be performed every time the document image 15 is acquired.
The document image 15 obtained through the communication unit 302 is subjected to white balance correction by the white balance correction unit 110 through the process shown in FIG. The document image 15 after the white balance correction is subjected to a shading correction 1501 by multiplying the shading data 109 by each pixel. Thereby, it is possible to obtain a corrected image 16 without luminance unevenness.

図16は、白紙を読取った際のシェーディング補正前後の出力値を示す概念図である。シェーディング補正前の出力値1601では輝度ムラにより出力が非線形であるのに対し、シェーディング補正後の出力値1602は補正を行うことにより一様にすることが可能となる。   FIG. 16 is a conceptual diagram showing output values before and after shading correction when a blank sheet is read. The output value 1601 before shading correction is non-linear due to luminance unevenness, whereas the output value 1602 after shading correction can be made uniform by performing correction.

本発明によれば、白紙を用いずにホワイトバランスデータ取得とシェーディングデータ取得が可能となり、原稿画像のホワイトバランス補正とシェーディング補正を行うことが可能となる。これにより、白紙を置く煩わしい手間を省くことができ、使い勝手の向上を図れる。
これにより、本発明は、オフィスや家庭の文書、もしくは伝票や郵便物、紙幣などの帳票類、その他の立体物をイメージセンサを用いたカメラで読取ることが可能になるものである。
According to the present invention, white balance data and shading data can be acquired without using white paper, and white balance correction and shading correction of a document image can be performed. Thereby, the troublesome trouble of placing a blank sheet can be saved and the usability can be improved.
As a result, the present invention can read office and home documents, forms such as slips, postal items, banknotes, and other three-dimensional objects with a camera using an image sensor.

11・・・画像読取装置、12・・・画像処理装置、13・・・白紙画像、14・・・原稿台画像、15・・・原稿画像、16・・・補正済画像、17・・・環境光が変化する度に行う処理、18・・・原稿が読み込まれる度に行う処理、19・・・白紙相当画像、
101・・・画像取得部、102・・・画像取得命令発行部、103・・・通信部、104・・・白紙推定テーブル生成部、105・・・ホワイトバランスデータ生成部、106・・・シェーディングデータ生成部、107・・・白紙推定テーブル、108・・・ホワイトバランスデータ、109・・・シェーディングデータ、110・・・ホワイトバランス補正部、111・・・シェーディング補正部、
201・・・カメラ部、202・・・支柱、203・・・原稿台、204・・・カメラ撮像範囲、205・・・読取領域、206・・・基準マーク、
301・・・CPU、302・・・通信部、303・・・電源、304・・・外部記憶装置、305・・・キーボード、306・・・ディスプレイ、307・・・メモリ、
401・・・原稿台画像取得部、402・・・読取領域画像取得部、403・・・白紙画像取得部、404・・・白紙領域画像取得部、405・・・読取領域画像、406・・・白紙領域画像、407・・・白紙推定テーブル算出部、408・・・白紙推定テーブル書出し部、
501・・・原稿台輝度値、502・・・白紙輝度値、503・・・データ数、
801・・・原稿台画像取得部、802・・・白紙推定テーブル取得部、803・・・黒色部輝度値取得部、804・・・白色相当画像生成部、805・・・基準マーク輝度値取得部、806・・・読取領域輝度値取得部、807・・・補間部、808・・・ホワイトバランスデータ書込み部、
92・・・Rのホワイトバランスデータ、921・・・Rの入力値、922・・・Rの出力値、93・・・Gのホワイトバランスデータ、931・・・Gの入力値、932・・・Gの出力値、94・・・Bのホワイトバランスデータ、941・・・Bの入力値、942・・・Bの出力値、
1201・・・ホワイトバランス調整前の各色出力、1202・・・ホワイトバランス調整後の各色出力、
1301・・・ホワイトバランスデータ取得部、1302・・・除算部、1303・・・シェーディングデータ書込み部、
1601・・・シェーディング補正前の出力値、1602・・・シェーディング補正後の出力値。
DESCRIPTION OF SYMBOLS 11 ... Image reading apparatus, 12 ... Image processing apparatus, 13 ... Blank paper image, 14 ... Original plate image, 15 ... Original image, 16 ... Corrected image, 17 ... Processing performed whenever ambient light changes, 18... Processing performed each time a document is read, 19.
DESCRIPTION OF SYMBOLS 101 ... Image acquisition part, 102 ... Image acquisition command issue part, 103 ... Communication part, 104 ... Blank paper estimation table generation part, 105 ... White balance data generation part, 106 ... Shading Data generation unit 107 ... Blank sheet estimation table 108 ... White balance data 109 ... Shading data 110 ... White balance correction unit 111 ... Shading correction unit
201 ... Camera unit, 202 ... Post, 203 ... Document table, 204 ... Camera imaging range, 205 ... Reading area, 206 ... Reference mark,
301 ... CPU, 302 ... communication unit, 303 ... power supply, 304 ... external storage device, 305 ... keyboard, 306 ... display, 307 ... memory,
401... Document platen image acquisition unit, 402... Reading region image acquisition unit, 403... Blank image acquisition unit, 404... Blank page image acquisition unit, 405.・ Blank area image, 407... Blank sheet estimation table calculation unit, 408... Blank sheet estimation table writing unit,
501... Original plate luminance value, 502... Blank paper luminance value, 503.
801... Document platen image acquisition unit, 802... Blank sheet estimation table acquisition unit, 803... Black portion luminance value acquisition unit, 804... White equivalent image generation unit, 805. 806 ... Reading area luminance value acquisition unit, 807 ... Interpolation unit, 808 ... White balance data writing unit,
92 ... R white balance data, 921 ... R input value, 922 ... R output value, 93 ... G white balance data, 931 ... G input value, 932. -G output value, 94 ... B white balance data, 941 ... B input value, 942 ... B output value,
1201 ... Each color output before white balance adjustment, 1202 ... Each color output after white balance adjustment,
1301 ... White balance data acquisition unit, 1302 ... Division unit, 1303 ... Shading data writing unit,
1601 ... Output value before shading correction, 1602 ... Output value after shading correction.

Claims (11)

撮像対象物を置く原稿台と、入射光量に対応する信号を出力するイメージセンサと、該イメージセンサで原稿台及び原稿台に置かれた原稿をカラー撮影するカメラを用いる画像読取方法において、
原稿台輝度値のそれぞれの値に対応する白紙輝度値を白紙推定テーブルとして保持しておき、
原稿台を撮影して原稿台画像を取得し、
前記白紙推定テーブルを用いて該原稿台画像を変換した白紙相当画像を生成し、
該白紙相当画像を用いてホワイトバランスデータを生成することを特徴とする、画像読取方法。
In an image reading method using an original platen on which an object to be imaged is placed, an image sensor that outputs a signal corresponding to the amount of incident light, and a camera that shoots an original placed on the original platen and the original platen by the image sensor.
A blank sheet brightness value corresponding to each value of the document table brightness value is held as a blank sheet estimation table, and
Take an image of the platen, get an image of the platen,
Generating a blank sheet equivalent image obtained by converting the document table image using the blank sheet estimation table;
An image reading method, wherein white balance data is generated using the blank paper equivalent image.
請求項1記載の画像読取方法において、
前記白紙相当画像と、前記撮影した原稿台画像とを用いてホワイトバランスデータを生成することを特徴とする、画像読取方法。
The image reading method according to claim 1.
An image reading method, wherein white balance data is generated using the blank sheet equivalent image and the photographed original platen image.
請求項2記載の画像読取方法において、
前記白紙推定テーブルは、同一の撮影条件で撮影した原稿台画像と白紙画像とを用いて計算することを特徴とする画像読取方法。
The image reading method according to claim 2.
2. The image reading method according to claim 1, wherein the blank sheet estimation table is calculated using a document table image and a blank sheet image captured under the same shooting conditions.
請求項2記載の画像読取方法において、
前記ホワイトバランスデータは、無彩色を撮影した際のRレベル、Gレベル、Bレベル各信号レベルを、基準信号レベルに合わせるための係数を算出することで生成することを特徴とする画像読取方法。
The image reading method according to claim 2.
2. The image reading method according to claim 1, wherein the white balance data is generated by calculating a coefficient for matching each of the R level, G level, and B level signal levels when shooting an achromatic color with a reference signal level.
請求項2記載の画像読取方法において、
前記撮像対象物を置く原稿台は、原稿の読取り領域の外側に、枠外黒色部および基準マークを備えており、
前記白紙相当画像および前記撮影した原稿台画像に加えて、前記枠外黒色部の輝度値および前記基準マークの輝度値を用いてホワイトバランスデータを生成することを特徴とする画像読取方法。
The image reading method according to claim 2.
The document table on which the imaging object is placed includes a black portion outside the frame and a reference mark on the outside of the reading area of the document,
An image reading method, wherein white balance data is generated using a luminance value of the black portion outside the frame and a luminance value of the reference mark in addition to the blank sheet equivalent image and the photographed original platen image.
請求項2記載の画像読取方法において、さらに、
前記ホワイトバランスデータと、前記白紙推定テーブルを用いて前記撮影した原稿台画像を変換した白紙相当画像とを用いてシェーディングデータを生成することを特徴とする画像読取方法。
The image reading method according to claim 2, further comprising:
An image reading method, wherein shading data is generated using the white balance data and a blank sheet equivalent image obtained by converting the photographed document table image using the blank sheet estimation table.
請求項6記載の画像読取方法において、
原稿台に置かれた原稿を撮影して原稿画像を取得し、
前記ホワイトバランスデータを用いて該撮影した原稿画像のホワイトバランス補正を行い、
前記シェーディングデータを用いて該撮影した原稿画像のシェーディング補正を行うことを特徴とする、画像読取方法。
The image reading method according to claim 6.
Capture a document on the platen to obtain a document image,
Using the white balance data, correct the white balance of the photographed document image,
An image reading method, wherein shading correction of the photographed document image is performed using the shading data.
撮像対象物を置く原稿台と、入射光量に対応する信号を出力するイメージセンサと、該イメージセンサで原稿台及び原稿台に置かれた原稿をカラー撮影するカメラを備える画像読取システムにおいて、
原稿台輝度値のそれぞれの値に対応する白紙輝度値を記憶する白紙推定テーブルと、
原稿台を撮影した原稿台画像を前記白紙推定テーブルを用いて変換して白紙相当画像を生成し、該白紙相当画像と前記原稿台画像とを用いてホワイトバランスデータ生成するホワイトバランスデータ生成部と、
該ホワイトバランスデータを用いて原稿台に置かれた原稿を撮影した原稿画像のホワイトバランス補正を行うホワイトバランス補正部と
を備えることを特徴とする画像読取システム。
In an image reading system including an original platen on which an imaging target is placed, an image sensor that outputs a signal corresponding to the amount of incident light, and a camera that performs color photographing of the original placed on the original platen and the original platen by the image sensor,
A blank sheet estimation table for storing blank sheet brightness values corresponding to the respective values of the document table brightness values;
A white balance data generating unit that converts a document table image obtained by photographing a document table using the blank sheet estimation table to generate a blank sheet equivalent image, and generates white balance data using the blank sheet equivalent image and the document table image; ,
An image reading system comprising: a white balance correction unit that performs white balance correction of an original image obtained by photographing an original placed on an original table using the white balance data.
請求項8記載の画像読取システムにおいて、さらに、
同一の撮影条件で撮影した原稿台画像と白紙画像とを用いて原稿台輝度値のそれぞれの値に対応する白紙輝度値を計算することにより白紙推定テーブルを生成する白紙推定テーブル生成部を備えることを特徴とする画像読取システム。
9. The image reading system according to claim 8, further comprising:
A blank sheet estimation table generating unit that generates a blank sheet estimation table by calculating a blank sheet brightness value corresponding to each value of the document table brightness value using a document table image and a blank sheet image captured under the same shooting conditions; An image reading system characterized by the above.
請求項8記載の画像読取システムにおいて、さらに、
前記ホワイトバランスデータと、前記白紙推定テーブルを用いて前記撮影した原稿台画像を変換した白紙相当画像とを用いてシェーディングデータを生成するシェーディングデータ生成部と、
該シェーディングデータを用いて前記原稿画像のシェーディング補正を行うシェーディング補正部とを備えることを特徴とする画像読取システム。
9. The image reading system according to claim 8, further comprising:
A shading data generation unit that generates shading data using the white balance data and a blank sheet equivalent image obtained by converting the photographed document table image using the blank sheet estimation table;
An image reading system comprising: a shading correction unit that performs shading correction of the document image using the shading data.
請求項8記載の画像読取システムにおいて、
前記撮像対象物を置く原稿台は、原稿の読取り領域の外側に、枠外黒色部および基準マークを備えるものであり、
前記ホワイトバランスデータ生成部は、前記白紙相当画像および前記撮影した原稿台画像に加えて、前記枠外黒色部の輝度値および前記基準マークの輝度値を用いてホワイトバランスデータを生成することを特徴とする画像読取システム。
The image reading system according to claim 8.
The document table on which the imaging object is placed is provided with an out-of-frame black portion and a reference mark on the outside of the document reading area,
The white balance data generation unit generates white balance data using a luminance value of the black portion outside the frame and a luminance value of the reference mark in addition to the blank sheet equivalent image and the photographed original platen image. Image reading system.
JP2009136293A 2009-06-05 2009-06-05 Image reading method and image reading system Expired - Fee Related JP5222795B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009136293A JP5222795B2 (en) 2009-06-05 2009-06-05 Image reading method and image reading system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009136293A JP5222795B2 (en) 2009-06-05 2009-06-05 Image reading method and image reading system

Publications (2)

Publication Number Publication Date
JP2010283665A true JP2010283665A (en) 2010-12-16
JP5222795B2 JP5222795B2 (en) 2013-06-26

Family

ID=43540008

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009136293A Expired - Fee Related JP5222795B2 (en) 2009-06-05 2009-06-05 Image reading method and image reading system

Country Status (1)

Country Link
JP (1) JP5222795B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013085132A (en) * 2011-10-11 2013-05-09 Kyocera Document Solutions Inc Image reader and image forming apparatus equipped with the same
JP2013197848A (en) * 2012-03-19 2013-09-30 ▲うぇい▼強科技股▲ふん▼有限公司 White balance auto-adjustment method for scanner

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63254868A (en) * 1987-04-13 1988-10-21 Canon Inc Image input device
JPH09200440A (en) * 1996-01-12 1997-07-31 Minolta Co Ltd Image reader
JP2004023209A (en) * 2002-06-13 2004-01-22 Nec Viewtechnology Ltd Device for presenting material
JP2006157155A (en) * 2004-11-25 2006-06-15 Hitachi Omron Terminal Solutions Corp Document camera
JP2008199556A (en) * 2007-02-16 2008-08-28 Hitachi Omron Terminal Solutions Corp Image reading method and image reading apparatus

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63254868A (en) * 1987-04-13 1988-10-21 Canon Inc Image input device
JPH09200440A (en) * 1996-01-12 1997-07-31 Minolta Co Ltd Image reader
JP2004023209A (en) * 2002-06-13 2004-01-22 Nec Viewtechnology Ltd Device for presenting material
JP2006157155A (en) * 2004-11-25 2006-06-15 Hitachi Omron Terminal Solutions Corp Document camera
JP2008199556A (en) * 2007-02-16 2008-08-28 Hitachi Omron Terminal Solutions Corp Image reading method and image reading apparatus

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013085132A (en) * 2011-10-11 2013-05-09 Kyocera Document Solutions Inc Image reader and image forming apparatus equipped with the same
JP2013197848A (en) * 2012-03-19 2013-09-30 ▲うぇい▼強科技股▲ふん▼有限公司 White balance auto-adjustment method for scanner

Also Published As

Publication number Publication date
JP5222795B2 (en) 2013-06-26

Similar Documents

Publication Publication Date Title
KR100615277B1 (en) Method and apparatus for compensating Image sensor lens shading
KR100467610B1 (en) Method and apparatus for improvement of digital image quality
US7710470B2 (en) Image processing apparatus that reduces noise, image processing method that reduces noise, electronic camera that reduces noise, and scanner that reduces noise
US20110032380A1 (en) Printing system and method
JPS6359292A (en) Method of correcting saturation in electronic image processing
KR20120118383A (en) Image compensation device, image processing apparatus and methods thereof
JP5163392B2 (en) Image processing apparatus and program
JP5608511B2 (en) Image correction apparatus and image correction method
US11825245B2 (en) Image processing device, image display system, image processing method, and program
JPH1169181A (en) Image processing unit
US20070146750A1 (en) Method for generating calibration curve
JP5222795B2 (en) Image reading method and image reading system
JPH10290373A (en) Color correction device
JP4752421B2 (en) Image retouching method, image retouching device, and image retouching program
JP5552795B2 (en) Imaging apparatus, image processing apparatus, and program
US20140055645A1 (en) Image processing apparatus and method
JP2006203555A (en) Image processing method, image processor and image processing program
JP2014192859A (en) Color correction method, program, and device
JP5526598B2 (en) Matrix coefficient setting method and image display device
US20140132969A1 (en) Image forming apparatus
JP2008312117A (en) Apparatus and method for creating color conversion look-up table
TWI405144B (en) Image correcting method, image correcting unit and image capture apparatus using the same
JP2014219724A (en) Image processor, method for controlling image processor, and program
KR100566571B1 (en) Method and apparatus for auto compensating image sensor lens shading
JP2012065069A (en) Defect detection and compensation apparatus, program and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130311

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees