JP4282081B2 - 画像処理装置およびその方法 - Google Patents

画像処理装置およびその方法 Download PDF

Info

Publication number
JP4282081B2
JP4282081B2 JP2005317114A JP2005317114A JP4282081B2 JP 4282081 B2 JP4282081 B2 JP 4282081B2 JP 2005317114 A JP2005317114 A JP 2005317114A JP 2005317114 A JP2005317114 A JP 2005317114A JP 4282081 B2 JP4282081 B2 JP 4282081B2
Authority
JP
Japan
Prior art keywords
image
reading
image processing
low density
background level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005317114A
Other languages
English (en)
Other versions
JP2007124541A (ja
Inventor
英生 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005317114A priority Critical patent/JP4282081B2/ja
Priority to US11/553,564 priority patent/US7948662B2/en
Publication of JP2007124541A publication Critical patent/JP2007124541A/ja
Application granted granted Critical
Publication of JP4282081B2 publication Critical patent/JP4282081B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4076Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on references outside the picture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • H04N1/4074Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original using histograms

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、原稿を読み取って電子文書化する画像処理に関する。
紙文書を光学的に走査して電子文書を生成する手段としてドキュメントスキャナが一般的である。また、単機能のスキャナ装置や、複写機に搭載されたスキャナ部などもドキュメントスキャナとして利用可能である。以下では、これら装置を総称して読取装置と呼ぶ。
濃度が低い無彩色(白色に近い)下地を有する紙文書を読取装置を用いて電子化する際、ある明度以上の下地は信号処理して白色にする所謂下地飛ばし処理を行う。こうすると、下地と文字などとのコントラストがはっきりし、下地のがさつきがなくなるため、電子文書の見栄えがよい。また、電子文書をデータ圧縮する際に、大部分の領域を占める下地の信号を白色に揃えることで、圧縮効率の向上も図ることができる。
近年、紙文書を電子化する際のオリジナリティの重要性が注目され、紙文書中のあらゆる濃度差情報を残して電子文書を作成する必要性が発生している。この目的は、例えば、白色に近い下地を有する紙文書に修正液を塗布して修正が施されている場合、その修正領域を認識することが挙げられる。
白色に近い下地を有する紙文書に修正液を塗布した場合の、下地と修正液の塗布面の反射濃度の違いを発明者は測定した。複写機などで用いる普通紙の場合、下地の反射濃度は約0.08、市販の修正液の塗布面の反射濃度は約0.04であった。つまり、下地飛ばし処理は、反射濃度0.08を絶対白色として、これ以下の濃度を読み取った場合、それを白色に変換していることになる。言い換えれば、紙文書中のあらゆる濃度差情報を残して電子文書を作成するには、例えば反射濃度0.04を絶対白色に設定すればよいことになる。
修正液の塗布面を考慮して絶対白色の反射濃度を設定すれば、下地と修正領域の信号値は異なる。ただし、そのレベル差は8ビット信号の場合、10レベル程度であり、パーソナルコンピュータ(PC)のモニタ上で修正領域の発見するのは容易ではない。
特許文献1は、オリジナルの紙文書に対する修正領域の検出を支援する手法を提案する。この提案によれば、修正前のオリジナルの紙文書を読取装置で電子文書化して、参照用に保持する。そして、修正後の紙文書を読取装置で電子文書化した際に、保持した参照用の電子文書と比較して、参照用の電子文書と差が生じた箇所の色を変更し、修正箇所の発見を容易にする。
しかし、特許文献1の手法は、電子文書を作成する際に、修正前後の少なくとも二回の読取作業が必要になる。また、参照用の電子文書を保持する記憶装置が必要になり、扱う文書の量に応じて記憶装置のコストが増大する。さらに、参照用の電子文書を作成するオリジナルの紙文書が修正液を用いて修正されている場合、その修正領域を検出することができない。
特許第3549478号公報
本発明は、原稿画像から下地よりも低濃度の領域を確実に抽出することを目的とする。
さらに、低濃度域の識別容易することを他の目的とする。
本発明は、前記の目的を達成する一手段として、以下の構成を備える。
本発明にかかる画像処理は、原稿を読み取って電子文書化する際に、原稿画像を読み取り、前記読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出し、前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出し、ユーザによる前記低濃度域の識別を容易にするために、前記低濃度域を、人が認識可能な幅と色をもつ境界画素で囲むことを特徴とする。
また、原稿を読み取って電子文書化する際に、原稿画像を読み取り、前記読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出し、前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出し、ユーザによる前記低濃度域の識別を容易にするために、前記低濃度域を着色することを特徴とする。
また、原稿を読み取って電子文書化する際に、読取手段により原稿画像を読み取り、前記読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出し、前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出し、前記読取手段のシェーディング係数を、ユーザの指示に従い、基準白色板に対応するシェーディング係数、または、前記低濃度域の濃度の読み取りに対応するシェーディング係数に制御することを特徴とする。
本発明によれば、原稿画像から下地よりも低濃度の領域を確実に抽出することができる。また、低濃度域の識別を容易にすることができる。
以下、本発明にかかる実施例の画像処理を図面を参照して詳細に説明する。なお、以下では、複合機を例に説明するが、複写機、スキャナとPCの組み合わせ、単体のドキュメントスキャナにも本発明を適用することができる。
[装置の構成]
図1は実施例1の読取画像前処理部101の構成の概要を示すブロック図である。
原稿105は、例えば国がフォームを定めた紙文書、企業などが所定年数保存する必要がある紙文書である。スキャナ102は、原稿105の画像を読み取り、画像データを読取画像前処理部101に入力する。
読取画像前処理部101のシェーディング部107は、白基準変更部106が指定するシェーディング係数に従い、入力される画像データにシェーディング補正を施す。低濃度域検出部108は、後述する手法により、シェーディング補正された画像データの低濃度域を検出する。低濃度域検出部108は、低濃度域を検出した場合、操作部104の表示部110に低濃度域が存在する旨を表示、または、操作部104のスピーカ111を用いて低濃度域が存在する旨を報知する。低濃度域処理部109は、検出された低濃度域に後述する画像処理を施す。
以上の処理の後、画像データは読取画像処理部103へ入力され、フィルタ処理、像域分離処理、色空間変換処理などの画像処理が施される。
図2は、読取画像前処理部101を含む複合機301の構成例を示すブロック図である。
複合機301は、大別して、スキャナ102、コントローラ302、プリンタ303から構成される。コントローラ302のCPU 304は、ROM 310に格納されたプログラムに従い、記憶部305のRAMをワークメモリとして複合機301を統括制御する。
CPU 304は、スキャナ102を制御して読み取った画像、外部インタフェイス(I/F) 307やネットワークI/F 308を介して外部機器から受信した画像、ネットワーク制御ユニット(NCU) 309を介してファクシミリ受信した画像を記憶部305に格納する。また、画像処理中、画像処理後の画像も記憶部305に格納する。なお、記憶部305は、RAMやハードディスクなど読み書き可能な記憶媒体で構成される。
また、CPU 304は、画像だけでなく、ユーザが操作部104を操作して、画像処理装置301に入力、設定した各種情報も記憶部305に格納する。
記録画像処理部306は、色域マッピング、ガンマ補正、擬似階調処理などプリンタ303に画像データを出力するための画像処理を施す。
外部I/F 307は、例えばUSB (Universal Serial Bus)やIEEE1394などのシリアルバスで構成される外部機器とのインタフェイスである。例えば、外部I/F 307に図示しないPCを接続し、PCからの制御信号と画像データを受信し、記録画像処理部306で画像処理を施して、プリンタ303で印刷を行うことができる(プリンタ機能)。また、PCから受信した制御信号に従ってスキャナ102で画像を読み取り、読取画像前処理部101や読取画像処理部103で処理した画像データをPCに送信することができる(スキャナ機能)。
ネットワークI/F 308は、IEEE802.3で規格化されたネットワークなどとのインタフェイスである。複合機301は、ネットワークI/F 308を介して、ネットワーク上の外部機器と通信を行う。例えば、ネットワーク上のPCから制御信号と画像データを受信し、記録画像処理部306で画像処理を施して、プリンタ303で印刷を行うことができる(ネットワークプリンタ機能)。また、PCから受信した制御信号に従ってスキャナ102で画像を読み取り、読取画像前処理部101や読取画像処理部103で処理した画像データをPCに送信することができる(ネットワークスキャナ機能)。
NCU 309は、公衆回線網とのインタフェイスである。複合機301は、NCU 309および公衆回線を介して、ファクシミリ装置などの機器との間で画像のファクシミリ送受信を行うことができる(ファクシミリ機能)。
図11は複合機301の操作部104の構成例を示す図である。先に述べた、例えばLCDの表示部110、スピーカ111を備える。また、後述するシェーディング係数を切り替えて原稿画像の読取動作の指定する読取方法指定キー1901。読取動作などの開始を指示するスタートキー1902。動作停止を指示するストップキー1903。各種の数値などを指定するテンキー1904。複合機301の設定を初期状態に戻すリセットキー1905などを有す。
●スキャナ
図3Aは縮小光学系をもつスキャナ102の光学系の構成例を示す図である。
光源503の光は、原稿台501に載置された原稿105を照射し、原稿105からの反射光はミラー504に反射され、縮小レンズ506を介して、光電変換素子502に入射する。なお、光源503および反射ミラー504は、読取可能な原稿サイズの全幅と同等か、それ以上の幅を有する。
光電変換素子502は、例えばCCD (Charge Coupled Device)で、入射光を電気信号に変換する。光電変換素子502の幅は、読取可能な原稿サイズに比べて狭く、縮小レンズ506の縮小率は読取可能な原稿の幅と光電変換素子502の幅の比率を基に決定される。
光源503およびミラー505を有する光源ユニット505、並びに、縮小レンズ506が、原稿105の走査に合せて矢印方向に移動することで、原稿105の画像全体を読み取ることができる。
図3Bは等倍光学系をもつスキャナ102の光学系の構成例を示す図である。
光源503の光は、原稿台501に載置された原稿105を照射し、原稿105からの反射光は等倍レンズ507を介して、光電変換素子502に入射する。なお、光源503、等倍レンズ507、光電変換素子502は、読取可能な原稿の全幅と同等かそれ以上の幅を有する。
光源503、等倍レンズ507、光電変換素子502を有するCIS (Contact Image Sensor) 508が、原稿105の走査に合せて矢印方向に移動することで、原稿105の画像全体を読み取ることができる。
一般に、原稿105のカラー画像を読み取ってカラー画像データを生成には、可視領域の波長を包括する光源503を使用する。また、三原色と呼ばれるR(赤)、G(緑)、B(青)の色分解フィルタと、色分解フィルタそれぞれに対応する三つの光電変換素子列を有する光電変換素子502(3ラインセンサ)を使用する。
また、単一の光電変換素子列を有する光電変換素子502を使用することができる。この場合、原稿105の走査において、光源R、G、Bを面順次で点灯し、その反射光を光電変換素子502で読み取り、R、G、Bの光源に対応する信号を合成してカラー画像データにする。
なお、RGB各色の読取信号は無彩色、つまり白色から黒色のグレイスケールを読み取る限り、ほぼ同じ特性になるので以下の説明では一つの色成分信号の処理について言及する。しかし、他の色成分信号もほぼ同じ特性を有し、同様の処理が可能である。
●シェーディング補正
図4および図5はシェーディング部107の処理を説明する図で、横軸は主走査方向の画素位置を示し、縦軸はスキャナ102が出力する信号値(8ビットの読取輝度値)と、対応する反射濃度を示す。
シェーディング補正は、まず、原稿台501の原稿の読取開始位置より前方に配置した白色の基準である白色板などを読み取る。ただし、その際、A/D変換出力が飽和しないように、光源503の光量を調整しておく必要がある。
図4に示すように、スキャナ102が出力する信号値の変動を示す。これは、光電変換素子502の出力には一画素ずつのばらつきが存在するためで、たとえ反射濃度が均一の原稿を読み取っても、その信号値は均一にはならない。そこで、基準白色板を読み取った場合の信号値によって各画素の信号値を、下式で正規化する。
V(n) = S(n)×Vin(n) …(1)
ここで、V(n)はシェーディング後の信号値
S(n)はシェーディング係数
Vin(n)はシェーディング前の入力値
添え字nは光電変換素子502の素子番号を表す
なお、シェーディング係数S(n)は、基準白色板の反射濃度に相当する信号値VinをV=255に補正するように算出する。このようなシェーディング補正により、基準白色板を読み取った場合の読取輝度値は、図5に示すように、均一の255に揃えられ、光電変換素子502の画素ごとのばらつきを吸収する。
[低濃度域と下地の濃度差の保持]
図6は原稿105の一例を示す図である。
原稿105の記録紙は、複写機やページプリンタで使用する普通紙と同程度の反射濃度0.08をもつ白色の紙で、充分に濃度が高い文字列「あいうえお」が記載されている。また、符号201で示す領域には、市販の修正液が塗布され、その上から文字「う」と「え」が記載されている。領域201は、発明者の実験的結果から、反射濃度約0.04の低濃度域である。
図7は原稿105を複合機301で読み取って生成した電子文書403をPC 402のモニタに表示する例を示している。なお、複合機301とPC 402は、ネットワーク経由で接続するか、外部I/F 307経由で接続する。
図6に示すような原稿105を読み取った場合、基準白色板の読み取りに基づきシェーディング補正すれば符号403aで示すような電子文書になる。つまり、シェーディング係数S(n)を反射濃度0.08が読取輝度値255になるように設定して、低濃度域201と下地はともに読取輝度値255になる。この場合、低濃度域201と下地の濃度差が電子文書化によって消滅したことになる。
図8は原稿105のシェーディング補正後の読取輝度値のヒストグラムを示す図である。原稿105の大部分を占める下地の信号値は、その発生頻度が高く、符号L1で示すような分布を示す。つまり、基準白色板の読み取りに基づくシェーディング係数を用いれば、本来は存在する符号L2で示す輝度領域の信号、すなわち修正液が塗布された低濃度域の読取輝度値は255に飽和する。なお、ヒストグラムに符号L1、L2で示す特徴は、原稿105の全領域でヒストグラムを作成した場合も、低濃度域201を含む一走査分でヒストグラムを作成した場合も同じである。
低濃度域201と下地の濃度差を残したまま電子文書を作成するには、シェーディング係数S(n)を反射濃度0.04が読取輝度値255になるように算出すればよい。そうすれば図9に示すシェーディング特性になり、低濃度域201の反射濃度約0.04が読取輝度値255、下地の反射濃度約0.08が読取輝度値約245になる。従って、図7に符号403bで示すように低濃度域201と下地の濃度差を保持した電子文書が作成される。
図10は、修正液を塗布した領域の反射濃度0.04に基づき、原稿105のシェーディング補正を行った場合の読取輝度値のヒストグラムを示す図である。図8に示すヒストグラムに対して、符号L2で示す輝度領域が読取輝度信号のダイナミックレンジ内に含まれる。なお、ヒストグラムに符号L1、L2で示す特徴は、原稿105の全領域でヒストグラムを作成した場合も、低濃度域201を含む一走査分でヒストグラムを作成した場合も同じである。
[低濃度域の検出]
図12は低濃度域の検出および処理を説明するフローチャートで、CPU 304が実行する処理(低濃度域検出部108および低濃度域処理部109に相当)である。なお、低濃度域の検出用に、文字、線画の輝度閾値を示すmj、画素数の閾値を示すNldおよび閾値Nmjを予め設定しておく。これら閾値は、CPU 304によって、ROM 310から読み出され、記憶部305のワークエリアに格納され使用される。
オペレータは、スキャナ102の原稿台501に原稿105を載置(または自動ドキュメントフィーダに原稿をセット)する。そして、操作部104の読取方法指定キー1901を操作し、下地の反射濃度(以下「通常反射濃度」と呼ぶ)と修正液の塗布部の反射濃度(以下「低反射濃度」と呼ぶ)のどちらに対応するシェーディング係数Sを用いて、原稿105を読み取るのかを指示する。そして、オペレータがスタートキー1902を押すと、原稿105の読み取りが開始される。図12は以降の処理を示している。
まず、CPU 304は、どちらのシェーディング係数Sの使用が指示されたかを判定する(S2401)。そして、通常反射濃度による読み取りが指示された場合は、白基準変更部106を制御して、基準白色板の読み取りに基づくシェーディング補正をシェーディング部107に実行させ(S2402)、処理を終了する。
一方、低反射濃度による読み取りが指示された場合、CPU 304は、白基準変更部106を制御して、低反射濃度用のシェーディング係数Sをシェーディング部107に設定する(S2403)。シェーディング部107は、スキャナ102から入力される画像データを、逐次、低反射濃度用のシェーディング係数Sを使用してシェーディング補正する。
CPU 304は、シェーディング補正された画像データを、図13に示すように、主走査1ラインごとに、記憶部305内のラインバッファ領域に格納し、図10に示すようなヒストグラムを作成する。そして、最も頻度の高い信号値を下地の信号値と判定し、閾値bgを決定する(S2404)。
図14は、原稿105に低濃度域201が存在し、その領域内に高反射濃度の文字や線が描かれていると仮定した場合の、ラインバッファ領域に格納した当該領域の各画素の信号値を示す図である。
画素番号をnとし、任意の画素の信号値をP(n)とすると、CPU 304は、P(n)≧bgになる画素を低濃度域の候補画素にする。また、高反射濃度の文字を充分に抽出できるように設定した閾値mj(例えば20程度)に基づき、P(n)≦mjになる画素を文字域の候補画素にする(S2405)。なお、閾値mjは、光電変換素子502の暗時出力特性に依存し、スキャナ102に採用する光電変換素子502の暗時出力特性に合わせて調整することが好ましい。
次に、CPU 304は、低濃度域の候補画素が連続する数をカウントして、カウント値c≧Nldの場合、それら候補画素を低濃度域の構成画素と判定する(S2406)。図14は、Nld=5の場合を表し、符号1401で示す画素など、局所的に存在するP(n)≧bgの画素を低濃度域の構成画素として判定しない。
次に、CPU 304は、低濃度域に挟まれた文字域の候補画素(P(n)≦mj)の数をカウントして、カウント値c≧Nmjの場合は、それら候補画素と、その前後の閾値bg未満の画素を低濃度域の文字の構成画素とする(S2407)。図14は、Nmj=3の場合を表す。
次に、CPU 304は、決定した低濃度域の外側の境界部分の画素を、下地と低濃度域の境界画素とする(S2408)。その際、境界画素には、スキャナ102の解像度に対して人が充分に認識できる幅になるように、数画素を採用する。図14は、二画素を境界画素とした例を示す。
そして、CPU 304は、ステップS2409の判定により、ステップS2404からS2408の処理を主走査の全ラインについて行う。
全ラインについて上記の処理を終了すると、CPU 304は、読取画像に低濃度域が存在するか否かを判定し(S2410)、低濃度域が存在しない場合は、低濃度域の処理を行わず、読取画像を読取画像処理部103に渡し、処理を終了する。
一方、低濃度域が存在する場合は、図15に示すように、操作部104の表示部110に読取画像の中に低濃度域、つまり修正液による修正痕を見付けた旨を表示するとともに、スピーカ111によって修正痕を見付けた旨を報知する(S2411)。なお、表示部110による表示とスピーカ111による報知の両方を実施する必要はなく、どちらか一方でもよい。また、スピーカ111による報知は、ビープ音などでもよいし、音声でもよい。
次に、修正痕の検出結果を基に、境界画素または低濃度域を画像処理し(S2412)、処理後の読取画像を読取画像処理部103に渡し、処理を終了する。この画像処理は、境界画素の輝度値を、グレイの輝度値に置き換える、目視が容易な彩度の高い赤色や青色に置き換えるなどである。あるいは、低濃度域の下地をグレイ色や薄い色に置き換えるなどである。
以上の処理により、図6に示すような原稿105を読み取った場合、図16に示すような電子文書を生成することが可能である。図16に示す電子文書は、下地と低濃度域2201の濃度差を保持し、なおかつ、下地と低濃度域2201の境界部分をグレイ色で示す。また、低濃度域2201に色を付ける場合は、その内部の文字「う」「え」と境界部分は、とくに処理しないでもよい。
また、低濃度域の画像処理は割愛することもできる。その場合、図17に示すような電子文書を生成する。図17に示す電子文書は、下地と低濃度域2101の濃度差を保持する。オペレータは、表示部110やスピーカ111による報知によって、生成した電子文書に低濃度域が存在することを認識可能である。
図18は1ライン分のステップS2405の処理の詳細を示すフローチャートである。
まず、ラインバッファ領域の先頭画素から、その画素値P(n)を読み込み(S2501)、第一の条件P(n)≧bgを満たすか否か判定し(S2502)、第一の条件を満す場合は当該画素を低濃度域の候補画素にする(S2503)。また、第一の条件を満たさなければ第二の条件P(n)≦mjを満たすか否か判定し(S2504)、第二の条件を満たす場合は当該画素を文字域の候補画素にする(S2505)。
そして、ステップS2506の判定により、1ライン分の画素について上記の処理が終わるまで、ステップS2501〜S2505を繰り返す。
図19はステップS2406〜S2408の処理の詳細を示すフローチャートである。
まず、1ラインの先頭画素から、その判定結果を読み込み(S2601)、低濃度域の候補画素か否かを判定し(S2602)、低濃度域の候補画素が現れるまで、ステップS2601とS2602を繰り返す。
低濃度域の候補画素が現れると、カウント値cを「1」に初期化し(S2603)、次の画素の判定結果を読み込み(S2604)、低濃度域の候補画素か否かを判定する(S2605)。そして、候補画素であればカウント値cをインクリメントし(S2606)、処理をステップS2604に戻す。また、低濃度域の候補画素以外の場合はカウント値cと閾値Nldを比較して(S2607)、c≧Nldならばそれら候補画素を低濃度域の構成画素にする(S2608)。
そして、ステップS2609の判定により、1ライン分の画素の判定が終了するまで、ステップS2601〜S2608を繰り返す。なお、図には示さないが、低濃度域の構成画素がなかった場合は処理を終了する。
次に、隣接する二つの低濃度域の間の画素の判定結果を読み込み(S2610)、文字域の候補画素の数をカウント値c1に、そうではない画素の数をカウント値c2にセットする(S2611)。そして、カウント値c1、c2と閾値Nmjを比較して(S2612)、c1≧Nmjかつc2<2×Nmjであれば、当該低濃度域間の画素を、低濃度域の文字の構成画素にする(S2613)。
上記の条件を満たさない(c1<Nmjまたはc2≧2×Nmj)場合は、当該低濃度域間の画素は低濃度域の文字を構成する画素ではないと判定することになる。言い換えれば、判定対象の二つの低濃度域は、独立した低濃度域であると判定したことになる。なお、c1、c2ともに閾値Nmjを利用する例を説明したが、これに限定されず、c1、c2の閾値として低濃度域の文字の構成画素を判定するのに好ましい値を設定すればよい。
また、ある低濃度域間の画素を、低濃度域の文字の構成画素と判定した後、続く低濃度域間の画素も低濃度域の文字の構成画素と判定した場合、それら(この例では三つの)低濃度域は一つの低濃度域を構成すると判定する。
そして、ステップS2614の判定により、1ラインに存在する低濃度域の間の画素の判定が終了するまで、ステップS2607〜S2613を繰り返す。
次に、低濃度域、および、文字を含む低濃度域に左右で隣接する画素を境界画素に決定する(S2613)。なお、低濃度域に含まれる文字の構成画素を境界画素にすることはない。また、境界画素は一画素でもよいが、スキャナ102の解像度に対して、充分、目視可能な幅分の画素数にすることが好ましい。例えば、600dpiの一画素は約42μmであり、0.2mm幅の境界画素を設定すれば約五画素になる。
[応用]
図20は低濃度域の検出機能を有する複合機301の応用例を示す図である。
オペレータ1805は、電子文書化する原稿105を複合機301のスキャナ102に載置し、操作部104の読取方法指定キー1901を操作して低反射濃度用のシェーディング係数Sを使用する読取動作を指示する。
そして、オペレータ1805は、上述した画像処理によって作成された電子文書403を、PC 402のモニタに表示して観察する。その際、原稿105の数が多ければ目視による修正痕の検知は、オペレータ1805の負荷を増大させ、その分、修正痕の見落としが発生する危惧がある。
本実施例によれば、複合機301は、図6に示すような原稿105の場合、修正痕の存在を報知する。従って、オペレータ1805は、報知を受けた電子文書403の、例えば境界画素がグレイ表示された修正痕を目視で確認するだけでよい。そして、オペレータ1805は、修正痕が存在する文書に対して適切な処理を行うことが可能になる。この処理としては、例えば、修正痕が存在する文書は無効として電子文書化しない、あるいは、原稿105の作成者または修正者に修正の経緯を確認し、電子文書化の可否を判断するなどである。
オペレータ1805は、電子文書を最終的に確定するために、電子署名、電子文書化のタイムスタンプを発行する署名/タイムスタンプ局1801に、例えばネットワークを介して、当該電子文書を送信する。なお、署名/タイムスタンプ局1801は、公の第三者機関である。署名/タイムスタンプ局は、署名、タイムスタンプを発行し、それらを付加した電子文書を返す。この署名、タイムスタンプを付加した電子文書を正式な電子文書としてデータベース1802に格納する。
一方、監査者1806は、データベース1802に格納された正式な電子文書を監査する権限を有する。具体的には、データベース1802に格納された電子文書をPC 1803のモニタに表示して、モニタに表示した電子文書1804を目視で確認する。もし、修正痕があるにも関わらず正式な電子文書としてデータベース1802に格納された電子文書があった場合、修正痕は発見され易いように画像処理されている。従って、監査者1806は、多量の電子文書の中から、修正痕がある文書を容易かつ的確に発見することができる。
このように、紙文書中に修正液を用いた修正が施されている場合、その修正痕を検出し、修正痕がある紙文書を電子文書化する際に、その旨を報知する。従って、オペレータは、修正痕がある文書の電子化を阻止する、電子化の可否を判定するなどの処置をとることができる。また、修正痕の認識を容易にする画像処理を施した後、当該文書を電子化するので、観察者は、モニタ等に表示した電子文書の修正痕を容易に認識することができる。
以下、本発明にかかる実施例2の画像処理を説明する。なお、実施例2において、実施例1と略同様の構成については、同一符号を付して、その詳細説明を省略する。
実施例1では、主走査1ラインごとにバッファリングして、下地の信号値を検出して低濃度域を検出するための閾値bgを設定して、ラインごとに低濃度域を検出する方法を説明した。この方法は、検出精度は優れるが、CPU 304の負荷は極めて高くなる。そこで、実施例2では、CPU 304の負荷を低減する低濃度域の検出方法を説明する。
図21は実施例2の低濃度域の検出および処理を説明するフローチャートで、CPU 304が実行する処理(低濃度域検出部108および低濃度域処理部109に相当)である。図12に示した実施例1の処理と異なるのは、ステップS2701で、シェーディング補正後の画像データを主走査数ラインおきにバッファリングして、図10に示すようなヒストグラムを作成することである。そして、全ラインの処理が終了した後、ステップS2702で、バッファリングしなかったラインを補間するとともに、低濃度域、文字域、境界画素も補間する。
このようにすれば、数ラインおきのバッファリングにより、以降の判断および処理回数を減らし、CPU 304の処理負荷を低減することができる。
以下、本発明にかかる実施例3の画像処理を説明する。なお、実施例3において、実施例1、2と略同様の構成については、同一符号を付して、その詳細説明を省略する。
上記の実施例で説明した主走査方向に低濃度域および文字域を検出する方法でも、大概の低濃度域および文字域は検出可能である。しかし、副走査方向に細い低濃度域および文字域がある場合、主走査方向の検出だけでは検出精度が不足する懸念がある。そこで、実施例3では、図22に示すように、主、副走査方向の二方向で検出を行う方法を説明する。
図23は実施例3の低濃度域の検出および処理を説明するフローチャートで、CPU 304が実行する処理(低濃度域検出部108および低濃度域処理部109に相当)である。図12に示した実施例1の処理と異なるのは、ステップS2801で、全ラインを記憶部305に設定したページメモリにバッファリングすることである。そして、ページメモリから主走査方向に(図12と異なり副走査方向も)1ラインずつ読み出して低濃度域、文字域の検出、および、境界画素の設定を行い、ステップS2802の判定により、副走査方向に1ラインずつ同様の検出および設定を行う。さらに、低濃度域が存在する場合は、ステップS2803で画素ごとの検出結果および設定結果の論理和をとる。
このようにすれば、副走査方向に細い低濃度域および文字域も、副走査方向の検出によって高い精度が検出することができる。
なお、実施例2と同様に、主走査方向、副走査方向とも、数ラインおきに検出および設定処理を行い、間引いたラインの検出および設定結果を補間すれば、CPU 304の負荷を低減することができる。
以下、本発明にかかる実施例4の画像処理を説明する。なお、実施例4において、実施例1〜3と略同様の構成については、同一符号を付して、その詳細説明を省略する。
上記の実施例では、修正液の塗布面の反射濃度を、発明者の測定結果に基づき、0.04と仮定した。しかし、修正液の材質によっては反射濃度が0.04ではない場合も考えられる。さらに、スキャナ102の光源503などの経年変化により、読取輝度値にばらつきが生じることもある。実施例4では、修正液の塗布面をターゲットにするシェーディング係数Sの補正方法を説明する。
図24はシェーディング係数Sの補正処理を示すフローチャートで、CPU 304が実行する処理である。
オペレータは、操作部104を走査してシェーディング係数の補正を指示する。この指示に応じて、CPU 304は、補正用シート1201をプリンタ303によって印刷する(S3001)。
図25は補正用シート1201を説明する図で、修正液を塗布する領域1202が複数指定されている。オペレータは指定領域1202に同じ修正液を塗布する。そして、修正液が乾くと、補正用シート1201をスキャナ102にセットし、操作部104を操作して読取開始を指示する。
CPU 304は、白基準変更部106を制御して、反射濃度が極めて低い領域を読み取っても読取輝度値が飽和しないようなシェーディング係数Sをシェーディング部107に設定する(S3002)。そして、修正液が塗布された補正シート1201をスキャナ102で読み取り、修正液の塗布領域1202の信号値を解析する(S3003)。
図26は領域1202の信号値のヒストグラムを示す図である。CPU 304は、各塗布領域1202の信号値の最頻値を平均し、または、中央値をとり、その値を255にするシェーディング係数Sを算出し、記憶部305に格納する(S3004)。
このように、修正液に応じたシェーディング係数を取得し、使用することができる。
[他の実施例]
なお、本発明は、複数の機器(例えばホストコンピュータ、インタフェイス機器、リーダ、プリンタなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
また、本発明の目的は、上記実施例の機能を実現するソフトウェアを記録した記憶媒体(記録媒体)をシステムまたは装置に供給し、そのシステムまたは装置のコンピュータ(CPUやMPU)が前記ソフトウェアを実行することでも達成される。この場合、記憶媒体から読み出されたソフトウェア自体が上記実施例の機能を実現することになり、そのソフトウェアを記憶した記憶媒体は本発明を構成する。
また、前記ソフトウェアの実行により上記機能が実現されるだけでなく、そのソフトウェアの指示により、コンピュータ上で稼働するオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、それによって上記機能が実現される場合も含む。
また、前記ソフトウェアがコンピュータに接続された機能拡張カードやユニットのメモリに書き込まれ、そのソフトウェアの指示により、前記カードやユニットのCPUなどが実際の処理の一部または全部を行い、それによって上記機能が実現される場合も含む。
本発明を前記記憶媒体に適用する場合、その記憶媒体には、先に説明したフローチャートに対応するソフトウェアが格納される。
実施例1の読取画像前処理部の構成の概要を示すブロック図、 読取画像前処理部を含む複合機の構成例を示すブロック図、 縮小光学系をもつスキャナの光学系の構成例を示す図、 等倍光学系をもつスキャナの光学系の構成例を示す図、 シェーディング部の処理を説明する図、 シェーディング部の処理を説明する図、 原稿の一例を示す図、 原稿を複合機で読み取って生成した電子文書をPCのモニタに表示した例を示す図、 原稿のシェーディング補正後の読取輝度値のヒストグラムを示す図、 シェーディング部の処理を説明する図、 修正液を塗布した領域の反射濃度に基づき、原稿のシェーディング補正を行った場合の読取輝度値のヒストグラムを示す図、 複合機の操作部の構成例を示す図、 低濃度域の検出および処理を説明するフローチャート、 画像データのバッファリングを説明する図、 原稿に低濃度域が存在し、その領域内に高反射濃度の文字や線が描かれていると仮定した場合の、ラインバッファ領域に格納した当該領域の各画素の信号値を示す図、 修正痕を見付けた旨の表示例を示す図、 修正痕がある電子文書の生成例を示す図、 修正痕がある電子文書の生成例を示す図、 1ライン分のステップS2405の処理の詳細を示すフローチャート、 ステップS2406〜S2408の処理の詳細を示すフローチャート、 低濃度域の検出機能を有する複合機の応用例を示す図、 実施例2の低濃度域の検出および処理を説明するフローチャート、 主、副走査方向の二方向で検出を行うことを説明する図、 実施例3の低濃度域の検出および処理を説明するフローチャート、 シェーディング係数の補正処理を示すフローチャート、 補正用シートを説明する図、 修正液の塗布領域の信号値のヒストグラムを示す図である。

Claims (14)

  1. 原稿を読み取って電子文書化する画像処理装置であって、
    原稿画像を読み取る読取手段と、
    前記読取手段が読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出する検出手段と、
    前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出する抽出手段と
    ユーザによる前記低濃度域の識別を容易にするために、前記低濃度域を、人が認識可能な幅と色をもつ境界画素で囲む設定手段とを有することを特徴とする画像処理装置。
  2. 原稿を読み取って電子文書化する画像処理装置であって、
    原稿画像を読み取る読取手段と、
    前記読取手段が読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出する検出手段と、
    前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出する抽出手段と、
    ユーザによる前記低濃度域の識別を容易にするために、前記低濃度域を着色する画像処理手段を有することを特徴とする画像処理装置。
  3. 原稿を読み取って電子文書化する画像処理装置であって、
    原稿画像を読み取る読取手段と、
    前記読取手段が読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出する検出手段と、
    前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出する抽出手段と、
    前記読取手段のシェーディング係数を、ユーザの指示に従い、基準白色板に対応するシェーディング係数、または、前記低濃度域の濃度の読み取りに対応するシェーディング係数に制御する制御手段を有することを特徴とする画像処理装置。
  4. さらに、予め修正液の塗布領域が指定されたシートを前記画像処理装置の一部であるプリンタに印刷させ、前記読取手段による前記シートの読み取り結果から前記低濃度域の濃度の読み取りに対応するシェーディング係数を算出する算出手段を有することを特徴とする請求項3に記載された画像処理装置。
  5. さらに、前記低濃度域が存在する場合、その旨を表示部またはスピーカを介してユーザに報知する報知手段を有することを特徴とする請求項1から請求項4の何れか一項に記載された画像処理装置。
  6. さらに、前記低濃度域の中にある文字域を抽出する文字域抽出手段を有することを特徴とする請求項1から請求項5の何れか一項に記載された画像処理装置。
  7. さらに、原稿画像を読み取って前記電子文書化するの通常の読取モードと、原稿画像の前記低濃度域を抽出する読取モードの何れかを選択する選択手段を有することを特徴とする請求項1から請求項6の何れか一項に記載された画像処理装置。
  8. 前記抽出手段は、前記画像の主走査ラインのすべてにおいて、または、前記主走査ラインを数ラインおきに、前記抽出を行うことを特徴とする請求項1から請求項7の何れか一項に記載された画像処理装置。
  9. 前記抽出手段は、前記画像の主走査および副走査ラインのすべてにおいて、または、前記主走査および副走査ラインを数ラインおきに、前記抽出を行い、画素ごとに、当該画素の前記主走査ラインにおける抽出結果と前記副走査ラインにおける抽出結果を論理和することを特徴とする請求項1から請求項7の何れか一項に記載された画像処理装置。
  10. 原稿を読み取って電子文書化する画像処理方法であって、
    原稿画像を読み取り、
    前記読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出し、
    前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出し、
    ユーザによる前記低濃度域の識別を容易にするために、前記低濃度域を、人が認識可能な幅と色をもつ境界画素で囲むことを特徴とする画像処理方法。
  11. 原稿を読み取って電子文書化する画像処理方法であって、
    原稿画像を読み取り、
    前記読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出し、
    前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出し、
    ユーザによる前記低濃度域の識別を容易にするために、前記低濃度域を着色することを特徴とする画像処理方法。
  12. 原稿を読み取って電子文書化する画像処理方法であって、
    読取手段により原稿画像を読み取り、
    前記読み取った画像の信号値を用いて輝度ヒストグラムを作成し、前記輝度ヒストグラムの最も頻度が高い信号値に基づき、前記画像の下地のレベルを検出し、
    前記下地のレベルを用いて、前記下地のレベルよりも低濃度の低濃度域を前記画像から抽出し、
    前記読取手段のシェーディング係数を、ユーザの指示に従い、基準白色板に対応するシェーディング係数、または、前記低濃度域の濃度の読み取りに対応するシェーディング係数に制御することを特徴とする画像処理方法。
  13. 画像処理装置を制御して、請求項10から請求項12の何れか一項に記載された画像処理を実行することを特徴とするプログラム。
  14. 請求項13に記載されたプログラムが記録されたことを特徴とするコンピュータが読み取り可能な記録媒体。
JP2005317114A 2005-10-31 2005-10-31 画像処理装置およびその方法 Expired - Fee Related JP4282081B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005317114A JP4282081B2 (ja) 2005-10-31 2005-10-31 画像処理装置およびその方法
US11/553,564 US7948662B2 (en) 2005-10-31 2006-10-27 Image processing apparatus and method for performing shade correction on generated image using a shading coefficient

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005317114A JP4282081B2 (ja) 2005-10-31 2005-10-31 画像処理装置およびその方法

Publications (2)

Publication Number Publication Date
JP2007124541A JP2007124541A (ja) 2007-05-17
JP4282081B2 true JP4282081B2 (ja) 2009-06-17

Family

ID=37995875

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005317114A Expired - Fee Related JP4282081B2 (ja) 2005-10-31 2005-10-31 画像処理装置およびその方法

Country Status (2)

Country Link
US (1) US7948662B2 (ja)
JP (1) JP4282081B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1739947B1 (en) * 2005-06-30 2013-10-02 Canon Kabushiki Kaisha Density determination method, image forming apparatus, and image processing system
US8873112B2 (en) * 2011-10-21 2014-10-28 Canon Kabushiki Kaisha Image processing apparatus and determination method
JP6316135B2 (ja) * 2014-08-01 2018-04-25 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3787584T2 (de) * 1986-07-07 1994-02-17 Canon Kk Projektionsapparat und Bildleseapparat, fähig zum Lesen eines projizierten Bildes.
US5280367A (en) * 1991-05-28 1994-01-18 Hewlett-Packard Company Automatic separation of text from background in scanned images of complex documents
JP2839133B2 (ja) * 1994-03-31 1998-12-16 キヤノン株式会社 カラーフィルタの製造方法及び製造装置及び液晶表示装置の製造方法及び液晶表示装置を備えた装置の製造方法
JP3034438B2 (ja) * 1994-03-31 2000-04-17 キヤノン株式会社 カラーフィルタの製造装置
US5768412A (en) * 1994-09-19 1998-06-16 Hitachi, Ltd. Region segmentation method for particle images and apparatus thereof
JP3240870B2 (ja) * 1995-02-09 2001-12-25 キヤノン株式会社 カラー画像読取装置
JPH08279911A (ja) 1995-04-06 1996-10-22 Hitachi Electron Eng Co Ltd 光学式イメージスキャナ
JPH0951405A (ja) * 1995-08-04 1997-02-18 Canon Inc 画像読取装置
US6141118A (en) * 1996-06-13 2000-10-31 Canon Kabushiki Kaisha Optical scanning device
US5751848A (en) * 1996-11-21 1998-05-12 Xerox Corporation System and method for generating and utilizing histogram data from a scanned image
JP3779400B2 (ja) * 1996-11-28 2006-05-24 株式会社東芝 画像処理方法
JPH10190988A (ja) * 1996-12-26 1998-07-21 Canon Inc 画像読み取り装置
JP3845509B2 (ja) * 1997-12-19 2006-11-15 株式会社東芝 画像処理装置および画像形成装置
JP4097800B2 (ja) * 1998-09-07 2008-06-11 株式会社東芝 画像処理方法および画像処理装置
US6697497B1 (en) * 1998-12-22 2004-02-24 Novell, Inc. Boundary identification and characterization through density differencing
JP2000232556A (ja) * 1999-02-12 2000-08-22 Canon Inc カラー画像読取装置
JP2001236463A (ja) * 2000-02-23 2001-08-31 Hitachi Ltd 光学的文字読取装置
JP3549478B2 (ja) 2000-10-10 2004-08-04 シミック株式会社 紙メディアの記載修正検出支援方法および支援装置
US7058222B2 (en) * 2001-12-20 2006-06-06 Xerox Corporation Automatic background detection of scanned documents
JP4101169B2 (ja) 2003-12-26 2008-06-18 キヤノン株式会社 画像処理装置及び画像処理方法及びコンピュータプログラム
JP2006261993A (ja) * 2005-03-16 2006-09-28 Toshiba Corp スキャナシステムおよびスキャン対象の修正箇所検出方法

Also Published As

Publication number Publication date
US20070097438A1 (en) 2007-05-03
JP2007124541A (ja) 2007-05-17
US7948662B2 (en) 2011-05-24

Similar Documents

Publication Publication Date Title
US7889917B2 (en) Device and method for image color determination
CN101494709A (zh) 图像形成设备和防止空白纸排出的方法
JP6198521B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US20220114408A1 (en) Image forming apparatus, control method thereof, and storage medium
JP4282081B2 (ja) 画像処理装置およびその方法
CN101115125A (zh) 图像处理装置及控制图像处理装置的方法
CN102547013A (zh) 图像处理装置及图像处理方法
KR102357562B1 (ko) 원격 화상 진단을 받는 것이 가능한 화상 형성 장치, 그 제어 방법, 및 그 제어 프로그램을 저장하는 저장 매체
US8189235B2 (en) Apparatus, method and program product that calculates a color blending ratio so security dots reproduced in a monochrome image are substantially undetectable
CN110099192B (zh) 图像形成装置、其控制方法及存储其控制程序的存储介质
US8837003B2 (en) Image processing apparatus and method for converting a color image into a monochrome image
JP7048275B2 (ja) 画像処理装置
JP2007267078A (ja) シェーディングデータ検査方法
EP1898625A2 (en) Apparatus and method for deciding image color
US20100188670A1 (en) Image processing apparatus, image processing method and program executing the image processing method
JP5549836B2 (ja) 画像処理装置及び画像処理方法
JP6025803B2 (ja) 画像処理装置
JP2005109831A (ja) 画像処理装置
JP6488182B2 (ja) 画像処理装置、画像形成装置および画像処理方法
JP6350055B2 (ja) 色差評価装置、画像形成装置及びプログラム
JP2001309169A (ja) 画像処理装置およびその制御方法
JP5005734B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP3619120B2 (ja) 画像処理装置およびその方法
JP2000253242A (ja) 画像読み取りシステム
US7616343B2 (en) Image data conversion apparatus, image forming apparatus, image data conversion method and program

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090313

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090316

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120327

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130327

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140327

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees