JP2012105015A - 画像処理装置、画像処理方法、プログラム、及び記憶媒体 - Google Patents

画像処理装置、画像処理方法、プログラム、及び記憶媒体 Download PDF

Info

Publication number
JP2012105015A
JP2012105015A JP2010251161A JP2010251161A JP2012105015A JP 2012105015 A JP2012105015 A JP 2012105015A JP 2010251161 A JP2010251161 A JP 2010251161A JP 2010251161 A JP2010251161 A JP 2010251161A JP 2012105015 A JP2012105015 A JP 2012105015A
Authority
JP
Japan
Prior art keywords
block
attribute
edge
image
color distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010251161A
Other languages
English (en)
Other versions
JP5645612B2 (ja
Inventor
Xiao Yan Dai
暁艶 戴
Taeko Yamazaki
妙子 山▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010251161A priority Critical patent/JP5645612B2/ja
Priority to US13/290,804 priority patent/US8620081B2/en
Publication of JP2012105015A publication Critical patent/JP2012105015A/ja
Application granted granted Critical
Publication of JP5645612B2 publication Critical patent/JP5645612B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/40062Discrimination between different image types, e.g. two-tone, continuous tone
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/413Classification of content, e.g. text, photographs or tables
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】 ブロック画像の属性判定において、色情報による判定方法とエッジ情報による判定方法との両方の判定方法を組み合わせる判定方法では、両判定方法による判定結果が相違した場合、属性の誤判定が生じてしまうことがある。
【解決手段】 画像処理装置は、原稿画像を所定数の画素からなるブロック画像に分割し、該ブロック画像を平滑した平滑後のブロック画像の色分布特徴量に基づいて該ブロック画像が文字ブロックであるかを判定する色分布判定手段の判定結果が信頼度の高い文字ブロックである場合、該ブロック画像は文字ブロックであると決定し、色分布判定手段の判定結果がそうでない場合、該ブロック画像のエッジ特徴量に基づいて該ブロック画像が文字ブロックであるかを判定するエッジ判定手段による判定結果を該ブロック画像の属性とする。
【選択図】 図2

Description

本発明は、画像処理装置、画像処理方法、そのプログラム、プログラムを格納する記憶媒体に関するものである。
一般に、デジタル複合機等において読み取られる原稿は、文字原稿、写真原稿及び網点印刷原稿の3種類に大別される。網点印刷原稿は、階調のある画像を細かいドットの集合体に分解し、そのドットの単位面積当たりの大きさ、即ち、単位面積当たりの平均濃度で擬似的に階調を表現するものである。これらの原稿、あるいは、これらの混在原稿をスキャンした場合、文字や網点や写真等を識別して、夫々の領域に適した処理を施すことが行われる。文字領域に対しては、解像度を重視した処理を施し、文字認識や文字ベクトル化処理を行うことが行われ、網点、写真領域に対しては、階調性を重視した処理を施し、画質の向上を図ることが行われている。そのため、文字や網点等を高い精度を持って識別できることが必要とされる。
文字や網点等の識別に、原稿画像の色情報による判定及びエッジ情報による判定を用いて、総合的に行う方式がある。特許文献1には、原稿画像を所定画素数から成るブロックに分割し、ブロック内にエッジが存在するか、及び、ブロックに限定色が存在するか、をそれぞれ判定する。そして、エッジが存在し且つ限定色が存在するブロックを文字ブロックと判定し、それ以外は非文字ブロックと判定する処理方法が開示されている。
特開平5−328143
しかしながら、特許文献1に開示される、色情報による文字や網点等の判定とエッジ情報による文字や網点等の判定とを両方組み合わせて判定する方式では、色情報による領域の判定結果とエッジ情報による領域属性の判定結果が違う場合に、領域属性の誤判定が生じやすい。その結果、適切な画像処理を施すことができず、画像処理した画質が劣化してしまい、文字が欠けてしまう。
上記課題を解決するために、本発明に係る画像処理装置は、文書画像を所定の画素数のブロック画像に分割し、当該分割後のブロック画像の属性が文字であるか判定する画像処理装置であって、前記ブロック画像を平滑化することにより平滑後ブロック画像を生成する平滑化手段と、前記平滑後ブロック画像の色分布特徴量を取得する色分布取得手段と、前記ブロック画像のエッジ特徴量を取得するエッジ取得手段と、前記色分布取得手段により取得された色分布特徴量に基づいて、前記ブロック画像の属性が文字であるか判定する色分布判定手段と、前記エッジ取得手段により取得されたエッジ特徴量に基づいて、前記ブロック画像の属性が文字であるか判定するエッジ判定手段と、前記色分布判定手段で前記ブロック画像の属性が文字であると判定したときの信頼度が高い場合、前記ブロック画像の属性を文字と決定し、前記色分布判定手段で前記ブロック画像の属性が文字であると判定したときの信頼度が高くない場合、前記ブロック画像の属性を前記エッジ判定手段による判定結果に決定する決定手段と、を有することを特徴とする。
本発明によれば、複数の判定基準を用いたブロック画像の属性の判定の精度を上げることができる。
本発明におけるデジタル複合機(MFP)の主要部構成を例示するブロック図である。 本発明の実施例1に係る画像処理装置の機能構成を例示するブロック図である。 実施例1における色情報による文字ブロックの判定処理を説明するためのフローチャートである。 実施例1における色分布図の一例を示す図である。 実施例1における色情報による信頼度の高い文字ブロックの判定処理を説明するためのフローチャートである。 実施例1における信頼度の高い文字ブロックの色分布図の一例を示す図である。 実施例1におけるエッジ情報による文字ブロックの判定処理を説明するためのフローチャートである。 実施例1における文字ブロックと網点ブロックのエッジ特徴の一例を示す図である 実施例1における代表色選択処理を説明するためのフローチャートである。 実施例2におけるブロック属性の決定処理を説明するためのフローチャートである。 実施例2に係る画像処理装置の機能構成を示すブロック図である。 実施例2におけるエッジ情報による信頼度の高い文字ブロックの判定処理を説明するためのフローチャートである。 実施例2における信頼度の高い文字ブロックのエッジ特徴の一例を示す図である。 実施例3における色分布情報による文字ブロックの判定処理を説明するためのフローチャートである。 実施例4におけるブロック属性の決定処理を説明するためのフローチャートである。 実施例5におけるエッジ情報による信頼度の高い網点ブロックの判定処理を説明するためのフローチャートである。
以下、図面を参照して、本発明に係る画像処理装置を用いた判定処理について説明する。ただし、この実施の形態に記載されている構成要素は例示であり、本発明の技術的範囲は、以下の個別の実施例によって限定されない。
(実施例1)
図1は、本発明におけるデジタル複合機(MFP)の主要部構成を例示するブロック図である。尚、本実施例では、画像処理装置として、スキャナ機能やプリンタ機能を有するデジタル複合機(MFP)を用いているが、汎用のスキャナとパーソナルコンピュータとを接続したシステムを当該画像処理装置として用いてもよい。
図1に示すように、MFPは、画像処理装置の制御手段として機能するコントローラユニット2000を備えている。コントローラユニット2000は、画像入力デバイスであるスキャナ2070や画像出力デバイスであるプリンタ2095と、デバイスインタフェース(I/F)を介して接続する。そして、コントローラユニット2000は、スキャナ2070で原稿画像から読み取られた画像データをプリンタ2095によって印刷出力するコピー機能を実現するための制御を行うことが可能である。また、コントローラユニット2000は、LAN1006や公衆回線(WAN)1008を介して他装置との間で画像データやデバイス情報等の入出力を行うための制御を行うことが可能である。
コントローラユニット2000は、図1に示すように、CPU2001を有している。CPU2001は、ROM2003に格納されているブートプログラムによりオペレーションシステム(OS)を立ち上げる。そして、このOS上でHDD(ハードディスクドライブ)2004に格納されているアプリケーションプログラムを実行することによって各種処理を実行する。CPU2001の作業領域として、RAM2002が用いられる。RAM2002はまた、CPU2001の作業領域だけでなく、画像データを一時記憶するための画像メモリ領域をも提供する。HDD2004は、上記アプリケーションプログラム及び画像データを格納する。
後述する図2のブロック入力部101から色量子化部107までの各処理部は、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。また、このアプリケーションプログラムは、CPU2001によって実行されることで、図3、図5、図7、図9、図10、図12、図14、図15、図16に示す各フローチャートの処理を実現する。
CPU2001には、システムバス2007を介して、ROM2003やRAM2002が接続している。CPU2001には、操作部I/F(インタフェース)2006、ネットワークI/F(インタフェース)2010、モデム2050及びイメージバスI/F(インタフェース)2005が接続されている。
操作部I/F2006は、タッチパネルを有する操作部2012とのインタフェースであり、操作部2012に表示する画像データを操作部2012に対して出力する。また、操作部I/F2006は、操作部2012においてユーザにより入力された情報をCPU2001に送出する。
また、ネットワークI/F2010は、LAN1006に接続され、LAN1006を介してLAN1006に接続された各装置との間で情報の入出力を行う。モデム2050は、公衆回線1008に接続し、公衆回線1008を介して他装置との間で情報の入出力を行う。
イメージバスI/F2005は、システムバス2007と画像データを高速で転送する画像バス2008とを接続し、データ構造を変換するためのバスブリッジである。画像バス2008は、PCIバス又はIEEE1394から構成される。画像バス2008上には、ラスタイメージプロセッサ(RIP)2060、デバイスI/F2020、スキャナ画像処理部2080、プリンタ画像処理部2090、画像回転部2030、及び画像圧縮部2040が設けられている。
RIP2060は、PDLコードをビットマップイメージに展開するハードウェア回路である。デバイスI/F2020には、スキャナ2070及びプリンタ2095が接続され、画像データの同期系/非同期系の変換を行う。スキャナ画像処理部2080は、入力画像データに対して補正、加工、編集処理を行うハードウェア回路である。プリンタ画像処理部2090は、プリント出力画像データに対してプリンタの補正、解像度変換等を行うハードウェア回路である。画像回転部2030は、画像データの回転を行うハードウェア回路である。画像圧縮部2040は、多値画像データをJPEGデータに、ニ値画像データをJBIG、MMR、MH等のデータに圧縮するとともに、その伸長処理も行うハードウェア回路である。以上説明した、RIP2060、スキャナ画像処理部2080、プリンタ画像処理部2090、画像回転部2030、画像圧縮部2040の各処理部は、ハードウェア回路によって構成されている。しかし、これらの機能を実現するプログラムをCPUが実行することでCPUを各処理部として機能させてもよい。この場合、例えば、これらの機能を実現するためのプログラムを格納するROM、各プログラムをロード、展開するためのRAM、RAM上に展開されたプログラムを実行するCPU、をコントローラユニット2000内に別個に設ければよい。
図2は、本発明の実施例に係る画像処理装置の構成を示すブロック図である。
ブロック入力部101は、例えばスキャナ2070等の画像読み取り手段を介して読み取った原稿画像の、所定数の画素からなるブロックに分割された画像データ(ブロック画像)を平滑化処理部102及びエッジ解析部104に入力する。
平滑化処理部102は、ブロック入力部101からのブロック画像を平滑化処理する。平滑化処理は、ブロック画像にある画素毎の細かい変化を少なくし、網点パターンを潰して色情報の解析をしやすくするための処理である。平滑化処理は、公知のローパスフィルタや移動平均フィルタやエッジ保持型平滑フィルタ等を利用することで実現可能である。また、平滑化処理により網点で構成された中間調文字・インク混色文字等の文字色の解析もしやすくなる。
色分布解析部103は、平滑処理部102により処理された平滑後のブロック画像の画素の出現色の分布を解析し、ブロック属性を判定する。この色分布解析処理の詳細について図3を用いて後述する。
エッジ解析部104は、ブロック入力部101からのブロック画像からエッジ情報を解析し、ブロック属性を判定する。このエッジ解析処理の詳細について図7を用いて後述する。
ブロック属性決定部105は、色分布解析部103及びエッジ解析部104のブロック画像の属性についての判定結果に基づいて、ブロック画像が文字ブロックか非文字ブロックかを決定する。色分布解析部103で処理対象のブロック画像が信頼度の高い文字と判定された場合、ブロック属性決定部105は、当該ブロック画像を文字ブロックと決定する。色分布解析部103でブロック画像が信頼度の高い文字と判定されなかった場合、ブロック属性決定部105は、エッジ解析部104での判定結果に基づいて、この処理対象のブロック画像が文字ブロックか非文字ブロックかを決める。
代表色選択部106は、ブロック属性決定部105によって決定された属性に基づいて、当該ブロック画像の主要色を決める。この代表色選択処理の詳細について図9を用いて後述する。
色量子化部107は、代表色選択部106によって決定された主要色に基づいて、当該ブロック画像にある各画素に割り当てる色を決定する。この色量子化処理の詳細について図9を用いて後述する。
以上の色量子化部107までの処理を施されたブロック画像単位の処理結果を使い、ブロック画像毎に画像処理の切り替えを行うことが可能となる。例えば、文字ブロックの文字画素をエッジ強調したり、非文字ブロックにある画素を平滑化したりする。また、ブロック画像単位の処理結果及びブロック画像間の情報を使い、文字画素を繋げ、文字単位に分離し、文字認識や文字輪郭ベクトル化することも可能である。
<色分布解析処理>
本実施例における色分布解析部103の色分布解析処理による信頼度の高い文字ブロックの判定処理の詳細について、図3を参照して説明する。以下説明するステップS51〜S54の処理は、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。
まず、ステップS51で、色分布解析部103は、平滑化処理部102の出力する平滑処理後のブロック画像を取得する。
次に、ステップS52で、色分布解析部103は、取得したブロック画像を、RGB色空間から明度、色相の表現が出来る色空間、例えば、HSV色空間、に変換する。
次に、ステップS53で、色分布解析部103は、平滑後のブロック画像にある各画素の明度値、色相値を色分布図(カラーヒストグラム)に配置して色情報を得る。図4は、色分布の一例を示す2次元カラーヒストグラムの図である。横軸に明度、縦軸に色相で、明度の可能な数値範囲、色相の可能な数値範囲をそれぞれM等分、N等分する。ここで、Mは8、Nは5とした例が示されているが、色分布が分かる程度の他の数字でも構わなく、後述するステップS54での文字ブロック判定に適当な粒度であればよい。また、カラーヒストグラムは、色相、明度の各数値範囲を等分ではない分割によっても良い。以後、このように色空間を分割した分割後の範囲(図4の各マス目に対応する範囲)をビンと呼ぶ。各ビンに配置される画素は、各ビンに対応した一定数値範囲内の明度値、色相値を持つ。図4の例において、斜線部分のビンに画素が配置されており、配置された画素はそのビンの明度範囲、色相範囲に含まれていることを示す。このように色分布を求めることで、ブロック画像にある画素の明度範囲、即ち、明度の差、または、画素の色範囲、即ち、色相の差が分かる。なお、ビンは明度及び色相の数値範囲に基づき色空間を分割して形成されるとしたが、カラーヒストグラムを得るための色空間の分割の仕方はこれに限らない。例えば、HSV色空間であれば彩度も用いてビンを形成しても良い。
次に、ステップS54で、色分布解析部103は、色情報により処理対象であるブロック画像が信頼度の高い文字ブロックであるかを判定する。この文字判定処理について、図5のフローチャートを参照して説明する。以下説明するステップS5401〜S5408の処理は、CPU2001がHDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。
ステップS5401で、色分布解析部103は、ステップS53で求めた処理対象であるブロック画像の色分布図を取得する。ステップS5402で、色分布解析部103は、色相の範囲が異なるビンがあるかを判断する。色相の範囲が異なるビンがあると判断されれば、処理はステップS5404へ移行する。ステップS5404で、色分布解析部103は、当該ブロック画像が信頼度の高い文字ブロックであると判定する。ステップS5402で二つ以上の色相のビンがあると判断されなければ、処理はステップS5403へ移行する。
ステップS5403で、色分布解析部103は、ステップS53で求めた色分布図の明度軸方向において、ビン間の距離が所定の距離以上離れているかを判断する。このビン間の距離が所定の距離以上離れていると判断されれば、処理はステップS5404へ移行する。このビン間の距離が所定の距離以上離れていると判断されなければ、処理はステップS5405へ移行する。ステップS5405で、色分布解析部103は、各ビン内で平均色相値を求め、各平均色相値の差が所定の色相差閾値以上であるかを判断する。平均色相値の差が所定の色相差閾値以上であると判断されれば、処理はステップS5407へ移行する。平均色相値の差が所定の色相差閾値以上であると判断されなければ、処理はステップS5406へ移行する。ステップS5407で、色分布解析部103は、当該ブロック画像を信頼度の低い文字ブロックと判定する。
ステップS5406で、色分布解析部103は、各ビン内で平均明度値を求め、各平均明度値の差が所定の明度差閾値以上であるかどうかを判断する。平均明度値の差が所定の明度差閾値以上であると判断されれば、処理は、ステップS5407へ移行する。平均明度値の差が所定の明度差閾値以上であると判断されなければ、処理は、ステップS5408へ移行する。ステップS5408で、色分布解析部103は、処理対象のブロック画像を判定不能ブロックと判定する。
<色分布解析処理による文字ブロック判定の例>
図6は、実施例1における色分布解析処理による文字ブロック判定の一例を示す図である。図6(a)はステップS5402の判断結果が「Yes」となる場合の色分布図を示すものである。この色分布図は色相の範囲が異なるビンがある色分布図を示すもので、網点画素と文字画素の色相が異なっている例である。図6(b)はステップS5403の判断結果が「Yes」となる色分布図を示すものである。この色分布図は明度軸方向でのビン間の距離が所定の距離以上離れている色分布図を示すもので、網点画素と文字画素の色相の差がほぼない(同じ色相範囲内にある)が、網点画素と文字画素の明度の差が大きい色分布図を示すものである。図6(c)はステップS5405の判断結果が「Yes」となる色分布図を示すものである。この色分布図は、2つあるビンは色相範囲が等しく且つ明度軸方向におけるビン間の距離が所定の距離よりも近いが、各ビンの平均色相値の差が所定の色相差閾値よりも大きい色分布を示す。図6(d)はステップS5406の判断結果が「Yes」となる色分布図を示すものである。この色分布図は、2つあるビンは色相範囲が等しく、且つ、明度軸方向におけるビン間の距離が所定の距離よりも近く、且つ、各ビンの平均色相値の差が所定の色相差閾値以下であるが、各ビンの平均明度値の差が所定の明度差閾値値よりも大きい色分布図を示す。
図6(a)、(b)のような色分布図となるブロック画像は、信頼度の高い文字ブロックであり、色分布解析処理の判定結果のみからでもブロック画像の属性を決定できるものである。図6(c)、(d)のような色分布図となるブロック画像は、信頼度の低い文字ブロックであり、色分布解析処理の判定結果のみからではブロック画像の属性を決定できず、後述するエッジ解析処理の判定結果も利用してブロック画像の属性を決定すべきものである。
つまり、前述したように、色情報だけでは文字か網点の判定が難しい領域、特に、網点と近い色(明度及び色相)を持つ文字領域は、誤判定が生じかねない。従って、この実施例では、色情報により文字ブロックと判定できるところ(信頼度の高い文字ブロック)を文字と判定し、色情報により文字ブロックか網点ブロックかを確定できないところ(信頼度の低い文字ブロック、判定不能ブロック)を更にエッジ解析処理により判定する。
また、前述したように、明度が低く、濃度が高い網点にある文字領域は、エッジ情報だけでは文字か網点の判断が難しいが、文字と網点は色が違うので、色情報により文字ブロックと判定可能である。
<エッジ解析処理>
エッジ解析処理による文字ブロック/非文字ブロックの判定処理は、文字領域にある程度強いエッジを持つ画素があり、また、強いエッジ画素がある程度連結しているという特徴に基づくものである。この実施例1における判定処理の詳細について、図7を参照して説明する。以下説明するステップS901〜S907の処理は、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。エッジ解析部104によって実行される。
まず、ステップS901で、エッジ解析部104は、ブロック入力部101ブロック画像からエッジを抽出する。エッジ抽出は、エッジ強度を示す微分データを生成する処理で、公知のPrewittフィルタ等を利用することで実現可能である。また、エッジの分布状態に基づいて網点と文字とを区別できる特徴を求めるため、エッジ抽出は網点をつぶす処理(平滑化処理)を行う前のブロック画像を使う。
次に、ステップS902で、エッジ解析部104は、エッジ特徴量を計算する。ここで、エッジ特徴量として、強エッジ画素数と連結エッジ画素数を求める。強エッジ画素数は、ブロック画像内に強いエッジを持つ画素はどれぐらいあるかを表す特徴量であり、所定のエッジ強度閾値以上のエッジ画素の数をカウントしたものである。連結エッジ画素数は、強いエッジ画素がどの程度連結しているかを表す特徴量であり、強エッジ画素どうしが互いに隣接して連結している強エッジ画素の数をカウントしたものである。なお、連結エッジ画素数は、エッジ画素の連結単位ごとに算出される。
次に、エッジ特徴量に基づき、ステップS903からステップS907では、ブロックは文字ブロックか非文字ブロックかを判定する。
ステップS903で、エッジ解析部104は、エッジ強度の強い画素数は所定の閾値1以上であるかを判断する。エッジ強度の強い画素数が所定の閾値1以上ではないと判断された場合、処理がステップS907へ移行し、エッジ解析部104は、ブロック画像を非文字ブロックと判定する。エッジ強度の強い画素数が所定の閾値1以上であると判断された場合、処理はステップS904へ進む。エッジ強度の弱いパターンの網点領域には、エッジ強度の強い画素が非常に少ないという特徴があるので、閾値1は低い数値に設定されている。
ステップS904で、エッジ解析部104は、エッジ強度の強い画素数が所定の閾値2以下であるかを判断する。エッジ強度の強い画素数が所定の閾値2以下ではないと判断された場合、処理がステップS907へ移行し、エッジ解析部104は、ブロック画像を非文字ブロックと判定する。エッジ強度の強い画素数が所定の閾値2以下であると判断された場合、処理はステップS905へ進む。エッジ強度の強いパターンの網点領域には、エッジ強度の強い画素が非常に多いという特徴を利用があるので、閾値2は高い数値に設定されている。
ステップS905で、エッジ解析部104は、連結エッジ画素数が所定の閾値3以上であるかを判断する。連結エッジ画素数が所定の閾値3以上のものがあれば、ステップS906では処理対象のブロック画像を文字ブロックと判定し、そうでなければ、非文字ブロックと判定する。ここで、文字部分は強エッジがある程度互いに隣接して連結しているという特徴を利用するので、閾値3を中間数値に設定する。
<エッジ解析処理の例>
図8は、実施例1の画像処理において網点領域と文字領域のエッジ特徴の例を示す図である。図8(a)のような網点と違う色の文字例1では、文字ブロック(黒文字ブロック)に強いエッジを持つ画素が多数あり、エッジ画素が連続である一方、網点ブロック(黄色網点ブロック)に強いエッジを持つ画素がない。網点濃度、網点色、文字色によっては、強いエッジを持つ画素が多い網点ブロックもある。しかし、網点ブロックには連結エッジ画素の数が少ないため、エッジ特徴の違いにより、文字ブロックと網点ブロックの区別が出来る。
また、図8(b)のような網点と同色の文字例2では、網点ブロックは文字ブロックと同程度に強いエッジの画素がある。しかし、文字ブロックのエッジ画素は連続するものがあるのに対して、網点ブロックのエッジ画素は連続するものが少ない。そのため、色分布で区別出来ない文字ブロックと網点ブロックは、エッジ解析により区別できる。
<ブロック属性決定>
実施例1におけるブロック属性決定処理の詳細について説明する。
色分布解析処理にてブロック画像を信頼度の高い文字と判定された場合、ブロック属性決定部105は、当該ブロック画像を文字ブロックと決定する。色分布解析処理にてブロック画像を信頼度の高い文字ブロックと判定できない場合、ブロック属性決定部105は、エッジ解析処理の結果により文字ブロックかが決定される。この際に、エッジ解析処理にてブロック画像が文字ブロックと判断すれば、ブロック属性決定処部105は、当該ブロックを文字ブロックと決定する。また、エッジ解析処理にてブロック画像が非文字ブロックと判断されれば、ブロック属性決定部105は、当該ブロック画像を非文字ブロックと決定する。
<代表色選択及び色量子化>
実施例1における代表色選択部106による代表色選択処理の詳細について、図9を参照して説明する。以下で説明するステップS1101〜S1106の処理フローは、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。
ステップS1101で、代表色選択部106は、色分布解析部103による色分布解析処理で求めた処理対象のブロック画像の色分布図及び各ビンにある画素数の情報、また、ブロック属性決定部105によるブロック画像の属性の判定結果を取得する。ステップS1102以下の処理で、属性が文字ブロックである画像ブロックは文字部分の色と背景部分の色が決定され、非文字ブロックの属性を持つ画像ブロックは背景の色が決定される。
ステップS1102で、代表色選択部106は、ステップS1101で取得した色分布図及びこの色分布図の各ビンについて画素数が一番多いビンの色(例えばこのビンに含まれる画素の平均色)を代表色1にする。
ステップS1103で、代表色選択部106は、処理対象のブロック画像が文字ブロックと決定されているかを判断する。文字ブロックと決定されていない(非文字ブロックと決定されている)と判断される場合、ステップS1102で決めた代表色1を代表色として出力する。また、文字ブロックと決定されていると判断された場合、さらにステップS1104からS1106で、もう1つの代表色を選択する。
ステップS1104で、代表色選択部106は、取得した色分布図において代表色1と色相の範囲の異なるビンがあるかを判断する。代表色1と色相の範囲の異なるビンがあると判断された場合、ステップS1105で、代表色選択部106は、代表色1から色相が一番遠いビンの色(例えばこのビンに含まれる画素の平均色)を代表色2にする。ステップS1104にて代表色1と色相の範囲が異なるビンがないと判断された場合、ステップS1106で、代表色選択部106は、代表色1から明度が一番離れるビンの色(例えばこのビンに含まれる画素の平均色)を代表色2にする。なお、本発明の代表色選択処理は上記実施例に限られるものではない。
色量子化部107による色量子化処理では、文字ブロックにある各画素に対して、当該画素の色と最も近い色を代表色の中から選択し、割り当てる。一方、非文字ブロックにある全ての画素に対して、同じ代表色を割り当てる。
本実施例は、文字ブロックと非文字ブロックを判定するものである。処理対象は網点印刷原稿である場合は、非文字ブロックは網点ブロックになるが、処理対象は文字原稿、写真原稿、網点印刷原稿の混在原稿である場合は、非文字ブロックは更に網点ブロックか下地ブロックかを判定すれば良い。
また、色情報により信頼度の高い文字ブロックと判定する判定条件は、本実施例のものに限らず、文字ブロックと非文字ブロックの区別できる色分布、或いは、色特徴、或いは、判定条件を用いても良い。
また、文字ブロックの代表色選択は文字が2色である場合の例にしたが、文字が多色の場合は、多数の代表色を決定しても良い。また、非文字ブロックの代表色選択は背景色の1色としたが、2色以上の代表色を決定しても良い。例えば色分布図の各ビンに含まれる画素数についてビン1内の画素数が最大であり、ビン2の画素数がビン1内の画素数と同程度である場合、ビン1とビン2の色を代表色としても良い。
また、本実施例で、ステップS5404へ移行するような平滑後のブロック画像の色分布は、文字ブロックに特有な色分布であるといえる。なお、処理がステップS5404へ移行することになる色分布を有するブロック画像は、ブロック属性決定部105により、エッジ解析処理の結果を用いずにブロック属性が決定される。そのため、処理がステップS5404へ移行する場合に、エッジ解析部104によるエッジ解析処理を省略するような構成をとっても良い。
(実施例2)
先に説明した実施例1では、文字と網点の識別に、先に色分布解析処理により確定できる文字ブロックを判定し、色分布解析処理により文字の確定ができないブロックをエッジ解析処理により判定するものとした。その際に、色分布解析部103でブロック画像が信頼度の高い文字ブロックと判定される場合、ブロック属性決定部105は、当該ブロック画像を文字ブロックと決定する。また、色分布解析部103で、ブロック画像が信頼度の高い文字ブロックと判定されない場合(信頼度の低い文字ブロック及び判定不能ブロックと判定される場合)、ブロック属性決定部105は、当該ブロック画像の属性をエッジ解析部104による判定結果に決める。
本実施例も、文字と網点の識別に、先に色分布解析処理により確定できる文字ブロックを判定し、色分布解析処理により文字の確定ができないブロックをエッジ解析処理により判定するものである。しかし、本実施例では、文字ブロックであると確定はできないが、文字ブロックである可能性がありそうなブロック画像について、エッジ解析処理による判定結果を用いる。つまり、色分布解析部でブロック画像が信頼度の高い文字と判定される場合、ブロック属性決定部は、当該ブロック画像を文字ブロックと決定し、色分布解析部でブロック画像が信頼度の低い文字と判定される場合、ブロック属性決定部は、エッジ解析部の判定結果により、ブロック画像の属性を決める。
<ブロック属性決定>
実施例2におけるブロック属性ブロックの判定処理の詳細について図10を参照して説明する。以下で説明するステップS1201〜S1207の処理フローは、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。なお、他の構成は実施例1と同様である。
ステップS1201では、ブロック属性決定部105は、色分布解析処理及びエッジ解析処理の結果を取得する。
ステップS1203で、ブロック属性決定部105は、ステップS1201で取得した色分布解析処理の判定結果が信頼度の高い文字ブロックであるかを判断する。ステップS1203で色分布解析処理の判定結果が信頼度の高い文字ブロックであると判断される場合、ステップS1204で、ブロック属性決定部105は、処理対象のブロック画像を文字ブロックと決定する。ステップS1203で色分布解析処理の結果が信頼度の高い文字ブロックであると判断されない場合、ブロック属性決定部105は、ステップS1205からステップS1207までの処理を行い、処理対象のブロック画像が文字ブロックであるか非文字ブロックであるかを決定する。
ステップS1205で、ブロック属性決定部105は、色分布解析処理の結果が信頼度の低い文字ブロックであるかを判断する。色分布解析処理の結果が信頼度の低い文字ブロックであると判断された場合、処理は、ステップS1206へ移行する。ステップS1206で、ブロック属性決定部105は、エッジ解析処理の結果が文字ブロックであるかを判断する。エッジ解析処理の結果が文字ブロックであると判断された場合、処理は、ステップS1204へ移行する。エッジ解析処理の結果が文字ブロックであると判断されない場合、処理は、ステップS1207へ移行する。
ステップS1205にて色分布解析処理の結果が信頼度の低い文字ブロックであると判断されない場合、処理は、ステップS1207へ移行する。
ステップSS1207で、ブロック属性決定部105は、処理対象のブロック画像を非文字ブロックと決定する。
本実施例では、色分布解析処理の結果が信頼度の高い文字ブロックではない場合、エッジ解析処理及び色分布解析処理をある判定基準に基づき文字ブロックか非文字ブロックかを決定するものである。エッジ解析処理及び色分布解析処理による文字、文字ブロックか非文字ブロックかを決定する際に他の判定基準を設定しても構わない。
以上、本実施例により、色情報だけでは文字ブロック判定が困難なブロック画像を、エッジ情報による判定を補足的に用いて判定するため、精度良く文字ブロック判定ができる。
なお、本実施例の色分布解析処理の判定結果が信頼度の高い文字ブロックである場合又は判定不能ブロックである場合、ブロック属性決定部105は、エッジ解析処理の結果を用いずにブロック属性を決定する。そのため、色分布解析処理の判定結果がこのような場合にエッジ解析処理を省略しても良く、さらに、エッジ解析処理が省略された場合にブロック属性決定部105はステップS1201でエッジ解析処理の結果を取得しないように構成されていても良い。このように構成することで、ブロック画像の属性を判定するための処理量を減らすことができる。
(実施例3)
先に説明した実施例1、2では、文字と非文字(例えば網点)の識別に、先に色分布解析処理により確定できる文字ブロックを判定し、色分布解析処理により文字ブロックと確定ができないブロック画像をエッジ解析処理により判定するものとした。本実施例では、文字と非文字の識別に、先にエッジ解析処理により確定できる文字ブロックを判定し、エッジ解析処理により文字の確定ができないブロックを色分布解析処理により判定するものである。
実施例3における文字ブロック/非文字ブロックの判定処理の詳細について、図11を参照して説明する。なお、図11に示す、ブロック入力部201から色量子化部207までの各処理部は、図2の各処理部と同様に、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。
図11において、ブロック入力部201は、エッジ解析部202及び平滑化処理部203へ、処理画像の所定数の画素からなるブロック画像の画像データを入力する。
エッジ解析部202は、ブロック入力部201のブロックからエッジ情報を解析し、文字ブロックであるかを判定する。この処理では、ブロック画像にある各画素のエッジ強度を計算し、ある程度の強いエッジを持つ画素数、また、エッジが繋がる部分にあるエッジ画素数を求めて、文字ブロックであるかを判定する。このエッジ解析処理の詳細について図12を用いて後述する。
平滑化処理部203は、ブロック入力部201からのブロック画像を平滑化処理する。平滑化処理部203の行う平滑化処理は、公知のローパスフィルタや移動平均フィルタやエッジ保持型平滑フィルタ等を利用することで実現可能である。
色分布解析部204は、平滑化処理部203の配下使処理による平滑後のブロック画像内の画素の出現色の分布を解析し、文字ブロックであるかを判定する。この色分布解析処理の詳細について図14を用いて後述する。
ブロック属性決定部205は、ブロック画像が文字ブロックであるか非文字ブロックであるかを決定する。エッジ解析部202にてブロック画像が信頼度の高い文字ブロックであると判定された場合、ブロック属性決定部205は、当該ブロック画像を文字ブロックと決定する。エッジ解析部202にてブロック画像が信頼度の高い文字ブロックであると判定されなかった場合、ブロック属性決定部205は、色分布解析部204のブロック画像判定結果によって文字ブロックか非文字ブロックかを決める。
代表色選択部206は、当該ブロック画像の主要色を決める。
色量子化部207は、当該ブロック画像の各画素に主要色を割り当てる。
<エッジ解析処理>
処理対象であるブロック画像にエッジ解析処理を施し、当該ブロック画像が信頼度の高い文字ブロックであるかどうかの判定を行う。この判定は、文字領域には、強いエッジを持つ画素が多く、かつ、連結している強いエッジ画素が多いという特徴に基づく。この実施例3における判定処理の詳細について、図12を参照して説明する。以下で説明するステップS1401〜S1408の処理フローは、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。
ステップS1401で、エッジ解析部202は、処理対象のブロック画像に対してエッジ抽出をし、エッジ特徴量を算出する。このエッジ抽出及びエッジ特徴量の算出は、実施例1で説明した処理と同様の処理を行う。
ステップS1402で、エッジ解析部202は、エッジ強度の強い画素数が所定の閾値1以上であるかを判断する。エッジ強度の強い画素数が所定の閾値1以上であると判断された場合、処理はステップS1403へ移行する。また、エッジ強度の強い画素数が所定の閾値1以上ではないと判断された場合、処理はステップS1408へ移行する。
ステップS1403で、エッジ解析部202は、エッジ強度の強い画素数が所定の閾値2以下であるかを判断する。エッジ強度の強い画素数が所定の閾値2以下であると判断された場合、処理はステップS1404へ移行する。また、エッジ強度の強い画素数が所定の閾値2以下ではないと判断された場合、処理はステップS1408へ移行する。
ステップS1404で、エッジ解析部202は、連結エッジ画素の数が所定の閾値3以上の連結単位があるかを判断する。連結エッジ画素の数が所定の閾値3以上の連結単位があると判断された場合、処理はステップS1405へ移行する。また、連結エッジ画素の数が所定の閾値3以上の連結単位がないと判断された場合、処理はステップS1408へ移行する。
ステップS1405で、エッジ解析部202は、連結エッジ画素が所定の閾値3以上である連結単位のうち、最も連結エッジ画素数が多いものを求め、その最大連結エッジ画素数が所定の閾値4以下であるかを判断する。最大連結エッジ画素数が所定の閾値4以下であると判断された場合、処理はステップS1406へ移行する。ステップS1406で、エッジ解析部202は、当該ブロック画像を信頼度の高い文字ブロックと判定する。
ステップS1405にて最大連結エッジ画素数が所定の閾値4以下ではないと判断された場合、処理はステップS1407へ移行する。ステップS1407で、エッジ解析部202は、当該ブロック画像を信頼度の低い文字ブロックと判定する。
ステップS1408で、エッジ解析部202は、当該ブロック画像を文字ブロックであるか判定不能ブロックとする。
<エッジ解析処理により信頼度の高い文字ブロックのエッジ特徴の例>
図13は、実施例3における信頼度の高い文字ブロックのエッジ特徴の一例を示す図である。図13(a)は、エッジ強度の弱いパターンを有する網点部分上の文字のエッジを示すものである。エッジ強度の強い画素(白)の数は所定の範囲に収まっている、即ち、所定の閾値1以上かつ所定の閾値2以下である。また、エッジが連続であり、連続部分にある画素数は所定の範囲に収まっている、即ち、所定の閾値3以上かつ所定の閾値4以下である。
一方、図13(b)はエッジ強度の強いパターンを有する網点部分上の文字のエッジを示すものである。ブロック画像全体でエッジ強度の強い画素(白)の数は、所定の範囲に収まっている、即ち、所定の閾値1以上かつ所定の閾値2以下である。また、エッジが連続であり、連続部分にある画素数はある程度ある、即ち、所定の閾値3以上で所定の閾値4以下である。このような閾値の条件により、図13(b)のような網点部分にも強いエッジ画素があるブロック画像でも、文字ブロックであると判定される。
ここで、実施例3では、エッジ情報により信頼度の高い文字ブロックは、上記のエッジ特徴量の条件を満たすものとしたが、他に文字ブロックと非文字ブロックの区別できるエッジ特徴、或いは、判定条件を用いても良い。
<色分布解析処理>
本実施例における色分布解析部204による色分布解析処理の文字ブロックの判定処理の詳細について、図14を参照して説明する。以下で説明するステップS1601〜S1607の処理フローは、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。なお、本実施例の色分布解析処理も、処理ステップS1601へ移行する前処理として、実施例1、2で説明したステップS51〜S53と同様の処理、即ちブロック画像の色空間の変換と色分布図への配置を、色分布解析部204が実行する。
ステップS1601で、色分布解析部204は、平滑化処理部203により平滑化処理を施された処理対象ブロック画像の色分布図を取得する。
ステップS1602で、色分布解析部204は、取得した色分布図に基づき、色相の範囲が異なるビンがあるかを判断する。色相の範囲が異なるビンがあると判断された場合、処理はステップS1604へ移行する。また、色相の範囲の異なるビンがないと判断された場合、処理はステップS1603へ移行する。
ステップS1603で、色分布解析部204は、明度軸方向におけるビン間の距離が所定の距離以上離れているかを判断する。ビン間の距離が所定の距離以上離れていると判断された場合、処理はステップS1604へ移行する。また、ビン間の距離が所定の距離以上離れていないと判断された場合、処理はステップS1605へ移行する。
ステップS1605で、色分布解析部204は、各ビン内の平均色相値を求め、各ビンの平均色相値の差が所定の色相差閾値以上かを判断する。平均色相値の差が色相差閾値以上であると判断された場合、処理はステップS1604へ移行する。また、平均色相値の差が色相差閾値以上ではないと判断された場合、処理はステップS1606へ移行する。
ステップS1606で、色分布解析部204は、各ビン内の平均明度値を求め、各ビンの平均明度値の差が所定の明度差閾値以上かを判断する。平均明度値の差が明度差閾値以上であると判断された場合、処理はステップS1604へ移行する。また、平均明度値の差が明度差閾値以上ではないと判断された場合、処理はS1607へ移行する。
ステップS1604で、色分布解析部204は、当該処理対象のブロック画像を文字ブロックと判定する。
ステップS1607で、色分布解析部204は、当該処理対象のブロック画像を非文字ブロックと判定する。
<ブロック属性決定>
本実施例におけるブロック属性決定処理の詳細について説明する。
エッジ解析処理で処理対象のブロック画像が信頼度の高い文字ブロックと判定される場合、ブロック属性決定部205は、処理対象のブロック画像を文字ブロックと決定する。また、エッジ解析処理で処理対象のブロック画像が信頼度の高い文字ブロックと判定されない場合、ブロック属性決定部205は、処理対象のブロック画像を色分布解析処理の結果により文字ブロックか非文字ブロックであるかを決定する。この際に、色分布解析処理により処理対象のブロック画像が文字ブロックであると判定される場合、ブロック属性決定部205は、処理対象のブロック画像を文字ブロックであると決定する。また、色分布解析処理により処理対象のブロック画像が非文字ブロックであると判定される場合、ブロック属性決定部205は、処理対象のブロック画像を非文字ブロックであると決定する。
代表色選択部206及び色量子化部207の機能は、実施例1,2の代表色選択部106及び色量子化部107と同様である。
以上説明したように本実施例によれば、文字領域/非文字領域を精度良く判定することが可能になり、それにより、領域毎に切り替える画像処理の画質の向上、文字部分の抽出後の文字認識や文字ベクトル化の精度の向上が可能になる。
なお、本実施例で、ステップS1406へ移行するようなブロック画像のエッジ特徴量は、文字ブロックに特有なエッジ特徴量であるといえる。なお、処理がステップS1406へ移行することになるエッジ特徴量を有するブロック画像は、ブロック属性決定部205により、色分布解析処理の結果を用いずにブロック属性が決定される。そのため、処理がステップS1406へ移行する場合に、平滑化処理部203及び色分布解析部204による色分布解析処理を省略するような構成をとっても良い。
(実施例4)
先に説明した実施例3では、文字と非文字(例えば網点)の識別に、先にエッジ解析処理により確定できる文字ブロックを判定し、エッジ解析処理により文字の確定ができないブロックを色分布解析処理により判定するものである。つまり、エッジ解析部202で処理対象のブロック画像が信頼度の高い文字と判定される場合、ブロック属性決定部205は、当該処理対象のブロック画像を文字ブロックと決定する。また、エッジ解析部202で当該処理対象のブロック画像が信頼度の高い文字ブロックと判定されない場合(信頼度の低い文字ブロック及び判定不能ブロックと判定される場合)、ブロック属性決定部205は、色分布解析部204による文字ブロックか非文字ブロックの判定結果に基づいて決めるものとした。
本実施例も、文字と非文字の識別に、先にエッジ解析処理により確定できる文字ブロックを判定し、エッジ解析処理により文字の確定ができないブロックを色分布解析処理により判定するものである。しかし、本実施例では、文字ブロックであると確定はできないが、文字ブロックである可能性がありそうなブロック画像について、色分布解析処理による判定結果を用いる。つまり、エッジ解析処理でブロック画像が信頼度の高い文字と判定される場合、ブロック属性決定部は、当該ブロック画像を文字ブロックと決定し、エッジ解析処理でブロック画像が信頼度の低い文字と判定される場合、ブロック属性決定部は、色分布解析処理の判定結果により、ブロック画像の属性を決める。
<ブロック属性決定>
本実施例と実施例3との大きな違いは、ブロック属性決定部205の処理フローである。本実施例における文字ブロック/非文字ブロックの判定処理の詳細について、図15を参照して説明する。以下で説明するステップS1701〜S1707の処理フローは、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。なお、他の構成は実施例3の構成と同様である。
ステップS1701では、ブロック属性決定部205は、エッジ解析処理及び色分布解析処理の結果を取得する。
ステップS1703で、ブロック属性決定部205は、ステップS1701で取得したエッジ解析処理の結果が信頼度の高い文字ブロックであるかを判断する。エッジ解析処理の結果が信頼度の高い文字ブロックであると判断される場合、処理は、ステップS1704へ移行する。ステップS1704で、ブロック属性決定部205は、処理対象のブロック画像を文字ブロックと決定する。
ステップS1703でエッジ解析処理の結果が信頼度の高い文字ブロックであると判断されない場合、処理はステップS1705へ移行する。ステップS1705で、ブロック属性決定部205は、エッジ解析処理の結果が信頼度の低い文字ブロックであるかを判断する。エッジ解析処理の結果が信頼度の低い文字ブロックであると判断される場合、処理はステップS1706へ移行する。または、エッジ解析処理の結果が信頼度の低い文字ブロックであると判断されない場合、処理はステップS1707へ移行する。
ステップS1706で、ブロック属性決定部205は、色分布解析処理の結果が文字ブロックであるかを判断する。色分布解析処理の結果が文字ブロックであると判断される場合、処理はS1704へ移行する。色分布解析処理の結果が文字ブロックであると判断されない場合、処理はステップS1707へ移行する。
ステップS1707で、ブロック属性決定部205は、処理対象のブロック画像を非文字ブロックと決定する。
この実施例では、色分布解析処理の結果が信頼度の高い文字ブロックではない場合は、エッジ解析処理及び色分布解析処理をある判定基準に基づき文字ブロックか非文字ブロックかを決定するものである。エッジ解析処理及び色分布解析処理による文字ブロックか非文字ブロックかを決定する際に他の判定基準を設定しても構わない。
以上、本実施例により、エッジ情報だけでは文字ブロック判定が困難なブロック画像を、色情報による判定を補足的に用いて判定するため、精度良く文字ブロック判定ができる。
なお、本実施例のエッジ解析処理の判定結果が信頼度の高い文字ブロックである場合又は判定不能ブロックである場合、ブロック属性決定部105は、色分布解析処理の結果を用いずにブロック属性を決定する。そのため、エッジ解析処理の判定結果がこのような場合に色分布エッジ解析処理を省略しても良く、さらに、エッジ解析処理が省略された場合にブロック属性決定部105はステップS1201でエッジ解析処理の結果を取得しないように構成されていても良い。このように構成することで、ブロック画像の属性を判定するための処理量を減らすことができる。
(実施例5)
先に説明した実施例1〜4では、文字と非文字(例えば網点)の識別に、文字ブロックに関する信頼度を利用した。本実施例では網点ブロックに関する信頼度を利用する。なお、本実施例では、特に説明がない限り、実施例3で説明した図11の機能ブロック図に示される構成を取っており、図11を利用して本実施例を説明する。また、本実施例で説明する、ブロック入力部201から色量子化部207までの各処理部は、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。
ブロック入力部201は、エッジ解析部202及び平滑化処理部203へ、処理画像の所定数の画素からなるブロック画像の画像データを入力する。
エッジ解析部202は、ブロック入力部201のブロック画像からエッジ情報を解析し、網点ブロックであるかを判定する。この処理では、ブロック画像にある各画素のエッジ強度を計算し、ある程度の強いエッジを持つ画素数、エッジが繋がる部分(連結単位)にあるエッジ画素数、連結単位の総数を求めて、網点ブロックであるかを判定する。このエッジ解析処理の詳細について図16を用いて後述する。
平滑化処理部203は、ブロック入力部201のブロックを平滑化処理する。平滑化処理部203の行う平滑化処理は、公知のローパスフィルタや移動平均フィルタやエッジ保持型平滑フィルタ等を利用することで実現可能である。
色分布解析部204は、平滑化処理部203による平滑化処理による平滑後のブロック画像にある画素の出現色の分布を解析し、網点ブロックであるかを判定する。この色分布解析処理は実施例3の説明で利用した図14を用いて後述する。
ブロック属性決定部205は、ブロック画像が網点ブロックであるか非網点ブロックであるかを決定する。エッジ解析部202にてブロック画像が信頼度の高い網点ブロックであると判定された場合、ブロック属性決定部205は、当該ブロック画像を網点ブロックと決定する。エッジ解析部202にてブロック画像が信頼度の高い網点ブロックであると判定されなかった場合、ブロック属性決定部205は、色分布解析部204のブロック画像判定結果によって網点ブロックか非網点ブロックかを決める。
代表色選択部206は、当該ブロック画像の主要色を決める。
色量子化部207は、当該ブロック画像の各画素に主要色を割り当てる。
<エッジ解析処理>
処理対象であるブロック画像にエッジ解析処理を施し、当該ブロック画像が信頼度の高い網点ブロックであるかどうかの判定を行う。この判定は、網点領域には、強いエッジがそれほど多くなく、かつ、連結している強いエッジ画素が多く、且つ、連結単位の数が多いという網点領域に特有な特徴に基づく。この実施例5における判定処理の詳細について、図16を参照して説明する。以下で説明するステップS1801〜S1808の処理フローは、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。
ステップS1801で、エッジ解析部202は、処理対象のブロック画像に対してエッジ抽出をする。ステップS1802で、エッジ解析部202は、抽出したエッジに基づきエッジ特徴量を算出する。このエッジ抽出及びエッジ特徴量の算出は、実施例1で説明した処理と同様の処理を行う。
ステップS1803で、エッジ解析部202は、エッジの連結単位の数が所定の閾値1以上であるかを判断する。エッジの連結単位の数が所定の閾値1以上であると判断された場合、処理はステップS1804へ移行する。また、エッジの連結単位の数が所定の閾値1以上ではないと判断された場合、処理はステップS1808へ移行する。
ステップS1804で、エッジ解析部202は、エッジ強度の強い画素数が所定の閾値2以下であるかを判断する。エッジ強度の強い画素数が所定の閾値2以下であると判断された場合、処理はステップS1805へ移行する。また、エッジ強度の強い画素数が所定の閾値2以下ではないと判断された場合、処理はステップS1807へ移行する。
ステップS1805で、エッジ解析部202は、連結エッジ画素の数が所定の閾値3以上の連結単位があるかを判断する。連結エッジ画素の数が所定の閾値3以上の連結単位があると判断された場合、処理はステップS1806へ移行する。また、連結エッジ画素の数が所定の閾値3以上の連結単位がないと判断された場合、処理はステップS1807へ移行する。
ステップS1806で、エッジ解析部202は、当該ブロック画像を信頼度の高い網点ブロックと判定する。なお、ステップS1406へ移行するようなエッジの情報は、網点ブロックに特有なエッジ情報であるといえる。
ステップS1807で、エッジ解析部202は、当該ブロック画像を信頼度の低い網点ブロックと判定する。なお、ステップS1407へ移行するようなエッジの情報は、文字ブロックと他の属性ブロックに共通なエッジ情報であるといえる。
ステップS1808で、エッジ解析部202は、当該ブロック画像を網点ブロックであるか判定不能ブロックとする。
<色分布解析処理>
本実施例における色分布解析部204による色分布解析処理の網点ブロックの判定処理は、図14の判定処理と同様である。本実施例の色分布解析処理の網点ブロックの判定処理が図14の判定処理と異なる点は、ステップS1604で文字ブロックと判定したところを非網点ブロックと判定し、ステップS1607で非文字ブロックと判定したところを網点ブロックと判定する点である。なお、本実施例の色分布解析処理においても、前処理として、実施例1、2で説明したステップS51〜S53と同様の処理、即ちブロック画像の色空間の変換と色分布図への配置を、色分布解析部204が実行する。
<ブロック属性決定>
本実施例におけるブロック属性決定処理は、実施例3の図15に示した処理フローと同様なフローである。本実施例でのブロック属性決定処理について図15のフローを援用して説明する。以下で説明するステップS1701〜S1707の処理フローは、CPU2001が、HDD2004に予め格納されているアプリケーションプログラムを読み出し、RAM2002にロードし、展開、実行することで実現される。
ステップS1701では、ブロック属性決定部205は、エッジ解析処理及び色分布解析処理の結果を取得する。
ステップS1703で、ブロック属性決定部205は、エッジ解析処理の結果が信頼度の高い網点ブロックであるかを判断する。エッジ解析処理の結果が信頼度の高い網点ブロックであると判断される場合、処理は、ステップS1704へ移行する。ステップS1704では、ブロック属性決定部205は、処理対象のブロック画像を網点ブロックと決定する。
ステップS1703でエッジ解析処理の結果が信頼度の高い網点ブロックであると判断されない場合、処理はステップS1705へ移行する。ステップS1705で、ブロック属性決定部205は、エッジ解析処理の結果が信頼度の低い網点ブロックであるかを判断する。エッジ解析処理の結果が信頼度の低い網点ブロックであると判断される場合、処理はステップS1706へ移行する。または、エッジ解析処理の結果が信頼度の低い網点ブロックであると判断されない場合、処理はステップS1707へ移行する。
ステップS1706で、ブロック属性決定部205は、色分布解析処理の結果が網点ブロックであるかを判断する。色分布解析処理の結果が網点ブロックであると判断される場合、処理はS1704へ移行する。色分布解析処理の結果が網点ブロックであると判断されない場合、処理はステップS1707へ移行する。
ステップS1707で、ブロック属性決定部205は、処理対象のブロック画像を非網点ブロックと決定する。
この実施例では、色分布解析処理の結果は信頼度の高い網点ブロックではない場合は、エッジ解析処理及び色分布解析処理をある判定基準に基づき網点ブロックか非網点ブロックかを決定するものである。エッジ解析処理及び色分布解析処理による網点ブロックか非網点ブロックかを決定する際に他の判定基準を設定しても構わない。
なお、本実施例のエッジ解析処理の判定結果が信頼度の高い網点ブロックである場合又は判定不能ブロックである場合、ブロック属性決定部105は、色分布解析処理の結果を用いずにブロック属性を決定する。そのため、エッジ解析処理の判定結果がこのような場合に色分布エッジ解析処理を省略しても良く、さらに、エッジ解析処理が省略された場合にブロック属性決定部105はステップS1201でエッジ解析処理の結果を取得しないように構成されていても良い。
代表色選択部206及び色量子化部207の機能は、これまでに説明した実施例1〜4の代表色選択部106及び色量子化部107と同様である。違いとしては、網点ブロックと判定されたブロック画像内の各画素に対しては代表色1を割り当て、非網点ブロックと判定差入れたブロック画像内の各画素に対しては代表色1及び2を割り当てる点である。
以上説明したように本実施例によれば、網点領域/非網点領域を精度良く判定することが可能になり、それにより、領域毎に切り替える画像処理による画質の向上が可能となる。
なお、本実施例のエッジ解析処理の判定結果が信頼度の高い網点ブロックである場合又は判定不能ブロックである場合、ブロック属性決定部205は、色分布解析処理の結果を用いずにブロック属性を決定する。そのため、エッジ解析処理の判定結果がこのような場合に色分布エッジ解析処理を省略しても良く、さらに、エッジ解析処理が省略された場合にブロック属性決定部205はステップS1701でエッジ解析処理の結果を取得しないように構成されていても良い。このように構成することで、ブロック画像の属性を判定するための処理量を減らすことができる。
(その他の実施例)
なお、本発明の目的は、前述した実施例の機能を実現するソフトウェアのプログラムコードを記録したコンピュータ可読の記憶媒体を、システムあるいは装置に供給することによっても、達成される。また、システムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成される。
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施例の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、不揮発性のメモリカード、ROMなどを用いることができる。
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施例の機能が実現される。また、プログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施例が実現される場合も含まれる。

Claims (9)

  1. 文書画像を所定の画素数のブロック画像に分割し、当該分割後のブロック画像の属性が文字であるか判定する画像処理装置であって、
    前記ブロック画像を平滑化することにより平滑後ブロック画像を生成する平滑化手段と、
    前記平滑後ブロック画像の色分布特徴量を取得する色分布取得手段と、
    前記ブロック画像のエッジ特徴量を取得するエッジ取得手段と、
    前記色分布取得手段により取得された色分布特徴量に基づいて、前記ブロック画像の属性が文字であるか判定する色分布判定手段と、
    前記エッジ取得手段により取得されたエッジ特徴量に基づいて、前記ブロック画像の属性が文字であるか判定するエッジ判定手段と、
    前記色分布判定手段で前記ブロック画像の属性が文字であると判定したときの信頼度が高い場合、前記ブロック画像の属性を文字と決定し、前記色分布判定手段で前記ブロック画像の属性が文字であると判定したときの信頼度が高くない場合、前記ブロック画像の属性を前記エッジ判定手段による判定結果に決定する決定手段と、
    を有することを特徴とする画像処理装置。
  2. 前記決定手段は、前記色分布判定手段で前記ブロック画像の属性が文字であると判定したときの信頼度が高い場合、前記ブロック画像の属性を文字と決定し、前記色分布判定手段による判定で前記ブロック画像の属性が文字であると判定したときの信頼度が低い場合、前記ブロック画像の属性を前記エッジ判定手段による判定結果に決定することを特徴とする請求項1に記載の画像処理装置。
  3. 文書画像を所定の画素数のブロック画像に分割し、当該分割後のブロック画像の属性が所定の属性であるか判定する画像処理装置であって、
    前記ブロック画像を平滑化することにより平滑後ブロック画像を生成する平滑化手段と、
    前記平滑後ブロック画像の色分布特徴量を取得する色分布取得手段と、
    前記ブロック画像のエッジ特徴量を取得するエッジ取得手段と、
    前記エッジ取得手段により取得されたエッジ特徴量に基づいて、前記ブロック画像の属性が前記所定の属性であるか判定するエッジ判定手段と、
    前記色分布取得手段により取得された色分布特徴量に基づいて、前記ブロック画像の属性が前記所定の属性であるか判定する色分布判定手段と、
    前記エッジ判定手段で前記ブロック画像の属性が前記所定の属性と判定したときの信頼度が高い場合、前記ブロック画像の属性を前記所定の属性であると決定し、前記エッジ判定手段で前記ブロック画像の属性が前記所定の属性と判定したときの信頼度が高くない場合、前記ブロック画像の属性を前記色分布判定手段による判定結果に決定する決定手段と、
    を有することを特徴とする画像処理装置。
  4. 前記決定手段は、前記エッジ判定手段で前記ブロック画像の属性が前記所定の属性であると判定したときの信頼度が高い場合、前記ブロック画像の属性を前記所定の属性であると決定し、前記エッジ判定手段で前記ブロック画像の属性が前記所定の属性であると判定したときの信頼度が低い場合、前記ブロック画像の属性を前記色分布判定手段による判定結果に決定することを特徴とする請求項3に記載の画像処理装置。
  5. 前記色分布取得手段は、前記色分布特徴量をカラーヒストグラムから取得することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  6. 前記カラーヒストグラムは、少なくとも明度及び色相に基づいて色空間を分割した各ビンに属する画素数をとる頻度分布であることを特徴とする請求項5に記載の画像処理装置。
  7. 文書画像を所定の画素数のブロック画像に分割し、分割後のブロック画像の属性が文字であるか判定する画像処理方法であって、
    平滑化手段が、前記ブロック画像が平滑化された平滑後ブロック画像を生成する平滑化工程と、
    色分布取得手段が、前記平滑後ブロック画像の色分布特徴量を取得する色分布取得工程と、
    エッジ取得手段が、前記ブロック画像のエッジ特徴量を取得するエッジ取得工程と、
    色分布判定手段が、前記色分布取得工程により取得された色分布特徴量に基づいて、前記ブロック画像の属性が文字であるか判定する色分布判定工程と、
    エッジ判定手段が、前記エッジ取得工程により取得されたエッジ特徴量に基づいて、前記ブロック画像の属性が文字であるか判定するエッジ判定工程と、
    決定手段が、前記色分布判定工程による判定が信頼度の高い文字である場合、前記ブロック画像の属性を文字と決定し、前記色分布判定工程による判定が信頼度の高い文字でない場合、前記ブロック画像の属性を前記エッジ判定工程による判定結果に決定する決定工程と、
    を有することを特徴とする画像処理方法。
  8. 文書画像を所定の画素数のブロック画像に分割し、分割後のブロック画像の属性が所定の属性であるか判定する画像処理方法であって、
    平滑化手段が、前記ブロック画像が平滑化された平滑後ブロック画像を生成する平滑化工程と、
    色分布取得手段が、前記平滑後ブロック画像の色分布特徴量を取得する色分布取得工程と、
    エッジ取得手段が、前記ブロック画像のエッジ特徴量を取得するエッジ取得工程と、
    エッジ判定手段が、前記エッジ取得工程により取得されたエッジ特徴量に基づいて、前記ブロック画像の属性が前記所定の属性であるか判定するエッジ判定工程と、
    色分布判定手段が、前記色分布取得工程により取得された色分布特徴量に基づいて、前記ブロック画像の属性が前記所定の属性であるか判定する色分布判定工程と、
    決定手段が、前記エッジ判定工程による判定で前記ブロック画像の属性が前記所定の属性である信頼度が高い場合、前記ブロック画像の属性を前記所定の属性であると決定し、前記エッジ判定工程による判定で前記ブロック画像の属性が前記所定の属性である信頼度が高くない場合、前記ブロック画像の属性を前記色分布判定工程による判定結果に決定する決定工程と、
    を有することを特徴とする画像処理方法。
  9. 請求項1乃至6の何れか1項に記載の各手段として、コンピュータを機能させるためのプログラム。
JP2010251161A 2010-11-09 2010-11-09 画像処理装置、画像処理方法、プログラム、及び記憶媒体 Expired - Fee Related JP5645612B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010251161A JP5645612B2 (ja) 2010-11-09 2010-11-09 画像処理装置、画像処理方法、プログラム、及び記憶媒体
US13/290,804 US8620081B2 (en) 2010-11-09 2011-11-07 Image processing apparatus, method, and storage medium for determining attributes

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010251161A JP5645612B2 (ja) 2010-11-09 2010-11-09 画像処理装置、画像処理方法、プログラム、及び記憶媒体

Publications (2)

Publication Number Publication Date
JP2012105015A true JP2012105015A (ja) 2012-05-31
JP5645612B2 JP5645612B2 (ja) 2014-12-24

Family

ID=46019676

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010251161A Expired - Fee Related JP5645612B2 (ja) 2010-11-09 2010-11-09 画像処理装置、画像処理方法、プログラム、及び記憶媒体

Country Status (2)

Country Link
US (1) US8620081B2 (ja)
JP (1) JP5645612B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5843474B2 (ja) * 2011-05-09 2016-01-13 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
JP5801598B2 (ja) * 2011-05-09 2015-10-28 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
US9324170B2 (en) * 2011-08-18 2016-04-26 Hewlett-Packard Development Company, L.P. Creating a blended image
JP6370080B2 (ja) * 2014-04-02 2018-08-08 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム。
JP6489761B2 (ja) * 2014-05-14 2019-03-27 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム
JP2016175344A (ja) * 2015-03-20 2016-10-06 株式会社リコー 画像処理装置、画像処理装置の制御方法及び画像処理装置の制御プログラム
EP3939009A1 (en) * 2019-05-31 2022-01-19 Apple Inc. Method and device for generating a resultant image based on colors extracted from an input image

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05328143A (ja) * 1992-03-16 1993-12-10 Tokyo Electric Co Ltd カラー画像符号化装置
JP2001078037A (ja) * 1999-09-02 2001-03-23 Ricoh Co Ltd エッジ強調の画像処理装置
JP2010004141A (ja) * 2008-06-18 2010-01-07 Konica Minolta Business Technologies Inc 画像処理装置
JP2010021668A (ja) * 2008-07-08 2010-01-28 Sharp Corp 画像処理方法、画像処理装置、ならびにそれを備える画像形成装置、画像処理プログラムおよび記録媒体

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5668646A (en) * 1990-02-06 1997-09-16 Canon Kabushiki Kaisha Apparatus and method for decoding differently encoded multi-level and binary image data, the later corresponding to a color in the original image
JPH06121161A (ja) * 1991-05-14 1994-04-28 Fuji Xerox Co Ltd カラー画像処理装置の文字処理方式
US6798905B1 (en) * 1998-07-10 2004-09-28 Minolta Co., Ltd. Document orientation recognizing device which recognizes orientation of document image
US7006253B2 (en) * 2001-04-30 2006-02-28 Kabushiki Kaisha Toshiba Image processing apparatus
JP2007304864A (ja) * 2006-05-11 2007-11-22 Fuji Xerox Co Ltd 文字認識処理システムおよび文字認識処理プログラム
JP4333708B2 (ja) * 2006-08-02 2009-09-16 コニカミノルタビジネステクノロジーズ株式会社 電子ファイルの生成においてその生成に係る入力データを処理するための方法、装置、およびコンピュータプログラム
JP4872860B2 (ja) * 2007-09-13 2012-02-08 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置及び画像処理方法
JP5049920B2 (ja) * 2008-08-26 2012-10-17 キヤノン株式会社 画像処理装置及び画像処理方法
JP5049921B2 (ja) * 2008-08-26 2012-10-17 キヤノン株式会社 画像処理装置及び画像処理方法
JP5312166B2 (ja) * 2009-04-13 2013-10-09 キヤノン株式会社 画像処理装置及び制御方法及びプログラム
JP5511468B2 (ja) * 2009-04-13 2014-06-04 キヤノン株式会社 画像処理装置およびその制御方法、並びにプログラム
JP5455038B2 (ja) * 2009-12-28 2014-03-26 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP5500996B2 (ja) * 2010-01-06 2014-05-21 キヤノン株式会社 画像処理装置及び画像処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05328143A (ja) * 1992-03-16 1993-12-10 Tokyo Electric Co Ltd カラー画像符号化装置
JP2001078037A (ja) * 1999-09-02 2001-03-23 Ricoh Co Ltd エッジ強調の画像処理装置
JP2010004141A (ja) * 2008-06-18 2010-01-07 Konica Minolta Business Technologies Inc 画像処理装置
JP2010021668A (ja) * 2008-07-08 2010-01-28 Sharp Corp 画像処理方法、画像処理装置、ならびにそれを備える画像形成装置、画像処理プログラムおよび記録媒体

Also Published As

Publication number Publication date
US8620081B2 (en) 2013-12-31
US20120114230A1 (en) 2012-05-10
JP5645612B2 (ja) 2014-12-24

Similar Documents

Publication Publication Date Title
JP5875637B2 (ja) 画像処理装置、画像処理方法
JP5180670B2 (ja) 画像処理装置及び画像処理方法
US8331671B2 (en) Image processing apparatus and image encoding method related to non-photo image regions
JP5645612B2 (ja) 画像処理装置、画像処理方法、プログラム、及び記憶媒体
US8396298B2 (en) Image processing apparatus, image processing method, and storage medium with vectorization process for data from graphic areas
US8384964B2 (en) Image processing apparatus and image processing method
JP5132530B2 (ja) 画像符号化装置及び画像処理装置及びそれらの制御方法
US8503036B2 (en) System and method of improving image quality in digital image scanning and printing by reducing noise in output image data
JP5137759B2 (ja) 画像処理装置
JP6743092B2 (ja) 画像処理装置、画像処理の制御方法、及びプログラム
US8768051B2 (en) Image processing method, image processing apparatus, and computer-readable medium
JP6923037B2 (ja) 画像処理装置、画像処理方法およびプログラム
US8229214B2 (en) Image processing apparatus and image processing method
JP5893379B2 (ja) 画像圧縮装置、画像圧縮方法、コンピュータプログラム
JP6607490B2 (ja) 変換処理装置、それを備えた情報処理装置、プログラム、及び記録媒体
US8810877B2 (en) Image processing apparatus, image processing method, and storage medium for eliminating blurring of scanned image
JP2010146218A (ja) 画像処理装置、画像処理方法、コンピュータプログラム
US8270722B2 (en) Image processing with preferential vectorization of character and graphic regions
JP2012205133A (ja) 画像処理装置およびその制御方法
JP7134045B2 (ja) 画像処理装置と画像処理方法、及びプログラム
JP7185451B2 (ja) 画像処理装置と画像処理方法、及びプログラム
JP7362405B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2005323066A (ja) 画像処理装置
JP2020102148A (ja) 画像処理装置、画像処理方法、およびプログラム
JP2005210570A (ja) 画像処理装置、画像処理用プログラム及び記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140905

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141007

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141104

R151 Written notification of patent or utility model registration

Ref document number: 5645612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees