JP3918381B2 - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP3918381B2
JP3918381B2 JP30182299A JP30182299A JP3918381B2 JP 3918381 B2 JP3918381 B2 JP 3918381B2 JP 30182299 A JP30182299 A JP 30182299A JP 30182299 A JP30182299 A JP 30182299A JP 3918381 B2 JP3918381 B2 JP 3918381B2
Authority
JP
Japan
Prior art keywords
label
unit
area
line segment
attribute
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP30182299A
Other languages
English (en)
Other versions
JP2001127999A5 (ja
JP2001127999A (ja
Inventor
俊哉 小山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP30182299A priority Critical patent/JP3918381B2/ja
Publication of JP2001127999A publication Critical patent/JP2001127999A/ja
Publication of JP2001127999A5 publication Critical patent/JP2001127999A5/ja
Application granted granted Critical
Publication of JP3918381B2 publication Critical patent/JP3918381B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、複写機やファクシミリなどの画像処理装置およびその処理方法に関し、特に原稿に含まれる文字領域と絵柄領域を自動的に判別・分離し、各領域に適した画像処理を行う画像処理装置および画像処理方法に関する。
【0002】
【従来の技術】
複写機やファクシミリなどの画像処理装置において、入力された画像に文字や線画などの文字領域と、写真や絵柄などの絵柄領域が混在していた場合、その画像を再生するときには文字領域と絵柄領域を分離し、文字領域には解像度を重視した処理を、絵柄領域には階調性を重視した処理を施すことが画像品質の面から望ましい。また、上記のような画像データを伝送する場合にも、文字領域と絵柄領域を分離し、それぞれに対して異なった手法で圧縮処理を行った方が、画像品質および圧縮率の面から望ましい。
【0003】
具体的には、スキャナ等によって読み取られた画像、あるいはファクシミリ等で送信されてきた、文字・線画・写真・網点等の混在した画像をハードコピーする場合、文字・線画などの文字領域に対しては解像度を重視した処理を施し、写真・網点などの絵柄領域に対しては階調性を重視した処理を施すことにより、高画質な再生画像を得ることが可能となる。
【0004】
また、文字・線画・写真・網点等の混在した画像を、ネットワークを介して離れた場所にある画像出力装置に転送する場合、文字領域と絵柄領域を分離し、それぞれの領域に対して異なった手法で圧縮処理を行った方が、高画質で小容量の画像データを得ることができるため、速い転送速度・高画質な再生画像を得ることができる。
【0005】
ここで、上記のような解像度重視・階調性重視の処理を画像の各領域によって適応的に処理するためには、画像に含まれる文字領域・絵柄領域を精度良く分離する必要がある。以下、文字領域・絵柄領域の分離のことを像域分離と言う。この像域分離には関しては、従来、種々の提案がなされている。
【0006】
例えば、画像をある一定の大きさのブロックに分割し、各分割ブロックごとにそのブロックに含まれる画素の最大濃度と最小濃度を求めるとともに、最大濃度と最小濃度の差をあらかじめ決められた閾値と比較し、当該閾値よりも大きいブロックは文字領域、小さいブロックは絵柄領域と判定する方法(以下、第1従来技術と称す)や、注目画素を中心とした局所オペレータ(フィルタ)を用い、フィルタリング結果をあらかじめ決められた閾値と比較し、閾値よりも大きい画素は文字領域画素、小さい画素は絵柄領域画素と判定する方法(以下、第2従来技術と称す)などがある。
【0007】
さらに、上記のように1種類の方法、即ち第1,第2従来技術の一方だけを用いて像域分離を行うのではなく、文字領域を抽出する処理や絵柄領域を抽出する処理などの複数の処理を行い、各処理結果から精度良く像域分離を行う手法(以下、第3従来技術と称す)も提案されている(特開平2−294885号公報参照)。この第3従来技術について、図38を用いて簡単に説明する。
【0008】
図38において、入力された画像信号は、文字抽出部101、網点抽出部102および輪郭抽出部102に供給される。文字抽出部101は、入力された画像信号から画素単位に文字領域の判定を行い、その判定結果を出力する。網点抽出部102は、画素単位に網点領域の判定を行い、その判定結果を出力する。文字抽出部101と網点抽出部102の各判定結果は、論理和演算部104において画素単位に論理和演算が行われた後、誤判定除去部105に供給される。誤判定除去部105においては、文字抽出結果の補正処理が行われる。
【0009】
次に、誤判定除去部105と輪郭抽出部103の各出力結果は、論理積演算部106において画素単位で論理積演算が行われた後、輪郭再生成部107に供給される。輪郭再生成部107においては、論理積演算部106の論理積演算結果に対して文字・線画の輪郭補正が行われる。そして、この輪郭再生成部107の出力結果を像域分離結果とすることにより、精度の高い像域分離を行うことができる。
【0010】
【発明が解決しようとする課題】
しかしながら、上記第1従来技術の場合は、ブロック単位に像域分離が行われるため、文字・線画の輪郭部の像域判定結果が入力画像に忠実な判定結果とはならい。また、上記第2従来技術の場合は、画像中に含まれるエッジを抽出する手法であるため、ノイズを抽出したり、絵柄中に含まれるエッジを抽出しやすいという課題がある。
【0011】
これに対して、上記第3従来技術の場合は、絵柄中でのエッジの誤抽出が少ない、文字・線画の輪郭部は入力画像に忠実な抽出結果となる、など比較的優れた手法である。しかしながら、色背景領域上に書かれた文字が抽出できない、例えば図38における網点抽出部102で抽出可能な水色などの色領域上に書かれた文字などは、その領域全体が網点抽出部102もしくは文字抽出部101で抽出されてしまうため、色領域上に書かれた文字を像域分離結果として抽出することができない、という課題がある。
【0012】
本発明は、上記した従来技術の課題を解決するためになされたものであり、その目的とするところは、背景色を問わずに入力画像に対して忠実に文字・線画を抽出し、かつ絵柄領域中での誤抽出の無い、高精度な像域分離処理を行うことが可能な画像処理装置および画像処理方法を提供することにある。
【0013】
【課題を解決するための手段】
本発明による画像処理装置は、画像データを入力する入力手段と、この入力手段によって入力された画像データに対して前景と背景を分離する処理を行う2値化手段と、入力画像データに対して所定画素数分の幅の線分を抽出する線分抽出手段と、2値化手段によって前景とされた連結する画素に対して同一のラベルを付与するラベリング手段と、このラベリング手段において同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出するラベル特徴量算出手段と、このラベル特徴量算出手段によって算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する属性判定手段と、この属性判定手段によるラベル領域ごとの属性判定結果を用いて、線分抽出手段によって抽出された線分の補正を行う線分補正手段とを具備する構成となっている。
【0014】
上記構成の画像処理装置において、先ず、入力手段は、2値化手段および線分抽出手段に対して画像データを入力する。すると、2値化手段は入力された画像データを前景と背景に分離し、その分離結果をラベリング手段に与え、また線分抽出手段は所定画素数分の幅の線分を抽出し、その抽出結果を線分補正手段に与える。ラベリング手段は、2値化手段によって前景とされた連結する画素に対して同一のラベルを付与してラベル特徴量算出手段に与える。すると、ラベル特徴量算出手段は、同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出して属性判定手段に与える。属性判定手段は、ラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定し、その判定結果を線分補正手段に与える。そして、線分補正手段では、ラベル領域ごとの属性判定結果を用いて、線分抽出手段によって抽出された線分の補正を行う。
【0015】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照して詳細に説明する。
【0016】
図1は、本発明に係る画像処理装置の基本的な構成の概略を示すブロック図である。図1から明らかなように、本発明に係る画像処理装置は、画像入力部1、データ記憶部2、演算処理部3、係数記憶部4、階調補正部5、色信号変換部6、空間フィルタ部7、画像出力部8および像域分離部9を有し、これら各処理部がバスライン10を介して相互に接続された構成となっている。
【0017】
上記構成の画像処理装置において、画像入力部1はCCD撮像素子などの光電変換素子によって構成されるイメージスキャナなどであり、原稿の画像を読み取り、電気的なディジタル画像信号に変換して出力する。なお、この画像入力部1によって読み取られ、変換されたディジタル画像信号は、解像度400dpi、各色8ビットのRGBカラー画像信号であるものとして、以下の説明を行う。
【0018】
データ記憶部2は、画像入力部1によって入力された画像データ、各処理部によって画像処理が行われた画像データ、あるいは各処理部によって算出された処理結果などを記憶する。演算処理部3は、各装置の制御や各部の処理の演算を行う。係数記憶部4は、各部の処理に必要な係数を記憶しており、演算処理部3からの指示などによってその係数が読み出される。
【0019】
画像入力部1から出力されデータ記憶部2に記憶された画像データ(RGB各色8ビット)は、演算処理部3の指示によって階調補正部5に読み出され、この階調補正部5において画像の階調補正が行われる。その際、演算処理部3の指示によって係数記憶部4から入力階調補正係数が読み出され、入力階調補正係数を用いて階調補正が行われる。階調補正部5によって階調補正の行われた画像データは、データ記憶部2に記憶される。
【0020】
階調補正部5から出力されデータ記憶部2に記憶された画像データは、演算処理部3の指示によって色信号変換部6に読み出され、この色信号変換部6においてRGB画像信号から他の色信号(例えば、L* * * 画像信号)に変換される。その際、演算処理部3の指示によって係数記憶部4から、RGB画像信号からL* * * 画像信号への色信号変換係数が読み出され、その色信号変換係数を用いて色信号変換が行われる。色信号変換部6によって色信号変換の行われた画像データは、データ記憶部2に記憶される。
【0021】
色信号変換部6から出力され、データ記憶部2に記憶された画像データ、および後述する像域分離部9において像域分離の行われた画像データは、演算処理部3の指示によって色信号変換部6に読み出され、像域分離部9で像域分離の行われた画像データに応じて画素ごとに色信号変換係数を切り替えながら、L* * * 画像信号から出力色信号(例えば、YMCK画像信号)に変換される。その際、演算部3の指示によって係数記憶部4から、L* * * 画像信号からYMCK画像信号への色信号変換係数が読み出されており、その色信号変換係数を用いて色信号変換が行われる。色信号変換部6によって色変換の行われた画像データは、データ記憶部2に記憶される。
【0022】
色信号変換部6から出力されデータ記憶部2に記憶された画像データ、および後述する像域分離部9において像域分離の行われた画像データは、演算処理部3の指示によって空間フィルタ部7に読み出され、像域分離部9で像域分離の行われた画像データに応じて画素ごとにフィルタリング係数を切り替えながら、空間フィルタリング処理が施される。その際、演算処理部3の指示によって係数記憶部4からフィルタリング係数が読み出されており、そのフィルタリング係数を用いて空間フィルタリング処理が行われる。空間フィルタ部7によって空間フィルタリング処理の行われた画像データは、データ記憶部2に記憶される。
【0023】
空間フィルタ部7から出力されデータ記憶部2に記憶された画像データ、および後述する像域分離部9において像域分離の行われた画像データは、演算処理部3の指示によって階調補正部5に読み出され、像域分離部9で像域分離の行われた画像データに応じて画素ごとに出力階調補正係数を切り替えながら、出力階調補正処理が行われる。その際、演算処理部3の指示によって係数記憶部4から出力階調補正係数が読み出されており、その出力階調補正係数を用いて出力階調補正が行われる。階調補正部5によって出力階調補正の行われた画像データは、データ記憶部2に記憶される。
【0024】
階調補正部5から出力されデータ記憶部2に記憶されたYMCK画像データ、および後述する像域分離部9において像域分離の行われた画像データは、演算処理部3の指示によって画像出力部8に読み出され、像域分離部9で像域分離の行われた画像データに応じて画素ごとに例えばスクリーンなどが切り替えられることによって画像が出力される。
【0025】
また、色信号変換部6から出力されデータ記憶部2に記憶されたL* * * 画像データは、演算処理部3の指示によって像域分離部9に読み出され、像域分離処理が行われる。その際、演算処理部3の指示によって係数記憶部4から像域分離係数が読み出されており、その像域分離係数を用いて像域分離処理が行われる。像域分離部9によって像域分離の行われた画像データは、データ記憶部2に記憶される。このデータ記憶部2に記憶された像域分離の行われた画像データを用いて、色信号変換部6、空間フィルタ部7、階調補正部5および画像出力部8での処理係数が画素ごとに切り替えられる。
【0026】
次に、像域分離部9について、図2、図3および図4を用いて説明する。図2は、本発明の第1実施形態に係る像域分離部9の構成を示すブロック図である。また、図3および図4は、この第1実施形態に係る像域分離部9における処理過程での画像変化の一例を示す図である。図2から明らかなように、第1実施毛形態に係る像域分離部9は、2値化部11、線分抽出部12、ラベリング部13、ラベル特徴量算出部14、小領域除去部15、第1属性判定部16および線分補正部17を有する構成となっている。
【0027】
上記構成の像域分離部9において、2値化部11は、データ記憶部2に記憶されている画像データ、即ち解像度400dpi、各画素8ビットのL* * * 画像信号を読み出し、2値化処理を行う。以降、この画像データのことを、L* * * 原画像データと呼ぶこととする。なお、L* * * 原画像データは、後述する線分抽出部12およびラベル特徴量抽出部14でも読み出される。
【0028】
2値化部11では、読み出されたL* * * 原画像データから前景領域、例えば白背景上の文字・線分、着色された領域、あるいは写真・絵柄領域などを抽出し、抽出された画素を高レベル(論理“1”)、抽出されなかった画素を低レベル(論理“0”)とする各画素1ビットの画素信号が出力される。図3の場合を例にとると、図3(a)の画像が2値化部11に入力されたとすると、図3(c)のように2値化された画像が出力される。2値化部11の詳細については後述する。
【0029】
2値化部11から出力された2値化画像信号は、ラベリング部13に入力される。ラベリング部13では、連結する抽出画素の領域ごとに1つのラベルを付与する処理が行われる。ラベリングの方法としては公知の技術が用いられる。図3および図4で説明すると、図3(c)の2値化画像がラベリング部13に入力され、図4(a)のようにラベル番号1からラベル番号Nまでのラベルが付与される。なお、以降、連結領域ごとにラベルの付与された画像をラベリング画像と称するものとする。
【0030】
ラベリング部13から出力されたラベリング画像は、ラベル特徴量算出部14と線分補正部17に入力される。ラベル特徴量算出部14では、ラベリング部13から出力されたラベリング画像とL* * * 原画像データから、ラベル領域ごとの特徴量を算出する処理が行われる。図3および図4で説明すると、図4(a)のラベルの付与された画像データがラベル特徴量算出部14に入力され、また図3(a)の画像のL* * * 原画像データも参照されて、図5に示すようなラベルごとの特徴量が算出される。
【0031】
本実施形態では、特徴量として、該当ラベル付与画素数・外接矩形位置・外接矩形サイズ・画素密度(=該当ラベル付与画素数/外接矩形面積)・平均値・分散値・クラス分割値頻度・クラス分割などを算出しているが、他の特徴量を算出して、後述する第1属性判定部16での判定処理に用いても構わない。ラベル特徴量算出部14の詳細については後述する。
【0032】
ラベル特徴量算出部14で算出されたラベルごとの特徴量は、ラベリング部13でラベルの付与されたラベリング画像と共に小領域除去部15に入力され、ラベルごとに算出された領域サイズを所定閾値と比較し、当該閾値以下の領域サイズのラベルを除去する。
【0033】
図4の場合は、閾値を例えば、外接矩形幅=外接矩形高=80とすると、図4(a)のラベリング画像から、ラベル番号4〜ラベル番号Nの領域が除去され、図4(b)のようなラベリング画像が得られる。すなわち、文字と推定される領域を外接矩形サイズから判定し、あらかじめ除去することで、後述の第1属性判定部16での処理を軽くすることができる。
【0034】
小領域除去部15から出力された小領域の除去されたラベルごとの特徴量は、第1属性判定部16に入力され、ラベル領域ごとにその属性、例えば写真・絵柄領域、均一色領域などを判定する。図3および図4の場合、ラベル番号1とラベル番号3は均一色領域、ラベル番号2は絵柄領域と判定される。第1属性判定部16の詳細については後述する。第1属性判定部16から出力されたラベル領域ごとの属性判定結果は、線分補正部17に入力される。
【0035】
一方、L* * * 原画像データは線分抽出部12にも入力され、画像中に含まれる文字や線分が抽出される。そしてこのとき抽出された画素は高レベル、抽出されなかった画素は低レベルとする各画素1ビットの画像信号が出力される。図3の場合、図3(a)の画像から文字や罫線、あるいは絵柄中に存在する線分が抽出され、図3(b)のような画像が得られる。線分抽出部12の詳細については後述する。線分抽出部12から出力された画像信号は線分補正部17に入力される。
【0036】
線分補正部17では、ラベリング部13から入力されるラベリング画像、および第1属性判定部16から入力されるラベル領域ごとの属性判定結果を用いて、線分抽出部12から入力される線分抽出画像の補正を行う。図3および図4の場合、図3(b)の線分抽出画像と、図4(b)の小領域の除去されたラベリング画像、およびラベル領域ごとの属性判定結果から、写真・絵柄領域と判定されたラベル領域に存在する線分は除去し、均一色領域中に存在する線分だけを残すような補正が行われる。その結果、図4(c)のような画像が得られる。線分補正部17の詳細については後述する。線分補正部17から出力される画像データが、像域分離部9で像域分離の行われた画像データとして、データ記憶部2に記憶される。
【0037】
なお、上述した説明では、2値化部11からラベリング部13に、ラベリング部13からラベル特徴量算出部14および線分補正部17に、ラベル特徴量算出部14から小領域除去部15に、小領域除去部15から第1属性判定部16に、第1属性判定部16から線分補正部17に、線分抽出部12から線分補正部17に、画像データや算出した特徴量などが入力されるように説明したが、処理結果をデータ記憶部2に記憶、続いてその処理結果を読み出して次の処理を行うようにしても構わない。
【0038】
2値化部11の詳細について、図6を用いて説明する。図6は、2値化部11の構成の一例を示すブロック図である。本例に係る2値化部11は、シャドー抽出部18、網点抽出部19および論理和演算部20を有する構成となっており、読み出した画像データ(L* * * 原画像データ)のうち、L* 原画像データだけを用いて2値化処理を行う。
【0039】
この2値化部11において、L* 原画像データはシャドー抽出部18と網点抽出部19に入力される。シャドー抽出部18では入力された画像信号から、濃度の濃い領域、例えば黒や青や赤などの文字・線分、あるいは絵柄中でも髪の毛や赤い花や緑の葉など比較的濃度の濃い領域が抽出され、各画素1ビットの画像信号、本例の場合は、抽出された画素は高レベルの信号、抽出されなかった画素は低レベルの信号が出力される。このシャドー抽出部18の詳細については後述する。シャドー抽出部18から出力された画像信号は、論理和演算部20に入力される。
【0040】
また、網点抽出部19では、入力された画像信号から画像中に含まれる網点領域の抽出が行われ、各画素1ビットの画像信号、本例の場合は、抽出された画素は高レベルの信号、抽出されなかった画素は低レベルの信号が出力される。網点抽出部19から出力された画像信号は論理和演算部20に入力される。
【0041】
網点抽出部19としては、本願発明者が既に提案済みの画像処理装置に記載のもの(特開平11−73503号公報参照)を用いることができる。ここではその詳細については記載しないが、概略は、入力画像データの2値化を行い、2値画像データの高レベルとなっている画素(または、低レベルとなっている画素)が、注目画素を中心としたN1×N1(例えば、N1=13)の広範囲領域の中で周期構造をなしているか否かを判定した後、その判定結果に対してN2×N2(例えば、N2=25)の広範囲の領域を用いて網点領域を判定・抽出するというものである。
【0042】
シャドー抽出部18から出力された画像データと、網点抽出部19から出力された画像データは共に論理和演算部20に入力され、それぞれ座標位置の同じ画素単位の論理和演算が行われる。論理和演算部20において、シャドー抽出部18および網点抽出部19からの各出力画像データに対して画素単位に論理和演算を行うことにより、文字や線分などはシャドー抽出部18で抽出された結果と同等の信号が論理和演算部20から出力される。
【0043】
一方、絵柄領域に関しては、その領域の大部分が網点抽出部19によって抽出されるが、髪の毛などの濃度の非常に濃い領域は網点の周期構造が無くなっており、網点抽出部19では抽出できない。しかしながら、そのような濃度の非常に濃い領域は、シャドー抽出部18によって抽出することが可能であるため、論理和演算部20からは絵柄領域全体も抽出された結果が出力される。
【0044】
図7を用いて説明すると、図7(a)のような画像が2値化部11に入力された場合、即ちシャドー抽出部18と網点抽出部19に入力された場合には、図7(b)のような画像がシャドー抽出部18から出力され、また図7(c)のような画像が網点抽出部19から出力される。そして、それぞれの画像が論理和演算部20に入力されることで、図7(d)のような画像が論理和演算部20から出力される。
【0045】
シャドー抽出部18の詳細について、図8を用いて説明する。図8は、シャドー抽出部18の構成の一例を示すブロック図である。図8において、シャドー抽出部18に入力された画像データは、3×3画素平均値算出部21と、5×5画素平均値算出部22に入力される。3×3画素平均値算出部21では、注目画素を中心とした3×3画素の平均値が算出される。この3×3画素平均値算出部21で算出された結果は後述する比較部25に出力され、この比較部25において後述するリミッタ24の出力結果との比較が行われる。
【0046】
5×5画素平均値算出部22では、注目画素を中心とした5×5画素の平均値が算出される。この5×5画素平均値算出部22で算出された結果は加減算部23に送られ、この加減算部23において、経験的に任意に設定されて別途入力される所定値VALUEとの加減算が行われる。加減算部23の演算結果はリミッタ24に出力され、このリミッタ24において、経験的に任意に設定されて別途入力される上限値UPPERと下限値LOWERの間に値が制限される。
【0047】
すなわち、加減算部23の演算結果が上限値UPPERよりも大きいときは当該上限値UPPERが、下限値LOWERよりも小さいときは当該下限値LOWERが、それ以外のときは加減算部23の演算結果がそのままリミッタ24から出力される。リミッタ24からの出力は比較部25に入力され、先述した3×3画素平均値算出部21の演算結果との比較が行われる。そして、3×3画素平均値算出部21の演算結果がリミッタ24からの出力よりも大きいときは高レベルの信号が、小さいかもしくは等しいときは低レベルの信号が出力される。
【0048】
図9は、シャドー抽出部18の構成の他の例を示すブロック図であり、図中、図8と同一の処理を行う処理部分に対しては同一符号を付してある。図9において、シャドー抽出部18に入力された画像データは、3×3画素平均値算出部21、5×5画素平均値算出部22およびセレクタ26に入力される。3×3画素平均値算出部21は、注目画素を中心とした3×3画素の平均値を算出する。この3×3画素平均値算出部21の算出結果は後述する比較部25に出力され、この比較部25において後述するリミッタ24の出力結果との比較が行われる。3×3画素平均値算出部21の算出結果はセレクタ26にも入力される。
【0049】
5×5画素平均値算出部22では、注目画素を中心とした5×5画素の平均値が算出される。この5×5画素平均値算出部22で算出された結果は加減算部23に送られ、この加減算部23において、後述する加減算値演算部27の出力結果との加減算が行われる。加減算部23の演算結果はリミッタ24に出力され、このリミッタ24において、別途入力される上限値UPPERと下限値LOWERの間に値が制限される。5×5画素平均値算出部22の算出結果はセレクタ26にも入力される。
【0050】
セレクタ26では、入力される3×3画素平均値算出部21、5×5画素平均値算出部22および色信号変換部3(図1参照)の出力結果(注目画素値)のいずれか1つを、図示しない外部からの入力信号によって選択し、その結果を加減算値演算部27に入力する。加減算値演算部27では、加減算部23において5×5画素平均値算出部22と加減算する値を、セレクタ26からの出力結果から演算する。
【0051】
すなわち、入力値に対して複数の所定の値を加減乗除することによって出力値を算出する。また、加減算値演算部27はLUT(Look Up Table) で構成することも可能である。この場合、入力値に応じて出力値を比較的自由に設定する(LUTに記憶させておく)ことが可能となる。加減算部23、リミッタ24、比較器25については前述したので、ここでの説明は省略する。
【0052】
上述したように、シャドー抽出部18では3×3画素平均値算出部21の出力結果とリミッタ24の出力結果を比較することにより、濃度の濃い画素は抽出、濃度の薄い画素は非抽出とすることが可能になる。また、注目画素周辺の比較的狭い領域の画素値平均を、それよりも広い領域の画素値の平均に所定の演算を行った値と比較する構成となっているため、文字・線分の細部構造を保存した領域の抽出が可能となっている。
【0053】
2値化部11の他の例について、図10のフローチャートを用いて説明する。本例でも、2値化部11に入力されたL* * * 原画像データのうちL* 原画像データを用いて2値化処理を行う。なお、本例において、L* が小さいほど明るく(白く)、大きいほど暗い(黒い)とする。
【0054】
図10のフローチャートに沿って説明すると、先ず、L* 原画像全体に対してノイズの除去や画像入力時のばらつきを低減するために平滑化処理を行う(ステップS101)。この平滑化処理としては、注目画素を中心とした3×3画素フィルタリング係数を用いたフィルタリング処理で構わない。フィルタリング係数の例として、3×3画素全て1/9などが考えられる。
【0055】
続いて、2値化閾値を決定するために、平滑化処理の行われたL* 画像データから、画素値のヒストグラムを作成する(ステップS102)。生成されたL* 画像データのヒストグラムの例を図11に示す。なお、ここでヒストグラムを作成する際は、全画素のヒストグラムを作成しても構わないし、画素を間引きながらヒストグラムを作成しても構わない。
【0056】
画素値のヒストグラムを作成したら、続いて、作成されたヒストグラムから2値化閾値を決定する。先ず、図11において、所定閾値の画素値TH101以下で最も頻度の多い画素値MAXを検出する(ステップS103)。次に、MAXとTH101の間で最も頻度の少ない画素値VAL1,VAL2を検出する(ステップS104)。
【0057】
次に、ステップS104の検出結果、最も頻度の少ない画素値が複数あった場合には、そのうちの画素値の小さい方(VAL1)を2値化閾値とする(ステップS105)。最後に、ステップS105で求められた2値化閾値VAL1を用いて、L* 原画像データを2値化する(ステップS106)。本例では、L* 画素値が2値化閾値VAL1よりも小さいときには低レベル、等しいかもしくは大きいときには高レベルの信号を出力する。
【0058】
ラベル特徴量算出部14の詳細について説明する。ラベル特徴量算出部14では、ラベル領域ごとの特徴量を算出するが、本例では、特徴量として外接矩形位置・外接矩形サイズ・画素密度(=ラベル付与画素数/外接矩形面積)・平均値・分散値・クラス分割値頻度・クラス分散比を求める。ただし、外接矩形位置・外接矩形サイズ・画素密度・平均値・分散値に関しては周知なのでここでは説明を省略し、クラス分割値頻度・クラス分散比に関してのみ説明する。
【0059】
本例でも、L* * * 原画像データのうちL* 原画像データを用いてラベル特徴量の算出を行う。なお、先にも述べたように、1画素あたりの階調数は8ビット、即ち画素値は0〜255で表されるものとする。以下、クラス分割値頻度・クラス分散比に関して、図12のフローチャートに沿って説明する。
【0060】
先ず、L* 原画像全体に対して、ノイズの除去や画像入力時のばらつきを低減するために平滑化処理を行う(ステップS201)。平滑化処理としては、注目画素を中心とした3×3画素フィルタリング係数を用いたフィルタリング処理で構わない。フィルタリング係数の例としては、3×3画素全て1/9などが考えられる。次いで、特徴量算出のために、平滑化処理の行われたL* 画像データから、ラベルごとに画素値のヒストグラムを作成する(ステップS202)。そして、判別分析法の手法を用いることにより、クラス分割値頻度・クラス分散比を求める。
【0061】
この判別分析法の手法において、先ず、クラス分散比の最大var_max、仮の分割画素値tを初期化する(ステップS203)。次いで、クラス0、即ち画素値が0〜t−1の間の画素数p0、画素値の平均値ave0、画素値の分散var0を計算する(ステップS204)。次いで、クラス1、即ち画素値がt〜255の間の画素数p1、画素値の平均値ave1、画素値の分散var1を計算する(ステップS205)。次いで、対象ラベル領域全体の画素数p、画素値の平均ave、画素謡の分散varを計算する(ステップS206)。
【0062】
次に、下記式(1)を用いて、クラス内分散var_Wを求める(ステップS207)。
var_W=var0×p0/p+var1×p1/p …(1)
次いで、下記式(2)を用いて、クラス間分散var_Bを求める(ステップS208)。
Figure 0003918381
次いで、下記式(3)を用いて、クラス分散比var_Rを求める(ステップS209)。
var_R=var_B/var_W …(3)
【0063】
次に、クラス分散比var_Rとクラス分散比の最大var_maxとを比較し(ステップS210)、クラス分散比var_Rがクラス分散比の最大var_maxよりも小さい場合は、クラス分散比var_Rの値をクラス分散比の最大var_max、仮分割画素値tの値を最大クラス分散比を与える分割画素値t_maxに転記する(ステップS211)。
【0064】
クラス分散比var_Rがクラス分散比の最大var_maxよりも大きいかもしくは等しい場合、またはステップS211を経た後は仮分割画素値tを1増分(t←t+1)する(ステップS212)。そして、仮分割画素値tを256と比較し(ステップS213)、t<256であればステップS204に戻り、t≧256の場合には、ヒストグラムより最大クラス分散比を与える分割画素値t_maxでの頻度、即ちクラス分割値頻度f_maxを求める(ステップS214)。
【0065】
なお、本例では、L* 画像データだけを用いて特徴量を算出しているが、L* * * 画像データを用いて3種類ずつの特徴量を算出したり、あるいは3次元的に特徴量を算出しても構わない。また、ヒストグラムをクラス0とクラス1の2つに分割する特徴量を求めているが、3つ以上に分割する特徴量を求めても良い。
【0066】
第1属性判定部16の詳細について、図13のフローチャートを用いて説明する。第1属性判定部16では、ラベル特徴量算出部14で算出された特徴量を用いて、ラベル領域ごとの属性を判定する。本例では、特徴量として該当ラベル付与画素数・分散値・クラス分割値頻度・クラス分散比を用い、属性として、写真・絵柄領域、均一色領域かを判定するものとする。
【0067】
図13のフローチャートに沿って説明すると、先ず、該当ラベル領域の分散値を、所定の閾値TH201と比較する(ステップS301)。このとき、分散値が閾値TH201よりも大きいかもしくは等しいと判定した場合には、該当ラベル領域のクラス分散比を、所定の閾値TH202と比較する。そして、小さいと判定した場合は、該当ラベル領域の属性を均一色領域と判定する(ステップS303)。
【0068】
ステップS302において、該当ラベル領域のクラス分散比が閾値TH202よりも大きいかもしくは等しいと判定した場合には、該当ラベル領域のクラス分割値頻度を、該当ラベル付与画素数に所定の係数TH203を乗じた値と比較し(ステップS304)、小さいと判定した場合は、該当ラベル領域の属性を写真・絵柄領域と判定する(ステップS305)。
【0069】
ステップS304において、該当ラベル領域のクラス分割値頻度を、該当ラベル付与画素数に係数TH203を乗じた値よりも小さいと判定した場合には、ステップS303に進んで該当ラベル領域の属性を均一色領域と判定し、大きいかもしくは等しいと判定した場合には、ステップS305に進んで該当ラベル領域の属性を写真・絵柄領域と判定する。
【0070】
ステップS303またはS305の処理を経た後は、すべてのラベル領域の属性判定が終了したか否かを判定し(ステップS306)、終了した場合には、第1属性判定部16での処理を終了し、まだ属性判定の行われていないラベル領域が存在する場合には、ステップS301に戻り、上記の一連の判定処理を繰り返す。
【0071】
上述したように、第1属性判定部16では、ラベルごとの分散・クラス分割値頻度・クラス分散比を用いて該当ラベル領域の属性を判定する。すなわち、分散値が小さい場合には、該当ラベル領域がほぼ単一の色で構成されていると考えられることから、均一色領域と判定する。また、分散値が大きくても、クラス分散比が大きく、かつヒストグラムを分割する分割値での頻度が小さい場合には、ヒストグラムの形状が双峰性になっている、すなわち、均一色上に文字・線が書かれている領域と考えられることから、該領域を均一色領域と判定する。それ以外の場合は、写真・絵柄領域と判定する。
【0072】
つぎに、線分抽出部12の詳細について説明する。その構成の一例を示す図14において、線分抽出部12に入力された画像データは、第1縮小部30−1〜第N縮小部30−Nに入力され、画像データの縮小処理が行われる。例えば、第1縮小部30−1では、画像の縦・横方向それぞれ1/2の縮小が行われる。また、第2縮小部30−2では、画像の縦・横方向それぞれ1/4の縮小が行われる。同様にして、第N縮小部30−Nでは、画像の縦・横方向それぞれ1/(2N)の縮小が行われる。第1縮小部30−1〜第N縮小部30−Nにおける画像縮小方式としては、単純間引き法、4点間補間法、16点間補間法、投影法、中央値採用法など、公知の縮小方式で良い。
【0073】
第1縮小部30−1〜第N縮小部30−Nによって縮小された画像データは各々線抽出部31−1〜線抽出部31−Nに入力される。また、線分抽出部12に入力された画像データは、線抽出部31ー0にも入力される。線抽出部31−0〜線抽出部31−Nでは、入力された画像データから所定範囲の幅を有する線分の抽出が行われる。本例の場合は、第1縮小部30−1〜第N縮小部30−Nによって画像データはそれぞれ1/2,1/4,1/6,…,1/(2N)に縮小が行われるため、線抽出部31−0〜線抽出部31−Nでは、1画素および2画素幅の線分を抽出する。線抽出部31−0〜線抽出部31−Nの詳細については後述する。
【0074】
一方、線分抽出部12に入力された画像データは、エッジ抽出部32にも入力される。エッジ抽出部32では画像データ中に含まれるエッジ画素を抽出し、そのエッジ抽出結果は第1拡大部33−1〜第N拡大部33−Nに出力される。エッジ袖出部32の詳細については後述する。
【0075】
線抽出部31−1〜線抽出部31−Nから出力された画像データは各々第1拡大部33−1〜第N拡大部33−Nに入力され、またエッジ抽出部32から出力された画像データも第1拡大部33−1〜第N拡大部33−Nに入力される。第1拡大部33−1〜第N拡大部33−Nでは、エッジ抽出部32から入力された画像データに基づき、線抽出部31−1〜線抽出部31−Nから入力された画像データの拡大処理を行う。第1拡大部33−1〜第N拡大部33−Nでの拡大率は、それぞれ第1縮小部30−1〜第N縮小部30−Nでの縮小率の逆数、即ち本例では縦・横方向共、2,4,6,…,2N値とする。なお、第1拡大部33−1〜第N拡大部33−Nの詳細については後述する。
【0076】
第1拡大部33−1〜第N拡大部33−Nおよび、前述の線抽出部31−0からの出力結果の画像データは論理和演算部34に入力され、画素単位に論理和演算が行われる。論理和演算部34からの出力結果の画像データは、線分抽出部12の出力結果となる。
【0077】
つづいて、線抽出部31−0〜線抽出部31−Nについて説明する。前述したように、本例では、1画素および2画素幅の線分を抽出する処理としているが、このサイズに限らず他の線幅をも抽出する処理としても溝わない。また、ここでの説明では、線抽出部31−0〜線抽出部31−Nはすべて同じ処理であるとして、線抽出部31−0についてのみ説明するが、線抽出部31−0〜線抽出部31−Nをそれぞれ異なる処理として線分抽出するようにしても構わない。図15は、線抽出部31−0の構成の一例を示すブロック図である。
【0078】
図15において、線抽出部31−0に入力された画像信号は、1画素の線幅を持つ横線を検出する1画素横線検出部41、1画素の線幅を持つ縦線を検出する1画素縦線検出部42、1画素の線幅を持つ左上がりの斜線を検出する1画素左斜線検出部43、1画素の線幅を持つ右上がりの斜線を検出する1画素右斜線検出部44、2画素の線幅を持つ横線を検出する2画素横線検出部45、2画素の線幅を持つ縦線を検出する2画素縦線検出部46、2画素の線幅を持つ左上がりの斜線を検出する2画素左斜線検出部47、2画素の線幅を持つ右上がりの斜線を検出する2画素右斜線検出部48に入力される。
【0079】
1画素横線検出部41、1画素縦線検出部42、1画素左斜線検出部43、1画素右斜線検出部44、2画素横線検出部45、2画素縦線検出部46、2画素左斜線検出部47、2画素右斜線検出部48の詳細については後述する。これら検出部41〜48によって検出されたそれぞれ1画素幅の横・縦・左上がりの斜線・右上がりの斜線および、2画素幅の横・縦・左上がりの斜線・右上がりの斜線の検出結果は、論理和演算部49に入力され、画素ごとに検出結果の論理和演算が行われる。そして、この論理和演算部49で行われた論理和演算の結果を線抽出部31−0での線抽出結果として出力する。
【0080】
つぎに、1画素横線検出部41に関して、図16および図17を用いて説明する。図16は、1画素幅の各線検出部で検出する線の種類を説明する図である。1画素横線検出部41は、3×3画素マトリクスを用いて図16(b)に示すような1画素幅の横線を検出する。1画素横線検出部41の構成の一例を示す図17において、入力された画像データは、第1行平均値算出部51、第2行平均値算出部52、第3行平均値算出部53、第2行最小値算出部54、第1行最大値算出部55、第3行最大値算出部56にそれぞれ入力される。
【0081】
第1行平均値算出部51では、3×3画素マトリクスの1行目3画素の画素値の平均、即ち図16(a)に示すA、B、Cの画素値の平均を求める。今後、各画素の画素値をPA ,PB ,PC のように、平均をAVE(PA ,PB ,PC )のように表す。また、第2行平均値算出部52ではAVE(PD 、PE 、PF )を、第3行平均値算出部53ではAVE(PG ,PH ,PI )を求める。
【0082】
第2行最小値算出部54では、D、E、Fの画素値の最小値を求める。今後、複数画素の最小値をMIN(PD ,PE ,PF )のように表す。第1行最大値算出部55では、A,B,Cの画素値の最大値を求める。今後、複数画素の最大値をMAX(PA ,PB ,PC )のように表す。また、第3行最大値算出部56ではMAX(PG ,PH ,PI )を求める。
【0083】
第2行平均値算出部52の演算結果と第1行平均値算出部51の演算結果は共に減算部57−1に入力され、第2行平均値算出部52の演算結果から第1行平均値算出部51の演算結果を減算する処理が行われる。また、第2行平均値算出部52の演算結果と第3行平均値算出部53の演算結果は共に減算部57−2に入力され、第2行平均値算出部52の演算結果から第3行平均値算出部53の演算結果を減算する処理が行われる。
【0084】
減算部57−1での演算結果は比較部58−1に入力されて所定の閾値TH1との比較が行われ、減算部57−1での演算結果の方が閾値TH1よりも大きい場合には高レベルが、等しいかもしくは小さい場合には低レベルが比較部58−1から出力される。また、減算部57−2での演算結果は比較部58−2に入力されて所定の閾値TH1との比較が行われ、減算部57−2での演算結果の方が閾値TH1よりも大きい場合には高レベルが、等しいかもしくは小さい場合には低レベルが比較部58−2から出力される。
【0085】
第2行最小値算出部54での演算結果は比較部58−3に入力されて所定の閾値TH2との比較が行われ、第2行最小値算出部54での演算結果の方が閾値TH2よりも大きい場合には高レベルが、等しいかもしくは小さい場合には低レベルが比較部58−3から出力される。
【0086】
第1行最大値算出部55での演算結果は比較部58−4に入力されて所定の閾値TH3との比較が行われ、第1行最大値算出部55での演算結果の方が閾値TH3よりも小さい場合には高レベルが、大きいかもしくは等しい場合は低レベルが比較部58−4から出力される。また、第3行最大値算出部56での演算結果は比較部58−5に入力されて所定の閾値TH3との比較が行われ、第3行最大値抽出部56での演算結果の方が閾値TH3よりも小さい場合には高レベルが、大きいかもしくは等しい場合には低レベルが比較部58−5から出力される。
【0087】
比較部58−1〜58−5の比較結果は全て論理積演算部59に入力され、この論理積演算部59において比較部58−1〜58−5の比較結果の論理積が演算される。論理積演算部59から出力された結果が1画素横線検出部41の出力結果となり、高レベルの場合は図16(b)に示すような1画素幅の横線があると判定され、逆に低レベルの場合は1画素幅の横線が無いと判定される。
【0088】
すなわち、1画素横線検出部41では、下記式(1)〜(5)がすべて成立するときには、図16(b)に示すような1画素幅の横線があると判定し、図16(a)のD・E・Fに対応する画素値としてそれぞれ高レベルを出力し、逆に式(1)〜式(5)が1つでも成立しないときには、図16(b)に示すような1画素幅の横線は無いと判定し、それぞれ低レベルを出力する。
【0089】
AVE(PD ,PE ,PF )−AVE(PA ,PB ,PC )>TH1… (1)
AVE(PD ,PE ,PF )−AVE(PG ,PH ,PI )>TH1… (2)
MIN(PD ,PE ,PF )>TH2 … (3)
MAX(PA ,PB ,PC )<TH3 … (4)
MAX(PG ,PH ,PI )<TH3 … (5)
【0090】
つぎに、1画素縦線検出部42について説明する。この1画素縦線検出部42は、3×3画素マトリクスを用いて図16(c)に示すような1画素幅の縦線を検出する。図18に、1画素縦線検出部42の構成例を示す。その構成は、図17の1画素横線検出部41に対して、第1行平均値算出部51、第2行平均値算出部52、第3行平均値算出部53、第2行最小値算出部54、第1行最大値算出部55および第3行最大値算出部56が、第1列平均値算出部61、第2列平均値算出部62、第3列平均値算出部63、第2列最小値算出部64、第1列最大値算出部65および第3列最大値算出部66に代わっただけであり、基本的に同じであるためその詳細については説明を省略する。
【0091】
そこで、ここでは、式を用いて説明するものとする。1画素縦線検出部42では、下記式(6)〜式(10)がすべて成立するときは、図16(c)に示すような1画素幅の縦線があると判定し、図16(a)のB・E・Hに対応する画素値としてそれぞれ高レベルを出力し、逆に(式6)〜(式10)が1つでも成立しないときは、図16(c)に示すような1画素幅の縦線は無いと判定し、それぞれ低レベルを出力する。
【0092】
AVE(PB ,PE ,PH )一AVE(PA ,PD ,PG )>TH4… (6)
AVE(PB ,PE ,PH )−AVE(PC ,PF ,PI )>TH4… (7)
MIN(PB ,PE ,PH )>TH5 … (8)
MAX(PA ,PD ,PG )<TH6 … (9)
MAX(PC ,PF ,PI )<TH6 …(10)
【0093】
つぎに、1画素左斜線検出部43について説明する。1画素左斜線検出部43は、3×3画素マトリクスを用いて図16(d)に示すような1画素幅の左上がり斜線を検出する。図19に、1画素縦線検出部42の構成例を示す。その構成は、図17の1画素横線検出部41に対して、第1行平均値算出部51、第2行平均値算出部52、第3行平均値算出部53、第2行最小値算出部54、第1行最大値算出部55および第3行最大値算出部56が、左下3画素平均値算出部71、左上・右下斜め方向3画素平均値算出部72、右上3画素平均値算出部73、左上・右下斜め方向3画素最小値算出部74、左下3画素最大値算出部75および右上3画素最大値算出部76に代わっただけであり、基本的に同じであるためその詳細については説明を省略する。
【0094】
そこで、ここでは、式を用いて説明するものとする。1画素左斜線検出部43では、下記式(11)〜式(15)がすべて成立するときは、図16(d)に示すような1画素幅の左上がり斜線があると判定し、図16(a)のA・E・Iに対応する画素値としてそれぞれ高レベルを出力し、逆に式(11)〜式(15)が1つでも成立しないときは、図16(d)に示すような1画素幅の左上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0095】
AVE(PA ,PE ,PI )−AVE(PD ,PG ,PH )>TH7…(11)
AVE(PA ,PE ,PI )−AVE(PB ,PC ,PF )>TH7…(12)
MIN(PA ,PE ,PI )>TH8 …(13)
MAX(PD ,PG ,PH )<TH9 …(14)
MAX(PB ,PC ,PF )<TH9 …(15)
【0096】
つぎに、1画素右斜線検出部44について説明する。1画素右斜線検出部44は、3×3画素マトリクスを用いて図16(e)に示すような1画素幅の右上がり斜線を検出する。図20に、1画素右斜線検出部44の構成例を示す。その構成は、図17の1画素横線検出部41に対して、第1行平均値算出部51、第2行平均値算出部52、第3行平均値算出部53、第2行最小値算出部54、第1行最大値算出部55および第3行最大値算出部56が、左上3画素平均値算出部81、右上・左下斜め方向3画素平均値算出部82、右下3画素平均値算出部83、右上・左下斜め方向3画素最小値算出部84、左上3画素最大値算出部85および右下3画素最大値算出部86に代わっただけであり、基本的に同じであるためその詳細については説明を省略する。
【0097】
そこで、ここでは、式を用いて説明するものとする。1画素右斜線検出部44では、下記式(16)〜式(20)がすべて成立するときは、図16(e)に示すような1画素幅の右上がり斜線があると判定し、図16(a)のC・E・Gに対応する画素値としてそれぞれ高レベルを出力し、逆に式(16)〜式(20)が1つでも成立しないときは、図16(e)に示すような1画素幅の右上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0098】
AVE(PC ,PE ,PG )−AVE(PA ,PB ,PD )>TH10…(16)
AVE(PC ,PE ,PG )−AVE(PF ,PH ,PI )>TH10…(17)
MIN(PC ,PE ,PG )>TH11 …(18)
MAX(PA ,PB ,PD )<TH12 …(19)
MAX(PF ,PH ,PI )<TH13 …(20)
【0099】
つぎに、2画素横線検出部45に関して、図21および図22を用いて説明する。図21は、2画素幅の各線検出部で検出する線の種類を説明する図である。2画素横線検出部45は、4×4画素マトリクスを用いて図21(b)に示すような2画素幅の横線を検出する。2画素横線検出部45の構成の一例を示す図22において、入力された画像データは、第1行平均値算出部91、第2・3行平均値算出部92、第4行平均値算出部93、第2・3行最小値算出部94、第1行最大値算出部95、第4行最大値算出部96にそれぞれ入力される。
【0100】
第1行平均値算出部91では、4×4画素マトリクスの1行目4画素の画素値の平均、即ち図21(a)に示すJ、K、L、Mの画素値の平均AVE(PJ ,PK ,PL ,PM )を求める。また、第2・3行平均値算出部92ではAVE(PN ,PO ,PP ,PQ ,PR ,PS ,PT ,PU )を、第4行平均値算出部93ではAVE(PV ,PW ,PX ,PY )を求める。
【0101】
第2・3行最小値算出部94では、N,O,P,Q,R,S,T,Uの各画素値の最小値MIN(PN ,PO ,PP ,PQ ,PR ,PS ,PT ,PU )を求める。第1行最大値算出部95では、J,K,L,Mの各画素値の最大値MAX(PJ ,PK ,PL ,PM )を求める。また、第4行最大値算出部96では、MAX(PV ,PW ,PX ,PY )を求める。
【0102】
第2・3行平均値算出部92の演算結果と第1行平均値算出部91の演算結果は共に減算部97−1に入力され、第2・3行平均値算出部92の演算結果から第1行平均値算出部91の演算結果を減算する処理が行われる。また、第2・3行平均値算出部92の演算結果と第4行平均値算出部93の演算結果は共に減算部97−2に入力され、第2・3行平均値算出部92の演算結果から第4行平均値算出部93の演算結果を減算する処理が行われる。
【0103】
減算部97−1での演算結果は比較部98−1に入力されて所定の閾値TH13との比較が行われ、減算部97−1での演算結果の方が閾値TH13よりも大きい場合には高レベルが、等しいかもしくは小さい場合には低レベルが比較部98−1から出力される。また、減算部97−2での演算結果は比較部98−2に入力されて所定の閾値TH13との比較が行われ、減算部97−2での演算結果の方が閾値TH13よりも大きい場合には高レベルが、等しいかもしくは小さい場合には低レベルが比較部98−2から出力される。
【0104】
第2・3行最小値算出部94での演算結果は比較部98−3に入力されて所定の閾値TH14との比較が行われ、第2・3行最小値算出部94での演算結果の方が閾値TH14よりも大きい場合には高レベルが、等しいかもしくは小さい場合には低レベルが比較部98−3から出力される。
【0105】
第1行最大値算出部95での演算結果は比較部98−4に入力されて所定の閾値TH15との比較が行われ、第1行最大値算出部95での演算結果の方が閾値TH15よりも小さい場合には高レベルが、大きいかもしくは等しい場合には低レベルが比較部98−4から出力される。また、第4行最大値算出部96での演算結果は比較部98−5に入力されて所定の閾値TH15との比較が行われ、第4行最大値算出部96での演算結果の方が閾値TH15よりも小さい場合には高レベルが、大きいかもしくは等しい場合には低レベルが比較部98−5から出力される。
【0106】
比較部98−1〜98−5の比較結果は全て論理積演算部99に入力され、この論理積演算部99において比較部98−1〜98−5の比較結果の論理積が演算される。論理積演算部99から出力された結果が2画素横線検出部45の出力結果となり、高レベルの場合は図21(b)に示すような2画素幅の横線があると判定され、逆に低レベルの場合は2画素幅の横線が無いと判定される。
【0107】
すなわち、2画素横線検出部45では、下記式(21)〜式(25)がすべて成立するときは、図21(b)に示すような2画素幅の横線があると判定し、図21(a)のN・O・P・Q・R・S・T・Uに対応する画素値としてそれぞれ高レベルを出力し、逆に式(21)〜式(25)が1つでも成立しないときは、図21(b)に示すような2画素幅の横線は無いと判定し、それぞれ低レベルを出力する。
【0108】
Figure 0003918381
【0109】
つぎに、2画素縦線検出部46について説明する。2画素縦線検出部46は、4×4画素マトリクスを用いて図21(c)に示すような2画素幅の縦線を検出する。
【0110】
図23に、2画素縦線検出部46の構成例を示す。その構成は、図22の2画素横線検出部45に対して、第1行平均値算出部91、第2・3行平均値算出部92、第4行平均値算出部93、第2・3行最小値算出部94、第1行最大値算出部95および第4行最大値算出部96が、第1列平均値算出部101、第2・3列平均値算出部102、第4列平均値算出部103、第2・3列最小値算出部104、第1列最大値算出部105および第4列最大値算出部106に代わっただけであり、基本的に同じであるためその詳細については説明を省略する。
【0111】
そこで、ここでは、式を用いて説明するものとする。2画素縦線検出部46では、下記式(26)〜式(30)がすべて成立するときは、図21(c)に示すような2画素幅の縦線があると判定し、図21(a)のK・L・O・P・S・T・W・Xに対応する画素値としてそれぞれ高レベルを出力し、逆に式(26)〜式(30)が1つでも成立しないときは、図21(c)に示すような2画素幅の縦線は無いと判定し、それぞれ低レベルを出力する。
【0112】
Figure 0003918381
【0113】
つぎに、2画素左斜線検出部47について説明する。2画素左斜線検出部47は、4×4画素マトリクスを用いて図21(d)に示すような2画素幅の左上がりの斜線を検出する。
【0114】
図24に、2画素左斜線検出部47の構成例を示す。その構成は、図22の2画素横線検出部45に対して、第1行平均値算出部91、第2・3行平均値算出部92、第4行平均値算出部93、第2・3行最小値算出部94、第1行最大値算出部95および第4行最大値算出部96が、左下3画素平均値算出部111、左上・右下斜方向10画素平均値算出部112、右上3画素平均値算出部113、左上・右下斜方向10画素最小値算出部114、左下3画素最大値算出部115および右上3画素最大値算出部116に代わっただけであり、基本的に同じであるためその詳細については説明を省略する。
【0115】
そこで、ここでは、式を用いて説明するものとする。2画素左斜線検出部47では、下記式(31)〜式(35)がすべて成立するときは、図21(d)に示すような2画素幅の左上がりの斜線があると判定し、図21(a)のJ・K・N・O・P・S・T・U・X・Yに対応する画素値としてそれぞれ高レベルを出力し、逆に式(31)〜式(35)が1つでも成立しないときは、図21(d)に示すような2画素幅の左上がりの斜線は無いと判定し、それぞれ低レベルを出力する。
【0116】
Figure 0003918381
【0117】
つぎに、2画素右斜線検出部48について説明する。2画素右斜線検出部48は、4×4画素マトリクスを用いて図21(e)に示すような2画素幅の右上がりの斜線を検出する。
【0118】
図25に、2画素右斜線検出部48の構成例を示す。その構成は、図22の2画素横線検出部45に対して、第1行平均値算出部91、第2・3行平均値算出部92、第4行平均値算出部93、第2・3行最小値算出部94、第1行最大値算出部95および第4行最大値算出部96が、左上3画素平均値算出部121、右上・左下斜方向10画素平均値算出部122、右下3画素平均値算出部123、右上・左下斜方向10画素最小値算出部124、左上3画素最大値算出部125および右下3画素最大値算出部126に代わっただけであり、基本的に同じであるためその詳細については説明を省略する。
【0119】
そこで、ここでは、式を用いて説明するものとする。2画素右斜線検出部48では、下記式(36)〜式(40)がすべて成立するときは、図21(e)に示すような2画素幅の右上がりの斜線があると判定し、図21(a)のL・M・O・P・Q・R・S・T・V・Wに対応する画素値としてそれぞれ高レベルを出力し、逆に式(36)〜式(40)が1つでも成立しないときは、図21(e)に示すような2画素幅の右上がりの斜線は無いと判定し、それぞれ低レベルを出力する。
【0120】
Figure 0003918381
【0121】
つづいて、線抽出部31−0〜線抽出部31−Nの他の例について説明する。前述したように、本実施形態では、1画素および2画素幅の線分を抽出する処理としているが、このサイズに限らず他の線幅をも抽出する処理としても構わない。また、ここでの説明では、線抽出部31−0〜線抽出部31−Nはすべて同じ処理であるとして、線抽出部31−0についてのみ説明するが、線抽出部31−0〜線抽出部31−Nをそれぞれ異なる処理として線を抽出しても構わない。図26は、線抽出部31−0の構成の他の例を示すブロック図である。
【0122】
図26において、線抽出部31−0に入力された画像信号は、1画素の線幅を持つ横線を検出する1画素横線左検出部131と1画素横線右検出部132、1画素の線幅を持つ縦線を検出する1画素縦線上検出部133と1画素縦線下検出部134、1画素の線幅を持つ左上がりの斜線を検出する1画素左斜線上検出部135と1画素左斜線下検出部136、1画素の線幅を持つ右上がりの斜線を検出する1画素右斜線上検出部137と1画素右斜線下検出部138、2画素の線幅を持つ横線を検出する2画素横線左検出部139と2画素横線右検出部140、2画素の線幅を持つ縦線を検出する2画素縦線上検出部141と2画素縦線下検出部142、2画素の線幅を持つ左上がりの斜線を検出する2画素左斜線上検出部143と2画素左斜線下検出部144、2画素の線幅を持つ右上がりの斜線を検出する2画素右斜線上検出部145と2画素右斜線下検出部146にそれぞれ入力される。
【0123】
1画素横線左検出部131、1画素横線右検出部132、1画素縦線上検出部133、1画素縦線下検出部134、1画素左斜線上検出部135、1画素左斜線下検出部136、1画素右斜線上検出部137、1画素右斜線下検出部138、2画素横線左検出部139、2画素横線右検出部140、2画素縦線上検出部141、2画素縦線下検出部142、2画素左斜線上検出部143、2画素左斜線下検出部144、2画素右斜線上検出部145、2画素右斜線下検出部146の詳細については後述する。
【0124】
これら検出部131〜146によって検出されたそれぞれ1画素幅の横・縦・左上がりの斜線、右上がりの斜線および、2画素幅の横・縦・左上がりの斜線、右上がりの斜線の検出結果は、論理和演算部147に入力され、画素ごとに検出結果の論理和演算が行われる。そして、この論理和演算部147で行われた論理和演算の結果を線抽出部31−0での線抽出結果として出力する。
【0125】
つぎに、1画素横線左検出部131に関して図16を用いて説明する。1画素横線左検出部131は、3×3画素マトリクスを用いて図16(f)に示すような1画素幅の横線を検出する。今、3×3画素を図16(a)に示すようにA〜Iで呼ぶこととし、それぞれの画素値をPA 〜PI とする。このとき、1画素横線左検出部131では、下記式(41)〜式(45)がすべて成立するときは、図16(f)に示すような1画素幅の横線があると判定し、図16(a)のD・Eに対応する画素値としてそれぞれ高レベルを出力し、逆に式(41)〜式(45)が1つでも成立しないときは、図16(f)に示すような1画素幅の横線は無いと判定し、それぞれ低レベルを出力する。
【0126】
AVE(PD ,PE )−AVE(PA ,PB )>TH41 …(41)
AVE(PD ,PE )−AVE(PG ,PH )>TH41 …(42)
MIN(PD ,PE )>TH42 …(43)
MAX(PA ,PB )<TH43 …(44)
MAX(PG ,PH )<TH43 …(45)
なお、ここで、AVE( ),MIN( ),MAX( )はそれぞれ、( )内の画素値の平均値、最小値、最大値を表す。またTH41〜TH44はそれぞれ、あらかじめ定められた所定の閾値とする。
【0127】
1画素横線左検出部131で上記のような処理を行うこととすることにより、図16(b)に図示したような横線の検出も可能であり、また横線の右端の検出も可能となる。
【0128】
つぎに、1画素横線右検出部132に関して図16を用いて説明する。1画素横線右検出部132は、3×3画素マトリクスを用いて図16(j)に示すような1画素幅の横線を検出する。この1画素横線右検出部132では、下記式(46)〜式(50)がすべて成立するときは、図16(j)に示すような1画素幅の横線があると判定し、図16(a)のE・Fに対応する画素値としてそれぞれ高レベルを出力し、逆に式(46)〜式(50)が1つでも成立しないときは、図16(j)に示すような1画素幅の横線は無いと判定し、それぞれ低レベルを出力する。
【0129】
AVE(PE ,PF )−AVE(PB ,PC )>TH44 …(46)
AVE(PE ,PF )−AVE(PH ,PI )>TH44 …(47)
MIN(PE ,PF )>TH45 …(48)
MAX(PB ,PC )<TH46 …(49)
MAX(PH ,PI )<TH46 …(50)
【0130】
つぎに、1画素縦線上検出部133に関して図16を用いて説明する。1画素縦線上検出部133は、3×3画素マトリクスを用いて図16(g)に示すような1画素幅の縦線を検出する。1画素縦線検出部133では、下記式(51)〜式(55)がすべて成立するときは、図16(g)に示すような1画素幅の縦線があると判定し、図16(a)のB・Eに対応する画素値としてそれぞれ高レベルを出力し、逆に式(51)〜式(55)が1つでも成立しないときは、図16(g)に示すような1画素幅の縦線は無いと判定し、それぞれ低レベルを出力する。
【0131】
AVE(PB ,PE )−AVE(PA ,PD )>TH47 …(51)
AVE(PB ,PE )−AVE(PC ,PF )>TH47 …(52)
MIN(PB ,PE )>TH48 …(53)
MAX(PA ,PD )<TH49 …(54)
MAX(PC ,PF )<TH49 …(55)
【0132】
つぎに、1画素縦線下検出部134に関して図16を用いて説明する。1画素縦線下検出部134は、3×3画素マトリクスを用いて図16(k)に示すような1画素幅の縦線を検出する。1画素縦線検出部134では、下記式(56)〜式(60)がすべて成立するときは、図16(k)に示すような1画素幅の縦線があると判定し、図16(a)のE・Hに対応する画素値としてそれぞれ高レベルを出力し、逆に式(56)〜式(60)が1つでも成立しないときは、図16(k)に示すような1画素幅の縦線は無いと判定し、それぞれ低レベルを出力する。
【0133】
AVE(PE ,PH )−AVE(PD 、PG )>TH50 …(56)
AVE(PE ,PH )−AVE(PF ,PI )>TH50 …(57)
MIN(PE ,PH )>TH51 …(58)
MAX(PD ,PG )<TH52 …(59)
MAX(PF ,PI )<TH52 …(60)
【0134】
つぎに、1画素左斜線上検出部135に関して図16を用いて説明する。1画素左斜線上検出部135は、3×3画素マトリクスを用いて図16(h)に示すような1画素幅の左上がり斜線を検出する。この1画素左斜線上検出部135では、下記式(61)〜式(65)がすべて成立するときは、図16(h)に示すような1画素幅の左上がり斜線があると判定し、図16(a)のA・Eに対応する画素値としてそれぞれ高レベルを出力し、逆に式(61)〜式(65)が1つでも成立しないときは、図16(h)に示すような1画素幅の左上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0135】
AVE(PA ,PE )−AVE(PD ,PG ,PH )>TH53 …(61)
AVE(PA ,PE )−AVE(PB ,PC ,PF )>TH53 …(62)
MIN(PA ,PE )>TH54 …(63)
MAX(PD ,PG ,PH )<TH55 …(64)
MAX(PB ,PC ,PF )<TH55 …(65)
【0136】
つぎに、1画素左斜線下検出部136に関して図16を用いて説明する。1画素左斜線下検出部136は、3×3画素マトリクスを用いて図16(l)に示すような1画素幅の左上がり斜線を検出する。この1画素左斜線下検出部136では、下記式(66)〜式(70)がすべて成立するときは、図16(l)に示すような1画素幅の左上がり斜線があると判定し、図16(a)のE・Iに対応する画素値としてそれぞれ高レベルを出力し、逆に式(66)〜式(70)が1つでも成立しないときは、図16(l)に示すような1画素幅の左上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0137】
AVE(PE ,PI )−AVE(PD ,PG ,PH )>TH56 …(66)
AVE(PE ,PI )−AVE(PB ,PC ,PF )>TH56 …(67)
MIN(PE ,PI )>TH57 …(68)
MAX(PD ,PG ,PH )<TH58 …(69)
MAX(PB ,PC ,PF )<TH58 …(70)
【0138】
つぎに、1画素右斜線上検出部137に関して図16を用いて説明する。1画素右斜線上検出部137は、3×3画素マトリクスを用いて図16(i)に示すような1画素幅の右上がり斜線を検出する。この1画素右斜線上検出部137では、下記式(71)〜式(75)がすべて成立するときは、図16(i)に示すような1画素幅の右上がり斜線があると判定し、図16(a)のC・Eに対応する画素値としてそれぞれ高レベルを出力し、逆に式(71)〜式(75)が1つでも成立しないときは、図16(i)に示すような1画素幅の右上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0139】
AVE(PC ,PE )−AVE(PA ,PB ,PD )>TH59 …(71)
AVE(PC ,PE )−AVE(PF ,PH ,PI )>TH59 …(72)
MIN(PC ,PE )>TH60 …(73)
MAX(PA ,PB ,PD )<TH61 …(74)
MAX(PF ,PH ,PI )<TH61 …(75)
【0140】
つぎに、1画素右斜線下検出部138に関して図16を用いて説明する。1画素右斜線下検出部138は、3×3画素マトリクスを用いて図16(m)に示すような1画素幅の右上がり斜線を検出する。この1画素右斜線下検出部138では、下記式(76)〜式(80)がすべて成立するときは、図16(m)に示すような1画素幅の右上がり斜線があると判定し、図16(a)のE・Gに対応する画素値としてそれぞれ高レベルを出力し、逆に式(76)〜式(80)が1つでも成立しないときは、図16(m)に示すような1画素幅の右上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0141】
AVE(PE ,PG )−AVE(PA ,PB ,PD )>TH62 …(76)
AVE(PE ,PG )−AVE(PF ,PH ,PI )>TH62 …(77)
MIN(PE ,PG )>TH63 …(78)
MAX(PA ,PB ,PD )<TH64 …(79)
MAX(PF ,PH ,PI )<TH64 …(80)
【0142】
つぎに、2画素横線左検出部139に関して、図21を用いて説明する。2画素横線左検出部139は、4×4画素マトリクスを用いて図21(f)に示すような2画素幅の横線を検出する。今、4×4画素を図21(a)に示すようにJ〜Yで呼ぶこととし、それぞれの画素値をPJ 〜PY とする。この2画素横線左検出部139では、下記式(81)〜式(85)がすべて成立するときは、図21(f)に示すような2画素幅の横線があると判定し、図21(a)のN・O・P・R・S・Tに対応する画素値としてそれぞれ高レベルを出力し、逆に式(81)〜式(85)が1つでも成立しないときは、図21(f)に示すような2画素幅の横線は無いと判定し、それぞれ低レベルを出力する。
【0143】
Figure 0003918381
【0144】
つぎに、2画素横線右検出部180に関して図21を用いて説明する。2画素横線右検出部180は、4×4画素マトリクスを用いて図21(j)に示すような2画素幅の横線を検出する。この2画素横線右検出部180では、下記式(86)〜式(90)がすべて成立するときは、図21(j)に示すような2画素幅の横線があると判定し、図21(a)のO・P・Q・S・T・Uに対応する画素値としてそれぞれ高レベルを出力し、逆に式(86)〜式(90)が1つでも成立しないときは、図21(j)に示すような2画素幅の横線は無いと判定し、それぞれ低レベルを出力する。
【0145】
Figure 0003918381
【0146】
つぎに、2画素縦線上検出部181に関して図21を用いて説明する。2画素縦線上検出部181は、4×4画素マトリクスを用いて図21(g)に示すような2画素幅の縦線を検出する。この2画素縦線上横出部181では、下記式(91)〜式(95)がすべて成立するとき、図21(g)に示すような2画素幅の縦線があると判定し、図21(a)のK・L・O・P・S・Tに対応する画素値としてそれぞれ高を出力し、逆に式(91)〜式(95)が1つでも成立しないときは、図16(g)に示すような2画素幅の縦線は無いと判定し、それぞれ低レベルを出力する。
【0147】
Figure 0003918381
【0148】
つぎに、2画素縦線下検出部182に関して図21を用いて説明する。2画素縦線下検出部182は、4×4画素マトリクスを用いて図21(k)に示すような2画素幅の縦線を検出する。この2画素縦線下検出部182では、下記式(96)〜式(100)がすべて成立するときは、図21(k)に示すような2画素幅の縦線があると判定し、図21(a)のO・P・S・T・W・Xに対応する画素値としてそれぞれ高レベルを出力し、逆に式(96)〜式(100)が1つでも成立しないときには、図21(k)に示すような2画素幅の縦線は無いと判定し、それぞれ低レベルを出力する。
【0149】
Figure 0003918381
【0150】
つぎに、2画素左斜線上検出部183に関して図21を用いて説明する。2画素左斜線上横出部183は、4×4画素マトリクスを用いて図21(h)に示すような2画素幅の左上がり斜線を検出する。この2画素左斜線上検出部183では、下記式(101)〜式(105)がすべて成立するときには、図21(h)に示すような2画素幅の左上がり斜線があると判定し、図21(a)のJ・K・N・O・P・S・Tに対応する画素値としてそれぞれ高レベルを出力し、逆に式(101)〜式(105)が1つでも成立しないときは、図21(h)に示すような2画素幅の左上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0151】
Figure 0003918381
【0152】
つぎに、2画素左斜線下検出部184に関して図21を用いて説明する。2画素左斜線下検出部184は、4×4画素マトリクスを用いて図21(l)に示すような2画素幅の左上がり斜線を検出する。この2画素左斜線下検出部184では、下記式(106)〜式(110)がすべて成立するときには、図21(l)に示すような2画素幅の左上がり斜線があると判定し、図21(a)のO・P・S・T・U・X・Yに対応する画素値としてそれぞれ高レベルを出力し、逆に式(106)〜式(110)が1つでも成立しないときは、図21(l)に示すような2画素幅の左上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0153】
Figure 0003918381
【0154】
つぎに、2画素右斜線上検出部185に関して図21を用いて説明する。2画素右斜線上検出部185は、4×4画素マトリクスを用いて図21(i)に示すような2画素幅の右上がり斜線を検出する。この2画素右斜線上検出部185では、下記式(111)〜式(115)がすべて成立するときには、図21(i)に示すような2画素幅の右上がり斜線があると判定し、図21(a)のL・M・O・P・Q・S・Tに対応する画素値としてそれぞれ高レベルを出力し、逆に式(111)〜式(115)が1つでも成立しないときは、図21(i)に示すような2画素幅の右上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0155】
Figure 0003918381
【0156】
最後に、2画素右斜線下検出部186に関して図21を用いて説明する。2画素右斜線下検出部186は、4×4画素マトリクスを用いて図21(m)に示すような2画素幅の右上がり斜線を検出する。この2画素右斜線下検出部186では、下記式(116)〜式(120)がすべて成立するときには、図21(m)に示すような2画素幅の右上がり斜線があると判定し、図21(a)のO・P・R・S・T・V・Wに対応する画素値としてそれぞれ高レベルを出力し、逆に式(116)〜式(120)が1つでも成立しないときは、図21(m)に示すような2画素幅の右上がり斜線は無いと判定し、それぞれ低レベルを出力する。
【0157】
Figure 0003918381
【0158】
図27は、エッジ抽出部32の構成の一例を示すブロック図である。図27において、エッジ抽出部32に入力された画像データは、3×3フィルタ演算部151と浮動2値化部153に入力される。3×3フィルタ演算部151に入力された画像データは、あらかじめ設定された3×3フィルタ係数とのフィルタリング処理が行われて、その演算結果は比較部152に出力される。上記3×3フィルタ係数としては、エッジ部を強調するものが望まく、一例として、図28に記載したようなフィルタ係数が挙げられる。
【0159】
比較部152に入力された3×3フィルタ演算部151の演算結果は、あらかじめ設定された閾値TH30との比較演算が行われ、3×3フィルタ演算部151の演算結果が閾値TH30より大きい場合は高レベルの信号が、等しいかもしくは小さい場合には低レベルの信号が出力される。比較部152からの出力信号は論理積演算部155に入力される。
【0160】
一方、浮動2値化部153に入力された画像データは、浮動2値化処理が行われる。そして、その処理結果は5×5排他的論理和演算部154に入力される。浮動2値化部153の詳細ついては後述する。
【0161】
5×5排他的論理和演算部154に入力された画像データは、注目画素を中心とした5×5画素の排他的論理和演算が行われる。すなわち、5×5=25画素すべてが高レベルの信号もしくは低レベルの信号のときは低レベルの信号が、1画素でも異なるときは高レベルの信号が演算結果として得られる。5×5排他的論理和演算部154の演算結果は、論理積演算部155に入力される。そして、論理和演算部155において、比較部152からの出力信号と論理積演算部155からの出力信号とが画素ごとに論理積演算され、その演算結果がエッジ抽出部32の出力結果として出力される。
【0162】
浮動2値化部153の詳細について、同じく図27を用いて説明する。浮動2値化部153に入力された画像データは、比較部159と、3×3平均値演算部156に入力される。3×3平均値演算部156では、注目画素を中心とした3×3画素値の平均値が計算され、その結果は加算部157に出力される。加算部157に入力された3×3平均値演算結果は、あらかじめ設定された加算値Vallとの加算演算が行われ、その結果はリミット処理部158に出力される。
【0163】
リミット処理部158にはあらかじめ上限および下限のリミット値が設定されており、加算部157から入力された演算結果を、上記上限および下限のリミット値の範囲に制限する。すなわち、加算部157から入力された演算結果が上限リミット値よりも大きい場合には上限リミット値を、下限リミット値よりも小さい場合には下限リミット値を、そのどちらでもない場合には加算部157から入力された演算結果を、リミット処理部158の演算結果として出力する。
【0164】
リミット処理部158から出力された演算結果は比較部159に入力され、他方比較部159に入力された画像データ、即ち浮動2値化部153に入力された画像データとの比較演算が行われる。浮動2値化部153に入力された画像データが比較部159の演算結果よりも大きい場合は高レベルの信号が、等しいかもしくは小さい場合には低レベルの信号が出力される。比較部152からの出力信号は5×5排他的論理和演算部154に入力される。
【0165】
なお、エッジ抽出部32における処理については、上記説明した処理以外にも公知の技術を用いるようにしても構わないが、線分などの輪郭をできるだけ忠実に抽出する処理が望ましい。
【0166】
つづいて、第1拡大部33−1〜第N拡大部33−Nの詳細について、図29および図30を用いて説明する。なお、第1拡大部33−1〜第N拡大部33−Nはそれぞれほぼ同様の処理を行うので、ここでは第1拡大部33−1を例にとって説明する。図29は第1拡大部33−1での処理内容を説明する図であり、図30は第1拡大部33−1での拡大条件判定を説明する図である。
【0167】
第1拡大部33−1には、線抽出部33ー1で線抽出の行われた画像データとエッジ抽出部32でエッジ抽出の行われた画像データが入力される。線抽出部31−1から出力される画像データは、本例の場合、元の画像データ、即ち線分抽出部12に入力された画像データと比較して縦・横それぞれ1/2に縮小されているため、第1拡大部33−1では入力された線抽出部31−1で線抽出の行われた画像データを縦・横それぞれ2倍に拡大する処理を行う。
【0168】
しかしながら、線抽出部31−1で線抽出の行われた画像データに対して単純に拡大処理を行うと、階段状のがたついた結果となってしまう。これを図29を用いて説明すると、図29(e)のような画像が線分抽出部12に入力された場合、線抽出部31−1では図29(a)のような抽出結果が得られる。これを単純に縦・横それぞれ2倍に拡大する処理を行うと、図29(c)のような結果となるが、これは図29(e)と比較して階段状のがたつきが大きい結果となり、入力画像に忠実な線分抽出となっていない。
【0169】
そこで、第1拡大部33−1では、エッジ抽出部32でエッジ抽出の行われた画像データを参照しながら、線抽出部31−1で線抽出の行われた画像データに対して拡大処理を行う。その際、図30に記載のような条件判定により第1拡大部33−1からの出力を決定する。例えば、線抽出部31ー1から入力された画像データのある画素が低レベル(LOW)の場合、第1拡大部33−1からの出力は2×2画素すべて低レベルとなる。
【0170】
一方、線抽出邸31−1から入力された画像データのある画素が高レベル(HIGH)の場合は、前記画素の周辺画素の値、およびエッジ抽出部32からの入力値により条件判定を行い、第1拡大部33−1からの出力が決定される。上記のような条件判定によって線抽出部31−1で線抽出の行われた画像データの拡大処理を行うことにより、図29(a)のような線抽出部31−1からの入力画像データと、図29(b)のようなエッジ抽出部32からの入力画像データに基づいて、図29(d)のような拡大処理の行われた画像データが得られる。
【0171】
線分補正部17の詳細について、図31のフローチャートを用いて説明する。線分補正部17では、ラベリング部13から入力されるラベリング画像と、第1属性判定部16から入力されるラベルごとの属性判定結果から、線分抽出部12から入力される線分抽出画像を画素単位に補正する。
【0172】
図31のフローチャートに沿って説明すると、最初に、ラベリング画像から対象画素に付与されたラベル番号を調べる(ステップS401)。そして、ラベル番号の有無の判定を行い(ステップS402)、付与されていた場合は、ラベルごとの属性判定結果から該ラベル番号の属性を調べ(ステップS403)、属性の判定を行う(ステップS404)。その属性が写真・絵柄領域の場合には、注目画素が線分抽出部12で抽出されている場合でも、抽出結果を補正する。すなわち、注目画素は線分ではないとして、線分補正部17の補正結果として注目画素を低レベル(LOW)とする(ステップS405)。
【0173】
一方、ステップS402で対象画素にラベル番号が付与されていないと判定した場合、又はステップS404で注目画素の属性が均一色領域であると判定した場合は、線分抽出部12の抽出結果を用いる(ステップS406)。すなわち、線分抽出結果が低レベルの場合は低レベルを、高レベルの場合には均一色領域中に書かれた文字・線分と判定し、線分補正部17の補正結果として注目画素を低レベルとする。
【0174】
ステップS405又はステップS406の処理の終了後、1つの画素の補正が終了したので、注目画素を次の画素に移す(ステップS407)。次いで、全画素に対して補正処理が終了したか否かを判定し(ステップS408)、終了した場合には線分補正部17での処理を終了し、補正処理の終了していない画素が存在する場合にはステップSS401へ戻って上述した処理を繰り返す。そして、この線分補正部17から出力される画像を、像域分離部9から出力される像域分離画像とする。
【0175】
上述したように、本発明の第1実施形態に係る像域分離部9によれば、2値化画像に対してラベリングを行い、ラベル領域ごとに特徴量を算出し、その算出した特徴量からラベル領域の属性を判定して入力画像から抽出した線分を補正する構成としたことにより、文字・線画・写真・網点等の混在した画像に対して、入力画像に忠実に文字・線画を抽出し、かつ写真・絵柄領域中での誤抽出の無い、高精度な像域分離処理を行うことができるため、良好な再生画像を得ることが可能となる。
【0176】
次に、本発明の第2実施形態に係る像域分離部9について図面を参照しながら説明する。なお、以下の説明の中で、第1実施形態の説明と処理内容が同様の処理部に関しては同一番号を付加し、その説明を省略する。
【0177】
図32は、本発明の第2実施形態に係る像域分離部9の構成を示すブロック図である。図32において、2値化部11は、データ記憶部2に記憶されている画像データ(解像度400dpi、各画素8ビットのL* * * 画像信号)を読み出し、2値化処理を行う。以降、この画像データのことをL* * * 原画像と呼ぶ。なお、L* * * 原画像は、後述する線分抽出部12、ラベル特徴量算出部14−1、14−2およびエッジ抽出部61からも読み出される。
【0178】
2値化部11では、読み出された画像データ(L* * * 原画像)から、前景領域、例えば白背景上の文字・線分、着色された領域、あるいは写真・絵柄領域などを抽出し、抽出した画素は高レベル、抽出しなかった画素は低レベルとする、各画素1ビットの画像信号が出力される。2値化部11の詳細については既に説明しているので、ここでの説明は省略する。
【0179】
図33〜図35を例にとると、図33(a)の画像が2値化部11に入力されたとすると、図33(b)のように2値化された画像が出力される。2値化部11から出力された2値画像信号は、ラベリング部13−1に入力され、連結する抽出画素の領域ごとに1つのラベルが付与される。
【0180】
ラベリングの方法としては公知の技術で構わない。図33で説明すると、図33(b)の2値化画像がラベリング部13−1に入力され、図33(c)のようにラベル番号P1からラベル番号Pnまでのラベルが付与される。なお、以降、連結領域ごとにラベルの付与された画像をラベリング画像と称し、さらにラベリング部13−1で得られたラベリング画像を以降、親ラベリング画像と呼び、またそれぞれのラベル領域を親ラベル領域と呼ぶこととする。
【0181】
ラペリング部13−1から出力された親ラベリング画像は、ラベル特徴量算出部14−1と線分補正部17に入力される。ラベル特徴算出部14−1では、ラベリング部13−1から出力された親ラベリング画像と、L* * * 原画像から、親ラベル領域ごとの特徴量が算出される。
【0182】
図33で説明すると、図33(c)のラベルの付与された親ラベリング画像がラベル特徴算出部14−1に入力され、また図33(a)のL* * * 原画像データも参照されて、親ラベルごとの特徴量が算出される。なお、本実施形態では、特徴量として、該当ラベル付与画素数・外接矩形位置・外接矩形サイズ・画素密度(=該当ラベル付与画素数/外接矩形面積)・平均値・分散値・クラス分割値頻度・クラス分割などを算出しているが、他の特徴量を算出して、後述する第2属性判定部65での判定処理に用いても構わない。
【0183】
ラベル特徴算出部14−1の詳細についてはラベル特徴量算出部14と同様なので、その説明は省略する。ラベル特徴算出部14−1で算出された親ラベルごとの特徴量は、ラベリング部13−1でラベルの付与された親ラベリング画像と共に小領域除去部15−1に入力され、親ラベルごとに算出された領域サイズを所定閾値と比較し、閾値以下の領域サイズの親ラベルを除去する。
【0184】
図33の場合、閾値を例えば、外接矩形幅=外接矩形高=80とすると、図33(c)の親ラベリング画像から、ラベル番号P4〜ラベル番号Pnの領域が除去され、図33(d)のような親ラベリング画像が得られる。すなわち、文字と推定される領域を外接矩形サイズから判定し、あらかじめ除去することで、後段の各種処理部での処理を軽くすることができる。小領域抽出部15−1で小領域の除去された親ラベリング画像は、後述するエッジ・線分除去部63および包含関係判定部64に入力される。
【0185】
一方、エッジ抽出部61は、データ記憶部2に記憶されているL* * * 原画像データのうちL* 原画像を読み込み、エッジ抽出処理を行う。エッジ抽出部61におけるエッジ抽出処理は公知の技術で構わず、例えば注目画素を中心として3×3画素サイズのフィルタリング処理を行い、その演算結果を所定の閾値と比較して、閾値より大きいかまたは等しいときはエッジと判定して高レベルの信号を出力し、閾値よりも小さい場合は非エッジと判定して低レベルの信号を出力する。
【0186】
なお、3×3フィルタ係数としては、その一例として、中心が8、周囲が−1の係数などが挙げられる。図33および図34で説明すると、図33(a)の原画像から、図34(a)のエッジ抽出画像が得られる。エッジ抽出部61から出力されたエッジ抽出画像は、画像合成部62に入力される。
【0187】
また、線分抽出部12も、データ記憶部2に記憶されているL* * * 原画像のうちL* 原画像を読み込み、線分抽出処理を行う。線分抽出部12の詳細については既に説明したので省略するが、図33および図34で説明すると、図33(a)の原画像から、図34(b)の線分抽出画像が得られる。線分抽出部12から出力された線分抽出画像も、画像合成部62に入力される。
【0188】
画像合成部62には、エッジ抽出部61と線分抽出部12から、エッジ抽出画像と線分抽出画像が入力され、同じ座標位置の画素同士の論理和が演算され、膨張処理部66に出力される。膨張処理部66では、画像合成部63から入力されたエッジ抽出画像と線分抽出画像の論理和画像に対して、注目画素を中心としたN×Nのサイズでの膨張処理を行う。すなわち、注目画素を中心とするN×Nの範囲に1つでも高レベルの画素が存在すれば高レベルの信号を、すべて低レベルの画素の場合のみ低レベルの信号を、注目画素に対する新たな信号として出力する。
【0189】
ここで膨張処理を行う理由は、この後、後述のエッジ・線分除去部63でエッジ・線分を除去し、その画像に対してラベリング、特徴量抽出をするが、エッジ・線分の周辺画素は、画像入力時にエッジ・線分の影響を受けやすく、正確な特徴量を得ることが困難である。そこであらかじめエッジ・線分抽出領域を膨張、その膨張領域を除去することにより、エッジ・線分の影響を受けない正確な特徴量を得ることが可能となる。したがって、膨張処理部66で膨張処理を行うサイズNは、エッジ・線分の影響を除去できる程度、例えばN=5程度のサイズで良い。
【0190】
図34で説明すると、図34(a)のエッジ抽出画像と図34(b)の線分抽出画像から合成、膨張処理を行うことにより、図34(c)の画像が得られる。エッジ・線分除去部63には、小領域除去部15−1によって小領域の除去された親ラベリング画像と、膨張処理部66から出力されたエッジ・線分合成画像が膨張された画像入力され、親ラベリング画像からエッジ・線分合成画像の膨張された画像の高レベルの画素が除去される。
【0191】
すなわち、エッジ・線分合成画像の膨張された画像の注目画素が高レベルの場合、親ラペリング画像から同一座標位置にあるラベル番号を除去し、付与ラベル無しとする。図33および図34で説明すると、図33(d)の小領域除去された親ラベリング画像から、図34(c)のエッジ・線分合成画像が除去され、図34(d)のエッジ・線分除去ラペリング画像が得られる。エッジ・線分の除去された親ラベリング画像はラベリング部13−2に入力される。
【0192】
ラベリング部13−2では、小領域除去部15−1にて小領域が除去され、かつエッジ・線分除去部63にてエッジ・線分の除去された親ラベリング画像に対して、連結する領域に対して同一ラベルを付与するように、再度ラベリング処理を行う。ここでのラベリング処理も公知の技術を用いて構わない。ここで得られたラベリング画像を以降、子ラベリング画像と呼ぶこととする。
【0193】
図34および図35で説明すると、図34(d)の小領域およびエッジ・線分の除去された画像に対し再度ラベリングを行い、図35(a)のラベル番号C1からラベル番号Cmまでのラベルが付与された子ラベリング画像が得られる。なお、図35(a)にはラベル番号C1からラベル番号Cm以外の小さいラベル領域、たとえば“8”の文字の線で囲まれた2箇所の円形領域なども存在するが、図35(a)ではラベル番号の表示は省略している。
【0194】
ラベリング部13−2によってラベリングされた子ラベリング画像は、ラベル特徴量算出部14−2に入力される。ラベル特徴量算出部14−2では、ラベリング部13−2から子ラベリング画像が入力されるとともに、画像記憶部2からL* * * 原画像データを読み出し、子ラベルごとの特徴量が算出される。ラベル特徴算出部14−2の詳細についても、ラベル特徴量算出部14と同様なのでその説明は省略する。
【0195】
ラベル特徴算出部14−2で算出された子ラベル領域ごとの特徴量は、ラベリング部13−2でラベルの付与された子ラベリング画像と共に小領域除去部15−2に入力され、子ラベルごとに算出された領域サイズを所定閾値と比較し、閾値以下の領域サイズの子ラベルを除去する。図35(a)の場合は、ラベル番号の記述が省略された微小領域が小領域除去部15−2で除去される領域に相当する。なお、小領域除去の方法は、前述の小領域除去部15−1と同様で構わないが、小領域と判定する閾値は、小領域除去部15−1のときよりも小さい方が望ましい。
【0196】
小領域除去のなされた子ラベリング画像は、包含関係判定部64と第1属性判定部16に入力される。包含関係判定部64には、小領域除去部15−1で小領域の除去された親ラベリング画像と、小領域除去部15−2で小領域の除去された子ラベリング画像が入力され、その包含関係、即ちどの親ラベル領域が分割されて、どの子ラベル領域が生成されているのかが判定される。
【0197】
また、図示してはいないが、包含関係判定部64にラベル特徴量算出部14−2,14−2で算出したラベル特徴量を入力して、包含関係判定処理を効率化することも可能である。包含関係判定部64において判定された親ラベル領域と子ラベル領域の包含関係は第2属性判定部65に入力される。包含関係判定部64の詳細は後述する。
【0198】
一方、ラベル特徴算出部14−2において算出された子ラベル領域ごとの特徴量は第1属性判定部16に入力され、算出された特徴量を用いて、子ラベル領域ごとの属性を判定する。本実施形態では、特徴量として該当ラベル付与画素数・分散値・クラス分割値頻度・クラス分散比を用い、属性として写真・絵柄領域、均一色領域かを判定する。
【0199】
なお、第1属性判定部16の詳細については既に説明しているので、ここでの説明は省略するが、子ラベル領域ごとにラベル特徴算出部14−2で特徴量を算出、第1属性判定部16で属性を判定することで、例えば、それぞれのセルの色が異なる表などが存在した場合、罫線でセルが区切られているため、セルの1つ1つが子ラベル領域となり、セル単位で特徴量算出・属性判定を行うことになるため、高精度な属性判定が可能となる。
【0200】
また、罫線が無いような表などでも、セル同士の境界はエッジ抽出部61で抽出することができ、同様にセルの1つ1つが子ラベル領域となり、セル単位で特徴量算出・属性判定を行うことが可能となる。第1属性判定部16で判定された子ラベルに対する属性判定結果は、第2属性判定部65に入力される。
【0201】
第2属性判定部65では、包含関係判定部64から入力された親ラベル領域と子ラベル領域の包含関係と、第1属性判定部16から入力された子ラベル領域に対する属性判定結果とを用いて、親ラベル領域の属性を判定する。本実施形態では、属性として写真・絵柄領域、均一色領域かを判定する。第2属性判定部65での親ラベルに対する属性判定結果は、線分補正部17に入力される。第2属性判定部65の詳細は後述する。
【0202】
線分補正部17では、ラベリング部13−1から入力される親ラペリング画像と、第2属性判定部65から入力される親ラベルごとの属性判定結果から、線分抽出部12から入力される線分抽出画像を画素単位に補正する。線分補正部17の詳細に関しては前述しているので詳しい説明は省略するが、簡単に述べると、写真・絵柄領域と判定された親ラベル領域に含まれる線分は削除し、それ以外の線分はそのままにする。線分補正部17から出力される画像は、像域分離部9から出力される画像として、画像記憶部2に記憶される。
【0203】
包含関係判定部64の詳細について、図33〜図35および図36を用いて説明する。包含関係判定部64には、小領域除去部15−1から出力された親ラベリング画像と、小領域除去部15−2から出力された子ラベリング画像が入力され、親ラベル領域と子ラベル領域の包含関係が判定される。
【0204】
すなわち、子ラベル領域の全画素が、親ラベル領域に含まれているときは、親ラベル領域と子ラベル領域は包含関係が有ると判定する。図33(d)と図35(a)の場合は、子ラベル番号C1の子ラベル領域は、親ラベル番号P1の親ラベル領域に含まれると判定される。同様に、子ラベル番号C14〜Cmの子ラベル領域は、親ラベル番号P2の親ラベル領域に含まれ、子ラベル番号C2〜C13の子ラベル領域は、親ラベル番号P3の親ラベル領域に含まれると判定され、図36に示すような判定結果テーブルが作成される。なお、図36中のNULLは、それ以上含まれる子ラベル領域が無いことを示す。
【0205】
包含関係判定部64で判定された包含関係判定結果は、第2属性判定部65に出力される。この第2属性判定部65の詳細について図37を用いて説明する。第2属性判定部65には、包含関係判定部64から包含関係判定結果が、第1属性判定部16から子ラベル領域の属性判定結果が入力され、親ラベル領域の属性が判定される。
【0206】
第2属性判定部65では、親ラベル領域に含まれる複数の子ラベル領域の属性をみて、写真・絵柄領域と判定されている子ラベル領域の個数が所定の閾値以上のとき、親ラベル領域を写真・絵柄領域と判定、閾値未満の場合は、均一色領域と判定する。ただし、親ラベル領域に含まれる子ラベル領域が1つの場合は、親ラベル領域の属性判定結果は子ラベル領域の属性判定結果と同一とする。また、親ラベル領域が子ラベル領域を1つも含まないときは、親ラベル領域を均一色領域と判定する。
【0207】
図37の場合、閾値=2としたとき、親ラベル番号がP1の親ラベル領域は、子ラベル番号がC1の子ラベル領域を1つだけ含み、かつそれが均一色領域であるため、親ラベル番号P1の親ラベル領域を均一色領域と判定する。また、親ラベル番号がP2の親ラベル領域は、子ラベル番号がC14〜Cmの子ラベル領域を含み、写真・絵柄領域の個数が2個であるため、親ラベル番号P2の親ラベル領域を写真・絵柄領域と判定する。また、子ラベル番号がC2〜C13の子ラベル領域を含み、写真・絵柄領域の個数が1個であるため、親ラベル番号P3の親ラベル領域を均一色頓域と判定する。
【0208】
なお、上記の説明では、写真・絵柄領域の子ラベル領域の個数を閾値と比較して親ラベル領域の属性を判定するとしたが、子ラベル領域の個数に対する写真・絵柄領域判定の子ラベル領域の個数の割合を閾値と比較する方法もある。第2属性判定部65から出力された親ラベル領域の属性判定結果は、線分補正部17に入力される。
【0209】
上述したように、本発明の第2実施形態に係る像域分離部9によれば、2値化画像に対してラベリングを行って親ラベリング画像を作成し、当該親ラベリング画像から小領域やエッジ・線分を除去した後の画像に対して再度ラベリングを行って子ラベリング画像を作成し、さらに子ラベル領城ごとに特徴量を算出し、その特徴量から該領域の属性を判定するとともに、親ラベル領域と子ラベル領域の包含関係から親ラベルの属性を判定して入力画像から抽出した線分を補正する構成としたことにより、文字・線画・写真・網点等の混在した画像に対して、入力画像に忠実に文字・線画を抽出し、かつ写真・絵柄領域中での誤抽出の無い、高精度な像域分離処理を行うことができるため、良好な再生画像を得ることが可能となる。
【0210】
なお、上記第2実施形態では、線分抽出部12に加えてエッジ抽出部61をも具備し、これら抽出部12,61で抽出した線分とエッジを画像合成部62で合成し、この合成した線分およびエッジの双方をエッジ・線分除去部63で2値化画像データから除去する構成としたが、画像合成部62で線分とエッジを合成せずに、エッジのみを2値化画像データから除去する構成や、エッジ抽出部61を設けずに線分のみを2値化画像データから除去する構成などを採ることも可能である。
【0211】
【発明の効果】
以上説明したように、本発明によれば、文字・線画・写真・網点等の混在した画像に対して、領域ごとに適した再現処理を行って画像を出力する際に、白背景のみならず、均一色背景中においても、入力画像に忠実に文字・線画を抽出し、かつ写真・絵柄領域中での誤抽出の無い、高精度な画域分離処理を行うことができるため、品質の高い画像を得ることができる。
【図面の簡単な説明】
【図1】 本発明に係る画像処理装置の基本的な構成を示すブロック図である。
【図2】 本発明の第1実施形態に係る像域分離部の構成を示すブロック図である。
【図3】 第1実施形態に係る像域分離部における処理過程での画像変化を示す図(その1)である。
【図4】 第1実施形態に係る像域分離部における処理過程での画像変化を示す図(その2)である。
【図5】 ラベルごとの特徴量を示す図である。
【図6】 2値化部の構成の一例を示すブロック図である。
【図7】 2値化部での画像変化を示す図である。
【図8】 シャドー抽出部の構成の一例を示すブロック図である。
【図9】 シャドー抽出部の構成の他の例を示すブロック図である。
【図10】 2値化部の他の例に係る処理の流れを示すフローチャートである。
【図11】 L* 画像データのヒストグラムを示す図である。
【図12】 ラベル特徴量算出部での処理の流れを示すフローチャートである。
【図13】 第1属性部での処理の流れを示すフローチャートである。
【図14】 線分抽出部の構成の一例を示すブロック図である。
【図15】 線抽出部の構成の一例を示すブロック図である。
【図16】 1画素幅の線抽出部で検出する線の種類を説明する図である。
【図17】 1画素横線検出部の構成の一例を示すブロック図である。
【図18】 1画素縦線検出部の構成の一例を示すブロック図である。
【図19】 1画左斜線検出部の構成の一例を示すブロック図である。
【図20】 1画右斜線検出部の構成の一例を示すブロック図である。
【図21】 2画素幅の線抽出部で検出する線の種類を説明する図である。
【図22】 2画素横線検出部の構成の一例を示すブロック図である。
【図23】 2画素縦線検出部の構成の一例を示すブロック図である。
【図24】 2画左斜線検出部の構成の一例を示すブロック図である。
【図25】 2画右斜線検出部の構成の一例を示すブロック図である。
【図26】 線抽出部の構成の他の例を示すブロック図である。
【図27】 エッジ抽出部の構成の一例を示すブロック図である。
【図28】 フィルタ係数の一例を示す図である。
【図29】 第1拡大部での処理内容を説明する図である。
【図30】 第1拡大部での拡大条件判定を説明する図である。
【図31】 線分補正部での処理の流れを示すフローチャートである。
【図32】 本発明の第2実施形態に係る像域分離部の構成を示すブロック図である。
【図33】 第2実施形態に係る像域分離部における処理過程での画像変化を示す図(その1)である。
【図34】 第2実施形態に係る像域分離部における処理過程での画像変化を示す図(その2)である。
【図35】 第2実施形態に係る像域分離部における処理過程での画像変化を示す図(その3)である。
【図36】 包含関係判定部における親ラベル領域と子ラベル領域の関係の一例を説明する図である。
【図37】 第2属性部の子ラベル領域属性から親ラベル領域属性の判定を説明する図である。
【図38】 従来技術に係る像域分離部の構成の一例を示すブロック図である。
【符号の説明】
1…画像入力部、2…データ記憶部、3…演算処理部、5…階調補正部、6…色信号変換部、8…画像出力部、9…像域分離部、11…2値化部、12…線分抽出部、13,13−1,13−2…ラベリング部、14,14−1,14−2…ラベル特徴量算出部、15,1−1,15−2…小領域抽出部、16…第1属性判定部、17…線分補正部、61…エッジ抽出部、62…画像合成部、63…エッジ・線分除去部、64…包含関係判定部、65…第2属性判定部

Claims (32)

  1. 画像データを入力する入力手段と、
    前記入力手段によって入力された画像データに対して前景と背景を分離する処理を行う2値化手段と、
    前記入力手段によって入力された画像データに対して所定画素数分の幅の線分を抽出する線分抽出手段と、
    前記2値化手段によって前景とされた連結する画素に対して同一のラベルを付与する第1ラベリング手段と、
    前記第1ラベリング手段において同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第1ラベル特徴量算出手段と、
    前記第1ラベル特徴量算出手段によって算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する第1属性判定手段と、
    前記第1ラベリング手段によってラベリングされたラベル領域ごとの前記第1属性判定手段による属性判定結果を用いて、前記線分抽出手段によって抽出された線分の補正を行う線分補正手段と
    を具備することを特徴とする画像処理装置。
  2. 画像データを入力する入力手段と、
    前記入力手段によって入力された画像データに対して前景と背景を分離する処理を行う2値化手段と、
    前記入力手段によって入力された画像データに対して所定画素数分の幅の線分を抽出する線分抽出手段と、
    前記2値化手段によって前景とされた連結する画素に対して同一のラベルを付与する第1ラベリング手段と、
    前記第1ラベリング手段において同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第1ラベル特徴量算出手段と、
    前記2値化手段によって2値化された画像データから、前記線分抽出手段によって抽出された線分を除去する線分除去手段と、
    前記2値化手段によって前景とされた画素でかつ前記線分除去手段によって線分の除去された連結する画素に対して同一のラベルを付与する第2ラベリング手段と、
    前記第2ラベリング手段において同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第2ラベル特徴量算出手段と、
    前記第2ラベル特徴量算出手段によって算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する第属性判定手段と、
    前記第1ラベリング手段によってラベリングされたラベル領域と前記第2ラベリング手段によってラベリングされたラベル領域のそれぞれの包含関係を判定する包含関係判定手段と、
    前記第属性判定手段による属性判定結果と前記包含関係判定手段による包含判定結果とから、前記第1ラベリング手段によってラベリングされたラベル領域の属性を判定する第属性判定手段と
    前記第1ラベリング手段によってラベリングされたラベル領域ごとの前記第2属性判定手段による属性判定結果を用いて、前記線分抽出手段によって抽出された線分の補正を行う線分補正手段と
    具備することを特徴とする画像処理装置。
  3. 画像データを入力する入力手段と、
    前記入力手段によって入力された画像データに対して前景と背景を分離する処理を行う2値化手段と、
    前記入力手段によって入力された画像データに対して所定画素数分の幅の線分を抽出する線分抽出手段と、
    前記2値化手段によって前景とされた連結する画素に対して同一のラベルを付与する第1ラベリング手段と、
    前記第1ラベリング手段において同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第1ラベル特徴量算出手段と、
    前記入力手段によって入力された画像データに対してエッジを抽出するエッジ抽出手段と、
    前記2値化手段によって2値化された画像データから、前記エッジ抽出手段によって抽出されたエッジを除去するエッジ除去手段と、
    前記2値化手段によって前景とされた画素でかつ前記エッジ除去手段によってエッジの除去された連結する画素に対して同一のラベルを付与する第2ラベリング手段と、
    前記第2ラベリング手段において同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第2ラベル特徴量算出手段と、
    前記第2ラベル特徴量算出手段によって算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する第属性判定手段と、
    前記第1ラベリング手段によってラベリングされたラベル領域と前記第2ラベリング手段によってラベリングされたラベル領域のそれぞれの包含関係を判定する包含関係判定手段と、
    前記第属性判定手段による属性判定結果と前記包含関係判定手段による包含判定結果とから、前記第1ラベリング手段によってラベリングされたラベル領域の属性を判定する第属性判定手段と
    前記第1ラベリング手段によってラベリングされたラベル領域ごとの前記第2属性判定手段による属性判定結果を用いて、前記線分抽出手段によって抽出された線分の補正を行う線分補正手段と
    を具備することを特徴とする画像処理装置。
  4. 画像データを入力する入力手段と、
    前記入力手段によって入力された画像データに対して前景と背景を分離する処理を行う2値化手段と、
    前記入力手段によって入力された画像データに対して所定画素数分の幅の線分を抽出する線分抽出手段と、
    前記2値化手段によって前景とされた連結する画素に対して同一のラベルを付与する第1ラベリング手段と、
    前記第1ラベリング手段において同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第1ラベル特徴量算出手段と、
    前記入力手段によって入力された画像データに対してエッジを抽出するエッジ抽出手段と、
    前記線分抽出手段によって抽出された線分と前記エッジ抽出手段によって抽出されたエッジとを合成する画像合成手段と、
    前記2値化手段によって2値化された画像データから、前記画像合成手段によって合成されたエッジと線分とを除去するエッジ・線分除去手段と、
    前記2値化手段によって前景とされた画素でかつ前記エッジ・線分除去手段によってエッジおよび線分の除去された連結する画素に対して同一のラベルを付与する第2ラベリング手段と、
    前記第2ラベリング手段において同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第2ラベル特徴量算出手段と、
    前記第2ラベル特徴量算出手段によって算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する第属性判定手段と、
    前記第1ラベリング手段によってラベリングされたラベル領域と前記第2ラベリング手段によってラベリングされたラベル領域のそれぞれの包含関係を判定する包含関係判定手段と、
    前記第属性判定手段による属性判定結果と前記包含関係判定手段による包含判定結果とから、前記第1ラベリング手段によってラベリングされたラベル領域の属性を判定する第属性判定手段と
    前記第1ラベリング手段によってラベリングされたラベル領域ごとの前記第2属性判定手段による属性判定結果を用いて、前記線分抽出手段によって抽出された線分の補正を行う線分補正手段と
    具備することを特徴とする画像処理装置。
  5. 前記第1ラベル特徴量算出手段によって算出されたラベル領域ごとのラベル特徴量から、所定サイズ以下のラベル領域を除去する第1小領域除去手段をさらに具備し、
    前記第1属性判定手段は、前記第1小領域除去手段によって除去されなかったラベル領域の属性を判定する
    ことを特徴とする請求項1〜請求項4のいずれかに記載の画像処理装置。
  6. 前記第1小領域除去手段は、前記第1ラベル特徴量算出手段によって算出されたラベル領域サイズを所定サイズと比較し、ラベル領域サイズが所定サイズ以下の領域を除去する
    ことを特徴とする請求項5記載の画像処理装置。
  7. 前記第2ラベル特徴量算出手段によって算出されたラベル領域ごとのラベル特徴量から、所定サイズ以下のラベル領域を除去する第2小領域除去手段をさらに具備し、
    前記第2属性判定手段は、前記第2小領域除去手段によって除去されなかったラベル領域の属性を判定する
    ことを特徴とする請求項2〜請求項4のいずれかに記載の画像処理装置。
  8. 前記第2小領域除去手段によって除去する領域サイズは、前記第1小領域除去手段によって除去する領域サイズと比較して、等しいかもしくは小さい
    ことを特徴とする請求項7記載の画像処理装置。
  9. 前記画像合成手段によって合成して得られる抽出領域を所定サイズ分だけ膨張処理する膨張処理手段をさらに具備し、
    前記エッジ・線分除去手段は、前記膨張処理手段によって膨張処理された抽出領域を除去する
    ことを特徴とする請求項4〜請求項8のいずれかに記載の画像処理装置。
  10. 前記第1ラベル特徴量算出手段は、少なくともラベル領域の画素値のクラス分割値およびクラス分散比を算出する
    ことを特徴とする請求項1〜請求項9のいずれかに記載の画像処理装置。
  11. 前記第1ラベル特徴量算出手段は、少なくともラベル領域の画素値の分散を算出する
    ことを特徴とする請求項1〜請求項9のいずれかに記載の画像処理装置。
  12. 前記第1ラベル特徴量算出手段は、少なくともラベル領域のサイズを算出する
    ことを特徴とする請求項1〜請求項9のいずれかに記載の画像処理装置。
  13. 前記第2ラベル特徴量算出手段は、少なくともラベル領域の画素値の分散を算出する
    ことを特徴とする請求項7〜請求項9のいずれかに記載の画像処理装置。
  14. 前記第2ラベル特徴量算出手段は、少なくともラベル領域のサイズを算出する
    ことを特徴とする請求項7〜請求項9のいずれかに記載の画像処理装置。
  15. 前記第1属性判定手段は、判定結果として少なくとも写真・絵柄領域および均一色領域を含む
    ことを特徴とする請求項1〜請求項14のいずれかに記載の画像処理装置。
  16. 前記第2属性判定手段は、判定結果として少なくとも写真・絵柄領域および均一色領域を含む
    ことを特徴とする請求項2〜請求項14のいずれかに記載の画像処理装置。
  17. 前記第1属性判定手段は、判定対象ラベル領域の分散を用いて、判定対象ラベル領域が写真・絵柄領域あるいは均一色領域かを判定する
    ことを特徴とする請求項1〜請求項15のいずれかに記載の画像処理装置。
  18. 前記第1属性判定手段は、判定対象ラベル領域のクラス分割値およびクラス分散比を用いて、判定対象ラベル領域が写真・絵柄領域あるいは均一色領域かを判定する
    ことを特徴とする請求項1〜請求項17のいずれかに記載の画像処理装置。
  19. 前記包含関係判定手段は、前記第2ラベリング手段によってラベリングされた領域が、前記第1ラベリング手段によってラベリングされた領域に包含されるときに包含有りと判定する
    ことを特徴とする請求項2〜請求項18のいずれかに記載の画像処理装置。
  20. 前記第属性判定手段は、前記包含関係判定手段によって包含されると判定された領域のうち、所定閾値以上の領域が写真・絵柄ラベル領域の場合に、包含する領域も写真・絵柄ラベル領域であると判定する
    ことを特徴とする請求項2〜請求項19のいずれかに記載の画像処理装置。
  21. 前記第属性判定手段は、前記包含関係判定手段によって包含されると判定された領域のうち、所定閾値以上の割合の領域が写真・絵柄ラベル領域の場合に、包含する領域も写真・絵柄ラベル領域であると判定する
    ことを特徴とする請求項2〜請求項20のいずれかに記載の画像処理装置。
  22. 前記第属性判定手段は、前記第2小領域除去手段によって除去されなかったラベル領域の属性を判定する
    ことを特徴とする請求項7〜請求項21のいずれかに記載の画像処理装置。
  23. 前記2値化手段は、前記入力手段によって入力さた画像データに対して濃度の濃い領域を抽出するシャドー抽出手段と、網点で構成された領域を抽出する網点抽出手段と、前記シャドー抽出手段および前記網点抽出手段の各抽出結果を画素ごとに論理和演算する論理和演算手段とを有する
    ことを特徴とする請求項1〜請求項22のいずれかに記載の画像処理装置。
  24. 前記2値化手段は、前記入力手段によって入力さた画像データに対して画素値のヒストグラムを作成するヒストグラム作成手段と、前記ヒストグラム作成手段によって作成されたヒストグラムより2値化閾値を決定する2値化閾値決定手段とを有し、前記2値化閾値決定手段によって決定された2値化閾値を用いて、前記入力手段によって入力さた画像データの2値化を行う
    ことを特徴とする請求項1〜請求項22のいずれかに記載の画像処理装置。
  25. 前記線分補正手段は、対象画素の属性が写真・絵柄領域の場合は前記線分抽出手段による線分抽出結果を補正し、対象画素の属性が均一色領域の場合は前記線分抽出手段による線分抽出結果を補正結果とする
    ことを特徴とする請求項1〜請求項24のいずれかに記載の画像処理装置。
  26. 入力された画像データに対して前景と背景を分離する処理を行う2値化ステップと、
    入力された画像データに対して所定画素数分の幅の線分を抽出する線分抽出ステップと、
    前記2値化ステップで前景とされた連結する画素に対して同一のラベルを付与する第1ラベリングステップと、
    前記第1ラベリングステップにおいて同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第1ラベル特徴量算出ステップと、
    前記第1ラベル特徴量算出ステップで算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する第1属性判定ステップと、
    前記第1ラベリングステップでラベリングされたラベル領域ごとの前記第1属性判定ステップでの属性判定結果を用いて、前記線分抽出ステップで抽出された線分の補正を行う線分補正ステップと
    を有することを特徴とする画像処理方法。
  27. 入力された画像データに対して前景と背景を分離する処理を行う2値化ステップと、
    入力された画像データに対して所定画素数分の幅の線分を抽出する線分抽出ステップと、
    前記2値化ステップで前景とされた連結する画素に対して同一のラベルを付与する第1ラベリングステップと、
    前記第1ラベリングステップにおいて同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第1ラベル特徴量算出ステップと、
    前記2値化ステップで2値化された画像データから、前記線分抽出ステップで抽出された線分を除去する線分除去ステップと、
    前記2値化ステップで前景とされた画素でかつ前記線分除去ステップで線分の除去された連結する画素に対して同一のラベルを付与する第2ラベリングステップと、
    前記第2ラベリングステップにおいて同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第2ラベル特徴量算出ステップと、
    前記第2ラベル特徴量算出ステップで算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する第属性判定ステップと、
    前記第1ラベリングステップでラベリングされたラベル領域と前記第2ラベリングステップでラベリングされたラベル領域のそれぞれの包含関係を判定する包含関係判定ステップと、
    前記第属性判定ステップでの属性判定結果と前記包含関係判定ステップでの包含判定結果とから、前記第1ラベリングステップでラベリングされたラベル領域の属性を判定する第2属性判定ステップと
    前記第1ラベリングステップでラベリングされたラベル領域ごとの前記第2属性判定ステップでの属性判定結果を用いて、前記線分抽出ステップで抽出された線分の補正を行う線分補正ステップと
    を有することを特徴とする画像処理方法。
  28. 入力された画像データに対して前景と背景を分離する処理を行う2値化ステップと、
    入力された画像データに対して所定画素数分の幅の線分を抽出する線分抽出ステップと、
    前記2値化ステップで前景とされた連結する画素に対して同一のラベルを付与する第1ラベリングステップと、
    前記第1ラベリングステップにおいて同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第1ラベル特徴量算出ステップと、
    入力された画像データに対してエッジを抽出するエッジ抽出ステップと、
    前記2値化ステップで2値化された画像データから、前記エッジ抽出ステップで抽出されたエッジを除去するエッジ除去ステップと、
    前記2値化ステップで前景とされた画素でかつ前記エッジ除去ステップでエッジの除去された連結する画素に対して同一のラベルを付与する第2ラベリングステップと、
    前記第2ラベリングステップにおいて同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第2ラベル特徴量算出ステップと、
    前記第2ラベル特徴量算出ステップで算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する第属性判定ステップと、
    前記第1ラベリングステップでラベリングされたラベル領域と前記第2ラベリングステップでラベリングされたラベル領域のそれぞれの包含関係を判定する包含関係判定ステップと、
    前記第属性判定ステップでの属性判定結果と前記包含関係判定ステップでの包含判定結果とから、前記第1ラベリングステップによってラベリングされたラベル領域の属性を判定する第2属性判定ステップと
    前記第1ラベリングステップでラベリングされたラベル領域ごとの前記第2属性判定ステップでの属性判定結果を用いて、前記線分抽出ステップで抽出された線分の補正を行う線分補正ステップと
    を有することを特徴とする画像処理方法。
  29. 入力された画像データに対して前景と背景を分離する処理を行う2値化ステップと、
    入力された画像データに対して所定画素数分の幅の線分を抽出する線分抽出ステップと、
    前記2値化ステップで前景とされた連結する画素に対して同一のラベルを付与する第1ラベリングステップと、
    前記第1ラベリングステップにおいて同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第1ラベル特徴量算出ステップと、
    入力された画像データに対してエッジを抽出するエッジ抽出ステップと、
    前記線分抽出ステップで抽出された線分と前記エッジ抽出ステップで抽出されたエッジとを合成する画像合成ステップと、
    前記2値化ステップで2値化された画像データから、前記画像合成ステップで合成されたエッジと線分とを除去するエッジ・線分除去ステップと、
    前記2値化ステップで前景とされた画素でかつ前記エッジ・線分除去ステップでエッジおよび線分の除去された連結する画素に対して同一のラベルを付与する第2ラベリングステップと、
    前記第2ラベリングステップにおいて同一ラベルが付与されたラベル領域ごとに、該ラベル領域の画像特徴量を算出する第2ラベル特徴量算出ステップと、
    前記第2ラベル特徴量算出ステップで算出されたラベル領域ごとのラベル特徴量から該ラベル領域の属性を判定する第2属性判定ステップと、
    前記第1ラベリングステップでラベリングされたラベル領域と前記第2ラベリングステップでラベリングされたラベル領域のそれぞれの包含関係を判定する包含関係判定ステップと、
    前記第属性判定ステップでの属性判定結果と前記包含関係判定ステップでの包含判定結果とから、前記第1ラベリングステップでラベリングされたラベル領域の属性を判定する第2属性判定ステップと
    前記第1ラベリングステップでラベリングされたラベル領域ごとの前記第2属性判定ステップでの属性判定結果を用いて、前記線分抽出ステップで抽出された線分の補正を行う線分補正ステップと
    を有することを特徴とする画像処理方法。
  30. 前記第2ラベル特徴量算出ステップで算出されたラベル領域ごとのラベル特徴量から、所定サイズ以下のラベル領域を除去する小領域除去ステップをさらに有し、
    前記第2属性判定ステップでは、前記小領域除去ステップで除去されなかったラベル領域の属性を判定する
    ことを特徴とする請求項27〜請求項29のいずれかに記載の画像処理方法。
  31. 前記第1ラベリングステップでラベリングされた領域ごとに画像特徴量を算出する第2ラベル特徴量算出ステップと、
    前記第2ラベル特徴量算出ステップで算出されたラベル領域サイズを所定サイズと比較し、ラベル領域サイズが所定サイズ以下の領域を除去する第2小領域除去ステップとをさらに有する
    ことを特徴とする請求項26〜請求項31のいずれかに記載の画像処理方法。
  32. 前記画像合成ステップで合成して得られる抽出領域を所定サイズ分だけ膨張処理する膨張処理ステップをさらに有し、
    前記エッジ・線分除去ステップでは、前記膨張処理ステップで膨張処理された抽出領域を除去する
    ことを特徴とする請求項29〜請求項31のいずれかに記載の画像処理方法。
JP30182299A 1999-10-25 1999-10-25 画像処理装置および画像処理方法 Expired - Fee Related JP3918381B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP30182299A JP3918381B2 (ja) 1999-10-25 1999-10-25 画像処理装置および画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30182299A JP3918381B2 (ja) 1999-10-25 1999-10-25 画像処理装置および画像処理方法

Publications (3)

Publication Number Publication Date
JP2001127999A JP2001127999A (ja) 2001-05-11
JP2001127999A5 JP2001127999A5 (ja) 2004-12-24
JP3918381B2 true JP3918381B2 (ja) 2007-05-23

Family

ID=17901592

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30182299A Expired - Fee Related JP3918381B2 (ja) 1999-10-25 1999-10-25 画像処理装置および画像処理方法

Country Status (1)

Country Link
JP (1) JP3918381B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4720968B2 (ja) * 2001-09-26 2011-07-13 日本電気株式会社 傷検出方法及び傷検出装置
JP2008252862A (ja) * 2007-03-05 2008-10-16 Ricoh Co Ltd 画像処理装置、画像処理方法及び画像処理プログラム
JP4930789B2 (ja) * 2007-09-27 2012-05-16 サクサ株式会社 個体認識装置、個体認識方法及びプログラム
JP5842441B2 (ja) 2011-07-29 2016-01-13 ブラザー工業株式会社 画像処理装置およびプログラム
JP5776419B2 (ja) 2011-07-29 2015-09-09 ブラザー工業株式会社 画像処理装置、画像処理プラグラム
JP5853470B2 (ja) 2011-07-29 2016-02-09 ブラザー工業株式会社 画像処理装置、画像処理プラグラム
JP5796392B2 (ja) 2011-07-29 2015-10-21 ブラザー工業株式会社 画像処理装置、および、コンピュータプラグラム

Also Published As

Publication number Publication date
JP2001127999A (ja) 2001-05-11

Similar Documents

Publication Publication Date Title
US5832141A (en) Image processing method and apparatus using separate processing for pseudohalf tone area
JP3539539B2 (ja) 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体
JP2007507802A (ja) デジタル画像におけるテキスト状エッジの強調
JP3868654B2 (ja) 画像処理装置
JP3918381B2 (ja) 画像処理装置および画像処理方法
JP2010016812A (ja) 画像処理装置、画像処理方法およびコンピューター読み取り可能な媒体
JP3026706B2 (ja) 画像処理装置
JP7030425B2 (ja) 画像処理装置、画像処理方法、プログラム
AU752396B2 (en) Method and apparatus for image processing, and medium
JPH07129762A (ja) 素描風画像生成装置
JP3142279B2 (ja) 網点領域分離装置
JP2784278B2 (ja) 画像変倍処理装置
JP4248899B2 (ja) 領域分離処理方法、領域分離処理プログラムおよびこれを記録した記録媒体ならびに画像処理装置およびこれを備えた画像形成装置
JP2001144954A (ja) 画像処理装置および画像処理方法
JP3783815B2 (ja) 画像処理装置
JP4035696B2 (ja) 線分検出装置及び画像処理装置
JP4053362B2 (ja) 補間処理方法、補間処理プログラムおよびこれを記録した記録媒体ならびに画像処理装置およびこれを備えた画像形成装置
JPH0793563A (ja) 画像処理装置
JP3163601B2 (ja) 画像処理装置および方法
JPH07182503A (ja) 画像処理方法及び装置
JPH08251397A (ja) 画像処理方法及び装置
JP3702957B2 (ja) 画像処理装置、画像処理方法および画像処理制御プログラムを記録した媒体
JP3245586B2 (ja) 極点画素検出装置
JPH09270911A (ja) 画像形成装置
JP3004244B2 (ja) 領域分離装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040120

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060616

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070123

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070205

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110223

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120223

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130223

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees