JP4498425B2 - デジタル画像の画素を分類する方法およびシステム - Google Patents

デジタル画像の画素を分類する方法およびシステム Download PDF

Info

Publication number
JP4498425B2
JP4498425B2 JP2008045119A JP2008045119A JP4498425B2 JP 4498425 B2 JP4498425 B2 JP 4498425B2 JP 2008045119 A JP2008045119 A JP 2008045119A JP 2008045119 A JP2008045119 A JP 2008045119A JP 4498425 B2 JP4498425 B2 JP 4498425B2
Authority
JP
Japan
Prior art keywords
pixel
text
color
digital image
map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008045119A
Other languages
English (en)
Other versions
JP2008211802A (ja
Inventor
シャオ‐シェン チェン ローレンス
マシュー スピーグル ジョン
マフィット ファーマン アーメット
ジョン キャンベル リチャード
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JP2008211802A publication Critical patent/JP2008211802A/ja
Application granted granted Critical
Publication of JP4498425B2 publication Critical patent/JP4498425B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/413Classification of content, e.g. text, photographs or tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Image Analysis (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Character Input (AREA)

Description

本発明は、デジタル画像からのテキストの検出結果を補正するための方法およびシステムに関するものである。
デジタル画像の視覚特性を改善するために行われているデジタル画像処理技術の発展は、デジタル画像における異なる画像領域の正確な識別に依存している。さらに、画像における様々な領域の正確な検出は、多くの圧縮処理において重大な問題である。
そこで、特許文献1には、次のような技術が開示されている。文字は背景に比べて輝度が高いという特徴、文字と背景の境界に鋭いエッジが存在するという特徴を用いて、映像中文字が含まれる領域を文字候補領域画像として切り出し、この文字候補領域画像における輝度分布および色分布(彩度情報)を求める。そして、求められた分布から映像中文字を構成すると推察される特徴を含む領域に対して、輝度および色分布のうちの少なくとも一方の平均および分散を推定する。推定された上記平均および分散に対して、第1の閾値による判定を行ない、この第1の閾値 よりも高い値を有する画素のみを画像から検出し、次に、第1の閾値よりも小さな値の第2の閾値より大きい値の画素を上記で検出された画素の近傍から検出し、 これらの検出された画素の纏まりを上記映像中文字とする。
特開2000−182053(2000年6月30日公開)
しかしながら、上記技術は、映像中文字を検出する技術であり、上記技術を原稿画像からテキストを抽出する画像処理に適用することを考えた場合、ヒストグラムを用いて、文字候補領域画像における輝度分布および色分布を求めていることから、画素単位ではなく、複数の画素からなる領域単位での識別となり、テキストの形状を抽出するのは困難である。
また、従来、テキスト画素を抽出する技術があるが、テキストでないのにテキスト画素として誤判別したり、テキストであるのに非テキスト画素として検出するミスがある。
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、既にテキスト/非テキストが判別されたマップにおいて、誤判別または検出ミスを正しく補正するための方法およびシステムを実現することにある。
本発明に係るデジタル画像の画素の分類方法は、上記の課題を解決するために、デジタル画像において第1分類に属する画素の候補を示す第1分類マップを取得する第1ステップと、上記デジタル画像上の第1画素位置に対応する、上記第1分類マップ上の第1画素位置を特定する第2ステップと、上記デジタル画像上の第1画素位置に対応する第1の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属する画素の色の代表値を算出する第3ステップと、上記第1の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第1色差を算出する第4ステップと、上記第1色差に基づいて、上記第1分類マップ上の第1画素位置の分類を補正する第5ステップと、を含むことを特徴とする。
また、本発明に係るデジタル画像の画素を分類するシステムは、デジタル画像において第1分類に属する画素の候補を示す第1分類マップを取得する第1分類マップ取得部と、上記デジタル画像上の第1画素位置に対応する、上記第1分類マップ上の第1画素位置を特定する第1画素位置特定部と、上記デジタル画像上の第1画素位置に対応する第1の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属する画素の色の代表値を算出する第1評価色算出部と、上記第1の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第1色差を算出する第1色差算出部と、上記第1色差に基づいて、上記第1分類マップ上の第1画素位置の分類を補正する第1補正部と、を備えることを特徴とする。
ここで、第1分類は、テキストを示す分類、または、非テキストを示す分類である。
また、デジタル画像上の第1画素位置の近接領域とは、例えば、当該第1画素位置の周囲の所定サイズのウィンドウに含まれる領域である。
上記の構成によれば、第1色差は、デジタル画像上の第1画素位置の画素の色と、第1分類に属する画素の色の代表値との差である。そのため、第1色差が小さいと、第1画素位置の画素が第1分類の画素に近いことになる。
そのため、第1色差を用いることで、第1画素位置が第1分類の画素であるのか否かを判断することができる。例えば、第1分類マップ上の第1画素位置の画素が第1分類に属さないとされているのに、第1色差が小さい場合、当該画素の分類が誤っているものと推定され、当該画素が第1分類に属するように、第1分類マップの補正を行うことができる。逆に、第1分類マップ上の第1画素位置の画素が第1分類に属するとされているのに、第1色差が大きい場合、当該画素の分類が誤っているものと推定され、当該画素が第1分類に属さないように、第1分類マップの補正を行うことができる。
これにより、誤判別または検出ミスを正しく補正するための方法およびシステムを実現することができる。
なお、上記第1分類マップと上記デジタル画像とは、同じ解像度であっても、異なる解像度であってもよい。
さらに、本発明のデジタル画像の画素の分類方法は、上記第5ステップにおいて、上記第1色差が第1閾値よりも小さい場合、上記第1分類マップ上の第1画素位置の画素が上記第1分類に属することを示すように、上記第1分類マップを補正してもよい。
また、本発明のデジタル画像の画素を分類するシステムにおいて、上記第1補正部は、上記第1色差が第1閾値よりも小さい場合、上記第1分類マップ上の第1画素位置の画素が上記第1分類に属することを示すように、上記第1分類マップを補正してもよい。
上記の構成によれば、第1色差の大小を第1閾値を用いて簡単に判別することができる。第1分類マップにおいて第1画素位置の画素が第1分類に属しておらず、かつ、第1色差が第1閾値よりも小さい場合とは、本来であれば、第1分類に属する必要があるのに、何等かの影響で誤って、第1分類に属さないと判別されていた場合である。そして、このような場合であっても、上記の構成によれば、第1画素位置の画素が第1分類に属するように第1分類マップを補正することができる。その結果、第1分類マップを信頼度の高いものに容易に補正することができる。
さらに、本発明のデジタル画像の画素の分類方法は、上記デジタル画像上の第1画素位置に対応する第2の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属さない画素の色の代表値を算出する第6ステップと、上記第2の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第2色差を算出する第7ステップと、上記第2色差に基づいて、上記第1分類マップ上の第1画素位置の分類を補正する第8ステップと、を含んでもよい。
また、本発明のデジタル画像の画素を分類するシステムは、上記デジタル画像上の第1画素位置に対応する第2の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属さない画素の色の代表値を算出する第2評価色算出部と、上記第2の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第2色差を算出する第2色差算出部と、上記第2色差に基づいて、上記第1分類マップ上の第1画素位置の分類を補正する第2補正部と、を備えていてもよい。
上記の構成によれば、第2色差は、デジタル画像上の第1画素位置の画素の色と、第1分類に属さない画素の色の代表値との差である。そのため、第2色差が小さいと、第1画素位置の画素が第1分類に属さないことを意味する。
そのため、第2色差を用いることで、第1画素位置が第1分類の画素であるのか否かを判断することができる。例えば、第1分類マップ上の第1画素位置の画素が第1分類に属するとされているのに、第2色差が小さい場合、当該画素の分類が誤っているものと推定され、当該画素が第1分類に属さないように、第1分類マップの補正を行うことができる。逆に、第1分類マップ上の第1画素位置の画素が第1分類に属さないとされているのに、第2色差が大きい場合、当該画素の分類が誤っているものと推定され、当該画素が第1分類に属するように、第1分類マップの補正を行うことができる。
これにより、誤判別または検出ミスを正しく補正するための方法およびシステムを実現することができる。
さらに、本発明のデジタル画像の画素の分類方法は、上記第8ステップにおいて、上記第2色差が第2閾値よりも小さい場合、上記第1分類マップ上の第1画素位置の画素が上記第1分類に属さないことを示すように、上記第1分類マップを補正してもよい。
また、本発明のデジタル画像の画素を分類するシステムにおいて、上記第2補正部は、上記第2色差が第2閾値よりも小さい場合、上記第1分類マップ上の第1画素位置の画素が上記第1分類に属さないことを示すように、上記第1分類マップを補正してもよい。
上記の構成によれば、第2色差の大小を第2閾値を用いて簡単に判別することができる。第1分類マップにおいて第1画素位置の画素が第1分類に属しており、かつ、第2色差が第2閾値よりも小さい場合とは、本来であれば、第1分類に属さない必要があるのに、何等かの影響で誤って、第1分類に属すると判別されていた場合である。そして、このような場合であっても、上記の構成によれば、第1画素位置の画素が第1分類に属さないように第1分類マップを補正することができる。その結果、第1分類マップを信頼度の高いものに容易に補正することができる。
なお、上記第1分類に属する画素の色の代表値は、当該画素の色の平均値、当該画素の色の中央値、当該画素の色のトリム平均値、当該画素の色の重み平均値の何れかであってもよい。
また、本発明のデジタル画像の画素の分類方法は、デジタル画像においてテキスト画素の候補を示すテキストマップを取得する第1ステップと、上記デジタル画像上の第1画素位置に対応する、上記テキストマップ上の第1画素位置を特定する第2ステップと、上記デジタル画像上の第1画素位置に対応するテキスト評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記テキストマップにおいてテキスト画素として分類されている画素の色の代表値を算出する第3ステップと、上記テキスト評価色と上記デジタル画像上の上記第1画素位置の画素の色との差分であるテキスト色差を算出する第4ステップと、上記デジタル画像上の第1画素位置に対応する背景評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記テキストマップにおいてテキスト画素として分類されていない画素の色の代表値を算出する第5ステップと、上記背景評価色と上記デジタル画像上の上記第1画素位置の画素の色との背景色差を算出する第6ステップと、上記テキスト色差が第1閾値よりも小さく、かつ、上記テキストマップにおける第1画素位置の画素がテキスト画素として分類されていない場合、テキストマップにおいて、上記第1画素位置の画素をテキスト画素として補正する第7ステップと、上記背景色差が第2閾値よりも小さく、かつ、上記テキストマップにおける第1画素位置の画素がテキスト画素として分類されている場合、テキストマップにおいて、上記第1画素位置の画素を非テキスト画素として補正する第8ステップと、を含む。
テキストマップにおいて第1画素位置の画素がテキスト画素として分類されておらず、かつ、テキスト色差が第1閾値よりも小さい場合とは、本来であれば、テキスト画素として分類されている必要があるのに、何等かの影響で誤って、テキスト画素として分類されていない場合である。そして、このような場合であっても、上記の構成によれば、第1画素位置の画素がテキスト画素として分類するようにテキストマップを補正することができる。その結果、テキストマップを信頼度の高いものに容易に補正することができる。
テキストマップにおいて第1画素位置の画素がテキスト画素として分類されており、かつ、背景色差が第2閾値よりも小さい場合とは、本来であれば、テキスト画素として分類されない必要があるのに、何等かの影響で誤って、テキスト画素として分類されてしまった場合である。そして、このような場合であっても、上記の構成によれば、第1画素位置の画素がテキスト画素として分類されないようにテキストマップを補正することができる。その結果、テキストマップを信頼度の高いものに容易に補正することができる。
さらに、本発明のデジタル画像の画素の分類方法は、上記背景評価色と上記テキスト評価色との差分である背景−テキスト色差を算出し、当該背景−テキスト色差が第3閾値よりも小さい場合に、当該テキスト評価色を破棄してもよい。
背景−テキスト色差が第3閾値よりも小さい場合とは、テキスト評価色と背景評価色とが近いことを意味しており、テキスト評価色が妥当なものではないことを示している。そこで、上記の構成によれば、このようなテキスト評価色を破棄する。具体的には、当該テキスト評価色を無効する。そして、このような破棄されたテキスト評価色を有する画素については、テキスト画素ではないものと判断することができる。
本発明に係るデジタル画像の画素の分類方法は、デジタル画像において第1分類に属する画素の候補を示す第1分類マップを取得する第1ステップと、上記デジタル画像上の第1画素位置に対応する、上記第1分類マップ上の第1画素位置を特定する第2ステップと、上記デジタル画像上の第1画素位置に対応する第1の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属する画素の色の代表値を算出する第3ステップと、上記第1の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第1色差を算出する第4ステップと、上記第1色差に基づいて、上記第1分類マップ上の第1画素位置の分類を補正する第5ステップと、を含む。
また、本発明に係るデジタル画像の画素を分類するシステムは、デジタル画像において第1分類に属する画素の候補を示す第1分類マップを取得する第1分類マップ取得部と、上記デジタル画像上の第1画素位置に対応する、上記第1分類マップ上の第1画素位置を特定する第1画素位置特定部と、上記デジタル画像上の第1画素位置に対応する第1の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属する画素の色の代表値を算出する第1評価色算出部と、上記第1の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第1色差を算出する第1色差算出部と、上記第1色差に基づいて、上記第1分類マップ上の第1画素位置の分類を補正する第1補正部と、を備える。
これにより、誤判別または検出ミスを正しく補正するための方法およびシステムを実現することができる。
本発明の実施形態は、図面を参照することでより理解されるであろう。図面では、同じ部材については同じ符号をつけている。
ここで、図に示されるように、本発明の構成は、様々な異なる形態に変形および設計されることができることが容易にわかるであろう。このように、以下に述べる、本発明の方法およびシステムの実施形態についてのより詳細な説明は、本発明の範囲を限定するものではなく、本発明の最良の形態を示したものにすぎない。
本発明の実施形態の構成は、ハードウェア、ファームウェアおよび/またはソフトウェアによって実現されてもよい。ここで述べる実施形態はこれらの形態の1つについてのみ説明するものであり、本発明の範囲内において、各構成をこれらの形態の何れかで実現可能であることは、当業者にとって自明である。
デジタル画像の内容は、当該デジタル画像の圧縮に対して、圧縮率及び圧縮による副作用(compression artifacts:アーチファクト)の点で大きな影響を与えるものである。画像の写真領域は、文字領域用に設計された圧縮アルゴリズムを用いて圧縮された場合、効率的に圧縮されない。同様に、文字画像は、写真領域用に設計され最適化された圧縮アルゴリズムを用いて圧縮された場合、効率的に圧縮されない。画像の特定の種別用に設計された圧縮アルゴリズムを他の種別の画像に用いた場合、圧縮率に悪影響があるだけでなく、伸張後の画像に圧縮による副作用(アーチファクト)が視認可能な状態で表れることがある。
さらに、文字をくっきりさせるために設計された画像強調アルゴリズムを写真画像に適用した場合、写真画像の中に、視認を悪化させるような作用を生じさせることもある。特に、はっきりとしたエッジを含む写真領域に悪影響がある。スムージング処理は、自然画像を強調するものであり、文字領域に対して行われることはほとんどない。
複写機およびスキャナーは、文書画像において、コンテンツに特有な処理および効率的な圧縮を実行するために、テキスト区分を使用する。典型的なコンテンツに特有の処理は、微分フィルタやカラーエンハンスメント(color enhancement)である。典型的なコンテンツに特有の圧縮処理としては、レイヤー圧縮方式(layered compression schemes)が挙げられる。この方式では、文書画像のコンテンツは、高解像度の前景レイヤーと低解像度の背景レイヤーとに区分される。
デジタル画像からテキストを信頼性良くかつ効率的に検出することは、コンテンツの種別に特有の画像強調処理(image enhancement methods)をデジタル画像の適切な領域に適用するために有効である。デジタル画像において特定のコンテンツ種別の領域を検出するとともに、当該特定のコンテンツ種別に対して設計された圧縮アルゴリズムおよび画像強調アルゴリズムを用いることにより、圧縮効率を改善し、圧縮によるアーチファクトを減少させ、画像品質を改善することができる。
コンテンツに基づいた画像領域の意味ラベリング(画像データのコンテンツ(内容)に応じたラベリングなど、意味のあるラベリング)は、文書管理システムおよび画像データベースでも有効である。
テキスト区分アルゴリズムは、画像におけるテキストコンテンツの大部分を識別する。テキスト区分アルゴリズムとしては従来知られているアルゴリズム(例えば、特許文献1に記載の技術)を用いることができる。
しかしながら、従来のテキスト区分アルゴリズムでは、テキストでないのに誤ってテキストとして区別したり(以下、誤判別という)、逆にテキスであるのにテキストとして区別できないこと(以下、検出ミスという)がある。誤判別が生じるケースは、例えば、テキストの周囲の領域を誤ってテキストとして認識する場合や、非テキスト領域がテキストに似た特性(強いエッジなど)を有する場合である。また、検出ミスが生じるケースは、小さい文字の薄く描かれた箇所、低コントラストのテキスト、大きな文字の内部などで起こり得る。
テキストマップにおけるこのような誤った判定による影響は、コンテンツ特有の強調処理によって、さらに増大される。同様に、レイヤー圧縮アプリケーションにとって、テキストであるのにテキストではないと認定された画素は、単一の文字の一部に対して異なるレイヤーが割り当てられることを引き起こす。これにより、トランジションアーチファクト(transition artifacts)が視認されることとなる。
本実施形態は、デジタル画像および当該デジタル画像に対応するテキストマップを用いて、画像からのテキスト検出結果を補正する後処理方法および後処理システムに関するものである。本実施形態は、従来知られているテキスト区分アプリケーションを用いることができる。また、本実施形態は、テキストマップにおいて誤って検出された画素を減らすために、文書画像におけるテキストおよび非テキスト(以下、背景として言及される場合がある)の色を用いる。色は、RGB、sRGB、CMYK、YUV、YIQ、YCbCr、YPbPr、HSV、HSL、Lab、L*a*b*のような色空間で表現されればよい。ただし、ここで挙げた色空間に限定されるものではない。
(後処理システムの構成)
本実施形態に係る後処理システムの構成について図1を参照しながら説明する。本実施形態に係る後処理システムは、色評価部と、テキストマップ補正部とを備えている。
色評価部12は、画像における各画素位置について、テキストの色の評価値および背景色の評価値を評価(推定)するものである。なお、色評価部12は、各画素位置ではなく、画像における所定サイズの領域ごとに色の評価を行ってもよい。本実施形態では、画像データ10およびテキストマップ11が、背景色の評価値とテキストの色の評価値とを決定するために使用される。そのため、色評価部12は、テキストマップ11を取得する。色評価部12の詳細な構成については後述する。
テキストマップ11は、画像データ10の画素ごと、あるいは、所定サイズの領域ごとに、テキスト画素の有無を示すものである。
テキストマップ11は、画像データ10と同じ解像度のバイナリーマップであってもよい。この場合、各画素に対するテキストマップの評価値は、当該画素がテキスト画素である場合に2値のうちの一方である第1の値であり、当該画素がテキスト画素でない場合に他方の第2の値である。なお、テキストマップ11と画像データ10とは異なる解像度であってもよい。この場合、テキストマップ11と画像データ10との画素の対応付けは、マッピング機能(例えば、最近接画素マッピング)によって決定される。
また、テキストマップ11が画像データ10と同じ解像度のマップであり、各画素に対するテキストマップの評価値は、当該画素がテキスト画素である場合に第1の値であり、当該画素がテキスト候補画素でない場合に第1の値以外の複数の値のうちのいずれかであってもよい。ここで、第1の値以外の複数の値のそれぞれは、さらなる画像特徴クラスを示すものであってもよい。なお、テキストマップ11と画像データ10とは異なる解像度であってもよい。この場合、テキストマップ11と画像データ10との画素の対応付けは、マッピング機能(例えば、最近接画素マッピング)によって決定される。当該マッピング機能により、色評価部12およびテキストマップ補正部15は、テキストマップ11上の画素が、画像データ10上のどの画素と対応しているかを特定することができる。
さらに、テキストマップ11が画像データ10と同じ解像度のマップであり、各画素に対するテキストマップの評価値は、当該画素がテキスト画素であることの信頼性を示す指標であってもよい。なお、テキストマップ11と画像データ10とは異なる解像度であってもよい。この場合、テキストマップ11と画像データ10との画素の対応付けは、マッピング機能(例えば、最近接画素マッピング)によって決定される。
テキストマップを蓄積し、操作するために、多くのデータ構造およびデータ表現がある。テキストマップの一例として、本明細書ではアレイを説明するが、これに限定されるものではない。
テキストマップ補正部15は、色評価部12により評価された背景色の評価値13およびテキストの色の評価値14、画像データ10並びにテキストマップ11を用いて、テキストマップを補正するものである。そして、テキストマップ補正部15は、補正後のテキストマップ(補正後テキストマップ)16を生成する。テキストマップ補正部15が行う具体的な処理の内容については後述する。
(色評価部の構成)
色評価部12の詳細な構成について、図2を参照しながら説明する。色評価部12は、テキスト色評価部20と、背景色評価部21と、破棄処理部23とを含む。
テキスト色評価部20は、テキストの色の評価値を評価するものである。テキスト色評価部20は、テキストの色を、画像データ10における各画素位置に対して評価してもよいし、画像データ10の領域ごとに評価してもよい。画像データ10の領域ごとに評価する場合とは、例えば、画像データ10の画素ブロックごとにテキストの色を評価する場合である。
背景色評価部21は、背景色の評価値を評価するものである。背景色評価部21は、背景色の評価値を、画像データ10における各画素位置に対して推定してもよいし、画像データ10の領域ごとに推定してもよい。画像データ10の領域ごとに評価する場合とは、例えば、画像データ10の画素ブロックごとに背景色を評価する場合である。具体的には、300dpiの画像データ10、テキストマップ11および4×4のブロックサイズによるブロックに基づいた方法を用いる場合、背景色評価部21が評価する背景色の評価値の解像度は、75dpiであり、メモリおよびコンピュータに要求されるスペックを小さくすることができる。
テキスト色評価部20および背景色評価部21は、色の評価値として、色の代表値を算出する処理を行ってもよい。テキスト色評価部20は、画素位置でのテキストの色の評価値として、当該画素位置を囲む領域(またはウィンドウ)内のテキスト画素の色の代表値を求める。テキスト画素は、テキストマップを用いることで特定される。
また、ブロックに対するテキストの色の評価値を算出する場合、テキスト色評価部20は、当該評価値として、当該ブロックにおけるテキスト画素の色の代表値を求める。テキスト画素は、テキストマップを用いることで特定される。
背景色評価部21は、画素位置での背景色の評価値として、当該画素位置を囲む領域内の非テキスト画素の色の代表値を求める。非テキスト画素は、テキストマップを用いることで特定される。
また、ブロックに対する背景色の評価値を算出する場合、背景色評価部21は、当該評価値として、当該ブロックにおける非テキスト画素の色の代表値を求める。非テキスト画素は、テキストマップを用いることで特定される。
複数の画素の色の代表値を求める具体的な方法としては、平均値、中央値、トリム平均値、重み平均値などを算出すればよい。
なお、ウィンドウまたはブロックがテキストマップにおいてテキスト画素を含んでいない場合、テキスト色評価部20は、画素またはブロックについてのテキストの色の評価値を無効として設定する。テキスト色評価部20は、それ以外の画素の評価値を有効として設定する。なお、全ての画素が無効として初期化されていてもよい。また、無効状態を示すために、色の評価値を保有していてもよい。もしくは、有効な評価値の位置を示すために、分離データ構造が維持されてもよい。
テキストマップ11においてウィンドウまたはブロックがテキスト画素を含まない場合、画素またはブロックに対するテキストの色の評価値は、周囲の評価値に基づいていてもよい。
破棄処理部23は、テキストの色の評価値および背景色の評価値を破棄するか否かを決定する破棄処理を実行するものである。テキストの色の評価値に対する破棄決定は、図3に従って実行される。
まず、破棄処理部23は、各画素位置または各ブロックについて、テキストの色の評価値が有効であるか否かを判定する(S30)。テキストの色の評価値が有効である場合(S30でYes)、破棄処理部23は、当該テキストの色の評価値と、同じ画素位置またはブロックの背景色の評価値とを比較する。ここでは、破棄処理部23は、背景色の評価値とテキストの色の評価値との距離を算出する(S32)。テキストの色および背景色は、距離dによって比較される。距離dは、例えば、色の評価値(例えば、Lab画像データにおけるCIE ΔE)におけるユークリッド距離である。なお、他の方法で測定される距離であってもよい。
次に、破棄処理部23は、当該距離dと閾値とを比較する(S34)。テキストの色の評価値が有効であり、かつ、距離dが所定の閾値を越える場合(S34でYes)、テキストの色の評価値はそのまま保持される(S38)。それ以外の場合(S34でNo)、破棄処理部23は、当該テキストの色の評価値を破棄する(S36)。ここでは、破棄処理部23は、テキストの色の評価値の破棄として、当該評価値を無効状態に変換する処理を行う。この操作は、テキストの色の評価値が背景色の評価値に非常に似ている位置において、テキストの色の評価値を消去することを意味する。テキストの色の評価値は、最終的により低解像度の評価値を得るために、リニアフィルタ処理またはロバストフィルタ処理が実行され、ダウンサンプリングされてもよい。
このようにして、テキスト色評価部20および破棄処理部23は、テキストの色の評価値の有効性を決定する。つまり、テキスト色評価部20は、ウィンドウまたはブロック内にテキスト画素がない場合に、テキストの色の評価値を無効とする。また、破棄処理部23は、各画素位置または各ブロックについて、テキストの色の評価値と背景色の評価値との差分(距離)が閾値以下の場合に、当該テキストの色の評価値を無効とする。これら以外については有効とする。
(色評価部の構成の変形形態)
色評価部12の構成の変形例について図4を参照しながら説明する。色評価部12は、図2に示したテキスト色評価部20、背景色評価部21および破棄処理部23に加えて、背景色クリーンアップ処理部40およびテキスト色クリーンアップ処理部42とを含む。
背景色クリーンアップ処理部40は、背景色評価部21が評価した背景色の評価値の除去処理を行う。また、テキスト色クリーンアップ処理部42は、破棄処理部23によって処理された評価値を除去処理を行う。背景色クリーンアップ処理部40およびテキスト色クリーンアップ処理部42が行う除去処理(クリーンアップ処理)の典型的な例としては、サブサンプリングの方法、ロバストサブサンプリングの方法などが挙げられる。そして、背景色クリーンアップ処理部40により処理された背景色の評価値13と、テキスト色クリーンアップ処理部42により処理されたテキストの色の評価値14とが、テキストマップの補正処理に用いられる。
(テキストマップ補正部の処理例)
上記のように色評価部12により背景色とテキストの色とが評価された後に、テキストマップ補正部15によるテキストマップの補正処理が実行される。以下に、図5から図12を参照しながら、テキストマップの補正処理の具体例のいくつかを説明する。
(第1の処理例)
テキストマップ補正部15の第1の処理例について、図5を参照しながら説明する。
まず、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力される背景色の評価値13のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DBG)を算出する(S50)。また、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力されるテキストの色の評価値14のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DTXT)を算出する(S55)。
当該2つの差分は、2つの色の距離を測定することで求められる。当該距離を測定する方法としてはいくつか挙げられる。例えば、LCC色空間の色差成分を用いた2次元の市街地距離測定方法や、3次元色空間の成分を用いた3次元の市街地距離測定方法や、これらの方法に重み付けを行う方法、ユークリッド距離測定方法などよく知られた方法を用いることができる。市街地距離とは、注目画素に隣接する4近傍の画素をベースに画素間の距離を表すものであり、注目画素の第1近傍にある画素は1単位、第2近傍にある画素(対角の位置の画素)は2単位離れていると表すものである。
なお、テキストマップ11と画像データ10とが異なる解像度である場合、テキストマップ上の一つの画素に対応する、画像データ10上の画素の色は、上記したマッピング機能により対応づけられる画像データ10の画素の色の平均値などを用いればよい。
そして、テキストマップ補正部15は、テキストマップにおける全画素について、S52、S54、S57、S59の処理を行う。以下では、テキストマップにおける一つの画素についての処理について説明する。なお、当該画素を対象画素という。
次に、テキストマップ補正部15は、テキストマップにおける誤判別の画素を除去するために、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、除去閾値TREMOVEとを比較するとともに、対象画素がテキストマップ上でテキスト画素を示しているか判断する(S52)。
そして、背景色の評価値と原稿画像の対応する位置の画素値との距離DBGが除去閾値TREMOVEよりも小さく、かつ、対象画素がテキストマップ上でテキスト画素を示している場合(S52でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素を非テキスト画素として再分類する(S54)。テキストマップがテキストである画素のみを示している場合、テキストマップ補正部15は、テキストマップから対象画素を除去することとなる。
一方、テキストマップ補正部15は、検出ミスのあった画素をテキストマップに追加するために、テキストの色の評価値14と原稿画像の対応する位置の色(画素値)との距離DTXTと、テキスト色閾値TTEXTCOLORとを比較するとともに、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、追加閾値TADDを比較し、さらに、対象画素がテキストマップ上で非テキスト画素を示しているか判断する(S57)。
そして、テキストの色と原稿画像の対応する位置の画素値との距離DTXTがテキスト色閾値TTEXTCOLORよりも小さく、かつ、背景色と原稿画像の対応する位置の画素値との距離DBGが追加閾値TADDよりも大きく、かつ、対象画素がテキストマップ上で非テキスト画素を示している場合(S57でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素をテキスト画素として再分類する(S59)。テキストマップがテキストである画素のみを示している場合、テキストマップ補正部15は、テキストマップに対象画素を追加することとなる。
(第2の処理例)
テキストマップに画素を追加する処理は、テキストの色の評価値の有効性に基づいて行われてもよい。この場合の処理例(第2の処理例)について、図6を参照して説明する。
まず、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力される背景色の評価値13のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DBG)を算出する(S50)。また、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力されるテキストの色の評価値14のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との(DTXT)を算出する(S55)。また、上述したように、色評価部12において決定された、テキストの色の評価値の有効性を示す情報を、テキストマップ補正部15が取得し、テキストマップ補正部は、テキストの色の有効性を判断する(S60)。例えば、テキストマップ補正部15は、テキストマップ上の各画素について、テキストの色の評価値が無効である場合には無効テキスト画素を示す情報TEXTNULLを取得する。
本処理例においても、2つの色の差分は、当該2つの色の距離を測定することで求められる。当該距離を測定する方法としてはいくつか挙げられる。例えば、LCC色空間の色差成分を用いた2次元の市街地距離測定方法や、3次元色空間の成分を用いた3次元の市街地距離測定方法や、これらの方法に重み付けを行う方法、ユークリッド距離測定方法などよく知られた方法を用いることができる。
そして、テキストマップ補正部15は、テキストマップにおける全画素について、S52、S54、S62、S66の処理を行う。以下では、テキストマップにおける一つの画素についての処理について説明する。なお、当該画素を対象画素という。
テキストマップ補正部15は、テキストマップにおける誤判別の画素を除去するために、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、除去閾値TREMOVEとを比較するとともに、対象画素がテキストマップ上でテキスト画素を示しているか判断する(S52)。
そして、背景色の評価値と原稿画像の対応する位置の画素値との距離DBGが除去閾値TREMOVEよりも小さく、かつ、対象画素がテキストマップ上でテキスト画素を示している場合(S52でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素を非テキスト画素として再分類する(S54)。
一方、テキストマップ補正部15は、検出ミスのあった画素をテキストマップに追加するために、テキストの色の評価値14と原稿画像の対応する位置の色(画素値)との距離DTXTと、テキスト色閾値TTEXTCOLORとを比較し、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、追加閾値TADDを比較するとともに、さらに、テキストの色の評価値が有効であるか判断し、対象画素がテキストマップ上で非テキスト画素を示しているか判断する(S62)。
ここで、テキストの色の評価値が有効であるかの判断は、対象画素について色評価部12から情報TEXTNULLを取得したか否かで判断する。対象画素について色評価部12から情報TEXTNULLを取得していない場合、テキストマップ補正部15は、対象画素について、テキストの色の評価値が有効であると判断する。
そして、テキストの色と原稿画像の対応する位置の画素値との距離DTXTがテキスト色閾値TTEXTCOLORよりも小さく、かつ、背景色と原稿画像の対応する位置の画素値との距離DBGが追加閾値TADDよりも大きく、かつ、テキストの色の評価値の有効性が有効であり、かつ、対象画素がテキストマップ上で非テキスト画素を示している場合(S62でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素をテキスト画素として再分類する(S66)。
(第3の処理例)
また、テキストマップから画素を除去する処理においても、テキストの色の評価値の有効性に基づいて行われてもよい。この場合の処理例(第3の処理例)について、図7を参照して説明する。
まず、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力される背景色の評価値13のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DBG)を算出する(S50)。また、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力されるテキストの色の評価値14のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との(DTXT)を算出する(S55)。また、上述したように、色評価部12において決定された、テキストの色の評価値の有効性を示す情報を、テキストマップ補正部15が取得し、テキストマップ補正部は、テキストの色の有効性を判断する(S60)。例えば、テキストマップ補正部15は、テキストマップ上の各画素について、テキストの色の評価値が無効である場合には無効テキスト画素を示す情報TEXTNULLを取得する。
本処理例においても、2つの色の差分は、当該2つの色の距離を測定することで求められる。当該距離を測定する方法としてはいくつか挙げられる。例えば、LCC色空間の色差成分を用いた2次元の市街地距離測定方法や、3次元色空間の成分を用いた3次元の市街地距離測定方法や、これらの方法に重み付けを行う方法、ユークリッド距離測定方法などよく知られた方法を用いることができる。
そして、テキストマップ補正部15は、テキストマップにおける全画素について、S70、S74、S62、S66の処理を行う。以下では、テキストマップにおける一つの画素についての処理について説明する。なお、当該画素を対象画素という。
次に、テキストマップ補正部15は、テキストマップにおける誤判別の画素を除去するために、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、除去閾値TREMOVEとを比較するとともに、さらに、テキストの色の評価値が無効であるか判断し、対象画素がテキストマップ上でテキスト画素を示しているか判断する(S70)。
ここで、テキストの色の評価値が無効であるかの判断は、対象画素について色評価部12から情報TEXTNULLを取得したか否かで判断する。対象画素について色評価部12から情報TEXTNULLを取得している場合、テキストマップ補正部15は、対象画素について、テキストの色の評価値が無効であると判断する。
そして、背景色の評価値と原稿画像の対応する位置の画素値との距離DBGが除去閾値TREMOVEよりも小さいか、もしくは、テキストの色の評価値が無効であり、かつ、対象画素がテキストマップ上でテキスト画素を示している場合(S70でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素を非テキスト画素として再分類する(S74)。
一方、テキストマップ補正部15は、検出ミスのあった画素をテキストマップに追加するために、テキストの色の評価値14と原稿画像の対応する位置の色(画素値)との距離DTXTと、テキスト色閾値TTEXTCOLORとを比較し、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、追加閾値TADDを比較するとともに、さらに、テキストの色の評価値が有効であるか判断し、対象画素がテキストマップ上で非テキスト画素を示しているか判断する(S62)。
ここで、テキストの色の評価値が有効であるかの判断は、対象画素について色評価部12から情報TEXTNULLを取得したか否かで判断する。対象画素について色評価部12から情報TEXTNULLを取得していない場合、テキストマップ補正部15は、対象画素について、テキストの色の評価値が有効であると判断する。
そして、テキストの色と原稿画像の対応する位置の画素値との距離DTXTがテキスト色閾値TTEXTCOLORよりも小さく、かつ、背景色と原稿画像の対応する位置の画素値との距離DBGが追加閾値TADDよりも大きく、かつ、テキストの色の評価値の有効性が有効であり、かつ、対象画素がテキストマップ上で非テキスト画素を示している場合(S62でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素をテキスト画素として再分類する(S66)。
(第4−6の処理例)
また、テキストマップ補正部15は、テキストマップにおける各画素の現状のテキスト画素/非テキスト画素の状態を明確に確認することなく補正してもよい。テキストマップ補正部15は、テキストマップの画素の状態を、上述した第1−3の処理例の条件に従って決定し、現在のテキスト画素/非テキスト画素の状態と無関係に設定してもよい。この処理例を第4−6の処理例として以下に説明する。なお、第4−6の処理例は、第1−3の処理例に対応する。
(第4の処理例)
まず、第4の処理例について図8を参照しながら説明する。
テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力される背景色の評価値13のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DBG)を算出する(S50)。また、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力されるテキストの色の評価値14のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DTXT)を算出する(S55)。
当該2つの差分は、2つの色の距離を測定することで求められる。当該距離を測定する方法としてはいくつか挙げられる。例えば、LCC色空間の色差成分を用いた2次元の市街地距離測定方法や、3次元色空間の成分を用いた3次元の市街地距離測定方法や、これらの方法に重み付けを行う方法、ユークリッド距離測定方法などよく知られた方法を用いることができる。
そして、テキストマップ補正部15は、テキストマップにおける全画素について、S82、S84、S87、S89の処理を行う。以下では、テキストマップにおける一つの画素についての処理について説明する。なお、当該画素を対象画素という。
テキストマップ補正部15は、テキストマップにおける誤判別の画素を除去するために、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、除去閾値TREMOVEとを比較する(S82)。
そして、背景色の評価値と原稿画像の対応する位置の画素値との距離DBGが除去閾値TREMOVEよりも小さい場合(S82でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素を非テキスト画素として設定する(更新する)(S84)。
一方、テキストマップ補正部15は、検出ミスのあった画素をテキストマップに追加するために、テキストの色の評価値14と原稿画像の対応する位置の色(画素値)との距離DTXTと、テキスト色閾値TTEXTCOLORとを比較するとともに、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、追加閾値TADDを比較する(S87)。
そして、テキストの色と原稿画像の対応する位置の画素値との距離DTXTがテキスト色閾値TTEXTCOLORよりも小さく、かつ、背景色と原稿画像の対応する位置の画素値との距離DBGが追加閾値TADDよりも大きい場合(S87でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素をテキスト画素として設定する(S89)。
(第5の処理例)
テキストマップに画素を追加する処理は、テキストの色の評価値の有効性に基づいて行われてもよい。この場合の処理例(第5の処理例)について、図9を参照して説明する。
まず、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力される背景色の評価値13のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DBG)を算出する(S50)。また、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力されるテキストの色の評価値14のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との(DTXT)を算出する(S55)。また、上述したように、色評価部12において決定された、テキストの色の評価値の有効性を示す情報を、テキストマップ補正部15が取得し、テキストマップ補正部は、テキストの色の有効性を判断する(S60)。例えば、テキストマップ補正部15は、テキストマップ上の各画素について、テキストの色の評価値が無効である場合には無効テキスト画素を示す情報TEXTNULLを取得する。
本処理例においても、2つの色の差分は、当該2つの色の距離を測定することで求められる。当該距離を測定する方法としてはいくつか挙げられる。例えば、LCC色空間の色差成分を用いた2次元の市街地距離測定方法や、3次元色空間の成分を用いた3次元の市街地距離測定方法や、これらの方法に重み付けを行う方法、ユークリッド距離測定方法などよく知られた方法を用いることができる。
そして、テキストマップ補正部15は、テキストマップにおける全画素について、S82、S84、S90、S94の処理を行う。以下では、テキストマップにおける一つの画素についての処理について説明する。なお、当該画素を対象画素という。
テキストマップ補正部15は、テキストマップにおける誤判別の画素を除去するために、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、除去閾値TREMOVEとを比較する(S82)。
そして、背景色の評価値と原稿画像の対応する位置の画素値との距離DBGが除去閾値TREMOVEよりも小さい場合(S82でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素を非テキスト画素として設定する(更新する)(S84)。
一方、テキストマップ補正部15は、検出ミスのあった画素をテキストマップに追加するために、テキストの色の評価値14と原稿画像の対応する位置の色(画素値)との距離DTXTと、テキスト色閾値TTEXTCOLORとを比較し、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、追加閾値TADDを比較するとともに、さらに、テキストの色の評価値が有効であるか判断する(S90)。
ここで、テキストの色の評価値が有効であるかの判断は、対象画素について色評価部12から情報TEXTNULLを取得したか否かで判断する。対象画素について色評価部12から情報TEXTNULLを取得していない場合、テキストマップ補正部15は、対象画素について、テキストの色の評価値が有効であると判断する。
そして、テキストの色と原稿画像の対応する位置の画素値との距離DTXTがテキスト色閾値TTEXTCOLORよりも小さく、かつ、背景色と原稿画像の対応する位置の画素値との距離DBGが追加閾値TADDよりも大きく、かつ、テキストの色の評価値の有効性が有効である場合(S90でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素をテキスト画素として設定する(S94)。
(第6の処理例)
まず、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力される背景色の評価値13のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DBG)を算出する(S50)。また、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力されるテキストの色の評価値14のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との(DTXT)を算出する(S55)。また、上述したように、色評価部12において決定された、テキストの色の評価値の有効性を示す情報を、テキストマップ補正部15が取得し、テキストマップ補正部は、テキストの色の有効性を判断する(S60)例えば、テキストマップ補正部15は、テキストマップ上の各画素について、テキストの色の評価値が無効である場合には無効テキスト画素を示す情報TEXTNULLを取得する。
本処理例においても、2つの色の差分は、当該2つの色の距離を測定することで求められる。当該距離を測定する方法としてはいくつか挙げられる。例えば、LCC色空間の色差成分を用いた2次元の市街地距離測定方法や、3次元色空間の成分を用いた3次元の市街地距離測定方法や、これらの方法に重み付けを行う方法、ユークリッド距離測定方法などよく知られた方法を用いることができる。
そして、テキストマップ補正部15は、テキストマップにおける全画素について、S100、S104、S90、S94の処理を行う。以下では、テキストマップにおける一つの画素についての処理について説明する。なお、当該画素を対象画素という。
次に、テキストマップ補正部15は、テキストマップにおける誤判別の画素を除去するために、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、除去閾値TREMOVEとを比較するとともに、さらに、テキストの色の評価値が無効であるか判断する(S100)。
ここで、テキストの色の評価値が無効であるかの判断は、対象画素について色評価部12から情報TEXTNULLを取得したか否かで判断する。対象画素について色評価部12から情報TEXTNULLを取得している場合、テキストマップ補正部15は、対象画素について、テキストの色の評価値が無効であると判断する。
そして、背景色の評価値と原稿画像の対応する位置の画素値との距離DBGが除去閾値TREMOVEよりも小さいか、もしくは、テキストの色の評価値が無効である場合(S100でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素を非テキスト画素として設定する(S104)。
一方、テキストマップ補正部15は、検出ミスのあった画素をテキストマップに追加するために、テキストの色の評価値14と原稿画像の対応する位置の色(画素値)との距離DTXTと、テキスト色閾値TTEXTCOLORとを比較し、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、追加閾値TADDを比較するとともに、さらに、テキストの色の評価値が有効であるか判断する(S90)。
ここで、テキストの色の評価値が有効であるかの判断は、対象画素について色評価部12から情報TEXTNULLを取得したか否かで判断する。対象画素について色評価部12から情報TEXTNULLを取得していない場合、テキストマップ補正部15は、対象画素について、テキストの色の評価値が有効であると判断する。
そして、テキストの色と原稿画像の対応する位置の画素値との距離DTXTがテキスト色閾値TTEXTCOLORよりも小さく、かつ、背景色と原稿画像の対応する位置の画素値との距離DBGが追加閾値TADDよりも大きく、かつ、テキストの色の評価値の有効性が有効である場合(S90でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素をテキスト画素として設定する(S94)。
(第7の処理例)
また、テキストマップ補正部15の別の処理例(第7の処理例)について図11を参照しながら説明する。
まず、テキストマップ補正部15は、テキストマップ11を確認し、対象画素がテキスト画素として分類されているかどうかを判断する(S110)。
テキストマップに基づいて対象画素が非テキスト画素である場合(S110でNo)、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力される背景色の評価値13のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DBG)を算出する(S132)。
次に、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力されるテキストの色の評価値14のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との(DTXT)を算出する(S134)。さらに、色評価部12において決定された、テキストの色の評価値の有効性を示す情報を、テキストマップ補正部15が取得し、テキストマップ補正部は、テキストの色の有効性を判断する(S136)。
なお、S132、S134、S136の3つの処理は、任意の順番で実行されればよい。
次に、テキストマップ補正部15は、検出ミスのあった画素をテキストマップに追加するために、テキストの色の評価値14と原稿画像の対応する位置の色(画素値)との距離DTXTと、テキスト色閾値TTEXTCOLORとを比較し、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、追加閾値TADDを比較するとともに、さらに、テキストの色の評価値が有効であるか判断する(S138)。
そして、テキストの色と原稿画像の対応する位置の画素値との距離DTXTがテキスト色閾値TTEXTCOLORよりも小さく、かつ、背景色と原稿画像の対応する位置の画素値との距離DBGが追加閾値TADDよりも大きく、かつ、テキストの色の評価値の有効性が有効である場合(S138でYes)、テキストマップ補正部15は、テキストマップに、対象画素をテキスト画素として追加する(S140)。
一方、テキストマップに基づいて画素がテキスト画素である場合(S110でYes)、テキストマップ補正部15は、テキストマップにおける各画素において、色評価部12から出力される背景色の評価値13のうちの当該画素に対応する評価値と、画像データ10における当該画素の色との差分(DBG)を算出する(S122)。
次に、色評価部12において決定された、テキストの色の評価値の有効性を示す情報を、テキストマップ補正部15が取得し、テキストマップ補正部は、テキストの色の有効性を判断する(S124)。
なお、S122、S124の2つの処理は、任意の順番で実行されればよい。
次に、テキストマップ補正部15は、テキストマップにおける誤判別の画素を除去するために、背景色の評価値13と原稿画像の対応する位置の色(画素値)との距離DBGと、除去閾値TREMOVEとを比較するとともに、さらに、テキストの色の評価値が無効であるか判断する(S126)。
そして、背景色の評価値と原稿画像の対応する位置の画素値との距離DBGが除去閾値TREMOVEよりも小さいか、もしくは、テキストの色の評価値が無効である場合(S126でYes)、テキストマップ補正部15は、テキストマップにおいて、対象画素を非テキスト画素として再分類する(S128)。テキストマップがテキストである画素のみを示している場合、テキストマップ補正部15は、テキストマップから対象画素を除去することとなる。
なお、図11に示される、S122,124,132,134,136の処理は、S110の処理の前に実行されてもよい。
(第8の処理例)
既にテキスト画素として分類されている画素を非テキスト画素としてテキストマップから除去する場合には、背景色基準に基づいて除去された画素(つまり、背景色からの評価値からの距離DBGに基づいて除去された画素)に接続する全てのテキスト画素を非テキスト画素として除去するようにしてもよい。すなわち、除去する画素を広げる。言い換えると、画素に対する除去信号を広げる。このような手順を接続基準手順という。この接続基準手順による除去方法は、誤判別のテキスト画素の領域が、背景色基準を使用することにより除去される領域よりも大きい場合に有効である。
本処理例(第8の処理例)では、基準となる接続標準(basic connectivity criterion)(例えば、4ウェイ、8ウェイ接続など)を用いる。また、さらなる色制限(color constraint)を除去信号の拡大に追加することにより、基準となる接続標準を広げてもよい。この条件は、除去信号が誤判別のテキスト画素に接続している正しいテキスト画素にまで広がることを防止することにより、除去信号の拡大幅を小さくしてもよい。例えば、除去する画素の色とそれに接続している画素の色との色差を求め、それがある閾値以上(色制限)であれば、接続していても除去対象としないようにすることで、テキスト画素の誤除去の防止策となる。
テキスト画素の除去の、接続性に基づいた伝達の具体的な処理例について図12を参照しながら説明する。テキストマップ補正部15は、テキストマップからテキスト画素を除去することを決定した後、接続標準に基づいた調査のもとに、テキストマップにおいて、当該画素に接続している全ての画素を非テキスト画素として再分類する’(S129)。
なお、上記の各処理例において、各種の閾値は予め定められている。
また、上記の後処理システムは、複写機、複合機、スキャナなどの装置に適用することができる。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
最後に、図1,2,4に示した各部は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、本発明に係る後処理システムは、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである上記画像処理のシステムの制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、当該システムに供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、本発明に係る後処理システムを通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
本発明は、複写機、スキャナ、複合機などの画像処理装置にも適用できる。
本発明の、テキストおよび背景の色の評価値に基づいてテキストマップを補正する後処理システムの構成を示すブロック図である。 図1に示す後処理システムが備える色評価部の構成を示すブロック図である。 テキストの色の評価値と背景色の評価値との距離に基づいて、テキストの色の評価値を破棄する処理の流れを示す図である。 テキスト色クリーンアップ処理部と背景色クリーンアップ処理部とを備える色評価部の構成を示す図である。 テキストマップ補正部の第1の処理例の流れを示す図である。 テキストマップ補正部の第2の処理例の流れを示す図である。 テキストマップ補正部の第3の処理例の流れを示す図である。 テキストマップ補正部の第4の処理例の流れを示す図である。 テキストマップ補正部の第5の処理例の流れを示す図である。 テキストマップ補正部の第6の処理例の流れを示す図である。 テキストマップ補正部の第7の処理例の流れを示す図である。 テキストマップ補正部の第8の処理例の流れを示す図である。
符号の説明
12 色評価部(第1分類マップ取得部、第1画素位置特定部)
15 テキストマップ補正部(第1画素位置特定部、第1色差算出部、第1補正部、第2色差算出部、第2補正部)
20 テキスト色評価部(第1評価色算出部、第2評価色算出部)
21 背景色評価部(第1評価色算出部、第2評価色算出部)
23 破棄処理部
40 背景色クリーンアップ処理部
42 テキスト色クリーンアップ処理部

Claims (14)

  1. デジタル画像の画素の分類方法であって、
    上記デジタル画像に対してテキスト区分アルゴリズムを適用して予め作成された、上記デジタル画像におけるテキストを示す画素、および非テキストを示す画素のいずれか一方を第1分類に属する画素として示すテキストマップを取得する第1ステップと、
    上記デジタル画像上の第1画素位置に対応する、上記テキストマップ上の第1画素位置を特定する第2ステップと、
    上記デジタル画像上の第1画素位置に対応する第1の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属する画素の色の代表値を算出する第3ステップと、
    上記第1の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第1色差を算出する第4ステップと、
    上記第1色差が第1閾値よりも小さい場合、上記テキストマップ上の上記第1画素位置の画素が上記第1分類に属することを示すように、上記テキストマップを補正する第5ステップと、
    を含むことを特徴とする画素の分類方法。
  2. 上記デジタル画像上の第1画素位置に対応する第2の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属さない画素の色の代表値を算出する第6ステップと、
    上記第2の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第2色差を算出する第7ステップと、
    上記第2色差が第2閾値よりも小さい場合、上記テキストマップ上の第1画素位置の画素が上記第1分類に属さないことを示すように、上記テキストマップを補正する第8ステップと、
    を含むことを特徴とする請求項1に記載の画素の分類方法。
  3. 上記テキストマップと上記デジタル画像とが同じ解像度であることを特徴とする請求項1または2に記載の画素の分類方法。
  4. 上記テキストマップと上記デジタル画像とが異なる解像度であることを特徴とする請求項1または2に記載の画素の分類方法。
  5. 上記第1分類に属する画素の色の代表値は、当該画素の色の平均値、当該画素の色の中央値、当該画素の色のトリム平均値、当該画素の色の重み平均値の何れかであることを特徴とする請求項1から4の何れか1項に記載の画素の分類方法。
  6. デジタル画像の画素を分類するシステムであって、
    上記デジタル画像に対してテキスト区分アルゴリズムを適用して予め作成された、上記デジタル画像におけるテキストを示す画素、および非テキストを示す画素のいずれか一方を第1分類に属する画素として示すテキストマップを取得する第1分類マップ取得部と、
    上記デジタル画像上の第1画素位置に対応する、上記テキストマップ上の第1画素位置を特定する第1画素位置特定部と、
    上記デジタル画像上の第1画素位置に対応する第1の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属する画素の色の代表値を算出する第1評価色算出部と、
    上記第1の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第1色差を算出する第1色差算出部と、
    上記第1色差が第1閾値よりも小さい場合、上記テキストマップ上の上記第1画素位置の画素が上記第1分類に属することを示すように、上記テキストマップを補正する第1補正部と、
    を備えることを特徴とするシステム。
  7. 上記デジタル画像上の第1画素位置に対応する第2の評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記第1分類に属さない画素の色の代表値を算出する第2評価色算出部と、
    上記第2の評価色と上記デジタル画像上の上記第1画素位置の画素の色との第2色差を算出する第2色差算出部と、
    上記第2色差が第2閾値よりも小さい場合、上記テキストマップ上の第1画素位置の画素が上記第1分類に属さないことを示すように、上記テキストマップを補正する第2補正部と、
    を備えることを特徴とする請求項に記載のシステム。
  8. 上記テキストマップと上記デジタル画像とが同じ解像度であることを特徴とする請求項6または7に記載のシステム。
  9. 上記テキストマップと上記デジタル画像とが異なる解像度であることを特徴とする請求項6または7に記載のシステム。
  10. 上記第1分類に属する画素の色の代表値は、当該画素の色の平均値、当該画素の色の中央値、当該画素の色のトリム平均値、当該画素の色の重み平均値の何れかであることを特徴とする請求項6から9の何れか1項に記載のシステム。
  11. デジタル画像の画素の分類方法であって、
    上記デジタル画像に対してテキスト区分アルゴリズムを適用して予め作成された、上記デジタル画像におけるテキストを示す画素を示すテキストマップを取得する第1ステップと、
    上記デジタル画像上の第1画素位置に対応する、上記テキストマップ上の第1画素位置を特定する第2ステップと、
    上記デジタル画像上の第1画素位置に対応するテキスト評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記テキストマップにおいてテキスト画素として分類されている画素の色の代表値を算出する第3ステップと、
    上記テキスト評価色と上記デジタル画像上の上記第1画素位置の画素の色との差分であるテキスト色差を算出する第4ステップと、
    上記デジタル画像上の第1画素位置に対応する背景評価色として、当該デジタル画像上の第1画素位置の近接領域に位置するとともに、上記テキストマップにおいてテキスト画素として分類されていない画素の色の代表値を算出する第5ステップと、
    上記背景評価色と上記デジタル画像上の上記第1画素位置の画素の色との背景色差を算出する第6ステップと、
    上記テキスト色差が第1閾値よりも小さく、かつ、上記テキストマップにおける第1画素位置の画素がテキスト画素として分類されていない場合、テキストマップにおいて、上記第1画素位置の画素をテキスト画素として補正する第7ステップと、
    上記背景色差が第2閾値よりも小さく、かつ、上記テキストマップにおける第1画素位置の画素がテキスト画素として分類されている場合、テキストマップにおいて、上記第1画素位置の画素を非テキスト画素として補正する第8ステップと、
    を含むことを特徴とする画素の分類方法。
  12. 上記テキストマップと上記デジタル画像とが同じ解像度であることを特徴とする請求項11に記載の画素の分類方法。
  13. 上記テキストマップと上記デジタル画像とが異なる解像度であることを特徴とする請求項11に記載の画素の分類方法。
  14. 上記背景評価色と上記テキスト評価色との差分である背景−テキスト色差を算出し、当該背景−テキスト色差が第3閾値よりも小さい場合に、上記第1画素位置の画素を非テキスト画素として補正する第9ステップをさらに含むことを特徴とする請求項11から13の何れか1項に記載の画素の分類方法。
JP2008045119A 2007-02-27 2008-02-26 デジタル画像の画素を分類する方法およびシステム Expired - Fee Related JP4498425B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US11/679,357 US8280157B2 (en) 2007-02-27 2007-02-27 Methods and systems for refining text detection in a digital image

Publications (2)

Publication Number Publication Date
JP2008211802A JP2008211802A (ja) 2008-09-11
JP4498425B2 true JP4498425B2 (ja) 2010-07-07

Family

ID=39715972

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008045119A Expired - Fee Related JP4498425B2 (ja) 2007-02-27 2008-02-26 デジタル画像の画素を分類する方法およびシステム

Country Status (2)

Country Link
US (1) US8280157B2 (ja)
JP (1) JP4498425B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008310817A (ja) * 2007-06-18 2008-12-25 Sharp Corp テキストマップの中からライン構造を検出する方法および画像処理装置

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8014596B2 (en) * 2007-10-30 2011-09-06 Sharp Laboratories Of America, Inc. Methods and systems for background color extrapolation
US9058522B2 (en) * 2013-03-15 2015-06-16 Arris Technology, Inc. Logo presence detection based on blending characteristics
US9165203B2 (en) * 2013-03-15 2015-10-20 Arris Technology, Inc. Legibility enhancement for a logo, text or other region of interest in video
US9805472B2 (en) * 2015-02-18 2017-10-31 Sony Corporation System and method for smoke detection during anatomical surgery
RU2697737C2 (ru) * 2016-10-26 2019-08-19 Федеральное государственное казенное военное образовательное учреждение высшего образования "Военный учебно-научный центр Военно-воздушных сил "Военно-воздушная академия имени профессора Н.Е. Жуковского и Ю.А. Гагарина" (г. Воронеж) Министерства обороны Российской Федерации Способ обнаружения и локализации текстовых форм на изображениях
US11776129B2 (en) * 2020-12-16 2023-10-03 Qualcomm Incorporated Semantic refinement of image regions

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000182053A (ja) * 1998-12-15 2000-06-30 Toshiba Corp 映像処理方法及び装置並びに映像処理手順を記録した記録媒体
JP2004048814A (ja) * 2003-11-04 2004-02-12 Sharp Corp 画像処理装置および画像処理方法
JP2004214908A (ja) * 2002-12-27 2004-07-29 Sharp Corp 画像処理装置、及びそれを備えた画像形成装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69223850T2 (de) * 1991-05-30 1998-05-14 Canon Kk Kompressionssteigerung bei graphischen Systemen
US7609402B2 (en) * 2001-01-19 2009-10-27 Flexiworld, Inc. Methods for universal data output
US7043080B1 (en) * 2000-11-21 2006-05-09 Sharp Laboratories Of America, Inc. Methods and systems for text detection in mixed-context documents using local geometric signatures
US6778700B2 (en) * 2001-03-14 2004-08-17 Electronics For Imaging, Inc. Method and apparatus for text detection
US8103104B2 (en) * 2002-01-11 2012-01-24 Hewlett-Packard Development Company, L.P. Text extraction and its application to compound document image compression
EP1514236A2 (en) * 2002-06-03 2005-03-16 Koninklijke Philips Electronics N.V. Adaptive scaling of video signals
US7085420B2 (en) * 2002-06-28 2006-08-01 Microsoft Corporation Text detection in continuous tone image segments
US7280673B2 (en) * 2003-10-10 2007-10-09 Intellivid Corporation System and method for searching for changes in surveillance video
CN1310182C (zh) * 2003-11-28 2007-04-11 佳能株式会社 用于增强文档图像和字符识别的方法和装置
US7362474B2 (en) * 2004-06-07 2008-04-22 Lite-On Technology Corp. Printing quality enhancement via graphic/text detection method in compression (JPEG) image
JP2006229817A (ja) * 2005-02-21 2006-08-31 Sharp Corp 下地検出方法、プログラム、記録媒体、画像処理装置及び画像形成装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000182053A (ja) * 1998-12-15 2000-06-30 Toshiba Corp 映像処理方法及び装置並びに映像処理手順を記録した記録媒体
JP2004214908A (ja) * 2002-12-27 2004-07-29 Sharp Corp 画像処理装置、及びそれを備えた画像形成装置
JP2004048814A (ja) * 2003-11-04 2004-02-12 Sharp Corp 画像処理装置および画像処理方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008310817A (ja) * 2007-06-18 2008-12-25 Sharp Corp テキストマップの中からライン構造を検出する方法および画像処理装置

Also Published As

Publication number Publication date
JP2008211802A (ja) 2008-09-11
US20080205753A1 (en) 2008-08-28
US8280157B2 (en) 2012-10-02

Similar Documents

Publication Publication Date Title
US10455117B2 (en) Image processing apparatus, method, and storage medium
JP4498422B2 (ja) 画素の分類方法および画像処理装置
JP4498425B2 (ja) デジタル画像の画素を分類する方法およびシステム
JP4340701B2 (ja) デジタル画像のテキストを識別する方法およびシステム
CN110008954B (zh) 一种基于多阈值融合的复杂背景文本图像提取方法及系统
US7379594B2 (en) Methods and systems for automatic detection of continuous-tone regions in document images
US8244031B2 (en) System and method for identifying and classifying color regions from a digital image
US6865290B2 (en) Method and apparatus for recognizing document image by use of color information
JP4745296B2 (ja) デジタル画像の領域分離方法および領域分離システム
US8121403B2 (en) Methods and systems for glyph-pixel selection
EP1327955A2 (en) Text extraction from a compound document
US10699110B2 (en) Image processing apparatus, image processing method, and non-transitory recording medium storing program for causing computer to execute image processing method
US9171224B2 (en) Method of improving contrast for text extraction and recognition applications
JP4522468B2 (ja) 画像判別装置、画像検索装置、画像検索プログラムおよび記録媒体
US9158987B2 (en) Image processing device that separates image into plural regions
JP4764903B2 (ja) テキストマップの中からライン構造を検出する方法および画像処理装置
US9064179B2 (en) Region extraction apparatus, region extraction method, and computer program product
US8223395B2 (en) Methods and systems for refining text color in a digital image
US8472716B2 (en) Block-based noise detection and reduction method with pixel level classification granularity
JP2007234007A (ja) デジタル画像の領域を検知する方法およびシステム
EP1619605B1 (en) Image processing device, image processing method, image processing program, and computer-readable recording medium containing the program for dealing with inverted characters
US8542931B2 (en) Ruled line extraction technique based on comparision results and indentifying noise based on line thickness
US8830545B2 (en) Document image processing system including pixel color substitution
JP6441772B2 (ja) 画像処理装置、画像形成装置、及び、画像処理方法
JP2009071736A (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091006

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100316

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100413

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130423

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4498425

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130423

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees