JP4618218B2 - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP4618218B2
JP4618218B2 JP2006237150A JP2006237150A JP4618218B2 JP 4618218 B2 JP4618218 B2 JP 4618218B2 JP 2006237150 A JP2006237150 A JP 2006237150A JP 2006237150 A JP2006237150 A JP 2006237150A JP 4618218 B2 JP4618218 B2 JP 4618218B2
Authority
JP
Japan
Prior art keywords
noise removal
specific color
color
edge
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006237150A
Other languages
English (en)
Other versions
JP2008059406A (ja
Inventor
万里子 ▲高▼橋
成浩 的場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2006237150A priority Critical patent/JP4618218B2/ja
Publication of JP2008059406A publication Critical patent/JP2008059406A/ja
Application granted granted Critical
Publication of JP4618218B2 publication Critical patent/JP4618218B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Picture Signal Circuits (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)

Description

この発明は、画像信号のノイズを除去する画像処理装置および画像処理方法に関するものである。
従来、画像信号のノイズ除去を行う画像処理方法として、画像信号の特定色領域内と特定色領域外の色に対して、異なる係数を適用するフィルタ処理によりノイズを除去する例が特許文献1に示されている。
また、シーン情報に基づいて画像信号の特定色領域を検出してノイズを除去する例が特許文献2に示されている。
特開2004−172987号公報(11頁、図15) 特開2002−101422号公報(5頁、図2)
ノイズ除去のフィルタ処理においては、周辺の画素値が反映されるものである。従来の画像処理装置および画像処理方法では、そのノイズ除去する際のフィルタ係数を選択する判断基準として、その画素が特定色領域の色信号の値をもつか否かのみを用いていた。このため、その画素の周辺画素の色信号の値が大きく変化する部分においては、フィルタを適用する画素と大きく異なる色信号の値をもつ周辺画素の影響を与えたくない場合でも、フィルタ係数をその画素の色信号のみで判断していたため、周辺画素の色信号の値の影響が大きいフィルタ処理を行ってしまうことがあり、特定色領域と特定色領域外との境界付近の画像がぼけてしまうことがあるという問題点があった。
この発明は、上記のような課題を解決するためになされたもので、その画素と周辺の画素の色信号の値の変化の大きさに対応したエッジ情報を考慮して、適切なノイズ除去を行うことで、特定色領域と特定色領域外との境界付近の画像がぼけるのを抑制したノイズ除去を実現することを目的とする。
この発明に係る画像処理装置および画像処理方法は、入力画像信号の注目画素の周辺におけるエッジの有無に関するエッジ情報を抽出するエッジ抽出部と、特定色領域情報に基づいて、注目画素の色信号が特定色領域内か特定色領域外かを判定し、この判定結果とエッジ抽出部が抽出したエッジ情報とを用いて注目画素に適用するノイズ除去処理を選択するノイズ除去選択部と、ノイズ除去選択部が選択したノイズ除去処理を注目画素に適用するノイズ除去処理部とを備えたものである。
この発明によれば、その画素と周辺の画素の色信号の値の変化の大きさに対応したエッジ情報を考慮して、適切なノイズ除去を行うようにしたので、特定色領域と特定色領域外との境界付近の画像がぼけるのを抑制したノイズ除去を実現することができる。
この発明に係る画像処理装置および画像処理方法の実施の形態について説明する。以下の実施の形態では、画像信号のノイズ除去にエッジ情報を用いることで、画像がぼけるのを抑制し、エッジをぼかさずに保存できるとともに、画像信号のノイズを効果的に除去する画像処理を行う。
実施の形態1.
この発明の実施の形態1では、入力される画像信号のノイズ除去処理対象の画素(以下、注目画素という)の色信号が特定色領域に含まれるとき、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用する画像処理装置10aについて説明する。
図1は、この発明の実施の形態1に係る画像処理装置10aの構成の一例を示すブロック図である。このブロック図に基づいて、各ブロックの機能の概要を説明する。
図1において、エッジ抽出部11aは、入力画像信号の注目画素に対するエッジ抽出範囲内におけるエッジの有無に関するエッジ情報を抽出する。ノイズ除去選択部12aは、特定色領域情報に基づいて、注目画素の色信号が特定色領域内か特定色領域外かを判定し、エッジ抽出部が抽出したエッジ情報を用いて前記注目画素に適用するノイズ除去処理を選択する。ノイズ除去処理部13aは、ノイズ除去選択部が選択したノイズ除去処理を注目画素に適用する。
また、図2は、この発明の実施の形態1に係る画像処理装置10aのノイズ除去選択部12aの構成の一例を示すブロック図であり、ノイズ除去選択部12aは、特定色領域判定手段21aとノイズ除去判定手段22から構成される。
図2において、特定色領域判定手段21aは、入力画像信号の注目画素の色信号が、特定色領域情報に基づいて、特定色領域内にあるか特定色領域外にあるかを判定する。ノイズ除去判定手段22は、この特定色領域判定手段21aが判定した注目画素に対して、色信号が特定色領域内にある注目画素に適用する特定色ノイズ除去と特定色領域外にある注目画素に適用する通常ノイズ除去のいずれか一つを選択し、判定情報とする。ただし、このノイズ除去判定手段22は、特定色領域判定手段21aが出力した注目画素に対する特定色領域内か特定色領域外かの判定とともに、エッジ抽出部11aが抽出したエッジ情報を用いて、特定色ノイズ除去か通常ノイズ除去かを選択する。そして、ノイズ除去処理部13aは、このノイズ除去選択部12aが選択した判定情報から特定色ノイズ除去と通常ノイズ除去のいずれか一つのノイズ除去処理を適用して注目画素からノイズ除去することになる。
次に、この画像処理装置10aの各部の動作について、図3のフローチャートに関連付けて説明する。ここでは、入力画像信号と出力画像信号は、輝度Y、色差Cb、Crの色信号(色空間成分)から構成されるものとする。
まず、図1におけるエッジ抽出部11aは、入力画像信号を入力とし、注目画素の周辺の横m画素、縦n画素、合計m×n画素の周辺画素からなる設定範囲(エッジ抽出範囲という)内にエッジが存在するか存在しないかをエッジ情報として抽出する(ステップST101)。つまり、エッジ情報とは、注目画素の周辺(エッジ抽出範囲)におけるエッジ有無を示す情報である。ここで、mおよびnは、それぞれ整数で、画像サイズに対して、0<m<水平画素数、0<n<垂直画素数を満たすものとする。なお、このエッジ抽出範囲の形状は、矩形でなくてもよい。
エッジ情報を求める方法の一例として、入力画像信号の輝度Y値の分布に基づいてエッジを抽出する方法について説明する。エッジ抽出部11aは、注目画素の周辺領域のエッジ抽出範囲内でY値の信号分布のヒストグラムを求め、Y値が大きいところ(最大値寄り)と小さいところ(最小値寄り)に偏って分布して中間値が少なく二極化した場合には、注目画素の周辺領域にエッジが存在する(エッジを含む確率が高い)と判定し、その他の場合はエッジが存在しない(エッジを含む確率が低い)と判定し、エッジ情報とする。
より具体的な例としては、エッジ抽出範囲内の周辺画素におけるY値の信号分布の最大値と最小値から計算される各所定比率の内分点として第1の閾値T1および第2の閾値T2(<T1)を設定することで、Y値の大きいところとする第1の閾値T1以上の画素数が所定の個数以上、かつ、Y値の小さいところとする第2の閾値T2以下の画素数が所定の個数以上ある場合には、注目画素の周辺領域内にエッジが存在すると判定する。この二つの所定の個数は、同値でなくてもよく、エッジ抽出範囲がm×n画素の矩形領域として全体画素数が決まっていれば、それぞれ所定の割合の画素数として設定することもできる。
また、同様に、入力画像信号の色差Cb値およびCr値の分布に基づいてエッジ情報を求めてもよい。この場合、エッジ抽出部11aは、注目画素の周辺領域のエッジ抽出範囲内でCb値およびCr値の信号分布を求め、エッジが存在するか存在しないかを判定し、エッジ情報としてもよい。さらに、Y値のエッジ情報と、Cb値およびCr値のエッジ情報を重み付けして、注目画素の周辺領域にエッジが存在するか否かを総合的に判定し、エッジ情報としても構わない。要するに、エッジ情報とは、色信号の変化の大きい画素が存在するか否かを示す情報であり、どの色信号から得てもよい。
次に、図1におけるノイズ除去選択部12aの特定色領域判定手段21aは、入力画像信号の注目画素の色信号が、特定色領域情報に基づく特定色領域内にあるか、特定色領域外にあるかを判定する(ステップST102)。ここで、特定色領域とは、特定色領域情報としてY値、Cb値、Cr値にそれぞれ設定された上限値および下限値を境界とする範囲にそれぞれ収まる特定色信号の領域とする。各境界値上の色信号を特定色領域内外のいずれとして扱うかは、あらかじめ設定しておけばよい。
特定色領域判定手段21aにおいて、この注目画素の色信号が特定色領域外にあると判定した場合(ステップST102がNo)には、ノイズ除去選択部12aのノイズ除去判定手段22は、特定色領域外にある通常の注目画素に対しては通常ノイズ除去の選択をノイズ除去選択部12aの判定情報とし、その結果としてステップST104に進む。
一方、特定色領域判定手段21aにおいて、この注目画素の色信号が特定色領域内にあると判定した場合(ステップST102がYes)、ノイズ除去選択部12aのノイズ除去判定手段22は、エッジ抽出部11aから入力されたエッジ情報を参照し、注目画素の周辺領域にエッジが存在するか、存在しないかを判定する(ステップST103)。
ここで、ノイズ除去判定手段22が、この注目画素の周辺領域にエッジが存在すると判定した場合(ステップST103がYes)には、色信号が特定色領域内にあっても特定色領域外と同じ通常ノイズ除去の選択をノイズ除去選択部12aの判定情報とし、その結果としてステップST104に進む。一方、この注目画素の周辺領域にエッジが存在しないと判定した場合(ステップST103がNo)には、特定色ノイズ除去の選択をノイズ除去選択部12aの判定情報とし、その結果としてステップST105に進む。
このノイズ除去選択部12aにおいて、特定色領域判定手段21aがステップST102の特定色領域判定を行って特定色領域内にある注目画素に対し、さらにノイズ除去判定手段22がステップST103の注目画素周辺のエッジ有無を判定することで、特定色領域内にあっても、その注目画素周辺にエッジが存在するときには、エッジのぼけをより小さく抑制して保存できる通常ノイズ処理を適用するとともに、エッジが存在しないときには、ノイズ除去の効果が大きい特定色ノイズ除去を適用することができる。
そして、図1におけるノイズ除去処理部13aは、入力画像信号に対して、ノイズ除去選択部12aから入力された判定情報に基づいてノイズ除去を適用し、出力画像信号として出力する。より具体的には、通常ノイズ除去が選択されたステップST102がNoのとき、またはステップST103がYesのときには、入力画像信号に通常ノイズ除去を適用する(ステップST104)。また、特定色ノイズ除去が選択されたステップST103がNoのときには、入力画像信号に特定色ノイズ除去を適用する(ステップST105)。
ここで、ノイズ除去は、横a画素、縦b画素の、合計a×b画素の領域サイズのローパスフィルタで行う。ここで、aおよびbは、それぞれ整数で、画像サイズに対して、0<a<水平画素数、0<b<垂直画素数を満たすものとする。このa×b画素の領域サイズは、エッジ抽出部11aのm×n画素のエッジ抽出範囲のサイズと必ずしも一致させる必要はない。
ノイズ除去部13aは、特定色領域のノイズ除去に適用するローパスフィルタの係数と、通常のノイズ除去に適用するローパスフィルタの係数を変えることで、ノイズ除去の効果(強度という)の異なるローパスフィルタを備え、ノイズ除去選択部12aから入力された判定情報に基づく適切なローパスフィルタを選択して入力画像信号に対してノイズ除去を行う。なお、ノイズを除去するローパスフィルタは、Y値に対して適用するだけでもよいが、Cb値およびCr値に対して適用してもよく、さらに、両方を組み合わせて、Y値、Cb値、Cr値のすべてに対してそれぞれ適用しても構わない。
このように、この発明の実施の形態1に係る画像処理装置では、特定色領域判定を行って特定色領域内にある注目画素に対し、さらに注目画素周辺のエッジ有無を判定することで、特定色領域内にあっても、その注目画素周辺にエッジが存在するときには、特定色領域外の画素に対するノイズ処理と同じ通常ノイズ処理を適用することで、エッジをぼかさないようにするとともに、エッジが存在しないときには、ノイズ除去の効果が大きい特定色ノイズ除去を適用することで効果の高いノイズ除去を実現する。
また、エッジ抽出部11aが抽出するエッジ情報は、注目画素の周辺領域で、エッジの有無、すなわちエッジが存在するか存在しないかの2値で説明を行ったが、各画素におけるエッジらしさの確率として、例えば、線形一次微分フィルタであるSobelフィルタを用いて演算した値をエッジ情報としてもよい。このように、エッジ情報を確率として表した場合には、所定の閾値(入力信号は図示せず)を設けて、例えば、その閾値以上であればエッジが存在し、閾値未満であればエッジが存在しないと判定すればよい。なお、エッジ抽出部11aのエッジ抽出手段としては、Sobelフィルタに限らず、例えば、他の一次微分フィルタのPrewittフィルタ、Robertsフィルタや、二次微分フィルタのLaplacianフィルタなどを適用しても構わない。
ここでは、エッジ情報は、エッジらしさの確率に対して、エッジ抽出部11aにおいて所定の閾値によるエッジの有無の2値化判定が行われるものとして説明しているが、ノイズ除去判定手段22にエッジらしさの確率のままで入力し、同様の所定の閾値によるエッジの有無の2値化判定を行わせても構わない。
なお、この発明の実施の形態1において、図3のフローチャートにおけるエッジ情報を抽出するステップST101は、特定色領域を判定するステップST102の前に行っているが、ステップST102ではエッジ情報が使用されないので、エッジ情報の抽出ステップはその後でもよく、要するに、抽出したエッジ情報が使用されるステップST103までに行えばよい。例えば、ステップST103の直前に配置を入れ替えても構わない。
以上説明したように、この発明の実施の形態1における画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、注目画素の周辺にエッジの存在する領域ではエッジのぼけを抑制して、解像度を保ち、エッジの存在しない特定色領域に対して適切なノイズ除去を行う効果を得ることができる。
実施の形態2.
この発明の実施の形態2は、この発明の実施の形態1に係る画像処理装置10aのノイズ除去選択部12aの内部構成を変更したノイズ除去選択部12bを備えた画像処理装置10bとして構成される。
この発明の実施の形態2では、この発明の実施の形態1に対して、エッジ情報に基づいて注目画素と周辺画素との色信号から算出した統計値、例えば色信号の平均値や最頻値などが特定色領域に含まれるか否かの判定を行うことによって、この算出した統計値が特定色領域に含まれるとき、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用する画像処理装置について説明する。
この発明の実施の形態2に係る画像処理装置10bは、この発明の実施の形態1で示した図1と同様の構成であるが、ノイズ除去選択部12aをノイズ除去選択部12bに置き換えた構成となっている。なお、この発明の実施の形態1の図1のブロック図の当該ブロックと変更点がなく、同一符号を付したエッジ抽出部11aおよびノイズ除去処理部13aは、同一または相当の機能を果たすものとして、説明を省略する。
この発明の実施の形態2におけるノイズ除去選択部12bは、エッジ抽出部11aが抽出したエッジ情報と特定色領域情報に基づいて、注目画素に適用するノイズ除去処理を選択する。
また、図4は、この発明の実施の形態2に係る画像処理装置10bのノイズ除去選択部12bの構成の一例を示すブロック図であり、ノイズ除去選択部12bは、特定色領域判定手段21bとノイズ除去判定手段22から構成される。なお、この発明の実施の形態1の図2のブロック図の当該ブロックと変更点がなく、同一符号を付したノイズ除去判定手段22は、同一または相当の機能を果たすものとする。
図4において、特定色領域判定手段21bは、エッジ抽出部11aが抽出したエッジ情報に基づき前記注目画素に対する設定範囲(特定色判定範囲という)を設定し、この特定色判定範囲内における周辺画素および注目画素の色信号の統計値が、特定色領域情報に基づいて、特定色領域内か特定色領域外かを判定する。この特定色判定範囲は、エッジ抽出部11aのエッジ抽出範囲のサイズ、ノイズ除去処理部13aのローパスフィルタのサイズと必ずしも一致させる必要はない。ノイズ除去判定手段22は、この特定色領域判定手段21bが判定した注目画素に対して、色信号が特定色領域内にある注目画素に適用する特定色ノイズ除去と特定色領域外にある注目画素に適用する通常ノイズ除去のいずれか一つを選択し、判定情報とする。ただし、ノイズ除去判定手段22は、特定色領域判定手段21bが出力した特定色判定範囲における統計値に対する特定色領域内か特定色領域外かの判定と、エッジ抽出部11aが抽出したエッジ情報を用いて、特定色ノイズ除去か通常ノイズ除去かを選択する。そして、ノイズ除去処理部13aは、このノイズ除去選択部12bが選択した判定情報から特定色ノイズ除去と通常ノイズ除去のいずれか一つのノイズ除去処理を適用して注目画素からノイズ除去することになる。
次に、この画像処理装置10bの各部の動作について、図3のフローチャートに関連付けて説明する。この図3のフローチャートにおいて、この発明の実施の形態1の画像処理装置10aの各部と異なる動作を行う部分は、ノイズ除去選択部12bに係る処理を示すステップST102である。その他の部分の同一または相当の動作説明については、省略する。
図1、図4におけるノイズ除去選択部12bの特定色領域判定手段21bは、入力画像信号の注目画素と、エッジ抽出部11aが抽出したエッジ情報に基づき設定される特定色判定範囲の周辺画素との色信号の統計値を算出し、この統計値が、特定色領域情報に基づく特定色領域内にあるか、特定色領域外にあるかを判定する(ステップST102)。
このように、ノイズ除去選択部12bは、エッジ情報に基づいた特定色領域判定手段21bの判定とノイズ除去判定手段22の判定とによって、ノイズ除去を適切に選択する。つまり、特定色判定範囲の周辺画素との色信号の統計値に対して判定した特定色領域内にある注目画素に対し、さらに注目画素周辺のエッジ有無を判定することで、特定色領域内にあっても、その注目画素周辺にエッジが存在するときには、特定色領域外の画素に対するノイズ処理と同じ通常ノイズ処理を選択する判定情報を出力し、エッジが存在しないときには、ノイズ除去の効果が大きい特定色ノイズ除去を選択する判定情報を出力することで、ノイズ除去部13aのノイズ除去処理で特定色領域内の色信号をもつ注目画素周辺のエッジをぼかさないように保存しながら効果の高いノイズ除去を実現する。
また、この特定色領域判定手段21bは、エッジ情報を参照することで、エッジ情報に基づいて統計値の算出に適用する周辺画素の色信号の特定色判定範囲を変更することができるようになる。例えば、エッジが周辺になければ、特定色判定範囲を広くし、エッジが周辺にあれば、特定色判定範囲を狭くすることで、色信号の統計値へのエッジの影響を抑制する。
また、先に説明したこの発明の実施の形態1の画像処理装置10aのノイズ除去選択部12aでは、特定色領域判定手段21aにおいて、注目画素の色信号に対して特定色領域内にあるか、特定色領域外にあるかを判定していた。しかし、この発明の実施の形態2に係る画像処理装置10bのノイズ除去選択部12bでは、特定色領域判定手段21bにおいて、注目画素と、エッジ情報に基づき設定される特定色判定範囲の周辺画素との色信号の統計値、先に説明したように、例えば色信号の平均値や最頻値などに対して特定色領域内にあるか、特定色領域外にあるかを判定する。あるいは、この色信号の統計値は、注目画素との距離で重みを変えた重み付け平均値としても構わない。このような統計値を用いることで、局所的に大きなノイズの影響を抑制する。
以上説明したように、この発明の実施の形態2に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、この発明の実施の形態1における画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態2に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて統計値の算出に用いる周辺画素の特定色判定範囲を設定して、注目画素と周辺画素との色信号から算出した統計値が特定色領域内にあるか特定色領域外にあるかを判定し、局所的なノイズの影響を抑制するようにしたので、注目画素単独で判定するより特定色領域の判定精度を向上させる効果を得ることができる。
実施の形態3.
この発明の実施の形態3では、この発明の実施の形態1に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えるとともに、さらに、周辺画素情報も参照してノイズ除去を切り替えるようにした画像処理装置10cについて説明する。
図5は、この発明の実施の形態3に係る画像処理装置10cの一例を示すブロック図であり、この発明の実施の形態2のエッジ抽出部11aをエッジ抽出部11bに、また、ノイズ除去選択部12bをノイズ除去選択部12cに置き換えた構成となっている。このブロック図に基づいて、各ブロックの機能の概要を説明する。なお、この発明の実施の形態2の図1のブロック図の当該ブロックと変更点がなく、同一符号を付したノイズ除去処理部13aは、同一または相当の機能を果たすものとして、説明を省略する。
図5におけるエッジ抽出部11bとノイズ除去選択部12cのブロックは、より詳細に内部構成を示す図6および図7により機能の概要を説明する。
まず、図6は、この発明の実施の形態3に係る画像処理装置10cのエッジ抽出部11bの構成の一例を示すブロック図であり、エッジ抽出手段31とエッジ情報記憶手段32から構成される。
図6におけるエッジ抽出部11bのエッジ抽出手段31は、入力画像信号の注目画素に対する周辺画素のエッジ抽出範囲内においてエッジが存在するか存在しないかを示すエッジ情報を抽出する。エッジ情報記憶手段32は、エッジ抽出手段31が抽出したエッジ情報を周辺画素情報として記憶し、この注目画素に対するエッジ情報とともに周辺画素に対するエッジ情報、すなわち周辺画素情報を出力する。
次に、図7は、この発明の実施の形態3に係る画像処理装置10cのノイズ除去選択部12cの構成の一例を示すブロック図であり、ノイズ除去選択部12cは、特定色領域判定手段21cとノイズ除去判定手段22から構成される。なお、この発明の実施の形態2の図4のブロック図の当該ブロックと変更点がなく、同一符号を付したノイズ除去判定手段22は、同一または相当の機能を果たすものとする。
図7におけるノイズ除去選択部12cの特定色領域判定手段21cは、入力画像信号の注目画素に対してエッジ抽出部11aが抽出したエッジ情報とエッジ抽出部11aが記憶した特定色判定範囲内の周辺画素情報とに基づく該当画素の色信号の統計値が、特定色領域情報に基づいて、特定色領域内にあるか特定色領域外にあるかを判定する。ノイズ除去判定手段22は、この特定色領域判定手段21cが判定した注目画素に対して、色信号が特定色領域内にある注目画素に適用する特定色ノイズ除去と特定色領域外にある注目画素に適用する通常ノイズ除去のいずれか一つを選択し、判定情報とする。ただし、ノイズ除去判定手段22は、特定色領域判定手段21bが出力した特定色判定範囲における統計値に対する特定色領域内か特定色領域外かの判定と、エッジ抽出部11aが抽出したエッジ情報を用いて、特定色ノイズ除去か通常ノイズ除去かを選択する。そして、ノイズ除去処理部13aは、このノイズ除去選択部12bが選択した判定情報から特定色ノイズ除去と通常ノイズ除去のいずれか一つのノイズ除去処理を適用して注目画素からノイズ除去することになる。
次に、この画像処理装置10cの各部の動作について、図8のフローチャートに関連付けて説明する。この図8のフローチャートにおいて、この発明の実施の形態1の画像処理装置10aの各部と異なる動作を行う部分は、エッジ抽出部11bに係る処理を示すステップST201(追加)、およびノイズ除去選択部12cに係る処理を示すST102である。その他の同一または相当の部分の動作説明については、省略する。
まず、図5、図6におけるエッジ抽出部11bのエッジ抽出手段31は、入力画像信号を入力とし、注目画素の周辺画素からなるエッジ抽出範囲内にエッジが存在するか存在しないかをエッジ情報として抽出する(ステップST101)。
次に、エッジ抽出部11bのエッジ情報記憶手段32は、エッジ抽出手段31が抽出したエッジ情報を周辺画素情報として記憶する。これにより、過去に抽出されたエッジ情報を記憶したエッジ情報記憶手段32は、記憶したエッジ情報を周辺画素情報として出力し、参照可能とする(ステップST201)。
また、図5、図7におけるノイズ除去選択部12cの特定色領域判定手段21cは、エッジ抽出部11bのエッジ抽出手段31が抽出したエッジ情報に基づいて参照する周辺画素の特定色判定範囲を設定し、注目画素とエッジ抽出部11bのエッジ情報記憶手段32が記憶した特定色判定範囲内の周辺画素情報を参照してエッジが存在しなかった周辺画素のみを対象として色信号の統計値を算出し、特定色領域内にあるか特定色領域外にあるかを判定する(ステップST102)。
このノイズ除去選択部12cの特定色領域判定手段21cは、この発明の実施の形態2に係る画像処理装置10bのノイズ除去選択部12bの特定色領域判定手段21bと同様に注目画素と周辺画素との色信号の統計値を算出するが、エッジ抽出部11aが抽出したエッジ情報とエッジ抽出部11aが記憶した周辺画素情報とに基づいて参照する周辺画素の特定色判定範囲を設定するため、エッジ抽出部11aが抽出したエッジ情報だけに基づいて周辺画素の範囲を設定するよりも、周辺画素情報からエッジが存在しなかった周辺画素のみを統計値の算出対象とすることができ、特定色領域の判定精度を向上させ、その後のノイズ除去の選択にもエッジの存在の影響を抑制することができる。
ここで、特定色判定範囲は、その大きさや形状、および注目画素に対する配置などがエッジ情報と周辺画素情報に基づいて設定され、例えば、周辺にエッジが存在する画素が最小限となるようにしてもよい。また、色信号の統計値の算出に当たっては、周辺にエッジが存在する画素が特定色判定範囲に含まれても、周辺画素情報を参照することで対象画素から外すことでも、エッジの存在の影響を抑制できるので、エッジ情報に関わらず特定色判定範囲の大きさ、形状、配置の設定を逐次変更せずに固定とし、すなわち、その設定のために使用していた特定色領域判定手段21cに入力されるエッジ情報を不要とした構成も、この実施の形態3の変形例に含まれる。
このように、この発明の実施の形態3に係る画像処理装置では、この発明の実施の形態3と同様に、ノイズ除去選択部12cの特定色領域判定手段21cにおいて算出した色信号の統計値を用いることで、局所的なノイズの影響を抑制することができる。また、このノイズ除去選択部12cの特定色領域判定手段21bは、エッジ情報を参照することで、エッジ情報に基づいて統計値の算出に適用する周辺画素の色信号の特定色判定範囲を設定し、さらに、設定された特定色判定範囲内においても、周辺画素情報を参照することで、統計値の算出に適用する周辺画素をエッジが存在しなかった画素に限定し、エッジの存在の影響を抑制することができる。
なお、この発明の実施の形態3に係る画像処理装置では、エッジ抽出部11bのエッジ抽出手段31が抽出したエッジ情報をエッジ情報記憶手段32が周辺画素情報として逐次記憶していく処理手順で説明を行った。エッジ情報記憶手段32から出力される周辺画素情報は、エッジ情報を記憶することで設定されるが、注目画素より後方に位置するエッジ情報が抽出されていない画素に対する周辺画素情報は、不定の状態にある。よって、注目画素より後方に位置する不定の状態にある画素は、ノイズ除去選択部12cの特定色領域判定手段21cにおける特定色判定範囲内の周辺画素の色信号に基づく統計値の算出の対象画素から外すようにする。このため、エッジ情報記憶手段32が記憶する各画素に対する周辺のエッジ有無を示すエッジ情報は、初期値として、不定の状態であることを示す値を用意しても、または統計値算出の対象画素から外されるようにエッジがあることを示す値を設定しておいてもよい。なお、特定色判定範囲内において、注目画素より後方に位置する画素を少なくするために、例えば、注目画素を特定色判定範囲の中央でなく、下方に配置してもよい。
また、この発明の実施の形態3の一変形例として、エッジ抽出部11bが注目画素に対する特定色判定範囲内の周辺画素情報(エッジ情報)を出力できるように、注目画素に対する周辺画素情報として必要なエッジ情報を抽出するための最小限のバッファメモリ(図示せず)を備えておき、そのバッファメモリに蓄積した画像信号をプリスキャンすることで、周辺画素情報として出力されるエッジ情報を先行抽出してエッジ情報記憶手段32に記憶しておき、周辺画素情報が不定の状態で出力されることを解消するようにしてもよい。このバッファメモリは、ノイズ除去選択部12cの特定色領域判定手段21cがエッジ情報に基づいて特定色判定範囲を設定するので、少なくとも特定色判定範囲とされうる周辺画素の周辺画素情報(エッジ情報)を抽出するために必要となる周辺画素を蓄積できるものとする。さらに、画像信号を蓄積するフレームメモリ(図示せず)を備えた構成を採用できる場合には、画像信号をプリスキャンして画像フレーム全体のエッジ情報を先行抽出してエッジ情報記憶手段32に記憶する手順を採用しても構わない。
以上説明したように、この発明の実施の形態3に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、この発明の実施の形態1に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態3に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて統計値の算出に用いる周辺画素の特定色判定範囲を設定して、注目画素と周辺画素との色信号から算出した統計値が特定色領域内にあるか特定色領域外にあるかを判定し、局所的なノイズの影響を抑制するようにしたので、この発明の実施の形態2に係る画像処理装置と同様の効果を得ることができる。
さらに、この発明の実施の形態3に係る画像処理装置は、周辺画素情報に基づいて特定色判定範囲のエッジが存在しない周辺画素のみを統計値の算出対象として、注目画素と周辺画素との色信号から算出した統計値が特定色領域内にあるか特定色領域外にあるかを判定し、局所的なノイズの影響を抑制するようにしたので、エッジが存在した周辺画素を含めて色信号の統計値を算出して判定するよりも特定色領域の判定精度を向上させる効果を得ることができる。
実施の形態4.
この発明の実施の形態4では、この発明の実施の形態3に対して、入力される画像信号の色差成分を最初に色差低減処理しておく画像処理装置10dについて説明する。
図9は、この発明の実施の形態4に係る画像処理装置10dの一例を示すブロック図であり、この発明の実施の形態3のブロック図に色差低減処理部14を加えた構成となっている。このブロック図に基づいて、各ブロックの機能の概要を説明する。なお、この発明の実施の形態3の図5のブロック図の当該ブロックと変更点がなく、同一符号を付したエッジ抽出部11b、ノイズ除去選択部12cおよびノイズ除去処理部13aは、同一または相当の機能を果たすものとして、説明を省略する。なお、色差低減処理部14は、エッジ抽出部11b、ノイズ除去選択部12cおよびノイズ除去処理部13aの外部にあるものとして共有化して示されているが、エッジ抽出部11b、ノイズ除去選択部12cおよびノイズ除去処理部13aのそれぞれが独立に色差低減処理部14を備えた構成であっても構わない。あるいは、エッジ抽出部11b、ノイズ除去選択部12cおよびノイズ除去処理部13aのうち1つが独立に色差低減処理部14を備え、残る2つは共有化したまま使用する構成であっても構わない。
図9における色差低減処理部14は、エッジ抽出部11b、ノイズ除去選択部12cおよびノイズ除去処理部13aに入力画像信号に対して色差低減処理を前処理として行う。ここで、色差低減処理の適用によって輝度Y、色差Cb、Crの成分からなる画像信号の色信号(色空間成分)には変更はなく、輝度Yは無変換のまま、色差Cb、Crの成分が色差低減処理された入力画像信号に対して、この発明の実施の形態3に相当する処理を行ってノイズ除去が行われる。
ノイズ除去の前処理として色差低減処理を行うことで、色差信号のノイズが抑圧され、この後の色差信号へのノイズ除去の効果を向上させることができる。このような前処理は、特に高感度画像に現れやすいノイズの抑圧に有効である。この色差低減処理部14で行われる色差低減処理(色差低減方式)の一例を説明する。なお、ここでは色差信号Cb値およびCr値は、例えば、−128から+127のような正負の値をとるものとする。
色差信号Cb値およびCr値に適用する色差低減処理について、色差信号Cb値に適用する場合について説明する。まず、横x画素、縦y画素、合計x×y画素の局所領域における色差信号Cb値の平均値Aveをそれぞれ算出する。ここで、xおよびyは、それぞれ整数で、画像サイズに対して、0<x<水平画素数、0<y<垂直画素数を満たすものとする。次に、注目画素のCb値は、その絶対値と正負を示す符号信号を分けて保存し、Cb値の絶対値から平均値Aveを減算する。さらに、この平均値Aveを減算した絶対値を係数倍する。この係数の値は、0.0〜1.0までの値とし、平均値Aveに近い絶対値、すなわち平均値Aveを減算されて0に近くなる絶対値では係数の値を小さくし、平均値Aveから離れた絶対値ほど係数の値を大きくなるようにして、平均値Aveからの距離に応じて滑らかに変化させる。最後に、この係数倍されたCb値の絶対値に平均値Aveを加算して、保存しておいた符号信号を付加する。なお、色差信号Cr値についても同様に処理すればよい。このように、入力画像信号の色差信号Cb値およびCr値に対して、この色差低減処理を画素ごとに適用してから後段のノイズ除去の処理を行う。
次に、この画像処理装置10dの各部の動作について、図10のフローチャートに関連付けて説明する。この図10のフローチャートにおいて、この発明の実施の形態3の画像処理装置10cの各部と異なる動作を行う部分は、色差低減処理部14に係る処理を示すステップST200(追加)である。その他の同一または相当の部分の動作説明については、省略する。
図9における色差低減処理部14は、入力画像信号の色差Cb値、Cr値に対して色差低減処理を行う(ステップST200)。輝度Y値は無変換のまま、色差低減された色差Cb値、Cr値からなる画像信号に対して、この発明の実施の形態3と同様にステップST101、ST201、ST102からST105の処理を行う。
このように、この発明の実施の形態4に係る画像処理装置では、ノイズ除去の前処理として色差低減処理を適用して色差信号のノイズを抑圧するようにしたので、より効果的にノイズ除去が行える。
以上説明したように、この発明の実施の形態4に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、この発明の実施の形態1に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態4に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて統計値の算出に用いる周辺画素の特定色判定範囲を設定して、注目画素と周辺画素との色信号から算出した統計値が特定色領域内にあるか特定色領域外にあるかを判定し、局所的なノイズの影響を抑制するようにしたので、この発明の実施の形態2に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態4に係る画像処理装置は、周辺画素情報に基づいて特定色判定範囲のエッジが存在しない周辺画素のみを統計値の算出対象として、注目画素と周辺画素との色信号から算出した統計値が特定色領域内にあるか特定色領域外にあるかを判定し、局所的なノイズの影響を抑制するようにしたので、この発明の実施の形態3に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態4に係る画像処理装置は、入力画像信号の色差信号に対して色差低減処理を適用してから、この発明の実施の形態3に係る画像処理装置の処理を行うようにしたので、ノイズが抑圧された色差信号に基づきより精度の高いノイズ除去の効果を得ることができる。
実施の形態5.
この発明の実施の形態5では、色空間変換部15を設けて、この発明の実施の形態1に係る画像処理装置10aのノイズ除去選択部12aへ入力される画像信号を、最初に色空間変換部15で色空間変換してから処理するノイズ除去選択部12dを備えた画像処理装置10eについて説明する。
図11は、この発明の実施の形態5に係る画像処理装置10eの一例を示すブロック図であり、この発明の実施の形態1のブロック図(図1)のノイズ除去選択部12aの前段に色空間変換部15を加えた構成となっている。このブロック図に基づいて、各ブロックの機能の概要を説明する。なお、この発明の実施の形態1の図1のブロック図の当該ブロックと変更点がなく、同一符号を付したエッジ抽出部11aおよびノイズ除去処理部13aは、同一または相当の機能を果たすものとして、説明を省略する。なお、色空間変換部15は、ノイズ除去選択部12dの外部にあるものとして示されているが、ノイズ除去選択部12dが色空間変換部15を備えた構成であっても構わない。
図11における色空間変換部15は、入力画像信号に色空間変換を適用する。ノイズ除去選択部12dは、色空間変換部15が色空間変換した画像信号(色情報)から、このエッジ抽出部11aが抽出したエッジ情報と特定色領域情報に基づいて、注目画素に適用するノイズ除去処理を選択する。
また、このノイズ除去選択部12dは、図2におけるノイズ除去選択部12aと同様の内部構成である。ただし、特定色領域判定手段21aは、色空間変換部15が色空間変換した色空間の特定色領域情報に基づいて、色空間変換部15が色空間変換した画像信号の注目画素の色信号が、特定色領域内にあるか特定色領域外にあるかを判定する。
次に、この画像処理装置10eの各部の動作について、図12のフローチャートに関連付けて説明する。この図12のフローチャートにおいて、この発明の実施の形態1の画像処理装置10aの各部と異なる動作を行う部分は、色空間変換部15に係る処理を示すステップST301(追加)と、ノイズ除去選択部12dの特定色領域判定手段21aに係る処理を示すステップST102である。その他の同一または相当の部分の動作説明については、省略する。
まず、図11における色空間変換部15は、入力画像信号に対して色空間変換を行う(ステップST301)。
また、図11におけるエッジ抽出部11aは、入力画像信号を入力とし、注目画素の周辺領域のエッジ抽出範囲内にエッジが存在するか存在しないかをエッジ情報として抽出する(ステップST101)。
次に、図11におけるノイズ除去選択部12dの特定色領域判定手段21aは、色空間変換部15が色空間変換した画像信号の注目画素の色信号が、色空間変換部15が色空間変換した色空間の特定色領域情報に基づく特定色領域内にあるか、特定色領域外にあるかを判定する(ステップST102)。以下、この発明の実施の形態1と同様にステップST103からST105の処理を行う。
このように、この発明の実施の形態5に係る画像処理装置では、色空間変換を適用することで、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じて特定色領域を判定でき、精度の高いノイズ除去が可能となる。
なお、この発明の実施の形態5において、図12のフローチャートにおける入力画像信号に対して色空間変換を行うステップST301は、エッジ情報を抽出するステップST101の前に行っているが、ステップST101ではエッジ情報が使用されないので、エッジ情報の抽出ステップはその後でもよく、要するに、特定色領域を判定するステップST102までに行えばよい。例えば、ステップST102の直前に配置を入れ替えても構わない。
また、図12のフローチャートにおけるエッジ情報を抽出するステップST101は、この発明の実施の形態1と同様に、特定色領域を判定するステップST102の前に行っているが、ステップST102ではエッジ情報が使用されないので、エッジ情報の抽出ステップはその後でもよく、要するに、抽出したエッジ情報が使用されるステップST103までに行えばよい。例えば、ステップST103の直前に配置を入れ替えても構わない。
以上説明したように、この発明の実施の形態5に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、この発明の実施の形態1に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態5に係る画像処理装置は、ノイズ除去選択部への入力画像信号に対して色空間変換を適用してからノイズ除去を行うので、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じて特定色領域を判定でき、精度の高いノイズ除去効果を得ることができる。
実施の形態6.
この発明の実施の形態6では、色空間変換部15を設けて、この発明の実施の形態1に係る画像処理装置10aのエッジ抽出部11aへ入力される画像信号を、最初に色空間変換部15で色空間変換してから処理するエッジ抽出部11cを備えた画像処理装置10fについて説明する。
図13は、この発明の実施の形態5に係る画像処理装置10fの一例を示すブロック図であり、この発明の実施の形態1のブロック図(図1)のエッジ抽出部11aの前段に色空間変換部15を加えた構成となっている。このブロック図に基づいて、各ブロックの機能の概要を説明する。なお、この発明の実施の形態1の図1のブロック図の当該ブロックと変更点がなく、同一符号を付したノイズ除去選択部12aおよびノイズ除去処理部13aは、同一または相当の機能を果たすものとして、説明を省略する。なお、色空間変換部15は、エッジ抽出部11cの外部にあるものとして示されているが、エッジ抽出部11cが色空間変換部15を備えた構成であっても構わない。
図13における色空間変換部15は、入力画像信号に色空間変換を適用する。エッジ抽出部11cは、色空間変換部15が色空間変換した画像信号の注目画素に対する周辺画素のエッジ抽出範囲内においてエッジが存在するか存在しないかを示すエッジ情報を抽出する。
次に、この画像処理装置10fの各部の動作について、図12のフローチャートに関連付けて説明する。この図12のフローチャートにおいて、この発明の実施の形態1の画像処理装置10aの各部と異なる動作を行う部分は、色空間変換部15に係る処理を示すステップST301(追加)と、エッジ抽出部11cに係る処理を示すステップST101である。その他の同一または相当の部分の動作説明については、省略する。
まず、図13における色空間変換部15は、入力画像信号に対して色空間変換を行う(ステップST301)。
また、図13におけるエッジ抽出部11aは、色空間変換部15が色空間変換した画像信号を入力とし、注目画素の周辺領域のエッジ抽出範囲内にエッジが存在するか存在しないかをエッジ情報として抽出する(ステップST101)。以下、この発明の実施の形態1と同様にステップST102からST105の処理を行う。
このように、この発明の実施の形態6に係る画像処理装置では、色空間変換を適用することで、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じてエッジを抽出でき、精度の高いノイズ除去が可能となる。
以上説明したように、この発明の実施の形態6に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、この発明の実施の形態1に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態6に係る画像処理装置は、エッジ抽出部への入力画像信号に対して色空間変換を適用してからノイズ除去を行うので、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じてエッジを抽出でき、精度の高いノイズ除去効果を得ることができる。
実施の形態7.
この発明の実施の形態7では、色空間変換部15を設けて、この発明の実施の形態1に係る画像処理装置10aのエッジ抽出部11a、ノイズ除去選択部12aへ入力される画像信号を、最初に色空間変換部15で色空間変換してから処理するエッジ抽出部11c、ノイズ除去選択部12dを備えた画像処理装置10gについて説明する。
図14は、この発明の実施の形態7に係る画像処理装置10gの一例を示すブロック図であり、この発明の実施の形態1のブロック図(図1)のエッジ抽出部11aとノイズ除去選択部12aの前段に色空間変換部15を加えた構成となっている。このブロック図に基づく各ブロックの機能の概要は、この発明の実施の形態1の図1、この発明の実施の形態5の図11およびこの発明の実施の形態6の図13のブロック図の当該ブロックと変更点がなく、同一符号を付したエッジ抽出部11c、ノイズ除去選択部12d、ノイズ除去処理部13aおよび色空間変換部15は、同一または相当の機能を果たすものとして、説明を省略する。なお、色空間変換部15は、エッジ抽出部11cおよびノイズ除去選択部12dの外部にあるものとして共有化して示されているが、エッジ抽出部11cおよびノイズ除去選択部12dのそれぞれが独立に色空間変換部15を備えた構成であっても構わない。
次に、この画像処理装置10gの各部の動作について、図12のフローチャートに関連付けて説明する。この図12のフローチャートにおいて、この発明の実施の形態1の画像処理装置10aの各部と異なる動作を行う部分は、色空間変換部15に係る処理を示すステップST301(追加)と、エッジ抽出部11cに係る処理を示すステップST101と、ノイズ除去選択部12dの特定色領域判定手段21aに係る処理を示すステップST102である。ただし、追加されたステップST301と、変更されたステップST101およびステップST102は、この発明の実施の形態5の画像処理装置10eまたはこの発明の実施の形態6の画像処理装置10fの当該ブロックであるエッジ抽出部11c、ノイズ除去選択部12dおよび色空間変換部15と同一または相当の動作を行うものであり、またその他の同一または相当の部分の動作説明については、省略する。
このように、この発明の実施の形態7に係る画像処理装置では、色空間変換を適用することで、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じて精度の高いノイズ除去が可能となる。
以上説明したように、この発明の実施の形態7に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、この発明の実施の形態1に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態7に係る画像処理装置は、エッジ抽出部およびノイズ除去選択部への入力画像信号に対して色空間変換を適用してからノイズ除去を行うので、この発明の実施の形態5および実施の形態6に係る画像処理装置と同様の効果を得ることができる。
実施の形態8.
この発明の実施の形態8では、この発明の実施の形態7に係る画像処理装置10gのノイズ除去処理部13aへ入力される画像信号を色空間変換部15で色空間変換した画像信号とした画像処理装置10hについて説明する。また、この画像処理装置10hでは、ノイズ除去処理部13bでノイズ除去された画像信号に色空間変換部15の色空間変換に対する色空間逆変換を行う色空間逆変換部16を備えた構成として説明する。
図15は、この発明の実施の形態8に係る画像処理装置10hの一例を示すブロック図であり、この発明の実施の形態7のブロック図(図14)のノイズ除去処理部13aの前段に色空間変換部15、またノイズ除去処理部13aの後段に色空間逆変換部16を加えた構成となっている。このブロック図に基づく各ブロックの機能の概要は、この発明の実施の形態7の図14のブロック図の当該ブロックと変更点がなく、同一符号を付したエッジ抽出部11c、ノイズ除去選択部12dおよび色空間変換部15は、同一または相当の機能を果たすものとして、説明を省略する。なお、色空間変換部15は、エッジ抽出部11c、ノイズ除去選択部12dおよびノイズ除去処理部13bの外部にあるものとして共有化して示されているが、エッジ抽出部11c、ノイズ除去選択部12dおよびノイズ除去処理部13bのそれぞれが独立に色空間変換部15を備えた構成であっても構わない。あるいは、エッジ抽出部11b、ノイズ除去選択部12cおよびノイズ除去処理部13aのうち1つが独立に色空間変換部15を備え、残る2つは共有化したまま使用する構成であっても構わない。
図15におけるノイズ除去処理部13bは、色空間変換部15が色空間変換した画像信号に、ノイズ除去選択部12dが選択したノイズ除去処理を適用してノイズ除去する。色空間逆変換部16は、ノイズ除去処理部13bがノイズ除去した画像信号に色空間変換部15の色空間変換に対する色空間逆変換を行う。
ただし、この発明の実施の形態8に係る画像処理装置10hは、ノイズ除去処理部13bがノイズ除去した画像信号を色空間逆変換部16に通すことなく出力しても構わない。これは、例えば、入力画像信号が輝度色差信号YCbCrで与えられ、色空間変換部15で色相、彩度、明度に変換して、ノイズ除去した後、そのまま外部の符号器で符号化して蓄積や通信するような場合に用いることができる。このとき、必要があれば、色空間逆変換部16は再生装置の側に備え、復号器で復号した色相、彩度、明度を入力画像信号と同じ輝度色差信号YCbCrに逆変換するようにしてもよい。また。入出力画像信号は、輝度色差信号YCbCrに限らず、RGB信号などであってもよい。
次に、この画像処理装置10hの各部の動作について、図16のフローチャートに関連付けて説明する。この図16のフローチャートにおいて、この発明の実施の形態7の画像処理装置10gの各部と異なる動作を行う部分は、ノイズ除去処理部13bに係る処理を示すステップST104、ST105、および色空間逆変換部16に係る処理を示すステップST302(追加)である。その他の同一または相当の部分の動作説明については、省略する。
まず、この発明の実施の形態7と同様にステップST301とステップST101からST103の処理を行い、ノイズ除去処理部13bで適用するノイズ除去処理をノイズ除去選択部12dが選択する。
次に、図15におけるノイズ除去処理部13bは、ノイズ除去選択部12dが選択したノイズ除去処理に基づいて、通常ノイズ除去処理(ステップST104)または特定色ノイズ除去処理(ステップST105)を色空間変換部15が色空間変換した画像信号に適用してノイズ除去する。
また、図15における色空間逆変換部16は、ノイズ除去処理部13bがノイズ除去した画像信号を色空間逆変換して、入力画像信号と同じ色空間の画像信号に逆変換する。
このように、この発明の実施の形態8に係る画像処理装置では、色空間変換を適用することで、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基にノイズ除去を行うことで、視覚特性に応じてエッジを抽出し、特定色領域を判定し、精度の高いノイズ除去が可能となる。
以上説明したように、この発明の実施の形態8に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、この発明の実施の形態1に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態8に係る画像処理装置は、エッジ抽出部およびノイズ除去選択部への入力画像信号に対して色空間変換を適用してからノイズ除去を行うので、この発明の実施の形態5から実施の形態7に係る画像処理装置と同様の効果を得ることができる。
また、この発明の実施の形態8に係る画像処理装置は、ノイズ除去処理部への入力画像信号に対して色空間変換を適用してからノイズ除去を行うので、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じて精度の高いノイズ除去効果を得ることができる。
なお、この発明の実施の形態に係る画像処理装置で説明した構成の各ブロックが有する同一または相当の各機能は、この発明の実施の形態における他の画像処理装置に組み合わせて適用しても構わない。例えば、次のような画像処理装置を構成することもできる。さらに、多くの機能を同時に実装した画像処理装置も考えられることも自明である。
この発明の実施の形態2から実施の形態4に係る画像処理装置のノイズ除去選択部の特定色判定手段で行うエッジ情報に基づく特定色判定範囲を設定する機能は、エッジ情報をノイズ除去選択部に入力することによって、この発明の実施の形態5から実施の形態8に係る画像処理装置に適用しても構わない。
また、この発明の実施の形態3および実施の形態4に係る画像処理装置のノイズ除去選択部の特定色判定手段で行う特定色判定範囲に含まれる周辺画素の色信号から算出した統計値による特定色領域を判定する機能は、エッジ抽出部のエッジ情報記憶手段にエッジ情報を周辺画素情報として記憶して蓄えておき、周辺画素情報をノイズ除去選択部に入力することによって、この発明の実施の形態5から実施の形態8に係る画像処理装置に適用しても構わない。
また、この発明の実施の形態4に係る画像処理装置の色差低減処理部で行う入力画像信号を色差低減する機能は、この発明の実施の形態1、実施の形態2および実施の形態5から実施の形態8に係る画像処理装置への入力画像信号が輝度色差信号からなる画像信号であれば、色差低減処理部を同様に設けて適用しても構わない。
この発明の実施の形態5から実施の形態8に係る画像処理装置の色空間変換部で行う色区間を変換する機能は、この発明の実施の形態1から実施の形態4に係る画像処理装置に色空間変換部を同様に該当部に設けて適用しても構わない。また、色空間変換部とともに、色空間逆変換部を同様に該当部に設けて適用しても構わない。
この発明の実施の形態1から実施の形態8に係る画像処理装置のノイズ除去選択部でノイズ除去処理を選択する機能は、特定色領域情報に基づいて、注目画素が特定色領域にあるか否かを判定してから、エッジ情報を用いて、特定色領域にあると判定された注目画素の周辺にエッジが存在しない注目画素に対して特定色ノイズ除去を適用するように選択しているが、エッジ情報を用いて注目画素の周辺にエッジが存在するか存在しないかを判定し、周辺にエッジが存在しないと判定された注目画素に対して、特定色領域情報に基づいて、特定色領域にある注目画素に対して特定色ノイズ除去を適用するように選択しても構わない。
なお、この発明の実施の形態1から実施の形態8に係る画像処理装置のエッジ抽出部では、画像信号からエッジを抽出する構成として説明したが、すでに抽出されたエッジ情報が画像信号とともに入力される構成であってもよい。この場合、実施の形態1から実施の形態2および実施の形態5から実施の形態8では、画像信号の注目画素とともに画素単位にエッジ情報を逐次入力することで、エッジ抽出部を備えない構成であってもよい。また、実施の形態3および実施の形態4では、エッジ抽出部にエッジ抽出手段を備えず、エッジ情報記憶手段は、ノイズ除去選択部の特定色領域判定手段が設定する可能性のある特定色判定範囲を単位に、または画像1フレームを単位に周辺画像情報となるエッジ情報を記憶する構成であってもよい。
この発明の実施の形態に係る画像処理装置で説明したこれらの機能を適用して画像信号からノイズ除去を行う際に、エッジ情報を用いることで、画像がぼけるのを抑制し、エッジをぼかさずに保存できるとともに、画像信号のノイズを効果的に除去する画像処理を行うことができる。特に、画像信号としてノイズが多く現れやすい高感度画像に対するノイズ除去においては、大きな効果を得ることができる。
以上のように、この発明の実施の形態に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて強度の異なる特定色ノイズ除去と通常ノイズ除去を切り替えて適用するようにしたので、注目画素の周辺にエッジの存在する領域ではエッジのぼけを抑制して、解像度を保ち、エッジの存在しない特定色領域に対して適切なノイズ除去を行う効果を得ることができる。
また、この発明の実施の形態に係る画像処理装置は、特定色領域に含まれる注目画素に対して、エッジ情報に基づいて統計値の算出に用いる周辺画素の特定色判定範囲を設定して、注目画素と周辺画素との色信号から算出した統計値が特定色領域内にあるか特定色領域外にあるかを判定し、局所的なノイズの影響を抑制するようにしたので、注目画素単独で判定するより特定色領域の判定精度を向上させる効果を得ることができる。
また、この発明の実施の形態に係る画像処理装置は、周辺画素情報に基づいて特定色判定範囲のエッジが存在しない周辺画素のみを統計値の算出対象として、注目画素と周辺画素との色信号から算出した統計値が特定色領域内にあるか特定色領域外にあるかを判定し、局所的なノイズの影響を抑制するようにしたので、エッジが存在した周辺画素を含めて色信号の統計値を算出して判定するよりも特定色領域の判定精度を向上させる効果を得ることができる。
また、この発明の実施の形態に係る画像処理装置は、入力画像信号の色差信号に対して色差低減処理を適用してからノイズ除去を行うので、ノイズが抑圧された色差信号に基づきより精度の高いノイズ除去の効果を得ることができる。
また、この発明の実施の形態に係る画像処理装置は、ノイズ除去選択部への入力画像信号に対して色空間変換を適用してからノイズ除去を行うので、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じて特定色領域を判定でき、精度の高いノイズ除去効果を得ることができる。
また、この発明の実施の形態に係る画像処理装置は、エッジ抽出部への入力画像信号に対して色空間変換を適用してからノイズ除去を行うので、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じてエッジを抽出でき、精度の高いノイズ除去効果を得ることができる。
また、この発明の実施の形態に係る画像処理装置は、ノイズ除去処理部への入力画像信号に対して色空間変換を適用してからノイズ除去を行うので、より人間の感覚に近いパラメータである色相、彩度、明度に変換した色情報を基に視覚特性に応じて精度の高いノイズ除去効果を得ることができる。
この発明の実施の形態1による画像処理装置の構成の一例を示すブロック図である。 この発明の実施の形態1による画像処理装置のノイズ除去選択部の構成の一例を示すブロック図である。 この発明の実施の形態1およびこの発明の実施の形態2による画像処理装置の処理手順の一例を示すフローチャートである。 この発明の実施の形態2による画像処理装置のノイズ除去選択部の構成の一例を示すブロック図である。 この発明の実施の形態3による画像処理装置の構成の一例を示すブロック図である。 この発明の実施の形態3による画像処理装置のエッジ抽出部の構成の一例を示すブロック図である。 この発明の実施の形態3による画像処理装置のノイズ除去選択部の構成の一例を示すブロック図である。 この発明の実施の形態3による画像処理装置の処理手順の一例を示すフローチャートである。 この発明の実施の形態4による画像処理装置の構成の一例を示すブロック図である。 この発明の実施の形態4による画像処理装置の処理手順の一例を示すフローチャートである。 この発明の実施の形態5による画像処理装置の構成の一例を示すブロック図である。 この発明の実施の形態5からこの発明の実施の形態7による画像処理装置の処理手順の一例を示すフローチャートである。 この発明の実施の形態6による画像処理装置の構成の一例を示すブロック図である。 この発明の実施の形態7による画像処理装置の構成の一例を示すブロック図である。 この発明の実施の形態8による画像処理装置の構成の一例を示すブロック図である。 この発明の実施の形態8による画像処理装置の処理手順の一例を示すフローチャートである。
符号の説明
10a、10b、10c、10d、10e、10f、10g、10h 画像処理装置
11a、11b、11c エッジ抽出部
12、12a、12b、12c ノイズ除去選択部
13a、13b ノイズ除去処理部
14 色差低減処理部
15 色空間変換部
16 色空間逆変換部
21a、21b 特定色領域判定手段
22 ノイズ除去判定手段
31 エッジ抽出手段
32 エッジ情報記憶手段

Claims (12)

  1. 入力画像信号の色差信号と前記色差信号の平均値との差と、前記色差信号と前記色差信号の平均値との距離の大きさに応じて0から1まで増加する係数とを用いて、前記色差信号から前記平均値を減算した値と前記係数との積に前記色差信号の平均値を加算することで入力画像信号の色差信号に対して色差低減処理する色差低減処理部と、
    前記色差低減処理部が色差低減処理した入力画像信号の注目画素の周辺におけるエッジの有無に関するエッジ情報を抽出するエッジ抽出部と、
    特定色領域情報に基づいて、前記注目画素の色信号が特定色領域内か特定色領域外かを判定し、この判定結果と前記エッジ抽出部が抽出したエッジ情報とを用いて前記注目画素に適用するノイズ除去処理を選択するノイズ除去選択部と、
    このノイズ除去選択部が選択したノイズ除去処理を前記注目画素に適用するノイズ除去処理部と
    を備えたことを特徴とする画像処理装置。
  2. 前記ノイズ除去選択部は、
    前記注目画素の色信号が、前記特定色領域情報に基づいて、特定色領域内か特定色領域外かを判定する特定色領域判定手段と、
    この特定色領域判定手段が特定色領域内にあると判定し、かつ前記エッジ抽出部が抽出したエッジ情報を用いて周辺にエッジが存在しない注目画素に対して特定色ノイズ除去を選択し、その他の注目画素に対して通常ノイズ除去を選択するノイズ除去判定手段と
    を備えたことを特徴とする請求項1記載の画像処理装置。
  3. 前記ノイズ除去選択部は、
    前記エッジ抽出部が抽出したエッジ情報に基づき前記注目画素に対する特定色判定範囲を設定し、前記特定色判定範囲内における周辺画素および前記注目画素の色信号の統計値が、前記特定色領域情報に基づいて、特定色領域内か特定色領域外かを判定する特定色領域判定手段と、
    この特定色領域判定手段が特定色領域内にあると判定し、かつ前記エッジ抽出部が抽出したエッジ情報を用いて周辺にエッジが存在しない注目画素に対して特定色ノイズ除去を選択し、その他の注目画素に対して通常ノイズ除去を選択するノイズ除去判定手段と
    を備えたことを特徴とする請求項1記載の画像処理装置。
  4. 前記エッジ抽出部は、
    抽出したエッジ情報を周辺画素情報として記憶するエッジ情報記憶手段
    を備え、
    前記特定色領域判定手段は、前記エッジ情報記憶手段が記憶した周辺画素情報に基づいて、前記特定色判定範囲内においてエッジが存在しないことを示す周辺画素情報に対応する前記周辺画素および前記注目画素の色信号から統計値を算出する
    ことを特徴とする請求項3記載の画像処理装置。
  5. 入力画像信号を他の色空間の画像信号に色空間変換する色空間変換部
    を備え、
    前記ノイズ除去選択部は、前記色空間変換部が色空間変換した入力画像信号を入力として前記注目画素に適用するノイズ除去処理を選択する
    ことを特徴とする請求項1記載の画像処理装置。
  6. 入力画像信号を他の色空間の画像信号に色空間変換する色空間変換部
    を備え、
    前記エッジ抽出部は、前記色空間変換部が色空間変換した入力画像信号を入力としてエッジ情報を抽出する
    ことを特徴とする請求項1記載の画像処理装置。
  7. 入力画像信号を他の色空間の画像信号に色空間変換する色空間変換部
    を備え、
    前記ノイズ除去処理部は、前記色空間変換部が色空間変換した入力画像信号を入力としてノイズ除去する
    ことを特徴とする請求項1記載の画像処理装置。
  8. 前記ノイズ除去処理部がノイズ除去した画像信号を前記色空間変換部が色空間変換した入力画像信号と同一の色空間に逆変換する色空間逆変換部
    を備えることを特徴とする請求項記載の画像処理装置。
  9. 入力画像信号の色差信号と前記色差信号の平均値との差と、前記色差信号と前記色差信号の平均値との距離の大きさに応じて0から1まで増加する係数とを用いて、前記色差信号から前記平均値を減算した値と前記係数との積に前記色差信号の平均値を加算することで入力画像信号の色差信号に対して色差低減処理する色差低減処理ステップと、
    前記色差低減処理ステップが色差低減処理した入力画像信号の注目画素の周辺におけるエッジの有無に関するエッジ情報を抽出するエッジ抽出ステップと、
    特定色領域情報に基づいて、前記注目画素の色信号が特定色領域内か特定色領域外かを判定し、この判定結果と前記エッジ抽出ステップが抽出したエッジ情報とを用いて前記注目画素に適用するノイズ除去処理を選択するノイズ除去選択ステップと、
    このノイズ除去選択ステップが選択したノイズ除去処理を前記注目画素に適用するノイズ除去処理ステップと
    を有することを特徴とする画像処理方法。
  10. 前記ノイズ除去選択ステップは、
    前記注目画素の色信号が、前記特定色領域情報に基づいて、特定色領域内か特定色領域外かを判定する特定色領域判定ステップと、
    この特定色領域判定ステップが特定色領域内にあると判定し、かつ前記エッジ抽出ステップが抽出したエッジ情報を用いて周辺にエッジが存在しない注目画素に対して特定色ノイズ除去を選択し、その他の注目画素に対して通常ノイズ除去を選択するノイズ除去判定ステップと
    を有することを特徴とする請求項記載の画像処理方法。
  11. 前記ノイズ除去選択ステップは、
    前記エッジ抽出ステップが抽出したエッジ情報に基づき前記注目画素に対する特定色判定範囲を設定し、前記特定色判定範囲内における周辺画素の色信号の統計値が、前記特定色領域情報に基づいて、特定色領域内か特定色領域外かを判定する特定色領域判定ステップと、
    この特定色領域判定ステップが特定色領域内にあると判定し、かつ前記エッジ抽出ステップが抽出したエッジ情報を用いて周辺にエッジが存在しない注目画素に対して特定色ノイズ除去を選択し、その他の注目画素に対して通常ノイズ除去を選択するノイズ除去判定ステップと
    を有することを特徴とする請求項記載の画像処理方法。
  12. 前記エッジ抽出ステップは、
    抽出したエッジ情報を周辺画素情報として記憶するエッジ情報記憶ステップ
    を有し、
    前記特定色領域判定ステップは、前記エッジ情報記憶ステップが記憶した周辺画素情報に基づいて、前記特定色判定範囲内においてエッジが存在しないことを示す周辺画素情報に対応する前記周辺画素および前記注目画素の色信号から統計値を算出する
    ことを特徴とする請求項11記載の画像処理方法。
JP2006237150A 2006-09-01 2006-09-01 画像処理装置および画像処理方法 Expired - Fee Related JP4618218B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006237150A JP4618218B2 (ja) 2006-09-01 2006-09-01 画像処理装置および画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006237150A JP4618218B2 (ja) 2006-09-01 2006-09-01 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2008059406A JP2008059406A (ja) 2008-03-13
JP4618218B2 true JP4618218B2 (ja) 2011-01-26

Family

ID=39242037

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006237150A Expired - Fee Related JP4618218B2 (ja) 2006-09-01 2006-09-01 画像処理装置および画像処理方法

Country Status (1)

Country Link
JP (1) JP4618218B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4591532B2 (ja) * 2008-03-28 2010-12-01 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置、及び画像読取方法
JP4591531B2 (ja) 2008-03-28 2010-12-01 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置、及び画像読取方法
JP5223702B2 (ja) 2008-07-29 2013-06-26 株式会社リコー 画像処理装置、ノイズ低減方法、プログラム、記憶媒体
JP5529424B2 (ja) * 2009-03-11 2014-06-25 ソニー株式会社 画像処理装置、画像処理方法及びコンピュータプログラム
JP6489761B2 (ja) * 2014-05-14 2019-03-27 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08130710A (ja) * 1994-11-01 1996-05-21 Matsushita Electric Ind Co Ltd 高能率符号化装置と高能率符号復号装置および画像伝送装置
JP2000165685A (ja) * 1989-07-21 2000-06-16 Canon Inc カラ―画像処理装置
JP2001189944A (ja) * 1999-12-28 2001-07-10 Sony Corp 撮像装置
JP2004248103A (ja) * 2003-02-14 2004-09-02 Sharp Corp 画像処理装置、画像読取装置、画像形成装置、画像処理方法、画像処理プログラム、およびこれを記録したコンピュータ読み取り可能な記録媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000165685A (ja) * 1989-07-21 2000-06-16 Canon Inc カラ―画像処理装置
JPH08130710A (ja) * 1994-11-01 1996-05-21 Matsushita Electric Ind Co Ltd 高能率符号化装置と高能率符号復号装置および画像伝送装置
JP2001189944A (ja) * 1999-12-28 2001-07-10 Sony Corp 撮像装置
JP2004248103A (ja) * 2003-02-14 2004-09-02 Sharp Corp 画像処理装置、画像読取装置、画像形成装置、画像処理方法、画像処理プログラム、およびこれを記録したコンピュータ読み取り可能な記録媒体

Also Published As

Publication number Publication date
JP2008059406A (ja) 2008-03-13

Similar Documents

Publication Publication Date Title
KR100974835B1 (ko) 이미지 정보를 필터링하기 위한 적응형 이미지 필터
JP5197414B2 (ja) 画像処理装置及び画像処理方法
JP4145665B2 (ja) 画像処理装置及び画像処理方法
JP2002101425A (ja) ディジタル画像のノイズ及びブロッキング・アーティファクトの除去方法
KR101489520B1 (ko) 디지털 이미지들에서의 윤곽들의 감축
JP4641704B2 (ja) ノイズ低減化方法、ノイズ低減化装置、記録媒体、及びプログラム
JP2005323365A (ja) デジタル映像信号フィルタリング装置及び方法
JP5767064B2 (ja) イメージのエッジ向上方法
JP4858609B2 (ja) ノイズ低減装置、ノイズ低減方法、及びノイズ低減プログラム
JP4618218B2 (ja) 画像処理装置および画像処理方法
US20160371816A1 (en) System for enhanced images
JPWO2006134923A1 (ja) 画像処理装置、コンピュータプログラム製品および画像処理方法
US7889280B2 (en) Image processing apparatus and method thereof
CN107424137B (zh) 一种文本增强方法及装置、计算机装置、可读存储介质
US20190108629A1 (en) Image processing device, image processing method, and image processing program
US20080063295A1 (en) Imaging Device
US20130107083A1 (en) Method of Noise Reduction in Image and Device Thereof
JP2011205477A (ja) 画像処理装置および方法,ならびに画像処理プログラム
JP4380498B2 (ja) ブロック歪み低減装置
JP2011076302A (ja) 輪郭抽出装置、輪郭抽出方法、および輪郭抽出プログラム
KR100839922B1 (ko) 적응적 평균값 필터를 이용한 컬러 잡음 제거 장치 및 방법
JP2007336075A (ja) ブロック歪み低減装置
US9007494B2 (en) Image processing apparatus, method for controlling the same and storage medium
JP6644877B2 (ja) 画像処理装置
CN115330621A (zh) 图像处理方法、装置、设备、存储介质及程序产品

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090617

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100607

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100730

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100928

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101011

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131105

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131105

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees