JP4972122B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP4972122B2
JP4972122B2 JP2009107638A JP2009107638A JP4972122B2 JP 4972122 B2 JP4972122 B2 JP 4972122B2 JP 2009107638 A JP2009107638 A JP 2009107638A JP 2009107638 A JP2009107638 A JP 2009107638A JP 4972122 B2 JP4972122 B2 JP 4972122B2
Authority
JP
Japan
Prior art keywords
pixel
standard deviation
unit
filter
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009107638A
Other languages
Japanese (ja)
Other versions
JP2009266233A (en
Inventor
さとみ 星野
秀和 関沢
裕和 照田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba TEC Corp
Original Assignee
Toshiba Corp
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba TEC Corp filed Critical Toshiba Corp
Publication of JP2009266233A publication Critical patent/JP2009266233A/en
Application granted granted Critical
Publication of JP4972122B2 publication Critical patent/JP4972122B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、画像信号のエッジ強調とノイズ低減の両方を実現する画像処理装置に関する。 The present invention relates to an image processing equipment that provides both edge enhancement and noise reduction of an image signal.

デジタル複合機やプリンタ等に組み込まれている画像処理装置において、読み取る画像には、文字のみの画像、写真や絵のみの画像、または文字と写真、絵が混在した画像等がある。読み取った画像の再現性をよくするため、画像処理装置は画像の補整処理を行う。読み取った画像を補正する処理のひとつに、フィルタ処理がある。フィルタ処理によって、文字画像に対してはエッジ量を増大させて文字を鮮明にさせたり、写真や絵の画像に対しては背景のノイズを低減、網点を平滑化させ、モアレを低減したりする効果が得られる。   In an image processing apparatus incorporated in a digital multi-function peripheral, a printer, or the like, an image to be read includes an image of only characters, an image of only a photograph or a picture, or an image in which characters, a photograph, and a picture are mixed. In order to improve the reproducibility of the read image, the image processing apparatus performs an image correction process. One of the processes for correcting the read image is a filter process. Filter processing increases the amount of edges for character images to sharpen characters, reduces background noise for photo and picture images, smoothes halftone dots, and reduces moire Effect is obtained.

従来、画像データの注目画素を含み、所定の方向に沿って互いに隣接する複数の画素からなる画素ブロックを抽出し、画素ブロック内のエッジ量について一次微分フィルタを用いて検出する。次に、画素ブロックに隣接する画素のエッジ量を増大させるよう検出したエッジ量を補正する。次に、補正した画素のエッジ量に基づき、エッジ強調フィルタからの画像データと平滑化フィルタからの画像データとの混合比を変えるという技術が知られている(特許文献1参照)。これにより、エッジの急峻さを保持しつつ、網点画像データや写真画像データを平滑化処理し、なめらかに再現することができる。   Conventionally, a pixel block including a plurality of pixels adjacent to each other along a predetermined direction including a target pixel of image data is extracted, and an edge amount in the pixel block is detected using a primary differential filter. Next, the detected edge amount is corrected so as to increase the edge amount of the pixel adjacent to the pixel block. Next, a technique is known in which the mixing ratio between the image data from the edge enhancement filter and the image data from the smoothing filter is changed based on the corrected edge amount of the pixel (see Patent Document 1). As a result, halftone image data and photographic image data can be smoothed and smoothly reproduced while maintaining sharp edges.

特開平5−307603号公報JP-A-5-307603

しかしながら、特許文献1に開示されている技術は、画像から一次微分フィルタを用いてエッジ量を検出し、検出したエッジ量を所定の閾値で2値化し、エッジの画素が連続しているかを判定する。2値化する際の閾値は、設計者があらかじめ与えなければならない。   However, the technique disclosed in Patent Document 1 detects an edge amount from an image using a first-order differential filter, binarizes the detected edge amount with a predetermined threshold, and determines whether edge pixels are continuous. To do. The threshold value for binarization must be given in advance by the designer.

また、白黒のラインが羅列したパターンであるラダーパターンなどといったある周期を持った画像の場合では、網点のパターンと酷似しているため、網点と誤認識して平滑化処理が行われてしまい、ラダーパターンのラインのエッジが鈍化してしまう可能性がある。   In addition, in the case of an image having a certain period such as a ladder pattern that is a pattern in which black and white lines are arranged, it is very similar to a halftone dot pattern, and thus smoothing processing is performed by misrecognizing a halftone dot. Therefore, the edge of the line of the ladder pattern may become dull.

本発明はこのような点に鑑みてなされたもので、特定の閾値や複雑な処理を必要とせず、画像の特徴に適合したエッジ強調とノイズ低減の両方の効果を実現することができ、特に文字や線の画像では、エッジを強調してより鮮明な画像に補整することができる画像処理装置を提供することを目的とする。 The present invention has been made in view of such points, and does not require a specific threshold value or complicated processing, and can achieve both effects of edge enhancement and noise reduction adapted to image characteristics. the image of characters and lines, and an object thereof is to provide an image processing equipment which can be compensated to a sharper image by edge enhancement.

本発明に係る画像処理装置は、画像信号における文字、線や写真、絵等の画像の特徴を判定する画像処理装置において、前記画像信号から任意の注目画素および前記注目画素を中心とした所定範囲の画素ブロックを抽出する画素抽出部と、前記画素抽出部で抽出した前記画素ブロック内の各画素の輝度値を演算する輝度演算部と、前記輝度演算部で演算した前記各画素の輝度値と前記注目画素の輝度値の差から、標準偏差値を求める標準偏差算出部と、前記標準偏差算出部で算出した前記標準偏差値を用いて、前記画素抽出部で抽出した前記所定範囲における画素ブロックについて、バイラテラルフィルタのガウス分布要素を反転した形のフィルタを用いたフィルタ処理を行うフィルタ処理部と、前記フィルタ処理部でフィルタ処理を行った前記画素ブロックを出力する出力部と、を有し、前記フィルタ処理部は、前記標準偏差算出部で算出した前記標準偏差値が大きい場合、前記画素ブロックに対しエッジ強調処理を行い、前記標準偏差値が小さい場合、前記画像ブロックに対しノイズ低減処理を行う、ことを特徴とする。 An image processing apparatus according to the present invention is an image processing apparatus that determines the characteristics of an image such as a character, line, photograph, or picture in an image signal. A pixel extraction unit for extracting the pixel block, a luminance calculation unit for calculating a luminance value of each pixel in the pixel block extracted by the pixel extraction unit, and a luminance value of each pixel calculated by the luminance calculation unit A pixel block in the predetermined range extracted by the pixel extraction unit using a standard deviation calculation unit for obtaining a standard deviation value from a difference in luminance value of the target pixel and the standard deviation value calculated by the standard deviation calculation unit for, was performed and a filter processing unit that performs filter processing using the shape obtained by inverting the Gaussian distribution element of the bilateral filter filters, the filtering by the filter processing unit An output unit for outputting the pixel block, and when the standard deviation value calculated by the standard deviation calculation unit is large, the filter processing unit performs edge enhancement processing on the pixel block, and the standard deviation When the value is small, noise reduction processing is performed on the image block.

本発明に係る画像処理装置によれば、特定の閾値や複雑な処理を必要とせず、画像の特徴に適合したエッジ強調とノイズ低減の両方の効果を実現することができ、特に文字や線の画像では、エッジを強調してより鮮明な画像に補整することができる。 According to the image processing equipment according to the present invention, without requiring a certain threshold and complex processing, it is possible to achieve both the effect of edge enhancement and noise reduction adapted to the characteristics of the image, in particular characters or lines In the image of (1), the edge can be emphasized and corrected to a clearer image.

本発明の一実施形態に係る画像形成装置の概略構成を示すブロック図。1 is a block diagram showing a schematic configuration of an image forming apparatus according to an embodiment of the present invention. 同上の実施形態における画像調整部の概略構成を示すブロック図。The block diagram which shows schematic structure of the image adjustment part in embodiment same as the above. 同上の実施形態における、画像から画素抽出を行う一例を示す図。The figure which shows an example which performs pixel extraction from the image in embodiment same as the above. 同上の実施形態における、抽出した画像範囲の標準偏差値を算出する動作を示すフローチャート。The flowchart which shows the operation | movement which calculates the standard deviation value of the extracted image range in embodiment same as the above. 同上の実施形態におけるバイラテラルフィルタのガウス分布の波形を示す図。The figure which shows the waveform of the Gaussian distribution of the bilateral filter in embodiment same as the above. 同上の実施形態におけるバイラテラルフィルタの反転形のガウス分布の波形を示す図。The figure which shows the waveform of the inverted Gaussian distribution of the bilateral filter in embodiment same as the above. 同上の実施形態におけるメキシカンハットフィルタとガウス分布とを掛け合わせた波形を示す図。The figure which shows the waveform which multiplied the Mexican hat filter and Gaussian distribution in embodiment same as the above. 同上の実施形態における、第3のフィルタ処理例の動作を示すフローチャート。The flowchart which shows operation | movement of the 3rd filter processing example in embodiment same as the above.

以下、本発明の実施形態を添付図面に基づいて説明する。   Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings.

図1は、本発明の一実施形態である画像形成装置1、例えば、デジタルMFP(Digital Multi-Function Peripheral)のシステム構成例を示す図である。この画像形成装置1は、デジタルカラー複合機として機能するもので、例えば、コピー機能、プリンタ機能、スキャナー機能、FAX機能、ストレージ機能等が実現される。   FIG. 1 is a diagram illustrating a system configuration example of an image forming apparatus 1 according to an embodiment of the present invention, for example, a digital MFP (Digital Multi-Function Peripheral). The image forming apparatus 1 functions as a digital color multifunction peripheral. For example, a copy function, a printer function, a scanner function, a FAX function, a storage function, and the like are realized.

画像形成装置1は、読取部11、画像処理部12、ページメモリ部13、画像記録部14を備えており、これらの構成によってコピー機能を実現している。読取部11は、原稿を、例えば3ラインCCDセンサで光学的に読み取り、赤(R)、緑(G)、青(B)のカラーデジタル画像信号に変換する。   The image forming apparatus 1 includes a reading unit 11, an image processing unit 12, a page memory unit 13, and an image recording unit 14, and a copy function is realized by these configurations. The reading unit 11 optically reads a document with, for example, a three-line CCD sensor, and converts it into red (R), green (G), and blue (B) color digital image signals.

画像処理部12は、スキャナー系画像処理部21、プリンタ系画像処理部22、および画像調整部20を含む。   The image processing unit 12 includes a scanner image processing unit 21, a printer image processing unit 22, and an image adjustment unit 20.

スキャナー系画像処理部21は、主走査方向の信号レベルの不均一性を補正するシェーディング補正等の各種画像処理を行う。また、コピー機能として動作する場合には、R,G,Bの三原色から例えばシアン(C)、マゼンタ(M)、イエロー(Y)、ブラック(K)の色信号に変換してページメモリ部13へ出力する一方、スキャナー機能として動作する場合には、R,G,Bの3原色としてページメモリ部13へ出力する。   The scanner system image processing unit 21 performs various image processing such as shading correction for correcting non-uniformity of the signal level in the main scanning direction. Further, when operating as a copy function, the page memory unit 13 converts the primary colors of R, G, and B into, for example, cyan (C), magenta (M), yellow (Y), and black (K) color signals. On the other hand, when it operates as a scanner function, it outputs to the page memory unit 13 as three primary colors of R, G, and B.

プリンタ系画像処理部22は、ページメモリ部13から出力される画像信号に対して、印刷のための画像処理、例えばγ補正処理や階調処理等を行い、画像記録部14に出力する。   The printer system image processing unit 22 performs image processing for printing, for example, γ correction processing and gradation processing on the image signal output from the page memory unit 13, and outputs the image signal to the image recording unit 14.

画像調整部20は、読取部11またはページメモリ部13から入力された画像信号に対してノイズ低減処理およびエッジ強調処理を行う。詳細は後に記載する。   The image adjustment unit 20 performs noise reduction processing and edge enhancement processing on the image signal input from the reading unit 11 or the page memory unit 13. Details will be described later.

ページメモリ部13は、スキャナー系画像処理部21で出力した画像信号を、例えばページ単位で一時的に記憶し、再度画像処理部12へ出力する。   The page memory unit 13 temporarily stores the image signal output by the scanner system image processing unit 21 in units of pages, for example, and outputs the image signal to the image processing unit 12 again.

画像記録部14は、例えば電子写真方式で記録紙に画像を印刷する構成品であり、露光装置、感光ドラム、現像装置等(いずれも図示せず)等を備えて構成されるものである。   The image recording unit 14 is a component that prints an image on a recording sheet by, for example, an electrophotographic method, and includes an exposure device, a photosensitive drum, a developing device, and the like (all not shown).

また画像形成装置1は、ストレージ部15、プリンタコントローラ部16、FAXコントローラ部17、電子データ作成部18、外部I/F部19、を備えている。これらの構成品は、画像形成装置1をストレージ機能、プリンタ機能、FAX機能、スキャナー機能等として動作させる場合に用いられるものである。   The image forming apparatus 1 includes a storage unit 15, a printer controller unit 16, a FAX controller unit 17, an electronic data creation unit 18, and an external I / F unit 19. These components are used when the image forming apparatus 1 is operated as a storage function, a printer function, a FAX function, a scanner function, and the like.

ストレージ部15は、例えばHDD(Hard Disk Drive)で構成されるものであり、読取部11で読み取った画像信号や外部のパーソナルコンピュータ等から入力した画像信号を記憶する。ストレージ部15に記憶された画像信号は必要に応じて読み出され、画像記録部14で印刷し、或いは、スキャンデータとして外部に出力することができる。   The storage unit 15 is configured by, for example, an HDD (Hard Disk Drive), and stores an image signal read by the reading unit 11 and an image signal input from an external personal computer or the like. The image signal stored in the storage unit 15 can be read out as necessary, printed by the image recording unit 14, or output to the outside as scan data.

電子データ作成部18は、画像形成装置1をスキャナー機能として動作させる際に、画像信号を所定のデータフォーマットに変換しスキャンデータを生成する。生成されたスキャンデータは、外部I/F部19を介して外部に出力される。   When the image forming apparatus 1 operates as a scanner function, the electronic data creation unit 18 converts the image signal into a predetermined data format and generates scan data. The generated scan data is output to the outside via the external I / F unit 19.

FAXコントローラ部17は、画像形成装置1をFAX機能として動作させるものである。読取部11で読み取られた画像信号をFAX用のデータフォーマットに変換し、外部I/F部19を介して外部の電話回線に出力する。また、電話回線から入力されるFAXデータを画像信号に変換して、画像記録部14で印刷を行うことができる。   The FAX controller unit 17 operates the image forming apparatus 1 as a FAX function. The image signal read by the reading unit 11 is converted into a data format for FAX and output to an external telephone line via the external I / F unit 19. In addition, FAX data input from a telephone line can be converted into an image signal, and printing can be performed by the image recording unit 14.

プリンタコントローラ部16は、画像形成装置1をプリンタ機能として動作させる際にプリント機能に必要となる各種制御や各種処理を行う。制御部10は、画像形成装置1の全体に係る制御を行っている。   The printer controller unit 16 performs various controls and various processes necessary for the print function when the image forming apparatus 1 operates as a printer function. The control unit 10 performs control related to the entire image forming apparatus 1.

図2に、画像調整部20内の構成を示す。画像調整部20は、画素抽出部201、輝度演算部202、標準偏差算出部203、フィルタ処理部204を含む。画素抽出部201は、画像から任意の注目画素を中心として、所定範囲の画素ブロックを抽出する。輝度演算部202は各画素の輝度値を算出する。標準偏差算出部203は、画素抽出部201で抽出された所定範囲の画素ブロックにおいて、注目画素と他の画素との輝度値の差の標準偏差値を算出する。フィルタ処理部204は、標準偏差算出部203で求めた標準偏差値を用いて、画素抽出部201で抽出した画素ブロックにおけるフィルタ処理を行う。標準偏差値が大きい画素ブロックについては、文字と見なし、エッジを強調するために高い周波数成分を強調するフィルタ処理を行う。標準偏差値が小さい画素ブロックについては、写真または絵と見なし、ノイズ低減を行うために低い周波数成分を強める(高い周波数成分を抑える)フィルタ処理を行う。   FIG. 2 shows a configuration inside the image adjustment unit 20. The image adjustment unit 20 includes a pixel extraction unit 201, a luminance calculation unit 202, a standard deviation calculation unit 203, and a filter processing unit 204. The pixel extraction unit 201 extracts a predetermined range of pixel blocks from an image with an arbitrary target pixel as the center. The luminance calculation unit 202 calculates the luminance value of each pixel. The standard deviation calculation unit 203 calculates the standard deviation value of the difference in luminance value between the target pixel and other pixels in the pixel block within the predetermined range extracted by the pixel extraction unit 201. The filter processing unit 204 performs filter processing on the pixel block extracted by the pixel extraction unit 201 using the standard deviation value obtained by the standard deviation calculation unit 203. A pixel block having a large standard deviation value is regarded as a character, and a filter process for emphasizing a high frequency component is performed to emphasize an edge. A pixel block having a small standard deviation value is regarded as a photograph or a picture, and is subjected to a filter process that intensifies low frequency components (suppresses high frequency components) in order to reduce noise.

図3に画像から画素抽出を行う例を、図4にそのフローチャートを示す。読取部11が画像を走査して読み取ると(ステップS101)、画素抽出部201は、任意の注目画素(図3の例ではグレーの網掛け部分)を中心とした、5×5の範囲の画素ブロックを抽出する(ステップS103)。輝度演算部202は、画素抽出部201が抽出した画素ブロック内の各画素の輝度値を演算する(ステップS105)。標準偏差算出部203は、演算した各画素の輝度値から、注目画素と他の各画素との輝度値の差の標準偏差値を算出する(ステップS107)。フィルタ処理部204は、画素ブロックの画像に対して算出した標準偏差値より、画像の特徴を反映したフィルタ処理を行い、画像に対して適切な処理を行う。以下フィルタ処理の例を説明する。   FIG. 3 shows an example of extracting pixels from an image, and FIG. 4 shows a flowchart thereof. When the reading unit 11 scans and reads an image (step S101), the pixel extraction unit 201 has a pixel in a range of 5 × 5 around an arbitrary target pixel (gray shaded portion in the example of FIG. 3). A block is extracted (step S103). The luminance calculation unit 202 calculates the luminance value of each pixel in the pixel block extracted by the pixel extraction unit 201 (step S105). The standard deviation calculation unit 203 calculates a standard deviation value of a difference in luminance value between the target pixel and each of the other pixels from the calculated luminance value of each pixel (step S107). The filter processing unit 204 performs filter processing that reflects the characteristics of the image based on the standard deviation value calculated for the image of the pixel block, and performs appropriate processing on the image. An example of filter processing will be described below.

<第1のフィルタ処理例>
フィルタ処理部204で用いるフィルタの第1の例として、変形したバイラテラルフィルタについて説明する。
<First Filter Processing Example>
A modified bilateral filter will be described as a first example of a filter used in the filter processing unit 204.

まず、バイラテラルフィルタは、下記(1)式で示される。
First, the bilateral filter is expressed by the following equation (1).

(1)式において、注目画素をI(i,j)とし、I(i+m、j+n)を注目画素の任意の近傍画素とする。ここで、m、nは近傍画素からの画素の変位量であり、mを走査方向(i方向)の変位量、nを副走査方向(j方向)の変位量とする。また、σ1は空間フィルタの標準偏差値、σ2は抽出した画素ブロック内での輝度値の差の標準偏差値である。(1)式内の分子第2項は空間フィルタ、分子第3項はガウス分布を示す。分母は正規化のための式である。 In equation (1), let the pixel of interest be I (i, j), and I (i + m, j + n) be any neighboring pixel of the pixel of interest. Here, m and n are pixel displacement amounts from neighboring pixels, where m is a displacement amount in the scanning direction (i direction) and n is a displacement amount in the sub-scanning direction (j direction). Further, σ 1 is a standard deviation value of the spatial filter, and σ 2 is a standard deviation value of a difference in luminance value in the extracted pixel block. The numerator second term in the equation (1) indicates a spatial filter, and the numerator third term indicates a Gaussian distribution. The denominator is an expression for normalization.

バイラテラルフィルタでは、注目画素の輝度値と近傍画素の輝度値との差分により、空間フィルタを制御するガウス分布の波形が変化する。図5にバイラテラルフィルタにおけるガウス分布の波形を示す。図5では上に凸の形状である。ガウス分布は、輝度値の差分が大きいほどなだらかな波形を描き、輝度値の差分が小さいほど急峻な波形を描く。図5では横軸が空間軸であるが、横軸を周波数軸におきかえた場合も同様の傾向となる。   In the bilateral filter, the waveform of the Gaussian distribution that controls the spatial filter changes depending on the difference between the luminance value of the target pixel and the luminance value of the neighboring pixel. FIG. 5 shows a waveform of a Gaussian distribution in the bilateral filter. In FIG. 5, the shape is convex upward. The Gaussian distribution draws a gentle waveform as the difference in luminance value increases, and draws a steeper waveform as the difference in luminance value decreases. In FIG. 5, the horizontal axis is the space axis, but the same tendency occurs when the horizontal axis is replaced with the frequency axis.

空間フィルタ((1)式の分子第2項)にローパスフィルタを選び、このガウス分布と、空間フィルタであるローパスフィルタを併合させ乗算すると、ローパスフィルタのフィルタ適用範囲が変化することになる。よって、ガウス分布が急峻な波形を描く場合は、ローパスフィルタの効果が強くなり、ガウス分布がなだらかな波形を描く場合は、ローパスフィルタの効果が弱くなる。このようにガウス分布によりローパスフィルタの効果の大小を制御することができる。   When a low-pass filter is selected as the spatial filter (numerator second term in equation (1)), and this Gaussian distribution is combined with the low-pass filter that is a spatial filter and multiplied, the filter application range of the low-pass filter changes. Therefore, when a waveform with a steep Gaussian distribution is drawn, the effect of the low-pass filter is strong, and when a waveform with a gentle Gaussian distribution is drawn, the effect of the low-pass filter is weak. Thus, the magnitude of the effect of the low-pass filter can be controlled by the Gaussian distribution.

バイラテラルフィルタのガウス分布が備えるこのローパスフィルタの効果を、高域成分を強調するハイパスフィルタの効果に応用するために、バイラテラルフィルタのガウス分布を反転した形(バイラテラルフィルタのガウス分布反転形)を(2)式に示し、その形状を図6に示す。
In order to apply the effect of this low-pass filter provided by the bilateral filter's Gaussian distribution to the effect of a high-pass filter that emphasizes high-frequency components, the bilateral filter's Gaussian distribution is inverted (the bilateral filter's Gaussian distribution is inverted). ) Is shown in equation (2), and its shape is shown in FIG.

(2)式は、(1)式の分子第3項のガウス分布を示す部分を1から減算する形となっており、図6で示すように、図5を反転させた、下に凸の形状となっている。ガウス分布は、輝度値の差分が大きいほど急峻な波形を描き、輝度値の差分が小さいほどなだらかな波形を描く。図6では横軸が空間軸であるが、周波数軸におきかえた場合も同様の傾向となる。   The formula (2) is a form in which the portion indicating the Gaussian distribution of the third term of the numerator of the formula (1) is subtracted from 1, and as shown in FIG. It has a shape. The Gaussian distribution draws a steeper waveform as the difference in luminance value increases, and draws a gentle waveform as the difference in luminance value decreases. In FIG. 6, the horizontal axis is the space axis, but the same tendency occurs when the frequency axis is replaced.

空間フィルタ((1)式の分子第2項)にハイパスフィルタを選び、この反転したガウス分布と、空間フィルタであるハイパスフィルタを併合させ乗算すると、フィルタの適応範囲も逆転し、差分が大きいほどフィルタが適用される。よって、ガウス分布が急峻な波形を描く場合は、ハイパスフィルタの効果が強くなり、ガウス分布がなだらかな波形を描く場合は、ハイパスフィルタの効果が弱くなる。   When a high-pass filter is selected as the spatial filter (numerator second term in equation (1)) and this inverted Gaussian distribution is combined with the high-pass filter, which is a spatial filter, the adaptive range of the filter is reversed, and the larger the difference, A filter is applied. Therefore, when a waveform having a steep Gaussian distribution is drawn, the effect of the high-pass filter is strong. When a waveform having a gentle Gaussian distribution is drawn, the effect of the high-pass filter is weak.

よって(2)式の「バイラテラルフィルタのガウス分布反転形」を用いることによって、輝度値の差分が大きい文字や線などには、ハイパスフィルタの効果であるエッジ強調効果を高め、よりくっきりした画像が出力される。逆に輝度値の差分が小さい写真等にはエッジ強調効果を弱め、なめらかな画像が出力される。   Therefore, by using the “bilateral filter Gaussian distribution inversion type” in equation (2), the edge enhancement effect, which is the effect of the high-pass filter, is enhanced for characters and lines with a large difference in luminance value, and a clearer image. Is output. On the other hand, the edge emphasis effect is weakened and a smooth image is output for a photograph or the like having a small difference in luminance value.

<第2のフィルタ処理例>
フィルタ処理部204で用いるフィルタの第2の例として、メキシカンハットフィルタを用いた例について説明する。(3)式は、(1)式のバイラテラルフィルタのガウス分布に、輝度値の差分を空間フィルタの標準偏差値σ1で正規化したメキシカンハットフィルタを掛け合わせている。
<Second filter processing example>
As a second example of a filter used in the filter processing unit 204, an example using a Mexican hat filter will be described. The expression (3) is obtained by multiplying the Gaussian distribution of the bilateral filter of the expression (1) by a Mexican hat filter obtained by normalizing the difference in luminance value with the standard deviation value σ 1 of the spatial filter.

ここでaは制御係数であり、輝度値の標準偏差値σ2に比例する。図7に、制御係数aの違いによる、メキシカンハットフィルタ((3)式の分子第3項)とガウス分布((3)式の分子第4項)とを掛け合わせた式の波形を示す。輝度値の差分が0の場合はメキシカンハットフィルタの項が0となりガウス分布のみとなる。輝度値の変化が空間フィルタの標準偏差値σ1と比較して小さい場合も、メキシカンハットフィルタの要素が小さいためガウス分布のみの波形に近くなり、ローパスフィルタの効果が強くなる。輝度値の差分が空間フィルタの標準偏差値σ1と比較して大きい場合は、メキシカンハットフィルタの要素が強くなる。 Here, a is a control coefficient, which is proportional to the standard deviation value σ 2 of the luminance value. FIG. 7 shows a waveform of an expression obtained by multiplying the Mexican hat filter (the numerator third term in the expression (3)) and the Gaussian distribution (the numerator fourth term in the expression (3)) depending on the control coefficient a. When the difference in luminance value is 0, the term of the Mexican hat filter is 0 and only the Gaussian distribution is obtained. Even when the change in luminance value is small compared to the standard deviation value σ 1 of the spatial filter, the elements of the Mexican hat filter are small, so that the waveform is close to a Gaussian only waveform, and the effect of the low-pass filter is enhanced. When the difference in luminance value is larger than the standard deviation value σ 1 of the spatial filter, the element of the Mexican hat filter becomes strong.

また制御係数aは図7における波形の幅を示している。制御係数aが小さいと波形の幅が大きくなり、ガウス分布に近づいて、ハイパスフィルタの効果およびローパスフィルタの効果が弱い。制御係数aが大きいと波形がメキシカンハット型となり、ハイパスフィルタの効果およびローパスフィルタの効果が強くなる。   The control coefficient a indicates the width of the waveform in FIG. When the control coefficient a is small, the waveform width becomes large, approaching a Gaussian distribution, and the effects of the high-pass filter and the low-pass filter are weak. When the control coefficient a is large, the waveform becomes a Mexican hat type, and the effect of the high-pass filter and the effect of the low-pass filter become stronger.

よって(3)式のメキシカンハットフィルタを用いることで、ハイパスフィルタの効果とローパスフィルタの効果の両方を得ることができ、文字や線はエッジ強調効果ではっきりと、写真や絵はノイズ低減効果でなめらかに出力される。   Therefore, by using the Mexican hat filter of equation (3), both the high-pass filter effect and the low-pass filter effect can be obtained. Characters and lines are clearly enhanced by edge enhancement, and photographs and pictures are reduced by noise. It is output smoothly.

<第3のフィルタ処理例>
フィルタ処理部204で用いるフィルタの第3の例として、標準偏差値を元にしたローパスフィルタ効果とハイパスフィルタ効果の切り替えについて、図8のフローチャートを参照して説明する。
<Third filter processing example>
As a third example of the filter used in the filter processing unit 204, switching between the low-pass filter effect and the high-pass filter effect based on the standard deviation value will be described with reference to the flowchart of FIG.

標準偏差算出部203は、図4のステップS107で求めた標準偏差値を正規化して制御係数nを求める。この制御係数nを空間フィルタ(ローパスフィルタおよびハイパスフィルタ)における重みづけとする。フィルタ処理部204は制御係数nを用いて、(4)式のフィルタ係数を与える(ステップS201)。
The standard deviation calculation unit 203 normalizes the standard deviation value obtained in step S107 in FIG. 4 to obtain the control coefficient n. This control coefficient n is used as a weight in the spatial filter (low-pass filter and high-pass filter). The filter processing unit 204 gives the filter coefficient of the equation (4) using the control coefficient n (step S201).

ここでHPFはハイパスフィルタを示す項、LPFはローパスフィルタを示す項である。(4)式より、制御係数nが大きい、つまり標準偏差値が大きいときは、抽出した画像に文字や線があると見なし、エッジを強調するために高い周波数成分を強調するフィルタ処理((4)式のHPFの項)となっている。逆に、制御係数nが小さい、つまり標準偏差値が小さいときは、抽出した画像に写真や絵があると見なし、ノイズを低減するために低い周波数成分を強調するフィルタ処理((4)式のLPFの項)となっている。   Here, HPF is a term indicating a high-pass filter, and LPF is a term indicating a low-pass filter. From the equation (4), when the control coefficient n is large, that is, when the standard deviation value is large, it is considered that the extracted image has characters and lines, and the filter processing ((4 ) HPF term in the formula. Conversely, when the control coefficient n is small, that is, the standard deviation value is small, it is assumed that the extracted image has a picture or picture, and a filter process (Equation (4)) that emphasizes low frequency components to reduce noise. LPF)).

次に、フィルタ処理部204は(4)式で算出したFilter[x][y]を、ステップS103で抽出した5×5の画素にそれぞれ乗算する(ステップS203)。このとき、Filter[x][y]と乗算する画素I[x][y]とは、座標が対応している。   Next, the filter processing unit 204 multiplies the 5 × 5 pixels extracted in step S103 by Filter [x] [y] calculated by the equation (4) (step S203). At this time, coordinates correspond to the pixel I [x] [y] to be multiplied by Filter [x] [y].

次に、フィルタ処理部204は、下記の(5)式に示すように、各画素で乗算した結果の総和を取り、Filter[x][y]の総和((5)式ではSUM_Filterと表示)で除算する(ステップS205)。ステップS205で得られた出力画像をg[x][y]とする。
Next, as shown in the following equation (5), the filter processing unit 204 calculates the sum of the results of multiplication by each pixel, and sums up Filter [x] [y] (displayed as SUM_Filter in equation (5)). Divide by (step S205). Let the output image obtained in step S205 be g [x] [y].

以上の動作を画像全体に対して行う。具体的には、ある画像範囲での処理が終わったら、次に抽出する画像範囲を走査方向あるいは副走査方向のどちらかに画素1つ分ずらして、輝度値の標準偏差値を求める。画像全体における処理が終了したら(ステップS207で「Yes」)、画像調整部20は画像記録部14に画像出力する(ステップS209)。   The above operation is performed on the entire image. Specifically, when the processing in a certain image range is completed, the image range to be extracted next is shifted by one pixel in either the scanning direction or the sub-scanning direction, and the standard deviation value of the luminance value is obtained. When the processing for the entire image is completed (“Yes” in step S207), the image adjustment unit 20 outputs an image to the image recording unit 14 (step S209).

これにより、抽出した画像範囲における注目画素からの標準偏差値に基づいた制御係数nによって、フィルタの重みづけが変化し、ローパスフィルタの効果とハイパスフィルタの効果を画像によって切り替えることが可能となり、エッジ強調とノイズ低減の両効果が同時に実現可能となる。   Thereby, the weight of the filter is changed by the control coefficient n based on the standard deviation value from the target pixel in the extracted image range, and the effect of the low-pass filter and the effect of the high-pass filter can be switched depending on the image. Both enhancement and noise reduction effects can be realized simultaneously.

なお、(4)式におけるローパスフィルタとハイパスフィルタの具体例は、その効果があればどのようなフィルタであってもよい。また、(4)式において、単にエッジ強調のみを行いたい場合は、n=1としてLPFの項を除去すればよい。逆に、単にノイズ低減のみを行いたい場合は、n=0としてHPFの項を除去すればよい。   Note that the specific examples of the low-pass filter and the high-pass filter in the equation (4) may be any filter as long as the effect is obtained. Further, in the equation (4), when only the edge enhancement is to be performed, it is only necessary to set n = 1 and remove the LPF term. On the other hand, if only noise reduction is desired, n = 0 can be used to remove the HPF term.

以上説明したように、本実施形態によれば、任意の画像範囲における、注目画素との輝度値の差の標準偏差値をフィルタ処理に用いて、文字等に対するエッジ強調効果と、写真等に対するノイズ低減の効果の両方を得ることができる。また、モアレの低減にも効果があり、モアレを抑えながらも文字を強調させて出力できる。   As described above, according to the present embodiment, the standard deviation value of the difference in luminance value from the target pixel in an arbitrary image range is used for the filter process, and the edge enhancement effect for characters and the like and the noise for photos and the like Both reduction effects can be obtained. Further, it is effective in reducing moire, and characters can be emphasized and output while suppressing moire.

特に、文字や線の画像では、エッジを強調してより鮮明な画像にすることができる。具体的には、バイラテラルフィルタのガウス分布反転形、メキシカンハットフィルタ、ローパスフィルタおよびハイパスフィルタに標準偏差による重みづけをしたフィルタ係数を有するフィルタが有効である。   In particular, in a character or line image, the edge can be emphasized to obtain a clearer image. Specifically, a bilateral filter Gaussian inversion type, a Mexican hat filter, a low-pass filter, and a high-pass filter having a filter coefficient weighted by standard deviation are effective.

以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。   As mentioned above, although embodiment of this invention was explained in full detail with reference to drawings, the specific structure is not restricted to this embodiment, The design change etc. of the range which does not deviate from the summary of this invention are included.

1…画像形成装置、10…制御部、11…読取部、12…画像処理部、13…ページメモリ部、14…画像形成部、15…ストレージ部、16…プリンタコントローラ部、17…FAXコントローラ部、18…電子データ作成部、20…画像調整部、21…スキャナー系画像処理部、22…プリンタ系画像処理部、201…画素抽出部、202…輝度演算部、203…標準偏差算出部、204…フィルタ処理部。   DESCRIPTION OF SYMBOLS 1 ... Image forming apparatus, 10 ... Control part, 11 ... Reading part, 12 ... Image processing part, 13 ... Page memory part, 14 ... Image forming part, 15 ... Storage part, 16 ... Printer controller part, 17 ... FAX controller part , 18 ... Electronic data creation unit, 20 ... Image adjustment unit, 21 ... Scanner system image processing unit, 22 ... Printer system image processing unit, 201 ... Pixel extraction unit, 202 ... Luminance calculation unit, 203 ... Standard deviation calculation unit, 204 ... Filter processing unit.

Claims (3)

画像信号における文字、線や写真、絵等の画像の特徴を判定する画像処理装置において、
前記画像信号から任意の注目画素および前記注目画素を中心とした所定範囲の画素ブロックを抽出する画素抽出部と、
前記画素抽出部で抽出した前記画素ブロック内の各画素の輝度値を演算する輝度演算部と、
前記輝度演算部で演算した前記各画素の輝度値と前記注目画素の輝度値の差から、標準偏差値を求める標準偏差算出部と、
前記標準偏差算出部で算出した前記標準偏差値を用いて、前記画素抽出部で抽出した前記所定範囲における画素ブロックについて、バイラテラルフィルタのガウス分布要素を反転した形のフィルタを用いたフィルタ処理を行うフィルタ処理部と、
前記フィルタ処理部でフィルタ処理を行った前記画素ブロックを出力する出力部と、
を有し、
前記フィルタ処理部は、前記標準偏差算出部で算出した前記標準偏差値が大きい場合、前記画素ブロックに対しエッジ強調処理を行い、前記標準偏差値が小さい場合、前記画像ブロックに対しノイズ低減処理を行う、
ことを特徴とする画像処理装置。
In an image processing apparatus that determines the characteristics of an image such as characters, lines, photographs, and pictures in an image signal,
A pixel extraction unit that extracts an arbitrary pixel of interest and a predetermined range of pixel blocks centered on the pixel of interest from the image signal;
A luminance calculation unit that calculates the luminance value of each pixel in the pixel block extracted by the pixel extraction unit;
A standard deviation calculating unit for obtaining a standard deviation value from a difference between the luminance value of each pixel calculated by the luminance calculating unit and the luminance value of the target pixel;
Using the standard deviation value calculated by the standard deviation calculation unit, the pixel block in the predetermined range extracted by the pixel extraction unit is subjected to filter processing using a filter in which a Gaussian distribution element of a bilateral filter is inverted. A filter processing unit to perform;
An output unit that outputs the pixel block that has been filtered by the filter processing unit;
Have
The filter processing unit performs edge enhancement processing on the pixel block when the standard deviation value calculated by the standard deviation calculation unit is large, and performs noise reduction processing on the image block when the standard deviation value is small. Do,
An image processing apparatus.
画像信号における文字、線や写真、絵等の画像の特徴を判定する画像処理装置において、
前記画像信号から任意の注目画素および前記注目画素を中心とした所定範囲の画素ブロックを抽出する画素抽出部と、
前記画素抽出部で抽出した前記画素ブロック内の各画素の輝度値を演算する輝度演算部と、
前記輝度演算部で演算した前記各画素の輝度値と前記注目画素の輝度値の差から、標準偏差値を求める標準偏差算出部と、
前記標準偏差算出部で算出した前記標準偏差値を用いて、前記画素抽出部で抽出した前記所定範囲における画素ブロックについて、バイラテラルフィルタにメキシカンハットフィルタの要素を掛け合わせた形のフィルタを用いたフィルタ処理を行うフィルタ処理部と、
前記フィルタ処理部でフィルタ処理を行った前記画素ブロックを出力する出力部と、
を有し、
前記フィルタ処理部は、前記標準偏差算出部で算出した前記標準偏差値が大きい場合、前記画素ブロックに対しエッジ強調処理を行い、前記標準偏差値が小さい場合、前記画像ブロックに対しノイズ低減処理を行う、
ことを特徴とする画像処理装置。
In an image processing apparatus that determines the characteristics of an image such as characters, lines, photographs, and pictures in an image signal,
A pixel extraction unit that extracts an arbitrary pixel of interest and a predetermined range of pixel blocks centered on the pixel of interest from the image signal;
A luminance calculation unit that calculates the luminance value of each pixel in the pixel block extracted by the pixel extraction unit;
A standard deviation calculating unit for obtaining a standard deviation value from a difference between the luminance value of each pixel calculated by the luminance calculating unit and the luminance value of the target pixel;
Using the standard deviation value calculated by the standard deviation calculation unit, for the pixel block in the predetermined range extracted by the pixel extraction unit, a bilateral filter multiplied by a Mexican hat filter element was used. A filter processing unit for performing filter processing;
An output unit that outputs the pixel block that has been filtered by the filter processing unit;
Have
The filter processing unit performs edge enhancement processing on the pixel block when the standard deviation value calculated by the standard deviation calculation unit is large, and performs noise reduction processing on the image block when the standard deviation value is small. Do,
An image processing apparatus.
画像信号における文字、線や写真、絵等の画像の特徴を判定する画像処理装置において、
前記画像信号から任意の注目画素および前記注目画素を中心とした所定範囲の画素ブロックを抽出する画素抽出部と、
前記画素抽出部で抽出した前記画素ブロック内の各画素の輝度値を演算する輝度演算部と、
前記輝度演算部で演算した前記各画素の輝度値と前記注目画素の輝度値の差から、標準偏差値を求め、当該標準偏差を正規化した正規化標準偏差をσ として求める標準偏差算出部と、
前記標準偏差算出部で算出したσ を用いてハイパスフィルタに重みづけするともに、(1−σ )を用いてローパスフィルタに重みづけして、重みづけがされた当該ハイパスフィルタと当該ローパスフィルタの組み合わせで合成されるフィルタ係数を用いて、前記画素抽出部で抽出した前記所定範囲における画素ブロックについてフィルタ処理を行うフィルタ処理部と、
前記フィルタ処理部でフィルタ処理を行った前記画素ブロックを出力する出力部と、
を有し、
前記フィルタ処理部は、前記標準偏差算出部で算出した前記標準偏差値が大きい場合、前記画素ブロックに対しエッジ強調処理を行い、前記標準偏差値が小さい場合、前記画像ブロックに対しノイズ低減処理を行う、
ことを特徴とする画像処理装置。
In an image processing apparatus that determines the characteristics of an image such as characters, lines, photographs, and pictures in an image signal,
A pixel extraction unit that extracts an arbitrary pixel of interest and a predetermined range of pixel blocks centered on the pixel of interest from the image signal;
A luminance calculation unit that calculates the luminance value of each pixel in the pixel block extracted by the pixel extraction unit;
A standard deviation calculation unit that obtains a standard deviation value from the difference between the luminance value of each pixel calculated by the luminance calculation unit and the luminance value of the target pixel, and obtains a normalized standard deviation obtained by normalizing the standard deviation as σ 0 When,
The high-pass filter is weighted by using the σ 0 calculated by the standard deviation calculation unit, and the low-pass filter is weighted by using (1-σ 0 ), and the weighted high-pass filter and the low-pass filter A filter processing unit that performs filter processing on pixel blocks in the predetermined range extracted by the pixel extraction unit using filter coefficients synthesized by a combination of
An output unit that outputs the pixel block that has been filtered by the filter processing unit;
Have
The filter processing unit performs edge enhancement processing on the pixel block when the standard deviation value calculated by the standard deviation calculation unit is large, and performs noise reduction processing on the image block when the standard deviation value is small. Do,
An image processing apparatus.
JP2009107638A 2008-04-29 2009-04-27 Image processing device Expired - Fee Related JP4972122B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US4885508P 2008-04-29 2008-04-29
US61/048,855 2008-04-29

Publications (2)

Publication Number Publication Date
JP2009266233A JP2009266233A (en) 2009-11-12
JP4972122B2 true JP4972122B2 (en) 2012-07-11

Family

ID=41394878

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009107638A Expired - Fee Related JP4972122B2 (en) 2008-04-29 2009-04-27 Image processing device

Country Status (1)

Country Link
JP (1) JP4972122B2 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5497420B2 (en) * 2009-12-22 2014-05-21 株式会社ザクティ Image processing apparatus and imaging apparatus
KR101089902B1 (en) 2010-08-06 2011-12-05 동아대학교 산학협력단 Apparatus and method for estimating edge of digital image
US8588535B2 (en) 2010-09-15 2013-11-19 Sharp Laboratories Of America, Inc. Methods and systems for estimation of compression noise
US8600188B2 (en) * 2010-09-15 2013-12-03 Sharp Laboratories Of America, Inc. Methods and systems for noise reduction and image enhancement
JP5367667B2 (en) 2010-09-21 2013-12-11 株式会社東芝 Image processing device
US8532429B2 (en) 2010-09-28 2013-09-10 Sharp Laboratories Of America, Inc. Methods and systems for noise reduction and image enhancement involving selection of noise-control parameter
US8175411B2 (en) 2010-09-28 2012-05-08 Sharp Laboratories Of America, Inc. Methods and systems for estimation of compression noise
US8538193B2 (en) 2010-09-28 2013-09-17 Sharp Laboratories Of America, Inc. Methods and systems for image enhancement and estimation of compression noise
KR101231212B1 (en) * 2011-03-11 2013-02-07 이화여자대학교 산학협력단 Method for removing noise in image
CN107190621B (en) * 2016-03-15 2023-01-10 南京理工技术转移中心有限公司 Pavement crack disease detection system and method

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08317255A (en) * 1995-05-19 1996-11-29 Nec Corp Method and device for picture quality improvement
JPH11250246A (en) * 1998-02-27 1999-09-17 Fuji Photo Film Co Ltd Image processing method and image processor

Also Published As

Publication number Publication date
JP2009266233A (en) 2009-11-12

Similar Documents

Publication Publication Date Title
JP4972122B2 (en) Image processing device
JP4890974B2 (en) Image processing apparatus and image processing method
JP4926568B2 (en) Image processing apparatus, image processing method, and image processing program
JP4549418B2 (en) Image processing apparatus, image processing method, image forming apparatus, program, and recording medium
JP4890973B2 (en) Image processing apparatus, image processing method, image processing program, and storage medium
JP6781406B2 (en) Image processing equipment and computer programs
JP2010093684A (en) Image processor
JP5275325B2 (en) Image processing apparatus, image forming apparatus, image processing method, computer program, and recording medium
JP2006343863A (en) Image processor and image processing method
US10529058B2 (en) Image processing apparatus that smooths image using classification result of pixels included therein
JP4884305B2 (en) Image processing apparatus, image forming apparatus, computer program, and recording medium
US10469708B2 (en) Systems and methods for image optimization and enhancement in electrophotographic copying
JP4570534B2 (en) Image processing apparatus, image forming apparatus, image processing method, and computer program
JP5025611B2 (en) Image processing apparatus, image forming apparatus, computer program, recording medium, and image processing method
JP2007104250A (en) Image display method, system, and program
JP2002158872A (en) Image processing method, image processor and recording medium
JP6163244B2 (en) Image processing apparatus, image forming apparatus, image processing program, and recording medium
JP6688193B2 (en) Image processing apparatus, image forming apparatus, image processing method, and image processing program
JP4545167B2 (en) Image processing method, image processing apparatus, image forming apparatus, computer program, and recording medium
JP2006311381A (en) Image processor, image forming apparatus, image processing method, computer program and recording medium
JP4160887B2 (en) Image processing apparatus and image processing method
JP6045182B2 (en) Image processing apparatus, image forming apparatus including the same, computer program, and recording medium
JP4334498B2 (en) Image processing apparatus, image forming apparatus, image processing method, and computer program
JP5122507B2 (en) Image processing apparatus, image forming apparatus, image processing method, program, and recording medium
JP5265040B2 (en) Image processing apparatus, image forming apparatus, computer program, recording medium, and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100916

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111011

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20111121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120321

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120406

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees