JP2008293425A - Noise removal device, program, and method - Google Patents

Noise removal device, program, and method Download PDF

Info

Publication number
JP2008293425A
JP2008293425A JP2007140675A JP2007140675A JP2008293425A JP 2008293425 A JP2008293425 A JP 2008293425A JP 2007140675 A JP2007140675 A JP 2007140675A JP 2007140675 A JP2007140675 A JP 2007140675A JP 2008293425 A JP2008293425 A JP 2008293425A
Authority
JP
Japan
Prior art keywords
image
evaluation value
noise removal
processing
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007140675A
Other languages
Japanese (ja)
Inventor
Yukihiro Naito
幸宏 内藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2007140675A priority Critical patent/JP2008293425A/en
Priority to PCT/JP2008/059738 priority patent/WO2008146817A1/en
Publication of JP2008293425A publication Critical patent/JP2008293425A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Picture Signal Circuits (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a noise removal device, a program and a method for achieving noise removal whose edge storage performance is high by directional filter processing, and for removing a pattern-shaped noise with low arithmetic quantity and a low circuit scale in a flat part. <P>SOLUTION: This noise removal device performs filter processing corresponding to the directions of edge components included in an input image to the image, and applies coring processing having different characteristics in the flat part and edge part of the image, and is provided with: an evaluation value calculation means for calculating an evaluation value concerning a plurality of directions; a direction discrimination processing means for discriminating the directions of the edge components from the evaluation value; a flatness discrimination processing means for discriminating the flat part or the edge part from the evaluation value; a directional filter processing means for operating filter processing according to the result of the direction discrimination processing means; and a coring processing means for operating coring processing according to the result of the flatness discrimination processing means. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は画像処理に関し、特に画像のノイズを除去するノイズ除去装置並びにプログラムおよび方法に関するものである。   The present invention relates to image processing, and more particularly to a noise removal apparatus, program, and method for removing image noise.

画像信号に含まれるノイズ信号を除去するノイズ除去方法においては、ローパスフィルタによる平滑化処理が広く行われている。しかし、ローパスフィルタによる平滑化処理によりノイズを低減させようとすると、画像信号に含まれるエッジ成分にも平滑化がかかるため、画像の鮮鋭度が低下してしまうという問題がある。   In a noise removal method for removing a noise signal included in an image signal, smoothing processing using a low-pass filter is widely performed. However, when noise is reduced by a smoothing process using a low-pass filter, the edge component included in the image signal is also smoothed, resulting in a problem that the sharpness of the image is lowered.

この問題に対処する方法として、特許文献1では画像に含まれるエッジ成分の方向を検出し、当該方向に沿った平滑化処理を適用することで、画像の鮮鋭度を低下させることなくノイズを低減する方式が示されている。   As a method for dealing with this problem, Patent Document 1 detects the direction of edge components included in an image, and applies a smoothing process along the direction to reduce noise without reducing the sharpness of the image. The method to do is shown.

また、上述のような方向性を有するフィルタによるノイズ除去の応用例が幾つか開示されている。特許文献2においては、エッジ成分の方向を検出する際に参照する画像を、原画像ではなく、原画像に対してローパスフィルタ処理を施した画像とすることで、方向判別処理結果を安定させる方式が示されており、特許文献3においては、多重解像度変換に基づくノイズ除去に際し、変換された各帯域の信号に対して方向性を有するフィルタを適用する方式が示されている。さらに、特許文献4には、後述のように適応的にコアリング閾値を変化させる例が示されている。   Further, some application examples of noise removal by the filter having the directionality as described above are disclosed. In Patent Document 2, a method for stabilizing a direction discrimination processing result by using an image that is referred to when detecting the direction of an edge component as an image obtained by performing low-pass filter processing on the original image, instead of the original image. In Patent Document 3, a method of applying a directional filter to the converted signal of each band is shown in noise removal based on multi-resolution conversion. Further, Patent Document 4 shows an example in which the coring threshold is adaptively changed as described later.

図10に方向性を有するフィルタによるノイズ除去方法を説明する図を示す。
図10において、入力画像400は、ノイズ除去が施され、出力画像404とされる。入力画像400は、方向判別処理部401にて注目画素におけるエッジの方向が検出され、この結果である方向判別結果402が方向性フィルタ処理部403に出力される。方向性フィルタ処理部403は、入力画像400に対して、方向判別結果402が示すエッジの方向に基づきフィルタ係数、あるいは、フィルタ処理方法を決定してフィルタ処理を施す。
FIG. 10 is a diagram illustrating a noise removal method using a directional filter.
In FIG. 10, the input image 400 is subjected to noise removal to be an output image 404. In the input image 400, the direction determination processing unit 401 detects the edge direction of the target pixel, and the direction determination result 402 as a result is output to the directionality filter processing unit 403. The directional filter processing unit 403 performs filter processing on the input image 400 by determining a filter coefficient or a filter processing method based on the edge direction indicated by the direction determination result 402.

次に、方向判別処理部401の動作の詳細について図5を参照して説明する。
図5のA00〜A44は、入力画像400における画素ブロックの画素を示し、中心画素A22が注目画素に相当する。方向判別処理においては、方向1から方向4までについて、どれが最もエッジに沿った方向であるかを決定するため、それぞれの方向について評価値を計算する。評価値としては様々な物が考えられるが、演算量が比較的少ないものとしては、以下のような評価値が考えられる。
E1 = | A22−A23 | + | A22−A24 | + | A22−A21 | + | A22−A20 |
E2 = | A22−A13 | + | A22−A04 | + | A22−A31 | + | A22−A40 |
E3 = | A22−A12 | + | A22−A02 | + | A22−A32 | + | A22−A42 |
E4 = | A22−A11 | + | A22−A00 | + | A22−A33 | + | A22−A44 |
Next, details of the operation of the direction determination processing unit 401 will be described with reference to FIG.
A00 to A44 in FIG. 5 indicate pixels of a pixel block in the input image 400, and the center pixel A22 corresponds to the target pixel. In the direction determination process, an evaluation value is calculated for each direction in order to determine which of the directions 1 to 4 is the direction along the edge. Although various things can be considered as an evaluation value, the following evaluation values can be considered as those having a relatively small amount of calculation.
E1 = | A22−A23 | + | A22−A24 | + | A22−A21 | + | A22−A20 |
E2 = | A22−A13 | + | A22−A04 | + | A22−A31 | + | A22−A40 |
E3 = | A22−A12 | + | A22−A02 | + | A22−A32 | + | A22−A42 |
E4 = | A22−A11 | + | A22−A00 | + | A22−A33 | + | A22−A44 |

E1からE4はそれぞれ方向1から方向4に対応した評価値であり、評価する方向においてエッジが存在する場合はこの評価値が大きくなり、エッジが存在しない場合には小さくなる特徴を有する。そこで、E1からE4の中で最小値を検出し、それに対応する方向はエッジが存在しないと判断することで、その方向をエッジに沿った方向と判定する。
特開昭55−133179号公報 特開平8−202870号公報 特開2001−57677号公報 特開2005−295488号公報
E1 to E4 are evaluation values corresponding to directions 1 to 4, respectively. The evaluation value increases when an edge exists in the direction to be evaluated, and decreases when there is no edge. Therefore, by detecting the minimum value from E1 to E4 and determining that there is no edge in the corresponding direction, the direction is determined as the direction along the edge.
JP 55-133179 A JP-A-8-202870 JP 2001-57677 A JP 2005-295488 A

ところが、方向性を有するフィルタは、エッジの保存能力が高い反面、平坦部等に存在するノイズを微小なエッジと捉えてこれを保存する傾向があり、これにより出力画像に模様状のノイズが残留するという問題がある。この問題に対処するために模様状のノイズを削除することを目的として、コアリング処理と組み合わせることが考えられる。ここで、コアリング処理とは、典型的には、入力信号の絶対値が閾値以下の場合にその信号を一律ゼロとし、閾値より大きい場合には絶対値を閾値だけ減じた信号とするような処理である。   However, a filter with directionality has a high ability to preserve edges, but tends to preserve noise that is present in flat areas as minute edges, which causes pattern-like noise to remain in the output image. There is a problem of doing. In order to deal with this problem, it is conceivable to combine it with a coring process for the purpose of eliminating pattern noise. Here, the coring process is typically such that when the absolute value of the input signal is less than or equal to the threshold value, the signal is uniformly zero, and when the input signal is greater than the threshold value, the signal is obtained by subtracting the absolute value by the threshold value. It is processing.

このようにすれば、ノイズが方向性フィルタ処理により微小な模様状のノイズとして残留したとしても、その後のコアリング処理により値の大きいエッジ成分にはそれほど影響を与えずに、微小なノイズを除去することができる。しかし、ノイズ量が大きい場合には、残留する模様状のノイズ量も大きく、これをコアリング処理で除去するためには閾値を大きくする必要がある。そうすると、エッジ成分に対する影響も無視できなくなり、方向性フィルタによりエッジを保存した効果が減殺されてしまう。   In this way, even if the noise remains as a fine pattern-like noise by the directional filter processing, the subsequent coring processing does not affect the edge component having a large value and removes the small noise. can do. However, when the amount of noise is large, the amount of residual pattern-like noise is also large, and it is necessary to increase the threshold value in order to remove this by coring processing. If it does so, the influence with respect to an edge component cannot be disregarded, and the effect which preserve | saved the edge by the directionality filter will be attenuated.

そこで、コアリング処理においても、エッジ部と平坦部とを判別して、エッジ部では閾値を小さく、平坦部では閾値を大きくするような処理が必要とされる。特許文献4は、このように適応的にコアリング閾値を変化させる例であるが、エッジ部か平坦部かの判定には、注目画素の周辺領域における画素値の変化を観察する必要があり、演算量が大きくなっていた。   Therefore, also in the coring process, it is necessary to distinguish between the edge portion and the flat portion, and to reduce the threshold value at the edge portion and increase the threshold value at the flat portion. Patent Document 4 is an example in which the coring threshold is adaptively changed in this way, but it is necessary to observe the change in the pixel value in the peripheral region of the pixel of interest in order to determine whether the edge portion or the flat portion, The amount of computation was large.

以上のように、画像に含まれるエッジ成分の方向を判別し(方向判別処理)、当該方向に沿った平滑化処理(フィルタ処理)を適用することで、画像の鮮鋭度を低下させることなくノイズを低減させることができるが、ノイズを効果的に除去するためには、エッジ部と平坦部とを判別して(平坦度判別処理)、それぞれについてコアリング閾値を変化させる必要がある。しかし、従来技術においては前述の方向判別処理と平坦度判別処理とを異なる指標に基づいて算出し、各処理を別々に行っていたので、結果として演算量が大きくなるという問題があった。   As described above, the direction of the edge component included in the image is determined (direction determination process), and the smoothing process (filter process) along the direction is applied, thereby reducing noise without reducing the sharpness of the image. However, in order to effectively remove noise, it is necessary to discriminate between edge portions and flat portions (flatness discrimination processing) and change the coring threshold value for each. However, in the prior art, the above-described direction determination processing and flatness determination processing are calculated based on different indexes, and each processing is performed separately. As a result, there is a problem that the amount of calculation increases.

本発明は、上記問題に鑑みてなされたもので、方向性フィルタ処理によりエッジ保存性能の高いノイズ除去を実現するとともに、平坦部において問題となる模様状のノイズを低演算量、低回路規模で除去するノイズ除去装置並びにプログラムおよび方法を提供することを目的とする。   The present invention has been made in view of the above problems, and achieves noise removal with high edge preservation performance by directional filter processing, and reduces pattern-shaped noise, which is a problem in a flat portion, with a low calculation amount and a low circuit scale. An object of the present invention is to provide a noise removing device, a program, and a method for removing the noise.

上記課題を解決するために、本発明は以下の手段を採用する。
本発明に係るノイズ除去装置は、入力された画像に対して、該画像に含まれるエッジ成分の方向に応じたフィルタ処理を施し、前記画像の平坦部とエッジ部とで異なる特性を有するコアリング処理を適用するノイズ除去装置であって、複数の方向に関する評価値を計算する評価値計算手段と、前記評価値からエッジ成分の方向を判別する方向判別処理手段と、前記評価値から平坦部かエッジ部かを判別する平坦度判別処理手段と前記方向判別処理手段の結果により前記フィルタ処理を施す方向性フィルタ処理手段と、前記平坦度判別処理手段の結果により前記コアリング処理を行うコアリング処理手段と、を備えたことを特徴とする。
In order to solve the above problems, the present invention employs the following means.
The noise removal apparatus according to the present invention performs filtering on an input image according to the direction of an edge component included in the image, and has different characteristics between a flat portion and an edge portion of the image. A noise removal apparatus to which processing is applied, wherein an evaluation value calculation unit that calculates evaluation values related to a plurality of directions, a direction determination processing unit that determines a direction of an edge component from the evaluation values, and a flat portion from the evaluation values Flatness discrimination processing means for discriminating an edge portion, directional filter processing means for performing the filter processing based on the result of the direction discrimination processing means, and coring processing for performing the coring processing based on the result of the flatness discrimination processing means Means.

本発明のノイズ除去装置によれば、方向判別処理と平坦部判別処理において評価値演算を共通化するので、平坦部において問題となる模様状のノイズを低演算量、低回路規模で除去することが可能となる。   According to the noise removal apparatus of the present invention, the evaluation value calculation is shared in the direction determination processing and the flat portion determination processing, so that pattern-like noise that is a problem in the flat portion is removed with a low calculation amount and a low circuit scale. Is possible.

本発明に係るノイズ除去プログラムは、入力された画像に対して、該画像に含まれるエッジ成分の方向に応じたフィルタ処理と、前記画像の平坦部とエッジ部とで異なる特性を有するコアリング処理とをコンピュータに実行させるノイズ除去プログラムであって、複数の方向に関する評価値を計算する評価値計算処理と、前記評価値からエッジ成分の方向を判別する方向判別処理と、前記評価値から平坦部かエッジ部かを判別する平坦度判別処理とを行い、前記方向判別処理の結果に基づいた前記フィルタ処理と、前記平坦度判別処理の結果に基づいた前記コアリング処理とをコンピュータに実行させることを特徴とする。   The noise removal program according to the present invention includes a filtering process according to a direction of an edge component included in an input image and a coring process having different characteristics between a flat portion and an edge portion of the image. Is a noise removal program that causes a computer to execute evaluation value calculation processing for calculating evaluation values for a plurality of directions, direction determination processing for determining the direction of an edge component from the evaluation values, and a flat portion from the evaluation values. Flatness discrimination processing for discriminating between the edge determination portion and the edge portion, and causing the computer to execute the filtering processing based on the result of the direction discrimination processing and the coring processing based on the result of the flatness discrimination processing. It is characterized by.

本発明に係る撮像システムは、上記のノイズ除去装置を備えることを特徴とする。   An imaging system according to the present invention includes the above-described noise removing device.

本発明の撮像システムによれば、撮像される画像のノイズレベルやユーザの好みに適した画像を得ることが可能となる。   According to the imaging system of the present invention, it is possible to obtain an image suitable for a noise level of a captured image and a user's preference.

本発明に係るノイズ除去方法は、入力された画像に対して、該画像に含まれるエッジ成分の方向に応じたフィルタ処理を施し、前記画像の平坦部とエッジ部とで異なる特性を有するコアリング処理を適用するノイズ除去方法であって、複数の方向に関する評価値を計算する評価値計算工程と、前記評価値からエッジ成分の方向を判別する方向判別処理工程と、前記評価値から平坦部かエッジ部かを判別する平坦度判別処理工程とを有し、前記方向判別工程の結果により前記フィルタ処理を制御し、前記平坦度判別工程の結果により前記コアリング処理を制御することを特徴とする。   The noise removal method according to the present invention performs a filtering process on the input image according to the direction of the edge component included in the image, and has different characteristics between the flat portion and the edge portion of the image. A noise removal method that applies processing, an evaluation value calculation step that calculates evaluation values related to a plurality of directions, a direction determination processing step that determines the direction of an edge component from the evaluation values, and a flat portion from the evaluation values A flatness discriminating process step for discriminating whether it is an edge portion, controlling the filtering process according to the result of the direction discriminating process, and controlling the coring process according to the result of the flatness discriminating process. .

本発明のノイズ除去装置並びにプログラムおよび方法によれば、方向性フィルタ処理によりエッジ保存性能の高いノイズ除去を実現するとともに、平坦部において問題となる模様状のノイズを低演算量、低回路規模で除去することが可能となる。   According to the noise removal apparatus, program, and method of the present invention, noise removal with high edge preservation performance is realized by directional filter processing, and pattern-like noise that is a problem in a flat portion is reduced with a small amount of computation and a low circuit scale. It can be removed.

[第1の実施形態]
以下に、本発明に係るノイズ除去装置並びにプログラムおよび方法の第1の実施形態について、図面を参照して説明する。
図1は、本実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
本実施形態に係るノイズ除去装置は、入力画像に対して複数の方向に関する評価値を計算する評価値計算部103と、評価値計算部103より与えられた評価値からエッジ成分の方向を判別する方向判別処理部105と、評価値計算部103より与えられた評価値から平坦部かエッジ部かを判別する平坦度判別処理部107と、方向判別処理部105の結果に基づいてフィルタ処理を行う方向性フィルタ処理部101と、平坦度判別処理部107の結果に基づいてコアリング処理を行うコアリング処理部102とを備えている。
[First Embodiment]
Hereinafter, a first embodiment of a noise removing device, a program, and a method according to the present invention will be described with reference to the drawings.
FIG. 1 is a functional block diagram showing the functions provided in the noise removal device according to the present embodiment.
The noise removal apparatus according to the present embodiment discriminates the direction of an edge component from an evaluation value calculation unit 103 that calculates evaluation values for a plurality of directions with respect to an input image, and an evaluation value given by the evaluation value calculation unit 103. Filter processing is performed based on the results of the direction discrimination processing unit 105, the flatness discrimination processing unit 107 that discriminates the flat portion or the edge portion from the evaluation value given from the evaluation value calculation unit 103, and the direction discrimination processing unit 105. A directional filter processing unit 101 and a coring processing unit 102 that performs a coring process based on the result of the flatness discrimination processing unit 107 are provided.

上記構成を有するノイズ除去装置において、入力画像100は、方向性フィルタ処理部101により、エッジ方向に沿った方向にフィルタ処理がなされた後、コアリング処理部102により、平坦部での残留ノイズがエッジ部に比べてより強く除去され、出力画像109となる。ここで、方向性フィルタ処理部101で適用されるフィルタ特性は、方向判別処理部105の出力である方向判別結果106により制御される。   In the noise removing apparatus having the above-described configuration, the input image 100 is subjected to filter processing in the direction along the edge direction by the directional filter processing unit 101, and then residual noise on the flat portion is detected by the coring processing unit 102. The output image 109 is removed more strongly than the edge portion. Here, the filter characteristic applied by the directional filter processing unit 101 is controlled by a direction discrimination result 106 that is an output of the direction discrimination processing unit 105.

評価値計算部103は、方向判別の候補となる方向それぞれに対応する評価値104を、入力画像100を参照して計算し、方向判別処理部105は、この評価値104を基にして方向判別処理を行う。また、評価値104は平坦度判別処理部107にも出力され、平坦度判別処理部107は画像の注目画素が平坦部に位置するのかエッジ部に位置するのかを表す平坦度判別処理結果108をコアリング処理部102に出力し、コアリング処理の強度を制御する。   The evaluation value calculation unit 103 calculates an evaluation value 104 corresponding to each direction candidate for direction determination with reference to the input image 100, and the direction determination processing unit 105 performs direction determination based on the evaluation value 104. Process. The evaluation value 104 is also output to the flatness discrimination processing unit 107, and the flatness discrimination processing unit 107 displays a flatness discrimination processing result 108 indicating whether the target pixel of the image is located at the flat part or the edge part. It outputs to the coring process part 102, and controls the intensity | strength of a coring process.

以下、各処理部の詳細について主に図5を参照して説明する。
まず、評価値計算部103と方向判別処理部105について説明する。ここでは、ある注目画素におけるエッジの方向を判別する際に、注目画素の周囲5×5の画素ブロックを用いるとし、判別するエッジの方向を4方向とした場合を例として説明する。なお、このブロックサイズは必要に応じて7×7等他のサイズにすることも可能であり、方向数については必要に応じて8方向等に増やすことも可能である。
Hereinafter, details of each processing unit will be described mainly with reference to FIG.
First, the evaluation value calculation unit 103 and the direction determination processing unit 105 will be described. Here, a case will be described as an example in which a 5 × 5 pixel block around a pixel of interest is used when determining the edge direction of a certain pixel of interest, and the edge direction to be determined is four directions. The block size can be set to other sizes such as 7 × 7 as required, and the number of directions can be increased to 8 directions or the like as required.

図5のA00〜A44を、入力画像100における画素ブロックの画素とみなし、中心画素A22が注目画素位置に相当するものとする。方向判別においては、方向1から方向4までについて、どれが最もエッジに沿った方向であるかを決定するため、評価値計算部103において、それぞれの方向について評価値を計算する。評価値としては様々な物が考えられるが、本実施形態においては以下の評価値を使用する。
E1 = | A22−A23 | + | A22−A24 | + | A22−A21 | + | A22−A20 |
E2 = | A22−A13 | + | A22−A04 | + | A22−A31 | + | A22−A40 |
E3 = | A22−A12 | + | A22−A02 | + | A22−A32 | + | A22−A42 |
E4 = | A22−A11 | + | A22−A00 | + | A22−A33 | + | A22−A44 |
Assume that A00 to A44 in FIG. 5 are pixels of the pixel block in the input image 100, and the center pixel A22 corresponds to the target pixel position. In the direction discrimination, the evaluation value calculation unit 103 calculates an evaluation value for each direction in order to determine which of the directions 1 to 4 is the direction along the edge. Although various things can be considered as an evaluation value, in the present embodiment, the following evaluation values are used.
E1 = | A22−A23 | + | A22−A24 | + | A22−A21 | + | A22−A20 |
E2 = | A22−A13 | + | A22−A04 | + | A22−A31 | + | A22−A40 |
E3 = | A22−A12 | + | A22−A02 | + | A22−A32 | + | A22−A42 |
E4 = | A22−A11 | + | A22−A00 | + | A22−A33 | + | A22−A44 |

E1からE4はそれぞれ方向1から方向4に対応した評価値104であり、評価する方向においてエッジが存在する場合はこの評価値104が大きくなり、エッジが存在しない場合には小さくなる特徴を有する。方向判別処理部105では、評価値104のE1からE4の中で最小値を検出し、それに対応する方向はエッジが存在しないと判断することで、その方向をエッジに沿った方向と判定し、方向判別結果106とする。   E1 to E4 are evaluation values 104 corresponding to directions 1 to 4, respectively. The evaluation value 104 increases when an edge exists in the direction to be evaluated, and decreases when there is no edge. The direction determination processing unit 105 detects the minimum value from E1 to E4 of the evaluation value 104 and determines that the corresponding direction does not have an edge, thereby determining the direction as the direction along the edge, The direction determination result 106 is used.

次に、評価値計算部103と平坦度判別処理部107について説明する。
平坦度判別処理部107は、評価値計算部103が計算した評価値104を基に、画像の注目画素が平坦部に位置するのかエッジ部に位置するのかを表す平坦度判別処理結果108を出力する。本実施形態における評価値E1からE4は、当該方向がエッジをまたぐ場合に値が大きくなるという特性を有する。そこで、平坦度判別処理部107は、E1からE4の最大値を計算し、この最大値をもって平坦度を表す平坦度判別処理結果108とする。この値が大きければ、注目画素周辺に強いエッジ信号が存在することとなり、この値が小さければ、注目画素周辺には強いエッジ信号が存在しないこととなり、平坦部としての特性が強いこととなる。
Next, the evaluation value calculation unit 103 and the flatness determination processing unit 107 will be described.
Based on the evaluation value 104 calculated by the evaluation value calculation unit 103, the flatness determination processing unit 107 outputs a flatness determination processing result 108 indicating whether the pixel of interest of the image is located at the flat part or the edge part. To do. The evaluation values E1 to E4 in the present embodiment have a characteristic that the value increases when the direction crosses the edge. Therefore, the flatness discrimination processing unit 107 calculates the maximum value from E1 to E4, and uses the maximum value as the flatness discrimination processing result 108 representing the flatness. If this value is large, there will be a strong edge signal around the pixel of interest, and if this value is small, there will be no strong edge signal around the pixel of interest, and the characteristics of the flat part will be strong.

コアリング処理部102は、平坦度判別処理結果108を受け取り、この値に応じて当該注目画素におけるコアリング閾値を設定し、コアリング処理を行う。平坦度判別処理結果108が小さい値の場合には、当該注目画素が平坦部に存在するので、コアリング閾値を大きくし、平坦度判別処理結果108が大きい値の場合には、エッジ部に相当することとなるので、コアリング閾値を小さくする。このようなコアリング閾値と平坦度判別処理結果108との関係が図2に示されている。例えば、コアリング処理部102は、予め設定された図2に示す関係をコアリング閾値設定テーブルとして記憶しておき、算出された平坦度判別処理結果108に対応するコアリング閾値をコアリング閾値設定テーブルから読み出すことによって、コアリング閾値を設定する。   The coring processing unit 102 receives the flatness discrimination processing result 108, sets a coring threshold value for the pixel of interest according to this value, and performs coring processing. When the flatness discrimination processing result 108 is a small value, the target pixel exists in the flat portion. Therefore, the coring threshold is increased, and when the flatness discrimination processing result 108 is a large value, it corresponds to the edge portion. Therefore, the coring threshold is reduced. The relationship between such a coring threshold and the flatness discrimination processing result 108 is shown in FIG. For example, the coring processing unit 102 stores the relationship shown in FIG. 2 set in advance as a coring threshold setting table, and sets the coring threshold corresponding to the calculated flatness discrimination processing result 108 to the coring threshold setting. A coring threshold is set by reading from the table.

以上のように、本実施形態に係るノイズ除去方法によれば、方向判別処理と平坦部判別処理において評価値演算を共通化することで、平坦部において問題となる模様状のノイズを低演算量、低回路規模で除去することが可能となる。   As described above, according to the noise removal method according to the present embodiment, by sharing the evaluation value calculation in the direction determination process and the flat part determination process, it is possible to reduce pattern-shaped noise that is a problem in the flat part with a low calculation amount. It becomes possible to remove it with a low circuit scale.

〔第2の実施形態〕
次に、本発明の第2の実施形態について、図3を用いて説明する。
本実施形態に係るノイズ除去装置並びにプログラムおよび方法が第1の実施形態と異なる点は、入力された画像を少なくとも2つの帯域画像に分割し、各帯域画像それぞれについて、評価値を計算し、該評価値を用いて方向判別処理および平坦度判別処理を行う点である。以下、本実施形態のノイズ除去方法およびプログラム並びに装置について、第1の実施形態と共通する点については説明を省略し、異なる点について主に説明する。
[Second Embodiment]
Next, a second embodiment of the present invention will be described with reference to FIG.
The noise removal apparatus and the program and method according to the present embodiment are different from the first embodiment in that the input image is divided into at least two band images, and an evaluation value is calculated for each band image. The point is that the direction determination process and the flatness determination process are performed using the evaluation value. Hereinafter, the noise removal method, the program, and the apparatus of the present embodiment will not be described with respect to the points common to the first embodiment, and different points will be mainly described.

図3は本実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。ここでは、ラプラシアンピラミッドによる多重解像度変換に基づくノイズ除去方法を例として説明する。
本実施形態に係るノイズ除去装置は、ラプラシアンピラミッドにより多重解像度変換を施す多重解像度変換部と、各帯域の信号に対してノイズ除去をするNR処理部とを備えている。
FIG. 3 is a functional block diagram showing the functions provided in the noise removal apparatus according to the present embodiment. Here, a noise removal method based on multi-resolution conversion using a Laplacian pyramid will be described as an example.
The noise removal apparatus according to the present embodiment includes a multiresolution conversion unit that performs multiresolution conversion using a Laplacian pyramid, and an NR processing unit that performs noise removal on signals in each band.

上記多重解像度変換部は、複数段のフィルタ処理・縮小処理部201,210,218と、各フィルタ処理・縮小処理部201,210,218に対応して設けられる拡大処理部202,211,219と、ノイズ除去後の画像を用いて信号を再合成する合成部とを備えている。
このような構成において、入力画像200は、フィルタ処理・縮小処理部201にてローパスフィルタ処理後に縮小される。この処理により、画像サイズは水平方向、垂直方向共に半分となる。縮小された画像は、次段のフィルタ処理・縮小処理部210に供給され、順次さらに縮小されていく。
The multi-resolution conversion unit includes a plurality of stages of filter processing / reduction processing units 201, 210, 218, and enlargement processing units 202, 211, 219 provided corresponding to the filter processing / reduction processing units 201, 210, 218, and the like. And a synthesizing unit that re-synthesizes the signal using the image after noise removal.
In such a configuration, the input image 200 is reduced by the filter processing / reduction processing unit 201 after the low-pass filter processing. By this processing, the image size is halved in both the horizontal direction and the vertical direction. The reduced image is supplied to the filter processing / reduction processing unit 210 at the next stage, and further reduced further.

このように縮小された画像は、拡大処理部202にて元の画像サイズに拡大された後、減算器203にて帯域画像204が作成される。この帯域画像204は、フィルタ処理・縮小処理部201で用いられたローパスフィルタ特性により遮断された高域部分の信号に相当する。この高域成分を多く含む帯域画像204に対して、NR処理部205にてノイズ除去処理を施す。次段の処理でも同様に、フィルタ処理・縮小処理部210、拡大処理部211、減算器212により、次段に相当する帯域画像が生成され、これに対してNR処理部213でノイズ除去処理を適用する。このようにして順次の帯域分割された信号に対してノイズ除去処理が適用されることとなる。   The image reduced in this way is enlarged to the original image size by the enlargement processing unit 202, and then a band image 204 is created by the subtractor 203. This band image 204 corresponds to a signal in a high frequency part cut off by the low-pass filter characteristic used in the filter processing / reduction processing unit 201. The NR processing unit 205 performs noise removal processing on the band image 204 containing a lot of high frequency components. Similarly in the next stage processing, a band image corresponding to the next stage is generated by the filter processing / reduction processing unit 210, the enlargement processing unit 211, and the subtractor 212, and the NR processing unit 213 performs noise removal processing on the band image. Apply. In this way, noise removal processing is applied to the sequentially band-divided signal.

NR処理部221の出力は、低域側の信号と加算器224で加算され、拡大処理部225によって拡大された後、高域側の処理に送られる。このようにして順次低域側から信号が再合成されていき、最終的に最高域の信号が加算器209により加算されて、出力画像226となる。   The output of the NR processing unit 221 is added to the signal on the low frequency side by the adder 224, enlarged by the expansion processing unit 225, and then sent to the processing on the high frequency side. In this way, the signals are sequentially recombined from the low frequency side, and finally the highest frequency signal is added by the adder 209 to form an output image 226.

図4は、NR処理部205の詳細を示した図である。なお、他の帯域におけるNR処理部であるNR処理部213やNR処理部221等は、NR処理部205と同様の構成なので説明を省略する。
帯域画像204は、方向性フィルタ処理部301により、エッジ方向に沿った方向にフィルタ処理がなされた後、コアリング処理部302により、平坦部での残留ノイズがエッジ部に比べてより強く除去され、出力信号206となる。方向性フィルタ処理部301で適用されるフィルタ特性は、方向判別処理部305の出力である方向判別処理結果306により制御される。
FIG. 4 is a diagram illustrating details of the NR processing unit 205. The NR processing unit 213, the NR processing unit 221 and the like, which are NR processing units in other bands, have the same configuration as the NR processing unit 205, and a description thereof will be omitted.
The band image 204 is filtered in the direction along the edge direction by the directional filter processing unit 301, and then residual noise in the flat portion is more strongly removed than the edge portion by the coring processing unit 302. , The output signal 206. The filter characteristics applied by the directional filter processing unit 301 are controlled by a direction discrimination processing result 306 that is an output of the direction discrimination processing unit 305.

方向判別処理部305では、評価値計算部303にて計算された評価値304を基に、方向判別処理が実行される。また、評価値304は平坦度判別処理部307にも出力され、平坦度判別処理部307は画像の注目画素が平坦部に位置するのかエッジ部に位置するのかを表す平坦度判別処理結果308をコアリング処理部302に出力し、コアリング処理の強度を制御する。   In the direction discrimination processing unit 305, the direction discrimination processing is executed based on the evaluation value 304 calculated by the evaluation value calculation unit 303. The evaluation value 304 is also output to the flatness discrimination processing unit 307, and the flatness discrimination processing unit 307 displays a flatness discrimination processing result 308 that indicates whether the target pixel of the image is located at the flat part or the edge part. It outputs to the coring process part 302 and controls the intensity | strength of a coring process.

評価値計算部303は、第1の実施形態における評価値計算部103と同様に、注目画素におけるエッジの方向を判別するための評価値を計算するものである。
ここで、第1の実施形態においては、入力画像100から画素ブロックを生成し(A00〜A44)、評価値E1〜E4を計算していた。これに対し、本実施形態においては、帯域画像204を含む高域画像(第1の画像)207と、低域画像(第2の画像)208から画素ブロックを生成し、第1の実施形態と同様の評価値を生成するものとする。
Similar to the evaluation value calculation unit 103 in the first embodiment, the evaluation value calculation unit 303 calculates an evaluation value for determining the edge direction of the target pixel.
Here, in the first embodiment, pixel blocks are generated from the input image 100 (A00 to A44), and the evaluation values E1 to E4 are calculated. On the other hand, in this embodiment, a pixel block is generated from a high-frequency image (first image) 207 including a band image 204 and a low-frequency image (second image) 208, and It is assumed that a similar evaluation value is generated.

当該画素ブロックを生成するにあたっては、低域画像208のみから画素ブロックを生成すれば、ノイズによる影響の少ない方向判別を実現できる。また、高域画像207のみから画素ブロックを生成すれば、ノイズによる影響は残るものの、エッジ成分を含む高域成分を有することから細かい構造物に対応した方向判別が実現できる。あるいは、高域画像207と低域画像208を組み合わせて画素ブロックを生成することも可能である。例えば、高域画像207と低域画像208との加重平均を行うことで、双方の特性を有する画像(第3の画像)を生成することが可能である。高域画像207と低域画像208を組み合わせた場合には、高域画像207および低域画像208の双方の特性を利用することによって、入力画像の細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現することができる。
なお、評価値計算部303は、上述した複数の画素ブロックの生成方法を帯域画像204の特性等に応じて選択可能な構成としてもよい。
In generating the pixel block, if the pixel block is generated only from the low-frequency image 208, direction determination with little influence of noise can be realized. Further, if a pixel block is generated from only the high frequency image 207, the influence of noise remains, but since it has a high frequency component including an edge component, direction determination corresponding to a fine structure can be realized. Alternatively, a pixel block can be generated by combining the high-frequency image 207 and the low-frequency image 208. For example, by performing a weighted average of the high frequency image 207 and the low frequency image 208, it is possible to generate an image (third image) having both characteristics. When the high-frequency image 207 and the low-frequency image 208 are combined, the characteristics of both the high-frequency image 207 and the low-frequency image 208 are used to cope with changes in the fine structure of the input image and to reduce noise. Stable direction discrimination that is not affected can be realized.
Note that the evaluation value calculation unit 303 may be configured so that the above-described method for generating a plurality of pixel blocks can be selected according to the characteristics of the band image 204 or the like.

評価値304は、第1の実施形態におけるE1からE4と同様であり、それぞれ方向1から方向4に対応しており、評価する方向においてエッジが存在する場合はこの評価値304が大きくなり、エッジが存在しない場合には小さくなる特徴を有する。方向判別処理部305では、評価値304のE1からE4の中で最小値を検出し、それに対応する方向はエッジが存在しないと判断することで、その方向をエッジに沿った方向と判定し、方向判別処理結果306とする。   The evaluation value 304 is the same as E1 to E4 in the first embodiment, and corresponds to the direction 1 to the direction 4, respectively. When there is an edge in the direction to be evaluated, the evaluation value 304 becomes large and the edge It has a feature that it becomes small when no exists. The direction determination processing unit 305 detects the minimum value from E1 to E4 of the evaluation value 304 and determines that the corresponding direction does not have an edge, thereby determining the direction as the direction along the edge, The direction determination processing result 306 is assumed.

評価値計算部303において計算された評価値304は、第1の実施形態と同様に、平坦度判別処理部307において利用され、画像の注目画素が平坦部に位置するのかエッジ部に位置するのかを表す平坦度判別処理結果308が計算される。コアリング処理部302は、第1の実施形態と同様に、平坦度判別処理結果308を受け取り、この値に応じて当該注目画素におけるコアリング閾値を設定し、コアリング処理を行う。   The evaluation value 304 calculated in the evaluation value calculation unit 303 is used in the flatness discrimination processing unit 307 as in the first embodiment, and whether the target pixel of the image is located in the flat part or the edge part. The flatness discrimination processing result 308 representing is calculated. Similarly to the first embodiment, the coring processing unit 302 receives the flatness determination processing result 308, sets a coring threshold value for the pixel of interest according to this value, and performs coring processing.

以上のように、本実施形態に係るノイズ除去装置によれば、多重解像度変換に基づくノイズ除去と、方向性フィルタ処理を組み合わせて実現することによって、より効率的にノイズを除去することが可能となる。
また、多重解像度変換に基づくノイズ除去と、方向性フィルタ処理によりエッジ保存性能の高いノイズ除去を組み合わせて実現する際でも、本実施形態のように各帯域におけるNR処理において、方向判別処理と平坦部判別処理における評価値演算を共通化することで、平坦部において問題となる模様状のノイズを低演算量、低回路規模で除去することが可能となる。
As described above, according to the noise removal device according to the present embodiment, it is possible to more efficiently remove noise by combining noise removal based on multi-resolution conversion and directional filter processing. Become.
Even when noise removal based on multi-resolution conversion is combined with noise removal with high edge preservation performance by directional filter processing, in the NR processing in each band as in this embodiment, the direction determination processing and the flat portion are performed. By sharing the evaluation value calculation in the discrimination processing, it is possible to remove pattern-like noise that becomes a problem in the flat portion with a low calculation amount and a low circuit scale.

なお、本実施形態においては、方向判別処理部305と平坦度判別処理部307で使用する評価値304を同一のものとしているが、これを異なるものとした場合でも、同一の評価値計算部303にて計算できるのであれば、低回路規模で実現するという効果は依然として得ることができる。例えば、方向判別処理においては、画像の細かい構造に対応した方向判別処理を実現するために、その評価値は高域画像207を用いて計算し、平坦度判別処理はノイズの影響を受けにくい安定した判別処理を実現するために、低域画像208を用いて計算することも可能である。この場合、評価値計算部303の回路を双方の評価値演算に利用することにより、回路規模の削減が可能となる。
また、本実施形態においては、複数の帯域画像に分割して各帯域画像にノイズ除去を行う方法として、ラプラシアンピラミッドによる多重解像度変換に基づくノイズ除去方法を例として説明したが、この例に限定されるものではない。
In the present embodiment, the evaluation value 304 used in the direction determination processing unit 305 and the flatness determination processing unit 307 is the same, but even if they are different, the same evaluation value calculation unit 303 is used. If it is possible to calculate with the above, the effect of realizing with a small circuit scale can still be obtained. For example, in the direction determination process, in order to realize the direction determination process corresponding to the fine structure of the image, the evaluation value is calculated using the high-frequency image 207, and the flatness determination process is stable and hardly affected by noise. In order to realize the discrimination processing, it is also possible to calculate using the low-frequency image 208. In this case, the circuit scale can be reduced by using the circuit of the evaluation value calculation unit 303 for both evaluation value calculations.
In the present embodiment, the noise removal method based on the multi-resolution conversion by the Laplacian pyramid has been described as an example as a method of performing noise removal on each band image by dividing into a plurality of band images. However, the present invention is not limited to this example. It is not something.

〔第3の実施形態〕
次に、本発明の第3の実施形態について、図6を用いて説明する。
本実施形態は、前述の各実施形態において説明したノイズ除去装置をデジタルカメラ等の撮像システムに組み込んだ形態である。以下に、本実施形態に係る撮像システムついて図6を参照して説明する。なお、前述の各実施形態と共通する点については説明を省略し、異なる点について主に説明する。
[Third Embodiment]
Next, a third embodiment of the present invention will be described with reference to FIG.
In the present embodiment, the noise removal device described in each of the above-described embodiments is incorporated in an imaging system such as a digital camera. The imaging system according to the present embodiment will be described below with reference to FIG. In addition, description is abbreviate | omitted about the point which is common in each above-mentioned embodiment, and a different point is mainly demonstrated.

本実施形態に係る撮像システムは、レンズ系500と、CCD501と、画像処理部502と、ノイズ除去部503と、画像圧縮部504と、記録メディア505と、ノイズ除去条件設定部506と、ノイズ除去パラメータ設定部507とを主な構成要素として備えている。   The imaging system according to the present embodiment includes a lens system 500, a CCD 501, an image processing unit 502, a noise removal unit 503, an image compression unit 504, a recording medium 505, a noise removal condition setting unit 506, and noise removal. A parameter setting unit 507 is provided as a main component.

レンズ系500を通してCCD501で撮像された画像信号は、画像処理部502においてホワイトバランス処理やエッジ強調処理、色信号処理等が施された後、ノイズ除去部503においてノイズ除去がなされる。ノイズが除去された画像信号は、画像圧縮部504でJPEG形式等に圧縮された後、メモリーカード等の記録メディア505に保存される。ノイズ除去部503は、前述の各実施形態において説明したノイズ除去装置を適用したものである。   The image signal captured by the CCD 501 through the lens system 500 is subjected to white balance processing, edge enhancement processing, color signal processing, and the like in the image processing unit 502, and then noise is removed in the noise removal unit 503. The image signal from which noise has been removed is compressed into a JPEG format or the like by the image compression unit 504 and then stored in a recording medium 505 such as a memory card. The noise removing unit 503 applies the noise removing device described in each of the above embodiments.

ノイズの除去にあたっては、画像処理部502が出力する画像信号をRGB信号からなる画像とし、ノイズ除去部503において3面からなるRGB画像に対して個別にノイズ除去処理をしてもよいし、画像処理部502が出力する信号をYCbCrとして、ノイズ除去部503において3面からなるYCbCr画像に対して個別にノイズ除去処理をしてもよい。さらには、画像処理部502はRGB信号を出力し、ノイズ除去部503内でRGB信号をYCbCr信号等に変換した後に、3面からなるYCbCr画像に対して個別にノイズ除去処理をしてもよい。また、ノイズ除去部503と画像処理部502は本実施形態のように分離する必要はなく、例えば、画像処理部502のエッジ強調処理とノイズ除去部503の処理順序を入れ替えることも可能である。また、ノイズ除去部503は、上述したいずれかの実施形態に係るノイズ除去装置が備える機能を有している。   In removing noise, the image signal output from the image processing unit 502 may be an image composed of RGB signals, and the noise removing unit 503 may individually perform noise removal processing on the RGB image composed of three surfaces. The signal output from the processing unit 502 may be YCbCr, and the noise removal unit 503 may individually perform noise removal processing on the three-sided YCbCr image. Further, the image processing unit 502 may output RGB signals, and after the RGB signals are converted into YCbCr signals or the like in the noise removal unit 503, noise removal processing may be individually performed on the YCbCr image composed of three surfaces. . Further, it is not necessary to separate the noise removing unit 503 and the image processing unit 502 as in the present embodiment. For example, the edge enhancement processing of the image processing unit 502 and the processing order of the noise removing unit 503 can be switched. Moreover, the noise removal part 503 has a function with which the noise removal apparatus which concerns on any one of embodiment mentioned above is equipped.

ノイズ除去部503の動作は、ノイズ除去パラメータ設定部507により制御される。ノイズ除去パラメータ設定部507には、ノイズ除去パラメータとして、必要とされるノイズ除去の強度に応じた複数のパラメータ候補が工場出荷時に記憶されている。ノイズ除去パラメータ設定部507は、ユーザのノイズ除去強度に関する設定値や、ノイズ除去条件設定部506からのISO感度情報等に基づいてノイズ除去の強度を決定し、当該複数のパラメータ候補から適当なパラメータを選択してノイズ除去部503のノイズ除去動作を制御する。   The operation of the noise removal unit 503 is controlled by the noise removal parameter setting unit 507. In the noise removal parameter setting unit 507, a plurality of parameter candidates corresponding to the required noise removal strength are stored as noise removal parameters at the time of factory shipment. The noise removal parameter setting unit 507 determines the noise removal strength based on a setting value related to the noise removal strength of the user, ISO sensitivity information from the noise removal condition setting unit 506, and the like, and selects an appropriate parameter from the plurality of parameter candidates. And the noise removal operation of the noise removal unit 503 is controlled.

このノイズ除去に関するパラメータの中には、本発明に関する構成の選択等も含まれることとしてもよい。例えば、第2の実施形態に対応するノイズ除去方法をノイズ除去部503に適用した場合、以下のようなパラメータを候補として、ノイズ除去パラメータ設定部507に記憶させてもよい。
第2の実施形態においては方向判別に使用する参照画像を、高周波成分を含む高域画像207と低周波成分からなる低域画像208の組み合わせにより生成していた。この組み合わせに関する選択として、注目画素位置のみ高域画像207の画素とするのか、注目画素の周辺3×3画素とするのか、あるいは全てを高域画像207、あるいは、低域画像208とするのかというような選択がありうる。この選択により、細かい構造の変化にも対応した方向判別と、ノイズに影響されない安定した方向判別のバランスが決定される。したがって、図7に示すように、パラメータ候補として上述のような参照画像の生成方法を複数設定しておき、予め設定された条件に基づいて参照画像を生成してもよい。ノイズ除去パラメータ設定部507は、適当な構成をユーザ設定やISO感度情報等から選択し、ノイズ除去部503を制御する。
The parameters related to noise removal may include selection of a configuration related to the present invention. For example, when the noise removal method corresponding to the second embodiment is applied to the noise removal unit 503, the following parameters may be stored in the noise removal parameter setting unit 507 as candidates.
In the second embodiment, a reference image used for direction determination is generated by a combination of a high-frequency image 207 including a high-frequency component and a low-frequency image 208 including a low-frequency component. As a selection related to this combination, whether only the target pixel position is a pixel of the high-frequency image 207, 3 × 3 pixels around the target pixel, or whether the entire pixel is the high-frequency image 207 or the low-frequency image 208 There can be such a choice. By this selection, a balance between direction determination corresponding to fine structural changes and stable direction determination not affected by noise is determined. Therefore, as shown in FIG. 7, a plurality of reference image generation methods as described above may be set as parameter candidates, and a reference image may be generated based on a preset condition. The noise removal parameter setting unit 507 selects an appropriate configuration from user settings, ISO sensitivity information, and the like, and controls the noise removal unit 503.

なお、多重解像度の各帯域における設定は同一である必要はなく、高域における設定と低域における設定が異なっていても良い。例えば、各帯域画像信号について図7に示す条件を予め設定しておき、該条件に基づいて参照画像を生成しても良い。
また、ノイズのレベルによって多重解像度変換の縮小回数を予め設定しておき、入力画像信号のノイズの大きさに応じて多重解像度変換の縮小回数を決定してもよい。
さらに、ノイズ除去部503は、前述の各実施形態のどれか一つを選択するのではなく、パラメータによりいずれの実施形態に係るノイズ除去方法を選択することとしてもよい。例えば、撮像条件(ISO感度等)に応じて、多重解像度変換における解像度変換の回数を変化させる。
Note that the settings in each band of the multi-resolution need not be the same, and the settings in the high band and the settings in the low band may be different. For example, the conditions shown in FIG. 7 may be set in advance for each band image signal, and the reference image may be generated based on the conditions.
Alternatively, the number of reductions in multi-resolution conversion may be set in advance according to the noise level, and the number of reductions in multi-resolution conversion may be determined according to the noise level of the input image signal.
Furthermore, the noise removal unit 503 may select a noise removal method according to any embodiment according to a parameter instead of selecting any one of the above-described embodiments. For example, the number of times of resolution conversion in multi-resolution conversion is changed according to imaging conditions (ISO sensitivity, etc.).

以上のように、少なくともいずれかの実施形態に係るノイズ除去方法を採用して、撮像システムを構成することにより、入力画像の細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現することができる。また、この構成をユーザ設定やISO感度情報等により適宜変更することにより、撮像される画像のノイズレベルやユーザの好みに適した画像を得ることが可能な撮像システムとすることが可能となる。   As described above, by adopting the noise removal method according to at least one of the embodiments and configuring the imaging system, stable direction determination that is not affected by noise while also supporting changes in the fine structure of the input image. Can be realized. In addition, by appropriately changing this configuration according to user settings, ISO sensitivity information, and the like, an imaging system capable of obtaining an image suitable for the noise level of the image to be captured and the user's preference can be obtained.

なお、上述した各実施形態では、ノイズ除去装置としてハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、別途ソフトウェアにて処理する構成も可能である。この場合、ノイズ除去装置は、CPU、RAM等の主記憶装置、上記処理の全て或いは一部を実現させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体を備えている。そして、CPUが上記記憶媒体に記録されているプログラムを読み出して、情報の加工・演算処理を実行することにより、上述のノイズ除去装置と同様の処理を実現させる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。   In each of the above-described embodiments, hardware processing is assumed as the noise removal device, but it is not necessary to be limited to such a configuration. For example, a configuration in which processing is performed separately by software is also possible. In this case, the noise removing device includes a main storage device such as a CPU and a RAM, and a computer-readable recording medium on which a program for realizing all or part of the above processing is recorded. Then, the CPU reads out the program recorded in the storage medium and executes information processing / calculation processing, thereby realizing the same processing as the above-described noise removing apparatus. Here, the computer-readable recording medium means a magnetic disk, a magneto-optical disk, a CD-ROM, a DVD-ROM, a semiconductor memory, or the like.

上記のソフトウェアによる具体的な処理について、図8に示すフローチャートに基づいて以下に説明する。
まず、入力画像信号は、多重解像度変換が行われることにより順次縮小され、複数の縮小画像が生成される(S1)。
次に、各縮小画像は、縮小前の画像サイズに拡大され(S2)、縮小前のそれぞれの画像との減算が行われることにより、ノイズ除去の対象となる帯域画像がそれぞれ作成される(S3)。
次に、作成された各帯域画像に対してノイズ除去処理が施される(S4)。
そして、ノイズ除去がされた後の各帯域画像は再合成され、再合成された画像は出力画像として出力される(S5)。
Specific processing by the above software will be described below based on the flowchart shown in FIG.
First, the input image signal is sequentially reduced by performing multi-resolution conversion, and a plurality of reduced images are generated (S1).
Next, each reduced image is enlarged to the image size before the reduction (S2), and subtraction from each image before the reduction is performed, so that each band image to be subjected to noise removal is created (S3). ).
Next, noise removal processing is performed on each created band image (S4).
Then, each band image after noise removal is recombined, and the recombined image is output as an output image (S5).

次にノイズ除去処理(S4)の詳細について主に図9を参照して説明する。ここでは、一例として、上述の処理において作成された複数の帯域画像のうち、図3に示される帯域画像204のノイズ除去処理について説明する。
まず、ノイズ除去処理では、エッジに沿った方向を判別するために、各方向について評価値の計算が行われる(S11)。この処理では、高域画像207と低域画像208とを用いて参照画像を作成し、この参照画像の各方向について評価値の計算が行われる。
次に、各方向についての評価値に基づいて方向判別処理が行われる(S12)。具体的には各評価値の中で最小値を検出し、該評価値に対応する方向にはエッジが存在しないと判断される。これにより、該評価値に対応する方向はエッジに沿った方向であると判定される。
次に、方向判別処理の結果が示すエッジの方向に基づきフィルタ係数等が決定され、ノイズ除去の対象となる帯域画像204に対してフィルタ処理が施される(S13)。
次に、各方向についての評価値に基づいて平坦度判別処理が行われる(S14)。具体的には、各評価値の中で最大値を検出し、該評価値が大きければ注目画素周辺に強いエッジ信号が存在することとなり、該評価値が小さければ強いエッジ信号が存在しないと判断される。これにより、注目画素が平坦部に位置するのか、あるいはエッジ部に位置するのかを表す平坦度が判定される。

次に、フィルタ処理が施された帯域画像に対して、微小信号をゼロにするようなコアリング処理が行われ、ノイズ除去がされた帯域画像206として出力される(S15)。
Next, details of the noise removal processing (S4) will be described mainly with reference to FIG. Here, as an example, the noise removal process of the band image 204 illustrated in FIG. 3 among the plurality of band images created in the above-described process will be described.
First, in the noise removal process, an evaluation value is calculated for each direction in order to determine the direction along the edge (S11). In this process, a reference image is created using the high-frequency image 207 and the low-frequency image 208, and evaluation values are calculated for each direction of the reference image.
Next, a direction discrimination process is performed based on the evaluation value for each direction (S12). Specifically, the minimum value is detected among the evaluation values, and it is determined that no edge exists in the direction corresponding to the evaluation value. Thereby, it is determined that the direction corresponding to the evaluation value is the direction along the edge.
Next, a filter coefficient or the like is determined based on the edge direction indicated by the result of the direction discrimination process, and the filter process is performed on the band image 204 that is the target of noise removal (S13).
Next, flatness determination processing is performed based on the evaluation values for each direction (S14). Specifically, the maximum value among the evaluation values is detected, and if the evaluation value is large, a strong edge signal exists around the pixel of interest, and if the evaluation value is small, it is determined that there is no strong edge signal. Is done. Thereby, the flatness indicating whether the target pixel is located in the flat part or the edge part is determined.

Next, a coring process is performed on the band image that has been subjected to the filter process so that the minute signal becomes zero, and the band image 206 from which noise is removed is output (S15).

なお、上記の例において、多重解像度変換の一段目の処理において作成される帯域画像204について説明したが、多重解像度変換の二段目以降の処理において作成される各帯域画像においても同様の処理が行われる。
さらに、上記において、第2の実施形態に対応するノイズ除去方法について説明したが、他の実施形態についても同様に、ソフトウェアにて処理することが可能である。
In the above example, the band image 204 created in the first stage processing of the multi-resolution conversion has been described. However, the same processing is applied to each band image created in the second and subsequent stages of multi-resolution conversion. Done.
Furthermore, in the above, the noise removal method corresponding to the second embodiment has been described, but other embodiments can be similarly processed by software.

本発明の第1の実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。It is the functional block diagram which expanded and showed the function with which the noise removal apparatus which concerns on the 1st Embodiment of this invention is provided. 図1のノイズ除去装置のコアリング閾値と平坦度判別結果との関係を示すグラフである。It is a graph which shows the relationship between the coring threshold value and flatness discrimination | determination result of the noise removal apparatus of FIG. 本発明の第2の実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。It is the functional block diagram which expanded and showed the function with which the noise removal apparatus which concerns on the 2nd Embodiment of this invention is provided. 図3に示すノイズ除去装置のNR処理部の機能ブロック図である。FIG. 4 is a functional block diagram of an NR processing unit of the noise removal device shown in FIG. 3. 方向判別処理部の動作を説明する図である。It is a figure explaining operation | movement of a direction discrimination | determination process part. 本発明の第3の実施形態に係る撮像システムの概略構成図である。It is a schematic block diagram of the imaging system which concerns on the 3rd Embodiment of this invention. 画素ブロックの生成方法の条件を示す条件設定表である。It is a condition setting table | surface which shows the conditions of the production | generation method of a pixel block. 本発明に係るノイズ除去方法のフローチャートである。It is a flowchart of the noise removal method which concerns on this invention. 図8におけるノイズ除去処理のフローチャートである。It is a flowchart of the noise removal process in FIG. 従来のノイズ除去装置が備える機能を展開して示した機能ブロック図である。It is the functional block diagram which expanded and showed the function with which the conventional noise removal apparatus is provided.

符号の説明Explanation of symbols

100 入力画像
101,301 方向性フィルタ処理部
102,302 コアリング処理部
103,303 評価値計算部
104,304 評価値
105,305 方向判別処理部
107,307 平坦度判別処理部
204 帯域画像
207 高域画像
208 低域画像
100 Input image 101, 301 Directional filter processing unit 102, 302 Coring processing unit 103, 303 Evaluation value calculation unit 104, 304 Evaluation value 105, 305 Direction discrimination processing unit 107, 307 Flatness discrimination processing unit 204 Band image 207 High Region image 208 Low region image

Claims (10)

入力された画像に対して、該画像に含まれるエッジ成分の方向に応じたフィルタ処理を施し、前記画像の平坦部とエッジ部とで異なる特性を有するコアリング処理を適用するノイズ除去装置であって、
複数の方向に関する評価値を計算する評価値計算手段と、
前記評価値からエッジ成分の方向を判別する方向判別処理手段と、
前記評価値から平坦部かエッジ部かを判別する平坦度判別処理手段と
前記方向判別処理手段の結果により前記フィルタ処理を施す方向性フィルタ処理手段と、
前記平坦度判別処理手段の結果により前記コアリング処理を行うコアリング処理手段と、
を備えたノイズ除去装置。
A noise removing apparatus that applies a filtering process to an input image according to a direction of an edge component included in the image and applies a coring process having different characteristics between a flat portion and an edge portion of the image. And
Evaluation value calculation means for calculating evaluation values for a plurality of directions;
Direction discrimination processing means for discriminating the direction of the edge component from the evaluation value;
Flatness discrimination processing means for discriminating whether it is a flat portion or an edge portion from the evaluation value; and directional filter processing means for performing the filter processing according to a result of the direction discrimination processing means;
Coring processing means for performing the coring processing according to the result of the flatness discrimination processing means;
Noise elimination device with
入力された画像を少なくとも2つの帯域画像に分割し、各前記帯域画像それぞれについて、前記評価値を計算し、該評価値を用いて方向判別処理および平坦度判別処理を行う請求項1に記載のノイズ除去装置。   The input image is divided into at least two band images, the evaluation value is calculated for each of the band images, and direction determination processing and flatness determination processing are performed using the evaluation values. Noise removal device. 前記評価値計算手段は、ノイズ除去の対象となる帯域画像の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像を用いて前記評価値を計算する請求項2に記載のノイズ除去装置。   The evaluation value calculation unit calculates the evaluation value using a first image including information on a frequency band of a band image to be subjected to noise removal and a frequency on a lower frequency side than the frequency band. The noise removal apparatus as described. 前記評価値計算手段は、ノイズ除去の対象となる帯域画像の周波数帯域よりも低域側の周波数の情報を含む第2の画像を用いて前記評価値を計算する請求項2に記載のノイズ除去装置。   3. The noise removal according to claim 2, wherein the evaluation value calculation means calculates the evaluation value using a second image including information on a frequency lower than a frequency band of a band image to be subjected to noise removal. apparatus. 前記評価値計算手段は、ノイズ除去の対象となる帯域画像の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像と、該帯域画像の周波数帯域よりも低域側の周波数の情報を含む第2の画像との加重平均を行うことで算出した第3の画像を用いて前記評価値を計算する請求項2に記載のノイズ除去装置。   The evaluation value calculation means includes a first image including information on a frequency band of a band image to be subjected to noise removal and a frequency on a lower frequency side than the frequency band, and a lower frequency side than the frequency band of the band image. The noise removal apparatus according to claim 2, wherein the evaluation value is calculated using a third image calculated by performing a weighted average with a second image including frequency information. 前記評価値計算手段は、ノイズ除去の対象となる帯域画像の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像と、ノイズ除去の対象となる帯域画像の周波数帯域よりも低域側の周波数の情報を含む第2の画像と、前記第1の画像と前記第2の画像との加重平均を行うことで算出した第3の画像のうち少なくともいずれか1つを選択し、選択した画像を用いて前記評価値を計算する請求項2に記載のノイズ除去装置。   The evaluation value calculation means includes: a first image including information on a frequency band of a band image to be subjected to noise removal and a frequency on a lower frequency side than the frequency band; and a frequency band of the band image to be noise removed At least one of a second image including frequency information on a lower frequency side and a third image calculated by performing a weighted average of the first image and the second image. The noise removal apparatus according to claim 2, wherein the evaluation value is selected using the selected image. 前記評価値計算手段では、評価する方向について画素値変化の大きさに相当する評価値を計算し、
前記方向判別処理手段では、前記評価値の最小値を基にして方向判別をし、
前記平坦度判別処理手段では、前記評価値の最大値を基にして平坦度判別をする請求項1から6のいずれかに記載のノイズ除去装置。
The evaluation value calculation means calculates an evaluation value corresponding to the magnitude of the pixel value change in the direction of evaluation,
The direction determination processing means determines the direction based on the minimum value of the evaluation value,
The noise removal apparatus according to claim 1, wherein the flatness determination processing unit performs flatness determination based on a maximum value of the evaluation values.
入力された画像に対して、該画像に含まれるエッジ成分の方向に応じたフィルタ処理と、前記画像の平坦部とエッジ部とで異なる特性を有するコアリング処理とをコンピュータに実行させるノイズ除去プログラムであって、
複数の方向に関する評価値を計算する評価値計算処理と、
前記評価値からエッジ成分の方向を判別する方向判別処理と、
前記評価値から平坦部かエッジ部かを判別する平坦度判別処理と
を含み、
前記方向判別処理の結果に基づいた前記フィルタ処理と、前記平坦度判別処理の結果に基づいた前記コアリング処理とをコンピュータに実行させるノイズ除去プログラム。
A noise removal program that causes a computer to execute filtering processing according to the direction of an edge component included in the input image and coring processing having different characteristics between a flat portion and an edge portion of the image. Because
Evaluation value calculation processing for calculating evaluation values for a plurality of directions;
Direction discrimination processing for discriminating the direction of the edge component from the evaluation value;
And flatness determination processing for determining whether the evaluation value is a flat portion or an edge portion,
The noise removal program which makes a computer perform the said filter process based on the result of the said direction discrimination | determination process, and the said coring process based on the result of the said flatness discrimination | determination process.
請求項1から7のいずれかに記載のノイズ除去装置を備える撮像システム。   An imaging system comprising the noise removal device according to claim 1. 入力された画像に対して、該画像に含まれるエッジ成分の方向に応じたフィルタ処理を施し、前記画像の平坦部とエッジ部とで異なる特性を有するコアリング処理を適用するノイズ除去方法であって、
複数の方向に関する評価値を計算する評価値計算工程と、
前記評価値からエッジ成分の方向を判別する方向判別処理工程と、
前記評価値から平坦部かエッジ部かを判別する平坦度判別処理工程と
を有し、
前記方向判別処理工程の結果により前記フィルタ処理を制御し、前記平坦度判別処理工程の結果により前記コアリング処理を制御するノイズ除去方法。
This is a noise removal method that applies a filtering process to an input image according to the direction of the edge component included in the image, and applies a coring process having different characteristics between the flat part and the edge part of the image. And
An evaluation value calculation process for calculating evaluation values for a plurality of directions;
A direction determining process for determining the direction of the edge component from the evaluation value;
A flatness determination process for determining whether the evaluation value is a flat portion or an edge portion, and
A noise removal method of controlling the filtering process according to a result of the direction determining process step and controlling the coring process according to a result of the flatness determining process step.
JP2007140675A 2007-05-28 2007-05-28 Noise removal device, program, and method Pending JP2008293425A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007140675A JP2008293425A (en) 2007-05-28 2007-05-28 Noise removal device, program, and method
PCT/JP2008/059738 WO2008146817A1 (en) 2007-05-28 2008-05-27 Noise eliminating apparatus, program and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007140675A JP2008293425A (en) 2007-05-28 2007-05-28 Noise removal device, program, and method

Publications (1)

Publication Number Publication Date
JP2008293425A true JP2008293425A (en) 2008-12-04

Family

ID=40075057

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007140675A Pending JP2008293425A (en) 2007-05-28 2007-05-28 Noise removal device, program, and method

Country Status (2)

Country Link
JP (1) JP2008293425A (en)
WO (1) WO2008146817A1 (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010193384A (en) * 2009-02-20 2010-09-02 Olympus Corp Image processing apparatus, method and program
KR101001676B1 (en) 2009-04-27 2010-12-15 전남대학교산학협력단 Edge-protection deblocking filter using pixel classifing
JP2012105091A (en) * 2010-11-10 2012-05-31 Canon Inc Imaging apparatus and control method of the same
JP2013026698A (en) * 2011-07-19 2013-02-04 Jvc Kenwood Corp Video noise reducing apparatus and video noise reducing method
JP2014008069A (en) * 2012-06-27 2014-01-20 Shimadzu Corp X-ray diagnostic apparatus
JP2014164734A (en) * 2013-02-28 2014-09-08 Nec Corp Image processing method and image processing apparatus
JP2014526111A (en) * 2011-08-30 2014-10-02 トムソン ライセンシング Anisotropic gradient regularization for image denoising, compression and interpolation
WO2014208681A1 (en) * 2013-06-26 2014-12-31 オリンパス株式会社 Image processing device
US9317901B2 (en) 2012-12-17 2016-04-19 Canon Kabushiki Kaisha Image processing apparatus and image processing method for noise filtering
US9727950B2 (en) 2013-05-16 2017-08-08 Olympus Corporation Noise-reduction processing device
JP2019045981A (en) * 2017-08-30 2019-03-22 キヤノン株式会社 Image processing apparatus, image processing method, and program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001057677A (en) * 1999-06-10 2001-02-27 Fuji Photo Film Co Ltd Image processing method, system and recording medium
JP2005295488A (en) * 2004-03-08 2005-10-20 Sharp Corp Image processing apparatus and image processing method
WO2006101128A1 (en) * 2005-03-22 2006-09-28 Olympus Corporation Image processing device and endoscope

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08223425A (en) * 1995-02-09 1996-08-30 Fuji Photo Film Co Ltd Image processing method and its device
JP4244094B2 (en) * 1999-02-17 2009-03-25 富士フイルム株式会社 Image processing method and apparatus, and recording medium
JP2004318356A (en) * 2003-04-15 2004-11-11 Olympus Corp Image processing device, image processing method, and its program
JP2005130297A (en) * 2003-10-24 2005-05-19 Olympus Corp System, method and program of signal processing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001057677A (en) * 1999-06-10 2001-02-27 Fuji Photo Film Co Ltd Image processing method, system and recording medium
JP2005295488A (en) * 2004-03-08 2005-10-20 Sharp Corp Image processing apparatus and image processing method
WO2006101128A1 (en) * 2005-03-22 2006-09-28 Olympus Corporation Image processing device and endoscope

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010193384A (en) * 2009-02-20 2010-09-02 Olympus Corp Image processing apparatus, method and program
KR101001676B1 (en) 2009-04-27 2010-12-15 전남대학교산학협력단 Edge-protection deblocking filter using pixel classifing
JP2012105091A (en) * 2010-11-10 2012-05-31 Canon Inc Imaging apparatus and control method of the same
JP2013026698A (en) * 2011-07-19 2013-02-04 Jvc Kenwood Corp Video noise reducing apparatus and video noise reducing method
JP2014526111A (en) * 2011-08-30 2014-10-02 トムソン ライセンシング Anisotropic gradient regularization for image denoising, compression and interpolation
JP2014008069A (en) * 2012-06-27 2014-01-20 Shimadzu Corp X-ray diagnostic apparatus
US9317901B2 (en) 2012-12-17 2016-04-19 Canon Kabushiki Kaisha Image processing apparatus and image processing method for noise filtering
JP2014164734A (en) * 2013-02-28 2014-09-08 Nec Corp Image processing method and image processing apparatus
US9727950B2 (en) 2013-05-16 2017-08-08 Olympus Corporation Noise-reduction processing device
WO2014208681A1 (en) * 2013-06-26 2014-12-31 オリンパス株式会社 Image processing device
JP2015012318A (en) * 2013-06-26 2015-01-19 オリンパス株式会社 Image processing apparatus
US9704222B2 (en) 2013-06-26 2017-07-11 Olympus Corporation Image processing apparatus
JP2019045981A (en) * 2017-08-30 2019-03-22 キヤノン株式会社 Image processing apparatus, image processing method, and program

Also Published As

Publication number Publication date
WO2008146817A1 (en) 2008-12-04

Similar Documents

Publication Publication Date Title
JP2008293425A (en) Noise removal device, program, and method
US11756163B2 (en) Detecting keypoints in image data
JP5197414B2 (en) Image processing apparatus and image processing method
JP5719148B2 (en) Imaging apparatus, control method therefor, and program
US9747514B2 (en) Noise filtering and image sharpening utilizing common spatial support
JP4640508B2 (en) Image processing apparatus, image processing method, program, and imaging apparatus
US10262401B2 (en) Noise reduction using sequential use of multiple noise models
JP4641704B2 (en) Noise reduction method, noise reduction device, recording medium, and program
US20110285871A1 (en) Image processing apparatus, image processing method, and computer-readable medium
JP2010157163A (en) Image processing method and image processor
WO2005101854A1 (en) Image processing device having color shift-correcting function, image processing program, and electronic camera
JP2004040235A (en) Image processing apparatus and image processing method
JP2009093323A (en) Image processing device and program
JP5771677B2 (en) Image processing apparatus, imaging apparatus, program, and image processing method
KR20100077607A (en) Noise filter
US11816858B2 (en) Noise reduction circuit for dual-mode image fusion architecture
JP5249111B2 (en) Image processing apparatus, method, program, and imaging system
JP4934839B2 (en) Image processing apparatus, method thereof, and program
EP2421239B1 (en) Image processing apparatus and method for applying film grain effects
JP2008293424A (en) Noise removal device, program, and method
JP4804271B2 (en) Image processing apparatus and control method thereof
US9916637B1 (en) Splitting and merging subband image data
JP2005101949A (en) Image processing apparatus, image processing method, image processing program, and digital camera provided with contour enhancement function
JP2007048104A (en) Image processing method, image processor and image processing program
JP4104475B2 (en) Contour correction device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110531

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111004