JP6858073B2 - Image processing device, image processing method, and program - Google Patents

Image processing device, image processing method, and program Download PDF

Info

Publication number
JP6858073B2
JP6858073B2 JP2017100073A JP2017100073A JP6858073B2 JP 6858073 B2 JP6858073 B2 JP 6858073B2 JP 2017100073 A JP2017100073 A JP 2017100073A JP 2017100073 A JP2017100073 A JP 2017100073A JP 6858073 B2 JP6858073 B2 JP 6858073B2
Authority
JP
Japan
Prior art keywords
image
edge signal
noise suppression
value
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017100073A
Other languages
Japanese (ja)
Other versions
JP2018195189A (en
Inventor
太田 誠
誠 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017100073A priority Critical patent/JP6858073B2/en
Publication of JP2018195189A publication Critical patent/JP2018195189A/en
Application granted granted Critical
Publication of JP6858073B2 publication Critical patent/JP6858073B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、画像処理装置、画像処理方法、及び、プログラムに関する。 The present invention relates to an image processing apparatus, an image processing method, and a program.

近年、撮像素子の画素を微小化する傾向が進んでおり、この画素の微小化に起因して、撮像素子から得られる画像信号のノイズが増加する傾向にある。そこで、このノイズを信号処理により抑圧する方法として、マルチレート信号処理を利用した方法が知られている。例えば、画像信号を複数の周波数成分に分割し、それぞれの分割画像のノイズを抑圧してから再合成する方法がある(特許文献1参照)。特許文献1では、画像信号が複数の周波数成分の画像に分割され、それぞれの分割画像にノイズ抑圧(NR)処理が行われる。周波数成分の分割方法には様々な方法があるが、例えば、低域画像は、元画像にプレフィルタをかけてからサイズを半分に間引くことにより生成することができる。また、高域画像は、低域画像を元画像と同サイズに拡大処理し、元画像と拡大画像との差分を求めることにより生成することができる。このように画像を複数の周波数成分に分割することによって、それぞれの分割画像に対して、その周波数成分に適したノイズ抑圧処理を適用することが可能になる。また、画像サイズを小さくすることにより、少ないフィルタ長でノイズを低減させることが可能となる。 In recent years, there has been a tendency to miniaturize the pixels of the image sensor, and the noise of the image signal obtained from the image sensor tends to increase due to the miniaturization of the pixels. Therefore, as a method of suppressing this noise by signal processing, a method using multi-rate signal processing is known. For example, there is a method of dividing an image signal into a plurality of frequency components, suppressing noise in each divided image, and then resynthesizing the image signal (see Patent Document 1). In Patent Document 1, an image signal is divided into images having a plurality of frequency components, and noise suppression (NR) processing is performed on each divided image. There are various methods for dividing the frequency component. For example, a low-frequency image can be generated by pre-filtering the original image and then thinning the size in half. Further, the high-frequency image can be generated by enlarging the low-frequency image to the same size as the original image and obtaining the difference between the original image and the enlarged image. By dividing the image into a plurality of frequency components in this way, it becomes possible to apply noise suppression processing suitable for the frequency components to each divided image. Further, by reducing the image size, it is possible to reduce noise with a small filter length.

ノイズ抑圧を行う場合、高域のノイズはノイズの粒状感が細かいため視覚的に目立ちにくい一方、低域のノイズは粒状感が大きいために視覚的に目立ちやすく、高域のノイズよりも低域のノイズを強めに除去することが望ましい。また、分割画像の合成処理は、低域画像を拡大して高域画像に加算するといった単純な演算で実行が可能であるが、分割画像がノイズ抑圧処理によってぼやけてしまった場合、合成処理後の画像も対応する周波数帯域のボケがそのまま残留してしまう。そのため、周波数成分に分割してノイズを抑圧する方法では、周波数成分毎に異なるノイズ抑圧を行いつつ、それぞれの周波数帯域において、ボケが許容できる程度にノイズ抑圧効果を抑える必要がある。 When noise suppression is performed, high-frequency noise is visually inconspicuous due to the fine graininess of the noise, while low-frequency noise is visually conspicuous due to the large granularity, and is lower than high-frequency noise. It is desirable to strongly remove the noise. In addition, the composition processing of the divided image can be executed by a simple operation such as enlarging the low frequency image and adding it to the high frequency image. However, if the divided image is blurred by the noise suppression processing, after the composition processing. In the image of, the blur of the corresponding frequency band remains as it is. Therefore, in the method of suppressing noise by dividing it into frequency components, it is necessary to suppress the noise suppression effect to an extent that blur can be tolerated in each frequency band while performing different noise suppression for each frequency component.

他のノイズ抑圧方法として、まず、画像信号から複数の縮小画像を生成し、複数の縮小画像に対してノイズ抑圧処理を行うと共に、エッジ信号を抽出してエッジ信号に基づく各画像の合成比率を算出し、合成比率に基づいて複数の画像信号の合成を行う方法がある(特許文献2参照)。当該方法では、水平および垂直方向のサイズをそれぞれ2分の1にした縮小画像と4分の1にした縮小画像とを生成する。そして、各画像に対してノイズ抑圧処理を行うととともに、縮小画像からエッジ信号を抽出する。画像合成は、エッジ信号を元サイズまで拡大処理し、拡大されたエッジ信号に基づいて合成割合を決定し、エッジ信号の強い部分はより大きなサイズの画像を用い、エッジ信号の弱い部分は縮小された画像を元のサイズまで拡大したものを用いる。 As another noise suppression method, first, a plurality of reduced images are generated from an image signal, noise suppression processing is performed on the plurality of reduced images, and an edge signal is extracted to determine the composition ratio of each image based on the edge signal. There is a method of calculating and synthesizing a plurality of image signals based on the synthesizing ratio (see Patent Document 2). In this method, a reduced image in which the horizontal and vertical sizes are halved and a reduced image in which the sizes are halved are generated. Then, noise suppression processing is performed on each image, and an edge signal is extracted from the reduced image. In image composition, the edge signal is enlarged to the original size, the composition ratio is determined based on the enlarged edge signal, the strong part of the edge signal uses a larger size image, and the weak part of the edge signal is reduced. Use an enlarged image of the original size.

これにより合成後の画像のエッジ部分は元サイズの画像が多く使用され、逆に縮小画像はあまり使用されない。このため、ノイズ抑圧処理を縮小画像に適用してエッジ部分がぼやけていても最終画像には影響しない。したがって、縮小画像に対して強いノイズ抑圧処理をかけることが可能となり、合成後の画像としてはエッジをぼかすことなく低域成分のノイズ抑圧効果を高めた画像を得ることができる。 As a result, the original size image is often used for the edge portion of the combined image, and conversely, the reduced image is not often used. Therefore, even if the noise suppression process is applied to the reduced image and the edge portion is blurred, the final image is not affected. Therefore, it is possible to apply a strong noise suppression process to the reduced image, and it is possible to obtain an image after composition in which the noise suppression effect of the low frequency component is enhanced without blurring the edges.

特開2008-15741号公報Japanese Unexamined Patent Publication No. 2008-15741 特開2009-199104号公報Japanese Unexamined Patent Publication No. 2009-199104

しかしながら、特許文献2に記載された合成比率の算出方法では、縮小画像から検出したエッジ信号を拡大処理するため、エッジ信号が実際のエッジよりも太くなってしまう。この結果、元サイズの画像における実際のエッジの範囲よりも広い範囲がエッジとして検出されてしまう。そして、この太ったエッジ信号で合成処理が行われるため、エッジ周辺でも上階層の画像が使用されることになり、エッジ周辺にノイズが残留してしまうおそれがある。 However, in the method of calculating the composition ratio described in Patent Document 2, since the edge signal detected from the reduced image is enlarged, the edge signal becomes thicker than the actual edge. As a result, a range wider than the actual edge range in the original size image is detected as an edge. Then, since the compositing process is performed with this fat edge signal, the image of the upper layer is used even around the edge, and there is a possibility that noise remains around the edge.

そこで、本発明は、ノイズ抑圧処理においてエッジ周辺のノイズの抑圧効果を高めることを可能にする技術を提供する。 Therefore, the present invention provides a technique that makes it possible to enhance the noise suppression effect around the edge in the noise suppression processing.

上記目的を達成するために、本発明は、画像処理装置であって、
入力画像を縮小し縮小画像を生成する縮小手段と、
前記入力画像に対してエッジ検出を行って第1のエッジ信号を生成する第1の検出手段と、
前記縮小画像に対してエッジ検出を行って第2のエッジ信号を生成する第2の検出手段と、
前記入力画像に対してノイズ抑圧処理を行って、第1のノイズ抑圧画像を生成する第1のノイズ抑圧手段と、
前記縮小画像に対してノイズ抑圧処理を行って、第2のノイズ抑圧画像を生成する第2のノイズ抑圧手段と、
前記第2のエッジ信号を補正して、補正後のエッジ信号を出力する補正手段と、
前記補正後のエッジ信号と前記第2のノイズ抑圧画像を拡大し、拡大後のエッジ信号と拡大後のノイズ抑圧画像を出力する拡大手段と、
前記拡大後のエッジ信号と前記第1のエッジ信号を加算し、加算後のエッジ信号の値に基づいて合成比率を算出する算出手段と、
前記合成比率で、前記第1のノイズ抑圧画像と前記拡大後のノイズ抑圧画像を合成する合成手段と、
を備え、
前記補正手段は、前記第2のエッジ信号の値が所定値を超える場合に、前記第2のエッジ信号の値が前記所定値を超えないように、前記第2のエッジ信号の値を補正し、
前記算出手段は、前記加算後のエッジ信号の値が小さいほど、前記拡大後のノイズ抑圧画像の合成比率を高くし、前記加算後のエッジ信号の値が大きいほど、前記第1のノイズ抑圧画像の合成比率を高くする。
In order to achieve the above object, the present invention is an image processing apparatus.
A reduction means that reduces the input image and generates a reduced image,
A first detection means that performs edge detection on the input image and generates a first edge signal,
A second detection means that performs edge detection on the reduced image and generates a second edge signal,
A first noise suppression means for generating a first noise suppression image by performing noise suppression processing on the input image,
A second noise suppression means that performs noise suppression processing on the reduced image to generate a second noise suppression image,
A correction means that corrects the second edge signal and outputs the corrected edge signal.
An enlarging means for enlarging the corrected edge signal and the second noise-suppressed image and outputting the enlarged edge signal and the enlarged noise-suppressed image.
A calculation means that adds the enlarged edge signal and the first edge signal and calculates the composition ratio based on the value of the added edge signal.
A compositing means for compositing the first noise-suppressed image and the enlarged noise-suppressed image at the compositing ratio, and
With
When the value of the second edge signal exceeds a predetermined value, the correction means corrects the value of the second edge signal so that the value of the second edge signal does not exceed the predetermined value. ,
In the calculation means, the smaller the value of the edge signal after the addition, the higher the composition ratio of the enlarged noise suppression image, and the larger the value of the edge signal after the addition, the higher the first noise suppression image. Increase the synthesis ratio of.

本発明によれば、ノイズ抑圧処理においてエッジ周辺のノイズの抑圧効果を高めるための技術を提供することができる。 According to the present invention, it is possible to provide a technique for enhancing the noise suppression effect around the edge in the noise suppression processing.

発明の実施形態に対応する画像処理装置の構成例を示すブロック図。The block diagram which shows the structural example of the image processing apparatus corresponding to the embodiment of an invention. 発明の実施形態に対応する帯域別ノイズ抑圧処理部の構成例を示すブロック図。The block diagram which shows the structural example of the noise suppression processing part for each band corresponding to the Embodiment of this invention. 発明の実施形態に対応する画像処理装置における処理の一例を示すフローチャート。The flowchart which shows an example of the processing in the image processing apparatus corresponding to the embodiment of the invention. 発明の実施形態に対応するノイズ抑圧処理を説明するための図、第2エッジ信号の補正処理を説明するための図、及び、合成比率の算出処理を説明するための図。The figure for demonstrating the noise suppression processing corresponding to the embodiment of the invention, the figure for demonstrating the correction process of the 2nd edge signal, and the figure for demonstrating the calculation process of a synthesis ratio.

以下、添付図面を参照して本発明を実施するための形態を詳細に説明する。 Hereinafter, embodiments for carrying out the present invention will be described in detail with reference to the accompanying drawings.

図1は、発明の実施形態に対応する画像処理装置100の構成例を示すブロック図である。本実施形態では、画像処理装置100としてデジタルカメラを例に説明するが、画像信号に対してノイズ抑圧処理を実行可能な装置であれば、デジタルカメラに限らず、デジタルビデオカメラやパーソナルコンピュータ、携帯電話、スマートフォン、PDA、タブレット端末、携帯型メディアプレーヤなどの任意の情報処理装置、或いは、撮像装置として実現することもできる。また、図1は、デジタルカメラ等として機能する場合を考慮して光学系101からA/D変換器104を含む構成を示した。しかし、画像処理装置100は、光学系101からからA/D変換器104までの構成を有しない形態で実現してもよい。また、図1の画像処理装置100において、撮像素子や表示素子のような特定の物理的デバイスを除き、各ブロックは専用ロジック回路やメモリを用いてハードウェア的に構成されてもよい。或いは、メモリに記憶されている処理プログラムをCPU等のコンピュータが実行することにより、ソフトウェア的に構成されてもよい。 FIG. 1 is a block diagram showing a configuration example of an image processing device 100 corresponding to an embodiment of the present invention. In the present embodiment, a digital camera will be described as an example of the image processing device 100, but as long as it is a device capable of performing noise suppression processing on an image signal, it is not limited to a digital camera, but a digital video camera, a personal computer, or a mobile phone. It can also be realized as an arbitrary information processing device such as a telephone, a smartphone, a PDA, a tablet terminal, a portable media player, or an image pickup device. Further, FIG. 1 shows a configuration including an optical system 101 to an A / D converter 104 in consideration of a case where it functions as a digital camera or the like. However, the image processing device 100 may be realized in a form that does not have the configuration from the optical system 101 to the A / D converter 104. Further, in the image processing device 100 of FIG. 1, each block may be configured in hardware using a dedicated logic circuit or memory, except for specific physical devices such as an image sensor and a display element. Alternatively, it may be configured in software by executing a processing program stored in the memory by a computer such as a CPU.

図1において、光学系101は、ズームレンズやフォーカスレンズから構成されるレンズ群、絞り装置、シャッター装置を備えている。この光学系101は、撮像素子102に到達する被写体像の倍率やピント位置、あるいは光量を調整している。撮像素子102は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の光電変換素子であり、被写体像を電気信号に変換して画像信号を生成する。前置処理回路103は、CDS (Correllated Double Sampling)回路および増幅回路を備えている。CDS回路は撮像素子102で生成された画像信号に含まれている暗電流を抑圧し、増幅回路はCDS回路から出力された画像信号を増幅する。A/D変換器104は、前置処理回路103から出力された画像信号をデジタルの画像信号に変換し、画像処理部105に出力する。 In FIG. 1, the optical system 101 includes a lens group composed of a zoom lens and a focus lens, an aperture device, and a shutter device. The optical system 101 adjusts the magnification, focus position, or amount of light of the subject image reaching the image sensor 102. The image sensor 102 is a photoelectric conversion element such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor) image sensor, and converts a subject image into an electric signal to generate an image signal. The preprocessing circuit 103 includes a CDS (Correllated Double Sampling) circuit and an amplifier circuit. The CDS circuit suppresses the dark current contained in the image signal generated by the image sensor 102, and the amplifier circuit amplifies the image signal output from the CDS circuit. The A / D converter 104 converts the image signal output from the preprocessing circuit 103 into a digital image signal, and outputs the image signal to the image processing unit 105.

画像処理部105は、入力された画像信号に対して、ホワイトバランス処理、ノイズ抑圧(NR:Noise Reduction)処理、階調変換処理、エッジ強調補正処理などを含む所定の画像処理を実行し、処理された画像信号を輝度信号Yおよび色差信号U、Vとして出力する。また、画像処理部105は、画像信号から被写体の輝度値や被写体のピント状態を示す合焦値も算出することができる。なお、画像処理部105は、A/D変換器104から出力された画像信号のみでなく、記録媒体109から読み出した画像信号に対しても同様の画像処理を行うことができる。 The image processing unit 105 executes predetermined image processing including white balance processing, noise reduction (NR: Noise Reduction) processing, gradation conversion processing, edge enhancement correction processing, and the like on the input image signal, and processes the input image signal. The resulting image signal is output as a luminance signal Y and color difference signals U and V. In addition, the image processing unit 105 can also calculate the brightness value of the subject and the focusing value indicating the focus state of the subject from the image signal. The image processing unit 105 can perform the same image processing not only on the image signal output from the A / D converter 104 but also on the image signal read from the recording medium 109.

制御部106は、本実施形態に対応するデジタルカメラ100を構成する各ブロックにおける動作を制御し、デジタルカメラ100の動作を統括する。画像処理部105で処理された画像信号から得られる輝度値や操作部材110から入力された指示に基づいて、光学系101や撮像素子102の駆動制御も行う。表示メモリ107は、表示装置108に表示する画像の元になる画像信号を一時的に記憶するメモリである。表示装置108は、液晶ディスプレイや有機EL(Electro Luminescence)ディスプレイで構成され、撮像素子102で生成された画像信号や、記録媒体109から読み出した画像信号を用いて画像表示を行う。表示装置108は、撮像素子102から読み出される連続した画像信号を、随時更新して表示することにより、電子的なビューファインダーとして機能することも可能である。また、表示装置108は、デジタルカメラ100の状態表示、ユーザ側またはデジタルカメラ100側で決定したシャッター速度、絞り値、感度情報などの文字情報や、画像処理部105にて測定した輝度分布を示すグラフ等も表示することも可能である。 The control unit 106 controls the operation in each block constituting the digital camera 100 corresponding to the present embodiment, and controls the operation of the digital camera 100. The drive control of the optical system 101 and the image sensor 102 is also performed based on the brightness value obtained from the image signal processed by the image processing unit 105 and the instruction input from the operation member 110. The display memory 107 is a memory that temporarily stores an image signal that is a source of an image to be displayed on the display device 108. The display device 108 is composed of a liquid crystal display or an organic EL (Electro Luminescence) display, and displays an image using an image signal generated by the image sensor 102 or an image signal read from the recording medium 109. The display device 108 can also function as an electronic viewfinder by updating and displaying a continuous image signal read from the image sensor 102 at any time. Further, the display device 108 shows the status display of the digital camera 100, character information such as shutter speed, aperture value, and sensitivity information determined by the user side or the digital camera 100 side, and the brightness distribution measured by the image processing unit 105. It is also possible to display a graph or the like.

記録媒体109は、デジタルカメラ100に着脱可能に構成されたものであっても、デジタルカメラ100に内蔵されたものであってもよい。操作部材110は、ユーザがデジタルカメラ100に所定の指示を入力するために操作する部材であり、各種のボタン、スイッチ、ダイヤル、タッチパネル等で構成することができる。バス111は、画像処理部105、制御部106、表示メモリ107、および記録媒体109の間で画像信号をやり取りするために用いられる。 The recording medium 109 may be detachably configured to be attached to or detached from the digital camera 100, or may be built into the digital camera 100. The operation member 110 is a member that the user operates to input a predetermined instruction to the digital camera 100, and can be composed of various buttons, switches, dials, touch panels, and the like. The bus 111 is used for exchanging image signals between the image processing unit 105, the control unit 106, the display memory 107, and the recording medium 109.

次に、本実施形態におけるデジタルカメラ100の撮影時の動作の一例を説明する。ユーザによって操作部材110が操作され、撮影準備を開始する指示が入力されると、制御部106が各ブロックの動作の制御を開始する。 Next, an example of the operation of the digital camera 100 at the time of shooting in the present embodiment will be described. When the operation member 110 is operated by the user and an instruction to start shooting preparation is input, the control unit 106 starts controlling the operation of each block.

まず、撮像素子102は、光学系101を透過した被写体像を光電変換してアナログの画像信号を生成し、A/D変換器104が前置処理回路103によって処理されたアナログ画像信号をデジタル画像信号に変換する。画像処理部105は、A/D変換器104から出力された画像信号に対して、ホワイトバランス処理、ノイズ抑圧処理、階調変換処理、輪郭補正処理などの画像処理を行う。画像処理部105で処理された画像信号は表示メモリ107に一時的に保持され、表示メモリ107から読み出された画像信号が表示装置108に画像として表示される。上述のように、撮像素子102で連続的に生成される画像信号に基づき、被写体画像をリアルタイムで更新して表示装置108に表示することにより表示装置108は電子的なビューファインダーとして機能する。 First, the image sensor 102 photoelectrically converts the subject image transmitted through the optical system 101 to generate an analog image signal, and the A / D converter 104 digitally images the analog image signal processed by the preprocessing circuit 103. Convert to a signal. The image processing unit 105 performs image processing such as white balance processing, noise suppression processing, gradation conversion processing, and contour correction processing on the image signal output from the A / D converter 104. The image signal processed by the image processing unit 105 is temporarily held in the display memory 107, and the image signal read from the display memory 107 is displayed as an image on the display device 108. As described above, the display device 108 functions as an electronic viewfinder by updating the subject image in real time and displaying it on the display device 108 based on the image signal continuously generated by the image sensor 102.

そして、ユーザが操作部材110に含まれるシャッターボタンを操作するまで、これらの処理を繰り返す。ユーザがシャッターボタンを操作すると、制御部106は画像処理部105で得られた輝度値や合焦値に基づいて光学系101の動作を再調整して静止画の撮影を行う。画像処理部105は、撮影された静止画の画像信号に対してノイズ抑圧処理を含む種々の画像処理を行い、記録媒体109には画像処理部105から出力された画像信号に基づく静止画ファイルが記録される。 Then, these processes are repeated until the user operates the shutter button included in the operation member 110. When the user operates the shutter button, the control unit 106 re-adjusts the operation of the optical system 101 based on the brightness value and the in-focus value obtained by the image processing unit 105 to shoot a still image. The image processing unit 105 performs various image processing including noise suppression processing on the image signal of the captured still image, and the recording medium 109 contains a still image file based on the image signal output from the image processing unit 105. Recorded.

次に、画像処理部105におけるノイズ抑圧処理について詳細に説明を行う。図2は、画像処理部105に含まれる帯域別ノイズ抑圧処理部200の詳細な構成例を示すブロック図である。本実施形態の帯域別ノイズ抑圧処理部200は、縮小処理部201、ノイズ抑圧処理部202、エッジ信号検出処理部203、ノイズ抑圧処理部204、エッジ信号検出処理部205、エッジ信号補正処理部206、拡大処理部207、拡大処理部208、合成比率算出処理部209、画像合成処理部210を備える。 Next, the noise suppression process in the image processing unit 105 will be described in detail. FIG. 2 is a block diagram showing a detailed configuration example of the band-specific noise suppression processing unit 200 included in the image processing unit 105. The band-specific noise suppression processing unit 200 of the present embodiment includes a reduction processing unit 201, a noise suppression processing unit 202, an edge signal detection processing unit 203, a noise suppression processing unit 204, an edge signal detection processing unit 205, and an edge signal correction processing unit 206. , Enlargement processing unit 207, enlargement processing unit 208, composition ratio calculation processing unit 209, and image composition processing unit 210.

図2において、帯域別ノイズ抑圧処理部200に入力された入力画像は、縮小処理部201、ノイズ抑圧処理部202、エッジ信号検出処理部203に並列に入力され、それぞれ処理される。帯域別ノイズ抑圧処理部200は、ノイズ抑圧処理部202とノイズ抑圧処理部204との2つのノイズ抑圧処理部を有しているが、ノイズ抑圧処理部202は縮小されていない元のサイズの入力画像に対してノイズ抑圧を行う処理部であり、ノイズ抑圧処理部204は縮小処理部201により縮小された画像に対してノイズ抑圧を行う処理部である。同様にして、帯域別ノイズ抑圧処理部200は、エッジ信号検出処理部203とエッジ信号検出処理部205との2つのエッジ検出処理部を有しているが、エッジ信号検出処理部203は縮小されていない元のサイズの入力画像に対してエッジ検出を行う処理部であり、エッジ信号検出処理部205は縮小処理部201により縮小された画像に対してエッジ検出を行う処理部である。上記ノイズ抑圧処理の結果の画像及びエッジ検出により生成されたエッジ信号は、本実施形態に対応する補正処理、拡大処理、合成比率算出処理を経て合成され、出力画像が得られる。 In FIG. 2, the input image input to the band-specific noise suppression processing unit 200 is input in parallel to the reduction processing unit 201, the noise suppression processing unit 202, and the edge signal detection processing unit 203, and is processed respectively. The band-specific noise suppression processing unit 200 has two noise suppression processing units, a noise suppression processing unit 202 and a noise suppression processing unit 204, but the noise suppression processing unit 202 is an input of the original size that has not been reduced. It is a processing unit that suppresses noise on an image, and the noise suppression processing unit 204 is a processing unit that suppresses noise on an image reduced by the reduction processing unit 201. Similarly, the band-specific noise suppression processing unit 200 has two edge detection processing units, an edge signal detection processing unit 203 and an edge signal detection processing unit 205, but the edge signal detection processing unit 203 is reduced. It is a processing unit that performs edge detection on an input image of the original size that has not been used, and the edge signal detection processing unit 205 is a processing unit that performs edge detection on an image reduced by the reduction processing unit 201. The image resulting from the noise suppression processing and the edge signal generated by the edge detection are combined through the correction processing, the enlargement processing, and the composition ratio calculation processing corresponding to the present embodiment to obtain an output image.

以下、本実施形態に対応する帯域別ノイズ抑圧処理部200における処理について図3のフローチャートを参照してより詳細に説明する。図3は、帯域別ノイズ抑圧処理部200による処理手順の一例を示すフローチャートである。該フローチャートに対応する処理は、例えば、画像処理部105及び帯域別ノイズ抑圧処理部200として機能する1以上のプロセッサが対応するプログラム(ROM等に格納)を実行することにより実現できる。画像処理部105は、A/D変換器104から出力された画像信号を受け取ると、画素の色補間処理が行われた後、帯域別ノイズ抑圧処理部200において、色ごと(例えば、R(赤)、G(緑)、B(青)の各色成分について)に図3に示す処理を行う。なお、ホワイトバランス処理や色変換処理、階調変換処理などは省略する。 Hereinafter, the processing in the band-specific noise suppression processing unit 200 corresponding to the present embodiment will be described in more detail with reference to the flowchart of FIG. FIG. 3 is a flowchart showing an example of a processing procedure by the band-specific noise suppression processing unit 200. The processing corresponding to the flowchart can be realized, for example, by executing a program (stored in ROM or the like) corresponding to one or more processors functioning as the image processing unit 105 and the band-specific noise suppression processing unit 200. When the image processing unit 105 receives the image signal output from the A / D converter 104, the pixel color interpolation processing is performed, and then the band-specific noise suppression processing unit 200 performs each color (for example, R (red)). ), G (green), and B (blue) are subjected to the processing shown in FIG. The white balance processing, color conversion processing, gradation conversion processing, etc. are omitted.

まず、S301において、縮小処理部201は、入力画像に対してプレフィルタをかけてから水平および垂直方向にそれぞれ1/2サイズに画素を間引きした縮小画像を生成する。プレフィルタとしては、水平、垂直ともに[1 2 1]の係数を適用する。当該係数は、着目画素に対する重み付けと、着目画素の両隣に隣接する各画素に対する重み付けとを2対1の割合にして平均化(平滑化)を行うための係数である。これにより縮小画像は、入力画像における低域周波数成分で構成される画像として生成される。 First, in S301, the reduction processing unit 201 applies a pre-filter to the input image and then generates a reduced image in which pixels are thinned out to 1/2 size in the horizontal and vertical directions, respectively. As a pre-filter, a coefficient of [1 2 1] is applied both horizontally and vertically. The coefficient is a coefficient for averaging (smoothing) the weighting of the pixel of interest and the weighting of each pixel adjacent to both sides of the pixel of interest at a ratio of 2: 1. As a result, the reduced image is generated as an image composed of low frequency components in the input image.

次に、S302において、ノイズ抑圧処理部202は、S301において縮小処理部201で処理された入力画像と同一の入力画像に対してノイズ抑圧処理を行う。このとき生成されるノイズ抑圧処理済みの画像を以下では第1NR画像という。ノイズ抑圧処理では、図4(a)に示すような注目画素の周辺に例えば7×7画素の参照領域を設定し、参照領域の各画素について、注目画素との差分を取る。そして、差分が閾値以内の画素のみで平均値を演算し、平均値を注目画素の値として出力する。当該ノイズ抑圧処理を画素ごとに行うことによって、処理対象の入力画像全体に対してノイズ抑圧された出力画像を得ることができる。閾値は画像ごとに変更してもよく、さらにはセンサの光ショットノイズを考慮して、信号レベルに応じて閾値を変更してもよい。 Next, in S302, the noise suppression processing unit 202 performs noise suppression processing on the same input image as the input image processed by the reduction processing unit 201 in S301. The noise-suppressed image generated at this time is hereinafter referred to as the first NR image. In the noise suppression process, for example, a reference area of 7 × 7 pixels is set around the pixel of interest as shown in FIG. 4A, and each pixel of the reference area is different from the pixel of interest. Then, the average value is calculated only for the pixels whose difference is within the threshold value, and the average value is output as the value of the pixel of interest. By performing the noise suppression processing for each pixel, it is possible to obtain an output image in which noise is suppressed for the entire input image to be processed. The threshold value may be changed for each image, and further, the threshold value may be changed according to the signal level in consideration of the optical shot noise of the sensor.

次に、S303において、エッジ信号検出処理部203は、入力画像に対してエッジ信号の検出を行う。このとき検出されるエッジ信号を以下では第1エッジ信号という。第1エッジ信号の検出は、入力画像の各画素に対して数1の式に示すラプラシアンフィルタを適用することにより行う。各画素に対するフィルタ出力結果が当該画素のエッジ信号となり、全画素のフィルタ出力結果をまとめて入力画像の第1エッジ信号とすることができる。 Next, in S303, the edge signal detection processing unit 203 detects the edge signal with respect to the input image. The edge signal detected at this time is hereinafter referred to as a first edge signal. The first edge signal is detected by applying the Laplacian filter shown in the equation of Equation 1 to each pixel of the input image. The filter output result for each pixel becomes the edge signal of the pixel, and the filter output results of all the pixels can be collectively used as the first edge signal of the input image.

Figure 0006858073
Figure 0006858073

次に、S304において、ノイズ抑圧処理部204は、縮小処理部201で縮小された入力画像(縮小画像)に対して、ノイズ抑圧処理を行う。ノイズ抑圧処理の方法はノイズ抑圧処理部202の処理内容と同様である。このとき生成されるノイズ抑圧処理済みの縮小画像を、以下では第2NR画像という。次に、S305において、エッジ信号検出処理部205は、縮小画像に対してエッジ信号の検出を行う。エッジ信号の検出方法は、エッジ信号検出処理部203の処理内容と同様である。このとき検出されるエッジ信号を以下では第2エッジ信号という。 Next, in S304, the noise suppression processing unit 204 performs noise suppression processing on the input image (reduced image) reduced by the reduction processing unit 201. The method of noise suppression processing is the same as the processing content of the noise suppression processing unit 202. The reduced image after noise suppression processing generated at this time is hereinafter referred to as a second NR image. Next, in S305, the edge signal detection processing unit 205 detects the edge signal for the reduced image. The method of detecting the edge signal is the same as the processing content of the edge signal detection processing unit 203. The edge signal detected at this time is hereinafter referred to as a second edge signal.

なお、ここまでS301からS305までの処理を順に説明したが、各ステップの実行順序は図3のフローチャートの記載順に従う必要はない。例えば、S301からS303までを並列に実行し、S301での縮小画像生成後にS304及びS305を並列に実行してもよい。 Although the processes from S301 to S305 have been described in order so far, the execution order of each step does not have to follow the description order of the flowchart of FIG. For example, S301 to S303 may be executed in parallel, and S304 and S305 may be executed in parallel after the reduced image is generated in S301.

次に、S306において、エッジ信号補正処理部206は、エッジ信号検出処理部205で検出された第2エッジ信号に対して本実施形態に対応する補正処理を行う。エッジ信号補正処理部206では、図4(b)に示す関係に従って、入力された第2エッジ信号の大きさが所定値Eよりも小さい範囲においては、入力信号の値をそのまま出力する。これに対し、第2エッジ信号の大きさが所定値を超えた場合には、入力信号の値を所定値Eを超えない値に補正する。このとき、第2エッジ信号の値が所定値Eを超える度合いが大きくなるほど、値を小さくするように補正することができる。あるいは、所定値Eより小さい範囲では入力エッジ信号の大きさの増加に伴い出力エッジ信号も増加するように補正し、所定値Eを超えた場合には、出力エッジ信号が所定値Eより小さくなるように補正してもよい。このようにして、縮小画像から得られた第2エッジ信号については、信号値が所定値Eを超えないように補正を行なうものである。なお、本実施形態では1つの折れ線で説明を行っているが、補正方法は、これに限定されるものではない。例えば、入力信号の値が所定値Eを超えた段階で、出力信号の値を小さくするような特性を持っていれば良い。一例として、図4(b)のように出力信号を線形に減少させるのではなく、段階的に減少させるような非線形な形態であってもよい。あるいは、所定値Eを超える値は該所定値以下の一定値(0を含んでもよい)とするように一律に補正しても良い。 Next, in S306, the edge signal correction processing unit 206 performs correction processing corresponding to the present embodiment on the second edge signal detected by the edge signal detection processing unit 205. The edge signal correction processing unit 206 outputs the value of the input signal as it is in the range where the magnitude of the input second edge signal is smaller than the predetermined value E according to the relationship shown in FIG. 4 (b). On the other hand, when the magnitude of the second edge signal exceeds the predetermined value, the value of the input signal is corrected to a value that does not exceed the predetermined value E. At this time, the greater the degree to which the value of the second edge signal exceeds the predetermined value E, the smaller the value can be corrected. Alternatively, in the range smaller than the predetermined value E, the output edge signal is corrected so as to increase as the magnitude of the input edge signal increases, and when the predetermined value E is exceeded, the output edge signal becomes smaller than the predetermined value E. It may be corrected as follows. In this way, the second edge signal obtained from the reduced image is corrected so that the signal value does not exceed the predetermined value E. Although the description is given with one polygonal line in the present embodiment, the correction method is not limited to this. For example, it suffices to have a characteristic of reducing the value of the output signal when the value of the input signal exceeds the predetermined value E. As an example, a non-linear form in which the output signal is not linearly reduced as shown in FIG. 4B but is gradually reduced may be used. Alternatively, the value exceeding the predetermined value E may be uniformly corrected so as to be a constant value (may include 0) equal to or less than the predetermined value.

次にS307において、拡大処理部207は、ノイズ抑圧処理部204でのノイズ抑圧処理により生成された第2NR画像に対して、入力画像と同じサイズになるようにバイリニア補間により拡大処理を行う。次に、S308において、拡大処理部208は、エッジ信号補正処理部206で補正された縮小画像の第2エッジ信号に対して、入力画像と同じサイズになるようにバイリニア補間により拡大処理を行う。拡大処理部208の処理内容は、拡大処理部207の処理内容と同様である。このとき得られる拡大エッジ信号を以下では第3エッジ信号という。 Next, in S307, the enlargement processing unit 207 performs enlargement processing on the second NR image generated by the noise suppression processing in the noise suppression processing unit 204 by bilinear interpolation so as to have the same size as the input image. Next, in S308, the enlargement processing unit 208 performs enlargement processing on the second edge signal of the reduced image corrected by the edge signal correction processing unit 206 by bilinear interpolation so as to have the same size as the input image. The processing content of the enlargement processing unit 208 is the same as the processing content of the enlargement processing unit 207. The expanded edge signal obtained at this time is hereinafter referred to as a third edge signal.

次に、S309において、合成比率算出処理部209は、S303で生成された入力画像からの第1エッジ信号と、S308で生成された第3エッジ信号とから、画像合成処理部210で使用する画像合成のための合成比率の算出処理を行う。合成比率算出処理部209では、第1エッジ信号と第3エッジ信号との加算処理を行い、合成比率の算出で使用する第4エッジ信号を生成し、この第4エッジ信号から図4(c)に示す関係に従って合成比率を算出する。本実施形態では、第4エッジ信号の各画素に対応する値と第1の閾値TH1、第2の閾値TH2とを比較する。そして、第4エッジ信号が示す当該画素のエッジ量が第1の閾値以下であれば、合成の対象とする2つの画像のうち、第1NR画像の合成比率を0%とし、第2NR画像の合成比率を100%とする。一方、第2の閾値よりも大きければ第1NR画像の100%とし、第2NR画像の合成比率を0%とする。第4エッジ信号の値が、第1の閾値より大きく、第2の閾値以下の範囲においては、エッジ量に応じて線形的に合成比率を算出する。 Next, in S309, the composition ratio calculation processing unit 209 uses the image used by the image composition processing unit 210 from the first edge signal from the input image generated in S303 and the third edge signal generated in S308. Performs the calculation process of the synthesis ratio for synthesis. The composition ratio calculation processing unit 209 performs addition processing of the first edge signal and the third edge signal to generate a fourth edge signal used for calculating the composition ratio, and from this fourth edge signal, FIG. 4C is shown in FIG. The synthesis ratio is calculated according to the relationship shown in. In the present embodiment, the values corresponding to each pixel of the fourth edge signal are compared with the first threshold value TH1 and the second threshold value TH2. Then, if the edge amount of the pixel indicated by the fourth edge signal is equal to or less than the first threshold value, the composition ratio of the first NR image among the two images to be combined is set to 0%, and the composition of the second NR image is performed. The ratio is 100%. On the other hand, if it is larger than the second threshold value, it is set to 100% of the first NR image, and the composition ratio of the second NR image is set to 0%. In the range where the value of the fourth edge signal is larger than the first threshold value and is equal to or less than the second threshold value, the composition ratio is linearly calculated according to the edge amount.

上述のように、本実施形態では、第2エッジ信号につき所定値Eより大きい、即ち、第1エッジ信号にも含まれるような高コントラストのエッジ信号を低減するように補正している。そのため、S308の拡大処理による高コントラストのエッジの周辺のエッジ信号の拡大を効果的に防止できる。したがって、高コントラストのエッジ周辺で算出される合成比率を細くし、低域よりの縮小画像の合成比率を優位にすることができる。なお、ここでは、補正処理が施された第2エッジ信号を拡大して第3エッジ信号を生成し、この第3エッジ信号を第1エッジ信号と合成して第4エッジ信号を生成する例を挙げて説明を行ったが、これに限られるものではない。補正処理が施される前の第2のエッジ信号を拡大して第1エッジ信号と合成し、このエッジ信号に対して、第2エッジ信号の値が所定値Eを超えている画素については、該当するエッジ信号のレベルを下げるように補正を行うようにしてもよい。あるいは、第1エッジ信号に対して、補正処理が施される前の第2エッジ信号に基づくゲインを適用して、第1エッジ信号を増幅する構成とし、第2エッジ信号の値が所定値Eを超えている画素については、ゲインを小さく設定するようにしてもよい。すなわち、第2エッジ信号の値が所定値Eを超える場合には、超えない場合に比べて、第2エッジ信号の影響の度合いが小さくなるように、第1エッジ信号を補正すればよい。 As described above, in the present embodiment, the second edge signal is corrected so as to reduce the edge signal having a higher contrast than the predetermined value E, that is, the edge signal having high contrast that is also included in the first edge signal. Therefore, it is possible to effectively prevent the expansion of the edge signal around the high-contrast edge due to the enlargement processing of S308. Therefore, the compositing ratio calculated around the edge of high contrast can be reduced, and the compositing ratio of the reduced image from the low frequency range can be made superior. Here, an example in which the corrected second edge signal is enlarged to generate a third edge signal, and the third edge signal is combined with the first edge signal to generate a fourth edge signal. The explanation was given, but it is not limited to this. The second edge signal before the correction process is enlarged and combined with the first edge signal, and for the pixel whose value of the second edge signal exceeds the predetermined value E with respect to this edge signal, the pixel is The correction may be performed so as to lower the level of the corresponding edge signal. Alternatively, the gain based on the second edge signal before the correction processing is applied to the first edge signal to amplify the first edge signal, and the value of the second edge signal is a predetermined value E. For pixels exceeding the above, the gain may be set small. That is, when the value of the second edge signal exceeds the predetermined value E, the first edge signal may be corrected so that the degree of influence of the second edge signal is smaller than that when the value does not exceed the predetermined value E.

次に、S310において、画像合成処理部210は、ノイズ抑圧処理部202からの第1NR画像と拡大処理部207からの拡大された第2NR画像とを、S309で算出された合成比率に従って合成処理し、帯域別ノイズ抑圧処理部200の出力信号を生成する。当該合成処理では、第1NR画像と、拡大された第2NR画像とを、合成比率に応じて画素ごとに加重加算する。この合成比率を利用することで、エッジ量の多いところは第1NR画像の使用比率が高くなるため解像感は維持され、エッジ量の少ないところは第2NR画像の使用比率が高くなるためノイズ抑圧効果が高くなる。なお、高コントラストのエッジ周辺では、第1エッジ信号の部分について第1NR画像が使用される一方、エッジ周辺ではノイズ抑圧効果の高い第2NR画像が使用され、エッジ周辺でのノイズ段差を低減することができる。 Next, in S310, the image composition processing unit 210 synthesizes the first NR image from the noise suppression processing unit 202 and the enlarged second NR image from the enlargement processing unit 207 according to the composition ratio calculated in S309. , The output signal of the noise suppression processing unit 200 for each band is generated. In the compositing process, the first NR image and the enlarged second NR image are weighted and added for each pixel according to the compositing ratio. By using this composition ratio, the resolution is maintained because the usage ratio of the first NR image is high where the edge amount is large, and the noise suppression because the usage ratio of the second NR image is high where the edge amount is small. The effect will be higher. Around the edge with high contrast, the first NR image is used for the part of the first edge signal, while the second NR image having a high noise suppression effect is used around the edge to reduce the noise step around the edge. Can be done.

以上の本実施形態によれば、縮小画像から検出したエッジ信号を使用して合成比率を算出する際に、高コントラストのエッジ周辺のノイズ段差を目立ちにくくしながらも、エッジの解像感と平坦部のノイズ抑圧効果を両立されたノイズ低減処理を実現することができる。なお、上記実施形態では、入力画像に対して1つの縮小画像を生成し、これら2つの画像を合成する例を挙げて説明を行ったが、これに限られるものではない。1つの画像から、それぞれの画像に含まれる周波数成分に差が生じた複数の画像を生成し、これら複数の画像を合成する構成であれば、生成する画像の数は2以上であっても構わない。また、上述した実施形態のように、縮小画像は入力画像に比べて高周波成分におけるノイズが抑圧されているのだから、少なくとも縮小画像が合成された画素においては、入力画像に比べて高周波成分におけるノイズが減少することになる。ゆえに、ノイズ低減としての効果の程度は下がるが、ノイズ抑圧処理部は省略することができる。 According to the above embodiment, when calculating the composition ratio using the edge signal detected from the reduced image, the noise step around the high-contrast edge is made inconspicuous, but the edge resolution and flatness are obtained. It is possible to realize noise reduction processing that achieves both the noise suppression effect of the unit. In the above embodiment, an example of generating one reduced image with respect to the input image and synthesizing these two images has been described, but the description is not limited to this. The number of images to be generated may be 2 or more as long as a plurality of images having different frequency components included in each image are generated from one image and the plurality of images are combined. Absent. Further, as in the above-described embodiment, the reduced image has noise suppressed in the high frequency component as compared with the input image. Therefore, at least in the pixel in which the reduced image is synthesized, the noise in the high frequency component is suppressed as compared with the input image. Will decrease. Therefore, although the degree of the effect as noise reduction is reduced, the noise suppression processing unit can be omitted.

(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(Other Examples)
The present invention supplies a program that realizes one or more functions of the above-described embodiment to a system or device via a network or storage medium, and one or more processors in the computer of the system or device reads and executes the program. It is also possible to realize the processing. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

100:デジタルカメラ、101:光学系、102:撮像素子、103:前置処理回路、104:A/D変換器、105:画像処理部、106:制御部、107:表示メモリ、108:表示装置、109:記録媒体、110:操作部材、111:バス 100: Digital camera, 101: Optical system, 102: Image sensor, 103: Pre-processing circuit, 104: A / D converter, 105: Image processing unit, 106: Control unit, 107: Display memory, 108: Display device , 109: Recording medium, 110: Operating member, 111: Bus

Claims (12)

入力画像を縮小し縮小画像を生成する縮小手段と、
前記入力画像に対してエッジ検出を行って第1のエッジ信号を生成する第1の検出手段と、
前記縮小画像に対してエッジ検出を行って第2のエッジ信号を生成する第2の検出手段と、
前記入力画像に対してノイズ抑圧処理を行って、第1のノイズ抑圧画像を生成する第1のノイズ抑圧手段と、
前記縮小画像に対してノイズ抑圧処理を行って、第2のノイズ抑圧画像を生成する第2のノイズ抑圧手段と、
前記第2のエッジ信号を補正して、補正後のエッジ信号を出力する補正手段と、
前記補正後のエッジ信号と前記第2のノイズ抑圧画像を拡大し、拡大後のエッジ信号と拡大後のノイズ抑圧画像を出力する拡大手段と、
前記拡大後のエッジ信号と前記第1のエッジ信号を加算し、加算後のエッジ信号の値に基づいて合成比率を算出する算出手段と、
前記合成比率で、前記第1のノイズ抑圧画像と前記拡大後のノイズ抑圧画像を合成する合成手段と、
を備え、
前記補正手段は、前記第2のエッジ信号の値が所定値を超える場合に、前記第2のエッジ信号の値が前記所定値を超えないように、前記第2のエッジ信号の値を補正し、
前記算出手段は、前記加算後のエッジ信号の値が小さいほど、前記拡大後のノイズ抑圧画像の合成比率を高くし、前記加算後のエッジ信号の値が大きいほど、前記第1のノイズ抑圧画像の合成比率を高くすることを特徴とする画像処理装置。
A reduction means that reduces the input image and generates a reduced image,
A first detection means that performs edge detection on the input image and generates a first edge signal,
A second detection means that performs edge detection on the reduced image and generates a second edge signal,
A first noise suppression means for generating a first noise suppression image by performing noise suppression processing on the input image,
A second noise suppression means that performs noise suppression processing on the reduced image to generate a second noise suppression image,
A correction means that corrects the second edge signal and outputs the corrected edge signal.
An enlarging means for enlarging the corrected edge signal and the second noise-suppressed image and outputting the enlarged edge signal and the enlarged noise-suppressed image.
A calculation means that adds the enlarged edge signal and the first edge signal and calculates the composition ratio based on the value of the added edge signal.
A compositing means for compositing the first noise-suppressed image and the enlarged noise-suppressed image at the compositing ratio, and
With
When the value of the second edge signal exceeds a predetermined value, the correction means corrects the value of the second edge signal so that the value of the second edge signal does not exceed the predetermined value. ,
In the calculation means, the smaller the value of the edge signal after the addition, the higher the synthesis ratio of the noise suppression image after the enlargement, and the larger the value of the edge signal after the addition, the higher the first noise suppression image. An image processing device characterized by increasing the composition ratio of noise.
前記補正手段は、前記所定値を超えた前記第2のエッジ信号の値を、前記所定値を超える度合いが大きくなるほど値が小さくなるように補正することを特徴とする請求項に記載の画像処理装置。 The image according to claim 1 , wherein the correction means corrects the value of the second edge signal exceeding the predetermined value so that the value becomes smaller as the degree of exceeding the predetermined value increases. Processing equipment. 前記補正手段は、前記所定値を超えた前記第2のエッジ信号の値を、前記所定値以下の一定値に補正することを特徴とする請求項に記載の画像処理装置。 The image processing apparatus according to claim 1 , wherein the correction means corrects the value of the second edge signal exceeding the predetermined value to a constant value equal to or less than the predetermined value. 前記算出手段は、
前記加算後のエッジ信号の値が第1の閾値以下の場合に、前記拡大後のノイズ抑圧画像の前記合成比率を100%とし、
前記加算後のエッジ信号の値が前記第1の閾値よりも大きい第2の閾値より大きい場合に、前記第1のノイズ抑圧画像の前記合成比率を100%とすることを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
The calculation means is
If the value of the edge signal after the addition is less than the first threshold value, the combining ratio ratio of the noise suppressing image after the enlargement to 100%,
Wherein when the value of the addition after the edge signal is greater than the larger second threshold value than the first threshold value, according to the first noise suppression the combining ratio rate, wherein 100% and be Rukoto image The image processing apparatus according to any one of Items 1 to 3.
入力画像を縮小し縮小画像を生成する縮小手段と、
前記入力画像に対してエッジ検出を行って第1のエッジ信号を生成する第1の検出手段と、
前記縮小画像に対してエッジ検出を行って第2のエッジ信号を生成する第2の検出手段と、
前記入力画像に対してノイズ抑圧処理を行って、第1のノイズ抑圧画像を生成する第1のノイズ抑圧手段と、
前記縮小画像に対してノイズ抑圧処理を行って、第2のノイズ抑圧画像を生成する第2のノイズ抑圧手段と、
前記第2のエッジ信号と前記第2のノイズ抑圧画像を拡大し、拡大後のエッジ信号と拡大後のノイズ抑圧画像を出力する拡大手段と、
前記拡大後のエッジ信号と前記第1のエッジ信号を加算する加算手段と、
前記加算手段から出力されたエッジ信号を補正し、補正後のエッジ信号を出力する補正手段と、
前記補正後のエッジ信号の値に基づいて合成比率を算出する算出手段と、
前記合成比率で、前記第1のノイズ抑圧画像と前記拡大後のノイズ抑圧画像を合成する合成手段と、
を備え、
前記補正手段は、前記第2のエッジ信号の値が所定値を超える場合に、前記加算手段から出力されたエッジ信号の値の値を下げるように補正し、
前記算出手段は、前記加算後のエッジ信号の値が小さいほど、前記拡大後のノイズ抑圧画像の合成比率を高くし、前記加算後のエッジ信号の値が大きいほど、前記第1のノイズ抑圧画像の合成比率を高くすることを特徴とする画像処理装置。
A reduction means that reduces the input image and generates a reduced image,
A first detection means that performs edge detection on the input image and generates a first edge signal,
A second detection means that performs edge detection on the reduced image and generates a second edge signal,
A first noise suppression means for generating a first noise suppression image by performing noise suppression processing on the input image,
A second noise suppression means that performs noise suppression processing on the reduced image to generate a second noise suppression image,
An enlarging means for enlarging the second edge signal and the second noise-suppressed image and outputting the enlarged edge signal and the enlarged noise-suppressed image.
An addition means for adding the enlarged edge signal and the first edge signal, and
A correction means that corrects the edge signal output from the addition means and outputs the corrected edge signal,
A calculation means for calculating the composition ratio based on the corrected edge signal value, and
A compositing means for compositing the first noise-suppressed image and the enlarged noise-suppressed image at the compositing ratio, and
With
When the value of the second edge signal exceeds a predetermined value, the correction means corrects so as to lower the value of the edge signal output from the addition means.
In the calculation means, the smaller the value of the edge signal after the addition, the higher the synthesis ratio of the noise suppression image after the enlargement, and the larger the value of the edge signal after the addition, the higher the first noise suppression image. An image processing device characterized by increasing the composition ratio of noise.
入力画像を縮小し縮小画像を生成する縮小手段と、
前記入力画像に対してエッジ検出を行って第1のエッジ信号を生成する第1の検出手段と、
前記縮小画像に対してエッジ検出を行って第2のエッジ信号を生成する第2の検出手段と、
前記入力画像に対してノイズ抑圧処理を行って、第1のノイズ抑圧画像を生成する第1のノイズ抑圧手段と、
前記縮小画像に対してノイズ抑圧処理を行って、第2のノイズ抑圧画像を生成する第2のノイズ抑圧手段と、
前記第2のノイズ抑圧画像を拡大し、拡大後のノイズ抑圧画像を出力する拡大手段と、
前記第1のエッジ信号に前記第2のエッジ信号の値に応じたゲインを適用して、前記第1のエッジ信号を増幅し、補正後のエッジ信号出力する補正手段と、
前記補正後のエッジ信号の値に基づいて合成比率を算出する算出手段と、
前記合成比率で、前記第1のノイズ抑圧画像と前記拡大後のノイズ抑圧画像を合成する合成手段と、
を備え、
前記補正手段は、前記第2のエッジ信号の値が所定値を超える場合に、前記所定値を超えない場合に比べて、前記第2のエッジ信号の影響の度合が小さくなるように前記ゲインを設定し、
前記算出手段は、前記補正後のエッジ信号の値が小さいほど、前記拡大後のノイズ抑圧画像の合成比率を高くし、前記補正後のエッジ信号の値が大きいほど、前記第1のノイズ抑圧画像の合成比率を高くすることを特徴とする画像処理装置。
A reduction means that reduces the input image and generates a reduced image,
A first detection means that performs edge detection on the input image and generates a first edge signal,
A second detection means that performs edge detection on the reduced image and generates a second edge signal,
A first noise suppression means for generating a first noise suppression image by performing noise suppression processing on the input image,
A second noise suppression means that performs noise suppression processing on the reduced image to generate a second noise suppression image,
An enlarging means for enlarging the second noise-suppressed image and outputting the enlarged noise-suppressed image,
A correction means that applies a gain corresponding to the value of the second edge signal to the first edge signal, amplifies the first edge signal, and outputs the corrected edge signal.
A calculation means for calculating the composition ratio based on the corrected edge signal value, and
A compositing means for compositing the first noise-suppressed image and the enlarged noise-suppressed image at the compositing ratio, and
With
When the value of the second edge signal exceeds a predetermined value, the correction means adjusts the gain so that the degree of influence of the second edge signal becomes smaller than that when the value does not exceed the predetermined value. Set,
In the calculation means, the smaller the value of the corrected edge signal, the higher the composition ratio of the enlarged noise suppression image, and the larger the value of the corrected edge signal, the higher the first noise suppression image. An image processing device characterized by increasing the composition ratio of noise.
被写体を撮影して前記入力画像を生成する撮像手段を更に備えることを特徴とする請求項1からのいずれか1項に記載の画像処理装置。 The image processing apparatus according to any one of claims 1 to 6 , further comprising an imaging means for photographing a subject and generating the input image. 前記入力画像を入力する入力手段を更に備え、
前記入力手段は、前記入力画像を記録している記録媒体から前記入力画像を読み出して入力することを特徴とする請求項1からのいずれか1項に記載の画像処理装置。
Further provided with an input means for inputting the input image,
The image processing apparatus according to any one of claims 1 to 7 , wherein the input means reads the input image from a recording medium on which the input image is recorded and inputs the input image.
入力画像を縮小し縮小画像を生成する縮小工程と、
前記入力画像に対してエッジ検出を行って第1のエッジ信号を生成する第1の検出工程と、
前記縮小画像に対してエッジ検出を行って第2のエッジ信号を生成する第2の検出工程と、
前記入力画像に対してノイズ抑圧処理を行って、第1のノイズ抑圧画像を生成する第1のノイズ抑圧工程と、
前記縮小画像に対してノイズ抑圧処理を行って、第2のノイズ抑圧画像を生成する第2のノイズ抑圧工程と、
前記第2のエッジ信号を補正して、補正後のエッジ信号を出力する補正工程と、
前記補正後のエッジ信号と前記第2のノイズ抑圧画像を拡大し、拡大後のエッジ信号と拡大後のノイズ抑圧画像を出力する拡大工程と、
前記拡大後のエッジ信号と前記第1のエッジ信号を加算し、加算後のエッジ信号の値に基づいて合成比率を算出する算出工程と、
前記合成比率で、前記第1のノイズ抑圧画像と前記拡大後のノイズ抑圧画像を合成する合成工程と、
を含み、
前記補正工程では、前記第2のエッジ信号の値が所定値を超える場合に、前記第2のエッジ信号の値が前記所定値を超えないように、前記第2のエッジ信号の値を補正し、
前記算出工程では、前記加算後のエッジ信号の値が小さいほど、前記拡大後のノイズ抑圧画像の合成比率を高くし、前記加算後のエッジ信号の値が大きいほど、前記第1のノイズ抑圧画像の合成比率を高くすることを特徴とする画像処理方法。
A reduction process that reduces the input image and generates a reduced image,
A first detection step of performing edge detection on the input image to generate a first edge signal, and
A second detection step of performing edge detection on the reduced image to generate a second edge signal, and
A first noise suppression step of performing noise suppression processing on the input image to generate a first noise suppression image, and
A second noise suppression step of performing noise suppression processing on the reduced image to generate a second noise suppression image,
A correction step of correcting the second edge signal and outputting the corrected edge signal,
An enlargement step of enlarging the corrected edge signal and the second noise suppression image and outputting the enlarged edge signal and the enlarged noise suppression image.
A calculation step of adding the enlarged edge signal and the first edge signal and calculating the composition ratio based on the value of the added edge signal.
A compositing step of compositing the first noise-suppressed image and the enlarged noise-suppressed image at the compositing ratio,
Including
In the correction step, when the value of the second edge signal exceeds a predetermined value, the value of the second edge signal is corrected so that the value of the second edge signal does not exceed the predetermined value. ,
In the calculation step, the smaller the value of the edge signal after the addition, the higher the composition ratio of the enlarged noise suppression image, and the larger the value of the edge signal after the addition, the higher the first noise suppression image. An image processing method characterized by increasing the composition ratio of.
入力画像を縮小し縮小画像を生成する縮小工程と、A reduction process that reduces the input image and generates a reduced image,
前記入力画像に対してエッジ検出を行って第1のエッジ信号を生成する第1の検出工程と、A first detection step of performing edge detection on the input image to generate a first edge signal, and
前記縮小画像に対してエッジ検出を行って第2のエッジ信号を生成する第2の検出工程と、A second detection step of performing edge detection on the reduced image to generate a second edge signal, and
前記入力画像に対してノイズ抑圧処理を行って、第1のノイズ抑圧画像を生成する第1のノイズ抑圧工程と、A first noise suppression step of performing noise suppression processing on the input image to generate a first noise suppression image, and
前記縮小画像に対してノイズ抑圧処理を行って、第2のノイズ抑圧画像を生成する第2のノイズ抑圧工程と、A second noise suppression step of performing noise suppression processing on the reduced image to generate a second noise suppression image,
前記第2のエッジ信号と前記第2のノイズ抑圧画像を拡大し、拡大後のエッジ信号と拡大後のノイズ抑圧画像を出力する拡大工程と、An enlargement step of enlarging the second edge signal and the second noise suppression image and outputting the enlarged edge signal and the enlarged noise suppression image.
前記拡大後のエッジ信号と前記第1のエッジ信号を加算する加算工程と、An addition step of adding the enlarged edge signal and the first edge signal, and
前記加算工程で出力されたエッジ信号を補正し、補正後のエッジ信号を出力する補正工程と、A correction step of correcting the edge signal output in the addition step and outputting the corrected edge signal,
前記補正後のエッジ信号の値に基づいて合成比率を算出する算出工程と、A calculation step of calculating the composition ratio based on the corrected edge signal value, and
前記合成比率で、前記第1のノイズ抑圧画像と前記拡大後のノイズ抑圧画像を合成する合成工程と、A compositing step of compositing the first noise-suppressed image and the enlarged noise-suppressed image at the compositing ratio,
を含み、Including
前記補正工程では、前記第2のエッジ信号の値が所定値を超える場合に、前記加算工程で出力されたエッジ信号の値の値を下げるように補正し、In the correction step, when the value of the second edge signal exceeds a predetermined value, the value of the edge signal output in the addition step is corrected so as to be lowered.
前記算出工程では、前記加算後のエッジ信号の値が小さいほど、前記拡大後のノイズ抑圧画像の合成比率を高くし、前記加算後のエッジ信号の値が大きいほど、前記第1のノイズ抑圧画像の合成比率を高くすることを特徴とする画像処理方法。In the calculation step, the smaller the value of the edge signal after the addition, the higher the composition ratio of the enlarged noise suppression image, and the larger the value of the edge signal after the addition, the higher the first noise suppression image. An image processing method characterized by increasing the composition ratio of.
入力画像を縮小し縮小画像を生成する縮小工程と、A reduction process that reduces the input image and generates a reduced image,
前記入力画像に対してエッジ検出を行って第1のエッジ信号を生成する第1の検出工程と、A first detection step of performing edge detection on the input image to generate a first edge signal, and
前記縮小画像に対してエッジ検出を行って第2のエッジ信号を生成する第2の検出工程と、A second detection step of performing edge detection on the reduced image to generate a second edge signal, and
前記入力画像に対してノイズ抑圧処理を行って、第1のノイズ抑圧画像を生成する第1のノイズ抑圧工程と、A first noise suppression step of performing noise suppression processing on the input image to generate a first noise suppression image, and
前記縮小画像に対してノイズ抑圧処理を行って、第2のノイズ抑圧画像を生成する第2のノイズ抑圧工程と、A second noise suppression step of performing noise suppression processing on the reduced image to generate a second noise suppression image,
前記第2のノイズ抑圧画像を拡大し、拡大後のノイズ抑圧画像を出力する拡大工程と、An enlarging step of enlarging the second noise-suppressed image and outputting the enlarged noise-suppressed image, and
前記第1のエッジ信号に前記第2のエッジ信号の値に応じたゲインを適用して、前記第1のエッジ信号を増幅し、補正後のエッジ信号出力する補正工程と、A correction step of applying a gain corresponding to the value of the second edge signal to the first edge signal, amplifying the first edge signal, and outputting the corrected edge signal.
前記補正後のエッジ信号の値に基づいて合成比率を算出する算出工程と、A calculation step of calculating the composition ratio based on the corrected edge signal value, and
前記合成比率で、前記第1のノイズ抑圧画像と前記拡大後のノイズ抑圧画像を合成する合成工程と、A compositing step of compositing the first noise-suppressed image and the enlarged noise-suppressed image at the compositing ratio,
を含み、Including
前記補正工程では、前記第2のエッジ信号の値が所定値を超える場合に、前記所定値を超えない場合に比べて、前記第2のエッジ信号の影響の度合が小さくなるように前記ゲインを設定し、In the correction step, when the value of the second edge signal exceeds a predetermined value, the gain is adjusted so that the degree of influence of the second edge signal becomes smaller than that when the value does not exceed the predetermined value. Set,
前記算出工程では、前記補正後のエッジ信号の値が小さいほど、前記拡大後のノイズ抑圧画像の合成比率を高くし、前記補正後のエッジ信号の値が大きいほど、前記第1のノイズ抑圧画像の合成比率を高くすることを特徴とする画像処理方法。In the calculation step, the smaller the value of the corrected edge signal, the higher the composition ratio of the enlarged noise suppression image, and the larger the value of the corrected edge signal, the higher the first noise suppression image. An image processing method characterized by increasing the composition ratio of.
コンピュータを請求項1からのいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。 A program for operating a computer as each means of the image processing apparatus according to any one of claims 1 to 8.
JP2017100073A 2017-05-19 2017-05-19 Image processing device, image processing method, and program Active JP6858073B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017100073A JP6858073B2 (en) 2017-05-19 2017-05-19 Image processing device, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017100073A JP6858073B2 (en) 2017-05-19 2017-05-19 Image processing device, image processing method, and program

Publications (2)

Publication Number Publication Date
JP2018195189A JP2018195189A (en) 2018-12-06
JP6858073B2 true JP6858073B2 (en) 2021-04-14

Family

ID=64570412

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017100073A Active JP6858073B2 (en) 2017-05-19 2017-05-19 Image processing device, image processing method, and program

Country Status (1)

Country Link
JP (1) JP6858073B2 (en)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5211589B2 (en) * 2006-09-14 2013-06-12 株式会社ニコン Image processing apparatus, electronic camera, and image processing program
JP2014002635A (en) * 2012-06-20 2014-01-09 Sony Corp Image processing apparatus, imaging apparatus, image processing method, and program
JP2014021928A (en) * 2012-07-23 2014-02-03 Canon Inc Image processor, image processing method and program
JP2014135589A (en) * 2013-01-09 2014-07-24 Canon Inc Image processing device, control method therefor, and control program
JP5800970B2 (en) * 2014-08-29 2015-10-28 オリンパス株式会社 Image processing apparatus, imaging apparatus, image processing method, and image processing program

Also Published As

Publication number Publication date
JP2018195189A (en) 2018-12-06

Similar Documents

Publication Publication Date Title
KR101247646B1 (en) Image combining apparatus, image combining method and recording medium
JP4290193B2 (en) Image processing device
EP3125527A1 (en) Image processing device, photography device, image processing method, and image processing program
JP2008165312A (en) Image processor and image processing method
JP4720537B2 (en) Imaging device
US9215356B2 (en) Image processing apparatus, image processing method, and program to combine a composite image of noise suppressed images generated from images each including a direct current component and at least one noise suppresed image processed from at least one image not including the direct current component
JP6087612B2 (en) Image processing apparatus and image processing method
JP4479527B2 (en) Image processing method, image processing apparatus, image processing program, and electronic camera
JP5541205B2 (en) Image processing apparatus, imaging apparatus, image processing program, and image processing method
JP2004363853A (en) Method and device for reducing noise of image signal
JP6873679B2 (en) Imaging device, control method and program of imaging device
JP2011180925A (en) Image processing device, imaging device and image processing method
JP2009272983A (en) Image processing apparatus, method, and program
JP6324235B2 (en) Image processing apparatus and image processing method
JP2006050042A (en) Image processing apparatus
JP2008219289A (en) Video correction device, video display device, imaging apparatus and video correction program
JP6858073B2 (en) Image processing device, image processing method, and program
JP5146500B2 (en) Image composition apparatus, image composition method, and program
JP5213604B2 (en) Imaging device
JP6157274B2 (en) Imaging apparatus, information processing method, and program
KR20100121944A (en) Image processing method and apparatus, and digital photographing apparatus using thereof
JP2009081526A (en) Imaging apparatus
JP6514577B2 (en) IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, AND IMAGING APPARATUS
JP6929185B2 (en) Image processing equipment and image processing methods, programs, storage media
US9013606B2 (en) Image processing apparatus and control method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201214

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210323

R151 Written notification of patent or utility model registration

Ref document number: 6858073

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151