JP2010118942A - 画像処理装置及び撮像装置 - Google Patents

画像処理装置及び撮像装置 Download PDF

Info

Publication number
JP2010118942A
JP2010118942A JP2008291257A JP2008291257A JP2010118942A JP 2010118942 A JP2010118942 A JP 2010118942A JP 2008291257 A JP2008291257 A JP 2008291257A JP 2008291257 A JP2008291257 A JP 2008291257A JP 2010118942 A JP2010118942 A JP 2010118942A
Authority
JP
Japan
Prior art keywords
noise reduction
impulse noise
detection result
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008291257A
Other languages
English (en)
Inventor
Seiji Okada
誠司 岡田
Kengo Masaoka
賢悟 正岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2008291257A priority Critical patent/JP2010118942A/ja
Publication of JP2010118942A publication Critical patent/JP2010118942A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Abstract

【課題】入力画像に含まれるノイズを効果的に低減する画像処理装置や、この画像処理装置を備える撮像装置を提供することを目的とする。
【解決手段】ノイズ低減処理部60は、現フレームの入力画像に含まれるインパルスノイズを低減する第1インパルスノイズ低減部61aと、前フレームの出力画像に含まれるインパルスノイズを低減する第2インパルスノイズ低減部61bと、第1インパルスノイズ低減部61aから出力される現フレームの入力画像と第2インパルスノイズ低減部61bから出力される前フレームの出力画像との差分に基づいて現フレームの入力画像からランダムノイズを低減させる巡回型ノイズ低減部62と、を備える。また、第1インパルスノイズ低減部61a及び第2インパルスノイズ低減部61bの少なくとも一方は、他方にインパルスノイズの検出結果を出力する。
【選択図】図2

Description

本発明は、入力される画像にノイズ低減処理を施す画像処理装置に関する。また、この画像処理装置を備える撮像装置に関する。
近年、CCD(Charge Coupled Device)やCMOS(Complimentary Metal Oxide Semiconductor)センサなどのイメージセンサを用いて撮像を行うデジタルスチルカメラやデジタルビデオカメラなどの撮像装置が広く普及している。そして、このような撮像装置によって撮像されて得られる画像に、ノイズが含まれることがある。
発生するノイズとして、例えば、強度が弱く画像中のランダムな位置に発生するランダムノイズがある。他には、強度が強く画像中の所定の位置に発生するインパルスノイズがある。ランダムノイズは、例えばイメージセンサのゲインを挙げて高感度で撮像する場合などに発生する。また、インパルスノイズは、例えばイメージセンサの個々の増幅器など素子の特性によって発生するものであり、高感度で撮影する場合に顕著となるが、場合によっては常時発生する。
これらのノイズを低減する画像処理装置の1つとして、注目画素と周囲画素を含む所定の領域内において、画素値の最大値と最小値との差分を求め、差分値が閾値より小さくなる場合に、注目画素の画素値を所定の領域内のメディアン値にするものが提案されている(特許文献1参照)。この方法では、差分値が小さい場合、注目画素の画素値をメディアン値に変換することでノイズを低減する。一方、差分値が大きい場合、エッジ部(物体の輪郭部)と見なして注目画素の画素値をそのままにする。
また、別の画像処理装置として、巡回型ノイズ低減処理(ノイズ低減後の出力画像を利用して、入力画像のノイズ低減を行う処理)が施された画像に対して、さらにインパルスノイズの低減処理(例えば、メディアンフィルタや平均値フィルタによる処理)を行うものが提案されている(特許文献2参照)。
特開2004−166010号公報 特開2002−176567号公報
しかしながら、特許文献1に記載の画像処理装置では、ランダムノイズが多い場合に、エッジ部の判定精度が低下する問題がある。さらに、インパルスノイズをエッジ部であると判定する場合があるため、インパルスノイズが十分低減されないことも問題となる。
また、特許文献2に記載の画像処理装置では、巡回型ノイズ低減処理によってランダムノイズを低減した画像に対してインパルスノイズの検出及び低減処理を行うため、インパルスノイズを効果的に検出及び低減することができる。しかしながら、近接する複数の画素に跨って(連結して)発生するインパルスノイズを検出及び低減することは、困難となる。
連結して発生するインパルスノイズとは、画素値が周囲の画素と大きく異なるものであり、近接する複数の画素に跨って生じるものである。そのため、連結して発生するインパルスノイズとエッジ部との判別を行うことは困難なものとなる。そして、上記のようにインパルスノイズの検出を行い、その検出結果に基づいてメディアンフィルタや平均値フィルタを用いてインパルスノイズを低減しようとすると、エッジ部が低減されて不明瞭(ぼけ)となったり、反対にインパルスノイズが低減されずに残留したりする問題が生じる。
近年、インパルスノイズは、所定の領域において連結して発生しやすくなっている。これは、特にCMOSイメージセンサにおいて、センサの微細化のために画素の読み出し回路を共有することが多くなっていることに起因している。読み出し回路を共有する場合、問題がある読み出し回路を共有している画素の全てにノイズが発生する。そのため、このようなインパルスノイズを効果的に低減する画像処理装置が望まれている。
以上の問題を鑑みて、本発明は、入力画像に含まれるノイズを効果的に低減する画像処理装置や、この画像処理装置を備える撮像装置を提供することを目的とする。
上記目的を達成するために、本発明の画像処理装置は、入力される入力画像からノイズを低減して出力画像を生成し出力するノイズ低減処理部を備える画像処理装置において、
前記ノイズ低減処理部が、前記入力画像である第1入力画像と、当該第1入力画像よりも前に前記ノイズ低減処理部に入力された第2入力画像から生成された第2出力画像と、が入力されるとともに、前記第1入力画像と前記第2出力画像との差分に基づいて、前記第1入力画像からランダムノイズを低減させて前記出力画像である第1出力画像を生成する巡回型ノイズ低減部と、前記巡回型ノイズ低減部に入力される前記第1入力画像からインパルスノイズを低減する第1インパルスノイズ低減部と、前記巡回型ノイズ低減部に入力される前記第2出力画像からインパルスノイズを低減する第2インパルスノイズ低減部と、を備えることを特徴とする。
ランダムノイズは例えば、画像中のランダムな位置に発生するノイズであり、画像毎に発生位置が異なるものである。また、インパルスノイズは例えば、画像中の所定の位置に発生するノイズであり、画像毎の発生位置が略等しくなるものである。
また、上記構成の画像処理装置において、前記第1インパルスノイズ低減部及び前記第2インパルスノイズ低減部の少なくとも一方がインパルスノイズの検出を行い、その検出結果を他方に出力し、他方が前記検出結果を用いてインパルスノイズを低減することとしても構わない。
また、上記構成の画像処理装置において、前記第2インパルスノイズ低減部が、前記第2出力画像からインパルスノイズを検出して第2検出結果を生成し、前記第1インパルスノイズ低減部へ出力し、前記第1インパルスノイズ低減部が、前記第2検出結果に基づいて前記第1入力画像からインパルスノイズを低減することとしても構わない。
このように構成すると、第2インパルスノイズ低減部において、ランダムノイズが既に低減されている第2出力画像に対してインパルスノイズの検出が行われることとなる。そのため、インパルスノイズの検出精度を高めることが可能となる。したがって、第1入力画像及び第2出力画像から精度良くインパルスノイズを低減することが可能となる。さらに、第2インパルスノイズ低減部のみがインパルスノイズの検出を行うだけで、第1インパルスノイズ低減部及び第2インパルスノイズ低減部の両方においてインパルスノイズを低減することが可能となる。したがって、構成を簡略化することが可能となる。
また、上記構成の画像処理装置において、前記第2インパルスノイズ低減部が、前記第2出力画像からインパルスノイズを検出して第2検出結果を生成し、前記第1インパルスノイズ低減部へ出力し、前記第1インパルスノイズ低減部が、前記第1入力画像からインパルスノイズを検出して第1検出結果を生成し、当該第1検出結果と前記第2検出結果とに基づいて前記第1入力画像からインパルスノイズを低減することとしても構わない。
このように構成すると、第1インパルスノイズ低減部における検出結果が不良(例えば、検出対象である注目画素の画素値がインパルスノイズによって突出したのかエッジ部であるために突出したのかが判別不能)となる場合に、第2インパルスノイズ低減部での検出結果を利用することが可能となる。したがって、第1インパルスノイズ低減部において、第1入力画像から精度良くインパルスノイズを低減することが可能となる。
また、上記構成の画像処理装置において、前記第1インパルスノイズ低減部が、前記第1入力画像からインパルスノイズを検出して第1検出結果を生成し、前記第2インパルスノイズ低減部へ出力し、前記第2インパルスノイズ低減部が、前記第2出力画像からインパルスノイズを検出して第2検出結果を生成し、前記第1インパルスノイズ低減部へ出力し、前記第1インパルスノイズ低減部が、前記第1検出結果と前記第2検出結果とに基づいて前記第1入力画像からインパルスノイズを低減し、前記第2インパルスノイズ低減部が、前記第1検出結果と前記第2検出結果とに基づいて前記第2出力画像からインパルスノイズを低減することとしても構わない。
このように構成すると、第1インパルスノイズ低減部における検出結果が不良である場合に、第2インパルスノイズ低減部での検出結果を利用することが可能となる。したがって、第1インパルスノイズ低減部において、第1入力画像から精度良くインパルスノイズを低減することが可能となる。さらに、第2インパルスノイズ低減部における検出結果が不良である場合に、第1インパルスノイズ低減部での検出結果を利用することが可能となる。したがって、第2インパルスノイズ低減部において、第2出力画像から精度良くインパルスノイズを低減することが可能となる。
また、上記構成の画像処理装置において、前記第1検出結果または前記第2検出結果が、検出対象となる注目画素にインパルスノイズが含まれている状態と、前記注目画素にインパルスノイズが含まれていない状態と、インパルスノイズが含まれているか否かが判別不能である状態と、のいずれかの状態を示すものであることとしても構わない。また、第1検出結果または第2検出結果が、検出対象となる注目画素にインパルスノイズが含まれている可能性の高さを示すものとしても構わない。
また、上記構成の画像処理装置において、前記第1インパルスノイズ低減部または前記第2インパルスノイズ低減部が、検出対象となる注目画素の画素値と当該注目画素の周辺に位置する周辺画素の画素値とに基づいて補正画素値を生成し、前記注目画素の画素値を当該補正画素値に変更することとしても構わない。さらに、前記第1インパルスノイズ低減部または前記第2インパルスノイズ低減部が、前記注目画素と相関が高い前記周辺画素が整列する方向であるエッジ方向を算出するとともに、前記エッジ方向に整列する前記周辺画素を用いて前記補正画素値を生成することとしても構わない。
また、上記構成の画像処理装置において、前記入力画像が、撮像して得られた撮像画像の一部の領域を切り出す手ぶれ補正処理により生成された画像としても構わない。さらに、前記第1インパルスノイズ低減部及び前記第2インパルスノイズ低減部のそれぞれがインパルスノイズの検出を行い、少なくとも一方が前記第1検出結果と前記第2検出結果とを比較することで、インパルスノイズを検出することとしても構わない。
このように構成すると、インパルスノイズを精度良く検出して効果的に低減することが可能となる。特に、常に画像中のある位置で発生するインパルスノイズを好適に検出及び除去することが可能となる。
また、本発明の撮像装置は、撮像して前記入力画像を順次生成する撮像部と、上記のいずれかに記載の画像処理装置と、を備えることを特徴とする
本発明によると、巡回型ノイズ低減部に入力される第1入力画像及び第2出力画像に含まれるそれぞれのインパルスノイズを低減することが可能となる。そのため、巡回型ノイズ低減部から出力される出力画像中にインパルスノイズが残留することを抑制することが可能となる。
本発明における撮像装置の実施形態について、図面を参照して説明する。また、撮像装置として、デジタルカメラなどの音声、動画及び静止画の記録が可能な撮像装置を例に挙げて説明する。
<<撮像装置>>
まず、撮像装置の構成について、図1を参照して説明する。図1は、本発明の実施形態における撮像装置の構成を示すブロック図である。
図1に示すように、撮像装置1は、入射される光学像を電気信号に変換するCCDまたはCMOSセンサなどの固体撮像素子から成るイメージセンサ2と、被写体の光学像をイメージセンサ2に結像させるとともに光量などの調整を行うレンズ部3と、を備える。レンズ部3とイメージセンサ2とで撮像部が構成され、この撮像部によって画像信号が生成される。なお、レンズ部3は、ズームレンズやフォーカスレンズなどの各種レンズ(不図示)や、イメージセンサ2に入力される光量を調整する絞り(不図示)などを備える。
さらに、撮像装置1は、イメージセンサ2から出力されるアナログ信号である画像信号をデジタル信号に変換するとともにゲインの調整を行うAFE(Analog Front End)4と、入力される音声を電気信号に変換する集音部5と、AFE4から出力されるデジタル信号の画像信号をY(輝度信号)U,V(色差信号)を用いた信号に変換するとともに画像信号に各種画像処理を施す画像処理部6と、集音部5から出力されるアナログ信号である音声信号をデジタル信号に変換する音声処理部7と、画像処理部6から出力される画像信号に対してJPEG(Joint Photographic Experts Group)圧縮方式などの静止画用の圧縮符号化処理を施したり画像処理部6から出力される画像信号と音声処理部7からの音声信号とに対してMPEG(Moving Picture Experts Group)圧縮方式などの動画用の圧縮符号化処理を施したりする圧縮処理部8と、圧縮処理部8で圧縮符号化された圧縮符号化信号を記録する外部メモリ10と、画像信号を外部メモリ10に記録したり読み出したりするドライバ部9と、ドライバ部9において外部メモリ10から読み出した圧縮符号化信号を伸長して復号する伸長処理部11と、を備える。なお、画像処理部6は、入力される画像信号にノイズ低減処理を施すノイズ低減処理部60を備える。
また、撮像装置1は、伸長処理部11で復号された画像信号をディスプレイなどの表示装置(不図示)で表示可能な形式の信号に変換する画像出力回路部12と、伸長処理部11で復号された音声信号をスピーカなどの再生装置(不図示)で再生可能な形式の信号に変換する音声出力回路部13と、を備える。
また、撮像装置1は、撮像装置1内全体の動作を制御するCPU(Central Processing Unit)14と、各処理を行うための各プログラムを記憶するとともにプログラム実行時の信号の一時保管を行うメモリ15と、撮像を開始するボタンや各種設定の決定を行うボタンなどのユーザからの指示が入力される操作部16と、各部の動作タイミングを一致させるためのタイミング制御信号を出力するタイミングジェネレータ(TG)部17と、CPU14と各部との間で信号のやりとりを行うためのバス回線18と、メモリ15と各部との間で信号のやりとりを行うためのバス回線19と、を備える。
なお、外部メモリ10は画像信号や音声信号を記録することができればどのようなものでも構わない。例えば、SD(Secure Digital)カードのような半導体メモリ、DVDなどの光ディスク、ハードディスクなどの磁気ディスクなどをこの外部メモリ10として使用することができる。また、外部メモリ10を撮像装置1から着脱自在としても構わない。
次に、撮像装置1の基本動作について図1を用いて説明する。まず、撮像装置1は、レンズ部3より入射される光をイメージセンサ2において光電変換することによって、電気信号である画像信号を取得する。そして、イメージセンサ2は、TG部17から入力されるタイミング制御信号に同期して、所定のフレーム周期(例えば、1/30秒)で順次AFE4に画像信号を出力する。そして、AFE4によってアナログ信号からデジタル信号へと変換された画像信号は、画像処理部6に入力される。画像処理部6では、画像信号がYUVを用いた信号に変換されるとともに、階調補正や輪郭強調等の各種画像処理が施される。また、メモリ15はフレームメモリとして動作し、画像処理部6が処理を行なう際に画像信号を一時的に保持する。
また、このとき画像処理部6に入力される画像信号に基づき、レンズ部3において、各種レンズの位置が調整されてフォーカスの調整が行われたり、絞りの開度が調整されて露出の調整が行われたりする。このフォーカスや露出の調整は、それぞれ最適な状態となるように所定のプログラムに基づいて自動的に行われたり、ユーザの指示に基づいて手動で行われたりする。また、画像処理部6に備えられるノイズ低減処理部60は、入力される画像信号に対してノイズ低減処理を施す。
動画を記録する場合であれば、画像信号だけでなく音声信号も記録される。集音部5において電気信号に変換されて出力される音声信号は音声処理部7に入力されてデジタル化されるとともにノイズ除去などの処理が施される。そして、画像処理部6から出力される画像信号と、音声処理部7から出力される音声信号と、はともに圧縮処理部8に入力され、圧縮処理部8において所定の圧縮方式で圧縮される。このとき、画像信号と音声信号とは時間的に関連付けられており、再生時に画像と音とがずれないように構成される。そして、圧縮された画像信号及び音声信号はドライバ部9を介して外部メモリ10に記録される。
一方、静止画や音声のみを記録する場合であれば、画像信号または音声信号が圧縮処理部8において所定の圧縮方法で圧縮され、外部メモリ10に記録される。なお、動画を記録する場合と静止画を記録する場合とで、画像処理部6において行われる処理を異なるものとしても構わない。
外部メモリ10に記録された圧縮後の画像信号及び音声信号は、ユーザの指示に基づいて伸長処理部11に読み出される。伸長処理部11では、圧縮された画像信号及び音声信号を伸長し、画像信号を画像出力回路部12、音声信号を音声出力回路部13にそれぞれ出力する。そして、画像出力回路部12や音声出力回路部13において、表示装置やスピーカで表示または再生可能な形式の信号に変換されて出力される。
なお、表示装置やスピーカは、撮像装置1と一体となっているものでも構わないし、別体となっており、撮像装置1に備えられる端子とケーブル等を用いて接続されるようなものでも構わない。
また、画像信号の記録を行わずに表示装置などに表示される画像をユーザが確認する、所謂プレビューモードである場合に、画像処理部6から出力される画像信号を圧縮せずに画像出力回路部12に出力することとしても構わない。また、動画の画像信号を記録する際に、圧縮処理部8で圧縮して外部メモリ10に記録するのと並行して、画像出力回路部12を介して表示装置などに画像信号を出力することとしても構わない。
<<ノイズ低減処理部>>
<全体構成>
次に、図1に示したノイズ低減処理部60の全体構成について図面を参照して説明する。図2は、本発明の実施形態における撮像装置に備えられるノイズ低減処理部の全体構成を示すブロック図である。なお、以下では説明の具体化のために、ノイズ低減処理部60に入力されてノイズ低減処理が行われる画像信号を画像として表現するとともに、「入力画像」と呼ぶこととする。また、ノイズ低減処理部60から出力される画像信号を「出力画像」と呼ぶこととする。
また、順次入出力される入力画像及び出力画像の順序を、フレームを用いて表現する。特に、ノイズ低減処理が行われる対象となる入力画像を現フレームの入力画像とし、この現フレームの入力画像にノイズ低減処理が施されて出力される出力画像を現フレームの出力画像とする。また、現フレームの入力画像の前にノイズ低減処理部60に入力される入力画像を前フレームの入力画像とし、この前フレームの入力画像にノイズ低減処理が施されて出力される出力画像を前フレームの出力画像とする。
図2に示すように、ノイズ低減処理部60は、現フレームの入力画像のインパルスノイズを低減する第1インパルスノイズ低減部61aと、フレームメモリ20に一時的に記憶された前フレームの出力画像のインパルスノイズを低減する第2インパルスノイズ低減部61bと、第2インパルスノイズ低減部61bから出力される前フレームの出力画像に基づいて第1インパルスノイズ低減部61aから出力される現フレームの入力画像のノイズを低減して現フレームの出力画像を出力する巡回型ノイズ低減部62と、を備える。なお、フレームメモリ20を、図1に示したメモリ15としても構わない。
また、ノイズ低減処理部60の動作について図面を参照して説明する。図3は、ノイズ低減処理部60の動作を示すフローチャートである。図3に示すように、ノイズ低減処理が開始されると、最初に、第1インパルスノイズ低減部61aが現フレームの入力画像を取得し、第2インパルスノイズ低減部61bが前フレームの出力画像をフレームメモリ20から取得する(STEP1)。
第1インパルスノイズ低減部61a及び第2インパルスノイズ低減部61bの少なくとも一方は、入力された画像からインパルスノイズを検出する(STEP2a)。そして、第1インパルスノイズ低減部61a及び第2インパルスノイズ低減部61bの少なくとも一方は、検出した結果を他方へ出力する(STEP2b)。
第1インパルスノイズ低減部61aは、入力される現フレームの入力画像のインパルスノイズを低減して出力する。一方、第2インパルスノイズ低減部61bは、入力される前フレームの出力画像のインパルスノイズを低減して出力する(STEP2c)。このとき、第1インパルスノイズ低減部61a及び第2インパルスノイズ低減部61bの少なくとも一方は、他方から入力されたインパルスノイズの検出結果を用いてインパルスノイズの低減を行う。
次に、巡回型ノイズ低減部62は、第2インパルスノイズ低減部61bから入力されるインパルスノイズが低減された前フレームの出力画像(以下、単に前フレームの出力画像と呼ぶ)に基づいて、第1インパルスノイズ低減部61aから入力されるインパルスノイズが低減された現フレームの入力画像(以下、単に現フレームの入力画像とも呼ぶ)から、主にランダムノイズを低減する(STEP3)。特に、現フレームの入力画像と前フレームの出力画像とでは撮像タイミングが異なるものとなる。そのため、これらの画像を比較することでランダムノイズが検出され、検出結果に基づいてランダムノイズを低減することができる。
以上のように、現フレームの入力画像に対してノイズ低減処理が施される。そして、巡回型ノイズ低減部62から出力される現フレームの出力画像が、ノイズ低減処理部60の出力画像となる。また、出力画像は、次のフレームの入力画像の処理のためにフレームメモリ20に一時的に記憶される(STEP4)。
また、このときユーザから終了する指示が入力されているか否かを確認する(STEP5)。終了する指示が入力されていない場合(STEP5、NO)、STEP1に戻って現フレームの入力画像と前フレームの出力画像との取得を行う。一方、終了する指示が入力されている場合(STEP5、YES)は、終了する。
なお、ノイズ低減処理部60でノイズ低減処理が施される画像は、RAW画像(各画素が単色の信号値を備える画像)であっても構わないし、RAW画像に色同時化処理を施して得られる色同時化画像(各画素が複数色の信号値を備える画像)であっても構わない。また、色同時化画像にノイズ低減処理を施す場合、各画素の輝度信号Yに基づいて行うこととしても構わない。
ただし、色同時化処理を行うと、ノイズが含まれる画素の画素値が、周囲の画素の画素値の算出に利用されるため、ノイズの影響が複数の画素に広がることとなる。そのため、RAW画像を入力画像とするとノイズの拡散を抑制することができるため好ましい。
以下、各部の構成例について図面を参照して説明する。
<巡回型ノイズ低減部>
次に、図2に示した巡回型ノイズ低減部62の構成の一例について図面を参照して説明する。図4は、巡回型ノイズ低減部の構成例を示すブロック図である。なお、本例の巡回型ノイズ低減部62は一例に過ぎず、他の構成としても構わない。
図4に示すように、巡回型ノイズ低減部62は、第1インパルスノイズ低減部61aから出力される現フレームの入力画像と第2インパルスノイズ低減部61bから出力される前フレームの出力画像とに基づいてノイズ除去量を算出するノイズ除去量算出部621と、第1インパルスノイズ低減部61aから出力される現フレームの入力画像と第2インパルスノイズ低減部61bから出力される前フレームの出力画像とに基づいて動き量を算出する動き量算出部622と、動き量に基づいて帰還係数を算出する帰還係数算出部623と、ノイズ除去量と帰還係数とに基づいて第1インパルスノイズ低減部61aから出力される現フレームの入力画像のランダムノイズを低減して現フレームの出力画像を生成するランダムノイズ低減部624と、を備える。
ノイズ除去量算出部621について図面を参照して説明する。図5は、ノイズ除去量算出部の構成例を示すブロック図である。図5に示すように、ノイズ除去量算出部621は、現フレームの入力画像と前フレームの出力画像との差分値を求める差分値算出部621aと、差分値算出部621aより得られる差分値に基づいてノイズ除去量を設定するノイズ除去量設定部621bと、を備える。
ノイズ除去量設定部621bは、例えば、図6に示すような方法でノイズ除去量を設定する。図6は、ノイズ除去量の設定方法の一例を示すグラフである。図6に示すように、ノイズ除去量設定部621bは、画素毎に求められる差分値xに基づいてノイズ除去量n(x)を設定する。なお、図6に示すようにノイズ除去量を設定する場合、n(x)は下記式(1)に示すものとなる。
Figure 2010118942
上記式(1)に示されるn(x)では、差分値xの絶対値が閾値th(th>0)を超える場合、ノイズ除去量n(x)が抑制される。そのため、被写体や撮像装置の動きなどによって画素値に大きな変動が生じた場合に、ノイズによる変動と誤認されてノイズ除去量が大きく設定されることが抑制される。したがって、尾引きや残像などの発生が抑制される。
動き量算出部622について図面を参照して説明する。図7は、動き量算出部の構成例を示すブロック図である。図7に示すように、動き量算出部622は、現フレームの入力画像と前フレームの出力画像との差分値を求める差分値算出部622aと、差分値算出部622aより得られる差分値に基づいて動き量を設定する動き量設定部622bと、を備える。
動き量設定部622bは、例えば、注目画素の差分値の絶対値と、その周囲の複数の画素の差分値の絶対値と、を平滑化することによって、注目画素の動き量を算出する。
帰還係数算出部623について図面を参照して説明する。図8は、帰還係数の設定方法の一例を示すグラフである。図8に示すように、帰還係数は、動き量が増大するほど小さくなる。例えば、動き量が0であれば1となり、動き量が閾値Mthを超えると0となる。
ランダムノイズ低減部624は、図4に示すように、ノイズ除去量に帰還係数を乗じて除去値を算出する乗算部624aと、現フレームの入力画像から除去値を減算する減算部624bと、を備える。
上述のように、動き量が大きいと帰還係数は小さくなる。そのため、ノイズ除去量に帰還係数を乗じて算出される除去値は、ノイズ除去量を大幅に低減した値となる。この場合、現フレームの入力画像と前フレームの出力画像との差分値は、被写体や撮像装置1の動きによって発生するブレなどに起因する可能性が高いものとなっている。そのため、除去値を小さいものとして、現フレームの入力画像を略そのまま現フレームの出力画像として出力する。これにより、尾引きや残像の発生を抑制する。
一方、動き量が小さいと帰還係数は大きくなる。そのため、ノイズ除去量に帰還係数を乗じて算出される除去値は、ノイズ除去量をあまり低減していない値となる。この場合、現フレームの入力画像と前フレームの出力画像との差分値は、ランダムノイズに起因する可能性が高いものとなっている。そのため、除去値を大きいものとして、現フレームの入力画像から効果的にランダムノイズを低減する。
<第1及び第2インパルスノイズ低減部>
次に、第1及び第2インパルスノイズ低減部61a,61bについて図面を参照して説明する。最初に、第1及び第2インパルスノイズ低減部61a,61bに共通する基本構成について説明し、その後に各実施例について説明する。
[基本構成]
まず、第1及び第2インパルスノイズ低減部61a,61bの基本構成について図面を参照して説明する。図9は、インパルスノイズ低減部の基本構成を示すブロック図である。なお、以下では、第1及び第2インパルスノイズ低減部61a,61bを一般化したものであるインパルスノイズ低減部61について説明することとする。即ち、以下のインパルスノイズ低減部61の説明は、第1及び第2インパルスノイズ低減部61a,61bの両方に当てはまるものである。
インパルスノイズ低減部61は、入力される画像(現フレームの入力画像または前フレームの出力画像)からインパルスノイズを検出して検出結果を出力するノイズ検出部611と、ノイズ検出部611から出力される検出結果に基づいて入力される画像からインパルスノイズを低減するノイズ低減部612と、を備える。
第1及び第2インパルスノイズ低減部61a,61bは、少なくとも一方がノイズ検出部611を備える。ノイズ検出部611は、入力される画像の検出対象となる画素(以下、注目画素とする)にインパルスノイズが含まれているか否かを、注目画素の画素値及びその周辺の画素(以下、周辺画素とする)の画素値を用いて判定する。
この判定方法の一例について、図面を参照して説明する。図10は、ノイズ検出部の判定動作の一例について説明する図である。なお、図10(a)に示すように、本例では、注目画素の周囲に存在する8個の画素を周辺画素とする。即ち、注目画素と周辺画素とを合わせた3×3=9個の画素の画素値Xc,X0〜X7を用いて判定処理を行うものとする。
例えば、周辺画素の画素値X0〜X7の平均値Xaveと、注目画素の画素値Xcとの差分を用いて判定を行う。例えば、平均値Xaveと注目画素の画素値Xcとの差分の絶対値が、所定の閾値αよりも大きいか否かで、注目画素の画素値Xcにインパルスノイズが含まれているか否かを判定する。
上記のように判定する場合、
|Xave−Xc|≦α …(2)
であれば、注目画素の画素値Xcが、周辺画素の画素値X0〜X7から大きく突出したものとはならない。そのため、インパルスノイズが含まれるものではないと判定する(検出結果A)。
一方、
|Xave−Xc|>α …(3)
であれば、注目画素の画素値Xcが、周辺画素の画素値X0〜X7から大きく突出したものとなる。そのため、インパルスノイズが含まれるものであると判定する(検出結果B)。
さらに、図10(b)に示すような判定を行うことも可能である。図10(b)は、画素を画素値の小さい順に並べるとともに、その大きさをグラフで表したものである。図10(b)に示す例では、注目画素の画素値Xcが平均値Xaveよりも大きく、上記式(3)の関係を満たす場合について示している。ただし、本例では、周辺画素の画素値X1,X2が、注目画素の画素値Xcに近い値であるものとする。
図10(b)に示すような場合、周辺画素の中に、注目画素の画素値Xcに近い画素値を有する画素(X1,X2)が存在する。そのため、注目画素の画素値Xcが、インパルスノイズの影響で突出したものであるのか、エッジ部であるために突出したものであるのか、が判別不能となる。このような場合、そのまま判別不能であると判定する(検出結果C)。
なお、図10(b)に示す判別不能な状態であることを判定するために、例えば、注目画素の画素値Xcに近い画素値(例えば、注目画素の画素値との差がある閾値以下)となる画素の個数を算出し、所定の個数よりも多い場合に判別不能としても構わない。また、注目画素の画素値Xcに近い画素値となる画素同士を比較して、画素値の差が小さい(例えば、差がある閾値以下)場合に判別不能としても構わない。
上述のように、ノイズ検出部611は、注目画素にインパルスノイズが含まれないことを示す検出結果Aと、注目画素にインパルスノイズが含まれることを示す検出結果Bと、注目画素にインパルスノイズが含まれているかエッジ部であるかが判別不能であることを示す検出結果Cと、を出力する。
ノイズ低減部612は、入力される検出結果に基づいて、注目画素の画素値Xcの処理を行う。例えば、注目画素にインパルスノイズが含まれることを示す検出結果Bがノイズ低減部612に入力される場合などに、注目画素の画素値Xcを変更する。例えば、注目画素の画素値Xcを、以下に示すような補正画素値に変更する。
補正画素値として、例えば、所定の領域内(例えば、注目画素及び周辺画素を含む3×3の領域内)におけるメディアン値(大きさ順に並べたときに中間となる画素値)を用いても構わない。また、ピークカット値(大きさ順に並べたときに、端の画素値(注目画素の画素値)から例えば1つ分だけ内側の画素値)を用いても構わない。
また、所定の領域内の画素値の平均値を補正画素値としても構わない。特に、注目画素と隣接する画素であり注目画素の画素値に最も近い(差分が最も小さい)画素値を有する画素と、注目画素と、の画素値を平均した平均値を補正画素値としても構わない。
また、|Xave−Xc|=αを満たすようになるまで、注目画素の画素値Xcの突出を抑えた画素値を補正画素値としても構わない。即ち、Xc=Xave+α(注目画素の画素値がXaveより大きくなる方向に突出する場合)、または、Xc=Xave−α(注目画素の画素値がXaveより小さくなる方向に突出する場合)を補正画素値としても構わない。
また、特定の方向(エッジ方向)に並ぶ画素の画素値の重みを大きくして、補正画素値を算出することも可能である。このような、エッジ方向に基づいて補正画素値を算出する場合について、図面を参照して説明する。図11は、エッジ方向に基づいて補正画素値を算出する方法の一例を説明する図である。
図11(a)は、注目画素を含む所定領域の画素の画素値を示すものである。また、図11(a)に示す領域のエッジ方向を決定する方法として、例えば、図11(b),(c)に示すフィルタを用いる方法がある。図11(b)に示すフィルタは、垂直方向の相関性を算出するものであり、図11(c)に示すフィルタは、水平方向の相関性を算出するものである。図11(b)に示すフィルタは、垂直方向に隣接する3画素に対して、中央の画素に2を乗じるとともにその両隣の画素に−1をそれぞれ乗じ、これらを合算して相関値を算出する。一方、図11(c)に示すフィルタは、水平方向に隣接する3画素に対して、中央の画素に2を乗じるとともにその両隣の画素に−1をそれぞれ乗じ、これらを合算して相関値を算出する。いずれの相関値も、絶対値が小さいほど相関が高いことを示すものとなる。
図11(a)に示す場合、注目画素の画素値Xcが20であると、水平方向(図中の左右方向)の画素値の相関値(−160)よりも、垂直方向(図中の上下方向)の画素値の相関値(20)の方が絶対値が小さくなる。即ち、本例の場合、エッジ方向は垂直方向となる。
この場合、補正画素値を算出する際に、注目画素のエッジ方向(垂直方向)に隣接する画素の画素値(10)の重みを、他の画素の画素値の重みよりも大きくしても構わない。特に、この画素値(10)のみを用いて補正画素値を算出しても構わない。
このように、注目画素のエッジ方向に隣接する画素の画素値の重みを大きくして補正画素値を算出することとすると、より適切な補正画素値を用いて置換することが可能となる。特に、エッジ部にノイズが発生する場合に、中間の大きさとなる補正画素値が用いられることによって、エッジ部が不明瞭になることが抑制される。
なお、図11(b),(c)では、水平方向及び垂直方向の相関値を調べる場合について示したが、斜め方向の相関値を調べることとしても構わない。なお、斜め方向の相関値を求めるフィルタのフィルタ係数も、水平方向及び垂直方向のフィルタのフィルタ係数と同様(例えば、中央が2で両端が−1)のものとすることができる。
また、上述した説明において、RAW画像に対してノイズ低減処理を施す場合、注目画素及び周辺画素は、同色の信号値を備える画素を指すものとすると好ましい。RAW画像を用いる場合の注目画素及び周辺画素の設定方法の一例について、図面を参照して説明する。図12は、RAW画像の画素の配列の一例を示す図である。なお、図12では、Rの画素が(2n,2m−1)に位置し、Bの画素が(2n−1,2m)に位置し、GR(Rが存在する行(水平方向)のG)の画素が(2n−1,2m−1)に位置し、GB(Bが存在する行のG)の画素が(2n,2m)に位置する場合について示している(n,mは自然数)。また、左上のGR1の位置を(1,1)とし、右下のGB16の位置を(8,8)とする。
注目画素の位置を(X,Y)とすると、周辺画素は注目画素の周囲の8個の画素(X−2,Y−2)、(X,Y−2)、(X+2,Y−2)、(X−2,Y)、(X+2,Y)、(X−2,Y+2)、(X,Y+2)、(X+2,Y+2)となる。例えば、図12のR6を注目画素とすると、周辺画素はR1,R2,R3,R5,R7,R9,R10,R11となる。なお、B、GB、GRについても同様の関係となる。
また、色同時化画像を用いる場合は、注目画素と隣接する画素を周辺画素とすることができる。また、注目画素及び周辺画素を3×3=9個とする場合を例に挙げて説明したが、これ以外の個数(例えば、5×5や7×5など)としても構わない。ただし、注目画素の位置を領域の中心とすると好ましい。
また、ノイズ検出部611から出力される検出結果と、これに基づいて行われるノイズ低減部612の処理と、の関係については、以下の各実施例において詳細に説明する。
[第1実施例]
次に、第1及び第2インパルスノイズ低減部の第1実施例について図面を参照して説明する。図13は、第1及び第2インパルスノイズ低減部の第1実施例の構成を示すブロック図である。なお、インパルスノイズ低減部の基本構成について示した図9と同様となる部分には、同様の名称を付してその詳細な説明については省略するものとする。
図13に示すように、本実施例の第1インパルスノイズ低減部61a1は、第1ノイズ低減部612aを備える。なお、第1ノイズ低減部612aによるインパルスノイズを低減する処理は、図9に示したノイズ低減部612の処理と同様のものとなる。
また、本実施例の第2インパルスノイズ低減部61b1は、第2ノイズ検出部611bと、第2ノイズ低減部612bと、を備える。なお、第2ノイズ検出部611bによるインパルスノイズを検出する処理や、第2ノイズ低減部612bによるインパルスノイズを低減する処理は、図9に示したノイズ検出部611やノイズ低減部612の処理と同様のものとなる。
また、本実施例の第1及び第2インパルスノイズ低減部61a1,61b1では、第2ノイズ検出部611bによって生成される第2検出結果が、第1ノイズ低減部612aと、第2ノイズ低減部612bと、にそれぞれ入力される。
また、第1ノイズ低減部612a、第2ノイズ検出部611b及び第2ノイズ低減部612bにおいてある処理タイミングに処理されるそれぞれの注目画素は、現フレームの入力画像及び前フレームの出力画像中の対応する位置(即ち、同じ位置)のものとなる。
第1及び第2インパルスノイズ低減部61a1,61b1の動作の一例について図面を参照して説明する。図14は、第1及び第2インパルスノイズ低減部の第1実施例の動作例を示すフローチャートである。なお、図14に示すフローチャートは、図3に示すフローチャートのSTEP2a〜2cの動作(インパルスノイズの検出及び低減処理)の詳細を示すものである。
図14に示すように、本実施例の第1及び第2インパルスノイズ低減部61a1,61b1の動作が開始されると、まず、第1ノイズ低減部612a、第2ノイズ検出部611b及び第2ノイズ低減部612bのそれぞれにおいて、処理対象となる注目画素及び周辺画素の画素値が取得される(STEP201)。
次に、STEP201で画素値が取得された注目画素に対して、第2ノイズ検出部611bがインパルスノイズの有無を検出し、第2検出結果を生成及び出力する。第2検出結果が検出結果A(注目画素の画素値にインパルスノイズが含まれない)である場合(STEP202、YES)、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP203)。
第2検出結果が、検出結果Aではなく(STEP202、NO)、検出結果B(注目画素の画素値にインパルスノイズが含まれる)である場合(STEP204、YES)、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施すこととする(STEP205)。
第2検出結果が検出結果Bではない場合(STEP204、NO)、第2検出結果は検出結果C(注目画素の画素値がインパルスノイズによって突出したのかエッジ部であるために突出したのかが判別不能)である。この場合、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP206)。
そして、STEP203、STEP205またはSTEP206の動作が行われると、この注目画素に対する処理を終了する。このとき、現フレームの入力画像及び前フレームの出力画像の全ての画素に対して処理が終わっていない場合(STEP207、NO)、STEP201に戻って次の注目画素及び周辺画素の画素値を取得する。一方、全ての画素に対して処理が終わっている場合(STEP207、YES)、終了する。
このように構成すると、第2ノイズ検出部611bにおいて、ランダムノイズが低減された前フレームの出力画像に対してインパルスノイズの検出が行われることとなる。そのため、インパルスノイズの検出精度を高めることが可能となる。したがって、第1ノイズ低減部612aにおいて、現フレームの入力画像から精度良くインパルスノイズを低減することが可能となる。
また、第1ノイズ低減部612aと同様に、第2ノイズ低減部612bにおいても、前フレームの出力画像からインパルスノイズが低減される。そのため、巡回型ノイズ低減部62に入力される2つの画像が、インパルスノイズが低減されたものとなる。
巡回型ノイズ低減部62に入力される一方の画像にでもインパルスノイズが含まれていると、巡回型ノイズ低減部62から出力される出力画像中にインパルスノイズが残留する。しかしながら、本実施例のように巡回型ノイズ低減部62に入力される2つの画像から揃ってインパルスノイズを低減することとすると、巡回型ノイズ低減部62から出力される出力画像中にインパルスノイズが残留することを抑制することが可能となる。
さらに、第2インパルスノイズ低減部61b1のみがインパルスノイズの検出を行うだけで、第1インパルスノイズ低減部61a1及び第2インパルスノイズ低減部61b1の両方で、インパルスノイズを低減することが可能となる。したがって、構成を簡略化することが可能となる。
[第2実施例]
次に、第1及び第2インパルスノイズ低減部の第2実施例について図面を参照して説明する。図15は、第1及び第2インパルスノイズ低減部の第2実施例の構成を示すブロック図である。なお、インパルスノイズ低減部の基本構成について示した図9と同様となる部分には、同様の名称を付してその詳細な説明については省略するものとする。
図15に示すように、本実施例の第1インパルスノイズ低減部61a2は、第1ノイズ検出部611aと、第1ノイズ低減部612aと、第1ノイズ検出部611aから出力される第1検出結果を調整して第1ノイズ低減部612aに出力する第1検出結果調整部613aと、を備える。なお、第1ノイズ検出部611aによるインパルスノイズを検出する処理や、第1ノイズ低減部612aによるインパルスノイズを低減する処理は、図9に示したノイズ検出部611やノイズ低減部612の処理と同様のものとなる。
また、本実施例の第2インパルスノイズ低減部61b2は、第2ノイズ検出部611bと、第2ノイズ低減部612bと、を備える。なお、第2ノイズ検出部611bによるインパルスノイズを検出する処理や、第2ノイズ低減部612bによるインパルスノイズを低減する処理は、図9に示したノイズ検出部611やノイズ低減部612の処理と同様のものとなる。
また、本実施例の第1及び第2インパルスノイズ低減部61a2,61b2では、第2ノイズ検出部611bによって生成される第2検出結果が、第1検出結果調整部613aと、第2ノイズ低減部612bと、にそれぞれ入力される。
また、第1実施例と同様に、第1ノイズ検出部611a、第1ノイズ低減部612a、第2ノイズ検出部611b及び第2ノイズ低減部612bにおいてある処理タイミングに処理されるそれぞれの注目画素は、現フレームの入力画像及び前フレームの出力画像中の対応する位置(即ち、同じ位置)のものとなる。
第1及び第2インパルスノイズ低減部61a2,61b2の動作の一例について図面を参照して説明する。図16は、第1及び第2インパルスノイズ低減部の第2実施例の動作例を示すフローチャートである。なお、図16に示すフローチャートは、図3に示すフローチャートのSTEP2a〜2cの動作(インパルスノイズの検出及び低減処理)の詳細を示すものである。
図16に示すように、本実施例の第1及び第2インパルスノイズ低減部61a2,61b2の動作が開始されると、まず、第1ノイズ検出部611a、第1ノイズ低減部612a、第2ノイズ検出部611b及び第2ノイズ低減部612bのそれぞれにおいて、処理対象となる注目画素及び周辺画素の画素値が取得される(STEP210)。
次に、STEP210で画素値が取得された注目画素に対して、第1ノイズ検出部611a及び第2ノイズ検出部611bのそれぞれがインパルスノイズの有無を検出し、第1検出結果及び第2検出結果を出力する。第1検出結果が検出結果A(注目画素の画素値にインパルスノイズが含まれない)である場合(STEP211、YES)、第1ノイズ低減部612aは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP212)。
第1検出結果が、検出結果Aではなく(STEP211、NO)、検出結果B(注目画素の画素値にインパルスノイズが含まれる)である場合(STEP213、YES)、第1ノイズ低減部612aは、注目画素に対してインパルスノイズの低減処理を施すこととする(STEP214)。
上記のように、第1検出結果が検出結果Aまたは検出結果Bである場合(STEP211またはSTEP213、YES)、第1検出結果調整部613aは、第1ノイズ検出部611aから出力される第1検出結果を調整することなく、第1ノイズ低減部612aに入力させる。またこの場合、第2検出結果が検出結果Bであれば(STEP215、YES)、第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施すこととする(STEP216)。
一方、第2検出結果が検出結果Bでなければ(STEP215、NO)、即ち、第2検出結果が検出結果Aまたは検出結果C(注目画素の画素値がインパルスノイズによって突出したのかエッジ部であるために突出したのかが判別不能)であれば、第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP217)。
そして、STEP216またはSTEP217の動作が行われると、この注目画素に対する処理を終了する。このとき、現フレームの入力画像及び前フレームの出力画像において、全ての画素に対して処理が終わっていない場合(STEP218、NO)、STEP210に戻って次の注目画素及び周辺画素の画素値を取得する。一方、全ての画素に対して処理が終わっている場合(STEP218、YES)、終了する。
上記の動作は、第1検出結果が検出結果Aまたは検出結果Bの場合である(STEP211またはSTEP213、YES)。これ以外の場合(STEP211及びSTEP213、NO)、即ち、第1検出結果が検出結果Cである場合は、以下のような動作になる。
第2検出結果が検出結果Aである場合(STEP219、YES)、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP220)。
第2検出結果が、検出結果Aではなく(STEP219、NO)、検出結果Bである場合(STEP221、YES)、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施すこととする(STEP222)。
第2検出結果が検出結果Bではない場合(STEP221、NO)、第2検出結果は検出結果Cである。この場合、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP223)。
上記のように、第1検出結果が検出結果Cである場合、第1検出結果調整部613aは、第2検出結果に基づいて第1ノイズ検出部611aから出力される第1検出結果を調整し、第1ノイズ低減部612aに入力させる。そして、STEP220、STEP222及びSTEP223のように第1ノイズ低減部612aを動作させる。
STEP220、STEP222またはSTEP223の動作が行われると、この注目画素に対する処理を終了する。このとき、現フレームの入力画像及び前フレームの出力画像において、全ての画素に対して処理が終わっていない場合(STEP218、NO)、STEP210に戻って次の注目画素及び周辺画素の画素値を取得する。一方、全ての画素に対して処理が終わっている場合(STEP218、YES)、終了する。
このように構成すると、第1ノイズ検出部611aにおける第1検出結果が検出結果C(注目画素の画素値がインパルスノイズによって突出したのかエッジ部であるために突出したのかが判別不能)となる場合に、第1ノイズ低減部612aが第2ノイズ検出部611bの第2検出結果に基づいてインパルスノイズを低減することとなる。したがって、第1ノイズ低減部612aにおいて、現フレームの入力画像から精度良くインパルスノイズを低減することが可能となる。
また、第1ノイズ低減部612aと同様に、第2ノイズ低減部612bにおいても、前フレームの出力画像からインパルスノイズが低減される。そのため、巡回型ノイズ低減部62に入力される2つの画像が、インパルスノイズが低減されたものとなる。したがって、巡回型ノイズ低減部62から出力される出力画像中にインパルスノイズが残留することを抑制することが可能となる。
[第3実施例]
次に、第1及び第2インパルスノイズ低減部の第3実施例について図面を参照して説明する。図17は、第1及び第2インパルスノイズ低減部の第3実施例の構成を示すブロック図である。なお、インパルスノイズ低減部の基本構成について示した図9と同様となる部分には、同様の名称を付してその詳細な説明については省略するものとする。
図17に示すように、本実施例の第1インパルスノイズ低減部61a3は、第1ノイズ検出部611aと、第1ノイズ低減部612aと、第1ノイズ検出部611aから出力される第1検出結果を調整して第1ノイズ低減部612aに出力する第1検出結果調整部613aと、を備える。なお、第1ノイズ検出部611aによるインパルスノイズを検出する処理や、第1ノイズ低減部612aによるインパルスノイズを低減する処理は、図9に示したノイズ検出部611やノイズ低減部612の処理と同様のものとなる。
また、本実施例の第2インパルスノイズ低減部61b3は、第2ノイズ検出部611bと、第2ノイズ低減部612bと、第2ノイズ検出部611bから出力される第2検出結果を調整して第2ノイズ低減部612bに出力する第2検出結果調整部613bと、を備える。なお、第2ノイズ検出部611bによるインパルスノイズを検出する処理や、第2ノイズ低減部612bによるインパルスノイズを低減する処理は、図9に示したノイズ検出部611やノイズ低減部612の処理と同様のものとなる。
また、本実施例の第1及び第2インパルスノイズ低減部61a3,61b3では、第1ノイズ検出部611aによって生成される第1検出結果が、第2検出結果調整部613bにも入力される。また、第2ノイズ検出部611bによって生成される第2検出結果が、第1検出結果調整部613aにも入力される。
また、第1実施例と同様に、第1ノイズ検出部611a、第1ノイズ低減部612a、第2ノイズ検出部611b及び第2ノイズ低減部612bにおいてある処理タイミングに処理されるそれぞれの注目画素は、現フレームの入力画像及び前フレームの出力画像中の対応する位置(即ち、同じ位置)のものとなる。
第1及び第2インパルスノイズ低減部61a3,61b3の動作の一例について図面を参照して説明する。図18は、第1及び第2インパルスノイズ低減部の第3実施例の動作例を示すフローチャートである。なお、図18に示すフローチャートは、図3に示すフローチャートのSTEP2a〜2cの動作(インパルスノイズの検出及び低減処理)の詳細を示すものである。
図18に示すように、本実施例の第1及び第2インパルスノイズ低減部61a3,61b3の動作が開始されると、まず、第1ノイズ検出部611a、第1ノイズ低減部612a、第2ノイズ検出部611b及び第2ノイズ低減部612bのそれぞれにおいて、処理対象となる注目画素及び周辺画素の画素値が取得される(STEP230)。
次に、STEP230で画素値が取得された注目画素に対して、第1ノイズ検出部611a及び第2ノイズ検出部611bのそれぞれがインパルスノイズの有無を検出し、第1検出結果及び第2検出結果を出力する。第1検出結果が検出結果A(注目画素の画素値にインパルスノイズが含まれない)である場合(STEP231、YES)、第1ノイズ低減部612aは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP232)。
このとき、第2検出結果が検出結果B(注目画素の画素値にインパルスノイズが含まれる)であれば(STEP233、YES)、第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施すこととする(STEP234)。一方、第2検出結果が検出結果Bでなければ(STEP233、NO)、即ち、第2検出結果が検出結果Aまたは検出結果C(注目画素の画素値がインパルスノイズによって突出したのかエッジ部であるために突出したのかが判別不能)であれば、第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP235)。
第1検出結果が、検出結果Aではなく(STEP231、NO)、検出結果Bである場合(STEP236、YES)、第1ノイズ低減部612aは、注目画素に対してインパルスノイズの低減処理を施すこととする(STEP237)。
このとき、第2検出結果が検出結果Aであれば(STEP238、YES)、第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP235)。一方、第2検出結果が検出結果Aでなければ(STEP238、NO)、即ち、第2検出結果が検出結果Bまたは検出結果Cであれば、第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施すこととする(STEP234)。
上記のように、第1検出結果が検出結果Aまたは検出結果Bである場合(STEP231またはSTEP236、YES)、第1検出結果調整部613aは、第1ノイズ検出部611aから出力される第1検出結果を調整することなく、第1ノイズ低減部612aに入力させる。第2検出結果が検出結果Aまたは検出結果Bである場合も同様であり、第2検出結果調整部613bは、第2ノイズ検出部611bから出力される第2検出結果を調整することなく、第2ノイズ低減部612bに入力させる。
ここで、第2検出結果が検出結果Cの場合、第2検出結果調整部613bは、第1検出結果に基づいて第2ノイズ検出部611aから出力される第2検出結果を調整して、第2ノイズ低減部612bに入力させる。具体的には、第1検出結果が検出結果Aであれば、第2ノイズ低減部612bが注目画素に対してインパルスノイズの低減処理を施さないように、第2検出結果の調整を行う。また、第1検出結果が検出結果Bであれば、第2ノイズ低減部612bが注目画素に対してインパルスノイズの低減処理を施すように、第2検出結果の調整を行う。
そして、STEP234またはSTEP235の動作が行われると、この注目画素に対する処理を終了する。このとき、現フレームの入力画像及び前フレームの出力画像において、全ての画素に対して処理が終わっていない場合(STEP239、NO)、STEP230に戻って次の注目画素及び周辺画素の画素値を取得する。一方、全ての画素に対して処理が終わっている場合(STEP239、YES)、終了する。
上記の動作は、第1検出結果が検出結果AまたはBの場合である(STEP231またはSTEP236、YES)。これ以外の場合(STEP231及びSTEP236、NO)、即ち、第1検出結果が検出結果Cである場合は、以下のような動作になる。
第2検出結果が検出結果Aである場合(STEP240、YES)、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP241)。
第2検出結果が、検出結果Aではなく(STEP240、NO)、検出結果Bである場合(STEP242、YES)、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施すこととする(STEP243)。
第2検出結果が検出結果Bではない場合(STEP242、NO)、第2検出結果は検出結果Cである。この場合、第1ノイズ低減部612a及び第2ノイズ低減部612bは、注目画素に対してインパルスノイズの低減処理を施さないこととする(STEP244)。このとき、第2検出結果調整部613bは、第1検出結果に基づいて第2ノイズ検出部611bから出力される第2検出結果を調整して、注目画素に対してインパルスノイズの低減処理を施さないように第2ノイズ低減部612bを動作させる。
上記のように、第1検出結果が検出結果Cである場合(STEP236、NO)、第1検出結果調整部613aは、第2検出結果に基づいて第1ノイズ検出部611aから出力される第1検出結果を調整して、第1ノイズ低減部612aに入力させる。そして、STEP241、STEP243及びSTEP244のように第1ノイズ低減部612aを動作させる。
STEP241、STEP243またはSTEP244の動作が行われると、この注目画素に対する処理を終了する。このとき、現フレームの入力画像及び前フレームの出力画像において、全ての画素に対して処理が終わっていない場合(STEP239、NO)、STEP230に戻って次の注目画素及び周辺画素の画素値を取得する。一方、全ての画素に対して処理が終わっている場合(STEP239、YES)、終了する。
このように構成すると、第1ノイズ検出部611aにおける第1検出結果が検出結果C(注目画素の画素値がインパルスノイズによって突出したのかエッジ部であるために突出したのかが判別不能)となる場合に、第1ノイズ低減部612aが第2ノイズ検出部611bの第2検出結果に基づいてインパルスノイズを低減することとなる。また、第2ノイズ検出部611bにおける第2検出結果が検出結果Cとなる場合に、第2ノイズ低減部612bが第1ノイズ検出部611aの第1検出結果に基づいてインパルスノイズを低減することとなる。したがって、第1ノイズ低減部612a及び第2ノイズ低減部612bにおいて、現フレームの入力画像及び前フレームの出力画像から精度良くインパルスノイズを低減することが可能となる。
また、巡回型ノイズ低減部62に入力される2つの画像が、インパルスノイズが低減されたものとなる。したがって、巡回型ノイズ低減部62から出力される出力画像中にインパルスノイズが残留することを抑制することが可能となる。
[変形例]
上記の各実施例では、第1ノイズ検出部611a及び第2ノイズ検出部611bが出力する第1及び第2検出結果を、検出結果A〜Cの各状態を持つものとしたが、注目画素に対するインパルスノイズの有無の確からしさを示すパラメータであるノイズ判定値Kを用いても構わない。
具体的に例えば、ノイズ判定値Kは0以上1以下の値を取るものとし、大きいほど注目画素にインパルスノイズが含まれる可能性が高いものとする。このノイズ判定値Kの算出方法の一例について図面を参照して説明する。図19は、ノイズ判定値Kの算出方法の一例について説明するグラフである。
図19に示すように、ノイズ判定値Kは、所定の閾値α1よりも|Xave−Xc|が小さい場合は値を0とする。また、所定の閾値α2よりも|Xave−Xc|が大きい場合は値を1とする。さらに、|Xave−Xc|が閾値α1以上閾値α2以下である場合、
K=|Xave−Xc|/(α2−α1)−α1/(α2−α1
とする。
また、ノイズ判定値Kを用いた第1ノイズ低減部612a及び第2ノイズ低減部612bによる注目画素の処理方法の具体例について説明する。本例では、下記式(4)のように、処理対象となる注目画素の画素値Xcと、[基本構成]において説明した補正画素値Xceと、を加重加算して処理後の注目画素の画素値Xcpを算出する。なお、インパルスノイズの低減をしない場合は、K=0として、Xcp=Xcとする。
cp=K×Xce+(1−K)×Xc …(4)
また、第2及び第3実施例の第1検出結果調整部613a及び第2検出結果調整部613bは、第1検出結果及び第2検出結果であるノイズ判定値の値を変更することによって調整を行う。このとき、インパルスノイズを低減する処理の有無だけでなく、程度の大小の調整をも行うことが可能となる。例えば、第1検出結果調整部613aに入力される第1検出結果であるノイズ判定値が小さく、第2検出結果であるノイズ判定値が大きい場合に、第1検出結果調整部613aが、これらのノイズ判定値の中間の値を調整後の第1検出結果として第1ノイズ低減部612aに出力することとしても構わない。
なお、閾値α1と図10(b)に示した閾値αとが略等しい値となるようにしても構わない。
また、上記の各実施例について、手ぶれ補正処理が施された入力画像が入力されるものとしても構わない。まず、手ぶれ補正について図面を参照して説明する。図20は、手ぶれ補正の一例について説明する図である。なお、図20に示す手ぶれ補正は、撮像して得られた撮像画像(実線の領域)100,110から、入力画像(破線の領域)101,111を切り出して生成することによって、ぶれを補正するものである。また、図20(a)は前フレーム、図20(b)は現フレームを示すものである。
図20(a),図20(b)に示すように、現フレームと前フレームとの間に撮像装置がぶれたため、撮像画像100,110のそれぞれにおける被写体Sの位置は異なるものとなっている。しかしながら、撮像画像100,110を切り出して生成されるそれぞれの入力画像101,111における被写体Sの位置は、略等しいものとなる。
入力画像101,111のそれぞれにおける被写体Sの位置を略等しいものとするために、例えば動き検出が行われる。動き検出には、例えば、公知又は周知の画像マッチング法(例えば、ブロックマッチング法や代表点マッチング法)を用いることができる。例えば、撮像画像100,101を所定の分割領域に分割して、分割領域毎にこれらの方法を用いて動きベクトルを検出する。そして、検出された分割領域毎の動きベクトルを平均化することにより、撮像画像100,110間の全体の動きベクトルを算出することができる。
得られた動きベクトルが示す動きがなくなるように、現フレームの撮像画像110から入力画像111の切り出しを行う。具体的に、本例のように動きベクトルが右向きの場合であれば、入力画像111の切り出し位置を右方向にずらすことで、入力画像111中の被写体Sの位置を、前フレームの入力画像110における被写体Sの位置と略等しくする。
ところで、上述のようにインパルスノイズIMは、撮像画像100,101の決まった位置に発生しやすい。そのため、このような手ぶれ補正を行う場合、入力画像101,111中のインパルスノイズIMの位置が、前フレームと現フレームとで異なるものとなる。
このような手ぶれ補正処理が入力画像に施されている場合、インパルスノイズIMの位置が異なることを利用して、検出及び低減することができる。具体的には、第2及び第3実施例に示したように、第1ノイズ検出部611a及び第2ノイズ検出部611bのそれぞれでインパルスノイズの検出を行い、第1検出結果と第2検出結果とを比較することで、インパルスノイズの有無を判定することができる。例えば、一方の検出結果が平坦(所定の領域内の画素値の変動が小さい)であり、他方の検出結果が突出(注目画素の画素値が周辺画素の画素値から突出した値となる)であれば、他方の画像の注目画素はインパルスノイズである可能性が高いものとなる。
このように、手ぶれ補正と組み合わせる場合、インパルスノイズを精度良く検出して効果的に低減することが可能となる。特に、常にある位置で発生するインパルスノイズを好適に検出及び除去することが可能となる。
<その他の構成例>
なお、上述したノイズ低減処理は、例えば、動画の撮像時や再生時、静止画の撮像時などに利用することが可能である。ただし、静止画の撮像時に利用する場合、撮像時に複数フレームの画像を取得することとする。
また、本発明の実施形態における撮像装置1について、画像処理部6やノイズ低減処理部60などのそれぞれの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
また、上述した場合に限らず、図1の撮像装置1、図2のノイズ低減処理部60、図13、図15及び図17の第1インパルスノイズ低減部61a1〜61a3及び第2インパルスノイズ低減部61b1〜61b3は、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって実現可能である。また、ソフトウェアを用いて撮像装置1やノイズ低減処理部60、第1及び第2インパルスノイズ低減部61a1〜61a3,61b1〜61b3を構成する場合、ソフトウェアによって実現される部位についてのブロック図は、その部位の機能ブロック図を表すこととする。
以上、本発明の実施形態についてそれぞれ説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができるものである。
本発明は、入力される画像に対してノイズ低減処理を施す画像処理装置撮像装置に適用することが可能である。また、この画像処理装置を備えたデジタルビデオカメラなどの撮像装置に適用可能である。
は、本発明の実施形態における撮像装置の構成を示すブロック図である。 は、本発明の実施形態における撮像装置に備えられるノイズ低減処理部の基本構成を示すブロック図である。 は、ノイズ低減処理部の動作を示すフローチャートである。 は、巡回型ノイズ低減部の構成例を示すブロック図である。 は、ノイズ除去量算出部の構成例を示すブロック図である。 は、ノイズ除去量の設定方法の一例を示すグラフである。 は、ノイズ除去量算出部の構成例を示すブロック図である。 は、帰還係数の設定方法の一例を示すグラフである。 は、インパルスノイズ低減部の基本構成を示すブロック図である。 は、ノイズ検出部の判定動作の一例について説明する図である。 は、エッジ方向に基づいて補正画素値を算出する方法の一例を説明する図である。 は、RAW画像の画素の配列の一例を示す図である。 は、第1及び第2インパルスノイズ低減部の第1実施例の構成を示すブロック図である。 は、第1及び第2インパルスノイズ低減部の第1実施例の動作例を示すフローチャートである。 は、第1及び第2インパルスノイズ低減部の第2実施例の構成を示すブロック図である。 は、第1及び第2インパルスノイズ低減部の第2実施例の動作例を示すフローチャートである。 は、第1及び第2インパルスノイズ低減部の第3実施例の構成を示すブロック図である。 は、第1及び第2インパルスノイズ低減部の第3実施例の動作例を示すフローチャートである。 は、ノイズ判定値Kの算出方法の一例について説明するグラフである。 は、手ぶれ補正の一例について説明する図である。
符号の説明
1 撮像装置
2 イメージサンサ
3 レンズ部
4 AFE
5 集音部
6 画像処理部
60 ノイズ低減処理部
61 インパルスノイズ低減部
611 ノイズ検出部
611a 第1ノイズ検出部
611b 第1ノイズ検出部
612 ノイズ低減部
612a 第1ノイズ低減部
612b 第2ノイズ低減部
613a 第1検出結果調整部
613b 第2検出結果調整部
61a 第1インパルスノイズ低減部
61b 第2インパルスノイズ低減部
62 巡回型ノイズ低減部
7 音声処理部
8 圧縮処理部
9 ドライバ部
10 外部メモリ
11 伸長処理部
12 画像出力回路部
13 音声出力回路部
14 CPU
15 メモリ
16 操作部
17 TG部
18 バス
19 バス
20 フレームメモリ

Claims (6)

  1. 入力される入力画像からノイズを低減して出力画像を生成し出力するノイズ低減処理部を備える画像処理装置において、
    前記ノイズ低減処理部が、
    前記入力画像である第1入力画像と、当該第1入力画像よりも前に前記ノイズ低減処理部に入力された第2入力画像から生成された第2出力画像と、が入力されるとともに、前記第1入力画像と前記第2出力画像との差分に基づいて、前記第1入力画像からランダムノイズを低減させて前記出力画像である第1出力画像を生成する巡回型ノイズ低減部と、
    前記巡回型ノイズ低減部に入力される前記第1入力画像からインパルスノイズを低減する第1インパルスノイズ低減部と、
    前記巡回型ノイズ低減部に入力される前記第2出力画像からインパルスノイズを低減する第2インパルスノイズ低減部と、
    を備えることを特徴とする画像処理装置。
  2. 前記第1インパルスノイズ低減部及び前記第2インパルスノイズ低減部の少なくとも一方がインパルスノイズの検出を行い、その検出結果を他方に出力し、
    他方が前記検出結果を用いてインパルスノイズを低減することを特徴とする請求項1に記載の画像処理装置。
  3. 前記第2インパルスノイズ低減部が、前記第2出力画像からインパルスノイズを検出して第2検出結果を生成し、前記第1インパルスノイズ低減部へ出力し、
    前記第1インパルスノイズ低減部が、前記第2検出結果に基づいて前記第1入力画像からインパルスノイズを低減することを特徴とする請求項2に記載の画像処理装置。
  4. 前記第2インパルスノイズ低減部が、前記第2出力画像からインパルスノイズを検出して第2検出結果を生成し、前記第1インパルスノイズ低減部へ出力し、
    前記第1インパルスノイズ低減部が、前記第1入力画像からインパルスノイズを検出して第1検出結果を生成し、当該第1検出結果と前記第2検出結果とに基づいて前記第1入力画像からインパルスノイズを低減することを特徴とする請求項2に記載の画像処理装置。
  5. 前記第1インパルスノイズ低減部が、前記第1入力画像からインパルスノイズを検出して第1検出結果を生成し、前記第2インパルスノイズ低減部へ出力し、
    前記第2インパルスノイズ低減部が、前記第2出力画像からインパルスノイズを検出して第2検出結果を生成し、前記第1インパルスノイズ低減部へ出力し、
    前記第1インパルスノイズ低減部が、前記第1検出結果と前記第2検出結果とに基づいて前記第1入力画像からインパルスノイズを低減し、
    前記第2インパルスノイズ低減部が、前記第1検出結果と前記第2検出結果とに基づいて前記第2出力画像からインパルスノイズを低減することを特徴とする請求項2に記載の画像処理装置。
  6. 撮像して前記入力画像を順次生成する撮像部と、
    請求項1〜請求項5のいずれかに記載の画像処理装置と、
    を備えることを特徴とする撮像装置。
JP2008291257A 2008-11-13 2008-11-13 画像処理装置及び撮像装置 Pending JP2010118942A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008291257A JP2010118942A (ja) 2008-11-13 2008-11-13 画像処理装置及び撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008291257A JP2010118942A (ja) 2008-11-13 2008-11-13 画像処理装置及び撮像装置

Publications (1)

Publication Number Publication Date
JP2010118942A true JP2010118942A (ja) 2010-05-27

Family

ID=42306296

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008291257A Pending JP2010118942A (ja) 2008-11-13 2008-11-13 画像処理装置及び撮像装置

Country Status (1)

Country Link
JP (1) JP2010118942A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012085199A (ja) * 2010-10-14 2012-04-26 Panasonic Corp ノイズ除去装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012085199A (ja) * 2010-10-14 2012-04-26 Panasonic Corp ノイズ除去装置

Similar Documents

Publication Publication Date Title
JP5183297B2 (ja) 画像処理装置、撮像装置及び画像処理方法
JP5013932B2 (ja) ノイズ低減装置、ノイズ低減方法、及び電子機器
JP2010063088A (ja) 撮像装置
US10368017B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP5541205B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
JP2015149691A (ja) 画像補正装置、画像補正方法、及び、撮像装置
JP2010136224A (ja) 撮像装置及び撮像方法
JP2011114823A (ja) 画像処理装置及び撮像装置
JP2010166512A (ja) 撮像装置
JP5261765B2 (ja) 撮像装置及び撮像方法
JP2011171842A (ja) 画像処理装置及び画像処理プログラム
JP5451056B2 (ja) 画像処理装置及び撮像装置
JP2006287814A (ja) 撮像装置及び動きベクトル決定方法
JP5213604B2 (ja) 撮像装置
JP5497420B2 (ja) 画像処理装置及び撮像装置
JP2011155582A (ja) 撮像装置
JP2009055415A (ja) カメラ
JP2010118942A (ja) 画像処理装置及び撮像装置
JP6029464B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP5316098B2 (ja) 撮像装置、撮像方法、および、プログラム
JP2011155420A (ja) 手ぶれ補正装置、撮像処理方法及びプログラム
JP4936816B2 (ja) 撮像装置及び同時表示制御方法
JP5522299B2 (ja) 撮像装置、撮像方法、および、プログラム
JP5370345B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP5158167B2 (ja) 画像処理装置、撮像装置および画像処理プログラム