JP5220677B2 - 画像処理装置、画像処理方法および画像処理プログラム - Google Patents

画像処理装置、画像処理方法および画像処理プログラム Download PDF

Info

Publication number
JP5220677B2
JP5220677B2 JP2009094429A JP2009094429A JP5220677B2 JP 5220677 B2 JP5220677 B2 JP 5220677B2 JP 2009094429 A JP2009094429 A JP 2009094429A JP 2009094429 A JP2009094429 A JP 2009094429A JP 5220677 B2 JP5220677 B2 JP 5220677B2
Authority
JP
Japan
Prior art keywords
pixel
group
similarity
value
pixel group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009094429A
Other languages
English (en)
Other versions
JP2010245977A (ja
Inventor
佐々木  寛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2009094429A priority Critical patent/JP5220677B2/ja
Priority to US12/754,765 priority patent/US8199223B2/en
Publication of JP2010245977A publication Critical patent/JP2010245977A/ja
Application granted granted Critical
Publication of JP5220677B2 publication Critical patent/JP5220677B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758Involving statistics of pixels or of feature values, e.g. histogram matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像データに対してノイズ低減処理を行う画像処理装置、画像処理プログラムおよび画像処理方法に関するものである。
撮影用レンズによって集光した光をCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子上に結像し、被写体像を撮像する撮像装置が知られている。このような撮像システムで得られた画像は、撮影用レンズを通して撮像素子上に結像した像を撮像素子の各画素の受光部で光電変換する際、あるいは光電変換して得た電荷量を増幅し、A/D変換する際等、アナログ信号時に混入されるノイズを含有している。
例えば、光電変換時において支配的に発生するノイズは、光電変換が確率的にゆらぐことに起因するショットノイズであり、いわゆるランダムノイズと呼ばれるノイズである。発生電荷量のゆらぎは、光子数(あるいは暗電流)の増加に伴って増大する。一方、A/D変換時において支配的に発生するノイズは、各画素の暗電流や感度バラツキ、信号転送路、周辺画素のクロストーク等によって混入するノイズ、あるいは多線読み出しによる信号増幅のバラツキによって混入するノイズ等、ランダムノイズとは異なるいわゆる固定パターンノイズと呼ばれるノイズである。
固定パターンノイズについては、予めその特性を補正データとして記録しておき、この補正データを用いてA/D変換後の画像データを補正することによって低減できる。これに対し、ランダムノイズについては、固定パターンノイズのように予めその特性を想定しておくことはできない。このため、従来から、平滑化処理によって信号対ノイズ比(SN比)を改善し、低減を図っている。
ここで、平滑化処理としては、撮像された画像の局所的な構造に関わらず固定のローパスフィルタ特性を一律に適用してフィルタ処理するものから、画像の局所構造を考慮し、適用するローパスフィルタ特性を変化させてフィルタ処理するものまで様々な手法が提案されており、いずれの手法を採用するかによってノイズ低減性能の優劣が決定する。
中でも、効果的にノイズの低減が可能な手法の1つとして、画素毎に重み係数を決定し、決定した重み係数を用いて各画素を平滑化処理する手法が知られている(例えば特許文献1,2を参照)。特許文献1では、注目画素とその周辺画素との画素値の相関(例えば画素値差の絶対値)をもとに、重み係数を画素毎に適応的に変化させてフィルタ処理を行っている。一方、特許文献2では、注目画素と周辺画素との相対的な空間距離や画素値差の絶対値を用いて重み係数を決定し、決定した重み係数を用いてフィルタ処理する。そして、フィルタ処理した注目画素値をもとに注目画素に関するノイズ量を推定し、注目画素値と推定したノイズ量とをもとに注目画素のノイズ低減処理を行っている。
このような画素値差の絶対値を用いる平滑化フィルタとして代表的なのがバイラテラルフィルタである。バイラテラルフィルタは、2種類のパラメータを用い、画像の局所構造に応じてローパスフィルタ特性を変更する適応フィルタであり、画像中のエッジを保存しながら平滑化処理を行うことができる。このバイラテラルフィルタでは、フィルタ係数を決定付ける関数として例えばガウス関数が用いられ、前述の2種類の各パラメータの値を重みとして求めた2つのガウス関数値の積によってフィルタ係数を算出する。
ここで、バイラテラルフィルタで用いる2種類のパラメータのうちの一方のパラメータが注目画素とその周辺画素との画素値差の絶対値に相当し、この値が小さいほどフィルタ係数を大きく設定するようになっている。また、他方のパラメータとしては、注目画素とその周辺画素との相対的な空間距離を用い、この値が小さいほどフィルタ係数を大きく設定するようになっている。
各パラメータについて簡単に説明すると、画素値差の絶対値である一方のパラメータは、エッジの有無を判別するために使用され、その判別条件がガウス関数のσ値で決定される。保存したいエッジ量(すなわち画素値差の絶対値)がσ値より十分大きければガウス関数値はゼロに漸近するため、平滑化処理に寄与しない画素となる。したがって、エッジ境界部分の画素のように、周辺の画素との間で画素値差の絶対値が大きい画素(画素値差の絶対値について相関がない画素)は、平滑化処理に利用されない。これによって、エッジを鈍らせないという効果が得られる。
一方、空間距離である他方のパラメータは、画像の局所領域を統計的に見た場合には空間距離が遠いほど画素値の相関が低くなるという仮定に基づくものである。すなわち、遠距離にある同一画素値の画素は、本来の画素値が同一なのではなく、ノイズが混入したことによって同一の画素値を有していると仮定するのである。具体的には、同じ画素値の画素が近距離と遠距離に存在する場合に、近距離の画素を遠距離の画素よりも画素値の相関が高いとして近距離の画素に重みを大きく作用させるようになっている。したがって、周辺の画素との間で空間距離が遠い画素(空間距離について相関がない画素)は、平滑化処理に利用されない。
以上のようにモデル化されたバイラテラルフィルタを用いたノイズ低減効果は、急峻で大きなエッジと平坦部とからなる領域においては非常に優れた性能を示す。
この他、ノイズ低減効果が高い平滑化処理の他の手法としては、例えば、エッジ方向に沿った1次元のローパスフィルタを作用させる手法が挙げられる(例えば特許文献3を参照)。特許文献3では、先ず、エッジの方向を判定する。そして、判定結果をもとに、水平方向の平滑化フィルタ、垂直方向の平滑化フィルタまたは斜め方向の平滑化フィルタを選択してフィルタ処理を行う。
さらに、エッジ方向に沿ったフィルタ処理におけるノイズ低減効果を向上させるための手法として、エッジ方向に沿って2次元フィルタを作用させるものも知られている(例えば特許文献4を参照)。特許文献4では、エッジ方向を判定する際に局所領域内で複数方向の分散値を算出し、判定したエッジ方向とその分散値とをもとに非等方な2次元フィルタを生成している。
さらに、エッジ方向の判定精度を向上させ、微細構造を保持できるようにしたものもある(例えば特許文献5を参照)。この特許文献5では、空間周波数をサブバンド化した画像に対する平滑化処理が開示されており、局所領域のエネルギー量とその判定閾値とをもとにバイラテラルフィルタまたは方向依存のガウスフィルタを切り換えて用い、平滑化処理を行う。そして、方向依存のガウスフィルタを用いる場合には、局所領域の等方性を示す量をもとに、予め用意されるルックアップテーブル(LUT)からフィルタ係数が選択されるようになっており、エッジ方向に沿って重み付けられたフィルタ係数がその局所領域に作用する構成となっている。より詳細には、局所領域のエネルギー量、すなわち大きなエッジの有無によってバイラテラルフィルタと方向依存のガウスフィルタとを切り換えており、バイラテラルフィルタの特性を考慮した制御を実現している。
特開2006−302023号公報 特開2008−124764号公報 特開昭61−206376号公報 米国特許第7317842号明細書 米国特許出願公開第2008/107352号明細書
ところで、特許文献1や特許文献2に開示されているような画素値差の絶対値を用いたフィルタ処理として代表的なバイラテラルフィルタでは、自動的にエッジ領域を検出し、その方向を意識することなく急峻で大きなエッジを保存できる一方で、微細なエッジについてはノイズとみなしてしまうという問題があった。この問題は、ガウス関数のσ値の調整によってある程度軽減可能ではあるが、σ値を小さくしすぎると、ノイズ低減の効果が低下してしまうという問題があった。ここで、微細なエッジとは、画素値差(輝度値差)の小さいエッジ境界部のことであり、以下、微細なエッジを適宜「微細構造」と呼ぶ。
また、特許文献3や特許文献4に開示されている手法では、判定したエッジ方向に沿って平滑化処理を行えるため、微細構造を保存できる。しかしながら、この手法では、例えばノイズが混入している等の要因でエッジ方向の判定を誤るという事態が生じ得る。そして、エッジ方向の判定を誤るとエッジを潰してしまい、結果的に人工的なノイズパターンを発生させるという問題があった。また、特許文献3の技術では、1次元フィルタのサイズを大きくしないと平滑化処理に利用できる画素を十分に確保できず、高いノイズ低減効果が得られないという問題もあった。
また、特許文献5の手法では、微細構造の保存を受け持つフィルタは方向依存のガウスフィルタであり、そのフィルタ係数は、微細構造の非等方性判定の役割を担うLUTに依存している。このため、微細構造を精度良く保存できないという問題があった。
本発明は、上記に鑑み為されたものであって、画像の微細構造を潰すことなく精度良くノイズを低減可能な画像処理装置、画像処理方法および画像処理プログラムを提供することを目的とする。
上記した課題を解決し、目的を達成するための、本発明のある態様にかかる画像処理装置は、画像データを入力する画像データ入力部と、前記画像データから、処理対象の注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を抽出する画素抽出部と、前記画素領域内の各画素を前記画素領域内の画素値分布に応じて区分し、複数の画素グループを形成する画素グループ形成部と、前記画素グループ毎に、該各画素グループに属する前記画素領域内の画素に設定する画素グループ類似度として、前記注目画素を含む画素グループとの間の類似度を算出する画素グループ類似度算出部と、前記注目画素の画素値をもとに、前記画素領域内の各画素の画素値類似度を算出する画素値類似度算出部と、前記画素グループ類似度と前記画素値類似度とをもとに、前記画素領域内の画素に適用するフィルタ係数を算出するフィルタ係数算出部と、前記画素領域内の画素値と前記フィルタ係数とをもとに、前記注目画素の画素値を平滑化処理する平滑化処理部と、を備えることを特徴とする。
この態様にかかる画像処理装置では、処理対象の注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を抽出する。そして、抽出した画素領域内の各画素をこの画素領域内の画素値分布に応じて区分することによって複数の画素グループを形成し、形成した画素グループ毎に、これら各画素グループに属する画素に設定する画素グループ類似度を、注目画素を含む画素グループとの間の類似度として算出する。また、注目画素の画素値をもとに、抽出した画素領域内の各画素の画素値類似度を算出する。そして、画素グループ類似度と画素値類似度とをもとに、抽出した画素領域内の画素に適用するフィルタ係数を算出し、この画素領域内の画素値と算出したフィルタ係数とをもとに注目画素の画素値を平滑化処理する。これによれば、画素領域内の画素値分布を考慮してフィルタ係数を算出し、このフィルタ係数を用いて注目画素を平滑化処理することができる。したがって、画像の微細構造を潰さずに高精度にノイズを低減でき、ノイズ低減効果を向上させることができる。
また、本発明の別の態様にかかる画像処理方法は、画像データを入力する画像データ入力工程と、前記画像データから、処理対象の注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を抽出する画素抽出工程と、前記画素領域内の各画素を前記画素領域内の画素値分布に応じて区分し、複数の画素グループを形成する画素グループ形成工程と、前記画素グループ毎に、該各画素グループに属する前記画素領域内の画素に設定する画素グループ類似度として、前記注目画素を含む画素グループとの間の類似度を算出する画素グループ類似度算出工程と、前記注目画素の画素値をもとに、前記画素領域内の各画素の画素値類似度を算出する画素値類似度算出工程と、前記画素グループ類似度と前記画素値類似度とをもとに、前記画素領域内の画素に適用するフィルタ係数を算出するフィルタ係数算出工程と、前記画素領域内の画素値と前記フィルタ係数とをもとに、前記注目画素の画素値を平滑化処理する平滑化処理工程と、を含むことを特徴とする。
また、本発明の別の態様にかかる画像処理プログラムは、コンピュータに、画像データを入力する画像データ入力手順と、前記画像データから、処理対象の注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を抽出する画素抽出手順と、前記画素領域内の各画素を前記画素領域内の画素値分布に応じて区分し、複数の画素グループを形成する画素グループ形成手順と、前記画素グループ毎に、該各画素グループに属する前記画素領域内の画素に設定する画素グループ類似度として、前記注目画素を含む画素グループとの間の類似度を算出する画素グループ類似度算出手順と、前記注目画素の画素値をもとに、前記画素領域内の各画素の画素値類似度を算出する画素値類似度算出手順と、前記画素グループ類似度と前記画素値類似度とをもとに、前記画素領域内の画素に適用するフィルタ係数を算出するフィルタ係数算出手順と、前記画素領域内の画素値と前記フィルタ係数とをもとに、前記注目画素の画素値を平滑化処理する平滑化処理手順と、を実行させることを特徴とする。
本発明によれば、画像の微細構造を潰さずに高精度にノイズを低減でき、ノイズ低減効果を向上させることができる。
以下、図面を参照し、本発明を実施するための最良の形態について説明する。なお、この実施の形態によって本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示している。
(実施の形態1)
先ず、実施の形態1について説明する。実施の形態1では、本発明の画像処理装置を適用した撮像システムについて説明する。図1は、実施の形態1における撮像システム1の全体構成例を示すブロック図である。図1に示すように、実施の形態1の撮像システム1は、画像データ入力部としての撮像部11と、入力部12と、表示部13と、記録部14と、画像処理部15と、これら各部の動作を制御する制御部16とを備える。
撮像部11は、撮影用レンズ、入射光をRGB各色の波長帯の色光に分離するプリズム、RGBの色毎に被写体像を撮像する例えばCCDやCMOS等の撮像素子を含む3板式のデジタルビデオカメラで構成され、1画素当たり3チャンネルの信号を出力する。この撮像部11は、撮影用レンズによって集光した光を撮像素子上に結像し、結像した光を電気信号に変換する。そして、変換された電気信号に増幅処理やA/D変換処理を施してRGB3チャンネルの画像データを生成する。生成した画像データは、画像処理部15のOB/AGC処理部151に出力される。
入力部12は、例えばキーボードやマウス、タッチパネル、各種スイッチ等によって実現されるものであり、これらに対する操作信号を制御部16に出力する。表示部13は、LCD(Liquid Crystal Display)やELディスプレイ(Electroluminescence Display)等の表示装置によって実現されるものであり、制御部16の制御のもと、例えば撮像部11で撮像された画像の表示画面や撮像システム1の動作環境を設定するための設定画面等の各種画面を表示する。
記録部14は、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵或いはデータ通信端子で接続されたハードディスク、CD−ROM等といった各種記録媒体およびその読取装置等によって実現されるものであり、撮像システム1を動作させ、この撮像システム1が備える種々の機能を実現するためのプログラムや、このプログラムの実行中に使用されるデータ等が記録される。また、記録部14には、撮像部11によって撮像され、画像処理部15によって画像処理された画像データが記録される。
画像処理部15は、撮像部11によって撮像された画像に対してノイズ低減処理を含む各種画像処理を施す。この画像処理部15は、OB/AGC処理部151と、ノイズ低減処理部20と、WB処理部153と、色変換処理部154と、階調変換処理部155と、YC分離処理部156と、エッジ強調処理部157と、データ圧縮記録処理部158とを備える。
OB/AGC処理部151は、撮像部11から入力された画像データに対し、黒レベルのオフセット量を補正する処理(OBクランプ処理)を施す。具体的には、先ず、画像データ中の所定のOB領域内の画素平均値を算出する。そして、算出した画素平均値を画像データ中の有効領域から減算処理し、処理後の有効領域を抽出してOBクランプ処理を行う。さらに、OB/AGC処理部151は、OBクランプ処理を施した画像データに対し、明るさレベルの調整処理(AGC処理)を施す。具体的には、画像データ中の所定の領域内の画素平均値または最大値をもとにゲイン量を算出し、算出したゲイン量を画像データ中の有効領域に乗算してAGC処理を行う。処理後の画像データは、ノイズ低減処理部20に出力される。
ノイズ低減処理部20は、OB/AGC処理部151から入力された画像データに対してノイズ低減処理を施す。処理後の画像データは、WB処理部153に出力される。
WB処理部153は、ノイズ低減処理部20から入力された画像データに対してホワイトバランス補正処理を施す。具体的には、白色時のRチャンネル、BチャンネルおよびBチャンネルの値が等しくなるようにRチャンネルおよびBチャンネルの補正係数を算出し、算出した補正係数を用いて入力された画像データのホワイトバランスを補正する。処理後の画像データは、色変換処理部154に出力される。
色変換処理部154は、WB処理部153から入力された画像データに対して色変換処理を施す。ここで、WB処理部153からの画像データは、入力デバイスに依存するRGB各色の画像データである。色変換処理部154は、マトリックス演算処理を行って入力されたデバイス依存のRGB各色の画像データを例えばsRGB等のデバイスに依存しないRGB各色の画像データに変換する。処理後の画像データは、階調変換処理部155に出力される。
階調変換処理部155は、色変換処理部154から入力された画像データに対して階調変換処理を施す。ここで、色変換処理部154からの画像データは、線形階調特性の画像データとして入力される。階調変換処理部155は、制御部16から通知される所定のガンマ特性を用い、入力された線形階調特性の画像データを非線形階調特性の画像データに変換する。処理後の画像データは、YC分離処理部156に出力される。
YC分離処理部156は、階調変換処理部155から入力された画像データに対してYC分離処理を施す。具体的には、YC分離処理部156は、3×3のマトリックス演算処理を行って入力された画像データを輝度信号Yおよび色差信号Cb,Crに変換する。処理後の輝度信号および色差信号は、エッジ強調処理部157に出力される。
エッジ強調処理部157は、YC分離処理部156から入力された輝度信号に対してエッジ強調処理を施す。具体的には、エッジ強調処理部157は、入力された輝度信号をもとにエッジ信号の抽出処理を行い、抽出したエッジ信号に対する増幅処理の後、増幅処理したエッジ信号を輝度信号の入力値に加算処理してエッジを強調した輝度信号を生成する。処理後の輝度信号およびYC分離処理部156から入力された色差信号は、データ圧縮記録処理部158に出力される。
データ圧縮記録処理部158は、エッジ強調処理部157から入力された輝度信号および色差信号に対して例えばMPEG方式やJPEG方式等に基づく圧縮処理を施し、処理後の画像データを記録部14に書き込んで記録する処理(記録処理)を行う。
制御部16は、CPU等のハードウェアによって実現される。この制御部16は、入力部12から入力される操作信号、あるいは記録部14に記録されたプログラムやデータ等に基づいて撮像システム1を構成する各部への指示やデータの転送等を行い、撮像システム1全体の動作を統括的に制御する。例えば、露光量の設定やゲインの設定等を行って撮像部11の動作を制御する処理や、入力部12を介してユーザが指示したモード設定に応じた各種処理パラメータの値を設定し、装置各部に通知する処理等を行う。
次に、画像処理部15のノイズ低減処理部20について説明する。図2は、実施の形態1におけるノイズ低減処理部20の構成例を示すブロック図である。上記したように、このノイズ低減処理部20には画像データとしてRGB3チャンネルの画像データが入力されるが、ノイズ低減処理部20は、各チャンネルの画像データに対して同一の処理を行う。ここで、ノイズ低減処理部20は、これらの各チャンネルの画像データに対する処理を順番に行うこととしてもよいし、並行して同時に行う構成としてもよい。
図2に示すように、ノイズ低減処理部20は、画素抽出部21と、画素グループ形成部30と、画素グループ類似度算出部40と、画素値類似度算出部24と、フィルタ係数算出部25と、平滑化処理部26とを備え、各画素を順次処理対象として処理を行う(以下、処理対象の画素を「注目画素」と呼ぶ。)。このノイズ低減処理部20では、画素抽出部21が注目画素を含む処理画素領域を抽出する。次いで、画素グループ形成部30および画素グループ類似度算出部40が処理画素領域内の各画素について画素グループ類似度を得る。また、画素値類似度算出部24が処理画素領域内の各画素について画素値類似度を得る。そして、フィルタ係数算出部25が画素グループ類似度と画素値類似度とをもとに処理画素領域内の各画素に適用するフィルタ係数を算出し、平滑化処理部26が注目画素を平滑化処理する。以下、各部が行う処理について説明する。
OB/AGC処理部151からの画像データは、チャンネル毎に順番に画素抽出部21に入力される。画素抽出部21は、注目画素をノイズ低減処理する際に参照する画素領域を処理画素領域として抽出する。図3は、画素抽出部21によって抽出される処理画素領域の一例を示す図である。実施の形態1では、画素抽出部21は、中央の注目画素を中心とした5×5の処理画素領域を抽出する。
ここで、図3中に示すように、注目画素について抽出した処理画素領域内の各画素(注目画素を含む)の画素値をPx+i,y+j(i=−2,−1,0,1,2;j=−2,−1,0,1,2)と定義する。x,yは、画像データ中での注目画素の水平座標(x座標)および垂直座標(y座標)を示す。また、i,jは、抽出された処理画素領域中での各画素の水平方向の相対座標(i)および垂直方向の相対座標(j)を示す。抽出された処理画素領域(実際には処理画素領域を構成する各画素の画素値Px+i,y+j)は、画素グループ形成部30の画素グループ群代表類似度算出部31および画素値類似度算出部24にそれぞれ出力される。
画素グループ形成部30は、画素抽出部21から入力された処理画素領域内を複数の小領域に区分して画素グループを形成する。例えば、予め複数通りの区分パターンを定めておく。そして、定めておいた区分パターンに従って区分した複数通りの画素グループ群を候補とし、これら候補の中から1つの代表画素グループ群を選択することによって、画素グループを形成する。
実施の形態1では、5×5の処理画素領域内をそれぞれ5つの画素グループに区分する5通りの区分パターンを定めておき、これらの区分パターンに従って区分した5通りの画素グループ群を候補とする。図4−1〜5は、候補とする5通りの画素グループ群の一例を示す図である。なお、各図4−1〜5において、ハッチングの種類によって同一の画素グループに属する画素を識別して示している。
すなわち、図4−1に示すように、処理画素領域内を列方向の5画素毎に区分した5つの画素グループg10〜g14で構成される画素グループ群(以下、「垂直相関画素グループ群」と呼ぶ。)を1つ目の候補とする。また、図4−2に示すように、処理画素領域内を行方向の5画素毎に区分した5つの画素グループg20〜g24で構成される画素グループ群(以下、「水平相関画素グループ群」と呼ぶ。)を2つ目の候補とする。また、図4−3に示すように、処理画素領域内を左上がりの斜め方向に沿って区分した5つの画素グループg30〜g34で構成される画素グループ群(以下、「左斜相関画素グループ群」と呼ぶ。)を3つ目の候補とする。また、図4−4に示すように、処理画素領域内を右上がりの斜め方向に沿って区分した5つの画素グループg40〜g44で構成される画素グループ群(以下、「右斜相関画素グループ群」と呼ぶ。)を4つ目の候補とする。そして、図4−5に示すように、各画素グループを構成する画素がそれぞれ中央の注目画素を中心として点対称となるように、処理画素領域内を5つの画素グループg50〜g54に区分した画素グループ群(以下、「等方相関画素グループ群」と呼ぶ。)を5つ目の候補とする。
実際には、図2に示すように、画素グループ形成部30は、画素グループ群代表類似度算出部31と、代表画素グループ群選択部32とを備え、各部の処理によって画素グループを形成する(すなわち代表画素グループ群を選択する)。
先ず、画素グループ群代表類似度算出部31が、処理画素領域内を各候補の画素グループ群に区分した際の類似度(画素グループ群代表類似度)をそれぞれ算出する。図5は、画素グループ群代表類似度算出部31の構成を示すブロック図である。図5に示すように、画素グループ群代表類似度算出部31は、垂直相関画素グループ群代表類似度算出部311と、水平相関画素グループ群代表類似度算出部312と、左斜相関画素グループ群代表類似度算出部313と、右斜相関画素グループ群代表類似度算出部314と、等方相関画素グループ群代表類似度算出部315とを備える。
垂直相関画素グループ群代表類似度算出部311は、処理画素領域内を垂直相関画素グループ群に区分した場合の類似度(画素グループ群代表類似度)SGvを算出する。図6は、実施の形態1における画素グループ群代表類似度SGvの算出原理を説明する説明図である。垂直相関画素グループ群代表類似度算出部311は、図6中に矢印a1で示すように、垂直方向に隣接する画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGvとする。この画素グループ群代表類似度SGvの算出式は、次式(1)で表される。
SGv=|Px-2,y-1−Px-2,y|+|Px-2,y−Px-2,y+1|+|Px-1,y-2−Px-1,y-1
+|Px-1,y-1−Px-1,y|+|Px-1,y−Px-1,y+1|+|Px-1,y+1−Px-1,y+2
+|Px,y-2−Px,y-1|+|Px,y-1−Px,y|+|Px,y−Px,y+1
+|Px,y+1−Px,y+2|+|Px+1,y-2−Px+1,y-1|+|Px+1,y-1−Px+1,y
+|Px+1,y−Px+1,y+1|+|Px+1,y+1−Px+1,y+2|+|Px+2,y-1−Px+2,y
+|Px+2,y−Px+2,y+1| ・・・(1)
また、水平相関画素グループ群代表類似度算出部312は、処理画素領域内を水平相関画素グループ群に区分した場合の画素グループ群代表類似度SGhを算出する。図7は、実施の形態1における画素グループ群代表類似度SGhの算出原理を説明する説明図である。水平相関画素グループ群代表類似度算出部312は、図7中に矢印a2で示すように、水平方向に隣接する画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGhとする。この画素グループ群代表類似度SGhの算出式は、次式(2)で表される。
SGh=|Px-1,y-2−Px,y-2|+|Px,y-2−Px+1,y-2|+|Px-2,y-1−Px-1,y-1
+|Px-1,y-1−Px,y-1|+|Px,y-1−Px+1,y-1|+|Px+1,y-1−Px+2,y-1
+|Px-2,y−Px-1,y|+|Px-1,y−Px,y|+|Px,y−Px+1,y
+|Px+1,y−Px+2,y|+|Px-2,y+1−Px-1,y+1|+|Px-1,y+1−Px,y+1
+|Px,y+1−Px+1,y+1|+|Px+1,y+1−Px+2,y+1|+|Px-1,y+2−Px,y+2
+|Px,y+2−Px+1,y+2| ・・・(2)
また、左斜相関画素グループ群代表類似度算出部313は、処理画素領域内を左斜相関画素グループ群に区分した場合の画素グループ群代表類似度SGbを算出する。図8は、実施の形態1における画素グループ群代表類似度SGbの算出原理を説明する説明図である。左斜相関画素グループ群代表類似度算出部313は、図8中に矢印a3で示すように、左上がりの斜め方向に隣接する画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGbとする。この画素グループ群代表類似度SGbの算出式は、次式(3)で表される。
SGb=|Px+1,y-2−Px+2,y-1|+|Px,y-2−Px+1,y-1|+|Px+1,y-1−Px+2,y
+|Px-1,y-2−Px,y-1|+|Px,y-1−Px+1,y|+|Px+1,y−Px+2,y+1
+|Px-2,y-2−Px-1,y-1|+|Px-1,y-1−Px,y|+|Px,y−Px+1,y+1
+|Px+1,y+1−Px+2,y+2|+|Px-2,y-1−Px-1,y|+|Px-1,y−Px,y+1
+|Px,y+1−Px+1,y+2|+|Px-2,y−Px-1,y+1|+|Px-1,y+1−Px,y+2
+|Px-2,y+1−Px-1,y+2| ・・・(3)
また、右斜相関画素グループ群代表類似度算出部314は、処理画素領域内を右斜相関画素グループ群に区分した場合の画素グループ群代表類似度SGsを算出する。図9は、実施の形態1における画素グループ群代表類似度SGsの算出原理を説明する説明図である。右斜相関画素グループ群代表類似度算出部314は、図9中に矢印a4で示すように、右上がりの斜め方向に隣接する画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGsとする。この画素グループ群代表類似度SGsの算出式は、次式(4)で表される。
SGs=|Px-2,y-1−Px-1,y-2|+|Px-2,y−Px-1,y-1|+|Px-1,y-1−Px,y-2
+|Px-2,y+1−Px-1,y|+|Px-1,y−Px,y-1|+|Px,y-1−Px+1,y-2
+|Px-2,y+2−Px-1,y+1|+|Px-1,y+1−Px,y|+|Px,y−Px+1,y-1
+|Px+1,y-1−Px+2,y-2|+|Px-1,y+2−Px,y+1|+|Px,y+1−Px+1,y
+|Px+1,y−Px+2,y-1|+|Px,y+2−Px+1,y+1|+|Px+1,y+1−Px+2,y
+|Px+1,y+2−Px+2,y+1| ・・・(4)
また、等方相関画素グループ群代表類似度算出部315は、処理画素領域内を等方相関画素グループ群に区分した場合の画素グループ群代表類似度SGeを算出する。図10は、実施の形態1における画素グループ群代表類似度SGeの算出原理を説明する説明図である。等方相関画素グループ群代表類似度算出部315は、図10中に矢印a5で示すように、注目画素を中心として放射状に隣接する画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGeとする。この画素グループ群代表類似度SGeの算出式は、次式(5)で表される。
SGe=|Px-2,y+2−Px-1,y+1|+|Px-1,y+1−Px,y|+|Px,y−Px+1,y-1
+|Px+1,y-1−Px+2,y-2|+|Px-2,y-2−Px-1,y-1|+|Px-1,y-1−Px,y
+|Px,y−Px+1,y+1|+|Px+1,y+1−Px+2,y+2|+|Px,y-2−Px,y-1
+|Px,y-1−Px,y|+|Px,y−Px,y+1|+|Px,y+1−Px,y+2
+|Px-2,y−Px-1,y|+|Px-1,y−Px,y|+|Px,y−Px+1,y
+|Px+1,y−Px+2,y| ・・・(5)
以上のようにして算出された候補毎の5つの画素グループ群代表類似度SGv,SGh,SGb,SGs,SGeは、代表画素グループ群選択部32に出力される。
代表画素グループ群選択部32は、画素グループ群代表類似度算出部31から入力された5つの画素グループ群代表類似度SGv,SGh,SGb,SGs,SGeをもとに処理画素領域の画素値分布に最もマッチングしている区分パターンを判定し、その代表画素グループ群を選択する。具体的には、画素グループ群代表類似度が最も高い画素グループ群(ここでは最も小さい値の画素グループ群代表類似度を算出した画素グループ群)を代表画素グループ群として選択する。例えば値が最小の画素グループ群代表類似度がSGvの場合であれば、処理画素領域内の各画素は、垂直方向に隣接する画素間で画素値の類似度が高い。このため、垂直相関画素グループ群(図4−1を参照)の区分パターンが最も処理画素領域の画素値分布にマッチングしていると判定し、この垂直相関画素グループ群を代表画素グループ群として選択する。すなわちこの場合には、処理画素領域について図4−1の画素グループg10〜g14が形成される。なお、予め画素グループ群代表類似度に優先順位を設定しておく構成としてもよい。例えば、等方相関画素グループ群を最も優先順位の高い画素グループ群とする等、適宜設定しておくことができる。そして、最小値となる画素グループ群代表類似度が複数種類存在する場合には、優先順位に従って画素グループ群を選択することとしてもよい。
ここでの処理によって、各画素グループを構成する画素間の画素値の類似度が高くなるように画素グループが形成される。換言すると、各画素グループを構成する画素間の画素値の類似度が高くなるような区分パターンの画素グループ群が代表画素グループ群として選択される。したがって、処理画素領域内の各画素を、画素値が類似する画素毎にグループ化できる。
以上のようにして選択された代表画素グループ群は、画素グループ類似度算出部40の画素グループ代表値算出部41に出力される。実際には、図4−1〜5に示した各画素グループ群に予め固有のインデックス値を割り振っておく。例えば、図4−1の垂直相関画素グループ群のインデックス値を“0”、図4−2の水平相関画素グループ群のインデックス値を“1”、図4−3の左斜相関画素グループ群のインデックス値を“2”、図4−4の右斜相関画素グループ群のインデックス値を“3”、図4−5の等方相関画素グループ群のインデックス値を“4”とする。そして、代表画素グループ群選択部32は、代表画素グループ群として選択した画素グループ群のインデックス値を画素グループ代表値算出部41に出力する。
画素グループ類似度算出部40は、図2に示すように、画素グループ代表値算出部41と、画素グループ代表値類似度算出部43とを備え、各部の処理によって、処理画素領域について形成された画素グループ間の類似度を算出する。
画素グループ代表値算出部41は、画素抽出部21から入力された処理画素領域内の各画素の画素値をもとに、処理画素領域について形成した各画素グループの代表値(画素グループ代表値)をそれぞれ算出する。具体的には、画素グループ代表値算出部41は、先ず代表画素グループ群選択部32から入力されたインデックス値をもとに代表画素グループ群を特定する。そして、画素グループ代表値算出部41は、特定した代表画素グループ群に応じて各画素グループの画素グループ代表値A0,A1,A2,A3、A4を算出する。
例えば、画素グループ代表値算出部41は、代表画素グループ群選択部32から垂直相関画素グループ群のインデックス値“0”が入力された場合には、次式(6)〜(10)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg12(図4−1参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
また、画素グループ代表値算出部41は、代表画素グループ群選択部32から水平相関画素グループ群のインデックス値“1”が入力された場合には、次式(11)〜(15)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg22(図4−2参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
また、画素グループ代表値算出部41は、代表画素グループ群選択部32から左斜相関画素グループ群のインデックス値“2”が入力された場合には、次式(16)〜(20)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg32(図4−3参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
また、画素グループ代表値算出部41は、代表画素グループ群選択部32から右斜相関画素グループ群のインデックス値“3”が入力された場合には、次式(21)〜(25)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg42(図4−4参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
また、画素グループ代表値算出部41は、代表画素グループ群選択部32から等方相関画素グループ群のインデックス値“4”が入力された場合には、次式(26)〜(30)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg52(図4−5参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
以上のようにして算出された各画素グループ代表値A0,A1,A2,A3、A4は、画素グループ代表値類似度算出部43に出力される。
画素グループ代表値類似度算出部43は、画素グループ代表値算出部41から入力された各画素グループの画素グループ代表値A0,A1,A2,A3、A4をもとに、先ず、画素グループ代表値類似度を算出する。具体的には、次式(31)に従って、注目画素を含む画素グループ(n=0)の画素グループ代表値(A0)との差分絶対値を画素グループ毎に算出し、画素グループ代表値類似度SGnとする。
SGn=|An−A0| ・・・(31)
(ただしn=0,1,2,3,4)
続いて、画素グループ代表値類似度算出部43は、算出した画素グループ代表値類似度SGnをもとに、次式(32)に従って処理画素領域内の各画素に画素グループ類似度SGx+i,y+jを設定する。この結果、同一の画素グループnに属する画素に対してはその画素グループnについて算出した画素グループ代表値類似度SGnの値が一律に設定される。画素毎に設定された画素グループ類似度SGx+i,y+jは、フィルタ係数算出部25に出力される。
Figure 0005220677
画素値類似度算出部24は、画素抽出部21から入力された処理画素領域を構成する各画素の画素値Px+i,y+jをもとに、各画素の画素値類似度SPx+i,y+jを算出する。例えば、各画素の画素値類似度SPx+i,y+jを、注目画素Px,yとの画素値の差分の絶対値として算出する。この画素値類似度SPx+i,y+jは次式(33)によって表される。算出された各画素の画素値類似度SPx+i,y+jは、フィルタ係数算出部25に出力される。
SPx+i,y+j=|Px+i,y+j−Px,y| ・・・(33)
(ただし、i=−2,−1,0,1,2;j=−2,−1,0,1,2)
フィルタ係数算出部25は、画素グループ代表値類似度算出部43から入力された画素グループ類似度SGx+i,y+jと画素値類似度算出部24から入力された画素値類似度SPx+i,y+jとをもとに、処理画素領域内の各画素に適用するフィルタ係数を算出する。具体的には、制御部16から処理パラメータの値として通知されるノイズ低減量に関するσg値およびσp値を用い、ガウス関数や有理関数等に従ってフィルタ係数を算出する。ここでは、代表的な平滑化フィルタとして知られる公知のバイラテラルフィルタを後述の平滑化処理で利用することとし、フィルタ係数をガウス関数を用いて重み算出する。
この場合には、画素グループ類似度SGx+i,y+jおよび画素値類似度SPx+i,y+jをそれぞれガウス関数値の重みとし、次式(34)に従ってフィルタ係数Cx+i,y+jを算出する。算出されたフィルタ係数Cx+i,y+jは、平滑化処理部26に出力される。ここで、Wgx+i,y+jは、画素グループ類似度が低いほど値が小さく算出される第1の関数値であり、Wpx+i,y+jは、画素値類似度が低いほど値が小さく算出される第2の関数値である。
Figure 0005220677
ここで、σg値およびσp値は、制御部16がユーザ操作に従って設定し、フィルタ係数算出部25に通知する構成としてもよいし、ISO感度や信号ゲイン量をもとに制御部16が自動的に決定し、フィルタ係数算出部25に通知する構成としてもよい。実施の形態1では、ユーザによるノイズ低減量の強/弱の選択操作を受け付ける。そして、制御部16が、選択されたノイズ低減量の強弱に応じてσg値およびσp値を設定し、フィルタ係数算出部25に通知する。
図11は、ゲイン量またはISO感度の値に応じて定まるσg値をグラフ化した図である。そして、図11中において、ユーザによってノイズ低減量が「強」として選択された場合のゲイン量またはISO感度とσg値との対応関係を実線で示し、ユーザによってノイズ低減量が「弱」として選択された場合のゲイン量またはISO感度とσg値との対応関係を一点鎖線で示している。
また、図12は、ゲイン量またはISO感度の値に応じて定まるσp値をグラフ化した図である。そして、図12中において、ユーザによってノイズ低減量が「強」として選択された場合のゲイン量またはISO感度とσp値との対応関係を実線で示し、ユーザによってノイズ低減量が「弱」として選択された場合のゲイン量またはISO感度とσp値との対応関係を一点鎖線で示している。
図11および図12に示すように、σg値およびσp値は、ゲイン量やISO感度が増大するにつれて大きくなるように設定される。ゲイン量やISO感度が増大するとノイズ量が増加するが、σ値が小さいまま固定することとすると、ノイズに伴う画素値の変化によってフィルタ係数が必要以上に小さくなる場合がある。このような場合に平滑化に寄与する画素数が確保できない事態を防止するため、図11および図12に示すような設定を行う。なお、ガウス関数値であるWgx+i,y+jおよびWpx+i,y+jを回路で計算するのはコストがかかる。このため、予め複数のσp値およびσg値毎にガウス関数値を設定した不図示のLUTを用意しておく構成としてもよい。そして、制御部16から通知されたσg値に応じたLUTを参照して画素グループ類似度SGx+i,y+jに対応するガウス関数値を読み出してWgx+i,y+jを得るとともに、通知されたσp値に応じたLUTを参照して画素値類似度SPx+i,y+jに対応するガウス関数値を読み出してWpx+i,y+jを得て、フィルタ係数Cx+i,y+jを算出することとしてもよい。
平滑化処理部26は、画素抽出部21から入力された処理画素領域内の各画素の画素値と、フィルタ係数算出部25から入力されたフィルタ係数Cx+i,y+jとをもとに注目画素を平滑化処理する。具体的には、次式(38)に従って、注目画素の画素値Px,yを平滑化処理した平滑化画素値Pfx,yを得る。得られた平滑化画素値Pfx,yは、WB処理部153に出力される。
Figure 0005220677
背景技術で上記したように、従来のバイラテラルフィルタでは、画素値差の絶対値および相対的な空間距離の2つの画素値相関をパラメータとして用い、これらのパラメータで重み付けしたガウス関数値の積によってフィルタ係数を算出していた。
ここで、空間距離を用いてガウス関数値を重み付けし、フィルタ係数を算出するということは、注目画素とその周辺画素との画素値相関が、空間距離が遠くなるにつれて等方的に低下していくという仮定を適用することである。しかしながら、画素値が非等方的に変化する微細構造を有する処理画素領域に前述の仮定を適用し、空間距離を用いた等方的な平滑化処理を行うと、その処理画素領域の非等方的な微細構造を潰す方向でフィルタが作用することになり、微細構造を保存できない。
なお、従来のバイラテラルフィルタでは、画素値差の絶対値によって重み付けしたガウス関数値が空間距離による重み付けの作用を軽減しており、大きく急峻なエッジ部分を鈍らせることなく保存することができる。また、画素値差の小さい微細構造を保存するため、画素値類似度SPx+i,y+jを鋭敏化するようにパラメータを調整(すなわちσp値を小さく)していた。しかしながら実際には、ノイズ低減効果が著しく低下し、微細構造とともにノイズを残してしまうという問題があった。すなわち、ノイズ低減レベルによって定まる平滑化対象のノイズ量(ノイズの平均振幅)に対して十分に大きなエッジは保存できるが、微細構造のように画素値の変化が小さくその値と前述のノイズ量との差が小さくなると、エッジ(すなわち微細構造)を保存できなくなる。
これに対し、実施の形態1では、画素値差が大きなエッジの保存に大きく寄与する画素値類似度SPx+i,y+jと画素値差が小さな微細構造の保存に大きく寄与する画素グループ類似度SGx+i,y+jとの2つのパラメータの値を用いてフィルタ係数を算出し、このフィルタ係数を用いて注目画素を平滑化処理することができる。
すなわち、実施の形態1では、バイラテラルフィルタで用いる2つのパラメータのうちの一方のパラメータとして、画素値類似度SPx+i,y+jを用いる。これは、従来のバイラテラルフィルタで用いていた注目画素とその周辺画素との画素値差の絶対値に相当する。これによって、急峻で大きなエッジを保存できる。
具体的には、処理画素領域内の各画素について注目画素との差分絶対値を画素値類似度SPx+i,y+jとして算出することとした。したがって、処理画素領域内の急峻なエッジを低コストで高速に、且つ精度良く保存することができる。
一方、他方のパラメータとして、従来は、注目画素とその周辺画素との相対的な空間距離を用いていたが、実施の形態1では、この空間距離にかえて、画素グループ類似度SGx+i,y+jを用いる。すなわち、従来のバイラテラルフィルタでは、相対的な空間距離に基づく等方的な重み付けを行ってガウス関数値を算出していたのに対し、実施の形態1では、処理画素領域内の画素値分布をもとにこの処理画素領域内をグループ化することで得た画素グループ類似度SGx+i,y+jを用い、非等方的な重み付けを行ってガウス関数値を算出する。
より詳細には、処理画素領域に含まれる方向性を持った構造あるいは処理画素領域に含まれる規則性を持った構造に合致するような画素グループ群を予め用意される画素グループ群の候補の中から選択することによって、処理画素領域内を画素値が類似する画素毎の小領域に区分し、画素グループを形成することとした。したがって、処理画素領域内の各画素を、この処理画素領域内の特定方向に低周波成分を持つ微細構造に応じてグループ化することができる。
そして、各画素グループに属する画素値をもとに、画素グループ毎に画素グループ類似度SGx+i,y+jを算出することとした。したがって、処理画素領域内の微細構造の方向性や規則性を反映させた値として画素グループ類似度SGx+i,y+jを得ることができる。そして、同一の画素グループに属する画素にはそれぞれ同一のパラメータ(すなわち画素グループ類似度SGx+i,y+j)を与え、ガウス関数値を重み算出することとした。したがって、画素グループ類似度SGx+i,y+jによって各区分パターンに適合するような特定方向に低周波成分を持つ微細構造を保存でき、画素値類似度SPx+i,y+jによって高周波成分を持った急峻なエッジを保存できる。例えば、画素グループ類似度SGx+i,y+jおよび画素値類似度SPx+i,y+jがともに高い場合には重点的に大きな重みを設定できる。これによれば、従来の空間距離を用いた場合のような均等で方向性のない重み付けと異なり、処理画素領域内の画像の構造に適応した(処理画素領域内の画像の構造の方向性や規則性に依存した)重み付けが実現できる。これによって、微細構造(微細なエッジ)の保存が可能となる。
実際には、画素グループ類似度SGx+i,y+jを重みとして第1の関数値であるガウス関数値を算出する。そして、画素値類似度SPx+i,y+jを重みとして第2の関数値であるガウス関数値を算出し、算出した各ガウス関数値を乗算することによってフィルタ係数を算出することとした。
また、実施の形態1では、処理画素領域内を各候補の画素グループ群に区分した際の画素グループ群代表類似度を算出するが、このとき、各候補の画素グループ毎にこれら画素グループに属する隣接画素間の差分絶対値を算出し、算出した隣接画素間の差分絶対値の総和によって画素グループ群代表類似度を算出することとした。そして、算出した候補毎の画素グループ群代表類似度の中から値が最も小さい画素グループ群代表類似度の画素グループ群を代表画素グループ群として選択することとした。したがって、処理画素領域の画素値分布に適合した代表画素グループ群を低コストで高速に選択することができる。
また、処理画素領域について形成した各画素グループの画素グループ代表値をそれぞれ算出することとした。そして、注目画素を含む画素グループの画素グループ代表値との差分絶対値を画素グループ毎に算出し、これら各画素グループに属する画素に対し、得られた画素グループ代表値類似度を画素グループ類似度として設定することとした。したがって、画素グループ代表値や画素グループ類似度の各値を低コストで高速に算出できる。
以上説明したように、実施の形態1によれば、画像の微細構造を潰さずに保存しつつ高精度にノイズを低減でき、ノイズ低減効果を向上させることができるという効果を奏する。したがって、大きく急峻なエッジから微細構造までを含めて保存が可能で、且つ十分なノイズ低減効果を安定的に実現することができ、主観画質を向上させることが可能となる。
なお、上記した実施の形態1では、平滑処理部26による平滑化処理後の平滑化画素値をWB処理部153に出力する構成とした。これに対し、例えば上記した特許文献2に開示されている技術を適用することとしてもよい。すなわち、平滑化処理後の平滑化画素値をもとに新たな平滑化画素値を算出し、算出した新たな平滑化画素値をWB処理部153に出力する構成としてもよい。
具体的には、輝度レベルに応じて発生するノイズ量を推定するためのノイズモデルテーブルを予め記録部14に記録しておく。そして、平滑化処理の結果得られた平滑化画素値Pfx,yを輝度レベルとしてノイズモデルテーブルを参照し、ノイズ量Nqの推定を行う。そして、平滑化画素値Pfx,yを基準レベルとし、推定ノイズ量Nqをコアリング処理の幅として注目画素の画素値Px,yに対してコアリング処理を行う。そしてこのコアリング処理の結果得た新たな平滑化画素値Pf´x,yをWB処理部153に出力することとしてもよい。具体的には、次式(39)〜(41)に従ってコアリング処理を実現する。
|Pfx,y−Px,y|≦NqならばPf´x,y=Pfx,y ・・・(39)
x,y−Pfx,y>NqならばPf´x,y=Px,y−Nq ・・・(40)
Pfx,y−Px,y>NqならばPf´x,y=Px,y+Nq ・・・(41)
本変形例によれば、平滑化画素値Pfx,yを用いることでノイズ量の推定精度を向上させることができるので、画像の微細構造をより高精度に保存することができ、ノイズ低減効果を向上させることができる。
また、上記した実施の形態1では、図4−1〜5に示した5通りの区分パターンを予め用意し、各区分パターンに従って区分した5通りの画素グループ群を候補として用いることとしたが、区分パターンは例示したものに限定されるものではない。例えば、市松模様の微細構造を想定した区分パターンを設定する等、予め想定し得る処理画素領域内の微細構造(画素値分布)に応じた区分パターンを適宜設定しておくことができる。
また、上記した実施の形態1では、撮像部11として3板構成の撮像素子を用いた場合を例示したが、撮像部の構成をモノクロの撮像素子を用いた単板構成としてもよい。本構成によれば、例えば、照明光がRGB3チャンネルの波長帯域で時系列で面順次に切り替えられる内視鏡に上記した撮像システム1を適用することができる。
また、実施の形態1では、撮像部11を備えた撮像システム1について説明したが、撮像装置を具備しない画像処理装置に適用し、別個の撮像装置で撮像された画像データを外部入力する構成としてもよい。例えば、画像データを可搬型の記録媒体を経由して、あるいは通信接続される外部機器から外部入力し、この画像データを画像処理する画像処理装置に適用することができる。
また、実施の形態1では、画像処理部15を構成する各部をハードウェアで構成することとしたが、これに限定されるものではない。例えば、各部が行う処理をCPUが行う構成とし、CPUがプログラムを実行することによってソフトウェアとして実現することとしてもよい。あるいは、各部が行う処理の一部をソフトウェアで構成することとしてもよい。
この場合には、ワークステーションやパソコン等の公知のコンピュータシステムを画像処理装置として用いることができる。そして、画像処理部15の各部が行う処理を実現するためのプログラム(画像処理プログラム)を予め用意し、この画像処理プログラムをコンピュータシステムのCPUが実行することによって実現できる。
図13は、本変形例のコンピュータシステム1000の構成を示すシステム構成図であり、図14は、このコンピュータシステム1000における本体部1010の構成を示すブロック図である。図13に示すように、コンピュータシステム1000は、本体部1010と、本体部1010からの指示によって表示画面1021に画像等の情報を表示するためのディスプレイ1020と、このコンピュータシステム1000に種々の情報を入力するためのキーボード1030と、ディスプレイ1020の表示画面1021上の任意の位置を指定するためのマウス1040とを備える。
また、このコンピュータシステム1000における本体部1010は、図14に示すように、CPU1011と、RAM1012と、ROM1013と、ハードディスクドライブ(HDD)1014と、CD−ROM1060を受け入れるCD−ROMドライブ1015と、USBメモリ1070を着脱可能に接続するUSBポート1016と、ディスプレイ1020、キーボード1030およびマウス1040を接続するI/Oインターフェース1017と、ローカルエリアネットワークまたは広域エリアネットワーク(LAN/WAN)N1に接続するためのLANインターフェース1018とを備える。
さらに、このコンピュータシステム1000には、インターネット等の公衆回線N3に接続するためのモデム1050が接続されるとともに、LANインターフェース1018およびローカルエリアネットワークまたは広域エリアネットワークN1を介して、他のコンピュータシステムであるパソコン(PC)1081、サーバ1082、プリンタ1083等が接続される。
そして、このコンピュータシステム1000は、所定の記録媒体に記録された画像処理プログラム(例えば図15や図16を参照して後述する処理手順を実現するための画像処理プログラム)を読み出して実行することで画像処理装置を実現する。ここで、所定の記録媒体とは、CD−ROM1060やUSBメモリ1070の他、MOディスクやDVDディスク、フレキシブルディスク(FD)、光磁気ディスク、ICカード等を含む「可搬用の物理媒体」、コンピュータシステム1000の内外に備えられるHDD1014やRAM1012、ROM1013等の「固定用の物理媒体」、モデム1050を介して接続される公衆回線N3や、他のコンピュータシステム(PC)1081またはサーバ1082が接続されるローカルエリアネットワークまたは広域エリアネットワークN1等のように、プログラムの送信に際して短期にプログラムを保持する「通信媒体」等、コンピュータシステム1000によって読み取り可能な画像処理プログラムを記録するあらゆる記録媒体を含む。
すなわち、画像処理プログラムは、「可搬用の物理媒体」「固定用の物理媒体」「通信媒体」等の記録媒体にコンピュータ読み取り可能に記録されるものであり、コンピュータシステム1000は、このような記録媒体から画像処理プログラムを読み出して実行することで画像処理装置を実現する。なお、画像処理プログラムは、コンピュータシステム1000によって実行されることに限定されるものではなく、他のコンピュータシステム(PC)1081またはサーバ1082が画像処理プログラムを実行する場合や、これらが協働して画像処理プログラムを実行するような場合にも、本発明を同様に適用することができる。
図15は、本変形例においてコンピュータシステム1000のCPU1011が行う処理手順を示す全体フローチャートである。なお、ここで説明する処理は、CPU1011が上記した所定の記録媒体に記録された画像処理プログラムを実行することにより実現される。
図15に示すように、先ず、3板式の撮像素子で構成される撮像装置で撮影されたRAW画像データを例えば可搬型の記録媒体を経由して、あるいは通信接続される外部機器から取得(入力)する(ステップS1)。このとき、複数のフレームで構成されるRAW画像を取得し、入力部12の操作によってユーザが指定した処理フレーム分のRAW画像を処理対象とする構成としてもよい。この場合には、各フレームを順次1枚ずつ取得する。
そして、ステップS1で取得したRAW画像に対し、ステップS3〜ステップS21の各処理を行う。すなわち先ず、RAW画像にOBクランプ処理を施す(ステップS3)。続いて、OBクランプ処理後のRAW画像にAGC処理を施す(ステップS5)。続いて、AGC処理後のRAW画像にノイズ低減処理を施す(ステップS7)。続いて、ノイズ低減処理後のRAW画像にホワイトバランス補正処理を施す(ステップS9)。続いて、ホワイトバランス補正処理後のRAW画像に色変換処理を施す(ステップS11)。続いて、色変換処理後のRAW画像に階調変換処理を施す(ステップS13)。続いて、階調変換処理後のRAW画像にYC分離処理を施す(ステップS15)。続いて、YC分離処理後のRAW画像にエッジ強調処理を施す(ステップS17)。そして、エッジ強調処理後のRAW画像に圧縮処理を施し(ステップS19)、圧縮処理後の画像データを所定の記録媒体に書き込んで記録処理する(ステップS21)。
その後、未処理のRAW画像がある場合には(ステップS23:Yes)、ステップS1に戻り、未処理のRAW画像を対象にステップS3〜ステップS21の処理を行う。一方、未処理のRAW画像がなければ(ステップS23:No)、本処理を終える。
次に、ステップS7のノイズ低減処理について説明する。図16は、ノイズ低減処理の詳細な処理手順を示すフローチャートである。図16に示すように、ノイズ低減処理では、先ず、注目画素をノイズ低減処理する際に参照する注目画素を含む処理画素領域を抽出する(ステップS701)。続いて、ステップS701で抽出した処理画素領域内を、予め複数通り用意される各候補の画素グループ群に区分した際の画素グループ群代表類似度をそれぞれ算出する(ステップS703)。そして、算出した各候補の画素グループ群代表類似度をもとに、代表画素グループ群を選択する(ステップS705)。
続いて、ステップS701で抽出した処理画素領域内の各画素の画素値をもとに、ステップS705で選択した代表画素グループ群に応じて各画素グループの画素グループ代表値を算出する(ステップS707)。続いて、算出した各画素グループの画素グループ代表値をもとに、画素グループ代表値類似度を算出する(ステップS709)。そして、算出した画素グループ代表値類似度をもとに、処理画素領域内の各画素に画素グループ類似度を設定する(ステップS711)。
また、ステップS701で抽出した処理画素領域内の各画素の画素値をもとに、各画素の画素値類似度を算出する(ステップS713)。
そして、ステップS711で処理画素領域内の各画素に設定した画素グループ類似度とステップS713で処理画素領域内の画素毎に算出した画素値類似度とをもとに、処理画素領域内の各画素に適用するフィルタ係数を算出する(ステップS715)。そして、算出したフィルタ係数を用いて注目画素を平滑化処理する(ステップS717)。
その後、未処理の画素がある場合には(ステップS719:Yes)、ステップS701に戻り、未処理の画素を注目画素としてステップS701〜ステップS717の処理を行う。一方、未処理の画素がなければ(ステップS719:No)、本処理を終える。
(実施の形態2)
次に、実施の形態2について説明する。図17は、実施の形態2における撮像システム1bの全体構成例を示すブロック図である。なお、実施の形態1で説明した構成と同一の構成については、同一の符号を付する。図17に示すように、実施の形態2の撮像システム1bは、撮像部11bと、入力部12と、表示部13と、記録部14bと、画像処理部15bと、これら各部の動作を制御する制御部16bとを備える。
実施の形態2では、撮像部11bは、撮影用レンズや単板式の撮像素子等で構成されるデジタルカメラまたはデジタルビデオカメラで構成され、1画素当たり1チャンネルの信号を出力する。単板式の撮像素子は、例えばモノクロの撮像素子上にRGBの各色の原色フィルタを市松模様状にベイヤー配列したものである。
図18は、RGB各色の原色フィルタの配列例を示す図である。図18に示すような原色フィルタを具備した単板式の撮像素子を用いる場合には、近傍の画素値を利用することで不足するR,G,B成分を補間する。なお、図18では、Rチャンネルと水平方向に隣接するGチャンネルをGrと表記し、Bチャンネルと水平方向に隣接するGチャンネルをGbと表記しているが、実施の形態2では、GrとGbとを別個のチャンネルとして扱う。すなわち、撮像部11bは、1画素当たりRチャンネル、Grチャンネル、GbチャンネルおよびBチャンネルのいずれか1チャンネルの信号を出力する。
また、記録部14bには、撮像システム1bを動作させ、この撮像システム1bが備える種々の機能を実現するためのプログラムや、このプログラムの実行中に使用されるデータ等が記録される。また、撮像部11bによって撮像された画像データが記録される。
そして、画像処理部15bは、OB/AGC処理部151と、ノイズ低減処理部20bと、WB処理部153と、補間処理部159bと、色変換処理部154と、階調変換処理部155と、YC分離処理部156と、エッジ強調処理部157と、データ圧縮記録処理部158とを備える。
ここで、補間処理部159bは、WB処理部153から入力された画像データに対して補間処理を施す。具体的には、補間処理部159bは、1画素当たり1チャンネルの信号を1画素当たりRGB3チャンネルに同時化する。処理後のRGB各色の画像データは、色変換処理部154に出力される。
次に、実施の形態2のノイズ低減処理部20bについて説明する。図19は、ノイズ低減処理部20bの構成例を示すブロック図である。
図19に示すように、ノイズ低減処理部20bは、画素抽出部21bと、同一チャンネル信号選択部27bと、画素グループ形成部30bと、画素グループ類似度算出部40bと、画素値類似度算出部24bと、フィルタ係数算出部25bと、平滑化処理部26bとを備える。
OB/AGC処理部151からの画像データは、画素抽出部21bに入力される。画素抽出部21bは、各画素を順番に処理対象とし、処理対象の画素である注目画素をノイズ低減処理する際に参照する処理画素領域を抽出する。実施の形態2では、ノイズ低減処理に際し、実施の形態1と同様に注目画素を中心とした5×5画素を参照する。このため、画素抽出部21bは、注目画素を中心として注目画素と同一チャンネルの5×5画素を含むように、注目画素を中心とした9×9の画素領域を処理画素領域として抽出する。抽出された処理画素領域は、同一チャンネル信号選択部27bに出力される。
同一チャンネル信号選択部27bは、画素抽出部21bによって抽出された処理画素領域の中から、注目画素およびこの注目画素と同一チャンネルの25個の画素を選択する。チャンネルが同一である画素の配置は図18に示した原色フィルタの配列によって定まる。図20は、画素抽出部21bによって抽出される処理画素領域の一例を示す図であり、図20中において、同一チャンネル信号選択部27bによって選択される注目画素およびこの注目画素と同一チャンネルの25画素にハッチングを付して示している。ここで、図20中に示すように、選択される注目画素およびこの注目画素と同一チャンネルの25画素の画素値をPx+i,y+j(i=−4,−2,0,2,4;j=−4,−2,0,2,4)と定義する。x,yは、画像データ中での注目画素の水平座標(x座標)および垂直座標(y座標)を示す。また、i,jは、抽出された処理画素領域中での各画素の水平方向の相対座標(i)および垂直方向の相対座標(j)を示す。
以上のようにして選択された注目画素およびこの注目画素と同一チャンネルの25画素の画素値(Px+i,y+jの各値)は、画素グループ形成部30bの画素グループ群代表類似度算出部31bおよび画素値類似度算出部24bにそれぞれ出力される。
画素グループ形成部30bは、同一チャンネル信号選択部27bから入力された25画素の画素値Px+i,y+jをもとに画素グループを形成する。画素グループの形成方法は実施の形態1と同様に実現できるが、実施の形態2では、画素抽出部21bが抽出した9×9の処理画素領域の中から同一チャンネル信号選択部27bが選択した注目画素を含む25画素(以下、「選択画素」と呼ぶ。)を対象に処理を行い、画素グループを形成する。
図21−1〜5は、実施の形態2で候補とする5通りの画素グループ群の一例を示す図である。なお、各図21−1〜5において、ハッチングの種類によって同一の画素グループに属する選択画素を識別して示している。
すなわち、図21−1に示すように、処理画素領域内の選択画素を列方向の5画素毎に区分した5つの画素グループg10_2〜g14_2で構成される垂直相関画素グループ群を1つ目の候補とする。また、図21−2に示すように、処理画素領域内の選択画素を行方向の5画素毎に区分した5つの画素グループg20_2〜g24_2で構成される水平相関画素グループ群を2つ目の候補とする。また、図21−3に示すように、処理画素領域内の選択画素を左上がりの斜め方向に沿って区分した5つの画素グループg30_2〜g34_2で構成される左斜相関画素グループ群を3つ目の候補とする。また、図21−4に示すように、処理画素領域内の選択画素を右上がりの斜め方向に沿って区分した5つの画素グループg40_2〜g44_2で構成される右斜相関画素グループ群を4つ目の候補とする。そして、図21−5に示すように、各画素グループを構成する画素がそれぞれ中央の注目画素を中心として点対称となるように、処理画素領域内の選択画素を5つの画素グループg50_2〜g54_2に区分した等方相関画素グループ群を5つ目の候補とする。
実際には、図19に示すように、画素グループ形成部30bは、実施の形態1と同様に、画素グループ群代表類似度算出部31bと、代表画素グループ群選択部32とを備え、各部の処理によって画素グループを形成する(代表画素グループ群を選択する)。
先ず、画素グループ群代表類似度算出部31bが、処理画素領域内を各候補の画素グループ群に区分した際の画素グループ群代表類似度をそれぞれ算出する。なお、図示しないが、画素グループ群代表類似度算出部31bは、実施の形態1の画素グループ群代表類似度算出部31(図5を参照)と同様に、垂直相関画素グループ群代表類似度算出部と、水平相関画素グループ群代表類似度算出部と、左斜相関画素グループ群代表類似度算出部と、右斜相関画素グループ群代表類似度算出部と、等方相関画素グループ群代表類似度算出部とを備える。
そして、実施の形態2では、垂直相関画素グループ群代表類似度算出部は、処理画素領域内の選択画素を垂直相関画素グループ群に区分した場合の画素グループ群代表類似度SGvを算出する。図22は、実施の形態2における画素グループ群代表類似度SGvの算出原理を説明する説明図である。なお、図22中において、処理画素領域中の選択画素にハッチングを付して示している。垂直相関画素グループ群代表類似度算出部311は、図22中に矢印a11で示すように、垂直方向に隣接する選択画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGvとする。この画素グループ群代表類似度SGvの算出式は、次式(42)で表される。
SGv=|Px-4,y-2−Px-4,y|+|Px-4,y−Px-4,y+2|+|Px-2,y-4−Px-2,y-2
+|Px-2,y-2−Px-2,y|+|Px-2,y−Px-2,y+2|+|Px-2,y+2−Px-2,y+4
+|Px,y-4−Px,y-2|+|Px,y-2−Px,y|+|Px,y−Px,y+2
+|Px,y+2−Px,y+4|+|Px+2,y-4−Px+2,y-2|+|Px+2,y-2−Px+2,y
+|Px+2,y−Px+2,y+2|+|Px+2,y+2−Px+2,y+4|+|Px+4,y-2−Px+4,y
+|Px+4,y−Px+4,y+2| ・・・(42)
また、水平相関画素グループ群代表類似度算出部は、処理画素領域内の選択画素を水平相関画素グループ群に区分した場合の画素グループ群代表類似度SGhを算出する。図23は、実施の形態2における画素グループ群代表類似度SGhの算出原理を説明する説明図である。なお、図23中において、処理画素領域中の選択画素にハッチングを付して示している。水平相関画素グループ群代表類似度算出部312は、図23中に矢印a12で示すように、水平方向に隣接する選択画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGhとする。この画素グループ群代表類似度SGhの算出式は、次式(43)で表される。
SGh=|Px-2,y-4−Px,y-4|+|Px,y-4−Px+2,y-4|+|Px-4,y-2−Px-2,y-2
+|Px-2,y-2−Px,y-2|+|Px,y-2−Px+2,y-2|+|Px+2,y-2−Px+4,y-2
+|Px-4,y−Px-2,y|+|Px-2,y−Px,y|+|Px,y−Px+2,y
+|Px+2,y−Px+4,y|+|Px-4,y+2−Px-2,y+2|+|Px-2,y+2-Px,y+2
+|Px,y+2−Px+2,y+2|+|Px+2,y+2-Px+4,y+2|+|Px-2,y+4−Px,y+4
+|Px,y+4-Px+2,y+4| ・・・(43)
また、左斜相関画素グループ群代表類似度算出部は、処理画素領域内の選択画素を左斜相関画素グループ群に区分した場合の画素グループ群代表類似度SGbを算出する。図24は、実施の形態2における画素グループ群代表類似度SGbの算出原理を説明する説明図である。なお、図24中において、処理画素領域中の選択画素にハッチングを付して示している。左斜相関画素グループ群代表類似度算出部313は、図24中に矢印a13で示すように、左上がりの斜め方向に隣接する選択画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGbとする。この画素グループ群代表類似度SGbの算出式は、次式(44)で表される。
SGb=|Px+2,y-4−Px+4,y-2|+|Px,y-4−Px+2,y-2|+|Px+2,y-2−Px+4,y
+|Px-2,y-4−Px,y-2|+|Px,y-2−Px+2,y|+|Px+2,y−Px+4,y+2
+|Px-4,y-4−Px-2,y-2|+|Px-2,y-2−Px,y|+|Px,y−Px+2,y+2
+|Px+2,y+2−Px+4,y+4|+|Px-4,y-2−Px-2,y|+|Px-2,y−Px,y+2
+|Px,y+2−Px+2,y+4|+|Px-4,y−Px-2,y+2|+|Px-2,y+2−Px,y+4
+|Px-4,y+2−Px-2,y+4| ・・・(44)
また、右斜相関画素グループ群代表類似度算出部は、処理画素領域内の選択画素を右斜相関画素グループ群に区分した場合の画素グループ群代表類似度SGsを算出する。図25は、実施の形態2における画素グループ群代表類似度SGsの算出原理を説明する説明図である。なお、図25中において、処理画素領域中の選択画素にハッチングを付して示している。右斜相関画素グループ群代表類似度算出部314は、図25中に矢印a14で示すように、右上がりの斜め方向に隣接する選択画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGsとする。この画素グループ群代表類似度SGsの算出式は、次式(45)で表される。
SGs=|Px-4,y-2−Px-2,y-4|+|Px-4,y−Px-2,y-2|+|Px-2,y-2−Px,y-4
+|Px-4,y+2−Px-2,y|+|Px-2,y−Px,y-2|+|Px,y-2−Px+2,y-4
+|Px-4,y+4−Px-2,y+2|+|Px-2,y+2−Px,y|+|Px,y−Px+2,y-2
+|Px+2,y-2−Px+4,y-4|+|Px-2,y+4−Px,y+2|+|Px,y+2−Px+2,y
+|Px+2,y−Px+4,y-2|+|Px,y+4−Px+2,y+2|+|Px+2,y+2−Px+4,y
+|Px+2,y+4−Px+4,y+2| ・・・(45)
また、等方相関画素グループ群代表類似度算出部は、処理画素領域内の選択画素を等方相関画素グループ群に区分した場合の画素グループ群代表類似度SGeを算出する。図26は、実施の形態2における画素グループ群代表類似度SGeの算出原理を説明する説明図である。なお、図26中において、処理画素領域中の選択画素にハッチングを付して示している。等方相関画素グループ群代表類似度算出部315は、図26中に矢印a15で示すように、注目画素を中心として放射状に隣接する選択画素間で例えば画素値の差分絶対値を隣接画素類似度として算出し、その総和を画素グループ群代表類似度SGeとする。この画素グループ群代表類似度SGeの算出式は、次式(46)で表される。
SGe=|Px-4,y+4−Px-2,y+2|+|Px-2,y+2−Px,y|+|Px,y−Px+2,y-2
+|Px+2,y-2−Px+4,y-4|+|Px-4,y-4−Px-2,y-2|+|Px-2,y-2−Px,y
+|Px,y−Px+2,y+2|+|Px+2,y+2−Px+4,y+4|+|Px,y-4−Px,y-2
+|Px,y-2−Px,y|+|Px,y−Px,y+2|+|Px,y+2−Px,y+4
+|Px-4,y−Px-2,y|+|Px-2,y−Px,y|+|Px,y−Px+2,y
+|Px+2,y−Px+4,y| ・・・(46)
以上のようにして算出された候補毎の5つの画素グループ群代表類似度SGv,SGh,SGb,SGs,SGeは、代表画素グループ群選択部32に出力される。
代表画素グループ群選択部32は、実施の形態1と同様の要領で、画素グループ群代表類似度算出部31bから入力された5つの画素グループ群代表類似度SGv,SGh,SGb,SGs,SGeをもとに処理画素領域の画素値分布に最もマッチングしている区分パターンを判定し、代表画素グループ群を選択する。そして、代表画素グループ群選択部32は、代表画素グループ群として選択した画素グループ群のインデックス値を画素グループ類似度算出部40bに出力する。
画素グループ類似度算出部40bは、図19に示すように、画素グループ代表値算出部41bと、画素グループ代表値類似度算出部43とを備え、各部の処理によって、処理画素領域について形成された画素グループ間の類似度を算出する。
画素グループ代表値算出部41bは、同一チャンネル信号選択部27bから入力された25画素の画素値Px+i,y+jをもとに、処理画素領域について形成した各画素グループの画素グループ代表値A0,A1,A2,A3、A4を算出する。画素グループ代表値の算出方法は実施の形態1と同様に実現できる。
例えば、画素グループ代表値算出部41bは、代表画素グループ群選択部32から垂直相関画素グループ群のインデックス値“0”が入力された場合には、次式(47)〜(51)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg12_2(図21−1参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
また、画素グループ代表値算出部41bは、代表画素グループ群選択部32から水平相関画素グループ群のインデックス値“1”が入力された場合には、次式(52)〜(56)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg22_2(図21−2参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
また、画素グループ代表値算出部41bは、代表画素グループ群選択部32から左斜相関画素グループ群のインデックス値“2”が入力された場合には、次式(57)〜(61)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg32_2(図21−3参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
また、画素グループ代表値算出部41bは、代表画素グループ群選択部32から右斜相関画素グループ群のインデックス値“3”が入力された場合には、次式(62)〜(66)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg42_2(図21−4参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
また、画素グループ代表値算出部41bは、代表画素グループ群選択部32から等方相関画素グループ群のインデックス値“4”が入力された場合には、次式(67)〜(71)に従って画素グループ代表値A0,A1,A2,A3、A4を算出する。ここで、注目画素を含む画素グループg52_2(図21−5参照)の画素グループ代表値がA0に対応している。
Figure 0005220677
以上のようにして算出された各画素グループ代表値A0,A1,A2,A3、A4は、画素グループ代表値類似度算出部43に出力される。
画素グループ代表値類似度算出部43は、実施の形態1と同様の要領で、先ず、画素グループ代表値算出部41bから入力された各画素グループの画素グループ代表値A0,A1,A2,A3、A4をもとに、画素グループ代表値類似度SGnを算出する。そして、画素グループ代表値類似度算出部43は、実施の形態1と同様の要領で、算出した画素グループ代表値類似度SGnをもとに、次式(72)に従って処理画素領域内の各画素に画素グループ類似度SGx+i,y+jを設定する。
Figure 0005220677
また、画素値類似度算出部24bは、同一チャンネル信号選択部27bから入力された25画素の画素値Px+i,y+jをもとに、各画素の画素値類似度SPx+i,y+jを算出する。例えば、各画素の画素値類似度SPx+i,y+jを、注目画素Px,yとの画素値の差分の絶対値として算出する。この画素値類似度SPx+i,y+jは次式(73)によって表される。算出された各画素の画素値類似度SPx+i,y+jは、フィルタ係数算出部25bに出力される。
SPx+i,y+j=|Px+i,y+j−Px,y| ・・・(73)
(ただし、i=−4,−2,0,2,4;j=−4,−2,0,2,4)
フィルタ係数算出部25bは、画素グループ代表値類似度算出部43から入力された画素グループ類似度SGx+i,y+jと画素値類似度算出部24bから入力された画素値類似度SPx+i,y+jとをもとに、処理画素領域内の各画素に適用するフィルタ係数を算出する。具体的には、実施の形態1と同様の要領で、画素グループ類似度SGx+i,y+jおよび画素値類似度SPx+i,y+jをそれぞれガウス関数値の重みとし、次式(74)に従ってフィルタ係数Cx+i,y+jを算出する。算出されたフィルタ係数Cx+i,y+jは、平滑化処理部26bに出力される。
Figure 0005220677
ここで、σg値およびσp値は、制御部16bから処理パラメータの値として通知される値であり、実施の形態1と同様の要領で制御部16bが設定し、フィルタ係数算出部25bに通知する値である。
平滑化処理部26bは、同一チャンネル信号選択部27bから入力された25画素の画素値Px+i,y+jと、フィルタ係数算出部25bから入力されたフィルタ係数Cx+i,y+jとをもとに注目画素を平滑化処理する。具体的には、次式(78)に従って、注目画素の画素値Px,yを平滑化処理した平滑化画素値Pfx,yを得る。得られた平滑化画素値Pfx,yは、WB処理部153に出力される。
Figure 0005220677
以上説明した実施の形態2によれば、原色フィルタを用いた単板式の撮像素子等で撮像部11bを構成した場合であっても、実施の形態1と同様の効果を奏することができ、画像の微細構造を潰さずに保存しつつ高精度にノイズを低減し、ノイズ低減効果を向上させることができる。
なお、実施の形態2の画像処理部15bについても、実施の形態1と同様にハードウェアで構成する場合に限定されるものではなく、図13や図14に例示したようなコンピュータシステム1000のCPU1011が画像処理プログラムを実行することによってソフトウェアとして実現することとしてもよい。
図27は、本変形例においてCPU1011が行う処理手順を示す全体フローチャートである。なお、図27において、実施の形態1と同様の処理工程には、同一の符号を付しており、説明は省略する。
図27に示すように、本変形例では、ノイズ低減処理後のRAW画像に対してホワイトバランス補正処理を施した後(ステップS9)、続いて、補間処理を施す(ステップS10)。そして、続くステップS11では、補間処理後のRAW画像に色変換処理を施す。
(実施の形態3)
次に、実施の形態3について説明する。実施の形態3では、時系列に沿って画像を連続的に撮影して得た動画像を処理対象としている。
図28は、実施の形態3の撮像システムが備える画像処理部のノイズ低減処理部20cの構成例を示すブロック図である。実施の形態3の撮像システムは、実施の形態2で図17を参照して説明した撮像システム1bと同様に構成され、図17の制御部16bを図28に示す制御部16cに置き換えるとともに、図17のノイズ低減処理部20bを図28に示すノイズ低減処理部20cに置き換えた構成で実現できる。
図28に示すように、ノイズ低減処理部20cは、現フレーム画素抽出部21cと、現フレーム同一チャンネル信号選択部27cと前フレーム画素抽出部28cと、前フレーム同一チャンネル信号選択部29cと、画素グループ形成部30cと、画素グループ類似度算出部40cと、画素値類似度算出部24cと、フィルタ係数算出部25cと、平滑化処理部26cと、フレームメモリ50cとを備える。
ここで、フレームメモリ50cは、ノイズ低減処理を施した現フレーム(現画像)を次のフレームで前フレーム(過去画像)として参照できるよう、ノイズ低減処理後の現フレームを保持しておくためのものである。このフレームメモリ50cは、2フレーム分の画像データを格納するための領域を備える。具体的には、前回ノイズ低減処理された前フレーム中の各画素の平滑化画素値が格納される格納領域と、今回ノイズ低減処理された現フレーム中の各画素の平滑化画素値が格納される格納領域とを備える。例えば、格納領域を環状に管理し、1フレーム分のノイズ低減処理が終了した時点で次のフレームの格納領域を切り換えるリングバッファを用いることができる。
OB/AGC処理部151からの画像データは、現フレーム画素抽出部21cに入力される。現フレーム画素抽出部21cは、現フレーム中の各画素を順番に処理対象とし、処理対象の画素である注目画素をノイズ低減処理する際に参照する現画像画素領域としての処理画素領域(現フレーム処理画素領域)を抽出する。具体的には、現フレーム画素抽出部21cは、実施の形態2で説明した画素抽出部21bと同様の要領で、現フレーム中の注目画素を中心とした9×9の画素領域を現フレーム処理画素領域として抽出する。抽出された現フレーム処理画素領域は、現フレーム同一チャンネル信号選択部27cに出力される。
現フレーム同一チャンネル信号選択部27cは、実施の形態2で説明した同一チャンネル信号選択部27bと同様の要領で、現フレーム画素抽出部21cによって抽出された現フレーム処理画素領域の中から注目画素およびこの注目画素と同一チャンネルの25個の画素を選択する。以上のようにして現フレーム処理画素領域から選択された注目画素およびこの注目画素と同一チャンネルの25画素の画素値(Px+i,y+jの各値)は、画素グループ形成部30cの現フレーム画素グループ群代表類似度算出部31cと画素値類似度算出部24cとにそれぞれ出力される。
一方、フレームメモリ50cに保持されている直前のフレーム(前フレーム)の画像データが前フレーム画素抽出部28cに入力される。前フレーム画素抽出部28cは、前フレーム中の各画素を順番に処理対象とし、処理対象の画素である注目画素をノイズ低減処理する際に参照する過去画像画素領域としての画素領域(前フレーム処理画素領域)を抽出する。具体的には、前フレーム画素抽出部28cは、現フレーム画素抽出部21cと同様に、前フレーム中の注目画素を中心とした9×9の画素領域を前フレーム処理画素領域として抽出する。抽出された前フレーム処理画素領域は、前フレーム同一チャンネル信号選択部29cに出力される。
前フレーム同一チャンネル信号選択部29cは、現フレーム同一チャンネル信号選択部27cと同様にして、前フレーム画素抽出部28cによって抽出された前フレーム処理画素領域の中から注目画素およびこの注目画素と同一チャンネルの25個の画素を選択する。以上のようにして前フレーム処理画素領域から選択された注目画素およびこの注目画素と同一チャンネルの25画素の画素値(Px+i,y+jの各値)は、画素グループ形成部30cの前フレーム画素グループ群代表類似度算出部33cと画素値類似度算出部24cとにそれぞれ出力される。
図29は、現フレーム画素抽出部21cによって時刻t=0の現フレームから抽出される現フレーム処理画素領域r(0)および前フレーム画素抽出部28cによって時刻t=−1の前フレームから抽出される前フレーム処理画素領域r(−1)の一例を示す図である。この図29中に示す現フレーム処理画素領域r(0)において、現フレーム同一チャンネル信号選択部27cによって選択される注目画素およびこの注目画素と同一チャンネルの25画素にハッチングを付して示している。同様に、図29中に示す前フレーム処理画素領域r(−1)において、前フレーム同一チャンネル信号選択部29cによって選択される注目画素およびこの注目画素と同一チャンネルの25画素にハッチングを付して示している。
ここで、図29中に示すように、現フレーム同一チャンネル信号選択部27cによって現フレーム処理画素領域r(0)から選択される注目画素およびこの注目画素と同一チャンネルの各画素の画素値をPx+i,y+j(i=−4,−2,0,2,4;j=−4,−2,0,2,4)と定義する。一方、前フレーム同一チャンネル信号選択部29cによって前フレーム処理画素領域r(−1)から選択される注目画素およびこの注目画素と同一チャンネルの各画素の画素値をP´x+i,y+j(i=−4,−2,0,2,4;j=−4,−2,0,2,4)と定義する。x,yは、対応するフレームの画像データ中での注目画素の水平座標(x座標)および垂直座標(y座標)を示す。また、i,jは、抽出された現フレーム処理画素領域または前フレーム処理画素領域中での各画素の水平方向の相対座標(i)および垂直方向の相対座標(j)を示す。
画素グループ形成部30cは、図28に示すように、第1の画素グループ群代表類似度算出部としての現フレーム画素グループ群代表類似度算出部31cと、第1の代表画素グループ群選択部としての現フレーム代表画素グループ群選択部32cとを含む。そして、現フレーム画素グループ群代表類似度算出部31cおよび現フレーム代表画素グループ群選択部32cによって、現フレーム画素抽出部21cが抽出した9×9の現フレーム処理画素領域の中から現フレーム同一チャンネル信号選択部27cが選択した注目画素を含む25画素(以下、「現フレーム選択画素」と呼ぶ。)を対象に処理を行い、画素グループを形成する。
さらに、画素グループ形成部30cは、第2の画素グループ群代表類似度算出部としての前フレーム画素グループ群代表類似度算出部33cと、第2の代表画素グループ群選択部としての前フレーム代表画素グループ群選択部34cとを含む。そして、前フレーム画素グループ群代表類似度算出部33cおよび前フレーム代表画素グループ群選択部34cによって、前フレーム画素抽出部28cが抽出した9×9の前フレーム処理画素領域の中から前フレーム同一チャンネル信号選択部29cが選択した注目画素を含む25画素(以下、「前フレーム選択画素」と呼ぶ。)を対象に処理を行い、画素グループを形成する。
ここで、画素グループ形成部30cが現フレームに対して行う処理および前フレームに対して行う処理を順番に説明する。現フレームに対して行う処理では先ず、現フレーム画素グループ群代表類似度算出部31cが、現フレーム処理画素領域内を各候補の画素グループ群に区分した際の画素グループ群代表類似度(現画像画素グループ群代表類似度)をそれぞれ算出する。なお、図示しないが、現フレーム画素グループ群代表類似度算出部31cは、実施の形態2の画素グループ群代表類似度算出部31bと同様に、垂直相関画素グループ群代表類似度算出部と、水平相関画素グループ群代表類似度算出部と、左斜相関画素グループ群代表類似度算出部と、右斜相関画素グループ群代表類似度算出部と、等方相関画素グループ群代表類似度算出部とを備える。
そして、実施の形態3では、現フレーム画素グループ群代表類似度算出部31cの垂直相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、現フレーム処理画素領域内の現フレーム選択画素を垂直相関画素グループ群に区分した場合の画素グループ群代表類似度SGv(0)を次式(79)に従って算出する。
SGv(0)=|Px-4,y-2−Px-4,y|+|Px-4,y−Px-4,y+2
+|Px-2,y-4−Px-2,y-2|+|Px-2,y-2−Px-2,y
+|Px-2,y−Px-2,y+2|+|Px-2,y+2−Px-2,y+4
+|Px,y-4−Px,y-2|+|Px,y-2−Px,y
+|Px,y−Px,y+2|+|Px,y+2−Px,y+4
+|Px+2,y-4−Px+2,y-2|+|Px+2,y-2−Px+2,y
+|Px+2,y−Px+2,y+2|+|Px+2,y+2−Px+2,y+4
+|Px+4,y-2−Px+4,y|+|Px+4,y−Px+4,y+2| ・・・(79)
また、現フレーム画素グループ群代表類似度算出部31cの水平相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、現フレーム処理画素領域内の現フレーム中選択画素を水平相関画素グループ群に区分した場合の画素グループ群代表類似度SGh(0)を次式(80)に従って算出する。
SGh(0)=|Px-2,y-4−Px,y-4|+|Px,y-4−Px+2,y-4
+|Px-4,y-2−Px-2,y-2|+|Px-2,y-2−Px,y-2
+|Px,y-2−Px+2,y-2|+|Px+2,y-2−Px+4,y-2
+|Px-4,y−Px-2,y|+|Px-2,y−Px,y
+|Px,y−Px+2,y|+|Px+2,y−Px+4,y
+|Px-4,y+2−Px-2,y+2|+|Px-2,y+2-Px,y+2
+|Px,y+2−Px+2,y+2|+|Px+2,y+2-Px+4,y+2
+|Px-2,y+4−Px,y+4|+|Px,y+4-Px+2,y+4|・・・(80)
また、現フレーム画素グループ群代表類似度算出部31cの左斜相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、現フレーム処理画素領域内の現フレーム中選択画素を左斜相関画素グループ群に区分した場合の画素グループ群代表類似度SGb(0)を次式(81)に従って算出する。
SGb(0)=|Px+2,y-4−Px+4,y-2|+|Px,y-4−Px+2,y-2
+|Px+2,y-2−Px+4,y|+|Px-2,y-4−Px,y-2
+|Px,y-2−Px+2,y|+|Px+2,y−Px+4,y+2
+|Px-4,y-4−Px-2,y-2|+|Px-2,y-2−Px,y
+|Px,y−Px+2,y+2|+|Px+2,y+2−Px+4,y+4
+|Px-4,y-2−Px-2,y|+|Px-2,y−Px,y+2
+|Px,y+2−Px+2,y+4|+|Px-4,y−Px-2,y+2
+|Px-2,y+2−Px,y+4|+|Px-4,y+2−Px-2,y+4| ・・・(81)
また、現フレーム画素グループ群代表類似度算出部31cの右斜相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、現フレーム処理画素領域内の現フレーム中選択画素を右斜相関画素グループ群に区分した場合の画素グループ群代表類似度SGs(0)を次式(82)に従って算出する。
SGs(0)=|Px-4,y-2−Px-2,y-4|+|Px-4,y−Px-2,y-2
+|Px-2,y-2−Px,y-4|+|Px-4,y+2−Px-2,y
+|Px-2,y−Px,y-2|+|Px,y-2−Px+2,y-4
+|Px-4,y+4−Px-2,y+2|+|Px-2,y+2−Px,y
+|Px,y−Px+2,y-2|+|Px+2,y-2−Px+4,y-4
+|Px-2,y+4−Px,y+2|+|Px,y+2−Px+2,y
+|Px+2,y−Px+4,y-2|+|Px,y+4−Px+2,y+2
+|Px+2,y+2−Px+4,y|+|Px+2,y+4−Px+4,y+2| ・・・(82)
また、現フレーム画素グループ群代表類似度算出部31cの等方相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、現フレーム処理画素領域内の現フレーム中選択画素を等方相関画素グループ群に区分した場合の画素グループ群代表類似度SGe(0)を次式(83)に従って算出する。
SGe(0)=|Px-4,y+4−Px-2,y+2|+|Px-2,y+2−Px,y
+|Px,y−Px+2,y-2|+|Px+2,y-2−Px+4,y-4
+|Px-4,y-4−Px-2,y-2|+|Px-2,y-2−Px,y
+|Px,y−Px+2,y+2|+|Px+2,y+2−Px+4,y+4
+|Px,y-4−Px,y-2|+|Px,y-2−Px,y
+|Px,y−Px,y+2|+|Px,y+2−Px,y+4
+|Px-4,y−Px-2,y|+|Px-2,y−Px,y
+|Px,y−Px+2,y|+|Px+2,y−Px+4,y| ・・・(83)
以上のようにして算出された候補毎の5つの画素グループ群代表類似度SGv(0),SGh(0),SGb(0),SGs(0),SGe(0)は、現フレーム代表画素グループ群選択部32cに出力される。
現フレーム代表画素グループ群選択部32cは、実施の形態1と同様の要領で、現フレーム画素グループ群代表類似度算出部31cから入力された5つの画素グループ群代表類似度SGv(0),SGh(0),SGb(0),SGs(0),SGe(0)をもとに現フレーム処理画素領域の画素値分布に最もマッチングしている区分パターンを判定し、代表画素グループ群(第1の代表画素グループ群)を選択する。そして、現フレーム代表画素グループ群選択部32cは、代表画素グループ群として選択した画素グループ群のインデックス値を画素グループ類似度算出部40cに出力する。
一方、前フレームに対して行う処理としては先ず、前フレーム画素グループ群代表類似度算出部33cが、前フレーム処理画素領域内を各候補の画素グループ群に区分した際の画素グループ群代表類似度(過去画像画素グループ群代表類似度)をそれぞれ算出する。なお、図示しないが、前フレーム画素グループ群代表類似度算出部33cは、実施の形態2の画素グループ群代表類似度算出部31bと同様に、垂直相関画素グループ群代表類似度算出部と、水平相関画素グループ群代表類似度算出部と、左斜相関画素グループ群代表類似度算出部と、右斜相関画素グループ群代表類似度算出部と、等方相関画素グループ群代表類似度算出部とを備える。
そして、実施の形態3では、前フレーム画素グループ群代表類似度算出部33cの垂直相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、前フレーム処理画素領域内の前フレーム選択画素を垂直相関画素グループ群に区分した場合の画素グループ群代表類似度SGv(−1)を次式(84)に従って算出する。
SGv(−1)=|P´x-4,y-2−P´x-4,y|+|P´x-4,y−P´x-4,y+2
+|P´x-2,y-4−P´x-2,y-2|+|P´x-2,y-2−P´x-2,y
+|P´x-2,y−P´x-2,y+2|+|P´x-2,y+2−P´x-2,y+4
+|P´x,y-4−P´x,y-2|+|P´x,y-2−P´x,y
+|P´x,y−P´x,y+2|+|P´x,y+2−P´x,y+4
+|P´x+2,y-4−P´x+2,y-2|+|P´x+2,y-2−P´x+2,y
+|P´x+2,y−P´x+2,y+2|+|P´x+2,y+2−P´x+2,y+4
+|P´x+4,y-2−P´x+4,y
+|P´x+4,y−P´x+4,y+2|・・・(84)
また、前フレーム画素グループ群代表類似度算出部33cの水平相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、前フレーム処理画素領域内の前フレーム中選択画素を水平相関画素グループ群に区分した場合の画素グループ群代表類似度SGh(−1)を次式(85)に従って算出する。
SGh(−1)=|P´x-2,y-4−P´x,y-4|+|P´x,y-4−P´x+2,y-4
+|P´x-4,y-2−P´x-2,y-2|+|P´x-2,y-2−P´x,y-2
+|P´x,y-2−P´x+2,y-2|+|P´x+2,y-2−P´x+4,y-2
+|P´x-4,y−P´x-2,y|+|P´x-2,y−P´x,y
+|P´x,y−P´x+2,y|+|P´x+2,y−P´x+4,y
+|P´x-4,y+2−P´x-2,y+2|+|P´x-2,y+2-P´x,y+2
+|P´x,y+2−P´x+2,y+2|+|P´x+2,y+2-P´x+4,y+2
+|P´x-2,y+4−P´x,y+4
+|P´x,y+4-P´x+2,y+4| ・・・(85)
また、前フレーム画素グループ群代表類似度算出部33cの左斜相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、前フレーム処理画素領域内の前フレーム中選択画素を左斜相関画素グループ群に区分した場合の画素グループ群代表類似度SGb(−1)を次式(86)に従って算出する。
SGb(−1)=|P´x+2,y-4−P´x+4,y-2|+|P´x,y-4−P´x+2,y-2
+|P´x+2,y-2−P´x+4,y|+|P´x-2,y-4−P´x,y-2
+|P´x,y-2−P´x+2,y|+|P´x+2,y−P´x+4,y+2
+|P´x-4,y-4−P´x-2,y-2|+|P´x-2,y-2−P´x,y
+|P´x,y−P´x+2,y+2|+|P´x+2,y+2−P´x+4,y+4
+|P´x-4,y-2−P´x-2,y|+|P´x-2,y−P´x,y+2
+|P´x,y+2−P´x+2,y+4|+|P´x-4,y−P´x-2,y+2
+|P´x-2,y+2−P´x,y+4
+|P´x-4,y+2−P´x-2,y+4| ・・・(86)
また、前フレーム画素グループ群代表類似度算出部33cの右斜相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、前フレーム処理画素領域内の前フレーム中選択画素を右斜相関画素グループ群に区分した場合の画素グループ群代表類似度SGs(−1)を次式(87)に従って算出する。
SGs(−1)=|P´x-4,y-2−P´x-2,y-4|+|P´x-4,y−P´x-2,y-2
+|P´x-2,y-2−P´x,y-4|+|P´x-4,y+2−P´x-2,y
+|P´x-2,y−P´x,y-2|+|P´x,y-2−P´x+2,y-4
+|P´x-4,y+4−P´x-2,y+2|+|P´x-2,y+2−P´x,y
+|P´x,y−P´x+2,y-2|+|P´x+2,y-2−P´x+4,y-4
+|P´x-2,y+4−P´x,y+2|+|P´x,y+2−P´x+2,y
+|P´x+2,y−P´x+4,y-2|+|P´x,y+4−P´x+2,y+2
+|P´x+2,y+2−P´x+4,y
+|P´x+2,y+4−P´x+4,y+2| ・・・(87)
また、前フレーム画素グループ群代表類似度算出部33cの等方相関画素グループ群代表類似度算出部は、実施の形態2と同様の要領で、前フレーム処理画素領域内の前フレーム中選択画素を等方相関画素グループ群に区分した場合の画素グループ群代表類似度SGe(−1)を次式(88)に従って算出する。
SGe(−1)=|P´x-4,y+4−P´x-2,y+2|+|P´x-2,y+2−P´x,y
+|P´x,y−P´x+2,y-2|+|P´x+2,y-2−P´x+4,y-4
+|P´x-4,y-4−P´x-2,y-2|+|P´x-2,y-2−P´x,y
+|P´x,y−P´x+2,y+2|+|P´x+2,y+2−P´x+4,y+4
+|P´x,y-4−P´x,y-2|+|P´x,y-2−P´x,y
+|P´x,y−P´x,y+2|+|P´x,y+2−P´x,y+4
+|P´x-4,y−P´x-2,y|+|P´x-2,y−P´x,y
+|P´x,y−P´x+2,y
+|P´x+2,y−P´x+4,y| ・・・(88)
以上のようにして算出された候補毎の5つの画素グループ群代表類似度SGv(−1),SGh(−1),SGb(−1),SGs(−1),SGe(−1)は、前フレーム代表画素グループ群選択部34cに出力される。
前フレーム代表画素グループ群選択部34cは、実施の形態1と同様の要領で、前フレーム画素グループ群代表類似度算出部33cから入力された5つの画素グループ群代表類似度SGv(−1),SGh(−1),SGb(−1),SGs(−1),SGe(−1)をもとに前フレーム処理画素領域の画素値分布に最もマッチングしている区分パターンを判定し、代表画素グループ群(第2の代表画素グループ群)を選択する。そして、前フレーム代表画素グループ群選択部34cは、代表画素グループ群として選択した画素グループ群のインデックス値を画素グループ類似度算出部40cに出力する。
画素グループ類似度算出部40cは、図28に示すように、現フレーム画素グループ代表値算出部41cと、前フレーム画素グループ代表値算出部42cと、画素グループ代表値類似度算出部43cとを備え、各部の処理によって、現フレーム処理画素領域について形成された画素グループ間の類似度を算出する。
現フレーム画素グループ代表値算出部41cは、現フレーム同一チャンネル信号選択部27cから入力された25画素の画素値Px+i,y+jをもとに、現フレーム処理画素領域について形成した各画素グループの画素グループ代表値B0,B1,B2,B3、B4を算出する。画素グループ代表値B0,B1,B2,B3、B4の算出方法は実施の形態2で説明した画素グループ代表値の算出方法と同様に実現できる。算出された各画素グループ代表値B0,B1,B2,B3、B4は、画素グループ代表値類似度算出部43cに出力される。
例えば、現フレーム画素グループ代表値算出部41cは、現フレーム代表画素グループ群選択部32cから垂直相関画素グループ群のインデックス値“0”が入力された場合には、次式(89)〜(93)に従って画素グループ代表値B0,B1,B2,B3、B4を算出する。
Figure 0005220677
また、現フレーム画素グループ代表値算出部41cは、現フレーム代表画素グループ群選択部32cから水平相関画素グループ群のインデックス値“1”が入力された場合には、次式(94)〜(98)に従って画素グループ代表値B0,B1,B2,B3、B4を算出する。
Figure 0005220677
また、現フレーム画素グループ代表値算出部41cは、現フレーム代表画素グループ群選択部32cから左斜相関画素グループ群のインデックス値“2”が入力された場合には、次式(99)〜(103)に従って画素グループ代表値B0,B1,B2,B3、B4を算出する。
Figure 0005220677
また、現フレーム画素グループ代表値算出部41cは、現フレーム代表画素グループ群選択部32cから右斜相関画素グループ群のインデックス値“3”が入力された場合には、次式(104)〜(108)に従って画素グループ代表値B0,B1,B2,B3、B4を算出する。
Figure 0005220677
また、現フレーム画素グループ代表値算出部41cは、現フレーム代表画素グループ群選択部32cから等方相関画素グループ群のインデックス値“4”が入力された場合には、次式(109)〜(113)に従って画素グループ代表値B0,B1,B2,B3、B4を算出する。
Figure 0005220677
以上のようにして算出された各画素グループ代表値B0,B1,B2,B3、B4は、画素グループ代表値類似度算出部43cに出力される。
一方、前フレーム画素グループ代表値算出部42cは、前フレーム同一チャンネル信号選択部29cから入力された25画素の画素値P´x+i,y+jをもとに、前フレーム処理画素領域について形成した各画素グループの画素グループ代表値C0,C1,C2,C3、C4を算出する。画素グループ代表値C0,C1,C2,C3、C4の算出方法は画素グループ代表値B0,B1,B2,B3、B4の算出方法と同様に実現できる。算出された各画素グループ代表値C0,C1,C2,C3、C4は、画素グループ代表値類似度算出部43cに出力される。
例えば、前フレーム画素グループ代表値算出部42cは、前フレーム代表画素グループ群選択部34cから垂直相関画素グループ群のインデックス値“0”が入力された場合には、次式(114)〜(118)に従って画素グループ代表値C0,C1,C2,C3、C4を算出する。
Figure 0005220677
また、前フレーム画素グループ代表値算出部42cは、前フレーム代表画素グループ群選択部34cから水平相関画素グループ群のインデックス値“1”が入力された場合には、次式(119)〜(123)に従って画素グループ代表値C0,C1,C2,C3、C4を算出する。
Figure 0005220677
また、前フレーム画素グループ代表値算出部42cは、前フレーム代表画素グループ群選択部34cから左斜相関画素グループ群のインデックス値“2”が入力された場合には、次式(124)〜(128)に従って画素グループ代表値C0,C1,C2,C3、C4を算出する。
Figure 0005220677
また、前フレーム画素グループ代表値算出部42cは、前フレーム代表画素グループ群選択部34cから右斜相関画素グループ群のインデックス値“3”が入力された場合には、次式(129)〜(133)に従って画素グループ代表値C0,C1,C2,C3、C4を算出する。
Figure 0005220677
また、前フレーム画素グループ代表値算出部42cは、前フレーム代表画素グループ群選択部34cから等方相関画素グループ群のインデックス値“4”が入力された場合には、次式(134)〜(138)に従って画素グループ代表値C0,C1,C2,C3、C4を算出する。
Figure 0005220677
以上のようにして算出された各画素グループ代表値C0,C1,C2,C3、C4は、画素グループ代表値類似度算出部43cに出力される。
画素グループ代表値類似度算出部43cは、先ず、現フレーム画素グループ代表値算出部41cから入力された画素グループ代表値B0,B1,B2,B3、B4および前フレーム画素グループ代表値算出部42cから入力された画素グループ代表値C0,C1,C2,C3、C4をもとに、次式(139)に従って画素グループ代表値類似度を算出する。ここで、kは現フレームを示す“0”または前フレームを示す“−1”である。nは画素グループのインデックス値(n=0,1,2,3,4)である。また、B0は、現フレーム中の注目画素が属する画素グループの画素グループ代表値である。
SGn,k=0=|Bn−B0|,SGn,k=-1=|Cn−B0| ・・・(139)
続いて、画素グループ代表値類似度算出部43cは、算出した画素グループ代表値類似度SGn,k=0,SGn,k=-1をもとに、次式(140)に従って現フレーム処理画素領域および前フレーム処理画素領域内の各画素に画素グループ類似度SGx+i,y+j,kを設定する。画素毎に設定された画素グループ類似度SGx+i,y+j,kは、フィルタ係数算出部25cに出力される。
Figure 0005220677
画素値類似度算出部24cは、現フレーム同一チャンネル信号選択部27cおよび前フレーム同一チャンネル信号選択部29cからそれぞれ入力された25画素の画素値Px+i,y+j,P´x+i,y+jをもとに、各画素の画素値類似度SPx+i,y+j,kを算出する。例えば、各画素の画素値類似度SPx+i,y+j,kを、現フレーム中の注目画素Px,yとの画素値の差分の絶対値として算出する。この画素値類似度SPx+i,y+j,kは次式(141),(142)によって表される。ここで、kは現フレームを示す“0”または前フレームを示す“−1”である。算出された各画素の画素値類似度SPx+i,y+j,kは、フィルタ係数算出部25cに出力される。
SPx+i,y+j,0=|Px+i,y+j−Px,y| ・・・(141)
SPx+i,y+j,-1=|P´x+i,y+j−Px,y| ・・・(142)
(ただし、i=−4,−2,0,2,4;j=−4,−2,0,2,4)
フィルタ係数算出部25cは、画素グループ代表値類似度算出部43cから入力された画素グループ類似度SGx+i,y+j,kと画素値類似度算出部24cから入力された画素値類似度SPx+i,y+j,kとをもとに、現フレーム処理画素領域内の各画素および前フレーム処理画素領域内の各画素にそれぞれ適用するフィルタ係数Cx+i,y+j,kを算出する。具体的には、実施の形態1と同様の要領で、画素グループ類似度SGx+i,y+j,kおよび画素値類似度SPx+i,y+j,kをそれぞれガウス関数値の重みとし、次式(143)に従ってフィルタ係数Cx+i,y+j,kを算出する。算出されたフィルタ係数Cx+i,y+j,kは、平滑化処理部26cに出力される。
Figure 0005220677
ここで、σg,k値およびσp,k値は、制御部16cから処理パラメータの値として通知される値であり、実施の形態1と同様の要領で制御部16cが設定し、フィルタ係数算出部25cに通知する値である。また、実施の形態3では、現フレームと前フレームとで適用するσg,k値およびσp,k値を個別に設定できるようになっている。実施の形態3では、ノイズ低減処理部20cがフレーム巡回型の構成となっており、被写体とカメラとの相対的な動きに伴い発生する残像が長時間継続する巡回型ならではの不具合が生じる場合がある。この種の不具合が、前フレーム用に設定するσ値(σg,-1値およびσp,-1値)を現フレーム用に設定するσ(σg,0値およびσp,0値)値よりも小さく設定することで低減できるからである。σg,0値やσp,0値と比べてσg,-1値やσp,-1値が小さいということは、画素グループ類似度SGx+i,y+j,kや画素値類似度SPx+i,y+j,kの各値が同レベルであっても、重み付けされたガウス関数値Wgx+i,y+j,-1やWpx+i,y+j,-1の値が、Wgx+i,y+j,0やWpx+i,y+j,0の値よりも小さくなる。すなわち、重みを小さくする作用をもたらす。
なお、ノイズ低減処理の前段で現フレームと前フレームとの間で公知の動き補償処理を行う構成としてもよい。これによれば、被写体とカメラとの相対的な動きを補償し、前フレームから抽出される画素領域Px+i,y+jと現フレームから抽出されるP´x+i,y+jとの間の相対的な動き量を消すことができるので、上記したような残像の発生を抑えることができる。この場合には、ノイズ低減処理部20cでは、入力される各フレームの画像を静止画像と見なして処理できる。したがって、前フレームに対するσ値を小さく抑えるといった制御は必要なく、ノイズ低減効果を向上させることができる。
平滑化処理部26cは、現フレーム同一チャンネル信号選択部27cから入力された25画素の画素値Px+i,y+jと、前フレーム同一チャンネル信号選択部29cから入力された25画素の画素値P´x+i,y+jと、フィルタ係数算出部25cから入力されたフィルタ係数Cx+i,y+j,kとをもとに注目画素を平滑化処理する。具体的には、次式(147)に従って、注目画素の画素値Px,yを平滑化処理した平滑化画素値Pfx,yを得る。得られた平滑化画素値Pfx,yは、WB処理部に出力されるとともに、フレームメモリ50cに格納される。
Figure 0005220677
以上説明した実施の形態3によれば、前フレームの画素値を考慮してフィルタ係数を算出し、算出したフィルタ係数を用いて注目画素を平滑化処理することができる。これによれば、フレーム間の相関性を考慮した巡回型のノイズ低減処理を実現でき、より精度良く微細構造を潰さずに保存しつつノイズを低減し、ノイズ低減効果を向上させることができる。
なお、上記第3の実施の形態では、ノイズ低減処理に用いる前フレームとしてノイズ低減処理後の画像データを用いることとした。これに対し、ノイズ低減処理部20cに入力されたノイズ低減処理前の現フレームの画素値をフレームメモリに保持しておく構成とし、前フレームとしてノイズ低減処理前の画像データを用いることとしてもよい。
また、実施の形態3で説明したノイズ低減処理部20cについても、実施の形態1と同様にハードウェアで構成する場合に限定されるものではなく、図13や図14に例示したようなコンピュータシステム1000のCPU1011が画像処理プログラムを実行することによってソフトウェアとして実現することとしてもよい。
図30は、本変形例においてCPU1011が行うノイズ低減処理の詳細な処理手順を示すフローチャートである。
図30に示すように、ノイズ低減処理では、先ず、現フレームから、注目画素を含む現フレーム処理画素領域を抽出する(ステップS801)。続いて、ステップS801で抽出した現フレーム処理画素領域内を予め複数通り用意される各候補の画素グループ群に区分した際の画素グループ群代表類似度を、上記した式(79)〜(83)に従ってそれぞれ算出する(ステップS803)。そして、算出した各候補の画素グループ群代表類似度をもとに、現フレーム処理画素領域について代表画素グループ群を選択する(ステップS805)。
続いて、ステップS801で抽出した現フレーム処理画素領域内の各画素の画素値をもとに、ステップS805で選択した代表画素グループ群に応じた各画素グループの画素グループ代表値を、上記した式(89)〜(113)のうちの対応する式に従って算出する(ステップS807)。そして、現フレームが先頭フレームか否かを判定する。先頭フレームであれば(ステップS809:Yes)、ステップS807で現フレーム処理画素領域について算出した画素グループ代表値をもとに、上記した式(139)に従って画素グループ代表値類似度を算出する(ステップS811)。そして、算出した画素グループ代表値類似度をもとに、上記した式(140)に従って現フレーム処理画素領域内の各画素に画素グループ類似度を設定する(ステップS813)。
また、ステップS801で抽出した現フレーム処理画素領域内の各画素の画素値をもとに、上記した式(141)に従って各画素の画素値類似度を算出する(ステップS815)。
そして、上記した式(143)に従い、ステップS813で現フレーム処理画素領域内の各画素に設定した画素グループ類似度とステップS815で現フレーム処理画素領域内の画素毎に算出した画素値類似度とをもとに処理パラメータの値を用いて現フレーム処理画素領域に対するフィルタ係数を算出する(ステップS817)。また、前フレームが存在しないため、前フレーム処理画素領域に対するフィルタ係数を“ゼロ”にセットする(ステップS819)。その後、ステップS839に移行する。
一方、ステップS809で現フレームが先頭フレームでないと判定した場合には(ステップS809:No)、前回現フレームとして平滑化処理され、後述するステップS841でフレームメモリに格納される前フレームを読み出し、読み出した前フレームから、注目画素を含む前フレーム処理画素領域を抽出する(ステップS821)。続いて、ステップS821で抽出した前フレーム処理画素領域内を予め複数通り用意される各候補の画素グループ群に区分した際の画素グループ群代表類似度を、上記した式(84)〜(88)に従ってそれぞれ算出する(ステップS823)。そして、算出した各候補の画素グループ群代表類似度をもとに、前フレーム処理画素領域について代表画素グループ群を選択する(ステップS825)。
続いて、ステップS821で抽出した前フレーム処理画素領域内の各画素の画素値をもとに、ステップS825で選択した代表画素グループ群に応じた各画素グループの画素グループ代表値を、上記した式(114)〜(138)のうちの対応する式に従って算出する(ステップS827)。
続いて、上記した式(139)に従い、ステップS807で現フレーム処理画素領域について算出した画素グループ代表値をもとに画素グループ代表値類似度を算出するとともに、ステップS827で前フレーム処理画素領域について算出した画素グループ代表値をもとに画素グループ代表値類似度を算出する(ステップS829)。そして、上記した式(140)に従い、算出した画素グループ代表値類似度をもとに現フレーム処理画素領域内の各画素に画素グループ類似度を設定するとともに、前フレーム処理画素領域内の各画素に画素グループ類似度を設定する(ステップS831)。
また、ステップS801で抽出した現フレーム処理画素領域内の各画素の画素値をもとに各画素の画素値類似度を上記した式(141)に従って算出するとともに、ステップS821で抽出した前フレーム処理画素領域内の各画素の画素値をもとに上記した式(142)に従って各画素の画素値類似度を算出する(ステップS833)。
そして、上記した式(143)に従い、ステップS831で設定した画素グループ類似度とステップS833で算出した画素値類似度とをもとに処理パラメータの値を用いて現フレーム処理画素領域および前フレーム処理画素領域に対するフィルタ係数を算出する(ステップS835)。その後、ステップS837に移行する。
そして、ステップS837では、上記した式(147)に従って、ステップS835で算出したフィルタ係数をもとに平滑化処理を行い、平滑化画素値を算出する。得られた平滑化画素値は、WB処理部に出力されるとともに、フレームメモリに格納される。
その後、未処理の画素がある場合には(ステップS839:Yes)、ステップS801に戻り、未処理の画素を注目画素としてステップS801〜ステップS837の処理を行う。一方、未処理の画素がなければ(ステップS839:No)、本処理を終える。
実施の形態1における撮像システムの全体構成例を示すブロック図である。 実施の形態1におけるノイズ低減処理部の構成例を示すブロック図である。 実施の形態1における処理画素領域の一例を示す図である。 実施の形態1において候補とする画素グループ群の一例を示す図である。 実施の形態1において候補とする画素グループ群の他の例を示す図である。 実施の形態1において候補とする画素グループ群の他の例を示す図である。 実施の形態1において候補とする画素グループ群の他の例を示す図である。 実施の形態1において候補とする画素グループ群の他の例を示す図である。 画素グループ群代表類似度算出部の構成を示すブロック図である。 実施の形態1における画素グループ群代表類似度の算出原理を説明する説明図である。 実施の形態1における画素グループ群代表類似度の算出原理を説明する説明図である。 実施の形態1における画素グループ群代表類似度の算出原理を説明する説明図である。 実施の形態1における画素グループ群代表類似度の算出原理を説明する説明図である。 実施の形態1における画素グループ群代表類似度の算出原理を説明する説明図である。 ゲイン量またはISO感度とσg値との対応関係をグラフ化した図である。 ゲイン量またはISO感度とσP値との対応関係をグラフ化した図である。 変形例におけるコンピュータシステムの構成を示すシステム構成図である。 図13のコンピュータシステムにおける本体部の構成を示すブロック図である。 変形例におけるCPUの処理手順を示す全体フローチャートである。 ノイズ低減処理の詳細な処理手順を示すフローチャートである。 実施の形態2における撮像システムの全体構成例を示すブロック図である。 RGB各色の原色フィルタの配列例を示す図である。 ノイズ低減処理部の構成例を示すブロック図である。 実施の形態2における処理画素領域の一例を示す図である。 実施の形態2において候補とする画素グループ群の一例を示す図である。 実施の形態2において候補とする画素グループ群の他の例を示す図である。 実施の形態2において候補とする画素グループ群の他の例を示す図である。 実施の形態2において候補とする画素グループ群の他の例を示す図である。 実施の形態2において候補とする画素グループ群の他の例を示す図である。 実施の形態2における画素グループ群代表類似度の算出原理を説明する説明図である。 実施の形態2における画素グループ群代表類似度の算出原理を説明する説明図である。 実施の形態2における画素グループ群代表類似度の算出原理を説明する説明図である。 実施の形態2における画素グループ群代表類似度の算出原理を説明する説明図である。 実施の形態2における画素グループ群代表類似度の算出原理を説明する説明図である。 変形例におけるCPUの処理手順を示す全体フローチャートである。 実施の形態3の撮像システムが備える画像処理部のノイズ低減処理部の構成例を示すブロック図である。 現フレーム処理画素領域および前フレーム処理画素領域の一例を示す図である。 本変形例におけるノイズ低減処理の詳細な処理手順を示すフローチャートである。
1,1b 撮像システム
11,11b 撮像部
12 入力部
13 表示部
14,14b 記録部
15,15b 画像処理部
151 OB/AGC処理部
20,20b,20c ノイズ低減処理部
21,21b 画素抽出部
21c 現フレーム画素抽出部
30,30b,30c 画素グループ形成部
31,31b 画素グループ群代表類似度算出部
31c 現フレーム画素グループ群代表類似度算出部
311 垂直相関画素グループ群代表類似度算出部
312 水平相関画素グループ群代表類似度算出部
313 左斜相関画素グループ群代表類似度算出部
314 右斜相関画素グループ群代表類似度算出部
315 等方相関画素グループ群代表類似度算出部
32 代表画素グループ群選択部
32c 現フレーム代表画素グループ群選択部
33c 前フレーム画素グループ群代表類似度算出部
34c 前フレーム代表画素グループ群選択部
40,40b,40c 画素グループ類似度算出部
41,41b 画素グループ代表値算出部
41c 現フレーム画素グループ代表値算出部
42c 前フレーム画素グループ代表値算出部
43,43c 画素グループ代表値類似度算出部
24,24b,24c 画素値類似度算出部
25,25b,25c フィルタ係数算出部
26,26b,26c 平滑化処理部
27b 同一チャンネル信号選択部
27c 現フレーム同一チャンネル信号選択部
28c 前フレーム画素抽出部
29c 前フレーム同一チャンネル信号選択部
50c フレームメモリ
153 WB処理部
154 色変換処理部
155 階調変換処理部
156 YC分離処理部
157 エッジ強調処理部
158 データ圧縮記録処理部
159b 補間処理部
16,16b,16c 制御部

Claims (16)

  1. 画像データを入力する画像データ入力部と、
    前記画像データから、処理対象の注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を抽出する画素抽出部と、
    前記画素領域内の各画素を前記画素領域内の画素値分布に応じて区分し、複数の画素グループを形成する画素グループ形成部と、
    前記画素グループ毎に、該各画素グループに属する前記画素領域内の画素に設定する画素グループ類似度として、前記注目画素を含む画素グループとの間の類似度を算出する画素グループ類似度算出部と、
    前記注目画素の画素値をもとに、前記画素領域内の各画素の画素値類似度を算出する画素値類似度算出部と、
    前記画素グループ類似度と前記画素値類似度とをもとに、前記画素領域内の画素に適用するフィルタ係数を算出するフィルタ係数算出部と、
    前記画素領域内の画素値と前記フィルタ係数とをもとに、前記注目画素の画素値を平滑化処理する平滑化処理部と、
    を備えることを特徴とする画像処理装置。
  2. 前記画素グループ形成部は、
    予め定められる複数の区分パターンに従って前記画素領域内を複数の画素グループに区分した複数通りの画素グループ群の候補毎に画素グループ群代表類似度を算出する画素グループ群代表類似度算出部と、
    前記画素グループ群代表類似度をもとに、前記複数通りの画素グループ群の候補の中から前記画素領域の画素値分布に適合する画素グループ群の候補を代表画素グループ群として選択する代表画素グループ群選択部と、
    を備え、前記代表画素グループ群の選択によって前記画素グループを形成することを特徴とする請求項1に記載の画像処理装置。
  3. 前記画素グループ群代表類似度算出部は、前記画素グループ群の候補を構成する画素グループ毎に該画素グループに属する隣接画素間の類似度を算出し、算出した類似度の総和を前記画素グループ群代表類似度として算出することを特徴とする請求項2に記載の画像処理装置。
  4. 前記画素グループ群代表類似度算出部は、前記隣接画素の画素値の差分絶対値を前記隣接画素間の類似度として算出することを特徴とする請求項3に記載の画像処理装置。
  5. 前記代表画素グループ群選択部は、前記複数通りの画素グループ群の候補毎に算出した画素グループ群代表類似度のうち、値が最も小さい画素グループ群代表類似度の画素グループ群の候補を前記代表画素グループ群として選択することを特徴とする請求項4に記載の画像処理装置。
  6. 前記画素グループ類似度算出部は、
    前記複数の画素グループ毎に、画素グループ代表値を算出する画素グループ代表値算出部と、
    前記画素グループ代表値をもとに、前記注目画素を含む画素グループとの間の画素グループ代表値類似度を前記複数の画素グループ毎に算出する画素グループ代表値類似度算出部と、
    を備えることを特徴とする請求項1に記載の画像処理装置。
  7. 前記画素グループ代表値算出部は、前記画素グループに属する各画素の画素値平均を前記画素グループ代表値として算出することを特徴とする請求項6に記載の画像処理装置。
  8. 前記画素グループ代表値類似度算出部は、前記画素グループの画素グループ代表値と前記注目画素を含む画素グループの画素グループ代表値との差分絶対値を、前記画素グループ代表値類似度として算出することを特徴とする請求項6に記載の画像処理装置。
  9. 前記画素値類似度算出部は、前記画素領域内の各画素について、前記注目画素の画素値との差分絶対値を前記画素値類似度として算出することを特徴とする請求項1に記載の画像処理装置。
  10. 前記フィルタ係数算出部は、前記画素グループ類似度が低いほど値が小さく算出される第1の関数値と、前記画素値類似度が低いほど値が小さく算出される第2の関数値とを乗算して前記フィルタ係数を算出することを特徴とする請求項1に記載の画像処理装置。
  11. 前記第1の関数値および第2の関数値は、それぞれガウス関数を用いて算出されることを特徴とする請求項10に記載の画像処理装置。
  12. 前記画像データ入力部は、連続した画像列を構成する各画像を時系列順に順次入力し、
    前記画素抽出部は、現画像の画像データから前記注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を現画像画素領域として抽出するとともに、過去画像の画像データから前記注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を過去画像画素領域として抽出し、
    前記画素グループ形成部は、前記現画像画素領域について前記画素グループを形成するとともに、前記過去画像画素領域について前記画素グループを形成し、
    前記画素グループ類似度算出部は、前記現画像画素領域について前記画素グループ類似度を算出するとともに、前記過去画像画素領域について前記画素グループ類似度を算出し、
    前記画素値類似度算出部は、前記現画像画素領域内の各画素について前記画素値類似度を算出するとともに、前記過去画像画素領域内の各画素について前記画素値類似度を算出し、
    前記フィルタ係数算出部は、前記現画像画素領域について算出した前記画素グループ類似度と前記現画像画素領域内の各画素について算出した前記画素値類似度とをもとに前記現画像画素領域内の画素に適用するフィルタ係数を算出するとともに、前記過去画像画素領域について算出した前記画素グループ類似度と前記過去画像画素領域内の各画素について算出した前記画素値類似度とをもとに前記過去画像画素領内の画素に適用するフィルタ係数を算出し、
    前記平滑化処理部は、前記現画像画素領域内の画素値と、前記過去画像画素領域内の画素値と、前記現画像画素領域内の画素および前記過去画像画素領域内の画素にそれぞれ適用する前記フィルタ係数とをもとに、前記現画像画素領域内の前記注目画素の画素値を平滑化処理することを特徴とする請求項1に記載の画像処理装置。
  13. 前記画素グループ形成部は、
    予め定められる複数の区分パターンに従って前記現画像画素領域内を複数の画素グループに区分した複数通りの画素グループ群の候補毎に、現画像画素グループ群代表類似度を算出する第1の画素グループ群代表類似度算出部と、
    前記現画像画素グループ群代表類似度をもとに、前記複数通りの画素グループ群の候補の中から前記現画像画素領域の画素値分布に適合する画素グループ群の候補を、第1の代表画素グループ群として選択する第1の代表画素グループ群選択部と、
    予め定められる複数の区分パターンに従って前記過去画像画素領域内を複数の画素グループに区分した複数通りの画素グループ群の候補毎に、過去画像画素グループ群代表類似度を算出する第2の画素グループ群代表類似度算出部と、
    前記過去画像画素グループ群代表類似度をもとに、前記複数通りの画素グループ群の候補の中から前記過去画像画素領域の画素値分布に適合する画素グループ群の候補を、第2の代表画素グループ群として選択する第2の代表画素グループ群選択部と、
    を備え、前記第1の代表画素グループ群の選択によって前記現画像画素領域について前記画素グループを形成し、前記第2の代表画素グループ群の選択によって前記過去画像画素領域について前記画素グループを形成することを特徴とする請求項12に記載の画像処理装置。
  14. 前記過去画像は、前記平滑化処理部によって平滑化処理された画像データであることを特徴とする請求項13に記載の画像処理装置。
  15. 画像データを入力する画像データ入力工程と、
    前記画像データから、処理対象の注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を抽出する画素抽出工程と、
    前記画素領域内の各画素を前記画素領域内の画素値分布に応じて区分し、複数の画素グループを形成する画素グループ形成工程と、
    前記画素グループ毎に、該各画素グループに属する前記画素領域内の画素に設定する画素グループ類似度として、前記注目画素を含む画素グループとの間の類似度を算出する画素グループ類似度算出工程と、
    前記注目画素の画素値をもとに、前記画素領域内の各画素の画素値類似度を算出する画素値類似度算出工程と、
    前記画素グループ類似度と前記画素値類似度とをもとに、前記画素領域内の画素に適用するフィルタ係数を算出するフィルタ係数算出工程と、
    前記画素領域内の画素値と前記フィルタ係数とをもとに、前記注目画素の画素値を平滑化処理する平滑化処理工程と、
    を含むことを特徴とする画像処理方法。
  16. コンピュータに、
    画像データを入力する画像データ入力手順と、
    前記画像データから、処理対象の注目画素と該注目画素の周辺に位置する周辺画素とを含む画素領域を抽出する画素抽出手順と、
    前記画素領域内の各画素を前記画素領域内の画素値分布に応じて区分し、複数の画素グループを形成する画素グループ形成手順と、
    前記画素グループ毎に、該各画素グループに属する前記画素領域内の画素に設定する画素グループ類似度として、前記注目画素を含む画素グループとの間の類似度を算出する画素グループ類似度算出手順と、
    前記注目画素の画素値をもとに、前記画素領域内の各画素の画素値類似度を算出する画素値類似度算出手順と、
    前記画素グループ類似度と前記画素値類似度とをもとに、前記画素領域内の画素に適用するフィルタ係数を算出するフィルタ係数算出手順と、
    前記画素領域内の画素値と前記フィルタ係数とをもとに、前記注目画素の画素値を平滑化処理する平滑化処理手順と、
    を実行させることを特徴とする画像処理プログラム。
JP2009094429A 2009-04-08 2009-04-08 画像処理装置、画像処理方法および画像処理プログラム Expired - Fee Related JP5220677B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009094429A JP5220677B2 (ja) 2009-04-08 2009-04-08 画像処理装置、画像処理方法および画像処理プログラム
US12/754,765 US8199223B2 (en) 2009-04-08 2010-04-06 Image processing device, image processing method, and computer readable storage medium storing image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009094429A JP5220677B2 (ja) 2009-04-08 2009-04-08 画像処理装置、画像処理方法および画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2010245977A JP2010245977A (ja) 2010-10-28
JP5220677B2 true JP5220677B2 (ja) 2013-06-26

Family

ID=42934069

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009094429A Expired - Fee Related JP5220677B2 (ja) 2009-04-08 2009-04-08 画像処理装置、画像処理方法および画像処理プログラム

Country Status (2)

Country Link
US (1) US8199223B2 (ja)
JP (1) JP5220677B2 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2149330B1 (en) * 2007-05-08 2016-05-18 Olympus Corporation Image processing apparatus and image processing program
JP5296396B2 (ja) * 2008-03-05 2013-09-25 オリンパスメディカルシステムズ株式会社 生体内画像取得装置、生体内画像受信装置、生体内画像表示装置およびノイズ除去方法
JP2010278929A (ja) * 2009-05-29 2010-12-09 Toshiba Corp 画像処理装置
US8619163B2 (en) * 2009-09-18 2013-12-31 Canon Kabushiki Kaisha Solid state imaging using a correction parameter for correcting a cross talk between adjacent pixels
WO2011161883A1 (ja) * 2010-06-25 2011-12-29 株式会社ニコン 画像処理装置および画像処理プログラム
JP5726482B2 (ja) * 2010-11-08 2015-06-03 株式会社東芝 画像処理装置及びそれを用いたx線診断装置、画像処理装置の作動方法
JP5665508B2 (ja) * 2010-11-30 2015-02-04 キヤノン株式会社 画像処理装置及び方法、並びにプログラム及び記憶媒体
CN102572416B (zh) * 2010-12-22 2014-11-05 中兴通讯股份有限公司 视频滤波方法及装置
GB2489272B (en) * 2011-03-23 2013-03-13 Toshiba Res Europ Ltd An image processing system and method
JP5575048B2 (ja) * 2011-04-14 2014-08-20 京セラドキュメントソリューションズ株式会社 画像処理装置および画像形成装置
KR101248808B1 (ko) * 2011-06-03 2013-04-01 주식회사 동부하이텍 경계 영역의 잡음 제거 장치 및 방법
JP5715533B2 (ja) * 2011-09-13 2015-05-07 Kddi株式会社 動画像画質復元装置、動画像画質復元方法、およびプログラム
JP5766077B2 (ja) * 2011-09-14 2015-08-19 キヤノン株式会社 ノイズ低減のための画像処理装置及び画像処理方法
JP5868090B2 (ja) * 2011-09-20 2016-02-24 三菱電機株式会社 画像処理装置、画像処理方法、撮像装置、コンピュータプログラム及びコンピュータ読み取り可能な記録媒体
TWI492621B (zh) * 2012-02-10 2015-07-11 Novatek Microelectronics Corp 適應性影像處理方法及其相關裝置
JP5880121B2 (ja) * 2012-02-21 2016-03-08 株式会社リコー 画像処理装置
TWI525554B (zh) * 2012-05-11 2016-03-11 Ili Technology Corp 基於預檢測之影像資料壓縮編碼方法
KR101910870B1 (ko) * 2012-06-29 2018-10-24 삼성전자 주식회사 잡음 제거 장치, 시스템 및 방법
JP5900625B2 (ja) * 2012-08-29 2016-04-06 富士通株式会社 画像変換プログラム、画像変換装置、および画像変換方法
JP6071419B2 (ja) * 2012-10-25 2017-02-01 キヤノン株式会社 画像処理装置及び画像処理方法
US9280806B2 (en) * 2013-01-10 2016-03-08 Broadcom Corporation Edge smoothing block filtering and blending
JP5991932B2 (ja) * 2013-02-08 2016-09-14 三菱電機株式会社 撮像装置
JP6161326B2 (ja) 2013-02-27 2017-07-12 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
CN104794686B (zh) * 2014-01-20 2018-06-12 富士通株式会社 图像平滑方法和图像平滑装置
JP6546385B2 (ja) * 2014-10-02 2019-07-17 キヤノン株式会社 画像処理装置及びその制御方法、プログラム
JP5977909B1 (ja) * 2014-10-15 2016-08-24 オリンパス株式会社 信号処理装置及び内視鏡システム
JP6349614B2 (ja) 2015-05-15 2018-07-04 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 画像処理方法及び画像処理システム
JP6594075B2 (ja) * 2015-07-22 2019-10-23 キヤノン株式会社 画像処理装置、撮像システム、画像処理方法
US10467735B2 (en) * 2015-08-25 2019-11-05 Interdigital Vc Holdings, Inc. Inverse tone mapping based on luminance zones
CN105376505B (zh) * 2015-11-04 2018-10-09 上海兆芯集成电路有限公司 相似块融合方法以及使用该方法的装置
JP2017098863A (ja) * 2015-11-27 2017-06-01 ソニー株式会社 情報処理装置、および情報処理方法、並びにプログラム
JP6598660B2 (ja) * 2015-12-01 2019-10-30 キヤノン株式会社 画像処理装置および画像処理方法
JP6627528B2 (ja) * 2016-01-25 2020-01-08 株式会社Jvcケンウッド 画像処理方法及び画像処理装置
EP3203439B1 (en) * 2016-02-04 2019-10-02 InterDigital VC Holdings, Inc. Method and device for reducing noise in a component of a picture
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
KR20200068457A (ko) * 2018-12-05 2020-06-15 삼성전자주식회사 에지 보전 스무딩을 수행하는 이미지 프로세싱 장치 및 이의 이미지 프로세싱 방법
CN110781477B (zh) * 2019-04-02 2021-01-29 宁波潮涌道投资合伙企业(有限合伙) 基于读取大数据的反推系统
JP7403994B2 (ja) * 2019-08-21 2023-12-25 富士フイルムヘルスケア株式会社 医用画像処理装置および医用画像処理方法
US11328390B2 (en) 2020-05-13 2022-05-10 Ambu A/S Method for adaptive denoising and sharpening and visualization systems implementing the method
JP2022183102A (ja) * 2021-05-28 2022-12-08 三星電子株式会社 イメージ信号プロセッサを含むイメージセンサ及びその動作方法

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0620255B2 (ja) 1985-03-11 1994-03-16 三菱電機株式会社 画像信号平滑化フイルタ
JP4066484B2 (ja) * 1997-12-08 2008-03-26 ソニー株式会社 画像処理装置および画像処理方法、並びにカメラ
JP4626007B2 (ja) * 1999-06-14 2011-02-02 株式会社ニコン 画像処理方法、画像処理プログラムを記録した機械読み取り可能な記録媒体、および画像処理装置
JP4051196B2 (ja) * 2001-11-08 2008-02-20 オリンパス株式会社 ノイズリダクションシステム、ノイズリダクション方法、ノイズリダクションプログラム、及び電子カメラ
US7317842B2 (en) * 2003-10-30 2008-01-08 Samsung Electronics Co., Ltd. Global and local statistics controlled noise reduction system
US7995868B2 (en) * 2004-10-19 2011-08-09 Megachips Corporation Image processing method and image processing device
JP4840740B2 (ja) * 2004-12-01 2011-12-21 株式会社メガチップス 画素補間方法および画像判定方法
JP4577565B2 (ja) * 2005-03-03 2010-11-10 ソニー株式会社 画像処理方法、画像処理装置、プログラム、および撮影装置
JP4780374B2 (ja) 2005-04-21 2011-09-28 Nkワークス株式会社 粒状ノイズ抑制のための画像処理方法及びプログラム及びこの方法を実施する粒状抑制処理モジュール
JP4869653B2 (ja) * 2005-08-03 2012-02-08 オリンパス株式会社 画像処理装置
BRPI0621549A2 (pt) * 2006-04-11 2011-12-13 Thomson Licensing técnica de filtro de conteúdo adaptativo
JP5006067B2 (ja) * 2006-06-29 2012-08-22 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法
US8139891B2 (en) * 2006-11-03 2012-03-20 Siemens Aktiengesellschaft System and method for structure enhancement and noise reduction in medical images
JP4653059B2 (ja) 2006-11-10 2011-03-16 オリンパス株式会社 撮像システム、画像処理プログラム
JP5041886B2 (ja) * 2007-06-13 2012-10-03 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法
JP4863505B2 (ja) * 2007-08-07 2012-01-25 株式会社メガチップス 画像処理装置
JP4740912B2 (ja) * 2007-08-13 2011-08-03 オリンパス株式会社 画像処理装置、撮像装置、画像処理プログラム、画像処理方法
JP4982897B2 (ja) * 2007-08-27 2012-07-25 株式会社メガチップス 画像処理装置
WO2009037803A1 (ja) * 2007-09-20 2009-03-26 Panasonic Corporation 画像ノイズ除去装置、画像ノイズ除去方法及び画像ノイズ除去プログラム
WO2010058497A1 (ja) * 2008-11-21 2010-05-27 三菱電機株式会社 画像処理装置及び画像処理方法
JP5197414B2 (ja) * 2009-02-02 2013-05-15 オリンパス株式会社 画像処理装置及び画像処理方法
JP2010239492A (ja) * 2009-03-31 2010-10-21 Olympus Corp 撮像装置および映像信号のノイズ低減方法
JP5169994B2 (ja) * 2009-05-27 2013-03-27 ソニー株式会社 画像処理装置、撮像装置及び画像処理方法

Also Published As

Publication number Publication date
JP2010245977A (ja) 2010-10-28
US8199223B2 (en) 2012-06-12
US20100259650A1 (en) 2010-10-14

Similar Documents

Publication Publication Date Title
JP5220677B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP4770154B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
US8526729B2 (en) Image processing apparatus and method, and program
JP5269718B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
CN110557584B (zh) 图像处理方法及装置、计算机可读存储介质
JP4523008B2 (ja) 画像処理装置および撮像装置
JP2010218110A (ja) ノイズ低減装置、ノイズ低減方法、ノイズ低減プログラム、記録媒体
JP2013218487A (ja) 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
US20080298714A1 (en) Image edge correction apparatus and method
JP2007041834A (ja) 画像処理装置
CN103873836B (zh) 图像处理设备和图像处理方法
JP2010153969A (ja) 撮像装置
JP2013162347A (ja) 画像処理装置、画像処理方法、プログラム、および装置
JP2014086956A (ja) 画像処理装置及び画像処理方法
US8830359B2 (en) Image processing apparatus, imaging apparatus, and computer readable medium
JP6320053B2 (ja) 画像処理装置、画像処理方法、及びコンピュータプログラム
JP2011171842A (ja) 画像処理装置及び画像処理プログラム
EP2421239B1 (en) Image processing apparatus and method for applying film grain effects
JP6614824B2 (ja) 画像処理装置、画像処理システム、撮像装置、画像処理方法およびプログラム
JP5846885B2 (ja) 画像処理装置及び画像処理方法
JP2019045981A (ja) 画像処理装置、画像処理方法及びプログラム
JP6245847B2 (ja) 画像処理装置および画像処理方法
JP2013207427A (ja) 撮像装置および撮像方法
JP6218520B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5277388B2 (ja) 画像処理装置および撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130306

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5220677

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees