JPWO2008105268A1 - 画像処理方法 - Google Patents

画像処理方法 Download PDF

Info

Publication number
JPWO2008105268A1
JPWO2008105268A1 JP2009501189A JP2009501189A JPWO2008105268A1 JP WO2008105268 A1 JPWO2008105268 A1 JP WO2008105268A1 JP 2009501189 A JP2009501189 A JP 2009501189A JP 2009501189 A JP2009501189 A JP 2009501189A JP WO2008105268 A1 JPWO2008105268 A1 JP WO2008105268A1
Authority
JP
Japan
Prior art keywords
image
color space
noise
processing method
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009501189A
Other languages
English (en)
Other versions
JP4858610B2 (ja
Inventor
石賀 健一
健一 石賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2009501189A priority Critical patent/JP4858610B2/ja
Publication of JPWO2008105268A1 publication Critical patent/JPWO2008105268A1/ja
Application granted granted Critical
Publication of JP4858610B2 publication Critical patent/JP4858610B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/67Circuits for processing colour signals for matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • H04N9/69Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits for modifying the colour signals by gamma correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • G06T2207/20028Bilateral filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/82Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction
    • H04N23/83Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction specially adapted for colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/85Camera processing pipelines; Components thereof for processing colour signals for matrixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

原画像に含まれるノイズ成分を除去する画像処理方法は、作業用色空間で原画像に含まれるノイズ成分を抽出し、抽出されたノイズ成分に基づいて、ノイズ除去画像を作成し、ノイズ除去画像を作業用色空間から作業用色空間と異なる階調特性を持つ出力色空間に変換し、抽出されたノイズ成分と、作業用色空間の階調特性と出力色空間の階調特性の違いとに基づいて、ノイズ除去画像を作成する。

Description

本発明は、画像に含まれるノイズを除去する画像処理方法に関する。
従来、ノイズ除去処理は最終出力空間で平滑化することによって行われてきた。しかし、この最終出力色空間では、一般にノイズのゆらぎ幅が明るさレベルに依存して変化し、様々な明るさレベルの信号が寄り集まって表現される画像信号の中から明るさレベルの影響を排してノイズ成分を取り出すのは、ノイズ信号が明るさに対して混在した強度分布の状態にあるため、非常な困難を来す要因となっていた。そのため、例えば明るさレベルに応じてノイズ除去フィルタの係数やフィルタリング範囲を変えるなど、非常に処理が複雑化する努力がなされてきた(特許文献1)。その他に、明るさレベルに応じてノイズ除去の度合いを変える工夫などもなされてきた(特許文献2、3、4、5)。
これらの問題を解決し、ノイズ除去とその弊害の抑制をより高度に実現する方法として、ノイズ除去に適した画像処理空間に一旦射影して、その空間でノイズ除去する方法が提案されてきた。例えば、特許文献6ではノイズ抽出に適した均等ノイズ空間を、特許文献7ではそれを更に発展させてノイズ除去と弊害対策の両立性の高い均等色・均等ノイズ空間を提案している。なお、この問題を直接解決するわけではないが、ノイズ除去のための画像処理空間として、人間の知覚特性に合わせた均等色空間を提案する文献もある(特許文献8、非特許文献1)。
特許第3809818号公報 米国特許第5,051,842明細書 米国特許第6,754,398明細書 特許第3723043号公報 特許第2650759号公報 国際公開第2006/006373号パンフレット 国際公開第2006/064913号パンフレット 特開平11-187420号公報 C. Tomasi et al., "Bilateral Filtering for Gray and Color Images," Proceedings of the 1998 IEEE international Conference on Computer Vision, Bombay, India.
一般に、ノイズ除去は、輝度成分では平滑化度と鮮鋭感はトレードオフの関係、色差成分では色斑ノイズ抑制度と高色再現性はトレードオフの関係にある。すなわち、如何に高性能なノイズ除去フィルタを用いてもエッジ構造とノイズ成分を完全に分離することは難しく、ノイズ除去の弊害が生じる。上述の何れの従来技術も実施例に示されたノイズ除去処理に伴って、エッジ構造のコントラスト低下、色構造部の彩度低下・色抜け問題、及び、階調表現可能域が原信号の平滑化に伴って有効ダイナミックレンジ幅が平均値信号に向かって狭帯域化することによる色かぶり問題を誘発する。色かぶりは中間調でも常時生じるが、特に暗い所では黒レベルが白く浮いたり緑被り現象としてよく目立つ。
更に、均等ノイズ化されていない出力色空間や作業用色空間でノイズ抽出処理を行なう場合には、ノイズ除去フィルタで抽出したノイズ成分のエッジとノイズの分離精度が悪いため、なおさらにコントラスト低下等の問題を抱えるという状況にあった。
尚、特許文献5では、コントラストの高い領域では全体的にノイズ除去の強度を下げてこのような弊害をなくす試みがなされているが、今度は逆にコントラストの高い領域で十分なノイズ除去ができないという問題を生じていた。
本発明の第1の態様によると、原画像に含まれるノイズ成分を除去する画像処理方法は、作業用色空間で原画像に含まれるノイズ成分を抽出し、抽出されたノイズ成分に基づいて、ノイズ除去画像を作成し、ノイズ除去画像を作業用色空間から作業用色空間と異なる階調特性を持つ出力色空間に変換し、抽出されたノイズ成分と、作業用色空間の階調特性と出力色空間の階調特性の違いとに基づいて、ノイズ除去画像を作成する画像処理方法。
本発明の第2の態様によると、第1の態様の画像処理方法において、作業用色空間の階調特性と出力色空間の階調特性の違いの度合いは、作業用色空間における明るさレベルに応じて変化するのが好ましい。
本発明の第3の態様によると、第1の態様の画像処理方法において、出力色空間と作業用色空間に於ける各々の画像の階調特性に基づいて、明るさレベルに対するコントラスト比関数を設定し、設定したコントラスト比関数に基づいて、ノイズ除去画像を作成するのが好ましい。
本発明の第4の態様によると、第1の態様の画像処理方法において、抽出されたノイズ成分と、作業用色空間の階調特性の変化の度合いと出力色空間の階調特性の変化の度合いの違いとに基づいて、ノイズ除去画像を作成するのが好ましい。
本発明の第5の態様によると、第1〜4のいずれかの態様の画像処理方法において、作業用色空間の階調特性と出力色空間の階調特性の違いに基づいて、抽出されたノイズ成分を原画像から減算するときの減算割合を制御するのが好ましい。
本発明の第6の態様によると、第1〜4のいずれかの態様の画像処理方法において、作業用色空間は、均等ノイズ空間、均等色空間、あるいはその両方を実現する均等色・均等ノイズ空間の少なくとも何れか1つの色空間であるのが好ましい。
本発明の第7の態様によると、第1〜2のいずれかの態様の画像処理方法において、出力色空間で持つ画像の階調特性と作業用色空間で持つ画像の階調特性の微分比率に基づいて、ノイズ除去画像を作成するのが好ましい。
本発明の第8の態様によると、第1〜4のいずれかの態様の画像処理方法において、出力色空間への階調変換によってノイズ成分が増幅される階調領域のノイズ除去度合を予め大きくし、減幅される階調領域のノイズ除去度合を予め小さくするのが好ましい。
本発明の第9の態様によると、第1〜4のいずれかの態様の画像処理方法において、原画像の撮像感度に応じて異なる階調特性の作業用色空間に変換するのが好ましい。
本発明の第10の態様によると、第1〜4のいずれかの態様の画像処理方法において、出力色空間の階調特性は、標準RGB色空間の階調特性を備えるのが好ましい。
本発明の第11の態様によると、第1〜4のいずれかの態様の画像処理方法において、原画像に含まれるノイズ成分を除去する処理以外に階調補正処理を行なって、入力色空間で所持する画像の階調特性と出力色空間で所持する画像の階調特性が異なっている場合、階調補正後の出力色空間で持つ画像の階調特性と作業用色空間で持つ画像の階調特性の違いに基づいてノイズ除去画像を作成するのが好ましい。
本発明の第12の態様によると、第1〜4のいずれかの態様の画像処理方法において、原画像を輝度成分と色差成分で表される作業用色空間に変換し、各々の色成分に対してノイズ除去画像を作成するのが好ましい。
本発明の第13の態様によると、第1〜4のいずれかの態様の画像処理方法において、原画像を輝度成分と色差成分で表される作業用色空間に変換し、その中の少なくとも1つの色成分に対してノイズ除去画像を作成するのが好ましい。
本発明の第14の態様によると、第3の態様の画像処理方法において、コントラスト比関数と画像の場所毎の明るさレベルに基づいて、ノイズ除去画像を作成するのが好ましい。
本発明の第15の態様によると、第3の態様の画像処理方法において、コントラスト比関数と画像の場所毎のエッジ強度に基づいて、ノイズ除去画像を作成するのが好ましい。
本発明の第16の態様によると、第3の態様の画像処理方法において、原画像を輝度成分と色差成分で表される作業用色空間に変換し、輝度成分のノイズ除去画像を作成する場合、作業用色空間における明るさレベルの露出基準点に於ける微分比率で規格化されたコントラスト比関数を設定するのが好ましい。
本発明の第17の態様によると、第3の態様の画像処理方法において、原画像を輝度成分と色差成分で表される作業用色空間に変換し、色差成分のノイズ除去画像を作成する場合、作業用色空間における明るさレベルの飽和基準点に於ける微分比率で規格化されたコントラスト比関数を設定するのが好ましい。
本発明の第18の態様によると、原画像に含まれるノイズ成分を除去する画像処理方法は、原画像を所定の階調特性を持つ作業用色空間に変換し、作業用色空間で原画像のノイズ除去を行なって、ノイズ除去画像を作成し、ノイズ除去画像を作業用色空間から作業用色空間と異なる階調特性を持つ出力色空間に変換し、原画像の平滑化強度を、作業用色空間の階調特性と出力色空間の階調特性の違いに基づいて設定し、ノイズ除去画像を作成する。
本発明の第19の態様によると、第18の態様の画像処理方法において、出力色空間に変換後のノイズ除去画像の平滑化強度が、原画像の画像信号の各階調に対して均質化されるように、作業用色空間における平滑化強度を設定するのが好ましい。
本発明の第20の態様によると、第18の態様の画像処理方法において、原画像の明るさレベルに応じて、作業用色空間と出力色空間の階調特性の違いに基づくコントラスト比を平滑化強度へ反映させるのが好ましい。
本発明の第21の態様によると、第18の態様の画像処理方法において、平滑化強度は、所定の平滑化処理によって平滑化された平滑化画像と原画像の混合比率を変える、あるいは、原画像と該平滑化画像との差分で抽出されたノイズ成分を原画像から減算するときの減算比率を変えることによって制御するのが好ましい。
本発明の第22の態様によると、原画像に含まれるノイズ成分を除去する画像処理方法は、原画像に対してエッジ検出を行い、検出されたエッジ強度が相対的に強い領域において、明るさに応じて平滑化強度の異なるノイズ除去処理を行なう。
本発明の第23の態様によると、原画像に含まれるノイズ成分を除去する画像処理方法は、原画像に含まれるエッジ成分を抽出し、抽出されたエッジ成分の強度が大きくなるに従って、明るさに対する平滑化強度の強弱の度合いを増大させた平滑化強度を設定し、平滑化強度に基づいて、ノイズ除去画像を作成する。
本発明の第24の態様によると、第23の態様の画像処理方法において、ノイズ除去画像を作成するとき、エッジ強度が相対的に強い領域において、所定の階調特性に対して、原画像の明るさに対する階調特性のコントラストの強い部分では平滑化強度を強め、コントラストの弱い部分では平滑化強度を弱めるのが好ましい。
本発明の第25の態様によると、第23の態様の画像処理方法において、平滑化強度は、エッジ成分の強度が小さくなるに従って、明るさに対する平滑化強度の変化の度合いをなくして一定に近づくように設定するのが好ましい。
本発明の第26の態様によると、第22から25のいずれかの態様の画像処理方法において、エッジ強度は、とりうる階調幅に対する絶対エッジ強度レベルで表された所定値に対して大小関係を比較することにより測定するのが好ましい。
本発明の第27の態様によると、第23の態様の画像処理方法において、所定の階調特性を持つ作業用色空間でノイズ除去を行ない、階調特性とは異なる階調特性を持つ出力色空間の画像に変換してノイズ除去画像を作成し、作業用色空間と出力色空間の階調特性の違いに基づいて、平滑化強度を設定するのが好ましい。
本発明の第28の態様によると、第27の態様の画像処理方法において、階調特性の違いに基づいて設定する平滑化強度を、エッジ成分の強度に対して単調増加する関数を通して明るさに対する平滑化強度を設定するのが好ましい。
本発明の第29の態様によると、第23の態様の画像処理方法は、画像の明るさレベルに応じた平滑化強度を、中間輝度に対して高輝度側で弱く設定するのが好ましい。
本発明の第30の態様によると、第29の態様の画像処理方法は、画像の明るさレベルに応じた平滑化強度を、中間輝度に対して低輝度側で弱く設定するのが好ましい。
本発明の第31の態様によると、原画像に含まれるノイズ成分を除去する画像処理方法は、原画像に対して、所定の階調特性を持つ作業用色空間でノイズ除去を行なってノイズ除去画像を作成し、ノイズ除去画像を階調特性とは異なる階調特性を持つ出力色空間の画像に変換して出力ノイズ除去画像を作成し、さらに、原画像に対してエッジ成分を検出し、検出されたエッジ近傍領域の画像信号の平滑化強度を、作業用色空間と出力色空間の階調特性の違いに基づいて設定し、設定した平滑化強度に基づき、ノイズ除去画像を作成する。
本発明の第32の態様によると、第31の態様の画像処理方法において、出力色空間に変換後の出力ノイズ除去画像の平滑化強度が、検出されたエッジ近傍領域の画像信号の各階調に対して均質化されるように、作業用色空間における平滑化強度を設定するのが好ましい。
本発明の第33の態様によると、第31の態様の画像処理方法において、検出されたエッジ成分の強度に応じて、作業用色空間と出力色空間の階調特性の違いに基づくコントラストを、平滑化強度へ反映させる度合いを変えるのが好ましい。
本発明の第34の態様によると、第33の態様の画像処理方法において、エッジ強度は、とりうる階調幅に対する絶対エッジ強度レベルで表された所定値に対して大小関係を比較することにより測定するのが好ましい。
本発明の第35の態様によると、第23または31の態様の画像処理方法において、平滑化強度は、所定の平滑化処理によって平滑化された平滑化画像と原画像の混合比率を変える、あるいは、原画像と該平滑化画像との差分で抽出されたノイズ成分を原画像から減算するときの減算比率を変えることによって制御するのが好ましい。
本発明の第36の態様によると、第23または31の態様の画像処理方法において、原画像は、輝度成分と色差成分に分離された各々の色成分の画像であるのが好ましい。
本発明の第37の態様によると、第27、31のいずれかの態様の画像処理方法において、作業用色空間は、均等ノイズ空間、均等色空間、あるいはその両方を実現する均等色・均等ノイズ空間の少なくとも何れか1つの色空間であるのが好ましい。
本発明の第38の態様によると、原画像に含まれるノイズ成分を除去する画像処理方法は、原画像を所定の階調特性を持つ作業用色空間に変換し、作業用色空間で原画像に含まれるノイズ成分を抽出し、抽出されたノイズ成分に基づいて、ノイズ除去画像を作成し、ノイズ除去画像を作業用色空間から作業用色空間と異なる階調特性を持つ出力色空間に変換し、原画像の局所的な領域ごとに、作業用色空間の階調特性と出力色空間の階調特性の違いを判断し、原画像の局所的な領域ごとに判断した作業用色空間の階調特性と出力色空間の階調特性の違いと、抽出されたノイズ成分とに基づいてノイズ除去画像を作成する。
本発明の第39の態様によると、画像処理プログラムは、第1から38のいずれかの態様の画像処理方法をコンピュータまたは画像処理装置に実行させる。
本発明の第40の態様によると、画像処理装置は、第39の態様の画像処理プログラムを搭載する。
本発明の第41の態様によると、電子カメラは、第39の態様の画像処理プログラムを搭載する。
本発明によれば、原画像が初めから持つコントラスト、彩度、透明感等を保持しつつ、質感再現性の高い高精細なノイズ除去効果を得ることができる。
本発明の実施の形態である画像処理装置を示す図である。 パーソナルコンピュータ1が処理する第1の実施の形態の画像処理のフローチャートを示す図である。 第1の実施の形態の多重解像度に基づいたノイズ除去処理の流れ図を示す図である。 (a)は出力色空間と作業用色空間におけるガンマ特性を示す図であり、(b)は(a)で示される出力色空間のガンマ特性と作業用色空間におけるガンマ特性の微分比を示すグラフである。 第2の実施の形態の多重解像度に基づいたノイズ除去処理の流れ図を示す図である。 第4の実施の形態のノイズ除去処理の流れ図を示す図である。 デジタルカメラ100の構成を示す図である。 パーソナルコンピュータの構成を示す図である。
一般の階調補正技術には、1)入力画像の輝度分布に応じて画像全体のガンマ階調特性を変えるガンマ的コントラスト強調手法(ヒストグラム均等化法とも呼ばれる)と、2)局所的な明るさ分布に応じて局所的にガンマ階調特性を変えるレチネックス的コントラスト強調手法がある。これらに類似した効果を新たにノイズ除去技術の枠組み内で実現する手法を組み上げ、新たに質感再現性の高いノイズ除去技術を提供する手法を以下の実施形態で具体的に提案する。すなわち、コントラスト補正技術のノイズ除去版に相当する技術を提供する。
ただし、コントラストを作為的に強調するというよりもむしろ、原画像が元から持つコントラストをノイズ除去による平滑化で失われるのを防止する技術に相当する。ノイズ除去技術に新たな質感再現性を追い求めるには、ノイズ除去技術が十分高度化してノイズとエッジの分離精度が高まっていることが望まれる。その分離精度を上げる工夫が近年発達してきた多重解像度技術を利用した場合をまず説明し、今日も多く用いられている実空間のままのノイズ除去処理の場合の対応例を次に説明する。また、作業用色空間としてはその分離精度の高い色空間を利用する。
−第1の実施の形態−
第1の実施の形態では、ガンマ的コントラスト補正のノイズ除去版を多重解像度技術を用いて行なう場合の例を示す。
図1は、本発明の実施の形態である画像処理装置を示す図である。画像処理装置は、パーソナルコンピュータ1により実現される。パーソナルコンピュータ1は、デジタルカメラ2、CD−ROMなどの記録媒体3、他のコンピュータ4などと接続され、各種の画像データの提供を受ける。パーソナルコンピュータ1は、提供された画像データに対して、以下に説明する画像処理を行う。コンピュータ4は、インターネットやその他の電気通信回線5を経由して接続される。
パーソナルコンピュータ1が画像処理のために実行するプログラムは、図1の構成と同様に、CD−ROMなどの記録媒体や、インターネットやその他の電気通信回線を経由した他のコンピュータから提供され、パーソナルコンピュータ1内にインストールされる。図8は、パーソナルコンピュータ1の構成を示す図である。パーソナルコンピュータ1は、CPU11、メモリ12、およびその周辺回路13などから構成され、CPUがインストールされたプログラムを実行する。
プログラムがインターネットやその他の電気通信回線を経由して提供される場合は、プログラムは、電気通信回線、すなわち、伝送媒体を搬送する搬送波上の信号に変換して送信される。このように、プログラムは、記録媒体や搬送波などの種々の形態のコンピュータ読み込み可能なコンピュータプログラム製品として供給される。
以下、パーソナルコンピュータ1が実行する画像処理について説明する。図2は、パーソナルコンピュータ1が処理する第1の実施の形態の画像処理のフローチャートを示す図である。ステップS1では、画像データを入力する。ステップS2では、均等色・均等ノイズ空間に変換する。ステップS3では、ノイズ除去処理をする。ステップS4では、色空間を逆変換する。ステップS5では、処理が終了した画像データを出力する。以下、各ステップの処理の詳細について説明する。
1.色空間変換
ステップS1で画像データ(以下、単に画像と言う)を入力すると、ステップS2において、入力画像をまず色空間変換し、ノイズ除去処理を行なうのに適した画像処理空間へ投影し直す。この画像処理空間として、例えば、国際公開第2006/064913号パンフレット(本願と同一発明者、従来技術に記載の特許文献7)に記載の均等色・均等ノイズ空間を用いる。こうすることによって、ノイズ除去処理における画像構造のエッジとノイズの分離精度を上げる効果が得られる。通常、入力画像はsRGBといった標準色空間で表されていることが多い。従って、ここでは色補正処理やガンマ補正処理がなされたsRGB画像を例に説明する。
1−1.逆ガンマ補正
sRGB規定のガンマ特性、ないしは各カメラメーカーが固有の絵作りに使用したガンマ特性の階調変換処理を外し、元の線形階調に戻す。次式は、sRGB画像を、逆ガンマ補正し元の線形階調に戻す式を示している。メーカー固有のガンマ特性が不明の場合は、γ-1としてsRGB規定のガンマ特性の逆変換で代用してもよい。
Figure 2008105268
1−2.RGB色空間からXYZ色空間への変換
次に、線形階調に戻されたRGB色空間をXYZ色空間へ変換する。これはRGB原刺激の分光特性で決まる3x3行列変換により実施する。例えば、線形階調に変換したsRGB入力画像に対しては、以下のような規格通りの変換を行う。
Figure 2008105268
1−3.XYZ色空間から均等色・均等ノイズ色空間(L^a^b^)への変換
次に、次式により、XYZ空間から擬似的に均等色配分された知覚的な属性を表す非線形階調のL^a^b^空間へ変換する。ここで定義するL^a^b^空間は、従来のいわゆる均等色空間L*a*b*に対し、均等ノイズ性を考慮して変形を加えたものであり、便宜的にL^a^b^と名付けたものである。
Figure 2008105268
ここで、通常、均等色・均等ノイズ化する階調特性として
Figure 2008105268
を用いる。ただし、0≦t≦1。しかし、CIE規定のL*a*b*が持つ1/3乗ガンマ特性に対して正のオフセット値を加えて均等ノイズ化した下記のような変形式を用いてもよい。
Figure 2008105268
上記X0,Y0,Z0は照明光によって定まる値であり、例えば、標準光D65下で2度視野の場合、X0=95.045、Y0=100.00、Z0=108.892のような値をとる。εの値は、センサーによっても異なるが、低感度設定のときはほぼ0に近い値を、高感度設定のときは0.05程度の値をとる。
2.画像の多重解像度表現
次に、ステップS3のノイズ除去処理について説明する。図3は、本実施の形態の多重解像度に基づいたノイズ除去処理の流れ図を示す図である。すなわち、上記のように均等色・均等ノイズ色空間に変換した輝度成分L^、色差成分a^、b^の各々の原画像を多重解像度表現して、それぞれ独立にノイズ除去を行なう。原画像を順次ウェーブレット変換のAnalysis過程によって低解像度画像に分解していき、サブバンド画像が生成されるAnalysis過程をまとめて次式のように表す。
Figure 2008105268
ただし、S(x,y)はL^, a^, b^の各面に対してサブバンド画像Vij(x,y)を生成する。
なお、ウェーブレット変換とは、画像(画像データ)を周波数成分に変換するものであり、画像の周波数成分をハイパス成分とローパス成分に分割する。ハイパス成分からなるデータを高周波サブバンドと言い、ローパス成分からなるデータを低周波サブバンドと言い、LLを低周波サブバンド、LH, HL, HHを高周波サブバンドと言う。また、低周波サブバンドを低周波画像、高周波サブバンドを高周波画像と言ってもよい。さらに、各サブバンドを周波数帯域制限画像と言ってもよい。低周波サブバンドは、原画像の周波数帯域を低周波側に帯域制限した画像であり、高周波サブバンドは、原画像の周波数帯域を高周波側に帯域制限した画像である。
通常の多重解像度変換は、低周波サブバンドLL成分を順次分解した高周波サブバンドを残していくだけであるが、本実施の形態ではノイズ成分のサブバンド周波数帯域間での抽出漏れがないように、低周波側サブバンドLLと高周波サブバンドLH, HL, HHの両方を残していく多重解像度表現を用いている。
ウェーブレット変換としては、例えば以下のような5/3フィルタを用いる。
<ウェーブレット変換:Analysis/Decompositionプロセス>
ハイパス成分:d[n]=x[2n+1]-(x[2n+2]+x[2n])/2
ローパス成分:s[n]=x[2n]+(d[n]+d[n-1])/4
上記定義の1次元ウェーブレット変換を、横方向と縦方向に独立に2次元分離型フィルタ処理を行うことによって、ウェーブレット分解する。係数sをL面に集め、係数dをH面に集める。
<逆ウェーブレット変換:Synthesis/Reconstructionプロセス>
x[2n]=s[n]-(d[n]+d[n-1])/4
x[2n+1]=d[n]+(x[2n+2]+x[2n])/2
ただし、図3に示すように、ウェーブレット変換時のxの値には画像を表す信号を入力し、生成されたウェーブレット変換係数s,dに含まれるノイズ成分を抽出し、抽出されたノイズ成分を逆ウェーブレット変換時のs,dに代入してノイズ画像xを生成してゆく用い方をする。
上記多重解像度表現は5段のウェーブレット変換を用いているが、入力する原画像のサイズに応じて増減させてよい。また、多重解像度表現法として、上述のような直交ウェーブレット変換に限らず、ラプラシアン・ピラミッド表現やステアラーブル・ピラミッド表現等を用いてもよい。
3.仮想ノイズ除去によるノイズ抽出処理
3−1.ノイズ除去フィルタによるノイズ抽出処理
3−1−1.ノイズ除去処理
まず、各解像度において仮想的なノイズ除去を行う。仮想的なノイズ除去とは、原画像から最終的にノイズ除去を行う前に行う仮の(一時的と言ってもよい)ノイズ除去である。各解像度の各サブバンドにおいて、任意のノイズ除去フィルタを用いてよいが、ここでは一般に知られる高性能なバイラテラル・フィルタを改良した、例えば、国際公開第2006/068025号パンフレット(本願と同一発明者)に記載の改良Bilateral Filter(次式)を用いる。ノイズ除去フィルタは一般に、期待されるノイズゆらぎ幅σthと比較することによってエッジとノイズを区別するので、あらゆる階調でノイズが均等されている均等ノイズ空間で汎用ノイズ除去フィルタを用いることは、その分離性能を飛躍的に向上させることに貢献する。ここに示す改良Bilateral Filter以外に、σフィルタやεフィルタを用いた場合でも全く同様のことがいえる。
なお、画像信号V(x,y)は、図2のステップS2の非線形階調変換を通じて、明るさに対してノイズを均等化する空間に移行しているので、明るさによらないノイズ指標値と比較するように設定すればよく、そのとき最もこのノイズ除去フィルタは高性能に簡略に動作させることができる。なお、数式内では(ベクトル(上矢印)x)が示されているが、2次元画像では(x,y)と等価である。従って、記載可能な文字の関係で、本文中では(x,y)と記載する。
Figure 2008105268
ここで、簡略のためサブバンド特定記号i,jは省略している。閾値σthは各サブバンド毎に期待されるノイズゆらぎ幅(ノイズゆらぎ指標値)に合わせて設定し、エッジとノイズを区別しながらノイズ成分を抽出する。σthの値はISO感度が高くなるに従い大きな値を設定する。例えば、ISO6400で256階調に対して10程度の値を設定したりする。したがって、均等ノイズ化された全階調域で+-10程度のノイズゆらぎがあり、最も明るい飽和レベルでもS/Nは256/10である。
閾値rthの値は、ノイズ除去フィルタの範囲が解像度階層間で重なり合うように0.5〜3.0画素程度にとればよく、積分範囲もrthの2倍ないしは3倍程度にとれば十分係数値は小さな値に落ちている。一般に、他のノイズ除去フィルタであっても多重解像度表現されたサブバンド画像では3x3〜9x9程度の範囲の画素信号を参照するようなフィルタで十分なノイズ除去効果が得られる。
なお、この改良型Bilateral Filterは、通常のBilateral Filterと違って加重係数がphotometric項とgeometric項に分離できない非分離加重型Bilateral Filterを用いている。言い換えれば、2つの引数の積で表される値を1つの指数とする1つの指数関数で表される加重係数のフィルタを使用している。
3−1−2.ノイズ抽出処理
各サブバンドにおいて、次式のようなノイズ抽出処理を行う。
Figure 2008105268
3−2.逐次ノイズ抽出
ノイズ成分を各サブバンド面のノイズ除去フィルタリングだけで漏れなく抽出するのは難しい。そこで、本実施の形態では、多重解像度分解による周波数帯域間で間隙を生じないように、他の解像度で抽出したノイズを参照しながら逐次的にノイズを抽出する。
逐次的なノイズ除去の方法としてはAnalysis時とSynthesis時に行なう2通りの方法があるが、第1の実施形態では、完全なノイズ成分の抽出のための仮想的なノイズ統合を行い、各階層で生成される統合ノイズ成分をLLサブバンド面から減算して、LL面からノイズ成分を抽出しやすい状態にした後、上記ノイズ除去フィルタリングを行なう。すなわち、本実施の形態では、逐次的なノイズ除去をSynthesis時に行う方法を採用する。
例えば、実空間面の画像信号S0(LL0)を2回ウェーブレット変換して生成した1/4解像度の画像信号S2(LL2,LH2,HL2,HH2)での処理を例に説明する。まず、1/4解像度の下の階層である1/8解像度の階層で統合された統合ノイズ成分(N2)を、サブバンドLL2から減算して、LL2からノイズ成分を抽出しやすい状態LL2'にする(処理(2-0))。その後、各サブバンド(LL2',HL2,LH2,HH2)に対して上記ノイズ除去フィルタリングを行なう(処理(2-1))。
そして、ノイズ除去フィルタリングを行う前の画像信号S2'(サブバンドLL2',HL2,LH2,HH2)からノイズ除去フィルタリングを行った画像信号S2"(サブバンドLL2",HL2',LH2',HH2')を減算してノイズ成分n2を抽出する(処理(2-2))。その後、抽出したノイズ成分n2のLL面のノイズ成分と下層で統合されてきたノイズ成分(N2)とを加算し(処理(2-3))、加算したLL面のノイズ成分と抽出した他のLH,HL,HH面のノイズ成分を使用してウェーブレット逆変換によりノイズ統合を行い統合されたノイズ成分(N1)を生成する(処理(2-4))。このような処理を、各階層において行い、仮想的ノイズ統合を行う。すなわち、仮想的ノイズ統合は次式で表される。
Figure 2008105268
ここで注意すべき点は、従来の高周波サブバンドのみから成る多重解像度分解とは違って、低周波サブバンドも各階層面で残してノイズを抽出・統合しているので、上記式の意味は逆ウェーブレット変換によって統合されてきた下層解像度の統合ノイズ成分とノイズ除去フィルタによって抽出されたノイズ成分をLLバンドで2層化しているので、この2つのノイズ成分を加算して一層化してから順次逆ウェーブレット変換に続けるということを表している。
図3より明らかであるが、図3で行なっている処理をより具体的に書けば、
Figure 2008105268
を行なった後に、3−1−1及び3−1−2の処理を行なう処理を繰り返すことを意味している。M=5のときは何もノイズ抽出行われていないノイズ成分を統合してくるので、N5(x,y)=0となる。
4.実ノイズ統合
各サブバンドで漏れなく抽出されたノイズ成分を今度は、実画像へのダメージが最も少なくノイズ除去効果の高い周波数バンド間ウェイトをつけて統合する(処理(1-5)(2-5)(3-5)(4-5))。ホワイトノイズが仮定される場合は、解像度階層間では全て1:1の重みで、主に低周波サブバンドLLと高周波サブバンドHH, HL, LHの間で重みづけを行なう。
これは、原画像の性質に応じて最適な重みが異なる。輝度面の場合は、高周波情報が多いので高周波サブバンドに大きい重みを、色差面の場合は、低周波情報が多いので低周波サブバンドにやや大きめの重みをつける。すなわち、ノイズ除去と画像構造保存の両立性の高い周波数空間へ原画像の性質に合わせて、ノイズ抽出の周波数投影空間を変えていることに等しい。なお、1/32解像度の階層におけるNw5(図3)は何もノイズ抽出行われていないノイズ成分を統合してくるので、Nw5(x,y)=0となる。
Figure 2008105268
上記式はLL成分に関しては下層解像度から統合されてきたノイズ成分とノイズ除去フィルタによって抽出されたノイズ成分の2層のノイズ成分を加算して1層化してから逆ウェーブレット変換を行なうことを意味している。
5.仮想ノイズ除去輝度面の生成
次の「6.実際のノイズ除去処理」で用いるノイズのない参照輝度面を得るために、実ノイズ統合されたノイズ成分を100%用いて、一時的な仮想ノイズ除去輝度面を生成する。この処理は、図3には示されていないが、図3を参照して説明すると、処理(0-6)を行わないで処理(0-7)を行って仮想ノイズ除去輝度面を生成することを指す。このようにして求めた仮想ノイズ除去輝度面を、以下で説明する処理(0-6)で使用する。
Figure 2008105268
ただし、場合によってはこの処理を飛ばして、ノイズ除去されていない原画像の輝度面L^(x,y)で代用してもよい。
6.実際のノイズ除去処理
統合されたノイズ成分Nw0を、以下に示す処理(処理(0-6))を行った後、実際に原画像S0から減算処理することによって、実際のノイズ除去を執行する(処理(0-7))。
ところで、上記実統合ノイズ成分Nw0は、ノイズ除去フィルタと相性のよい画像処理色空間への投影、ノイズ除去フィルタの高性能化、最適なノイズ抽出周波数空間への投影といった様々なエッジとノイズの分離精度を向上する努力がなされて抽出されてきている。しかし、それでもなお質感再現に寄与する重要なエッジ成分が含まれてしまっているのが事実である。
そこで、本実施の形態では、そのエッジ成分を減算することによるコントラスト低下のダメージを事前に予測して、それを最小限に食い止める方策をとる。すなわち、画像処理用の作業用色空間とノイズ除去後に変換する出力色空間の階調特性は異なっており、その階調変換を通じて誘発される、ノイズ除去でエッジ・コントラストが低下した部分が更に低下する危険性や、残存したノイズ成分が増幅される危険性を排除する。
そのためには、エッジ・コントラストが低下しすぎそうな部分のノイズ除去率を画素単位できめ細かく制御しながら下げておき、ノイズ増幅してしまいそうな部分のノイズ除去率を同様に画素単位できめ細かく上げておくことが考えられる。言い換えれば、最終的に用いるノイズ成分にノイズ漏れや不純物混じりを起こす可能性を見越して、階調変換によるノイズ除去効果の増減幅に合わせて、事前にノイズ除去率を通じてノイズの消滅・残存度合いを制御する。これにより、コントラスト低下防止策をとり、かつノイズ被り残りの排除による曇り防止策をとる。
ノイズ除去効果の増減幅は、作業用色空間と出力色空間の階調特性差によって決まり、視覚的なノイズ増幅とエッジぼけに伴うコントラスト・ロスは階調特性の微分比率で効いてくると考えられる。したがって、ここで新たにコントラスト補正を考慮したノイズ除去率関数λ(x,y)を導入してノイズ除去を行なう。これを式で表すと、以下の通りである。
Figure 2008105268
輝度成分の場合
Figure 2008105268
色差成分の場合
Figure 2008105268
ただし、以下の式の通り、λ(x,y)が1.0を超える場合は、1.0にクリッピングしている。
Figure 2008105268
ここで、γは出力色空間の階調特性を表す。入力色空間と同じ色空間に変換する場合は「1.色空間変換」で説明したγと同じ特性である。しかし、出力色空間で持つ画像の階調特性が入力色空間で持つ画像の階調特性と異なっていても、出力色空間での階調特性に合わせて同じ原理でコントラスト比関数を導入できるので、ノイズ除去後に画像に対して階調補正を加える場合も含めて上記コントラスト比関数を計算する。なお、コントラスト比関数はコントラスト関数と言ってもよい。
コントラスト比関数は、上記ノイズ除去率関数λ(x,y)式の右辺のλ0に続く()内の部分である。dγは出力色空間の階調特性の微分を示し、dL^は作業用色空間の階調特性の微分を示す。従って、dγ/dL^は出力色空間と作業用色空間の階調特性の微分比を示している。L~^(x,y)は、作業用色空間であるL^a^b^空間の輝度成分L^であり、前述の「5.仮想ノイズ除去輝度面の生成」で処理された仮想ノイズ除去後の輝度成分L^である。上記式のコントラスト比関数の分母に相当する部分は、後述する規格化処理を示している。
従って、ノイズ除去率関数λ(x,y)は、各画素の輝度値をパラメータとする出力色空間と作業用色空間の階調特性の微分比関数により求められる値に、定数λ0を掛けたものとなる。言い換えると、ノイズ除去率関数λ(x,y)は、出力色空間と作業用色空間の階調特性の微分比、すなわち出力色空間と作業用色空間の階調特性の変化の度合いの違いに応じて変化し、さらに各画素の明るさに応じて変化する。
図4(a)は、出力色空間と作業用色空間におけるガンマ特性の例を示す図である。図4(a)では、例えば、出力色空間のガンマ特性として標準コントラストのガンマ曲線Aの場合と高コントラストのガンマ曲線Bの場合とが示され、作業用色空間におけるガンマ特性Cが示されている。図4(b)は、図4(a)で示される出力色空間のガンマ特性と作業用色空間におけるガンマ特性の微分比を示すグラフである。
例えば、図4(a)のように出力色空間で最終的に、標準コントラストのガンマ曲線、および、高コントラストのガンマ曲線が用意されている場合、何れが使われるかに合わせてノイズ除去率のコントラスト比関数に使用する微分比として図4(b)に示すような値を使用する。また、作業用色空間の階調特性は、入力画像のセンサー及びISO感度に応じて変わるので、コントラスト比関数は出力階調特性と入力センサーのノイズ特性の2つの情報に合わせて最適化が図られる。
ただし、図4(a)、図4(b)は何れも横軸を線形階調Yにとった形式で表しているので、実際にコントラスト比関数を算出する場合は
Figure 2008105268
の再スケーリングを必要とする。右辺の第1項が出力色空間のガンマ特性の微分であり、第2項は作業用色空間のガンマ特性の微分の逆数である。なお、第2項は「1.色空間変換」の定義で規定される。図4(a)と比較して分かりやすくするため、右辺の第1項および第2項の合算を線形階調の輝度Yに対してスケーリングし直したものが図4(b)のグラフとなる。実際に上記式(数17)に相当する図を得るには、横軸をL^に再スケールすればよい。ただし、図4(b)は輝度成分の規格化を行ったコントラスト比関数である。ここで用いているYは式(数3)のL^に対するY/Y0と同じ意味で用いている。
λ0の値は、通常このようなコントラスト関数を導入しなければ、中間調での色斑ノイズ除去効果を得るため色差面処理ではほぼ1.0に近い値をとる必要があった。一方の輝度面処理ではシャープネスの好みに合わせて何割かのノイズを残すのが好ましいのが普通である。例えば、0.6程度とする。しかし、このようなコントラスト関数を導入することによって、色差面のλ0の値も輝度面のλ0の値と同程度にまで低く設定しても全く問題がないことが実験的に確認されるに至った。従って、中間調での色斑ノイズ対策を講じつつもハイライト部のカラフルネス暗部の色コントラストをより一層保持することができるようになる。なお、λ0の値はユーザによって任意に設定可能としてもよい。
上述したコントラスト比関数は、λが一定であった場合のノイズ除去効果と画像全体としては変わらないように設定する必要がある。そこで規格化因子を導入しており、輝度成分では露出基準点でノイズ除去率の規格化を行なう。上記ノイズ除去率関数λ(x,y)の式のコントラスト比関数の分母に相当する部分である。通常は出力階調特性が256階調出力に対してちょうど半分の128程度になる明るさレベルで規格化を行なう。すると図4(b)のように作業用階調よりも出力階調で圧縮されるハイライト領域は、エッジ損傷によるコントラスト低下を防ぐためノイズ除去率を下げることになり(図4(b)の右側部分)、低輝度から中間調の階調コントラストを立ててノイズ増幅される恐れのあるところはノイズ除去率を上げておくことになる(図4(b)の左側部分)。ただし、出力階調の特性によってはハイライト部と同様にコントラスト低下による暗部構造の黒つぶれを防止するため、最暗部でノイズ除去率を下げる必要性が出てくる場合もある。これらはγの特性式から自動的に判断され、最適化される(図4(b)の左側の0近辺)。なお、出力階調の特性によっては、図4(b)のような山型ではなく単調減少曲線となることもある。
ただし、基準ノイズ除去率λ0を掛けた後にもノイズ除去率1.0を超える階調域は、出力階調でのコントラストを上げすぎのため、完全相殺するところまでは対応できないことを意味している。こうして輝度成分は、ハイライト部のエッジ・コントラスト保持とやや明るさのある暗部の完全ノイズかぶり取れが実現でき、画像構造内のハイライト部と低輝度部とが接するところでは大きなコントラスト生成効果による立体感のあるノイズ除去効果を生み出す。通常のノイズ除去では暗部で緑かぶりしていた現象を防ぐことができる。
一方、色差成分は輝度成分より一般的に強い目のノイズ除去を必要とするため、輝度成分のようにダイナミックにノイズ除去率を操作しない方が好ましく、ノイズ除去効果を落とさずにコントラスト保持できる部分のノイズ除去を緩める形をとる。具体的には出力ガンマ特性がニー(knee)特性になる領域の飽和基準点で規格化を行なう。飽和基準点として例えば出力階調特性が256階調に対して180〜220程度になる点を選択する。色差成分のコントラスト比関数は図4(b)と相似形で、dγ/dL^=1.0との交点の位置を明るい方に移すだけで自明なので省略する。
するとハイライト部の色差面ノイズ除去率を弱めることになり、ハイライト部は一般に色差面では高彩度部に対応するので、高彩度部の色抜けを防止し、色再現性の高い色斑ノイズ除去効果を生む。また、輝度成分の暗部ノイズ除去効果と相まって、暗部の緑かぶり色斑かぶりが完全に消えて、原画像よりも曇りの抜けた透明感を生み出す。
こうして、ノイズ除去率の輝度と色差間のバランスを崩さなくても済むようになるため、輝度面内で単独に生じる鮮鋭感と粒状感との間の量子力学的不確定性原理に基づくトレードオフと、色差面内で単独に生じる色再現性と色斑ノイズ抑制度との間の量子力学的不確定性原理に基づくトレードオフのそれぞれを、ノイズ除去フィルタと多重解像度処理の中のアルゴリズムの観点から最適化するにとどまらず、輝度・色差成分の間に生じる粒状感抑制とカラフルネス保持との間の別の観点からの量子力学的不確定性原理に基づくトレードオフ問題を高度に最適化できる。ここで粒状感抑制と呼んでいるのは、輝度面に比べ色差面のノイズ除去量を強くしすぎると色斑ノイズは抑えられるものの、今度は逆に抑制したはずの輝度の粒状感が輝度・色差間のバランスの崩れが要因となって目立ってくることを指している。その崩れが最も少なく、両者の不確定性を最小限に抑えられるのが、λ0の値を輝度面と色差面で同じ値に採ったときである。
9.出力色空間への変換
次に、図2のステップS4において、ノイズ除去された画像について画像処理空間から出力色空間へ変換する。出力色空間は、例えばsRGBといった標準RGB色空間とする。ただし、sRGB以外の標準色空間であってもよい。例えば、AdobeRGB、NTSCRGB、AppleRGBなどでもよい。
出力色空間が入力色空間と同じでよい場合は、「1.色空間変換」の逆変換処理を行なう。また、異なっている場合は各入力及び出力の標準色空間の規定に従って変換すればよい。例えば、入力がAdobeRGBで出力がsRGBのような場合が考えられる。また、それだけに留まらず、出力画像に対してノイズ除去の他に階調補正が加えられていてもよい。例えば、画像に掛けるガンマ曲線の特性を変える。具体例として、入力画像の階調特性が図4(a)のAで、出力画像の階調特性が図4(a)のBのような場合が考えられる。そのときは事前にノイズ除去処理側にその特性情報を伝えて、コントラスト比関数を事前に計算できるようにしておく。そのような条件が整っているのであれば、局所的にガンマ特性の異なるレチネックス処理による階調補正が加えられてもよい。
第1の実施形態は、画像全体を明るさレベルを通してノイズ除去によるコントラスト低下を防いでいることから、ノイズ除去の枠組み内で提供するグローバル・コントラスト保持処理、あるいはグローバル・コントラスト・エンハンスメント処理とも呼べる。
−第2の実施の形態−
第2の実施の形態では、レチネックス的コントラスト補正のノイズ除去版を多重解像度技術を用いて行なう場合の例を示す。第2の実施形態は、画像の局所的な、ただし多重解像度を用いて大局的にも見ているエッジ構造を通してノイズ除去によるコントラスト低下を防いでいることから、ノイズ除去の枠組み内で提供するローカル・コントラスト保持処理、あるいはローカル・コントラスト・エンハンスメント処理とも呼べる。
第2の実施の形態の画像処理装置の構成は、第1の実施の形態と同様であるので、図1を参照し、その説明を省略する。また、パーソナルコンピュータ1が処理する第2の実施の形態の画像処理のフローチャートも、流れとしては図2と同様であるので、その説明を省略する。図5は、本実施の形態の多重解像度に基づいたノイズ除去処理の流れ図を示す図である。以下、第1の実施の形態の処理と異なる点を中心に説明をする。
1.色空間変換
第1の実施の形態と同様である。
2.画像の多重解像度表現
第1の実施の形態と同様である。
3.仮想ノイズ除去によるノイズ抽出
第1の実施の形態と同様である。すなわち、図5において、統合されたノイズ成分Nw0を求めるところまでは第1の実施の形態と同様である。
4.エッジ抽出
1/4解像度の階層での処理を例に挙げて説明する。仮想ノイズ除去された各サブバンド面(LL2",HL2',LH2',HH2')からエッジ成分e2を次式により抽出する(処理(2-5))。元のサブバンド面ではなく、仮想ノイズ除去面からエッジ検出するのは、エッジ成分にノイズの影響を受けさせないようにするためである。なお、次式は各サブバンドに対する一般式でもある。
Figure 2008105268
ここで、エッジ検出フィルタとしてはラプラシアン・フィルタを用いる。ラプラシアン・フィルタとしては通常の3x3で定義される中心が8で周辺が-1の係数からなる最も単純なフィルタを用いてもよいが、仮想ノイズ除去後にもなお残存するエッジを正確に抽出するため、ノイズ除去フィルタのフィルタリング範囲と連動させるのがよい。
例えば、ノイズ除去フィルタの平滑化対象範囲が9x9程度の場合、ラプラシアン・フィルタも9x9程度に設定する。すなわち、ラプラシアンは、(原画像)−(ガウスボカシ画像)で定義すればよいので、フィルタ例として以下のようなものがある。ただし、tは転置行列を表し、一次元分離型フィルタの積で構成している。
Figure 2008105268
5.エッジ統合
第1の実施の形態の「4.実ノイズ統合」と同様に、ウェーブレット逆変換によりエッジ成分を統合する(処理(1-10)(2-10)(3-10)(4-10)(5-10))。次式は、エッジ統合を示す式である。
Figure 2008105268
ここで、エッジ統合に用いるサブバンド間ウェイトkeijの値は、任意に最適な値を設定すればよいが、ノイズ統合に用いたサブバンド間ウェイトknijの値と揃えるのも1つの考え方である(処理(1-9)(2-9)(3-9)(4-9)(5-9))。
6.実ノイズ統合
第1の実施の形態の「4.実ノイズ統合」と同様である。
7.仮想ノイズ除去輝度面の生成
第1の実施の形態の「5.仮想ノイズ除去輝度面の生成」と同様である。
8.実際のノイズ除去処理
第2の実施の形態の実際のノイズ除去処理は、以下に示す式の通りとなる。
Figure 2008105268
輝度成分の場合
Figure 2008105268
色差成分の場合
Figure 2008105268
ただし、
Figure 2008105268
第1の実施形態のグローバル・コントラスト保持の考え方は、同じ原理に基づいて局所的なエッジ情報を参照しながら、そのエッジ近辺のローカル・コントラスト保持の考え方に発展させることができる。すなわち、画像全体での平均的なノイズ除去率を保持してコントラスト保護するのではなく、局所的な画像範囲での平均的なノイズ除去率を保持して局所的にコントラスト保護を行なう。これはすなわち、階調補正技術におけるレチネックス処理と呼ばれるものに相当する効果をノイズ除去技術の枠組み内で提供することになる。局所的な画像範囲とは、エッジ抽出処理のための参照範囲である。ただし、本実施の形態では多重解像度統合エッジを見ているので画像全体のエッジ分布を大局的に見たエッジ周りの局所的コントラスト保護となる。
上記式はエッジ強度が強いほど、ノイズ除去率にコントラスト比関数の度合いを強めた補正を行なうことを意味している。すなわち、コントラスト比関数を考慮するかどうかをエッジの強度で調整している。この調整は、上記式の(1-exp())のところで行われている。エッジ強度が強ければexp()項の値は1より小さくなり、コントラスト比関数dγ/dL^(L~^(x,y))がより大きく考慮され、エッジ強度が小さくなればexp()項の値は1に近づき、コントラスト比関数dγ/dL^(L~^(x,y))がより考慮されなくなる。このことは、エッジ強度が相対的に強い領域において、明るさに応じてノイズ除去率の異なるノイズ除去処理を行なっていることを意味する。なお、コントラスト比関数は、第1の実施の形態のコントラスト比関数と同様である。
エッジ強度の比較対象となるσgethの値は、ノイズ除去フィルタに用いたノイズゆらぎ指標値σthの値に連動させるのではなく、ここでは絶対強度の視点から値を設定するのがよい。通常、ノイズゆらぎ指標値に対する視点からはσgeth =3σth〜5σth以上に設定する必要があるが、実験的にはこれでは不十分であることが分かっている。すなわち、σthはノイズゆらぎ幅の1σの値に設定するので、その3〜5倍というと統計的にほぼ100%の確率でノイズではなくエッジであることが確かな強度を持つエッジ領域であるということは少なくとも確保されていなければならない。しかし、それ以上に、画像全体で見た大きなコントラストを持つエッジ領域周りのコントラストを保護する必要がある。これは絶対エッジ強度で決まり、0〜256階調の場合、そのエッジ成分EWは-256から+256の値を取るので、例えばσgeth=128や256のように設定するのがよい。すなわち、このように局所的にも大局的にも画像の中で重要な役割を果たすエッジ領域の周りで重点的に明るさに応じたノイズ除去率の制御を行うことを意味する。従って、ノイズ周りのコントラストを増幅させることなく、エッジ周りのコントラストだけを保持することができる。
また、エッジ成分の強度が大きくなるに従って、明るさに対するノイズ除去の強弱の度合いを増大させている。すなわち、エッジ強度が相対的に強い領域において、所定の基準となる階調特性に対して原画像の明るさに対する階調特性のコントラストの強い部分ではノイズ除去の度合いを強め、コントラストの弱い部分ではノイズ除去の度合いを弱めている。また、エッジ成分の強度が小さくなるに従って、明るさに対するノイズ除去の変化の度合いをなくして一定に近づくようにしている。
また、上記式は、階調特性の違いに基づいて設定する明るさに応じたコントラスト比関数の適用の強弱を、エッジ成分の強度に対して単調増加する関数を通して行っている。
参照エッジ情報として、ここでは多重解像度で検出したエッジ成分の統合情報を用いているので、局所的でもあり、大局的にもエッジ構造を正確に拾っているといえる。このエッジ近辺が抽出ノイズ成分の誤りを最も受けやすく、集中的にコントラスト比関数によってエッジ・コントラストを防御する役割を果たす。また、抽出ノイズ成分に誤りがなく正確になったとしても、ノイズ除去率でノイズ消滅・残存度合いを制御したコントラスト補正技術としても使い続けることができる。この点は第1の実施形態についても同じことがいえる。
こうして、第1の実施形態と同様に、局所的な視点で原画像が持つエッジ損傷によるコントラスト低下を防ぎ、かつ効果的なノイズ除去を実現するので、輝度成分はコントラストの高い立体感を生み、色差成分はコントラストの高いカラフルさを生み、更には画像全体としては黒の締まりがよく、暗部で色かぶりもなくなった、抜けのよい透明感を生み出す効果がある。
なお、第2の実施の形態ではエッジ周り近傍でのノイズ除去度合の保存性しか考えずにコントラスト関数をλの中に入れている。従って、画像全体の保存性を考えた第1の実施の形態ではλ0(輝度)=λ0(色差)とすることができたが、第2の実施の形態では、色斑ノイズ除去効果を得るためには、コントラスト関数を導入する前と同様にλ0(輝度)<λ0(色差)のように設定する必要がある。
9.出力色空間への変換
第1の実施の形態と同様である。
−第3の実施の形態−
第3の実施の形態では、第1の実施の形態のガンマ的コントラスト補正のノイズ除去版(グローバル・コントラスト保持)と第2の実施の形態のレチネックス的コントラスト補正のノイズ除去版(ローカル・コントラスト保持)を両方合わせて用いる例を示す。第1、第2の実施の形態と同様に多重解像度技術を用いる。
第3の実施の形態に関しては、第1、第2の実施の形態では原画像のコントラストをそれぞれが得意とする分野で可能な限り失わないように保持する例であったのに対して、この場合は合成して用いることによって相互にコントラスト比関数適用対象として選びえなかった画素を相互に補い合う役割を果たす。ただし、使い方によってはコントラスト保持からコントラスト強調の作為性に発展させる可能性も残している。
第3の実施の形態の画像処理装置の構成は、第1の実施の形態と同様であるので、図1を参照し、その説明を省略する。また、パーソナルコンピュータ1が処理する第2の実施の形態の画像処理のフローチャートも、流れとしては図2と同様であるので、その説明を省略する。以下、第1の実施の形態の処理と異なる点を中心に説明をする。
「1.色空間変換」〜「7.仮想ノイズ除去輝度面の生成」は、第2の実施の形態と同様である。
8.実際のノイズ除去処理
第3の実施の形態は、第2の実施の形態に対して、ノイズ除去率関数を以下のように与える点が異なるだけである。
輝度成分の場合
Figure 2008105268
色差成分の場合
Figure 2008105268
各調整パラメータは輝度と色差でそれぞれ別々に最適設定するものとする。σgethの値は、第2の実施の形態と同様に各色面のノイズゆらぎ指標値σthの3〜5倍以上の最低条件を満たす絶対エッジ強度に設定すればよい。ここでは、グローバル・コントラスト保護項の方には均一ノイズ除去率との間に調整パラメータαglobalを導入した。しかし、グローバルコントラスト保護とローカルコントラスト保護が相互に補い合うという意味で通常はαglobal=1でよい。なお、第1の実施形態に於いても同様に変更してもよい。
また、λ0の値は第1の実施の形態と第2の実施の形態が相補的に作用する。このことから、輝度・色差間の不確定性要因を最大限に抑えることができる第1の実施の形態が有効になって、第1の実施の形態と同様にλ0(輝度)=λ0(色差)として色差面のカラフルネスと輝度面のザラツキ抑制を両立することができる。また、第2の実施の形態の要因が作用して、色コントラストの保護や深みのある色調再現が向上する。
9.出力色空間への変換
第1の実施の形態と同様である。
第3の実施の形態では、第1の実施の形態と第2の実施の形態でコントラスト比関数の適用の対象としなかった部分を対象とすることができるようになり、第1の実施の形態と第2の実施の形態の欠点が相互に補われ、かぶりや曇りをなくしてより透明感を出すような効果を奏する。
−第4の実施の形態−
今日用いられているノイズ除去処理としては、第1〜第3の実施の形態に示したように多重解像度技術を用いる以外に、実空間面のまま巨大なサイズのノイズ除去フィルタを掛けることもしばしばであるので、この場合の対応例を示しておく。第4の実施形態では、第3の実施の形態の実空間対応版を示す。第1と第2の実施の形態の実空間対応版は本実施形態から容易に変更しうるので、説明は省略する。
第4の実施の形態の画像処理装置の構成は、第1の実施の形態と同様であるので、図1を参照し、その説明を省略する。また、パーソナルコンピュータ1が処理する第2の実施の形態の画像処理のフローチャートも、流れとしては図2と同様であるので、その説明を省略する。以下、第1の実施の形態の処理と異なる点を中心に説明をする。図6は、第4の実施の形態のノイズ除去処理の流れ図を示す図である。
1.色空間変換
第1の実施の形態と同様である。
2.仮想ノイズ除去によるノイズ抽出
実空間面はS(x,y)で表されているので、第1の実施の形態のサブバンド面V(x,y)に対する処理をVからSに置き換えるだけでよい。ただし、積分範囲は大きくとる必要が出てくる。
2−1.ノイズ除去処理
ノイズ除去フィルタとして、σフィルタやεフィルタ等、平滑化面S'を作るノイズ除去処理の方法は何を用いても構わないが、第1の実施の形態と同じく改良型バイラテラル・フィルタの例を示しておく(処理(0-1))。
Figure 2008105268
本当にきれいなノイズ除去効果を得るにはrthの値を50程度にとってフィルタリング範囲を101x101画素程度にするのがよいが、ここでは説明の簡略化のためrth=12にとって25x25の範囲で積分を行なうものとする。ただし、σフィルタやεフィルタの場合は、空間的な因子には無頓着なのでrthに相当するパラメータは存在せず、単に積分範囲を設定するだけである。
2−2.ノイズ抽出処理
次式のノイズ抽出処理を行う(処理(0-2))。
Figure 2008105268
3.エッジ抽出
仮想ノイズ除去された実空間面からエッジ成分Eを抽出する(処理(0-8))。
Figure 2008105268
ここで、エッジ検出フィルタとしてはラプラシアン・フィルタを用いる。第2の実施の形態と同じ9x9のラプラシアン・フィルタでもよいが、平滑化フィルタを25x25に設定したので、こちらも25x25程度に設定するのが望ましい。25x25のラプラシアンは、9x9のガウシアン・フィルタを3回掛けた平滑化画像と原画像の差分をとれば作成できる。すなわち、
Figure 2008105268
4.仮想ノイズ除去輝度面の生成
次の「5.実際のノイズ除去処理」で用いるノイズのない参照輝度面を得るために、抽出されたノイズ成分を100%用いて、一時的な仮想ノイズ除去輝度面を生成する。この処理は、図6には示されていないが、図6を参照して説明すると、処理(0-6)を行わないで処理(0-7)を行って仮想ノイズ除去輝度面を生成することを指す。このようにして求めた仮想ノイズ除去輝度面を、以下で説明する処理(0-6)で使用する。
Figure 2008105268
ただし、場合によってはこの処理を飛ばして、ノイズ除去されていない原画像の輝度面L^(x,y)で代用してもよい。
5.実際のノイズ除去処理
抽出されたノイズ成分Nを、以下に示す処理(処理(0-6))を行った後、実際に原画像Sから減算処理することによって、実際のノイズ除去を執行する(処理(0-7))。本実施の形態のノイズ除去率は、以下の通り第3の実施の形態と同様である。ただし、ノイズ除去率を第1の実施の形態あるいは第2の実施の形態と同様としてもよい。
Figure 2008105268
輝度成分の場合
Figure 2008105268
色差成分の場合
Figure 2008105268
ただし、
Figure 2008105268
7.出力色空間への変換
第1の実施の形態と同様である。
このように実空間面でのノイズ除去処理においても、画像処理用の作業色空間内で、ノイズ除去率にコントラスト比関数を導入するだけで容易に実現できる。
コントラスト比関数の計算は、ソフトウェアで行なってもほとんど問題のならない時間で済むし、予め分かっているのでハードウェアで実現する場合はルックアップ・テーブルに用意しておけばよい。
(変形例)
なお、上記実施の形態での説明の画像処理空間は最良の色空間として均等色・均等ノイズ空間を用いたが、一般的な均等色空間の場合も同様にコントラスト比関数を定義して、本発明を利用することができる。例えば、CIE定義のL*a*b*空間やL*u*v*、あるいはCIECAM02でもよく、それぞれで定義される作業用色空間の階調特性と出力色空間の階調特性からコントラスト比関数を求めればよい。
また、多重解像度技術として最も優れた低周波と高周波の両サブバンドを使う例を示したが、従来からの如何なる技術にも当てはまる。実空間処理の場合も同様である。
ガンマ版もレチネックス版もそのノイズ除去フィルタによってエッジのコントラストを失うことに対する防御機構は、均等ノイズ化されていない均等色空間で同様の定義で用いた場合であっても有効に作用する。むしろ、ノイズ抽出がうまくいかずノイズ成分の中により多くのエッジ成分を含んでいる場合には、そのエッジをノイズ除去率制御を通じて保護する観点から、ノイズ抽出精度に対して大きな改善率が期待できるともいえる。しかし、画質改善の最高到達点は均等ノイズ化された空間でノイズ除去した場合のほうが高いことはいうまでもない。
図4(a)、図4(b)では出力色空間における階調特性がノーマルコントラスト・モードとハイコントラストモードのときのコントラスト比関数dγ/dL^を与えるdγ/dYの関数曲線の例を示した。その他のよく用いる場合の例は以下に具体式で示しておく。ただし、Yは図4(a)、図4(b)の記号と同じく、線形階調の明るさレベルを表し、基準レベルは0〜1.0の間に規格化されているものとする。また、式はおよその算出過程に必要な手順を示すために与えているので、厳密ではない部分もある。ここで、もう一度コントラスト比関数の導出式を示しておくと、
Figure 2008105268
(1−1)出力色空間がsRGB色空間でsRGB規定の階調特性のとき
γ(Y) = 12.92*Y 0 =< Y =< 0.0031308
γ(Y) = 1.055*Y^(1/2.4) - 0.055 0.0031308 =< x =< 1
(1−2)出力色空間がsRGB色空間でsRGB規定の階調特性のとき
γ(Y) = Y^(1/2.19921875) 0 =< Y =< 1
第1項のdγ/dYは上記式より算出される。
(2−1)入力画像がISO6400のとき
Figure 2008105268
(2−2)入力画像がISO50のとき
Figure 2008105268
第2項のdY/dL^は上記式より算出される。
(3)ノイズ除去率を制御するコントラスト比関数は上記条件の各々の組み合わせによって
Figure 2008105268
から算出される。したがって、コントラスト比関数は出力色空間の階調特性によっても変わり、入力画像のISO感度によっても変わるという性質を持つ。
また、補足として、作業用色空間として最新の均等色空間であるCIECAM02を用いた場合は、上記定義をそのまま流用し、L^をCIECAM02空間での明るさを表す記号と捉えて、
Figure 2008105268
ただし、明るさレベルYは視環境の明るさパラメータFLに比例し、Y∝FLなので1.0を超えるような範囲の明るさも生じる。
なお、CIECAM02の場合も定義どおりの周辺視環境に応じた均等色化することのみにとどまらず、外部環境パラメータとして撮像感度に応じて画像データを均等ノイズ化するような変形を考えるならば、均等色・均等ノイズ空間L^a^b^の中で導入した撮像感度に応じたオフセット信号εを線形階調の明るさYに対して加えて、
Figure 2008105268
のような置き換えで定義してもよい。
このように定義された作業用階調特性から第2項のdY/dL^が算出され得る。
上記実施の形態では、輝度成分および色差成分に対してノイズ除去処理を行う例を説明したが、いずれか一方のみに対して行うようにしてもよい。
以上のようにして、上記第1〜第4の実施の形態では、原画像が初めから持つコントラスト、彩度、透明感等を保持しつつ、質感再現性の高い高精細なノイズ除去効果を得ることができる。
画像処理空間に投影することによって抽出ノイズ成分の精度が格段に上がってきたことから、一律にノイズ除去せずとも、ノイズ除去率を通じて画像内でそのバランスを変える操作が可能となり、その結果、画像全体としてはノイズ感の抑制度は一律の時と同程度のまま、新たにノイズの消滅・残存度合から生まれるコントラスト強調効果を得ることができる。そのバランスの変え方としては、明るさ依存で画像全体からコントラストを残す方法(第1の実施の形態)と、エッジ構造依存で局所的なコントラストを残す方法(第2の実施の形態)の2通りの方法があり、何れも質感再現性の高いノイズ除去効果を得ることができる。
また、そのコントラスト比関数を出力色空間の階調特性と作業用色空間の階調特性から最適に決めることから、ノイズの増幅の恐れがなく原画像に元から存在するコントラストを最大限保持する形で、ノイズ除去を行なうことができる。すなわち、階調特性の微分比率でコントラスト比関数を定めてノイズ除去率を制御することにより、ノイズ除去で失われる可能性のあるコントラストを逆に維持するという形で、一般の階調補正技術に近いようなコントラスト強調効果がノイズ除去技術の中で実現できる。
特に輝度成分では、明るい部分と暗い部分との間のコントラスト差による立体感や鮮鋭感を生み、色差成分では高彩度部のカラフルさを保ち、全体として陰影のある画像部分では色乗りのよい高コントラストのノイズ除去結果を生む。また、原画像が元から持つコントラストを失わずに最大限に維持しつつ、ノイズ成分だけ消し去るので、ノイズ被りがなくなって元の原画像よりも透き通った透明感のある質感再現を提供できる。更に、ダイナミックレンジの広い画像では、より顕著な効果を生みやすい。
更に、一旦抽出を終えたノイズ成分に対して、ノイズ除去率を単に場所毎に関数化するだけで済むので、容易にその効果を実現することができる。
また、ノイズ除去後に任意の階調補正が行なわれても、それらに合わせて柔軟に対応できるという利点も持つ。
従来技術の特許文献5と違って、コントラストの高いエッジ領域でも、エッジのコントラストを失わずに良好なノイズ除去をも同時に実現できるという、ノイズ除去とエッジ構造保存の両立を図ることができる効果がある。従って、コントラストの高いエッジ領域でも透明感を生み出すノイズ除去効果が得られる。
なお、上記実施の形態では、原画像(作業用色空間の原画像)に対する平滑化処理を経て抽出されたノイズ成分に、さらにノイズ除去率関数λ(x,y)を導入してノイズを適正化し、適正化されたノイズを原画像から減算するようにしている。このことは、原画像に対する平滑化強度を適切に設定し処理をしていることになる。すなわち、作業用色空間の階調特性と出力色空間の階調特性の違いに基づいて原画像に対する平滑化強度を適切に設定し、ノイズ除去画像を作成している。
一般に、ノイズ除去率を制御してノイズ除去画像を得ることと、平滑化画像と原画像の混合比率を制御してノイズ除去画像を得ることは数学的に等価である。従って、平滑化強度は、所定の平滑化処理によって平滑化された平滑化画像と原画像の混合比率を変える、あるいは、原画像と該平滑化画像との差分で抽出されたノイズ成分を原画像から減算するときの減算比率を変えることによって制御されていることになる。
また、作業用色空間の階調特性と出力色空間の階調特性の違いに基づいて原画像に対する平滑化強度を適切に設定しているので、出力色空間に変換後のノイズ除去画像の平滑化強度が、原画像の画像信号の各種の階調に対して均質化されるようになる。
原画像の明るさレベルに応じて、作業用色空間と出力色空間の階調特性の違いに基づくコントラスト比が変化するコントラスト比関数を使用しているので、このことは、原画像の明るさレベルに応じて、作業用色空間と出力色空間の階調特性の違いに基づくコントラスト比を平滑化強度へ反映させる度合いを変えていることを意味する。
第2の実施の形態においては、検出されたエッジ強度が相対的に強い、あるいは絶対的に強い領域において、明るさに応じて平滑化強度の異なるノイズ除去処理を行なっている。このような平滑化強度を使用すると、第2の実施の形態の処理について、以下のことが言える。
抽出されたエッジ成分の強度が大きくなるに従って、明るさに対する平滑化強度の強弱の度合いを増大させた平滑化強度を設定して、ノイズ除去画像を作成している。エッジ強度が相対的に強い領域において、所定の階調特性に対して、原画像の明るさに対する階調特性のコントラストの強い部分では平滑化強度を強め、コントラストの弱い部分では平滑化強度を弱める処理を行っている。
作業用色空間と出力色空間の階調特性の違いに基づいた平滑化強度を、エッジ成分の強度が小さくなるに従って、明るさに対する平滑化強度の変化の度合いをなくして一定に近づくように設定している。
階調特性の違いに基づいて設定する明るさに応じたコントラスト比関数を、エッジ成分の強度に対して単調増加する関数を通して、明るさに対する平滑化強度の強弱の度合いを増減させた平滑化強度を設定している。
画像の明るさレベルに応じた平滑化強度を、一般に中間輝度に対して高輝度側で弱く設定し、出力階調特性と作業用階調特性の組み合わせ方によっては中間輝度に対して低輝度側で弱く設定することもある。これはすべての実施の形態について当てはまる。検出されたエッジ近傍領域の画像信号の平滑化強度を、作業用色空間と出力色空間の階調特性の違いに基づいて設定し、設定した平滑化強度に基づき、ノイズ除去画像を作成している。
出力色空間に変換後のノイズ除去画像の平滑化強度が、検出されたエッジ近傍領域の画像信号の各階調に対して均質化されるように、作業用色空間における平滑化強度を設定している。検出されたエッジ成分の強度に応じて、作業用色空間と前記出力色空間の階調特性の違いに基づくコントラストを平滑化強度へ反映させる度合いを変えている。
ところで、第2〜第4の実施の形態のエッジ検出は、ガンマ補正のかかった作業用色空間で抽出しているので、微分フィルタの形で表されている。前述の数19の式を書き直せば、ガンマ補正後の画像信号Vg(x,y)に対し次式の加減算処理を行っている。
Figure 2008105268
ガンマ補正は、線形階調データに対して近似的に対数変換を行なう役割も果たすので
Figure 2008105268
の関係から、ガンマ空間におけるエッジ検出処理は、線形空間においてある画素と近傍画素の平均値との比をとっている演算ともみなせる。すなわち、以下の式のようになる。
Figure 2008105268
これは、レチネックス理論における局所平均との比によるコントラスト補正とつながっており、第2の実施の形態では多重解像度で扱っているので、いわゆるマルチスケールレチネックス処理のノイズ除去版とも言える。同様に、第4の実施の形態では、シングルスケールレチネックス処理のノイズ除去版とも言える。
なお、上記実施の形態や変形例では、パーソナルコンピュータ1で実現される画像処理装置の例で説明をした。しかし、上記で説明したパーソナルコンピュータ1によるノイズ除去処理を、デジタルカメラ(電子カメラ)内で行うようにしてもよい。図7は、このデジタルカメラ100の構成を示す図である。デジタルカメラ100は、撮影レンズ102、CCDなどからなる撮像素子103、CPUおよび周辺回路からなる制御装置104、メモリ105などから構成される。
撮像素子103は、被写体101を撮影レンズ102を介して撮影(撮像)し、撮影した画像データを制御装置104へ出力する。ここでの処理が、第1の実施の形態で説明した図2のステップS1の画像データ入力に相当する。制御装置104は、撮像素子103で撮影された画像データに対して、上記で説明した各実施の形態や変形例のノイズ除去処理を行い、適切にノイズ除去された画像データを適宜メモリ105に格納する。制御装置104はROM(不図示)などに格納された所定のプログラムを実行することにより、上記説明したノイズ除去処理を行う。
このようにして、デジタルカメラ100内部でも、質感再現性の高いノイズ除去が可能となり、適切にノイズ除去された画像データをメモリ105に格納し、また、着脱可能なメモリカードなどの記録媒体に記録することができる。
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特許出願2007年第049114号(2007年2月28日出願)
日本国特許出願2007年第049115号(2007年2月28日出願)

Claims (41)

  1. 原画像に含まれるノイズ成分を除去する画像処理方法であって、
    作業用色空間で原画像に含まれるノイズ成分を抽出し、
    前記抽出されたノイズ成分に基づいて、ノイズ除去画像を作成し、
    前記ノイズ除去画像を前記作業用色空間から前記作業用色空間と異なる階調特性を持つ出力色空間に変換し、
    前記抽出されたノイズ成分と、前記作業用色空間の階調特性と前記出力色空間の階調特性の違いとに基づいて、前記ノイズ除去画像を作成する画像処理方法。
  2. 請求項1に記載の画像処理方法において、
    前記作業用色空間の階調特性と前記出力色空間の階調特性の違いの度合いは、前記作業用色空間における明るさレベルに応じて変化する画像処理方法。
  3. 請求項1に記載の画像処理方法において、
    前記出力色空間と前記作業用色空間に於ける各々の画像の階調特性に基づいて、明るさレベルに対するコントラスト比関数を設定し、
    前記設定したコントラスト比関数に基づいて、前記ノイズ除去画像を作成する画像処理方法。
  4. 請求項1に記載の画像処理方法において、
    前記抽出されたノイズ成分と、前記作業用色空間の階調特性の変化の度合いと前記出力色空間の階調特性の変化の度合いの違いとに基づいて、前記ノイズ除去画像を作成する画像処理方法。
  5. 請求項1〜4のいずれかに記載の画像処理方法において、
    前記作業用色空間の階調特性と前記出力色空間の階調特性の違いに基づいて、前記抽出されたノイズ成分を原画像から減算するときの減算割合を制御する画像処理方法。
  6. 請求項1〜4のいずれかに記載の画像処理方法において、
    前記作業用色空間は、均等ノイズ空間、均等色空間、あるいはその両方を実現する均等色・均等ノイズ空間の少なくとも何れか1つの色空間である画像処理方法。
  7. 請求項1〜2のいずれかに記載の画像処理方法において、
    前記出力色空間で持つ画像の階調特性と前記作業用色空間で持つ画像の階調特性の微分比率に基づいて、前記ノイズ除去画像を作成する画像処理方法。
  8. 請求項1〜4のいずれかに記載の画像処理方法において、
    前記出力色空間への階調変換によってノイズ成分が増幅される階調領域のノイズ除去度合を予め大きくし、減幅される階調領域のノイズ除去度合を予め小さくする画像処理方法。
  9. 請求項1〜4のいずれかに記載の画像処理方法において、
    前記原画像の撮像感度に応じて異なる階調特性の作業用色空間に変換する画像処理方法。
  10. 請求項1〜4のいずれかに記載の画像処理方法において、
    前記出力色空間の階調特性は、標準RGB色空間の階調特性を備える画像処理方法。
  11. 請求項1〜4のいずれかに記載の画像処理方法において、
    前記原画像に含まれるノイズ成分を除去する処理以外に階調補正処理を行なって、入力色空間で所持する画像の階調特性と出力色空間で所持する画像の階調特性が異なっている場合、階調補正後の出力色空間で持つ画像の階調特性と前記作業用色空間で持つ画像の階調特性の違いに基づいて前記ノイズ除去画像を作成する画像処理方法。
  12. 請求項1〜4のいずれかに記載の画像処理方法において、
    前記原画像を輝度成分と色差成分で表される前記作業用色空間に変換し、各々の色成分に対して前記ノイズ除去画像を作成する画像処理方法。
  13. 請求項1〜4のいずれかに記載の画像処理方法において、
    前記原画像を輝度成分と色差成分で表される前記作業用色空間に変換し、その中の少なくとも1つの色成分に対して前記ノイズ除去画像を作成する画像処理方法。
  14. 請求項3に記載の画像処理方法において、
    前記コントラスト比関数と画像の場所毎の明るさレベルに基づいて、前記ノイズ除去画像を作成する画像処理方法。
  15. 請求項3に記載の画像処理方法において、
    前記コントラスト比関数と画像の場所毎のエッジ強度に基づいて、前記ノイズ除去画像を作成する画像処理方法。
  16. 請求項3に記載の画像処理方法において、
    前記原画像を輝度成分と色差成分で表される前記作業用色空間に変換し、
    前記輝度成分のノイズ除去画像を作成する場合、前記作業用色空間における明るさレベルの露出基準点に於ける微分比率で規格化されたコントラスト比関数を設定する画像処理方法。
  17. 請求項3に記載の画像処理方法において、
    前記原画像を輝度成分と色差成分で表される前記作業用色空間に変換し、
    前記色差成分のノイズ除去画像を作成する場合、前記作業用色空間における明るさレベルの飽和基準点に於ける微分比率で規格化されたコントラスト比関数を設定する画像処理方法。
  18. 原画像に含まれるノイズ成分を除去する画像処理方法であって、
    原画像を所定の階調特性を持つ作業用色空間に変換し、
    前記作業用色空間で原画像のノイズ除去を行なって、ノイズ除去画像を作成し、
    前記ノイズ除去画像を前記作業用色空間から前記作業用色空間と異なる階調特性を持つ出力色空間に変換し、
    前記原画像の平滑化強度を、前記作業用色空間の階調特性と前記出力色空間の階調特性の違いに基づいて設定し、前記ノイズ除去画像を作成する画像処理方法。
  19. 請求項18に記載の画像処理方法において、
    前記出力色空間に変換後のノイズ除去画像の平滑化強度が、前記原画像の画像信号の各階調に対して均質化されるように、前記作業用色空間における平滑化強度を設定する画像処理方法。
  20. 請求項18に記載の画像処理方法において、
    前記原画像の明るさレベルに応じて、前記作業用色空間と前記出力色空間の階調特性の違いに基づくコントラスト比を前記平滑化強度へ反映させる画像処理方法。
  21. 請求項18に記載の画像処理方法において、
    前記平滑化強度は、所定の平滑化処理によって平滑化された平滑化画像と原画像の混合比率を変える、あるいは、原画像と該平滑化画像との差分で抽出されたノイズ成分を原画像から減算するときの減算比率を変えることによって制御する画像処理方法。
  22. 原画像に含まれるノイズ成分を除去する画像処理方法であって、
    原画像に対してエッジ検出を行い、
    前記検出されたエッジ強度が相対的に強い領域において、明るさに応じて平滑化強度の異なるノイズ除去処理を行なう画像処理方法。
  23. 原画像に含まれるノイズ成分を除去する画像処理方法であって、
    原画像に含まれるエッジ成分を抽出し、
    前記抽出されたエッジ成分の強度が大きくなるに従って、明るさに対する平滑化強度の強弱の度合いを増大させた平滑化強度を設定し、
    前記平滑化強度に基づいて、ノイズ除去画像を作成する画像処理方法。
  24. 請求項23に記載の画像処理方法において、
    前記ノイズ除去画像を作成するとき、前記エッジ強度が相対的に強い領域において、所定の階調特性に対して、前記原画像の明るさに対する階調特性のコントラストの強い部分では平滑化強度を強め、コントラストの弱い部分では平滑化強度を弱める画像処理方法。
  25. 請求項23に記載の画像処理方法において、
    前記平滑化強度は、エッジ成分の強度が小さくなるに従って、明るさに対する平滑化強度の変化の度合いをなくして一定に近づくように設定する画像処理方法。
  26. 請求項22から25のいずれかに記載の画像処理方法において、
    前記エッジ強度は、とりうる階調幅に対する絶対エッジ強度レベルで表された所定値に対して大小関係を比較することにより測定する画像処理方法。
  27. 請求項23に記載の画像処理方法において、
    所定の階調特性を持つ作業用色空間でノイズ除去を行ない、前記階調特性とは異なる階調特性を持つ出力色空間の画像に変換して前記ノイズ除去画像を作成し、
    前記作業用色空間と前記出力色空間の階調特性の違いに基づいて、前記平滑化強度を設定する画像処理方法。
  28. 請求項27に記載の画像処理方法において、
    前記階調特性の違いに基づいて設定する平滑化強度を、前記エッジ成分の強度に対して単調増加する関数を通して前記明るさに対する平滑化強度を設定する画像処理方法。
  29. 請求項23に記載の画像処理方法は、
    前記画像の明るさレベルに応じた平滑化強度を、中間輝度に対して高輝度側で弱く設定する画像処理方法。
  30. 請求項29に記載の画像処理方法は、
    前記画像の明るさレベルに応じた平滑化強度を、中間輝度に対して低輝度側で弱く設定する画像処理方法。
  31. 原画像に含まれるノイズ成分を除去する画像処理方法であって、
    原画像に対して、所定の階調特性を持つ作業用色空間でノイズ除去を行なってノイズ除去画像を作成し、
    前記ノイズ除去画像を前記階調特性とは異なる階調特性を持つ出力色空間の画像に変換して出力ノイズ除去画像を作成し、
    さらに、前記原画像に対してエッジ成分を検出し、
    前記検出されたエッジ近傍領域の画像信号の平滑化強度を、前記作業用色空間と前記出力色空間の階調特性の違いに基づいて設定し、
    前記設定した平滑化強度に基づき、前記ノイズ除去画像を作成する画像処理方法。
  32. 請求項31に記載の画像処理方法において、
    前記出力色空間に変換後の出力ノイズ除去画像の平滑化強度が、前記検出されたエッジ近傍領域の画像信号の各階調に対して均質化されるように、前記作業用色空間における平滑化強度を設定する画像処理方法。
  33. 請求項31に記載の画像処理方法において、
    前記検出されたエッジ成分の強度に応じて、前記作業用色空間と前記出力色空間の階調特性の違いに基づくコントラストを、前記平滑化強度へ反映させる度合いを変える画像処理方法。
  34. 請求項33に記載の画像処理方法において、
    前記エッジ強度は、とりうる階調幅に対する絶対エッジ強度レベルで表された所定値に対して大小関係を比較することにより測定する画像処理方法。
  35. 請求項23または31に記載の画像処理方法において、
    前記平滑化強度は、所定の平滑化処理によって平滑化された平滑化画像と原画像の混合比率を変える、あるいは、原画像と該平滑化画像との差分で抽出されたノイズ成分を原画像から減算するときの減算比率を変えることによって制御する画像処理方法。
  36. 請求項23または31に記載の画像処理方法において、
    前記原画像は、輝度成分と色差成分に分離された各々の色成分の画像である画像処理方法。
  37. 請求項27、31のいずれかに記載の画像処理方法において、
    前記作業用色空間は、均等ノイズ空間、均等色空間、あるいはその両方を実現する均等色・均等ノイズ空間の少なくとも何れか1つの色空間である画像処理方法。
  38. 原画像に含まれるノイズ成分を除去する画像処理方法であって、
    原画像を所定の階調特性を持つ作業用色空間に変換し、
    前記作業用色空間で原画像に含まれるノイズ成分を抽出し、
    前記抽出されたノイズ成分に基づいて、ノイズ除去画像を作成し、
    前記ノイズ除去画像を前記作業用色空間から前記作業用色空間と異なる階調特性を持つ出力色空間に変換し、
    前記原画像の局所的な領域ごとに、前記作業用色空間の階調特性と前記出力色空間の階調特性の違いを判断し、
    前記原画像の局所的な領域ごとに判断した前記作業用色空間の階調特性と前記出力色空間の階調特性の違いと、前記抽出されたノイズ成分とに基づいて前記ノイズ除去画像を作成する画像処理方法。
  39. 請求項1から38のいずれかに記載の画像処理方法をコンピュータまたは画像処理装置に実行させる画像処理プログラム。
  40. 請求項39に記載の画像処理プログラムを搭載する画像処理装置。
  41. 請求項39に記載の画像処理プログラムを搭載する電子カメラ。
JP2009501189A 2007-02-28 2008-02-19 画像処理方法 Active JP4858610B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009501189A JP4858610B2 (ja) 2007-02-28 2008-02-19 画像処理方法

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2007049115 2007-02-28
JP2007049114 2007-02-28
JP2007049114 2007-02-28
JP2007049115 2007-02-28
PCT/JP2008/052747 WO2008105268A1 (ja) 2007-02-28 2008-02-19 画像処理方法
JP2009501189A JP4858610B2 (ja) 2007-02-28 2008-02-19 画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2008105268A1 true JPWO2008105268A1 (ja) 2010-06-03
JP4858610B2 JP4858610B2 (ja) 2012-01-18

Family

ID=39721104

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009501189A Active JP4858610B2 (ja) 2007-02-28 2008-02-19 画像処理方法

Country Status (3)

Country Link
US (1) US8249341B2 (ja)
JP (1) JP4858610B2 (ja)
WO (1) WO2008105268A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8120679B2 (en) 2008-08-01 2012-02-21 Nikon Corporation Image processing method
US8515182B2 (en) 2009-02-11 2013-08-20 Ecole De Technologie Superieure Method and system for determining a quality measure for an image using multi-level decomposition of images
US8326046B2 (en) 2009-02-11 2012-12-04 Ecole De Technologie Superieure Method and system for determining structural similarity between images
US8515181B2 (en) * 2009-02-11 2013-08-20 Ecole De Technologie Superieure Method and system for determining a quality measure for an image using a variable number of multi-level decompositions
KR101361804B1 (ko) * 2009-06-25 2014-02-11 삼성테크윈 주식회사 디지털 영상 처리기에서 노이즈 제거 장치 및 방법
US8457398B2 (en) * 2009-10-27 2013-06-04 Himax Media Solutions, Inc. Image enhancement method and apparatuses utilizing the same
EP2569931A1 (en) * 2010-05-10 2013-03-20 OCE-Technologies B.V. Method to restore edges in rasterized images
US8983206B2 (en) 2011-05-04 2015-03-17 Ecole de Techbologie Superieure Method and system for increasing robustness of visual quality metrics using spatial shifting
US8929607B2 (en) 2011-12-01 2015-01-06 Sony Corporation System and method for performing depth estimation utilizing defocused pillbox images
KR101704662B1 (ko) * 2012-02-29 2017-02-08 고쿠리츠켄큐카이하츠호진 카가쿠기쥬츠신코키코 화상처리용 디지털 필터 및 문자열 경사 착시 생성 장치
US9578226B2 (en) * 2012-04-12 2017-02-21 Qualcomm Incorporated Photometric registration from arbitrary geometry for augmented reality
CN104639800B (zh) 2013-11-08 2017-11-24 华为终端(东莞)有限公司 一种用于图像降噪的方法及终端
CN104751431A (zh) * 2013-12-31 2015-07-01 西门子医疗保健诊断公司 一种基于图像处理的方法和装置
JP6432214B2 (ja) * 2014-08-25 2018-12-05 株式会社リコー 画像処理装置、画像処理方法、記憶媒体及びプログラム
US10706513B2 (en) * 2015-09-16 2020-07-07 Maxell, Ltd. Image processing apparatus
JP6654397B2 (ja) * 2015-10-09 2020-02-26 株式会社イシダ X線検査装置
US11276367B2 (en) * 2018-06-05 2022-03-15 Eizo Corporation Image processing device and an image processing program
US11379749B2 (en) * 2020-03-05 2022-07-05 Massachusetts Institute Of Technology Identifying noise sources in quantum systems via multi-level noise spectroscopy
CN111753832B (zh) * 2020-07-02 2023-12-08 杭州睿琪软件有限公司 图像处理方法、图像处理装置、电子设备和存储介质

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02278383A (ja) 1989-04-19 1990-11-14 Fuji Photo Film Co Ltd 画像処理装置
JP2650759B2 (ja) 1989-07-21 1997-09-03 富士写真フイルム株式会社 画像処理装置
JPH11187420A (ja) 1997-12-24 1999-07-09 Sony Corp 信号処理装置及び信号処理方法
JP3584389B2 (ja) 1998-03-25 2004-11-04 富士写真フイルム株式会社 画像処理方法および画像処理装置
EP1059811A2 (en) 1999-06-10 2000-12-13 Fuji Photo Film Co., Ltd. Method and system for image processing, and recording medium
JP2001167264A (ja) * 1999-09-30 2001-06-22 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
US6621937B1 (en) * 1999-10-08 2003-09-16 Eastman Kodak Company Removing chroma noise from digital images by using variable shape pixel neighborhood regions
US6980326B2 (en) 1999-12-15 2005-12-27 Canon Kabushiki Kaisha Image processing method and apparatus for color correction of an image
JP3723043B2 (ja) 2000-04-21 2005-12-07 シャープ株式会社 画像処理装置、画像読取装置および画像形成装置
WO2002005543A1 (fr) 2000-07-06 2002-01-17 Seiko Epson Corporation Procede de traitement d'image, support d'enregistrement, et dispositif de traitement d'image
JP3754933B2 (ja) 2001-06-19 2006-03-15 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法、プログラム及び記憶媒体
US6937775B2 (en) 2002-05-15 2005-08-30 Eastman Kodak Company Method of enhancing the tone scale of a digital image to extend the linear response range without amplifying noise
KR101027849B1 (ko) 2003-09-11 2011-04-07 파나소닉 주식회사 시각 처리 장치, 시각 처리 방법, 시각 처리 프로그램 및반도체 장치
JP4414307B2 (ja) * 2003-09-11 2010-02-10 パナソニック株式会社 視覚処理装置、視覚処理方法、視覚処理プログラムおよび半導体装置
JP4263131B2 (ja) * 2004-04-02 2009-05-13 コニカミノルタビジネステクノロジーズ株式会社 色変換方法および画像処理装置
WO2006006373A1 (ja) 2004-07-07 2006-01-19 Nikon Corporation 画像処理装置およびコンピュータプログラム製品
EP1833264B1 (en) * 2004-12-17 2012-11-07 Nikon Corporation Image processing method
JP5023702B2 (ja) * 2004-12-20 2012-09-12 株式会社ニコン 画像処理方法、画像処理プログラム、記録媒体及び画像処理装置
JP2006310999A (ja) * 2005-04-27 2006-11-09 Sony Corp 画像処理装置および方法、並びにプログラム
EP2003612A4 (en) 2006-03-31 2010-10-13 Nikon Corp IMAGE PROCESSING
EP2003877B1 (en) 2006-03-31 2015-05-06 Nikon Corporation Image processing method

Also Published As

Publication number Publication date
WO2008105268A1 (ja) 2008-09-04
US20100008574A1 (en) 2010-01-14
JP4858610B2 (ja) 2012-01-18
US8249341B2 (en) 2012-08-21

Similar Documents

Publication Publication Date Title
JP4858610B2 (ja) 画像処理方法
US8339484B2 (en) Image processing method
EP2833317B1 (en) Image display device and/or method therefor
JP4766118B2 (ja) 画像処理方法
US8249380B2 (en) Image processor and program
US9002127B2 (en) Image dynamic range compression system, method and program
JP4862897B2 (ja) 画像処理方法
KR20040044556A (ko) 화상 처리 방법, 장치 및 프로그램
Hanumantharaju et al. Color image enhancement using multiscale retinex with modified color restoration technique
JP2004127064A (ja) 画像処理方法、画像処理装置、画像処理プログラム及び画像記録装置
JP2004159311A (ja) 画像処理装置および画像処理方法
JP5482007B2 (ja) 画像処理方法
Muniraj et al. Underwater image enhancement by modified color correction and adaptive Look-Up-Table with edge-preserving filter
Albu et al. One scan shadow compensation and visual enhancement of color images
JP5614550B2 (ja) 画像処理方法、画像処理装置及びプログラム
JP5359646B2 (ja) 画像処理方法
Asari et al. Nonlinear enhancement of extremely high contrast images for visibility improvement
JP5343743B2 (ja) 画像処理方法
JP2000307868A (ja) 画像処理方法および装置
JP3807266B2 (ja) 画像処理装置
Unaldi et al. Image enhancement for improving face detection under non-uniform lighting conditions
JP5482006B2 (ja) 画像処理方法
JP2005039458A (ja) 画像処理装置および方法
Pardhi et al. Contrast Enhancement Using Adaptive Threshold Based Dynamic Range Adjustment In Luv Colour Space
Unaldi et al. An automatic wavelet-based nonlinear image enhancement technique for aerial imagery

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101125

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111004

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111017

R150 Certificate of patent or registration of utility model

Ref document number: 4858610

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141111

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141111

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250