JPWO2016051716A1 - 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体 - Google Patents

画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体 Download PDF

Info

Publication number
JPWO2016051716A1
JPWO2016051716A1 JP2016551514A JP2016551514A JPWO2016051716A1 JP WO2016051716 A1 JPWO2016051716 A1 JP WO2016051716A1 JP 2016551514 A JP2016551514 A JP 2016551514A JP 2016551514 A JP2016551514 A JP 2016551514A JP WO2016051716 A1 JPWO2016051716 A1 JP WO2016051716A1
Authority
JP
Japan
Prior art keywords
resolution
pixel value
image
pixel
correction amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016551514A
Other languages
English (en)
Other versions
JP6624061B2 (ja
Inventor
健太 先崎
健太 先崎
真人 戸田
真人 戸田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2016051716A1 publication Critical patent/JPWO2016051716A1/ja
Application granted granted Critical
Publication of JP6624061B2 publication Critical patent/JP6624061B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4092Edge or detail enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

HDRによるノイズ強調とハロの発生を抑制できる低演算コストな画像処理方法、画像処理装置、及び画像処理プログラムを提供すること。本発明の一態様に係る画像処理装置は、多重解像度画像を生成する多重解像度画像生成手段と、前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算されたエッジ情報とに基づいて、明るさ補正量を算出する補正量算出手段と、前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とに基づいて、ノイズ成分が抑圧された明るさ補正後の画像を算出するノイズ抑圧手段とを有する。

Description

本発明は、画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体に関する。
近年、監視カメラの利用が盛んになっている。しかし、監視カメラの実際の運用シーンにおいては、逆光撮影時に一部領域が暗く見づらくなり、撮影される映像が不鮮明となる問題が発生する。
撮影された画像の逆光状態の画像を補正する技術としては、たとえば、特許文献1に開示された技術(階調補正、逆光補正、High Dynamic Range imaging, HDR)がある。
特許文献1に記載された技術について説明する。この手法によれば、図1に示される処理フローにより画像中の逆光部の補正が行われる。
まず、特許文献1に記載されている画像処理システムは、入力された原画像から、1画素以上で構成される画像領域である局所領域を選択する(ステップS801)。
次に、画像処理システムは、選択された局所領域の階調補正量を算出する(ステップS802)。画像処理システムは、局所領域の階調補正量を算出するために、局所領域の中心を原点とし、局所領域を内包する領域(周辺領域)の輝度(周辺領域輝度)を算出する。この周辺領域輝度としては、周辺領域の輝度ヒストグラムの中央値や平均値、周辺領域の輝度の加重平均をとった加重平均輝度値などを用いることができる。そして、画像処理システムは、周辺領域輝度に基づき、局所領域の階調補正量を算出する。
局所領域の階調補正量が算出されると、画像処理システムは、得られた局所階調補正量に基づいて該当する局所領域の階調を補正する(ステップS803)。この局所階調補正は、1領域以上ある局所領域に対して逐次的に行われる。
画像処理システムは、局所領域の階調補正が全ての補正対象の局所領域について行われたか否かを判定する(ステップS804)。未処理の局所領域が残っている場合(ステップS804−NO)、画像処理システムは、その領域に対して補正量の取得および階調補正を行う。
全ての局所領域に対して処理が終了している場合(ステップS804−YES)、画像処理システムは、階調補正処理を終了する。
国際公開第2006/025486号
しかし、特許文献1の技術は、階調補正処理、すなわちHDR処理によってノイズを強調してしまうため、入力画像に含まれるノイズ強度が高いとき(すなわちノイズの分散が大きいとき)に鮮明な出力画像を生成できなかった。HDR処理の前段、または後段にノイズ抑圧処理(デノイズ処理)を導入することによってノイズ強調を抑制できるが、デノイズ処理はHDR処理と同等の演算コストが必要になる。そのため、FPGA(field-programmable gate array)などの計算資源が限られる環境では、処理性能を落として演算負荷を下げるか、計算資源を増強しないと適用できなかった。
また、特許文献1の技術は、照明光成分推定部において演算コストの低い線形ローパスフィルタを用いると、明るさが急激に変化する画像中のエッジ周辺領域においてハロと呼ばれる照明光成分推定誤差に起因する不具合が生じてしまう問題があった。エッジ保存型の非線形ローパスフィルタを用いて照明光成分を推定することによって、エッジ周辺での照明光成分推定の誤差を小さくすることができ、ハロの問題は発生しにくくなる。しかし、エッジ保存型の非線形ローパスフィルタは演算コストが高いため、単独で非線形ローパスフィルタを用いることは、FPGAなどの計算資源が限られる環境では難しかった。
本発明は上記課題に鑑みて発明されたものである。本発明の目的の1つは、HDRによるノイズ強調とハロの発生とを抑制できる低演算コストな画像処理方法、画像処理装置、及び画像処理プログラム等を提供することにある。
本発明の一態様に係る画像処理装置は、多重解像度画像を生成する多重解像度画像生成手段と、前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算されたエッジ情報とに基づいて、明るさ補正量を算出する補正量算出手段と、前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とに基づいて、ノイズ成分が抑圧された明るさ補正後の画像を算出するノイズ抑圧手段とを有する。
本発明の一態様に係る画像処理装置は、注目画素が中心である、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲において平均画素値を算出することによって、解像度の異なる複数の画像の集合である多重解像度画像を生成する多重解像度画像生成手段と、前記多重解像度画像を用いて、隣接する解像度間における差分を表す隣接解像度間差分値を計算する差分計算手段と、前記多重解像度画像を生成するときに用いた、複数サイズの参照画素範囲の、エッジ方向を決定するエッジ方向決定手段と、前記エッジ方向に基づいて、前記参照画素範囲を3つのサブブロックに分割し、前記サブブロックごとの平均値であるサブブロック平均値を計算する平均値計算手段と、当該解像度における参照画素範囲の平均画素値と、当該解像度における参照画素範囲の前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて、当該解像度の画素値を補正する補正量を算出し、前記補正量に基づいて、当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とに基づいて、当該解像度より高解像度の画素値を算出する、ことを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことにより、前記注目画素におけるローパス成分を抽出し、前記ローパス成分に基づいて、前記注目画素における照明光成分を推定する照明光推定手段と、前記照明光成分に基づいて、入力画像の明るさ補正量を算出する補正量算出手段と、前記明るさ補正量の算出において算出した解像度の画素値を補正する補正量と、当該解像度の明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とに基づいて当該解像度より高い解像度の画素値を生成し、当該解像度より高い解像度の画素値の生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出するノイズ抑圧手段とを有する。
本発明の一態様に係る画像処理方法は、多重解像度画像を生成し、前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算されたエッジ情報とに基づいて、明るさ補正量を算出し、前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とに基づいて、ノイズ成分が抑圧された明るさ補正後の画像を算出する。
本発明の一態様に係る画像処理方法は、注目画素が中心である、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲において平均画素値を算出することによって、解像度の異なる複数の画像の集合である多重解像度画像を生成し、前記多重解像度画像を用いて、隣接する解像度間における差分情報である隣接解像度間差分情報を計算し、前記多重解像度画像を生成するときに用いた、複数サイズの参照画素範囲の、エッジ方向を決定し、前記エッジ方向に基づいて、前記参照画素範囲を3つのサブブロックに分割し、前記サブブロックごとの平均値であるサブブロック平均値を計算し、当該解像度における参照画素範囲の平均画素値と、当該解像度における参照画素範囲の前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて、当該解像度の画素値を補正する補正量を算出し、前記補正量に基づいて、当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とに基づいて、当該解像度より高解像度の画素値を算出する、ことを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるローパス成分を抽出し、前記ローパス成分に基づいて、前記注目画素における照明光成分を推定し、前記照明光成分に基づいて、入力画像の明るさ補正量を算出し、前記明るさ補正量の算出において算出した解像度の画素値を補正する補正量と、当該解像度の明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とに基づいて当該解像度より高い解像度の画素値を生成し、当該解像度より高い解像度の画素値の生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する。
本発明の一態様に係るコンピュータ読み取り可能な記録媒体は、多重解像度画像を生成する処理と、前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算されたエッジ情報とから、明るさ補正量を算出する処理と、前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とに基づいて、ノイズ成分が抑圧された明るさ補正後の画像を算出する処理とをコンピュータに実行させるプログラムを記憶する。本発明は、前記記録媒体に記憶されたプログラムによっても実現される。
本発明によれば、明るさ補正によるノイズ強調とハロの発生とを抑制できる低演算コストな画像処理方法、画像処理装置、及び画像処理プログラムを提供することができる。
図1は、関連する逆光補正手法の動作を示すフローチャートである。 図2は、本発明の第1の実施の形態に係る画像処理システムの全体構成を示すブロック図である。 図3は、本発明の第1の実施の形態の画像処理装置2の構成を示すブロック図である。 図4は、エッジ方向を決定する際に用いられるブロックパターンの例である。 図5は、3つのサブブロックの平均画素値の関係が凹凸型(中央サブブロックが最大または最小)である場合の処理の流れを示した図である。 図6は、3つのサブブロックの平均画素値の関係が単調変化の場合の処理の流れを示した図である。 図7は、中央のサブブロックが極端な値を持つ場合に、エッジが消えるメカニズムを示した図である。 図8は、中央のサブブロックが極端な値を持つ場合でも、エッジを維持するための処理の流れを示した図である。 図9は、本発明の第1の実施形態の画像処理装置2の動作(画像処理方法)を示すフローチャートである。 図10は、本発明の第2の実施形態の画像処理装置2Aの構成を表すブロック図である。 図11は、本発明の各実施形態に係る画像処理装置を実現できるコンピュータの構成を表すブロック図である。 図12は、本発明の各実施形態に係る画像処理装置のハードウェア構成の一例を表すブロック図である。
<第1の実施形態>
本発明の第1の実施形態に係る画像処理方法は、多重解像度画像を生成する。その画像処理方法は、前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算するエッジ情報とから、明るさ補正量を算出する。その画像処理方法は、前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とから、ノイズ成分が抑圧された明るさ補正後の画像を算出する。
更に詳細に述べると、本発明の第1の実施形態に係る画像処理方法は、注目画素を中心とし、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲で平均画素値を算出し、解像度の異なる複数の画像の集合である多重解像度画像を生成する。前記多重解像度画像を用いて隣接する解像度間で差分情報である隣接解像度間差分情報を計算する。画像処理方法は、前記多重解像度画像を生成するときに用いた複数サイズの参照画素範囲のエッジ方向を決定する。画像処理方法は、前記エッジ方向に基づいて、前記参照画素範囲を3つのサブブロックに分割する。画像処理方法は、前記サブブロックごとの平均値であるサブブロック平均値を計算する。画像処理方法は、当該解像度における参照画素範囲の平均画素値と、当該解像度における参照画素範囲の前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出する(第1の算出)。画像処理方法は、前記差分と前記エッジ量とに基づいて、当該解像度の画素値を補正する補正量を算出する(第2の算出)。画像処理方法は、前記補正量に基づいて、当該解像度の画素値を補正する(第1の補正)。画像処理方法は、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とから、当該解像度より高解像度の画素値を算出する(第3の算出)。画像処理方法は、第1の算出と、第2の算出と、第1の補正と、第3の算出とを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるローパス成分を抽出する。なお、本発明の各実施形態の説明において、画素におけるローパス成分は、例えば画像に2次元ローパスフィルタを掛けることによっても得られる低周波数成分の画像の、その画素における画素値を表す。また、画像のローパス成分は、その画像に2次元ローパスフィルタを掛けることによっても得られる、その画像の低周波数成分の画像を表す。画像処理方法は、前記ローパス成分に基づいて、前記注目画素における照明光成分を推定する。画像処理方法は、前記照明光成分に基づいて、入力画像の明るさ補正量を算出する。画像処理方法は、前記明るさ補正量の算出において算出した解像度の画素値を補正する補正量と、当該解像度の明るさ補正量とに基づいて、当該解像度の画素値を補正する。画像処理方法は、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成する。画像処理方法は、この生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する。
以下に、本発明の第1の実施の形態の具体例を説明する。
図2は、本発明の第1の実施の形態に係る画像処理システムの構成を示すブロック図である。本実施形態の画像処理システムは、画像入力部1と画像処理装置2と画像出力部3とを備えている。図2に示す画像処理システムにおいて、データの流れは矢印の方向に限定されない。
画像入力部1は、カメラやスキャナなどの撮像機器、または、その撮像機器により撮影されて画像データが蓄積される画像データベースによって実現される。画像入力部1は、さらに、それらが接続されるネットワークなどによって実現されてもよい。画像入力部1から原画像データが画像処理装置2に入力される。
画像処理装置2は、入力される原画像の逆光部の視認性を改善する補正処理を行い、補正画像を画像出力部3に出力する。
画像出力部3は、例えば、ディスプレイ、プリンタ、画像データを保持するハードディスクやメモリカードなどの記憶媒体によって実現される。画像出力部3は、さらに、あるいはそれらが接続されるネットワークなどによって実現されてもよい。画像出力部3は、画像の表示や蓄積あるいは伝送を行う。
図3は、本実施形態の画像処理装置2の構成の一例を表すブロック図である。画像処理装置2は、図3に示されるように、生成部21と、差分計算部22と、エッジ方向決定部23と、平均値計算部24と、照明光推定部25と、補正量算出部26と、ノイズ抑圧部27とを備える。なお、図3に示す画像処理装置2において、データの流れは矢印の方向に限定されない。
以下、各部について説明する。
生成部21は、画像入力部1から入力される原画像データに対し、注目画素を中心とする、画素参照範囲が順次狭くなる(あるいは広くなる)複数サイズの参照画素範囲で平均画素値を算出することによって、多重解像度画像を生成する。多重解像度画像は、解像度の異なる複数の画像の集合である。そして、生成部21は、生成した多重解像度画像を差分計算部22に出力する。また、生成部21は、多重解像度画像のうち最低解像度画像を、照明光推定部25と、ノイズ抑圧部27とに出力する。尚、平均画素値は、領域に存在する画素の相加平均値、相乗平均値、又は、加重平均値などである。以下の説明では、平均画素値が、領域に存在する画素の相加平均値である場合を説明する。
ここで、多重解像度画像は、帯域通過性能の異なる複数のローパスフィルタを用いて生成される。入力画像uの注目画素位置x=(x,y)における画素値をu(x,y)、m番目のローパスフィルタのオペレータを表す行列をf、フィルタの参照範囲の半径をkとすると、このローパスフィルタの出力値l(x,y)は以下に示す式(1)のように表される。ローパスフィルタの出力値l(x,y)は、m番目の解像度の画素位置(x,y)における画素値l(x,y)を表す。
Figure 2016051716
m番目のローパスフィルタのフィルタ係数(前述のオペレータを表す行列fの要素)f(i,j)は、例えば、1.0であってもよい(すなわち、f(i,j)=1.0)。あるいは、生成部21は、フィルタの係数f(i,j)を、以下の式(2)に示す等方的2次元正規分布に基づいて決定してもよい。
Figure 2016051716
差分計算部22は、画像入力部1から入力される原画像データと、生成部21から入力される多重解像度画像とをもとに、隣接する解像度間の差分画像を計算する(すなわち、隣接解像度間差分画像を生成する)。そして、差分計算部22は、生成した隣接解像度間差分画像を、照明光推定部25と、ノイズ抑圧部27に出力する。
ここでの隣接解像度間差分画像とは、多重解像度画像における、解像度が隣り合う2つの画像間での差分である。隣接解像度間差分画像をd(x)とすると、隣接解像度間差分画像は、d(x)=lm−1(x)−l(x)と表される。なお、便宜上、l−1(x)=u(x)が成り立つ、すなわち、l−1(x)が原画像であるとする。尚、d(x)は、ノイズを含むハイパス成分によって構成される。なお、本発明の各実施形態の説明において、画像のハイパス成分は、例えば画像に2次元ハイパスフィルタを掛けることによっても得られる、その画像の高周波数成分の画像を表す。
エッジ方向決定部23は、画像入力部1から入力される原画像データをもとに、多重解像度画像を計算するために参照された各参照画素範囲における、エッジの方向を決定する。そして、エッジ方向決定部23は、画像入力部1から入力される原画像データと、決定したエッジ方向とを、平均値計算部24に出力する。
エッジ方向決定部23は、多重解像度画像を計算するために参照された参照画素範囲をそれぞれ3×3のブロックに分割し、各ブロックにおける平均画素値を計算する。そして、エッジ方向決定部23は、図4に示す4つのエッジ方向パターンから1つを選択することによってエッジ方向を決定する。図4は、参照画素範囲を3×3のブロックに分割した場合における、横線のエッジ方向(図4の(a))、左下斜線(図4の(b))、縦線(図4の(c))、及び、右下斜線(図4の(d))の4つのエッジ方向パターンを示している。エッジ方向決定部23は、参照画素範囲を、3×3以外の数(例えば5×5等)のブロックに分割してもよい。エッジ方向パターンの数は、4以外の数(例えば2又は8など)であってもよい。
エッジ方向の決定において、エッジ方向決定部23は、参照画素範囲を分割した3×3のブロックを、図4に示されるパターンの、3つのサブブロック(ブロックの集合)に統合する。図4に示す例では、同じサブブロックに含まれるブロックは、同じ模様によって表されている。図4に示すように、3つのサブブロックは、それぞれ3つのブロックを含む。そして、エッジ方向決定部23は、例えば図4に示す4つのパターンから、サブブロックにおける平均画素値の変動が最小であるパターンを選択することによって、エッジ方向の決定を実現する。エッジ方向決定部23は、サブブロックにおける平均画素値の変動として、例えば、サブブロック内の隣接するブロック間の平均画素値の差分絶対値の合計を計算する。サブブロックにおける平均画素値の変動が最小であるパターンは、そのサブブロックの領域におけるもっとも支配的なエッジ方向に沿うパターンである。
図4を用いて具体的に説明する。まず、参照画素範囲を3×3のブロックに分割した場合における、9つのブロックをブロック1〜9とする。参照画素範囲は、図4に示す3×3のブロックである。例えば、ブロック1、2、3から成るサブブロック、ブロック4、5、6から成るサブブロック及びブロック7、8、9から成るサブブロックの平均画素値の変動が最小である場合、エッジ方向決定部23は、参照画素範囲のエッジ方向を横方向にする。また、ブロック1、2、4から成るサブブロック、ブロック3、5、7から成るサブブロック及びブロック6、8、9から成るサブブロックの平均画素値の変動が最小である場合、エッジ方向決定部23は、参照画素範囲のエッジ方向を左下斜め方向にする。また、ブロック1、4、7から成るサブブロック、ブロック2、5、8から成るサブブロック及びブロック3、6、9から成るサブブロックの平均画素値の変動が最小である場合、エッジ方向決定部23は、参照画素範囲のエッジ方向を縦方向にする。また、ブロック1、5、9から成るサブブロック、ブロック2、3、6から成るサブブロック及びブロック4、7、8から成るサブブロックの平均画素値の変動が最小である場合、エッジ方向決定部23は、参照画素範囲のエッジ方向を右下斜め方向にする。
平均値計算部24は、エッジ方向決定部23から入力される原画像データと、エッジ方向とをもとに、3×3のブロックを、選択されたエッジ方向パターンに合わせて3つのサブブロックに統合する。例えば、エッジ方向が横方向である場合、平均値計算部24は、ブロック1から9の9個のブロックを、ブロック1、2、3から成るサブブロックと、ブロック4、5、6から成るサブブロックと、ブロック7、8、9から成るサブブロックとに統合する。そして、平均値計算部24は、サブブロックごとの平均画素値を算出し、算出したサブブロックごとの平均画素値を、照明光推定部25と、ノイズ抑圧部27に出力する。例えば、前述の例では、平均値計算部24は、ブロック1、2、3から成るサブブロックの平均画素値と、ブロック4、5、6から成るサブブロックの平均画素値と、ブロック7、8、9から成るサブブロックの平均画素値とを算出する。平均値計算部24は、算出した3つの平均画素値を、照明光推定部25と、ノイズ抑圧部27とに出力する。
なお、以下の説明では、m番目の参照画素範囲におけるサブブロックごとの平均画素値を、lm,0(x)、lm,1(x)、lm,2(x)と表記する。なお、lm,0(x)、lm,2(x)は両端のサブブロックの平均画素値を示し、lm,1(x)は中央のサブブロックの平均画素値を示す。
照明光推定部25は、低解像度画像と、隣接解像度間差分画像と、サブブロックごとの平均画素値とをもとに、注目画素位置における照明光成分を推定する。上述のように、最低解像度画像は、生成部21から入力される。隣接解像度間差分画像は、差分計算部22から入力される。サブブロックごとの平均画素値は、平均値計算部24から入力される。そして、推定した照明光成分を補正量算出部26に出力する。
照明光推定部25は、注目画素において、最低解像度の画素値(画素参照範囲が最も広い平均フィルタから生成される画素値)から順に、当該解像度のサブブロック平均値情報をもとに、当該解像度の画素値を補正する。照明光推定部25は、さらに、補正した当該解像度の画素値と、当該解像度の隣接解像度間差分値とをもとに、当該解像度の次に低い解像度における画素値を算出する。照明光推定部25は、この補正と画素値の算出とを、入力画像の解像度と同じ解像度における画素値を生成する(すなわち算出する)まで繰り返すことによって、注目画素位置におけるエッジが保存されたローパス成分を抽出する。照明光推定部25は、抽出されたローパス成分を照明光成分と推定する。
なお、各解像度における照明光推定部25による処理は、処理の強度パラメータを除いて同様であるため、以下では、最低解像度画像l(x)をもとに、その1つ上の解像度の、補正後の画像l’(x)を生成する処理について説明する。
まず、照明光推定部25は、注目画素xについて、最低解像度画素値l(x)と最低解像度における中央ブロック平均画素値l2,1(x)との差分値g(x)を、式g(x)=l2,1(x)−l(x)に従って計算する。
次に、照明光推定部25は、エッジ量e(x)として、例えば、両端のサブブロックの平均画素値である、l2,0(x)及びl2,2(x)の差分絶対値を、次式
Figure 2016051716
に従って計算する。なお、照明光推定部25は、エッジ量として、当該解像度におけるノイズ強度σを考慮した、以下の式によって表される補正エッジ量e’(x)を計算してもよい。
Figure 2016051716
以下では、補正エッジ量e’(x)を用いて説明する。すなわち、照明光推定部25がエッジ量として補正エッジ量e’(x)を計算する場合について説明する。
照明光推定部25は、さらに、差分値g(x)の絶対値と補正エッジ量e’(x)の半分の値とのうち、小さいほうの値を補正値h(x)とする。そして、照明光推定部25は、この補正値h(x)を、g(x)の符号を考慮しながら、最低解像度画像l(x)に加算することによって、補正した最低解像度の画素値l’(x)を生成する。補正した最低解像度の画素値l’(x)は、次式によって表される。なお、sign(・)は正負の符号を表す関数である。
Figure 2016051716
以上の処理について、図を用いて説明する。まず、3つのサブブロックの平均画素値l2,0(x)、l2,1(x)、l2,2(x)の関係が、凹凸型である場合を考える。凹凸型は、中央のサブブロックの平均画素値l2,1(x)が、図5に示すように3つの平均画素値の最大値である場合、又は、3つの平均画素値の最小値である場合の、3つのサブブロックの平均画素値のパターンを表す。この例では、注目画素はエッジに含まれる。サブブロックの平均画素値のパターンが凹凸型のときは、必ず、e’(x)/2がh(x)として選択され、l(x)に加算される。この処理により、l’(x)はエッジを維持した値となるため、ノイズを除去しつつ出力画像におけるエッジのボケを防ぐことができる。
次に、3つのサブブロックの平均画素値l2,0(x)、l2,1(x)、l2,2(x)の関係が、図6に示すように単調変化である場合を考える。単調変化は、中央のサブブロックの平均画素値l2,1(x)が、他の2つのサブブロックの一方の平均画素値より大きく、他方の平均画素値より小さい場合の、3つのサブブロックの平均画素値のパターンを表す。この例では、注目画素は滑らかな領域に含まれる。このパターンでは、h(x)として選択される値は、l2,0(x)とl2,2(x)の差分の大きさやノイズの強さに応じて異なる。値g(x)及び値e’(x)/2のいずれの値がh(x)として選択されても、次式
Figure 2016051716
が成り立つため、この領域における単調性(すなわち信号の滑らかさ)が失われることはない。
このように、本実施形態によると、h(x)による補正でエッジを維持しつつノイズを抑圧することができる。なお、図7に示すように中央ブロックの平均画素値が両端のブロックの平均画素値と比較して極端に大きい(または小さい)場合、サブブロックの平均画素値のパターンが凹凸型であるため、中央ブロックの山を消すような処理が適用される。そのため、線状のエッジが消えてしまう問題がある。その問題を回避するために、照明光推定部25は、もう一つの補正値h(x)を算出し、補正値h(x)と補正値h(x)を以下のように使い分けることも可能である。h(x)は、当該解像度におけるノイズの標準偏差σと、g(x)とをもとに、以下の式に従って計算される。
Figure 2016051716
ここで、αはノイズの標準偏差の何倍までをノイズ成分としてみなすかを示す係数である。
照明光推定部25は、補正した最低解像度の画素値l’(x)を、式(4)の代わりに、以下の式(6)に従って算出する。
Figure 2016051716
ノイズ成分の強さにもよるが、式(6)に示すように補正値h(x)を用いることによって、図8に示すように、中央ブロックが極端な値を持つ場合(例えば線状のエッジの場合)においても、補正結果画像において線状のエッジを消さずに残すことができる。また、図5及び図6に示す例のような場合、h(x)は0に近づくため、補正値として選択されるのはh(x)である。従って、h(x)の導入による影響は少ない。
次に、照明光推定部25は、補正された最低解像度の画素値l’(x)と隣接解像度間差分値d(x)とをもとに、最低解像度の次に低い解像度における画素値l’(x)を生成する。まず、照明光推定部25は、隣接解像度間差分値d(x)を、式d’(x)=d(x)−h(x)に従って補正する。補正された隣接解像度間差分値d’(x)はノイズを含むハイパス成分によって構成されている。そのため、照明光推定部25は、以下のようにノイズ抑圧関数Fresid(・)を用いてd’(x)に含まれるノイズ成分を適切に抑圧する。ノイズ抑圧部27は、式(7)に示すように、ノイズ成分が抑圧されたノイズ抑圧関数の出力をl’(x)に加算することによって、最低解像度の次に低解像度な画素値l’(x)を生成できる。
Figure 2016051716
ノイズ抑圧関数は様々な形態をとることができるが、本実施形態の説明では、一例として、以下の関数を用いる。
Figure 2016051716
なお、sign(・)は前述のように正負の符号を表す関数であり、βは補正強度を調整するためのパラメータである。
照明光推定部25は、以上のノイズ抑圧処理フローを、より高い解像度の画像に対しても順に適用し、所定の解像度まで繰り返すことによって、注目画素位置xにおけるローパス成分u’(x)を生成する。なお、照明光推定部25は、最低解像度以外の解像度の画像の画素値として、入力画像にローパスフィルタを適用することによって算出された画素値ではなく、一つ低い解像度における処理において算出された当該解像度の補正後の画素値を用いる。
以上の処理により、エッジをぼかすことなく入力画像のローパス成分を抽出できる。そのため、こうして算出された注目画素位置xにおける最終的なローパス成分u’(x)は、エッジ保存型の非線形ローパスフィルタの処理結果に相当する。
続いて、照明光推定部25は、ローパス成分u’(x)をもとに、注目画素における照明光成分s(x)を推定する。入力画像がRGB3チャネルの成分をもつカラー画像である場合、注目画素における各チャネルのローパス成分を
Figure 2016051716
とすると、照明光推定部25は、以下の式に従ってs(x)を算出してもよい。
Figure 2016051716
あるいは、照明光推定部25は、各チャネルのローパス成分をRGB空間からYUV空間へ変換することによって得られる輝度値(Y成分)を、照明光成分としてもよい。なお、入力画像がグレースケール画像であるならば、照明光推定部25は、式s(x)=u’(x)によってs(x)を決めればよい。
補正量算出部26は、照明光推定部25から入力される照明光成分と、画像入力部1から入力される原画像データとをもとに、注目画素における明るさ補正量を算出する。そして、補正量算出部26は、算出した明るさ補正量をノイズ抑圧部27に出力する。
補正量算出部26は、明るさ補正量を様々な方法によって算出することができる。以下の説明では、補正量算出部26は、参考文献1(Toda, M.; Tsukada, M.; Inoue, A.; Suzuki, T., "High dynamic range rendering for YUV images with a constraint on perceptual chroma preservation," Image Processing (ICIP), 2009 16th IEEE International Conference on, pp. 1817-1820, 7-10 Nov. 2009.)に記載されている方法を用いて、明るさ補正量を算出する。
参考文献1の方法では、カラー画像の明るさはYUV空間において補正される。そのため、入力画像がRGB3チャネルの成分をもつカラー画像である場合、入力画像はRGB空間からYUV空間へ変換される。
まず、輝度成分に対する補正について説明する。注目画素位置xにおける照明光s(x)が目標とする明るさStarより小さい場合、補正量算出部26は、補正のための指数値γ(x)を以下のように算出する。
Figure 2016051716
式(10)中のa及びbはそれぞれユーザが設定するパラメータである。補正量算出部26は、この指数値γ(x)を用いて、入力画像の輝度値Y(x)を以下のように補正する。
Figure 2016051716
補正量算出部26は、以上の流れに従って、入力画像の輝度値を補正する。
なお、以上で説明した補正により、画像の暗い領域が明るくなり、明るい領域は変化しない。そのため、画像全体のコントラストが低下することがある。この場合、補正量算出部26は、明るさ補正後の輝度値Y’(x)に対して、ヒストグラム伸長などのコントラスト改善手法を適用してもよい。
次に、色差成分の補正について説明する。一般に、YUV色空間では、輝度成分(Y成分)のみを補正した場合においても、補正前後で見かけの彩度(知覚彩度)が変動する。特に逆光補正機能においては、同一輝度値を持つ画素同士でも、その周囲の明るさによって補正量が大きく異なるため、知覚彩度の変動の仕方も変わってくる。そのため、輝度成分の補正量に合わせた色差成分の補正が必要となる。補正量算出部26は、色差成分の補正を、補正前後の輝度成分の比率のべき乗によって算出される、式(12)に示す補正係数c(x)を、各色差成分U(x)およびV(x)に乗ずることによって実現する。
Figure 2016051716
なお、式(12)のρとして、参考文献1ではρ=0.69が使用されている。しかし、ユーザがρをパラメータとして与えてもよい。補正量算出部26は、以上の流れに従って、入力画像の色差成分を補正する。
最後に、補正量算出部26は、補正されたYUV値をRGB値に変換することによって、RGBの各チャネルに対して明るさが補正された画素値
Figure 2016051716
を得る。
補正量算出部26は、こうして得られた明るさ補正後の画素値をもとに、各チャネルに対する明るさ補正量
Figure 2016051716
として、入力画素値u(x)と明るさが補正された画素値u’’(x)との比を算出する。
Figure 2016051716
なお、補正量算出部26は、過度の明るさ強調を抑制するために、ω(x)のとり得る範囲を制約してもよい。
ノイズ抑圧部27は、最低解像度画像と、差分計算部22から入力される隣接解像度間差分画像と、サブブロックごとの平均画素値と、明るさ補正量とをもとに、注目画素におけるノイズ成分が適切に抑圧された明るさ補正後の画素値を算出する。最低解像度画像は、生成部21から入力される。隣接解像度間差分画像は、平均値計算部24から入力される。明るさ補正量は、補正量算出部26から入力される。
ノイズ抑圧部27では、照明光推定部25で入力画像のローパス成分を算出する処理と同様の処理フローを用いつつ、同時にHDR処理を実行する。なお、各色チャネルにおける処理は、パラメータを除いて同様であるため、以下の説明では、色成分ごとの明るさ補正量をω(x)と表記する。そして、以下では、一つの色チャネルについて説明する。最低解像度画像l(x)をもとに、最低解像度よりその1つ高い解像度のノイズ抑圧一括補正後の画像l’(x)を生成する方法について説明する。
まず、ノイズ抑圧部27は、最低解像度における中央ブロック平均画素値l2,1(x)と最低解像度画像l(x)の差分値に明るさ補正量ω(x)を乗じることによって、明るさ補正を考慮した差分値g(x)を計算する。
Figure 2016051716
次に、ノイズ抑圧部27は、両端のサブブロックの平均画素値l2,0(x)とl2,2(x)の差分絶対値に明るさ補正量ω(x)を乗じることによって、明るさ補正を考慮したエッジ量e(x)を計算する。なお、ノイズ抑圧部27は、当該解像度におけるノイズ強度σと明るさ補正の影響を考慮した、以下の式に従って、補正エッジ量e(x)を計算してもよい。
Figure 2016051716
さらに、ノイズ抑圧部27は、差分値g(x)とエッジ量e(x)の半分の値のうち、小さいほうの値を補正値h(x)とする。
次に、線状のエッジ維持のための補正量h(x)の導出について述べる。h(x)は、当該解像度におけるノイズの標準偏差σと、g(x)とから、以下のように計算される。
Figure 2016051716
補正した最低解像度画像l’(x)は以下の式で生成される。
Figure 2016051716
最後に、ノイズ抑圧部27は、補正された最低解像度画像l’(x)と、隣接解像度間差分画像d(x)と、式(19)のh(x)とをもとに、最低解像度より1つ高い解像度の画像l’(x)を、式(20)に示す補正式を用いて生成する。
Figure 2016051716
ノイズ抑圧部27は、以上のノイズ抑圧処理フローを、より高解像度な画像に対しても順に適用し、所定の解像度まで繰り返すことによって、最終的な補正画像を生成する。なお、ノイズ抑圧部27は、最低解像度以外の解像度の画像として、入力画像にローパスフィルタを適用することによって算出された画像ではなく、一つ低い解像度における処理において算出された、当該解像度の補正後の画像を用いる。また、最低解像度以外の解像度の画像に対する処理の際、すでに平均画素値に対するHDR処理が実行されている。そのため、明るさ補正を考慮した処理を表す、上述の式(16)及び式(19)は、それぞれ、以下の式(21)及び式(22)によって置き換えられる。
Figure 2016051716
続いて、本実施形態の画像処理方法について説明する。図9は、本実施形態の画像処理装置2の動作(画像処理方法)を示すフローチャートである。
まず、例えば生成部21が、入力画像における注目画素位置を決定する(ステップS101)。画像処理装置2は、ステップS101及び以下のステップS102からステップS108までの処理を、入力画像の全画素に対して実行完了するまで繰り返す。
生成部21は、入力画像を表す原画像データをもとに、注目画素を中心とする、順次狭くなる(あるいは広くなる)複数サイズの、参照する画素範囲である参照画素範囲において平均画素値を算出することによって、多重解像度画像を生成する(ステップS102)。
差分計算部22は、原画像データと多重解像度画像とをもとに、隣接する解像度間の差分画像を生成する(ステップS103)。
エッジ方向決定部23は、多重解像度画像を計算するために参照された各参照画素範囲におけるエッジの方向を決定する(ステップS104)。
平均値計算部24は、多重解像度画像を計算するために参照された各参照画素範囲が分割された複数のブロックを、エッジ方向パターンに合わせて3つのサブブロックに統合する。そして、平均値計算部24は、各解像度における、統合されたサブブロックごとの平均画素値を算出する(ステップS105)。
照明光推定部25は、最低解像度画像と、隣接解像度間差分画像と、各解像度におけるサブブロックごとの平均画素値とをもとに、注目画素の位置における照明光成分を算出する(ステップS106)。
補正量算出部26は、入力画像の照明光成分と、原画像データとをもとに、注目画素における明るさ補正量を算出する(ステップS107)。
ノイズ抑圧部27は、最低解像度画像と、隣接解像度間差分画像と、各解像度におけるサブブロックごとの平均画素値と、明るさ補正量とをもとに、注目画素におけるノイズ成分が適切に抑圧されるように明るさ補正後の画素値を算出する(ステップS108)。
入力画像の全画素に対して実行が完了した場合(ステップS109においてYES)、画像処理装置2は、処理を終了する。入力画像の全画素に対して実行が完了していない場合(ステップS109においてNO)、画像処理装置2の動作はステップS101に戻る。そして、画像処理装置2は、注目画素位置を設定し直し、さらに、再度ステップS102からステップS108の処理を実行する。
本実施形態の効果について説明する。
本実施形態によると、HDRにおける照明光成分推定でエッジ保存型の非線形ローパスフィルタを用いて照明光成分推定の精度を改善するため、ハロの発生を抑制できる。
また、演算コスト増加の要因となる、多重解像度画像及び多重解像度画像に関する情報の生成は、一回だけ実行される。そして、多重解像度画像及び多重解像度画像に関する情報は、照明光推定部25とノイズ抑圧部27によって共有される。従って、演算コストの増大を防ぐことができる。
さらに、各画素における明るさ補正の情報を、デノイズにおいて参照できるため、明るさ補正において強調されるノイズを適切に抑制することができる。
<第2の実施形態>
図10は、本発明の第2の実施の形態に係る画像処理装置2Aの構成を示すブロック図である。本発明の画像処理装置2Aは、生成部21と、補正量算出部26と、ノイズ抑圧部27とを含む。
生成部21は、多重解像度画像を生成する。補正量算出部26は、前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算するエッジ情報とをもとに、明るさ補正量を算出する。ノイズ抑圧部27は、前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とをもとに、ノイズ成分が抑圧された明るさ補正後の画像を算出する。
以上で説明した本実施形態には、明るさ補正(HDRを含む)によるノイズ強調とハロの発生とを抑制できると言う効果がある。その理由は、補正量算出部26が、最低解像度画像と、多重解像度画像間の隣接解像度間差分画像と、複数の解像度における多重解像度画像のエッジ情報とをもとに、明るさ補正量を計算するからである。そして、ノイズ抑圧部27が、最低解像度画像と、隣接解像度間差分画像と、エッジ情報と、計算された明るさ補正量とをもとに、ノイズ成分が抑圧された明るさ補正後の画像を算出するからである。
<他の実施形態>
尚、上述した説明からも明らかなように、上述した実施の形態に係る画像処理装置の各部を、ハードウェアにより構成することも可能である。上述した各実施形態に係る画像処理装置の各部を、コンピュータプログラムにより実現することも可能である。その場合、プログラムメモリと、そのプログラムメモリにロードされたコンピュータプログラムにより動作するプロセッサによって、上述した各実施形態の画像処理装置に係る各部と同様の機能及び動作が実現される。上述した各実施形態の画像処理装置に係る部は、具体的には、生成部21、差分計算部22、エッジ方向決定部23、平均値計算部24、照明光推定部25、補正量算出部26、及び、ノイズ抑圧部27である。また、上述した実施の形態の画像処理装置2の一部の機能のみを、プログラムメモリと、そのプログラムメモリにロードされたコンピュータプログラムにより動作するプロセッサによって実現することも可能である。
図11は、本発明の各実施形態に係る画像処理装置を実現できるコンピュータの構成を表すブロック図である。図11を参照すると、コンピュータ1000は、プロセッサ1001と、メモリ1002と、記憶装置1003と、I/O(Input/Output)インタフェース1004とを含む。また、コンピュータ1000は、記録媒体1005にアクセスすることができる。プロセッサ1001は、記録媒体1005に格納されている、コンピュータ1000を、画像処理装置2又は2Aとして動作させるプログラムを、メモリ1002にロードする。そして、プロセッサ1001が、メモリ1002にロードされたプログラムを実行することにより、コンピュータ1000は、画像処理装置2又は2Aとして動作する。このように、画像処理装置2及び2Aに含まれる部の一部又は全部は、それらの機能を実現するプログラムがロードされたメモリ1002と、そのプログラムを実行するプロセッサ1001とにより実現される。画像処理装置2及び2Aに含まれる部は、上述のように、生成部21、差分計算部22、エッジ方向決定部23、平均値計算部24、照明光推定部25、補正量算出部26、及び、ノイズ抑圧部27である。
図12は、本発明の各実施形態に係る画像処理装置のハードウェア構成の一例を表すブロック図である。図12に示す画像処理装置2Bは、生成回路121と、差分計算回路122と、エッジ方向決定回路123と、平均値算出回路124と、照明光推定回路125と、補正量算出回路126と、ノイズ抑圧回路127とを含む。生成回路121は、生成部21として動作する。差分計算回路122は、差分計算部22として動作する。エッジ方向決定回路123は、エッジ方向決定部23として動作する。平均値算出回路124は、平均値算出部24として動作する。照明光推定回路125は、照明光推定部25として動作する。補正量算出回路126は、補正量算出部26として動作する。ノイズ抑圧回路127は、ノイズ抑圧部27として動作する。画像処理装置2Bが含む回路の一部又は全部は、1つの、半導体装置又はコンピュータ等の装置によって実現されていてもよい。画像処理装置2Bが含む回路の一部又は全部は、複数の、半導体装置又はコンピュータ等の装置によって実現されていてもよい。
また、上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
多重解像度画像を生成し、
前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算するエッジ情報とから、明るさ補正量を算出し、
前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とから、ノイズ成分が抑圧された明るさ補正後の画像を算出する
画像処理方法。
(付記2)
前記エッジ情報は、
前記多重解像度画像を生成する際に参照する複数サイズの参照画素範囲を、各解像度で決定されたエッジ方向に基づき、複数のサブブロックに分割し、分割した前記サブブロックごとのサブブロック平均画素値を用いる
付記1に記載の画像処理方法。
(付記3)
前記多重解像度画像の生成は、
注目画素を中心とし、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲で、解像度の異なる複数の画像の集合である多重解像度画像を生成し、
前記明るさ補正量の算出は、
前記多重解像度画像を用いて隣接する解像度間で差分情報である隣接解像度間差分情報を計算し、
前記多重解像度画像を生成するときに用いた複数サイズの参照画素範囲を、各解像度で決定されたエッジ情報に基づいて3つのサブブロックに分割し、
前記サブブロックごとの平均値であるサブブロック平均値を計算し、
注目画素において、当該解像度のサブブロック平均値に基づいて当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とから、当該解像度より高解像度の画素値を算出し、この補正を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるローパス成分を抽出し、
前記ローパス成分に基づいて、前記注目画素における照明光成分を推定し、
前記照明光成分に基づいて、入力画像の明るさ補正量を算出し、
前記ノイズ成分の抑圧は、
前記明るさ補正量の算出において算出した、当該該解像度のサブブロック平均値及び明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成し、この生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
付記1又は付記2に記載の画像処理方法。
(付記4)
前記明るさ補正量の算出は、
当該解像度のサブブロック平均画素値から当該解像度の画素値及び当該解像度の隣接解像度間差分情報を補正する補正量を求め、
前記補正量に基づいて、当該解像度の画素値と当該解像度の隣接解像度間差分情報とを補正し、
前記補正された当該解像度の隣接解像度間差分情報からノイズ成分を抑圧し、
前記補正された当該解像度の画素値と、当該解像度のノイズ成分が抑圧された隣接解像度間差分情報とから、当該解像度より高解像度の画素値を生成することを、
最低解像度から所定の解像度まで順次繰り返し、前記注目画素におけるローパス成分を算出することで、前記明るさ補正量を算出する
付記2又は付記3に記載の画像処理方法。
(付記5)
前記ノイズ成分の抑圧は、
当該該解像度のサブブロック平均値及び明るさ補正量から、当該解像度の画素値を補正する補正量を求め、
前記補正量に基づいて、当該解像度の画素値を補正し、
前記補正された当該解像度の画素値と当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成することを、
最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
付記2から付記4のいずれかに記載の画像処理方法。
(付記6)
前記解像度の画素値及び前記解像度の隣接解像度間差分情報を補正する補正量は、
当該解像度の画素値と当該解像度の参照画素範囲における前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて前補正量を算出する
付記2から付記5のいずれかに記載の画像処理方法。
(付記7)
多重解像度画像を生成する多重解像度画像生成手段と、
前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算するエッジ情報とから、明るさ補正量を算出する明るさ補正量算出手段と、
前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とから、ノイズ成分が抑圧された明るさ補正後の画像を算出するノイズ抑圧手段とを有する画像処理装置。
(付記8)
前記エッジ情報は、
前記多重解像度画像を生成する際に参照する複数サイズの参照画素範囲を、各解像度で決定されたエッジ方向に基づき、複数のサブブロックに分割し、分割した前記サブブロックごとのサブブロック平均画素値を用いる
付記7に記載の画像処理装置。
(付記9)
前記多重解像度画像生成手段は、
注目画素を中心とし、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲で、解像度の異なる複数の画像の集合である多重解像度画像を生成し、
前記明るさ補正量算出手段は、
前記多重解像度画像を用いて隣接する解像度間で差分情報である隣接解像度間差分情報を計算し、
前記多重解像度画像を生成するときに用いた複数サイズの参照画素範囲を、各解像度で決定されたエッジ情報に基づいて3つのサブブロックに分割し、
前記サブブロックごとの平均値であるサブブロック平均値を計算し、
注目画素において、当該解像度のサブブロック平均値に基づいて当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とから、当該解像度より高解像度の画素値を算出し、この補正を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるローパス成分を抽出し、
前記ローパス成分に基づいて、前記注目画素における照明光成分を推定し、
前記照明光成分に基づいて、入力画像の明るさ補正量を算出し、
前記ノイズ抑圧手段は、
前記明るさ補正量の算出において算出した、当該該解像度のサブブロック平均値及び明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成し、この生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
付記7又は付記8に記載の画像処理装置。
(付記10)
前記明るさ補正量算出手段は、
当該解像度のサブブロック平均画素値から当該解像度の画素値及び当該解像度の隣接解像度間差分情報を補正する補正量を求め、
前記補正量に基づいて、当該解像度の画素値と当該解像度の隣接解像度間差分情報とを補正し、
前記補正された当該解像度の隣接解像度間差分情報からノイズ成分を抑圧し、
前記補正された当該解像度の画素値と、当該解像度のノイズ成分が抑圧された隣接解像度間差分情報とから、当該解像度より高解像度の画素値を生成することを、
最低解像度から所定の解像度まで順次繰り返し、前記注目画素におけるローパス成分を算出することで、前記明るさ補正量を算出する
付記8又は付記9に記載の画像処理装置。
(付記11)
前記ノイズ抑圧手段は、
当該該解像度のサブブロック平均値及び明るさ補正量から、当該解像度の画素値を補正する補正量を求め、
前記補正量に基づいて、当該解像度の画素値を補正し、
前記補正された当該解像度の画素値と当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成することを、
最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
付記8から付記10のいずれかに記載の画像処理装置。
(付記12)
前記解像度の画素値及び前記解像度の隣接解像度間差分情報を補正する補正量は、
当該解像度の画素値と当該解像度の参照画素範囲における前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて前補正量を算出する
付記8から付記11のいずれかに記載の画像処理装置。
(付記13)
多重解像度画像を生成する処理と、
前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算するエッジ情報とから、明るさ補正量を算出する処理と、
前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とから、ノイズ成分が抑圧された明るさ補正後の画像を算出する処理と
をコンピュータに実行させるプログラム。
(付記14)
前記エッジ情報は、
前記多重解像度画像を生成する際に参照する複数サイズの参照画素範囲を、各解像度で決定されたエッジ方向に基づき、複数のサブブロックに分割し、分割した前記サブブロックごとのサブブロック平均画素値を用いる
付記13に記載のプログラム。
(付記15)
前記多重解像度画像の生成処理は、
注目画素を中心とし、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲で、解像度の異なる複数の画像の集合である多重解像度画像を生成し、
前記明るさ補正量の算出処理は、
前記多重解像度画像を用いて隣接する解像度間で差分情報である隣接解像度間差分情報を計算し、
前記多重解像度画像を生成するときに用いた複数サイズの参照画素範囲を、各解像度で決定されたエッジ情報に基づいて3つのサブブロックに分割し、
前記サブブロックごとの平均値であるサブブロック平均値を計算し、
注目画素において、当該解像度のサブブロック平均値に基づいて当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とから、当該解像度より高解像度の画素値を算出し、この補正を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるローパス成分を抽出し、
前記ローパス成分に基づいて、前記注目画素における照明光成分を推定し、
前記照明光成分に基づいて、入力画像の明るさ補正量を算出し、
前記ノイズ成分の抑圧は、
前記明るさ補正量の算出において算出した、当該該解像度のサブブロック平均値及び明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成し、この生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
付記13又は付記14に記載のプログラム。
(付記16)
前記明るさ補正量の算出処理は、
当該解像度のサブブロック平均画素値から当該解像度の画素値及び当該解像度の隣接解像度間差分情報を補正する補正量を求め、
前記補正量に基づいて、当該解像度の画素値と当該解像度の隣接解像度間差分情報とを補正し、
前記補正された当該解像度の隣接解像度間差分情報からノイズ成分を抑圧し、
前記補正された当該解像度の画素値と、当該解像度のノイズ成分が抑圧された隣接解像度間差分情報とから、当該解像度より高解像度の画素値を生成することを、
最低解像度から所定の解像度まで順次繰り返し、前記注目画素におけるローパス成分を算出することで、前記明るさ補正量を算出する
付記14又は付記15に記載のプログラム。
(付記17)
前記ノイズ成分の抑圧処理は、
当該該解像度のサブブロック平均値及び明るさ補正量から、当該解像度の画素値を補正する補正量を求め、
前記補正量に基づいて、当該解像度の画素値を補正し、
前記補正された当該解像度の画素値と当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成することを、
最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
付記14から付記16のいずれかに記載のプログラム。
(付記18)
前記解像度の画素値及び前記解像度の隣接解像度間差分情報を補正する補正量処理は、 当該解像度の画素値と当該解像度の参照画素範囲における前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて前補正量を算出する
付記14から付記17のいずれかに記載のプログラム。
(付記19)
注目画素を中心とし、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲で平均画素値を算出し、解像度の異なる複数の画像の集合である多重解像度画像を生成し、
前記多重解像度画像を用いて隣接する解像度間で差分情報である隣接解像度間差分情報を計算し、
前記多重解像度画像を生成するときに用いた複数サイズの参照画素範囲のエッジ方向を決定し、
前記エッジ方向に基づいて、前記参照画素範囲を3つのサブブロックに分割し、
前記サブブロックごとの平均値であるサブブロック平均値を計算し、
当該解像度における参照画素範囲の平均画素値と、当該解像度における参照画素範囲の前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて、当該解像度の画素値を補正する補正量を算出し、前記補正量に基づいて、当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とから、当該解像度より高解像度の画素値を算出することを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるローパス成分を抽出し、
前記ローパス成分に基づいて、前記注目画素における照明光成分を推定し、
前記照明光成分に基づいて、入力画像の明るさ補正量を算出し、
前記明るさ補正量の算出において算出した解像度の画素値を補正する補正量と、当該解像度の明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成し、この生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
画像処理方法。
(付記20)
注目画素を中心とし、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲で平均画素値を算出し、解像度の異なる複数の画像の集合である多重解像度画像を生成する多重解像度画像生成部と、
前記多重解像度画像を用いて隣接する解像度間で差分情報である隣接解像度間差分情報を計算する隣接解像度間差分情報計算部と、
前記多重解像度画像を生成するときに用いた複数サイズの参照画素範囲のエッジ方向を決定するエッジ方向決定部と、
前記エッジ方向に基づいて、前記参照画素範囲を3つのサブブロックに分割し、前記サブブロックごとの平均値であるサブブロック平均値を計算するサブブロック平均値計算部と、
当該解像度における参照画素範囲の平均画素値と、当該解像度における参照画素範囲の前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて、当該解像度の画素値を補正する補正量を算出し、前記補正量に基づいて、当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とから、当該解像度より高解像度の画素値を算出することを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるローパス成分を抽出し、前記ローパス成分に基づいて、前記注目画素における照明光成分を推定する照明光成分推定部と、
前記照明光成分に基づいて、入力画像の明るさ補正量を算出する明るさ補正量算出部と、
前記明るさ補正量の算出において算出した解像度の画素値を補正する補正量と、当該解像度の明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成し、この生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出するノイズ抑圧部と
を有する画像処理装置。
(付記21)
注目画素を中心とし、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲で平均画素値を算出し、解像度の異なる複数の画像の集合である多重解像度画像を生成する処理と、
前記多重解像度画像を用いて隣接する解像度間で差分情報である隣接解像度間差分情報を計算する処理と、
前記多重解像度画像を生成するときに用いた複数サイズの参照画素範囲のエッジ方向を決定する処理と、
前記エッジ方向に基づいて、前記参照画素範囲を3つのサブブロックに分割する処理と、
前記サブブロックごとの平均値であるサブブロック平均値を計算する処理と、
当該解像度における参照画素範囲の平均画素値と、当該解像度における参照画素範囲の前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて、当該解像度の画素値を補正する補正量を算出し、前記補正量に基づいて、当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とから、当該解像度より高解像度の画素値を算出することを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるローパス成分を抽出する処理と、
前記ローパス成分に基づいて、前記注目画素における照明光成分を推定する処理と、
前記照明光成分に基づいて、入力画像の明るさ補正量を算出する処理と、
前記明るさ補正量の算出において算出した解像度の画素値を補正する補正量と、当該解像度の明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とから当該解像度より高解像度の画素値を生成し、この生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返し、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する処理と
をコンピュータに実行させるプログラム。
以上、実施の形態をあげて本発明を説明したが、本発明は必ずしも上記実施の形態に限定されるものではない。本発明の構成や詳細には、その技術的思想の範囲内において当業者が理解し得る様々な変形を行い実施することが出来る。
この出願は、2014年9月29日に出願された日本出願特願2014−197732を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1 画像入力部
2 画像処理装置
2A 画像処理装置
2B 画像処理装置
3 画像出力部
21 生成部
22 差分計算部
23 エッジ方向決定部
24 平均値計算部
25 照明光推定部
26 補正量算出部
27 ノイズ抑圧部
121 生成回路
122 差分計算回路
123 エッジ方向決定回路
124 平均値計算回路
125 照明光推定回路
126 補正量算出回路
127 ノイズ抑圧回路
1000 コンピュータ
1001 プロセッサ
1002 メモリ
1003 記憶装置
1004 I/Oインタフェース
1005 記録媒体

Claims (10)

  1. 多重解像度画像を生成する多重解像度画像生成手段と、
    前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算されたエッジ情報とに基づいて、明るさ補正量を算出する補正量算出手段と、
    前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とに基づいて、ノイズ成分が抑圧された明るさ補正後の画像を算出するノイズ抑圧手段と
    を有する画像処理装置。
  2. 前記エッジ情報は、
    前記多重解像度画像を生成する際に参照する複数サイズの参照画素範囲が、各解像度で決定されたエッジ方向に基づき、複数のサブブロックに分割された、前記サブブロックごとのサブブロック平均画素値である
    請求項1に記載の画像処理装置。
  3. 前記多重解像度画像生成手段は、
    注目画素が中心である、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲において、解像度の異なる複数の画像の集合である多重解像度画像を生成し、
    前記補正量算出手段は、
    前記多重解像度画像を用いて、隣接する解像度間における差分情報である隣接解像度間差分情報を計算し、
    前記多重解像度画像を生成するときに用いた複数サイズの参照画素範囲を、各解像度で決定されたエッジ情報に基づいて3つのサブブロックに分割し、
    前記サブブロックごとの平均値であるサブブロック平均値を計算し、
    注目画素において、当該解像度のサブブロック平均値に基づいて当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とに基づいて、当該解像度より高い解像度の画素値を算出し、当該解像度の画素値の補正を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるローパス成分を抽出し、
    前記ローパス成分に基づいて、前記注目画素における照明光成分を推定し、 前記照明光成分に基づいて、入力画像の明るさ補正量を算出し、
    前記ノイズ成分抑圧手段は、
    前記明るさ補正量の算出において算出した、当該該解像度のサブブロック平均値及び明るさ補正量に基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報に基づいて当該解像度より高い解像度の画素値を生成し、当該解像度より高い解像度の画素値の生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
    請求項1又は請求項2に記載の画像処理装置。
  4. 前記補正量算出手段は、
    当該解像度のサブブロック平均画素値に基づいて当該解像度の画素値及び当該解像度の隣接解像度間差分情報を補正する補正量を求め、
    前記補正量に基づいて、当該解像度の画素値と当該解像度の隣接解像度間差分情報とを補正し、
    前記補正された当該解像度の隣接解像度間差分情報に基づいてノイズ成分を抑圧し、
    前記補正された当該解像度の画素値と、当該解像度のノイズ成分が抑圧された隣接解像度間差分情報とに基づいて、当該解像度より高解像度の画素値を生成する
    ことを、最低解像度から所定の解像度まで順次繰り返すことにより、前記注目画素におけるローパス成分を算出することによって、前記明るさ補正量を算出する
    請求項2又は請求項3に記載の画像処理装置。
  5. 前記ノイズ成分抑圧手段は、
    当該該解像度のサブブロック平均値及び明るさ補正量に基づいて、当該解像度の画素値を補正する補正量を求め、
    前記補正量に基づいて、当該解像度の画素値を補正し、
    前記補正された当該解像度の画素値と当該隣接解像度間差分情報とに基づいて当該解像度より高解像度の画素値を生成する
    ことを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
    請求項2から請求項4のいずれかに記載の画像処理装置。
  6. 前記解像度の画素値及び前記解像度の隣接解像度間差分情報を補正する前記補正量は、
    前記解像度の画素値と当該解像度の参照画素範囲における前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量と、を算出し、前記差分と前記エッジ量とに基づいて算出することによって求めた補正量である
    請求項4又は請求項5に記載の画像処理装置。
  7. 注目画素が中心である、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲において平均画素値を算出することによって、解像度の異なる複数の画像の集合である多重解像度画像を生成する多重解像度画像生成手段と、
    前記多重解像度画像を用いて、隣接する解像度間における差分を表す隣接解像度間差分値を計算する差分計算手段と、
    前記多重解像度画像を生成するときに用いた、複数サイズの参照画素範囲の、エッジ方向を決定するエッジ方向決定手段と、
    前記エッジ方向に基づいて、前記参照画素範囲を3つのサブブロックに分割し、前記サブブロックごとの平均値であるサブブロック平均値を計算する平均値計算手段と、
    当該解像度における参照画素範囲の平均画素値と、当該解像度における参照画素範囲の前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて、当該解像度の画素値を補正する補正量を算出し、前記補正量に基づいて、当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とに基づいて、当該解像度より高解像度の画素値を算出する、ことを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことにより、前記注目画素におけるローパス成分を抽出し、前記ローパス成分に基づいて、前記注目画素における照明光成分を推定する照明光推定手段と、
    前記照明光成分に基づいて、入力画像の明るさ補正量を算出する補正量算出手段と、
    前記明るさ補正量の算出において算出した解像度の画素値を補正する補正量と、当該解像度の明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とに基づいて当該解像度より高い解像度の画素値を生成し、当該解像度より高い解像度の画素値の生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出するノイズ抑圧手段と
    を有する画像処理装置。
  8. 多重解像度画像を生成し、
    前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算されたエッジ情報とに基づいて、明るさ補正量を算出し、
    前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とに基づいて、ノイズ成分が抑圧された明るさ補正後の画像を算出する
    画像処理方法。
  9. 注目画素が中心である、参照する画素範囲が順次狭くなる又は広くなる複数サイズの参照画素範囲において平均画素値を算出することによって、解像度の異なる複数の画像の集合である多重解像度画像を生成し、
    前記多重解像度画像を用いて、隣接する解像度間における差分情報である隣接解像度間差分情報を計算し、
    前記多重解像度画像を生成するときに用いた、複数サイズの参照画素範囲の、エッジ方向を決定し、
    前記エッジ方向に基づいて、前記参照画素範囲を3つのサブブロックに分割し、
    前記サブブロックごとの平均値であるサブブロック平均値を計算し、
    当該解像度における参照画素範囲の平均画素値と、当該解像度における参照画素範囲の前記注目画素に対応する画素値との差分と、当該解像度の参照画素範囲における3つのサブブロック平均値から得られるエッジ量とを算出し、前記差分と前記エッジ量とに基づいて、当該解像度の画素値を補正する補正量を算出し、前記補正量に基づいて、当該解像度の画素値を補正し、補正した当該解像度の画素値と当該解像度の隣接解像度間差分値とに基づいて、当該解像度より高解像度の画素値を算出する、ことを、最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるローパス成分を抽出し、
    前記ローパス成分に基づいて、前記注目画素における照明光成分を推定し、
    前記照明光成分に基づいて、入力画像の明るさ補正量を算出し、
    前記明るさ補正量の算出において算出した解像度の画素値を補正する補正量と、当該解像度の明るさ補正量とに基づいて、当該解像度の画素値を補正し、前記補正した当該解像度の画素値及び当該隣接解像度間差分情報とに基づいて当該解像度より高い解像度の画素値を生成し、当該解像度より高い解像度の画素値の生成を最低解像度の画素値から順に所定の解像度の画素値を生成するまで繰り返すことによって、前記注目画素におけるノイズ成分が抑圧された明るさ補正後の画素値を算出する
    画像処理方法。
  10. 多重解像度画像を生成する処理と、
    前記多重解像度画像の最低解像度画像と、前記多重解像度画像間の隣接解像度間差分画像と、前記多重解像度画像の各解像度で計算されたエッジ情報とから、明るさ補正量を算出する処理と、
    前記最低解像度画像と、前記隣接解像度間差分画像と、前記エッジ情報と、前記明るさ補正量とに基づいて、ノイズ成分が抑圧された明るさ補正後の画像を算出する処理と
    をコンピュータに実行させるプログラムを記憶するコンピュータ読み取り可能な記録媒体。
JP2016551514A 2014-09-29 2015-09-17 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体 Active JP6624061B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014197732 2014-09-29
JP2014197732 2014-09-29
PCT/JP2015/004778 WO2016051716A1 (ja) 2014-09-29 2015-09-17 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体

Publications (2)

Publication Number Publication Date
JPWO2016051716A1 true JPWO2016051716A1 (ja) 2017-07-13
JP6624061B2 JP6624061B2 (ja) 2019-12-25

Family

ID=55629788

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016551514A Active JP6624061B2 (ja) 2014-09-29 2015-09-17 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体

Country Status (3)

Country Link
US (1) US10438323B2 (ja)
JP (1) JP6624061B2 (ja)
WO (1) WO2016051716A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10043251B2 (en) * 2015-10-09 2018-08-07 Stmicroelectronics Asia Pacific Pte Ltd Enhanced tone mapper for high dynamic range images and video
WO2018087806A1 (ja) * 2016-11-08 2018-05-17 日本電気株式会社 画像処理方法、画像処理装置および画像処理プログラム
CN112907467B (zh) * 2021-02-03 2023-04-28 杭州海康威视数字技术股份有限公司 彩虹纹去除方法、装置及电子设备

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6937775B2 (en) * 2002-05-15 2005-08-30 Eastman Kodak Company Method of enhancing the tone scale of a digital image to extend the linear response range without amplifying noise
CN101010937A (zh) 2004-09-01 2007-08-01 日本电气株式会社 图像修正处理系统以及图像修正处理方法
WO2013027723A1 (ja) * 2011-08-22 2013-02-28 日本電気株式会社 ノイズ除去装置、ノイズ除去方法及びプログラム
WO2013161840A1 (ja) 2012-04-26 2013-10-31 日本電気株式会社 画像処理方法、及び画像処理装置
JP6256703B2 (ja) * 2012-04-26 2018-01-10 日本電気株式会社 画像処理方法、及び画像処理装置
WO2013161839A1 (ja) * 2012-04-26 2013-10-31 日本電気株式会社 画像処理方法、及び画像処理装置
WO2015114410A1 (en) * 2014-01-31 2015-08-06 Sony Corporation Optimized method for estimating the dominant gradient direction of a digital image area

Also Published As

Publication number Publication date
JP6624061B2 (ja) 2019-12-25
US20170287116A1 (en) 2017-10-05
US10438323B2 (en) 2019-10-08
WO2016051716A1 (ja) 2016-04-07

Similar Documents

Publication Publication Date Title
KR101944208B1 (ko) 색 보정을 위한 장치 및 방법
JP6097588B2 (ja) 画像処理装置及び画像処理方法
JP6443050B2 (ja) 画像処理装置、及び、画像処理方法
JP6623832B2 (ja) 画像補正装置、画像補正方法及び画像補正用コンピュータプログラム
JP5367667B2 (ja) 画像処理装置
JP2015232869A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP4490430B2 (ja) 高速なレティネックス型処理のための強靭な再帰エンベロープ演算子
JP2012208553A (ja) 画像処理装置、および画像処理方法、並びにプログラム
KR101341099B1 (ko) 노이즈 저감 방법 및 장치
JP2019016117A (ja) 画像調整装置、局所的コントラスト量計算装置、方法、及びプログラム
JP5765893B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2016529747A (ja) ビデオシーケンスをトーンマッピングする方法
JP5147903B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6624061B2 (ja) 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体
JP2010134700A (ja) 画像評価装置および画像評価方法
JP2015062270A (ja) 画像処理装置
JP6737108B2 (ja) 画像補正装置、画像補正方法及び画像補正用コンピュータプログラム
JP2017085570A (ja) 画像補正方法及び画像補正装置
CN110689486A (zh) 图像的处理方法、装置、设备及计算机可存储介质
JP6583008B2 (ja) 画像補正装置、画像補正方法及び画像補正用コンピュータプログラム
JP6957665B2 (ja) 画像処理装置、画像処理方法及びプログラム
KR102470242B1 (ko) 영상 처리 장치, 영상 처리 방법, 및 프로그램
JP2014099048A (ja) 画像復元装置および画像復元方法
Sadaka et al. Efficient perceptual attentive super-resolution
JP5860298B2 (ja) 画像処理装置及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170220

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180809

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190827

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191111

R150 Certificate of patent or registration of utility model

Ref document number: 6624061

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150