JP6202989B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP6202989B2 JP6202989B2 JP2013226038A JP2013226038A JP6202989B2 JP 6202989 B2 JP6202989 B2 JP 6202989B2 JP 2013226038 A JP2013226038 A JP 2013226038A JP 2013226038 A JP2013226038 A JP 2013226038A JP 6202989 B2 JP6202989 B2 JP 6202989B2
- Authority
- JP
- Japan
- Prior art keywords
- noise
- image
- correction
- unit
- captured image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
Description
本発明は、このような問題点に鑑みてなされたものであり、撮像画像からノイズが知覚されないように、撮像画像に生じるボケを低減することを目的とする。
(第1の実施形態)
まず、第1の実施形態について説明する。
本実施形態では、人間によるノイズの知覚されやすさを表現するノイズ知覚量を算出する。ここで、ノイズ知覚量は、ノイズ感度モデルに基づき、撮像画像の画像構造に応じたノイズの知覚しやすさをマップ化したノイズマップである。このノイズ知覚量を用いて、撮像画像に生じるボケを補正するための補正フィルタの補正量を決定する。これにより、撮像画像のノイズの知覚されやすさに応じた補正が可能となるため、ノイズが目立ちにくくしつつ、鮮鋭感を向上させる処理が可能となる。ここで、ノイズ感度モデルに関しては、例えば、非特許文献1に記載の技術がある。本実施形態では、非特許文献1に記載のノイズ感度モデルを用いる場合を例に挙げて説明する。
図1は、本実施形態の画像処理装置を含むデジタルカメラ(撮像装置)の構成の一例を示すブロック図である。
撮像部101は、ズームレンズ、フォーカスレンズ、ぶれ補正レンズ、絞り、シャッター、光学ローパスフィルタ、iRカットフィルタ、カラーフィルタおよびCMOSやCCD等のセンサ(固体撮像素子)、を含み、被写体の光量を検知する。
A/D変換部102は、被写体の光量をデジタル値に変換する。
信号処理部103は、A/D変換部102で変換されたデジタル値に、デモザイキング処理、ホワイトバランス処理およびガンマ処理などを行い、デジタル画像を生成する。
エンコーダ部105は、ノイズ低減処理が行われたデジタル画像をJPEG等の映像圧縮フォーマットに変換する処理を行う。
メディアインタフェース(I/F)106は、メディア107につなぐためのインタフェースである。メディア107は、例えば、ハードディスク、メモリーカード、CFカード、SDカードまたはUSBメモリである。
操作部112は、ボタンやモードダイヤル等を有し、これらを介して入力されたユーザ指示を受け取る。ユーザ指示としては、ISO感度設定、シャッター速度設定、F値設定等の撮影設定がある。これらの撮影設定は、CPU108によって、デジタルカメラの撮影条件に反映されると共に、RAM110に記憶される。
図2は、画像処理部104の構成の一例を示すブロック図である。画像処理部104の動作の概要の一例を図2に基づいて説明する。本実施形態では、画像処理部104が画像処理装置に相当する。
端子201から、信号処理部103で生成されたデジタル画像が入力される。
ノイズ特性推定部202は、RAM110に記憶された、撮像条件を取得し、取得した撮像条件に基づいてノイズ特性を推定(導出)する。具体的なノイズ特性導出処理については後述する。
次に、補正フィルタ制御部204は、ノイズ知覚量導出部203で算出されたノイズ知覚量に基づいて、補正フィルタ取得部205で取得された補正フィルタの補正量を制御し、補正量を制御した後の補正フィルタを補正フィルタ処理部206へ送信する。具体的な補正フィルタの補正量制御処理については後述する。
図3は、ノイズ特性推定部202の構成の一例を示すブロック図である。ノイズ特性推定部202の動作の一例を図3に基づいて説明する。
端子301より、信号処理部103で生成されたデジタル画像iin(x,y)が入力される。ここで、xは水平(横)方向の位置(画素)を示し、yは垂直(縦)方向の位置(画素)を示す。デジタル画像iin(x,y)は、例えば、(x,y)で表される位置の輝度値や画素値である。
平均値算出部302は、デジタル画像iin(x,y)の(各位置(x,y)における)平均値avginを算出し、ノイズ情報取得部304へ送信する。
撮像条件取得部303は、デジタル画像iin(x,y)を撮像した際の撮像条件をRAM110から取得する。ここで、撮像条件とは、撮像時の露出に関する条件である。本実施形態では、撮像条件取得部303は、撮像条件として、ISO感度、レンズの絞り値および露光時間を取得する。
ノイズ情報取得部304は、撮像条件取得部303で取得された撮像条件と、平均値算出部302で算出されたデジタル画像iin(x,y)の平均値avginとに対応するノイズの分散σnをノイズ特性記憶部305から取得する。そして、端子306から、ノイズの分散σnがノイズ特性として出力される。ここで、ノイズ特性は、撮像画像におけるノイズの量を定量的に評価した値であれば、必ずしもノイズの分散σnでなくてもよい。例えば、RMS粒状度や、ウィーナスペクトル(Wiener spectrum)等をノイズ特性として採用してもよい。
図4は、ノイズ知覚量導出部203の構成の一例を示すブロック図である。ノイズ知覚量導出部203の動作の一例を図4に基づいて説明する。
端子401より、信号処理部103で生成されたデジタル画像iin(x,y)が入力される。
端子402より、ノイズ特性推定部202で得られたノイズの分散σnが入力される。
ノイズ画像生成部403は、デジタル画像iin(x,y)と同じサイズのホワイトノイズ画像nw(x,y)を、ノイズの分散が端子402から入力されたノイズの分散σnとなるように生成する。ここで、ホワイトノイズ画像nw(x,y)は、(x,y)の位置(画素)におけるホワイトノイズの大きさを表す。そして、ノイズ画像生成部403は、デジタル画像iin(x,y)とホワイトノイズ画像nw(x,y)とを加算することでノイズ画像n(x,y)を生成する。このように、ノイズ画像生成部403は、撮像画像に発生するノイズを示す画像を、疑似的なシミュレーションにより生成する。尚、撮像画像に発生するノイズを示す画像を、疑似的なシミュレーションにより生成できれば、必ずしもホワイトノイズを使用する必要はない。
VTF(u,v)=VTFx(u)×VTFy(v) ・・・(1)
(1)式において、VTFx(u)は、水平(横)方向の空間視覚特性であり、VTFy(v)は、垂直(縦)方向の空間視覚特性である。これらは、それぞれ以下の(2)式、(3)式で定義される。
空間視覚特性=5.05×[1−exp(-0.1×x)]×exp(-0.138×x) ・・・(4)
図8は、帯域分割フィルタcortexk,l(u,v)により分割された空間周波数領域を模式的に示す図である。図8において、横軸、縦軸は、ともに正規化周波数である。図8では、各フィルタの半値周波数を、太い実線で示す。
ノイズマスク部408の具体的な処理の一例を説明すると、まず、ノイズマスク部408は、マスキング強度Tek,l(x,y)を、以下の(18)式〜(20)式により算出する。
ノイズ知覚量算出部409は、以下の(22)式に基づいて、空間周波数帯域ごとの知覚ノイズ画像Pk,l(x,y)を合成し、ノイズ知覚量P(x,y)を算出する。ノイズ知覚量P(x,y)は、端子410から出力される。
補正フィルタ取得部205の動作の一例を説明する。
補正フィルタ取得部205は、RAM110から補正フィルタf(i,j)を取得し、補正フィルタ制御部204へ出力する。RAM110には、撮像部101の撮像光学系の光学特性、レンズの絞り値およびズーム位置に応じた補正フィルタf(i,j)の補正係数の関係式、またはテーブルが記憶されている。図10は、レンズ絞り値と、ズーム位置とに応じた補正フィルタf(i,j)の補正係数を記憶するテーブルの一例を示す図である。
図11は、補正フィルタ制御部204の構成の一例を示すブロック図である。補正フィルタ制御部204の動作の一例を図11に基づいて説明する。
端子1101より、ノイズ知覚量導出部203で算出されたノイズ知覚量P(x,y)が入力される。
平均値算出部1102は、ノイズ知覚量P(x,y)の(各位置(x,y)における)平均値avgpを算出する。
ゲイン算出部1103は、ノイズ知覚量P(x,y)の平均値avgpに基づいて補正フィルタf(i,j)に乗算するゲインgを算出する。ここで、ゲインgは、以下の(23)式により算出される。ただし、ゲインgの算出方法は、以下の(23)式に限定されない。
g=k×avgp ・・・(23)
端子1104より、補正フィルタ取得部205より取得された補正フィルタf(i,j)を入力する。
乗算部1105は、ゲイン算出部1103で算出されたゲインgと、補正フィルタ取得部205より取得された補正フィルタf(i,j)と、を用いて、以下の(24)式から、補正量を制御した後の補正フィルタfg(i,j)を算出する。
fg(i,j)=g×f(i,j) ・・・(24)
以上のように本実施形態では、撮像時の露出の条件に基づいてノイズの分散σnを導出し、ノイズの分散σnに応じたノイズを撮像画像に重畳させたノイズ画像を生成する。撮像画像とノイズ画像のそれぞれから、人間の視覚において感度のある空間周波数の情報を抽出して複数の空間周波数帯域ごとに分割する。複数の空間周波数帯域ごとに分割されたノイズ画像を、複数の空間周波数帯域ごとに分割された撮像画像に基づいてマスキングした後に合成してノイズ知覚量P(x,y)を算出する。このノイズ知覚量P(x,y)に基づいて撮像画像のボケを補正するための補正フィルタの補正量を決定する。したがって、ボケを補正することにより生じる弊害であるノイズの強調を抑えつつ、鮮鋭感の改善効果が得られる画像処理を実現することができる。よって、撮像画像からノイズが知覚されないように、撮像画像に生じるボケを低減することができる。
次に、第2の実施形態について説明する。第1の実施形態では、入力された画像全体のノイズ知覚量P(x,y)を算出し、入力された画像全体に一様な補正フィルタを施す場合を例に挙げて説明した。しかし、このようにすると、レンズの収差によって撮像画像に生じるボケは一様ではなく、撮像画像の位置に応じて、レンズの非線形な歪みとその影響によるノイズが発生する虞がある。そこで、本実施形態では、撮像画像の領域ごとに形状が異なる補正フィルタを取得し、さらにノイズ知覚量を撮像画像の領域ごとに算出する。このようにすることで、より一層ノイズが知覚されにくく、且つ、鮮鋭感をより一層向上させた画像を形成することができる。
このように本実施形態と第1の実施形態とは、ノイズ知覚量を撮像画像の領域ごとに算出することと、補正フィルタの形状が撮像画像の領域ごとに異なることに基づく処理と構成が主として異なる。したがって、本実施形態の説明において、第1の実施形態と同一の部分については、図1〜図11に付した符号と同一の符号を付す等して詳細な説明を省略する。
図12は、画像処理部1200の構成の一例を示すブロック図である。画像処理部1200の動作の一例を図12に基づいて説明する。図12に示す画像処理部1200は、図2に示した画像処理部104に対して置き換わるものである。
端子1201には、信号処理部103で生成されたデジタル画像が入力される。
領域分割部1202は、デジタル画像iin(x,y)をM×N個の矩形領域に分割する。ただし、デジタル画像iin(x,y)を分割する方法はこれに限定されない。ここで、デジタル画像iin(x,y)の左上から右下に向かって矩形領域のインデックスを割り振る。以下では、m行n列目の矩形領域をim,nと表記する。領域分割部1202は、デジタル画像iin(x,y)のうち、割り振ったインデックスに対応する矩形領域im,nの部分をインデックスの順に出力する。
補正フィルタ取得部1206は、領域分割部1202で分割された矩形領域im,nの位置に応じた補正フィルタをRAM110から取得する。具体的な補正フィルタの取得処理については後述する。
補正フィルタ処理部1207は、補正フィルタ制御部1205で補正量が制御された後の補正フィルタに基づいて、領域分割部1202から出力された矩形領域im,n単位のデジタル画像iin(x,y)に補正フィルタ処理を施す。
領域合成部1208は、矩形領域im,nをインデックス順に並べて合成し、出力画像ioutを出力する。そして、端子1209から、出力画像ioutが出力される。
補正フィルタ取得部1206の動作の一例を説明する。
補正フィルタ取得部1206は、RAM110から補正フィルタf(i,j)を取得し、補正フィルタ制御部1205へ出力する。RAM110には、撮像部101の撮像光学系の光学特性、レンズの絞り値、ズーム位置および矩形領域im,nの座標に応じた補正フィルタの補正係数の関係式、またはテーブルが記憶されている。図13は、レンズ絞り値と、ズーム位置と、矩形領域im,nの座標と、に応じた補正フィルタf(i,j)の補正係数を記憶するテーブルの一例を示す図である。ここで、矩形領域im,nの座標とは、領域分割部1202で、撮像画像を分割した際に矩形領域ごとに振ったインデックスを示す。
図14は、補正フィルタ制御部1205の構成の一例を示すブロック図である。補正フィルタ制御部1205の動作の一例を図14に基づいて説明する。図14に示す補正フィルタ制御部1205は、図11に示した補正フィルタ制御部204に対して置き換わるものである。
端子1401より、ノイズ知覚量導出部1204で算出された、矩形領域im,nにおけるノイズ知覚量P(x,y)が入力される。
平均値算出部1402は、矩形領域im,nにおけるノイズ知覚量P(x,y)の(各位置(x,y)における)平均値avgm,nを算出する。
ゲイン算出部1403は、矩形領域im,nにおけるノイズ知覚量P(x,y)の平均値avgm,nに基づいて補正フィルタf(i,j)に乗算するゲインgを算出する。ここで、ゲインgは、以下の(25)式により算出される。ただし、ゲインgの算出方法は、以下の(25)式に限定されない。
g=k×avgm,n ・・・(25)
端子1404より、補正フィルタ取得部1206より取得された補正フィルタf(i,j)を入力する。
フィルタ参照部1405は、現在処理している矩形領域im,nのインデックスの情報を補正フィルタ取得部1206へ送信し、インデックスと、撮像部101の撮像光学系に基づいた補正フィルタf(i,j)を取得する。
そして、端子1407より、補正量が制御された後の補正フィルタfg(i,j)が出力される。
次に、第3の実施形態について説明する。第1、第2の実施形態では、ノイズ知覚量P(x,y)に応じて補正フィルタf(i,j)のゲインgを制御することでノイズが知覚されにくくなるように、撮像画像を補正する場合を例に挙げて説明した。この手法では、ボケを補正した後の画像のノイズ知覚量が、目標とするノイズ知覚量に近づいているかが分からない。そこで、本実施形態では、ボケを補正した後の画像のノイズ知覚量が、目標とするノイズ知覚量に近づくように、複数の補正フィルタの中から補正フィルタを選択し、合成する。このように本実施形態と第1、第2の実施形態とは、ボケの補正後の画像のノイズ知覚量がノイズ知覚量の目標値に近づくように補正フィルタを選択するための処理と構成が主として異なる。したがって、本実施形態の説明において、第1、第2の実施形態と同一の部分については、図1〜図14に付した符号と同一の符号を付す等して詳細な説明を省略する。
図15は、画像処理部1500の構成の一例を示すブロック図である。画像処理部1500の動作の一例を図15に基づいて説明する。図15に示す画像処理部1500は、図2、図12に示した画像処理部104、1200に対して置き換わるものである。
端子1501には、信号処理部103で生成されたデジタル画像が入力される。
領域分割部1502は、第2の実施形態の領域分割部1202と同じである。領域分割部1502は、デジタル画像iin(x,y)のうち、矩形領域im,nの画像を、矩形領域im,nに対するインデックスの順に出力する。
ノイズ特性推定部1505は、第2の実施形態のノイズ特性推定部1203と同じである。ノイズ特性推定部1505は、領域分割部1202で分割された矩形領域im,nの単位で、ノイズ特性を推定(例えばノイズの分散σnを算出)する。
ノイズ知覚量導出部1506は、ノイズ特性推定部1505から取得したノイズ特性と、補正フィルタ取得部1503から取得した補正フィルタと、に基づいて、フィルタ処理後のノイズ知覚量を算出する。具体的なノイズ知覚量算出処理については後述する。
補正フィルタ処理部1507は、補正フィルタ選択部1504で選択された補正フィルタを用いて、領域分割部1502から得られる、矩形領域im,nのデジタル画像に対して、各種の補正フィルタ処理を施し、補正フィルタの数分のデジタル画像を得る。ここで、補正フィルタ処理は公知のフィルタ処理でよく、デジタル画像に対してフィルタの畳みこみ処理を行えばよい。
領域合成部1509は、矩形領域im,nをインデックス順に並べて合成し、出力画像ioutを出力する。そして、端子1510から、出力画像ioutが出力される。
図16は、ノイズ知覚量導出部1506の構成の一例を示すブロック図である。ノイズ知覚量導出部1506の動作を図16に基づいて説明する。
端子1601より、領域分割部1502で得られた、各インデックスに対応する矩形領域im,nのデジタル画像iin(x,y)が入力される。
端子1602より、ノイズ特性推定部1505で得られたノイズの分散σnが入力される。
端子1603より、補正フィルタ選択部1504から出力された補正フィルタf(i,j)が入力される。
フーリエ変換部404は、矩形領域im,nのデジタル画像iin(x,y)に対してフーリエ変換を施す。これにより、矩形領域im,nのデジタル画像iin(x,y)の空間周波数情報(フーリエ変換後の矩形領域im,nのデジタル画像Iin(u,v))が生成される。また、フーリエ変換部404は、矩形領域im,nのノイズ画像n(x,y)に対してフーリエ変換を施す。これにより、矩形領域im,nのノイズ画像n(x,y)の空間周波数情報(フーリエ変換後の矩形領域im,nのノイズ画像N(u,v))が生成される。
帯域分割部406は、フーリエ変換と空間視覚特性の乗算とが行われた矩形領域im,nのデジタル画像IV(u,v)に対し、帯域分割フィルタcortexk,l(u,v)を用いて帯域分割を施す。これにより、矩形領域im,nの帯域分割周波数情報Isk,l(u,v)が生成される。また、帯域分割部406は、フーリエ変換と空間視覚特性の乗算とが行われた矩形領域im,nのノイズ画像NV(u,v)に対し、帯域分割フィルタcortexk,l(u,v)を用いて帯域分割を施す。これにより、矩形領域im,nの帯域分割周波数情報Nsk,l(u,v)が生成される。
ノイズマスク部408は、帯域分割画像isk,l(x,y)に基づいて、帯域分割画像nsk,l(x,y)に対するマスキングを施すことによって、知覚ノイズ画像Pk,l(x,y)を、空間周波数帯域ごとに算出する。
ノイズ知覚量算出部409は、空間周波数帯域ごとの知覚ノイズ画像Pk,l(x,y)を合成し、ノイズ知覚量P(x,y)を算出する。ノイズ知覚量P(x,y)は、端子1611から出力される。
図17は、補正フィルタ選択部1504の構成の一例を示すブロック図である。補正フィルタ選択部1504の動作の一例を図17に基づいて説明する。
端子1701より、領域分割部1502で得られた、各インデックスに対応する矩形領域im,nのデジタル画像im,j(x,y)が入力される。
端子1702より、補正フィルタ取得部1503で取得された補正フィルタf(i,j)が入力される。
端子1704より、矩形領域im,nのデジタル画像im,j(x,y)と、当該矩形領域im,nに対応する補正フィルタf(i,j)とに応じたノイズ知覚量P(x,y)が入力される。
ノイズ知覚量参照部1705は、矩形領域im,nのデジタル画像im,j(x,y)と、当該矩形領域im,nに対応する補正フィルタf(i,j)と、を順に端子1704を介してノイズ知覚量導出部1506に出力する。そして、ノイズ知覚量参照部1705は、端子1704を介してノイズ知覚量導出部1506から、補正フィルタf(i,j)ごとのノイズ知覚量P(x,y)を取得する。例えば、補正フィルタf(i,j)が3種あった場合、ノイズ知覚量参照部1705は、第1のノイズ知覚量P1(x,y)、第2のノイズ知覚量P2(x,y)および第3のノイズ知覚量P3(x,y)を取得する。
補正フィルタ選択部1707は、ノイズ知覚量参照部1705から得たノイズ知覚量のうち、目標ノイズ知覚量Pdに近いノイズ知覚量に対応する補正フィルタを選択する。補正フィルタの選択は、例えば、以下のようにして行われる。
まず、補正フィルタ選択部1707は、ノイズ知覚量参照部1705から得たノイズ知覚量の(各位置(x,y)における)平均値avgpnを算出する。前述した例では、算出対象の位置(x,y)における第1のノイズ知覚量P1(x,y)、第2のノイズ知覚量P2(x,y)、および第3のノイズ知覚量P3(x,y)の平均値avgpnがそれぞれ算出される。
補正フィルタ処理部1507は、補正フィルタ選択部1707で2種類の補正フィルタが選択された場合、当該補正フィルタのそれぞれを用いて、矩形領域im,n単位のデジタル画像iin(x,y)に補正フィルタ処理を施す。以下では、このようにして補正フィルタ処理部1507により補正フィルタ処理が施されたデジタル画像を、第1の補正後のデジタル画像、第2の補正後のデジタル画像と表記する。また、第1の補正後のデジタル画像、第2の補正後のデジタル画像に対応するノイズ知覚量の平均値avgpnを、それぞれavgp1、avgp2と表記する。
図18は、画像合成部1508の構成の一例を示すブロック図である。画像合成部1508の動作の一例を図18に基づいて説明する。
端子1801より、目標ノイズ知覚量Pdが入力される。
端子1802より、補正フィルタ処理部1507で得られた第1の補正後のデジタル画像に対応するノイズ知覚量の平均値avgp1を入力する。
端子1803より、補正フィルタ処理部1507で得られた第2の補正後のデジタル画像に対応するノイズ知覚量の平均値avgp2を入力する。
係数算出部1804は、目標ノイズ知覚量Pdと、ノイズ知覚量の平均値avgp1、avgp2とに基づいて、以下の(27)式により、係数c1を算出する。
avgp2>avgp1 ・・・(28)
avgp1<pd<avgp2 ・・・(29)
端子1805より、補正フィルタ処理部1507で得られた第1の補正後のデジタル画像を入力する。
端子1807より、補正フィルタ処理部1507で得られた第2の補正後のデジタル画像を入力する。
減算部1808は、以下の(30)式により、係数c2を算出する。
c2=1−c1 ・・・(30)
加算部1810は、係数c1が乗算された第1の補正後のデジタル画像と、係数c2が乗算された第2の補正後のデジタル画像とを加算し、端子1811を介して領域合成部1509へ出力する。
尚、補正フィルタ選択部1707により1つの補正フィルタが選択された場合には、画像合成部1508によるデジタル画像の合成は行われない。
尚、本実施形態では、第2の実施形態に対して、補正フィルタを選択する構成を付加した場合を例に挙げて説明した。しかしながら、本実施形態を第1の実施形態に適用してもよい。また、目標ノイズ知覚量Pdに近いノイズ知覚量に対応する補正フィルタを用いて補正されたデジタル画像に対する重み係数の大きさを大きくして重みづけ加算(重み付け線形和の計算)を行っていれば、必ずしも(27)式の計算を行う必要はない。
次に、第4の実施形態について説明する。第1〜第3の実施形態では、ノイズ知覚量導出部203、1204、1506の帯域分割部406での処理に、cortexフィルタとして知られるフィルタを用いた場合を例に挙げて説明した。しかし、cortexフィルタは、周波数特性が非常に特殊な形のフィルタである為、演算処理が重くなる。そこで、本実施形態では、cortexフィルタを、空間周波数領域における縦方向と横方向のフィルタを結合した簡易な帯域分割フィルタに置き換えることで、演算処理を軽くする。このように本実施形態と第1〜第3の実施形態とでは、帯域分割フィルタが異なることによる構成および処理が主として異なる。したがって、本実施形態の説明において、第1〜第3の実施形態と同一の部分については、図1〜図18に付した符号と同一の符号を付す等して詳細な説明を省略する。
図19は、ノイズ知覚量導出部1900の構成の一例を示す図である。本実施形態のノイズ知覚量導出部1900の動作の一例を、図19に基づいてについて説明する。本実施形態と第1の実施形態とはノイズ知覚量導出部の構成が異なる。
端子1901より、信号処理部103で生成されたデジタル画像iin(x,y)が入力される。端子1902より、ノイズ特性推定部202で得られたノイズの分散σn(ノイズ特性)が入力される。
帯域分割部1903は、帯域分割フィルタを用いて、デジタル画像iin(x,y)を、複数の空間周波数帯域ごとに分割し、デジタル画像に対する帯域分割周波数情報Isk,l(u,v)を生成する。同様に、帯域分割部1903は、帯域分割フィルタを用いて、ノイズ画像n(x,y) を、複数の空間周波数帯域ごとに分割し、ノイズ画像に対する帯域分割周波数情報Nsk,l(u,v)を生成する。帯域分割周波数情報Isk,l(u,v)、Nsk,l(u,v)は、以下の(31)式、(32)式で求めることができる。
図20は、帯域分割フィルタfilterbankk,l(u,v)により複数に分割された空間周波数領域を模式的に示す図である。図20において、横軸、縦軸は、とも正規化周波数空間である。図20では、各フィルタの半値周波数を、太い実線で示す。
ノイズマスク部408は、デジタル画像に対する帯域分割周波数情報Isk,l(x,y)に基づいて、ノイズ画像に対する帯域分割周波数情報Nsk,l(x,y)に対するマスキングを施す。これにより、人間に知覚されるノイズ画像である知覚ノイズ画像Pk,l(x,y)が算出される。知覚ノイズ画像Pk,l(x,y)は、空間周波数帯域ごとに算出される。
ノイズ知覚量算出部409は、空間周波数帯域ごとの知覚ノイズ画像Pk,l(x,y)を合成し、ノイズ知覚量P(x,y)を算出する。
尚、本実施形態では、周波数域での乗算を行うことで帯域分割を行ったが、空間域での畳みこみ演算を行うことで帯域分割を実現することも可能である。また、本実施形態に対しては、ウェーブレットなど公知の帯域分割フィルタを適用することが可能である。また、本実施形態では、第1の実施形態の帯域分割フィルタを変更する場合を例に挙げて説明したが、本実施形態を第2、第3の実施形態にも適用できる。
本発明は、以下の処理を実行することによっても実現される。即ち、まず、以上の実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)が当該コンピュータプログラムを読み出して実行する。
Claims (11)
- 撮像画像を撮像した際の露出に関する条件に基づいて、当該撮像画像におけるノイズの特性を導出するノイズ特性導出手段と、
前記撮像画像と、前記ノイズ特性導出手段により導出されたノイズの特性と、光に対する視覚の感度を表す情報と、に基づいて、前記撮像画像に前記ノイズの特性に基づくノイズを重畳させた場合の当該ノイズの知覚のされやすさを評価した値であるノイズ知覚量を導出するノイズ知覚量導出手段と、
前記ノイズ知覚量導出手段により導出されたノイズ知覚量に基づいて、前記撮像画像に生じるボケの補正を行う補正手段と、を有することを特徴とする画像処理装置。 - 前記ノイズ知覚量導出手段は、
前記撮像画像に対して、前記ノイズ特性導出手段により導出された特性のノイズが重畳された画像であるノイズ画像を生成するノイズ画像生成手段と、
前記撮像画像と前記ノイズ画像とを、それぞれ空間周波数の関数に変換する変換手段と、
前記空間周波数の関数に変換された前記撮像画像と前記ノイズ画像とに対して、コントラスト感度と空間周波数との関係を表す空間視覚特性をそれぞれ乗算する空間視覚特性乗算手段と、
前記空間視覚特性が乗算された前記撮像画像と前記ノイズ画像とを、それぞれ空間周波数帯域ごとに分割する帯域分割手段と、
前記空間周波数ごとに分割された撮像画像と、前記空間周波数帯域ごとに分割されたノイズ画像とに基づいて、前記空間周波数帯域ごとの前記ノイズ知覚量である部分ノイズ知覚量を算出する部分ノイズ知覚量算出手段と、
前記部分ノイズ知覚量算出手段により算出された部分ノイズ知覚量を合成して前記ノイズ知覚量を算出するノイズ知覚量算出手段と、
を有することを特徴とする請求項1に記載の画像処理装置。 - 前記帯域分割手段は、空間周波数の特性が、空間周波数領域における円周方向の特性と半径方向の特性との結合で定義される帯域分割フィルタ、もしくは、空間周波数の特性が、空間周波数領域における縦方向の特性と横方向の特性との結合で定義される帯域分割フィルタを用いて、前記空間視覚特性が乗算された前記撮像画像と前記ノイズ画像とを、それぞれ空間周波数帯域ごとに分割することを特徴とする請求項2に記載の画像処理装置。
- 前記撮像画像を複数の領域に分割する領域分割手段を有し、
前記ノイズ特性導出手段は、前記複数の領域ごとに前記ノイズの特性を導出し、
前記ノイズ知覚量導出手段は、前記複数の領域ごとに前記ノイズ知覚量を導出し、
前記補正手段は、前記複数の領域ごとの前記ノイズ知覚量に基づいて、前記撮像画像に生じるボケの補正を行うことを特徴とする請求項1〜3の何れか1項に記載の画像処理装置。 - 前記補正手段は、
前記ノイズ知覚量導出手段により導出されたノイズ知覚量に基づいて、前記撮像画像に生じるボケの補正を行うための補正フィルタによる補正量を制御する補正フィルタ制御手段と、
前記補正フィルタ制御手段により補正量が制御された補正フィルタを用いて前記撮像画像を補正する補正フィルタ処理手段と、を有することを特徴とする請求項1〜4の何れか1項に記載の画像処理装置。 - 前記補正フィルタ制御手段は、前記ノイズ知覚量導出手段により導出されたノイズ知覚量に基づいて、前記撮像画像を補正するための補正フィルタに対するゲインを制御することを特徴とする請求項5に記載の画像処理装置。
- 前記補正手段は、
前記ノイズ知覚量の目標値に基づいて、前記撮像画像に生じるボケの補正を行うための複数の補正フィルタの中から、少なくとも1つの補正フィルタを選択する補正フィルタ選択手段と、
前記補正フィルタ選択手段により選択された補正フィルタを用いて前記撮像画像を補正する補正フィルタ処理手段と、を有し、
前記ノイズ知覚量導出手段は、前記撮像画像と、前記ノイズの特性と、前記補正フィルタと、に基づいて、複数の前記補正フィルタに対応する前記ノイズ知覚量をそれぞれ導出することを特徴とする請求項1〜4の何れか1項に記載の画像処理装置。 - 前記補正手段は、前記補正フィルタ選択手段により複数の補正フィルタが選択された場合、当該複数の補正フィルタを用いて前記補正フィルタ処理手段により補正された複数の前記撮像画像のそれぞれを、前記ノイズ知覚量の目標値に近づくように合成する画像合成手段を有することを特徴とする請求項7に記載の画像処理装置。
- 前記画像合成手段は、前記ノイズ知覚量の目標値に近いノイズ知覚量に対応する補正フィルタを用いて前記補正フィルタ処理手段により補正された前記撮像画像であるほど、当該撮像画像に対する重み係数の大きさを大きくして、前記複数の撮像画像の重み付け加算を行うことを特徴とする請求項8に記載の画像処理装置。
- 撮像画像を撮像した際の露出に関する条件に基づいて、当該撮像画像におけるノイズの特性を導出するノイズ特性導出工程と、
前記撮像画像と、前記ノイズ特性導出工程により導出されたノイズの特性と、光に対する視覚の感度を表す情報と、に基づいて、前記撮像画像に前記ノイズの特性に基づくノイズを重畳させた場合の当該ノイズの知覚のされやすさを評価した値であるノイズ知覚量を導出するノイズ知覚量導出工程と、
前記ノイズ知覚量導出工程により導出されたノイズ知覚量に基づいて、前記撮像画像に生じるボケの補正を行う補正工程と、を有することを特徴とする画像処理方法。 - コンピュータを、請求項1〜9の何れか1項に記載された画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013226038A JP6202989B2 (ja) | 2013-10-30 | 2013-10-30 | 画像処理装置、画像処理方法およびプログラム |
US14/515,883 US9531922B2 (en) | 2013-10-30 | 2014-10-16 | Image processing apparatus, image processing method, and computer readable storage medium for improving sharpness |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013226038A JP6202989B2 (ja) | 2013-10-30 | 2013-10-30 | 画像処理装置、画像処理方法およびプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2015088935A JP2015088935A (ja) | 2015-05-07 |
JP2015088935A5 JP2015088935A5 (ja) | 2016-12-01 |
JP6202989B2 true JP6202989B2 (ja) | 2017-09-27 |
Family
ID=53051301
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013226038A Expired - Fee Related JP6202989B2 (ja) | 2013-10-30 | 2013-10-30 | 画像処理装置、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6202989B2 (ja) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4527439B2 (ja) * | 2004-03-25 | 2010-08-18 | 富士フイルム株式会社 | 画像処理方法および装置並びにプログラム |
JP5654860B2 (ja) * | 2010-12-13 | 2015-01-14 | キヤノン株式会社 | 画像処理装置及びその制御方法、プログラム |
JP5745438B2 (ja) * | 2012-02-15 | 2015-07-08 | 日立Geニュークリア・エナジー株式会社 | 検査方法および検査装置 |
-
2013
- 2013-10-30 JP JP2013226038A patent/JP6202989B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2015088935A (ja) | 2015-05-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5968073B2 (ja) | 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム | |
JP5054248B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、撮像装置 | |
JP5984493B2 (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム | |
JP2013172213A (ja) | 画像処理装置、撮像装置、画像処理方法、および、プログラム | |
JP7234057B2 (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、記憶媒体、および、画像処理システム | |
JP5932485B2 (ja) | ノイズリダクション装置及びノイズリダクション方法 | |
JP5479187B2 (ja) | 画像処理装置及びそれを用いた撮像装置 | |
JP2012003455A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
CN115496673A (zh) | 图像处理方法、图像处理装置、图像处理系统、以及存储介质 | |
JP5843599B2 (ja) | 画像処理装置および撮像装置並びにその方法 | |
JP5455728B2 (ja) | 撮像装置、画像処理装置、及び画像処理方法 | |
JP2015115733A (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP5654860B2 (ja) | 画像処理装置及びその制御方法、プログラム | |
CN109672810B (zh) | 图像处理设备、图像处理方法和存储介质 | |
JP2015177528A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6202989B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN112073603B (zh) | 图像处理设备、摄像设备、图像处理方法和存储介质 | |
JP7183015B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7134766B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2015121884A (ja) | 画像処理装置、その方法、及びプログラム | |
US9531922B2 (en) | Image processing apparatus, image processing method, and computer readable storage medium for improving sharpness | |
JP2019140605A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2019016222A (ja) | 画像処理装置およびその制御方法 | |
JP2015088914A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2017123532A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラムおよび記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161018 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161018 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170626 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170801 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170829 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6202989 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |