JP2015109681A - 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 - Google Patents
画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 Download PDFInfo
- Publication number
- JP2015109681A JP2015109681A JP2015002879A JP2015002879A JP2015109681A JP 2015109681 A JP2015109681 A JP 2015109681A JP 2015002879 A JP2015002879 A JP 2015002879A JP 2015002879 A JP2015002879 A JP 2015002879A JP 2015109681 A JP2015109681 A JP 2015109681A
- Authority
- JP
- Japan
- Prior art keywords
- image
- blur
- luminance
- value
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 95
- 238000003384 imaging method Methods 0.000 title claims abstract description 93
- 238000003672 processing method Methods 0.000 title claims abstract description 15
- 230000003287 optical effect Effects 0.000 claims description 56
- 238000007493 shaping process Methods 0.000 abstract description 28
- 230000002349 favourable effect Effects 0.000 abstract description 3
- 238000000034 method Methods 0.000 description 36
- 230000008569 process Effects 0.000 description 24
- 238000011084 recovery Methods 0.000 description 20
- 230000004075 alteration Effects 0.000 description 18
- 238000010586 diagram Methods 0.000 description 18
- 229920006395 saturated elastomer Polymers 0.000 description 13
- 238000001514 detection method Methods 0.000 description 9
- 238000006731 degradation reaction Methods 0.000 description 8
- 238000009826 distribution Methods 0.000 description 8
- 230000015556 catabolic process Effects 0.000 description 7
- 230000006866 deterioration Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 206010010071 Coma Diseases 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 201000009310 astigmatism Diseases 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- NIPNSKYNPDTRPC-UHFFFAOYSA-N N-[2-oxo-2-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)ethyl]-2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidine-5-carboxamide Chemical compound O=C(CNC(=O)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F)N1CC2=C(CC1)NN=N2 NIPNSKYNPDTRPC-UHFFFAOYSA-N 0.000 description 1
- 241000255969 Pieris brassicae Species 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
Abstract
【課題】良好なボケ付加画像を生成する画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置を提供すること【解決手段】画像処理方法は、撮像装置によって撮像された入力画像を前記撮像装置の特性と撮影条件を用いて整形するステップ(S12、S13)と、当該ステップによって整形された画像にボケを付加するステップ(S14、S15)と、を有する。【選択図】図1
Description
本発明は、画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置に関する。
広角レンズを介して撮影された画像、或いは小さいセンサー(撮像素子)サイズ有する撮像装置、小さい絞り径あるいは大きいF値の撮像装置によって撮影された画像は、被写界深度の深い画像になり、近景から遠景までボケの少ない画像となる。そこで、主被写体を際立たせたり、雰囲気を柔らかくしたりするために撮影画像にボケを付加する様々な方法が提案されている。
例えば、特許文献1は、オートフォーカス(AF)のための複数の焦点検出点で距離情報を取得し、入力画像にボケを付加する方法を提案している。特許文献2は、入力画像にボケを付加するために、ユーザーによって指定された領域の画素値を平均化する方法を提案している。非特許文献1は、劣化した入力画像を補正する様々な画像処理方法を提案している。その他の従来技術としては非特許文献2がある。
エー・ローゼンフェルド(A.Rosenfeld)著、長尾 真 訳、「ディジタル画像処理」、近代科学社、1978年
レン・グ他著(Ren Ng et al.)、「ライト・フィールド・フォトグラフィ・ウィズ・ア・ハンドヘルド・プレノプティック・カメラ(light field photography with a hand-held plenoptic camera)」、スタンフォード・テック・レポート・シーティーエスアール(Stanford Tech Report CTSR)、2005年2月
特許文献1、2は、いずれも入力画像の画素値に基づいてボケ付加を行うが、入力画像の画素値には、撮像素子の大きさや焦点距離に拘らず、撮影光学系の光学特性の影響が含まれている。従って、合焦位置であっても被写体と撮像素子に結像した像形状とは相違する。合焦位置において、画像周辺部の被写体は、コマ収差、非点収差によって非対称な形状に変形する。また、回折現象によっても像形状は変化する。また、合焦位置からずれた領域では、収差、回折に加えて、ヴィネッティングによる像形状の変化が表れる。収差、回折によるボケや、ヴィネッティングによるボケの形状の変化が含まれた画像にボケを付加すると、被写体の形状から想定されるボケの形状とは異なり、良好なボケ形状ではなくなる。
例えば、図19(a)に示す被写体の撮影画像(入力画像)に円対称なボケを付加すると、図19(b)に示すように、被写体の形状から想定されるボケの形状になる。しかし、撮影画像がコマ収差の影響を受けると、図19(a)に示す被写体の撮影画像は、図19(c)に示すように形状が変化する。この画像(図19(c)の画像)に、円対称なボケを付加しても図19(d)に示すようにコマ収差の影響を受けたボケ形状になる。
また、撮影画像が非点収差の影響を受けると、図19(a)は、特定の方向に伸びた形状に変化する。合焦位置からずれた領域では、収差によるボケに加えて、ヴィネッティングによるボケの形状の変化が含まれるので、例えば、図19(a)の一部が欠けた形状に変化する。即ち、被写体の形状から想定される、良好なボケ形状を得るには、収差や回折によるボケ、ヴィネッティングによるボケ形状の変化を低減する必要がある。
図20(a)は、入力画像の一部が輝度飽和していることを示すグラフである。図20(a)〜(c)において、横軸は空間座標であり、縦軸は輝度値である。ここで、飽和値をデジタル画像で表現できる最大輝度値として定義する。図20(a)の入力画像の一部が輝度飽和している画像の輝度値の分布にボケを付加すると、図20(b)のように図20(a)よりもなだらかな曲線をもつ輝度値の分布になる。一方で、図20(c)は被写界深度を浅くしてボケを付加するために、図20(a)よりもF値が小さい(明るい)条件で取得した画像である。図20(c)に比べると図20(b)は輝度が低下した暗い画像になっている。即ち、入力画像に単にボケ付加するだけでは、F値の小さい撮影画像の輝度飽和部を含む領域のボケを良好に再現することができない。
本発明は、良好なボケ付加画像を生成することが可能な画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置を提供することを例示的な目的とする。
本発明の画像処理プログラムは、光学系を介した撮像により生成された、輝度飽和部を有する第1画像と同一の被写体を異なる露光量で撮影した第2画像に基づいて、前記輝度飽和部の輝度値を推定する推定ステップと、前記推定ステップにおいて推定された前記輝度値に基づいて、前記第1画像の前記輝度飽和部にボケを付加するボケ付加ステップをコンピュータに実行させることを特徴とする。
本発明によれば、良好なボケ付加画像を生成することが可能な画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置を提供することができる。
以下、本発明の実施例を、添付図面を参照して説明する。
《実施例1》
図1は、実施例1の撮像装置の要部ブロック図である。撮像装置は、コンパクトデジタルカメラでもよいし、一眼レフカメラ、ミラーレスカメラ、デジタルビデオカメラでもよい。
図1は、実施例1の撮像装置の要部ブロック図である。撮像装置は、コンパクトデジタルカメラでもよいし、一眼レフカメラ、ミラーレスカメラ、デジタルビデオカメラでもよい。
撮像装置は、距離情報取得部101、結像光学系(撮像光学系)102、光学系制御部103、撮像素子104、A/Dコンバータ105、記憶部106、画像処理部(画像処理手段)107、画像記録媒体110、表示部111を有する。各部は不図示の制御手段によって制御され、制御手段はマイクロコンピュータとして実現可能である。
距離情報取得部101は、撮像装置と各被写体(物体)の距離情報を取得する。距離情報の取得は特に限定されない。例えば、ステレオカメラ等の複眼によって複数の視差画像の情報を取得したり、非特許文献2のように、レンズアレイを結像光学系の後方に配した視差画像を取得したりしてもよい。また、DFF(depth from focus)のように、合焦位置をずらして複数枚撮影し、複数の被写体までの複数の距離情報を取得したり、特許文献1に示すように、AFに利用する焦点検出点で距離情報を取得したりしてもよい。
結像光学系102は被写体の光学像を形成し、不図示のレンズや絞りを有する光学系である。光学系制御部103は、結像光学系102の絞りやレンズの位置を制御する。
撮像素子104は結像光学系102が形成した光学像を光電変換する。撮像素子104は、CCD(Charge Coupled Device)やCMOS(Complementary Metal−Oxide Semiconductor)などの2次元撮像素子である。
A/Dコンバータ105は、撮像素子104からのアナログ信号をデジタル信号に変換する。
記憶部106は、結像光学系102の特性(回折、収差、ヴィネッティング、デフォーカス量、露出量等)と絞り値、焦点距離、露出などの撮影条件と画像回復フィルタ群の情報を保持している。これらの情報は、予め保持されるだけでなく、結像光学系102と光学系制御部103の通信から光学系制御部103によって随時入力、更新されてもよい。
画像処理部107は、図4を参照して後述する画像処理方法を実行し、画像回復処理部108とボケ付加処理部109を有する。画像記録媒体110は、画像処理部107によって処理された画像を記録し、半導体メモリなどから構成される。表示部111は、処理された画像を表示し、液晶ディスプレイなどから構成される。
不図示の被写体からの光は、結像光学系102を介して、撮像素子104に結像する。撮像素子104からのアナログ電気信号は、A/Dコンバータ105でデジタル信号に変換され、画像処理部107に入力される。画像処理部107には、距離情報取得部101が取得する距離情報と記憶部106が保持する結像光学系の特性と撮影条件の情報も入力される。画像処理部107は、A/Dコンバータ105からのデジタル信号に対して、距離情報と結像光学系102の特性と撮影条件の情報を用いて、所定の処理を施し、画像記録媒体110に保存する。画像記録媒体110に保存された画像情報は表示部111に送信されて表示される。
実施例1は、画像回復を行うことによって、収差、回折、ヴィネッティングによってボケが非対称な形状になることを補正し、良好なボケ形状を生成する画像処理方法を行う。
まず、画像回復の原理について説明する。画像回復とは、光学系の収差により発生したボケを低減する処理であり、光学系の点光源に対する応答を表す関数である点像分布関数(以下、PSFと記載する)や、該点像分布関数をフーリエ変換して得られる光学伝達関数(以下、OTFと記載する)を用いる。これらPSFやOTFは、光学系の収差情報に基づく関数である。
OTFは、収差、回折、ヴィネッティングの周波数成分情報であり、複素数で表される。OTFの絶対値、即ち、振幅成分をMTFと呼び、位相成分をPTFと呼ぶ。MTF、PTFはそれぞれ収差、回折、ヴィネッティングによる画像劣化の振幅成分および位相成分の周波数特性である。ここでは、位相成分を位相角として以下の式で表す。Re(OTF)、Im(OTF)は、それぞれOTFの実部、虚部を表す。
PTF=tan−1(Im(OTF)/Re(OTF)) (1)
結像光学系102のOTFは、画像の振幅成分と位相成分に劣化を与えるため、劣化画像は被写体の各点が、例えば、コマ収差のように非対称にぼけた状態になる。画像回復処理または回復処理方法とは、振幅劣化成分と位相劣化成分を、結像光学系102のOTF(又はPSF)の情報を用いて補正する方法である。
結像光学系102のOTFは、画像の振幅成分と位相成分に劣化を与えるため、劣化画像は被写体の各点が、例えば、コマ収差のように非対称にぼけた状態になる。画像回復処理または回復処理方法とは、振幅劣化成分と位相劣化成分を、結像光学系102のOTF(又はPSF)の情報を用いて補正する方法である。
劣化した画像をg(x,y)、劣化前の画像をf(x,y)、OTFのフーリエペアであるPSFをh(x,y)としたとき、以下の式が成り立つ。ただし、*はコンボリューション(畳み込み積分、積和)を示し、(x,y)は画像上の座標を示す。
g(x,y)=h(x,y)*f(x,y) (2)
数式2をフーリエ変換して周波数面での表示形式に変換すると、以下の式のように周波数ごとの積の形式になる。但し、HはPSF(h)をフーリエ変換したものであるのでOTFであり、G,Fはそれぞれg,fをフーリエ変換したものである。(u,v)は2次元周波数面での座標、即ち周波数を示す。
数式2をフーリエ変換して周波数面での表示形式に変換すると、以下の式のように周波数ごとの積の形式になる。但し、HはPSF(h)をフーリエ変換したものであるのでOTFであり、G,Fはそれぞれg,fをフーリエ変換したものである。(u,v)は2次元周波数面での座標、即ち周波数を示す。
G(u,v)=H(u,v)・F(u,v) (3)
撮影された劣化画像から劣化前の原画像を得るためには、次式のように、数式3の両辺をHで除算すればよい。
撮影された劣化画像から劣化前の原画像を得るためには、次式のように、数式3の両辺をHで除算すればよい。
G(u,v)/H(u,v)=F(u,v) (4)
F(u,v)、即ち、G(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことで原画像f(x,y)が回復画像として得られる。
F(u,v)、即ち、G(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことで原画像f(x,y)が回復画像として得られる。
ここで、H−1を逆フーリエ変換したものをRとすると、次式のように実面での画像に対するコンボリューション処理を行うことで、同様に劣化前の画像f(x,y)を得ることができる。
g(x,y)*R(x,y)=f(x,y) (5)
R(x,y)を画像回復フィルタと呼ぶ。画像が2次元のとき、一般的にこの画像回復フィルタも画像の各画素に対応したタップ(セル)を有する2次元フィルタとなる。また、画像回復フィルタのタップ数(セルの数)は一般的に多いほど回復精度が向上するため、要求画質、画像処理能力、収差の特性等に応じて実現可能なタップ数に設定して用いる。画像回復フィルタはOTFに基づいているため、振幅成分および位相成分の劣化をともに高精度に補正することができる。
R(x,y)を画像回復フィルタと呼ぶ。画像が2次元のとき、一般的にこの画像回復フィルタも画像の各画素に対応したタップ(セル)を有する2次元フィルタとなる。また、画像回復フィルタのタップ数(セルの数)は一般的に多いほど回復精度が向上するため、要求画質、画像処理能力、収差の特性等に応じて実現可能なタップ数に設定して用いる。画像回復フィルタはOTFに基づいているため、振幅成分および位相成分の劣化をともに高精度に補正することができる。
実際の画像にはノイズ成分があるため、OTFの完全な逆数をとって作成した画像回復フィルタを用いると、劣化画像の回復とともにノイズ成分が大幅に増幅されてしまう。これは、画像の振幅成分にノイズの振幅が付加されている状態に対して光学系のMTF(振幅成分)を全周波数に亘って戻すようにMTFを持ち上げるためである。光学系による振幅劣化であるMTFは1に戻るが、同時にノイズのパワースペクトルも持ち上がってしまい、結果的にMTFを持ち上げる度合(回復ゲイン)に応じてノイズが増幅されてしまう。
従って、ノイズがある場合には鑑賞用画像としては良好な画像は得られない。これを式で示すと以下のように表せる。Nはノイズ成分を表す。
G(u,v)=H(u,v)・F(u,v)+N(u,v) (6)
G(u,v)/H(u,v)=F(u,v)+N(u,v)/H(u,v) (7)
この点、数式8に示すウィナーフィルタのように、画像信号とノイズ信号の強度比(SNR)に応じて回復度合を制御する方法が知られている。
G(u,v)/H(u,v)=F(u,v)+N(u,v)/H(u,v) (7)
この点、数式8に示すウィナーフィルタのように、画像信号とノイズ信号の強度比(SNR)に応じて回復度合を制御する方法が知られている。
ここで、M(u,v)はウィナーフィルタの周波数特性、|H(u,v)|は光学伝達関数(OTF)の絶対値(MTF)である。この方法は周波数ごとに、MTFが小さいほど回復ゲインを抑制し、MTFが大きいほど回復ゲインを強くするものである。一般的に、結像光学系102のMTFは低周波側が高く高周波側が低くなるため、実質的に画像の高周波側の回復ゲインを抑制する方法となっている。
図2(a)は、記憶部106が保存する画像回復フィルタの模式図である。画像回復フィルタは、結像光学系102の収差特性や要求される回復精度に応じてタップ数を決めることができ、図2(a)では、一例として、11×11タップの2次元フィルタとしている。
画像回復フィルタの各タップが画像の各画素に対応して画像回復処理の工程でコンボリューション処理(畳み込み積分、積和)される。コンボリューション処理では、ある画素の信号値を改善するために、その画素を画像回復フィルタの中心と一致させる。そして画像と画像回復フィルタの対応画素ごとに画像の信号値とフィルタの係数値の積をとり、その総和を中心画素の信号値として置き換える。
図2(a)では各タップ内の値(係数)を省略している。図2(a)に示す画像回復フィルタの1断面を図2(b)に示す。図2(b)の横軸はタップであり、縦軸がタップの値である。画像回復フィルタの各タップのもつ値(係数値)の分布が、収差によって空間的に広がった信号値を、理想的には元の1点に戻す役割を果たしている。
画像回復フィルタは、結像光学系102のOTFを計算または計測し、その逆関数に基づいた関数を逆フーリエ変換することによって取得することができる。また、実空間で画像回復フィルタを入力画像にコンボリューション処理することで、画像回復処理で画像のフーリエ変換や逆フーリエ変換を行うことなく画像を回復することができる。入力画像は、撮影光学系を介した撮像により生成された画像である。
以下、収差の対称性を向上させる本実施例の画像回復フィルタについて説明する。数式7から分かるように、数式8のrOTFの部分が点光源を撮影した画像の回復後の周波数特性になる。
ここで、rOTFは、任意の関数である。回復画像の位相劣化成分は0であることが望ましいので、rOTFは位相成分を持たないようにすればよく、rOTFは実部のみを有するため、実質的にはrMTFと等しい。rOTFは実部のみを有することが好ましいが、許容可能な範囲で虚部に値を持たせてもよい。つまり、点光源に関わらずどのような被写体でも、あたかもOTFがrOTFの特性を持った結像光学系102で撮影された画像のようにすることができる。
従って、主光線(光学系の瞳の中心を通る光線)と垂直に交わる各方向(アジムス方向という)間で共通なOTF(rH(u,v))を用いた数式9のようにすることで、あたかもアジムス方向間にMTF差の無い結像光学系で撮影した画像を得ることができる。
これを、図3(a)を参照して説明する。図3は、画像回復のMTFを説明するためのグラフであり、横軸は空間周波数、縦軸はMTFである。回復前のMTFは(1)、(2)に示すようにアジムス方向ごとに異なっているが、回復後は(3)、(4)に示すようにアジムス方向間で揃っている。(1)、(2)は、例えば、メリジオナル方向、サジタル方向のMTFに相当する。
本実施例の画像回復フィルタにより、アジムス方向間のMTFの差異を補正しながら回復することが可能となる。また、数式9ではアジムス方向間で共通なOTF(rH(u,v))を用いたが、rH(u,v)をアジムス方向ごとのOTFの差が回復前のOTFの差よりも低減するように補正することで回転対称性を制御することができる。
完全に回転対称には補正していない場合の画像回復のMTFを図3(b)に示す。また、従来のウィナーフィルタによる画像回復のMTFを図3(c)に示す。図3(b)と図3(c)においても、横軸は空間周波数、縦軸はMTFであり、(1)、(2)がメリジオナル方向、サジタル方向の回復前のMTF、(3)、(4)がメリジオナル方向、サジタル方向の回復後のMTFを示している。
実施例1によれば、図3(b)における(3)、(4)のように回復後のMTFが完全に一致しなくとも図3(c)における(3)、(4)よりもアジムス方向間のMTF差が低減し、PSFの非対称性が低減される。非対称性の補正効果を得るためには、少なくとも回復前のアジムス方向間のMTF差よりも小さくなるように制御することが望ましい。画像回復フィルタは、数式9のH(u,v)の部分がアジムス方向ごとに異なるため、rH(u,v)がアジムス方向間で共通であろうが、異なっていようが画像回復フィルタとしては、非対称な係数配列を有する。即ち、図2(b)の断面図がアジムス方向ごとに異なることに対応する。
OTFには、結像光学系102以外の、撮像の過程でOTFを劣化させる要因を含めることができる。例えば、複屈折を有する光学ローパスフィルタはOTFの周波数特性に対して高周波成分を抑制する。また、撮像素子104の画素開口の形状や開口率、ヴィネッティング、光源の分光特性や各種波長フィルタの分光特性も周波数特性に影響する。これらを含めた広義のOTFに基づいて、画像回復フィルタを作成することが望ましい。また、画像回復フィルタの縦横のタップ数に関しても正方配列である必要はなく、コンボリューション処理時に考慮するようにすれば任意に変更することができる。
画像回復処理は、画像の劣化過程が線形である方が劣化前の原画像に回復するための逆過程を高精度に処理できるため、入力画像は諸々の適応的な非線形処理を施されていないことが好ましい。従って、画像回復処理はモザイク画像(RAW画像)に対して行うことが好ましい。
但し、デモザイク画像でも、色補間処理による劣化過程が線形であれば、画像回復フィルタの生成において、この劣化関数を考慮することで同様に回復処理を行うことができる。また、回復の要求精度が低い場合や諸々の画像処理を施された画像しか入手できない場合には、デモザイク画像に対して回復処理を行っても構わない。本実施例の画像処理方法は、入力画像がモザイク画像であってもデモザイク画像であっても適用することができる。
実施例1の画像処理方法を、図4に示すフローチャートを用いて説明する。なお、図4に示すフローチャートの動作は、不図示の制御手段による制御の下で画像処理部107が行う。「S」はステップ(工程)の略であり、図4に示すフローチャートはコンピュータ(プロセッサ)に各ステップの機能を実現させるための画像処理プログラムとして具現化が可能である。
即ち、画像処理プログラム(ソフトウェア)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理によって実現される。
S11では、画像処理部107は、入力画像をA/Dコンバータ105から、距離情報を距離情報取得部101から取得する。
S12とS13は、画像回復処理部108によって行われる整形ステップ(整形工程)を構成する。整形工程は、上述した光学系の特性による画像の劣化が減るように整形を施し、これは他の実施例でも同様である。
S12では、画像回復処理部108は、結像光学系102の特性と撮影条件と被写体の距離情報に対応する画像回復フィルタを選択又は生成することによって取得する。以下、図5を参照して、画像回復フィルタの選択又は生成について説明する。
図5は、記憶部106に格納された画像回復フィルタ群の模式図を示す。画像回復フィルタは、ズーム位置による焦点距離、絞り値、距離情報の3つの状態を軸とした撮像状態空間中に離散的に配置されている。撮像状態空間中の各点(黒丸)の座標が予め格納された画像回復フィルタの状態位置である。
図5は、便宜上、画像回復フィルタの位置を各状態に対して直交した格子点上に配置しているが、各画像回復フィルタの位置は格子点から外れても構わない。また、撮像状態の種類の数においても図示するために3つの状態に対する3次元図としたが、4つ以上の状態を対象とした4次元以上の撮像状態空間であってもよい。
図5において、大きな白丸が実際の撮像状態であるとする。画像回復フィルタを単に選択する場合、実際の撮像状態の位置に最も近い画像回復フィルタを選択して画像回復処理に用いる。例えば、実際の撮像状態の位置からの各格子点の距離を算出し、最短距離の画像回復フィルタを選択する。図5では、小さな白丸の位置の画像回復フィルタが選択される。別の方法として、撮像状態空間中の距離と方向の重みの積を評価関数として用いて画像回復フィルタを選択してもよい。
画像回復フィルタを補正する場合、まず、実際の撮像状態の位置に最も近い画像回復フィルタを選択する。これにより、この後の補正量も小さくでき、撮像状態での本来のフィルタに近いものを生成することができる。図5では、小さな白丸の位置の画像回復フィルタが選択される。
次に、選択された画像回復フィルタの状態と実際の撮像状態の状態相違量ΔA,ΔB,ΔCを算出する。「状態相違量」とは、状態A(焦点距離)、状態B(絞り値)、状態C(距離情報)のそれぞれに関する相違量である。状態相違量に基づいて状態補正係数を算出し、選択された画像回復フィルタを補正することで、実際の撮像状態に対応した画像回復フィルタを生成することができる。
別の方法として実際の撮像状態の近傍にある複数の画像回復フィルタを選択し、状態相違量に応じて補間処理することによって撮像状態に適した画像回復フィルタを生成することができる。補間処理は、2次元フィルタ同士の対応タップの係数値を線形補間、多項式補間、スプライン補間などを使用することができる。
S13では、画像回復処理部108は、入力画像に画像回復フィルタをコンボリューションし、原画像を取得する。その結果、画像の位相劣化成分と振幅劣化成分に対して、位相成分は零を目標値に補正され、振幅成分はアジムス方向間で揃う方向に補正される。
本実施例の画像回復の効果を図6、図7を参照して説明する。図6は、撮影シーンの一例で、符号1〜3はいずれも被写体であるが、符号1、2は非主被写体、符号3は主被写体である。符号4は図1に示す撮像装置を表す。
撮像装置の撮像素子によって撮像された回復前の入力画像が図7(a)に示すようになっているものとすると、図7(a)における被写体1〜3は、結像光学系102の特性により、本来の形状から変化している。
そこで、不図示のステップ(分割ステップ)において、S11で取得した被写体距離の情報(距離情報)に基づいて、被写体1〜3を、図7(c)〜(e)に示すように、3つのレイヤー(レイヤー画像)に分割する(分割ステップ)。レイヤーとは、1つの画像を少なくとも1つの被写体を含む複数の層に分けたような画像であり、各レイヤーを重ね合わせることで元の1つの画像とすることができる。ここでのレイヤーは、所定の被写体距離の範囲ごとにレイヤーが用意される。このレイヤーは、互いに被写体距離(物体距離)が異なる複数の被写体ごとに用意してもよい。
尚、本明細書における「用意」とは、データ(例えば、被写体の距離情報)を記憶部に予め記憶させておくこと、或いは、該データを外部の装置から取得することを意味する。
次に、S11で取得した距離情報に基づいて、S12において、画像回復処理部108は各レイヤーに対応した画像回復フィルタを選択又は生成する。各レイヤーに対応した画像回復フィルタを選択又は生成するとは、図5に説明したとおり、撮影条件、具体的には距離情報に基づいて、各レイヤーの被写体に生じた収差を低減するのに適した画像回復フィルタを選択又は生成するということである。
次に、S13において、画像回復処理部108は、レイヤー毎(レイヤー画像毎)に画像回復フィルタをコンボリューション演算し、各レイヤーの画像回復を行い、ボケ付加ステップに移行する。なお、各レイヤーの画像回復後に、レイヤーを合成して、図7(b)に示す画像を生成してからボケ付加ステップに移行してもよい。画像を合成する際は、複数のレイヤーの画素値を足し合わせてもよいし、どれか1つ又は複数の画素値を取得してもよい。
S14〜S16は、ボケ付加処理部109によって行われるボケ付加ステップ(ボケ付加工程)を構成する。
S14では、ボケ付加処理部109は、画像回復された画像に、距離情報に応じたボケを付加する。本実施例においては、図8に示すように三種類のボケ関数を用意し、ボケ関数に基づく値を画素値に付加する。図8のグラフの横軸は空間座標、縦軸は強度を示している。図8(a)はガウシアン形状のボケ関数であり、周辺に行くほど滑らかに減衰するボケとなる。図8(b)は半値幅の異なる2種類のガウシアンを組み合わせたボケ関数であり、中心付近の強度が大きいボケとなる。図8(c)は矩形形状のボケ関数であり、均一なボケとなる。もちろん、ボケ関数はこれらに限定されたものではなく、任意のボケ関数としてよい。
ボケ付加処理部109は、図7(b)に示す被写体1、2に付加するボケ関数を取得する。ボケ付加処理部109は、ユーザーにより指示されたボケ関数を取得するように構成してもよいし、撮像装置内で規定されたボケ関数を用いてもよい。
そして、取得されたボケ関数に基づく値は、図2(a)の2次元フィルタの各画素の値としてS15で用いられる。但し、ボケ関数は距離情報に基づいた関数でなくてもよく、異なる被写体距離に同一のボケ関数を入力する等、自由に変更してよい。以降、ボケ関数の値をもつ2次元フィルタをボケフィルタと記載する。
S15において、ボケ付加処理部109は、各レイヤーにボケフィルタをコンボリューション演算する。S13で画像回復されたレイヤー1〜3(図9(a)〜(c))にS14で取得したボケフィルタをコンボリューション演算してボケ付加後のレイヤー1〜3を取得する。そして、ボケが付加されたレイヤー1〜3の画像を合成する。レイヤー1〜3を合成する際は、複数のレイヤーの画素値を足し合わせてもよいし、どれか1つ又は複数の画素値を取得してもよい。合成した画像が図9(d)である。
S14とS15で示したボケ付加方法は一例である。画像をレイヤーに分けるのではなく、図7(b)に示す画像を被写体距離に基づいて複数の領域に切り分け(分割し)、該切り分けた領域ごとにボケフィルタをコンボリューション演算して、良好なボケが付加された画像を得ても良い。つまり、1つの画像内で異なるボケフィルタをコンボリューション処理してもよい。また、ボケ関数の半値幅或いは輝度値が0以上である範囲をボケの大きさとして定義し、各レイヤーの画素値をボケの大きさの領域内で平均化することによりボケを付加してもよい。
S16では、ボケ付加処理部109は、S15で得られたボケ付加画像を出力する。
実施例1では整形ステップ後にボケ付加ステップを実行したが、両ステップは同時に行われてもよい。その場合、数式8のrOTFの部分をボケ関数の周波数特性とする。そして、数式8の右辺rOTF/H(u,v)を逆フーリエ変換した値をフィルタとして、入力画像にコンボリューション処理すればよい。
実施例1の撮像装置によれば、結像光学系102の光学特性に起因する像形状への影響を低減した良好なボケを付加することができる。
《実施例2》
図10は、実施例2の撮像装置の要部ブロック図である。本実施例の撮像装置は、距離情報取得部101を有さず、画像処理部107の代わりに画像処理部205を有し、記憶部106の代わりに記憶部213を有する。また、本実施例の撮像装置は、露出制御部212を更に有する。本実施例では、撮像素子104が受光する光量を露光量と定義する。そして、本実施例において「露出量が異なる画像」とは、シャッタースピード、F値、ISO感度のうち少なくとも1つが異なる条件で撮影された画像のことである。
図10は、実施例2の撮像装置の要部ブロック図である。本実施例の撮像装置は、距離情報取得部101を有さず、画像処理部107の代わりに画像処理部205を有し、記憶部106の代わりに記憶部213を有する。また、本実施例の撮像装置は、露出制御部212を更に有する。本実施例では、撮像素子104が受光する光量を露光量と定義する。そして、本実施例において「露出量が異なる画像」とは、シャッタースピード、F値、ISO感度のうち少なくとも1つが異なる条件で撮影された画像のことである。
露出制御部212は露光量を制御する。記憶部213は、同一の被写体を、露光量を変えて複数枚撮った画像の情報と、その複数枚撮影した画像に対応する露光量の情報を保存する。この複数枚撮影した画像のうち1枚を輝度推定する参照画像とする。記憶部213に記憶された情報は画像処理部205に送られる。
画像処理部205は、整形処理部206とボケ付加処理部209を有する。整形処理部206は、輝度飽和検出部207と輝度飽和推定部208を有する。輝度飽和検出部207は、参照画像と、該参照画像を撮影したときの撮影条件を用いて輝度飽和部を検出する。輝度飽和推定部208は、輝度飽和部の輝度値を推定し、ボケ付加処理部209に推定した輝度値を送信する。輝度飽和検出部207と輝度飽和推定部208の詳細は後述する。
実施例2の撮像装置において実行される画像処理を、図11に示すフローチャートを用いて説明する。なお、図11に示すフローチャートの動作は、不図示の制御手段による制御の下で画像処理部205が行う。「S」はステップ(工程)の略であり、図11に示すフローチャートはコンピュータ(プロセッサ)に各ステップの機能を実現させるための画像処理プログラムとして具現化が可能である。
本フローチャートは、既に撮像装置によって同一の被写体が互いに異なる露光量で撮像され、記憶部213に、互いに露光量の異なる複数の画像が記憶されている状態から開始される。
S21では、画像処理部205は、記憶部213から、参照画像と、参照画像と同一の被写体を撮った露光量の異なる複数の画像を取得する。
S22では、輝度飽和検出部207が参照画像の輝度飽和部を検出する。図12は、輝度飽和部が存在する参照画像の一例を示す図である。符号5は輝度飽和している部分を表す。輝度飽和検出部207は、各画素の値を輝度値として取得して、輝度値が飽和値になっている部分を輝度飽和部として検出する。
S23では、整形処理部206は、参照画像と露光量の異なる複数の画像において、S22で取得した参照画像の輝度飽和部と同じ画素あるいは同じ像高における輝度値を検出する。そして、その露光量の異なる複数の画像から、前記参照画像の輝度飽和部に対応する領域(同じ領域)内の全画素で輝度値が飽和値以下になっている画像を取得する。ここでは、輝度飽和部内の全画素で輝度値が飽和値以下になっている画像を画像Wとする。なお、ここでは、輝度飽和部内の全画素で輝度値が飽和値以下になっている画像を画像Wとして取得したが、これに限られず、輝度飽和部内の全画素の80%以上の画素の輝度値が飽和値以下になっている画像を画像Wとして取得してもよい。
S24では、輝度飽和推定部208が輝度飽和部を有する参照画像に、輝度飽和がないとした場合の適切な参照画像の輝度値を推定する。図13は、輝度推定方法を説明するための図である。図13(b)は、輝度飽和している図13(a)の一断面の輝度値を示す図であり、横軸が空間座標であり、縦軸が輝度値である。S24においては、S22において取得した画像W(輝度飽和していない画像)から輝度飽和している参照画像の輝度値を推定するために数式10を用いる。
即ち、画像Wの輝度分布と、参照画像と画像Wの露光量の比を掛けることによって、図13(b)に示すように、飽和値以上の参照画像の軌道飽和部周辺の輝度分布を推定する。言い換えれば、S22において、輝度飽和推定部208は、参照画像(第1画像)の露光量と画像W(第2画像)の露光量と画像Wにおいて参照画像の輝度飽和部に対応する領域内の輝度値を用いて、参照画像の輝度飽和部における輝度値を推定する。
S25では、ボケ付加処理部209が推定した輝度値に基づいてボケ関数を選択又は生成する。ここで、推定した輝度値に基づくとは、例えば、推定した輝度値の分布が、図8(a)で示したようなガウシアン形状に近いものであるならば、ガウシアン形状のボケ関数を選択又は生成することである。
S26では、ボケ付加処理部209が参照画像に対してボケ関数の情報をもつボケフィルタに基づく演算を行う。ボケフィルタに基づく演算方法としては、実施例1で説明したように参照画像にボケフィルタをコンボリューション演算してもよい。また、ボケフィルタの大きさ(タップ数)をボケの大きさとして定義し、ボケの大きさの領域で全画素における輝度値を平均化して、該領域における画素値を平均化した輝度値としてもよい。
以上のS22〜S26は、整形処理部206によって行われる整形ステップである。
S27では、ボケが付加された画像を出力する。
実施例2では、整形ステップ後にボケ付加ステップを実行したが、実施例1と同様に両ステップは同時に実行されてもよい。
また、実施例1の画像回復に実施例2の輝度推定を利用することがより好ましい。図18(a)のような輝度飽和部分している部分は本来の輝度分布とは異なり、飽和値で一定である。その状態で画像回復を行うと、正確な画像回復が行えない。そこで実施例2の輝度推定処理を行って輝度飽和部の本来の輝度値を取得し、画像回復を行うことによって、正確な画像回復が行える。
実施例2の撮像装置によれば、画像に輝度飽和部が存在した場合も、良好にボケを付加することができる。
《実施例3》
図14は、実施例3の画像処理システムのブロック図である。画像処理システムは、記録媒体301、撮像装置302、画像処理装置303、表示機器311、出力機器309を備えている。
図14は、実施例3の画像処理システムのブロック図である。画像処理システムは、記録媒体301、撮像装置302、画像処理装置303、表示機器311、出力機器309を備えている。
記録媒体301は、例えば、半導体メモリ、ハードディスク、ネットワーク上のサーバーなどである。
撮像装置302は、結像光学系と撮像素子を有し、図1に示す距離情報取得部101を有する。
画像処理装置303は、整形処理とボケ付加処理を行うコンピュータであり、不図示の制御手段を有する。画像処理装置303は、撮像装置302にインターネットを介して接続されたサーバーから構成されてもよい(クラウドコンピューティング)。もちろん、画像処理装置303は画像情報を保存している他のパーソナルコンピュータ(PC)、携帯電話、PDAやゲーム機などの専用端末などにネットワークを介して接続されていてもよい。
画像処理装置303によって処理された画像情報は、記録媒体301、表示機器311、出力機器309のいずれか又は複数に出力される。出力機器309は、例えば、プリンタである。表示機器311は、例えば、液晶ディスプレイやプロジェクタなどである。画像処理装置303には、表示機器311が接続され、画像が表示機器311へ入力される。ユーザーは、表示機器311を介して画像を確認しながら作業を行うことができる。
画像処理装置303は、整形処理部304、ボケ付加処理部308、記憶部310および距離取得部312を有する。整形処理部304は、輝度飽和検出部305、輝度飽和推定部306および輝度値調整部307を有する。
輝度飽和検出部305は輝度飽和部を検出する。輝度飽和推定部306は輝度飽和部の輝度値を推定する。推定された輝度値に基づいて、輝度値調整部307とボケ付加処理部308で所定の処理が施される。記憶部310には、撮像装置302内の結像光学系の特性や入力画像や撮影条件が記憶される。距離取得部312は、撮像装置302で得られた複数の視差画像に基づいて、各被写体の距離を算出し、取得する。
実施例3の画像処理方法を、図15に示すフローチャートを用いて説明する。なお、図15に示すフローチャートの動作は、画像処理装置303が行う。「S」はステップ(工程)の略であり、図15に示すフローチャートはコンピュータ(プロセッサ)に各ステップの機能を実現させるための画像処理プログラムとして具現化が可能である。
実施例3では、撮影条件としてのF値が小さい(被写界深度が浅い)場合において撮影された画像の輝度飽和部のボケを再現するため、輝度推定とともに輝度値の調整を行う。実施例3の整形ステップは、輝度推定と輝度値の調整を行う。
S31〜S33は実施例2のS21〜S23と同様であるため、説明を省略する。
S34では、輝度飽和部の輝度値と距離情報の推定を行う。輝度飽和部の輝度値の推定に関しては、実施例2と同様である。距離情報の推定に関しては、撮像装置302内で視差画像を取得しておき、コンピュータ内で距離情報を算出、取得する。
また、輝度飽和部の輝度値推定の際に、距離情報を利用してもよい。例えば、同一種類の光源A、Bが異なる距離に位置し、これら光源を含むシーンを撮影した場合、撮像された画像において、撮像装置に近い方の光源Aが輝度飽和しており、かつ、撮像装置から遠い方の光源Bが輝度飽和していない場合を想定する。撮像装置から遠い被写体(光源B)ほど、結像光学系102に入る光量の減衰が大きいので、光源A及び光源Bの距離情報と実施例1で説明したボケの大きさの関係から、輝度飽和した近い方の光源Aの画像における輝度分布を推定する。これは、露光量を変えて複数枚撮った画像全てにおいて、被写体が輝度飽和している場合に有効である。
S35では、S34で得られた輝度飽和部の推定輝度値と輝度飽和している被写体までの距離情報に基づいて、入力画像から算出される推定輝度値を定数倍し且つ距離が撮影側から遠いほど輝度値が小さくなるようにする輝度値の調整を行う(調整ステップ)。さらに、S35では、ボケを付加するために用いるボケフィルタの選択又は生成と、該ボケフィルタに基づくボケ値の付加を行う(ボケ付加ステップ)。ボケフィルタの選択又は生成は実施例1と同様である。輝度値の調整とボケフィルタに基づくボケの付加の処理の順番はどちらが先でもよい。
輝度値の調整後にボケ値の付加の処理を行う場合は、まず入力画像における輝度飽和部を推定し、調整した輝度値に対してボケフィルタをコンボリューションする処理を行う。コンボリューション処理後、飽和値より大きい値は、飽和値として輝度値に反映される。
また、ボケを付加した後に、輝度値を調整する場合は、入力画像に、ボケフィルタをコンボリューションし、ボケを付加する前に、輝度飽和していた領域の輝度値と推定した輝度値の比で、コンボリューションされた画像の輝度を比例倍する。
但し、輝度飽和部のボケを再現する上で好ましいのは、輝度値を調整した後にボケを付加する順番である。これは、ボケを付加してから輝度値を調整する場合に比べて、より自然なボケを付加することができるからである。
S36では、ボケ付加画像を出力する。
実施例3の画像処理装置によれば、画像に輝度飽和部が存在した場合も、良好にボケを付加することができる。
《実施例4》
図16は、実施例4の撮像装置の要部ブロック図である。本実施例の撮像装置は、記憶部106の代わりに記憶部406を有し、画像処理部107の代わりに画像処理部407を有し、整形領域選択部412と仮想F値選択部413を更に有する。
図16は、実施例4の撮像装置の要部ブロック図である。本実施例の撮像装置は、記憶部106の代わりに記憶部406を有し、画像処理部107の代わりに画像処理部407を有し、整形領域選択部412と仮想F値選択部413を更に有する。
記憶部406は撮影条件を記憶する。
整形領域選択部412は、撮影画像において実施例1から3で説明した整形工程を行う対象領域を選択する。
仮想F値選択部413は、撮影画像を撮影した際の撮影条件のF値以下の範囲で、整形後の領域に必要な任意のF値(仮想F値)の選択を行う。整形領域選択部412は、例えば、操作ボタンやタッチパネルを介してユーザーによる選択指示に基づいて仮想F値を選択する。
画像処理部407に入力される情報は、距離情報取得部101で得られる各被写体の距離情報と記憶部406で得られる撮影条件と整形領域選択部412で得られる整形領域と仮想F値選択部413によって選択された仮想F値の情報である。
実施例4の撮像装置における画像処理を、図17に示すフローチャートを用いて説明する。なお、図17に示すフローチャートの動作は、不図示の制御手段による制御の下で画像処理部407が行う。「S」はステップ(工程)の略であり、図17に示すフローチャートはコンピュータ(プロセッサ)に各ステップの機能を実現させるための画像処理プログラムとして具現化が可能である。
入力画像において、画像の周辺部において大きくボケた領域における像は、ヴィネッティングによって一部が欠けた非対称な形になる。しかし、合焦位置から離れた領域では、MTFがほぼ0となるので、画像回復を利用して非対称なボケを対称にすることは困難である。即ち、実施例1に示すような画像回復を行って、ボケ付加を行い、良好なボケを生成することは難しい。そこで、実施例4は、合焦位置から離れた領域で、一部が欠けた非対称な形を良好なボケ形状に整形する。
S41は実施例1のS11と同様である。
S42〜S44が、整形処理部408によって行われる整形ステップである。
S42では、入力画像内で整形する領域を選択する。図18(a)に入力画像の例では、符号6は一部が欠けて本来の形状から変化した被写体であり、S42では、この被写体6が含まれる領域を整形する領域として選択する。整形領域選択方法は、ユーザーが選択しても良いし、輝度値の大きさ等から画像処理部407内で検出してもよい。尚、従来からあるエッジ検出処理等を用いて被写体6のエッジを境界とする領域として選択可能に構成しても良いし、被写体6を含む矩形領域を選択可能に構成してもよい。
S43では、選択された領域の平均輝度値とその領域に含まれる被写体6までの被写体距離情報から整形する被写体の大きさと輝度値を決定する。S42で選択された領域の距離情報と撮影条件のF値(撮影時のF値)から、選択された領域で整形後のボケの大きさを算出する。そして、選択領域内の平均輝度値から、整形後のボケの輝度値を算出する。整形するボケの分布は、例えば、円対称な一様分布で各輝度値を平均輝度値として扱う。
S44では選択した領域を整形する。具体的には、S42で選択された領域を含むようにして、入力画像の輝度値とS43で取得した整形後の領域の輝度値を置き換える(置換ステップ)。但し、全ての輝度値の置き換えを行ってもよいし、整形する領域のみ輝度値を置き替えて、その他は重ね合わせを行ってもよい。輝度値を置き替えることによって、例えば、図18(a)の非対称な被写体は図18(b)のように円対称な被写体に変更することができる。
S45〜S47はボケ付加処理部409によって行われるボケ付加ステップである。
S45では、ボケ付加処理部409は、S44で選択された仮想F値に基づいてボケ関数の選択又は生成を行う。ボケ関数は実施例1のS14と同様である。仮想F値に基づいて付加するボケの大きさを決定し、該ボケの大きさにあったタップ数を有するボケフィルタを選択又は作成する。ここで、仮想F値に基づいて付加するボケの大きさを決定するとは、仮想F値が小さい場合には、被写界深度は浅くなるので、仮想F値が大きい場合に比べて、大きいボケの大きさを設定するということである。そして、S44で選択された領域の中心位置を中心として、S43で算出したボケを付加する。但し、本実施例においてはボケの大きさを仮想F値に基づいて決定したが、仮想F値でなく任意に決めてもよい。
S46では、整形後の領域に対してS45で選択又は作成したボケフィルタに基づくボケを付加する。ボケの付加方法は実施例1S15と同様に行えばよい。
S47では、ボケ付加画像を出力する。
実施例4の撮像装置によれば、合焦位置から十分離れた領域でのボケ形状を良好なボケ形状に整形することができる。
以上、本実施形態について説明したが、本発明は本実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
本発明の画像処理方法は、撮影された画像にボケを加える画像処理の用途に適用可能である。
102…結像光学系、104…撮像素子、107…画像処理部、108…画像回復処理部、109…ボケ付加処理部
Claims (8)
- 光学系を介した撮像により生成された、輝度飽和部を有する第1画像と同一の被写体を異なる露光量で撮影した第2画像に基づいて、前記輝度飽和部の輝度値を推定する推定ステップと、
前記推定ステップにおいて推定された前記輝度値に基づいて、前記第1画像の前記輝度飽和部にボケを付加するボケ付加ステップをコンピュータに実行させることを特徴とする画像処理プログラム。 - 前記被写体の距離情報に基づいて、前記第1画像の輝度値を調整する調整ステップを有することを特徴とする請求項1に記載の画像処理プログラム。
- 前記第2画像は、前記輝度飽和部に対応する領域内の輝度値が飽和値以下になっている画像であることを特徴とする請求項1又は2に記載の画像処理プログラム。
- 前記推定ステップにおいて、前記第1画像の露光量と前記第2画像の露光量と前記第2画像の前記輝度飽和部に対応する領域内の輝度値を用いて、前記第1画像の前記輝度飽和部における輝度値を推定することを特徴とする請求項1乃至3のいずれか1つに記載の画像処理プログラム。
- 前記ボケ付加ステップにおいて、前記輝度飽和部に含まれる被写体の距離情報に基づいてボケを付加することを特徴とする請求項1乃至4のいずれか1つに記載の画像処理プログラム。
- 光学系を介した撮像により生成された、輝度飽和部を有する第1画像と同一の被写体を異なる露光量で撮影した第2画像に基づいて、前記輝度飽和部の輝度値を推定する推定ステップと、
前記推定ステップにおいて推定された前記輝度値に基づいて、前記第1画像の前記輝度飽和部にボケを付加するボケ付加ステップを有することを特徴とする画像処理方法。 - 光学系を介した撮像により生成された、輝度飽和部を有する第1画像と同一の被写体を異なる露光量で撮影した第2画像に基づいて、前記輝度飽和部の輝度値を推定する推定処理部と、
前記推定処理部において推定された前記輝度値に基づいて、前記第1画像の前記輝度飽和部にボケを付加するボケ付加処理部と、
を有することを特徴とする画像処理装置。 - 被写体の光学像を形成する結像光学系と、
前記結像光学系が形成した前記光学像を光電変換する撮像素子と、
前記撮像素子により生成された、輝度飽和部を有する第1画像と同一の被写体を異なる露光量で撮影した第2画像に基づいて、前記輝度飽和部の輝度値を推定し、推定された前記輝度値に基づいて、前記第1画像の前記輝度飽和部にボケを付加する画像処理部と、
を有することを特徴とする撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015002879A JP2015109681A (ja) | 2015-01-09 | 2015-01-09 | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015002879A JP2015109681A (ja) | 2015-01-09 | 2015-01-09 | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013019474A Division JP5709911B2 (ja) | 2013-02-04 | 2013-02-04 | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015109681A true JP2015109681A (ja) | 2015-06-11 |
Family
ID=53439687
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015002879A Pending JP2015109681A (ja) | 2015-01-09 | 2015-01-09 | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015109681A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017111739A (ja) * | 2015-12-18 | 2017-06-22 | 株式会社デンソー | 運転支援装置、運転支援方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008294785A (ja) * | 2007-05-25 | 2008-12-04 | Sanyo Electric Co Ltd | 画像処理装置、撮像装置、画像ファイル及び画像処理方法 |
JP2009527059A (ja) * | 2006-02-14 | 2009-07-23 | フォトネーション アイルランド リミテッド | 画像ぼかし処理 |
-
2015
- 2015-01-09 JP JP2015002879A patent/JP2015109681A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009527059A (ja) * | 2006-02-14 | 2009-07-23 | フォトネーション アイルランド リミテッド | 画像ぼかし処理 |
JP2008294785A (ja) * | 2007-05-25 | 2008-12-04 | Sanyo Electric Co Ltd | 画像処理装置、撮像装置、画像ファイル及び画像処理方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017111739A (ja) * | 2015-12-18 | 2017-06-22 | 株式会社デンソー | 運転支援装置、運転支援方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5709911B2 (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 | |
JP6327922B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US9185272B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and storage medium storing image processing program | |
JP5188651B2 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
JP6308748B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP5535053B2 (ja) | 画像処理装置、及び画像処理方法 | |
JPWO2011122283A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、およびそれを用いた撮像装置 | |
JP2016213702A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
US9911183B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium | |
JP2014027570A (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP2013020610A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2011215707A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP5653464B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2011160255A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2015115733A (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP2013128212A (ja) | 画像処理装置および撮像装置並びにその方法 | |
JP2012156716A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム。 | |
JP2019036115A (ja) | 画像処理方法、画像処理装置、撮像装置、および、プログラム | |
JP6682184B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP5645981B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
US10062150B2 (en) | Image processing apparatus, image capturing apparatus, and storage medium | |
JP6333076B2 (ja) | 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体 | |
JP2015109681A (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 | |
JP6537228B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2016201600A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151026 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151104 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20160308 |