JP2008245033A - 被写界深度制御方法、画像処理装置及びプログラムと記録媒体 - Google Patents

被写界深度制御方法、画像処理装置及びプログラムと記録媒体 Download PDF

Info

Publication number
JP2008245033A
JP2008245033A JP2007084630A JP2007084630A JP2008245033A JP 2008245033 A JP2008245033 A JP 2008245033A JP 2007084630 A JP2007084630 A JP 2007084630A JP 2007084630 A JP2007084630 A JP 2007084630A JP 2008245033 A JP2008245033 A JP 2008245033A
Authority
JP
Japan
Prior art keywords
image data
unit
wavelet
scale
coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007084630A
Other languages
English (en)
Inventor
Hidetoshi Okazaki
秀俊 岡崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of National Colleges of Technologies Japan
Original Assignee
Institute of National Colleges of Technologies Japan
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of National Colleges of Technologies Japan filed Critical Institute of National Colleges of Technologies Japan
Priority to JP2007084630A priority Critical patent/JP2008245033A/ja
Publication of JP2008245033A publication Critical patent/JP2008245033A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】本発明ではディジタルカメラで撮影した画像の被写界深度を使用者の希望する程度、あるいはフィルムカメラで撮影した画像と同程度に制御する画像処理を提供する。
【解決手段】
入力画像データの2次元離散2進ウェーブレット変換部1により出力される最小スケールの2次元ウェーブレット係数に対するしきい値の設定部2で設定されたしきい値以上のウェーブレット係数を持つ座標ではピントが合っているとみなし、ウェーブレット係数を保持するが、しきい値未満の座標については、各スケールのウェーブレット係数に制御係数設定乗算部3により制御係数を乗じたウェーブレット係数から逆ウェーブレット変換部4により画像を出力することにより、入力画像データにおいて焦点の合っている座標のピントは保持しながら、入力画像データより被写界深度の浅い画像データを出力する画像処理装置が提供される。
【選択図】図1

Description

本発明は画像処理装置、画像処理方法及びプログラム及び記録媒体に係り、特に小型の撮像素子を備えたディジタルカメラ等で撮影した被写界深度の深い画像データにおいて焦点の合っている座標のピントを保持しながら、被写界深度の浅い画像を生成する画像処理装置、画像処理方法及びプログラム及び記録媒体に関する。
写真撮影では人物等の主要な被写体に焦点を合わせて背景をぼかすことにより主要な被写体を注視させる表現技法がある。しかしながら、小型の撮像素子を備えた多くのディジタルカメラでは被写界深度が深く、被写体の背景をぼかすという使用者の写真表現に対する要求を満たすことができないという課題がある。
この課題は、撮影に用いるレンズの口径比、被写体距離及び、背景距離が一定の条件下において、画像上の光学的なぼけの大きさを決定する錯乱円径はレンズの焦点距離の2乗に比例するという光学原理により、撮影画角が同じならばレンズの焦点距離は画面サイズに比例するため、画面サイズが従来のフィルムカメラに比べて3〜5分の1程度の大きさの撮像素子を用いたディジタルカメラ等の出力画像データに現れる。
この課題に対応するため、一部の一眼レフ型ディジタルカメラではフィルムカメラと同等の画面サイズ(約36mm×24mm)を持つ大型の撮像素子を搭載している。
また、この課題に対応するため、複数の画像を合成する特許文献1の方法や、特殊な光学系を用いて被写界深度を浅くする特許文献2,特許文献3の方法が公開されている。
:特開2003-283902号公報 :特開2004-312097号公報 :特開2005-017637号公報
また、この課題に対応するため、パーソナルコンピュータ用の画像処理ソフトウェアを用いて、入力画像データの一部をぼかすために、マウス操作によってぼかしたい箇所の境界を指定してフィルタによる平滑化処理を行い、フィルタ処理により発生した境界部の不自然なエッジの修正をマウス等による手動操作で行う方法がある。
しかしながら、フィルムカメラと同じ画面サイズの大型の撮像素子を搭載したディジタルカメラでは、撮像素子の製造コストが嵩むためカメラの価格も高く光学系のサイズも画面サイズに比例するためカメラの小型化が困難である。また特許文献1、特許文献2,特許文献3の方法も、特殊な光学系や機構を必要とするため、製造コストの増加やカメラの大型化に繋がるという課題がある。
本発明では以上の点に鑑み、大型の撮像素子及び、特別な光学系や機構を用いることなく、フィルムカメラに比べて3〜5分の1程度の大きさの撮像素子を用いた一般的なディジタルカメラ等を用いて撮影された画像データを用いて、画像データの軽微なぼけを強調することにより、被写体の背景を使用者の希望する程度、あるいはフィルムカメラで撮影した画像と同程度にぼかした画像データを出力することができる画像処理装置、画像処理方法及びプログラム及び記録媒体を提供することを目的とする。
本発明の第1の解決手段によると、
入力画像データの2次元離散2進ウェーブレット変換部と、前記2次元離散2進ウェーブレット変換部により出力される多重スケールの2次元ウェーブレット係数の内、最小スケールの2次元ウェーブレット係数に対するしきい値設定部と、前記しきい値設定部で設定されたしきい値以上のウェーブレット係数を持つ座標ではピントが合っているとみなし、ウェーブレット係数を保持するが、一方、しきい値未満の座標については、各スケールのウェーブレット係数には制御係数の乗算を行うための制御係数設定乗算部と、制御係数を乗じた各スケールのウェーブレット係数から画像を出力する逆ウェーブレット変換部を備え、入力画像データにおいて焦点の合っている座標のピントは保持しながら、入力画像データより被写界深度の浅い画像データを出力する画像処理装置が提供される。
また、前記しきい値設定部及び前記制御係数設定乗算部は、使用者が任意のしきい値と制御係数を入力できる機能を備え、出力画像を確認できる表示部を備えることにより、しきい値と制御係数を調整して使用者が想定する被写界深度の画像を出力することができる。
また、前記制御係数設定乗算部は、
使用者が想定するレンズの焦点距離に応じた被写界深度の画像を出力するために、被写体距離と背景距離から制御係数を自動的に調整する計算機能を備えることができる。
本発明の第2の解決手段によると、
入力画像データの2次元離散2進ウェーブレット変換を行い、得られた2次元ウェーブレット係数の内、最小スケールの2次元ウェーブレット係数に対して使用者が設定したしきい値に満たない座標を特定すること、
前記しきい値に満たない座標の各スケールのウェーブレット係数に使用者が設定した制御係数を乗じること、
前記制御係数を乗じた各スケールのウェーブレット係数から2次元離散2進逆ウェーブレット変換により画像データを出力すること、
を含み、入力画像データにおいて焦点の合っている座標のピントは保持しながら、入力画像データより被写界深度の浅い画像データを出力する画像処理方法が提供される。
本発明の第3の解決手段によると、
処理部は、記憶部又は入力部から入力画像データを読み取るステップと、
処理部は、入力画像データの2次元離散2進ウェーブレット変換を行い、得られた2次元ウェーブレット係数の内、最小スケールの2次元ウェーブレット係数に対して使用者が設定したしきい値に満たない座標を特定するステップと、
処理部は、前記しきい値に満たない座標の各スケールのウェーブレット係数に使用者が設定した制御係数を乗じるステップと、
処理部は、前記制御係数を乗じた各スケールのウェーブレット係数から2次元離散2進逆ウェーブレット変換により画像データを出力するステップと、
処理部は、得られた出力画像データを記憶部に記憶及び/又は出力部若しくは表示部に出力するステップを、
コンピュータに実行させるための入力画像データにおいて、焦点の合っている座標のピントは保持しながら入力画像データより被写界深度の浅い画像データを出力する画像処理プログラム、及び当該プログラムを記録したコンピュータ読み取り可能な記録媒体が提供される。
本発明によると、大型の撮像素子及び特殊な光学系や機構を用いることなく、小型の撮像素子を用いたディジタルカメラ等を用いても、コンピュータのプログラムによる画像処理により、被写体の背景を使用者の希望する程度、あるいはフィルムカメラで撮影した画像と同等程度にぼかした画像データを出力することができるため、一般的な小型のディジタルカメラ等でも、被写体の背景をぼかすという使用者の写真表現に対する要求を満たすことができる。
本発明によると、使用者は1回の画像処理操作で入力画像データの軽微なぼけを基にして、使用者が望む大きさのぼけを持つ画像データを自動的に出力できるため、従来の画像処理ソフトで行っている、ぼかしたい箇所のセグメンテーション(分離)を必要としないため、マウスのドラッグによる境界部の指定、境界部のレタッチ(修正)等のマウス等による煩雑な手動操作を一切必要としない。また、出力画像のぼけの大きさは使用者が設定した係数により、入力画像データのぼけの大きさに比例して決定されるため、被写界深度の浅いカメラで撮影した写真と同様の自然なぼけ方の画像データを出力することができる。
本実施の形態の画像処理装置の構成図を図1に示す。図1の画像処理装置は入力画像データの2次元離散2進ウェーブレット変換部1と、最小スケールのウェーブレット係数に対するしきい値設定部2と、各スケールのウェーブレット係数に乗じる制御係数を設定して乗算を行う制御係数設定乗算部3と、ウェーブレット係数を再構成して画像データを出力するための2次元離散2進逆ウェーブレット変換部4を備えている。
本実施の形態の画像処理装置は、入力画像データf(m,n)から離散2進ウェーブレット変換部1によりウェーブレット係数を得る。得られたウェーブレット係数の内、最小スケールのウェーブレット係数W1f(m,n)が、しきい値設定部2に設定されているしきい値th以上の値を持つ座標(m,n)はピントが合っているとみなし、ピントを保持するためにウェーブレット係数の変更を行わず、しきい値th未満の値の座標(m,n)については、ピントが合っていないと見なし、制御係数乗算部3に設定されたスケールjごとの制御係数Cjを、各スケールjのウェーブレット係数Wjf(m,n)に乗ずることにより、ウェーブレット係数の値を制御する。その後、2次元離散2進逆ウェーブレット変換部4により出力画像データf' (m,n)を得る。この出力画像データでは、入力画像データf(m,n)においてピントの合っていた個所はぼけることなく、ピントの合っていなかった箇所は入力画像データのぼけの大きさに比例して、より大きなぼけが得られる。つまり元々ピントの合っている箇所のピントは保持しながら、入力画像データより被写界深度の浅い画像データを出力することができる。
ここで本発明で用いる離散2進ウェーブレット変換について説明する。例として、非特許文献1に示された離散2進ウェーブレット変換を用いると、離散化された1次元入力データf (n)の各スケールjのウェーブレット係数Wj f(n)の絶対値は数1で示される関係を満たす。
S. Mallat and S. Zhong, "Characterization of signals from multiscale edges," IEEE Trans. on Pattern Analysis and Machine Intelligence, vol. 14, no. 7, pp. 710-732, July 1992.
Figure 2008245033
数1において、kは信号で決まる係数であり、アルファはウェーブレット係数のスケールj間の減衰を表す指数である。入力信号においてピントが合っている座標はステップ状のエッジとなるためウェーブレット変換のスケールjをいくら小さくしてもウェーブレット係数の値は同じであるためアルファ=0である。それに対し、ピントの合っていない座標ではエッジは滑らかであるためにウェーブレット変換のスケールjを小さくするにつれてウェーブレット係数の絶対値は減少していく。更にこの離散2進ウェーブレット変換は、逆変換により入力データを再構成することができる。以上の性質を利用して、このウェーブレット変換を2次元に拡張して用いれば、入力画像データの各スケールjのウェーブレット係数に使用者がスケールjごとに設定した制御係数Cjを乗じた後、離散2進逆ウェーブレット変換を行うことにより、被写界深度を制御した画像データを出力することができる。
(2次元離散2進ウェーブレット変換部1)
前記離散2進ウェーブレット変換を2次元に拡張した図1の2次元離散2進ウェーブレット変換部1は、例として、図2に示すフィルタバンク構成を用いて実現することができる。図2のスケールj+1の水平方向ウェーブレット係数WH j+1 f(m, n)は、スケールjの平滑化成分Sj f(m, n)に対して水平方向の1ラインごとの畳み込み演算を数2に示す計算により行う。
Figure 2008245033
前記の数2に示す畳み込み演算に用いられるフィルタ係数は、例として表1に示すg(i)を用いてフィルタのインデックスiに対応した入力画像データとの畳み込みの後、例として表2に示す係数λによる除算の結果をスケールj+1の水平ウェーブレット係数とすることができる。
Figure 2008245033
Figure 2008245033
また、図2の垂直方向ウェーブレット係数WV j+1 f(m, n)は、入力画像データSj f (m, n)の垂直方向の1ラインごとの畳み込み演算を数3の計算により得ることができる。
Figure 2008245033
また、図2のスケールj+1の平滑化成分Sj+1 f (m, n)は、スケールjの平滑化成分Sj f(m, n)に対して水平方向及び、垂直方向の1ラインごとの畳み込み演算を数4、数5に示す計算により行う。まず、入力画像データの水平方向1ラインごとの畳み込み演算を数4の計算により行う。この畳み込み演算に用いられるフィルタ係数は例として表1に示すh(i)を用いる。次に垂直方向1ラインごとの畳み込み演算を数5に示す計算により行うことにより平滑化成分Sj+1f(m, n)を得ることができる。
Figure 2008245033
Figure 2008245033
以上の数2、数3、数4、数5を用いた計算を、図1に示した画像処理装置に入力する画像データf(m, n)をスケールj=0の平滑化成分S0 f(m, n)とみなして、順次スケールjを0,1,2,・・Jと進めながら、各スケールjの平滑化成分Sj f(m, n)に対して前記の畳み込み演算を繰り返すことにより、次のスケールj+1の水平方向ウェーブレット係数WH j+1 f(m, n)、垂直方向ウェーブレット係数WV j+1 f(m, n)及び平滑化成分Sj+1 f(m, n)を得ることができる。
(しきい値設定部2)
図1のしきい値設定部2では、入力画像データにおいてピントの合っている座標を判別するために、前記2次元離散2進ウェーブレット変換部1により出力される最小スケールj=1の水平方向ウェーブレット係数WH 1 f(m, n)、垂直方向ウェーブレット係数WV 1 f(m, n)に対するしきい値thを設定する。また、しきい値設定部2は、使用者が入力画像データの焦点の合っている座標のピントを保持するために任意のしきい値を入力できる機能を備えることができる。設定したしきい値th以上の値を持つ座標(m,n)はピントが合っているとみなし、ピントを保持するためにウェーブレット係数の変更を行わず、しきい値th未満の値の座標(m,n)については、ピントが合っていないと見なす。
(制御係数設定乗算部3)
図1の制御係数設定乗算部3では、前記しきい値設定部2で設定されたしきい値th以上のウェーブレット係数を持つ座標(m,n)ではピントが合っているとみなし、ウェーブレット係数を保持するが、しきい値th未満のウェーブレット係数を持つ座標(m,n)については、数6の計算により、各スケールの水平方向ウェーブレット係数WH j f(m, n)及び垂直方向ウェーブレット係数WV j f(m, n)に対して制御係数Cjの乗算を行う。
Figure 2008245033
制御係数設定乗算部3は、使用者が入力画像データを元にして、より被写界深度の浅い出力画像データを得るために、各スケールのウェーブレット係数に乗ずる任意の制御係数Cjを入力する機能を備えることができる。図1に示した画像処理装置において、使用者が画像データを入力すれば、出力される画像データを直ちに確認できる機能を備えることにより。使用者の希望する出力画像のぼけが得られるまで、制御係数の設定と画像処理を繰り返すことができる。
また、制御係数設定乗算部3は、カメラの自動焦点部等から得られる被写体距離データに基づき、制御係数Cjを自動的に決定することができる。そのために、予め光学ぼけのモデルをガウス関数として設定する。ガウス関数の形状を決定する標準偏差Sは入力画像データとして使用が想定されるディジタルカメラ等と、目標とする画像を出力するフィルムカメラ等により同一条件で撮影された両画像内で、焦点の合っていないエッジ部のぼけから求める。また、各カメラから得られたぼけデータの標準偏差から、光学的ぼけによるエネルギー和不変の原理に基づき、ガウス関数のピーク値の比を求め、ぼけのモデルデータを作成する。これらのモデルデータを入力データとした離散2進ウェーブレット変換による各スケールjのディジタルカメラのぼけモデルのウェーブレット係数Wj f D(m, n)のピーク値に対するフィルムカメラのぼけモデルのウェーブレット係数のピーク値Wj f F(m, n)の比Rjを数7より得る。
Figure 2008245033
ここで、焦点を合わせる被写体への距離aとぼかしたい背景までの距離a'に対するボケの大きさεは数8の関係にある。
Figure 2008245033
前記の数8で光学レンズの焦点距離fと口径比Fが一定であれば、被写体への距離aと、ぼかしたい背景までの距離a'に対するウェーブレット係数のピーク値Pは数9の関係にある。
Figure 2008245033
前記、数7よりRjを求めた際の焦点を合わせた箇所への被写体距離a及びボケのデータを得た箇所までの背景距離a'に対する実際の撮影時の被写体距離arと背景距離ar'との比から制御係数を決定するための距離による補正係数βを数10により得る。
Figure 2008245033
数7と数10より得られたRjとβから制御係数Cjは数11により求めることができる。
Figure 2008245033
(2次元離散2進逆ウェーブレット変換部4)
図1の2次元離散2進逆ウェーブレット変換部4は、例として、図3に示すフィルタバンクにより構成することができる。実際の計算では、次に述べる数12、数13、数14、数15、数16、数17、数18を用いた計算により、表3のフィルタ係数を用いて行うことができる。
Figure 2008245033
スケールjの水平方向ウェーブレット係数WH j f(m, n)に対して水平方向に表3に示すフィルタK(i)を用いて数12の計算による畳み込みの後、垂直方向に表3に示すフィルタL(i) を用いて数13の計算によるを畳み込みと表2に示す係数λによる乗算の結果WH” j-1 f(m, n)を得る。
Figure 2008245033
Figure 2008245033
スケールjの垂直方向ウェーブレット係数WV j f(m, n)に対して水平方向に表3に示すフィルタL(i)を用いて数14の計算による畳み込みの後、垂直方向に表3に示すフィルタK(i) を用いて数15の計算による畳み込みと表2に示す係数λによる乗算の結果WV” j-1 f(m, n)を得る。
Figure 2008245033
Figure 2008245033
スケールjの平滑化成分Sj f(m, n)に対して水平方向に表3に示すフィルタHC(i)を用いて数16の計算による畳み込みの後、垂直方向に表3に示すフィルタHC(i)を用いて数17の計算による畳み込みによる乗算の結果S j-1 f(m, n)を得る。
Figure 2008245033
Figure 2008245033
前記の数13,数15、数17の計算により得られた2次元データWH” j-1 f(m, n)、WV” j-1 f(m, n)、S j-1 f(m, n)を用いて数18の計算により、次のスケールj-1の平滑化成分Sj-1 f(m, n)が得られる。
Figure 2008245033
図1の制御系数乗算部3による乗算の後、前記の数12、数13、数14、数15、数16、数17、数18の計算を、最大スケールJの水平方向ウェーブレット係数WH J f(m, n)、垂直方向ウェーブレット係数WV J f(m, n)及び平滑化成分SJ f(m, n)から順次スケールjをJ・・2, 1, 0と下げながら繰り返し、得られたスケールj=0の平滑化成分S0 f(m, n)が図1に示す画像処理装置の最終的な出力画像データf' (m,n)となる。
制御係数設定乗算部3で、カメラの自動焦点部等から得られる被写体距離データに基づき、制御係数Cjを自動的に決定して図5(a)、図6(a)の画像を処理した例を次に示す。ここで、実験に用いたディジタルカメラとフィルムカメラのレンズの画角は同等であり、ディジタルカメラの撮像素子のサイズと焦点距離はフィルムカメラの約5分の1である。実験ではディジタルカメラとフィルムカメラで撮影された画像のサイズを256×256画素として、1画素のデータは8ビットで輝度値は0から255の範囲で表現される画像データとした。
まず、光学ぼけのモデルとなるガウス関数の形状を決定する標準偏差Sは、図4(a)、(b)のサンプル画像を用いて求めた。入力画像データとして使用が想定されるディジタルカメラによる図4(a)の画像と、目標とする画像を出力するフィルムカメラにより同一条件で撮影された図4(b)の画像内で焦点の合っていない左から3番目の縦の目地の箇所の図4(c)に示す輝度情報を抽出して図4(c)のデータが得られた。このデータから得られたディジタルカメラ画像の標準偏差SD=1.0、フィルムカメラ画像の標準偏差SF=1.4であった。これらのぼけ画像データの標準偏差から、光学的ぼけによるエネルギー和不変の原理に基づき、最大値の比を求め、ぼけのモデルデータを作成した。これらのモデルデータを入力データとした離散2進ウェーブレット変換によるディジタルカメラのぼけモデルのウェーブレット係数Wj f D(m, n)のピーク値、フィルムカメラのぼけモデルのウェーブレット係数のピーク値Wj f F(m, n)及び、数7の計算によるこれらの値の比Rjを表4に示す。
Figure 2008245033
次に、ぼけのモデル作成に用いた図4(a)の撮影距離と処理対象となる図5(a)、図6(a)の画像の撮影距離及び、数10から得られた補正係数βを表5に示す。
Figure 2008245033
ディジタルカメラで撮影された図5(a)の画像データを図1に示す画像処理装置に入力して、2次元離散2進ウェーブレット変換部1でスケールj=1から3までのウェーブレット変換を実施した。しきい値設定部2ではしきい値をth=50に設定した。制御係数設定乗算部3では各スケールの制御係数を表4よりC1=0.63、C2=0.68、C3=0.86として乗算を行い、2次元離散2進逆ウェーブレット変換部4により出力画像データ図5(c)が得られた。得られた出力画像データは、フィルムカメラにより撮影された図5(b)の画像データを近似している。
ディジタルカメラで撮影された図6(a)の画像データについては、表4のRjと表5から計算された補正係数β=0.25によって、数11の計算から制御係数C1=0.16, C2=0.17, C3=0.22 が得られた。これらの制御係数により、ディジタルカメラで撮影された図6(a)の画像を処理した出力画像データを図6(c)に示す。図6(a)の入力画像では主要な被写体である花以外の背景のぼけが小さいが、図6(c)の画像処理による出力画像では花のピントは保持されたまま背景を大きくぼかしている。また、図6(a)の入力画像では僅かにぼけている花の葉も図6(c)の出力画像では容易に葉のぼけを確認でき、同じ場所からフィルムカメラにより撮影された図6(b)の画像を近似している。
制御係数設定乗算部3において制御係数Cjを手動設定した画像処理の例を示す。例として制御係数を手動設定によりC1=0.2,C2=0.4,C3=0.8とした図1の画像処理装置に図6(a)の画像を入力して出力された画像データを図6(d)に示す。
以上の実施例1と実施例2の結果から、本発明によると、出力画像データのぼけの大きさは入力画像データのぼけの大きさに比例するため、被写界深度の浅いカメラで撮影した写真と同様の自然なぼけ方の画像データを出力することができるという特徴が確認できる。また、レンズから被写体までの距離とレンズから背景までの距離データが得られれば、使用者が制御係数を設定しなくとも、フィルムカメラと同程度の被写界深度の画像データを出力可能であることが確認できる。
本発明の画像処理方法をコンピュータのプログラムとして用いれば、小さな撮像素子を持つコンパクトなディジタルカメラやカメラ付携帯電話等で撮影を行い、撮影した画像データをコンピュータの画像処理プログラムにより処理すれば、使用者の希望する程度、あるいはフィルムカメラで撮影した写真と同程度の被写界深度の画像をプリンタに出力することができる。
本発明の画像処理方法を用いたプログラムを小さな撮像素子を持つコンパクトなディジタルカメラやカメラ付携帯電話等の本体に組み込めば、ディジタルカメラや携帯電話で撮影を行い、被写体距離データをカメラに組み込まれた自動焦点のための測距部等から得ることにより、使用者が制御係数を設定しなくとも、自動的に画像の被写界深度が制御され、フィルムカメラで撮影した写真と同程度の被写界深度の画像を直接プリンタに出力することができる。
画像処理装置の構成図である。 2次元離散2進ウェーブレット変換を実現するフィルタバンクの構成図である。 2次元離散2進逆ウェーブレット変換を実現するフィルタバンクの構成図である。 制御係数を自動的に求めるために使用したサンプル画像の図である。 自動的に求めた制御係数により画像処理を行った実施例を示す図である。 サンプル画像と撮影距離の異なる画像の処理を行った実施例を示す図である。
符号の説明
1 2次元離散2進ウェーブレット変換部
2 しきい値設定部
3 制御係数設定乗算部
4 2次元離散2進逆ウェーブレット変換部

Claims (6)

  1. 入力画像データの2次元離散2進ウェーブレット変換部と、前記2次元離散2進ウェーブレット変換部により出力される多重スケールの2次元ウェーブレット係数の内、最小スケールの2次元ウェーブレット係数に対するしきい値設定部と、前記しきい値設定部で設定したしきい値未満の座標について各スケールの2次元ウェーブレット係数に制御係数の乗算を行う制御係数設定乗算部と、前記制御係数設定部により制御係数を乗じた各スケールの2次元ウェーブレット係数から画像データを出力する2次元離散2進逆ウェーブレット変換部を備え、入力画像データにおいて焦点の合っている座標のピントは保持しながら、入力画像データより被写界深度の浅い画像データを出力する画像処理装置。
  2. 前記しきい値設定部及び前記制御係数設定乗算部は、使用者が任意のしきい値と制御係数を入力できる機能を備え、出力画像を確認できる表示部を備えることにより、しきい値と制御係数を調整して使用者が想定する被写界深度の画像を出力する請求項1に記載の画像処理装置。
  3. 前記制御係数設定乗算部は、使用者が想定するレンズの焦点距離に応じた被写界深度の画像を出力するために、被写体距離と背景距離から制御係数を自動的に調整する計算機能を備える請求項1に記載の画像処理装置。
  4. 入力画像データの2次元離散2進ウェーブレット変換を行い、得られた2次元ウェーブレット係数の内、最小スケールの2次元ウェーブレット係数に対して使用者が設定したしきい値に満たない座標を特定すること、前記しきい値に満たない座標の各スケールのウェーブレット係数に使用者が設定した制御係数を乗じること、前記制御係数を乗じた各スケールのウェーブレット係数から2次元離散2進逆ウェーブレット変換により画像データを出力することを含み、入力画像データの焦点の合っている座標のピントは保持しながら、入力画像データより被写界深度の浅い画像データを出力する画像処理方法。
  5. 処理部は、記憶部又は入力部から入力画像データを読み取るステップと、処理部は、入力画像データの2次元離散2進ウェーブレット変換を行い、得られた2次元ウェーブレット係数の内、最小スケールの2次元ウェーブレット係数に対して使用者が設定したしきい値に満たない座標を特定するステップと、処理部は、前記しきい値に満たない座標の各スケールのウェーブレット係数に使用者が設定した制御係数を乗じるステップと、処理部は、前記制御係数を乗じた各スケールのウェーブレット係数から2次元離散2進逆ウェーブレット変換により画像データを出力するステップと、処理部は、得られた出力画像データを記憶部に記憶及び/又は出力部若しくは表示部に出力するステップをコンピュータに実行させるための入力画像データにおいて焦点の合っている座標のピントは保持しながら、入力画像データより被写界深度の浅い画像データを出力する画像処理プログラム。
  6. 処理部は、記憶部又は入力部から入力画像データを読み取るステップと、処理部は、入力画像データの2次元離散2進ウェーブレット変換を行い、得られた2次元ウェーブレット係数の内、最小スケールの2次元ウェーブレット係数に対して使用者が設定したしきい値に満たない座標を特定するステップと、処理部は、前記しきい値に満たない座標の各スケールのウェーブレット係数に使用者が設定した制御係数を乗じるステップと、処理部は、前記制御係数を乗じた各スケールのウェーブレット係数から2次元離散2進逆ウェーブレット変換により画像データを出力するステップと、処理部は、得られた出力画像データを記憶部に記憶及び/又は出力部若しくは表示部に出力するステップをコンピュータに実行させるための入力画像データにおいて焦点の合っている座標のピントは保持しながら、入力画像データより被写界深度の浅い画像データを出力する画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2007084630A 2007-03-28 2007-03-28 被写界深度制御方法、画像処理装置及びプログラムと記録媒体 Pending JP2008245033A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007084630A JP2008245033A (ja) 2007-03-28 2007-03-28 被写界深度制御方法、画像処理装置及びプログラムと記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007084630A JP2008245033A (ja) 2007-03-28 2007-03-28 被写界深度制御方法、画像処理装置及びプログラムと記録媒体

Publications (1)

Publication Number Publication Date
JP2008245033A true JP2008245033A (ja) 2008-10-09

Family

ID=39915791

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007084630A Pending JP2008245033A (ja) 2007-03-28 2007-03-28 被写界深度制御方法、画像処理装置及びプログラムと記録媒体

Country Status (1)

Country Link
JP (1) JP2008245033A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8587671B2 (en) 2010-02-01 2013-11-19 Samsung Electronics Co., Ltd. Digital image processing apparatus, an image processing method, and a recording medium storing the image processing method for obtaining an out-of-focus image by using a plurality of images
JP2014206843A (ja) * 2013-04-12 2014-10-30 株式会社メガチップス 画像処理装置および画像処理方法
JP2019208090A (ja) * 2018-05-28 2019-12-05 日本放送協会 映像符号化装置、映像復号装置及びプログラム

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0481176A (ja) * 1990-07-24 1992-03-13 Ricoh Co Ltd 電子スチルカメラ
JPH1074192A (ja) * 1996-08-30 1998-03-17 Mitsubishi Electric Corp 画像処理方法およびその装置
JP2002216126A (ja) * 2000-11-09 2002-08-02 Canon Inc 画像処理装置、及びその方法、並びにプログラム、記憶媒体
JP2002374419A (ja) * 2001-06-15 2002-12-26 Canon Inc 画像処理装置、画像処理方法、記録媒体およびプログラム
JP2003283902A (ja) * 2002-03-26 2003-10-03 Fuji Photo Film Co Ltd デジタルスチルカメラおよび画像処理装置
JP2004072655A (ja) * 2002-08-09 2004-03-04 Ricoh Co Ltd Roi領域設定装置、電子カメラ装置、roi領域設定方法、プログラム、記録媒体
JP2004112255A (ja) * 2002-09-18 2004-04-08 Ricoh Co Ltd 画像読取装置、画像形成装置、プログラム及び記憶媒体
JP2004312097A (ja) * 2003-04-02 2004-11-04 Sanyo Electric Co Ltd ディジタルカメラ
JP2005017637A (ja) * 2003-06-25 2005-01-20 Nikon Corp ボケ効果可変カメラ
JP2006074130A (ja) * 2004-08-31 2006-03-16 Sanyo Electric Co Ltd 画像復号方法、画像復号装置および撮像装置
JP2006295299A (ja) * 2005-04-06 2006-10-26 Megachips Lsi Solutions Inc デジタル絞りシステム

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0481176A (ja) * 1990-07-24 1992-03-13 Ricoh Co Ltd 電子スチルカメラ
JPH1074192A (ja) * 1996-08-30 1998-03-17 Mitsubishi Electric Corp 画像処理方法およびその装置
JP2002216126A (ja) * 2000-11-09 2002-08-02 Canon Inc 画像処理装置、及びその方法、並びにプログラム、記憶媒体
JP2002374419A (ja) * 2001-06-15 2002-12-26 Canon Inc 画像処理装置、画像処理方法、記録媒体およびプログラム
JP2003283902A (ja) * 2002-03-26 2003-10-03 Fuji Photo Film Co Ltd デジタルスチルカメラおよび画像処理装置
JP2004072655A (ja) * 2002-08-09 2004-03-04 Ricoh Co Ltd Roi領域設定装置、電子カメラ装置、roi領域設定方法、プログラム、記録媒体
JP2004112255A (ja) * 2002-09-18 2004-04-08 Ricoh Co Ltd 画像読取装置、画像形成装置、プログラム及び記憶媒体
JP2004312097A (ja) * 2003-04-02 2004-11-04 Sanyo Electric Co Ltd ディジタルカメラ
JP2005017637A (ja) * 2003-06-25 2005-01-20 Nikon Corp ボケ効果可変カメラ
JP2006074130A (ja) * 2004-08-31 2006-03-16 Sanyo Electric Co Ltd 画像復号方法、画像復号装置および撮像装置
JP2006295299A (ja) * 2005-04-06 2006-10-26 Megachips Lsi Solutions Inc デジタル絞りシステム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8587671B2 (en) 2010-02-01 2013-11-19 Samsung Electronics Co., Ltd. Digital image processing apparatus, an image processing method, and a recording medium storing the image processing method for obtaining an out-of-focus image by using a plurality of images
JP2014206843A (ja) * 2013-04-12 2014-10-30 株式会社メガチップス 画像処理装置および画像処理方法
US9747669B2 (en) 2013-04-12 2017-08-29 Megachips Corporation Image processing apparatus and image processing method
JP2019208090A (ja) * 2018-05-28 2019-12-05 日本放送協会 映像符号化装置、映像復号装置及びプログラム
JP7132749B2 (ja) 2018-05-28 2022-09-07 日本放送協会 映像符号化装置及びプログラム

Similar Documents

Publication Publication Date Title
JP6027159B2 (ja) 画像ぼかし方法および機器、および電子装置
JP7003238B2 (ja) 画像処理方法、装置、及び、デバイス
JP4585456B2 (ja) ボケ変換装置
US8649628B2 (en) Adaptive PSF estimation technique using a sharp preview and a blurred image
US9071754B2 (en) Image capturing apparatus, image processing apparatus, image processing method, and image processing program
Zhang et al. Gradient-directed multiexposure composition
US9344636B2 (en) Scene motion correction in fused image systems
JP6347675B2 (ja) 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム
Šindelář et al. Image deblurring in smartphone devices using built-in inertial measurement sensors
EP2526528A2 (en) Blur function modeling for depth of field rendering
WO2023030139A1 (zh) 图像融合方法、电子设备和存储介质
JP4958806B2 (ja) ぶれ検出装置、ぶれ補正装置及び撮像装置
WO2016160093A1 (en) Depth estimation from image defocus using multiple resolution gaussian difference
Wang et al. Blurred image restoration using knife-edge function and optimal window Wiener filtering
JP2008245033A (ja) 被写界深度制御方法、画像処理装置及びプログラムと記録媒体
JP2015087870A (ja) 画像処理装置、画像処理方法及びプログラム
Salahieh et al. Single-image full-focus reconstruction using depth-based deconvolution
EP1522961A2 (en) Deconvolution of a digital image
JP2020086216A (ja) 撮像制御装置、撮像装置及び撮像制御プログラム
JP7143191B2 (ja) 画像処理装置
Buades et al. Efficient joint noise removal and multi exposure fusion
KR20150032764A (ko) 인위적으로 디포커스된 블러 이미지를 생성하는 방법 및 이미지 캡쳐링 디바이스
Yitzhaky et al. Restoration of depth-based space-variant blurred images
JP2016035636A (ja) 画像処理装置、画像処理方法及びプログラム
CN115170581A (zh) 人像分割模型的生成方法、人像分割模型及人像分割方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100108

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110602

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110610

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110823

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120203