JP2012065114A - 撮像装置、撮像方法及びプログラム - Google Patents

撮像装置、撮像方法及びプログラム Download PDF

Info

Publication number
JP2012065114A
JP2012065114A JP2010207123A JP2010207123A JP2012065114A JP 2012065114 A JP2012065114 A JP 2012065114A JP 2010207123 A JP2010207123 A JP 2010207123A JP 2010207123 A JP2010207123 A JP 2010207123A JP 2012065114 A JP2012065114 A JP 2012065114A
Authority
JP
Japan
Prior art keywords
defocus
unit
setting
image signal
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2010207123A
Other languages
English (en)
Inventor
Asako Seki
麻子 関
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2010207123A priority Critical patent/JP2012065114A/ja
Publication of JP2012065114A publication Critical patent/JP2012065114A/ja
Withdrawn legal-status Critical Current

Links

Images

Abstract

【課題】位置合わせや合成等の処理時間を抑えることができ、且つ、アーティファクトを発生させずに、被写界深度を拡大できるようにすること。
【解決手段】設定部3にて、デフォーカス位置を複数設定し、フィルタ設計部4にて、その設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計する。そして、フィルタ処理部5にて、その設計した各デフォーカス位置におけるフィルタを用いて、画像撮像部1で取得した1枚の画像信号に対してフィルタ処理を行ない、画像取得部6にて、その各デフォーカス位置のフィルタ処理後の画像信号を取得する。
【選択図】図1

Description

本発明は、画像信号を取得する撮像装置及び撮像方法、並びに、コンピュータにそのような撮像装置の手順を実行させるプログラムに関する。
従来、近距離から遠距離までピントの合った被写界深度の深い画像信号を得るために、例えば、異なる焦点距離で撮像した画像信号を複数枚合成するといった被写界深度拡大処理が行なわれている。しかし、この被写界深度拡大処理では、複数枚の画像信号の位置合わせ処理や合成処理等での処理時間がかかっていた。
そこで、例えば、特許文献1においては、Rの画像情報をFFT演算部の実数部、Bの画像情報をFFT演算部の虚数部、Bの画像情報をFFT演算部の実数部、その虚数部には0を入力して演算を行なうことで、処理時間を短縮化を図っている。
特開2002−64741号公報
しかしながら、上記特許文献1に開示されている手法を採ったとしても、処理時間の短縮化は不十分であるため、動画等のリアルタイム性を要するものには適さないという問題があった。
また、複雑な手ブレが発生している場合や被写体が動いている場合等においては、正しい位置合わせ処理が行なわれず、アーティファクトが発生するという問題があった。
本発明は、上記の点に鑑みてなされたもので、位置合わせや合成等の処理時間を抑えることができ、且つ、アーティファクトを発生させずに、被写界深度を拡大できるようにすることを目的とする。
本発明の撮像装置の一態様は、
画像信号を取得する撮像手段と、
デフォーカス位置を複数設定する設定手段と、
上記設定手段で設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計するフィルタ設計手段と、
上記撮像手段で取得した1枚の画像信号に対して、上記フィルタ設計手段で設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行なうフィルタ処理手段と、
上記フィルタ処理手段による各デフォーカス位置のフィルタ処理後の画像信号を取得する取得手段と、
前記取得手段により取得された複数の画像信号を連続的に表示するよう制御する表示制御手段と、
を備えたことを特徴とする。
また、本発明の撮像方法の一態様は、
画像信号を取得し、
デフォーカス位置を複数設定し、
上記設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計し、
上記取得した1枚の画像信号に対して、上記設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行ない、
上記各デフォーカス位置のフィルタ処理後の画像信号を取得し、
取得された複数の画像信号を連続的に表示するよう制御する、
ことを特徴とする。
また、本発明のプログラムの一態様は、画像信号を取得する撮像装置のコンピュータを制御するためのプログラムであって、
上記コンピュータを、
画像撮像部に画像信号を取得させる撮像手段、
デフォーカス位置を複数設定する設定手段、
上記設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計するフィルタ設計手段、
上記画像撮像部で取得した1枚の画像信号に対して、上記設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行なうフィルタ処理手段、
上記各デフォーカス位置のフィルタ処理後の画像信号を取得する取得手段、
取得された複数の画像信号を連続的に表示するよう制御する表示制御手段、
として機能させることを特徴とする。
本発明によれば、切り換え表示することで位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらし得る、それぞれ異なる深度をボケ回復した複数枚の画像信号が1回の撮像で得られる。
図1は、本発明の一実施形態に係る撮像装置の構成を示す図である。 図2は、フィルタ処理とコントラストの関係を説明するための図である。 図3は、取得した複数枚の画像信号の表示順序を説明するための図である。 図4は、図1中の設定部の構成を示す図である。 図5は、被写体の位置に基づくデフォーカス位置の設定方法を説明するための図である。 図6は、図1中のフィルタ設計部の構成を示す図である。 図7は、フィルタ設計手順を説明するための図である。 図8は、本発明の一実施形態に係るプログラムのフローチャートを示す図である。
以下、本発明を実施するための形態を図面を参照して説明する。
図1に示すように、本発明の一実施形態に係る撮像装置は、画像処理を行う画像処理システム100と画像を表示する表示部10を備えている。
画像システム100は、画像撮像部1と、A/D変換等を行う前処理部2と、複数のデフォーカス位置を設定する設定部3と、複数のフィルタを設計するフィルタ設計部4と、フィルタ設計部にて設計された封数のフィルタの処理を行うフィルタ処理部5と、フィルタ処理後の画像信号を得る画像取得部6と、複数画像の表示の制御を行う表示制御部7と、外部I/F部8と、及び制御部9を備えている。
上記画像撮像部1は、絞りを含むレンズ系11と、このレンズ系11が結像する光学的な被写体像を光電変換して電気的な画像信号を生成する撮像系12を含む。
上記フィルタ処理部5は、フィルタ処理実行部51、コントラスト算出部52、及び判断部53を含む。
画像撮像部1の撮像系12は、前処理部2へ接続している。前処理部2は、設定部3、フィルタ処理部5内のフィルタ処理実行部51、及び画像取得部6へ接続している。設定部3は、フィルタ設計部4へ接続している。フィルタ設計部4は、画像撮像部1から接続されており、フィルタ処理部5内のフィルタ処理実行部51へ接続している。フィルタ処理実行部51は、同じくフィルタ処理部5内のコントラスト算出部52及び画像取得部6へ接続している。コントラスト算出部52は、同じくフィルタ処理部5内の判断部53へ接続している。判断部53は、画像取得部6へ接続している。画像取得部6は、表示制御部7に接続している。表示部10は、表示制御部7に接続されている。前処理部2、設定部3、フィルタ設計部4、表示制御部7及び外部I/F部8は、制御部9に双方向へ接続されている。
このような撮像装置では、レンズ系11は、撮像系12に像を結像させる。撮像系12は、画像信号を取得し、前処理部2に転送する。前処理部2は、取得された画像信号をA/D変換等の処理をした後、設定部3に転送する。この前処理部2は、図示はしていないが、変換した画像信号を保持するフレームメモリを有している。
設定部3は、上記前処理部2のフレームメモリに保持されている変換された画像信号から、ボケ量を表す点像広がり関数(PSF)を取得する複数のデフォーカス位置とその数を設定する。フィルタ設計部4は、上記画像撮像部1より得られる絞り値と、設定部3にて取得した複数のデフォーカス位置とに基づいて各デフォーカス位置でのPSFを算出し、複数のフィルタを設計する。フィルタ設計部4はこれら複数のフィルタをフィルタ処理部5内のフィルタ処理実行部51に転送する。
フィルタ処理部5内のフィルタ処理実行部51は、上記前処理部2のフレームメモリに保持されている変換された画像信号に対して、上記設計された複数のフィルタのそれぞれをかけ、複数枚のフィルタ処理後の画像信号を得る。フィルタ処理実行部51は、結果的にフィルタの数だけフィルタ処理後の画像信号を得る。フィルタ処理実行部51は、フィルタ処理後の複数枚の画像信号をコントラスト算出部52に転送する。コントラスト算出部52は、フィルタ処理実行部51で得られたフィルタ処理後の各画像信号のコントラストを算出し、判断部53に転送する。判断部53は、コントラスト算出部52で算出されたコントラストが所定以上であるか否かを画素ごとに判断する。
判断部53でコントラストが所定値以上であると判断された画素は、フィルタ処理前の画素値を用いる。即ち、図2において、左側のデフォーカス位置から取得したPSFより生成したフィルタは、同デフォーカス位置のPSFに対しては適正にボケ回復することができるが、中央の最もボケ径が小さいデフォーカス位置から得られたPSFに対しては過剰補正となり、右側のボケ径が左側のものよりも大きいデフォーカス位置から得られたPSFに対しては補正不足となる。表示部10にて画像信号を表示する際、その中に過剰補正されたものが混ざると、過剰補正部分が目立ち、表示画像の品位を著しく損ねてしまう。従って、過剰補正とされた画素については、フィルタ処理後の画素値は用いずに、フィルタ処理前の画素値を用いることが望ましい。一方、補正不足の場合には、適正に補正されている画像信号の方が補正不足の画像信号よりも目を引き、表示画像の品位には影響しないため、そのまま用いて良い。過剰補正の画素は適正や補正不足の画素に比べてコントラストが高くなる傾向があるため、判断部53にてコントラストが所定以上の値を持つか否かを判断し、その判断結果に従って、画像取得部6は、コントラストが所定以上の値を持つ場合は前処理部2のフレームメモリに保持されているフィルタ処理前の画素値を取得し、コントラストが所定以下の値を持つ場合はフィルタ処理実行部51からのフィルタ処理後の画素値を用いるようにして、複数枚の画像信号を取得し、図示しない内部メモリに保存する。
表示制御部7は、フレームレートをそのデフォーカス位置の数に応じて制御する。表示制御部7は、得られた複数枚の画像信号が連続的に表示されるよう制御する。表示制御部7は、静止画像の場合、得られた複数枚の画像信号を動画像のように一定のフレームレートで連続的に表示するよう制御する。一方、動画像の場合、元の動画像の1フレームに対して静止画と同様の処理を施すため、静止画像に比べて更に高いフレームレートが必要となる。表示制御部7は、設定部3から転送されたデフォーカス位置の数を基に表示部10での表示フレームレートを制御する。一般的に、表示制御部7は、焦点距離の数に比例してフレームレートは高くなるようにフレームレートを設定する。
フレームレートを高くすることによって、異なる深度のボケ回復を行った複数の画像信号が深度全体でボケ回復された1枚の画像として見ることができる。
なお、表示部10での複数枚の画像信号の切り換え表示方法は、動画像の場合、画像信号の取得を行ないながら表示するため、図2の(1)で示されているように、取得順(時系列)に沿って繰り返し表示させる、もしくは、図2の(2)のように、最新の画像信号まで順方向の取得順に表示後、時間を遡って、つまり逆方向の取得順に表示させる、などの順序がある。静止画の場合、上記の方法以外にも、取得後に取得順とは異なるランダムの並び順で表示させても良い。
このように、取得した複数のデフォーカス位置でのPSFから設計したフィルタを、取得した1枚の画像信号にかけ、複数枚のフィルタ処理後の画像信号を取得することで、それぞれ異なる深度をボケ回復した複数枚の画像信号が得られる。そして、それら複数枚の画像信号を高速に切り換え表示すると、人間の目には、近距離から遠距離までピントの合った被写界深度の深い画像信号として認識される。従って、複数枚の画像信号に対して、位置合わせや合成等の処理を行うことなく被写界深度の深い画像信号を得ることができるので、位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらすことができる。しかも、取得自体は1回のみで良い。
以下、図1の撮像装置における各部の詳細を説明する。
図4は、設定部3の構成の一例を示す図である。この設定部3は、PSFを取得する複数のデフォーカス位置を決定する機能を有しており、被写体認識部31及びデフォーカス設定部32から成る。また、デフォーカス設定部32は、デフォーカス位置設定部321、デフォーカス数設定部322、被写体深度算出部323、距離算出部324、比較部325、算出部326、及び目標深度設定部327から成る。
上記前処理部2は、被写体認識部31へ接続している。被写体認識部31は、デフォーカス位置設定部321、デフォーカス数設定部322、被写体深度算出部323、及び距離算出部324と接続している。被写体深度算出部323及び距離算出部324は、比較部325と接続し、比較部325は、算出部326と接続している。また、算出部326は、デフォーカス位置設定部321、デフォーカス数設定部322、目標深度設定部327、及び上記制御部9に双方向へ接続している。目標深度設定部327は、比較部325及び上記制御部9に双方向へ接続している。そして、デフォーカス位置設定部321及びデフォーカス数設定部322は、上記フィルタ設計部4に双方向へ接続している。
このような設定部3では、まず、被写体認識部31にて、上記前処理部2のフレームメモリに保持されている画像信号から被写体が認識される。ここでの被写体認識は、公知の顔認識や物体認識等、何でも良い。そして、デフォーカス設定部32において、上記被写体認識部31による被写体の認識結果を用いて、デフォーカス位置設定部321にて、画像信号を取得するデフォーカス位置を決定すると共に、デフォーカス数設定部322にて、画像信号を取得するデフォーカス位置の数を決定する。例えば、被写体認識部31にて3つの被写体が認識された場合には、デフォーカス位置設定部321は、図5(A)に示すように画像信号を取得するデフォーカス位置としてf,f,fを決定し、デフォーカス数設定部322は、デフォーカス位置の数を「3」と決定する。フィルタ設計部4は、この決定した各デフォーカス位置とその数に基づいてフィルタを設計することとなる。
図5(A)に示すように被写体が多くある場合、デフォーカス位置とその数は被写体認識部31にて認識した被写体の位置とその数として設定すれば良い。しかしながら、このような認識した被写体位置と数のみに基づく単純な制御だけでは不十分な場合がある。例えば、図5(B)に示すような光軸方向に複数の被写体が離れて(デフォーカス位置f,f)存在する場合には、被写体間にボケが観察されてしまうこととなる。逆に、被写体が一つ、或いは図5(C)に示すように、光軸方向に複数の被写体が近接して存在する場合には、複数の被写体のデフォーカス位置f,fでの回復処理を行なっても被写界深度拡大の効果をもたらすことができない。
そこで、図5(B)に示すような各被写体間にボケが観察されてしまうような場合には、被写体間の任意の位置にデフォーカス位置を設定するようにしても良い。本実施形態では、そのために、上記被写体認識部31による被写体の認識結果を用いて、被写体深度算出部323にて、各被写体位置での被写界深度を算出すると共に、距離算出部324にて、各被写体のデフォーカス位置を算出して、各被写体間のデフォーカス位置差を算出する。そして、比較部325にて、それら算出した各被写界深度とデフォーカス位置差とを比較することで、各被写体間にボケが観察されることとなるか否かを確認する。即ち、各被写体間にボケが観察されるか否かを判定する際の条件式の一例として以下の(1)式を採用する。もちろん、他の条件式を用いるものとし、その条件式に必要なパラメータを取得するように、該設定部3を構成しても構わない。
|fi+1−f|<d …(1)
但し、上記(1)式において、fは任意の設定したデフォーカス位置であり、dは被写体深度算出部323で得られる各被写体位置の被写界深度から算出するある所定の目標被写界深度である。
ここで、各被写体間にボケが観察されると判定された場合には、算出部326にて、上記(1)式を満たすように、被写体位置に設定したデフォーカス位置f,fの他に、上記(1)式を満たさない被写体間に新たなデフォーカス位置fを算出して、上記デフォーカス位置設定部321にその算出した新たなデフォーカス位置fを設定し、デフォーカス数設定部322にも新たなデフォーカス位置の数を設定する。
また、被写体が一つ又は図5(C)に示すような光軸方向に複数の被写体が近接して存在するような場合には、該撮像装置に対して被写体よりも近い或いは遠い位置にデフォーカス位置を新たに設定しても良い。本実施形態では、そのために、距離算出部324にて、各デフォーカス位置間の最大値を算出する。そして、比較部325にて、距離算出部324で算出した各デフォーカス位置間の最大値と所定の目標被写界深度とを比較することで、各デフォーカス位置間の最大値が目標被写界深度を満たすか否かを確認する。この確認のための条件式の一例として以下の(2)式を採用する。もちろん、他の条件式を用いるものとし、その条件式に必要なパラメータを取得するように、該設定部3を構成しても構わない。
|fmax−fmin|>d’ …(2)
但し、上記(2)式において、fmaxは設定したデフォーカス位置の中で該撮像装置に対して最も遠いものを表し、初期値はxmaxであり、fminは設定したデフォーカス位置の中で該撮像装置に対して最も近いものを表し、初期値はxminである。初期値であるxmaxは被写体までの距離で該撮像装置から最も遠いもの、xminは被写体までの距離で該撮像装置から最も近いものを意味する。どちらの値も、距離算出部324にて得られる。この被写体の距離取得の方法は、センサ等、何でも良い。また、d’は目標被写界深度であり、その値は、被写体深度算出部323で得られる各被写体位置の被写界深度から算出するある所定の深度とする。この目標被写界深度d’は、各被写体位置の被写界深度の最大値、最小値、平均値などが考えられる。どれを用いるかは事前に決定する必要がある。
ここで、各デフォーカス位置間の最大値が目標被写界深度に満たないと判定された場合には、算出部326にて、目標被写界深度を満たすように、被写体位置に設定したデフォーカス位置f,fの他に新たなデフォーカス位置、図5(C)の例ではf,fを算出して、上記デフォーカス位置設定部321にその算出した新たなデフォーカス位置f,fを設定し、デフォーカス数設定部322にも新たなデフォーカス位置の数を設定する。なお、通常、この新たに設定するデフォーカス位置は、fminよりも撮像装置に近い、或いはfmaxよりも撮像装置に遠い、或いはその両方に設定される。そして、上記(2)式を満たすようにデフォーカス位置を配置する必要がある。この場合、被写体の数と設定されたデフォーカス位置の数は一致しない。この際のデフォーカス位置及びその数は予め設定しておくか、制御部9を介して設定する等の方法が考えられる。また、この各被写体間は、各被写体位置でもたらされる被写界深度によって深度内と保障され、その合計が目標被写界深度に達することがここでの条件となるが、各被写体位置でもたらされる被写界深度の間にボケが認識されない程度の隙間があっても良い。
このように、上記(2)式によって被写体認識部31にて認識した被写体位置のみによって目標被写界深度あるいは深度拡大効果をもたらすかを確認することができ、確認できないのであれば新たにデフォーカス位置を設定することで、各被写体位置での回復処理を行なっても深度拡大とならない場合においても、被写界深度拡大効果をもたらすことができる。
また、上記目標被写界深度d’は、当該撮像装置に予め設定された値、或いはユーザが任意に設定する値としても良い。この場合には、制御部9を介して目標深度設定部327にて目標被写界深度が設定される。そして、比較部325にて、距離算出部324で算出した各デフォーカス位置間の最大値と目標深度設定部327に設定された目標被写界深度d’とを比較することで、各デフォーカス位置間の最大値が目標被写界深度d’を満たすか否かを確認することとなる。このように目標被写界深度d’が設定されている場合、図5(D)に示すように、目標被写界深度d’(焦点距離D〜焦点距離D)を満たすように、且つ、上記(2)式を満たすように、被写体よりも撮像装置に近い或いは遠い位置にデフォーカス位置f,f,f,fを新たに配置する必要がある。
また、被写体情報を用いずにデフォーカス位置を設定する方法もある。
例えば、目標深度設定部327より転送される目標被写界深度d’を所定内の間隔で区切ってデフォーカス位置及びその数を設定する。この所定の値は、予め設定しておくか、制御部9を介して外部I/F部8より設定しても良い。この間隔は、広すぎると後に行なうデフォーカス範囲の設定を行なえない。
このように導出したデフォーカス位置及びその数は、フィルタ設計部4へ転送される。この方法では、PSFを取得するデフォーカス位置を被写体の有無及びその位置に寄らず設定している。従って、この場合、被写体がない画像信号や1つの大きな被写体の写った画像信号などに効果的である。またこの場合、被写体認識部31、被写体深度算出部323、距離算出部324、及び比較部325は不要となる。
図6は、フィルタ設計部4の構成の一例を示す図である。このフィルタ設計部4は、設定部3にて設定された各デフォーカス位置でのPSFからフィルタを生成する機能を有しており、絞り値検出部41、算出部42、類似度算出部43、閾値設定部44、比較部45、抽出部46、範囲設定部47、代表PSF設定部48、設定部49、及びフィルタ生成部410から成る。
上記画像撮像部1は、絞り値検出部41に接続しており、絞り値検出部41は、算出部42へ接続している。算出部42は、上記設定部3から接続され、類似度算出部43及び抽出部46へ接続している。上記制御部9は、閾値設定部44へ接続している。比較部45は、類似度算出部43及び閾値設定部44から接続され、また、抽出部46へ接続している。範囲設定部47は、抽出部46から接続され、代表PSF設定部48は、抽出部46及び範囲設定部47から接続されている。範囲設定部47は、設定部49へ接続しており、フィルタ生成部410は、代表PSF設定部48及び設定部49から接続されている。フィルタ生成部410は、フィルタ処理部5へ接続している。
このような構成のフィルタ設計部4では、絞り値検出部41が、上記画像撮像部1からの情報から絞り値を算出し、算出部42にて、その算出された絞り値を用いて、設定部3にて得られた各デフォーカス位置でのPSFを決定する。そして、類似度算出部43にて、各デフォーカス位置でのPSFの類似度を算出し、比較部45にて、その算出した各PSFの類似度と外部I/F部8から制御部9を介して閾値設定部44で定められた閾値とを比較し、この比較結果を基に、抽出部46にて閾値範囲内のPSFを抽出する。なお、類似度算出部43にて算出される類似度は、平均二乗誤差や相関係数などによって求められる。平均二乗誤差の場合は値が小さいほど、相関係数の場合は絶対値が大きいほど、2つのPSFの類似度は高い。
次に、範囲設定部47にて、抽出部46がPSFを抽出したPSF類似範囲をデフォーカス範囲として設定する。そして、代表PSF設定部48にて、その設定されたデフォーカス範囲を代表するPSFを、抽出部46が抽出したPSFの中から一つ設定する。また、設定部49にて、図7に示すように、これらデフォーカス範囲の合計が上記設定部3にて定められた目標被写界深度境界D1からD2の範囲を満たすよう、各デフォーカス範囲とその数を設定する。そして、フィルタ生成部410では、各デフォーカス範囲につき1つの代表PSFを用いて、各代表PSFに相当するフィルタを作成し、それらをフィルタ処理部5に転送する。
なおこの場合、例えば図7におけるデフォーカス範囲2とデフォーカス範囲4のように、離れているデフォーカス範囲のPSFの類似度が同等と取れる場合、両デフォーカス範囲の画像信号に同じフィルタを使用しても良い。但しこの場合、両デフォーカス範囲の画像信号に対してそれぞれ同じフィルタをかける必要があり、片方のデフォーカス範囲の画像信号をもう片方の画像信号として用いることはできない。
また、上記設定部3において被写体認識を行ってデフォーカス位置を設定した場合には、PSFの類似範囲を求める処理等を行なわなくても良い。認識した被写体位置でのPSFを求め、求めたPSF分だけフィルタを生成する。このようにすることで、処理を単純化することができる。この場合、フィルタ設計部4は、絞り値検出部41、算出部42及びフィルタ生成部410のみで構成される。
なお、設定部3、フィルタ設計部4、フィルタ処理部5、及び画像取得部6は、独立したハードウェアとして構成した場合を説明したが、制御部9を構成するコンピュータが、上記設定部3、フィルタ設計部4、フィルタ処理部5、及び画像取得部6の機能を実現するソフトウェアのプログラム実行することによって、上記機能を実現することも可能である。
即ち、図8のフローチャートに示すように、まず、画像撮像部1にて取得した1枚の画像信号を前処理部2のフレームメモリより読み込み(ステップS11)、その画像信号より被写体を認識する(ステップS12)。そして、認識した各被写体の位置をデフォーカス位置として設定した後(ステップS13)、全ての被写体についてデフォーカス位置の設定が行なわれたかを判断する(ステップS14)。ここで、未だ全ての被写体に関して行なわれていない場合には、上記ステップS13に戻って次の被写体に関する処理を行い、また、全ての被写体に関して行われた場合には、次のステップS15へと進む。
即ち、全ての被写体についてデフォーカス位置の設定が行なわれたならば、次に、上記(1)式の条件式を用いて、各被写体間にボケが観察されるか否かを判断する(ステップS15)。ここで、上記(1)式の条件式を満たさない場合、つまり、各被写体間にボケが観察される場合には、それらのデフォーカス位置の間に新たなデフォーカス位置を設ける(ステップS16)。ここではデフォーカス位置の補間を行なっている。また、上記(1)式の条件式を満たす場合、つまり、各被写体間にボケが観察されない場合には、このステップS16はスキップされる。そして、全てのデフォーカス位置間について処理を行なったかを確認する(ステップS17)。ここで、未だ全てのデフォーカス位置間について処理を行っていない場合には、上記ステップS15に戻って次のデフォーカス位置間に関する判断処理を行い、また、全てのデフォーカス位置間に関して行われた場合には、次のステップS17へと進む。
即ち、全てのデフォーカス位置間についての確認が行なわれたならば、次に、上記(2)式の条件式を用いて、各デフォーカス位置間の最大値が目標被写界深度を満たすか否かを確認する(ステップS18)。ここで、上記(2)式の条件式を満たさない場合、つまり、各デフォーカス位置間の最大値が目標被写界深度を満たさない場合には、新たなデフォーカス位置を設けた後(ステップS19)、上記ステップS18に戻る。なおこの際、新たに設けるデフォーカス位置は、fminより撮像装置に近くの値、若しくは、fmaxより撮像装置に遠い値に設定し、その後fmin及びfmaxを更新する。ここでの処理は、設定したデフォーカス位置が、目標被写界深度が達成或は被写界深度拡大をもたらすように、デフォーカス位置を新たに設定するものである。
上記ステップS18にて上記(2)式の条件式が満たされた場合、つまり、各デフォーカス位置間の最大値が目標被写界深度を満たす場合には、目標被写界深度が達成或いは被写界深度拡大がもたらされたとして、次のステップS20に進む。即ち、上記のように設定した複数のデフォーカス位置でPSFを取得し(ステップS20)、各PSFの類似範囲(デフォーカス範囲)を設定して代表PSFを決定する(ステップS21)。次に、その設定した代表PSFより、複数のフィルタを生成する(ステップS22)。
そして、それら生成した複数のフィルタを、前処理部2のフレームメモリに保持されている1枚の画像信号にかける(ステップS23)。その後、そのフィルタ処理した後の一つの画像信号における各画素のコントラストを閾値αと比較する(ステップS24)。ここで、閾値よりも大きかった場合には、過補正と考えられ、フィルタ処理前の画素値を用いることとする(ステップS25)。一方、コントラストが閾値以下ならば、フィルタ処理後の画素値を用いる。そして、全ての画素について処理が終了したかを確認し(ステップS26)、終了していないのならば、上記ステップS24に戻る。
こうして、全ての画素について処理が終了したと確認されたならば(ステップS26)、今度は、フィルタ処理した後の全ての画像信号に対して処理を行なったか否かを確認する(ステップS27)。ここで、未だ全ての画像信号に対する処理が終了していない場合は、上記ステップS24まで戻って、未処理の画像信号に対する処理を実行する。
而して、全ての画像信号に対する処理が終了したならば、即ち、それぞれ異なる深度をボケ回復した複数枚の画像信号が取得されたならば、次に、設定したデフォーカス位置の数によって表示制御部7にフレームレートを制御させる(ステップS28)。なお、上記表示制御部7を設ける代わりに、制御部9を構成するコンピュータがフレームレート制御を行うようにしても良い。そして、複数の画像信号と制御したフレームレートを用いて、表示部10にそれら画像信号を切り換え表示して(ステップS29)、処理を終了とする。
なお、上記ステップS23において全てのフィルタについてのフィルタ処理を行って、その後のステップS24乃至ステップS26の処理をフィルタ処理後の画像信号それぞれについて行うものとしたが、上記ステップS23乃至ステップS26の処理を一つのフィルタについて順次行うものとしても良いことは勿論である。
以上一実施形態に基づいて本発明を説明したが、本発明は上述した一実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
例えば、上記一実施形態では、撮像装置として、デジタルカメラにおけるライブビュー表示や内視鏡診療装置における観察画像表示等、画像撮像部1で取得した画像を直ちに表示する装置を例に説明したが、取得した複数のデフォーカス位置でのPSFから設計したフィルタを取得した1枚の画像信号にかけて取得した複数枚のフィルタ処理後の画像信号を一旦記録しておき、当該装置で後で再生表示するようにしても良いことは言うまでもない。
さらには、撮像装置は取得した1枚の画像信号から複数枚のフィルタ処理後の画像信号を取得して記録媒体に記録するまでを行い、別の表示装置にてその記録媒体に記録された複数枚の画像信号のフレームレートを制御して切り換え表示することによっても、複数枚の画像信号に対して、位置合わせや合成等の処理を行うことなく被写界深度の深い画像信号を得ることができるので、位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらすことができることは勿論である。
さらにまた、別の撮像装置で取得した1枚の画像信号を読み込んで、複数枚のフィルタ処理後の画像信号を取得して記録媒体に記録する装置や、再生までも行う装置としても構わない。
(付記)
前記の具体的実施形態から、以下のような構成の発明を抽出することができる。
(1) 画像信号を取得する撮像手段と、
デフォーカス位置を複数設定する設定手段と、
上記設定手段で設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計するフィルタ設計手段と、
上記撮像手段で取得した1枚の画像信号に対して、上記フィルタ設計手段で設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行なうフィルタ処理手段と、
上記フィルタ処理手段による各デフォーカス位置のフィルタ処理後の画像信号を取得する取得手段と、
前記取得手段により取得された複数の画像信号を連続的に表示するよう制御する表示制御手段と、
を備えたことを特徴とする撮像装置。
(実施形態との対応)
この(1)に記載の撮像装置における上記撮像手段は画像撮像部1が、上記設定手段は設定部3が、上記フィルタ設計手段はフィルタ設計部4が、上記フィルタ処理手段はフィルタ処理部5が、上記取得手段は画像取得部6が、上記表示制御手段は表示制御部7が、それぞれ該当する。
この発明の好ましい適用例は、設定部3にてPSFを得る複数のデフォーカス位置を設定し、フィルタ設計部4にて複数のデフォーカス位置におけるPSFに基づいてフィルタを設計し、フィルタ処理部5にて設計したフィルタを1枚の画像信号にかけ、画像取得部6にてフィルタ処理後の複数枚の画像信号を取得する撮像装置である。
(作用効果)
この(1)に記載の撮像装置は、取得した複数のデフォーカス位置でのPSFから設計したフィルタを1枚の画像信号にかけ、複数のフィルタ処理後の画像信号を取得する。
従って、この(1)に記載の撮像装置によれば、切り換え表示することで位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらし得る、それぞれ異なる深度をボケ回復した複数枚の画像信号が1回の撮像で得られる。
(2) 上記取得手段で取得された複数枚のフィルタ処理後の画像信号を表示する表示手段をさらに備えたことを特徴とする(1)に記載の撮像装置。
(実施形態との対応)
この(2)に記載の撮像装置における上記表示手段は表示部10が該当する。
この発明の好ましい適用例は、表示部10にて画像取得部6で得られた異なるデフォーカス位置でのPSFを用いたフィルタ処理を行なった複数枚の画像信号を表示させる撮像装置である。
(作用効果)
この(2)に記載の撮像装置は、取得した複数のデフォーカス位置でのPSFから設計したフィルタをかけた複数の画像信号を表示する。
従って、この(2)に記載の撮像装置によれば、それぞれ異なる深度をボケ回復した複数枚の画像を並べるため、被写界深度の深い画像が得られる。
(3) 上記設定手段は、
上記撮像手段で取得した画像信号の被写体を認識する被写体認識手段と、
上記被写体認識手段での認識結果に基づいてPSFを取得するデフォーカス位置とその数とを設定するデフォーカス設定手段と、
を有することを特徴とする(1)に記載の撮像装置。
(実施形態との対応)
この(3)に記載の撮像装置における上記被写体認識手段は被写体認識部31が、上記デフォーカス設定手段はデフォーカス設定部32が、それぞれ該当する。
この発明の好ましい適用例は、被写体認識部31で認識した被写体位置を用いてデフォーカス位置を設定し、デフォーカス設定部32にてPSFを取得するデフォーカス位置やその数を設定する撮像装置である。
(作用効果)
この(3)に記載の撮像装置は、被写体を認識して、PSFを取得するデフォーカス位置や数の設定を行なう。
従って、この(3)に記載の撮像装置によれば、認識した被写体を用いてデフォーカス位置を設定するため、画像の各被写体に焦点の合った画像が得られる。
(4) 上記デフォーカス設定手段は、
上記被写体認識手段で認識された被写体の位置に上記デフォーカス位置を設定するデフォーカス位置設定手段と、
上記被写体認識手段で認識された被写体の数を用いて上記デフォーカス位置の数を設定するデフォーカス数設定手段と、
を有することを特徴とする(3)に記載の撮像装置。
(実施形態との対応)
この(4)に記載の撮像装置における上記デフォーカス位置設定手段はデフォーカス位置設定部321が、上記デフォーカス数設定手段はデフォーカス数設定部322が、それぞれ該当する。
この発明の好ましい適用例は、デフォーカス位置設定部321にて、被写体認識部31において認識した被写体の位置にデフォーカス位置を設定し、デフォーカス数設定部322にて、設定したデフォーカス位置の数を被写体認識部31において認識した被写体の数に設定する撮像装置である。
(作用効果)
この(4)に記載の撮像装置は、認識した被写体の位置にデフォーカスの位置を設定し、被写体の数を用いてデフォーカス位置の数を設定する。
従って、この(4)に記載の撮像装置によれば、認識した被写体に合わせてデフォーカス位置及びその数を設定するため、画像の各被写体に焦点の合った画像が得られる。
(5) 上記デフォーカス設定手段は、
上記被写体認識手段で認識された各被写体位置における被写界深度を算出する被写体位置深度算出手段と、
目標の被写界深度を設定する目標深度設定手段と、
をさらに有し、
上記デフォーカス位置設定手段によって設定したデフォーカス位置間の最大値が上記目標深度設定手段によって設定された目標被写界深度を満たすように、少なくとも上記被写体認識手段で認識された被写体の位置を含む複数のデフォーカス位置を設定する、
ことを特徴とする(4)に記載の撮像装置。
(実施形態との対応)
この(5)に記載の撮像装置における上記被写体位置深度算出手段は被写体深度算出部323が、上記目標深度設定手段は目標深度設定部327が、それぞれ該当する。
この発明の好ましい適用例は、被写体深度算出部323にて被写体認識部31において認識された被写体の位置での被写界深度を求め、その目標深度設定部327にて設定されている目標深度に対して、設定したデフォーカス位置間の最大値が満たすように、少なくとも被写体認識部31で認識された被写体の位置を含む複数のデフォーカス位置を設定する撮像装置である。
(作用効果)
この(5)に記載の撮像装置は、被写体認識部31で認識された被写体の位置のデフォーカス位置に加えて、それら設定したデフォーカス位置間の最大値が目標深度を満たすように、さらに新たなデフォーカス位置を設定する。
従って、この(5)に記載の撮像装置によれば、被写体の位置の他に新たにデフォーカス位置を所定の値に設定しているため、被写体の位置だけでは深度拡大しない場合においても被写界深度の深い画像を得ることができる。また被写体の深度においてボケ回復しつつ、目標深度を満たすような画像を得ることができる。
(6) 上記フィルタ設計手段は、
上記撮像手段の光学系の絞り値を検出する絞り値検出手段と、
上記設定手段で設定した各デフォーカス位置のPSFを算出する算出手段と、
上記算出手段で算出した各デフォーカス位置でのPSFを用いて類似度を算出する類似度算出手段と、
上記類似度算出手段で算出した類似度と所定の閾値とを比較する比較手段と、
上記比較手段の結果を用いて、上記設定手段で設定した複数のデフォーカス位置でのPSFの中から複数のPSFを抽出する抽出手段と、
上記抽出手段の結果を用いてデフォーカス範囲を設定する範囲設定手段と、
上記範囲設定手段及び上記抽出手段の結果を用いて上記デフォーカス範囲を代表するPSFを設定する代表PSF設定手段と、
目標の被写界深度と、上記範囲設定手段によって設定されたデフォーカス範囲とを用いてデフォーカス位置及び上記代表PSFの個数を設定する設定手段と、
を有することを特徴とする(1)に記載の撮像装置。
(実施形態との対応)
この(6)に記載の撮像装置における上記絞り値検出手段は絞り値検出部41が、上記算出手段は算出部42が、上記類似度算出手段は類似度算出部43が、上記比較手段は比較部45が、上記抽出手段は抽出部46が、上記範囲設定手段は範囲設定部47が、上記代表PSF設定手段は代表PSF設定部48が、上記設定手段は設定部49が、それぞれ該当する。
この発明の好ましい適用例は、絞り値検出部41にて画像撮像部1で設定された絞り値を算出し、算出部42にて絞り値を用いて各デフォーカス位置でのPSFを算出し、類似度算出部43にて各デフォーカス位置でのPSFを用いて類似度を算出し、比較部45にて閾値設定部44にて設定された閾値と算出した類似度を比較し、抽出部46にて比較結果を用いて算出部42で算出したPSFを抽出し、範囲設定部47にて抽出結果を用いてデフォーカス範囲を設定し、代表PSF設定部48にて設定した範囲と抽出結果を用いてデフォーカス範囲を代表するPSFを設定し、設定部49にて目標深度設定部327にて設定する目標の被写界深度と設定したデフォーカス範囲を用いてデフォーカス範囲とその数を設定し、フィルタ生成部410にて設定した各代表PSFを用いてフィルタを生成する撮像装置である。
(作用効果)
この(6)に記載の撮像装置は、各PSFが類似する範囲の代表するPSFを用いて複数のフィルタを生成する。
従って、この(6)に記載の撮像装置によれば、PSFが類似する範囲では同じPSFを用いてフィルタを生成することから、計算時間を抑え処理を高速化出来る。
(7) 上記フィルタ処理手段は、
上記フィルタ処理後の画像信号の各画素におけるコントラストを算出するコントラスト算出手段と、
上記各画素のコントラストを用いてフィルタ処理前の値を用いるか、処理後の値を用いるかを判断する判断手段と、
を有し、
上記取得手段は、上記判断手段の判断結果に従って画像信号を取得する、
ことを特徴とする(1)に記載の撮像装置。
(実施形態との対応)
この(7)に記載の撮像装置における上記コントラスト算出手段はコントラスト算出部52が、上記判断手段は判断部53が、それぞれ該当する。
この発明の好ましい適用例は、フィルタ処理実行部51にて生成したフィルタを施し、コントラスト算出部52にてフィルタ処理後の各画素におけるコントラストを算出し、判断部53にて算出したコントラストに応じてフィルタ処理前の画素値を用いるかフィルタ処理後の画素値を用いるかを判断し、画像取得部6にてその判断結果に従って画像信号を取得する撮像装置である。
(作用効果)
この(7)に記載の撮像装置は、フィルタ処理後の各画素におけるコントラストに応じて、フィルタ処理前の画素値を用いるか処理後の画素値を用いるかを決定する。
従って、この(7)に記載の撮像装置によれば、高いコントラストを持つ画素にフィルタ処理を実行しないことから、フィルタ処理による過剰補正を防ぐことができ、高品位な画像が得られる。
(8) 上記表示制御手段は、表示フレームレートを設定するフレームレート設定手段を有し、
上記フレームレートは、上記デフォーカス位置の数に応じて制御される、
ことを特徴とする(2)に記載の撮像装置。
(実施形態との対応)
この(8)に記載の撮像装置における上記フレームレート設定手段は表示制御部7が該当する。
この発明の好ましい適用例は、表示制御部7にてデフォーカス位置の数に応じて表示フレームレートを制御し、表示部10にて制御したフレームレートを用いて画像信号を表示する撮像装置である。
(作用効果)
この(8)に記載の撮像装置は、デフォーカス位置の数に応じて表示フレームレートを制御し、画像を表示させる。
従って、この(8)に記載の撮像装置によれば、表示フレームレートをデフォーカス位置の数に応じて制御することから、高品位な画像が得られる。
(9) 画像信号を取得し、
デフォーカス位置を複数設定し、
上記設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計し、
上記取得した1枚の画像信号に対して、上記設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行ない、
上記各デフォーカス位置のフィルタ処理後の画像信号を取得し、
取得された複数の画像信号を連続的に表示するよう制御する、
ことを特徴とする撮像方法。
(実施形態との対応)
この(9)に記載の発明の好ましい適用例は、設定部3にてPSFを得る複数のデフォーカス位置を設定し、フィルタ設計部4にて複数のデフォーカス位置におけるPSFに基づいてフィルタを設計し、フィルタ処理部5にて設計したフィルタを1枚の画像信号にかけ、画像取得部6にてフィルタ処理後の複数枚の画像信号を取得する撮像方法である。
(作用効果)
この(9)に記載の撮像方法は、取得した複数のデフォーカス位置でのPSFから設計したフィルタを1枚の画像信号にかけ、複数のフィルタ処理後の画像信号を取得する。
従って、この(9)に記載の撮像方法によれば、切り換え表示することで位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらし得る、それぞれ異なる深度をボケ回復した複数枚の画像信号が1回の撮像で得られる。
(10) 画像信号を撮像する撮像装置のコンピュータを制御するためのプログラムであって、
上記コンピュータを、
画像撮像部に画像信号を取得させる撮像手段、
デフォーカス位置を複数設定する設定手段、
上記設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計するフィルタ設計手段、
上記画像撮像部で取得した1枚の画像信号に対して、上記設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行なうフィルタ処理手段、
上記各デフォーカス位置のフィルタ処理後の画像信号を取得する取得手段、
取得された複数の画像信号を連続的に表示するよう制御する表示制御手段、
として機能させるためのプログラム。
(実施形態との対応)
この(10)に記載の発明の好ましい適用例は、コンピュータに、PSFを得る複数のデフォーカス位置を設定させ、それら複数のデフォーカス位置におけるPSFに基づいてフィルタを設計させ、その設計したフィルタを1枚の画像信号にかけさせ、フィルタ処理後の複数枚の画像信号を取得させるプログラムである。
(作用効果)
この(10)に記載のプログラムは、コンピュータに、取得した複数のデフォーカス位置でのPSFから設計したフィルタを1枚の画像信号にかけさせ、複数のフィルタ処理後の画像信号を取得させる。
従って、この(10)に記載のプログラムによれば、切り換え表示することで位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらし得る、それぞれ異なる深度をボケ回復した複数枚の画像信号が1回の撮像で得られる。
(11) 1枚の画像信号を読み込む読み込み手段と、
デフォーカス位置を複数設定する設定手段と、
上記設定手段で設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計するフィルタ設計手段と、
上記読み込み手段で読み込んだ1枚の画像信号に対して、上記フィルタ設計手段で設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行なうフィルタ処理手段と、
上記フィルタ処理手段による各デフォーカス位置のフィルタ処理後の画像信号を取得する取得手段と、
を備えたことを特徴とする画像処理装置。
(実施形態との対応)
この(11)に記載の画像処理装置における上記設定手段は設定部3が、上記フィルタ設計手段はフィルタ設計部4が、上記フィルタ処理手段はフィルタ処理部5が、上記取得手段は画像取得部6が、それぞれ該当する。
この発明の好ましい適用例は、設定部3にてPSFを得る複数のデフォーカス位置を設定し、フィルタ設計部4にて複数のデフォーカス位置におけるPSFに基づいてフィルタを設計し、フィルタ処理部5にて設計したフィルタを1枚の画像信号にかけ、画像取得部6にてフィルタ処理後の複数枚の画像信号を取得する画像処理装置である。
(作用効果)
この(11)に記載の画像処理装置は、取得した複数のデフォーカス位置でのPSFから設計したフィルタを1枚の画像信号にかけ、複数のフィルタ処理後の画像信号を取得する。
従って、この(11)に記載の画像処理装置によれば、切り換え表示することで位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらし得る、それぞれ異なる深度をボケ回復した複数枚の画像信号が1回の撮像で得られる。
(12) 1枚の画像信号を読み込み、
デフォーカス位置を複数設定し、
上記設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計し、
上記読み込んだ1枚の画像信号に対して、上記設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行ない、
上記各デフォーカス位置のフィルタ処理後の画像信号を取得する、
ことを特徴とする画像処理方法。
(実施形態との対応)
この(12)に記載の発明の好ましい適用例は、設定部3にてPSFを得る複数のデフォーカス位置を設定し、フィルタ設計部4にて複数のデフォーカス位置におけるPSFに基づいてフィルタを設計し、フィルタ処理部5にて設計したフィルタを1枚の画像信号にかけ、画像取得部6にてフィルタ処理後の複数枚の画像信号を取得する画像処理方法である。
(作用効果)
この(12)に記載の画像処理方法は、取得した複数のデフォーカス位置でのPSFから設計したフィルタを1枚の画像信号にかけ、複数のフィルタ処理後の画像信号を取得する。
従って、この(12)に記載の画像処理方法によれば、切り換え表示することで位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらし得る、それぞれ異なる深度をボケ回復した複数枚の画像信号が1回の撮像で得られる。
(13) 画像信号を処理する画像処理装置のコンピュータを制御するためのプログラムであって、
上記コンピュータを、
1枚の画像信号を読み込む読み込み手段、
デフォーカス位置を複数設定する設定手段、
上記設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計するフィルタ設計手段、
上記読み込んだ1枚の画像信号に対して、上記設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行なうフィルタ処理手段、
上記各デフォーカス位置のフィルタ処理後の画像信号を取得する取得手段、
として機能させるためのプログラム。
(実施形態との対応)
この(13)に記載の発明の好ましい適用例は、コンピュータに、PSFを得る複数のデフォーカス位置を設定させ、それら複数のデフォーカス位置におけるPSFに基づいてフィルタを設計させ、その設計したフィルタを1枚の画像信号にかけさせ、フィルタ処理後の複数枚の画像信号を取得させるプログラムである。
(作用効果)
この(13)に記載のプログラムは、コンピュータに、取得した複数のデフォーカス位置でのPSFから設計したフィルタを1枚の画像信号にかけさせ、複数のフィルタ処理後の画像信号を取得させる。
従って、この(13)に記載のプログラムによれば、切り換え表示することで位置合わせや合成等の処理時間を抑え、且つ、アーティファクトを発生させずに被写界深度拡大の効果をもたらし得る、それぞれ異なる深度をボケ回復した複数枚の画像信号が1回の撮像で得られる。
1…画像撮像部、 11…レンズ系、 12…撮像系、 2…前処理部、 3…設定部、 31…被写体認識部、 32…デフォーカス設定部、 321…デフォーカス位置設定部、 322…デフォーカス数設定部、 323…被写体深度算出部、 324…距離算出部、 325…比較部、 326…算出部、 327…目標深度設定部、 4…フィルタ設計部、 41…絞り値検出部、 42…算出部、 43…類似度算出部、 44…閾値設定部、 45…比較部、 46…抽出部、 47…範囲設定部、 48…PSF設定部、 49…設定部、 410…フィルタ生成部、 5…フィルタ処理部、 51…フィルタ処理実行部、 52…コントラスト算出部、 53…判断部、 6…画像取得部、 7…表示制御部、 、 8…外部I/F部、 9…制御部、 10…表示部。

Claims (10)

  1. 画像信号を取得する撮像手段と、
    デフォーカス位置を複数設定する設定手段と、
    前記設定手段で設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計するフィルタ設計手段と、
    前記撮像手段で取得した1枚の画像信号に対して、前記フィルタ設計手段で設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行なうフィルタ処理手段と、
    前記フィルタ処理手段による各デフォーカス位置のフィルタ処理後の画像信号を取得する取得手段と、
    前記取得手段により取得された複数の画像信号を連続的に表示するよう制御する表示制御手段と、
    を備えたことを特徴とする撮像装置。
  2. 前記取得手段で取得された複数枚のフィルタ処理後の画像信号を表示する表示手段をさらに備えたことを特徴とする請求項1に記載の撮像装置。
  3. 前記設定手段は、
    前記撮像手段で取得した画像信号の被写体を認識する被写体認識手段と、
    前記被写体認識手段での認識結果に基づいてPSFを取得するデフォーカス位置とその数とを設定するデフォーカス設定手段と、
    を有することを特徴とする請求項1に記載の撮像装置。
  4. 前記デフォーカス設定手段は、
    前記被写体認識手段で認識された被写体の位置に前記デフォーカス位置を設定するデフォーカス位置設定手段と、
    前記被写体認識手段で認識された被写体の数を用いて前記デフォーカス位置の数を設定するデフォーカス数設定手段と、
    を有することを特徴とする請求項3に記載の撮像装置。
  5. 前記デフォーカス設定手段は、
    前記被写体認識手段で認識された各被写体位置における被写界深度を算出する被写体位置深度算出手段と、
    目標の被写界深度を設定する目標深度設定手段と、
    をさらに有し、
    前記デフォーカス位置設定手段によって設定したデフォーカス位置間の最大値が前記目標深度設定手段によって設定された目標被写界深度を満たすように、少なくとも前記被写体認識手段で認識された被写体の位置を含む複数のデフォーカス位置を設定する、
    ことを特徴とする請求項4に記載の撮像装置。
  6. 前記フィルタ設計手段は、
    前記撮像手段の光学系の絞り値を検出する絞り値検出手段と、
    前記設定手段で設定した各デフォーカス位置のPSFを算出する算出手段と、
    前記算出手段で算出した各デフォーカス位置でのPSFを用いて類似度を算出する類似度算出手段と、
    前記類似度算出手段で算出した類似度と所定の閾値とを比較する比較手段と、
    前記比較手段の結果を用いて、前記設定手段で設定した複数のデフォーカス位置でのPSFの中から複数のPSFを抽出する抽出手段と、
    前記抽出手段の結果を用いてデフォーカス範囲を設定する範囲設定手段と、
    前記範囲設定手段及び前記抽出手段の結果を用いて前記デフォーカス範囲を代表するPSFを設定する代表PSF設定手段と、
    目標の被写界深度と、前記範囲設定手段によって設定されたデフォーカス範囲とを用いてデフォーカス位置及び前記代表PSFの個数を設定する設定手段と、
    を有することを特徴とする請求項1に記載の撮像装置。
  7. 前記フィルタ処理手段は、
    前記フィルタ処理後の画像信号の各画素におけるコントラストを算出するコントラスト算出手段と、
    前記各画素のコントラストを用いてフィルタ処理前の値を用いるか、処理後の値を用いるかを判断する判断手段と、
    を有し、
    前記取得手段は、前記判断手段の判断結果に従って画像信号を取得する、
    ことを特徴とする請求項1に記載の撮像装置。
  8. 前記表示制御手段は、表示フレームレートを設定するフレームレート設定手段を有し、
    前記フレームレートは、前記デフォーカス位置の数に応じて制御される、
    ことを特徴とする請求項2に記載の撮像装置。
  9. 画像信号を取得し、
    デフォーカス位置を複数設定し、
    前記設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計し、
    前記取得した1枚の画像信号に対して、前記設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行ない、
    前記各デフォーカス位置のフィルタ処理後の画像信号を取得し、
    取得された複数の画像信号を連続的に表示するよう制御する、
    ことを特徴とする撮像方法。
  10. 画像信号を撮像する撮像装置のコンピュータを制御するためのプログラムであって、
    前記コンピュータを、
    画像撮像部に画像信号を取得させる撮像手段、
    デフォーカス位置を複数設定する設定手段、
    前記設定した複数のデフォーカス位置における点像広がり関数(PSF)に基づいて複数のフィルタを設計するフィルタ設計手段、
    前記画像撮像部で取得した1枚の画像信号に対して、前記設計した各デフォーカス位置におけるフィルタを用いてフィルタ処理を行なうフィルタ処理手段、
    前記各デフォーカス位置のフィルタ処理後の画像信号を取得する取得手段、
    取得された複数の画像信号を連続的に表示するよう制御する表示制御手段、
    として機能させるためのプログラム。
JP2010207123A 2010-09-15 2010-09-15 撮像装置、撮像方法及びプログラム Withdrawn JP2012065114A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010207123A JP2012065114A (ja) 2010-09-15 2010-09-15 撮像装置、撮像方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010207123A JP2012065114A (ja) 2010-09-15 2010-09-15 撮像装置、撮像方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2012065114A true JP2012065114A (ja) 2012-03-29

Family

ID=46060386

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010207123A Withdrawn JP2012065114A (ja) 2010-09-15 2010-09-15 撮像装置、撮像方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2012065114A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013081086A1 (en) * 2011-12-02 2013-06-06 Canon Kabushiki Kaisha Image processing apparatus and image processing method
JP2014137291A (ja) * 2013-01-17 2014-07-28 Bridgestone Corp 外観画像生成方法及び外観画像生成装置
US9699427B2 (en) 2013-08-01 2017-07-04 Fujifilm Corporation Imaging device, imaging method, and image processing device
US9799105B2 (en) 2013-08-02 2017-10-24 Fujifilm Corporation Image processing device, imaging device, image processing method, and program for restoration processing based on a point spread function and a frame after a frame to be processed
JP2020129147A (ja) * 2018-07-26 2020-08-27 キヤノン株式会社 撮像装置及び撮像システム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013081086A1 (en) * 2011-12-02 2013-06-06 Canon Kabushiki Kaisha Image processing apparatus and image processing method
JP2013117848A (ja) * 2011-12-02 2013-06-13 Canon Inc 画像処理装置及び画像処理方法
US9332190B2 (en) 2011-12-02 2016-05-03 Canon Kabushiki Kaisha Image processing apparatus and image processing method
JP2014137291A (ja) * 2013-01-17 2014-07-28 Bridgestone Corp 外観画像生成方法及び外観画像生成装置
US9699427B2 (en) 2013-08-01 2017-07-04 Fujifilm Corporation Imaging device, imaging method, and image processing device
US9799105B2 (en) 2013-08-02 2017-10-24 Fujifilm Corporation Image processing device, imaging device, image processing method, and program for restoration processing based on a point spread function and a frame after a frame to be processed
JP2020129147A (ja) * 2018-07-26 2020-08-27 キヤノン株式会社 撮像装置及び撮像システム

Similar Documents

Publication Publication Date Title
JP5870264B2 (ja) 撮像装置、撮像方法、プログラム、および集積回路
JP6271990B2 (ja) 画像処理装置、画像処理方法
JP6327922B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6140935B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および撮像装置
JP4678603B2 (ja) 撮像装置及び撮像方法
JP5664626B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4848965B2 (ja) 撮像装置
JP2011211669A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2009147727A (ja) 撮像装置及び画像再生装置
JP5638890B2 (ja) 撮像装置、撮像方法及びプログラム
JP2013013061A (ja) 撮像装置
JP2011135563A (ja) 撮像装置および画像処理方法
JP2016038415A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2012065114A (ja) 撮像装置、撮像方法及びプログラム
KR102446812B1 (ko) 이미지 보정 장치, 이미지 보정 방법 및 기록 매체에 저장된 컴퓨터 프로그램
JP2010279054A (ja) 撮像装置、画像処理装置、撮像方法、及び画像処理方法
JP5143172B2 (ja) 撮像装置及び画像再生装置
JP2009088935A (ja) 画像記録装置、画像補正装置及び撮像装置
JP2010154306A (ja) 撮像制御装置、撮像制御プログラム及び撮像制御方法
US8922677B2 (en) Image processing apparatus and imaging apparatus for combining image frames
JP5075110B2 (ja) 焦点調節装置及び方法
JP2011066827A (ja) 画像処理装置、画像処理方法及びプログラム
JP5760654B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5673454B2 (ja) 画像処理装置、画像処理方法及びプログラム
RU2761187C1 (ru) Устройство обработки изображения и устройство захвата изображения

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20131203