JP2016174263A - 動画撮影に好適な画像処理機能とそれを有する撮像装置、画像処理装置、画像処理方法、画像処理プログラム - Google Patents
動画撮影に好適な画像処理機能とそれを有する撮像装置、画像処理装置、画像処理方法、画像処理プログラム Download PDFInfo
- Publication number
- JP2016174263A JP2016174263A JP2015052986A JP2015052986A JP2016174263A JP 2016174263 A JP2016174263 A JP 2016174263A JP 2015052986 A JP2015052986 A JP 2015052986A JP 2015052986 A JP2015052986 A JP 2015052986A JP 2016174263 A JP2016174263 A JP 2016174263A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image processing
- moving object
- imaging
- detection unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 117
- 238000003384 imaging method Methods 0.000 title claims abstract description 82
- 238000003672 processing method Methods 0.000 title claims description 6
- 230000003287 optical effect Effects 0.000 claims abstract description 38
- 230000004075 alteration Effects 0.000 claims abstract description 30
- 230000033001 locomotion Effects 0.000 claims abstract description 11
- 210000000746 body region Anatomy 0.000 claims abstract description 8
- 238000003702 image correction Methods 0.000 claims abstract description 3
- 238000001514 detection method Methods 0.000 claims description 38
- 238000000034 method Methods 0.000 claims description 31
- 230000015556 catabolic process Effects 0.000 claims description 7
- 238000006731 degradation reaction Methods 0.000 claims description 7
- 238000011084 recovery Methods 0.000 abstract description 69
- 238000012937 correction Methods 0.000 abstract description 16
- 230000005540 biological transmission Effects 0.000 abstract description 5
- 230000006866 deterioration Effects 0.000 abstract description 5
- CNQCVBJFEGMYDW-UHFFFAOYSA-N lawrencium atom Chemical compound [Lr] CNQCVBJFEGMYDW-UHFFFAOYSA-N 0.000 abstract 3
- 230000001133 acceleration Effects 0.000 abstract 1
- 238000012546 transfer Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 4
- 238000003705 background correction Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Abstract
【課題】動画において、動体にのみ画像回復を施し、収差に基づく画質劣化を補正することと、高速化を両立する撮像装置を提供する。【解決手段】被写体の画像を撮像して電気信号に変換するための撮像素子103、撮像素子103上に被写体の画像を結像させるための撮像光学系101、撮像素子103の信号を処理するための画像処理部105、動体の動きを検知し画像内の動体領域を検知する動体検出部105cを有する。画像処理部105は、撮像光学系101の収差による画質劣化を撮像光学系101の光学伝達関数(OTF)や収差によって空間的に広がった信号値(PSF)に基づいて補正するための画像補正情報を有し、動体検出部105cによって特定された動体領域のみ画像処理によって収差を補正する。【選択図】図1
Description
本発明は、動体領域を特定し、画像回復フィルタを用いて補正する画像処理機能を有する撮像装置、画像処理装置、画像処理方法、画像処理プログラムに関する。
カメラのデジタル化に伴い、画像処理による収差補正手法が種々提案されている。画像のぼけ成分劣化を補正する方法として、撮像光学系の光学伝達関数OTF情報を用いて補正するものが知られている。この方法は画像回復や画像復元という言葉で呼ばれている。これらの画像回復や画像復元という手法を使用すれば、収差の影響が比較的大きい画像から、その影響を低減した画像を得ることが出来るため、高画質化が達成される。
またビデオカメラや監視カメラにおいては、動画で撮影することが求められる。特にネットワークを介して、データを転送するネットワーク監視カメラは近年需要が増えている。しかし、単に画像処理を使って全領域を高画質化すると処理速度が遅くなり、大幅なタイムラグが発生するか或いは、容量が増大しネットワーク等通信手段を介した際にデータ転送が遅くなる懸念がある。
電子的な処理によって、画像を補正する画像処理機能を有する撮像装置が、種々提案されている。特許文献1では、顔を認識してその部分のみ回復処理を行う撮像装置が提案されている。特許文献2では、被写体の動きに対応する複数のぶれ回復のPSFを推定し回復処理を行う撮像装置が提案されている。特許文献3では、複数の時系列画像の差分から動体の動きベクトルを算出し、動体を検知する撮像装置が提案されている。
しかしながら、特許文献1の撮像装置においては、単一の静止画かつ顔などの特定被写体のみに対する回復処理に関するものである。よって動画撮影した時の監視で確認すべき動体に適切に適用することはできない。
特許文献2の撮像装置においては、被写体ぶれの補正に関するものである。従って、光学的に発生する収差は残存するままであり、特にレンズの収差が大きい場合良好な画像を得ることは難しい。
特許文献3の撮像装置においては、異なる動体を検知し、モーションブラーを除去することを目的としている。動体予想による推定PSFでの回復であり、レンズの収差に基づく補正でないので、特にレンズの収差が大きい場合良好な画像を得ることは難しい。
本発明は、動画において、動体にのみ画像回復を施し、収差に基づく画質劣化を補正することと、高速化の両立する撮像装置を提供することを目的とする。
上記の目的を達成するために、本発明の撮像装置は、被写体の画像を撮像して電気信号に変換するための撮像素子、前記撮像素子上に被写体の画像を結像させるための撮像光学系、前記撮像素子の信号を処理するための画像処理部、動体の動きを検知し画像内の動体領域を 検知する動体検出部を有し、前記画像処理部は撮像光学系の収差による画質劣化を撮像光学系のOTFやPSFに基づいて補正するための画像補正情報を有し、前記動体検出部によって特定された動体領域のみ画像処理によって収差を補正することを特徴とする。
本発明によれば、動画において、動体にのみ画像回復を施し、収差に基づく画質劣化を補正することと、高速化を両立する撮像装置を提供することが出来る。
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
(第1の実施形態)
以下、本発明の第1の実施形態に係る撮像装置について説明する。図1は本実施形態の撮像装置の基本構成の一例を示している。
以下、本発明の第1の実施形態に係る撮像装置について説明する。図1は本実施形態の撮像装置の基本構成の一例を示している。
図1において、撮像光学系101によって撮像素子103上に結像された画像は電気信号に変換され、A/Dコンバーター104でデジタル信号に変換されて画像取得工程で画像処理部105に入力される。
画像処理部105は、時系列に基づく複数の入力デジタル撮像信号に対して各種処理を行うことで、カラー入力画像を生成する画像生成部105aを有する。また、画像処理部105は、この入力画像に対して画像回復処理を行う画像回復処理部105bと動体領域を検出する動体検出部105cを有する。
画像処理部105は、状態検知部107から撮像光学系101の状態(以下、撮像状態という)の情報を得る。撮像状態とは、例えば、撮像光学系101の焦点距離(ズーム位置)、絞り開口径(絞り値、Fナンバー)、フォーカスレンズ位置(被写体距離)である。なお、状態検知部107は、システムコントローラー108から撮像状態の情報を得てもよいし、撮像光学系101を制御する撮像光学系制御部102から得てもよい。
画像処理部105に入力された複数の画像は、動体検出部105cにおいて、動体領域を検出する。検出された領域の情報と撮像状態の情報を用いて、画像処理部105は、システムコントローラーを介して回復フィルタ記憶部109から回復情報を取得しても良いし、直接回復フィルタ記憶部109から回復フィルタ情報を取得しても良い。
画像回復処理に際して、システムコントローラー108は撮像光学系の状態に応じた回復フィルタを回復フィルタ記憶部109に指示して選択させる。この選択されたフィルタによって入力画像の動体領域に対する画像回復処理が行われる。
画像回復処理部105bにおいて回復処理が施された画像情報は、画像記録媒体110に送られ、記録される。或いは、伝送部106に画像情報が送られ、PC等の表示部111に伝送する。また、記録後、PC等の表示部111に伝送してもよい。また、表示部110に送り、回復処理の施された画像を確認することも可能である。
本実施形態では、光学伝達関数(OTF)に基づいた画像回復によって光学系で発生する収差による画像劣化を低減して高画質の画像を得ている。以下に、画像回復処理について説明する。
劣化した画像をg(x,y)、もとの画像をf(x,y)、前記光学伝達関数(OTF)のフーリエペアである点像分布関数(PSF)をh(x,y)としたとき、以下の式が成り立つ。ただし、*はコンボリューション(畳み込み積分、積和)を示し、(x,y)は画像上の座標を示す。
g(x,y)=h(x,y)*f(x,y)
また、これをフーリエ変換して周波数面での表示形式に変換すると、以下の式のように周波数ごとの積の形式になる。Hは点像分布関数(PSF)hをフーリエ変換したものであるので光学伝達関数(OTF)であり、G,Fはそれぞれg,fをフーリエ変換したものである。(u,v)は2次元周波数面での座標、即ち周波数を示す。
また、これをフーリエ変換して周波数面での表示形式に変換すると、以下の式のように周波数ごとの積の形式になる。Hは点像分布関数(PSF)hをフーリエ変換したものであるので光学伝達関数(OTF)であり、G,Fはそれぞれg,fをフーリエ変換したものである。(u,v)は2次元周波数面での座標、即ち周波数を示す。
G(u,v)=H(u,v)・F(u,v)
撮影された劣化画像からもとの画像を得るためには、以下のように両辺をHで除算すればよい。
撮影された劣化画像からもとの画像を得るためには、以下のように両辺をHで除算すればよい。
G(u,v)/H(u,v)=F(u,v)
このF(u,v)、即ちG(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことで、元の画像f(x,y)が回復画像として得られる。
このF(u,v)、即ちG(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことで、元の画像f(x,y)が回復画像として得られる。
ここで、H−1を逆フーリエ変換したものをRとすると、以下の式のように実面での画像に対するコンボリューション処理を行うことで同様にもとの画像f(x,y)を得ることができる。
g(x,y)*R(x,y)=f(x,y)
このR(x,y)を画像回復フィルタと呼ぶ。画像が2次元のとき、一般的にこの画像回復フィルタも画像の各画素に対応したタップ(セル)を有する2次元フィルタとなる。また、画像回復フィルタのタップ数(セルの数)は一般的に多いほど回復精度が向上するため、要求画質、画像処理能力、収差の特性等に応じて実現可能なタップ数に設定して用いる。この画像回復におけるフィルタは、少なくとも収差の特性を反映している必要があるため、従来の水平垂直各3タップ程度のエッジ強調フィルタ(ハイパスフィルタ)などとは一線を隔する技術分野であることは言うまでもない。
このR(x,y)を画像回復フィルタと呼ぶ。画像が2次元のとき、一般的にこの画像回復フィルタも画像の各画素に対応したタップ(セル)を有する2次元フィルタとなる。また、画像回復フィルタのタップ数(セルの数)は一般的に多いほど回復精度が向上するため、要求画質、画像処理能力、収差の特性等に応じて実現可能なタップ数に設定して用いる。この画像回復におけるフィルタは、少なくとも収差の特性を反映している必要があるため、従来の水平垂直各3タップ程度のエッジ強調フィルタ(ハイパスフィルタ)などとは一線を隔する技術分野であることは言うまでもない。
画像回復フィルタは光学伝達関数(OTF)に基づいているため、振幅成分および位相成分の劣化をともに高精度に補正することができる。また、実際の画像にはノイズ成分があるため上記のように理想的に光学伝達関数(OTF)の逆数をとって作成した画像回復フィルタを用いると、劣化画像の回復とともにノイズ成分が大幅に増幅されてしまう。これは、画像の振幅成分にノイズの振幅が付加されている状態に対して光学系のMTF(振幅成分)を全周波数に渡って1に戻すようにMTFを持ち上げるためである。
光学系による振幅劣化であるMTFは1に戻るが、同時にノイズのパワースペクトルも持ち上がってしまい、結果的にMTFを持ち上げる度合(回復ゲイン)に応じてノイズが増幅されてしまう。
したがって、ノイズがある場合には鑑賞用画像としては良好な画像は得られない。これを式で示すと以下のように表せる。Nはノイズ成分を表している。
G(u,v)=H(u,v)・F(u,v)+N(u,v)
G(u,v)/H(u,v)=F(u,v)+N(u,v)/H(u,v)
この点については例えば、以下に示すウィナーフィルタのように画像信号とノイズ信号の強度比(SNR)に応じて回復度合を制御する方法が知られている。
G(u,v)/H(u,v)=F(u,v)+N(u,v)/H(u,v)
この点については例えば、以下に示すウィナーフィルタのように画像信号とノイズ信号の強度比(SNR)に応じて回復度合を制御する方法が知られている。
M(u,v)はウィナーフィルタの周波数特性、|H(u,v)|は光学伝達関数(OTF)の絶対値(MTF)である。この方法は周波数ごとに、MTFが小さいほど回復ゲイン(回復度合)を抑制し、MTFが大きいほど回復ゲインを強くするものである。一般的に撮像光学系のMTFは低周波側が高く高周波側が低くなるため、実質的に画像の高周波側の回復ゲインを抑制する方法となっている。或いは、別のフィルタとして、以下の式を利用してもよい。
上式は、結像光学系の瞳中心を通る光線と垂直に交わる各方向(アジムス方向と言う)間で共通なOTF(rH(u,v))を用いることで、あたかもアジムス方向間にMTF差のない結像光学系で撮影した画像を得ることが出来る。
画像回復フィルタを説明するための模式図を図7、図8に示す。画像回復フィルタは撮像光学系の収差特性や要求される回復精度に応じてタップ数を決めることができ、図6では例として11×11タップの2次元フィルタとしている。図6では各タップ内の値(係数)を省略しているが、この画像回復フィルタの1断面を図7に示す。画像回復フィルタの各タップのもつ値(係数値)の分布が、収差によって空間的に広がった信号値(PSF)を、理想的には元の1点に戻す役割を果たしている。
フィルタの各タップが画像の各画素に対応して画像回復処理の工程でコンボリューション処理(畳み込み積分、積和)される。コンボリューション処理では、ある画素の信号値を改善するために、その画素を画像回復フィルタの中心と一致する。そして画像と画像回復フィルタの対応画素ごとに画像の信号値とフィルタの係数値の積をとり、その総和を中心画素の信号値として置き換える処理として知られている。
画像回復の実空間と周波数空間での特性を図9、図10を用いて説明する。図9の(a)は回復前のPSF、(b)は回復後のPSFを示している。また、図10の(M)の(a)は回復前のMTF、(M)の(b)は回復後のMTFを示し、図10の(P)の(a)は回復前のPTF、(P)の(b)は回復後のPTFを示している。回復前のPSFは非対称な広がりをもっており、この非対称性によりPTFは周波数に対して非直線的な値をもっている。回復処理は、MTFを増幅し、PTFを零に補正するため、回復後のPSFは対称で先鋭になる。
この画像回復フィルタの作成法については、撮像光学系の光学伝達関数(OTF)の逆関数に基づいて設計した関数を逆フーリエ変換して得ることができる。本実施形態で用いる画像回復フィルタは、適宜変更可能であり、例えば前記のウィナーフィルタを用いることができる。ウィナーフィルタを用いる場合、式1を逆フーリエ変換することで実際に画像に畳み込む実空間の画像回復フィルタを作成することができる。また、光学伝達関数(OTF)は1つの撮影状態においても撮像光学系の像高(画像の位置)に応じて変化するので、画像回復フィルタは像高に応じて変更して使用する。以上が、画像回復処理の概要である。
図2は画像処理部105において画像回復する際の処理のフローチャートを示している。画像処理部105は、画像処理用コンピュータにより構成され、コンピュータプログラムに従って該処理を実行する。
ステップS1では、画像処理部105は、撮像素子103からの出力信号に基づいて生成された複数の時間差画像(以下、入力画像という)を取得する。
次に、ステップS2では、画像処理部105は、状態検知部107から撮像状態情報を取得する。撮像状態とはズーム位置、絞り開口径、及び被写体距離等である。次に、ステップS3では、画像処理部105は、複数の時系列で取得された画像の差分情報を取得する。但し、時系列画像は必ずしも時間的に連続した画像の差分を取る必要はなく、飛び飛びの画像を用いても良い。
次に、ステップS4では、動体検出部105cにおいて、ステップS3で取得された差分画像に基づき、動体部の領域を判定する。図11はその判定の一例である。図11の実線は入力画像全体を表し、破線は動体部分とする。画面内に動体は1つでも良いし、複数存在していても良い。なお、動体領域判定の詳細な方法に関しては、例えば、特許文献3による動体検出方法を用いればよい。
次に、ステップS5では、ステップS4で特定された動体部の領域を決定し、画像処理部105内で取得、保持する。次に、ステップS6では、ステップS5で特定された動体部の領域に対応した、回復フィルタを選択、生成する。次に、ステップS7では、ステップS5で特定された動体部の領域に対して、ステップS6で取得された回復フィルタを用いて回復処理を実行する。
但し回復処理は、取得した画像全てに対して実行する必要はなく、特定の時間内に取得された画像内の動体の速度に応じて、回復処理を実行する入力画像数を変えても良い。或いは、ユーザーが選んでも良い。次に、ステップS8では、回復処理がなされた画像を出力する。
また、ここで説明した処理以外にも、色補間処理(デモザイキング処理)を行う。その他、エッジ強調処理、シェーディング補正(周辺光量補正)、歪曲収差補正、モーションブラー補正等を上記フローの前後や中間に必要に応じて挿入することもできる。以上、本実施形態の撮像装置の基本的なフローを説明した。本実施形態の構成と処理フローにより、動画において、動体にのみ画像回復を施し、収差に基づく画質劣化を補正することと、高速化を両立する撮像装置を提供することが出来る。
(第2の実施形態)
以下、本発明の第2の実施形態に係る撮像装置について説明する。なお、図1と名称が重複しかつ画像処理部以外の部分は同一である。構成と処理フローにおいて、第1の実施形態と重複する部分は省略する。
以下、本発明の第2の実施形態に係る撮像装置について説明する。なお、図1と名称が重複しかつ画像処理部以外の部分は同一である。構成と処理フローにおいて、第1の実施形態と重複する部分は省略する。
図3は本実施形態の撮像装置の基本構成の一例を示している。図3において、画像処理部205は、時系列に基づく複数の入力デジタル撮像信号に対して各種処理を行うことで、カラー入力画像を生成する画像生成部205aを有する。また、この入力画像に対して画像回復処理を行う画像回復処理部205bと動体領域を検出する動体検出部205cと回復判定部205dを有する。
画像処理部205に入力された複数の画像は、動体検出部205cにおいて、動体領域を検出する。回復判定部205dで、動体検出領域の大きさに応じて回復するかしないかの判定を行う。回復を行う場合、検出された領域の情報と撮像状態の情報を用いて、画像処理部205は、システムコントローラーを介して回復フィルタ記憶部209から回復情報を取得しても良いし、直接回復フィルタ記憶部209から回復フィルタ情報を取得しても良い。
画像回復処理に際して、システムコントローラー208は撮像光学系の状態に応じた回復フィルタを回復フィルタ記憶部209に指示して選択させる。この選択されたフィルタによって入力画像の動体領域に対する画像回復処理が行われる。画像回復処理部205bにおいて回復処理が施された画像情報は、伝送部206に画像情報が送られ、PC等に伝送する。
図4は画像処理部205において画像回復する際の処理のフローチャートを示している。画像処理部205は、画像処理用コンピュータにより構成され、コンピュータプログラムに従って該処理を実行する。
ステップS1では、画像処理部205は、撮像素子203からの出力信号に基づいて生成された複数の時間差画像(以下、入力画像という)を取得する。
次に、ステップS2では、画像処理部205は、状態検知部207から撮像状態情報を取得する。撮像状態とはズーム位置、絞り開口径、及び被写体距離等である。次に、ステップS3では、画像処理部205は、複数の時系列で取得された画像の差分情報を取得する。次に、ステップS4では、動体検出部205cにおいて、ステップS3で取得された差分画像に基づき、動体部の領域を判定する。なお、動体領域判定の詳細な方法に関しては、例えば、特許文献3による動体検出方法を用いればよい。
次に、ステップS5では、ステップS4で特定された動体部の領域の大きさを判定し、特定の大きさの範囲に入るか入らないか判定を行う。図12は回復判定部205dによる判定の一例である。図12(a),(b),(c)の実線は入力画像全体を表し、破線は動体部分とする。図12(a)の場合、動体認識として十分な大きさと判定し、処理速度低下を抑制するため、回復処理しない大きさと判定する。図12(b)の場合、動体の大きさが小さすぎ、回復処理しても認識には不十分と判定し、回復処理しない大きさと判定する。図12(c)の場合、動体の大きさが適度で、回復処理する大きさと判定する。
次に、ステップS6では、ステップS5で判定された動体の大きさに基づき、特定の大きさの範囲に入る場合、ステップS5で特定された動体部の領域を決定し、画像処理部205内で取得、保持する。特定の大きさの範囲に入らない場合、回復せず画像を出力し、ここで処理は終了となる。
次に、ステップS7では、動体部の回復フィルタの選択又は生成を行う。次に、ステップS8では、ステップS5で特定された動体部の領域に対して、ステップS7で取得された回復フィルタを用いて回復処理を実行する。次に、ステップS9では、回復処理がなされた画像を出力する。
また、ここで説明した処理以外にも、色補間処理(デモザイキング処理)を行う。その他、エッジ強調処理、シェーディング補正(周辺光量補正)、歪曲収差補正、モーションブラー補正等を上記フローの前後や中間に必要に応じて挿入することもできる。以上、実施形態2の撮像装置の基本的なフローを説明した。
本実施形態の構成と処理フローにより、動画において、動体にのみ画像回復を施し、収差に基づく画質劣化を補正することと、高速化を両立する撮像装置を提供することが出来る。
(第3の実施形態3)
以下、本発明の第3の実施形態に係る撮像装置について説明する。なお、図1と名称が重複しかつ画像処理部以外の部分は同一である。構成と処理フローにおいて、第1の実施形態と重複する部分は省略する。
以下、本発明の第3の実施形態に係る撮像装置について説明する。なお、図1と名称が重複しかつ画像処理部以外の部分は同一である。構成と処理フローにおいて、第1の実施形態と重複する部分は省略する。
図5は本実施形態の撮像装置の基本構成の一例を示している。この撮像装置において、画像処理部305は、時系列に基づく複数の入力デジタル撮像信号に対して各種処理を行うことで、カラー入力画像を生成する画像生成部205aを有する。また、この入力画像に対して画像回復処理を行う画像回復処理部305bと動体領域を検出する動体検出部305cと顔を認識する顔検出部305dを有する。
画像処理部305に入力された複数の画像は、動体検出部305cにおいて、動体領域を検出する。そして、顔検出部305dで、動体領域内の顔領域を検出する。動体領域内に顔領域を検出した場合、画像回復処理部305bで回復処理を行う。顔が検出された領域の情報と撮像状態の情報を用いて、画像処理部305は、システムコントローラーを介して回復フィルタ記憶部309から回復情報を取得しても良いし、直接回復フィルタ記憶部309から回復フィルタ情報を取得しても良い。
画像回復処理に際して、システムコントローラー308は撮像光学系の状態に応じた回復フィルタを回復フィルタ記憶部309に指示して選択させる。この選択されたフィルタによって入力画像の動体領域且つ顔領域に対する画像回復処理が行われる。画像回復処理部305bにおいて回復処理が施された画像情報は、画像記憶媒体310に送られる。さらに、伝送部306に画像情報が送られ、PC等に伝送する。
図6は画像処理部305において画像回復する際の処理のフローチャートを示している。画像処理部305は、画像処理用コンピュータにより構成され、コンピュータプログラムに従って該処理を実行する。
ステップS1では、画像処理部305は、撮像素子303からの出力信号に基づいて生成された複数の時間差画像(以下、入力画像という)を取得する。
次に、ステップS2では、画像処理部305は、状態検知部307から撮像状態情報を取得する。撮像状態とはズーム位置、絞り開口径、及び被写体距離等である。次に、ステップS3では、動体検出部305cにおいて、ステップS2で取得された時間差画像を比較し、動体部の領域を判定する。なお、動体領域判定の詳細な方法に関しては、例えば、特許文献3による動体検出方法を用いればよい。
次に、ステップS4では、ステップS4で特定された動体部の領域において、顔の領域を検出する。顔検出の詳細な方法に関しては、例えば、特許文献1による顔検出方法を用いればよい。
次に、ステップS5では、ステップS4で判定された顔領域の検出結果に基づき、顔を検出した場合、ステップS5で特定された動体部かつ顔の領域を、画像処理部305内で取得、保持する。顔を検出しなかった場合、回復せず画像を出力し、ここで処理は終了となる。
次に、ステップS6では、ステップS5で取得された領域に基づき、回復フィルタの選択又は生成を行う。次に、ステップS7では、ステップS5で特定された動体部かつ顔の領域に対して、ステップS6で取得された回復フィルタを用いて回復処理を実行する。
次に、ステップS8では、回復処理がなされた画像を出力する。
次に、ステップS8では、回復処理がなされた画像を出力する。
また、ここで説明した処理以外にも、色補間処理(デモザイキング処理)を行う。その他、エッジ強調処理、シェーディング補正(周辺光量補正)、歪曲収差補正、モーションブラー補正等を上記フローの前後や中間に必要に応じて挿入することもできる。以上、本実施形態の撮像装置の基本的なフローを説明した。本実施形態の構成と処理フローにより、動画において、動体にのみ画像回復を施し、収差に基づく画質劣化を補正することと、高速化を両立する撮像装置を提供することが出来る。
以上、各処理工程の好ましい前後関係や考慮すべき処理について説明したが、処理工程の順序はこれに限るものではなく、処理上の制約条件や要求画質に応じて変更しても構わない。また、本実施形態では、補正処理において位相成分のみを回復する処理を行っているが、前述したように、ノイズ増幅が許容範囲である場合には振幅成分に多少の変化を与えてもよい。
以上、本発明の画像処理方法を用いた撮像装置に関する実施形態を示したが、本発明の撮像装置は、その要旨の範囲内で種々の変形及び変更が可能である。
101,201,301 撮像光学系、102,202,302 撮像光学系制御部、
103,203,303 撮像素子、104,204,304 A/Dコンバーター、
105,205,305 画像処理部、105a,205a,305a 画像生成部、
105b,205b,305b 画像回復処理部、
105c,205c,305c 動体検知部、106,206,306 伝送部、
107,207,307 状態検知部、
108,208,308 システムコントローラー、
109,209,309 回復フィルタ記憶部、110,310 画像記録媒体、
111 表示部、205d 回復判定部、305d 顔検出部
103,203,303 撮像素子、104,204,304 A/Dコンバーター、
105,205,305 画像処理部、105a,205a,305a 画像生成部、
105b,205b,305b 画像回復処理部、
105c,205c,305c 動体検知部、106,206,306 伝送部、
107,207,307 状態検知部、
108,208,308 システムコントローラー、
109,209,309 回復フィルタ記憶部、110,310 画像記録媒体、
111 表示部、205d 回復判定部、305d 顔検出部
Claims (8)
- 被写体の画像を撮像して電気信号に変換するための撮像素子と、
前記撮像素子上に被写体の画像を結像させるための撮像光学系と、
前記撮像素子の信号を処理するための画像処理部と、
動体の動きを検知し画像内の動体領域を 検知する動体検出部と、
を有し、
前記画像処理部は前記撮像光学系の収差による画質劣化を前記撮像光学系のOTFまたはPSFに基づいて補正するための画像補正情報を有し、
前記動体検出部によって特定された動体領域のみ画像処理によって収差を補正することを特徴とする撮像装置。 - 前記動体検出部は、前記撮像素子で取得された複数の画像から算出される動きベクトルに基づいて動体領域を検出することを特徴とする請求項1に記載の撮像装置。
- 前記動体検出部によって特定された動体領域のみ画像処理によって収差を補正する処理は、前記動体検出部で検出された領域が被写体画像内で特定の大きさのときのみ実行することを特徴とする請求項1又は請求項2に記載の撮像装置。
- 人間の顔あるいは顔の一部を検出する顔検出部を有し、前記動体領域で特定された領域且つ前記顔検出部で特定された領域のみ、画像処理によって収差を補正することを特徴とする請求項1乃至請求項3の何れか一項に記載の撮像装置。
- 前記動体検出部で検出された動きベクトルの速度に応じて、特定の時間内に取得した複数の被写体画像の中で、前記動体検出部によって特定された動体領域のみ画像処理によって収差を補正する画像の割合を変えることを特徴とする請求項2に記載の撮像装置。
- 請求項1乃至請求項5の何れか一項に記載の撮像装置における前記画像処理を少なくとも行う画像処理部を有することを特徴とする画像処理装置。
- 請求項1乃至請求項5の何れか一項に記載の撮像装置における前記画像処理を少なくとも行うことを特徴とする画像処理方法。
- 請求項1乃至請求項5の何れか一項に記載の撮像装置における前記画像処理を少なくとも行うことを特徴とする画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015052986A JP2016174263A (ja) | 2015-03-17 | 2015-03-17 | 動画撮影に好適な画像処理機能とそれを有する撮像装置、画像処理装置、画像処理方法、画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015052986A JP2016174263A (ja) | 2015-03-17 | 2015-03-17 | 動画撮影に好適な画像処理機能とそれを有する撮像装置、画像処理装置、画像処理方法、画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016174263A true JP2016174263A (ja) | 2016-09-29 |
Family
ID=57009777
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015052986A Pending JP2016174263A (ja) | 2015-03-17 | 2015-03-17 | 動画撮影に好適な画像処理機能とそれを有する撮像装置、画像処理装置、画像処理方法、画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016174263A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024042870A1 (ja) * | 2022-08-24 | 2024-02-29 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置 |
-
2015
- 2015-03-17 JP JP2015052986A patent/JP2016174263A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024042870A1 (ja) * | 2022-08-24 | 2024-02-29 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6327922B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US8941762B2 (en) | Image processing apparatus and image pickup apparatus using the same | |
JP5198192B2 (ja) | 映像復元装置および方法 | |
JP4121780B2 (ja) | デジタル画像における動きによるぼけを低減する方法 | |
JP5868076B2 (ja) | 画像処理装置及び画像処理方法 | |
JP5528173B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
US9167168B2 (en) | Image processing method, image processing apparatus, non-transitory computer-readable medium, and image-pickup apparatus | |
EP3093818A2 (en) | Image processing apparatus that performs image restoration processing, method of controlling the same, and storage medium | |
JP5237978B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
US10217202B2 (en) | Image processing apparatus, image capturing apparatus, and storage medium | |
JP2013051599A5 (ja) | ||
JP2013020610A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2008211679A (ja) | 撮像装置およびその方法 | |
JP6711396B2 (ja) | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム | |
US10715723B2 (en) | Image processing apparatus, image acquisition system, image processing method, and image processing program | |
JP2012065114A (ja) | 撮像装置、撮像方法及びプログラム | |
JP6682184B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP2016174263A (ja) | 動画撮影に好適な画像処理機能とそれを有する撮像装置、画像処理装置、画像処理方法、画像処理プログラム | |
CN115496673A (zh) | 图像处理方法、图像处理装置、图像处理系统、以及存储介质 | |
JP6487008B1 (ja) | 高解像度撮像装置 | |
JP2015231193A (ja) | 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体 | |
JP6486076B2 (ja) | 画像処理装置および画像処理方法 | |
JP2013026875A (ja) | 画像処理システム | |
JP5418258B2 (ja) | 撮像装置および画像処理方法 | |
JP2009088933A (ja) | 画像記録装置、画像補正装置及び撮像装置 |