JP2015159375A - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP2015159375A JP2015159375A JP2014032175A JP2014032175A JP2015159375A JP 2015159375 A JP2015159375 A JP 2015159375A JP 2014032175 A JP2014032175 A JP 2014032175A JP 2014032175 A JP2014032175 A JP 2014032175A JP 2015159375 A JP2015159375 A JP 2015159375A
- Authority
- JP
- Japan
- Prior art keywords
- image
- filter
- pixel
- moving object
- filter coefficient
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】処理時間を抑えて動画に対して分割フィルタ処理を適用できるようにする。【解決手段】処理対象の入力画像Nと入力画像Nから時間的に連続する画像とを含む9枚の入力画像N−4〜N+4を入力し、入力されたそれぞれの入力画像N−4〜N+4に対してそれぞれフィルタ係数k0〜k8によりフィルタ処理を行う。そして、フィルタ処理された中間画像からそれぞれフィルタ係数に応じた位置の画素を読み出して入力画像Nに対応する合成画像を生成する。そして、入力画像Nから主被写体を判別し、主被写体を入力画像Nから抽出し、前記合成画像に合成する。【選択図】図1
Description
本発明は、特に、動画に対してフィルタ処理を行うために用いて好適な画像処理装置、画像処理方法及びプログラムに関する。
従来、被写界深度を浅くして撮影することによって背景だけをぼかし、被写体をより目立たせる撮影方法がある。ここで、被写界深度は、F値を小さくしたり、焦点距離を長くしたり、撮影距離を近くしたりすることによって浅くすることができるが、従来の安価な撮像装置には、実際の焦点距離を長くすることができず、被写界深度を浅くしにくいものもある。そこで、画像中の主要部と背景とを分離し、フィルタ処理で背景をぼかして主要部と合成することによって同等の効果を得ることができる撮像装置が知られている(例えば特許文献1参照)。
また、主要部と背景との距離に応じてぼかし量を変える技術も提案されている。この場合、主要部と背景との距離が近い場合にはぼかし量は少なくて済むので、フィルタの回路規模は比較的小さくて済む。ところが、主要部と背景との距離が遠い場合にはぼかし量を多くしなければならないので、回路規模の大きいフィルタが必要になってしまう。そこで、回路規模を大きくせずにぼかし量が多い効果を得る技術の一つに、フィルタの畳みこみ演算を時分割する(以下、分割フィルタ処理と呼ぶ)ことが考えられる。
しかしながら分割フィルタ処理では、1枚の画像に対してフィルタ係数を変えながら複数回フィルタ処理し、それらの結果を加算して所望のフィルタ処理がなされた画像を得る。このため、最終結果を得るまでの処理時間が長くなり、動画に対してフィルタ処理を行うと、莫大な時間がかかってしまう。
本発明は前述の問題点に鑑み、処理時間を抑えて動画に対して分割フィルタ処理を適用できるようにすることを目的としている。
本発明に係る画像処理装置は、処理対象の画像と前記処理対象の画像から時間的に連続する画像とを含む所定の枚数の入力画像を入力し、前記入力されたそれぞれの入力画像に対して前記所定の枚数分の異なるフィルタ係数によりそれぞれフィルタ処理を行う第1のフィルタ処理手段と、記第1のフィルタ処理手段によってフィルタ処理された前記所定の枚数の入力画像からそれぞれ前記フィルタ係数に応じた位置の画素を抽出して前記処理対象の画像に対応する合成画像を生成する合成手段と、を有することを特徴とする。
本発明によれば、処理時間を抑えて動画に対して分割フィルタ処理を適用することができる。
以下、本発明の実施形態について、図面を参照しながら説明する。
(第1の実施形態)
図1は、本実施形態に係る画像処理装置の一例である撮像装置100の構成例を示すブロック図である。
図1において、光学系101はズームレンズ、フォーカスレンズ、及び絞りを含んでおり、システム制御部111により駆動される。現像処理部103は、撮像素子102からの画像信号を現像する。フィルタ処理部104は、現像された画像信号に対してフィルタ処理を施す。フィルタ係数制御部105は、フィルタ処理部104に出力するフィルタ係数を選択する制御を行う。
(第1の実施形態)
図1は、本実施形態に係る画像処理装置の一例である撮像装置100の構成例を示すブロック図である。
図1において、光学系101はズームレンズ、フォーカスレンズ、及び絞りを含んでおり、システム制御部111により駆動される。現像処理部103は、撮像素子102からの画像信号を現像する。フィルタ処理部104は、現像された画像信号に対してフィルタ処理を施す。フィルタ係数制御部105は、フィルタ処理部104に出力するフィルタ係数を選択する制御を行う。
メモリ106は、フィルタ処理部104で処理された画像信号を保持する。動き検出部107は例えば角速度センサであり、角速度センサから動きを検出する。合成部108は、システム制御部111によって生成された動き情報に基づいて読み出す画素位置を制御するとともに、読み出した画素を合成する。主被写体判別部109は、画像信号から主被写体を判別し、主被写体情報を生成する。背景被写体合成部110は、主被写体判別部109で生成された主被写体情報に基づき、メモリ106に格納された画像信号と合成部108によって合成された画像信号とを合成する。システム制御部111は、撮像装置100全体を制御する。
以下、上述のように構成された撮像装置100による撮影動作について説明する。まず、光学系101は、システム制御部111からの制御信号により、絞りとレンズとを駆動して、適切な明るさに設定された被写体像を撮像素子102上に結像させる。撮像素子102は、システム制御部111により制御される駆動パルスで駆動され、被写体像を光電変換により電気信号に変換して画像信号として出力する。
現像処理部103は、撮像素子102からの画像信号を輝度・色差の信号に変換し、輝度・色差の画像信号をフィルタ処理部104に出力する。また、主被写体部分はフィルタ処理が不要であるため、さらに輝度・色差の画像信号をメモリ106に出力する。フィルタ処理部104は、フィルタ係数制御部105によって選択されたフィルタ係数に基づき、現像処理部103から入力された画像信号にフィルタ処理を施してメモリ106に出力する。
動き検出部107は、例えば角速度センサであって、撮像装置100に加わったブレにより生じる角速度を検出する。そして、検出された角速度をシステム制御部111により撮像時間(入力画像)と関連付けて水平、垂直方向の動き情報に変換し、合成部108へ出力する。これにより入力画像と動き情報とを関連付ける。合成部108は、システム制御部111により生成された動き情報に基づき、メモリ106に格納された画像信号から読み出す画素位置を制御するとともに、読み出した画素を合成した合成画像を生成し、背景被写体合成部110へ出力する。
主被写体判別部109は、メモリ106に格納された画像信号から被写体を検出するとともに、画面の中央に近い位置であって、かつサイズが大きい被写体を主被写体と判別する。そして、主被写体のサイズ及び位置情報を含む主被写体情報を背景被写体合成部110へ出力する。背景被写体合成部110は、主被写体判別部109から入力された主被写体のサイズ及び位置情報に基づき、メモリ106に格納されているフィルタ処理がされていない画像信号と、合成部108によって合成された画像信号とを合成する。
合成部108によって合成された画像信号はフィルタ処理がなされており、この画像信号を背景として用いる。メモリ106に格納されたフィルタ処理がなされていない画像信号から主被写体を抽出し、合成部108によって合成された画像信号の同位置に合成することによって、背景がぼけ、被写体を目立たせた出力画像を生成することができる。
ここで、図11〜図14を参照しながら、水平9タップ、垂直9タップの空間フィルタの場合の一般的な分割フィルタ処理について説明する。
図11は、水平9タップ、垂直9タップの空間フィルタのフィルタ係数を説明するための図である。
図11において、k0〜k8は、フィルタ係数を水平、垂直3タップずつに分離した時のそれぞれの位置のフィルタ係数を示している。
図11は、水平9タップ、垂直9タップの空間フィルタのフィルタ係数を説明するための図である。
図11において、k0〜k8は、フィルタ係数を水平、垂直3タップずつに分離した時のそれぞれの位置のフィルタ係数を示している。
図12は、着目画素位置(i,j)における水平9タップ、垂直9タップの空間フィルタの参照範囲を説明するための図である。参照範囲の中心画素である着目画素は、例えば以下の式(1)に示すような演算を用いてフィルタ処理される。
ここで、iは画像の水平アドレス、jは画像の垂直アドレス、aはフィルタ係数、Iは画素値を示し、pは、図12に示すような着目画素位置(i,j)に対しフィルタ処理した結果となる。
次に、図13及び図14を参照しながら、畳み込み演算を水平3タップ、垂直3タップずつに分割した分割フィルタ処理について説明する。
図13は、分割フィルタ処理の手順の一例を示すフローチャートである。
まず、図13のS1300において、変数nに0をセットしてS1301に進む。そして、S1301においては、中間画像pnを求め、S1302に進む。n=0である場合には、例えば以下の式(2)を用いて中間画像p0を求め、S1302へ進む。
図13は、分割フィルタ処理の手順の一例を示すフローチャートである。
まず、図13のS1300において、変数nに0をセットしてS1301に進む。そして、S1301においては、中間画像pnを求め、S1302に進む。n=0である場合には、例えば以下の式(2)を用いて中間画像p0を求め、S1302へ進む。
ここで式(2)の演算は、画面全体に対して行われるものであり、すなわち中間画像p0は、図11における、左上のフィルタ係数k0を用いて画面全体にフィルタ処理を行った画像信号ということになる。そして、S1302においては、中間画像p0をメモリに保持し、S1303へ進む。
次にS1303においては、全分割数の演算が完了したかどうかを判定する。この判定の結果、全分割数の演算が完了していない場合はS1304へ進み、完了した場合はS1305へ進む。S1304においては、次の分割位置の演算に移るため、nにn+1をセットし、S1301に戻る。なお、畳み込み演算を水平3タップ、垂直3タップずつに分割しているため、分割数としては9分割となる。そのため、nは0から8までインクリメントされていき、S1301では、それぞれ以下の式(3)〜式(10)を用いて中間画像pnを求め、メモリに保持する。
S1305においては、これまで計算した中間画像p0〜p8を加算して処理を終了する。ここで、中間画像の加算処理について説明する。
図14は、分割フィルタ処理の加算動作を説明するための図である。
図14において、位置(i,j)の斜線の画素が着目画素であり、領域1400は着目画素に対して水平9タップ、垂直9タップの空間フィルタが参照する範囲を示す。また、領域1401は着目画素に対する中間画像上の参照位置を示す。また、図14(a)〜図14(i)は、それぞれ中間画像p0〜p8を示す。
図14において、位置(i,j)の斜線の画素が着目画素であり、領域1400は着目画素に対して水平9タップ、垂直9タップの空間フィルタが参照する範囲を示す。また、領域1401は着目画素に対する中間画像上の参照位置を示す。また、図14(a)〜図14(i)は、それぞれ中間画像p0〜p8を示す。
水平9タップ、垂直9タップの空間フィルタと同じ効果を得るためには、着目画素(i,j)に対し、中間画像p0上からは座標(i−3,j−3)の位置を中心とした水平3タップ、垂直3タップの空間フィルタをかけた画素が必要である。同様に中間画像p1〜p8上からは、それぞれ座標(i,j−3)、(i+3,j−3)、(i−3,j)、(i,j)、(i+3,j)、(i−3,j+3)、(i,j+3)、(i+3,j+3)の位置の画素値を取得し、加算すれば良い。
以上のように、畳み込み演算を水平3タップ、垂直3タップずつに分割することによって回路規模が小さいまま水平9タップ、垂直9タップの空間フィルタをかけるのと同じ効果を得ることができる。
次に、図2〜図4を参照しながら、フィルタ処理部104、フィルタ係数制御部105、及び合成部108の制御動作について説明する。
図2は、フィルタ処理部104、及びフィルタ係数制御部105の制御動作を説明するための図である。
図2において、入力画像N−4、N−3、・・・、N+5、N+6は、それぞれ現像処理部103から入力される画像信号(フレーム)であり、N−4からN+6へ向かって時間が経過する連続した画像である。フィルタ係数k0、k1、・・・、k8は、図11に示す入力画像の枚数分のそれぞれの位置のフィルタ係数を示す。
図2において、入力画像N−4、N−3、・・・、N+5、N+6は、それぞれ現像処理部103から入力される画像信号(フレーム)であり、N−4からN+6へ向かって時間が経過する連続した画像である。フィルタ係数k0、k1、・・・、k8は、図11に示す入力画像の枚数分のそれぞれの位置のフィルタ係数を示す。
フィルタ処理後の中間画像p0'は、入力画像N−4に対してフィルタ係数k0によりフィルタ処理された画像である。同様に、中間画像p1'、・・・、p8'は、それぞれ入力画像N−3、・・・、N+4に対してそれぞれフィルタ係数k1・・・、k8によりフィルタ処理された画像である。フィルタ係数がk8になった場合には、次のフレームに対してはフィルタ係数k0によりフィルタ処理を行う。すなわち、フィルタ係数制御部105は、フレームごとに異なる位置のフィルタ係数を選択する。フィルタ処理部104は現像処理部103から入力された画像信号に対し、フィルタ係数制御部105によって選択されたフィルタ係数を用いてフィルタ処理を行う。フィルタ処理が実施された画像信号はメモリ106に保持される。
次に、図3及び図4を参照しながら合成部108の制御動作について説明する。メモリ106に格納されたフィルタ処理後の画像信号は、時間的に異なる画像であるため、手ブレ等によって互いに画面全体がずれた画像である可能性がある。図13及び図14に示すような分割フィルタ処理の加算動作では、同じ背景に対してフィルタ処理した結果を取得して加算しないと、異なる背景の成分が混じってしまう可能性がある。そこで本実施形態では、水平方向及び垂直方向の動き量より着目画素の移動先を算出し、移動先の着目画素との位置関係で取得する画素位置を決定する。
図3は、手ブレ等によって被写体の画像上の位置がずれている例を説明するための図である。図3(a)及び図3(b)は、それぞれフィルタ処理された画像p0'、p1'を示している。なお、図3において、網掛けの部分が被写体を表している。図3に示す例では、図3(b)に示す画像の方が時間的に後の画像であり、被写体は動いていないが手ブレ等によって、被写体の画像上の位置が右に2画素、下に2画素ずれてしまっていることを示している。被写体がずれてしまっているにも関わらず、図3(b)に示すように画像上の決まった位置よりフィルタ処理した結果を取得してしまうと、異なる背景の成分が混じってしまう。そこで、図3(c)に示すように、被写体のずれに合わせてフィルタ処理した結果の取得位置を変えることによって異なる背景の成分を混ぜずに所望の結果を得ることができる。
図4は、本実施形態における合成処理手順の一例を示すフローチャートである。
まず、図4のS400において、システム制御部111は、変数nに0をセットしてS401に進む。次に、S401においては、フィルタ処理部104は、現像処理部103から処理対象となる画像信号を取得し、S402へ進む。そして、S402においては、フィルタ処理部104は、フィルタ係数制御部105によって図2に示したように選択されたフィルタ係数を用いてフィルタ処理を行う。変数n=0である場合には、例えば以下の式(11)により中間画像p0'を求め、S403へ進む。なお、以下の式(11)は、前述した式(2)と同等の式であり、中間画像p1'〜p8'についても、それぞれ前述した式(3)〜式(10)と同等の式を用いる。
まず、図4のS400において、システム制御部111は、変数nに0をセットしてS401に進む。次に、S401においては、フィルタ処理部104は、現像処理部103から処理対象となる画像信号を取得し、S402へ進む。そして、S402においては、フィルタ処理部104は、フィルタ係数制御部105によって図2に示したように選択されたフィルタ係数を用いてフィルタ処理を行う。変数n=0である場合には、例えば以下の式(11)により中間画像p0'を求め、S403へ進む。なお、以下の式(11)は、前述した式(2)と同等の式であり、中間画像p1'〜p8'についても、それぞれ前述した式(3)〜式(10)と同等の式を用いる。
次に、S403においては、中間画像pn'をメモリ106に格納し、S404へ進む。そして、S404においては、動き検出部107により、撮像装置100に加わったブレにより生じる角速度を検出し、システム制御部111は、検出された角速度を変換して水平方向及び垂直方向の動き情報を取得し、S405へ進む。
続いてS405においては、合成部108は、メモリ106に保持されている中間画像pn'から、所定の位置の画素を読み出す。このとき、それぞれの中間画像の動き情報に基づいて被写体に追従した画素を読み出す。次のS406においては、合成部108は、S405で読み出した画素を、図14を用いて説明したように加算してS407へ進む。S407においては、システム制御部111は、背景ぼかしの処理を終了するか否かを判定する。この判定の結果、背景ぼかしの処理を終了する場合には、中間画像p0'〜p8'を用いたぼかし処理を終了し、そうでない場合はS408へ進む。S408においては、システム制御部111は、nをインクリメントし、S401へ進む。
なお、図4に示した例では、処理対象である入力画像Nに対応する背景ぼかしの画像を生成する例について説明した。一方、例えば入力画像N+1に対応する背景ぼかしの画像を生成する場合には、中間画像p1'〜p8'及び中間画像p0"から読み出した画素を加算合成することにより入力画像N+1に対応する背景ぼかしの画像を生成する。これにより、それぞれの入力画像に対応する背景ぼかしの画像を生成することができる。
以上説明したように本実施形態によれば、時間的に異なる画像に対し、フィルタ係数を変えながらフィルタ処理を実施するようにしたので、処理時間を抑えて動画に対して分割フィルタ処理を適用することができる。また、動き情報を用いて合成する画素を決定するようにしたので、手ブレ等により被写体の位置がずれている場合であっても、適切な画素を選択することができる。
(第2の実施形態)
以下、図5〜図8を参照しながら本実施形態について説明する。第1の実施形態と異なっている点は、動体検出部を設け、画面内の動体を検出するとともに、着目画素が動体領域内か動体領域外かによって制御を変える点である。
以下、図5〜図8を参照しながら本実施形態について説明する。第1の実施形態と異なっている点は、動体検出部を設け、画面内の動体を検出するとともに、着目画素が動体領域内か動体領域外かによって制御を変える点である。
図5は、本実施形態に係る撮像装置500の構成例を示すブロック図である。図1と比較して同一の構成については同一の番号を付しており、重複する構成の説明は省略する。以下、図1と異なる点について説明する。
図5において、動体検出部512は、現像処理部103から入力された画像信号とメモリ106に格納されている画像信号とのテンプレートマッチングによって動体を検出する。また、動体検出部512は、検出した動体の位置情報を生成し、フィルタ係数制御部105及び合成部108に出力する。
図5において、動体検出部512は、現像処理部103から入力された画像信号とメモリ106に格納されている画像信号とのテンプレートマッチングによって動体を検出する。また、動体検出部512は、検出した動体の位置情報を生成し、フィルタ係数制御部105及び合成部108に出力する。
次に、図6〜図8を参照しながら、本実施形態におけるフィルタ係数制御部105、及び合成部108の制御動作を説明する。図6(a)は、着目画素が動体領域内である場合のフィルタ係数制御部105の制御動作を説明するための図であり、図6(b)は、着目画素が動体領域外である場合のフィルタ係数制御部105の制御動作を説明するための図である。ここで、図6(a)と図6(b)とでは、同じ画像(中間画像p0''')を表しており、着目画素が異なる関係であるものとする。
図6(a)において、網掛け部分は動体であり、着目画素は(i,j)の位置である。黒く塗りつぶされている部分は動体に含まれている。また、領域600は着目画素に対し水平9タップ、垂直9タップの空間フィルタが参照する範囲を示し、領域601は着目画素に対する中間画像上の参照位置を示す。ここで、着目画素が動体領域内の場合には、動体領域外の成分が混ざらないようにすることが好ましい。そこで、中間画像を生成する時に動体の位置情報を参照し、フィルタ参照範囲内に動体領域外の画素が含まれていた場合には、フィルタ係数をゼロに置き換え、その画素を参照しないようにする。
一方、図6(b)において、網掛け部分は動体であり、着目画素は(i+4,j)の位置である。黒く塗りつぶされている部分は動体に含まれている。また、領域600は着目画素に対し水平9タップ、垂直9タップの空間フィルタが参照する範囲を示し、領域601は着目画素に対する中間画像上の参照位置を示す。ここで、着目画素が動体領域外の場合には、動体の成分が混ざらないようにすることが好ましい。そこで、中間画像を生成する時に動体の位置情報を参照し、フィルタ参照範囲内に動体の画素が含まれていた場合には、フィルタ係数をゼロに置き換え、その画素を参照しないようにする。
図7は、合成部108の動体に対する読み出し制御を説明するための図である。図7(a)は中間画像p0'''画像を示しており、図7(b)は中間画像p1'''を示している。また、網掛けの部分は動体を表しており、黒く塗りつぶされている画素は動体の画素である。図7(a)に示す画像よりも、図7(b)の方が時間的に後の画像であり、動体が左に4画素(上下方向には変わらず)の位置に動いたことを示している。ここで、動体が移動しているにも関わらず、図7(b)に示すように画像上の決まった位置のフィルタ処理した結果を取得してしまうと、異なる背景の成分が混じってしまう。そこで本実施形態では、図7(c)に示すように、動体の移動に合わせてフィルタ処理した結果の取得位置を変えることによって異なる背景の成分を混ぜずに所望の結果を得るようにする。また、第1の実施形態と同様に、動き検出部107の検出結果も反映させる。
図8は、本実施形態における合成処理手順の一例を示すフローチャートである。
まず、図8のS800において、システム制御部111は、変数nに0をセットしてS801に進む。次に、S801においては、フィルタ処理部104は、現像処理部103から画像信号を取得し、S802へ進む。
まず、図8のS800において、システム制御部111は、変数nに0をセットしてS801に進む。次に、S801においては、フィルタ処理部104は、現像処理部103から画像信号を取得し、S802へ進む。
次に、S802において、動体検出部512は、前述したテンプレートマッチングによって動体を検出し、システム制御部111は、その動体の位置情報を取得する。そして、S803において、システム制御部111は、着目画素が動体領域内であるか否かを判定する。この判定の結果、着目画素が動体領域内である場合には、S804へ進み、動体領域外である場合にはS805へ進む。
S804においては、フィルタ係数制御部105は、着目画素が動体領域内であることから、動体領域外の成分が混ざらないように、動体画素以外の位置のフィルタ係数をゼロに置き換え、S806へ進む。一方、S805においては、フィルタ係数制御部105は、着目画素が動体領域外であることから、動体領域内の成分が混ざらないように、動体領域の画素の位置のフィルタ係数をゼロに置き換え、S806へ進む。
次に、S806においては、フィルタ処理部104は、フィルタ係数制御部105によって図2に示したように選択されたフィルタ係数を用いてフィルタ処理を行う。このとき、S804またはS805における設定を反映させる。変数n=0である場合には、例えば以下の式(12)に示すような演算を用いて中間画像p0'''を求め、S807へ進む。
ここで、blmはalmのうちフィルタ係数の一部または全部をゼロに置き換えたフィルタ係数を示す。また、中間画像p1'''〜p8'''を求める際にも、前述した式(3)〜式(10)において、フィルタ係数blmに置き換えた式を用いる。なお、着目画素の位置によってフィルタ係数の多くがゼロに置き換えられてしまう場合もある。この場合には、その位置の成分が少なくなり、重心がずれてしまう。そこで、動体の割合が所定値を超えた場合に、より過去の中間画像を保持しておき、その中間画像からその位置の成分を取得するように処理結果を代用してもよい。
次のS807においては、フィルタ処理部104は、中間画像p0'''をメモリ106に格納し、S808へ進む。S808においては、合成部108は、メモリ106に保持されている中間画像pn'''から所定の位置の画素を読み出す。このとき、動体検出部512にて生成した動体の位置情報に基づいて動体に追従した画素を読み出す。次のS809においては、合成部108は、S808で読み出した画素を、図14を用いて説明したように加算し、S810へ進む。
続いてS810において、システム制御部111は、背景ぼかしの処理を終了するか否かを判定する。この判定の結果、背景ぼかしの処理を終了する場合には、中間画像p0'''〜p8'''を用いたぼかし処理を終了し、そうでない場合はS811へ進む。S811においては、システム制御部111は、nをインクリメントし、S801に戻る。なお、背景被写体合成部110による合成処理については第1の実施形態と同様である。
以上のように本実施形態によれば、さらに動体を考慮してフィルタ係数を制御するようにした。これにより、着目画素が動体領域内の場合には、動体領域外の成分を混ぜないようにすることができ、着目画素が動体領域外の場合には、動体領域の成分を混ぜないようにすることができる。また、動体の移動に合わせてフィルタ処理した結果に基づいて読み出す画素の位置を変更するため、異なる背景の成分を混ぜないようにして所望の結果を得ることができる。
(第3の実施形態)
以下、図9及び図10を参照しながら本実施形態について説明する。第1の実施形態と異なっている点は、第1のフィルタ処理部及び第2のフィルタ処理部を有しており、第2のフィルタ処理部では常に着目画素を含むフィルタ係数を設定してフィルタ処理を行う点である。本実施形態では、最終画質に影響の大きい着目画素周辺の処理頻度を高めることによって違和感の少ない画質を得るようにしている。
以下、図9及び図10を参照しながら本実施形態について説明する。第1の実施形態と異なっている点は、第1のフィルタ処理部及び第2のフィルタ処理部を有しており、第2のフィルタ処理部では常に着目画素を含むフィルタ係数を設定してフィルタ処理を行う点である。本実施形態では、最終画質に影響の大きい着目画素周辺の処理頻度を高めることによって違和感の少ない画質を得るようにしている。
図9は、本実施形態に係る撮像装置900の構成例を示すブロック図である。図1と比較して同一の構成については同一の番号を付しており、重複する構成の説明は省略する。以下、図1と異なる点について説明する。
図9において、第1のフィルタ処理部904は、図1に示すフィルタ処理部104と同様である。第2のフィルタ処理部913は、フィルタ係数制御部105によって設定されたフィルタ係数により、現像処理部103から入力された画像信号に対してフィルタ処理を行い、メモリ106に中間画像を格納する。第1のフィルタ処理部904の処理と異なる点については後述する。
図9において、第1のフィルタ処理部904は、図1に示すフィルタ処理部104と同様である。第2のフィルタ処理部913は、フィルタ係数制御部105によって設定されたフィルタ係数により、現像処理部103から入力された画像信号に対してフィルタ処理を行い、メモリ106に中間画像を格納する。第1のフィルタ処理部904の処理と異なる点については後述する。
次に、図10を参照しながら、第1のフィルタ処理部904、フィルタ係数制御部105、合成部108、及び第2のフィルタ処理部913の制御動作について説明する。
図10は、第1のフィルタ処理部904、第2のフィルタ処理部913及びフィルタ係数制御部105の制御動作を説明するための図である。
図10において、入力画像N−4、N−3、・・・、N+5、N+6は、それぞれ現像処理部103から入力される画像信号(フレーム)であり、N−4からN+6へ向かって時間が異なる連続な画像である。フィルタ係数k0、k1、・・・、k8は、図11における、それぞれの位置のフィルタ係数を示す。
図10において、入力画像N−4、N−3、・・・、N+5、N+6は、それぞれ現像処理部103から入力される画像信号(フレーム)であり、N−4からN+6へ向かって時間が異なる連続な画像である。フィルタ係数k0、k1、・・・、k8は、図11における、それぞれの位置のフィルタ係数を示す。
フィルタ処理後の中間画像p0''''は、入力画像N−4に対してフィルタ係数k0によりフィルタ処理された画像である。同様に、中間画像p1''''、・・・、p8''''は、それぞれ入力画像N−3、・・・、N+4に対してそれぞれフィルタ係数k1・・・、k8によりフィルタ処理された画像である。フィルタ係数がk8になった場合には、次のフレームに対してはフィルタ係数k0によりフィルタ処理を行う。
ここで、着目画素を含むフィルタ係数が適用されるのはフィルタ係数k4の場合であり、第1の実施形態の場合には、9回に1度しか用いられない。すなわち、最終画質に影響の大きい着目画素周辺の処理頻度が低いため、違和感のある画質となる可能性がある。そこで、最終画質に影響の大きい着目画素周辺の処理頻度を高めるために、第2のフィルタ処理部913では、例えば常にフィルタ係数k4を用いてフィルタ処理した中間画像を生成する。そして、第1のフィルタ処理部904では、フィルタ係数k4以外のフィルタ係数を用いてフィルタ処理した中間画像を生成する。これにより、違和感の少ない画質を得ることができるようにしている。
合成部108による合成処理では、入力画像に対してフィルタ処理された中間画像が2種類含まれている点を除き、第1の実施形態と同様の手順により背景ぼかしの画像を生成することができる。すなわち、例えばフィルタ係数k4によってフィルタ処理される中間画像が毎フレーム更新されている点で異なるだけであり、合成手順そのものは第1の実施形態と同様の制御となる。
以上のように本実施形態によれば、第2のフィルタ処理部913に対して常に着目画素を含むフィルタ係数を設定してフィルタ処理を行うようにした。これにより、最終画質に影響の大きい着目画素周辺の処理頻度を高めることができる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
104 フィルタ処理部
108 合成部
109 主被写体判別部
110 背景被写体合成部
111 システム制御部
108 合成部
109 主被写体判別部
110 背景被写体合成部
111 システム制御部
Claims (10)
- 処理対象の画像と前記処理対象の画像から時間的に連続する画像とを含む所定の枚数の入力画像を入力し、前記入力されたそれぞれの入力画像に対して前記所定の枚数分の異なるフィルタ係数によりそれぞれフィルタ処理を行う第1のフィルタ処理手段と、
前記第1のフィルタ処理手段によってフィルタ処理された前記所定の枚数の入力画像からそれぞれ前記フィルタ係数に応じた位置の画素を抽出して前記処理対象の画像に対応する合成画像を生成する合成手段と、
を有することを特徴とする画像処理装置。 - 前記処理対象の画像から主被写体を判別する判別手段と、
前記判別手段によって判別された主被写体を前記処理対象の画像から抽出し、前記合成手段によって生成された合成画像に合成して出力画像を生成する生成手段とを有することを特徴とする請求項1に記載の画像処理装置。 - 主被写体を含む被写体を撮像して前記処理対象の画像を生成する撮像手段と、
前記処理対象の画像に係る前記撮像手段による撮像が行われたときの前記画像処理装置の動きを検出する動き検出手段と、
をさらに有し、
前記合成手段は、前記フィルタ係数と前記動き検出手段によって検出された動きとに応じた位置の画素を抽出して前記処理対象の画像に対応する合成画像を生成することを特徴とする請求項1又は2に記載の画像処理装置。 - 前記処理対象の画像から動体を検出して前記動体の動きを検出する動体検出手段と、
前記フィルタ係数を選択する制御を行うフィルタ係数制御手段と、
をさらに有し、
前記フィルタ係数制御手段は、前記動体検出手段によって検出された動体に含まれる画素か否かに基づいて前記フィルタ係数を制御することを特徴とする請求項1又は2に記載の画像処理装置。 - 前記フィルタ係数制御手段は、前記第1のフィルタ処理手段によって適用される参照範囲の中心画素が動体であった場合は、前記動体の画素を参照するように前記フィルタ係数を制御し、中心画素が動体でない場合は、前記動体の画素を参照しないように前記フィルタ係数を制御するようにすることを特徴とする請求項4に記載の画像処理装置。
- 前記合成手段は、前記フィルタ係数と前記動体検出手段によって検出された動体の動きとに応じた位置の画素を抽出して前記処理対象の画像に対応する合成画像を生成することを特徴とする請求項4又は5に記載の画像処理装置。
- 前記第1のフィルタ処理手段は、適用される参照範囲における前記動体の割合が所定値を超えた場合に、過去の処理結果を代用することを特徴とする請求項4〜6の何れか1項に記載の画像処理装置。
- 前記処理対象の画像に対して着目画素を含むフィルタ係数によりフィルタ処理を行う第2のフィルタ処理手段をさらに有し、
前記第1のフィルタ処理手段は、前記第2のフィルタ処理手段で用いられていないフィルタ係数によりフィルタ処理を行い、
前記合成手段は、前記第1のフィルタ処理手段によってフィルタ処理された前記所定の枚数の入力画像と、前記第2のフィルタ処理手段によってフィルタ処理された処理対象の画像とからそれぞれ前記フィルタ係数に応じた位置の画素を抽出して前記処理対象の画像に対応する合成画像を生成することを特徴とする請求項1又は2に記載の画像処理装置。 - 処理対象の画像と前記処理対象の画像から時間的に連続する画像とを含む所定の枚数の入力画像を入力し、前記入力されたそれぞれの入力画像に対して前記所定の枚数分の異なるフィルタ係数によりそれぞれフィルタ処理を行う第1のフィルタ処理工程と、
前記第1のフィルタ処理工程においてフィルタ処理された前記所定の枚数の入力画像からそれぞれ前記フィルタ係数に応じた位置の画素を抽出して前記処理対象の画像に対応する合成画像を生成する合成工程と、
を有することを特徴とする画像処理方法。 - 処理対象の画像と前記処理対象の画像から時間的に連続する画像とを含む所定の枚数の入力画像を入力し、前記入力されたそれぞれの入力画像に対して前記所定の枚数分の異なるフィルタ係数によりそれぞれフィルタ処理を行う第1のフィルタ処理工程と、
前記第1のフィルタ処理工程においてフィルタ処理された前記所定の枚数の入力画像からそれぞれ前記フィルタ係数に応じた位置の画素を抽出して前記処理対象の画像に対応する合成画像を生成する合成工程と、
をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014032175A JP2015159375A (ja) | 2014-02-21 | 2014-02-21 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014032175A JP2015159375A (ja) | 2014-02-21 | 2014-02-21 | 画像処理装置、画像処理方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015159375A true JP2015159375A (ja) | 2015-09-03 |
Family
ID=54183090
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014032175A Pending JP2015159375A (ja) | 2014-02-21 | 2014-02-21 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015159375A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016167774A (ja) * | 2015-03-10 | 2016-09-15 | キヤノン株式会社 | 画像信号処理装置、画像信号処理方法、及びプログラム |
-
2014
- 2014-02-21 JP JP2014032175A patent/JP2015159375A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016167774A (ja) * | 2015-03-10 | 2016-09-15 | キヤノン株式会社 | 画像信号処理装置、画像信号処理方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7003238B2 (ja) | 画像処理方法、装置、及び、デバイス | |
JP5968107B2 (ja) | 画像処理方法、画像処理装置およびプログラム | |
JP5820257B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP6347675B2 (ja) | 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム | |
JP6548367B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP5725953B2 (ja) | 撮像装置及びその制御方法、並びに情報処理装置 | |
JP6594180B2 (ja) | 撮像装置、撮像装置の制御方法及びプログラム | |
JP5968073B2 (ja) | 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム | |
JP2010141653A (ja) | 画像処理装置及び撮像装置 | |
US9332195B2 (en) | Image processing apparatus, imaging apparatus, and image processing method | |
JP2010226694A (ja) | 画像処理装置及び画像処理方法 | |
JP2016053849A (ja) | 画像処理装置および画像処理方法、並びに固体撮像装置 | |
JP6261205B2 (ja) | 画像処理装置 | |
JP6604908B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2017060010A (ja) | 撮像装置、撮像装置の制御方法、およびプログラム | |
JP7057079B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP2010193476A (ja) | 撮像装置及び画像再生装置 | |
JP2015159375A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6012396B2 (ja) | 画像処理装置、画像処理方法およびプログラム。 | |
JP7296750B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2019016893A (ja) | 画像処理装置およびその制御方法及びプログラム | |
JP2013175821A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2017203932A (ja) | 画像取得装置 | |
JP2014049895A (ja) | 画像処理方法 | |
JP2016192755A (ja) | 画像信号処理装置、画像信号処理方法、及びプログラム |