JP2016220016A - 画像処理装置、撮像装置、画像処理方法、プログラム - Google Patents

画像処理装置、撮像装置、画像処理方法、プログラム Download PDF

Info

Publication number
JP2016220016A
JP2016220016A JP2015102610A JP2015102610A JP2016220016A JP 2016220016 A JP2016220016 A JP 2016220016A JP 2015102610 A JP2015102610 A JP 2015102610A JP 2015102610 A JP2015102610 A JP 2015102610A JP 2016220016 A JP2016220016 A JP 2016220016A
Authority
JP
Japan
Prior art keywords
image
shape
image processing
pixel data
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015102610A
Other languages
English (en)
Inventor
文裕 梶村
Fumihiro Kajimura
文裕 梶村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015102610A priority Critical patent/JP2016220016A/ja
Publication of JP2016220016A publication Critical patent/JP2016220016A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】撮影時に特殊な方法を用いることなく撮像された画像に対してボケ形状の変更処理を行うこと。
【解決手段】撮像装置は、撮像素子6上の画素へ入射する光束を撮影レンズの特定の瞳領域に制限する瞳分割素子としてマイクロレンズアレイ20を備える。画像処理部7は撮像素子6から画素出力信号を取得し、画素データを加算して合成画素データを生成する。操作検出部11は、輝点をぼかす際に使用されるボケ形状がユーザによって選択された場合、ユーザ操作を検出してカメラシステム制御部5に通知する。カメラシステム制御部5は、ユーザ操作によって選択された、輝点をぼかす際に使用する形状情報にしたがって、輝点の画素データに乗算する重み付け係数値を制御する。
【選択図】 図1

Description

本発明は、撮像された画像に対して形状の変更処理を行う画像処理技術に関する。
デジタルカメラ等の撮像装置では、ユーザの求めに応えるために、様々な特殊効果を得る撮影方法がある。特殊効果を得るための撮影方法として、例えば撮影レンズの先端部にクロスフィルタを装着し、イルミネーション等の輝点を十字形状にぼかす方法がある。また特許文献1には、被写体像に含まれる輝点でさまざまな図形を描画する技術が開示されている。特許文献1に記載の撮像装置は、手振れ補正機構およびズーム機構を駆動して露光することで、輝点を手振れ補正機構及びズーム機構の動作軌跡で示す形状にぼかすことができる。
特開2008−278317号公報
従来の技術では、撮影時にクロスフィルタを撮影レンズの先端部に装着することや、手振れ補正機構を駆動させること等が必要である。そのため、撮影時に特殊な撮影方法を使用せずに、撮像装置を用いた通常の撮影で得られる画像に対して特殊効果処理を施した画像を得ることはできない。
本発明の目的は、撮影時に特殊な方法を用いることなく撮像された画像に対してボケ形状の変更処理を行うことである。
本発明に係る装置は、撮像された画像に対して形状の変更処理を行う画像処理装置であって、撮像光学系にて異なる瞳領域を通過した光線の位置および角度の情報を含む複数の画素データを取得する取得手段と、画像内の輝点をぼかす形状情報を選択する形状選択手段と、前記複数の画素データを合成して画像データを生成する像生成手段と、前記形状選択手段により選択された前記形状情報を取得し、前記像生成手段が合成する画素データの重み付けを制御する制御手段を備える。
本発明によれば、撮影時に特殊な方法を用いることなく撮像された画像に対してボケ形状の変更処理を行うことができる。
本発明の第1実施形態に係る撮像装置のブロック図である。 第1実施形態における撮像装置の光学系の模式図である。 像の再構成を示す模式図である。 輝点のボケ形状変更処理を示す模式図である。 輝点のボケ形状情報と加算画素の重み付けを説明する模式図である。 第1実施形態における処理例を説明するフローチャートである。 領域ごとの輝点のボケ形状変更処理を示す模式図である。 点像に対して加算合成画素の重み付け係数を制御した結果を示す模式図である。 第2実施形態における処理例を説明するフローチャートである。 第3実施形態における各光学系の例を説明する模式図である。
以下に、本発明の各実施形態を添付図面に基づいて詳細に説明する。本発明の好ましい実施形態として画像処理装置を、デジタルスチルカメラ、ビデオカメラ等の撮像装置に適用した例を示す。
[第1実施形態]
図1から図8を参照して、本発明の第1実施形態に係る撮像装置について説明する。なお、本実施形態ではレンズ装置をカメラ本体部に装着して撮像する装置を例示するが、レンズ部がカメラ本体部に一体化された構成の装置にも適用可能である。
図1は、撮像装置の電気的構成を示すブロック図である。カメラシステムは、カメラ本体部としてのカメラ1と、レンズ装置2からなり、撮像系、画像処理系、記録再生系、制御系の各構成部を備える。
撮像系は撮像光学系3と撮像素子6を有する光学処理系である。被写体からの光は、撮像光学系3を介して、カメラ本体部内に配置された撮像素子6の撮像面上に結像する。撮像素子6の表面にはマイクロレンズが格子状に配置されている。多数のマイクロレンズはマイクロレンズアレイ(以下、MLAと略記する)20を構成しており、MLA20は瞳分割手段として機能する。MLA20の機能や配置の詳細については図2を用いて後述する。撮像素子6の出力から、焦点調節用の評価量や露光量を表す信号が得られるので、これらの信号に基づいて適切に撮像光学系3が調整される。つまり撮像素子6の近傍に被写体像が結像し、適切な光量の物体光が撮像素子6に露光される。
画像処理系を構成する画像処理部7は、その内部にA(アナログ)/D(デジタル)変換器、ホワイトバランス回路、ガンマ補正回路、補間演算回路等を有しており、記録用の画像データを生成可能である。また、本実施形態の画像処理部7およびカメラシステム制御部5は、本発明の要部である、像シフト手段、像生成手段、加算画素制御手段の各処理機能を実現する。なお、本実施形態に限らず、像シフト手段、像生成手段、加算画素制御手段にそれぞれ対応する処理部を個別に配置した構成で実施する形態でもよい。
記録再生系の構成部は、メモリ部8、表示部9、記録再生部10である。メモリ部8は記憶部に加えて画像データ等の記憶に必要な処理回路を備えている。メモリ部8は、予め定められた方法で画像、動画、音声等のデータの圧縮処理や伸長処理を行う。メモリ部8に記憶された画像データは読出されて、表示部9または記録再生部10へ出力される。表示部9はLCD(液晶表示デバイス)等を備え、カメラシステム制御部5の制御指令にしたがって画像データに対応する映像を表示する。また記録再生部10はカメラシステム制御部5の制御指令にしたがって画像データ等を所定の記録媒体に記録し、または記録媒体からデータを読出して再生する処理を行う。所定の記録媒体は、例えばカメラ本体部に装着して使用可能な半導体メモリデバイス等である。
カメラシステム制御部(以下、カメラ制御部という)5は、撮像装置の制御中枢部であり、カメラシステムの各構成部を制御する。例えば、カメラ制御部5は撮像の際のタイミング信号等を生成して出力し、また、操作指示信号に応動して撮像系、画像処理系、記録再生系の各構成部をそれぞれ制御する。操作検出部11は、操作スイッチやタッチパネル等を用いて行われるユーザの操作を検出し、操作指示信号をカメラ制御部5に出力する。例えば、操作検出部11は不図示のシャッターレリーズ釦の押下を検出してカメラ制御部5に出力する。操作指示信号を取得したカメラ制御部5は、撮像素子6の駆動、画像処理部7の動作、メモリ部8による圧縮処理等を制御し、表示部9に画像や情報を表示する制御を行う。
カメラ制御部5は電気接点部14を通して、レンズ装置2内のレンズシステム制御部(以下、レンズ制御部という)12と相互に通信可能である。つまり、レンズ装置2がカメラ本体部に装着された状態においてカメラ制御部5とレンズ制御部12は通信することができる。例えば、レンズ制御部12はカメラ制御部5に対してレンズ装置2の光学情報を送信する。またレンズ制御部12はカメラ制御部5から制御信号を受信してレンズ駆動部13を制御する。レンズ駆動部13は、レンズ制御部12の制御指令にしたがって焦点調節レンズ、像振れ補正レンズ、絞り等を駆動する。
次に、カメラ制御部5およびレンズ制御部12が協働して行う撮像光学系3の調整動作について説明する。
カメラ制御部5には画像処理部7が接続されている。画像処理部7は、撮像素子6から取得した撮像信号に基づき、撮像画像に係るデフォーカス量を検出して合焦動作に適切な焦点位置や、適正露出制御のための絞り位置を算出してカメラ制御部5に出力する。カメラ制御部5は、電気接点部14を介してレンズ制御部12に制御指令を送信する。レンズ制御部12はレンズ駆動部13を適切に制御して撮像光学系3の光学部材(レンズや絞り等)を駆動する。例えば、レンズ制御部12には不図示の手振れ検出センサが接続されている。手振れ補正モードにてレンズ制御部12は、手振れ検出センサの検出信号に基づきレンズ駆動部13を介して像振れ補正レンズの駆動を制御する。
図2は、本実施形態における撮像光学系3の要部の構成を説明する図である。本発明を適用するためには、いわゆるライトフィールド(光線空間)データと称する光線の位置情報と角度情報を取得する必要がある。本実施形態では、角度情報の取得のために撮像光学系3の結像面近傍にMLA20を配置するとともに、MLA20を構成する1つのマイクロレンズに対して複数の画素を対応させている。
図2(A)は撮像素子6とMLA20の関係を模式的に示す図である。左側にMLA20の正面図を示し、右側にMLA20および撮像素子6の側面図を示す。図2(B)は撮像素子6の画素とMLA20との対応関係を示す模式図である。図2(C)はMLA20によってMLA下に設けられた画素が特定の瞳領域と対応付けられることを示す説明図である。図2(A)から(C)において正面方向(光軸方向)をZ方向とし、Z方向に直交するX方向およびX方向をそれぞれ定義する。図2(B)は紙面に垂直な方向をZ方向とするX−Y平面図である。図2(C)の下側に示す図は紙面に垂直な方向をY方向とするX−Z平面図である。
図2(A)に示すように、撮像素子6上にはMLA20が設けられている。MLA20の前側主点は、撮像光学系3の結像面近傍になるように配置されている。撮像装置の正面から見た場合、MLA20の各マイクロレンズが撮像素子6上の画素を覆うように配置されている。なお、図2(A)ではMLA20を構成する各マイクロレンズを見やすくするために誇張して大きく図示しているが、実際には各マイクロレンズは画素サイズの数倍程度の大きさである。
図2(B)は図2(A)の一部を拡大して示す図である。図2(B)に示す多数の格子状の小矩形枠は、撮像素子6の各画素を示している。MLA20を構成する各マイクロレンズについては、太線の円形枠20a,20b,20c,20dで示す。1つのマイクロレンズに対して複数の画素が割り当てられており、図2(B)の例では、7行×7列=49個の画素が1つのマイクロレンズに対して設けられている。すなわち、各マイクロレンズのサイズは面積比で画素サイズの約49倍である。
図2(C)は撮像素子6に関して、マイクロレンズの光軸を含むX−Z平面内で切断した場合の断面構造を模式的に示す。撮像素子6の各画素21〜27は、個別の光電変換部にそれぞれ対応する。図2(C)の上方には、撮像光学系3の射出瞳面を示している。実際には、図2(C)の下方に示したセンサ部の図に対して方向を合わせると、射出瞳面は図2(C)の紙面に垂直なX−Y平面と平行になるが、説明の便宜上、投影方向を変化させている。つまり、射出瞳面上の複数の領域31〜37をX−Y平面内に示す。また、図2(C)では説明を簡単にするために、1次元の投影および信号処理について説明する。実際の装置では、これを容易に2次元に拡張することができる。
図2(C)に示す画素21、22、23、24、25、26,27は、図2(B)に黒点で示す画素21a、22a、23a、24a、25a、26a、27aとそれぞれ対応する位置関係にある。マイクロレンズによって各画素21〜27は撮像光学系3の射出瞳面上の特定の領域31〜37とそれぞれ共役になるように設計されている。図2(C)の例では、画素と、当該画素の符号(21〜27)に10を加算した符号をもつ領域とが対応する。例えば、画素21と領域31が対応しており、画素21には撮像光学系3の射出瞳面上の領域31を通過した光束のみが入射する。他の画素も同様である。結果として、瞳面上での光の通過領域と撮像素子6上での画素位置との対応関係から光線の角度情報を取得できる。
次に図3を参照して、像シフト処理および像生成処理について説明する。図3は、像の再構成を説明する模式図である。図3で示す撮像面はMLA20に一番近い撮像素子6の画素列を示す。第1の再構成面1と第2の再構成面2には、撮像面で得られた情報から仮想面を生成する場合(リフォーカスとも呼ぶ)の画素の配置状態を示している。画素に付した数字1〜7はある画素列における7画素を識別する数字である。つまり、加算合成に用いる画素は図2(B)で示したように、7行7列の2次元に配列されているので、本来、各画素は例えば、Xi,j(i=1-7,j=1-7)のように7行7列の行列の要素で表される。ここでは、説明の簡単化の為に行列Xの添え字の一方を省略し、1次元データで示す。つまり、各画素を識別するために付した数字1〜7は、iまたはjの値に相当する。
図3のように、瞳分割数分の画素出力を加算することで加算合成画素50の出力が生成される。例えば、撮像面上の加算合成画素部50aにおいては、数字1から7を付した各画素に入射した光の角度方向の積分値が取得され、積分値に所定の正の係数を乗算することで加算合成画素出力を得ることができる。これにより、通常のカメラの場合と同様に撮像された画像データが生成される。
図2(C)を用いて説明したように、射出瞳面上での光の通過領域と撮像素子6の各画素との位置関係から光線の角度情報を取得可能である。よって、各画素への光の入射角度に応じて画素データをシフトさせて加算することで、一度の撮影で任意の再構成面上での像を生成することができる。例えば、図3の再構成面2に示すリフォーカス位置での画像を生成するには、加算合成画素部50bにおいて、以下の画素出力を加算すればよい。
・第1のマイクロレンズ301に対応する、数字3、4、5を付した画素の出力。
・第2のマイクロレンズ302に対応する、数字6、7を付した画素の出力。
・第3のマイクロレンズ303に対応する、数字1、2を付した画素の出力。
第2のマイクロレンズ302は第1のマイクロレンズ301に対して図3の上側に隣接し、第3のマイクロレンズ303は第1のマイクロレンズ301に対して図3の下側に隣接している。
次に、図4および図5を参照して、本実施形態における輝点のボケ形状の制御について説明する。図4は本実施形態の撮像装置で撮像した画像例を示す。図4(A)は、ピントが合っている主被写体40aと、その背景における異なる領域に輝点41a、42a、43aが写っている画像を示す。ピント面が主被写体40aの位置にあるので、背景の輝点41a、42a、43aはボケ状態(デフォーカス状態)である。各輝点を小円で示している。図4(B)は、図4(A)の画像に対して各輝点の形状を星形に変更した画像を示す。図5は、ユーザの操作により選択されるボケ形状情報を例示する。図5(A)には、星型のボケ形状51a、ハート型のボケ形状51b、斜め十字型のボケ形状51cを示す。ボケ形状の形状選択については、ユーザが操作部材を用いて行った操作を操作検出部11が検出してカメラ制御部5に通知することにより行われる。図5(B)は、ボケ形状より決定される、図3で示した加算合成画素50を生成する加算画素制御の説明図である。
図5(A)に示すボケ形状のうちの1つがユーザ操作により選択されると、そのユーザ操作を操作検出部11が検出する。例えば、図5(A)のボケ形状51aが選択された場合、図5(B)または(C)で示すように加算画素の制御が行われる。ボケ形状51bが選択された場合を図5(D)に示し、ボケ形状51cが選択された場合を図5(E)に示す。図5(B)に示す加算合成画素50の2次元配列は7行7列である。斜線部で示す画素群52は、画素加算時の重み付け係数値が1である画素から構成される。また空白部で示す画素群53は、画素加算時の重み付け係数値が0である画素から構成される。つまり、画素群53の各画素出力は使用しない。図5(A)に示すボケ形状51aは星型の形状を模擬したものである。図4(A)に示す輝点41a、42a、43aはいずれもデフォーカス状態にある。図4(B)に示す輝点41b、42b、43bはいずれも星型の形状である。これは、図5(B)で示すように各画素の重み付け係数に応じて加算画素が制御されているからである。すなわち図4(B)において、輝点41b、42b、43bで示すように星形の形状にボケが発生する。一方、主被写体40bに関してはピント面の位置にて焦点が合った状態であるので、加算画素の重み付け係数によらずに解像した画像である。
図8を参照して、焦点が合っている画像に対して、加算画素の重み付け係数の制御を行った場合について説明する。図8は、点像の存在する領域に対して加算画素の重み付け加算処理を行った場合の、処理後の画像を模式的に示す。図8(A)は、焦点が合っている状態(フォーカス状態)での点像45aと、加算画素の重み付け加算処理を行った場合の処理後の画像45bを示す。また、図8(B)は、焦点が合っていないデフォーカス状態での点像46aと、加算画素の重み付け加算を行った場合の処理後の画像46bを示す。図8(B)において、点像46aと画像46bには焦点が合っておらず、ボケが発生している状態を、等高線とハッチングの斜線間隔で表現している。斜線間隔が中央から外側に向けて広がる様子から、ボケ状態のグラデーションを表している。また、記号54は、各点像45a,46aと、加算合成画素50の重み付け係数が制御された2次元配列のデータ(重み付け係数値が1または0)との畳み込み演算を表す記号である。
図8(A)に示す画像45bでは、点像45aに焦点が合っているため、2次元配列データを用いて重み付け係数が制御されたとしても、処理後の画像45bにボケは発生しない。よって画像45bは点像45aと殆ど変わらない。一方、図8(B)に示す画像46bでは、点像46aに焦点が合っていないため、2次元配列データを用いて重み付け係数が制御されると、星型の形状に変化する。つまり、処理後の画像46bは加算合成画素の重み付け係数値が1である部分の形状に対応するボケ形状となる。その他の被写体像についても、像が焦点の合っている状態では図8(A)の点像45aの場合と同様に、2次元配列の重み付け係数によらずに、焦点の合った状態での解像した画像となる。
図4(B)の画像例では、模式的に輝点41b、42b、43bを星型の形状で示したが、実際には図5(B)の斜線部で示す形状をぼかした形状となる。また、図5(B)では7行7列の2次元配列によってボケ形状51aを表したが、行数および列数をさらに多くした場合を図5(C)に示す。つまり、1つのマイクロレンズに対応する画素数が多い場合には、図5(C)で示すように加算画素を詳細に制御できるので、よりボケ形状51aに近い形状に輝点をぼかした画像が得られる。なお、ハート型のボケ形状51bの場合には図5(D)に示す2次元配列のデータが使用され、斜め十字型のボケ形状51cの場合には図5(E)に示す2次元配列のデータが使用される。いずれも斜線部にて重み付け係数値を1とし、空白部にて重み付け係数値を0として加算画素が制御される。
次に、図6,図7を参照して、本実施形態の撮像装置が行う処理を説明する。図6は輝点を任意形状にぼかす処理例を説明するフローチャートである。図6の各処理はカメラ制御部5のCPU(中央演算処理装置)が制御プログラムを解釈して実行することにより実現される。図7はぼかし処理前とぼかし処理後の画像例を示す。図7(A)は主被写体40aと背景の輝点41a、42a、43aが写っている画像を示す。図7(B)は、ユーザ操作にしたがって画像の領域ごとに異なるボケ形状が選択された場合に、それぞれ輝点をぼかした画像を示す。
図6の処理が開始すると、S1001では画像データの読込み処理が行われる。画像処理部7が処理した画像データはメモリ部8に保存されており、図7(A)に示す画像のデータが読込まれ、表示部9は画面に画像を表示する。読込み及び表示の対象とされる画像は、カメラ制御部5の制御下で行われる像生成処理にて、加算処理された加算合成画素による画像である。メモリ部8には像生成処理で加算される前の各画素の出力値が保存されている。また画像データとしては、像シフト処理によってリフォーカス処理が既に施されていてもよい。
次のS1002では、ユーザが表示部9の表示画像を見ながら輝点のボケ形状を変更したい領域を選択する操作を行う。領域選択については、ユーザが操作部材を用いて行った操作を操作検出部11が検出してカメラ制御部5に通知することにより行われる。例えば、表示部9と操作検出部11がタッチパネル式のディスプレイで構成される場合、ユーザは表示画像を見ながら、手指で表示部9の画面をなぞることで所望の領域を選択し、選択した領域を決定する操作を行う。
S1003では、表示部9の画面上に、図5(A)に例示したように複数のボケ形状が表示される。S1002で選択された領域(選択領域)の輝点に対し、ユーザはぼかしたい所望のボケ形状を選択する操作を行う。操作検出部11はユーザの操作を検出してカメラ制御部5に操作指示信号を出力する。カメラ制御部5は、ユーザが選択した領域と、当該領域ごとに選択されたボケ形状の情報を関連付けて把握し、ボケ形状情報を保持する。
S1004は、他の領域についても他のボケ形状に変更するかどうかの判定処理である。ユーザが、他の領域の輝点についてもS1003とは異なるボケ形状に変更する場合(S1004でYES)、S1002に戻って処理を続行する。画像領域の選択とボケ形状の選択が再び行われる。図7(A)の領域61、62、63は、図6のS1002においてユーザ操作により選択された複数の選択領域を示している。領域61、62、63ごとにそれぞれ図5(A)のボケ形状51a、52a、53aが選択される。
S1004で画像領域およびボケ形状の指定が終了し、それ以上ボケ形状を変更しないことが判定された場合(S1004でNO)、S1005に処理を進める。S1005ではカメラ制御部5の制御下で、図3を参照して説明した像シフト処理が実行される。読込まれた画像データに対してリフォーカス処理が行われる。ただし、ピント位置を特に変更しない場合には像シフト処理は行わずに、そのままS1006に進む。また、背景の輝点41a、42a、43aのボケ形状をより効果的に得るために、各輝点がよりぼけた状態となるように、デフォーカス量を大きくするリフォーカス処理が行われてもよい。
S1006からS1010にかけて、S1007からS1009の各ステップに示す処理が反復して実行される。S1006では、MLA20を構成するマイクロレンズの数に応じてループ処理が行われ、マイクロレンズの位置ごとに画素加算を行う像生成処理が開始される。図2(A)にてX−Y平面内に示すマイクロレンズの位置座標を(X,Y)で表し、マイクロレンズの初期設定位置の位置座標を(1,1)とする。
S1007は、画素加算を行う際のマイクロレンズ位置が、S1002で選択されたボケ形状を変更する選択領域であるか否かの判断処理である。マイクロレンズ位置が選択領域内でないと判断された場合、S1008に進み、マイクロレンズ位置が選択領域内であると判断された場合にはS1009に移行する。S1008では、通常の画素加算が実行され、加算合成画素が生成される。つまり、そのマイクロレンズ位置に対応する画素部において、読込んだ画像と変わらない加算合成画素の出力が取得される。
S1009では、ボケ形状を変更することがユーザ操作により指定された選択領域にて、S1003で選択されたボケ形状に基づいて加算画素が制御される。つまり、カメラ制御部5は加算画素の重み付け係数を制御し、選択されたボケ形状に応じた2次元配列のデータを適用する。図7(A)では、例えば、領域61にて図5(B)に示すように加算画素の重み付け係数が設定される。領域62にて図5(D)に示すように加算画素の重み付け係数が設定され、領域63にて図5(E)に示すように加算画素の重み付け係数が設定されて、加算合成画素が生成される。
S1008またはS1009の処理後、S1010に進む。S1010では、X方向またはY方向におけるマイクロレンズ位置が変更される。カメラ制御部5はマイクロレンズ位置が最後の位置(処理終了位置)に到達し、像生成処理を終えたか否かを判定する。像生成処理を終了する場合にはS1011に進み、像生成処理が終了していない場合にはS1007に戻って像生成処理を続行する。
S1011では、生成された画像データの出力処理が実行される。カメラ制御部5は、生成済みの画像データを表示部9と記録再生部10に出力する。例えば、生成済み画像は表示部9の画面に表示される。図7(B)に示すように、図7(A)の領域61、62、63内の輝点41a、42a、43aはそれぞれ、ユーザが選択したボケ形状41c、42c、43cとなって表示される。また、記録再生部10は、生成済み画像データを所定のファイル形式で記録媒体に記録する。その際には、図7(B)に例示する生成済み画像のデータは、図7(A)の処理前の画像データと関連付けて記録されてもよいし、差分データとして記録されてもよい。
本実施形態によれば、異なる瞳領域を通過した光線の位置と角度の情報を含む画素データを取得する撮像装置において、ボケ形状の変更処理を行うことができる。つまり本実施形態に係る装置は、撮影時に特殊な撮影方法を用いることなく撮像された画像に対してボケ形状の情報に基づいて加算画素を制御することで、撮像後の画像に対して特殊効果処理を施すことができる。
本実施形態では、メモリ部8に記憶された撮影処理後の画像データに対して画像処理を行う例を説明した。これに限らず、撮影時において表示部9に選択領域とボケ形状を表示し、ユーザが選択する処理を行ってもよい。被写体像を確認しながら撮影を行う、いわゆるライブビュー撮影時には、ユーザ操作によって選択領域とボケ形状が選択された時点で、表示部9はボケ形状の変更処理後の画像を表示する。これにより、ユーザが形状変更処理後の画像を確認した後で、撮影動作に移ることができる。このような処理は、後述する実施形態でも同様に適用可能である。
また、本実施形態の撮像装置で撮影した画像のデータを外部装置に転送し、外部装置がボケ形状の変更処理を実行する形態でもよい。この場合には、例えば、撮像装置は撮像光学系3、MLA20を有する撮像素子6、画像処理部7、メモリ部8、カメラ制御部5を備える。メモリ部8に記憶される画素データは、像生成処理によって画素加算が行わる前の各画素のデータであり、外部装置へ送信される。外部装置は、制御部、画像処理部、メモリ部、表示部、操作検出部、記録再生部を備える。外部装置の制御部および画像処理部は像シフト手段、像生成手段、加算画素制御手段としての機能を有し、図6に示す各ステップの処理を実行する。このことは、後述する実施形態でも同じである。
[第2実施形態]
次に本発明の第2実施形態を説明する。本実施形態にて第1実施形態の場合と同様の構成部については既に使用した符号を用いることでそれらの詳細な説明を省略し、主に相違点を説明する。このような説明の省略については後述の実施形態でも同じである。
第1実施形態では、画像内の全部または選択領域内すべてに関してボケ形状の情報に基づいて加算画素の制御を行う例を説明した。本実施形態では、輝点が検出された領域のみを処理対象として、加算画素を制御する。本実施形態のカメラ制御部5は、画像内での輝点の領域を検出する輝点検出機能を有する。例えばカメラ制御部5は、図7(A)に示す領域61において輝点検出を行い、輝点41aが検出された輝点領域にて、ユーザにより選択されたボケ形状に基づき加算画素の制御を行う。ユーザ操作によって選択された領域61には輝点41以外に背景物体44の画像の一部が入っているが、輝点41aが検出された輝点領域においてのみ加算画素の制御が行われる。これにより、背景物体44の画像のボケ方は領域61外の部分のボケ方と同様になるので、違和感の少ない画像が得られる。輝点検出処理では、例えば全周方向にガウス分布形状に広がる被写体が検出された場合、その被写体の領域が輝点領域であると検出される。
図9は輝点検出処理を有する場合のボケ形状変更処理を例示するフローチャートである。S2001、S2002の処理は図6のS1001、S1002の各処理と同様である。またS2004からS2007、S2009からS2012の各処理は、図6のS1003からS1006、S1008からS1011の各処理と同様であるので、それらの説明を省略する。以下、S2003およびS2008の処理を説明する。
S2002の選択処理後にS2003に進み、S2002で選択された選択領域についてカメラ制御部5は輝点検出を行う。選択領域において、輝点が検出された領域は輝点検出領域としてメモリ部8に記憶される。この際には、例えば表示部9が輝点検出結果を表示することで、ユーザは所望の輝点かどうかを確認することができる。検出された輝点がユーザの所望の輝点である場合にはS2004に処理を進める。ユーザの所望の輝点でない場合には確認後に輝点検出結果が取り消される。
S2007の次にS2008に処理を進め、画素加算を行う対象となるマイクロレンズ位置がS2003で検出された輝点検出領域内に該当するか否かが判断される。マイクロレンズ位置が輝点検出領域内に該当すると判断された場合(S2008でYES)、S2010に進み、選択されたボケ形状に基づいて加算画素の制御が行われる。またマイクロレンズ位置が輝点検出領域内に該当しないと判断された場合(S2008でNO)にはS2009へ進む。
本実施形態では、画像内で輝点が検出された領域のみについて加算画素の重み付け係数が制御され、輝点をユーザの選択した形状にぼかす処理が施される。本実施形態によれば、輝点以外の領域に関して違和感の少ない画像を得ることができる。
なお、第1および第2実施形態では、予め用意された複数の形状からユーザが選択して決定したボケ形状の情報を使用する例を説明したが、ユーザが任意の形状を描いたボケ形状の情報を取得してもよい。例えば、カメラ制御部5は、図5(B)に示すような7行7列の、マイクロレンズの瞳分割領域数分の格子状ブロックを表示部9の画面上にマトリクス表示させる。ユーザが各ブロックについて重み付け係数値を1または0で選択する操作を行い、操作検出部11がユーザの操作を検出して操作検出結果をカメラ制御部5に出力する。これにより、ユーザが任意に描いた形状をボケ形状として使用できる。重み付け係数については、1または0の2値だけに限らず、その他の数値を用いる多値論理を採用してもよい。また、ボケ形状を変更する領域と、それ以外の領域の加算合成画素の重み付け係数の積算値より、画像内の輝度を正規化してもよい。具体的には、図5(B)に示す2次元配列での重み付け係数の積算値は25である。つまり、重み付け係数値が1である画素の数が25である。一方、ボケ形状を変更しない領域では重み付け係数の積算値が49である。つまり、2次元配列内のすべての画素について重み付け係数値を1として加算される。この例では、ボケ形状を変更する領域の加算合成画素の出力に対し、正規化のための係数値である「49/25」を乗算する処理が行われる。ボケ形状を変更する領域とボケ形状を変更しない領域との間で画像のFナンバーを合わせることができるので、画像内全体のFナンバーを統一できるという効果が得られる。
[第3実施形態]
次に、本発明の第3実施形態を説明する。図10を参照して、本実施形態に係る撮像装置に適用可能な光学系の例について説明する。図10は物体(被写体)からの光が撮像素子106上に結像する状態を模式的に示す図である。
図10(A)、図10(B)、図10(C)は、図2で説明した撮像光学系と対応している。ただし、撮像素子106において、MLA105内のマイクロレンズの1つに対して割り当てられる画素数は5行5列の25個となっている。射出瞳については垂直方向に5つの瞳領域b1、b2、b3、b4、b5で表現している。図10(A)は撮像光学系104の結像面近傍にMLA105を配置した例を示す。図10(B)は撮像光学系104の結像面よりも物体側にMLA105を配置した例を示す。図10(C)は撮像光学系104の結像面よりも物体から遠い側にMLA105を配置した例を示す。
図10において、物体平面1301上に2点1301a,1301bを示す。平面1302は撮像光学系104の瞳平面を示す。また、MLA105上の特定のマイクロレンズを201e、201f、201g,201h,201i,201j,201k,201l,201mでそれぞれ示している。図10(B)および図10(C)に点線で示す仮想的な撮像素子106aと仮想的なMLA105aは、図10(A)との対応関係を明確にするために参考に示した。また、物体平面1301上の点1301aから出射して瞳平面1302上の領域b1およびb3を通過する光束を実線で図示している。物体平面1301上の点1301bから出射して瞳平面1302上の領域b1およびb3を通過する光束を破線で図示している。
図10(A)の例では、撮像光学系104の結像面近傍にMLA105を配置することで、撮像素子106と撮像光学系の瞳平面1302が共役の関係にある。さらに物体平面1301とMLA105が共役の関係にある。このため物体平面1301上の点1301aから出た光束はマイクロレンズ201eに到達し、物体平面1301上の点1301bを出た光束はマイクロレンズ201fに到達する。領域b1からb5をそれぞれ通過した光束はMLA105の各マイクロレンズに対応して設けられた画素にそれぞれ到達する。
図10(B)の例は、MLA105によって撮像光学系104からの光束を結像させ、その結像面上に撮像素子106を配置した構成である。このように配置することで、物体平面1301と撮像素子106は共役の関係にある。物体平面1301上の点1301aから出て瞳平面1302上の領域b1を通過した光束はマイクロレンズ201gに到達する。物体平面1301上の点1301aから出て瞳平面1302上の領域b3を通過した光束はマイクロレンズ201hに到達する。物体平面1301上の点1301bから出て瞳平面1302上の領域b1を通過した光束はマイクロレンズ201hに到達する。物体平面1301上の点1301bから出て瞳平面上の領域b3を通過した光束はマイクロレンズ201iに到達する。MLA105の各マイクロレンズを通過した光束は、各マイクロレンズに対応して設けられた画素にそれぞれ到達する。このように物体平面1301上の点と、瞳平面1302上の通過領域によって、光束は異なる位置にそれぞれ結像する。各画素の出力を、仮想的な撮像素子106aの撮像面上の位置に並べ直せば、図10(A)の場合と同様の情報(再構成画像データ)を得ることができる。すなわち、光束が通過した瞳領域に対応する入射角度の情報と撮像素子上の位置の情報を得ることができる。
図10(C)の例は、MLA105で撮像光学系104からの光束を再結像させ、再結像面上に撮像素子106を配置した構成である。一度結像した光束が拡散する状態にあって、さらに結像させることを再結像と呼ぶ。図10(C)のように配置することで、物体平面1301と撮像素子106は共役の関係にある。物体平面1301上の点1301aから出て瞳平面1302上の領域b1を通過した光束はマイクロレンズ201kに到達する。物体平面1301上の点1301aから出て瞳平面1302上の領域b3を通過した光束はマイクロレンズ201jに到達する。物体平面1301上の点1301bから出て瞳平面1302上の領域b1を通過した光束はマイクロレンズ201mに到達する。物体平面1301上の点1301bから出て瞳平面1302上の領域b3を通過した光束はマイクロレンズ201lに到達する。MLA105の各マイクロレンズを通過した光束は、各マイクロレンズに対応して設けられた画素にそれぞれ到達する。図10(B)の場合と同様に、仮想的な撮像素子106aの撮像面上の位置に画素出力を並べ直せば、図10(A)の場合と同様の情報を得ることができる。すなわち、光束が通過した瞳領域に対応する入射角度の情報と撮像素子上の位置の情報を得ることができる。
以上のように、図10(A)、図10(B)、図10(C)にそれぞれ示す光学系のいずれかを採用することによって、設計上の自由度が高まる。
図10では位相変調素子であるMLA105を瞳分割手段として用いて、光線の位置情報と角度情報を取得する例を示した。これに限らず、光線の位置情報と角度情報(瞳の通過領域を制限することと等価)を取得可能な構成であれば、他の光学系の構成も利用可能である。例えば、適当な遮光パターンを施したマスク(ゲイン変調素子)を撮像光学系の光路中に挿入した構成がある。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
3 撮像光学系
5 カメラシステム制御部
6 撮像素子
7 画像処理部
12 レンズシステム制御部
13 レンズ駆動部
20 マイクロレンズアレイ

Claims (11)

  1. 撮像された画像に対して形状の変更処理を行う画像処理装置であって、
    撮像光学系にて異なる瞳領域を通過した光線の位置および角度の情報を含む複数の画素データを取得する取得手段と、
    画像内の輝点をぼかす形状情報を選択する形状選択手段と、
    前記複数の画素データを合成して画像データを生成する像生成手段と、
    前記形状選択手段により選択された前記形状情報を取得し、前記像生成手段が合成する画素データの重み付けを制御する制御手段を備えることを特徴とする画像処理装置。
  2. 前記制御手段は、前記画素データを加算により合成する際、前記輝点の画素データに乗算する重み付け係数値を、前記形状選択手段により選択された前記形状情報に対応する係数値に変更することを特徴とする請求項1に記載の画像処理装置。
  3. 画像内の任意の領域を選択する領域選択手段をさらに有し、
    前記制御手段は、前記領域選択手段により選択された領域にて前記形状情報に対応する前記係数値を決定することを特徴とする請求項2に記載の画像処理装置。
  4. 前記制御手段は、前記領域選択手段により選択される複数の領域に対し、それぞれ異なる前記形状情報に対応する前記係数値を決定することを特徴とする請求項3に記載の撮像装置。
  5. 前記制御手段は、画像内に輝点が存在する輝点領域を検出し、前記輝点領域に対して前記形状選択手段により選択された形状情報にしたがって前記像生成手段が合成する画素データの重み付けを制御することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  6. 各画素へ入射する光線の位置および角度の情報の情報を用いて前記複数の画素データをずらして加算することで、前記像生成手段に任意の再構成面上での像を生成させる像シフト手段をさらに備えることを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  7. 請求項1から6のいずれか1項に記載の画像処理装置と、
    前記撮像光学系を通して被写体を撮像する撮像素子を備えることを特徴とする撮像装置。
  8. 前記撮像素子の画素部へ入射する光束を、前記異なる瞳領域に制限する瞳分割手段を備えることを特徴とする請求項7に記載の撮像装置。
  9. 撮像光学系を通して撮像された被写体の画像データを処理する画像処理装置であって、
    前記撮像光学系にて異なる瞳領域を通過した光線の位置および角度の情報を含む複数の画素データを取得する取得手段と、
    画像内の輝点をぼかす形状情報を選択する形状選択手段と、
    前記複数の画素データを合成して画像データを生成する像生成手段と、
    前記形状選択手段により選択された形状情報を取得し、前記像生成手段が合成する画素データの重み付けを制御する制御手段と、
    前記像生成手段により生成された画像データを記録する記録手段を備えることを特徴とする画像処理装置。
  10. 撮像された画像に対して形状の変更処理を行う画像処理装置により実行される画像処理方法であって、
    撮像光学系にて異なる瞳領域を通過する光線の位置および角度の情報を含む複数の画素データを取得する取得ステップと、
    画像内の輝点をぼかす形状情報を選択する形状選択ステップと、
    前記形状選択ステップにて選択された前記形状情報を用いて、前記複数の画素データの重み付けを制御する制御ステップと、
    前記制御ステップにて重み付けの制御が行われた前記複数の画素データを合成して画像データを生成する像生成ステップを有することを特徴とする画像処理方法。
  11. 請求項10に記載した画像処理方法の各ステップを前記画像処理装置のコンピュータに実行させるためのプログラム。

JP2015102610A 2015-05-20 2015-05-20 画像処理装置、撮像装置、画像処理方法、プログラム Pending JP2016220016A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015102610A JP2016220016A (ja) 2015-05-20 2015-05-20 画像処理装置、撮像装置、画像処理方法、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015102610A JP2016220016A (ja) 2015-05-20 2015-05-20 画像処理装置、撮像装置、画像処理方法、プログラム

Publications (1)

Publication Number Publication Date
JP2016220016A true JP2016220016A (ja) 2016-12-22

Family

ID=57579145

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015102610A Pending JP2016220016A (ja) 2015-05-20 2015-05-20 画像処理装置、撮像装置、画像処理方法、プログラム

Country Status (1)

Country Link
JP (1) JP2016220016A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3614336A1 (en) 2018-08-24 2020-02-26 Canon Kabushiki Kaisha Image processing method, image processing apparatus, imaging apparatus, lens apparatus, program, and image processing system
US11508038B2 (en) 2019-09-27 2022-11-22 Canon Kabushiki Kaisha Image processing method, storage medium, image processing apparatus, learned model manufacturing method, and image processing system

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3614336A1 (en) 2018-08-24 2020-02-26 Canon Kabushiki Kaisha Image processing method, image processing apparatus, imaging apparatus, lens apparatus, program, and image processing system
US11195257B2 (en) 2018-08-24 2021-12-07 Canon Kabushiki Kaisha Image processing method, image processing apparatus, imaging apparatus, lens apparatus, storage medium, and image processing system
US11508038B2 (en) 2019-09-27 2022-11-22 Canon Kabushiki Kaisha Image processing method, storage medium, image processing apparatus, learned model manufacturing method, and image processing system

Similar Documents

Publication Publication Date Title
JP6397281B2 (ja) 撮像装置、その制御方法およびプログラム
US20150185434A1 (en) Image pickup apparatus, control method thereof, and program
JP5914192B2 (ja) 撮像装置及びその制御方法
JP7352359B2 (ja) 撮像素子および撮像装置
JP4799226B2 (ja) 撮像装置及びその制御方法
JP2016001853A (ja) 画像処理装置、撮像装置、制御方法及びプログラム
JP2016220016A (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP6400152B2 (ja) 再生装置、撮像装置および再生装置の制御方法
JP5188604B2 (ja) 撮像装置及びその制御方法
JP2016031446A (ja) 撮像装置及びその制御方法
JP5973784B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP6157290B2 (ja) 再生装置、再生装置の制御方法およびプログラム
JP5893412B2 (ja) 撮像装置およびその制御方法
JP6188290B2 (ja) 測距装置、撮像装置、ピント評価方法、プログラム及び記憶媒体
JP6046922B2 (ja) 焦点検出装置、撮像装置、制御方法、プログラム及び記録媒体
JP2017207695A (ja) 光学装置
JP6532411B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP5968081B2 (ja) 撮像装置及びその制御方法
JP2015154112A (ja) 画像処理装置、その制御方法およびプログラム
JP2016057402A (ja) 撮像装置及びその制御方法
JP6016567B2 (ja) 相関演算装置、撮像装置、相関演算方法、プログラム及び記憶媒体
JP2014064214A5 (ja)
JP6491539B2 (ja) 撮像装置及びその制御方法、システムならびにプログラム
JP2018107614A (ja) 動画再生装置、撮像装置、動画再生方法及びプログラム
JP6609194B2 (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム