JP2019057798A - 画像処理装置、撮像装置、撮像装置の制御方法、および、プログラム - Google Patents
画像処理装置、撮像装置、撮像装置の制御方法、および、プログラム Download PDFInfo
- Publication number
- JP2019057798A JP2019057798A JP2017180467A JP2017180467A JP2019057798A JP 2019057798 A JP2019057798 A JP 2019057798A JP 2017180467 A JP2017180467 A JP 2017180467A JP 2017180467 A JP2017180467 A JP 2017180467A JP 2019057798 A JP2019057798 A JP 2019057798A
- Authority
- JP
- Japan
- Prior art keywords
- refocus
- image
- information
- aberration
- optical system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Studio Devices (AREA)
- User Interface Of Digital Computer (AREA)
- Image Processing (AREA)
Abstract
【課題】撮像光学系の収差に応じたリフォーカス効果に関する情報を表示することが可能な画像処理装置を提供する。【解決手段】画像処理装置(10)は、撮像光学系を介して取得した異なる複数の視点の画像に基づいてリフォーカス画像を生成する画像処理手段(112)と、撮像光学系の収差情報に基づいてリフォーカス画像のリフォーカス効果に関する情報を表示部に表示する表示制御手段(107)とを有する。【選択図】図6
Description
本発明は、リフォーカス用の撮影およびリフォーカス処理を行う撮像装置に関する。
従来、複数の視点から撮像することにより取得された複数の画像を合成して、画像の合焦状態を撮影後に調節する技術(リフォーカス)が知られている。特許文献1には、撮影位置の異なる複数枚の画像を合成し、各画像の撮影位置とピントを合わせたい被写体距離に応じて、各画像をシフトまたは変形して合成することによりリフォーカス画像を生成する画像処理装置が開示されている。
リフォーカス処理を行うには、ピントを合わせたい被写体(ターゲット被写体)が合成元の画像に鮮明に写っている必要がある。例えば、合成元の画像においてターゲット被写体が被写界深度外に存在してぼけて写っている場合、リフォーカス処理を行ってもピントが合った状態は得られない。
しかしながら、合成元の画像においてターゲット被写体が被写界深度内に存在する場合でも、レンズ(撮像光学系)の収差などの光学特性に応じてぼけやにじみが発生する場合、リフォーカス処理を行うことは困難である。すなわち、ユーザが適切なリフォーカス処理を行うことができることを期待して撮影したにもかかわらず、撮像光学系の収差の影響により適切なリフォーカス処理を行うことができない場合がある。
そこで本発明は、撮像光学系の収差に応じたリフォーカス効果に関する情報を表示することが可能な画像処理装置、撮像装置、撮像装置の制御方法、および、プログラムを提供することを目的とする。
本発明の一側面としての画像処理装置は、撮像光学系を介して取得した異なる複数の視点の画像に基づいてリフォーカス画像を生成する画像処理手段と、前記撮像光学系の収差情報に基づいて前記リフォーカス画像のリフォーカス効果に関する情報を表示部に表示する表示制御手段とを有する。
本発明の他の側面としての撮像装置は、撮像光学系を介して異なる複数の視点の画像を取得する撮像部と、前記複数の視点の画像に基づいてリフォーカス画像を生成する画像処理手段と、前記撮像光学系の収差情報に基づいて前記リフォーカス画像のリフォーカス効果に関する情報を表示部に表示する表示制御手段とを有する。
本発明の他の側面としての撮像装置の制御方法は、撮像光学系の収差情報に基づいてリフォーカス画像のリフォーカス効果に関する情報を表示部に表示するステップと、前記撮像光学系を介して異なる複数の視点の画像を取得するステップとを有する。
本発明の他の側面としてのプログラムは、前記撮像装置の制御方法をコンピュータに実行させる。
本発明の他の目的及び特徴は、以下の実施形態において説明される。
本発明によれば、撮像光学系の収差に応じたリフォーカス効果に関する情報を表示することが可能な画像処理装置、撮像装置、撮像装置の制御方法、および、プログラムを提供することができる。
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
[第1の実施形態]
第1の実施形態では、リフォーカス撮影または撮影後のリフォーカス操作を行う際に、リフォーカス不可の領域をユーザへ通知する場合について説明する。
第1の実施形態では、リフォーカス撮影または撮影後のリフォーカス操作を行う際に、リフォーカス不可の領域をユーザへ通知する場合について説明する。
まず、図1を参照して、本実施形態における撮像装置の内部構成について説明する。図1は、撮像装置10のブロック図である。撮像部100は、撮像光学系201および撮像素子202を有する。撮像素子202は、CMOSセンサやCCDセンサを備え、撮像光学系201を介して形成された光学像(被写体像)を光電変換し、A/D変換を行うことにより画像データを出力する。撮像部100は、操作部105などを介して入力されたユーザによる撮像指示を受けて画像データを取得し(撮影を行い)、取得された画像データは撮像データとして記録媒体113に保存される。撮像部100は、一度の撮像指示により、同一の被写体を複数の視点から捉えた、複数の視点の画像の情報を含む画像データ(複数の視点の画像データ)を取得することができる。また、撮像部100により取得された画像データは、例えば撮像装置10の背面に設けられた表示部106にリアルタイムに表示するいわゆるライブビュー機能にも利用される。
中央処理装置(CPU)101は、撮像装置10の各部を統括的に制御するプロセッサ(制御手段)である。RAM102は、CPU101の主メモリやワークエリア等として機能するメモリである。ROM103は、CPU101により実行される制御プログラム等を格納するメモリである。バス104は、各種データの伝送経路である。例えば、撮像部100により取得された画像データは、バス104を介して各部に伝送される。操作部105はユーザから与えられる指示を撮像装置10に入力する入力デバイスであり、操作部105にはボタンやモードダイヤル等のハードウエアが含まれる。
表示部106は、画像や文字の表示を行う表示装置であり、本実施形態では液晶ディスプレイが用いられるが、有機ELディスプレイ等の他の表示装置を用いてもよい。また表示部106は、タッチスクリーンとしてのタッチ入力機能を有していてもよい。この場合、表示部106は、操作部105の機能の一部を担うことになる。また表示部106は、後述のように、撮像光学系201の収差情報に基づいてリフォーカス画像のリフォーカス効果に関する情報を表示する。
表示制御部(表示制御手段)107は、表示部106に表示される画像や文字の表示制御を行う制御回路である。また表示制御部107は、撮像光学系の収差情報に基づいてリフォーカス画像のリフォーカス効果に関する情報を表示部106に表示する。撮像部制御部108は、CPU101からの指示に基づいて、フォーカスを合わせる、シャッターを開くまたは閉じる、開口絞りを調節するなど、撮像部100の撮像系の制御を行う制御回路である。デジタル信号処理部109は、バス104を介して受け取った画像データに対し、ホワイトバランス処理、ガンマ処理、ノイズ低減処理等の各種画像処理を行う処理回路である。エンコーダ部110は、バス104を介して受取った画像データを、JPEGやMPEG等のファイルフォーマットに変換する処理を行う処理回路である。外部メモリ制御部111は、撮像装置10をPCやその他のメディア(例えば、ハードディスク、メモリーカード、CFカード、SDカード、USBメモリ)に接続するためのインターフェースである。撮像装置10により取得または生成された画像データは、外部メモリ制御部111を介して外部の記憶装置に出力(格納)することができる。画像処理部(画像処理手段)112は、撮像部100により取得された画像データ、または、デジタル信号処理部109から出力された画像データを用いて、後述するリフォーカス処理や表示画像の生成等の画像処理を行う処理回路である。特に本実施形態において、画像処理部112は、撮像光学系201を介して取得した異なる複数の視点の画像(複数の視点の画像データ)に基づいてリフォーカス画像を生成する。なお本実施形態は、撮像部100を含まないPC等の画像処理装置による画像処理にも適用可能である。
次に、図2を参照して、撮像部100の構成について説明する。図2は、撮像部100の概略図である。撮像部100は、メインレンズ203およびレンズアレイ204を備えた撮像光学系201、および、撮像素子202を有する。なお、この構成は説明を簡単にするために簡素化しており、実際の撮像部100は開口絞りやカラーフィルタなどを更に有し、また、メインレンズ203は複数のレンズを含んでいてもよい。レンズアレイ204は、複数の微小な凸レンズが二次元のアレイ状に並べられた光学素子であり、メインレンズ203に対する被写体面205の像側共役面上に配置されている。撮像素子202は、メインレンズ203の射出瞳と撮像素子202とが、レンズアレイ204を介して概ね共役関係となる位置に配置されている。このような構成の撮像装置はプレノプティックカメラと呼ばれ、光線の入射方向に関する情報を含む画像を撮像することができる。
次に、図3を参照して、本実施形態における撮像素子202の画素配列について説明する。図3は、撮像素子202の画素配列図である。2列×2行の画素群300は、左上の位置に第1色のR(赤)の分光感度を有する画素300Rが左上に、第2色のG(緑)の分光感度を有する画素300Gが右上と左下に、第3色のB(青)の分光感度を有する画素300Bが右下に配置されている。各画素は、x方向に2分割、y方向に1分割された分割数2の第1副画素301と第2副画素302の複数の副画素により構成されている。
ここで、被写体面205から射出された光線を撮像素子202で受光する場合を考える。被写体面205上の一点から射出されメインレンズ203に入射された光線は、その射出方向によらずに全てレンズアレイ204上の一点に結像される。しかし、レンズアレイ204の働きにより、レンズアレイ204上で結像した各光線は、その入射角度に応じてそれぞれ異なる方向に射出され、それぞれが撮像素子202上の異なる画素(例えば、図3に示される第1副画素301と第2副画素302)に入射する。すなわち、被写体からの射出角度が異なる光線、換言すると被写体を異なる方向から見たときに観測される光線が、それぞれ区別されて撮像素子202上に記録される。このため、プレノプティックカメラにより撮像された画像は、複数の異なる視点から見た被写体の情報を含む。そして、メインレンズ203の同じ領域を通過した光線に対応する画素を抜き出して並べ替えることにより、複数の異なる視点に対応する複数の画像(複数の視点の画像)を得ることができる。
なお図3では、簡単のためx方向に2分割、y方向に1分割としているが、分割数はこれに限定されるものではない。例えば、x方向に2分割、y方向に2分割としてもよい。また本実施形態では、プレノプティックカメラを用いて複数の視点の画像(画像データ)を取得しているが、カメラが二次元的に配置されたいわゆる多眼カメラを用いて異なる複数の視点の画像を取得してもよい。
次に、図4を参照して、リフォーカス処理について説明する。図4は、水平方向に並ぶ2つの視点に対応する2枚の画像(合成元の画像、すなわち複数の視点の画像データ)、および、その2枚の画像を合成することにより得られるリフォーカス画像をそれぞれ示している。複数の視点の画像データは、右の視点に対応する画像410、および、左の視点に対応する画像411を含む。画像410、411はいずれも、被写体401、402の2つの像を含む。
撮像装置10の位置を基準として、被写体402は、被写体401よりも近い位置に存在している。各被写体の像には、被写体距離に応じた視差が含まれている。これらの画像を合成することにより得られたリフォーカス画像が、画像420、421である。画像420、421はそれぞれ、合成に用いられた画像410、411のシフト量が異なっている。画像420は、被写体401が重なるように画像410、411をシフト合成して得られた画像であり、被写体401にピントが合った画像となっている。一方、被写体402は、被写体401とは異なる大きさの視差を含むため、画像420においてずれた位置で合成される。その結果、画像420は被写体402がぼけた画像となる。
同様に、被写体402が重なるように画像410、411をシフト合成した画像421では、被写体402にピントが合い被写体401がぼける。このように、ピントを合わせたい被写体に応じて決定したシフト量に基づいて複数の視点の画像データが示す各視点の画像をシフト合成することにより、所定の距離にピントが合い、合焦距離からの距離に応じてぼけが付与されたリフォーカス画像を生成することができる。
次に、図5を参照して、レンズ(撮像光学系201)の光学特性に応じてぼけやにじみが発生する場合について考える。図5は、合成元の画像に写っている被写体が撮像光学系201の光学特性の影響によりぼけた場合の複数の視点の画像データである。図5(a)は、右の視点に対応する画像510、図5(b)は左の視点に対応する画像511をそれぞれ示している。画像510、511はいずれも、被写体501、502の像を含んでいる。被写体501は、被写界深度内に存在しているが、撮像光学系201の光学特性等の影響によりぼけているものとする。これらの画像で図4のように被写体501が重なるように合成しようとしても(リフォーカス処理を行おうとしても)、合成元の画像がぼけているため、ピントが合った状態(鮮明な状態)にはならない。そこで本実施形態では、このように合成元の被写体にぼけや色のにじみが発生してリフォーカス処理が困難である場合、CPU101は、ユーザへ通知を行うように撮像装置10(表示部106)を制御する。
次に、図6を参照して、本実施形態における撮像装置10の制御方法(リフォーカス処理の可否についてユーザへ通知する方法)を説明する。図6(a)は、撮像装置10の制御方法を示すフローチャートである。図6(b)は、図6(a)中のステップS603を示すフローチャートである。図6(a)、(b)の各ステップは、主にCPU101または表示部106により実行される。
まず、図6(a)中のステップS601において、CPU101の指令に基づいて、表示制御部107は、表示部106にライブビュー表示を開始する。続いてステップS602において、CPU101は、現在の撮影条件に応じた収差情報に対応する光学パラメータを取得する。ここで撮影条件とは、撮像光学系201の収差情報に関する条件であり、例えば、絞り値(F値)、被写体距離、ズーム値などであるが、これらに限定されるものではない。光学パラメータは、ROM103から取得してもよいし、レンズ交換式カメラに接続されている交換レンズ内のROM等の外部装置のROMから取得してもよい。
続いてステップS603において、CPU101は、ステップS602にて取得した光学パラメータに基づいて、リフォーカス処理を行うことが可能か否か(リフォーカス可否)を決定する。ここで、図6(b)を参照して、ステップS603について詳述する。
まずステップS6031において、CPU101は、画像(複数の視点の画像)の全エリアに関するリフォーカス可否が決定されているかを判定する。画像の全エリアに関するリフォーカス可否が決定されている場合、本処理を終了する。一方、画像の全エリアの少なくとも一つに関するリフォーカス可否が決定されていない場合、ステップS6032に進む。すなわちCPU101は、画像の全エリアに関するリフォーカス可否を決定するまで、ステップS6032〜S6036を繰り返す。
ステップS6032において、CPU101は、リフォーカス可否が設定されていないエリアを探し、そのエリアを対象エリアにする。続いてステップS6033において、CPU101は、対象エリアに関する収差評価値(リフォーカス効果に関する評価値)を算出する。収差評価値は、例えば以下の方法により算出することができる。ここでは、光学パラメータとして、色収差量C、周辺光量落ち量S、および、歪曲量Wが含まれるものとする。これらの量は、その量が大きいほど収差が大きいことを意味する。収差が大きいと、色のにじみ、像のぼけやゆがみが発生する。その結果、像が鮮明に写らず、前述のようにリフォーカス処理が困難となる。また、収差を画像処理で補正した場合でも、補正による弊害により像がぼける等の弊害が生じるため、リフォーカス処理は困難である。
収差評価値は、例えば以下の式(1)、(2)を用いて算出することができる。
収差評価値=MAX(C、S、W) … (1)
収差評価値=αC+βS+γW … (2)
式(1)を用いた算出方法では、対象エリアの色収差量C、周辺光量落ち量S、および、歪曲量Wのうちの最大値を収差評価値とする。式(2)を用いて算出方法では、対象エリアの色収差量C、周辺光量落ち量S、および、歪曲量Wに係数α、β、γをそれぞれ掛けて加算する。係数α、β、γは、リフォーカス処理に対するそれぞれの収差量の影響度合いを示す値である。式(2)を用いた算出方法によれば、総合的に収差の影響を算出することができる。ただし本実施形態は、式(1)、(2)を用いた算出方法に限定されるものではなく、収差量を判定することが可能であれば、他の式を用いた算出方法を用いてもよい。また、収差評価値を算出する際に考慮する収差は、前述以外の収差であってもよい。
収差評価値=αC+βS+γW … (2)
式(1)を用いた算出方法では、対象エリアの色収差量C、周辺光量落ち量S、および、歪曲量Wのうちの最大値を収差評価値とする。式(2)を用いて算出方法では、対象エリアの色収差量C、周辺光量落ち量S、および、歪曲量Wに係数α、β、γをそれぞれ掛けて加算する。係数α、β、γは、リフォーカス処理に対するそれぞれの収差量の影響度合いを示す値である。式(2)を用いた算出方法によれば、総合的に収差の影響を算出することができる。ただし本実施形態は、式(1)、(2)を用いた算出方法に限定されるものではなく、収差量を判定することが可能であれば、他の式を用いた算出方法を用いてもよい。また、収差評価値を算出する際に考慮する収差は、前述以外の収差であってもよい。
続いてステップS6034において、CPU101は、ステップS6033にて算出した収差評価値が所定の閾値(閾値th)よりも大きいか否かを判定する。収差評価値が閾値thよりも大きい場合、ステップS6036に進む。ステップS6036において、CPU101は、対象エリアをリフォーカス不可エリアに設定する。一方、収差評価値が閾値thより小さい場合、ステップS6035に進む。ステップS6035において、CPU101は、対象エリアをリフォーカス可能エリアに設定する。CPU101は、ステップS6032〜S6036を全エリアに対して行った後、図6(a)のステップS604へ進む。
ステップS604において、表示制御部107は、CPU101の指令に基づいて、表示部106にリフォーカス可否情報を表示する。リフォーカス可否情報は、図6(b)のステップS6036またはステップS6035にて設定されたリフォーカス可能エリアまたはリフォーカス不可エリアに関する情報である。
ここで、図7を参照して、リフォーカス可否情報の表示例について説明する。図7は、リフォーカス可否情報の表示例を示す図である。図7(a)は、リフォーカス不可エリアを単一の透過する灰色で表示した例を示している。図7(b)は、リフォーカス可能、リフォーカス不可の二値で表示するのではなく、リフォーカス可能な度合い(リフォーカス可能度)をグラデーションで表示する例を示している。図7(b)の例では、白に近いほうが適切なリフォーカス処理を行うことができる可能性が高い(リフォーカス可能度が高い)ことを示している。なお、リフォーカス可能度は、収差評価値を用いて表示することができる。すなわち、収差評価値が高いほどリフォーカス可能度を低下させることができる。この場合、図6(b)のステップS6034〜S6036は、収差評価値に応じてリフォーカス可能度を決定するというステップに置き換わる。
続いて、図6(a)のステップS605において、CPU101は、ユーザにより操作部105のシャッターボタンが押されたか否かを判定する。シャッターボタンが押されない場合、ステップS602へ戻り、シャッターボタンが押されるまでステップS602〜S604を繰り返す。一方、シャッターボタンが押された場合、ステップS606に進む。ステップS606において、CPU101は撮影動作を行う、すなわちCPU101は、撮像素子202からの複数の視点の画像データを取得し、記録媒体113等の画像記録手段に記録する。
このように本実施形態において、表示部106は、収差評価値に応じてリフォーカス効果に関する情報を変更する。好ましくは、CPU101は、画像の少なくとも一部の領域(対象エリア)に関し、収差評価値が所定の閾値(閾値th)よりも大きい場合、領域をリフォーカス不可領域(リフォーカス不可エリア)に設定する。一方、CPU101は、収差評価値が所定の閾値よりも小さい場合、その領域をリフォーカス可能領域(リフォーカス可能エリア)に設定する。そして表示部106は、リフォーカス効果に関する情報として、その領域がリフォーカス不可領域またはリフォーカス可能領域のいずれかであることを示す情報を表示する。また好ましくは、CPU101は、収差評価値に応じて、リフォーカス効果の度合いを示すリフォーカス可能度を決定する。そして表示部106は、リフォーカス効果に関する情報として、リフォーカス可能度に関する情報を表示する。
本実施形態によれば、リフォーカス可否情報により、ユーザは収差の影響が大きい領域(リフォーカス処理が困難な領域)を撮影前に知ることができる。このため、ユーザは、リフォーカス処理が困難な被写体が存在する場合、その被写体を収差の影響が小さい領域に再度フレーミングすることができる。その結果、撮影後に適切なリフォーカス処理を行うことができないという失敗を減らすことが可能である。
[第2の実施形態]
次に、図8を参照して、第2の実施形態について説明する。本実施形態では、ユーザへのリフォーカス可否情報だけでなく、どのようにしたらリフォーカス可能度を上げることができるかを通知する例について説明する。なお本実施形態では、第1の実施形態を参照して説明した図6のフローチャートを用いて説明を行う。
次に、図8を参照して、第2の実施形態について説明する。本実施形態では、ユーザへのリフォーカス可否情報だけでなく、どのようにしたらリフォーカス可能度を上げることができるかを通知する例について説明する。なお本実施形態では、第1の実施形態を参照して説明した図6のフローチャートを用いて説明を行う。
図8は、リフォーカス可能度を向上させるための通知例(リフォーカスアドバイス通知)を示す図である。この例では、左下の収差の影響により鮮明度が低い被写体に対してさらに距離をとれば、収差の影響が低減してリフォーカス可能度が向上することを示している。以下、リフォーカスアドバイス通知の表示方法の一例を説明する。
図6(a)のステップS603にてリフォーカス可否情報を決定した後、CPU101は、画像全体に対するリフォーカス不可エリアの割合を算出する。この割合が所定の値よりも大きい場合、リフォーカス処理を行うことができない可能性が高いため、CPU101はリフォーカスアドバイス通知を行う。また、ステップS603にてリフォーカス可能度を算出した場合、CPU101は、画面全体の平均値が所定の値よりも低い場合にリフォーカスアドバイス通知を行う。またはCPU101は、画面全体を見ずに対象の被写体エリアがリフォーカス不可エリアである場合や、リフォーカス可能度が所定値よりも低い場合に、リフォーカスアドバイス通知をしてもよい。
次に、リフォーカスアドバイス通知の文言の決定方法について説明する。CPU101は、基本的に、収差に影響を与える撮影条件(ここでは、絞り値a、被写体距離d、ズーム値zを対象とする)を変更したときの収差評価値を算出し、収差評価値が低くなるような指示をリフォーカスアドバイス通知として表示する。具体的には、以下のように決定する。
現在の撮影条件での収差評価値をH(a,d,z)とする。ここで、絞り値a(小さいほど開放側)、被写体距離d、ズーム値zの移動量をそれぞれDa,Dd,Dzとする。これらの移動量は、ユーザが容易に変更可能な大きさとする。例えばDa=1段、Dd=1m、Dz=5mm(焦点距離)である。一方、Dd=50mのように大きい値にすると、ユーザが50mも動かないといけないことを意味し、ユーザの負荷が大きくなるため適さない。
続いて、CPU101は、H(a+Da,d,z)、H(a−Da,d,z)、H(a,d+Dd,z)、H(a,d−Dd,z)、H(a,d,z+Dz)、H(a,d,z−Dz)を算出する。そしてCPU101は、これらの収差評価値のうち最小値に対応する撮影条件をリフォーカスアドバイス通知として表示する。例えばH(a,d+Dd,z)が一番小さい場合、被写体距離をDdだけ増やすと収差が良好になることを意味するため、「被写体との距離を離してください」と表示をする。このとき、「被写体との距離をDaメートルだけ離してください」と具体的な値を表示してもよい。なお、リフォーカスアドバイス通知の内容をユーザが実行できない場合もある(狭い空間におり、被写体距離を変更することができない場合等)。この場合、収差評価値の小さい撮影条件順にリフォーカスアドバイス通知を表示してもよい(例えば、通知部分をフリック操作したら次の候補を通知する等)。
また、撮像光学系201(レンズ)の光学的な設計値や撮影条件から支配的な収差の種類が特定できる場合、前述の決定方法を単純化してもよい。例えば、支配的な収差が歪曲収差である場合(W>>C、S)、歪曲収差は絞り値を変更してもほぼ改善しない特性があるため、H(a+Da,d,z)、H(a−Da,d,z)を算出せずに除外してもよい。
また一般的に、イメージセンサが受光する光が近軸光線に近いほど収差の影響を受けたいため、絞りは小絞り側であるほど、被写体が遠いほど収差が良好である。このため、一般的に収差の影響を大きくなる方向と考えられるH(a−Da,d,z)、H(a,d−Dd,z)を計算せずに除外してもよい。
このように本実施形態において、表示部106は、リフォーカス効果に関する情報として、リフォーカス効果を向上させるための操作方法(画像のリフォーカス可能領域を広げるための操作方法)を表示することができる。
[第3の実施形態]
次に、図9を参照して、第3の実施形態について説明する。本実施形態では、撮像光学系201の収差の影響だけでなく、撮像素子202に関するシェーディングを考慮したリフォーカス可否情報の表示方法について説明する。
次に、図9を参照して、第3の実施形態について説明する。本実施形態では、撮像光学系201の収差の影響だけでなく、撮像素子202に関するシェーディングを考慮したリフォーカス可否情報の表示方法について説明する。
図2に示されるように、撮像素子202の前面にレンズアレイ204を配置して光線の入射方向によって受光する撮像素子を分けているセンサでは、一般的にシェーディング(センサシェーディング)が発生しやすい。センサシェーディングは、撮像素子202の面内の感度ムラである。例えば、メインレンズ203とレンズアレイ204と撮像素子202の位置関係から、メインレンズ203から入射した光線をレンズアレイ204が適切に撮像素子202へと導くことができず、受光する光量が減ってしまう現象などに起因する。
図9は、画像のセンサシェーディングの模式図であり、図3の分割数2の撮像素子202を用いた場合に取得することが可能な画像のセンサシェーディングを模式的に示している。図9(a)は第1副画素301の全面の画素群により構成された画像であり、図9(b)は第2副画素302の全面の画素群により構成された画像である。このように所定の方向に受光感度が変化する現象が発生する。図4に示されるようなリフォーカス処理を行うには、センサシェーディングの影響を減らすための補正を事前にする必要があり、一般的に画像処理によって所定のゲインアップをして面内の明るさを均一にする。このとき、元々暗い画像領域ではノイズも同時に増加してしまうため、被写体の鮮明性が低下する。これも収差と同様にリフォーカス処理の妨げとなる。このため本実施形態では、センサシェーディングの大きさについても、前述した実施形態のようにリフォーカス可否情報として表示する。なお本実施形態において、前述の各実施形態と同様の説明については省略する。
本実施形態では、収差評価値に代えて、収差とセンサシェーディングの両方を考慮した収差・シェーディング評価値を用いる。画像を二次元的に分割するそれぞれのエリアの中心座標を(x,y)とし、図9(a)のセンサシェーディング量をKa(x、y)、図9(b)のセンサシェーディング量をKb(x、y)とする。センサシェーディング量Ka(x、y)、Kb(x、y)はそれぞれ、値が大きいほどシェーディングが強い(受光感度が弱い)ことを示す。収差・シェーディング評価値は、以下の式(3)のように表される。
収差・シェーディング評価値=収差評価値×(Ka(x、y)+Kb(x、y)) … (3)
そしてステップS6034において、CPU101は、収差評価値に代えて、収差・シェーディング評価値を用いてリフォーカス可否情報を決定する。
そしてステップS6034において、CPU101は、収差評価値に代えて、収差・シェーディング評価値を用いてリフォーカス可否情報を決定する。
このように本実施形態において、CPU101は、収差情報と、撮像素子202のシェーディング量(センサシェーディング)に関する情報とに基づいて、評価値(収差・シェーディング評価値)を算出する。本実施形態によれば、収差・シェーディング評価値を用いることにより、収差およびセンサシェーディングの影響が大きい領域に被写体を設定することを撮影前に防ぐことができる。その結果、リフォーカス処理の失敗をさらに減らすことが可能となる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
各実施形態によれば、撮像光学系の収差に応じたリフォーカス効果に関する情報を表示することが可能な画像処理装置、撮像装置、撮像装置の制御方法、および、プログラムを提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
10 撮像装置(画像処理装置)
100 撮像部
107 表示制御部(表示制御手段)
112 画像処理部(画像処理手段)
100 撮像部
107 表示制御部(表示制御手段)
112 画像処理部(画像処理手段)
Claims (12)
- 撮像光学系を介して取得した異なる複数の視点の画像に基づいてリフォーカス画像を生成する画像処理手段と、
前記撮像光学系の収差情報に基づいて前記リフォーカス画像のリフォーカス効果に関する情報を表示部に表示する表示制御手段と、を有することを特徴とする画像処理装置。 - 前記収差情報は、色収差、周辺光量落ち、および、歪曲収差の少なくとも一つに関する情報を含むことを特徴とする請求項1に記載の撮像装置。
- 前記収差情報に基づいて前記リフォーカス効果に関する評価値を算出する制御手段を更に有し、
前記表示部は、前記評価値に応じて前記リフォーカス効果に関する情報を変更することを特徴とする請求項1または2に記載の画像処理装置。 - 前記制御手段は、画像の少なくとも一部の領域に関し、
前記評価値が所定の閾値よりも大きい場合、前記領域をリフォーカス不可領域に設定し、
前記評価値が前記所定の閾値よりも小さい場合、前記領域をリフォーカス可能領域に設定し、
前記表示部は、前記リフォーカス効果に関する情報として、前記領域が前記リフォーカス不可領域または前記リフォーカス可能領域のいずれかであることを示す情報を表示することを特徴とする請求項3に記載の画像処理装置。 - 前記制御手段は、前記評価値に応じて、前記リフォーカス効果の度合いを示すリフォーカス可能度を決定し、
前記表示部は、前記リフォーカス効果に関する情報として、前記リフォーカス可能度に関する情報を表示することを特徴とする請求項3に記載の画像処理装置。 - 前記制御手段は、前記収差情報と、撮像素子のシェーディング量に関する情報とに基づいて、前記評価値を算出することを特徴とする請求項3乃至5のいずれか1項に記載の画像処理装置。
- 前記表示部は、前記リフォーカス効果に関する情報として、前記リフォーカス効果を向上させるための操作方法を表示することを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
- 前記表示部は、前記リフォーカス効果に関する情報として、画像のリフォーカス可能領域を広げるための操作方法を表示することを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
- 撮像光学系を介して異なる複数の視点の画像を取得する撮像部と、
前記複数の視点の画像に基づいてリフォーカス画像を生成する画像処理手段と、
前記撮像光学系の収差情報に基づいて前記リフォーカス画像のリフォーカス効果に関する情報を表示する表示部と、を有することを特徴とする撮像装置。 - 撮像光学系の収差情報に基づいてリフォーカス画像のリフォーカス効果に関する情報を表示部に表示するステップと、
前記撮像光学系を介して異なる複数の視点の画像を取得するステップと、を有することを特徴とする撮像装置の制御方法。 - 前記複数の視点の画像に基づいて前記リフォーカス画像を生成するステップを更に有することを特徴とする請求項10に記載の撮像装置の制御方法。
- 撮像光学系の収差情報に基づいてリフォーカス画像のリフォーカス効果に関する情報を表示部に表示するステップと、
前記撮像光学系を介して異なる複数の視点の画像を取得するステップと、をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017180467A JP2019057798A (ja) | 2017-09-20 | 2017-09-20 | 画像処理装置、撮像装置、撮像装置の制御方法、および、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017180467A JP2019057798A (ja) | 2017-09-20 | 2017-09-20 | 画像処理装置、撮像装置、撮像装置の制御方法、および、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019057798A true JP2019057798A (ja) | 2019-04-11 |
Family
ID=66106518
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017180467A Pending JP2019057798A (ja) | 2017-09-20 | 2017-09-20 | 画像処理装置、撮像装置、撮像装置の制御方法、および、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019057798A (ja) |
-
2017
- 2017-09-20 JP JP2017180467A patent/JP2019057798A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6838994B2 (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
JP6555863B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
US10154216B2 (en) | Image capturing apparatus, image capturing method, and storage medium using compressive sensing | |
JP5468404B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
JP5237978B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
JP5690396B2 (ja) | 撮像装置およびシェーディング補正方法 | |
US9911183B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium | |
JP5470458B2 (ja) | 撮像装置、画像処理装置および画像処理方法 | |
JP2013093754A (ja) | 撮像装置 | |
JP5882789B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6678504B2 (ja) | 撮像装置及びその制御方法、プログラム並びに記憶媒体 | |
JP2016024489A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP2017184217A (ja) | 画像処理装置、撮像装置およびこれらの制御方法ならびにプログラム | |
JP2013031154A (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム | |
JP6095266B2 (ja) | 画像処理装置及びその制御方法 | |
US10291899B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for generating restored image | |
JP2017060010A (ja) | 撮像装置、撮像装置の制御方法、およびプログラム | |
JP2015035782A (ja) | 画像処理装置、撮像装置、顕微鏡システム、画像処理方法及び画像処理プログラム | |
JP6639276B2 (ja) | 画像処理装置およびその制御方法、撮像装置、プログラム | |
JP2019057798A (ja) | 画像処理装置、撮像装置、撮像装置の制御方法、および、プログラム | |
JP2019208214A (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
US20190109996A1 (en) | Image processing device, control method thereof, and medium | |
JP6585890B2 (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
JP7080688B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム | |
JP6643102B2 (ja) | 画像処理装置及び画像処理方法 |