JP2011211291A - 画像処理装置、撮像装置及び表示装置 - Google Patents
画像処理装置、撮像装置及び表示装置 Download PDFInfo
- Publication number
- JP2011211291A JP2011211291A JP2010074443A JP2010074443A JP2011211291A JP 2011211291 A JP2011211291 A JP 2011211291A JP 2010074443 A JP2010074443 A JP 2010074443A JP 2010074443 A JP2010074443 A JP 2010074443A JP 2011211291 A JP2011211291 A JP 2011211291A
- Authority
- JP
- Japan
- Prior art keywords
- image
- focus state
- unit
- input image
- scene
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Studio Devices (AREA)
Abstract
【課題】シーンに適した画像を容易に得ることを可能とした画像処理装置や、当該画像処理装置を備える撮像装置及び表示装置を提供する。
【解決手段】合焦状態補正部50は、入力画像のシーンを推定するシーン推定部51と、シーン推定結果情報に基づいた合焦状態を設定する合焦状態設定部52と、合焦状態設定部52で設定された合焦状態となるように入力画像の合焦状態を補正して出力画像を生成する合焦状態補正処理部53と、を備える。そのため、撮像時及び撮像後に煩雑な操作を伴うことなく、シーンに適した合焦状態となる出力画像を容易に得ることが可能となる。
【選択図】図2
【解決手段】合焦状態補正部50は、入力画像のシーンを推定するシーン推定部51と、シーン推定結果情報に基づいた合焦状態を設定する合焦状態設定部52と、合焦状態設定部52で設定された合焦状態となるように入力画像の合焦状態を補正して出力画像を生成する合焦状態補正処理部53と、を備える。そのため、撮像時及び撮像後に煩雑な操作を伴うことなく、シーンに適した合焦状態となる出力画像を容易に得ることが可能となる。
【選択図】図2
Description
本発明は、入力画像を処理して出力画像を生成する画像処理装置や、撮像により入力画像を生成する撮像装置、出力画像を表示する表示装置に関する。
静止画や動画などの画像を撮像する、デジタルカメラに代表される撮像装置が広く普及している。このような撮像装置では、ユーザが撮像時に撮像方法を指定(例えば、焦点距離、絞り、露出時間などの各パラメータを指定)して撮像を行う。また、いくつかの代表的な被写体状態(即ち、シーン)に適したそれぞれの撮像方法(例えば、各パラメータの特定の組み合わせや、特定の設定方法)を「撮像モード」として予め規定し、ユーザに任意の撮像モードを選択させる撮像装置も提案されている。
さらに、撮像モードを自動的に選択して提示する撮像装置も提案されている。例えば特許文献1では、予め設定したイベントに応じて、使用される可能性の高い撮像モードから順に提示する撮像装置が提案されている。
しかしながら、上述の撮像装置では、シーンに適した撮像モードで撮像を行うために、ユーザがシーンを正しく認識して所望の画像が得られる撮像モードを選択するか、自動的に選択された撮像モードが妥当か否かを検討する必要がある。そのため、ユーザに煩雑な操作を強いることや、不慣れなユーザでは撮像が困難になることが問題となる。特に、不意に撮像のタイミングが訪れた場合に、瞬時に適切な撮像モードを選択して撮像することは、慣れたユーザであっても困難である。
これに対して、撮像後に画像処理ソフトなどを用いて画像を補正することで、適切な撮像モードで撮像されて得られる画像に近づけることができる。しかしながら、当該画像を得るための補正方法を決定するためには、画像処理に関する知識が必要となる。そのため、不慣れなユーザは画像を補正することが困難となる。また、慣れたユーザであっても、補正用のパラメータを調整したり、同種または異種の処理を繰り返したりする必要が生じ得るため、操作が煩雑であるとともに処理に時間を要する。
そこで本発明は、シーンに適した画像を容易に得ることを可能とした画像処理装置や、当該画像処理装置を備える撮像装置及び表示装置を提供することを目的とする。
上記目的を達成するために、本発明における撮像装置は、入力画像のシーンを推定するシーン推定部と、前記シーン推定部の推定結果に基づいた合焦状態を設定する合焦状態設定部と、入力画像の合焦状態を、前記合焦状態設定部で設定された合焦状態となるように補正して出力画像を生成する合焦状態補正処理部と、を備えることを特徴とする。
また、上記構成の画像処理装置において、前記合焦状態設定部が、入力画像中で合焦する位置及び被写界深度を設定することとしても構わない。
このように構成すると、被写体の見え方や画像から受ける印象に、直接的かつ重大な影響を与える合焦位置や被写界深度を、シーンに応じて補正することが可能となる。そのため、ユーザが所望する画像に近い出力画像を、自動的かつ効果的に生成することが可能となる。
また、上記構成の画像処理装置において、前記シーン推定部が、ユーザが指定するシーン、入力画像の色分布、被写体距離、入力画像中の顔の有無、入力画像の撮像時に集音された音及び入力画像中の動体の有無の少なくとも1つに基づいて、シーンを推定することとしても構わない。
このように構成し、シーン推定部が入力画像中の顔の有無に基づいて入力画像のシーンを推定する場合、入力画像中の顔の有無に応じて入力画像の合焦状態が補正され、それによって出力画像が生成されることとなる。そのため、効果的に人物(特に、顔)を強調した出力画像を得ることが可能となる。また、シーン推定部が被写体距離に基づいて入力画像のシーンを推定する場合、被写体距離に応じて入力画像の合焦状態が補正され、それによって出力画像が生成されることとなる。そのため、精度よく合焦状態を補正することが可能となる。特に、光学的に合焦状態を制御したような、自然な出力画像を得ることが可能となる。
また、上記構成の画像処理装置において、前記シーン推定部が、入力画像中の主要な被写体が人物であると推定するとき、前記合焦状態設定部が、入力画像中の人物に合焦して被写界深度を浅くする合焦状態を設定することとしても構わない。
このように構成すると、合焦状態補正処理部において、人物が鮮明であり、背景などの人物以外の被写体が不鮮明となる(ぼけた)出力画像を生成することが可能となる。即ち、人物が強調された出力画像を生成することが可能となる。
また、上記構成の画像処理装置において、前記シーン推定部が、入力画像中の主要な被写体が景色であると推定するとき、前記合焦状態設定部が、入力画像中の全体に合焦して被写界深度を深くする合焦状態を設定することとしても構わない。
このように構成すると、合焦状態補正処理部において、全体が鮮明となる出力画像を生成することが可能となる。
また、上記構成の画像処理装置において、前記シーン推定部が、入力画像中の主要な被写体が動体であると推定するとき、前記合焦状態設定部が、入力画像中の動体に合焦して被写界深度を浅くまたは深くする合焦状態を設定することとしても構わない。
このように構成し、被写界深度を浅くする合焦状態を設定する場合、合焦状態補正処理部において、動体が鮮明であり、動体以外の他の被写体が不鮮明(ぼけた)となる出力画像を生成することが可能となる。即ち、動体が強調された出力画像を生成することが可能となる。また、一般的な撮像装置で動体を撮像したような、自然な合焦状態の出力画像を容易に得ることが可能となる。一方、被写界深度を深くする合焦状態を設定する場合、従来の撮像装置では撮像が困難であった合焦状態の出力画像を、容易に得ることが可能となる。
また、上記構成の画像処理装置において、前記シーン推定部が、入力画像中の主要な被写体が近い被写体であると推定するとき、前記合焦状態設定部が、入力画像中の最も被写体距離が近い被写体に合焦して被写界深度を浅くする合焦状態を設定することとしても構わない。
このように構成すると、合焦状態補正処理部において、最も被写体距離が近い被写体が鮮明であり、その他の被写体が不鮮明(ぼけた)となる出力画像を生成することが可能となる。即ち、最も被写体距離が近い被写体が強調された出力画像を生成することが可能となる。
また、本発明の撮像装置は、撮像により入力画像を生成する撮像部と、入力画像に基づいて出力画像を生成する上記の画像処理装置と、を備えることを特徴とする。
また、本発明の表示装置は、入力画像を取得する取得部と、入力画像に基づいて出力画像を生成する上記の画像処理装置と、出力画像を表示する表示部と、を備えることを特徴とする。
本発明の構成とすると、入力画像のシーンを推定するとともに、推定したシーンに対応するように入力画像の合焦状態を補正した出力画像を生成することが可能となる。そのため、撮像時の正確なシーン認識や撮像モードの選択、撮像後の煩雑な画像処理をユーザに強いることなく、シーンに適した合焦状態となる出力画像を容易に得ることが可能となる。
本発明の意義ないし効果は、以下に示す実施の形態の説明によりさらに明らかとなろう。ただし、以下の実施の形態は、あくまでも本発明の実施の形態の一つであって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。
本発明の実施の形態について、以下図面を参照して説明する。最初に、本発明の実施の一形態である撮像装置について説明する。なお、以下に説明する撮像装置は、デジタルカメラなどの画像(動画(各フレーム)及び静止画を含む、以下同じ)信号や音響信号の生成、記録及び表示または再生が可能なものである。
<<撮像装置>>
まず、本発明の実施の一形態である撮像装置の全体構成例について、図1を参照して説明する。図1は、本発明の実施の一形態である撮像装置の全体構成例を示すブロック図である。
まず、本発明の実施の一形態である撮像装置の全体構成例について、図1を参照して説明する。図1は、本発明の実施の一形態である撮像装置の全体構成例を示すブロック図である。
図1に示すように、撮像装置1は、入射される光学像を電気信号に変換するCCD(Charge Coupled Device)またはCMOS(Complimentary Metal Oxide Semiconductor)センサなどの固体撮像素子から成るイメージセンサ2と、対象物の光学像をイメージセンサ2に結像させるとともに光量などの調整を行うレンズ部3と、を備える。レンズ部3とイメージセンサ2とで撮像部Sが構成され、この撮像部Sによって画像信号が生成される。なお、レンズ部3は、ズームレンズやフォーカスレンズなどの各種レンズ(不図示)や、イメージセンサ2に入力される光量を調整する絞り(不図示)などを備える。
さらに、撮像装置1は、イメージセンサ2から出力されるアナログの画像信号をデジタルに変換するとともにゲインの調整を行うAFE(Analog Front End)4と、AFE4から出力される画像信号に階調補正処理などの各種画像処理を施す画像処理部5と、入力される音を電気信号に変換する集音部6と、集音部6から出力されるアナログの音響信号をデジタルに変換するADC(Analog to Digital Converter)7と、ADC7から出力される音響信号にノイズ除去などの各種音響処理を施して出力する音響処理部8と、画像処理部5から出力される画像信号と音響処理部8から出力される音響信号のそれぞれに対してMPEG(Moving Picture Experts Group)圧縮方式などの動画用の圧縮符号化処理を施したり画像処理部5から出力される画像信号にJPEG(Joint Photographic Experts Group)圧縮方式などの静止画用の圧縮符号化処理を施したりする圧縮処理部9と、圧縮処理部9で圧縮符号化された圧縮符号化信号を記録する外部メモリ10と、圧縮符号化信号を外部メモリ10に記録したり読み出したりするドライバ部11と、ドライバ部11が外部メモリ10から読み出した圧縮符号化信号を伸長して復号する伸長処理部12と、を備える。
画像処理部5は、入力される画像信号の合焦状態を補正する合焦状態補正部50を備える。合焦状態とは、例えば、合焦する位置や範囲などの状態である。なお、合焦状態補正部50の構成の詳細については、後述する。
また、撮像装置1は、伸長処理部12で復号されて得られる画像信号をモニタなどの表示部(不図示)で表示可能な信号に変換する画像信号出力回路部13と、伸長処理部12で復号されて得られる音響信号をスピーカなどの再生部(不図示)で再生可能な信号に変換する音響信号出力回路部14と、を備える。
また、撮像装置1は、撮像装置1内全体の動作を制御するCPU(Central Processing Unit)15と、各処理を行うための各プログラムを記憶するとともにプログラム実行時のデータの一時保管を行うメモリ16と、撮像を開始するボタンや撮像条件などを調整するボタン等ユーザからの指示が入力される操作部17と、各部の動作タイミングを一致させるためのタイミング制御信号を出力するタイミングジェネレータ(TG)部18と、CPU15と各ブロックとの間でデータのやりとりを行うためのバス19と、メモリ16と各ブロックとの間でデータのやりとりを行うためのバス20と、を備える。なお、以下では説明の簡略化のため、各ブロックのやりとりにおいてバス19,20を省略する。
なお、動画と静止画の画像信号を生成可能な撮像装置1を一例として示したが、撮像装置1が、静止画の画像信号のみ生成可能な構成であっても構わない。この場合、集音部6やADC7、音響処理部8、音響信号出力回路部14などを備えない構成としても構わない。また、表示部や再生部は、撮像装置1と一体となっているものであっても構わないし、別体となっており撮像装置1に備えられる端子とケーブル等を用いて接続されるようなものであっても構わない。
また、外部メモリ10は画像信号や音響信号を記録することができればどのようなものでも構わない。例えば、SD(Secure Digital)カードのような半導体メモリ、DVDなどの光ディスク、ハードディスクなどの磁気ディスクなどをこの外部メモリ10として使用することができる。また、外部メモリ10を撮像装置1から着脱自在としても構わない。
次に、撮像装置1の全体動作例について図1を用いて説明する。まず、撮像装置1は、レンズ部3より入射される光をイメージセンサ2において光電変換することによって、電気信号である画像信号を取得する。そして、イメージセンサ2は、TG部18から入力されるタイミング制御信号に同期して、所定のタイミングでAFE4に画像信号を出力する。
そして、AFE4によってアナログからデジタルへと変換された画像信号は、画像処理部5に入力される。画像処理部5では、入力されるR(赤)G(緑)B(青)の成分を備える画像信号を、輝度信号(Y)と色差信号(U,V)の成分を備える画像信号に変換するとともに、階調補正や輪郭強調等の各種画像処理を施す。また、メモリ16はフレームメモリとして動作し、画像処理部5が処理を行なう際に画像信号を一時的に保持する。
また、このとき画像処理部5に入力される画像信号に基づき、レンズ部3において、レンズ位置が調整されてフォーカスの調整が行われたり、絞りの開度が調整されて露出の調整が行われたりする。このフォーカスや露出の調整は、それぞれ最適な状態となるように所定のプログラムに基づいて自動的に行われたり(オートフォーカス、オートエクスポージャ)、ユーザの指示に基づいて手動で行われたりする。
また、画像処理部5に備えられる合焦状態補正部50は、入力される画像信号を補正することで、画像信号が示す画像の合焦状態を補正する。なお、合焦状態補正部50の動作の詳細については、後述する。
動画の画像信号を生成する場合、集音部6において集音を行う。集音部6で集音されてアナログの電気信号に変換される音響信号は、ADC7に入力される。ADC7は、入力される音響信号をデジタルに変換し、音響処理部8に入力する。音響処理部8は、入力される音響信号にノイズ除去や強度制御などの各種音響処理を施す。そして、画像処理部5から出力される画像信号と、音響処理部8から出力される音響信号と、がともに圧縮処理部9に入力され、圧縮処理部9において所定の圧縮方式で圧縮される。このとき、画像信号と音響信号とが時間的に関連付けられ、再生時に画像と音とがずれないように構成される。そして、圧縮処理部9から出力される圧縮符号化信号は、ドライバ部11を介して外部メモリ10に記録される。
一方、静止画の画像信号を生成する場合、画像処理部5から出力される画像信号が圧縮処理部9に入力され、圧縮処理部9において所定の圧縮方式で圧縮される。そして、圧縮処理部9から出力される圧縮符号化信号が、ドライバ部11を介して外部メモリ10に記録される。
外部メモリ10に記録された動画の圧縮符号化信号は、ユーザの指示に基づいて伸長処理部12に読み出される。伸長処理部12は、圧縮符号化信号を伸長及び復号することで画像信号及び音響信号を生成し、出力する。そして、画像信号出力回路部13が、伸長処理部12から出力される画像信号を表示部で表示可能な形式に変換して出力し、音響信号処理回路部14が、伸長処理部12から出力される音響信号を再生部で再生可能な形式に変換して出力する。また、外部メモリ10に記録された静止画の圧縮符号化信号も同様に処理される。
なお、画像信号の記録を行わずに表示部などに表示される画像をユーザが確認する、いわゆるプレビューモードである場合に、画像処理部5から出力される画像信号を圧縮符号化せずに画像信号出力回路部13に出力することとしても構わない。また、画像信号を記録する際に、圧縮処理部9で圧縮符号化して外部メモリ10に記録する動作と並行して、画像信号出力回路部13を介して表示部などに画像信号を出力することとしても構わない。また、画像処理部5から出力される画像信号を圧縮符号化せずに、そのまま外部メモリ10に記録しても構わない。
また、合焦状態補正部50が画像処理部5に備えられ、画像信号の記録時に補正を行う構成について例示したが、合焦状態補正部50が備えられる場所や補正を行うタイミングは、上述の限りではない。例えば、合焦状態補正部50を伸長処理部12の後段かつ画像信号出力回路部13の前段に備え、画像信号の表示時(例えば、外部メモリ10から伸長処理部12に読み出されて伸長された後、画像信号出力回路部13に入力される前)や、編集時(例えば、外部メモリ10から伸長処理部12に読み出されて伸長された後、外部メモリ10に再度記録するために圧縮処理部9に入力される前)に、画像信号を補正しても構わない。また、補正に要する情報(後述するシーン推定用情報)を、画像信号を含むファイルのヘッダ領域に記録したり、外部メモリ10に別のファイルとして記録したりしても構わない。
また、図1では撮像機能、表示機能、編集機能を備える撮像装置1を例示して説明したが、いずれかの機能を備えない装置(例えば、撮像装置、表示装置、編集装置など)としても構わない。さらに、これらの装置を、備えない機能を実現するブロックを図1に示す撮像装置1から除いた装置として解釈しても構わない。また、図1に示していない他の機能を備える装置としても構わない。例えば、外部メモリ10などの記録装置以外から画像信号を取得する機能(例えば、無線送信される画像信号を取得する機能)を備える装置としても構わない。
<<合焦状態補正部>>
次に、上述した合焦状態補正部50の詳細について、図面を参照して説明する。また、以下では説明の具体化のために、合焦状態補正部50が補正する画像信号を画像として表現し、当該画像信号を「入力画像」とする。同様に、合焦状態補正部50の補正により生成される画像信号を「出力画像」として表現する。
次に、上述した合焦状態補正部50の詳細について、図面を参照して説明する。また、以下では説明の具体化のために、合焦状態補正部50が補正する画像信号を画像として表現し、当該画像信号を「入力画像」とする。同様に、合焦状態補正部50の補正により生成される画像信号を「出力画像」として表現する。
まず、合焦状態補正部50の構成について、図面を参照して説明する。図2は、合焦状態補正部の基本構成例を示すブロック図である。図2に示すように、合焦状態補正部50は、入力画像やシーン推定用情報に基づき入力画像のシーンを推定して推定結果をシーン推定結果情報として出力するシーン推定部51と、シーン推定結果情報に基づいた合焦状態を設定して合焦状態設定情報として出力する合焦状態設定部52と、合焦状態設定情報に従い入力画像の合焦状態を補正して出力画像を生成する合焦状態補正処理部53と、を備える。
「シーン」とは、被写体の状態を分類したものである。具体的に例えば、景色を主要な被写体とした「風景」、人物を主要な被写体とした「ポートレート」、動体を主要な被写体とした「スポーツ」、撮像装置1に近接する物体を主要な被写体とした「マクロ」などである。なお、これらのシーンは一例に過ぎず、分類方法はどのようなものであっても構わない。
シーン推定部51は、入力画像やシーン推定用情報を必要に応じて取得し、入力画像のシーンを推定する。入力画像から得られる情報として、例えば、撮像装置1と各被写体との撮像時の位置関係(特に、撮像装置1と被写体との距離である被写体距離)を示す情報や、入力画像の画素値の状態(例えば、色分布など)を示す情報、入力画像中の特徴部分(例えば、人の顔)の位置や大きさを示す情報などがある。また、シーン推定用情報として、例えば、ユーザが指定したシーンを示す情報や、撮像時の集音状態を示す情報などがある。
入力画像から得られる情報とした上記の各情報は、合焦状態補正部50の動作前(例えば、撮像時)に生成して、シーン推定用情報に含めることができる。具体的に例えば、オートフォーカスなど、撮像時の所定の処理に利用するために生成した情報を、シーン推定用情報としても利用することができる。なお、上記の各情報は一例に過ぎず、シーン推定部51は、どのような情報に基づいて入力画像のシーンを推定しても構わない。また、シーンの推定方法の具体例については後述する。
合焦状態設定部52は、シーン推定部51で推定された入力画像のシーン(シーン推定結果情報)に対応した合焦状態を設定する。例えば、推定されたシーンとそれぞれの合焦状態との対応関係(例えば、ルックアップテーブル)を保持または取得し、推定されたシーンに対応した合焦状態を選択して設定する。
合焦状態設定部52が設定する合焦状態として、例えば、合焦する位置を示す合焦位置や、合焦する範囲を示す被写界深度などがある。例えば合焦位置を、合焦する被写体の種類や、合焦する被写体距離、入力画像中で鮮明にする領域(以下、合焦領域とする)の位置として設定しても構わない。また例えば被写界深度を、合焦する被写体距離の範囲や、入力画像中で不鮮明にする領域(以下、非合焦領域とする)の位置、合焦領域以外の領域におけるぼけの程度として設定しても構わない。なお、上記の合焦状態設定部52が設定する合焦状態は一例に過ぎず、合焦状態設定部52は、どのような合焦状態を設定しても構わない。また、合焦状態の設定方法の具体例については後述する。
合焦状態補正処理部53は、合焦状態設定部52で設定された合焦状態(合焦状態設定情報)に従って、入力画像の合焦状態を補正して出力画像を生成する。入力画像の種類(入力画像を撮像した撮像部Sの種類とも解釈され得る)に応じて具体的な補正方法は異なるが、原則として画像処理によって補正を行う。なお、合焦状態の補正方法の具体例については後述する。
また、合焦状態補正部50の動作について、図3を参照して説明する。図3は、合焦状態補正部の基本動作例について説明する入力画像及び出力画像の一例を示す図である。図3では、撮像部Sによって画角の中央に人物Hを含む入力画像Pinが撮像された場合を例示している。
図3に示す例の場合、例えば、シーン推定部51が入力画像Pinを解析して、入力画像Pinのシーンを「ポートレート」と推定する。すると、合焦状態設定部52は、推定されたシーンである「ポートレート」に対応する合焦状態を設定する。例えば、合焦位置を人物Hとし、被写界深度を浅くする合焦状態を設定する。そして、合焦状態補正処理部53は、合焦状態設定部52で設定された合焦状態を実現すべく、入力画像Pinを補正する。具体的には、合焦位置である入力画像Pin中の人物Hを鮮明にし、背景などの人物Hから離れた被写体を不鮮明する(ぼかす)ことで被写界深度を浅くした出力画像Poutを生成する。
以上のように構成すると、入力画像のシーンを推定するとともに、推定したシーンに対応するように入力画像の合焦状態を補正した出力画像を生成することが可能となる。そのため、撮像時の正確なシーン認識や撮像モードの選択、撮像後の煩雑な画像処理をユーザに強いることなく、シーンに適した合焦状態となる出力画像を容易に得ることが可能となる。
特に、合焦位置や被写界深度は、被写体の見え方や画像全体から受ける印象に、直接的かつ重大な影響を与えるものである。そのため、合焦位置及び被写界深度をシーンに応じて補正することで、ユーザが所望する画像に近い出力画像を、自動的かつ効果的に生成することが可能となる。
なお、シーン推定部51、合焦状態設定部52及び合焦状態補正処理部53は、必要に応じて入力画像を解析しても構わなく、いずれかが行った解析結果を他が取得可能としても構わない。また、合焦状態補正部50以外が入力画像の解析を行い、当該解析結果がシーン推定用情報に含まれるように構成しても構わない。また、シーン推定部51だけでなく、合焦状態設定部52及び合焦状態補正処理部53が、必要に応じてシーン推定用情報を取得しても構わない。
また、以下において、シーン推定部51、合焦状態設定部52及び合焦状態補正処理部53の各部の動作方法例をそれぞれ説明するが、それぞれの動作方法例は矛盾なき限り組み合わせて実施することが可能である。特に、同種の動作方法例(例えば、シーン推定方法の第1例とシーン推定方法の第2例)を組み合わせて実施することも可能であるし、異種の動作方法例(例えば、シーン推定方法の第1例と合焦状態の補正方法の第1例)を組み合わせて実施することも可能である。同種の動作方法例を組み合わせて実施する場合、それぞれの動作結果を加重加算することで、総合的な動作結果を得ても構わないし、それぞれの動作結果に優先度を付加することで、いずれかの動作結果が選択されるようにしても構わない。
<シーン推定方法>
[第1例]
最初に、シーン推定部51のシーン推定方法の第1例について説明する。本例のシーン推定方法では、撮像時(またはその前後)にユーザが設定したシーンを利用する。
[第1例]
最初に、シーン推定部51のシーン推定方法の第1例について説明する。本例のシーン推定方法では、撮像時(またはその前後)にユーザが設定したシーンを利用する。
本例のシーン推定方法を用いる場合、例えば、ユーザによって設定された「風景」、「ポートレート」、「スポーツ」及び「マクロ」などの各シーンを、そのまま推定したシーンとする。
なお、本例のシーン推定方法を実行するために、入力画像の撮像時(またはその前後)にユーザが設定したシーンを、シーン推定用情報として外部メモリ10やメモリ16などに記録または保持しても構わない。
[第2例]
次に、シーン推定部51によるシーン推定方法の第2例について説明する。本例のシーン推定方法では、入力画像の色分布に関する情報を利用する。具体例を図3に示す。図3は、シーン推定方法の第2例について説明するグラフの一例を示す図である。
次に、シーン推定部51によるシーン推定方法の第2例について説明する。本例のシーン推定方法では、入力画像の色分布に関する情報を利用する。具体例を図3に示す。図3は、シーン推定方法の第2例について説明するグラフの一例を示す図である。
図3に示すグラフは、入力画像の画素値の色相を角度として表現し、彩度を中心からの距離で表現したものである。色相や彩度の値は、画素値がRGBやYUVで表現されていたとしても、所定の関係式に基づいてH(Hue、色相)S(Saturation、彩度)B(Brightness、明度)色空間の画素値に適宜変換することで得られる。
図3では、画素値(図中の黒点)が局所的に集中する領域Aが確認される場合を例示している。このように、色相が略等しく彩度が大きい領域Aが確認される場合、入力画像の広範囲に、略同色で鮮やかな部分が存在していることとなる。
本例のシーン推定方法を用いる場合、例えば、図3に示すような色分布が確認されれば、「マクロ」であると推定する。
なお、図3に示すグラフを、画素値をそのままプロットすることで作成しても構わないし、入力画像を所定数に分割したエリア毎に代表値をプロットすることで作成しても構わない。また、図3に示すシーン推定方法は一例に過ぎず、入力画像の色分布を利用するシーン推定方法であればどのような方法を適用しても構わない。
[第3例]
次に、シーン推定部51によるシーン推定方法の第3例について説明する。本例のシーン推定方法では、被写体距離を利用する。例えば、入力画像を所定数に分割したエリア毎に測定される被写体距離や、入力画像中に含まれる被写体毎に測定される被写体距離を参照することで、シーンを推定する。
次に、シーン推定部51によるシーン推定方法の第3例について説明する。本例のシーン推定方法では、被写体距離を利用する。例えば、入力画像を所定数に分割したエリア毎に測定される被写体距離や、入力画像中に含まれる被写体毎に測定される被写体距離を参照することで、シーンを推定する。
本例のシーン推定方法を用いる場合、例えば、入力画像中のエリア毎や被写体毎に測定される被写体距離について、遠距離の割合が多ければ「風景」と推定する。反対に、近距離の割合が多ければ「マクロ」と推定する。また、入力画像の中央付近が近距離であれば「ポートレート」と推定する。
なお、上記の被写体距離の測定方法として、どのような測定方法を適用しても構わない。例えば、撮像時に被写体距離を測定しても構わない。具体的には、測距センサ(例えば、赤外線や超音波などを出射し、反射を検出することで被写体距離を測定するセンサ)を用いたり、オートフォーカスの結果を利用(例えば、各エリアまたは各被写体に合焦させた時のそれぞれのレンズ位置から、それぞれの被写体距離を測定)したりしても構わない。
また、入力画像を解析することで、撮像後に被写体距離を測定しても構わない。具体的に例えば、複数の撮像部Sを用いた撮像(ステレオ撮像)や、Light Field Photography技術(詳細は、合焦状態の補正方法の第2例で説明する)を利用した撮像により得られる複数の視差画像を比較することで、被写体距離を測定しても構わない。
また例えば、1つの撮像部Sで、画角を略一定としてレンズ位置を時間的に順次変動させた連続的な撮像により複数の連続撮像画像(詳細は、合焦状態の補正方法の第3例で説明する)を生成し、各エリアまたは各被写体が合焦した連続撮像画像の撮像時のレンズ位置から、それぞれの被写体距離を測定しても構わない。
また例えば、軸上色収差を利用して被写体距離を測定しても構わない。軸上色収差が略0とならない(補正しない)レンズ部3を採用する場合(詳細は、合焦状態の補正方法の第5例で説明する)、色信号の種類(例えば、R、G及びB)に応じて、合焦時の被写体距離や、被写体距離の変動に対するぼけの変動態様が異なる。そのため、エリア毎または被写体毎に、それぞれの色信号のぼけの大きさを検出することで、それぞれの被写体距離を測定しても構わない。
[第4例]
次に、シーン推定部51によるシーン推定方法の第4例について説明する。本例のシーン推定方法では、顔検出処理を利用する。
次に、シーン推定部51によるシーン推定方法の第4例について説明する。本例のシーン推定方法では、顔検出処理を利用する。
本例のシーン推定方法を用いる場合、例えば、入力画像中から顔が検出されれば「ポートレート」と推定する。
なお、入力画像中から検出される顔の大きさに応じて、シーンをさらに細かく推定しても構わない。例えば、検出される顔の大きさが大きい場合、「ポートレート(近距離)」と推定しても構わない。また、検出される顔の大きさが小さい場合、「ポートレート(遠距離)」と推定しても構わない。さらに、入力画像から顔が検出されたとしても、検出された顔が「ポートレート」と推定するには小さ過ぎる場合は、「風景」などの「ポートレート」以外のシーンを推定しても構わない。
また、入力画像中から顔を検出する方法として、どのような検出方法を適用しても構わない。例えば、Adaboost(例えば、Yoav Freund, Robert E. Schapire, "A decision-theoretic generalization of on-line learning and an application to boosting", European Conference on Computational Learning Theory, September 20, 1995.)を利用しても構わない。この方法では、大量の教師サンプル(顔及び非顔のサンプル画像)を識別することで重み付けされた複数の弱識別器により、入力画像中の各部を順次識別することで顔を検出する。同様の方法により、特定の顔を検出(顔認識)しても構わない。
[第5例]
次に、シーン推定部51によるシーン推定方法の第5例について説明する。本例のシーン推定方法では、撮像時(またはその前後)に集音された音を利用する。
次に、シーン推定部51によるシーン推定方法の第5例について説明する。本例のシーン推定方法では、撮像時(またはその前後)に集音された音を利用する。
本例のシーン推定方法を用いる場合、例えば、撮像時(またはその前後)に集音された音が大きければ「ポートレート」と推定する。また、撮像時(またはその前後)に集音された音が小さければ「風景」と推定する。
なお、撮像時(またはその前後)に集音された音の大きさだけでなく、音の到来方向をも考慮してシーンを推定しても構わない。例えば、音の到来方向が撮像方向(特に画角内)である場合に、「ポートレート」と推定しても構わない。また例えば、音の到来方向が、例えば第4例で述べた方法で検出される顔が存在する方向である場合に、「ポートレート」と推定しても構わない。
このとき、音響処理部8が、音響信号を構成する複数のチャンネルの状態に基づいて、音の到来方向を検出しても構わない。具体的に例えば、集音部6が複数の指向性マイク(特定方向から到来する音を強調して集音するマイクであり、マイク毎に特定方向が異なると好ましい)を備えるものである場合、音響処理部8が、それぞれの指向性マイクで集音されて得られたチャンネルのレベルを比較することで、音の到来方向を検出しても構わない。また例えば、集音部6が複数の無指向性マイク(特定方向から到来する音を強調することなく、一律に集音するマイク)を備えるものである場合、音響処理部8が、それぞれの無指向性マイクで集音されて得られたチャンネルの位相差を算出し、当該位相差から音の到来方向を検出しても構わない。
[第6例]
次に、シーン推定部51によるシーン推定方法の第6例について説明する。本例のシーン推定方法では、動体検出処理を利用する。
次に、シーン推定部51によるシーン推定方法の第6例について説明する。本例のシーン推定方法では、動体検出処理を利用する。
本例のシーン推定方法を用いる場合、例えば、入力画像中から動体が検出されれば「スポーツ」と推定する。
なお、入力画像中の動体の検出方法として、どのような検出方法を適用しても構わない。例えば、入力画像と、入力画像の撮像時の直前または直後に撮像された画像と、を比較することで、動体を検出しても構わない。また例えば、入力画像と、入力画像とは別途撮像して得た背景を表示する画像(例えば、動体を含まない画像)と、を比較することで、動体を検出しても構わない。
また、入力画像中の動体の有無を確認するだけでなく、動体の移動方向や移動量をあわせて確認しても構わない。さらに、移動方向や移動量に応じて、異なるシーン(例えば、「スポーツ」を細かく分けたシーン)を推定しても構わない。
<合焦状態の設定方法>
次に、合焦状態設定部52による合焦状態の設定方法の具体例について、図面を参照して説明する。図5は、合焦状態の設定方法の具体例について説明するルックアップテーブルの一例を示す図である。図5に示すルックアップテーブルは、シーン推定部51によって推定されるシーンと、当該シーンに応じて合焦状態設定部52が設定する合焦状態と、の対応関係を示すものである。
次に、合焦状態設定部52による合焦状態の設定方法の具体例について、図面を参照して説明する。図5は、合焦状態の設定方法の具体例について説明するルックアップテーブルの一例を示す図である。図5に示すルックアップテーブルは、シーン推定部51によって推定されるシーンと、当該シーンに応じて合焦状態設定部52が設定する合焦状態と、の対応関係を示すものである。
図5に示すように、シーン推定部51によって入力画像のシーンが「風景」と推定される場合、撮像者は「入力画像の全体を表示する画像を生成したい」と考えていると推定される。そのため、例えば合焦状態設定部52は、被写界深度が深く入力画像の全体が合焦する合焦状態を設定する。
このように合焦状態を設定することにより、合焦状態補正処理部53において、全体が鮮明となる出力画像が生成される。
また、シーン推定部51によって入力画像のシーンが「ポートレート」と推定される場合、撮像者は「人物を表示する画像を生成したい」と考えていると推定される。そのため、例えば合焦状態設定部52は、入力画像中の人物(特に、顔)に合焦して被写界深度を浅くした合焦状態を設定する。
このように合焦状態を設定することにより、合焦状態補正処理部53において、人物が鮮明であり、背景などの人物以外の被写体が不鮮明となる(ぼけた)出力画像が生成される。即ち、人物が強調された出力画像が生成される(図3参照)。
また、シーン推定部51によって入力画像のシーンが「スポーツ」と推定される場合、撮像者は「動体を表示する画像を生成したい」と考えていると推定される。そのため、例えば合焦状態設定部52は、入力画像中の動体に合焦して被写界深度を浅くした合焦状態を設定する。
このように合焦状態を設定することにより、合焦状態補正処理部53において、動体が鮮明であり、動体以外の他の被写体が不鮮明(ぼけた)となる出力画像が生成される。即ち、動体が強調された出力画像が生成される。
ところで、一般的な撮像装置を用いて動体を撮像する場合、動体を鮮明化するためにシャッタスピードを速くするが、その分だけ露出を大きくするために絞りを開ける必要があり、被写界深度が浅くなる。そのため、上述のように合焦状態設定部52が被写界深度を浅くした合焦状態を設定するように構成すると、一般的な撮像装置で動体を撮像したような、自然な合焦状態の出力画像を容易に得ることが可能となる。
また、シーン推定部51によって入力画像のシーンが「マクロ」と推定される場合、撮像者は「近い被写体を表示する画像を生成したい」と考えていると推定される。そのため、例えば合焦状態設定部52は、入力画像中で最も被写体距離が近い被写体に合焦して被写界深度を浅くした合焦状態を設定する。
このように合焦状態を設定することにより、合焦状態補正処理部53において、最も被写体距離が近い被写体が鮮明であり、その他の被写体が不鮮明(ぼけた)となる出力画像が生成される。即ち、最も被写体距離が近い被写体が強調された出力画像が生成される。
なお、シーン推定部51が「スポーツ」と推定した場合に、合焦状態設定部52が被写界深度を浅くした合焦状態を設定するとしたが、被写界深度を深くした合焦状態を設定するとしても構わない。上述のように、一般的な撮像装置では、動体撮像時に被写界深度を深くすることは構成上困難である。しかしながら、上述のように合焦状態補正処理部53は、撮像後に合焦状態を補正するものであるため、絞りなどの影響を受けることなく合焦状態を補正することができる。そのため、本発明の構成であれば、従来の撮像装置では撮像が困難であった合焦状態の出力画像を、容易に得ることが可能となる。
また、説明の簡略化のため、被写界深度を「深い」及び「浅い」の2つの状態のみ設定され得るものとしたが、他の状態も設定可能である。例えば、シーン推定方法の第4例で示したようなシーンを細かく推定する場合など、被写界深度の深さ(ぼかす程度)を細かく設定可能としても構わない。具体的に例えば、「ポートレート(近距離)」と推定された場合、「ポートレート(遠距離)」と推定されるよりも被写界深度が浅くなる(強くぼける)ように設定しても構わない。
また、上述のように、合焦位置を被写体距離で設定しても構わないし、入力画像中における合焦領域の具体的な位置で設定しても構わない。同様に、被写界深度を被写体距離の範囲で設定しても構わないし、ぼかす(または、ぼかさない)領域の具体的な位置で設定しても構わない。
<合焦状態の補正方法>
[第1例]
次に、合焦状態補正処理部53による合焦状態の補正方法の第1例について説明する。本例の補正方法では、ぼけ復元処理及びぼかし処理の少なくとも一方を行う。
[第1例]
次に、合焦状態補正処理部53による合焦状態の補正方法の第1例について説明する。本例の補正方法では、ぼけ復元処理及びぼかし処理の少なくとも一方を行う。
ぼけ復元処理として、例えば、インバースフィルタやウィーナフィルタなど、種々の復元フィルタを用いたフィルタ処理を適用することができる。復元フィルタは、劣化した画像(入力画像)を、劣化していない画像に劣化関数(例えば、点像分布関数(Point Spread Function:PSF))を作用させたものと仮定した場合における、フーリエ変換した劣化関数の逆数である。この復元フィルタを、フーリエ変換した劣化画像(入力画像)に乗算するとともに、乗算して得られた結果を逆フーリエ変換することで、劣化していない画像を得ることができる。
ぼかし処理として、例えば、フィルタ係数が処理対象の画素(以下、注目画素とする)に近いものほど大きく、ガウス分布に近づけられているガウシアンフィルタや、注目画素及び周囲の画素に対するフィルタ係数が略等しい平均化フィルタ、所定の周波数以上の高周波数成分を濾波するローパスフィルタなど、種々のぼかしフィルタを用いたフィルタ処理を適用することができる。
このように、入力画像に対して選択的なぼけ復元処理を施したり、選択的なぼかし処理を施したりすることで、任意の合焦状態を実現した出力画像を得ることができる。
なお、被写界深度(ぼかす程度)や被写体距離、非合焦領域内の注目画素と合焦領域との距離などに応じて、ぼかしフィルタのフィルタサイズやフィルタ係数を可変としても構わない。例えば、フィルタサイズを大きくすることで、強くぼかすことが可能となる。また例えば、注目画素に対するフィルタ係数を小さくし、周辺画素に対するフィルタ係数を大きくすることで、強くぼかすことが可能となる。そこで例えば、被写界深度が浅いほど、合焦する被写体距離から遠いほど、合焦領域から遠い非合焦領域内の注目画素ほど、強くぼかしても構わない。
また、非合焦領域の外縁付近の注目画素にぼかしフィルタを作用させる場合(特に、合焦領域と非合焦領域の双方の画素値を用いて、非合焦領域内の注目画素の画素値が算出される場合)に、フィルタ係数を補正しても構わない。具体的には、非合焦領域以外の領域の画素に対するフィルタ係数を、0に補正する。
このように構成すると、例えば、合焦領域内の画素の画素値が非合焦領域ににじみ出すことで、合焦領域が強調されにくいものとなることを、抑制することが可能となる。また、合焦領域の注目画素に対して復元フィルタを作用させる場合も、同様にフィルタ係数を制御しても構わない。
また、推定されたシーンが「スポーツ」である場合、動体の移動方向や移動量を考慮したぼかしフィルタを適用しても構わない。具体的に例えば、動体の移動方向と反対方向に存在する非合焦領域の画素ほど、強くぼかしても構わない。また例えば、動体の移動量が大きいほど、強くぼかしても構わない。
このように構成すると、動体の動きを精度よく反映させた出力画像を得ることができる。特に、「スポーツ」のシーンが推定された際に合焦状態設定部52が設定する被写界深度が「浅い」場合に、上記のようなぼかしフィルタを適用すると、より自然な出力画像が得られるため、好ましい。
また、入力画像中の合焦領域以外の領域を全て非合焦領域としても構わないし、合焦領域及び非合焦領域以外の領域(ぼけ復元処理及びぼかし処理が行われない領域)が存在することとしても構わない。また、ぼけ復元処理及びぼかし処理の双方が行われる領域が存在することとしても構わない。例えば、入力画像の全領域にぼけ復元処理を施して被写界深度を深くした上で、選択的にぼかし処理を行って出力画像を生成しても構わない。
[第2例]
次に、合焦状態補正処理部53による合焦状態の補正方法の第2例について説明する。本例の補正方法では、Light Field Photography技術(例えば、Ren Ng, Marc Levoy, Mathieu, Br´edif Gene ,Duval Mark Horowitz, Pat Hanrahan, "Light Field Photography with a Hand-Held Plenoptic Camera",Stanford Tech Report CTSR 2005-02)を用いて補正を行う。
次に、合焦状態補正処理部53による合焦状態の補正方法の第2例について説明する。本例の補正方法では、Light Field Photography技術(例えば、Ren Ng, Marc Levoy, Mathieu, Br´edif Gene ,Duval Mark Horowitz, Pat Hanrahan, "Light Field Photography with a Hand-Held Plenoptic Camera",Stanford Tech Report CTSR 2005-02)を用いて補正を行う。
Light Field Photography技術について、図面を参照して説明する。図6は、合焦状態の補正方法の第2例について説明する撮像部の構成の一例を示す図である。図6に示すように、本例の補正方法で補正される入力画像は、イメージセンサ2の受光面の前方(レンズ部3側)にマイクロレンズアレイ31を備えた撮像部Sの撮像により、生成されるものとなる。なお、図6(a)は、マイクロレンズアレイ31及びイメージセンサ2の側面を示す図であり、図6(b)は、マイクロレンズアレイ31及びイメージセンサ2のそれぞれの平面(図6(a)に示す側面に略垂直な面であり、光の入射側の面)を示す図である。
図6に示すように、マイクロレンズアレイ31には、複数のマイクロレンズが2次元配置されている。そして、あるマイクロレンズ31aに入射した光線は、あるイメージセンサの小領域2a内に入射するように構成されている。特に、図6(b)のそれぞれの小領域内に示すそれぞれの破線の円の内側に、光線が入射するように構成されている。
また、マイクロレンズは、特定の方向から入射した光線を、小領域内の特定位置の受光素子に導く。そのため、それぞれの小領域で等しい位置関係となる受光素子(例えば、図6(b)で黒塗した受光素子)から得られる画素値を選択して並べることで、被写体を種々の方向から見た複数の画像(視差画像)を得ることができる。
上述のように、視差画像を比較することで、各エリアや各被写体の被写体距離を算出することが可能である。また、任意の視差画像を取得したり、必要に応じて複数の視差画像を合成したりすることで、任意の合焦状態を実現した出力画像を得ることができる。
なお、シーン推定部51が、いずれか1つの視差画像に基づいてシーン判定を行っても構わないし、複数の視差画像(または複数の視差画像を所定の方法で合成して得られる画像)に基づいて、シーン判定を行っても構わない。
また、複数の撮像部Sを用いたステレオ撮像により生成される複数の視差画像に対して、本例と同様の補正方法を適用しても構わない。
[第3例]
次に、合焦状態補正処理部53による合焦状態の補正方法の第3例について説明する。本例の補正方法で補正される入力画像は、撮像部Sが画角を略一定としてレンズ位置を時間的に順次変動させた連続的な撮像により生成される、複数の連続撮像画像である。
次に、合焦状態補正処理部53による合焦状態の補正方法の第3例について説明する。本例の補正方法で補正される入力画像は、撮像部Sが画角を略一定としてレンズ位置を時間的に順次変動させた連続的な撮像により生成される、複数の連続撮像画像である。
連続撮像画像について、図面を参照して説明する。図7は、合焦状態の補正方法の第3例について説明する連続撮像画像の一例を示す図である。なお、図7に示すそれぞれの連続撮像画像PC1〜PC4は、図3に示した入力画像及び出力画像と同じ被写体について撮像したものである。また、PC1、PC2、PC3、PC4の順に、合焦させた被写体距離が遠くなっている。また、図7に例示する連続撮像画像PC1〜PC4の被写界深度は、比較的浅いものとなっている。
図7に示すように、連続撮像画像PC1〜PC4は合焦状態(特に、合焦位置)が異なり、合焦している(鮮明となる)被写体がそれぞれ異なる。そのため、連続撮像画像PC1〜PC4を適宜合成することで、任意の合焦状態を実現した出力画像を生成することができる。例えば、各画像で鮮明な部分(例えば、連続撮像画像PC2の人物Hや、連続撮像画像PC4の背景)を選択的に(または重みを大きくして)合成することで、被写界深度を深くすることができる。
なお、シーン推定部51が、いずれか1つの連続撮像画像に基づいてシーン判定を行っても構わないし、複数の連続撮像画像(または複数の連続撮像画像を所定の方法で合成して得られる画像)に基づいて、シーン判定を行っても構わない。
[第4例]
次に、合焦状態補正処理部53による合焦状態の補正方法の第4例について説明する。本例の補正方法では、Wavefront Coding技術を用いて補正を行う。Wavefront Coding技術について、図面を参照して説明する。図8は、合焦状態の補正方法の第4例について説明する撮像部の構成の一例を示す図であり、第3例について示した図6(a)に相当するものである。
次に、合焦状態補正処理部53による合焦状態の補正方法の第4例について説明する。本例の補正方法では、Wavefront Coding技術を用いて補正を行う。Wavefront Coding技術について、図面を参照して説明する。図8は、合焦状態の補正方法の第4例について説明する撮像部の構成の一例を示す図であり、第3例について示した図6(a)に相当するものである。
図8に示すように、本例の補正方法で補正される入力画像は、イメージセンサ2の受光面の前方(レンズ部3側)に光波面変調部32を備えた撮像部Sの撮像により、生成されるものとなる。
光波面変調部32は、光線を規則的に分散することで、イメージセンサ2上のいずれにおいてもピントが合わない(ぼける)ようにする。ただし、ぼけの大きさ(例えば、上述のPSF)が、所定の被写体距離の範囲内であれば、被写体距離によらず一定になるように分散される。そのため、入力画像を容易かつ精度よく復元することが可能となる。したがって、例えば入力画像を選択的に復元することで、任意の合焦状態を実現した出力画像を得ることができる。
なお、入力画像を復元する際に、合焦状態の補正方法の第1例で述べたぼけ復元処理を適用しても構わない。また、入力画像の全領域のぼけを復元した後に、第1例で述べたぼかし処理を選択的に行うことで出力画像を生成しても構わない。
[第5例]
次に、合焦状態補正処理部53による合焦状態の補正方法の第5例について説明する。本例の補正方法では、軸上色収差が補正されていない入力画像に対し、色信号毎に補正を行う。
次に、合焦状態補正処理部53による合焦状態の補正方法の第5例について説明する。本例の補正方法では、軸上色収差が補正されていない入力画像に対し、色信号毎に補正を行う。
本例の補正方法が適用され得る入力画像を生成するための撮像部Sの構成例について、図面を参照して説明する。図9は、合焦状態の補正方法の第5例について説明する撮像部の構成の一例を示す図であり、第3例について示した図6(a)や、第4例について示した図8に相当するものである。
図9に示すように、本例の補正方法で補正される入力画像は、色収差が略0とならない(補正しない)レンズ部3を備えた撮像部Sの撮像により、生成されるものとなる。また、図9に示すように、軸上色収差を補正しないレンズ部3を光線が通過すると、各色の光線(赤:R,緑:G、青:Bとする)は、イメージセンサ2上でそれぞれ異なる広がり(ぼけ、例えば上述のPSF)を有するものとなる。図9では、赤R、緑G、青Bの順に、ぼけが大きくなる場合を例示している。
シーン推定方法の第3例において述べたように、各色信号のぼけの大きさを確認することで、各エリアや各被写体の被写体距離を算出することができる。また、エリア毎や被写体毎に各色信号のぼけを復元することで、軸上色収差を補正して被写界深度を深くした画像を生成することができる。
さらに、被写界深度を深くした画像を選択的にぼかすことで、任意の合焦状態を実現した出力画像を得ることができる。このとき、各エリアや各被写体の被写体距離に基づいてぼかす程度を決定すると、撮像部Sを制御して光学的にぼかしたような、自然にぼけた出力画像を得ることができるため、好ましい。
なお、入力画像を復元する際に、合焦状態の補正方法の第1例で述べたぼけ復元処理を適用しても構わない。また、被写界深度を深くした画像をぼかす際に、合焦状態の補正方法の第1例で述べたぼかし処理を適用しても構わない。
<好適な組み合わせの例>
シーン推定方法及び合焦状態の補正方法について、複数の動作方法例を説明した。上述のように、矛盾なき限り動作方法例をどのように組み合わせても構わないが、有用な組み合わせ例が存在する。そのため、以下では特に有用な組み合わせ例について示す。
シーン推定方法及び合焦状態の補正方法について、複数の動作方法例を説明した。上述のように、矛盾なき限り動作方法例をどのように組み合わせても構わないが、有用な組み合わせ例が存在する。そのため、以下では特に有用な組み合わせ例について示す。
[第1例]
本例は、シーン推定方法の第1例、第2例または第4例と、合焦状態の補正方法の第1例と、を組み合わせるものである。本例の構成とすると、例えば、撮像部Sを特殊なものとすることなく、画素値の演算によって全ての処理を実行することが可能となる。そのため、いずれの処理も容易に実行することが可能となる。
本例は、シーン推定方法の第1例、第2例または第4例と、合焦状態の補正方法の第1例と、を組み合わせるものである。本例の構成とすると、例えば、撮像部Sを特殊なものとすることなく、画素値の演算によって全ての処理を実行することが可能となる。そのため、いずれの処理も容易に実行することが可能となる。
また特に、シーン推定方法の第4例と、合焦状態の補正方法の第1例と、を組み合わせる場合、入力画像中の顔に基づいてシーンが判定され、顔が検出されれば当該顔を強調した出力画像が生成され得る。そのため、容易かつ効果的に人物(特に、顔)を強調した出力画像を得ることが可能となる。
[第2例]
本例は、シーン推定方法の第3例と、合焦状態の補正方法の第2例、第3例または第5と、を組み合わせるものである。本例の構成とすると、例えば、被写体距離に基づいてシーンの推定と合焦状態の補正とを行うことが可能となる。そのため、いずれの処理も精度よく実行することが可能となる。特に、光学的に合焦状態を制御したような、自然な出力画像を得ることが可能となる。
本例は、シーン推定方法の第3例と、合焦状態の補正方法の第2例、第3例または第5と、を組み合わせるものである。本例の構成とすると、例えば、被写体距離に基づいてシーンの推定と合焦状態の補正とを行うことが可能となる。そのため、いずれの処理も精度よく実行することが可能となる。特に、光学的に合焦状態を制御したような、自然な出力画像を得ることが可能となる。
<変形例>
本発明の実施形態における撮像装置1について、画像処理部5や合焦状態補正部50などのそれぞれの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
本発明の実施形態における撮像装置1について、画像処理部5や合焦状態補正部50などのそれぞれの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
また、上述した場合に限らず、図1に示す撮像装置1や、図2に示す合焦状態補正部50は、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって実現可能である。また、ソフトウェアを用いて撮像装置1や合焦状態補正部50の一部を構成する場合、ソフトウェアによって実現される部位についてのブロックは、その部位の機能ブロックを表すこととする。
以上、本発明における実施形態について説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができる。
本発明は、入力画像を処理して出力画像を生成する画像処理装置や、撮像により入力画像を生成する撮像装置、出力画像を表示する表示装置に利用可能である。
50 合焦状態補正部
51 シーン推定部
52 合焦状態設定部
53 合焦状態補正処理部
51 シーン推定部
52 合焦状態設定部
53 合焦状態補正処理部
Claims (6)
- 入力画像のシーンを推定するシーン推定部と、
前記シーン推定部の推定結果に基づいた合焦状態を設定する合焦状態設定部と、
入力画像の合焦状態を、前記合焦状態設定部で設定された合焦状態となるように補正して出力画像を生成する合焦状態補正処理部と、
を備えることを特徴とする画像処理装置。 - 前記合焦状態設定部が、入力画像中で合焦する位置及び被写界深度を設定することを特徴とする請求項1に記載の画像処理装置。
- 前記シーン推定部が、入力画像中の主要な被写体が人物であると推定するとき、
前記合焦状態設定部が、入力画像中の人物に合焦して被写界深度を浅くする合焦状態を設定することを特徴とする請求項2に記載の画像処理装置。 - 前記シーン推定部が、入力画像中の主要な被写体が景色であると推定するとき、
前記合焦状態設定部が、入力画像中の全体に合焦して被写界深度を深くする合焦状態を設定することを特徴とする請求項2に記載の画像処理装置。 - 撮像により入力画像を生成する撮像部と、
入力画像に基づいて出力画像を生成する請求項1〜請求項4のいずれかに記載の画像処理装置と、
を備えることを特徴とする撮像装置。 - 入力画像を取得する取得部と、
入力画像に基づいて出力画像を生成する請求項1〜請求項4のいずれかに記載の画像処理装置と、
出力画像を表示する表示部と、
を備えることを特徴とする表示装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010074443A JP2011211291A (ja) | 2010-03-29 | 2010-03-29 | 画像処理装置、撮像装置及び表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010074443A JP2011211291A (ja) | 2010-03-29 | 2010-03-29 | 画像処理装置、撮像装置及び表示装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011211291A true JP2011211291A (ja) | 2011-10-20 |
Family
ID=44941936
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010074443A Pending JP2011211291A (ja) | 2010-03-29 | 2010-03-29 | 画像処理装置、撮像装置及び表示装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011211291A (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013081086A1 (en) * | 2011-12-02 | 2013-06-06 | Canon Kabushiki Kaisha | Image processing apparatus and image processing method |
JP2013145980A (ja) * | 2012-01-13 | 2013-07-25 | Canon Inc | 撮像装置、その制御方法、画像処理装置、画像生成方法、プログラム |
JP2013162291A (ja) * | 2012-02-03 | 2013-08-19 | Toshiba Corp | カメラモジュール |
JP2013254432A (ja) * | 2012-06-08 | 2013-12-19 | Canon Inc | 画像処理装置及び画像処理方法 |
JP2016086362A (ja) * | 2014-10-28 | 2016-05-19 | キヤノン株式会社 | 画像処理装置、画像処理方法及びコンピュータプログラム |
US9521316B2 (en) | 2013-02-14 | 2016-12-13 | Canon Kabushiki Kaisha | Image processing apparatus for reconstructing an image, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium |
JP2017092992A (ja) * | 2017-02-14 | 2017-05-25 | キヤノン株式会社 | 画像処理装置及びその制御方法 |
JP2017184144A (ja) * | 2016-03-31 | 2017-10-05 | 株式会社ニコン | 画像処理装置、撮像装置、および画像処理プログラム |
JP2018536365A (ja) * | 2015-09-29 | 2018-12-06 | トムソン ライセンシングThomson Licensing | プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム |
WO2022201782A1 (ja) * | 2021-03-26 | 2022-09-29 | 富士フイルム株式会社 | 撮像装置、撮像方法、及びプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004320287A (ja) * | 2003-04-15 | 2004-11-11 | Nikon Gijutsu Kobo:Kk | デジタルカメラ |
JP2007074550A (ja) * | 2005-09-08 | 2007-03-22 | Olympus Imaging Corp | 撮影条件設定装置及び撮影条件設定方法と当該撮影条件設定装置を備えたカメラ |
JP2007121654A (ja) * | 2005-10-27 | 2007-05-17 | Eastman Kodak Co | 撮像装置 |
JP2009177782A (ja) * | 2007-12-28 | 2009-08-06 | Sanyo Electric Co Ltd | 画像処理装置および撮影装置 |
-
2010
- 2010-03-29 JP JP2010074443A patent/JP2011211291A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004320287A (ja) * | 2003-04-15 | 2004-11-11 | Nikon Gijutsu Kobo:Kk | デジタルカメラ |
JP2007074550A (ja) * | 2005-09-08 | 2007-03-22 | Olympus Imaging Corp | 撮影条件設定装置及び撮影条件設定方法と当該撮影条件設定装置を備えたカメラ |
JP2007121654A (ja) * | 2005-10-27 | 2007-05-17 | Eastman Kodak Co | 撮像装置 |
JP2009177782A (ja) * | 2007-12-28 | 2009-08-06 | Sanyo Electric Co Ltd | 画像処理装置および撮影装置 |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013081086A1 (en) * | 2011-12-02 | 2013-06-06 | Canon Kabushiki Kaisha | Image processing apparatus and image processing method |
JP2013117848A (ja) * | 2011-12-02 | 2013-06-13 | Canon Inc | 画像処理装置及び画像処理方法 |
US9332190B2 (en) | 2011-12-02 | 2016-05-03 | Canon Kabushiki Kaisha | Image processing apparatus and image processing method |
JP2013145980A (ja) * | 2012-01-13 | 2013-07-25 | Canon Inc | 撮像装置、その制御方法、画像処理装置、画像生成方法、プログラム |
JP2013162291A (ja) * | 2012-02-03 | 2013-08-19 | Toshiba Corp | カメラモジュール |
JP2013254432A (ja) * | 2012-06-08 | 2013-12-19 | Canon Inc | 画像処理装置及び画像処理方法 |
US9521316B2 (en) | 2013-02-14 | 2016-12-13 | Canon Kabushiki Kaisha | Image processing apparatus for reconstructing an image, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium |
JP2016086362A (ja) * | 2014-10-28 | 2016-05-19 | キヤノン株式会社 | 画像処理装置、画像処理方法及びコンピュータプログラム |
JP2021090208A (ja) * | 2015-09-29 | 2021-06-10 | インターディジタル・シーイー・パテント・ホールディングス・ソシエテ・パ・アクシオンス・シンプリフィエ | プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム |
JP2018536365A (ja) * | 2015-09-29 | 2018-12-06 | トムソン ライセンシングThomson Licensing | プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム |
US10880466B2 (en) | 2015-09-29 | 2020-12-29 | Interdigital Ce Patent Holdings | Method of refocusing images captured by a plenoptic camera and audio based refocusing image system |
JP7178435B2 (ja) | 2015-09-29 | 2022-11-25 | インターディジタル・シーイー・パテント・ホールディングス・ソシエテ・パ・アクシオンス・シンプリフィエ | プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム |
JP2017184144A (ja) * | 2016-03-31 | 2017-10-05 | 株式会社ニコン | 画像処理装置、撮像装置、および画像処理プログラム |
JP2017092992A (ja) * | 2017-02-14 | 2017-05-25 | キヤノン株式会社 | 画像処理装置及びその制御方法 |
WO2022201782A1 (ja) * | 2021-03-26 | 2022-09-29 | 富士フイルム株式会社 | 撮像装置、撮像方法、及びプログラム |
JP7421008B2 (ja) | 2021-03-26 | 2024-01-23 | 富士フイルム株式会社 | 撮像装置、撮像方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2011211291A (ja) | 画像処理装置、撮像装置及び表示装置 | |
JP4888191B2 (ja) | 撮像装置 | |
JP5748422B2 (ja) | 電子機器 | |
JP4824586B2 (ja) | 撮像装置 | |
JP2008294785A (ja) | 画像処理装置、撮像装置、画像ファイル及び画像処理方法 | |
US20100134652A1 (en) | Photographing apparatus and method for dynamic range adjustment and stereography | |
US9398230B2 (en) | Imaging device and imaging method | |
JP2011114823A (ja) | 画像処理装置及び撮像装置 | |
JP2008139683A (ja) | 撮像装置及びオートフォーカス制御方法 | |
JP2009065587A (ja) | 音声記録装置及び音声再生装置 | |
JP2007324856A (ja) | 撮像装置、撮像制御方法 | |
JP3964315B2 (ja) | デジタルカメラ | |
KR101630304B1 (ko) | 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 매체 | |
JP2010135984A (ja) | 複眼撮像装置及び撮像方法 | |
JP2003319407A (ja) | 撮像装置 | |
KR20160137289A (ko) | 촬영 장치 및 촬영 장치의 동작방법 | |
JP2011239267A (ja) | 撮像装置及び画像処理装置 | |
US8537266B2 (en) | Apparatus for processing digital image and method of controlling the same | |
JP5146015B2 (ja) | 撮像装置及び撮像方法 | |
JP6280780B2 (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
JP2011155582A (ja) | 撮像装置 | |
JP5497420B2 (ja) | 画像処理装置及び撮像装置 | |
JP4871664B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP4969349B2 (ja) | 撮像装置及び撮像方法 | |
JP2008172395A (ja) | 撮像装置、画像処理装置、方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130206 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20130404 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20140311 |