JP2011147109A - 撮像装置及び画像処理装置 - Google Patents
撮像装置及び画像処理装置 Download PDFInfo
- Publication number
- JP2011147109A JP2011147109A JP2010235878A JP2010235878A JP2011147109A JP 2011147109 A JP2011147109 A JP 2011147109A JP 2010235878 A JP2010235878 A JP 2010235878A JP 2010235878 A JP2010235878 A JP 2010235878A JP 2011147109 A JP2011147109 A JP 2011147109A
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- subject
- layer
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Indication In Cameras, And Counting Of Exposures (AREA)
- Automatic Focus Adjustment (AREA)
- Focusing (AREA)
Abstract
【課題】主被写体が含まれるレイヤをユーザが容易に特定及び選択でき、背景と主被写体とをそれぞれ異なる所望の画角で撮影する。
【解決手段】画像を撮像する際に被写体までの距離を測定する。そして、被写体までの距離に応じて、設定された距離の間隔ごとに、同一の距離の範囲に存在する被写体が同一のレイヤに属するように、撮像して得られた画像を異なる複数のレイヤに分割する。さらに、分割された複数のレイヤそれぞれに対し拡大率を設定して変倍処理を実行し、変倍された各レイヤを、被写体との距離が近いレイヤが上になるように合成することにより、被写体までの距離毎に変倍させた画像を得ることができる。
【選択図】図9
【解決手段】画像を撮像する際に被写体までの距離を測定する。そして、被写体までの距離に応じて、設定された距離の間隔ごとに、同一の距離の範囲に存在する被写体が同一のレイヤに属するように、撮像して得られた画像を異なる複数のレイヤに分割する。さらに、分割された複数のレイヤそれぞれに対し拡大率を設定して変倍処理を実行し、変倍された各レイヤを、被写体との距離が近いレイヤが上になるように合成することにより、被写体までの距離毎に変倍させた画像を得ることができる。
【選択図】図9
Description
本発明は、画像を撮像した際の被写体と撮像装置との距離情報を有する画像を編集する技術に関する。
デジタルカメラ等の撮像装置は、ズーム機能を備え、遠方の被写体を所望の倍率で撮像することが可能である。ズーム機能には、光学系と撮像素子間の焦点距離を変化させることにより実現する光学ズームと、撮像素子から出力された画像信号を電子的に拡大させることにより実現する電子(デジタル)ズームがある。
特許文献1では、デジタルズーム機能を用いて、同時に画角の異なる複数のスルー画像を表示部に表示して、ユーザに選択させることで、ズーム操作することなく所望の画角での撮像を行う技術が開示されている。
また、撮像装置の中には、撮影対象の被写体までの距離を計測する機能を備えるものがある。特許文献2では、撮像装置から被写体までの距離を計測し、計測された距離に応じて撮像した画像を複数の領域に分割し、各々の領域に対して異なる周波数特性のフィルタを適用する技術が開示されている。
特許文献1等に用いられる一般的なデジタルズーム機能は、拡大処理を行う際に撮像範囲の全ての画像情報が拡大される。即ち、背景と主被写体が存在するような構図において、主被写体を大きく撮像するためにズーム機能を用いると、所望の背景が画角に収まらない場合がある。このため、所望の背景を画角に収めつつ、主被写体を大きく撮像するためには、主被写体が撮像装置に近づく必要がある。しかしながら、ストロボ等の発光装置を用いて撮像を行う場合には、近くに存在する主被写体に主にストロボの光が照射されるため、主被写体の画像が白とびしたり、背景と主被写体との輝度に差がある画像が撮像されたりする弊害があった。
また、特許文献2のように被写体までの距離に応じて画像を領域に分割し、領域毎に対応付けられた距離に応じて異なる倍率のデジタルズームを適用することで、背景を収めつつ主被写体を大きく撮影した擬似的な合成写真を作成することが考えられる。
しかしながら、領域毎に対応付けられた距離に応じて異なる倍率のデジタルズームを適用する場合、ユーザは主被写体までの距離を容易に特定することができず、任意の距離範囲の被写体を選択して所望の倍率を設定することは容易ではない。
本発明は、上述の問題点に鑑みてなされたものであり、撮像装置から被写体までの距離に応じて撮像された画像をそれぞれ異なるレイヤに分割し、主被写体が含まれるレイヤをユーザが容易に特定及び選択できるようにすることを目的とする。
また、距離に応じてレイヤに分割された画像に対して、主被写体を含むレイヤとその他(背景など)のレイヤとで異なるデジタルズーム処理を実行し、背景と主被写体とをそれぞれ異なる所望の画角で撮影できるようにすることを本発明の更なる目的とする。
前述の目的を達成するために、本発明の撮像装置は、以下の構成を備える。
被写体を撮像する撮像手段と、被写体までの距離を測定する測距手段と、被写体までの距離に応じて、設定された距離の間隔ごとに撮像手段で撮像された画像を異なる複数のレイヤに分割するレイヤ分割手段と、レイヤ分割手段により分割された複数のレイヤと、当該複数のレイヤのそれぞれに含まれる被写体とを示した表示画像を表示する表示手段と、距離の間隔を設定する設定手段と、を有し、表示手段は、設定手段により新たな距離の間隔が設定されることに応じて、表示画像を更新することを特徴する。
被写体を撮像する撮像手段と、被写体までの距離を測定する測距手段と、被写体までの距離に応じて、設定された距離の間隔ごとに撮像手段で撮像された画像を異なる複数のレイヤに分割するレイヤ分割手段と、レイヤ分割手段により分割された複数のレイヤと、当該複数のレイヤのそれぞれに含まれる被写体とを示した表示画像を表示する表示手段と、距離の間隔を設定する設定手段と、を有し、表示手段は、設定手段により新たな距離の間隔が設定されることに応じて、表示画像を更新することを特徴する。
このような構成により本発明によれば、主被写体が含まれるレイヤをユーザが容易に特定及び選択でき、背景と主被写体とをそれぞれ異なる所望の画角で撮影することが可能となる。
(実施形態1)
以下、本発明の好適な一実施形態について、図面を参照して詳細に説明する。なお、以下に説明する一実施形態は、撮像装置の一例としての、被写体との距離を測定して撮像が可能なデジタルカメラに、本発明を適用した例を説明する。
以下、本発明の好適な一実施形態について、図面を参照して詳細に説明する。なお、以下に説明する一実施形態は、撮像装置の一例としての、被写体との距離を測定して撮像が可能なデジタルカメラに、本発明を適用した例を説明する。
図1は、本発明の実施形態に係るデジタルカメラの機能構成を示すブロック図である。制御部116は、例えばCPUであり、デジタルカメラ100が備える各ブロックの動作を制御する。具体的には、制御部116は、例えばROM117に記憶されているデジタルカメラ100が備える各ブロックの動作プログラムを読み出し、不図示のRAMに展開し、実行することにより、デジタルカメラ100が備える各ブロックの動作を制御する。ROM117は、書き換え可能な不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、出力解像度や記録画質等、デジタルカメラ100の撮像に関する設定や、各ブロックの動作に必要な設定値等を記憶する。
光学系101は、撮像レンズや焦点レンズ等からなるレンズ群であり、被写体からの反射光を集光し、撮像素子102に被写体像を結像する。撮像素子102は、例えばCMOSセンサやCCD等の撮像素子であり、光学系101が結像した被写体像を、光の強度に応じて画素単位で光電変換し、アナログ画像信号をアナログ信号処理部103に出力する。アナログ信号処理部103は、入力されたアナログ画像信号に対し、例えばノイズ除去やゲインコントロール等の信号処理を行い、A/D変換部104に出力する。A/D変換部104は、アナログ信号処理部103で信号処理が適用されたアナログ画像信号をA/D変換し、得られたデジタル画像を画像処理部105に出力する。画像処理部105は、A/D変換部104から出力されたデジタル画像に対し、例えばROM117に記憶されている設定値に従い、露出補正、γ補正、ホワイトバランス調整等の画像処理を適用する。データ符号化部106は、画像処理が適用されたデジタル画像を、例えばROM117に記憶されている、後述する記録媒体109に記録するデータ形式に従い、符号化処理を適用し、記録媒体109に出力する。画像表示部108は、例えば小型LCD等の表示装置であり、画像処理部105が出力したデジタル画像をスルー表示することで、デジタルカメラ100の電子ビューファインダとして機能する。また画像表示部108は、記録媒体109に記憶されている画像を表示することが可能である。記録媒体109は、例えばデジタルカメラ100が備える内蔵メモリや、メモリカードやHDD等のデジタルカメラ100に着脱可能に接続される外部記録媒体であり、デジタルカメラ100で撮像した画像を記録する。
距離情報取得部107は、被写体像を複数の領域に分割し、領域毎に被写体までの距離を測距し、得られた三次元の距離情報(距離画像)を出力する。ここで、距離情報取得部107の動作について、図2及び図3を用いて詳細に説明する。
図2は、距離情報取得部107の内部構成を表す図である。距離情報取得部107はセンサ部125を備え、被写体からの反射光が入光する。センサ部125内部には、横方向に所定の間隔を設けて配置された一対のラインセンサ123及び124が縦方向にn段配置され、その手前にラインセンサに対応してn段のレンズ121及び122を備える。図3(a)の例では、説明を簡単にするために、5段のレンズ及びラインセンサを備える距離情報取得部107が備えるセンサ部を表している。ラインセンサ123及び124は、例えば複数の電荷結像素子(画素)が線上に配列したCCDラインセンサであり、それぞれA1〜A5、B1〜B5を備え、それぞれのラインセンサには、対応したレンズが被写体像を結像する。ラインセンサ123及び124は、レンズ121及び122によって結像された被写体像を所定の時間だけ受光してアナログ画像信号に光電変換し、被写体距離演算部126に出力する。被写体距離演算部126は、ラインセンサ123及び124の出力した各ラインセンサのそれぞれの画素のアナログ画像信号を用いて、三角測距の原理に基づき、被写体像を分割した複数の領域において被写体までの距離情報を算出する。
図3(b)に示すように、各段のラインセンサ対毎に9列の測距点を設けると、5×9=45の被写体像を分割した領域(C11、C12、・・・C19、C21、・・・C59)において測距を行う。この場合、Cnm(nは5以下の正の整数、mは9以下の正の整数)の測距領域では、n段目のラインセンサAnとBnから得られる線状画像の相対的な位置ずれ量から被写体までの距離を算出する。具体的には、ラインセンサの検出出力(輝度信号波形)を横方向に9列の一定区間に分割し、分割区間の波形値を利用し、相関演算により波形の相関が最大となるようなずれ量を求めることにより、各段のmの領域それぞれの被写体までの距離を算出する。図3(c)に示す例では、ラインセンサ123及び124の各段に19個の画素を有する場合、9列の被写体までの距離を、3画素単位の線状画像の相対的な位置ずれ量から算出している。
なお、測距領域の数は、上述の5×9=45の領域に限定するものではなく、ラインセンサの分解能やラインセンサの配置数によって設定可能である。
距離画像作成部127は、被写体距離演算部126で得られた各測距領域の被写体までの距離の情報と、各測距領域の位置情報とから、図4に示すような三次元の距離画像を作成する。距離画像は、撮像する被写体像に対して横方向をX軸、縦方向をY軸とし、XY平面の法線方向に被写体までの距離であるD軸(Depth軸)とした座標系で構成される。
レイヤ分割部110は、距離情報取得部107が出力した三次元の距離画像を元に、画像処理部105が出力したデジタル画像を、被写体までの距離によって、複数のレイヤに分割する。具体的には、レイヤ分割部110は、距離画像が有する被写体までの距離の情報を、所定の距離の範囲毎に分類し、同一の距離の範囲に分類された測距領域に対応した領域の画像が同一のレイヤとなるように、画像を分割して複数のレイヤを作成する。また、レイヤ分割部110は、画像を分割したレイヤ毎に基準となる被写体までの距離の情報を設定し、各レイヤと各レイヤの位置関係をROM117に記憶させる。前述した所定の距離の範囲は、連続するレイヤのそれぞれのレイヤに設定された、基準となる被写体までの距離(例えば分類される距離の最小値)の間隔であり、後述する操作入力部115を用いてユーザにより設定される。設定された所定の距離の範囲の情報は、制御部116によりレイヤ分割部110に入力される。
ここで、図13(a)に示すような構図をデジタルカメラ100で撮影する場合において、レイヤ分割部110の動作及び画像表示部108の表示例について説明する。撮影する被写体は、被写体A1202(人物)、被写体B1203(人物)、被写体C1204(人物)、被写体D1201(木)、被写体E1205(木)、被写体F1206(建物)である。各々の被写体の位置関係は、撮像装置からの距離を用いて図13(b)のようになる。
図13(b)は、撮像時にデジタルカメラ100に対し、被写体A、B、Cが2m、被写体D、Eが3m、被写体Fが7mの位置に存在していたことを示している。このとき撮像時の測距動作により得られた距離画像では、主に被写体までの距離の情報が2m、3m、7mである測距領域が存在することになる。例えばユーザが操作入力部115を操作することにより1m間隔のレイヤに撮像した画像を分割するように設定された場合、レイヤ分割部110は画像処理部105から入力されたデジタル画像を以下のように分割する。レイヤ分割部110は、距離情報取得部107が出力した三次元の距離画像を参照し、1m間隔で、被写体との距離が同一の範囲にある画像が同一のレイヤになるようにデジタル画像を分割する。このとき画像表示部108には、図12(a)に示すように、設定された1m間隔のグリッド線、それぞれの距離の範囲のレイヤ名、及び被写体の位置関係が表示される。具体的には、レイヤ分割部110において、被写体A、B、Cは基準となる被写体までの距離が2mであるレイヤ3に、被写体D、Eは基準となる被写体までの距離が3mであるレイヤ4に属するように分割される。また、被写体Fは基準となる被写体までの距離が7mであるレイヤ8に属するように分割される。画像表示部108には、当該分割結果を元にグリッド線2mから3mの間のレイヤ3に被写体A、B、Cが、3mから4mの間にあるレイヤ4に被写体D、Eが、7mから8mの間のレイヤ8に被写体Fが分類されていることがわかるように表示される。
また、例えばユーザが操作入力部115を操作することにより2m間隔のレイヤに撮像した画像を分割するよう設定された場合、レイヤ分割部110は、2m間隔で、被写体との距離が同一の範囲にある画像が同一のレイヤになるようにデジタル画像を分割する。具体的には、レイヤ分割部110において、被写体A、B、C、D、Eは基準となる被写体までの距離が2mであるレイヤ2に、被写体Fは基準となる被写体までの距離が6mであるレイヤ4に属するように分割される。このとき画像表示部108は、図12(b)に示すように、設定された2m間隔のグリッド線で被写体の位置関係が表示される。
なお本実施形態では、連続するレイヤのそれぞれに設定される被写体までの距離の間隔を設定する場合について説明したが、距離画像が有する被写体までの距離の分布から、分布が集中する距離毎に異なるレイヤに分類されるように自動で設定されてもよい。
またデジタルカメラ100において、例えばスポーツモードやポートレートモード、風景モード等の撮影モードが設定可能な場合、設定された撮影モードに応じて、連続するレイヤのそれぞれに設定される被写体までの距離の間隔が自動的に設定されてもよい。例えば、ポートレートモードでは被写体が近くに位置していることが想定される為、基準となる被写体までの距離の間隔は1mに設定され、風景モードでは被写体が遠くに位置していることが想定される為、10mに設定されてもよい。
主被写体検出部111は、画像処理部105が出力したデジタル画像から、主被写体とする被写体を検出し、主被写体の画面における位置を特定する(主被写体決定)。本実施形態では、主被写体として人物を検出し、位置を特定するものとして、以下に説明する。主被写体検出部111は、不図示の顔検出部と顔認識部から構成され、顔検出部で検出された人物の顔の中から、予め登録された顔に合致する顔を主被写体として認識する。具体的には、顔検出部は、例えば画像をウェーブレット変換し、パターンマッチングすることにより人物の顔を検出する。そして顔認識部は、例えば撮像前に主被写体として認識させる人物の顔を予め撮影してROM117に記憶させておくことにより、顔検出部で検出した顔の特徴量を、主被写体として認識させる人物の顔の特徴量と比較することにより主被写体の顔を特定する。
なお、本実施形態では、顔検出部で検出された顔の中から予め登録された顔を顔認識部で検出することにより、主被写体を特定する方法について説明した。しかしながら、例えば主被写体検出部111が顔検出部のみで構成される場合は、画像内に検出された顔の中から例えば一番面積の大きい顔や、正面を向いている顔を主被写体としてもよい。
主レイヤ検出部112は、レイヤ分割部110で分割した画像のレイヤにおいて、主被写体検出部111が検出した主被写体が含まれるレイヤを主レイヤとして設定する。例えば図12(a)において被写体1203を主被写体として認識する人物の顔として予め登録していた場合、主被写体検出部111は画像内の被写体1203の位置を主被写体の位置として認識するため、主レイヤはグリッド線2mから3mの間のレイヤ3となる。画像表示部108には、主レイヤであるレイヤ3及び主被写体である被写体1203が識別可能なように、例えばそれぞれハッチングを重畳表示することによって主被写体の属するレイヤ及び位置が強調表示されてもよい。
なお、本実施形態において主被写体、及び主レイヤは人物を特定することにより決定する方法について説明したが、主被写体は人物でなくても構わない。例えばデジタルカメラ100が有する機能である撮影モードの設定において、主被写体とする被写体までの距離が決定されている場合は、該当する距離が含まれる範囲のレイヤを主レイヤとしてもよい。また、距離画像が有する被写体までの距離の分布のうち、同一の被写体までの距離の範囲に含まれる領域が最も多いものを、主被写体がある距離の範囲として認識し、該当するレイヤを主レイヤとしてもよい。
画像伸縮処理部113は、レイヤ分割部110で分割された画像の各レイヤについて、レイヤ単位で画像データを解像度変換(拡大、及び縮小)する。具体的には、各レイヤの画像はそれぞれ制御部116に指定された倍率に変倍され、例えば不図示のRAMに記憶される。画像合成処理部114は、レイヤ分割部110で分割された画像の各レイヤ、又は画像伸縮処理部113で変倍された各レイヤを合成し、1つの合成画像を出力する。具体的には、画像合成処理部114は複数のレイヤを、連続するレイヤに設定されている基準となる被写体までの距離が近いレイヤが上に重なるように合成する。
操作入力部115は、デジタルカメラ100が備える、例えばレリーズボタンやメニューボタン、タッチパネル等のユーザ入力を検出する入力インタフェースであり、ユーザの操作により入力された情報を、制御部116に伝える。
このような構成をもつ本実施形態のデジタルカメラの、距離別変倍画像記録処理について、図5のフローチャートをさらに用いて説明する。なお、本フローチャートでは、デジタルカメラ100でユーザが撮像を行う際に、デジタルカメラ100に対して図13に示すように被写体A、B、C、D、Eが位置しており、図12(a)に示すように被写体の距離が1m毎に画像をレイヤに分割するものとする。また、本フローチャートは、デジタルカメラ100の画像表示部108に被写体像がスルー表示され、撮像可能な状態において、ユーザの操作によってデジタルカメラ100の撮影機能である距離別変倍画像撮影が選択された際に開始するものとする。
S501で、制御部116は、操作入力部115が備えるレリーズボタンが、ユーザによって半押し操作にされているかを判断する。具体的には、レリーズボタンがユーザにより半押し状態にされている際に、制御部116は操作入力部115からレリーズボタンが半押し状態であるという情報を取得する。レリーズボタンが半押し状態にされていない場合、制御部116はS501の処理を繰り返す。また、レリーズボタンが半押し状態にされた場合、制御部116は現在画像表示部108に表示されている、即ち画像処理部105が出力したデジタル画像を距離別変倍画像記録処理の対象画像としてROM117に記憶させる。さらに制御部116は、距離別変倍画像記録処理の対象画像をレイヤ分割部110に出力し、処理をS502に移す。
S502で、距離情報取得部107は、制御部116の指示により、撮像範囲の被写体までの距離を測定して距離情報を取得し、当該距離情報に基づいてレイヤ分割部110に距離画像を出力する。S503で、レイヤ分割部110は、制御部116の指示により、距離画像が有する撮像範囲の各領域の被写体までの距離情報に従い(又は後述する距離間隔の再設定に従い)、S501で入力されたデジタル画像を、距離の範囲ごとにレイヤに分割する。具体的には、制御部116は、例えばROM117に記憶されている、レイヤを分割する距離の範囲を規定する単位の情報(1m)を読み出し、レイヤ分割部110に伝送する。そして制御部116は、レイヤ分割部110に、距離画像の有する被写体までの距離情報に従い、距離画像のそれぞれの測距領域を、距離の範囲ごとに異なるレイヤに分類させる。具体的には、例えば距離画像の画素にあたるそれぞれの測距領域を、1m未満、1m以上2m未満、・・・9m以上10m未満、10m以上の距離の範囲に分類する。さらに制御部116は、S501で入力したデジタル画像における、距離画像のそれぞれの測距領域に対応した領域を、分割する距離の範囲の情報に従ってレイヤに分割し、それぞれのレイヤに基準となる被写体までの距離の情報を設定する。そして制御部116は、画像を分割した各レイヤと、連続するレイヤに設定された基準となる被写体までの距離の情報とを、ROM117に記憶させる。
S504で、制御部116は、ROM117に記憶させた距離別変倍画像記録処理の対象画像を主被写体検出部111に出力し、画像に含まれる主被写体を検出させる。主被写体検出部111は、制御部116の指示により、入力された画像における主被写体を検出する。具体的には、制御部116は、主被写体検出部111に、顔検出部を用いて画像の中から人物の顔の領域を抽出させる。さらに制御部116は、主被写体検出部111に、抽出した人物の顔の領域のうち、顔検出部を用いて、例えばROM117に記憶されている主被写体として認識させる人物の顔の情報とパターンマッチングを行い、主被写体を特定させる。そして制御部116は、主被写体検出部111に特定させた主被写体の顔領域が位置する、距離別変倍画像記録処理の対象画像内の位置情報を取得し、主被写体の位置情報としてROM117に記憶させる。なお、本実施形態においてROM117には、主被写体として認識させる人物の顔の情報として被写体1203の顔の情報が記憶されているものとして説明する。
S505で、制御部116は、ROM117に記憶されている主被写体の位置情報と、距離情報取得部107で取得した距離画像とを主レイヤ検出部112に伝送し、主レイヤ検出部112に主被写体が位置するレイヤを検出させる。具体的には、主レイヤ検出部112は、制御部116の指示により、距離画像における、主被写体の位置情報に対応する測距領域の被写体までの距離の情報を参照し、主被写体までの距離の情報を特定する。図12(a)の例では、特定した主被写体である被写体1203までの距離の情報は、距離画像が有する被写体までの距離の情報より2mと特定される。さらに、制御部116はROM117に記憶されている、レイヤを分割する距離の範囲を規定する単位の情報を読み出して主レイヤ検出部112に伝送し、主レイヤ検出部112に主被写体までの距離の情報から、主被写体の画像が分割されたレイヤを特定させる。図12(a)の例では、特定した主被写体である被写体1203が含まれる主レイヤは、基準とする被写体までの距離の情報が2mである範囲(2m以上3m未満の範囲)であると特定される。制御部116は、得られた主レイヤの情報をROM117に記憶させる。
S506で、制御部116は、S503でレイヤ分割した際の連続するレイヤのそれぞれに設定される、基準となる被写体までの距離の間隔(距離間隔)がユーザにより変更されたか否かを判断する。具体的には、制御部116は、距離間隔をユーザに任意に再設定可能とするため、画像表示部108に距離間隔設定用のGUIを表示させる。本実施形態では、距離間隔設定用のGUIは、例えば図8のように、レイヤ及び被写体の位置関係を示す簡易図(表示画像)とともに、距離間隔を変更する距離間隔選択ボタン801、及び距離間隔を決定する距離間隔決定ボタン802を含む。画像表示部108には、主被写体及び主レイヤが強調表示され、ユーザは操作入力部115を用いて距離間隔選択ボタン801を操作することで距離間隔を変更することができるようになる。制御部116は、ユーザが操作入力部115を用いて距離間隔選択ボタン801を操作することにより、連続するレイヤの距離間隔が変更された場合は処理をS503に戻し、レイヤの分割及び主レイヤの検出処理を再度実行し、距離間隔設定用のGUIを更新する。また制御部116は、連続するレイヤの距離間隔が変更されていない場合は処理をS507に移す。なお、レイヤ及び被写体の位置関係を示す簡易図は、連続するレイヤのそれぞれに設定される、基準となる被写体までの距離の間隔と、被写体の位置関係が表示される。なお、距離間隔の設定は図示したようなGUIに限らず、ユーザが連続するレイヤのそれぞれに設定される、基準となる被写体までの距離の間隔を設定可能なGUIであればよい。
S507で、制御部116は、ユーザが操作入力部115を用いて距離間隔決定ボタン802を操作することにより、連続するレイヤのそれぞれに設定される基準となる被写体までの距離の間隔の決定が行われた否かを判断する。制御部116は、連続するレイヤのそれぞれに設定される、基準となる被写体までの距離の間隔が決定された場合は処理をS508に移す。また制御部116は、基準となる被写体までの距離の間隔が決定されていない場合は処理をS506に戻して距離間隔の再設定を受けつける。
S508で、制御部116は、撮像した画像をS503で分割した各レイヤに対し、ユーザに拡大率を設定させるため、画像表示部108に拡大率設定用のGUIの表示を行わせる。本実施形態では、拡大率設定用として画像表示部108に表示させるGUIには、例えば図9(c)のように、レリーズボタンが半押し状態にされた際に撮像された画像901と、各レイヤを変倍して合成された画像906とが表示されるものとする。しかしながら、拡大率の設定はこのような合成前と合成後の画像を表示するようなGUI表示に限らず、ユーザに対して各レイヤの拡大率の設定を促す表示であればよい。
制御部116は、例えば画像表示部108に拡大率設定用のGUIの表示を行う前に、各レイヤの拡大率設定の指標となる、基準のパターンの合成画像を作成する。具体的には、例えばユーザに主レイヤ、又はそれ以外のレイヤの拡大率を自由に設定させる場合、各レイヤの拡大率設定の指標となる基準のパターンの合成画像は次のようになる。各レイヤの拡大率設定の指標となる基準のパターンの合成画像は、例えば図9(c)のように、主レイヤの拡大率を1/2倍に設定した画像902、及び主レイヤの拡大率を2倍に設定した画像903を作成する。また、例えば主レイヤ以外のレイヤの拡大率を1/2倍に設定した画像904、及び主レイヤ以外のレイヤの拡大率を2倍に設定した画像905を作成する。具体的には、例えば主レイヤの拡大率を2倍に設定した画像の場合、制御部116はまず画像伸縮処理部113に、ROM117に記憶されている主レイヤの画像を伝送し、画像伸縮処理部113に主レイヤの画像を2倍に拡大させる。このとき、主レイヤの画像の解像度(大きさ)は2倍になるため、制御部116は画像伸縮処理部113に例えば画像中心を中心として、拡大された主レイヤの画像を、撮像した画像の解像度で切り抜かせればよい。これにより、画像合成処理部114での合成処理において、主レイヤ以外のレイヤの画像と合成させる際に、画像解像度を調整する必要がなくなる。
そして、制御部116は画像合成処理部114に、ROM117に記憶されている主レイヤ以外のレイヤの画像と、画像伸縮処理部113で拡大された主レイヤの画像を入力し、画像合成処理部114に全てのレイヤの画像を合成させる。このとき制御部116は、連続するレイヤに設定されている基準となる被写体までの距離の情報に従い、画像合成処理部114に各レイヤの位置関係が正しくなるよう、各レイヤの画像を合成させる。これにより、画像合成処理部114は図9(b)のような、撮像された画像(図9(a))から主レイヤの画像のみを2倍に変倍した合成画像を得ることができる。制御部116は、画像合成処理部114で合成させて得られた、各レイヤの拡大率設定の指標となる合成画像を、例えば不図示のRAMに記憶させればよい。
また、画像合成処理部114での各レイヤの合成処理において、レイヤの画像が変倍されることにより、各レイヤの画像を重ね合わせた際に、情報が存在しない領域が生じる可能性がある。即ち、レリーズボタンが半押し状態に撮像された1枚の画像を分割した画像で各レイヤは構成されているため、被写体までの距離が遠いレイヤの画像には、距離が近いレイヤが有する画像の領域が有する画像情報が存在しない。このため、距離が近いレイヤにもともと画像情報が存在していた領域に、距離が近いレイヤが変倍されることにより画像情報がなくなった場合、全てのレイヤを合成しても画像情報が存在しない領域ができてしまうことがある。このような場合、制御部116は、画像合成処理部114に全てのレイヤを重ね合わせても画像情報が存在しない領域に関しては、領域周辺の画像情報から推定して補間処理を行わせる。
制御部116は各レイヤの拡大率設定の指標となる合成画像を全て画像合成処理部114に合成させた後、ROM117に記憶されている拡大率設定用のGUIと、RAMに記憶させた各レイヤの拡大率設定の指標となる合成画像とを画像表示部108に表示させる。また、制御部116はROM117に記憶されている距離別変倍画像の記録処理の対象画像である撮像された画像を読み出し、画像表示部108に出力して表示させる。そして、制御部116は画像表示部108に図9(c)のような拡大率設定用のGUIを表示させ、ユーザに拡大率を設定させる。拡大率設定用のGUIには、拡大率設定モードを選択するボタン907、拡大率を設定するレイヤを選択するボタン908、拡大率をプルダウンリストから選択させるボタン909、及び拡大率を詳細に決定可能な調整バー910が含まれる。ユーザは、操作入力部115が備える選択キーボタンや、例えば画像表示部108がタッチパネル機能を有する場合は、例えば画面上を直接操作することにより、各項目を設定することが可能である。
また、本実施形態のように被写体までの距離に応じて、撮像した画像をレイヤに分割して、レイヤ毎に拡大率を設定して合成することにより、擬似的に広角ズーム機能を実現することが可能である。即ち、デジタルカメラ100で撮像可能な範囲(撮像した画角に含まれる範囲)はそのままで、デジタルカメラ100が被写体に近づいて撮影した状態を擬似的に作り出すことが可能である。
ここで、擬似的な広角ズームに関して、図11を用いて詳細に説明する。図11(a)は例えばデジタルカメラ100で撮像可能な範囲として、縦方向の画角の半分がθであるときの、被写体までの距離に応じた、縦方向の撮像範囲の半分の高さを表している。デジタルカメラ100から被写体までの距離が、短いものから順にa、b、c、dであるとき、それぞれの距離において、被写体までの距離とθの正接との積の2倍の高さが、縦方向の撮像範囲に含まれる。このとき、例えば図11(b)に示すように、デジタルカメラ100の位置を被写体にx近づけて、近づける前の被写体までの距離がdにおける撮像範囲と同じ撮像範囲を、被写体までの距離がd−xにおいて撮像可能な場合、画角はθより大きいθ’となる。即ち、被写体までの距離がa、b、cのレイヤの画像を変倍することで、デジタルカメラ100の位置を、x近づけて広角に撮影した際の画像を、擬似的に作り出すことが可能となる。
通常、デジタルカメラ100を実際に被写体にx近づけて撮像した場合、例えば被写体までの距離がa−xであるレイヤの撮像範囲(の半分)は、
(a−x)tanθ
となる。このとき、デジタルカメラ100をx近づける前に、被写体までの距離がaであるレイヤで捉えられた被写体像は、デジタルカメラ100を被写体にx近づけたときに、撮像される撮像範囲内での大きさが、
a・tanθ/(a−x)tanθ=a/(a−x)倍
となる。また、デジタルカメラ100をx近づけた際に、画角がθ’で撮像されたときは、被写体までの距離がa−xであるレイヤの撮像範囲は、
(a−x)tanθ’
となるため、画角がθで撮像された、被写体までの距離がa−xであるレイヤの撮像範囲に対して
(a−x)tanθ’/(a−x)tanθ=tanθ’/tanθ倍
の範囲になる。即ち、デジタルカメラ100をx近づける前に、被写体までの距離がaであるレイヤで撮像された被写体像は、デジタルカメラ100を被写体にx近づけ、画角をθからθ’にして撮像する際、撮像される撮像範囲内での大きさは、
(a/(a−x))/(tanθ’/tanθ)倍
となる。ここで、図11(b)のように、撮像した画像を分割するレイヤの、基準となる被写体までの距離がa、b、c、dであるときの、最も被写体からの距離が大きいdのレイヤを、デジタルカメラ100をx近づけて画角θ’で撮像した場合の撮像範囲として考える。即ち、デジタルカメラ100が撮像した画像の中で、基準となる被写体までの距離がdであるレイヤの画像を、擬似的な広角ズームの基準、即ち広角ズームでの撮像範囲として定めると、以下の式が成り立つ。
θ’=atan(d・tanθ/(d−x)) (atanは逆正接)
この式の両辺の正接を計算すると、
tanθ’=d・tanθ/(d−x)
を得る。即ち、デジタルカメラ100をx近づける前に、被写体までの距離がaであるレイヤで撮像された被写体像は、デジタルカメラ100を被写体にx近づけ、画角をθからθ’にして撮像する際、撮像される撮像範囲内での大きさは、これを代入することにより、
(a/(a−x))・((d−x)/d)倍
となる。即ち、擬似的に広角ズーム処理した画像を生成するためには、各レイヤの画像に対し、上述の倍率を計算し、各レイヤの画像を変倍して合成すればよい。例えば、図11のように、撮像した画像を4つのレイヤに分割し、レイヤ1〜4の基準とする被写体までの距離がそれぞれ2.5m、5m、7.5m、10mであり、レイヤ4の画像を擬似的な広角ズーム処理の基準とする撮像範囲とする場合を考える。デジタルカメラ100を被写体に1m近づけた際の、擬似的な広角ズームの画像を生成するとき、各レイヤの画像の拡大率は、
レイヤ1:(2.5/(2.5−1)・((10−1)/10)=1.5倍
レイヤ2:(5/(5−1)・((10−1)/10)=1.125倍
レイヤ3:(7.5/(7.5−1)・((10−1)/10)=1.038倍
レイヤ4:(10/(10−1)・((10−1)/10)=1倍
となる。
(a−x)tanθ
となる。このとき、デジタルカメラ100をx近づける前に、被写体までの距離がaであるレイヤで捉えられた被写体像は、デジタルカメラ100を被写体にx近づけたときに、撮像される撮像範囲内での大きさが、
a・tanθ/(a−x)tanθ=a/(a−x)倍
となる。また、デジタルカメラ100をx近づけた際に、画角がθ’で撮像されたときは、被写体までの距離がa−xであるレイヤの撮像範囲は、
(a−x)tanθ’
となるため、画角がθで撮像された、被写体までの距離がa−xであるレイヤの撮像範囲に対して
(a−x)tanθ’/(a−x)tanθ=tanθ’/tanθ倍
の範囲になる。即ち、デジタルカメラ100をx近づける前に、被写体までの距離がaであるレイヤで撮像された被写体像は、デジタルカメラ100を被写体にx近づけ、画角をθからθ’にして撮像する際、撮像される撮像範囲内での大きさは、
(a/(a−x))/(tanθ’/tanθ)倍
となる。ここで、図11(b)のように、撮像した画像を分割するレイヤの、基準となる被写体までの距離がa、b、c、dであるときの、最も被写体からの距離が大きいdのレイヤを、デジタルカメラ100をx近づけて画角θ’で撮像した場合の撮像範囲として考える。即ち、デジタルカメラ100が撮像した画像の中で、基準となる被写体までの距離がdであるレイヤの画像を、擬似的な広角ズームの基準、即ち広角ズームでの撮像範囲として定めると、以下の式が成り立つ。
θ’=atan(d・tanθ/(d−x)) (atanは逆正接)
この式の両辺の正接を計算すると、
tanθ’=d・tanθ/(d−x)
を得る。即ち、デジタルカメラ100をx近づける前に、被写体までの距離がaであるレイヤで撮像された被写体像は、デジタルカメラ100を被写体にx近づけ、画角をθからθ’にして撮像する際、撮像される撮像範囲内での大きさは、これを代入することにより、
(a/(a−x))・((d−x)/d)倍
となる。即ち、擬似的に広角ズーム処理した画像を生成するためには、各レイヤの画像に対し、上述の倍率を計算し、各レイヤの画像を変倍して合成すればよい。例えば、図11のように、撮像した画像を4つのレイヤに分割し、レイヤ1〜4の基準とする被写体までの距離がそれぞれ2.5m、5m、7.5m、10mであり、レイヤ4の画像を擬似的な広角ズーム処理の基準とする撮像範囲とする場合を考える。デジタルカメラ100を被写体に1m近づけた際の、擬似的な広角ズームの画像を生成するとき、各レイヤの画像の拡大率は、
レイヤ1:(2.5/(2.5−1)・((10−1)/10)=1.5倍
レイヤ2:(5/(5−1)・((10−1)/10)=1.125倍
レイヤ3:(7.5/(7.5−1)・((10−1)/10)=1.038倍
レイヤ4:(10/(10−1)・((10−1)/10)=1倍
となる。
なお、例えば上述の例で、デジタルカメラ100を被写体に2.5m以上近づけた際の擬似的な広角ズームの画像を生成する場合は、レイヤ1の拡大率は負の値になる、もしくは計算できない。このような場合、即ち各レイヤの被写体までの距離以上にデジタルカメラ100を近づけた擬似的な広角ズーム画像を生成する際は、該当するレイヤは合成を行わなければよい。具体的には制御部116は、画像伸縮処理部113に各レイヤの画像の拡大率を決定させる際に、各レイヤの被写体までの距離と、擬似的な広角ズーム画像における、デジタルカメラ100を擬似的に近づける距離の情報とから、レイヤを変倍させるかを判断する。また、擬似的な広角ズーム機能は、本ステップで制御部116が画像表示部108に表示させる図9(c)の拡大率設定用のGUIにおいて、拡大率設定モードを選択するボタン907を操作することにより、ユーザは選択可能となる。ユーザが拡大率設定モードを広角ズーム機能に設定した場合、例えば画像902〜905には、デジタルカメラ100を擬似的に近づける距離を変化させた合成画像を、拡大率設定の指標となる画像として表示させればよい。また、拡大率設定モードが広角ズーム機能に設定された場合、拡大率を設定するレイヤを選択するボタン908は、広角ズームの撮像範囲の基準とするレイヤを選択するように機能を切り替える。同様に、拡大率をプルダウンリストから選択させるボタン909、及び拡大率を詳細に決定可能な調整バー910は、デジタルカメラを擬似的に近づける距離を、それぞれ調整可能なように機能を切り替えればよい。
以上のように、本ステップにおいて、制御部116は拡大率設定用のGUIを画像表示部108に表示させた後、処理をS509に移す。S509で、制御部116は、ユーザが操作入力部115に対して行った操作により、拡大率設定操作が行われたかを判断する。具体的には、制御部116は、ユーザが拡大率設定用のGUIを確認しながら、操作入力部115に対して行った操作により、変更された拡大率設定により、図9(c)の画像906の領域が表示される、合成後の画像のプレビュー表示が変化するかを判断する。拡大率設定用のGUIが画像表示部108に最初に表示された際には、合成後の画像906と合成前の画像901には、レリーズボタンが半押し状態にされたときに撮像された画像が表示される。そして、拡大率設定が変更されると、合成後の画像906の画面には、設定された各レイヤの拡大率に従い各レイヤを変倍して合成した画像が表示される。操作入力部115で行われた操作が、拡大率設定操作であった場合、制御部116は変更された拡大率設定をROM117に記憶して、処理をS510に移し、それ以外の操作であった場合は、制御部116は処理をS513に移す。
S510で、制御部116は、ROM117に記憶されている、S509で変更された拡大率設定の情報と、距離別変倍画像記録処理の対象画像の各レイヤの画像とを画像伸縮処理部113に出力する。そして、制御部116は、画像伸縮処理部113に、各レイヤの画像を、拡大率設定の情報に従ってそれぞれ変倍させる。
S511で、制御部116は、S510で変倍された各レイヤの画像を、各レイヤの基準とする被写体までの距離の情報に従い、被写体までの距離が近いレイヤが上に重ねられるよう、画像合成処理部114に合成処理を行わせる。なお、拡大率設定モードが、広角ズーム機能に設定されている場合は、上述したように、擬似的にデジタルカメラ100を被写体に近づけた距離より、基準とする被写体までの距離が小さいレイヤは合成しない。
S512で、制御部116は、画像合成処理部114で合成処理を行って得られた合成画像を、画像表示部108に出力し、拡大率設定用のGUIの画像906の位置に表示させる。ユーザは、拡大率設定操作を行って表示された合成後の画像906を確認して、現在の拡大率設定で本撮像を行い、本撮像の画像から合成画像を生成することを決定することができる。決定する場合は、例えばユーザはレリーズボタンを全押し状態にすればよい。S513で、制御部116は、操作入力部115にレリーズボタンが全押し状態であるかを判断させる。レリーズボタンが全押し状態であった場合は、制御部116は処理をS514に移し、全押し状態ではなかった場合は、制御部116は処理をS509に戻す。
S514で、制御部116は、本撮像処理を行う。即ち、本撮像を行って取得した記録用の画像を用いて、S513までの処理で決定した各レイヤの拡大率設定に従い、記録用の画像とは別に合成画像を生成する。具体的には、制御部116はレリーズボタンが全押しされた際に、撮像素子102に結像された被写体像を、各ブロックで変換して得られた記録用の画像を、ROM117に距離別変倍画像記録処理の対象画像として記憶する。そして、制御部116は、距離情報取得部107に取得させた距離画像に従い、対象画像を被写体までの距離に応じて、レイヤ分割部110に複数のレイヤに分割させる。そして、制御部116は、ROM117に記憶されている拡大率設定の情報に従って、画像伸縮処理部113及び画像合成処理部114で所定の処理を行い、記録用の画像から生成された合成画像を得る。そして、制御部116は得られた合成画像を画像表示部108に出力し、ユーザに合成画像を記録するかの選択を促すGUIとともに画像表示部108に表示させる。制御部116は、操作入力部115に、ユーザから合成画像を記録する操作がなされたかを判断する。合成画像を記録する操作がなされた場合、制御部116は処理をS515に移し、本撮像処理で撮像された記録用の画像と、画像合成処理部114から出力された合成画像とを記録媒体109に記録する。また、合成画像を記録する操作がなされなかった場合、制御部116は処理をS516に移し、本撮像処理で撮像された記録用の画像のみを、記録媒体109に記録する。
以上説明したように、本実施形態の撮像装置は、撮像した画像内の被写体像を、被写体までの距離毎に変倍させた画像を生成することが可能である。具体的には撮像装置は、画像を撮像する際に被写体までの距離を測定する。そして、被写体までの距離に応じて、設定された距離の間隔ごとに、同一の距離の範囲に存在する被写体が同一のレイヤに属するように、撮像して得られた画像を異なる複数のレイヤに分割する。さらに、分割された複数のレイヤそれぞれに対し拡大率を設定して変倍処理を実行し、変倍された各レイヤを、被写体との距離が近いレイヤが上になるように合成することにより、被写体までの距離毎に変倍させた画像を得ることができる。
また撮像装置は、撮像位置を移動せずに、撮像位置を前後に移動し、画角を変更して撮像した画像を擬似的に生成することが可能である。具体的には、被写体までの距離の範囲によって分割されたレイヤ毎に、基準となる被写体との距離を設定する。また、分割されたレイヤの画像のうち、ひとつのレイヤの画像を、生成する画像の画角を規定するレイヤとして設定する。そして被写体に、ある距離近づいた位置で撮像した画像を擬似的に生成する場合は、レイヤ毎に決定する拡大率は、ある距離であるx(定数)と、そのレイヤの基準となる被写体との距離aと、画角を規定するレイヤの基準となる被写体との距離dを用いて表せる。具体的には、レイヤ毎に(a/(a−x))・((d−x)/d)の拡大率で変倍して各レイヤの画像を合成することにより、撮像位置を前後に移動し、画角を変更して撮像した画像を擬似的に生成することができる。
(実施形態2)
次に、本発明の別の実施形態について、図面を参照して詳細に説明する。なお、以下に説明する実施形態は、画像処理装置の一例としての、入力された画像が有するメタ情報を解析し、被写体と撮像した撮像装置との距離の情報を取得可能なパーソナルコンピュータ(以下、PC)に、本発明を適用した例を説明する。しかし、本発明は、被写体と撮像した撮像装置との距離の情報が、画像が有するメタ情報に含まれているものとして説明するが、入力された画像と、画像内の被写体と撮像した撮像装置との距離の情報が取得可能な任意の機器に適用可能である。
次に、本発明の別の実施形態について、図面を参照して詳細に説明する。なお、以下に説明する実施形態は、画像処理装置の一例としての、入力された画像が有するメタ情報を解析し、被写体と撮像した撮像装置との距離の情報を取得可能なパーソナルコンピュータ(以下、PC)に、本発明を適用した例を説明する。しかし、本発明は、被写体と撮像した撮像装置との距離の情報が、画像が有するメタ情報に含まれているものとして説明するが、入力された画像と、画像内の被写体と撮像した撮像装置との距離の情報が取得可能な任意の機器に適用可能である。
図6は、本発明の実施形態に係るPCの機能構成を示すブロック図である。
PC制御部210は、例えばCPUであり、PC200が備える各ブロックの動作を制御する。具体的には、PC制御部210は、例えばPC−ROM211に記憶されているPC200が備える各ブロックの動作プログラムを読み出し、不図示のRAMに展開し、実行することにより、PC200が備える各ブロックの動作を制御する。PC−ROM211は、書き換え可能な不揮発性メモリであり、PC200が備える各ブロックの動作プログラムに加え、画像に関連付けられているアプリケーションや、各ブロックの動作に必要な設定値等を記憶する。
PC制御部210は、例えばCPUであり、PC200が備える各ブロックの動作を制御する。具体的には、PC制御部210は、例えばPC−ROM211に記憶されているPC200が備える各ブロックの動作プログラムを読み出し、不図示のRAMに展開し、実行することにより、PC200が備える各ブロックの動作を制御する。PC−ROM211は、書き換え可能な不揮発性メモリであり、PC200が備える各ブロックの動作プログラムに加え、画像に関連付けられているアプリケーションや、各ブロックの動作に必要な設定値等を記憶する。
記録部201は、例えばHDD等のPC200が備える記録装置であり、撮像装置で撮像された画像や、PC200のOS等が記録されている。メタ情報解析部202は、記録部201に記録されている画像が有するメタ情報を解析し、被写体と撮像した撮像装置との距離の情報を解析する。被写体と撮像した撮像装置との距離の情報は、例えば画像の画素もしくは領域毎に設定されている、画像の撮像時に測距された被写体までの距離情報であり、解析された情報はPCレイヤ分割部203に伝送される。図10は、記録部201に記録されている画像が、撮像装置において撮像された際に付加されるメタ情報の例である。図10のメタ情報には、画像ファイル名、日時情報に加え、画像のXY座標毎の、被写体までの距離の情報が含まれる。
PCレイヤ分割部203は、入力された被写体と撮像した撮像装置との距離の情報を元に、解析された距離の情報をメタ情報に有する画像(処理対象画像)を、被写体までの距離によって、複数のレイヤに分割する。具体的には、PCレイヤ分割部203は、被写体と撮像した撮像装置との距離の情報を、所定の距離の範囲毎に分類し、同一の距離の範囲に分類された画素もしくは領域の画像が同一のレイヤとなるように、画像を分割して複数のレイヤを作成する。また、PCレイヤ分割部203は、画像を分割したレイヤ毎に基準となる被写体までの距離の情報を設定し、各レイヤと各レイヤの位置関係をPC−ROM211に記憶させる。
PC主被写体検出部204は、処理対象画像から、主被写体とする被写体を検出し、主被写体の画像における位置を特定する。本実施形態でも、前述の実施形態1と同様に、PC主被写体検出部204は、検出された人物の顔の中から、予め登録された顔に合致する顔を主被写体として認識するものとする。PC主レイヤ検出部205は、PCレイヤ分割部203で分割した画像のレイヤにおいて、PC主被写体検出部204が検出した主被写体が含まれるレイヤを主レイヤとして設定する。例えば、図12(a)において被写体1203を主被写体として認識する人物の顔として予め登録していた場合、主被写体検出部111は画像内の被写体1203の位置を主被写体の位置として認識するため、主レイヤはレイヤ3となる。なお、本実施形態では、PC主被写体検出部204で主被写体とする被写体を検出する方法について説明したが、主被写体の位置の情報は、例えば撮像時に決定され、画像のメタ情報に含まれていても良い。この場合、PC主被写体検出部204はPC200の機能構成になくてもよく、メタ情報解析部202で解析された主被写体の位置の情報は、PC主レイヤ検出部205に出力されればよい。
PC画像伸縮処理部206は、PCレイヤ分割部203で分割された画像の各レイヤについて、レイヤ単位で画像データを解像度変換(拡大、及び縮小)する。具体的には、各レイヤの画像はそれぞれPC制御部210に指定された倍率に変倍され、例えば不図示のRAMに記憶される。PC画像合成処理部207は、PCレイヤ分割部203で分割された画像の各レイヤ、又はPC画像伸縮処理部206で変倍された各レイヤを合成し、1つの合成画像を出力する。具体的には、PC画像合成処理部207は複数のレイヤを、各レイヤに設定されている基準となる被写体までの距離が近いレイヤが上に重なるように合成する。
PC操作入力部208は、PC200が備える、例えばマウスやキーボード、タッチパネル等のユーザ入力を検出する入力インタフェースであり、ユーザの操作により入力された情報を、PC制御部210に伝える。PC画像表示部209は、例えば着脱可能に装着されるLCD等の表示装置であり、記録部201に記録されている画像や、PC200のアプリケーションのGUI表示等に用いられる。
このような構成をもつ本実施形態のPCの、距離別変倍画像生成処理について、図7のフローチャートをさらに用いて説明する。なお、本フローチャートは、例えばユーザがPC200で距離別変倍画像を生成するために、例えば距離別変倍画像生成アプリケーションを起動した際に、開始するものとする。また、本距離別変倍画像生成処理は、前述の実施形態1の距離別変倍画像記録処理と同様の距離間隔設定用のGUI表示及び拡大率設定用のGUI表示を用いて、距離別変倍画像を生成するものとする。このため、前述の距離別変倍画像記録処理と同様の処理を行うステップに関しては、同一の参照符号を付して説明を省略する。また、実施形態1と同様の処理を行うステップに関して、動作の主体となる各ブロックはPC200の有する該当するブロックが動作を行うものとする。実施形態1と同様の処理を行うステップにおける、PC200の該当するブロックに関しては、図1でデジタルカメラ100の有する各ブロックと同一の名称の接頭にPCを付した図7のブロックが相当する。つまり、制御部116に対応するPC200のブロックは、PC制御部210というように動作の主体が変わるものとする。
S701で、PC制御部210は、距離別変倍画像を生成する画像がユーザにより選択されたかを判断する。具体的には、PC制御部210は、例えばPC画像表示部209に距離別変倍画像生成処理の対象画像の選択をユーザに促すGUIを表示するとともに、PC200が備える記録部201に記録されている画像の一覧を表示する。そして、PC制御部210は、PC操作入力部208へのユーザからの入力により、距離別変倍画像生成処理の対象画像が選択する入力がなされたかを判断する。距離別変倍画像生成処理の対象画像が選択された場合、PC制御部210は処理をS702に移す。また、距離別変倍画像生成処理の対象画像が選択されない場合、PC制御部210はS701の処理を繰り返せばよい。なお、本ステップでユーザに距離別変倍画像生成処理の対象画像として選択させる画像の一覧に表示される画像は、画像が有するメタ情報の中に、画像が撮像された際の被写体と撮像装置との距離の情報(距離情報)が含まれている画像が表示されるものとする。この場合、画像が有するメタ情報の中に、距離情報が含まれているかの情報は、例えば画像が記録部201に記録される際に、PC制御部210がメタ情報解析部202に画像が有するメタ情報を解析させ、予め画像に関連付けて記録部201に記録しておけばよい。なお、本実施形態ではユーザに距離別変倍画像生成処理の対象画像として選択させる画像の一覧に表示される画像は、画像が有するメタ情報の中に距離情報が含まれているものとして説明するが、本発明の実施はこれに限らない。例えば、ユーザが距離別変倍画像生成処理の対象画像を選択した際に、後述するS702でPC制御部210はメタ情報解析部202に対象画像のメタ情報を解析させ、距離情報が含まれているかを判断してもよい。この場合、選択された対象画像に距離情報が含まれていない場合は、PC制御部210は、ユーザに距離別変倍画像を生成できないことを、PC画像表示部209を通じて通知し、S701に処理を戻せばよい。
S702で、PC制御部210は、S701でユーザに選択された対象画像が有するメタ情報をメタ情報解析部202に解析させ、得られたメタ情報に含まれる被写体と撮像装置との距離の情報をPCレイヤ分割部203に伝送する。
S703で、PC制御部210は、PCレイヤ分割部203にS701でユーザに選択された記録部201に記録されている対象画像を複製して伝送する。そして、PC制御部210は、PCレイヤ分割部203にメタ情報解析部202から入力された被写体と撮像装置との距離の情報に従い(又は距離間隔の再設定に従い)、入力した対象画像を、被写体と撮像装置との距離の範囲毎にレイヤに分割させる。また、PC制御部210は、対象画像を分割した各レイヤに対し、基準となる被写体と撮像装置との距離の情報を設定し、各レイヤと、各レイヤの基準となる被写体と撮像装置との距離の情報を、PC−ROM211に記憶させる。
S704で、PC制御部210は、PC主被写体検出部204に対象画像を複製して伝送し、例えば対象画像に含まれる顔領域を検出し、その中から例えばPC−ROM211に記憶されている主被写体の顔に合致する顔を、主被写体の顔として認識させる。そして、PC制御部210は、得られた主被写体の顔領域の、対象画像における位置の情報と、PCレイヤ分割部203で分割した対象画像の各レイヤを、PC主レイヤ検出部205に伝送する。PC主レイヤ検出部205は、PC制御部210の指示により、入力された主被写体の顔領域の対象画像における位置の情報に従い、対象画像の各レイヤの中から、主被写体の顔領域の位置の画像情報を有するレイヤを主レイヤとして決定する(S705)。また、PC制御部210は、決定した主レイヤの情報を、PC−ROM211に記憶する。
そして、PC制御部210は、PC画像表示部209に距離間隔設定用のGUIを表示し、距離間隔の設定処理を行う。更に、拡大率設定用のGUIを表示し、距離別変倍画像の各レイヤの拡大率設定処理を、S508〜S512、及びS705で行う。ユーザは、拡大率設定操作を行って表示された合成後の画像906を確認して、現在の拡大率設定で、対象画像から合成画像を生成することを決定することができる。決定する場合は、例えばユーザはPC操作入力部208が備えるマウスにより、不図示の決定メニューを選択して、マウスのボタンをクリックすればよい。S706で、PC制御部210は、PC操作入力部208へのユーザからの入力により、現在の拡大率設定で、対象画像から合成画像を生成することが決定されたかを判断する。合成画像を生成することが決定された場合は、PC制御部210は処理をS707に移し、決定されなかった場合は、PC制御部210は処理をS509に戻す。
S707で、PC制御部210は、PC画像表示部209に拡大率設定GUIの表示を終了させ、拡大率設定GUIの合成後の画像906に表示されていた、現在の拡大率設定で対象画像から生成された合成画像を表示させる。そして、PC制御部210は、PC画像表示部209に合成画像を記録するかを促すGUIを表示させ、PC操作入力部208に、ユーザから合成画像を記録する操作がなされたかを判断する。合成画像を記録する操作がなされた場合、PC制御部210は処理をS708に移し、得られた合成画像を記録部201に記録する。また、合成画像を記録する操作がなされなかった場合は、PC制御部210は距離別変倍画像生成処理を完了すればよい。
以上説明したように、本実施形態の画像処理装置は、入力された画像が、画像内の被写体と入力された画像を撮像した撮像装置との距離の情報を有する場合に、被写体との距離毎に変倍させた画像を生成することが可能である。具体的には画像処理装置は、入力された画像を撮像する際に測定された被写体と撮像装置との距離の情報に従い、設定された距離の間隔ごとに、同一の距離の範囲に存在する被写体が同一のレイヤに属するように、入力された画像を異なる複数のレイヤに分割する。そして、分割された複数のレイヤそれぞれに対し拡大率を設定して変倍処理を実行し、変倍された各レイヤを、被写体との距離が近いレイヤが上になるように合成することにより、被写体までの距離毎に変倍させた画像を得ることができる。
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (7)
- 撮像装置であって、
被写体を撮像する撮像手段と、
前記撮像装置から前記被写体までの距離を測定する測距手段と、
前記撮像装置からの距離に応じて、設定された距離の間隔ごとに前記撮像手段で撮像された前記被写体の画像を異なる複数のレイヤに分割するレイヤ分割手段と、
前記レイヤ分割手段により分割された前記複数のレイヤと、当該複数のレイヤのそれぞれに属する被写体とを示した表示画像を表示する表示手段と、
前記距離の間隔を設定する設定手段と、を有し、
前記表示手段は、前記設定手段により新たな距離の間隔が設定されることに応じて、前記表示画像を更新することを特徴する撮像装置。 - 前記被写体のうち、主被写体を決定する主被写体決定手段と、
少なくとも前記主被写体が属するレイヤに分割された画像と、当該レイヤ以外のレイヤに分割された画像とに、それぞれ異なる倍率の変倍処理を実行する変倍手段と、
前記変倍手段により前記変倍処理が実行された画像のそれぞれを、前記撮像装置からの距離が近い被写体の属するレイヤに分割された画像が上になるように合成し、得られた合成画像を前記表示手段に表示させる合成手段と、をさらに有することを特徴とする請求項1記載の撮像装置。 - 前記変倍手段は、前記撮像装置からの距離が近い被写体の属するレイヤほど、当該レイヤに分割された画像の倍率を大きくすることを特徴とする請求項2に記載の撮像装置。
- 前記変倍手段は、前記主被写体が即するレイヤに分割された画像のみに変倍処理を実行することを特徴とする請求項2に記載の撮像装置。
- 前記撮像された画像から、顔領域を検出する顔検出手段をさらに有し、
前記主被写体決定手段は、前記顔検出手段で検出された顔領域に基づいて、主被写体を決定することを特徴とする請求項2乃至4のいずれか1項に記載の撮像装置。 - 前記顔検出手段で検出された顔領域から、予め登録した顔を認識する顔認識手段をさらに有し、
前記主被写体決定手段は、前記顔認識手段で認識された顔を、主被写体として決定することを特徴とする請求項5に記載の撮像装置。 - 画像であって、当該画像を撮像した撮像装置から被写体までの距離の情報を含む画像を記憶する記憶手段と、
前記撮像装置からの距離に応じて、設定された距離の間隔ごとに前記画像を異なる複数のレイヤに分割するレイヤ分割手段と、
前記レイヤ分割手段により分割された前記複数のレイヤと、当該複数のレイヤのそれぞれに属する被写体とを示した表示画像を表示する表示手段と、
前記距離の間隔を設定する設定手段と、を有し、
前記表示手段は、前記設定手段により新たな距離の間隔が設定されることに応じて、前記表示画像を更新することを特徴とする画像処理装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010235878A JP2011147109A (ja) | 2009-12-16 | 2010-10-20 | 撮像装置及び画像処理装置 |
US12/957,963 US8471930B2 (en) | 2009-12-16 | 2010-12-01 | Image capturing apparatus and image processing apparatus |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009285741 | 2009-12-16 | ||
JP2009285741 | 2009-12-16 | ||
JP2010235878A JP2011147109A (ja) | 2009-12-16 | 2010-10-20 | 撮像装置及び画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011147109A true JP2011147109A (ja) | 2011-07-28 |
Family
ID=44142487
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010235878A Withdrawn JP2011147109A (ja) | 2009-12-16 | 2010-10-20 | 撮像装置及び画像処理装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8471930B2 (ja) |
JP (1) | JP2011147109A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013232751A (ja) * | 2012-04-27 | 2013-11-14 | Nikon Corp | 撮像装置、画像処理装置、画像処理方法及びプログラム |
KR101399785B1 (ko) | 2012-04-03 | 2014-06-27 | 조선대학교산학협력단 | 얼굴 검출 및 인식을 위한 얼굴 영상 획득 방법 및 장치 |
JP2016144089A (ja) * | 2015-02-03 | 2016-08-08 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP2016143919A (ja) * | 2015-01-29 | 2016-08-08 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP2016213574A (ja) * | 2015-04-30 | 2016-12-15 | キヤノン株式会社 | 画像処理装置及び画像処理装置の制御方法 |
WO2018034171A1 (ja) * | 2016-08-19 | 2018-02-22 | ソニー株式会社 | 画像処理装置および画像処理方法 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101789235B (zh) * | 2009-01-22 | 2011-12-28 | 华为终端有限公司 | 一种图像处理方法及装置 |
JP2013013061A (ja) * | 2011-05-27 | 2013-01-17 | Sanyo Electric Co Ltd | 撮像装置 |
JP5924833B2 (ja) * | 2011-09-22 | 2016-05-25 | シャープ株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、及び撮像装置 |
EP2839339A1 (en) * | 2012-04-19 | 2015-02-25 | Sony Mobile Communications AB | Image focusing |
KR102009816B1 (ko) * | 2012-08-28 | 2019-08-12 | 삼성전자주식회사 | 화면 디스플레이 방법 및 장치 |
GB2499694B8 (en) * | 2012-11-09 | 2017-06-07 | Sony Computer Entertainment Europe Ltd | System and method of image reconstruction |
JP6436430B2 (ja) * | 2014-05-16 | 2018-12-12 | パナソニックIpマネジメント株式会社 | 画像撮影表示装置および画像撮影表示装置の動作方法 |
US9704250B1 (en) * | 2014-10-30 | 2017-07-11 | Amazon Technologies, Inc. | Image optimization techniques using depth planes |
KR102402096B1 (ko) * | 2017-03-27 | 2022-05-26 | 삼성전자주식회사 | 이미지 내 오브젝트와 관련된 정보를 제공하는 전자 장치 |
US10636120B2 (en) * | 2018-02-01 | 2020-04-28 | Ricoh Company, Ltd. | Image scaling with quality control |
US10977549B2 (en) * | 2019-02-14 | 2021-04-13 | Adobe Inc. | Object animation using generative neural networks |
JP2020136899A (ja) * | 2019-02-19 | 2020-08-31 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置、電子機器、および撮像方法 |
US11297244B2 (en) * | 2020-02-11 | 2022-04-05 | Samsung Electronics Co., Ltd. | Click-and-lock zoom camera user interface |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000259823A (ja) | 1999-03-12 | 2000-09-22 | Canon Inc | 画像処理装置、画像処理方法及び記憶媒体 |
GB0116877D0 (en) * | 2001-07-10 | 2001-09-05 | Hewlett Packard Co | Intelligent feature selection and pan zoom control |
US7035479B2 (en) * | 2002-02-22 | 2006-04-25 | The Regents Of The University Of California | Graded zooming |
JP4193485B2 (ja) | 2002-12-18 | 2008-12-10 | カシオ計算機株式会社 | 撮像装置及び撮像制御プログラム |
JP2006067521A (ja) | 2004-08-30 | 2006-03-09 | Kyocera Corp | 画像処理装置と方法、および画像撮像装置と方法 |
JP4934992B2 (ja) | 2005-05-23 | 2012-05-23 | 株式会社ニコン | 画像処理装置、電子カメラおよび画像処理プログラム |
JP4645356B2 (ja) * | 2005-08-16 | 2011-03-09 | ソニー株式会社 | 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置 |
JP4356689B2 (ja) * | 2005-12-08 | 2009-11-04 | ソニー株式会社 | カメラシステム、カメラ制御装置、パノラマ画像作成方法及びコンピュータ・プログラム |
WO2009008778A1 (en) * | 2007-07-09 | 2009-01-15 | Flir Systems Ab | Method of processing an infrared image, infrared image capturing system and computer readable medium |
JP2009027298A (ja) * | 2007-07-18 | 2009-02-05 | Ricoh Co Ltd | 撮像装置および撮像装置の制御方法 |
JP4640479B2 (ja) * | 2008-09-26 | 2011-03-02 | ブラザー工業株式会社 | 画像記録装置 |
US20100079582A1 (en) * | 2008-10-01 | 2010-04-01 | Dunsmore Clay A | Method and System for Capturing and Using Automatic Focus Information |
JP2010279022A (ja) * | 2009-04-30 | 2010-12-09 | Sanyo Electric Co Ltd | 撮像装置 |
-
2010
- 2010-10-20 JP JP2010235878A patent/JP2011147109A/ja not_active Withdrawn
- 2010-12-01 US US12/957,963 patent/US8471930B2/en not_active Expired - Fee Related
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101399785B1 (ko) | 2012-04-03 | 2014-06-27 | 조선대학교산학협력단 | 얼굴 검출 및 인식을 위한 얼굴 영상 획득 방법 및 장치 |
JP2013232751A (ja) * | 2012-04-27 | 2013-11-14 | Nikon Corp | 撮像装置、画像処理装置、画像処理方法及びプログラム |
JP2016143919A (ja) * | 2015-01-29 | 2016-08-08 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP2016144089A (ja) * | 2015-02-03 | 2016-08-08 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP2016213574A (ja) * | 2015-04-30 | 2016-12-15 | キヤノン株式会社 | 画像処理装置及び画像処理装置の制御方法 |
WO2018034171A1 (ja) * | 2016-08-19 | 2018-02-22 | ソニー株式会社 | 画像処理装置および画像処理方法 |
CN109643468A (zh) * | 2016-08-19 | 2019-04-16 | 索尼公司 | 图像处理装置和图像处理方法 |
JPWO2018034171A1 (ja) * | 2016-08-19 | 2019-07-11 | ソニー株式会社 | 画像処理装置および画像処理方法 |
US10898804B2 (en) | 2016-08-19 | 2021-01-26 | Sony Corporation | Image processing device and image processing method |
CN109643468B (zh) * | 2016-08-19 | 2023-10-20 | 索尼公司 | 图像处理装置和图像处理方法 |
Also Published As
Publication number | Publication date |
---|---|
US8471930B2 (en) | 2013-06-25 |
US20110141319A1 (en) | 2011-06-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2011147109A (ja) | 撮像装置及び画像処理装置 | |
JP6288952B2 (ja) | 撮像装置およびその制御方法 | |
JP4735742B2 (ja) | 撮像装置、ストロボ画像生成方法、および、プログラム | |
JP5206095B2 (ja) | 構図判定装置、構図判定方法、プログラム | |
JP4894939B2 (ja) | 撮像装置、表示方法、および、プログラム | |
CN102724398B (zh) | 图像数据提供方法、组合方法及呈现方法 | |
JP2012199805A (ja) | 撮像装置 | |
JP6261205B2 (ja) | 画像処理装置 | |
JP5896680B2 (ja) | 撮像装置、画像処理装置、及び画像処理方法 | |
JP6752685B2 (ja) | 撮像装置、撮像方法およびプログラム | |
JP5479850B2 (ja) | 動画像作成装置及び動画像作成方法 | |
JP5896102B2 (ja) | 撮像装置、撮像制御方法、及びプログラム | |
JP5790858B2 (ja) | 画像合成装置、画像合成方法、及びプログラム | |
JP2009258005A (ja) | 三次元測定装置及び三次元測定方法 | |
JP5646582B2 (ja) | 撮像装置 | |
JP2009053786A (ja) | 画像処理装置、撮像装置、画像処理方法、および、プログラム | |
JPWO2008129758A1 (ja) | 撮像装置、撮像方法及び集積回路 | |
JP5484129B2 (ja) | 撮像装置 | |
JP2010200360A (ja) | 撮像装置、ストロボ画像生成方法、および、プログラム | |
JP5718502B2 (ja) | 画像作成装置及び画像作成方法 | |
JPWO2009141955A1 (ja) | 撮像装置、撮像方法及び集積回路 | |
JP6545229B2 (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム | |
JP5744642B2 (ja) | 画像処理装置および画像処理方法、プログラム。 | |
JP2020160773A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP6828069B2 (ja) | 撮像装置、撮像方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20140107 |