JP2019033308A - 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 - Google Patents
画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 Download PDFInfo
- Publication number
- JP2019033308A JP2019033308A JP2017151423A JP2017151423A JP2019033308A JP 2019033308 A JP2019033308 A JP 2019033308A JP 2017151423 A JP2017151423 A JP 2017151423A JP 2017151423 A JP2017151423 A JP 2017151423A JP 2019033308 A JP2019033308 A JP 2019033308A
- Authority
- JP
- Japan
- Prior art keywords
- image
- metadata
- focus position
- unit
- focus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 画像合成によって得た合成画像について、ユーザに分かりやすいメタデータを合成画像の画像ファイルに付与することができるという効果を有する。【解決手段】 画像処理装置は、ピント位置を変化させながら被写体を撮像して得られた複数の撮像画像が与えられ、上記複数の撮像画像を合成して合成画像を生成する合成制御部と、上記合成画像の合成に用いられた各撮像画像についての撮影条件に基づくメタデータを上記撮像画像毎に作成するメタデータ作成部と、上記合成制御部が生成した上記合成画像の画像ファイルに上記メタデータ作成部が作成した上記メタデータを付与して記録する記録制御部とを具備する。【選択図】図1
Description
本発明は、画像ファイルのメタデータを得る処理を行う画像処理装置、画像処理方法、画像処理プログラム及び撮像装置に関する。
従来、デジタルカメラなどの撮影機能付き携帯機器(撮像装置)が普及している。この種の撮像装置において使われる画像ファイルは、撮影情報等の規格化された情報、例えば、露出時間、絞り値、露出プログラム、ISO感度、撮影日時の情報等を含む。
ユーザは、画像ファイル中のメタデータの内容を参照することで、当該画像の撮影条件等を確認することができ、例えば今後の撮影のパラメータ設定等の示唆を得ることができる。
ところで、近年、複数枚の画像を合成する深度合成撮影、パノラマ撮影等が可能なカメラが商品化されている。
特許文献1においては、撮像方向を変位させながらの撮像動作によって得られる複数のフレーム画像データを用いて生成されたパノラマ画像データが、全周パノラマ画像と判断される場合に、該パノラマ画像データと、該パノラマ画像データが全周パノラマ画像であることを示す情報とを関連付ける関連付け部を備える装置が開示されている。
深度合成撮影は、ピント位置を変化させながら複数回の撮影を行って得た複数の撮像画像を合成(深度合成)することで、ユーザが狙った被写体の全体にピントが合った画像を得るものである。
画像ファイルのメタデータには、1枚の撮像画像についての撮影情報が含まれている。このため、合成画像については、ユーザは十分に分かりやすい情報を得ることができないことがある。
本発明は、画像合成によって得た合成画像について、ユーザに分かりやすいメタデータを合成画像の画像ファイルに付与することができる画像処理装置、画像処理方法、画像処理プログラム及び撮像装置を提供することを目的とする。
本発明の一態様による画像処理装置は、ピント位置を変化させながら被写体を撮像して得られた複数の撮像画像が与えられ、上記複数の撮像画像を合成して合成画像を生成する合成制御部と、上記合成画像の合成に用いられた各撮像画像についての撮影条件に基づくメタデータを上記撮像画像毎に作成するメタデータ作成部と、上記合成制御部が生成した上記合成画像の画像ファイルに上記メタデータ作成部が作成した上記メタデータを付与して記録する記録制御部とを具備する。
本発明の一態様による画像処理方法は、ピント位置を変化させながら被写体を撮像して得られた複数の撮像画像が与えられ、上記複数の撮像画像を合成して合成画像を生成し、上記合成画像の合成に用いられた各撮像画像についての撮影条件に基づくメタデータを上記撮像画像毎に作成し、上記合成画像の画像ファイルに上記メタデータを付与して記録する。
本発明の一態様による画像処理プログラムは、コンピュータに、ピント位置を変化させながら被写体を撮像して得られた複数の撮像画像が与えられ、上記複数の撮像画像を合成して合成画像を生成する手順と、上記合成画像の合成に用いられた各撮像画像についての撮影条件について、サイズが既知の補正用既知対象物を撮像して得た補正情報を用いて上記ピント位置を距離換算してメタデータとして作成する手順と、上記合成画像の画像ファイルに上記メタデータを付与して記録する手順とを実行させる。
本発明の一態様による撮像装置は、上記画像処理装置と、ピント位置可変の光学系によりピント位置を変化させながら被写体を撮像する撮像部とを具備する。
本発明によれば、画像合成によって得た合成画像について、ユーザに分かりやすいメタデータを合成画像の画像ファイルに付与することができるという効果を有する。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る画像処理装置を有する撮像装置を示すブロック図である。本実施の形態においては、撮像装置の画像処理装置は、撮像部に対して深度合成のための撮像制御を行うと共に、深度合成時に用いた各撮像画像の取得時の撮影情報等を撮像画像毎にメタデータとして合成画像の画像ファイルに付与して記録させるようになっている。これにより、合成画像のメタデータの内容を参照するユーザの利便性を向上させる。
図1は本発明の第1の実施の形態に係る画像処理装置を有する撮像装置を示すブロック図である。本実施の形態においては、撮像装置の画像処理装置は、撮像部に対して深度合成のための撮像制御を行うと共に、深度合成時に用いた各撮像画像の取得時の撮影情報等を撮像画像毎にメタデータとして合成画像の画像ファイルに付与して記録させるようになっている。これにより、合成画像のメタデータの内容を参照するユーザの利便性を向上させる。
なお、撮影情報としては、露出時間、絞り値、露出プログラム、ISO感度、撮影日時の情報等の各種撮影パラメータを含む。更に、本実施の形態においては、撮影情報として被写体までの距離の情報(以下、被写体距離情報という)を含む。なお、本実施の形態においては、被写体距離は、撮影レンズから被写体の各部までの距離であって、合焦状態となる場合の距離をいう。
また、本実施の形態においては、メタデータとして被写体距離情報を含めるだけでなく、画像処理によるキャリブレーションによって、求める距離の情報の正確性を向上させるようになっている。
図1において、撮像装置1には撮像部10が設けられている。撮像部10は、CCDやCMOSセンサ等の撮像素子11と、被写体の光学像を撮像素子の撮像面に導く撮影レンズ(光学系)12とを備える。撮影レンズ12としては、撮像部10に取り付けられた固定のレンズであってもよく、また、交換式のレンズであってもよい。撮影レンズ12は、ズームやフォーカシングのための図示しないレンズ等を備えており、これらのレンズは、レンズ駆動部13によって駆動制御されるようになっている。レンズ駆動部13のピント変更部13aは、後述する制御部20のレンズ制御部24からの制御信号に基づいて、フォーカシングのためのレンズを駆動して、ピント位置を変更することができるようになっている。なお、撮像部10において採用する撮像素子11としては、像面位相差法においてデフォーカス量を求めるためのフォーカス制御用の画素(以下、AF画素という)を有するものであってもよい。
また、光学系特性部14は、光学系の特性に関する情報を取得して、制御部20に出力するようになっている。なお、光学系の特性に関する情報としては、後述する深度合成に必要な情報、例えば、被写界深度情報、ピント合わせ可能範囲の情報やピント合わせ時の距離とピント位置の関係を示す情報等を含む。また、光学系特性部14は、光学系の特性に関する情報として、焦点距離及び絞りの状態を反映させた情報を取得することができるようになっている。
制御部20は、例えば、図示しないメモリに記憶されたプログラムに従ってカメラ制御を行う図示しないCPU等を用いたプロセッサによって構成することができる。制御部20は、撮像部10に撮像素子11の駆動信号を出力してシャッタスピード、露光時間等を制御すると共に、撮像部10からの撮像画像を読み出す。制御部20の画像処理部21は、読み出した撮像画像に対して、所定の信号処理、例えば、色調整処理、マトリックス変換処理、ノイズ除去処理、その他各種の信号処理を行う。
レンズ制御部24は、レンズ駆動部13を制御する。レンズ制御部24は、オートフォーカス制御が可能である。例えば、レンズ制御部24は、レンズ駆動部13のピント変更部13aを制御してピント位置を変更しながら画像処理部21のコントラスト判定処理結果によって、所謂山登りコントラスト法によるオートフォーカス制御が可能である。また、レンズ制御部24は、撮像素子11がAF画素を有している場合には、像面位相差法によるオートフォーカス制御を行ってもよい。
制御部20には、操作判定部27が設けられている。操作判定部27は、図示しないシャッタボタン、ファンクションボタン、撮影モード設定等の各種スイッチ等を含む操作部15に対するユーザ操作を受け付けるようになっている。制御部20は操作判定部27の判定結果に基づいて各部を制御する。記録制御部25は、各種信号処理後の撮像画像を圧縮処理し、圧縮後の画像を記録部30に与えて記録させることができる。
記録部30は、所定の記録媒体を備えており、記録制御部25によって画像ファイルが記録されるようになっている。例えば、記録制御部25は、画像ファイルとして例えばExif(Exchangeable image file format)など特定の形式にして画像ファイルを記録することができ、記録部30は、画像ファイル中の画像データ部分を記録する領域である画像データ部31及びメタデータ部分を記録する領域であるメタデータ部32を備えている。また、記録部30には、所定の対象物の特徴量を記録した対象物特徴データベース(DB)33が設けられている。
制御部20の表示制御部28は、表示に関する各種処理を実行する。表示制御部28は、信号処理後の撮像画像を表示部41に与えることができる。表示部41は、LCD(液晶パネル)等の表示画面を有しており、表示制御部28から与えられた画像を表示する。また、表示制御部28は、各種メニュー表示等を表示部41の表示画面に表示させることもできるようになっている。
なお、表示部41の表示画面上には、図示しないタッチパネルが設けられていてもよい。タッチパネルは、ユーザが指で指し示した表示画面上の位置に応じた操作信号を発生することができる。この操作信号は、制御部20に供給される。これにより、制御部20は、ユーザがタッチした表示画面上の位置やユーザが表示画面上を指でスライドさせるスライド操作を検出することができ、ユーザ操作に対応した処理を実行することができるようになっている。
なお、表示部41の表示画面は撮像装置1の筐体1a(図2参照)の背面に沿って設けられており、撮影者は、撮影時に表示部41の表示画面上に表示されたスルー画を確認することができ、スルー画を確認しながら撮影操作を行うこともできる。
通信制御部29は、通信部45を制御して、外部機器との間で通信を行うことができる。通信部45は、通信制御部29に制御されて、外部機器との間で有線又は無線によるデータの送信及び受信が可能である。例えば、通信部45としては、USB規格の有線通信やWifi(登録商標)等の無線LANやブルートゥース(登録商標)等による無線通信が可能に構成されている。通信制御部29は、通信部45を介して、撮像画像、合成画像等の画像ファイルやその他の各種情報を外部機器に送信することができるようになっている。
本実施の形態においては、深度合成等の画像合成を行う場合に、合成前の各撮像画像について被写体距離情報を含む撮影情報を取得し、取得した撮影情報をメタデータとして合成画像の画像ファイルに付与することができるようになっている。
制御部20の深度合成制御部22は、このような深度合成処理を制御する。即ち、合成制御部である深度合成制御部22は、深度合成モードにおいて、撮像素子11及びレンズ制御部24を制御して深度合成のための複数回の撮影を行わせ、画像処理部21を制御して取得された複数の撮像画像による深度合成画像を生成する。更に、本実施の形態においては、深度合成制御部22は、メタデータ作成部26を制御して、各撮像画像についての被写体距離情報をメタデータとして記録部30に記録させるようになっている。
図2は深度合成モードにおける撮影の様子を示す説明図である。また、図3は深度合成モードにおける動作を説明するための説明図である。また、図4Aから図4Cは深度合成モードにおいて撮影された撮像画像及び合成画像を示す説明図である。
図2の例は物品の撮影、所謂物撮りにおける様子を示している。インターネット等を介して物品を販売するネット販売では、販売する商品等の写真をサイト上に掲載することがある。この場合の商品写真については、通常細部まで鮮明な画像であった方がよい。しかしながら、商品が奥行き方向に長い部分を有する商品を撮影する場合には、商品の各部の被写体距離が比較的大きく異なる場合がある。このため、絞りを絞れなかったり、被写体距離が小さすぎたりする場合には、撮影機器の焦点深度が浅くなり、通常撮影モードでは、商品の一部にしかピントが合っていない画像が撮影されてしまうことがある。これに対し、深度合成モードを採用すれば、このようなユースシーンにおいて、細部までピントが合った画像の撮影を容易に行うことができる。
テーブル54上には物品(商品)である瓶55が載置されている。ユーザ51は、瓶55が視野範囲に入るように、右手52で撮像装置1の各回路を収納した筐体1aを把持して構える。撮影モード時には、この状態で筐体1aの背面に設けた表示部41の表示画面41a上に、スルー画が表示される。ユーザ51はこのスルー画を確認しながら、瓶55の撮影を行う。
レンズ制御部24は、深度合成制御部22に制御されて、撮影範囲中の瓶55の所定位置についてオートフォーカス制御を行いながら撮影を行う。いま、ユーザが図3の撮影タイミングにおいて操作部15中の図示しないレリーズボタン操作すると、深度合成制御部22は、所定の露出でオートフォーカス制御によるピント位置を変更しながら複数回の撮影を行う。図3の例では、深度合成制御部22は、シャッタ速度が1/100秒の状態で、1回目の露出時と2回目の露出時とでピント位置を切換えて撮像を行う。
例えば、1回目の撮影によって得られる画像が図4Aに示す撮像画像50aであり、2回目の撮影によって得られる画像が図4Bに示す撮像画像50bであるものとする。なお、図4A〜図4Cは実線によってピントが合っている状態(合焦状態)を示し、破線によってピントが合っていない状態(非合焦状態)を示している。
1回目の撮影では、図4Aに示すように、瓶55の先端にピントが合った撮像画像50aが得られる。なお、撮像画像50aは瓶55の先端側55aのピントは合っているが、破線部に示すように、瓶55の中央よりも下側55bではピントは合っていない。
2回目の撮影では、図4Bに示すように、瓶55の中央にピントが合った撮像画像50bが得られる。なお、撮像画像50bは瓶55の中央から下側55bのピントは合っているが、破線部に示すように、瓶55の中央よりも先端側55aではピントは合っていない。
図3の撮像画像の塗り潰し部分はピントが合っている画像部分を示しており、1回目の撮影では瓶55の画像位置の画像の上側のみ合焦状態となっている。また、2回目の撮影では瓶55の画像位置の画像の下側のみ合焦状態となっている。
画像処理部21は、深度合成制御部22に制御されて、深度合成モードにおけるこれらの2回の撮影によって得た2枚の撮像画像を合成して、図3に示すように、瓶55の画像位置の全体について合焦状態となる合成画像50cを得る。図4Cに示すように、深度合成の結果、合成画像50cは、瓶55の先端側55aから下側55bまでの全域において合焦状態となっている。
制御部20には、対象物判定部23が設けられている。対象物判定部23は、深度合成モードにおいてピント位置を変化させる範囲、即ち、合焦範囲を決定するための対象物判定を行うことができるようになっている。対象物判定部23が所定の対象物を合焦対象被写体としては判定することで、深度合成モードにおいて、例えば、合焦対象被写体のみを合焦状態とすることが可能である。なお、対象物判定部23は、後述するキャリブレーション処理に用いる対象物を判定するためにも用いられる。
対象物判定部23は、撮像部10からの撮像画像に対する画像解析を行って、撮像画像中から合焦範囲を決定するための合焦対象被写体を判定する。例えば、対象物判定部23は、被写体に対する特徴量を用いて、合焦対象被写体を検出してもよい。例えば、被写体の特徴量の情報を記録部30の対象物特徴データベース(DB)部33に記録させてもよい。対象物判定部23は、対象物特徴DB部33から特徴量を読出し、特徴量を用いて合焦対象被写体を検出してもよい。更に、対象物判定部23は、ユーザによる被写体の指定操作によって、合焦対象被写体を決定するようにしてもよい。
対象物特徴DB部33には、被写体距離算出時のキャリブレーションに用いるサイズが既知の対象物(以下、補正用既知対象物という)の特徴量の情報も記録されている。対象物判定部23は、対象物特徴DB部33の情報を用いて、撮像画像中の補正用既知対象物を検出することもできるようになっている。なお、補正用既知対象物の特徴量としては、形状、模様、サイズ等がある。
ここに、特定の既知の大きさのコインや切手やメモリの入った定規など、色や大きさや形状やパターンで検出しやすいものを補正用既知対象物としてその画像の特徴情報と、大きさの情報を対応付けて記憶させておけば、適宜、撮影画像から、この特徴を有する部分を見つけ出して、その画像部分の大きさと、本来の大きさを使って、他の画像部分の実際の大きさを判定するのに用いることができる。
ここに、特定の既知の大きさのコインや切手やメモリの入った定規など、色や大きさや形状やパターンで検出しやすいものを補正用既知対象物としてその画像の特徴情報と、大きさの情報を対応付けて記憶させておけば、適宜、撮影画像から、この特徴を有する部分を見つけ出して、その画像部分の大きさと、本来の大きさを使って、他の画像部分の実際の大きさを判定するのに用いることができる。
対象物特徴DB部33に記録する補正用既知対象物の情報については、例えば操作部15の操作によってユーザが追加更新することができるようになっていてもよい。なお、補正用既知対象物としては、どの方向から撮像した場合でもキャリブレーションのための補正情報を簡単に求めることができるように球状の物体や円形の物体が好ましい。
なお、対象物判定部23は、撮像画像の各部における被写体距離と撮像画像に対する画像解析結果とに基づいて、同一物体又は輪郭が連続する被写体を合焦対象被写体として検出してもよい。また、対象物判定部23は、撮像画像中の輪郭線を判定すると共に、輪郭線上の被写体距離の変化に基づいて、合焦対象被写体を判定してもよい。例えば、対象物判定部23は、被写体距離の変化が所定の閾値よりも大きい場合には、輪郭が不連続であると判定してもよい。
制御部20にはメタデータ作成部26が設けられている。メタデータ作成部26は、通常撮影時においては、撮影されて取得された撮像画像について、特定の規格の画像ファイルのメタデータとして、被写体距離情報を含むメタデータを生成することができる。
更に、本実施の形態においては、メタデータ作成部26は、深度合成モードにおいて生成された合成画像について、特定の規格の画像ファイルのメタデータとして、合成に用いた撮像画像毎に被写体距離情報を含むメタデータを生成することができるようになっている。
メタデータ作成部26は、データ換算部26aを有しており、データ換算部26aは、光学系特性部14からの情報及びレンズ制御部24からのピント位置の情報を用いてピント位置を距離に換算して、被写体距離を得ることができるようになっている。
図5は横軸にピント位置をとり縦軸に距離の逆数をとって、所定のレンズについてピント位置と距離との関係を示すグラフである。図5は所定のレンズについて、無限遠から至近までにおけるピント位置と距離の逆数との関係を3つのズーム位置毎に示している。例えば、ズーム位置がZ1の場合において、レンズをピント位置LD1の位置に繰り出した場合の距離の逆数はL1であり、ピント位置LD2の位置に繰り出した場合の距離の逆数はL2であることが分かる。図5の特性はレンズ毎に異なり、制御部20は撮像部10の光学系特性部14から光学系に関する情報を読出すことで、図5の関係を求めることができる。
例えば、図5の各曲線は、下記(1)式によって与えられる。メタデータ作成部26のデータ換算部26aは、光学系特性部14から読出した図5の特性情報を図示しないメモリ又は記録部30に記録する。データ換算部26aは、レンズ制御部24からのピント位置の情報と光学特性情報とに基づいて、撮像画像毎に被写体距離を求めるようになっている。
1/L=α×LD+β …(1)
なお、上記(1)式において、LDはレンズ繰り出し位置(ピント位置)を示し、α,βは所定の定数である。距離の逆数1/Lは、ピント位置LDに略々比例し、βはオフセット値、即ち、無限遠における距離の逆数に相当する。比例係数α及びオフセット値βは、レンズ毎及びズーム位置毎に異なる値となる。撮影レンズ12として交換不能なレンズを採用した場合には、オフセット値βとして比較的正確な値を得ることができる。しかし、撮影レンズ12として交換可能なレンズを採用した場合には、交換レンズ取付け時の機械精度等により、オフセット値βの精度は比較的低い場合も考えられる。また、撮影レンズ12としてズーム可変のレンズを採用した場合には、ズーム位置の検出精度が低いときには、比例係数αの精度も比較的低いこともある。そこで、データ換算部26aは、サイズが既知の補正用既知対象物を用いてキャリブレーションを行うことで、距離算出の精度を向上させるようになっている。
1/L=α×LD+β …(1)
なお、上記(1)式において、LDはレンズ繰り出し位置(ピント位置)を示し、α,βは所定の定数である。距離の逆数1/Lは、ピント位置LDに略々比例し、βはオフセット値、即ち、無限遠における距離の逆数に相当する。比例係数α及びオフセット値βは、レンズ毎及びズーム位置毎に異なる値となる。撮影レンズ12として交換不能なレンズを採用した場合には、オフセット値βとして比較的正確な値を得ることができる。しかし、撮影レンズ12として交換可能なレンズを採用した場合には、交換レンズ取付け時の機械精度等により、オフセット値βの精度は比較的低い場合も考えられる。また、撮影レンズ12としてズーム可変のレンズを採用した場合には、ズーム位置の検出精度が低いときには、比例係数αの精度も比較的低いこともある。そこで、データ換算部26aは、サイズが既知の補正用既知対象物を用いてキャリブレーションを行うことで、距離算出の精度を向上させるようになっている。
図6から図8はキャリブレーション処理を説明するためのものであり、キャリブレーション用の補正用既知対象物として硬貨を用いる例を示している。図6は硬貨の種類と直径との関係を示す図表であり、図7はキャリブレーション処理のフローを示すフローチャートであり、図8はキャリブレーション時の撮影の様子を示す説明図である。
図6に示すように、硬貨はその種類に応じて直径が規定されている。対象物判定部23によって撮像画像中に補正用既知対象物が含まれることが検出されると、データ換算部26aは、図7のステップS41において、補正用既知対象物である硬貨の直径の情報を対象物特徴DB部33から読出す。データ換算部26aは、撮像画像中における補正用既知対象物について、例えば画素数等によりサイズを求める(ステップS42)。データ換算部26aは、補正用既知対象物の画像中のサイズと、対象物特徴DB部33から読出したサイズとの比較によって、被写体距離のキャリブレーションを行うための補正情報を算出する(ステップS43)。データ換算部26aは、算出した補正情報を記録部30に記録するか又は図示しないメモリに記憶させる。データ換算部26aは、上記(1)式に従って、レンズ特性及びピント位置LDに基づいて求めた被写体距離を、補正情報を用いて補正する。
図8は被写体距離の算出精度を向上させるために、被写体までの距離を変化させて補正情報を算出する例を示している。
いま、ピント位置及びズーム位置を固定にした状態で補正用既知対象物である硬貨60の画像サイズが所定倍となるように、筐体1aを筐体1a’の位置に変化させて撮像画像距離を変化させるものとする。ピント位置LDがレンズ制御部24によって与えられた場合には、上記(1)式において、α,βの値を算出することができ、被写体距離を正確に求めることが可能である。
データ換算部26aは、補正情報によって補正した被写体距離の情報を、当該撮像画像のメタデータとして生成する。メタデータ作成部26は、被写体距離情報を含むメタデータをメタデータ部32に記録するようになっている。
次に、このように構成された実施の形態の動作について図9〜図11を参照して説明する。図9は第1の実施の形態の動作を説明するためのフローチャートである。図10及び図11は特定の規格の画像ファイルに記録される内容を説明するための説明図である。図10は通常撮影時の画像ファイルを示し、図11は深度合成モード時の画像ファイルを示している。
図9のステップS1において、制御部20は、撮影モードが指定されているか否かを判定する。撮影モードが指定されている場合には、制御部20は、ステップS2においてスルー画用の撮像画像を取得する。即ち、制御部20は、撮像部10に被写体を撮像させ、画像処理部21は撮像部10からの撮像画像に所定の画像処理を施して表示部41に与える。表示部41は、スルー画を表示画面上に表示すると共に、オートフォーカス機能及び自動露出機能により、ピント位置及び標準露出の設定を行う(ステップS3)
制御部20は、ステップS4において、モード切換の指示があったか否かを判定する。モード切換の指示が発生した場合には、制御部20はステップS5において、指示されたモードの各種設定を行う。例えば、深度合成モードが指定された場合には、深度合成モードに必要な各種設定が行われる。
制御部20は、ステップS4において、モード切換の指示があったか否かを判定する。モード切換の指示が発生した場合には、制御部20はステップS5において、指示されたモードの各種設定を行う。例えば、深度合成モードが指定された場合には、深度合成モードに必要な各種設定が行われる。
モード切換の指示が発生していない場合には、制御部20は次のステップS6において、キャリブレーションが指示されたか否かを判定する。キャリブレーションが指示されると、制御部20はステップS7においてキャリブレーションを実行する。例えば、制御部20のデータ換算部26aは、図7のフローに従って、キャリブレーションを実行して補正情報を求める。制御部20は、ステップS7において求めた補正情報を記録部30に記録しておく。なお、キャリブレーションの効果を得るためには、ステップS7の補正情報の算出時からズーム位置を変化させることなく撮影を行った方がよい。
次に、制御部20は、ユーザによる撮影操作の有無を判定し(ステップS8)、撮影操作が行われない場合には処理をステップS1に戻す。ユーザがレリーズスイッチにより撮影を指示した場合には、制御部20はステップS9において、現在のモードが撮影条件変更を伴うモード、例えば、深度合成モードであるか否かを判定する。
例えば、通常撮影モードである場合には、制御部20は処理をステップS10に移行して、取得した撮像画像の画像データとメタデータとを記録部30に記録する。なお、画像データ部31に記録される画像データとメタデータ部32に記録されるメタデータとは相互に関連付けられて、撮像画像毎に画像データとメタデータとからなる画像ファイルが生成される。即ち、メタデータ作成部26は、光学系特性部14及びレンズ制御部24等から撮影情報を取得する。データ換算部26aは、光学系に関する情報及びピント位置の情報に基づいて、被写体距離を算出する。この場合には、データ換算部26aは、記録部30から補正情報を読出して、当該補正情報によって被写体距離をキャリブレーションする。データ換算部26aは、被写体距離情報を含むメタデータを記録部30に与えて記録する。
図10はこの場合の記録部30に記録される画像データ及びメタデータの一例を説明するものである。図10は3つの画像ファイル61〜63の情報を示しており、1つ目の画像ファイル61は画像データ61aとメタデータ61bとを含み、メタデータ61bは被写体距離が50mであることを示す距離情報を含む。また、2つ目の画像ファイル62は画像データ62aとメタデータ62bとを含み、メタデータ62bは被写体距離が15mであることを示す距離情報を含む。また、3つ目の画像ファイル63は画像データ63aとメタデータ63bとを含み、メタデータ63bは被写体距離が15cmであることを示す距離情報を含む。このメタデータは、特定の規格のデータであり、ユーザは画像ファイルを読出す場合に、これらのメタデータの内容を確認することができる。
次に、ステップS5において深度合成モードの各種設定が行われているものとする。この場合には、制御部20は、ステップS9からステップS11に処理を移行する。制御部20の深度合成制御部22は、ステップS11〜S15において、深度合成のための複数回の撮影を行う。先ず、深度合成制御部22は、ステップS11において、現在のピント位置及びこのピント位置での撮像画像を記録部30に記録する。深度合成モードにおいては、上述したように、ピント位置をずらしながら複数回の撮影を行う。ステップS13では、深度合成制御部22は、レンズ制御部24を制御して、ピント変更部13aによりピント位置を例えば所定量シフトさせる。深度合成制御部22は、この結果得られたシフト後の撮像画像及びそのピント位置を記録部30に記録する(ステップS14)。
深度合成制御部22は、ステップS15において、深度合成に必要な複数回の撮影が終了したか否かを判定する。例えば、深度合成制御部22は、予め規定されたシフト量及び回数だけピント位置をシフトしながら撮影を行ってもよい。図9の例では、深度合成制御部22は、ステップS12において、対象物判定部23を制御して、合焦状態で撮影を行う対象物である合焦対象被写体を検出し、当該合焦対象被写体の全域において合焦状態が得られるまでピント位置をシフトさせるようになっている。深度合成制御部22は、合焦対象被写体の全域において合焦状態が得られたと判定した場合には、ステップS15からステップS16に処理を移行し、そうでない場合には処理をステップS13に戻して、ピント位置のシフト、撮像及び記録を繰り返す。
深度合成制御部22は、ステップS16において、撮影された複数枚の撮像画像を合成して、合焦状態の合焦対象被写体を含む深度合成画像を生成する。深度合成モードにおいては、メタデータ作成部26は、光学系特性部14及びレンズ制御部24等から撮像画像毎に撮影情報を取得する。データ換算部26aは、光学系に関する情報及びピント位置の情報に基づいて、各撮像毎に被写体距離を算出する(ステップS17)。データ換算部26aは、記録部30から補正情報を読出して、当該補正情報によって被写体距離をキャリブレーションする。深度合成制御部22は、記録制御部25を制御して合成画像を記録部30の画像データ部31に与えて記録する。また、メタデータ作成部26は、記録制御部25を制御して、データ換算部26aによって求めた被写体距離情報を含むメタデータを記録部30に与えて記録する。なお、画像データ部31に記録される画像データとメタデータ部32に記録されるメタデータとは相互に関連付けられて、各合成画像毎に画像データとメタデータとからなる画像ファイルが生成される。
図11はこの場合の記録部30に記録される画像データ及びメタデータの一例を説明するものである。図11は1合成画像ファイル65の情報を示しており、画像ファイル65は画像データ65aとメタデータ65b,65cとを含む。メタデータ65bは、深度合成画像の生成時の共通の撮影情報を示しており、図11の例ではシャッタ速度(SS)が1/100秒であり、絞りがFナンバー(FNo.)16であることを示している。
また、メタデータ65cは、深度合成画像の合成に用いた撮像画像毎の撮影情報を示しており、図11の例では、深度合成に2枚の撮像画像が用いられ、各撮像画像取得時の被写体距離が、それぞれ10cm,13cmであることを示している。
メタデータ65b,65cは、特定の規格のデータであり、ユーザは画像ファイルを読出す場合に、これらのメタデータの内容を確認することができる。即ち、本実施の形態では、ユーザは、深度合成モードにおいて取得された合成画像について、作成に用いられた各撮像画像の撮影情報を個別に認識することが可能である。
図9のステップS1において、撮影モードが指示されていない場合には、制御部20は、ステップS21に移行して再生モードが指定されているか否かを判定する。制御部20は、再生モードが指定されていない場合には、指定された他のモードに移行する。
再生モードが指定されると、制御部20は、ステップS22において、記録部30に記録されている画像を選択するためのアイコン一覧表示を行う。ユーザがアイコン一覧表示から所定の画像を選択すると、制御部20は、選択操作に基づく画像を選択して再生して、表示部41の表示画面上に表示させる(ステップS25)。なお、制御部20は、画像選択操作がない場合には、次のステップS24において戻る操作があったか否かを判定し、戻る操作があった場合には処理をステップS1に戻し、無かった場合には処理をステップS22に戻す。
ステップS25における画像の表示中に、制御部20は、詳細表示の表示を指示する操作が発生したか否かを判定する(ステップS26)。制御部20は、詳細表示の表示指示が発生した場合には、処理をステップS27に移行して、メタデータ部32から読出したメタデータに基づく表示(メタデータ表示)を表示部41に表示させる。これにより、例えば、図10及び図11のメタデータ61b〜63b,65b,65cの内容が表示される。この表示によって、ユーザは撮像画像についての撮影情報及び合成画像については撮像画像毎の撮影情報を把握することができる。
詳細表示の表示指示がなかった場合又はメタデータ表示の表示中において、制御部20は、外部送信指示が発生したか否かを判定する(ステップS28)。外部送信指示が発生すると、制御部20の通信制御部29は、通信部45を制御して、選択されている画像の画像ファイルを設定された送信先に送信する。
なお、制御部20は、外部送信指示が無い場合又は外部送信の終了後のステップS30において、戻る操作があったか否かを判定し、戻る操作があった場合には処理をステップS1に戻し、無かった場合には処理をステップS25に戻す。
このように本実施の形態においては、複数の撮像画像を合成して合成画像を生成する場合でも、合成に用いた撮像画像毎に撮影情報等のメタデータを生成することができ、生成したメタデータをユーザが確認可能な例えば特定の規格のデータとして画像ファイルに付与することができる。これにより、合成画像であっても、撮像画像毎に撮影条件等を確認することができ、利便性に優れている。例えば、ユーザは、撮像画像毎の撮影条件等を参考にして深度合成画像生成のための撮影を行うことで、失敗の少ない撮影が可能である。
また、本実施の形態においては、画像ファイルに付与するメタデータとして被写体距離の情報を生成して記録することができる。この被写体距離情報は、光学系の特性情報及びピント位置に基づいて算出されると共に、補正用既知対象物に基づいて算出した補正情報を用いてキャリブレーションされており、高精度に求められる。これにより、ユーザは、被写体距離を正確に把握することができる。
(変形例1)
図12は変形例を示す説明図である。図12において図11と同一の構成要素には同一符号を付して説明を省略する。
図12は変形例を示す説明図である。図12において図11と同一の構成要素には同一符号を付して説明を省略する。
図9のフローでは、ステップS17等において、各ピント位置で撮影した被写体の各部までの被写体距離を求め、ステップS18ではメタデータとして撮像画像毎の被写体距離の情報を記録する例を説明した。本変形例は、被写体距離情報だけでなく、被写体距離差、即ち、被写体の各部までの距離の差の情報をメタデータとして記録するものである。この場合には、データ換算部26aは、ステップS17において、被写体の所定部分までの距離と、この距離からピント位置をシフトさせて求めた他の所定部分までの距離との差である距離差を求める。
図12はこの場合において記録部30に記録される画像データ及びメタデータの一例を説明するものである。図12は1合成画像ファイル65の情報を示しており、画像ファイル65は画像データ65aとメタデータ65b,65dとを含む。
メタデータ65dは、深度合成画像の合成に用いた撮像画像毎の撮影情報を示しており、図12の例では、深度合成に3枚の撮像画像が用いられ、1枚目の撮像画像取得時の被写体距離が10cmで、2枚目の撮像画像は、1枚目の撮像画像取得時の被写体距離に対して+1.5cmの距離差を有する位置にピントを合わせて撮像され、3枚目の撮像画像は、1枚目の撮像画像取得時の被写体距離に対して+3cmの距離差を有する位置にピントを合わせて撮像されたものであることを示している。
このように本変形例では、深度合成に用いられた複数枚の撮像画像について、合焦状態となった被写体各部までの距離差を簡単に把握することができる。
なお、この変形例では、被写体距離の情報と、距離差の情報とを求めて記録する例を説明したが、被写体距離の情報を省略して、距離差の情報のみを記録するようになっていてもよい。
(変形例2)
図13は他の変形例を示す説明図である。本変形例は、被写体距離情報だけでなく、ピントを合わせた被写体の部位(以下、ピント部位という)の画像中の位置座標(以下、ピント部位座標という)、ピント部位間の距離の情報をメタデータとして記録するものである。例えば、データ換算部26aは、図9のステップS17において、これらの情報を求めるようになっていてもよい。深度合成制御部22は、所定のピント位置で撮像した場合における画像処理部21の画像処理結果に基づいて、当該ピント位置においてピントを合わせたピント部位のピント部位座標を求めてもよい。例えば、ピント部位座標は、画像中のx,y座標によって表してもよい。
図13は他の変形例を示す説明図である。本変形例は、被写体距離情報だけでなく、ピントを合わせた被写体の部位(以下、ピント部位という)の画像中の位置座標(以下、ピント部位座標という)、ピント部位間の距離の情報をメタデータとして記録するものである。例えば、データ換算部26aは、図9のステップS17において、これらの情報を求めるようになっていてもよい。深度合成制御部22は、所定のピント位置で撮像した場合における画像処理部21の画像処理結果に基づいて、当該ピント位置においてピントを合わせたピント部位のピント部位座標を求めてもよい。例えば、ピント部位座標は、画像中のx,y座標によって表してもよい。
なお、データ換算部26aは、ピント部位間の距離を、キャリブレーションに用いた補正情報を用いて算出してもよい。例えば、補正用既知対象物として硬貨を用いた場合には、データ換算部26aは、硬貨の画像水平方向の寸法によって補正情報を求め、この補正情報を利用して画像垂直方向の寸法を算出してもよい。これにより、画像中の各部の距離から被写体の各部位間の距離を算出してもよい。
図13はこの変形例において記録部30に記録される画像データ及びメタデータの一例を説明するものである。図13は1合成画像ファイル71の情報を示しており、画像ファイル71は画像データ71aとメタデータ72a,72bからなるメタデータ71bとを含む。メタデータ72aは、深度合成画像の生成時の共通の撮影情報を示しており、図13の例ではシャッタ速度(SS)が1/100秒であり、絞りがFナンバー(FNo.)16であることを示している。
メタデータ72bは、深度合成画像の合成に用いた撮像画像毎の撮影情報を示しており、図13の例では、深度合成のために撮像された1枚の撮像画像は、ピント部位P1にピントが合わされて撮像されたものであり、このピント部位P1までの被写体距離は10cmであることを示している。また、メタデータ72bは、ピント部位P1から3cm離れた部位にピントを合わせた状態で2枚目の撮像画像が撮像されることを示している。
なお、図13のメタデータ72b中には、ピント部位P1,P2に対応するがピント部位座標について示してないが、メタデータ部32には各ピント部位のピント部位座標についても記録することができる。例えば、図9のステップS27のメタデータの再生時に、制御部20は、ピント部位座標の情報を読出して、ピント部位座標及びピント部位間の距離の表示を、画像データに基づく撮像画像の表示上に重ねて表示させてもよい。
図13の例はこのような重畳表示を示しており、ピント部位P1,P2に対応する画像中のピント部位座標位置P1,P2の表示及びピント部位間の距離の表示73が表示されている。
このように本変形例では、深度合成に用いられた複数枚の撮像画像について、合焦状態となった被写体のピント部位の位置及びピント部位間の距離を簡単に把握することができる。
なお、この変形例では、被写体距離の情報と、ピント部位について座標や部位間の距離の情報等を求めて記録する例を説明したが、被写体距離の情報を省略して、ピント部位について座標や部位間の距離の情報等のみを記録するようになっていてもよい。
(第2の実施の形態)
図14は本発明の第2の実施の形態において採用される深度合成のピント位置シフト制御を示すフローチャートである。また、図15は深度合成による撮像画像のコントラストの変化を示す説明図である。なお、本実施の形態におけるハードウェア構成は第1の実施形態と同様である。
図14は本発明の第2の実施の形態において採用される深度合成のピント位置シフト制御を示すフローチャートである。また、図15は深度合成による撮像画像のコントラストの変化を示す説明図である。なお、本実施の形態におけるハードウェア構成は第1の実施形態と同様である。
図9のフローでは、ステップS13のピント位置のシフト量は、予め規定された所定量であり、合成に用いる撮像は、予め規定された所定回数又はピント位置を合焦対象被写体の全域に合わせるまで行われた。これに対し、本実施の形態は、合焦対象被写体の合焦状態を判定することで、ピント位置のシフト量及びシフト回数(撮像回数)を決定するものである。
図14のステップS51において、メタデータ作成部26は、光学系特性部14から光学特性の情報を取得する。深度合成制御部22は、現在のピント位置及び光学特性に基づいて現在のピント位置に対応する被写体距離を求める(ステップS52)。
また、対象物判定部23は、ステップS53において、現在のピント位置から連続する輪郭、模様、色彩等によって、撮像画像中の合焦対象被写体を検出する。深度合成制御部22は、ステップS54において、合焦対象被写体について、合焦状態を判定する。例えば、深度合成制御部22は、撮像画像の画像各部のコントラストによって、合焦対象被写体の合焦状態を判定してもよい。
いま、図4A〜図4Cの瓶55が合焦対象被写体として検出された場合について説明する。図15の縦軸は瓶55の縦方向の画像位置に対応し、横軸は各画像位置におけるコントラストを示しており、左側の曲線は図4Aに対応した撮像画像のコントラストを示し、中央の曲線はピント位置を図4Bに示す瓶55の中央に変更して得た撮像画像のコントラストを示し、右側の曲線は深度合成画像のコントラストを示している。
いま、ステップS52において、瓶55の先端位置が合焦状態となるようにピント位置が設定されたものとする。このピント位置の撮像画像によって、深度合成制御部22は、光学特性の情報や画像処理部21の画像処理等によって、図15左側のコントラストを取得する。記録部30には、合焦状態として許容可能なコントラストの限界値の情報が記録されており、深度合成制御部22は、合焦対象被写体の画像部分の全域がこの限界値よりも高いか否か、即ち、合焦対象被写体の全域が合焦状態として許容可能であるか否かを判定する(ステップS55)。
なお、この判定は、単一の撮像画像のみについて行うのではなく、それまでに撮像された全ての撮像画像の合焦状態を考慮して行われる。従って、合焦対象被写体の全域が合焦状態として許容可能であると判定された場合には、それまでに撮像された全ての撮像画像を合成して得た深度合成画像は、合焦対象被写体の全域において合焦状態が得られるものとなる。
深度合成制御部22は、合焦対象被写体の全域が合焦状態として許容可能である場合には、ピント位置シフト制御を終了して深度合成のための撮像を終了する。また、深度合成制御部22は、合焦対象被写体の全域が合焦状態として許容可能でない場合には、処理をステップS56に移行して、合焦対象被写体中のコントラストがこの限界値以下となる境界部分を検出する。
深度合成制御部22は、ステップS57において、検出した境界部分にピントが合うようにピント位置を設定し、当該ピント位置における被写体距離を求めて、処理をステップS54に戻す。ステップS56において検出された境界部分が瓶55の中央位置である場合には、ステップS57において図4Bのピント位置で2回目の撮像が行われる。
この場合において、図15の中央の曲線から、深度合成制御部22は合焦対象被写体の全域において合焦状態が許容可能であるものと判定すると、深度合成のための撮像を停止し、それまでの撮像画像を用いて深度合成画像を生成する。図15の右側の曲線はこの場合に得られる合成画像の合焦対象被写体部分のコントラストの変化を示しており、合焦対象被写体の全域において合焦状態が得られていることが分かる。
このように本実施の形態においては、ピント位置をシフトさせながら、合焦対象被写体について合焦状態を判定し、判定結果に基づいてピント位置のシフト量を求めると共に、判定結果に基づいて合成に用いる撮像の停止を決定しており、深度合成に必要な撮像を最小の必要回数だけ行うことを可能にする。これにより、深度合成に必要な撮影が無駄に行われることを防止して処理時間を短縮することができると共に、必要な撮影が行われずに希望する深度合成画像が得られないことを防止することができる。
なお、本実施の形態においても、上記変形例1,2を適用して、距離差の情報やピント部位について座標や、ピント部位間の距離の情報を記録するようになっていてもよい。
(第3の実施の形態)
図16は本発明の第3の実施の形態を示すフローチャートである。図16において図9のフローと同一の手順には同一符号を付して説明を省略する。図17は第3の実施の形態の深度合成モードにおける撮影の様子を示す説明図である。また、図18Aから図18Dは深度合成モードにおいて撮影された撮像画像及び合成画像を示す説明図である。また、図19はキャリブレーションを説明するための説明図である。本実施の形態のハードウェア構成は第1の実施の形態と同様である。
図16は本発明の第3の実施の形態を示すフローチャートである。図16において図9のフローと同一の手順には同一符号を付して説明を省略する。図17は第3の実施の形態の深度合成モードにおける撮影の様子を示す説明図である。また、図18Aから図18Dは深度合成モードにおいて撮影された撮像画像及び合成画像を示す説明図である。また、図19はキャリブレーションを説明するための説明図である。本実施の形態のハードウェア構成は第1の実施の形態と同様である。
本実施の形態は、撮影時に補正用既知対象物を同時に撮影することによって、キャリブレーションのための撮影を不要にするものである。
図17は物撮りにおける撮影の様子を示している。テーブル54上には物品(商品)である瓶55と補正用既知対象物である硬貨60が載置されている。ユーザ51は、瓶55及び硬貨60が視野範囲に入るように、右手52で撮像装置1の各回路を収納した筐体1aを把持して構える。撮影モード時には、この状態で筐体1aの背面に設けた表示部41の表示画面41a上に、スルー画が表示される。ユーザ51はこのスルー画を確認しながら、瓶55及び硬貨60の撮影を行う。
図16のフローは図9のフローのステップS6,S7を省略すると共にステップS61を追加した点が図9のフローと異なる。深度合成モードにおいては、図16のステップS11〜S15において、深度合成のために必要な複数回の撮像が行われる。
本実施の形態においては、深度合成のための複数回の撮像が終了すると、次のステップS61において、深度合成制御部22は、キャリブレーションに用いる補正量情報を算出するために、補正用既知対象物にピントを合わせた撮像を行うようになっている。
図18A〜図18Dはこれらの撮像によって得られる画像を示しており、例えば、1回目から3回目の撮影によって得られる各撮像画像がそれぞれ図18A〜図18Cに示す撮像画像57a〜57cであるものとする。なお、図18A〜図18Dは実線によってピントが合っている状態(合焦状態)を示し、破線によってピントが合っていない状態(非合焦状態)を示している。
1回目の撮影では、図18Aに示すように、瓶55の先端にピントが合った撮像画像57aが得られる。なお、撮像画像57aは瓶55の先端側55aのピントは合っているが、破線部に示すように、瓶55の中央よりも下側55bではピントは合っていない。2回目の撮影では、図18Bに示すように、瓶55の中央にピントが合った撮像画像57bが得られる。なお、撮像画像57bは瓶55の中央から下側55bのピントは合っているが、破線部に示すように、瓶55の中央よりも先端側55aではピントは合っていない。これらの撮像画像57a,57bを深度合成することによって、瓶55の全域に亘ってピントがあった画像を得ることができる。
本実施の形態では、距離を算出してキャリブレーションを行うために、3回目の撮影が行われる。3回目の撮影では、補正用既知対象物である硬貨60にピントを合わせた撮像を行う。この場合には、図18Cに示すように、硬貨60にのみピントが合い、瓶55にはピントが合っていない撮像画像57dが得られる。
データ換算部26aは、硬貨60までの距離と硬貨60の画像中におけるサイズとに基づいて、補正情報を算出する。データ換算部26aは、算出した補正情報を記録部30に記録する(ステップS61)。データ換算部26aは、ステップS17において、撮像画像毎に求めた被写体距離のキャリブレーションを行う。
図19は瓶55を撮影した深度合成の1回目と2回目の撮影時のピント位置がそれぞれLD1,LD2であり、硬貨60を撮影した3回目の撮影時のピント位置がLD3であることを示している。ピント位置は被写体距離の逆数に比例するので、ピント位置LD3における硬貨60の画像中のサイズと実際のサイズとに基づく補正情報を、ピント位置LD1,LD2において求めた被写体距離に適用することによって、1回目と2回目の撮像画像について正確な被写体距離を算出することができる。
なお、図16のフローでは、深度合成のための撮影の後、キャリブレーションのための補正用既知対象物の撮影を行う例を説明したが、この順番は特に限定されない。しかし、ピント位置を変更するためのレンズ駆動における精度を考慮すると、レンズを一方方向に移動させながらピント位置を変更させた方がピント位置を高精度に制御することができるので、合焦対象被写体の各部と補正用既知対象物との距離が近い方又は遠い方から順に撮影を行った方がよい。
他の作用は第1の実施の形態と同様である。
このように本実施の形態においては、第1の実施の形態と同様の効果が得られると共に、キャリブレーションのための撮影操作が不要であるという利点があり、全体の撮影時間を短縮することができる。
なお、本実施の形態においても、上記変形例1,2を適用して、距離差の情報やピント部位について座標や、ピント部位間の距離の情報を記録するようになっていてもよい。
さらに、本発明の各実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、レンズ型カメラでも、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話やスマートフォンなど携帯情報端末(PDA:Personal Digital Assist)等に内蔵されるカメラでも勿論構わない。また、内視鏡、顕微鏡のような産業用、医療用の光学機器でもよく、監視カメラや車載用カメラ、据え置き型のカメラ、例えば、テレビジョン受信機やパーソナルコンピュータ等に取り付けられているカメラであってもよい。
また、ピントの合わせ方は、従来のカメラのように、ピント調整レンズを動かすもののみならず、撮像素子を動かすものもあり、これらの位置関係を固定で、固定焦点でカメラ全体を動かして複数画像を得るものもある。また、複眼で、複数のピント位置を撮像可能にしておき、ピント(フォーカス)位置の異なる複数の画像を得るものもある。こうしたいずれも、どこの位置にピントの合った画像かを記録できるものは、本発明の範疇に入るものである。このように記録しておく方が、後で見て撮影時の状況や条件等を把握しやすく、他のユーザに分かりやすく伝えることが出来る。また、必ずしも合成画像である必要はなく、得られた画像が合成しなくても良い場合もある。
また、ピントの合わせ方は、従来のカメラのように、ピント調整レンズを動かすもののみならず、撮像素子を動かすものもあり、これらの位置関係を固定で、固定焦点でカメラ全体を動かして複数画像を得るものもある。また、複眼で、複数のピント位置を撮像可能にしておき、ピント(フォーカス)位置の異なる複数の画像を得るものもある。こうしたいずれも、どこの位置にピントの合った画像かを記録できるものは、本発明の範疇に入るものである。このように記録しておく方が、後で見て撮影時の状況や条件等を把握しやすく、他のユーザに分かりやすく伝えることが出来る。また、必ずしも合成画像である必要はなく、得られた画像が合成しなくても良い場合もある。
本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
なお、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。また、これらの動作フローを構成する各ステップは、発明の本質に影響しない部分については、適宜省略も可能であることは言うまでもない。
また、ここで説明した技術のうち、主にフローチャートで説明した制御や機能は、多くがプログラムにより設定可能であり、そのプログラムをコンピュータが読み取り実行することで上述した制御や機能を実現することができる。そのプログラムは、コンピュータプログラム製品として、フレキシブルディスク、CD−ROM等、不揮発性メモリ等の可搬媒体や、ハードディスク、揮発性メモリ等の記憶媒体に、その全体あるいは一部を記録又は記憶することができ、製品出荷時又は可搬媒体或いは通信回線を介して流通又は提供可能である。利用者は、通信ネットワークを介してそのプログラムをダウンロードしてコンピュータにインストールしたり、あるいは記録媒体からコンピュータにインストールすることで、容易に本実施の形態の画像処理装置を実現することができる。
1…撮像装置、1a…筐体、10…撮像部、11…撮像素子、12…撮影レンズ、13…レンズ駆動部、、13a…ピント変更部、14…光学系特性部、15…操作部、20…制御部、21…画像処理部、22…深度合成制御部、23…対象物判定部、24…レンズ制御部、26…メタデータ作成部、26a…データ換算部、28…表示制御部、30…記録部、31…画像データ部、32…メタデータ部、33…対象物特徴DB部、41…表示部。
Claims (17)
- ピント位置を変化させながら被写体を撮像して得られた複数の撮像画像が与えられ、上記複数の撮像画像を合成して合成画像を生成する合成制御部と、
上記合成画像の合成に用いられた各撮像画像についての撮影条件に基づくメタデータを上記撮像画像毎に作成するメタデータ作成部と、
上記合成制御部が生成した上記合成画像の画像ファイルに上記メタデータ作成部が作成した上記メタデータを付与して記録する記録制御部と
を具備したことを特徴とする画像処理装置。 - 上記メタデータ作成部は、上記各撮像画像の撮像時のピント位置を撮像画像毎に距離換算した情報を含む上記メタデータを作成する
ことを特徴とする請求項1に記載の画像処理装置。 - 上記メタデータ作成部は、上記各撮像画像の撮像時のピント位置の差を撮像画像間毎に距離換算し、上記距離換算した距離差の情報を含む上記メタデータを作成する
ことを特徴とする請求項1又は2に記載の画像処理装置。 - 上記メタデータ作成部は、上記各撮像画像の撮像時における上記光学系の情報と上記ピント位置とに基づいて、上記距離換算した情報を含む上記メタデータを作成する
ことを特徴とする請求項2又は3に記載の画像処理装置。 - 上記メタデータ作成部は、サイズが既知の補正用既知対象物を撮像して得た補正情報を用いて上記距離換算した上記メタデータをキャリブレーションする
ことを特徴とする請求項2又は3記載の画像処理装置。 - 上記メタデータ作成部は、上記各撮像画像の撮像時のピント位置の差を撮像画像間毎に距離換算し、当該距離換算した情報と上記補正情報とを用いて上記被写体のピントを合わせた部位間の距離の情報を含む上記メタデータを作成する
ことを特徴とする請求項5に記載の画像処理装置。 - 上記メタデータ作成部は、上記被写体のピントを合わせた部位の上記撮像画像上における座標の情報を含む上記メタデータを作成する
ことを特徴とする請求項1又は2に記載の画像処理装置。 - 上記メタデータを読出して、上記メタデータの内容を表示部に表示する表示制御部
を更に具備したことを特徴とする請求項1又は2に記載の画像処理装置。 - 合焦させる範囲の合焦対象被写体を判定する対象物判定部と、
上記対象物判定部の判定結果に基づいてピント位置可変の光学系によりピント位置を変化させながら被写体を撮像する撮像部に対して、上記ピント位置の制御を行うレンズ制御部と
を具備したことを特徴とする請求項1又は2に記載の画像処理装置。 - 上記レンズ制御部は、上記撮像画像の各部のコントラストに基づいて、上記ピント位置のシフト量を決定する
ことを特徴とする請求項9に記載の画像処理装置。 - ピント位置を変化させながら被写体を撮像して得られた複数の撮像画像が与えられ、上記複数の撮像画像を合成して合成画像を生成し、
上記合成画像の合成に用いられた各撮像画像についての撮影条件に基づくメタデータを上記撮像画像毎に作成し、
上記合成画像の画像ファイルに上記メタデータを付与して記録する
ことを特徴とする画像処理方法。 - 上記各撮像画像の撮像時のピント位置を撮像画像毎に距離換算した情報を含む上記メタデータを作成する
ことを特徴とする請求項11に記載の画像処理方法。 - サイズが既知の補正用既知対象物を撮像して得た補正情報を用いて上記距離換算した上記メタデータをキャリブレーションする
ことを特徴とする請求項12に記載の画像処理方法。 - 合焦の対象となる合焦対象被写体と上記補正用既知対象物とを含む上記複数の撮像画像が与えられ、各撮像画像中の上記合焦対象被写体と上記補正用既知対象物とを判定し、
当該判定結果に基づいてピント位置可変の光学系によりピント位置を変化させながら被写体を撮像する撮像部に対して、上記合焦対象被写体及び上記補正用既知対象物にピントを合わせるピント位置のシフト制御を行う
ことを特徴とする請求項13に記載の画像処理方法。 - コンピュータに、
ピント位置を変化させながら被写体を撮像して得られた複数の撮像画像が与えられ、上記複数の撮像画像を合成して合成画像を生成する手順と、
上記合成画像の合成に用いられた各撮像画像についての撮影条件について、サイズが既知の補正用既知対象物を撮像して得た補正情報を用いて上記ピント位置を距離換算してメタデータとして作成する手順と、
上記合成画像の画像ファイルに上記メタデータを付与して記録する手順と
を実行させるための画像処理プログラム。 - 上記メタデータを作成する手順は、上記各撮像画像の撮像時のピント位置を撮像画像毎に距離換算した情報を含む上記メタデータを作成する
ことを特徴とする請求項15に記載の画像処理プログラム。 - 上記請求項1から10のいずれか1つに記載の画像処理装置と、
ピント位置可変の光学系によりピント位置を変化させながら被写体を撮像する撮像部と
を具備したことを特徴とする撮像装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017151423A JP2019033308A (ja) | 2017-08-04 | 2017-08-04 | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 |
PCT/JP2018/028709 WO2019026923A1 (ja) | 2017-08-03 | 2018-07-31 | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017151423A JP2019033308A (ja) | 2017-08-04 | 2017-08-04 | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019033308A true JP2019033308A (ja) | 2019-02-28 |
Family
ID=65523690
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017151423A Pending JP2019033308A (ja) | 2017-08-03 | 2017-08-04 | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019033308A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110465710A (zh) * | 2019-08-28 | 2019-11-19 | 东莞台一盈拓科技股份有限公司 | 一种航空叶片打孔机加装气膜孔孔位孔径在线检测的方法 |
JP2020150527A (ja) * | 2019-03-15 | 2020-09-17 | キヤノン株式会社 | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 |
JP2020150517A (ja) * | 2019-03-15 | 2020-09-17 | キヤノン株式会社 | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 |
WO2020189510A1 (ja) * | 2019-03-15 | 2020-09-24 | キヤノン株式会社 | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 |
CN111953909A (zh) * | 2019-05-16 | 2020-11-17 | 佳能株式会社 | 图像处理设备、图像处理方法和存储介质 |
WO2021161959A1 (ja) * | 2020-02-14 | 2021-08-19 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、情報処理プログラム、撮像装置、撮像装置の制御方法、制御プログラムおよび撮像システム |
-
2017
- 2017-08-04 JP JP2017151423A patent/JP2019033308A/ja active Pending
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020150527A (ja) * | 2019-03-15 | 2020-09-17 | キヤノン株式会社 | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 |
JP2020150517A (ja) * | 2019-03-15 | 2020-09-17 | キヤノン株式会社 | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 |
WO2020189510A1 (ja) * | 2019-03-15 | 2020-09-24 | キヤノン株式会社 | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 |
CN113615156A (zh) * | 2019-03-15 | 2021-11-05 | 佳能株式会社 | 图像处理设备、图像处理方法、计算机程序和存储介质 |
JP7395258B2 (ja) | 2019-03-15 | 2023-12-11 | キヤノン株式会社 | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 |
JP7395259B2 (ja) | 2019-03-15 | 2023-12-11 | キヤノン株式会社 | 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体 |
CN111953909A (zh) * | 2019-05-16 | 2020-11-17 | 佳能株式会社 | 图像处理设备、图像处理方法和存储介质 |
US11367229B2 (en) | 2019-05-16 | 2022-06-21 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium |
CN110465710A (zh) * | 2019-08-28 | 2019-11-19 | 东莞台一盈拓科技股份有限公司 | 一种航空叶片打孔机加装气膜孔孔位孔径在线检测的方法 |
WO2021161959A1 (ja) * | 2020-02-14 | 2021-08-19 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、情報処理プログラム、撮像装置、撮像装置の制御方法、制御プログラムおよび撮像システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6112925B2 (ja) | 表示機器及び表示方法 | |
JP2019033308A (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 | |
JP5595499B2 (ja) | 単眼立体撮像装置 | |
JP5231277B2 (ja) | 撮像装置、撮像方法 | |
JP7086571B2 (ja) | 撮像装置、レンズ装置およびこれらの制御方法 | |
JP5513024B2 (ja) | 撮像装置、ズーム補正情報作成方法およびプログラム | |
JP6429440B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
US10587809B2 (en) | Continuous shooting device, continuous shooting method and continuous shooting control method using preliminary and calculated parameter values | |
JP2017103697A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2016213582A (ja) | 観察装置 | |
JP6261205B2 (ja) | 画像処理装置 | |
KR20120002834A (ko) | 참조 영상을 제공하는 촬상장치 및 그의 참조 영상 제공방법 | |
JP6608194B2 (ja) | 画像処理装置およびその制御方法ならびにプログラム | |
WO2019026923A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 | |
JP6460310B2 (ja) | 撮像装置、画像表示方法及びプログラム | |
JP2013192270A (ja) | 撮像装置、撮像装置の制御方法及びプログラム | |
JP7110078B2 (ja) | 撮像装置、撮像方法 | |
JP2019036885A (ja) | 画像処理装置および画像処理方法 | |
JP2017219697A (ja) | 撮像装置及び撮像装置の制御方法 | |
JP2021118466A (ja) | 撮像装置およびその制御方法 | |
JP6504693B2 (ja) | 撮像装置、操作支援方法及び操作支援プログラム | |
JP2016032180A (ja) | 撮像装置、制御方法およびプログラム | |
JP2019047436A (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 | |
JP5344770B2 (ja) | 撮影装置 | |
JP2011247979A (ja) | 撮影装置及び撮影距離取得方法 |