JP2010128018A - 撮像装置、撮像方法及びプログラム - Google Patents

撮像装置、撮像方法及びプログラム Download PDF

Info

Publication number
JP2010128018A
JP2010128018A JP2008300177A JP2008300177A JP2010128018A JP 2010128018 A JP2010128018 A JP 2010128018A JP 2008300177 A JP2008300177 A JP 2008300177A JP 2008300177 A JP2008300177 A JP 2008300177A JP 2010128018 A JP2010128018 A JP 2010128018A
Authority
JP
Japan
Prior art keywords
imaging
subject
image data
focus
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008300177A
Other languages
English (en)
Other versions
JP5163446B2 (ja
Inventor
Hideo Nagasaka
英夫 長坂
Sunao Aoki
青木  直
Masahiro Yamada
正裕 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008300177A priority Critical patent/JP5163446B2/ja
Priority to US12/589,686 priority patent/US8416338B2/en
Priority to CN2009102265699A priority patent/CN101742107B/zh
Publication of JP2010128018A publication Critical patent/JP2010128018A/ja
Application granted granted Critical
Publication of JP5163446B2 publication Critical patent/JP5163446B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)
  • Exposure Control For Cameras (AREA)

Abstract

【課題】シャッターチャンスを逃すことなく、マルチフォーカス撮像を行う。
【解決手段】撮像装置は、検出指示に応じて、撮像範囲内の所定の被写体に合焦する合焦点位置を検出し、レリーズ指示に応じて、前記合焦点位置において被写体像を撮像して得た画像データを保存用画像データとして取得するとともに、前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを保存用画像データとして取得する。
【選択図】図15

Description

本発明は、撮像装置、撮像方法及びプログラムに関する。
デジタルスチルカメラは、撮像素子に入射された被写体像(光学像)を電気信号に変換することによって、デジタル画像データを生成し、撮影者のレリーズ操作に応じて、該デジタル画像データをメモリカード等の記録媒体に記録する。一般的に、デジタルスチルカメラは、焦点合わせを容易にするために、オートフォーカス(自動焦点)機構が搭載されるとともに、F値が大きく被写界深度が深い光学系が採用されている。これにより、撮影者は、デジタルスチルカメラを被写体に向けてレリーズボタンを操作するだけで、オートフォーカス機構により該被写体に合焦した被写体像を撮像して、その被写体像のデジタル画像データを記録することができる。
また、特許文献1には、撮影後に焦点が合った範囲(合焦点)を任意に変更可能なデジタル画像データを生成可能なデジタルスチルカメラを提供するために、1回のレリーズ操作に応じて、マルチフォーカス撮像を行うデジタルスチルカメラが開示されている。この特許文献1のマルチフォーカス撮像では、1回のレリーズ操作に応じて、最短距離側の焦点位置から無限遠側の焦点位置まで、焦点位置を自動的に変更しながら、段階的に撮像することで、合焦点位置が相異なる複数枚の画像データを得ている。
特開2003−143461号公報
しかしながら、従来のオートフォーカス機構を搭載したカメラでは、撮影後にユーザが異なる被写体(焦点位置)に焦点を合わせなおした画像を望んでも、撮影時に、マルチフォーカス画像が記録されていないので、希望に沿った画像を提供し得なかった。また、複数枚の画像を合成することにより、焦点を合わせなおした画像を生成する方法もあるが、合成処理で生成した画像では、違和感のない画像を得ることが非常に困難であった。
一方、特許文献1記載のカメラでは、マルチフォーカス撮像により、1つの被写体像について合焦点位置が異なる複数枚の画像データを得ることができるので、これらの問題を解決できる。
ところが、マルチフォーカス撮像は、焦点位置を変えながら複数枚の画像を撮像して記録するため、瞬時に行うことは現実的には不可能である。例えば、焦点位置を変更するために撮像光学系を駆動するのに要する時間や、撮像素子における画像信号の読み出しに要する時間などを考慮すると、マルチフォーカス撮像では、通常撮像と比べて、どうしても時間(例えば数秒程度)がかかってしまう。従って、マルチフォーカス撮像の後半に得られる画像は、レリーズ操作から所定時間経過した後に撮像されたものであるので、この間に被写体が動く場合もあり、シャッターチャンスを逃してしまうという問題があった。
つまり、特許文献1記載のマルチフォーカス撮像では、レリーズ操作前にオートフォーカス機構によって合焦された被写体の焦点位置などとは無関係に、レリーズ操作に応じて、単に最短距離側から無限遠側まで焦点位置を変更させて複数枚の画像を撮像している。このため、レリーズ操作直後には最短距離側に焦点が合った画像が得られ、レリーズ操作から所定時間(例えば数秒程度)経過した後に、無限遠側に焦点が合った画像が得られることとなる。そうすると、無限遠側に撮影者の望む被写体が存在し、該被写体に焦点を合わせてレリーズ操作を行った場合でも、無限遠側に焦点が合った画像は、レリーズ操作から所定時間遅れたタイミングで撮像された、シャッターチャンスを逃した画像となってしまう可能性があった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、シャッターチャンスを逃すことなく、マルチフォーカス撮像を行うことが可能な、新規かつ改良された撮像装置、撮像方法及びプログラムを提供することにある。
上記課題を解決するために、本発明のある観点によれば、受光した被写体像を撮像して画像信号を出力する撮像素子と、前記撮像素子に前記被写体像を結像させるための撮像光学系とを有する撮像部と、焦点位置を変更するために前記撮像光学系又は前記撮像素子の少なくとも一方を駆動させる駆動部と、前記撮像素子から出力された前記画像信号を処理することにより前記被写体像の画像データを生成する画像データ生成部と、前記撮像部、前記駆動部及び前記画像データ生成部を制御する制御部と、を備え、前記制御部は、検出指示に応じて、撮像範囲内の所定の被写体に合焦する合焦点位置を検出し、レリーズ指示に応じて、前記合焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するとともに、前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得する、撮像装置が提供される。
前記制御部は、前記検出指示に応じて、前記撮像範囲内の所定の被写体に焦点を合わせるためのオートフォーカス処理を行うことで、前記合焦点位置を検出するようにしてもよい。
前記制御部は、前記検出指示から前記レリーズ指示までの間に、前記オートフォーカス処理により検出された前記合焦点位置を中心とする所定の範囲内で、焦点位置を変更しながら、当該変更された複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するブラケット撮像処理を行うようにしてもよい。
前記制御部は、前記ブラケット撮像処理により取得された前記保存用画像データのうち、前記レリーズ指示の直前の少なくとも1周期分の保存用画像データをストレージ部に保存するようにしてもよい。
前記制御部は、前記レリーズ指示に応じて、前記撮像光学系における最短距離側の焦点位置から無限遠側の焦点位置までの合焦可能範囲内で、前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得する全域フォーカス撮像処理を行うようにしてもよい。
前記全域フォーカス撮像処理では、前記制御部は、前記レリーズ指示に応じて、前記合焦可能範囲内で焦点位置が前記合焦点位置から近距離側又は遠距離側に徐々に離れていくように焦点位置を変更するようにしてもよい。
前記制御部は、前記撮像光学系の被写界深度に応じて、焦点位置の変更位置を前記合焦可能範囲内に段階的に複数設定し、前記全域フォーカス撮像処理では、前記制御部は、前記レリーズ指示に応じて、前記複数の変更位置のうち前記合焦点位置に近い変更位置から順に焦点位置を段階的に変更するようにしてもよい。
前記制御部は、前記レリーズ指示に応じて、前記合焦点位置を基点として前記複数の変更位置を設定し、当該設定した複数の変更位置に焦点位置を段階的に変更するようにしてもよい。
前記制御部は、前記検出指示に応じて、焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを解析することにより、前記撮像範囲内に存在する1又は2以上の被写体と、当該被写体に合焦する前記合焦点位置の範囲を検出する被写体検出処理を行うようにしてもよい。
前記制御部は、前記検出指示に応じて前記被写体検出処理を実行してから前記レリーズ指示までの間に、前記被写体検出処理により検出された前記合焦点位置の範囲内で、焦点位置を変更しながら、当該変更された複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するブラケット撮像処理を行うようにしてもよい。
前記制御部は、前記ブラケット撮像処理により取得された前記保存用画像データのうち、前記レリーズ指示の直前の少なくとも1周期分の保存用画像データをストレージ部に保存するようにしてもよい。
前記ブラケット撮像処理では、前記制御部は、前記被写体検出処理により検出された複数の被写体の中から選択された1の被写体に合焦する前記合焦点位置の範囲内で、焦点位置を変更するようにしてもよい。
前記制御部は、前記レリーズ指示に応じて、前記撮像光学系における最短距離側の焦点位置から無限遠側の焦点位置までの合焦可能範囲のうち、前記被写体検出処理により検出された前記合焦点位置の範囲内で、焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得する被写体撮像処理を行うようにしてもよい。
前記制御部は、前記レリーズ指示に応じて、前記被写体撮像処理を行った後に、前記合焦可能範囲内で焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得する全域フォーカス撮像処理を行うようにしてもよい。
前記被写体撮像処理では、前記制御部は、前記被写体検出処理により検出された前記被写体の中から選択された1又は2以上の被写体に合焦する前記合焦点位置の範囲内で、焦点位置を変更するようにしてもよい。
前記被写体撮像処理では、前記制御部は、前記被写体検出処理により検出された前記合焦点位置の範囲に応じて、前記撮像光学系の絞りを制御するようにしてもよい。
前記制御部は、前記被写体検出処理により検出された前記被写体に対応する焦点位置における被写界深度が、当該被写体に合焦する前記合焦点位置の範囲以上となるように、前記撮像光学系の絞りを制御するようにしてもよい。
前記撮像光学系は、断面形状を凸状又は凹状に変形可能に構成された変形ミラーを備え、前記駆動部は、前記制御部の指示に基づいて前記変形ミラーを変形駆動させることにより、前記焦点位置を変更するようにしてもよい。
また、上記課題を解決するために、本発明の別の観点によれば、受光した被写体像を撮像して画像信号を出力する撮像素子と、前記撮像素子に前記被写体像を結像させるための撮像光学系とを有する撮像部と、焦点位置を変更するために前記撮像光学系又は前記撮像素子の少なくとも一方を駆動させる駆動部と、前記撮像素子から出力された前記画像信号を処理することにより前記被写体像の画像データを生成する画像データ生成部と、前記撮像部、前記駆動部及び前記画像データ生成部を制御する制御部と、を備えた撮像装置における撮像方法であって、検出指示に応じて、撮像範囲内の所定の被写体に合焦する合焦点位置を検出するステップと、レリーズ指示に応じて、前記合焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するステップと、前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するステップと、を含む、撮像方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、受光した被写体像を撮像して画像信号を出力する撮像素子と、前記撮像素子に前記被写体像を結像させるための撮像光学系とを有する撮像部と、焦点位置を変更するために前記撮像光学系又は前記撮像素子の少なくとも一方を駆動させる駆動部と、前記撮像素子から出力された前記画像信号を処理することにより前記被写体像の画像データを生成する画像データ生成部と、前記撮像部、前記駆動部及び前記画像データ生成部を制御する制御部と、を備えた撮像装置のコンピュータに、検出指示に応じて、撮像範囲内の所定の被写体に合焦する合焦点位置を検出するステップと、レリーズ指示に応じて、前記合焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するステップと、前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するステップと、を実行させるためのプログラムが提供される。
上記構成により、検出指示に応じて、撮像範囲内の所定の被写体に合焦する合焦点位置が検出され、レリーズ指示に応じて、前記合焦点位置において前記被写体像を撮像して得た前記画像データが保存用画像データとして取得されるとともに、前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データが保存用画像データとして取得される。これにより、レリーズ指示前に検出指示に応じて検出した合焦点位置を検出し、レリーズ指示後に当該合焦点位置を基準として焦点位置を変更しながら、変更された焦点位置で被写体像を撮像して画像データが順次得られる。従って、レリーズ指示で表されるシャッターチャンスに近いときに、予め検出された合焦点位置及びその近傍に合焦した画像データが得られる。
以上説明したように本発明によれば、シャッターチャンスを逃すことなく、マルチフォーカス撮像を行うことができる。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1の実施形態(レリーズ後の全域フォーカス撮像)
2.第2の実施形態(レリーズ前のブラケット撮像とレリーズ後の全域フォーカス撮像の組合せ)
3.第3の実施形態(レリーズ前の被写体検出とレリーズ後の全域フォーカス撮像の組合せ)
4.第4の実施形態(レリーズ前の被写体検出とレリーズ後の被写体撮像の組合せ)
5.第5の実施形態(レリーズ前の被写体検出とレリーズ後の被写体撮像及び全域フォーカス撮像の組合せ)
6.第6の実施形態(レリーズ後の被写体撮像において絞りを制御)
<用語の定義>
まず、本発明の各実施形態の説明に先立ち、本明細書で用いる各種の用語を定義する。
「撮像装置」は、被写体像を撮像して画像データを取得するための装置である。撮像装置は、主として静止画像(写真)データを取得するためのデジタルスチルカメラと、主として動画像データを取得するためのデジタルビデオカメラを含む。デジタルスチルカメラは、動画像データを取得する機能を兼備してもよいし、デジタルビデオカメラは、静止画像データを取得する機能を兼備してもよい。以下の実施形態では、本発明の撮像装置の例として、主としてデジタルスチルカメラの例を挙げて説明するが、本発明の撮像装置は、デジタルビデオカメラなど、任意のカメラであってもよい。
「撮像」とは、撮像装置において、撮像素子により受光した被写体像を画像信号に変換することを意味する。
「撮像範囲」は、撮像装置により撮像可能な撮像空間の範囲であり、画角に対応する。
「被写体像」は、撮像装置の撮像光学系を介して撮像素子に入射される光学像であって、撮像装置の撮像範囲内に存在する被写体を表す光学像である。
「画像データ」は、撮像素子により被写体像を撮像して得た画像信号を、信号処理にすることにより得られるデジタルデータである。
「焦点位置」は、撮像装置の撮像光学系の焦点の位置(Forcus Point)である。詳細には、「焦点位置」は、撮像空間において該撮像光学系の焦点が存在する、撮像光学系の光軸上の位置である。撮像装置の撮像光学系又は撮像装置を駆動することにより、焦点位置を変更できる。撮像装置の撮像光学系のレンズ中心から焦点位置までの距離を、「焦点距離」と称する。
「合焦」は、撮像装置の撮像光学系の焦点が撮像範囲内の所定の被写体に合うことをいう。
「合焦点位置」は、撮像装置の撮像光学系の焦点が撮像範囲内の所定の被写体に合ったときの焦点位置である。
「合焦範囲」は、焦点位置がある合焦点位置にあるときに、撮像光学系の被写界深度により焦点が合う、合焦点位置の前後の焦点位置の範囲である。ここで、「合焦点位置の前後」とは、撮像光学系の光軸(Z軸)上における、合焦点位置の近距離側(手前側)及び遠距離側(奥側)である。この合焦範囲の説明から分かるように、ある被写体に合焦するときの焦点位置には幅がある。このため、本発明における「所定の被写体に合焦する合焦点位置の検出」とは、当該被写体に合焦する合焦範囲内の任意の焦点位置を検出することを意味する。
「合焦可能範囲」は、最短距離側の焦点位置(マクロ)から無限遠側の焦点位置まで、撮像装置の撮像光学系が物理的に合焦可能な焦点位置の範囲である。
「X軸方向」は、撮像空間の水平方向、「Y軸方向」は撮像空間の垂直方向、「Z軸方向」は、撮像空間の奥行き方向(撮像光学系の光軸方向)である。X軸方向及びY軸方向は、撮像装置で得られた画像の撮像平面を定め、Z軸方向は、撮像光学系の焦点を変更する方向となる。
「検出指示」は、合焦点位置を検出するための契機となる指示である。検出指示は、例えば、ユーザによるレリーズボタン(シャッターボタン)の半押し操作が代表的である。しかし、その他にも、例えば、撮像装置の電源をオンにする操作、撮像装置の動作モードを撮像モードに切り替える操作、その他のユーザ操作、撮像により得た画像データに対する顔検出処理による顔検出、などを契機として、検出指示とすることもできる。
「レリーズ指示」は、被写体像を撮像して得た画像データを保存用画像データとして取得するための契機となる指示である。一般的なデジタルスチルカメラでは、「レリーズ」は、被写体像を撮像して得た画像データを記録媒体に記録することを意味し、レリーズボタンの全押し操作が代表的である。しかし、本明細書における「レリーズ指示」は、当該レリーズボタンの全押し操作に限られず、例えば、撮像装置に対するその他のユーザ操作、撮像により得た画像データに対するスマイル検出処理による被写体人物の笑顔の検出、などを契機として、レリーズ指示とすることもできる。
「保存用画像データ」は、撮像素子により撮像された被写体像の画像信号を信号処理して得られる画像データのうち、撮像装置又は外部機器で記録媒体に保存される画像データである。例えば、デジタルスチルカメラでは、撮像モード中は、撮像素子により常時被写体像を撮像して画像データを生成し、撮像装置のモニタに該画像データをライブビュー画像として表示している。このように経時的に得られる全ての画像データが記録媒体に保存される訳ではなく、上述のレリーズ指示などが生じたタイミングの画像データが記録媒体に保存される。一方、デジタルビデオカメラでは、経時的に得られる全ての画像データが保存用画像データとして記録媒体に保存される。
「オートフォーカス処理」は、撮像装置が撮像範囲内の任意の被写体に合焦する焦点位置を自動的に検出する処理である。オートフォーカス(以下「AF」という。)処理は、所定の被写体に合焦する焦点位置を検出する検出処理と、当該被写体に焦点を追従させるよう焦点位置を変更する追従処理とを含んでも良い。AF対象の被写体は、例えば、撮像範囲内に設けられた所定のAF領域(例えば画像中央エリア)若しくは基準点に存在する被写体であってもよいし、ユーザがタッチパネル等のAF位置指定手段を用いて撮像範囲内でAF対象の被写体を自由に選択できるようにしてもよい。
「被写体検出処理」は、焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを分析することにより、撮像範囲内に存在する1又は2以上の被写体を検出する処理である。この被写体検出処理により、撮像範囲内に存在する被写体と、当該被写体に合焦する合焦点位置の範囲を検出できる。
「ブラケット撮像処理」は、検出された合焦点位置を含む所定の範囲内で焦点位置を周期的に変更しながら、当該変更された複数の焦点位置において被写体像を撮像して得た画像データを保存用画像データとして取得する処理である。ブラケット撮像は、フォーカスブラケット撮像とも称される。かかるブラケット撮像処理では、例えば、上記AF処理で検出された合焦点位置を中心とする所定の範囲内で、焦点位置を変更してもよいし、或いは、上記被写体検出処理で検出された被写体に合焦する合焦点位置の範囲内で、焦点位置を変更してもよい。このブラケット処理により、合焦点位置の近傍に焦点位置を変更して撮像できるので、合焦点位置の位置ずれを補償できる。
「マルチフォーカス撮像処理」は、所定の範囲内で焦点位置を段階的又は連続的に変更させながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを保存用画像データとして取得する処理である。このマルチフォーカス処理の一例として、上記合焦可能範囲の全域を焦点位置の変更範囲とする「全域フォーカス撮像処理」や、被写体検出処理により検出された被写体に合焦する合焦点位置の範囲を焦点位置の変更範囲とする「被写体撮像処理」などがある。
「全域フォーカス撮像処理」は、上記合焦可能範囲内で焦点位置を段階的又は連続的に変更させながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを保存用画像データとして取得する処理である。全域フォーカス撮像処理は、マルチフォーカス処理の一例である。
「被写体撮像処理」は、上記被写体検出処理で検出された1又は2以上の被写体のうちの少なくとも1つの被写体に合焦する合焦点位置の範囲内で、焦点位置を段階的又は連続的に変更させながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを保存用画像データとして取得する処理である。被写体撮像処理は、マルチフォーカス処理の一例である。
<第1の実施形態>
次に、本発明の第1の実施形態に係る撮像装置及び撮像方法について説明する。第1の実施形態に係る撮像装置は、検出指示に応じて、AF処理を行って所定の被写体に対する合焦点位置を検出し、その後のレリーズ指示に応じて、検出された合焦点位置を基準として焦点位置を変更させながら全域フォーカス撮像を行うことを特徴としている。
即ち、本実施形態に係る撮像装置は、検出指示に応じて、撮像範囲内の所定の被写体に焦点を合わせるためのAF処理を行うことで、所定の被写体に焦点を合わせた合焦点位置を検出する。その後、該撮像装置は、レリーズ指示に応じて、上記検出された合焦点位置において被写体像を撮像して得た画像データを保存用画像データとして記録媒体に記録する。さらに、該撮像装置は、上記検出された合焦点位置を基準として、合焦可能範囲内において焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを保存用画像データとして記録する全域フォーカス撮像を行う。
かかる全域フォーカス撮像により、合焦可能範囲内で異なる位置に焦点が合った複数枚の保存用画像データを得ることができる。撮影後に、撮影後に合焦点位置を任意に変更可能なデジタル画像データを得ることができるので、撮影後にユーザが異なる被写体(焦点位置)に焦点を合わせなおした画像を容易に取得できる。以下に、本実施形態に係る撮像装置について詳述する。
[撮像装置の構成]
まず、図1を参照して、本実施形態に係る撮像装置1の構成について説明する。図1は、本実施形態に係る撮像装置1の構成を示すブロック図である。
図1に示すように、撮像装置1は、例えば、静止画像及び動画像の撮像記録が可能なデジタルスチルカメラとして構成されている。撮像装置1は、撮像光学系(L1、L2、2、3)と、撮像素子4と、前処理部5と、信号処理部6と、AF素子7と、ミラー駆動回路8と、絞り制御部9と、撮像制御部10と、CPU(Central Processing Unit)11と、メモリ部12と、操作入力部13と、バス14と、表示部15と、圧縮/伸張処理部16と、ストレージ部17を備える。
このうち、撮像光学系及び撮像素子4は、本発明の撮像部の具現例であり、撮像光学系により撮像素子4に被写体像を結像させ、撮像素子4により、受光した被写体像を撮像して画像信号を出力する。また、前処理部5及び信号処理部6は、本発明の画像データ生成部の具現例であり、撮像素子4から出力された画像信号を処理することにより被写体像の画像データを生成する。また、ミラー駆動回路8は、本発明の駆動部の具現例であり、変形ミラー装置2を駆動させて、焦点位置を変更する。また、CPU11及びメモリ部12は、本発明の制御部の具現例であり、撮像装置1の各部を制御する。以下に、撮像装置1の各部について説明する。
撮像光学系は、レンズL1、変形ミラー装置2、レンズL2、絞り3を備える。レンズL1、レンズL2は、撮像素子4に被写体像(光学像)を結像させるための撮像光学系におけるレンズ群を模式的に示している。レンズL1は、変形ミラー装置2に被写体像を導くためのレンズ群、レンズL2は上記レンズL1を介して変形ミラー装置2のミラー面にて反射された被写体像を撮像素子4に導くためのレンズ群を模式的に示している。なお、実際の撮像光学系は、被写体像を撮像素子4に結像させるものであれば、例えば、より多数のレンズ、不要な波長を除去する光学フィルタ、その他の光学素子などを備えてもよい。
変形ミラー装置2は、断面形状を凸状又は凹状に変形可能な変形ミラーを備えた装置である。変形ミラー装置2は、その表面側に可撓性を有する部材(後述する可撓性部材)が形成されていると共に、該可撓性部材に例えばアルミニウム等の金属膜が成膜されてミラー面が形成されている。図中のミラー駆動回路8からの駆動信号に応じて可撓性部材の形状が変形されることで、ミラー面の形状が凸状又は凹状に変形し、これによって焦点位置を変更させることができる。なお、変形ミラー装置2の構成、及びその動作については後述する。
絞り3は、上記変形ミラー装置2とレンズL2との間に挿入され、後述する絞り制御部9の制御に基づき入射光の通過範囲を変化させることで撮像素子4に結像される被写体像の露光量を調整する。
撮像素子4は、例えば、CCD(Charge Coupled Device)CMOS(Complementary Metal Oxide Semiconductor)などの固体撮像素子で構成される。撮像素子4は、入射された被写体像を撮像して、撮像画像信号を生成する。つまり、撮像素子4は、上記撮像光学系を介して導かれた光(被写体像)を光電変換し、R(赤)、G(緑)、B(青)による画像信号としての電気信号を出力する。この撮像素子4の画像信号の読み出し制御は、後述するCPU11の指示に基づき撮像制御部10が行う。
前処理部5は、露光画像信号を前処理する所謂アナログフロントエンドであり、サンプルホールド/AGC(Automatic Gain Control)回路や、ビデオA/Dコンバータを備える。例えば、前処理部5は、撮像素子4から出力される画像信号としてのアナログ電気信号に対して、CDS(correlated double sampling:相関2重サンプリング)処理、プログラマブルゲインアンプ(PGA)によるゲイン処理、A/D変換処理などを行う。また、前処理部5は、画像信号に上記各種の処理を施して得られた撮像画像データに対して、感度バラツキ補正処理やホワイトバランス処理などを行う。
信号処理部6は、上記前処理部5を介して得られる撮像画像データ(R、G、B)に
対し、各種の画像信号処理を施して、最終的な画像データを得る。
ここで、図2を参照して、信号処理部6の内部構成例を説明する。図2に示すように、信号処理部6は、例えば、画素補間処理部20、階調補正処理部21R、21G、21B、シェーディング補正処理部22R、22G、22B、RGB/YUV変換処理部23、撮像フレーム補間処理部24、Yシェーディング補正処理部25、周波数特性補正処理部26、及び合焦評価値計算部27を備える。
図2の画素補間処理部20は、上記前処理部5を介して得られるR、G、Bによる各撮像画像データ(それぞれR画像データ、G画像データ、B画像データとする)に対し画素補間処理を施す。この画素補間処理部20による画素補間処理が施されたR画像データは階調補正処理部21Rへ、G画像データは階調補正処理部21Gへ、B画像データは階調補正処理部21Bへそれぞれ供給される。
階調補正処理部21R、21G、21Bは、供給された画像データに対し階調補正処理(例えば12bitから8bitへの圧縮処理など)を施す。階調補正処理部21Rによって処理されたR画像データはシェーディング補正処理部22Rへ、G画像データはシェーディング補正処理部22Gへ、B画像データはシェーディング補正処理部22Bへ供給される。
シェーディング補正処理部22R、22G、22Bは、供給された画像データに対し、例えば画像周辺光量の低下などとして現れる、撮像光学系や撮像素子4の特性に起因した輝度ムラ(シェーディング)を補正する処理を施す。
RGB/YUV変換処理部23は、上記シェーディング補正処理部22R、22G、22Bでそれぞれ処理されたR画像データ、G画像データ、B画像データに基づき、Y信号(輝度信号)としての画像データ(Y画像データ)、U信号(B−Y)としての画像データ(U画像データ)、V信号(R−Y)としての画像データ(V画像データ)を生成する。この場合、Y、U、Vのサンプリング比は例えばY:U:V=4:2:2など、Yに対しU、Vの方が小さくなるように設定される。
撮像フレーム補間処理部24は、上記RGB/YUV変換処理部23で得られたY画像データ、U画像データ、V画像データに対しフレーム補間処理を施す。この撮像フレーム補間処理部24で処理されたU画像データ、V画像データは、それぞれ図1に示されるバス14に出力される。また、撮像フレーム補間処理部24で処理されたY画像データはYシェーディング補正処理部25へ供給される。
Yシェーディング補正処理部25は、上記撮像フレーム補間処理部24で処理されたY画像データに対しシェーディング補正処理を施す。周波数特性補正処理部26は、上記Yシェーディング補正処理部25で処理されたY画像データに対し、例えば高域補正(輪郭補正)処理としての周波数特性補正処理を施す。この周波数特性補正処理部26で処理されたY画像データは、合焦評価値計算部27に供給される。
合焦評価値計算部27は、上記周波数特性補正処理部26で処理されたY画像データから、合焦点位置の探索を行うにあたっての評価指標となる合焦評価値Evを計算する。具体的には、合焦評価値計算部27は、例えば、上記Y画像データの高周波成分の大きさを合焦評価値Evとして計算する。この合焦評価値計算部27にて計算された合焦評価値Evは、図1に示すようにCPU11に対して供給される。
図1に戻り説明を続ける。AF素子7は、例えばラインセンサなどで構成され、被写体に対して焦点が合っているか否かを検出するために用いられる。AF素子7の検出信号はCPU11に入力され、CPU11は、該検出信号に基づいてAF処理を制御して、所定の被写体に焦点が合うようにミラー駆動回路8に指示して変形ミラーの変形状態を制御する。なお、AF素子7は、一般的に一眼レフカメラなどの高性能カメラに設けられるが、デジタルスチルカメラでは、かかるAF素子7を省略してもよい。この場合、CPU11は、上記信号処理部6により撮像画像信号を処理することで得られた合焦評価値Evに基づいて、AF処理を制御してもよい。
ミラー駆動回路8は、CPU11からの指示に基づいて、変形ミラー装置2を駆動させて変形ミラー装置2の変形状態を変えることで、焦点位置を調整する。かかる変形ミラー装置2を駆動の詳細については後述する。
絞り制御部9は、CPU11からの指示に基づいて、絞り3の開度を制御して、被写体像の露光量を適正値に調整する。
撮像制御部10は、例えばタイミングジェネレータ(TG)で構成され、CPU11からの指示に基づき、撮像素子4の電子シャッタースピードを制御する。撮像制御部10は、撮像素子4に必要な動作パルスを生成する。例えば、撮像制御部10は、垂直転送のための4相パルス、フィールドシフトパルス、水平転送のための2相パルス、シャッタパルスなどの各種パルスを生成し、撮像素子4に供給する。この撮像制御部10により撮像素子4を駆動(電子シャッタ機能)させることが可能となる。
CPU11は、撮像装置1の各部を制御する制御部として機能する。このCPU11に対してはメモリ部12が設けられ、メモリ部12は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリなどを備える。
CPU11は、当該メモリ部12内に格納されるプログラムに従って各種演算処理や、絞り制御部9、撮像制御部10、ミラー駆動回路8及びバス14を介した各部と制御信号等のやりとりを行って、これら各部に所要の動作を実行させる。
例えば、前処理部5にて検出された撮像信号の光量の情報に基づき、絞り制御部9に指示して絞り3を駆動することで、適正な絞り値が得られるように制御する。また、先に説明した信号処理部6内の合焦評価値計算部27から取得した合焦評価値Evに基づきミラー駆動回路8に指示して、変形ミラー装置2の変形状態を制御する。これにより、撮像光学系の焦点位置を変更したり、上述したAF処理、被写体検出処理、マルチフォーカス撮像処理、全域フォーカス撮像処理、被写体撮像処理、ブラケット撮像処理などの撮像処理を制御したりできるが、これについては後述する。
CPU11に付随して設けられるメモリ部12(例えばROM)には、CPU11に上記各種の制御処理を実行させるためのプログラムが格納されており、CPU11は、該プログラムに基づいて、上記各制御のための必要な演算・制御処理を実行する。
本実施形態に係るプログラムは、上述したCPU11の各種制御を、CPU11に実行させるためのプログラムである。このプログラムは、撮像装置1に内蔵された記憶装置(HDD、ROM、フラッシュメモリ等)に予め格納しておくことができる。また、当該プログラムは、CD、DVD、ブルーレイディスク等の光ディスク、メモリカードなどのリムーバブル記録媒体に格納されて、撮像装置1に提供されてもよいし、或いは、LAN、インターネット等のネットワークを介して撮像装置1にダウンロードされてもよい。
操作入力部13は、例えばキー、ボタン、ダイヤル、タッチパネル等の操作子を有する例えば、操作入力部13は、電源オン/オフを指示するための操作子や、撮像画像の記録の開始を指示するためのレリーズ操作子(レリーズボタン)、ズーム調整用の操作子、合焦させる被写体の選択等のように画像位置指定手段として用いられるタッチパネルなど、各種の動作指示や情報入力を行うための操作子を具備する。このうち、レリーズボタンは、ユーザが上記AF用又は被写体検出用の検出指示やレリーズ指示を入力するための手段として機能する。例えば、シャッターボタンを途中まで押下(半押し)することで、検出指示が入力され、シャッターボタンを最後まで押下(全押し)することで、レリーズ指示が入力される。操作入力部13は、このような操作子から得られる情報をCPU11に供給し、CPU11はこれらの情報に対応した必要な演算処理や制御を行う。
圧縮/伸張処理部16は、バス14を介して入力される画像データについての圧縮/伸張処理、例えば、MPEG(Moving Picture Experts Group)方式に従った画像圧縮/伸張処理を行う。撮像により得られた画像データをストレージ部17に記録するときには、圧縮/伸張処理部16は、当該画像データを圧縮して、データ量を低減する。一方、ストレージ部17に記録された画像データを再生するときには、圧縮/伸張処理部16は、当該画像データを伸張して、表示部15等に送る。
ストレージ部17は、画像データその他の各種データの保存に用いられる。このストレージ部17は、フラッシュメモリなどの半導体メモリにより構成されてもよいし、例えばHDD(Hard Disk Drive)などにより構成されてもよい。また、ストレージ部17は、撮像装置1に内蔵された記録媒体ではなく、撮像装置1に着脱可能なリムーバブル記録媒体、例えば、半導体メモリを内蔵したメモリカード、光ディスク、光磁気ディスク、ホログラムメモリなどの記録媒体に対応する記録再生ドライブなどで構成されてもよい。もちろん、内蔵タイプのメモリと、リムーバブル記録媒体に対する記録再生ドライブの両方が搭載されてもよい。かかるストレージ部17は、CPU11の制御に基づき、バス14を介して入力される画像データ、その他の各種データについての記録/再生を行う。
表示部15は、液晶ディスプレイ等の表示パネル部と、該表示パネル部を表示駆動する表示駆動部が設けられる。上記表示駆動部は、バス14を介して入力される各種の表示データを上記表示パネル部に表示させるための画素駆動回路で構成されている。画素駆動回路は、上記表示パネル部においてマトリクス状に配置されている各画素について、それぞれ所定の水平/垂直駆動タイミングで画像信号に基づく駆動信号を印加し、表示を実行させる。また、表示部15の表示パネルには、上述したタッチパネル等の画像位置指定手段を併設してもよい。
ここで、撮像時においては、レリーズ指示に応じて、CPU11の制御に基づき、信号処理部6から出力された画像データが上記圧縮/伸張処理部16に供給され、該圧縮/伸張処理部16において圧縮処理された画像データが生成される。すると、ストレージ部17は、CPU11の制御に基づき、圧縮処理された圧縮画像データを記録媒体に記録する。また、撮像時においてCPU11は、信号処理部6から出力された画像データが表示部15に供給されるように制御し、これによって、撮像素子4で撮像された画像信号から得た撮像画像データが、表示部15にリアルタイムで表示される(ライブビュー画像)。ユーザは、このライブビュー画像をみることで、撮像範囲(画角)や被写体の模様などを確認して、適切なシャッターチャンスを判断できる。
また、ストレージ部17に記録された圧縮画像データの再生指示が行われた場合、CPU11は、ストレージ部17を制御して、指定された圧縮画像データを再生させた上で、当該再生された圧縮画像データを圧縮/伸張処理部16で伸張させるように制御する。そして、CPU11は、当該伸張された画像データが表示部15上に表示されるように制御する。
[変形ミラーの構成]
次に、図3を参照して、図1に示した変形ミラー装置2の構成、及びその動作について説明する。図3は本実施形態に係る変形ミラー装置2の構成を示す断面図である。なお、図3には変形ミラー装置2と共に図1に示したミラー駆動回路8も併せて示している。
図3に示すように、変形ミラー装置2は、可撓性部材32と、その表面に形成された反射膜31と、この反射膜31が形成されたミラー面とは逆側の面において可撓性部材32に固着されるマグネット36と、ベース基板34と、このベース基板34側に固着される駆動コイル35と、可撓性部材32とベース基板34との間に挿入されるように設けられた強度確保部材33とを有する。
可撓性部材32は、可撓性を有する部材であり、その材質として例えばシリコンを使用できる。可撓性部材32は、例えば、略楕円状の平面形状を有する。この可撓性部材32のミラー面となるべき面に対しては、反射膜31が膜付けされている。そして、この可撓性部材32は、図示反しないが、上記ミラー面の裏側となる面において、同じ中心を有する複数の楕円部32A、32B、32C、32D、32Eが形成されている。これら複数の楕円部32A〜32Eは、中心部の楕円部32Aが最も厚みがあり、次いで外周側に形成される楕円部32B、さらに外周側となる楕円部32C、さらに外周側の楕円部32D、さらに外周側の楕円部32Eとなるに従って厚さが薄くなるようにされている。つまり、可撓性部材32の断面形状としては、その中心から外周方向にかけて階段状にその厚さが薄くなるような形状である。
そして、上記楕円部32Eの外周には、リブ状のフレーム32Fが環状に形成されており、可撓性部材32に垂直方向(図3の上下方向)の駆動力が印加された場合でも当該フレーム32Fが変形しないように充分な強度を確保できるようになっている。
ここで、可撓性部材32は、上記楕円部32A〜楕円部32Eが、変形ミラーとして変形する部分(可変部)である。つまり、これら厚さの相異なる楕円部32A〜楕円部32Eの形成パターンによって、ミラー面の形状が中心の楕円部32Aに対して一様に印加される垂直方向への駆動力に応じて、可撓性部材32が所定の形状となる。このように断面厚の異なるパターンを形成することによって、可撓性部材32に所要の強度分布を与えることができる。その意味で、このように断面厚を異ならせるようにして形成したパターンを、強度分布パターンと呼ぶ。この場合、上記楕円部32A〜32Eによるパターンについては、強度分布パターンと称する。
なお、上記可変部としての楕円部32A〜楕円部32Eの外周部には、フレーム32Fが形成されており、フレーム32Fは、上述した駆動力の印加に対しても変形しない十分な強度を有する。このように可撓性部材32における最外周部分が、フレーム32Fにより、駆動力の印加に対しても変形はせず強度が保たれている。これにより、楕円部32A〜楕円部32Eからなる可変部の駆動力に応じた形状変化態様を、より理想の形状変化態様に合わせ易くすることができる。つまり、可撓性部材32の最外周部分が変形してしまう場合と比較すれば、フレーム32Fを有する可撓性部材32は、より高精度に駆動力に対する形状変化態様を理想の態様に近づけることができるものである。
なお、この場合において、強度分布パターンが楕円形状により形成される理由は、先の図1に示されるように、変形ミラー装置2としてはそのミラー面が45度に傾斜された状態で用いられるためである。この場合、ミラー面における入射光のスポットは、楕円形状となる。具体的には、スポットの長手方向の直径と、当該長手方向と直交する方向の直径との比率が、およそ1:√2の楕円形状となる。このようにミラー面上での入射光のスポット形状が楕円形状となることから、フォーカス制御を良好に行うために、上記強度分布パターンを楕円形状としている。
また、先の説明によると、強度分布パターンとしては、各楕円部32A〜32Eが同じ中心を有するように配置している。これによって、可撓性部材32に対し駆動力が印加されたときに、応力が一部に集中してしまうことを防止することができ、可撓性部材32の割れや疲労破壊を効果的に防止できる。
ここで、ミラー面を変形させるために、可撓性部材32に所定の駆動力が印加されると、可撓性部材32では内部応力が発生する。この際、仮に可撓性部材32において応力が一点に集中するような部分があると、本例のように可撓性部材32が等質等方性な材質により構成される場合、この部分は急激に寸法が変化する箇所となる。例えば、各楕円部が同じ中心を持たない場合のパターンは、特定の方向で間隔が狭まったり広がったりすることになる。そして、この間隔が狭まった部分が、他の部分に比べて応力が集中しやすい部分となり、よって一様な駆動力の印加に対して急激に寸法が変化する部分となる。
このように応力が集中する部分が存在すると、その部分において可撓性部材32の許容応力を超える可能性が高まり、これに伴って割れが発生する可能性が高くなる。また、可撓性部材32の変形が繰り返し行われることで、この部分での疲労破壊を招く虞もある。
そこで、本例のように各楕円部32A〜32Eが同じ中心を持つようにパターンニングを行うことで、パターンの間隔は均等となり、上記のように応力が一部に集中する部分が生じないようにできる。これによって上記割れや疲労破壊の防止を図ることができる。
説明を図3に戻す。図3において、可撓性部材32は、その中央部に形成された楕円部32Aに対し、円柱状のマグネット36が固着される。このマグネット36の中央部には、上記楕円部32Aを嵌合して位置決め可能にする凹部が形成され、当該凹部が楕円部32Aに嵌合された状態で例えば接着などによって強固に固着される。
そして、可撓性部材32は、図示のようにその最外周部に形成されるフレーム32Fが、強度確保部材33に対して固着される。強度確保部材33の材料には、例えばパイレックスガラス(パイレックス:登録商標)が選定される。すなわち、可撓性部材32よりも高剛性による材料が選定される。この強度確保部材33は、その中央部にテーパー状の孔部が貫通している四角柱状の外形形状を有する。強度確保部材33は、このようなテーパー状の孔部によってくり抜かれた部分を有する上下二面の外径寸法が、可撓性部材32のミラー面が形成される面の外周寸法と一致している。これら二面のうち一方の面に、可撓性部材32のフレーム32Fが固着される。この場合、可撓性部材32と強度確保部材33とは、互いの中心軸が同軸に配置されるようにして固着される。これにより、上記フレーム32Fが、強度確保部材33における上記孔部の周囲の部分に対して固着される。
ベース基板34は、その外形寸法が上記可撓性部材32のミラー面が形成される面と同寸法となる面を有する。そして当該同寸法となる面においては、その最外周部に、上記強度確保部材33の上記可撓性部材32と固着される面とは逆側の面を位置決め固着するための溝部が形成されている。具体的には、強度確保部材33の上記可撓性部材32とは逆側の面におけるテーパー孔の内径と略等しい直径を有する円形の凸部が、ベース基板33に形成されている。そして、当該凸部の形成に伴う上記溝部において、強度確保部材33が位置決め固着されることで、ベース基板34の中心と強度確保部材33の中心とが同軸に配置されるようになっている。
さらに、ベース基板34には、その中心部において、駆動コイル35の内壁を嵌合するための円形の位置決め凸部が形成されている。具体的にこの凸部は、その中心がベース基板34の中心と同軸となるように形成され、外径が駆動コイル35の内壁を嵌合できる大きさに設定されている。このような凸部によって駆動コイル35がベース基板34側に嵌合し固着される。これにより、マグネット36の外面と駆動コイル35の内面とが全周にわたって均等距離で離間し、且つマグネット36の中心と駆動コイル35の中心とが同軸上に配置されるようになる。また、図示するように駆動コイル35に対しては、ミラー駆動回路8からの駆動信号の供給ラインが接続される。
本実施形態では、図3に示される可撓性部材32のフレーム32Fの縦方向の厚さ(高さ)pと、可撓性部材32の中心部に形成される楕円部32Aの縦方向の厚さ(高さ)を同値に設定している。また、同じ縦方向の厚さ(高さ)として、強度確保部材33の高さfは、上記可撓性部材32のフレーム32Fの高さpよりも長くなるように設定している。
さらに、横方向の厚さ(幅)については、フレーム32Fの幅をq、強度確保部材33の幅(この場合の強度確保部材33の孔はテーパー状としているので狭い方の幅の値とする)をgとしたとき、少なくともq<gとなるように設定している。ここで、縦方向とは、ミラー面に対して直交する方向を指す。また、横方向とは、上記縦方向と直交し、ミラー面と平行な方向を指す。
なお、言うまでもないが、強度確保部材33に形成するテーパー孔の寸法は、予め駆動コイル35を挿入できるスペースを確保できるようにして設定されるべきものとなる。また、可撓性部材32の変形時において、可撓性部材32と駆動コイル35とが干渉してしまうとミラー面の所定の形状変化を得ることができなくなってしまう。このため、駆動コイル35と可撓性部材32との間に充分なクリアランスが確保されるように強度確保部材33の縦方向の厚さfが設定される。
ここで、以上のような構成の変形ミラー装置2の動作を説明する。変形ミラー装置2においては、ミラー駆動回路8からの駆動信号が駆動コイル35に供給される。かかる駆動信号が供給されて駆動コイル35が通電されることで、その通電レベルに応じた磁界が発生し、当該発生磁界に応じて駆動コイル35の内側に配置されるマグネット36が反発力を受ける。この場合、マグネット36は円柱の軸方向に着磁されているので、上記反発力は垂直方向に生じる。これにより、当該マグネット36が固着された可撓性部材32の中心部に対して、上記駆動信号のレベルに応じた垂直方向への一様な駆動力が印加されることになる。
このようにして、ミラー駆動回路8から駆動コイル35に駆動信号を供給して、当該駆動コイル35によりマグネット36を、可撓性部材32のミラー面に対して垂直方向に移動させることで、可撓性部材32の中心部に駆動力を印加する。これにより、当該駆動力の大きさ及び向きに応じて、変形ミラー装置2の変形ミラー(即ち、楕円部32A〜32Eの部分)のミラー面を、凸状又は凹状に変形させることができる。このような凸状、凹
状の変化は、駆動コイル35に供給する駆動信号の極性を変化させることで得られる。
このような変形ミラー装置2を用いてフォーカス制御を行う場合には、可撓性部材32に印加させる駆動力(つまり駆動コイル35に与える駆動信号のレベル:駆動信号値)を変化させた際に、それぞれ駆動状態で目標とする焦点に調整されるようにしておく必要がある。つまり、それぞれの駆動状態で、目標とする変形ミラーの変形形状が得られるようにしておく必要がある。
上記構成の変形ミラー装置2では、各駆動状態で(つまり可撓性部材32の中心の楕円部32Aの垂直方向の変形量に応じて)どのようにミラー面が変化するかの設定は、強度分布パターンの形成パターンの設定によって行うことができる。それぞれの駆動状態で目標とする焦点に調整されるようにするための強度分布パターンの割り出しは、例えばFEM(Finite Element Method:有限要素法)シミュレーションツールを用いて行うことができる。
以上、本実施形態に係る変形ミラー装置2の構成及び動作を説明した。かかる変形ミラー装置2を用いてフォーカス制御(焦点位置の変更)を行うことで、通常のフォーカスレンズを撮像素子に接近/離隔させるフォーカス制御機構と比べて、焦点位置を高速かつ正確に調整することができる。
上述したように、本実施形態では、マルチフォーカス撮像処理を行うために、焦点位置を高速で変更する必要がある。このとき、従来のフォーカス機構のようにフォーカスレンズをモータ駆動して焦点位置を調整する場合には、焦点位置の変更を瞬時に行うことは困難である。
これに対し、本実施形態に係る変形ミラー装置2は、従来のメカニカルなフォーカス機構と比べて、小さく軽いので、高速動作可能である。このため、フォーカス機構として変形ミラー装置2を用いれば、ミラー面(可撓性部材32)の断面形状を微少に変化させることで焦点位置を調整できるので、焦点位置の変更を非常に高速に行うことができる。従って、マルチフォーカス撮像処理において、レリーズ指示に応じて、合焦可能範囲内で焦点位置を多数の変更位置に段階的に変更させるときに、高速に変更できる。よって、ユーザがシャッターチャンスを意識して、1回のレリーズ指示を行ったタイミングで、相異なる多数の焦点位置の画像データを高速に取得することができるので、マルチフォーカス撮像処理でシャッターチャンスを逃さないようにできる。
[焦点位置の変更方法]
次に、本実施形態に係る撮像装置1における焦点位置の変更方法について詳細に説明する。
まず、図4を参照して、本実施形態に係る撮像装置1を用いた撮像処理の概要について説明する。図4は、本実施形態に係る撮像装置1による撮像処理を概略的に示す模式図である。
図4に示すように、本実施形態に係る撮像装置1は、通常の撮像処理と、全域フォーカス撮像処理と、ブラケット撮像処理を実行できる。ユーザは、例えば、撮像装置1の撮像モードを、通常撮像モードと、マルチフォーカス撮像モード(より詳細には、全域フォーカス撮像モード、ブラケット撮像モード)との間で切り替えることで、撮像装置1が行う撮像処理を設定変更できるようにしてもよい。
通常の撮像処理では、撮像装置1は、検出指示(例えば、レリーズボタンの半押し)に応じて、ユーザが所望する被写体(撮像ポイント)に焦点を合わせるAF処理を行う。その後、撮像装置1は、レリーズ指示(例えば、レリーズボタンの全押し)に応じて、当該被写体に焦点が合った被写体像を撮像して、画像データを1枚だけ記録する。このとき、当該焦点を合わせた被写体に対応する焦点位置が合焦点位置となる。この合焦点位置は、最短距離側(マクロ)から無限遠側(∞)までの合焦可能範囲内の任意の位置に合わせることができる。
一方、全域フォーカス撮像処理では、撮像装置1は、1回のレリーズ指示に応じて、合焦可能範囲全域に渡って焦点位置を段階的(ステップ状)に自動的に変更しながら被写体像を順次に撮像して、複数枚の画像データを記録する。このマルチフォーカス撮像処理は、どの被写体に対しても焦点を合わせずに行ってもよいが、予めAF処理等により所定の被写体に対する合焦点位置を検出した状態で行ってもよい。かかるマルチフォーカス撮像処理により、撮像範囲内でマクロ側から無限遠側まで全ての被写体に合焦した複数枚の画像データを得ることができる。
また、ブラケット撮像処理では、撮像装置1は、検出指示(例えばレリーズボタンの半押し)に応じて、ユーザ所望の被写体に焦点を合わせるAF処理を行って、合焦点位置を検出する。そして、撮像装置1は、その合焦点位置の近傍で細かいステップで焦点位置を自動的にずらしつつ被写体像を周期的に撮像して、複数枚の画像データを記録する。その後、撮像装置1は、レリーズ指示に応じて、上記合焦点位置で撮像して、1枚の画像データを記録する。かかるブラケット撮像処理により、AF処理を行ってからレリーズまでの間に、その合焦点位置近傍の焦点位置において撮像した画像データを得ることができる。従って、AF処理により検出された合焦点位置にずれがあったとしても、所望の被写体に対して的確に合焦した画像データをミスなく取得できる。
以上のように、全域フォーカス撮像処理及びブラケット撮像処理、さらには不図示の被写体撮像処理では、焦点位置を多段階で変更しながら撮像を行う。よって、焦点位置を正確かつ高速に変更する必要がある。
次に、図5を参照して、図3で説明した変形ミラー装置2を用いた焦点位置の変更について説明する。図5は、本実施形態に係る変形ミラー装置2を用いた焦点位置の変更を示す模式図である。
図5に示すように、変形ミラー装置2のミラー面(反射面)2aの形状を変えることで、焦点位置を変更することができる。例えば、ミラー面2aの凹形状を深くすることで、焦点位置を近距離側(マクロ側)に変更でき、逆に、ミラー面2aの凹形状を浅くすることで、焦点位置を遠距離側(無限遠側)に変更できる。焦点位置を遠距離側に変更することで、撮像装置1から遠くにある被写体に合焦させ、焦点位置を近距離側に変更することで、撮像装置1の近くにある被写体に合焦させることができる。このとき、変形ミラー装置2が物理的に変更可能なミラー面2aの形状には制約があり、この制約により、焦点位置を変更できる範囲、即ち、合焦可能範囲が定まる。
上述したように、従来のフォーカス機構を用いて、モータ駆動されるフォーカスレンズを撮像素子に対して接近/離隔させることで、焦点位置を変更することも可能である。しかし、従来のフォーカス機構では、焦点位置を最短距離側から無限遠側まで移動させるには、数秒程度の長い時間を要していた。これに対し、本実施形態では、フォーカス機構として変形ミラー装置2を用いることで、従来のフォーカス機構と比較して格段に高速に焦点位置を変更することができる。例えば、焦点位置を最短距離側から無限遠側まで移動させるには、1秒未満の短い時間で済み、この短時間内に数十枚(例えば30枚)のマルチフォーカス画像を所得することができる。
次に、図6及び図7を参照して、本実施形態に係る焦点位置を段階的に変更するフォーカス制御の詳細について説明する。図6は、本実施形態に係る焦点位置の変更を示す説明図である。図7は、図6の下図の部分拡大図である。
図6に示すように、本実施形態に係る撮像装置1では、上記変形ミラー装置2を用いて、焦点位置が段階的(ステップ状)に変更される。図6の例では、焦点位置が、撮像空間の奥行き方向(Z軸方向)の無限遠側に向かって、位置P1、P2、P3、P4、P5、P6の順に6段階で変更されている。撮像装置1は、このように焦点位置を1段階ずつ変更する度に、焦点位置を固定した状態で撮像素子4により被写体像が撮像して、その焦点位置に合焦した画像データを記録する。
詳細には、図7に示すように、焦点位置を段階的に変更する1ステップごとに、撮像素子4のシャッター動作を行って、所定の露光時間で被写体像を撮像する。このとき、焦点位置を変更する1ステップの時間は、撮像素子4の電子シャッタースピードと、整定時間と、露光時間の和に相当する。ここで、整定時間は、焦点位置の変更に伴い変動した被写体像の光量(図7の点線で示す。)が所定のズレ許容範囲k以下に整定するまでに要する時間である。また、露光時間は、撮像装置1による撮像の露光に要する時間である。
以上、本実施形態に係るフォーカス制御において焦点位置を段階的に変更する方法について詳述した。なお、本発明は、本実施形態のように焦点位置を段階的に変更する例に限定されない。例えば、焦点位置を連続的(無段階で)に変更しながら、その変更途中に所定のタイミングで撮像素子4により被写体像を複数回撮像してもよい。このように焦点位置を連続的に変更しながら、相異なる焦点位置で撮像された複数枚の画像データを得るようにして、マルチフォーカス撮像を行ってもよい。
次に、図8を参照して、本実施形態に係る撮像装置1において段階的に焦点位置を段階的に変更するときの焦点位置の変更位置の設定について説明する。図8は、本実施形態に係る撮像装置1における焦点位置の変更位置の設定を説明するための模式図である。
図8に示すように、マクロから無限遠までの合焦可能範囲内に、複数の被写体H1〜H4が存在する場合を考える。この場合、マルチフォーカス撮像により焦点位置が異なる複数枚の画像データを取得するときには、それぞれの被写体H1〜H4について少なくとも1枚の画像データで焦点が合っている必要がある。
合焦可能範囲内で焦点位置を段階的に変更する場合、例えば図8のAに示すように、焦点位置を等間隔でリニアに変更させてもよいし、或いは、図8のBに示すように、焦点位置の変更量を可変にして焦点位置を変更してもよい。
図8のAの例では、焦点位置は、変更位置P1、P2、P3、P4、P5、P6に段階的に変更されており、焦点位置の変更量(即ち、隣接する焦点位置間の距離)は一定値dである。このように、焦点位置をZ軸方向に等間隔で変更することにより、焦点位置の位置制御が容易になるという利点があるが、後述のように、合焦可能範囲内の全ての被写体H1〜H4に焦点が合うようにするためには、焦点位置の変更回数が増加するという問題がある。
これに対し、図8のBの例では、焦点位置は、変更位置P1、P2、P3、P4、P5、P6に段階的に変更されており、焦点位置の変更量(即ち、隣接する焦点位置間の距離)は、可変値d1〜d5となっている。このとき、遠距離側ほど焦点位置の変更量が大きくなっている(d1<d2<d3<d4<d5)。この理由は、撮像光学系の被写界深度は、近距離側では浅く、遠距離側で大きいため、遠距離側で焦点位置の変更量を大きくしても、任意の位置の被写体に合焦した画像が得られるからである。この被写界深度に応じて焦点位置の設定について、以下に詳述する。
ここで、図9を参照して、被写界深度について詳述する。図9は、本実施形態に係る焦点位置ごとの被写界深度を説明するための模式図である。
図9に示すように、焦点位置を位置P1〜位置P6まで段階的に変更するとき、例えば、位置P3が合焦点位置であったとする。このとき、位置P3の近距離側(マクロ側)で合焦する範囲を後方被写界深度と称し、その位置P3の遠距離側(無限遠側)で合焦する範囲を前方被写界深度と称する。この前方被写界深度と後方被写界深度を合わせた範囲が被写界深度である。合焦点位置が位置P3であるときに、被写界深度により合焦する範囲が、合焦点位置P3における合焦範囲である。つまり、位置P3に焦点を合わせたときには、その位置P3にある被写体のみならず、当該位置P3の前後の合焦範囲内にある被写体(近距離側の後方被写界深度及び遠距離側の前方被写界深度に含まれる被写体)にも焦点が合った画像が得られる。勿論、位置P3を合焦点位置としたときには、厳密に焦点が合っているのは位置P3のみであるが、実際の画像ではその位置P3の前後(近距離側及び遠距離側)の合焦範囲内の被写体に対しても焦点が合っているように見える。焦点ボケは、合焦点位置である位置P3から離れるにつれて大きくなるが、被写界深度に応じて定まる合焦範囲内であれば、焦点ボケが許容範囲内であると考える。
上述した撮像装置1の撮像光学系などの光学装置では、焦点位置が近距離側であるほど被写界深度が浅く、遠距離側であるほど被写界深度が深いという特性を有している。このため、焦点位置を段階的に変化させたときには、近距離側の焦点位置であるほど合焦範囲が狭くなり、遠距離側の焦点位置であるほど合焦範囲が広くなる。従って、合焦可能範囲内の全域に合焦させるためには、図8のBで示したように、被写界深度が浅い近距離側では、焦点位置を細かい変更量で密に変更し、被写界深度が深い遠距離側では、焦点位置を大きな変更量で粗く変更すればよい。つまり、焦点位置を段階的に変更するときの変更位置は、撮像装置1からの距離により変動する被写界深度に応じて、設定されることが好ましい。
このように被写界深度に応じて焦点位置の変更位置を設定する方法について、図10を参照して更に詳細に説明する。図10は、本実施形態に係る被写界深度に応じた焦点位置の変更位置を説明するための模式図である。図10のA及び図10のBは、合焦可能範囲全域に合焦するように焦点位置の変更位置が設定された例であり、一方、図10のCは、合焦可能範囲内で合焦しない範囲が生じるように焦点位置の変更位置が設定された例である。
図10のAの例では、図8のAの例と同様に、焦点位置の変更位置は、位置P1、P2、P3、P4、P5、P6に段階的に設定されており、変更位置P1〜P6の相互の間隔は、遠距離側ほど広くなっている。撮像装置1からそれぞれの変更位置P1〜P6までの距離が遠いほど、それぞれの変更位置P1〜P6における被写界深度は、深くなる。このため、それぞれの変更位置P1〜P6を合焦点位置としたときの合焦範囲h1〜h6は、遠距離側ほど広くなる(h1<h2<h3<h4<h5<h6)。
図10のAの例では、相隣接する変更位置P1〜P6の差がそれらの被写界深度以内となるように、変更位置P1〜P6が設定されている。つまり、それぞれの変更位置P1〜P6における合焦範囲h1〜h6の両端が、相互に重なるか、或いは、少なくとも接するように、変更位置P1〜P6が設定されている。これにより、全ての変更位置P1〜P6における合焦範囲h1〜h6の和は、合焦可能範囲全域をカバーしている。従って、焦点位置を変更位置P1〜P6に段階的に変更することで、合焦可能範囲の全域に対して合焦させることができる。よって、このように焦点位置の変更位置P1〜P6を適正に設定することで、合焦可能範囲全域において任意の被写体に合焦した画像データを得ることができる。
また、図10のBの例は、合焦精度を高めるため、合焦範囲h(即ち、被写界深度により焦点ボケを許容する範囲)をより狭い範囲で考えた場合に、焦点位置をより細かい変更量で段階的に変更する例である。この図10のBの例では、焦点位置の変更位置は、位置P1、P2、P3、P4、P5、P6、P7、P8に段階的に設定されており、図10のAの例よりも、焦点位置の変更位置Pの数が多く、変更位置P1〜P8の相互間隔が狭くなっている。これにより、図10のBの例は、図10のAの例よりも、焦点位置の変更時間は増えるが、合焦可能範囲全域に渡って、より合焦精度が高い画像データを得ることができるという利点がある
一方、図10のCの例では、焦点位置の変更位置P1、P2、P3、P4、P5は、図10のAの例よりも相互に離隔した位置に設定されている。このため、それぞれの変更位置P1〜P5における合焦範囲h1〜h5は相互に重複しておらず、合焦可能範囲内には、いずれの合焦範囲h1〜h5にも含まれない範囲が生じている。従って、図10のCの例では、合焦可能範囲内の全域に合焦させることはできないため、マルチフォーカス撮像で得られた複数の画像データのいずれにおいても、合焦していない被写体が生じる恐れがある。この図10のCの例のように焦点位置の変更位置P1、P2、P3、P4、P5を離隔して設定する場合も、本発明に含まれるが、合焦可能範囲全域に合焦した画像データを得るという観点からは、図10のAや図10のBの例の方が好ましい。ただし、図10のCの例では、焦点位置の変更位置P1〜5の数(即ち、焦点位置の変更回数)が、図10のAや図10のCの例よりも少なくて済むので、より高速に焦点位置を変更できるという利点がある。
以上、図10を参照して、被写界深度に応じて、焦点位置の変更位置Pを設定する例について説明した。
ところで、被写界深度は撮像光学系の絞り3の開度によって変化するので、絞り3の開度(例えばF値)に応じて、焦点位置の変更位置Pを設定してもよい。また、被写界深度は撮像光学系のレンズの焦点距離によっても変化するので、撮像装置1に搭載されたレンズの種類に応じて、焦点位置の変更位置Pを設定してもよい。さらに、上述したように、被写界深度は撮像装置1から焦点位置までの距離によっても変化するので、当該距離に応じて焦点位置の変更位置Pを設定してもよい(ズームレンズの特徴に依存)。このように、本実施形態に係る撮像装置1では、例えば、絞り3の開度、レンズの種類、焦点位置から撮像装置1までの距離に応じて、焦点位置の変更位置Pを設定する。これにより、焦点位置を効率的かつ適切に変更できるとともに、合焦可能範囲内の任意の位置に存在する全ての被写体に対して漏れなく合焦させることができる。
ここで、焦点位置の変更位置Pを設定するタイミングについて説明する。撮像装置1は、マルチフォーカス撮像処理を行う前に予め、焦点位置の変更位置Pを設定しておいてもよい。この場合、撮像装置1のCPU11は、予め設定された焦点位置の変更位置Pのデータを保持しておき、マルチフォーカス撮像時に、当該データを用いて、焦点位置を段階的に変更するように変形ミラー装置2を制御する。
或いは、撮像装置1のCPU11は、マルチフォーカス撮像処理を行うときに、焦点位置の変更位置Pをリアルタイムで計算して、当該変更位置Pを動的に設定し、当該設定した変更位置Pに焦点位置を段階的に変更するように変形ミラー装置2を制御してもよい。この場合、CPU11は、被写界深度と焦点位置との相関を表すデータや、上述した絞り3の開度、レンズの種類、焦点位置から撮像装置1までの距離などのパラメータを用いて、撮像状態に応じた適切な位置に焦点位置の変更位置Pを動的に設定することができる。
次に、図11を参照して、本実施形態に係る焦点位置の変更位置Pを設定する基点について説明する。図11は、本実施形態に係る焦点位置の変更位置Pを設定する基点を説明するための模式図である。
図11のAは、例えばAF処理により検出された合焦点位置MPを基点として、焦点位置の変更位置P1〜P5を設定する例である。後述するように、本実施形態に係る撮像装置1は、検出指示に応じて、AF処理により合焦点位置MPを検出した後に、レリーズ指示に応じて、当該検出された合焦点位置MPを基準として焦点位置を段階的に変更してマルチフォーカス撮像処理を行う。そこで、レリーズ指示後に、CPU11は、レリーズ指示前に検出された合焦点位置MPを基点として、焦点位置の変更位置P1〜P5をリアルタイムで動的に設定することができる。
ここで、図11のAの例において、合焦点位置MPを基点として変更位置P1〜P5を設定する処理の詳細を説明する。まず、CPU11は、基点となる合焦点位置MP(=変更位置P3)における被写界深度と、その隣の変更位置P2、P4における被写界深度に基づいて、変更位置P2、P4を設定する。次いで、CPU11は、設定された変更位置P2、P4における被写界深度と、その隣の変更位置P1、P5における被写界深度に基づいて、変更位置P1、P5を設定する。これによって、合焦点位置MPを基点として、合焦可能範囲全域をカバーする変更位置P1〜P5を動的に設定できる。この場合、最も近距離(マクロ)側にある変更位置P1における合焦範囲h1の下限は、最短距離(マクロ)側の焦点位置NP(以下「マクロ位置NP」)とは一致しない。
このようにして、レリーズ指示後にリアルタイムで合焦点位置MPを基点として変更位置P1〜P5を設定できる。これにより、レリーズ指示後に合焦点位置MPにおいて撮像済みであるので、マルチフォーカス撮像処理において、改めて焦点位置を変更位置P3(=合焦点位置MP)に変更して撮像しなくてもよいので、マルチフォーカス撮像処理を迅速に実行できる。
一方、図11のBは、例えば、マクロ位置NPを基点として、焦点位置の変更位置P1〜P5を設定する例である。詳細には、CPU11は、基点となるマクロ位置NPの隣の変更位置P1における被写界深度に基づいて、変更位置P1を設定する。次いで、CPU11は、設定された変更位置P1における被写界深度と、その隣の変更位置P2における被写界深度に基づいて、変更位置P2を設定し、同様にして、変更位置P3、P4、P5を順次設定する。これによって、マクロ位置NPを基点として、合焦可能範囲全域をカバーする変更位置P1〜P5を設定できる。この場合、最も近距離(マクロ)側にある変更位置P1における合焦範囲h1の下限は、マクロ位置NPとは一致する。
このような、マクロ位置NPを基点とした変更位置P1〜P5の設定は、合焦点位置MPの検出の有無に関わらず実行できるので必ずしもマルチフォーカス撮像処理とともにリアルタイムで行わなくてもよい。従って、変更位置P1〜P5を予め設定して、その設定データを撮像装置1が保持しておき、マルチフォーカス撮像処理では、当該設定データを用いて焦点位置を段階的に変更できる。よって、マルチフォーカス撮像処理時のCPU11の処理負荷を低減できる。
[フォーカス制御の詳細]
次に、図12及び図13を参照して、本実施形態に係る撮像装置1によるフォーカス制御について詳細に説明する。
本実施形態に係る撮像装置1は、検出指示(例えば、レリーズボタンの半押し操作)に応じて、AF処理を行って合焦点位置を検出する。その後、撮像装置1は、1回のレリーズ指示(例えば、レリーズボタンの全押し操作)に応じて、合焦点位置で撮像して得た画像データをストレージ部17に記録するとともに、全域フォーカス撮像処理を行う。この全域フォーカス撮像処理では、撮像装置1は、AF処理で検出された合焦点位置を基準として、合焦可能範囲内で焦点位置を段階的に変更しながら、当該変更された焦点位置で撮像して得られた複数枚の画像データをストレージ部17に順次、記録する。
このように、本実施形態に係る撮像装置1は、AF処理で合焦点位置を検出するためにフォーカスを制御し、また、全域フォーカス撮像処理で焦点位置を変更するためにフォーカスを制御する。以下に、本実施形態に係るフォーカス制御の具体例について、図12、図13を参照して詳細に説明する。なお、図12、図13において、縦軸(Z軸)は焦点位置、横軸は時間を示す。
まず、図12に示すフォーカス制御の例について説明する。図12は、本実施形態に係るマルチフォーカス撮像処理において、焦点位置を合焦点位置MPから無限遠側まで段階的に変更した後に、合焦点位置MPからマクロ側まで段階的に変更するフォーカス制御の例を示す模式図である。
図12に示すように、まず、撮像装置1のCPU11は、検出指示(AF開始指示)を受けると、AF処理を行って、撮像範囲内の所定の被写体に合焦する合焦点位置MPを検出する(t1〜t2)。AF処理で合焦させる対象となる被写体は、例えば、検出指示を受けた時点で撮像範囲の所定位置(例えば画像中央)に存在する被写体であってもよいし、タッチパネル等でユーザ指定された被写体であってもよい。
また、AF処理としては、例えば、一般的な山登り法による合焦点位置の探索(山登りAF)を使用できる。この山登りAFは、例えば、焦点位置をマクロ側(マクロ位置NP)から無限遠側に移動させながら、その焦点位置で得られた画像データを分析して所定の評価パラメータを取得し、当該評価パラメータを評価して、合焦点位置MPを探索する。なお、当該山登りAFは、焦点位置を無限遠(無限遠位置FP)からマクロ側に移動させながら行うことも勿論可能である。
かかる山登り法による合焦点位置MPの探索は、CPU11が、上記図2の合焦評価値計算部27にて逐次計算される合焦評価値Evを取得して行う。山登り法による合焦点位置MPの探索の具体的な手法については種々存在するが、基本的には、例えば、以下のような手法を採用できる。
まず、CPU11は、焦点位置をマクロ(Snとする)に設定し、その状態で計算された合焦評価値Evの値を取得する。そして、マクロSnから、予め定められた距離tだけ遠い焦点位置(Sn+1とする)に設定し、その状態で計算された合焦評価値Evの値を取得する。このように距離tだけ離間するそれぞれの焦点位置での評価値Evを取得した上で、どちらで良好な評価値Evの値が得られているかを判別する。マクロSnでの評価値Evの値の方が高ければ、合焦点位置はマクロSnであるとして決定する。逆に、焦点距離Sn+1での評価値Evの値の方が高ければ、合焦点位置は当該焦点位置Sn+1以降の焦点位置にあると判断できる。この場合はさらに距離tだけ遠い焦点位置Sn+2での合焦評価値Evを取得し、焦点位置Sn+1と焦点位置Sn+2の何れでの評価値Evの値が良好かを判別する。焦点位置Sn+1の方が評価値Evの値が高ければ、合焦点位置は当該焦点位置Sn+1に決定する。焦点位置Sn+2での評価値Evの値の方が高ければ、合焦点位置は当該焦点位置Sn+2以降の焦点位置にあると判断できるので、さらに距離tだけ遠い焦点位置Sn+3での合焦評価値Evを取得し、焦点位置Sn+2と焦点位置Sn+3の何れでの評価値Evの値が良好かを判別する。
以降も、距離tだけ遠い近い焦点位置の方が良好な評価値Evの値が得られる場合は、CPU11は、さらに距離tだけ遠い焦点位置に振って取得した評価値Evとの比較を行うそして、新たに振った焦点位置での評価値Evの値の方が低くなったときに、CPU11は、直前に振った焦点位置を合焦点位置として決定する。
以上のようにして、山登りAFにより合焦点位置MPが検出される。なお、AF処理の方式としては、上記山登りAF以外にも、例えば、位相差検出法、コントラスト検出法など、任意の方式を使用できる。
位相差検出法では、撮像光学系を通じて入射される被写体像から撮像素子内のセパレータレンズで2つの像を生成し、その像間隔をラインセンサ(AF素子7)で計測して、ピントのズレ量を検出し、当該ピントのズレ量に基づいて、合焦点位置を求める。一方、コントラスト検出法は、合焦しているときに、撮像により得られた画像のコントラストが最も高くなるという考え方に基づく検出法である。このコントラスト検出法では、撮像素子4により被写体像を撮像して得た画像データを解析し、焦点位置を動かしながら画像のコントラスト値が最も高くなるレンズ位置を探索する。このとき、焦点位置を動かしながらコントラスト値を計算し、その変化の軌跡から合焦点位置を求める。従って、コントラスト検出法では、位相差検出法より探索時間を要するが、撮像用のイメージセンサ(撮像素子4)でAF処理を実行できるという利点がある。
次いで、上記合焦点位置MPの検出完了からレリーズ指示を受け付けるまでの間、CPU11は、AF追従動作を制御する(t2〜t3)。この追従動作は、当該期間t2〜t3中に、合焦させた被写体が移動したときに、当該被写体に焦点を合わせ直す動作である。かかるAF追従動作は、デジタルビデオカメラ等で多用されるが、デジタルスチルカメラで用いてもよい。なお、当該期間t2〜t3に、AFの追従動作を行わずに、検出当初の合焦点位置に固定してもよい。
以上までの期間t1〜t3中は、撮像素子4による撮像処理は常時行われており、この撮像により得た画像データは、ライブビュー画像として表示部15に表示されている。ユーザは、かかるライブビュー画像を見ながら、シャッターチャンスと判断する時点で、レリーズボタンを全押し操作するなどして、撮像装置1のレリーズ指示を入力する。なお、レリーズ指示は、スマイル検出等により撮像装置1が自動で行ってもよい。
CPU11は、レリーズ指示を受け付けると、その受け付け時点で、撮像素子4によって合焦点位置MP(焦点位置の変更位置P6に相当する。)において被写体像を撮像して得た画像データD6を、ストレージ部17に記録する(t3)。これにより、上記AF処理にて検出された合焦点位置MPの被写体に焦点が合っている画像データD6を、保存用画像データとして記録できる。さらに、かかる合焦点位置MPの画像データD6の記録後すぐに、CPU11は、全域フォーカス撮像処理を実行する(t3〜t4)。
具合的には、図12に示すように、まず、CPU11は、変形ミラー装置2を制御して、焦点位置を合焦点位置MPから無限遠側に段階的に変更する。これにより、焦点位置は、所定の変更位置P7、P8、P9、P10、P11に順次変更される。このように焦点位置を変更しながら、CPU11は、撮像素子4によってそれぞれの変更位置P7、P8、P9、P10、P11において被写体像を撮像して得られた画像データD7、D8、D9、D10、D11をストレージ部17に記録する。この結果、合焦可能範囲のうち、合焦点位置から無限遠までの範囲の被写体に合焦した複数枚の画像データD6〜D11が記録される。
さらに、CPU11は、変形ミラー装置2を制御して、焦点位置を合焦点位置MPからマクロ側に段階的に変更する。これにより、焦点位置は、所定の変更位置P5、P4、P3、P2、P1に順次変更される。このように焦点位置を変更しながら、CPU11は、撮像素子4によってそれぞれの変更位置P5、P4、P3、P2、P1において被写体像を撮像して得られた画像データD5、D4、D3、D2、D1をストレージ部17に記録する。この結果、合焦可能範囲のうち、合焦点位置からマクロまでの範囲の被写体に合焦した複数枚の画像データD5〜D1が記録される。
以上のようにして、撮像装置1は、全域フォーカス撮像処理(t3〜t4)を行うことで、マクロ側から無限遠側までの合焦可能範囲全域の被写体に合焦した複数枚の画像データD1〜D11を記録できる。このとき、合焦点位置MPから無限遠側(又はマクロ側)に徐々に遠くなるような順序で焦点位置を段階的に変更する(変更位置P7→P8→P9→P10→P11)。これにより、合焦点位置MPの無限遠側において、合焦点位置MPに近い焦点位置に合焦した画像データほど、レリーズ指示(t3)に近いタイミングで取得することができる。例えば、合焦点位置MPに最も近い位置P7に合焦した画像データD7を、合焦点位置MPに次に近い位置P8に合焦した画像データD8よりも先に取得できる。従って、合焦点位置MPに近い焦点位置に合焦した画像データほど、シャッターチャンス(即ち、レリーズ指示t3)に近いタイミングで優先的に取得することができる。
通常、合焦可能範囲のうち合焦点位置MPに近い焦点位置(例えば、P7、P8)ほど、ユーザが望む被写体が存在する可能性が高い。従って、上記のような順で画像データを取得することによって、ユーザが望む被写体に合焦した画像データ(例えば、D7、D8)を、シャッターチャンスに近いタイミングで優先的に得ることができる。つまり、ユーザが所望する被写体に合焦した画像データ(例えば、D7、D8)を最初に取得し、その後、その他の被写体に合焦した画像データ(例えば、D10、D11)を予備的に確保しておくことができる。よって、全域フォーカス撮像処理において、シャッターチャンスを逃さないようにできる。
なお、図12の例では、まず、焦点位置を合焦点位置MPから無限遠側に変更(P7〜P11)した後に、焦点位置を合焦点位置MPからマクロ側に変更(P5〜P1)して、全域フォーカス撮像処理を行ったが、かかる例に限定されない。上記の例とは逆に、まず、焦点位置を合焦点位置MPからマクロ側に変更(P5〜P1)した後に、焦点位置を合焦点位置MPから無限遠側に変更(P7〜P11)して、全域フォーカス撮像処理を行ってもよい。
次に、図13に示すフォーカス制御の例について説明する。図13は、本実施形態に係るマルチフォーカス撮像処理において、合焦点位置MPに近い変更位置Pから順に、焦点位置を無限遠側及びマクロ側に交互に変更するフォーカス制御の例を示す模式図である。
図13に示すように、まず、撮像装置1のCPU11は、検出指示(AF開始指示)を受けると、例えば上記山登りAF処理を行って、撮像範囲内の所定の被写体に合焦する合焦点位置MPを検出する(t1〜t2)。次いで、上記合焦点位置MPの検出完了からレリーズ指示を受け付けるまでの間、CPU11は、AFの追従動作を制御する(t2〜t3)。以上までの処理(t1〜t3)は、上述した図12の処理(t1〜t3)と略同一であるので、その詳細説明は省略する。
その後、CPU11は、レリーズ指示を受け付けた時点で、撮像素子4によって合焦点位置MP(焦点位置の変更位置P6に相当する。)において被写体像を撮像して得た画像データD6を、ストレージ部17に記録する(t3)。これにより、上記AF処理にて検出された合焦点位置MPの被写体に焦点が合っている画像データを、保存用画像データとして記録できる。さらに、かかる合焦点位置MPの画像データD6の記録後すぐに、CPU11は、全域フォーカス撮像処理を実行する(t3〜t4)。
具合的には、図13に示すように、まず、CPU11は、変形ミラー装置2を制御して、焦点位置を合焦点位置MPに近い順に無限遠側及びマクロ側に交互に振りながら段階的に変更する。これにより、焦点位置は、所定の変更位置P7、P5、P8、P4、P9、P3、P10、P2、P11、P1の順で変更される。このように焦点位置を限遠側及びマクロ側に交互に変更しながら、CPU11は、撮像素子4によってそれぞれの変更位置P7、P5、P8、P4、P9、P3、P10、P2、P11、P1において被写体像を撮像して得られた画像データD7、D5、D8、D4、D9、D3、D10、D2、D11、D1をストレージ部17に記録する。
以上のようにして、撮像装置1は、全域フォーカス撮像処理(t3〜t4)を行うことで、マクロ側から無限遠側までの合焦可能範囲全域の被写体に合焦した複数枚の画像データD1〜D11を記録できる。このとき、合焦点位置MPに近い変更位置から順に、無限遠側及びマクロ側に交互に焦点位置を変更する(変更位置P7→P5→P8→P4→P9→P3→P10→P2→P11→P1)。これにより、合焦点位置MPのマクロ側及び無限遠側の双方において、合焦点位置MPに近い焦点位置に合焦した画像データほど、レリーズ指示(t3)に近いタイミングで取得することができる。例えば、合焦点位置MPに最も近い位置P7、P5に合焦した画像データD7、D5を、合焦点位置MPに次に近い位置P8、P4に合焦した画像データD8、D4よりも先に取得できる。従って、マクロ側及び無限遠側の双方において、合焦点位置MPに近い焦点位置に合焦した画像データほど、シャッターチャンス(即ち、レリーズ指示t3)に近いタイミングで優先的に取得することができる。
従って、図13のような順で画像データを取得することによって、図12の例よりもさらに、ユーザが望む被写体に合焦した画像データ(例えば、D7、D5)を、シャッターチャンスに近いタイミングで優先的に得ることができる。つまり、ユーザが所望する被写体に合焦した画像データ(例えば、D7、D5)を最初に取得し、その後、その他の被写体に合焦した画像データ(例えば、D11、D1)を予備的に確保しておくことができる。よって、全域フォーカス撮像処理において、シャッターチャンスを更に逃さないようにできる。
なお、図13の例では、焦点位置を合焦点位置MPから無限遠側(P7)、マクロ側(P5)、無限遠側(P8)、・・の順に交互に変更しながら全域フォーカス撮像処理を行ったが、かかる例に限定されない。上記の例とは逆に、焦点位置を合焦点位置MPからマクロ側(P5)、無限遠側(P7)、マクロ側(P4)、・・の順に交互に変更しながら全域フォーカス撮像処理を行ってもよい。即ち、焦点位置を最初に無限遠側又はマクロ側のどちらに変更するかは任意である。
[撮像装置の動作]
次に、図14を参照して、本実施形態に係る撮像装置1による撮像動作について説明する。図14は、本実施形態に係る撮像装置1による撮像動作を示すフローチャートである。
図14に示すように、撮像装置1が撮像モードに設定されているときは、撮像装置1のCPU11は、AF開始指示等の検出指示があるまで待機する(S102)。この待機中にも、撮像素子4は撮像光学系から入射される被写体像を撮像し、前処理部5及び信号処理部6は、該撮像素子4から出力された画像信号に基づき画像データを生成しており、この画像データは、表示部15にライブビュー画像として表示される。ユーザは、このライブビュー画像を見ながら所望の被写体に撮像装置1を向けて、所望のタイミングでレリーズボタンを半押し操作するなどして、撮像装置1に検出指示を入力する。
CPU11は、かかる検出指示の入力を検知すると(S102)、撮像装置1の各部を制御して、当該被写体に焦点を合わせるためのAF処理を実行する(S104)。このAF処理としては、図12及び図13で説明したように、例えば山登りAFを使用できる。次いで、かかるAF処理により、上記被写体に合焦する合焦点位置を検出した場合(S106)、CPU11は、レリーズ指示を受けるまでの間、その被写体に焦点を合わせ続けるためのAF追従動作を制御する(S108)。なお、このAF追従動作は必ずしも実行されなくてもよく、この場合には、レリーズ指示を受けるまでの間、上記検出された合焦点位置に焦点位置が固定される。
その後、撮像装置1のCPU11は、レリーズ指示があるまで待機する(S110)。この待機中に、ユーザは、このライブビュー画像を見ながら所望のシャッタータイミングで、レリーズボタンを全押し操作するなどして、撮像装置1にレリーズ指示を入力する。
CPU11は、かかるレリーズ指示の入力を検知すると(S110)、撮像装置1の各部を制御して、撮像素子4により合焦点位置において被写体像を撮像して得た画像データを、ストレージ部17に記録する(S112)。その直後に、CPU11は、撮像装置1の各部を制御して、全域フォーカス撮像処理を実行する(S114)。この全域フォーカス撮像処理では、CPU11は、変形ミラー装置2を制御して、例えば図12又は図13に示したように、合焦点位置を基準として焦点位置を複数の変更位置に段階的に変更する。そして、CPU11は、撮像装置1の各部を制御して、当該変更位置のそれぞれにおいて被写体像を撮像して、複数枚の画像データを順次生成し、当該画像データをストレージ部17に記録する。
このような全域フォーカス撮像処理を行うことで、1回のレリーズ指示に応じて、マクロ側から無限遠側までの合焦可能範囲全域に合焦した複数枚の画像データを自動的に取得できる。
また、かかる全域フォーカス撮像処理では、上述したようにして得た複数枚の画像データに関連づけて、当該画像データに関するメタデータをストレージ部17に記録してもよい。これにより、撮像後に、複数枚の画像データの中からユーザの所望する焦点位置の画像データをユーザに提示したり、複数枚の画像データを合成処理したり、ブラウジング処理したりすることができる。
[効果]
以上、本実施形態に係る撮像装置1とその撮像方法について説明した。本実施形態によれば、次の効果がある。
撮像装置1のユーザは、撮像装置1のAF機能を用いて、或いは、手動で、所望の被写体に焦点を合わせて撮影する。特に、1眼レフカメラなどでは、所望の被写体に正確に焦点を合わせる必要がある。このような焦点合わせを行う場合、手動の場合は勿論、AF機能を用いた場合であっても、所望の被写体に焦点を合わせ損ねる場合がある。しかし、本実施形態に係る撮像装置1は、レリーズ操作に応じて、合焦点位置の被写体に合焦した画像データを取得する通常の撮像処理を行うとともに、焦点位置を変更しながら複数枚の画像データを取得する全域フォーカス撮像処理を行う。従って、この全域フォーカス撮像処理で得られた複数枚の画像データの中には、所望の被写体に合焦した画像データが必ず存在する。よって、ユーザは、所望の被写体に合焦した画像データを確実に取得でき、AF処理等の焦点合わせの成否をケアしないで撮影を行うことができる。
また、ユーザは、ある被写体に焦点を合わせて撮影した画像データを得た後に、同じ画角で他の被写体に焦点を合わせた画像が欲しくなる場合がある。かかる場合であっても、本実施形態によれば、事後的な画像処理に依らずとも、実際に撮像光学系を調整して当該他の被写体に焦点を合わせて撮像した高精度の画像データを事後的に取得できる。
まず、撮像装置1は、上述した全域フォーカス撮像処理を行うことで、1回のレリーズ指示に応じて、マクロ側から無限遠側までの合焦可能範囲全域に渡って、任意の被写体に合焦した複数枚の画像データを自動的に取得できる。この全域フォーカス撮像処理では、図12及び図13に示したように、AF処理で検出された合焦点位置を基準として、焦点位置を段階的に変更する。従って、合焦点位置MPに近い焦点位置に合焦した画像データほど、シャッターチャンス(即ち、レリーズ指示)に近いタイミングで優先的に取得することができるので、合焦点位置の近くに存在する所望の被写体のシャッターチャンスを逃さないようにできる。
さらに、撮像装置1は、上述した全域フォーカス撮像処理を行うことで、1回のレリーズ指示に応じて、マクロ側から無限遠側までの合焦可能範囲全域に渡って、任意の被写体に合焦した複数枚の画像データを自動的に取得できる。この全域フォーカス撮像処理では、図12及び図13に示したように、AF処理で検出された合焦点位置を基準として、焦点位置を段階的に変更する。従って、合焦点位置MPに近い焦点位置に合焦した画像データほど、シャッターチャンス(即ち、レリーズ指示)に近いタイミングで優先的に取得することができるので、合焦点位置の近くに存在する所望の被写体のシャッターチャンスを逃さないようにできる。
例えば、ユーザが、被写体の人物が笑ったときの写真を撮影したい場合を考える。この場合、上述した特許文献1記載のマルチフォーカス撮像のように、合焦点位置にかかわらず、単純にマクロ側から無限遠側に焦点位置を変更して順番に撮像していくと、シャッターチャンスを逃してしまい、当該人物が笑顔であるときに撮像できない恐れがある。このように、シャッターチャンスがあるような被写体をマルチフォーカス撮像するときに、特許文献1記載の方法では、シャッターチャンスを逃すという問題がある。
これに対して、本実施形態では、AF処理で所望の被写体を検出し、レリーズ指示に応じて、その合焦点位置での画像を撮像し、かつ、当該被写体を含む合焦可能範囲全域を、合焦点位置の近傍の焦点位置から順に撮像する。従って、シャッターチャンスが有るような被写体(例えば、人物の笑顔)をマルチフォーカス撮像する場合であっても、当該被写体及びその近傍に合焦した画像をレリーズ指示の直後に撮像できるので、シャッターチャンスを逃すことがない。
また、マルチフォーカス撮像で複数枚の画像データを記録した場合には、事後的に複数枚の画像データをユーザに提示する際に、ユーザがどの被写体を狙って撮像したかをユーザに提示する必要があるという課題がある。かかる課題に関しても、本実施形態に係るマルチフォーカス撮像は、特許文献1記載の手法よりも優れる。つまり、本実施形態に係るマルチフォーカス撮像によれば、記録される複数枚の画像データのうち、AF処理で合焦させたときの画像データは、ユーザ自身がどの被写体を狙って撮像したかを表すインデックスとなる。従って、ユーザが事後的に複数枚の画像データを見る際に、撮像装置1は、最初に、AF処理で合焦させたときの画像データを提示することで、ユーザ自身がどの被写体を狙って撮像したかを提示できる。従って、ユーザはこの提示を確認した上で、複数枚の画像データの中から、所望する被写体に真に焦点が合った画像を選択できるようになる。
また、本実施形態に係る撮像装置1では、焦点位置を調整するためのフォーカス機構として、変形ミラー装置2を用いるので、マルチフォーカス撮像処理において焦点位置を高速に変更することができる。よって、従来よりもマルチフォーカス撮像処理を迅速に(例えば1秒以内で)遂行できる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。第2の実施形態は、上述した第1の実施形態と比べて、検出指示からレリーズ指示までの間にブラケット撮像を行う点で相違し、その他の機能構成は第1の実施形態と略同一であるので、その詳細説明は省略する。
まず、図15を参照して、本実施形態に係る撮像装置1によるフォーカス制御について詳細に説明する。
第2の実施形態に係る撮像装置1は、検出指示に応じて、AF処理を行って合焦点位置を検出し、当該合焦点位置の検出が完了してからレリーズ指示までの間は、ブラケット撮像を行う。ブラケット撮像では、撮像装置1は、AF処理により検出された合焦点位置を中心とする所定の範囲内で、焦点位置を周期的に変更しながら、当該変更された複数の焦点位置において被写体像を撮像して得た画像データをストレージ部17に記録する。その後、撮像装置1は、1回のレリーズ指示に応じて、合焦点位置で撮像して得た画像データをストレージ部17に記録するとともに、全域フォーカス撮像処理を行う。この全域フォーカス撮像処理では、撮像装置1は、AF処理で検出された合焦点位置を基準として、合焦可能範囲内で焦点位置を段階的に変更しながら、当該変更された焦点位置で撮像して得られた複数枚の画像データをストレージ部17に順次、記録する。
このように、第2の実施形態に係る撮像装置1は、AF処理で合焦点位置を検出するためにフォーカスを制御し、また、ブラケット撮像及び全域フォーカス撮像処理で焦点位置を変更するためにフォーカスを制御する。以下に、本実施形態に係るフォーカス制御の具体例について、図15を参照して詳細に説明する。
図15は、本実施形態に係るAF処理、ブラケット撮像処理及び全域フォーカス撮像処理におけるフォーカス制御の例を示す模式図である。なお、図15において、縦軸(Z軸)は焦点位置、横軸は時間を示す。
図15に示すように、まず、撮像装置1のCPU11は、検出指示(AF開始指示)を受けると、例えば上記山登りAF処理を行って、撮像範囲内の所定の被写体に合焦する合焦点位置MPを検出する(t1〜t2)。このAF処理(t1〜t2)は、上述した第1の実施形態にかかる図12の処理(t1〜t2)と略同一であるので、その詳細説明は省略する。
次いで、上記合焦点位置MPの検出完了からレリーズ指示を受け付けるまでの間、CPU11は、ブラケット撮像処理を行う(t2〜t3)。このように第2の実施形態では、第1の実施形態に係るAF追従動作の代わりに、ブラケット撮像処理を行う。
このブラケット撮像処理について詳細に説明する。ブラケット撮像処理では、撮像装置1のCPUは、上記AF処理で検出した合焦点位置MPを中心として、焦点位置を無限遠側の位置P7と、マクロ側の位置P5に交互に変更する。これにより、焦点位置は、合焦点位置MPを中心とする所定の範囲内(図示の例では、P5〜P7の範囲内)で、位置P7→P5→MP(=P6)→P7→P5→MP(=P6)→・・・といったように周期的かつ段階的に変更される。撮像装置1は、このように焦点位置を周期的かつ段階的に変更しながら、それぞれの変更位置P7、P5、MP・・・において撮像素子4により被写体像を撮像し、当該撮像素子4から出力された画像信号に基づいて画像データD7、D5、DM(=D6)・・・を生成する。CPU11は、このように生成した画像データD7、D5、DM・・・を、不図示のキャッシュメモリ等に一時的に保存しておく。
以上のようにして、撮像装置1は、ブラケット撮像処理(t2〜t3)を行うことで、合焦点位置MPの近傍(無限遠側及びマクロ側)の焦点位置に合焦した複数枚の画像データD7、D5、DM・・・を周期的に取得できる。かかる画像データD7、D5、DM・・・は、AF処理にミスがあった場合、即ち、AF処理によりユーザ所望の被写体に合焦していない場合を補償するための画像データとして利用できる。つまり、AF処理で検出された合焦点位置MPの近傍で前後に焦点位置を周期的に変更することで、当該合焦点位置MPの近傍に位置する被写体は、当該合焦点位置MPを中心とする合焦範囲内に含まれない場合でも、変更位置P5又はP7を中心とする合焦範囲内に含まれる可能性が高い。よって、AF処理によりユーザ所望の被写体に合焦できなかったとしても、上記のようなブラケット撮像処理で得た画像データD7又はD5において当該被写体に合焦させることができる。
なお、図15の例では、焦点位置を合焦点位置MPから無限遠側(P7)、マクロ側(P5)、無限遠側(P7)、・・の順に交互に変更しながらブラケット撮像処理を行ったが、かかる例に限定されない。上記の例とは逆に、焦点位置を合焦点位置MPから、マクロ側(P5)、無限遠側(P7)、マクロ側(P5)、・・の順に交互に変更しながらブラケット撮像処理を行ってもよい。即ち、焦点位置を最初に無限遠側又はマクロ側のどちらに変更するかは任意である。
また、図15の例では、合焦点位置MPの近傍で焦点位置を1段階分だけ交互に変更したが、かかる例に限定されず、焦点位置を2段階分以上、交互に変更してもよい。例えば、焦点位置を、合焦点位置MPを中心とするP4〜P8の範囲内で、位置P7→P8→P4→P5→MP→P7→P8→P4→P5→MP→・・・といったように周期的に変化させてもよい。
以上のようなブラケット撮像処理は、レリーズ指示(t3)があるまで繰り返される。CPU11は、上記ブラケット撮像処理により取得されて、キャッシュメモリに一時的に保存されていた複数の画像データD7、D5、DM・・・のうち、レリーズ指示の直前の1周期分Sの画像データD7、D5、DMをストレージ部17に保存し、その他の保存用画像データD7、DM、D5・・・は、重複した画像データであるので削除する。ブラケット撮像処理では、同一の焦点位置P5、P7、MPで繰り返し撮像しているので、保存されるデータ量を削減するため、重複している古い画像データD7、DM、D5・・・を削除し、レリーズ指示直前に得られた最新の画像データD7、DM、D5を残せばよい。これは、レリーズ指示直前に得られた最新の画像データD7、DM、D5が、シャッターチャンスをより反映したものであるからである。
なお、本実施形態では、ブラケット撮像された全ての画像データを一時記憶用記憶部(例えばキャッシュメモリ)に一時保存しておき、レリーズ指示に応じて、上記レリーズ指示直前の少なくとも1周期分Sの画像データを、格納用記憶部(例えばストレージ部17)に保存し、その他の画像データを一時用記憶部から能動的に削除して無効化した。しかし、本発明は、かかる例に限定されず、上記少なくとも1周期分Sの画像データを有効化し、その他の画像データを無効化する手法は任意である。例えば、全ての画像データを当初からストレージ部17に保存して、レリーズ操作に応じて、少なくとも1周期分Sの画像データ以外の他の画像データをストレージ部17から能動的に削除してもよい。また、レリーズ指示に応じて、当該他の画像データを能動的に記憶部から削除しないで残しておき、ユーザが当該他の画像データにアクセスできないように設定(無効化)してもよい。また、レリーズ指示に応じて、上記少なくとも1周期分Sの画像データのみに対してユーザがアクセスできるよう設定(有効化)してもよい。いずれしろ、レリーズ指示直前の画像データは、レリーズ指示直前のシャッターチャンスに近いタイミングで撮像された重要な画像データである。従って、ブラケット撮像で周期的に撮像された複数周期の画像データのうち、当該レリーズ指示直前の1周期分の画像データのみを有効化して、ユーザに提示することで、画像データを効率的に管理・提示できる。
上記のブラケット撮像処理中に、CPU11は、レリーズ指示を受け付けると、その受け付け時点で、撮像素子4によって合焦点位置MP(焦点位置の変更位置P6に相当する。)において被写体像を撮像して得た画像データD6を、ストレージ部17に記録する(t3)。これにより、上記AF処理にて検出された合焦点位置MPの被写体に焦点が合っている画像データD6を、保存用画像データとして記録できる。さらに、かかる合焦点位置MPの画像データD6の記録後すぐに、CPU11は、全域フォーカス撮像処理を実行して、マクロ側から無限遠側までの合焦可能範囲全域の被写体に合焦した複数枚の画像データD1〜D11をストレージ部17に記録する(t3〜t4)。かかる全域フォーカス撮像処理(t3〜t4)は、図13で説明した全域フォーカス撮像処理と略同一であるので詳細説明は省略する。また、かかる全域フォーカス撮像処理は、図12で説明した全域フォーカス撮像処理に代えてもよい。
[撮像装置の動作]
次に、図16を参照して、本実施形態に係る撮像装置1による撮像動作について説明する。図16は、本実施形態に係る撮像装置1による撮像動作を示すフローチャートである。
図16に示すように、撮像装置1のCPU11は、検出指示の入力を検知すると(S202)、撮像装置1の各部を制御して、当該被写体に焦点を合わせるためのAF処理を実行する(S204)。これらS202、S204は、上述した第1の実施形態に係る図14のS102、S104と略同一であるので、詳細説明は省略する。
次いで、S204でのAF処理により、上記被写体に合焦する合焦点位置を検出した場合(S206)、CPU11は、レリーズ指示を受けるまでの間、撮像装置1の各部を制御して、合焦点位置MPの前後に焦点を合わせた画像を得るためのブラケット撮像処理を行う(S208)。このブラケット撮像処理では、CPU11は、変形ミラー装置2を制御して、例えば図15に示したように、合焦点位置を中心とした所定範囲内で焦点位置をマクロ側及び無限遠側の位置P7、P5に交互に変更する。そして、CPU11は、撮像装置1の各部を制御して、当該変更位置P7、P5、MPのそれぞれにおいて被写体像を撮像して、複数枚の画像データD7、D5、DMを順次生成し、当該画像データD7、D5、DMをキャッシュメモリに一時的に保存する。そして、レリーズ指示(S210)に応じて、キャッシュメモリからレリーズ指示直前の1周期分Sの画像データD7、D5、DMを読み出し、ストレージ部17に記録し、その他の画像データD7、D5、DMをキャッシュメモリから削除する。これにより、必要な画像データのみをストレージ部17に格納できるので、保存する画像データ量を削減できる。
さらに、撮像装置1のCPU11は、レリーズ指示の入力を検知すると(S210)、撮像装置1の各部を制御して、撮像素子4により合焦点位置において被写体像を撮像して得た画像データを、ストレージ部17に記録する(S212)。その直後に、CPU11は、撮像装置1の各部を制御して、全域フォーカス撮像処理を実行する(S214)。これらS210〜S214は、上述した第1の実施形態に係る図14のS210〜S214と略同一であるので、詳細説明は省略する。
[効果]
以上、第2の実施形態に係る撮像装置1とその撮像方法について説明した。第2の実施形態によれば、上記第1の実施形態に係る効果に加えて、次の効果がある。
第2の実施形態によれば、シャッターチャンスにおける合焦画像を得るために、AF処理完了後、レリーズ指示までの間に、ブラケット撮像処理を行う、これにより、ユーザ所望の被写体に合焦した画像データをミス無く取得できる。
つまり、AF処理により目標の被写体に完全に焦点が合っているなら、レリーズ前のブラケット撮像処理は不要である。しかし、AF処理で目標の被写体に焦点が合わない場合がある。そこで、本実施形態では、レリーズ指示前にブラケット撮像処理することで、AF処理のミスを補償して、目標の被写体に合焦した画像データを確実に得られるようになる。
さらに、現実には、ユーザがシャッターチャンスと判断してから、レリーズボタンを押下して、合焦点位置の画像データが記録されるまでには、時間差がある。そこで、本実施形態では、その時間差を補償するために、レリーズ指示前に、合焦点位置の近傍をブラケット撮像処理する。これにより、あるシャッターチャンスの前に予め、ユーザが所望する被写体に合焦した画像データを記録しておくことができる。よって、上記時間差があったとしても、シャッターチャンスを逃すことなく、所望の被写体に正確に合焦した画像データを取得できる。
また、レリーズ指示前に取得した画像データは、撮像装置1に設定された所定時間分(例えば、レリーズ直前の1周期分S)のみ有効となるので、撮像装置1のストレージ部17に記録される画像データのデータ量を必要最小限に抑えることができる。
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。第3の実施形態は、上述した第2の実施形態と比べて、検出指示に応じて被写体検出処理を行い、その被写体検出処理で検出された合焦点位置の範囲内でブラケット撮像を行う点で相違し、その他の機能構成は第2の実施形態と略同一であるので、その詳細説明は省略する。
第3の実施形態に係る撮像装置1は、検出指示(例えば、レリーズボタンの半押し操作)に応じて、被写体検出処理を行う。この検出処理では、合焦可能範囲内で焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを分析して、被写体検出用の評価パラメータを求める。これにより、撮像装置1は、撮像範囲内に存在する1又は2以上の被写体を検出するとともに、当該検出された被写体に合焦する合焦点位置の範囲を検出する。そして、当該被写体検出処理が完了してからレリーズ指示までの間は、上記検出された合焦点位置の範囲内で、焦点位置を変更させながら、ブラケット撮像を行う。ブラケット撮像では、撮像装置1は、当該合焦点位置の範囲内で、焦点位置を周期的に変更しながら、当該変更された複数の焦点位置において被写体像を撮像して得た画像データをストレージ部17に記録する。その後、撮像装置1は、1回のレリーズ指示(例えば、レリーズボタンの全押し操作)に応じて、合焦点位置の範囲内の任意の焦点位置で撮像して得た画像データをストレージ部17に記録するとともに、第2の実施形態と同様にして全域フォーカス撮像処理を行う。
このように、第3の実施形態に係る撮像装置1は、被写体検出処理で撮像範囲内の被写体及びその合焦点位置の範囲を検出するためにフォーカスを制御し、また、ブラケット撮像及び全域フォーカス撮像処理で焦点位置を変更するためにフォーカスを制御する。以下に、本実施形態に係るフォーカス制御の具体例について、図17を参照して詳細に説明する。
図17は、本実施形態に係る被写体検出処理、ブラケット撮像処理及び全域フォーカス撮像処理におけるフォーカス制御の例を示す模式図である。なお、図17において、縦軸(Z軸)は焦点位置、横軸は時間を示す。
図17に示すように、撮像装置1の撮像範囲内に1つの被写体Hが存在し、この被写体Hは奥行き方向(Z軸方向)に所定以上の厚みを有する物体であるときに、撮像装置1で被写体Hを検出して、マルチフォーカス撮像する場合を考える。
まず、撮像装置1のCPU11は、検出指示(被写体検出開始指示)を受けると、被写体検出処理を行って、撮像範囲内に存在する被写体Hを検出するとともに、当該被写体Hに合焦する合焦点位置の範囲rを検出する(t1〜t4)。この被写体検出処理は、例えば、上述した山登りAF法、位相差検出法、コントラスト検出法など、任意のAF方式を利用して実現できる。
ここで、図18を参照して、コントラスト検出法により被写体検出する例を説明する。図18(a)に示すように、被写体H1、H2が図示の位置関係で存在する撮像空間を、撮像装置1で撮像した場合を考える。この場合、図18(b)に示すように、撮像素子4により被写体H1、H2を撮像して得た画像19上では、被写体H1に対応する像と、被写体H1に対応する像との位置関係は図示のようになる。CPU11は、かかる画像19の画像データを解析し、焦点位置を移動させながら画像のコントラスト値が最も高くなる焦点位置を探索する。このとき、焦点位置をマクロから無限遠まで移動させたときのコントラスト値は、図18(c)に示すようになる。図18(c)で左側のピークは、被写体H1に対応する像の近傍の画素から求められるコントラスト出力であり、右側のピークは、被写体H2に対応する像の近傍の画素から求められるコントラスト出力である。これにより、CPU11は、かかるコントラスト出力が最大となるときの焦点位置MP1、MP2を、それぞれ被写体H1、H2の合焦点位置であると特定できる。さらに、CPU11は、コントラスト出力のピークの幅から、被写界深度に応じた許容ボケにより被写体H1、H2に合焦しうる合焦点位置の範囲r1、r2を求めることができる。
図17に戻り説明を続ける。上記のような被写体検出処理(t1〜t4)により、CPU11は、焦点位置をマクロ位置NPから無限遠位置FPまで変更する途中の時間t2〜t3で検出されたコントラスト出力に基づいて、被写体Hに合焦する合焦点位置の範囲rを求めることができる。図示の例では、合焦点位置の範囲rは、焦点位置P4〜焦点位置P6までの範囲である。なお、撮像装置1により被写体Hの手前側は撮像できるが、奥側は撮像できないので、合焦点位置の範囲rは、被写体Hの手前側の部分に対応する焦点位置の範囲となる。
次いで、上記被写体H及び合焦点位置の範囲rの検出を完了してから、レリーズ指示を受け付けるまでの間、CPU11は、ブラケット撮像処理を行う(t4〜t5)。
このブラケット撮像処理について詳細に説明する。ブラケット撮像処理では、撮像装置1のCPUは、上記被写体検出処理で検出した合焦点位置の範囲r内で、焦点位置を周期的に変更する。図示の例では、焦点位置は、当該合焦点位置の範囲r内で、位置P4→P5→P6→P4→P5→P6→・・・といったように周期的かつ段階的に変更される。撮像装置1は、このように焦点位置を周期的かつ段階的に変更しながら、それぞれの変更位置P4、P5、P6・・・において撮像素子4により被写体像を撮像し、当該撮像素子4から出力された画像信号に基づいて画像データD4、D5、D6・・・を生成する。CPU11は、このように生成した画像データD4、D5、D6・・・を、不図示のキャッシュメモリ等に一時的に保存しておく。
以上のようにして、撮像装置1は、ブラケット撮像処理(t4〜t5)を行うことで、奥行き方向に厚みのある被写体Hに合焦した複数枚の画像データD4、D5、D6・・・を周期的に取得できる。かかる画像データD4、D5、D6・・・を得ることで、厚みのある被写体Hの手前側部分、中央部分、奥側部分にそれぞれ正確に合焦した画像データを取得できる。
なお、図17の例では、焦点位置を合焦点位置の範囲r内でP4→P5→P6の順に変更しながらブラケット撮像処理を行ったが、かかる例に限定されず、当該合焦点位置の範囲r内であれば焦点位置を任意の順(例えば、P6→P5→P4)で変更してもよい。
以上のようなブラケット撮像処理は、レリーズ指示(t5)があるまで繰り返される。CPU11は、上記ブラケット撮像処理により取得されて、キャッシュメモリに一時的に保存されていた複数の画像データD4、D5、D6・・・のうち、レリーズ指示の直前の1周期分Sの画像データD4、D5、D6をストレージ部17に保存し、その他の保存用画像データD4、D5、D6・・・は、重複した画像データであるので削除する。ブラケット撮像処理では、同一の焦点位置P4、P5、P6で繰り返し撮像しているので、保存されるデータ量を削減するため、重複している古い画像データD4、D5、D6・・・を削除し、レリーズ指示直前に得られた最新の画像データD4、D5、D6・・・を残せばよい。これは、レリーズ指示直前に得られた最新の画像データD4、D5、D6・・・が、シャッターチャンスをより反映したものであるからである。
かかるブラケット撮像処理中に、CPU11は、レリーズ指示を受け付けると、その受け付け時点で、撮像素子4によって合焦点位置の範囲r内の任意の焦点位置(例えば、図示の例では位置P6)において被写体像を撮像して得た画像データD6を、ストレージ部17に記録する(t5)。これにより、上記被写体検出処理にて検出された被写体Hに焦点が合っている画像データD6を、保存用画像データとして記録できる。さらに、かかる画像データD6の記録後すぐに、CPU11は、全域フォーカス撮像処理を実行して、マクロ側から無限遠側までの合焦可能範囲全域の被写体に合焦した複数枚の画像データD1〜D11をストレージ部17に記録する(t5〜t6)。かかる全域フォーカス撮像処理(t5〜t6)は、図13で説明した全域フォーカス撮像処理と略同一であるので詳細説明は省略する。また、かかる全域フォーカス撮像処理は、図12で説明した全域フォーカス撮像処理に代えてもよい。
[撮像装置の動作]
次に、図19を参照して、本実施形態に係る撮像装置1による撮像動作について説明する。図19は、本実施形態に係る撮像装置1による撮像動作を示すフローチャートである。
図19に示すように、撮像装置1のCPU11は、検出指示の入力を検知すると(S302)、撮像装置1の各部を制御して、合焦可能範囲内に存在する被写体Hと、該被写体Hに合焦する合焦点位置の範囲rを検出するための被写体検出処理を実行する(S304)。
被写体検出処理では、CPU11は、例えば図18に示したようにコントラスト検出法を用いて、焦点位置を合焦可能範囲全域で変更しながら、撮像装置1により被写体像を撮像して得た画像データを解析し、画像のコントラスト値の推移を求める。そして、CPU11は、このコントラスト値の推移に基づいて、撮像範囲内に存在する被写体Hと、当該被写体Hに合焦する合焦点位置の範囲rを検出する。
次いで、S304での被写体検出処理により、上記被写体Hと、合焦点位置の範囲rを検出した場合(S306)、CPU11は、レリーズ指示(S310)を受けるまでの間、撮像装置1の各部を制御して、上記被写体Hの奥行き方向全体に渡って焦点を合わせるためのブラケット撮像処理を行う(S308)。このブラケット撮像処理では、CPU11は、変形ミラー装置2を制御して、例えば図17に示したように、合焦点位置の範囲r内で焦点位置をマクロ側及び無限遠側に交互に振りながら、位置P4、P5、P6に周期的に変更する。そして、CPU11は、撮像装置1の各部を制御して、当該変更位置P4、P5、P6のそれぞれにおいて被写体像を撮像して、複数枚の画像データD4、D5、D6を順次生成し、当該画像データD4、D5、D6をキャッシュメモリに一時的に保存する。そして、レリーズ指示(S310)に応じて、キャッシュメモリからレリーズ指示直前の1周期分Sの画像データD4、D5、D6を読み出し、ストレージ部17に記録し、その他の画像データD4、D5、D6をキャッシュメモリから削除する。これにより、必要な画像データD4、D5、D6のみをストレージ部17に格納できるので、保存する画像データ量を削減できる。
さらに、撮像装置1のCPU11は、レリーズ指示の入力を検知すると(S310)、撮像装置1の各部を制御して、撮像素子4により合焦点位置の範囲r内の任意の焦点位置P6において被写体像を撮像して得た画像データを、ストレージ部17に記録する(S312)。その直後に、CPU11は、撮像装置1の各部を制御して、全域フォーカス撮像処理を実行する(S314)。これらS310〜S314は、上述した第1の実施形態に係る図14のS110〜S114と略同一であるので、詳細説明は省略する。
[効果]
以上、第3の実施形態に係る撮像装置1とその撮像方法について説明した。第3の実施形態によれば、上記第2の実施形態に係る効果に加えて、次の効果がある。
第3の実施形態によれば、AF処理ではなく、被写体検出処理を行うので、撮像範囲内に存在する1又は2以上の被写体Hのみならず、その被写体Hに対する合焦焦点位置の範囲rをも検出できる。
例えば、奥行き方向に厚みのある大きな被写体Hを撮像する場合、AF処理で焦点を合わせて撮像すると、被写体Hの手前側、奥側、中央部のうちどの部分に合焦するかは調整しにくい。これに対して、本実施形態では、被写体検出処理で検出された合焦焦点位置の範囲r内で焦点位置を変更しながら、ブラケット撮像するので、被写体Hの手前側、奥側、中央部の全ての位置に精度良く合焦した複数枚の画像データを得ることができる。つまり、本実施形態では、厚みのある被写体Hの奥行き方向をスキャンして、1つの被写体Hについて多焦点画像を得ることができる。よって、撮像後に、ユーザは、被写体Hの所望の部分に正確に合焦した画像データを容易に取得できる。また、かかる1つの被写体Hについての複数枚の画像データを得ることで、画像合成による3次元画像を高精度かつ容易に作成できるようになる。
さらに、本実施形態では、撮像範囲内から被写体Hを抽出して、最良のシャッターチャンスのときにその被写体を撮像し、残った時間で全域フォーカス撮影を行う。これにより、被写体抽出を正確に実行できるとともに、ユーザが所望する被写体Hの多焦点画像データをシャッターチャンス内で取得できる。
<第4の実施形態>
次に、本発明の第4の実施形態について説明する。第4の実施形態は、上述した第3の実施形態と比べて、被写体検出処理で複数の被写体を検出する点と、レリーズ後に、被写体検出処理で検出された被写体に対してのみ被写体撮像を行う点で相違し、その他の機能構成は第3の実施形態と略同一であるので、その詳細説明は省略する。
第4の実施形態に係る撮像装置1は、検出指示(例えば、レリーズボタンの半押し操作)に応じて、被写体検出処理を行う。この検出処理では、合焦可能範囲内で焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを分析して、被写体検出用の評価パラメータを求める。これにより、撮像装置1は、撮像範囲内に存在する複数の被写体を検出するとともに、当該検出されたそれぞれの被写体に合焦する合焦点位置の範囲を検出する。そして、当該被写体検出処理が完了してからレリーズ指示までの間は、上記検出された複数の被写体の中から選択された1の被写体に合焦する合焦点位置の範囲内で、焦点位置を変更させながら、ブラケット撮像を行う。ブラケット撮像では、撮像装置1は、当該合焦点位置の範囲内で、焦点位置を周期的に変更しながら、当該変更された複数の焦点位置において被写体像を撮像して得た画像データをストレージ部17に記録する。
その後、撮像装置1は、1回のレリーズ指示(例えば、レリーズボタンの全押し操作)に応じて、合焦点位置の範囲内の任意の焦点位置で撮像して得た画像データをストレージ部17に記録する。さらに、撮像装置1は、上述した合焦可能範囲全域をスキャンする全域フォーカス撮像処理の代わりに、上記被写体検出処理で検出された複数の被写体に合焦する合焦点位置の範囲内のみをスキャンする被写体撮像処理を行う。この被写体撮像処理では、上記被写体検出処理により検出された複数の被写体に合焦する合焦点位置の範囲内で、焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において被写体像を撮像して得た画像データを保存用画像データとして取得して、ストレージ部17に記録する。
このように、第4の実施形態に係る撮像装置1は、被写体検出処理で撮像範囲内の被写体及びその合焦点位置の範囲を検出するためにフォーカスを制御し、また、ブラケット撮像及び被写体撮像処理で焦点位置を変更するためにフォーカスを制御する。以下に、本実施形態に係るフォーカス制御の具体例について、図20を参照して詳細に説明する。
図20は、本実施形態に係る被写体検出処理、ブラケット撮像処理及び被写体撮像処理におけるフォーカス制御の例を示す模式図である。なお、図20において、縦軸(Z軸)は焦点位置、横軸は時間を示す。
図20に示すように、撮像装置1の撮像範囲内に3つの被写体H1、H2、H3が存在するときに、撮像装置1で被写体H1、H2、H3を検出して、マルチフォーカス撮像する場合を考える。なお、被写体H3は、建物の壁等であり、撮像装置1側から見ると、被写体H3の奥側は見えないものとする。
まず、撮像装置1のCPU11は、検出指示(被写体検出開始指示)を受けると、被写体検出処理を行って、撮像範囲内に存在する被写体H1〜H3を検出するとともに、被写体H1〜H3に合焦する合焦点位置の範囲r1〜r3を検出する(t1〜t6)。なお、被写体H1は時間t2〜t3で検出され、被写体H1は時間t4〜t5で検出される。この被写体検出処理は、例えば、上述した山登りAF法、位相差検出法、コントラスト検出法など、任意のAF方式を利用して実現できるが、その詳細は第3の実施形態と略同一であるので詳細説明を省略する。
上記のような被写体検出処理(t1〜t6)により、CPU11は、焦点位置をマクロ位置NPから無限遠位置FPまで変更する途中の時間t2〜t3、t4〜t5で検出されたコントラスト出力に基づいて、被写体H1、H2に合焦する合焦点位置の範囲r1、r2を求めることができる。図示の例では、合焦点位置の範囲r1は、焦点位置P2〜P4までの範囲であり、合焦点位置の範囲r2は、焦点位置P6〜P8までの範囲である。なお、被写体H3の合焦点位置の範囲r3は、焦点位置P10のみである。
次いで、上記被写体H1〜H3及び合焦点位置の範囲r1〜r3の検出を完了してから、レリーズ指示を受け付けるまでの間、CPU11は、ブラケット撮像処理を行う(t6〜t7)。図示の例では、検出された複数の被写体H1〜H3の中から選択された1つの被写体H1に対してのみブラケット撮像処理を行っている。この被写体H1の選択は、ユーザにより手動で行ってもよいし、或いは、予め設定された基準に従いCPU11が自動的に行ってもよい。例えば、ユーザは、ライブビュー画像に表示された被写体H1〜H3の中から所望の被写体H1を選択して、その選択指示を撮像装置1のタッチパネル等に入力することで、重要な被写体H1だけをブラケット撮像処理させることができる。
この結果、撮像装置1のCPUは、上記選択された被写体H1の合焦点位置の範囲r1内で、焦点位置を周期的に変更する。図示の例では、焦点位置は、当該合焦点位置の範囲r1内で、位置P2→P3→P4→P2→P3→P4→・・・といったように周期的かつ段階的に変更される。撮像装置1は、このように焦点位置を周期的かつ段階的に変更しながら、それぞれの変更位置P2、P3、P4・・・において被写体像を撮像して得た画像データD2、D3、D4・・・を、記録媒体に記録する。なお、かかるブラケット撮像処理は、図17に示す第3の実施形態のブラケット撮像処理と略同一であるので詳細説明は省略する。
なお、図20の例では、選択された1つの被写体H1に対してブラケット撮像処理を行ったが、複数の被写体H1〜H3に対してブラケット撮像処理を行ってもよい。この場合、焦点位置は、当該合焦点位置の範囲r1、r2、r3内で、位置P2→P3→P4→P6→P7→P8→P10→P2・・・といったように周期的かつ段階的に変更される。
かかるブラケット撮像処理中に、CPU11は、レリーズ指示を受け付けると、その受け付け時点で、ブラケット撮像されている被写体H1の合焦点位置の範囲r1内の任意の焦点位置(例えば、図示の例では位置P4)において被写体像を撮像して得た画像データD4を、ストレージ部17に記録する(t7)。これにより、上記のように選択された被写体H1に焦点が合っている画像データD4を、保存用画像データとして記録できる。さらに、かかる画像データD4の記録後すぐに、CPU11は、上記検出された被写体H1、H2、H3に対する被写体撮像処理を実行する(t7〜t8)。
詳細には、かかる被写体検出処理では、CPU11は、上記検出された被写体H1、H2、H3の合焦点位置の範囲r1、r2、r3内において、焦点位置を位置P2、P3、P4、P6、P7、P8、P10に段階的に変更しながら、当該変更された焦点位置にて被写体像を撮像して得た複数枚の画像データD2、D3、D4、D6、D7、D8、D10を、ストレージ部17に記録する(t7〜t8)。
以上のように、本実施形態に係る撮像装置1は、まず、検出指示に応じて、合焦可能範囲全域をスキャンする被写体検出処理を行って、撮影したい被写体H1〜H3がどの焦点位置にあるかを検出する。次いで、撮像装置1は、レリーズ指示に応じて、被写体H1〜H3がある部分(焦点位置P2〜P4、P6〜P8、P10)のみを撮像し、被写体H1〜H3が無い不要な部分(焦点位置P1、P5、P9、P11)を撮像しない。従って、被写体撮像処理は、被写体が存在する必要な部分のみを撮像するので、上述した全域フォーカス撮像処理よりも短時間で効率的に実行できる。
[撮像装置の動作]
次に、図21を参照して、本実施形態に係る撮像装置1による撮像動作について説明する。図21は、本実施形態に係る撮像装置1による撮像動作を示すフローチャートである。
図21に示すように、撮像装置1のCPU11は、検出指示の入力を検知すると(S402)、撮像装置1の各部を制御して、合焦可能範囲内に存在する複数の被写体H1〜H3と、該被写体H1〜H3に合焦する合焦点位置の範囲r1〜r3を検出するための被写体検出処理を実行する(S404)。この被写体検出処理S404は、上述した図19の被写体検出処理S304と略同一であるので、詳細説明は省略する。
次いで、S404での被写体検出処理により、上記被写体H1〜H3の検出が完了すると(S406)、CPU11は、例えば、ユーザ入力に基づいて、複数の被写体H1〜H3の中から、重要な被写体H1を1つ選択する(S407)。この選択処理で選択された被写体H1が、次のブラケット撮像処理S408による撮像対象となる。よって、ブラケット撮像を行う被写体を重要な被写体H1に限定できるので、当該重要な被写体H1に正確に合焦した画像データを確実に取得できる。なお、かかる被写体選択処理S406では、2以上の被写体を選択してもよい。また、被写体選択処理S406を行わずに、検出された全ての被写体H1〜H3をブラケット撮像処理S408による撮像対象にしてもよい。
その後、CPU11は、レリーズ指示(S410)を受けるまでの間、撮像装置1の各部を制御して、上記被写体Hの奥行き方向全体に渡って焦点を合わせるためのブラケット撮像処理を行う(S408)。このブラケット撮像処理では、CPU11は、変形ミラー装置2を制御して、例えば図20に示したように、合焦点位置の範囲r内で焦点位置をマクロ側及び無限遠側に交互に振りながら、位置P2、P3、P4に周期的に変更する。そして、CPU11は、撮像装置1の各部を制御して、当該変更位置P2、P3、P4のそれぞれにおいて被写体像を撮像して、複数枚の画像データD2、D3、D4を順次生成し、当該画像データD2、D3、D4をキャッシュメモリに一時的に保存する。そして、レリーズ指示(S410)に応じて、キャッシュメモリからレリーズ指示直前の1周期分Sの画像データD2、D3、D4を読み出し、ストレージ部17に記録し、その他の画像データD2、D3、D4をキャッシュメモリから削除する。これにより、必要な画像データD2、D3、D4のみをストレージ部17に格納できるので、保存する画像データ量を削減できる。
さらに、撮像装置1のCPU11は、レリーズ指示の入力を検知すると(S410)、撮像装置1の各部を制御して、撮像素子4により被写体H1の合焦点位置の範囲r1内の任意の焦点位置P4において被写体像を撮像して得た画像データを、ストレージ部17に記録する(S412)。その直後に、CPU11は、撮像装置1の各部を制御して、被写体撮像処理を実行する(S414)。
詳細には、図20のt7〜t8で示したように、CPU11は、上記S404で検出された被写体H1、H2、H3の合焦点位置の範囲r1、r2、r3内に含まれる位置P2〜P4、P6〜P8、P10に焦点位置を段階的に変更しながら、当該変更された焦点位置にて被写体像を撮像して得た複数枚の画像データD2〜D4、D6〜D8、D10を、ストレージ部17に記録する。
[効果]
以上、第4の実施形態に係る撮像装置1とその撮像方法について説明した。第4の実施形態によれば、上記第3の実施形態に係る効果に加えて、次の効果がある。
本実施形態によれば、検出指示に応じて、合焦可能範囲全域をスキャンする被写体検出処理を行って、被写体H1〜H3がどの焦点位置にあるかを検出しておき、レリーズ指示に応じて、マルチフォーカス撮像として被写体撮像処理を行う。この被写体撮像処理では、被写体H1〜H3が存在する重要な部分(焦点位置P2〜P4、P6〜P8、P10)のみを撮像し、被写体H1〜H3が存在しない不要な部分(焦点位置P1、P5、P9、P11)を撮像しない。従って、被写体が存在する必要な部分や、ユーザ指定された重要な部分のみを撮像できるので、全域フォーカス撮像処理よりも高速に実行でき、処理効率を向上できるとともに、無駄な画像データが記録されることを防止できるため、メモリ資源を有効活用できる。
<第5の実施形態>
次に、本発明の第5の実施形態について説明する。第5の実施形態は、上述した第4の実施形態と比べて、被写体検出処理で検出した複数の被写体の中から被写体撮像する被写体を選択する点と、被写体撮像後に全域フォーカス撮像を行う点で相違し、その他の機能構成は第4の実施形態と略同一であるので、その詳細説明は省略する。
第5の実施形態に係る撮像装置1は、検出指示(例えば、レリーズボタンの半押し操作)に応じて、被写体検出処理を行う。これにより、撮像装置1は、撮像範囲内に存在する複数の被写体を検出するとともに、当該検出されたそれぞれの被写体に合焦する合焦点位置の範囲を検出する。次いで、撮像装置1は、ユーザ入力に基づいて、被写体検出処理で検出された複数の被写体の中から、1又は2以上の重要な被写体を選別する被写体選別処理を行う。そして、当該被写体検出処理が完了してからレリーズ指示までの間は、上記選別された1又は2以上の被写体の中から選択された1の被写体に合焦する合焦点位置の範囲内で、焦点位置を変更させながら、ブラケット撮像を行う。
その後、撮像装置1は、1回のレリーズ指示(例えば、レリーズボタンの全押し操作)に応じて、第4の実施形態と同様にして、合焦点位置の範囲内の任意の焦点位置で撮像して得た画像データをストレージ部17に記録する。さらに、撮像装置1は、上記被写体選別処理で選別された1又は2以上の被写体に合焦する合焦点位置の範囲内のみをスキャンする被写体撮像処理を行う。その被写体撮像処理の完了後、撮像装置1は、第2の実施形態と同様にして全域フォーカス撮像処理を行う。
このように、第5の実施形態に係る撮像装置1は、被写体検出処理で撮像範囲内の被写体及びその合焦点位置の範囲を検出するためにフォーカスを制御し、また、ブラケット撮像、被写体撮像処理及び全域フォーカス撮像処理で焦点位置を変更するためにフォーカスを制御する。以下に、本実施形態に係るフォーカス制御の具体例について、図22を参照して詳細に説明する。
図22は、本実施形態に係る被写体検出処理、ブラケット撮像処理、被写体撮像処理及び全域フォーカス撮像処理におけるフォーカス制御の例を示す模式図である。なお、図22において、縦軸(Z軸)は焦点位置、横軸は時間を示す。
図22に示すように、撮像装置1の撮像範囲内に5つの被写体H1、H2、H3、H4、H5が存在するときに、撮像装置1で被写体H1〜H5を検出して、このうちから重要な被写体H1〜H3を選択してマルチフォーカス撮像する場合を考える。なお、第5の実施形態では、第4の実施形態に係る重要な被写体H1〜H3(図20参照)の他に、重要度の低い被写体H4、H5(例えば、人物以外のオブジェクトなど)が追加されている。
まず、撮像装置1のCPU11は、検出指示(被写体検出開始指示)を受けると、被写体検出処理を行って、撮像範囲内に存在する被写体H1〜H5を検出するとともに、被写体H1、H2に合焦する合焦点位置の範囲r1〜r5を検出する(t1〜t6)。この被写体検出処理は、例えば、上述した山登りAF法、位相差検出法、コントラスト検出法など、任意のAF方式を利用して実現できるが、その詳細は第3の実施形態と略同一であるので詳細説明を省略する。
また、CPU11は、検出された5つの被写体H1〜H5を、重要な被写体H1〜H3と、重要度の低い被写体H4、H5とに選別し、重要な被写体H1〜H3を被写体撮像処理(t7〜t8)での撮像対象として選択する。この選択は、例えば、タッチパネル等に対するユーザ入力に基づいて手動で行ってもよいし、撮像により得た画像データを画像処理した結果(例えば顔認識等)に基づいて、CPU11が自動的に行ってもよい。例えば、顔認識がされた被写体は人物であり重要度が高いので、被写体撮像処理の撮像対象として選択する。
その後、撮像装置1は、上述した第4の実施形態と同様に、ブラケット撮像処理(t6〜t7)と、レリーズ操作に応じた被写体撮像処理(t7〜t8)を実行する。ただし、被写体撮像処理(t7〜t8)では、上記5つの被写体H1〜H5のうちから選択された重要な被写体H1〜H3のみを撮像する。
さらに、被写体撮像処理(t7〜t8)の完了後に、第2の実施形態と同様に、焦点位置を段階的に変更しながら合焦可能範囲全域にわたって全域フォーカス撮像を行う(t8〜t9)。この全域フォーカス撮像により、重要でないと選択した被写体H4,H5についても、念のため焦点を合わせた画像データを確保しておくことができる。
以上のように、本実施形態に係る撮像装置1は、検出した全ての被写体H1〜H5に対してではなく、重要な被写体H1〜H3のみを選択して、被写体撮像処理を行う。これにより、ユーザが所望しない被写体H4、H5に対する被写体撮像処理を省略できるので、処理速度及び効率が向上するとともに、画像データの保存データ量も低減できる。
[撮像装置の動作]
次に、図23を参照して、本実施形態に係る撮像装置1による撮像動作について説明する。図23は、本実施形態に係る撮像装置1による撮像動作を示すフローチャートである。
図23に示すように、撮像装置1のCPU11は、検出指示の入力を検知すると(S502)、撮像装置1の各部を制御して、合焦可能範囲内に存在する複数の被写体H1〜H5と、該被写体H1〜H3に合焦する合焦点位置の範囲r1〜r5を検出するための被写体検出処理を実行する(S504)。この被写体検出処理S504は、上述した図19の被写体検出処理S304と略同一であるので、詳細説明は省略する。
次いで、S504での被写体検出処理により、上記被写体H1〜H5の検出が完了すると、CPU11は、例えば、ユーザ入力に基づいて、複数の被写体H1〜H5の中から、重要な被写体を選択する第1及び第2の選択処理を行う(S507)。
第1の選択処理では、第4の実施形態と同様に、次のブラケット撮像処理S508による撮像対象となる被写体H1が例えば1つ選択される。これによって、ブラケット撮像を行う被写体を重要な被写体H1に限定できるので、当該重要な被写体H1に正確に合焦した画像データを確実に取得できる。
第2の選択処理では、後の被写体撮像処理S508による撮像対象となる1又は2以上の被写体が選択される。これによって、被写体撮像を行う被写体を重要な被写体H1〜F3に限定できるので、当該重要な被写体H1〜H3に正確に合焦した画像データを、シャッターチャンスに近いタイミングで、取得できる。また、不要な被写体H4,H5の画像データを取得しないようにできる。
次いで、CPU11は、第4の実施形態と同様に、ブラケット撮像処理を行い(S508)、レリーズ指示(S510)に応じて、撮像装置1の各部を制御して、撮像素子4により被写体H1の合焦点位置の範囲r1内の任意の焦点位置P4において被写体像を撮像して得た画像データを、ストレージ部17に記録する(S512)。その直後に、CPU11は、撮像装置1の各部を制御して、第4の実施形態と同様に、被写体撮像処理を実行する(S514)。
その後、CPU11は、第2の実施形態と同様にして合焦可能範囲全域にわたって焦点位置を段階的に変更しながら全域フォーカス撮像を行う(S516)。
[効果]
以上、第5の実施形態に係る撮像装置1とその撮像方法について説明した。第5の実施形態によれば、上記第4の実施形態に係る効果に加えて、次の効果がある。
本実施形態によれば、撮像装置1の撮像範囲内に多数の被写体H1〜H5がある場合でも、その中から重要な被写体やユーザ所望の被写体などの優先度の高い被写体を選択して、当該選択した被写体についてのみ、被写体撮像処理を行う。これにより、被写体撮像処理の対象を重要な被写体H1〜H3に限定できるので、当該被写体H1〜H3に正確に合焦した画像データを、シャッターチャンスに近いタイミングで取得できる。また、全ての被写体H1〜H5を撮像するときと比べて、被写体撮像処理の処理負荷及び処理時間、データ保存量を低減できる。さらに、被写体撮像処理後に全域フォーカス撮像処理を行うことで、被写体撮像処理で撮像されなかった優先度の低い被写体H4,H5についても、念のため、合焦させた画像データを確保しておくことができる。
<第6の実施形態>
次に、本発明の第6の実施形態について説明する。第6の実施形態は、上述した第4の実施形態と比べて、撮像装置1の絞り3を制御して被写界深度を調整することで、被写体撮像処理において各被写体を1ステップで撮像できるようにする点で相違し、その他の機能構成は第4の実施形態と略同一であるので、その詳細説明は省略する。
第6の実施形態に係る撮像装置1のCPU11は、被写体検出処理により検出された複数の被写体Hに合焦する合焦点位置rの範囲に応じて、撮像光学系の絞り3を制御することで、各焦点位置における被写界深度を調整する。被写界深度を調整することで、図10に示したように段階的に変更する焦点位置Pの粗密を調整できる。
例えば、奥行き方向に厚さのある被写体Hを撮像する場合、その被写体Hの奥行き方向全体を撮像するためには、焦点位置を段階的に変更して複数ステップで撮像しなければならないときがある。しかし、かかる場合であっても、絞り3の開度(例えばF値)を調整すれば、同一の焦点距離であっても、その焦点位置での被写界深度を深くすることができ、これにより、1ステップで当該被写体Hを撮像できるようになる。
そこで、本実施形態では、被写体撮像処理において、被写体Hに合焦する合焦点位置の範囲rが広いため、焦点位置を変更して複数ステップで撮像しなければ、その被写体Hの奥行き方向全体の合焦画像を得ることができない場合に、絞り3を調整して被写界深度を深くする。これにより、被写体に対応する焦点位置における被写界深度が、当該被写体に合焦する合焦点位置の範囲r以上となるので、当該被写体Hを1ステップで撮像できるようになる。
ここで、絞り3の開度(F値)と被写界深度との関係について説明する。上述したように、被写界深度は、前方被写界深度と後方被写界深度との和である。前方被写界深度Lfと後方被写界深度Lrはそれぞれ以下の式1、式2で表される。
ここで、δは許容錯乱円の直径、FはレンズのF値、Lは被写体までの距離、fはレンズの焦点距離である。Lは、変形ミラー装置2の変位量から算出できる。
撮像装置1のCPU11は、上記式1、式2から求めた被写界深度が、被写体の奥行き方向(Z方向)の厚さになるように、レンズのF値(絞り)を調整する。これにより、1ステップで被写体の奥行き方向全体に合焦させた状態で撮像できる。
次に、本実施形態に係るフォーカス制御について説明する。第6の実施形態に係る撮像装置1は、被写体検出処理で撮像範囲内の被写体H及びその合焦点位置の範囲rを検出するためにフォーカスを制御し、また、ブラケット撮像及び被写体撮像処理で焦点位置を変更するためにフォーカスを制御する。以下に、本実施形態に係るフォーカス制御の具体例について、図24を参照して詳細に説明する。
図24は、本実施形態に係る被写体検出処理、ブラケット撮像処理及び被写体撮像処理におけるフォーカス制御の例を示す模式図である。なお、図22において、縦軸(Z軸)は焦点位置、横軸は時間を示す。
図24に示すように、第6の実施形態に係る被写体検出処理(t1〜t6)、ブラケット撮像処理(t7〜t8)は、上述した第4の実施形態(図20参照。)と略同一である。ところが、図20に示したように、第4の実施形態にかかる被写体撮像処理(t7〜t8)では、それぞれの被写体H1、H2を3ステップ(P2→P3→P4、P6→P7→P8)で撮像している。
これに対し、図24に示すように、第6の実施形態にかかる被写体撮像処理(t7〜t8)では、それぞれの被写体H1、H2を1ステップ(P3、P7)のみで撮像している。これは、被写体検出処理(t1〜t6)で検出した被写体H1、H2を、被写体撮像処理(t7〜t8)にて1ステップで撮像できるように、被写体H1、H2の合焦点位置の範囲r1、r2に応じて、絞り3のF値を調整し、焦点位置P3、P7での被写界深度を深くしたからである。このとき、焦点位置P3、P7での被写界深度が、合焦点位置の範囲r1、r2以上となっている。
絞り3を調整するタイミングは、被写体検出処理(t1〜t6)の後であれば、レリーズ指示(〜t7)前、又は、レリーズ指示直後の被写体撮像処理開始前(t7)などであってよい。また、撮像装置1は、絞り3のF値と焦点位置との関係を表すテーブルをメモリ部12内に保持し、CPU11は、このテーブルに基づいて、被写体検出処理の検出結果に応じて適切な絞り3の値に調整するようにしてもよい。
[効果]
以上、第6の実施形態に係る撮像装置1とその撮像方法について説明した。第6の実施形態によれば、上記第4の実施形態に係る効果に加えて、次の効果がある。
本実施形態によれば、被写体検出処理での検出結果に応じて、撮像装置1の絞り3を調整することによって、それぞれの焦点位置Pでの被写界深度を深くすることができる。従って、被写体撮像処理では、被写体H1〜H3が存在する重要な部分を1ステップ(焦点位置P3、P7、P10)で撮像できるので、被写体撮像処理を更に高速に実行でき、処理効率を向上できるとともに、無駄な画像データが記録されることを更に防止できるため、メモリ資源を有効活用できる。
以上、本発明の第1〜第6の実施形態にかかる撮像装置1とこれを用いた撮像方法について説明した。本実施形態によれば、予めレリーズ指示前にAF処理や被写体検出処理等によって、所定の被写体に焦点が合った合焦点位置を検出しておき、レリーズ指示に応じて、当該合焦点位置を基準として焦点位置を変更して、マルチフォーカス撮像する。これにより、レリーズ指示があったらすぐに、シャッターチャンスに近いときに、合焦点位置とその近傍の被写体を撮像できる。従って、シャッターチャンスを逃さずに、ユーザ所望の焦点位置に合焦した画像を得ることができる。
また、本実施形態では、マルチフォーカス撮影時に、1回のレリーズ操作に応じて、相異なる焦点位置に合焦した複数枚の画像を取得する。このため、通常の撮像装置と比較して多くの画像データを持つため、撮影後に取り込んだ画像データを信号処理や合成処理して新たな画像を得る際にも、従来の撮像装置と比べて非常に有利となる。このため、通常の撮像装置で得られる画像を合成したものよりも、自然で高品位な画像を得ることができる。
また、撮像装置で所望の被写体に焦点を合わせた画像を得ることは、時には非常に難しいが、本実施形態によれば、より正確かつ容易に当該画像を得ることができる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
本発明の第1の実施形態に係る撮像装置の構成を示すブロック図である。 同実施形態に係る信号処理部の内部構成例を示すブロック図である。 同実施形態に係る変形ミラー装置の構成を示す断面図である 同実施形態に係る撮像装置による撮像処理を概略的に示す模式図である。 同実施形態に係る変形ミラー装置を用いた焦点位置の変更を示す模式図である。 同実施形態に係る焦点位置の変更を示す説明図である。 図6の下図の部分拡大図である。 同実施形態に係る撮像装置における焦点位置の変更位置の設定を説明するための模式図である。 同実施形態に係る焦点位置ごとの被写界深度を説明するための模式図である。 同実施形態に係る被写界深度に応じた焦点位置の変更位置を説明するための模式図である。 同実施形態に係る焦点位置の変更位置Pを設定する基点を説明するための模式図である。 同実施形態に係るフォーカス制御の一例を示す模式図である。 同実施形態に係るフォーカス制御の別の例を示す模式図である。 同実施形態に係る撮像装置による撮像動作を示すフローチャートである。 本発明の第2の実施形態に係るフォーカス制御の例を示す模式図である。 同実施形態に係る撮像装置による撮像動作を示すフローチャートである。 本発明の第3の実施形態に係るフォーカス制御の例を示す模式図である。 同実施形態に係るコントラスト検出法により被写体を検出する例を示す模式図である。 同実施形態に係る撮像装置による撮像動作を示すフローチャートである。 本発明の第4の実施形態に係るフォーカス制御の例を示す模式図である。 同実施形態に係る撮像装置による撮像動作を示すフローチャートである。 本発明の第5の実施形態に係るフォーカス制御の例を示す模式図である。 同実施形態に係る撮像装置による撮像動作を示すフローチャートである。 本発明の第6の実施形態に係るフォーカス制御の例を示す模式図である。
符号の説明
1 撮像装置
2 変形ミラー装置
2a ミラー面
3 絞り
4 撮像素子
5 前処理部
6 信号処理部
7 AF素子
8 ミラー駆動回路
9 絞り制御部
10 撮像制御部
11 CPU
12 メモリ部
13 操作入力部
14 バス
15 表示部
16 圧縮/伸張処理部
17 ストレージ部

Claims (20)

  1. 受光した被写体像を撮像して画像信号を出力する撮像素子と、前記撮像素子に前記被写体像を結像させるための撮像光学系とを有する撮像部と、
    焦点位置を変更するために前記撮像光学系又は前記撮像素子の少なくとも一方を駆動させる駆動部と、
    前記撮像素子から出力された前記画像信号を処理することにより前記被写体像の画像データを生成する画像データ生成部と、
    前記撮像部、前記駆動部及び前記画像データ生成部を制御する制御部と、
    を備え、
    前記制御部は、
    検出指示に応じて、撮像範囲内の所定の被写体に合焦する合焦点位置を検出し、レリーズ指示に応じて、前記合焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するとともに、前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得する、撮像装置。
  2. 前記制御部は、前記検出指示に応じて、前記撮像範囲内の所定の被写体に焦点を合わせるためのオートフォーカス処理を行うことで、前記合焦点位置を検出する、請求項1に記載の撮像装置。
  3. 前記制御部は、前記検出指示から前記レリーズ指示までの間に、前記オートフォーカス処理により検出された前記合焦点位置を中心とする所定の範囲内で、焦点位置を変更しながら、当該変更された複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するブラケット撮像処理を行う、請求項2に記載の撮像装置。
  4. 前記制御部は、前記ブラケット撮像処理により取得された前記保存用画像データのうち、前記レリーズ指示の直前の少なくとも1周期分の保存用画像データをストレージ部に保存する、請求項3に記載の撮像装置。
  5. 前記制御部は、前記レリーズ指示に応じて、前記撮像光学系における最短距離側の焦点位置から無限遠側の焦点位置までの合焦可能範囲内で、前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得する全域フォーカス撮像処理を行う、請求項1に記載の撮像装置。
  6. 前記全域フォーカス撮像処理では、前記制御部は、前記レリーズ指示に応じて、前記合焦可能範囲内で焦点位置が前記合焦点位置から近距離側又は遠距離側に徐々に離れていくように焦点位置を変更する、請求項5に記載の撮像装置。
  7. 前記制御部は、前記撮像光学系の被写界深度に応じて、焦点位置の変更位置を前記合焦可能範囲内に段階的に複数設定し、
    前記全域フォーカス撮像処理では、前記制御部は、前記レリーズ指示に応じて、前記複数の変更位置のうち前記合焦点位置に近い変更位置から順に焦点位置を段階的に変更する、請求項5に記載の撮像装置。
  8. 前記制御部は、前記レリーズ指示に応じて、前記合焦点位置を基点として前記複数の変更位置を設定し、当該設定した複数の変更位置に焦点位置を段階的に変更する、請求項7に記載の撮像装置。
  9. 前記制御部は、前記検出指示に応じて、焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを解析することにより、前記撮像範囲内に存在する1又は2以上の被写体と、当該被写体に合焦する前記合焦点位置の範囲を検出する被写体検出処理を行う、請求項1に記載の撮像装置。
  10. 前記制御部は、前記検出指示に応じて前記被写体検出処理を実行してから前記レリーズ指示までの間に、前記被写体検出処理により検出された前記合焦点位置の範囲内で、焦点位置を変更しながら、当該変更された複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するブラケット撮像処理を行う、請求項9に記載の撮像装置。
  11. 前記制御部は、前記ブラケット撮像処理により取得された前記保存用画像データのうち、前記レリーズ指示の直前の少なくとも1周期分の保存用画像データをストレージ部に保存する、請求項10に記載の撮像装置。
  12. 前記ブラケット撮像処理では、前記制御部は、前記被写体検出処理により検出された複数の被写体の中から選択された1の被写体に合焦する前記合焦点位置の範囲内で、焦点位置を変更する、請求項10に記載の撮像装置。
  13. 前記制御部は、前記レリーズ指示に応じて、前記撮像光学系における最短距離側の焦点位置から無限遠側の焦点位置までの合焦可能範囲のうち、前記被写体検出処理により検出された前記合焦点位置の範囲内で、焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得する被写体撮像処理を行う、請求項9に記載の撮像装置。
  14. 前記制御部は、前記レリーズ指示に応じて、前記被写体撮像処理を行った後に、前記合焦可能範囲内で焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得する全域フォーカス撮像処理を行う、請求項13に記載の撮像装置。
  15. 前記被写体撮像処理では、前記制御部は、前記被写体検出処理により検出された前記被写体の中から選択された1又は2以上の被写体に合焦する前記合焦点位置の範囲内で、焦点位置を変更する、請求項13に記載の撮像装置。
  16. 前記被写体撮像処理では、前記制御部は、前記被写体検出処理により検出された前記合焦点位置の範囲に応じて、前記撮像光学系の絞りを制御する、請求項13に記載の撮像装置。
  17. 前記制御部は、前記被写体検出処理により検出された前記被写体に対応する焦点位置における被写界深度が、当該被写体に合焦する前記合焦点位置の範囲以上となるように、前記撮像光学系の絞りを制御する、請求項16に記載の撮像装置。
  18. 前記撮像光学系は、断面形状を凸状又は凹状に変形可能に構成された変形ミラーを備え、
    前記駆動部は、前記制御部の指示に基づいて前記変形ミラーを変形駆動させることにより、前記焦点位置を変更する、請求項1に記載の撮像装置。
  19. 受光した被写体像を撮像して画像信号を出力する撮像素子と、前記撮像素子に前記被写体像を結像させるための撮像光学系とを有する撮像部と、焦点位置を変更するために前記撮像光学系又は前記撮像素子の少なくとも一方を駆動させる駆動部と、前記撮像素子から出力された前記画像信号を処理することにより前記被写体像の画像データを生成する画像データ生成部と、前記撮像部、前記駆動部及び前記画像データ生成部を制御する制御部と、を備えた撮像装置における撮像方法であって、
    検出指示に応じて、撮像範囲内の所定の被写体に合焦する合焦点位置を検出するステップと、
    レリーズ指示に応じて、前記合焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するステップと、
    前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するステップと、
    を含む、撮像方法。
  20. 受光した被写体像を撮像して画像信号を出力する撮像素子と、前記撮像素子に前記被写体像を結像させるための撮像光学系とを有する撮像部と、焦点位置を変更するために前記撮像光学系又は前記撮像素子の少なくとも一方を駆動させる駆動部と、前記撮像素子から出力された前記画像信号を処理することにより前記被写体像の画像データを生成する画像データ生成部と、前記撮像部、前記駆動部及び前記画像データ生成部を制御する制御部と、を備えた撮像装置のコンピュータに、
    検出指示に応じて、撮像範囲内の所定の被写体に合焦する合焦点位置を検出するステップと、
    レリーズ指示に応じて、前記合焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するステップと、
    前記合焦点位置を基準として焦点位置を変更しながら、当該変更された相異なる複数の焦点位置において前記被写体像を撮像して得た前記画像データを保存用画像データとして取得するステップと、
    を実行させるためのプログラム。
JP2008300177A 2008-11-25 2008-11-25 撮像装置、撮像方法及びプログラム Expired - Fee Related JP5163446B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008300177A JP5163446B2 (ja) 2008-11-25 2008-11-25 撮像装置、撮像方法及びプログラム
US12/589,686 US8416338B2 (en) 2008-11-25 2009-10-27 Imaging device and imaging method
CN2009102265699A CN101742107B (zh) 2008-11-25 2009-11-25 成像装置和成像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008300177A JP5163446B2 (ja) 2008-11-25 2008-11-25 撮像装置、撮像方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2010128018A true JP2010128018A (ja) 2010-06-10
JP5163446B2 JP5163446B2 (ja) 2013-03-13

Family

ID=42195903

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008300177A Expired - Fee Related JP5163446B2 (ja) 2008-11-25 2008-11-25 撮像装置、撮像方法及びプログラム

Country Status (3)

Country Link
US (1) US8416338B2 (ja)
JP (1) JP5163446B2 (ja)
CN (1) CN101742107B (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012015610A (ja) * 2010-06-29 2012-01-19 Fujitsu Semiconductor Ltd 処理装置
KR20130143271A (ko) * 2012-06-21 2013-12-31 엘지전자 주식회사 이동 단말기 및 그 제어방법
JP2014068088A (ja) * 2012-09-25 2014-04-17 Sharp Corp 撮像装置および撮像装置制御方法
KR20140060750A (ko) * 2012-11-12 2014-05-21 삼성전자주식회사 전자장치에서 다초점 영상 촬영 및 저장 방법 및 장치
JP2014153890A (ja) * 2013-02-07 2014-08-25 Canon Inc 画像処理装置、撮像装置、制御方法、及びプログラム
JP2014211574A (ja) * 2013-04-19 2014-11-13 キヤノン株式会社 撮像装置、その制御方法およびプログラム
JP2014232181A (ja) * 2013-05-28 2014-12-11 キヤノン株式会社 撮像装置およびその制御方法
JP2015522959A (ja) * 2012-04-26 2015-08-06 ザ・トラスティーズ・オブ・コロンビア・ユニバーシティ・イン・ザ・シティ・オブ・ニューヨーク 画像において対話式再合焦を提供するためのシステム、方法、及び媒体
JP2015171153A (ja) * 2014-03-06 2015-09-28 アップル インコーポレイテッド ルート証明書の無効化
JP2015201837A (ja) * 2014-03-26 2015-11-12 インテル・コーポレーション 全焦点の実現
JP2015216678A (ja) * 2015-07-09 2015-12-03 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
WO2016056089A1 (ja) * 2014-10-08 2016-04-14 日立マクセル株式会社 カメラ及び撮影方法
JP2020003760A (ja) * 2018-07-02 2020-01-09 キヤノン株式会社 撮像装置及びその制御方法
US10863095B2 (en) 2017-03-15 2020-12-08 Fujifilm Corporation Imaging apparatus, imaging method, and imaging program
KR102280184B1 (ko) * 2020-04-24 2021-07-29 (주)하이비젼시스템 위상 오토포커스 픽셀을 이용한 렌즈 모듈 액티브 얼라인 시스템

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
PH12011501221A1 (en) * 2008-12-17 2010-06-24 Basf Se Method and printing press for printing a substrate
KR101643613B1 (ko) * 2010-02-01 2016-07-29 삼성전자주식회사 디지털 영상 처리 장치, 영상 처리 방법 및 이를 기록한 기록 매체
JP2011221253A (ja) 2010-04-08 2011-11-04 Sony Corp 撮像装置、固体撮像素子、撮像方法およびプログラム
JP5582935B2 (ja) * 2010-09-22 2014-09-03 富士フイルム株式会社 撮像モジュール
US8970770B2 (en) 2010-09-28 2015-03-03 Fotonation Limited Continuous autofocus based on face detection and tracking
JP5870264B2 (ja) * 2010-11-08 2016-02-24 パナソニックIpマネジメント株式会社 撮像装置、撮像方法、プログラム、および集積回路
US8648959B2 (en) * 2010-11-11 2014-02-11 DigitalOptics Corporation Europe Limited Rapid auto-focus using classifier chains, MEMS and/or multiple object focusing
US8659697B2 (en) * 2010-11-11 2014-02-25 DigitalOptics Corporation Europe Limited Rapid auto-focus using classifier chains, MEMS and/or multiple object focusing
JP5050094B2 (ja) * 2010-12-21 2012-10-17 株式会社東芝 映像処理装置及び映像処理方法
JP6148431B2 (ja) * 2010-12-28 2017-06-14 キヤノン株式会社 撮像装置およびその制御方法
US8508652B2 (en) 2011-02-03 2013-08-13 DigitalOptics Corporation Europe Limited Autofocus method
JP5675419B2 (ja) * 2011-02-18 2015-02-25 キヤノン株式会社 画像生成装置、及び、画像生成方法
JP5197785B2 (ja) * 2011-03-30 2013-05-15 キヤノン株式会社 画像処理装置、撮像システム、画像処理システム
CN103384998B (zh) * 2011-03-31 2015-07-15 富士胶片株式会社 摄像装置、及摄像方法
CN103297665A (zh) * 2012-02-22 2013-09-11 庄佑华 图像采集系统
US9288377B2 (en) * 2012-05-02 2016-03-15 Semiconductor Components Industries, Llc System and method for combining focus bracket images
US20130321690A1 (en) * 2012-05-31 2013-12-05 Aravind Krishnaswamy Methods and Apparatus for Refocusing via Video Capture
US9894269B2 (en) * 2012-10-31 2018-02-13 Atheer, Inc. Method and apparatus for background subtraction using focus differences
CN103905718B (zh) * 2012-12-28 2018-07-03 联想(北京)有限公司 一种信息处理方法、装置及电子设备
US9025874B2 (en) * 2013-02-19 2015-05-05 Blackberry Limited Method and system for generating shallow depth of field effect
JP5662511B2 (ja) * 2013-04-10 2015-01-28 シャープ株式会社 撮像装置
JP5743236B2 (ja) * 2013-09-17 2015-07-01 オリンパス株式会社 撮影機器及び撮影方法
CN104683684B (zh) * 2013-11-29 2018-06-26 华为技术有限公司 光场图像处理方法和装置以及光场相机
CN103795927B (zh) * 2014-02-11 2017-02-15 宇龙计算机通信科技(深圳)有限公司 一种拍照方法及系统
KR102149448B1 (ko) 2014-02-21 2020-08-28 삼성전자주식회사 이미지를 처리하기 위한 전자 장치 및 방법
JP6395429B2 (ja) * 2014-04-18 2018-09-26 キヤノン株式会社 画像処理装置、その制御方法及び記憶媒体
CN103929591B (zh) * 2014-04-22 2017-06-20 苏州比特速浪电子科技有限公司 图像处理装置
JP6362433B2 (ja) * 2014-06-04 2018-07-25 キヤノン株式会社 画像処理装置およびその制御方法、プログラム
US9804392B2 (en) 2014-11-20 2017-10-31 Atheer, Inc. Method and apparatus for delivering and controlling multi-feed data
CN106161910B (zh) * 2015-03-24 2019-12-27 北京智谷睿拓技术服务有限公司 成像控制方法和装置、成像设备
CN105657240A (zh) * 2015-06-29 2016-06-08 宇龙计算机通信科技(深圳)有限公司 一种拍照方法及装置
EP3145172B1 (en) * 2015-07-07 2021-06-09 Panasonic Intellectual Property Management Co., Ltd. Image capturing device and still image generating method
CN105282443B (zh) * 2015-10-13 2019-06-14 哈尔滨工程大学 一种全景深全景图像成像方法
JP6644641B2 (ja) * 2016-05-31 2020-02-12 オリンパス株式会社 撮像装置、制御方法、及びプログラム
US9880447B2 (en) * 2016-06-27 2018-01-30 Google Llc Camera module assembly with movable reflective elements
JP6668570B2 (ja) 2018-05-22 2020-03-18 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP2019215489A (ja) * 2018-06-14 2019-12-19 オリンパス株式会社 撮像装置および焦点調節方法
US10917571B2 (en) * 2018-11-05 2021-02-09 Sony Corporation Image capture device control based on determination of blur value of objects in images
CN113892126A (zh) * 2019-05-31 2022-01-04 深圳市晟视科技有限公司 一种基于fpga架构的实时景深合成算法和系统
DE102019119310A1 (de) * 2019-07-17 2021-01-21 Carl Zeiss Microscopy Gmbh Mikroskop und Verfahren zum Erzeugen eines mikroskopischen Bildes mit einer erweiterten Schärfentiefe
CN110278382B (zh) * 2019-07-22 2020-12-08 浙江大华技术股份有限公司 一种聚焦方法、装置、电子设备及存储介质
JP7532058B2 (ja) * 2020-03-26 2024-08-13 キヤノン株式会社 撮像装置、撮像方法、プログラムおよび記録媒体
CN111491098A (zh) * 2020-04-14 2020-08-04 重庆幻光影视科技有限公司 一种新型峰值对焦方法
JPWO2022269999A1 (ja) * 2021-06-25 2022-12-29
CN115695753B (zh) * 2022-10-26 2024-08-09 东莞市皓龙激光科技有限公司 一种远距离成像方法、装置、计算机设备以及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07131698A (ja) * 1993-11-02 1995-05-19 Canon Inc 電子スチルカメラ

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10290389A (ja) 1997-04-16 1998-10-27 Toyota Motor Corp マルチフォーカス画像作成方法及び画像作成装置
JPH11177873A (ja) * 1997-12-16 1999-07-02 Denso Corp 高速合焦電子カメラ
JP2001333324A (ja) 2000-05-19 2001-11-30 Minolta Co Ltd 撮像装置
JP2003114378A (ja) 2001-10-05 2003-04-18 Nikon Gijutsu Kobo:Kk カメラ
JP2003143461A (ja) 2001-11-01 2003-05-16 Seiko Epson Corp デジタルスチルカメラ
JP2004135029A (ja) 2002-10-10 2004-04-30 Fuji Photo Film Co Ltd デジタルカメラ
JP2004333924A (ja) 2003-05-08 2004-11-25 Fuji Photo Film Co Ltd カメラ
JP2006121303A (ja) 2004-10-20 2006-05-11 Matsushita Electric Ind Co Ltd 撮像装置および撮像方法
US7229178B1 (en) * 2004-12-20 2007-06-12 Sandia Corporation Variable focal length deformable mirror
JP2007248782A (ja) * 2006-03-15 2007-09-27 Olympus Imaging Corp 焦点調節装置およびカメラ
JP2007310009A (ja) * 2006-05-16 2007-11-29 Olympus Imaging Corp デジタルカメラ及びカメラシステム
JP4218720B2 (ja) * 2006-09-22 2009-02-04 ソニー株式会社 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム
JP4712661B2 (ja) * 2006-09-22 2011-06-29 オリンパスイメージング株式会社 撮像装置
JP2008167361A (ja) * 2007-01-05 2008-07-17 Acutelogic Corp カメラモジュール及びこれを備えた電子機器並びにカメラモジュールの製造方法及びこれを用いた電子機器の製造方法
JP2007213083A (ja) 2007-03-15 2007-08-23 Seiko Epson Corp 画像処理システム、画像処理方法、画像処理装置、画像処理プログラム
JP2007328360A (ja) 2007-07-27 2007-12-20 Fujifilm Corp 自動焦点カメラ及び撮影方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07131698A (ja) * 1993-11-02 1995-05-19 Canon Inc 電子スチルカメラ

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8885025B2 (en) 2010-06-29 2014-11-11 Fujitsu Semiconductor Limited Processor
JP2012015610A (ja) * 2010-06-29 2012-01-19 Fujitsu Semiconductor Ltd 処理装置
US10582120B2 (en) 2012-04-26 2020-03-03 The Trustees Of Columbia University In The City Of New York Systems, methods, and media for providing interactive refocusing in images
JP2015522959A (ja) * 2012-04-26 2015-08-06 ザ・トラスティーズ・オブ・コロンビア・ユニバーシティ・イン・ザ・シティ・オブ・ニューヨーク 画像において対話式再合焦を提供するためのシステム、方法、及び媒体
KR101943318B1 (ko) * 2012-06-21 2019-01-29 엘지전자 주식회사 이동 단말기 및 그 제어방법
KR20130143271A (ko) * 2012-06-21 2013-12-31 엘지전자 주식회사 이동 단말기 및 그 제어방법
JP2014068088A (ja) * 2012-09-25 2014-04-17 Sharp Corp 撮像装置および撮像装置制御方法
KR20140060750A (ko) * 2012-11-12 2014-05-21 삼성전자주식회사 전자장치에서 다초점 영상 촬영 및 저장 방법 및 장치
KR101990073B1 (ko) * 2012-11-12 2019-06-17 삼성전자주식회사 전자장치에서 다초점 영상 촬영 및 저장 방법 및 장치
JP2014153890A (ja) * 2013-02-07 2014-08-25 Canon Inc 画像処理装置、撮像装置、制御方法、及びプログラム
JP2014211574A (ja) * 2013-04-19 2014-11-13 キヤノン株式会社 撮像装置、その制御方法およびプログラム
US9854149B2 (en) 2013-05-28 2017-12-26 Canon Kabushiki Kaisha Image processing apparatus capable of obtaining an image focused on a plurality of subjects at different distances and control method thereof
JP2014232181A (ja) * 2013-05-28 2014-12-11 キヤノン株式会社 撮像装置およびその制御方法
US9621356B2 (en) 2014-03-06 2017-04-11 Apple Inc. Revocation of root certificates
JP2015171153A (ja) * 2014-03-06 2015-09-28 アップル インコーポレイテッド ルート証明書の無効化
US9554039B2 (en) 2014-03-26 2017-01-24 Intel Corporation All-in-focus implementation
US10165196B2 (en) 2014-03-26 2018-12-25 Intel Corporation All-in-focus implementation
JP2015201837A (ja) * 2014-03-26 2015-11-12 インテル・コーポレーション 全焦点の実現
US10721414B2 (en) 2014-03-26 2020-07-21 Intel Corporation All-in-focus implementation
US11570376B2 (en) 2014-03-26 2023-01-31 Intel Corporation All-in-focus implementation
WO2016056089A1 (ja) * 2014-10-08 2016-04-14 日立マクセル株式会社 カメラ及び撮影方法
JP2015216678A (ja) * 2015-07-09 2015-12-03 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
US10863095B2 (en) 2017-03-15 2020-12-08 Fujifilm Corporation Imaging apparatus, imaging method, and imaging program
JP2020003760A (ja) * 2018-07-02 2020-01-09 キヤノン株式会社 撮像装置及びその制御方法
JP7195790B2 (ja) 2018-07-02 2022-12-26 キヤノン株式会社 撮像装置及びその制御方法
KR102280184B1 (ko) * 2020-04-24 2021-07-29 (주)하이비젼시스템 위상 오토포커스 픽셀을 이용한 렌즈 모듈 액티브 얼라인 시스템

Also Published As

Publication number Publication date
CN101742107A (zh) 2010-06-16
US20100128163A1 (en) 2010-05-27
US8416338B2 (en) 2013-04-09
CN101742107B (zh) 2012-07-18
JP5163446B2 (ja) 2013-03-13

Similar Documents

Publication Publication Date Title
JP5163446B2 (ja) 撮像装置、撮像方法及びプログラム
JP5267149B2 (ja) 表示制御装置、表示制御方法及びプログラム
US8106995B2 (en) Image-taking method and apparatus
JP4957943B2 (ja) 撮像装置及びそのプログラム
JP4674471B2 (ja) デジタルカメラ
US9106837B2 (en) Image capturing device and image capturing method
WO2013088917A1 (ja) 画像処理装置、画像処理方法、及び記録媒体
JP2006259688A (ja) 撮像装置及びプログラム
JP2007215091A (ja) 撮像装置及びそのプログラム
US20100026819A1 (en) Method and apparatus for compensating for motion of an autofocus area, and autofocusing method and apparatus using the same
KR101737086B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
JP2008004996A (ja) 撮像装置及びそのプログラム
JP2012194568A (ja) 撮像装置及びプログラム
JP2019133026A (ja) 撮像装置及びその焦点調節方法、並びにプログラム
JP2004186933A (ja) デジタルカメラ
JP5045538B2 (ja) 撮像装置、及び、プログラム
JP2009105851A (ja) 撮像装置、その制御方法およびプログラム
JP5069076B2 (ja) 撮像装置および連続撮像方法
JP5310315B2 (ja) 画像処理回路、画像処理方法及び撮像装置
JP2010078682A (ja) 焦点調節装置、焦点調節制御方法、及びプログラム
JP2017134154A (ja) フォーカス制御装置、撮像装置およびフォーカス制御プログラム
JP5273220B2 (ja) 撮像装置及びそのプログラム
JP2009232347A (ja) 撮像装置
JP2008283454A (ja) 撮像装置及び撮像方法
JP2016024226A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、画像処理装置の制御プログラム及び記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110929

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121203

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151228

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151228

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees