JP2019192993A - 画像処理装置、撮像装置および画像処理方法 - Google Patents
画像処理装置、撮像装置および画像処理方法 Download PDFInfo
- Publication number
- JP2019192993A JP2019192993A JP2018081063A JP2018081063A JP2019192993A JP 2019192993 A JP2019192993 A JP 2019192993A JP 2018081063 A JP2018081063 A JP 2018081063A JP 2018081063 A JP2018081063 A JP 2018081063A JP 2019192993 A JP2019192993 A JP 2019192993A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image
- focus
- evaluation
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 333
- 238000012545 processing Methods 0.000 title claims abstract description 54
- 238000003672 processing method Methods 0.000 title claims description 4
- 238000011156 evaluation Methods 0.000 claims abstract description 59
- 238000001514 detection method Methods 0.000 claims description 209
- 230000003287 optical effect Effects 0.000 claims description 51
- 230000008859 change Effects 0.000 claims description 27
- 238000004590 computer program Methods 0.000 claims description 8
- 238000000034 method Methods 0.000 description 45
- 238000006243 chemical reaction Methods 0.000 description 20
- 230000008569 process Effects 0.000 description 17
- 210000001747 pupil Anatomy 0.000 description 16
- 238000009825 accumulation Methods 0.000 description 15
- 239000003550 marker Substances 0.000 description 13
- 101150053844 APP1 gene Proteins 0.000 description 9
- 101100189105 Homo sapiens PABPC4 gene Proteins 0.000 description 9
- 102100039424 Polyadenylate-binding protein 4 Human genes 0.000 description 9
- 230000004044 response Effects 0.000 description 9
- 230000035945 sensitivity Effects 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 8
- 230000007423 decrease Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 238000013459 approach Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 238000005375 photometry Methods 0.000 description 6
- 230000004907 flux Effects 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 238000003860 storage Methods 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- BYJQAPYDPPKJGH-UHFFFAOYSA-N 3-(2-carboxyethyl)-1h-indole-2-carboxylic acid Chemical compound C1=CC=C2C(CCC(=O)O)=C(C(O)=O)NC2=C1 BYJQAPYDPPKJGH-UHFFFAOYSA-N 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/676—Bracketing for image capture at varying focusing conditions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/3004—Arrangements for executing specific machine instructions to perform operations on memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Studio Devices (AREA)
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Exposure Control For Cameras (AREA)
Abstract
【課題】連続撮像により取得された複数の画像データをより適切に評価する。【解決手段】画像処理装置212,220は、移動する被写体の連続撮像により取得された複数の画像データのそれぞれに対する撮像機会の評価指標となる指標情報を取得し、該指標情報を用いて複数の画像データのそれぞれに対する評価を行う。画像処理装置は、連続撮像により取得された画像データごとの焦点状態を評価する第1の評価を行い、該第1の評価により合焦状態と評価された前記複数の画像データに対して、指標情報を用いた評価としての第2の評価を行うこともできる。【選択図】図1
Description
本発明は、撮像により取得された画像データを、焦点検出結果に基づいて自動分類する技術に関する。
撮像により取得された複数の画像を鮮明さに応じて分類し、記録する方法が提案されている。特許文献1には、焦点位置を固定した状態で複数回の静止画連写を行い、得られた複数の静止画のうち高周波成分に応じたAF評価値が最も高い1つの画像を自動的に選定して保存用記録領域に記録する撮像装置が開示されている。この撮像装置では、選定しなかった静止画を消去用記録領域に記録する。
特許文献1にて開示された撮像装置では、連写によって得られた複数の画像のうち相対的に合焦している画像を記録するため、複数の画像から焦点状態が良い画像をユーザが選別する必要がない。しかしながら、この撮像装置では、ユーザが意図した画像が選択されない場合がある。すなわち、この撮像画像は焦点位置を固定した状態で連写を行うため、AF評価値が最も高い撮像画像が最も良い焦点状態の画像であると推定する。しかし、AF評価値が最も高いことは撮像により取得された複数の画像の中で相対的に焦点状態が最も良いというだけであり、必ずしもユーザが意図した被写体に対して合焦しているとは限らない。
また、奥行方向に移動する被写体に対して焦点位置を移動させながら連写する際に、焦点位置によって被写体距離(撮像距離)が異なることから、撮像距離の変化に応じて被写体の像倍率が変化する。被写体の像倍率が変化すると、被写体の空間周波数特性が変化し、さらに撮像の構図自体も変化するため、画像のAF評価値のレベルが変動し、焦点状態をAF評価値で単純に比較できなくなる。
本発明は、連続撮像により取得された複数の画像データをより適切に評価することができる画像処理技術を提供する。
上記目的を達成するために、本発明の一側面としての画像処理装置は、移動する被写体の連続撮像により取得された複数の画像データのそれぞれに対する撮像機会の評価指標となる指標情報を取得する取得手段と、該指標情報を用いて複数の画像データのそれぞれに対する評価を行う評価手段とを有することを特徴とする。
また、連続撮像を行う撮像素子と、上記画像処理装置とを有する撮像装置も、本発明の他の一側面を構成する。
また、本発明の他の一側面としての画像処理方法は、移動する被写体の連続撮像により取得された複数の画像データのそれぞれに対する撮像機会の評価指標となる指標情報を取得するステップと、該指標情報を用いて複数の画像データのそれぞれに対する評価を行うステップとを有することを特徴とする。
なお、コンピュータに、上記画像処理方法を実行させるコンピュータプログラムも、本発明の他の一側面を構成する。
本発明によれば、連続撮像により取得された複数の画像データのそれぞれに対して、撮像機会に応じたより適切な評価を行うことができる。
以下、本発明の実施の形態を、図面を参照して詳細に説明する。
<デジタルカメラの構成>
図1は、本発明の実施例1である撮像装置としてのデジタルカメラの構成を示す。デジタルカメラは、レンズユニット部100とカメラ部200とを有する。レンズユニット部100は、不図示のマウント部に設けられたレンズ装着機構を介してカメラ部200に着脱可能に取り付けられている。マウント部には、電気接点ユニット108が設けられている。この電気接点ユニット108には、通信クロックライン、データ送信ライン、データ受信ライン等を含む通信バスライン用端子が設けられており、該通信バスライン用端子によりレンズユニット部100とカメラ部200とが通信可能になっている。
図1は、本発明の実施例1である撮像装置としてのデジタルカメラの構成を示す。デジタルカメラは、レンズユニット部100とカメラ部200とを有する。レンズユニット部100は、不図示のマウント部に設けられたレンズ装着機構を介してカメラ部200に着脱可能に取り付けられている。マウント部には、電気接点ユニット108が設けられている。この電気接点ユニット108には、通信クロックライン、データ送信ライン、データ受信ライン等を含む通信バスライン用端子が設けられており、該通信バスライン用端子によりレンズユニット部100とカメラ部200とが通信可能になっている。
レンズユニット部100は、撮像光学系を有する。撮像光学系は、それぞれ光軸方向に移動して変倍(ズーム)および焦点調節(フォーカス)を行うズームレンズおよびフォーカスレンズを含むレンズ部101と、光量を制御する絞り102とを含む。また、レンズユニット部100には、ズームレンズおよびフォーカスレンズを移動させるステッピングモータを駆動源とする駆動系および該駆動源を駆動する電気回路を含むレンズ駆動ユニット103が設けられている。レンズユニット部100には、レンズ駆動ユニット103内のステッピングモータの位相を示す信号の波形をレンズコントローラ104を通じて取得してズームレンズやフォーカスレンズの位置を検出するレンズ位置検出部105が設けられている。レンズ部101、レンズ駆動ユニット103およびレンズ位置検出部105によって焦点調節手段が構成される。
さらにレンズユニット部100には、絞り102を制御する絞り制御ユニット106と、レンズ部101と絞り102の各種光学設計値が記録された光学情報記録部107とが設けられている。レンズ駆動ユニット103、絞り制御ユニット106および光学情報記録部107は、レンズユニット部100全体の動作を制御するCPU等のレンズコントローラ104に接続されている。
カメラ部200は、レンズユニット部100と電気接点ユニット108を介して通信を行い、レンズ部101のズームやフォーカスおよび絞り102の制御要求をレンズユニット部100に送信し、制御結果をレンズユニット部100から受信する。
撮像光学系に入射した光束は、レンズ部101および絞り102を通過してカメラ部200内のメインミラー201に導かれる。メインミラー201はハーフミラーにより構成されており、図1に示すように撮像光学系からの光路上に斜めに配置された状態(以下、ミラーダウン状態という)では、入射光束の半分をピント板203に向けて反射し、他の半分をサブミラー202に向けて透過させる。また、メインミラー201は、図1にて両矢印曲線で示すように上方向に移動して光路から退避することができる(以下、この状態をミラーアップ状態という)。サブミラー202も、同図にて両矢印曲線で示すように、ミラーアップ状態にて光路外に退避する。
ピント板203は、後述する撮像部210と光学的に共役な位置に配置された拡散板であり、撮像光学系からの光束がこのピント板203上に被写体像を形成する。ピント板203を透過した光束(被写体像)は、ペンタプリズム204にて正立像に変換され、接眼レンズ205を通過してファインダ206に到達する。ユーザはファインダ206および接眼レンズ205を通じてピント板203上に形成された被写体像を観察することができる。
また、ペンタプリズム204に入射した光束の一部は、測光用結像レンズ207を通過して被写体像の輝度を測定する測光センサ208に入射する。測光センサ208は、不図示の光電変換素子や、該光電変換素子にて得られた電荷から輝度を算出する不図示のプロセッサで構成されている。また、測光センサ208は、光電変換素子から得られた電荷から2次元の白黒多階調画像データを得る。この白黒多階調画像データは、後から各種モジュールより参照できるようにメモリ213に保存される。
ミラーダウン状態において、サブミラー202は、反射した光束を焦点検出ユニット209に導く。焦点検出ユニット209は、焦点検出領域において位相差検出方式による焦点検出を行う。焦点検出領域は、撮像画角の中央部等の1カ所の領域である。
一方、ミラーアップ状態において、撮像光学系に入射した光束は、レンズ部101および絞り102を通過してカメラ部200内の撮像部210に到達する。撮像部210は、二次元光電変換素子としての撮像素子と、該撮像素子から出力された撮像信号から画像データを生成したり該画像データの輝度補正等の各種画像処理を行ったりするプロセッサを含む。撮像部210の詳しい構成については後述する。
また、カメラ部200には、ユーザにより操作される操作スイッチ211が設けられている。操作スイッチ211は、2段ストロークタイプのスイッチであり、1段目(SW1)のオン操作により、ミラーダウン状態にて測光およびフォーカス等の撮像準備動作が開始される。また、2段目(SW2)のオン操作によりメインミラー201およびサブミラー202がミラーアップ状態に移動して撮像動作が開始される。後述する静止画連写モードにおいてSW2のオン操作が継続されると、複数回の撮像動作を含む連写が行われる。
相関演算部214は、焦点検出ユニット209又は撮像部210から取得した一対の位相差像信号(2像信号)に対して相関演算を行って該2像信号間のシフト量ごとの相関値を算出する。位相差検出部215は、算出された相関値が最も高い相関を示すシフト量、すなわち位相差(像ずれ量)を算出する。デフォーカス量検出部216は、位相差検出部215で算出された位相差と撮像光学系の光学特性とに基づいて撮像光学系のデフォーカス量を算出する。
カメラコントローラ212は、電気接点ユニット108を介してレンズコントローラ104との間で制御情報を送受信し、デフォーカス量検出部216で算出されたデフォーカス量に基づいてレンズ部101を駆動制御する。これにより、撮像光学系の焦点位置を調節する(すなわちAFを行う)。
本実施例のデジタルカメラは、撮像部210で撮像された被写体像や各種操作状況を表示する表示部217を有する。また、デジタルカメラは、撮像動作モードとして、静止画ワンショットモード、静止画連写モード、ライブビューモードおよび動画記録モードを備えており、ユーザが撮像動作モードを切り替えるために操作する操作部218を有する。操作部218は、動画記録の開始や終了の指示を入力することもできる。また、デジタルカメラは、後述するワンショットAFモードおよびサーボAFモードを含む焦点検出モードを備えており、ユーザは操作部218を通じて焦点検出モードを選択することができる。
<撮像部210>
撮像部210における撮像素子の撮像面の構成について図2および図3を用いて説明する。図2は、光入射側から見た撮像面を示している。撮像部210は、複数の画素部(水平方向h画素部×垂直方向v画素部)を複数有する。
撮像部210における撮像素子の撮像面の構成について図2および図3を用いて説明する。図2は、光入射側から見た撮像面を示している。撮像部210は、複数の画素部(水平方向h画素部×垂直方向v画素部)を複数有する。
図3は、1つの画素部の構成を示している。各画素部は、撮像光学系の射出瞳面で分割された一対の光束のそれぞれが入射する第1の焦点検出画素Aおよび第2の焦点検出画素Bを有する。第1の焦点検出画素Aおよび第2の焦点検出画素Bの前面には、集光用の1つのマイクロレンズMLが配置されている。各画素部は、Bayer配列の赤、緑、青のいずれかのカラーフィルタ(不図示)を有している。
画素部において、平滑層301は、マイクロレンズMLを形成するための平面である。遮光層302a,302bは、第1の焦点検出画素Aと第2の焦点検出画素Bに不必要な斜め角度の光束を入射させないようにするために配置されている。第1の焦点検出画素Aと第2の焦点検出画素Bはそれぞれ、撮像光学系の射出瞳のうち互いに異なる、かつ対称な瞳領域からの光束を互いに視差を持って受光する。
<撮像部210>
撮像部210における撮像素子の撮像面の構成について図2および図3を用いて説明する。図2は、光入射側から見た撮像面を示している。撮像部210は、複数の画素部(水平方向h画素部×垂直方向v画素部)を有する。
撮像部210における撮像素子の撮像面の構成について図2および図3を用いて説明する。図2は、光入射側から見た撮像面を示している。撮像部210は、複数の画素部(水平方向h画素部×垂直方向v画素部)を有する。
図3(a)は、1つの画素部の構成を示している。各画素部は、撮像光学系の射出瞳面で分割された一対の光束のそれぞれが入射する第1の焦点検出画素Aおよび第2の焦点検出画素Bを有する。第1の焦点検出画素Aおよび第2の焦点検出画素Bの前面には、集光用の1つのマイクロレンズMLが配置されている。各画素部は、Bayer配列の赤、緑、青のいずれかのカラーフィルタ(不図示)を有している。
画素部において、平滑層301は、マイクロレンズMLを形成するための平面である。遮光層302a,302bは、第1の焦点検出画素Aと第2の焦点検出画素Bに不必要な斜め角度の光束を入射させないようにするために配置されている。第1の焦点検出画素Aと第2の焦点検出画素Bはそれぞれ、撮像光学系の射出瞳のうち互いに異なる、かつ画素部の中心Cについて対称な瞳領域からの光束を互いに視差を持って受光して電荷(画素信号)を出力する。第1の焦点検出画素Aの電荷と第2の焦点検出画素Bの電荷とを加算することで、図3(b)に示すように撮像画素Cとしての電荷(撮像信号)を得ることができる。
<撮像面位相差検出方式による焦点検出の原理>
撮像素子において複数の第1の焦点検出画素Aが配列された第1の焦点検出画素列と複数の第2の焦点検出画素Bが配列された第2の焦点検出画素列は互いに対をなす。これら対の第1および第2の焦点検出画素列上には、撮像素子の画素数が多くなるにつれて近似した一対の被写体像(2像)が形成されるようになる。第1の焦点検出画素列の複数の第1の焦点検出画素Aのそれぞれからの画素信号が結合されることで一列の位相差像信号(以下、A像信号という)が生成される。また、第2の焦点検出画素列の複数の第2の焦点検出画素Bのそれぞれからの画素信号が結合されることで一列の位相差像信号(以下、B像信号ともいう)が生成される。撮像光学系が被写体に対してピントが合っている合焦状態では、A像信号とB像信号は互いに一致する。
撮像素子において複数の第1の焦点検出画素Aが配列された第1の焦点検出画素列と複数の第2の焦点検出画素Bが配列された第2の焦点検出画素列は互いに対をなす。これら対の第1および第2の焦点検出画素列上には、撮像素子の画素数が多くなるにつれて近似した一対の被写体像(2像)が形成されるようになる。第1の焦点検出画素列の複数の第1の焦点検出画素Aのそれぞれからの画素信号が結合されることで一列の位相差像信号(以下、A像信号という)が生成される。また、第2の焦点検出画素列の複数の第2の焦点検出画素Bのそれぞれからの画素信号が結合されることで一列の位相差像信号(以下、B像信号ともいう)が生成される。撮像光学系が被写体に対してピントが合っている合焦状態では、A像信号とB像信号は互いに一致する。
これに対して、撮像光学系のピントが被写体に対してずれている非合焦状態では、A像信号とB像信号との間には位相差が生じる。その位相差の方向は、予定焦点面に対して結像位置が手前側である前ピン状態と、予定焦点面に対して結像位置が遠側である後ピン状態とで逆になる。
図4は、ある画素部における合焦状態でのA像信号とB像信号間の位相差を示す。図5は、ある画素部における非合焦状態でのA像信号とB像信号の位相差を示す。図4および図5では、第1の焦点検出画素AをAとして、第2の焦点検出画素BをBとして示している。
被写体(一点)からの光束は、第1の焦点検出画素Aに対応する瞳領域を通って該第1の焦点検出画素Aに入射する光束ΦLaと、第2の焦点検出画素Bに対応する瞳領域を通って該第2の焦点検出画素Bに入射する光束ΦLbとに分割される。これら2つの光束は、被写体上の同一点から入射しているため、撮像光学系の合焦状態では、図4に示すように同一のマイクロレンズMLに入射角θ1で入射してこれを通過し、撮像素子上の1点に到達する。したがって、A像信号とB像信号は互いに一致する。
しかし、図5に示すように、xだけピントがずれている状態では、光束ΦLa,ΦLbのマイクロレンズMLへの入射角がθ1からθ2に変化する分だけ両光束ΦLa,ΦLbの到達位置が互いにずれる。したがって、A像信号とB像信号間には位相差が生じる。この場合、A像信号とB像信号に対して上述した相関演算を行うことで位相差を算出し、該位相差からデフォーカス量を算出する撮像面位相差検出方式による焦点検出を行うことができる。
<焦点検出ユニット209>
焦点検出ユニット209の光学系について、図6を用いて説明する。図6において、被写体面601から出射した光束は、レンズ部101および絞り102を含む撮像光学系602とメインミラー201を通過してサブミラー202により反射されて焦点検出ユニット209に入射する。焦点検出ユニット209は、視野マスク603、フィールドレンズ604、2次光学系絞り605、2次結像レンズ606および少なくとも一対の光電変換素子列607a,607bを有する焦点検出用センサ608を含む。
焦点検出ユニット209の光学系について、図6を用いて説明する。図6において、被写体面601から出射した光束は、レンズ部101および絞り102を含む撮像光学系602とメインミラー201を通過してサブミラー202により反射されて焦点検出ユニット209に入射する。焦点検出ユニット209は、視野マスク603、フィールドレンズ604、2次光学系絞り605、2次結像レンズ606および少なくとも一対の光電変換素子列607a,607bを有する焦点検出用センサ608を含む。
焦点検出ユニット209に入射した光束は、予定結像面の近傍に配置された視野マスク603を通過してフィールドレンズ604に入射する。視野マスク603は、焦点検出領域外の不要な光束がフィールドレンズ604から光電変換素子列607a,607bに入射するのを防ぐための遮光部材である。フィールドレンズ604は、焦点検出領域内の周辺部分の減光や不鮮明さを抑えるために、撮像光学系602からの光束を制御するレンズである。フィールドレンズ604を通過した光束は、撮像光学系602の光軸に対して対称に配置された一対の2次光学系絞り605と2次結像レンズ606を更に通過する。これにより、撮像光学系602を通過する光束のうち一部(対の一方)の光束が光電変換素子列607aに入射し、他の一部(対の他方)の光束が光電変換素子列607bに入射する。
<焦点検出ユニット209の信号に基づく焦点検出の原理>
撮像光学系602の結像面が予定結像面の前側にある場合は、光電変換素子列607aに入射する光束と光電変換素子列607bに入射する光束は、図6にて矢印で示す方向に互いに近づいた状態となる。また、撮像光学系602の結像面が予定結像面の後側にある場合は、光電変換素子列607aに入射する光束と光電変換素子列607bに入射する光束は互いに離れた状態となる。このように、光電変換素子列607aに入射する光束と光電変換素子列607bに入射する光束とのずれ量は、撮像光学系602の合焦度合いと相関を有する。光電変換素子列607aに入射する光束を光電変換することで得られた信号(A像信号)と光電変換素子列607bに入射する光束を光電変換して得られた信号(B像信号)との間の位相差を求めれば、該位相差からデフォーカス量を算出することができる。これにより、位相差検出方式の焦点検出を行うことができる。
撮像光学系602の結像面が予定結像面の前側にある場合は、光電変換素子列607aに入射する光束と光電変換素子列607bに入射する光束は、図6にて矢印で示す方向に互いに近づいた状態となる。また、撮像光学系602の結像面が予定結像面の後側にある場合は、光電変換素子列607aに入射する光束と光電変換素子列607bに入射する光束は互いに離れた状態となる。このように、光電変換素子列607aに入射する光束と光電変換素子列607bに入射する光束とのずれ量は、撮像光学系602の合焦度合いと相関を有する。光電変換素子列607aに入射する光束を光電変換することで得られた信号(A像信号)と光電変換素子列607bに入射する光束を光電変換して得られた信号(B像信号)との間の位相差を求めれば、該位相差からデフォーカス量を算出することができる。これにより、位相差検出方式の焦点検出を行うことができる。
<画像データの属性情報の記録方式>
図7は、撮像により得られた画像データをJPEG方式で保存する場合における画像データの構成例を示す。JPEG方式の画像データは、バイト列で表されたマーカーセグメントで各種情報のデータ列を仕切ることで、データ列の内容を把握できるようになっている。図7に示すように、JPEG方式の画像データは、圧縮データの開始を示すマーカーセグメント“SOI”が先頭に記述され、続いて画像データの属性情報を示すマーカーセグメント“APP1”が記述される。このほか圧縮画像データの量子化テーブルやハフマンテーブル等の各種情報が、“APP1”とは別のマーカーセグメントが記述される。最後部には、圧縮符号化された画像のデータ列と、圧縮データの終了を示すマーカーセグメント“EOI”とが記述される。
図7は、撮像により得られた画像データをJPEG方式で保存する場合における画像データの構成例を示す。JPEG方式の画像データは、バイト列で表されたマーカーセグメントで各種情報のデータ列を仕切ることで、データ列の内容を把握できるようになっている。図7に示すように、JPEG方式の画像データは、圧縮データの開始を示すマーカーセグメント“SOI”が先頭に記述され、続いて画像データの属性情報を示すマーカーセグメント“APP1”が記述される。このほか圧縮画像データの量子化テーブルやハフマンテーブル等の各種情報が、“APP1”とは別のマーカーセグメントが記述される。最後部には、圧縮符号化された画像のデータ列と、圧縮データの終了を示すマーカーセグメント“EOI”とが記述される。
画像データの属性情報を示すマーカーセグメント“APP1”は、下記の参考文献1に記載されたExif方式により“MakerNote”(メーカー独自利用)欄やその他の属性情報を記述することができる。“MakerNote”欄は、メーカーが画像ファイルフォーマットの規格を崩さない限りにおいて自由な方式で各種情報を記述することができる。ただし、記述の自由度がある一方で、他メーカーとの互換性が低くなる特徴を持っている。この記録方式は、第1の記録方式に相当する。
(参考文献1)一般社団法人 カメラ映像機器工業会 デジタルスチルカメラ用画像ファイルフォーマット規格 Exif 2.31 (CIPA DC−008−2016)
また、マーカーセグメント“APP1”は、下記の参考文献2に記載のXMP方式(AdobeXMP規格)により“Rating”(等級)欄やその他の属性情報を記述することができる。“Rating”欄は、規格としての値である0〜5と、明示的に等級付けをしないことを示す値である−1の計7種類の等級(評価結果)を記述することができる。このような等級付けを利用することで、例えば多数の撮像画像を含む画像群から、高い等級の一部画像を抽出して優先的に取り扱うことができるようになる。記述の様態や“Rating”欄の等級数等が予め定められていて自由度が少ない一方で、他メーカーとの互換性が高いという特徴を有する。この記録方式は、第2の記録方式に相当する。上述した第1の記録方式は、この第2の記録方式よりも等級数(評価段階数)が多い記録方式である。
また、マーカーセグメント“APP1”は、下記の参考文献2に記載のXMP方式(AdobeXMP規格)により“Rating”(等級)欄やその他の属性情報を記述することができる。“Rating”欄は、規格としての値である0〜5と、明示的に等級付けをしないことを示す値である−1の計7種類の等級(評価結果)を記述することができる。このような等級付けを利用することで、例えば多数の撮像画像を含む画像群から、高い等級の一部画像を抽出して優先的に取り扱うことができるようになる。記述の様態や“Rating”欄の等級数等が予め定められていて自由度が少ない一方で、他メーカーとの互換性が高いという特徴を有する。この記録方式は、第2の記録方式に相当する。上述した第1の記録方式は、この第2の記録方式よりも等級数(評価段階数)が多い記録方式である。
(参考文献2)“Extensible Metadata Platform (XMP) Specification” Part1~Part3, Adobe Systems Incorporated.
マーカーセグメント“APP1”は、Exif方式の記述とXMP方式の記述を併用することができ、その場合は同じマーカーセグメント“APP1”が記述方式ごとに個別に設けられる。このようなマーカーセグメントで各種情報のデータ列を仕切る記録様態は、JPEG方式のほかTIFFや他の画像ファイルフォーマットでも利用されている。
マーカーセグメント“APP1”は、Exif方式の記述とXMP方式の記述を併用することができ、その場合は同じマーカーセグメント“APP1”が記述方式ごとに個別に設けられる。このようなマーカーセグメントで各種情報のデータ列を仕切る記録様態は、JPEG方式のほかTIFFや他の画像ファイルフォーマットでも利用されている。
<デジタルカメラの撮像動作モード>
本実施例のデジタルカメラは、撮像から記録に至る動作が互いに異なる静止画ワンショットモードと静止画連写モードとを有する。以下、各モードについて説明する。
本実施例のデジタルカメラは、撮像から記録に至る動作が互いに異なる静止画ワンショットモードと静止画連写モードとを有する。以下、各モードについて説明する。
<静止画ワンショットモード>
本実施例における静止画ワンショットモードは、操作スイッチ211のSW2のオン操作に応じて1つの静止画が得られるモードである。静止画ワンショットモードでは、メインミラー201がミラーダウン状態となるようカメラコントローラ212によって制御され、ユーザがファインダ206を覗くことで被写体像を目視できる状態となる。また、サブミラー202によって被写体からの光束が焦点検出ユニット209に導かれる。
本実施例における静止画ワンショットモードは、操作スイッチ211のSW2のオン操作に応じて1つの静止画が得られるモードである。静止画ワンショットモードでは、メインミラー201がミラーダウン状態となるようカメラコントローラ212によって制御され、ユーザがファインダ206を覗くことで被写体像を目視できる状態となる。また、サブミラー202によって被写体からの光束が焦点検出ユニット209に導かれる。
静止画ワンショットモードにおいて操作スイッチ211のSW1がオン操作されると、測光センサ208を用いて被写体像の輝度を測定する第1の測光動作を行い、その測光結果に基づいて絞り102の開口径や撮像部210の電荷蓄積時間やISO感度が定められる。また、第1の測光動作に続いて焦点検出ユニット209によって第1の焦点検出が行われ、得られた焦点検出結果(第1の焦点検出結果)に基づいて合焦状態が得られるようにレンズ部101の焦点位置が制御される。
静止画ワンショットモードでSW2がオン操作されると、絞り102が第1の測光動作による測光結果に基づいて定められた開口径に制御される。またこれと同時に、メインミラー201とサブミラー202がミラーアップ状態に移動される。ミラーアップ状態において、第1の測光動作による測光結果から定められた電荷蓄積時間やISO感度で撮像部210が撮像信号を取得する撮像動作が行われる。
撮像部210は、撮像光学系により形成された被写体像を光電変換して得られた撮像信号から、瞳分割画像データである第1のRAWデータを生成する。第1のRAWデータは、射出瞳面で分割された一対の被写体光束をそれぞれ光電変換することにより得られ、各画素部の第1の焦点検出画素Aに対応する信号および第2の焦点検出画素Bに対応する信号(一対の画素信号)を保持した画像データである。第1のRAWデータは、カメラコントローラ212と接続されているメモリ213に一時的に記憶される。
メモリ213に一時的に記憶された第1のRAWデータは、カメラコントローラ212と接続されている相関演算部214に送られ、該第1のRAWデータに基づく第2の焦点検出に用いられる。
また、カメラコントローラ212は、第1のRAWデータを記録用RAWファイル用のファイルフォーマットに整えて記録用の第2のRAWデータを生成する。第2のRAWデータは、第1のRAWデータ(瞳分割画像データ)に相当するデータとともに、撮像条件(絞り値等)や属性情報を記録したものである。第2のRAWデータは、記録部219に記録される。
さらに、カメラコントローラ212は、第2のRAWデータが含むA像信号とB像信号を画素部ごとに加算して撮像信号を生成し、該撮像信号に対して現像演算等の画像処理を行う。この画像処理により、所定のファイルフォーマット(本実施例ではJPEGファイル)に編成された記録用の静止画データが得られ、該静止画データは記録部219に記録される。
<静止画連写モード>
本実施例における静止画連写モードは、操作スイッチ211のSW2のオン操作が継続されることで、該SW2のオン操作が停止されるまで静止画撮像を繰り返すモードである。これにより、複数の静止画が取得される。
本実施例における静止画連写モードは、操作スイッチ211のSW2のオン操作が継続されることで、該SW2のオン操作が停止されるまで静止画撮像を繰り返すモードである。これにより、複数の静止画が取得される。
<AFモード>
本実施例のデジタルカメラは、焦点検出モードとしてワンショットAFモードとサーボAFモードを備える。以下、これら焦点検出モードについて説明する。
本実施例のデジタルカメラは、焦点検出モードとしてワンショットAFモードとサーボAFモードを備える。以下、これら焦点検出モードについて説明する。
ワンショットAFモードは、操作スイッチ211のSW1のオン操作に応じて、合焦状態を得るための焦点位置の制御(以下、焦点位置制御という)を1回のみ行う焦点検出モードである。焦点位置制御の完了後は、SW1がオン操作された状態が継続する間は焦点位置がそのまま固定される。本実施例では、カメラコントローラ212は、静止画ワンショットモード中はワンショットAFモードでの焦点位置制御を行う。
サーボAFモードは、操作スイッチ211のSW1のオン操作が継続されている間、焦点位置制御を繰り返し行う焦点検出モードである。これにより、移動する被写体に焦点位置を追従させることができる。SW1のオン操作が解除されるかSW2がオン操作されることに応じて焦点位置制御が終了される。本実施例では、カメラコントローラ212は、静止画連写モード中はサーボAFモードでの焦点位置制御を行う。
<本実施例が解決しようとする課題>
本実施例は、静止画連写モードのように操作スイッチ211のSW2のオン操作が継続している期間において、移動する被写体に焦点位置を合わせ続けながら合焦状態での撮像により得られた一連の複数の画像を抽出して参照する場合における課題を解決する。
本実施例は、静止画連写モードのように操作スイッチ211のSW2のオン操作が継続している期間において、移動する被写体に焦点位置を合わせ続けながら合焦状態での撮像により得られた一連の複数の画像を抽出して参照する場合における課題を解決する。
まず、無限遠側から至近側に移動する被写体に対して静止画連写を行う場合を例として、焦点位置制御の特性について説明する。光学的な物体面に存在する被写体が無限遠側から至近側に等速に移動する際に該被写体に対して焦点位置制御を行う場合は、該被写体に対して合焦する焦点位置(像面)の移動速度である像面移動速度は、無限遠側より至近側の方が速くなる。像面移動速度は単位時間における焦点検出結果の差異から算出することができる。また、像面移動速度は、無限遠側から至近側にかけて漸次増加する。したがって、無限遠側から至近方向へ移動する被写体に合焦させるための焦点位置制御では、被写体に対して合焦する焦点位置が無限遠側にあるほど焦点位置制御の精度を高く保ちやすい。逆に被写体に対して合焦する焦点位置が至近側にあるほど焦点位置制御の精度が低くなりやすい。
このため、静止画連写モードのように連続的に焦点位置制御を行いながら撮像する場合は、被写体が遠近方向に移動すると精度良く焦点位置制御が行える場合と行えない場合とが生じることがある。ユーザがSW2のオン操作を長く継続して遠近方向に移動する被写体を多くの回数撮像した場合は、所定デフォーカス量の範囲内に収まる合焦画像と、該範囲内に収まらない非合焦画像とが混在しやすい。そして、これら多くの画像からユーザが自ら目視により合焦画像のみを抽出しようとすると、ユーザの負荷が大きい。したがって、撮像により得られた画像における被写体のデフォーカス量をカメラ部200内で算出するための構成を追加し、算出されたデフォーカス量に応じて画像の等級分け等を行うことにより画像を分類することが望ましい。このような分類により、多くの画像から合焦画像を抽出するユーザの負荷を低減することができる。
しかし、デフォーカス量のみを指標にして分類を行うと、無限遠側から至近側に移動する被写体に対する焦点位置制御の精度面の特性から、無限遠側の合焦画像は数多く抽出されるものの、至近側の合焦画像の抽出数が少なくなる可能性がある。例えば、短距離走において無限遠側のスタート地点から至近側のゴール地点まで一直線に走る選手を、ゴール地点よりさらに至近側の位置から撮像する状況において、デフォーカス量のみを指標として合焦画像を抽出する場合について説明する。
このような状況では、ユーザが本来最も優先的に抽出したい画像は、合焦画像であることに加えて、ゴール地点付近に差し掛かる選手を捉えた撮像機会が優良と認められる画像である。しかし、デフォーカス量のみを指標に合焦画像を抽出すると、撮像機会が優良と認められるゴール地点付近の画像は、無限遠側における数多くの合焦画像に埋もれやすい。したがって、デフォーカス量のみを指標に合焦画像を抽出すると、そのような撮像機会が優良な画像か否かをユーザが目視で判断する必要が生じ、これがユーザの負荷となる。
このことは、短距離走の場合だけでなく、自動車レースにおける走行コースのカーブを高速走行する競技車をカーブの外側から連写する場合にも当てはまる。無限遠側から高速走行でカーブに接近する競技車は、焦点位置制御の精度が高く保たれながら撮像されやすい。しかし、カーブに差し掛かって競技車がユーザに近づいた状況では、無限遠側において競技車が走行しているときと比べて競技車に対する像面移動速度が速くなる分だけ、焦点位置制御の精度が低下しやすくなる。さらに競技車がカーブを通過してユーザから遠ざかる際には競技車の後ろしか撮像では写らなくなる。このときにユーザが本来最も優先的に抽出したい画像は、合焦画像であることに加えて、カーブの途中を走行してユーザに最も接近した競技車を捉えた撮像機会が優良と認められる画像である。しかし、デフォーカス量のみを指標として用いて合焦画像を抽出すると、そのような撮像機会が優良な合焦画像は、無限遠側における数多くの合焦画像に埋もれやすい。
そこで、本実施例では、撮像により得られた画像を選別するユーザの負荷を軽減する。
<勾配ゲイン設定部220の動作>
図1に示すように、カメラ部200は取得手段としての勾配ゲイン設定部220を有する。勾配ゲイン設定部220は、焦点位置が変化しているが合焦状態が継続している期間の連写により取得された複数の画像(静止画データ)に対して、撮像機会の優良度に関する指標情報を取得する。撮像機会の優良度に関する指標情報は、撮像機会の評価指標として用いられる。そして、勾配ゲイン設定部220は、取得した指標情報に基づいて勾配ゲインを設定する。撮像機会の優良度に関する指標情報の具体例については後述する。
図1に示すように、カメラ部200は取得手段としての勾配ゲイン設定部220を有する。勾配ゲイン設定部220は、焦点位置が変化しているが合焦状態が継続している期間の連写により取得された複数の画像(静止画データ)に対して、撮像機会の優良度に関する指標情報を取得する。撮像機会の優良度に関する指標情報は、撮像機会の評価指標として用いられる。そして、勾配ゲイン設定部220は、取得した指標情報に基づいて勾配ゲインを設定する。撮像機会の優良度に関する指標情報の具体例については後述する。
勾配ゲインは、属性情報に記録する等級に撮像機会の優良度に応じた差が生じるように、等級付けの基準の1つとしての合焦度に乗じるゲインである。勾配ゲイン設定部220は、合焦状態が続いている期間に得られた複数の画像に、予め定められた値0〜3等のゲイン範囲の最低ゲインと最高ゲインに対応する画像が必ず含まれるように勾配ゲインを設定する。
撮像機会の優良度に関する指標情報について説明する。例えば、本実施例のデジタルカメラが撮像を行う撮像位置から遠方にあるスタート地点から陸上トラックを走って接近する短距離走の選手に対して静止画の連写を行う場合について説明する。この場合、まず選手が陸上トラックのスタート地点で待機している状況においてユーザが操作スイッチ211のSW1をオン操作することで、該選手に対する合焦状態が得られるように焦点位置制御が行われる。
その後、選手が走り始めるタイミングに合わせてユーザが操作スイッチ211のSW2をオン操作することに応じて連写が行われつつ、焦点検出と焦点位置制御が撮像間に行われて合焦状態が維持される。上述した例においては、連写の期間中に取得された複数の画像のうち選手がゴール地点に到達する瞬間が最も優良度が高い撮像機会である。このため、勾配ゲイン設定部220は、選手がゴール地点に到達する時点の少し後でユーザがSW2のオン操作を解除する直前の時点で取得される合焦画像の合焦度に最高ゲインが乗じられるように勾配ゲインを設定する。この際、勾配ゲイン設定部220は、指標情報としての合焦状態の継続時間が長いほど、言い換えれば撮像時刻が遅いほど勾配ゲインが高くなる(つまりは撮像機会の優良度が高く評価される)ように、各画像に対する勾配ゲインを設定する。
これにより、合焦状態の継続時間に基づいて撮像機会の優良度を推定して、後述する画像の等級付けの際に、連写で得られた2以上の合焦画像のうち撮像機会がより優良な画像により高い等級を設定することができる。したがって、焦点状態の良い画像(合焦画像)のうち撮像機会の優良度がより高い画像から選別や確認を行うことができる。
また、勾配ゲイン設定部220は、上述した合焦状態の継続時間に代えて、ユーザが操作スイッチ211のSW2をオン操作し始めた時点の像面位置を基点とした像面移動量の長さ(積算値)を指標情報として用いて、撮像機会の優良度を判定してもよい。
また、自動車レースの走行コースにおけるカーブを高速走行する競技車に対して、カーブの外側から静止画の連写を行う場合について説明する。この場合、カメラが撮像を行う撮像位置から遠方にあるカーブに接近する前の無限遠側の位置を走行する競技車に対して、ユーザによる操作スイッチ211のSW2をオン操作に応じて連写が行われつつ、焦点検出と焦点位置制御が撮像間に行われて合焦状態が維持される。その後、競技車はカーブを通過して撮像位置に最も接近する。その後、競技車はカーブ後半部を走行して徐々にデジタルカメラに車体後面を向けるとともに、撮像位置から徐々に遠ざかる。この場合は、連写により取得される複数の画像のうち、競技車が撮像位置に最接近する瞬間が最も優良な撮像機会となる。
このため、勾配ゲイン設定部220は、撮像位置に競技車が最も接近する時点で取得される合焦画像の合焦度に最高値ゲインが乗じられるように勾配ゲインを各画像に対して設定する。この際、勾配ゲイン設定部220は、連続して取得された合焦画像における最初の合焦画像の焦点位置を基点とした像面移動量の長さに応じて勾配ゲインが高くなるように各画像に対する勾配ゲインを設定する。これにより、合焦状態の開始時からの像面移動量の長さに基づいて撮像機会の優良度を推定して、後述する画像の等級付けの際に、連写で得られた2以上の合焦画像のうち撮像機会がより優良な画像により高い等級を設定することができる。したがって、焦点状態の良い画像のうち撮像機会の優良度がより高い画像から選別や確認を行うことができる。
また、被写体に対する撮像光学系の焦点位置を指標情報として用い、該焦点位置が撮像光学系の至近端を含む所定の至近範囲内である場合に、至近範囲外である場合よりも撮像機会の優良度を高く判定してもよい。像面移動量の長さや焦点位置は、合焦対象である被写体までの撮像距離に応じて変化する指標である。
さらに、色検出技術、形状検出技術または顔検出技術を応用した被写体認識手法を用いて検出された被写体のサイズを指標情報として用いて、該サイズが大きいほど撮像機会の優良度を高く判定してもよい。これらより、画像の等級付けに際して、連写により取得された2以上の合焦画像のうち、焦点位置が所定の至近範囲内または被写体のサイズがより大きい合焦画像を撮像機会の優良度がより高い画像として、より高い等級を設定することができる。
また前述したように、遠近方向に一定速度で移動する被写体に対する像面移動速度は無限遠側に比べて至近側の方が速い。このため、指標情報としての像面移動速度が速いほど撮像機会の優良度を高く判定してもよい。さらに、過去の焦点検出結果の変化の傾向に基づいて次の連写タイミング(すなわち将来の撮像時刻)での予測像面移動速度を指標情報として用いてもよい。スポーツ写真においては、算出された像面移動速度や予測像面移動速度が速いほど被写体の決定的瞬間を捉えることが期待でき、優良な撮像機会と推定することできる。このため、被写体の像面移動速度が速いときほど撮像機会の優良度がより高いとして、そのときの撮像により得られた画像に対してより高い等級を設定することができる。
このように勾配ゲイン設定部220は、連写により得られた連続した複数の合焦画像のそれぞれに対して、これまで説明した撮像機会の優良度に関する指標情報を用いて勾配ゲインを設定する。そして、合焦画像に対する合焦度に基づく等級付けの際に、撮像機会の優良度がより高い合焦画像がより高い等級を有する(より高く評価される)ように勾配ゲインを用いて最終的な等級を設定する。
<デジタルカメラの動作>
図8のフローチャートは、本実施例におけるデジタルカメラが行う処理(撮像動作および画像等級付け動作)を示している。カメラコントローラ212は、コンピュータプログラムに従って本処理を実行する。カメラコントローラ212と勾配ゲイン設定部220とにより画像処理装置が構成される。
図8のフローチャートは、本実施例におけるデジタルカメラが行う処理(撮像動作および画像等級付け動作)を示している。カメラコントローラ212は、コンピュータプログラムに従って本処理を実行する。カメラコントローラ212と勾配ゲイン設定部220とにより画像処理装置が構成される。
・撮像動作(ステップS801〜ステップS807)
本実施例のデジタルカメラは、電源投入直後の初期状態において、ミラーダウン状態で静止画ワンショットモードあるいは静止画連写モードが設定されており、ユーザがファインダ206を覗くことで被写体像を確認できる状態となっている。まず、操作スイッチ211のSW1がユーザによってオン操作されることでステップS801からの撮像動作のための処理が実行される。
本実施例のデジタルカメラは、電源投入直後の初期状態において、ミラーダウン状態で静止画ワンショットモードあるいは静止画連写モードが設定されており、ユーザがファインダ206を覗くことで被写体像を確認できる状態となっている。まず、操作スイッチ211のSW1がユーザによってオン操作されることでステップS801からの撮像動作のための処理が実行される。
ステップS801では、カメラコントローラ212は、測光センサ208に測光を行わせて測光結果を得る。この後、カメラコントローラ212はステップS802に進む。
ステップS802では、カメラコントローラ212は、焦点検出ユニット209に撮像光学系(レンズ部101)のデフォーカス量を検出する第1の焦点検出を行わせて第1の焦点検出結果としてのデフォーカス量を得る。この後、カメラコントローラ212はステップS803に進む。
ステップS803では、カメラコントローラ212は、ステップS802で得た第1の焦点検出結果に基づいて、レンズ部101のフォーカスレンズの駆動量であるフォーカス駆動量を算出する。カメラコントローラ212は、算出したフォーカス駆動量をレンズコントローラ104に送信する。レンズコントローラ104は、受信したフォーカス駆動量に基づいて、レンズ駆動ユニット103を通じてフォーカスレンズを移動させてレンズ部101の焦点位置を制御する。この後、カメラコントローラ212は、ステップS804に進む。
ステップS803でのフォーカス駆動量の算出においては、レンズコントローラ104を通じて絞り制御ユニット106から取得した現在の絞り値を用いてもよい。また、フォーカスレンズの位置ごとに定まるフォーカス敏感度(単位デフォーカス量分の焦点位置移動に必要なフォーカス駆動量)や、デフォーカス量の増加とともに光学的に変化する基準フォーカス駆動量の変動倍率を光学情報記録部107から取得して用いてもよい。
ステップS804では、カメラコントローラ212は、操作スイッチ211の操作状態を検出し、SW1のオン操作が保持されているか否かを判断する。カメラコントローラ212は、SW1のオン操作が保持されている場合はステップS805に進み、そうでなければステップS806に進む。
ステップS805では、カメラコントローラ212は、焦点検出モードがサーボAFモードであるか否かを判断する。サーボAFモードであれば、カメラコントローラ212は、操作スイッチ211のSW2がオン操作されるまで測光および第1のAFを繰り返し行うためにステップS801に戻る。一方、焦点検出モードがサーボAFモードではなくワンショットAFモードであれば、カメラコントローラ212は、焦点位置を固定したまま操作スイッチ211のSW1のオン操作の保持状態を引き続き監視するためにステップS804に戻る。
ステップS806では、カメラコントローラ212は、操作スイッチ211の操作状態を検出し、SW2がオン操作されたか否かを判断する。カメラコントローラ212は、SW2がオン操作された場合はステップS807に進み、そうでなければ操作スイッチ211のSW1とSW2がともにオン操作されてないとみなして本処理を終了する。
ステップS807では、カメラコントローラ212は、メインミラー201およびサブミラー202をミラーアップ状態に制御する。そしてカメラコントローラ212は、撮像部210に、ステップS801での測光結果から定められた電荷蓄積時間やISO感度の設定に基づいて撮像信号を取得するための撮像動作を行わせる。撮像部210は、被写体像を光電変換することで撮像信号を取得し、瞳分割画像データである第1のRAWデータを生成する。生成された第1のRAWデータは、メモリ213に転送される。
また、カメラコントローラ212は、第2のRAWデータや、第2のRAWデータに所定の画像処理を行うことにより所定のファイルフォーマットの静止画データ(JPEGファイル等)を生成する。カメラコントローラ212は、これら第2のRAWデータおよび静止画データを記録部219に記録させる。
さらにカメラコントローラ212は、不図示の内蔵タイマで計測されている時刻を参照して、撮像動作における電荷蓄積時間の中心時刻をメモリ213に一時記憶させる。この後、カメラコントローラ212はステップS808に進み、画像処理装置としての動作を行う。
・第1の等級付け(ステップS808、ステップS901〜ステップS903)
ステップS808では、評価手段としてのカメラコントローラ212は、焦点検出ユニット209に、メモリ213に転送された第1のRAWデータを用いた第2の焦点検出を行わせる。デフォーカス量検出部216は、該第2の焦点検出の結果(第2の焦点検出結果)からデフォーカス量を算出する。第2の焦点検出は、ステップS807の撮像動作の後に行われるため、本処理の1回のシーケンスの中でステップS802で説明した第1の焦点検出結果に基づくステップS803の焦点位置制御より後に行われる。
ステップS808では、評価手段としてのカメラコントローラ212は、焦点検出ユニット209に、メモリ213に転送された第1のRAWデータを用いた第2の焦点検出を行わせる。デフォーカス量検出部216は、該第2の焦点検出の結果(第2の焦点検出結果)からデフォーカス量を算出する。第2の焦点検出は、ステップS807の撮像動作の後に行われるため、本処理の1回のシーケンスの中でステップS802で説明した第1の焦点検出結果に基づくステップS803の焦点位置制御より後に行われる。
第2の焦点検出について、図9を用いてより具体的に説明する。まずステップS901において、カメラコントローラ212は、第1のRAWデータをメモリ213から相関演算部214に転送させる。相関演算部214は、転送された第1のRAWデータから焦点検出領域に対応する画像領域を抽出し、抽出された画像領域内の一対の焦点検出画素列から得られた2像信号のシフト量ごとの相関値を算出する。位相差検出部215は該シフト量ごとの相関値のうち最も高い相関を示す相関値から位相差を算出する。デフォーカス量検出部216は、絞り102の絞り値ごとに定まる単位位相差あたりの基準デフォーカス量を光学情報記録部107から取得する。デフォーカス量検出部216は、取得した単位位相差あたりの基準デフォーカス量と位相差検出部215で算出された位相差とに基づいてデフォーカス量を算出する。この後、カメラコントローラ212はステップS902に進む。
ステップS902では、カメラコントローラ212は、第2の焦点検出結果から算出されたデフォーカス量に基づいて第1の等級付け(第1の評価)を行う。具体的には、カメラコントローラ212は、まず第2の焦点検出結果に基づいて算出されたデフォーカス量における遠近方向を示す符号を取り除いて絶対値表現にしたデフォーカス量絶対値D[μm]を算出する。次に、デフォーカス量絶対値Dをあらかじめ定められた合焦度Jと比較し、この比較結果に応じて等級を決定する。合焦度Jは、撮像により取得された画像データ(撮像画像)における許容錯乱円径δ[μm]と絞り値Fとの積を単位量とする倍率を表す。この倍率が大きくなるにつれて合焦度合いが下がり、ボケ像が大きいことを表す。
図10は、合焦度J[Fδ]と、第2の焦点検出結果に基づいて算出されたデフォーカス量絶対値D[μm]と、それに対応する等級との関係を示す。例えば、絞り102の絞り値Fが2.8で許容錯乱円径δが10[μm]である条件下において、デフォーカス量絶対値Dが7.0[μm]である場合、対応する合焦度J[Fδ]は以下の式(1)の計算により求められる。
J=7.0/(2.8×10)=0.25 …(1)
本実施例での第1の等級付けは、図10に示した合焦度Jに基づく値1〜9の10段階の等級と、等級付けを行っていないことを示す初期値0の等級と、等級付けを行っていないこと又は等級付けができなかったことを示す値−1の等級との計12種類を用いる。なお、本実施例では、合焦度Jに基づく等級を10段階としているが、より少ない又はより多い等級数を設定してもよい。等級数を多くすることで、より広いデフォーカス量の範囲に対して、合焦度に基づく等級付けを行うことができる。また、等級間の合焦度の差を小さくすることで、より詳細な合焦度に基づく等級付けを行うことができる。第1の等級付けによる等級の決定後、カメラコントローラ212はステップS903に進む。
本実施例での第1の等級付けは、図10に示した合焦度Jに基づく値1〜9の10段階の等級と、等級付けを行っていないことを示す初期値0の等級と、等級付けを行っていないこと又は等級付けができなかったことを示す値−1の等級との計12種類を用いる。なお、本実施例では、合焦度Jに基づく等級を10段階としているが、より少ない又はより多い等級数を設定してもよい。等級数を多くすることで、より広いデフォーカス量の範囲に対して、合焦度に基づく等級付けを行うことができる。また、等級間の合焦度の差を小さくすることで、より詳細な合焦度に基づく等級付けを行うことができる。第1の等級付けによる等級の決定後、カメラコントローラ212はステップS903に進む。
ステップS903では、カメラコントローラ212は、第1の等級付けの結果を、対応する画像(静止画)データの属性情報領域に記録する。具体的には、図7で説明したように、画像データにおけるマーカーセグメント“APP1”にExif方式の情報記述領域を作成して、“MakerNote”欄を設ける。そして、その欄に図10に示した合焦度Jに基づく値1〜9の10段階の等級を記録する。このような等級付けの記録方式を採用することにより、参考文献2に記載のXMP方式に基づく等級付けよりも多等級数で、微小な合焦度合いの差で異なる等級を記録することができる。第1の等級付けの結果を記録したカメラコントローラ212は第1の等級付けを終了する。この後、カメラコントローラ212は図8のステップS809に進む。
ステップS809では、カメラコントローラ212は、撮像動作モードが静止画連写モードであるか否かを判断する。カメラコントローラ212は、撮像動作モードが静止画連写モードであればステップS810に進み、他の撮像動作モードであれば撮像により得られた画像データを適切に分類して記録し終えたために本処理を終了する。
・第2の等級付け(ステップS810〜ステップS814およびステップS1101〜ステップS1104)
ステップS810では、カメラコントローラ212は、連写中において現在着目している撮像画像(静止画)に対応する第1のRAWデータを用いた焦点検出結果が連写用に設定された合焦範囲(以下、連写合焦範囲という)内であるか否かを判断する。連写合焦範囲は、図10を用いて説明した合焦度J[Fδ]に基づいて等級を決定する際の合焦度Jの区分範囲とは別に設定され、連写により取得された撮像画像を合焦画像と見なすことができる合焦度Jの範囲として予め定められる。例えば、本実施例では、連写合焦範囲を、合焦度Jが−1.1≦J≦+1.1[Fδ]の範囲と定める。カメラコントローラ212は、第1のRAWデータを用いた焦点検出結果が連写合焦範囲内であればステップS811に進み、連写合焦範囲外であればステップS813に進む。
ステップS810では、カメラコントローラ212は、連写中において現在着目している撮像画像(静止画)に対応する第1のRAWデータを用いた焦点検出結果が連写用に設定された合焦範囲(以下、連写合焦範囲という)内であるか否かを判断する。連写合焦範囲は、図10を用いて説明した合焦度J[Fδ]に基づいて等級を決定する際の合焦度Jの区分範囲とは別に設定され、連写により取得された撮像画像を合焦画像と見なすことができる合焦度Jの範囲として予め定められる。例えば、本実施例では、連写合焦範囲を、合焦度Jが−1.1≦J≦+1.1[Fδ]の範囲と定める。カメラコントローラ212は、第1のRAWデータを用いた焦点検出結果が連写合焦範囲内であればステップS811に進み、連写合焦範囲外であればステップS813に進む。
ステップS811では、カメラコントローラ212は、ステップS810で連写合焦範囲内と判断した第1のRAWデータが、SW2のオン操作が継続されている間の一連の連写における最初の連写合焦範囲内の第1のRAWデータであるか否かを判断する。カメラコントローラ212は、最初の連写合焦範囲内の第1のRAWデータであればステップS812に進み、そうでなければステップS813に進む。
ステップS812では、カメラコントローラ212は、現在着目している撮像画像に対応する第2のRAWデータ(第1のRAWデータから生成される)が、連続した複数の合焦画像のうちの先頭画像として認識されるように、そのファイル名や連番等の識別子をメモリ213に一時記憶させる。ここにいう連続した複数の合焦画像が、後述する第2の等級付けの対象となる。また、カメラコントローラ212は、現在着目している撮像画像が取得された撮像時刻を、連続した複数の合焦画像の撮像開始時刻としてメモリ213に一時記憶する。この後、カメラコントローラ212はステップS813に進む。
ステップS813では、カメラコントローラ212は、再度、現在着目している撮像画像に対応する第1のRAWデータから得られた焦点検出結果が連写合焦範囲内にあるか否かを判断し、さらにSW2のオン操作が継続中か否かを判断する。これらの判断を行うのは、撮像画像が連写合焦範囲内であれば次の撮像画像における合焦継続状態を確認する必要があるとともに、焦点検出や焦点位置制御や撮像動作を繰り返し行う必要があるかを確認するためである。カメラコントローラ212は、焦点検出結果が連写合焦範囲外かSW2のオン操作が継続中でなければ、それまでのSW2のオン操作期間中の連写において連続して取得された合焦画像の範囲内で勾配ゲインを設定するためにステップS814に進む。また、焦点検出結果が連写合焦範囲内であり、かつSW2のオン操作が継続中であれば、SW2のオン操作期間中の連写において取得された連続した合焦画像の範囲がさらに広がる可能性がある。このため、カメラコントローラ212は、次の撮像動作の準備を行うステップS817に進む。
ステップS814では、カメラコントローラ212は、第2の等級付け(第2の評価)を行う。第2の等級付けでは、撮像画像ごとの合焦度Jに応じた第1の等級付け結果と撮像画像ごとに設定される勾配ゲインとに基づいて、合焦度が高く、かつ撮像機会の優良度が高い撮像画像に高い等級を与える。
第2の等級付けについて、図11のフローチャートと図12から図16を用いてより具体的に説明する。まずステップS1101では、カメラコントローラ212は、図8のステップS812で記憶された第2の等級付けの対象の先頭画像から直近の撮像画像までの連写画像の第2のRAWデータを記録部219から順次読み出して、メモリ213へ転送する。また、カメラコントローラ212は、勾配ゲイン設定部220に、撮像画像のそれぞれに対応する、撮像機会の優良度に基づく勾配ゲインを設定させる。
勾配ゲインの設定方法について説明する。図12は、デジタルカメラが撮像を行う撮像位置から、遠方のスタート地点から陸上トラックを走って撮像位置に接近してくる短距離走の選手に対する静止画の連写を行う場合におけるデフォーカス量に基づく第1の等級付け結果(すなわち等級)の分布の例を示す。図12において、横軸は焦点検出結果であるデフォーカス量を示し、縦軸は時刻変化を示す。デフォーカス量は、図10を用いて説明したように、合焦度[Fδ]の単位に変換されて第1の等級付けの判断指標となっている。また、縦軸の時刻変化とは、ステップS812にて第2の等級付けの対象の先頭画像の撮像開始時刻を基点とした経過時間に相当する。
複数の星印1201は連写により取得された撮像画像の分布を表す。SW2のオン操作中における時刻t1での最初の撮像により合焦画像が取得されることで連写が始まり、被写体である選手が時間経過に伴って遠方側から至近側に近づいてくる。時刻t2は、選手がゴール地点に到達する瞬間である。その後、選手が速度を落としていく期間を経て、時刻t3でSW2のオン操作が解除されることにより連写が終了する。
一点鎖線1202は、連写の時間経過に伴い被写体が撮像位置に接近してくるにつれて焦点位置制御の精度が低下して撮像画像のデフォーカス量のばらつきが広がることを示す補助線である。時刻t2でゴール地点に到達した選手の走る速度が低下したことで、至近側で焦点位置が変化しているが、再び焦点位置制御の精度が回復する。
図12において、撮像機会の優良度は、選手がゴール地点に到達する時刻t2付近が最良である。選手がスタート地点からゴール地点に走って移動する際(t1からt2まで)には、連写の経過時間に概ね比例して被写体移動に伴う撮影機会の優良度が増加する。一方、選手がゴール地点に到達した後に走る速度を落としながら余分に走って移動する際(t2からt3)には、該移動に伴う連写の経過時間の変化と撮像機会の優良度との関係は、t1からt2までの連写の時間経過の変化と撮像機会の優良度との関係に対して傾向が逆になる。すなわち、t1からt3では、連写の経過時間が長くなるほど被写体移動に伴う撮影機会の優良度が減少する。
また、選手がスタート地点からゴール地点に移動する際に、該移動に伴う撮像機会の優良度の増加と選手に対する像面移動速度の増加とは概ね傾向が一致する。さらに、選手がゴール地点に到達した後に速度を落としながら余分に移動する際における該移動に伴う撮像機会の優良度の減少と像面移動速度の減少とは概ね傾向が一致する。
しかし、遠方を走る選手に対する像面移動速度とゴール後に速度を落としつつ余分に走る際の選手に対する像面移動速度の大小を参照すると、余分に走る時間の短さから、時刻t1付近より時刻t2〜t3の期間の方がゴール付近であり、撮像機会の優良度が高い。
そこで、本実施例では、撮像機会の優良度を連写の経過時間と被写体に対する像面移動速度の両方を基準に判定することとして、撮像機会の優良度をより的確に推測する。
図13および図14は、撮像機会の優良度の推移例を示す表として示すとともに、これをグラフ化して示している。図13の表の1段目は撮像回を示しており、連写において130回の撮像が行われて130の撮像画像(静止画)が取得されたことを示す。また、1段目には、1回目移行、10回ごとの撮像回を示している。
表の2段目と3段目には、連写において合焦状態が最初に得られてからの経過時間(合焦状態の継続時間:以下、合焦経過時間という)[秒]を示している。この例では、連写において1秒間に10回の撮像が行われる。2段目の「検出値」はカメラコントローラ212による合焦時間経過の検出値を示し、図14中の実線は、撮像回と合焦経過時間の検出値1401との関係を示す。3段目の「係数」は、合焦経過時間の検出値を最大値1で正規化した値を示している。
表の4段目と5段目は、被写体である走る選手に対する像面移動速度[mm/秒]を示している。像面移動速度は、レンズ駆動ユニット103を通じた焦点位置制御による単位時間あたりの直近の像面移動量と単位時間当たりの時刻計測の始点と終点のそれぞれでの焦点検出結果に基づいて算出される。4段目の「検出値」はカメラコントローラ212が実際に検出した像面移動速度を示し、図14中の破線は、撮像回と像面移動速度1402との関係を示す。5段目の「係数」は、4段目の像面移動速度の検出値を最大値1で正規化した値を示している。
ここでは、連写開始から合焦状態が維持されたまま110回目の撮像において走っている選手が撮像位置に接近しつつゴール地点を通過し、該通過時の像面移動速度の検出値は最高値の4.00[mm/秒]である。その後、130回目の撮像にかけて選手が走る速度を落としていき、最終的に立ち止まった時点で連写が終了されている。
表の6段目と7段目は、合焦経過時間と像面移動速度に基づいて算出された撮像機会の優良度を示す。6段目の「算出値」は、以下の式(2)を用いて3段目に示した合焦経過時間の係数と5段目に示した像面移動速度の係数とを加算することで算出された撮像機会の優良度の値を示している。図14中の一点鎖線は、撮像回と撮像機会の優良度1403との関係を示す。7段目の「換算値」は、等級付けで利用するための換算値であり、以下の式(3)を用いて算出される。
S1=t+v (2)
S2=S1/S1_MAX×R (3)
ただし、S1:撮像機会の優良度の算出値、
S1_MAXは:連写により得られた合焦画像における撮像機会の優良度の最大算出値
t :合焦経過時間の係数
v :像面移動速度の係数
S2:撮像機会の優良度の換算値
R :等級付けにおける等級数
算出された撮像機会の優良度は、110回目の撮像時にゴール地点を選手が通過するまで単調増加した後、130回目の撮像時に選手が立ち止まるまで単調減少する。130回目の撮像における撮像機会の優良度は、基準の1つである像面移動速度が0[mm/秒]であるが、もう1つの基準である合焦経過時間が増加している分だけ減少が抑えられている。結果的に、撮像機会の優良度は、ゴール地点付近で最も高くなり、ゴール地点から時間的あるいは速度的に離れるにつれて低くなる。このため、連写により得られた複数の合焦画像のうち、ゴール付近という撮像機会の優良度がより高い画像から効率的に撮像画像を参照することができる。
S2=S1/S1_MAX×R (3)
ただし、S1:撮像機会の優良度の算出値、
S1_MAXは:連写により得られた合焦画像における撮像機会の優良度の最大算出値
t :合焦経過時間の係数
v :像面移動速度の係数
S2:撮像機会の優良度の換算値
R :等級付けにおける等級数
算出された撮像機会の優良度は、110回目の撮像時にゴール地点を選手が通過するまで単調増加した後、130回目の撮像時に選手が立ち止まるまで単調減少する。130回目の撮像における撮像機会の優良度は、基準の1つである像面移動速度が0[mm/秒]であるが、もう1つの基準である合焦経過時間が増加している分だけ減少が抑えられている。結果的に、撮像機会の優良度は、ゴール地点付近で最も高くなり、ゴール地点から時間的あるいは速度的に離れるにつれて低くなる。このため、連写により得られた複数の合焦画像のうち、ゴール付近という撮像機会の優良度がより高い画像から効率的に撮像画像を参照することができる。
図11のステップS1101では、カメラコントローラ212は、以上のように算出された撮像機会の優良度の換算値を、後述する第2の等級付けにおいて第1の等級付け結果に乗じる勾配ゲインとして、対応する撮像画像に対して設定する。この後、カメラコントローラ212はステップ1102に進む。
ステップS1102では、カメラコントローラ212は、等級数を一旦無視してステップS808での第1の等級付け結果とステップS1101で設定した勾配ゲインとを乗算して暫定の等級付けを行う。
図15および図16は、暫定の等級付けと後述する第2の等級付けとを説明する表である。図15の表の1段目は図13で説明した撮像回を示しており、2段目は撮像機会の優良度の算出値を示す。表の3段目は撮像機会の優良度の換算値を示し、4段目は図10を用いて説明した各撮像回における焦点検出のデフォーカス量に基づいて設定された第1の等級付け結果(第1の等級)の例である。表の5段目は、等級数を一旦無視して撮像機会の優良度の換算値である勾配ゲインと第1の等級とを乗算して得られた暫定の等級を示している。この後、カメラコントローラ212はステップS1103に進む。
ステップS1103では、カメラコントローラ212は、暫定の等級付けによる等級が所定の等級数に収まるように正規化を行い、最終的に撮像画像に対応付けて記録される等級を決定するための第2の等級付けを行う。
本実施例では、図7を用いて説明した参考文献2に記載のXMP方式のRating欄に等級付け結果を後段で記録するために、予め等級の値に対して意味付けを行っている。値0の等級は、初期値であり等級付けをまだ行っていないことを示す。値1の等級は、焦点検出結果としてのデフォーカス量がステップS810で説明した連写合焦範囲外であることを示す。本実施例では、所定のデフォーカス量の閾値と絞り値と許容錯乱円径とから算出される連写合焦範囲を、例えば−1.1≦J≦+1.1[Fδ]と定めている。デフォーカス量がこの連写合焦範囲外である非合焦画像に対して値1の等級が付与される。値2〜5の等級は、デフォーカス量が合焦判定範囲以内であることをし、値が高くなるほどよりデフォーカス量が小さく、また撮像機会の優良度が高いことを示す。
本ステップでは、カメラコントローラ212は、以下の式(4)を用いて、ステップS1102で付与された暫定の等級が値2〜5の4つの等級に収まるように正規化を行って第2の等級付け結果を得る。
G=K×(L/K_MAX)+M ・・・(4)
ただし、G:第2の等級の算出値
K:暫定の等級
K_MAX:連写により得られた合焦画像における暫定の等級の最大値
L:正規化で等級を収める等級数
M:連写合焦範囲内の等級の最低値
図15の表の6段目は、暫定の等級に上述した正規化が行われることで得られた第2の等級付け結果(第2の等級)を示す。XMP方式のRating項目欄は整数値で表現されるため、第2の等級は、最終的には図15の表の7段目に示すように整数に換算された換算値として算出される。図16のグラフに示すように、第2の等級の換算値1602は、撮像機会の優良度の換算値1601を適度に反映しており、最終的に合焦度と撮像機会の優良度の両方とも高くなるゴール地点付近の撮像画像に対する等級が、第2の等級のうち最も高くなっている。第2の等級付けを行ったカメラコントローラ212はステップS1104に進む。
ただし、G:第2の等級の算出値
K:暫定の等級
K_MAX:連写により得られた合焦画像における暫定の等級の最大値
L:正規化で等級を収める等級数
M:連写合焦範囲内の等級の最低値
図15の表の6段目は、暫定の等級に上述した正規化が行われることで得られた第2の等級付け結果(第2の等級)を示す。XMP方式のRating項目欄は整数値で表現されるため、第2の等級は、最終的には図15の表の7段目に示すように整数に換算された換算値として算出される。図16のグラフに示すように、第2の等級の換算値1602は、撮像機会の優良度の換算値1601を適度に反映しており、最終的に合焦度と撮像機会の優良度の両方とも高くなるゴール地点付近の撮像画像に対する等級が、第2の等級のうち最も高くなっている。第2の等級付けを行ったカメラコントローラ212はステップS1104に進む。
ステップS1104では、カメラコントローラ212は、ステップS1103で得られた第2の等級付け結果を、対応する撮像画像(静止画データ)の属性情報領域に記録する。具体的には、図7を用いて説明したように、静止画データにおけるマーカーセグメント“APP1”にXMP方式の情報記述領域を作成して、“Rating”欄を設ける。そして、その欄に図15に示した値2〜5の等級または等級付けを行っていないことを示す値0や、連写合焦範囲外であることを示す値1を記録する。このような等級付けの記録方式を採用することで、合焦度と撮像機会の優良度を表現する等級を、他メーカーの機器と高い互換性で共有することができる。こうして第2の等級付け結果を記録したカメラコントローラ212は、第2の等級付けを終了し、図8におけるステップS814の動作を終了する。この後、カメラコントローラ212はステップS815に進む。
ステップS815では、カメラコントローラ212は、操作スイッチ211のSW2のオン操作が継続中であるか否かを判断する。カメラコントローラ212は、SW2のオン操作が継続中であればステップS816に進む。SW2のオン操作が継続中でなければ、一連の連写が完了して第2の等級付けも完了したために本処理を終了する。
ステップS816では、カメラコントローラ212は、ステップS812にてメモリ213に記憶した第2の等級付け対象の先頭画像に関する記憶情報を該メモリ213から初期化のために消去する。その後、カメラコントローラ212はステップS817に進む。
ステップS817では、カメラコントローラ212は、第1のRAWデータや着目する撮像画像に対応する撮像時刻をメモリ213から初期化のために消去する。さらに、カメラコントローラ212は、カメラ部200をミラーダウン状態に遷移させた上で次の連写を行うために再びステップS801に戻る。
本実施例によれば、以下の作用効果が得られる。従来は、所定の合焦範囲内にある一連の連写画像を参照する際に、ゴール地点から離れた短距離走の選手の撮像画像等、焦点位置制御により合焦させやすい、すなわち撮像機会の優良度の低い画像が選択されやすかった。これに対して、本実施例によれば、焦点位置制御によって合焦状態が得られている連写により取得された複数の撮像画像において、ゴール付近の選手の撮像画像のように撮像機会の優良度の高い画像が埋もれてしまうことを防ぐことができる。
<変形例>
図9に示すステップS813とステップS815において、カメラコントローラ212は操作スイッチ211のSW2のオン操作が継続中か否かを判断する。しかし、その代わりに、操作スイッチのSW1のオン操作またはSW2のオン操作が継続中か否かを判断してもよい。ユーザが一連の連写後にSW1のオン操作を保持して連続する合焦状態が継続しているならば、次のSW2のオン操作によって連写を再開することができる。このため、SW1のオン操作が継続中であるとの判断により、ユーザが意図して取得した連続する合焦状態にて取得された複数の撮像画像として扱うことができ、ユーザの利便性を向上させることができる。
図9に示すステップS813とステップS815において、カメラコントローラ212は操作スイッチ211のSW2のオン操作が継続中か否かを判断する。しかし、その代わりに、操作スイッチのSW1のオン操作またはSW2のオン操作が継続中か否かを判断してもよい。ユーザが一連の連写後にSW1のオン操作を保持して連続する合焦状態が継続しているならば、次のSW2のオン操作によって連写を再開することができる。このため、SW1のオン操作が継続中であるとの判断により、ユーザが意図して取得した連続する合焦状態にて取得された複数の撮像画像として扱うことができ、ユーザの利便性を向上させることができる。
また、本実施例では、カメラコントローラ212は、図10に示したようにデフォーカス量に応じた合焦度J[Fδ]の区分範囲ごとに第1の等級付けを行う。この際、合焦度J[Fδ]が小さい、すなわちより厳密に合焦しているほど第1の等級として大きな値を設定する。しかし、合焦度J[Fδ]の値が小さいほど第1の等級として小さな値を設定してもよい。そして、図15に示したように合焦度J[Fδ]の値が小さいほど第1の等級として小さな値を設定する際に、第2の等級も小さい値を設定してもよい。
例えば、図9のステップS902における第1の等級付けにおいて、値1〜9の10段階の等級を用いる場合は値1が最も厳密に合焦していることを表す。この場合、図11のステップS1103に示した第2の等級付けで値1〜5の5段階の等級を用いる際に、連写合焦範囲内で値1〜4の4段階の第2の等級で表し、連写合焦範囲外を値5の等級で表してもよい。
また本実施例において、カメラコントローラ212は、図8のステップS810〜S813で焦点検出結果が連写合焦範囲内にあるか否かを判断する。しかし、カメラコントローラ212は、この判断条件に加えて、レンズ駆動ユニット103におけるフォーカスレンズの駆動方向(以下、フォーカス駆動方向という)が反転したか否かも判断してもよい。さらにカメラコントローラ212は、フォーカス駆動方向の反転の有無も含めて連続的な複数の合焦画像であるか否かを判断してもよい。
また、焦点位置制御が至近方向へのフォーカスレンズの駆動(以下、単にフォーカス駆動という)から無限遠方向へのフォーカス駆動に反転した場合に、カメラコントローラ212は、ステップS1101における勾配ゲインの高低を変更してもよい。具体的には、カメラコントローラ212は、焦点位置制御(焦点位置の移動方向)の至近方向から無限遠方向への変化時(方向反転の瞬間)に取得された撮像画像に対して、他の撮像画像より高い最高値ゲインを有する勾配ゲインを設定する。
そして、SW2のオン操作が解除される瞬間に得られた撮像画像に所定最低値の勾配ゲインを設定し、反転した瞬間の撮像画像からSW2のオン操作が解放される瞬間の撮像画像までに徐々に係数を低くする勾配ゲインを個々の撮像画像に設定する。この処理作を行うことにより、撮像機会の優良度をより正確に判断できるようになる。
一方、焦点位置制御が無限遠方向へのフォーカス駆動から至近方向へのフォーカス駆動に反転した場合に、カメラコントローラ212は、第1の焦点検出結果を連写合焦範囲外と判断した場合と同じ動作を行ってもよい。これにより、撮像機会の優良度が極小値となる瞬間を境界として、連続的な複数の合焦画像のそれぞれに対してより適切な勾配ゲインを設定することができる。
実施例1では、操作スイッチ211のSW2のオン操作に応じて開始された連続的な合焦状態での連写において所定最低値から所定最高値までの撮像機会の優良度を設定して、最終的に撮像画像に対する等級付けを行う場合について説明した。これに対して、本実施例では、サーボAFモードが設定され、SW2のオン操作に応じた連写が開始される前にSW1のオン操作に応じて焦点位置制御が繰り返し行われている状態において、焦点検出の状況に応じて撮像機会の優良度における所定最低値を変更する。
具体的には、サーボAFモードでのSW1のオン操作に応じて、遠近方向に移動している被写体に対して繰り返し焦点位置制御を行って合焦状態が得られ続けている状況において、連写が開始されている場合は既に撮像機会の優良度がある程度高まっていると判断する。遠近方向に移動している被写体か否かは、SW1のオン操作がなされている状態で第1の焦点検出における3回以上の結果から、被写体の焦点位置の移動2回分が至近方向と無限遠方向のうち同じ移動方向であることを検出することによって判断される。
図17のフローチャートは、本実施例におけるデジタルカメラが行う処理(撮像動作および画像等級付け動作)を示している。カメラコントローラ212は、コンピュータプログラムに従って本処理を実行する。以下では、実施例1との共通点については説明を省略し、相違点について説明する。
本実施例のデジタルカメラは、電源投入直後の初期状態において、ミラーダウン状態で静止画ワンショットモードあるいは静止画連写モードが設定されており、ユーザがファインダ206を覗くことで被写体像を確認できる状態となっている。まず、操作スイッチ211のSW1がユーザによってオン操作されることでステップS801からの撮像動作のための処理が開始され、図8のステップS801〜S8013と同じ動作が行われる。なお本実施例では、実施例1と異なり、カメラコントローラ212はステップS805にて焦点検出モードがサーボAFモードであればステップS1701に進む。
ステップS1701では、カメラコントローラ212は、ステップS802で得られた第1の焦点検出結果としてのデフォーカス量が所定の連写合焦範囲内であるか否かを判定する。所定の連写合焦範囲は、実施例1において図10を用いて説明したように、連写用に設定された合焦範囲であり、実施例1で説明した式(1)を用いて算出した合焦度Jが−1.1≦J≦+1.1[Fδ]となる範囲である。なお、第1の焦点検出結果は焦点検出ユニット209の出力から算出されるが、合焦度Jの算出に用いる絞り値Fは2次光学系絞り605の絞り値ではなく、レンズユニット部100に内蔵された絞り102の絞り値である。この絞り値は、後述する図17のステップS807で制御される。
本ステップにおいて式(1)を用いて合焦度J[Fδ]を算出する際に絞り102の絞り値を用いる理由は、後段のステップで算出される合焦度J[Fδ]と単位を揃えておいて比較をしやすくするためである。カメラコントローラ212は、デフォーカス量が所定の連写合焦範囲内である場合はステップS1702に進み、そうでなければステップS1706に進む。
ステップS1702では、カメラコントローラ212は、第1の焦点検出結果としてのデフォーカス量を絶対値表現にしたデフォーカス量絶対値D[μm]を算出する。さらに、カメラコントローラ212は、実施例1で説明した式(1)を用いて撮像画像における許容錯乱円径δ[μm]と絞り102の絞り値Fとの積を単位量とする合焦度J[Fδ]とを算出する。本ステップは、ステップS902に対して、焦点検出結果として第2の焦点検出結果ではなく第1の焦点検出の結果を用いる点が異なる。この後、カメラコントローラ212はステップS1703に進む。
ステップS1703では、カメラコントローラ212は、過去連続した3回以上の第1の焦点検出においてステップS1701にて連写合焦範囲内と判定したか否かを判断する。カメラコントローラ212は、連続して連写合焦範囲内と判定した場合はステップS1705に進み、そうでなければステップS1704に進む。
カメラコントローラ212は、直近の第1の焦点検出結果が連写合焦範囲内であるが、前回の第1の焦点検出結果が連写合焦範囲外である場合にステップS1704に進む。このときの第1の焦点検出は、操作スイッチ211のSW1のオン操作が継続され、次回以降の第1の焦点検出結果が連続して合焦状態と判定されることで、連続合焦期間の先頭となる。カメラコントローラ212は、この第1の焦点検出における焦点検出センサ608の電荷蓄積時間の中心時刻を、連続合焦期間の開始時刻としてメモリ213に一時記憶する。この後、カメラコントローラ212はステップS1705に進む。
ステップS1705では、カメラコントローラ212は、第1の焦点検出における焦点検出センサ608の電荷蓄積時間の中心時刻と、SW1のオン操作が継続された状態での1つ前の第1の焦点検出結果とから、被写体に対する像面移動速度を算出する。具体的には、以下の式(5)により、直近とその1つ前の第1の焦点検出時におけるフォーカスレンズの位置(レンズ位置検出部105により検出される)、焦点検出センサ608の電荷蓄積時間の中心時刻および第1の焦点検出結果を用いて像面移動速度を算出する。
V=[(D1+P1)−(D2+P2)]/(T1−T2) ・・・(5)
V:像面移動速度
D1:直近の第1の焦点検出結果であるデフォーカス量
D2:直近より1つ前の第1の焦点検出結果であるデフォーカス量
T1:直近の第1の焦点検出における電荷蓄積時間の中心時刻
T2:直近より1つ前の第1の焦点検出における電荷蓄積時間の中心時刻
P1:直近の第1の焦点検出時のフォーカスレンズ位置
P2:直近より1つ前の第1の焦点検出時のフォーカスレンズ位置。
V:像面移動速度
D1:直近の第1の焦点検出結果であるデフォーカス量
D2:直近より1つ前の第1の焦点検出結果であるデフォーカス量
T1:直近の第1の焦点検出における電荷蓄積時間の中心時刻
T2:直近より1つ前の第1の焦点検出における電荷蓄積時間の中心時刻
P1:直近の第1の焦点検出時のフォーカスレンズ位置
P2:直近より1つ前の第1の焦点検出時のフォーカスレンズ位置。
なお、SW1のオン操作が継続した状態で過去の第1の焦点検出が複数回行われた場合は、それらの焦点検出結果を用いた最小二乗法等によって、像面移動速度を多次式の微分値から算出してもよい。これにより、像面移動速度をより正確に算出することができる。
カメラコントローラ212は、第1の焦点検出結果から算出した合焦度J[Fδ]、上記電荷蓄積時間の中心時刻および算出した像面移動速度を、連続合焦データとしてメモリ213に一時記憶させる。この後、カメラコントローラ212は、操作スイッチ211のSW2がオン操作されるまで測光、焦点検出および焦点位置制御を繰り返し行うためにステップS801に戻る。
カメラコントローラ212は、ステップS1701にて第1の焦点検出結果が連写合焦範囲外であった場合にステップS1706に進む。この場合は、連続合焦の有無を確認する必要がない。このためカメラコントローラ212は、ステップS1706で、ステップS1704〜S1705の動作が過去に行われてメモリ213に一時記憶された可能性のある連続合焦期間の開始時刻、合焦度J、焦点検出時刻および像面移動速度を含む連続合焦データを初期化する。この初期化後、カメラコントローラ212は、操作スイッチ211のSW2がオン操作されるまで測光、焦点検出および焦点位置制御を繰り返し行うためにステップS801に戻る。
また本実施例では、実施例1と異なり、カメラコントローラ212は、ステップS813にて第1のRAWデータが連写合焦範囲内であり、かつSW2のオン操作が継続中であるという条件に適合していなければステップS1707に進む。
ステップS1707では、カメラコントローラ212は、撮像画像ごとの第1の焦点検出結果に基づく第1の等級付け結果と撮像画像ごとに設定した勾配ゲインとに基づいて、合焦度と撮像機会の優良度がともに高い撮像画像に高い等級を与える第2の等級付けを行う。
ここでの第2の等級付けは、図8のステップS814で説明したものと同様である。ただし、ステップS814では、連続合焦している個々の撮像画像に対応する第1の等級付け結果から勾配ゲインを設定する。一方、本ステップでは、画像を記録するか否かに関わらず、連続合焦している個々の第1の焦点検出結果に基づく第1の等級付け結果に対して勾配ゲインが設定される。画像を記録していない段階の連続合焦期間も含めることで、連続合焦期間の途中で連写として画像を記録し始める時に、すでに所定最低値より高い勾配ゲインが第1の等級付け結果に乗算される。このため、連写画像の範囲内の勾配ゲインは所定最低値が変更されたように設定されることになる。このように第1の焦点検出結果に基づく第1の等級付け結果を含めて勾配ゲインが設定され、個々の撮像画像に対応する第1の等級付け結果に勾配ゲインが乗算されることで第2の等級付けが行われる。この後、カメラコントローラ212は図17のステップS815に進む。
本実施例によれば、第1の焦点検出結果に基づく焦点位置制御が繰り返し行われた後の静止画連写において、連写開始時に撮像機会の優先度が高まっている場合により高い等級を設定することができるようになる。
実施例1,2では、第2の焦点検出をデジタルカメラの内部で行う場合について説明した。これに対して実施例3では、デジタルカメラの外部の画像処理装置(コンピュータ)がコンピュータプログラムに従って処理を実行することで第2の焦点検出を行う。そして、第2の焦点検出結果を用いて、画像データに対する焦点状態と撮像機会の優良度に応じた等級付けを行う。実施例3では、デジタルカメラの記録部219を外部のコンピュータに接続し、該コンピュータが第2のRAWデータを用いた焦点検出を行い、該焦点検出の結果に応じて画像の等級付けを実行する。
また、本実施例では、着脱可能な記憶媒体である記録部219に、実施例1と同様に、瞳分割画像データを含む第2のRAWデータが格納されている。さらに、記録部219には、第2のRAWデータと対応付けて、撮像時刻、撮像時の絞り値、撮像時の装着レンズにおける基準レンズ駆動量、記録時の焦点位置における基準フォーカス駆動量およびその変動倍率の情報が格納されている。
<画像処理装置の構成>
本実施例における画像処理装置としてのコンピュータの構成を図18に示す。システム制御部2210は、ユーザがマウス、キーボードおよびタッチパネル等により構成される操作部2211を操作することに応じて、記録部219からの画像読み込みを受け付ける。これに応じて、システム制御部2210は、記録インタフェース(I/F)2202を介して、コンピュータ2200に着脱可能な記録部219に記録された画像データを画像メモリ2203に記録させる。
本実施例における画像処理装置としてのコンピュータの構成を図18に示す。システム制御部2210は、ユーザがマウス、キーボードおよびタッチパネル等により構成される操作部2211を操作することに応じて、記録部219からの画像読み込みを受け付ける。これに応じて、システム制御部2210は、記録インタフェース(I/F)2202を介して、コンピュータ2200に着脱可能な記録部219に記録された画像データを画像メモリ2203に記録させる。
システム制御部2210は、記録部219から読み込んだ画像データが圧縮符号化されたデータである場合は、画像メモリ2203に記録された画像データをコーデック部2204に送信する。コーデック部2204は、圧縮符号化された画像データを復号し、復号された画像データを画像メモリ2203に出力する。システム制御部2210は、画像メモリ2203に蓄積された復号後の画像データまたはベイヤーRGB形式(RAW形式)等の非圧縮の画像データを画像処理部2205に出力する。
画像処理部2205は、非圧縮の画像データに対して画像処理を行い、その結果として得られた処理済み画像データを画像メモリ2203に格納する。また、システム制御部2210は、処理済み画像データを画像メモリ2203から読み出して、外部モニタインタフェース(I/F)2206を介してモニタ2207に出力する。
なお、図18に示すように、コンピュータ2200は電源スイッチ2212、電源部2213、コンピュータプログラムを記憶した不揮発性メモリ2214を含む。また、コンピュータ2200は、各種制御に用いる時間や内蔵タイマによりカウントされた時間を計測するシステムタイマ2215を有する。さらに、コンピュータ2200は、システム制御部2210の動作用の定数、変数を記憶したり不揮発性メモリ2214から読み出したコンピュータプログラムを展開したりするシステムメモリ2216を含む。
<画像処理装置の動作>
図19のフローチャートは、本実施例のシステム制御部2210が実行する処理(等級付け動作)を示す。システム制御部2210は、不揮発性メモリ2214から読み出してシステムメモリ2216に展開したコンピュータプログラムに従って本処理を実行する。コンピュータ2200とデジタルカメラとは電気的に接続されて通信可能であり、コンピュータ2200はデジタルカメラの記録部219に記録された各種データを読み出すことができる。システム制御部2210は、取得手段および評価手段として機能する。
図19のフローチャートは、本実施例のシステム制御部2210が実行する処理(等級付け動作)を示す。システム制御部2210は、不揮発性メモリ2214から読み出してシステムメモリ2216に展開したコンピュータプログラムに従って本処理を実行する。コンピュータ2200とデジタルカメラとは電気的に接続されて通信可能であり、コンピュータ2200はデジタルカメラの記録部219に記録された各種データを読み出すことができる。システム制御部2210は、取得手段および評価手段として機能する。
まず、ユーザにより画像の等級付けを開始させる操作指示が行われることに応じて、システム制御部2210はステップS1901に進む。ステップS1901では、システム制御部2210は、ユーザの操作により指定される画像データの第2のRAWデータに対するリンクを全て読み出し、コンピュータ2200内の画像メモリ2203に一時記憶させる。そして、システム制御部2210は、記録部219に一時記憶された第2のRAWデータの数を計数する。この後、システム制御部2210はステップS1902に進む。
ステップS1902では、システム制御部2210は、記録部219に一時記憶された1つ以上の第2のRAWデータのうち上記リンクに対応する1つの第2のRAWデータ(以下、着目第2のRAWデータという)を記録部219から読み出す。そして、システム制御部2210は、着目第2のRAWデータに対して各種画像処理を行って所定のファイルフォーマットの静止画データを生成する。この後、システム制御部2210はステップS1903に進む。
ステップS1903では、システム制御部2210は、着目第2のRAWデータを用いて焦点検出を行う。具体的には、着目第2のRAWデータに含まれる2像信号、記録時の絞り値、基準フォーカス駆動量およびその変動倍率を読み出す。そして、システム制御部2210は、着目第2のRAWデータから焦点検出領域に対応する画像領域を抽出し、抽出した画像領域の2像信号のシフト量ごとの相関値を算出する。システム制御部2210は、算出した相関値のうち最も高い相関を示す相関値を特定し、その相関値を与える2像信号のシフト量から位相差を算出する。
位相差を算出したシステム制御部2210は、該位相差と絞り値と基準デフォーカス量とに基づいてデフォーカス量を算出する。この後、システム制御部2210はステップS1904に進む。
ステップS1904では、システム制御部2210は、算出したデフォーカス量に基づいて第1の等級付けを行う。本ステップでの第1の等級付けは、図9のステップS902で説明した第1の等級付けと同じであり、デフォーカス量絶対値と合焦度Jとの比較により等級を決定する。この後、システム制御部2210はステップS1905に進む。
ステップS1905では、システム制御部2210は、第1の等級付けの結果を、対応する画像データの属性情報領域に記録する。具体的には、図7で説明したように、画像データにおけるマーカーセグメント“APP1”にExif方式の情報記述領域を作成して、“MakerNote”欄を設ける。そして、その欄に図10に示した合焦度Jに基づく値1〜9の10段階の等級を記録する。このような等級付けの記録方式を採用することにより、他メーカーとの互換性は低いが、参考文献2に記載のXMP方式に基づく等級付けよりも多い等級数で等級を記録することができる。この後、システム制御部2210はステップS1906に進む。
ステップS1906では、システム制御部2210は、焦点検出を終えた第2のRAWデータのカウンタmに値1を加算する。この後、システム制御部2210はステップS1907に進む。
ステップS1907では、システム制御部2210は、焦点検出を終えた第2のRAWデータのカウンタmの値とステップS1901で計数された第2のRAWデータの計数値との大小を判断する。カウンタmの値が計数値より小さければ、未着目の第2のRAWデータに対して画像処理や焦点検出を行うために、システム制御部2210はステップS1902に戻る。そして、ステップS1902からステップS1906の動作を一時記憶されたすべての第2のRAWデータに対して行う。カウンタmの値が計測値以上であれば、システム制御部2210は、記録部219内に格納された着目第2のRAWデータを全て読み出し終えているため、ステップS1908に進む。
ステップS1908では、システム制御部2210は、着目第2のRAWデータが静止画連写モードでの撮像により取得された連写画像データであるか否かを判定する。ここでは、システム制御部2210は、着目第2のRAWデータの撮像時刻とこれに前後する第2のRAWデータの撮像時刻との比較により上記判定を行う。具体的には、システム制御部2210は、着目第2のRAWデータの撮像時刻とその前後の撮像時刻との間隔のいずれかが所定の連写撮像間隔以内であることにより、着目第2のRAWデータが静止画連写モードでの撮像により取得された画像データであると判定する。
例えば、静止画連写モードでの連写において1秒間に4〜10回の撮像を行う場合には、システム制御部2210は、最も遅い1秒間に4回の連写速度に基づいて判断閾値である連写撮像間隔を1/4秒と設定する。システム制御部2210は、撮像時刻の間隔が連写撮像間隔以内であれば着目第2のRAWデータに対する次の動作を行うためにステップS1909に進み、該連写撮像間隔を超えていれば次の第2のRAWデータに着目するためにステップS1914に進む。
ステップS1909では、システム制御部2210は、ステップS1903で算出した着目第2のRAWデータの焦点検出結果が、実施例1で図10を用いて説明した連写合焦範囲(例えば−1.1≦J≦+1.1[Fδ])内であるか否かを判断する。システム制御部2210は、焦点検出結果が連写合焦範囲内であればステップS1910に進み、そうでなければステップS1912に進む。
ステップS1910では、システム制御部2210は、焦点検出結果が連写合焦範囲内と判定した着目第2のRAWデータが、一連の連写における最初の合焦画像であるか否かを判定する。最初の合焦画像であることは、着目第2のRAWデータを取得した撮像の前の撮像により得られた連写画像データが連写合焦範囲外であったことにより判定することができる。システム制御部2210は、着目第2のRAWデータが最初の合焦画像である場合はステップS1911に進み、そうでなければ引き続き一連の連写中の合焦状態の継続を確認する目的で次の第2のRAWデータに着目するためにステップS1914に進む。
ステップS1911では、システム制御部2210は、実施例1における図8のステップS812と同様に、着目第2のRAWデータを第2の等級付けの対象となる連続した複数の合焦画像のうちの先頭画像とする認識結果を内蔵メモリに一時記憶させる。また、システム制御部2210は、着目第2のRAWデータの撮像時刻を連続した複数の合焦画像の撮像開始時刻として内蔵メモリに一時記憶させる。この後、システム制御部2210はステップS1904に進む。
一方、ステップS1912では、システム制御部2210は、実施例1における図8のステップS814と図11のステップS1101〜S1103と同様に、第2の等級付けを行う。ただし、実施例1ではカメラコントローラ212が保持している撮像や焦点検出に関する設定値と第1のRAWデータとに基づいて第2の等級付けを行うが、本実施例ではシステム制御部2210は第2のRAWデータに基づいて第2の等級付けを行う。この後、システム制御部2210はステップS1913に進む。
ステップS1913では、システム制御部2210は、実施例1における図11のステップS1104と同様に、第2の等級付け結果を対応する静止画データにおける属性情報領域に記録する。この後、システム制御部2210はステップS1914に進む。
ステップS1914では、システム制御部2210は、第2の等級付けを終えた第2のRAWデータのカウンタnに値1を加算する。この後、システム制御部2210はステップS1915に進む。
ステップS1915では、システム制御部2210は、第2の等級付けを終えた第2のRAWデータのカウンタnの値とステップS1901で計数した第2のRAWデータの計数値との大小を判断する。システム制御部2210は、カウンタnの値が計数値より小さければ、未着目の第2のRAWデータに対して連写画像であるか否かの判断や必要に応じて第2の等級付けを行うためにステップS1908に戻る。そして、ステップS1908からステップS1913の動作を一時記憶されたすべての第2のRAWデータに対して行う。カウンタmの値が計測値以上であれば、システム制御部2210は、記録部219内に格納された着目第2のRAWデータを全て読み出し終えているため、本処理を終了する。
本実施例では、デジタルカメラとは異なる外部装置において第2の焦点検出を行い、該第2の焦点検出の結果に基づいて等級付けを行う。この等級付けに係る処理をデジタルカメラではなく外部装置において行うことで、デジタルカメラによる撮像中の処理負荷を軽減することができる。さらに、実施例1と同様に、実際の撮像により得られた静止画データを焦点状態と撮像機会の優良度に応じた等級に基づいて分類することができる。これにより、撮像により得られた画像データを分類するユーザの負荷を軽減することができる。
[変形例]
<ミラーアップ時の処理に関する変形例>
上述した各実施例で説明した静止画ワンショットモードおよび静止画連写モードは、第1の焦点検出をミラーダウン状態で行うモード(第1のモード)である。ただし、第1の焦点検出をミラーアップ状態で行うモード(第2のモード)を有していてもよい。第1の焦点検出をミラーアップ状態で行うライブビューモードおよび動画撮像モードは、メインミラー201とサブミラー202がミラーアップした状態を維持するように制御される点で静止画ワンショットモードおよび静止画連写モードとは異なる。
<ミラーアップ時の処理に関する変形例>
上述した各実施例で説明した静止画ワンショットモードおよび静止画連写モードは、第1の焦点検出をミラーダウン状態で行うモード(第1のモード)である。ただし、第1の焦点検出をミラーアップ状態で行うモード(第2のモード)を有していてもよい。第1の焦点検出をミラーアップ状態で行うライブビューモードおよび動画撮像モードは、メインミラー201とサブミラー202がミラーアップした状態を維持するように制御される点で静止画ワンショットモードおよび静止画連写モードとは異なる。
操作部218におけるユーザ操作よりライブビューモードが設定されると、メインミラー201とサブミラー202がミラーアップ状態となるよう制御される。また、ライブビューモードでは、例えば1秒間に60回等の所定周期で撮像部210が連続的に撮像動作を行い、得られた撮像信号を用いて表示部217にて画像が表示される。
ライブビューモードにおいて操作スイッチ211のSW1がオン操作されると、撮像部210の撮像信号を用いて被写体像の輝度を測定する第1の測光動作が行われる。そして、該第1の測光動作により得られた測光結果に基づいて絞り102の開口径や撮像部210の電荷蓄積時間やISO感度が制御される。また、第1の測光動作に続いて、撮像部210からの2像信号を用いて第1の焦点検出が行われ、第1の焦点検出結果に基づいて撮像光学系の焦点位置制御が行われる。
またライブビューモードにおいてSW2がオン操作されると、撮像部210が記録用の撮像動作を行い、撮像部210は撮像信号から瞳分割画像データである第1のRAWデータを生成する。そして、第1のRAWデータが所定のRAW用のファイルフォーマットに整えられることで記録用の第2のRAWデータが得られ、記録部219に記録される。第2のRAWデータは瞳分割画像データを含んでいる。
また、第1のRAWデータに対して、瞳分割により得られた一対の画素信号が加算された上で所定の画像処理が行われることにより静止画データが得られ、記録部219に記録される。また、第1のRAWデータはメモリ213に転送され、瞳分割画像データに基づく第2の焦点検出に用いられる。また、撮像部210からの撮像信号を用いて被写体像の輝度を測定する第2の測光動作が行われ、該第2の測光動作の結果に基づいて、絞り102の開口径や撮像部210の電荷蓄積時間やISO感度が制御される。
操作部218のユーザ操作により動画記録モードが設定されると、メインミラー201とサブミラー202がミラーアップ状態となるよう制御される。また、動画記録モードでは、例えば1秒間に60回等の所定周期で撮像部210が連続的に撮像動作を行い、得られた撮像信号を用いて表示部217に画像が表示される。
動画記録モードにおいて操作部218に動画記録の開始を指示するユーザ操作が行われると、撮像部210は撮像信号から瞳分割画像データである第1のRAWデータを生成する。第1のRAWデータに対して、瞳分割により得られた一対の画素信号が加算された上で所定の画像処理が行われて動画データが得られ、記録部219に記録される。また、生成された第1のRAWデータは、メモリ213に転送され、瞳分割画像データに基づく第1および第2の焦点検出に用いられる。また、撮像部210の撮像信号を用いて被写体像の輝度を測定する第2の測光動作が行われ、該第2の測光動作による測光結果に基づいて絞り102の開口径や撮像部210の電荷蓄積時間やISO感度が制御される。
静止画ワンショットモードおよび静止画連写モードでは、焦点位置制御の目標焦点位置を定めるための第1の焦点検出をミラーダウン状態にて焦点検出ユニット209を用いて行う。しかし、ライブビューモードでは、ミラーアップ状態にて撮像信号を用いて第1の焦点検出を行い、第1の焦点検出結果に基づいて焦点位置制御の目標焦点位置が定められる。この場合、上述した第2のRAWデータや静止画データに記録された被写体像の焦点位置は、1つ前の撮像動作で得られた撮像信号を用いて焦点検出が行われてその結果に基づいてレンズ部101が制御された焦点位置であることを意味する。このため、着目する第2のRAWデータに対応する第2の焦点検出結果は、次の画像における第1の焦点検出結果としても用いることができる。したがって、第1の焦点検出と第2の焦点検出のいずれか一方の位相差検出演算を省略してもよい。
また、上述した各実施例では、撮像動作における電荷蓄積時間やISO感度を定めるための第1の測光動作をミラーダウン状態にて測光センサ208を用いて行う。しかし、ライブビューモードでは、ミラーアップ状態にて撮像信号を用いて第1の測光動作を行い、その結果に基づいて撮像動作の電荷蓄積時間やISO感度が定められる。この場合、上述した第2のRAWデータや静止画データに記録された被写体像の露光量は、1つ前の撮像動作で得られた撮像信号を用いて測光された結果に基づく露光量であることを意味する。
<動画フレームに適用する場合の変形例>
実施例1および実施例2のデジタルカメラは、操作スイッチ211のSW2のオン操作が継続されることで複数の静止画を取得するための連写を繰り返す静止画連写モードを有する。そして、該デジタルカメラは、静止画連写モードで連写が行われる際に第1の等級付けと第2の等級付けを行う。しかし、動画記録モードにおいて操作スイッチ211のSW1のオン操作状態を動画記録の待機状態に対応付け、SW2のオン操作状態を動画記録の開始やよび継続に対応づけてもよい。
実施例1および実施例2のデジタルカメラは、操作スイッチ211のSW2のオン操作が継続されることで複数の静止画を取得するための連写を繰り返す静止画連写モードを有する。そして、該デジタルカメラは、静止画連写モードで連写が行われる際に第1の等級付けと第2の等級付けを行う。しかし、動画記録モードにおいて操作スイッチ211のSW1のオン操作状態を動画記録の待機状態に対応付け、SW2のオン操作状態を動画記録の開始やよび継続に対応づけてもよい。
デジタルカメラは、ユーザが操作部218において動画記録モードを設定することで自動的に動画記録(連続撮像)の待機状態に移行する。この状態では、上述したライブビューモードと同様に撮像部210が1秒間に60回等の所定周期で連続的に撮像が行われ、該周期に合わせて第1の焦点検出と焦点位置制御が行われる。またこの状態では、メインミラー201やサブミラー202は、上述したミラーアップ状態に常時制御される。さらにミラーアップ状態ではユーザがファインダ206を覗いても被写体像を観察できないので、撮像部210により取得された動画を表示部217に表示する。またデジタルカメラは、動画記録の待機状態においてユーザが操作部218において動画記録の開始指示のための操作を行うことにより、動画記録を開始する。撮像部210から得られた画像データには動画用の圧縮符号化が行われ、所定の動画ファイルフォーマットで記録部219に記録される。
このような動画記録モードを有することで、記録される動画を構成する連続的な合焦状態の複数のフレーム画像に対して第1の等級付けや第2の等級付けを行うことができる。これにより、静止画の連写だけでなく動画撮像でも実施例1および実施例2と同様の作用効果を得ることができる。
<勾配ゲインの変形例>
上述した各実施例では、連続する複数の合焦画像に対して必ず所定最高値と所定最低値を含めた勾配ゲインをそれぞれの撮像画像に設定する。しかし、連続する複数の合焦画像のうち撮像機会の優良度が最も高い撮像画像に所定最高値の勾配ゲインを設定するが、勾配ゲインの勾配を予め定めた値にしてもよい。この場合は、撮像機会の優良度が比較的低い複数の撮像画像の全てに対して所定最低値の勾配ゲインが設定される。
上述した各実施例では、連続する複数の合焦画像に対して必ず所定最高値と所定最低値を含めた勾配ゲインをそれぞれの撮像画像に設定する。しかし、連続する複数の合焦画像のうち撮像機会の優良度が最も高い撮像画像に所定最高値の勾配ゲインを設定するが、勾配ゲインの勾配を予め定めた値にしてもよい。この場合は、撮像機会の優良度が比較的低い複数の撮像画像の全てに対して所定最低値の勾配ゲインが設定される。
これにより、撮像機会の優良度の高い撮像画像に対して第2の等級をより高く設定することができ、撮像機会の優良度の高い撮像画像をさらに抽出や参照をしやすくすることができる。
<連続する複数の合焦画像を判定する動作の変形例>
上述した実施例では、合焦状態が継続した後に第1の焦点検出結果が連写合焦範囲外となった場合は、連続する複数の合焦画像を確定させ、そのまま第2の等級付けを行う。
上述した実施例では、合焦状態が継続した後に第1の焦点検出結果が連写合焦範囲外となった場合は、連続する複数の合焦画像を確定させ、そのまま第2の等級付けを行う。
しかし、合焦状態が継続した後に第2の焦点検出結果が連写合焦範囲外となった撮像画像が所定数以下または連写合焦範囲外となってからの経過時間が所定時間以下であれば、連写合焦範囲外の撮像画像も連続する複数の合焦画像に含めてもよい。すなわち、複数回の連写が間隔を空けて行われた場合において、該間隔の間に焦点状態の検出が継続して行われていた場合または該間隔が所定時間以下であるときは、これら複数回の連写を1まとまりの連写として扱ってもよい。そして、これら1まとまりの連写により取得された複数の合焦画像に対して一連の勾配ゲインを設定してもよい。
これにより、静止画連写により特定の被写体を追って撮像を行っている間に手振れが生じたり別の被写体がカメラ前を横切ったりする等して非合焦画像が混入しても、特定の被写体に対する一連の複数の合焦画像をより正確に認識することができる。また、これにより、より適切に勾配ゲインを設定することができる。
また、単に非合焦画像の数や経過時間で判断するのではなく、デジタルカメラの姿勢や該カメラに加わる加速度または角加速度を検出する不図示の姿勢検出手段(姿勢センサ、角速度センサまたは加速度センサ等)を追加し、その出力に基づいて手振れを判断してもよい。例えば、カメラに所定の大きさを超える姿勢の変化が生じた場合は、該変化の前に行われた連写と該変化の後に行われた連写とを別々の連写として扱う。
さらに、レンズ部101の撮像光学系の焦点距離を検出する不図示の焦点距離検出手段を設け、該焦点距離検出手段を通じて焦点距離の変動を10msec間隔等の短い時間間隔で監視して、所定速度以上の焦点距離の変動速度を検出したことで連写を区切ってもよい。具体的には、合焦状態が継続した後にレンズ部101に設けられた不図示のズーム操作部材が操作されて焦点距離が急速に変更された場合に、第2の焦点検出で合焦状態が継続していても、該焦点距離の変更の前後の連写を別々の連写として扱う。また、合焦状態が継続した後に絞り制御ユニット106を通じて絞り102の絞り値が変更された場合においても、該絞り値の変更の前後の連写を別々の連写として扱う。これにより、撮像部210の撮像光学系の絞り値が変化した場合に、デフォーカス量[μm]と合焦度J[Fδ]との対応を絞り値に応じて適切に判定することができる。
また、撮像光学系の焦点位置または像面位置の移動方向が変化した場合に、該移動方向の変化の前に行われた連写と該変化の後に行われた連写とを別々の連写として扱うことが好ましい。ただし、この場合に、パンニング等によってカメラの姿勢に所定方向への所定量以上の変化が生じた場合は、該姿勢の変化に伴う像面位置の移動を無視することが望ましい。
<実施例3の変形例>
実施例3では、デジタルカメラの記録部219と外部装置としてのコンピュータ2200とを電気的に接続して通信可能な状態を構築する。しかし、デジタルカメラの記録部219からデータを読み出す読出し機器と外部のコンピュータとを電気的に接続して通信可能な状態を構築する構成でもよい。また、デジタルカメラの記録部219や、記録部219からデータを読み出す読出し機器や、外部のコンピュータに無線通信手段を設けて、電気的な接続なく通信可能な状態を構築する構成でもよい。これらの構成においても、実施例5と同様の効果を得ることができる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
実施例3では、デジタルカメラの記録部219と外部装置としてのコンピュータ2200とを電気的に接続して通信可能な状態を構築する。しかし、デジタルカメラの記録部219からデータを読み出す読出し機器と外部のコンピュータとを電気的に接続して通信可能な状態を構築する構成でもよい。また、デジタルカメラの記録部219や、記録部219からデータを読み出す読出し機器や、外部のコンピュータに無線通信手段を設けて、電気的な接続なく通信可能な状態を構築する構成でもよい。これらの構成においても、実施例5と同様の効果を得ることができる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
209 焦点検出ユニット
210 撮像部
212 カメラコントローラ
210 撮像部
212 カメラコントローラ
Claims (18)
- 移動する被写体の連続撮像により取得された複数の画像データのそれぞれに対する撮像機会の評価指標となる指標情報を取得する取得手段と、
前記指標情報を用いて前記複数の画像データのそれぞれに対する評価を行う評価手段とを有することを特徴とする画像処理装置。 - 前記評価手段は、
前記連続撮像により取得された画像データごとの焦点状態を評価する第1の評価を行い、
前記第1の評価により合焦状態と評価された前記複数の画像データに対して、前記指標情報を用いた前記評価としての第2の評価を行うことを特徴とする請求項1に記載の画像処理装置。 - 前記評価手段は、前記第1の評価の結果に対する重み付けを行うことにより前記第2の評価の結果を生成すること特徴とする請求項2に記載の画像処理装置。
- 前記指標情報は、前記複数の画像データのそれぞれが取得された撮像時刻であり、
前記評価手段は、前記指標情報に応じた前記評価において、前記撮像時刻が遅いほどより高く評価することを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。 - 前記指標情報は、前記被写体までの撮像距離に応じて変化する情報であり、
前記評価手段は、前記指標情報に応じた前記評価において、前記撮像距離が短いほどより高く評価することを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。 - 前記指標情報は、前記連続撮像における像面移動速度であり、
前記評価手段は、前記指標情報に応じた前記評価において、前記像面移動速度が速いほどより高く評価することを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。 - 前記指標情報は、前記撮像に用いられた撮像光学系における焦点位置と至近端との間の距離であり、
前記評価手段は、前記指標情報に応じた前記評価において、前記距離が短いほどより高く評価することを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。 - 前記指標情報は、前記画像データにおける被写体像のサイズであり、
前記評価手段は、前記指標情報に応じた前記評価において、前記被写体像のサイズが大きいほどより高く評価することを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。 - 複数回の連続撮像が間隔を空けて行われた場合において、
前記評価手段は、前記間隔が所定時間以下であるときは、前記複数回の連続撮像を1まとまりの連続撮像として扱うことを特徴とする請求項1から8のいずれか一項に記載の画像処理装置。 - 複数回の連続撮像が間隔を空けて行われた場合において、
前記評価手段は、前記間隔の間に焦点状態の検出が継続して行われていた場合は、前記複数回の連続撮像を1まとまりの連続撮像として扱うことを特徴とする請求項1から9のいずれか一項に記載の画像処理装置。 - 前記画像データにおける顔を検出する顔検出手段を有し、
前記評価手段は、前記指標情報に応じた前記評価において、前記顔が検出されない場合に前記顔が検出された場合よりも低く評価することを特徴とする請求項1から10のいずれか一項に記載の画像処理装置。 - 前記連続撮像に用いられた撮像光学系の焦点位置の移動方向が至近方向から無限遠方向に変化した場合は、
前記評価手段は、前記指標情報に応じた前記評価において、前記変化時に取得された画像データを他の画像データよりも低く評価することを特徴とする請求項1から11のいずれか一項に記載の画像処理装置。 - 前記連続撮像に用いられた撮像装置において姿勢の変化、焦点距離の変化または絞り値の変化が生じた場合は、
前記評価手段は、前記変化の前に行われた連続撮像と前記変化の後に行われた連続撮像とを別々の連続撮像として扱うことを特徴とする請求項1から12のいずれか一項に記載の画像処理装置。 - 前記連続撮像に用いられた撮像光学系の焦点位置または被写体像の像面位置の移動方向が変化した場合は、
前記評価手段は、前記移動方向の変化の前に行われた連続撮像と該変化の後に行われた連続撮像とを別々の連続撮像として扱うことを特徴とする請求項1から13のいずれか一項に記載の画像処理装置。 - 前記連続撮像に用いられた撮像装置の姿勢に所定方向への所定量以上の変化が生じた場合において、
前記評価手段は、前記姿勢の変化に伴う像面位置の移動を無視することを特徴とする請求項14に記載の画像処理装置。 - 連続撮像を行う撮像素子と、
請求項1から15のいずれか一項に記載の画像処理装置とを有することを特徴とする撮像装置。 - 移動する被写体の連続撮像により取得された複数の画像データのそれぞれに対する撮像機会の評価指標となる指標情報を取得するステップと、
前記指標情報を用いて前記複数の画像データのそれぞれに対する評価を行うステップとを有することを特徴とする画像処理方法。 - コンピュータに、請求項17に記載の画像処理方法を実行させることを特徴とするコンピュータプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018081063A JP2019192993A (ja) | 2018-04-20 | 2018-04-20 | 画像処理装置、撮像装置および画像処理方法 |
US16/381,092 US20190327408A1 (en) | 2018-04-20 | 2019-04-11 | Image processing apparatus, imaging apparatus, and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018081063A JP2019192993A (ja) | 2018-04-20 | 2018-04-20 | 画像処理装置、撮像装置および画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019192993A true JP2019192993A (ja) | 2019-10-31 |
Family
ID=68236091
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018081063A Pending JP2019192993A (ja) | 2018-04-20 | 2018-04-20 | 画像処理装置、撮像装置および画像処理方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20190327408A1 (ja) |
JP (1) | JP2019192993A (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2576241B (en) * | 2018-06-25 | 2020-11-04 | Canon Kk | Image capturing apparatus, control method thereof, and computer program |
JP7309383B2 (ja) * | 2019-02-25 | 2023-07-18 | キヤノン株式会社 | 撮像装置 |
US11544834B2 (en) * | 2020-02-03 | 2023-01-03 | Canon Kabushiki Kaisha | Information processing system for extracting images, image capturing apparatus, information processing apparatus, control methods therefor, and storage medium |
JP2021150791A (ja) * | 2020-03-18 | 2021-09-27 | ソニーグループ株式会社 | 撮像装置および撮像装置の制御方法 |
-
2018
- 2018-04-20 JP JP2018081063A patent/JP2019192993A/ja active Pending
-
2019
- 2019-04-11 US US16/381,092 patent/US20190327408A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20190327408A1 (en) | 2019-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10904425B2 (en) | Image processing apparatus, control method therefor, and storage medium for evaluating a focusing state of image data | |
JP5898501B2 (ja) | 画像処理装置、撮像装置、制御方法、プログラム及び記録媒体 | |
JP2019192993A (ja) | 画像処理装置、撮像装置および画像処理方法 | |
US20100128163A1 (en) | Imaging device and imaging method | |
US9681037B2 (en) | Imaging apparatus and its control method and program | |
JP5753371B2 (ja) | 撮像装置およびその制御方法 | |
US20120274837A1 (en) | Camera | |
US10033919B2 (en) | Focus adjusting apparatus, focus adjusting method, image capturing apparatus, and storage medium | |
JP2003248164A (ja) | オートフォーカスアダプタ | |
JP2013145314A5 (ja) | ||
JP2007304280A (ja) | 撮像装置及びその制御方法及びプログラム及び記憶媒体 | |
US9380200B2 (en) | Image pickup apparatus and control method in which object searching based on an image depends on pixel combining on the image | |
JP2007081682A (ja) | 画像処理装置、画像処理方法、及び、情報処理装置が実行可能なプログラム | |
US9253392B2 (en) | Imaging apparatus and control method and program of imaging apparatus | |
JP2010139666A (ja) | 撮像装置 | |
JP2014013368A (ja) | 撮像装置及びその制御方法 | |
WO2002099498A1 (en) | Device for determining focused state of taking lens | |
US7830445B2 (en) | Image-pickup apparatus and focus control method for the same | |
JP2007133301A (ja) | オートフォーカスカメラ | |
US20160080636A1 (en) | Focusing control device and controlling method of the same | |
US9742983B2 (en) | Image capturing apparatus with automatic focus adjustment and control method thereof, and storage medium | |
JP2020181147A (ja) | 焦点調整装置、撮像装置、焦点調整方法、およびプログラム | |
JP2012189878A (ja) | 撮像装置 | |
JP2009175310A (ja) | 焦点検出装置、焦点検出方法およびカメラ | |
JP2012108281A (ja) | 焦点検出装置および撮像装置 |