JP2021060546A - 信号処理装置、撮像装置、信号処理方法、および、プログラム - Google Patents
信号処理装置、撮像装置、信号処理方法、および、プログラム Download PDFInfo
- Publication number
- JP2021060546A JP2021060546A JP2019185833A JP2019185833A JP2021060546A JP 2021060546 A JP2021060546 A JP 2021060546A JP 2019185833 A JP2019185833 A JP 2019185833A JP 2019185833 A JP2019185833 A JP 2019185833A JP 2021060546 A JP2021060546 A JP 2021060546A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image
- unit
- correlation calculation
- signal processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Abstract
【課題】画質の劣化を低減しつつ、高速かつ高精度な焦点検出が可能な信号処理装置を提供する。【解決手段】信号処理装置(100)は、撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減部(109)と、被写体のコントラスト値を算出するコントラスト値算出部(107)と、第一の像信号に基づいて第一のデフォーカス量を求める第一の相関演算部(111)と、第二の像信号に基づいて第二のデフォーカス量を求める第二の相関演算部(117)と、焦点検出モードまたはコントラスト値に基づいて、帯域削減部、第一の相関演算部、または、第二の相関演算部の少なくとも一つの処理を変更する制御部(112、118)とを有する。【選択図】図1
Description
本発明は、複数の信号処理部で自動焦点検出が可能な撮像装置に関する。
従来、複数の信号処理部を備えた撮像装置が知られている。特許文献1には、高い伝送レートの画像データを受信可能な第一の信号処理部を、高い伝送レートを受信できない第二の信号処理部の前に配置して緩衝の役割を持たせることで、スケーラビリティを実現する撮像装置が開示されている。
また従来、撮像装置のAF(オートフォーカス)方式として1つのマイクロレンズに対して複数の光電変換部を持った撮像素子により、瞳分割像を取得し、得られた2つの瞳分割像の位相差を求めて焦点検出を行う技術が知られている。特許文献2には、瞳分割像により位相差を求めて焦点検出を行うと同時に、同一マイクロレンズ内の画素を全て加算して1つの画素として取り扱うことで観賞用の画像を生成する技術が開示されている。特許文献3には、撮像素子の信号読出し方法として、瞳分割された2画素のうち第一の焦点検出信号(A像)を読出し、リセットせずに第二の焦点検出信号(B像)を加算して読出し、B像は加算信号(A+B像)からA像を減算して求める技術が開示されている。特許文献4には、A像とB像に対して圧縮処理(横方向に画素加算)を行うことで低周波成分を有する信号を生成するとともに、圧縮により相関演算のシフトデータ数を低減する技術が開示されている。
しかしながら、特許文献1に開示された撮像装置では、第一の信号処理部において、撮像素子から送られてきた記録用の画像データに対して一度圧縮符号化して伝送レートを落としているため、画質の劣化が懸念される。特許文献4に開示された技術では、焦点検出を行う枠数が増えるほど相関演算の演算量が増えるため、1フレーム中に処理を完了させることができない。また、低照度環境下で撮像した場合、撮像素子から信号から位相差を求めるAF方式では、信号レベルが低いために焦点検出精度が低下する。
そこで本発明は、画質の劣化を低減しつつ、高速かつ高精度な焦点検出が可能な信号処理装置、撮像装置、信号処理方法、および、プログラムを提供することを目的とする。
本発明の一側面としての信号処理装置は、撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減部と、被写体のコントラスト値を算出するコントラスト値算出部と、前記第一の像信号に基づいて第一のデフォーカス量を求める第一の相関演算部と、前記第二の像信号に基づいて第二のデフォーカス量を求める第二の相関演算部と、焦点検出モードまたはコントラスト値に基づいて、前記帯域削減部、前記第一の相関演算部、または、前記第二の相関演算部の少なくとも一つの処理を変更する制御部とを有する。
本発明の他の側面としての信号処理装置は、撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減部と、焦点検出のために前記撮像素子を駆動する撮像素子駆動部と、前記第一の像信号に基づいて第一のデフォーカス量を求める第一の相関演算部と、前記第二の像信号に基づいて第二のデフォーカス量を求める第二の相関演算部と、焦点検出方向に基づいて、前記第一のデフォーカス量または前記第二のデフォーカス量の一方を選択する制御部とを有する。
本発明の他の側面としての撮像装置は、撮像素子と前記信号処理装置とを有する。
本発明の他の側面としての信号処理方法は、撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減ステップと、被写体のコントラスト値を算出するコントラスト値算出ステップと、前記第一の像信号に基づいて第一のデフォーカス量を求める第一の相関演算ステップと、前記第二の像信号に基づいて第二のデフォーカス量を求める第二の相関演算ステップと、焦点検出モードまたはコントラスト値に基づいて、前記帯域削減ステップ、前記第一の相関演算ステップ、または、前記第二の相関演算ステップの少なくとも一つの処理を変更する制御ステップとを有する。
本発明の他の側面としての信号処理方法は、撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減ステップと、焦点検出のために前記撮像素子を駆動する撮像素子駆動ステップと、前記第一の像信号に基づいて第一のデフォーカス量を求める第一の相関演算ステップと、前記第二の像信号に基づいて第二のデフォーカス量を求める第二の相関演算ステップと、焦点検出方向に基づいて、前記第一のデフォーカス量または前記第二のデフォーカス量の一方を選択する制御ステップとを有する。
本発明の他の側面としてのプログラムは、前記信号処理方法をコンピュータに実行させる。
本発明の他の目的及び特徴は、以下の実施形態において説明される。
本発明によれば、画質の劣化を低減しつつ、高速かつ高精度な焦点検出が可能な信号処理装置、撮像装置、信号処理方法、および、プログラムを提供することができる。
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
(第一の実施形態)
まず、図1を参照して、本発明の第一の実施形態における撮像装置の構成について説明する。図1は、本実施形態における撮像装置100の構成図である。
まず、図1を参照して、本発明の第一の実施形態における撮像装置の構成について説明する。図1は、本実施形態における撮像装置100の構成図である。
101はズームレンズ、絞り、および、フォーカスレンズのうち少なくとも1つを有する光学系(撮像光学系)である。光学系101は、撮像装置100の本体(カメラ本体)と一体的に構成されていてもよく、または、カメラ本体に対して着脱可能に構成されていてもよい。102は、1つのマイクロレンズに対して複数の光電変換部を有するCMOSセンサなどの撮像素子である。撮像素子102は、同一のマイクロレンズ内の全ての信号を加算した画像信号(A+B像)と瞳分割された2画素のうち第一の焦点検出信号(A像)の2つの信号とを出力する。
103は、撮像素子102から出力された第一の焦点検出信号(A像)と画像信号(A+B像)とを受け取って信号処理を行う第一の信号処理部である。104は、撮像素子102から出力された第一の焦点検出信号(A像)と画像信号(A+B像)のそれぞれに対して補正処理を行うセンサ/光学補正部である。すなわちセンサ/光学補正部104は、A像とA+B像のそれぞれに対して、欠陥画素補正、固定パターンノイズの除去、および、スミア補正等の既知のセンサ起因での補正処理、シェーディング補正等の既知の光学起因での補正処理を行う。
105は、後述する第一のシステム制御部112の光学系駆動情報に応じて光学系101を制御する光学系駆動部である。106は、A像とA+B像のそれぞれに対して、縦方向に2列の画素信号、横方向に2列の画素信号を加算して輝度信号を生成し、更に得たい周波数成分に合わせて横方向に画素加算を行う第一の加算部である。107は、画像信号(A+B像)に対して被写体のピーク値やライン単位で算出したピーク値を垂直方向に加算したライン垂直積分値などのコントラスト値を算出するコントラスト値算出部である。108は、A像とA+B像のそれぞれを入力信号とし、A+B像からA像の信号を減算し、他方の瞳分離像の信号(B像)を生成し、2つの瞳分割像(A像とB像)を第一の相関演算部111に出力する第一の加算信号分離部である。
109は、A像とA+B像のそれぞれに対してデータの削減または圧縮処理を施す帯域削減部である。すなわち帯域削減部109は、撮像素子102から得られる第一の像信号の帯域を削減して(第一の像信号を圧縮して)第二の像信号を生成する。帯域削減部109は、以下の3つの役割を持つ。第一の役割は、A像の削減による帯域削減である。第二の役割は、A像に対して圧縮処理で縦方向に2列、横方向に2列を加算し輝度信号を生成した後、得たい周波数に合わせて横方向に画素加算を行う。第三の役割は、A像およびA+B像のそれぞれに対するフレーム加算での圧縮処理である。フレーム加算の圧縮処理は、まず、A像とA+B像のそれぞれに対して縦方向に2列、横方向に2列を加算し輝度信号を生成した後、得たい周波数に合わせて横方向に画素加算を行い、その信号を記憶部110に出力する。次のフレームで、記憶部110に記憶された前フレームの圧縮されたA像およびA+B像を読出し、現フレームの圧縮したA像とA+B像とを加算することでフレーム加算を実現する。フレーム加算の際には、帯域削減部109から、非圧縮のA+B像と圧縮したA像およびA+B像とが出力される。
110は記憶部(メモリ)であり、以下の2つの役割を持つ。第一の役割は、フレーム加算の際に、帯域削減部109から出力される圧縮されたA像とA+B像を記憶する役割である。第二の役割は、後述する第一の相関演算部111で複数種類の周波成分に対して相関演算する際に、記憶部109から圧縮率の低い信号を読出し第一の画素加算部106で更に圧縮して圧縮率の高い信号を生成し相関演算を行う役割である。
111は、第一の加算信号分離部108から得られた2つの瞳分割像(A像とB像)から位相差測距を行うために相関演算を行い、像ずれ量を算出する第一の相関演算部である。112は、撮像装置100の全体を制御する第一のシステム制御部(制御部)である。第一のシステム制御部112は、撮影シーンや撮影モードなどから得られる撮影情報に基づいて、光学系駆動部105へズームや絞りなどの光学系駆動情報を渡す。また第一のシステム制御部112は、第一の相関演算部111で算出された像ずれ量と後述する第二の相関演算部117で算出された像ずれ量を受信する。
113は、第一の信号処理部103(帯域削減部109)から出力されるA像とA+B像を受け取って信号処理を行う第二の信号処理部である。114は、画像信号(A+B像)に対して、例えば色変換、ホワイトバランス等の既知の画像処理を行うカメラ信号処理部である。115は、A像とA+B像のそれぞれに対して縦方向に2列、横方向に2列を加算して輝度信号を生成し、更に得たい周波数成分に合わせて横方向に画素加算を行う第二の加算部である。116は、A像とA+B像のそれぞれを入力信号とし、A+B像からA像の信号を減算して他方の瞳分離像の信号(B像)を生成し、2つの瞳分割像(A像とB像)を第二の相関演算部117に出力する第二の加算信号分離部である。117は、第二の加算信号分離部116から得られた2つの瞳分割像(A像とB像)から位相差測距を行うために相関演算を行い、像ずれ量を算出する第二の相関演算部である。118は、第一のシステム制御部112を制御する第二のシステム制御部(制御部)である。第二のシステム制御部118は、第一のシステム制御部112に対して、第二の相関演算部117で得られた像ずれ量を出力する。
次に、図2を参照して、本実施形態における撮像素子102について説明する。図2は、撮像素子102の画素構造の上面図である。本実施形態では、マイクロレンズアレイを形成する個々のマイクロレンズ201を1つの画素と定義し、これを単位画素202とする。また、1つのマイクロレンズ201に対して複数の分割画素が対応するように配置されている。なお、本実施形態では単位画素202には分割画素が対応するように配置されている。なお、本実施形態では単位画素202には分割画素がX軸方向に2個あり、それぞれ分割画素201A、201Bと定義する。
次に、図3を参照して、光学系101の射出瞳と撮像素子102との関係について説明する。図3は、光学系101の射出瞳から出た光束が単位画素に入射する概念図であり、光学系101から射出された光が1つのマイクロレンズ201を通過して撮像素子102で受光される様子を光軸Zに対して垂直方向(Y軸方向)から観察した図を示す。351、352は、光学系(撮影レンズ)101の瞳領域(射出瞳)である。瞳領域351、352を通過した光は、光軸Zを中心として単位画素202に入射する。図3に示されるように、瞳領域351を通過する光束はマイクロレンズ201を通して分割画素201Aで受光され、瞳領域352を通過する光束はマイクロレンズ201を通して分割画素201Bで受光される。したがって、分割画素201A、201Bはそれぞれ、光学系101の射出瞳の異なる領域(瞳領域351、352)の光を受光している。
このように、瞳分割された分割画素201Aの信号をX軸方向に並ぶ複数の単位画素202から取得し、これらの出力信号群で構成した被写体像をA像とする。同様に、瞳分割された分割画素201Bの信号をX軸方向に並ぶ複数の単位画素202から取得し、これらの出力信号群で構成した被写体像をB像とする。
A像とB像から相関演算を実施し、像ずれ量(瞳分割位相差)を検出する。さらに像ずれ量に対して焦点位置と光学系から決まる変換係数を乗じることで、画面内の任意の被写体位置に対応した焦点位置を算出することができる。ここで算出された焦点位置情報に基づいて、図3では不図示のフォーカスレンズを制御することで、撮像面位相差AFが可能となる。また、A像信号とB像信号との加算信号をA+B像信号とすることで、A+B像信号を画像信号に用いることができる。
次に、図4を参照して、本実施形態における焦点検出処理について説明する。図4は、本実施形態における焦点検出処理を示すフローチャートである。図4の各ステップは、第一の焦点検出部103または第二の焦点検出部113により実行される。
まず、ステップS401において、第一の画素加算部106は、センサ補正および光学補正されたA像とA+B像のそれぞれに対して、画素加算を実施する。すなわち第一の画素加算部106は、A像とA+B像のそれぞれに対して縦方向に2列、横方向に2列の画素信号を加算することにより、輝度信号を生成する。輝度信号の生成後、ここでは1/2に圧縮することを想定し、横方向に2画素加算を行う。輝度信号の生成で1/4に圧縮、更に1/2に圧縮したことで、計1/8に圧縮したA像とA+B像が生成される。
続いてステップS402において、第一のシステム制御部112は、焦点検出モード(AFモード)が多点モードであるか否かを判定する。ここで多点モードとは、AF(オートフォーカス)方式におけるAF枠の数が多いモードである。焦点検出モードが多点モードの場合、ステップS403に進む。ステップS403において、帯域削減部109は、A像に対して縦方向に2列、横方向に2列の画素信号を加算することにより、輝度信号を生成する。また帯域削減部109は、輝度信号の生成後、ここでは1/6に圧縮することを想定し、横方向に6画素加算を行う。そして帯域削減部109は、非圧縮のA+B像と1/24に圧縮されたA像とを出力する。続いてステップS404において、第二の画素加算部115は、A+B像の画素加算を行う。ここでは、A像の圧縮率に合わせてA+B像を1/24に圧縮する。
続いてステップS405において、まず、第一の加算信号分離部108は、第一の画素加算部106で1/8に圧縮されたA像とA+B像のそれぞれに対してA+B像からA像を減算し、B像を生成する。次に第一の相関演算部111は、A像とB像から相関演算を行い、像ずれ量を算出する。続いてステップS406において、まず、第二の加算信号分離部116は、第二の画素加算部115で1/24に圧縮されたA像とA+B像のそれぞれに対してA+B像からA像を減算し、B像を生成する。次に第二の相関演算部117は、A像とB像から相関演算を行い、像ずれ量を算出する。すなわち、第一の相関演算部111での相関演算は、第二の相関演算と比較して圧縮率の低い信号であるため、比較的高周波成分を有する信号から像ずれ量を算出している。
続いてステップS407において、第一のシステム制御部112は、得られた2つの像ずれ量のそれぞれの信頼性に基づいて、より信頼性の高い方の像ずれ量(相関演算結果)を選択する。続いてステップS408において、第一のシステム制御部112は、ステップS407にて選択された像ずれ量に所定の敏感度を掛けることで、デフォーカス量(第一のデフォーカス量または第二のデフォーカス量)を算出する。
一方、ステップS402にて焦点検出モードが多点モードでない場合、ステップS409に進む。ステップS409において、コントラスト値算出部107は、コントラスト値を算出し、算出されたコントラスト値が低いか否か(コントラスト値が所定の値よりも低いか否か)を判定する。コントラスト値が低い場合、ステップS410に進む。ステップS410において、帯域削減部109は、フレーム加算を行う。フレーム加算の圧縮処理の際に、まず、帯域削減部109は、A像とA+B像のそれぞれに対して縦方向に2列、横方向に2列の画素信号を加算して輝度信号を生成した後、1/2に圧縮することを想定して横方向に2画素加算を行い、記憶部110に出力する。そして帯域削減部109は、次のフレームで記憶部110に記憶された前フレームの圧縮されたA像とA+B像を読出し、現フレームの圧縮したA像とA+B像を加算することでフレーム加算を実現する。このとき帯域削減部109は、非圧縮のA+B像と1/8に圧縮したA像とA+B像を出力する。続いてステップS411において、第二の画素加算部115は、A+B像およびA像を得たい周波数に合わせて横方向に画素加算を行う。比較的高周波成分を有する信号から像ずれ量を検出したい場合、第二の画素加算部115では加算を行わずそのまま出力する。
本実施形態ではコントラスト値が低い場合、第二の相関演算部117の像ずれ量のみを使用する。このためステップS412において、第一の相関演算部111は、相関演算(像ずれ量の算出)を停止する。続いてステップS413において、まず第二の加算信号分離部116は、第二の画素加算部115で1/8に圧縮されたA像とA+B像に対してA+B像からA像を減算し、B像を生成する。次に第二の相関演算部117は、A像とB像から相関演算を行い、像ずれ量を算出する。そしてステップS414において、第一のシステム制御部112は、第二の相関演算結果(第二の相関演算部117により算出された像ずれ量)を用いる。続いてステップS408において、第一のシステム制御部112は、第二の相関演算部117により算出された像ずれ量に所定の敏感度を掛けることで、デフォーカス量(第二のデフォーカス量)を算出する。
一方、ステップS409にてコントラスト値が低くない場合、ステップS415に進む。このとき第二の信号処理部113の像ずれ量は使用しないため、ステップS415において、帯域削減部109は、A像を削減する。このとき帯域削減部109からは、非圧縮のA+B像のみが出力される。
続いてステップS416において、まず、第一の画素加算部106がステップS401にて1/8に圧縮されたA像とA+B像を記憶部110に出力するとともに、第一の加算信号分離部108はB像を生成する。次に第一の相関演算部111は、A像とB像から相関演算を行い、像ずれ量を算出する。第一の相関演算部111は、比較的高周波成分を有する信号から像ずれ量を算出する。次に、記憶部110から1/8に圧縮されたA+B像およびA像を読み込み、第一の画素加算部106で更に横方向に3画素加算を行う。このように圧縮されたA像とA+B像の圧縮率は1/24であり、比較的低周波成分を有する信号となる。第一の加算信号分離部108は、B像を生成し、第一の相関演算部111は、A像とB像から相関演算を行い像ずれ量を算出する。すなわち第一の相関演算部111は、高周波成分を有する像ずれ量と低周波成分を有する像ずれ量を順次算出する。
このとき第一の相関演算部111の像ずれ量のみを使用する。このためステップS417において、第二の相関演算部117は、相関演算(像ずれ量の算出)を停止する。続いてステップS418において、第一のシステム制御部112は、第一の相関演算結果(第一の相関演算部111により算出された像ずれ量)を用いる。続いてステップS408において、第一のシステム制御部112は、第一の相関演算部111により算出された像ずれ量に所定の敏感度を掛けることで、デフォーカス量(第一のデフォーカス量)を算出する。ここでは、多点モード時のように同時に2つの周波数成分の像ずれ量を算出するのに対して約2倍の時間はかかるが、多点モードではないため、デフォーカス量算出処理は1フレーム内に収めることができる。
このように本実施形態では、焦点検出モードとコントラスト値とに基づいて、帯域削減部109による処理を変更する。同様に、焦点検出モードとコントラスト値とに基づいて、第一の相関演算部111および第二の相関演算部117で処理する信号の周波数成分、相関演算するシフト量、および、データ量を変更する。このように処理を変更することで、記録用の画像データ(A+B像)に対して画質を劣化させることなく、所定の時間でAFの検出処理を終え、さらにコントラスト値が低い場合は瞳分割像の信号レベルを上げる。このため、高速かつ高精度な焦点検出が可能となる。
なお本実施形態では、焦点検出モードとコントラスト値とに基づいて帯域削減部109、第一の相関演算部111、および、第二の相関演算部117での処理を変更するが、これに限定されるものではない。焦点検出モードまたはコントラスト値のいずれか一方の条件のみに応じて、帯域削減部109、第一の相関演算部111、または、第二の相関演算部117での処理を変更してもよい。また本実施形態では、第一の信号処理部103が第二の信号処理部113よりも処理レートが高いことを想定し、A像の圧縮率を高くして第二の信号処理部113に出力するが、その逆でも良い。すなわち、第二の信号処理部113が第一の信号処理部103よりも処理レートが高い場合、第一の画素加算部106では圧縮率を高くし、帯域削減部109では圧縮率を低くするようにしてもよい。
このように本実施形態において、信号処理装置(撮像装置100)は、帯域削減部109、第一の相関演算部111、第二の相関演算部117、および、制御部(第一のシステム制御部112、第二のシステム制御部118)を有する。帯域削減部109は、撮像素子102から得られる第一の像信号の帯域を削減して第二の像信号を生成する。第一の相関演算部は、第一の像信号に基づいて第一の相関演算を行う。第二の相関演算部は、第二の像信号に基づいて第二の相関演算を行う。制御部は、焦点検出モードまたはコントラスト値に基づいて、帯域削減部109、第一の相関演算部111、または、第二の相関演算部117の少なくとも一つの処理を変更する。
好ましくは、帯域削減部の処理の変更は、第一の像信号の水平方向または垂直方向の加算処理、フレーム単位での加算処理、または、第一の像信号の削減処理の変更を含む。また好ましくは、第一の相関演算部または第二の相関演算部の処理の変更は、相関演算のシフト演算数、相関演算のための像信号の範囲、または、像信号の評価帯域の変更を含む。また好ましくは、コントラスト値算出部は、第一の像信号を混合した画像信号に対して二次元のエリアを設定するエリア設定部を備える。コントラスト値は、エリア設定部で設定されたエリアの中の全画素の最大値、全画素の最大値から全画素の最小値を引いた値、全画素に対して所定のレベルよりも大きい値をカウントしたカウント値、または、各水平方向の最大値を垂直方向に加算した加算値である。また好ましくは、制御部は、焦点検出モードが多点モードであるか否かに基づいて、帯域削減部、第一の相関演算部、または、第二の相関演算部の少なくとも一つの処理を変更する。また好ましくは、制御部は、コントラスト値が所定の値よりも低いか否かに基づいて、帯域削減部、第一の相関演算部、または、第二の相関演算部の少なくとも一つの処理を変更する。また好ましくは、制御部は、第一のデフォーカス量または第二のデフォーカス量に基づいて、フォーカス制御を行う。
本実施形態の信号処理装置によれば、画質を劣化させることなく、高速かつ高精度な焦点検出を行うことができる。
(第二の実施形態)
次に、図5を参照して、本発明の第二の実施形態における撮像装置の構成について説明する。図5は、本実施形態における撮像装置100aのブロック図である。撮像装置100aは、ぶれ検出部501を有する点で、第一の実施形態における撮像装置100と異なる。なお、撮像装置100aの他の構成は、撮像装置100と同様であるため、その説明を省略する。
次に、図5を参照して、本発明の第二の実施形態における撮像装置の構成について説明する。図5は、本実施形態における撮像装置100aのブロック図である。撮像装置100aは、ぶれ検出部501を有する点で、第一の実施形態における撮像装置100と異なる。なお、撮像装置100aの他の構成は、撮像装置100と同様であるため、その説明を省略する。
ぶれ検出部501は、撮像装置100aに実装された角速度センサ等であり、撮像装置100aに加えられる振れの大きさ(ぶれ)を検出する。ぶれ検出部501は、2つの回転軸(第一の軸、第二の軸)を有し、ピッチ方向の振れ検出は第一の軸回り方向であるピッチ方向の振れを検出し、ヨー方向の振れ検出は第二の軸回り方向であるヨー方向の振れを検出する。ぶれ検出部501で取得(検出)された角速度信号は、不図示のA/Dコンバータを介して、アナログ信号からデジタル信号に変換される。第一のシステム制御部112は、得られたデジタル信号に対してデジタルフィルタ処理を施してぶれ量を算出する。
次に、図6を参照して、本実施形態における焦点検出処理について説明する。図6は、本実施形態における焦点検出処理を示すフローチャートである。図6の各ステップは、第一の焦点検出部103または第二の焦点検出部113により実行される。なお図6のステップS601〜S609、S616〜S624は、図4のステップS401〜S418とそれぞれ同様であるため、それらの説明を省略する。
ステップS609にてコントラスト値が低いと判定された場合、ステップS610に進む。ステップS610において、第一のシステム制御部112は、ぶれ検出部501からの角速度信号に基づいて、ぶれ量を算出する。続いてステップS611において、第一のシステム制御部112は、ぶれ量が所定の閾値よりも大きいか否かを判定する。ぶれ量が所定の閾値よりも小さい場合、ステップS616に進む。
一方、ぶれ量が所定の閾値よりも大きい場合、ステップS612に進む。このとき、第二の信号処理部113での像ずれ量は使用しない。このためステップS612において、帯域削減部109は、A像を削減する。このとき、帯域削減部109からは非圧縮のA+B像のみ出力される。
続いてステップS613において、まず、第一の画素加算部106がステップS601にて1/8に圧縮されたA像とA+B像を記憶部110に出力するとともに、第一の加算信号分離部108はB像を生成する。次に第一の相関演算部111は、A像とB像から相関演算を行い、像ずれ量を算出する。第一の相関演算部111は、比較的高周波成分を有する信号から像ずれ量を算出する。次に、記憶部110から1/8に圧縮されたA+B像およびA像を読み込み、第一の画素加算部106で更に横方向に3画素加算を行う。このように圧縮されたA像とA+B像の圧縮率は1/24であり、比較的低周波成分を有する信号となる。第一の加算信号分離部108は、B像を生成し、第一の相関演算部111は、A像とB像から相関演算を行い像ずれ量を算出する。すなわち第一の相関演算部111は、高周波成分を有する像ずれ量と低周波成分を有する像ずれ量を順次算出する。
このとき第一の相関演算部111の像ずれ量のみを使用する。このためステップS614において、第二の相関演算部117は、相関演算(像ずれ量の算出)を停止する。続いてステップS615において、第一のシステム制御部112は、第一の相関演算結果(第一の相関演算部111により算出された像ずれ量)を用いる。続いてステップS608において、第一のシステム制御部112は、第一の相関演算部111により算出された像ずれ量に所定の敏感度を掛けることで、デフォーカス量を算出する。ここでは、多点モード時のように同時に2つの周波数成分の像ずれ量を算出するのに対して約2倍の時間はかかるが、多点モードではないため、デフォーカス量算出処理は1フレーム内に収めることができる。
このように本実施形態において、信号処理装置(撮像装置100a)は、ぶれを検出するぶれ検出部501を有する。制御部は、ぶれ検出部で検出されたぶれに基づいて、第一の相関演算により得られた第一のデフォーカス量または第二の相関演算により得られた第二のデフォーカス量のいずれか一方を選択する。
本実施形態の信号処理装置によれば、画質を劣化させることなく、高速かつ高精度な焦点検出を行うことができる。
(第三の実施形態)
次に、図7を参照して、本発明の第三の実施形態における撮像装置の構成について説明する。図7は、本実施形態における撮像装置100bのブロック図である。撮像装置100bは、第一の信号処理部103bおよび第二の信号処理部113bを有する。第一の信号処理部103bは、撮像素子駆動部120および第一の記憶部121を有する点で、コントラスト値算出部107および記憶部110を有する第一の実施形態の第一の信号処理部103と異なる。第二の信号処理部113bは、第二の記憶部122を有する点で、第一の実施形態の第二の信号処理部113と異なる。なお、撮像装置100bの他の構成は、第一の実施形態の撮像装置100と同様であるため、その説明を省略する。
次に、図7を参照して、本発明の第三の実施形態における撮像装置の構成について説明する。図7は、本実施形態における撮像装置100bのブロック図である。撮像装置100bは、第一の信号処理部103bおよび第二の信号処理部113bを有する。第一の信号処理部103bは、撮像素子駆動部120および第一の記憶部121を有する点で、コントラスト値算出部107および記憶部110を有する第一の実施形態の第一の信号処理部103と異なる。第二の信号処理部113bは、第二の記憶部122を有する点で、第一の実施形態の第二の信号処理部113と異なる。なお、撮像装置100bの他の構成は、第一の実施形態の撮像装置100と同様であるため、その説明を省略する。
撮像素子駆動部120は、第一のシステム制御部112からの指示(撮像素子駆動指示情報)に応じて、撮像素子102の駆動を制御する。撮像素子102は、電子シャッタ機能を有していてもよい。その場合、撮像素子102は、撮像素子駆動部120から出力される制御信号に応じて所望の露光時間となるように電子シャッタ機能を実行しても良い。
第一の記憶部108は、以下の2つの役割を持つ。第一の役割は、帯域削減部109で輝度信号を生成する際に、垂直方向に加算するためにラインメモリとして複数の瞳分割信号を記憶する役割である。第二の役割は、後述する第一の相関演算部(第一の位相差測距部)111で垂直方向に相関演算を行う際に、撮像素子102からラスタスキャン順序で入力されてくる信号を90°回転させて読み出しまたは書き込みをする役割である。第二の記憶部122も、第一の記憶部108と同じ役割を有する。
次に、図8を参照して、本実施形態における撮像素子102の画素部806について説明する。図8は、撮像素子102の画素部806の模式図である。撮像素子102は、行列状に配置された複数の画素部806を有する。画素部806は、入射光に応じた電荷を生成するフォトダイオード(PD)等の光電変換部を複数個含む。本実施形態では、光電変換部を4個有する画素部806を示すが、これに限定されるものではない。
画素部806は、光電変換部801(第一の光電変換部)、光電変換部802(第二の光電変換部)、光電変換部803(第三の光電変換部)、および、光電変換部804(第四の光電変換部)を有する。画素部806は、光電変換部801、802、803、804に共有されるマイクロレンズ805をさらに有する。すなわち、光電変換部801、802、803、804には、同一のマイクロレンズ805により導かれた光が入射される。撮像素子102内に配列されている他の画素部も、同様の光電変換部を有する。
光電変換部801から得られる信号をA像、光電変換部802から得られる信号をB像、光電変換部803から得られる信号をC像、光電変換部804から得られる信号をD像と呼ぶ。光電変換部801、802、803、804(第一の群)から出力される信号を加算することで、瞳分割されていない画像信号が得られる。これをA+B+C+D像(第一の加算信号)と呼ぶ。
また、光電変換部801、802、803、804(第一の群)の一部である光電変換部801と802(第二の群)から得られる信号を加算することで、上側に配された光電変換部からの信号(上信号)が得られる。これをA+B像(第二の加算信号)と呼ぶ。光電変換部803と804(第三の群)から得られる信号を加算することで、下側に配された光電変換部からの信号(下信号)が得られる。これをC+D像(第三の加算信号)と呼ぶ。このようにして、上下(第一の瞳分割方向)に瞳分割された信号が得られる。
一方、光電変換部801、802、803、804(第一の群)の一部であって、上記と異なる組み合わせである光電変換部801と803(第二の群)から得られる信号を加算することで、左側に配された光電変換部からの信号(左信号)が得られる。これをA+C像(第二の加算信号)と呼ぶ。光電変換部802と804(第三の群)から得られる信号を加算することで、右側に配された光電変換部からの信号(右信号)が得られる。これをB+D像(第三の加算信号)と呼ぶ。このようにして、左右(第二の瞳分割方向)に瞳分割された信号が得られる。
以上のように、加算対象となる各光電変換部からの信号を変えることで左右に瞳分割された信号または上下に瞳分割された信号を得ることが可能であり、瞳分割方向を変更可能である。また、瞳分割されてない画像信号を得ることも可能である。
次に、図9を参照して、撮像素子102の回路構成について説明する。図9は、撮像素子102の回路ブロック図である。なお図9では、説明の簡略化のため、4つの画素部の構造のみが示されているが、行数および列数は図示されている個数と異なっていてもよく、任意の行数および列数とすることができる。
撮像素子102は、撮像素子駆動部120からの入力部として、瞳分割指示入力端子120−1、水平同期信号入力端子120−2、垂直同期信号入力端子120−3、及び指示情報更新信号入力端子120−4を有する。また撮像素子102は、DFE(デジタルフロントエンド)313への入力部として、第一の出力端子312−1、第二の出力端子312−2、第三の出力端子312−3、第四の出力端子312−4を有する。
瞳分割指示入力端子120−1には、撮像素子駆動部120から瞳分割指示情報が入力される。水平同期信号入力端子120−2には、撮像素子駆動部120から水平同期信号HDが入力される。垂直同期信号入力端子120−3には、撮像素子駆動部120から垂直同期信号VDが入力される。指示情報更新信号入力端子120−4には、撮像素子駆動部120から指示情報更新信号が入力される。
撮像素子102は、上述の画素部806に加え、タイミング信号発生回路301、第一のバッファ302、第二のバッファ303、転送信号修正回路305、及び水平読出し回路311を有する。また水平読み出し回路311には不図示の列ADコンバータも実装されており、アナログ信号からデジタル信号へ変換される。また、撮像素子102は、転送信号共有バス304、転送信号線306、行読み出し制御信号線307、リセット信号線308、列読出し信号線309、及び水平駆動制御信号線310を有する。第一のバッファ302、第二のバッファ303、及び転送信号修正回路305は、撮像素子102の画素列ごとに設けられている。
第一のバッファ302は、入力された瞳分割指示情報を保持し、第二のバッファ303に出力する。第二のバッファ303は、指示情報更新信号に基づくタイミングで、保持している情報を入力された瞳分割指示情報に更新し、転送信号修正回路305に出力する。水平同期信号HDおよび垂直同期信号VDは、タイミング信号発生回路301に入力される。タイミング信号発生回路301は、水平同期信号HD及び垂直同期信号VDに基づくタイミングで、転送信号共有バス304、行読出し制御信号線307、リセット信号線308、水平駆動制御信号線310に制御信号を出力する。
転送信号修正回路305は、瞳分割指示情報に基づいて、転送信号共有バス304から入力される転送信号の論理値を修正して、各列の転送信号線306に出力する。転送信号線306は、光電変換部801、802、803、804に対応する4本の転送信号線306−1、306−2、306−3、306−4で構成される。これらの転送信号線306−1、306−2、306−3、306−4は画素部806に接続される。タイミング信号発生回路301は、行読出し制御信号線307を介して各画素部806に行読出し制御信号SELを供給する。また、タイミング信号発生回路301は、リセット信号線308を介して各画素部806にリセット信号RESを供給する。
画素部806は、これらの制御信号に基づいて、光電変換部801、802、803、804からの信号を列読出し信号線309に出力する。各列の列読出し信号線309からの出力信号は、水平読出し回路311に入力される。水平読出し回路311は、タイミング信号発生回路301から水平駆動制御信号線310を介して入力される制御信号に基づき第一の出力端子312−1、第二の出力端子312−2、第三の出力端子312−3、第四の出力端子313−4から信号を順次出力する。これは、列読出し信号線309からの信号を列ごとにアナログ信号からデジタル変換へ変換するAD変換と同時に行われる。
次に、図10を参照して、撮像素子102の画素部806の回路構成について説明する。図10は、本発明の撮像素子102の画素部の回路図である。撮像素子102は、光電変換部801、802、803、804にそれぞれ接続された転送トランジスタ401、402、403、404を有する。光電変換部801、802、803、804の各々で生成された電荷は、転送トランジスタ401、402、403、404の各々を介してフローティングディフュージョン407に転送される。転送トランジスタ401、402、403、404は、転送信号線306−1、306−2、306−3、306−4により入力される転送信号TX1、TX2、TX3、TX4によりそれぞれ導通または非導通に制御される。
撮像素子102は、さらにリセットトランジスタ406、行読出しトランジスタ408、ソースフォロワトランジスタ409を有する。リセットトランジスタ406は、電源線405とフローティングディフュージョン407との間に接続される。行読出しトランジスタ408は、フローティングディフュージョン407とソースフォロワトランジスタ409のゲートノードとの間に接続される。ソースフォロワトランジスタ409のドレインは電源線405に接続される。ソースフォロワトランジスタ409のソースは列読出し信号線309に接続される。リセットトランジスタ406は、リセット信号線308から入力されるリセット信号RESにより導通または非導通に制御される。行読出しトランジスタ408は、行読出し制御信号線307から入力される行読出し制御信号SELにより導通または非導通に制御される。
次に、図11を参照して、撮像素子102の駆動タイミングについて説明する。図11は、撮像素子102の駆動タイミングチャートである。図11には、水平同期信号HD、垂直同期信号VD、及び指示情報更新信号の動作タイミングが示されている。1垂直同期期間内には複数の水平同期期間が含まれる。各水平同期期間は、水平ブランキング期間(H−BLK)と水平駆動期間(H駆動)からなる。ある水平同期期間の水平ブランキング期間と水平駆動期間をそれぞれ期間t501、期間t502とし、その次の水平同期期間の水平ブランキング期間と水平駆動期間をそれぞれ期間t503、期間t504とする。期間t502において、ある画素行に対応する瞳分割指示情報が瞳分割指示入力端子120−1に入力される。瞳分割指示情報は各画素列に対応する第一のバッファ302に保持される。第一のバッファ302に保持された瞳分割指示情報は第二のバッファ303に出力される。なお、瞳分割指示情報は、0または1の論理値を有するデジタル信号である。0は上下方向、左右方向の2種類の瞳分割を指示するための信号であり、1は左右方向のみの瞳分割を指定するための信号である。
期間t503の初期において、指示情報更新信号入力端子120−4から第二のバッファ303に入力される指示情報更新信号に応じて、第二のバッファ303に保持される値が、第一のバッファ302から出力される値に更新される。これにより、瞳分割指示情報は、第二のバッファ303から転送信号修正回路305に入力される。
転送信号共有バス304からの転送信号は、転送信号修正回路305に入力される。転送信号修正回路305は、瞳分割指示情報に基づいて、転送信号を瞳分割の指示に対応した動作となるように修正する。なお、瞳分割指示情報が転送信号共有バス304からの転送信号をそのまま通過させるように動作させてもよく、この動作も「修正」に含まれる。
次に、図12を参照して、水平ブランキング期間t503における画素部806の駆動タイミングについて説明する。図12は、水平ブランキング期間t503における画素部806の駆動タイミングチャートである。図12(a)は、瞳分割指示情報の値が0の場合の駆動タイミングチャートであり、図12(b)は、瞳分割指示情報の値が1の場合の駆動タイミングチャートである。図12(a)、(b)には、転送信号TX1、TX2、TX3、TX4、行読出し制御信号SEL,リセット信号RES、フローティングディフュージョン(FD)407に蓄積される信号および列読出し信号線(OUT)309から出力される信号が示されている。
図12(a)を参照して、瞳分割指示情報の値が0の場合の駆動タイミングを説明する。期間t503−1において、転送信号TX2をHighとする。これにより、転送トランジスタ402が導通し、光電変換部802に蓄積されたB像に対応する電荷がフローティングディフュージョン407に転送される。
期間t503−2において、行読出し制御信号SELをHighとする。これにより、行読出しトランジスタ408が導通し、ソースフォロワトランジスタ409のゲートノードにフローティングディフュージョン407の電圧が入力される。列読出し信号線309にはB像に対応する電圧信号が出力される。
期間t503−3において、転送信号TX1をHighとする。これにより、転送トランジスタ401が導通し、光電変換部801に蓄積されたA像に対応する電荷がフローティングディフュージョン407に転送される。フローティングディフュージョン407に、電荷の加算が行われ、蓄積される電荷はA+B像に対応する。
期間t503−4において、行読出し制御信号SELをHighとする。これにより、行読出しトランジスタ408が導通し、ソースフォロワトランジスタ409のゲートノードにフローティングディフュージョン407の電圧が入力される。列読出し信号線309にはA+B像に対応する電圧信号が出力される。
期間t503−6において、転送信号TX3をHighとする。これにより、転送トランジスタ403が導通し、光電変換部803に蓄積されたC像に対応する電荷がフローティングディフュージョン407に転送される。フローティングディフュージョン407において電荷の加算が行われ、蓄積される電荷はA+B+C像に対応する。
期間t503−7において、行読出し制御信号SELをHighとする。これにより、行読出しトランジスタ408が導通し、ソースフォロワトランジスタ409のゲートノードにフローティングディフュージョン407の電圧が入力される。列読出し信号線309にはA+B+C像に対応する電圧信号が出力される。
期間t503−8において、転送信号TX4をHighとする。これにより、転送トランジスタ404が導通し、光電変換部804に蓄積されたD像に対応する電荷がフローティングディフュージョン407に転送される。フローティングディフュージョン407において電荷の加算が行われ、蓄積される電荷はA+B+C+D像に対応する。
期間t503−9において、期間t503−7と同様に、行読出し制御信号線SELをHighとすることで、列読出し信号線309にはA+B+C+D像に対応する電圧信号が出力される。
期間t503−10において、リセット信号RES及び、全ての転送信号TX1、TX2、TX3、TX4をHighとする。これにより、全ての光電変換部801、802、803、804及びフローティングディフュージョン407の蓄積電荷は初期状態にリセットされる。その後、光電変換部801、802、803、804では次の読み出し駆動のための光電荷の蓄積が行われる。
このように、瞳分割指示情報の値が0の場合は、瞳分割されていない画像信号(A+B+C+D像)とA+B+C像、上信号(A+B像)、B像の4つの信号が撮像素子102から読み出され、水平読み出し回路311に入力される。水平駆動期間t504において、水平読み出し回路311は、第一の出力端子312−1からB像を出力し、第二の出力端子312−2から上信号(A+B像)を出力する。また水平駆動期間t504において、水平読み出し回路311は、第三の出力端子312−3からA+B+C像を出力し、第四の出力端子313−4から瞳分割されていない画像信号(A+B+C+D像)を出力する。
次に、図12(b)を参照して、瞳分割指示情報の値が1の場合の駆動タイミングを説明する。期間t503−1において、転送信号TX3をHighとする。これにより、転送トランジスタ403が導通し、光電変換部803に蓄積されたC像に対応する電荷がフローティングディフュージョン407に転送される。
期間t503−2において、転送信号TX1をHighとする。これにより、転送トランジスタ401が導通し、光電変換部801に蓄積されたA像に対応する電荷がフローティングディフュージョン407に転送される。フローティングディフュージョン407に、電荷の加算が行われ、蓄積される電荷はA+C像に対応する。
期間t503−3において、行読出し制御信号SELをHighとする。これにより、行読出しトランジスタ408が導通し、ソースフォロワトランジスタ409のゲートノードにフローティングディフュージョン407の電圧が入力される。列読出し信号線309にはA+C像に対応する電圧信号が出力される。
期間t503−5において、転送信号TX2をHighとする。これにより、転送トランジスタ402が導通し、光電変換部802に蓄積されたB像に対応する電荷がフローティングディフュージョン407に転送される。フローティングディフュージョン407において電荷の加算が行われ、蓄積される電荷はA+B+C像に対応する。
期間t503−6において、転送信号TX4をHighとする。これにより、転送トランジスタ404が導通し、光電変換部804に蓄積されたD像に対応する電荷がフローティングディフュージョン407に転送される。フローティングディフュージョン407において電荷の加算が行われ、蓄積される電荷はA+B+C+D像に対応する。
期間t503−7において、期間t503−3と同様に、行読出し制御信号線SELをHighとすることで、列読出し信号線309にはA+B+C+D像に対応する電圧信号が出力される。
期間t503−8において、リセット信号RES及び、全ての転送信号TX1、TX2、TX3、TX4をHighとする。これにより、全ての光電変換部801、802、803、804及びフローティングディフュージョン407の蓄積電荷は初期状態にリセットされる。その後、光電変換部801、802、803、804では次の読み出し駆動のための光電荷の蓄積が行われる。
このように、瞳分割指示情報の値が1の場合は、瞳分割されていない画像信号(A+B+C+D像)と左信号(A+C像)の2つの信号が撮像素子102から読み出され、水平読み出し回路311に入力される。
水平駆動期間t504において、水平読み出し回路311は、第三の出力端子312−3から左信号(A+C像)を出力し、第四の出力端子313−4から瞳分割されていない画像信号(A+B+C+D像)を出力する。このとき、第一の出力端子312−1、第三の出力端子312−3からは何も信号は出力されない。
次に、図13を参照して、撮像素子102の出力信号の生成方法について説明する。図13は、撮像素子102の出力信号の生成方法を示す図であり、DFE(デジタルフロントエンド)313のブロック図を示す。図13(a)は瞳分割指示情報の値が0の場合の処理を示し、図13(b)は瞳分割指示情報の値が1の場合の処理を示す。図13(a)において、DFE(デジタルフロントエンド)313の入力信号は上述のように画像信号(A+B+C+D像)312−4とA+B+C像312−3、上信号(A+B像)312−2、B像312−1である。ここで、上信号(A+B像)312−2と画像信号(A+B+C+D像)312−4はそのまま撮像素子102の出力として出力される。A+B+C像312−3とB像312−1はA+B+C像からB像を減算し、左信号(A+C像)を生成する。
生成された左信号(A+C像)が撮像素子102の出力として出力される。すなわち、撮像素子102からは上信号(A+B像)102−1と左信号(A+C像)102−2と画像信号(A+B+C+D像)102−3の3つの信号が出力される。出力された3つの信号はセンサ/光学補正部104で補正された後、帯域削減部109に入力される。帯域削減部109は、第一の画素加算部106に出力する信号と第二の信号処理部113に出力する信号を選択する。
本実施形態では、第一の相関演算部(第一の位相差測距部)111は水平方向の相関演算を実施し、第二の相関演算部(第二の位相差測距部)117では垂直方向の相関演算を実施することを想定している。このため、帯域削減部109から第一の画素加算部106に出力される信号は、画像信号(A+B+C+D像)と左信号(A+C像)である。また、帯域削減部109から第二の信号処理部113に出力される信号は、画像信号(A+B+C+D像)と上信号(A+B像)である。このように帯域削減部109でデータ量を削減することで、撮像素子102から第一の信号処理部103の入力信号は3つであるが、第一の信号処理部103から第二の信号処理部113に対する出力信号は2つになっており、データ量が2/3に削減される。
第一の画素加算部106は画像信号(A+B+C+D像)と左信号(A+C像)とを輝度加算し、第一の加算信号分離部108は画像信号(A+B+C+D像)から左信号(A+C像)を減算する。これにより、右信号(B+D像)が生成される。第一の相関演算部111は、左信号(A+C像)と右信号(B+D像)と入力し、後述する像ずれ量を算出する。
第二の信号処理部113bは、画像信号(A+B+C+D像)と上信号(A+B像)を受け取る。カメラ信号処理部114は、画像信号(A+B+C+D像)に対して、例えば色変換、ホワイトバランス等の既知の画像処理を行う。第二の記憶部122は、第二の画素加算部115で輝度信号を生成するとともに、生成した輝度信号を90°回転させて第二の加算信号分離部116に出力するため、垂直方向の加算用のラインメモリとして瞳分割信号を記憶する。また第二の画素加算部115は、第二の相関演算部117で垂直方向に相関演算を行う際に、ラスタスキャン順序で入力されてきた画像信号(A+B+C+D像)と上信号(A+B像)信号を90°回転させて読み出しを行う。
第二の加算信号分離部116は、90°回転した画像信号(A+B+C+D像)と上信号(A+B像)信号を受け取り、画像信号(A+B+C+D像)から上信号(A+B像)を減算することで、下信号(C+D像)を生成する。第二の相関演算部117は、上信号(A+B像)と下信号(C+D像)を入力し、後述する像ずれ量を算出する。第一のシステム制御部112は、第一の相関演算部111で得られた像ずれ量と第二の相関演算部117で得られた像ずれ量の信頼性に基づいて、より信頼性の高い方の像ずれ量を選択し、像ずれ量に対して所定の敏感度を掛けることでデフォーカス量を算出する。
次に、図14を参照して、撮像素子102の垂直同期期間における相関演算のタイミングについて説明する。図14は、撮像素子102の垂直同期期間における相関演算のタイミングチャートであり、垂直同期信号VDに対して、撮像素子出力期間と水平方向相関演算期間と垂直方向相関演算期間を示している。垂直同期信号VDは、撮像素子駆動部120から入力され、1垂直同期期間内に撮像素子出力期間、水平方向相関演算期間、垂直方向相関演算期間が入っていれば、1フレーム内に水平、垂直の像ずれ量が算出できることになる。
まず、撮像素子102から上信号(A+B像)と左信号(A+C像)と画像信号(A+B+C+D像)の3つの信号が出力される。水平方向の相関演算は第一の相関演算部111で行い、垂直方向の相関演算は第二の相関演算部117で行われる。撮像素子102からはラスタスキャン順序で信号が入力されるため、水平方向の相関演算はその順序に従って処理をする。一方、垂直方向の相関演算はラスタスキャン順序で入力される信号に対して垂直方向に相関演算を行う必要があるため、複数ライン分の信号が入力されて初めて処理することができる。また垂直方向の相関演算を行う際には、第二の記憶部122に信号を保持しておき、90°回転させてから第二の相関演算部117に入力させる。上記理由から、垂直方向相関演算期間は水平方向相関演算期間よりも処理の開始期間が遅れ、その分処理の終了期間も遅れたタイミングチャートとなる。
しかしながら、第一の信号処理部103bと第二の信号処理部113bの2つの信号処理部で並行して処理を行うため、1垂直同期期間内に処理を終えることができる。
図13(b)において、DFE313の入力信号は、上述のように画像信号(A+B+C+D像)312−4と左信号(A+C像)312−2である。ここで、画像信号(A+B+C+D像)312−4と左信号(A+C像)312−2はそのまま撮像素子102の出力として出力される。すなわち、撮像素子102からは左信号(A+C像)102−1と画像信号(A+B+C+D像)102−3の2つの信号が出力される。出力された2つの信号はセンサ/光学補正部104で補正された後、帯域削減部109に入力される。帯域削減部109は、第一の画素加算部106に出力する信号と第二の信号処理部113に出力する信号を選択する。
本実施形態において、第一の相関演算部111は水平方向の相関演算を実施し、第二の相関演算部117は垂直方向の相関演算を実施することを想定している。このため、帯域削減部109から第一の画素加算部106に出力される信号は、画像信号(A+B+C+D像)と左信号(A+C像)である。また、帯域削減部109から第二の信号処理部113に出力される信号は画像信号(A+B+C+D像)のみであり、第二の相関演算部117では処理しないことを意図している。このように帯域削減部109でデータ量を削減したことで、撮像素子102から第一の信号処理部103の入力信号は2つであるが、第一の信号処理部103から第二の信号処理部113の入力信号は1つになっており、データ量は1/2に削減されている。
第一の画素加算部106は画像信号(A+B+C+D像)と左信号(A+C像)を輝度加算し、第一の加算信号分離部108は画像信号(A+B+C+D像)から左信号(A+C像)を減算する。これにより、右信号(B+D像)が生成される。第一の相関演算部111は、左信号(A+C像)と右信号(B+D像)を入力し、後述する像ずれ量を算出する。
第二の信号処理部113bは画像信号(A+B+C+D像)を受け取り、カメラ信号処理部114は画像信号(A+B+C+D像)に対して、例えば色変換、ホワイトバランス等の既知の画像処理を行う。第二の相関演算部117は、動作させることは想定していない。このため、第二の記憶部122、第二の画素加算部115、第二の加算信号分離部116、および、第二の相関演算部117は、省電目的でclk信号を停止してもよい。第一のシステム制御部112は、第一の相関演算部111で得られた像ずれ量に対して所定の敏感度を掛けることで、デフォーカス量を算出する。
このように、撮像装置100bのモードや、特定したい被写体等に応じて、撮像素子102からの信号の読み出し方式や信号の読み出し方式に応じて各処理部の停止動作を制御することで最適な焦点検出処理や省電動作を行うことができる。
次に、図15および図16を参照して、第一の相関演算部111および第二の相関演算部117において行われる瞳分割信号を用いた像ずれ量の算出方法について説明する。図15は、図8に示される画素部806のS−S‘断面の模式図である。図15には、画素部806と射出瞳の位置関係が示されている。画素部806の左側には光電変換部801、802が配置され、画素部806の右側には光電変換部803、804が配置されている。光電変換部801、802、803、804の上方にはこれらの光電変換部に共有されるマイクロレンズ805が配されている。マイクロレンズ805の頂部が合焦時の撮像レンズ(光学系101)の結像面906となる。
さらに図15には、射出瞳901、904、905が示されている。射出瞳901は、画素部806側から見た撮像レンズの射出瞳である。射出瞳904は、マイクロレンズ805によって射出瞳位置に投影された光電変換部803、804の射出瞳である。射出瞳905は、射出瞳位置に投影された光電変換部801、802の射出瞳である。合焦時の撮影レンズの結像面906から射出瞳901までの距離を射出瞳位置と呼ぶ。射出位置は、光学系101の絞り(不図示)よりも後方(結像面側)にあるレンズ群の曲率や絞りとの位置関係などにより変化する。また、射出瞳の大きさは、絞りの径によって変化する。射出瞳905を通る光束903は光電変換部801、802へ入射し、射出瞳904を通る光束902は光電変換部803、804に入射出ように設計される。
このように、左側に位置する光電変換部801、802には、光学系101の射出瞳901のうち右側の射出瞳905の領域で見た像が得られる。同様に、光電変換部803、804には、光学系101の射出瞳901のうち左側の射出瞳904の領域で見た像が得られる。なお、撮像素子102を構成する他の画素部についても、同様の光学設計がなされている。光束902によって撮像素子102上で得られる像をC+D像、光束903によって撮像素子102上で得られる像をA+B像とすると、A+B像とC+D像の差は光束902と光束903と視差に対応する。
図16は、位相差測距(位相差検出方式の焦点検出)を説明するグラフである。図16には、前ピン状態(被写体よりも焦点が手前にある状態)における画像信号1001(A+B像)と画像信号1002(C+D像)が示されている。図16において、縦軸は信号強度、横軸は画素のS−S’線方向の位置(画素位置)である。位相差検出方式による被写体までの距離情報は、画像信号1001と画像信号1002による像間の距離1003、及び位置における結像面から射出瞳までの距離から算出される。第一の相関演算部111は、算出された被写体までの距離情報を像ずれ量として、第一のシステム制御部112へ出力する。第一のシステム制御部112は、像ずれ量に基づいて、目標フォーカス位置を決定し、現在のフォーカス位置からの移動方向及び移動量をフォーカス情報として、光学系駆動部105に出力する。光学系駆動部105は、フォーカス情報に基づいて光学系101を駆動し、焦点位置調整を行う。
なお本実施形態では、上下方向に瞳分割して読み出された画像信号(上信号と下信号)による位相差測距を説明したが、左右方向に瞳分割して読み出された画像信号(左信号と右信号)による位相差測距も同様にして実現可能である。すなわち、焦点検出方向に基づいて、位相差測距を変更する。
このように本実施形態において、信号処理装置(撮像装置100b)は、帯域削減部109、撮像素子駆動部120、第一の相関演算部111、第二の相関演算部117、および、制御部(第一のシステム制御部112)を有する。帯域削減部109は、撮像素子102から得られる第一の像信号の帯域を削減して第二の像信号を生成する。撮像素子駆動は、焦点検出のために撮像素子を駆動する。第一の相関演算部は、第一の像信号に基づいて第一の相関演算を行う。第二の相関演算部は、第二の像信号に基づいて第二の相関演算を行う。制御部は、焦点検出方向に基づいて、第一の相関演算により得られた第一のデフォーカス量または第二の相関演算により得られた第二のデフォーカス量の一方を選択する。
好ましくは、撮像素子102は、1つのマイクロレンズに対して複数の光電変換部を有し、第一の加算信号、第二の加算信号、および、第三の加算信号の少なくとも2つの信号を出力する。第一の加算信号は、複数の光電変換部のうちの第一の群から出力される信号を加算して得られる信号である。第二の加算信号は、複数の光電変換部のうちの第一の群の一部である第二の群から出力される信号を加算して得られる信号である。第三の加算信号は、複数の光電変換部のうちの第一の群の一部である第三の群から出力される信号を加算して得られる信号である。第一の相関演算部は、第一の加算信号および第二の加算信号に基づいて第一の相関演算を行う。帯域削減部は、第一の加算信号および第三の加算信号のそれぞれの帯域を削減する。第二の相関演算部は、第一の加算信号および第三の加算信号に基づいて第二の相関演算を行う。より好ましくは、第一の群に含まれる複数の光電変換部は、同一のマイクロレンズにより導かれた光に基づく信号を出力する。また好ましくは、第一の相関演算部は、第二の加算信号と、第一の加算信号から第二の加算信号を減算して生成された第四の加算信号(C+D像)とに基づいて、第一の相関演算を行う。また好ましくは、第二の相関演算部は、第三の加算信号と、第一の加算信号から第三の加算信号を減算して生成された第五の加算信号(A+C像)とに基づいて、第二の相関演算を行う。
本実施形態によれば、撮像素子102から画像信号と複数の瞳分割信号を受信し、第一の信号処理部103bと第二の信号処理部113bでそれぞれ水平方向、垂直方向の位相差測距を行う。また、帯域削減部109でデータ量を減らし、第二の信号処理部113bが受信可能な伝送レートに落とす。これにより、記録用の画像データに対して画質を劣化させることなく、高速に位相差測距による焦点検出を実現することができる。また本実施形態では、第一の信号処理部103bで水平方向の位相差測距を行い、第二の信号処理部113bで垂直方向の位相差測距を行ったが、その逆でもよい。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
各実施形態によれば、画質の劣化を低減しつつ、高速かつ高精度な焦点検出が可能な信号処理装置、撮像装置、信号処理方法、および、プログラムを提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
100 撮像装置(信号処理装置)
107 コントラスト値算出部
109 帯域削減部
111 第一の相関演算部
112 第一のシステム制御部
117 第二の相関演算部
118 第二のシステム制御部
107 コントラスト値算出部
109 帯域削減部
111 第一の相関演算部
112 第一のシステム制御部
117 第二の相関演算部
118 第二のシステム制御部
Claims (20)
- 撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減部と、
コントラスト値を算出するコントラスト値算出部と、
前記第一の像信号に基づいて第一の相関演算を行う第一の相関演算部と、
前記第二の像信号に基づいて第二の相関演算を行う第二の相関演算部と、
焦点検出モードまたはコントラスト値に基づいて、前記帯域削減部、前記第一の相関演算部、または、前記第二の相関演算部の少なくとも一つの処理を変更する制御部と、を有することを特徴とする信号処理装置。 - 前記帯域削減部、前記コントラスト値算出部、および、前記第一の相関演算部は、第一の信号処理部を構成し、
前記第二の相関演算部は、前記第一の信号処理部に接続された第二の信号処理部を構成することを特徴とする請求項1に記載の信号処理装置。 - 前記帯域削減部の処理の変更は、前記第一の像信号の水平方向または垂直方向の加算処理、フレーム単位での加算処理、または、前記第一の像信号の削減処理の変更を含むことを特徴とする請求項1または2に記載の信号処理装置。
- 前記第一の相関演算部または前記第二の相関演算部の処理の変更は、相関演算のシフト演算数、前記相関演算のための像信号の範囲、または、前記像信号の評価帯域の変更を含むことを特徴とする請求項1乃至3のいずれか一項に記載の信号処理装置。
- 前記コントラスト値算出部は、前記第一の像信号を混合した画像信号に対して二次元のエリアを設定するエリア設定部を備え、
前記コントラスト値は、前記エリア設定部で設定されたエリアの中の全画素の最大値、前記全画素の最大値から前記全画素の最小値を引いた値、前記全画素に対して所定のレベルよりも大きい値をカウントしたカウント値、または、各水平方向の最大値を垂直方向に加算した加算値であることを特徴とする請求項1乃至4のいずれか一項に記載の信号処理装置。 - ぶれを検出するぶれ検出部を更に備え、
前記制御部は、前記ぶれ検出部で検出された前記ぶれに基づいて、前記第一の相関演算により得られた第一のデフォーカス量または前記第二の相関演算により得られた第二のデフォーカス量のいずれか一方を選択することを特徴とする請求項1乃至5のいずれか一項に記載の信号処理装置。 - 前記制御部は、前記焦点検出モードが多点モードであるか否かに基づいて、前記帯域削減部、前記第一の相関演算部、または、前記第二の相関演算部の少なくとも一つの処理を変更することを特徴とする請求項1乃至6のいずれか一項に記載の信号処理装置。
- 前記制御部は、前記コントラスト値が所定の値よりも低いか否かに基づいて、前記帯域削減部、前記第一の相関演算部、または、前記第二の相関演算部の少なくとも一つの処理を変更することを特徴とする請求項1乃至7のいずれか一項に記載の信号処理装置。
- 撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減部と、
焦点検出のために前記撮像素子を駆動する撮像素子駆動部と、
前記第一の像信号に基づいて第一の相関演算を行う第一の相関演算部と、
前記第二の像信号に基づいて第二の相関演算を行う第二の相関演算部と、
焦点検出方向に基づいて、前記第一の相関演算により得られた第一のデフォーカス量または前記第二の相関演算により得られた第二のデフォーカス量の一方を選択する制御部と、を有することを特徴とする信号処理装置。 - 前記帯域削減部、前記撮像素子駆動部、および、前記第一の相関演算部は、第一の信号処理部を構成し、
前記第二の相関演算部は、前記第一の信号処理部に接続された第二の信号処理部を構成することを特徴とする請求項9に記載の信号処理装置。 - 前記撮像素子は、1つのマイクロレンズに対して複数の光電変換部を有し、前記複数の光電変換部のうちの第一の群から出力される信号を加算して得られた第一の加算信号、前記複数の光電変換部のうちの前記第一の群の一部である第二の群から出力される信号を加算して得られた第二の加算信号、および、前記複数の光電変換部のうちの前記第一の群の一部である第三の群から出力される信号を加算して得られた第三の加算信号の少なくとも2つの信号を出力し、
前記第一の相関演算部は、前記第一の加算信号および前記第二の加算信号に基づいて前記第一の相関演算を行い、
前記帯域削減部は、前記第一の加算信号および前記第三の加算信号のそれぞれの帯域を削減し、
前記第二の相関演算部は、前記第一の加算信号および前記第三の加算信号に基づいて前記第二の相関演算を行うことを特徴とする請求項9または10に記載の信号処理装置。 - 前記第一の群に含まれる前記複数の光電変換部は、同一のマイクロレンズにより導かれた光に基づく信号を出力することを特徴とする請求項11に記載の信号処理装置。
- 前記第一の相関演算部は、前記第二の加算信号と、前記第一の加算信号から前記第二の加算信号を減算して生成された第四の加算信号とに基づいて、前記第一の相関演算を行うことを特徴とする請求項11または12に記載の信号処理装置。
- 前記第二の相関演算部は、前記第三の加算信号と、前記第一の加算信号から前記第三の加算信号を減算して生成された第五の加算信号とに基づいて、前記第二の相関演算を行うことを特徴とする請求項11乃至13のいずれか一項に記載の信号処理装置。
- 前記制御部は、前記第一のデフォーカス量または前記第二のデフォーカス量に基づいて、フォーカス制御を行うことを特徴とする請求項1乃至14のいずれか一項に記載の信号処理装置。
- 撮像素子と、
請求項1乃至15のいずれか一項に記載の信号処理装置と、を有することを特徴とする撮像装置。 - 前記撮像素子は、1つのマイクロレンズに対して複数の光電変換部を有することを特徴とする請求項10に記載の撮像装置。
- 撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減ステップと、
コントラスト値を算出するコントラスト値算出ステップと、
前記第一の像信号に基づいて第一のデフォーカス量を求める第一の相関演算ステップと、
前記第二の像信号に基づいて第二のデフォーカス量を求める第二の相関演算ステップと、
焦点検出モードまたはコントラスト値に基づいて、前記帯域削減ステップ、前記第一の相関演算ステップ、または、前記第二の相関演算ステップの少なくとも一つの処理を変更する制御ステップと、を有することを特徴とする信号処理方法。 - 撮像素子から得られる第一の像信号の帯域を削減して第二の像信号を生成する帯域削減ステップと、
焦点検出のために前記撮像素子を駆動する撮像素子駆動ステップと、
前記第一の像信号に基づいて第一のデフォーカス量を求める第一の相関演算ステップと、
前記第二の像信号に基づいて第二のデフォーカス量を求める第二の相関演算ステップと、
焦点検出方向に基づいて、前記第一のデフォーカス量または前記第二のデフォーカス量の一方を選択する制御ステップと、を有することを特徴とする信号処理方法。 - 請求項18または19に記載の信号処理方法をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019185833A JP2021060546A (ja) | 2019-10-09 | 2019-10-09 | 信号処理装置、撮像装置、信号処理方法、および、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019185833A JP2021060546A (ja) | 2019-10-09 | 2019-10-09 | 信号処理装置、撮像装置、信号処理方法、および、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021060546A true JP2021060546A (ja) | 2021-04-15 |
Family
ID=75380108
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019185833A Pending JP2021060546A (ja) | 2019-10-09 | 2019-10-09 | 信号処理装置、撮像装置、信号処理方法、および、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021060546A (ja) |
-
2019
- 2019-10-09 JP JP2019185833A patent/JP2021060546A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5856376B2 (ja) | 撮像装置及びその制御方法 | |
JP5000413B2 (ja) | 撮像システム及び画像信号処理プログラム | |
US20160316158A1 (en) | Imaging apparatus and signal processing method | |
JP2010217618A (ja) | 撮像装置及び信号処理装置 | |
JP6506560B2 (ja) | フォーカス制御装置及びその方法、プログラム、記憶媒体 | |
KR20150074641A (ko) | 자동 초점 조절 방법 및 자동 초점 조절 장치 | |
JP5656613B2 (ja) | 撮像装置及びその制御方法 | |
JP6553881B2 (ja) | 画像処理装置 | |
JP2020120175A (ja) | 撮像装置およびその制御方法 | |
JP2013016999A (ja) | 撮像装置及びその制御方法 | |
US10225494B2 (en) | Image capturing apparatus and control method thereof | |
JP2015212794A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2014219588A (ja) | 撮像装置およびその制御方法 | |
US10136088B2 (en) | Image pickup apparatus that reduces amount of information of defective pixels, method of controlling the same, and storage medium | |
JP2017216649A (ja) | 撮像素子、撮像装置、および撮像信号処理方法 | |
JP2021060546A (ja) | 信号処理装置、撮像装置、信号処理方法、および、プログラム | |
US11310410B2 (en) | Image capturing apparatus, method of controlling same, and storage medium | |
JP2017079407A (ja) | 撮像装置、その制御方法、プログラム及び記憶媒体 | |
JP2016102838A (ja) | 撮像装置 | |
US11595571B2 (en) | Control apparatus, control method, image capturing apparatus, and image capturing system | |
US11368610B2 (en) | Image capture apparatus and control method therefor | |
US11463613B2 (en) | Detection device and detection method | |
US10904424B2 (en) | Image capturing apparatus | |
US20230012537A1 (en) | Image pickup apparatus | |
JP2017112501A (ja) | 撮像装置、制御方法及びそのプログラム |