JP6087674B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP6087674B2
JP6087674B2 JP2013051137A JP2013051137A JP6087674B2 JP 6087674 B2 JP6087674 B2 JP 6087674B2 JP 2013051137 A JP2013051137 A JP 2013051137A JP 2013051137 A JP2013051137 A JP 2013051137A JP 6087674 B2 JP6087674 B2 JP 6087674B2
Authority
JP
Japan
Prior art keywords
correction
pixels
imaging
value
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013051137A
Other languages
English (en)
Other versions
JP2014194440A (ja
Inventor
谷口 英則
英則 谷口
稔 廣瀬
稔 廣瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013051137A priority Critical patent/JP6087674B2/ja
Priority to US14/183,699 priority patent/US9503616B2/en
Publication of JP2014194440A publication Critical patent/JP2014194440A/ja
Application granted granted Critical
Publication of JP6087674B2 publication Critical patent/JP6087674B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、撮像装置に関するものである。
撮像素子内に、撮像用画素と、撮影レンズの異なる瞳位置の光束を受光し像のずれ量から撮影レンズのデフォーカス量と方向を検出可能な一対の焦点検出用画素とを配置することにより、撮像素子で撮像と焦点検出が両立可能な撮像装置が知られている。
このような撮像用画素と焦点検出用画素を混在させた撮像素子は、撮像用画素と異なる構造を有する焦点検出用画素に起因する画質劣化が発生する。特許文献1および特許文献2には、焦点検出用画素に起因する画質の劣化を防止する技術が開示されている。
特開2009−122524号公報 特開2009−124573号公報
しかしながら、上記の従来例は、焦点検出用画素の出力を周辺の撮像用画素により補正するもの、および焦点検出用画素の出力を使って周辺の撮像用画素を補正するものである。そのため、焦点検出用画素のマイクロレンズに起因する光学クロストークを補正することは考慮されていない。
本発明は、上述した課題に鑑みてなされたものであり、その目的は、撮像素子内に配置された焦点検出用画素のマイクロレンズに起因する光学的なクロストークによる画質劣化を抑制することである。
本発明に係わる撮像装置は、撮像素子の複数の撮像用画素のうちの一部の画素が、焦点検出用画素に置き換えられて構成された撮像素子と、前記焦点検出用画素に隣接する複数の補正対象である撮像用画素の出力と、前記焦点検出用画素に隣接する複数の撮像用画素の近傍に配置された前記複数の撮像用画素と同色の複数の参照用の撮像用画素の出力とを比較する比較手段と、前記比較手段の比較結果に応じて、前記複数の補正対象である撮像用画素の出力の補正処理を実行する補正手段と、を備え、前記補正手段は、前記複数の参照用の撮像用画素の出力の平均値が所定の範囲内にある場合に、前記補正処理を実行することを特徴とする。
また、本発明に係わる撮像装置は、撮像素子の複数の撮像用画素のうちの一部の画素が、焦点検出用画素に置き換えられて構成された撮像素子と、前記焦点検出用画素に隣接する複数の補正対象である撮像用画素の出力と、前記焦点検出用画素に隣接する複数の撮像用画素の近傍に配置された前記複数の撮像用画素と同色の複数の参照用の撮像用画素の出力とを比較する比較手段と、前記比較手段の比較結果に応じて、前記複数の補正対象である撮像用画素の出力の補正処理を実行する補正手段と、を備え、前記補正手段は、前記複数の参照用の撮像用画素の出力の最大値と最小値の差分に基づいてコントラスト値を算出し、該コントラスト値を所定値と比較することにより、前記補正処理を実行するか否かを判断することを特徴とする。
本発明によれば、撮像素子内に配置された焦点検出用画素のマイクロレンズに起因する光学的なクロストークによる画質劣化を抑制することが可能となる。
本発明の撮像装置の第1の実施形態である一眼レフタイプデジタルカメラシステムの電気的構成を示すブロック図。 撮像素子上の測距点配置の例を示す図。 撮像素子の撮像用画素と焦点検出用画素の配置の詳細を示す図。 撮像用画素の詳細な構成を示す図。 焦点検出用画素の詳細な構成を示す図。 撮像素子の光学クロストークを説明する図。 光学クロストークが発生する撮影シーンの例を示す図。 第1の実施形態における撮影動作を説明するフローチャート。 第1の実施形態における補正切り替えを説明するフローチャート。 第1の実施形態における測光分割領域を示す図。 光学クロストークの補正に用いる画素の詳細配置を示す図。 第1の実施形態の光学クロストーク補正を説明するフローチャート。 第2の実施形態の光学クロストーク補正を説明するフローチャート。 第3の実施形態の光学クロストーク補正を説明するフローチャート。 第4の実施形態における撮影動作を説明するフローチャート。 第4の実施形態における補正切り替えを説明するフローチャート。
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。
(第1の実施形態)
図1は本発明の撮像装置の第1の実施形態である一眼レフタイプデジタルカメラシステムの電気的構成を示すブロック図である。図1に示すように本実施形態のデジタルカメラ100は、撮影レンズユニット200が不図示のマウント機構を介し着脱可能に取り付けられる。マウント部には、電気的接点群210を有している。接点群210はカメラ本体100と撮影レンズ200との間で制御信号、状態信号、データ信号などを伝え合うと共に、各種電圧の電流を供給する機能と、さらに撮影レンズユニットが接続されるとシステムコントローラ120へ信号を送信する機能も備えている。これによりデジタルカメラ100と撮影レンズユニット200の間で通信を行い撮影レンズユニット内の撮影レンズ201、絞り202の駆動を行うことが可能となる。また、接点群210は電気通信のみならず、光通信、音声通信等を伝達する構成としても良い。
なお、本実施形態では撮影レンズ201を便宜上1枚のレンズで示しているが、実際はさらに多数のレンズから構成されていることは周知の通りである。また、接点群210とシステムコントローラ120とから、レンズ検出手段を構成している。
被写体からの撮影光束が、撮影レンズ201及び絞り202を介して、矢印A方向に駆動可能なクイックリターンミラー102に導かれる。クイックリターンミラー102の中央部はハーフミラーになっており、クイックリターンミラー102がダウンした際に一部の光束が透過する。そして、この透過した光束は、クイックリターンミラー102に設置されたサブミラー103で下方に向けて反射される。
104は不図示である結像面近傍に配置されたフィールドレンズ、反射ミラー、2次結像レンズ、絞り、及び、複数のCCDから成るラインセンサ等から構成されている周知の位相差方式のAFセンサユニットである。そして、システムコントローラ120からの制御信号から、焦点検出回路105はAFセンサユニット104を制御して、周知の位相差検出方式により焦点検出を行う。なお、AFセンサユニット104と焦点検出回路105とから焦点検出手段を構成している。
一方、クイックリターンミラー102で反射された撮影光束は、ペンタプリズム101、接眼レンズ106を介して撮影者の目に至る。また、接眼レンズ106の近傍に配設された不図示の測光センサは、被写体の輝度を測定するためのセンサであり、その出力は測光回路107を経てシステムコントローラ120へ供給される。なお、測光センサ、測光回路107とシステムコントローラ120とから測光手段を構成している。
また、クイックリターンミラー102がアップした際には、撮影レンズ201からの光束は、機械シャッタであるフォーカルプレーンシャッタ108、フィルター109を介して撮像手段である撮像素子としてのCMOS等に代表されるイメージセンサ112に至る。
フィルター109は2つの機能を有しているもので、1つは赤外線をカットし可視光線のみをイメージセンサ112へ導く機能であり、もう1つは光学ローパスフィルタとしての機能である。また、フォーカルプレーンシャッタ108は、先幕及び後幕を有して成るもので、撮影レンズ201からの光束の透過、遮断を制御する。なお、クイックリターンミラー102のアップ時には、サブミラー103は折り畳まれるようになっている。
また、本実施形態のデジタルカメラ100は、当該デジタルカメラ全体の制御手段となり、制御を司るCPUにより構成されるシステムコントローラ120を備え、後述する各部の動作を適宜制御する。なお、システムコントローラ120は、補正手段に相当する。
システムコントローラ120には、撮影レンズ201を光軸方向に移動してピント合わせを行うためのレンズ駆動機構203を制御するレンズ制御回路204と、絞り202を駆動するための絞り駆動機構205を制御する絞り制御回路206とがレンズ制御マイコン207を介して接続されている。また、システムコントローラ120には、クイックリターンミラー102のアップ・ダウンの駆動部及びフォーカルプレーンシャッタ108のシャッタチャージを制御するシャッタチャージ・ミラー駆動機構110が接続されている。また、システムコントローラ120には、フォーカルプレーンシャッタ108の先幕、後幕の走行を制御するためのシャッタ制御回路111が接続されている。さらにシステムコントローラ120には、記憶手段であるEEPROM122が接続されている。EEPROM122は、デジタルカメラ100を制御する上で調整が必要なパラメータやデジタルカメラの個体識別が可能なカメラID情報や基準レンズで調整されたAF補正データや自動露出補正値などが記憶されている
レンズ制御マイコン207は、レンズ固有の情報、例えば焦点距離、開放絞り、レンズ個々に割り振られるレンズIDといった情報とシステムコントローラ120から受け取った情報を記憶するレンズ記憶装置も有している。また、システムコントローラ120は、レンズ制御マイコン207を介してレンズ駆動機構203を制御することにより、被写体像をイメージセンサ112上に結像させる。また、設定されたAv値に基づいて、絞り202を駆動する絞り駆動機構205を制御し、更に、設定されたTv値に基づいて、シャッタ制御回路111へ制御信号を出力することで露出制御を行う。
フォーカルプレーンシャッタ108の先幕、後幕は、駆動源がバネにより構成されており、シャッタ走行後次の動作のためにバネチャージを要する。シャッタチャージ・ミラー駆動機構110は、このバネチャージを制御するようになっている。また、シャッタチャージ・ミラー駆動機構110によりクリックリターンミラー102のアップ・ダウンが行われる。
また、システムコントローラ120には、画像データコントローラ115が接続されている。この画像データコントローラ115は、DSP(デジタル信号プロセッサ)により構成され、イメージセンサ112の制御、イメージセンサ112から入力された画像データの補正や加工などをシステムコントローラ120の指令に基づいて実行するものである。画像データの補正・加工の項目の中にはオートホワイトバランスも含まれている。オートホワイトバランスとは、撮影画像中の最大輝度の部分を所定の色(白色)に補正する機能である。オートホワイトバランスは、システムコントローラ120からの命令により補正量を変更する事が可能である。
さらに、システムコントローラ120と画像データコントローラ115とから、第2の測光手段を構成している。第2の測光手段は、画像データコントローラ115によって、画像信号を領域分割し、それぞれの領域でベイヤー画素毎に積分した値をシステムコントローラ120に供給し、システムコントローラ120で積分信号を評価することで測光を行う。
画像データコントローラ115には、イメージセンサ112を駆動する際に必要なパルス信号を出力するタイミングパルス発生回路114と、イメージセンサ112と共にタイミングパルス発生回路114で発生されたタイミングパルスを受けて、イメージセンサ112から出力される被写体像に対応したアナログ信号をデジタル信号に変換するためのA/Dコンバータ113と、得られた画像データ(デジタルデータ)を一時的に記憶しておくDRAM121と、D/Aコンバータ116と、画像圧縮回路119と、コントラスト検出回路140とが接続されている。
DRAM121は、加工や所定のフォーマットへのデータ変換が行われる前の画像データを一時的に記憶するために使用される。更に、画像圧縮回路119には、記録手段である記録媒体401が接続される。
画像圧縮回路119は、DRAM121に記憶された画像データの圧縮や変換(例えばJPEG圧縮)を行うための回路である。変換された画像データは、記録媒体401へ格納される。この記録媒体としては、ハードディスク、フラッシュメモリ、フレキシブルディスク等が使用される。なお、画像データコントローラ115と画像圧縮回路119と記録媒体401とから記録手段を構成している。
また、D/Aコンバータ116には、エンコーダ回路117を介して画像表示回路118が接続される。画像表示回路118は、イメージセンサ112で撮像された画像データを表示するための回路であり、一般にはカラーの液晶表示素子により構成される。
画像データコントローラ115は、DRAM121上の画像データを、D/Aコンバータ116によりアナログ信号に変換してエンコーダ回路117へ出力する。エンコーダ回路117はこのD/Aコンバータ116の出力を、画像表示回路118を駆動する際に必要な映像信号(例えばNTSC信号)に変換する。なお、D/Aコンバータ116と画像表示回路118とエンコーダ回路117とから画像表示手段を構成している。
さらに、システムコントローラ120と画像データコントローラ115とから第2の焦点検出手段を構成している。画像データコントローラ115は、補正した画像データに対し、所定の周波数特性を持つフィルターを通し、所定のガンマ処理を行って得られる画像信号の所定方向のコントラストを評価し、その結果はシステムコントローラ120に供給される。システムコントローラ120は、レンズ制御回路204と通信を行い、コントラスト評価値が所定レベルよりも高くなるように焦点位置を調節する。なお、画像データコントローラ115とシステムコントローラ120とレンズ制御回路204とレンズ駆動機構203と撮影レンズ201から第2の自動焦点調節手段を構成している。
さらにシステムコントローラ120には、デジタルカメラ100の動作モードの情報や露出情報(シャッタ秒時、絞り値等)などを外部液晶表示装置124や内部液晶表示装置125に表示させる動作表示回路123と、ユーザが所望の動作をデジタルカメラ100に実行させるべくモードを設定する撮影モード選択ボタン130と、メイン電子ダイヤル131と、決定SW132と、AFセンサユニット104が持つ複数の焦点検出位置から使用する焦点検出位置を選択するための測距点選択ボタン133(測距点選択手段に相当する)と、AFモード選択ボタン134と、測光モード選択SW135と、測光・測距などの撮影準備動作を開始させるためのレリーズSW1(136)と、撮像動作を開始させるためのレリーズSW2(137)と、ファインダーモード選択SW138とが接続されている。
なお、外部液晶表示装置124と内部液晶表示装置125とが動作表示手段に相当し、さらに、外部液晶表示装置124は外部表示手段、内部液晶表示装置125は内部表示手段にそれぞれ相当する。さらに、動作表示回路123とシステムコントローラ120とから表示制御手段を構成している。
また、ファインダーモード選択SW138は、接眼レンズ106を通過する光束を確認できる光学ファインダーモードと、イメージセンサ112で受光した像信号を、逐次、画像表示回路118によって表示するライブビュー表示モードとを切り替える。ファインダーモード選択SW138は、ファインダーモード選択手段に相当する。
さらに、デジタルカメラ100には、ストロボ装置300が不図示のマウント機構を介し着脱可能に取り付けられる。マウント機構には、電気的接点群310を有している。接点群310はカメラ本体100とストロボ装置300との間で制御信号、状態信号、データ信号などを伝え合う。また、発光タイミングを制御するX端子(発光端子)、さらにストロボ装置300が接続されるとシステムコントローラ120へ信号を送信する機能も備えている。これによりデジタルカメラ100とストロボ装置300の間で通信を行いストロボの発光制御を行うことが可能となる。また、接点群310は電気通信のみならず、光通信、音声通信等を伝達する構成としても良い。
ストロボ装置300は、キセノン(Xe)管301、反射笠302、Xe管301の発光を制御するIGBTなどで構成された発光制御回路303、Xe管301に給電するために300V程度の電圧を発生する充電回路304を備える。また、充電回路304に給電する電池などの電源305、ストロボの発光、充電などを制御するとともに、カメラ側のシステムコントローラ120と通信を制御するストロボ制御マイコン306も備える。
図2は、撮影画面上に配置される焦点検出用画素の配置されたエリアを示す図である。図2において、250は撮影画面を、251は撮影画面上に配置される焦点検出用画素の配置エリアを示している。本実施形態においては、撮影画面250に配置されている焦点検出用画素をグルーピングして、撮影画面250を5×5の矩形に分割し、25の測距点を構成している。なお、焦点検出用画素の配置エリアおよび測距点は、一例を示したものであり、図2の構成に限定されるものではない。
図3は、撮影画面を構成する撮像素子の画素配置の詳細を示した図である。図3において、350は撮像素子を示している。撮像素子350は、いわゆるR、G、Bの原色フィルターが、ベイヤーに配置された構成となっている。351および352は、一対の位相差検出用の焦点検出用画素を示している。Aは、位相差検出の基準画素であるA像を、Bは、位相差検出の参照画素であるB像を示している。A像、B像の配置は、図3より明らかなので、説明を省略する。
また、撮像素子の配置構成は、一例を示したものであり、この構成に限定されるものではない。フィルターは、補色系のフィルターでもよいし、ベイヤー配列でなくともよい。また、焦点検出用画素の配置についても、同様に、図3の構成に限定されるものではない。
図4は、撮像用画素の構造を模式的に示した図である。図4において、401はフォトダイオード、402は後述の焦点検出用画素の構成との対比のために記載した、最下層の配線層を示している。他の配線層や本実施形態の説明に関連しない構造部材は、省略している。403はカラーフィルター、404は撮影光束を集光して、受光効率を向上させるためのマイクロレンズ、405は撮影レンズの瞳、406はマイクロレンズによるフォトダイオード401の受光範囲を示している。撮像用画素のマイクロレンズの曲率は、撮影レンズの瞳とほぼ等しい領域の光束が、フォトダイオードに入射するように設定される。
図5は、一対の焦点検出用画素の構造を模式的に示した図である。図5において、501はフォトダイオードであり、図4のフォトダイオード401と同一構造である。502は最下層の配線層を示しており、撮像用画素の配線層402とは異なり、フォトダイオード501の左半分に入射する光束を遮光するように構成され、位相差検出用のA像を構成している。503は、フォトダイオード501に入射する光束を集光するためのマイクロレンズである。
504はフォトダイオードであり、図4のフォトダイオード401と同一構造である。505は最下層の配線層を示しており、撮像用画素の配線層402とは異なり、フォトダイオード504の右半分に入射する光束を遮光するように構成され、位相差検出のB像を構成している。506はフォトダイオード504に入射する光束を集光するためのマイクロレンズ、507は撮影レンズの瞳を示している。
508,509は、撮影レンズの瞳上でフォトダイオード501,504に入射する範囲を示している。図5より明らかなように、フォトダイオード501に入射する光束は、撮影レンズの瞳の光軸に対して、左側に変位し、フォトダイオード504に入射する光束は、撮影レンズの瞳の光軸に対して、右側に変位している。配線層502,505の遮光位置を異ならせることにより、瞳分割を実現し、位相差式の焦点検出を可能なように構成されている。
焦点検出用画素がマイクロレンズと最下層の配線層で構成される場合には、その焦点位置は、撮像用画素のマイクロレンズの焦点位置とは異なることが望ましい。即ち、焦点検出用画素のマイクロレンズ503,506は、撮像用画素と曲率を異ならせて配線層に焦点位置が位置するように構成されることが望ましい。また、焦点検出用画素のカラーフィルターは、透明またはグリーン(G)で構成される。信号光を増加させて、SN比を上げるためには、透明が望ましく、本実施形態では、透明を前提に説明する。
図6は、光学的なクロストークによる画質劣化を説明する図である。図6において、(a)は、撮像用画素と撮像用画素、(b)は、撮像用画素と撮像用画素とマイクロレンズの曲率が同一の焦点検出用画素、(c)は、撮像用画素とマイクロレンズの曲率を異ならせた焦点検出用画素が、それぞれ隣接している構成を示している。
図6(a)において、601はフォトダイオード、602は最下層の配線層、603はカラーフィルターで、以下の説明では、G(緑)のカラーフィルターとする。604はマイクロレンズである。605はフォトダイオード601の右側に隣接するフォトダイオード、606は最下層の配線層、607はカラーフィルター603とは異なる色のカラーフィルターで、以下の説明では、B(青)として説明する。608は、マイクロレンズである。609は撮影レンズから入射する撮影光束を示しており、撮影レンズからの光束は、マイクロレンズ直下のフォトダイオードに入射する。610は通常の撮影レンズ光束では入射しない角度の光束が入射した場合の光束を示している。図6(a)より明らかなように、光束の入射角度が浅いと、カラーフィルター603,607を通して、隣接するフォトダイオード601に入射してしまい、光学クロストークの原因となる。
図6(b)において、611はフォトダイオード、612は最下層の配線層、613はカラーフィルターで、以下の説明では、G(緑)のカラーフィルターとする。614はマイクロレンズである。615はフォトダイオード611の右側に隣接するフォトダイオード、616は最下層の配線層、617はマイクロレンズであり、焦点検出用画素であるため、カラーフィルターは存在しない。618は撮影レンズから入射する撮影光束を示しており、撮影レンズからの光束は、マイクロレンズ直下のフォトダイオードに入射する。619は、通常の撮影レンズ光束では、入射しない角度の光束が入射した場合の光束を示している。図6(b)より明らかなように、光束の入射角度が浅いと、カラーフィルター613および焦点検出用画素の透明部分を通して、隣接するフォトダイオード611に入射してしまい、光学クロストークの原因となる。また、図6(a)では、Bフィルター607を通過して、隣接するフォトダイオード601へ洩れ込んでいたが、この光は、図6(b)の場合では、カラーフィルターがないので洩れ込む量が多くなる。即ち、フォトダイオード611への光学クロストークの量は、フィルターの差分だけ大きくなり、焦点検出用画素が隣接しているG画素の出力が大きくなり、周囲の画素からは浮いて見える。
図6(c)において、620はフォトダイオード、621は最下層の配線層、622はカラーフィルターで、以下の説明では、G(緑)のカラーフィルターとする。623はマイクロレンズである。624はフォトダイオード620の右側に隣接するフォトダイオード、625は最下層の配線層、626はマイクロレンズであり、焦点検出用画素であるため、カラーフィルターは存在しない。627は撮影レンズから入射する撮影光束を示しており、撮影レンズからの光束は、マイクロレンズ直下のフォトダイオードに入射する。628は、通常の撮影レンズ光束では、入射しない角度の光束が入射した場合の光束を示している。図6(c)より明らかなように、光束の入射角度が浅いと、カラーフィルター622および焦点検出用画素の透明部分を通して、隣接するフォトダイオード620に入射してしまい、光学クロストークの原因となる。
図6(c)では、配線層625に焦点位置が位置するように、焦点検出用画素のマイクロレンズを高くして、マイクロレンズの曲率を変えている。そのため、図6(b)の場合よりも、フォトダイオード620の中心に近い位置に光線が入射することになり、光学クロストーク量は、図6(b)よりもさらに大きくなる。そして隣接するG画素の浮き量はさらに大きくなり、画質がさらに劣化する。
図7は、図6で説明した光学クロストークが特に問題となる撮影シーンを説明した図である。図7(a)において、701は撮像素子の断面であり、702は撮像素子のカバーガラス、703はレンズ鏡筒や、メカ部材からの余計な反射光をカットするための遮光マスク、704は撮影レンズである。705は、例えば逆光シーンでの太陽や夜景時の高輝度なスポットライトなどの高輝度な物体である。
たとえばこのようなシーンでは、撮影レンズを通って、高輝度物体の光が撮像素子701に入射すると、ある割合の光が、撮像素子表面で拡散反射される。この拡散反射された一部の光は、さらにカバーガラスで再度反射され、撮像素子に一部が戻ってくる。この光が、図6で説明したような角度で焦点検出用画素に入射すると、光学クロストークとなって、隣接の撮像用画素に入射し、周辺の撮像用画素よりも出力が浮いて画質劣化を引き起こす。大きな輝度差のないシーンでは目立たないが、太陽やスポットライトのような高輝度な物体が存在するシーンでは問題となる画質劣化となる。焦点検出用画素の配置されていない撮像素子でも、同様の反射は存在するが、画素配置が均一であるので、目立たない。
図7(b)は、同様なシーンではあるが、高輝度物体706からの光の入射位置が図7(a)とは異なり、遮光部材703の端面に直接入射してしまうような場合である。このような場合にも、図7(a)で説明したような角度で、焦点検出用画素に入射してしまうといったことがありうる。ただし、この場合は、遮光マスクの端面反射であり、遮光マスクの厚み自体は、非常に薄いので、高輝度物体からの光の入射角度は、非常に限定された角度で、発生確率は、非常に低い。
以上説明したように、通常とは異なる構造の焦点検出用画素を撮像素子内に形成する場合には、起こりうる光学クロストークによる画質劣化を検出して補正する必要がある。また、図より明らかなように、光学クロストークによる画質劣化が発生する場所は、比較的に高輝度光源から離れた場所であり、発生場所の被写体輝度が、光源に対して低く、コントラストの低い部分で特に不自然に目立つ。
以上のように構成された本実施形態のシステムの動作を図8〜図12を参照して説明する。図8及び図9は、本実施形態のカメラで光学ファインダーを用いて、被写体を確認しながら静止画撮影を行う場合の補正動作を説明するフローチャートである。
S1801では、操作者によりカメラの電源スイッチがオンされると、システムコントローラ120は、カメラ内の各アクチュエータや撮像素子の動作確認を行い、メモリ内容や実行プログラムの初期化を行うと共に、撮影準備動作を実行する。S1802では、カメラは撮影準備を完了し待機状態となる。ここで、撮影者は光学ファインダーを通し被写体の確認や各種撮影設定を行う。
S1803では、SW1スイッチがオンされたか否かを判定し、オンされていれなければ、S1802に移行し待機状態となる。オンされた場合はS1804に移行する。S1804では、撮影レンズの焦点位置を被写体に合わせる自動焦点調節(AF)を行う。システムコントローラ120からの制御信号により焦点検出回路105はAFセンサユニット104を制御して、周知の位相差検出方式により焦点検出を行う。また、システムコントローラ120は、レンズ制御マイコン207を介してレンズ駆動機構203を制御することにより、被写体像をイメージセンサ112上に結像させる。
S1805では、接眼レンズ106の近傍に配設された測光センサにより、被写体の輝度を測定し、その出力は測光回路107を経てシステムコントローラ120へ供給される。
図10に測光センサにおける視野分割領域を示す。図10では、撮影画像領域1250と測光領域1210を示しており、さらに、測光領域には水平9分割、垂直7分割した測光分割領域が設けられている。システムコントローラ120では、測光回路107から供給された信号に基づき、測光分割領域ごとに被写体の輝度を算出する。また、所定のアルゴリズムに基づき平均化、補正演算を行い撮影画像領域の被写体の明るさとなる測光値を算出する。
S1806では、システムコントローラ120は、静止画撮影における露光条件を決める露出制御値演算を行う。露出制御値演算は、S1805で算出された測光値とプログラム線図に基づき、絞り、ISO感度、蓄積時間などが調節され、後述する静止画撮影にて自動露出制御(AE)を行う。また、露出マニュアルモード設定時には、操作者が指示した絞り、蓄積時間、ISO感度にて露出が決定され静止画撮影が行われる。
S1807では、SW1スイッチがオンされているか否かの判定が行われる。オンされていなければ、S1802に移行し待機状態となる。オンされている場合は、S1808に移行する。S1808では、SW2スイッチがオンされているか否かの判定が行われる。オンされていない場合は、S1807に移行し、SW1スイッチ状態判定に戻る。オンされている場合は、S1809に移行する。
S1809では、システムコントローラ120により、本実施形態の補正動作切り替え判定が実行される。補正動作切り替え判定では、後述する静止画撮影において、光学クロストークの補正を実行するか否かの判定が行われる。
光学クロストークによる画質劣化は、上述したように、撮影光束の一部が特定の角度でフォトダイオードに入射することによって発生する。特に、太陽やスポットライトのような高輝度光源が撮影被写体に存在する場合や、夜景など背景が暗いシーンでの画質劣化が問題となる。また、後述する光学クロストークの補正処理は、画素ごとに光学クロストークが発生しているか否かの補正対象画素判定を行い補正処理の実行を切り替えている。しかし、小さい点光源などの特定パターンの被写体においては、補正対象画素判定で誤検出し、誤って本来の被写体を補正してしまう補正の弊害が生じる。
そこで本実施形態では、高輝度光源の検出、及び、撮影条件に基づき、光学クロストークによる画質劣化が発生するシーンを判定し、適切に補正動作を実行することで補正の弊害による画質劣化を抑制する。
図9は、本実施形態の補正動作切り替え判定の詳細を説明するフローチャートである。S1901では、図8のS1805で算出された測光値が変数Bvに記憶される。S1902では、図8のS1805で算出された測光分割領域ごとの輝度値における最大値が変数MaxBvに記憶差される。
S1903では、図8のS1806で算出された静止画撮影の露出条件となる露出制御値が変数ShootBvに記憶される。S1904では、変数Bvと閾値Bv_th1の比較を行い(所定の輝度範囲内かを調べる)、変数Bvが小さい場合は、S1906に移行し、変数DeltaBv_thに所定値DeltaBv_th1が記憶される。S1904で変数Bvが閾値以上(所定の輝度値以上)である場合はS1905に移行する。ここで、閾値Bv_th1には、例えば夜景シーンの判定を行うための適切な輝度値を設定する。
S1905では、変数Bvと閾値Bv_th2の比較を行い、変数Bvが小さい場合は、S1907に移行し、変数DeltaBv_thに所定値DeltaBv_th2が記憶される。S1905で変数Bvが閾値以上である場合はS1905に移行し、変数DeltaBv_thに所定値DeltaBv_th3が記憶される。ここで、閾値Bv_th2には、例えば日中シーンの判定を行うための適切な輝度値を設定する。
S1904からS1908により、測光値に応じた撮影シーン判定が行われ、光学クロストークの発生条件が異なる撮影シーンごとに適切な補正切り替え判定閾値の変数DeltaBv_thが設定される。補正切り替え判定閾値は、実写などを通して、光学クロストークが目立つ条件、頻度に合わせて適切に設定することが望ましい。
S1909では、変数MaxBv(最大輝度値)と変数ShootBv(撮影露出制御値)の差分値が計算され、変数DeltaBv_thとの比較が行われる。つまり、撮影時の露出制御値の適正レベルに対して、所定量以上の明るい光源が存在しているか否かの判定をしている。この判定には、公園の水銀灯程度の光源においても長秒撮影を行うことで、光学クロストークによる画質劣化の影響が目立ちやすくなるという問題に対して、光源の絶対的な明るさではなく、撮影露出との相対的な明るさを用いることで適切な光源判定を可能としている。差分値が変数DeltaBv_thより小さい場合は、S1910に移行し、光学クロストークの補正動作の有効フラグである変数fCroosstalkにONが設定される。また、差分値が変数DeltaBv_th以上の場合は、S1911に移行し、光学クロストークの補正動作の有効フラグである変数fCroosstalkがOFFに設定される。
上記S1901からS1911により、補正動作切り替え判定が行われ、図8のメインフローに戻る。図10のS1810では、シャッタチャージ、絞り調節の後、設定されている蓄積時間で先幕、後幕を走らせる本撮影動作が行われ、イメージセンサ112から画素信号が順次読み出される
S1811では、S1809で判定した光学クロストークの補正動作の有効フラグである変数fCroosstalkがONであるか否かの判定を行い、ONである場合にはS1812に移行する。また、ONでない場合にはS1813に移行し、画像を記録し終了する。
S1812では、本実施形態の光学クロストークの補正処理が画素ごとに実行される。 図11は、本実施形態の補正を説明する図であり、801は、撮像素子350の一部を抜き出したものである。801内のハッチングで示したBは、焦点検出用画素のB像を示している。また、図中のG上、G下、G左、G右は、B像画素の上下左右に隣接する撮像用画素を示しており、光学クロストークの影響を受けて画質劣化を引き起こす補正対象画素である。また、G1、G2、G3、G4の撮像用画素は、4つの補正対象画素が、光学クロストークの影響を受けて、周囲の撮像用画素から浮いているか否かを判定するための補正対象画素と同色の参照画素(参照用画素)である。
また、B像画素の対角に隣接する4つのR画素も同様に光学クロストークの影響を受ける補正対象画素であるが、参照画素が異なるだけで、G上、G下、G左、G右と同様の補正方法で補正可能であるので、説明を省略する。
図12は、光学クロストークを補正する具体的な方法を記載したフローチャートであり、図12をもとに補正方法について説明する。
まず、ステップS901では、G1、G2、G3、G4の4つの参照画素の平均値を算出し、変数AVE_Gに格納し、ステップS902へ進む。ステップS902では、AVE_Gの値が、0より大きく所定値αより小さいかの比較結果を判定し、0以下およびα以上の場合(所定の範囲内の場合)は、補正の必要がないので、光学クロストーク補正を実施せずに補正処理を終了する。一方、平均値が0とαの間にあれば、ステップS903に進む。
ここで、0出力とは、撮像素子に配置される図示しない遮光画素(以下、OB画素と略す)の出力レベルを指している。光学クロストークの影響がある場合は、周辺参照画素も反射光を受光することになり、画素出力がダークレベルよりも持ち上がるので、OB画素出力以下の画素出力になった場合は、補正の必要がない。また、αの値については、たとえば、画素出力の飽和レベルに設定する。周辺参照画素が飽和レベルになった場合は、光学クロストークの判定が困難であるため、やはり補正をしない。また、すでに説明したように画素出力が比較的高い場合は、光学クロストークの影響は軽微になるので、想定される高輝度光源による影響と画質劣化の度合いから、所定の輝度出力をαの値に設定してもよい。
ステップS903では、補正対象画素である、G上、G下、G左、G右の中から最も画素出力の高いものを選択し、その出力を変数MAX_Gに記憶し、ステップS904に進む。本実施形態で課題にしている光学クロストークは、図6より明らかなように、反射光が焦点検出用画素の右から入射した場合は、その焦点検出用画素の左に隣接した画素にその影響がでる。すなわち、隣接上下左右の4画素のうちで、特定の方向の画素にその影響が現れるので、補正対象4画素のうち最も出力の高い画素が、補正対象画素である可能性が最も高い。
ステップS904では、ステップS901で記憶したAVE_G出力のルートを計算し、変数σ_Gに記憶し、ステップS905に進む。σ_Gは、参照画素出力平均値の光ショットノイズのσ値と等価な値になる。
ステップS905では、変数MAX_GとAVE_Gの差分を計算し、変数diff_Gに記憶する。diff_Gは、光学クロストーク出力により引き起こされる浮き量に相当する。差分出力を計算したら、ステップS906に進む。
ステップS906では、diff_Gが0以下の場合は、周辺参照画素よりも画素出力が小さく、光学クロストークによる浮きが発生していないので、補正処理を終了する。それ以外は、ステップS907に進んで補正処理を続行する。
ステップS907では、diff_Gに基づいて、光学クロストークによる出力の浮きが発生しているか否かを判定する。ステップS904で算出した、参照画素のランダムノイズσ_Gの何倍に相当するかでその判定を行う。σ_Gの3倍より大きく、10倍よりも小さければ、ステップS908に進んで補正を行う。3倍以下であれば、周辺参照4画素から推定されるランダムノイズに対して、浮き量自体がノイズに埋もれて判定困難であるので、補正せずに処理を終了する、また、10倍以上の場合は、光学クロストークの影響によるものではなく、実際の被写体からの信号である可能性が高いので、補正せずに、処理を終了する。
なお、本実施形態では、3倍以下のものは、補正対象から除外したが、この場合は、補正量自体は、小さなものであり、仮に判定が違っていても、画像劣化自体は軽微であるので、0以上を補正対象としてもよい。また、本実施形態では上限を10倍としたが、光学クロストークの大きさや補正の誤検出を踏まえて、実写検討から適当な値を設定すればよい。ランダムノイズσ_Gとの比較を行うことにより、精度のよい検出が可能となる。
ステップS908では、周辺参照4画素と補正対象画素の差分、すなわち光学クロストークによる浮き量であるdiff_Gに所定の係数、本実施形態では、0.25を乗算し、AVE_G(AVE_Gは、補正対象画素から、浮き量を減算したものと等価である)に加算して補正する。そして、定数MAX_Gに代入し、補正画素出力として、補正を終了する。補正係数を0.25にするのは、光学クロストークを目立たなくするとともに、補正対象画素を誤検知した場合の画質劣化を抑制するためである。
上記S901からS908により、光学クロストークの補正処理が行われ、図8のメインフローに戻る。図8のS1813では、S1810で読み出された画像信号にDSP115によって画像補正処理が行われ、画像圧縮回路119によってJPEGなどへの画像変換が行われた後、画像データ記録メディア401へ画像が記録される。
(第2の実施形態)
図13は、第2の実施形態における光学クロストークを補正する具体的な方法を記載したフローチャートであり、図13をもとに第2の実施形態の補正方法について説明する。
第1の実施形態の方法では、比較的コントラストのないフラットなシーンでは、光学クロストークの補正対象画素の検出が精度よくできるが、空間周波数の高い、コントラストのあるシーンでは、補正対象画素を誤検出してしまう場合がある。
第2の実施形態では、参照4画素の最大値および最小値の差分を算出して、その差分出力が所定値以上の場合は、補正処理を実行しない処理ステップを追加することにより、空間周波数が高く、コントラストのある被写体での誤検出を抑制する。図13のフローチャートに添って詳細を説明するが、第1の実施形態と同一の処理は、説明を簡略化する。
ステップS1001では、G1、G2、G3、G4の4つの参照画素の平均値を算出し、変数AVE_Gに格納し、ステップS1002へ進む。ステップS1002では、AVE_Gの値が、0より大きく所定値αより小さいかを判定し、0以下およびα以上の場合は、補正の必要がないので、光学クロストーク補正を実施せずに補正処理を終了する。0およびαの間に平均値があれば、ステップS1003に進む。
ステップS1003では、参照4画素の最大値および最小値の差分を算出し、差分が所定値以上でコントラストのある被写体と推定できる場合は、補正処理を終了する。所定値未満の場合は、ステップS1004に進んで、補正処理を継続する。ここで参照4画素の最大値、最小値の差分が所定値以上の場合に補正処理を行わない理由は以下のようなものである。1つは、参照4画素の最大値、最小値の差分が所定値以上の場合とは、被写体の空間周波数が高く、参照4画素の平均値がコントラストによりずれるので、検出したい光学クロストーク量の推定が困難になり誤検出が増加するからである。また、もう1つは、高周波な被写体では、光学クロストークによる画質劣化が目立ちにくくなるため、補正処理を実行しないほうが画質劣化が抑えられるからである。
ステップS1004では、補正対象画素である、G上、G下、G左、G右の中から最も画素出力の高いものを選択し、その出力を変数MAX_Gに記憶し、ステップS1005に進む。ステップS1005では、ステップS1001で記憶したAVE_Gのルートを計算し、変数σ_Gに記憶し、ステップS1006に進む。
ステップS1006では、変数MAX_GとAVE_Gの差分を計算し、変数diff_Gに記憶する。diff_Gは、光学クロストークにより引き起こされる浮き量に相当する。差分出力を計算したら、ステップS1007に進む。
ステップS1007では、diff_Gが0以下の場合は、周辺参照画素よりも画素出力が小さく、光学クロストークによる浮きが発生していないので、補正処理を終了する。それ以外は、ステップS1008に進んで補正処理を続行する。
ステップS1008では、diff_Gに基づいて、光学クロストークよる出力の浮きが発生しているか否かを判定する。ステップS1005で算出した、参照画素のランダムノイズσ_Gの何倍に相当するかでその判定を行う。σ_Gの3倍より大きく、10倍よりも小さければ、ステップS908に進んで補正を行う。3倍以下であれば、周辺参照4画素から推定されるランダムノイズに対して、浮き量自体がノイズに埋もれて判定困難であるので、補正せずに処理を終了する、また、10倍以上の場合は、光学クロストークの影響によるものではなく、実際の被写体からの信号である可能性が高いので、補正せずに処理を終了する。
ステップS1009では、周辺参照4画素と補正対象画素の差分、すなわち光学クロストークによる浮き量であるdiff_Gに所定の係数、本実施形態では、0.25を乗算し、AVE_Gに加算して補正する。そして、定数MAX_Gに代入し、補正画素出力として、補正を終了する。補正係数を0.25にするのは、光学クロストークを目立たなくするとともに、補正対象画素を誤検知した場合の画質劣化を抑制するためである。
以上説明したように、第2の実施形態によれば、被写体のコントラスト情報を使って補正するか否かを判断することにより、誤検出の少ない光学クロストーク補正が可能になる。
(第3の実施形態)
図14は、第3の実施形態における光学クロストークを補正する具体的な方法を記載したフローチャートであり、図14をもとに第3の実施形態の補正方法について説明する。
第1の実施形態では、比較的コントラストのないフラットなシーンでは、光学クロストークの補正対象画素の検出が精度よくできるが、空間周波数の高い、コントラストのあるシーンでは、補正対象画素を誤検出してしまう場合がある。
また、第2の実施形態では、参照4画素の最大値および最小値の差分を算出して、その差分出力が所定値以上の場合は、補正処理を実行しない処理ステップを追加することにより、空間周波数が高く、コントラストのある被写体での誤検出を抑制した。しかし、参照4画素の最大、最小値の差分で一律に補正の実行、非実行を判定してしまうため、低コントラストな被写体で発生した光学クロストークをうまく検出できない場合がある。
第3の実施形態は、さらに低コントラストなシーンでの検出率を改善しようとするものである。低コントラストシーンでの検出率向上および高コントラストシーンでの誤検出を防止するために、参照4画素のコントラストに応じて、補正対象画素の検出閾値を変更するものである。以下、フローチャートに添って詳細を説明するが、第1及び第2の実施形態と同一の処理については説明を簡略化する。
ステップS1101では、G1、G2、G3、G4の4つの参照画素の平均値を算出し、変数AVE_Gに格納し、ステップS1102へ進む。ステップS1102では、AVE_Gの値が、0より大きく所定値αより小さいかを判定し、0以下およびα以上の場合は、補正の必要がないので、光学クロストークを補正せずに補正処理を終了する。0およびαの間に平均値があれば、ステップS1103に進む。
ステップS1103では、参照4画素の最大値および最小値の差分を計算し、変数CNT_Gに格納し、ステップS1104に進む。ステップS1104では、補正対象画素である、G上、G下、G左、G右の中から最も画素出力の高いものを選択し、その出力を変数MAX_Gに記憶し、ステップS1105に進む。
ステップS1105では、ステップS1101で記憶したAVE_Gのルートを計算し、変数σ_Gに記憶し、ステップS1106に進む。ステップS1106では、変数MAX_GとAVE_Gの差分を計算し、変数diff_Gに記憶する。diff_Gは、光学クロストークにより引き起こされる浮き量に相当する。差分出力を計算したら、ステップS1107に進む。
ステップS1107では、diff_Gが0以下の場合は、周辺参照画素よりも画素出力が小さく、光学クロストークによる浮きが発生していないので、補正処理を終了する。それ以外は、ステップS1108に進んで補正処理を続行する。
ステップS1108では、diff_Gに基づいて、光学クロストークよる出力の浮きが発生しているか否かを判定する。基本的に、第1及び第2の実施形態と同様に、ステップS1105で算出した、参照画素のランダムノイズσ_Gの何倍に相当するかでその判定を行う。
第1及び第2の実施形態との違いは、diff_GとCNT_Gを加算して、その加算結果が、σ_Gの3倍より大きく、10倍よりも小さければ、ステップS1109に進んで補正を行うものである。diff_GとCNT_Gの加算を使って、補正対象画素を補正するか否かを判定することにより、参照4画素のコントラストに応じて、検出レベルを変更することができる。参照4画素のコントラストがなくフラットであれば、第1及び第2の実施形態と同様の検出レベルとなり、コントラストがつけば検出レベルを低い値にシフトできるので、誤検出を抑制しながら補正画素の検出が可能になる。ステップS1108で補正対象と判定されれば、ステップS1109に進んで補正を実行し、補正対象外と判定されれば補正処理を終了する。
ステップS1109では、周辺参照4画素と補正対象画素の差分、すなわち光学クロストークによる浮き量であるdiff_Gに所定の係数、本実施形態では、0.25を乗算し、AVE_Gに加算して補正する。そして、定数MAX_Gに代入し、補正画素出力として、補正を終了する。補正係数を0.25にするのは、光学クロストークを目立たなくするとともに、補正対象画素を誤検知した場合の画質劣化を抑制するためである。
以上、説明したように参照4画素のコントラスト値により、補正対象画素を検出する閾値を変更することにより、低コントラストシーンでの検出率向上および高コントラストシーンでの誤検出を防止することが可能となる。
(第4の実施形態)
図15及び図16を参照して、第4の実施形態であるカメラのライブビュー撮影における補正動作について説明する。なお、第4の実施形態おけるカメラシステムの構成は第1の実施形態と同一であるので、ここでの説明は省略する。また、第1の実施形態と番号が同一のブロックについては説明を省略する。
図15及び図16は、本実施形態の補正動作を説明するフローチャートである。
S1301では、操作者によりカメラの電源スイッチがオンされると、システムコントローラ120は、カメラ内の各アクチュエータや撮像素子の動作確認を行い、メモリ内容や実行プログラムの初期化を行うと共に、撮影準備動作を実行する。
S1302では、イメージセンサ112より順次、画像信号が読み出され、外部液晶表示装置124に表示、または、画像データ記録メディア401に動画記録が行われる、いわゆる、ライブビュー撮影が開始される。
S1303では、イメージセンサ112より読み出された画像信号は、DSP115で所定の分割領域毎にベイヤ単位で加算、および、所定値以上の輝度信号となる画素数のカウント処理が行われ、システムコントローラ120へ供給される。カウント処理に使用する所定値は、画素信号の飽和レベルを検出するための適切な閾値とする。システムコントローラ120では、DSP115より供給された結果に基づき、測光分割領域ごとに被写体の輝度を算出する。また、所定のアルゴリズムに基づき平均化、補正演算を行い撮影画像領域の被写体の明るさとなる測光値を算出する。
S1304では、システムコントローラ120が、ライブビュー撮影における露光条件を決める露出制御値演算を行う。露出制御値演算は、S1303で算出された測光値とプログラム線図に基づき、絞り、ISO感度、蓄積時間などを調節することで自動露出制御(AE)を行う。また、露出マニュアルモード設定時には、操作者が指示した絞り、蓄積時間、ISO感度にて露出が決定され撮影露出の調節が行われる。
S1305では、システムコントローラ120により、本実施形態の補正動作切り替え判定が実行される。補正動作切り替え判定では、ライブビュー撮影において、光学クロストークの補正を実行するか否かの判定が行われる。
光学クロストークによる画質劣化は、前述したように、撮影光束の一部が特定の角度でフォトダイオードに入射することによって発生する。特に、太陽やスポットライトのような高輝度光源が撮影被写体に存在する場合や、夜景など背景が暗いシーンでの画質劣化が問題となる。
また、第1の実施形態で説明した光学クロストークの補正処理は、画素ごとに光学クロストークが発生しているか否かの補正対象画素判定を行い補正処理の実行を切り替えている。しかし、小さい点光源などの特定パターンの被写体においては、補正対象画素判定で誤検出し、誤って本来の被写体を補正してしまう補正の弊害が生じる。
そこで本実施形態では、高輝度光源の検出、及び、撮影条件に基づき、光学クロストークによる画質劣化が発生するシーンを判定し、適切に補正動作を実行することで補正の弊害による画質劣化を抑制する。また、本実施例では、イメージセンサ112の画像信号から高輝度光源の検出を行う。イメージセンサ112の出力信号は、通常、被写体の明るさに対してリニアに変化するタイプのセンサが用いられている。そのため、測光センサと比較するとダイナミックレンジが狭く、高輝度の被写体は画素信号が飽和してしまうため正確な輝度値を測定することが困難である。そこで、本実施形態の補正動作切り替え判定では、S1303で検出した所定値以上の輝度信号となる画素数のカウント値を用いることで高輝度光源の検出を行う。
図16は、本実施形態の補正動作切り替え判定の詳細を説明するフローチャートである。
S1401では、図15のS1303で算出された測光値が変数Bvに記憶される。
S1402では、図15のS1303で分割領域毎に算出された所定値以上の輝度信号となる画素数のカウント値の最大値が変数OverPixCountに記憶される。
S1403では、変数Bvと閾値Bv_th1の比較を行い、変数Bvが小さい場合はS1405に移行し、変数PixCount_thに所定値PixCount_th1が記憶される。変数Bvが閾値以上である場合はS1404に移行する。ここで、閾値Bv_th1には、例えば夜景シーンの判定を行うための適切な輝度値を設定する。
S1404では、変数Bvと閾値Bv_th2の比較を行い、変数Bvが小さい場合は、S1406に移行し、変数PixCount_thに所定値PixCount_th2が記憶される。変数Bvが閾値以上である場合はS1407に移行し、変数PixCount_thに所定値PixCount_th3が記憶される。ここで、閾値Bv_th2には、例えば日中シーンの判定を行うための適切な輝度値を設定する。
S1403からS1407により、測光値に応じた撮影シーン判定が行われ、光学クロストークの発生条件が異なる撮影シーンごとに適切な補正切り替え判定閾値の変数PixCount_thが設定される。補正切り替え判定閾値は、実写などを通して、光学クロストークが目立つ条件、頻度に合わせて適切に設定することが望ましい。
S1408では、変数OverPixCountと変数PixCount_thの比較が行われる。つまり、ライブビュー撮影時において、輝度飽和している画素数が所定の画素数以上あるか否かを判定し(飽和画素カウント)、高輝度光源の検出を行っている。変数OverPixCountが閾値よりも大きい場合は、S1409に移行し、光学クロストークの補正動作の有効フラグである変数fCroosstalkにONが設定される。また、変数OverPixCountが閾値以下の場合は、S1410に移行し、光学クロストークの補正動作の有効フラグである変数fCroosstalkがOFFに設定される。
上記のS1401からS1410により、補正動作切り替え判定が行われ、図15のメインフローに戻る。
図15のS1306では、S1305で判定した光学クロストークの補正動作の有効フラグである変数fCroosstalkがONであるか否かの判定を行い、ONである場合にはS1307に移行する。また、ONでない場合にはS1308に移行する。
S1307では、本実施形態の光学クロストークの補正処理が画素ごとに実行される。光学クロストークの補正処理については、第1の実施形態と同様であるため説明は省略する。
S1308では、S1302で読み出された画像信号がDSP115によって補正処理された後、S1309で、VRAMに転送され、TFTへの表示更新が行われる。
S1310では、操作者によって、ライブビュー終了のスイッチがオンされたか否かの判定が行われ、オンされていない場合は、S1303に戻りライブビューが継続される。また、オンされている場合は、S1311に移行し、ライブビュー動作の終了処理、および、各種カメラの終了処理が行われスリープ状態となる。

Claims (14)

  1. 撮像素子の複数の撮像用画素のうちの一部の画素が、焦点検出用画素に置き換えられて構成された撮像素子と、
    前記焦点検出用画素に隣接する複数の補正対象である撮像用画素の出力と、前記焦点検出用画素に隣接する複数の撮像用画素の近傍に配置された前記複数の撮像用画素と同色の複数の参照用の撮像用画素の出力とを比較する比較手段と、
    前記比較手段の比較結果に応じて、前記複数の補正対象である撮像用画素の出力の補正処理を実行する補正手段と、を備え
    前記補正手段は、前記複数の参照用の撮像用画素の出力の平均値が所定の範囲内にある場合に、前記補正処理を実行することを特徴とする撮像装置。
  2. 前記補正手段は、前記複数の補正対象である撮像用画素のうちで、最も出力の高い画素に基づいて前記複数の補正対象である撮像用画素の出力の補正量を算出することを特徴とする請求項1に記載の撮像装置。
  3. 前記補正手段は、前記複数の参照用の撮像用画素の出力の平均値に基づいて、前記参照用の撮像用画素のランダムノイズを算出することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記補正手段は、前記複数の補正対象である撮像用画素の出力と、前記複数の参照用の撮像用画素の出力の平均値との差分を算出し、算出された差分が所定値以上である場合に前記補正処理を実行することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記補正手段は、前記差分に対して所定の係数を乗算することにより、前記複数の補正対象である撮像用画素の出力の補正量を算出することを特徴とする請求項に記載の撮像装置。
  6. 被写体の輝度値を検出する測光手段と、該測光手段の出力に応じて、前記補正手段の動作を切り替える補正切り替え手段とをさらに備えることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記補正切り替え手段は、前記測光手段によって検出した被写体の輝度値が所定の輝度範囲に含まれる場合に、前記補正手段の動作を有効にすることを特徴とする請求項に記載の撮像装置。
  8. 前記測光手段は、複数の分割領域毎に被写体の輝度値を出力し、前記補正切り替え手段は、前記複数の分割領域における最大輝度値が所定値以上の場合に前記補正手段の動作を有効にすることを特徴とする請求項またはに記載の撮像装置。
  9. 撮影動作における露出条件を設定する露出制御手段をさらに備え、前記補正切り替え手段は、前記測光手段によって検出された被写体の輝度値と、前記露出制御手段によって設定された撮影露出制御値との差が所定値以上の場合に前記補正手段の動作を有効にすることを特徴とする請求項またはに記載の撮像装置。
  10. 前記補正切り替え手段は、前記測光手段によって検出された被写体の輝度値に応じて、前記所定値を選択することを特徴とする請求項に記載の撮像装置。
  11. 撮像素子の複数の撮像用画素のうちの一部の画素が、焦点検出用画素に置き換えられて構成された撮像素子と、
    前記焦点検出用画素に隣接する複数の補正対象である撮像用画素の出力と、前記焦点検出用画素に隣接する複数の撮像用画素の近傍に配置された前記複数の撮像用画素と同色の複数の参照用の撮像用画素の出力とを比較する比較手段と、
    前記比較手段の比較結果に応じて、前記複数の補正対象である撮像用画素の出力の補正処理を実行する補正手段と、を備え
    前記補正手段は、前記複数の参照用の撮像用画素の出力の最大値と最小値の差分に基づいてコントラスト値を算出し、該コントラスト値を所定値と比較することにより、前記補正処理を実行するか否かを判断することを特徴とする撮像装置。
  12. 前記補正手段は、前記コントラスト値に応じて、該コントラスト値と比較する前記所定値をシフトさせることを特徴とする請求項11に記載の撮像装置。
  13. 被写体の輝度値を検出する測光手段と、該測光手段の出力に応じて、前記補正手段の動作を切り替える補正切り替え手段とをさらに備えることを特徴とする請求項11または12に記載の撮像装置。
  14. 所定の輝度値以上となる画素数をカウントする飽和画素カウント手段をさらに備え、前記補正切り替え手段は、前記飽和画素カウント手段によってカウントされた画素数が所定の画素数以上の場合に前記補正手段の動作を有効にすることを特徴とする請求項13に記載の撮像装置。
JP2013051137A 2013-02-27 2013-03-14 撮像装置 Active JP6087674B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013051137A JP6087674B2 (ja) 2013-02-27 2013-03-14 撮像装置
US14/183,699 US9503616B2 (en) 2013-02-27 2014-02-19 Image capturing apparatus

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013037693 2013-02-27
JP2013037693 2013-02-27
JP2013051137A JP6087674B2 (ja) 2013-02-27 2013-03-14 撮像装置

Publications (2)

Publication Number Publication Date
JP2014194440A JP2014194440A (ja) 2014-10-09
JP6087674B2 true JP6087674B2 (ja) 2017-03-01

Family

ID=51387773

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013051137A Active JP6087674B2 (ja) 2013-02-27 2013-03-14 撮像装置

Country Status (2)

Country Link
US (1) US9503616B2 (ja)
JP (1) JP6087674B2 (ja)

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9293500B2 (en) 2013-03-01 2016-03-22 Apple Inc. Exposure control for image sensors
US9276031B2 (en) 2013-03-04 2016-03-01 Apple Inc. Photodiode with different electric potential regions for image sensors
US9741754B2 (en) 2013-03-06 2017-08-22 Apple Inc. Charge transfer circuit with storage nodes in image sensors
US9549099B2 (en) 2013-03-12 2017-01-17 Apple Inc. Hybrid image sensor
US9319611B2 (en) 2013-03-14 2016-04-19 Apple Inc. Image sensor with flexible pixel summing
JP6104049B2 (ja) * 2013-05-21 2017-03-29 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理用プログラム
US9596423B1 (en) 2013-11-21 2017-03-14 Apple Inc. Charge summing in an image sensor
US9596420B2 (en) 2013-12-05 2017-03-14 Apple Inc. Image sensor having pixels with different integration periods
US9473706B2 (en) 2013-12-09 2016-10-18 Apple Inc. Image sensor flicker detection
US10285626B1 (en) 2014-02-14 2019-05-14 Apple Inc. Activity identification using an optical heart rate monitor
US9277144B2 (en) 2014-03-12 2016-03-01 Apple Inc. System and method for estimating an ambient light condition using an image sensor and field-of-view compensation
US9232150B2 (en) 2014-03-12 2016-01-05 Apple Inc. System and method for estimating an ambient light condition using an image sensor
US9584743B1 (en) * 2014-03-13 2017-02-28 Apple Inc. Image sensor with auto-focus and pixel cross-talk compensation
CN106030366B (zh) * 2014-03-18 2018-07-10 富士胶片株式会社 摄像装置及对焦控制方法
US9497397B1 (en) * 2014-04-08 2016-11-15 Apple Inc. Image sensor with auto-focus and color ratio cross-talk comparison
US9538106B2 (en) 2014-04-25 2017-01-03 Apple Inc. Image sensor having a uniform digital power signature
US9686485B2 (en) 2014-05-30 2017-06-20 Apple Inc. Pixel binning in an image sensor
JP2016127389A (ja) 2014-12-26 2016-07-11 キヤノン株式会社 画像処理装置およびその制御方法
JP6478670B2 (ja) * 2015-02-03 2019-03-06 キヤノン株式会社 画像処理装置およびその制御方法
US9912883B1 (en) 2016-05-10 2018-03-06 Apple Inc. Image sensor with calibrated column analog-to-digital converters
CN111682039B (zh) 2016-09-23 2021-08-03 苹果公司 堆叠式背面照明spad阵列
CN110235024B (zh) 2017-01-25 2022-10-28 苹果公司 具有调制灵敏度的spad检测器
US10656251B1 (en) 2017-01-25 2020-05-19 Apple Inc. Signal acquisition in a SPAD detector
US10962628B1 (en) 2017-01-26 2021-03-30 Apple Inc. Spatial temporal weighting in a SPAD detector
US10622538B2 (en) 2017-07-18 2020-04-14 Apple Inc. Techniques for providing a haptic output and sensing a haptic input using a piezoelectric body
US10440301B2 (en) 2017-09-08 2019-10-08 Apple Inc. Image capture device, pixel, and method providing improved phase detection auto-focus performance
FR3071342B1 (fr) * 2017-09-21 2019-09-06 Safran Electronics & Defense Capteur d'image a matrice de bayer
US11019294B2 (en) 2018-07-18 2021-05-25 Apple Inc. Seamless readout mode transitions in image sensors
US10848693B2 (en) 2018-07-18 2020-11-24 Apple Inc. Image flare detection using asymmetric pixels
US11233966B1 (en) 2018-11-29 2022-01-25 Apple Inc. Breakdown voltage monitoring for avalanche diodes
WO2020230610A1 (ja) * 2019-05-15 2020-11-19 富士フイルム株式会社 漏れ光検出装置、撮像装置、漏れ光検出方法、及び漏れ光検出プログラム
JP7303668B2 (ja) * 2019-06-05 2023-07-05 キヤノン株式会社 撮像装置及びその制御方法、カメラシステム、プログラム、記憶媒体
US11563910B2 (en) 2020-08-04 2023-01-24 Apple Inc. Image capture devices having phase detection auto-focus pixels
US12356740B2 (en) 2020-09-25 2025-07-08 Apple Inc. Transistor integration with stacked single-photon avalanche diode (SPAD) pixel arrays
JP7499695B2 (ja) * 2020-12-24 2024-06-14 ゼタテクノロジーズ株式会社 固体撮像装置、固体撮像装置の信号処理方法、および電子機器
US11546532B1 (en) 2021-03-16 2023-01-03 Apple Inc. Dynamic correlated double sampling for noise rejection in image sensors
US12192644B2 (en) 2021-07-29 2025-01-07 Apple Inc. Pulse-width modulation pixel sensor
US12069384B2 (en) 2021-09-23 2024-08-20 Apple Inc. Image capture devices having phase detection auto-focus pixels

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000333076A (ja) * 1999-05-19 2000-11-30 Asahi Optical Co Ltd デジタルカメラにおけるフレア成分除去方法
JP3662514B2 (ja) * 2001-05-02 2005-06-22 松下電器産業株式会社 欠損画素検出補正装置、欠損画素検出補正方法、欠損画素検出補正プログラム、および、映像信号処理装置
JP2007142693A (ja) * 2005-11-17 2007-06-07 Sony Corp 撮像装置および撮像方法
US7756355B2 (en) * 2006-05-05 2010-07-13 Aptina Imaging Corp. Method and apparatus providing adaptive noise suppression
JP2008306493A (ja) * 2007-06-07 2008-12-18 Sony Corp 撮像装置
JP4823167B2 (ja) * 2007-08-10 2011-11-24 キヤノン株式会社 撮像装置
JP5045380B2 (ja) * 2007-11-13 2012-10-10 ソニー株式会社 撮像装置および撮像データ補正方法並びにプログラム
JP5374862B2 (ja) 2007-11-16 2013-12-25 株式会社ニコン 焦点検出装置および撮像装置
JP5163068B2 (ja) 2007-11-16 2013-03-13 株式会社ニコン 撮像装置
JP2009253315A (ja) * 2008-04-01 2009-10-29 Panasonic Corp 固体撮像装置、スミア補正方法、撮像機器
JP2011015222A (ja) * 2009-07-02 2011-01-20 Fujifilm Corp 撮像装置及び撮像制御方法
JP5521460B2 (ja) * 2009-09-18 2014-06-11 ソニー株式会社 撮像装置および方法、電子機器、並びにプログラム
CN103003945B (zh) * 2010-06-18 2015-10-21 富士胶片株式会社 固态成像设备和数字照相机
JP5834542B2 (ja) * 2011-06-30 2015-12-24 株式会社ニコン 撮像装置、画像処理装置、及びプログラム、並びに記録媒体

Also Published As

Publication number Publication date
JP2014194440A (ja) 2014-10-09
US9503616B2 (en) 2016-11-22
US20140240550A1 (en) 2014-08-28

Similar Documents

Publication Publication Date Title
JP6087674B2 (ja) 撮像装置
KR101757654B1 (ko) 촬상장치, 그 제어 방법 및 기억매체
US8150252B2 (en) Imaging apparatus and imaging apparatus control method
JP5597078B2 (ja) 撮像装置及びその制御方法
JP6478670B2 (ja) 画像処理装置およびその制御方法
US9781330B2 (en) Focus detection apparatus and control method for focus detection apparatus
JP5020800B2 (ja) 撮像装置及びその制御方法
JP2015031743A (ja) 露出制御装置、その制御方法、および制御プログラム、並びに撮像装置
JP5473493B2 (ja) 撮像装置及びその制御方法
JP2004004449A (ja) カメラの露出制御システム
JP2021056532A (ja) 撮像装置およびその制御方法
JP2014137449A (ja) 撮像装置、制御方法、及びプログラム
JP2012063664A (ja) 測光装置及び電子カメラ
JP5423140B2 (ja) 測光装置及び撮像装置
JP2007251656A (ja) 撮像装置、その制御方法およびプログラム
JP2017129719A (ja) 撮像装置、その制御方法、および制御プログラム
JP4950634B2 (ja) 撮像装置及び撮像システム
JP4865275B2 (ja) 焦点検出装置及び撮像装置
US6047137A (en) Camera
JP4795306B2 (ja) 測光装置及びカメラ
JP5887759B2 (ja) 撮像装置及び撮像方法
JP2009282378A (ja) 撮像装置および撮像装置本体
JP5228893B2 (ja) 撮像装置
KR20110027120A (ko) 촬상 장치
JP4928236B2 (ja) 撮像装置及び撮像システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160928

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161011

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170202

R151 Written notification of patent or utility model registration

Ref document number: 6087674

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151